JPWO2008139730A1 - 表示装置 - Google Patents

表示装置 Download PDF

Info

Publication number
JPWO2008139730A1
JPWO2008139730A1 JP2009514015A JP2009514015A JPWO2008139730A1 JP WO2008139730 A1 JPWO2008139730 A1 JP WO2008139730A1 JP 2009514015 A JP2009514015 A JP 2009514015A JP 2009514015 A JP2009514015 A JP 2009514015A JP WO2008139730 A1 JPWO2008139730 A1 JP WO2008139730A1
Authority
JP
Japan
Prior art keywords
image
video
display
size
generation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009514015A
Other languages
English (en)
Other versions
JP5108877B2 (ja
Inventor
正弘 六日市
正弘 六日市
優希 堀内
優希 堀内
光洋 阿曽
光洋 阿曽
孝夫 安達
孝夫 安達
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2009514015A priority Critical patent/JP5108877B2/ja
Publication of JPWO2008139730A1 publication Critical patent/JPWO2008139730A1/ja
Application granted granted Critical
Publication of JP5108877B2 publication Critical patent/JP5108877B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234318Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into objects, e.g. MPEG-4 objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • H04N21/43074Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen of additional data with content streams on the same device, e.g. of EPG data or interactive icon with a TV program
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44012Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving rendering scenes according to scene graphs, e.g. MPEG-4 scene graphs
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44016Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving splicing one content stream with another content stream, e.g. for substituting a video clip
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/4402Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • H04N21/440263Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the spatial resolution, e.g. for displaying on a connected PDA
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47205End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for manipulating displayed content, e.g. interacting with MPEG-4 objects, editing locally
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/4728End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/478Supplemental services, e.g. displaying phone caller identification, shopping application
    • H04N21/4781Games
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/482End-user interface for program selection
    • H04N21/4821End-user interface for program selection using a grid, e.g. sorted out by channel and broadcast time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/482End-user interface for program selection
    • H04N21/4825End-user interface for program selection using a list of items to be played back in a given order, e.g. playlists
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8146Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H04N21/8153Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics comprising still images, e.g. texture, background image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/835Generation of protective data, e.g. certificates
    • H04N21/8352Generation of protective data, e.g. certificates involving content or source identification data, e.g. Unique Material Identifier [UMID]
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/04Changes in size, position or resolution of an image
    • G09G2340/0407Resolution change, inclusive of the use of different resolutions for different screen areas

Abstract

本発明に係る表示装置は、第1メモリに記憶されている画像と第2メモリに記憶されている画像とを、前記第2メモリに記憶されている画像が前面になるように合成した画像をディスプレイに表示するものであり、前記第1メモリに記憶する画像の表示サイズ又は表示位置を取得したら、第1画像生成手段に当該表示サイズ又は表示位置の画像の生成を開始させ、当該生成が終了するまでの間、第2画像生成手段に、前記第1画像生成手段が生成している画像を覆う大きさの不透明な画像を生成させて表示し、前記第1画像生成手段の画像の生成が終了したら、前記第2画像生成手段に、前記第1画像生成手段が生成した画像の前面となる部分が透明である画像を生成させて表示する。

Description

本発明は、動画像と、文字等の静止画像とを合成して表示する表示装置に関し、特に、動画像の表示領域を拡大等する場合の、動画像と静止画像とを表示する技術に関する。
従来から、動画像と静止画像とを一つのディスプレイに表示することが行われている。いわゆるOSD(On Screen Display)といわれるもので、例えば、輝度等を設定する場合に、設定値をディスプレイの一部に表示しながら設定を行うものである。
近年では、ディジタル放送受信機においては、放送番組である動画像と、放送局から送信されてくる番組表などの静止画像とを合成して表示することが行われており、他にも、ビデオレコーダやビデオプレイヤ、携帯電話機、デジタルカメラなど、様々な機器で、動画像と静止画像とを合成してディスプレイに表示することが行われている。
動画像と静止画像の合成方法としては、動画像と静止画像とをそれぞれ別のメモリに記憶し、動画像の上に静止画像を重ねて表示する方法がある。
この方法では、静止画像の一部分、すなわち、動画像と同じ部分を透明にして下の動画像が見えるようにして合成する。従って、動画像の表示サイズや位置が変更された場合には、静止画像の透明にする部分を、動画像の表示サイズや位置に合わせて変更することになる。
また、動画像は、所定のフレームレートで画像が更新されることから、更新が行われる都度、動画像と静止画像とを合成して表示することになるが、動画像のサイズ等の変更のタイミングと、静止画像の透明化のタイミングとが合わない場合には、動画像と静止画像とがディスプレイ上でずれて表示されてしまうこととなる。すなわち、動画像と静止画像との境に、意図しない画像が表示されてしまう。
そこで、静止画像を透明化するタイミングを、動画像の変更のタイミングに合わせることで、ディスプレイ上でずれて表示されないようにする技術がある(特許文献1)。
特開2004−302361号公報
しかし、この技術では、静止画像の透明化を指示する命令や、透明部分を変更した静止画像を表示のタイミングまで記憶しておく必要がある。また、このタイミング合わせはソフトウェアで行うことから、他のアプリケーション等の実行状況によっては、必要な時間分CPUを確保することができずに、タイミングを正確には合わせることができない場合も発生する。
そこで、本発明は、メモリを余分に必要とせずに、動画像と静止画像とがディスプレイ上でずれて表示されることのない表示装置の提供を目的とする。
上記目的を達成するために、本発明に係る表示装置は、画像を記憶する第1メモリと第2メモリと、前記第1メモリに記憶されている画像と前記第2メモリに記憶されている画像とを、前記第2メモリに記憶されている画像が前面になるように合成した画像をディスプレイに表示する表示手段と、画像を前記第1メモリに生成する第1画像生成手段と、画像を前記第2メモリに生成する第2画像生成手段と、前記第1メモリに記憶する画像の表示サイズ又は表示位置を取得する取得手段と、前記取得手段で表示サイズ又は表示位置を取得した場合は、前記第1画像生成手段に当該表示サイズ又は表示位置の画像の生成を開始させ、当該生成が終了するまでの間、前記第2画像生成手段に、前記第1画像生成手段が生成している画像を覆う大きさの不透明な画像を生成させて前記表示手段で表示し、前記第1画像生成手段の画像の生成が終了したら、前記第2画像生成手段に、前記第1画像生成手段が生成した画像の前面となる部分が透明である画像を生成させて前記表示手段で表示する表示制御手段とを備えることを特徴とする。
上記構成の表示装置は、第1メモリに画像を生成している間、生成している画像を覆う大きさの画像を第2メモリに生成して第1メモリに生成している画像をディスプレイに表示しないようにしているので、第1メモリに画像が生成されたタイミングでディスプレイに表示することができるようになる。具体的には、第1メモリに画像が生成されてから、第2メモリに記憶されている画像の一部を透明にする。
従って、第1メモリに画像が生成されたタイミングと同時に、第2メモリの画像を透明にするのが理想ではあるが、このタイミングが正確にあわせることが難しい場合であっても、本発明では、タイミングが正確にあわされたようにディスプレイには表示することができる。
例えば、第1メモリには、ビデオ画像等の動画像を記憶し、第2メモリには、録画番組一覧のような静止画像を記憶しておき、動画像のサイズが変わったら、静止画像の一部を動画像のサイズに合わせて透明にするなどである。
また、第1メモリに画像を生成している間、表示されている第1メモリの画像が乱れるような仕様の表示装置であったとしても、本発明の表示装置では、乱れた画像が表示されること無く、第1メモリへの画像の生成が終了したタイミングでディスプレイに表示することができる。
また、前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの1フレーム画像に基づいて、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段により生成を開始させた前記1フレーム画像から生成される画像であることとしてもよい。
これにより、第1メモリに生成する画像と第2メモリに生成する画像とは、同じフレーム画像から生成するので、第1メモリに生成された表示サイズ又は表示位置が変更された画像をディスプレイに表示するよりも早く、サイズの変更等が反映された画像をディスプレイに表示することが可能となり、第1メモリに生成された画像にスムーズに移行することが可能となる。
また、前記第2画像生成手段は、前記第1画像生成手段による画像の生成よりも短い時間で、第1動画像生成手段が生成する画像よりも精度の低い画像を第2メモリに生成することとしてもよい。
これにより、第2画像生成手段が画像を生成する時間は、第1画像生成手段が画像を生成する時間より短いので、同じフレーム画像から画像を生成したとしても、第1メモリに画像を生成している間に、第2メモリに画像を生成することができるようになる。
また、前記第2画像生成手段は、前記1フレーム画像から生成する画像以外に、他の画像を前記第2メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段による画像の生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、当該表示サイズ又は表示位置の画像と前記他の画像であり、前記第1画像生成手段の画像の生成が終了後に前記第2画像生成手段に生成させる画像は、前記他の画像であることとしてもよい。
これにより、第2メモリには、第1メモリに生成している画像と同じフレーム画像から生成する画像以外の他の画像も生成できるので、第1メモリに画像が生成されたら、生成された画像と当該他の画像とを表示することができるようになる。
また、前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの各1フレーム画像から、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段に生成を開始させたときに前記第1メモリに記憶されている画像から生成される画像であることとしてもよい。
これにより、第1画像生成手段が第1メモリに画像を生成している間、第2画像生成手段は、第1メモリに記憶されている画像、すなわち、表示されていた画像から第2メモリに画像を生成するので、表示されている画像と第2画像生成手段が生成しようとしている画像とのサイズが近い場合には、短時間で画像を生成することができるようになる。
また、前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの1フレーム画像から、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段に生成を開始させた1フレーム画像と前記第1画像生成手段に生成を開始させたときに前記第1メモリに記憶されている画像のうち、画像の大きさが前記第2画像生成手段に生成させる画像の大きさに近い方の画像から生成される画像であることとしてもよい。
これにより、第1画像生成手段が第1メモリに画像を生成している間、第2画像生成手段は、第1メモリに記憶されている画像又はフレーム画像のうち、生成しようとしている画像とサイズが近い方から第2メモリに画像を生成するので、より短時間で画像を生成することができるようになる。
表示装置100の構成を示す機能ブロック図である。 動画像と静止画像とを同一のディスプレイ上に表示する仕組みを示す図である。 従来の問題点である、ビデオ画像が拡大される場合に生ずる画像のずれを示す図である。 本願発明の、ビデオ画像が拡大される場合を示す図である。 図5(a)は、オブジェクト情報1510の構成及び内容例を示す図であり、図5(b)は、ビデオ画像配置情報1520の構成及び内容例を示す図であり、図5(c)は、変更指示情報2310の構成及び内容例を示す図である。 表示画面とオブジェクトの関係の具体例を示す図である。 ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。 表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。 実施形態2の表示装置700の構成を示す機能ブロック図である。 実施形態2において、ビデオ画像が拡大される場合を示す図である。 実施形態2においてビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。 実施形態2における、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。 実施形態3の表示装置800の構成を示す機能ブロック図である。 実施形態3において、ビデオ画像が拡大される場合を示す図である。 実施形態3においてビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。 実施形態3における、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。 実施形態3における、疑似ビデオ画像生成処理を表すフローチャートである。
符号の説明
100 700 800 表示装置
200 ディスプレイ
1000 ビデオデータ記憶部
1100 デコード部
1200 デコード画像記憶部
1300 スケール部
1400 ビデオフレーム記憶部
1500 7500 8500 表示制御部
1600 ビデオ表示制御部
1700 7700 8700 疑似ビデオ生成部
1800 合成部
2000 グラフィックスデータ記憶部
2100 グラフィックス生成部
2200 グラフィックスフレーム記憶部
2300 アプリケーション処理部
8710 画像選択部
<実施形態1>
<概要>
本発明に係る表示装置は、テレビ映像やビデオ再生映像等の動画像と、文字やイラスト等の静止画像とを同時に同一のディスプレイに表示するものであり、 この表示されている動画像の表示サイズを拡大又は縮小する場合や、動画像の表示位置を変更する場合に、ディスプレイ上に動画像と静止画像とが不具合なく表示されるものである。ここで不具合とは、動画像と静止画像とがずれて表示されたり、動画像が一時的に乱れたりすること等である。
例えば、ディスプレイ上の動画像と静止画像との表示のずれは、動画像の表示領域と静止画像の透明領域とが一致しないことが原因であり、このずれは、動画像のサイズと位置の変更が完了するまでに、静止画像の透明領域を変更してしまうことで生ずるものである。そこで、本願発明では、このずれが生じ得る期間の間だけ、静止画像の一部を透明にする代わりに動画像に相当する疑似画像を静止画像として表示するものである。
本願発明では、疑似画像で動画像を覆い隠すことになるため、表示のずれだけでなく、表示の乱れ等の不具合も解消することができるという利点がある。
以下、図2〜図4を用いて、本願発明の原理を簡単に説明する。
図2を用いて、動画像と静止画像とをディスプレイに表示する仕組みについて説明し、図3を用いて、従来の問題点を説明する。その後、図4を用いて、本願発明の動画像と静止画像とをディスプレイに表示する仕組みについて簡単に説明する。
図2は、動画像と静止画像とを同一のディスプレイ上に表示する仕組みを示す図である。
ビデオフレームは、動画像を表示するフレーム画像を示し、グラフィックスフレームは、静止画像を表示するフレーム画像を示す。以下、動画像を「ビデオ」、静止画像を「グラフィックス」ともいうものとする。
また、合成画像は、ビデオフレームの上にグラフィックスフレームを重ねるように合成した画像であり、実際にディスプレイ上に表示される画像である。尚、ここでは、ビデオは30fps(Frame Per Second)で表示されるものとする。
例えば、合成画面2が表示される場合は、ビデオフレームには、所定サイズのビデオ画像300が所定の位置に生成され、グラフィックスフレームには、ビデオ画像300に該当する部分301が透明色であるグラフィックス画像302が生成される。ビデオフレームとグラフィックスフレームとが合成され、グラフィックス画像302の透明な部分301からビデオ画像300が見えて、表示画像2となる。例えば、録画番組一覧がグラフィックス画像として表示され、その画像に重ねて小さい画像で録画番組の1つである野球の試合が再生されているような画面である。
グラフィックス画像が更新された場合は、新しいグラフィックス画像303とビデオ画像が合成され、表示画面5が表示される。
本図の表示画面2〜表示画面6に示すように、ビデオ画像はフレーム毎に更新されて動画像として表示され、グラフィックス画像は静止画像として表示される。
次に、図3は、従来の問題点である、ビデオ画像が拡大される場合に生ずる画像のずれを示す図である。
まず、表示画面1が表示されているときに、ユーザがビデオ画像を拡大する指示を出したとする。
拡大指示を受けて、グラフィックスフレームでは、グラフィックス画像の透明領域310を、ビデオ画像が拡大される領域と同じ領域まで拡大する。表示画面3を表示するときに、拡大された透明領域311となる。
一方、ビデオフレームでは、表示画面5を表示するときに、初めて拡大されたビデオ画像313が表示される。ビデオ画像を拡大等する場合は、一般的にハードウェアでスケーリングやフィルタリングを行うため、表示が遅れることが多く、この例では、グラフィックスフレームより2フレーム分遅れて表示される。
従って、表示画面3と表示画面4のように、グラフィックス画像の透明部分からビデオフレームのビデオ画像以外の部分312が見えて、ビデオ画像とグラフィックス画像のずれが生じた表示画面となってしまう。
図4は、本願発明の、ビデオ画像が拡大される場合を示す図である。
表示画面1で、ビデオ画像の拡大指示を受けて、グラフィックスフレームでは、グラフィックス画像の透明領域を拡大する代わりに、ビデオ画像に代わる疑似ビデオ画像320をグラフィックスフレームに生成する。この疑似ビデオ画像320は、現在のビデオ画像を覆い隠せる大きさの不透明な画像である。本図では、疑似ビデオ画像は、右斜線が引かれている。
表示画面3が表示されるときには、ビデオフレームの上にグラフィックスフレームが重ねて合成されるが、このときのグラフィックスフレームには透明領域の代わりに疑似ビデオ画像320が生成されているため、グラフィックスフレームの画像321が表示されることになる。
すなわち、図3の表示画面3のように、疑似ビデオ画像とグラフィック画像とがずれなく表示されて、ビデオ画像の拡大処理が迅速に開始されたように見えることになる。
その後、ビデオフレームに拡大されたビデオ画像322が表示された段階で、グラフィックスフレームでは、拡大した透明領域323を有するグラフィックス画像を生成する。
表示画面5では、グラフィックス画像の透明領域323から、透明領域323と同じ大きさのビデオ画像322が見えて表示される。
このように、ビデオ画像のサイズ等が変更される場合に、ビデオフレームに変更が反映されるまで、グラフィックスフレームに疑似ビデオ画像を生成して表示することで、サイズの変更を迅速にディスプレイ上に反映させ、且つ、ディスプレイ上に画像の不具合を表示させないようにすることができる(図3及び図4の、表示画面3と表示画面4を参照)。
以下、本発明の実施形態における表示装置について、図を用いて説明する。尚、本実施形態では、ビデオ画像を拡大する場合について説明するが、ビデオ画像を縮小する場合、位置を変える場合、また更に、ビデオ画像を拡大等する場合に画像が乱れる場合等であっても同様である。
<構成>
図1は、表示装置100の構成を示す機能ブロック図である。
表示装置100は、デコード部1100、デコード画像記憶部1200、スケール部1300、ビデオフレーム記憶部1400、表示制御部1500、ビデオ表示制御部1600、疑似ビデオ生成部1700、合成部1800、グラフィックスデータ記憶部2000、グラフィックス生成部2100、グラフィックスフレーム記憶部2200及びアプリケーション処理部2300とで構成される。
また、表示装置100の外部に、コンテンツ等のビデオデータを記憶するビデオデータ記憶部1000とディスプレイ200とを備える。
デコード部1100は、ビデオデータ記憶部1000からビデオデータをストリーミングデータとして入力し、入力したストリーミングデータの復号を行ない、デコード画像を生成して、デコード画像記憶部1200に記憶する機能を有する。
本実施形態では、ビデオデータは、ビデオデータ記憶部1000から入力することとしているが、ネットワーク等を介して入力することとしてもよく、また、テレビ放送等として受信することとしてもよい。また、本実施形態では、ビデオデータはMPEG(Moving Picture Experts Group)−4規格で作成されているものとする。
デコード画像記憶部1200は、デコード部1100が復号したデータであるデコード画像を記憶する機能を有する。本実施形態では、記憶されているデコード画像は、ディスプレイに表示する画像よりも大きい、すなわち、解像度が高いものとする。尚、表示する画像よりも小さい、すなわち、解像度が低いものであってもよい。
また、このデコード画像記憶部1200は、ビデオ表示制御部1600からの問い合わせに応じて、デコード画像の画像サイズをビデオ表示制御部1600に通知する機能を有する。このデコード画像のサイズは、一つのビデオデータにおいては、同一とする。
スケール部1300は、デコード画像に対して、所定のサイズへの縮小、又は、表示位置の変更等の処理(以下、「スケール処理」という。)を行い、ビデオフレーム記憶部1400にスケール処理後のデコード画像であるビデオ画像を生成する機能を有する。具体的には、ディスプレイに表示するビデオ画像の画素データをビデオフレーム記憶部1400に描画する。
ビデオフレーム記憶部1400は、スケール部1300がスケール処理を施したビデオ画像を、フレーム単位で画素データの集合として記憶する。
次に、表示制御部1500は、ビデオ画像のサイズ等の変更制御、及び、疑似ビデオ画像とグラフィックス画像の表示制御を行う機能を有する。具体的には、アプリケーション処理部2300からビデオ画像の拡大等の指示を受けたら、ビデオ表示制御部1600にビデオ画像のサイズ等の変更を依頼したり、グラフィックスフレームにおける画像の重なり順序の管理等を行う。
ビデオ表示制御部1600は、表示制御部1500からの指示を受け、ビデオ画像のスケール処理、及び、疑似ビデオ画像の生成処理を制御する機能を有する。
具体的には、ビデオ表示制御部1600は、スケール部1300へのビデオ画像のサイズ等の変更の指示、デコード画像記憶部1200からデコード画像のサイズを取得して、疑似ビデオ生成部1700への疑似ビデオ画像の生成の依頼を行う。また、スケール部1300からのビデオ画像へのスケール処理完了の通知を受け、疑似ビデオ生成部1700に透明領域を生成するよう指示する。
疑似ビデオ生成部1700は、ビデオ表示制御部1600からの指示を受け、疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する機能を有する。具体的には、ビデオ画像が生成される基となるデコード画像から、ディスプレイに表示する疑似ビデオ画像を生成し、その画素データをグラフィックスフレーム記憶部2200に描画する。また、ビデオ表示制御部1600からの指示により、指定領域を透明色で塗り潰す、すなわち、透明色のみで構成された画像を生成する機能も有する。
本実施形態では、スケール部1300で用いられている拡大・縮小フィルタのほうが、本疑似ビデオ生成部1700で用いられている拡大・縮小フィルタよりも高次のフィルタであるものとする。すなわち、スケール部1300で生成した画像のほうが、本疑似ビデオ生成部1700で生成した画像より精度が高いといえる。従って、同じ画像に対してスケール処理を施す場合は、本疑似ビデオ生成部1700の方が処理時間は短いものとする。
グラフィックス生成部2100は、表示制御部1500からの指示を受け、グラフィックス画像をグラフィックスフレーム記憶部2200に生成する機能を有する。具体的には、ディスプレイに表示するグラフィックス画像の画素データをグラフィックスフレーム記憶部2200に描画する。ここで生成するグラフィックス画像は、グラフィックスデータ記憶部2000に記憶されているデータから生成するものとする。
グラフィックスデータ記憶部2000は、グラフィックス生成部2100が生成するグラフィックス画像の基となるデータが記憶されている。本実施形態では、録画番組一覧やテレビ番組表、文字列等のデータを記憶する。
次に、グラフィックスフレーム記憶部2200は、疑似ビデオ生成部1700が生成した疑似ビデオ画像と、グラフィックス生成部2100が生成したグラフィックス画像とを、フレーム単位で画素データの集合として記憶する。
合成部1800は、ビデオフレーム記憶部1400に記憶されている画像と、グラフィックスフレーム記憶部2200に記憶されている画像とを合成して、ディスプレイ200に表示する機能を有する。合成は、ビデオフレーム記憶部1400に記憶されている画像の上に、グラフィックスフレーム記憶部2200に記憶されている画像をオーバーレイすることにより行われる。
アプリケーション処理部2300は、本実施形態では、ユーザからの指示を受付けて、録画番組一覧を表示したり、一覧から選択された番組を再生したりする処理を行う。さらに、ユーザから、再生中のビデオ画像のサイズを変更する等の指示を受付けた場合、その旨を表示制御部1500に通知する機能を有する。
ここで、表示制御部1500等の各部による各処理の全部または一部は、CPU(図示していない。)が各種プログラムを実行することにより実現されるものである。
<データ>
以下、本表示装置100で用いる主なデータについて、図5と図6とを用いて説明する。
図5(a)は、オブジェクト情報1510の構成及び内容例を示す図であり、図5(b)は、ビデオ画像配置情報1520の構成及び内容例を示す図である。これらは、表示制御部1500が、内部のメモリに記憶している情報である。
また、図5(c)は、変更指示情報2310の構成及び内容例を示す図である。この情報は、アプリケーション処理部2300が表示制御部1500に対して、ビデオ画像のサイズ等の変更指示を行う際に渡す情報である。
まず、図5(a)のオブジェクト情報1510を説明する。
ここで、オブジェクトとは、グラフィックスフレーム記憶部2200に記憶されているグラフィックス画像を構成する要素をいい、具体的には、1つの静止画像を1つのグラフィックスオブジェクトといい、1つの疑似ビデオ画像を1つのビデオオブジェクトというものとする。この静止画像とは、1以上の図形、画像、文字等で構成された画像あり、これらを組み合わせた画像であってもよい。本実施形態では、ビデオオブジェクトは、1つの録画番組の再生画像であるビデオ画像に対応する疑似ビデオ画像をいい、グラフィックスオブジェクトは、録画番組一覧の画像や、文字列などの静止画像である。
オブジェクト情報1510は、オブジェクトID1511、属性1512、始点1513、サイズ1514、スタック1515及びアドレス1516で構成される。
このオブジェクト情報1510は、ディスプレイ200に表示されるオブジェクトを管理するものである。
オブジェクトID1511は、ディスプレイ200に表示されるオブジェクトの識別子である。例えば、本図では、「ID1」、「ID2」、「ID3」のそれぞれのオブジェクトIDが付与されたオブジェクトが3つ表示される。
言い換えれば、これらのオブジェクトIDが付与されているオブジェクトが、グラフィックスフレーム記憶部2200に記憶されている。
属性1512は、オブジェクトの属性を示し、「グラフィック」又は「ビデオ」が記載される。「グラフィック」は、グラフィックスオブジェクトであることを示し、「ビデオ」は、ビデオオブジェクトであることを示す。
本図では、「:」以下はコメントであるものとする。例えば、「グラフィック:文字列」は、文字列で構成されたグラフィックスオブジェクトであることを示す。また、「ビデオ:MPEG4」は、MPEG−4規格で符号化されているビデオ画像に対応するビデオオブジェクトであることを示す。
次に、始点1513は、表示画面上での、オブジェクトの左上の位置を表し、サイズ1514は、オブジェクトの縦と横の大きさを表す。
また、スタック1515は、合成するときの重ね合わせる順番を示し、降順に上に重ねて表示される。従って、本図では、一番上に表示されるオブジェクトは、スタック1515が「1」となっているオブジェクトID1511が「ID3」のオブジェクトである。
アドレス1516は、オブジェクトの画像データの取得先を示し、本実施形態では、各記憶部のアドレスを示すものとする。例えば、オブジェクトID1511が「ID1」のオブジェクトは、属性1512が「グラフィック」であるので、このオブジェクトの画像データは、グラフィックスデータ記憶部2000に記憶されており、アドレス1516が「addr1」で示される場所に記憶されている。また、オブジェクトID1511が「ID3」のオブジェクトは、属性1512が「ビデオ」であるので、このオブジェクトの画像データは、デコード画像記憶部1200に記憶されており、アドレス1516が「addr3」で示される場所に記憶されている。このアドレスは、最新のデコード画像が記憶されているアドレスを指すアドレスとする。
ここで、図6を用いて、グラフィックス画像と、各オブジェクトの始点1513、サイズ1514及びスタック1515との関係を説明する。
図6は、表示画面とオブジェクトの関係の具体例を示す図であり、表示画面500は、2つのグラフィックスオブジェクト(510、520)と、1つのビデオオブジェクト530から成る。
オブジェクト510は、オブジェクトID1511が「ID1」で示されるオブジェクトを表し、オブジェクト520とオブジェクト530とは、それぞれ、「ID2」と「ID3」で示されるオブジェクトを表す。
各オブジェクトの始点1513は、表示画面500に示された座標系における座標で示され、この座標系によって各オブジェクトが合成部1800で合成される。
まず、グラフィックスオブジェクトが複数ある場合は、スタックの値が大きい順に生成する。
例えば、図5(a)のオブジェクト情報1510で管理されるオブジェクトの場合、生成する順は、スタック1515が「3」のグラフィックオブジェクト520の画像を生成し、その上に、スタック1515が「2」のグラフィックオブジェクト510を重ね、更に、その上にスタック1515が「1」のグラフィックオブジェクト530を重ねて作成してグラフィックス画像を生成し、グラフィックスフレーム記憶部2200に記憶する。
合成部1800は、ビデオフレーム記憶部1400に記憶されている画像の上に、グラフィックスフレーム記憶部2200に生成したグラフィックス画像を重ねて合成し、表示する。本図のビデオオブジェクト530は、疑似ビデオ画像であるので合成して表示した場合は、ビデオフレーム記憶部1400に記憶されているビデオ画像は表示されないが、ビデオオブジェクト530を透明色で生成した場合には、合成して表示した画面にはビデオフレーム記憶部1400に記憶されているビデオ画像が表示される。
尚、本実施形態では、同時に表示できるビデオオブジェクトは、1つであるとする。
次に、図5(b)のビデオ画像配置情報1520を説明する。
ビデオ画像配置情報1520は、ディスプレイに表示されているビデオ画像とその疑似ビデオ画像との配置情報を管理するものであり、ビデオ画像毎に記憶される。従って、複数のビデオ画像が表示されている場合は、その数分のビデオ画像配置情報1520が記憶される。尚、本実施形態では、表示されているビデオ画像は1つとする。
ビデオ画像配置情報1520は、画像種別1521、始点1522、サイズ1523及びオブジェクトID1524で構成される。
画像種別1521は、ビデオ画像の種別を示し、本実施形態では、「ビデオ画像」と「疑似ビデオ画像」の2つであるとする。
「ビデオ画像」とは、ビデオフレーム記憶部1400に記憶されているビデオ画像をいい、「疑似ビデオ画像」とは、グラフィックスフレーム記憶部2200に記憶されている疑似ビデオ画像をいう。
始点1522は、画像の左上の位置を表し、サイズ1523は、画像の縦と横の大きさを示す。従って、「ビデオ画像」の始点1522とサイズ1523とには、現在表示されているビデオ画像のサイズ等か記憶されており、サイズの変更や位置の変更の指示を受けて変更が完了したときに、更新される。また、「疑似ビデオ画像」の始点1522とサイズ1523とには、表示される疑似ビデオ画像のサイズ等が記憶される。
オブジェクトID1524は、オブジェクトを特定する識別子であり、ビデオ画像とその疑似ビデオ画像とは、同じ識別子が付与されているものとする。
次に図5(c)の変更指示情報2310を説明する。
変更指示情報2310は、時間2311、始点2312、サイズ2313及びオブジェクトID2314で構成される。
時間2311は、ビデオ画像の変更処理が終了するまでのおおよその時間を表す。本実施形態ではフレーム数とする。時間2311では、疑似ビデオ画像を表示する時間が指定できればよく、秒数などで表してもよい。
始点2312及びサイズ2313は、最終的なビデオ画像の位置とサイズを示し、それぞれ、ビデオ画像配置情報1520の始点1522及びサイズ1523と同様である。
例えば、時間2311が「3」の場合は、3フレーム後に、疑似ビデオ画像の位置とサイズが、始点が始点2312で示される「(x20,y20)」で、サイズがサイズ2313で示される「(h20,w20)」となっていればよいことになる。
また、オブジェクトID2314は、変更対象のオブジェクトを特定する識別子である。
<動作>
以下、本発明に係る表示装置100の動作について図7と図8とを用いて説明する。
図7は、ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。
本図において、実線の矩形は、左端に記載した機能部が、処理を行っている時間を表し、点線の矩形は、各記憶部(1200、1400、2200)に記憶されている、又は、生成中の画像データを示す。また、実線矢印は、画像データの送信を示し、点線矢印は、指示や通知を示すものとする。図11と図15も同様である。尚、本図では、説明の便宜上、スケール処理(処理420)と描画(処理421)とを分けて記載しているが、内容的には1つの処理である。
ここでは、表示制御部1500が、ビデオ画像を拡大する旨の指示をアプリケーション処理部2300から受けた後の処理のタイミングについて説明する。
表示制御部1500は、ビデオ画像の拡大指示を受けた際に渡された変更指示情報2310と指示を受けた時刻とから、疑似ビデオ画像の位置とサイズを計算する(処理400)。ここでは、疑似ビデオ画像のサイズは徐々に大きくするとし、最初は、現在のビデオ画像と同じ位置とサイズとする。
表示制御部1500は、まず、グラフィック生成部2100に指示し、背景等のグラフィックス画像をグラフィックスフレーム記憶部2200に描画させる。その後、ビデオ表示制御部1600を介して、疑似ビデオ生成部1700に疑似ビデオ画像をグラフィックスフレーム記憶部2200に描画させる(処理401)(画像データ410参照)。疑似ビデオ画像は、デコード画像記憶部1200に記憶されている最新のデコード画像を基に生成する。
この描画により、グラフィックス画像と疑似ビデオ画像とが表示された表示画面となる(図4:表示画面3参照)。
表示制御部1500は、疑似ビデオ生成部1700に疑似ビデオ画像の生成を指示したら、次に、ビデオ画像のスケール処理をスケール部1300に指示する(処理402)。
スケール部がスケール処理を行っている間(処理420)、表示制御部1500は、次に表示する疑似ビデオ画像のサイズ等を計算し、ビデオ表示制御部1600を介して、疑似ビデオ生成部1700に計算したサイズの疑似ビデオ画像を描画させる(処理403)。
この描画で、すこし大きなサイズの疑似ビデオ画像が表示された表示画面となる(図4:表示画面4参照)。
スケール部1300は、スケール処理(処理420)が終わり、最終的な位置とサイズのビデオ画像をビデオフレーム記憶部1400に描画したら(処理421、画像データ430参照)、ビデオ表示制御部1600に変更完了の通知を行う(通知422)。
ビデオ画像の変更が完了した通知を受けたビデオ表示制御部1600は、疑似ビデオ生成部1700に指示して、ビデオ画像の領域を透明にする(処理405)。その後、ビデオ表示制御部1600は、表示制御部1500に、変更の完了を通知する。
この時点で、ビデオ画像とグラフィックス画像とが表示された表示画面となる(図4:表示画面5参照)。
表示制御部1500は、変更の完了通知を受けるか、疑似ビデオ画像が最終的なビデオ画像の位置とサイズになるまで、ビデオ表示制御部1600を介して、徐々に拡大した疑似ビデオ画像を描画する(処理404)。
次に、図8は、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。
ここで説明する表示制御処理は、表示制御部1500とビデオ表示制御部1600と疑似ビデオ生成部1700とが行う処理であり、変更処理はスケール部1300が行う処理である。
ユーザは、ディスプレイ200に録画番組一覧を表示させ、録画番組の1つを選択して、録画番組一覧に重なった小さな画面で再生しているものとする(図2等参照)。
まず、ユーザがビデオ画像を拡大する操作を行い、操作を検知したアプリケーション処理部2300が、表示制御部1500にビデオ画像の拡大を指示する。この際、変更指示情報2310を渡す。変更の対象はビデオ画像なので、オブジェクト情報1510の属性1512が「ビデオ」であるオブジェクトID1511が指定される。例えば、変更指示情報2310のオブジェクトID2314には、「ID3」が入っている。
ビデオ画像を拡大する指示を取得した表示制御部1500は(ステップS100)、表示する疑似ビデオ画像の位置とサイズとを算出し、算出した位置とサイズとを、オブジェクトID1524が変更指示情報2310のオブジェクトID2314と同じであるビデオ画像配置情報1520に記憶する(ステップS110)。
この擬似ビデオサイズの算出は、現在表示されているビデオ画像のサイズ等と、指定されたビデオ画像のサイズ等とを用いて算出する。現在表示されているビデオ画像のサイズ等とは、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523とであり、指定されたビデオ画像のサイズ等とは、受け取った変更指示情報2310の始点2312とサイズ2313である。
例えば、現在(時刻T1)のビデオ画像が、位置1522(x4, y4)、サイズ1523(w4,h4)であり、指示されたビデオ画像が、位置2312(x20、y20)、サイズ2313(w20,h20)とする。ビデオ画像が拡大指示を受けた時点から時間とともに線形的に大きくなる場合、時刻tとともに疑似ビデオ画像の位置(x, y)、サイズ(w, h)は以下のように変化する。指定された時間2311が「3」フレームとする。尚、疑似ビデオ画像は線形的に変化させる必要はなく、どのような関数で定義してもよい。
x(t) = x4+(x20-x4)*(t-T1)/3
y(t) = y4+(y20-y4)*(t-T1)/3
w(t) = w4+(w20-w4)*(t-T1)/3
h(t) = h4+(h20-h4)*(t-T1)/3
疑似ビデオ画像の位置とサイズとを算出した表示制御部1500は、その後、オブジェクト情報1510のスタック1515に応じて、グラフィックス画像の生成を行う。
まず、スタック1515の値が最も大きな値のオブジェクトを生成する。
その際、そのオブジェクトの属性1512が「グラフィック」の場合(ステップS115:グラフィック)には、表示制御部1500は、グラフィック生成部2100に依頼し、グラフィックスオブジェクトを生成する(ステップS120)。
具体的には、依頼するオブジェクトの始点1513とサイズ1514とアドレス1516とをグラフィック生成部2100に渡し、画像の生成を依頼する。依頼を受けたグラフィック生成部2100は、アドレス1516から画像データを読出して画像をグラフィックスフレーム記憶部2200に生成する。
また、オブジェクトの属性1512が「ビデオ」の場合(ステップS115:ビデオ)には、表示制御部1500は、ビデオ表示制御部1600に依頼し、疑似ビデオ画像であるビデオオブジェクトを生成する(ステップS130)。
具体的には、表示制御部1500は、算出した疑似ビデオ画像の位置とサイズと、変更指示情報2310のオブジェクトID2314に該当するアドレス1516とをビデオ表示制御部1600に渡し、画像の生成を依頼する。例えば、ビデオ画像配置情報1520の画像種別1521が「疑似ビデオ画像」の始点1522「(x10、y10)」とサイズ1523「(w10,h10)」と、オブジェクトID1511が「ID3」のアドレス1516「addr3」を渡す。
ビデオ表示制御部1600は、デコード画像記憶部1200からデコード画像のサイズを取得し、取得したサイズと表示制御部1500から受け取った始点等の情報とを疑似ビデオ生成部1700に渡して、疑似ビデオ画像を生成するよう依頼する。
依頼を受けた疑似ビデオ生成部1700は、受け取ったアドレス1516をもとに、デコード画像記憶部1200から読み込んだ画像データから、疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する。
オブジェクトの生成を依頼したビデオ表示制御部1600は、スケール部にビデオ画像のスケール処理を指示していない場合(ステップS140:NO)は、指示されたサイズ等に変更する処理を依頼する(ステップS150)。具体的には、変更指示情報2310の始点2312とサイズ2313とで、オブジェクト情報1510のオブジェクトID1511が「ID3」の始点1513とサイズ1514とを更新して、オブジェクトID1511が「ID3」の情報(1512〜1516)を渡す(ステップS151)。尚、本実施形態では、ビデオ画像は1つとしており、疑似ビデオ画像は1つであるが、複数ある場合は、疑似ビデオ画像毎に、スケール処理の指示をするか否かを判断することになる。
まだ表示していないオブジェクトがある場合(ステップS155:NO)は、次のオブジェクト、すなわち、スタック1515の値が次に小さいオブジェクトの生成を開始する(ステップS115)。
例えば、図5(a)のオブジェクト情報1510の場合は、まず、オブジェクトID1511が「ID2」のグラフィックスオブジェクトの番組一覧の画像を生成し、次に、オブジェクトID1511が「ID1」のグラフィックスオブジェクトの文字列の画像を生成する。その後、オブジェクトID1511が「ID3」のビデオオブジェクトの疑似ビデオ画像を生成する。
全てのオブジェクトの生成が終了(ステップS155:YES)しても、スケール部1300からのスケール処理の完了通知を受けていない場合(ステップS160:NO)には、ビデオ表示制御部1600は、表示制御部1500にスケール処理が完了していない旨を通知する。
スケール処理が完了していない旨の通知を受けた表示制御部1500は、次に表示するための疑似ビデオ画像の位置とサイズを算出し(ステップS110)、ステップS160までの処理を繰り返す。但し、既にスケール部1300のスケール処理の依頼をしていることから(ステップS140:YES)、ステップS150の処理は行わないことになる。
スケール部1300からのスケール処理の完了通知を受けていた場合(ステップS160:YES)には、ビデオ表示制御部1600は、その旨を、表示制御部1500に通知する。但し、この場合、擬似ビデオ画像を段階的に大きくしていく場合は、擬似ビデオ画像の位置とサイズとが指定された位置とサイズとなっていなくても、スケール処理が終了した時に、表示制御部1500に通知されることになる。尚、擬似ビデオ画像を段階的に大きくしていく場合は、指定された位置とサイズの擬似ビデオ画像が表示され、且つ、スケール処理の完了通知を受けた場合に、ビデオ表示制御部1600は、スケール処理が完了した旨を、表示制御部1500に通知することとしてもよい。
また、ビデオ表示制御部1600は、疑似ビデオ生成部1700に、ビデオ画像に対応する部分を透明色にするよう依頼する。具体的には、ビデオ表示制御部1600がスケール部1300にスケール処理を依頼したとき(ステップS150参照)の位置とサイズとを疑似ビデオ生成部1700に渡して依頼する。
透明にするよう依頼を受けた疑似ビデオ生成部1700は、グラフィックスフレーム記憶部2200に記憶されている画像のうち、受け取った始点1513とサイズ1514で現される矩形部分を透明にする(ステップS170)。
スケール処理が完了していることを通知された表示制御部1500は、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523とを、変更指示情報2310の始点2312とサイズ2313とで更新し、ビデオ画像の変更処理を終了する。
一方、スケール処理を依頼されたスケール部1300は、オブジェクト情報1510のオブジェクトID1511が「ID3」の情報、すなわち、始点1513とサイズ1514とアドレス1516とを取得し(ステップS200)、デコード画像記憶部1200からアドレス1516をもとに最新のデコード画像を読み込んでスケール処理を行い(ステップS210)、受け取った始点1513とサイズ1514のビデオ画像を生成する(ステップS220)。
スケール部1300は、依頼された位置とサイズのビデオ画像をビデオフレーム記憶部1400に生成したら、スケール処理の完了通知をビデオ表示制御部1600に送信する(ステップS230、ステップS231)。
図5(a)のオブジェクト情報1510では、ビデオオブジェクトが最も上に生成されることになるが、その上にグラフィックスオブジェクトが生成されてもよく、この場合は、このグラフィックスオブジェクトのスタック1515の値は、ビデオオブジェクトのスタック1515の値より小さな値となる。同様に、疑似ビデオ画像が複数ある場合は、ビデオオブジェクトが重なってもよい。
尚、本実施形態では、オブジェクト情報1510で管理されているオブジェクトの全てを、疑似ビデオのサイズ等を変更する(ステップS110参照)毎に表示することとしているが、疑似ビデオのサイズ等の変更により露出してしまうオブジェクト、すなわち、本来表示されるべき画像が欠けてしまうオブジェクトのみを、グラフィックスデータ記憶部2000から読み出して生成することとしてもよい。
例えば、図5(a)のオブジェクト情報1510の場合、オブジェクトID1511が「ID3」の疑似ビデオ画像が、現在表示されている疑似ビデオ画像より小さく表示される場合は、疑似ビデオ画像より下に表示されるオブジェクトが欠けるか否かを判断する。このオブジェクトのスタック1515が「1」なので、スタックが「2」と「3」のオブジェクトの始点1513とサイズ1514とから、各オブジェクトが欠けるか否かを判断し、欠けてしまうと判断したオブジェクトを表示する。
<実施形態2>
<概要>
実施形態1では、疑似ビデオ画像は、動画像のストリームデータを復号したデコード画像を基に生成していたが、本実施形態では、ビデオフレーム記憶部1400に記憶されているビデオ画像を基に生成する点が異なる。
実施形態1では、疑似ビデオ画像はデコード画像を拡大・縮小して生成するが、この際、疑似ビデオ画像のサイズとデコード画像のサイズとの差が大きい場合には、デコード画像の読み込みに時間がかかる場合がある。また、拡大・縮小フィルタの次数が小さい場合には、画像の劣化を防止するために複数回に分けて拡大・縮小する場合があり、この場合には疑似ビデオ画像を生成するのに時間がかかる場合が生じ得る。
そこで、本実施形態では、サイズがより近いビデオ画像を基に、疑似ビデオ画像を生成するものである。
<構成>
図9は、本実施形態に係る表示装置700の構成を示す機能ブロック図である。
表示装置700は、デコード部1100、デコード画像記憶部1200、スケール部1300、ビデオフレーム記憶部1400、表示制御部7500、ビデオ表示制御部1600、疑似ビデオ生成部7700、合成部1800、グラフィックスデータ記憶部2000、グラフィックス生成部2100、グラフィックスフレーム記憶部2200及びアプリケーション処理部2300とで構成される。
表示装置700は、実施形態1に係る表示装置100(図1参照)の構成とほぼ同じであり、異なる機能部は、表示制御部7500と疑似ビデオ生成部7700のみである。他の機能部は、表示装置100の同じ符号の付いた機能部と同様である。
表示制御部7500は、実施形態1では、ビデオ表示制御部1600に画像の生成を依頼する際に、疑似ビデオ画像の基となるデコード画像のアドレスを渡すが、本実施形態では、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523を渡す点が異なる。すなわち、ビデオフレームにおけるビデオ画像の位置と大きさを渡す。
また、疑似ビデオ生成部7700は、実施形態1の疑似ビデオ生成部1700がデコード画像記憶部1200から基となる画像データを読み出したのに対し、本実施形態では、ビデオフレーム記憶部1400から基となる画像データを読み出す点が異なる。
<データ>
表示装置700で用いる主なデータについては、実施形態1の表示装置100が用いる図5に示すデータと同じである。
<動作>
図10は、本実施形態の、ビデオ画像が拡大される場合を示す図である。
図4で示した実施形態1の場合と、疑似ビデオ画像を生成して表示する点は同じであるが、実施形態1では、疑似ビデオ画像320はデコード画像から生成されているが、疑似ビデオ画像710はビデオ画像から生成されている点が異なる。実施形態1と同様に、拡大されたビデオ画像711が生成されたときに、グラフィックス画像に透明領域712を生成してビデオ画像が表示される。尚、本図では、疑似ビデオ画像は、右斜線が引かれている。
以下、本発明に係る表示装置700の動作について図11と図12とを用いて説明する。
図11は、ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。
本タイミングチャートは、実施形態1のタイミングチャート(図7参照)とほほ同じであり、異なる点は、疑似ビデオ生成部7700がビデオフレーム記憶部1400から画像データを読み出している点である(画像データの送信720)。
次に、図12は、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。
本フローチャートは、実施形態1のフローチャート(図8参照)とほほ同じであり、異なる点は、ステップS700において、疑似ビデオ生成部7700がビデオフレーム記憶部1400から画像データを読み出している点のみである。
以下、図8の実施形態1のフローチャートと異なる点を中心に、表示制御部7500とビデオ表示制御部1600と疑似ビデオ生成部1700とが行う表示制御処理と、スケール部1300が行う変更処理とを説明する。
ユーザがビデオ画像を拡大する操作を行い、操作を検知したアプリケーション処理部2300が、表示制御部7500にビデオ画像の拡大を指示し、ビデオ画像を拡大する指示を取得した表示制御部7500は(ステップS100)、表示する疑似ビデオ画像の位置とサイズとを算出する(ステップS110)。
疑似ビデオ画像の位置とサイズとを算出した表示制御部7500は、その後、オブジェクト情報1510の種別1512とスタック1515に応じて、全てのオブジェクトを生成する(ステップS115〜ステップS155)。
グラフィックス画像を生成する場合(ステップS115:グラフィック)、表示制御部7500は、グラフィック生成部2100に依頼し、グラフィックスオブジェクトを生成する(ステップS120)。
また、疑似ビデオ画像を生成する場合(ステップS115:ビデオ)、表示制御部7500は、算出した疑似ビデオ画像の位置とサイズと、ビデオ画像の始点とサイズとをビデオ表示制御部1600に渡し、画像の生成を依頼する。ビデオ画像の始点とサイズとは、具体的には、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523である。
ビデオ表示制御部1600は、表示制御部7500から受け取った始点等の情報とを疑似ビデオ生成部7700に渡して、ビデオフレーム記憶部1400から疑似ビデオ画像の基となる画像を読み出して疑似ビデオ画像を生成するよう依頼する。
依頼を受けた疑似ビデオ生成部7700は、ビデオフレーム記憶部1400からビデオ画像を読み出し、読み出したビデオ画像から疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する(ステップS700)。
オブジェクトの生成を依頼したビデオ表示制御部1600は、スケール部にビデオ画像のスケール処理を指示していない場合(ステップS140:NO)は、指示されたサイズ等に変更する処理を依頼する(ステップS150)。
まだ表示していないオブジェクトがある場合(ステップS155:NO)は、次のオブジェクト、すなわち、スタック1515の値が次に小さいオブジェクトの生成を開始する(ステップS115)。
全てのオブジェクトの生成が終了(ステップS155:YES)しても、スケール部1300からのスケール処理の完了通知を受けていない場合(ステップS160:NO)には、ビデオ表示制御部1600は、表示制御部7500にスケール処理が完了していない旨を通知し、通知を受けた表示制御部7500は、次に表示するための疑似ビデオ画像の位置とサイズを算出し(ステップS110)、ステップS160までの処理を繰り返す。
スケール部1300からのスケール処理の完了通知を受けていた場合(ステップS160:YES)、ビデオ表示制御部1600は、その旨を、表示制御部7500に通知し、疑似ビデオ生成部7700に、ビデオ画像に対応する部分を透明色にするよう依頼する。
依頼を受けた疑似ビデオ生成部7700は、該当部分を透明にし(ステップS170)、スケール処理が完了していることを通知された表示制御部7500は、ビデオ画像の変更処理を終了する。
一方、スケール処理を依頼されたスケール部1300は、位置とサイズとアドレスとを取得し(ステップS200)、デコード画像記憶部1200からアドレス1516に記憶されているデコード画像を読み込んでスケール処理を行い(ステップS210)、ビデオ画像を生成する(ステップS220)。スケール部1300は、ビデオ画像を生成したら、スケール処理の完了通知をビデオ表示制御分1600に送信する(ステップS230、ステップS231)。
<実施形態3>
<概要>
実施形態1は、疑似ビデオ画像は、動画像のストリームデータを復号したデコード画像を基に生成し、実施形態2では、ビデオフレーム記憶部1400に記憶されているビデオ画像を基に生成していたが、本実施形態では、デコード画像かビデオ画像かを選択して、選択した画像を基に生成する点が異なる。
本実施形態では、画像データの読み込みにかかる時間や、縮小処理の時間がより短くなるように、デコード画像とビデオ画像のうち、サイズが疑似ビデオ画像により近いほうの画像を基に、疑似ビデオ画像を生成するものである。
例えば、デコード画像のサイズがビデオデータによって異なる場合には、デコード画像のサイズに応じて基となる画像を選択できるので、疑似ビデオ画像の生成時間を短縮できるという効果がある。
<構成>
図13は、本実施形態に係る表示装置800の構成を示す機能ブロック図である。
表示装置800は、デコード部1100、デコード画像記憶部1200、スケール部1300、ビデオフレーム記憶部1400、表示制御部8500、ビデオ表示制御部1600、疑似ビデオ生成部8700、画像選択部8710、合成部1800、グラフィックスデータ記憶部2000、グラフィックス生成部2100、グラフィックスフレーム記憶部2200及びアプリケーション処理部2300とで構成される。
表示装置800は、実施形態1に係る表示装置100(図1参照)の構成とほぼ同じであり、異なる機能部は、表示制御部8500、疑似ビデオ生成部8700、画像選択部8710である。他の機能部は、表示装置100の同じ符号の付いた機能部と同様である。
表示制御部8500は、実施形態1の表示制御部1500の有する機能に加え、拡大指示をアプリケーション処理部2300から受けた際に、画像選択部8710に、現在のビデオ画像のサイズを通知する機能を有する。具体的には、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」のサイズ1523を通知する。
また、疑似ビデオ生成部8700は、実施形態1の疑似ビデオ生成部1700がデコード画像記憶部1200から基となる画像データを読み出したのに対し、本実施形態では、画像選択部8710に疑似ビデオ画像のサイズを渡して、画像データを受け取る点が異なる。
画像選択部8710は、疑似ビデオ生成部8700から疑似ビデオ画像のサイズを受け取り、現在のビデオ画像のサイズとデコード画像のサイズとから、サイズが近いほうの画像を選択する。現在のビデオ画像のサイズは、表示制御部8500から通知され、デコード画像のサイズは、疑似ビデオ生成部8700から疑似ビデオ画像のサイズと供に受け取るものである。
画像選択部8710は、選択した方の画像データを読み出し、疑似ビデオ生成部8700に渡す機能を有する。
<データ>
表示装置700で用いる主なデータについては、実施形態1の表示装置100が用いる図5に示すデータと同じである。
<動作>
図14は、本実施形態の、ビデオ画像が拡大される場合を示す図である。
本図では、デコード画像から生成した疑似ビデオ画像には横斜線が引かれており、ビデオ画像から生成した疑似ビデオ画像には右斜線が引かれている。
すなわち、疑似ビデオ画像810は、ビデオ画像から生成され、疑似ビデオ画像811は、デコード画像から生成されている。
以下、本発明に係る表示装置800の動作について図15〜図17とを用いて説明する。
図15は、ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。
本タイミングチャートは、実施形態1のタイミングチャート(図7参照)とほほ同じであり、異なる点は、疑似ビデオ生成部8700がデコード画像記憶部1200又はビデオフレーム記憶部1400から画像データを読み出している点である(画像データの送信820、821)。
次に、図16は、表示装置800の表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートであり、図17は、疑似ビデオ生成処理を表すフローチャートである。
図16のフローチャートは、実施形態1のフローチャート(図8参照)とほほ同じであり、異なる点は、ステップS800において、表示制御部8500が、画像選択部8710に、現在のビデオ画像のサイズを通知する点と、ステップS810で、画像選択部8700が疑似ビデオ画像の基となる画像を選択して、選択した画像から疑似ビデオ画像を生成する点である。ステップS810の処理は、図17を用いて、後で説明する。
以下、図8の実施形態1のフローチャートと異なる点を中心に、図16を用いて、表示制御部8500とビデオ表示制御部1600と疑似ビデオ生成部8700とが行う表示処理と、スケール部1300が行う変更処理とを説明する。
ユーザがビデオ画像を拡大する操作を行い、操作を検知したアプリケーション処理部2300が、表示制御部8500にビデオ画像の拡大を指示し、ビデオ画像を拡大する指示を取得した表示制御部8500は(ステップS100)、表示する疑似ビデオ画像の位置とサイズとを算出する(ステップS110)。
また、表示制御部8500は、画像選択部8710に、現在のビデオ画像のサイズを通知する(ステップS800)。通知を受けた画像選択部8710は、内部のメモリに現在のビデオ画像のサイズを記憶する。
疑似ビデオ画像の位置とサイズとを算出した表示制御部8500は、その後、オブジェクト情報1510の種別1512とスタック1515に応じて、全てのオブジェクトを生成する(ステップS 115〜ステップS155)。
グラフィックス画像を生成する場合(ステップS115:グラフィック)、表示制御部8500は、グラフィック生成部2100に依頼し、グラフィックスオブジェクトを生成する(ステップS120)。
また、疑似ビデオ画像を生成する場合(ステップS115:ビデオ)、表示制御部8500は、表示制御部8500は、算出した疑似ビデオ画像の位置とサイズとデコード画像のアドレスとをビデオ表示制御部1600に渡し、画像の生成を依頼する。ビデオ表示制御部1600は、デコード画像記憶部1200からデコード画像のサイズを取得し、取得したサイズと表示制御部8500から受け取った始点等の疑似ビデオの情報とを疑似ビデオ生成部8700に渡して、疑似ビデオ画像を生成するよう依頼する。
依頼を受けた疑似ビデオ生成部8700は、疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する。
オブジェクトの生成を依頼したビデオ表示制御部1600は、スケール部にビデオ画像のスケール処理を指示していない場合(ステップS140:NO)は、指示されたサイズ等に変更する処理を依頼する(ステップS150)。
まだ表示していないオブジェクトがある場合(ステップS155:NO)には、次のオブジェクト、すなわち、スタック1515の値が次に小さいオブジェクトの生成を開始する(ステップS115)。
全てのオブジェクトの生成が終了し(ステップS155:YES)、スケール部1300からのスケール処理の完了通知を受けていない場合(ステップS160:NO)には、ビデオ表示制御部1600は、表示制御部8500にスケール処理が完了していない旨を通知し、スケール処理が完了していない旨の通知を受けた表示制御部8500は、次に表示するための疑似ビデオ画像の位置とサイズを算出し(ステップS110)、ステップS160までの処理を繰り返す。
スケール部1300からのスケール処理の完了通知を受けていた場合(ステップS160:YES)、ビデオ表示制御部1600は、その旨を、表示制御部8500に通知し、疑似ビデオ生成部8700に、ビデオ画像に対応する部分を透明色にするよう依頼する。
依頼を受けた疑似ビデオ生成部8700は、該当部分を透明にし(ステップS170)、スケール処理が完了していることを通知された表示制御部8500は、ビデオ画像の変更処理を終了する。
一方、スケール処理を依頼されたスケール部1300は、位置とサイズとアドレスとを取得し(ステップS200)、デコード画像記憶部1200からアドレス1516に記憶されているデコード画像を読み込んでスケール処理を行い(ステップS210)、ビデオ画像を生成する(ステップS220)。スケール部1300は、ビデオ画像を生成したら、スケール処理の完了通知をビデオ表示制御分1600に送信する(ステップS230、ステップS231)。
次に、図17を用いて、表示装置800の疑似ビデオ生成(ステップS810)の処理を説明する。
依頼を受けた疑似ビデオ生成部8700は、ビデオ表示制御部1600から受け取ったデコード画像のサイズ及びアドレスと、疑似ビデオ画像のサイズとを画像選択部8710に渡し、画像データの読み込みを依頼する。
依頼を受けた画像選択部8710は(ステップS850)、表示制御部8500から通知された現在のビデオ画像のサイズと、疑似ビデオ生成部8700から受け取ったデコード画像のサイズとから、疑似ビデオ画像に近いサイズの画像を判定する(ステップS860)。
デコード画像の方が近いと判断した場合は(ステップS860:デコード画像)、デコード画像記憶部1200からデコード画像を読み込み、疑似ビデオ生成部8700に返す。
また、ビデオ画像の方が近いと判断した場合は(ステップS860:ビデオ画像)、ビデオフレーム記憶部からビデオ画像を読み込み、疑似ビデオ生成部8700に返す。
画像選択部8710から画像データを受け取った疑似ビデオ生成部8700は、受け取った画像から疑似ビデオ画像を生成する(ステップS890)。
<補足>
以上、本発明の実施形態について説明したが、本発明は上記形態に限らず、以下のようにしてもよい。
(1)実施形態では、スケール部1300からのスケール処理の完了通知を受信したら、グラフィックス画像の一部を透明色としているが、一定時間が経過したら透明色とすることとしてもよい。この場合、スケール処理の時間よりも長く設定しておく必要がある。
(2)実施形態では、ビデオ画像を拡大する例を説明したが、ビデオ画像を縮小したり、移動したりする場合であってももちろんよい。例えば、縮小する場合は、背景等のグラフィックス画像を描画し、段階的に小さくなるビデオ画像を生成して表示する。
(3)実施形態では、疑似ビデオ画像は、ビデオ画像と同様の内容の画像、すなわち、ビデオ画像そのものやビデオ画像の基であるデコード画像から生成した画像としているが、ビデオ画像に表示される画像を変形した画像であっても、また、まったく違う内容の画像であってもよい。
また、矩形以外の形状であってもよく、例えば、円や楕円等であってもよい。
例えば、疑似ビデオ画像を表示する際に、3次元グラフィックス技術を使用して、画像の矩形領域を回転させて表示したり等、様々な表示効果を付加した画像を擬似ビデオ画像として表示するなどである。
(4)実施形態では、ビデオ画像を生成するのに用いられる拡大・縮小フィルタの方が、疑似ビデオ画像を生成するのに用いられる拡大・縮小フィルタよりも高次のフィルタであるとしているが、同じ特性のフィルタであってもよい。
同じ特性のフィルタの場合は、例えば、ビデオフレーム記憶部1400に記憶する画像の解像度よりも、グラフィックスフレーム記憶部2200に記憶する画像の解像度の方が低い必要がある。すなわち、解像度が低い分、処理時間が短くて済むからであり、ビデオ画像を拡大・縮小している間に、疑似ビデオ画像を生成することが可能となるからである。
また、グラフィックスフレーム記憶部2200に記憶する画像の解像度の方が低い場合は、グラフィックス画像を拡大してビデオ画像と合成して表示することとなる。この場合、疑似ビデオ画像からビデオ画像に切り替わったとき、すなわち、グラフィックス画像の一部が透明となりビデオ画像が表示されたときには、解像度の差が目立ってしまう場合がある。解像度の差が目立つ場合には、グラフィックス画像のビデオ画像部分の透明度を徐々に上げることで、目立たなくすることとしてもよい。この場合、ビデオ画像が描画中である場合は必ず不透明としておくなど、ビデオ画像の状態を考慮して、透明度を変える必要がある。
また、解像度の大小に係らず、疑似ビデオ画像からビデオ画像に切り替わる場合には、ビデオ画像とグラフィックス画像のピクセル毎の合成比を段階的に変えることで、スムーズな切り替わりを実現することとしてもよい。
(5)実施形態では、疑似ビデオ画像は、ビデオ画像のスケール処理を行っている間、表示することとしているが、ビデオ画像のスケール処理の前や後にも表示してもよい。例えば、ビデオ画像の拡大・縮小がディスプレイ上でスムーズに見えるように、大きさが段階的に変化する疑似ビデオ画像を表示して、拡大されたビデオ画像を表示するなどである。
(6)表示装置は、図1、図9、図13の各構成要素の全部又は一部を、1チップ又は複数チップの集積回路で実現してもよい。
(7)表示装置は、図1、図9、図13の各構成要素の全部又は一部を、コンピュータのプログラムで実現してもよいし、その他どのような形態で実施してもよい。コンピュータプログラムの場合、メモリカード、CD−ROMなどいかなる記録媒体に書き込まれたものをコンピュータに読み込ませて実行させる形にしてもよいし、ネットワークを経由してプログラムをダウンロードして実行させる形にしてもよい。
本発明は、同一ディスプレイに表示されている動画像と静止画像との表示形態を変更する場合に適用することができる。
本発明は、動画像と、文字等の静止画像とを合成して表示する表示装置に関し、特に、動画像の表示領域を拡大等する場合の、動画像と静止画像とを表示する技術に関する。
従来から、動画像と静止画像とを一つのディスプレイに表示することが行われている。いわゆるOSD(OnScreen Display)といわれるもので、例えば、輝度等を設定する場合に、設定値をディスプレイの一部に表示しながら設定を行うものである。
近年では、ディジタル放送受信機においては、放送番組である動画像と、放送局から送信されてくる番組表などの静止画像とを合成して表示することが行われており、他にも、ビデオレコーダやビデオプレイヤ、携帯電話機、デジタルカメラなど、様々な機器で、動画像と静止画像とを合成してディスプレイに表示することが行われている。
動画像と静止画像の合成方法としては、動画像と静止画像とをそれぞれ別のメモリに記憶し、動画像の上に静止画像を重ねて表示する方法がある。
この方法では、静止画像の一部分、すなわち、動画像と同じ部分を透明にして下の動画像が見えるようにして合成する。従って、動画像の表示サイズや位置が変更された場合には、静止画像の透明にする部分を、動画像の表示サイズや位置に合わせて変更することになる。
また、動画像は、所定のフレームレートで画像が更新されることから、更新が行われる都度、動画像と静止画像とを合成して表示することになるが、動画像のサイズ等の変更のタイミングと、静止画像の透明化のタイミングとが合わない場合には、動画像と静止画像とがディスプレイ上でずれて表示されてしまうこととなる。すなわち、動画像と静止画像との境に、意図しない画像が表示されてしまう。
そこで、静止画像を透明化するタイミングを、動画像の変更のタイミングに合わせることで、ディスプレイ上でずれて表示されないようにする技術がある(特許文献1)。
特開2004−302361号公報
しかし、この技術では、静止画像の透明化を指示する命令や、透明部分を変更した静止画像を表示のタイミングまで記憶しておく必要がある。また、このタイミング合わせはソフトウェアで行うことから、他のアプリケーション等の実行状況によっては、必要な時間分CPUを確保することができずに、タイミングを正確には合わせることができない場合も発生する。
そこで、本発明は、メモリを余分に必要とせずに、動画像と静止画像とがディスプレイ上でずれて表示されることのない表示装置の提供を目的とする。
上記目的を達成するために、本発明に係る表示装置は、画像を記憶する第1メモリと第2メモリと、前記第1メモリに記憶されている画像と前記第2メモリに記憶されている画像とを、前記第2メモリに記憶されている画像が前面になるように合成した画像をディスプレイに表示する表示手段と、画像を前記第1メモリに生成する第1画像生成手段と、画像を前記第2メモリに生成する第2画像生成手段と、前記第1メモリに記憶する画像の表示サイズ又は表示位置を取得する取得手段と、前記取得手段で表示サイズ又は表示位置を取得した場合は、前記第1画像生成手段に当該表示サイズ又は表示位置の画像の生成を開始させ、当該生成が終了するまでの間、前記第2画像生成手段に、前記第1画像生成手段が生成している画像を覆う大きさの不透明な画像を生成させて前記表示手段で表示し、前記第1画像生成手段の画像の生成が終了したら、前記第2画像生成手段に、前記第1画像生成手段が生成した画像の前面となる部分が透明である画像を生成させて前記表示手段で表示する表示制御手段とを備えることを特徴とする。
上記構成の表示装置は、第1メモリに画像を生成している間、生成している画像を覆う大きさの画像を第2メモリに生成して第1メモリに生成している画像をディスプレイに表示しないようにしているので、第1メモリに画像が生成されたタイミングでディスプレイに表示することができるようになる。具体的には、第1メモリに画像が生成されてから、第2メモリに記憶されている画像の一部を透明にする。
従って、第1メモリに画像が生成されたタイミングと同時に、第2メモリの画像を透明にするのが理想ではあるが、このタイミングが正確にあわせることが難しい場合であっても、本発明では、タイミングが正確にあわされたようにディスプレイには表示することができる。
例えば、第1メモリには、ビデオ画像等の動画像を記憶し、第2メモリには、録画番組一覧のような静止画像を記憶しておき、動画像のサイズが変わったら、静止画像の一部を動画像のサイズに合わせて透明にするなどである。
また、第1メモリに画像を生成している間、表示されている第1メモリの画像が乱れるような仕様の表示装置であったとしても、本発明の表示装置では、乱れた画像が表示されること無く、第1メモリへの画像の生成が終了したタイミングでディスプレイに表示することができる。
また、前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの1フレーム画像に基づいて、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段により生成を開始させた前記1フレーム画像から生成される画像であることとしてもよい。
これにより、第1メモリに生成する画像と第2メモリに生成する画像とは、同じフレーム画像から生成するので、第1メモリに生成された表示サイズ又は表示位置が変更された画像をディスプレイに表示するよりも早く、サイズの変更等が反映された画像をディスプレイに表示することが可能となり、第1メモリに生成された画像にスムーズに移行することが可能となる。
また、前記第2画像生成手段は、前記第1画像生成手段による画像の生成よりも短い時間で、第1動画像生成手段が生成する画像よりも精度の低い画像を第2メモリに生成することとしてもよい。
これにより、第2画像生成手段が画像を生成する時間は、第1画像生成手段が画像を生成する時間より短いので、同じフレーム画像から画像を生成したとしても、第1メモリに画像を生成している間に、第2メモリに画像を生成することができるようになる。
また、前記第2画像生成手段は、前記1フレーム画像から生成する画像以外に、他の画像を前記第2メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段による画像の生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、当該表示サイズ又は表示位置の画像と前記他の画像であり、前記第1画像生成手段の画像の生成が終了後に前記第2画像生成手段に生成させる画像は、前記他の画像であることとしてもよい。
これにより、第2メモリには、第1メモリに生成している画像と同じフレーム画像から生成する画像以外の他の画像も生成できるので、第1メモリに画像が生成されたら、生成された画像と当該他の画像とを表示することができるようになる。
また、前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの各1フレーム画像から、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段に生成を開始させたときに前記第1メモリに記憶されている画像から生成される画像であることとしてもよい。
これにより、第1画像生成手段が第1メモリに画像を生成している間、第2画像生成手段は、第1メモリに記憶されている画像、すなわち、表示されていた画像から第2メモリに画像を生成するので、表示されている画像と第2画像生成手段が生成しようとしている画像とのサイズが近い場合には、短時間で画像を生成することができるようになる。
また、前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの1フレーム画像から、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段に生成を開始させた1フレーム画像と前記第1画像生成手段に生成を開始させたときに前記第1メモリに記憶されている画像のうち、画像の大きさが前記第2画像生成手段に生成させる画像の大きさに近い方の画像から生成される画像であることとしてもよい。
これにより、第1画像生成手段が第1メモリに画像を生成している間、第2画像生成手段は、第1メモリに記憶されている画像又はフレーム画像のうち、生成しようとしている画像とサイズが近い方から第2メモリに画像を生成するので、より短時間で画像を生成することができるようになる。
<実施形態1>
<概要>
本発明に係る表示装置は、テレビ映像やビデオ再生映像等の動画像と、文字やイラスト等の静止画像とを同時に同一のディスプレイに表示するものであり、 この表示されている動画像の表示サイズを拡大又は縮小する場合や、動画像の表示位置を変更する場合に、ディスプレイ上に動画像と静止画像とが不具合なく表示されるものである。ここで不具合とは、動画像と静止画像とがずれて表示されたり、動画像が一時的に乱れたりすること等である。
例えば、ディスプレイ上の動画像と静止画像との表示のずれは、動画像の表示領域と静止画像の透明領域とが一致しないことが原因であり、このずれは、動画像のサイズと位置の変更が完了するまでに、静止画像の透明領域を変更してしまうことで生ずるものである。そこで、本願発明では、このずれが生じ得る期間の間だけ、静止画像の一部を透明にする代わりに動画像に相当する疑似画像を静止画像として表示するものである。
本願発明では、疑似画像で動画像を覆い隠すことになるため、表示のずれだけでなく、表示の乱れ等の不具合も解消することができるという利点がある。
以下、図2〜図4を用いて、本願発明の原理を簡単に説明する。
図2を用いて、動画像と静止画像とをディスプレイに表示する仕組みについて説明し、図3を用いて、従来の問題点を説明する。その後、図4を用いて、本願発明の動画像と静止画像とをディスプレイに表示する仕組みについて簡単に説明する。
図2は、動画像と静止画像とを同一のディスプレイ上に表示する仕組みを示す図である。
ビデオフレームは、動画像を表示するフレーム画像を示し、グラフィックスフレームは、静止画像を表示するフレーム画像を示す。以下、動画像を「ビデオ」、静止画像を「グラフィックス」ともいうものとする。
また、合成画像は、ビデオフレームの上にグラフィックスフレームを重ねるように合成した画像であり、実際にディスプレイ上に表示される画像である。尚、ここでは、ビデオは30fps(Frame Per Second)で表示されるものとする。
例えば、合成画面2が表示される場合は、ビデオフレームには、所定サイズのビデオ画像300が所定の位置に生成され、グラフィックスフレームには、ビデオ画像300に該当する部分301が透明色であるグラフィックス画像302が生成される。ビデオフレームとグラフィックスフレームとが合成され、グラフィックス画像302の透明な部分301からビデオ画像300が見えて、表示画像2となる。例えば、録画番組一覧がグラフィックス画像として表示され、その画像に重ねて小さい画像で録画番組の1つである野球の試合が再生されているような画面である。
グラフィックス画像が更新された場合は、新しいグラフィックス画像303とビデオ画像が合成され、表示画面5が表示される。
本図の表示画面2〜表示画面6に示すように、ビデオ画像はフレーム毎に更新されて動画像として表示され、グラフィックス画像は静止画像として表示される。
次に、図3は、従来の問題点である、ビデオ画像が拡大される場合に生ずる画像のずれを示す図である。
まず、表示画面1が表示されているときに、ユーザがビデオ画像を拡大する指示を出したとする。
拡大指示を受けて、グラフィックスフレームでは、グラフィックス画像の透明領域310を、ビデオ画像が拡大される領域と同じ領域まで拡大する。表示画面3を表示するときに、拡大された透明領域311となる。
一方、ビデオフレームでは、表示画面5を表示するときに、初めて拡大されたビデオ画像313が表示される。ビデオ画像を拡大等する場合は、一般的にハードウェアでスケーリングやフィルタリングを行うため、表示が遅れることが多く、この例では、グラフィックスフレームより2フレーム分遅れて表示される。
従って、表示画面3と表示画面4のように、グラフィックス画像の透明部分からビデオフレームのビデオ画像以外の部分312が見えて、ビデオ画像とグラフィックス画像のずれが生じた表示画面となってしまう。
図4は、本願発明の、ビデオ画像が拡大される場合を示す図である。
表示画面1で、ビデオ画像の拡大指示を受けて、グラフィックスフレームでは、グラフィックス画像の透明領域を拡大する代わりに、ビデオ画像に代わる疑似ビデオ画像320をグラフィックスフレームに生成する。この疑似ビデオ画像320は、現在のビデオ画像を覆い隠せる大きさの不透明な画像である。本図では、疑似ビデオ画像は、右斜線が引かれている。
表示画面3が表示されるときには、ビデオフレームの上にグラフィックスフレームが重ねて合成されるが、このときのグラフィックスフレームには透明領域の代わりに疑似ビデオ画像320が生成されているため、グラフィックスフレームの画像321が表示されることになる。
すなわち、図3の表示画面3のように、疑似ビデオ画像とグラフィック画像とがずれなく表示されて、ビデオ画像の拡大処理が迅速に開始されたように見えることになる。
その後、ビデオフレームに拡大されたビデオ画像322が表示された段階で、グラフィックスフレームでは、拡大した透明領域323を有するグラフィックス画像を生成する。
表示画面5では、グラフィックス画像の透明領域323から、透明領域323と同じ大きさのビデオ画像322が見えて表示される。
このように、ビデオ画像のサイズ等が変更される場合に、ビデオフレームに変更が反映されるまで、グラフィックスフレームに疑似ビデオ画像を生成して表示することで、サイズの変更を迅速にディスプレイ上に反映させ、且つ、ディスプレイ上に画像の不具合を表示させないようにすることができる(図3及び図4の、表示画面3と表示画面4を参照)。
以下、本発明の実施形態における表示装置について、図を用いて説明する。尚、本実施形態では、ビデオ画像を拡大する場合について説明するが、ビデオ画像を縮小する場合、位置を変える場合、また更に、ビデオ画像を拡大等する場合に画像が乱れる場合等であっても同様である。
<構成>
図1は、表示装置100の構成を示す機能ブロック図である。
表示装置100は、デコード部1100、デコード画像記憶部1200、スケール部1300、ビデオフレーム記憶部1400、表示制御部1500、ビデオ表示制御部1600、疑似ビデオ生成部1700、合成部1800、グラフィックスデータ記憶部2000、グラフィックス生成部2100、グラフィックスフレーム記憶部2200及びアプリケーション処理部2300とで構成される。
また、表示装置100の外部に、コンテンツ等のビデオデータを記憶するビデオデータ記憶部1000とディスプレイ200とを備える。
デコード部1100は、ビデオデータ記憶部1000からビデオデータをストリーミングデータとして入力し、入力したストリーミングデータの復号を行ない、デコード画像を生成して、デコード画像記憶部1200に記憶する機能を有する。
本実施形態では、ビデオデータは、ビデオデータ記憶部1000から入力することとしているが、ネットワーク等を介して入力することとしてもよく、また、テレビ放送等として受信することとしてもよい。また、本実施形態では、ビデオデータはMPEG(Moving Picture Experts Group)−4規格で作成されているものとする。
デコード画像記憶部1200は、デコード部1100が復号したデータであるデコード画像を記憶する機能を有する。本実施形態では、記憶されているデコード画像は、ディスプレイに表示する画像よりも大きい、すなわち、解像度が高いものとする。尚、表示する画像よりも小さい、すなわち、解像度が低いものであってもよい。
また、このデコード画像記憶部1200は、ビデオ表示制御部1600からの問い合わせに応じて、デコード画像の画像サイズをビデオ表示制御部1600に通知する機能を有する。このデコード画像のサイズは、一つのビデオデータにおいては、同一とする。
スケール部1300は、デコード画像に対して、所定のサイズへの縮小、又は、表示位置の変更等の処理(以下、「スケール処理」という。)を行い、ビデオフレーム記憶部1400にスケール処理後のデコード画像であるビデオ画像を生成する機能を有する。具体的には、ディスプレイに表示するビデオ画像の画素データをビデオフレーム記憶部1400に描画する。
ビデオフレーム記憶部1400は、スケール部1300がスケール処理を施したビデオ画像を、フレーム単位で画素データの集合として記憶する。
次に、表示制御部1500は、ビデオ画像のサイズ等の変更制御、及び、疑似ビデオ画像とグラフィックス画像の表示制御を行う機能を有する。具体的には、アプリケーション処理部2300からビデオ画像の拡大等の指示を受けたら、ビデオ表示制御部1600にビデオ画像のサイズ等の変更を依頼したり、グラフィックスフレームにおける画像の重なり順序の管理等を行う。
ビデオ表示制御部1600は、表示制御部1500からの指示を受け、ビデオ画像のスケール処理、及び、疑似ビデオ画像の生成処理を制御する機能を有する。
具体的には、ビデオ表示制御部1600は、スケール部1300へのビデオ画像のサイズ等の変更の指示、デコード画像記憶部1200からデコード画像のサイズを取得して、疑似ビデオ生成部1700への疑似ビデオ画像の生成の依頼を行う。また、スケール部1300からのビデオ画像へのスケール処理完了の通知を受け、疑似ビデオ生成部1700に透明領域を生成するよう指示する。
疑似ビデオ生成部1700は、ビデオ表示制御部1600からの指示を受け、疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する機能を有する。具体的には、ビデオ画像が生成される基となるデコード画像から、ディスプレイに表示する疑似ビデオ画像を生成し、その画素データをグラフィックスフレーム記憶部2200に描画する。また、ビデオ表示制御部1600からの指示により、指定領域を透明色で塗り潰す、すなわち、透明色のみで構成された画像を生成する機能も有する。
本実施形態では、スケール部1300で用いられている拡大・縮小フィルタのほうが、本疑似ビデオ生成部1700で用いられている拡大・縮小フィルタよりも高次のフィルタであるものとする。すなわち、スケール部1300で生成した画像のほうが、本疑似ビデオ生成部1700で生成した画像より精度が高いといえる。従って、同じ画像に対してスケール処理を施す場合は、本疑似ビデオ生成部1700の方が処理時間は短いものとする。
グラフィックス生成部2100は、表示制御部1500からの指示を受け、グラフィックス画像をグラフィックスフレーム記憶部2200に生成する機能を有する。具体的には、ディスプレイに表示するグラフィックス画像の画素データをグラフィックスフレーム記憶部2200に描画する。ここで生成するグラフィックス画像は、グラフィックスデータ記憶部2000に記憶されているデータから生成するものとする。
グラフィックスデータ記憶部2000は、グラフィックス生成部2100が生成するグラフィックス画像の基となるデータが記憶されている。本実施形態では、録画番組一覧やテレビ番組表、文字列等のデータを記憶する。
次に、グラフィックスフレーム記憶部2200は、疑似ビデオ生成部1700が生成した疑似ビデオ画像と、グラフィックス生成部2100が生成したグラフィックス画像とを、フレーム単位で画素データの集合として記憶する。
合成部1800は、ビデオフレーム記憶部1400に記憶されている画像と、グラフィックスフレーム記憶部2200に記憶されている画像とを合成して、ディスプレイ200に表示する機能を有する。合成は、ビデオフレーム記憶部1400に記憶されている画像の上に、グラフィックスフレーム記憶部2200に記憶されている画像をオーバーレイすることにより行われる。
アプリケーション処理部2300は、本実施形態では、ユーザからの指示を受付けて、録画番組一覧を表示したり、一覧から選択された番組を再生したりする処理を行う。さらに、ユーザから、再生中のビデオ画像のサイズを変更する等の指示を受付けた場合、その旨を表示制御部1500に通知する機能を有する。
ここで、表示制御部1500等の各部による各処理の全部または一部は、CPU(図示していない。)が各種プログラムを実行することにより実現されるものである。
<データ>
以下、本表示装置100で用いる主なデータについて、図5と図6とを用いて説明する。
図5(a)は、オブジェクト情報1510の構成及び内容例を示す図であり、図5(b)は、ビデオ画像配置情報1520の構成及び内容例を示す図である。これらは、表示制御部1500が、内部のメモリに記憶している情報である。
また、図5(c)は、変更指示情報2310の構成及び内容例を示す図である。この情報は、アプリケーション処理部2300が表示制御部1500に対して、ビデオ画像のサイズ等の変更指示を行う際に渡す情報である。
まず、図5(a)のオブジェクト情報1510を説明する。
ここで、オブジェクトとは、グラフィックスフレーム記憶部2200に記憶されているグラフィックス画像を構成する要素をいい、具体的には、1つの静止画像を1つのグラフィックスオブジェクトといい、1つの疑似ビデオ画像を1つのビデオオブジェクトというものとする。この静止画像とは、1以上の図形、画像、文字等で構成された画像あり、これらを組み合わせた画像であってもよい。本実施形態では、ビデオオブジェクトは、1つの録画番組の再生画像であるビデオ画像に対応する疑似ビデオ画像をいい、グラフィックスオブジェクトは、録画番組一覧の画像や、文字列などの静止画像である。
オブジェクト情報1510は、オブジェクトID1511、属性1512、始点1513、サイズ1514、スタック1515及びアドレス1516で構成される。
このオブジェクト情報1510は、ディスプレイ200に表示されるオブジェクトを管理するものである。
オブジェクトID1511は、ディスプレイ200に表示されるオブジェクトの識別子である。例えば、本図では、「ID1」、「ID2」、「ID3」のそれぞれのオブジェクトIDが付与されたオブジェクトが3つ表示される。
言い換えれば、これらのオブジェクトIDが付与されているオブジェクトが、グラフィックスフレーム記憶部2200に記憶されている。
属性1512は、オブジェクトの属性を示し、「グラフィック」又は「ビデオ」が記載される。「グラフィック」は、グラフィックスオブジェクトであることを示し、「ビデオ」は、ビデオオブジェクトであることを示す。
本図では、「:」以下はコメントであるものとする。例えば、「グラフィック:文字列」は、文字列で構成されたグラフィックスオブジェクトであることを示す。また、「ビデオ:MPEG4」は、MPEG−4規格で符号化されているビデオ画像に対応するビデオオブジェクトであることを示す。
次に、始点1513は、表示画面上での、オブジェクトの左上の位置を表し、サイズ1514は、オブジェクトの縦と横の大きさを表す。
また、スタック1515は、合成するときの重ね合わせる順番を示し、降順に上に重ねて表示される。従って、本図では、一番上に表示されるオブジェクトは、スタック1515が「1」となっているオブジェクトID1511が「ID3」のオブジェクトである。
アドレス1516は、オブジェクトの画像データの取得先を示し、本実施形態では、各記憶部のアドレスを示すものとする。例えば、オブジェクトID1511が「ID1」のオブジェクトは、属性1512が「グラフィック」であるので、このオブジェクトの画像データは、グラフィックスデータ記憶部2000に記憶されており、アドレス1516が「addr1」で示される場所に記憶されている。また、オブジェクトID1511が「ID3」のオブジェクトは、属性1512が「ビデオ」であるので、このオブジェクトの画像データは、デコード画像記憶部1200に記憶されており、アドレス1516が「addr3」で示される場所に記憶されている。このアドレスは、最新のデコード画像が記憶されているアドレスを指すアドレスとする。
ここで、図6を用いて、グラフィックス画像と、各オブジェクトの始点1513、サイズ1514及びスタック1515との関係を説明する。
図6は、表示画面とオブジェクトの関係の具体例を示す図であり、表示画面500は、2つのグラフィックスオブジェクト(510、520)と、1つのビデオオブジェクト530から成る。
オブジェクト510は、オブジェクトID1511が「ID1」で示されるオブジェクトを表し、オブジェクト520とオブジェクト530とは、それぞれ、「ID2」と「ID3」で示されるオブジェクトを表す。
各オブジェクトの始点1513は、表示画面500に示された座標系における座標で示され、この座標系によって各オブジェクトが合成部1800で合成される。
まず、グラフィックスオブジェクトが複数ある場合は、スタックの値が大きい順に生成する。
例えば、図5(a)のオブジェクト情報1510で管理されるオブジェクトの場合、生成する順は、スタック1515が「3」のグラフィックオブジェクト520の画像を生成し、その上に、スタック1515が「2」のグラフィックオブジェクト510を重ね、更に、その上にスタック1515が「1」のグラフィックオブジェクト530を重ねて作成してグラフィックス画像を生成し、グラフィックスフレーム記憶部2200に記憶する。
合成部1800は、ビデオフレーム記憶部1400に記憶されている画像の上に、グラフィックスフレーム記憶部2200に生成したグラフィックス画像を重ねて合成し、表示する。本図のビデオオブジェクト530は、疑似ビデオ画像であるので合成して表示した場合は、ビデオフレーム記憶部1400に記憶されているビデオ画像は表示されないが、ビデオオブジェクト530を透明色で生成した場合には、合成して表示した画面にはビデオフレーム記憶部1400に記憶されているビデオ画像が表示される。
尚、本実施形態では、同時に表示できるビデオオブジェクトは、1つであるとする。
次に、図5(b)のビデオ画像配置情報1520を説明する。
ビデオ画像配置情報1520は、ディスプレイに表示されているビデオ画像とその疑似ビデオ画像との配置情報を管理するものであり、ビデオ画像毎に記憶される。従って、複数のビデオ画像が表示されている場合は、その数分のビデオ画像配置情報1520が記憶される。尚、本実施形態では、表示されているビデオ画像は1つとする。
ビデオ画像配置情報1520は、画像種別1521、始点1522、サイズ1523及びオブジェクトID1524で構成される。
画像種別1521は、ビデオ画像の種別を示し、本実施形態では、「ビデオ画像」と「疑似ビデオ画像」の2つであるとする。
「ビデオ画像」とは、ビデオフレーム記憶部1400に記憶されているビデオ画像をいい、「疑似ビデオ画像」とは、グラフィックスフレーム記憶部2200に記憶されている疑似ビデオ画像をいう。
始点1522は、画像の左上の位置を表し、サイズ1523は、画像の縦と横の大きさを示す。従って、「ビデオ画像」の始点1522とサイズ1523とには、現在表示されているビデオ画像のサイズ等か記憶されており、サイズの変更や位置の変更の指示を受けて変更が完了したときに、更新される。また、「疑似ビデオ画像」の始点1522とサイズ1523とには、表示される疑似ビデオ画像のサイズ等が記憶される。
オブジェクトID1524は、オブジェクトを特定する識別子であり、ビデオ画像とその疑似ビデオ画像とは、同じ識別子が付与されているものとする。
次に図5(c)の変更指示情報2310を説明する。
変更指示情報2310は、時間2311、始点2312、サイズ2313及びオブジェクトID2314で構成される。
時間2311は、ビデオ画像の変更処理が終了するまでのおおよその時間を表す。本実施形態ではフレーム数とする。時間2311では、疑似ビデオ画像を表示する時間が指定できればよく、秒数などで表してもよい。
始点2312及びサイズ2313は、最終的なビデオ画像の位置とサイズを示し、それぞれ、ビデオ画像配置情報1520の始点1522及びサイズ1523と同様である。
例えば、時間2311が「3」の場合は、3フレーム後に、疑似ビデオ画像の位置とサイズが、始点が始点2312で示される「(x20,y20)」で、サイズがサイズ2313で示される「(h20,w20)」となっていればよいことになる。
また、オブジェクトID2314は、変更対象のオブジェクトを特定する識別子である。
<動作>
以下、本発明に係る表示装置100の動作について図7と図8とを用いて説明する。
図7は、ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。
本図において、実線の矩形は、左端に記載した機能部が、処理を行っている時間を表し、点線の矩形は、各記憶部(1200、1400、2200)に記憶されている、又は、生成中の画像データを示す。また、実線矢印は、画像データの送信を示し、点線矢印は、指示や通知を示すものとする。図11と図15も同様である。尚、本図では、説明の便宜上、スケール処理(処理420)と描画(処理421)とを分けて記載しているが、内容的には1つの処理である。
ここでは、表示制御部1500が、ビデオ画像を拡大する旨の指示をアプリケーション処理部2300から受けた後の処理のタイミングについて説明する。
表示制御部1500は、ビデオ画像の拡大指示を受けた際に渡された変更指示情報2310と指示を受けた時刻とから、疑似ビデオ画像の位置とサイズを計算する(処理400)。ここでは、疑似ビデオ画像のサイズは徐々に大きくするとし、最初は、現在のビデオ画像と同じ位置とサイズとする。
表示制御部1500は、まず、グラフィック生成部2100に指示し、背景等のグラフィックス画像をグラフィックスフレーム記憶部2200に描画させる。その後、ビデオ表示制御部1600を介して、疑似ビデオ生成部1700に疑似ビデオ画像をグラフィックスフレーム記憶部2200に描画させる(処理401)(画像データ410参照)。疑似ビデオ画像は、デコード画像記憶部1200に記憶されている最新のデコード画像を基に生成する。
この描画により、グラフィックス画像と疑似ビデオ画像とが表示された表示画面となる(図4:表示画面3参照)。
表示制御部1500は、疑似ビデオ生成部1700に疑似ビデオ画像の生成を指示したら、次に、ビデオ画像のスケール処理をスケール部1300に指示する(処理402)。
スケール部がスケール処理を行っている間(処理420)、表示制御部1500は、次に表示する疑似ビデオ画像のサイズ等を計算し、ビデオ表示制御部1600を介して、疑似ビデオ生成部1700に計算したサイズの疑似ビデオ画像を描画させる(処理403)。
この描画で、すこし大きなサイズの疑似ビデオ画像が表示された表示画面となる(図4:表示画面4参照)。
スケール部1300は、スケール処理(処理420)が終わり、最終的な位置とサイズのビデオ画像をビデオフレーム記憶部1400に描画したら(処理421、画像データ430参照)、ビデオ表示制御部1600に変更完了の通知を行う(通知422)。
ビデオ画像の変更が完了した通知を受けたビデオ表示制御部1600は、疑似ビデオ生成部1700に指示して、ビデオ画像の領域を透明にする(処理405)。その後、ビデオ表示制御部1600は、表示制御部1500に、変更の完了を通知する。
この時点で、ビデオ画像とグラフィックス画像とが表示された表示画面となる(図4:表示画面5参照)。
表示制御部1500は、変更の完了通知を受けるか、疑似ビデオ画像が最終的なビデオ画像の位置とサイズになるまで、ビデオ表示制御部1600を介して、徐々に拡大した疑似ビデオ画像を描画する(処理404)。
次に、図8は、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。
ここで説明する表示制御処理は、表示制御部1500とビデオ表示制御部1600と疑似ビデオ生成部1700とが行う処理であり、変更処理はスケール部1300が行う処理である。
ユーザは、ディスプレイ200に録画番組一覧を表示させ、録画番組の1つを選択して、録画番組一覧に重なった小さな画面で再生しているものとする(図2等参照)。
まず、ユーザがビデオ画像を拡大する操作を行い、操作を検知したアプリケーション処理部2300が、表示制御部1500にビデオ画像の拡大を指示する。この際、変更指示情報2310を渡す。変更の対象はビデオ画像なので、オブジェクト情報1510の属性1512が「ビデオ」であるオブジェクトID1511が指定される。例えば、変更指示情報2310のオブジェクトID2314には、「ID3」が入っている。
ビデオ画像を拡大する指示を取得した表示制御部1500は(ステップS100)、表示する疑似ビデオ画像の位置とサイズとを算出し、算出した位置とサイズとを、オブジェクトID1524が変更指示情報2310のオブジェクトID2314と同じであるビデオ画像配置情報1520に記憶する(ステップS110)。
この擬似ビデオサイズの算出は、現在表示されているビデオ画像のサイズ等と、指定されたビデオ画像のサイズ等とを用いて算出する。現在表示されているビデオ画像のサイズ等とは、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523とであり、指定されたビデオ画像のサイズ等とは、受け取った変更指示情報2310の始点2312とサイズ2313である。
例えば、現在(時刻T1)のビデオ画像が、位置1522(x4,y4)、サイズ1523(w4,h4)であり、指示されたビデオ画像が、位置2312(x20、y20)、サイズ2313(w20,h20)とする。ビデオ画像が拡大指示を受けた時点から時間とともに線形的に大きくなる場合、時刻tとともに疑似ビデオ画像の位置(x, y)、サイズ(w, h)は以下のように変化する。指定された時間2311が「3」フレームとする。尚、疑似ビデオ画像は線形的に変化させる必要はなく、どのような関数で定義してもよい。
x(t) = x4+(x20-x4)*(t-T1)/3
y(t) = y4+(y20-y4)*(t-T1)/3
w(t) = w4+(w20-w4)*(t-T1)/3
h(t) = h4+(h20-h4)*(t-T1)/3
疑似ビデオ画像の位置とサイズとを算出した表示制御部1500は、その後、オブジェクト情報1510のスタック1515に応じて、グラフィックス画像の生成を行う。
まず、スタック1515の値が最も大きな値のオブジェクトを生成する。
その際、そのオブジェクトの属性1512が「グラフィック」の場合(ステップS115:グラフィック)には、表示制御部1500は、グラフィック生成部2100に依頼し、グラフィックスオブジェクトを生成する(ステップS120)。
具体的には、依頼するオブジェクトの始点1513とサイズ1514とアドレス1516とをグラフィック生成部2100に渡し、画像の生成を依頼する。依頼を受けたグラフィック生成部2100は、アドレス1516から画像データを読出して画像をグラフィックスフレーム記憶部2200に生成する。
また、オブジェクトの属性1512が「ビデオ」の場合(ステップS115:ビデオ)には、表示制御部1500は、ビデオ表示制御部1600に依頼し、疑似ビデオ画像であるビデオオブジェクトを生成する(ステップS130)。
具体的には、表示制御部1500は、算出した疑似ビデオ画像の位置とサイズと、変更指示情報2310のオブジェクトID2314に該当するアドレス1516とをビデオ表示制御部1600に渡し、画像の生成を依頼する。例えば、ビデオ画像配置情報1520の画像種別1521が「疑似ビデオ画像」の始点1522「(x10、y10)」とサイズ1523「(w10,h10)」と、オブジェクトID1511が「ID3」のアドレス1516「addr3」を渡す。
ビデオ表示制御部1600は、デコード画像記憶部1200からデコード画像のサイズを取得し、取得したサイズと表示制御部1500から受け取った始点等の情報とを疑似ビデオ生成部1700に渡して、疑似ビデオ画像を生成するよう依頼する。
依頼を受けた疑似ビデオ生成部1700は、受け取ったアドレス1516をもとに、デコード画像記憶部1200から読み込んだ画像データから、疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する。
オブジェクトの生成を依頼したビデオ表示制御部1600は、スケール部にビデオ画像のスケール処理を指示していない場合(ステップS140:NO)は、指示されたサイズ等に変更する処理を依頼する(ステップS150)。具体的には、変更指示情報2310の始点2312とサイズ2313とで、オブジェクト情報1510のオブジェクトID1511が「ID3」の始点1513とサイズ1514とを更新して、オブジェクトID1511が「ID3」の情報(1512〜1516)を渡す(ステップS151)。尚、本実施形態では、ビデオ画像は1つとしており、疑似ビデオ画像は1つであるが、複数ある場合は、疑似ビデオ画像毎に、スケール処理の指示をするか否かを判断することになる。
まだ表示していないオブジェクトがある場合(ステップS155:NO)は、次のオブジェクト、すなわち、スタック1515の値が次に小さいオブジェクトの生成を開始する(ステップS115)。
例えば、図5(a)のオブジェクト情報1510の場合は、まず、オブジェクトID1511が「ID2」のグラフィックスオブジェクトの番組一覧の画像を生成し、次に、オブジェクトID1511が「ID1」のグラフィックスオブジェクトの文字列の画像を生成する。その後、オブジェクトID1511が「ID3」のビデオオブジェクトの疑似ビデオ画像を生成する。
全てのオブジェクトの生成が終了(ステップS155:YES)しても、スケール部1300からのスケール処理の完了通知を受けていない場合(ステップS160:NO)には、ビデオ表示制御部1600は、表示制御部1500にスケール処理が完了していない旨を通知する。
スケール処理が完了していない旨の通知を受けた表示制御部1500は、次に表示するための疑似ビデオ画像の位置とサイズを算出し(ステップS110)、ステップS160までの処理を繰り返す。但し、既にスケール部1300のスケール処理の依頼をしていることから(ステップS140:YES)、ステップS150の処理は行わないことになる。
スケール部1300からのスケール処理の完了通知を受けていた場合(ステップS160:YES)には、ビデオ表示制御部1600は、その旨を、表示制御部1500に通知する。但し、この場合、擬似ビデオ画像を段階的に大きくしていく場合は、擬似ビデオ画像の位置とサイズとが指定された位置とサイズとなっていなくても、スケール処理が終了した時に、表示制御部1500に通知されることになる。尚、擬似ビデオ画像を段階的に大きくしていく場合は、指定された位置とサイズの擬似ビデオ画像が表示され、且つ、スケール処理の完了通知を受けた場合に、ビデオ表示制御部1600は、スケール処理が完了した旨を、表示制御部1500に通知することとしてもよい。
また、ビデオ表示制御部1600は、疑似ビデオ生成部1700に、ビデオ画像に対応する部分を透明色にするよう依頼する。具体的には、ビデオ表示制御部1600がスケール部1300にスケール処理を依頼したとき(ステップS150参照)の位置とサイズとを疑似ビデオ生成部1700に渡して依頼する。
透明にするよう依頼を受けた疑似ビデオ生成部1700は、グラフィックスフレーム記憶部2200に記憶されている画像のうち、受け取った始点1513とサイズ1514で現される矩形部分を透明にする(ステップS170)。
スケール処理が完了していることを通知された表示制御部1500は、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523とを、変更指示情報2310の始点2312とサイズ2313とで更新し、ビデオ画像の変更処理を終了する。
一方、スケール処理を依頼されたスケール部1300は、オブジェクト情報1510のオブジェクトID1511が「ID3」の情報、すなわち、始点1513とサイズ1514とアドレス1516とを取得し(ステップS200)、デコード画像記憶部1200からアドレス1516をもとに最新のデコード画像を読み込んでスケール処理を行い(ステップS210)、受け取った始点1513とサイズ1514のビデオ画像を生成する(ステップS220)。
スケール部1300は、依頼された位置とサイズのビデオ画像をビデオフレーム記憶部1400に生成したら、スケール処理の完了通知をビデオ表示制御部1600に送信する(ステップS230、ステップS231)。
図5(a)のオブジェクト情報1510では、ビデオオブジェクトが最も上に生成されることになるが、その上にグラフィックスオブジェクトが生成されてもよく、この場合は、このグラフィックスオブジェクトのスタック1515の値は、ビデオオブジェクトのスタック1515の値より小さな値となる。同様に、疑似ビデオ画像が複数ある場合は、ビデオオブジェクトが重なってもよい。
尚、本実施形態では、オブジェクト情報1510で管理されているオブジェクトの全てを、疑似ビデオのサイズ等を変更する(ステップS110参照)毎に表示することとしているが、疑似ビデオのサイズ等の変更により露出してしまうオブジェクト、すなわち、本来表示されるべき画像が欠けてしまうオブジェクトのみを、グラフィックスデータ記憶部2000から読み出して生成することとしてもよい。
例えば、図5(a)のオブジェクト情報1510の場合、オブジェクトID1511が「ID3」の疑似ビデオ画像が、現在表示されている疑似ビデオ画像より小さく表示される場合は、疑似ビデオ画像より下に表示されるオブジェクトが欠けるか否かを判断する。このオブジェクトのスタック1515が「1」なので、スタックが「2」と「3」のオブジェクトの始点1513とサイズ1514とから、各オブジェクトが欠けるか否かを判断し、欠けてしまうと判断したオブジェクトを表示する。
<実施形態2>
<概要>
実施形態1では、疑似ビデオ画像は、動画像のストリームデータを復号したデコード画像を基に生成していたが、本実施形態では、ビデオフレーム記憶部1400に記憶されているビデオ画像を基に生成する点が異なる。
実施形態1では、疑似ビデオ画像はデコード画像を拡大・縮小して生成するが、この際、疑似ビデオ画像のサイズとデコード画像のサイズとの差が大きい場合には、デコード画像の読み込みに時間がかかる場合がある。また、拡大・縮小フィルタの次数が小さい場合には、画像の劣化を防止するために複数回に分けて拡大・縮小する場合があり、この場合には疑似ビデオ画像を生成するのに時間がかかる場合が生じ得る。
そこで、本実施形態では、サイズがより近いビデオ画像を基に、疑似ビデオ画像を生成するものである。
<構成>
図9は、本実施形態に係る表示装置700の構成を示す機能ブロック図である。
表示装置700は、デコード部1100、デコード画像記憶部1200、スケール部1300、ビデオフレーム記憶部1400、表示制御部7500、ビデオ表示制御部1600、疑似ビデオ生成部7700、合成部1800、グラフィックスデータ記憶部2000、グラフィックス生成部2100、グラフィックスフレーム記憶部2200及びアプリケーション処理部2300とで構成される。
表示装置700は、実施形態1に係る表示装置100(図1参照)の構成とほぼ同じであり、異なる機能部は、表示制御部7500と疑似ビデオ生成部7700のみである。他の機能部は、表示装置100の同じ符号の付いた機能部と同様である。
表示制御部7500は、実施形態1では、ビデオ表示制御部1600に画像の生成を依頼する際に、疑似ビデオ画像の基となるデコード画像のアドレスを渡すが、本実施形態では、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523を渡す点が異なる。すなわち、ビデオフレームにおけるビデオ画像の位置と大きさを渡す。
また、疑似ビデオ生成部7700は、実施形態1の疑似ビデオ生成部1700がデコード画像記憶部1200から基となる画像データを読み出したのに対し、本実施形態では、ビデオフレーム記憶部1400から基となる画像データを読み出す点が異なる。
<データ>
表示装置700で用いる主なデータについては、実施形態1の表示装置100が用いる図5に示すデータと同じである。
<動作>
図10は、本実施形態の、ビデオ画像が拡大される場合を示す図である。
図4で示した実施形態1の場合と、疑似ビデオ画像を生成して表示する点は同じであるが、実施形態1では、疑似ビデオ画像320はデコード画像から生成されているが、疑似ビデオ画像710はビデオ画像から生成されている点が異なる。実施形態1と同様に、拡大されたビデオ画像711が生成されたときに、グラフィックス画像に透明領域712を生成してビデオ画像が表示される。尚、本図では、疑似ビデオ画像は、右斜線が引かれている。
以下、本発明に係る表示装置700の動作について図11と図12とを用いて説明する。
図11は、ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。
本タイミングチャートは、実施形態1のタイミングチャート(図7参照)とほほ同じであり、異なる点は、疑似ビデオ生成部7700がビデオフレーム記憶部1400から画像データを読み出している点である(画像データの送信720)。
次に、図12は、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。
本フローチャートは、実施形態1のフローチャート(図8参照)とほほ同じであり、異なる点は、ステップS700において、疑似ビデオ生成部7700がビデオフレーム記憶部1400から画像データを読み出している点のみである。
以下、図8の実施形態1のフローチャートと異なる点を中心に、表示制御部7500とビデオ表示制御部1600と疑似ビデオ生成部1700とが行う表示制御処理と、スケール部1300が行う変更処理とを説明する。
ユーザがビデオ画像を拡大する操作を行い、操作を検知したアプリケーション処理部2300が、表示制御部7500にビデオ画像の拡大を指示し、ビデオ画像を拡大する指示を取得した表示制御部7500は(ステップS100)、表示する疑似ビデオ画像の位置とサイズとを算出する(ステップS110)。
疑似ビデオ画像の位置とサイズとを算出した表示制御部7500は、その後、オブジェクト情報1510の種別1512とスタック1515に応じて、全てのオブジェクトを生成する(ステップS115〜ステップS155)。
グラフィックス画像を生成する場合(ステップS115:グラフィック)、表示制御部7500は、グラフィック生成部2100に依頼し、グラフィックスオブジェクトを生成する(ステップS120)。
また、疑似ビデオ画像を生成する場合(ステップS115:ビデオ)、表示制御部7500は、算出した疑似ビデオ画像の位置とサイズと、ビデオ画像の始点とサイズとをビデオ表示制御部1600に渡し、画像の生成を依頼する。ビデオ画像の始点とサイズとは、具体的には、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」の始点1522とサイズ1523である。
ビデオ表示制御部1600は、表示制御部7500から受け取った始点等の情報とを疑似ビデオ生成部7700に渡して、ビデオフレーム記憶部1400から疑似ビデオ画像の基となる画像を読み出して疑似ビデオ画像を生成するよう依頼する。
依頼を受けた疑似ビデオ生成部7700は、ビデオフレーム記憶部1400からビデオ画像を読み出し、読み出したビデオ画像から疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する(ステップS700)。
オブジェクトの生成を依頼したビデオ表示制御部1600は、スケール部にビデオ画像のスケール処理を指示していない場合(ステップS140:NO)は、指示されたサイズ等に変更する処理を依頼する(ステップS150)。
まだ表示していないオブジェクトがある場合(ステップS155:NO)は、次のオブジェクト、すなわち、スタック1515の値が次に小さいオブジェクトの生成を開始する(ステップS115)。
全てのオブジェクトの生成が終了(ステップS155:YES)しても、スケール部1300からのスケール処理の完了通知を受けていない場合(ステップS160:NO)には、ビデオ表示制御部1600は、表示制御部7500にスケール処理が完了していない旨を通知し、通知を受けた表示制御部7500は、次に表示するための疑似ビデオ画像の位置とサイズを算出し(ステップS110)、ステップS160までの処理を繰り返す。
スケール部1300からのスケール処理の完了通知を受けていた場合(ステップS160:YES)、ビデオ表示制御部1600は、その旨を、表示制御部7500に通知し、疑似ビデオ生成部7700に、ビデオ画像に対応する部分を透明色にするよう依頼する。
依頼を受けた疑似ビデオ生成部7700は、該当部分を透明にし(ステップS170)、スケール処理が完了していることを通知された表示制御部7500は、ビデオ画像の変更処理を終了する。
一方、スケール処理を依頼されたスケール部1300は、位置とサイズとアドレスとを取得し(ステップS200)、デコード画像記憶部1200からアドレス1516に記憶されているデコード画像を読み込んでスケール処理を行い(ステップS210)、ビデオ画像を生成する(ステップS220)。スケール部1300は、ビデオ画像を生成したら、スケール処理の完了通知をビデオ表示制御分1600に送信する(ステップS230、ステップS231)。
<実施形態3>
<概要>
実施形態1は、疑似ビデオ画像は、動画像のストリームデータを復号したデコード画像を基に生成し、実施形態2では、ビデオフレーム記憶部1400に記憶されているビデオ画像を基に生成していたが、本実施形態では、デコード画像かビデオ画像かを選択して、選択した画像を基に生成する点が異なる。
本実施形態では、画像データの読み込みにかかる時間や、縮小処理の時間がより短くなるように、デコード画像とビデオ画像のうち、サイズが疑似ビデオ画像により近いほうの画像を基に、疑似ビデオ画像を生成するものである。
例えば、デコード画像のサイズがビデオデータによって異なる場合には、デコード画像のサイズに応じて基となる画像を選択できるので、疑似ビデオ画像の生成時間を短縮できるという効果がある。
<構成>
図13は、本実施形態に係る表示装置800の構成を示す機能ブロック図である。
表示装置800は、デコード部1100、デコード画像記憶部1200、スケール部1300、ビデオフレーム記憶部1400、表示制御部8500、ビデオ表示制御部1600、疑似ビデオ生成部8700、画像選択部8710、合成部1800、グラフィックスデータ記憶部2000、グラフィックス生成部2100、グラフィックスフレーム記憶部2200及びアプリケーション処理部2300とで構成される。
表示装置800は、実施形態1に係る表示装置100(図1参照)の構成とほぼ同じであり、異なる機能部は、表示制御部8500、疑似ビデオ生成部8700、画像選択部8710である。他の機能部は、表示装置100の同じ符号の付いた機能部と同様である。
表示制御部8500は、実施形態1の表示制御部1500の有する機能に加え、拡大指示をアプリケーション処理部2300から受けた際に、画像選択部8710に、現在のビデオ画像のサイズを通知する機能を有する。具体的には、ビデオ画像配置情報1520の画像種別1521が「ビデオ画像」のサイズ1523を通知する。
また、疑似ビデオ生成部8700は、実施形態1の疑似ビデオ生成部1700がデコード画像記憶部1200から基となる画像データを読み出したのに対し、本実施形態では、画像選択部8710に疑似ビデオ画像のサイズを渡して、画像データを受け取る点が異なる。
画像選択部8710は、疑似ビデオ生成部8700から疑似ビデオ画像のサイズを受け取り、現在のビデオ画像のサイズとデコード画像のサイズとから、サイズが近いほうの画像を選択する。現在のビデオ画像のサイズは、表示制御部8500から通知され、デコード画像のサイズは、疑似ビデオ生成部8700から疑似ビデオ画像のサイズと供に受け取るものである。
画像選択部8710は、選択した方の画像データを読み出し、疑似ビデオ生成部8700に渡す機能を有する。
<データ>
表示装置700で用いる主なデータについては、実施形態1の表示装置100が用いる図5に示すデータと同じである。
<動作>
図14は、本実施形態の、ビデオ画像が拡大される場合を示す図である。
本図では、デコード画像から生成した疑似ビデオ画像には横斜線が引かれており、ビデオ画像から生成した疑似ビデオ画像には右斜線が引かれている。
すなわち、疑似ビデオ画像810は、ビデオ画像から生成され、疑似ビデオ画像811は、デコード画像から生成されている。
以下、本発明に係る表示装置800の動作について図15〜図17とを用いて説明する。
図15は、ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。
本タイミングチャートは、実施形態1のタイミングチャート(図7参照)とほほ同じであり、異なる点は、疑似ビデオ生成部8700がデコード画像記憶部1200又はビデオフレーム記憶部1400から画像データを読み出している点である(画像データの送信820、821)。
次に、図16は、表示装置800の表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートであり、図17は、疑似ビデオ生成処理を表すフローチャートである。
図16のフローチャートは、実施形態1のフローチャート(図8参照)とほほ同じであり、異なる点は、ステップS800において、表示制御部8500が、画像選択部8710に、現在のビデオ画像のサイズを通知する点と、ステップS810で、画像選択部8700が疑似ビデオ画像の基となる画像を選択して、選択した画像から疑似ビデオ画像を生成する点である。ステップS810の処理は、図17を用いて、後で説明する。
以下、図8の実施形態1のフローチャートと異なる点を中心に、図16を用いて、表示制御部8500とビデオ表示制御部1600と疑似ビデオ生成部8700とが行う表示処理と、スケール部1300が行う変更処理とを説明する。
ユーザがビデオ画像を拡大する操作を行い、操作を検知したアプリケーション処理部2300が、表示制御部8500にビデオ画像の拡大を指示し、ビデオ画像を拡大する指示を取得した表示制御部8500は(ステップS100)、表示する疑似ビデオ画像の位置とサイズとを算出する(ステップS110)。
また、表示制御部8500は、画像選択部8710に、現在のビデオ画像のサイズを通知する(ステップS800)。通知を受けた画像選択部8710は、内部のメモリに現在のビデオ画像のサイズを記憶する。
疑似ビデオ画像の位置とサイズとを算出した表示制御部8500は、その後、オブジェクト情報1510の種別1512とスタック1515に応じて、全てのオブジェクトを生成する(ステップS 115〜ステップS155)。
グラフィックス画像を生成する場合(ステップS115:グラフィック)、表示制御部8500は、グラフィック生成部2100に依頼し、グラフィックスオブジェクトを生成する(ステップS120)。
また、疑似ビデオ画像を生成する場合(ステップS115:ビデオ)、表示制御部8500は、表示制御部8500は、算出した疑似ビデオ画像の位置とサイズとデコード画像のアドレスとをビデオ表示制御部1600に渡し、画像の生成を依頼する。ビデオ表示制御部1600は、デコード画像記憶部1200からデコード画像のサイズを取得し、取得したサイズと表示制御部8500から受け取った始点等の疑似ビデオの情報とを疑似ビデオ生成部8700に渡して、疑似ビデオ画像を生成するよう依頼する。
依頼を受けた疑似ビデオ生成部8700は、疑似ビデオ画像をグラフィックスフレーム記憶部2200に生成する。
オブジェクトの生成を依頼したビデオ表示制御部1600は、スケール部にビデオ画像のスケール処理を指示していない場合(ステップS140:NO)は、指示されたサイズ等に変更する処理を依頼する(ステップS150)。
まだ表示していないオブジェクトがある場合(ステップS155:NO)には、次のオブジェクト、すなわち、スタック1515の値が次に小さいオブジェクトの生成を開始する(ステップS115)。
全てのオブジェクトの生成が終了し(ステップS155:YES)、スケール部1300からのスケール処理の完了通知を受けていない場合(ステップS160:NO)には、ビデオ表示制御部1600は、表示制御部8500にスケール処理が完了していない旨を通知し、スケール処理が完了していない旨の通知を受けた表示制御部8500は、次に表示するための疑似ビデオ画像の位置とサイズを算出し(ステップS110)、ステップS160までの処理を繰り返す。
スケール部1300からのスケール処理の完了通知を受けていた場合(ステップS160:YES)、ビデオ表示制御部1600は、その旨を、表示制御部8500に通知し、疑似ビデオ生成部8700に、ビデオ画像に対応する部分を透明色にするよう依頼する。
依頼を受けた疑似ビデオ生成部8700は、該当部分を透明にし(ステップS170)、スケール処理が完了していることを通知された表示制御部8500は、ビデオ画像の変更処理を終了する。
一方、スケール処理を依頼されたスケール部1300は、位置とサイズとアドレスとを取得し(ステップS200)、デコード画像記憶部1200からアドレス1516に記憶されているデコード画像を読み込んでスケール処理を行い(ステップS210)、ビデオ画像を生成する(ステップS220)。スケール部1300は、ビデオ画像を生成したら、スケール処理の完了通知をビデオ表示制御分1600に送信する(ステップS230、ステップS231)。
次に、図17を用いて、表示装置800の疑似ビデオ生成(ステップS810)の処理を説明する。
依頼を受けた疑似ビデオ生成部8700は、ビデオ表示制御部1600から受け取ったデコード画像のサイズ及びアドレスと、疑似ビデオ画像のサイズとを画像選択部8710に渡し、画像データの読み込みを依頼する。
依頼を受けた画像選択部8710は(ステップS850)、表示制御部8500から通知された現在のビデオ画像のサイズと、疑似ビデオ生成部8700から受け取ったデコード画像のサイズとから、疑似ビデオ画像に近いサイズの画像を判定する(ステップS860)。
デコード画像の方が近いと判断した場合は(ステップS860:デコード画像)、デコード画像記憶部1200からデコード画像を読み込み、疑似ビデオ生成部8700に返す。
また、ビデオ画像の方が近いと判断した場合は(ステップS860:ビデオ画像)、ビデオフレーム記憶部からビデオ画像を読み込み、疑似ビデオ生成部8700に返す。
画像選択部8710から画像データを受け取った疑似ビデオ生成部8700は、受け取った画像から疑似ビデオ画像を生成する(ステップS890)。
<補足>
以上、本発明の実施形態について説明したが、本発明は上記形態に限らず、以下のようにしてもよい。
(1)実施形態では、スケール部1300からのスケール処理の完了通知を受信したら、グラフィックス画像の一部を透明色としているが、一定時間が経過したら透明色とすることとしてもよい。この場合、スケール処理の時間よりも長く設定しておく必要がある。
(2)実施形態では、ビデオ画像を拡大する例を説明したが、ビデオ画像を縮小したり、移動したりする場合であってももちろんよい。例えば、縮小する場合は、背景等のグラフィックス画像を描画し、段階的に小さくなるビデオ画像を生成して表示する。
(3)実施形態では、疑似ビデオ画像は、ビデオ画像と同様の内容の画像、すなわち、ビデオ画像そのものやビデオ画像の基であるデコード画像から生成した画像としているが、ビデオ画像に表示される画像を変形した画像であっても、また、まったく違う内容の画像であってもよい。
また、矩形以外の形状であってもよく、例えば、円や楕円等であってもよい。
例えば、疑似ビデオ画像を表示する際に、3次元グラフィックス技術を使用して、画像の矩形領域を回転させて表示したり等、様々な表示効果を付加した画像を擬似ビデオ画像として表示するなどである。
(4)実施形態では、ビデオ画像を生成するのに用いられる拡大・縮小フィルタの方が、疑似ビデオ画像を生成するのに用いられる拡大・縮小フィルタよりも高次のフィルタであるとしているが、同じ特性のフィルタであってもよい。
同じ特性のフィルタの場合は、例えば、ビデオフレーム記憶部1400に記憶する画像の解像度よりも、グラフィックスフレーム記憶部2200に記憶する画像の解像度の方が低い必要がある。すなわち、解像度が低い分、処理時間が短くて済むからであり、ビデオ画像を拡大・縮小している間に、疑似ビデオ画像を生成することが可能となるからである。
また、グラフィックスフレーム記憶部2200に記憶する画像の解像度の方が低い場合は、グラフィックス画像を拡大してビデオ画像と合成して表示することとなる。この場合、疑似ビデオ画像からビデオ画像に切り替わったとき、すなわち、グラフィックス画像の一部が透明となりビデオ画像が表示されたときには、解像度の差が目立ってしまう場合がある。解像度の差が目立つ場合には、グラフィックス画像のビデオ画像部分の透明度を徐々に上げることで、目立たなくすることとしてもよい。この場合、ビデオ画像が描画中である場合は必ず不透明としておくなど、ビデオ画像の状態を考慮して、透明度を変える必要がある。
また、解像度の大小に係らず、疑似ビデオ画像からビデオ画像に切り替わる場合には、ビデオ画像とグラフィックス画像のピクセル毎の合成比を段階的に変えることで、スムーズな切り替わりを実現することとしてもよい。
(5)実施形態では、疑似ビデオ画像は、ビデオ画像のスケール処理を行っている間、表示することとしているが、ビデオ画像のスケール処理の前や後にも表示してもよい。例えば、ビデオ画像の拡大・縮小がディスプレイ上でスムーズに見えるように、大きさが段階的に変化する疑似ビデオ画像を表示して、拡大されたビデオ画像を表示するなどである。
(6)表示装置は、図1、図9、図13の各構成要素の全部又は一部を、1チップ又は複数チップの集積回路で実現してもよい。
(7)表示装置は、図1、図9、図13の各構成要素の全部又は一部を、コンピュータのプログラムで実現してもよいし、その他どのような形態で実施してもよい。コンピュータプログラムの場合、メモリカード、CD−ROMなどいかなる記録媒体に書き込まれたものをコンピュータに読み込ませて実行させる形にしてもよいし、ネットワークを経由してプログラムをダウンロードして実行させる形にしてもよい。
本発明は、同一ディスプレイに表示されている動画像と静止画像との表示形態を変更する場合に適用することができる。
表示装置100の構成を示す機能ブロック図である。 動画像と静止画像とを同一のディスプレイ上に表示する仕組みを示す図である。 従来の問題点である、ビデオ画像が拡大される場合に生ずる画像のずれを示す図である。 本願発明の、ビデオ画像が拡大される場合を示す図である。 図5(a)は、オブジェクト情報1510の構成及び内容例を示す図であり、図5(b)は、ビデオ画像配置情報1520の構成及び内容例を示す図であり、図5(c)は、変更指示情報2310の構成及び内容例を示す図である。 表示画面とオブジェクトの関係の具体例を示す図である。 ビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。 表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。 実施形態2の表示装置700の構成を示す機能ブロック図である。 実施形態2において、ビデオ画像が拡大される場合を示す図である。 実施形態2においてビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。 実施形態2における、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。 実施形態3の表示装置800の構成を示す機能ブロック図である。 実施形態3において、ビデオ画像が拡大される場合を示す図である。 実施形態3においてビデオ画像を拡大する処理を行う場合の、各機能部の処理のタイミングチャートである。 実施形態3における、表示制御処理と、ビデオ画像のサイズ等の変更処理を表すフローチャートである。 実施形態3における、疑似ビデオ画像生成処理を表すフローチャートである。
符号の説明
100 700 800 表示装置
200 ディスプレイ
1000 ビデオデータ記憶部
1100 デコード部
1200 デコード画像記憶部
1300 スケール部
1400 ビデオフレーム記憶部
1500 7500 8500 表示制御部
1600 ビデオ表示制御部
1700 7700 8700 疑似ビデオ生成部
1800 合成部
2000 グラフィックスデータ記憶部
2100 グラフィックス生成部
2200 グラフィックスフレーム記憶部
2300 アプリケーション処理部
8710 画像選択部

Claims (7)

  1. 画像を記憶する第1メモリと第2メモリと、
    前記第1メモリに記憶されている画像と前記第2メモリに記憶されている画像とを、前記第2メモリに記憶されている画像が前面になるように合成した画像をディスプレイに表示する表示手段と、
    画像を前記第1メモリに生成する第1画像生成手段と、
    画像を前記第2メモリに生成する第2画像生成手段と、
    前記第1メモリに記憶する画像の表示サイズ又は表示位置を取得する取得手段と、
    前記取得手段で表示サイズ又は表示位置を取得した場合は、前記第1画像生成手段に当該表示サイズ又は表示位置の画像の生成を開始させ、当該生成が終了するまでの間、前記第2画像生成手段に、前記第1画像生成手段が生成している画像を覆う大きさの不透明な画像を生成させて前記表示手段で表示し、前記第1画像生成手段の画像の生成が終了したら、前記第2画像生成手段に、前記第1画像生成手段が生成した画像の前面となる部分が透明である画像を生成させて前記表示手段で表示する表示制御手段と
    を備えることを特徴とする表示装置。
  2. 前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの1フレーム画像に基づいて、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、
    前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段により生成を開始させた前記1フレーム画像から生成される画像である
    ことを特徴とする請求項1記載の表示装置。
  3. 前記第2画像生成手段は、前記第1画像生成手段による画像の生成よりも短い時間で、第1動画像生成手段が生成する画像よりも精度の低い画像を第2メモリに生成する
    ことを特徴とする請求項2記載の表示装置。
  4. 前記第2画像生成手段は、前記1フレーム画像から生成する画像以外に、他の画像を前記第2メモリに生成し、
    前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段による画像の生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、当該表示サイズ又は表示位置の画像と前記他の画像であり、前記第1画像生成手段の画像の生成が終了後に前記第2画像生成手段に生成させる画像は、前記他の画像である
    ことを特徴とする請求項2記載の表示装置。
  5. 前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの各1フレーム画像から、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、
    前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段に生成を開始させたときに前記第1メモリに記憶されている画像から生成される画像である
    ことを特徴とする請求項1記載の表示装置。
  6. 前記第1画像生成手段は、動画像を構成する複数フレーム画像のうちの1フレーム画像から、所定の表示サイズ及び所定の表示位置の画像を前記第1メモリに生成し、
    前記表示制御手段が、前記取得手段で表示サイズ又は表示位置を取得した場合に、前記第1画像生成手段に生成を開始させる画像は、前記1フレーム画像から生成される画像であり、当該生成が終了するまでの間、前記第2画像生成手段に生成させる画像は、前記第1画像生成手段に生成を開始させた1フレーム画像と前記第1画像生成手段に生成を開始させたときに前記第1メモリに記憶されている画像のうち、画像の大きさが前記第2画像生成手段に生成させる画像の大きさに近い方の画像から生成される画像である
    ことを特徴とする請求項2記載の表示装置。
  7. 画像を記憶する第1メモリと第2メモリとディスプレイとを備える表示装置で用いられる画像表示方法であって、
    前記第1メモリに記憶されている画像と前記第2メモリに記憶されている画像とを、前記第2メモリに記憶されている画像が前面になるように合成した画像を前記ディスプレイに表示する表示ステップと、
    画像を前記第1メモリに生成する第1画像生成ステップと、
    画像を前記第2メモリに生成する第2画像生成ステップと、
    前記第1メモリに記憶する画像の表示サイズ又は表示位置を取得する取得ステップと、
    前記取得ステップで表示サイズ又は表示位置を取得した場合は、前記第1画像生成ステップで当該表示サイズ又は表示位置の画像の生成を開始させ、当該生成が終了するまでの間、前記第2画像生成ステップで、前記第1画像生成ステップで生成している画像を覆う大きさの不透明な画像を生成させて前記表示ステップで表示し、前記第1画像生成ステップで画像の生成が終了したら、前記第2画像生成ステップで、前記第1画像生成ステップで生成した画像の前面となる部分が透明である画像を生成させて前記表示ステップで表示する表示制御ステップと
    を備えることを特徴とする画像表示方法。
JP2009514015A 2007-05-08 2008-05-08 表示装置 Expired - Fee Related JP5108877B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009514015A JP5108877B2 (ja) 2007-05-08 2008-05-08 表示装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2007123188 2007-05-08
JP2007123188 2007-05-08
PCT/JP2008/001157 WO2008139730A1 (ja) 2007-05-08 2008-05-08 表示装置
JP2009514015A JP5108877B2 (ja) 2007-05-08 2008-05-08 表示装置

Publications (2)

Publication Number Publication Date
JPWO2008139730A1 true JPWO2008139730A1 (ja) 2010-07-29
JP5108877B2 JP5108877B2 (ja) 2012-12-26

Family

ID=40001955

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009514015A Expired - Fee Related JP5108877B2 (ja) 2007-05-08 2008-05-08 表示装置

Country Status (4)

Country Link
US (1) US8289345B2 (ja)
JP (1) JP5108877B2 (ja)
CN (1) CN101542587B (ja)
WO (1) WO2008139730A1 (ja)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101542587B (zh) * 2007-05-08 2012-09-05 松下电器产业株式会社 显示装置以及图像显示方法
JP5120125B2 (ja) * 2008-07-22 2013-01-16 日本電気株式会社 画像合成システム、表示制御方法、描画処理装置、及び制御プログラム
EP2338278B1 (en) 2008-09-16 2015-02-25 Intel Corporation Method for presenting an interactive video/multimedia application using content-aware metadata
US20100253850A1 (en) * 2009-04-03 2010-10-07 Ej4, Llc Video presentation system
JP5237175B2 (ja) * 2009-04-09 2013-07-17 キヤノン株式会社 映像処理装置及びその制御方法
WO2011013748A1 (ja) * 2009-07-31 2011-02-03 シャープ株式会社 画像処理装置、画像処理装置の制御方法、画像処理装置の制御プログラム、および制御プログラムを記録した記録媒体
US8970669B2 (en) 2009-09-30 2015-03-03 Rovi Guides, Inc. Systems and methods for generating a three-dimensional media guidance application
US20110137727A1 (en) * 2009-12-07 2011-06-09 Rovi Technologies Corporation Systems and methods for determining proximity of media objects in a 3d media environment
US9503771B2 (en) 2011-02-04 2016-11-22 Qualcomm Incorporated Low latency wireless display for graphics
KR101946574B1 (ko) * 2011-12-16 2019-02-11 삼성전자주식회사 영상 재생 장치, 방법, 및 컴퓨터 판독가능 저장매체
CN108230988B (zh) 2012-02-08 2022-02-01 三星电子株式会社 显示装置
US9198496B2 (en) * 2012-07-02 2015-12-01 Sony Corporation Makeup TV
CN103312981A (zh) * 2013-03-22 2013-09-18 中科创达软件股份有限公司 一种多照片合成拍照方法及拍照装置
US10521939B2 (en) 2013-05-16 2019-12-31 Analog Devices Global Unlimited Company System, method and recording medium for processing macro blocks for overlay graphics
WO2014184956A1 (ja) 2013-05-17 2014-11-20 三菱電機株式会社 映像合成装置および方法
TWI520610B (zh) * 2013-08-01 2016-02-01 晨星半導體股份有限公司 電視控制裝置與相關方法
JP2015233208A (ja) * 2014-06-09 2015-12-24 キヤノン株式会社 画像処理装置
KR102246105B1 (ko) * 2014-09-25 2021-04-29 삼성전자주식회사 디스플레이 장치, 이의 제어 방법 및 이의 데이터 전송 방법
US9497505B2 (en) * 2014-09-30 2016-11-15 The Nielsen Company (Us), Llc Systems and methods to verify and/or correct media lineup information
CN105208288A (zh) * 2015-10-21 2015-12-30 维沃移动通信有限公司 一种照片的拍摄方法及移动终端
CN105528036A (zh) * 2016-01-21 2016-04-27 珠海格力电器股份有限公司 手操器
CN106294681B (zh) * 2016-08-05 2019-11-05 腾讯科技(深圳)有限公司 多重曝光的方法、装置和系统
JP2020144821A (ja) * 2019-03-08 2020-09-10 株式会社リコー 画像表示システム、画像表示方法、プログラム
CN111654737B (zh) * 2020-06-24 2022-07-12 北京嗨动视觉科技有限公司 节目同步管理方法和装置

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0605945B1 (en) * 1992-12-15 1997-12-29 Sun Microsystems, Inc. Method and apparatus for presenting information in a display system using transparent windows
EP0702878A4 (en) * 1993-06-07 1997-01-02 Scientific Atlanta DISPLAY SYSTEM FOR A SUBSCRIBER TERMINAL
US5604544A (en) * 1995-05-31 1997-02-18 International Business Machines Corporation Video receiver display of cursor overlaying video
JPH0990921A (ja) 1995-09-20 1997-04-04 Sony Corp 画像合成装置及び受信装置
US5854640A (en) * 1996-01-02 1998-12-29 Intel Corporation Method and apparatus for byte alignment of video data in a memory of a host system
US5754170A (en) * 1996-01-16 1998-05-19 Neomagic Corp. Transparent blocking of CRT refresh fetches during video overlay using dummy fetches
US6144415A (en) * 1996-03-07 2000-11-07 Thomson Licensing S.A. Apparatus for sampling and displaying an auxiliary image with a main image to eliminate a spatial seam in the auxiliary image
US6067092A (en) * 1997-07-24 2000-05-23 Ati Technologies, Inc. Automatic video overlay alignment method and apparatus
US7623140B1 (en) * 1999-03-05 2009-11-24 Zoran Corporation Method and apparatus for processing video and graphics data to create a composite output image having independent and separate layers of video and graphics
US8698840B2 (en) * 1999-03-05 2014-04-15 Csr Technology Inc. Method and apparatus for processing video and graphics data to create a composite output image having independent and separate layers of video and graphics display planes
US6396473B1 (en) * 1999-04-22 2002-05-28 Webtv Networks, Inc. Overlay graphics memory management method and apparatus
US6606103B1 (en) * 1999-11-30 2003-08-12 Uhc Llc Infinite resolution scheme for graphical user interface object
AU2001233019A1 (en) * 2000-01-28 2001-08-07 Intersense, Inc. Self-referenced tracking
US6567091B2 (en) * 2000-02-01 2003-05-20 Interactive Silicon, Inc. Video controller system with object display lists
US7445551B1 (en) * 2000-05-24 2008-11-04 Nintendo Co., Ltd. Memory for video game system and emulator using the memory
US6672963B1 (en) * 2000-09-18 2004-01-06 Nintendo Co., Ltd. Software implementation of a handheld video game hardware platform
US8006192B1 (en) * 2000-10-04 2011-08-23 Apple Inc. Layered graphical user interface
US7325199B1 (en) * 2000-10-04 2008-01-29 Apple Inc. Integrated time line for editing
JP3548521B2 (ja) * 2000-12-05 2004-07-28 Necマイクロシステム株式会社 半透明画像処理装置及び方法
US7549127B2 (en) * 2002-08-01 2009-06-16 Realnetworks, Inc. Method and apparatus for resizing video content displayed within a graphical user interface
US7477205B1 (en) * 2002-11-05 2009-01-13 Nvidia Corporation Method and apparatus for displaying data from multiple frame buffers on one or more display devices
US6911983B2 (en) * 2003-03-12 2005-06-28 Nvidia Corporation Double-buffering of pixel data using copy-on-write semantics
JP4161770B2 (ja) 2003-04-01 2008-10-08 ソニー株式会社 データ合成装置およびデータ合成方法
US8127248B2 (en) * 2003-06-20 2012-02-28 Apple Inc. Computer interface having a virtual single-layer mode for viewing overlapping objects
US7644407B2 (en) * 2004-03-05 2010-01-05 Intel Corporation Method, apparatus and system for seamlessly sharing a graphics device amongst virtual machines
US7837558B2 (en) * 2004-03-31 2010-11-23 Nintendo Co., Ltd. Game console and emulator for the game console
JP4293053B2 (ja) * 2004-05-19 2009-07-08 ソニー株式会社 撮像装置及び方法
JP4186878B2 (ja) 2004-06-08 2008-11-26 ソニー株式会社 動画像再生装置,動画像再生方法,プログラム及びその記録媒体
US20060033753A1 (en) * 2004-08-13 2006-02-16 Jimmy Kwok Lap Lai Apparatuses and methods for incorporating an overlay within an image
JP2006098935A (ja) 2004-09-30 2006-04-13 Matsushita Electric Ind Co Ltd ビデオ・グラフィックス表示装置
EP2200313A1 (en) * 2004-11-12 2010-06-23 Saab Ab Image-based movement tracking
CN101103341A (zh) * 2005-01-17 2008-01-09 松下电器产业株式会社 电子文档显示设备和方法
CN100412947C (zh) * 2005-06-08 2008-08-20 上海乐金广电电子有限公司 具有多路径的屏幕显示体现方法
US8169484B2 (en) * 2005-07-05 2012-05-01 Shai Silberstein Photography-specific digital camera apparatus and methods useful in conjunction therewith
WO2007015047A2 (en) * 2005-08-04 2007-02-08 Nds Limited Advanced digital tv system
NZ542843A (en) * 2005-10-05 2008-08-29 Pure Depth Ltd Method of manipulating visibility of images on a volumetric display
US20090138811A1 (en) * 2005-11-02 2009-05-28 Masaki Horiuchi Display object penetrating apparatus
WO2007109162A2 (en) * 2006-03-17 2007-09-27 Viddler, Inc. Methods and systems for displaying videos with overlays and tags
WO2007132648A1 (ja) * 2006-05-11 2007-11-22 Panasonic Corporation 表示オブジェクトレイアウト変更装置
JP4203770B2 (ja) * 2006-05-29 2009-01-07 ソニー株式会社 画像表示装置
US7684225B2 (en) * 2006-10-13 2010-03-23 Ovonyx, Inc. Sequential and video access for non-volatile memory arrays
CN101542587B (zh) * 2007-05-08 2012-09-05 松下电器产业株式会社 显示装置以及图像显示方法

Also Published As

Publication number Publication date
WO2008139730A1 (ja) 2008-11-20
JP5108877B2 (ja) 2012-12-26
US8289345B2 (en) 2012-10-16
US20100156916A1 (en) 2010-06-24
CN101542587A (zh) 2009-09-23
CN101542587B (zh) 2012-09-05

Similar Documents

Publication Publication Date Title
JP5108877B2 (ja) 表示装置
US10242714B2 (en) Interface for application-specified playback of panoramic video
US8963951B2 (en) Image processing apparatus, moving-image playing apparatus, and processing method and program therefor to allow browsing of a sequence of images
JP4408845B2 (ja) 映像合成装置及びプログラム
JP5067889B2 (ja) メタデータを用いて複数の映像ストリームを処理する方法及び装置
JP5525201B2 (ja) 画像合成装置、画像符号化装置、コンピュータプログラム、記録媒体
JP5497758B2 (ja) 立体視画像表示装置
US20060139321A1 (en) Display status modifying apparatus and method, display status modifying program and storage medium storing the same, picture providing apparatus and method, picture providing program and storage medium storing the same, and picture providing system
JP2004242267A (ja) 画像編集方法、装置および画像再生方法、装置
CN110996150A (zh) 视频融合方法、电子设备及存储介质
US20080159725A1 (en) Dvd player and display control method therefor
US20070200953A1 (en) Method and Device for Displaying the Content of a Region of Interest within a Video Image
CN114445600A (zh) 一种特效道具的展示方法、装置、设备及存储介质
WO2011148587A1 (ja) 立体視映像の再生装置、集積回路、プログラム
JP6803463B2 (ja) ディスプレイ装置及びその制御方法
US8004534B2 (en) Graphics processing method, graphics processor and video reproducing apparatus
KR100718385B1 (ko) 복수의 동영상 파일을 재생할 수 있는 휴대용 재생 장치 및그 방법
JP4800353B2 (ja) 映像合成装置、プログラム及び記録媒体
JP2007094391A (ja) 動画像表示装置
JP5361472B2 (ja) 映像表示装置及び方法
JP4964319B2 (ja) 映像合成装置、プログラム及び記録媒体
JP5148651B2 (ja) 記録媒体及び表示用データのデータ生成装置
JP5180667B2 (ja) 画像処理装置、画像処理方法
JP4964318B2 (ja) 記録媒体及び表示用データのデータ生成装置
JP4964320B2 (ja) 映像合成装置及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120911

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20121005

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151012

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees