WO2022092705A1 - 디스플레이장치 및 그 제어방법 - Google Patents

디스플레이장치 및 그 제어방법 Download PDF

Info

Publication number
WO2022092705A1
WO2022092705A1 PCT/KR2021/014831 KR2021014831W WO2022092705A1 WO 2022092705 A1 WO2022092705 A1 WO 2022092705A1 KR 2021014831 W KR2021014831 W KR 2021014831W WO 2022092705 A1 WO2022092705 A1 WO 2022092705A1
Authority
WO
WIPO (PCT)
Prior art keywords
video
information
graphic
frame
processing unit
Prior art date
Application number
PCT/KR2021/014831
Other languages
English (en)
French (fr)
Inventor
김재성
강정우
임대성
최명구
최윤호
Original Assignee
삼성전자(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자(주) filed Critical 삼성전자(주)
Priority to EP21886699.4A priority Critical patent/EP4207790A4/en
Priority to CN202180074070.XA priority patent/CN116491122A/zh
Publication of WO2022092705A1 publication Critical patent/WO2022092705A1/ko
Priority to US18/130,208 priority patent/US20230262191A1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/485—End-user interface for client configuration
    • H04N21/4854—End-user interface for client configuration for modifying image parameters, e.g. image brightness, contrast
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00—General purpose image data processing
    • G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/39—Control of the bit-mapped memory
    • G09G5/395—Arrangements specially adapted for transferring the contents of the bit-mapped memory to the screen
    • G09G5/397—Arrangements specially adapted for transferring the contents of two or more bit-mapped memories to the screen simultaneously, e.g. for mixing or overlay
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00—Aspects of display data processing
    • G09G2340/10—Mixing of images, i.e. displayed pixel being the result of an operation, e.g. adding, on the corresponding input pixels
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00—Aspects of display data processing
    • G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • G09G2340/125—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels wherein one of the images is motion video
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00—Aspects of the architecture of display systems
    • G09G2360/06—Use of more than one graphics processor to process data before displaying to one or more screens
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12—Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/363—Graphics controllers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/44—Receiver circuitry for the reception of television signals according to analogue transmission standards
    • H04N5/445—Receiver circuitry for the reception of television signals according to analogue transmission standards for displaying additional information
    • H04N5/44504—Circuit details of the additional information generator, e.g. details of the character or graphics signal generator, overlay mixing circuits

Definitions

  • the present invention relates to a display apparatus and a control method thereof, and more particularly, to a display apparatus capable of displaying video and graphics together and a control method therefor.
  • An electronic device provided with a display such as a television (TV), receives various content provided from an external source, and displays an image based thereon on the display.
  • a display such as a television (TV)
  • receives various content provided from an external source and displays an image based thereon on the display.
  • a separate processing unit for processing a video signal and a graphic signal, respectively, is provided in order to improve picture quality, and the two processed signals are overlapped and output so that they can be displayed together on a screen.
  • one of the two signals for example, the video signal
  • the video signal may be delayed while the video signal and the graphic signal are respectively processed through different paths.
  • the image may not be displayed normally on the screen, such as the overlapping video and the graphic may not match each other or the boundary between the video and the graphic may be distorted, which may cause inconvenience to the user's viewing.
  • the present invention provides a display apparatus capable of preventing mismatch between video and graphics or distortion of an image in the process of overlapping and outputting a video signal and a graphic signal, and a method for controlling the same.
  • a display apparatus includes: a display; an interface unit capable of receiving content from an external device; a main processing unit providing region information for each frame with respect to a video frame of the received content; a video processing unit outputting a video frame corresponding to a region of an image based on region information for each frame; a graphic processing unit for outputting a graphic frame; an information processing unit that generates transparency information corresponding to region information of an output video frame based on region information for each frame, and provides region information of the video frame and the generated transparency information; and a mixing unit that adjusts transparency of a region of a graphic frame corresponding to a video frame based on region information and transparency information, and outputs an image to be displayed on a display by overlapping the video frame and the adjusted graphic frame.
  • the information processing unit may generate transparency information corresponding to region information of a video frame output from among a plurality of video frames sequentially output from the video processing unit.
  • the information processing unit may include a data generating unit that generates transparency information corresponding to the region information based on region information of the video frame.
  • the data generator may identify a video frame output based on data input from the video processor, and generate transparency information corresponding to region information of the identified video frame.
  • the data generation unit may generate transparency information of 1-bit data
  • the information processing unit may further include a data conversion unit that converts transparency information of 1-bit data into 8-bit data.
  • the transparency information may include an alpha value having a value of 1 or 0.
  • the mixing unit may select one of the transparency information output from the information processing unit and the transparency information output from the graphic processing unit, and adjust the transparency of the region of the graphic frame based on the selected transparency information.
  • the mixing unit may select the transparency information output from the information processing unit based on the graphic frame being identified as corresponding to the motion UX.
  • the information processing unit may obtain region information of the video frame from the main processing unit.
  • Region information of a video frame output from the main processing unit may be provided to the information processing unit through the video processing unit.
  • a display device a display; a video processing unit outputting a video frame corresponding to a region of an image based on region information for each frame; a graphic processing unit for outputting a graphic frame; a mixing unit that overlaps the video frame and the graphic frame to output an image to be displayed on the display; and a main processing unit configured to output region information of the video frame to the video processing unit and output transparency information of the graphic frame to the graphic processing unit, wherein the video processing unit is configured to receive region information of the video frame from the graphic processing unit.
  • the video processing unit outputs a video frame corresponding to a region of an image based on region information for each frame. step; outputting a graphic frame from the graphic processing unit; generating transparency information corresponding to region information of an output video frame based on region information for each frame, and providing region information and transparency information of the video frame; and adjusting the transparency of the region of the graphic frame corresponding to the video frame based on the region information and the transparency information, and outputting an image to be displayed on a display by overlapping the video frame and the adjusted graphic frame.
  • the outputting of the transparency information may include providing region information of a video frame output from among a plurality of video frames sequentially output from the video processing unit and transparency information corresponding to the region information.
  • the method may further include generating transparency information corresponding to the region information based on the region information of the video frame.
  • the method may further include identifying a video frame output based on data input from the video processing unit, and generating transparency information corresponding to region information of the identified video frame.
  • the transparency information may include an alpha value having a value of 1 or 0.
  • the method may further include adjusting the transparency of the region of the graphic frame based on the selected transparency information.
  • the output transparency information may be selected.
  • the method may further include obtaining region information of the video frame from the main processing unit.
  • a non-volatile, computer-readable recording medium in which a program of a method executable by a processor of a display device according to an embodiment of the present invention is recorded, the method is stored in a video frame of content received from an external device.
  • the display apparatus and the control method of the present invention by controlling the transparency of the graphic frame to be adjusted in response to the video frame, the image in which the video and the graphic are superimposed is displayed without distortion, thereby eliminating user inconvenience during viewing and reduce visual fatigue.
  • FIG 1 shows an example of an electronic device according to an embodiment of the present invention.
  • FIG. 2 is a block diagram illustrating the configuration of an electronic device according to an embodiment of the present invention.
  • FIG. 3 is a block diagram illustrating a path through which a video signal and a graphic signal are processed in an electronic device according to an embodiment of the present invention.
  • FIG. 4 illustrates an example of a video frame output based on region information in an electronic device according to an embodiment of the present invention.
  • FIG. 5 is a diagram illustrating an example in which mixing of a video signal and a graphic signal is performed in an electronic device according to an embodiment of the present invention.
  • FIG. 6 is a diagram illustrating an example in which an image is distorted and displayed in a related art for mixing a video signal and a graphic signal.
  • FIG. 7 is a flowchart illustrating a control operation of overlapping video and graphic output in an electronic device according to an embodiment of the present invention.
  • FIG. 8 is a diagram illustrating an example in which transparency of a graphic frame is adjusted in an electronic device according to an embodiment of the present invention.
  • FIG. 9 is an example illustrating mixing data output by adjusting the transparency of a graphic frame for each frame in the electronic device according to an embodiment of the present invention.
  • FIG. 10 is a diagram for explaining a process of processing and mixing a video signal and a graphic signal according to the first embodiment of the present invention.
  • FIG. 11 is a diagram for explaining an operation of a data generator in the electronic device according to the embodiment of FIG. 10 .
  • FIG. 12 is a diagram for explaining an operation of a data selection unit in the electronic device according to the embodiment of FIG. 10 .
  • FIG. 13 is a view for explaining a process of processing and mixing a video signal and a graphic signal according to the second embodiment of the present invention.
  • FIG. 14 is a diagram for explaining a process of processing and mixing a video signal and a graphic signal according to a third embodiment of the present invention.
  • 15 is a flowchart illustrating a control operation for synchronizing and outputting video and graphics in an electronic device according to an embodiment of the present invention.
  • 16 is a diagram schematically illustrating a control operation for displaying video and graphics together in an electronic device according to an embodiment of the present invention.
  • 17 is a diagram for explaining a case in which image distortion occurs in a related art in which video and graphics are displayed together.
  • FIG. 18 is a flowchart illustrating a control operation for synchronizing and displaying an image in an electronic device according to an embodiment of the present invention.
  • FIG. 19 is a diagram illustrating operations of components for displaying an image in synchronization according to the embodiment of FIG. 18 .
  • FIG. 20 is a diagram illustrating operations of components for synchronizing and displaying an image on which frame rate conversion is performed in the embodiment of FIG. 18 .
  • FIG. 21 is a diagram for explaining an example in which a video and a graphic are synchronized and output according to the embodiment of FIG. 18 .
  • FIG. 22 is a flowchart illustrating a control operation for synchronizing and displaying an image in an electronic device according to another embodiment of the present invention.
  • FIG. 23 is a diagram illustrating operations of components for displaying an image in synchronization according to another embodiment of FIG. 22 .
  • FIG. 24 is a diagram illustrating an example of delaying and outputting a graphic signal in another embodiment of FIG. 22 .
  • a 'module' or 'unit' performs at least one function or operation, and may be implemented as hardware or software or a combination of hardware and software, and is integrated into at least one module. and can be implemented.
  • at least one of the plurality of elements refers to all of the plurality of elements as well as each one or a combination thereof excluding the rest of the plurality of elements.
  • FIG 1 shows an example of an electronic device according to an embodiment of the present invention.
  • the electronic device 10 may be implemented as a display device including a display 110 as shown in FIG. 1 .
  • the electronic device 10 receives a signal provided from an external signal supply source, that is, a source, for example, data related to content, and processes the data of the received content according to a preset process. It can be displayed as an image on the display 110 .
  • an external signal supply source that is, a source, for example, data related to content
  • the electronic device 10 implemented as a display device may be implemented as a television (TV) capable of processing a broadcast image based on at least one of a broadcast signal received from a transmission device of a broadcast station, broadcast information, or broadcast data.
  • TV television
  • the electronic device 10 may be provided with a tuner for tuning the broadcast signal for each channel.
  • the electronic device 10 includes a set-top box and a BD that transmits a signal to an external display connected to a wired or wireless connection. It can also be implemented as an image processing device such as an optical disc player or a game console such as an X-box.
  • the electronic device 10 includes a terminal apparatus (hereinafter, referred to as a user terminal) provided with a display such as a smart pad such as a smart phone or a tablet. Alternatively, it may be implemented as a user device).
  • the electronic device 10 may also be applied to a monitor of a personal computer (PC) such as a desktop or a laptop.
  • PC personal computer
  • the electronic device 10 When the electronic device 10 is a television, the electronic device 10 is an additional device that can be directly or connected to the electronic device 10 by a cable, for example, a set-top box (STB), an OC box. It is possible to receive broadcast content based on at least one of a broadcast signal received from a transmission device of a broadcast station, broadcast information, or broadcast data through a one-connect box, a media box, or the like.
  • the connection method between the electronic device 10 and the additional device is not limited to the cable, and various wired/wireless interfaces may be applied.
  • the electronic device 10 may wirelessly receive, for example, a radio frequency (RF) signal transmitted from a broadcasting station, that is, broadcast content, and for this purpose, the electronic device 10 is provided with an antenna capable of receiving the broadcast signal can be
  • RF radio frequency
  • broadcast content may be received through terrestrial waves, cables, satellites, or the like, and a signal source, ie, a source, is not limited to a broadcasting station. In other words, any device or station capable of transmitting and receiving data may be included in the source of the present invention.
  • the standard of the signal received by the electronic device 10 may be configured in various ways in response to the implementation form of the device, and the electronic device 10 corresponds to the implementation form of the interface unit (120 in FIG. 2 ) to be described later, HDMI (High Definition Multimedia Interface), HDMI-CEC (Consumer Electronics Control), display port (DP), DVI, composite video, component video, super video, DVI (Digital) Visual Interface), Thunderbolt, RGB cable, SCART (Syndicat des Constructeurs d'Appareils Radiorecepteurs et Televiseurs), and USB (universal serial bus) signals can be received as video content by wire.
  • HDMI High Definition Multimedia Interface
  • HDMI-CEC Consumer Electronics Control
  • display port DP
  • DVI composite video
  • component video component video
  • super video DVI (Digital) Visual Interface)
  • Thunderbolt RGB cable
  • SCART Syndicat des Constructeurs d'Appareils Radiorecepteurs et Televiseurs
  • USB universal serial bus
  • the electronic device 10 may be implemented as a smart TV or Internet Protocol TV (IP TV).
  • a smart TV can receive and display broadcast signals in real time, and has a web browsing function, so that it is possible to search and consume various contents through the Internet at the same time as displaying real-time broadcast signals. am.
  • the smart TV since the smart TV includes an open software platform, it can provide interactive services to users. Accordingly, the smart TV can provide a user with various contents, for example, the contents of an application providing a predetermined service through an open software platform.
  • These applications are applications that can provide various types of services, and include, for example, applications that provide services such as SNS, finance, news, weather, maps, music, movies, games, and e-books.
  • the electronic device 10 includes a user interface for controlling video, still image, application, on-screen display (OSD), and various operations based on signals/data stored in internal/external storage media (hereinafter referred to as user interface).
  • user interface for controlling video, still image, application, on-screen display (OSD), and various operations based on signals/data stored in internal/external storage media (hereinafter referred to as user interface).
  • GUI graphic user interface
  • GUI can be processed to display a signal on the screen.
  • the electronic device 10 may receive content from various external devices including a server and a terminal device through wired or wireless network communication, and the type of communication is not limited.
  • the electronic device 10 corresponds to an implementation form of the interface unit 120 to be described later, such as Wi-Fi, Wi-Fi Direct, Bluetooth, and Bluetooth low energy.
  • Wi-Fi Wireless Fidelity
  • Wi-Fi Direct Wireless Fidelity
  • Bluetooth Wireless Fidelity
  • Bluetooth low energy such as Wi-Fi
  • Zigbee Zigbee
  • UWB Ultra-Wideband
  • NFC Near Field Communication
  • a signal corresponding to the standard may be received as video content through wireless network communication.
  • the electronic device 10 may receive a content signal through wired network communication such as Ethernet.
  • the external device may be provided as a content provider, ie, a content server, capable of transmitting content to various devices including the electronic device 10 through a wired or wireless network.
  • the external device may provide a media file such as video on demand (VOD) or web content in a real-time streaming method.
  • VOD video on demand
  • a plurality of external devices ie, servers
  • the electronic device 10 may be implemented to receive various contents from each of the connected external devices by connecting to each of the plurality of external devices.
  • the electronic device 10 for example, video content or media content such as VOD from a web server such as YouTube or an OTT server capable of providing an over the top (OTT) service such as Netflix can receive
  • video content or media content such as VOD from a web server such as YouTube or an OTT server capable of providing an over the top (OTT) service such as Netflix
  • OTT over the top
  • the electronic device 10 executes an application for content reproduction, for example, a VOD application, receives content from an external device prepared for content provision, processes the received content, and displays an image corresponding to the content. It can be output through (110), that is, displayed.
  • the electronic device 10 may receive content from a server, that is, an external device, using a user account corresponding to the executed application.
  • the electronic device 10 may display the first image 21 and the second image 22 together on the display 110 as shown in FIG. 1 .
  • the electronic device 10 includes a first signal (hereinafter, also referred to as a first image signal) corresponding to the first image 21 and a second signal (hereinafter, referred to as a second signal) corresponding to the second image 22 . It may also receive a video signal) and process the received first signal and the second signal, respectively. The electronic device 10 may mix the first signal and the second signal processed through a separate path as described above, so that the two images 21 and 22 are displayed together on the display 110 . .
  • a first signal hereinafter, also referred to as a first image signal
  • a second signal hereinafter, referred to as a second signal
  • the first signal may correspond to a video signal
  • the second signal may correspond to a graphic signal, respectively.
  • Graphic signals are, for example, subpictures, subtitles, teletext, and OSD (on screen display) displayed to deliver information (channel number, program title, related information, etc.) to a user or to control various operations. , a user interface (UI), or a signal for displaying a user experience (UX), etc., but is not limited thereto.
  • UI user interface
  • UX user experience
  • the graphic signal may be included in content provided from an external device such as a server, or may be provided from the external device as a separate signal separated from the content.
  • the external device providing the content and the external device providing the graphic signal may be the same or different from each other.
  • the graphic signal may be built into the electronic device 10 or an additional device such as a set-top box itself.
  • the graphic signal may be composed of a plurality of layers.
  • the electronic device 10 may display an IG (interactive graphic) or PG (presentation graphic) generated by processing a graphic signal as a second image on the display 110 .
  • IG interactive graphic
  • PG presentation graphic
  • the second image according to the graphic signal that is, the graphic is displayed on the display 110 by being superimposed on, ie, overlaid with, the first image (video) based on the video signal, or
  • the first image (video) based on the video signal may be displayed in a separate area from the displayed area.
  • graphics may be divided into motion user experience (UX) and static UX.
  • the motion UX refers to a graphic displayed while at least one of a graphic position, size, shape, etc. is changed during a predetermined number of frame sections.
  • the motion UX may be displayed while, for example, one area of the graphic is moved, expanded or reduced during a period of n to n+9 frames.
  • the static UX refers to a graphic displayed without change or change in position, size, shape, etc. for a predetermined number of frame sections.
  • FIG. 2 is a block diagram illustrating the configuration of an electronic device according to an embodiment of the present invention.
  • the configuration of the electronic device 10 according to an embodiment of the present invention shown in FIG. 2 is only an example, and the electronic device according to another embodiment may be implemented in a configuration other than the configuration shown in FIG. 2 .
  • the electronic device 10 of the present invention may be implemented in a form in which a configuration other than the configuration shown in FIG. 2 is added or at least one of the configuration shown in FIG. 2 is excluded.
  • the electronic device 10 of the present invention may be implemented in a form in which a part of the configuration illustrated in FIG. 2 is changed.
  • the electronic device 10 may include a display 110 as shown in FIG. 2 .
  • the display 110 may display an image.
  • the implementation method of the display 110 is not limited, and for example, liquid crystal, plasma, light-emitting diode, organic light-emitting diode, surface conduction electron gun ( It can be implemented in various display methods such as surface-conduction electron-emitter), carbon nano-tube, and nano-crystal.
  • the display 110 includes a panel for displaying an image, and may further include an additional component, for example, a driver according to an implementation method thereof.
  • an image of content received from a source may be displayed on the display 110 .
  • a first image (video) based on the first signal and a second image (graphic) based on the second signal may be displayed together on the display 110 .
  • the second image (graphic) is displayed on the display 110 by being superimposed on top of the first image (video), that is, overlaid, or the first image (video) is displayed. It may be displayed in a separate area separated from the area.
  • the electronic device 10 may include an interface unit 120 .
  • the interface unit 120 enables the electronic device 10 to communicate with various external devices including a server.
  • the interface unit 120 may include a wired interface unit 121 .
  • the wired interface unit 121 includes a connection unit for transmitting/receiving signals/data according to standards such as HDMI, HDMI-CEC, USB, Component, Display Port (DP), DVI, Thunderbolt, RGB cable, etc. can Here, the wired interface unit 121 may include at least one connector, terminal, or port corresponding to each of these standards.
  • the wired interface unit 121 may be implemented in a form including an input port for receiving a signal from a source, etc., and may further include an output port in some cases to transmit/receive signals in both directions.
  • the wired interface unit 121 is configured to connect an antenna capable of receiving a broadcast signal according to a broadcasting standard such as terrestrial/satellite broadcasting, or a cable capable of receiving a broadcast signal according to the cable broadcasting standard to be connected, an HDMI port, a DisplayPort , DVI port, Thunderbolt, composite video, component video, super video, SCART, etc., may include a connector or port according to the video and / or audio transmission standard, and the like.
  • the electronic device 10 may have a built-in antenna capable of receiving a broadcast signal.
  • the electronic device 10 may further include a tuner for tuning the received broadcast signal for each channel.
  • the tuner may include a demodulator that demodulates a broadcast signal of a tuned specific channel and outputs a signal in the form of a transport stream (TS).
  • TS transport stream
  • the tuner and the demodulator may be designed as a single integrated chip, or may be implemented as two separate chips.
  • the wired interface unit 121 may include a connector or port according to a universal data transmission standard such as a USB port.
  • the wired interface unit 121 may include a connector or a port to which an optical cable can be connected according to an optical transmission standard.
  • the wired interface unit 121 is connected to an external microphone or an external audio device having a microphone, and may include a connector or port capable of receiving or inputting an audio signal from the microphone or the audio device.
  • the wired interface unit 121 is connected to an audio device such as a headset, earphone, or external speaker, and may include a connector or port capable of transmitting or outputting an audio signal to the audio device.
  • the wired interface unit 121 may include a connector or port according to a network transmission standard such as Ethernet.
  • the wired interface unit 121 may be implemented as a LAN card connected to a router or a gateway by wire.
  • the wired interface unit 121 is connected to an external device such as a set-top box, an optical media player, or an external display device, a speaker, or a server through a connector or port in a 1:1 or 1:N (N is a natural number) method wired connection.
  • an external device such as a set-top box, an optical media player, or an external display device, a speaker, or a server
  • N is a natural number
  • the wired interface unit 121 may include a connector or a port for separately transmitting video/audio signals.
  • the wired interface unit 121 may be implemented as a communication circuitry including a wireless communication module (S/W module, chip, etc.) corresponding to various types of communication protocols.
  • a wireless communication module S/W module, chip, etc.
  • the wired interface unit 121 is embedded in the electronic device 10 , but may be implemented in the form of a dongle or a module to be detachably attached to the connector of the electronic device 10 .
  • the interface unit 120 may include a wireless interface unit 122 .
  • the wireless interface unit 122 may be implemented in various ways corresponding to the implementation form of the electronic device 10 .
  • the wireless interface unit 122 is a communication method such as RF (radio frequency), Zigbee (Zigbee), Bluetooth (bluetooth), Wi-Fi (Wi-Fi), UWB (Ultra WideBand) and NFC (Near Field Communication), etc. Wireless communication can be used.
  • the wireless interface unit 122 may be implemented as a communication circuitry including a wireless communication module (S/W module, chip, etc.) corresponding to various types of communication protocols.
  • a wireless communication module S/W module, chip, etc.
  • the wireless interface unit 122 includes a wireless LAN unit.
  • the wireless LAN unit may be wirelessly connected to an external device through an access point (AP) under the control of the main processing unit 190 .
  • the wireless LAN unit includes a WiFi module.
  • the wireless interface unit 122 includes a wireless communication module that wirelessly supports one-to-one direct communication between the electronic device 10 and an external device without an access point.
  • the wireless communication module may be implemented to support communication methods such as Wi-Fi Direct, Bluetooth, and Bluetooth low energy.
  • the storage unit 140 may store identification information (eg, MAC address or IP address) on the external device, which is a communication target device.
  • the wireless interface unit 122 is provided to perform wireless communication with an external device by at least one of a wireless LAN unit and a wireless communication module according to performance.
  • the air interface unit 122 may further include a communication module using various communication methods such as mobile communication such as LTE, EM communication including a magnetic field, and visible light communication.
  • the wireless interface unit 122 may transmit and receive data packets to and from the external device by wirelessly communicating with an external device such as a server on a network.
  • the wireless interface unit 122 may include an IR transmitter and/or an IR receiver capable of transmitting and/or receiving an IR (Infrared) signal according to an infrared communication standard.
  • the wireless interface unit 122 may receive or input a remote control signal from a remote control or other external device through an IR transmitter and/or an IR receiver, or transmit or output a remote control signal to another external device.
  • the electronic device 10 may transmit/receive a remote control signal to and from the remote control or other external device through the wireless interface unit 122 of another method such as Wi-Fi or Bluetooth.
  • the wireless interface unit 122 may transmit predetermined data as information of a user's voice received through a voice input unit such as a microphone to an external device such as a server.
  • a voice input unit such as a microphone
  • an external device such as a server.
  • the type/type of the transmitted data is not limited, and for example, an audio signal corresponding to a voice uttered by a user or a voice characteristic extracted from the audio signal may be included.
  • the wireless interface unit 122 may receive data of the processing result of the user's voice from an external device such as a server.
  • the electronic device 10 may output a sound corresponding to the voice processing result through an internal or external loudspeaker based on the received data.
  • the above-described embodiment is an example, and the user's voice may be processed by itself within the electronic device 10 without transmitting the user's voice to the server. That is, in another embodiment, the electronic device 10 may be implemented to perform the role of a speech to text (STT) server.
  • STT speech to text
  • the electronic device 10 may communicate with an input device such as a remote control through the wireless interface unit 122 to receive a sound signal corresponding to a user voice from the input device.
  • an input device such as a remote control
  • the wireless interface unit 122 may communicate with an input device such as a remote control through the wireless interface unit 122 to receive a sound signal corresponding to a user voice from the input device.
  • a communication module that communicates with an external device such as a server and a communication module that communicates with the remote control may be different from each other.
  • the electronic device 10 may communicate with an external device through an Ethernet modem or Wi-Fi module, and may communicate with a remote controller and a Bluetooth module.
  • a communication module for communicating with an external device such as a server and a communication module for communicating with a remote controller may be the same.
  • the electronic device 10 may communicate with an external device and a remote controller through a Bluetooth module.
  • the wireless interface unit 122 is embedded in the electronic device 10 , but may be implemented in the form of a dongle or a module to be detachably attached to the connector of the electronic device 10 .
  • the electronic device 10 may receive a broadcast signal through the interface unit 120 .
  • the electronic device 10 may extract or generate a first signal (video signal) corresponding to the first image and a second signal (graphic signal) corresponding to the second image based on data carried in the broadcast signal.
  • the electronic device 10 may receive a content signal from an external device such as a server through the interface unit 120 in a real-time streaming method.
  • the electronic device 10 may extract or generate a first signal (video signal) corresponding to the first image and a second signal (graphic signal) corresponding to the second image, based on the content signal.
  • the electronic device 10 may include a user input unit 130 .
  • the user input unit 130 may transmit various preset control commands or non-limited information to the main processing unit 190, which will be described later, by a user's input.
  • the user input unit 130 includes various input means capable of receiving a user input.
  • the user input unit 130 may include a keypad (or input panel) including buttons such as a power key, a number key, and a menu key provided in the electronic device 10 .
  • the user input unit 130 may include an input device that generates a preset command/data/information/signal to be able to remotely control the electronic device 10 and transmits the generated command/data/information/signal to the electronic device 10 .
  • the input device includes, for example, a remote control, a game console, a keyboard, a mouse, and the like, and is separated from the electronic device 10 to receive a user input.
  • At least one button for receiving a user input may be provided in the remote control.
  • the remote control may be provided with a touch sensing unit for receiving a user's touch input and/or a motion sensing unit for sensing movement of the remote control itself by the user.
  • the input device includes a terminal device such as a smartphone on which a remote control application is installed, and in this case, a user's touch input through the touch screen can be received.
  • the input device becomes an external device capable of wireless communication with the main body of the electronic device 10 , and wireless communication includes Bluetooth, infrared communication, RF communication, wireless LAN, Wi-Fi Direct, and the like.
  • the user input unit 130 may include a voice input unit for receiving a voice/sound uttered by the user.
  • the voice input unit is implemented as a microphone capable of receiving a user's voice, and the microphone is provided in the electronic device 10 , separated from the electronic device 10 , or separated from the electronic device 10 . It may be provided in another device, for example, a remote control.
  • the user input unit 130 may include a motion sensing unit that detects a motion of the user's hand, that is, a hand gesture (hereinafter, also referred to as a gesture).
  • the motion sensing unit of the electronic device 10 may output data by detecting a movement distance, a movement speed, an area of a movement region, and the like of the hand.
  • the electronic device 10 may include a storage unit 140 .
  • the storage unit 140 is configured to store various data of the electronic device 10 .
  • the storage unit 140 may retain data even when power supplied to the electronic device 10 is cut off, and may be provided as a writable non-volatile memory (writable ROM) to reflect changes. That is, the storage unit 140 may be provided with any one of a flash memory, an EPROM, or an EEPROM.
  • the storage unit 140 may further include a volatile memory such as DRAM or SRAM, in which the read or write speed of the electronic device 10 is faster than that of the nonvolatile memory.
  • the data stored in the storage unit 140 includes, for example, an operating system for driving the electronic device 10 , and various programs, applications, image data, and additional data executable on the operating system.
  • the storage unit 140 may store signals or data input/output corresponding to the operation of each component under the control of the main processing unit 190 .
  • the storage unit 140 includes a control program for controlling the electronic device 10, a UI related to an application provided by a manufacturer or downloaded from the outside, graphics or images for providing the UI, user information, documents, databases, or related data. can be saved
  • the storage unit 140 stores a TV application or TV client as a program for operating the electronic device 10 as a television, and a VOD application as a program for playing content received from an external device such as a server.
  • a TV application or TV client as a program for operating the electronic device 10 as a television
  • a VOD application as a program for playing content received from an external device such as a server.
  • the images displayed on the electronic device 10, that is, the first image (video) and the second image (graphic) are generated from data stored in the nonvolatile storage unit 140 such as a flash memory or a hard disk.
  • the storage unit 140 may be provided inside or outside the electronic device 10 , and when provided outside, the storage unit 140 may be connected to the electronic device 10 through the wired interface unit 121 .
  • the term storage is mounted on the storage unit 140 , the main processing unit 190 , ROM (not shown), RAM (not shown), or the electronic device 10 . It is defined as including a possible memory card (not shown) (eg, micro SD card, memory stick).
  • the electronic device 10 may include a video processing unit 150 .
  • the video processing unit 150 may process the first signal, that is, the video signal, so that the corresponding first image, that is, the video, is displayed on the display 110 .
  • the electronic device 10 may process a video signal through a first path through the video processing unit 150 , that is, a video path.
  • the first path is distinguished from a second path that is a processing path of a graphic signal through the graphic processing unit 160 to be described later, that is, a graphic path.
  • FIG. 3 is a block diagram illustrating a path through which a video signal and a graphic signal are processed in an electronic device according to an embodiment of the present invention.
  • the video processing unit 150 is configured to perform various preset processes on the first image signal, that is, the video signal, and as shown in FIG. 3 , decodes the image signal to correspond to the image format of the electronic device 10 . It may include a video decoder (video decoder) (151).
  • the video decoder is eg, but not limited to, an H.264/AVC decoder. That is, the video decoder according to the embodiment of the present invention can be implemented as a decoder according to various compression standards, such as a Moving Picture Experts Group (MPEG) decoder or a High Efficiency Video Codec (HEVC) decoder.
  • MPEG Moving Picture Experts Group
  • HEVC High Efficiency Video Codec
  • the video decoder may be implemented as a hardware decoder or a software decoder.
  • a plurality of video decoders may be provided in the electronic device 10 according to an embodiment.
  • the plurality of video decoders provided in the electronic device 10 may each be implemented as a hardware decoder or a software decoder, or may be implemented as a combination of a hardware decoder and a software decoder.
  • the video processing unit 150 includes a video scaler (hereinafter also referred to as V Scaler) 152 that adjusts the first signal, that is, the video signal to match the output standard of the display 110, for example, the panel specification.
  • V Scaler video scaler
  • the video scaler 152 may process a video signal for each frame according to a synchronization signal.
  • the synchronization signal is a vertical synchronization signal Vsync for the display 110 as an example.
  • the video scaler 152 may sequentially process, ie, scale, and output a plurality of video frames of a video signal based on a synchronization signal, that is, a vertical synchronization signal for the display 110 .
  • the video scaler 152 is implemented in a hardware configuration, for example, a chip, so that a plurality of scaled video frames are sequentially buffered (buffers) (frame buffers) (hereinafter also referred to as video buffers). It can be saved and output to .
  • the buffer is provided in the storage unit 140 implemented as a memory such as DRAM.
  • the video scaler 152 may sequentially scale and output a plurality of video frames based on video frame information determined or set by the application 191 that is software installed in the electronic device 10 .
  • the video frame information may include region information for each video frame.
  • FIG. 4 illustrates an example of a video frame output based on video frame information in an electronic device according to an embodiment of the present invention, and the video frame may be described in more detail with reference to FIG. 4 .
  • the video frame information may include geometry information indicating the size and position of the first image for each frame, that is, the video.
  • the geometry information is information set for each video frame (Video #1 to Video #10), for example, video size information (V size, H size) or location information ( start position and end position).
  • the geometry information may include start point and end point information of the second image corresponding to the graphic signal, that is, the graphic.
  • Each frame of the graphic signal may be controlled to be output in a section between the start point and the end point.
  • the geometry information may include coordinate values as parameters for expressing video and graphics for each frame.
  • the video scaler 152 may reflect and output the geometry information to the video data of each frame.
  • the geometry information may be transmitted to the video scaler 152 from the CPU, which is an example of the main processing unit 190 to be described later.
  • the video scaler 152 may obtain geometry information directly from the CPU 190 .
  • the main processing unit 190 that is, the CPU, executes the application 191 installed in the electronic device 10 , obtains geometry information (data) from the executed application 191 , and displays the obtained geometry information (data) as a video It may be provided by the scaler 152 .
  • the application 191 may generate graphic transparency information together with the geometry information and provide it to the main processing unit 190 , that is, the CPU.
  • the transparency information may indicate transparency of one region of the graphic frame, and the corresponding region may correspond to region information of the video frame.
  • the transparency information is expressed as an alpha value, and the alpha value may be expressed as a value within the range of 0.0 (completely transparent) to 1.0 (completely opaque).
  • the alpha value is 8-bit data that can distinguish a degree of transparency from 0 to 255.
  • the present invention is not limited thereto, and in some cases, the alpha value may be expressed as data in the range of 0 to 511 or 0 to 1023.
  • the video scaler 152 may generate an output image, that is, a video, by adjusting the size and position of an image (video) corresponding to the video signal based on the geometry information transmitted from the CPU 190 .
  • the video processing unit 150 includes a frame rate converter (FRC) that performs frame rate conversion (FRC) on a first signal output from the video scaler, that is, a video signal ( 153) may be included.
  • FRC frame rate converter
  • the video frames of which the frame rate is converted by the frame rate converter 153 may be sequentially stored in the frame memory 141 and then output.
  • the frame rate converter 153 may be implemented as a hardware chip separate from the video scaler 152 , or may be designed as a single chip in which the video scaler 152 and the frame rate converter 153 are integrated.
  • Frame rate conversion that is, the number of frames per second of the first image output to the display 110 by FRC may be converted, and in this process, the first signal (video signal) is delayed by the video frame delay (video frame delay) may occur.
  • Such a video frame delay may be generated in the FRC process regardless of the processing of the video signal based on the above-described synchronization signal V sync.
  • the video frame delay according to the FRC may or may not be generated according to the type of the video signal, that is, the type.
  • a video frame delay of a predetermined frame according to FRC for example, 3 frames
  • a video frame delay according to FRC may not occur.
  • the electronic device 10 may identify the video frame delay according to the FRC corresponding to the operation mode.
  • the generation of the video frame delay is not limited to the above example, and in some cases, the video frame delay according to the operation may be generated even in other stages of video signal processing.
  • the video processing unit 150 for processing a video signal, for example, de-interlacing for converting a broadcast signal of an interlace method into a progressive method, and noise reduction for image quality improvement At least one of various processes such as noise reduction, detail enhancement, frame refresh rate conversion, and line scanning may be further performed. However, this is only an example, and a separate configuration for processing the above process may be provided.
  • the electronic device 10 may include a graphic processing unit 160 .
  • the graphic processing unit 160 may process the second signal, that is, the graphic signal, so that the corresponding second image, that is, the graphic is displayed on the display 110 .
  • the graphic processing unit 160 includes a second path different from the first path (video path) of the video signal processed by the above-described video processing unit 150, that is, a graphic path. ) to process the graphic signal.
  • the graphic processing unit 160 is a configuration for performing various processes on a second signal, that is, a graphic signal, and as shown in FIG. 3 , a graphic processing unit (GPU) 161 for performing an operation for graphic processing.
  • a graphic processing unit (GPU) 161 for performing an operation for graphic processing may include
  • FIG. 3 a case in which the GPU 161 is provided as a separate configuration is illustrated as an example, but the electronic device 10 of the present invention performs an operation for graphic processing in the main processing unit 190, that is, the CPU as another embodiment. It may be implemented to do so.
  • the GPU 161 is a second signal received from an external device such as a server or built into the electronic device 10 itself, that is, various processes preset for the graphic signal, for example, animation processing, At least one of various processes such as color conversion, gamma conversion, and acceleration processing may be performed.
  • various processes such as color conversion, gamma conversion, and acceleration processing
  • the present invention is not limited to the above embodiment, and the GPU 161 may further perform various graphic processing in addition to the above-described process.
  • an additional component capable of processing a graphic signal may be further added to the electronic device 10 .
  • the GPU 161 may obtain the region information and the transparency information corresponding to the region information from the main processing unit 190 , that is, the CPU, and transmit the region information to the graphic scaler 162 and the image quality block 163 , respectively.
  • the region information is information about a region in which a video frame corresponding to a graphic frame to be processed by the GPU 161 is displayed, and may include geometry information (data).
  • the transparency information is information indicating transparency of a region (display region of a video frame) of a graphic frame to be processed by the GPU 161 , and may include an alpha value.
  • the graphic processing unit 160 may include a graphic scaler (hereinafter also referred to as G Scaler) 162 for outputting the second signal, that is, a graphic corresponding to the graphic signal on the display 110 .
  • G Scaler graphic scaler
  • the graphic scaler 162 may be provided in a graphic plane block controlled by the GPU 161 , that is, a graphic plane (GP) block.
  • the graphic scaler 162 may process the graphic signal for each frame according to the synchronization signal.
  • the synchronization signal is a vertical synchronization signal Vsync for the display 110 as an example.
  • the vertical sync signal is sent to the main processing unit 190 . That is, it may be provided from the CPU to the graphic scaler 162 of the GP block through the GPU 161 .
  • the graphic scaler 162 is implemented as a hardware configuration, for example, a chip, and graphic frames are sequentially stored in a buffer (frame buffer) (hereinafter also referred to as a graphic buffer) and outputted. can make it happen
  • a buffer (frame buffer) (hereinafter also referred to as a graphic buffer) and outputted.
  • the buffer is provided in the storage unit 140 implemented as a memory such as DRAM.
  • the graphic scaler 162 may sequentially scale and output a plurality of graphic frames based on geometry information determined or set by the application 191 that is software installed in the electronic device 10 .
  • the graphic scaler 162 outputs a graphic frame according to a preset pointer (rendering pointer), for example, a start point and an end point included in the geometry information after the graphic is rendered in the buffer by the application 191.
  • a preset pointer rendering pointer
  • the pointer is variable and is set or applied based on the vertical synchronization signal Vsync for the display 110 .
  • the application 191 may be executed by the main processing unit 190 to render the graphic signal.
  • the vertical synchronization signal of the display 110 is provided to the graphic scaler 162 through the video scaler 152, so that graphic frames rendered in the buffer are sequentially output by the graphic scaler 162. .
  • the graphic processing unit 160 may include a graphic quality block 163 for processing graphic quality.
  • the quality block 163 may be provided in a GP block controlled by the GPU 161 as shown in FIG. 3 .
  • the GP block may start driving by receiving a vertical synchronization signal for the display 110 from the video scaler 152 .
  • the GPU 161 may receive the alpha value generated by the application 191 through the main processing unit 190 , that is, the CPU, and transmit it to the GP block. Also, the GPU 161 may transmit the geometry information obtained from the main processing unit 190 , that is, the CPU to the GP block.
  • the size and position of the graphic are adjusted based on the geometry information by the graphic scaler 162 constituting the graphic path, that is, the graphic path, and graphic quality processing is performed through the image quality block 163.
  • the electronic device 10 may include an information processing unit 170 .
  • the information processing unit 170 may process data so that region information and transparency information corresponding to the region information are output for each frame of the video signal processed by the video processing unit 150 .
  • the information processing unit 170 may output region information of a video frame according to the above processing and transparency information corresponding to the region information to the mixing unit 180 to be described later.
  • the information processing unit 170 may obtain region information, for example, geometry information, from the main processing unit 190, ie, the CPU, and generate transparency information corresponding to the region information.
  • region information for example, geometry information
  • the main processing unit 190 ie, the CPU
  • the information processing unit 170 may receive data from the video processing unit 150 and generate transparency information corresponding to region information of the video for each video frame.
  • the information processing unit 170 may receive data feedback from at least one of the video scaler 152 and the FRC 153 , or a function unit in which the video scaler 152 and the FRC 153 are integrated.
  • the transparency information of the video frame generated by the information processing unit 170 may be applied to the transparency processing of the corresponding graphic frame by the mixing unit 180 .
  • the information processing unit 170 is provided as a separate configuration capable of interfacing with the main processing unit 190, that is, the CPU and the video processing unit 150, as an example. and the implementation of the present invention is not limited to the illustrated form.
  • the information processing unit 170 may be implemented in a form included in other components such as the video processing unit 150 or the CPU 190 .
  • the information processing unit 170 is configured to generate a data generation unit ( 171 in FIGS. 10 and 13 ) that generates a 1-bit alpha value as transparency information based on region information, that is, geometry information (hereinafter, alpha generation unit). ) and a data conversion unit ( 172 in FIGS. 10 and 13 ) that converts the generated 1-bit alpha value into 8 bits (hereinafter, also referred to as an alpha conversion unit).
  • a data generation unit 171 in FIGS. 10 and 13
  • region information that is, geometry information
  • alpha generation unit a data conversion unit
  • 172 in FIGS. 10 and 13 that converts the generated 1-bit alpha value into 8 bits
  • the electronic device 10 is implemented to include an information processing unit 170 that outputs transparency information based on the video data processed along a video path. That is, the information processing unit 170 mixes region information of a video frame currently output from the video processing unit 150 among a plurality of video frames sequentially output from the video processing unit 150 and transparency information corresponding to the region information, which will be described later. It is output to the unit 180 .
  • the transparency processing of the graphic frame may be applied corresponding to the region information of the video frame to be mixed together.
  • the transparency information is directly output from the information processing unit 170 to the mixing unit 180, or through another configuration such as the CPU 190, the mixing unit ( 180).
  • the information processing unit 170 may return the transparency information to the CPU 190 , and the transparency information may be transmitted from the CPU 190 to the mixing unit 180 through the graphic processing unit 160 .
  • the electronic device 10 may include a mixer 180 (hereinafter, also referred to as a mixer).
  • a mixer 180 hereinafter, also referred to as a mixer.
  • the mixing unit 180 corresponds to a first image (video) corresponding to a first signal (video signal) processed by the video processing unit 150 and a second signal (graphic signal) processed by the graphic processing unit 160 . Mixing of the first signal and the second signal may be performed so that the second image (graphic) to be displayed is displayed together on the display 110 .
  • the mixing unit 180 mixes, that is, merges, the first signal (video signal) and the second signal (graphic signal), thereby overlapping the video frame and the graphic frame to produce an image to be displayed on the display 110 . can be printed out.
  • the mixing unit 180 may be implemented as a hardware configuration, for example, a chip, and may output the overlapped video frame and the graphic frame to the display 110 .
  • the graphic signal (graphic data) output through the GP block that is, the graphic scaler 162 and the quality block 163, and the video scaler 163 or FRC
  • the video signal (video data) output in step 153 may be input.
  • the mixing unit 180 may synthesize the input video data and graphic data to overlap the first image (video) and the second image (graphic).
  • the mixing unit 180 may perform alpha blending for superimposing images based on transparency information indicating a degree of transparency of an overlapping image, for example, a second image (graphic).
  • Alpha blending may be performed in units of pixels.
  • the mixing unit 180 may synthesize, that is, mix, a video signal and a graphic signal based on a predetermined algorithm with reference to an alpha value indicating transparency information.
  • An image including a video and graphics synthesized, ie, alpha blended, based on the alpha value by the mixing unit 180 may be output through the display 110 .
  • various known algorithms of the mixing unit 180 may be used, and the method is not limited thereto.
  • FIG. 5 is a diagram illustrating an example in which mixing of a video signal and a graphic signal is performed in an electronic device according to an embodiment of the present invention.
  • the mixing unit 180 may synthesize a video signal into a lower layer and a graphic signal into an upper layer.
  • the first signal (video signal) and the second signal (graphic signal) are synthesized by the mixing unit 180 and output to the display 110, so that two images, that is, the first image (video) and the second An image (graphic) may be displayed together on one screen of the display 110 .
  • the mixing unit 180 includes video data 31 and graphic data for each frame (n, n+1, n+2, n+3, ..., n+9). (32) is synthesized to generate video-graphic mixed data.
  • the area of the video data 31 and the transparent processing area 33 of the graphic data 32 are determined based on the same geometric information obtained from the CPU 190, and the start position coincides with 100x200. it can be confirmed that
  • FIG. 5 illustrates a case in which the horizontal/horizontal position increases by 10 and the vertical/vertical position decreases by 10 according to the frame order of geometric information.
  • the mixed data of each frame (n, n+1, n+2, n+3, j , n+9) generated as described above is an image in which the video 31 and the graphic 32 are superimposed on the display 110 ) can be displayed sequentially. Accordingly, the motion UX in which one area of the graphic gradually moves to the upper right is displayed on the display 110 .
  • FIG. 6 is a diagram illustrating an example in which an image is distorted and displayed in a related art for mixing a video signal and a graphic signal.
  • alpha blending of video and graphics is performed based on an alpha value transmitted through a graphic processing unit having a path separated from the video processing unit.
  • the video and graphic out-of-synchronization situation may be caused by an unexpected delay or a difference in processing speed between the video and the graphic, etc. That is, the CPU transmits the geometry information to the video path and the graphic path at the same time, but when performing mixing to which the actual geometry is applied, either one is delayed, so that the video and graphic to which different geometries are applied may be transmitted to the mixing unit.
  • the CPU transmits the geometry information to the video path and the graphic path at the same time, but when performing mixing to which the actual geometry is applied, either one is delayed, so that the video and graphic to which different geometries are applied may be transmitted to the mixing unit.
  • latency is predictable in a video path driven by a dedicated chip such as a video decoder, since the latency of a GPU using a general-purpose processor is variable, there is a possibility that the synchronization of video and graphics may be out of sync. .
  • FIG. 6 illustrates a case in which a frame delay occurs in a video signal as an example.
  • the same geometry information is applied to the video data 41 and the graphic data 42, so that the video data Since the area of (41) and the transparent processing area (43) of the graphic data (42) coincide, the mixing data, that is, the superimposed image is normally output.
  • the video data 41 of n+1 may be input to the mixing unit 180 .
  • the mixing unit 180 applies the video data 41 to which the n+1 geometry information is applied (the start position is 110x190) and the n+3 geometry information is applied even to the n+3 frame (the start position is 130X170).
  • the graphic data 42 image distortion may be generated.
  • the image distortion as described above can be seen as a result of applying different geometric information to the video data 41 and the graphic data 42, which are overlapping objects.
  • the mixing unit 180 may adjust the transparency of the region of the graphic frame based on region information and transparency information of the video frame output from the information processing unit 170 . .
  • the mixing unit 180 obtains region information of the video data 31 for each frame and transparency information corresponding to the region information from the information processing unit 170, and receives the transparency information.
  • transparency processing that is, alpha blending can be performed.
  • the mixing unit 180 sequentially receives video frames output from the video processing unit 150 , and sequentially receives graphic frames output from the graphic processing unit 160 .
  • the mixing unit 180 outputs region information of a video frame currently output from the video processing unit 150 among a plurality of video frames sequentially output from the video processing unit 150 and transparency information corresponding to the region information to the information processing unit.
  • An input may be received from 170 .
  • the mixing unit 180 applies the transparency information of the input current video frame to the graphic frame to be superimposed, that is, to the current graphic frame input from the graphic processing unit 160, that is, alpha blends the video frame and the graphic.
  • An image in which frames are superimposed can be created.
  • each frame (n, n+1, n+2, n+3) regardless of the geometry information initially transmitted from the CPU 190 with respect to the graphic data 33 that is the overlapping target. , .
  • the mixing unit 180 performs alpha blending on video and graphics based on the transparency information generated by the information processing unit 170 , that is, the alpha value.
  • the mixing unit 180 can be implemented to For example, the mixing unit 180, even if there is an alpha value input from the graphic processing unit 160 to the mixing unit 180, based on the video signal processing of the video processing unit 150 through the information processing unit 170 It may be designed to perform alpha blending using only the input alpha value.
  • the electronic device 10 may include a main processing unit 190 .
  • the main processing unit 190 controls the various components of the electronic device 10 to operate.
  • the main processing unit 190 includes a control program (or instruction) for performing such a control operation, a non-volatile memory in which the control program is installed, and a volatile memory such as a DRAM into which at least a part of the installed control program is loaded. It may include a memory and at least one processor executing the loaded control program, for example, a microprocessor, an application processor, or a central processing unit (CPU).
  • the processor constituting the main processing unit 190 may include a single core, a dual core, a triple core, a quad core, and multiple cores thereof.
  • the processor, ROM, and RAM may be interconnected through an internal bus.
  • a plurality of processors may be provided.
  • a sub-processor operating in a sleep mode in which only standby power is supplied to the electronic device 10 and does not operate as an electronic device may be separately provided.
  • the main processing unit 190 may be implemented in a form included in a main SoC (Main SoC) mounted on a PCB embedded in the electronic device 10 .
  • Main SoC Main SoC
  • the control program may include program(s) implemented in the form of at least one of a BIOS, a device driver, an operating system, firmware, a platform, and an application.
  • the application is pre-installed or stored in the electronic device 10 when the electronic device 10 is manufactured, or receives data of the application from the outside when used later, based on the received data. (10) can be installed.
  • Data of the application may be downloaded to the electronic device 10 from, for example, an external server such as an application market.
  • an external server is an example of the computer program product of the present invention, but is not limited thereto.
  • the control program may be recorded in a storage medium readable by a device such as a computer.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium or a non-volatile storage medium.
  • 'non-transitory storage medium' is a tangible device and only means that it does not contain a signal (eg, electromagnetic wave). It does not distinguish the case where it is stored as
  • the 'non-transitory storage medium' may include a buffer in which data is temporarily stored.
  • the main processing unit 190 executes the application 191 installed in the electronic device 10 to generate a first image (video) corresponding to a video signal and a second image (graphic) corresponding to the graphic signal.
  • Geometry information may be determined as area information for expression.
  • the main processing unit 190 may provide the determined geometry information to the video processing unit 150 constituting the video path and the graphic processing unit 160 constituting the graphic path, respectively, and the video and graphics processed through each path By being output after being overlapped by the mixing unit 180 , they may be displayed together on the display 110 .
  • FIG. 7 is a flowchart illustrating a control operation of overlapping video and graphic output in an electronic device according to an embodiment of the present invention.
  • the electronic device 10 may process and output a video frame by the video processing unit 150 ( 501 ).
  • the electronic device 10 may process and output the graphic frame by the graphic processing unit 160 ( 502 ).
  • steps 501 and 502 may be independently performed in parallel. That is, the main processing unit 190 of the electronic device 10 may control the video processing unit 150 and the graphic processing unit 160 to respectively process and output video and graphics for each frame.
  • the video processing unit 150 processes the first signal, ie, the video signal, according to the synchronization signal, so that the first image, ie, the video, is output in units of frames.
  • the graphic processing unit 160 processes the second signal, that is, the graphic signal according to the synchronization signal, so that the second image, that is, the graphic is output in units of frames.
  • the main processing unit 190 provides region information (geometric information) for a video frame and a graphic frame output in units of frames to the video processing unit 150 and the graphic processing unit 160, respectively, in steps 501 and In 502, the processed video frame and graphic frame corresponding to the area information are output. Also, the main processing unit 190 may provide the region information to the information processing unit 170 .
  • the electronic device 10 generates transparency information (alpha value) corresponding to region information of a video frame by the information processing unit 170 , and outputs the region information and the transparency information to the mixing unit 180 . can (503).
  • the information processing unit 170 may obtain geometry information as region information of a video frame from the main processing unit 190 , ie, the CPU, and generate transparency information corresponding to region information of the video frame. here. Information for identifying a video frame to be processed may be fed back to the information processing unit 170 from the video processing unit 150 , for example, the video scaler 152 .
  • the information processing unit 170 corresponds to region information of a video frame output from the current video processing unit 150 to the mixing unit 180 among a plurality of video frames sequentially output from the video processing unit 150 and the region information. transparency information to be output to the mixing unit 180 .
  • the mixing unit 180 adjusts the transparency of the region of the graphic frame corresponding to the video frame based on the region information and the transparency information output in step 503, and overlaps the video frame and the transparency-adjusted graphic frame. There is (504).
  • the mixing unit 180 obtains the video frame and region information of the input video frame and transparency information corresponding to the region information, and according to the obtained region information and the transparency information, the transparency of the region of the currently input graphic frame to be adjusted.
  • the mixing unit 180 overlaps the graphic frame whose transparency is adjusted in this way and the currently input video frame and outputs it, so that the image in which the video and the graphic are superimposed is displayed on the display 110 .
  • FIG. 8 is a diagram illustrating an example in which the transparency of a graphic frame is adjusted in the electronic device according to an embodiment of the present invention, and FIG. This is an example shown.
  • the mixing unit 180 based on the region information and the transparency information received from the information processing unit 170 in step 503, the region of the video frame 61 to be superimposed Transparency may be adjusted with respect to the corresponding area 65 of the graphic frame 62 (the area of the video frame 61) so that transparent processing is performed in response to .
  • video data eg, start position is 110x190
  • graphic data eg, start position is 130x170
  • the mixing unit 180 based on the region information and the transparency information received from the information processing unit 170, the region of the graphic frame 62 to correspond to the region of the video frame 61 ( 65) to adjust the transparency.
  • the transparent region 65 of the adjusted graphic frame 62 always coincides with the region of the current video frame 61 .
  • each video (video #1 to video #10) within the output section of the graphic displayed as motion UX is all output time points 71 , 72, 73) can be displayed without distortion.
  • FIG. 10 is a diagram for explaining a process of processing and mixing a video signal and a graphic signal according to the first embodiment of the present invention.
  • the electronic device 10 of the first embodiment of FIG. 10 is a more detailed example of the embodiments of FIGS. 3 and 7 . Accordingly, since the configuration to which the same reference numerals are assigned as in FIG. 3 operates in the same manner as in the embodiment of FIG. 3 , a redundant description may be omitted.
  • the information processing unit 170 as shown in FIG. 10 , a data generation unit 171 (hereinafter also referred to as an alpha value generation unit (Alpha Gen 1)). and a data conversion unit 172 (hereinafter also referred to as an alpha value conversion unit (1 to 8 Conv)).
  • a data generation unit 171 hereinafter also referred to as an alpha value generation unit (Alpha Gen 1)
  • a data conversion unit 172 hereinafter also referred to as an alpha value conversion unit (1 to 8 Conv)
  • FIG. 11 is a diagram for explaining an operation of a data generator in the electronic device according to the embodiment of FIG. 10 .
  • the data generating unit 171 that is, the alpha value generating unit, as shown in FIG. 11 , is based on the region information of the video frame, that is, the geometry information, as the transparency information, which is an alpha value (1 bit) data. value) can be created.
  • the data generation unit 171 is configured to generate 1-bit data by a function inputting the geometry information obtained from the CPU 190 and the video frame data (data enable) provided from the video scaler 152 as inputs. You can create an alpha value.
  • the data generator 171 uses information or data (data enable) input (feedback) from the video scaler 152 to be a current processing target among a plurality of video frames sequentially processed by the video processing unit 150 .
  • Video frames can be identified. Accordingly, the data generator 171 may generate the transparency information (alpha value) corresponding to the region information of the current video frame to match the video frame.
  • the generated 1-bit alpha value may be transmitted to the data conversion unit 172 through the video processing unit 150 .
  • the data conversion unit 172 may convert a 1-bit alpha value into an 8-bit alpha value according to Equation 1 below and output it to the mixing unit 180 .
  • the alpha value in Equation 1 as described above is converted to have a value of 0 or 256 of 8 bits, so that an area in which pixels having an alpha value of 0 are located in the graphic frame can be processed transparently. do.
  • the information processing unit 170 is composed of a data generation unit 171 that generates an alpha value of 1 bit and a data conversion unit 172 that converts 1 bit into 8 bits, thereby generating and delivering an alpha value It can reduce the load in the process.
  • a case in which the electronic device 10 is implemented to include the information processing unit 170 configured as an alpha generating unit generating an 8-bit alpha value will also be included in the present invention.
  • a data selector 181 (hereinafter, also referred to as an alpha value selector) may be provided in the mixing unit 180 .
  • FIG. 12 is a diagram for explaining an operation of a data selection unit in the electronic device according to the embodiment of FIG. 10 .
  • the data selection unit 18 that is, the alpha value selection unit, selects and outputs any one of the alpha value for the motion UX and the alpha value for the static UX, so that the mixing unit 180 selects the graphic frame according to the selected alpha value.
  • Alpha blending for transparent processing is performed on the area.
  • the data selection unit 181 receives a control signal for motion UX from the outside, and the data generation unit 171 of the information processing unit 170 corresponds thereto. ) and the alpha value output through the data conversion unit 172 and the alpha value transmitted through the graphic processing unit 160 may be selected and output.
  • control signal for alpha value selection is, for example, 1-bit data indicating whether the graphic object to be displayed is motion UX or static UX
  • main processing unit 190 that is, the data selection unit 181 from the CPU.
  • the above-described control signal is an example, and various types of data/signals may be used as the control signal.
  • the data selection unit 181 may select the alpha value output from the information processing unit 170 based on the graphic frame being identified as corresponding to the motion UX in response to the input control signal.
  • FIG. 10 shows that the mixing unit 180 separates the motion UX from the static UX and selects an alpha value to perform mixing
  • the electronic device 10 of the present invention is as described in the embodiment of FIG. 3 .
  • it may be implemented to apply the alpha value determined to correspond to the current video frame output from the information processing unit 170 to the transparency adjustment of the region of the current graphic frame without distinguishing the type/type of the graphic.
  • the mixing unit 180 adjusts the transparency of the region of the graphic frame based on the selected alpha value, and outputs the video frame and the graphic frame whose transparency is adjusted to overlap.
  • FIG. 13 is a view for explaining a process of processing and mixing a video signal and a graphic signal according to the second embodiment of the present invention.
  • the electronic device 10 of the second embodiment of FIG. 13 is a more detailed example of the embodiments of FIGS. 3 and 7 .
  • the second embodiment of FIG. 13 has in common with the first embodiment of FIG. 10 that an information processing unit 170 for outputting region information of a video frame and transparency information corresponding to the region information is provided. Accordingly, the configuration to which the same reference numerals are assigned as in FIGS. 3 and 10 operates in the same manner as in the embodiments of FIGS. 3 and 10 , and thus a redundant description may be omitted.
  • the information processing unit 170 similarly to the embodiment of FIG. 10 , includes a data generation unit 171 (Alpha Gen 2) and data It includes a conversion unit 172 (1 to 8 Conv), but is different in that the data generation unit 171 is provided at the output terminal of the video processing unit 150 .
  • a data generation unit 171 (Alpha Gen 2)
  • data It includes a conversion unit 172 (1 to 8 Conv)
  • the data generation unit 171 is provided at the output terminal of the video processing unit 150 .
  • the data generator 171 may generate an alpha value of 1 bit as transparency information based on region information of a video frame, that is, geometry information.
  • the geometry information may be transmitted from the CPU 190 to the data generator 171 through the video scaler 152 and the FRC 153 .
  • the data generator 171 may generate a 1-bit alpha value by a function that takes as inputs the geometry information and video frame data transferred as described above.
  • the data generator 171 identifies an output video frame, and generates transparency information (alpha value) corresponding to region information of the video frame by matching the video frame.
  • the generated 1-bit alpha value is output to the data conversion unit 172, and the data conversion unit 172 converts the 1-bit alpha value into an 8-bit alpha value by Equation 1 and output to the mixing unit 180 .
  • the mixing unit 180 may be provided with a data selector 181 (alpha value selector) as described in the embodiment of FIG. 10 .
  • the data selection unit 181 selects and outputs any one of the alpha value for the motion UX and the alpha value for the static UX, so that the mixing unit 180 performs transparent processing on the area of the graphic frame by the selected alpha value. for alpha blending.
  • the data selection unit 181 receives a control signal for motion UX for selection of an alpha value, and operates the information processing unit 170 , that is, the data generation unit 171 and the data conversion unit 172 in response thereto. Any one of the alpha value output through the alpha value and the alpha value transmitted through the graphic processing unit 160 may be selected and output.
  • the mixing unit 180 adjusts the transparency of the region of the graphic frame based on the selected alpha value, and outputs the video frame and the graphic frame whose transparency is adjusted to overlap.
  • FIG. 14 is a diagram for explaining a process of processing and mixing a video signal and a graphic signal according to a third embodiment of the present invention.
  • the electronic device 10 of the third embodiment of FIG. 14 applies transparency information, that is, an alpha value based on a video frame, in common with the embodiments of FIGS. 3 and 7 . Accordingly, since the configuration to which the same reference numerals are assigned as in FIG. 3 operates in the same manner as in the embodiment of FIG. 3 , a redundant description may be omitted.
  • an information processing unit that generates and outputs an alpha value is not separately provided, and the graphic processing unit 160 to the video processing unit 150 8 It is different from the embodiment of FIG. 10 or 13 in that the alpha value of the bit is provided.
  • the video scaler 152 of the video processing unit 150 receives region information (geometric information) from the main processing unit 190 , that is, the CPU, and transparency information (8-bit alpha) from the GP block of the graphic processing unit 160 . value) can be entered.
  • region information geometric information
  • transparency information 8-bit alpha
  • the alpha value as the transparency information may be generated by the CPU 190 executing the application 191 together with the geometry information, transmitted from the CPU 190 to the GPU 161, and a video scaler ( 152) can be output.
  • the above-described transfer path is an example, and the video scaler 152 may directly obtain the alpha value from the CPU 190 or the GPU 161 .
  • An 8-bit alpha value input to the video scaler 152 may be output to the mixing unit 180 through the FRC 152 or directly.
  • the mixing unit 180 matches and outputs a video frame, region information of the video frame, and transparency information (alpha value) corresponding to the region information.
  • the mixing unit 180 may be provided with a data selector 181 (alpha value selector) as described in the embodiments of FIGS. 10 and 13 . .
  • the data selection unit 181 selects and outputs any one of the alpha value for the motion UX and the alpha value for the static UX, so that the mixing unit 180 performs transparent processing on the area of the graphic frame by the selected alpha value. for alpha blending.
  • the data selection unit 181 receives a control signal for motion UX for selecting an alpha value, and correspondingly receives the alpha value transmitted through the video processing unit 150 and the graphic processing unit 160 . You can select any one of the alpha values to output.
  • control signal for selecting the alpha value is, for example, 1-bit data indicating whether the graphic object to be displayed is the motion UX or the static UX, and may be input from the main processing unit 190 , that is, the CPU.
  • control signal 1 when the graphic is motion UX and 0 when the graphic is static UX may be input to the data selection unit 181 as a control signal.
  • the above-described control signal is an example, and various types of data/signals may be used as the control signal.
  • the mixing unit 180 separates the motion UX from the static UX, selects an alpha value to perform mixing, but the electronic device 10 of the present invention is the same as described in the embodiment of FIG. 3 .
  • it may be implemented to apply the transparency information determined in response to the region information of the current video frame, that is, the alpha value, to the transparency adjustment of the region of the graphic frame to be overlapped without distinguishing the type/type of the graphic.
  • the mixing unit 180 adjusts the transparency of the region of the graphic frame based on the selected alpha value, and outputs the video frame and the graphic frame whose transparency is adjusted to overlap.
  • the electronic device 10 responds to each other according to the control of the main processing unit 190 , that is, software executed by the CPU, without adding a separate configuration such as the information processing unit 170 .
  • the main processing unit 190 that is, software executed by the CPU
  • the electronic device 10 By controlling (synchronizing) the video frames and graphic frames to be output together, it can be implemented so that a synchronization mismatch situation does not occur.
  • 15 is a flowchart illustrating a control operation for synchronizing and outputting video and graphics in an electronic device according to an embodiment of the present invention.
  • the video processing unit 150 and the graphic processing unit 160 of the electronic device 10 may respectively process and output video and graphics for each frame according to the synchronization signal Vsync. Specifically, the video processing unit 150 processes the first signal, ie, the video signal, according to the synchronization signal, so that the first image, ie, the video, is output in units of frames.
  • the graphic processing unit 160 processes the second signal, that is, the graphic signal according to the synchronization signal, so that the second image, that is, the graphic is output in units of frames.
  • the two images output by the video processing unit 150 and the graphic processing unit 160 that is, the first image (video) and the second image (graphic) are mixed by the mixing unit 170 to be displayed together on the display 110, That is, they are mixed.
  • the main processing unit 190 allocates identification information corresponding to each other based on identification information allocated according to the order of each frame to a plurality of frames and a plurality of frames of the video signal.
  • a video frame and a graphic frame may be identified (801).
  • the identified video frame and graphic frame become a pair of frames respectively corresponding to the video and graphic to be displayed together on the display 110 .
  • any one frame V1 among a plurality of frames of the video signal and any one frame G1 to be displayed together with the frame V1 among the plurality of frames of the graphic signal may be identified as a pair of frames.
  • the main processing unit 190 delays at least one of the video frame V1 and the graphic frame G1 so that the pair of frames identified in step 801, ie, the video frame V1 and the graphic frame G1, are displayed together on the display 110. It can be controlled to be output (802).
  • 16 is a diagram schematically illustrating a control operation for displaying video and graphics together in an electronic device according to an embodiment of the present invention.
  • the video driver 192 and the graphic driver 193 of the application 191 layer as software are executed by the main processing unit 190, Information may be transmitted to a video scaler (V Scaler) 152 and a graphic scaler (G Scaler) 162 , respectively.
  • V Scaler video scaler
  • G Scaler graphic scaler
  • the video driver 192 may, for example, set a video geometry for representing the first image (video), and transmit the set geometry information to the video scaler 152 .
  • the geometry information may include size information and location information about the video.
  • the graphic driver 193 performs graphic rendering (image rendering) for displaying the second image (graphic) in the buffer of the memory 142, and sets the buffer pointer so that the set pointer information is transferred to the graphic scaler ( 162) can be transmitted.
  • the pointer information includes start point and end point information for the graphic, and each frame of the rendered graphic may be controlled to be sequentially output in a section between the start point and the end point.
  • the video scaler 152 scales each frame (video frame) of the first signal processed by the video decoder 151, that is, a video signal based on a set geometry, and outputs it to the mixing unit 180. there is.
  • the video frame scaled by the video scaler 152 may be output to the mixer 180 after frame rate conversion by the frame rate converter 153 . That is, the video frame output from the video scaler 152 is transmitted to the frame rate conversion unit (FRC) 153, the frame rate conversion unit 153 performs frame rate conversion, and is mixed for mixing with the graphic frame. It may be provided as the unit 180 .
  • FRC frame rate conversion unit
  • the graphic scaler 162 may output the image-rendered second signal in the buffer, that is, each frame (graphic frame) of the graphic signal to the mixing unit 180 .
  • the mixing unit 180 mixes the video frame provided from the video scaler 152 or the frame rate conversion unit 153 and the graphic frame provided from the graphic scaler 162 and outputs it to the display 110, so that the corresponding video and graphic This superimposed image may be displayed together on the display 110 .
  • 17 is a diagram for explaining a case in which image distortion occurs in a related art in which video and graphics are displayed together.
  • a video signal and a graphic signal may be processed for each frame according to a predetermined synchronization signal, respectively.
  • a vertical synchronization signal Vsync for the display 110 on which an image is displayed may be used.
  • the graphic scaler 162 controls the first graphic frame G1 to be output at the time point of the first pulse of the vertical synchronization signal, that is, timing T1.
  • the video scaler 152 when the data of the video signal is delayed by a predetermined time ⁇ t than the graphic signal and reaches the time t b at which the first pulse T1 has elapsed, the video scaler 152, as shown in FIG. It is controlled so that the first video frame V1 is output at the timing T2 of the second pulse of the vertical synchronization signal.
  • the graphic scaler 162 may control the second graphic frame G2 to be output at the timing T2 of the same second pulse.
  • the embodiment of FIG. 18 is a more concrete example of the embodiment of FIG. 15 . That is, the embodiment of FIG. 18 operates to identify a pair of frames to be displayed together based on identification information allocated according to the frame order, for example, a sequence number, as in the embodiment of FIG. 15 , and a video frame This is because at least one of the video frame and the graphic frame is controlled to be delayed by assigning an identification number to the graphic frame and storing the video frame and graphic frame data to which the identification number is assigned in a queue and then popping it. There is a characteristic.
  • the electronic device 10 may operate in a synchronization mode for video and graphics, and may control synchronization processing to be described below to be performed.
  • the electronic device 10 may operate in a synchronization mode based on a user input through the user input unit 130 .
  • the main processing unit 190 of the electronic device 10 includes a number, that is, a sequence, as identification information in a video signal, that is, a plurality of video frames, and a graphic signal, that is, a plurality of graphic frames.
  • a number may be allocated, and data of a video signal and data of a graphic signal, which are numbered for each frame, may be stored in respective queues (901).
  • the queue has a format for storing data in a First In First Out (FIFO) structure, data of a video frame and a graphic frame may be sequentially stored in each queue and then output.
  • FIFO First In First Out
  • step 701 the main processing unit 190 allocates identification information for each frame to the video signal and the graphic signal based on the synchronization mode being executed, that is, starting, and data of the video frame and the graphic frame, for example, geometry information As such, it is possible to sequentially store, ie, enqueue, the size and location information of the video and the information on the rendering pointer of the graphic together with the assigned number, respectively.
  • the video driver 192 is executed by the main processing unit 190 and uses sequence numbers such as 1,2,3,4, and Z as identification information for each frame (video frame) of a video signal. It is possible to allocate and store data or information related thereto in the first queue 1001 provided as a video geometry queue.
  • the graphic driver 193 is executed by the main processing unit 190 to assign sequence numbers such as 1,2,3,4, and Z to each frame (video frame) of the graphic signal as identification information and related thereto Data or information may be stored in the second queue 1002 provided as a graphic pointer queue. Accordingly, the video frame and the graphic frame to which the same identification information (sequence number) is assigned, as a pair of frames corresponding to each other, may be displayed together on the display 110 as an overlapping target of the mixer 180 .
  • the video driver 192 and the graphic driver 192 executed by the main processing unit 190 can control to simultaneously pop, that is, output, data from each of the queues 1001 and 802 at a predetermined reference point.
  • the reference point may be set based on a predetermined synchronization signal, for example, may be the timing T1 of the first pulse of the vertical synchronization signal Vsync for the display 110 as an interrupt service routine (ISR). .
  • ISR interrupt service routine
  • data of a video frame V1 stored in the first queue 1001 and data of a graphic frame G1 stored in the second queue 1001 are assigned identification information corresponding to each other.
  • it can be controlled to be popped, that is, dequeued, from each of the cues 1001 and 802 at the same time at a reference point.
  • the data of the video frame and the data of the graphic frame are respectively popped from the first queue 1001 and the second queue 1002 at the reference point, respectively, and transmitted to the video scaler 152 and the graphic scaler 162 .
  • the video driver 192 provides geometry information (video geometry) set for the popped video frame to the video scaler 152, and the graphic driver 193 performs graphic rendering on the popped graphic frame and geometry information As such, information of the buffer pointer may be provided to the graphic scaler 162 .
  • the main processing unit 190 compares the identification information assigned to each of the video frame and the graphic frame popped at the reference point, that is, the sequence number, and the two identification information (numbers) correspond to each other, that is, Based on the identification as matching, it is possible to control data to be transmitted to the video scaler 152 and the graphic scaler 162 , respectively.
  • the main processing unit 190 determines the video geometry information as geometry information. and information of the buffer pointer may be controlled to be transmitted and set to the video scaler 152 and the graphic scaler 162, respectively.
  • the main processing unit 190, the video processing unit 150 and the graphic processing unit so that the image of the video frame V1 to which the identification information (sequence number) corresponding to each other transmitted in step 902 is assigned and the image of the graphic frame G1 are synchronized and output (160) can be controlled (703).
  • the main processing unit 190 for example, at the timing T2 of the next pulse of the vertical synchronization signal Vsync, the video frame V1 and the graphic frame G1 are synchronized from the video scaler 152 and the graphic scaler 162, respectively.
  • the output may be controlled to be provided to the mixing unit 180 .
  • the video frame and the graphic frame are controlled to be output in synchronization with a pair. do.
  • At least one of the video frame V1 and the graphic frame G1 may be artificially controlled to be delayed.
  • the graphic scaler 162 may receive the geometry information (rendering pointer information) as data of the graphic frame G1 from the queue 1002 and output the graphic frame G1 based thereon.
  • the graphic frame G1 is artificially it will be delayed
  • the video frame scaled by the video scaler 152 may be output to the mixer 180 through the frame rate converter (FRC) 153 .
  • FRC frame rate converter
  • FIG. 20 is a diagram illustrating operations of components for synchronizing and displaying an image on which frame rate conversion is performed in the embodiment of FIG. 18 .
  • the electronic device 10 of an embodiment shown in FIG. 20 has a delay time of a video frame generated in frame rate conversion of a video signal, that is, a graphic buffer 1103 for additional buffering corresponding to the FRC delay. may be implemented in a further provided form.
  • the memory 142 includes a video buffer 1101 in which video frames output by the video scaler 152 are sequentially stored and output by the graphic scaler 162 .
  • a graphic buffer 1102 in which graphic frames to be used are sequentially stored may be provided.
  • an FRC buffer 1103 may be further provided as a graphic buffer for storing a graphic frame in response to the FRC delay of the video frame.
  • the FRC buffer 1103 may be configured to have a size corresponding to 3 frames.
  • the graphic frame is delayed by the FRC buffer 1103 .
  • the video frame and the graphic frame corresponding to each other are controlled to be output in synchronization.
  • FIG. 21 is a diagram for explaining an example in which a video and a graphic are synchronized and output according to the embodiment of FIG. 18 .
  • a video signal and a graphic signal may be processed and synchronized for each frame according to a predetermined synchronization signal and outputted.
  • a vertical synchronization signal Vsync for the display 110 on which an image is displayed may be used.
  • data or information of a video frame V1 and a graphic frame G1 stored in the first queue 1001 and the second queue 1002, respectively, are synchronized signals.
  • the video frame V1 and the graphic frame G1 are the video scaler 152 and the graphic scaler 162. may be controlled to be synchronized and output to the mixing unit 180 .
  • the data or information of the video frame V2 and the graphic frame G2 are popped from the respective cues 1001 and 802 at the timing T2 corresponding to the pair of frames, and the video frame V2 and the graphic at the timing T3 of the next synchronization signal
  • the frame G2 may be controlled to be output to the mixer 180 in synchronization with the video scaler 152 and the graphic scaler 162 .
  • the data of the video frame and the graphic frame corresponding to each other that is, the number (sequence number) must be simultaneously displayed as a pair of the cues 1001 and 1102. ), as described in the related art of FIG. 17, even if any one of the video signal and the graphic signal is delayed due to different processing paths, the problem that the corresponding video frame and the graphic frame are output at different times will not occur. Accordingly, mismatch or distortion of an image due to a failure in synchronization between video and graphics as shown in FIG. 6 may be prevented.
  • FIG. 22 is a flowchart illustrating a control operation for synchronizing and displaying an image in an electronic device according to another embodiment of the present invention
  • FIG. 23 is an operation of components for synchronizing and displaying an image according to another embodiment of FIG.
  • FIG. 24 is a diagram showing an example of delaying and outputting a graphic signal in another embodiment of FIG. 22 .
  • the electronic device of another embodiment of FIG. 22 identifies the delay time, that is, the FRC delay, generated in the frame rate conversion of the first signal, that is, the video signal, and pre-processes the second signal, that is, the graphic signal by the FRC delay. By delaying, the first signal and the second signal are controlled so that they are output in synchronization.
  • the embodiment of FIG. 22 operates to identify a pair of frames to be displayed together based on identification information allocated according to the order of the frames, for example, a sequence number, as in the embodiment of FIGS. 15 and 18 .
  • the feature is that the data of the graphic frame to which the number is assigned is popped with a delay compared to the data of the video frame in which the FRC delay occurs.
  • the main processing unit 190 of the electronic device 10 includes a number as an identification number in a plurality of video frames of a video signal and a plurality of graphic frames of a graphic signal, that is, a sequence number. (sequence number) may be allocated, and data of a video signal and data of a graphic signal, which are numbered for each frame, may be stored in respective queues (1201).
  • the queue has a format of storing data in a first-in-first-out (FIFO) structure, data of a video frame and a graphic frame may be sequentially stored in each queue and then output.
  • FIFO first-in-first-out
  • step 1201 the main processing unit 190 allocates identification information for each frame to the video signal and the graphic signal based on the synchronization mode being executed, that is, starting, and data of the video frame and the graphic frame, for example, geometry information may be sequentially stored, ie, enqueued, with each assigned number.
  • the video driver 192 is executed by the main processing unit 190 and uses sequence numbers such as 1,2,3,4, and Z as identification information for each frame (video frame) of the video signal. It can be allocated and stored in the first queue 1301 .
  • the graphic driver 193 is executed by the main processing unit 190 to match sequence numbers such as 1,2,3,4, It can be stored in the queue 1302 . Accordingly, a video frame and a graphic frame to which the same identification information (sequence number) is assigned are a pair of frames corresponding to each other and are objects displayed together on the display 110 .
  • the graphic driver 193 executed by the main processing unit 190 may identify the FRC delay generated in the frame rate conversion process of the first signal, that is, the video signal ( 1202 ).
  • the main processing unit 190 may obtain information about the FRC delay generated by the FRC operation from the frame rate conversion unit 153 .
  • the graphic driver 193 matches the data of the second signal, that is, the graphic frame stored in the second queue 1302 with the sequence number matched in step 1201, the same sequence number as the first signal, that is, the same sequence number is matched in step 1201.
  • the graphic rendering time by the graphic driver 193 may be artificially delayed in response to the FRC delay.
  • the data of the video frame V1 stored in the first queue 1301 is transferred to the first queue 1301 at the timing T1 of the synchronization signal.
  • the data of the graphic frame G1 corresponding to V1 stored in the second queue 1302 is controlled to be popped from the second queue 1302 at the timing T3 delayed by 2 frames (1402).
  • the data of the video frame V2 is popped at the timing T2, while the data of the corresponding graphic frame G2 is controlled so that the data of the graphic frame G2 is popped at the delayed timing T4 by two frames.
  • data of any one of a pair of frames to which identification information corresponding to each other is allocated is delayed by the FRC delay with respect to the other data in which the FRC delay occurs and pops, that is, , can be controlled to be dequeued.
  • the data of the graphic frame G1 is transferred to the graphic scaler 162 later by the FRC delay than when the data of the corresponding video frame V1 is transferred to the video scaler 152 .
  • the main processing unit 190 the pair of frames to which the identification information (sequence number) corresponding to each other transmitted in step 1203 is assigned, for example, the video frame V1 and the image of the graphic frame G1 are output in synchronization
  • the processing unit 150 and the graphic processing unit 160 may be controlled ( 1204 ).
  • step 1203 the video frame V1 is transmitted to the frame rate converter 153 after being scaled by the video scaler 152 according to the data output at the timing T1, that is, according to the video geometry information, and is delayed by 2 frames in the FRC execution process. , is synchronized with the graphic frame G1 output from the graphic scaler 162 according to the data output at the timing T3, that is, the pointer information, and output to the mixing unit 180 together.
  • one of the video frame and the graphic frame to be displayed together that is, the graphic frame is output with a delay in advance in response to the FRC delay of the video.
  • the video and graphics corresponding to each other are synchronized to be output and overlapped, so that they can be displayed together on the display 110 .
  • the method according to various embodiments disclosed in this document may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a device-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play StoreTM) or on two user devices (eg, It can be distributed (eg downloaded or uploaded) directly or online between smartphones (eg: smartphones).
  • a portion of the computer program product eg, a downloadable app
  • a machine-readable storage medium such as a memory of a manufacturer's server, a server of an application store, or a relay server. It may be temporarily stored or temporarily created.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Social Psychology (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Marketing (AREA)
  • Computer Hardware Design (AREA)
  • Business, Economics & Management (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

본 발명은 디스플레이장치 및 그 제어방법에 관한 것으로서, 디스플레이장치는, 디스플레이; 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 비디오처리부; 그래픽프레임을 출력하는 그래픽처리부; 프레임 별 영역정보에 기초하여 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하고, 비디오프레임의 영역정보와 투명도정보를 제공하는 정보처리부; 및 영역정보 및 투명도정보에 기초하여 비디오프레임에 대응하는 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임 및 조정된 그래픽프레임을 중첩시켜 디스플레이에 표시될 영상을 출력하는 믹싱부를 포함한다.

Description

디스플레이장치 및 그 제어방법
관련된 출원에 대한 상호-참조
본 출원은 2020년 10월 28일자로 대한민국 특허청에 제출된 대한민국 특허 출원번호 제10-2020-0140957호에 기초한 우선권을 주장하며, 그 개시 내용은 전체가 참조로 본 발명에 포함된다.
본 발명은 디스플레이장치 및 그 제어방법에 관한 것으로서, 보다 상세하게는 비디오와 그래픽을 함께 표시할 수 있는 디스플레이장치 및 그 제어방법에 관한 것이다.
텔레비전(TV)과 같은 디스플레이가 마련된 전자장치는 외부의 소스로부터 제공되는 다양한 컨텐트를 수신하여, 그에 기초한 영상이 디스플레이에 표시되도록 한다.
최근 네트워크 환경을 이용한 다양한 동영상 서비스가 대중화되면서, 그래픽과 같은 부가영상을 포함하는 컨텐트를 제공하는 방송 서비스 또는 비디오 서비스도 점차 확대되는 추세이다.
텔레비전과 같은 전자장치는 화질 향상을 위해 비디오신호와 그래픽신호를 각각 처리하기 위한 별도의 처리부가 마련되고, 처리된 두 신호를 중첩하여 출력함으로써 화면에 함께 표시되도록 할 수 있다.
이렇게 비디오처리부가 그래픽처리부가 구분된 전자장치에서는, 비디오신호와 그래픽신호가 서로 다른 경로(path)를 통해 각각 처리되는 과정에서 두 신호 중 하나, 예를 들어, 비디오신호가 지연되는 경우가 발생될 수 있다.
이러한 경우 중첩된 비디오와 그래픽이 서로 매치되지 못하거나 비디오와 그래픽 사이에 경계에 왜곡이 발생하는 등 화면에 영상이 정상적으로 표시되지 못할 수 있으며, 그에 따라 사용자의 시청에 불편이 초래될 수 있다.
본 발명은, 비디오신호와 그래픽신호를 중첩하여 출력하는 과정에서, 비디오와 그래픽의 미스매치 또는 영상의 왜곡이 발생하는 것을 방지할 수 있는 디스플레이장치 및 그 제어방법을 제공한다.
본 발명 일 실시예에 따른 디스플레이장치는, 디스플레이; 외부장치로부터 컨텐트를 수신할 수 있는 인터페이스부; 수신된 컨텐트의 비디오프레임에 대해, 프레임 별 영역정보를 제공하는 주처리부; 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 비디오처리부; 그래픽프레임을 출력하는 그래픽처리부; 프레임 별 영역정보에 기초하여, 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하고, 비디오프레임의 영역정보와 생성된 투명도정보를 제공하는 정보처리부; 및 영역정보 및 투명도정보에 기초하여 비디오프레임에 대응하는 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임 및 조정된 그래픽프레임을 중첩시켜 디스플레이에 표시될 영상을 출력하는 믹싱부를 포함한다.
정보처리부는, 비디오처리부에서 순차적으로 출력되는 복수의 비디오프레임 중에서 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성할 수 있다.
정보처리부는, 비디오프레임의 영역정보에 기초하여 영역정보에 대응하는 투명도정보를 생성하는 데이터생성부를 포함할 수 있다.
데이터생성부는, 비디오처리부로부터 입력된 데이터에 기초하여 출력되는 비디오프레임을 식별하고, 식별된 비디오프레임의 영역정보에 대응하는 투명도정보를 생성할 수 있다.
데이터생성부는, 1비트 데이터의 투명도정보를 생성하며, 정보처리부는, 1비트 데이터의 투명도정보를 8비트 데이터로 변환하는 데이터변환부를 더 포함할 수 있다.
투명도정보는 1 또는 0의 값을 가지는 알파값을 포함할 수 있다.
믹싱부는, 정보처리부로부터 출력된 투명도정보와 그래픽처리부로부터 출력된 투명도정보 중 어느 하나를 선택하고, 선택된 투명도정보에 기초하여 그래픽프레임의 영역의 투명도를 조정할 수 있다.
믹싱부는, 그래픽프레임이 모션 UX에 대응하는 것으로 식별됨에 기초하여, 정보처리부로부터 출력된 투명도정보를 선택할 수 있다.
정보처리부는, 주처리부로부터 비디오프레임의 영역정보를 획득할 수 있다.
주처리부로부터 출력된 비디오프레임의 영역정보는 비디오처리부를 통해 정보처리부로 제공될 수 있다.
한편, 본 발명 다른 실시예에 따른 디스플레이장치는, 디스플레이; 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 비디오처리부; 그래픽프레임을 출력하는 그래픽처리부; 상기 비디오프레임 및 상기 그래픽프레임을 중첩시켜 상기 디스플레이에 표시될 영상을 출력하는 믹싱부; 및 상기 비디오프레임의 영역정보를 상기 비디오처리부로 출력하고, 상기 그래픽프레임의 투명도정보를 상기 그래픽처리부로 출력하는 주처리부를 포함하며, 상기 비디오처리부는, 상기 그래픽처리부로부터 상기 비디오프레임의 영역정보에 대응하는 상기 투명도정보를 획득하고, 상기 출력되는 비디오프레임의 영역정보와 상기 영역정보에 대응하는 투명도정보를 상기 믹싱부로 출력하며, 상기 믹싱부는, 상기 출력되는 영역정보 및 투명도정보에 기초하여 상기 비디오프레임에 대응하는 상기 그래픽프레임의 영역의 투명도를 조정하여, 상기 비디오프레임 및 상기 조정된 그래픽프레임을 중첩한다.
한편, 본 발명 일 실시예에 따른 디스플레이장치의 제어방법은, 외부장치로부터 수신된 컨텐트의 비디오프레임에 대해, 비디오처리부에서 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 단계; 그래픽처리부에서 그래픽프레임을 출력하는 단계; 프레임 별 영역정보에 기초하여, 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하고, 비디오프레임의 영역정보와 투명도정보를 제공하는 단계; 및 영역정보 및 투명도정보에 기초하여 비디오프레임에 대응하는 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임 및 조정된 그래픽프레임을 중첩시켜 디스플레이에 표시될 영상을 출력하는 단계를 포함한다.
투명도정보를 출력하는 단계는, 비디오처리부에서 순차적으로 출력되는 복수의 비디오프레임 중에서 출력되는 비디오프레임의 영역정보와, 영역정보에 대응하는 투명도정보를 하는 단계를 포함할 수 있다.
비디오프레임의 영역정보에 기초하여 영역정보에 대응하는 투명도정보를 생성하는 단계를 더 포함할 수 있다.
비디오처리부로부터 입력된 데이터에 기초하여 출력되는 비디오프레임을 식별하고, 식별된 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하는 단계를 더 포함할 수 있다.
1비트 데이터의 투명도정보를 생성하는 단계; 및 1비트 데이터의 투명도정보를 8비트 데이터로 변환하는 단계를 더 포함할 수 있다.
투명도정보는 1 또는 0의 값을 가지는 알파값을 포함할 수 있다.
출력된 투명도정보와 그래픽처리부로부터 획득되는 투명도정보 중 어느 하나를 선택하는 단계와; 선택된 투명도정보에 기초하여 그래픽프레임의 영역의 투명도를 조정하는 단계를 더 포함할 수 있다.
그래픽프레임이 모션 UX에 대응하는 것으로 식별됨에 기초하여, 출력된 투명도정보를 선택할 수 있다.
주처리부로부터 비디오프레임의 영역정보를 획득하는 단계를 더 포함할 수 있다.
한편, 본 발명 일 실시예에 따른 디스플레이장치의 프로세서에 의해 실행 가능한 방법의 프로그램이 기록된, 컴퓨터에 의해 독취가능한 비휘발성의 기록매체에 있어서, 방법은, 외부장치로부터 수신된 컨텐트의 비디오프레임에 대해, 비디오처리부에서 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 단계; 그래픽처리부에서 그래픽프레임을 출력하는 단계; 프레임 별 영역정보에 기초하여, 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하고, 비디오프레임의 영역정보와 투명도정보를 제공하는 단계; 및 영역정보 및 투명도정보에 기초하여 비디오프레임에 대응하는 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임 및 조정된 그래픽프레임을 중첩시켜 디스플레이에 표시될 영상을 출력하는 단계를 포함한다.
상기한 바와 같은 본 발명의 디스플레이장치 및 그 제어방법에 따르면, 비디오프레임에 대응하여 그래픽프레임의 투명도가 조정되도록 제어함으로써, 비디오와 그래픽이 중첩된 영상이 왜곡없이 표시되므로, 시청 시 사용자 불편을 해소하고 시각적 피로도를 줄일 수 있다.
도 1은 본 발명 일 실시예에 의한 전자장치의 일례를 도시한다.
도 2는 본 발명 일 실시예에 의한 전자장치의 구성을 도시한 블록도이다.
도 3은 본 발명 일 실시예에 따른 전자장치에서 비디오신호와 그래픽신호가 처리되는 경로를 도시한 블록도이다.
도 4는 본 발명 일 실시예에 따른 전자장치에서 영역정보에 기초하여 출력되는 비디오프레임의 일례를 도시한다.
도 5는 본 발명 일 실시예에 따른 전자장치에서 비디오신호와 그래픽신호에 대한 믹싱이 수행되는 일례를 도시한 도면이다.
도 6은 비디오신호와 그래픽신호를 믹싱하는 관련기술에서 영상이 왜곡되어 표시되는 일례를 도시한 도면이다.
도 7은 본 발명 일 실시예에 따른 전자장치에서 비디오와 그래픽을 중첩하여 출력하는 제어 동작을 도시한 흐름도이다.
도 8은 본 발명 일 실시예의 전자장치에서 그래픽프레임의 투명도가 조정되는 일례를 도시한 도면이다.
도 9는 본 발명 일 실시예의 전자장치에서 그래픽프레임의 투명도가 조정되어 출력되는 믹싱데이터를 프레임 별로 도시한 일례이다.
도 10은 본 발명 제1실시예에 따라 비디오신호와 그래픽신호를 처리하여 믹싱하는 과정을 설명하기 위한 도면이다.
도 11은 도 10의 실시예에 따른 전자장치에서 데이터생성부의 동작을 설명하기 위한 도면이다.
도 12는 도 10의 실시예에 따른 전자장치에서 데이터선택부의 동작을 설명하기 위한 도면이다.
도 13은 본 발명 제2실시예에 따라 비디오신호와 그래픽신호를 처리하여 믹싱하는 과정을 설명하기 위한 도면이다.
도 14는 본 발명 제3실시예에 따라 비디오신호와 그래픽신호를 처리하여 믹싱하는 과정을 설명하기 위한 도면이다.
도 15는 본 발명 일 실시예에 따른 전자장치에서 비디오와 그래픽을 동기화시켜 출력하는 제어 동작을 도시한 흐름도이다.
도 16은 본 발명 일 실시예에 따른 전자장치에서 비디오와 그래픽을 함께 표시하기 위한 제어 동작을 개략적으로 도시한 도면이다.
도 17은 비디오와 그래픽이 함께 표시되는 관련기술에서 영상의 왜곡이 발생되는 경우를 설명하기 위한 도면이다.
도 18은 본 발명 일 실시예에 따라 전자장치에서 영상을 동기화하여 표시하기 위한 제어 동작을 도시한 흐름도이다.
도 19는 도 18의 실시예에 따라 영상을 동기화하여 표시하기 위한 구성들의 동작을 도시한 도면이다.
도 20은 도 18의 실시예에서 프레임레이트 변환이 수행되는 영상을 동기화하여 표시하기 위한 구성들의 동작을 도시한 도면이다.
도 21은 도 18의 일 실시예에서 비디오와 그래픽이 동기화되어 출력되는 일례를 설명하기 위한 도면이다.
도 22는 본 발명 다른 실시예에 따라 전자장치에서 영상을 동기화하여 표시하기 위한 제어 동작을 도시한 흐름도이다.
도 23은 도 22의 다른 실시예에 따라 영상을 동기화하여 표시하기 위한 구성들의 동작을 도시한 도면이다.
도 24는 도 22의 다른 실시예에서 그래픽신호를 지연시켜 출력하는 일례를 도시한 도면이다.
이하에서는 첨부 도면을 참조하여 본 발명의 실시예들을 상세히 설명한다. 도면에서 동일한 참조번호 또는 부호는 실질적으로 동일한 기능을 수행하는 구성요소를 지칭하며, 도면에서 각 구성요소의 크기는 설명의 명료성과 편의를 위해 과장되어 있을 수 있다. 다만, 본 발명의 기술적 사상과 그 핵심 구성 및 작용이 이하의 실시예에 설명된 구성 또는 작용으로만 한정되지는 않는다. 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다.
본 발명의 실시예에서, 제1, 제2 등과 같이 서수를 포함하는 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용되며, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 본 발명의 실시예에서, '구성되다', '포함하다', '가지다' 등의 용어는 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 또한, 본 발명의 실시예에서, '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있으며, 적어도 하나의 모듈로 일체화되어 구현될 수 있다. 또한, 본 발명의 실시예에서, 복수의 요소 중 적어도 하나(at least one)는, 복수의 요소 전부뿐만 아니라, 복수의 요소 중 나머지를 배제한 각 하나 혹은 이들의 조합 모두를 지칭한다.
도 1은 본 발명 일 실시예에 의한 전자장치의 일례를 도시한다.
본 발명 일 실시예에서, 전자장치(10)는, 도 1에 도시된 바와 같이, 디스플레이(110)를 포함하는 디스플레이장치로서 구현될 수 있다.
본 발명 일 실시예에 따른 전자장치(10)는 외부의 신호공급원, 즉, 소스로부터 제공되는 신호, 예를 들면 컨텐트에 관한 데이터를 수신하고, 수신된 컨텐트의 데이터를 기 설정된 프로세스에 따라 처리하여 디스플레이(110)에 영상으로 표시되도록 할 수 있다.
일 실시예에서 디스플레이장치로 구현된 전자장치(10)는 방송국의 송출장비로부터 수신되는 방송신호, 방송정보, 또는 방송데이터 중 적어도 하나에 기초한 방송 영상을 처리할 수 있는 텔레비전(TV)으로 구현될 수 있다. 이 경우, 전자장치(10)에는 방송신호를 채널 별로 튜닝하기 위한 튜너가 마련될 수 있다.
그러나, 본 발명의 사상이 전자장치(10)의 구현 예시에 한정되지 않는 바, 다른 실시예로서, 전자장치(10)는, 유선 또는 무선 연결된 외부 디스플레이로 신호를 전송하는 셋탑박스, BD를 포함하는 광디스크 재생장치(player), X-box와 같은 게임콘솔 등의 영상처리장치로서 구현될 수도 있다. 또 다른 실시예로서, 전자장치(10)는 스마트폰(smart phone), 태블릿(tablet)과 같은 스마트패드(smart pad) 등의 디스플레이가 마련된 단말장치(terminal apparatus)(이하, 사용자 단말(user terminal 또는 user device)이라고도 한다)로서 구현될 수도 있다. 또 다른 실시예로서, 전자장치(10)는 데스크탑(desktop) 또는 랩탑(laptop)과 같은 컴퓨터(personal computer, PC)의 모니터에도 적용될 수 있다.
전자장치(10)가 텔레비전인 경우, 전자장치(10)는 직접 또는 전자장치(10)와 케이블 등에 의해 연결될 수 있는 부가기기, 예를 들면, 셋탑박스(set-top box, STB), OC 박스(one-connect box), 미디어박스 등을 통해 방송국의 송출장비로부터 수신되는 방송신호, 방송정보, 또는 방송데이터 중 적어도 하나에 기초한 방송 컨텐트를 수신할 수 있다. 여기서, 전자장치(10)와 부가기기의 연결 방식은 케이블에 한정되는 것은 아니며, 다양한 유무선 인터페이스가 적용될 수 있다.
전자장치(10)는, 예를 들면 방송국으로부터 송출되는 RF(radio frequency) 신호 즉, 방송 컨텐트를 무선으로 수신할 수 있으며, 이를 위해 전자장치(10)에는 방송신호를 수신할 수 있는 안테나가 마련될 수 있다.
전자장치(10)에서, 방송 컨텐트는 지상파, 케이블, 위성 등을 통해서 수신 가능하며, 신호공급원, 즉, 소스는 방송국에 한정되지 않는다. 다시 말해, 데이터의 송수신이 가능한 장치 또는 스테이션이라면 본 발명의 소스에 포함될 수 있다.
전자장치(10)에서 수신되는 신호의 규격은 장치의 구현 형태에 대응하여 다양한 방식으로 구성될 수 있으며, 전자장치(10)는 후술하는 인터페이스부(도 2의 120)의 구현 형태에 대응하여, HDMI(High Definition Multimedia Interface), HDMI-CEC(Consumer Electronics Control), 디스플레이 포트(display port, DP), DVI, 컴포지트(composite) 비디오, 컴포넌트(component) 비디오, 슈퍼 비디오(super video), DVI(Digital Visual Interface), 썬더볼트(Thunderbolt), RGB 케이블, SCART(Syndicat des Constructeurs d'Appareils Radiorecepteurs et Televiseurs), USB(universal serial bus) 등의 규격에 대응하는 신호를 영상 컨텐트로서 유선으로 수신할 수 있다.
일 실시예에서, 전자장치(10)는 스마트 TV 또는 IP TV(Internet Protocol TV)로 구현될 수 있다. 스마트 TV는 실시간으로 방송신호를 수신하여 표시할 수 있고, 웹 브라우징 기능을 가지고 있어 실시간 방송신호의 표시와 동시에 인터넷을 통하여 다양한 컨텐트 검색 및 소비가 가능하고 이를 위하여 편리한 사용자 환경을 제공할 수 있는 TV이다. 또한, 스마트 TV는 개방형 소프트웨어 플랫폼을 포함하고 있어 사용자에게 양방향 서비스를 제공할 수 있다. 따라서, 스마트 TV는 개방형 소프트웨어 플랫폼을 통하여 다양한 컨텐트, 예를 들어 소정의 서비스를 제공하는 어플리케이션의 컨텐트를 사용자에게 제공할 수 있다. 이러한 어플리케이션은 다양한 종류의 서비스를 제공할 수 있는 응용 프로그램으로서, 예를 들어 SNS, 금융, 뉴스, 날씨, 지도, 음악, 영화, 게임, 전자 책 등의 서비스를 제공하는 어플리케이션을 포함한다.
전자장치(10)는 내부/외부의 저장매체에 저장된 신호/데이터에 기초한 동영상, 정지영상, 어플리케이션(application), OSD(on-screen display), 다양한 동작 제어를 위한 유저 인터페이스(user interface)(이하, GUI(graphic user interface) 라고도 한다) 등을 화면에 표시하도록 신호를 처리할 수 있다.
전자장치(10)는 컨텐트 제공을 위한 소스로서, 서버, 단말장치를 포함한 다양한 외부장치들로부터 유선 또는 무선 네트워크 통신에 의해 컨텐트를 제공받을 수 있으며, 통신의 종류는 한정되지 않는다.
구체적으로, 전자장치(10)는 후술하는 인터페이스부(120)의 구현 형태에 대응하여 와이파이(Wi-Fi), 와이파이 다이렉트(Wi-Fi Direct), 블루투스(bluetooth), 블루투스 저에너지(bluetooth low energy), 지그비(Zigbee), UWB(Ultra-Wideband), NFC(Near Field Communication) 등의 규격에 대응하는 신호를 영상 컨텐트로서 무선 네트워크 통신을 통해 수신할 수 있다. 또한, 전자장치(10)는 이더넷(Ethernet) 등과 같은 유선 네트워크 통신을 통해 컨텐트 신호를 수신할 수 있다.
일 실시예에서 외부장치는 유선 또는 무선 네트워크를 통해 전자장치(10)를 포함한 다양한 기기로 컨텐트를 전송할 수 있는 컨텐트 프로바이더, 즉, 컨텐트 서버로서 마련될 수 있다. 예를 들면, 외부장치는 VOD(video on demand)와 같은 미디어파일이나 웹컨텐트 등을 실시간 스트리밍 방식으로 제공할 수 있다.
본 발명 일 실시예에서, 외부장치, 즉, 서버는 복수 개 마련될 수 있다. 이 경우, 전자장치(10)는 복수의 외부장치 각각에 접속함으로써, 접속된 각 외부장치로부터 다양한 컨텐트를 제공받도록 구현될 수 있다.
전자장치(10)는, 예를 들면, 유튜브(YouTube)와 같은 웹서버나, 넷플릭스(Netflix)와 같은 OTT(over the top) 서비스를 제공할 수 있는 OTT 서버로부터 VOD와 같은 비디오 컨텐트 또는 미디어 컨텐트를 수신할 수 있다.
전자장치(10)는 컨텐트 재생을 위한 어플리케이션, 예를 들면, VOD 어플리케이션을 실행하여, 컨텐트 제공을 위해 마련된 외부장치로부터 컨텐트를 수신 및 그 수신한 컨텐트를 처리함으로써, 해당 컨텐트에 대응하는 영상이 디스플레이(110)를 통해 출력 즉, 표시되도록 할 수 있다. 여기서, 전자장치(10)는 실행된 어플리케이션에 대응하는 사용자 계정을 이용하여 서버, 즉, 외부장치로부터 컨텐트를 수신할 수 있다.
일 실시예에서 전자장치(10)는, 도 1에 도시된 바와 같이, 제1영상(21)과 제2영상(22)이 디스플레이(110)에 함께 표시되도록 할 수 있다.
구체적으로, 전자장치(10)는, 제1영상(21)에 대응하는 제1신호(이하, 제1영상신호라고도 한다)와 제2영상(22)에 대응하는 제2신호(이하, 제2영상신호 라고도 한다)를 수신하고, 수신된 제1신호와 제2신호를 각각 처리할 수 있다. 전자장치(10)는, 상기와 같이 별도의 경로(path)를 통해 처리된 제1신호와 제2신호를 믹싱하여, 두 영상(21, 22)이 디스플레이(110)에 함께 표시되도록 할 수 있다.
여기서, 제1신호는 비디오신호에, 제2신호는 그래픽신호에 각각 대응할 수 있다.
그래픽신호는, 예를 들면, 서브픽쳐, 자막, 문자다중방송(teletext), 사용자에게 정보(채널 번호, 프로그램 제목, 관련정보 등)를 전달하거나 다양한 동작 제어를 위해 표시되는 OSD(on screen display), UI(user interface), 또는 UX(user experience) 등을 표시하기 위한 신호를 포함하나, 이에 한정되는 것은 아니다.
그래픽신호는, 서버와 같은 외부장치로부터 제공되는 컨텐트에 포함되거나, 컨텐트와 분리된 별도의 신호로서 외부장치로부터 제공될 수 있다. 여기서, 컨텐트를 제공하는 외부장치와 그래픽신호를 제공하는 외부장치는 서로 같거나 또는 상이할 수 있다.
또한, 그래픽신호는 전자장치(10) 또는 셋탑박스와 같은 부가기기에 자체적으로 내장될 수도 있다.
일 실시예에서, 그래픽신호는 복수의 레이어(layer)로 구성될 수 있다.
일 실시예에서, 전자장치(10)는 그래픽신호를 처리하여 생성된 IG(interactive graphic) 또는 PG(presentation graphic)을 제2영상으로서 디스플레이(110)에 표시할 수 있다.
일 실시예에서, 그래픽신호에 따른 제2영상, 즉, 그래픽은, 비디오신호에 기초한 제1영상(비디오)의 상부에 중첩, 즉, 오버레이(overlay)되어 디스플레이(110) 상에 표시되거나, 또는 비디오신호에 기초한 제1영상(비디오)이 표시되는 영역과 분리된 별도의 영역에 표시될 수 있다.
일 실시예에서, 그래픽은 모션(motion) UX(user experience)와 스태틱(static) UX 로 구분될 수 있다.
모션 UX는 소정 개수의 프레임 구간 동안 그래픽의 위치, 크기, 모양 등에서 적어도 하나가 변경되면서 표시되는 그래픽을 지칭한다. 모션 UX는, 예를 들면, n ~ n+9 프레임의 구간 동안 그래픽의 일 영역이 이동하거나, 확장 또는 축소되면서 표시될 수 있다.
스태틱 UX는 소정 개수의 프레임 구간 동안 위치, 크기, 모양 등의 변화 또는 변경 없이 표시되는 그래픽을 지칭한다.
이하, 도면을 참조하여, 본 발명 일 실시예에 따른 전자장치의 구성들에 대해 설명하기로 한다.
도 2는 본 발명 일 실시예에 의한 전자장치의 구성을 도시한 블록도이다.
다만, 도 2에 도시된 본 발명의 일 실시예에 의한 전자장치(10)의 구성은 하나의 예시일 뿐이며, 다른 실시예에 의한 전자장치는 도 2에 도시된 구성 외에 다른 구성으로 구현될 수 있다. 즉, 본 발명의 전자장치(10)는 도 2에 도시된 구성 외 다른 구성이 추가되거나, 혹은 도 2에 도시된 구성 중 적어도 하나가 배제된 형태로 구현될 수 있다. 또한, 본 발명의 전자장치(10)는, 도 2에 구성된 구성의 일부가 변경되는 형태로 구현될 수도 있다.
본 발명 일 실시예에 따른 전자장치(10)는, 도 2에 도시된 바와 같이, 디스플레이(110)를 포함할 수 있다.
디스플레이(110)는 영상을 디스플레이할 수 있다.
디스플레이(110)의 구현 방식은 한정되지 않으며, 예를 들면 액정(liquid crystal), 플라즈마(plasma), 발광 다이오드(light-emitting diode), 유기발광 다이오드(organic light-emitting diode), 면전도 전자총(surface-conduction electron-emitter), 탄소 나노 튜브(carbon nano-tube), 나노 크리스탈(nano-crystal) 등의 다양한 디스플레이 방식으로 구현될 수 있다.
일 실시예에서, 디스플레이(110)는 영상을 표시하는 패널을 포함하며, 그 구현 방식에 따라서 부가적인 구성, 예를 들면 구동부(driver)를 더 포함할 수 있다.
일 실시예에서 디스플레이(110)에는 소스, 예를 들면, 서버와 같은 외부장치로부터 수신한 컨텐트의 영상이 표시될 수 있다.
일 실시예에서 디스플레이(110)에는 제1신호에 기초한 제1영상(비디오)과 제2신호에 기초한 제2영상(그래픽)이 함께 표시될 수 있다.
일 실시예에서, 제2영상(그래픽)은, 제1영상(비디오)의 상부에 중첩, 즉, 오버레이(overlay)되어 디스플레이(110) 상에 표시되거나, 또는 제1영상(비디오)이 표시되는 영역과 분리된 별도의 영역에 표시될 수 있다.
전자장치(10)는 인터페이스부(120)를 포함할 수 있다.
인터페이스부(120)는, 전자장치(10)가 서버를 포함하는 다양한 외부의 장치와 통신할 수 있도록 한다.
인터페이스부(120)는 유선 인터페이스부(121)를 포함할 수 있다. 유선 인터페이스부(121)는 HDMI, HDMI-CEC, USB, 컴포넌트(Component), 디스플레이 포트(DP), DVI, 썬더볼트, RGB 케이블 등의 규격에 따른 신호/데이터를 송/수신하는 연결부를 포함할 수 있다. 여기서, 유선 인터페이스부(121)는 이들 각각의 규격에 대응하는 적어도 하나 이상의 커넥터, 단자 또는 포트를 포함할 수 있다.
유선 인터페이스부(121)는 소스 등으로부터 신호를 입력받는 입력 포트를 포함하는 형태로 구현되며, 경우에 따라 출력 포트를 더 포함하여 양방향으로 신호를 송수신 가능하게 마련될 수 있다.
유선 인터페이스부(121)는 지상파/위성방송 등 방송규격에 따른 방송신호를 수신할 수 있는 안테나가 연결되거나, 케이블 방송 규격에 따른 방송신호를 수신할 수 있는 케이블이 연결될 수 있도록, HDMI 포트, DisplayPort, DVI 포트, 썬더볼트, 컴포지트(composite) 비디오, 컴포넌트(component) 비디오, 슈퍼 비디오(super video), SCART 등과 같이, 비디오 및/또는 오디오 전송규격에 따른 커넥터 또는 포트 등을 포함할 수 있다. 다른 예로서, 전자장치(10)는 방송신호를 수신할 수 있는 안테나를 내장할 수도 있다.
전자장치(10)는 인터페이스부(120)를 통해 수신하는 비디오/오디오신호가 방송신호인 경우, 수신된 방송신호를 채널 별로 튜닝하는 튜너(tuner)를 더 포함할 수 있다. 튜너는 튜닝된 특정 채널의 방송신호를 복조하여 트랜포트스트림(transport stream, TS) 형태의 신호로 출력하는 디모듈레이터를 포함할 수 있다. 다시 말해, 튜너와 디모듈레이터는 통합된 형태의 단일 칩으로 설계되거나, 상호 분리된 2개의 칩으로 각각 구현될 수 있다.
유선 인터페이스부(121)는 USB 포트 등과 같은 범용 데이터 전송규격에 따른 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(121)는 광 전송규격에 따라 광케이블이 연결될 수 있는 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(121)는 외부 마이크 또는 마이크를 구비한 외부 오디오기기가 연결되며, 마이크 또는 오디오기기로부터 오디오 신호를 수신 또는 입력할 수 있는 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(121)는 헤드셋, 이어폰, 외부 스피커 등과 같은 오디오기기가 연결되며, 오디오기기로 오디오 신호를 전송 또는 출력할 수 있는 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(121)는 이더넷(Ethernet) 등과 같은 네트워크 전송규격에 따른 커넥터 또는 포트를 포함할 수 있다. 예컨대, 유선 인터페이스부(121)는 라우터 또는 게이트웨이에 유선 접속된 랜카드 등으로 구현될 수 있다.
유선 인터페이스부(121)는 커넥터 또는 포트를 통해 셋탑박스, 광학미디어 재생장치와 같은 외부기기, 또는 외부 디스플레이장치나, 스피커, 서버 등과 1:1 또는 1:N (N은 자연수) 방식으로 유선 접속됨으로써, 해당 외부기기로부터 비디오/오디오 신호를 수신하거나 또는 해당 외부기기에 비디오/오디오 신호를 송신한다. 유선 인터페이스부(121)는, 비디오/오디오 신호를 각각 별개로 전송하는 커넥터 또는 포트를 포함할 수도 있다.
유선 인터페이스부(121)는 다양한 종류의 통신 프로토콜에 대응하는 무선 통신모듈(S/W module, chip 등)을 포함하는 통신회로(communication circuitry)로서 구현될 수 있다.
일 실시예에서 유선 인터페이스부(121)는 전자장치(10)에 내장되나, 동글(dongle) 또는 모듈(module) 형태로 구현되어 전자장치(10)의 커넥터에 착탈될 수도 있다.
인터페이스부(120)는 무선 인터페이스부(122)를 포함할 수 있다.
무선 인터페이스부(122)는 무선 인터페이스부(122)는 전자장치(10)의 구현 형태에 대응하여 다양한 방식으로 구현될 수 있다. 예를 들면, 무선 인터페이스부(122)는 통신방식으로 RF(radio frequency), 지그비(Zigbee), 블루투스(bluetooth), 와이파이(Wi-Fi), UWB(Ultra WideBand) 및 NFC(Near Field Communication) 등 무선통신을 사용할 수 있다.
무선 인터페이스부(122)는 다양한 종류의 통신 프로토콜에 대응하는 무선 통신모듈(S/W module, chip 등)을 포함하는 통신회로(communication circuitry)로서 구현될 수 있다.
일 실시예에서 무선 인터페이스부(122)는 무선랜유닛을 포함한다. 무선랜유닛은 주처리부(190)의 제어에 따라 억세스 포인트(access point, AP)를 통해 무선으로 외부장치와 연결될 수 있다. 무선랜유닛은 와이파이 모듈을 포함한다.
일 실시예에서 무선 인터페이스부(122)는 억세스 포인트 없이 무선으로 전자장치(10)와 외부장치 사이에 1 대 1 다이렉트 통신을 지원하는 무선통신모듈을 포함한다. 무선통신모듈은 와이파이 다이렉트, 블루투스, 블루투스 저에너지 등의 통신방식을 지원하도록 구현될 수 있다. 전자장치(10)가 외부장치와 다이렉트로 통신을 수행하는 경우, 저장부(140)에는 통신 대상 기기인 외부장치에 대한 식별정보(예를 들어, MAC address 또는 IP address)가 저장될 수 있다.
본 발명 일 실시예에 따른 전자장치(10)에서, 무선 인터페이스부(122)는 성능에 따라 무선랜유닛과 무선통신모듈 중 적어도 하나에 의해 외부장치와 무선 통신을 수행하도록 마련된다.
다른 실시예에서 무선 인터페이스부(122)는 LTE와 같은 이동통신, 자기장을 포함하는 EM 통신, 가시광통신 등의 다양한 통신방식에 의한 통신모듈을 더 포함할 수 있다.
무선 인터페이스부(122)는 네트워크 상의 서버 등의 외부장치와 무선 통신함으로써, 외부장치와 데이터 패킷을 송수신할 수 있다.
무선 인터페이스부(122)는 적외선 통신규격에 따라 IR(Infrared) 신호를 송신 및/또는 수신할 수 있는 IR송신부 및/또는 IR수신부를 포함할 수 있다. 무선 인터페이스부(122)는 IR송신부 및/또는 IR수신부를 통해 리모컨 또는 다른 외부장치로부터 리모컨신호를 수신 또는 입력하거나, 다른 외부장치로 리모컨신호를 전송 또는 출력할 수 있다. 다른 예로서, 전자장치(10)는 와이파이(Wi-Fi), 블루투스(bluetooth) 등 다른 방식의 무선 인터페이스부(122)를 통해 리모컨 또는 다른 외부장치와 리모컨신호를 송수신할 수 있다.
일 실시예에서 무선 인터페이스부(122)는 마이크(microphone)와 같은 음성입력부를 통해 수신된 사용자음성의 정보로서 소정 데이터를 서버와 같은 외부장치로 전송할 수 있다. 여기서, 전송되는 데이터의 형태/종류는 한정되지 않으며, 예를 들면, 사용자로부터 발화된 음성에 대응하는 오디오신호나, 오디오신호로부터 추출된 음성특징 등을 포함할 수 있다.
또한, 무선 인터페이스부(122)는 서버와 같은 외부장치로부터 해당 사용자음성의 처리 결과의 데이터를 수신할 수 있다. 전자장치(10)는 수신된 데이터에 기초하여, 음성 처리결과에 대응하는 사운드를 내부 또는 외부의 스피커(loudspeaker)를 통해 출력할 수 있다.
다만, 상기한 실시예는 예시로서, 사용자음성을 서버로 전송하지 않고, 전자장치(10) 내에서 자체적으로 처리할 수도 있다. 즉, 다른 실시예에서 전자장치(10)가 STT(speech to text) 서버의 역할을 수행하도록 구현 가능하다.
전자장치(10)는 무선 인터페이스부(122)를 통해 리모컨과 같은 입력장치와 통신을 수행하여, 입력장치로부터 사용자음성에 대응하는 소리 신호를 수신할 수 있다.
일 실시예의 전자장치(10)에서, 서버 등의 외부장치와 통신하는 통신모듈과 리모컨과 통신하는 통신모듈은 서로 다를 수 있다. 예를 들어, 전자장치(10)는, 외부장치와 이더넷 모뎀 또는 와이파이 모듈을 통해 통신을 수행하고, 리모컨과 블루투스 모듈을 통해 통신을 수행할 수 있다.
다른 실시예의 전자장치(10)에서, 서버 등의 외부장치와 통신하는 통신모듈과 리모컨과 통신하는 통신모듈은 같을 수 있다. 예를 들어, 전자장치(10)는 블루투스 모듈을 통해 외부장치 및 리모컨과 통신을 수행할 수 있다.
일 실시예에서 무선 인터페이스부(122)는 전자장치(10)에 내장되나, 동글(dongle) 또는 모듈(module) 형태로 구현되어 전자장치(10)의 커넥터에 착탈될 수도 있다.
일 실시예에서 전자장치(10)는 인터페이스부(120)를 통해 방송신호를 수신할 수 있다. 전자장치(10)는 방송신호에 실려있는 데이터에 기초하여 제1영상에 대응하는 제1신호(비디오신호)와 제2영상에 대응하는 제2신호(그래픽신호)를 추출 또는 생성할 수 있다.
일 실시예에서 전자장치(10)는 인터페이스부(120)를 통해 서버와 같은 외부장치로부터 실시간 스트리밍 방식으로 컨텐트신호를 수신할 수 있다. 전자장치(10)는 컨텐트신호에 기초하여, 제1영상에 대응하는 제1신호(비디오신호)와 제2영상에 대응하는 제2신호(그래픽신호)를 추출 또는 생성할 수 있다.
전자장치(10)는 사용자입력부(130)를 포함할 수 있다.
사용자입력부(130)는 사용자의 입력에 의해, 기설정된 다양한 제어 커맨드 또는 한정되지 않은 정보를 후술하는 주처리부(190)에 전달할 수 있다.
사용자입력부(130)는 사용자 입력을 수신할 수 있는 다양한 입력수단을 포함한다.
일 실시예에서 사용자입력부(130)는 전자장치(10)에 마련된 전원키, 숫자키, 메뉴키 등의 버튼을 포함하는 키패드(또는 입력패널)를 포함할 수 있다.
일 실시예에서 사용자입력부(130)는 전자장치(10)를 원격으로 제어 가능하게 기설정된 커맨드/데이터/정보/신호를 생성하여 전자장치(10)로 전송하는 입력장치를 포함할 수 있다. 입력장치는, 예를 들면, 리모컨(remote control), 게임콘솔(game console), 키보드(keyboard), 마우스(mouse) 등을 포함하며, 전자장치(10)와 이격 분리되어, 사용자 입력을 수신할 수 있다.
리모컨에는 사용자 입력을 수신할 수 있는 적어도 하나의 버튼이 마련될 수 있다. 일 실시예에서 리모컨에는 사용자의 터치입력을 수신하는 터치감지부 및/또는 사용자에 의한 리모컨 자체의 움직임을 감지하는 모션감지부가 마련될 수 있다. 일 실시예에서 입력장치는 리모컨 어플리케이션이 설치된 스마트폰과 같은 단말장치를 포함하며, 이 경우 터치스크린을 통한 사용자의 터치입력이 수신 가능하다.
입력장치는 전자장치(10) 본체와 무선통신이 가능한 외부장치가 되며, 무선통신은 블루투스, 적외선 통신, RF 통신, 무선랜, 와이파이 다이렉트 등을 포함한다.
일 실시예에서 사용자입력부(130)는 사용자로부터 발화된 음성/사운드를 수신하는 음성입력부를 포함할 수 있다. 음성입력부는 사용자음성을 수신할 수 있는 마이크(microphone)로서 구현되며, 마이크는 전자장치(10)에 마련되거나, 전자장치(10)와 이격 분리되어 마련되거나, 또는 전자장치(10)와 이격 분리된 다른 장치, 예를 들면, 리모컨에 마련될 수 있다.
일 실시예에서 사용자입력부(130)는 사용자의 손의 움직임, 다시 말해, 핸드 제스처(hand gesture)(이하, 제스처 라고도 한다)를 감지하는 모션감지부를 포함할 수 있다. 전자장치(10)의 모션감지부는 손의 이동거리, 이동속도, 이동영역의 면적 등을 감지하여 데이터를 출력할 수 있다.
전자장치(10)는 저장부(140)를 포함할 수 있다.
저장부(140)는 전자장치(10)의 다양한 데이터를 저장하도록 구성된다.
저장부(140)는 전자장치(10)에 공급되는 전원이 차단되더라도 데이터들이 남아있을 수 있으며, 변동사항을 반영할 수 있도록 쓰기 가능한 비휘발성 메모리(writable ROM)로 구비될 수 있다. 즉, 저장부(140)는 플래쉬 메모리(flash memory), EPROM 또는 EEPROM 중 어느 하나로 구비될 수 있다. 저장부(140)는 전자장치(10)의 읽기 또는 쓰기 속도가 비휘발성 메모리에 비해 빠른 DRAM 또는 SRAM과 같은 휘발성 메모리(volatile memory)를 더 구비할 수 있다.
저장부(140)에 저장되는 데이터는, 예를 들면 전자장치(10)의 구동을 위한 운영체제를 비롯하여, 이 운영체제 상에서 실행 가능한 다양한 프로그램, 어플리케이션, 영상데이터, 부가데이터 등을 포함한다.
구체적으로, 저장부(140)는 주처리부(190)의 제어에 따라 각 구성요소들의 동작에 대응되게 입/출력되는 신호 또는 데이터를 저장할 수 있다. 저장부(140)는 전자장치(10)의 제어를 위한 제어 프로그램, 제조사에서 제공되거나 외부로부터 다운로드 받은 어플리케이션과 관련된 UI, UI를 제공하기 위한 그래픽 또는 이미지, 사용자 정보, 문서, 데이터베이스들 또는 관련 데이터들을 저장할 수 있다.
일 실시예에서 저장부(140)에는 전자장치(10)가 텔레비전으로 동작하도록 하는 프로그램으로서 TV 어플리케이션 또는 TV 클라이언트와, 서버와 같은 외부장치로부터 수신되는 컨텐트가 재생되도록 하는 프로그램으로서 VOD 어플리케이션 등이 저장될 수 있다.
일 실시예에서, 전자장치(10)에서 표시되는 영상, 즉, 제1영상(비디오)와 제2영상(그래픽)은 플래시메모리, 하드디스크 등과 같은 비휘발성의 저장부(140)에 저장된 데이터로부터 기인한 것일 수 있다. 저장부(140)는 전자장치(10)의 내부 또는 외부에 마련될 수 있으며, 외부에 마련되는 경우 저장부(140)는 유선 인터페이스부(121)를 통해 전자장치(10)에 연결될 수 있다.
본 발명의 실시예에서 저장부 라는 용어는 저장부(140), 주처리부(190) 내 롬(ROM)(도시되지 아니함), 램(RAM)(도시되지 아니함) 또는 전자장치(10)에 장착 가능한 메모리 카드(도시되지 아니함)(예를 들어, micro SD 카드, 메모리 스틱)를 포함하는 것으로서 정의된다.
전자장치(10)는 비디오처리부(150)를 포함할 수 있다.
비디오처리부(150)는 제1신호, 즉, 비디오신호를 처리하여, 그에 대응하는 제1영상, 즉, 비디오가 디스플레이(110)에 표시되도록 할 수 있다.
본 발명 일 실시예에에 따른 전자장치(10)는, 비디오처리부(150)를 통한 제1경로, 다시 말해, 비디오경로(video path)로 비디오신호를 처리할 수 있다. 여기서, 제1경로는, 후술하는 그래픽처리부(160)를 통한 그래픽신호의 처리 경로인 제2경로, 즉, 그래픽경로(graphic path)와 구분된다.
도 3은 본 발명 일 실시예에 따른 전자장치에서 비디오신호와 그래픽신호가 처리되는 경로를 도시한 블록도이다.
비디오처리부(150)는 제1영상신호, 즉, 비디오신호에 대해 기 설정된 다양한 프로세스를 수행하는 구성으로서, 도 3에 도시된 바와 같이, 영상신호를 전자장치(10)의 영상 포맷에 대응하도록 디코드하는 비디오 디코더(video decoder)(151)를 포함할 수 있다.
일 실시예에서, 비디오 디코더는, 예를 들어, H.264/AVC 디코더인 것을 일례로 하지만 이에 한정되는 것은 아니다. 즉, 본 발명 실시예에 따른 비디오 디코더는 MPEG(Moving Picture Experts Group) 디코더 또는 HEVC(High Efficiency Video Codec) 디코더 등 다양한 압축 표준에 따른 디코더로서 구현 가능하다.
비디오 디코더는 하드웨어 디코더 또는 소프트웨어 디코더로서 구현될 수 있다.
일 실시예의 전자장치(10)에는 비디오 디코더가 복수 개 마련될 수 있다. 여기서, 전자장치(10)에 마련된 복수의 비디오 디코더는 각각이 하드웨어 디코더 또는 소프트웨어 디코더로 구현되거나, 하드웨어 디코더와 소프트웨어 디코더가 조합된 형태로 구현될 수 있다.
비디오처리부(150)는 제1신호, 즉, 비디오신호를 디스플레이(110)의 출력 규격, 예를 들면, 패널 사양에 맞도록 조절하는 비디오 스케일러(video scaler, 이하 V Scaler 라고도 한다)(152)를 포함할 수 있다.
일 실시예에서 비디오 스케일러(152)는 동기신호에 따라 프레임 별로 비디오신호를 처리할 수 있다. 여기서, 동기신호는 디스플레이(110)에 대한 수직동기신호(Vsync)인 것을 일례로 한다.
구체적으로, 비디오 스케일러(152)는, 동기신호, 즉, 디스플레이(110)에 대한 수직동기신호에 기초하여, 비디오신호의 복수의 비디오프레임을 순차적으로 처리, 즉, 스케일링하여 출력할 수 있다.
일 실시예에서 비디오 스케일러(152)는 하드웨어 구성, 예를 들면, 칩(chip)으로 구현되어, 스케일링된 복수의 비디오 프레임이 순차적으로 버퍼(buffer)(프레임버퍼)(이하, 비디오버퍼 라고도 한다)에 저장 및 출력되도록 할 수 있다. 여기서, 버퍼는 DRAM과 같은 메모리로서 구현된 저장부(140)에 마련되는 것을 일례로 한다.
비디오 스케일러(152)는, 전자장치(10)에 설치되는 소프트웨어인 어플리케이션(191)에 의해 결정 또는 설정된 비디오프레임 정보에 기초하여 복수의 비디오프레임을 순차적으로 스케일링하여 출력할 수 있다. 여기서, 비디오프레임 정보는 각 비디오프레임에 대한 영역정보를 포함할 수 있다.
도 4는 본 발명 일 실시예에 따른 전자장치에서 비디오프레임 정보에 기초하여 출력되는 비디오프레임의 일례를 도시한 것으로, 도 4를 참조하여 비디오프레임을 보다 구체적으로 설명할 수 있다.
일 실시예에서, 비디오프레임 정보, 다시 말해, 영역정보는 각 프레임 별로 제1영상, 즉, 비디오의 사이즈와 위치를 나타내는 지오메트리(geometry) 정보를 포함할 수 있다.
지오메트리 정보는, 도 4에 도시된 바와 같이, 각각의 비디오프레임(Video #1~Video #10)에 대해 설정된 정보로서, 예를 들면, 비디오의 사이즈 정보(V size, H size) 또는 위치 정보(start position, end position) 중 적어도 하나를 포함할 수 있다.
또한, 지오메트리 정보는 그래픽신호에 대응하는 제2영상, 즉, 그래픽의 스타트 포인트(start point)와 엔드 포인트(end point) 정보를 포함할 수 있다. 그래픽신호의 각 프레임은 스타트 포인트와 엔트 포인트 사이의 구간에서 출력되도록 제어될 수 있다.
일 실시예에서 지오메트리 정보는 각 프레임 별로 비디오와 그래픽을 표현하기 위한 파라미터로서 좌표값을 포함할 수 있다.
도 3을 다시 참조하면, 비디오 스케일러(152)는 지오메트리 정보를 각 프레임의 비디오데이터에 반영하여 출력할 수 있다.
일 실시예에서 지오메트리 정보는 후술하는 주처리부(190)의 일례인 CPU로부터 비디오 스케일러(152)로 전달될 수 있다. 도 3의 일 실시예에서는 CPU(190)로부터 출력된 지오메트리 정보가 정보처리부(170)를 통해 비디오 스케일러(152)로 제공되는 경우를 예로 들어 도시하였으나, 본 발명은 이에 한정되지 않으며, 다른 실시예로서 비디오 스케일러(152)는 CPU(190)로부터 직접 지오메트리 정보를 획득할 수 있다.
주처리부(190), 즉, CPU는 전자장치(10)에 설치된 어플리케이션(191)을 실행하고, 실행된 어플리케이션(191)으로부터 지오메트리 정보(데이터)를 획득하고, 획득한 지오메트리 정보(데이터)를 비디오 스케일러(152)로 제공할 수 있다.
여기서, 어플리케이션(191)은 지오메트리 정보와 함께 그래픽의 투명도정보를 생성하여, 주처리부(190), 즉, CPU로 제공할 수 있다. 투명도정보는 그래픽프레임의 일 영역에 대한 투명도를 나타낼 수 있으며, 해당 영역은 비디오프레임의 영역정보에 대응할 수 있다.
투명도정보는 알파값(alpha value)으로 나타내며, 알파값은 0.0(완전투명)으로부터 1.0(완전불투명)의 범위 내의 값으로 표현될 수 있다. 알파값은 0에서 255의 투명도 정도를 구별할 수 있는 8비트 데이터인 것을 일례로 한다. 다만, 이에 한정되지 않으며, 경우에 따라 알파값은 0 에서 511 또는 0에서 1023 의 범위의 데이터로서 표현될 수도 있다.
비디오 스케일러(152)는 CPU(190)로부터 전달된 지오메트리 정보에 기초하여, 비디오신호에 대응하는 영상(비디오)의 사이즈와 위치를 조정하여, 출력 영상, 즉, 비디오가 생성되도록 할 수 있다.
일 실시예에서 비디오처리부(150)는 비디오 스케일러에서 출력되는 제1신호, 즉, 비디오신호에 대해 프레임레이트 변환(frame rate conversion, FRC)을 수행하는 프레임레이트 변환부(frame rate converter, FRC)(153)를 포함할 수 있다. 프레임레이트변환부(153)에서 프레임레이트가 변환된 비디오프레임은 프레임메모리(141)에 순차적으로 저장되었다가 출력될 수 있다.
프레임레이트 변환부(153)는 비디오 스케일러(152)와 별도의 하드웨어 칩으로 구현되거나, 또는 비디오 스케일러(152)와 프레임레이트 변환부(153)가 통합된 형태의 단일 칩으로 설계될 수도 있다.
프레임 레이트 변환, 즉, FRC에 의해 디스플레이(110)에 출력되는 제1영상의 초당 프레임수(frames per second)가 변환될 수 있으며, 이 과정에서 제1신호(비디오신호)가 지연되는 비디오 프레임 딜레이(video frame delay)가 발생될 수 있다.
이러한 비디오 프레임 딜레이는, 전술한 동기신호(V sync)에 기초한 비디오신호의 처리와는 무관하게 FRC 과정에서 발생될 수 있다.
또한, FRC에 따른 비디오 프레임 딜레이는 비디오신호의 종류, 즉, 타입(type)에 따라 발생되거나 또는 발생되지 않을 수 있다. 일례로, 영화와 같은 비디오모드에서는 FRC에 따른 소정 프레임, 예를 들면, 3 프레임의 비디오 프레임 딜레이가 발생하며, 게임모드에서는 FRC에 따른 비디오 프레임 딜레이가 발생되지 않을 수 있다. 이 경우, 전자장치(10)는 그 동작모드에 대응하여 FRC에 따른 비디오 프레임 딜레이를 식별할 수 있다.
다만, 비디오 프레임 딜레이의 발생은 상기한 예에 한정되지 않으며, 경우에 따라 비디오 신호처리의 다른 단계에서도 연산에 따른 비디오 프레임 딜레이가 발생될 수 있다.
한편, 비디오처리부(150)는, 비디오신호를 처리하기 위한, 예를 들면 인터레이스(interlace) 방식의 방송신호를 프로그레시브(progressive) 방식으로 변환하는 디인터레이싱(de-interlacing), 영상 화질 개선을 위한 노이즈 감소(noise reduction), 디테일 강화(detail enhancement), 프레임 리프레시 레이트(frame refresh rate) 변환, 라인 스캐닝(line scanning)과 같은 다양한 프로세스 중 적어도 하나를 더 수행할 수도 있다. 다만, 이는 예시에 불과하며, 상기와 같은 프로세스를 처리하기 위한 별도의 구성이 마련될 수도 있을 것이다.
전자장치(10)는 그래픽처리부(160)를 포함할 수 있다.
그래픽처리부(160)는 제2신호, 즉, 그래픽신호를 처리하여, 그에 대응하는 제2영상, 즉, 그래픽이 디스플레이(110)에 표시되도록 할 수 있다.
그래픽처리부(160)는, 도 3에 도시된 바와 같이, 전술한 비디오처리부(150)에 의해 처리되는 비디오신호의 제1경로(비디오경로)와 다른 제2경로, 다시 말해, 그래픽경로(graphic path)를 통해 그래픽신호를 처리하도록 한다.
그래픽처리부(160)는, 제2신호, 즉, 그래픽신호에 대해 다양한 프로세스를 수행하는 구성으로서, 도 3에 도시된 바와 같이, 그래픽 처리를 위한 연산을 수행하는 GPU(graphic processing unit)(161)를 포함할 수 있다.
도 3에서는 GPU(161)가 별도의 구성으로서 마련된 경우를 예로 들어 도시하였으나, 본 발명의 전자장치(10)는 다른 실시예로서 주처리부(190), 즉, CPU에서 그래픽 처리를 위한 연산을 수행하도록 구현될 수도 있다.
일 실시예에서, GPU(161)는 서버와 같은 외부장치로부터 수신되거나 또는 전자장치(10)에 자체적으로 내장된 제2신호, 즉, 그래픽신호에 대해 기 설정된 다양한 프로세스, 예를 들면 애니메이션 처리, 컬러 컨버전, 감마 컨버전, 가속처리와 같은 다양한 프로세스 중 적어도 하나를 수행할 수 있다. 다만, 본 발명은 상기의 일 실시예에 한정되는 것이 아니며, GPU(161)는 상기한 프로세스 외 다양한 그래픽처리를 더 수행할 수 있다. 또한, 경우에 따라 전자장치(10)에는 그래픽신호를 처리할 수 있는 부가 구성이 더 추가될 수도 있을 것이다.
GPU(161)는 주처리부(190), 즉, CPU로부터 영역정보와 영역정보에 대응하는 투명도정보를 획득하여, 그래픽 스케일러(162)와 화질블록(163)으로 각각 전달할 수 있다.
여기서, 영역정보는 GPU(161)의 처리 대상인 그래픽프레임에 대응하는 비디오프레임이 표시되는 일 영역에 대한 정보로서, 지오메트리 정보(데이터)를 포함할 수 있다. 또한, 투명도정보는 GPU(161)의 처리 대상인 그래픽프레임의 일 영역(비디오프레임의 표시 영역)에 대한 투명도를 나타내는 정보로서, 알파값을 포함할 수 있다.
그래픽처리부(160)는 제2신호, 즉, 그래픽신호에 대응하는 그래픽이 디스플레이(110)에 출력되도록 하는 그래픽 스케일러(graphic scaler, 이하 G Scaler 라고도 한다)(162)를 포함할 수 있다. 그래픽 스케일러(162)는, 도 3에 도시된 바와 같이, GPU(161)에 의해 제어되는 그래픽 플레인 블록, 다시 말해, GP(graphic plane) 블록에 마련될 수 있다.
일 실시예에서 그래픽 스케일러(162)는 동기신호에 따라 프레임 별로 그래픽신호를 처리할 수 있다. 여기서, 동기신호는 디스플레이(110)에 대한 수직동기신호(Vsync)인 것을 일례로 한다. 수직동기신호는 주처리부(190). 즉, CPU로부터 GPU(161)를 통해 GP 블록의 그래픽 스케일러(162)로 제공될 수 있다.
일 실시예에서 그래픽 스케일러(162)는 하드웨어 구성, 예를 들면, 칩(chip)으로 구현되어, 그래픽 프레임이 순차적으로 버퍼(buffer)(프레임버퍼)(이하, 그래픽버퍼 라고도 한다)에 저장 및 출력되도록 할 수 있다. 여기서, 버퍼는 DRAM과 같은 메모리로서 구현된 저장부(140)에 마련되는 것을 일례로 한다.
그래픽 스케일러(162)는, 전자장치(10)에 설치되는 소프트웨어인 어플리케이션(191)에 의해 결정 또는 설정된 지오메트리 정보에 기초하여 복수의 그래픽프레임을 순차적으로 스케일링하여 출력할 수 있다.
구체적으로, 그래픽 스케일러(162)는 어플리케이션(191)에 의해 버퍼에 그래픽이 렌더링된 후 기설정된 포인터(렌더링 포인터), 예를 들면, 지오메트리 정보에 포함된 스타트 포인트와 엔드 포인트에 따라 그래픽프레임이 출력되도록 할 수 있다. 여기서, 포인터는 가변되며, 디스플레이(110)에 대한 수직동기신호(Vsync)를 기준으로 설정 또는 적용되는 것을 일례로 한다. 일 실시예에서 어플리케이션(191)은 주처리부(190)에 의해 실행되어, 그래픽신호에 대한 렌더링을 수행할 수 있다.
일 실시예에서 디스플레이(110)의 수직동기신호는 비디오 스케일러(152)를 통해 그래픽 스케일러(162)로 제공되어, 버퍼에 렌더링된 그래픽 프레임이 그래픽 스케일러(162)에 의해 순차적으로 출력되도록 할 수 있다.
그래픽처리부(160)는 그래픽의 화질 처리를 위한 화질 블록(graphic quality block)(163)을 포함할 수 있다. 화질 블록(163)은, 도 3에 도시된 바와 같이, GPU(161)에 의해 제어되는 GP 블록에 마련될 수 있다.
일 실시예에서 GP 블록은 비디오 스케일러(152)로부터 디스플레이(110)에 대한 수직동기신호를 전달받아 구동을 시작할 수 있다.
GPU(161)는 어플리케이션(191)에서 생성된 알파값을 주처리부(190), 즉, CPU를 통해 전달받아, GP 블록으로 전달할 수 있다. 또한, GPU(161)는 주처리부(190), 즉, CPU로부터 획득한 지오메트리 정보를 GP 블록으로 전달할 수 있다.
그래픽신호는 제2경로, 즉, 그래픽경로를 구성하는, 그래픽 스케일러(162)에 의해 지오메트리 정보에 기초하여 그래픽의 사이즈와 위치가 조정되고, 또한 화질블록(163)을 통해 그래픽 화질 처리가 수행될 수 있다.
전자장치(10)는 정보처리부(170)를 포함할 수 있다.
정보처리부(170)는 비디오처리부(150)에서 처리되는 비디오신호의 각 프레임 별로 영역정보와 영역정보에 대응하는 투명도정보가 출력되도록 데이터를 처리할 수 있다. 정보처리부(170)는 상기와 같은 처리에 따른 비디오프레임의 영역정보와 영역정보에 대응하는 투명도정보를 후술하는 믹싱부(180)로 출력할 수 있다.
일 실시예에서 정보처리부(170)는 주처리부(190), 즉, CPU로부터 영역정보, 예를 들면, 지오메트리 정보를 획득하여, 영역정보에 대응하는 투명도정보를 생성할 수 있다.
정보처리부(170)는 비디오처리부(150)로부터 데이터를 제공받아, 각 비디오프레임 별로 비디오의 영역정보에 대응하는 투명도정보를 생성할 수 있다. 여기서, 정보처리부(170)는 비디오스케일러(152) 또는 FRC(153) 중 적어도 하나, 혹은 비디오스케일러(152)와 FRC(153)이 통합된 기능부로부터 데이터를 피드백 받을 수 있다.
이렇게 정보처리부(170)에서 생성된 비디오프레임의 투명도정보는, 믹싱부(180)에서 대응되는 그래픽프레임의 투명도 처리에 적용될 수 있다.
도 3 및 도 4에 도시된 본 발명의 일 실시예에서는, 정보처리부(170)는 주처리부(190), 즉, CPU 및 비디오처리부(150)와 인터페이스 가능한 별도의 구성으로 마련된 경우를 예로 들어 도시하였으며, 본 발명의 구현은 도시된 형태에 한정되는 것은 아니다. 예를 들면, 다른 실시예로서 정보처리부(170)가 비디오처리부(150) 혹은 CPU(190) 등 다른 구성에 포함되는 형태로 구현될 수 있다.
일 실시예에서, 정보처리부(170)는 영역정보, 즉, 지오메트리 정보에 기초하여 투명도정보로서 1비트의 알파값을 생성하는 데이터생성부(도 10 및 도 13의 171)(이하, 알파생성부 라고도 한다)와 생성된 1비트의 알파값을 8비트로 변환하는 데이터변환부(도 10 및 도 13의 172)(이하, 알파변환부 라고도 한다)를 포함할 수 있다. 데이터생성부(171)와 데이터변환부(172)의 구체적인 동작은 해당 실시예에서 상세하게 설명하기로 한다.
본 발명 일 실시예에 따른 전자장치(10)는, 비디오경로를 따라 당해 처리되는 비디오데이터를 기반으로 투명도정보를 출력하는 정보처리부(170)를 포함하도록 구현된다. 즉, 정보처리부(170)는 비디오처리부(150)에서 순차적으로 출력되는 복수의 비디오프레임 중에서 현재 비디오처리부(150)에서 출력되는 비디오프레임의 영역정보와 그 영역정보에 대응하는 투명도정보를 후술하는 믹싱부(180)로 출력하도록 한다.
그에 따라, 그래픽프레임의 투명도 처리가 함께 믹싱되는 비디오프레임의 영역정보에 대응하여 적용될 수 있다.
상기와 같은 본 발명 실시예에 따른 전자장치(10)에서, 투명도정보는 정보처리부(170)로부터 다이렉트로 믹싱부(180)에 출력되거나, 또는 CPU(190) 등의 다른 구성을 통해 믹싱부(180)로 전달될 수도 있다. 일례로, 정보처리부(170)가 투명도정보를 CPU(190)로 회신하고, CPU(190)로부터 그래픽처리부(160)를 통해 믹싱부(180)에 도달하는 경로로 투명도정보가 전달될 수 있다.
전자장치(10)는 믹싱부(mixer)(180)(이하, 믹서 라고도 한다)를 포함할 수 있다.
믹싱부(180)는, 비디오처리부(150)에서 처리되는 제1신호(비디오신호)에 대응하는 제1영상(비디오)과, 그래픽처리부(160)에서 처리되는 제2신호(그래픽신호)에 대응하는 제2영상(그래픽)이 디스플레이(110)에 함께 표시되도록, 제1신호와 제2신호에 대한 믹싱을 수행할 수 있다.
믹싱부(180)는, 제1신호(비디오신호)와 제2신호(그래픽신호)를 혼합, 즉, 머지(merge)함으로써, 비디오프레임과 그래픽프레임을 중첩시켜 디스플레이(110)에 표시될 영상을 출력할 수 있다.
일 실시예에서 믹싱부(180)는 하드웨어 구성, 예를 들면, 칩(chip)으로 구현되어, 중첩된 비디오프레임과 그래픽프레임을 디스플레이(110)로 출력할 수 있다.
믹싱부(180)에는, 도 3에 도시된 바와 같이, GP 블록, 즉, 그래픽 스케일러(162)와 화질블록(163)을 거쳐 출력된 그래픽신호(그래픽데이터)와, 비디오 스케일러(163) 또는 FRC(153)에서 출력된 비디오신호(비디오데이터)가 입력될 수 있다. 믹싱부(180)는 입력된 비디오데이터와 그래픽데이터를 합성하여 제1영상(비디오)와 제2영상(그래픽)을 중첩시킬 수 있다.
일 실시예에서 믹싱부(180)는 중첩되는 영상, 예를 들면, 제2영상(그래픽)의 투명 정도를 나타내는 투명도정보에 기초하여 영상을 중첩시키는 알파블렌딩(alpha blending)을 수행할 수 있다. 알파블렌딩은 픽셀 단위로 수행될 수 있다.
믹싱부(180)는 투명도정보를 나타내는 알파값을 참조하여, 소정 알고리즘에 기초하여 비디오신호와 그래픽신호가 합성, 즉, 믹싱되도록 할 수 있다. 믹싱부(180)에서 알파값에 기초하여 합성, 즉, 알파블렌딩이 수행된 비디오와 그래픽을 포함하는 영상은 디스플레이(110)를 통해 출력될 수 있다. 여기서, 믹싱부(180) 알려진 다양한 알고리즘을 사용할 수 있으며, 특정 방식에 한정되지 않는다.
도 5는 본 발명 일 실시예에 따른 전자장치에서 비디오신호와 그래픽신호에 대한 믹싱이 수행되는 일례를 도시한 도면이다.
일 실시예에서 믹싱부(180)는, 비디오신호를 하위 레이어에 그래픽신호를 상위 레이어로 합성할 수 있다. 상기와 같이 제1신호(비디오신호)와 제2신호(그래픽신호)가 믹싱부(180에 의해 합성되어 디스플레이(110)로 출력됨으로써, 두 영상, 다시 말해, 제1영상(비디오)과 제2영상(그래픽)이 디스플레이(110)의 한 화면에 함께 표시될 수 있다.
구체적으로, 믹싱부(180)는, 도 5에 도시된 바와 같이, 각 프레임(n, n+1, n+2, n+3, … , n+9) 별로 비디오데이터(31)와 그래픽데이터(32)를 합성하여, 믹싱데이터(video-graphic mixed data)를 생성할 수 있다.
믹싱부(180)는, 예를 들면, n번째 프레임에서 화면의 일 영역에 표시되는 비디오데이터(31)와, 비디오데이터(31)에 대응하는 일 영역(33)이 투명처리, 즉, 알파블렌딩(alpha value=0)된 그래픽데이터(32)를 합성한 믹싱데이터를 생성할 수 있다. 여기서, 비디오데이터(31)의 영역과 그래픽데이터(32)의 투명처리 영역(33)은, CPU(190)로부터 획득한 동일한 지오메트리 정보에 기초하여 결정된 것으로, 시작위치(start position)가 100x200로 일치되는 것을 확인할 수 있다.
그래픽신호가 소정 개수의 프레임 구간, 예를 들면, 도 5에 도시된 바와 같이 n ~ n+9 구간 동안 출력되는 모션 UX 인 경우, 각 프레임에 대해 지오메트리 정보가 연속적으로 변경, 즉, 업데이트될 수 있다. 도 5는 지오메트리 정보가 프레임의 순서에 따라 수평/가로(horizontal) 위치는 10씩 증가하고, 수직/세로(vertical) 위치는 10씩 감소하는 경우를 예로 들어 도시한 것이다.
상기와 같이 생성된 각 프레임(n, n+1, n+2, n+3, 쪋 , n+9)의 믹싱데이터는, 비디오(31)와 그래픽(32)이 중첩된 영상으로서 디스플레이(110)에 순차적으로 표시될 수 있다. 이에, 디스플레이(110)에는 그래픽의 일 영역이 우측 상부로 점차 이동하는 모션 UX가 표시되게 된다.
도 6은 비디오신호와 그래픽신호를 믹싱하는 관련기술에서 영상이 왜곡되어 표시되는 일례를 도시한 도면이다.
도 6의 관련기술에서는 비디오처리부와 구분된 경로를 가지는 그래픽처리부를 통해 전달된 알파값에 기초하여 비디오와 그래픽에 대한 알파블렌딩이 수행되도록 구현된다.
그런데, 비디오신호와 그래픽신호의 처리 경로가 서로 구분된 경우, 믹싱 대상인 비디오와 그래픽의 동기가 불일치한 상황이 발생될 수 있다.
상기의 비디오와 그래픽의 동기 불일치 상황은 서로 처리 경로가 구분된 양 신호 중 어느 하나의 신호를 처리하는 과정에서 예측하지 못한 지연이 발생되거나, 비디오와 그래픽의 처리속도 차이 등에 의해 발생될 수 있다. 즉, CPU는 비디오경로와 그래픽경로에 동시에 지오메트리 정보를 전달하지만, 실제 지오메트리가 적용되는 믹싱 수행 시에는 어느 하나가 지연되어 서로 다른 지오메트리가 적용된 비디오와 그래픽이 믹싱부로 전달될 수 있다. 또한, 비디오디코더와 같은 전용 칩으로 구동되는 비디오경로에서는 지연속도(latency)가 예측 가능하지만, 범용 프로세서를 이용하는 GPU의 지연속도는 가변적이기 때문에, 그에 따라 비디오와 그래픽의 동기가 불일치 될 가능성도 있다.
도 6에서는 비디오신호에서 프레임 지연(delay)이 발생한 경우를 예로 들어 도시한 것으로, n, n+1 의 프레임에서는 비디오데이터(41)와 그래픽데이터(42)에 동일한 지오메트리 정보가 적용되어, 비디오데이터(41)의 영역과 그래픽데이터(42)의 투명처리 영역(43)이 일치되므로, 믹싱데이터, 즉, 중첩된 영상이 정상적으로 출력된다.
그런데, 비디오처리 과정에서 지연이 발생하여 n+2 프레임의 비디오데이터(41)가 도달하지 못한 경우, n+1의 비디오데이터(41)가 믹싱부(180)에 입력될 수 있다. 이러한 경우, 믹싱부(180)는, n+1의 지오메트리 정보가 적용(시작위치가 110x190)된 비디오데이터(41)와 n+2의 지오메트리 정보가 적용(시작위치가 120X180)된 그래픽데이터(42)를 믹싱하게 되므로, 비디오데이터(41)의 영역과 그래픽데이터(42)에서 투명 처리되는 영역(43)이 불일치함에 따라, 중첩된 영상에서 일부 비디오데이터(좌측 하단)가 표시되지 않거나, 비디오와 그래픽의 일부 경계(44)(예를 들면, 우측 및 상단)가 블랙이나 화이트 등으로 표시되는 영상 왜곡이 발생될 수 있다.
마찬가지로, 믹싱부(180)는, n+3 의 프레임에서도 n+1의 지오메트리 정보가 적용(시작위치가 110x190)된 비디오데이터(41)와 n+3의 지오메트리 정보가 적용(시작위치가 130X170)된 그래픽데이터(42)를 믹싱하여, 영상 왜곡이 발생될 수 있다.
상기와 같은 영상 왜곡은 중첩 대상인 비디오데이터(41)와 그래픽데이터(42)에 각기 서로 다른 지오메트리 정보가 적용됨에 따른 것으로 볼 수 있다.
본 발명 일 실시예에 따른 전자장치(1)에서는, 믹싱부(180)가, 정보처리부(170)에서 출력되는 비디오프레임의 영역정보 및 투명도정보에 기초하여 그래픽프레임의 영역의 투명도를 조정할 수 있다.
다시 도 5를 참조하면, 믹싱부(180)는, 각 프레임 별로 비디오데이터(31)의 영역정보와 그 영역정보에 대응하는 투명도 정보를 정보처리부(170)로부터 획득하고, 그 투명도 정보를 입력된 그래픽데이터(32)에 적용하여, 투명도 처리, 즉, 알파블렌딩을 수행할 수 있다.
구체적으로, 믹싱부(180)는, 비디오처리부(150)로부터 출력되는 비디오프레임을 순차적으로 입력받고, 그래픽처리부(160)로부터 출력되는 그래픽프레임을 순차적으로 입력받는다.
여기서, 믹싱부(180)는, 비디오처리부(150)에서 순차적으로 출력되는 복수의 비디오프레임 중에서 현재 비디오처리부(150)에서 출력되는 비디오프레임의 영역정보와 그 영역정보에 대응하는 투명도정보를 정보처리부(170)로부터 입력받을 수 있다.
그리고, 믹싱부(180)는, 그 입력된 현재 비디오프레임의 투명도정보를 중첩 대상인 그래픽프레임, 즉, 그래픽처리부(160)로부터 입력된 현재 그래픽프레임에 적용, 즉, 알파블렌딩하여, 비디오프레임과 그래픽프레임이 중첩된 영상을 생성할 수 있다.
그에 따라, 도 5에 도시된 바와 같이, 중첩 대상인 그래픽데이터(33)에 대해 CPU(190)로부터 최초 전달된 지오메트리 정보와 관계없이, 각 프레임(n, n+1, n+2, n+3, … , n+9)에서 그래픽데이터(32)의 투명도 처리된 영역(33)은 중첩된 비디오데이터(31)의 영역과 항상 일치하게 된다.
이에, 당해 입력된 비디오데이터(31)에 대응하는 지오메트리정보에 기초하여 그래픽데이터(32)의 영역의 투명도가 조정됨으로써, 도 6의 경우와 같은 영역의 불일치에 따른 영상 왜곡이 발생하지 않게 된다.
상기와 같이 본 발명 일 실시예에 따른 전자장치(10)에서, 믹싱부(180)는 정보처리부(170)에서 생성된 투명도정보, 즉, 알파값에 기초하여 비디오와 그래픽에 대한 알파블렌딩을 수행하도록 구현될 수 있다. 예를 들면, 믹싱부(180)는, 그래픽처리부(160)로부터 믹싱부(180)로 입력되는 알파값이 존재하더라도, 비디오처리부(150)의 비디오신호 처리에 기반하여 정보처리부(170)를 통해 입력되는 알파값만을 사용하여 알파블렌딩을 수행하도록 설계될 수 있다.
전자장치(10)는 주처리부(190)를 포함할 수 있다.
주처리부(190)는 전자장치(10)의 제반 구성들이 동작하기 위한 제어를 수행한다. 주처리부(190)는 이러한 제어 동작을 수행할 수 있도록 하는 제어프로그램(혹은 인스트럭션)과, 제어프로그램이 설치되는 비휘발성의 메모리, 설치된 제어프로그램의 적어도 일부가 로드되는 디램(DRAM)과 같은 휘발성의 메모리 및 로드된 제어프로그램을 실행하는 적어도 하나의 프로세서, 예를 들면 마이크로 프로세서(microprocessor), 응용 프로세서(application processor) 혹은 CPU(central processing unit)를 포함할 수 있다.
주처리부(190)를 구성하는 프로세서는 싱글 코어, 듀얼 코어, 트리플 코어, 쿼드 코어 및 그 배수의 코어를 포함할 수 있다. 또한, 프로세서, 롬 및 램은 내부 버스(bus)를 통해 상호 연결될 수 있다.
일 실시예에서, 프로세서는 복수 개 마련될 수 있다. 예를 들어, 전자장치(10)에는 대기 전원만 공급되고 전자장치로서 동작하지 않는 슬립 모드(sleep mode)에서 동작하는 서브 프로세서(sub processor)가 별도로 마련될 수 있다.
일 실시예에서 주처리부(190)는 전자장치(10)에 내장되는 PCB 상에 실장되는 메인 SoC(Main SoC)에 포함되는 형태로서 구현 가능하다.
제어프로그램은, BIOS, 디바이스드라이버, 운영체계, 펌웨어, 플랫폼 및 어플리케이션 중 적어도 하나의 형태로 구현되는 프로그램(들)을 포함할 수 있다. 일 실시예로서, 어플리케이션은, 전자장치(10)의 제조 시에 전자장치(10)에 미리 설치 또는 저장되거나, 혹은 추후 사용 시에 외부로부터 어플리케이션의 데이터를 수신하여 수신된 데이터에 기초하여 전자장치(10)에 설치될 수 있다. 어플리케이션의 데이터는, 예컨대, 어플리케이션 마켓과 같은 외부 서버로부터 전자장치(10)로 다운로드될 수도 있다. 이와 같은 외부 서버는, 본 발명의 컴퓨터프로그램제품의 일례이나, 이에 한정되는 것은 아니다.
제어프로그램은 컴퓨터와 같은 기기로 읽을 수 있는 저장매체에 기록될 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체 또는 비휘발성(non-volatile) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 일례로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함할 수 있다.
일 실시예에서, 주처리부(190)는 전자장치(10)에 설치된 어플리케이션(191)을 실행하여, 비디오신호에 대응하는 제1영상(비디오)과 그래픽신호에 대응하는 제2영상(그래픽)을 표현하기 위한 영역정보로서 지오메트리 정보를 결정할 수 있다. 주처리부(190)는 이렇게 결정된 지오메트리 정보를 비디오경로를 구성하는 비디오처리부(150)와 그래픽경로를 구성하는 그래픽처리부(160)로 각각 제공할 수 있으며, 각각의 경로를 통해 처리된 비디오와 그래픽이 믹싱부(180)에서 중첩 후 출력됨으로써, 디스플레이(110)에 함께 표시될 수 있다.
도 7은 본 발명 일 실시예에 따른 전자장치에서 비디오와 그래픽을 중첩하여 출력하는 제어 동작을 도시한 흐름도이다.
일 실시예의 전자장치(10)는, 비디오처리부(150)에 의해 비디오프레임을 처리하여 출력할 수 있다(501).
또한, 전자장치(10)는, 그래픽처리부(160)에 의해 그래픽프레임을 처리하여 출력할 수 있다(502).
여기서, 단계 501과 502는 각각 독립적으로 병행하여 수행될 수 있다. 즉, 전자장치(10)의 주처리부(190)는 프레임 별로 비디오와 그래픽을 각각 처리하여 출력하도록, 비디오처리부(150)와 그래픽처리부(160)을 제어할 수 있다.
구체적으로, 비디오처리부(150)는 동기신호에 따라 제1신호, 즉, 비디오신호를 처리하여, 제1영상, 즉, 비디오가 프레임 단위로 출력되도록 한다. 또한, 그래픽처리부(160)는 동기신호에 따라 제2신호, 즉, 그래픽신호를 처리하여, 제2영상, 즉, 그래픽이 프레임 단위로 출력되도록 한다.
일 실시예에서, 주처리부(190)는, 각각 프레임 단위로 출력되는 비디오프레임 및 그래픽프레임에 대한 영역정보(지오메트리 정보)를 비디오처리부(150)와 그래픽처리부(160)로 제공하여, 단계 501 및 502에서 영역정보에 대응하여 처리된 비디오프레임과 그래픽프레임이 출력되도록 한다. 또한, 주처리부(190)는, 상기의 영역정보를 정보처리부(170)로 제공할 수 있다.
일 실시예에서 전자장치(10)는, 정보처리부(170)에 의해 비디오프레임의 영역정보에 대응하는 투명도정보(알파값)를 생성하고, 영역정보와 투명도정보를 믹싱부(180)로 출력할 수 있다(503).
정보처리부(170)는 주처리부(190), 즉, CPU로부터 비디오프레임의 영역정보로서 지오메트리 정보를 획득하여, 비디오프레임의 영역정보에 대응하는 투명도 정보를 생성할 수 있다. 여기서. 비디오처리부(150), 예를 들면, 비디오스케일러(152)로부터 처리 대상인 비디오프레임을 식별할 수 있는 정보가 정보처리부(170)로 피드백 될 수 있다.
그에 따라, 정보처리부(170)는 비디오처리부(150)에서 순차적으로 출력되는 복수의 비디오프레임 중에서 현재 비디오처리부(150)에서 믹싱부(180)로 출력되는 비디오프레임의 영역정보와 그 영역정보에 대응하는 투명도정보를 믹싱부(180)로 출력하게 된다.
믹싱부(180)는 단계 503에서 출력된 영역정보 및 투명도정보에 기초하여, 비디오프레임에 대응하는 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임과 투명도가 조정된 그래픽프레임을 중첩시켜 출력할 수 있다(504).
여기서, 믹싱부(180)는, 비디오프레임 및 그 입력된 비디오프레임의 영역정보와 영역정보에 대응하는 투명도정보를 획득하고, 획득된 영역정보와 투명도정보에 따라 현재 입력된 그래픽프레임의 영역의 투명도가 조정되도록 한다.
믹싱부(180)는 이렇게 투명도가 조정된 그래픽프레임을 현재 입력된 비디오프레임과 중첩시켜 출력함으로써, 비디오와 그래픽이 중첩된 영상이 디스플레이(110)에 표시되도록 한다.
도 8은 본 발명 일 실시예의 전자장치에서 그래픽프레임의 투명도가 조정되는 일례를 도시한 도면이고, 도 9는 본 발명 일 실시예의 전자장치에서 그래픽프레임의 투명도가 조정되어 출력되는 믹싱데이터를 프레임 별로 도시한 일례이다.
도 8에 도시된 바와 같이, 비디오신호의 처리 과정에서 딜레이가 발생되어, 믹싱 대상인 비디오프레임(61)과 그래픽프레임(62)에 서로 다른 영역정보(지오메트리 정보)가 적용된 경우, 도 6에서 설명한 바와 같이, 비디오프레임(61)의 영역과 그래픽프레임(62)의 투명처리 영역(63)이 불일치하여 일부 경계(64)에서 블랙이나 화이트 등이 표시되는 영상 왜곡이 발생할 수 있다.
본 발명 일 실시예에 따른 전자장치(10)에서, 믹싱부(180)는, 단계 503에서 정보처리부(170)로부터 수신한 영역정보 및 투명도정보에 기초하여, 중첩 대상인 비디오프레임(61)의 영역에 대응하여 투명처리가 이루어지도록 그래픽프레임(62)의 해당 영역(65)(비디오프레임(61)의 영역)에 대해 투명도를 조정할 수 있다.
예를 들어, 도 6의 n+3 프레임에서와 같이, 서로 다른 지오메트리 정보가 적용된 비디오데이터(예: 시작위치가 110x190)와 그래픽데이터(예: 시작위치가 130X170)가 각각 비디오처리부(150)와 그래픽처리부(160)로부터 믹싱부(180)로 입력될 때, 믹싱부(180)에는 정보처리부(170)로부터 현재 비디오데이터(예: 시작위치가 110x190)의 영역정보와 영역정보에 대응하는 투명도정보(알파값=0)이 입력될 수 있다.
믹싱부(180)는, 도 8에서 도시된 바와 같이, 정보처리부(170)로부터 수신된 영역정보 및 투명도정보에 기초하여, 비디오프레임(61)의 영역에 대응되게 그래픽프레임(62)의 영역(65)의 투명도를 조정하도록 한다. 이렇게 조정된 그래픽프레임(62)의 투명 처리된 영역(65)은 현재 비디오프레임(61)의 영역과 항상 일치하게 된다.
그에 따라, 믹싱부(180)로부터 출력되는 믹싱데이터는, 도 9에 도시된 바와 같이, 모션 UX로서 표시되는 그래픽의 출력 구간 내의 각 비디오(video #1~video #10)가 모든 출력 시점(71, 72, 73)에서 왜곡없이 표시될 수 있게 된다.
이하, 도면들을 참조하여, 본 발명 전자장치에서 그래픽의 투명도를 조정하여 영상을 중첩시키는 구체적인 실시예들을 설명한다.
도 10은 본 발명 제1실시예에 따라 비디오신호와 그래픽신호를 처리하여 믹싱하는 과정을 설명하기 위한 도면이다.
도 10의 제1실시예의 전자장치(10)는, 도 3 및 도 7의 실시예를 보다 구체화한 예시이다. 따라서, 도 3과 동일한 참조번호가 부여된 구성은 도 3의 실시예와 동일하게 동작하므로, 중복되는 설명은 생략될 수 있다.
도 10의 실시예에 따른 전자장치(10)에서, 정보처리부(170)는, 도 10에 도시된 바와 같이, 데이터생성부(171)(이하, 알파값생성부(Alpha Gen 1)라고도 한다)와 데이터변환부(172)(이하, 알파값변환부(1 to 8 Conv) 라고도 한다)를 포함할 수 있다.
도 11은 도 10의 실시예에 따른 전자장치에서 데이터생성부의 동작을 설명하기 위한 도면이다.
데이터생성부(171), 즉, 알파값생성부는, 도 11에 도시된 바와 같이, 비디오프레임의 영역정보, 즉, 지오메트리 정보에 기초하여 투명도정보로서 1비트(1 bit) 데이터인 알파값(alpha value)을 생성할 수 있다.
일 실시예에서, 데이터생성부(171)는, CPU(190)로부터 획득한 지오메트리 정보와, 비디오스케일러(152)로부터 제공되는 비디오프레임의 데이터(data enable)를 입력으로 하는 함수에 의해 1비트의 알파값을 생성할 수 있다.
여기서, 데이터생성부(171)는, 비디오스케일러(152)로부터 입력(피드백)되는 정보 또는 데이터(data enable)를 이용하여, 비디오처리부(150)에서 순차적으로 처리되는 복수의 비디오프레임 중에서 현재 처리 대상인 비디오프레임을 식별할 수 있다. 그에 따라, 데이터생성부(171)는 현재 비디오프레임의 영역정보에 대응하는 투명도정보(알파값)가 비디오프레임과 매칭되어 생성되도록 할 수 있다.
이렇게 생성된 1비트의 알파값은 비디오처리부(150)를 통해 데이터변환부(172)로 전달될 수 있다.
데이터변환부(172)는 1비트의 알파값을 아래의 수학식 1에 의해 8 비트 알파값(8-bit alpha value)으로 변환하여 믹싱부(180)로 출력할 수 있다.
Figure PCTKR2021014831-appb-img-000001
일 실시예에서 상기와 같은 수학식 1에 알파값은 8비트의 0 또는 256의 값을 가지도록 변환되어, 그래픽프레임에서 0의 알파값을 가지는 픽셀들이 위치되는 일 영역이 투명하게 처리될 수 있도록 한다.
도 10의 실시예에서는 정보처리부(170)가 1비트의 알파값을 생성하는 데이터생성부(171)와 1비트를 8비트로 변환하는 데이터변환부(172)로 구성되도록 함으로써, 알파값 생성 및 전달 과정에서의 부하를 감소시킬 수 있다. 그러나, 본 발명의 실시 형태는 이에 한정되지 않으므로, 전자장치(10)가 8비트의 알파값을 생성하는 알파생성부로 구성된 정보처리부(170)를 포함하도록 구현된 경우도 본 발명에 포함될 것이다.
도 10의 실시예에 따른 전자장치(10)에서, 믹싱부(180)에는 데이터선택부(181)(이하, 알파값선택부(alpha value selector)라고도 한다)가 마련될 수 있다.
도 12는 도 10의 실시예에 따른 전자장치에서 데이터선택부의 동작을 설명하기 위한 도면이다.
데이터선택부(181), 즉, 알파값선택부는, 모션 UX를 위한 알파값과 스태틱 UX를 위한 알파값 중 어느 하나를 선택하여 출력함으로써, 믹싱부(180)가 선택된 알파값에 의해 그래픽프레임의 영역에 대해 투명 처리를 위한 알파블렌딩을 수행하도록 한다.
데이터선택부(181)는, 도 12에 도시된 바와 같이, 알파값 선택을 위한 제어신호(control signal for motion UX)를 외부로부터 입력받고, 그에 대응하여 정보처리부(170)의 데이터생성부(171)와 데이터변환부(172)를 통해 출력된 알파값과, 그래픽처리부(160)를 통해 전달된 알파값 중 어느 하나를 선택하여 출력할 수 있다.
여기서, 알파값 선택을 위한 제어신호는, 예를 들면, 표시 대상인 그래픽이 모션 UX인지 또는 스태틱 UX 인지를 나타내는 1비트의 데이터로서, 주처리부(190), 즉, CPU로부터 데이터선택부(181)로 입력될 수 있다. 예를 들어, 그래픽이 모션 UX인 경우 1, 스태틱 UX 인 경우 0 이 제어신호로서 입력될 수 있다. 다만, 상기한 제어신호는 일례로서, 다양한 타입의 데이터/신호가 제어신호로 사용 가능할 것이다.
데이터선택부(181)는 입력된 제어신호에 대응하여 그래픽프레임이 모션 UX에 대응하는 것으로 식별됨에 기초하여, 정보처리부(170)로부터 출력된 알파값을 선택할 수 있다.
또한, 도 10은 믹싱부(180)가 모션 UX와 스태틱 UX를 구분하여, 알파값을 선택하여 믹싱을 수행하도록 도시되어 있으나, 본 발명의 전자장치(10)는 도 3의 실시예에서 설명한 바와 같이, 그래픽의 종류/타입을 구분하지 않고, 정보처리부(170)에서 출력되는 현재 비디오프레임에 대응하도록 결정된 알파값을 현재 그래픽프레임의 영역의 투명도 조정에 적용하도록 구현될 수 있을 것이다.
믹싱부(180)는 선택된 알파값에 기초하여 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임과 투명도가 조정된 그래픽프레임을 중첩하여 출력한다.
그에 따라, 도 5에서 설명한 바와 같이, 각 프레임에서 영역의 불일치에 따른 영상왜곡 없이. 비디오와 그래픽이 중첩된 영상이 정상적으로 표시될 수 있게 된다.
도 13은 본 발명 제2실시예에 따라 비디오신호와 그래픽신호를 처리하여 믹싱하는 과정을 설명하기 위한 도면이다.
도 13의 제2실시예의 전자장치(10)는, 도 3 및 도 7의 실시예를 보다 구체화한 예시이다. 도 13의 제2실시예는, 비디오프레임의 영역정보와 그 영역정보에 대응하는 투명도정보를 출력하는 정보처리부(170)가 마련되는 점이 도 10의 제1실시예와 공통된다. 따라서, 도 3 및 도 10과 동일한 참조번호가 부여된 구성은 도 3 및 도 10의 실시예와 동일하게 동작하므로, 중복되는 설명은 생략될 수 있다.
도 13에 도시된 바와 같이, 도 13의 실시예에 따른 전자장치(10)에서, 정보처리부(170)는, 도 10의 실시예와 마찬가지로, 데이터생성부(171)(Alpha Gen 2)와 데이터변환부(172)(1 to 8 Conv)를 포함하며, 다만 데이터생성부(171)가 비디오처리부(150)의 출력단에 마련되는 점에서 상이하다.
데이터생성부(171)는, 도 11에서 설명한 바와 같이, 비디오프레임의 영역정보, 즉, 지오메트리 정보에 기초하여 투명도정보로서 1비트(1 bit)의 알파값(alpha value)을 생성할 수 있다.
여기서, 지오메트리 정보는 CPU(190)로부터 비디오스케일러(152) 및 FRC(153)를 통과하여 데이터생성부(171)로 전달될 수 있다.
일 실시예에서, 데이터생성부(171)는, 상기와 같이 전달된 지오메트리 정보와, 비디오프레임의 데이터를 입력으로 하는 함수에 의해 1비트의 알파값을 생성할 수 있다. 데이터생성부(171)는 출력되는 비디오프레임을 식별하고, 그 비디오프레임의 영역정보에 대응하는 투명도정보(알파값)가 해당 비디오프레임과 매칭되어 생성되도록 한다.
이렇게 생성된 1비트의 알파값은 데이터변환부(172)로 출력되며, 데이터변환부(172)는 1비트의 알파값을 수학식 1에 의해 8 비트 알파값(8-bit alpha value)으로 변환하여 믹싱부(180)로 출력할 수 있다.
도 13의 실시예에 따른 전자장치(10)에서, 믹싱부(180)에는, 도 10의 실시예에 설명한 바와 같은, 데이터선택부(181)(alpha value selector)가 마련될 수 있다.
데이터선택부(181)는, 모션 UX를 위한 알파값과 스태틱 UX를 위한 알파값 중 어느 하나를 선택하여 출력함으로써, 믹싱부(180)가 선택된 알파값에 의해 그래픽프레임의 영역에 대해 투명 처리를 위한 알파블렌딩을 수행하도록 한다.
데이터선택부(181)는 알파값 선택을 위한 제어신호(control signal for motion UX)를 입력받고, 그에 대응하여 정보처리부(170), 즉, 데이터생성부(171)와 데이터변환부(172)를 통해 출력된 알파값과, 그래픽처리부(160)를 통해 전달된 알파값을 중 어느 하나를 선택하여 출력할 수 있다.
믹싱부(180)는 선택된 알파값에 기초하여 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임과 투명도가 조정된 그래픽프레임을 중첩하여 출력한다.
그에 따라, 도 5에서 설명한 바와 같이, 각 프레임에서 영역의 불일치에 따른 영상왜곡 없이. 중첩된 영상이 정상적으로 표시될 수 있게 된다.
도 14는 본 발명 제3실시예에 따라 비디오신호와 그래픽신호를 처리하여 믹싱하는 과정을 설명하기 위한 도면이다.
도 14의 제3실시예의 전자장치(10)는, 비디오프레임을 기반으로 투명도정보, 즉, 알파값을 적용하는 점이 도 3 및 도 7의 실시예와 공통된다. 따라서, 도 3과 동일한 참조번호가 부여된 구성은 도 3의 실시예와 동일하게 동작하므로, 중복되는 설명은 생략될 수 있다.
도 14의 실시예에 따른 전자장치(10)는, 도 14에 도시된 바와 같이, 알파값을 생성하여 출력하는 정보처리부가 별도로 마련되지 않고, 그래픽처리부(160)로부터 비디오처리부(150)로 8비트의 알파값이 제공되는 점에서, 도 10 또는 도 13의 실시예와 차이가 있다.
구체적으로, 비디오처리부(150)의 비디오스케일러(152)는 주처리부(190), 즉, CPU로부터 영역정보(지오메트리 정보)를 입력받고, 그래픽처리부(160)의 GP 블록으로부터 투명도 정보(8 비트 알파값)를 입력받을 수 있다. 여기서, 투명도 정보로서 알파값은, 지오메트리 정보와 함께 CPU(190)가 어플리케이션(191)을 실행하여 생성될 수 있으며, CPU(190)로부터 GPU(161)로 전달되고, GP 블록을 통해 비디오스케일러(152)로 출력될 수 있다. 다만, 상기한 전달경로는 일례로서, 비디오스케일러(152)가 CPU(190) 또는 GPU(161)로부터 직접 알파값을 획득할 수도 있을 것이다.
비디오스케일러(152)로 입력된 8 비트 알파값(8-bit alpha value)은FRC(152)를 통해 또는 다이렉트로 믹싱부(180)로 출력될 수 있다. 여기서, 믹싱부(180)에는 비디오프레임 및 그 비디오프레임의 영역정보와 영역정보에 대응하는 투명도 정보(알파값)가 매칭되어 함께 출력되게 된다.
도 14의 실시예에 따른 전자장치(10)에서, 믹싱부(180)에는, 도 10 및 도 13의 실시에에서 설명한 바와 같은, 데이터선택부(181)(alpha value selector)가 마련될 수 있다.
데이터선택부(181)는, 모션 UX를 위한 알파값과 스태틱 UX를 위한 알파값 중 어느 하나를 선택하여 출력함으로써, 믹싱부(180)가 선택된 알파값에 의해 그래픽프레임의 영역에 대해 투명 처리를 위한 알파블렌딩을 수행하도록 한다.
데이터선택부(181)는 알파값 선택을 위한 제어신호(control signal for motion UX)를 입력받고, 그에 대응하여 비디오처리부(150)를 통해 전달된 알파값과, 그래픽처리부(160)를 통해 전달된 알파값을 중 어느 하나를 선택하여 출력할 수 있다.
여기서, 알파값 선택을 위한 제어신호는, 예를 들면, 표시 대상인 그래픽이 모션 UX인지 또는 스태틱 UX 인지를 나타내는 1비트의 데이터로서, 주처리부(190), 즉, CPU로부터 입력될 수 있다.
예를 들어, 그래픽이 모션 UX인 경우 1, 스태틱 UX 인 경우 0 이 제어신호로서 데이터선택부(181)로 입력될 수 있다. 다만, 상기한 제어신호는 일례로서, 다양한 타입의 데이터/신호가 제어신호로 사용 가능할 것이다.
또한, 도 13은 믹싱부(180)가 모션 UX와 스태틱 UX를 구분하여, 알파값을 선택하여 믹싱을 수행하도록 도시되어 있으나, 본 발명의 전자장치(10)는 도 3의 실시예에서 설명한 바와 같이, 그래픽의 종류/타입을 구분하지 않고, 현재 비디오프레임의 영역정보에 대응하여 결정된 투명도정보, 즉, 알파값을 중첩 대상인 그래픽프레임의 영역의 투명도 조정에 적용하도록 구현될 수 있을 것이다.
믹싱부(180)는 선택된 알파값에 기초하여 그래픽프레임의 영역의 투명도를 조정하고, 비디오프레임과 투명도가 조정된 그래픽프레임을 중첩하여 출력한다.
그에 따라, 도 5에서 설명한 바와 같이, 각 프레임에서 영역의 불일치에 따른 영상왜곡 없이. 비디오와 그래픽이 중첩된 영상이 정상적으로 표시될 수 있게 된다.
상기의 실시예들에서는, 그래픽프레임의 일 영역에 대해 현재 출력되는 비디오프레임의 영역정보에 대응하여 투명도가 조정되도록 함으로써, 출력되는 비디오와 그래픽에서 동기화 불일치가 발생된 경우에도, 중첩된 영상에서 왜곡이 발생하지 않도록 한다.
한편, 본 발명 다른 실시예에 따른 전자장치(10)는 정보처리부(170)와 같은 별도의 구성을 추가하지 않고, 주처리부(190), 즉, CPU에 의해 실행되는 소프트웨어의 제어에 따라 서로 대응되는 비디오프레임과 그래픽프레임이 함께 출력되도록 제어(동기화)함으로써, 동기화 불일치의 상황이 발생되지 않도록 구현될 수 있다.
도 15는 본 발명 일 실시예에 따른 전자장치에서 비디오와 그래픽을 동기화시켜 출력하는 제어 동작을 도시한 흐름도이다.
일 실시예에서, 전자장치(10)의 비디오처리부(150)와 그래픽처리부(160)는 동기신호(Vsync)에 따라 프레임 별로 비디오와 그래픽을 각각 처리하여 출력할 수 있다. 구체적으로, 비디오처리부(150)는 동기신호에 따라 제1신호, 즉, 비디오신호를 처리하여, 제1영상, 즉, 비디오가 프레임 단위로 출력되도록 한다. 또한, 그래픽처리부(160)는 동기신호에 따라 제2신호, 즉, 그래픽신호를 처리하여, 제2영상, 즉, 그래픽이 프레임 단위로 출력되도록 한다.
비디오처리부(150) 및 그래픽처리부(160)에 의해 출력되는 두 영상, 즉 제1영상(비디오)와 제2영상(그래픽)은 디스플레이(110)에 함께 표시되도록 믹싱부(170)에 의해 믹싱, 즉, 혼합된다.
도 15에 도시된 바와 같이, 주처리부(190)는, 비디오신호의 복수의 프레임과 복수의 프레임에 대해, 각각 프레임의 순서에 따라 할당된 식별정보에 기초하여, 서로 대응하는 식별정보가 할당된 비디오프레임과 그래픽프레임을 식별할 수 있다(801).
여기서, 식별된 비디오프레임과 그래픽프레임은 디스플레이(110)에 함께 표시될 비디오와 그래픽에 각각 대응하는 한 쌍(pair)의 프레임이 된다. 일례로, 비디오신호의 복수의 프레임 중 어느 하나의 프레임 V1과, 그래픽신호의 복수의 프레임 중, 프레임 V1과 함께 표시될 어느 하나의 프레임 G1이 한 쌍의 프레임으로서 식별될 수 있다.
주처리부(190)는, 단계 801에서 식별된 한 쌍의 프레임, 즉, 비디오프레임 V1과 그래픽프레임 G1이 디스플레이(110)에 함께 표시하기 위하여, 비디오프레임 V1과 그래픽프레임 G1 중 적어도 하나가 지연되어 출력되도록 제어할 수 있다(802).
이하, 도면들을 참조하여, 본 발명 전자장치에서 비디오와 그래픽 중 적어도 하나를 지연시켜, 비디오와 그래픽을 동기화시켜 출력하는 실시예들을 설명한다.
도 16은 본 발명 일 실시예에 따른 전자장치에서 비디오와 그래픽을 함께 표시하기 위한 제어 동작을 개략적으로 도시한 도면이다.
일 실시예에의 전자장치(10)에서는, 도 16에 도시된 바와 같이, 소프트웨어로서 어플리케이션(191) 레이어의 비디오 드라이버(192)와 그래픽 드라이버(193)가 주처리부(190)에 의해 실행되어, 비디오 스케일러(V Scaler)(152)와 그래픽 스케일러(G Scaler)(162)로 각각 정보가 전달될 수 있다.
비디오 드라이버(192)는, 예를 들면, 제1영상(비디오)을 표현하기 위한 비디오 지오메트리를 설정하고, 설정된 지오메트리 정보를 비디오 스케일러(152)에 전송할 수 있다. 여기서, 지오메트리 정보는 비디오에 대한 사이즈 정보 및 위치 정보를 포함할 수 있다.
그래픽 드라이버(193)는, 예를 들면, 제2영상(그래픽)을 표시하기 위한 그래픽 렌더링(이미지 렌더링)을 메모리(142)의 버퍼에 수행하고, 버퍼 포인터를 설정하여 설정된 포인터 정보가 그래픽 스케일러(162)에 전송되도록 할 수 있다. 여기서, 포인터 정보는 그래픽에 대한 스타트 포인트와 엔드 포인트 정보를 포함하며, 렌더링된 그래픽의 각 프레임이 스타트 포인트와 엔트 포인트 사이의 구간에서 순차적으로 출력되도록 제어될 수 있다.
비디오 스케일러(152)는, 비디오디코더(151)에 의해 처리된 제1신호, 즉, 비디오신호의 각 프레임(비디오프레임)을 설정된 지오메트리에 기초하여 스케일링하고, 믹싱부(180)로 출력하도록 할 수 있다.
일 실시예에서, 비디오 스케일러(152)에서 스케일링된 비디오프레임은 프레임레이트변환부(153)에서 프레임레이트 변환 후 믹싱부(180)로 출력될 수 있다. 즉, 비디오 스케일러(152)로부터 출력된 비디오프레임은 프레임레이트변환부(FRC)(153)로 전송되고, 프레임레이트변환부(153)에 의해 프레임레이트 변환이 이루어져, 그래픽프레임과의 믹싱을 위해 믹싱부(180)로 제공될 수 있다.
그래픽 스케일러(162)는 버퍼에 이미지 렌더링된 제2신호, 즉, 그래픽신호의 각 프레임(그래픽프레임)을 믹싱부(180)로 출력하도록 할 수 있다.
믹싱부(180)는, 비디오 스케일러(152) 또는 프레임레이트변환부(153)로부터 제공된 비디오프레임과 그래픽 스케일러(162)로부터 제공된 그래픽프레임을 믹싱하여 디스플레이(110)로 출력함으로써, 대응되는 비디오와 그래픽이 중첩된 영상이 디스플레이(110)에 함께 표시될 수 있도록 한다.
상기와 같은 비디오와 그래픽의 처리와 믹싱 및 정보의 전달은 후술하는 도 15 및 도 18와 관련된 실시예들에서도 동일하게 수행될 수 있다.
그런데, 본 발명과 대비하여, 비디오와 그래픽이 함께 표시되는 관련기술에서 영상의 왜곡이 발생하는 경우가 있다.
도 17은 비디오와 그래픽이 함께 표시되는 관련기술에서 영상의 왜곡이 발생되는 경우를 설명하기 위한 도면이다.
도 17에 도시된 관련기술에서는, 소정 동기신호에 따라 프레임 별로 비디오신호와 그래픽신호가 각각 처리될 수 있다. 여기서, 동기신호는 영상이 표시되는 디스플레이(110)에 대한 수직동기신호(Vsync)가 사용될 수 있다.
그런데, 어플리케이션(191) 레이어에서 비디오신호와 그래픽신호에 대해 동시에 지오메트리 설정이 이루어지더라도, 양 신호 중 어느 하나에서 지연이 발생하여, 어느 하나의 신호, 예를 들면, 비디오신호의 데이터가 디스플레이(110)의 첫 번째 수직동기신호보다 늦게 비디오 스케일러(152)에 도달하는 경우가 발생될 수 있다.
도 17을 참조하면, 그래픽신호의 데이터가 시점 ta에 도달함에 따라, 그래픽 스케일러(162)는 수직동기신호의 첫 번째 펄스의 시점, 즉, 타이밍 T1에 첫 번째 그래픽프레임 G1이 출력되도록 제어할 수 있다.
그런데, 비디오신호의 데이터가 그래픽신호보다 소정 시간(Δt)이 지연되어, 첫 번째 펄스(T1)가 경과한 시점 tb에 도달되면, 비디오 스케일러(152)는, 도 17에 도시된 바와 같이, 수직동기신호의 두 번째 펄스의 타이밍 T2에 첫 번째 비디오프레임 V1이 출력되도록 제어하게 된다. 이 경우, 같은 두 번째 펄스의 타이밍 T2에 그래픽 스케일러(162)는 두 번째 그래픽 프레임 G2이 출력되도록 제어할 수 있다.
즉, 도 17의 관련기술에서는, 동시에 출력되는 비디오프레임과 그래픽프레임의 대응 여부를 식별할 수 없으므로, 한 화면에 표시되어야 할 비디오프레임 V1과 그래픽프레임 G1이 서로 다른 시점에 출력되게 된다.
그에 따라, 대응 관계가 아닌 비디오프레임 V1과 그래픽프레임 G2가 동시에 출력되므로, 비디오와 그래픽의 동기화 실패(불일치)가 발생됨으로써, 영상의 왜곡이 발생될 수 있다.
예를 들면, 소비자가 텔레비전(TV)을 구매 후 초기 장치설정(Out-of-box experience, OOBE), 즉, 초기화하는 과정이나, 텔레비전에 설치된 유튜브 어플리케이션(YouTube App)의 인증 과정에서 이러한 동기화의 실패가 발생할 수 있다.
일례로, OOBE의 마지막 단계에서 비디오과 그래픽이 화면에 동시에 표시된 상태에서, 비디오의 영역이 점차로 확대되는 과정에서, 비디오와 그래픽의 일부 경계가, 도 6에서와 같이, 블랙이나 화이트로 표시되는 영상의 왜곡이 발생될 수 있다.
본 발명 실시예에 따른 전자장치(10)에서는, 상기와 같은 영상의 왜곡을 방지하기 위한 동기화 처리가 수행된다.
도 18은 본 발명 일 실시예에 따라 전자장치에서 영상을 동기화하여 표시하기 위한 제어 동작을 도시한 흐름도이고, 도 19는 도 18의 실시예에 따라 영상을 동기화하여 표시하기 위한 구성들의 동작을 도시한 도면이다.
도 18의 실시예는, 도 15의 실시예를 보다 구체화한 예시이다. 즉, 도 18의 실시예는 도 15의 실시예와 같이 프레임의 순서에 따라 할당된 식별정보, 예를 들면, 시퀀스 넘버에 기초하여, 함께 표시될 한 쌍의 프레임을 식별하도록 동작하며, 비디오프레임과 그래픽프레임에 식별번호를 할당하고, 식별번호가 할당된 비디오프레임과 그래픽프레임의 데이터를 큐에 저장하였다가 팝(pop)함으로써, 비디오프레임과 그래픽프레임 중 적어도 하나가 지연되게 제어하는 점에 그 특징이 있다.
일 실시예에서 전자장치(10)는 비디오와 그래픽에 대한 동기화 모드로 동작하여, 후술하는 동기화 처리가 수행되도록 제어할 수 있다. 전자장치(10)는 사용자입력부(130)을 통한 사용자입력에 기초하여 동기화 모드로 동작할 수 있다.
전자장치(10)의 주처리부(190)는, 도 18에 도시된 바와 같이, 비디오신호, 즉, 복수의 비디오프레임과, 그래픽신호, 즉, 복수의 그래픽프레임에 식별정보로서 번호, 즉, 시퀀스 넘버(sequence number)를 할당하고, 프레임 별로 번호가 할당된 비디오신호의 데이터와 그래픽신호의 데이터를 각각의 큐(queue)에 저장하도록 할 수 있다(901). 여기서, 큐는 선입선출(First In First Out, FIFO) 구조로 데이터를 저장하는 형식을 가지므로, 비디오프레임과 그래픽프레임의 데이터가 순차적으로 각 큐에 저장되었다가 출력될 수 있다.
단계 701에서, 주처리부(190)는 동기화 모드가 실행, 즉, 개시됨에 기초하여, 비디오신호와 그래픽신호에 프레임 별로 식별정보를 할당하여, 비디오프레임과 그래픽프레임의 데이터, 예를 들면, 지오메트리 정보로서 비디오의 사이즈 및 위치 정보와 그래픽의 렌더링 포인터에 관한 정보가 각각 그 할당된 번호와 함께 순차적으로 저장, 즉, 인큐(enque)되도록 할 수 있다.
도 19를 참조하면, 비디오 드라이버(192)는, 주처리부(190)에 의해 실행되어, 비디오신호의 각 프레임(비디오프레임)에 1,2,3,4, 쪋 과 같은 시퀀스 넘버를 식별정보로서 할당하여 그에 관련된 데이터 또는 정보를 비디오 지오메트리 큐(Video geometry queue)로서 마련된 제1큐(1001)에 저장할 수 있다. 마찬가지로, 그래픽 드라이버(193)는, 주처리부(190)에 의해 실행되어, 그래픽신호의 각 프레임(비디오프레임)에 1,2,3,4, 쪋 과 같은 시퀀스 넘버를 식별정보로서 할당하여 그에 관련된 데이터 또는 정보를 그래픽 포인터 큐(Graphic pointer queue)로서 마련된 제2큐(1002)에 저장할 수 있다. 따라서, 동일한 식별정보(시퀀스 넘버)가 부여된 비디오프레임과 그래픽프레임은 서로 대응되는 한 쌍의 프레임으로서, 믹싱부(180)의 중첩 대상으로 디스플레이(110)에 함께 표시될 수 있다.
주처리부(190)에 의해 실행된 비디오 드라이버(192)와 그래픽 드라이버(192)는, 소정 기준시점에 각각의 큐(1001, 802)로부터 동시에 데이터를 팝(pop), 즉, 출력하도록 제어할 수 있다(902). 여기서, 기준시점은 소정 동기신호에 기초하여 설정될 수 있으며, 예를 들면, ISR(interrupt service routine)으로서 디스플레이(110)에 대한 수직동기신호(Vsync)의 첫 번째 펄스의 타이밍 T1이 될 수 있다.
즉, 도 19의 실시예에서는, 예를 들어, 제1큐(1001)에 저장된 비디오프레임 V1의 데이터와 제2큐(1001)에 저장된 그래픽프레임 G1의 데이터가, 서로 대응되는 식별정보가 할당된 한 쌍의 프레임으로서 기준시점에 동시에 각각의 큐(1001, 802)로부터 팝, 다시 말해, 디큐(deque)되도록 제어될 수 있다.
그에 따라, 비디오프레임의 데이터와 그래픽프레임의 데이터는 각각이, 기준시점에 제1큐(1001)와 제2큐(1002)로부터 동시에 팝되어, 비디오 스케일러(152) 및 그래픽 스케일러(162)로 전달될 수 있다.
여기서, 비디오 드라이버(192)는 팝 되는 비디오프레임에 대해 설정된 지오메트리 정보(비디오 지오메트리)를 비디오 스케일러(152)로 제공하고, 그래픽 드라이버(193)는 팝 되는 그래픽프레임에 대한 그래픽 렌더링을 수행 및 지오메트리 정보로서 버퍼 포인터의 정보를 그래픽 스케일러(162)로 제공할 수 있다.
일 실시예에서, 주처리부(190)는, 기준시점에 팝되는 비디오프레임과 그래픽프레임 각각에 할당된 식별정보, 즉, 시퀀스 넘버를 비교하고, 두 식별정보(번호)가 서로 대응, 다시 말해, 일치되는 것으로 식별됨에 기초하여, 비디오 스케일러(152)와 그래픽 스케일러(162)로 각각 데이터가 전달되도록 제어할 수 있다.
즉, 주처리부(190)는, 시퀀스 넘버의 비교 결과에 기초하여, 각각의 큐(1001, 802)로부터 동시에 팝되는 비디오프레임과 그래픽프레임이 서로 대응되는 것으로 식별된 경우, 지오메트리 정보로서 비디오 지오메트리 정보와 버퍼 포인터의 정보가 각각 비디오 스케일러(152)와 그래픽 스케일러(162)로 전달 및 설정되도록 제어할 수 있다.
그리고, 주처리부(190)는, 단계 902에서 전달된 서로 대응하는 식별정보(시퀀스 넘버)가 할당된 비디오프레임 V1의 영상과 그래픽프레임 G1의 영상이 동기화되어 출력되도록 비디오처리부(150) 및 그래픽처리부(160)를 제어할 수 있다(703).
여기서, 주처리부(190)는, 예를 들어, 수직동기신호(Vsync)의 다음 펄스의 타이밍 T2에, 비디오프레임 V1과 그래픽프레임 G1이 각각 비디오스케일러(152)와 그래픽스케일러(162)로부터 동기화되어 출력되어, 믹싱부(180)로 제공되도록 제어할 수 있다.
상기와 같은 일 실시예에서는, 제1큐(1001)과 제2큐(1002) 모두에 데이터가 저장된 상태에서 동시에 데이터가 팝 됨에 따라, 비디오프레임과 그래픽프레임이 반드시 한 쌍으로 동기화되어 출력되도록 제어된다.
이 과정에서 비디오프레임 V1과 그래픽프레임 G1 중 적어도 하나가 인위적으로 지연되게 제어될 수 있다. 예를 들면, 비디오경로를 구성하는 비디오처리부(150)의 비디오디코더(151)가 비디오프레임 V1을 비디오스케일러(152)로 늦게 출력하는 경우, 그래픽경로를 구성하는 그래픽처리부(160)의 그래픽스케일러(162)에서 그래픽프레임 G1이 지연되어 출력될 수 있다. 즉, 그래픽스케일러(162)는 큐(1002)로부터 그래픽프레임 G1의 데이터로서 지오메트리 정보(렌더링 포인터 정보)를 전달받아 그에 기초하여 그래픽프레임 G1을 출력할 수 있으며, 이 과정에서 그래픽프레임 G1이 인위적으로 지연되는 것이다.
따라서, 도 17에서와 같이, 어느 하나의 프레임, 예를 들어, 그래픽프레임 G1이 먼저 도달되더라도, 대응되는 비디오프레임 V1이 도달된 후 V1과 G1이 동기화되어 함께 출력되도록 G1이 지연 제어됨으로써, 서로 대응되지 않는 비디오와 그래픽이 함께 표시되어 영상이 왜곡되는 문제점이 발생하지 않는다.
일 실시예에서, 비디오 스케일러(152)에서 스케일링된 비디오프레임은 프레임레이트변환부(FRC)(153)를 통해 믹싱부(180)로 출력될 수 있다.
도 20은 도 18의 실시예에서 프레임레이트 변환이 수행되는 영상을 동기화하여 표시하기 위한 구성들의 동작을 도시한 도면이다.
도 20에 도시된 일 실시예의 전자장치(10)는, 비디오신호의 프레임레이트 변환에서 발생되는 비디오프레임의 지연시간, 다시 말해, FRC 딜레이에 대응하는 추가 버퍼링(buffering)을 위한 그래픽버퍼(1103)가 더 마련된 형태로 구현될 수 있다.
본 발명 일 실시예에 따른 전자장치(10)에서, 메모리(142)에는 비디오 스케일러(152)에 의해 출력되는 비디오프레임이 순차적으로 저장되는 비디오버퍼(1101)와, 그래픽 스케일러(162)에 의해 출력되는 그래픽프레임이 순차적으로 저장되는 그래픽버퍼(1102)가 마련될 수 있다.
또한, 메모리(142)에는, 도 20에 도시된 바와 같이, 비디오프레임의 FRC 딜레이에 대응하여 그래픽프레임을 저장하기 위한 그래픽버퍼로서 FRC 버퍼(1103)가 더 마련될 수 있다.
예를 들어, 프레임레이트변환부(153)에 의한 비디오신호의 프레임레이트 변환 과정에서 3 프레임의 딜레이가 발생되는 경우, FRC 버퍼(1103)는 3 프레임에 대응하는 크기를 가지도록 구성될 수 있다.
그에 따라, 비디오 스케일러(152)에서 출력된 비디오프레임이 프레임레이트변환부(153)의 FRC 과정에서 지연되어 믹싱부(180)로 전달되더라도, 그래픽프레임이, FRC 버퍼(1103)에 의해 그 FRC 딜레이 오프셋만큼 지연되어 믹싱부(180)로 제공됨으로써, 결과적으로 서로 대응되는 비디오프레임과 그래픽프레임이 동기화되어 출력되도록 제어되게 된다.
도 21은 도 18의 일 실시예에서 비디오와 그래픽이 동기화되어 출력되는 일례를 설명하기 위한 도면이다.
도 21에 도시된 일 실시예에서는, 소정 동기신호에 따라 프레임 별로 비디오신호와 그래픽신호가 각각 처리 및 동기화되어 출력될 수 있다. 여기서, 동기신호는 영상이 표시되는 디스플레이(110)에 대한 수직동기신호(Vsync)가 사용될 수 있다.
도 21에 도시된 바와 같이, 본 발명 일 실시예의 전자장치(10)에서는, 제1큐(1001)와 제2큐(1002)에 각각 저장된 비디오프레임 V1과 그래픽프레임 G1의 데이터 또는 정보가 동기신호의 타이밍 T1에 한 쌍의 프레임에 대응하여 각각의 큐(1001, 1102)로부터 팝되고, 다음 동기신호의 타이밍 T2에 그 비디오프레임 V1과 그래픽프레임 G1이 비디오 스케일러(152)와 그래픽 스케일러(162)에 의해 동기화되어 믹싱부(180)로 출력되도록 제어될 수 있다.
같은 방식으로, 비디오프레임 V2과 그래픽프레임 G2의 데이터 또는 정보가 한 쌍의 프레임에 대응하여 타이밍 T2에 각각의 큐(1001, 802)로부터 팝되고, 다음 동기신호의 타이밍 T3에 비디오프레임 V2와 그래픽프레임 G2가 비디오 스케일러(152)와 그래픽 스케일러(162)에 의해 동기화되어 믹싱부(180)로 출력되도록 제어될 수 있다.
이에 따라, 도 18의 일 실시예에 따른 전자장치(10)에서는, 반드시 서로 식별정보, 즉, 번호(시퀀스 넘버)가 대응되는 비디오프레임 및 그래픽프레임의 데이터가 한 쌍으로서 동시에 큐(1001, 1102)로부터 팝 되므로, 도 17의 관련기술에서 설명한 바와 같이, 비디오신호와 그래픽신호가 서로 다른 처리경로로 인해 중 어느 하나가 지연되더라도, 서로 대응되는 비디오프레임과 그래픽프레임이 다른 시점에 출력되는 문제가 발생되지 않게 된다. 이에, 도 6에서와 같은 비디오와 그래픽의 동기화 실패로 인한 영상의 미스매치 또는 왜곡이 방지될 수 있다.
도 22는 본 발명 다른 실시예에 따라 전자장치에서 영상을 동기화하여 표시하기 위한 제어 동작을 도시한 흐름도이고, 도 23은 도 22의 다른 실시예에 따라 영상을 동기화하여 표시하기 위한 구성들의 동작을 도시한 도면이고, 도 24는 도 22의 다른 실시예에서 그래픽신호를 지연시켜 출력하는 일례를 도시한 도면이다.
도 22의 다른 실시예의 전자장치는, 제1신호, 즉, 비디오신호의 프레임레이트 변환에서 발생하는 지연시간, 즉, FRC 딜레이를 식별하고, 그 FRC 딜레이 만큼 제2신호, 즉, 그래픽신호를 미리 지연시켜, 제1신호와 제2신호가 동기화되어 출력되도록 제어하는 것이다.
도 22의 실시예는 도 15 및 도 18의 실시예와 같이 프레임의 순서에 따라 할당된 식별정보, 예를 들면, 시퀀스 넘버에 기초하여, 함께 표시될 한 쌍의 프레임을 식별하도록 동작하며, 식별번호가 할당된 그래픽프레임의 데이터를 FRC 지연이 발생되는 비디오프레임의 데이터보다 지연하여 팝하는 점에 그 특징이 있다.
구체적으로, 전자장치(10)의 주처리부(190)는, 도 22에 도시된 바와 같이, 비디오신호의 복수의 비디오프레임과, 그래픽신호의 복수의 그래픽프레임에 식별번호로서 번호, 즉, 시퀀스 넘버(sequence number)를 할당하고, 프레임 별로 번호가 할당된 비디오신호의 데이터와 그래픽신호의 데이터를 각각의 큐(queue)에 저장하도록 할 수 있다(1201). 여기서, 큐는 선입선출(FIFO) 구조로 데이터를 저장하는 형식을 가지므로, 비디오프레임과 그래픽프레임의 데이터가 각 큐에 순차적으로 저장되었다가 출력될 수 있다.
단계 1201에서, 주처리부(190)는 동기화 모드가 실행, 즉, 개시됨에 기초하여, 비디오신호와 그래픽신호에 프레임 별로 식별정보를 할당하여, 비디오프레임과 그래픽프레임의 데이터, 예를 들면, 지오메트리 정보가 각각 그 할당된 번호와 함께 순차적으로 저장, 즉, 인큐(enque)되도록 할 수 있다.
도 23을 참조하면, 비디오 드라이버(192)는, 주처리부(190)에 의해 실행되어, 비디오신호의 각 프레임(비디오프레임)에 1,2,3,4, 쪋 과 같은 시퀀스 넘버를 식별정보로서 할당하여 제1큐(1301)에 저장할 수 있다. 마찬가지로, 그래픽 드라이버(193)는, 주처리부(190)에 의해 실행되어, 그래픽신호의 각 프레임(비디오프레임)에 1,2,3,4, 쪋 과 같은 시퀀스 넘버를 식별정보로서 매치하여 제2큐(1302)에 저장할 수 있다. 따라서, 동일한 식별정보(시퀀스 넘버)가 부여된 비디오프레임과 그래픽프레임은 서로 대응되는 한 쌍의 프레임으로서, 디스플레이(110)에 함께 표시되는 대상이 된다.
주처리부(190)에 의해 실행된 그래픽 드라이버(193)는, 제1신호, 즉, 비디오신호의 프레임레이트 변환 과정에서 발생되는 FRC 딜레이를 식별할 수 있다(1202). 여기서, 주처리부(190)는, 프레임레이트변환부(153)로부터 FRC 동작에 의해 발생되는 FRC 딜레이에 관한 정보를 획득할 수 있다.
그래픽 드라이버(193)는, 제2신호의 데이터, 즉, 단계 1201에서 시퀀스 넘버가 매치되어 제2큐(1302)에 저장된 그래픽프레임을, 제1신호, 즉, 단계 1201에서 같은 시퀀스 넘버가 매치되어 제1큐(1301)에 저장된 비디오프레임 보다 단계 1202에서 식별된 FRC 딜레이에 대응되게 지연시켜, 제2큐(1302)로부터 팝, 즉, 디큐되도록 제어할 수 있다(1203). 이 과정에서 그래픽 드라이버(193)에 의한 그래픽 렌더링 시점이 FRC 딜레이에 대응하여 인위적으로 지연될 수 있다.
예를 들어, 단계 1102에서 FRC 딜레이가 2 프레임으로 식별된 경우, 도 24에 도시된 바와 같이, 제1큐(1301)에 저장된 비디오프레임 V1의 데이터는 동기신호의 타이밍 T1에 제1큐(1301)로부터 팝되게 제어(1401)되는 반면, 제2큐(1302)에 저장된 V1에 대응하는 그래픽프레임 G1의 데이터는 2프레임이 지연된 타이밍 T3에 제2큐(1302)로부터 팝되도록 제어(1402)될 수 있다.
같은 방식으로, 비디오프레임 V2의 데이터는 타이밍 T2에 팝되는 반면, 그에 대응하는 그래픽프레임 G2의 데이터는 2프레임이 지연된 타이밍 T4에 팝 되도록 제어된다.
즉, 도 22과 같은 다른 실시예에서는, 서로 대응되는 식별정보가 할당된 한 쌍의 프레임 중 어느 하나의 데이터가, FRC 딜레이가 발생하는 다른 하나의 데이터에 대해 FRC 딜레이만큼 지연되어 팝, 다시 말해, 디큐(deque)되도록 제어될 수 있다.
그에 따라, 그래픽프레임 G1의 데이터는 대응되는 비디오프레임 V1의 데이터가 비디오 스케일러(152)로 전달되는 시점보다 FRC 딜레이 만큼 늦게 그래픽 스케일러(162)로 전달되게 된다.
그리고, 주처리부(190)는, 단계 1203에서 전달된 서로 대응되는 식별정보(시퀀스 넘버)가 할당된 한 쌍의 프레임, 예를 들어, 비디오프레임 V1과 그래픽프레임 G1의 영상이 동기화되어 출력되도록 비디오처리부(150) 및 그래픽처리부(160)를 제어할 수 있다(1204).
구체적으로, 단계 1203에서 비디오프레임 V1은 타이밍 T1에 출력된 데이터, 즉, 비디오 지오메트리 정보에 따라 비디오스케일러(152)에서 스케일링 후 프레임레이트변환부(153)로 전송되어 FRC 수행 과정에서 2 프레임 지연되므로, 타이밍 T3에 출력된 데이터, 즉, 포인터 정보에 따라 그래픽스케일러(162)에서 출력되는 그래픽프레임 G1과 동기화되어 함께 믹싱부(180)로 출력되게 된다.
상기와 같은 다른 실시예에서는, 함께 표시될 비디오프레임과 그래픽프레임 중 어느 하나, 즉, 그래픽프레임이 비디오의 FRC 딜레이에 대응하여 미리 지연되어 출력되므로, 도 20에서와 같이, 메모리(142)에 그래픽프레임을 위한 FRC 버퍼(1103)를 추가로 마련하지 않아도, 서로 대응되는 비디오와 그래픽이 동기화되어 출력 및 중첩됨으로써 디스플레이(110)에 함께 표시될 수 있게 된다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
이상, 바람직한 실시예들을 통하여 본 발명에 관하여 상세히 설명하였으나, 본 발명은 이에 한정되는 것은 아니며 특허청구범위 내에서 다양하게 실시될 수 있다.

Claims (15)

  1. 디스플레이장치에 있어서,
    디스플레이;
    외부장치로부터 컨텐트를 수신할 수 있는 인터페이스부;
    상기 수신된 컨텐트의 비디오프레임에 대해, 프레임 별 영역정보를 제공하는 주처리부;
    상기 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 비디오처리부;
    그래픽프레임을 출력하는 그래픽처리부;
    상기 프레임 별 영역정보에 기초하여, 상기 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하고, 상기 비디오프레임의 영역정보와 상기 생성된 투명도정보를 제공하는 정보처리부; 및
    상기 영역정보 및 상기 투명도정보에 기초하여 상기 비디오프레임에 대응하는 상기 그래픽프레임의 영역의 투명도를 조정하고, 상기 비디오프레임 및 상기 조정된 그래픽프레임을 중첩시켜 상기 디스플레이에 표시될 영상을 출력하는 믹싱부를 포함하는 디스플레이장치.
  2. 제1항에 있어서,
    상기 정보처리부는,
    상기 비디오처리부에서 순차적으로 출력되는 복수의 비디오프레임 중에서 상기 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하는 디스플레이장치.
  3. 제1항에 있어서,
    상기 정보처리부는,
    상기 비디오프레임의 영역정보에 기초하여 상기 영역정보에 대응하는 투명도정보를 생성하는 데이터생성부를 포함하는 디스플레이장치.
  4. 제2항에 있어서,
    상기 데이터생성부는,
    상기 비디오처리부로부터 입력된 데이터에 기초하여 상기 출력되는 비디오프레임을 식별하고, 상기 식별된 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하는 디스플레이장치.
  5. 제3항에 있어서,
    상기 데이터생성부는, 1비트 데이터의 상기 투명도정보를 생성하며,
    상기 정보처리부는, 상기 1비트 데이터의 상기 투명도정보를 8비트 데이터로 변환하는 데이터변환부를 더 포함하는 디스플레이장치.
  6. 제1항에 있어서,
    상기 투명도정보는 1 또는 0의 값을 가지는 알파값을 포함하는 디스플레이장치.
  7. 제1항에 있어서,
    상기 믹싱부는,
    상기 정보처리부로부터 출력된 투명도정보와 상기 그래픽처리부로부터 출력된 투명도정보 중 어느 하나를 선택하고, 상기 선택된 투명도정보에 기초하여 상기 그래픽프레임의 영역의 투명도를 조정하는 디스플레이장치.
  8. 제7항에 있어서,
    상기 믹싱부는,
    상기 그래픽프레임이 모션 UX에 대응하는 것으로 식별됨에 기초하여, 상기 정보처리부로부터 출력된 투명도정보를 선택하는 디스플레이장치.
  9. 제1항에 있어서,
    상기 정보처리부는, 상기 주처리부로부터 상기 비디오프레임의 영역정보를 획득하는 디스플레이장치.
  10. 제1항에 있어서,
    상기 주처리부로부터 출력된 상기 비디오프레임의 영역정보는 상기 비디오처리부를 통해 상기 정보처리부로 제공되는 디스플레이장치.
  11. 디스플레이장치의 제어방법에 있어서,
    외부장치로부터 수신된 컨텐트의 비디오프레임에 대해, 비디오처리부에서 프레임 별 영역정보에 기초하여 영상의 일 영역에 대응하는 비디오프레임을 출력하는 단계;
    그래픽처리부에서 그래픽프레임을 출력하는 단계;
    상기 프레임 별 영역정보에 기초하여, 상기 출력되는 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하고, 상기 비디오프레임의 영역정보와 상기 생성된 투명도정보를 제공하는 단계; 및
    상기 영역정보 및 상기 투명도정보에 기초하여 상기 비디오프레임에 대응하는 상기 그래픽프레임의 영역의 투명도를 조정하고, 상기 비디오프레임 및 상기 조정된 그래픽프레임을 중첩시켜 디스플레이에 표시될 영상을 출력하는 단계를 포함하는 디스플레이장치의 제어방법.
  12. 제11항에 있어서,
    상기 투명도정보를 출력하는 단계는,
    상기 비디오처리부에서 순차적으로 출력되는 복수의 비디오프레임 중에서 상기 출력되는 비디오프레임의 영역정보와, 상기 영역정보에 대응하는 투명도정보를 생성하는 단계를 포함하는 디스플레이장치의 제어방법.
  13. 제11항에 있어서,
    상기 비디오프레임의 영역정보에 기초하여 상기 영역정보에 대응하는 투명도정보를 생성하는 단계를 더 포함하는 디스플레이장치의 제어방법.
  14. 제12항에 있어서,
    상기 비디오처리부로부터 입력된 데이터에 기초하여 상기 출력되는 비디오프레임을 식별하고, 상기 식별된 비디오프레임의 영역정보에 대응하는 투명도정보를 생성하는 단계를 포함하는 디스플레이장치의 제어방법.
  15. 제13항에 있어서,
    1비트 데이터의 상기 투명도정보를 생성하는 단계; 및
    상기 1비트 데이터의 상기 투명도정보를 8비트 데이터로 변환하는 단계를 더 포함하는 디스플레이장치의 제어방법.
PCT/KR2021/014831 2020-10-28 2021-10-21 디스플레이장치 및 그 제어방법 WO2022092705A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP21886699.4A EP4207790A4 (en) 2020-10-28 2021-10-21 DISPLAY DEVICE AND CONTROL METHOD THEREOF
CN202180074070.XA CN116491122A (zh) 2020-10-28 2021-10-21 显示装置及其控制方法
US18/130,208 US20230262191A1 (en) 2020-10-28 2023-04-03 Display apparatus and control method therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020200140957A KR20220056404A (ko) 2020-10-28 2020-10-28 디스플레이장치 및 그 제어방법
KR10-2020-0140957 2020-10-28

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/130,208 Continuation US20230262191A1 (en) 2020-10-28 2023-04-03 Display apparatus and control method therefor

Publications (1)

Publication Number Publication Date
WO2022092705A1 true WO2022092705A1 (ko) 2022-05-05

Family

ID=81384261

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/014831 WO2022092705A1 (ko) 2020-10-28 2021-10-21 디스플레이장치 및 그 제어방법

Country Status (5)

Country Link
US (1) US20230262191A1 (ko)
EP (1) EP4207790A4 (ko)
KR (1) KR20220056404A (ko)
CN (1) CN116491122A (ko)
WO (1) WO2022092705A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110026806A (ko) * 2009-09-08 2011-03-16 삼성전자주식회사 영상처리장치 및 영상처리방법
KR20130078296A (ko) * 2011-12-30 2013-07-10 삼성전자주식회사 디스플레이장치 및 그 영상표시방법
KR20160122027A (ko) * 2015-04-13 2016-10-21 삼성전자주식회사 영상 컨텐츠를 재생하는 재생 장치 및 그 동작방법
KR20180071619A (ko) * 2016-12-20 2018-06-28 삼성전자주식회사 디스플레이 장치 및 디스플레이 방법
KR20190132072A (ko) * 2018-05-18 2019-11-27 삼성전자주식회사 전자장치, 그 제어방법 및 기록매체

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6189064B1 (en) * 1998-11-09 2001-02-13 Broadcom Corporation Graphics display system with unified memory architecture
FR2861938B1 (fr) * 2003-10-29 2006-03-03 Siemens Vdo Automotive Procede et dispositif permettant de gerer et d'afficher simultanement et en temps reel sur un meme ecran plusieurs sources video et des objets graphiques
JP2007258874A (ja) * 2006-03-22 2007-10-04 Toshiba Corp 情報処理装置および情報処理方法
CN105229722B (zh) * 2013-05-17 2017-10-10 三菱电机株式会社 视频合成装置及方法
KR102521343B1 (ko) * 2016-04-25 2023-04-13 엘지전자 주식회사 디스플레이 장치 및 그의 동작 방법
KR20220018849A (ko) * 2020-08-07 2022-02-15 삼성전자주식회사 디스플레이장치 및 그 제어방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110026806A (ko) * 2009-09-08 2011-03-16 삼성전자주식회사 영상처리장치 및 영상처리방법
KR20130078296A (ko) * 2011-12-30 2013-07-10 삼성전자주식회사 디스플레이장치 및 그 영상표시방법
KR20160122027A (ko) * 2015-04-13 2016-10-21 삼성전자주식회사 영상 컨텐츠를 재생하는 재생 장치 및 그 동작방법
KR20180071619A (ko) * 2016-12-20 2018-06-28 삼성전자주식회사 디스플레이 장치 및 디스플레이 방법
KR20190132072A (ko) * 2018-05-18 2019-11-27 삼성전자주식회사 전자장치, 그 제어방법 및 기록매체

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4207790A4 *

Also Published As

Publication number Publication date
KR20220056404A (ko) 2022-05-06
US20230262191A1 (en) 2023-08-17
CN116491122A (zh) 2023-07-25
EP4207790A1 (en) 2023-07-05
EP4207790A4 (en) 2024-02-28

Similar Documents

Publication Publication Date Title
WO2017003007A1 (ko) 영상표시장치 및 이동 단말기
WO2016175467A1 (en) Source device and control method thereof, and sink device and image quality improvement processing method thereof
WO2016035984A1 (en) Electronic device and method for operating the same
WO2016056737A1 (en) Display device and method for controlling the same
WO2017146438A1 (en) Display apparatus and method of setting operating channel of the same
WO2016043404A1 (ko) 멀티미디어 장치 및 그의 오디오 신호 처리방법
WO2017111321A1 (ko) 영상표시장치
WO2016093510A1 (en) Display apparatus and display method
WO2021132757A1 (ko) 디스플레이 장치
WO2021118130A1 (en) Electronic apparatus and method of controlling the same
WO2018190517A1 (en) Electronic apparatus and method for displaying contents thereof
WO2021117953A1 (ko) 디스플레이 장치
WO2023163322A1 (ko) 영상표시장치, 및 서버
WO2022050785A1 (ko) 디스플레이 기기 및 그의 동작 방법
WO2017119571A1 (ko) 디지털 디바이스 및 그를 이용한 컬러 제어 시스템 및 방법
WO2021137558A1 (ko) 전자장치 및 그 제어방법
WO2017030380A1 (en) Digital device and method of processing data therein
WO2013062213A1 (en) Media card, media apparatus, content server and method for operating the same
WO2021040369A1 (en) Electronic apparatus, display apparatus and method of controlling the same
WO2016035983A1 (ko) 영상제공장치, 및 그 동작방법
WO2016182124A1 (ko) 디스플레이 장치 및 그의 동작 방법
WO2022030892A1 (ko) 디스플레이장치 및 그 제어방법
WO2022025525A1 (ko) 전자장치, 서버 및 그 제어방법
WO2022092705A1 (ko) 디스플레이장치 및 그 제어방법
WO2020045866A2 (en) Signal processing device and image display apparatus including the same

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21886699

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021886699

Country of ref document: EP

Effective date: 20230328

WWE Wipo information: entry into national phase

Ref document number: 202180074070.X

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE