KR20200114898A - 영상표시장치 - Google Patents

영상표시장치 Download PDF

Info

Publication number
KR20200114898A
KR20200114898A KR1020190037434A KR20190037434A KR20200114898A KR 20200114898 A KR20200114898 A KR 20200114898A KR 1020190037434 A KR1020190037434 A KR 1020190037434A KR 20190037434 A KR20190037434 A KR 20190037434A KR 20200114898 A KR20200114898 A KR 20200114898A
Authority
KR
South Korea
Prior art keywords
image
information
processing unit
unit
signal
Prior art date
Application number
KR1020190037434A
Other languages
English (en)
Inventor
양정휴
이석수
김진경
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020190037434A priority Critical patent/KR20200114898A/ko
Priority to US17/599,385 priority patent/US20220198994A1/en
Priority to DE112020000942.4T priority patent/DE112020000942T5/de
Priority to PCT/KR2020/004162 priority patent/WO2020204472A1/ko
Publication of KR20200114898A publication Critical patent/KR20200114898A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • G09G3/2092—Details of a display terminals using a flat panel, the details relating to the control arrangement of the display terminal and to the interfaces thereto
    • G09G3/2096—Details of the interface to the display terminal specific for a flat panel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4662—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms
    • H04N21/4666—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms using neural networks, e.g. processing the feedback provided by the user
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42204—User interfaces specially adapted for controlling a client device through a remote control device; Remote control devices therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/162—Interface to dedicated audio devices, e.g. audio drivers, interface to CODECs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42203—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] sound input device, e.g. microphone
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
    • H04N21/4363—Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network
    • H04N21/43632—Adapting the video or multiplex stream to a specific local network, e.g. a IEEE 1394 or Bluetooth® network involving a wired protocol, e.g. IEEE 1394
    • H04N21/43635—HDMI
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439—Processing of audio elementary streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs
    • H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213—Monitoring of end-user related data
    • H04N21/44218—Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4668—Learning process for intelligent management, e.g. learning user preferences for recommending movies for recommending content, e.g. movies
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/485—End-user interface for client configuration
    • H04N21/4852—End-user interface for client configuration for modifying audio parameters, e.g. switching between mono and stereo
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/485—End-user interface for client configuration
    • H04N21/4854—End-user interface for client configuration for modifying image parameters, e.g. image brightness, contrast
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00—Control of display operating conditions
    • G09G2320/08—Arrangements within a display terminal for setting, manually or automatically, display parameters of the display terminal
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00—Aspects of data communication
    • G09G2370/12—Use of DVI or HDMI protocol in interfaces along the display data pipeline

Abstract

본 발명은 영상표시장치에 관한 것이다. 본 발명의 일 실시예에 따른 영상표시장치는, 입력 영상의 영상 처리를 수행하며, 입력 영상에 대응하는 오디오의 오디오 처리를 수행하는 신호 처리부와, 신호 처리부에서의 영상 처리된 영상 정보와, 신호 처리부에서 오디오 처리된 오디오 정보를 수신하는 가상 센서 장치와, 외부의 캡쳐된 이미지 정보 또는 사운드 정보를 수집하는 센서 장치와, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어하는 인공 지능 처리부를 포함한다. 이에 의해, 인공지능 기반하에 동작할 수 있게 된다.

Description

영상표시장치{Image display apparatus}
본 발명은 영상표시장치에 관한 것이며, 더욱 상세하게는 인공지능 기반하에 동작할 수 있는 영상표시장치에 관한 것이다.
영상표시장치는, 영상을 표시할 수 있는 장치이다.
예를 들어, 영상표시장치는, 방송 신호 또는 HDMI 신호 등을 수신하고, 수신되는 방송 신호 또는 HDMI 신호에 기초한 신호 처리를 수행하여, 신호 처리된 영상 신호를 출력할 수 있다.
한편, 기존의 영상표시장치는 주로 비디오와 오디오 신호를 수신하고 신호 처리를 거친 후에 출력하는 방식으로 동작한다.
한편, 최근 인공지능으로 동작하는 스피커를 통해, 음성 인식, 성문 인식 등의 기술이 적용되어가는 중이다. 이와 관련하여, 영상표시장치에도 인공지능에 대한 연구가 진행되고 있다.
본 발명의 목적은, 인공지능 기반하에 동작할 수 있는 영상표시장치를 제공함에 있다.
한편, 본 발명의 다른 목적은, 인공지능 기반하에 화질 처리를 수행할 수 있는 영상표시장치를 제공함에 있다.
한편, 본 발명의 또 다른 목적은, 인공지능 기반하에 오디오 처리를 수행할 수 있는 영상표시장치를 제공함에 있다.
한편, 본 발명의 또 다른 목적은, 인공지능 기반하에 데이터 처리를 수행할 수 있는 영상표시장치를 제공함에 있다.
한편, 본 발명의 또 다른 목적은, 인공지능 기반하에 사용자 정보를 취합할 수 있는 영상표시장치를 제공함에 있다.
한편, 본 발명의 또 다른 목적은, 인공지능 기반하에 사용자에게 적합한 컨텐츠 또는 프로그램을 추천할 수 있는 영상표시장치를 제공함에 있다.
상기 목적을 달성하기 위한 본 발명의 일 실시예에 따른 영상표시장치는, 입력 영상의 영상 처리를 수행하며, 입력 영상에 대응하는 오디오의 오디오 처리를 수행하는 신호 처리부와, 신호 처리부에서의 영상 처리된 영상 정보와, 신호 처리부에서 오디오 처리된 오디오 정보를 수신하는 가상 센서 장치와, 외부의 캡쳐된 이미지 정보 또는 사운드 정보를 수집하는 센서 장치와, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어하는 인공 지능 처리부를 포함할 수 있다.
한편, 신호 처리부는, 입력 영상과 관련된 데이터를 처리하며, 가상 센서 장치는, 신호 처리부에서 처리된 데이터 정보를 수신하며, 인공 지능 처리부는, 데이터 정보, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다.
한편, 신호 처리부는, 원격제어장치로부터의 사용자 입력 신호를 수신하고, 센서 장치는, 사용자 입력 신호에 대한 정보를 수집하고, 인공 지능 처리부는, 사용자 입력 신호에 대한 정보, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다.
한편, 센서 장치는, 조도 센서로부터의 조도 정보, 모션 센서로부터의 모션 정보에 기초하여, 시청 환경 정보를 수집하고, 인공 지능 처리부는, 시청 환경 정보, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다.
한편, 센서 장치는, 카메라로부터 외부의 캡쳐된 이미지 정보를 수집하며, 마이크로부터 외부의 사운드 정보를 수집할 수 있다.
한편, 시청 환경 정보는, 화면 밝기 정보, 시청 집중도 정보 중 적어도 하나를 포함할 수 있다.
한편, 신호 처리부는, 화질 처리를 수행하는 화질 처리부를 포함하며, 화질 처리부는, 가상 센서 장치로부터의 영상 정보, 및 센서 장치로부터의 이미지 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
한편, 신호 처리부는, 입력 영상의 영상 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
한편, 신호 처리부는, 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 조도에 따른 화질 설정 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
한편, 신호 처리부는, 오디오 처리를 수행하는 오디오 처리부를 포함하며, 오디오 처리부는, 가상 센서 장치로부터의 오디오 정보, 및 센서 장치로부터의 사운드 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다.
한편, 신호 처리부는, 입력 영상에 대응하는 오디오의 오디오 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다.
한편, 신호 처리부는, 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 주변 소음에 따른 음량 설정 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다.
한편, 영상표시장치는, 음량 조절키, 화질 조절키, 채널 조절키를 구비하는 원격제어장치를 더 포함할 수 있다.
한편, 신호 처리부는, 화질 조절키에 의해 설정되는 밝기, 대비, 선명도, 채도 정보 중 적어도 하나에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
한편, 신호 처리부는, 센서 장치에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
한편, 신호 처리부는, 센서 장치에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다.
한편, 신호 처리부는, 입력 영상 내의 오브젝트를 검출하는 오브젝트 검출부와, 오브젝트 인식을 위한 학습을 수행하는 오브젝트 인식 학습부와, 오브젝트 인식 학습부로부터의 정보와, 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부를 포함할 수 있다.
한편, 신호 처리부는, 외부로부터 수신되는 오브젝트 인식 정보를 처리하는 오브젝트 정보 처리부를 더 포함할 수 있다.
한편, 오브젝트 인식부는, 오브젝트 인식 학습부로부터의 정보와, 검출된 오브젝트와, 외부로부터 수신되는 오브젝트 인식 정보에 기초하여, 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부를 포함할 수 있다.
한편, 신호 처리부는, 입력 영상 내의 텍스트 영역을 추출하는 영역 추출부와, 추출된 텍스터 영역을 텍스트로 변환하는 텍스트 변환부와, 변환된 텍스트로부터 정보를 추출하는 정보 추출부와, 추출된 정보에 대한 장르를 분석하는 장르 분석부를 포함할 수 있다.
본 발명의 일 실시예에 따른 영상표시장치는, 입력 영상의 영상 처리를 수행하며, 입력 영상에 대응하는 오디오의 오디오 처리를 수행하는 신호 처리부와, 신호 처리부에서의 영상 처리된 영상 정보와, 신호 처리부에서 오디오 처리된 오디오 정보를 수신하는 가상 센서 장치와, 외부의 캡쳐된 이미지 정보 또는 사운드 정보를 수집하는 센서 장치와, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어하는 인공 지능 처리부를 포함할 수 있다. 이에 따라, 인공지능 기반하에 동작할 수 있게 된다. 특히, 인공지능 기반하에 화질 처리를 수행할 수 있게 된다.
한편, 신호 처리부는, 입력 영상과 관련된 데이터를 처리하며, 가상 센서 장치는, 신호 처리부에서 처리된 데이터 정보를 수신하며, 인공 지능 처리부는, 데이터 정보, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 원격제어장치로부터의 사용자 입력 신호를 수신하고, 센서 장치는, 사용자 입력 신호에 대한 정보를 수집하고, 인공 지능 처리부는, 사용자 입력 신호에 대한 정보, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 센서 장치는, 조도 센서로부터의 조도 정보, 모션 센서로부터의 모션 정보에 기초하여, 시청 환경 정보를 수집하고, 인공 지능 처리부는, 시청 환경 정보, 가상 센서 장치로부터의 영상 정보와 오디오 정보, 및 센서 장치로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 센서 장치는, 카메라로부터 외부의 캡쳐된 이미지 정보를 수집하며, 마이크로부터 외부의 사운드 정보를 수집할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 시청 환경 정보는, 화면 밝기 정보, 시청 집중도 정보 중 적어도 하나를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 화질 처리를 수행하는 화질 처리부를 포함하며, 화질 처리부는, 가상 센서 장치로부터의 영상 정보, 및 센서 장치로부터의 이미지 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 입력 영상의 영상 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 조도에 따른 화질 설정 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 오디오 처리를 수행하는 오디오 처리부를 포함하며, 오디오 처리부는, 가상 센서 장치로부터의 오디오 정보, 및 센서 장치로부터의 사운드 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 입력 영상에 대응하는 오디오의 오디오 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 주변 소음에 따른 음량 설정 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 영상표시장치는, 음량 조절키, 화질 조절키, 채널 조절키를 구비하는 원격제어장치를 더 포함할 수 있다. 이에 따라, 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 화질 조절키에 의해 설정되는 밝기, 대비, 선명도, 채도 정보 중 적어도 하나에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
한편, 신호 처리부는, 센서 장치에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 인공 지능 처리부에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 센서 장치에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 인공 지능 처리부에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부는, 입력 영상 내의 오브젝트를 검출하는 오브젝트 검출부와, 오브젝트 인식을 위한 학습을 수행하는 오브젝트 인식 학습부와, 오브젝트 인식 학습부로부터의 정보와, 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 오브젝트 인식이 수행될 수 있게 된다.
한편, 신호 처리부는, 외부로부터 수신되는 오브젝트 인식 정보를 처리하는 오브젝트 정보 처리부를 더 포함할 수 있다. 이에 따라, 외부의 서버로부터의 정보에 기반한, 오브젝트 인식이 수행될 수 있게 된다.
한편, 오브젝트 인식부는, 오브젝트 인식 학습부로부터의 정보와, 검출된 오브젝트와, 외부로부터 수신되는 오브젝트 인식 정보에 기초하여, 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 오브젝트 인식이 수행될 수 있게 된다.
한편, 신호 처리부는, 입력 영상 내의 텍스트 영역을 추출하는 영역 추출부와, 추출된 텍스터 영역을 텍스트로 변환하는 텍스트 변환부와, 변환된 텍스트로부터 정보를 추출하는 정보 추출부와, 추출된 정보에 대한 장르를 분석하는 장르 분석부를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 텍스트 변환이 수행될 수 있게 된다.
도 1은 본 발명의 일 실시예에 따른 영상표시 시스템을 도시한 도면이다.
도 2는 도 1의 영상표시장치의 내부 블록도의 일예이다.
도 3은 도 2의 신호 처리부의 내부 블록도의 일예이다.
도 4a는 도 2의 원격제어장치의 제어 방법을 도시한 도면이다.
도 4b는 도 2의 원격제어장치의 내부 블록도이다.
도 5는 도 2의 디스플레이의 내부 블록도이다.
도 6a 내지 도 6b는 도 5의 유기발광패널의 설명에 참조되는 도면이다.
도 7은 본 발명과 관련된 신호 처리 장치의 내부 블록도의 일예이다.
도 8은 본 발명의 실시예에 따른 신호 처리 장치의 내부 블록도의 일예이다.
도 9는 본 발명의 실시예에 따른 신호 처리 장치의 내부 블록도의 다른 예이다.
도 10은 도 8 또는 도 9의 신호 처리 장치의 내부 블록도의 일예이다.
도 11a 내지 도 11b는 도 8 또는 도 9의 신호 처리 장치의 동작 설명에 참조되는 도면이다.
도 12는 본 발명의 실시예에 따른 영상표시장치의 내부 블록도의 일예이다.
도 13 내지 도 15c는 도 12의 동작 설명에 참조되는 도면이다.
도 16은 본 발명의 실시예에 따른 원격제어장치의 일예이다.
도 17은 본 발명의 실시예에 따른 영상표시장치의 동작 방법을 나타내는 순서도이다.
도 18 내지 도 20b는 도 17의 동작 방법의 설명에 참조되는 도면이다.
도 21은 본 발명의 다른 실시예에 따른 영상표시장치의 내부 블록도의 일예이다.
도 22는 본 발명의 다른 실시예에 따른 신호 처리 장치의 내부 블록도의 일예이다.
도 23은 도 22의 동작 설명에 참조되는 도면이다.
이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다.
이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함만이 고려되어 부여되는 것으로서, 그 자체로 특별히 중요한 의미 또는 역할을 부여하는 것은 아니다. 따라서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있다.
도 1은 본 발명의 일 실시예에 따른 영상표시 시스템을 도시한 도면이다.
도면을 참조하면, 본 발명의 일 실시예에 따른 영상표시 시스템(10)은, 디스플레이(180)를 구비하는 영상표시장치(100), 셋탑 박스(300), 및 서버(600)를 포함할 수 잇다.
본 발명의 일 실시예에 따른 영상표시장치(100)는, 셋탑 박스(300), 또는 서버(600)로부터 영상을 수신할 수 있다.
예를 들어, 영상표시장치(100)는, 셋탑 박스(300)로부터의 영상 신호를 HDMI 단자를 통해 수신할 수 있다.
다른 예로, 영상표시장치(100)는, 서버(600)로부터 영상 신호를 네트워크 단자를 통해 수신할 수 있다.
한편, 영상표시장치(100)는, 외부의 셋탑 박스(300) 또는 네트워크를 통해 수신되는 영상 신호의 원본 퀄리티를 연산하고, 연산된 원본 퀄리티에 따라, 영상 신호의 화질을 설정하고, 설정된 화질에 따라, 영상 신호의 화질 처리를 수행하는 화질 처리를 수행할 수 있다.
한편, 영상표시장치(100)는, 디스플레이(180)를 포함할 수 있다.
한편, 디스플레이(180)는 다양한 패널 중 어느 하나로 구현될 수 있다. 예를 들어, 디스플레이(180)는, 액정표시패널(LCD 패널), 유기발광패널(OLED 패널), 무기발광패널(LED 패널) 등 중 어느 하나일 수 있다.
본 발명에서는, 디스플레이(180)가 유기발광패널(OLED 패널)을 구비하는 것을 중심으로 기술한다.
한편, 유기발광패널(OLED 패널)은, 액정표시패널 보다 패널 응답 속도가 빠르며, 색재현 효과가 뛰어나며, 색재현성이 뛰어나다는 장점이 있다.
이에 따라, 디스플레이(180)가 유기발광패널을 구비하는 경우, 영상표시장치(100) 내의 신호 처리부(도 2의 170)는, 유기발광패널에 대응하는 화질 처리를 수행하는 것이 바람직하다.
한편, 도 1의 영상표시장치(100)는, TV, 모니터, 태블릿 PC, 이동 단말기 등이 가능하다.
도 2는 도 1의 영상표시장치의 내부 블록도의 일예이다.
도 2를 참조하면, 본 발명의 일실시예에 의한 영상표시장치(100)는, 영상 수신부(105), 외부장치 인터페이스부(130), 저장부(140), 사용자입력 인터페이스부(150), 센서 장치(도 12의 1220), 가상 AI 처리부(160), 신호 처리부(170), 디스플레이(180), 오디오 출력부(185)를 포함할 수 있다.
영상 수신부(105)는, 튜너부(110), 복조부(120), 네트워크 인터페이스부(130), 외부장치 인터페이스부(130)를 포함할 수 있다.
한편, 영상 수신부(105)는, 도면과 달리, 튜너부(110), 복조부(120)와, 외부장치 인터페이스부(130)만을 포함하는 것도 가능하다. 즉, 네트워크 인터페이스부(130)를 포함하지 않을 수도 있다.
튜너부(110)는, 안테나(미도시)를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기저장된 모든 채널에 해당하는 RF 방송 신호를 선택한다. 또한, 선택된 RF 방송 신호를 중간 주파수 신호 혹은 베이스 밴드 영상 또는 음성신호로 변환한다.
예를 들어, 선택된 RF 방송 신호가 디지털 방송 신호이면 디지털 IF 신호(DIF)로 변환하고, 아날로그 방송 신호이면 아날로그 베이스 밴드 영상 또는 음성 신호(CVBS/SIF)로 변환한다. 즉, 튜너부(110)는 디지털 방송 신호 또는 아날로그 방송 신호를 처리할 수 있다. 튜너부(110)에서 출력되는 아날로그 베이스 밴드 영상 또는 음성 신호(CVBS/SIF)는 신호 처리부(170)로 직접 입력될 수 있다.
한편, 튜너부(110)는, 복수 채널의 방송 신호를 수신하기 위해, 복수의 튜너를 구비하는 것이 가능하다. 또는, 복수 채널의 방송 신호를 동시에 수신하는 단일 튜너도 가능하다.
복조부(120)는 튜너부(110)에서 변환된 디지털 IF 신호(DIF)를 수신하여 복조 동작을 수행한다.
복조부(120)는 복조 및 채널 복호화를 수행한 후 스트림 신호(TS)를 출력할 수 있다. 이때 스트림 신호는 영상 신호, 음성 신호 또는 데이터 신호가 다중화된 신호일 수 있다.
복조부(120)에서 출력한 스트림 신호는 신호 처리부(170)로 입력될 수 있다. 신호 처리부(170)는 역다중화, 영상/음성 신호 처리 등을 수행한 후, 디스플레이(180)에 영상을 출력하고, 오디오 출력부(185)로 음성을 출력한다.
외부장치 인터페이스부(130)는, 접속된 외부 장치(미도시), 예를 들어, 셋탑 박스(50)와 데이터를 송신 또는 수신할 수 있다. 이를 위해, 외부장치 인터페이스부(130)는, A/V 입출력부(미도시)를 포함할 수 있다.
외부장치 인터페이스부(130)는, DVD(Digital Versatile Disk), 블루레이(Blu ray), 게임기기, 카메라, 캠코더, 컴퓨터(노트북), 셋탑 박스 등과 같은 외부 장치와 유/무선으로 접속될 수 있으며, 외부 장치와 입력/출력 동작을 수행할 수도 있다.
A/V 입출력부는, 외부 장치의 영상 및 음성 신호를 입력받을 수 있다. 한편, 무선 통신부(미도시)는, 다른 전자기기와 근거리 무선 통신을 수행할 수 있다.
이러한 무선 통신부(미도시)를 통해, 외부장치 인터페이스부(130)는, 인접하는 이동 단말기(600)와 데이터를 교환할 수 있다. 특히, 외부장치 인터페이스부(130)는, 미러링 모드에서, 이동 단말기(600)로부터 디바이스 정보, 실행되는 애플리케이션 정보, 애플리케이션 이미지 등을 수신할 수 있다.
네트워크 인터페이스부(135)는, 영상표시장치(100)를 인터넷망을 포함하는 유/무선 네트워크와 연결하기 위한 인터페이스를 제공한다. 예를 들어, 네트워크 인터페이스부(135)는, 네트워크를 통해, 인터넷 또는 컨텐츠 제공자 또는 네트워크 운영자가 제공하는 컨텐츠 또는 데이터들을 수신할 수 있다.
한편, 네트워크 인터페이스부(135)는, 무선 통신부(미도시)를 포함할 수 있다.
저장부(140)는, 신호 처리부(170) 내의 각 신호 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 신호 처리된 영상, 음성 또는 데이터 신호를 저장할 수도 있다.
또한, 저장부(140)는 외부장치 인터페이스부(130)로 입력되는 영상, 음성 또는 데이터 신호의 임시 저장을 위한 기능을 수행할 수도 있다. 또한, 저장부(140)는, 채널 맵 등의 채널 기억 기능을 통하여 소정 방송 채널에 관한 정보를 저장할 수 있다.
도 2의 저장부(140)가 신호 처리부(170)와 별도로 구비된 실시예를 도시하고 있으나, 본 발명의 범위는 이에 한정되지 않는다. 저장부(140)는 신호 처리부(170) 내에 포함될 수 있다.
사용자입력 인터페이스부(150)는, 사용자가 입력한 신호를 신호 처리부(170)로 전달하거나, 신호 처리부(170)로부터의 신호를 사용자에게 전달한다.
예를 들어, 원격제어장치(200)로부터 전원 온/오프, 채널 선택, 화면 설정 등의 사용자 입력 신호를 송신/수신하거나, 전원키, 채널키, 볼륨키, 설정치 등의 로컬키(미도시)에서 입력되는 사용자 입력 신호를 신호 처리부(170)에 전달하거나, 사용자의 제스처를 센싱하는 센서 장치(도 12의 1220)로부터 입력되는 사용자 입력 신호를 신호 처리부(170)에 전달하거나, 신호 처리부(170)로부터의 신호를 센서 장치(도 12의 1220)로 송신할 수 있다.
가상 AI 처리부(160)는, 센서 장치(도 12의 1220) 등에서 감지된 입력 신호에 기초하여, 영상표시장치(100)의 사용자 정보, 또는 시청 환경 정보 등을 연산하고, 사용자 정보, 시청 환경 정보 등에 기초하여, 최적의 영상 시청, 오디오 출력 등이 구현되도록 제어할 수 있다.
한편, 가상 AI 처리부(160)는, 수신되는 영상 신호의 해상도 및 노이즈 수준에 적합한 화질 처리를 수행하도록 제어할 수 있다.
예를 들어, 가상 AI 처리부(160)는, 심층 신경망(Deep Neural Network)을 이용한 학습을 통해, 입력 영상 해상도 등이 변경되더라도, 수신되는 영상 신호의 원본 퀄리티 연산을 정확하게 수행하도록 제어할 수 있다.
다른 예로, 가상 AI 처리부(160)는, 심층 신경망에 대한 파라미터를 업데이트하여, 학습 기반하에 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있다.
또 다른 예로, 가상 AI 처리부(160)는, 영상 타입에 관한 정보 연산의 정확성을 향상시키며, 그에 대응하는 화질 처리를 수행하도록 제어할 수 있다.
또 다른 예로, 가상 AI 처리부(160)는, 인공지능 기반하에 사용자에게 적합한 컨텐츠 또는 프로그램을 추천할 수 있다.
신호 처리부(170)는, 튜너부(110) 또는 복조부(120) 또는 네트워크 인터페이스부(135) 또는 외부장치 인터페이스부(130)를 통하여, 입력되는 스트림을 역다중화하거나, 역다중화된 신호들을 처리하여, 영상 또는 음성 출력을 위한 신호를 생성 및 출력할 수 있다.
예를 들어, 신호 처리부(170)는, 영상 수신부(105)에서 수신된 방송 신호 또는 HDMI 신호 등을 수신하고, 수신되는 방송 신호 또는 HDMI 신호에 기초한 신호 처리를 수행하여, 신호 처리된 영상 신호를 출력할 수 있다.
신호 처리부(170)에서 영상 처리된 영상 신호는 디스플레이(180)로 입력되어, 해당 영상 신호에 대응하는 영상으로 표시될 수 있다. 또한, 신호 처리부(170)에서 영상 처리된 영상 신호는 외부장치 인터페이스부(130)를 통하여 외부 출력장치로 입력될 수 있다.
신호 처리부(170)에서 처리된 음성 신호는 오디오 출력부(185)로 음향 출력될 수 있다. 또한, 신호 처리부(170)에서 처리된 음성 신호는 외부장치 인터페이스부(130)를 통하여 외부 출력장치로 입력될 수 있다.
도 2에는 도시되어 있지 않으나, 신호 처리부(170)는 역다중화부, 영상처리부 등을 포함할 수 있다. 즉, 신호 처리부(170)는, 다양한 신호 처리를 수행할 수 있으며, 이에 따라, 시스템 온 칩(System On Chip,SOC)의 형태로 구현될 수 있다. 이에 대해서는 도 3을 참조하여 후술한다.
그 외, 신호 처리부(170)는, 영상표시장치(100) 내의 전반적인 동작을 제어할 수 있다. 예를 들어, 신호 처리부(170)는 튜너부(110)를 제어하여, 사용자가 선택한 채널 또는 기저장된 채널에 해당하는 RF 방송을 선택(Tuning)하도록 제어할 수 있다.
또한, 신호 처리부(170)는 사용자입력 인터페이스부(150)를 통하여 입력된 사용자 명령 또는 내부 프로그램에 의하여 영상표시장치(100)를 제어할 수 있다.
한편, 신호 처리부(170)는, 영상을 표시하도록 디스플레이(180)를 제어할 수 있다. 이때, 디스플레이(180)에 표시되는 영상은, 정지 영상 또는 동영상일 수 있으며, 2D 영상 또는 3D 영상일 수 있다.
한편, 신호 처리부(170)는 디스플레이(180)에 표시되는 영상 내에, 소정 오브젝트가 표시되도록 할 수 있다. 예를 들어, 오브젝트는, 접속된 웹 화면(신문, 잡지 등), EPG(Electronic Program Guide), 다양한 메뉴, 위젯, 아이콘, 정지 영상, 동영상, 텍스트 중 적어도 하나일 수 있다.
한편, 신호 처리부(170)는, 촬영부(미도시)로부터 촬영된 영상에 기초하여, 사용자의 위치를 인식할 수 있다. 예를 들어, 사용자와 영상표시장치(100) 간의 거리(z축 좌표)를 파악할 수 있다. 그 외, 사용자 위치에 대응하는 디스플레이(180) 내의 x축 좌표, 및 y축 좌표를 파악할 수 있다.
디스플레이(180)는, 신호 처리부(170)에서 처리된 영상 신호, 데이터 신호, OSD 신호, 제어 신호 또는 외부장치 인터페이스부(130)에서 수신되는 영상 신호, 데이터 신호, 제어 신호 등을 변환하여 구동 신호를 생성한다.
한편, 디스플레이(180)는, 터치 스크린으로 구성되어 출력 장치 이외에 입력 장치로 사용되는 것도 가능하다.
오디오 출력부(185)는, 신호 처리부(170)에서 음성 처리된 신호를 입력 받아 음성으로 출력한다.
촬영부(미도시)는 사용자를 촬영한다. 촬영부(미도시)는 1 개의 카메라로 구현되는 것이 가능하나, 이에 한정되지 않으며, 복수 개의 카메라로 구현되는 것도 가능하다. 촬영부(미도시)에서 촬영된 영상 정보는 신호 처리부(170)에 입력될 수 있다.
신호 처리부(170)는, 촬영부(미도시)로부터 촬영된 영상, 또는 센서 장치(도 12의 1220)로부터의 감지된 신호 각각 또는 그 조합에 기초하여 사용자의 제스처를 감지할 수 있다.
전원 공급부(190)는, 영상표시장치(100) 전반에 걸쳐 해당 전원을 공급한다. 특히, 전원 공급부(190)는, 시스템 온 칩(System On Chip,SOC)의 형태로 구현될 수 있는 신호 처리부(170)와, 영상 표시를 위한 디스플레이(180), 및 오디오 출력을 위한 오디오 출력부(185) 등에 전원을 공급할 수 있다.
구체적으로, 전원 공급부(190)는, 교류 전원을 직류 전원으로 변환하는 컨버터와, 직류 전원의 레벨을 변환하는 dc/dc 컨버터를 구비할 수 있다.
원격제어장치(200)는, 사용자 입력을 사용자입력 인터페이스부(150)로 송신한다. 이를 위해, 원격제어장치(200)는, 블루투스(Bluetooth), RF(Radio Frequency) 통신, 적외선(IR) 통신, UWB(Ultra Wideband), 지그비(ZigBee) 방식 등을 사용할 수 있다. 또한, 원격제어장치(200)는, 사용자입력 인터페이스부(150)에서 출력한 영상, 음성 또는 데이터 신호 등을 수신하여, 이를 원격제어장치(200)에서 표시하거나 음성 출력할 수 있다.
한편, 상술한 영상표시장치(100)는, 고정형 또는 이동형 디지털 방송 수신 가능한 디지털 방송 수신기일 수 있다.
한편, 도 2에 도시된 영상표시장치(100)의 블록도는 본 발명의 일실시예를 위한 블록도이다. 블록도의 각 구성요소는 실제 구현되는 영상표시장치(100)의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나, 혹은 하나의 구성요소가 2 이상의 구성요소로 세분되어 구성될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 발명의 실시예를 설명하기 위한 것이며, 그 구체적인 동작이나 장치는 본 발명의 권리범위를 제한하지 아니한다.
도 3은 도 2의 신호 처리부의 내부 블록도의 일예이다.
도면을 참조하여 설명하면, 본 발명의 일실시예에 의한 신호 처리부(170)는, 역다중화부(310), 영상 처리부(320), 프로세서(330), 오디오 처리부(370)를 포함할 수 있다. 그 외 , 데이터 처리부(미도시)를 더 포함할 수 있다.
역다중화부(310)는, 입력되는 스트림을 역다중화한다. 예를 들어, MPEG-2 TS가 입력되는 경우 이를 역다중화하여, 각각 영상, 음성 및 데이터 신호로 분리할 수 있다. 여기서, 역다중화부(310)에 입력되는 스트림 신호는, 튜너부(110) 또는 복조부(120) 또는 외부장치 인터페이스부(130)에서 출력되는 스트림 신호일 수 있다.
영상 처리부(320)는, 입력되는 영상에 대한 신호 처리를 수행할 수 있다. 예를 들어, 영상 처리부(320)는, 역다중화부(310)로부터 역다중화된 영상 신호의 영상 처리를 수행할 수 있다.
이를 위해, 영상 처리부(320)는, 영상 디코더(325), 스케일러(335), 화질 처리부(635), 영상 인코더(미도시), OSD 처리부(340), 프레임 레이트 변환부(350), 및 포맷터(360) 등을 포함할 수 있다.
영상 디코더(325)는, 역다중화된 영상신호를 복호화하며, 스케일러(335)는, 복호화된 영상신호의 해상도를 디스플레이(180)에서 출력 가능하도록 스케일링(scaling)을 수행한다.
영상 디코더(325)는 다양한 규격의 디코더를 구비하는 것이 가능하다. 예를 들어, MPEG-2, H,264 디코더, 색차 영상(color image) 및 깊이 영상(depth image)에 대한 3D 영상 디코더, 복수 시점 영상에 대한 디코더 등을 구비할 수 있다.
스케일러(335)는, 영상 디코더(325) 등에서 영상 복호 완료된, 입력 영상 신호를 스케일링할 수 있다.
예를 들어, 스케일러(335)는, 입력 영상 신호의 크기 또는 해상도가 작은 경우, 업 스케일링하고, 입력 영상 신호의 크기 또는 해상도가 큰 경우, 다운 스케일링할 수 있다.
화질 처리부(635)는, 영상 디코더(325) 등에서 영상 복호 완료된, 입력 영상 신호에 대한 화질 처리를 수행할 수 있다.
예를 들어, 화질 처리부(635)는, 입력 영상 신호의 노이즈 제거 처리를 하거나, 입력 영상 신호의 도계조의 해상를 확장하거나, 영상 해상도 향상을 수행하거나, 하이 다이나믹 레인지(HDR) 기반의 신호 처리를 하거나, 프레임 레이트를 가변하거나, 패널 특성, 특히 유기발광패널에 대응하는 화질 처리 등을 할 수 있다.
OSD 처리부(340)는, 사용자 입력에 따라 또는 자체적으로 OSD 신호를 생성한다. 예를 들어, 사용자 입력 신호에 기초하여, 디스플레이(180)의 화면에 각종 정보를 그래픽(Graphic)이나 텍스트(Text)로 표시하기 위한 신호를 생성할 수 있다. 생성되는 OSD 신호는, 영상표시장치(100)의 사용자 인터페이스 화면, 다양한 메뉴 화면, 위젯, 아이콘 등의 다양한 데이터를 포함할 수 있다. 또한, 생성되는 OSD 신호는, 2D 오브젝트 또는 3D 오브젝트를 포함할 수 있다.
또한, OSD 처리부(340)는, 원격제어장치(200)로부터 입력되는 포인팅 신호에 기초하여, 디스플레이에 표시 가능한, 포인터를 생성할 수 있다. 특히, 이러한 포인터는, 포인팅 신호 처리부에서 생성될 수 있으며, OSD 처리부(240)는, 이러한 포인팅 신호 처리부(미도시)를 포함할 수 있다. 물론, 포인팅 신호 처리부(미도시)가 OSD 처리부(240) 내에 구비되지 않고 별도로 마련되는 것도 가능하다.
프레임 레이트 변환부(Frame Rate Conveter, FRC)(350)는, 입력되는 영상의 프레임 레이트를 변환할 수 있다. 한편, 프레임 레이트 변환부(350)는, 별도의 프레임 레이트 변환 없이, 그대로 출력하는 것도 가능하다.
한편, 포맷터(Formatter)(360)는, 입력되는 영상 신호의 포맷을, 디스플레이에 표시하기 위한 영상 신호로 변화시켜 출력할 수 있다.
특히, 포맷터(Formatter)(360)는, 디스플레이 패널에 대응하도록 영상 신호의 포맷을 변화시킬 수 있다.
한편, 포맷터(360)는, 영상 신호의 포맷을 변경할 수도 있다. 예를 들어, 3D 영상 신호의 포맷을, 사이드 바이 사이드(Side by Side) 포맷, 탑 다운(Top / Down) 포맷, 프레임 시퀀셜(Frame Sequential) 포맷, 인터레이스 (Interlaced) 포맷, 체커 박스(Checker Box) 포맷 등의 다양한 3D 포맷 중 어느 하나의 포맷으로 변경할 수 있다.
프로세서(330)는, 영상표시장치(100) 내 또는 신호 처리부(170) 내의 전반적인 동작을 제어할 수 있다.
예를 들어, 프로세서(330)는 튜너(110)를 제어하여, 사용자가 선택한 채널 또는 기저장된 채널에 해당하는 RF 방송을 선택(Tuning)하도록 제어할 수 있다.
또한, 프로세서(330)는, 사용자입력 인터페이스부(150)를 통하여 입력된 사용자 명령 또는 내부 프로그램에 의하여 영상표시장치(100)를 제어할 수 있다.
또한, 프로세서(330)는, 네트워크 인터페이스부(135) 또는 외부장치 인터페이스부(130)와의 데이터 전송 제어를 수행할 수 있다.
또한, 프로세서(330)는, 신호 처리부(170) 내의 역다중화부(310), 영상 처리부(320) 등의 동작을 제어할 수 있다.
한편, 신호 처리부(170) 내의 오디오 처리부(370)는, 역다중화된 음성 신호의 음성 처리를 수행할 수 있다. 이를 위해 오디오 처리부(370)는 다양한 디코더를 구비할 수 있다.
또한, 신호 처리부(170) 내의 오디오 처리부(370)는, 베이스(Base), 트레블(Treble), 음량 조절 등을 처리할 수 있다.
신호 처리부(170) 내의 데이터 처리부(미도시)는, 역다중화된 데이터 신호의 데이터 처리를 수행할 수 있다. 예를 들어, 역다중화된 데이터 신호가 부호화된 데이터 신호인 경우, 이를 복호화할 수 있다. 부호화된 데이터 신호는, 각 채널에서 방영되는 방송프로그램의 시작시간, 종료시간 등의 방송정보를 포함하는 전자 프로그램 가이드 정보(Electronic Program Guide) 정보일 수 있다.
한편, 도 3에 도시된 신호 처리부(170)의 블록도는 본 발명의 일실시예를 위한 블록도이다. 블록도의 각 구성요소는 실제 구현되는 신호 처리부(170)의 사양에 따라 통합, 추가, 또는 생략될 수 있다.
특히, 프레임 레이트 변환부(350), 및 포맷터(360)는 영상 처리부(320) 외에 별도로 마련될 수도 있다.
도 4a는 도 2의 원격제어장치의 제어 방법을 도시한 도면이다.
도 4a의 (a)에 도시된 바와 같이, 디스플레이(180)에 원격제어장치(200)에 대응하는 포인터(205)가 표시되는 것을 예시한다.
사용자는 원격제어장치(200)를 상하, 좌우(도 4a의 (b)), 앞뒤(도 4a의 (c))로 움직이거나 회전할 수 있다. 영상표시장치의 디스플레이(180)에 표시된 포인터(205)는 원격제어장치(200)의 움직임에 대응한다. 이러한 원격제어장치(200)는, 도면과 같이, 3D 공간 상의 움직임에 따라 해당 포인터(205)가 이동되어 표시되므로, 공간 원격제어장치(200) 또는 3D 포인팅 장치라 명명할 수 있다.
도 4a의 (b)는 사용자가 원격제어장치(200)를 왼쪽으로 이동하면, 영상표시장치의 디스플레이(180)에 표시된 포인터(205)도 이에 대응하여 왼쪽으로 이동하는 것을 예시한다.
원격제어장치(200)의 센서를 통하여 감지된 원격제어장치(200)의 움직임에 관한 정보는 영상표시장치로 전송된다. 영상표시장치는 원격제어장치(200)의 움직임에 관한 정보로부터 포인터(205)의 좌표를 산출할 수 있다. 영상표시장치는 산출한 좌표에 대응하도록 포인터(205)를 표시할 수 있다.
도 4a의 (c)는, 원격제어장치(200) 내의 특정 버튼을 누른 상태에서, 사용자가 원격제어장치(200)를 디스플레이(180)에서 멀어지도록 이동하는 경우를 예시한다. 이에 의해, 포인터(205)에 대응하는 디스플레이(180) 내의 선택 영역이 줌인되어 확대 표시될 수 있다. 이와 반대로, 사용자가 원격제어장치(200)를 디스플레이(180)에 가까워지도록 이동하는 경우, 포인터(205)에 대응하는 디스플레이(180) 내의 선택 영역이 줌아웃되어 축소 표시될 수 있다. 한편, 원격제어장치(200)가 디스플레이(180)에서 멀어지는 경우, 선택 영역이 줌아웃되고, 원격제어장치(200)가 디스플레이(180)에 가까워지는 경우, 선택 영역이 줌인될 수도 있다.
한편, 원격제어장치(200) 내의 특정 버튼을 누른 상태에서는 상하, 좌우 이동의 인식이 배제될 수 있다. 즉, 원격제어장치(200)가 디스플레이(180)에서 멀어지거나 접근하도록 이동하는 경우, 상,하,좌,우 이동은 인식되지 않고, 앞뒤 이동만 인식되도록 할 수 있다. 원격제어장치(200) 내의 특정 버튼을 누르지 않은 상태에서는, 원격제어장치(200)의 상,하, 좌,우 이동에 따라 포인터(205)만 이동하게 된다.
한편, 포인터(205)의 이동속도나 이동방향은 원격제어장치(200)의 이동속도나 이동방향에 대응할 수 있다.
도 4b는 도 2의 원격제어장치의 내부 블록도이다.
도면을 참조하여 설명하면, 원격제어장치(200)는 무선통신부(425), 사용자 입력부(435), 센서부(440), 출력부(450), 전원공급부(460), 저장부(470), 제어부(480)를 포함할 수 있다.
무선통신부(425)는 전술하여 설명한 본 발명의 실시예들에 따른 영상표시장치 중 임의의 어느 하나와 신호를 송수신한다. 본 발명의 실시예들에 따른 영상표시장치들 중에서, 하나의 영상표시장치(100)를 일예로 설명하도록 하겠다.
본 실시예에서, 원격제어장치(200)는 RF 통신규격에 따라 영상표시장치(100)와 신호를 송수신할 수 있는 RF 모듈(421)을 구비할 수 있다. 또한 원격제어장치(200)는 IR 통신규격에 따라 영상표시장치(100)와 신호를 송수신할 수 있는 IR 모듈(423)을 구비할 수 있다.
본 실시예에서, 원격제어장치(200)는 영상표시장치(100)로 원격제어장치(200)의 움직임 등에 관한 정보가 담긴 신호를 RF 모듈(421)을 통하여 전송한다.
또한, 원격제어장치(200)는 영상표시장치(100)가 전송한 신호를 RF 모듈(421)을 통하여 수신할 수 있다. 또한, 원격제어장치(200)는 필요에 따라 IR 모듈(423)을 통하여 영상표시장치(100)로 전원 온/오프, 채널 변경, 볼륨 변경 등에 관한 명령을 전송할 수 있다.
사용자 입력부(435)는 키패드, 버튼, 터치 패드, 또는 터치 스크린 등으로 구성될 수 있다. 사용자는 사용자 입력부(435)를 조작하여 원격제어장치(200)로 영상표시장치(100)와 관련된 명령을 입력할 수 있다. 사용자 입력부(435)가 하드키 버튼을 구비할 경우 사용자는 하드키 버튼의 푸쉬 동작을 통하여 원격제어장치(200)로 영상표시장치(100)와 관련된 명령을 입력할 수 있다. 사용자 입력부(435)가 터치스크린을 구비할 경우 사용자는 터치스크린의 소프트키를 터치하여 원격제어장치(200)로 영상표시장치(100)와 관련된 명령을 입력할 수 있다. 또한, 사용자 입력부(435)는 스크롤 키나, 조그 키 등 사용자가 조작할 수 있는 다양한 종류의 입력수단을 구비할 수 있으며 본 실시예는 본 발명의 권리범위를 제한하지 아니한다.
센서부(440)는 자이로 센서(441) 또는 가속도 센서(443)를 구비할 수 있다. 자이로 센서(441)는 원격제어장치(200)의 움직임에 관한 정보를 센싱할 수 있다.
일예로, 자이로 센서(441)는 원격제어장치(200)의 동작에 관한 정보를 x,y,z 축을 기준으로 센싱할 수 있다. 가속도 센서(443)는 원격제어장치(200)의 이동속도 등에 관한 정보를 센싱할 수 있다. 한편, 거리측정센서를 더 구비할 수 있으며, 이에 의해, 디스플레이(180)와의 거리를 센싱할 수 있다.
출력부(450)는 사용자 입력부(435)의 조작에 대응하거나 영상표시장치(100)에서 전송한 신호에 대응하는 영상 또는 음성 신호를 출력할 수 있다. 출력부(450)를 통하여 사용자는 사용자 입력부(435)의 조작 여부 또는 영상표시장치(100)의 제어 여부를 인지할 수 있다.
일예로, 출력부(450)는 사용자 입력부(435)가 조작되거나 무선 통신부(425)을 통하여 영상표시장치(100)와 신호가 송수신되면 점등되는 LED 모듈(451), 진동을 발생하는 진동 모듈(453), 음향을 출력하는 음향 출력 모듈(455), 또는 영상을 출력하는 디스플레이 모듈(457)을 구비할 수 있다.
전원공급부(460)는 원격제어장치(200)로 전원을 공급한다. 전원공급부(460)는 원격제어장치(200)이 소정 시간 동안 움직이지 않은 경우 전원 공급을 중단함으로서 전원 낭비를 줄일 수 있다. 전원공급부(460)는 원격제어장치(200)에 구비된 소정 키가 조작된 경우에 전원 공급을 재개할 수 있다.
저장부(470)는 원격제어장치(200)의 제어 또는 동작에 필요한 여러 종류의 프로그램, 애플리케이션 데이터 등이 저장될 수 있다. 만일 원격제어장치(200)가 영상표시장치(100)와 RF 모듈(421)을 통하여 무선으로 신호를 송수신할 경우 원격제어장치(200)와 영상표시장치(100)는 소정 주파수 대역을 통하여 신호를 송수신한다. 원격제어장치(200)의 제어부(480)는 원격제어장치(200)와 페어링된 영상표시장치(100)와 신호를 무선으로 송수신할 수 있는 주파수 대역 등에 관한 정보를 저장부(470)에 저장하고 참조할 수 있다.
제어부(480)는 원격제어장치(200)의 제어에 관련된 제반사항을 제어한다. 제어부(480)는 사용자 입력부(435)의 소정 키 조작에 대응하는 신호 또는 센서부(440)에서 센싱한 원격제어장치(200)의 움직임에 대응하는 신호를 무선 통신부(425)를 통하여 영상표시장치(100)로 전송할 수 있다.
영상표시장치(100)의 사용자 입력 인터페이스부(150)는, 원격제어장치(200)와 무선으로 신호를 송수신할 수 있는 무선통신부(151)와, 원격제어장치(200)의 동작에 대응하는 포인터의 좌표값을 산출할 수 있는 좌표값 산출부(415)를 구비할 수 있다.
사용자 입력 인터페이스부(150)는, RF 모듈(412)을 통하여 원격제어장치(200)와 무선으로 신호를 송수신할 수 있다. 또한 IR 모듈(413)을 통하여 원격제어장치(200)이 IR 통신 규격에 따라 전송한 신호를 수신할 수 있다.
좌표값 산출부(415)는 무선통신부(151)를 통하여 수신된 원격제어장치(200)의 동작에 대응하는 신호로부터 손떨림이나 오차를 수정하여 디스플레이(170)에 표시할 포인터(205)의 좌표값(x,y)을 산출할 수 있다.
사용자 입력 인터페이스부(150)를 통하여 영상표시장치(100)로 입력된 원격제어장치(200) 전송 신호는 영상표시장치(100)의 신호 처리부(170)로 전송된다. 신호 처리부(170)는 원격제어장치(200)에서 전송한 신호로부터 원격제어장치(200)의 동작 및 키 조작에 관한 정보를 판별하고, 그에 대응하여 영상표시장치(100)를 제어할 수 있다.
또 다른 예로, 원격제어장치(200)는, 그 동작에 대응하는 포인터 좌표값을 산출하여 영상표시장치(100)의 사용자 입력 인터페이스부(150)로 출력할 수 있다. 이 경우, 영상표시장치(100)의 사용자 입력 인터페이스부(150)는 별도의 손떨림이나 오차 보정 과정 없이 수신된 포인터 좌표값에 관한 정보를 신호 처리부(170)로 전송할 수 있다.
또한, 다른 예로, 좌표값 산출부(415)가, 도면과 달리 사용자 입력 인터페이스부(150)가 아닌, 신호 처리부(170) 내부에 구비되는 것도 가능하다.
도 5는 도 2의 디스플레이의 내부 블록도이다.
도면을 참조하면, 유기발광패널 기반의 디스플레이(180)는, 유기발광패널(210), 제1 인터페이스부(230), 제2 인터페이스부(231), 타이밍 컨트롤러(232), 게이트 구동부(234), 데이터 구동부(236), 메모리(240), 프로세서(270), 전원 공급부(290), 전류 검출부(510) 등을 포함할 수 있다.
디스플레이(180)는, 영상 신호(Vd)와, 제1 직류 전원(V1) 및 제2 직류 전원(V2)을 수신하고, 영상 신호(Vd)에 기초하여, 소정 영상을 표시할 수 있다.
한편, 디스플레이(180) 내의 제1 인터페이스부(230)는, 신호 처리부(170)로부터 영상 신호(Vd)와, 제1 직류 전원(V1)을 수신할 수 있다.
여기서, 제1 직류 전원(V1)은, 디스플레이(180) 내의 전원 공급부(290), 및 타이밍 컨트롤러(232)의 동작을 위해 사용될 수 있다.
다음, 제2 인터페이스부(231)는, 외부의 전원 공급부(190)로부터 제2 직류 전원(V2)을 수신할 수 있다. 한편, 제2 직류 전원(V2)은, 디스플레이(180) 내의 데이터 구동부(236)에 입력될 수 있다.
타이밍 컨트롤러(232)는, 영상 신호(Vd)에 기초하여, 데이터 구동 신호(Sda) 및 게이트 구동 신호(Sga)를 출력할 수 있다.
예를 들어, 제1 인터페이스부(230)가 입력되는 영상 신호(Vd)를 변환하여 변환된 영상 신호(va1)를 출력하는 경우, 타이밍 컨트롤러(232)는, 변환된 영상 신호(va1)에 기초하여, 데이터 구동 신호(Sda) 및 게이트 구동 신호(Sga)를 출력할 수 있다.
타이밍 컨트롤러(timing controller)(232)는, 신호 처리부(170)로부터의 비디오 신호(Vd) 외에, 제어 신호, 수직동기신호(Vsync) 등을 더 수신할 수 있다.
그리고, 타이밍 컨트롤러(timing controller)(232)는, 비디오 신호(Vd) 외에, 제어 신호, 수직동기신호(Vsync) 등에 기초하여, 게이트 구동부(234)의 동작을 위한 게이트 구동 신호(Sga), 데이터 구동부(236)의 동작을 위한 데이터 구동 신호(Sda)를 출력할 수 있다.
이때의 데이터 구동 신호(Sda)는, 패널(210)이 RGBW의 서브픽셀을 구비하는 경우, RGBW 서브픽셀 구동용 데이터 구동 신호일 수 있다.
한편, 타이밍 컨트롤러(232)는, 게이트 구동부(234)에 제어 신호(Cs)를 더 출력할 수 있다.
게이트 구동부(234)와 데이터 구동부(236)는, 타이밍 컨트롤러(232)로부터의 게이트 구동 신호(Sga), 데이터 구동 신호(Sda)에 따라, 각각 게이트 라인(GL) 및 데이터 라인(DL)을 통해, 주사 신호 및 영상 신호를 유기발광패널(210)에 공급한다. 이에 따라, 유기발광패널(210)은 소정 영상을 표시하게 된다.
한편, 유기발광패널(210)은, 유기 발광층을 포함할 수 있으며, 영상을 표시하기 위해, 유기 발광층에 대응하는 각 화소에, 다수개의 게이트 라인(GL) 및 데이터 라인(DL)이 매트릭스 형태로 교차하여 배치될 수 있다.
한편, 데이터 구동부(236)는, 제2 인터페이스부(231)로부터의 제2 직류 전원(V2)에 기초하여, 유기발광패널(210)에 데이터 신호를 출력할 수 있다.
전원 공급부(290)는, 각종 전원을, 게이트 구동부(234)와 데이터 구동부(236), 타이밍 컨트롤러(232) 등에 공급할 수 있다.
전류 검출부(510)는, 유기발광패널(210)의 서브픽셀에 흐르는 전류를 검출할 수 있다. 검출되는 전류는, 누적 전류 연산을 위해, 프로세서(270) 등에 입력될 수 있다.
프로세서(270)는, 디스플레이(180) 내의 각종 제어를 수행할 수 있다. 예를 들어, 게이트 구동부(234)와 데이터 구동부(236), 타이밍 컨트롤러(232) 등을 제어할 수 있다.
한편, 프로세서(270)는, 전류 검출부(510)로부터, 유기발광패널(210)의 서브픽셀에 흐르는 전류 정보를 수신할 수 있다.
그리고, 프로세서(270)는, 유기발광패널(210)의 서브픽셀에 흐르는 전류 정보에 기초하여, 각 유기발광패널(210)의 서브픽셀의 누적 전류를 연산할 수 있다. 연산되는 누적 전류는, 메모리(240)에 저장될 수 있다.
한편, 프로세서(270)는, 각 유기발광패널(210)의 서브픽셀의 누적 전류가, 허용치 이상인 경우, 번인(burn in)으로 판단할 수 있다.
예를 들어, 프로세서(270)는, 각 유기발광패널(210)의 서브픽셀의 누적 전류가, 300000 A 이상인 경우, 번인된 서브픽셀로 판단할 수 있다.
한편, 프로세서(270)는, 각 유기발광패널(210)의 서브픽셀 중 일부 서브픽셀의 누적 전류가, 허용치에 근접하는 경우, 해당 서브픽셀을, 번인이 예측되는 서브픽셀로 판단할 수 있다.
한편, 프로세서(270)는, 전류 검출부(510)에서 검출된 전류에 기초하여, 가장 누적 전류가 큰 서브픽셀을, 번인 예측 서브픽셀로 판단할 수 있다.
도 6a 내지 도 6b는 도 5의 유기발광패널의 설명에 참조되는 도면이다.
먼저, 도 6a는, 유기발광패널(210) 내의 픽셀(Pixel)을 도시하는 도면이다.
도면을 참조하면, 유기발광패널(210)은, 복수의 스캔 라인(Scan 1 ~ Scan n)과, 이에 교차하는 복수의 데이터 라인(R1,G1,B1,W1 ~ Rm,Gm,Bm,Wm)을 구비할 수 있다.
한편, 유기발광패널(210) 내의 스캔 라인과, 데이터 라인의 교차 영역에, 픽셀(subpixel)이 정의된다. 도면에서는, RGBW의 서브픽셀(SR1,SG1,SB1,SW1)을 구비하는 픽셀(Pixel)을 도시한다.
도 6b는, 도 6a의 유기발광패널의 픽셀(Pixel) 내의 어느 하나의 서브픽셀(sub pixel)의 회로를 예시한다.
도면을 참조하면, 유기발광 서브픽셀(sub pixell) 회로(CRTm)는, 능동형으로서, 스캔 스위칭 소자(SW1), 저장 커패시터(Cst), 구동 스위칭 소자(SW2), 유기발광층(OLED)을 구비할 수 있다.
스캔 스위칭 소자(SW1)는, 게이트 단자에 스캔 라인(Scan line)이 접속되어, 입력되는 스캔 신호(Vdscan)에 따라 턴 온하게 된다. 턴 온되는 경우, 입력되는 데이터 신호(Vdata)를 구동 스위칭 소자(SW2)의 게이트 단자 또는 저장 커패시터(Cst)의 일단으로 전달하게 된다.
저장 커패시터(Cst)는, 구동 스위칭 소자(SW2)의 게이트 단자와 소스 단자 사이에 형성되며, 저장 커패시터(Cst)의 일단에 전달되는 데이터 신호 레벨과, 저장 커패시터(Cst)의 타단에 전달되는 직류 전원(VDD) 레벨의 소정 차이를 저장한다.
예를 들어, 데이터 신호가, PAM(Pluse Amplitude Modulation) 방식에 따라 서로 다른 레벨을 갖는 경우, 데이터 신호(Vdata)의 레벨 차이에 따라, 저장 커패시터(Cst)에 저장되는 전원 레벨이 달라지게 된다.
다른 예로, 데이터 신호가 PWM(Pluse Width Modulation) 방식에 따라 서로 다른 펄스폭을 갖는 경우, 데이터 신호(Vdata)의 펄스폭 차이에 따라, 저장 커패시터(Cst)에 저장되는 전원 레벨이 달라지게 된다.
구동 스위칭 소자(SW2)는, 저장 커패시터(Cst)에 저장된 전원 레벨에 따라 턴 온된다. 구동 스위칭 소자(SW2)가 턴 온하는 경우, 저장된 전원 레벨에 비례하는, 구동 전류(IOLED)가 유기발광층(OLED)에 흐르게 된다. 이에 따라, 유기발광층(OLED)은 발광동작을 수행하게 된다.
유기발광층(OLED)은, 서브픽셀에 대응하는 RGBW의 발광층(EML)을 포함하며, 정공주입층(HIL), 정공 수송층(HTL), 전자 수송층(ETL), 전자 주입층(EIL) 중 적어도 하나를 포함할 수 있으며, 그 외에 정공 저지층 등도 포함할 수 있다.
한편, 서브픽셀(sub pixell)은, 유기발광층(OLED)에서 모두 백색의 광을 출력하나, 녹색,적색,청색 서브픽셀의 경우, 색상 구현을 위해, 별도의 컬러필터가 구비된다. 즉, 녹색,적색,청색 서브픽셀의 경우, 각각 녹색,적색,청색 컬러필터를 더 구비한다. 한편, 백색 서브픽셀의 경우, 백색광을 출력하므로, 별도의 컬러필터가 필요 없게 된다.
한편, 도면에서는, 스캔 스위칭 소자(SW1)와 구동 스위칭 소자(SW2)로서, p타입의 MOSFET인 경우를 예시하나, n타입의 MOSFET이거나, 그 외, JFET, IGBT, 또는 SIC 등의 스위칭 소자가 사용되는 것도 가능하다.
한편, 픽셀(Pixel)은, 단위 표시 기간 동안, 구체적으로 단위 프레임 동안, 스캔 신호가 인가된 이후, 유기발광층(OLED)에서 계속 발광하는 홀드 타입의 소자이다.
도 7은 본 발명과 관련된 신호 처리 장치의 내부 블록도의 일예이다.
도면을 참조하면, 본 발명과 관련된 영상표시 시스템(10)은, 영상표시장치(100), 서버(600), 셋탑 박스(300)를 구비할 수 있다.
서버(600)는, 학습 영상을 수신하고 이를 저장하는 학습 DB(640)와, 학습 DB(640)로부터의 학습 영상, 및 심층 신경망(Deep Neural Network)을 이용하여, 영상 소스 퀄리티를 연산하는 퀄리티 연산부(670), 학습 DB(640)와 퀄리티 연산부(670)에 기초하여 심층 신경망에 대한 파라미터를 업데이트하는 파라미터 업데이트부(675)를 구비할 수 있다.
파라미터 업데이트부(675)는, 업데이트된 파라미터를 영상표시장치(100) 내의 퀄리티 연산부(632)로 전송할 수 있다.
셋탑 박스(300)는, 영상 제공자가 제공하는 입력 신호를 수신하고, 영상표시장치(100)의 HDMI 단자로 영상 신호를 전송할 수 있다.
영상표시장치(100)는, 외부의 셋탑 박스(300) 또는 네트워크를 통해 영상 신호를 수신하는 영상 수신부(105)와, 영상 수신부(105)에서 수신되는 영상 신호에 대한 신호 처리를 수행하는 신호 처리부(170m)와, 신호 처리부(170m)에서 처리된 영상을 표시하는 디스플레이(180)를 포함할 수 있다.
한편, 신호 처리부(170m)는, 입력 영상에 대한 영상 타입에 관한 정보를 연산하는 퀄리티 연산부(632)와, 영상 타입에 관한 정보에 기초하여, 화질을 설정하는 화질 설정부(634)와, 설정된 화질에 따라, 화질 처리를 수행하는 화질 처리부(635)를 구비할 수 있다.
특히, 신호 처리부(170m) 내의 퀄리티 연산부(632)가, 입력 영상의 해상도 정보 등을 연산함으로써, 화질 설정부(634)가, 입력 영상에 대응하는 화질을 설정하고, 화질 처리부(635)가, 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 입력 영상에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 도 7의 영상표시장치(100) 내의 신호 처리부(170m)에 의하면, 원본 영상의 추세 변화에 따라, 예를 들어, 2K 영상 또는 4K 영상이 점점 늘어나거나, 방송 영상 보다, 스트림 영상의 이용이 증가하는 등의 변화에 따라, 적응적으로 알고리즘을 업데이트 하기가 용이하지 못하다는 한계가 있다.
한편, 도 7의 영상표시장치(100) 내의 신호 처리부(170m) 내의 퀄리티 연산부(632)는 딥러닝 알고리즘을 프로세싱할 수 있다.
이때, 딥러닝 알고리즘은 여러 개의 학습용 데이터를 사용하여 기 정의된 네트워크 구조의 시냅스 가중치(synapse weight) 값을 구하는 학습(Training) 과정과 그 결과를 적용하는 추론(Inference) 과정으로 나뉜다.
한편, 학습(Training) 과정시, 입력과 그에 상응하는 정답을 알고 있어야 하며, 초기 학습시, 성능을 보장하기 위해 많은 양의 데이터를 처리해야 하며, 초기 파라미터 세트(initial parameter set)에서 수렴까지 학습 시간이 오래 걸리며, 많은 양의 계산과 메모리를 필요로 하게 된다.
따라서, 도 7과 같이, 학습 과정은, 서버(500)에서 수행하고, 영상표시장치(100)는, 서버(500)에서 계산한 추론 결과를 받아 이용한다.
한편, 도 7의 영상표시장치(100) 내의 신호 처리부(170m)에 의하면, 퀄리티 연산부(632)를 통해, 추론(inference)만을 수행하므로, 영상표시장치(100)가 서버(600) 등을 통해, 업데이트 서비스를 받지 않는 경우에는, 성능이 개선되지 않는 한계점을 안고 있다.
이에 따라, 본 발명은 영상표시장치(100) 내에서 지속적인 자체 학습을 통하여, 그 성능을 개선할 수 있는 인공지능 기반의 영상 퀄리티 연산 방안을 제안한다.
또한, 영상표시장치(100)에 최근, 디코딩된 영상이 아니라 비트스트림 영상이 입력되므로, 이전 보다, 입력되는 입력 영상의 원본 영상이 저해상도부터 고해상도 까지 다앙하게 입력되므로, 내부에서, 입력 영상을 re-sizing 하여 생성할 수 있고, 웹 브라우저 등을 통해, 이미지 검색 기능을 사용하여, 다양한 해상도의 ㄷ동일 영상을 획득할 수 있으므로, 입력 영상에 대응하는 해상도 정보를 획득할 수 있다.
이에 따라, 영상 해상도 정보가 함께 전송되거나, 혹은 입력 영상에서 더 낮은 해상도를 만들어 사용하는 활용법을 제안하여, 영상 퀄리티 연산 성능을 자체적으로 개선하는 기술에 대해 설명하고자 한다.
또한, 초기 학습 과정 이후, 성능이 더 개선되도록 refined training 과정을 적용하는 기술에 대해 설명하고자 한다. 이에 대해서는 도 8 이하를 참조하여 기술한다.
도 8은 본 발명의 실시예에 따른 신호 처리 장치의 내부 블록도의 일예이다.
도면을 참조하면, 본 발명의 실시예에 따른 신호 처리부(170)는, 입력 영상에 대한 영상 타입에 관한 정보를 연산하는 퀄리티 연산부(632)와, 영상 타입에 관한 정보에 기초하여, 화질을 설정하는 화질 설정부(634)와, 설정된 화질에 따라, 화질 처리를 수행하는 화질 처리부(635)와, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하이거나, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 입력 영상의 적어도 일부 영역에 기초하여, 퀄리티 학습을 수행하는 퀄리티 학습부(633)를 포함할 수 있다.
한편, 퀄리티 연산부(632)는, 퀄리티 학습부(633)에서 학습된 결과에 기초하여, 입력 영상에 대한 영상 타입에 관한 정보를 연산할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 특히, 퀄리티 학습부(633)에서의 학습 결과에 기초하여 퀄리티 연산시의 정확도를 향상시킬 수 있게 된다.
한편, 본 발명의 실시예에 따른 신호 처리부(170)는, 퀄리티 학습부(633)에서 학습된 결과에 대응하는 가중치를 설정하는 가중치 설정부(1120)를 더 포함할 수 있다.
한편, 가중치 설정부(1120)는, 업데이트된 가중치 또는 업데이트된 파라미터를 퀄리티 연산부(632)로 전송할 수 있다.
이에 따라, 퀄리티 연산부(632)는, 가중치 설정부(1120)에서 설정된 가중치에 따라, 입력 영상에 대한 영상 타입에 관한 정보를 연산할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 특히, 가중치 설정부(1120)에서 설정된 가중치에 기초하여 퀄리티 연산시의 정확도를 향상시킬 수 있게 된다.
한편, 퀄리티 연산부(632)는, 복수의 영상 타입에 대한 확률을 연산하고, 복수의 확률 정보를 출력할 수 있다.
예를 들어, 신호 처리부(170) 내의 퀄리티 연산부(632)는, 해상도 정보와 노이즈 정보를 함께 연산하여, 해상도 정보와 노이즈 정보가 관련된 2K 해상도의 양호한 퀄리티 정보에 대응하는 제1 확률 정보, 2K 해상도의 불량한 퀄리티 정보에 대응하는 제2 확률 정보, 4K 해상도의 양호한 퀄리티 정보에 대응하는 제3 확률 정보, 4K 해상도의 불량한 퀄리티 정보에 대응하는 제4 확률 정보를 각각 연산하여 출력할 수 있다.
다른 예로, 신호 처리부(170) 내의 퀄리티 연산부(632)는, 해상도 정보만을 연산하여, 해상도 정보와 관련된, HD 해상도에 대응하는 제1 확률 정보, FHD 해상도에 대응하는 제2 확률 정보, 2K 해상도에 대응하는 제3 확률 정보, 4K 해상도에 대응하는 제4 확률 정보, 8K 해상도에 대응하는 제5 확률 정보를 각각 연산하여 출력할 수 있다.
한편, 입력 영상의 해상도 정보를 모르는 경우, 퀄리티 연산부(632)가 동작하여, 연산된 퀄리티 정보, 특히 해상도 정보를 출력할 수 있다.
한편, 입력 영상의 해상도 정보를 아는 경우, 퀄리티 연산부(632)는 물론, 퀄리티 학습부(633)가 동작할 수 있다.
그리고, 퀄리티 학습부(633)는, 퀄리티 연산부(632)에서 연산된 퀄리티 연산정보를 이용하거나, 내부에서 별도로 연산된 퀄리티 연산 정보를 이용하여, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 지 여부를 판별할 수 있다.
그리고, 퀄리티 학습부(633)는, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 퀄리티 학습을 수행할 수 있다.
또는, 퀄리티 학습부(633)는, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하인 경우, 퀄리티 학습을 수행할 수 있다.
즉, 퀄리티 학습부(633)는, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하이거나, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 특히, 퀄리티 학습부(633)에서의 학습 결과에 기초하여 퀄리티 연산시의 정확도를 향상시킬 수 있게 된다.
한편, 퀄리티 학습부(633)는, 출력된 복수의 영상 타입의 확률 정보 중 최대 확률 정보의 레벨이, 기준 레벨 이하인 경우, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 본 발명의 실시예에 따른 신호 처리부(170)는, 입력 영상을 제1 해상도의 영상으로 스케일링하는 스케일러(1110)를 더 포함할 수 있다.
스케일러(1110)는, 입력 영상을, 입력 영상을 제1 해상도의 영상으로 스케일링하고 정규화(normalization)시킬 수 있다.
예를 들어, 스케일러(1110)는, 입력 영상을, FHD 또는 UHD로 정규화(normalization)시킬 수 있다.
현재 널리 퍼져 있는 비디오가 FHD 이하임을 고려했을 때, 스케일러(1110)로, Up-Scaler가 주로 사용될 수 있다.
이때 사용되는 스케일러(1110)는, 외부장치의 영상 변환기 모델링 및 데이터 왜곡을 통한 추가 성능 개선을 위하여 data augmentation 기능, Noise 추가, 회전, 일부 Enhance 등이 포함될 수 있다.
한편, 스케일러(1110)에서 제1 해상도로 스케일링된 입력 영상과, 원본 영상 해상도 정보에 기초하여, 퀄리티 학습부(633)에서, 성능 평가 및 학습 과정이 진행된다.
퀄리티 학습부(633)에서의 퀄리티 학습은, 추론 모듈의 Forward path에서 연산된 Soft Max의 score loss 값과 딥러닝 구조의 모든 node value를 외부 메모리(예를 들어, DRAM) 등에 저장했다가, Source Resolution Training 모듈의 backward propagation 에서 synapse weight를 업데이트하는 과정에 사용된다.
한편, 도면에서는, 퀄리티 연산부(632)와 퀄리티 학습부(633)가 분리되어, 각각 Inference 와 Training 이 분리되어 수행되는 것을 예시한다.
한편, 가중치 설정부(1120)는, 퀄리티 학습부(633)에서 학습된 과정에 의해 갱신된 신규 시냅스 가중치(Synapse Weight)를 바로 적용하지 않고, 평가 과정을 거친 후, 기존의 가중치 세트(weight set)를 교체 또는 업데이트할 수 있다.
한편, 제1 해상도의 영상은, 퀄리티 연산부(632)와 퀄리티 학습부(633)에 제공될 수 있다. 이에 따라, 퀄리티 연산부(632)와 퀄리티 학습부(633)에서의 연산량을 저감할 수 있게 된다.
한편, 본 발명의 실시예에 따른 신호 처리부(170)는, 입력 영상의 일부 영역 및 이전 입력 영상의 일부 영역을 포함하는 데이터 세트를 구비하는 데이터 베이스(1115)를 더 포함할 수 있다.
한편, 퀄리티 학습부(633)는, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하이거나, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 데이터 베이스(1115) 내의 입력 영상의 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 아울러, 퀄리티 학습시의 연산량을 저감할 수 있게 된다.
한편, 데이터 베이스(1115)에 저장되는 일부 영역은, 입력되는 영상의 분석에 기초하여, 업데이트될 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 데이터 베이스(1115)는, 입력 영상 중 에지 영역 중 샤프니스의 레벨이 기준치 이상인 영역을 저장할 수 있다. 이에 따라, 영상 분석시의 연산량을 저감할 수 있게 된다.
한편, 데이터 베이스(1115)는, 학습을 위한 학습 영상을 저장할 수 있다.
한편, 퀄리티 연산부(632) 및 퀄리티 학습부(633)는, 심층 신경망(Deep Neural Network)을 이용하여, 퀄리티 연산 및 퀄리티 학습을 각각 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 학습부(633)는, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하인 경우가 연속적으로 발생하는 경우, 입력 영상의 적어도 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 학습부(633)는, 입력 영상의 영상 타입에 관한 정보가 입력된 상태에서, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 입력 영상의 적어도 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 학습부(633)는, 포워드(forward), 백워드(backward) 프로파게이션(propagation)을 반복적으로 수행하여, 내부의 수학 모델을 업데이트하고, 업데이트된 수학 모델에 기초하여 포워드, 백워드 프로파게이션을 반복적으로 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 학습부(633)는, 외부로부터 수학 모델이 수신되는 경우, 업데이트된 수학 모델을 초기화할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 입력 영상은, 스트리밍 입력 영상, 방송 영상, 외부 장치로부터 입력되는 영상 또는 웹 기반 영상을 포함할 수 있다. 이에 따라, 다양한 입력 영상에 대한 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 화질 설정부(634)는, 설정된 화질에 따라, 노이즈 리덕션 설정값을 출력하거나, 샤프니스 설정값을 출력할 수 있다. 이에 따라, 영상 타입에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 영상 타입에 관한 정보는, 해상도에 대한 정보, 화질 퀄리티 정보를 포함할 수 있다. 이에 따라, 해상도에 또는 화질 퀄리티에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 신호 처리부(170)는, 입력 영상의 화질에 따라 최적의 튜닝을 적용할 수 있다.
한편, 신호 처리부(170)는, 실시간으로 입력 영상을 분석하여, 원본 해상도, Noise 수준, 압축 수준, Enhancement 수준을 판별할 수 있다.
한편, 신호 처리부(170)는, 연산된 영상 정보 데이터에 기초하여, 위화감 없이 화질 세팅을 변경할 수 있다.
예를 들어, 신호 처리부(170)는, 입력 영상이, Enhancement 가 필요한 경우, Enhancement 강도를 조정할 수 있다.
다른 예로, 신호 처리부(170)는, 원본 해상도에 따라 입력 영상 내 텍스쳐(Texture) 또는 에지(Edge)의 두께와, 선명도의 차이가 있으므로, 화질 처리시, 다른 필터 사이즈(Filter size)를 적용할 수 있다.
구체적으로, 신호 처리부(170)는, 입력 영상의 해상도가 높아질수록, 필터 사이즈를 작아지도록 할 수 있다.
예를 들어, 신호 처리부(170)는, 고해상도의 입력 영상이 입력되는 경우, 필터 사이즈를 작게 하여, 원 영상의 텍스쳐(Texture) 또는 에지(Edge)를 더 선명하게 보이도록 하고, 저해상도의 입력 영상이 입력되는 경우, 필터 사이즈를 크게 하여 상대적으로 더 폭이 넓은 에지와 텍스쳐에 대해 화질 개선 처리되도록 한다.
한편, 신호 처리부(170)는, 외부의 셋탑 박스(300) 또는 네트워크를 통해 수신되는 영상 신호의 원본 퀄리티를 연산하는 퀄리티 연산부(632)와, 연산된 원본 퀄리티에 따라, 영상 신호의 화질을 설정하는 화질 설정부(634)와, 설정된 화질에 따라, 영상 신호의 화질 처리를 수행하는 화질 처리부(635)를 포함할 수 있다.
화질 설정부(634)는, 수신되는 영상 신호의 원본 퀄리티가, 제1 시점에 가변되는 경우, 화질 설정을 제1 설정에서 제2 설정으로 순차적으로 가변하며, 화질 처리부(635)는, 제1 설정에서 제2 설정으로 순차 가변되는 화질 설정에 따라, 화질 처리를 수행한다. 이에 따라, 수신되는 영상 신호의 원본 퀄리티 가변에 따른 화질 변경시 깜박거림을 저감할 수 있게 된다. 특히, 영상 신호의 원본 퀄리티 가변시 급격한 화질 변경이 수행되지 않으므로, 부드러운 화질 변경이 가능하게 된다.
한편, 화질 설정부(634)는, 영상 재생 중에, 수신되는 영상 신호의 원본 퀄리티가, 제1 시점에 가변되는 경우, 화질 설정을 제1 설정에서 제2 설정으로 순차적으로 가변할 수 있다. 이에 따라, 수신되는 영상 신호의 원본 퀄리티의 가변시 실시간으로 화질 설정을 변경할 수 있게 된다. 특히, 영상 신호의 원본 퀄리티 가변시 급격한 화질 변경이 수행되지 않으므로, 부드러운 화질 변경이 가능하게 된다.
한편, 화질 설정부(634)는, 셋탑 박스(300)로부터 영상 신호가 수신되는 상태에서, 채널 변경 또는 입력 변경에 따라, 수신되는 영상 신호의 원본 퀄리티가, 제1 시점에 가변되는 경우, 화질 설정을 제1 설정에서 제2 설정으로 순차적으로 가변할 수 있다. 이에 따라, 수신되는 영상 신호의 원본 퀄리티 가변에 따른 화질 변경시 깜박거림을 저감할 수 있게 된다. 특히, 영상 신호의 원본 퀄리티 가변시 급격한 화질 변경이 수행되지 않으므로, 부드러운 화질 변경이 가능하게 된다.
퀄리티 연산부(632)는, 입력 영상을 UHD (3840x2160 이상), FHD (1920x1080), HD (1280x720), SD ( 720x480 이하) 등으로 분류할 수 있다.
퀄리티 연산부(632)는, 입력 영상에 대해, 각각의 해상도별 확률을 구하고, 최종 예측한 확률이 가장 높은 해상도를 최종 해상도로 선정하며, 최종 예측 확률이 너무 낮은 경우는 판단에서 제외한다.
퀄리티 연산부(632)는, 해상도 이외에도 Noise 수준 및 압축 수준을 예상할 수 있다.
한편, 퀄리티 연산부(632)는, 압축 수준 연산시, 원본 상태를 기준으로 압축 bit-rate를 낮추어 가면서 취득한 학습 DATA를 기반으로 하여 압축 수준을 판단할 수 있다.
예를 들어, 퀄리티 연산부(632)는, FHD의 경우 현재 Digital TV 방송 표준을 1.0 수준으로 평가하고, 압축을 많이 하여 DATA가 소실 될 수록 0.0인 것으로 연산할 수 있다.
한편, 퀄리티 연산부(632)는, 입력 영상 내의 Flicker의 수준을 측정하여, Noise 수준을 연산할 수 있다.
예를 들어, 퀄리티 연산부(632)는, 입력 영상 내의 노이즈 수준을, 강,중,약,노이즈없음의 4단계로 연산할 수 있다.
한편, 퀄리티 연산부(632)는, 심층 신경망(Deep Neural Network)을 이용하여, 수신되는 영상 신호의 해상도와, 노이즈 수준을 연산할 수 있다. 이에 따라, 수신되는 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있게 된다.
한편, 퀄리티 연산부(632)는, 서버(600)로부터 심층 신경망에 대한 파라미터를 업데이트하고, 업데이트된 파라미터에 기초하여, 수신되는 영상 신호의 해상도와, 노이즈 수준을 연산할 수 있다. 이에 따라, 학습 기반하에 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있게 된다.
한편, 퀄리티 연산부(632)는, 영상 신호의 제1 영역 및 제2 영역을 추출하고, 제1 영역에 기초하여, 영상 신호의 원본의 해상도를 연산하며, 제2 영역에 기초하여, 영상 신호의 노이즈 수준을 연산할 수 있다. 이에 따라, 퀄리티 연산에 적합한 영상 추출에 기초하여, 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있게 된다.
한편, 퀄리티 연산부(632)는, 영상 신호 내에 에지 성분이 가장 많은 영역을 제1 영역으로 추출하고, 영상 신호 내에 에지 성분이 가장 적은 영역을 제2 영역으로 추출할 수 있다. 이에 따라, 퀄리티 연산에 적합한 영상 추출에 기초하여, 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있게 된다.
한편, 화질 처리부(635)는, 연산된 노이즈 수준이 높을수록, 영상 신호의 노이즈 리덕션 처리 강도가 커지도록 제어할 수 있다. 이에 따라, 수신되는 영상 신호의 노이즈 수준에 적합한 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 연산부(632)는, 수신되는 영상 신호의 원본의 해상도, 노이즈 수준 및 압축 수준을 연산하며, 압축 비트 레이트를 낮추어 가면서 취득한 학습 데이터에 기초하여, 압축 수준을 연산할 수 있다.
한편, 화질 처리부(635)는, 연산된 압축 수준이 높을수록, 영상 신호의 인핸스 처리 강도가 작아지도록 제어할 수 있다. 이에 따라, 압축 수준 연산을 정확하게 수행할 수 있게 된다.
한편, 화질 처리부(635)는, 영상 신호의 원본의 해상도가 커질수록, 영상 신호의 인핸스 처리 강도가 커지도록 제어할 수 있다. 이에 따라, 수신되는 영상 신호의 원본의 해상도에 적합한 화질 처리를 수행할 수 있게 된다.
한편, 화질 처리부(635)는, 연산된 압축 수준이 높을수록, 영상 신호의 블러 처리 강도가 커지도록 제어할 수 있다. 이에 따라, 수신되는 영상 신호의 압축 수준에 적합한 화질 처리를 수행할 수 있게 된다.
한편, 화질 처리부(635)는, 영상 신호의 원본의 해상도가 커질수록 영산 신호의 필터링을 위한 필터의 사이즈가 작아지도록 제어할 수 있다. 이에 따라, 수신되는 영상 신호의 원본의 해상도에 적합한 화질 처리를 수행할 수 있게 된다.
한편, 화질 처리부(635)는, 영상 신호의 원본의 해상도에 따라, 영상 신호를 다운 스케일링 한 이후, 다운 스케일링된 영상 신호에 대해 화질 처리를 수행하고, 화질 처리 수행된 영상 신호를 업 스케일링하고, 업 스케일링된 영상 신호를 출력할 수 있다. 이에 따라, 수신되는 영상 신호의 원본의 해상도에 적합한 화질 처리를 수행할 수 있게 된다
한편, 도 8의 신호 처리 장치의 내부는 다양한 변형이 가능하다. 특히, 도 8의 퀄리티 연산부(632)와 퀄리티 학습부(633)는 통합될 수도 있다. 이에 대해서는, 도 9를 참조하여 기술한다.
도 9는 본 발명의 실시예에 따른 신호 처리 장치의 내부 블록도의 다른 예이다.
도면을 참조하면, 본 발명의 다른 실시예에 따른 신호 처리부(170b)는, 도 8의 신호 처리부(170)와 유사하게, 화질 설정부(634)와, 화질 처리부(635), 스케일러(1110), 데이터 베이스(1115), 가중치 설정부(1120)를 포함할 수 있다.
화질 설정부(634)와, 화질 처리부(635), 스케일러(1110), 데이터 베이스(1115), 가중치 설정부(1120)의 동작은, 도 8의 설명에 대응할 수 있다.
다만, 도 9의 신호 처리부(170b)는, 도 8의 퀄리티 연산부(632)와 퀄리티 학습부(633)는 통합된 퀄리티 연산 학습부(632b)를 구비할 수 있다.
퀄리티 연산 학습부(632b)는, 입력 영상에 대한 영상 타입에 관한 정보를 연산하며, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하이거나, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 입력 영상의 적어도 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다.
그리고, 퀄리티 연산 학습부(632b)는, 학습된 결과에 기초하여, 입력 영상에 대한 영상 타입에 관한 정보를 연산할 수 있다.
이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 특히, 퀄리티 학습부(633)에서의 학습 결과에 기초하여 퀄리티 연산시의 정확도를 향상시킬 수 있게 된다.
한편,퀄리티 연산 학습부(632b)는, 가중치 설정부(1120)에서 설정된 가중치에 따라, 입력 영상에 대한 영상 타입에 관한 정보를 연산할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 특히, 가중치 설정부(1120)에서 설정된 가중치에 기초하여 퀄리티 연산시의 정확도를 향상시킬 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 복수의 영상 타입에 대한 확률을 연산하고, 복수의 확률 정보를 출력하며, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하이거나, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 특히, 퀄리티 연산 학습부(632b)에서의 학습 결과에 기초하여 퀄리티 연산시의 정확도를 향상시킬 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 출력된 복수의 영상 타입의 확률 정보 중 최대 확률 정보의 레벨이, 기준 레벨 이하인 경우, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하이거나, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 데이터 베이스(1115) 내의 입력 영상의 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다. 아울러, 퀄리티 학습시의 연산량을 저감할 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 심층 신경망(Deep Neural Network)을 이용하여, 퀄리티 연산 및 퀄리티 학습을 각각 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 입력 영상의 영상 타입에 관한 정보의 레벨이 기준 레벨 이하인 경우가 연속적으로 발생하는 경우, 입력 영상의 적어도 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 입력 영상의 영상 타입에 관한 정보가 입력된 상태에서, 입력된 영상 타입에 관한 정보와, 연산된 입력 영상에 대한 영상 타입에 관한 정보와의 차이가 소정치 이상인 경우, 입력 영상의 적어도 일부 영역에 기초하여, 퀄리티 학습을 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 포워드, 백워드 프로파게이션을 반복적으로 수행하여, 내부의 수학 모델을 업데이트하고, 업데이트된 수학 모델에 기초하여 포워드, 백워드 프로파게이션을 반복적으로 수행할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
한편, 퀄리티 연산 학습부(632b)는, 외부로부터 수학 모델이 수신되는 경우, 업데이트된 수학 모델을 초기화할 수 있다. 이에 따라, 영상 분석에 대한 정확성 향상 및 그에 대응하는 화질 처리를 수행할 수 있게 된다.
이와 같이, 추론 및 학습이 딥퀄리티 연산 학습부(632b)의 하나의 모듈을 통해 수행되므로, 데이터 처리 속도가 향상될 수 있다.
도 10은 도 8 또는 도 9의 신호 처리 장치의 내부 블록도의 일예이다.
도면을 참조하면, 본 발명의 실시예에 따른 신호 처리부(170)는, 영상 분석부(610), 및 화질 처리부(635)를 구비할 수 있다.
영상 분석부(610)는, 도 8 또는 도 9의 퀄리티 연산부(632) 또는 퀄리티 연산 학습부(632b)와, 화질 설정부(634)를 구비할 수 있다.
영상 분석부(610)는, 입력 영상 신호를 분석하고, 분석된 입력 영상 신호와 관련된 정보를 출력할 수 있다.
한편, 영상 분석부(610)는, 입력되는 제1 입력 영상 신호의 오브젝트 영역과 배경 영역을 구분할 수 있다. 또는, 영상 분석부(610)는, 입력되는 제1 입력 영상 신호의 오브젝트 영역과 배경 영역의 확률 또는 비율을 연산할 수 있다.
입력 영상 신호는, 영상 수신부(105)로부터의 입력 영상 신호이거나, 도 3의 영상 디코더(320)에서 복호화된 영상일 수 있다.
특히, 영상 분석부(610)는, 인공 지능(artificial intelligence;AI)을 이용하여, 입력 영상 신호를 분석하고, 분석된 입력 영상 신호 정보를 출력할 수 있다.
구체적으로, 영상 분석부(610)는, 입력 영상 신호의 해상도, 계조(resolution), 잡음 수준, 패턴 여부 등을 분석하고, 분석된 입력 영상 신호와 관련된 정보, 특히 화질 설정 정보를, 화질 처리부(635)로 출력할 수 있다.
화질 처리부(635)는, HDR 처리부(705), 제1 리덕션부(710), 인핸스부(750), 제2 리덕션부(790)를 구비할 수 있다.
HDR 처리부(705)는, 영상 신호를 입력받고, 입력되는 영상 신호에 대해, 하이 다이내믹 레인지(HDR) 처리를 할 수 있다.
예를 들어, HDR 처리부(705)는, 스탠다드 다이내믹 레인지(Standard Dynamic Range; SDR) 영상 신호를 HDR 영상 신호로 변환할 수 있다.
다른 예로, HDR 처리부(705)는, 영상 신호를 입력받고, 입력되는 영상 신호에 대해, 하이 다이내믹 레인지를 위한, 계조 처리를 할 수 있다.
한편, HDR 처리부(705)는, 입력되는 영상 신호가 SDR 영상 신호인 경우, 계조 변환을 바이패스하고, 입력되는 영상 신호가 HDR 영상 신호인 경우, 계조 변환을 수행할 수 있다. 이에 따라, 입력 영상에 대해, 고계조 표현력을 증대시킬 수 있게 된다.
한편, HDR 처리부(705)는, 저계조와 고계조 중 저계조를 강조하고 고계조가 포화되도록 하는 제1 계조 변환 모드, 또는 저계조와 고계조 전반에 대해 다소 균일하게 변환되도록 하는 제2 계조 변환 모드에 기초하여, 계조 변환 처리를 할 수 있다.
구체적으로, HDR 처리부(705)는, 제1 계조 변환 모드가 수행되는 경우, 룩업 테이블 내의 제1 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다.
더 구체적으로, HDR 처리부(705)는, 제1 계조 변환 모드가 수행되는 경우, 입력 데이터에 관한 연산식, 및 상기 연산식에 따라 결정되는 룩업 테이블 내의 제1 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다. 여기서 입력 데이터는, 비디오 데이터와 메타 데이터를 포함할 수 있다.
한편, HDR 처리부(705)는, 제2 계조 변환 모드가 수행되는 경우, 룩업 테이블 내의 제2 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다.
더 구체적으로, HDR 처리부(705)는, 제2 계조 변환 모드가 수행되는 경우, 입력 데이터에 관한 연산식, 및 상기 연산식에 따라 결정되는 룩업 테이블 내의 제2 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다. 여기서 입력 데이터는, 비디오 데이터와 메타 데이터를 포함할 수 있다.
한편, HDR 처리부(705)는, 제2 리덕션부(790) 내의 고계조 증폭부(851)에서의 제3 계조 변환 모드 또는 제4 계조 변환 모드에 따라, 제1 계조 변환 모드, 또는 제2 계조 변환 모드를 선택할 수도 있다.
예를 들어, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, 제3 계조 변환 모드가 수행되는 경우, 룩업 테이블 내의 제3 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다.
구체적으로, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, 제3 계조 변환 모드가 수행되는 경우, 입력 데이터에 관한 연산식, 및 상기 연산식에 따라 결정되는 룩업 테이블 내의 제3 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다. 여기서 입력 데이터는, 비디오 데이터와 메타 데이터를 포함할 수 있다.
한편, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, 제4 계조 변환 모드가 수행되는 경우, 룩업 테이블 내의 제4 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다.
구체적으로, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, 제4 계조 변환 모드가 수행되는 경우, 입력 데이터에 관한 연산식, 및 상기 연산식에 따라 결정되는 룩업 테이블 내의 제4 계조 변환 모드에 대응하는 데이터에 기초하여, 계조 변환 처리를 할 수 있다. 여기서 입력 데이터는, 비디오 데이터와 메타 데이터를 포함할 수 있다.
예를 들어, HDR 처리부(705)는, 제2 리덕션부(790) 내의 고계조 증폭부(851)에서, 제4 계조 변환 모드가 수행되는 경우, 제2 계조 변환 모드를 수행할 수 있다.
다른 예로, HDR 처리부(705)는, 제2 리덕션부(790) 내의 고계조 증폭부(851)에서, 제3 계조 변환 모드가 수행되는 경우, 제1 계조 변환 모드를 수행할 수 있다.
또는, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, HDR 처리부(705)에서의 계조 변환 모드에 따라, 수행되는 계조 변환 모드를 가변할 수도 있다.
예를 들어, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, HDR 처리부(705)에서 제2 계조 변환 모드가 수행되는 경우, 제4 계조 변환 모드를 수행할 수 있다.
다른 예로, 제2 리덕션부(790) 내의 고계조 증폭부(851)는, HDR 처리부(705)에서 제1 계조 변환 모드가 수행되는 경우, 제3 계조 변환 모드를 수행할 수 있다.
한편, 본 발명의 일 실시예에 따른 HDR 처리부(705)는, 저계조와 고계조가 균일하게 변환되도록 계조 변환 모드를 수행할 수 있다.
한편, 제2 리덕션부(790)는, HDR 처리부(705)에서의, 제2 계조 변환 모드에 따라, 제4 계조 변환 모드를 수행하며, 이에 입력되는 영상 신호의 계조의 상한 레벨을 증폭할 수 있다. 이에 따라, 입력 영상에 대해, 고계조 표현력을 증대시킬 수 있게 된다.
다음, 제1 리덕션부(reduction unit))(710)는, 입력 영상 신호 또는 HDR 처리부(705)에서 처리된 영상 신호에 대해, 노이즈 제거를 수행할 수 있다.
구체적으로, 제1 리덕션부(reduction unit))(710)는, 입력 영상 신호 또는 HDR 처리부(705)로부터의 HDR 영상에 대해, 상기 다단계 노이즈 제거 처리, 및 제1 단계 계조 확장 처리를 할 수 있다.
이를 위해, 제1 리덕션부(710)는, 다단계로 노이즈 제거를 위한 복수의 노이즈 제거부(715,720)와, 계조 확장을 위한 계조 확장부(725)를 구비할 수 있다.
다음, 인핸스부(enhancement unit)(750)는, 제1 리덕션부(710)로부터의 영상에 대해, 다단계 영상 해상도 향상 처리를 할 수 있다.
또한, 인핸스부(750)는, 오브젝트 입체감 향상 처리를 할 수 있다. 또한, 인핸스부(750)는, 컬러 또는 컨트라스트 향상 처리를 할 수 있다.
이를 위해, 인핸스부(750)는, 다단계로 영상 해상도 향상을 위한 복수의 해상도 향상부(735,738,742), 오브젝트의 입체감 향상을 위한 오브젝트 입체감 향상부(745), 컬러 또는 컨트라스트 향상을 위한 컬러 컨트라스트 향상부(749)를 구비할 수 있다.
다음, 제2 리덕션부(790)는, 제1 리덕션부(710)로부터 입력된 노이즈 제거된 영상 신호에 기초하여, 제2 단계 계조 확장 처리를 수행할 수 있다.
한편, 제2 리덕션부(790)는, 입력되는 신호의 계조의 상한 레벨을 증폭하고, 입력 신호의 도계조의 해상를 확장할 수 있다. 이에 따라, 입력 영상에 대해, 고계조 표현력을 증대시킬 수 있게 된다.
예를 들어, 입력되는 신호의 전 계조 영역에 대해 균일하게 계조 확장을 수행할 수 있다. 이에 따라, 입력 영상의 영역에 대해 균일한 계조 확장이 수행되면서, 고계조 표현력을 증대시킬 수 있게 된다.
한편, 제2 리덕션부(790)는, 제1 계조 확장부(725)로부터의 입력 신호에 기초하여, 계조 증폭 및 확장을 수행할 수 있다. 이에 따라, 입력 영상에 대해, 고계조 표현력을 증대시킬 수 있게 된다.
한편, 제2 리덕션부(790)는, 사용자 입력 신호에 기초하여, 입력되는 영상 신호가 SDR 영상 신호인 경우, 증폭의 정도를 가변할 수 있다. 이에 따라, 사용자 설정에 대응하여, 고계조 표현력을 증대시킬 수 있게 된다.
한편, 제2 리덕션부(790)는, 입력되는 영상 신호가 HDR 영상 신호인 경우, 설정된 값에 따라, 증폭을 수행할 수 있다. 이에 따라, 입력 영상에 대해, 고계조 표현력을 증대시킬 수 있게 된다.
한편, 제2 리덕션부(790)는, 사용자 입력 신호에 기초하여, 입력되는 영상 신호가 HDR 영상 신호인 경우, 증폭의 정도를 가변할 수 있다. 이에 따라, 사용자 설정에 대응하여, 고계조 표현력을 증대시킬 수 있게 된다.
한편, 제2 리덕션부(790)는, 사용자 입력 신호에 기초하여, 계조 확장시, 계조 확장의 정도를 가변할 수 있다. 이에 따라, 사용자 설정에 대응하여, 고계조 표현력을 증대시킬 수 있게 된다.
한편, 제2 리덕션부(790)는, HDR 처리부(705)에서의, 계조 변환 모드에 따라, 계조의 상한 레벨을 증폭시킬 수 있다. 이에 따라, 입력 영상에 대해, 고계조 표현력을 증대시킬 수 있게 된다.
신호 처리부(170)는, 영상 신호를 입력받고, 입력되는 영상 신호의 휘도를 조절하는 HDR 처리부(705)와, HDR 처리부(705)로부터의 영상 신호의 휘도를 증폭하고, 영상 신호의 계조 해상도를 증가시켜, 인핸스드(enhanced) 영상 신호를 생성하는 리덕션부(790)를 포함하고, 앤핸스드 영상 신호는, 표시되는 HDR 이미지 내의 하이다이나믹 레인지를 유지하는 동안, 영상 신호의 증가된 휘도와 계조 해상도를 제공한다.
한편, 영상 신호의 휘도 범위는, 신호 처리부(170)에 수신되는 제어 신호에 따라 조절된다.
한편, 입력되는 영상 신호가 HDR 신호인지 SDR 신호인지 여부를 결정하고, HDR 처리부(705)로 제공하기 위한 제어 신호를 생성하는 영상 분석부를 더 포함하고, 제어 신호가, 입력되는 영상 신호가 HDR 신호인 것을 나타내는 경우에만 조절된다.
한편, 제어 신호는, 신호 처리와 연관된 영상 표시 장치의 제어부로부터 수신되고, 영상 표시 장치의 설정에 대응한다.
한편, 계조의 해상도는, 영상 신호의 조정된 휘도의 증폭에 기초하여 증가된다.
한편, 계조의 해상도는, 신호 처리부(170)에 입력되는 제어 신호에 기초하여 증가된다.
한편, 제어 신호는, 신호 처리와 연관된 영상 표시 장치의 제어부로부터 수신되고, 영상 표시 장치의 설정에 대응한다.
한편, 리덕션부(790)는, 입력되는 신호의 계조의 상한 레벨을 증폭하는 고계조 증폭부(851)와, 고계조 증폭부(851)로부터의 증폭된 계조의 해상도를 확장하는 디컨투어부(842,844)를 포함할 수 있다.
제2 리덕션부(790)는, 제2 단계 계조 확장을 위한 제2 계조 확장부(729)를 구비할 수 있다.
한편, 본 발명의 신호 처리부(170) 내의 화질 처리부(635)는, 도 10과 같이, 4단계의 리덕션 처리와, 4단계의 영상 향상 처리를 수행하는 것을 특징으로 한다.
여기서, 4단계 리덕션 처리는, 2단계의 노이즈 제거 처리와, 2단계의 계조 확장 처리를 포함할 수 있다.
여기서, 2단계의 노이즈 제거 처리는, 제1 리덕션부(710) 내의 제1 및 제2 노이즈 제거부(715,720)가 수행하며, 2단계의 계조 확장 처리는, 제1 리덕션부(710) 내의 제1 계조 확장부(725)와, 제2 리덕션부(790) 내의 제2 계조 확장부(729)가 수행할 수 있다.
한편, 4단계 영상 향상 처리는, 3단계의 영상 해상도 향상 처리(bit resolution enhancement)와, 오브젝트 입체감 향상 처리를 구비할 수 있다.
여기서, 3단계의 영상 해상도 향상 처리는, 제1 내지 제3 해상도 향상부(735,738,742)가 처리하며, 오브젝트 입체감 향상 처리는, 오브젝트 입체감 향상부(745)가 처리할 수 있다.
한편, 본 발명의 신호 처리부(170)는, 다단계 화질 처리로서 동일 또는 유사한 알고리즘을 다중 적용하여 점진적으로 화질을 향상시킬 수 있다.
이를 위해, 본 발명의 신호 처리부(170) 내의 화질 처리부(635)는, 동일 또는 유사 알고리즘을 2회 이상 적용하여, 화질 처리를 진행할 수 있다.
한편, 화질 처리부(635)에서 수행되는 동일 또는 유사 알고리즘은, 각 단계별로 달성하고자 하는 목표가 다르며, 점진적으로 다단계 화질 처리를 수행함으로써, 1 단계에 모든 화질을 처리하는 것 대비하여, 영상의 아티팩트(Artifact)가 적게 발생하는 장점이 있으며, 보다 자연스럽고 보다 선명한 영상 처리 결과물을 얻을 수 있다는 장점이 있다.
한편, 동일 또는 유사 알고리즘을, 다른 화질처리 알고리즘과 교차하면서 다중으로 적용함으로써, 단순 연속 처리 이상의 효과를 얻을 수 있게 된다.
한편, 본 발명의 신호 처리부(170)는, 다단계로 노이즈 제거 처리를 수행할 수 있다. 각 단계의 노이즈 제거 처리는, 시간(Temporal) 처리와, 공간(Spatial) 처리를 포함할 수 있다.
한편, 영상 신호의 원본 퀄리티를 연산하기 위해, 본 발명에서는, 인공지능과 같은 최신의 기술을 사용한다. 이를 위해, 심층 신경망(Deep Neural Network)을 이용할 수 있다.
퀄리티 연산부(632)는, 심층 신경망(Deep Neural Network)을 이용하여, 수신되는 영상 신호의 해상도와, 노이즈 수준을 연산한다.
퀄리티 연산부(632) 또는 퀄리티 연산부(670)는, 원본 해상도 및 압축 수준 별 학습 영상을 취득하여 정확도가 향상되도록 Network를 학습시킬 수 있다.
학습에 사용한 영상은 일상의 방송에서 접할 수 있는 일반적인 영상으로 다양한 영상으로 구비되어 전체 입력 환경을 커버할 수 있다.
한편, 퀄리티 연산부(632)는, 검출시 필요한 시간 또는 비용 감축을 목적으로 계층수가 적은 Convolutional Neural Network, Mobile-Net 등을 활용하여 학습을 진행할 수 있다.
예를 들어, 퀄리티 연산부(632)는, 전체 영상 중 일부 영역(예: 224x224, 128x128, 64x64)만을 분석할 수 있다.
한편, 퀄리티 연산부(632)는, 검출 목적에 맞는 적절한 검출 영역을 선택할 수 있다.
예를 들어, 퀄리티 연산부(632)는, 원본 해상도 검출시, Edge 성분이 가장 많은 제1 영역을 선택하고, 노이즈 검출시, Edge 성분이 가장 적은 제2 영역을 선택할 수 있다.
특히, 퀄리티 연산부(632)는, 처리 속도 향상을 목적으로 검출 영역을 빠르게 선정하는 알고리즘 적용할 수 있다.
예를 들어, 퀄리티 연산부(632)는, 검출 정확도 향상을 목적으로 검출 영역에, FFT(Fast Fourier Transform)과 같은 전처리 작업을 수행할 수 있다.
도 11a 내지 도 11b는 도 8 또는 도 9의 신호 처리 장치의 동작 설명에 참조되는 도면이다.
먼저, 도 11a는 Convolutional Neural Network에 기반한 연산을 도시하는 도면이다.
도면을 참조하면, 획득된 이미지(1010) 내의 일부 영역(1015)에 대해, 컨벌루션 뉴럴 네트워크(convolutional Neural Network)를 사용한다.
컨벌루션 뉴럴 네트워크는, 컨벌루션 네트워크(Convolution network)와, 디컨벌루션 네트워크(Deconvolution network)가 수행될 수 있다.
이러한 컨벌루션 뉴럴 네트워크에 의하면, 컨벌루션(convolution), 풀링(pooling)이 반복적으로 수행된다.
한편, 도 11a의 CNN 기법에 의하면, 일부 영역(1015) 내의 픽셀(pixel)의 종류를 판단하기 위해, 영역(1015)의 정보가 사용될 수 있다.
다음, 도 11b는 Mobile-Net에 기반한 연산을 도시하는 도면이다.
도면과 같은 방식에 의해, 퀄리티 연산이 수행되게 된다.
한편, 본 발명의 신호 처리부(170)는, 원본 Quality 가 변함에 따라 실시간으로 Quality에 상응하는 화질 세팅이 적용되도록 한다.
특히, 신호 처리부(170)는, 화질 세팅 변경시, 채널 변경 또는 입력 변경 등의 조건없이 영상 재생 중에 세팅이 변경되도록 한다.
여기서 실시간이라 하는 것은 IIR 방식 , Step 이동 방식을 포함한 Temporal 처리 기술을 사용하는 것을 의미한다.
한편, 영상표시장치(100)는 사용자의 UX 시나리오에 따라 다양한 컨텐츠 중에서 한 개 또는 그 이상의 영상과 음향을 디스플레이할 수 있다.
그동안, 영상표시장치(100)는 디스플레이의 발전에 따라 화질이 점점 좋아지는 방향으로 발전하고 소비자에게 소구해 왔다.
한편, 최근에 인공지능 기술의 발전으로 컴퓨터 비전, 영상 처리, 자연어 처리 등의 분야에서 기존 기술을 훨씬 뛰어넘는 연구 결과들이 많이 발표되고 있다.
영상표시장치(100)도 다른 기기와 마찬가지로 음성 인식 기반의 인공지능 UI가 접목되고 있고, 한편으로는 화질 처리에 인공지능 기술을 적용한 연구들이 진행되고 있다. 하지만, 인공지능 영상표시장치(100)로서의 통합적인 프레임워크(Framework)는 아직 제시되고 있지 않다.
이에, 본 발명에서는 영상표시장치(100)의 센서 입력으로부터 시청자와 시청 환경에 대한 정보를 입수하여 최적의 영상표시장치(100) 시청이 될 수 있도록 출력을 조정해주는 기술을 제안한다.
예를 들어, 영상표시장치(100)의 센서 장치는, 원격제어장치(200), 마이크, 조도센서, 모션 센서, 위치 센서, 카메라 등을 포함할 수 있다.
본 발명의 실시예에 따른, 인공 지능 기반의 영상표시장치(100)는, 상술한 센서 장치 등에서, 센싱된 입력으로부터 정보를 추출하여 영상이나 오디오 등의 출력을 인공 지능적으로 조정할 수 있다.
이를 위해, 본 발명의 실시예에 따른, 인공 지능 기반의 영상표시장치(100)는, 외부로부터 영상을 입력받으며, 센서 장치 등을 통해, 각종 센싱 정보를 수신하며, 외부의 서버(600)와 데이터를 교환할 수 있다.
한편, 본 발명의 실시예에 따른, 인공 지능 기반의 영상표시장치(100)는, 가상의 센서 장치와 실제 센서 장치를 이용하여, 영상 및 오디오에 대한 정보를 수집하고, 실제 시청자의 시청 환경 등을 고려하여, 시청자에 적합한, 또는 컨텐츠에 적합한, 화질 처리, 오디오 처리, 컨텐츠 추천 등이 수행되도록 한다. 이에 대해서는, 도 12 이하를 참조하여 기술한다.
도 12는 본 발명의 실시예에 따른 영상표시장치의 내부 블록도의 일예이고, 도 13 내지 도 15c는 도 12의 동작 설명에 참조되는 도면이다.
먼저, 도 12를 참조하면, 본 발명의 실시예에 따른 영상표시장치(100)는, 입력 영상의 영상 처리를 수행하며, 입력 영상에 대응하는 오디오의 오디오 처리를 수행하는 신호 처리부(170)와, 가상 AI 처리부(160), 저장부(140), 네트워크 인터페이스부(135), 사용자 입력 인터페이스부(150)를 구비할 수 있다.
신호 처리부(170)는, 도 13 등과 같이, 원격제어장치(200)로부터 사용자 입력을 수신하는 사용자 입력 수신부(1315), 영상과 오디오를 입력받는 입력부(1310), UX를 처리하는 UX 처리부(1320), OSD 처리를 수행하는 OSD 처리부(340), 영상 처리를 수행하는 영상 처리부(320), 오디오 처리를 수행하는 오디오 처리부(370), 데이터 처리를 수행하는 데이터 처리부(390), 신호 처리된 영상과 오디오를 출력하는 출력부(1380)를 구비할 수 있다.
한편, 영상 처리부(320)는, 도 7 내지 도 10 등의 화질 처리부(635)를 구비할 수 있다.
한편, 가상 AI 처리부(160)는, 센서 장치(1220) 등에서 감지된 입력 신호에 기초하여, 영상표시장치(100)의 사용자 정보, 또는 시청 환경 정보 등을 연산하고, 사용자 정보, 시청 환경 정보 등에 기초하여, 최적의 영상 시청, 오디오 출력 등이 구현되도록 제어할 수 있다.
한편, 가상 AI 처리부(160)는, 수신되는 영상 신호의 해상도 및 노이즈 수준에 적합한 화질 처리를 수행하도록 제어할 수 있다.
예를 들어, 가상 AI 처리부(160)는, 심층 신경망(Deep Neural Network)을 이용한 학습을 통해, 입력 영상 해상도 등이 변경되더라도, 수신되는 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있다.
다른 예로, 가상 AI 처리부(160)는, 심층 신경망에 대한 파라미터를 업데이트하여, 학습 기반하에 영상 신호의 원본 퀄리티 연산을 정확하게 수행할 수 있다.
또 다른 예로, 가상 AI 처리부(160)는, 영상 타입에 관한 정보 연산의 정확성을 향상시키며, 그에 대응하는 화질 처리를 수행할 수 있다.
한편, 가상 AI 처리부(160)는, 도 12와 같이, 신호 처리부(170)에서의 영상 처리된 영상 정보와, 신호 처리부(170)에서 오디오 처리된 오디오 정보를 수신하는 가상 센서 장치(1210)와, 외부의 캡쳐된 이미지 정보 또는 사운드 정보를 수집하는 센서 장치(1220)와, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어하는 인공 지능 처리부(1230)를 포함할 수 있다. 이에 따라, 인공지능 기반하에 동작할 수 있게 된다. 특히, 인공지능 기반하에 화질 처리를 수행할 수 있게 된다.
한편, 가상 센서 장치(1210)는, 도 13과 같이, 신호 처리부(170)에의 영상 처리부(320)에서 영상 처리된 영상 정보를 수집하는 가상 시각 센서(1212)와, 신호 처리부(170)의 오디오 처리부(370)에서 오디오 처리된 오디오 정보를 수집하는 가상 청각 센서(1214)와, 신호 처리부(170)의 데이터 처리부(390)에서 데이터 처리된 데이터 정보를 수집하는 가상 정보 처리부(1216)를 구비할 수 있다.
한편, 가상 시각 센서(1212)는 영상표시장치(100) 입력 영상과 중간 처리 영상들을 수집할 수 있다.
가상 청각 센서(1214)는 영상표시장치(100) 입력 오디오와 중간 처리 오디오들을 수집할 수 있다.
가상 정보 처리부(1216)는 Text로 표현되는 데이터들을 수집한다. 가상 촉각 센서(미도시)는 네트워크를 통해서 정보를 교환할 수 있다.
한편, 실제 센서 장치(1220)는, 도 14와 같이, 조도 센서, 모션 센서 등의 정보를 인터페이스부(130)을 통해 수신하고, 이에 기초하여 시청 환경 정보를 수집하는 시청 환경 수집부(1222), 신호 처리부(170) 내의 사용자 입력 수신부(1315)로부터 사용자 입력 신호를 수집하는 정보 수신부(1223), 카메라 등을 통해 캡쳐된 이미지에 기초하여 시각 정보를 수집하는 시각 센서(1224), 마이크 등을 통해 오디오 정보를 수집하는 청각 센서(1226)를 구비할 수 있다.
한편, 신호 처리부(170)는, 입력 영상과 관련된 데이터를 처리하며, 가상 센서 장치(1210)는, 신호 처리부(170)에서 처리된 데이터 정보를 수신하며, 인공 지능 처리부(1230)는, 데이터 정보, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 원격제어장치(200)로부터의 사용자 입력 신호를 수신하고, 센서 장치(1220)는, 사용자 입력 신호에 대한 정보를 수집하고, 인공 지능 처리부(1230)는, 사용자 입력 신호에 대한 정보, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 센서 장치(1220)는, 조도 센서로부터의 조도 정보, 모션 센서로부터의 모션 정보에 기초하여, 시청 환경 정보를 수집하고, 인공 지능 처리부(1230)는, 시청 환경 정보, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 센서 장치(1220)는, 카메라로부터 외부의 캡쳐된 이미지 정보를 수집하며, 마이크로부터 외부의 사운드 정보를 수집할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 시청 환경 정보는, 화면 밝기 정보, 시청 집중도 정보 중 적어도 하나를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 화질 처리를 수행하는 화질 처리부(635)를 포함하며, 화질 처리부(635)는, 가상 센서 장치(1210)로부터의 영상 정보, 및 센서 장치(1220)로부터의 이미지 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, AI 처리부(1230)는, 정보 추출부(미도시), 맥락 추출부(미도시), 정보 분석부(미도시), 시청자 반응부(미도시), 학습부(미도시)를 구비할 수 있다.
정보 추출부(미도시)는, 가상 정보 추출부(미도시)와 실제 정보 추출부(미도시)를 구비할 수 있다. 가상 정보 추출부(미도시)는 가상 센서 장치(1210)에서 수집된 데이터를 분석하여 컨텐츠 정보로 변환할 수 있다. 실제 정보 추출부(미도시)는 센서 장치(1220)에서 수집된 데이터를 분석하여 시청 정보(시청자/시청환경)로 변환할 수 있다.
맥락 추출부(미도시)는, 가상 맥락 추출부(미도시)와 시청 맥락 추출부(미도시)를 구비할 수 있다. 가상 맥락 추출부(미도시)는 컨텐츠 정보들로부터 맥락을 추출할 수 있다. 시청 맥락 추출부(미도시)는 사용자 반응 맥락을 추출할 수 있다.
정보 분석부(미도시)는, 가상과 실제 정보 추출부 간, 가상과 실제 맥락 추출부 간의, 정보 결합 및 분석을 수행할 수 있다.
시청자 반응부(미도시)는, 정보 분석부(미도시)로부터 시청자 반응 맥락에 맞는 반응을 출력한다.
학습부(미도시)는, 정보 추출부(미도시), 맥락 추출부(미도시), 정보 분석부(미도시), 시청자 반응부(미도시)의 동작 정보들을 통해서 컨텐츠와 시청 정보 관계를 스스로 학습한다.
한편, 가상 센서 장치(1210) 내의 가상 시각 센서(1212)와 가상 청각 센서(1214)는, 각각 실제 카메라와 마이크 정보도 수집할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 사용자가 영상표시장치(100)를 켜는 시간을 요일별로 통계를 내서 빈도가 높은 시간을 별도로 리스트에 추가하도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)가 꺼져 있더라도 해당 시간이 되면 자동으로 영상표시장치(100)를 켜거나 사용자에게 영상표시장치(100)를 켤지 여부를 묻는 동작이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100) 주변에 사람이 있는 지를 감지할 수 있는 모션 센서나 이에 해당하는 장치가 있는 상태에서, 사람이 없다고 인지되는 경우, 영상표시장치(100)가 온(On) 되지 않도록 제어할 수 있다. 한편, 사람이 있다고 인지되는 경우, 바양한 방식으로, 영상표시장치(100)가 온 되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 유저 인터페이스(UI)를 통해, 해당 기능이 Enable된 경우, 해당 시간에 영상표시장치(100)가 온 되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 디스플레이(180)가 온 되고 않고, 사운드 기반 하에, 온 되도록 하는 사운드가 입력되는 경우, 영상표시장치(100)가 온 되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 애플리케이션이나, 영상표시장치(100)가 온 되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)의 온 시, 시청자가 해당 시간에 선호하는 채널과 그 채널의 영상 장르에 따른 선호 화질 세팅도 자동 반영되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)의 온 직후, 조도 센서와 마이크가 활성화되어, 주변 조도 값과 주변 소음 및 음성 인식이 되면, 선호 화질과 음량 세팅이 반영되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100) 온 이전에, 조도 센서와 마이크가 감지되는 경우, 영상표시장치(100)의 온 시, 함께 활성화되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 각종 통계 분석이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 각종 통계 분석과 관련하여, 미리 지정한 수만큼 데이터가 확보되어, 선호하는 값으로 인정이되는 경우, 각종 데이터 선정과 세팅을 결정할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 음성 인식이 되는 경우, 각 통계 분석을 음성 아이디(ID)에 따라 별도로 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100) 온 시, 원격제어장치(200), 조도센서, 마이크 등의 센서 감지 결과값에 따라, 미리 정해진 데이터베이스의 정보들을 세팅하도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)의 온 이후, 시청자의 발화로 음성 인식이 되는 경우, 해당 시청자의 선호 값을 조정할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)의 온 전에, 시청자의 음성 인식이 되는 경우, 영상표시장치(100)의 온 시에, 바로, 시청자의 선호값으로 설정할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)의 온 상태에서, 모션 센서에 의해서 시청자가 유효 범위에 있지 않은 경우, 영상표시장치(100) 동작 모드를 변경할 수 있다.
예를 들어, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 영상표시장치(100)의 전체 OFF 모드, 영상표시장치(100)의 디스플레이 오프 모드, 영상표시장치(100)의 최소 동작 모드, 밝기 저하 모드, 화질 처리 최소화 모드, 기본 기능 수행 모드 중 어느 하나의 동작 모드로 변경할 수 있다.
한편, 도 15a를 참조하면, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 실제 시각 센서(1224)를 통해, 센싱된 정보에 기초하여, 시청자의 표정과 몸짓, 시청자 인식 등이 추출되며, 이에 기초하여, 현재 반응, 반응 변화 등의 맥락을 추출할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 실제 청각 센서(1226)를 통해, 센싱된 정보에 기초하여, 검색 정보와 취향, 선호, 시청자 반응 표현 등이 추출되며, 이에 기초하여, 검색, 취향, 선호 선택 빈도, 현재 감정 등의 맥락을 추출할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 정보 수신부(1223)를 통해, 입력 선택, 세팅 정보 등이 추출되며, 이에 기초하여, 선호 입력, 채널, 선호 세팅 등의 맥락을 추출할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 조도 센서 등을 통해, 입력 선택, 주변 밝기 등이 추출되며, 이에 기초하여, 환경 취향, 화면 밝기 등의 맥락을 추출할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 모션 센서 등을 통해, 시청 여부 등이 추출되며, 이에 기초하여, 시청 집중도 등의 맥락을 추출할 수 있다.
도 15b를 참조하여, 영상표시장치(100) 내의 인공 지능 처리부(1230)의 동작을 설명하면, 원격제어장치(200)의 파워 온 키 동작에 의해, 요일 별 파워 온 시간 통계 등의 정보 처리가 가능하며, 해당 시간에 웨이크 온 또는 안내 등이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 원격제어장치(200)의 채널 조절키(KBc) 동작에 의해, 요일, 시간 대 별 시청 채널 통계 등의 정보 처리가 가능하며, 파워 온시 자동 채널 설정 등이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 원격제어장치(200)의 음량 조절키(KBa) 동작에 의해, 주변 소음 대비 시청자 음량 조절 행동 분석 등의 처리가 가능하며, 자동 음량 조절 등이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 원격제어장치(200)의 화질 조절키(KBb) 동작에 의해, 주변 소음 대비 시청자 화질 조절 행동 분석 등의 처리가 가능하며, 자동 화질 조절 등이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 마이크를 통한 주변 소음, 기동어, 성문 입력 등에 대해, 각각 주변 소음, 시청자 발화 여부 분석, 기동어 인식, 성문 인식 등의 처리가 가능하며, 이에 따라, 주변 소음과 시청자 발화에 적응적인 음량 조정, 웨이크 및 후속 입력 처리, 성문 인식 처리 등이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 조도 센서를 통한 주변 밝기 정보에 기초하여 밝기 크기 수치화 등의 처리가 가능하며, 적응적인 밝기 조절, 컨트라스트 조정 등이 수행되도록 제어할 수 있다.
한편, 영상표시장치(100) 내의 인공 지능 처리부(1230)는, 위치 센서, 모션 센서를 통한 시청자 유무, 시청자 위치 정보에 기초하여, 시청자가 근처에 있는 지 여부, 시청자와 영상표시장치 사이의 이루는 각도 등을 분석하고, 시청자가 없는 경우 오프 모드 또는 최소 동작 모드로 전환되도록 제어하거나, 시청 각도 최적의 화질 또는 사운드로 조정 등이 수행되도록 제어할 수 있다.
한편, 신호 처리부(170)는, 입력 영상과 관련된 데이터를 처리하며, 가상 센서 장치(1210)는, 신호 처리부(170)에서 처리된 데이터 정보를 수신하며, 인공 지능 처리부(1230)는, 데이터 정보, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 원격제어장치(200)로부터의 사용자 입력 신호를 수신하고, 센서 장치(1220)는, 사용자 입력 신호에 대한 정보를 수집하고, 인공 지능 처리부(1230)는, 사용자 입력 신호에 대한 정보, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 센서 장치(1220)는, 조도 센서로부터의 조도 정보, 모션 센서로부터의 모션 정보에 기초하여, 시청 환경 정보를 수집하고, 인공 지능 처리부(1230)는, 시청 환경 정보, 가상 센서 장치(1210)로부터의 영상 정보와 오디오 정보, 및 센서 장치(1220)로부터의 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 입력 영상의 영상 처리 또는 오디오 처리가 수행되도록 제어할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리 또는 오디오 처리가 수행될 수 있게 된다.
한편, 센서 장치(1220)는, 카메라로부터 외부의 캡쳐된 이미지 정보를 수집하며, 마이크로부터 외부의 사운드 정보를 수집할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 시청 환경 정보는, 화면 밝기 정보, 시청 집중도 정보 중 적어도 하나를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 영상 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 화질 처리를 수행하는 화질 처리부(635)를 포함하며, 화질 처리부(635)는, 가상 센서 장치(1210)로부터의 영상 정보, 및 센서 장치(1220)로부터의 이미지 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 입력 영상의 영상 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 조도에 따른 화질 설정 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 오디오 처리를 수행하는 오디오 처리부(370)를 포함하며, 오디오 처리부(370)는, 가상 센서 장치(1210)로부터의 오디오 정보, 및 센서 장치(1220)로부터의 사운드 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 입력 영상에 대응하는 오디오의 오디오 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 주변 소음에 따른 음량 설정 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
도 15c는 원격제어장치와 마이크 감지에 따른 동작 순서도를 도시한다.
먼저, 원격제어장치(200)가 감지되는 경우(S1502), 인공 지능 처리부(1230)는, 온 시간을 추출하고(S1504), 시청 채널과 시청 시간 추출하고(S1506), 화질 세팅 조절값을 추출하고(S1508), 음량 세팅 조절값을 추출(S1510)할 수 있다.
한편, 제1504 단계 내지 1510 단계의 각각의 추출에 대응하여, 인공 지능 처리부(1230)는, 온 시간 통계 분석(S1522), 요일/시간 별 선호 채널 통계 분석(S1523), 영상 장르별 화질 세팅 통계 분석(S1524), 조도별 화질 세팅 통계 분석(S1526), 주변 소음 및 화자 여부 별 음량 세팅 통계 분석(S1527) 등을 수행할 수 있다.
그리고, 제1522 단계 내지 1527 단계에 각각 대응하여, 인공 지능 처리부(1230)는, 온 시간 후보 선정(S1532), 해당 시간 선호 채널 선정(S1533), 채널 프로그램의 화질 세팅(S1534), 현재 조도의 선호 화질 세팅(S1536), 선호 음량 세팅(S1537) 등을 수행할 수 있다.
한편, 모션 센서 감지(S1542)에 기초하여, 인공 지능 처리부(1230)는, 사람 존재 여부를 판정하고(S1544), 이에 기초하여, 온 시간 여부 트리거(S1546), 온 여부 확인(S1548), 온(On) 동작(S1550), 선호 화질 및 음량 세팅(S1555) 등을 수행할 수 있다.
한편, 마이크 감지(S1570)에 기초하여, 인공 지능 처리부(1230)는, 주변 음량 추출(S1571), 음성 추출(S1572), 음성 인식 및 데이터 베이스 등록(S1574) 등을 수행할 수 있다.
그리고, 인공 지능 처리부(1230)는, 음성 추출(S1572), 음성 인식 및 데이터 베이스 등록(S1574) 등에 기초하여, 시청자 아이디를 구분하고, 구분된 시청자 아이디에 기초하여, 각각 제1527 단계의 음량 세팅 통계 분석 또는, 제1537 단계의 선호 음량 세팅 등을 수행하도록 제어할 수 있다.
도 16은 음량 조절키(KBa), 화질 조절키(KBb), 채널 조절키(KBc)를 구비하는 원격제어장치(200)를 예시한다.
음량 조절키(KBa), 화질 조절키(KBb), 채널 조절키(KBc)에 의해, 각각 음량 조절, 화질 조절, 채널 조절 등이 수행될 수 있다.
한편, 신호 처리부(170)는, 화질 조절키(KBb)에 의해 설정되는 밝기, 대비, 선명도, 채도 정보 중 적어도 하나에 기초하여, 인공 지능 처리부(1230)에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다.
도 17은 본 발명의 실시예에 따른 영상표시장치의 동작 방법을 나타내는 순서도이고, 도 18 내지 도 20b는 도 17의 동작 방법의 설명에 참조되는 도면이다.
도면을 참조하면, 영상표시장치(100)의 인공 지능 처리부(1230)는, 원격제어장치를 감지하고(S1710), 감지된 원격제어장치의 동작에 기초하여, 화질 세팅 조절값을 추출하고(S1720), 해당 화질 세팅값을 추출하고(S1730), 추출된 화질 세팅값에 기초하여 화질 설정을 적용하도록 제어할 수 있다(S1740).
예를 들어, 영상표시장치(100)의 인공 지능 처리부(1230)는, 설정된 화질에 따라, 노이즈 리덕션 설정값, 샤프니스 설정값에 대응하는 화질 처리가 수행되도록 제어할 수 있다.
다른 예로, 영상표시장치(100)의 인공 지능 처리부(1230)는, 입력 영상의 해상도 정보, 부호화 정보 등에 기초하여, 설정된 화질에 따라, 노이즈 리덕션 설정값, 샤프니스 설정값에 대응하는 화질 처리가 수행되도록 제어할 수 있다.
한편, 도 16의 화질 조절키(KBb)는, 도 18과 같은, 다양한 화질 세팅을 위해 동작할 수 있다.
예를 들어, 영상표시장치(100)의 인공 지능 처리부(1230)는, 화질 조절키(KBb)의 조작에 의해, 밝기 정보, 대비 정보, 선명도 정보, 채도 정보 등의 설정을 수행하고, 해당 설정에 따라, 영상의 밝기, 대비, 선명도, 채도 등이 설정되도록 제어할 수 있다.
도 16에서는, 각 밝기 정보, 대비 정보, 선명도 정보, 채도 정보 등이, 0 단계에서 K-1 단계까지 하여, K 단계로 구분되도록 하고 있으며, 이와 달리 다양한 변형 예가 가능하다.
한편, 영상표시장치(100)의 인공 지능 처리부(1230)는, 각 단계의 설정값들을 주변 조도값을 기준으로 연산할 수 있다.
영상표시장치(100)의 인공 지능 처리부(1230)는, 실제 사용자 별로 조도에 따른 선호 설정값 수준이 다를 수 있으므로, 사용자 환경의 조도값에 따라 사용자가 재조정하는 단계를 학습하여 조도값과 단계를 각각 재매핑할 수도 있다.
한편, 신호 처리부(170)는, 센서 장치(1220)에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 화질에 따라, 화질 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 화질 처리가 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 센서 장치(1220)에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 인공 지능 처리부(1230)에서 설정된 음질에 따라, 오디오 처리를 수행할 수 있다. 이에 따라, 인공지능 기반하에, 오디오 처리가 수행될 수 있게 된다.
도 19는 시청자의 위치 또는 존재 여부를 감지하기 위해 참조되는 도면이다.
도면을 참조하면, 영상표시장치(100)에 위치 센서 또는 모션 센서 또는 원격제어장치(200) 등이 구비되는 경우, 인공 지능 처리부(1230)는, 각 센서로부터의 센싱 정보에 기초하여, 시청자의 위치, 각도, 거리 등을 연산할 수 있다.
특히, 도면과 같이, 인공 지능 처리부(1230)는, 영상표시장치(100)와 시청자 사이의 위치, 각도 등을 연산할 수 있다.
도면에서는, 시청자가, PA, PB,PC에 각각 위치하는 경우의, 각도 등을 예시한다.
한편, PB 위치가 아닌, PA 또는 PC 등에 시청자가 위치하는 경우, 영상 또는 오디오에 왜곡이 발생할 수 있으므로, 이를 방지하기 위해, 인공 지능 처리부(1230)는, 시청자의 위치, 각도, 거리 등을 고려하여, 영상 처리, 화질 처리, 오디오 처리 등이 수행되도록 제어할 수 있다. 이에 따라, 시청자 위치에 적합한, 영상 또는 오디오의 시청이 가능하게 된다.
도 20은 가상 센서 중 오디오와 메타 데이터 관련하여, 인공 지능 처리부(1230)의 동작 설명을 위해 참조되는 도면이다.
도면을 참조하면, 가상 센서 중 오디오와 관련하여, 컨텐츠 음질, 컨텐츠 장르, 오브젝트 사운드, 음성 등이 입력될 수 있으며, 인공 지능 처리부(1230)는, 각각에 대응하여, 음질 분류, 오디오 특정 정보 활용, 사운드 종류 분류, 음성의 텍스트 변환 등의 처리를 수행할 수 있으며, 각 음질 요소의 최적 튜닝, 장르 별 자동 음향 모드 설정, 사운드 종류 별 음질 튜닝, 물체 인식 및 시청자와의 대화, 텍스트 기반 컨텐츠 내용 파악 등이 수행되도록 제어할 수 있다.
한편, 가상 센서 중 메타 데이터와 관련하여, 방송 EPG, HDMI, 자막 캡션, 음성 캡션 등이 입력될 수 있으며, 인공 지능 처리부(1230)는, 각각에 대응하여, 선택된 컨텐츠 정보와 시청 취향 연결, 선택 빈도와 시청 습관 연결, 메타 데이터 활용, 캡션으로 제공되는 텍스트 데이터 활용, 음성으로 제공되는 캡션을 텍스트로 변환 등의 처리를 수행할 수 있으며, 컨텐츠 추천, 시청 자동 예약, 자동 온, 규격에 대응하는 처리, 텍스트 기반 커넨츠 내용 파악 등이 수행되도록 제어할 수 있다.
도 21은 본 발명의 다른 실시예에 따른 영상표시장치의 내부 블록도의 일예이다.
도면을 참조하면, 신호 처리부(170)는, 입력 영상 내의 오브젝트를 검출하는 오브젝트 검출부(2120)와, 오브젝트 인식을 위한 학습을 수행하는 오브젝트 인식 학습부(2160)와, 오브젝트 인식 학습부(2160)로부터의 정보와, 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부(2170)를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 오브젝트 인식이 수행될 수 있게 된다.
한편, 신호 처리부(170)는, 외부로부터 수신되는 오브젝트 인식 정보를 처리하는 오브젝트 정보 처리부(2140), 오브젝트 영역 가공부(2130)를 더 포함할 수 있다.
오브젝트 영역 가공부(2130)에서 가공된 정보가, 네트워크 인터페이스부(135) 내의 네트워크 송신부(135a)를 통해, 서버(600)로 전송되며, 서버(600)의 오브젝트 인식부(630)를 통해 인식된 물체 인식 정보가, 네트워크 인터페이스부(135) 내의 네트워크 수신부(135b)를 통해, 오브젝트 정보 처리부(2140)로 입력될 수 있다. 이에 따라, 외부의 서버로부터의 정보에 기반한, 오브젝트 인식이 수행될 수 있게 된다.
한편, 오브젝트 인식부(2170)는, 오브젝트 인식 학습부(2160)로부터의 정보와, 검출된 오브젝트와, 외부로부터 수신되는 오브젝트 인식 정보에 기초하여, 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부(2170)를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 오브젝트 인식이 수행될 수 있게 된다.
한편, 영상표시장치(100)에 영상이 입력이 되면, 원본 그대로 사용하기 보다는, 오브젝트 검출 처리하기에 적합한 영상 사이즈로 가공되는 것이 바람직하다.
즉, 여러 수준의 해상도로 영상을 생성하면, 다양한 크기의 오브젝트에 대해서 분석이 용이해진다.
예를 들어, 얼굴을 검출할 경우 화면에 보여지는 얼굴의 크기는, 카메라 취득 및 제작자 의도에 따라 상당히 다양하게 된다. 작은 얼굴부터 화면을 가득 채우는 크기까지 나타날 수 있다.
얼굴이 큰 경우 작게 줄인 영상을 이용하면 원본 해상도의 작은 얼굴과 유사한 크기가 되어 얼굴 검출 처리 입력이 정규화된다.
오브젝트 검출 후에는 서버(600)에서 오브젝트를 인식할 수 있도록 오브젝트 영역 정보를 전송하게 된다.
한편, 서버(600)를 통해, 오브젝트 인식 정보를 수신하는 경우, 오브젝트 인식 정보로 처리하고, 그 결과를 디스플레이(180) 또는 오디오 출력부를 통해 출력되도록 제어할 수 있다.
한편, 일부 오브젝트의 경우는 영상표시장치(100) 내에서 인식을 수행할 수도 있다.
한편, 사운드 입력에 대해서도 각 오브젝트의 사운드에 대해서 동일한 컨셉으로 사운드 인식을 하고, 영상표시장치(100)에서 오브젝트의 사운드 인식을 학습할 수 있다.
도 22는 본 발명의 다른 실시예에 따른 신호 처리 장치의 내부 블록도의 일예이고, 도 23은 도 22의 동작 설명에 참조되는 도면이다.
한편, 신호 처리부(170)는, 입력 영상 내의 텍스트 영역을 추출하는 영역 추출부(2220)와, 추출된 텍스터 영역을 텍스트로 변환하는 텍스트 변환부와, 변환된 텍스트로부터 정보를 추출하는 정보 추출부와, 추출된 정보에 대한 장르를 분석하는 장르 분석부를 포함할 수 있다. 이에 따라, 인공지능 기반하에, 텍스트 변환이 수행될 수 있게 된다.
도 23은, 디스플레이(180)에 영상(2300)이 표시된 상태에서, 프로그램 제목(2318)은 좌측 상단에 표시되고, 방송사 로고(2315)는 우측 상단에 표시되고, 자막(2310)은 하단에 표시되는 것을 예시한다.
이와 같이, 영상(2300) 내에 다양한 형태의 텍스트가 삽입되는 경우, 좌측 상단, 우측 상단, 하단과 같은 특정 영역을 추출하고, 추출된 영역에 대해, 텍스트 변환을 수행할 수 있다.
그리고, 변환된 텍스트에 기초하여, 영상표시장치(100)에 표시되는 영상에 대한 정보, 특히 프로그램의 정보를 얻을 수 있게 된다.
이러한 정보는 시청자의 선호 채널과 선호 프로그램을 구하기 위한 통계 처리에 사용할 수 있고, 장르 별 화질/사운드 최적 세팅에 응용할 수도 있다.
추출 영역은 대부분의 방송 프로그램의 Text 표시 영역을 포함하도록 대표 영역을 하나 지정할 수 있다.
또는, 방송사 별로 표시 특성이 다르다면 각 방송사 별로 추출 영역을 따로 지정할 수도 있다.
이 경우 텍스트가 영역에 포함되는 지 여부 자체로도 쉽게 텍스트를 분류할 수도 있다.
텍스트 변환부(2230)는 추출한 영역으로부터 텍스트를 추출한다.
추출하는 방법은, 에지(Edge)를 추출하고 매칭하는 신호처리 방법을 적용하거나, 딥러닝으로 각 문자(한글, 알파벳)를 추출할 수도 있다.
방송사 로고나 프로그램 정보들은 방송 EPG, 네트워크 등을 통해서 텍스트 형태로 영상표시장치(100)로 제공되므로, 영상표시장치(100)에서 활용하고자 하는 정보들의 데이터 베이스의 텍스트들과 비교를 함으로써 정보를 추출할 수 있다.
장르 정보도 프로그램 별로 이미 알려지기 때문에 정보 추출 후에는 장르도 분류하여 장르 별 영상 또는 사운드 표시 방식을 변경할 수 있다. 한편, 시청자 별로 선호 정보를 누적하여 활용할 수도 있다.
한편, 본 발명의 실시예에 따른 영상표시장치(100)는, 단순 컨텐츠 제공 뿐만이 아니라, 컨텐츠 분석 및 시청자 반응 분석을 통해서 시청자와 소통할 수 있는 인공지능 영상표시장치(100)일 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.

Claims (18)

  1. 입력 영상의 영상 처리를 수행하며, 상기 입력 영상에 대응하는 오디오의 오디오 처리를 수행하는 신호 처리부;
    상기 신호 처리부에서의 영상 처리된 영상 정보와, 상기 신호 처리부에서 오디오 처리된 오디오 정보를 수신하는 가상 센서 장치;
    외부의 캡쳐된 이미지 정보 또는 사운드 정보를 수집하는 센서 장치;
    상기 가상 센서 장치로부터의 상기 영상 정보와 상기 오디오 정보, 및 상기 센서 장치로부터의 상기 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 상기 입력 영상의 상기 영상 처리 또는 상기 오디오 처리가 수행되도록 제어하는 인공 지능 처리부;를 포함하는 것을 특징으로 하는 영상표시장치.
  2. 제1항에 있어서,
    상기 신호 처리부는,
    상기 입력 영상과 관련된 데이터를 처리하며,
    상기 가상 센서 장치는,
    상기 신호 처리부에서 처리된 데이터 정보를 수신하며,
    상기 인공 지능 처리부는,
    상기 데이터 정보, 상기 가상 센서 장치로부터의 상기 영상 정보와 상기 오디오 정보, 및 상기 센서 장치로부터의 상기 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 상기 입력 영상의 상기 영상 처리 또는 상기 오디오 처리가 수행되도록 제어하는 것을 특징으로 하는 영상표시장치.
  3. 제1항에 있어서,
    상기 신호 처리부는,
    원격제어장치로부터의 사용자 입력 신호를 수신하고,
    상기 센서 장치는,
    상기 사용자 입력 신호에 대한 정보를 수집하고,
    상기 인공 지능 처리부는,
    상기 사용자 입력 신호에 대한 정보, 상기 가상 센서 장치로부터의 상기 영상 정보와 상기 오디오 정보, 및 상기 센서 장치로부터의 상기 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 상기 입력 영상의 상기 영상 처리 또는 상기 오디오 처리가 수행되도록 제어하는 것을 특징으로 하는 영상표시장치.
  4. 제1항에 있어서,
    상기 센서 장치는,
    조도 센서로부터의 조도 정보, 모션 센서로부터의 모션 정보에 기초하여, 시청 환경 정보를 수집하고,
    상기 인공 지능 처리부는,
    상기 시청 환경 정보, 상기 가상 센서 장치로부터의 상기 영상 정보와 상기 오디오 정보, 및 상기 센서 장치로부터의 상기 이미지 정보 또는 사운드 정보에 기초하여, 인공지능 기반하에, 상기 입력 영상의 상기 영상 처리 또는 상기 오디오 처리가 수행되도록 제어하는 것을 특징으로 하는 영상표시장치.
  5. 제1항에 있어서,
    상기 센서 장치는,
    카메라로부터 외부의 캡쳐된 이미지 정보를 수집하며, 마이크로부터 외부의 사운드 정보를 수집하는 것을 특징으로 하는 영상표시장치.
  6. 제1항에 있어서,
    상기 시청 환경 정보는, 화면 밝기 정보, 시청 집중도 정보 중 적어도 하나를 포함하는 것을 특징으로 하는 영상표시장치.
  7. 제1항에 있어서,
    상기 신호 처리부는,
    화질 처리를 수행하는 화질 처리부를 포함하며,
    상기 화질 처리부는,
    상기 가상 센서 장치로부터의 상기 영상 정보, 및 상기 센서 장치로부터의 상기 이미지 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 화질에 따라, 상기 화질 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  8. 제7항에 있어서,
    상기 신호 처리부는,
    상기 입력 영상의 영상 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 화질에 따라, 상기 화질 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  9. 제1항에 있어서,
    상기 신호 처리부는,
    상기 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 조도에 따른 화질 설정 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 화질에 따라, 상기 화질 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  10. 제1항에 있어서,
    상기 신호 처리부는,
    오디오 처리를 수행하는 오디오 처리부를 포함하며,
    상기 오디오 처리부는,
    상기 가상 센서 장치로부터의 상기 오디오 정보, 및 상기 센서 장치로부터의 상기 사운드 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 음질에 따라, 상기 오디오 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  11. 제10항에 있어서,
    상기 신호 처리부는,
    상기 입력 영상에 대응하는 상기 오디오의 오디오 타입, 시청자와 관련한 시청 환경 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 음질에 따라, 상기 오디오 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  12. 제1항에 있어서,
    상기 신호 처리부는,
    상기 영상표시장치의 온 시간 정보, 채널 정보, 영상 장르 정보, 주변 소음에 따른 음량 설정 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 음질에 따라, 상기 오디오 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  13. 제1항에 있어서,
    음량 조절키, 화질 조절키, 채널 조절키를 구비하는 원격제어장치;를 더 포함하며,
    상기 신호 처리부는,
    상기 화질 조절키에 의해 설정되는 밝기, 대비, 선명도, 채도 정보 중 적어도 하나에 기초하여, 상기 인공 지능 처리부에서 설정된 화질에 따라, 상기 화질 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  14. 제1항에 있어서,
    상기 신호 처리부는,
    상기 센서 장치에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 화질에 따라, 상기 화질 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  15. 제1항에 있어서,
    상기 신호 처리부는,
    상기 센서 장치에서 캡쳐된 이미지 정보에 따라, 연산되는 시청자의 위치 정보에 기초하여, 상기 인공 지능 처리부에서 설정된 음질에 따라, 상기 오디오 처리를 수행하는 것을 특징으로 하는 영상표시장치.
  16. 제1항에 있어서,
    상기 신호 처리부는,
    상기 입력 영상 내의 오브젝트를 검출하는 오브젝트 검출부;
    오브젝트 인식을 위한 학습을 수행하는 오브젝트 인식 학습부;
    상기 오브젝트 인식 학습부로부터의 정보와, 상기 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부;를 포함하는 것을 특징으로 하는 영상표시장치.
  17. 제16항에 있어서,
    상기 신호 처리부는,
    외부로부터 수신되는 오브젝트 인식 정보를 처리하는 오브젝트 정보 처리부;를 더 포함하고,
    상기 오브젝트 인식부는, 상기 오브젝트 인식 학습부로부터의 정보와, 상기 검출된 오브젝트와, 상기 외부로부터 수신되는 오브젝트 인식 정보에 기초하여, 상기 검출된 오브젝트에 기초하여, 오브젝트를 인식하는 오브젝트 인식부;를 포함하는 것을 특징으로 하는 영상표시장치.
  18. 제16항에 있어서,
    상기 신호 처리부는,
    상기 입력 영상 내의 텍스트 영역을 추출하는 영역 추출부;
    상기 추출된 텍스터 영역을 텍스트로 변환하는 텍스트 변환부;
    상기 변환된 텍스트로부터 정보를 추출하는 정보 추출부;
    상기 추출된 정보에 대한 장르를 분석하는 장르 분석부;를 포함하는 것을 특징으로 하는 영상표시장치.
KR1020190037434A 2019-03-29 2019-03-29 영상표시장치 KR20200114898A (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020190037434A KR20200114898A (ko) 2019-03-29 2019-03-29 영상표시장치
US17/599,385 US20220198994A1 (en) 2019-03-29 2020-03-27 Image display apparatus
DE112020000942.4T DE112020000942T5 (de) 2019-03-29 2020-03-27 Bildanzeigevorrichtung
PCT/KR2020/004162 WO2020204472A1 (ko) 2019-03-29 2020-03-27 영상표시장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190037434A KR20200114898A (ko) 2019-03-29 2019-03-29 영상표시장치

Publications (1)

Publication Number Publication Date
KR20200114898A true KR20200114898A (ko) 2020-10-07

Family

ID=72666878

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190037434A KR20200114898A (ko) 2019-03-29 2019-03-29 영상표시장치

Country Status (4)

Country Link
US (1) US20220198994A1 (ko)
KR (1) KR20200114898A (ko)
DE (1) DE112020000942T5 (ko)
WO (1) WO2020204472A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022081264A1 (en) * 2020-10-12 2022-04-21 Arris Enterprises Llc Set-top box ambiance and notification controller
CN116048323A (zh) * 2022-05-27 2023-05-02 荣耀终端有限公司 图像处理方法及电子设备

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA3217902A1 (en) * 2021-05-05 2022-11-10 Joshua Lee Systems and methods involving artificial intelligence and cloud technology for edge and server soc

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
HK1082899A2 (en) * 2006-03-02 2006-06-16 Ai network broadcasting system having scene management
US20120293528A1 (en) * 2011-05-18 2012-11-22 Larsen Eric J Method and apparatus for rendering a paper representation on an electronic display
JP2013097298A (ja) * 2011-11-04 2013-05-20 Panasonic Liquid Crystal Display Co Ltd 表示装置
KR101533642B1 (ko) * 2013-03-20 2015-07-06 삼성전자주식회사 수집된 정보에 기초한 영상 처리 방법 및 장치
US10171768B2 (en) * 2015-08-06 2019-01-01 International Business Machines Corporation Curve profile control for a flexible display
KR20170106047A (ko) * 2016-03-11 2017-09-20 삼성전자주식회사 디스플레이 장치의 시청 환경을 생성하는 방법 및 장치
WO2018211350A1 (en) * 2017-05-19 2018-11-22 Semiconductor Energy Laboratory Co., Ltd. Machine learning method, machine learning system, and display system
KR102402513B1 (ko) * 2017-09-15 2022-05-27 삼성전자주식회사 컨텐트를 실행하는 방법 및 장치
KR20200056137A (ko) * 2018-11-14 2020-05-22 삼성전자주식회사 영상 및 오디오 처리 장치 및 그 동작 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022081264A1 (en) * 2020-10-12 2022-04-21 Arris Enterprises Llc Set-top box ambiance and notification controller
US11627377B2 (en) 2020-10-12 2023-04-11 Arris Enterprises Llc Set-top box ambiance and notification controller
CN116048323A (zh) * 2022-05-27 2023-05-02 荣耀终端有限公司 图像处理方法及电子设备
CN116048323B (zh) * 2022-05-27 2023-11-24 荣耀终端有限公司 图像处理方法及电子设备

Also Published As

Publication number Publication date
US20220198994A1 (en) 2022-06-23
WO2020204472A1 (ko) 2020-10-08
DE112020000942T5 (de) 2022-01-05

Similar Documents

Publication Publication Date Title
KR102157545B1 (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
KR102627646B1 (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
US11170488B2 (en) Signal processing device and image display apparatus including the same
US11089423B2 (en) Signal processing device and image display apparatus including the same
US11423867B2 (en) Signal processing device and image display apparatus including the same
US20220198994A1 (en) Image display apparatus
KR20200087979A (ko) 비디오 월
US11315522B2 (en) Image display apparatus
US20220375425A1 (en) Signal processing device and image display apparatus including same
EP3941041A1 (en) Video wall
KR20210035723A (ko) 신호처리장치 및 이를 구비하는 영상표시장치
KR102661826B1 (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
KR102662951B1 (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
US20240153451A1 (en) Signal processing device and image display apparatus including the same
US20220139310A1 (en) Signal processing device and image display apparatus including the same
US20230017271A1 (en) Signal processing device and image display device comprising same
KR20190103047A (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
KR102661824B1 (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
US20210074209A1 (en) Signal processing device and image display apparatus including the same
US20230005452A1 (en) Signal processing device and image display apparatus including the same
KR20200125060A (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치
KR20200113643A (ko) 신호 처리 장치 및 이를 구비하는 영상표시장치