KR20200085115A - Display device and control method thereof - Google Patents

Display device and control method thereof Download PDF

Info

Publication number
KR20200085115A
KR20200085115A KR1020190001244A KR20190001244A KR20200085115A KR 20200085115 A KR20200085115 A KR 20200085115A KR 1020190001244 A KR1020190001244 A KR 1020190001244A KR 20190001244 A KR20190001244 A KR 20190001244A KR 20200085115 A KR20200085115 A KR 20200085115A
Authority
KR
South Korea
Prior art keywords
display
user
controller
display device
input
Prior art date
Application number
KR1020190001244A
Other languages
Korean (ko)
Inventor
유환희
김도희
최고운
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020190001244A priority Critical patent/KR20200085115A/en
Publication of KR20200085115A publication Critical patent/KR20200085115A/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42203—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] sound input device, e.g. microphone
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04806—Zoom, i.e. interaction techniques or interactors for controlling the zooming operation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/221—Announcement of recognition results

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

The present invention relates to a display device and a control method thereof, and more particularly, to a display device capable of improving user convenience by providing an interface capable of controlling a device through a voice of a user in a display device such as a smart TV, and a control method thereof. The display device comprises: a tuner; a communication part; a memory; a microphone; a display; and a controller.

Description

디스플레이 디바이스 및 그 제어 방법 {Display device and control method thereof}Display device and control method thereof

본 발명은 디스플레이 디바이스 및 그 제어 방법에 관한 것으로, 더욱 상세하게는 스마트 TV와 같은 디스플레이 디바이스에서, 사용자의 음성을 통하여 디바이스를 제어할 수 있는 인터페이스를 제공하여, 사용자 편의성을 향상시킬 수 있는 디스플레이 디바이스 및 그 제어 방법에 관한 발명이다.The present invention relates to a display device and a control method thereof, and more specifically, in a display device such as a smart TV, a display device capable of improving user convenience by providing an interface for controlling a device through a user's voice And its control method.

음성 인식(speech recognition, voice recognition) 기술은, 자동적 수단에 의하여 음성으로부터 언어적 의미 내용을 식별하는 것을 의미한다. 최근에는 음성 인식 엔진의 발달로 음성 인식의 성능이 매우 개선되었고, 음성 인식 엔진을 탑재한 휴대폰, TV 등이 등장하고 있다. Speech recognition (speech recognition, voice recognition) technology means to identify the linguistic semantic content from speech by automatic means. Recently, with the development of a speech recognition engine, the performance of speech recognition has been greatly improved, and mobile phones and TVs equipped with a speech recognition engine have appeared.

그러나, 현재까지의 기술은 지정된 발화어 이외에는 발화처리가 불가능하여, 지시대명사를 알아듣지 못하거나, 바로 전 발화를 기억하지 못하는 불편이 있었다. However, the technology to date has been inconvenient for utterance processing other than the designated utterance, so that it is not possible to understand the directive pronoun or to remember the previous utterance.

또한, 음성 인식 시에 현재 표시되는 UI 또는 앱 화면 등을 인식하지 못하여, 음성명령을 발화한 후 화면 내의 자세한 조작을 위해서 별도의 리모컨 입력이 필요한 번거로움이 있었다. In addition, since the currently displayed UI or app screen is not recognized at the time of speech recognition, there is a hassle that a separate remote control input is required for detailed manipulation within the screen after uttering a voice command.

그리고, 종래기술은 음성인식을 통해 기존에 존재하는 간단한 기능을 실행하는 것만이 가능하여, 최근 사용자가 시청한 프로그램의 데이터를 검색하거나, 직전의 발화와 연관된 발화를 제안하지 못하는 문제가 있었다.In addition, in the related art, it is only possible to execute a simple function existing through voice recognition, so that there is a problem in that it is impossible to search for data of a program watched by a user recently or to propose a utterance associated with a previous utterance.

본 발명의 일 실시 예는 사용자의 발화를 기억하고 부족한 정보를 추측하여 사용자의 정확한 의도를 파악하는 것이 가능한 디스플레이 디바이스 및 그 제어 방법을 제공하는 것을 목적으로 한다.One embodiment of the present invention is to provide a display device and a control method capable of grasping a user's speech and guessing insufficient information to grasp the user's exact intention.

본 발명의 다른 실시 예는 디바이스의 UI화면이나 어플리케이션의 화면을 음성명령으로 제어하는 것이 가능한 디스플레이 디바이스 및 그 제어 방법을 제공하는 것을 목적으로 한다. Another embodiment of the present invention is to provide a display device capable of controlling a device UI screen or an application screen with a voice command and a control method thereof.

본 발명의 또 다른 실시 예는 사용자의 시청이력을 음성명령으로 검색할 수 있고, 검색결과와 연관된 발화를 추천하는 디스플레이 디바이스 및 그 제어 방법을 제공하는 것을 목적으로 한다.Another embodiment of the present invention is to provide a display device that can search a user's viewing history by voice command, and recommends a utterance associated with a search result, and a control method thereof.

본 발명의 일 실시 예에 따른, 디스플레이 디바이스는, 방송 신호를 방송국으로부터 수신하는 튜너; 외부 서버 및 외부 리모컨 중 적어도 하나와 통신을 수행하는 통신부; 상기 디스플레이 디바이스의 동작을 위한 데이터를 저장하는 메모리; 상기 수신된 방송 신호에 포함된 컨텐츠를 화면에 디스플레이하는 디스플레이; - 상기 컨텐츠는 상기 외부 서버로부터 수신하거나 또는 메모리에 저장되어 있음 - 음성 신호를 입력하는 마이크; 음성 신호를 출력하는 스피커; 및 상기 튜너, 통신부, 메모리, 및 디스플레이, 마이크, 스피커 중 적어도 하나를 제어하는 제어부를 포함하고, 상기 제어부는, 사용자가 지시대명사를 포함하는 발화를 하는 경우, 현재 재생 중인 컨텐츠와 관련된 정보를 디스플레이한다.According to an embodiment of the present invention, a display device includes: a tuner that receives a broadcast signal from a broadcasting station; A communication unit performing communication with at least one of an external server and an external remote control; A memory for storing data for operation of the display device; A display for displaying content included in the received broadcast signal on a screen; -The content is received from the external server or stored in a memory-A microphone for inputting a voice signal; A speaker outputting a voice signal; And a control unit controlling at least one of the tuner, communication unit, memory, and display, microphone, and speaker, wherein the control unit displays information related to the currently playing content when the user makes a speech including an indication pronoun. do.

본 발명의 다른 실시 예에 따른, 디스플레이 디바이스의 제어 방법은, 방송 신호를 방송국으로부터 수신하는 단계; 수신된 상기 방송 신호에 포함된 컨텐츠를 화면에 디스플레이하는 단계- 상기 컨텐츠는 상기 외부 서버로부터 수신하거나 또는 내부 메모리에 저장되어 있음 -; 음성 인식을 활성화 하는 단계; 사용자의 발화를 스피커로 수신하는 단계; 수신된 사용자의 발화 중 지시대명사의 포함 여부를 판단하는 단계; 및 수신된 사용자의 발화에 지시대명사가 포함된 경우, 현재 재생 중인 컨텐츠와 관련된 정보를 디스플레이한다.According to another embodiment of the present invention, a control method of a display device includes: receiving a broadcast signal from a broadcasting station; Displaying the content included in the received broadcast signal on a screen, the content being received from the external server or stored in an internal memory; Activating speech recognition; Receiving a user's speech through a speaker; Determining whether an indicative pronoun is included in the received user's speech; And if an indication pronoun is included in the received user's speech, information related to the content currently being played is displayed.

본 발명의 일 실시 예에 따르면, 본 발명은 사용자의 발화를 기억하고 부족한 정보를 추측함으로써 사용자의 정확한 의도를 파악하여, 빠진 정보를 사용자에게 질의할 수 있으므로, 사용자 편의성을 향상시킬 수 있다.According to one embodiment of the present invention, the present invention can improve user convenience by grasping the user's speech and guessing the insufficient information to grasp the exact intention of the user and query the missing information to the user.

본 발명의 다른 실시 예에 따르면, 본 발명은 디바이스의 UI화면이나 어플리케이션의 화면을 음성명령으로 제어하여, 보다 직관적으로 UI 화면을 제어할 수 있으므로 사용자 편의성을 향상시킬 수 있다. According to another embodiment of the present invention, the present invention can improve user convenience by controlling a UI screen of a device or a screen of an application with a voice command, so that the UI screen can be more intuitively controlled.

본 발명의 또 다른 실시 예에 따르면, 본 발명은 사용자의 시청이력을 음성명령으로 검색할 수 있고, 현재 명령어와 연관된 발화를 추천하여, 사용자는 자신이 원하는 컨텐트를 시청할 수 있으므로, 사용자 편의성을 향상시킬 수 있다.According to another embodiment of the present invention, the present invention can search the user's viewing history by voice command, and recommend the utterance associated with the current command, so that the user can watch the desired content, thereby improving user convenience I can do it.

도 1은 본 발명의 일 실시 예에 따른 디지털 디바이스를 포함한 서비스 시스템을 개략적으로 설명하기 위해 도시한 도면이다.
도 2는 본 발명의 일 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다.
도 3은 본 발명의 다른 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다.
도 4는 본 발명의 또 다른 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다.
도 5는 본 발명의 일 실시 예에 따라 도 2 내지 4의 제어부의 상세 구성을 설명하기 위해 도시한 구성 블록도이다.
도 6은 본 발명의 일 실시 예에 따른 도 2 내지 4의 디지털 디바이스와 연결된 인풋 수단을 도시한 도면이다.
도 7은 본 발명의 일 실시 예에 따른 웹OS 아키텍처를 설명하기 위해 도시한 도면이다.
도 8은 본 발명의 일 실시 예에 따른 웹OS 디바이스의 아키텍처를 설명하기 위해 도시한 도면이다.
도 9는 본 발명의 일 실시 예에 따른 웹OS 디바이스에서 그래픽 컴포지션 플로우를 설명하기 위해 도시한 도면이다.
도 10은 본 발명의 일 실시 예에 따른 미디어 서버를 설명하기 위해 도시한 도면이다.
도 11은 본 발명의 일 실시 예에 따른 미디어 서버의 구성 블록도를 설명하기 위해 도시한 도면이다.
도 12는 본 발명의 일 실시 예에 따른 미디어 서버와 TV 서비스의 관계를 설명하기 위해 도시한 도면이다.
도 13은 본 발명의 실시 예들에 따른 영상표시기기 중 임의의 어느 하나를 제어하는 원격제어장치의 제어 방법을 도시한 도면이다.
도 14는 본 발명의 실시 예들에 따른 영상표시기기 중 임의의 어느 하나를 제어하는 원격제어장치의 내부 블록도이다.
도 15는 본 발명의 일 실시 예에 따른 디스플레이 디바이스의 구성도이다.
도 16은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스의 제어 방법을 도시한 도면이다.
도 17은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스에서 음성 입력 시스템의 UI를 디스플레이 하는 것을 도시한 도면이다.
도 18은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스에서 음성 입력 시스템의 입력 단계별 UI를 디스플레이 하는 것을 도시한 도면이다.
도 19는 본 발명의 일 실시 예에 따른, 사용자가 Live TV 카테고리를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 20은 본 발명의 일 실시 예에 따른, 사용자가 Upcoming 카테고리를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 21은 본 발명의 일 실시 예에 따른, 사용자가 Upcoming 카테고리의 컨텐츠를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 22은 본 발명의 일 실시 예에 따른, 사용자가 TV shows 카테고리를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 23은 본 발명의 일 실시 예에 따른, 사용자가 Youtube 카테고리를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 24은 본 발명의 일 실시 예에 따른, 사용자가 Recordings 카테고리를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 25은 본 발명의 일 실시 예에 따른, 사용자가 Apps 카테고리를 선택한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 26은 본 발명의 일 실시 예에 따른, 사용자가 날씨와 관련된 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 27은 본 발명의 일 실시 예에 따른, 사용자가 날씨와 관련된 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 28은 본 발명의 일 실시 예에 따른, 사용자가 시간과 관련된 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 29는 본 발명의 일 실시 예에 따른, 사용자가 인물에 관련된 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 30은 본 발명의 일 실시 예에 따른, 사용자가 영화 감독, 제작연도, 또는 줄거리에 관련된 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 31은 본 발명의 일 실시 예에 따른, 사용자가 시청 이력에 관련된 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 32는 본 발명의 일 실시 예에 따른, 사용자가 Web/웹 검색 버튼을 선택한 경우, 디스플레이 디바이스에서 미니 브라우저를 디스플레이하는 것을 도시한 도면이다.
도 33은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스에서 미니 브라우저를 디스플레이하는 것을 도시한 도면이다.
도 34는 본 발명의 일 실시 예에 따른, 디스플레이 디바이스에서 추천 쿼리를 디스플레이 하는 것을 도시한 도면이다.
도 35는 본 발명의 일 실시 예에 따른, 사용자가 컨텐츠 프로바이더의 이름을 포함하는 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다.
도 36은 본 발명의 일 실시 예에 따른, 컨텐츠 프로바이더의 어플리케이션 실행 중, 사용자가 특정 키워드를 포함하는 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다.
도 37은 본 발명의 일 실시 예에 따른, 사용자가 볼륨 제어와 관련된 발화를 한 경우, 디스플레이 디바이스에서 볼륨 인디케이터를 디스플레이 하는 것을 도시한 도면이다.
도 38은 본 발명의 일 실시 예에 따른, 사용자가 화면 전환과 관련된 발화를 한 경우, 디스플레이 디바이스에서 안내 문구를 디스플레이 하는 것을 도시한 도면이다.
도 39는 본 발명의 일 실시 예에 따른, 사용자의 발화에 대한 확인이 필요한 경우, 디스플레이 디바이스에서 팝업 창을 디스플레이 하는 것을 도시한 도면이다.
도 40는 본 발명의 일 실시 예에 따른, 사용자가 특정 채널로 이동할 것을 발화한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI을 디스플레이 하는 것을 도시한 도면이다.
도 41은 본 발명의 일 실시 예에 따른, 사용자가 검색을 원하는 키워드를 발화한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.
도 42는 본 발명의 일 실시 예에 따른, 사용자가 컨텐츠 추천을 요청하는 발화를 한 경우, 디스플레이 디바이스에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다.
도 43는 본 발명의 일 실시 예에 따른, 사용자가 화면 밝기에 관련된 발화를 한 경우, 디스플레이 디바이스에서 컨트롤 바를 디스플레이 하는 것을 도시한 도면이다.
도 44는 본 발명의 일 실시 예에 따른, 사용자가 화질에 관련된 발화를 한 경우, 디스플레이 디바이스에 안내 문구를 디스플레이 하는 것을 도시한 도면이다.
도 45는 본 발명의 일 실시 예에 따른, 사용자가 영상 및 음향에 모두 관련된 발화를 하는 경우, 디스플레이 디바이스에서 안내 문구를 디스플레이 하는 것을 도시한 도면이다.
도 46은 본 발명의 일 실시 예에 따른, 사용자가 모바일 기기 연결을 요청하는 발화를 한 경우, 디스플레이 디바이스에서 모바일 기기를 연결하는 것을 도시한 도면이다.
도 47은 본 발명의 일 실시 예에 따른, 사용자가 모바일 기기의 연결을 요청하는 발화를 하고, 2개 이상의 모바일 기기가 연결된 경우, 디스플레이 디바이스에서 연결된 기기 목록을 디스플레이 하는 것을 도시한 도면이다.
도 48은 본 발명의 일 실시 예에 따른, 사용자가 채널을 전환할 것을 요청하는 발화를 하는 경우, 디스플레이 디바이스에서 채널을 전환하는 것을 도시한 도면이다.
도 49는 본 발명의 일 실시예에 따른, 사용자가 게임 기기에 연결할 것을 요청하는 발화를 하는 경우, 디스플레이 디바이스에서 메시지를 디스플레이하는 것을 도시한 도면이다.1 is a view schematically illustrating a service system including a digital device according to an embodiment of the present invention.
2 is a block diagram illustrating a digital device according to an embodiment of the present invention.
3 is a block diagram illustrating a digital device according to another embodiment of the present invention.
4 is a block diagram illustrating a digital device according to another embodiment of the present invention.
5 is a block diagram illustrating a detailed configuration of the control unit of FIGS. 2 to 4 according to an embodiment of the present invention.
6 is a diagram illustrating input means connected to the digital devices of FIGS. 2 to 4 according to an embodiment of the present invention.
7 is a diagram illustrating a web OS architecture according to an embodiment of the present invention.
8 is a diagram illustrating an architecture of a web OS device according to an embodiment of the present invention.
9 is a diagram illustrating a graphic composition flow in a web OS device according to an embodiment of the present invention.
10 is a diagram illustrating a media server according to an embodiment of the present invention.
11 is a diagram illustrating a configuration block diagram of a media server according to an embodiment of the present invention.
12 is a diagram illustrating a relationship between a media server and a TV service according to an embodiment of the present invention.
13 is a diagram illustrating a control method of a remote control device that controls any one of video display devices according to embodiments of the present invention.
14 is an internal block diagram of a remote control device controlling any one of video display devices according to embodiments of the present invention.
15 is a configuration diagram of a display device according to an embodiment of the present invention.
16 is a diagram illustrating a control method of a display device according to an embodiment of the present invention.
17 is a diagram for displaying a UI of a voice input system in a display device according to an embodiment of the present invention.
FIG. 18 is a diagram for displaying an input step-by-step UI of a voice input system in a display device according to an embodiment of the present invention.
19 is a diagram illustrating that a display device displays a voice recognition result UI when a user selects a Live TV category according to an embodiment of the present invention.
FIG. 20 is a diagram illustrating that a display device displays a voice recognition result UI when a user selects an Upcoming category according to an embodiment of the present invention.
21 is a diagram illustrating that a display device displays a voice recognition result UI when a user selects content of an Upcoming category according to an embodiment of the present invention.
22 is a diagram for displaying a voice recognition result UI on a display device when a user selects a TV shows category according to an embodiment of the present invention.
23 is a diagram illustrating that a display device displays a UI for a result of voice recognition when a user selects a Youtube category according to an embodiment of the present invention.
24 is a diagram illustrating that a display device displays a voice recognition result UI when a user selects a Recordings category according to an embodiment of the present invention.
FIG. 25 is a diagram for displaying a voice recognition result UI on a display device when a user selects an Apps category according to an embodiment of the present invention.
26 is a diagram illustrating a display device displaying a voice recognition result UI when a user makes a speech related to weather according to an embodiment of the present invention.
FIG. 27 is a diagram illustrating that a display device displays a voice recognition result UI when a user makes a speech related to weather according to an embodiment of the present invention.
28 is a diagram for a user to display a speech recognition result UI on a display device when a user makes a speech related to time according to an embodiment of the present invention.
FIG. 29 is a diagram for displaying a voice recognition result UI on a display device when a user makes a speech related to a person according to an embodiment of the present invention.
FIG. 30 is a diagram illustrating a display device displaying a voice recognition result UI when a user makes a speech related to a movie director, production year, or plot, according to an embodiment of the present invention.
FIG. 31 is a diagram for displaying a voice recognition result UI on a display device when a user makes a speech related to a viewing history according to an embodiment of the present invention.
FIG. 32 is a diagram for displaying a mini browser on a display device when a user selects a Web/web search button according to an embodiment of the present invention.
33 is a diagram illustrating a mini browser displayed on a display device according to an embodiment of the present invention.
34 is a diagram illustrating displaying a recommendation query on a display device according to an embodiment of the present invention.
FIG. 35 is a diagram for displaying a voice recognition result UI on a display device when a user makes a speech including the name of a content provider according to an embodiment of the present invention.
FIG. 36 is a diagram illustrating that a display device displays a voice recognition result UI when a user makes a utterance including a specific keyword while an application of a content provider is executed according to an embodiment of the present invention.
FIG. 37 is a diagram for displaying a volume indicator on a display device when a user makes a speech related to volume control according to an embodiment of the present invention.
38 is a diagram for displaying a guide phrase on a display device when a user makes a speech related to a screen change according to an embodiment of the present invention.
39 is a diagram illustrating a pop-up window displayed on a display device when confirmation of a user's utterance is required according to an embodiment of the present invention.
FIG. 40 is a diagram for displaying a voice recognition result UI on a display device when a user speaks to move to a specific channel according to an embodiment of the present invention.
41 is a diagram illustrating a display device displaying a voice recognition result UI when a user utters a keyword desired to be searched according to an embodiment of the present invention.
FIG. 42 is a diagram for displaying a voice recognition result UI on a display device when a user makes a speech requesting content recommendation according to an embodiment of the present invention.
FIG. 43 is a diagram for displaying a control bar on a display device when a user makes a speech related to screen brightness according to an embodiment of the present invention.
44 is a diagram for displaying a guide phrase on a display device when a user makes a speech related to image quality according to an embodiment of the present invention.
45 is a diagram for displaying a guide phrase on a display device when a user makes a speech related to both video and sound according to an embodiment of the present invention.
46 is a diagram illustrating a display device connecting a mobile device when a user makes a call requesting a mobile device connection according to an embodiment of the present invention.
FIG. 47 is a diagram illustrating a display device displaying a list of connected devices when a user makes a call requesting a connection of a mobile device and two or more mobile devices are connected according to an embodiment of the present invention.
48 is a diagram illustrating switching of a channel in a display device when a user makes a call requesting to switch channels according to an embodiment of the present invention.
FIG. 49 is a diagram for displaying a message on a display device when a user makes a request to connect to a game device according to an embodiment of the present invention.

이하에서는 도면을 참조하여 본 발명을 보다 상세하게 설명한다. Hereinafter, the present invention will be described in more detail with reference to the drawings.

이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 단순히 본 명세서 작성의 용이함을 고려하여 부여되는 것으로서, 상기 "모듈" 및 "부"는 서로 혼용되어 사용될 수도 있다.The suffixes "modules" and "parts" for components used in the following description are simply given in consideration of the ease of writing this specification, and the "modules" and "parts" may be used interchangeably.

한편, 본 명세서에서 기술되는 영상표시기기는, 예컨대 방송 수신 기능에 컴퓨터 지원 기능을 추가한 지능형 영상표시기기로서, 방송 수신 기능에 충실하면서도 인터넷 기능 등이 추가되어, 수기 방식의 입력 장치, 터치 스크린 또는 공간 리모콘 등 보다 사용에 편리한 인터페이스를 갖출 수 있다. 그리고, 유선 또는 무선 인터넷 기능의 지원으로 인터넷 및 컴퓨터에 접속되어, 이메일, 웹브라우징, 뱅킹 또는 게임 등의 기능도 수행 가능하다. 이러한 다양한 기능을 위해 표준화된 범용 OS가 사용될 수 있다.Meanwhile, the video display device described in the present specification is, for example, an intelligent video display device in which a computer support function is added to a broadcast reception function, while an Internet function or the like is added while being faithful to the broadcast reception function, a handwritten input device, a touch screen Or, it may have a more convenient interface such as a space remote control. In addition, it is connected to the Internet and a computer with the support of wired or wireless Internet functions, and can perform functions such as email, web browsing, banking, or games. A standardized general-purpose OS can be used for these various functions.

따라서, 본 발명에서 기술되는 영상표시기기는, 예를 들어 범용의 OS 커널 상에, 다양한 애플리케이션이 자유롭게 추가되거나 삭제 가능하므로, 사용자 친화적인 다양한 기능이 수행될 수 있다. 상기 영상표시기기는, 보다 구체적으로 예를 들면, 네트워크 TV, HBBTV, 스마트 TV 등이 될 수 있으며, 경우에 따라 스마트폰에도 적용 가능하다.Accordingly, in the video display device described in the present invention, various applications can be freely added or deleted, for example, on a general-purpose OS kernel, so that various user-friendly functions can be performed. The video display device may be, for example, a network TV, an HBBTV, a smart TV, and the like, and may be applied to a smartphone in some cases.

나아가, 이하 첨부 도면들 및 첨부 도면들에 기재된 내용들을 참조하여 본 발명의 실시 예를 상세하게 설명하지만, 본 발명이 실시 예들에 의해 제한되거나 한정되는 것은 아니다. Furthermore, embodiments of the present invention will be described in detail with reference to the accompanying drawings and the contents described in the accompanying drawings, but the present invention is not limited or limited by the embodiments.

본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가지는 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.The terminology used in the present specification is a general terminology that is currently widely used while considering functions in the present invention, but this may vary depending on the intention or custom of a person skilled in the art or the appearance of a new technology. Also, in certain cases, some terms are arbitrarily selected by the applicant, and in this case, their meaning will be described in the description of the applicable invention. Therefore, the terms used in the present specification are intended to clarify that the terms should be interpreted based on the actual meaning of the terms and the contents of the present specification rather than simply the names of the terms.

이하 본 명세서에서 기술되는 “디지털 디바이스(digital device)”라 함은 예를 들어, 데이터(data), 컨텐트(content), 서비스(service), 애플리케이션(application) 등을 송신, 수신, 처리 및 출력 중 적어도 하나 이상을 수행하는 모든 디바이스를 포함한다. 상기 디지털 디바이스는, 유/무선 네트워크(wire/wireless network)를 통하여 다른 디지털 디바이스, 외부 서버(external server) 등과 페어링 또는 연결(pairing or connecting)(이하 '페어링') 가능하며, 그를 통해 소정 데이터를 송/수신할 수 있다. 이때, 필요에 따라, 상기 데이터는 그 송/수신 전에 적절히 변환(converting)될 수 있다. 상기 디지털 디바이스에는 예를 들어, 네트워크 TV(Network TV), HBBTV(Hybrid Broadcast Broadband TV), 스마트 TV(Smart TV), IPTV(Internet Protocol TV), PC(Personal Computer) 등과 같은 고정형 디바이스(standing device)와, PDA(Personal Digital Assistant), 스마트 폰(Smart Phone), 태블릿 PC(Tablet PC), 노트북(Notebook) 등과 같은 모바일 디바이스(mobile device or handheld device)가 모두 포함될 수 있다. 본 명세서에서는 본 발명의 이해를 돕고 출원인의 설명의 편의상 후술하는 도 2에서는 디지털 TV(Digital TV)를 그리고, 도 3에서는 모바일 디바이스를 디지털 디바이스의 일 실시 예로 도시하고 설명한다. 또한, 본 명세서에서 기술되는 디지털 디바이스는, 패널(panel)만을 가진 구성일 수도 있고, 셋톱 박스(STB: Set-Top Box) 등과 같은 구성, 디바이스, 시스템 등과 하나의 세트(SET) 구성일 수도 있다.Hereinafter, the term “digital device” described herein is, for example, transmitting, receiving, processing, and outputting data, content, service, application, and the like. All devices that perform at least one or more are included. The digital device can be paired or connected (hereinafter referred to as'pairing') with another digital device, an external server, or the like through a wire/wireless network, through which a predetermined data is transmitted. You can send/receive. At this time, if necessary, the data can be converted appropriately before the transmission/reception. The digital device includes, for example, a fixed device such as a network TV, a HBBTV (Hybrid Broadcast Broadband TV), a smart TV, an IPTV (Internet Protocol TV), or a personal computer (PC). In addition, a mobile device (mobile device or handheld device) such as a PDA (Personal Digital Assistant), a smart phone (Smart Phone), a tablet PC (Tablet PC), a notebook (Notebook), etc. may be all included. In this specification, for convenience of understanding of the present invention and for convenience of the applicant's explanation, FIG. 2, which will be described later, illustrates and describes a digital TV, and FIG. 3 illustrates a mobile device as an example of a digital device. In addition, the digital device described in this specification may be a configuration having only a panel, a configuration such as a set-top box (STB), a device, a system, and the like, and may be one set (SET) configuration. .

한편, 본 명세서에서 기술되는 “유/무선 네트워크”라 함은, 디지털 디바이스들 또는 디지털 디바이스와 외부 서버 사이에서 페어링 또는/및 데이터 송수신을 위해 다양한 통신 규격 내지 프로토콜을 지원하는 통신 네트워크를 통칭한다. 이러한 유/무선 네트워크는, 규격에 의해 현재 또는 향후 지원될 통신 네트워크를 모두 포함하며, 그를 위한 하나 또는 그 이상의 통신 프로토콜들을 모두 지원 가능하다. 이러한 유/무선 네트워크에는 예컨대, USB(Universal Serial Bus), CVBS(Composite Video Banking Sync), 컴포넌트(Component), S-비디오(아날로그), DVI(Digital Visual Interface), HDMI(High Definition Multimedia Interface), RGB, D-SUB와 같은 유선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜과, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA: infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), LTE/LTE-A(Long Term Evolution/LTE-Advanced), Wi-Fi 다이렉트(direct)와 같은 무선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜에 의하여 형성될 수 있다. Meanwhile, the term “wired/wireless network” described herein refers to a communication network that supports various communication standards or protocols for pairing and/or data transmission and reception between digital devices or digital devices and external servers. Such a wired/wireless network includes all communication networks to be supported by the standard, either presently or in the future, and can support all one or more communication protocols therefor. Such wired/wireless networks include, for example, Universal Serial Bus (USB), Composite Video Banking Sync (CVBS), Component, S-Video (analog), Digital Visual Interface (DVI), High Definition Multimedia Interface (HDMI), Network for wired connection such as RGB, D-SUB and communication standards or protocols therefor, Bluetooth, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), Zigbee (ZigBee), Digital Living Network Alliance (DLNA), Wireless LAN (WLAN) (Wi-Fi), Wireless broadband (Wibro), World Interoperability for Microwave Access (Wimax), High Speed Downlink Packet Access (HSDPA), LTE/LTE -A (Long Term Evolution / LTE-Advanced), can be formed by a network for a wireless connection, such as Wi-Fi direct (direct) and communication standards or protocols therefor.

그 밖에, 본 명세서에서 단지 디지털 디바이스로 명명하는 경우, 그 의미는 문맥에 따라 고정형 디바이스 또는 모바일 디바이스를 의미할 수도 있고 특별히 언급하지 않는다면 양자를 모두 포함하는 의미로 사용될 수 있다.In addition, in the case of referring only to a digital device in the present specification, the meaning may mean a fixed device or a mobile device depending on the context, and may be used to include both unless otherwise specified.

한편, 디지털 디바이스는 예컨대, 방송 수신 기능, 컴퓨터 기능 내지 지원, 적어도 하나의 외부 인풋 등을 지원하는 지능형 디바이스로서, 상술한 유/무선 네트워크를 통해 이메일(e-mail), 웹 브라우징(web browsing), 뱅킹(banking), 게임(game), 애플리케이션(application) 등을 지원할 수 있다. 더불어, 상기 디지털 디바이스는, 수기 방식의 인풋 디바이스, 터치-스크린(touch-screen), 공간 리모콘 등 적어도 하나의 인풋 또는 제어 수단(이하 '인풋 수단'을 지원하기 위한 인터페이스(interface)를 구비할 수 있다. Meanwhile, the digital device is an intelligent device that supports, for example, a broadcast reception function, a computer function or support, at least one external input, and the like, e-mail, web browsing through a wired/wireless network described above. , Banking, games, applications, and the like. In addition, the digital device may include an interface for supporting at least one input or control means (hereinafter referred to as an'input means') such as a handwritten input device, a touch-screen, and a space remote controller. have.

그 밖에, 디지털 디바이스는, 표준화된 범용 OS(Operating System)를 이용할 수 있으나 특히, 본 명세에서 기술되는 디지털 디바이스는, 웹OS를 이용하는 것을 일 실시 예로 한다. 따라서, 디지털 디바이스는 범용의 OS 커널(OS kernel) 또는 리눅스 커널(Linux kernel) 상에 다양한 서비스나 애플리케이션을 추가(adding), 삭제(deleting), 수정(amending), 업데이트(updating) 등을 처리가 가능하며, 그를 통해 더욱 사용자 친화적인(user-friendly) 환경을 구성하여 제공할 수 있다.In addition, the digital device may use a standardized general-purpose operating system (OS), but in particular, the digital device described in this specification uses a web OS as an embodiment. Therefore, the digital device can process various services or applications such as adding, deleting, modifying, and updating various services or applications on the general-purpose OS kernel or Linux kernel. It is possible, through which a more user-friendly environment can be configured and provided.

한편, 상술한 디지털 디바이스는 외부 인풋을 수신하여 처리할 수 있는데 이때, 상기 외부 인풋은, 외부 인풋 디바이스 즉, 상술한 디지털 디바이스와 유/무선 네트워크를 통해 연결되어 데이터를 송/수신하여 처리 가능한 모든 인풋 수단 내지 디지털 디바이스를 포함한다. 예를 들어, 상기 외부 인풋으로 HDMI(High-Definition Multimedia Interface), 플레이스테이션(playstation)이나 엑스-박스(X-Box) 등과 같은 게임 디바이스(game device), 스마트 폰, 태블릿 PC, 포켓 포토(pocket photo) 등과 같은 프린터기(printing device), 스마트 TV, 블루-레이(Blu-ray device) 디바이스 등과 같은 디지털 디바이스들을 모두 포함한다.On the other hand, the above-described digital device can receive and process an external input. At this time, the external input is connected to an external input device, that is, the above-mentioned digital device through a wired/wireless network to transmit/receive data. Input means to digital devices. For example, as the external input, a high-definition multimedia interface (HDMI), a game device such as a Playstation or an X-Box, a smart phone, a tablet PC, a pocket photo, etc. photo) and other digital devices such as a printing device, a smart TV, and a Blu-ray device.

그 밖에, 본 명세서에서 기술되는 “서버”라 함은, 상술한 디지털 디바이스 즉, 클라이언트(client)로 데이터를 공급 또는 그로부터 데이터를 수신하는 디지털 디바이스 혹은 시스템을 의미하며, 프로세서(processor)로 불리기도 한다. 상기 서버로 예컨대, 웹 페이지(web page), 웹 컨텐트 또는 웹 서비스(web content or web service)를 제공하는 웹 서버(Web server)나 포털 서버(portal server), 광고 데이터(advertising data)를 제공하는 광고 서버(advertising server), 컨텐트를 제공하는 컨텐트 서버(content server), SNS(Social Network Service)를 제공하는 SNS 서버, 제조업체(manufacturer)에서 제공하는 서비스 서버(service server), VoD(Video on Demand)나 스트리밍(streaminng) 서비스 제공을 위한 MVPD(Multichannel Video Programming Distributor), 유료 서비스(pay service) 등을 제공하는 서비스 서버 등이 포함될 수 있다.In addition, the term “server” described herein refers to a digital device, that is, a digital device or system that supplies data to or receives data from the client, and is also called a processor. do. To the server, for example, a web server (Web server) or a portal server (portal server) that provides a web page (web page), web content or web service (web content or web service), providing advertising data (advertising data) Advertising server, content server providing content, SNS server providing social network service (SNS), service server provided by manufacturer, video on demand (VoD) B. It may include a multichannel video programming distributor (MVPD) for providing a streaming service, a service server providing a pay service, and the like.

또한, 이하 본 명세서에서 설명의 편의를 위하여 애플리케이션으로만 기술한 경우에도 그 문맥 등을 기초하여 그 의미는 애플리케이션뿐만 아니라 서비스까지 포함하는 의미일 수 있다. 또한, 애플리케이션은 웹OS 프랫폼에 따른 웹 애플리케이션을 의미할 수 있다.In addition, in the following description, for convenience of description, even when only described as an application, based on the context and the like, the meaning may include not only an application but also a service. Further, the application may refer to a web application according to the web OS platform.

이하 첨부된 도면을 참조하면 본 발명을 더욱 상세하게 설명하면, 다음과 같다.Hereinafter, the present invention will be described in more detail with reference to the accompanying drawings.

도 1은 본 발명의 일 실시 예에 따른 디지털 디바이스를 포함한 서비스 시스템을 개략적으로 설명하기 위해 도시한 도면이다.1 is a view schematically illustrating a service system including a digital device according to an embodiment of the present invention.

도 1에 도시한 바와 같이, 서비스 시스템은, 컨텐트 프로바이더(content provider)(10), 서비스 프로바이더(service provider)(20), 네트워크 프로바이더(network provider)(30) 및 HNED(Home Network End User)(Customer)(40)를 포함한다. 여기서, HNED(40)는 예를 들어, 클라이언트(100) 즉, 본 발명에 따른 디지털 디바이스를 포함한다.As shown in FIG. 1, the service system includes a content provider 10, a service provider 20, a network provider 30, and a Home Network End (HNED). User) (Customer) 40. Here, the HNED 40 includes, for example, a client 100, that is, a digital device according to the present invention.

컨텐트 프로바이더(10)는, 각종 컨텐트를 제작하여 제공한다. 도 1에 도시된 바와 같이, 이러한 컨텐트 프로바이더(10)로 지상파 방송 송출자, 케이블 방송 사업자(cable SO(System Operator)) 또는 MSO(Multiple SO), 위성 방송 송출자, 다양한 인터넷 방송 송출자, 개인 컨텐트 프로바이더들 등을 예시할 수 있다. 한편, 컨텐트 프로바이더(10)는, 방송 컨텐트 외에도 다양한 서비스나 애플리케이션 등을 제작하여 제공할 수 있다.The content provider 10 produces and provides various content. As shown in FIG. 1, such a content provider 10 is a terrestrial broadcaster, a cable broadcaster (cable system operator (SO) or multiple SO), a satellite broadcaster, various Internet broadcasters, Personal content providers, and the like. Meanwhile, the content provider 10 may produce and provide various services or applications in addition to broadcast content.

서비스 프로바이더(20)는, 컨텐트 프로바이더(10)에 의해 제작된 컨텐트를 서비스 패키지화(service packetizing)하여 HNED(40)로 제공한다. 예컨대, 서비스 프로바이더(20)는, 제1 지상파 방송, 제2 지상파 방송, 케이블 MSO, 위성 방송, 다양한 인터넷 방송, 애플리케이션 등에 의해 제작된 컨텐트들 중 적어도 하나 이상을 서비스를 위해 패키지화하고, 이를 HNED(40)에게 제공한다.The service provider 20 provides the HNED 40 with service packetizing the content produced by the content provider 10. For example, the service provider 20 packages at least one of contents produced by the first terrestrial broadcast, the second terrestrial broadcast, the cable MSO, the satellite broadcast, various Internet broadcasts, applications, etc., for service, and this is HNED (40).

서비스 프로바이더(20)는, 유니-캐스트(uni-cast) 또는 멀티-캐스트(multi-cast) 방식으로 클라이언트(100)에 서비스를 제공한다. 한편, 서비스 프로바이더(20)는 데이터를 미리 등록된 다수의 클라이언트(100)로 한꺼번에 전송할 수 있는데, 이를 위해 IGMP(Internet Group Management Protocol) 프로토콜 등을 이용할 수 있다.The service provider 20 provides services to the client 100 in a uni-cast or multi-cast manner. Meanwhile, the service provider 20 may transmit data to a plurality of pre-registered clients 100 at a time, and for this, an Internet Group Management Protocol (IGMP) protocol may be used.

상술한 컨텐트 프로바이더(10)와 서비스 프로바이더(20)는, 동일한 개체(entity)일 수 있다. 예를 들어, 컨텐트 프로바이더(10)가 제작한 컨텐트를 서비스 패키지화하여 HNED(40)로 제공함으로써 서비스 프로바이더(20)의 기능도 함께 수행하거나 그 반대일 수도 있다.The above-described content provider 10 and service provider 20 may be the same entity. For example, by providing the content produced by the content provider 10 as a service package and providing it to the HNED 40, the function of the service provider 20 may also be performed or vice versa.

네트워크 프로바이더(30)는, 컨텐트 프로바이더(10) 또는/및 서비스 프로바이더(20)와 클라이언트(100) 사이의 데이터 교환을 위한 네트워크 망을 제공한다.The network provider 30 provides a network for data exchange between the content provider 10 or/and the service provider 20 and the client 100.

클라이언트(100)는, HNED(40)에 속한 소비자로서, 네트워크 프로바이더(30)를 통해 예컨대, 홈 네트워크(home network)를 구축하여 데이터를 수신하며, VoD, 스트리밍 등 다양한 서비스나 애플리케이션 등에 관한 데이터를 송/수신할 수도 있다.As a consumer belonging to the HNED 40, the client 100 receives data by constructing a home network, for example, through a network provider 30, and receives data related to various services or applications such as VoD and streaming. You can also send/receive.

한편, 서비스 시스템 내 컨텐트 프로바이더(10) 또는/및 서비스 프로바이더(20)는 전송되는 컨텐트의 보호를 위해 제한 수신(conditional access) 또는 컨텐트 보호(content protection) 수단을 이용할 수 있다. 따라서, 클라이언트(100)는 상기 제한 수신이나 컨텐트 보호에 대응하여 케이블카드(CableCARD)(또는 POD: Point of Deployment), DCAS(Downloadable CAS) 등과 같은 처리 수단을 이용할 수 있다.Meanwhile, the content provider 10 or/and the service provider 20 in the service system may use conditional access or content protection means to protect transmitted content. Therefore, the client 100 may use a processing means such as a cable card (or POD: Point of Deployment), DCAS (Downloadable CAS), etc. in response to the restriction reception or content protection.

그 밖에, 클라이언트(100)도 네트워크를 통해, 양방향 서비스를 이용할 수 있다. 따라서, 클라이언트(100)가 오히려 컨텐트 프로바이더의 역할 내지 기능을 수행할 수도 있으며, 서비스 프로바이더(20)는 이를 수신하여 다시 다른 클라이언트 등으로 전송할 수도 있다.In addition, the client 100 can also use the interactive service through the network. Therefore, the client 100 may rather perform the role or function of the content provider, and the service provider 20 may receive it and transmit it to another client again.

도 1에서 컨텐트 프로바이더(10) 또는/및 서비스 프로바이더(20)는 본 명세서에서 후술하는 서비스를 제공하는 서버일 수 있다. 이 경우, 상기 서버는 필요에 따라 네트워크 프로바이더(30)도 소유 내지 포함하는 의미일 수 있다. 이하 특별히 언급하지 않더라도 서비스 또는 서비스 데이터는, 전술한 외부로부터 수신되는 서비스 내지 애플리케이션뿐만 아니라 내부 서비스 내지 애플리케이션을 포함하며, 이러한 서비스 내지 애플리케이션은 웹OS(Web OS) 기반의 클라이언트(100)를 위한 서비스 내지 애플리케이션 데이터를 의미할 수 있다.In FIG. 1, the content provider 10 or/and the service provider 20 may be a server that provides a service described later in this specification. In this case, the server may mean to own or include the network provider 30 as needed. Although not specifically mentioned below, the service or service data includes not only the service or application received from the above-described external service, but also an internal service or application, and the service or application is a service for a web OS-based client 100 To application data.

도 2는 본 발명의 일 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다. 2 is a block diagram illustrating a digital device according to an embodiment of the present invention.

이하 본 명세서에서 기술되는 디지털 디바이스는 전술한 도 1의 클라이언트(100)에 해당한다.Hereinafter, the digital device described in this specification corresponds to the client 100 of FIG. 1 described above.

디지털 디바이스(200)는, 네트워크 인터페이스부(network interface)(201), TCP/IP 매니저(TCP/IP manager)(202), 서비스 전달 매니저(service delivery manager)(203), SI 디코더(204), 역다중화부(demux or demultiplexer)(205), 오디오 디코더(audio decoder)(206), 비디오 디코더(video decoder)(207), 디스플레이부(display A/V and OSD module)(208), 서비스 제어 매니저(service control manager)(209), 서비스 디스커버리 매니저(service discovery manager)(210), SI&메타데이터 데이터베이스(SI&metadata DB)(211), 메타데이터 매니저(metadata manager)(212), 서비스 매니저(213), UI 매니저(214) 등을 포함하여 구성된다.The digital device 200 includes a network interface unit 201, a TCP/IP manager 202, a service delivery manager 203, an SI decoder 204, Demultiplexer (demux or demultiplexer) 205, audio decoder (audio decoder) 206, video decoder (video decoder) 207, display unit (display A/V and OSD module) 208, service control manager (service control manager) 209, service discovery manager 210, SI&metadata DB 211, metadata manager 212, service manager 213, It comprises a UI manager 214 and the like.

네트워크 인터페이스부(201)는, 액세스하는 네트워크 망을 통하여 IP 패킷(들)(Internet Protocol(IP) packet(s)) 또는 IP 데이터그램(들)(IP datagram(s))(이하 IP 패킷(들)이라 한다)을 송/수신한다. 일 예로, 네트워크 인터페이스부(201)는 네트워크 망을 통해 도 1의 서비스 프로바이더(20)로부터 서비스, 애플리케이션, 컨텐트 등을 수신할 수 있다.The network interface unit 201 is an IP packet(s) (Internet Protocol(IP) packet(s)) or IP datagram(s) (IP datagram(s)) (hereinafter referred to as IP packet(s) through a network network to be accessed. )) is transmitted/received. For example, the network interface unit 201 may receive a service, application, content, etc. from the service provider 20 of FIG. 1 through a network network.

TCP/IP 매니저(202)는, 디지털 디바이스(200)로 수신되는 IP 패킷들과 디지털 디바이스(200)가 전송하는 IP 패킷들에 대하여 즉, 소스(source)와 목적지(destination) 사이의 패킷 전달(packet delivery)에 관여한다. 상기 TCP/IP 매니저(202)는 수신된 패킷(들)을 적절한 프로토콜에 대응하도록 분류하고, 서비스 전달 매니저(205), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등으로 상기 분류된 패킷(들)을 출력한다.The TCP/IP manager 202 transmits packets between the source and destination of IP packets received by the digital device 200 and IP packets transmitted by the digital device 200. packet delivery). The TCP/IP manager 202 classifies the received packet(s) to correspond to an appropriate protocol, and a service delivery manager 205, a service discovery manager 210, a service control manager 209, and a metadata manager 212 ) And the like to output the classified packet(s).

서비스 전달 매니저(203)는, 수신되는 서비스 데이터의 제어를 담당한다. 예를 들어, 서비스 전달 매니저(203)는 실시간 스트리밍(real-time streaming) 데이터를 제어하는 경우에는 RTP/RTCP를 사용할 수 있다. 상기 실시간 스트리밍 데이터를 RTP를 사용하여 전송하는 경우, 서비스 전달 매니저(203)는 상기 수신된 데이터 패킷을 RTP에 따라 파싱(parsing)하여 역다중화부(205)로 전송하거나 서비스 매니저(213)의 제어에 따라 SI&메타데이터 데이터베이스(211)에 저장한다. 그리고, 서비스 전달 매니저(203)는 RTCP를 이용하여 상기 네트워크 수신 정보를 서비스를 제공하는 서버 측에 피드백(feedback)한다.The service delivery manager 203 is responsible for controlling received service data. For example, the service delivery manager 203 may use RTP/RTCP when controlling real-time streaming data. When the real-time streaming data is transmitted using RTP, the service delivery manager 203 parses the received data packet according to the RTP and transmits it to the demultiplexer 205 or control of the service manager 213 According to the SI & meta data database 211. Then, the service delivery manager 203 uses the RTCP to feed back the network reception information to a server providing a service.

역다중화부(205)는, 수신된 패킷을 오디오, 비디오, SI(System Information) 데이터 등으로 역다중화하여 각각 오디오/비디오 디코더(206/207), SI 디코더(204)에 전송한다.The demultiplexer 205 demultiplexes the received packets into audio, video, and system information (SI) data, and transmits them to the audio/video decoders 206/207 and the SI decoder 204, respectively.

SI 디코더(204)는, 역다중화된 SI 데이터 즉, PSI(Program Specific Information), PSIP(Program and System Information Protocol), DVB-SI(Digital Video Broadcasting-Service Information), DTMB/CMMB(Digital Television Terrestrial Multimedia Broadcasting/Coding Mobile Multimedia Broadcasting) 등의 서비스 정보를 디코딩한다. 또한, SI 디코더(204)는, 디코딩된 서비스 정보들을 SI&메타데이터 데이터베이스(211)에 저장할 수 있다. 저장된 서비스 정보는 예를 들어, 사용자의 요청 등에 의해 해당 구성에 의해 독출되어 이용될 수 있다. The SI decoder 204 includes demultiplexed SI data, that is, Program Specific Information (PSI), Program and System Information Protocol (PSIP), Digital Video Broadcasting-Service Information (DVB-SI), and Digital Television Terrestrial Multimedia (DTMB/CMMB). Decoding service information such as Broadcasting/Coding Mobile Multimedia Broadcasting). Also, the SI decoder 204 may store the decoded service information in the SI&metadata database 211. The stored service information may be read and used by the corresponding configuration, for example, by a user's request.

오디오/비디오 디코더(206/207)는, 역다중화된 각 오디오 데이터와 비디오 데이터를 디코딩한다. 이렇게 디코딩된 오디오 데이터 및 비디오 데이터는 디스플레이부(208)를 통하여 사용자에게 제공된다.The audio/video decoder 206/207 decodes each demultiplexed audio data and video data. The audio data and video data thus decoded are provided to the user through the display unit 208.

애플리케이션 매니저는 예를 들어, UI 매니저(214)와 서비스 매니저(213)를 포함하며 디지털 디바이스(200)의 제어부 기능을 수행할 수 있다. 다시 말해, 애플리케이션 매니저는, 디지털 디바이스(200)의 전반적인 상태를 관리하고 사용자 인터페이스(UI: User Interface)를 제공하며, 다른 매니저를 관리할 수 있다.The application manager includes, for example, a UI manager 214 and a service manager 213, and may perform a control function of the digital device 200. In other words, the application manager may manage the overall state of the digital device 200, provide a user interface (UI), and manage other managers.

UI 매니저(214)는, 사용자를 위한 GUI(Graphic User Interface)/UI를 OSD(On Screen Display) 등을 이용하여 제공하며, 사용자로부터 키 인풋을 받아 상기 인풋에 따른 디바이스 동작을 수행한다. 예를 들어, UI 매니저(214)는 사용자로부터 채널 선택에 관한 키 인풋을 받으면 상기 키 인풋 신호를 서비스 매니저(213)에 전송한다.The UI manager 214 provides a graphical user interface (GUI)/UI for a user using an OSD (On Screen Display) or the like, and receives a key input from a user to perform device operation according to the input. For example, when the UI manager 214 receives key input for channel selection from the user, the UI manager 214 transmits the key input signal to the service manager 213.

서비스 매니저(213)는, 서비스 전달 매니저(203), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등 서비스와 연관된 매니저를 제어한다.The service manager 213 controls a manager associated with a service, such as a service delivery manager 203, a service discovery manager 210, a service control manager 209, and a metadata manager 212.

또한, 서비스 매니저(213)는, 채널 맵(channel map)을 생성하고 UI 매니저(214)로부터 수신한 키 인풋에 따라 상기 생성된 채널 맵을 이용하여 채널을 선택 등을 제어한다. 상기 서비스 매니저(213)는 SI 디코더(204)로부터 서비스 정보를 전송받아 선택된 채널의 오디오/비디오 PID(Packet Identifier)를 역다중화부(205)에 설정한다. 이렇게 설정되는 PID는 상술한 역다중화 과정에 이용될 수 있다. 따라서, 역다중화부(205)는 상기 PID를 이용하여 오디오 데이터, 비디오 데이터 및 SI 데이터를 필터링(PID or section filtering) 한다.In addition, the service manager 213 generates a channel map and controls channel selection and the like using the generated channel map according to the key input received from the UI manager 214. The service manager 213 receives service information from the SI decoder 204 and sets the audio/video PID (Packet Identifier) of the selected channel to the demultiplexer 205. The PID set in this way can be used in the demultiplexing process described above. Accordingly, the demultiplexer 205 filters audio data, video data, and SI data using the PID (PID or section filtering).

서비스 디스커버리 매니저(210)는, 서비스를 제공하는 서비스 프로바이더를 선택하는데 필요한 정보를 제공한다. 상기 서비스 매니저(213)로부터 채널 선택에 관한 신호를 수신하면, 서비스 디스커버리 매니저(210)는 상기 정보를 이용하여 서비스를 찾는다.The service discovery manager 210 provides information necessary to select a service provider providing a service. When a signal regarding channel selection is received from the service manager 213, the service discovery manager 210 uses the information to find a service.

서비스 제어 매니저(209)는, 서비스의 선택과 제어를 담당한다. 예를 들어, 서비스 제어 매니저(209)는 사용자가 기존의 방송 방식과 같은 생방송(live broadcasting) 서비스를 선택하는 경우 IGMP 또는 RTSP 등을 사용하고, VOD(Video on Demand)와 같은 서비스를 선택하는 경우에는 RTSP를 사용하여 서비스의 선택, 제어를 수행한다. 상기 RTSP 프로토콜은 실시간 스트리밍에 대해 트릭 모드(trick mode)를 제공할 수 있다. 또한, 서비스 제어 매니저(209)는 IMS(IP Multimedia Subsystem), SIP(Session Initiation Protocol)를 이용하여 IMS 게이트웨이(250)를 통하는 세션을 초기화하고 관리할 수 있다. 상기 프로토콜들은 일 실시 예이며, 구현 예에 따라 다른 프로토콜을 사용할 수도 있다.The service control manager 209 is responsible for selecting and controlling services. For example, the service control manager 209 uses IGMP or RTSP when a user selects a live broadcasting service such as an existing broadcasting method, and selects a service such as Video on Demand (VOD). The RTSP is used to select and control services. The RTSP protocol may provide a trick mode for real-time streaming. In addition, the service control manager 209 may initialize and manage a session through the IMS gateway 250 using an IP Multimedia Subsystem (IMS) and a Session Initiation Protocol (SIP). The above protocols are examples, and other protocols may be used according to implementation examples.

메타데이터 매니저(212)는, 서비스와 연관된 메타데이터를 관리하고 상기 메타데이터를 SI&메타데이터 데이터베이스(211)에 저장한다.The metadata manager 212 manages metadata associated with a service and stores the metadata in the SI & metadata database 211.

SI&메타데이터 데이터베이스(211)는, SI 디코더(204)가 디코딩한 서비스 정보, 메타데이터 매니저(212)가 관리하는 메타데이터 및 서비스 디스커버리 매니저(210)가 제공하는 서비스 프로바이더를 선택하는데 필요한 정보를 저장한다. 또한, SI&메타데이터 데이터베이스(211)는 시스템에 대한 세트-업 데이터 등을 저장할 수 있다.The SI&metadata database 211 provides service information decoded by the SI decoder 204, metadata managed by the metadata manager 212, and information necessary to select a service provider provided by the service discovery manager 210. To save. In addition, the SI&metadata database 211 may store set-up data and the like for the system.

SI&메타데이터 데이터베이스(211)는, 비휘발성 메모리(Non-Volatile RAM: NVRAM) 또는 플래시 메모리(flash memory) 등을 사용하여 구현될 수도 있다.The SI&metadata database 211 may be implemented using non-volatile memory (NVRAM) or flash memory.

한편, IMS 게이트웨이(250)는, IMS 기반의 IPTV 서비스에 접근하기 위해 필요한 기능들을 모아 놓은 게이트웨이이다.Meanwhile, the IMS gateway 250 is a gateway that collects functions necessary for accessing the IMS-based IPTV service.

도 3은 본 발명의 다른 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다. 3 is a block diagram illustrating a digital device according to another embodiment of the present invention.

전술한 도 2가 고정 디바이스를 디지털 디바이스의 일 실시 예로 하여 설명하였다면, 도 3은 모바일 디바이스를 디지털 디바이스의 다른 실시 예로 한다.If the above-described FIG. 2 described a fixed device as an example of a digital device, FIG. 3 illustrates a mobile device as another example of a digital device.

도 3을 참조하면, 모바일 디바이스(300)는 무선 통신부(310), A/V(Audio/Video) 입력부(320), 사용자 입력부(330), 센싱부(340), 출력부(350), 메모리(360), 인터페이스부(370), 제어부(380) 및 전원 공급부(390) 등을 포함할 수 있다. Referring to FIG. 3, the mobile device 300 includes a wireless communication unit 310, an audio/video (A/V) input unit 320, a user input unit 330, a sensing unit 340, an output unit 350, and a memory 360, an interface unit 370, a control unit 380, and a power supply unit 390.

이하 각 구성요소에 대해 상세히 설명하면, 다음과 같다.Hereinafter, each component will be described in detail as follows.

무선 통신부(310)는, 모바일 디바이스(300)와 무선 통신 시스템 사이 또는 모바일 디바이스와, 모바일 디바이스가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 또는 그 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(310)는 방송 수신 모듈(311), 이동통신 모듈(312), 무선 인터넷 모듈(313), 근거리 통신 모듈(314) 및 위치정보 모듈(315) 등을 포함할 수 있다.The wireless communication unit 310 may include one or more modules that enable wireless communication between the mobile device 300 and the wireless communication system or between the mobile device and the network where the mobile device is located. For example, the wireless communication unit 310 may include a broadcast reception module 311, a mobile communication module 312, a wireless Internet module 313, a short-range communication module 314, and a location information module 315. .

방송 수신 모듈(311)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 여기서, 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. The broadcast reception module 311 receives broadcast signals and/or broadcast related information from an external broadcast management server through a broadcast channel. Here, the broadcast channel may include a satellite channel and a terrestrial channel. The broadcast management server may mean a server that generates and transmits broadcast signals and/or broadcast-related information or a server that receives previously generated broadcast signals and/or broadcast-related information and transmits them to a terminal. The broadcast signal may include a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, and may also include a TV broadcast signal or a radio broadcast signal combined with a data broadcast signal.

방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 프로바이더에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(312)에 의해 수신될 수 있다.The broadcast-related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider. The broadcast-related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 312.

방송 관련 정보는 다양한 형태 예를 들어, EPG(Electronic Program Guide) 또는 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.Broadcast-related information may exist in various forms, for example, an electronic program guide (EPG) or an electronic service guide (ESG).

방송수신 모듈(311)은 예를 들어, ATSC, DVB-T(Digital Video Broadcasting-Terrestrial), DVB-S(Satellite), MediaFLO(Media Forward Link Only), DVB-H(Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 방송수신 모듈(311)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.The broadcast reception module 311 includes, for example, ATSC, Digital Video Broadcasting-Terrestrial (DVB-T), DVB-S (Satellite), MediaFLO (Media Forward Link Only), DVB-H (Handheld), ISDB-T ( Digital broadcasting signals can be received using a digital broadcasting system such as Integrated Services Digital Broadcast-Terrestrial). Of course, the broadcast receiving module 311 may be configured to be suitable for other broadcasting systems as well as the digital broadcasting system described above.

방송수신 모듈(311)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는, 메모리(360)에 저장될 수 있다.The broadcast signal and/or broadcast-related information received through the broadcast receiving module 311 may be stored in the memory 360.

이동통신 모듈(312)은, 이동 통신망 상에서 기지국, 외부 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 무선 신호는, 음성 신호, 화상 통화 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The mobile communication module 312 transmits and receives wireless signals to and from at least one of a base station, an external terminal, and a server on a mobile communication network. The wireless signal may include various types of data according to transmission and reception of a voice signal, a video call signal, or a text/multimedia message.

무선인터넷 모듈(313)은, 무선 인터넷 접속을 위한 모듈을 포함하여, 모바일 디바이스(300)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The wireless Internet module 313 may include a module for wireless Internet access, or may be built in or external to the mobile device 300. Wireless Internet technology (Wireless LAN) (Wi-Fi), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), HSDPA (High Speed Downlink Packet Access) may be used.

근거리통신 모듈(314)은, 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee, RS-232, RS-485 등이 이용될 수 있다.The short-range communication module 314 refers to a module for short-range communication. Bluetooth, radio frequency identification (RFID), infrared data association (IrDA), ultra wideband (UWB), ZigBee, RS-232, RS-485, etc. may be used as short range communication technology. Can.

위치정보 모듈(315)은, 모바일 디바이스(300)의 위치 정보 획득을 위한 모듈로서, GPS(Global Position System) 모듈을 예로 할 수 있다.The location information module 315 is a module for obtaining location information of the mobile device 300, and may use, for example, a Global Position System (GPS) module.

A/V 입력부(320)는, 오디오 또는/및 비디오 신호 인풋을 위한 것으로, 이에는 카메라(321)와 마이크(322) 등이 포함될 수 있다. 카메라(321)는, 화상통화 모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(351)에 표시될 수 있다.The A/V input unit 320 is for inputting an audio or/and video signal, and may include a camera 321 and a microphone 322. The camera 321 processes image frames such as still images or moving pictures obtained by an image sensor in a video call mode or a shooting mode. The processed image frame may be displayed on the display unit 351.

카메라(321)에서 처리된 화상 프레임은, 메모리(360)에 저장되거나 무선 통신부(310)를 통하여 외부로 전송될 수 있다. 카메라(321)는, 사용 환경에 따라 2개 이상이 구비될 수도 있다.The image frames processed by the camera 321 may be stored in the memory 360 or transmitted to the outside through the wireless communication unit 310. Two or more cameras 321 may be provided according to the use environment.

마이크(322)는, 통화 모드 또는 녹음 모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는, 통화 모드인 경우 이동통신 모듈(312)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(322)에는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The microphone 322 receives an external sound signal by a microphone in a call mode or a recording mode, a voice recognition mode, etc., and processes it as electrical voice data. The processed voice data may be converted and output in a form that can be transmitted to the mobile communication base station through the mobile communication module 312 when in a call mode. The microphone 322 may be implemented with various noise removal algorithms for removing noise generated in the process of receiving an external sound signal.

사용자 입력부(330)는, 사용자가 단말기의 동작 제어를 위한 인풋 데이터를 발생시킨다. 사용자 입력부(330)는, 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠(jog wheel), 조그 스위치(jog switch) 등으로 구성될 수 있다. The user input unit 330 generates input data for the user to control the operation of the terminal. The user input unit 330 may be configured with a key pad, a dome switch, a touch pad (static pressure/power outage), a jog wheel, a jog switch, or the like.

센싱부(340)는, 모바일 디바이스(300)의 개폐 상태, 모바일 디바이스(300)의 위치, 사용자 접촉 유무, 모바일 디바이스의 방위, 모바일 디바이스의 가속/감속 등과 같이 모바일 디바이스(300)의 현재 상태를 감지하여 모바일 디바이스(300)의 동작 제어를 위한 센싱 신호를 발생시킨다. 예를 들어, 모바일 디바이스(300)가 이동되거나 기울어진 경우 모바일 디바이스의 위치 내지 기울기 등을 센싱할 수 있다. 또한, 전원 공급부(390)의 전원 공급 여부, 인터페이스부(370)의 외부 디바이스 결합 여부 등도 센싱할 수도 있다. 한편, 센싱부(240)는, NFC(Near Field Communication) 등을 포함한 근접 센서(341)를 포함할 수 있다.The sensing unit 340 displays the current state of the mobile device 300, such as the open/closed state of the mobile device 300, the location of the mobile device 300, the presence or absence of user contact, the orientation of the mobile device, and acceleration/deceleration of the mobile device. Sensing to generate a sensing signal for controlling the operation of the mobile device 300. For example, when the mobile device 300 is moved or tilted, the position or tilt of the mobile device may be sensed. In addition, it is also possible to sense whether the power supply unit 390 is supplied with power, whether the interface unit 370 is coupled with an external device, or the like. Meanwhile, the sensing unit 240 may include a proximity sensor 341 including Near Field Communication (NFC).

출력부(350)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(351), 음향 출력 모듈(352), 알람부(353), 및 햅틱 모듈(354) 등이 포함될 수 있다.The output unit 350 is for generating output related to vision, hearing, or tactile sense, and may include a display unit 351, an audio output module 352, an alarm unit 353, and a haptic module 354. have.

디스플레이부(351)는, 모바일 디바이스(300)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 모바일 디바이스가 통화 모드인 경우 통화와 관련된 UI 또는 GUI를 표시한다. 모바일 디바이스(300)가 화상 통화 모드 또는 촬영 모드인 경우에는, 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다. The display unit 351 displays (outputs) information processed by the mobile device 300. For example, when the mobile device is in a call mode, it displays a UI or GUI related to the call. When the mobile device 300 is in a video call mode or a photographing mode, a photographed and/or received image or UI, GUI is displayed.

디스플레이부(351)는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이 중에서 적어도 하나를 포함할 수 있다. The display unit 351 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display ( flexible display), and a 3D display.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(351)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(351)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.Some of these displays may be of a transparent type or a light transmissive type so that the outside can be seen through them. This may be referred to as a transparent display, and a typical example of the transparent display is TOLED (Transparant OLED). The rear structure of the display unit 351 may also be configured as a light transmissive structure. With this structure, the user can see an object located behind the terminal body through an area occupied by the display unit 351 of the terminal body.

모바일 디바이스(300)의 구현 형태에 따라 디스플레이부(351)가 2개 이상 존재할 수 있다. 예를 들어, 모바일 디바이스(300)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. Two or more display units 351 may be present according to an implementation form of the mobile device 300. For example, a plurality of display units may be spaced apart from one surface or integrally disposed on the mobile device 300, or may be respectively disposed on different surfaces.

디스플레이부(351)와 터치 동작을 감지하는 센서(이하 '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(351)는 출력 디바이스 이외에 인풋 디바이스로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.When the display unit 351 and a sensor detecting a touch operation (hereinafter referred to as a “touch sensor”) form a mutual layer structure (hereinafter, referred to as a “touch screen”), the display unit 351 inputs in addition to an output device. It can also be used as a device. The touch sensor may have, for example, a form of a touch film, a touch sheet, or a touch pad.

터치 센서는 디스플레이부(351)의 특정 부위에 가해진 압력 또는 디스플레이부(351)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. The touch sensor may be configured to convert changes in pressure applied to a specific portion of the display unit 351 or capacitance generated in a specific portion of the display unit 351 into an electrical input signal. The touch sensor may be configured to detect not only the touched position and area, but also pressure at the time of touch.

터치 센서에 대한 터치 인풋이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(380)로 전송한다. 이로써, 제어부(380)는 디스플레이부(351)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.If there is a touch input to the touch sensor, the corresponding signal(s) is sent to the touch controller. The touch controller processes the signal(s) and then transmits corresponding data to the control unit 380. Accordingly, the control unit 380 can know which area of the display unit 351 has been touched, and the like.

터치스크린에 의해 감싸지는 모바일 디바이스의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(341)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다. A proximity sensor 341 may be disposed in an inner area of the mobile device surrounded by the touch screen or near the touch screen. The proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without mechanical contact using electromagnetic force or infrared rays. Proximity sensors have a longer lifespan and higher utilization than contact sensors.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.Examples of the proximity sensor include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive type proximity sensor, a magnetic type proximity sensor, and an infrared proximity sensor. When the touch screen is capacitive, it is configured to detect the proximity of the pointer due to a change in electric field according to the proximity of the pointer. In this case, the touch screen (touch sensor) may be classified as a proximity sensor.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.Hereinafter, for convenience of description, the act of causing the pointer to be recognized as being located on the touch screen without being touched by the pointer on the touch screen is referred to as a “proximity touch”, and the touch The act of actually touching the pointer on the screen is referred to as "contact touch". The location on the touch screen that is a proximity touch with a pointer refers to a location where the pointer is perpendicular to the touch screen when the pointer is touched close.

상기 근접 센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다. The proximity sensor detects a proximity touch and a proximity touch pattern (eg, proximity touch distance, proximity touch direction, proximity touch speed, proximity touch time, proximity touch position, proximity touch movement state, etc.). Information corresponding to the sensed proximity touch operation and proximity touch pattern may be output on the touch screen.

음향출력모듈(352)은, 호신호 수신, 통화 모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(310)로부터 수신되거나 메모리(360)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(352)은 모바일 디바이스(300)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(352)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The audio output module 352 may output audio data received from the wireless communication unit 310 or stored in the memory 360 in a call signal reception, call mode or recording mode, voice recognition mode, broadcast reception mode, or the like. The sound output module 352 may also output sound signals related to functions (for example, call signal reception sound, message reception sound, etc.) performed in the mobile device 300. The sound output module 352 may include a receiver, a speaker, a buzzer, and the like.

알람부(353)는, 모바일 디바이스(300)의 이벤트 발생을 알리기 위한 신호를 출력한다. 모바일 디바이스에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(353)는, 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(351)나 음성 출력 모듈(352)을 통해서도 출력될 수 있어서, 그들(351,352)은 알람부(353)의 일부로 분류될 수도 있다.The alarm unit 353 outputs a signal for notifying the occurrence of the event of the mobile device 300. Examples of events generated in the mobile device include call signal reception, message reception, key signal input, and touch input. The alarm unit 353 may output a signal for notifying the occurrence of an event in a form other than a video signal or an audio signal, for example, vibration. The video signal or the audio signal may also be output through the display unit 351 or the audio output module 352, so that they 351 and 352 may be classified as part of the alarm unit 353.

햅틱 모듈(haptic module)(354)은, 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(354)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(354)이 발생하는 진동의 세기와 패턴 등은 제어 가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. 햅틱 모듈(354)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉/온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(354)은, 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(354)은, 모바일 디바이스(300)의 구성 태양에 따라 2개 이상이 구비될 수 있다.The haptic module 354 generates various tactile effects that the user can feel. A typical example of the tactile effect generated by the haptic module 354 is vibration. The intensity and pattern of vibration generated by the haptic module 354 can be controlled. For example, different vibrations may be synthesized and output or sequentially output. The haptic module 354, in addition to vibration, is a pin array that vertically moves with respect to the contact skin surface, the ejection force or inhalation force of the air through the injection port or the intake port, the stimulation of the skin surface, the contact of the electrode (eletrode), the stimulus, etc. It can generate various tactile effects, such as the effect by, and the effect by reproducing the cold/warm feeling using the heat absorbing or heat generating element. The haptic module 354 may not only transmit the tactile effect through direct contact, but may also implement the user to feel the tactile effect through muscle sensations such as fingers or arms. Two or more haptic modules 354 may be provided according to a configuration aspect of the mobile device 300.

메모리(360)는, 제어부(380)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰 북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(360)는 상기 터치스크린 상의 터치 인풋 시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.The memory 360 may store a program for the operation of the control unit 380, and may temporarily store input/output data (eg, a phone book, a message, a still image, a video, etc.). The memory 360 may store data related to various patterns of vibration and sound that are output upon touch input on the touch screen.

메모리(360)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 모바일 디바이스(300)는 인터넷(internet) 상에서 상기 메모리(360)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.The memory 360 is a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory, etc.), Random Access Memory (RAM), Static Random Access Memory (SRAM), Read-Only Memory (ROM), Electrically Erasable Programmable Read-Only Memory (EEPROM), Programmable Read-Only Memory (PROM), magnetic memory, It may include at least one type of storage medium among magnetic disks and optical disks. The mobile device 300 may operate in connection with a web storage performing a storage function of the memory 360 on the Internet.

인터페이스부(370)는, 모바일 디바이스(300)에 연결되는 모든 외부 디바이스와의 통로 역할을 한다. 인터페이스부(370)는 외부 디바이스로부터 데이터를 전송 받거나, 전원을 공급받아 모바일 디바이스(300) 내부의 각 구성 요소에 전달하거나, 모바일 디바이스(300) 내부의 데이터가 외부 디바이스로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 디바이스를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O 포트, 이어폰 포트 등이 인터페이스부(370)에 포함될 수 있다. The interface unit 370 serves as a passage with all external devices connected to the mobile device 300. The interface unit 370 receives data from an external device, receives power, and transmits data to each component inside the mobile device 300, or allows data inside the mobile device 300 to be transmitted to the external device. For example, wired/wireless headset port, external charger port, wired/wireless data port, memory card port, port for connecting devices equipped with an identification module, audio input/output (I/O) port, A video I/O port, an earphone port, and the like may be included in the interface unit 370.

식별 모듈은 모바일 디바이스(300)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 디바이스(이하 '식별 디바이스')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 디바이스는 포트를 통하여 단말기(200)와 연결될 수 있다. The identification module is a chip that stores various information for authenticating the usage rights of the mobile device 300, a user identification module (UIM), a subscriber identification module (SIM), and a universal user authentication module ( Universal Subscriber Identity Module (USIM). The device provided with the identification module (hereinafter referred to as'identification device') may be manufactured in a smart card format. Therefore, the identification device may be connected to the terminal 200 through a port.

인터페이스부(370)는, 모바일 디바이스(300)가 외부 크래들(cradle)과 연결될 때, 상기 크래들로부터의 전원이 상기 모바일 디바이스(300)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 모바일 디바이스로 전달되는 통로가 될 수 있다. 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은, 모바일 디바이스가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.When the mobile device 300 is connected to an external cradle, the interface unit 370 becomes a passage through which power from the cradle is supplied to the mobile device 300, or various input by the user from the cradle. A command signal may be a passage to the mobile device. Various command signals or power input from the cradle may be operated as signals for recognizing that the mobile device is correctly mounted on the cradle.

제어부(380)는, 통상적으로 모바일 디바이스(300)의 전반적인 동작을 제어한다. 제어부(380)는 예를 들어, 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(380)는, 멀티미디어 재생을 위한 멀티미디어 모듈(381)을 구비할 수도 있다. 멀티미디어 모듈(381)은, 제어부(380) 내에 구현될 수도 있고, 제어부(380)와 별도로 구현될 수도 있다. 제어부(380)는, 터치-스크린상에서 행해지는 필기 인풋 또는 그림 그리기 인풋을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식(pattern recognition) 처리를 행할 수 있다. The control unit 380 typically controls the overall operation of the mobile device 300. The control unit 380 performs, for example, related control and processing for voice calls, data communication, video calls, and the like. The control unit 380 may include a multimedia module 381 for multimedia playback. The multimedia module 381 may be implemented in the control unit 380 or may be implemented separately from the control unit 380. The control unit 380 may perform a pattern recognition process capable of recognizing handwriting input or picture drawing input performed on a touch-screen as text and images, respectively.

전원 공급부(390)는, 제어부(380)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The power supply unit 390 receives external power and internal power under the control of the control unit 380 and supplies power required for the operation of each component.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 디바이스로 읽을 수 있는 기록매체 내에서 구현될 수 있다.The various embodiments described herein can be implemented in a computer- or similar device-readable recording medium using, for example, software, hardware, or a combination thereof.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays, 프로세서, 제어기, 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들이 제어부(380) 자체로 구현될 수 있다.According to a hardware implementation, the embodiments described herein include application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays (FPGAs), It may be implemented using at least one of a processor, a controller, micro-controllers, microprocessors, and electrical units for performing other functions. Examples may be implemented by the control unit 380 itself.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 애플리케이션으로 소프트웨어 코드(software code)가 구현될 수 있다. 여기서, 소프트웨어 코드는, 메모리(360)에 저장되고, 제어부(380)에 의해 실행될 수 있다.According to the software implementation, embodiments such as procedures and functions described herein may be implemented as separate software modules. Each of the software modules can perform one or more functions and operations described herein. Software code can be implemented in a software application written in an appropriate programming language. Here, the software code is stored in the memory 360 and can be executed by the control unit 380.

도 4는 본 발명의 또 다른 실시 예에 따른 디지털 디바이스를 설명하기 위해 도시한 구성 블록도이다.4 is a block diagram illustrating a digital device according to another embodiment of the present invention.

디지털 디바이스(400)의 다른 예는, 방송 수신부(405), 외부 디바이스 인터페이스부(435), 저장부(440), 사용자입력 인터페이스부(450), 제어부(470), 디스플레이부(480), 오디오 출력부(485), 전원 공급부(490) 및 촬영부(미도시)를 포함할 수 있다. 여기서, 상기 방송 수신부(405)는, 적어도 하나의 튜너(410), 복조부(420) 및 네트워크 인터페이스부(430)를 포함할 수 있다. 다만, 경우에 따라, 상기 방송 수신부(405)는 튜너(410)와 복조부(420)는 구비하나 네트워크 인터페이스부(430)는 포함하지 않을 수 있으며 그 반대의 경우일 수도 있다. 또한, 상기 방송 수신부(405)는 도시되진 않았으나, 다중화부(multiplexer)를 구비하여 상기 튜너(410)를 거쳐 복조부(420)에서 복조된 신호와 상기 네트워크 인터페이스부(430)를 거쳐 수신된 신호를 다중화할 수도 있다. 그 밖에 상기 방송 수신부(425)는 역시 도시되진 않았으나, 역다중화부(demultiplexer)를 구비하여 상기 다중화된 신호를 역다중화하거나 상기 복조된 신호 또는 상기 네트워크 인터페이스부(430)를 거친 신호를 역다중화할 수 있다.Other examples of the digital device 400 include a broadcast receiving unit 405, an external device interface unit 435, a storage unit 440, a user input interface unit 450, a control unit 470, a display unit 480, audio It may include an output unit 485, a power supply unit 490, and a photographing unit (not shown). Here, the broadcast reception unit 405 may include at least one tuner 410, a demodulation unit 420, and a network interface unit 430. However, in some cases, the broadcast reception unit 405 includes a tuner 410 and a demodulation unit 420, but may not include the network interface unit 430, and vice versa. In addition, although the broadcast receiving unit 405 is not shown, a signal demodulated by the demodulator 420 via the tuner 410 and a signal received through the network interface unit 430 is provided with a multiplexer. Can also be multiplexed. In addition, although the broadcast receiving unit 425 is not shown, a demultiplexer is provided to demultiplex the multiplexed signal or demultiplex the demodulated signal or the signal that has passed through the network interface unit 430. Can.

튜너(410)는, 안테나를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기 저장된 모든 채널을 튜닝하여 RF 방송 신호를 수신한다. 또한, 튜너(410)는, 수신된 RF 방송 신호를 중간 주파수(Intermediate Frequency; IF) 신호 혹은 베이스밴드(baseband) 신호로 변환한다.The tuner 410 receives an RF broadcast signal by tuning a channel selected by a user or all previously stored channels among radio frequency (RF) broadcast signals received through an antenna. In addition, the tuner 410 converts the received RF broadcast signal into an intermediate frequency (IF) signal or a baseband signal.

예를 들어, 수신된 RF 방송 신호가 디지털 방송 신호이면 디지털 IF 신호(DIF)로 변환하고, 아날로그 방송 신호이면 아날로그 베이스밴드 영상 또는 음성 신호(CVBS/SIF)로 변환한다. 즉, 튜너(410)는 디지털 방송 신호 또는 아날로그 방송 신호를 모두 처리할 수 있다. 튜너(410)에서 출력되는 아날로그 베이스 밴드 영상 또는 음성 신호(CVBS/SIF)는 제어부(470)로 직접 입력될 수 있다.For example, if the received RF broadcast signal is a digital broadcast signal, it is converted into a digital IF signal (DIF), and if it is an analog broadcast signal, it is converted into an analog baseband video or audio signal (CVBS/SIF). That is, the tuner 410 can process both digital broadcast signals or analog broadcast signals. The analog baseband video or audio signal (CVBS/SIF) output from the tuner 410 may be directly input to the controller 470.

또한, 튜너(410)는, 싱글 캐리어(single carrier) 또는 멀티플 캐리어(multiple carrier)의 RF 방송 신호를 수신할 수 있다. 한편, 튜너(410)는, 안테나를 통해 수신되는 RF 방송 신호 중 채널 기억 기능을 통하여 저장된 모든 방송 채널의 RF 방송 신호를 순차로 튜닝 및 수신하여 이를 중간 주파수 신호 혹은 베이스 밴드 신호(DIF: Digital Intermediate Frequency or baseband signal)로 변환할 수 있다.In addition, the tuner 410 may receive a single carrier (single carrier) or multiple carriers (multiple carrier) RF broadcast signal. Meanwhile, the tuner 410 sequentially tunes and receives RF broadcast signals of all broadcast channels stored through a channel memory function among RF broadcast signals received through an antenna, and receives the intermediate frequency signals or base band signals (DIF: Digital Intermediate). Frequency or baseband signal).

복조부(420)는, 튜너(410)에서 변환된 디지털 IF 신호(DIF)를 수신하여 복조하고, 채널 복호화 등을 수행할 수도 있다. 이를 위해 복조부(420)는 트렐리스 디코더(Trellis Decoder), 디인터리버(De-interleaver), 리드 솔로먼 디코더(Reed-Solomon Decoder) 등을 구비하거나 컨벌루션 디코더(convolution decoder), 디인터리버 및 리드-솔로먼 디코더 등을 구비할 수 있다.The demodulator 420 may receive and demodulate the digital IF signal DIF converted by the tuner 410, and perform channel decoding and the like. To this end, the demodulator 420 includes a trellis decoder, a de-interleaver, a reed-solomon decoder, or a convolution decoder, de-interleaver, and read. -It can be equipped with a solo decoder.

복조부(420)는, 복조 및 채널 복호화를 수행한 후 스트림 신호(TS)를 출력할 수 있다. 이때, 스트림 신호는 영상 신호, 음성 신호 또는 데이터 신호가 다중화된 신호일 수 있다. 일 예로, 스트림 신호는 MPEG-2 규격의 영상 신호, 돌비(Dolby) AC-3 규격의 음성 신호 등이 다중화된 MPEG-2 TS(Transport Stream)일 수 있다.The demodulator 420 may output a stream signal TS after demodulation and channel decoding. In this case, the stream signal may be a signal in which a video signal, an audio signal or a data signal is multiplexed. For example, the stream signal may be an MPEG-2 Transport Stream (TS) in which an MPEG-2 standard video signal, a Dolby AC-3 standard audio signal, and the like are multiplexed.

복조부(420)에서 출력한 스트림 신호는 제어부(470)로 입력될 수 있다. 제어부(470)는 역다중화, 영상/음성 신호 처리 등을 제어하고, 디스플레이부(480)를 통해 영상을, 오디오 출력부(485)를 통해 음성의 출력을 제어할 수 있다.The stream signal output from the demodulator 420 may be input to the controller 470. The control unit 470 may control demultiplexing, video/audio signal processing, and the like, and control an image output through the display unit 480 and an audio output unit through the audio output unit 485.

외부 디바이스 인터페이스부(435)는 디지털 디바이스(300)와 다양한 외부 디바이스 사이의 인터페이싱 환경을 제공한다. 이를 위해, 외부 디바이스 인터페이스부(335)는, A/V 입/출력부(미도시) 또는 무선 통신부(미도시)를 포함할 수 있다.The external device interface unit 435 provides an interfacing environment between the digital device 300 and various external devices. To this end, the external device interface unit 335 may include an A/V input/output unit (not shown) or a wireless communication unit (not shown).

외부 디바이스 인터페이스부(435)는, DVD(Digital Versatile Disk), 블루-레이(Blu-ray), 게임 디바이스, 카메라, 캠코더(Camcorder), 컴퓨터(노트북), 태블릿 PC, 스마트 폰, 블루투스 디바이스(Bluetooth device), 클라우드(Cloud) 등과 같은 외부 디바이스 등과 유/무선으로 접속될 수 있다. 외부 디바이스 인터페이스부(435)는 연결된 외부 디바이스를 통하여 입력되는 이미지, 영상, 음성 등 데이터를 포함한 신호를 디지털 디바이스의 제어부(470)로 전달한다. 제어부(470)는 처리된 이미지, 영상, 음성 등을 데이터 신호를 연결된 외부 디바이스로 출력되도록 제어할 수 있다. 이를 위해, 외부 디바이스 인터페이스부(435)는, A/V 입/출력부(미도시) 또는 무선 통신부(미도시)를 더 포함할 수 있다.The external device interface unit 435 includes a Digital Versatile Disk (DVD), Blu-ray, game device, camera, camcorder, computer (laptop), tablet PC, smart phone, and Bluetooth device (Bluetooth). device), an external device such as a cloud, and the like can be connected by wire/wireless. The external device interface unit 435 transmits a signal including data, such as image, video, and voice input through the connected external device to the controller 470 of the digital device. The control unit 470 may control the processed image, video, audio, etc. to be output to a connected external device. To this end, the external device interface unit 435 may further include an A/V input/output unit (not shown) or a wireless communication unit (not shown).

A/V 입/출력부는, 외부 디바이스의 영상 및 음성 신호를 디지털 디바이스(400)로 입력할 수 있도록, USB 단자, CVBS(Composite Video Banking Sync) 단자, 컴포넌트 단자, S-비디오 단자(아날로그), DVI(Digital Visual Interface) 단자, HDMI(High Definition Multimedia Interface) 단자, RGB 단자, D-SUB 단자 등을 포함할 수 있다.The A/V input/output unit allows a USB terminal, a CVBS (Composite Video Banking Sync) terminal, a component terminal, and an S-video terminal (analog) to input video and audio signals from an external device to the digital device 400. It may include a digital visual interface (DVI) terminal, a high definition multimedia interface (HDMI) terminal, an RGB terminal, and a D-SUB terminal.

무선 통신부는, 다른 디지털 디바이스와 근거리 무선 통신을 수행할 수 있다. 디지털 디바이스(400)는 예를 들어, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance) 등의 통신 프로토콜에 따라 다른 디지털 디바이스와 네트워크 연결될 수 있다.The wireless communication unit may perform short-range wireless communication with other digital devices. The digital device 400 is, for example, Bluetooth (Bluetooth), Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, Digital Living Network Alliance (DLNA) It may be networked with other digital devices according to a communication protocol such as.

또한, 외부 디바이스 인터페이스부(435)는, 셋톱-박스(STB)와 상술한 각종 단자 중 적어도 하나를 통해 접속되어, 셋톱-박스(STB)와 입력/출력 동작을 수행할 수도 있다.In addition, the external device interface unit 435 may be connected to the set-top box STB through at least one of the various terminals described above, and perform input/output operations with the set-top box STB.

한편, 외부 디바이스 인터페이스부(435)는, 인접하는 외부 디바이스 내의 애플리케이션 또는 애플리케이션 목록(application list)을 수신하여, 제어부(470) 또는 저장부(440)로 전달할 수 있다.Meanwhile, the external device interface unit 435 may receive an application or an application list in an adjacent external device and transmit it to the control unit 470 or the storage unit 440.

네트워크 인터페이스부(430)는, 디지털 디바이스(400)를 인터넷 망을 포함하는 유/무선 네트워크와 연결하기 위한 인터페이스를 제공한다. 네트워크 인터페이스부(430)는, 유선 네트워크와의 접속을 위해 예를 들어, 이더넷(Ethernet) 단자 등을 구비할 수 있으며, 무선 네트워크와의 접속을 위해 예를 들어, WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 통신 규격 등을 이용할 수 있다.The network interface unit 430 provides an interface for connecting the digital device 400 to a wired/wireless network including an Internet network. The network interface unit 430 may include, for example, an Ethernet terminal or the like for connection with a wired network, and for example, a wireless LAN (WLAN) (Wi-) for connection with a wireless network. Fi), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), and HSDPA (High Speed Downlink Packet Access) communication standards.

네트워크 인터페이스부(430)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 다른 사용자 또는 다른 디지털 디바이스와 데이터를 송신 또는 수신할 수 있다. 특히, 디지털 디바이스(400)에 미리 등록된 다른 사용자 또는 다른 디지털 디바이스 중 선택된 사용자 또는 선택된 디지털 디바이스에, 상기 디지털 디바이스(400)에 저장된 일부의 컨텐트 데이터를 송신할 수 있다.The network interface unit 430 may transmit or receive data with other users or other digital devices through a connected network or another network linked to the connected network. In particular, some content data stored in the digital device 400 may be transmitted to another user registered in advance in the digital device 400 or to a selected user or selected digital device among other digital devices.

한편, 네트워크 인터페이스부(430)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 소정 웹 페이지에 접속할 수 있다. 즉, 네트워크를 통해 소정 웹 페이지에 접속하여, 해당 서버와 데이터를 송신 또는 수신할 수 있다. 그 외, 컨텐트 프로바이더 또는 네트워크 운영자가 제공하는 컨텐트 또는 데이터들을 수신할 수 있다. 즉, 네트워크를 통하여 컨텐트 프로바이더 또는 네트워크 프로바이더로부터 제공되는 영화, 광고, 게임, VOD, 방송 신호 등의 컨텐트 및 그와 관련된 정보를 수신할 수 있다. 또한, 네트워크 운영자가 제공하는 펌웨어(firmware)의 업데이트 정보 및 업데이트 파일을 수신할 수 있다. 또한, 인터넷 또는 컨텐트 프로바이더 또는 네트워크 운영자에게 데이터들을 송신할 수 있다.Meanwhile, the network interface unit 430 may access a predetermined web page through a connected network or another network linked to the connected network. That is, it is possible to connect to a predetermined web page through a network and transmit or receive data with the corresponding server. In addition, content or data provided by a content provider or a network operator may be received. That is, it is possible to receive content such as a movie, advertisement, game, VOD, broadcast signal, and related information provided by a content provider or a network provider through a network. Further, it is possible to receive update information and update files of firmware provided by a network operator. It can also send data to the Internet or a content provider or network operator.

또한, 네트워크 인터페이스부(430)는, 네트워크를 통해 공개(open)된 애플리케이션들 중 원하는 애플리케이션을 선택하여 수신할 수 있다.In addition, the network interface unit 430 may select and receive a desired application from among applications opened through the network.

저장부(440)는, 제어부(470) 내의 각 신호 처리 및 제어를 위한 프로그램을 저장할 수도 있고, 신호 처리된 영상, 음성 또는 데이터 신호를 저장할 수도 있다.The storage unit 440 may store a program for processing and controlling each signal in the control unit 470, or may store a signal-processed image, audio, or data signal.

또한, 저장부(440)는 외부 디바이스 인터페이스부(435) 또는 네트워크 인터페이스부(430)로부터 입력되는 영상, 음성, 또는 데이터 신호의 임시 저장을 위한 기능을 수행할 수도 있다. 저장부(440)는, 채널 기억 기능을 통하여 소정 방송 채널에 관한 정보를 저장할 수 있다.Also, the storage unit 440 may perform a function for temporarily storing an image, audio, or data signal input from the external device interface unit 435 or the network interface unit 430. The storage unit 440 may store information regarding a predetermined broadcast channel through a channel storage function.

저장부(440)는, 외부 디바이스 인터페이스부(435) 또는 네트워크 인터페이스부(330)로부터 입력되는 애플리케이션 또는 애플리케이션 목록을 저장할 수 있다.The storage unit 440 may store an application or application list input from the external device interface unit 435 or the network interface unit 330.

또한, 저장부(440)는, 후술하여 설명하는 다양한 플랫폼(platform)을 저장할 수도 있다.Also, the storage unit 440 may store various platforms described later.

저장부(440)는, 예를 들어 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM), 롬(EEPROM 등) 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 디지털 디바이스(400)는, 저장부(440) 내에 저장되어 있는 컨텐트 파일(동영상 파일, 정지영상 파일, 음악 파일, 문서 파일, 애플리케이션 파일 등)을 재생하여 사용자에게 제공할 수 있다.The storage unit 440 may be, for example, a flash memory type, a hard disk type, a multimedia card micro type, or a card type memory (for example, SD or XD) Memory, etc.), RAM (RAM), and ROM (EEPROM, etc.). The digital device 400 may play a content file (video file, still image file, music file, document file, application file, etc.) stored in the storage unit 440 and provide it to the user.

도 4는 저장부(440)가 제어부(470)와 별도로 구비된 실시 예를 도시하고 있으나, 본 발명은 이에 한정되지 않는다. 다시 말해, 저장부(440)는 제어부(470) 내에 포함될 수도 있다.4 illustrates an embodiment in which the storage unit 440 is provided separately from the control unit 470, but the present invention is not limited thereto. In other words, the storage unit 440 may be included in the control unit 470.

사용자 입력 인터페이스부(450)는, 사용자가 입력한 신호를 제어부(470)로 전달하거나 제어부(470)의 신호를 사용자에게 전달한다.The user input interface 450 transmits a signal input by the user to the controller 470 or a signal from the controller 470 to the user.

예를 들어, 사용자 입력 인터페이스부(450)는, RF 통신 방식, 적외선(IR) 통신 방식 등 다양한 통신 방식에 따라, 원격제어 디바이스(500)로부터 전원 온/오프, 채널 선택, 화면 설정 등의 제어 신호를 수신하여 처리하거나, 제어부(470)의 제어 신호를 원격제어 디바이스(500)로 송신하도록 처리할 수 있다.For example, the user input interface unit 450 controls power on/off, channel selection, screen setting, etc. from the remote control device 500 according to various communication methods such as an RF communication method and an infrared (IR) communication method. The signal may be received and processed or the control signal of the control unit 470 may be transmitted to the remote control device 500.

또한, 사용자 입력 인터페이스부(450)는, 전원 키, 채널 키, 볼륨 키, 설정치 등의 로컬 키(미도시)에서 입력되는 제어 신호를 제어부(470)에 전달할 수 있다.In addition, the user input interface unit 450 may transmit a control signal input from a local key (not shown), such as a power key, a channel key, a volume key, and a set value, to the control unit 470.

사용자 입력 인터페이스부(450)는, 사용자의 제스처(gesture)를 센싱(sensing)하는 센싱부(미도시)로부터 입력되는 제어 신호를 제어부(470)에 전달하거나, 제어부(470)의 신호를 센싱부(미도시)로 송신할 수 있다. 여기서, 센싱부(미도시)는, 터치 센서, 음성 센서, 위치 센서, 동작 센서 등을 포함할 수 있다.The user input interface unit 450 transmits a control signal input from a sensing unit (not shown) that senses a user's gesture to the control unit 470 or senses a signal from the control unit 470 (Not shown). Here, the sensing unit (not shown) may include a touch sensor, a voice sensor, a position sensor, and a motion sensor.

제어부(470)는, 튜너(410), 복조부(420) 또는 외부 디바이스 인터페이스부(435)를 통하여 입력되는 스트림을 역다중화하거나 역다중화된 신호들을 처리하여, 영상 또는 음성 출력을 위한 신호를 생성 및 출력할 수 있다.The control unit 470 de-multiplexes the stream input through the tuner 410, the demodulator 420, or the external device interface unit 435 or processes the demultiplexed signals to generate a signal for video or audio output. And output.

제어부(470)에서 처리된 영상 신호는, 디스플레이부(480)로 입력되어 해당 영상 신호에 대응하는 영상으로 표시될 수 있다. 또한, 제어부(470)에서 영상 처리된 영상 신호는 외부 디바이스 인터페이스부(435)를 통하여 외부 출력 디바이스로 입력될 수 있다. The image signal processed by the control unit 470 may be input to the display unit 480 and displayed as an image corresponding to the corresponding image signal. Also, the image signal processed by the controller 470 may be input to the external output device through the external device interface unit 435.

제어부(470)에서 처리된 음성 신호는 오디오 출력부(485)로 오디오 출력될 수 있다. 또한, 제어부(470)에서 처리된 음성 신호는 외부 디바이스 인터페이스부(435)를 통하여 외부 출력 디바이스로 입력될 수 있다.The audio signal processed by the control unit 470 may be audio output to the audio output unit 485. Also, the voice signal processed by the control unit 470 may be input to the external output device through the external device interface unit 435.

도 4에서는 도시되어 있지 않으나, 제어부(470)는 역다중화부, 영상 처리부 등을 포함할 수 있다.Although not illustrated in FIG. 4, the control unit 470 may include a demultiplexing unit, an image processing unit, and the like.

제어부(470)는, 디지털 디바이스(400)의 전반적인 동작을 제어할 수 있다. 예를 들어, 제어부(470)는, 튜너(410)를 제어하여, 사용자가 선택한 채널 또는 기 저장된 채널에 해당하는 RF 방송을 튜닝(tuning)하도록 제어할 수 있다.The controller 470 may control the overall operation of the digital device 400. For example, the control unit 470 may control the tuner 410 to tune an RF broadcast corresponding to a channel selected by a user or a pre-stored channel.

제어부(470)는, 사용자 입력 인터페이스부(450)를 통하여 입력된 사용자 명령 또는 내부 프로그램에 의하여 디지털 디바이스(400)를 제어할 수 있다. 특히, 네트워크에 접속하여 사용자가 원하는 애플리케이션 또는 애플리케이션 목록을 디지털 디바이스(400) 내로 다운로드 받을 수 있도록 할 수 있다.The control unit 470 may control the digital device 400 by a user command input through the user input interface unit 450 or an internal program. In particular, it is possible to connect to a network so that a user can download a desired application or application list into the digital device 400.

예를 들어, 제어부(470)는, 사용자 입력 인터페이스부(450)를 통하여 수신한 소정 채널 선택 명령에 따라 선택한 채널의 신호가 입력되도록 튜너(410)를 제어한다. 그리고 선택한 채널의 영상, 음성 또는 데이터 신호를 처리한다. 제어부(470)는, 사용자가 선택한 채널 정보 등이 처리한 영상 또는 음성신호와 함께 디스플레이부(480) 또는 오디오 출력부(485)를 통하여 출력될 수 있도록 한다.For example, the control unit 470 controls the tuner 410 to input a signal of a selected channel according to a predetermined channel selection command received through the user input interface unit 450. And it processes the video, audio or data signal of the selected channel. The control unit 470 allows the user to select the channel information selected by the user and output the processed image or audio signal through the display unit 480 or the audio output unit 485.

다른 예로, 제어부(470)는, 사용자 입력 인터페이스부(450)를 통하여 수신한 외부 디바이스 영상 재생 명령에 따라, 외부 디바이스 인터페이스부(435)를 통하여 입력되는 외부 디바이스, 예를 들어, 카메라 또는 캠코더로부터의, 영상 신호 또는 음성 신호가 디스플레이부(480) 또는 오디오 출력부(485)를 통해 출력될 수 있도록 한다.As another example, the control unit 470 may be input from an external device input through the external device interface unit 435, for example, a camera or camcorder, according to an external device image playback command received through the user input interface unit 450. The video signal or the audio signal can be output through the display unit 480 or the audio output unit 485.

한편, 제어부(470)는, 영상을 표시하도록 디스플레이부(480)를 제어할 수 있다. 예를 들어, 튜너(410)를 통해 입력되는 방송 영상, 또는 외부 디바이스 인터페이스부(435)를 통해 입력되는 외부 입력 영상, 또는 네트워크 인터페이스부를 통해 입력되는 영상, 또는 저장부(440)에 저장된 영상을, 디스플레이부(480)에 표시하도록 제어할 수 있다. 이때, 디스플레이부(480)에 표시되는 영상은, 정지영상 또는 동영상일 수 있으며, 2D 영상 또는 3D 영상일 수 있다.Meanwhile, the control unit 470 may control the display unit 480 to display an image. For example, a broadcast image input through the tuner 410, an external input image input through the external device interface unit 435, an image input through the network interface unit, or an image stored in the storage unit 440. , It can be controlled to be displayed on the display unit 480. At this time, the image displayed on the display unit 480 may be a still image or a video, and may be a 2D video or a 3D video.

또한, 제어부(470)는, 컨텐트를 재생하도록 제어할 수 있다. 이때의 컨텐트는, 디지털 디바이스(400) 내에 저장된 컨텐트, 또는 수신된 방송 컨텐트, 외부로부터 입력되는 외부 입력 컨텐트일 수 있다. 컨텐트는, 방송 영상, 외부 입력 영상, 오디오 파일, 정지 영상, 접속된 웹 화면, 및 문서 파일 중 적어도 하나일 수 있다.Also, the control unit 470 may control to play content. The content at this time may be content stored in the digital device 400, or received broadcast content, or external input content input from the outside. The content may be at least one of a broadcast image, an external input image, an audio file, a still image, a connected web screen, and a document file.

한편, 제어부(470)는, 애플리케이션 보기 항목에 진입하는 경우, 디지털 디바이스(300) 내 또는 외부 네트워크로부터 다운로드 가능한 애플리케이션 또는 애플리케이션 목록을 표시하도록 제어할 수 있다. On the other hand, when entering the application view item, the controller 470 may control to display a list of applications or applications that can be downloaded from the digital device 300 or from an external network.

제어부(470)는, 다양한 사용자 인터페이스와 더불어, 외부 네트워크로부터 다운로드 되는 애플리케이션을 설치 및 구동하도록 제어할 수 있다. 또한, 사용자의 선택에 의해, 실행되는 애플리케이션에 관련된 영상이 디스플레이부(480)에 표시 되도록 제어할 수 있다.The control unit 470 may control to install and operate an application downloaded from an external network along with various user interfaces. In addition, by selecting the user, it is possible to control an image related to an application to be executed to be displayed on the display unit 480.

한편, 도면에 도시하지 않았지만, 채널 신호 또는 외부 입력 신호에 대응하는 썸네일 이미지를 생성하는 채널 브라우징 처리부가 더 구비되는 것도 가능하다.On the other hand, although not shown in the drawing, it is also possible that a channel browsing processing unit for generating a thumbnail image corresponding to a channel signal or an external input signal is further provided.

채널 브라우징 처리부는, 복조부(320)에서 출력한 스트림 신호(TS) 또는 외부 디바이스 인터페이스부(335)에서 출력한 스트림 신호 등을 입력받아, 입력되는 스트림 신호로부터 영상을 추출하여 썸네일 영상을 생성할 수 있다. 생성된 썸네일 영상은 그대로 또는 부호화되어 제어부(470)로 입력될 수 있다. 또한, 생성된 썸네일 영상은 스트림 형태로 부호화되어 제어부(470)로 입력되는 것도 가능하다. 제어부(470)는 입력된 썸네일 영상을 이용하여 복수의 썸네일 영상을 구비하는 썸네일 리스트를 디스플레이부(480)에 표시할 수 있다. 한편, 이러한 썸네일 리스트 내의 썸네일 영상들은 차례로 또는 동시에 업데이트 될 수 있다. 이에 따라 사용자는 복수의 방송 채널의 내용을 간편하게 파악할 수 있게 된다. The channel browsing processing unit receives a stream signal TS output from the demodulator 320 or a stream signal output from the external device interface unit 335, extracts an image from the input stream signal, and generates a thumbnail image. Can. The generated thumbnail image may be input as it is or as encoded. In addition, the generated thumbnail image may be encoded in a stream form and input to the control unit 470. The controller 470 may display a list of thumbnails having a plurality of thumbnail images on the display unit 480 using the input thumbnail images. Meanwhile, thumbnail images in the thumbnail list may be updated sequentially or simultaneously. Accordingly, the user can easily grasp the contents of a plurality of broadcast channels.

디스플레이부(480)는, 제어부(470)에서 처리된 영상 신호, 데이터 신호, OSD 신호 또는 외부 디바이스 인터페이스부(435)에서 수신되는 영상 신호, 데이터 신호 등을 각각 R, G, B 신호로 변환하여 구동 신호를 생성한다.The display unit 480 converts the image signal, data signal, OSD signal, or image signal received from the external device interface unit 435 processed by the control unit 470 into R, G, and B signals, respectively. Generate a drive signal.

디스플레이부(480)는 PDP, LCD, OLED, 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등이 가능할 수 있다.The display unit 480 may be a PDP, LCD, OLED, flexible display, 3D display, or the like.

한편, 디스플레이부(480)는, 터치 스크린으로 구성되어 출력 디바이스 이외에 입력 디바이스로 사용되는 것도 가능하다.Meanwhile, the display unit 480 may be configured as a touch screen and used as an input device in addition to the output device.

오디오 출력부(485)는, 제어부(470)에서 음성 처리된 신호, 예를 들어, 스테레오 신호, 3.1 채널 신호 또는 5.1 채널 신호를 입력받아 음성으로 출력한다. 음성 출력부(485)는 다양한 형태의 스피커로 구현될 수 있다.The audio output unit 485 receives a signal processed by the control unit 470, for example, a stereo signal, a 3.1 channel signal, or a 5.1 channel signal, and outputs the audio. The audio output unit 485 may be implemented as various types of speakers.

한편, 사용자의 제스처를 감지하기 위해, 상술한 바와 같이, 터치 센서, 음성 센서, 위치 센서, 동작 센서 중 적어도 하나를 구비하는 센싱부(미도시)가 디지털 디바이스(400)에 더 구비될 수 있다. 센싱부(미도시)에서 감지된 신호는 사용자입력 인터페이스부(450)를 통해 제어부(3470)로 전달될 수 있다.Meanwhile, in order to sense a user's gesture, as described above, a sensing unit (not shown) having at least one of a touch sensor, a voice sensor, a position sensor, and a motion sensor may be further provided in the digital device 400. . The signal detected by the sensing unit (not shown) may be transmitted to the control unit 3470 through the user input interface unit 450.

한편, 사용자를 촬영하는 촬영부(미도시)가 더 구비될 수 있다. 촬영부(미도시)에서 촬영된 영상 정보는 제어부(470)에 입력될 수 있다.Meanwhile, a photographing unit (not shown) for photographing a user may be further provided. Image information photographed by the photographing unit (not shown) may be input to the control unit 470.

제어부(470)는, 촬영부(미도시)로부터 촬영된 영상, 또는 센싱부(미도시)로부터의 감지된 신호를 각각 또는 조합하여 사용자의 제스처를 감지할 수도 있다. The controller 470 may detect a user's gesture by individually or in combination with an image captured by the photographing unit (not shown) or a signal detected from the sensing unit (not shown).

전원 공급부(490)는, 디지털 디바이스(400) 전반에 걸쳐 해당 전원을 공급한다.The power supply unit 490 supplies corresponding power throughout the digital device 400.

특히, 시스템 온 칩(System on Chip; SoC)의 형태로 구현될 수 있는 제어부(470)와, 영상 표시를 위한 디스플레이부(480), 및 오디오 출력을 위한 오디오 출력부(485)에 전원을 공급할 수 있다.In particular, the controller 470 can be implemented in the form of a System on Chip (SoC), a display unit 480 for displaying images, and an audio output unit 485 for audio output. Can.

이를 위해, 전원 공급부(490)는, 교류 전원을 직류 전원으로 변환하는 컨버터(미도시)를 구비할 수 있다. 한편, 예를 들어, 디스플레이부(480)가 다수의 백라이트 램프(backlight lamp)를 구비하는 액정 패널로서 구현되는 경우, 휘도 가변 또는 디밍(dimming) 구동을 위해, PWM(Pulse Width Modulation) 동작 가능한 인버터(inverter)(미도시)를 더 구비할 수도 있다.To this end, the power supply unit 490 may include a converter (not shown) that converts AC power into DC power. Meanwhile, for example, when the display unit 480 is implemented as a liquid crystal panel having a plurality of backlight lamps, an inverter capable of PWM (Pulse Width Modulation) operation for variable luminance or dimming driving (Inverter) (not shown) may be further provided.

원격제어 디바이스(500)는, 사용자 입력을 사용자입력 인터페이스부(450)로 송신한다. 이를 위해, 원격제어 디바이스(500)는, 블루투스(Bluetooth), RF(Radio Frequency) 통신, 적외선(IR) 통신, UWB(Ultra Wideband), 지그비(ZigBee) 방식 등을 사용할 수 있다. The remote control device 500 transmits a user input to the user input interface unit 450. To this end, the remote control device 500 may use Bluetooth, Radio Frequency (RF) communication, Infrared (IR) communication, Ultra Wideband (UWB), ZigBee, or the like.

또한, 원격제어 디바이스(500)는, 사용자입력 인터페이스부(450)에서 출력한 영상, 음성 또는 데이터 신호 등을 수신하여, 이를 원격제어 디바이스(500)에서 표시하거나 음성 또는 진동을 출력할 수 있다.In addition, the remote control device 500 may receive an image, audio or data signal output from the user input interface unit 450, display it on the remote control device 500, or output voice or vibration.

상술한 디지털 디바이스(400)는, 고정형 또는 이동형의 ATSC 방식 또는 DVB 방식의 디지털 방송 신호의 처리가 가능한 디지털 방송 수신기일 수 있다. The above-described digital device 400 may be a digital broadcast receiver capable of processing a fixed or mobile ATSC type or DVB type digital broadcast signal.

그 밖에 본 발명에 따른 디지털 디바이스는 도시된 구성 중 필요에 따라 일부 구성을 생략하거나 반대로 도시되진 않은 구성을 더 포함할 수도 있다. 한편, 디지털 디바이스는 상술한 바와 달리, 튜너와 복조부를 구비하지 않고, 네트워크 인터페이스부 또는 외부 디바이스 인터페이스부를 통해서 컨텐트를 수신하여 재생할 수도 있다.In addition, the digital device according to the present invention may further omit some components or further include components that are not shown, as required, among the illustrated components. On the other hand, as described above, the digital device does not have a tuner and a demodulator, and may receive and play content through a network interface unit or an external device interface unit.

도 5는 본 발명의 일 실시 예에 따라 도 2 내지 4의 제어부의 상세 구성을 설명하기 위해 도시한 구성 블록도이다. 5 is a block diagram illustrating a detailed configuration of the control unit of FIGS. 2 to 4 according to an embodiment of the present invention.

제어부의 일 예는, 역다중화부(510), 영상 처리부(5520), OSD 생성부(540), 믹서(mixer)(550), 프레임 레이트 변환부(FRC: Frame Rate Converter)(555), 및 포맷터(formatter)(560)를 포함할 수 있다. 그 외 상기 제어부는 도시되진 않았으나 음성 처리부와 데이터 처리부를 더 포함할 수 있다.Examples of the control unit, the demultiplexing unit 510, the image processing unit 5520, the OSD generation unit 540, a mixer (mixer) 550, a frame rate converter (FRC: Frame Rate Converter) 555, and A formatter 560 may be included. In addition, although not illustrated, the control unit may further include a voice processing unit and a data processing unit.

역다중화부(510)는, 입력되는 스트림을 역다중화한다. 예를 들어, 역다중화부(510)는 입력되는 MPEG-2 TS 영상, 음성 및 데이터 신호로 역다중화할 수 있다. 여기서, 역다중화부(510)에 입력되는 스트림 신호는, 튜너 또는 복조부 또는 외부디바이스 인터페이스부에서 출력되는 스트림 신호일 수 있다.The demultiplexing unit 510 demultiplexes the input stream. For example, the demultiplexer 510 may demultiplex the input MPEG-2 TS video, audio, and data signals. Here, the stream signal input to the demultiplexer 510 may be a stream signal output from a tuner or demodulator or an external device interface.

영상 처리부(420)는, 역다중화된 영상 신호의 영상 처리를 수행한다. 이를 위해, 영상 처리부(420)는, 영상 디코더(425) 및 스케일러(435)를 구비할 수 있다.The image processing unit 420 performs image processing of the demultiplexed image signal. To this end, the image processing unit 420 may include an image decoder 425 and a scaler 435.

영상 디코더(425)는 역다중화된 영상 신호를 복호하며, 스케일러(435)는 복호된 영상 신호의 해상도를 디스플레이부에서 출력 가능하도록 스케일링(scaling)한다.The video decoder 425 decodes the demultiplexed video signal, and the scaler 435 scales the resolution of the decoded video signal to be output from the display unit.

영상 디코더(525)는 다양한 규격을 지원할 수 있다. 예를 들어, 영상 디코더(525)는 영상 신호가 MPEG-2 규격으로 부호화된 경우에는 MPEG-2 디코더의 기능을 수행하고, 영상 신호가 DMB(Digital Multimedia Broadcasting) 방식 또는 H.264 규격으로 부호화된 경우에는 H.264 디코더의 기능을 수행할 수 있다.The video decoder 525 may support various standards. For example, the video decoder 525 performs the function of the MPEG-2 decoder when the video signal is encoded in the MPEG-2 standard, and the video signal is encoded in the Digital Multimedia Broadcasting (DMB) method or the H.264 standard. In this case, the function of the H.264 decoder can be performed.

한편, 영상 처리부(520)에서 복호된 영상 신호는, 믹서(450)로 입력된다.Meanwhile, the video signal decoded by the video processing unit 520 is input to the mixer 450.

OSD 생성부(540)는, 사용자 입력에 따라 또는 자체적으로 OSD 데이터를 생성한다. 예를 들어, OSD 생성부(440)는 사용자입력 인터페이스부의 제어 신호에 기초하여 디스플레이부(380)의 화면에 각종 데이터를 그래픽(Graphic)이나 텍스트(Text) 형태로 표시하기 위한 데이터를 생성한다. 생성되는 OSD 데이터는, 디지털 디바이스의 사용자 인터페이스 화면, 다양한 메뉴 화면, 위젯(widget), 아이콘(icon), 시청률 정보(viewing rate information) 등의 다양한 데이터를 포함한다. OSD 생성부(540)는, 방송 영상의 자막 또는 EPG에 기반한 방송 정보를 표시하기 위한 데이터를 생성할 수도 있다.The OSD generation unit 540 generates OSD data according to a user input or by itself. For example, the OSD generating unit 440 generates data for displaying various data in the form of a graphic or text on the screen of the display unit 380 based on the control signal of the user input interface unit. The generated OSD data includes various data such as a user interface screen of a digital device, various menu screens, widgets, icons, and viewing rate information. The OSD generator 540 may generate data for displaying subtitles of broadcast images or broadcast information based on EPG.

믹서(550)는, OSD 생성부(540)에서 생성된 OSD 데이터와 영상 처리부에서 영상 처리된 영상 신호를 믹싱(mixing)하여 포맷터(560)로 제공한다. 복호된 영상 신호와 OSD 데이터가 믹싱됨으로 인하여, 방송 영상 또는 외부 입력 영상 상에 OSD가 오버레이(overlay) 되어 표시된다.The mixer 550 mixes the OSD data generated by the OSD generator 540 and the image signal processed by the image processor to provide the formatter 560. Because the decoded video signal and the OSD data are mixed, the OSD is displayed overlaid on a broadcast video or an external input video.

프레임 레이트 변환부(FRC)(555)는, 입력되는 영상의 프레임 레이트(frame rate)를 변환한다. 예를 들어, 프레임 레이트 변환부(555)는 입력되는 60Hz 영상의 프레임 레이트를 디스플레이부의 출력 주파수에 따라 예를 들어, 120Hz 또는 240Hz의 프레임 레이트를 가지도록 변환할 수 있다. 상기와 같이, 프레임 레이트를 변환하는 방법에는 다양한 방법이 존재할 수 있다. 일 예로, 프레임 레이트 변환부(555)는 프레임 레이트를 60Hz에서 120Hz로 변환하는 경우, 제1 프레임과 제2 프레임 사이에 동일한 제1 프레임을 삽입하거나, 제1 프레임과 제2 프레임으로부터 예측된 제3 프레임을 삽입함으로써 변환할 수 있다. 다른 예로, 프레임 레이트 변환부(555)는 프레임 레이트를 60Hz에서 240Hz로 변환하는 경우, 기존 프레임 사이에 동일한 프레임 또는 예측된 프레임을 3개 더 삽입하여 변환할 수 있다. 한편, 별도의 프레임 변환을 수행하지 않는 경우에는 프레임 레이트 변환부(555)를 바이패스(bypass) 할 수도 있다.The frame rate converter (FRC) 555 converts a frame rate of an input video. For example, the frame rate converter 555 may convert a frame rate of an input 60 Hz image to have a frame rate of, for example, 120 Hz or 240 Hz according to the output frequency of the display unit. As described above, various methods may exist in the method for converting the frame rate. For example, when the frame rate converter 555 converts the frame rate from 60 Hz to 120 Hz, the same first frame is inserted between the first frame and the second frame, or the first frame and the second frame are predicted from the first frame. It can be converted by inserting 3 frames. As another example, when the frame rate converter 555 converts the frame rate from 60 Hz to 240 Hz, three or more identical frames or predicted frames may be inserted and converted between existing frames. Meanwhile, if a separate frame conversion is not performed, the frame rate conversion unit 555 may be bypassed.

포맷터(560)는, 입력되는 프레임 레이트 변환부(555)의 출력을 디스플레이부의 출력 포맷에 맞게 변경한다. 예를 들어, 포맷터(560)는 R, G, B 데이터 신호를 출력할 수 있으며, 이러한 R, G, B 데이터 신호는, 낮은 전압 차분 신호(LVDS: Low voltage differential signal) 또는 mini-LVDS로 출력될 수 있다. 또한, 포맷터(560)는 입력되는 프레임 레이트 변환부(555)의 출력이 3D 영상 신호인 경우에는 디스플레이부의 출력 포맷에 맞게 3D 형태로 구성하여 출력함으로써, 상기 디스플레이부를 통해 3D 서비스를 지원할 수도 있다.The formatter 560 changes the output of the input frame rate conversion unit 555 to match the output format of the display unit. For example, the formatter 560 may output R, G, and B data signals, and the R, G, and B data signals may be output as a low voltage differential signal (LVDS) or a mini-LVDS Can be. In addition, when the output of the input frame rate conversion unit 555 is a 3D video signal, the formatter 560 may configure and output a 3D format according to the output format of the display unit, thereby supporting 3D service through the display unit.

한편, 제어부 내 음성 처리부(미도시)는, 역다중화된 음성 신호의 음성 처리를 수행할 수 있다. 이러한 음성 처리부(미도시)는 다양한 오디오 포맷을 처리하도록 지원할 수 있다. 일 예로, 음성 신호가 MPEG-2, MPEG-4, AAC, HE-AAC, AC-3, BSAC 등의 포맷으로 부호화된 경우에도 이에 대응되는 디코더를 구비하여 처리할 수 있다.Meanwhile, the voice processing unit (not shown) in the control unit may perform voice processing of the demultiplexed voice signal. The voice processing unit (not shown) may support various audio formats. For example, even when an audio signal is encoded in formats such as MPEG-2, MPEG-4, AAC, HE-AAC, AC-3, BSAC, a decoder corresponding thereto may be provided and processed.

또한, 제어부 내 음성 처리부(미도시)는, 베이스(Base), 트레블(Treble), 음량 조절 등을 처리할 수 있다.In addition, the voice processing unit (not shown) in the control unit may process a base, treble, volume control, and the like.

제어부 내 데이터 처리부(미도시)는, 역다중화된 데이터 신호의 데이터 처리를 수행할 수 있다. 예를 들어, 데이터 처리부는 역다중화된 데이터 신호가 부호화된 경우에도 이를 복호할 수 있다. 여기서, 부호화된 데이터 신호로는, 각 채널에서 방영되는 방송 프로그램의 시작시각, 종료시각 등의 방송 정보가 포함된 EPG 정보일 수 있다. The data processing unit (not shown) in the control unit may perform data processing of the demultiplexed data signal. For example, the data processing unit can decode the demultiplexed data signal even when it is encoded. Here, the encoded data signal may be EPG information including broadcast information such as start time and end time of a broadcast program broadcast on each channel.

한편, 상술한 디지털 디바이스는 본 발명에 따른 예시로서, 각 구성요소는 실제 구현되는 디지털 디바이스의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라, 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나 하나의 구성요소가 2 이상의 구성요소로 세분화될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 발명의 실시 예를 설명하기 위한 것이며, 그 구체적인 동작이나 디바이스는 본 발명의 권리범위를 제한하지 아니한다.Meanwhile, the above-described digital device is an example according to the present invention, and each component may be integrated, added, or omitted depending on the specification of the actual digital device. That is, if necessary, two or more components may be combined into one component, or one component may be subdivided into two or more components. In addition, the function performed in each block is for explaining an embodiment of the present invention, the specific operation or device does not limit the scope of the present invention.

한편, 디지털 디바이스는, 디바이스 내에 저장된 영상 또는 입력되는 영상의 신호 처리를 수행하는 영상신호 처리 디바이스일 수 있다. 영상신호 처리 디바이스의 다른 예로는, 도 4에서 도시된 디스플레이부(480)와 오디오 출력부(485)가 제외된 셋톱-박스(STB), 상술한 DVD 플레이어, 블루-레이 플레이어, 게임 디바이스, 컴퓨터 등이 더 예시될 수 있다.Meanwhile, the digital device may be an image signal processing device that performs signal processing of an image stored in the device or an input image. As another example of the video signal processing device, the display unit 480 and the audio output unit 485 shown in FIG. 4 are excluded from the set-top box (STB), the above-described DVD player, Blu-ray player, game device, computer And the like can be further exemplified.

도 6은 본 발명의 일 실시 예에 따른 도 2 내지 4의 디지털 디바이스와 연결된 입력 수단을 도시한 도면이다.6 is a diagram illustrating input means connected to the digital devices of FIGS. 2 to 4 according to an embodiment of the present invention.

디지털 디바이스(600)를 제어하기 위해 상기 디지털 디바이스(600) 상에 구비된 프론트 패널(front panel)(미도시)이나 제어 수단(입력 수단)이 이용된다.A front panel (not shown) or control means (input means) provided on the digital device 600 is used to control the digital device 600.

한편, 제어 수단은 유, 무선 통신 가능한 사용자 인터페이스 디바이스(UID; User Interface Device)로써, 주로 디지털 디바이스(600)의 제어 목적으로 구현된 리모컨(610), 키보드(630), 포인팅 디바이스(620), 터치패드(touch-pad) 등이 포함되나, 상기 디지털 디바이스(600)에 연결된 외부 입력 전용의 제어 수단 역시 포함될 수 있다. 그 밖에, 디지털 디바이스(600) 제어 목적이 아니나 모드 전환 등을 통해 상기 디지털 디바이스(600)를 제어하는 스마트 폰, 태블릿 PC 등 모바일 디바이스 등도 제어 수단에 포함된다. 다만, 본 명세서에서는 편의상 포인팅 디바이스(pointing device)를 일 실시 예로 하여 설명하나, 이에 한정되는 것은 아니다.On the other hand, the control means is a user interface device (UID; User Interface Device) capable of wired and wireless communication, a remote control 610, a keyboard 630, a pointing device 620 implemented mainly for the control purpose of the digital device 600, A touch-pad or the like is included, but control means dedicated to external input connected to the digital device 600 may also be included. In addition, the control means also includes a mobile device such as a smart phone or a tablet PC that controls the digital device 600 through mode switching or the like, although it is not intended to control the digital device 600. However, in this specification, for convenience, a pointing device is described as an example, but is not limited thereto.

입력 수단은, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), RS 등의 통신 프로토콜을 필요에 따라 적어도 하나 이상 채용하여 디지털 디바이스와 통신 가능하다.The input means are communication protocols such as Bluetooth, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, Digital Living Network Alliance (DLNA), RS, etc. If necessary, at least one is employed to communicate with the digital device.

리모컨(610)은, 디지털 디바이스(600) 제어를 위해 필요한 다양한 키 버튼들이 구비된 통상의 입력 수단을 말한다.The remote controller 610 refers to a conventional input means equipped with various key buttons necessary for controlling the digital device 600.

포인팅 디바이스(620)는, 자이로 센서(Gyro Sensor) 등을 탑재하여 사용자의 움직임, 압력, 회전 등에 기초하여 디지털 디바이스(600)의 화면상에 대응되는 포인터(pointer)를 구현하여 상기 디지털 디바이스(600)에 소정 제어 명령을 전달한다. 이러한 포인팅 디바이스(620)는, 매직 리모컨, 매직 컨트롤러 등 다양한 이름으로 명명될 수 있다.The pointing device 620 is equipped with a gyro sensor or the like to implement a pointer corresponding to the screen of the digital device 600 based on the user's movement, pressure, rotation, and the like, thereby implementing the digital device 600 ) To a certain control command. The pointing device 620 may be named with various names such as a magic remote controller and a magic controller.

키보드(630)는, 디지털 디바이스(600)가 종래 방송만을 제공하던 것을 넘어 지능형 통합 디지털 디바이스로서 웹 브라우저, 애플리케이션, SNS(Social Network Service) 등 다양한 서비스를 제공함에 따라 종래 리모컨(610)만으로는 제어가 쉽지 않아 이를 보완하여 PC의 키보드와 유사하게 구현하여 텍스트 등의 입력 편의를 도모하기 위해 구현되었다.The keyboard 630 is an intelligent integrated digital device that provides a variety of services, such as a web browser, an application, and a social network service (SNS), beyond the digital device 600 providing only a conventional broadcast, so that the control is performed only with the conventional remote controller 610. It was not easy, and it was implemented to enhance the convenience of inputting text, etc. by implementing it similar to a PC keyboard.

한편, 리모컨(610), 포인팅 디바이스(620), 키보드(630) 등 제어수단은, 필요에 따라 터치패드를 구비함으로써 텍스트 인풋, 포인터 이동, 사진 내지 동영상의 확대/축소 등 더욱 편리하고 다양한 제어 목적에 이용할 수 있다. On the other hand, the control means such as the remote control 610, the pointing device 620, and the keyboard 630 are provided with a touch pad as necessary, thereby providing more convenient and various control purposes such as text input, pointer movement, and enlargement/reduction of pictures or videos. Can be used in.

본 명세서에서 설명하는 디지털 디바이스는, OS 및/또는 플랫폼(platform)으로 웹OS를 이용한다. 이하 웹OS 기반의 구성 내지 알고리즘 등 처리 과정은, 전술한 디지털 디바이스의 제어부 등에서 수행될 수 있다. 여기서, 상기 제어부는 전술한 도 2 내지 5에서의 제어부를 포함하여 광의의 개념으로 사용한다. 따라서, 이하에서는 디지털 디바이스 내 웹OS 기반의 또는 그와 관련된 서비스, 애플리케이션, 컨텐트 등의 처리를 위해 구성은 관련 소프트웨어(software), 펌웨어(firmware) 등을 포함한 하드웨어 내지 구성요소는 제어부(controller)로 명명하여 설명한다.The digital device described in this specification uses a web OS as an OS and/or platform. Hereinafter, a processing process such as a configuration or algorithm based on WebOS may be performed by the control unit of the above-described digital device. Here, the control unit includes the control unit in FIGS. 2 to 5 described above, and is used as a broad concept. Accordingly, hereinafter, for processing of webOS based or related services, applications, and contents in a digital device, hardware or components including related software, firmware, and the like are configured as a controller. Explain by name.

이러한 웹OS 기반 플랫폼은 예컨대, 루나-서비스 버스(Luna-service Bus)에 기반하여 서비스, 애플리케이션 등을 통합함으로써, 개발 독립성과 기능 확장성을 제고하기 위한 것으로, 웹 애플리케이션 프레임워크에 기반하여 애플리케이션 개발 생산성도 높일 수 있다. 또한, 웹OS 프로세스와 리소스 관리(resource management)를 통해 시스템 리소스(system resource) 등을 효율적으로 활용하여 멀티-태스킹(multi-tasking)도 지원할 수 있다.The webOS-based platform is intended to enhance development independence and function scalability by integrating services, applications, etc., for example, based on a Luna-service bus, and developing applications based on a web application framework. Productivity can also be increased. In addition, multi-tasking can be supported by efficiently utilizing system resources through web OS processes and resource management.

한편, 본 명세서에서 기술하는 웹OS 플랫폼은 PC, TV, 셋톱박스(STB)와 같은 고정 디바이스뿐만 아니라 휴대폰, 스마트 폰, 태블릿 pc, 노트북, 웨어러블 디바이스(wearable device) 등과 같은 모바일 디바이스에서도 이용 가능하다.On the other hand, the web OS platform described in this specification can be used in mobile devices such as mobile phones, smart phones, tablet pcs, notebooks, wearable devices, as well as fixed devices such as PCs, TVs, and set top boxes (STBs). .

디지털 디바이스를 위한 소프트웨어의 구조는, 종래 문제 해결과 시장에 의존적인 모놀리틱 구조(monolithic structure)로 멀티쓰레딩 기술(multi-threading)에 기반한 단일 프로세스(single process)와 클로우즈드 제품(closed product)으로 외부 응용에 어려움이 있었고, 그 이후 새로운 플랫폼 기반 개발을 지향하고 칩-셋(chip-set) 교체를 통한 비용 혁신과 UI 응용 및 외부 응용 개발 효율화를 추구하여 레이어링 및 콤포넌티제이션(layering & componentization)이 이루어져 3-레이어드 구조와 애드-온(add-on), 싱글 소스(single source) 제품, 오픈 애플리케이션(open application)을 위한 애드-온 구조를 가졌었다. 최근에는 더 나아가 소프트웨어 구조가 기능 단위의 모듈화 아키텍처(modulating architecture), 에코-시스템(echo-system)을 위한 웹 오픈 API(Web Open API (Application Programming Interface)) 제공, 게임 엔진(game engine)을 위한 네이티브 오픈 API(Native Open API) 등을 위한 모듈화 디자인이 이루어지고 있으며, 이에 따라 서비스 구조 기반의 멀티-프로세스 구조(multi-process structure)로 생성되고 있다.The structure of software for digital devices is a single process and a closed product based on multi-threading with a conventional problem solving and market-dependent monolithic structure. As a result, there were difficulties in external applications, and after that, aimed for new platform-based development and pursued cost innovation through chip-set replacement and efficiency in UI application and external application development. Layering & componentization ) To have a three-layered structure, an add-on structure for add-on, single source products, and open applications. In recent years, the software structure has been further improved to provide a modular architecture of functional units, a Web Open API (Application Programming Interface) for an eco-system, and a game engine. A modular design for a native open API or the like has been made, and accordingly, it has been generated as a multi-process structure based on a service structure.

도 7은 본 발명의 일 실시 예에 따른 웹OS 아키텍처를 설명하기 위해 도시한 도면이다.7 is a diagram illustrating a web OS architecture according to an embodiment of the present invention.

도 7을 참조하여, 웹OS 플랫폼의 아키텍처에 대해 설명하면, 다음과 같다. Referring to FIG. 7, the architecture of the web OS platform will be described as follows.

상기 플랫폼은 크게 커널, 시스템 라이브러리(system library) 기반의 웹OS 코어 플랫폼(Web OS core platform), 애플리케이션, 서비스 등으로 구분할 수 있다.The platform can be roughly classified into a kernel, a system library based Web OS core platform, an application, a service, and the like.

웹OS 플랫폼의 아키텍처는, 레이어드 구조(layered structure)로 최하위의 레이어에는 OS, 다음 레이어에는 시스템 라이브러리(들) 그리고 최상위에는 애플리케이션들(applications)이 존재한다.The architecture of the WebOS platform is a layered structure, with the OS at the lowest layer, the system library(s) at the next layer, and the applications at the top.

먼저, 최하위 레이어는, OS 레이어로 리눅스 커널(Linux Kernel)이 포함되어 상기 디지털 디바이스의 OS로 리눅스를 포함할 수 있다.First, a lowermost layer may include a Linux kernel as an OS layer and include Linux as an OS of the digital device.

상기 OS 레이어 상위에는, BSP(Board Support Package)/HAL(Hardware Abstraction Layer) 레이어, 웹OS 코어 모듈 레이어(Web OS core modules layer), 서비스 레이어(service layer), 루나-서비스 버스 레이어(Luna-Service Bus layer), 엔요 프레임워크/NDK(Native Developer◎ Kit)/QT 레이어(Enyo framework/NDK/QT layer) 그리고 최상위 레이어에는 애플리케이션 레이어(Application layer)가 순차로 존재한다. Above the OS layer, a BSP (Board Support Package)/HAL (Hardware Abstraction Layer) layer, a Web OS core modules layer, a service layer, and a Luna-Service bus layer (Luna-Service) Bus layer), Nyo framework/NDK (Native Developer◎ Kit)/QT layer (Enyo framework/NDK/QT layer) and the application layer are sequentially present in the top layer.

한편, 상술한 웹OS 레이어 구조 중 일부 레이어는 생략 가능하며, 복수의 레이어가 하나의 레이어화 되거나 반대로 하나의 레이어가 복수의 레이어 구조가 될 수도 있다.Meanwhile, some of the above-described web OS layer structures may be omitted, and a plurality of layers may be layered or a layer may be a plurality of layer structures.

상기 웹OS 코어 모듈 레이어는, 서피스 윈도우(surface window) 등을 관리하는 LSM(Luna Surface Manager), 애플리케이션의 실행과 수행 상태 등을 관리하는 SAM(System & Application Manage), 웹키트(WebKit)에 기반하여 웹 애플리케이션 등을 관리하는 WAM(Web Application Manager) 등을 포함할 수 있다.The webOS core module layer is based on Luna Surface Manager (LSM) that manages surface windows, SAM (System & Application Manage) that manages execution and execution status of applications, and WebKit. It may include a Web Application Manager (WAM) for managing web applications.

상기 LSM은, 화면에 보이는 애플리케이션 윈도우(application window)를 관리한다. 상기 LSM은, 디스플레이 하드웨어(Display HW)를 관장하며, 애플리케이션들에게 필요한 내용을 렌더링(rendering)할 수 있는 버퍼(buffer)를 제공하며, 복수의 애플리케이션들이 렌더링한 결과를 합성(Composition)하여 화면에 출력할 수 있다.The LSM manages an application window displayed on the screen. The LSM controls the display hardware (Display HW), provides a buffer for applications to render necessary content, and composites the results rendered by a plurality of applications on the screen. Can print

상기 SAM은, 시스템과 애플리케이션의 여러 조건별 수행 폴리시(policy)를 관리한다. The SAM manages execution policies for various conditions of systems and applications.

한편, WAM은, 웹OS는 웹 애플리케이션(Web App)을 기본 애플리케이션으로 볼 수 있는바, 엔요 프레임워크(Enyo Framework)에 기반한다. On the other hand, WAM, the web OS can view the web application (Web App) as a basic application, which is based on the Enyo Framework (Enyo Framework).

애플리케이션의 서비스 사용은, 루나-서비스 버스(Luna-service Bus)를 통해 이루어지며, 신규로 서비스를 버스에 등록할 수 있고, 애플리케이션은 자신이 필요로 하는 서비스를 찾아서 사용할 수도 있다.The service use of the application is performed through a Luna-service bus, and a service can be newly registered on the bus, and the application can also find and use a service that it needs.

상기 서비스 레이어는, TV 서비스, 웹OS 서비스 등 다양한 서비스 레벨(service level)의 서비스들이 포함될 수 있다. 한편, 상기 웹OS 서비스에는, 미디어 서버, Node.JS 등이 포함될 수 있으며 특히, Node.JS 서비스는 예컨대, 자바스크립트(javascript)를 지원한다.The service layer may include various service level services such as TV service and WebOS service. Meanwhile, the web OS service may include a media server, Node.JS, etc. In particular, the Node.JS service supports, for example, JavaScript.

웹OS 서비스는, 기능 로직(function logic)을 구현한 리눅스 프로세스(Linux process)로 버스를 통해 커뮤니케이션 할 수 있다. 이는 크게 네 파트로 구분될 수 있으며, TV 프로세스와 기존 TV로부터 웹OS에 미티그레이션(Migration)되거나 제조사 차별화 서비스인 서비스들, 웹OS 공통 서비스와 자바스크립트로 개발되고 Node.js를 통해 사용되는 Node.js 서비스로 구성된다.WebOS service is a Linux process that implements function logic and can communicate through the bus. It can be largely divided into four parts, TV processes and services that are migrated to WebOS from existing TVs, or services that are manufacturer differentiated services, webOS common services and JavaScript, and used through Node.js. It consists of Node.js service.

상기 애플리케이션 레이어는, TV 애플리케이션, 쇼케이스(showcase) 애플리케이션, 네이티브 애플리케이션(native application), 웹 애플리케이션 등 디지털 디바이스에서 지원 가능한 모든 애플리케이션들을 포함할 수 있다.The application layer may include all applications that can be supported by a digital device, such as a TV application, a showcase application, a native application, and a web application.

웹OS 상의 애플리케이션은, 구현 방법에 따라 웹 애플리케이션(Web Application), PDK(Palm Development Kit) 애플리케이션, QML(Qt Meta Language or Qt Modeling Language) 애플리케이션 등으로 구분될 수 있다. Depending on the implementation method, the application on the web OS can be divided into a web application, a PDK (Palm Development Kit) application, and a Qt Meta Language or Qt Modeling Language (QML) application.

상기 웹 애플리케이션은, 웹키트 엔진(WebKit engine)에 기반하고, WAM 런타임(Runtime) 상에서 수행된다. 이러한 웹 애플리케이션은 엔요 프레임워크에 기반하거나, 일반 HTML5, CSS(Cascading Style Sheets), 자바스크립트 기반으로 개발되어 수행될 수 있다. The web application is based on a WebKit engine and is executed on the WAM runtime. The web application may be based on the ENYO framework, or developed and executed based on general HTML5, Cascading Style Sheets (CSS), and JavaScript.

상기 PDK 애플리케이션은, 써드-파티(3rd-Party) 또는 외부 개발자를 위해 제공된 PDK에 기반하여 C/C++로 개발되는 네이티브 애플리케이션 등을 포함한다. 상기 PDK는, 게임 등 써드 파티가 네이티브 애플리케이션(C/C++)을 개발할 수 있도록 제공된 개발 라이브러리 및 도구 집합을 말한다. 예를 들어, PDK 애플리케이션은, 그 성능이 중요한 애플리케이션의 개발에 이용될 수 있다.The PDK application includes a native application developed in C/C++ based on a PDK provided for a third-party or external developer. The PDK refers to a set of development libraries and tools provided for third parties such as games to develop native applications (C/C++). For example, PDK applications can be used to develop applications where performance is important.

상기 QML 애플리케이션은, Qt 기반의 네이티브 애플리케이션으로, 카드 뷰(card view), 홈 대시보드(Home dashboard), 가상 키보드(virtual keyboard) 등 웹OS 플랫폼과 함께 제공되는 기본 애플리케이션 등을 포함한다. 여기서, QML은, C++ 대신 스크립트 형태의 마크-업 언어(mark-up language)이다. The QML application is a native application based on Qt, and includes a basic application provided with a web OS platform, such as a card view, a home dashboard, and a virtual keyboard. Here, QML is a script-type mark-up language instead of C++.

한편, 상기에서, 네이티브 애플리케이션은, C/C++로 개발되고 컴파일(compile)되어 바이너리(binary) 형태로 수행되는 애플리케이션을 말하는 것으로, 이러한 네이티브 애플리케이션은 그 수행 속도가 빠른 장점이 있다.Meanwhile, in the above, the native application refers to an application developed and compiled in C/C++ and executed in a binary form, and such a native application has an advantage of fast execution speed.

도 8은 본 발명의 일 실시 예에 따른 웹OS 디바이스의 아키텍처를 설명하기 위해 도시한 도면이다. 8 is a diagram illustrating an architecture of a web OS device according to an embodiment of the present invention.

도 8은 웹OS 디바이스의 런타임(Runtime)에 기반한 블록도로서, 이는 도 7의 레이어드 구조를 참조하여 이해할 수 있다.8 is a block diagram based on a runtime of a web OS device, which can be understood by referring to the layered structure of FIG. 7.

이하, 도 7과 8을 참조하여 설명하면, 다음과 같다.Hereinafter, description will be given with reference to FIGS. 7 and 8.

도 8을 참조하면, 시스템 OS(Linux)와 시스템 라이브러리들 상에 서비스들과 애플리케이션들 그리고 웹OS 코어 모듈들이 포함되고 그들 사이의 커뮤니케이션은 루나-서비스 버스를 통해 이루어질 수 있다.Referring to FIG. 8, services and applications and WebOS core modules are included on a system OS (Linux) and system libraries, and communication between them may be performed through a Luna-service bus.

이메일(e-mail), 연락처(contact), 캘린더(calendar) 등 HTML5, CSS, 자바스크립트(java script)에 기초한 Node.js 서비스들, 로깅(Logging), 백업(backup), 파일 노티파이(file notify), 데이터베이스(DB), 액티비티 매니저(activity manager), 시스템 폴리시(system policy), 오디오 데몬(AudioD: Audio Daemon), 업데이트(update), 미디어 서버(media server) 등과 같이 웹OS 서비스들, EPG(Electronic Program Guide), PVR(Personal Video Recorder), 데이터 방송(data broadcasting) 등과 같은 TV 서비스들, 음성 인식(voice recognition), 나우 온(Now on), 노티피케이션(Notification), 검색(search), ACR(Auto Content Recognition), CBOX(Contents List Broswer), wfdd, DMR, 리모트 애플리케이션(Remote Application), 다운로드, SDPIF(Sony Philips Digital Interface Format) 등과 같은 CP 서비스들, PDK 애플리케이션들, 브라우저(browser), QML 애플리케이션 등과 같은 네이티브 애플리케이션들 그리고, 엔요 프레임워크 기반의 UI 관련 TV 애플리케이션들과 웹 애플리케이션들은, 루나-서비스 버스를 통하여 전술한 SAM, WAM, LSM과 같은 웹OS 코어 모듈을 통해 처리가 이루어진다. 한편, 상기에서, TV 애플리케이션들과 웹 애플리케이션들은 반드시 엔요 프레임워크 기반 또는 UI 관련이 아닐 수도 있다.Node.js services based on HTML5, CSS, and JavaScript, including e-mail, contact, and calendar, logging, backup, and file notify webOS services such as notify, database (DB), activity manager, system policy, audio daemon (AudioDmon), update, media server, etc., EPG TV services such as (Electronic Program Guide), PVR (Personal Video Recorder), data broadcasting, voice recognition, Now on, Notification, search , CP services such as ACR (Auto Content Recognition), CBOX (Contents List Broswer), wfdd, DMR, Remote Application, Download, SDPIF (Sony Philips Digital Interface Format), PDK applications, browser , Native applications such as QML applications, and UI related TV applications and web applications based on the Enyo framework are processed through the web OS core modules such as SAM, WAM, and LSM described above through the Luna-service bus. Meanwhile, in the above, TV applications and web applications may not necessarily be based on the Enyo framework or UI.

CBOX는 TV에 연결된 USB, DLNA, 클라우드 등과 같은 외부 디바이스의 컨텐트에 대한 리스트와 메타데이터 등을 관리할 수 있다. 한편, CBOX는 USB, DMS, DVR, 클라우드 등과 같은 다양한 컨텐트 컨테이너들(content containers)의 컨텐트 리스팅을 통합된 뷰(View)로 출력할 수 있다. 또한, CBOX는 픽쳐, 음악, 비디오 등 다양한 타입들의 컨텐트 리스팅을 보여주고, 그 메타데이터를 관리할 수 있다. 그 밖에, CBOX는, 어태치된 저장장치(attached storage)의 컨텐츠를 리얼-타임(Real-time)으로 출력할 수 있다. 예컨대, CBOX는, USB 등의 저장 디바이스가 플러그-인되면, 해당 저장 디바이스의 컨텐츠 리스트를 즉시 출력할 수 있어야 한다. 이때, 상기 컨텐트 리스팅 처리를 위한 표준화된 방식을 정의할 수도 있다. 또한, CBOX는 다양한 연결 프로토콜을 수용할 수 있다.CBOX can manage the list and metadata of the contents of external devices such as USB, DLNA, and cloud connected to the TV. Meanwhile, CBOX can output content listings of various content containers, such as USB, DMS, DVR, cloud, etc., as an integrated view. In addition, CBOX can display various types of content listings such as pictures, music, and videos, and manage their metadata. In addition, the CBOX can output the contents of the attached storage in real-time. For example, when a storage device such as USB is plugged in, the CBOX should be able to immediately output a content list of the storage device. At this time, a standardized method for processing the content listing may be defined. In addition, CBOX can accommodate a variety of connection protocols.

SAM은, 모듈 복잡도의 개선 및 확장성을 제고하기 위한 것이다. 이는 예컨대, 기존 시스템 매니저(System Manager)는 시스템 UI, 윈도우 관리, 웹 애플리케이션 런타임, UX 상의 제약 조건 처리 등의 여러 기능을 하나의 프로세스에서 처리하여 구현 복잡도가 커 이를 해소하고자 주요 기능을 분리하고 기능 간 인터페이스를 명확히 함으로써 구현 복잡도를 낮춘다.The SAM is intended to improve module complexity and improve scalability. For example, the existing system manager handles several functions such as system UI, window management, web application runtime, and constraint processing on UX in a single process. By clarifying the inter-interface, the implementation complexity is reduced.

LSM은, 카드 뷰, 런처(launcher) 등 시스템 UX 구현이 독립적으로 개발 통합될 수 있도록 지원하고, 제품 요구사항 변경 등에 쉽게 대응할 수 있도록 지원한다. 한편, LSM은, 앱온앱 등과 같이 복수의 애플리케이션 화면을 합성하는 경우에 하드웨어 리소스(HW resource)를 최대한 활용하여 멀티-태스킹이 가능하도록 하는데, 멀티-윈도우(multi-window)와 21:9 등을 위한 윈도우 매니지먼트 메커니즘(window management mechanism)을 제공할 수 있다. LSM supports system UX implementation such as card view and launcher to be independently developed and integrated, and supports to easily respond to changes in product requirements. Meanwhile, LSM enables multi-tasking by maximizing the use of hardware resources (HW resource) when synthesizing a plurality of application screens such as app-on-app, multi-window and 21:9. It can provide a window management mechanism (window management mechanism) for.

LSM은, QML에 기반하여 시스템 UI의 구현을 지원하며, 그 개발 생산성을 제고한다. QML UX는 MVC에 기반하여, 화면 레이아웃(Layout) 및 UI 컴포넌트를 쉽게 뷰를 구성할 수 있고, 사용자 입력을 처리하기 위한 코드를 쉽게 개발할 수도 있다. 한편, QML과 웹OS 컴포넌트 간의 인터페이스는 QML 확장 플러그-인을 통해 이루어지며, 애플리케이션의 그래픽 오퍼레이션(graphic operation)은 웨이랜드 프로토콜(wayland protocol), 루나 서비스 콜(luna-service call) 등에 기반할 수 있다. LSM supports the implementation of system UI based on QML, and improves the development productivity. QML UX is based on MVC, so it is easy to construct views for screen layout and UI components, and it is also easy to develop code for processing user input. On the other hand, the interface between the QML and the webOS component is done through the QML extension plug-in, and the graphic operation of the application can be based on the wayland protocol, luna-service call, etc. have.

LSM은 전술한 바와 같이, Luna Surface Manager의 약어로서, 애플리케이션 윈도우 컴포지터(Application Window Compositor)의 기능을 한다.LSM is an abbreviation of Luna Surface Manager, as described above, and functions as an application window compositor.

LSM은 독립적으로 개발된 애플리케이션, UI 컴포넌트 등을 화면에 합성하여 출력하도록 한다. 관련하여, 리센츠(Recents) 애플리케이션, 쇼케이스 애플리케이션, 런처 애플리케이션 등과 같은 컴포넌트(component)들이 각자 자신의 내용을 렌더링(rendering)하면, LSM은 컴포지터로서 출력 영역, 연동 방법 등에 대해 정의한다. 다시 말해, 컴포지터인 LSM은 그래픽 합성, 포커스 관리(focus management), 인풋 이벤트(input event) 등을 처리한다. 이때, LSM은 인풋 매니저(input manager)로부터 이벤트, 포커스 등을 수신하는데 이러한 인풋 매니저로 리모트 컨트롤러, 마우스 & 키보드와 같은 HID, 조이스틱, 게임 패드, 애플리케이션 리모트, 펜 터치 등이 포함될 수 있다.LSM composes and outputs independently developed applications and UI components on the screen. In relation, when components such as a Recents application, a showcase application, and a launcher application respectively render their contents, LSM defines an output area, an interworking method, and the like as a compositor. In other words, the compositor LSM handles graphic composition, focus management, and input events. At this time, the LSM receives events, focus, and the like from an input manager. Such input managers may include a remote controller, HID such as a mouse & keyboard, joystick, game pad, application remote, pen touch, and the like.

이와 같이, LSM은 멀티플 윈도우 모델(multiple window model)을 지원하는데 시스템 UI 성격으로 모든 애플리케이션에서 동시에 수행 가능하다. 관련하여, 런쳐, 리센츠, 세팅(setting), 노티피케이션, 시스템 키보드, 볼륨 UI, 검색, 핑거 제스쳐(finger gesture), 음성인식(Voice Recognition)(STT(Sound to Text), TTS(Text to Sound), NLP(Natural Language Processing) 등), 패턴 제스쳐(pattern gesture)(카메라, MRCU(Mobile Radio Control Unit)), 라이브 메뉴(Live menu), ACR(Auto Content Recognition) 등을 LSM이 지원할 수 있다.As such, the LSM supports multiple window models, which can be executed simultaneously in all applications due to the system UI characteristics. Related to: Launcher, Recents, Settings, Notifications, System Keyboard, Volume UI, Search, Finger gesture, Voice Recognition (STT (Sound to Text), TTS (Text to) LSM can support Sound, NLP (Natural Language Processing), etc., pattern gesture (camera, Mobile Radio Control Unit (MRCU)), Live menu, ACR (Auto Content Recognition), etc. .

도 9는 본 발명의 일 실시 예에 따른 웹OS 디바이스에서 그래픽 컴포지션 플로우(graphic composition flow)를 설명하기 위해 도시한 도면이다.9 is a diagram illustrating a graphic composition flow in a web OS device according to an embodiment of the present invention.

도 9를 참조하면, 그래픽 컴포지션 처리는, UI 프로세스를 담당하는 웹 애플리케이션 매니저(910), 웹 프로세스를 담당하는 웹키트(Webkit)(920), LSM(930) 그리고 그래픽 매니저(GM: Graphic Manager)(940)를 통해 이루어질 수 있다.Referring to FIG. 9, the graphic composition processing includes a web application manager 910 in charge of a UI process, a webkit 920 in charge of a web process, a LSM 930 and a graphic manager (GM) 940.

웹 애플리케이션 매니저(910)에서 UI 프로세스로서 웹 애플리케이션 기반의 그래픽 데이터(또는 애플리케이션)가 생성이 되면, 생성된 그래픽 데이터가 풀-스크린 애플리케이션이 아니면 LSM(930)으로 전달한다. 한편, 웹 애플리케이션 매니저(910)는 UI 프로세스와 웹 프로세스 사이에 그래픽 매니징을 위한 GPU(Graphic Processing Unit) 메모리 공유를 위하여 웹키트(920)에서 생성된 애플리케이션을 수신하여 이를 상기와 같이 풀-스크린 애플리케이션이 아닌 경우에는 LSM(930)으로 전달한다. 상기에서 풀-스크린 애플리케이션인 경우에는, LSM(930)을 바이패스(bypass)할 수 있으며, 이 경우 직접 그래픽 매니저(940)로 전달될 수 있다.When the web application-based graphic data (or application) is generated as a UI process in the web application manager 910, if the generated graphic data is not a full-screen application, it is transferred to the LSM 930. On the other hand, the web application manager 910 receives the application generated by the web kit 920 to share the graphic processing unit (GPU) memory for graphic management between the UI process and the web process, and this is full-screen as described above. If it is not an application, it is delivered to the LSM 930. In the case of the full-screen application, the LSM 930 may be bypassed, and in this case, it may be directly transferred to the graphic manager 940.

LSM(930)은 수신되는 UI 애플리케이션을 웨이랜드 서피스를 거쳐 웨이랜드 컴포지터(Wayland Compositor)로 전송하고, 웨이랜드 컴포지터에서 이를 적절히 처리하여 그래픽 매니저로 전달한다. 이렇게 LSM(930)에서 전달되는 그래픽 데이터는 예컨대, 그래픽 매니저(940)의 LSM GM 서피스를 거쳐 그래픽 매니저 컴포지터를 전달된다.The LSM 930 transmits the received UI application through the Wayland surface to the Wayland Compositor, and processes it appropriately in the Wayland Compositor and delivers it to the graphic manager. The graphic data transmitted from the LSM 930 is transmitted to the graphic manager compositor through the LSM GM surface of the graphic manager 940, for example.

한편, 풀-스크린 애플리케이션은 전술한 바와 같이, LSM(930)을 거치지 않고 바로 그래픽 매니저(940)로 전달이 되는데 이러한 애플리케이션은 WAM GM 서피스로 거쳐 그래픽 매니저 컴포지터에서 처리된다.Meanwhile, as described above, the full-screen application is delivered directly to the graphic manager 940 without going through the LSM 930, which is processed by the graphic manager compositor through the WAM GM surface.

그래픽 매니저는 웹OS 디바이스 내의 모든 그래픽 데이터를 처리하는데, 전술한 LSM GM 서피스를 거친 데이터, WAM GM 서피스를 거친 데이터뿐 아니라 데이터 방송 애플리케이션(Data Broadcasting application), 캡션 애플리케이션(caption application) 등과 같이 GM 서피스를 거친 그래픽 데이터를 모두 수신하여 화면상에 적절히 출력되도록 처리한다. 여기서, GM 컴포지터의 기능은 전술한 컴포지터와 동일 또는 유사한 기능이다.The graphic manager processes all graphic data in the webOS device, such as the data through the LSM GM surface described above, the data through the WAM GM surface, as well as the GM surface, such as a data broadcasting application and a caption application. All graphic data passed through is received and processed to be properly displayed on the screen. Here, the function of the GM compositor is the same or similar function to the above-described compositor.

도 10은 본 발명의 일 실시 예에 따른 미디어 서버를 설명하기 위해 도시한 도면이고, 도 11은 본 발명의 일 실시 예에 따른 미디어 서버의 구성 블록도를 설명하기 위해 도시한 도면이고, 도 12는 본 발명의 일 실시 예에 따른 미디어 서버와 TV 서비스의 관계를 설명하기 위해 도시한 도면이다.10 is a view illustrating a media server according to an embodiment of the present invention, and FIG. 11 is a diagram illustrating a configuration block diagram of a media server according to an embodiment of the present invention, and FIG. 12 Is a diagram illustrating a relationship between a media server and a TV service according to an embodiment of the present invention.

미디어 서버는, 디지털 디바이스 내 다양한 멀티미디어의 실행을 지원 및 필요한 리소스를 관리한다. 미디어 서버는, 미디어 플레이(media play)에 필요한 하드웨어 리소스를 효율적으로 사용할 수 있다. 예컨대, 미디어 서버는, 멀티미디어의 실행을 위해서는 오디오/비디오 하드웨어 리소스가 필요하며, 리소스 사용 현황을 관리하여 효율적으로 활용할 수 있다. 일반적으로 모바일 디바이스보다 큰 화면을 가진 고정 디바이스는, 멀티미디어 실행 시 하드웨어 리소스가 더 필요하고, 많은 데이터 양으로 인해 인코딩/디코딩 및 그래픽 데이터 전달 속도도 빨라야 한다. 한편, 미디어 서버는, 스트리밍, 파일 기반 재생 이외에, 브로드캐스팅(Broadcasting), 레코딩(Recording) 및 튜닝(Tuning) 태스크, 시청과 동시에 녹화를 한다거나, 영상 통화 시 송신자와 수신자 화면을 동시에 보여준다거나 하는 태스크 등을 처리할 수 있어야 한다. 다만, 미디어 서버는, 인코더, 디코더, 튜너, 디스플레이 엔진(display engine) 등 하드웨어 리소스가 칩-셋 단위로 제한이 있어, 동시에 여러 태스크를 실행하는 것이 어려워 예를 들어, 사용 시나리오를 제약하거나 사용자 선택을 입력받아 처리한다.The media server supports the execution of various multimedia in the digital device and manages necessary resources. The media server can efficiently use hardware resources required for media play. For example, the media server needs audio/video hardware resources to execute multimedia, and can efficiently utilize the resource usage status. In general, a fixed device having a larger screen than a mobile device requires more hardware resources when executing multimedia, and the encoding/decoding and graphic data transfer speeds need to be fast due to a large amount of data. Meanwhile, in addition to streaming and file-based playback, the media server performs broadcasting, recording, and tuning tasks, recording simultaneously with viewing, or simultaneously displaying a sender and a receiver screen during a video call. It should be able to handle the back. However, in the media server, hardware resources such as an encoder, a decoder, a tuner, and a display engine are limited in a chip-set unit, so it is difficult to execute multiple tasks at the same time. Process the input.

미디어 서버는, 시스템 안정성을 강화(robustness)할 수 있는데 이는 예컨대, 미디어 재생 중 에러(error)가 발생한 재생 파이프라인(pipeline)을 파이프라인별로 제거 가능하고 재 기동함으로써, 상기와 같이 에러가 발생하는 경우에도 다른 미디어 플레이에 영향을 주지 않을 수 있다. 이러한 파이프라인은, 미디어 재생 요청 시, 디코딩, 분석, 출력 등 각 단위 기능들을 연결한 체인(chain)으로, 미디어 타입(media type) 등에 따라, 필요 단위 기능들이 달라질 수 있다.The media server may enhance system stability, for example, by removing and restarting a playback pipeline for which an error occurred during media playback for each pipeline, and thus generating an error as described above. This may not affect other media play. The pipeline is a chain that connects each unit functions such as decoding, analysis, and output when requesting media playback, and required unit functions may be changed according to a media type.

미디어 서버는, 확장성(extensibility)를 가질 수 있는데 예컨대, 새로운 타입의 파이프라인을 기존 구현 방식에 영향을 주지 않고 추가할 수 있다. 일 예로, 미디어 서버는, 카메라 파이프라인, 화상 회의(Skype) 파이프라인, 써드-파티 파이프라인 등을 수용할 수 있다.The media server may have extensibility, for example, a new type of pipeline may be added without affecting the existing implementation. For example, the media server may accommodate a camera pipeline, a video conference (Skype) pipeline, a third-party pipeline, and the like.

미디어 서버는, 일반 미디어 재생과 TV 태스크 실행을 별개의 서비스로 처리할 수 있는데, 이는 TV 서비스의 인터페이스가 미디어 재생 경우와는 다르기 때문이다. 상기에서, 미디어 서버는, TV 서비스와 관련하여 setchannel, channelup, channeldown, channeltuning, recordstart 등의 오퍼레이션을 지원하고, 일반 미디어 재생과 관련하여 play, pause, stop 등의 오퍼레이션을 지원하여 양자에 대해 서로 다른 오퍼레이션을 지원하고, 별개의 서비스로 처리할 수 있다.The media server can process normal media playback and TV task execution as separate services because the interface of the TV service is different from the media playback case. In the above, the media server supports operations such as setchannel, channelup, channeldown, channeltuning, recordstart, etc. in relation to the TV service, and supports operations such as play, pause, stop, etc. in relation to general media playback, and is different for both. It supports operations and can be processed as a separate service.

미디어 서버는 자원 관리 기능을 통제 또는 통합 관리할 수 있다. 디바이스 내 하드웨어 리소스 할당, 회수 등은, 미디어 서버에서 통합적으로 이루어지며 특히, TV 서비스 프로세스는 실행 중인 태스크와 리소스 할당 현황 등을 미디어 서버로 전달한다. 미디어 서버는, 각 미디어가 실행될 때마다 리소스를 확보하고 파이프라인이 실행되며, 각 파이프라인이 점유한 리소스 현황에 기반하여, 미디어 실행 요청 시 우선 순위(예를 들어, 폴리시)에 의한 실행 허용 및 다른 파이프라인의 리소스 회수 등을 수행한다. 여기서, 미리 정의된 실행 우선 순위와 특정 요청에 대한 필요 리소스 정보가 폴리시 매니저(policy manager)에 의해 관리되고, 리소스 매니저는 상기 폴리시 매니저와 커뮤니케이션하여 리소스 할당, 회수 등을 처리할 수 있다.The media server can control or integrate resource management functions. The hardware resource allocation and retrieval in the device are integrated in the media server, and in particular, the TV service process delivers the running task and resource allocation status to the media server. The media server secures resources each time each media is executed and the pipeline is executed, and allows execution by priority (for example, policy) when requesting media execution, based on the resource status occupied by each pipeline, and Resource recovery of other pipelines is performed. Here, predefined execution priority and required resource information for a specific request are managed by a policy manager, and the resource manager can communicate with the policy manager to process resource allocation, recovery, and the like.

미디어 서버는 재생 관련 모든 오퍼레이션에 관한 식별 인자(ID: identifier)를 보유할 수 있다. 예컨대, 미디어 서버는 식별자에 근거하여 특정 파이프라인을 지시하여 명령을 내릴 수 있다. 미디어 서버는, 둘 이상의 미디어 재생을 위하여, 파이프라인들에 둘을 구분하여 명령을 내릴 수 있다.The media server may have an identifier (ID) for all operations related to playback. For example, the media server may issue a command by instructing a specific pipeline based on the identifier. The media server may issue commands to the pipelines by dividing the two in order to play two or more media.

미디어 서버는 HTML 5 표준 미디어의 재생을 담당할 수 있다.The media server may be responsible for playing HTML 5 standard media.

그 밖에, 미디어 서버는 TV 파이프라인의 별도 서비스 프로세스화는 TV 재구조화 범위에 따를 수 있다. 미디어 서버는, TV 재구조화 범위와 무관하게 설계 구현될 수 있는데, TV가 별도 서비스 프로세스화가 되지 않으면, 특정 태스크에 문제가 생길 때 TV 전체를 재실행해야 할 수도 있다.In addition, the media server may follow the TV restructuring scope for a separate service process of the TV pipeline. The media server may be designed and implemented regardless of the TV restructuring range. If the TV is not serviced separately, the entire TV may need to be re-run when a problem occurs in a specific task.

미디어 서버는, uMS 즉, 마이크로 미디어 서버(micro media server)라고도 한다. 여기서, 미디어 플레이어(media player)가 미디어 클라이언트(media client)인데, 이는 예컨대, HTML5 비디오 태그(video tag), 카메라(Camera), TV, 스카이프(Skype), 세컨드 스크린(2nd Screen) 등을 위한 웹키트(Webkit)을 의미할 수 있다.The media server is also called a uMS, that is, a micro media server. Here, the media player is a media client, for example, web for HTML5 video tag, camera, TV, Skype, second screen, etc. It can mean a kit (Webkit).

미디어 서버는, 리소스 매니저(resource manager), 폴리시 매니저(policy manager) 등과 같은 마이크로 리소스(micro resource)의 관리가 핵심 기능이다. 관련하여, 미디어 서버는, 웹 표준 미디어 컨텐트에 대한 재생(playback) 제어 역할도 제어한다. 이와 관련하여, 미디어 서버는 파이프라인 컨트롤러 리소스(pipeline controller resource)도 관리할 수 있다.In the media server, management of micro resources such as a resource manager and a policy manager is a key function. In relation to this, the media server also controls a playback control role for web standard media content. In this regard, the media server can also manage pipeline controller resources.

이러한 미디어 서버는 예컨대, 확장성(extensibility), 신뢰성(reliability), 리소스의 효율적 사용(efficient resource usage) 등을 지원한다.The media server supports, for example, extensibility, reliability, and efficient resource usage.

다시 말해, uMS 즉, 미디어 서버는, 클라우드 게임(cloud game), MVPD(pay service 등), 카메라 프리뷰(camera preview), 세컨드 스크린(2nd screen), 스카이프 등과 같은 리소스와 TV 리소스 등의 웹OS 디바이스 내에서 적절한 처리를 위한 리소스 사용을 전반적으로 관리하고 제어하여 효율적인 사용이 가능하도록 관리 제어하는 기능을 한다. 한편, 각 리소스는 그 이용 시에 예컨대, 파이프라인을 이용하는데 미디어 서버는 리소스 관리를 위한 파이프라인의 생성, 삭제, 이용 등을 전반적으로 관리 제어할 수 있다.In other words, uMS, that is, the media server is a cloud game (cloud game), MVPD (pay service, etc.), camera preview (camera preview), second screen (2nd screen), skyOS, and other resources such as web OS devices and TV resources It manages and controls resource use for proper processing in general, and functions to manage and control for efficient use. Meanwhile, each resource uses a pipeline, for example, when used, and the media server can overall manage and control the creation, deletion, and use of the pipeline for resource management.

여기서, 파이프라인이라 함은 예컨대, 태스크(task)와 관련된 미디어가 요청(request), 디코딩 스트림(decoding stream), 비디오 출력(video output) 등의 파싱(parsing)과 같은 작업의 연속을 시작하면 생성될 수 있다. 예컨대, TV 서비스 내지 애플리케이션과 관련하여, 시청(watching), 녹화(recording), 채널 튜닝(channel tuning) 등은 각각 개별적으로 그 요청에 따라 생성된 파이프라인을 통하여 리소스 이용 등에 대해 제어를 받아 처리된다.Here, a pipeline is created when, for example, a media related to a task starts continuation of operations such as request, decoding stream, video output, and other parsing. Can be. For example, in relation to a TV service or application, watching, recording, channel tuning, etc. are individually handled under control of resource usage through a pipeline generated according to the request. .

도 10을 참조하여, 미디어 서버의 처리 구조 등에 대해 더욱 상세하게 설명하면, 다음과 같다.Referring to FIG. 10, the processing structure and the like of the media server will be described in more detail as follows.

도 10에서는, 애플리케이션 또는 서비스는 미디어 서버(1020)와 루나-서비스 버스(1010)를 통해 연결되고, 상기 미디어 서버(1020)는 상기 루나-서비스 버스(1010)를 통해 다시 생성된 파이프라인들과 연결되고 관리한다.In FIG. 10, an application or service is connected to a media server 1020 and a Luna-service bus 1010, and the media server 1020 communicates with pipelines regenerated through the Luna-service bus 1010. Connected and managed.

애플리케이션 또는 서비스는 그 특성에 따라 다양한 클라이언트(client)를 구비하고 그를 통해 미디어 서버(1020) 또는 파이프라인과 데이터를 주고 받을 수 있다.The application or service has various clients according to its characteristics, and through which data can be exchanged with the media server 1020 or the pipeline.

상기 클라이언트에는 예컨대, 미디어 서버(1020)와 연결을 위한 uMedia 클라이언트(웹키트)와 RM(resource manager) 클라이언트(C/C++) 등이 포함된다. The client includes, for example, a uMedia client (web kit) and a resource manager (RM) client (C/C++) for connecting with the media server 1020.

상기 uMedia 클라이언트를 포함한 애플리케이션은, 전술한 바와 같이, 미디어 서버(1020)와 연결된다. 더욱 상세하게는, uMedia 클라이언트는 예컨대, 후술할 비디오 오브젝트와 대응되고, 이러한 클라이언트는 요청 등에 의해 비디오의 동작을 위하여 미디어 서버(1020)를 이용한다. The application including the uMedia client is connected to the media server 1020 as described above. More specifically, the uMedia client corresponds to a video object to be described later, for example, and the client uses the media server 1020 for the operation of the video by request or the like.

여기서, 상기 비디오 동작은 비디오 상태에 관한 것으로, 로딩(loading), 언로딩(unloading), 재생(play, playback, or reproduce), 포즈(pause), 중단(stop) 등은 비디오 동작과 관련된 모든 상태 데이터를 포함할 수 있다. 이러한 비디오의 각 동작 내지 상태는 개별 파이프라인 생성을 통해 처리될 수 있다. 따라서, uMedia 클라이언트는 상기 비디오 동작과 관련된 상태 데이터를 미디어 서버 내 파이프라인 매니저(1022)로 전송한다.Here, the video operation is related to a video state, and loading, unloading, play, playback, reproduce, pause, stop, etc. are all states related to the video action. Data. Each operation or state of the video can be processed through the creation of a separate pipeline. Accordingly, the uMedia client transmits state data related to the video operation to the pipeline manager 1022 in the media server.

파이프라인 매니저(1022)는, 리소스 매니저(1024)와 데이터 커뮤니케이션을 통해 현재 디바이스의 리소스에 대한 정보를 획득하고, 상기 uMedia 클라이언트의 상태 데이터에 대응되는 리소스의 할당을 요청한다. 이때, 파이프라인 매니저(1022) 또는 리소스 매니저(1024)는 상기 리소스 할당 등과 관련하여, 필요한 경우에 폴리시 매니저(1026)과 데이터 커뮤니케이션을 통해 리소스 할당에 대한 제어를 한다. 예컨대, 리소스 매니저(1024)에서 파이프라인 매니저(1022)의 요청에 따라 할당할 리소스가 없거나 부족한 경우에, 폴리시 매니저(1026)의 우선순위 비교 등에 따라 상기 요청에 따라 적절한 리소스 할당 등이 이루어지도록 할 수 있다.The pipeline manager 1022 acquires information about a resource of the current device through data communication with the resource manager 1024 and requests allocation of a resource corresponding to the status data of the uMedia client. At this time, the pipeline manager 1022 or the resource manager 1024 controls the resource allocation through data communication with the policy manager 1026 when necessary. For example, when the resource manager 1024 has no or insufficient resources to allocate at the request of the pipeline manager 1022, appropriate resource allocation or the like is made according to the request according to the priority comparison of the policy manager 1026 or the like. Can.

한편, 파이프라인 매니저(1022)는, 상기 리소스 매니저(1024)의 리소스 할당에 따라 할당된 리소스에 대하여 상기 uMedia 클라이언트의 요청에 따른 동작을 위한 파이프라인 생성을 미디어 파이프라인 컨트롤러(1028)에 요청한다.Meanwhile, the pipeline manager 1022 requests the media pipeline controller 1028 to create a pipeline for an operation according to the request of the uMedia client for the resource allocated according to the resource allocation of the resource manager 1024. .

미디어 파이프라인 컨트롤러(1028)는 상기 파이프라인 매니저(1022)의 제어에 따라 필요한 파이프라인을 생성한다. 이렇게 생성된 파이프라인에는 도시된 바와 같이, 미디어 파이프라인, 카메라 파이프라인뿐만 아니라, 재생, 포즈, 중단 등과 관련된 파이프라인이 생성될 수 있다. 한편, 상기 파이프라인에는 HTML5, 웹 CP, 스마트쉐어(smartshare) 재생, 썸네일 추출, NDK, 시네마, MHEG(Multimedia and Hypermedia Information coding Experts Group) 등에 대한 파이프라인 등이 포함될 수 있다.The media pipeline controller 1028 creates a necessary pipeline under the control of the pipeline manager 1022. As shown in the pipeline, the media pipeline and the camera pipeline, as well as pipelines related to playback, pause, pause, etc., can be created in the pipeline. Meanwhile, the pipeline may include a pipeline for HTML5, web CP, smartshare playback, thumbnail extraction, NDK, cinema, Multimedia and Hypermedia Information coding Experts Group (MHEG), and the like.

그 밖에, 파이프라인에는 예를 들어, 서비스 기반의 파이프라인(자체 파이프라인)과 URI 기반의 파이프라인(미디어 파이프라인)이 있을 수 있다.In addition, the pipeline may include, for example, a service-based pipeline (own pipeline) and a URI-based pipeline (media pipeline).

도 10을 참조하면, RM 클라이언트를 포함한 애플리케이션 또는 서비스는 직접적으로 미디어 서버(1020)와 연결되지 않을 수 있다. 이는 애플리케이션 또는 서비스가 직접 미디어를 처리할 수도 있기 때문이다. 다시 말해, 애플리케이션 또는 서비스가 직접 미디어 처리하는 경우에는 미디어 서버를 통하지 않을 수 있다. 다만, 이때, 파이프라인 생성 및 그 이용을 위해 리소스 관리가 필요한바 이를 위해 uMS 커넥터가 기능한다. 한편, 상기 uMS 커넥터는 상기 애플리케이션 또는 서비스의 직접적인 미디어 처리를 위한 리소스 관리 요청이 수신되면, 리소스 매니저(1024)를 포함한 미디어 서버(1020) 통신한다. 이를 위하여 미디어 서버(1020) 역시 uMS 커넥터가 구비되어야 한다.Referring to FIG. 10, an application or service including an RM client may not be directly connected to the media server 1020. This is because the application or service may directly handle the media. In other words, when an application or service directly processes media, it may not go through a media server. However, at this time, resource management is required for pipeline creation and its use. For this, the uMS connector functions. Meanwhile, when a resource management request for direct media processing of the application or service is received, the uMS connector communicates with the media server 1020 including the resource manager 1024. To this end, the media server 1020 should also be provided with a uMS connector.

따라서, uMS 커넥터를 통해 리소스 매니저(1024)의 리소스 관리를 받아 애플리케이션 또는 서비스는 RM 클라이언트의 요청에 대응할 수 있다. 이러한 RM 클라이언트는 네이티브 CP, TV 서비스, 세컨드 스크린, 플래시 플레이어, 유투브 MSE(Medai Source Extensions), 클라우드 게임, 스카이프 등의 서비스를 처리할 수 있다. 이 경우, 전술한 바와 같이, 리소스 매니저(1024)는 리소스 관리에 필요한 경우에 폴리시 매니저(1026)와 적절하게 데이터 커뮤니케이션을 통해 리소스를 관리할 수 있다.Accordingly, an application or service may respond to a request of an RM client by receiving resource management of the resource manager 1024 through the uMS connector. These RM clients can handle services such as native CP, TV service, second screen, flash player, YouTube MSE (Medai Source Extensions), cloud games, and Skype. In this case, as described above, the resource manager 1024 may manage the resource through data communication with the policy manager 1026 when necessary for resource management.

한편, URI 기반의 파이프라인은 전술한 RM 클라이언트와 같이 미디어를 직접 처리하는 경우가 아니라, 미디어 서버(1020)를 통해 이루어진다. 이러한 URI 기반 파이프라인에는, 플레이어 팩토리(player factory), G스트리머(Gstreamer), 스트리밍 플러그-인(streaming plug-in), DRM(Digital Rights Management) 플러그인 파이프라인 등이 포함될 수 있다.On the other hand, the URI-based pipeline is made through the media server 1020, not in the case of directly processing media like the RM client described above. The URI-based pipeline may include a player factory, a Gstreamer, a streaming plug-in, and a Digital Rights Management (DRM) plugin pipeline.

한편, 애플리케이션과 미디어 서비스들 사이에 인터페이스 방법은 다음과 같을 수 있다.Meanwhile, an interface method between an application and media services may be as follows.

웹 애플리케이션에서 서비스를 이용하여 인터페이스하는 방법이다. 이는 PSB(Palm Service Bridge)를 이용하여 루나 콜(Luna Call)하는 방법, 코르도바(Cordova)를 이용하는 방법인데 이는 디스플레이를 비디오 태그로 확장하는 것이다. 그 밖에, 비디오 태그나 미디어 엘리먼트(media element)에 관한 HTML5 표준을 이용하는 방법도 있을 수 있다.This is a method of interfacing with a service in a web application. This is a method of making a Luna Call using a PSB (Palm Service Bridge) and a method of using Cordova, which extends the display to a video tag. In addition, there may be a way to use the HTML5 standard for video tags or media elements.

그리고, PDK에서 서비스를 이용하여 인터페이스하는 방법이다. And, it is a method of interfacing by using a service in the PDK.

또는, 기존 CP에서 서비스를 이용하는 방법이다. 이는 호환성(backward compatibility)를 위해 기존 플랫폼의 플러그-인을 루나 기반으로 확장하여 이용할 수 있다.Or, it is a method of using the service in the existing CP. This can be used by extending the plug-in of the existing platform based on Luna for backward compatibility.

마지막으로, non-웹OS인 경우에 인터페이스하는 방법이다. 이 경우에는 직접 루나 버스를 호출하여 인터페이스할 수 있다.Lastly, in case of non-webOS, it is a way to interface. In this case, the Luna bus can be called directly to interface.

씸리스 체인지(Seamless change)는 별도의 모듈(예를 들어, TVWIN)에 의해 처리되는데, 이는 웹OS 부팅 전 또는 부팅 동안에, 웹OS 없이 TV를 화면에 먼저 보여주고 씸리스하게 처리하기 위한 프로세스이다. 이는 웹OS의 부팅 시간이 늦기 때문에 사용자의 파워 온(Power On) 요청에 빠른 응답을 위해 TV 서비스의 기본 기능을 우선 제공할 목적으로 이용된다. 또한, 상기 모듈은 TV 서비스 프로세스의 일부로, 빠른 부팅과 기본 TV 기능을 제공하는 씸리스 체인지, 공장 모드 등을 지원한다. 또한, 상기 모듈은, Non-웹OS 모드에서 웹OS 모드로 전환도 담당할 수 있다.Seamless change is processed by a separate module (for example, TVWIN), which is a process for displaying and displaying the TV on the screen without webOS first and seamlessly, before or during booting of the webOS. . This is used for the purpose of first providing the basic function of the TV service for quick response to a user's Power On request because the booting time of the WebOS is late. In addition, the module supports a firmware change, factory mode, etc., which provide fast booting and basic TV functions as part of the TV service process. In addition, the module may be in charge of switching from Non-WebOS mode to WebOS mode.

도 11을 참조하면, 미디어 서버의 처리 구조를 도시하고 있다.11, the processing structure of the media server is illustrated.

이때, 도 11에서, 실선 박스는 프로세스 처리 구성을 나타내고, 점선 박스는 프로세스 중 내부 처리 모듈을 나타낼 수 있다. 또한, 실선 화살표는 인터-프로세스 콜 즉, 루나 서비스 콜을 나타내고, 점선 화살표는 등록/알림(register/notify)와 같은 노티피케이션이나 데이터 플로우(data flow)를 나타낼 수 있다.In this case, in FIG. 11, the solid line box indicates a process processing configuration, and the dotted line box indicates an internal processing module during the process. In addition, a solid arrow indicates an inter-process call, that is, a Luna service call, and a dotted arrow indicates a notification or data flow such as register/notify.

서비스 또는 웹 애플리케이션 또는 PDK 애플리케이션(이하 애플리케이션)은, 루나-서비스 버스를 통하여 각종 서비스 처리 구성들과 연결되고, 그를 통해 애플리케이션이 동작하거나 동작 제어된다.The service or web application or PDK application (hereinafter referred to as an application) is connected to various service processing components through a Luna-service bus, through which the application operates or is controlled.

애플리케이션의 타입에 따라 그 데이터 처리 경로는 달라진다. 예컨대, 애플리케이션이 카메라 센서와 관련된 이미지 데이터인 경우에는 카메라 처리부(1130)로 전송이 되어 처리된다. 이때, 카메라 처리부(1130)는 제스처(gesture), 안면 인식(face detection) 모듈 등을 포함하여 수신되는 애플리케이션의 이미지 데이터를 처리한다. 여기서, 카메라 처리부(1130)는 예컨대, 사용자의 선택이나 자동으로 파이프라인 등의 이용이 요구되는 데이터인 경우에는 미디어 서버 처리부(1110)를 통하여 파이프라인을 생성하여 해당 데이터를 처리할 수 있다.The data processing path varies depending on the type of application. For example, when the application is image data related to a camera sensor, it is transmitted to the camera processing unit 1130 for processing. At this time, the camera processor 1130 processes image data of the received application, including a gesture, a face detection module, and the like. Here, the camera processing unit 1130 may process the data by creating a pipeline through the media server processing unit 1110, for example, when the user selects or automatically uses a pipeline or the like.

또는, 애플리케이션이 오디오 데이터를 포함한 경우에는 오디오 처리부(AudioD)(1140)과 오디오 모듈(PulseAudio)(1150)을 통하여 해당 오디오를 처리할 수 있다. 예컨대, 오디오 처리부(1140)는 애플리케이션으로부터 수신되는 오디오 데이터를 처리하여 오디오 모듈(1150)로 전송한다. 이때, 오디오 처리부(1140)는 오디오 폴리시 매니저(audio policy manager)를 포함하여 오디오 데이터의 처리를 결정할 수 있다. 이렇게 처리된 오디오 데이터는 오디오 모듈(1160)에서 가공 처리된다. 한편, 상기 애플리케이션은, 오디오 데이터 처리와 관련된 데이터를 오디오 모듈(1160)로 노티피케이션할 수 있고, 이는 관련 파이프라인에서도 상기 오디오 모듈(1160)로 노피티케이션할 수 있다. 상기 오디오 모듈(1150)은 ALSA(Advanced Linux Sound Architecture)를 포함한다.Alternatively, when the application includes audio data, the corresponding audio may be processed through an audio processing unit (AudioD) 1140 and an audio module (PulseAudio) 1150. For example, the audio processing unit 1140 processes audio data received from an application and transmits it to the audio module 1150. At this time, the audio processing unit 1140 may determine the processing of audio data, including an audio policy manager. The audio data processed in this way is processed by the audio module 1160. Meanwhile, the application may notify data related to audio data processing to the audio module 1160, which may notify the audio module 1160 in the related pipeline. The audio module 1150 includes an Advanced Linux Sound Architecture (ALSA).

또는, 애플리케이션이 DRM이 걸려있는 컨텐트를 포함 또는 처리(이하 포함)하는 경우에는, 해당 컨텐트 데이터를 DRM 서비스 처리부(1160)로 전송하고, 상기 DRM 서비스 처리부(1170)는 DRM 인스턴스(instance)를 생성하여 DRM이 걸려 있는 컨텐트 데이터를 처리한다. 한편, DRM 서비스 처리부(1160)는 상기 DRM이 걸려 있는 컨텐트 데이터의 처리를 위하여, 미디어 파이프라인 내 DRM 파이프라인과 루나-서비스 버스를 통해 연결되어 처리할 수 있다.Alternatively, when the application includes or processes (hereinafter included) DRM-hung content, the corresponding content data is transmitted to the DRM service processing unit 1160, and the DRM service processing unit 1170 creates a DRM instance. To process DRM-hung content data. Meanwhile, the DRM service processing unit 1160 may connect and process the DRM pipeline in the media pipeline and the Luna-service bus in order to process the DRM-hung content data.

이하에서는, 애플리케이션이 미디어 데이터이거나 TV 서비스 데이터(예컨대, 방송 데이터)인 경우의 처리에 관해 설명한다.Hereinafter, processing in the case where the application is media data or TV service data (eg, broadcast data) will be described.

도 12는, 전술한 도 11에서 미디어 서버 처리부와 TV 서비스 처리부만을 더욱 상세하게 설명하기 위해 도시한 것이다.FIG. 12 is a view for explaining in more detail only the media server processor and the TV service processor in FIG. 11 described above.

따라서, 이하에서는, 도 11과 12를 함께 참고하여 설명한다.Therefore, hereinafter, description will be given with reference to FIGS. 11 and 12 together.

먼저, 애플리케이션이 TV 서비스 데이터를 포함한 경우에는 TV 서비스 처리부(1120/1220)에서 처리된다.First, when the application includes TV service data, it is processed by the TV service processing unit 1120/1220.

여기서, TV 서비스 처리부(1120)는 예컨대, DVR/채널 매니저, 방송 모듈, TV 파이프라인 매니저, TV 리소스 매니저, 데이터 방송 모듈, 오디오 설정 모듈, 경로 매니저 등 중 적어도 하나 이상을 포함한다. 또는, 도 12에서 TV 서비스 처리부(1220)는, TV 방송 핸들러(TV broadcast handler), TV 방송 인터페이스부(TV Broadcast Interface), 서비스 처리부, TV 미들웨어(TV MW(middleware)), 경로 매니저, BSP(예를 들어, NetCast)를 포함할 수 있다. 여기서, 상기 서비스 처리부는 예를 들어, TV 파이프라인 매니저, TV 리소스 매니저, TV 폴리시 매니저, USM 커넥터 등을 포함한 모듈을 의미할 수 있다.Here, the TV service processing unit 1120 includes, for example, at least one of a DVR/channel manager, a broadcasting module, a TV pipeline manager, a TV resource manager, a data broadcasting module, an audio configuration module, and a route manager. Alternatively, in FIG. 12, the TV service processing unit 1220 includes a TV broadcast handler, a TV broadcast interface, a service processing unit, a TV middleware (TV middleware), a route manager, and a BSP ( For example, NetCast). Here, the service processing unit may mean, for example, a module including a TV pipeline manager, a TV resource manager, a TV policy manager, and a USM connector.

본 명세서에서, TV 서비스 처리부는, 도 11 또는 12와 같은 구성을 가지거나 양자의 조합으로 구현될 수 있으며, 상기에서 일부 구성은 생략되거나 도시되지 않은 일부 구성이 추가될 수도 있다.In the present specification, the TV service processing unit may have a configuration as shown in FIG. 11 or 12 or may be implemented in a combination of both, and some components may be omitted or some components not shown may be added.

TV 서비스 처리부(1120/1220)는 애플리케이션으로부터 수신된 TV 서비스 데이터의 속성 내지 타입에 기초하여, DVR(Digital Video Recorder)이나 채널 관련 데이터인 경우에는 DVR/채널 매니저로 전송하고, 다시 TV 파이프라인 매니저로 전송하여 TV 파이프라인을 생성하여 처리한다. 한편, 상기 TV 서비스 데이터의 속성 내지 타입이 방송 컨텐트 데이터인 경우에는, TV 서비스 처리부(1120)는 방송 모듈을 거쳐 해당 데이터의 처리를 위하여 TV 파이프라인 매니저를 거쳐 TV 파이프라인을 생성하여 처리한다.The TV service processing unit 1120/1220 transmits to the DVR/channel manager in case of digital video recorder (DVR) or channel related data based on the attribute or type of TV service data received from the application, and then back to the TV pipeline manager To the TV pipeline and process it. On the other hand, when the attribute or type of the TV service data is broadcast content data, the TV service processor 1120 generates and processes the TV pipeline through the TV pipeline manager to process the data through the broadcast module.

또는, json(Javascript standard object notation) 파일이나 c로 작성된 파일은 TV 방송 핸들러에서 처리되어 TV 방송 인터페이스부를 거쳐 TV 파이프라인 매니저로 전송하여 TV 파이프라인을 생성하여 처리한다. 이 경우, TV 방송 인터페이스부는, TV 방송 핸들러를 거친 데이터 또는 파일을 TV 서비스 폴리시에 기초하여 TV 파이프라인 매니저로 전송하여 파이프라인 생성시 참고할 수 있다.Alternatively, a json (Javascript standard object notation) file or a file written in c is processed by the TV broadcast handler and transmitted to the TV pipeline manager through the TV broadcast interface to generate and process the TV pipeline. In this case, the TV broadcast interface unit may transmit data or files that have passed through the TV broadcast handler to the TV pipeline manager based on the TV service policy for reference when creating the pipeline.

한편, TV 파이프라인 매니저는, TV 서비스 내 처리 모듈 내지 매니저 등으로부터 TV 파이프라인 생성 요청에 따라 하나 또는 그 이상의 파이프라인 생성함에 있어서, TV 리소스 매니저의 제어를 받을 수 있다. 한편, TV 리소스 매니저는, TV 파이프라인 매니저의 TV 파이프라인 생성 요청에 따라 TV 서비스를 위해 할당된 리소스의 상태와 할당을 요청하기 위해, TV 폴리시 매니저의 제어를 받을 수 있으며, 미디어 서버 처리부(1110/1210)와 uMS 커넥터를 통해 데이터 커뮤니케이션을 한다. 미디어 서버 처리부(1110/1210) 내 리소스 매니저는 상기 TV 리소스 매니저의 요청에 따라 현재 TV 서비스를 위한 리소스의 상태와 할당 가부 등에 대해 전달한다. 예컨대, 미디어 서버 처리부(1110/1210) 내 리소스 매니저의 확인 결과 만약 TV 서비스를 위한 리소스가 이미 모두 할당된 경우에는, TV 리소스 매니저로 현재 모든 리소스가 할당 완료되었음을 노티파이할 수 있다. 이때, 미디어 서버 처리부 내 리소스 매니저는 상기 노티파이와 함께, TV 서비스를 위해 기할당된 TV 파이프라인들 중 우선순위나 소정 기준에 따라 소정 TV 파이프라인을 제거하고 요청된 TV 서비스를 위한 TV 파이프라인 생성을 요청 내지 할당할 수도 있다. 또는, TV 리소스 매니저에서 상기 미디어 서버 처리부(1110/1210) 내 리소스 매니저의 상태 보고에 따라 TV 리소스 매니저에서 적절히 TV 파이프라인을 제거, 추가, 신설 등 제어를 할 수 있다.Meanwhile, the TV pipeline manager may be under the control of the TV resource manager in creating one or more pipelines according to a TV pipeline generation request from a processing module or a manager in the TV service. Meanwhile, the TV resource manager may be controlled by the TV policy manager to request the status and allocation of resources allocated for the TV service according to the TV pipeline manager's request to create a TV pipeline, and the media server processor 1110 /1210) and uMS connector. The resource manager in the media server processing unit 1110/1210 transmits the status and allocation of resources for the current TV service at the request of the TV resource manager. For example, as a result of checking the resource manager in the media server processing unit 1110/1210, if all the resources for the TV service have already been allocated, the TV resource manager may notify that all resources are currently allocated. At this time, the resource manager in the media server processing unit, together with the notify, removes a predetermined TV pipeline according to a priority or a predetermined criterion among TV pipelines allocated for TV service and TV pipeline for the requested TV service. You can also request or allocate creation. Alternatively, the TV resource manager may appropriately remove, add, or establish a TV pipeline in the TV resource manager according to the status report of the resource manager in the media server processor 1110/1210.

한편, BSP는 예컨대, 기존 디지털 디바이스와의 호환성(backward compatibility)를 지원한다.Meanwhile, the BSP supports backward compatibility with, for example, existing digital devices.

이렇게 생성된 TV 파이프라인들은 그 처리 과정에서 경로 매니저의 제어에 따라 적절히 동작될 수 있다. 경로 매니저는 상기 처리 과정에서 TV 파이프라인만이 아니라 미디어 서버 처리부(1110/1210)에 의해 생성된 파이프라인의 동작까지 고려하여 파이프라인들의 처리 경로 내지 과정을 결정 내지 제어할 수 있다.The TV pipelines thus generated can be properly operated under the control of the route manager in the process. The route manager may determine or control the processing route or process of the pipelines in consideration of not only the TV pipeline but also the operation of the pipeline generated by the media server processor 1110/1210 in the process.

다음으로, 애플리케이션이 TV 서비스 데이터가 아니라 미디어 데이터를 포함한 경우에는, 미디어 서버 처리부(1110/1210)에서 처리된다. 여기서, 미디어 서버 처리부(1110/1210)는, 리소스 매니저, 폴리시 매니저, 미디어 파이프라인 매니저, 미디어 파이프라인 컨트롤러 등을 포함한다. 한편, 미디어 파이프라인 매니저와 미디어 파이프라인 컨트롤러의 제어에 따라 생성되는 파이프라인에는 카메라 프리뷰 파이프라인, 클라우드 게임 파이프라인, 미디어 파이프라인 등 다양하게 생성 가능하다. 한편, 미디어 파이프라인에는 스트리밍 프로토콜, 오토/스테이틱 gstreamer, DRM 등이 포함될 수 있는데, 이는 경로 매니저의 제어에 따라 그 처리 플로우가 결정될 수 있다. 상기 미디어 서버 처리부(1110/1210) 내 구체적인 처리 과정은 전술한 도 10의 설명을 원용하고, 여기서 중복 설명하지 않는다.Next, when the application includes media data rather than TV service data, the media server processing unit 1110/1210 processes it. Here, the media server processing unit 1110/1210 includes a resource manager, a policy manager, a media pipeline manager, a media pipeline controller, and the like. On the other hand, the pipeline created under the control of the media pipeline manager and the media pipeline controller can be variously generated, such as a camera preview pipeline, a cloud game pipeline, and a media pipeline. Meanwhile, the media pipeline may include a streaming protocol, an auto/static gstreamer, DRM, etc., and the processing flow may be determined under the control of the route manager. The detailed processing process in the media server processing unit 1110/1210 uses the above-described description of FIG. 10, and is not repeated herein.

본 명세서에서 미디어 서버 처리부(1110/1210) 내 리소스 매니저는 예를 들어, 카운터 베이스로 리소스 매니징을 할 수 있다.In the present specification, the resource manager in the media server processing unit 1110/1210 may manage resources on a counter basis, for example.

도 13은 본 발명의 실시 예들에 따른 영상표시기기 중 임의의 어느 하나를 제어하는 원격제어장치의 제어 방법을 도시한 도면이다.13 is a diagram illustrating a control method of a remote control device that controls any one of video display devices according to embodiments of the present invention.

도 13의 (a)에 도시된 바와 같이, 디스플레이부(180)에 원격제어장치(200)에 대응하는 포인터(205)가 표시되는 것을 예시한다. As illustrated in FIG. 13A, a pointer 205 corresponding to the remote control device 200 is displayed on the display unit 180.

사용자는 원격제어장치(200)를 상하, 좌우(도 13의 (b)), 앞뒤(도 13의 (c))로 움직이거나 회전할 수 있다. 영상표시기기의 디스플레이부(180)에 표시된 포인터(205)는 원격제어장치(200)의 움직임에 대응한다. 이러한 원격제어장치(200)는, 도면과 같이, 3D 공간 상의 움직임에 따라 해당 포인터(205)가 이동되어 표시되므로, 공간 리모콘이라 명명할 수 있다. The user can move or rotate the remote control device 200 up and down, left and right (FIG. 13 (b)), and forward and backward (FIG. 13 (c)). The pointer 205 displayed on the display unit 180 of the image display device corresponds to the movement of the remote control device 200. The remote control device 200 may be referred to as a spatial remote controller because the corresponding pointer 205 is moved and displayed according to movement in 3D space, as shown in the drawing.

도 13의 (b)는 사용자가 원격제어장치(200)를 왼쪽으로 이동하면, 영상표시기기의 디스플레이부(180)에 표시된 포인터(205)도 이에 대응하여 왼쪽으로 이동하는 것을 예시한다. 13B illustrates that when the user moves the remote control device 200 to the left, the pointer 205 displayed on the display unit 180 of the image display device moves to the left correspondingly.

원격제어장치(200)의 센서를 통하여 감지된 원격제어장치(200)의 움직임에 관한 정보는 영상표시기기로 전송된다. 영상표시기기는 원격제어장치(200)의 움직임에 관한 정보로부터 포인터(205)의 좌표를 산출할 수 있다. 영상표시기기는 산출한 좌표에 대응하도록 포인터(205)를 표시할 수 있다.Information on the movement of the remote control device 200 detected through the sensor of the remote control device 200 is transmitted to the image display device. The video display device may calculate the coordinates of the pointer 205 from information related to the movement of the remote control device 200. The image display device may display the pointer 205 to correspond to the calculated coordinates.

도 13의 (c)는, 원격제어장치(200) 내의 특정 버튼을 누른 상태에서, 사용자가 원격제어장치(200)를 디스플레이부(180)에서 멀어지도록 이동하는 경우를 예시한다. 이에 의해, 포인터(205)에 대응하는 디스플레이부(180) 내의 선택 영역이 줌인되어 확대 표시될 수 있다. 이와 반대로, 사용자가 원격제어장치(200)를 디스플레이부(180)에 가까워지도록 이동하는 경우, 포인터(205)에 대응하는 디스플레이부(180) 내의 선택 영역이 줌아웃되어 축소 표시될 수 있다. 한편, 원격제어장치(200)가 디스플레이부(180)에서 멀어지는 경우, 선택 영역이 줌아웃되고, 원격제어장치(200)가 디스플레이부(180)에 가까워지는 경우, 선택 영역이 줌인될 수도 있다.13C illustrates a case in which a user moves the remote control device 200 away from the display unit 180 while pressing a specific button in the remote control device 200. As a result, the selected area in the display unit 180 corresponding to the pointer 205 may be zoomed in and displayed. Conversely, when the user moves the remote control device 200 to be closer to the display unit 180, the selected area in the display unit 180 corresponding to the pointer 205 may be zoomed out and reduced. On the other hand, when the remote control device 200 moves away from the display unit 180, the selection area is zoomed out, and when the remote control device 200 approaches the display unit 180, the selection area may be zoomed in.

한편, 원격제어장치(200) 내의 특정 버튼을 누른 상태에서는 상하, 좌우 이동의 인식이 배제될 수 있다. 즉, 원격제어장치(200)가 디스플레이부(180)에서 멀어지거나 접근하도록 이동하는 경우, 상,하,좌,우 이동은 인식되지 않고, 앞뒤 이동만 인식되도록 할 수 있다. 원격제어장치(200) 내의 특정 버튼을 누르지 않은 상태에서는, 원격제어장치(200)의 상,하, 좌,우 이동에 따라 포인터(205)만 이동하게 된다. Meanwhile, in a state in which a specific button in the remote control device 200 is pressed, recognition of up, down, left and right movement may be excluded. That is, when the remote control device 200 moves to move away from or approach the display unit 180, the up, down, left, and right movements are not recognized, and only the forward and backward movements can be recognized. When a specific button in the remote control device 200 is not pressed, only the pointer 205 moves according to the up, down, left, and right movement of the remote control device 200.

한편, 포인터(205)의 이동속도나 이동방향은 원격제어장치(200)의 이동속도나 이동방향에 대응할 수 있다. Meanwhile, the moving speed or the moving direction of the pointer 205 may correspond to the moving speed or the moving direction of the remote control device 200.

한편, 본 명세서에서의 포인터는, 원격제어장치(200)의 동작에 대응하여, 디스플레이부(180)에 표시되는 오브젝트를 의미한다. 따라서, 포인터(205)로 도면에 도시된 화살표 형상 외에 다양한 형상의 오브젝트가 가능하다. 예를 들어, 점, 커서, 프롬프트, 두꺼운 외곽선 등을 포함하는 개념일 수 있다. 그리고, 포인터(205)가 디스플레이부(180) 상의 가로축과 세로축 중 어느 한 지점(point)에 대응하여 표시되는 것은 물론, 선(line), 면(surface) 등 복수 지점에 대응하여 표시되는 것도 가능하다.Meanwhile, the pointer in the present specification means an object displayed on the display unit 180 in response to the operation of the remote control device 200. Accordingly, various shapes of objects other than the arrow shape illustrated in the drawing are possible with the pointer 205. For example, it may be a concept including points, cursors, prompts, and thick outlines. In addition, the pointer 205 may be displayed corresponding to any one point of the horizontal axis and the vertical axis on the display unit 180, as well as a plurality of points, such as a line and a surface. Do.

도 14는 본 발명의 실시예들에 따른 영상표시기기 중 임의의 어느 하나를 제어하는 원격제어장치의 내부 블록도이다.14 is an internal block diagram of a remote control device controlling any one of video display devices according to embodiments of the present invention.

도 14에 도시한 바와 같이, 원격제어장치(200)는 무선통신부(225), 사용자 입력부(235), 센서부(240), 출력부(250), 전원공급부(260), 저장부(270), 제어부(280)를 포함할 수 있다. As shown in FIG. 14, the remote control device 200 includes a wireless communication unit 225, a user input unit 235, a sensor unit 240, an output unit 250, a power supply unit 260, and a storage unit 270. , It may include a control unit 280.

무선통신부(225)는 전술하여 설명한 본 발명의 실시예들에 따른 영상표시기기 중 임의의 어느 하나와 신호를 송수신한다. 본 발명의 실시예들에 따른 영상표시기기들 중에서, 하나의 영상표시기기(100)를 일예로 설명하도록 하겠다.The wireless communication unit 225 transmits and receives a signal to any one of the video display devices according to the embodiments of the present invention described above. Among the video display devices according to embodiments of the present invention, one video display device 100 will be described as an example.

본 실시 예에서, 원격제어장치(200)는 RF 통신규격에 따라 영상표시기기(100)와 신호를 송수신할 수 있는 RF 모듈(221)을 구비할 수 있다. 또한 원격제어장치(200)는 IR 통신규격에 따라 영상표시기기(100)와 신호를 송수신할 수 있는 IR 모듈(223)을 구비할 수 있다. In this embodiment, the remote control device 200 may include an RF module 221 capable of transmitting and receiving signals to and from the video display device 100 according to the RF communication standard. Also, the remote control device 200 may include an IR module 223 capable of transmitting and receiving signals to and from the video display device 100 according to the IR communication standard.

본 실시 예에서, 원격제어장치(200)는 영상표시기기(100)로 원격제어장치(200)의 움직임 등에 관한 정보가 담긴 신호를 RF 모듈(221)을 통하여 전송한다. In this embodiment, the remote control device 200 transmits a signal containing information about the movement of the remote control device 200 to the video display device 100 through the RF module 221.

또한, 원격제어장치(200)는 영상표시기기(100)가 전송한 신호를 RF 모듈(221)을 통하여 수신할 수 있다. 또한, 원격제어장치(200)는 필요에 따라 IR 모듈(223)을 통하여 영상표시기기(100)로 전원 온/오프, 채널 변경, 볼륨 변경 등에 관한 명령을 전송할 수 있다. In addition, the remote control device 200 may receive a signal transmitted from the video display device 100 through the RF module 221. In addition, the remote control device 200 may transmit a command for power on/off, channel change, volume change, etc. to the image display device 100 through the IR module 223 as necessary.

사용자 입력부(235)는 키패드, 버튼, 터치 패드, 또는 터치 스크린 등으로 구성될 수 있다. 사용자는 사용자 입력부(235)를 조작하여 원격제어장치(200)으로 영상표시기기(100)와 관련된 명령을 입력할 수 있다. 사용자 입력부(235)가 하드키 버튼을 구비할 경우 사용자는 하드키 버튼의 푸쉬 동작을 통하여 원격제어장치(200)으로 영상표시기기(100)와 관련된 명령을 입력할 수 있다. 사용자 입력부(235)가 터치스크린을 구비할 경우 사용자는 터치스크린의 소프트키를 터치하여 원격제어장치(200)으로 영상표시기기(100)와 관련된 명령을 입력할 수 있다. 또한, 사용자 입력부(235)는 스크롤 키나, 조그 키 등 사용자가 조작할 수 있는 다양한 종류의 입력수단을 구비할 수 있으며 본 실시예는 본 발명의 권리범위를 제한하지 아니한다.The user input unit 235 may include a keypad, a button, a touch pad, or a touch screen. The user may input a command related to the image display device 100 to the remote control device 200 by operating the user input unit 235. When the user input unit 235 has a hard key button, the user may input a command related to the image display device 100 to the remote control device 200 through a push operation of the hard key button. When the user input unit 235 includes a touch screen, the user may input a command related to the video display device 100 to the remote control device 200 by touching a soft key of the touch screen. In addition, the user input unit 235 may include various types of input means that the user can operate, such as a scroll key or a jog key, and this embodiment does not limit the scope of the present invention.

센서부(240)는 자이로 센서(241) 및 가속도 센서(243)를 중 적어도 하나를 구비할 수 있다. The sensor unit 240 may include at least one of a gyro sensor 241 and an acceleration sensor 243.

자이로 센서(241)는 원격제어장치(200)의 움직임에 관한 정보를 센싱할 수 있다. The gyro sensor 241 may sense information on the movement of the remote control device 200.

일예로, 자이로 센서(241)는 원격제어장치(200)의 동작에 관한 정보를 x,y,z 축을 기준으로 센싱할 수 있다. 가속도 센서(243)는 원격제어장치(200)의 이동속도 등에 관한 정보를 센싱할 수 있다. 한편, 거리측정센서를 더 구비할 수 있으며, 이에 의해, 디스플레이부(180)와의 거리를 센싱할 수 있다.For example, the gyro sensor 241 may sense information on the operation of the remote control device 200 based on the x, y, and z axes. The acceleration sensor 243 may sense information related to the movement speed of the remote control device 200. Meanwhile, a distance measurement sensor may be further provided, whereby a distance from the display unit 180 can be sensed.

출력부(250)는 사용자 입력부(235)의 조작에 대응하거나 영상표시기기(100)에서 전송한 신호에 대응하는 영상 또는 음성 신호를 출력할 수 있다. 출력부(250)를 통하여 사용자는 사용자 입력부(235)의 조작 여부 또는 영상표시기기(100)의 제어 여부를 인지할 수 있다. The output unit 250 may output an image or audio signal corresponding to the operation of the user input unit 235 or a signal transmitted from the image display device 100. The user may recognize whether the user input unit 235 is operated or whether the image display device 100 is controlled through the output unit 250.

일예로, 출력부(250)는 사용자 입력부(235)가 조작되거나 무선 통신부(225)을 통하여 영상표시기기(100)와 신호가 송수신되면 점등되는 LED 모듈(251), 진동을 발생하는 진동 모듈(253), 음향을 출력하는 음향 출력 모듈(255), 또는 영상을 출력하는 디스플레이 모듈(257)을 구비할 수 있다. For example, the output unit 250 includes a LED module 251 that is turned on when the user input unit 235 is operated or a signal is transmitted and received through the wireless communication unit 225, a vibration module generating vibration ( 253), an audio output module 255 for outputting sound, or a display module 257 for outputting an image.

전원공급부(260)는 원격제어장치(200)으로 전원을 공급한다. 전원공급부(260)는 원격제어장치(200)이 소정 시간 동안 움직이지 않은 경우 전원 공급을 중단함으로서 전원 낭비를 줄일 수 있다. 전원공급부(260)는 원격제어장치(200)에 구비된 소정 키가 조작된 경우에 전원 공급을 재개할 수 있다.The power supply unit 260 supplies power to the remote control device 200. The power supply unit 260 may reduce power waste by stopping power supply when the remote control device 200 has not moved for a predetermined time. The power supply unit 260 may resume power supply when a predetermined key provided in the remote control device 200 is operated.

저장부(270)는 원격제어장치(200)의 제어 또는 동작에 필요한 여러 종류의 프로그램, 애플리케이션 데이터 등이 저장될 수 있다. 만일 원격제어장치(200)가 영상표시기기(100)와 RF 모듈(221)을 통하여 무선으로 신호를 송수신할 경우 원격제어장치(200)과 영상표시기기(100)는 소정 주파수 대역을 통하여 신호를 송수신한다. 원격제어장치(200)의 제어부(280)는 원격제어장치(200)과 페어링된 영상표시기기(100)와 신호를 무선으로 송수신할 수 있는 주파수 대역 등에 관한 정보를 저장부(270)에 저장하고 참조할 수 있다.The storage unit 270 may store various types of programs and application data required for control or operation of the remote control device 200. If the remote control device 200 transmits and receives signals wirelessly through the video display device 100 and the RF module 221, the remote control device 200 and the video display device 100 transmit signals through a predetermined frequency band. Send and receive. The control unit 280 of the remote control device 200 stores information on a frequency band capable of wirelessly transmitting and receiving signals to and from the video display device 100 paired with the remote control device 200 in the storage unit 270 and Can be referenced.

제어부(280)는 원격제어장치(200)의 제어에 관련된 제반 사항을 제어한다. 제어부(280)는 사용자 입력부(235)의 소정 키 조작에 대응하는 신호 또는 센서부(240)에서 센싱한 원격제어장치(200)의 움직임에 대응하는 신호를 무선 통신부(225)를 통하여 영상표시기기(100)로 전송할 수 있다.The control unit 280 controls all matters related to the control of the remote control device 200. The control unit 280 displays a signal corresponding to a predetermined key manipulation of the user input unit 235 or a signal corresponding to the movement of the remote control device 200 sensed by the sensor unit 240 through the wireless communication unit 225. (100).

이하에서는， 이와 같이 구성된 디스플레이 디바이스(1500)에서 구현될 수 있는 제어 방법과 관련된 실시 예들에 대해 첨부된 도면을 참조하여 살펴보겠다. 본 발명은 본 발명의 정신 및 필수적 특정을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다.Hereinafter, embodiments related to a control method that can be implemented in the display device 1500 configured as described above will be described with reference to the accompanying drawings. It will be apparent to those skilled in the art that the present invention may be embodied in other specific forms without departing from the spirit and essential characteristics of the present invention.

또한， 이하에서는，디스플레이 디바이스(1500)로서 도 15에 도시된 디스플레이 디바이스(1500)를 예로 들어 본 발명의 실시 예들을 설명하기로 한다. 그러나, 본 발명의 일 실시 예에 의한 디스플레이 디바이스(1500)가 도 1 내지 도 14에 도시된 디스플레이 디바이스(1500)로 구현될 수도 있음은 물론이다.In addition, hereinafter, the display device 1500 illustrated in FIG. 15 as the display device 1500 will be described as an example. However, it is needless to say that the display device 1500 according to an embodiment of the present invention may be implemented as the display device 1500 shown in FIGS. 1 to 14.

또한，이하에서는，도 15 내지 도 49을 참조하여，디스플레이 디바이스(1500) 및 그 제어 방법에 대하여 상세히 설명하기로 한다. 다만，당업자는 이전에 설명한 도 1 내지 도 14를 참조하여，이하 도 15 내지 도 49을 보충 해석하거나 실시 예를 변형하는 것도 가능하다.In addition, hereinafter, with reference to FIGS. 15 to 49, the display device 1500 and its control method will be described in detail. However, a person skilled in the art may refer to FIGS. 1 to 14 previously described, and supplement or interpret the embodiments of FIGS. 15 to 49 or modify embodiments.

도 15는 본 발명의 일 실시 예에 따른 디스플레이 디바이스(1500)의 구성도이다. 15 is a configuration diagram of a display device 1500 according to an embodiment of the present invention.

도 15를 참조하면, 디스플레이 디바이스(1500)는 튜너(1510), 통신부(1520), 제어부(1530), 디스플레이(1540), 스피커(1550), 마이크(1560), 메모리(1570), 카메라(1580)를 포함한다. Referring to FIG. 15, the display device 1500 includes a tuner 1510, a communication unit 1520, a control unit 1530, a display 1540, a speaker 1550, a microphone 1560, a memory 1570, and a camera 1580 ).

튜너(1510)는 방송 신호를 방송국으로부터 수신한다. The tuner 1510 receives a broadcast signal from a broadcasting station.

통신부(1520)는 외부 서버 및 외부 리모컨 중 적어도 하나와 통신을 수행한다. The communication unit 1520 communicates with at least one of an external server and an external remote control.

디스플레이(1540)는 수신된 방송 신호에 포함된 컨텐트를 화면에 디스플레이한다. 여기서, 컨텐트는 외부 서버로부터 수신하거나 또는 내부 메모리에 저장되어 있다. The display 1540 displays content included in the received broadcast signal on the screen. Here, the content is received from an external server or stored in the internal memory.

스피커(1550)는 상기 통신부로부터 수신되거나 메모리에 저장된 오디오 데이터를 음성로 출력할 수 있다. The speaker 1550 may output audio data received from the communication unit or stored in a memory as voice.

마이크(1560)는 TV 사운드와 사용자의 음성을 수신할 수 있다. The microphone 1560 may receive TV sound and a user's voice.

카메라(1580)는 제어부(1530)의 제어 명령에 따라 디스플레이 디바이스(1500)의 전방 이미지를 캡쳐한다. The camera 1580 captures the front image of the display device 1500 according to the control command of the control unit 1530.

제어부(1530)는 튜너(1510), 통신부(1520), 디스플레이(1540), 스피커(1550), 마이크(1560), 메모리(1570), 카메라(1580) 중 적어도 하나를 제어한다. The control unit 1530 controls at least one of the tuner 1510, the communication unit 1520, the display 1540, the speaker 1550, the microphone 1560, the memory 1570, and the camera 1580.

제어부(1530)는 마이크를 통해 수신된 사용자의 음성 언어를 인식하고 분석하여 사용자가 의도한 명령을 실행한다. 제어부(1530)는 마이크(1560)를 통해 수신된 사용자의 음성 중 특정 키워드를 인식하여 해당 키워드에 대응되는 명령을 처리할 수 있다. The control unit 1530 recognizes and analyzes the user's voice language received through the microphone to execute a command intended by the user. The controller 1530 may recognize a specific keyword among voices of the user received through the microphone 1560 and process a command corresponding to the keyword.

제어부(1530)는 사용자의 발화 중 지시대명사를 인식하고, 해당 지시대명사가 지칭하는 대상을 추측하여 사용자가 의도한 정보를 디스플레이 할 수 있다. The controller 1530 recognizes an indication pronoun during a user's speech, and may guess an object indicated by the indication pronoun and display information intended by the user.

제어부(1530)는 사용자의 이전 발화 내용을 저장하고, 저장된 발화 내용에 기초하여 현재 사용자가 발화하는 의도를 정확히 파악할 수 있다. The controller 1530 stores the previous utterance of the user, and can accurately grasp the intention of the current user to speak based on the stored utterance.

사용자가 특정 기능의 실행에 필요한 정보를 발화하지 않은 경우, 제어부(1530)는 빠진 정보를 사용자에게 다시 물을 수 있다. If the user has not uttered information necessary to execute a specific function, the controller 1530 may ask the user for the missing information again.

제어부(1530)는 사용자의 시청 이력에 대한 정보에 기초하여 사용자가 최근 시청한 컨텐츠를 추천할 수 있다. The controller 1530 may recommend content that the user has recently viewed based on information about the user's viewing history.

제어부(1530)는 사용자의 명령에 대하여 자연스럽고 다양한 응답을 제공할 수 있다. 예를 들면, 사용자가 영화에 대한 검색 결과를 요청한 경우, "영화 검색 결과입니다.", "요청하신 영화 검색 결과입니다." 또는 "영화 키워드로 찾아본 결과에요." 등의 다양한 응답을 스피커(1550)로 출력할 수 있다. The control unit 1530 may provide a natural and various response to the user's command. For example, if a user requests a search result for a movie, "The movie search result.", "The requested movie search result." Or "It's the result of a search by movie keyword." Various responses, such as, can be output to the speaker 1550.

제어부(1530)는 사용자의 발화에 기초하여 디스플레이 디바이스(1500)를 제어할 수 있다. 예를 들면, 사용자가 "TV 꺼줘."라고 발화한 경우, 제어부(1530)는 디스플레이 디바이스(1500)의 전원을 끌 수 있다. The control unit 1530 may control the display device 1500 based on the user's speech. For example, when the user utters "Turn off the TV.", the control unit 1530 may turn off the power of the display device 1500.

제어부(1530)는 튜너(1510)로부터 방송 관련 정보에 기초하여 디스플레이디바이스(1500)를 제어할 수 있다. 상기 방송 관련 정보는 EPG(Electronic Program Guide)가 될 수 있다. 예를 들면, 사용자가 "TV 꺼줘."라고 발화한 경우, 제어부(1530)는 수신된 EPG정보에 기초하여 현재 디스플레이 중인 프로그램의 종료 시간에 디스플레이 디바이스(1500)의 전원을 끌 수 있다. The control unit 1530 may control the display device 1500 based on broadcast-related information from the tuner 1510. The broadcast-related information may be an EPG (Electronic Program Guide). For example, when the user utters "Turn off the TV.", the controller 1530 may turn off the power of the display device 1500 at the end time of the currently displayed program based on the received EPG information.

제어부(1530)의 동작에 대한 상세한 설명은 이하 도 17 내지 도 49에서 후술한다. A detailed description of the operation of the control unit 1530 will be described later with reference to FIGS. 17 to 49.

디스플레이(1540)는 수신된 방송 신호에 포함된 컨텐트를 화면에 디스플레이한다. 여기서, 컨텐트는 외부 서버로부터 수신하거나 또는 내부 메모리에 저장되어 있다. The display 1540 displays content included in the received broadcast signal on the screen. Here, the content is received from an external server or stored in the internal memory.

메모리(1570)는 상기 디스플레이 디바이스(1500)의 동작을 위한 데이터를 저장한다. The memory 1570 stores data for the operation of the display device 1500.

도 16은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스(1500)의 제어 방법을 도시한 도면이다. 본 발명은 제어부(1530)에 의하여 수행된다. 16 is a diagram illustrating a control method of the display device 1500 according to an embodiment of the present invention. The present invention is performed by the control unit 1530.

도 16을 참조하면, 먼저, 방송 신호를 방송국으로부터 튜너(1510)를 통하여 수신한다(S1610).Referring to FIG. 16, first, a broadcast signal is received from a broadcasting station through a tuner 1510 (S1610).

수신된 방송 신호에 포함된 컨텐트를 화면에 디스플레이한다(S1620). 여기서, 컨텐츠는 상기 외부 서버로부터 수신하거나 또는 내부 메모리(1570)에 저장되어 있다.The content included in the received broadcast signal is displayed on the screen (S1620). Here, the content is received from the external server or stored in the internal memory 1570.

디스플레이 디바이스(1500)의 음성 인식 기능을 활성화한다.(S1630).The voice recognition function of the display device 1500 is activated (S1630).

사용자의 발화를 마이크(1560)로 수신한다. (S1640)The user's speech is received by the microphone 1560. (S1640)

마이크(1560)로 수신된 사용자의 발화 중 특정 키워드가 포함되어있는지 여부를 판단한다. (S1650)It is determined whether a specific keyword is included in the user's speech received by the microphone 1560. (S1650)

마이크(1560)로 수신된 사용자의 발화 중 특정 키워드가 포함되어 있는 경우, 특정 키워드에 대응하는 명령을 실행한다. (S1660)When a specific keyword is included in the user's speech received by the microphone 1560, a command corresponding to the specific keyword is executed. (S1660)

여기서, 특정 키워드는 재생 중인 컨텐츠를 지시하는 지시대명사, 화면 내의 검색결과를 지칭하는 키워드 또는 특정 기능의 실행을 요청하는 키워드일 수 있다. 여기서, 특정 키워드에 대응하는 명령은 현재 재생중인 컨텐츠의 정보 표시, 이전 검색 결과 내에서의 재검색, 부족한 정보의 되묻기, 디스플레이 화면 내 UI조작, 어플리케이션 기능 실행, 시청이력 검색, 키워드와 관련된 발화 추천일 수 있다. 제어부(1530)의 자세한 동작에 대한 상세한 설명은 도 17 내지 도 49에서 후술한다. Here, the specific keyword may be an indication pronoun indicating the content being played, a keyword indicating a search result in the screen, or a keyword requesting execution of a specific function. Here, the command corresponding to a specific keyword displays information of the content currently being played, re-search within the previous search results, retrieving insufficient information, UI manipulation in the display screen, application function execution, viewing history search, and utterance related to the keyword Can be A detailed description of the detailed operation of the control unit 1530 will be described later with reference to FIGS. 17 to 49.

도 17은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스(1500)에서 음성 입력 시스템의 UI를 디스플레이 하는 것을 도시한 도면이다. 17 is a diagram illustrating a UI of a voice input system displayed on the display device 1500 according to an embodiment of the present invention.

도 17을 참조하면, 제어부(1530)는 사용자가 특정 커맨드를 입력하는 경우, 음성 입력 시스템의 UI를 디스플레이한다. 예를 들면, 제어부(1530)는 사용자가 리모콘의 음성 인식 활성화 키(미도시)를 일정 시간 이상 누르는 경우, 음성 인식 기능을 활성화 하고, 디스플레이 화면 하단에 음성 입력 시스템 UI를 디스플레이 할 수 있다. Referring to FIG. 17, when the user inputs a specific command, the controller 1530 displays the UI of the voice input system. For example, when the user presses a voice recognition activation key (not shown) of the remote controller for a predetermined time or longer, the controller 1530 may activate a voice recognition function and display a voice input system UI at the bottom of the display screen.

도 17의 하단을 참조하면, 제어부(1530)는 현재 단계를 나타내는 인디케이터(1710)와 텍스트 영역(1720)을 디스플레이할 수 있다. 사용자가 리모콘의 포인터로 음성 인식 시스템 UI의 바깥 영역을 선택하는 경우, 제어부(1530)는 음성 입력 시스템 UI를 닫을 수 있다. Referring to the bottom of FIG. 17, the control unit 1530 may display an indicator 1710 indicating the current step and a text area 1720. When the user selects the outside area of the voice recognition system UI with the pointer of the remote controller, the controller 1530 may close the voice input system UI.

제어부(1530)는 현재음성 입력 단계를 나타내는 시각 효과와 함께 인디케이터(1710)를 디스플레이 할 수 있다. 여기서, 시각 효과는 발화대기, 음성 입력, 시스템 처리의 각 단계별 특징을 표현할 수 있는 형태가 될 수 있다. 예를 들면, 제어부(1530)는 사용자가 리모콘의 voice 키를 누른 상태에서 발화하는 경우, 입력되는 사용자의 음성을 물결모양으로 시각화하여, 사용자의 음성이 입력되고 있음을 사용자에게 알려줄 수 있다.The control unit 1530 may display the indicator 1710 along with a visual effect indicating the current voice input step. Here, the visual effect may be a form capable of expressing the characteristics of each stage of speech waiting, voice input, and system processing. For example, when the user speaks while pressing the voice key of the remote controller, the control unit 1530 may visualize the input user's voice in a wave shape to inform the user that the user's voice is being input.

제어부(1530)는 시스템 안내, 응답 문구 및 사용자의 발화문구를 텍스트 영역(1720)에 디스플레이 할 수 있다. 또한, 제어부(1530)는 일반 에러를 안내하는 문구 및 에러 메시지 및 이에 대한 지원이 불가능함을 안내하는 문구를 포함하는 시스템 응답문구를 텍스트(1720)로 디스플레이 할 수 있다. The control unit 1530 may display a system guide, a response phrase, and a user's speech phrase in the text area 1720. In addition, the control unit 1530 may display a system response phrase including a phrase for guiding a general error and a message for guiding that support for the error message is impossible and the text 1720.

제어부(1530)는 텍스트 영역(1720)에 표시되는 텍스트의 내용을 스피커(1550)를 통해 음성 신호로 출력하도록 제어할 수 있다. 제어부(1530)는 음성 입력 활성화 후 사용자가 처음 발화하기 전, 스피커(1550)를 통해 발화 대기 문구를 출력하는 대신 효과음을 출력할 수 있다. 이는 사용자 발화 대기 시 사용자의 발화 음성과 스피커(1550)의 출력이 섞이지 않게 하여 음성 인식의 정확도를 향상시키기 위함이다. The controller 1530 may control the content of the text displayed in the text area 1720 to be output as a voice signal through the speaker 1550. After the voice input is activated, the controller 1530 may output an effect sound instead of outputting a utterance waiting phrase through the speaker 1550 before the user first speaks. This is to improve the accuracy of speech recognition by not mixing the output of the user's speech and the speaker 1550 when waiting for the user to speak.

도 18은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스(1500)에서 음성 입력 시스템의 입력 단계별 UI를 디스플레이 하는 것을 도시한 도면이다. FIG. 18 is a diagram illustrating that a display device 1500 displays an input step-by-step UI of a voice input system in accordance with an embodiment of the present invention.

도 18(a)는 입력 단계별 UI가 디스플레이 되기 전 디스플레이 화면을 도시한 도면이다. 도 18(b)는 발화 대기 단계 UI를 도시한 도면이다. 18(c)는 음성 입력 단계 UI를 도시한 도면이다. 도 18(d)는 시스템 처리 단계 UI를 도시한 도면이다. 18(a) is a diagram illustrating a display screen before the input step-by-step UI is displayed. FIG. 18(b) is a diagram illustrating a ignition waiting stage UI. 18(c) is a diagram illustrating a voice input step UI. 18(d) is a diagram illustrating a system processing step UI.

음성 인식이 활성화 된 경우, 제어부(1530)는 입력 단계에 따라 UI를 디스플레이 할 수 있다. 상기 입력 단계는 음성 입력 시스템을 활성화 하는 명령을 수신하는 단계(1810), 사용자의 음성 입력이 가능한 발화 대기 단계(1820), 사용자가 발화 중인 음성 입력 단계(1830), 발화가 끝난 후 입력된 음성을 분석하는 시스템 처리 단계(1840)를 포함할 수 있다. When voice recognition is activated, the controller 1530 may display the UI according to an input step. The input step includes receiving a command for activating a voice input system (1810), a utterance waiting step (1820), in which a user can input a voice, a voice input step (1830) in which the user is speaking, and a voice input after the speech is over It may include a system processing step 1840 for analyzing the.

도 18(a)를 참조하면, 제어부(1530)는 사용자로부터 음성 인식을 활성화 하는 입력을 수신할 수 있다. 사용자로부터 음성 인식을 활성화하는 입력이 수신된 경우, 제어부(1530)는 음성 인식을 활성화 할 수 있다. 여기서, 음성 인식을 활성화하는 입력은 리모콘의 음성 인식 활성화 키를 일정 시간 이상 누르는 동작이 될 수 있다. 또한, 음성 인식을 활성화하는 입력은 마이크를 통해 음성 인식 개시를 요청하는 사용자의 음성 신호가 될 수 있다. Referring to FIG. 18(a), the controller 1530 may receive an input for activating speech recognition from a user. When an input for activating speech recognition is received from the user, the controller 1530 may activate speech recognition. Here, the input for activating the speech recognition may be an operation of pressing the speech recognition activation key of the remote controller for a predetermined time or longer. Also, an input for activating speech recognition may be a voice signal of a user requesting to start speech recognition through a microphone.

도 18(b)를 참조하면, 음성 인식을 활성화하는 입력이 수신된 경우, 제어부(1530)는 발화 대기 단계의 UI를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 음성 인식이 활성화 됨을 알리는 효과음을 스피커를 통해 출력할 수 있다. Referring to FIG. 18( b), when an input for activating speech recognition is received, the control unit 1530 may display a UI in an utterance waiting step. Here, the controller 1530 may output an effect sound indicating that voice recognition is activated through the speaker.

도 18(b) 하단을 참조하면, 발화 대기 단계 UI가 표시되는 경우, 제어부(1530)는 사용자 음성 입력이 가능한 상태로, 사용자의 발화를 유도하는 텍스트를 텍스트 영역(1821)에 디스플레이 할 수 있다. 제어부(1530)는 대기(ready) 상태를 나타내는 시각적 효과를 가지는 인디케이터(1822)를 디스플레이 화면 하단에 디스플레이 할 수 있다. 여기서, 제어부(1530)는 텍스트(1821)와 인티케이터(1822)를 함께 디스플레이하거나 어느 하나만 디스플레이할 수 있다. 사용자가 리모콘의 음성 인식 활성화 키(미도시)를 누르고 있는 상태를 계속 유지하는 경우, 제어부(1530)는 발화 대기 단계 UI를 디스플레이 할 수 있다. Referring to the bottom of FIG. 18(b), when the utterance waiting stage UI is displayed, the controller 1530 may display text inducing the user's utterance in the text area 1821 in a state in which user voice input is possible. . The controller 1530 may display the indicator 1822 having a visual effect indicating a ready state at the bottom of the display screen. Here, the control unit 1530 may display the text 1821 and the indicator 1822 together or only one. When the user keeps pressing the voice recognition activation key (not shown) of the remote control, the controller 1530 may display the ignition standby UI.

도 18(c)를 참조하면, 사용자가 발화하는 경우, 제어부(1530)는 음성 입력 단계의 UI를 디스플레이 할 수 있다. 사용자가 리모콘의 음성 인식 활성화 키를 누르고 있는 상태를 계속 유지하는 경우, 제어부(1530)는 음성 입력 단계 UI를 디스플레이 할 수 있다. Referring to FIG. 18(c), when a user speaks, the controller 1530 may display the UI of the voice input step. If the user keeps pressing the voice recognition activation key of the remote control, the controller 1530 may display the voice input step UI.

도 18(c) 하단을 참조하면, 제어부(1530)는 사용자가 발화하는 문구의 내용을 실시간으로 텍스트 영역(1831)에 디스플레이할 수 있다. 또한, 제어부(1530)는 입력되는 사용자 음성을 시각화한 인디케이터(1832)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 사용자가 리모콘의 voice 키를 누른 상태에서 발화하는 경우, 입력되는 사용자의 음성을 물결모양의 인디케이터(1832)로 시각화하여 사용자의 음성이 정상적으로 입력되고 있음을 사용자에게 알려줄 수 있다. Referring to the bottom of FIG. 18(c), the controller 1530 may display the content of the phrase spoken by the user in real time in the text area 1831. Also, the controller 1530 may display the indicator 1832 visualizing the input user voice. For example, when the user speaks while pressing the voice key of the remote controller, the controller 1530 visualizes the input user's voice with a wavy indicator 1832 to inform the user that the user's voice is being input normally. I can tell you.

제어부(1530)는 텍스트 영역(1720)에 표시되는 텍스트의 일부를 다른 텍스트와 다르게 디스플레이 할 수 있다. 예를 들면, 제어부(1530)은 사용자의 발화 내용 중 특정 키워드를 다른 텍스트와 다른 색깔, 크기, 또는 글자체로 디스플레이 할 수 있다. The controller 1530 may display part of the text displayed in the text area 1720 differently from other text. For example, the controller 1530 may display a specific keyword in the content of the user's speech in a different color, size, or font from other text.

복수의 사용자가 존재하는 경우, 제어부(1530)는 사용자 음성의 피치, 주파수 등을 식별하여 각 사용자를 구분할 수 있다. 여기서, 제어부(1530)는 사용자의 발화를 각 사용자에 따라 다르게 처리할 수 있다. 예를 들면, 동일한 키워드를 포함하는 발화가 수신된 경우라도, 제어부(1530)는 각 사용자에 따라 다른 검색 결과를 디스플레이 할 수 있다. When a plurality of users exist, the controller 1530 may identify each user by identifying the pitch, frequency, etc. of the user's voice. Here, the controller 1530 may process the user's speech differently according to each user. For example, even when a utterance containing the same keyword is received, the controller 1530 may display different search results according to each user.

도 18(d)를 참조하면, 사용자의 발화가 끝난 경우, 제어부(1530)는 시스템 처리 단계 UI를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자가 리모콘의 음성 입력 활성화 키(미도시)에서 손을 뗀 순간부터 사용자의 발화를 처리할 수 있다.Referring to FIG. 18( d), when the user's speech is over, the controller 1530 may display the system processing step UI. Here, the control unit 1530 may process the user's utterance from the moment the user releases the voice input activation key (not shown) of the remote control.

도 18(d) 하단을 참조하면, 시스템이 사용자의 발화에 따른 명령어를 처리하고 있는 경우, 제어부(1530)는 시각 효과를 가지는 인디케이터(1841)를 디스플레이할 수 있다. 예를 들면, 제어부(1530)는 그라데이션을 가지는 라인(line) 형상의 인디케이터(1841)를 디스플레이할 수 있다. 처리 결과가 빨리 나타나거나, 처리 결과가 빨리 실행되는 경우, 제어부(1530)는 시스템 처리 단계 UI를 디스플레이 하지 않을 수 있다. 사용자의 발화에 대한 시스템의 처리가 끝난 경우, 제어부(1530)는 사용자가 입력한 발화어에 따른 결과 화면(미도시)을 디스플레이 할 수 있다. 음성 인식 결과에 따라 디스플레이 하는 화면은 이하 도 19에서 자세히 설명하도록 한다.Referring to the bottom of FIG. 18(d), when the system is processing a command according to a user's speech, the controller 1530 may display an indicator 1841 having a visual effect. For example, the controller 1530 may display a line-shaped indicator 1841 having a gradation. When the result of the process is quickly displayed or the result of the process is executed quickly, the controller 1530 may not display the system processing step UI. When the system processing of the user's speech is finished, the controller 1530 may display a result screen (not shown) according to the speech word input by the user. The screen displayed according to the result of speech recognition will be described in detail in FIG. 19 below.

도 19는 본 발명의 일 실시 예에 따른, 사용자가 Live TV 카테고리를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. 19 is a diagram for displaying a voice recognition result UI on the display device 1500 when a user selects a Live TV category according to an embodiment of the present invention.

도 19를 참조하면, 사용자의 발화에 따른 명령어 처리가 완료된 경우, 제어부(1530)는 각 명령어의 처리 결과에 대응하는 '음성 인식 결과 UI'를 디스플레이 할 수 있다. 여기서, 음성 인식 결과 UI는 응답 문구(1910), 카테고리(1920), 웹 검색 아이콘(1930), 통합 검색 버튼(1940), 채널 썸네일(1950) 리스트, 추천 쿼리(1960), 로고(1970)를 포함할 수 있다. Referring to FIG. 19, when command processing according to a user's speech is completed, the controller 1530 may display a'voice recognition result UI' corresponding to the processing result of each command. Here, the voice recognition result UI includes response phrase 1910, category 1920, web search icon 1930, integrated search button 1940, channel thumbnail 1950 list, recommendation query 1960, logo 1970. It can contain.

도 19의 중단을 참조하면, 사용자가 특정 키워드를 검색한 경우, 제어부(1530)는 결과 리스트에 대한 응답 문구(1910)를 상황 별로 다양하게 디스플레이 할 수 있다. 예를 들면, 상기 응답 문구(1910)는 "'배트맨'에 대한 검색 결과입니다." 가 될 수 있다. Referring to the interruption of FIG. 19, when a user searches for a specific keyword, the control unit 1530 may display a response phrase 1910 for the result list in various situations. For example, the response phrase 1910 above is "the search result for'Batman'." Can be

도 19의 중단을 참조하면, 사용자가 특정 키워드를 검색한 경우, 제어부(1530)는 특정 키워드가 포함된 검색 결과를 그루핑(grouping)하여 카테고리(1920) 별로 디스플레이 할 수 있다. 상기 카테고리(1920)는 Live TV, Upcoming, Freeview Play, TV shows, Movies, Youtube, Apps, Photos, Videos, Music, Recordings, Web 등이 될 수 있다. 여기서, 상기 Live TV는 튜너(1510)로부터 실시간으로 수신되는 방송을 말한다. 또한, 상기 Upcoming은 아직 출시되지 않았으나 곧 출시될 컨텐츠를 말한다. 그리고, TV show는 통신망 연결을 통하여, 사용자가 필요로 하는 영상을 원하는 시간에 제공해주는 맞춤영상정보(VOD) 서비스의 컨텐츠를 말한다.Referring to the interruption of FIG. 19, when a user searches for a specific keyword, the controller 1530 may group a search result including a specific keyword and display it by category 1920. The category 1920 may be Live TV, Upcoming, Freeview Play, TV shows, Movies, Youtube, Apps, Photos, Videos, Music, Recordings, Web, and the like. Here, the Live TV refers to a broadcast received in real time from the tuner 1510. Also, the Upcoming refers to content that has not yet been released, but will be released soon. In addition, the TV show refers to content of a custom video information (VOD) service that provides a video required by a user at a desired time through a communication network connection.

제어부(1530)는 상기 카테고리(1920) 별로 다른 음성 안내 메시지를 출력하도록 스피커(1550)를 제어할 수 있다. 또한, 제어부(1530)는 디스플레이 디바이스(1500)가 사용되는 국가에 따라 카테고리(1920)를 다르게 디스플레이 할 수 있다. 제어부(1530)는 사용자가 어플리케이션에 관련된 발화를 한 경우에만 Apps 카테고리(1920)를 디스플레이 할 수 있다. 제어부(1530)는 사용자가 지정된 발화를 한 경우에만 로컬 컨텐츠(local contents)와 관련된 카테고리(1920)를 디스플레이 할 수 있다. 여기서, 로컬 컨텐츠는 디스플레이 디바이스(1500)의 메모리에 직접 저장된 컨텐츠이고, 로컬 컨텐츠와 관련된 카테고리(1920)는 Photos, Videos, Music, Recordings가 될 수 있다. 제어부(1530)는 통합 검색의 검색 순위에 따라 카테고리(1920)의 순서를 바꾸어 디스플레이할 수 있다. 사용자가 카테고리(1920)를 선택한 경우, 제어부(1530)는 해당 카테고리(1920)에 속한 컨텐츠 검색 결과를 디스플레이 하단에 디스플레이 할 수 있다. 검색 결과가 없는 경우, 제어부(1530)는 해당 카테고리(1920)는 디스플레이하지 않을 수 있다. 카테고리(1920)가 10개가 넘는 경우, 제어부(1530)는 10번째 이후의 카테고리(1920)는 디스플레이 하지 않을 수 있다. 여기서, 사용자가 통합검색 버튼을 선택한 경우, 제어부(1530)는 모든 카테고리(1920)를 확인할 수 있는 통합검색 화면을 디스플레이 할 수 있다. 제어부(1530)는 카테고리(1920)의 개수에 상관 없이 Web 카테고리(1920)를 항상 디스플레이 할 수 있다. 사용자가 다시 발화하여 음성 인식 결과 내에서 재검색하는 경우, 제어부(1530)는 첫번째 카테고리(1920)부터 다시 디스플레이 할 수 있다. The controller 1530 may control the speaker 1550 to output different voice guidance messages for each category 1920. Also, the control unit 1530 may display the category 1920 differently according to the country in which the display device 1500 is used. The control unit 1530 may display the Apps category 1920 only when the user makes an utterance related to the application. The controller 1530 may display the category 1920 related to local contents only when the user makes a designated utterance. Here, the local content is content stored directly in the memory of the display device 1500, and the category 1920 related to the local content can be Photos, Videos, Music, Recordings. The control unit 1530 may change and display the order of the categories 1920 according to the search ranking of the integrated search. When the user selects the category 1920, the controller 1530 may display the content search results belonging to the category 1920 at the bottom of the display. If there is no search result, the controller 1530 may not display the corresponding category 1920. If there are more than ten categories 1920, the controller 1530 may not display the categories 1920 after the tenth. Here, when the user selects the integrated search button, the control unit 1530 may display the integrated search screen for checking all categories 1920. The control unit 1530 can always display the Web category 1920 regardless of the number of categories 1920. When the user speaks again and re-searches within the speech recognition result, the controller 1530 may display the first category 1920 again.

도 19의 우측을 참조하면, 제어부(1530)는 웹 검색 아이콘(1930)을 디스플레이 할 수 있다. 사용자로부터 웹 검색 아이콘(1930)의 선택 입력을 수신할 수 있는 경우, 제어부(1530)는 웹 검색 아이콘(1930)을 음성 인식 결과 화면과 다르게 디스플레이 할 수 있다. 여기서, 제어부(1530)는 웹 검색 아이콘(1930)의 기능을 알리는 텍스트를 툴팁(tooltip) 스타일로 디스플레이 할 수 있다. 예를 들면, 상기 텍스트는 "웹 검색/web"이 될 수 있다. Referring to the right side of FIG. 19, the control unit 1530 may display the web search icon 1930. When a selection input of the web search icon 1930 can be received from the user, the controller 1530 may display the web search icon 1930 differently from the voice recognition result screen. Here, the control unit 1530 may display text informing the function of the web search icon 1930 in a tooltip style. For example, the text may be "web search/web".

도 19의 우측을 참조하면, 제어부(1530)는 통합 검색 버튼(1940)을 디스플레이 할 수 있다. 사용자로부터 통합 검색 버튼(1940)의 선택 입력을 수신할 수 있는 경우, 제어부(1530)는 통합 검색 버튼(1940)을 음성 인식 결과 화면과 다르게 디스플레이할 수 있다. 여기서, 제어부(1530)는 통합 검색 버튼(1940)의 기능을 알리는 텍스트를 툴팁(tooltip) 스타일로 디스플레이 할 수 있다. 예를 들면, 상기 텍스트는 "통합 검색/search"가 될 수 있다. Referring to the right side of FIG. 19, the control unit 1530 may display the integrated search button 1940. When a selection input of the integrated search button 1940 can be received from the user, the controller 1530 may display the integrated search button 1940 differently from the voice recognition result screen. Here, the control unit 1530 may display text informing the function of the integrated search button 1940 in a tooltip style. For example, the text may be "integrated search/search".

도 19의 하단을 참조하면, 사용자가 음성 인식 결과 UI 화면에서 특정 카테고리(1920)를 선택한 경우, 제어부(1530)는 해당 카테고리(1920)와 관련된 컨텐츠의 썸네일(1950) 리스트를 디스플레이할 수 있다. 예를 들면, 사용자가 음성 인식 결과 UI 화면에서 Live TV 카테고리(1920)를 선택한 경우, 제어부(1530)는 채널 썸네일(1950)의 리스트를 디스플레이할 수 있다. 채널 썸네일(1950) 리스트가 디스플레이된 경우, 제어부(1530)는 해당 채널의 채널 번호 및 채널 로고(1951)를 채널 썸네일(1950) 하단에 함께 디스플레이할 수 있다. 채널에 해당되는 썸네일(1950)이 없는 경우, 제어부(1530)는 디폴트 이미지(default image)의 썸네일(1950)과 함께 해당 채널의 프로그램 명을 함께 디스플레이 할 수 있다. 해당 채널 썸네일(1950)에 대한 사용자의 선택 입력을 수신할 수 있는 경우, 제어부(1530)는 해당 채널 썸네일(1950)을 다른 채널 썸네일(1950)과 다르게 디스플레이 할 수 있다. 이 경우, 제어부(1530)는 프로그램 제목을 함께 디스플레이할 수 있다. 프로그램 제목이 3줄을 초과하는 경우, 제어부(1530)는 프로그램 제목의 뒷부분을 생략하여 표시할 수 있다. 채널 썸네일(1950)로 표시된 채널이 현재 시청 중인 채널일 경우, 제어부(1530)는 채널 썸네일(1950)과 함께 재생 아이콘을 디스플레이 할 수 있다. 채널 썸네일(1950)로 표시되는 채널이 현재 시청중인 프로그램의 장르와 일치하거나 비슷한 경우, 제어부(1530)는 현재 시청중인 프로그램의 장르와 비슷한 순서대로 채널 썸네일(1950)을 디스플레이 할 수 있다. 컨텐츠 프로바이더가 제공하는 컨텐츠가 시청하기 적절하지 않은 경우, 제어부(1530)는 해당 컨텐츠 프로바이더가 제공하는 컨텐츠를 잠금 설정할 수 있다. 잠금 설정된 컨텐츠 프로바이더가 제공하는 컨텐츠가 검색된 경우, 잠금 설정에도 불구하고 제어부(1530)는 해당 컨텐츠의 썸네일(1950)을 여전히 디스플레이할 수 있다. 단, 제어부(1530)는 Youtube가 잠금 설정된 경우, Youtube에서 검색된 컨텐츠의 썸네일(1950)은 디스플레이 하지 않을 수 있다. Referring to the bottom of FIG. 19, when a user selects a specific category 1920 on the voice recognition result UI screen, the controller 1530 may display a list of thumbnails 1950 of contents related to the category 1920. For example, when the user selects the Live TV category 1920 on the voice recognition result UI screen, the control unit 1530 may display a list of channel thumbnails 1950. When the channel thumbnail 1950 list is displayed, the controller 1530 may display the channel number and the channel logo 1951 of the corresponding channel together under the channel thumbnail 1950. If there is no thumbnail 1950 corresponding to the channel, the controller 1530 may display the program name of the channel together with the thumbnail 1950 of the default image. When a user's selection input for the corresponding channel thumbnail 1950 can be received, the controller 1530 may display the corresponding channel thumbnail 1950 differently from other channel thumbnails 1950. In this case, the control unit 1530 may display the program title together. When the program title exceeds 3 lines, the control unit 1530 may omit and display the rear portion of the program title. When the channel indicated by the channel thumbnail 1950 is a channel currently being viewed, the controller 1530 may display a play icon together with the channel thumbnail 1950. If the channel displayed as the channel thumbnail 1950 matches or is similar to the genre of the program currently being watched, the controller 1530 may display the channel thumbnail 1950 in an order similar to the genre of the program currently being watched. If the content provided by the content provider is not suitable for viewing, the controller 1530 may lock the content provided by the content provider. When the content provided by the locked content provider is retrieved, the controller 1530 may still display the thumbnail 1950 of the corresponding content despite the lock setting. However, when the Youtube is locked, the controller 1530 may not display the thumbnail 1950 of the content retrieved from the Youtube.

도 19의 하단을 참조하면, 제어부(1530)는 사용자가 발화한 특정 키워드와 관련된 텍스트를 디스플레이할 수 있다. 여기서, 상기 텍스트는 사용자가 발화한 특정 키워드와 연관된 키워드일 수 있다. 또한, 현재 상태에서 사용자가 이어서 발화할 수 있는 문장을 예시하는 텍스트일 수 있다. Referring to the bottom of FIG. 19, the control unit 1530 may display text related to a specific keyword spoken by a user. Here, the text may be a keyword associated with a specific keyword spoken by the user. It may also be text that illustrates a sentence that the user can subsequently utter in the current state.

도 19의 좌측을 참조하면, 제어부(1530)는 음성 인식 시스템의 로고를 디스플레이할 수 있다. Referring to the left side of FIG. 19, the controller 1530 may display a logo of the speech recognition system.

사용자가 리모컨 포인터(10)로 음성 인식 결과 UI가 디스플레이되는 영역 외의 영역을 선택한 경우, 제어부(1530)는 음성 인식 결과 UI를 닫을 수 있다. When the user selects an area other than the area in which the voice recognition result UI is displayed by the remote control pointer 10, the controller 1530 may close the voice recognition result UI.

복수의 카테고리(1920)가 검색된 경우, 제어부(1530)는 카테고리(1920)를 탭(tab) 형식의 메뉴로 디스플레이 할 수 있다. 여기서, 탭(tab)은 사용자가 메뉴를 눌렀을 때, 현재 페이지의 이동 없이 메뉴 아래 컨텐츠가 표시되는 일부 영역만 변화하는 형식을 말한다. When a plurality of categories 1920 are searched, the controller 1530 may display the categories 1920 as a tab type menu. Here, a tab refers to a format in which only a portion of the content under the menu changes when the user presses the menu without moving the current page.

특정 컨텐츠 프로바이더의 프로그램이 디스플레이되고 있는 경우, 제어부(1530)는 사용자의 발화와 관련된 해당 컨텐츠 프로바이더의 컨텐츠를 첫번째 카테고리(1920)로 디스플레이할 수 있다. 상기 특정 컨텐츠 프로바이더는 Netflix, Youtube, Google play, Sling, Hulu 등이 될 수 있다. 예를 들면, 제어부(1530)는 첫번째 카테고리(1920)를 "현재 앱(Netflix)"로 디스플레이 할 수 있다. 또한, 사용자가 통합 검색을 통해 검색하는 경우, 제어부(1530)는 사용자의 발화와 관련된 해당 컨텐츠 프로바이더의 컨텐츠를 첫번째 통합 결과 카테고리(1920)로 디스플레이할 수 있다. 여기서, 통합 검색은 실시간 방송, TV 다시보기, 앱 스토어, Youtube, 녹화물, 외부 연결 기기내의 컨텐츠 등 TV에서 시청할 수 있는 모든 콘텐츠를 한번에 검색할 수 있는 기능을 말한다. When a program of a specific content provider is displayed, the controller 1530 may display the content of the content provider related to the user's speech as the first category 1920. The specific content provider may be Netflix, Youtube, Google play, Sling, Hulu, and the like. For example, the controller 1530 may display the first category 1920 as “current app (Netflix)”. In addition, when the user searches through the integrated search, the controller 1530 may display the content of the corresponding content provider related to the user's speech as the first integrated result category 1920. Here, the integrated search refers to a function of searching all contents that can be viewed on TV at once, such as real-time broadcasting, TV replay, app store, Youtube, recordings, and content in externally connected devices.

도 19의 하단을 참조하면, 사용자가 음성 인식 결과 화면 내의 컨텐츠를 선택하는 경우, 제어부(1530)는 카테고리(1920)에 따라 다른 후속 동작을 실행할 수 있다. 예를 들면, 사용자가 Live TV 카테고리(1920)의 컨텐츠를 선택한 경우, 제어부(1530)는 음성 인식 결과 화면의 UI를 유지하며 해당 Live TV의 채널로 채널을 전환한다. 또한, 사용자가 Upcoming 카테고리(1920)의 컨텐츠를 선택한 경우, 제어부(1530)는 해당 컨텐츠를 보다 상세히 설명하는 화면을 디스플레이한다. 사용자가 VOD 카테고리(1920)의 컨텐츠를 선택하는 경우, 제어부(1530)는 해당 VOD를 제공하는 컨텐츠 프로바이더의 어플리케이션을 실행 후 해당 컨텐츠의 상세 화면을 디스플레이한다. 여기서, 컨텐츠 프로바이더가 컨텐츠를 바로 재생하는 기능을 지원하는 경우, 제어부(1530)는 해당 컨텐츠를 바로 재생할 수 있다. 또한, 해당 컨텐츠를 공급하는 컨텐츠 프로바이더가 복수인 경우, 제어부(1530)는 컨텐츠 프로바이더를 선택하는 메시지를 팝업(popup) 창으로 디스플레이할 수 있다. 사용자가 Youtube 카테고리(1920)의 컨텐츠를 선택하는 경우, 제어부(1530)는 Youtube 어플리케이션을 실행하고 해당 컨텐츠를 재생하는 화면을 디스플레이할 수 있다. 사용자가 Photo, Video, Music, Recording 중 어느 하나를 선택하는 경우, 제어부(1530)는 디스플레이 디바이스(1500)에 저장된 사진, 비디오, 녹화물을 실행하는 각 어플리케이션을 실행하여 해당 컨텐츠를 재생한다. Referring to the bottom of FIG. 19, when the user selects content in the speech recognition result screen, the controller 1530 may execute other subsequent operations according to the category 1920. For example, when the user selects the content of the Live TV category 1920, the controller 1530 maintains the UI of the screen of the voice recognition result and switches the channel to the channel of the corresponding Live TV. In addition, when the user selects the content of the Upcoming category 1920, the controller 1530 displays a screen for explaining the content in more detail. When the user selects the content of the VOD category 1920, the control unit 1530 displays the detailed screen of the content after executing the application of the content provider that provides the VOD. Here, if the content provider supports the function to play the content immediately, the controller 1530 can play the content immediately. In addition, when there are a plurality of content providers that supply the corresponding content, the controller 1530 may display a message for selecting the content provider in a popup window. When the user selects the content of the Youtube category 1920, the control unit 1530 may execute a Youtube application and display a screen for playing the content. When a user selects one of Photo, Video, Music, and Recording, the controller 1530 executes each application that executes a photo, video, or recording stored in the display device 1500 to play the content.

도 19의 하단을 참조하면, 사용자가 컨텐츠의 제목을 발화하는 경우, 제어부(1530)는 해당하는 컨텐츠를 디스플레이 할 수 있다. 여기서, 사용자가 컨텐츠 제목의 일부를 발화한 경우, 제어부(1530)는 사용자가 발화한 내용을 포함하는 제목을 가진 복수의 컨텐츠를 검색하여 디스플레이 할 수 있다. 예를 들면, 사용자가 "해리포터"을 발화한 경우, 제어부(1530)는 "해리포터"을 포함하는 제목을 가지는 복수의 컨텐츠를 검색하여 썸네일(1950) 리스트로 디스플레이 할 수 있다. Referring to the bottom of FIG. 19, when the user utters the title of the content, the controller 1530 may display the corresponding content. Here, when the user utters a part of the content title, the controller 1530 may search for and display a plurality of contents having a title including the content uttered by the user. For example, when the user utters “Harry Potter”, the controller 1530 may search for a plurality of contents having a title including “Harry Potter” and display the thumbnail 1950 as a list.

음성 인식 결과 UI를 디스플레이 하는 경우, 제어부(1530)는 검색 결과 및 사용자로부터 선택 입력을 수신할 수 있는 항목을 안내하는 음성을 출력하도록 스피커(1550)를 제어할 수 있다. When displaying the voice recognition result UI, the control unit 1530 may control the speaker 1550 to output a search result and a voice guiding an item capable of receiving a selection input from a user.

도 20은 본 발명의 일 실시 예에 따른, 사용자가 Upcoming 카테고리를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. 사용자가 음성 인식 결과 UI 화면에서 Upcoming 카테고리(2010)를 선택한 경우, 제어부(1530)가 디스플레이하는 결과 리스트에 대한 응답문구, 카테고리, 웹 검색 아이콘, 통합 검색 버튼, 추천 쿼리, 로고는 앞서 도 19에서 설명한 바와 같다. 20 is a diagram for displaying a voice recognition result UI on the display device 1500 when a user selects an Upcoming category according to an embodiment of the present invention. When the user selects the Upcoming category 2010 on the speech recognition result UI screen, the response phrase, category, web search icon, integrated search button, recommendation query, and logo for the result list displayed by the control unit 1530 are previously shown in FIG. 19. As described.

도 20의 하단을 참조하면, 사용자가 음성 인식 결과 UI 화면에서 Live TV 카테고리를 선택한 경우와는 달리, 사용자가 Upcoming 카테고리(2010)를 선택한 경우, 제어부(1530)는 채널 썸네일이 표시되는 영역에 썸네일 이미지 대신 콘텐츠의 제목을 텍스트(2020)로 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 콘텐츠의 제목을 인기순으로 정렬하여 디스플레이할 수 있다. Referring to the bottom of FIG. 20, unlike when the user selects the Live TV category on the voice recognition result UI screen, when the user selects the Upcoming category 2010, the control unit 1530 displays a thumbnail in the area where the channel thumbnail is displayed. Instead of the image, the title of the content can be displayed as text 2020. Here, the control unit 1530 may display the titles of the contents sorted in popularity order.

사용자가 Upcoming 카테고리(2010)를 선택한 경우, 제어부(1530)는 응답 문구 및 사용자로부터 선택 입력을 수신할 수 있는 항목을 안내하는 음성을 출력하도록 스피커(1550)를 제어할 수 있다. When the user selects the Upcoming category 2010, the controller 1530 may control the speaker 1550 to output a response phrase and a voice guiding an item capable of receiving a selection input from the user.

도 21은 본 발명의 일 실시 예에 따른, 사용자가 Upcoming 카테고리의 컨텐츠를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. FIG. 21 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user selects content of an Upcoming category according to an embodiment of the present invention.

도 21을 참조하면, 사용자가 음성 인식 결과 UI 화면에서 Upcooming 카테고리의 컨텐츠를 선택한 경우, 제어부(1530)는 해당 컨텐츠에 대한 자세한 정보를 제공하는 상세 페이지(2100)를 디스플레이할 수 있다. 여기서, 상세 페이지(2100)는 사용자가 선택한 컨텐츠의 스케쥴 및 정보를 확인하고, 시청 예약 또는 예약 녹화를 실행할 수 있는 화면이다. Referring to FIG. 21, when the user selects the content of the Upcooming category on the voice recognition result UI screen, the controller 1530 may display a detail page 2100 that provides detailed information about the content. Here, the detail page 2100 is a screen for checking the schedule and information of the content selected by the user, and executing viewing reservation or scheduled recording.

도 21의 우측을 참조하면, 제어부(1530)는 상세 페이지(2100)에 사용자가 선택한 컨텐츠의 방송 스케쥴(2111)을 디스플레이할 수 있다. 여기서, 제어부(1530)는 해당 컨텐츠의 방송 스케쥴(2111)을 요일 별 스케쥴로 디스플레이할 수 있다. 예를 들면, 제어부(1530)는 해당 프로그램에 대한 방송 시간을 표로 디스플레이 하고, 사용자가 각 표의 셀(2111) 영역을 선택할 수 있도록 한다. 제어부(1530)는 상기 셀(2111)에 해당 컨텐츠의 방송시간, 방송채널, 제목, 현재 방송여부를 디스플레이 한다. 사용자가 셀(2111)을 선택한 경우, 제어부(1530)는 선택된 셀(2111) 영역 외의 화면을 refresh하여 선택된 셀(2111)에 표시된 컨텐츠의 해당 에피소드에 대한 정보를 디스플레이한다. 제어부(1530)는 선택된 셀(2111)을 상세 페이지(2100)의 화면과 다르게 디스플레이 할 수 있다. 제어부(1530)는 사용자가 선택한 컨텐츠가 방송되는 요일을 버튼(2112)으로 디스플레이 할 수 있다. 사용자가 요일 버튼(2112)을 선택한 경우, 제어부(1530)는 월요일부터 일요일까지의 요일을 리스트로 디스플레이할 수 있다. 여기서, 제어부(1530)는 상기 리스트를 팝업(popup) 스타일의 창으로 디스플레이 할 수 있다. 또한, 제어부(1530)는 EPG 정보를 검색할 수 없는 경우, 상기 요일 버튼(2112)을 디스플레이하지 않고, 방송 요일을 셀 영역(2111)에 디스플레이 할 수 있다. 여기서, EPG(Electronic Program Guide)는 텔레비전 방송의 빈 주파수대나 부가채널을 이용해 TV 프로그램 방송 시간과 내용, 출연자 정보 등을 보내 주는 방송 프로그램 안내 서비스를 말한다.Referring to the right side of FIG. 21, the control unit 1530 may display the broadcast schedule 2111 of the content selected by the user on the detail page 2100. Here, the controller 1530 may display the broadcast schedule 2111 of the corresponding content as a schedule for each day of the week. For example, the controller 1530 displays the broadcast time for the corresponding program in a table, and allows the user to select the cell 2111 area of each table. The controller 1530 displays the broadcast time, broadcast channel, title, and current broadcast of the content in the cell 2111. When the user selects the cell 2111, the control unit 1530 refreshes the screen outside the selected cell 2111 area to display information on the corresponding episode of the content displayed on the selected cell 2111. The controller 1530 may display the selected cell 2111 differently from the screen of the detail page 2100. The controller 1530 may display the day of the week on which the content selected by the user is broadcast by the button 2112. When the user selects the day of the week button 2112, the controller 1530 may display the day of the week from Monday to Sunday as a list. Here, the controller 1530 may display the list in a popup style window. In addition, when the EPG information cannot be retrieved, the controller 1530 may display the broadcast day in the cell area 2111 without displaying the day button 2112. Here, EPG (Electronic Program Guide) refers to a broadcast program guide service that transmits TV program broadcast time and contents, and performer information using an empty frequency band or an additional channel of television broadcast.

도 21의 좌측을 참조하면, 제어부(1530)는 상세 페이지(2100) 내에 방송의 진행 정도를 표시하는 막대(2122)를 사용자가 선택한 컨텐츠의 썸네일 이미지(2121) 아래에 디스플레이할 수 있다. Referring to the left side of FIG. 21, the controller 1530 may display a bar 2122 indicating the progress of broadcasting in the detail page 2100 below the thumbnail image 2121 of the content selected by the user.

도 21의 좌측을 참조하면, 제어부(1530)는 상세 페이지(2100) 내에 해당 컨텐츠의 시청을 예약할 수 있는 시청 예약 버튼(2131)과 녹화를 예약할 수 있는 예약 녹화 버튼(2132)을 디스플레이할 수 있다. 해당 컨텐츠가 현재 방송 중이지 않은 경우, 제어부(1530)는 시청 예약 버튼(2131) 영역 내부에 "알리기"를 텍스트로 디스플레이하고, 예약 녹화 버튼(2132) 영역 내부에 "예약 녹화"를 텍스트로 디스플레이할 수 있다. 해당 컨텐츠가 현재 방송 중인 경우, 제어부(1530)는 시청 예약 버튼(2131) 영역 내부에 "지금 시청"을 텍스트로 디스플레이하고, 예약 녹화 버튼(2132) 영역 내부에 "녹화"를 텍스트로 디스플레이 할 수 있다. Referring to the left side of FIG. 21, the controller 1530 displays a viewing reservation button 2131 that can schedule viewing of the corresponding content and a reservation recording button 2132 that can reserve recording in the detail page 2100. Can. If the corresponding content is not currently being broadcast, the control unit 1530 displays "notification" as text inside the viewing reservation button 2131 area and "reservation recording" as text inside the reservation recording button 2132 area. can do. If the corresponding content is currently being broadcast, the control unit 1530 may display "watch now" as text inside the viewing reservation button 2131 area, and display "recording" as text inside the reserved recording button 2132 area. have.

도 22은 본 발명의 일 실시 예에 따른, 사용자가 TV shows 카테고리를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.22 is a diagram for displaying a voice recognition result UI on the display device 1500 when a user selects a TV shows category according to an embodiment of the present invention.

사용자가 음성 인식 결과 UI 화면에서 Tv shows 카테고리(2210)를 선택한 경우, 제어부(1530)가 디스플레이하는 결과 리스트에 대한 응답문구, 카테고리, 웹 검색 아이콘, 통합 검색 버튼, 추천 쿼리, 로고는 앞서 도 19에서 설명한 바와 같다. When the user selects the TV shows category 2210 on the voice recognition result UI screen, the response phrase, category, web search icon, integrated search button, recommendation query, and logo for the result list displayed by the control unit 1530 are shown in FIG. 19. As described in the.

도 22의 하단을 참조하면, 음성 인식 결과 UI에서 사용자가 Tv shows 카테고리(2210)를 선택한 경우, 제어부(1530)는 검색 결과 내에서 컨텐츠 프로바이더가 제공하는 VOD의 리스트를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 리스트를 인기 순으로 정렬하여 썸네일(2220) 리스트로 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 해당 VOD의 포스터 이미지를 썸네일(2220)로 표시하고, 썸네일(2220)의 하단에 해당 VOD의 제목을 텍스트로 디스플레이 할 수 있다. 또한, 제어부(1530)는 상기 썸네일(2220) 좌측 상단에 해당 VOD를 제공하는 컨텐츠 프로바이더의 아이콘을 디스플레이 할 수 있다. 동일한 VOD 컨텐츠가 서로 다른 컨텐츠 프로바이더로부터 제공되는 경우, 제어부(1530)는 해당 VOD 컨텐츠를 중복하여 디스플레이 할 수 있다. Referring to the bottom of FIG. 22, when the user selects the Tv shows category 2210 in the voice recognition result UI, the controller 1530 may display a list of VODs provided by the content provider in the search results. Here, the controller 1530 may sort the list in the order of popularity and display it as a list of thumbnails 2220. For example, the controller 1530 may display the poster image of the VOD as a thumbnail 2220, and display the title of the VOD as text at the bottom of the thumbnail 2220. In addition, the controller 1530 may display an icon of a content provider providing a corresponding VOD in the upper left of the thumbnail 2220. When the same VOD content is provided from different content providers, the controller 1530 may display the corresponding VOD content in duplicate.

사용자가 시청하고자 하는 VOD의 썸네일(2220)을 선택한 경우, 제어부(1530)는 해당 VOD를 제공하는 컨텐츠 프로바이더의 어플리케이션을 실행하고, 해당 컨텐츠의 정보를 표시하는 페이지를 디스플레이한다. 컨텐츠 프로바이더의 어플리케이션이 컨텐츠를 바로 재생하는 기능을 지원하는 경우, 제어부(1530)는 해당 VOD 컨텐츠를 바로 재생할 수 있다. 컨텐츠 프로바이더의 어플리케이션 화면이 디스플레이된 경우, 제어부(1530)는 현재 디스플레이 하고 있는 음성 인식 결과 UI를 아래로 사라지게 할 수 있다. When the user selects the thumbnail 2220 of the VOD to be viewed, the controller 1530 executes an application of the content provider providing the corresponding VOD, and displays a page displaying information of the corresponding content. If the application of the content provider supports the function to play the content immediately, the controller 1530 can immediately play the corresponding VOD content. When the application screen of the content provider is displayed, the controller 1530 may cause the voice recognition result UI currently being displayed to disappear downward.

도 23은 본 발명의 일 실시 예에 따른, 사용자가 Youtube 카테고리를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. 23 is a diagram illustrating that a display device 1500 displays a voice recognition result UI when a user selects a Youtube category according to an embodiment of the present invention.

사용자가 음성 인식 결과 UI 화면에서 Youtube 카테고리(2310)를 선택한 경우, 제어부(1530)가 디스플레이하는 결과 리스트에 대한 응답문구, 카테고리, 웹 검색 아이콘, 통합 검색 버튼, 추천 쿼리, 로고는 앞서 도 19에서 설명한 바와 같다. When the user selects the Youtube category 2310 on the voice recognition result UI screen, the response phrase, category, web search icon, integrated search button, recommendation query, and logo for the result list displayed by the control unit 1530 are previously shown in FIG. 19. As described.

도 23의 하단을 참조하면, 사용자가 Youtube 카테고리(2310)를 선택한 경우, 제어부(1530)는 Youtube의 동영상 리스트를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 동영상 리스트를 썸네일(2320) 리스트로 디스플레이 할 수 있다. 썸네일(2320) 리스트를 디스플레이 하는 경우, 제어부(1530)는 썸네일(2320)과 함께 Youtube 아이콘, 동영상의 제목을 함께 디스플레이 할 수 있다. 사용자가 썸네일(2320)을 선택하는 경우, 제어부(1530)는 Youtube 어플리케이션을 실행하고, 해당 영상을 재생할 수 있다. Youtube 어플리케이션이 실행된 경우, 제어부(1530)는 현재 디스플레이 하고 있는 음성 인식 결과 UI를 아래로 사라지게 할 수 있다. 썸네일(2320) 리스트를 디스플레이 하는 경우, 제어부(1530)는 첫 번째 썸네일(2320)을 다른 썸네일(2320)과 다르게 디스플레이 할 수 있다. 썸네일(2320) 리스트가 디스플레이되는 경우, 제어부(1530)는 디스플레이되는 썸네일(2320)의 개수를 24개 이하로 제한할 수 있다. 동영상의 재생이 불가능한 경우, 제어부(1530)는 썸네일(2320)이 디스플레이되는 영역 안에 해당 동영상 제공이 불가능함을 알리는 문구를 디스플레이 할 수 있다. Youtube 어플리케이션에 대하여 사용자의 접근을 제한하는 잠금 설정이 되어있는 경우, 제어부(1530)는 썸네일(2320)에 대하여 사용자의 접근을 제한할 수 있다. 썸네일(2320) 리스트가 디스플레이되는 경우, 제어부(1530)는 해당 썸네일(2320)과 관련된 컨텐츠의 제목을 디스플레이할 수 있다. Referring to the bottom of FIG. 23, when the user selects the Youtube category 2310, the controller 1530 may display a video list of Youtube. Here, the controller 1530 may display the video list as a thumbnail 2320 list. When displaying the list of thumbnails 2320, the controller 1530 may display the Youtube icon and the title of the video together with the thumbnails 2320. When the user selects the thumbnail 2320, the controller 1530 may execute the Youtube application and play the corresponding video. When the Youtube application is executed, the control unit 1530 may cause the voice recognition result UI currently displayed to disappear. When displaying the list of thumbnails 2320, the control unit 1530 may display the first thumbnail 2320 differently from other thumbnails 2320. When a list of thumbnails 2320 is displayed, the controller 1530 may limit the number of displayed thumbnails 2320 to 24 or less. When playback of a video is not possible, the controller 1530 may display a phrase informing that the corresponding video cannot be provided in an area where the thumbnail 2320 is displayed. When a lock setting is set to restrict the user's access to the Youtube application, the controller 1530 may restrict the user's access to the thumbnail 2320. When the list of thumbnails 2320 is displayed, the controller 1530 may display the titles of contents related to the corresponding thumbnails 2320.

사용자가 음성 인식 결과 UI 화면에서 Youtube 카테고리(2310)를 선택한 경우, 제어부(1530)는 응답 문구와 함께 첫 번째 썸네일(2320)에 대한 설명의 음성 안내를 스피커(1550)로 출력할 수 있다. When the user selects the Youtube category 2310 on the UI screen as a result of speech recognition, the controller 1530 may output a voice guidance of the description of the first thumbnail 2320 along with a response phrase to the speaker 1550.

도 24은 본 발명의 일 실시 예에 따른, 사용자가 Recordings 카테고리를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.FIG. 24 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user selects a Recordings category according to an embodiment of the present invention.

사용자가 음성 인식 결과 UI 화면에서 Recordings 카테고리(2410)를 선택한 경우, 제어부(1530)는 로컬 컨텐츠에 관한 썸네일(2420) 리스트를 디스플레이 할 수 있다. 여기서, 로컬 컨텐츠는 디스플레이 디바이스(1500)에 저장된 사진, 비디오, 녹화물, 음악을 말한다. 사진의 썸네일(2420)을 디스플레이 하는 경우, 제어부(1530)는 사진의 제목을 함께 디스플레이할 수 있다. 비디오의 썸네일(2420)을 디스플레이 하는 경우, 제어부(1530)는 재생 아이콘 및 비디오의 제목을 함께 디스플레이 할 수 있다. 녹화물에 대한 썸네일(2420)을 디스플레이 하는 경우, 제어부(1530)는 재생 아이콘 및 녹화물의 제목을 함께 디스플레이 할 수 있다. 음악의 썸네일(2420)을 디스플레이 하는 경우, 제어부(1530)는 음악의 제목을 함께 디스플레이할 수 있다. 사용자가 썸네일(2420)을 선택한 경우, 제어부(1530)는 선택된 썸네일(2420)과 관련된 컨텐츠를 바로 재생할 수 있다. When the user selects the Recordings category 2410 on the voice recognition result UI screen, the control unit 1530 may display a list of thumbnails 2420 related to local content. Here, the local content refers to photos, videos, recordings, and music stored in the display device 1500. When displaying the thumbnail 2420 of the photo, the controller 1530 may display the title of the photo together. When displaying the thumbnail 2420 of the video, the controller 1530 may display the play icon and the title of the video together. When displaying a thumbnail 2420 for a recording, the control unit 1530 may display the playback icon and the title of the recording together. When displaying a thumbnail 2420 of music, the controller 1530 may display the title of the music together. When the user selects the thumbnail 2420, the controller 1530 can immediately play content related to the selected thumbnail 2420.

제어부(1530)는 사용자가 음성으로 해당 카테고리(2410)를 발화한 경우에만 썸네일(2420) 리스트를 디스플레이할 수 있다. 예를 들어, 사용자가 "사진"이 포함된 발화를 하는 경우, 제어부(1530)는 디스플레이 디바이스(1500)에 저장된 사진의 썸네일(2420) 리스트를 디스플레이한다. The controller 1530 may display the list of thumbnails 2420 only when the user utters the corresponding category 2410 by voice. For example, when the user makes a utterance containing "picture", the controller 1530 displays a list of thumbnails 2420 of the pictures stored in the display device 1500.

로컬 컨텐츠를 첫 번째 카테고리(2410)로 디스플레이 하는 경우, 제어부(1530)는 로컬 컨텐츠의 로딩이 완료된 이후, 다른 카테고리(2410)의 검색 결과를 디스플레이한다. 로컬 컨텐츠가 첫 번째 카테고리(2410)로 디스플레이 되지 않는 경우, 제어부(1530)는 첫 번째 카테고리(2410)를 먼저 디스플레이하고, 로컬 컨텐츠는 첫 번째 카테고리(2410)의 로딩 이후에 디스플레이한다. When the local content is displayed in the first category 2410, the controller 1530 displays the search result of the other category 2410 after loading of the local content is completed. If the local content is not displayed in the first category 2410, the controller 1530 displays the first category 2410 first, and the local content is displayed after loading the first category 2410.

사용자가 음성 인식 결과 UI 화면에서 Recordings 카테고리(2410)를 선택한 경우, 제어부(1530)는 응답 문구와 함께 첫 번째 썸네일(2420)에 대한 설명의 음성 안내를 스피커(1550)로 출력할 수 있다. When the user selects the Recordings category 2410 on the voice recognition result UI screen, the control unit 1530 may output a voice guidance of the description of the first thumbnail 2420 along with a response phrase to the speaker 1550.

도 25은 본 발명의 일 실시 예에 따른, 사용자가 Apps 카테고리를 선택한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. 사용자가 음성 인식 결과 UI 화면에서 Apps 카테고리(2510)를 선택한 경우, 제어부(1530)가 디스플레이하는 결과 리스트에 대한 응답문구, 카테고리(2510), 웹 검색 아이콘, 통합 검색 버튼, 추천 쿼리, 로고는 앞서 도 19에서 설명한 바와 같다. 25 is a diagram illustrating that a display device 1500 displays a voice recognition result UI when a user selects an Apps category according to an embodiment of the present invention. When the user selects the Apps category 2510 on the voice recognition result UI screen, the response phrase, category 2510, web search icon, integrated search button, recommendation query, and logo on the result list displayed by the control unit 1530 are ahead. As described in FIG. 19.

사용자가 음성 인식 결과 UI 화면에서 Apps 카테고리(2510)를 선택한 경우, 제어부(1530)는 검색된 어플리케이션의 썸네일(2520) 리스트를 디스플레이할 수 있다. 여기서, 제어부(1530)는 썸네일(2520)과 함께 해당 어플리케이션의 제목, 카테고리, 유료/무료 여부, 평점을 함께 디스플레이 할 수 있다. When the user selects the Apps category 2510 on the voice recognition result UI screen, the controller 1530 may display a list of thumbnails 2520 of the searched application. Here, the controller 1530 may display the title, category, paid/free status, and rating of the corresponding application together with the thumbnail 2520.

사용자가 음성 인식 결과 UI 화면에서 Apps 카테고리(2510)를 선택한 경우, 제어부(1530)는 응답 문구와 함께 첫 번째 썸네일(2520)에 대한 설명의 음성 안내를 스피커로 출력할 수 있다. When the user selects the Apps category 2510 on the UI screen as a result of speech recognition, the controller 1530 may output a voice guidance of the description of the first thumbnail 2520 with a response phrase to the speaker.

도 26은 본 발명의 일 실시 예에 따른, 사용자가 날씨와 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. 26 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user makes a speech related to weather according to an embodiment of the present invention.

도 26(a)는 사용자가 날씨와 관련된 발화를 한 경우, 제어부(1530)가 디스플레이 하는 UI 화면 전체를 도시한 도면이다. 도 26(b)는 사용자가 특정 날짜를 지정하여 발화한 경우, 제어부(1530)가 UI 화면 하단에 디스플레이하는 위젯(2620)을 도시한 도면이다. 도 26(c)는 사용자가 '주말 날씨'를 발화한 경우, 제어부(1530)가 UI 화면 하단에 디스플레이하는 위젯(2630)을 도시한 도면이다.FIG. 26(a) is a diagram illustrating the entire UI screen displayed by the control unit 1530 when the user makes a speech related to weather. FIG. 26(b) is a diagram illustrating a widget 2620 displayed by the controller 1530 at the bottom of the UI screen when a user utters a specific date and speaks. 26(c) is a diagram illustrating a widget 2630 displayed by the controller 1530 at the bottom of the UI screen when the user utters'weekend weather'.

도 26(a)를 참조하면, 사용자가 날씨와 관련된 발화를 한 경우, 제어부(1530)는 위젯 형태의 음성 인식 결과 UI(2610)를 디스플레이 할 수 있다. 여기서, 위젯(widget)은 웹브라우저를 통하지 않고 날씨·달력 등의 기능과 뉴스·게임 등을 바로 이용할 수 있도록 만든 미니 응용프로그램을 말한다. 상기 위젯 형태의 음성 인식 결과 UI(2610)는 지정된 지역 및 날짜에 관련된 날씨 정보(2611) 및 오늘을 포함한 향후 5일 동안의 날씨 정보(2612)을 포함한다. Referring to FIG. 26(a), when a user makes a speech related to weather, the controller 1530 may display the UI 2610 as a result of speech recognition in the form of a widget. Here, a widget refers to a mini-application program that makes it possible to use functions such as weather and calendar and news and games directly without going through a web browser. The widget-like voice recognition result UI 2610 includes weather information 2611 related to a designated region and date, and weather information 2612 for the next 5 days including today.

지정된 지역 및 날짜에 관련된 날씨 정보(2611)를 디스플레이 하는 경우, 제어부(1530)는 지정된 지역의 이름, 요일, 측정된 시간, 날씨 정보, 날씨 아이콘, 현재 기온(섭씨), 최저기온, 최고기온, 체감온도, 습도, 강수확률 및 강수량, 자외선 지수, 미세먼지 수치, 풍속 중 적어도 어느 하나 이상을 디스플레이 할 수 있다. 복수의 요일을 디스플레이 하는 경우, 제어부(1530)는 오늘에 해당되는 요일을 "오늘"로 바꾸어 디스플레이 할 수 있다. 세계 날씨를 디스플레이 하는 경우, 제어부(1530)는 해당 지역의 현재 기온을 디스플레이 하지 않을 수 있다. 날씨 정보를 디스플레이 하는 경우, 제어부(1530)는 해당 날씨에 적합한 배경 이미지를 함께 디스플레이 할 수 있다. When displaying weather information 2611 related to a specified region and date, the controller 1530 includes the name, day of the week, measured time, weather information, weather icon, current temperature (Celsius), minimum temperature, maximum temperature, It is possible to display at least one of sensation temperature, humidity, precipitation probability and precipitation, UV index, fine dust value, and wind speed. When displaying a plurality of days of the week, the controller 1530 may display the day of the week corresponding to today as "today". When displaying the world weather, the control unit 1530 may not display the current temperature of the region. When displaying weather information, the controller 1530 may display a background image suitable for the weather.

오늘을 포함한 향후 5일 동안의 날씨 정보(2612)를 디스플레이 하는 경우, 제어부(1530)는 요일, 날씨 아이콘, 최저기온, 최고기온 중 적어도 어느 하나 이상을 디스플레이 할 수 있다. 사용자가 오늘을 포함한 향후 5일 동안의 날씨 정보(2620)를 디스플레이 하는 영역을 선택한 경우, 제어부(1530)는 기설정된 웹페이지를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "weather.naver.com" 또는 "accuwather"의 웹페이지를 디스플레이 할 수 있다. When displaying weather information 2612 for the next 5 days including today, the controller 1530 may display at least one of a day of the week, a weather icon, a minimum temperature, and a maximum temperature. When the user selects an area for displaying weather information 2620 for the next 5 days including today, the controller 1530 may display a preset webpage. For example, the controller 1530 may display a web page of "weather.naver.com" or "accuwather".

도 26(b)를 참조하면, 사용자가 특정 날짜를 지정하여 발화한 경우, 제어부(1530)는 날짜의 범위를 지정하여 날씨를 디스플레이 할 수 있다. 예를 들어, 제어부(1530)는 오늘부터 지정된 특정 날짜까지의 날씨를 디스플레이할 수 있다. 또한, 제어부(1530)는 오늘부터 지정된 특정 날짜 전후의 날씨를 추가로 디스플레이 할 수 있다. 제어부(1530)는 측정시간, 기온, 습도를 제외한 날씨 정보를 디스플레이 할 수 있다. Referring to FIG. 26(b), when a user utters a specific date and speaks, the controller 1530 may display a weather by specifying a range of dates. For example, the controller 1530 may display weather from today to a specific date specified. In addition, the controller 1530 may additionally display weather before and after a specific date designated from today. The control unit 1530 may display weather information excluding measurement time, temperature, and humidity.

도 26(c)를 참조하면, 사용자가 '주말 날씨'를 발화한 경우, 제어부(1530)는 주말의 날씨 정보를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 주말과 가까운 날짜의 날씨 정보를 추가로 디스플레이 할 수 있다. Referring to FIG. 26(c), when the user utters'weekend weather', the controller 1530 may display weather information of the weekend. Here, the controller 1530 may additionally display weather information of a date close to the weekend.

특정 지역에 해당하는 날씨를 디스플레이 한 상태에서, 사용자가 다른 날짜를 발화할 경우, 제어부(1530)는 해당 지역의 다른 날짜의 날씨 정보를 제공한다. 특정 날짜에 해당하는 날씨를 디스플레이 한 상태에서, 사용자가 다른 지역을 발화할 경우, 제어부(1530)는 해당 날자의 다른 지역의 날씨 정보를 제공한다. When the weather corresponding to a specific area is displayed, when the user utters another date, the controller 1530 provides weather information of another date in the corresponding area. When the weather corresponding to a specific date is displayed, when the user utters another region, the controller 1530 provides weather information of the other region of the corresponding day.

복수개의 도시에 대한 날씨 정보를 제공하는 경우, 제어부(1530)는 사용자에게 어느 도시의 날씨 정보를 원하는지 물어보는 텍스트를 디스플레이 할 수 있다. When providing weather information for a plurality of cities, the controller 1530 may display a text asking the user which weather information of the city is desired.

디스플레이 디바이스(1500)가 네트워크에 연결되어 있지 않은 경우, 제어부(1530)는 음성 인식 결과 UI를 디스플레이 하지 않을 수 있다. When the display device 1500 is not connected to the network, the controller 1530 may not display the UI as a result of speech recognition.

지역 설정이 되어 있지 않거나, 설정된 집코드(zip code)가 유효하지 않은 경우, 제어부(1530)는 지역 설정을 유도하는 메시지를 디스플레이 할 수 있다. 여기서, 집코드(zip code, zone improvement plan code)는 우체국의 담당 배달 각 지역에 매긴 번호를 말한다.If the region is not set or the set zip code is not valid, the controller 1530 may display a message inducing the region setting. Here, the zip code (zone improvement plan code) refers to the number assigned to each area in charge of the post office.

지역설정이 되어 있고, 설정된 집코드(zip code)가 유효하나, 사용자의 발화에 오류가 있는 경우, 제어부(1530)는 해당 지역의 수도의 날씨를 디스플레이 할 수 있다. If the region is set and the set zip code is valid, but there is an error in the user's utterance, the controller 1530 may display the weather of the capital of the region.

도 27은 본 발명의 일 실시 예에 따른, 사용자가 날씨와 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. FIG. 27 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user makes a speech related to weather according to an embodiment of the present invention.

도 27(a)는 사용자가 날씨와 관련된 발화를 한 경우, 제어부(1530)가 미세먼지 정보를 디스플레이하는 것을 도시한 도면이다. 도 27(b)는 사용자가 미세먼지에 관한 발화를 한 경우, 제어부(1530)가 텍스트 메시지를 디스플레이하는 것을 도시한 도면이다. FIG. 27(a) is a diagram illustrating that the control unit 1530 displays fine dust information when a user makes a speech related to weather. FIG. 27(b) is a diagram illustrating that the control unit 1530 displays a text message when the user speaks about fine dust.

도 27(a)를 참조하면, 사용자가 날씨와 관련된 발화를 한 경우, 제어부(1530)는 미세먼지의 수치정보(2710)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 미세먼지의 수치정보(2710)에 따라 미세먼지 정보를 다르게 디스플레이 할 수 있다. 예를 들면, 미세먼지 농도가 0~30 ㎍/m³ 인 경우, 제어부(1530)는 미세먼지 정보를 파란색으로 디스플레이 할 수 있다. 미세먼지 농도가 31~80 ㎍/m³ 인 경우, 제어부(1530)는 미세먼지 정보를 초록색으로 디스플레이 할 수 있다. 미세먼지 농도가 81~150 ㎍/m³ 인 경우, 제어부(1530)는 미세먼지 정보를 노란색으로 디스플레이 할 수 있다. 미세먼지 농도가 151 ㎍/m³ 인 경우, 제어부(1530)는 미세먼지 정보를 빨간색으로 디스플레이 할 수 있다. 제어부(1530)는 미세먼지의 수치정보와 함께 공기의 질을 텍스트로 디스플레이 할 수 있다. Referring to FIG. 27(a), when a user makes an utterance related to weather, the controller 1530 may display numerical information 2710 of fine dust. Here, the control unit 1530 may display the fine dust information differently according to the numeric information 2710 of the fine dust. For example, when the fine dust concentration is 0 to 30 µg/m³, the controller 1530 may display the fine dust information in blue. When the concentration of fine dust is 31 to 80 µg/m³, the controller 1530 may display fine dust information in green. When the concentration of fine dust is 81 to 150 µg/m³, the control unit 1530 may display the fine dust information in yellow. When the concentration of fine dust is 151 μg/m³, the controller 1530 may display the fine dust information in red. The control unit 1530 may display the air quality as text along with the numerical information of the fine dust.

도 27(b)를 참조하면, 사용자가 미세먼지 정보에 대하여 단순히 물어보는 경우, 제어부(1530)는 텍스트 메시지(2720)를 디스플레이 할 수 있다. 예를 들어, 제어부(1530)는 "서울 강남구의 현재 미세먼지 농도는 좋음(10㎍/m³)입니다."를 디스플레이 하단에 텍스트 메시지(2720)로 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 텍스트 메시지(2720)를 스피커(1550)를 통해 음성으로 출력할 수 있다. Referring to FIG. 27(b), when the user simply asks for fine dust information, the controller 1530 may display a text message 2720. For example, the control unit 1530 may display a text message 2720 at the bottom of the display, “The current fine dust concentration in Gangnam-gu, Seoul is good (10 μg/m³).” Here, the control unit 1530 may output the text message 2720 as a voice through the speaker 1550.

도 28은 본 발명의 일 실시 예에 따른, 사용자가 시간과 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.FIG. 28 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user makes a speech related to time according to an embodiment of the present invention.

도 28(a)는 사용자가 시간과 관련된 발화를 한 경우, 제어부(1530)가 시간 정보를 디스플레이 하는 것을 도시한 도면이다. 도 28(b)는 복수개의 도시에 대한 결과가 존재할 경우, 제어부(1530)가 UI 화면 하단에 디스플레이하는 메시지를 도시한 도면이다. FIG. 28(a) is a diagram illustrating that the controller 1530 displays time information when a user makes a speech related to time. FIG. 28(b) is a diagram illustrating a message displayed by the controller 1530 at the bottom of the UI screen when there are results for a plurality of cities.

도 28(a)를 참조하면, 사용자가 날씨와 관련된 발화를 한 경우, 제어부(1530)는 위젯(widget) 형태의 음성 인식 결과 UI를 디스플레이 할 수 있다. 여기서, 음성 인식 결과 UI는 사용자가 검색한 지역의 현재 시각(2810), 사용자가 검색한 지역과 사용자가 설정한 지역과의 시차(2820), 사용자가 설정한 타임 존(time zone)에 따른 네트워크의 현재 시간(2830)에 관한 정보를 포함할 수 있다. 여기서, 제어부(1530)는 네트워크의 현재 시간과 함께 사용자가 설정한 타임 존에 따른 지역 및 날짜를 추가로 디스플레이 할 수 있다. Referring to FIG. 28(a), when a user makes a speech related to weather, the controller 1530 may display a UI of a voice recognition result in the form of a widget. Here, the voice recognition result UI is a network according to the current time 2810 of the region searched by the user, the time difference 2820 between the region searched by the user and the region set by the user, and the time zone set by the user It may include information about the current time (2830). Here, the controller 1530 may additionally display the region and date according to the time zone set by the user along with the current time of the network.

사용자가 기설정된 타임 존의 시간을 검색한 경우, 제어부(1530)는 좌, 우 영역에 동일한 시간을 디스플레이하고, 시차는 0으로 디스플레이 할 수 있다. 제어부(1530)가 시간 정보를 디스플레이 한 후 일정 시간이 경과한 경우, 제어부(1530)는 디스플레이한 시간 정보를 업데이트 하지 않을 수 있다. 디스플레이 디바이스(1500)가 네트워크에 연결되어 있지 않은 경우, 제어부(1530)는 음성 인식 결과 UI를 디스플레이 하지 않을 수 있다. When the user searches for a time in a preset time zone, the controller 1530 displays the same time in the left and right areas and the time difference can be displayed as zero. If a certain time has elapsed after the controller 1530 displays the time information, the controller 1530 may not update the displayed time information. When the display device 1500 is not connected to the network, the controller 1530 may not display the UI as a result of speech recognition.

도 28(b)를 참조하면, 사용자의 발화에 따른 검색 결과 복수개의 도시가 존재하는 경우, 제어부(1530)는 복수개의 도시중 어느 것을 선택할 것인지 질문하는 메시지(2840)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "어떤 도시를 원하시나요?"라는 텍스트 메시지(2840)와 함께 도시의 이미지를 썸네일(2850)로 텍스트 메시지(2840) 하단에 디스플레이 할 수 있다. Referring to FIG. 28(b), when a plurality of cities exist as a result of a search according to a user's speech, the controller 1530 may display a message 2840 asking which of the plurality of cities to select. For example, the controller 1530 may display the image of the city as a thumbnail 2850 at the bottom of the text message 2840, along with the text message 2840, “What city do you want?”.

도 29는 본 발명의 일 실시 예에 따른, 사용자가 인물에 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.FIG. 29 is a diagram illustrating that a display device 1500 displays a voice recognition result UI when a user makes a speech related to a person according to an embodiment of the present invention.

도 29(a)는 검색 결과가 1명인 경우를 도시한 도면이다. 도 29(b)는 검색 결과가 2명 이상인 경우를 도시한 도면이다. 도 29(c)는 도28(b)에서 사용자가 특정 인물과 관련된 이미지를 선택하였을 경우를 도시한 도면이다. 29(a) is a diagram showing a case where the search result is one. Fig. 29(b) is a diagram showing a case where there are two or more search results. 29(c) is a diagram illustrating a case in which the user selects an image related to a specific person in FIG. 28(b).

도 29(a)를 참조하면, 사용자가 인물에 관련된 발화를 한 경우, 제어부(1530)는 해당 인물의 사진(2910)을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 해당 인물의 사진(2910)과 함께 인물과 관련된 설명(2920) 및 웹 검색 버튼(2930)을 함께 디스플레이 할 수 있다. 사용자가 웹 검색 버튼을 선택한 경우, 제어부(1530)는 google 등 인터넷 검색 엔진에서 해당 인물에 대한 정보를 검색하여 디스플레이 할 수 있다. Referring to FIG. 29(a), when a user makes a speech related to a person, the controller 1530 may display a picture 2910 of the person. Here, the controller 1530 may display a description 2920 and a web search button 2930 related to the person together with the picture 2910 of the person. When the user selects the web search button, the controller 1530 may search for and display information about the person in an internet search engine such as google.

도 29(b)를 참조하면, 사용자가 인물에 관련된 발화를 하고, 해당 발화에 대한 검색 결과가 2명 이상이 경우, 제어부(1530)는 검색된 인물의 리스트(2940)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 복수의 인물과 관련된 이미지를 리스트(2940)로 나열하여 디스플레이 할 수 있다. 사용자가 리모컨의 커서(10)를 특정 인물과 관련된 이미지(2941)에 위치하는 경우, 제어부(1530)는 특정 인물과 관련된 이미지(2941)를 다른 인물과 관련된 이미지(2940)와 다르게 디스플레이 할 수 있다. Referring to FIG. 29(b), when a user makes a speech related to a person and there are two or more search results for the person, the controller 1530 may display a list 2940 of the searched persons. For example, the controller 1530 may list and display images related to a plurality of people as a list 2940. When the user positions the cursor 10 of the remote control on the image 2942 related to a specific person, the controller 1530 may display the image 2942 related to a specific person differently from the image 2940 related to another person. .

도 29(c)를 참조하면, 사용자가 특정 인물과 관련된 이미지(2941)를 선택한 경우, 제어부(1530)는 특정 인물과 관련된 정보(2942)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 특정 인물과 관련된 정보(2942)를 특정 인물과 관련된 이미지(2941)와 다른 인물과 관련된 이미지(2943) 사이에 디스플레이 할 수 있다. 제어부(1530)는 상기 특정 인물과 관련된 정보와 웹 검색 버튼(2930)을 함께 디스플레이 할 수 있다. Referring to FIG. 29C, when the user selects an image 2942 related to a specific person, the controller 1530 may display information 2942 related to the specific person. Here, the controller 1530 may display the information 2942 related to the specific person between the image 2942 related to the specific person and the image 2942 related to another person. The controller 1530 may display information related to the specific person and a web search button 2930 together.

도 29(a) 내지 도 29(c)를 참조하면, 디스플레이 디바이스(1500)가 인물의 얼굴을 디스플레이하고 있는 경우, 제어부(1530)는 현재 디스플레이 되고 있는 화면상의 인물의 안면을 인식할 수 있다. 예를 들면, 사용자가 "저 사람 누구야?"라고 발화하는 경우, 제어부(1530)는 현재 디스플레이 되고 있는 인물의 얼굴을 인식하여 매칭되는 인물에 대한 정보를 디스플레이 할 수 있다. 29(a) to 29(c), when the display device 1500 is displaying a person's face, the controller 1530 may recognize the face of the person on the currently displayed screen. For example, when the user speaks "Who is that person?", the controller 1530 may recognize the face of the currently displayed person and display information on the matched person.

도 30은 본 발명의 일 실시 예에 따른, 사용자가 영화 감독, 제작연도, 또는 줄거리에 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.FIG. 30 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user makes a speech related to a movie director, production year, or plot, according to an embodiment of the present invention.

도 30(a)는 사용자가 영화 감독에 관련된 발화를 한 경우를 도시한 도면이다. 도 30(b)는 사용자가 제작연도에 관련된 발화를 한 경우를 도시한 도면이다. 도 30(c)는 사용자가 줄거리에 관련된 발화를 한 경우를 도시한 도면이다. 30(a) is a diagram illustrating a case where a user makes a speech related to a movie director. 30(b) is a diagram illustrating a case in which a user makes a speech related to a production year. 30(c) is a diagram illustrating a case in which a user makes a speech related to a plot.

도 30(a)를 참조하면, 사용자가 영화 감독에 관련된 발화를 한 경우, 제어부(1530)는 해당 감독에 대한 정보(3010)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 해당 감독에 관련된 이미지와 함께 작품 제목, 감독의 이름, 배우 이름을 함께 디스플레이 할 수 있다. 제어부(1530)는 해당 감독에 대한 정보(3010)를 인터넷에서 검색할 수 있는 버튼(3040)을 추가로 디스플레이 할 수 있다.Referring to FIG. 30(a), when a user makes a speech related to a movie director, the controller 1530 may display information 3010 about the director. For example, the controller 1530 may display the title of the work, the name of the director, and the name of the actor together with the image related to the director. The controller 1530 may additionally display a button 3040 to search for information 3010 about the director on the Internet.

도 30(b)를 참조하면, 사용자가 제작연도에 관련된 발화를 한 경우, 제어부(1530)는 작품의 제작 연도에 대한 정보(3020)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 작품에 대한 이미지와 함께 작품의 제목, 제작연도, 감독 이름, 배우 이름을 디스플레이 할 수 있다. 제어부(1530)는 제작연도에 대한 정보(3020)를 인터넷에서 검색할 수 있는 버튼(3040)을 추가로 디스플레이 할 수 있다.Referring to FIG. 30(b), when a user makes a speech related to a production year, the controller 1530 may display information 3020 about the production year of the work. For example, the controller 1530 may display the title of the work, production year, director's name, and actor's name along with the image of the work. The controller 1530 may additionally display a button 3040 for searching information 3020 on the production year on the Internet.

도 30(c)를 참조하면, 사용자가 줄거리에 관련된 발화를 한 경우, 제어부(1530)는 작품의 줄거리에 대한 정보(3030)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 작품에 대한 이미지와 함께 작품의 제목, 제작연도, 감독 이름, 줄거리를 디스플레이 할 수 있다. 제어부(1530)는 작품의 줄거리에 대한 정보(3030)를 인터넷에서 검색할 수 있는 버튼(3040)을 추가로 디스플레이 할 수 있다.Referring to FIG. 30(c), when a user makes a speech related to a plot, the controller 1530 may display information 3030 about the plot of the work. For example, the controller 1530 may display the title of the work, the year of production, the name of the director, and a plot along with the image of the work. The controller 1530 may additionally display a button 3040 for searching information 3030 about the plot of the work on the Internet.

도 31은 본 발명의 일 실시 예에 따른, 사용자가 시청 이력에 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다.FIG. 31 is a diagram illustrating that a display device 1500 displays a voice recognition result UI when a user makes a speech related to a viewing history according to an embodiment of the present invention.

도 31(a)는 사용자가 최근에 시청한 컨텐츠를 질문하는 경우, 디스플레이 디바이스(1500)에서 음성 입력 단계의 UI를 디스플레이 하는 것을 도시한 도면이다. 도 31(b)는 도 31(a)에서 사용자의 음성 입력이 끝난 후, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다. 도 31(c)는 사용자가 어제 비슷한 시간대에 무엇을 시청하였는지 질문하는 경우, 디스플레이 디바이스(1500)에서 음성 입력 단계의 UI를 디스플레이 하는 것을 도시한 도면이다. 도 31(d)는 도 31(c)에서 사용자의 음성 입력이 끝난 후, 디스플레이 디바이스(1500)에서 채널을 전환하는 것을 도시한 도면이다. FIG. 31(a) is a diagram illustrating that a UI of a voice input step is displayed on the display device 1500 when a user queries a recently viewed content. FIG. 31( b) is a diagram illustrating that the display device 1500 displays a voice recognition result UI after the user inputs the voice in FIG. 31( a). FIG. 31( c) is a diagram illustrating the display device 1500 displaying a UI of a voice input step when a user asks what they watched at a similar time yesterday. FIG. 31(d) is a diagram illustrating switching of a channel in the display device 1500 after the user's voice input is ended in FIG. 31(c).

도 31(a)를 참조하면, 사용자가 최근에 시청한 컨텐츠를 질문하는 경우, 제어부(1530)는 음성 입력 단계의 UI를 디스플레이 할 수 있다. 예를 들면, 사용자의 질문은 "내가 최근에 본 것이 무엇이었지?"가 될 수 있다. 도 18(c)에서 상술한 바와 같이, 사용자가 마이크(1560)를 통해 발화 중인 경우, 제어부(1530)는 마이크(1560)를 통해 입력되는 문구를 실시간으로 텍스트 영역(3110)에 디스플레이 할 수 있다. 또한, 제어부(1530)는 마이크를 통해 입력되는 사용자의 음성을 시각화하여 인디케이터(3120)로 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 사용자의 음성을 물결 모양의 인디케이터(3120)로 디스플레이하여 사용자의 음성이 정상적으로 입력되고 있음을 사용자에게 알려줄 수 있다. Referring to FIG. 31(a), when a user queries content that has been recently viewed, the controller 1530 may display a UI of a voice input step. For example, the user's question may be, "What have I seen recently?" 18(c), when the user is speaking through the microphone 1560, the controller 1530 may display the text input through the microphone 1560 in the text area 3110 in real time. . In addition, the controller 1530 may visualize the user's voice input through the microphone and display it with the indicator 3120. For example, the control unit 1530 may display the user's voice with a wavy indicator 3120 to inform the user that the user's voice is being input normally.

도 31(b)를 참조하면, 도 31(a)에서 사용자의 음성입력이 끝난 후, 제어부(1530)는 사용자가 최근 시청한 컨텐츠를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 TV/STB 프로그램 및 VOD 시청 이력을 썸네일(3130) 형태로 디스플레이 할 수 있다. 여기서, STB는 지상파나 케이블, 위성으로 전달되는 방송신호를 수신해 TV 등 디스플레이 장치로 시청할 수 있도록 하는 셋탑 박스(set-top box)를 말한다. 사용자가 TV/STB의 프로그램 또는 채널을 5분 이상 시청한 경우, 제어부(1530)는 해당 프로그램 또는 채널을 썸네일(3130)로 디스플레이할 수 있다. 제어부(1530)는 사용자가 제일 길게 시청한 프로그램 또는 채널을 최대 8개까지 디스플레이 할 수 있다. 제어부(1530)는 중복되는 프로그램 또는 채널을 하나의 썸네일(3130)로 디스플레이할 수 있다. 디스플레이 디바이스(1500)에 마지막으로 연결된 입력이 TV 입력인 경우, 제어부(1530)는 Live TV의 컨텐츠를 디스플레이 할 수 있다. 디스플레이 디바이스(1500)에 마지막으로 연결된 입력이 STB의 입력인 경우, 제어부(1530)는 STB의 컨텐츠를 디스플레이 할 수 있다. 디스플레이 디바이스(1500)에 마지막으로 연결된 입력이 TV 또는 STB가 아닌 경우, 제어부(1530)는 TV 또는 STB의 컨텐츠는 디스플레이하지 않을 수 있다. 사용자가 컨텐츠 프로바이더가 제공하는 VOD를 음성 검색, 일반 검색, 컨텐츠 스토어를 통해 클릭한 경우, 제어부(1530)는 해당 VOD 컨텐츠를 디스플레이 할 수 있다. 제어부(1530)는 해당 VOD의 썸네일(3130)의 클릭 수가 많은 순으로 최대 8개의 썸네일(3130)을 디스플레이 할 수 있다. 제어부(1530)는 중복되는 VOD 컨텐츠를 하나의 썸네일(3130)로 디스플레이 할 수 있다. 사용자가 시청한 VOD가 컨텐츠 프로바이더에 의해 더 이상 제공되지 않는 경우, 제어부(1530)는 해당 VOD의 썸네일(3130)을 디스플레이지 하지 않을 수 있다. 제어부(1530)는 최대 일주일 이내에서 사용자의 시청 이력을 디스플레이 할 수 있다. Referring to FIG. 31(b), after the user's voice input is ended in FIG. 31(a), the controller 1530 may display content that the user has recently viewed. Here, the controller 1530 may display the TV/STB program and VOD viewing history in the form of a thumbnail 3130. Here, STB refers to a set-top box that receives a broadcast signal transmitted through terrestrial waves, cables, or satellites and allows viewing by a display device such as a TV. When a user watches a TV/STB program or channel for 5 minutes or more, the controller 1530 may display the program or channel as a thumbnail 3130. The controller 1530 may display up to 8 programs or channels viewed by the user for the longest time. The controller 1530 may display overlapping programs or channels as a single thumbnail 3130. When the input connected to the display device 1500 is the TV input, the controller 1530 may display the content of the Live TV. When the input connected to the display device 1500 is the input of the STB, the controller 1530 may display the content of the STB. When the input connected to the display device 1500 is not the TV or the STB, the controller 1530 may not display the contents of the TV or the STB. When a user clicks a VOD provided by a content provider through a voice search, a general search, or a content store, the controller 1530 can display the corresponding VOD content. The controller 1530 may display up to eight thumbnails 3130 in the order of the number of clicks of the thumbnails 3130 of the corresponding VOD. The controller 1530 may display overlapping VOD contents as one thumbnail 3130. When the VOD viewed by the user is no longer provided by the content provider, the controller 1530 may not display the thumbnail 3130 of the corresponding VOD. The controller 1530 may display the user's viewing history within a maximum of one week.

도 31(b)의 하단 및 도 21을 참조하면, 사용자가 TV 컨텐츠의 썸네일(3130)을 클릭하고, 해당 TV 컨텐츠와 관련된 출시 예정 컨텐츠가 있는 경우, 제어부(1530)는 도 21의 Upcoming 카테고리의 상세페이지(2100)를 디스플레이한다. 사용자가 TV 컨텐츠의 썸네일(3130)을 클릭하고, 해당 TV 컨텐츠와 관련된 출시 예정 컨텐츠가 없는 경우, 제어부(1530)는 해당 TV 컨텐츠의 프로그램명을 키워드로 한 검색 결과를 디스플레이 한다. 사용자가 VOD 컨텐츠의 썸네일(3130)을 클릭하는 경우, 제어부(1530)는 해당 VOD 컨텐츠를 제공하는 컨텐츠 프로바이더의 어플리케이션을 실행하고 해당 컨텐츠의 상세페이지(2100)를 디스플레이 한다. 컨텐츠 프로바이더가 해당 VOD 컨텐츠를 바로 재생하는 기능을 지원하는 경우, 제어부(1530)는 해당 VOD 컨텐츠를 바로 재생한다. Referring to the lower part of FIG. 31(b) and FIG. 21, when the user clicks the thumbnail 3130 of the TV content, and there is content to be released related to the TV content, the controller 1530 of the Upcoming category of FIG. 21 The detailed page 2100 is displayed. When the user clicks the thumbnail 3130 of the TV content, and there is no upcoming content related to the TV content, the controller 1530 displays a search result using the program name of the TV content as a keyword. When the user clicks the thumbnail 3130 of the VOD content, the controller 1530 executes an application of a content provider that provides the VOD content and displays the detailed page 2100 of the content. If the content provider supports the function to play the VOD content immediately, the controller 1530 plays the VOD content immediately.

도 31(c)를 참조하면, 사용자가 어제 비슷한 시간대에 무엇을 시청하였는지 질문하는 경우, 제어부(1530)는 음성 입력 단계의 UI를 디스플레이 할 수 있다. 예를 들면, 사용자의 질문은 "내가 어제 이 시간에 무엇을 보았지?"가 될 수 있다. 도 18(c)에서 상술한 바와 같이, 사용자가 마이크(1560)를 통해 발화 중인 경우, 제어부(1530)는 마이크(1560)를 통해 입력되는 문구를 실시간으로 텍스트 영역(3140)에 디스플레이 할 수 있다. 또한, 제어부(1530)는 마이크를 통해 입력되는 사용자의 음성을 시각화하여 인디케이터(3150)로 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 사용자의 음성을 물결 모양의 인디케이터(3150)로 디스플레이 하여 사용자의 음성이 정상적으로 입력되고 있음을 사용자에게 알려줄 수 있다. Referring to FIG. 31(c), when a user asks what they watched at a similar time yesterday, the controller 1530 may display the UI of the voice input step. For example, the user's question could be, "What did I see this time yesterday?" 18(c), when the user is speaking through the microphone 1560, the controller 1530 may display the text input through the microphone 1560 in the text area 3140 in real time. . In addition, the control unit 1530 may visualize the user's voice input through the microphone and display it with the indicator 3150. For example, the control unit 1530 may display the user's voice with a wavy indicator 3150 to inform the user that the user's voice is being input normally.

도 31(d)를 참조하면, 도 31(c)에서 사용자의 음성입력이 끝난 후, 제어부(1530)는 사용자가 어제 현재 시간과 비슷한 시간대에 시청한 채널의 화면을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 채널이 전환되었음을 알리는 텍스트 메시지(3160)를 디스플레이 하단에 디스플레이 할 수 있다. 예를 들어, 제어부(1530)는 "7번 채널로 채널이 전환되었습니다."라는 문구를 디스플레이 하단에 디스플레이 할 수 있다.Referring to FIG. 31(d), after the user's voice input is ended in FIG. 31(c), the controller 1530 may display a screen of a channel watched by the user at a time similar to the current time yesterday. Here, the controller 1530 may display a text message 3160 indicating that the channel has been switched on the bottom of the display. For example, the control unit 1530 may display the phrase "the channel has been switched to channel 7" at the bottom of the display.

도 31(a) 내지 도 31(d)를 참조하면, 사용자가 어제 시청한 채널이 복수인 경우, 제어부(1530)는 현재 시각을 기준으로 30분 전후에 시청한 채널을 디스플레이할 수 있다. 여기서, 사용자가 현재 시각을 기준으로 30분 전후에 시청한 채널이 2개 이상인 경우, 제어부(1530)는 사용자가 시청한 채널의 리스트를 디스플레이할 수 있다. 제어부(1530)는 사용자가 어제 시청한 뉴스를 디스플레이 할 수 있다. STB/live TV의 썸네일(3130)을 디스플레이하는 경우, 제어부(1530)는 프로그램의 채널 번호, 채널 명, 프로그램 명을 함께 디스플레이할 수 있다. VOD의 썸네일(3130)을 디스플레이하는 경우, 제어부(1530)는 VOD라는 텍스트를 함께 디스플레이 할 수 있다. Live TV 와 VOD의 썸네일(3130)을 함께 디스플레이 하는 경우, 제어부(1530)는 VOD와 Live TV로 카테고리를 나누어 각각 5개씩 디스플레이 할 수 있다. Referring to FIGS. 31(a) to 31(d), when there are a plurality of channels viewed by a user yesterday, the controller 1530 may display the channels viewed before and after 30 minutes based on the current time. Here, when there are two or more channels viewed by the user about 30 minutes before and after the current time, the controller 1530 may display a list of channels viewed by the user. The controller 1530 may display news that the user watched yesterday. When displaying the thumbnail 3130 of the STB/live TV, the control unit 1530 may display the channel number, channel name, and program name of the program together. When displaying the thumbnail 3130 of the VOD, the controller 1530 may display the text VOD together. When displaying the thumbnails 3130 of the live TV and the VOD together, the controller 1530 may divide the categories into VOD and live TV and display 5 each.

사용자의 시청이력을 디스플레이 하는 경우, 제어부(1530)는 사용자가 최근 일주일 동안 시청한 컨텐츠를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자가 가장 최근에 시청한 컨텐츠 이력만을 저장하고 이전의 시청이력은 삭제할 수 있다. 사용자의 시청한 컨텐츠가 8개 이상인 경우, 제어부(1530)는 사용자가 가장 많이 시청한 8개의 컨텐츠만 디스플레이 할 수 있다. 사용자가 TV/STB의 컨텐츠를 8개 이상 시청한 경우, 제어부(1530)는 가장 길게 시청한 컨텐츠 중 상위 8개를 디스플레이 할 수 있다. 사용자가 VOD의 컨텐츠를 8개 이상 시청한 경우, 제어부(1530)는 사용자가 가장 많이 클릭한 썸네일과 관련된 VOD 컨텐츠 중 상위 8개의 컨텐츠를 디스플레이 할 수 있다. 디스플레이 디바이스(1500)에 마지막으로 연결된 입력이 TV 입력인 경우, 제어부(1530)는 Live TV의 컨텐츠를 디스플레이 할 수 있다. 디스플레이 디바이스(1500)에 마지막으로 연결된 입력이 STB의 입력인 경우, 제어부(1530)는 STB의 컨텐츠를 디스플레이 할 수 있다. 디스플레이 디바이스(1500)에 마지막으로 연결된 입력이 TV 또는 STB가 아닌 경우, 제어부(1530)는 TV 또는 STB의 컨텐츠는 디스플레이하지 않을 수 있다.When the user's viewing history is displayed, the controller 1530 may display the content viewed by the user for the last week. Here, the control unit 1530 may store only the history of the content that the user has viewed most recently, and delete the previous viewing history. When the user's watched content is 8 or more, the control unit 1530 may display only the 8 most watched content by the user. When the user has watched more than 8 TV/STB contents, the controller 1530 may display the top 8 of the longest viewed contents. When the user has viewed more than 8 VOD contents, the controller 1530 may display the top 8 contents among the VOD contents related to the thumbnail that the user clicked the most. When the input connected to the display device 1500 is the TV input, the controller 1530 may display the content of the Live TV. When the input connected to the display device 1500 is the input of the STB, the controller 1530 may display the content of the STB. When the input connected to the display device 1500 is not the TV or the STB, the controller 1530 may not display the contents of the TV or the STB.

도 32는 본 발명의 일 실시 예에 따른, 사용자가 Web/웹 검색 버튼을 선택한 경우, 디스플레이 디바이스(1500)에서 미니 브라우저를 디스플레이하는 것을 도시한 도면이다. FIG. 32 is a diagram illustrating that the display device 1500 displays a mini browser when a user selects a Web/web search button according to an embodiment of the present invention.

도 19와 도 32를 참조하면, 사용자가 음성 인식 결과 UI 내의 웹 검색 아이콘(1930)을 선택한 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 웹 브라우저 어플리케이션 이동 버튼(3211), 닫기 버튼(3212), 스크롤 인디케이터(3213), 프로그레스 바(3214) 및 음성 인식 결과 카테고리(3240)를 추가로 디스플레이 할 수 있다. Referring to FIGS. 19 and 32, when the user selects the web search icon 1930 in the voice recognition result UI, the controller 1530 may display the mini browser 3210. Here, the controller 1530 may additionally display the web browser application move button 3211, close button 3212, scroll indicator 3213, progress bar 3214, and voice recognition result category 3240.

도 29, 도 30 및 도 32를 참조하면, 사용자가 인물, 영화 감독, 제작연도, 줄거리와 관련된 음성 인식 결과 UI에서 웹 검색 버튼(2830, 3040)을 선택한 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. Referring to FIGS. 29, 30, and 32, when the user selects the web search buttons 2830 and 3040 in the voice recognition result UI related to a person, a movie director, a production year, and a plot, the controller 1530 controls the mini browser ( 3210).

상기 웹 검색 아이콘(1930) 또는 웹 검색 버튼(2830, 3040)을 선택하지 않는 경우에도, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. 예를 들면, 사용자가 발화한 키워드와 관련된 연관 검색 기능을 지원하지 않는 국가인 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이할 수 있다. 또한, 도 30을 참조하면, 사용자가 발화한 내용과 관련된 등장인물, 제작연도, 감독, 줄거리, 또는 OST에 관련된 정보가 UI를 제공하는 회사의 데이터 베이스에 존재하지 않는 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. Even if the web search icon 1930 or the web search buttons 2830 and 3040 are not selected, the control unit 1530 may display the mini browser 3210. For example, in a country that does not support a related search function related to a keyword spoken by a user, the control unit 1530 may display the mini browser 3210. In addition, referring to FIG. 30, if information related to a character, production year, director, plot, or OST related to the content spoken by the user does not exist in the database of the company providing the UI, the controller 1530 The mini browser 3210 can be displayed.

도 26 및 도 32를 참조하면, 사용자가 날씨 위젯의 특정 영역(2612)을 선택하여 다른 사이트로 연결되는 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. 예를 들어, 다른 사이트는 Naver, Accuweather 사이트 등이 될 수 있다. 26 and 32, when a user selects a specific area 2612 of the weather widget and connects to another site, the control unit 1530 may display the mini browser 3210. For example, other sites may be Naver, Accuweather sites, and the like.

또는, 사용자가 인터넷 상의 검색을 요청하는 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. 예를 들면, 사용자가 "네이버에서 윤식당 찾아줘."라고 발화한 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. Alternatively, when the user requests a search on the Internet, the control unit 1530 may display the mini browser 3210. For example, when the user utters "Please find Yoon Sikdang in Naver." The controller 1530 may display the mini browser 3210.

제어부(1530)는 기지정된 어플리케이션 내에서만 미니 브라우저(3210)를 실행할 수 있다. The control unit 1530 can execute the mini-browser 3210 only within a predetermined application.

사용자가 웹 브라우저 어플리케이션 이동 버튼(3211)을 선택한 경우, 제어부(1530)는 웹 브라우저 어플리케이션을 실행하여 전체 화면으로 디스플레이 할 수 있다. 사용자가 닫기 버튼(3212)을 선택한 경우, 제어부(1530)는 미니 브라우저(3210)를 더 이상 디스플레이 하지 않을 수 있다. 사용자가 음성 인식 결과 카테고리(3240)를 선택한 경우, 제어부(1530)는 해당 카테고리와 관련된 화면을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자가 리모컨 포인터(10)로만 카테고리를 선택할 수 있도록 제어할 수 있다. When the user selects the web browser application move button 3211, the control unit 1530 may execute the web browser application and display it in full screen. When the user selects the close button 3212, the controller 1530 may no longer display the mini browser 3210. When the user selects the voice recognition result category 3240, the controller 1530 may display a screen related to the corresponding category. Here, the controller 1530 may control the user to select a category only with the remote control pointer 10.

이하에서 상기 미니 브라우저(3210)에 대하여 상세히 설명한다. Hereinafter, the mini browser 3210 will be described in detail.

사용자가 컨텐츠 시청과 동시에 다른 어플리케이션으로 추가적인 정보를 검색하는 경우, 일부 화면으로 실행되고 있는 어플리케이션과 함께 웹 검색 결과의 링크를 디스플레이 하는 경우, 실행 중인 어플리케이션에서 외부 링크를 참조할 경우 또는 현재 실행 중일 어플리케이션에서 일시적으로 사용자의 동의나 인증을 받는 절차를 다른 어플리케이션을 통해 제공하는 경우, 제어부(1530)는 미니 브라우저(3210)를 디스플레이 할 수 있다. 단, 사용자가 미니 브라우저(3210)에 디스플레이 되는 내용을 제대로 인식하기 어려운 경우 또는 미니 브라우저(3210)가 제공하는 정보의 양이 과다한 경우, 제어부(1530)는 미니 브라우저(3210)를 실행시키지 않을 수 있다. When the user searches for additional information with another application at the same time as viewing the content, displays a link of the web search result along with the application running on some screen, refers to the external link in the running application, or the application that is currently running In a case where a procedure for temporarily receiving a user's consent or authentication is provided through another application, the controller 1530 may display the mini browser 3210. However, if it is difficult for a user to properly recognize the content displayed on the mini-browser 3210 or if the amount of information provided by the mini-browser 3210 is excessive, the control unit 1530 may not execute the mini-browser 3210. have.

도 32를 참조하면, 제어부(1530)는 미니 브라우저(3210)가 표시할 정보의 양에 따라 다른 크기로 미니 브라우저(3210)를 디스플레이 할 수 있다. 예를 들면, 다른 어플리케이션의 UI 화면과 미니 브라우저(3210)를 겹쳐서 디스플레이 하는 경우, 제어부(1530)는 미니 브라우저(3210)가 디스플레이 되는 영역이 전체 디스플레이 화면 영역의 20% 이상이 되도록 미니 브라우저(3210)를 디스플레이 할 수 있다. 또한, 다른 어플리케이션의 UI가 디스플레이 되고 있는 경우, 제어부(1530)는 다른 어플리케이션의 UI가 디스플레이 되는 영역과 전체 화면 영역의 50% 중 작은 값보다 크지 않게 미니 브라우저(3210)를 디스플레이 할 수 있다. Referring to FIG. 32, the control unit 1530 may display the mini browser 3210 in different sizes according to the amount of information to be displayed by the mini browser 3210. For example, when the UI screen of another application and the mini-browser 3210 are overlapped and displayed, the controller 1530 displays the mini-browser 3210 so that the area where the mini-browser 3210 is displayed becomes 20% or more of the entire display screen area. ) Can be displayed. In addition, when a UI of another application is displayed, the controller 1530 may display the mini browser 3210 not larger than a smaller value among 50% of the area and the entire screen area where the UI of the other application is displayed.

제어부(1530)는 상기 미니 브라우저(3210)를 다른 어플리케이션으로부터 독립적으로 실행할 수 있다. 사용자가 리모컨 상의 '뒤로 가기' 버튼(미도시)을 누른 경우, 제어부(1530)는 사용자가 '뒤로 가기' 버튼(미도시)을 누르기 전에 실행하였던 명령을 차례대로 취소할 수 있다. 사용자가 상기 닫기 버튼(3212)을 선택한 경우 또는 취소할 이전 명령이 존재하지 않는 상태에서 사용자가 리모컨의 '뒤로 가기' 버튼을 누른 경우, 제어부(1530)는 미니 브라우저(3210)를 닫을 수 있다. 여기서, 제어부(1530)는 쿠키 데이터 또는 히스토리 데이터 등 미니 브라우저(3210)의 사용기록에 관계된 데이터를 남기지 않을 수 있다. The control unit 1530 may independently execute the mini browser 3210 from other applications. When the user presses the'back' button (not shown) on the remote control, the control unit 1530 may sequentially cancel the command executed before the user presses the'back' button (not shown). When the user selects the close button 3212 or when the user presses the'back' button of the remote control while there is no previous command to cancel, the controller 1530 may close the mini browser 3210. Here, the controller 1530 may not leave data related to usage records of the mini browser 3210 such as cookie data or history data.

제어부(1530)는 상기 미니 브라우저(3210)를 다른 어플리케이션에 종속되게 실행할 수 있다. 다른 어플리케이션의 UI를 미니 브라우저(3210)와 겹쳐서 디스플레이 하고 미니 브라우저(3210)에 대한 사용자의 선택 입력을 수신할 수 있는 경우, 제어부(1530)는 다른 어플리케이션의 UI를 축소시켜 디스플레이 할 수 있다. 사용자가 미니 브라우저(3210)를 활성화한 상태에서 리모컨의 '뒤로 가기' 버튼(미도시)을 누른 경우, 제어부(1530)는 사용자가 '뒤로 가기' 버튼(미도시)을 누르기 전에 실행하였던 명령을 차례대로 취소할 수 있다. 다른 어플리케이션이 종료된 경우, 사용자가 닫기 버튼(3212)을 선택한 경우, 취소할 이전 명령이 존재하지 않는 상태에서 사용자가 리모컨의 '뒤로 가기' 버튼을 누른 경우 또는 다른 어플리케이션의 UI를 선택한 경우, 제어부(1530)는 미니 브라우저(3210)를 종료할 수 있다. 미니 브라우저(3210)를 종료하는 경우, 제어부(1530)는 다른 어플리케이션의 UI를 크게 디스플레이 할 수 있다. The control unit 1530 may execute the mini browser 3210 depending on other applications. When the UI of the other application is overlaid and displayed on the mini browser 3210 and the user's selection input to the mini browser 3210 can be received, the controller 1530 may reduce the UI of the other application and display the UI. When the user presses the'back' button (not shown) of the remote control while the mini-browser 3210 is activated, the control unit 1530 executes the command executed before the user presses the'back' button (not shown). You can cancel in turn. When another application is closed, when the user selects the close button 3212, when the user presses the'back' button on the remote control while there is no previous command to cancel, or when the UI of another application is selected, the control unit 1530 may terminate the mini-browser 3210. When the mini browser 3210 is terminated, the control unit 1530 may display a UI of another application largely.

도 32의 우측을 참조하면, 미니 브라우저(3210)를 실행하는 경우, 제어부(1530)는 스크롤 인디케이터(3213), 프로그레스 바(3214), 상단 영역(3215), 웹 페이지 영역(3216)을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 상단 영역(3215)에 웹 브라우저 어플리케이션 이동 버튼(3211), 닫기 버튼(3212)을 디스플레이 할 수 있다. 제어부(1530)는 상기 상단 영역(3215)을 투명하게 디스플레이 할 수 있다. Referring to the right side of FIG. 32, when the mini-browser 3210 is executed, the control unit 1530 displays a scroll indicator 3213, a progress bar 3214, an upper area 3215, and a web page area 3216. can do. Here, the control unit 1530 may display the web browser application movement button 3211 and the close button 3212 in the upper region 3215. The controller 1530 may transparently display the upper region 3215.

미니 브라우저(3210)를 실행한 후 소정 시간이 경과한 경우, 제어부(1530)는 상기 웹 브라우저 어플리케이션 이동 버튼(3211) 및 닫기 버튼(3212)을 디스플레이 하지 않을 수 있다. 상기 웹 브라우저 어플리케이션 이동 버튼(3211) 및 닫기 버튼(3212)을 디스플레이 하지 않는 상태에서 사용자가 상단 영역에 리모컨 포인터(10)를 위치시킨 경우, 제어부(1530)는 상기 웹 브라우저 어플리케이션 이동 버튼(3211) 및 닫기 버튼(3212)을 다시 디스플레이 할 수 있다. 사용자가 리모컨 포인터(10)로 상단 영역을 드래그 앤드 드롭(drag and drop)한 경우, 제어부(1530)는 미니 브라우저(3210)의 위치를 변경할 수 있다. 여기서, 제어부(1530)는 미니 브라우저(3210)가 이동되는 동안 미니 브라우저(3210)를 반투명하게 디스플레이 할 수 있다. When a predetermined time has elapsed after executing the mini-browser 3210, the controller 1530 may not display the web browser application move button 3211 and close button 3212. When the user places the remote control pointer 10 in the upper area without displaying the web browser application move button 3211 and the close button 3212, the controller 1530 moves the web browser application button 3211. And the close button 3212 can be displayed again. When the user drags and drops the upper region with the remote control pointer 10, the controller 1530 may change the location of the mini browser 3210. Here, the controller 1530 may display the mini browser 3210 translucently while the mini browser 3210 is being moved.

사용자가 웹 브라우저 어플리케이션 이동 버튼(3211)을 선택한 경우, 제어부(1530)는 웹 브라우저 어플리케이션을 실행할 수 있다. 웹 브라우저 어플리케이션에 대한 사용자의 선택 입력을 수신할 수 있는 경우, 제어부(1530)는 인터넷 검색이 가능함을 알리는 메시지를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "go to internet"을 툴팁(tooltip) 스타일로 디스플레이 할 수 있다. 웹 브라우저 어플리케이션을 실행하는 경우, 제어부(1530)는 사용자가 미니 브라우저(3210)에서 탐색 중인 주소를 웹 브라우저 어플리케이션에 전달할 수 있다. 제어부(1530)는 디스플레이 디바이스(1500)를 사용하는 국가에 따라 웹 브라우저 어플리케이션 이동 버튼(3211)의 색깔을 다르게 디스플레이 할 수 있다. When the user selects the web browser application move button 3211, the controller 1530 may execute the web browser application. When the user's selection input for the web browser application can be received, the control unit 1530 may display a message indicating that Internet search is possible. For example, the controller 1530 may display “go to internet” in a tooltip style. When the web browser application is executed, the controller 1530 may transmit the address that the user is searching in the mini browser 3210 to the web browser application. The controller 1530 may display the color of the web browser application move button 3211 differently according to the country in which the display device 1500 is used.

사용자가 닫기 버튼(3212)을 선택한 경우, 제어부(1530)는 미니 브라우저(3210)를 종료할 수 있다. 제어부(1530)는 디스플레이 디바이스(1500)를 사용하는 국가에 따라 닫기 버튼(3212)의 색깔을 다르게 디스플레이 할 수 있다. When the user selects the close button 3212, the control unit 1530 may end the mini browser 3210. The controller 1530 may display the color of the close button 3212 differently according to the country in which the display device 1500 is used.

미니 브라우저(3210)의 웹 페이지 영역을 디스플레이 하는 경우, 제어부(1530)는 사용자가 리모컨을 통해 웹 페이지 영역 내의 내용을 탐색 가능하게 할 수 있다. 사용자가 리모컨 포인터(10)를 움직이는 경우, 제어부(1530)는 리모컨 포인터(10)가 미니 브라우저(3210)가 디스플레이 되는 영역 내에서만 움직이도록 할 수 있다. 리모컨 포인터(10)가 웹페이지 영역의 최상단에 도달한 경우, 제어부(1530)는 사용자가 웹 브라우저 어플리케이션 이동 버튼(3211) 또는 닫기 버튼(3212) 중 리모컨 포인터(10)에 가장 가까운 버튼을 사용자의 선택 입력을 수신 가능하게 할 수 있다. 여기서, 사용자가 리모컨의 아래 방향 키(미도시)를 누른 경우, 제어부(1530)는 웹 페이지 영역에 대한 사용자의 선택 입력을 수신 가능하게 할 수 있다. When displaying the web page area of the mini-browser 3210, the controller 1530 may enable a user to search the content in the web page area through the remote control. When the user moves the remote control pointer 10, the control unit 1530 may cause the remote control pointer 10 to move only within an area where the mini browser 3210 is displayed. When the remote control pointer 10 reaches the top of the webpage area, the control unit 1530 allows the user to select the button closest to the remote control pointer 10 among the web browser application move button 3211 or the close button 3212. It is possible to make a selection input available. Here, when the user presses the down key (not shown) of the remote control, the controller 1530 may enable a user's selection input to the web page area.

사용자가 웹 페이지를 스크롤 하는 경우, 제어부(1530)는 사용자가 웹 페이지를 상하로 이동하는 순간에만 스크롤 인디케이터(3213)를 디스플레이 할 수 있다. When the user scrolls the web page, the controller 1530 may display the scroll indicator 3213 only when the user moves the web page up and down.

웹 페이지 영역을 로딩하는 경우, 제어부(1530)는 웹 페이지 영역의 상단에 프로그레스 바(3214)를 디스플레이 할 수 있다. When loading the web page area, the controller 1530 may display the progress bar 3214 at the top of the web page area.

도 33은 본 발명의 일 실시 예에 따른, 디스플레이 디바이스(1500)에서 미니 브라우저를 디스플레이하는 것을 도시한 도면이다.33 is a diagram illustrating a display of a mini browser on the display device 1500 according to an embodiment of the present invention.

도 33(a)는 제어부가 음성 인식 결과 UI 및 미니 브라우저를 디스플레이하는 것을 도시한 도면이다. 도 33(b)는 사용자의 발화 이후, 디스플레이 디바이스(1500)에서 미니 브라우저(3340)를 바로 디스플레이 하는 것을 도시한 도면이다. 33(a) is a diagram illustrating that the control unit displays a UI and a mini browser as a result of speech recognition. FIG. 33(b) is a diagram illustrating that the mini browser 3340 is directly displayed on the display device 1500 after the user speaks.

도 33(a)의 좌측을 참조하면, 사용자의 발화 이후, 제어부(1530)는 음성 인식 결과 UI를 디스플레이 할 수 있다. 사용자가 음성 인식 결과 UI 화면 내의 웹 검색 아이콘(3311)을 선택한 경우, 제어부(1530)는 미니 브라우저(3340)를 디스플레이 할 수 있다. Referring to the left side of FIG. 33(a), after the user speaks, the controller 1530 may display the UI of the voice recognition result. When the user selects the web search icon 3311 in the UI screen as a result of speech recognition, the control unit 1530 may display the mini browser 3340.

도 33(a)의 우측을 참조하면, 사용자가 리모컨 상의 뒤로 가기 버튼(미도시)을 누른 경우, 닫기 버튼(3320)을 선택한 경우, 또는 검색 결과 카테고리(3330)을 선택한 경우, 제어부(1530)는 음성 인식 결과 UI 화면을 다시 디스플레이 할 수 있다. Referring to the right side of FIG. 33(a), when a user presses a back button (not shown) on the remote control, when a close button 3320 is selected, or when a search result category 3330 is selected, the control unit 1530 May display the UI screen again as a result of speech recognition.

도 33(b)의 좌측을 참조하면, 사용자가 발화하는 경우, 제어부(1530)는 텍스트 영역(3350)과 인디케이터(3360)를 포함하는 음성 입력 단계의 UI를 디스플레이 할 수 있다. 사용자의 발화에 관련된 정보가 음성 인식 UI를 제공하는 회사의 데이터 베이스에 존재하지 않는 경우, 제어부(1530)는 미니 브라우저(3340)를 바로 디스플레이 할 수 있다. 예를 들면, 사용자가 "무한도전 감독이 누구야?"라고 발화한 경우, 제어부(1530)는 해당 발화를 텍스트로 전환하여 미니 브라우저(3340)에 자동으로 입력할 수 있다. Referring to the left side of FIG. 33B, when the user speaks, the controller 1530 may display the UI of the voice input step including the text area 3350 and the indicator 3360. If the information related to the user's speech does not exist in the database of the company providing the speech recognition UI, the control unit 1530 may directly display the mini browser 3340. For example, when the user speaks, "Who is the director infinite challenge?", the controller 1530 may convert the utterance into text and automatically input the utterance into the mini browser 3340.

사용자가 지시대명사를 포함하는 발화를 한 경우, 제어부(1530)는 지시대명사를 인식하여 사용자의 발화를 처리할 수 있다. 예를 들면, 사용자가 "이 사람 누구야?", "이 감독 작품 뭐 있어?", 또는 "이 음악(OST) 뭐야?"라고 발화한 경우, 제어부(1530)는 현재 표시되고 있는 컨텐츠에 대한 정보에 기초하여 인물, 감독, 음악 등에 관한 정보를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자의 발화를 "유재석 누구야?", "무한도전 감독 작품 뭐있어?" 또는 "무한도전 음악 뭐야?" 등으로 지시대명사를 다른 단어로 변환하여 미니 브라우저(3340)에 자동으로 입력할 수 있다. When a user makes a utterance including an indication pronoun, the controller 1530 may recognize the indication pronoun and process the user's speech. For example, when the user utters "Who is this person?", "What is this director's work?", or "What is this music (OST)?", the controller 1530 displays information about the currently displayed content. Based on this, information about a person, a director, music, etc. can be displayed. Here, the control unit 1530 recounts the user's utterances, "Who's Yoo Jae-seok?" Or "What is infinite challenge music?" The pronoun may be converted into another word, and input automatically to the mini browser 3340.

디스플레이 디바이스(1500)가 인물의 얼굴을 디스플레이하고 있는 경우, 제어부(1530)는 현재 디스플레이 되고 있는 화면상의 인물의 안면을 인식할 수 있다. 여기서, 제어부(1530)는 매칭되는 인물의 이름을 미니 브라우저(3340)에 자동으로 입력할 수 있다. When the display device 1500 is displaying a person's face, the controller 1530 may recognize the face of the person on the currently displayed screen. Here, the control unit 1530 may automatically input the name of the person to be matched in the mini browser 3340.

제어부(1530)는 미니 브라우저(3340)가 실행되지 않는 경우에도 지시대명사를 인식하여 사용자의 발화를 처리할 수 있다. Even if the mini browser 3340 is not executed, the controller 1530 may recognize the command pronoun and process the user's speech.

사용자가 리모컨 상의 닫기 버튼(미도시)을 누르거나, 리모컨 포인터로 디스플레이 화면상의 닫기 버튼(3320)을 클릭한 경우, 제어부(1530)는 미니 브라우저(3340)를 종료할 수 있다. When the user presses the close button (not shown) on the remote control or clicks the close button 3320 on the display screen with the remote control pointer, the control unit 1530 can terminate the mini browser 3340.

도 33(a)를 참조하면, 사용자가 통합 검색 버튼(3312)을 선택한 경우, 제어부(1530)는 미니 브라우저(3340)를 디스플레이하고, 사용자의 발화 문장 전체를 검색어 전환하여 웹 검색할 수 있다. 예를 들면, 제어부(1530)는 사용자의 발화 문장 전체를 STT(Speech to Text) 기능을 사용하여 텍스트로 변환하고 브라우저의 검색창에 입력하여 검색할 수 있다. 사용자가 통합 검색 버튼(3312)를 선택할 수 있는 경우, 제어부(1530)는 통합 검색 버튼(3312)을 음성 인식 결과 UI 화면과 다르게 디스플레이 할 수 있다. Referring to FIG. 33(a), when the user selects the integrated search button 3312, the controller 1530 may display the mini browser 3340 and switch the entire user's utterance sentence to search the web. For example, the control unit 1530 may convert the entire spoken sentence of the user into text using the STT (Speech to Text) function and search by inputting it into a search box of a browser. When the user can select the integrated search button 3312, the control unit 1530 may display the integrated search button 3312 differently from the voice recognition result UI screen.

도 34는 본 발명의 일 실시 예에 따른, 디스플레이 디바이스(1500)에서 추천 쿼리를 디스플레이 하는 것을 도시한 도면이다. 34 is a diagram illustrating displaying a recommendation query on the display device 1500 according to an embodiment of the present invention.

도 19 및 도 34를 참조하면, 사용자의 발화 후, 음성 인식 결과 UI가 디스플레이 되는 경우, 제어부(1530)는 추천 쿼리(query)를 디스플레이 할 수 있다. 여기서, 쿼리(query)는 사용자가 데이터 베이스에서 정보를 검색하기 위해 문의할 수 있는 키워드 또는 문장 등을 말한다. 예를 들면, 제어부(1530)는 음성 인식 결과 UI 화면의 하단에 추천 쿼리 버튼(3410, 3420)을 디스플레이 할 수 있다. Referring to FIGS. 19 and 34, after a user's utterance, when a voice recognition result UI is displayed, the controller 1530 may display a recommendation query. Here, a query is a keyword or sentence that a user can inquire to search for information in a database. For example, the controller 1530 may display the recommendation query buttons 3410 and 3420 at the bottom of the voice recognition result UI screen.

제어부(1530)는 사용자의 발화에 따른 검색 결과 중 첫 번째 컨텐츠와 관련된 키워드를 추천 쿼리로 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 첫번째 컨텐츠와 관련된 장르, 등장인물 배우명, 또는 컨텐츠 정보를 추천 쿼리 버튼(3410)으로 디스플레이 할 수 있다. 상기 장르는 오락/연예, 드라마, 예능 등이 될 수 있고, 상기 컨텐츠 정보는 줄거리, 등장인물, OST 등이 될 수 있다. 제어부(1530)는 상기 추천 쿼리 버튼(3410)을 3개까지 디스플레이 할 수 있다. The controller 1530 may display a keyword related to the first content among search results according to the user's speech as a recommendation query. For example, the control unit 1530 may display a genre related to the first content, an actor's name, or content information with the recommendation query button 3410. The genre may be entertainment/entertainment, drama, entertainment, etc., and the content information may be a story line, a character, OST, and the like. The controller 1530 can display up to three of the recommended query buttons 3410.

제어부(1530)는 현재 상태에서 이어서 발화할 수 있는 예시 문장을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 컨텐츠의 장르, 등장인물, 감독에 관련된 예시 문장을 디스플레이 할 수 있다. 상기 예시 문장은 지시대명사를 포함할 수 있다. 예를 들면, 제어부(1530)는 "로맨스 말고 액션영화", "같은 장르 프로그램 보여줘", "이거랑 비슷한 프로그램 찾아줘", "이 중에 정우성 나오는 것만", "이 중에 봉준호 것만", "이 사람 작품 보여줘" 등을 추천 쿼리 버튼(3420)로 디스플레이 할 수 있다. 추천 쿼리를 디스플레이 하는 경우, 제어부(1530)는 추천 쿼리 버튼(3420)을 1개까지 디스플레이 할 수 있다. The controller 1530 may display an example sentence that can be uttered subsequently in the current state. Here, the controller 1530 may display example sentences related to the genre of the content, characters, and the director. The example sentence may include an indication pronoun. For example, the control unit 1530 includes "not a romance, an action movie", "show the same genre program", "find a program similar to this", "of which only Jung Woo-sung comes out", "of which only Bong Joon-ho", "this person Show me work" can be displayed using the recommended query button 3420. When displaying the recommendation query, the controller 1530 may display up to one recommendation query button 3420.

음성 인식 결과 UI를 디스플레이 하는 경우, 제어부(1530)는 첫 번째 결과 카테고리(3430) 및 장르에 따라 추천 쿼리를 디스플레이 할 수 있다. 사용자가 다른 결과 카테고리(3430)를 선택한 경우, 제어부(1530)는 기존에 디스플레이된 추천 쿼리를 유지할 수 있다. 사용자가 추천 쿼리를 발화하거나 리모컨 포인터(10)로 클릭한 경우, 제어부(1530)는 해당 추천 쿼리를 선택할 수 있다. 키워드가 포함된 추천 쿼리 버튼(3410)를 선택한 경우, 제어부(1530)는 해당 키워드에 대한 검색을 실행할 수 있다. 특정 예시 문장이 포함된 추천 쿼리 버튼(3420)을 선택한 경우, 제어부(1530)는 해당 예시 문장을 사용자가 발화한 것으로 처리할 수 있다. 추천 쿼리의 길이가 긴 경우, 제어부(1530)는 전체 텍스트 내용이 디스플레이 되도록 추천 쿼리 버튼(3420)의 가로 길이를 길게 디스플레이 할 수 있다. 이 경우, 제어부(1530)는 길게 디스플레이 되는 버튼의 우측에 표시되는 추천 쿼리 버튼을 디스플레이 하지 않을 수 있다. When displaying the voice recognition result UI, the controller 1530 may display a recommendation query according to the first result category 3430 and genre. When the user selects a different result category 3430, the control unit 1530 may maintain the previously displayed recommendation query. When the user utters the recommendation query or clicks with the remote control pointer 10, the controller 1530 may select the corresponding recommendation query. When the recommendation query button 3410 including a keyword is selected, the controller 1530 may execute a search for the keyword. When the recommendation query button 3420 including a specific example sentence is selected, the controller 1530 may process the example sentence as a user's utterance. When the length of the recommendation query is long, the controller 1530 may display the horizontal length of the recommendation query button 3420 so that the entire text content is displayed. In this case, the controller 1530 may not display the recommendation query button displayed on the right side of the long-displayed button.

추천 쿼리 버튼(3410)에 표시된 키워드와 현재 검색된 컨텐츠(3440)의 제목이 같고, 사용자가 추천 쿼리 버튼(3410) 선택한 경우, 제어부(1530)는 해당 키워드에 대한 새로운 검색을 실행한다. 추천 쿼리 버튼(3410)에 표시된 키워드와 현재 검색된 컨텐츠(3440)의 제목이 같고, 사용자가 해당 키워드 또는 컨텐츠의 제목을 발화한 경우, 제어부(1530)는 현재 검색된 컨텐츠(3440)에 대응되는 후속 동작을 수행한다. When the keyword displayed on the recommendation query button 3410 has the same title as the currently searched content 3440, and the user selects the recommendation query button 3410, the control unit 1530 performs a new search for the keyword. When the keyword displayed on the recommendation query button 3410 has the same title as the currently searched content 3440, and the user utters the keyword or the title of the content, the controller 1530 performs a subsequent operation corresponding to the currently searched content 3440 To perform.

도 35는 본 발명의 일 실시 예에 따른, 사용자가 컨텐츠 프로바이더의 이름을 포함하는 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다. 35 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user makes a utterance including the name of a content provider according to an embodiment of the present invention.

도 35(a)는 현재 컨텐츠 프로바이더의 어플리케이션이 실행 중인 경우를 도시한 도면이다. 도 35(b)는 현재 컨텐츠 프로바이더의 어플리케이션이 실행되고 있지 않는 경우를 도시한 도면이다. 35(a) is a diagram illustrating a case where an application of a content provider is currently being executed. Fig. 35(b) is a diagram showing a case where an application of a content provider is not currently being executed.

도 35(a)를 참조하면, 현재 컨텐츠 프로바이더의 어플리케이션이 실행 중이고, 사용자가 해당 컨텐츠 프로바이더의 이름이 포함된 발화를 한 경우, 제어부(1530)는 해당 컨텐츠 프로바이더의 어플리케이션 내에서 사용자의 발화에 관련된 검색을 실행할 수 있다. 도 35(a)의 좌측을 참조하면, 제어부(1530)는 해당 컨텐츠 프로바이더의 이름을 텍스트 영역(3510)에 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "Youtube에서 아이언 맨 찾아줘."를 디스플레이 할 수 있다. 도 35(a)의 우측을 참조하면, 제어부(1530)는 해당 컨텐츠 어플리케이션 내에서 사용자가 발화한 키워드와 관련된 컨텐츠가 발견되었음을 알리는 텍스트 메시지(3520)를 디스플레이할 수 있다. 예를 들어, 제어부(1530)는 "아이언 맨에 대한 영상을 찾았습니다."를 디스플레이 할 수 있다. Referring to FIG. 35(a), when an application of a content provider is currently running, and when a user makes a utterance including the name of the content provider, the controller 1530 displays the user's content within the application of the content provider. You can perform searches related to utterances. Referring to the left side of FIG. 35(a), the controller 1530 may display the name of the corresponding content provider in the text area 3510. For example, the controller 1530 may display "Find the iron man on Youtube." Referring to the right side of FIG. 35(a), the controller 1530 may display a text message 3520 indicating that content related to a keyword spoken by a user has been found in the corresponding content application. For example, the control unit 1530 may display "found an image for the iron man."

도 35(b) 및 도 19를 참조하면, 현재 컨텐츠 프로바이더의 어플리케이션이 실행되지 않은 상태이고, 사용자가 해당 컨텐츠 프로바이더의 이름이 포함된 발화를 한 경우, 제어부(1530)는 음성 인식 결과 UI를 디스플레이 할 수 있다. 도 35(b)의 좌측을 참조하면, 제어부(1530)는 해당 컨텐츠 프로바이더의 이름을 텍스트 영역(3510)에 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "Youtube에서 아이언 맨 찾아줘."를 텍스트 영역(3510)에 디스플레이 할 수 있다. 도 35(b)의 우측을 참조하면, 제어부(1530)는 해당 어플리케이션과 관련된 결과 카테고리를 첫 번째 결과 카테고리(3550)로 디스플레이 할 수 있다. Referring to FIGS. 35(b) and 19, when the application of the content provider is not currently executed, and when the user makes a utterance including the name of the content provider, the control unit 1530 displays the voice recognition result UI Can be displayed. Referring to the left side of FIG. 35(b), the controller 1530 may display the name of the corresponding content provider in the text area 3510. For example, the controller 1530 may display “Find Iron Man on Youtube” in the text area 3510. Referring to the right side of FIG. 35(b), the controller 1530 may display a result category related to the corresponding application as the first result category 3550.

도 36은 본 발명의 일 실시 예에 따른, 컨텐츠 프로바이더의 어플리케이션 실행 중, 사용자가 특정 키워드를 포함하는 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다. FIG. 36 is a diagram illustrating that a display device 1500 displays a voice recognition result UI when a user makes a utterance including a specific keyword while an application of a content provider is executed according to an embodiment of the present invention. .

도 36(a)는 실행 중인 컨텐츠 프로바이더의 어플리케이션에서 검색 결과가 있는 경우를 도시한 도면이다. 도 36(b)는 실행 중인 컨텐츠 프로바이더의 어플리케이션에서 검색 결과가 없는 경우를 도시한 도면이다. FIG. 36(a) is a diagram illustrating a case in which there is a search result in an application of a running content provider. FIG. 36(b) is a diagram illustrating a case where there is no search result in an application of a running content provider.

도 36(a) 및 도 36(b)를 참조하면, 컨텐츠 프로바이더의 어플리케이션 실행 중, 사용자가 특정 키워드를 포함하는 발화를 한 경우, 제어부(1530)는 음성 인식 결과 UI를 디스플레이 할 수 있다. Referring to FIGS. 36(a) and 36(b), when a user makes a utterance including a specific keyword while an application of a content provider is running, the controller 1530 may display a UI of a result of speech recognition.

도 36(a)를 참조하면, 실행 중인 컨텐츠 프로바이더의 어플리케이션에서 해당 키워드와 관련된 컨텐츠가 검색된 경우, 제어부(1530)는 해당 컨텐츠 프로바이더의 검색 결과를 첫 번째 검색 결과 카테고리(3610)로 디스플레이 할 수 있다. Referring to FIG. 36(a), when content related to a corresponding keyword is searched in an application of a running content provider, the controller 1530 displays the search result of the corresponding content provider as the first search result category 3610. Can.

도 36(b)를 참조하면, 실행 중인 컨텐츠 프로바이더의 어플리케이션에서 해당 키워드와 관련된 컨텐츠가 검색되지 않은 경우, 제어부(1530)는 해당 컨텐츠 프로바이더를 제외한 다른 검색 결과 카테고리를 첫 번째 검색 결과 카테고리(3620)로 디스플레이 할 수 있다. 단, 제어부(1530)는 Youtbe에서 해당 키워드와 관련된 컨텐츠가 검색되지 않아도 Youtube의 검색 결과 카테고리를 첫 번째 검색 결과 카테고리(3620)로 디스플레이 할 수 있다. Referring to FIG. 36(b), when content related to a corresponding keyword is not searched in an application of a running content provider, the controller 1530 sets a search result category other than the content provider as the first search result category ( 3620). However, the control unit 1530 may display the search result category of Youtube as the first search result category 3620 even if the content related to the keyword is not searched in Youtbe.

도 37은 본 발명의 일 실시 예에 따른, 사용자가 볼륨 제어와 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 볼륨 인디케이터를 디스플레이 하는 것을 도시한 도면이다. FIG. 37 is a diagram for displaying a volume indicator on the display device 1500 when a user makes a speech related to volume control according to an embodiment of the present invention.

도 37의 좌측을 참조하면, 사용자가 디스플레이 디바이스(1500)의 볼륨 제어와 관련된 발화를 하는 경우, 제어부(1530)는 텍스트 영역(3711) 및 인디케이터(3712)를 디스플레이 할 수 있다. Referring to the left side of FIG. 37, when a user makes a speech related to volume control of the display device 1500, the control unit 1530 may display a text area 3711 and an indicator 3712.

도 37의 우측을 참조하면, 사용자의 발화를 인식한 경우, 제어부(1530)는 볼륨 제어를 위한 인디케이터(3720)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 조절된 볼륨의 크기를 나타내는 막대 및 스피커(1550)모양의 아이콘을 포함하는 볼륨 인디케이터(3720)를 디스플레이 할 수 있다. 사용자의 발화에 따라 볼륨을 제어하는 경우, 제어부(1530)는 별도의 응답 문구 없이 볼륨을 제어할 수 있다. Referring to the right side of FIG. 37, when a user's speech is recognized, the controller 1530 may display an indicator 3720 for controlling volume. For example, the control unit 1530 may display a volume indicator 3720 including an icon in the shape of a bar and a speaker 1550 indicating the size of the adjusted volume. When controlling the volume according to the user's speech, the controller 1530 may control the volume without a separate response phrase.

도 38은 본 발명의 일 실시 예에 따른, 사용자가 화면 전환과 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 안내 문구를 디스플레이 하는 것을 도시한 도면이다. 38 is a diagram for displaying a guide phrase on the display device 1500 when a user makes a speech related to a screen change according to an embodiment of the present invention.

도 38(a)는 사용자가 화면 전환과 관련된 발화를 하는 경우를 도시한 도면이다. 도 38(b)는 디스플레이 디바이스(1500)에서 화면 전환에 대한 안내 문구를 디스플레이하는 것을 도시한 도면이다. 도 38(c)는 디스플레이 디바이스(1500)에서 사용자의 발화에 따라 전환된 화면을 디스플레이하는 것을 도시한 도면이다. 38(a) is a diagram illustrating a case where a user makes a speech related to a screen change. 38(b) is a diagram illustrating that the display device 1500 displays a guide phrase for screen switching. 38(c) is a diagram illustrating that the display device 1500 displays a screen switched according to a user's utterance.

도 38(a)를 참조하면, 사용자가 화면 전환에 관련된 발화를 한 경우, 제어부(1530)는 텍스트 영역(3811) 및 인디케이터(3812)를 디스플레이 할 수 있다. 상기 화면 전환은 다른 채널 화면으로 전환 또는 외부 입력 화면으로 전환을 포함할 수 있다. 예를 들면, 제어부(1530)는 물결 모양의 인디케이터(3812)와 함께 "HDMI1 틀어줘"를 디스플레이 할 수 있다. Referring to FIG. 38(a), when a user makes a speech related to a screen change, the control unit 1530 may display a text area 3801 and an indicator 3812. The screen switching may include switching to another channel screen or switching to an external input screen. For example, the controller 1530 may display “Turn on HDMI1” with the wavy indicator 3812.

도 38(b)를 참조하면, 사용자의 발화가 처리된 경우, 제어부(1530)는 화면 전환에 대한 안내 문구(3820)를 디스플레이 할 수 있다. 예를 들어, 제어부(1530)는 "HDMI1으로 입력이 전환됩니다."를 안내 문구(3820)로 디스플레이 할 수 있다. Referring to FIG. 38(b), when a user's speech is processed, the control unit 1530 may display a guide phrase 3820 for screen switching. For example, the control unit 1530 may display “Input is switched to HDMI1” as a guide phrase 3820.

도 38(c)를 참조하면, 사용자의 발화가 처리된 경우, 제어부(1530)는 사용자의 발화에 따른 입력 화면 또는 채널 화면을 디스플레이 할 수 있다. 사용자의 발화에 따른 입력 화면 또는 채널 화면으로 전환된 경우, 제어부(1530)는 해당 입력 또는 채널에 관련된 정보(3830)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 해당 입력에 대한 정보(3830)를 디스플레이 좌측 상단에 텍스트로 디스플레이 할 수 있다. Referring to FIG. 38(c), when a user's speech is processed, the controller 1530 may display an input screen or a channel screen according to the user's speech. When switching to an input screen or a channel screen according to a user's utterance, the controller 1530 may display information 3830 related to the corresponding input or channel. For example, the controller 1530 may display information 3830 for the corresponding input as text on the upper left of the display.

도 39는 본 발명의 일 실시 예에 따른, 사용자의 발화에 대한 확인이 필요한 경우, 디스플레이 디바이스(1500)에서 팝업 창을 디스플레이 하는 것을 도시한 도면이다. 39 is a diagram illustrating that a display device 1500 displays a pop-up window when confirmation of a user's utterance is required according to an embodiment of the present invention.

도 39의 좌측을 참고하면, 사용자가 발화를 하는 경우, 제어부(1530)는 텍스트 영역(3911) 및 인디케이터(3912)를 디스플레이 할 수 있다. Referring to the left side of FIG. 39, when a user speaks, the controller 1530 may display a text area 3911 and an indicator 3912.

도 39의 우측을 참고하면, 사용자가 사용자의 확인이 필요한 발화를 하는 경우, 제어부(1530)는 사용자의 발화에 따른 제어를 실행하기 전에 사용자의 의사를 묻는 창(3920)을 디스플레이 할 수 있다. 사용자가 기설정된 크기 이상 또는 이하로 볼륨을 조절할 것을 요구하는 발화를 한 경우, 제어부(1530)는 사용자의 의사를 물어보는 창(3920)을 팝업(popup) 스타일로 디스플레이 할 수 있다. 예를 들면, 사용자가 "볼륨 50"이라고 발화한 경우, 제어부(1530)는 사용자에게 설정하고자 하는 볼륨의 크기가 너무 높다는 것을 알리고, 해당 볼륨 크기로 볼륨을 조절할 것인지 물어보는 팝업 창(3920)을 디스플레이 할 수 있다. 사용자가 "아니오"를 선택한 경우, 제어부(1530)는 해당 팝업 창(3920)을 닫을 수 있다. 사용자가 "예"를 선택한 경우, 제어부(1530)는 해당 동작을 실행한다.Referring to the right side of FIG. 39, when a user makes a speech that requires the user's confirmation, the control unit 1530 may display a window 3920 asking the user's intention before executing control according to the user's speech. When the user makes a speech requesting the volume to be adjusted to be greater or less than a predetermined size, the controller 1530 may display a window 3920 asking the user's intention in a popup style. For example, when the user utters "Volume 50", the control unit 1530 informs the user that the size of the volume to be set is too high, and displays a pop-up window 3920 that asks whether to adjust the volume to the volume size. Can be displayed. When the user selects "No", the control unit 1530 may close the corresponding pop-up window 3920. If the user selects "Yes", the control unit 1530 executes the corresponding operation.

도 40는 본 발명의 일 실시 예에 따른, 사용자가 특정 채널로 이동할 것을 발화한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI을 디스플레이 하는 것을 도시한 도면이다. FIG. 40 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user speaks to move to a specific channel according to an embodiment of the present invention.

도 40의 좌측을 참조하면, 사용자가 화면 전환이 필요한 발화를 한 경우, 제어부(1530)는 텍스트 영역(4011) 및 인디케이터(4012)를 디스플레이 할 수 있다. Referring to the left side of FIG. 40, when a user makes a speech that requires a screen change, the controller 1530 may display the text area 4011 and the indicator 4012.

도 40의 우측을 참조하면, 사용자가 화면 전환이 필요하고, 전환 가능한 화면이 2개 이상인 경우, 제어부(1530)는 전환 가능한 화면(4020)들을 리스트로 디스플레이 할 수 있다. 여기서, 제어부(1530)는 전환 가능한 화면들을 우선 순위에 따라 썸네일(4020)로 디스플레이 할 수 있다. 예를 들면, 사용자가 "엠비씨 틀어줘"를 발화한 경우, 제어부(1530)는 복수의 MBC 채널을 썸네일(4020) 리스트로 디스플레이 할 수 있다. 사용자가 특정 썸네일(4020)을 선택한 경우, 제어부(1530)는 해당 채널의 화면을 디스플레이 할 수 있다. Referring to the right side of FIG. 40, when a user needs to switch screens and there are two or more switchable screens, the controller 1530 may display the switchable screens 4020 as a list. Here, the control unit 1530 may display the switchable screens as a thumbnail 4020 according to priority. For example, when the user utters "Play MBC", the controller 1530 may display a plurality of MBC channels as a thumbnail 4020 list. When the user selects a specific thumbnail 4020, the controller 1530 can display a screen of the corresponding channel.

도 41은 본 발명의 일 실시 예에 따른, 사용자가 검색을 원하는 키워드를 발화한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이하는 것을 도시한 도면이다. FIG. 41 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user utters a keyword desired to be searched according to an embodiment of the present invention.

도 41(a)는 사용자가 검색을 위한 키워드를 발화하는 경우를 도시한 도면이다. 도 41(b)는 사용자의 발화에 따른 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다. 도 41(c)는 음성 인식 결과 UI에서 통합 검색 버튼(4130)을 선택한 경우를 도시한 도면이다. 41(a) is a diagram illustrating a case where a user utters a keyword for searching. FIG. 41(b) is a diagram illustrating displaying a UI of a result of speech recognition according to a user's speech. 41(c) is a diagram illustrating a case in which the integrated search button 4130 is selected in the voice recognition result UI.

도 41(a)를 참조하면, 사용자가 검색을 위한 키워드를 발화하는 경우, 제어부(1530)는 사용자의 발화 내용을 텍스트로 표시하는 텍스트 영역(4111) 및 발화 상태를 알리는 인디케이터(4112)를 디스플레이 할 수 있다. Referring to FIG. 41(a), when a user utters a keyword for searching, the control unit 1530 displays a text area 4111 displaying text of the user's speech as text and an indicator 4112 indicating the utterance state can do.

도 41(b)를 참조하면, 사용자의 발화를 수신한 경우, 제어부(1530)는 음성 인식 결과 UI를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자의 발화에 따른 검색 결과를 썸네일 리스트(4120)로 제공할 수 있다. 또한, 제어부(1530)는 썸네일 리스트(4120)와 함께 통합 검색 버튼(4130)을 추가로 디스플레이 할 수 있다. Referring to FIG. 41( b), when a user's utterance is received, the controller 1530 may display the UI of the voice recognition result. Here, the controller 1530 may provide a search result according to the user's utterance as a thumbnail list 4120. Also, the control unit 1530 may additionally display the integrated search button 4130 together with the thumbnail list 4120.

도 41(c)를 참조하면, 사용자가 통합 검색 버튼(4130)을 선택한 경우, 제어부(1530)는 통합 검색 결과 화면을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 통합 검색 결과 화면에 검색창(4140)과 사용자의 검색어와 관련된 컨텐츠의 썸네일 리스트(4150)를 디스플레이 할 수 있다. 제어부(1530)는 사용자의 검색어가 검색창(4140)에 입력된 통합 검색 결과 화면을 디스플레이 할 수 있다. Referring to FIG. 41(c), when the user selects the integrated search button 4130, the controller 1530 may display the integrated search result screen. Here, the control unit 1530 may display a search window 4140 and a thumbnail list 4150 of content related to a user's search word on the integrated search result screen. The controller 1530 may display an integrated search result screen in which the user's search word is input into the search window 4140.

도 41(a) 내지 도 41(c)를 참조하여 설명하면, 사용자가 검색을 원하는 특정 어플리케이션을 지정하여 발화하는 경우, 제어부(1530)는 해당 어플리케이션 내에서 검색 결과를 음성 인식 결과 UI에 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자가 발화한 특정 어플리케이션에 대한 결과 카테고리만 디스플레이 할 수 있다. 예를 들면, 상기 특정 어플리케이션은 Youtube 또는 VOD를 제공하는 컨텐츠 프로바이더의 어플리케이션이 될 수 있다. 41(a) to 41(c), when a user designates and utters a specific application desired to be searched, the control unit 1530 displays the search result in the voice recognition result UI in the corresponding application. Can. Here, the controller 1530 may display only the result category for a specific application spoken by the user. For example, the specific application may be an application of a content provider that provides Youtube or VOD.

도 42는 본 발명의 일 실시 예에 따른, 사용자가 컨텐츠 추천을 요청하는 발화를 한 경우, 디스플레이 디바이스(1500)에서 음성 인식 결과 UI를 디스플레이 하는 것을 도시한 도면이다. FIG. 42 is a diagram illustrating a display device 1500 displaying a voice recognition result UI when a user makes a speech requesting content recommendation according to an embodiment of the present invention.

도 42의 좌측을 참조하면, 사용자가 컨텐츠 추천을 요청하는 발화를 한 경우, 제어부는 텍스트 영역(4211) 및 인디케이터(4212)를 디스플레이 할 수 있다. 예를 들면, 컨텐츠 추천을 요청하는 사용자의 발화는 "재미있는 것 틀어줘" 또는 "나 심심해" 등이 될 수 있다. Referring to the left side of FIG. 42, when a user makes a speech requesting content recommendation, the controller may display a text area 4211 and an indicator 4212. For example, the user's utterance requesting a content recommendation may be "turn on something interesting" or "I'm bored".

도 42의 우측을 참조하면, 사용자의 발화를 처리한 경우, 제어부(1530)는 추천 결과 화면을 디스플레이 할 수 있다. 제어부(1530)는 추천 결과 화면에 추천 컨텐츠의 리스트(4220)를 디스플레이 할 수 있다. 여기서, 추천 컨텐츠는 컨텐츠 프로바이더의 서버 또는 UI를 제공하는 회사의 서버가 제공하는 컨텐츠가 될 수 있다. 제어부(1530)는 추천 결과 화면에서 통합 검색 버튼(4230)을 디스플레이 하지 않을 수 있다. Referring to the right side of FIG. 42, when a user's utterance is processed, the controller 1530 may display a recommendation result screen. The controller 1530 may display a list 4220 of recommended contents on the recommendation result screen. Here, the recommended content may be content provided by a server of a content provider or a server of a company providing a UI. The controller 1530 may not display the integrated search button 4230 on the recommendation result screen.

도 43는 본 발명의 일 실시 예에 따른, 사용자가 화면 밝기에 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에서 컨트롤 바를 디스플레이 하는 것을 도시한 도면이다. FIG. 43 is a diagram for displaying a control bar on the display device 1500 when a user makes a speech related to screen brightness according to an embodiment of the present invention.

도 43(a)는 화면 밝기를 조정할 수 있는 경우를 도시한 도면이다. 도 43(b)는 화면 밝기를 조정할 수 없는 경우를 도시한 도면이다. Fig. 43(a) is a diagram showing a case where the screen brightness can be adjusted. Fig. 43(b) is a diagram showing a case where the screen brightness cannot be adjusted.

도 43(a) 및 도 43(b)를 참조하면, 사용자가 화면 밝기에 관련된 발화를 하는 경우, 제어부(1530)는 텍스트 영역(4311) 및 인디케이터(4312)를 디스플레이 할 수 있다. 예를 들면, 사용자가 "화면 밝게 해줘." 또는 "화면 어둡게 해줘."라고 발화하는 경우, 제어부(1530)는 사용자의 발화 내용을 텍스트(4311)로 디스플레이하고, 발화 상태를 알 수 있는 인디케이터(4312)를 디스플레이 할 수 있다. Referring to FIGS. 43A and 43B, when the user makes a speech related to screen brightness, the controller 1530 may display the text area 4311 and the indicator 4312. For example, the user says, "Please make the screen brighter." Alternatively, in the case of uttering "Please make the screen dark.", the controller 1530 may display the user's utterance as text 4311, and display an indicator 4312 indicating the utterance state.

도 43(a)를 참조하면, 현재 화면 밝기를 조정할 수 있는 경우, 제어부(1530)는 화면 밝기를 조절하고, 현재 화면 밝기 상태를 나타내는 컨트롤 바(4320)를 디스플레이 할 수 있다. 제어부는 컨트롤 바(4320)와 함께 변경된 화면 밝기의 정도를 나타내는 안내 문구(4321)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 화면의 밝기를 기 설정된 범위 내에서 변경할 수 있다. 예를 들면, 제어부(1530)는 현재 값 대비 ±10 단위로 화면 밝기를 변경할 수 있다. 변경된 밝기 값이 최대값 또는 최소값에 근접하는 경우, 제어부(1530)는 안내 문구(4321)를 디스플레이 할 수 있다. 예를 들어, 제어부(1530)는 "이미 가장 밝은 단계입니다." 또는 "이미 가장 어두운 단계입니다."를 텍스트로 디스플레이 할 수 있다. Referring to FIG. 43A, when the current screen brightness can be adjusted, the controller 1530 may adjust the screen brightness and display a control bar 4320 indicating the current screen brightness state. The control unit may display a guide phrase 4321 indicating the degree of screen brightness changed along with the control bar 4320. Here, the control unit 1530 may change the brightness of the screen within a preset range. For example, the controller 1530 may change the screen brightness in ±10 units of the current value. When the changed brightness value approaches the maximum value or the minimum value, the control unit 1530 may display the guide phrase 4321. For example, the control unit 1530 "is already the brightest step." Or you can display the text "It's already the darkest step."

도 43(b)를 참조하면, 현재 화면 밝기를 조정할 수 없는 경우, 제어부(1530)는 현재 화면 밝기를 조정할 수 없음을 나타내는 안내 문구(4330)를 디스플레이할 수 있다. 예를 들면, 디스플레이 디바이스(1500)가 에너지 절약 모드로 설정된 경우, 제어부(1530)는 "에너지 절약 설정이 켜진 상태에서는 스크린의 밝기를 조절할 수 없습니다."를 안내 문구(4330)로 디스플레이 할 수 있다. Referring to FIG. 43( b), if the current screen brightness cannot be adjusted, the control unit 1530 may display a guide phrase 4330 indicating that the current screen brightness cannot be adjusted. For example, when the display device 1500 is set to the energy saving mode, the control unit 1530 may display "The brightness of the screen cannot be adjusted while the energy saving setting is turned on." .

도 44는 본 발명의 일 실시 예에 따른, 사용자가 화질에 관련된 발화를 한 경우, 디스플레이 디바이스(1500)에 안내 문구를 디스플레이 하는 것을 도시한 도면이다. 44 is a diagram for displaying a guide phrase on the display device 1500 when a user makes a speech related to image quality according to an embodiment of the present invention.

도 44(a)는 사용자가 화질에 관련된 발화를 한 경우를 도시한 도면이다. 도 44(b)는 안내 문구(4420)를 디스플레이 하는 것을 도시한 도면이다. 도 44(c)는 화질 설정 UI(4431)를 디스플레이 하는 것을 도시한 도면이다. 44(a) is a diagram illustrating a case in which a user makes a speech related to image quality. FIG. 44(b) is a diagram illustrating display of a guide phrase 4420. FIG. 44(c) is a diagram illustrating the display of a quality setting UI 4431.

도 44(a)를 참조하면, 사용자가 화질에 관련된 발화를 한 경우, 제어부(1530)는 텍스트 영역(4411) 및 인디케이터(4412)를 디스플레이 할 수 있다. 예를 들어, 사용자가 "화질 선명하게해줘." 또는 "표준 영상으로 설정해줘."라고 발화한 경우, 제어부(1530)는 사용자의 발화 내용을 텍스트(4411)로 디스플레이하고, 사용자의 발화 상태를 알 수 있는 물결 모양의 인디케이터(4412)를 디스플레이 할 수 있다. Referring to FIG. 44(a), when a user makes a speech related to image quality, the controller 1530 may display the text area 4411 and the indicator 4412. For example, the user says, "Please sharpen the picture quality." Or, if the utterance "Set as a standard video.", the controller 1530 displays the user's utterance as text 4411, and displays a wavy indicator 4412 indicating the user's utterance status. Can.

도 44(b)를 참조하면, 사용자의 발화가 처리된 경우, 제어부(1530)는 사용자의 발화에 관련된 영상 모드 값으로 설정을 변경하고, 영상 모드 값이 변경되었음을 안내하는 안내 문구(4420)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "선명 모드로 영상 모드가 변경되었습니다."라는 안내 문구(4420)를 디스플레이 할 수 있다. Referring to FIG. 44(b), when a user's speech is processed, the control unit 1530 changes a setting to a video mode value related to the user's speech, and displays a guide phrase 4420 for guiding that the video mode value has been changed. Can be displayed. For example, the control unit 1530 may display the guide phrase 4420 "The video mode has been changed to a clear mode."

도 44(c)를 참조하면, 안내 문구(4420)를 디스플레이 한 후, 제어부(1530)는 디스플레이 디바이스(1500)의 설정 UI(4430)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 디스플레이 디바이스(1500)의 설정 UI(4430) 중 화질 설정에 대한 탭(4431)을 선택한 상태의 화면을 디스플레이 할 수 있다. Referring to FIG. 44(c), after displaying the guide phrase 4420, the controller 1530 may display the setting UI 4430 of the display device 1500. For example, the controller 1530 may display a screen in a state in which a tab 4431 for image quality setting is selected among the setting UI 4430 of the display device 1500.

도 45는 본 발명의 일 실시 예에 따른, 사용자가 영상 및 음향에 모두 관련된 발화를 하는 경우, 디스플레이 디바이스(1500)에서 안내 문구를 디스플레이 하는 것을 도시한 도면이다. 45 is a diagram for displaying a guide phrase on the display device 1500 when a user makes a speech related to both video and sound according to an embodiment of the present invention.

도 45의 좌측을 참조하면, 사용자가 영상 및 음향에 모두 관련된 발화를 하는 경우, 제어부(1530)는 텍스트 영역(4511) 및 인디케이터(4512)를 디스플레이 할 수 있다. 예를 들어, 사용자가 "스포츠 모드 세팅"이라고 발화하는 경우, 제어부(1530)는 사용자의 발화 내용을 표시하는 텍스트(4511) 및 사용자의 발화 상태를 알려주는 인디케이터(4512)를 함께 디스플레이 할 수 있다. Referring to the left side of FIG. 45, when the user makes a speech related to both video and sound, the controller 1530 may display the text area 4511 and the indicator 4512. For example, when the user speaks "Sport mode setting", the controller 1530 may display the text 4511 indicating the content of the user's speech and an indicator 4512 indicating the user's speech status. .

도 45의 우측을 참조하면, 사용자의 발화가 처리된 경우, 제어부(1530)는 사용자의 발화와 관련된 영상 모드 및 음향 모드의 설정을 변경하고, 안내 문구(4520)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "화질 및 영상이 스포츠 모드로 변경됩니다."를 안내 문구(4520)로 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자의 발화와 관련된 디스플레이 디바이스(1500)의 설정 UI를 디스플레이 하지 않을 수 있다. Referring to the right side of FIG. 45, when a user's utterance is processed, the controller 1530 may change the settings of the video mode and sound mode related to the user's utterance, and display the guidance phrase 4520. For example, the control unit 1530 may display “image quality and video are changed to a sports mode” as a guide phrase 4520. Here, the controller 1530 may not display the setting UI of the display device 1500 related to the user's utterance.

도 46은 본 발명의 일 실시 예에 따른, 사용자가 모바일 기기 연결을 요청하는 발화를 한 경우, 디스플레이 디바이스(1500)에서 모바일 기기를 연결하는 것을 도시한 도면이다. 46 is a diagram for connecting a mobile device in the display device 1500 when a user makes a call requesting a mobile device connection according to an embodiment of the present invention.

도 46(a)는 사용자가 모바일 기기 연결을 요청하는 발화를 한 경우를 도시한 도면이다. 도 46(b)는 사용자의 비밀번호를 설정을 요청하는 창을 디스플레이 하는 것을 도시한 도면이다. 도 46(c)는 모바일 기기 연결에 대한 안내 문구를 디스플레이 하는 것을 도시한 도면이다. 도 46(d) 모바일 기기가 연결된 화면을 디스플레이 하는 것을 도시한 도면이다. 46(a) is a diagram illustrating a case in which a user makes a call requesting a connection to a mobile device. FIG. 46(b) is a view showing a window for requesting to set a user's password. FIG. 46(c) is a diagram illustrating displaying a guide phrase for a mobile device connection. FIG. 46(d) is a diagram illustrating that a mobile device displays a connected screen.

도 46(a)를 참조하면, 사용자가 모바일 기기(미도시)를 연결할 것을 요청하는 발화를 하는 경우, 제어부(1530)는 텍스트 영역(4611) 및 인디케이터(4612)를 디스플레이 할 수 있다. 예를 들면, 사용자가 "내 폰 보여줘."라고 발화하는 경우, 제어부(1530)는 미라캐스트(Miracast)를 이용하여 모바일 기기(미도시)를 디스플레이 디바이스(1500)와 연결할 수 있다. 미라캐스트(Miracast)는 노트북, 태블릿, 스마트폰과 같은 장치를 텔레비전이나 모니터와 같은 디스플레이에 무선으로 접속하기 위한 표준이다. 제어부(1530)는 텍스트 영역(4611) 및 인디케이터(4612)를 디스플레이 하는 경우, 모바일 기기(미도시)가 현재 연결 가능한지 판단할 수 있다. 예를 들어, 현재 미라캐스트로 연결된 다른 모바일 기기(미도시)가 없고, 디스플레이 디바이스(1500)의 연결 어플리케이션과 연결 가능한 모바일 기기(미도시)가 존재하는 경우, 제어부(1530)는 모바일 기기(미도시)와 디스플레이 디바이스(1500)를 연결할 수 있다. 현재 연결된 다른 모바일 기기(미도시)가 있는 경우, 제어부(1530)는 현재 모바일 기기(미도시)가 연결 중임을 알려주는 메시지(미도시)를 디스플레이 할 수 있다. Referring to FIG. 46(a), when a user makes a call requesting to connect a mobile device (not shown), the controller 1530 may display a text area 4611 and an indicator 4612. For example, when the user speaks "Show my phone.", the controller 1530 may connect a mobile device (not shown) with the display device 1500 using Miracast. Miracast is a standard for wirelessly connecting devices such as laptops, tablets, and smartphones to displays such as televisions and monitors. When displaying the text area 4611 and the indicator 4612, the controller 1530 may determine whether a mobile device (not shown) is currently connectable. For example, if there is no other mobile device (not shown) currently connected by Miracast, and there is a mobile device (not shown) that can be connected to a connection application of the display device 1500, the control unit 1530 may control the mobile device (not shown). City) and the display device 1500. If there is another mobile device (not shown) currently connected, the controller 1530 may display a message (not shown) indicating that the mobile device (not shown) is currently connected.

도 46(b)를 참조하면, 모바일 기기(미도시)와 디스플레이 디바이스(1500)가 연결된 경우, 제어부(1530)는 비밀번호의 설정 또는 비밀번호의 입력을 위한 창(4620)을 팝업 스타일로 디스플레이 할 수 있다. 상기 비밀번호는 디스플레이 디바이스(1500)의 공급업체가 운영하는 홈페이지의 비밀번호와 동일할 수 있다. 비밀번호의 설정 또는 비밀번호의 입력을 위한 창(4620)을 디스플레이 한 경우, 제어부(1530)는 사용자가 모바일 기기(미도시)를 통해 비밀번호를 설정 또는 입력할 수 있도록 제어할 수 있다. Referring to FIG. 46(b), when a mobile device (not shown) and the display device 1500 are connected, the controller 1530 may display a window 4620 for setting a password or inputting a password in a pop-up style. have. The password may be the same as the password of the homepage operated by the supplier of the display device 1500. When a window 4620 for setting a password or inputting a password is displayed, the controller 1530 may control the user to set or input the password through a mobile device (not shown).

도 46(c)를 참조하면, 사용자가 비밀번호를 설정 또는 입력한 경우, 제어부(1530)는 모바일 기기(미도시)와 연결되고 있음을 안내하는 텍스트 메시지(4630)를 토스트 팝업(toast popup) 스타일로 디스플레이 할 수 있다. 제어부(1530)는 상기 텍스트 메시지(4630)를 도 46(b)의 비밀번호 설정 또는 비밀번호의 입력을 위한 창(4620)과 동시에 디스플레이 할 수 있다. Referring to FIG. 46(c), when a user sets or inputs a password, the controller 1530 toasts a text message 4630 indicating that it is connected to a mobile device (not shown). Can be displayed. The control unit 1530 may simultaneously display the text message 4630 together with the window 4620 for setting a password or inputting a password in FIG. 46(b).

도 46(d)를 참조하면, 모바일 기기(미도시)와 연결이 완료된 경우, 제어부(1530)는 모바일 기기(미도시)의 화면(4640)을 디스플레이 할 수 있다. 모바일 기기(미도시)의 화면(4640)이 디스플레이 된 경우, 제어부(1530)는 모바일 기기(미도시)의 UI를 리모컨 포인터(10)로 조작할 수 있도록 할 수 있다. Referring to FIG. 46(d), when the connection with the mobile device (not shown) is completed, the controller 1530 may display the screen 4640 of the mobile device (not shown). When the screen 4640 of the mobile device (not shown) is displayed, the controller 1530 may allow the UI of the mobile device (not shown) to be operated with the remote control pointer 10.

도 46(a) 내지 도 46(d)를 참조하면, 사용자가 모바일 기기(미도시)의 어플리케이션을 실행할 것을 요청하는 발화를 하는 경우, 제어부(1530)는 상기 도 46(a) 내지 도 46(d)에 도시된 같이, 모바일 기기(미도시)와 디스플레이 디바이스(1500)를 연결하고 모바일 기기(미도시)의 어플리케이션을 실행할 수 있다. Referring to FIGS. 46(a) to 46(d), when a user makes a request to execute an application of a mobile device (not shown), the controller 1530 may be configured as shown in FIGS. 46(a) to 46( As shown in d), a mobile device (not shown) and a display device 1500 may be connected and an application of the mobile device (not shown) may be executed.

도 47은 본 발명의 일 실시 예에 따른, 사용자가 모바일 기기의 연결을 요청하는 발화를 하고, 2개 이상의 모바일 기기가 연결된 경우, 디스플레이 디바이스(1500)에서 연결된 기기 목록을 디스플레이 하는 것을 도시한 도면이다. FIG. 47 is a diagram illustrating that a display device 1500 displays a list of connected devices when a user makes a call requesting a connection of a mobile device and two or more mobile devices are connected according to an embodiment of the present invention. to be.

도 47(a)는 미라캐스트가 연결되지 않은 경우를 도시한 도면이다. 도 47(b)는 미라캐스트가 연결된 경우를 도시한 도면이다. 47(a) is a diagram illustrating a case where Miracast is not connected. 47(b) is a diagram showing a case where Miracast is connected.

도 47(a)의 좌측을 참조하면, 디스플레이 디바이스(1500)와 연결된 기기가 2개 이상이고, 현재 연결된 미라캐스트가 없으며, 사용자가 모바일 기기를 연결하는 요청을 발화하는 경우, 제어부(1530)는 텍스트 영역(4711) 및 인디케이터(4712)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 모바일 기기가 현재 연결 가능한지 여부를 판단할 수 있다. Referring to the left side of FIG. 47(a), when there are two or more devices connected to the display device 1500, there is no Miracast currently connected, and when a user utters a request to connect a mobile device, the controller 1530 The text area 4711 and the indicator 4712 can be displayed. Here, the control unit 1530 may determine whether the mobile device is currently connectable.

도 47(a)의 우측을 참조하면, 모바일 기기가 연결 가능한 경우, 제어부(1530)는 현재 디스플레이 디바이스(1500)와 연결된 기기의 목록(4720)을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 최대 4개까지 연결된 기기를 디스플레이 할 수 있다. 제어부(1530)는 연결된 기기의 목록(4720)을 사용자 아이콘 및 사용자 이름으로 디스플레이 할 수 있다. 여기서, 제어부(1530)는 상기 사용자 아이콘 및 사용자 이름을 디스플레이 디바이스(1500)와 모바일 기기의 연결을 위한 어플리케이션에서 사용되는 사용자 아이콘 및 사용자 이름과 동일하게 디스플레이 할 수 있다. 사용자가 연결된 기기의 목록에서 특정 기기를 선택한 경우, 제어부(1530)는 디스플레이 디바이스(1500)와 특정 기기를 미라캐스트로 연결할 수 있다. Referring to the right side of FIG. 47A, when a mobile device is connectable, the controller 1530 may display a list 4720 of devices currently connected to the display device 1500. Here, the control unit 1530 may display up to four connected devices. The controller 1530 may display a list 4720 of connected devices with a user icon and a user name. Here, the controller 1530 may display the user icon and the user name in the same manner as the user icon and user name used in an application for connecting the display device 1500 and the mobile device. When a user selects a specific device from a list of connected devices, the control unit 1530 may connect the display device 1500 and the specific device through Miracast.

도 47(b)의 좌측을 참조하면, 디스플레이 디바이스(1500)와 연결된 기기가 2개 이상이고, 현재 연결된 미라캐스트가 존재하며, 사용자가 모바일 기기를 연결하는 요청을 발화하는 경우, 제어부(1530)는 모바일 기기가 연결 가능한지 여부를 판단할 수 있다. 여기서, 제어부(1530)는 미라캐스트로 연결된 모바일 기기의 화면(4730)을 텍스트 영역(4711) 및 인디케이터(4712)와 함께 디스플레이 할 수 있다. Referring to the left side of FIG. 47(b), when there are two or more devices connected to the display device 1500, there is a currently connected Miracast, and when the user speaks a request to connect a mobile device, the controller 1530 Can determine whether the mobile device is connectable. Here, the controller 1530 may display the screen 4730 of the mobile device connected by Miracast together with the text area 4711 and the indicator 4712.

도 47(a)의 우측을 참조하면, 모바일 기기가 연결 가능한 경우, 제어부(1530)는 현재 디스플레이 디바이스(1500)와 연결된 기기의 목록(4720)을 디스플레이 할 수 있다. 여기서, 제어부(1530)는 기존에 미라캐스트로 연결된 모바일 기기의 연결을 유지하고 해당 모바일 기기의 화면(4730)을 연결된 기기의 목록(4720)과 함께 디스플레이 할 수 있다. 사용자가 연결된 기기의 목록(4720)에서 특정 기기를 선택한 경우, 제어부(1530)는 디스플레이 디바이스(1500)와 특정 기기를 미라캐스트로 연결할 수 있다. Referring to the right side of FIG. 47A, when a mobile device is connectable, the controller 1530 may display a list 4720 of devices currently connected to the display device 1500. Here, the control unit 1530 may maintain the connection of the mobile device connected through the Miracast and display the screen 4730 of the mobile device together with the list 4720 of the connected devices. When a user selects a specific device from the list 4720 of connected devices, the controller 1530 may connect the display device 1500 and the specific device through Miracast.

도 48은 본 발명의 일 실시 예에 따른, 사용자가 채널을 전환할 것을 요청하는 발화를 하는 경우, 디스플레이 디바이스(1500)에서 채널을 전환하는 것을 도시한 도면이다. 48 is a diagram illustrating switching of a channel in the display device 1500 when a user makes a call requesting to switch channels according to an embodiment of the present invention.

도 48(a)는 사용자가 채널을 전환할 것을 요청하는 발화를 하는 경우를 도시한 도면이다. 도 48(b)는 자동 채널 전환에 대한 안내 문구를 디스플레이 하는 것을 도시한 도면이다. 도 48(c) 자동 채널 전환을 중단할 수 있는 버튼을 안내하는 메시지를 디스플레이 하는 것을 도시한 도면이다. 도 48(d)는 자동 채널 전환이 중단되었음을 안내하는 메시지를 디스플레이 하는 것을 도시한 도면이다. 48(a) is a diagram illustrating a case in which a user makes a call requesting to switch channels. FIG. 48(b) is a diagram illustrating display of a guide phrase for automatic channel switching. 48(c) is a diagram showing a message guiding a button to stop automatic channel switching. 48(d) is a diagram showing a message informing that the automatic channel switching is stopped.

도 48(a)를 참조하면, 사용자가 채널을 전환할 것을 요청하는 발화를 하는 경우, 제어부(1530)는 텍스트 영역(4811) 및 인디케이터(4812)를 디스플레이 할 수 있다. 예를 들면, 사용자가 "채널 계속 돌려줘."라고 발화하는 경우, 제어부(1530)는 사용자의 발화 내용을 표시한 텍스트(4811) 및 발화 상태를 알려주는 인디케이터(4812)를 디스플레이 할 수 있다. Referring to FIG. 48(a), when a user makes a call requesting to switch a channel, the control unit 1530 may display a text area 4801 and an indicator 4812. For example, when the user utters "Continue channel return.", the controller 1530 may display the text 4801 indicating the content of the user's utterance and an indicator 4812 indicating the state of the utterance.

도 48(b)를 참조하면, 사용자의 발화를 처리한 경우, 제어부(1530)는 기설정된 간격 마다 기설정된 시간 동안 자동으로 채널을 전환할 수 있다. 예를 들면, 제어부(1530)는 10분동안 7초마다 자동으로 채널을 전환할 수 있다. 여기서, 제어부(1530)는 채널 번호가 증가하는 방식으로 채널을 전환할 수 있다. 자동으로 채널이 전환되는 경우, 제어부(1530)는 채널이 자동으로 전환되고 있음을 알리는 문구(4820)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 사용자가 특정 버튼을 누를 경우 채널 전환이 멈춘다는 것을 알리는 문구(4820)를 함께 디스플레이 할 수 있다. Referring to FIG. 48(b), when a user's utterance is processed, the controller 1530 may automatically switch a channel for a predetermined time at a predetermined interval. For example, the control unit 1530 may automatically switch channels every 7 seconds for 10 minutes. Here, the control unit 1530 may switch channels in a manner in which the channel number increases. When the channel is automatically switched, the control unit 1530 may display a phrase 4820 indicating that the channel is automatically switched. Here, the control unit 1530 may display a phrase 4820 indicating that the channel switching is stopped when the user presses a specific button.

도 48(c)를 참조하면, 자동으로 채널이 전환되는 경우, 제어부(1530)는 자동으로 채널을 중단할 수 있는 버튼을 안내하는 안내 메시지(4830)를 디스플레이 할 수 있다. 예를 들면, 상기 버튼은 리모컨 상의 '확인' 버튼이 될 수 있다. 사용자가 '확인' 버튼을 누른 경우, 제어부(1530)는 채널의 자동 전환을 멈출 수 있다. Referring to FIG. 48(c), when a channel is automatically switched, the controller 1530 may display a guide message 4830 that guides a button to automatically stop the channel. For example, the button may be an'OK' button on the remote control. When the user presses the'OK' button, the control unit 1530 may stop the automatic switching of the channel.

도 48(d)를 참조하면, 자동 채널 전환을 실행한 후 일정 시간이 지난 경우, 또는 사용자가 리모컨 상의 '확인'버튼을 누른 경우, 제어부(1530)는 자동 채널 전환의 종료를 알리는 메시지(4840)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "자동 채널 전환 종료"라는 텍스트(4840)를 토스트 팝업 스타일로 디스플레이 할 수 있다. Referring to FIG. 48(d), if a certain time has elapsed since the automatic channel switching was executed, or if the user pressed the'OK' button on the remote control, the control unit 1530 informs the end of the automatic channel switching (4840) ) Can be displayed. For example, the controller 1530 may display the text “4840” of “automatic channel switching end” in a toast pop-up style.

도 49는 본 발명의 일 실시예에 따른, 사용자가 게임 기기에 연결할 것을 요청하는 발화를 하는 경우, 디스플레이 디바이스(1500)에서 메시지를 디스플레이하는 것을 도시한 도면이다. 49 is a diagram for displaying a message on the display device 1500 when a user makes a call requesting to connect to a game device according to an embodiment of the present invention.

도 49(a)는 사용자가 게임 기기에 연결할 것을 요청하는 발화를 하는 경우를 도시한 도면이다. 도 49(b)는 디스플레이 디바이스(1500)의 입력을 전환하는 것을 도시한 도면이다. 도 49(c)는 영상 및 음향 설정을 변경하는 것을 도시한 도면이다. 49(a) is a diagram illustrating a case in which a user makes a speech requesting to connect to a game device. 49( b) is a diagram illustrating switching inputs of the display device 1500. FIG. 49(c) is a diagram illustrating changing video and sound settings.

도 49(a)를 참조하면, 사용자가 게임 기기에 연결할 것을 요청하는 발화를 하는 경우, 제어부(1530)는 텍스트 영역(4911) 및 인디케이터(4912)를 디스플레이 할 수 있다. 상기 사용자의 발화는 "게임기 연결해줘." 또는 "Xbox 연결해줘." 등이 될 수 있다. 게임기가 연결되어 있는 경우, 제어부(1530)는 해당 게임기의 입력 화면을 디스플레이 할 수 있다. 게임기가 연결되어 있지 않은 경우, 제어부(1530)는 게임기가 연결되어 있지 않음을 안내하는 안내 문구(미도시)를 디스플레이 할 수 있다. 여기서, 제어부(1530)는 안내 문구(미도시)를 디스플레이 한 후, 외부 입력과 디스플레이 디바이스(1500)를 연결하는 어플리케이션의 화면을 디스플레이 할 수 있다. Referring to FIG. 49(a), when a user makes a request to connect to a game device, the controller 1530 may display a text area 4911 and an indicator 4912. The user's utterance is "Please connect the game machine." Or "Connect Xbox." It can be back. When a game machine is connected, the controller 1530 may display an input screen of the game machine. When the game machine is not connected, the control unit 1530 may display a guide phrase (not shown) to guide that the game machine is not connected. Here, the control unit 1530 may display a guide phrase (not shown), and then display a screen of an application connecting the external input and the display device 1500.

도 49(b)를 참조하면, 게임기가 연결되어 있는 경우, 제어부(1530)는 해당 게임기의 입력화면으로 화면을 전환됨을 안내하는 안내 문구(4930)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "티비 입력이 게임 콘솔로 변경됩니다."라는 안내 문구(4930)를 디스플레이 할 수 있다. 상기 안내 문구(4930)를 디스플레이 하는 경우, 제어부(1530)는 해당 게임기의 정보(4921) 및 입력 정보(4922)를 함께 디스플레이 할 수 있다. Referring to FIG. 49(b), when a game machine is connected, the control unit 1530 may display a guide phrase 4930 guiding that the screen is switched to the input screen of the game machine. For example, the control unit 1530 may display the guide phrase 4930 "The TV input is changed to the game console." When the guide phrase 4930 is displayed, the controller 1530 may display information 4921 and input information 4922 of the corresponding game machine together.

도 49(c)를 참조하면, 게임기의 입력화면으로 화면을 전환한 경우, 제어부(1530)는 디스플레이 디바이스(1500)의 설정을 변경할 수 있다. 상기 설정은 디스플레이 디바이스(1500)의 영상 설정 또는 음향 설정을 포함한다. 여기서, 제어부(1530)는 디스플레이 디바이스(1500)의 설정이 변경되었음을 알리는 안내 문구(4940)를 디스플레이 할 수 있다. 예를 들면, 제어부(1530)는 "영상 및 음향이 게임 모드로 전환되었습니다."라는 안내 문구(4940)를 디스플레이 할 수 있다. 게임에 적합한 설정이 불가능한 경우, 제어부(1530)는 디스플레이 디바이스(1500)의 설정을 변경하지 않고, 안내 문구(4940)도 디스플레이 하지 않는다. Referring to FIG. 49(c), when the screen is switched to the input screen of the game machine, the controller 1530 may change the settings of the display device 1500. The settings include image settings or sound settings of the display device 1500. Here, the controller 1530 may display a guide phrase 4940 indicating that the setting of the display device 1500 has been changed. For example, the control unit 1530 may display the guidance phrase 4940 "The video and sound have been switched to the game mode." If the setting suitable for the game is not possible, the control unit 1530 does not change the setting of the display device 1500 and does not display the guidance phrase 4940.

본 발명의 일 실시 예에 따르면, 본 발명은 사용자의 발화를 기억하고 부족한 정보를 추측함으로써 사용자의 정확한 의도를 파악하여, 빠진 정보를 사용자에게 질의할 수 있으므로, 사용자 편의성을 향상시킬 수 있다.According to one embodiment of the present invention, the present invention can improve user convenience by grasping the user's speech and guessing the insufficient information to grasp the exact intention of the user and query the missing information to the user.

본 발명의 다른 실시 예에 따르면, 본 발명은 디바이스의 UI화면이나 어플리케이션의 화면을 음성명령으로 제어하여, 보다 직관적으로 UI 화면을 제어할 수 있으므로 사용자 편의성을 향상시킬 수 있다. According to another embodiment of the present invention, the present invention can improve user convenience by controlling a UI screen of a device or a screen of an application with a voice command, so that the UI screen can be more intuitively controlled.

본 발명의 또 다른 실시 예에 따르면, 본 발명은 사용자의 시청이력을 음성명령으로 검색할 수 있고, 현재 명령어와 연관된 발화를 추천하여, 사용자는 자신이 원하는 컨텐트를 시청할 수 있으므로, 사용자 편의성을 향상시킬 수 있다.According to another embodiment of the present invention, the present invention can search the user's viewing history by voice command, and recommend the utterance associated with the current command, so that the user can watch the desired content, thereby improving user convenience I can do it.

본 발명에 따른 디스플레이 디바이스(1500) 및 그 제어 방법은 상기한 바와 같이 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.The display device 1500 and its control method according to the present invention are not limited to the configuration and method of the above-described embodiments, and the above embodiments are all of the respective embodiments so that various modifications can be made. Alternatively, a part may be selectively combined and configured.

한편, 본 발명의 디스플레이 디바이스(1500) 제어 방법은 영상표시기기에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 프로세서가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한, 인터넷을 통한 전송 등과 같은 캐리어 웨이브의 형태로 구현되는 것도 포함한다. 또한, 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Meanwhile, the control method of the display device 1500 of the present invention can be implemented as a code readable by a processor on a recording medium readable by a processor provided in an image display device. The processor-readable recording medium includes all types of recording devices in which data that can be read by the processor are stored. Examples of the recording medium that can be read by the processor include ROM, RAM, CD-ROM, magnetic tape, floppy disk, optical data storage device, etc., and include those implemented in the form of carrier waves such as transmission through the Internet. . In addition, the processor-readable recording medium may be distributed over a networked computer system so that the processor-readable code is stored and executed in a distributed manner.

또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.In addition, although the preferred embodiments of the present invention have been shown and described above, the present invention is not limited to the specific embodiments described above, and the technical field to which the present invention pertains without departing from the gist of the present invention claimed in the claims. In addition, various modifications can be made by those skilled in the art, and these modifications should not be individually understood from the technical idea or prospect of the present invention.

1500: 디스플레이 디바이스
1510: 튜너 1520: 통신부
1530: 제어부 1540: 디스플레이
1550: 스피커 1560: 마이크
1570: 메모리1500: display device
1510: tuner 1520: communication unit
1530: control unit 1540: display
1550: speaker 1560: microphone
1570: memory

Claims (13)

디스플레이 디바이스에 있어서,
방송 신호를 방송국으로부터 수신하는 튜너;
외부 서버 및 외부 리모컨 중 적어도 하나와 통신을 수행하는 통신부;
상기 디스플레이 디바이스의 동작을 위한 데이터를 저장하는 메모리;
사운드를 수신하는 마이크
상기 수신된 방송 신호에 포함된 컨텐츠를 화면에 디스플레이하는 디스플레이; - 상기 컨텐츠는 상기 외부 서버로부터 수신하거나 또는 메모리에 저장되어 있음 - 및
상기 튜너, 통신부, 메모리, 마이크 및 디스플레이를 제어하는 컨트롤러를 포함하고,
상기 컨트롤러는,
음성 인식 활성화 입력을 사용자로부터 수신하면, 음성 인식 기능을 활성화하고,
사용자의 발화를 상기 마이크로 수신하고,
수신된 사용자의 발화가 특정 키워드를 포함하는 경우, 상기 특정 키워드에 대응하는 명령을 실행하는,
디스플레이 디바이스.In the display device,
A tuner that receives a broadcast signal from a broadcasting station;
A communication unit performing communication with at least one of an external server and an external remote control;
A memory for storing data for operation of the display device;
Microphone receiving sound
A display for displaying content included in the received broadcast signal on a screen; -The content is received from the external server or stored in memory-and
It includes a controller for controlling the tuner, communication unit, memory, microphone and display,
The controller,
When a voice recognition activation input is received from a user, the voice recognition function is activated,
The user's speech is received by the microphone,
When the utterance of the received user includes a specific keyword, execute a command corresponding to the specific keyword,
Display device. 제 1 항에 있어서, 상기 컨트롤러는
음성 인식 활성화 키를 소정 이상 이상 누르는 입력을 상기 외부 리모컨으로부터 수신한 경우, 음성 인식 기능을 활성화 하고,
상기 디스플레이가 음성 입력 창을 디스플레이하도록 제어하고,
상기 디스플레이가 음성 입력 단계를 나타내는 그래픽 이미지와 함께 인디케이터를 디스플레이하도록 제어하는,
디스플레이 디바이스.The method of claim 1, wherein the controller
When an input for pressing a voice recognition activation key for a predetermined time or more is received from the external remote control, the voice recognition function is activated,
Control the display to display a voice input window,
Controlling the display to display an indicator with a graphic image representing the voice input phase,
Display device. 제 2 항에 있어서, 상기 컨트롤러는
사용자가 외부 리모컨의 제 1 키를 누른 상태에서 발화하는 경우, 사용자의 음성을 상기 마이크로 수신하고,
상기 디스플레이가 상기 음성의 크기에 대응하는 그래픽 이미지를 디스플레이하도록 제어하는,
디스플레이 디바이스.The method of claim 2, wherein the controller
When the user speaks while pressing the first key of the external remote control, the user's voice is received by the microphone,
Controlling the display to display a graphic image corresponding to the volume of the voice,
Display device. 제 1 항에 있어서, 상기 컨트롤러는
상기 디스플레이가 음성 입력 단계를 나타내는 그래픽 이미지를 각 단계 별로 다르게 디스플레이하도록 제어하는,
디스플레이 디바이스.The method of claim 1, wherein the controller
Controlling the display to display a graphic image representing a voice input step differently for each step,
Display device. 제 1 항에 있어서, 상기 컨트롤러는
사용자의 발화에 따른 명령어 처리가 완료된 경우, 상기 디스플레이가 명령어 처리 결과에 대응하는 음성 인식 결과를 포함하는 그래픽 이미지를 디스플레이 하도록 제어하고,
사용자가 특정 키워드를 검색하는 입력을 사용자로부터 수신한 경우, 상기 디스플레이가 상기 특정 키워드에 대응하는 결과 리스트에 대한 응답 문구를 개별 상황 별로 다르게 디스플레이하도록 제어하는,
디스플레이 디바이스.The method of claim 1, wherein the controller
When the command processing according to the user's speech is completed, the display is controlled to display a graphic image including a speech recognition result corresponding to the command processing result,
When the user receives an input for searching for a specific keyword from the user, the display controls to display a response phrase for a result list corresponding to the specific keyword differently for each situation,
Display device. 제 5 항에 있어서, 상기 컨트롤러는
사용자가 상기 특정 키워드를 검색하는 입력을 사용자로부터 수신한 경우, 상기 디스플레이가 상기 특정 키워드가 포함된 검색 결과를 그루핑(grouping)하여 카테고리 별로 다르게 디스플레이 하도록 제어하는,
디스플레이 디바이스.The method of claim 5, wherein the controller
When the user receives an input for searching for the specific keyword from the user, the display controls to display differently for each category by grouping a search result including the specific keyword,
Display device. 제 6 항에 있어서, 상기 컨트롤러는
사용자가 제 1 카테고리를 선택한 경우, 상기 디스플레이가 상기 제 1 카테고리에 속한 컨텐츠 검색 결과를 디스플레이 하단에 디스플레이 하도록 제어하고,
검색 결과가 없는 경우, 상기 디스플레이가 상기 제 1 카테고리를 디스플레이하지 않도록 제어하고,
상기 카테코리의 개수가 기설정된 소정 개수를 초과하는 경우, 상기 디스플레이가 상기 소정 개수 이후의 카테고리는 디스플레이 하지 않도록 제어하는,
디스플레이 디바이스. The method of claim 6, wherein the controller
When the user selects the first category, the display controls to display content search results belonging to the first category at the bottom of the display,
If there is no search result, the display is controlled to not display the first category,
When the number of categories is greater than a predetermined number, the display is controlled so that the categories after the predetermined number are not displayed.
Display device. 제 1 항에 있어서, 상기 컨트롤러는
복수의 사용자가 존재하는 경우, 사용자 음성의 피치 및 주파수 중 적어도 하나를 기초로 각각의 사용자를 식별하고,
상기 디스플레이가 상기 사용자의 발화에 대응하는 그래픽 이미지를 식별된 사용자마다 다르게 디스플레이하도록 제어하는,
디스플레이 디바이스.The method of claim 1, wherein the controller
When there are multiple users, each user is identified based on at least one of the pitch and frequency of the user voice,
Controlling the display to display a graphic image corresponding to the user's speech differently for each identified user,
Display device. 제 1 항에 있어서, 상기 컨트롤러는
상기 그래픽 이미지에서 제 1 카테고리를 선택하는 사용자의 발화를 상기 마이크로 상기 사용자로부터 수신하면, 상기 디스플레이가 상기 사용자의 발화에 대응하는 썸네일 리스트를 디스플레이하도록 제어하는
디스플레이 디바이스.The method of claim 1, wherein the controller
When receiving the user's utterance from the graphic image, the user selecting the first category from the microcomputer, controlling the display to display a thumbnail list corresponding to the user's utterance
Display device. 제 1 항에 있어서, 상기 컨트롤러는
수신된 사용자의 발화가 날씨와 관련된 키워드를 포함하는 경우, 상기 디스플레이가 날씨와 관련된 키워드에 대응되는 음성 인식 결과를 위젯 형태로 디스플레이하도록 제어하되,
상기 음성 인식 결과는 지정된 지역, 날짜에 관련된 날씨 정보 및 오늘을 포함한 향후 소정 기간 동안의 날씨 정보 중 적어도 하나를 포함하는,
디스플레이 디바이스.The method of claim 1, wherein the controller
If the received user's speech includes a keyword related to the weather, the display is controlled to display a voice recognition result corresponding to the keyword related to the weather in the form of a widget,
The voice recognition result includes at least one of weather information related to a designated region and date and weather information for a predetermined period of time including today.
Display device. 제 10 항에 있어서, 상기 컨트롤러는
수신된 사용자의 발화가 날씨와 관련된 키워드를 포함하는 경우, 상기 디스플레이가 미세먼지의 수치 정보를 디스플레이하도록 제어하고,
상기 디스플레이가 미세먼지의 수치 정보를 기초로 미세먼지 정보를 미세 먼지 농도에 따라 다른 색상을 디스플레이하도록 제어하는,
디스플레이 디바이스.The method of claim 10, wherein the controller
When the received user's utterance includes keywords related to weather, the display is controlled to display numerical information of fine dust,
Controlling the display to display different colors according to the fine dust concentration based on the fine dust information based on the numerical information of the fine dust,
Display device. 제 1 항에 있어서, 상기 컨트롤러는
수신된 사용자의 발화가 시간과 관련된 키워드를 포함하는 경우, 상기 디스플레이가 상기 시간에 대응하는 음성 인식 결과를 위젯 형태로 디스플레이하도록 제어하고,
상기 음성 인식 결과는 사용자가 검색한 지역의 현재 시각, 사용자가 검색한 지역과 사용자가 설정한 지역과의 시차, 사용자가 설정한 타임 존(time zone)에 따른 네트워크의 현재 시간에 관한 정보 중 적어도 하나를 포함하는,
디스플레이 디바이스.The method of claim 1, wherein the controller
When the received user's speech includes a keyword related to time, the display controls to display a voice recognition result corresponding to the time in a widget form,
The voice recognition result may include at least one of the current time of the region searched by the user, the time difference between the region searched by the user and the region set by the user, and the current time of the network according to the time zone set by the user. Containing one,
Display device. 디스플레이 디바이스의 제어 방법에 있어서,
방송 신호를 방송국으로부터 수신하는 단계;
상기 수신된 방송 신호에 포함된 컨텐츠를 화면에 디스플레이하는 단계; - 상기 컨텐츠는 상기 외부 서버로부터 수신하거나 또는 메모리에 저장되어 있음 -
음성 인식 활성화 입력을 사용자로부터 수신하면, 음성 인식 기능을 활성화하는 단계;
사용자의 발화를 상기 마이크로 수신하는 단계; 및
수신된 사용자의 발화가 특정 키워드를 포함하는 경우, 상기 특정 키워드에 대응하는 명령을 실행하는 단계를 포함하는
디스플레이 디바이스의 제어 방법. In the control method of the display device,
Receiving a broadcast signal from a broadcasting station;
Displaying content included in the received broadcast signal on a screen; -The content is received from the external server or stored in memory-
When a voice recognition activation input is received from a user, activating a voice recognition function;
Receiving a user's speech from the microphone; And
And when the utterance of the received user includes a specific keyword, executing a command corresponding to the specific keyword.
Method for controlling display device.
KR1020190001244A 2019-01-04 2019-01-04 Display device and control method thereof KR20200085115A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190001244A KR20200085115A (en) 2019-01-04 2019-01-04 Display device and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190001244A KR20200085115A (en) 2019-01-04 2019-01-04 Display device and control method thereof

Publications (1)

Publication Number Publication Date
KR20200085115A true KR20200085115A (en) 2020-07-14

Family

ID=71526658

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190001244A KR20200085115A (en) 2019-01-04 2019-01-04 Display device and control method thereof

Country Status (1)

Country Link
KR (1) KR20200085115A (en)

Similar Documents

Publication Publication Date Title
US11962934B2 (en) Display device and control method therefor
KR102246556B1 (en) Multimedia device and method for controlling the same
KR102396034B1 (en) Digital device and method for controlling the same
KR101586321B1 (en) Display device and controlling method thereof
KR102393510B1 (en) Display device and controlling method thereof
US20180139405A1 (en) Display device and control method therefor
KR102381141B1 (en) Display device and method for controlling the same
KR102557574B1 (en) Digital device and controlling method thereof
US11509967B2 (en) Display device and method for controlling same
KR102396035B1 (en) Digital device and method for processing stt thereof
KR102384520B1 (en) Display device and controlling method thereof
KR102311249B1 (en) Display device and controlling method thereof
KR102603458B1 (en) A digital device and method for controlling the same
KR20200085104A (en) Display device, and controlling method thereof
KR102439464B1 (en) Digital device and method for controlling the same
KR20160148875A (en) Display device and controlling method thereof
KR102443319B1 (en) Digital device and method for controlling the same
KR102384521B1 (en) Display device and controlling method thereof
KR20220003120A (en) Display device and its control method
KR102418140B1 (en) Digital device and method for controlling the same
KR20200055365A (en) Display device, and controlling method thereof
KR20200085115A (en) Display device and control method thereof
KR20200084563A (en) Display device, and controlling method thereof
KR102404357B1 (en) Digital device and method for controlling the same
KR20170012998A (en) Display device and controlling method thereof

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal