KR20170022333A

KR20170022333A - 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법

Info

Publication number: KR20170022333A
Application number: KR1020150117162A
Authority: KR
Inventors: 박진홍; 기선호; 김민규
Original assignee: 엘지전자 주식회사
Priority date: 2015-08-20
Filing date: 2015-08-20
Publication date: 2017-03-02

Abstract

본 명세서에서는 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법을 개시한다. 여기서, 본 발명의 일 실시 예에 따른 디지털 디바이스는, 애플리케이션 데이터를 수신하는 수신부, 상기 수신된 애플리케이션 데이터의 제1 이미지 프레임과 제2 이미지 프레임을 타일 렌더링하는 이미지 처리부, 상기 타일 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 모션 예측 데이터를 생성하고, 상기 생성된 오브젝트의 모션 예측 데이터에 기초하여 상기 제2 이미지 프레임의 타일들에 대한 렌더링 우선순위를 결정하고, 상기 결정된 렌더링 우선순위에 기초하여 상기 제2 이미지 프레임의 타일들을 렌더링하도록 제어하고, 상기 제2 이미지 프레임의 타일들 중 렌더링된 일부 타일들과 상기 렌더링 완료된 제1 이미지 프레임의 타일들을 합성하여 제3 이미지 프레임을 생성하고 렌더링하도록 제어하는 제어부, 및 상기 렌더링된 이미지 프레임들을 디스플레이하는 디스플레이부를 포함한다.

Description

디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법{DIGITAL DEVICE AND METHOD OF PROCESSING DATA THE SAME}

본 발명은 디지털 디바이스(digital device)에 관한 것으로, 더욱 상세하게는 디지털 디바이스에서 데이터(data)의 처리에 관한 것이다.

PC(Personal Computer), TV(Television)와 같은 고정 디바이스(standing device)에 이어 스마트 폰(smart phone), 태블릿 PC(Tablet PC), 웨어러블 디바이스(wearable device) 등과 같은 모바일 디바이스(mobile device)의 발전이 눈부시다. 상기 고정 디바이스와 모바일 디바이스는 종래에는 고유의 영역을 구축하며 개별적으로 발전해 왔으나, 최근 디지털 컨버전스(digital convergence)의 붐에 따라 상호 간에 구축된 영역의 경계가 모호해지고 있다.

최근 스마트폰이나 태블릿 PC와 같이 휴대 가능한 모바일 디바이스의 보급이 폭발적으로 늘어나면서, 모바일 디바이스의 이용자 및 이용 시간이 많이 증가하였다. 이에 따라, 모바일 디바이스를 통하여 단순 웹 서핑(web surfing)뿐만 아니라 게임 등 고화질(High Quality)의 멀티미디어 컨텐츠(multimedia contents) 이용에 대한 니즈(needs)가 증가하고 있다. 디바이스의 성능이 종래에 비해 빠르게 좋아지고 있으나, 상대적으로 디바이스의 하드웨어적인 성능(hardware capacity), 전력(power), 온도(temperature) 등으로 인해 서비스 제공에 문제가 있어 상기 니즈를 충족시키지 못하는 문제점이 있다. 한편, 디바이스의 하드웨어 성능을 개선에는 한계가 있는바, 상기 문제점을 해소하기 위한 다른 접근 방법이 요구된다.

본 명세서에서는 상기와 같은 문제점 및 요구를 해소하기 위하여 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법을 개시한다.

본 발명은, 애플리케이션 데이터를 처리하는 처리부뿐만 아니라 상기 처리부와 관련된 연계장치(들)의 하드웨어적인 성능 개선이나 구성 추가 없이도, 상기 애플리케이션 데이터의 QoS(Quality of Service) 등을 유지 또는 개선하여 처리할 수 있는 방법을 제공하는 것을 일 과제로 한다.

본 발명은, 애플리케이션 데이터를 소프트웨어적으로 처리하여 하드웨어적인 성능, 파워, 온도 등 디바이스 자체의 전반적인 환경을 개선하면서도 QoS 등 성능도 유지 또는 개선시키는 것을 다른 과제로 한다.

본 발명은, 하드웨어 성능 개선이나 구성 추가에 의하지 않고 소프트웨어적으로 애플리케이션 데이터의 처리 성능을 유지 또는 개선함으로써 상기 하드웨어로 인한 비용 증가 부담을 최소화할 수 있으며, 그로 인한 사용자의 디바이스 만족도를 개선하여 디바이스 구매 욕구를 고취시키는 것을 또 다른 과제로 한다.

본 발명에서 이루고자 하는 기술적 과제는 상기 언급한 기술적 과제로 제한되지 않으며, 언급하지 않은 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 명세서에서는 디지털 디바이스 및 상기 디지털 디바이스에서 애플리케이션 데이터 처리 방법에 대한 다양한 실시 예(들)을 개시한다.

본 발명의 일 실시 예에 따른 디지털 디바이스에서 애플리케이션 데이터 처리 방법은, 애플리케이션 데이터를 수신하는 단계, 상기 수신된 애플리케이션 데이터의 제1 이미지 프레임을 타일 렌더링하는 단계, 상기 타일 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 모션 예측 데이터를 생성하는 단계, 상기 생성된 오브젝트의 모션 예측 데이터에 기초하여 제2 이미지 프레임의 타일들에 대한 렌더링 우선순위를 결정하고, 상기 결정된 렌더링 우선순위에 기초하여 상기 제2 이미지 프레임의 타일들을 렌더링하는 단계, 상기 제2 이미지 프레임의 타일들 중 렌더링된 일부 타일들과 상기 렌더링 완료된 제1 이미지 프레임의 타일들을 합성하여 제3 이미지 프레임을 생성하는 단계, 및 상기 제1 이미지 프레임 내지 제3 이미지 프레임을 디스플레이하는 단계를 포함하여 이루어진다.

본 발명의 일 실시 예에 따른 디지털 디바이스는, 애플리케이션 데이터를 수신하는 수신부, 상기 수신된 애플리케이션 데이터의 제1 이미지 프레임과 제2 이미지 프레임을 타일 렌더링하는 이미지 처리부, 상기 타일 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 모션 예측 데이터를 생성하고, 상기 생성된 오브젝트의 모션 예측 데이터에 기초하여 상기 제2 이미지 프레임의 타일들에 대한 렌더링 우선순위를 결정하고, 상기 결정된 렌더링 우선순위에 기초하여 상기 제2 이미지 프레임의 타일들을 렌더링하도록 제어하고, 상기 제2 이미지 프레임의 타일들 중 렌더링된 일부 타일들과 상기 렌더링 완료된 제1 이미지 프레임의 타일들을 합성하여 제3 이미지 프레임을 생성하고 렌더링하도록 제어하는 제어부, 및 상기 렌더링된 이미지 프레임들을 디스플레이하는 디스플레이부를 포함한다.

본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 발명의 효과는 다음과 같다.

본 발명의 다양한 실시 예들 중 일 실시 예에 따르면, 애플리케이션 데이터를 처리하는 처리부뿐만 아니라 상기 처리부와 관련된 연계장치(들)의 하드웨어적인 성능 개선이나 구성 추가 없이도, 상기 애플리케이션 데이터의 QoS(Quality of Service) 등을 유지 또는 개선하여 처리할 수 있는 방법을 제공할 수 있는 효과가 있다.

본 발명의 다양한 실시 예들 중 다른 실시 예에 따르면, 애플리케이션 데이터를 소프트웨어적으로 처리하여 하드웨어적인 성능, 파워, 온도 등 디바이스 자체의 전반적인 환경을 개선하면서도 QoS 등 성능도 유지 또는 개선시킬 수 있는 효과가 있다.

본 발명의 다양한 실시 예들 중 또 다른 실시 예에 따르면, 하드웨어 성능 개선이나 구성 추가에 의하지 않고 소프트웨어적으로 애플리케이션 데이터의 처리 성능을 유지 또는 개선함으로써 상기 하드웨어로 인한 비용 증가 부담을 최소화할 수 있으며, 그로 인한 사용자의 디바이스 만족도를 개선하여 디바이스 구매 욕구를 고취시킬 수 있는 효과가 있다.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 일 실시 예에 따른 서비스 시스템을 개략적으로 도시한 도면;
도 2는 본 발명의 일 실시 예에 따른 디지털 디바이스를 도시한 블록도;
도 3은 상기 도 2의 다른 구성 또는 상세 구성에 관한 블록도;
도 4는 본 발명의 일 실시 예에 따른 외부 디바이스를 도시한 블록도;
도 5는 본 발명의 다른 실시 예에 따른 디지털 디바이스 또는 외부 디바이스를 도시한 블록도;
도 6은 본 발명의 일 실시 예에 따른 디지털 디바이스 제어를 위한 제어 수단을 도시한 도면;
도 7은 본 발명의 일 실시 예에 따른 디지털 디바이스에서 애플리케이션 데이터 처리 방법을 설명하기 위해 도시한 도면;
도 8은 본 발명의 다른 실시 예에 따른 디지털 디바이스에서 애플리케이션 데이터 처리 방법을 설명하기 위해 도시한 도면;
도 9는 본 발명의 일 실시 예에 따라 이미지 프레임을 처리하는 디지털 디바이스의 구성 블록도를 도시한 도면;
도 10은 도 9의 이미지 처리부의 상세 구성 블록도;
도 11과 12는 본 발명의 일 실시 예에 따라 모션 예측 데이터에 기초하여 다음 이미지 프레임의 타일들에 대한 렌더링 우선순위를 계산하는 방식을 설명하기 위해 도시한 도면;
도 13과 14는 본 발명의 일 실시 예에 따라 렌더링 진행 중 해당 이미지 프레임(Frame N+1)에서 우선 처리된 타일(들)과 이전 이미지 프레임(Frame N)을 이용하여 보간 이미지 프레임(impolated image frame)을 합성하는 방법을 설명하기 위해 도시한 도면;
도 15는 본 발명의 일 실시 예에 따라 이미지 프레임 보간 방법을 설명하기 위해 도시한 도면;
도 16은 본 발명의 다른 실시 예에 따라 이미지 프레임 보간 방법을 설명하기 위해 도시한 도면;
도 17은 본 발명에 따라 실제 이미지를 처리하는 방식을 설명하기 위해 도시한 도면;
도 18은 본 발명의 일 실시 예에 따라 모션 예측 데이터에 기반하여 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에 보간될 이미지 프레임의 개수 결정을 설명하기 위해 도시한 도면; 그리고
도 19는 본 발명의 일 실시 예에 따른 디지털 디바이스에서 데이터 처리 방법에 관한 순서도이다.

이하에서는 도면을 참조하여 본 발명에 따른 디지털 디바이스(digital device) 및 상기 디지털 디바이스에서 이미지 데이터 처리 방법의 다양한 실시 예(들)을 설명한다.

본 명세서에서 사용되는 구성요소에 대한 접미사 "모듈", "부" 등은 단지 명세서 작성의 용이함을 고려하여 부여되는 것으로서, 필요에 따라 양자는 혼용될 수도 있다. 또한, "제1-", "제2-" 등과 같이 서수로 기술한 경우에도 그것이 순서를 의미하기보다는 해당 용어의 설명 편의를 위한 것일 뿐, 그러한 용어나 서수에 한정되는 것은 아니다. 또한, 본 명세서에서 사용되는 용어도, 본 발명의 기술 사상에 따른 기능을 고려하여 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 다만, 특정한 경우는 출원인이 임의로 선정한 용어도 있으나, 이에 대해서는 관련 설명 부분에서 그 의미를 기술할 것이다. 따라서, 해당 용어를 단지 그 명칭이 아니라 그가 가진 실질적인 의미와 본 명세서 전반에 걸쳐 기술된 내용을 토대로 해석되어야 함을 밝혀 둔다. 한편, 본 명세서 또는/및 도면에 기술된 내용은, 본 발명에 따른 바람직한 일 실시 예로서 그에 한정되지 않으며, 그 권리범위는 특허청구범위를 통해 결정되어야 한다.

본 명세서에서 “디지털 디바이스”는 예를 들어, 컨텐트(content)를 수신, 처리, 출력 등 중 적어도 하나 이상을 수행하는 모든 디바이스를 포함한다. 상기 디지털 디바이스는 방송국(broadcasting station) 등 서버(server), 외부 입력(external input) 등을 통해 상기 컨텐트나 상기 컨텐트에 관한 정보를 스트리밍(streaming) 또는 다운로드(download) 받을 수 있다. 상기 디지털 디바이스는, 유/무선 네트워크(wire/wireless network)를 통하여 상기 서버 등과 상기 컨텐트를 포함하여 데이터를 송/수신할 수 있다. 상기 디지털 디바이스는, 고정형 디바이스(standing device) 또는 모바일 디바이스(mobile device or handheld device) 중 어느 하나일 수 있다. 상기 고정형 디바이스로는 네트워크 TV(Network TV), HBBTV(Hybrid Broadcast Broadband TV), 스마트 TV(Smart TV), IPTV(Internet Protocol TV), PC(Personal Computer) 등이 포함될 수 있다. 그리고 상기 모바일 디바이스로는, PDA(Personal Digital Assistant), 스마트폰(Smart Phone), 태블릿 PC(Tablet PC), 노트북(Notebook), 디지털 방송용 단말기, PMP(Portable Multimedia Player), 네비게이션(navigation), 슬레이트 PC(Slate PC), 울트라북(Ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기(smart watch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다. 여기서, 도 2와 3은 고정형 디바이스의 하나인 디지털 TV(Digital TV)를, 도 4와 5는 각각 모바일 디바이스의 하나로 이동 단말기와 웨어러블 디바이스(예를 들어, 스마트 워치)를 디지털 디바이스의 일 예로 도시하였으며, 해당 부분에서 상세하게 설명한다. 한편, 디지털 디바이스가 고정형 디바이스인 경우에는, 단지 디스플레이 패널(display panel)만을 구비한 사이니지(Signage) 형태일 수도 있고, 다른 구성 예를 들어, 셋톱박스(Set-Top Box, STB) 등과 함께 세트(SET) 형태로 구현될 수도 있다.

한편, 상기 유/무선 네트워크는, 전술한 서버와 디지털 디바이스 사이의 연결(connecting) 또는 페어링(pairing), 데이터 커뮤니케이션(data communication) 등을 위한 모든 하드웨어 및/또는 소프트웨어를 포함하며, 표준(Standard)에 의해 현재 지원되거나 향후 지원될 네트워크도 포함한다. 한편, 상기 유/무선 네트워크는 데이터 커뮤니케이션을 위한 하나 또는 그 이상의 통신 프로토콜들을 지원할 수 있다. 이러한 유/무선 네트워크는 예컨대, USB(Universal Serial Bus), CVBS(Composite Video Banking Sync), 컴포넌트(Component), S-비디오(아날로그), DVI(Digital Visual Interface), HDMI(High Definition Multimedia Interface), RGB, D-SUB와 같은 유선 연결(wire connection)을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜과, 블루투스(Bluetooth), WLAN(Wireless LAN)(Wi-Fi), Wi-Fi 다이렉트(direct), RFID(Radio Frequency Identification), 적외선 통신(IrDA: infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), LTE/LTE-A(Long Term Evolution/LTE-Advanced) 등과 같은 무선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜에 의하여 형성될 수 있다.

한편, 디지털 디바이스는, 범용 OS(Operating System), 웹OS(Web OS) 등이 이용될 수 있으며, 범용 OS 커널(OS kernel), 리눅스 커널(Linux kernel) 등에 다양한 서비스나 애플리케이션을 추가(adding), 삭제(deleting), 수정(amending), 업데이트(updating) 등 처리가 가능하며, 그를 통해 더욱 사용자 친화적인(user-friendly) 환경을 제공할 수 있다.

도 1은 본 발명의 일 실시 예에 따른 서비스 시스템을 개략적으로 도시한 도면이다.

도 1을 참조하면, 서비스 시스템은, 기본적으로 서버(105)와 디지털 TV(110)를 포함하여 구현될 수 있다. 여기서, 상기 디지털 TV(110)는, 이동 단말기(120)나 웨어러블 디바이스(130)로 대체될 수 있다. 또는, 상기 서비스 시스템은, 상기 서버(105)와 디지털 TV(110) 외에 추가로 이동 단말기(120)나 웨어러블 디바이스(130)를 더 포함하여 구현될 수 있다. 한편, 디지털 TV(110)는, 전용 리모컨(115)과 같은 제어 수단에 의해 그 동작이 제어될 수 있다.

도 2는 본 발명의 일 실시 예에 따른 디지털 TV를 도시한 블록도이다.

디지털 TV(200)는, 네트워크 인터페이스부(network interface)(201), TCP/IP 매니저(TCP/IP manager)(202), 서비스 전달 매니저(service delivery manager)(203), SI 디코더(204), 역다중화부(demuxer or demultiplexer)(205), 오디오 디코더(audio decoder)(206), 비디오 디코더(video decoder)(207), 디스플레이부(display A/V and OSD module)(208), 서비스 제어 매니저(service control manager)(209), 서비스 디스커버리 매니저(service discovery manager)(210), SI&메타데이터 데이터베이스(SI&metadata DB)(211), 메타데이터 매니저(metadata manager)(212), 서비스 매니저(213), UI 매니저(214) 등을 포함하여 구성될 수도 있다.

네트워크 인터페이스부(201)는, 네트워크망을 통하여 IP 패킷(들)(Internet Protocol (IP) packet(s)) 또는 IP 데이터그램(들)(IP datagram(s))(이하 ‘IP 패킷(들)’이라 한다)을 서버(105)로부터 수신하거나 상기 서버(105)로 송신한다. 일 예로, 네트워크 인터페이스부(201)는 네트워크망을 통해 서비스 프로바이더(service provider)로부터 서비스, 애플리케이션, 컨텐트 등을 수신할 수 있다.

TCP/IP 매니저(202)는, 디지털 TV(200)로 수신되는 IP 패킷들과 디지털 TV(200)가 전송하는 IP 패킷들에 대하여 즉, 소스(source)와 목적지(destination) 사이의 패킷 전달(packet delivery)에 관여한다. 상기 TCP/IP 매니저(202)는 수신된 패킷(들)을 적절한 프로토콜에 대응하도록 분류하고, 서비스 전달 매니저(205), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등으로 상기 분류된 패킷(들)을 출력한다.

서비스 전달 매니저(203)는, 수신되는 서비스 데이터의 제어를 담당한다. 예를 들어, 서비스 전달 매니저(203)는 실시간 스트리밍(real-time streaming) 데이터를 제어하는 경우에는 RTP/RTCP를 사용할 수 있다. 상기 실시간 스트리밍 데이터를 RTP를 사용하여 전송하는 경우, 서비스 전달 매니저(203)는 상기 수신된 데이터 패킷을 RTP에 따라 파싱(parsing)하여 역다중화부(205)로 전송하거나 서비스 매니저(213)의 제어에 따라 SI&메타데이터 데이터베이스(211)에 저장한다. 그리고 서비스 전달 매니저(203)는 RTCP를 이용하여 상기 네트워크 수신 정보를 서비스를 제공하는 서버 측에 피드백(feedback)한다.

역다중화부(205)는, 수신된 패킷을 오디오, 비디오, SI(System Information) 데이터 등으로 역다중화하여 각각 오디오/비디오 디코더(206/207), SI 디코더(204)에 전송한다.

SI 디코더(204)는, 역다중화된 SI 데이터 즉, PSI(Program Specific Information), PSIP(Program and System Information Protocol), DVB-SI(Digital Video Broadcasting-Service Information), DTMB/CMMB(Digital Television Terrestrial Multimedia Broadcasting/Coding Mobile Multimedia Broadcasting) 등의 서비스 정보를 디코딩한다. 또한, SI 디코더(204)는, 디코딩된 서비스 정보들을 SI&메타데이터 데이터베이스(211)에 저장할 수 있다. 저장된 서비스 정보는 예를 들어, 사용자의 요청 등에 의해 해당 구성에 의해 독출되어 이용될 수 있다.

오디오/비디오 디코더(206/207)는, 역다중화된 각 오디오 데이터와 비디오 데이터를 디코딩한다. 이렇게 디코딩된 오디오 및 비디오 데이터는 디스플레이부(208)를 통하여 사용자에게 제공된다.

애플리케이션 매니저는 예를 들어, UI 매니저(214)와 서비스 매니저(213)를 포함하며, 디지털 TV(200)의 제어부 기능을 수행할 수 있다. 다시 말해, 애플리케이션 매니저는, 디지털 TV(200)의 전반적인 상태를 관리하고 사용자 인터페이스(UI: User Interface)를 제공하며, 다른 매니저를 관리할 수 있다.

UI 매니저(214)는, 사용자를 위한 GUI(Graphic User Interface)/UI를 OSD(On Screen Display) 등을 이용하여 제공하며, 사용자로부터 키 입력을 받아 상기 입력에 따른 디바이스 동작을 수행한다. 예를 들어, UI 매니저(214)는 사용자로부터 채널 선택에 관한 키 입력을 받으면 상기 키 입력 신호를 서비스 매니저(213)에 전송한다.

서비스 매니저(213)는, 서비스 전달 매니저(203), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등 서비스와 연관된 매니저를 제어한다. 또한, 서비스 매니저(213)는, 채널 맵(channel map)을 생성하고 UI 매니저(214)로부터 수신한 키 입력에 따라 상기 생성된 채널 맵을 이용하여 채널을 선택 등을 제어한다. 상기 서비스 매니저(213)는 SI 디코더(204)로부터 서비스 정보를 전송받아 선택된 채널의 오디오/비디오 PID(Packet Identifier)를 역다중화부(205)에 설정한다. 이렇게 설정되는 PID는 상술한 역다중화 과정에 이용될 수 있다. 따라서, 역다중화부(205)는 상기 PID를 이용하여 오디오 데이터, 비디오 데이터 및 SI 데이터를 필터링(PID or section filtering) 한다.

서비스 디스커버리 매니저(210)는, 서비스를 제공하는 서비스 프로바이더(service provider)를 선택하는데 필요한 정보를 제공한다. 상기 서비스 매니저(213)로부터 채널 선택에 관한 신호를 수신하면, 서비스 디스커버리 매니저(210)는 상기 정보를 이용하여 서비스를 찾는다.

서비스 제어 매니저(209)는, 서비스의 선택과 제어를 담당한다. 예를 들어, 서비스 제어 매니저(209)는 사용자가 기존의 방송 방식과 같은 생방송(live broadcasting) 서비스를 선택하는 경우 IGMP 또는 RTSP 등을 사용하고, VOD(Video on Demand)와 같은 서비스를 선택하는 경우에는 RTSP를 사용하여 서비스의 선택, 제어를 수행한다. 상기 RTSP 프로토콜은 실시간 스트리밍에 대해 트릭 모드(trick mode)를 제공할 수 있다. 또한, 서비스 제어 매니저(209)는 IMS(IP Multimedia Subsystem), SIP(Session Initiation Protocol)를 이용하여 IMS 게이트웨이(250)를 통하는 세션을 초기화하고 관리할 수 있다. 상기 프로토콜들은 일 실시 예이며, 구현 예에 따라 다른 프로토콜을 사용할 수도 있다.

메타데이터 매니저(212)는, 서비스와 연관된 메타데이터를 관리하고 상기 메타데이터를 SI&메타데이터 데이터베이스(211)에 저장한다.

SI&메타데이터 데이터베이스(211)는, SI 디코더(204)가 디코딩한 서비스 정보, 메타데이터 매니저(212)가 관리하는 메타데이터 및 서비스 디스커버리 매니저(210)가 제공하는 서비스 프로바이더(Service Provider)를 선택하는데 필요한 정보를 저장한다. 또한, SI&메타데이터 데이터베이스(211)는 시스템에 대한 세트-업 데이터 등을 저장할 수 있다. SI&메타데이터 데이터베이스(211)는, 비휘발성 메모리(Non-Volatile RAM: NVRAM) 또는 플래시 메모리(flash memory) 등을 사용하여 구현될 수도 있다.

한편, IMS 게이트웨이(250)는, IMS 기반의 IPTV 서비스에 접근하기 위해 필요한 기능들을 모아 놓은 게이트웨이이다.

도 3은 상기 도 2의 다른 구성 또는 상세 구성에 관한 블록도이다.

도 3a를 참조하면, 디지털 TV는, 방송 수신부(305), 외부 디바이스 인터페이스부(316), 저장부(318), 사용자입력 인터페이스부(320), 제어부(325), 디스플레이부(330), 오디오 출력부(335), 전원 공급부(340) 및 촬영부(미도시)를 포함할 수 있다. 여기서, 상기 방송 수신부(305)는, 적어도 하나의 튜너(310), 복조부(312) 및 네트워크 인터페이스부(314)를 포함할 수 있다. 다만, 경우에 따라, 상기 방송 수신부(305)는 튜너(310)와 복조부(312)는 구비하나 네트워크 인터페이스부(314)는 포함하지 않을 수 있으며 그 반대의 경우일 수도 있다. 또한, 상기 방송 수신부(305)는 도시되진 않았으나, 다중화부(multiplexer)를 구비하여 상기 튜너(310)를 거쳐 복조부(312)에서 복조된 신호와 상기 네트워크 인터페이스부(314)를 거쳐 수신된 신호를 다중화할 수도 있다. 그 밖에 상기 방송 수신부(305)는 역시 도시되진 않았으나, 역다중화부를 구비하여 상기 다중화된 신호를 역다중화하거나 상기 복조된 신호 또는 상기 네트워크 인터페이스부(314)를 거친 신호를 역다중화할 수 있다.

튜너(310)는, 안테나를 통해 수신되는 RF(Radio Frequency) 방송 신호 중 사용자에 의해 선택된 채널 또는 기저장된 모든 채널을 튜닝하여 RF 방송 신호를 수신한다. 또한, 튜너(310)는, 수신된 RF 방송 신호를 중간 주파수(Intermediate Frequency; IF) 신호 혹은 베이스밴드(baseband) 신호로 변환한다. 예를 들어, 수신된 RF 방송 신호가 디지털 방송 신호이면 디지털 IF 신호(DIF)로 변환하고, 아날로그 방송 신호이면 아날로그 베이스밴드 영상 또는 음성 신호(CVBS/SIF)로 변환한다. 즉, 튜너(310)는 디지털 방송 신호 또는 아날로그 방송 신호를 모두 처리할 수 있다. 튜너(310)에서 출력되는 아날로그 베이스 밴드 영상 또는 음성 신호(CVBS/SIF)는 제어부(325)로 직접 입력될 수 있다. 또한, 튜너(310)는, 싱글 캐리어(single carrier) 또는 멀티플 캐리어(multiple carrier)의 RF 방송 신호를 수신할 수 있다. 한편, 튜너(310)는, 안테나를 통해 수신되는 RF 방송 신호 중 채널 기억 기능을 통하여 저장된 모든 방송 채널의 RF 방송 신호를 순차로 튜닝 및 수신하여 이를 중간 주파수 신호 혹은 베이스 밴드 신호(DIF: Digital Intermediate Frequency or baseband signal)로 변환할 수 있다.

복조부(312)는, 튜너(310)에서 변환된 디지털 IF 신호(DIF)를 수신하여 복조하고, 채널 복호화 등을 수행할 수도 있다. 이를 위해 복조부(312)는 트렐리스 디코더(Trellis Decoder), 디인터리버(De-interleaver), 리드 솔로먼 디코더(Reed-Solomon Decoder) 등을 구비하거나 컨벌루션 디코더(convolution decoder), 디인터리버 및 리드-솔로먼 디코더 등을 구비할 수 있다. 복조부(312)는, 복조 및 채널 복호화를 수행한 후 스트림 신호(TS)를 출력할 수 있다. 이때, 스트림 신호는 영상 신호, 음성 신호 또는 데이터 신호가 다중화된 신호일 수 있다. 일 예로, 스트림 신호는 MPEG-2 규격의 영상 신호, 돌비(Dolby) AC-3 규격의 음성 신호 등이 다중화된 MPEG-2 TS(Transport Stream)일 수 있다. 복조부(312)에서 출력한 스트림 신호는 제어부(325)로 입력될 수 있다. 제어부(325)는 역다중화, 영상/음성 신호 처리 등을 제어하고, 디스플레이부(330)를 통해 영상을, 오디오 출력부(335)를 통해 음성의 출력을 제어할 수 있다.

외부 디바이스 인터페이스부(316)는 디지털 TV와 다양한 외부 디바이스 사이의 인터페이싱 환경을 제공한다. 이를 위해, 외부 디바이스 인터페이스부(316)는, A/V 입/출력부(미도시) 또는 무선 통신부(미도시)를 포함할 수 있다. 외부 디바이스 인터페이스부(316)는, DVD(Digital Versatile Disk), 블루-레이(Blu-ray), 게임 디바이스, 카메라, 캠코더(Camcorder), 컴퓨터(노트북), 태블릿 PC, 스마트 폰, 블루투스 디바이스(Bluetooth device), 클라우드(Cloud) 등과 같은 외부 디바이스 등과 유/무선으로 접속될 수 있다. 외부 디바이스 인터페이스부(316)는, 연결된 외부 디바이스를 통하여 입력되는 이미지, 영상, 음성 등 데이터를 포함한 신호를 디지털 TV의 제어부(325)로 전달한다. 제어부(325)는 처리된 이미지, 영상, 음성 등을 데이터 신호를 연결된 외부 디바이스로 출력되도록 제어할 수 있다. 이를 위해, 외부 디바이스 인터페이스부(316)는, A/V 입/출력부(미도시) 또는 무선 통신부(미도시)를 더 포함할 수 있다.

A/V 입/출력부는, 외부 디바이스의 영상 및 음성 신호를 디지털 TV로 입력할 수 있도록, USB 단자, CVBS(Composite Video Banking Sync) 단자, 컴포넌트 단자, S-비디오 단자(아날로그), DVI(Digital Visual Interface) 단자, HDMI(High Definition Multimedia Interface) 단자, RGB 단자, D-SUB 단자 등을 포함할 수 있다.

무선 통신부는, 다른 디지털 디바이스와 근거리 무선 통신을 수행할 수 있다. 디지털 TV는 예를 들어, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance) 등의 통신 프로토콜에 따라 다른 디지털 디바이스와 네트워크 연결될 수 있다.

또한, 외부 디바이스 인터페이스부(316)는, 셋톱-박스(STB)와 상술한 각종 단자 중 적어도 하나를 통해 접속되어, 셋톱-박스(STB)와 입력/출력 동작을 수행할 수도 있다. 한편, 외부 디바이스 인터페이스부(316)는, 인접하는 외부 디바이스 내의 애플리케이션 또는 애플리케이션 목록(application list)을 수신하여, 제어부(325) 또는 저장부(318)로 전달할 수 있다.

네트워크 인터페이스부(314)는, 디지털 TV를 인터넷 망을 포함하는 유/무선 네트워크와 연결하기 위한 인터페이스를 제공한다. 네트워크 인터페이스부(314)는, 유선 네트워크와의 접속을 위해 예를 들어, 이더넷(Ethernet) 단자 등을 구비할 수 있으며, 무선 네트워크와의 접속을 위해 예를 들어, WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 통신 규격 등을 이용할 수 있다. 네트워크 인터페이스부(314)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 다른 사용자 또는 다른 디지털 디바이스와 데이터를 송신 또는 수신할 수 있다. 특히, 디지털 TV에 미리 등록된 다른 사용자 또는 다른 디지털 디바이스 중 선택된 사용자 또는 선택된 디지털 디바이스에, 상기 디지털 TV에 저장된 일부의 컨텐트 데이터를 송신할 수 있다. 한편, 네트워크 인터페이스부(314)는, 접속된 네트워크 또는 접속된 네트워크에 링크된 다른 네트워크를 통해, 소정 웹 페이지에 접속할 수 있다. 즉, 네트워크를 통해 소정 웹 페이지에 접속하여, 해당 서버와 데이터를 송신 또는 수신할 수 있다. 그 외, 컨텐트 프로바이더(content provider) 또는 네트워크 프로바이더(network provider)가 제공하는 컨텐트 또는 데이터들을 수신할 수 있다. 즉, 네트워크를 통하여 컨텐트 프로바이더 또는 네트워크 프로바이더로부터 제공되는 영화(Movie), 광고(Commercials), 게임(Game), VOD, 방송 신호 등의 컨텐트 및 그와 관련된 정보를 수신할 수 있다. 또한, 네트워크 운영자가 제공하는 펌웨어(firmware)의 업데이트 정보 및 업데이트 파일을 수신할 수 있다. 또한, 인터넷 또는 컨텐트 프로바이더 또는 네트워크 프로바이더에게 데이터들을 송신할 수 있다. 또한, 네트워크 인터페이스부(314)는, 네트워크를 통해 공개(open)된 애플리케이션들 중 원하는 애플리케이션을 선택하여 수신할 수 있다.

저장부(318)는, 제어부(325) 내의 각 신호 처리 및 제어를 위한 프로그램(program)을 저장할 수도 있고, 신호 처리된 영상, 음성 또는 데이터 신호를 저장할 수도 있다. 또한, 저장부(318)는 외부 디바이스 인터페이스부(316) 또는 네트워크 인터페이스부(314)로부터 입력되는 영상, 음성, 또는 데이터 신호의 임시 저장을 위한 기능을 수행할 수도 있다. 저장부(318)는, 채널 기억 기능을 통하여 소정 방송 채널에 관한 정보를 저장할 수 있다. 저장부(318)는, 외부 디바이스 인터페이스부(316) 또는 네트워크 인터페이스부(314)로부터 입력되는 애플리케이션 또는 애플리케이션 목록을 저장할 수 있다. 또한, 저장부(318)는, 후술하여 설명하는 다양한 플랫폼(platform)을 저장할 수도 있다. 저장부(318)는 예를 들어, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(RAM), 롬(EEPROM 등) 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 디지털 TV는, 저장부(318) 내에 저장되어 있는 컨텐트 파일(동영상 파일, 정지영상 파일, 음악 파일, 문서 파일, 애플리케이션 파일 등)을 재생하여 사용자에게 제공할 수 있다. 도 3a는 저장부(318)가 제어부(325)와 별도로 구비된 실시 예를 도시하고 있으나, 본 발명은 이에 한정되지 않는다. 다시 말해, 저장부(318)는 제어부(325) 내에 포함될 수도 있다.

사용자 입력 인터페이스부(320)는, 사용자가 입력한 신호를 제어부(325)로 전달하거나 제어부(325)의 신호를 사용자에게 전달한다. 예를 들어, 사용자 입력 인터페이스부(320)는, RF 통신 방식, 적외선(IR) 통신 방식 등 다양한 통신 방식에 따라, 원격제어 디바이스(345)로부터 전원 온/오프, 채널 선택, 화면 설정 등의 제어 신호를 수신하여 처리하거나, 제어부(325)의 제어 신호를 원격제어 디바이스(345)로 송신하도록 처리할 수 있다. 또한, 사용자 입력 인터페이스부(320)는, 전원 키, 채널 키, 볼륨 키, 설정치 등의 로컬 키(미도시)에서 입력되는 제어 신호를 제어부(325)에 전달할 수 있다. 사용자 입력 인터페이스부(320)는, 사용자의 제스처(gesture)를 센싱(sensing)하는 센싱부(미도시)로부터 입력되는 제어 신호를 제어부(325)에 전달하거나, 제어부(325)의 신호를 센싱부(미도시)로 송신할 수 있다. 여기서, 센싱부(미도시)는, 터치 센서, 음성 센서, 위치 센서, 동작 센서 등을 포함할 수 있다.

제어부(325)는, 튜너(310), 복조부(312) 또는 외부 디바이스 인터페이스부(316)를 통하여 입력되는 스트림을 역다중화하거나 역다중화된 신호들을 처리하여, 영상 또는 음성 출력을 위한 신호를 생성 및 출력할 수 있다. 제어부(325)에서 처리된 영상 신호는, 디스플레이부(330)로 입력되어 해당 영상 신호에 대응하는 영상으로 표시될 수 있다. 또한, 제어부(325)에서 영상 처리된 영상 신호는 외부 디바이스 인터페이스부(316)를 통하여 외부 출력 디바이스로 입력될 수 있다. 제어부(325)에서 처리된 음성 신호는 오디오 출력부(335)로 오디오 출력될 수 있다. 또한, 제어부(325)에서 처리된 음성 신호는 외부 디바이스 인터페이스부(316)를 통하여 외부 출력 디바이스로 입력될 수 있다. 도 3a에서는 도시되진 않았으나, 제어부(325)는 역다중화부, 영상 처리부 등을 포함할 수 있다. 제어부(325)는, 디지털 TV의 전반적인 동작을 제어할 수 있다. 예를 들어, 제어부(325)는, 튜너(310)를 제어하여, 사용자가 선택한 채널 또는 기저장된 채널에 해당하는 RF 방송을 튜닝(tuning)하도록 제어할 수 있다. 제어부(325)는, 사용자 입력 인터페이스부(320)를 통하여 입력된 사용자 명령 또는 내부 프로그램에 의하여 디지털 TV를 제어할 수 있다. 특히, 네트워크에 접속하여 사용자가 원하는 애플리케이션 또는 애플리케이션 목록을 디지털 TV 내로 다운로드 받을 수 있도록 할 수 있다. 예를 들어, 제어부(325)는, 사용자 입력 인터페이스부(320)를 통하여 수신한 소정 채널 선택 명령에 따라 선택한 채널의 신호가 입력되도록 튜너(310)를 제어한다. 그리고 선택한 채널의 영상, 음성 또는 데이터 신호를 처리한다. 제어부(325)는, 사용자가 선택한 채널 정보 등이 처리한 영상 또는 음성신호와 함께 디스플레이부(330) 또는 오디오 출력부(335)를 통하여 출력될 수 있도록 한다. 다른 예로, 제어부(325)는, 사용자 입력 인터페이스부(320)를 통하여 수신한 외부 디바이스 영상 재생 명령에 따라, 외부 디바이스 인터페이스부(316)를 통하여 입력되는 외부 디바이스, 예를 들어, 카메라 또는 캠코더로부터의, 영상 신호 또는 음성 신호가 디스플레이부(330) 또는 오디오 출력부(335)를 통해 출력될 수 있도록 한다. 한편, 제어부(325)는, 영상을 표시하도록 디스플레이부(330)를 제어할 수 있다. 예를 들어, 튜너(310)를 통해 입력되는 방송 영상, 또는 외부 디바이스 인터페이스부(316)를 통해 입력되는 외부 입력 영상, 또는 네트워크 인터페이스부를 통해 입력되는 영상, 또는 저장부(318)에 저장된 영상을, 디스플레이부(330)에 표시하도록 제어할 수 있다. 이때, 디스플레이부(330)에 표시되는 영상은, 정지영상 또는 동영상일 수 있으며, 2D 영상 또는 3D 영상일 수 있다. 또한, 제어부(325)는, 컨텐트를 재생하도록 제어할 수 있다. 이때의 컨텐트는, 디지털 TV 내에 저장된 컨텐트, 또는 수신된 방송 컨텐트, 외부로부터 입력되는 외부 입력 컨텐트일 수 있다. 컨텐트는, 방송 영상, 외부 입력 영상, 오디오 파일, 정지 영상, 접속된 웹 화면, 및 문서 파일 중 적어도 하나일 수 있다. 한편, 제어부(325)는, 애플리케이션 보기 항목에 진입하는 경우, 디지털 TV 내 또는 외부 네트워크로부터 다운로드 가능한 애플리케이션 또는 애플리케이션 목록을 표시하도록 제어할 수 있다. 제어부(325)는, 다양한 사용자 인터페이스와 더불어, 외부 네트워크로부터 다운로드 되는 애플리케이션을 설치 및 구동하도록 제어할 수 있다. 또한, 사용자의 선택에 의해, 실행되는 애플리케이션에 관련된 영상이 디스플레이부(330)에 표시되도록 제어할 수 있다.

한편, 도면에 도시하지 않았지만, 디지털 TV는, 채널 신호 또는 외부 입력 신호에 대응하는 썸네일 이미지를 생성하는 채널 브라우징 처리부가 더 구비되는 것도 가능하다. 채널 브라우징 처리부는, 복조부(312)에서 출력한 스트림 신호(TS) 또는 외부 디바이스 인터페이스부(316)에서 출력한 스트림 신호 등을 입력받아, 입력되는 스트림 신호로부터 영상을 추출하여 썸네일 영상을 생성할 수 있다. 생성된 썸네일 영상은 그대로 또는 부호화되어 제어부(325)로 입력될 수 있다. 또한, 생성된 썸네일 영상은 스트림 형태로 부호화되어 제어부(325)로 입력되는 것도 가능하다. 제어부(325)는 입력된 썸네일 영상을 이용하여 복수의 썸네일 영상을 구비하는 썸네일 리스트를 디스플레이부(330)에 표시할 수 있다. 한편, 이러한 썸네일 리스트 내의 썸네일 영상들은 차례로 또는 동시에 업데이트 될 수 있다. 이에 따라 사용자는 복수의 방송 채널의 내용을 간편하게 파악할 수 있게 된다.

디스플레이부(330)는, 제어부(325)에서 처리된 영상 신호, 데이터 신호, OSD 신호 또는 외부 디바이스 인터페이스부(316)에서 수신되는 영상 신호, 데이터 신호 등을 각각 R, G, B 신호로 변환하여 구동 신호를 생성한다. 디스플레이부(330)는 PDP(Plasma Display Panel), LCD(Liquid Crystal Display), OLED(Organic Light Emitting Diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등이 가능할 수 있다. 한편, 디스플레이부(330)는, 터치 스크린으로 구성되어 출력 디바이스 이외에 입력 디바이스로 사용되는 것도 가능하다. 오디오 출력부(335)는, 제어부(325)에서 음성 처리된 신호, 예를 들어, 스테레오 신호, 3.1 채널 신호 또는 5.1 채널 신호를 입력받아 음성으로 출력한다. 음성 출력부(335)는 다양한 형태의 스피커로 구현될 수 있다.

한편, 사용자의 제스처를 감지하기 위해, 상술한 바와 같이, 터치 센서, 음성 센서, 위치 센서, 동작 센서 중 적어도 하나를 구비하는 센싱부(미도시)가 디지털 TV에 더 구비될 수 있다. 센싱부(미도시)에서 감지된 신호는 사용자입력 인터페이스부(320)를 통해 제어부(325)로 전달될 수 있다. 한편, 사용자를 촬영하는 촬영부(미도시)가 더 구비될 수 있다. 촬영부(미도시)에서 촬영된 영상 정보는 제어부(325)에 입력될 수 있다. 제어부(325)는, 촬영부(미도시)로부터 촬영된 영상, 또는 센싱부(미도시)로부터의 감지된 신호를 각각 또는 조합하여 사용자의 제스처를 감지할 수도 있다.

전원 공급부(340)는, 디지털 TV 전반에 걸쳐 해당 전원을 공급한다. 특히, 시스템 온 칩(System on Chip; SoC)의 형태로 구현될 수 있는 제어부(325)와, 영상 표시를 위한 디스플레이부(380), 및 오디오 출력을 위한 오디오 출력부(335)에 전원을 공급할 수 있다. 이를 위해, 전원 공급부(340)는, 교류 전원을 직류 전원으로 변환하는 컨버터(미도시)를 구비할 수 있다. 한편, 예를 들어, 디스플레이부(380)가 다수의 백라이트 램프(backlight lamp)를 구비하는 액정 패널로서 구현되는 경우, 휘도 가변 또는 디밍(dimming) 구동을 위해, PWM(Pulse Width Modulation) 동작 가능한 인버터(inverter)(미도시)를 더 구비할 수도 있다.

원격제어 디바이스(345)는, 사용자 입력을 사용자입력 인터페이스부(320)로 송신한다. 이를 위해, 원격제어 디바이스(345)는, 블루투스(Bluetooth), RF(Radio Frequency) 통신, 적외선(IR) 통신, UWB(Ultra Wideband), 지그비(ZigBee) 방식 등을 사용할 수 있다. 또한, 원격제어 디바이스(345)는, 사용자입력 인터페이스부(320)에서 출력한 영상, 음성 또는 데이터 신호 등을 수신하여, 이를 원격제어 디바이스(345)에서 표시하거나 음성 또는 진동을 출력할 수 있다.

그 밖에 본 발명에 따른 디지털 TV는 도시된 구성 중 필요에 따라 일부 구성을 생략하거나 반대로 도시되진 않은 구성을 더 포함할 수도 있다. 한편, 디지털 TV는 상술한 바와 달리, 튜너와 복조부를 구비하지 않고, 네트워크 인터페이스부 또는 외부 디바이스 인터페이스부를 통해서 컨텐트를 수신하여 재생할 수도 있다.

도 3b를 참조하면, 제어부의 일 예는, 역다중화부(350), 영상 처리부, OSD 생성부(366), 믹서(mixer)(370), 프레임 레이트 변환부(FRC: Frame Rate Converter)(380), 및 포맷터(formatter)(390)를 포함할 수 있다. 그 외 상기 제어부는 도시되진 않았으나 음성 처리부와 데이터 처리부를 더 포함할 수 있다.

역다중화부(350)는, 입력되는 스트림을 역다중화한다. 예를 들어, 역다중화부(350)는 입력되는 MPEG-2 TS 영상, 음성 및 데이터 신호로 역다중화할 수 있다. 여기서, 역다중화부(350)에 입력되는 스트림 신호는, 튜너 또는 복조부 또는 외부디바이스 인터페이스부에서 출력되는 스트림 신호일 수 있다.

영상 처리부는, 역다중화된 영상 신호의 영상 처리를 수행한다. 이를 위해, 영상 처리부는, 영상 디코더(362) 및 스케일러(364)를 구비할 수 있다. 영상 디코더(362)는 역다중화된 영상 신호를 복호하며, 스케일러(364)는 복호된 영상 신호의 해상도를 디스플레이부에서 출력 가능하도록 스케일링(scaling)한다. 영상 디코더(362)는 다양한 규격을 지원할 수 있다. 예를 들어, 영상 디코더(362)는 영상 신호가 MPEG-2 규격으로 부호화된 경우에는 MPEG-2 디코더의 기능을 수행하고, 영상 신호가 DMB(Digital Multimedia Broadcasting) 방식 또는 H.264 규격으로 부호화된 경우에는 H.264 디코더의 기능을 수행할 수 있다. 한편, 영상 처리부에서 복호된 영상 신호는, 믹서(370)로 입력된다.

OSD 생성부(366)는, 사용자 입력에 따라 또는 자체적으로 OSD 데이터를 생성한다. 예를 들어, OSD 생성부(366)는 사용자입력 인터페이스부의 제어 신호에 기초하여 디스플레이부의 화면에 각종 데이터를 그래픽(Graphic)이나 텍스트(Text) 형태로 표시하기 위한 데이터를 생성한다. 생성되는 OSD 데이터는, 디지털 TV의 사용자 인터페이스 화면, 다양한 메뉴 화면, 위젯(widget), 아이콘(icon), 시청률 정보(viewing rate information) 등의 다양한 데이터를 포함한다. OSD 생성부(366)는, 방송 영상의 자막 또는 EPG에 기반한 방송 정보를 표시하기 위한 데이터를 생성할 수도 있다.

믹서(370)는, OSD 생성부(366)에서 생성된 OSD 데이터와 영상 처리부에서 영상 처리된 영상 신호를 믹싱(mixing)하여 포맷터(390)로 제공한다. 복호된 영상 신호와 OSD 데이터가 믹싱됨으로 인하여, 방송 영상 또는 외부 입력 영상 상에 OSD가 오버레이(overlay) 되어 표시된다.

프레임 레이트 변환부(FRC)(380)는, 입력되는 영상의 프레임 레이트(frame rate)를 변환한다. 예를 들어, 프레임 레이트 변환부(380)는 입력되는 60Hz 영상의 프레임 레이트를 디스플레이부의 출력 주파수에 따라 예를 들어, 120Hz 또는 240Hz의 프레임 레이트를 가지도록 변환할 수 있다. 상기와 같이, 프레임 레이트를 변환하는 방법에는 다양한 방법이 존재할 수 있다. 일 예로, 프레임 레이트 변환부(380)는 프레임 레이트를 60Hz에서 120Hz로 변환하는 경우, 제1 프레임과 제2 프레임 사이에 동일한 제1 프레임을 삽입하거나, 제1 프레임과 제2 프레임으로부터 예측된 제3 프레임을 삽입함으로써 변환할 수 있다. 다른 예로, 프레임 레이트 변환부(380)는 프레임 레이트를 60Hz에서 240Hz로 변환하는 경우, 기존 프레임 사이에 동일한 프레임 또는 예측된 프레임을 3개 더 삽입하여 변환할 수 있다. 한편, 별도의 프레임 변환을 수행하지 않는 경우에는 프레임 레이트 변환부(380)를 바이패스(bypass) 할 수도 있다.

포맷터(390)는, 입력되는 프레임 레이트 변환부(380)의 출력을 디스플레이부의 출력 포맷에 맞게 변경한다. 예를 들어, 포맷터(390)는 R, G, B 데이터 신호를 출력할 수 있으며, 이러한 R, G, B 데이터 신호는, 낮은 전압 차분 신호(LVDS: Low voltage differential signal) 또는 mini-LVDS로 출력될 수 있다. 또한, 포맷터(390)는 입력되는 프레임 레이트 변환부(380)의 출력이 3D 영상 신호이면, 디스플레이부의 출력 포맷에 맞게 3D 형태로 구성하여 출력함으로써, 상기 디스플레이부를 통해 3D 서비스를 지원할 수도 있다.

한편, 제어부 내 음성 처리부(미도시)는, 역다중화된 음성 신호의 음성 처리를 수행할 수 있다. 이러한 음성 처리부(미도시)는 다양한 오디오 포맷을 처리하도록 지원할 수 있다. 일 예로, 음성 신호가 MPEG-2, MPEG-4, AAC, HE-AAC, AC-3, BSAC 등의 포맷으로 부호화된 경우에도 이에 대응되는 디코더를 구비하여 처리할 수 있다. 또한, 제어부 내 음성 처리부(미도시)는, 베이스(Base), 트레블(Treble), 음량 조절 등을 처리할 수 있다. 제어부 내 데이터 처리부(미도시)는, 역다중화된 데이터 신호의 데이터 처리를 수행할 수 있다. 예를 들어, 데이터 처리부는 역다중화된 데이터 신호가 부호화된 경우에도 이를 복호할 수 있다. 여기서, 부호화된 데이터 신호로는, 각 채널에서 방영되는 방송 프로그램의 시작시각, 종료시각 등의 방송 정보가 포함된 EPG 정보일 수 있다.

한편, 상술한 디지털 TV는 본 발명에 따른 예시로서, 각 구성요소는 실제 구현되는 디지털 TV의 사양에 따라 통합, 추가, 또는 생략될 수 있다. 즉, 필요에 따라, 2 이상의 구성요소가 하나의 구성요소로 합쳐지거나 하나의 구성요소가 2 이상의 구성요소로 세분화될 수 있다. 또한, 각 블록에서 수행하는 기능은 본 발명의 실시 예를 설명하기 위한 것이며, 그 구체적인 동작이나 디바이스는 본 발명의 권리범위를 제한하지 아니한다. 한편, 디지털 TV는, 디바이스 내에 저장된 영상 또는 입력되는 영상의 신호 처리를 수행하는 영상신호 처리 디바이스일 수 있다. 영상신호 처리 디바이스의 다른 예로는, 도 3a에서 도시된 디스플레이부(330)와 오디오 출력부(335)가 제외된 셋톱-박스(STB), 상술한 DVD 플레이어, 블루-레이 플레이어, 게임 디바이스, 컴퓨터 등이 더 예시될 수 있다.

도 4는 본 발명 일 실시 예에 따른 이동 단말기를 도시한 블록도이다.

도 4를 참조하면, 이동 단말기(400)는, 무선 통신부(410), A/V(Audio/Video) 입력부(420), 사용자 입력부(430), 센싱부(440), 출력부(450), 메모리(460), 인터페이스부(470), 제어부(480), 전원 공급부(490) 등을 포함할 수 있다.

무선 통신부(410)는, 이동 단말기(400)와 무선 통신 시스템 사이 또는 이동 단말기와, 이동 단말기가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 또는 그 이상의 모듈들을 포함할 수 있다. 예를 들어, 무선 통신부(410)는 방송 수신 모듈(411), 이동통신 모듈(412), 무선 인터넷 모듈(413), 근거리 통신 모듈(414), 위치정보 모듈(415) 등을 포함할 수 있다.

방송 수신 모듈(411)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련 정보를 수신한다. 여기서, 방송 채널은 위성 채널과 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함하며, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 프로바이더에 관련된 정보를 포함할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이 경우에는 상기 이동통신 모듈(412)에 의해 수신될 수 있다. 방송 관련 정보는 예를 들어, 이동 단말기(400)에서 EPG(Electronic Program Guide)나 ESG(Electronic Service Guide) 등을 생성하고 출력하기 위한 데이터를 포함할 수 있다. 방송 수신 모듈(411)은 예를 들어, ATSC, DVB-T(Digital Video Broadcasting-Terrestrial), DVB-S(Satellite), MediaFLO(Media Forward Link Only), DVB-H(Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 방송수신 모듈(411)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 디지털 방송 시스템에 적합하도록 구성될 수도 있다. 방송수신 모듈(411)을 통해 수신되는 방송 신호와 방송 관련 정보는, 메모리(460)에 저장될 수 있다.

이동통신 모듈(412)은, 이동 통신망 상에서 기지국, 외부 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 무선 신호는, 음성 신호, 화상 통화 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선인터넷 모듈(413)은, 무선 인터넷 접속을 위한 모듈을 포함하여, 이동 단말기(400)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리통신 모듈(414)은, 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee, RS-232, RS-385 등이 이용될 수 있다.

위치정보 모듈(415)은, 이동 단말기(400)의 위치 정보 획득을 위한 모듈로서, GPS(Global Position System) 모듈을 예로 할 수 있다.

A/V 입력부(420)는, 오디오 또는/및 비디오 신호 입력을 위한 것으로, 이에는 카메라(421)와 마이크(422) 등이 포함될 수 있다. 카메라(421)는, 화상통화 모드 또는 촬영 모드에서 이미지 센서에 의해 획득되는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(451)에 표시될 수 있다.

카메라(421)에서 처리된 화상 프레임은, 메모리(460)에 저장되거나 무선 통신부(410)를 통하여 외부로 전송될 수 있다. 카메라(421)는, 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(422)는, 통화 모드 또는 녹음 모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는, 통화 모드인 경우 이동통신 모듈(412)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(422)에는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

사용자 입력부(430)는, 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(430)는, 키 패드(key pad), 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠(jog wheel), 조그 스위치(jog switch) 등으로 구성될 수 있다.

센싱부(440)는, 이동 단말기(400)의 개폐 상태, 이동 단말기(400)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(400)의 현재 상태를 감지하여 이동 단말기(400)의 동작 제어를 위한 센싱 신호를 발생시킨다. 예를 들어, 이동 단말기(400)가 이동되거나 기울어진 경우, 이동 단말기의 위치 내지 기울기 등을 센싱할 수 있다. 또한, 전원 공급부(490)의 전원 공급 여부, 인터페이스부(470)의 외부 디바이스 결합 여부 등도 센싱할 수도 있다. 한편, 센싱부(440)는, NFC(Near Field Communication) 등을 포함한 근접 센서(341)를 포함할 수 있다.

출력부(450)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(451), 음향 출력 모듈(452), 알람부(453), 및 햅틱 모듈(454) 등이 포함될 수 있다.

디스플레이부(451)는, 이동 단말기(400)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI 또는 GUI를 표시한다. 이동 단말기(400)가 화상 통화 모드 또는 촬영 모드인 경우에는, 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.

디스플레이부(451)는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(451)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(451)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.

이동 단말기(400)의 구현 형태에 따라 디스플레이부(451)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(400)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(451)와 터치 동작을 감지하는 센서(이하 '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(451)는 출력 디바이스 이외에 입력 디바이스로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(451)의 특정 부위에 가해진 압력 또는 디스플레이부(451)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(480)로 전송한다. 이로써, 제어부(480)는 디스플레이부(451)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(441)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접 센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향출력모듈(452)은, 호신호 수신, 통화 모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(410)로부터 수신되거나 메모리(460)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(452)은 이동 단말기(400)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(452)에는 리시버(receiver), 스피커(speaker), 부저(buzzer) 등이 포함될 수 있다.

알람부(453)는, 이동 단말기(400)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(453)는, 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(451)나 음성 출력 모듈(452)을 통해서도 출력될 수 있어서, 그들(451,452)은 알람부(453)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(454)은, 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(454)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(454)이 발생하는 진동의 세기와 패턴 등은 제어 가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. 햅틱 모듈(454)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉/온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(454)은, 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(454)은, 이동 단말기(400)의 구성 태양에 따라 2개 이상이 구비될 수 있다.

메모리(460)는, 제어부(480)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰 북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(460)는 상기 터치스크린 상의 터치 입력 시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(460)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(400)는 인터넷(internet) 상에서 상기 메모리(460)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(470)는, 이동 단말기(400)에 연결되는 모든 외부 디바이스와의 통로 역할을 한다. 인터페이스부(470)는 외부 디바이스로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(400) 내부의 각 구성 요소에 전달하거나, 이동 단말기(400) 내부의 데이터가 외부 디바이스로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 디바이스를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O 포트, 이어폰 포트 등이 인터페이스부(470)에 포함될 수 있다.

식별 모듈은 이동 단말기(400)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 디바이스(이하 '식별 디바이스')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서, 식별 디바이스는 포트를 통하여 이동 단말기(400)와 연결될 수 있다.

인터페이스부(470)는, 이동 단말기(400)가 외부 크래들(cradle)과 연결될 때, 상기 크래들로부터의 전원이 상기 이동 단말기(400)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기로 전달되는 통로가 될 수 있다. 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은, 이동 단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(480)는, 통상적으로 이동 단말기(400)의 전반적인 동작을 제어한다. 제어부(480)는 예를 들어, 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(480)는, 멀티미디어 재생을 위한 멀티미디어 모듈(481)을 구비할 수도 있다. 멀티미디어 모듈(481)은, 제어부(480) 내에 구현될 수도 있고, 제어부(480)와 별도로 구현될 수도 있다. 제어부(480)는, 터치-스크린상에서 이루어지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식(pattern recognition) 처리를 행할 수 있다.

전원 공급부(490)는, 제어부(480)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 디바이스로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs(application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays, 프로세서, 제어기, 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛(unit) 중 적어도 하나를 이용하여 구현될 수 있다. 일부 경우에 본 명세서에서 설명되는 실시 예들이 제어부(480) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여 진 소프트웨어 애플리케이션으로 소프트웨어 코드(software code)가 구현될 수 있다. 여기서, 소프트웨어 코드는, 메모리(460)에 저장되고, 제어부(480)에 의해 실행될 수 있다.

한편, 사용자가 주로 손에 쥐고 사용하는 차원을 넘어서, 신체에 착용할 수 있는 웨어러블 디바이스는, 본 명세서에서 디지털 디바이스 또는 외부 디바이스로 동작 또는 기능할 수 있다. 이러한 웨어러블 디바이스에는 스마트 워치(smart watch), 스마트 글래스(smart glass), HMD(head mounted display) 등이 있다.

도 1에 도시된 바와 같이, 웨어러블 디바이스는 다른 디바이스와 데이터를 상호 교환(또는 연동)할 수 있다. 근거리 통신 모듈(414)은, 이동 단말기(400) 주변에 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(480)는 감지된 웨어러블 디바이스가 이동 단말기(400)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(400)에서 처리되는 데이터의 적어도 일부를, 근거리 통신 모듈(414)을 통하여 웨어러블 디바이스로 전송할 수 있다. 따라서, 사용자는 이동 단말기(400)에서 처리되는 데이터를 웨어러블 디바이스를 통하여 이용할 수 있다. 예를 들어, 이동 단말기(400)에 전화가 수신된 경우 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(400)에 메시지가 수신된 경우 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인할 수 있다.

도 5는 본 발명의 다른 실시 예에 따른 디지털 디바이스 또는 외부 디바이스를 도시한 블록도이다.

도 5를 참조하면, 와치 타입의 이동 단말기 즉, 스마트 워치(500)는 디스플레이부(551)를 구비하는 본체(501) 및 본체(501)에 연결되어 손목에 착용 가능하도록 구성되는 밴드(502)를 포함한다. 일반적으로 스마트 워치(500)는 도 4의 이동 단말기(400)의 특징 또는 그와 유사한 특징을 포함할 수 있다.

본체(501)는 외관을 형성하는 케이스를 포함한다. 도시된 바와 같이, 케이스는 각종 전자부품들을 수용하는 내부 공간을 마련하는 제1 케이스(501a) 및 제2 케이스(501b)를 포함할 수 있다. 다만, 본 발명은 이에 한정되는 것은 아니고, 하나의 케이스가 상기 내부 공간을 마련하도록 구성되어 유니 바디의 이동 단말기(500)가 구현될 수도 있다.

스마트 워치(500)는 무선 통신이 가능하도록 구성되며, 본체(501)에는 상기 무선 통신을 위한 안테나가 설치될 수 있다. 한편, 안테나는 케이스를 이용하여 그 성능을 확장시킬 수 있다. 예를 들어, 도전성 재질을 포함하는 케이스가 안테나와 전기적으로 연결되어 그라운드 영역 또는 방사 영역을 확장시키도록 구성될 수 있다.

본체(501)의 전면에는 디스플레이부(551)가 배치되어 정보를 출력할 수 있으며, 디스플레이부(551)에는 터치센서가 구비되어 터치 스크린으로 구현될 수 있다. 도시된 바와 같이, 디스플레이부(551)의 윈도우(551a)는 제1 케이스(501a)에 장착되어 제1 케이스(501a)와 함께 단말기 바디의 전면을 형성할 수 있다.

본체(501)에는 음향 출력부(552), 카메라(521), 마이크로폰(522), 사용자 입력부(523) 등이 구비될 수 있다. 디스플레이부(551)가 터치 스크린으로 구현되는 경우, 사용자 입력부(523)로 기능할 수 있으며, 이에 따라 본체(501)에 별도의 키가 구비되지 않을 수 있다.

밴드(502)는 손목에 착용되어 손목을 감싸도록 이루어지며, 착용이 용이하도록 플렉시블 재질로 형성될 수 있다. 그러한 예로서, 밴드(502)는 가죽, 고무, 실리콘, 합성수지 재질 등으로 형성될 수 있다. 또한, 밴드(502)는 본체(501)에 착탈 가능하게 구성되어, 사용자가 취향에 따라 다양한 형태의 밴드로 교체 가능하게 구성될 수 있다.

한편, 밴드(502)는 안테나의 성능을 확장시키는 데에 이용될 수 있다. 예를 들어, 밴드에는 안테나와 전기적으로 연결되어 그라운드 영역을 확장시키는 그라운드 확장부(미도시)가 내장될 수 있다.

밴드(502)에는 파스너(fastener; 502a)가 구비될 수 있다. 파스너(502a)는 버클(buckle), 스냅핏(snap-fit)이 가능한 후크(hook) 구조, 또는 벨크로(velcro; 상표명) 등에 의하여 구현될 수 있으며, 신축성이 있는 구간 또는 재질을 포함할 수 있다. 본 도면에서는, 파스너(502a)가 버클 형태로 구현된 예를 제시하고 있다.

도 6은 본 발명의 일 실시 예에 따른 디지털 디바이스 제어를 위한 제어 수단을 도시한 도면이다.

디지털 디바이스(600)를 제어하기 위해 상기 디지털 디바이스(600) 상에 구비된 프론트 패널(front panel)(미도시)이나 제어 수단(입력 수단)이 이용된다.

한편, 제어 수단은 유, 무선 통신 가능한 사용자 인터페이스 디바이스(UID; User Interface Device)로써, 주로 디지털 디바이스(600)의 제어 목적으로 구현된 리모컨(610), 키보드(630), 포인팅 디바이스(620), 터치패드(touch-pad) 등이 포함되나, 상기 디지털 디바이스(600)에 연결된 외부 입력 전용의 제어 수단 역시 포함될 수 있다. 그 밖에, 디지털 디바이스(600) 제어 목적이 아니나 모드 전환 등을 통해 상기 디지털 디바이스(600)를 제어하는 스마트폰, 태블릿 PC 등 이동 단말기 등도 제어 수단에 포함된다. 다만, 본 명세서에서는 편의상 포인팅 디바이스(pointing device)를 일 실시 예로 하여 설명하나, 이에 한정되는 것은 아니다.

입력 수단은, 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), RS 등의 통신 프로토콜을 필요에 따라 적어도 하나 이상 채용하여 디지털 디바이스와 통신 가능하다.

리모컨(610)은, 디지털 디바이스(600) 제어를 위해 필요한 다양한 키 버튼들이 구비된 통상의 입력 수단을 말한다.

포인팅 디바이스(620)는, 자이로 센서(Gyro Sensor) 등을 탑재하여 사용자의 움직임, 압력, 회전 등에 기초하여 디지털 디바이스(600)의 화면상에 대응되는 포인터(pointer)를 구현하여 상기 디지털 디바이스(600)에 소정 제어 명령을 전달한다. 이러한 포인팅 디바이스(620)는, 매직 리모컨, 매직 컨트롤러 등 다양한 이름으로 명명될 수 있다.

키보드(630)는, 디지털 디바이스(600)가 종래 방송만을 제공하던 것을 넘어 지능형 통합 디지털 디바이스로서 웹 브라우저, 애플리케이션, SNS(Social Network Service) 등 다양한 서비스를 제공함에 따라 종래 리모컨(610)만으로는 제어가 쉽지 않아 이를 보완하여 PC의 키보드와 유사하게 구현하여 텍스트 등의 입력 편의를 도모하기 위해 구현되었다.

한편, 리모컨(610), 포인팅 디바이스(620), 키보드(630) 등 제어수단은, 필요에 따라 터치패드를 구비함으로써 텍스트 입력, 포인터 이동, 사진 내지 동영상의 확대/축소 등 더욱 편리하고 다양한 제어 목적에 이용할 수 있다.

이하에서는 첨부된 도면들을 참조하여 본 발명에 따라 디지털 디바이스에서 애플리케이션 데이터를 처리에 관한 다양한 실시 예(들)을 더욱 상세하게 설명한다.

디지털 디바이스의 하드웨어적인 성능 개선, 전력 소모, 온도 등은 한계가 있다. 이는 특히, 고사양의 애플리케이션에 대한 니즈가 증가하고 있는 현실에서는 더욱 문제가 되고 있다. 따라서, 이를 해소하기 위해 고성능의 디지털 디바이스를 구매하는 것은 한계가 있을 수밖에 없다.

이러한 문제를 해소하기 위해, 디지털 디바이스는 애플리케이션 데이터 예를 들어, 상기 애플리케이션에 따른 이미지 프레임들을 처리함에 있어서, 일부 이미지 프레임의 스킵(skip)하는 등 QoS(Quality of Service) 감소 방식 등이 존재하나, 이러한 경우 애플리케이션 재생 시에 플리커링(끊김, flickering) 현상이나 래깅(늦게 출력되는, lagging) 현상 등이 발생하여 전체적인 애플리케이션 재생의 퀄리티를 떨어뜨릴 수밖에 없다.

이하 본 명세서에서는 상술한 하드웨어 성능 개선 내지 구성 추가나 이미지 프레임을 스킵 등의 방법이 아닌 소프트웨어적인 처리를 통해 애플리케이션의 퀄리티를 유지 내지 개선하는 방법에 대하여 다양한 실시 예(들)을 설명한다.

본 발명에서는, FRUC(Frame Rate Up-Conversion) 방법을 일 예로 하여 설명한다. 이러한 FRUC 방법은 디지털 디바이스의 이미지 프레임을 처리하거나 디스플레이하는 GPU(Graphic Processing Unit), CPU(Central Processing Unit), 비디오 디코딩(Video Decoding), 이미지 신호 처리(Image Signal Processing) 등에서 이용될 수 있다.

본 발명에 따른 FRUC 방법은 모션 벡터(motion vector)를 이용한 렌더링 방식과 타일 렌더링 방식(tile rendering method) 중 적어도 하나를 이용할 수 있다. 전자의 모션 벡터를 이용한 렌더링 방식은, 이미지 프레임 내 오브젝트의 움직임을 추정하고 이를 이용하여 새로운 이미지 프레임을 생성하는 방식이다. 후자의 타일 렌더링 방식은, 이미지 프레임을 타일 단위로 처리하고, 상기 처리된 타일 데이터를 이용하는 방식이다.

이하에서는, 본 발명의 이해를 돕고 설명의 편의를 위해, 상기 디지털 디바이스는 모바일 디바이스를 일 예로 하고, 상기 FRUC 방법은 타일 렌더링 방식을 일 예로 하여 설명하나, 이에 한정되지 않는다. 본 발명에 따르면, 디바이스의 성능, 전력, 온도 등의 제약에도 불구하고 모바일 디바이스에서 고사양의 애플리케이션 데이터를 처리할 수 있다.

도 7은 본 발명의 일 실시 예에 따른 디지털 디바이스에서 애플리케이션 데이터 처리 방법을 설명하기 위해 도시한 도면이고, 도 8은 본 발명의 다른 실시 예에 따른 디지털 디바이스에서 애플리케이션 데이터 처리 방법을 설명하기 위해 도시한 도면이다.

일반적으로, 이미지 처리부에서의 전력 소모는, 애플리케이션의 이미지 프레임을 처리하기 위한 프레임 레이트(frame rate)에 따른 상기 이미지 처리부의 워크로드(workload) 증감에 따라 달라진다. 다시 말해, 프레임 레이트가 증가하면, 이미지 처리부의 전력 소모량을 증가하게 된다. 이는 모바일 디바이스와 같이, 소모 전력에 민감한 디바이스에서는 중요한 문제로, 하드웨어의 성능, 소모전력, 온도 등을 고려할 수밖에 없어, 제약사항이 된다. 그러므로 무조건 디바이스의 하드웨어의 성능을 개선하는 것만이 해결책은 아니므로, 경우에 따라 하드웨어적인 성능 부족으로 인해 플리커링이나 래깅 현상이 발생하게 되는 것이다.

그러므로 디바이스는, 비주얼 퀄리티(Visual Quality)를 사용자가 만족할 수 있는 수준으로 제공할 수 있다면, 프레임 레이트가 낮을수록 이미지 처리부의 워크로드가 감소되고, 이를 통해 소모 전력을 세이빙(saving)할 수 있다. 다시 말해, 전술한 바와 같이, 하드웨어적인 이미지 프레임 렌더링 성능 부족에 따른 퀄리티 감소, 플리커링, 래깅 등으로 인해 QoS가 낮아진 경우에도, 이미지 처리부의 하드웨어 성능 개선은 소모 전력의 증가 등의 부수적인 문제나 고려사항이 있는바, 본 발명에서는 이러한 하드웨어적인 부분에 대한 고려는 배제하고 소프트웨어적으로 FRUC 방식 즉, 타일 렌더링 방식을 통하여 사용자의 체감 성능을 개선시키고자 한다.

예컨대, 프레임 레이트가 낮은 경우에는, 주로 출력 이미지에 플리커링 현상이 자주 발생하게 되는데, 이러한 경우에는 이미지 프레임과 이미지 프레임 사이에 중간 이미지 프레임을 삽입하여 어느 정도 해소는 가능하다.

전술한 바와 같이, 본 발명은 타일 렌더링 방식을 이용한다. 여기서, 상기 타일 렌더링 방식이라 함은, 이미지 프레임 전체를 한꺼번에 렌더링하는 것이 아니라, 상기 이미지 프레임을 미리 정한 개수의 타일 단위로 구분하고, 타일 단위로 분할하여 처리하는 방식이다. 이러한 타일 렌더링 방식에 의하면, 메모리의 대폭(bandwidth), 데이터 캐싱(data caching) 등의 효율을 높일 수 있다. 한편, 타일 렌더링 방식에서는, 타일 단위로 최종 픽셀(pixel)까지 이미지 처리부의 내부에서 렌더링하고, 이후 외부 메모리(예를 들어, DRAM)에 할당된 프레임 버퍼에 저장한다.

도 7a는, 제1 오브젝트(710)와 제2 오브젝트(720)가 도시되었고, 도 7b는 상기 제1 오브젝트와 제2 오브젝트(720)가 포함된 타일 데이터(730)를 도시하였다. 상기 도 7b의 타일 데이터(730)는 타일 버퍼에 저장되며, 이러한 타일 데이터는 도 7c의 프레임 버퍼에 저장되는 전체 이미지 프레임(740) 내 타일 데이터(730-1)와 동일한 데이터이다. 다시 말해, 이미지 프레임에 대한 최종 렌더링이 완료되지 않은 경우에도, 하나의 이미지 프레임에 대하여 이미 처리 완료된 하나 또는 그 이상의 타일들에 포함된 픽셀 데이터는 최종 데이터이다. 따라서, 이러한 타일 데이터 또는 픽셀 데이터는 이미 처리 완료가 되었으므로, 상기 이미지 프레임 전체에 대한 처리가 완료되기 전이라도 이용할 수 있게 된다. 따라서, 본 발명에서는, 이러한 타일 또는 픽셀 데이터를 이용하여 래깅 등의 현상 없이도 이미 렌더링된 N 이미지 프레임과 현재 렌더링 중인 N+1 이미지 프레임 사이에서 새로운 이미지 프레임을 생성할 수 있다.

본 발명에 따른 FRUC 방법 즉, 타일 렌더링 방법은 기본적으로 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에 타일 렌더링된 데이터에 기초하여 하나 또는 그 이상의 새롭게 생성한 이미지 프레임들을 보간(interpolating) 또는 삽입(inserting)(이하 보간이라 함)하는 방법이다. 상기 이미지 프레임 보간 과정에서, 이미지 프레임 타일 렌더링 처리 과정에서 모션 벡터(motion vector) 또는/및 에지 디텍션(edge detection)을 이용하는 방법이 있다. 다만, 편의상 이하 본 명세서에서는 에지 디텍션을 이용하는 방법을 예로 하여 설명한다.

상기 에지 디텍션 방식은 이미지 프레임 내에 오브젝트 특히, 다이내믹 오브젝트에 대하여 이용된다. 다시 말해, 다이내믹 오브젝트 영역은 주로 에지 디텍션이 된다는 특성을 이용하는 것이다.

예를 들어, 본 발명에서는, 에지 추출 장치로부터 획득된 렌더링된 이미지 프레임의 에지 데이터에 기초하여 프레임 내 오브젝트의 움직임 여부를 예측한다. 즉, 렌더링된 이미지 프레임의 에지 데이터에 기초하여 프레임 내 오브젝트에 대한 움직임 예측 데이터를 생성한다. 한편, 디지털 디바이스는, 상기 움직임 예측 데이터 또는 에지 데이터에 기초하여 상기 오브젝트의 타입 데이터를 더 생성할 수 있다. 상기 오브젝트의 타입으로는 솔리드 피규어(solid figure; 입체 도형), 콤플렉스 피규어(complex figure; 복합적 도면), 텍스트(text) 등이 포함될 수 있다.

디지털 디바이스는, 상기 생성된 움직임 예측 데이터 또는/및 타입 데이터에 기초하여, 다음 이미지 프레임의 타일들에 대한 렌더링 우선 순위(priority)를 결정할 수 있다.디지털 디바이스는, 해당 이미지 프레임에 대하여 상기 결정된 타일 렌더링 우선순위 데이터를 이미지 처리부에 전송 내지 업데이트하고, 이미지 처리부는 상기 전송 내지 업데이트된 타일 렌더링 우선순위 데이터에 기초하여 해당 이미지 프레임의 타일들을 렌더링한다. 이렇게 렌더링된 타일 데이터는 타일 버퍼에 저장이 될 수 있다. 그리고, 이미지 프레임 내 모든 타일들에 대한 렌더링이 완료되면, 프레임 버퍼로 저장한다. 즉, 타일 버퍼에는 타일 단위로 렌더링된 타일 데이터가 일시 저장되고, 프레임 버퍼에는 이미지 프레임 단위로 렌더링된 이미지 프레임 데이터가 일시 저장된다.

한편, 디지털 디바이스는, 타일 버퍼에 미리 정한 임계치를 설정할 수 있다. 이러한 임계치는 예컨대, 이미지 프레임 단위로 달라질 수 있다. 이때, 상기 설정 과정에서, 해당 이미지 프레임에 대한 움직임 예측 데이터 또는/및 타입 데이터가 참조될 수 있다.

디지털 디바이스는, 타일 버퍼에 저장되는 해당 이미지 프레임의 타일 데이터가 임계치를 초과하였는지 판단한다. 디지털 디바이스는, 상기 판단 결과, 만약 상기 타일 버퍼에 저장된 타일 데이터의 개수가 상기 임계치를 초과한 경우에는, 이미 모든 타일들에 대해 렌더링이 완료되어 프레임 버퍼에 저장된 이전 이미지 프레임과 상기 타일 버퍼에 저장된 타일 데이터를 합성하여 새로운 이미지 프레임을 생성한다. 이때, 디지털 디바이스는, 상기 타일 버퍼에 저장된 각 타일 데이터가 이미지 프레임 내 위치를 알고 있기 때문에, 상기 이전 이미지 프레임과의 합성시에, 상기 이전 이미지 프레임의 타일들에 상기 타일 버퍼로부터 추출된 해당 타일 데이터를 오버라이트(overwrite)하여 상기 새로운 이미지 프레임을 생성할 수 있다.

한편, 상기 새로운 이미지 프레임 생성은, 전술한 타일 버퍼에 저장된 타일 데이터 개수가 임계치를 초과한 경우뿐만 아니라 이미지 프레임을 디스플레이할 타이밍에 도달한 경우에도 이루어질 수 있다.

다시 말해, 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에는 상기 합성에 따라 하나 또는 그 이상의 새로운 이미지 프레임들이 생성될 수 있다.

그리고, 상기 생성된 새로운 이미지 프레임(들)은 상기 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에 디스플레이된다.

도 8a를 참조하면, 이미지 프레임(Frame N)(810)에 대하여 모든 타일들에 대한 렌더링이 완료되면, 디지털 디바이스는 상기 이미지 프레임(810)에 대하여, 에지 디텍터를 이용하여 에지 디텍션을 수행한다. 상기 에지 디텍션 데이터(812)로부터, 디지털 디바이스는 다음 이미지 프레임(Frame N+1)(820)의 타일들에 대한 타일 렌더링 우선순위(822)를 계산한다. 이때, 상기 계산되는 타일 렌더링 우선순위(822)는, 에지 디텍션 데이터 중 오브젝트에 대한 타일(들)이 우선순위를 가지도록 할 수 있다. 디지털 디바이스는 상기와 같이, 타일 렌더링 우선순위(822)가 결정되면, 상기 타일 렌더링 우선순위(822)에 기초하여, 해당 이미지 프레임(820)의 타일들에 대해 렌더링한다.

도 8a를 참조하여, 이미지 프레임(820)의 타일 렌더링 시퀀스를 보면, 먼저, 타일 렌더링 우선순위에 따라 타일들이 렌더링되는 것을 알 수 있다. 디지털 디바이스는 이렇게 타일 렌더링된 타일 데이터를 타일 버퍼에 저장하고, 상기 타일 버퍼에 저장된 타일 데이터의 개수가 상술한 임계치를 초과한 경우에는, 도 8b와 같이 이전 이미지 프레임의 타일들과 상기 타일 버퍼에 저장된 타일 데이터를 타일 컴포지터(tile compositor)를 이용하여 합성하여, 도 8c와 같이 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에 새로운 이미지 프레임(Frame N+0.5)을 생성한다.

도 8a를 참조하면, 이미지 프레임(820)에 대한 모든 타일들에 대해 렌더링이 완료되면, 전술한 바와 같이, 에지 디텍션을 수행하고 다음 이미지 프레임에 대한 타일 렌더링 우선순위를 결정한다. 도 8a를 참조하면, 이미지 프레임(Frame N) 렌더링 후에 결정된 다음 이미지 프레임(Frame N+1)의 타일 렌더링 우선순위와 이미지 프레임(Frame N+1) 렌더링 후에 결정된 다음 이미지 프레임(Frame N+2)의 타일 렌더링 우선순위가 달라졌음을 알 수 있다. 이는 각 이미지 프레임의 오브젝트의 움직임 예측 데이터, 타입 데이터 등에 의해 달라진다.

도 9는 본 발명의 일 실시 예에 따라 이미지 프레임을 처리하는 디지털 디바이스의 구성 블록도를 도시한 도면이고, 도 10은 도 9의 이미지 처리부의 상세 구성 블록도이다.

도 9와 10은, 디지털 디바이스에서 특히, 본 발명과 관련하여, 이미지 프레임들을 렌더링하는 처리 구성들만을 도시한 것이다.

도 9를 참조하면, 디지털 디바이스는, 이미지 처리부(910), 에지 데이터 처리부(920), 타일 데이터 처리부(930), 합성부(940), 제어부(950) 등을 포함하여 구성된다.

이미지 처리부(910)는 애플리케이션(910), 그래픽스 라이브러리(graphics library), 드라이버(drvier), GPU(하드웨어) 등을 포함하여, 이미지 프레임을 타일 단위로 이미지 프로세싱 즉, 렌더링한다.에지 데이터 처리부(920)는 상기 이미지 처리부(910)에서 렌더링된 이미지 프레임(Frame N)에 대한 에지 데이터를 이용하여 이미지 프레임들 사이의 변화량과 구성 정보 등을 예측하고, 그에 관한 데이터를 생성하여 타일 데이터 처리부(930)로 전달한다.

에지 데이터 처리부(920)는, 에지 디텍터(922), 모션 예측부(924), 오브젝터 분류부(926) 등을 포함하여 구성된다.

상기 에지 디텍터(922)는, 상기 이미지 처리부(910)에서 렌더링된 이미지 프레임(Frame N)으로부터 에지 디텍딩을 통해 에지 데이터를 생성한다. 도 10을 참조하면, 하나의 이미지 프레임이 9개의 타일들(타일 넘버 1-9)로 분할할 수 있다. 다만, 이는 설명의 편의를 위한 것으로 이러한 타일들의 개수에 한정되는 것은 아니다. 상기 에지 디텍터(922)는 렌더링된 이미지 프레임의 1번 타일부터 순차로 각 타일에 대한 픽셀(Pixel) 데이터를 입력받아 픽셀 기반의 에지 디텍션을 수행한다. 상기 이미지 프레임은 타일 단위로 렌더링되며, 에지 디텍터(922)는 전술한 바와 같이, 먼저 렌더링된 타일 결과 데이터(타일 넘버 1부터)를 먼저 처리하여 지연 없이 에지 검출할 수 있다(FIFO: First Input First Output). 다만, 시스템 환경에 따라 버퍼를 활용하여 복수 개의 타일 단위로 에지를 추출할 수도 있다. 상기 에지 디텍터(922)는 에지 데이터를 타일 인덱스별로 모션 히스토그램 데이터베이스(DB)(1010)에 저장한다.

상기 모션 예측부(924)는, 상기 생성된 에지 데이터에 기초하여 이미지 프레임들 사이의 변화량을 예측하여 모션 예측 데이터를 생성한다. 도 10을 참조하면, 모션 예측 데이터는 노멀라이즈된 값으로 표현하고 있는데, 이는 모션 여부에 따라 0에서 1 사이의 값으로 표현될 수 있다. 다만, 이는 설명의 편의를 위한 것으로, 이러한 수치나 방식에 한정되는 것은 아니다. 상기 모션 예측부(924)는 상기 모션 히스토그램 데이터베이스(DB)(1010)에 타일 인덱스(tile index) 별로 기록된 에지의 히스토그램을 이용하여 타일 단위로 모션 변화량을 예측한다. 매 이미지 프레임마다 N번째 프레임의 타일과 이전 N-1번째 이미지 프레임의 동일 인덱스를 가지는 타일에서 검출된 에지 변화량과 해당 인덱스의 타일의 변화량 히스토그램 사이의 상대적 차이를 비교하여 프레임 영역별 변화의 정도를 예측한다.

상기 오브젝트 분류부(926)는, 상기 생성된 에지 데이터 및/또는 모션 예측 데이터에 기초하여 이미지 프레임 내 오브젝트의 구성 정보 즉, 상기 오브젝트의 타입을 분류하여 타입 정보를 생성한다. 도 10을 참조하면, 오브젝트 분류부(926)는, 타일 내에 수직 및/또는 수평 에지 정보량을 분석하여 렌더링된 타일의 결과물을 솔리드 피규어/콤플렉스 피규어/텍스트(solid figure/complex figure/text) 등의 타입으로 분류한다. 이러한 타입 데이터는 타일 단위로 생성될 수 있다. 한편, 상기 분류된 정보는 데이터베이스(DB)(미도시)에 저장되며 이는 타일 우선순위 결정에 참조될 수 있다.

상기 타일 데이터 처리부(930)는, 상기 모션 예측부(924)에서 생성된 모션 예측 데이터 및/또는 상기 오브젝트 분류부(926)에서 생성된 타입 정보를 수신하여, 이미지 프레임(Frame N+1) 내 렌더링할 타일들의 우선순위를 결정한다. 이를 위해, 상기 타일 데이터 처리부(930)는, 타일 렌더링 우선순위 계산부(934), 타일 렌더링 우선순위 갱신부(936) 등을 포함한다.

타일 렌더링 우선순위 계산부(934)는, 수신되는 모션 예측 데이터, 타입 정보 등에 기초하여, 이미지 프레임(Frame N+1) 내 타일들의 렌더링 우선순위를 계산한다.

그리고, 타일 렌더링 우선순위 갱신부(936)는 상기 타일 렌더링 우선순위 계산부(934)에서 계산된 이미지 프레임(Frame N+1)의 타일 렌더링 우선순위 데이터가 기 생성된 타일 렌더링 우선순위 데이터와 비교하여, 차이가 있으면 이를 갱신한다. 이렇게 갱신된 타일 렌더링 우선순위 데이터는 GPU로 전달되어, 이미지 프레임(Frame N+1)의 타일들에 대한 렌더링을 수행한다.

GPU는, 이미지 프레임(Frame N+1)에 대하여, 타일 렌더링 우선순위에 따라 렌더링된 타일 데이터를 타일 버퍼로 계속하여 저장한다. 상기 타일 버퍼는, 이미지 프레임(Frame N+1) 내 모든 타일들에 대하여 렌더링이 완료되면, 이를 프레임 버퍼로 전달하여 저장한다.

한편, 합성부(940)는, 상기 타일 버퍼에 저장된 이미지 프레임(Frame N+1)의 타일 데이터가 미리 정한 임계치를 초과하면, 프레임 버퍼에 저장된 이전 이미지 프레임(Frame N)의 데이터와 상기 타일 버퍼에 저장된 이미지 프레임(Frame N+1)의 타일 데이터를 합성하여, 새로운 이미지 프레임(Frame N+0.5)을 생성하여 프레임 버퍼에 저장한다.

한편, 상기 각 구성들은 모두 제어부(950)에 의해 제어될 수 있다. 상기 제어부(950)는 디지털 디바이스의 CPU일 수도 있고, 별도로 구성된 이미지 처리 제어 구성일 수도 있다.

도 11과 12는 본 발명의 일 실시 예에 따라 모션 예측 데이터에 기초하여 다음 이미지 프레임의 타일들에 대한 렌더링 우선순위를 계산하는 방식을 설명하기 위해 도시한 도면이다.

전술한 바와 같이, 상기 타일 데이터 처리부(930)는, 모션 예측 데이터 및/또는 타입 정보를 수신하여, 이미지 프레임(Frame N+1) 내 렌더링할 타일들의 우선순위를 결정한다.

이를 위해, 상기 타일 데이터 처리부(930)는, 타일 렌더링 우선순위 계산부(934), 타일 렌더링 우선순위 갱신부(936) 등을 포함한다. 타일 렌더링 우선순위 계산부(934)는, 수신되는 모션 예측 데이터, 타입 정보 등에 기초하여, 이미지 프레임(Frame N+1) 내 타일들의 렌더링 우선순위를 계산한다. 그리고, 타일 렌더링 우선순위 갱신부(936)는 상기 타일 렌더링 우선순위 계산부(934)에서 계산된 이미지 프레임(Frame N+1)의 타일 렌더링 우선순위 데이터가 기 생성된 타일 렌더링 우선순위 데이터와 비교하여, 차이가 있으면 이를 갱신한다. 다시 말해, 타일 렌더링 우선순위 갱신부(936)는, 이미 렌더링 진행 중인 타일(들)은 제외하고, 나머지 타일(들)에 대한 렌더링 우선순위를 재지정하는 것이다. 이 경우, 이미지 처리부(910)는, 렌더링을 멈추거나 지연시키지 않는다. 이렇게 갱신된 타일 렌더링 우선순위 데이터는 GPU로 전달되어, 이미지 프레임(Frame N+1)의 타일들에 대한 렌더링을 수행한다.

도 11a를 참조하면, 수평 성분 에지의 경우에는, 오브젝트(1110)가 수평 이동할 경우에, 수직 이동 대비 타일(1120) 변화량이 많을 가능성이 높기 때문에, 도 11b와 같이, 해당 에지가 포함된 타일의 좌우 타일들(1130, 1140)에 대한 업데이트가 필요하다. 여기서, 도 11b와 같이, 지정할 좌우 범위는, 에지의 강도에 따라 가변적으로 지정될 수 있다. 다만, 우선순위는 원래 위치에서 멀어질수록 이동하였을 확률이 낮아지기 때문에 그에 비례하여 우선순위도 낮아질 수 있다.

한편, 수직 에지의 경우에는, 상술한 수평 성분에 대한 지정 방식과 동일한 방식으로 이루어지되, 그 범위가 단지 상하 타일들에 대해 지정되는 것이 상이하다.

도 12a의 경우, 타일 내에 수평 성분 에지에 비하여, 수직 성분 에지가 상대적으로 에지의 강도가 약하므로, 수직 성분 타일들에 비하여 수평 성분 타일들에 대해 우선순위를 먼저 할당할 수 있다. 따라서, 도 12a와 같이, 좌우 타일들을 대비하면, 타일(우선순위 1)을 기준으로 좌우 타일들의 에지 강도가 동일하다. 따라서, 이 경우에는 좌우 타일들의 우선순위를 동일하게 지정할 수 있다. 한편, 다음으로 수직 성분 에지들에 대해 우선순위를 할당할 수 있는데, 이 경우에 상 성분보다는 하 성분 타일들에 에지 데이터가 디텍션되므로, 상하 타일들에 동일한 우선순위가 할당되는 것이 아니라 에지 데이터가 디텍트되는 하 성분의 타일들에 우선순위를 할당한다. 한편, 에지 데이터가 존재하지 않는 또는 약한 타일들에 대해서는 우선순위를 동일하게 주어 일괄적인 처리를 할 수도 있고 그 중에서도 기준이 되는 타일과의 거리 내지 위치나 오브젝트의 움직임 예측 등 다양한 데이터에 기초하여 각 타일에 대하여 우선순위를 결정할 수 있다.

도 12b와 같이, 타일 내에 수평 성분 에지와 수직 성분 에지가 복잡하게 뒤섞인 경우에는 텍스트 패턴으로 판별할 수 있다. 이와 같이, 텍스트 패턴인 경우에는, 일부 타일(들)만 업데이트하는 경우에는 그 의미를 파악하기 어려울 수 있으므로, 포함된 모든 타일들을 지정할 수 있다. 또한, 이 경우, 지정된 각 타일의 우선순위는 동일할 수 있다.

한편, 각 타일의 우선순위는 전술한 우선순위 계산 방식 이외에도 다양하게 정의할 수 있으며, 본 명세서에 개시되거나 설명된 바에 한정되는 것은 아니다. 한편, 상기 각 타일의 우선순위는, 사용자의 설정 등에 의해 특정 타일은 최우선순위가 될 수도 있다. 한편, 타일들에 대한 우선순위는 그 밖에, 우선순위가 높은 타일들과의 상대적인 위치 내지 거리 차도 참조할 수 있으나, 반드시 이에 한정되는 것은 아니다. 예컨대, 기준이 되는 타일과 반드시 이웃하는 타일이라고 하여 우선순위를 높게 할당할 필요는 없다. 따라서, 우선순위는 이미지 프레임 내에서 기준 타일과 이웃하거나 맞닿아 있지 않아도 우선순위 계산에 영향을 받지 않을 수도 있다.

도 13과 14는 본 발명의 일 실시 예에 따라 렌더링 진행 중 해당 이미지 프레임(Frame N+1)에서 우선 처리된 타일(들)과 이전 이미지 프레임(Frame N)을 이용하여 보간 이미지 프레임(impolated image frame)을 합성하는 방법을 설명하기 위해 도시한 도면이다.

전술한 바와 같이, 합성부(940)는, 타일 버퍼에 저장된 이미지 프레임(Frame N+1)의 타일 데이터(1320)가 미리 정한 임계치를 초과하면, 프레임 버퍼에 저장된 이전 이미지 프레임(Frame N)의 데이터(1310)와 상기 타일 버퍼에 저장된 이미지 프레임(Frame N+1)의 타일 데이터(1320)를 합성하여, 새로운 이미지 프레임(Frame N+0.5)을 생성하여 프레임 버퍼에 저장한다.

다시 말해, 합성부(940)는, 이전에 처리된 N번째 이미지 프레임의 데이터와 렌더링 진행 중인 N+1번째 이미지 프레임의 타일들의 결과물을 합성한다.

모든 이미지 프레임은 복수 개의 타일 단위로 세분화되어 처리되며 처리 완료된 각 타일은 프레임 버퍼에 저장된다. 처리된 N+1번째 이미지 프레임의 타일의 총 개수가 시스템에서 정의된 임계값에 도달하였을 때, N+1번째 이미지 프레임의 렌더링 지연 없이 N번째 프레임의 데이터와 합성한다.

상기 합성 시에는, 도 13에 도시된 바와 같이, 동일 인덱스의 타일(들) 사이의 프레임 변화량이 일정 비율 이상 차이 날 경우 해당 타일에 대한 합성을 스킵할 수도 있다. 예컨대, 이는 급격한 라이트닝(lighting), 모션 변화에 따른 아티팩트를 줄이기 위함이다.

또한, 타일 합성 시, 도 14a와 같이, 타일의 경계면에서 컬러(color), 모션 등의 급격한 차이 등으로 인한 절단면과 같은 심 아티팩트(Seam artifacts)(1410)가 발생할 수도 있다. 따라서, 이러한 심 아티팩트를 발생에 따른 문제를 해소하기 위해, 다양한 방식의 보간 기능을 지원할 수 있으며, 적응적 정보에 따라 선택이나 해제도 가능하다.

다시 말해, 타일 합성 시에는 무조건, 타일 인덱스를 참조하여 각 타일을 합성하는 것이 아니라 해당 타일에 대한 합성을 스킵할 것인지 업데이트할 것인지를 미리 동일 인덱스의 타일 사이의 이미지 프레임 변화량에 기초하여 판단 후에 결정하여, 그에 따를 수 있다.

한편, 디지털 디바이스는, 이미지 프레임들 사이의 이미지 프레임 변화량 예측 데이터, 프레임 구성(타입) 데이터 등과, 하드웨어 시스템 환경 정보를 기반으로 출력되는 이미지 프레임에 대한 FRUC 기능의 최적화 여부 즉, 활성/비활성, 보간 프레임 비율 등을 판단 또는 사용자가 직접 전역적 설정을 하여 FRUC 기능을 설정/해제 가능하다.

도 15는 본 발명의 일 실시 예에 따라 이미지 프레임 보간 방법을 설명하기 위해 도시한 도면이다.

도 15의 경우에 예컨대, 본 발명에 따른 이미지 프레임 보간을 통하여 소모 전력을 줄일 수 있다. 예컨대, 디지털 디바이스는, V-sync 제한을 통하여 이미지 처리부(GPU)의 프레임 레이트가 도 15a와 같이, 60fps를 초과하는 경우에는 전술한 바와 같이, 소모 전력을 줄일 수 있다.

이는 도 15b와 같이, 이미지 처리부의 렌더링 속도를 30fps로 낮추어 렌더링 후에 본 명세서에서 개시한 방식에 따라 이미지 프레임 보간을 통하여 프레임 레이트를 올리게 되면, 상기 렌더링 속도 낮춤에 따라 상기 이미지 처리부의 소모 전력을 절감할 수 있게 되는 것이다.

도 16은 본 발명의 다른 실시 예에 따라 이미지 프레임 보간 방법을 설명하기 위해 도시한 도면이다.

도 16은 전술한 도 15와 달리, 본 발명에 따른 이미지 프레임 보간을 통하여 QoS를 향상시킬 수 있다. 예컨대, 디지털 디바이스는, V-sync 제한 아래에서 이미지 처리부의 프레임 레이트가 도 16a와 같이, 60fps 미만인 경우에는 전술한 바와 같이, QoS를 향상시킬 수 있다.

이는 도 9나 10과 같은 구성을 통하여, 60fps 미만의 이미지 프레임들 사이에 본 발명에 따라 합성된 이미지 프레임(들)을 보간함으로써, QoS를 향상시키는 것이다.

한편, 본 명세서에서, 60fps, 30fps 등은 설명의 편의를 위하여, 예시한 것으로, 본 발명은 이러한 수치에 의해 제한되지 않는다.

도 17은 본 발명에 따라 실제 이미지를 처리하는 방식을 설명하기 위해 도시한 도면이다.

한편, 도 17은 상술한 본 발명에 따라 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에 타일 렌더링 방식을 이용하여 모션 예측 데이터, 타일 구성 데이터 등에 기초하여 합성을 통하여 보간 이미지 프레임(Frame N+0.5)를 생성한 이미지들을 예시하고 있다.

도 18은 본 발명의 일 실시 예에 따라 모션 예측 데이터에 기반하여 이미지 프레임(Frame N)과 이미지 프레임(Frame N+1) 사이에 보간될 이미지 프레임의 개수 결정을 설명하기 위해 도시한 도면이다.

도 18a는, 이미지 프레임(Frame N)(1810)과 이미지 프레임(Frame N+1)(1820) 사이에 보간될 이미지 프레임(1830)이 한 개인 경우를 도시한 것이다.

한편, 도 18b는, 이미지 프레임(Frame N)(1810)과 이미지 프레임(Frame N+1)(1820) 사이에 보간될 이미지 프레임(1840, 1850)이 두개 개인 경우를 도시한 것이다.

상기에서, 보간될 이미지 프레임의 개수는 예컨대, 항상 일정하게 미리 설정될 수도 있고, 매 이미지 프레임 사이마다 임의로 변경될 수도 있다. 즉, 적응적으로 상기 보간될 이미지 프레임의 개수가 결정될 수 있다. 이는 예를 들어, 모션 예측부에서 계산한 모션 예측 데이터에 기반하여 결정될 수 있다. 그 밖에, 에지 디텍터와 오브젝트 분류부의 데이터도 참조될 수 있다.

한편, 이러한 보간될 이미지 프레임의 개수 내지 노멀 이미지 프레임 대비 보간 이미지 프레임의 비율은, 예측된 프레임들 사이의 변화가 적을수록, 이미지 프레임의 구성이 복잡할수록, 텍스트 구성이 적을수록 상기 개수가 적거나 비율이 높아질 수 있다.

도 19는 본 발명의 일 실시 예에 따른 디지털 디바이스에서 데이터 처리 방법에 관한 순서도이다.

디지털 디바이스는, 애플리케이션 데이터를 수신하고(S1902), 상기 수신된 애플리케이션 데이터의 제1 이미지 프레임을 타일 렌더링한다(S1904).

디지털 디바이스는, 상기 타일 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 모션 예측 데이터를 생성하고(S1906), 상기 생성된 오브젝트의 모션 예측 데이터에 기초하여 제2 이미지 프레임의 타일들에 대한 렌더링 우선순위를 결정한다(S1908). 그리고 디지털 디바이스는 상기 결정된 타일 렌더링 우선순위에 기초하여 상기 제2 이미지 프레임의 타일들을 렌더링한다(S1910).

디지털 디바이스는, 상기 제2 이미지 프레임의 타일들 중 렌더링된 일부 타일들과 상기 렌더링 완료된 제1 이미지 프레임의 타일들을 합성하여 제3 이미지 프레임을 생성한다(S1912). 그리고 디지털 디바이스는 이미지 프레임들을 디스플레이한다(S1914).

상기에서, 제3 이미지 프레임은, 상기 제2 이미지 프레임보다 먼저 디스플레이될 수 있다. 상기에서, 제3 이미지 프레임은, 상기 제1 이미지 프레임과 제2 이미지 프레임 사이에 디스플레이될 수 있다. 상기 제3 이미지 프레임은, 상기 렌더링된 제2 이미지 프레임의 타일들의 개수가 임계치를 초과하면, 상기 렌더링된 제1 이미지 프레임의 타일들과의 타일 위치 기반으로 합성하여 생성될 수 있다.

상기에서, 에지 데이터는, 상기 렌더링된 제1 이미지 프레임의 픽셀 데이터를 이용하여 획득될 수 있다. 상기에서, 오브젝트의 모션 예측 데이터는, 각 이미지 프레임의 타일 인덱스 단위로 기록된 에지 히스토그램 데이터를 이용하여 획득될 수 있다.

상기에서, 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 종류와 속성을 포함한 오브젝트의 타입 데이터를 생성하는 단계를 더 포함하여 이루어질 수 있다. 상기에서, 오브젝트의 타입 데이터는, 타일 내에 수직 및 수평 에지 데이터를 분석하여, 렌더링된 타일의 결과물로부터 획득될 수 있다. 상기에서, 오브젝트의 타입 데이터는, 솔리드 피규어, 콤플렉스 피규어 및 텍스트 중 적어도 하나일 수 있다.

상기에서, 오브젝트의 모션 예측 데이터 및 타입 데이터에 기초하여, 상기 임계치를 결정하고, 상기 결정된 임계치에 따라 상기 제1 이미지 프레임과 제2 이미지 프레임 사이에 렌더링할 제3 프레임의 개수를 결정할 수 있다.

따라서, 상술한 본 발명의 다양한 실시 예들에 따르면, 애플리케이션 데이터를 처리하는 처리부뿐만 아니라 상기 처리부와 관련된 연계장치(들)의 하드웨어적인 성능 개선이나 구성 추가 없이도, 상기 애플리케이션 데이터의 QoS 등을 유지 또는 개선하여 처리할 수 있으며, 상기 애플리케이션 데이터를 소프트웨어적으로 처리하여 하드웨어적인 성능, 파워, 온도 등 디바이스 자체의 전반적인 환경을 개선하면서도 QoS 등 성능도 유지 또는 개선시킬 수 있고, 전술한 바와 같이 하드웨어 성능 개선이나 구성 추가에 의하지 않고 소프트웨어적으로 애플리케이션 데이터의 처리 성능을 유지 또는 개선함으로써 상기 하드웨어로 인한 비용 증가 부담을 최소화할 수 있으며, 그로 인한 사용자의 디바이스 만족도를 개선하여 디바이스 구매 욕구를 고취시킬 수 있다.

또한, 본 발명의 다양한 실시 예들에 따르면, 저전력, 저성능 등으로도 사용자에게 개선된 비주얼 퀄리티(Visual Quality)를 제공할 수 있고, 이미지 처리부의 하드웨어 한계 성능 이상을 요구하는 고사양의 애플리케이션에서도 QoS를 향상시킬 수 있으며, CPU 성능, 메모리 대폭, 디스플레이 등 연계 장치의 제약도 개선할 수 있을 뿐만 아니라 하드웨어 써멀(H/W Thermal), 전력 등의 환경 제약도 개선 시킬 수 있다. 이 경우, 이미지 처리부, CPU, 메모리 등의 로드를 낮추더라도 QoS를 보장할 수 있게 된다.

본 명세서에서 개시하는 디지털 디바이스 및 상기 디지털 디바이스에서 데이터 처리 방법은 상기 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

한편, 본 명세서에서 개시된 디지털 디바이스의 동작방법은 디지털 디바이스에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 디바이스를 포함한다. 프로세서가 읽을 수 있는 기록 매체의 예로는 ROM(Read Only Memory), RAM(Random Access Memory), CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장 디바이스 등이 있으며, 인터넷을 통한 전송 등과 같은 캐리어-웨이브(carrier-wave)의 형태로 구현되는 것도 포함한다. 또한, 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.

한편, 본 명세서에서는 첨부된 도면을 참조하여 설명하였으나, 이는 실시 예일 뿐 특정 실시 예에 한정되지 아니하며, 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 변형실시가 가능한 다양한 내용도 청구범위에 따른 권리범위에 속한다. 또한, 그러한 변형 실시들이 본 발명의 기술 사상으로부터 개별적으로 이해되어서는 안 된다.

201: 네트워크 인터페이스부 202: TCP/IP 매니저
203: 서비스 전달 매니저 204: SI 디코더
205: 역다중화부 206: 오디오 디코더
207: 비디오 디코더 208: 디스플레이부
209: 서비스 제어 매니저 210: 서비스 디스커버리 매니저
211: SI&메타데이터 데이터베이스 212: 메타데이터 매니저
213: 서비스 매니저 214: UI 매니저

Claims

디지털 디바이스에서 데이터 처리 방법에 있어서,
애플리케이션 데이터를 수신하는 단계;
상기 수신된 애플리케이션 데이터의 제1 이미지 프레임을 타일 렌더링하는 단계;
상기 타일 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 모션 예측 데이터를 생성하는 단계;
상기 생성된 오브젝트의 모션 예측 데이터에 기초하여 제2 이미지 프레임의 타일들에 대한 렌더링 우선순위를 결정하고, 상기 결정된 렌더링 우선순위에 기초하여 상기 제2 이미지 프레임의 타일들을 렌더링하는 단계;
상기 제2 이미지 프레임의 타일들 중 렌더링된 일부 타일들과 상기 렌더링 완료된 제1 이미지 프레임의 타일들을 합성하여 제3 이미지 프레임을 생성하는 단계; 및
상기 제1 이미지 프레임 내지 제3 이미지 프레임을 디스플레이하는 단계를 포함하여 이루어지는 디지털 디바이스에서 데이터 처리 방법.
제1항에 있어서,
상기 제3 이미지 프레임은,
상기 제2 이미지 프레임보다 먼저 디스플레이되는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제1항에 있어서,
상기 제3 이미지 프레임은,
상기 제1 이미지 프레임과 제2 이미지 프레임 사이에 디스플레이되는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제1항에 있어서,
상기 제3 이미지 프레임은,
상기 렌더링된 제2 이미지 프레임의 타일들의 개수가 임계치를 초과하면, 상기 렌더링된 제1 이미지 프레임의 타일들과의 타일 위치 기반으로 합성하여 생성되는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제1항에 있어서,
상기 에지 데이터는,
상기 렌더링된 제1 이미지 프레임의 픽셀 데이터를 이용하여 획득되는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제1항에 있어서,
상기 오브젝트의 모션 예측 데이터는,
각 이미지 프레임의 타일 인덱스 단위로 기록된 에지 히스토그램 데이터를 이용하여 획득되는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제1항에 있어서,
상기 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 종류와 속성을 포함한 오브젝트의 타입 데이터를 생성하는 단계를 더 포함하여 이루어지는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제7항에 있어서,
상기 오브젝트의 타입 데이터는,
타일 내에 수직 및 수평 에지 데이터를 분석하여, 렌더링된 타일의 결과물로부터 획득되는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제8항에 있어서,
상기 오브젝트의 타입 데이터는,
솔리드 피규어, 콤플렉스 피규어 및 텍스트 중 적어도 하나인 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
제7항에 있어서,
상기 오브젝트의 모션 예측 데이터 및 타입 데이터에 기초하여, 상기 임계치를 결정하고, 상기 결정된 임계치에 따라 상기 제1 이미지 프레임과 제2 이미지 프레임 사이에 렌더링할 제3 이미지 프레임의 개수를 결정하는 것을 특징으로 하는 디지털 디바이스에서 데이터 처리 방법.
디지털 디바이스에 있어서,
애플리케이션 데이터를 수신하는 수신부;
상기 수신된 애플리케이션 데이터의 제1 이미지 프레임과 제2 이미지 프레임을 타일 렌더링하는 이미지 처리부;
상기 타일 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 모션 예측 데이터를 생성하고, 상기 생성된 오브젝트의 모션 예측 데이터에 기초하여 상기 제2 이미지 프레임의 타일들에 대한 렌더링 우선순위를 결정하고, 상기 결정된 렌더링 우선순위에 기초하여 상기 제2 이미지 프레임의 타일들을 렌더링하도록 제어하고, 상기 제2 이미지 프레임의 타일들 중 렌더링된 일부 타일들과 상기 렌더링 완료된 제1 이미지 프레임의 타일들을 합성하여 제3 이미지 프레임을 생성하고 렌더링하도록 제어하는 제어부; 및
상기 렌더링된 이미지 프레임들을 디스플레이하는 디스플레이부를 포함하는 디지털 디바이스.
제11항에 있어서,
상기 제어부는,
상기 제3 이미지 프레임을 상기 제2 이미지 프레임보다 먼저 디스플레이되도록 제어하는 것을 특징으로 하는 디지털 디바이스.
제11항에 있어서,
상기 제어부는,
상기 제3 이미지 프레임이 상기 제1 이미지 프레임과 제2 이미지 프레임 사이에 디스플레이되도록 제어하는 것을 특징으로 하는 디지털 디바이스.
제11항에 있어서,
상기 렌더링되는 이미지 프레임의 타일 데이터를 일시 저장하는 버퍼부를 더 포함하고,
상기 제어부는,
상기 버퍼부에 렌더링된 제2 이미지 프레임의 타일들의 개수가 임계치를 초과하여 저장되면, 상기 렌더링된 제1 이미지 프레임의 타일들과의 타일 위치 기반으로 합성하여 상기 제3 이미지 프레임을 생성하도록 제어하는 것을 특징으로 하는 디지털 디바이스.
제11항에 있어서,
상기 제어부는,
상기 렌더링된 제1 이미지 프레임의 픽셀 데이터를 이용하여 상기 에지 데이터를 획득하는 것을 특징으로 하는 디지털 디바이스.
제11항에 있어서,
상기 제어부는,
각 이미지 프레임의 타일 인덱스 단위로 기록된 에지 히스토그램 데이터를 이용하여 상기 오브젝트의 모션 예측 데이터를 획득되는 것을 특징으로 하는 디지털 디바이스.
제11항에 있어서,
상기 제어부는,
상기 렌더링된 제1 이미지 프레임의 에지 데이터로부터 상기 제1 이미지 프레임에 포함된 오브젝트의 종류와 속성을 포함한 오브젝트의 타입 데이터를 생성하도록 제어하는 것을 특징으로 하는 디지털 디바이스.
제17항에 있어서,
상기 제어부는,
타일 내에 수직 및 수평 에지 데이터를 분석하여, 렌더링된 타일의 결과물로부터 상기 오브젝트의 타입 데이터를 획득하는 것을 특징으로 하는 디지털 디바이스.
제18항에 있어서,
상기 오브젝트의 타입 데이터는,
솔리드 피규어, 콤플렉스 피규어 및 텍스트 중 적어도 하나인 것을 특징으로 하는 디지털 디바이스.
제17항에 있어서,
상기 제어부는,
상기 오브젝트의 모션 예측 데이터 및 타입 데이터 중 적어도 하나에 기초하여 상기 임계치를 결정하고, 상기 결정된 임계치에 따라 상기 제1 이미지 프레임과 제2 이미지 프레임 사이에 렌더링할 제3 이미지 프레임의 개수를 결정하는 것을 특징으로 하는 디지털 디바이스.