KR101678388B1 - 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템 - Google Patents

레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템 Download PDF

Info

Publication number
KR101678388B1
KR101678388B1 KR1020140013561A KR20140013561A KR101678388B1 KR 101678388 B1 KR101678388 B1 KR 101678388B1 KR 1020140013561 A KR1020140013561 A KR 1020140013561A KR 20140013561 A KR20140013561 A KR 20140013561A KR 101678388 B1 KR101678388 B1 KR 101678388B1
Authority
KR
South Korea
Prior art keywords
video data
decoding
rendering
unit
speed
Prior art date
Application number
KR1020140013561A
Other languages
English (en)
Other versions
KR20150092927A (ko
Inventor
심화석
Original Assignee
엔트릭스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔트릭스 주식회사 filed Critical 엔트릭스 주식회사
Priority to KR1020140013561A priority Critical patent/KR101678388B1/ko
Publication of KR20150092927A publication Critical patent/KR20150092927A/ko
Application granted granted Critical
Publication of KR101678388B1 publication Critical patent/KR101678388B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/426—Internal components of the client ; Characteristics thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

본 발명은 비디오 데이터를 복호화하여 출력 영상을 구성하는 중에 랜더링 속도를 디코딩 속도보다 빠르게 설정함으로써 랜더링보다 복호화가 빨리 이루어져 랜더링 버퍼에 비디오 프레임이 쌓이는 문제를 해결하고자 하는 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템에 관한 것으로서, 부호화된 비디오 데이터에 대한 프레임 단위의 디코딩 속도를 확인하고, 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하고, 설정한 랜더링 속도로 복호화된 비디오 데이터를 랜더링하여 출력 영상을 구성하는 것을 특징으로 한다.

Description

레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템{Video processing method be considered latency, apparatus and cloud streaming service system therefor}
본 발명은 클라우드 스트리밍 서비스에 관한 것으로서, 더욱 상세하게는 비디오 데이터를 복호화하여 출력 영상을 구성하는 중에 랜더링 속도를 디코딩 속도보다 빠르게 설정함으로써 랜더링보다 복호화가 빨리 이루어져 랜더링 버퍼에 비디오 프레임이 쌓이는 문제를 해결하고자 하는 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템에 관한 것이다.
이동통신망의 발달과 단말기 사양의 발전에 따라, 이동통신단말기는 종래의 단순한 통신장치 또는 정보 제공 장치의 범주를 벗어나 현대인의 필수 소지품이 되었고, 토탈 엔터테인먼트 기기로 진화해 가고 있는 추세에 있다.
아울러, 최근에는 성능이 낮은 클라이언트 단말기가 대용량의 영상 등을 처리하는데 무리가 있는 점을 해결하고자, 원격지에 있는 클라우드 서버(Cloud server)를 통해 해당 데이터를 처리하도록 하고, 그 처리된 결과 화면만을 클라이언트 단말기에서 수신하여 디스플레이하는 클라우딩 컴퓨팅(Cloud computing) 기술이 사용되고 있다.
이러한, 클라우드 컴퓨팅 환경에서는 개별 기술에 대한 전문성 없이도 서비스를 이용하는 형태로 IT(Information Technology) 환경을 구축하고 이용할 수 있게 되었다.
특히, 클라우드 컴퓨팅 기술을 기반으로, 게임, VOD, 실시간 방송 컨텐츠 등을 서버 측에서 실행한 후, 그 실행 화면을 스트리밍 방식으로 사용자 장치로 전송하여, 사용자 장치에서는 입력 및 출력만 이루어지게 함으로써, 사용자 장치의 사양 및 성능에 관계없이 사용자가 원하는 컨텐츠를 이용할 수 있도록 하는 것을 클라우드 스트리밍 서비스라 한다.
이러한 클라우드 스트리밍 서비스에 있어서, 사용자 장치에서 입력된 요청을 상기 사용자 장치와 통신망을 통해 연결된 서비스 장치에서 실행한 후, 그 결과를 사용자 장치로 전송하여 출력하는 경우, 사용자 요청 후 그 결과를 수신하여 출력하는 데까지 걸리는 대기 시간(Latency)이 길어질 수 록 사용자 만족도 및 서비스 품질이 저하된다.
따라서, 사용자가 사용자 장치에서 해당 컨텐츠를 실행하거나 재생하는 것처럼 느낄 수 있도록 빠른 응답을 제공할 필요가 있다.
그런데, 클라우드 스트리밍 서비스의 경우, 사용자의 요청에 따라서 실행 또는 재생 결과에 대응하는 동영상의 비디오 데이터 및 오디오 데이터를 통신망을 통해 스트리밍 방식으로 사용자 장치로 전송하는데 있어서, 네트워크 전송 대역폭, 단말의 멀티미디어 데이터 처리 능력, 동기화 등 여러 해결해야 할 문제들이 존재하며, 이러한 문제들은 대기 시간(latency)을 증가시켜 서비스 품질을 저하시킬 수 있다.
구체적으로, 통신망을 통해 요청에 대한 응답으로서 비디오 데이터 및 오디오 데이터를 포함하는 비트 스트림을 수신한 사용자 장치는, 역다중화를 통해서 비트 스트림으로부터 비디오 데이터와 오디오 데이터를 분리하고, 헤더를 파싱하여 상기 비디오 데이터 및 오디오 데이터를 각각 디코딩하고, 비디오 데이터와 오디오 데이터 간의 재생 시점을 맞추는 동기화를 수행한 후, 랜더링 과정을 통해 영상 및 음성으로 출력하여야 하는데, 상기 역다중화, 동기화 등을 위한 처리에 소요되는 시간만큼 영상 및 음성 출력이 지연되어 사용자의 대기 시간을 증가시키게 된다.
따라서, 사용자의 대기 시간을 줄여 서비스 품질을 향상시키기 위해서는, 역다중화, 동기화, 랜더링 과정에 소요되는 시간을 최소화하기 위한 노력이 요구된다.
한국등록특허 제10-0226528호, 1999년 07월 28일 등록 (명칭: 다중화 압축 화상/음성 데이터의 복호장치)
이에 본 발명은 클라우드 스트리밍 서비스를 제공하는데 있어서, 사용자 요청 후 응답 받기까지의 대기 시간(Latency)를 최소화하기 위하여 제안된 것으로서, 특히, 비디오 데이터를 복호화하여 출력 영상을 구성하는 중에 랜더링 속도를 디코딩 속도보다 빠르게 설정함으로써 랜더링보다 복호화가 빨리 이루어져 랜더링 버퍼에 비디오 프레임이 쌓이는 문제를 해결하고자 하는 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템을 제공하고자 한다.
상술한 과제의 해결 수단으로서, 본 발명은 부호화된 비디오 데이터를 포함하는 비트 스트림을 수신하는 네트워크 수신부; 기 설정된 디코딩 속도로 네트워크 수신부에 의해 수신된 비트 스트림을 복호화하는 디코딩부; 및 디코딩 속도보다 빠르게 설정된 랜더링 속도로 디코딩부에서 출력되는 복호화된 비디오 데이터를 처리하여 출력 영상을 구성하는 랜더링부를 포함하는 것을 특징으로 하는 사용자 장치를 제공한다.
상술한 사용자 장치는, 비트 스트림의 수신 전에, 디코딩부의 디코딩 속도를 확인하여, 랜더링부에서 지원하는 랜더링 속도 중 상기 디코딩속도보다 빠른 랜더링 속도를 선택하여 설정하는 제어부를 더 포함할 수 있다.
더하여, 상술한 사용자 장치에 있어서, 네트워크 수신부는 클라우드 스트리밍 서비스 장치로부터 프레임단위로 재생시간에 맞추어 전송되는 부호화된 비디오 데이터를 수신하여 디코딩부로 전달하고, 디코딩부는 상기 부호화된 비디오 데이터가 수신되는 대로 복호화할 수 있다.
여기서, 상기 디코딩 속도 및 랜더링 속도는 24 FPS(Frame Per Second), 30 FPS, 40 FPS, 50 FPS, 60 FPS 중 하나로 설정될 수 있다.
더하여, 본 발명은 상술한 과제의 다른 해결 수단으로서, 사용자 장치와 접속되어 제어 신호 및 비디오 데이터를 송수신하기 위한 접속 인터페이스부; 접속 인터페이스부를 통해 접속된 사용자 장치의 디코딩 속도를 확인하고, 랜더링부에서 지원 가능한 랜더링 속도 중 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하는 제어부; 및 설정된 랜더링 속도로 사용자 장치로부터 프레임 단위로 전달되는 복호화된 비디오 데이터를 처리하여 출력 영상을 구성하는 랜더링부를 포함하는 영상 출력 장치를 제공한다.
또한, 본 발명은 상술한 과제의 다른 해결 수단으로서, 부호화된 비디오 데이터를 수신하여, 기 설정된 디코딩 속도로 복호화하는 사용자 장치; 사용자 장치와 유선 또는 무선 방식으로 접속되어, 사용자 장치의 디코딩 속도를 확인하고, 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도로 복호화된 비디오 데이터를 랜더링하여 출력 영상을 구성하는 영상 출력 장치를 포함하는 클라우드 스트리밍 서비스 시스템을 제공한다.
본 발명에 다른 클라우드 스트리밍 서비스 시스템은, 사용자 장치가 요청한 컨텐츠의 부호화된 비디오 데이터를 상기 사용자 장치에서의 재생 시간에 맞추어 프레임 단위로 순차 전송하는 클라우드 스트리밍 서비스 장치를 더 포함할 수 있다.
더하여, 본 발명은 상술한 과제의 또 다른 해결 수단으로서, 영상 출력 기능을 포함하는 장치가, 부호화된 비디오 데이터에 대한 프레임 단위의 디코딩 속도를 확인하는 단계; 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하는 단계; 및 설정한 랜더링 속도로 복호화된 비디오 데이터를 랜더링하여 출력 영상을 구성하는 단계를 포함하는 것을 특징으로 하는 레이턴시를 고려한 영상 처리 방법을 제공한다.
본 발명에 따른 레이턴시를 고려한 영상 처리 방법은, 디코딩 속도로 부호화된 비디오 데이터를 복호화하는 단계를 더 포함할 수 있으며, 또한, 통신망을 통해 상기 부호화된 비디오 데이터를 프레임 단위로 재생 시간에 맞추어 수신하는 단계를 더 포함할 수 있다.
더하여, 본 발명은 상술한 레이턴시를 고려한 영상 처리 방법을 실행하는 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체를 제공한다.
본 발명은 부호화된 비디오 데이터를 복호화하고 랜더링을 통해 출력 영상을 구성하는데 있어서, 디코딩 속도보다 랜더링 속도를 빠르게 설정함으로써, 랜더링 버퍼에 복호화된 비디오 데이터가 누적되며 랜더링 처리가 지연되는 것을 방지할 수 있다.
더하여, 본 발명은 사용자 요청에 대한 응답으로서 통신망을 통해서 부호화된 비디오 데이터를 포함하는 비트 스트림을 수신하여, 복호화 및 랜더링 과정을 통해 영상으로 출력하는 클라우드 스트리밍 서비스에 있어서, 디코딩 속도보다 랜더링 속도를 빠르게 설정함으로써, 랜더링 버퍼에 복호화된 비디오 데이터가 누적되며 랜더링 처리가 지연되는 것을 방지하고, 그 결과 사용자 요청에 대한 응답 시간을 최소화할 수 있다.
도 1은 본 발명에 따른 클라우드 스트리밍 서비스 시스템에 나타낸 블럭도이다.
도 2는 본 발명에 따른 클라우드 스트리밍 서비스 시스템에 있어서, 클라우드 스트리밍 서비스 장치의 구성을 나타낸 블럭도이다.
도 3은 본 발명의 일 실시 예에 따른 사용자 장치의 구성을 나타낸 블럭도이다.
도 4는 본 발명의 다른 실시 예에 따른 사용자 장치 및 영상 출력 장치를 나타낸 블럭도이다.
도 5는 본 발명에 따른 클라우드 스트리밍 서비스 방법을 설명하기 위한 도면이다.
이하 본 발명의 바람직한 실시 예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.
아울러, 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.
더하여, 어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급할 경우, 이는 논리적 또는 물리적으로 연결되거나, 접속될 수 있음을 의미한다. 다시 말해, 구성요소가 다른 구성요소에 직접적으로 연결되거나 접속되어 있을 수 있지만, 중간에 다른 구성요소가 존재할 수도 있으며, 간접적으로 연결되거나 접속될 수도 있다고 이해되어야 할 것이다.
또한, 본 명세서에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 본 명세서에서 기술되는 "포함 한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 발명은 부호화된 비디오 데이터를 복호화하여 영상으로 출력하는 과정에서, 랜더링 속도를 디코딩 속도보다 빠르게 설정함으로써 복호화된 비디오 데이터의 누적에 따른 불필요한 대기 시간을 줄이고자 한 것으로서, 영상 출력 기능이 포함한 장치 및 서비스에 적용될 수 있다.
일 예로서, 본 발명은 게임, VOD, 실시간 방송 컨텐츠 등을 서버 측에서 실행한 후, 그 실행 화면을 스트리밍 방식으로 사용자 장치로 전송하여, 사용자 장치에서는 입력 및 출력만 이루어지는 클라우드 스트리밍 서비스에 적용될 수 있다.
이하, 클라우드 스트리밍 서비스에 적용된 경우를 예로 들어, 본 발명에 따른 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템을 설명한다.
먼저, 도 1은 본 발명이 적용된 클라우드 스트리밍 서비스 시스템에 나타낸 블럭도이다.
도 1을 참조하면, 본 발명이 적용되는 클라우드 스트리밍 서비스 시스템은, 통신망(10)을 통해서 연결된 클라우드 스트리밍 서비스 장치(100), 하나 이상의 사용자 장치(200), 및 상기 사용자 장치(200)에 연결된 영상 출력 장치(300)를 포함하여 이루어질 수 있다.
본 발명이 적용된 클라우드 스트리밍 서비스 시스템은, 클라우드 컴퓨팅 기술을 이용하여 게임, VOD, 실시간 방송 등 사용자가 요청한 컨텐츠 등을 실행 또는 재생한 후, 그 결과를 스트리밍 방식으로 제공하도록 구현된 것이다.
이를 위하여, 상기 클라우드 스트리밍 서비스 장치(100)는 사용자 장치(200)로부터의 요청에 따라서 소정의 컨텐츠를 실행 또는 재생하고 그 결과에 대응하는 비디오 데이터 및 오디오 데이터를 부호화하여 통신망(10)을 통해 사용자 장치(200)로 전송한다. 이때, 상기 컨텐츠는 앞서 설명한 바와 같이, 게임 어플리케이션, VOD, 실시간 방송, 사용자 입력을 위한 GUI(Graphic User Interface) 중 하나 이상을 포함할 수 있다.
특히, 본 발명의 일 실시 예에 있어서, 상기 부호화된 비디오 데이터 및 오디오 데이터를 사용자 장치(200)로 전송하는데 있어서, 클라우드 스트리밍 서비스 장치(100)는, 사용자 장치(200)에서 요청한 컨텐츠의 부호화된 비디오 데이터 및 오디오 데이터를 동기를 맞추어 전송하되, 사용자 장치(200) 측의 재생 시간에 맞추어 프레임 단위로 상기 부호화된 비디오 데이터 및 오디오 데이터를 순차 전송함으로써, 상기 사용자 장치 측에서 역다중화 처리 및 비디오 및 오디오 신호 간의 동기화 처리없이 수신되는 대로 복호화하여 출력할 수 있으며, 그 결과, 역다중화 처리 및 동기화 처리에 소요되는 시간을 줄임으로써 사용자의 대기 시간을 최소화하도록 할 수 있다.
특히 본 발명에 있어서, 상기 클라우드 스트리밍 서비스 장치(100)는 상기 비디오 데이터 및 오디오 데이터를 프레임 단위로 부호화하되, 부호화된 비디오 데이터 및 오디오 데이터를 다중화 처리 없이 비트 스트림 그대로 사용자 장치(200)로 전송한다.
아울러, 상기 클라우드 스트리밍 서비스 장치(100)는 상기 프레임단위의 부호화된 비디오 데이터 및 오디오 데이터를 사용자 장치(200)에서의 재생 시간에 맞추어 순차 전송한다. 예를 들어, 동영상의 압축율이 30fps(frame per second)인 경우, 상기 클라우드 스트리밍 서비스 장치(100)는 재생 시간에 맞추어 대략 33msec 주기로 부호화된 비디오 데이터 및 오디오 데이터를 전송할 수 있다. 아울러, 클라우드 스트리밍 서비스 장치(100)는 전송하는 비디오 데이터 및 오디오 데이터의 동기를 맞추어 전송하는 것이 바람직하다.
상기 하나 이상의 사용자 장치(200)는 통신망(10)을 통해 상기 클라우드 스트리밍 서비스 장치(100)에 접속하여, 상기 클라우드 스트리밍 서비스 장치(100)로부터 전송되는 부호화된 비디오 데이터 및 오디오 데이터를 수신하여 처리할 수 있는 장치를 의미한다.
이러한 사용자 장치(200)는 기본적으로 부호화된 비디오 데이터를 포함하는 비트 스트림을 수신하여, 상기 비디오 데이터를 복호화할 수 있다.
특히 사용자 장치(200)는 상기 클라우드 스트리밍 서비스 장치(100)에 접속하여, 클라우드 스트리밍 서비스 장치(100)로부터 프레임단위로 부호화된 비디오 데이터 및 오디오 데이터를 재생시간에 맞추어 각각 수신하면, 수신된 비디오 데이터 및 오디오 데이터를 역다중화 및 동기화 처리 없이 수신되는 대로 디코딩할 수 있다. 이는 상기 클라우드 스트리밍 서비스 장치(100)에서 재생 시점에 맞추어 프레임 단위로 부호화된 비디오 데이터와 오디오 데이터를 전송함에 따른 것으로서, 역다중화 및 동기화 소요 시간을 줄여 대기 시간을 더 감소시킬 수 있다.
아울러, 상기 사용자 장치(200)가 영상 출력 수단, 예를 들어, LCD 디스플레이 등을 포함하는 경우, 상기 사용자 장치(200)는 복호화된 비디오 데이터를 랜더링하여 영상을 출력할 수 있다.
이때, 상기 사용자 장치(200)는 부호화된 비디오 데이터의 디코딩 속도보다 랜더링 속도를 더 빠르게 설정하여 동작할 수 있다.
여기서, 디코딩 속도 및 랜더링 속도는, 프레임 단위의 비디오 데이터를 처리하는 속도를 의미하는 것으로서, 영상 압축 단위인 FPS(frame Per Second)로 표현될 수 있다. 예를 들어, 상기 디코딩 속도 및 랜더링 속도는 24 FPS, 30 FPS, 40 FPS, 50 FPS, 60 FPS 중 하나로 설정될 수 있다.
아울러, 본 발명의 다른 실시 예에서, 상기 사용자 장치(200)는 자체적으로 영상 출력 수단을 포함하고 있지 않을 수 있다. 이 경우 상기 사용자 장치(200)는 부호화된 비디오 데이터를 포함하는 비트 스트림의 수신 및 복호화 기능만을 수행하며, 복호화된 비디오 데이터를 다른 영상 출력 장치(300)로 전송하여, 상기 영상 출력 장치(300)를 통해 출력할 수 있다. 이 경우, 상기 복호화된 비디오 데이터의 랜더링 처리는 상기 영상 출력 장치(300)를 통해서 이루어질 수 있다.
이때, 상기 영상 출력 장치(300)는 상기 사용자 장치(200)에서의 디코딩 속도를 확인하고, 지원 가능한 랜더링 속도 중 상기 확인된 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하고, 설정된 랜더링 속도에 따라서 사용자 장치(200)로부터 전송된 복호화된 비디오 데이터를 랜더링할 수 있다.
여기서, 상술한 클라우드 스트리밍 서비스 장치(100)와 사용자 장치(200)를 연결하여 데이터를 전달하는 통신망(10)은, 현재 이용되거나 현재 개발 중으로 향후 이용 가능한 하나 이상의 통신 방식을 포함하여 이루어질 수 있다. 예를 들어, 통신망(10)은 WLAN(Wireless LAN), 와이파이(Wi-Fi), 와이브로(Wibro), 와이맥스(Wimax)와 같은 무선 통신, HSDPA(High Speed Downlink Packet Access), CDMA, LTE(Long Term Evolution) 등과 같은 이동통신, 이더넷(Ethernet), xDSL(ADSL, VDSL), HFC(Hybrid Fiber Coax), FTTC(Fiber to The Curb), FTTH(Fiber To The Home) 등의 유선 통신 방식 중 적어도 하나에 따른 통신망 들의 결합으로 이루어질 수 있다.
따라서, 상술한 클라우드 스트리밍 서비스를 처리하기 위한 사용자 장치(200)는, 사용자가 이용하는 다양한 정보통신기기 중, 통신망(10)을 통해 통신 가능하다면 어떠한 것이라도 가능하다. 예를 들어, 사용자 장치(200)는, 멀티미디어 단말기, 유선 단말기, 고정형 단말기 및 IP(Internet Protocol) 단말기 등의 다양한 단말기에 적용될 수 있다. 또한, 클라이언트 단말기는 휴대폰, 스마트폰과 같은 이동통신단말기뿐만 아니라, PMP(Portable Multimedia Player), MID(Mobile Internet Device), 데스크톱PC(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net book) 등 다양한 장치가 될 수 있다.
또한, 상기 사용자 장치(200)는 통신망(10)에 접속 가능하여 IPTV 방송 데이터를 수신하여 재생하는 셋탑박스, 방송 수신 기능과 함께 통신망(10)을 통한 인터넷 서비스를 지원하는 스마트 TV가 될 수 있다.
본 발명의 실시 예에 있어서, 상기 사용자 장치(200)는 영상 출력 수단을 포함하는 것과, 영상 출력 수단을 포함하지 않는 것으로 구분될 수 있다.
여기서, 영상 출력 수단을 포함하는 사용자 장치(200)에는 스마트폰, 노트북, 데스크탑 PC, 태블릿 PC, 스마트TV 등이 해당될 수 있으며, 영상 출력 수단을 포함하지 않는 사용자 장치(200)에는 셋탑박스 등이 해당될 수 있다.
다음으로, 도 2 내지 도 4를 참조하여, 본 발명에 따른 클라우드 스트리밍 서비스 시스템의 각 장치의 구성 및 작용을 더 구체적으로 설명한다.
도 2는 본 발명에 따른 클라우드 스트리밍 서비스 장치의 구성을 나타낸 블럭도이다.
도 2를 참조하면, 본 발명에 따른 클라우드 스트리밍 서비스 장치(100)는 서비스 통신부(110)와, 스트리밍 제어부(120)와, 부호화부(130)와, 서비스 저장부(140)와, 실시간 방송 수신부(150)와, 클라우드 컴퓨팅 처리부(160)를 포함하여 이루어질 수 있다.
상기 서비스 통신부(110)는 통신망(10)을 통해 하나 이상의 사용자 장치(200)와 통신하기 위한 구성이다. 이러한 서비스 통신부(110)는 하나 이상의 전송 프로토콜을 기반으로 데이터를 송수신할 수 있다.
구체적으로 상기 서비스 통신부(110)는 서비스를 요청한 사용자 장치(200)와 통신 채널을 형성하고, 상기 형성된 통신 채널을 통해서 요청된 컨텐츠의 부호화된 비디오 데이터 및 오디오 데이터를 구분하여 상기 사용자 장치(200)로 전송한다. 더 구체적으로, 본 발명의 일 실시 예에서 상기 서비스 통신부(110)는 상기 사용자 장치(200)와 두 개의 통신 채널을 형성한 후, 상기 부호화된 비디오 데이터 및 오디오 데이터를 각각 할당된 통신 채널을 통해서 전송할 수 있다. 이때, 비디오 데이터가 전송되는 통신 채널과 오디오 데이터가 전송되는 통신 채널이 구분되어 있기 때문에, 사용자 장치(200)는 통신 채널을 기반으로 비디오 데이터와 오디오 데이터를 구분할 수 있다.
또한, 본 발명의 다른 실시 예에서, 상기 서비스 통신부(110)는 데이터 종류, 예를 들어, 비디오 데이터와 오디오 데이터를 구분하는 식별자를 상기 부호화된 비디오 데이터 및 오디오 데이터와 함께 전송한다. 이 경우, 사용자 장치(200)는 수신된 데이터에 포함된 식별자를 이용하여 비디오 데이터와 오디오 데이터를 구분할 수 있다.
다음으로, 스트리밍 제어부(120)는 클라우드 스트리밍 서비스에 있어서, 전송 처리를 수행하기 위한 구성이다. 구체적으로 상기 스트리밍 제어부(120)는 상기 서비스 통신부(110)를 통해 접속된 사용자 장치(200)의 서비스 요청에 따라서, 상기 사용자 장치(200)가 요청한 컨텐츠의 부호화된 비디오 데이터 및 오디오 데이터를 사용자 장치(200)로 전송한다. 특히, 본 발명에 따른 스트리밍 제어부(120)는 상기 부호화된 비디오 데이터 및 오디오 데이터를 서로 동기를 맞추어 사용자 장치(200)로 전송하는데, 상기 부호화된 비디오 데이터 및 오디오 데이터를 재생 전에 미리 전송하는 것이 아니라, 상기 사용자 장치(200)에서의 재생 시간에 맞추어 프레임 단위로 상기 부호화된 비디오 데이터 및 오디오 데이터를 순차 전송한다. 예를 들어, 상기 스트리밍 제어부(120)는 압축율이 30fps인 동영상을 전송한다고 할 때, 특정 프레임에 대응하는 부호화된 비디오 데이터 및 오디오 데이터를 전송한 후, 33msec 후에 다음 프레임의 부호화된 비디오 데이터 및 오디오 데이터를 전송할 수 있다. 특히, 본 발명에 따른 스트리밍 제어부(120)는 부호화된 비디오 데이터 및 오디오 데이터에 대한 패킷화 및 다중화 처리 없이, 부호화된 비트 스트림 그대로 전송한다.
아울러, 상기 스트리밍 제어부(120)는 사용자 장치(200)에서 수신된 데이터가 비디오 데이터인지 오디오 데이터인지 구분할 수 있도록 부호화된 비디오 데이터 및 오디오 데이터에 데이터 종류를 구분할 수 있는 식별자를 포함시킬 수 있다.
다음으로, 상기 부호화부(130)는, 상기 부호화된 비디오 데이터 및 오디오 데이터를 생성하기 위한 구성이다. 즉, 부호화부(130)는 상기 사용자 장치(200)에서 요청한 컨텐츠의 비디오 데이터 및 오디오 데이터를 소정의 압축 프로토콜에 따라서 부호화한다. 이때, 비디오 데이터 및 오디오 데이터의 압축 방식은 서로 상이할 수 있다. 또한, 상기 부호화부(130)는 상기 서비스 저장부(140), 상기 실시간 방송 수신부(150), 및 클라우드 컴퓨팅 처리부(160)중 적어도 하나로부터 비디오 데이터 및 오디오 데이터를 전달받아 부호화를 수행할 수 있다.
상기 서비스 저장부(140)는 본 발명에 따른 클라우드 스트리밍 서비스 장치(100)의 동작에 필요한 데이터 및 프로그램을 저장하기 위한 구성으로서, 서비스 실행을 위한 프로그램 및 데이터들을 저장할 수 있다. 더 구체적으로, 서비스 저장부(140)는 사용자 장치(100)에 서비스할 컨텐츠 데이터를 저장할 수 있다. 이때, 상기 컨텐츠 데이터는 부호화 전의 비디오 데이터 및 오디오 데이터를 포함할 수 있으며, 경우에 따라서 상기 컨텐츠 데이터는 부호화된 비디오 데이터 및 오디오 데이터를 포함할 수 있다.
아울러, 본 발명에 따른 클라우드 스트리밍 서비스 장치(100)는 실시간으로 방송되는 컨텐츠를 사용자 장치(200)에 서비스할 수 있다.
이를 위하여, 상기 실시간 방송 수신부(150)는 외부 장치, 예를 들어, CATV 또는 IPTV 등의 방송 서비스 장치로부터 실시간으로 방송되는 컨텐츠를 수신할 수 있다.
앞서 설명한 바와 같이, 클라우드 스트리밍 서비스는, 서버측에서 사용자가 요청한 컨텐츠를 대신 실행하거나 재생한 후, 그 결과(비디오 데이터 및 오디오 데이터)를 사용자 장치(200)로 전송하는 서비스이다.
이를 위하여, 본 발명에 따른 클라우드 스트리밍 서비스 장치(100)는 클라우드 컴퓨텅 처리부(160)를 더 포함할 수 있다.
상기 클라우드 컴퓨팅 처리부(160)는 사용자 장치(300)가 요청한 컨텐츠를 사용자 장치(300)를 대신하여 실행하거나 재생한 후, 그에 따른 발생된 비디오 데이터 및/또는 오디오 데이터를 출력한다. 이때, 상기 클라우드 컴퓨팅 처리부(160)는 사용자 장치(300)로부터 전송된 입력 신호에 따라서 상기 컨텐츠의 실행 또는 재생을 수행할 수 있다.
예를 들어, 사용자 장치(300)에서 요청된 컨텐츠가 게임 등의 어플리케이션을 포함하는 경우, 해당 컨텐츠는 클라우드 컴퓨팅 처리부(160)에서 실행하고, 그 실행 결과로 출력된 비디오 데이터 및 오디오 데이터를 부호화부(130)를 통해 부호화한 후, 스트리밍 제어부(120)를 통해서 사용자 장치(200)로 전송하게 된다.
다른 예로, 사용자 장치(300)에 의해 요청된 컨텐츠가 실시간 방송을 포함하는 경우, 해당 컨텐츠를 실시간 방송 수신부(150)로 수신하여, 부호화부(130)를 통해 부호화한 후, 스트리밍 제어부(120)를 통해서 사용자 장치(200)로 전송한다.
아울러, 사용자 장치(300)에서 요청한 컨텐츠는 서로 다른 종류의 컨텐츠를 하나 이상 포함할 수 있다. 예를 들어, 실시간 방송 및 채팅 어플리케이션을 포함할 수 있다. 이에, 상기 클라우드 컴퓨팅 처리부(160)는, 서비스 저장부(140)에 하나 이상의 컨텐츠의 출력을 믹싱하여 출력할 수 있다.
따라서, 상기 클라우드 스트리밍 서비스 장치(100)는, 서비스 통신부(100)와, 스트리밍 제어부(120)와, 부호화부(130)와, 서비스 저장부(140)와, 실시간 방송 수신부(150)와, 클라우드 컴퓨팅 처리부(160) 중 둘 이상의 구성 간의 연동을 통해서, 본 발명에 따른 클라우드 스트리밍 서비스를 제공하게 된다.
이러한 클라우드 스트리밍 서비스 장치(100)로부터 사용자 요청에 대응하는 부호화된 비디오 데이터 및 오디오 데이터를 수신하여 출력하는 사용자 장치(200)는 도 3 또는 도 4에 도시된 바와 같이 구성될 수 있다. 참고로, 도 3 및 도 4는 본 발명과 관련된 구성만을 도시한 것으로서, 사용자 장치(200)는 도시된 구성 이외의 다른 구성을 포함할 수 있다. 아울러, 도 3 및 도 4에 도시된 각 구성은, 소프트웨어, 하드웨어 또는 소프트웨어와 하드웨어의 조합으로 구현될 수 있는 것으로서, 그 구현 형태나 명칭에 관계없이 이하에서 개시된 기능을 수행한다는 동일한 구성으로 이해될 수 있다.
본 발명의 일 실시 예에서, 상기 사용자 장치(200)는 도 4에 도시된 바와 같이, 네트워크 수신부(210)와, 디코딩부(220)와, 랜더링부(230) 및 제어부(240)를 포함하여 이루어질 수 있다.
네트워크 수신부(210)는, 통신망(10)을 통해서 클라우드 스트리밍 서비스 장치(100)에 접속하여 데이터를 수신하기 위한 구성이다.
상기 네트워크 수신부(210)는, 상기 클라우드 스트리밍 서비스 장치(100)로부터 사용자 요청에 대응하는 비트 스트림을 수신하며, 상기 비트 스트림은 부호화된 비디오 데이터 및 오디오 데이터를 포함할 수 있다.
더 구체적으로, 상기 네트워크 수신부(210)는, 프레임단위로 부호화된 비디오 데이터 및 오디오 데이터를 재생시간에 맞추어 각각 수신할 수 있으며, 수신된 비디오 데이터 및 오디오 데이터를 구분하여 상기 디코딩부(220)로 전달할 수 있다.
여기서, 네트워크 수신부(210)는 수신된 데이터에 대한 역다중화를 수행하는 것이 아니라, 수신된 데이터가 비디오 데이터인지 오디오 데이터인지를 구분하여, 그대로 디코딩부(220)로 전달한다. 본 발명의 일 실시 예에 있어서, 네트워크 수신부(210)는, 서로 다른 채널을 통해서 상기 부호화된 비디오 데이터 및 오디오 데이터를 각각 수신하며, 수신된 채널을 통해 부호화된 비디오 데이터와 오디오 데이터를 구분하거나, 상기 부호화된 비디오 데이터 및 오디오 데이터와 함께, 데이터 종류를 구분하는 식별자를 더 수신하고, 상기 수신한 식별자를 이용하여 부호화된 비디오 데이터와 오디오 데이터를 구분할 수 있다.
이러한 동작을 위하여, 네트워크 수신부(210)는 통신망(10)을 통해 수신한 부호화된 비디오 데이터 및 오디오 데이터를 구분하여 저장하는 네트워크 버퍼를 포함할 수 있다.
디코딩부(220)는 부호화된 비디오 데이터와 오디오 데이터를 각각의 복호화 알고리즘에 따라서 복호화하기 위한 구성이다. 이를 위하여, 상기 디코딩부(220)는 오디오 디코딩 모듈(도시생략) 및 비디오 디코딩 모듈(도시생략)을 포함할 수 있다. 특히, 상기 디코딩부(220)는 네트워크 수신부(210)로부터 전달된 비디오 데이터와 오디오 데이터를 별도의 동기화 처리 없이, 수신되는 대로 복호화하여 출력한다. 이때, 상기 네트워크 수신부(210)로 수신된 부호화된 비디오 데이터 및 오디오 데이터는, 프레임 단위로 재생 시간에 맞추어 전송되는 것이므로, 상기 비디오 디코딩부(220) 및 오디오 디코딩부(230) 간의 동기화 처리 없이도 비디오 데이터와 오디오 데이터의 동기화가 이루어지며 재생 시점에 맞추어 출력될 수 있다.
아울러, 상기 디코딩부(220)는 기 설정된 소정의 디코딩 속도에 따라서 상기 부호화된 비디오 데이터 및 오디오 데이터를 복호화한다.
다음으로, 랜더링부(230)는 상기 디코딩부(220)로부터 복호화된 비디오 데이터를 랜더링하여, 화면에 출력될 영상을 구성하기 위한 구성이다.
통상적으로, 랜더링(Rendering)은 컴퓨터 프로그램을 통해 영상 데이터로부터 기 설정된 해상도의 영상을 구성하는 과정을 의미하는 것으로서, 부호화된 영상 데이터를 영상 출력 수단에서 표현되는 원색들의 디지털 화소값으로 계산하여 상기 영상 출력 수단에 영상 데이터에 대응하는 출력 영상을 구성하는 것이다.
본 발명에 있어서, 상기 랜더링부(230)는, 영상 데이터를 랜더링하는데 있어서, 상기 디코딩부(220)의 디코딩 속도보다 빠르게 설정된 랜더링 속도로 상기 디코딩부(220)에서 출력되는 복호화된 비디오 데이터를 처리하여 출력 영상을 구성한다. 이에 따르면, 랜더링부(230)의 랜더링 속도가 디코딩부(220)의 디코딩 속도보다 빠르게 되므로, 디코딩부(220)에서 복호화된 비디오 데이터는 랜더링부(230)로 전달되는 대로 처리될 수 있으며, 복호화된 비디오 데이터의 처리가 지연되어 대기하게 되는 문제를 해결할 수 있다.
상기 랜더링 속도도, 24 FPS, 30 FPS, 40 FPS, 50 FPS, 60 FPS 중 하나로 설정될 수 있다. 예를 들어, 디코딩 속도가 30FPS인 경우, 상기 랜더링 속도는 40FPS가 될 수 있다.
마지막으로, 제어부(240)는 상술한 복호화 및 랜더링 과정을 제어하기 위한 구성으로서, 디코딩 속도에 따라서 랜더링부(230)의 랜더링 속도를 제어한다. 구체적으로 제어부(240)는, 상기 부호화된 비디오 데이터 및 오디오 데이터를 포함하는 비트 스트림이 네트워크 수신부(210)로 수신 되기 전에, 상기 디코딩부(220)의 디코딩 속도를 확인하여, 상기 랜더링부(230)에서 지원하는 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정한다.
상술한 바와 같이 구성된 사용자 장치(200)는, 비디오 데이터를 복호화하여 출력하는 과정에서, 디코딩 속도보다 빠른 속도로 랜더링을 수행함으로써, 기존에 랜더링부(230)의 처리 지연으로 복호화된 비디오 데이터가 대기하는 문제를 최소화할 수 있다.
한편, 본 발명에 다른 실시 예에 있어서, 상기 사용자 장치(200)는 영상 출력 수단을 포함하지 않고, 영상 출력 장치(300)를 통해서 영상이 출력되도록 할 수 있다.
이러한 본 발명의 다른 실시 예에 따른 사용자 장치(200)는 도 4에 도시된 바와 같이, 네트워크 수신부(210)와, 디코딩부(220)와, 접속 인터페이스부(250)를 포함할 수 있다. 즉, 본 발명의 다른 실시 예에 따른 사용자 장치(200)는, 랜더링부(230)를 포함하지 않고, 접속 인터페이스부(250)를 통해서 영상 출력 장치(300)와 연결될 수 있다.
여기서, 상기 네트워크 수신부(210)와 디코딩부(220)의 처리는 본 발명의 일 실시 예에서와 동일하게 동작하므로 그에 대한 설명을 생략한다.
다만, 상기 디코딩부(220)에서 복호화된 비디오 데이터 및 오디오 데이터는, 접속 인터페이스부(250)를 통해서 영상 출력 장치(300)로 출력된다.
상기 접속 인터페이스부(250)는 사용자 장치(200)와 영상 출력 장치(300) 간을 연결하여 데이터를 전달하기 위한 구성으로서, 소정 규격의 인터페이스, 예를 들어, HDMI(High definition multimedia interface), DVI(Digital Visual Interface) 등으로 구현될 수 있다.
이때, 영상 출력 장치(300)는, 영상 출력 기능을 갖는 장치를 의미하는 것으로서, 예를 들어, 모니터, TV, 프로젝터 등이 될 수 있다.
이러한 영상 출력 장치(300)는 사용자 장치(200)로부터 복호화된 비디오 데이터를 전달받아 랜더링하여 스크린상에 영상을 출력하는 것으로서, 도 4에 도시된 바와 같이, 접속 인터페이스부(310)와, 랜더링부(320)와, 제어부(330)를 포함하여 이루어질 수 있다.
상기 접속 인터페이스부(310)는 상기 사용자 장치(200)에 구비된 접속 인터페이스부(250)와 동일한 인터페이스 규격에 따라서 상기 사용자 장치(200)에 접속되어, 제어 신호 및 데이터를 송수신하기 위한 구성이다. 구체적으로 접속 인터페이스부(310)는 사용자 장치(200)로부터 복호화된 비디오 데이터를 수신할 수 있으며, 더하여, 상기 사용자 장치(200)로부터 디코딩 속도에 대한 정보를 수신할 수 있다.
랜더링부(320)는, 기 설정된 랜더링 속도로 상기 사용자 장치(200)로부터 프레임 단위로 전달되는 복호화된 비디오 데이터를 처리하여 출력 영상을 구성한다.
이때, 제어부(330)는 상기 접속 인터페이스부(310)를 통해 접속된 사용자 장치(200)의 디코딩 속도를 확인하고, 랜더링부(320)에서 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정한다.
이에, 상기 랜더링부(320)는 제어부(330)에 의해 설정된 랜더링 속도로 동작하여 영상을 출력하게 된다.
상술한 바에 의하면, 사용자 장치(200)가 다른 영상 출력 장치(300)를 통해서 영상을 출력하는 경우에도, 영상 출력 장치(300)에서 디코딩 속도보다 빠른 속도로 랜더링 처리를 수행함으로써, 랜더링부(230)의 처리 지연으로 복호화된 비디오 데이터가 대기하는 문제를 해결할 수 있다.
도 5는 본 발명에 따른 레이턴시를 고려한 영상 처리 방법을 설명하기 위한 순서도이다.
도 5는 영상 출력 기능(수단)을 포함하는 장치에 의하여 수행되는 제어 과정을 나타낸 것으로서, 도 3에 도시된 사용자 장치(200) 혹은 도 4에 도시된 영상 출력 장치(300)에 의해 수행될 수 있다.
도 5를 참조하면, 도 3에 도시된 사용자 장치(200)의 제어부(240) 또는 도 4에 도시된 영상 출력 장치(400)의 제어부(330)는, 영상 출력이 시작되기 전에(S105), 부호화된 비디오 데이터에 대한 프레임 단위의 디코딩 속도를 확인한다(S110).
그리고, 상기 제어부(240, 330)는 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정한다(S115).
이에, 도 3에 도시된 사용자 장치(200)의 랜더링부(230) 또는 도 4에 도시된 영상 출력 장치(400)의 랜더링부(320)는, 상기 제어부(240, 330)에 의해 설정된 랜더링 속도로 복호화된 비디오 데이터를 랜더링하여 출력 영상을 구성한다(S120).
한편, 도 3에 도시된 사용자 장치(200)의 경우, 상기 S120 단계 이전에, 네트워크 수신부(210)를 통해서 상기 부호화된 비디오 데이터를 프레임 단위로 재생 시간에 맞추어 수신하는 단계와, 디코딩부(220)를 통해서 상기 디코딩 속도로 상기 부호화된 비디오 데이터를 복호화하는 단계를 더 수행하게 된다.
상술한 레이턴시를 고려한 영상 처리 방법은 다양한 컴퓨터 수단을 통하여 판독 가능한 소프트웨어 형태로 구현되어 컴퓨터로 판독 가능한 기록매체에 기록될 수 있다. 여기서, 기록매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 기록매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 예컨대 기록매체는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media), 및 롬(ROM), 램(RAM, Random Access Memory), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함한다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
또한, 본 발명에 따른 클라우드 스트리밍 서비스 장치(100)나 사용자 장치(200)나 영상 출력 장치(300)에 탑재되는 프로세서는 본 발명에 따른 방법을 실행하기 위한 프로그램 명령을 처리할 수 있다. 일 구현 예에서, 이 프로세서는 싱글 쓰레드(Single-threaded) 프로세서일 수 있으며, 다른 구현 예에서 본 프로세서는 멀티 쓰레드(Multithreaded) 프로세서일 수 있다. 나아가 본 프로세서는 메모리 혹은 저장 장치 상에 저장된 명령을 처리하는 것이 가능하다.
본 발명에 따른 클라우드 스트리밍 서비스 장치(100)나 사용자 장치(200)나 영상 출력 장치(300)는 하나 이상의 프로세서로 하여금 앞서 설명한 기능들과 프로세스를 수행하도록 하는 명령에 의하여 구동될 수 있다. 예를 들어 그러한 명령으로는, 예컨대 JavaScript나 ECMAScript 명령 등의 스크립트 명령과 같은 해석되는 명령이나 실행 가능한 코드 혹은 컴퓨터로 판독 가능한 매체에 저장되는 기타의 명령이 포함될 수 있다. 나아가 본 발명에 따른 장치는 서버 팜(Server Farm)과 같이 네트워크에 걸쳐서 분산형으로 구현될 수 있으며, 혹은 단일의 컴퓨터 장치에서 구현될 수도 있다.
비록 본 명세서와 도면에서는 예시적인 장치 구성을 기술하고 있지만, 본 명세서에서 설명하는 기능적인 동작과 주제의 구현물들은 다른 유형의 디지털 전자 회로로 구현되거나, 본 명세서에서 개시하는 구조 및 그 구조적인 등가물들을 포함하는 컴퓨터 소프트웨어, 펌웨어 혹은 하드웨어로 구현되거나, 이들 중 하나 이상의 결합으로 구현 가능하다. 본 명세서에서 설명하는 주제의 구현물들은 하나 이상의 컴퓨터 프로그램 제품, 다시 말해 본 발명에 따른 장치의 동작을 제어하기 위하여 혹은 이것에 의한 실행을 위하여 유형의 프로그램 저장매체 상에 인코딩된 컴퓨터 프로그램 명령에 관한 하나 이상의 모듈로서 구현될 수 있다. 컴퓨터로 판독 가능한 매체는 기계로 판독 가능한 저장 장치, 기계로 판독 가능한 저장 기판, 메모리 장치, 기계로 판독 가능한 전파형 신호에 영향을 미치는 물질의 조성물 혹은 이들 중 하나 이상의 조합일 수 있다.
본 발명에 따른 장치에 탑재되고 본 발명에 따른 방법을 실행하는 컴퓨터 프로그램(프로그램, 소프트웨어, 소프트웨어 어플리케이션, 스크립트 혹은 코드로도 알려져 있음)은 컴파일 되거나 해석된 언어나 선험적 혹은 절차적 언어를 포함하는 프로그래밍 언어의 어떠한 형태로도 작성될 수 있으며, 독립형 프로그램이나 모듈, 컴포넌트, 서브루틴 혹은 컴퓨터 환경에서 사용하기에 적합한 다른 유닛을 포함하여 어떠한 형태로도 전개될 수 있다. 컴퓨터 프로그램은 파일 시스템의 파일에 반드시 대응하는 것은 아니다. 프로그램은 요청된 프로그램에 제공되는 단일 파일 내에, 혹은 다중의 상호 작용하는 파일(예컨대, 하나 이상의 모듈, 하위 프로그램 혹은 코드의 일부를 저장하는 파일) 내에, 혹은 다른 프로그램이나 데이터를 보유하는 파일의 일부(예컨대, 마크업 언어 문서 내에 저장되는 하나 이상의 스크립트) 내에 저장될 수 있다. 컴퓨터 프로그램은 하나의 사이트에 위치하거나 복수의 사이트에 걸쳐서 분산되어 통신 네트워크에 의해 상호 접속된 다중 컴퓨터나 하나의 컴퓨터 상에서 실행되도록 전개될 수 있다.
본 명세서에서 설명한 주제의 구현물은 예컨대 데이터 서버와 같은 백엔드 컴포넌트를 포함하거나, 예컨대 어플리케이션 서버와 같은 미들웨어 컴포넌트를 포함하거나, 예컨대 사용자가 본 명세서에서 설명한 주제의 구현물과 상호 작용할 수 있는 웹 브라우저나 그래픽 유저 인터페이스를 갖는 클라이언트 컴퓨터와 같은 프론트엔드 컴포넌트 혹은 그러한 백엔드, 미들웨어 혹은 프론트엔드 컴포넌트의 하나 이상의 모든 조합을 포함하는 연산 시스템에서 구현될 수 있다. 시스템의 컴포넌트는 예컨대 통신 네트워크와 같은 디지털 데이터 통신의 어떠한 형태나 매체에 의해서도 상호 접속 가능하다.
본 명세서는 다수의 특정한 구현물의 세부사항들을 포함하지만, 이들은 어떠한 발명이나 청구 가능한 것의 범위에 대해서도 제한적인 것으로서 이해되어서는 안되며, 오히려 특정한 발명의 특정한 실시형태에 특유할 수 있는 특징들에 대한 설명으로서 이해되어야 한다. 개별적인 실시형태의 문맥에서 본 명세서에 기술된 특정한 특징들은 단일 실시형태에서 조합하여 구현될 수도 있다. 반대로, 단일 실시형태의 문맥에서 기술한 다양한 특징들 역시 개별적으로 혹은 어떠한 적절한 하위 조합으로도 복수의 실시형태에서 구현 가능하다. 나아가, 특징들이 특정한 조합으로 동작하고 초기에 그와 같이 청구된 바와 같이 묘사될 수 있지만, 청구된 조합으로부터의 하나 이상의 특징들은 일부 경우에 그 조합으로부터 배제될 수 있으며, 그 청구된 조합은 하위 조합이나 하위 조합의 변형물로 변경될 수 있다.
마찬가지로, 특정한 순서로 도면에서 동작들을 묘사하고 있지만, 이는 바람직한 결과를 얻기 위하여 도시된 그 특정한 순서나 순차적인 순서대로 그러한 동작들을 수행하여야 한다거나 모든 도시된 동작들이 수행되어야 하는 것으로 이해되어서는 안 된다. 특정한 경우, 멀티태스킹과 병렬 프로세싱이 유리할 수 있다. 또한, 상술한 실시형태의 다양한 시스템 컴포넌트의 분리는 그러한 분리를 모든 실시형태에서 요구하는 것으로 이해되어서는 안되며, 설명한 프로그램 컴포넌트와 시스템들은 일반적으로 단일의 소프트웨어 제품으로 함께 통합되거나 다중 소프트웨어 제품에 패키징될 수 있다는 점을 이해하여야 한다.
아울러, 본 명세서와 도면에는 본 발명의 바람직한 실시 예에 대하여 개시하였으나, 여기에 개시된 실시 예외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다. 또한, 본 명세서와 도면에서 특정 용어들이 사용되었으나, 이는 단지 본 발명의 기술 내용을 쉽게 설명하고 발명의 이해를 돕기 위한 일반적인 의미에서 사용된 것이지, 본 발명의 범위를 한정하고자 하는 것은 아니다.
따라서 본 발명의 범위는 설명된 실시 예에 의하여 정할 것이 아니고 특허청구범위에 의해 정하여져야 한다.
본 발명은 부호화된 비디오 데이터를 복호화하고 랜더링을 통해 출력 영상을 구성하는데 있어서, 디코딩 속도보다 랜더링 속도를 빠르게 설정함으로써, 랜더링 버퍼에 복호화된 비디오 데이터가 누적되며 랜더링 처리가 지연되는 것을 방지할 수 있다.
더하여, 본 발명은 사용자 요청에 대한 응답으로서 통신망을 통해서 부호화된 비디오 데이터를 포함하는 비트 스트림을 수신하여, 복호화 및 랜더링 과정을 통해 영상으로 출력하는 클라우드 스트리밍 서비스에 있어서, 디코딩 속도보다 랜더링 속도를 빠르게 설정함으로써, 랜더링 버퍼에 복호화된 비디오 데이터가 누적되며 랜더링 처리가 지연되는 것을 방지하고, 그 결과 사용자 요청에 대한 응답 시간을 최소화할 수 있다.
10: 통신망 100: 클라우드 스트리밍 서비스 장치
110: 서비스 통신부 120: 스트리밍 제어부
130: 부호화부 140: 서비스 저장부
150: 실시간 방송 수신부 160: 클라우드 컴퓨팅 처리부
200: 사용자 장치 210: 네트워크 수신부
220: 디코딩부 230: 랜더링부
240: 제어부 250: 접속 인터페이스부
300: 영상 출력 장치 310: 접속 인터페이스부
320: 랜더링부 330: 제어부

Claims (11)

  1. 부호화된 비디오 데이터를 포함하는 비트 스트림을 수신하는 네트워크 수신부;
    기 설정된 디코딩 속도로 상기 네트워크 수신부에 의해 수신된 비트 스트림을 복호화하는 디코딩부;
    상기 비트 스트림의 수신 전에, 상기 부호화된 비디오 데이터에 대한 상기 디코딩부의 디코딩 속도를 확인하여, 랜더링부에서 지원하는 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하는 제어부; 및
    상기 디코딩 속도보다 빠르게 설정된 랜더링 속도로 상기 디코딩부에서 출력되는 복호화된 비디오 데이터를 처리하여 출력 영상을 구성하는 랜더링부를 포함하는 것을 특징으로 하는 사용자 장치.
  2. 삭제
  3. 제1항에 있어서,
    상기 네트워크 수신부는 클라우드 스트리밍 서비스 장치로부터 프레임단위로 재생시간에 맞추어 전송되는 부호화된 비디오 데이터를 수신하여 상기 디코딩부로 전달하고,
    상기 디코딩부는 상기 부호화된 비디오 데이터가 수신되는 대로 복호화하는 것을 특징으로 하는 사용자 장치.
  4. 제1항에 있어서, 상기 디코딩 속도 및 랜더링 속도는
    24 FPS(frame Per Second), 30 FPS, 40 FPS, 50 FPS, 60 FPS 중 하나로 설정되는 것을 특징으로 하는 사용자 장치.
  5. 사용자 장치와 접속되어 제어 신호 및 비디오 데이터를 송수신하기 위한 접속 인터페이스부;
    상기 접속 인터페이스부를 통해 접속된 사용자 장치의 부호화된 비디오 데이터에 대한 디코딩 속도를 확인하고, 랜더링부에서 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하는 제어부; 및
    설정된 랜더링 속도로 상기 사용자 장치로부터 프레임 단위로 전달되는 복호화된 비디오 데이터를 처리하여 출력 영상을 구성하는 랜더링부를 포함하는 영상 출력 장치.
  6. 부호화된 비디오 데이터를 수신하여, 기 설정된 디코딩 속도로 복호화하는 사용자 장치;
    상기 사용자 장치와 유선 또는 무선 방식으로 접속되어, 상기 부호화된 비디오 데이터에 대한 상기 사용자 장치의 디코딩 속도를 확인하고, 지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도로 상기 복호화된 비디오 데이터를 랜더링하여 출력 영상을 구성하는 영상 출력 장치를 포함하는 클라우드 스트리밍 서비스 시스템.
  7. 제6항에 있어서,
    상기 사용자 장치가 요청한 컨텐츠의 부호화된 비디오 데이터를 상기 사용자 장치에서의 재생 시간에 맞추어 프레임 단위로 순차 전송하는 클라우드 스트리밍 서비스 장치를 더 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 시스템.
  8. 영상 출력 기능을 포함하는 장치가,
    부호화된 비디오 데이터에 대한 디코딩 속도를 확인하는 단계;
    지원 가능한 랜더링 속도 중 상기 디코딩 속도보다 빠른 랜더링 속도를 선택하여 설정하는 단계; 및
    설정한 랜더링 속도로 복호화된 비디오 데이터를 랜더링하여 출력 영상을 구성하는 단계를 포함하는 것을 특징으로 하는 레이턴시를 고려한 영상 처리 방법.
  9. 제8항에 있어서,
    상기 디코딩 속도로 상기 부호화된 비디오 데이터를 복호화하는 단계를 더 포함하는 것을 특징으로 하는 레이턴시를 고려한 영상 처리 방법.
  10. 제9항에 있어서,
    통신망을 통해 상기 부호화된 비디오 데이터를 프레임 단위로 재생 시간에 맞추어 수신하는 단계를 더 포함하는 것을 특징으로 하는 레이턴시를 고려한 영상 처리 방법.
  11. 제8항 내지 제10항 중 어느 한 항에 기재된 레이턴시를 고려한 영상 처리 방법을 실행하는 프로그램을 기록한 컴퓨터 판독 가능한 기록 매체.
KR1020140013561A 2014-02-06 2014-02-06 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템 KR101678388B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140013561A KR101678388B1 (ko) 2014-02-06 2014-02-06 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140013561A KR101678388B1 (ko) 2014-02-06 2014-02-06 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템

Publications (2)

Publication Number Publication Date
KR20150092927A KR20150092927A (ko) 2015-08-17
KR101678388B1 true KR101678388B1 (ko) 2016-12-06

Family

ID=54057047

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140013561A KR101678388B1 (ko) 2014-02-06 2014-02-06 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템

Country Status (1)

Country Link
KR (1) KR101678388B1 (ko)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114189737B (zh) * 2021-12-06 2024-08-06 国微集团(深圳)有限公司 一种数字电视快速切台方法及数字电视
KR20240083457A (ko) * 2022-12-05 2024-06-12 삼성전자주식회사 디스플레이 장치 및 그 제어 방법

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0735776B1 (en) 1995-03-29 2004-01-28 Hitachi, Ltd. Decoder for compressed and multiplexed video and audio data
KR20010113671A (ko) * 1999-02-17 2001-12-28 케네쓰 올센 디스플레이 효과 수행을 위한 선별적 여과 조절을이용하여 출력 픽셀을 생성하는 수퍼-샘플되는 샘플버퍼를 가지는 그래픽 시스템
KR20080053122A (ko) * 2006-12-08 2008-06-12 한국전자통신연구원 계층적 코딩된 콘텐츠의 적응적 전송 장치 및 그 방법
US9426522B2 (en) * 2007-07-10 2016-08-23 Qualcomm Incorporated Early rendering for fast channel switching
JP5440839B2 (ja) * 2009-06-10 2014-03-12 ソニー株式会社 情報処理装置および方法、並びにプログラム

Also Published As

Publication number Publication date
KR20150092927A (ko) 2015-08-17

Similar Documents

Publication Publication Date Title
CN109327728B (zh) 一种一对多同屏方法、装置和系统、同屏设备及存储介质
CN108076364B (zh) 自适应媒体流传输设备和媒体服务设备
US9716737B2 (en) Video streaming in a wireless communication system
KR101668283B1 (ko) 레이턴시를 고려한 영상 출력 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템
US8996762B2 (en) Customized buffering at sink device in wireless display system based on application awareness
WO2014057896A1 (ja) コンテンツ送信装置、コンテンツ再生装置、コンテンツ配信システム、コンテンツ送信装置の制御方法、コンテンツ再生装置の制御方法、制御プログラムおよび記録媒体
CN104394426B (zh) 流媒体倍速播放方法和装置
US20140139735A1 (en) Online Media Data Conversion Method, Online Video Playing Method and Corresponding Device
CN110113621B (zh) 媒体信息的播放方法和装置、存储介质、电子装置
CN101883097A (zh) 服务器设备共享客户端设备屏幕的实现方法及装置
JP7100052B2 (ja) 電子装置及びその制御方法
US20140112636A1 (en) Video Playback System and Related Method of Sharing Video from a Source Device on a Wireless Display
JP5428734B2 (ja) ネットワーク機器、情報処理装置、ストリーム切替方法、情報処理方法、プログラムおよびコンテンツ配信システム
US9794317B2 (en) Network system and network method
US9148289B2 (en) Method for streaming video data
CN106663431A (zh) 发送装置、发送方法、接收装置以及接收方法
KR20130099515A (ko) 키 프레임을 이용하여 컨텐츠를 재생하는 단말기의 장치 및 방법
KR101678388B1 (ko) 레이턴시를 고려한 영상 처리 방법, 이를 수행하는 장치 및 클라우드 스트리밍 서비스 시스템
CN108024140B (zh) 一种直播方法及系统
KR101671311B1 (ko) 클라우드 스트리밍 서비스 시스템, 이를 위한 장치 및 클라우드 스트리밍 서비스 방법
CN105120324B (zh) 一种分布式播放器实现方法及系统
EP3970384B1 (en) Method and apparatus for playing multimedia streaming data
US20140094112A1 (en) Method and apparatus for multiple media output
US20240205469A1 (en) Apparatus and method for processing cloud streaming low latency playback
US20100031302A1 (en) Stream distribution system, stream receiving device, and stream reproduction method

Legal Events

Date Code Title Description
A201 Request for examination
N231 Notification of change of applicant
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191015

Year of fee payment: 4