KR20220137260A - 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치 - Google Patents

Abstract

비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치가 개시된다. 본 발명에 따른 상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서비스 제공 방법은 클라우드 스트리밍 서버가, YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성하는 단계; 상기 클라우드 스트리밍 서버가, 상기 YUV 컬러 공간에 상응하게 비디오 프레임을 생성하는 단계; 및 상기 클라우드 스트리밍 서버가, 상기 사용자 인터페이스 화면 및 상기 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, 상기 YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공하는 단계를 포함한다.

Description

비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치{METHOD FOR PROVIDING CLOUD STREAMING SERVICE USING OMISSION OF VIDEO COLOR SPACE CONVERSION AND APPARATUS THEREFOR}

본 발명은 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 기술에 관한 것으로, 특히 클라우드 스트리밍 서비스 제공 시 서버 단에서 디스플레이 버퍼를 통한 화면 구성 과정과 이를 위한 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 시스템을 운영할 수 있는 클라우드 스트리밍 서비스 제공 기술에 관한 것이다.

클라우드 컴퓨팅 서비스는 사용자가 컨텐츠를 로컬 스토리지가 아닌, 인터넷상의 클라우드 스토리지에 저장해놓고, 인터넷이 가능한 기기를 이용하여 언제 어디서든지 클라우드 스토리지에 접근하여 컨텐츠를 이용할 수 있는 서비스이다.

이러한 클라우드 컴퓨팅 서비스는 대용량의 영상 처리가 요구되는 서비스나 기능을 실행하는데 있어서, 클라우드 컴퓨팅 기반의 서버를 이용하여 해당하는 서비스나 기능을 제공하고 있다. 또한, 서비스나 기능을 실행한 결과 화면만을 스트리밍 기술을 이용하여 사용자의 단말기로 전송함으로써, 사용자가 단말기를 통해 고사양 또는 고기능이 요구되는 서비스나 기능을 이용할 수 있도록 한다.

이 때, 클라우드 스트리밍 서버 내부에서 VOD 동영상을 플레이하고, 이를 UI(User Interface)와 함께 보여주기 위해서는, 엘리먼트 스트림(Element Stream, ES)을 비디오 디코더로 디코딩하고, 여기에서 나오는 YUV 프레임을 다시 화면 표시하기 위해 RGBA(Red-Green-Blue-Alpha) 컬러로 변환하는 과정이 필요하였다. 이렇게 생성된 비디오 RGBA 데이터와 UI 생성 시스템에서 그려진 RGBA 데이터가 합성되어 디스플레이 버퍼(Display Buffer)로 완성된 화면이 구성된다.

그러나, 클라우드 스트리밍을 위해서는 디스플레이 버퍼를 얻어내서 다시 YUV 프레임으로 변환해야하고, 이를 다시 비디오 인코딩을 통해서 엘리먼트 스트림으로 변환한 후에 단말로 데이터를 전송하였다.

즉, 화면 표시를 위한 디스플레이 버퍼를 구성하는 과정에서 YUV pixel이 RGBA pixel로 변환되는 연산 비용 및 시스템 내 버퍼 전송 비용이 발행하고, 인코딩 과정에서 다시 RGBA pixel을 YUV pixel로 변환해주는 연산 비용 및 시스템 내 버퍼 전송 비용이 발생하게 된다.

하지만, 클라우드 스트리밍 시스템 상에서는 디스플레이 버퍼를 사용자에게 바로 보여주는 것이 아니라, 사용자 단말로 전달된 인코딩된 엘리먼트 스트림을 디코딩하여 사용자에게 보여주는 형태이므로 RGBA와 YUV 간 버퍼 변환 과정은 매우 비효율적이며 불필요한 과정에 해당한다.

한국 공개 특허 제10-2017-0022599호, 2017년 3월 2일 공개(명칭: 클라우드 스트리밍 서비스 시스템, 컬러 비트 감소를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치)

본 발명의 목적은, 클라우드 스트리밍 서비스 제공 시 서버 내부에서의 화면 표시 과정을 생략함으로써 서버의 CPU 사용률을 감소시키는 것이다.

또한 본 발명의 목적은, 클라우드 스트리밍 서버의 CPU 사용률을 감소시키고, 전체 데이터 대역폭에 여유를 제공함으로써 서버의 최대 동시 접속자 수를 늘리는 것이다.

또한 본 발명의 목적은, 클라우드 스트리밍 서버 내부의 디스플레이 버퍼(Display Buffer)로 화면을 구성하기 위한 비디오 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 서비스를 제공하는 것이다.

또한, 본 발명의 목적은, YUV 프레임보다 비교적으로 용량이 큰 RGBA 프레임의 사용을 생략함으로써 서버 내에서의 데이터 대역폭에 여유를 제공하는 것이다.

상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서비스 제공 방법은 클라우드 스트리밍 서버가, YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성하는 단계; 상기 클라우드 스트리밍 서버가, 상기 YUV 컬러 공간에 상응하게 비디오 프레임을 생성하는 단계; 및 상기 클라우드 스트리밍 서버가, 상기 사용자 인터페이스 화면 및 상기 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, 상기 YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공하는 단계를 포함한다.

이 때, 비디오 프레임을 생성하는 단계는 비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩하는 단계를 포함할 수 있다.

이 때, 사용자 인터페이스 화면을 생성하는 단계는 사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환하는 단계를 포함할 수 있다.

이 때, 클라우드 스트리밍 서버는 디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략할 수 있다.

이 때, 클라우드 스트리밍 서비스를 제공하는 단계는 상기 YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 상기 클라이언트 단말에게 전달할 수 있다.

또한, 본 발명에 따른 클라우드 스트리밍 서버는 YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성하고, 상기 YUV 컬러 공간에 상응하게 비디오 프레임을 생성하고, 상기 사용자 인터페이스 화면 및 상기 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, 상기 YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공하는 프로세서; 및 상기 YUV 합성 데이터를 저장하는 메모리를 포함한다.

이 때, 프로세서는 비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩할 수 있다.

이 때, 프로세서는 사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환할 수 있다.

이 때, 디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략할 수 있다.

이 때, 프로세서는 상기 YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 상기 클라이언트 단말에게 전달할 수 있다.

본 발명에 따르면, 클라우드 스트리밍 서비스 제공 시 서버 내부에서의 화면 표시 과정을 생략함으로써 서버의 CPU 사용률을 감소시킬 수 있다.

또한 본 발명은, 클라우드 스트리밍 서버의 CPU 사용률을 감소시키고, 전체 데이터 대역폭에 여유를 제공함으로써 서버의 최대 동시 접속자 수를 늘릴 수 있다.

또한 본 발명은, 클라우드 스트리밍 서버 내부의 디스플레이 버퍼(Display Buffer)로 화면을 구성하기 위한 비디오 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 서비스를 제공 가능하다.

또한, 본 발명은, YUV 프레임보다 비교적으로 용량이 큰 RGBA 프레임의 사용을 생략함으로써 서버 내에서의 데이터 대역폭에 여유를 제공할 수 있다.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법을 나타낸 동작 흐름도이다.
도 3은 통상의 비디오 및 UI의 합성 및 인코딩 과정의 일 예를 나타낸 도면이다.
도 4는 본 발명에 따른 컬러 공간 변환 생략 합성 및 인코딩 과정의 일 예를 나타낸 도면이다.
도 5는 본 발명에 따른 클라우드 스트리밍 서비스 과정의 일 예를 나타낸 도면이다.
도 6은 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법을 상세하게 나타낸 동작 흐름도이다.
도 7은 본 발명의 일실시예에 따른 클라우드 스트리밍 서버를 나타낸 블록도이다.

이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.

도 1을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 클라이언트 단말(120-1~120-N) 및 네트워크(130)를 포함한다.

이 때, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 서비스 과정 중에서 RGBA 컬러 공간 및 YUV 컬러 공간 사이에 변환 과정을 생략함으로써 시스템의 CPU 이용률을 향상시키고 전체 데이터 대역폭의 여유를 가져와 최대 동시 접속자 수를 향상시키기 위한 것으로,

먼저, 클라우드 스트리밍 서버(110)는 YUV 컬러 공간에 상응하게 사용자 인터페이스(User Interface) 화면을 생성한다.

이 때, YUV 컬러 공간은 빛과 컬러 정보를 한번에 담은 포맷에 해당하는 것으로, YcbCr 컬러 공간으로도 불린다. 이는, 휘도 신호(Y), 휘도 신호와 청색 성분의 차(U), 휘도 신호와 적색 성분의 차(V)의 3가지 정보로 색을 나타내는 색 표현 방식으로 일반적으로 TV에서 사용되고 있다. 이 때, Y 성분은 오차에 민감하므로 색상 성분인 U와 V보다 많은 비트를 코딩하며, Y:U:V의 비율은 일반적으로 4:2:2에 상응할 수 있다.

일반적인 클라우드 스트리밍 서비스 제공 과정에서는, 클라우드 스트리밍 서버가 엘리먼트 스트림(Element Stream)을 디코딩하는 경우에 YUV 컬러 공간에 상응하는 YUV 프레임을 획득할 수 있다.

그러나, 도 3을 참조하면, 종래의 클라우드 스트리밍 서버에서는 플레이어(310)를 기반으로 VOD 동영상 또는 어플리케이션 화면을 구성할 때, 비디오 데이터와 함께 UI 데이터를 제공하기 위해서 RGBA 컬러 공간에 상응하게 UI 데이터를 제공한다.

이 때, RGBA 컬러 공간은 적색, 녹색, 청색 3개의 RGB 컬러 모델에 4번째 알파 채널이 보충된 것으로, 알파는 각 화소가 얼마나 투명한지를 나타낼 수 있다.

즉, UI 데이터는 RGBA 픽셀로 구현되고, 비디오 데이터는 YUV 픽셀로 구현되므로, 두 데이터를 합성하기 위해서는 어느 하나의 데이터 컬러 공간을 필수적으로 변환해야 한다. YUV 컬러 공간과 RGBA 컬러 공간은 방식이 상이하기 때문에 상호간에 변환하는 과정에서 별도의 연산 비용이 발생할 수 있다.

예를 들어, RGB 값을 YUV 값으로 변환하는 경우에는 'Y=0.3R+0.59G +0.11B, U=(B-Y)x0.493, V=(R-Y)x0.877'와 같은 변환식을 연산해야 하며, 반대로 YUV 값을 RGB 값으로 변환하는 경우에는 'R=Y+0.956U+0.621V, G=Y+0.272U+0.647V, B=Y+1.1061U+1.703V'와 같은 변환식을 연산해야 한다.

이 때, 클라우드 스트리밍 서버에서 디스플레이 버퍼(Display buffer)를 통해 구성된 화면을 표시하기 위해서는 RGBA 데이터가 있어하므로, 도 3에 도시된 것처럼 YUV 픽셀로 구현된 비디오 데이터를 RGBA 픽셀로 변환하는 과정을 수행하게 된다. 이 후, RGBA 픽셀로 구현된 UI 데이터와 비디오 데이터를 합성한다.

그러나, 클라우드 스트리밍 서버에서 디스플레이 버퍼를 통해 완성된 어플리케이션 실행화면은 클라이언트 단말을 사용하는 사용자에게 바로 보여지는 것이 아니라, 도 3에 도시된 것처럼 인코더(320)에 의한 인코딩 과정을 거치게 된다.

이 때, 사용되는 비디오 인코더는 YUV 프레임을 입력으로 하기 때문에 화면 구성을 위해 RGBA 컬러로 변환하였던 데이터는 또 다시 YUV 컬러로 변환하는 과정을 수행해야 하고, 이에 따른 연산 비용이 발생하게 된다.

이와 같은 과정을 통해, 클라우드 스트리밍 서버가 엘리먼트 스트림의 형태로 인코딩된 데이터를 클라이언트 단말로 전송하면, 클라이언트 단말에서는 엘리먼트 스트림을 다시 디코딩한 뒤에 사용자에게 어플리케이션 화면을 제공하게 된다.

따라서, 클라우드 스트리밍 서버 단에서 디스플레이 버퍼를 통해 완성된 화면을 구성하는 과정은 실제 서비스 과정에서는 불필요한 과정에 해당할 수 있다.

본 발명에서는 이 과정에서 발생하는 비효율적인 연산과정을 생략하기 위해서 디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략하도록 한다.

이 때, 사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환할 수 있다.

즉, 추후 데이터 합성을 위한 컬러 공간을 RGBA가 아닌 YUV로 통일하기 위해서 비디오 데이터 대신 UI 데이터의 컬러 공간을 변환할 수 있다.

또한, 클라우드 스트리밍 서버(110)는 YUV 컬러 공간에 상응하게 비디오 프레임을 생성한다.

이 때, 비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩할 수 있다.

예를 들어, 도 4에 도시된 것처럼, 비디오 디코더를 통해 엘리먼트 스트림을 디코딩하여 YUV 픽셀에 상응하게 비디오 프레임이 생성되면, 추가적인 색상 변환을 수행하지 않고 YUV 픽셀의 비디오 프레임을 그대로 이용할 수 있다.

즉, 도 4에 도시된 것처럼 엘리먼트 스트림을 디코딩해서 획득한 YUV 프레임을 RGBA 컬러 공간에 상응하는 데이터로 변환하지 않고 그대로 사용하도록 한다.

이 때, 도 5에 도시된 인코더의 입력 및 디코더의 출력은 YUV 컬러 공간이 되며, 일반적으로 많이 쓰이는 YUV420 포맷의 경우에는 픽셀당 1.5byte에 상응할 수 있다.

즉, 픽셀당 4byte에 해당하는 RGBA 데이터를 전송하는 것보다 픽셀당 1.5byte에 해당하는 YUV 데이터를 전송하는 것이 대역폭 점유면에서도 효과적일 수 있다.

예를 들어, RGBA는 픽셀당 4byte이므로, '넓이 * 높이 * 4'에 상응하는 대역폭을 점유하지만, YUV에서 많이 쓰이는 420포맷의 경우에는 픽셀당 1.5byte이므로, '넓이 * 높이 * 1.5'에 상응하는 대역폭을 점유하게 된다. 즉, 4/1.5로 약 2.67배의 데이터 대역폭 점유의 이득이 발생할 수 있다.

또한, 클라우드 스트리밍 서버(110)는 사용자 인터페이스 화면 및 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, YUV 합성 데이터를 기반으로 클라이언트 단말(120-1~120-N)에게 클라우드 스트리밍 서비스를 제공한다.

예를 들어, 도 4에 도시된 것처럼 YUV COMPOSITE 과정을 통해 YUV 컬러 공간에 상응하는 사용자 인터페이스 화면과 YUV 컬러 공간에 상응하는 비디오 프레임을 합성할 수 있다.

이 때, YUV 합성 데이터는 이미 YUV 컬러 공간에 상응하므로, 합성 데이터를 인코더(420)로 입력하는 과정에서 컬러 변환을 위한 연산 비용이 절약될 수 있다.

이 때, YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 클라이언트 단말(120-1~120-N)에게 전달할 수 있다.

클라이언트 단말(120-1~120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행화면을 수신하여 사용자에게 제공한다.

또한, 클라이언트 단말(120-1~120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말(120-1~ 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.

또한, 클라이언트 단말(120-1~120-N)은 숫자 및 문자 정보 등의 다양한 정보를 입력 받고, 각종 기능을 설정 및 클라이언트 단말(120-1~120-N)의 기능 제어와 관련하여 입력되는 신호를 입력부를 통해 제어부로 전달할 수 있다. 또한, 클라이언트 단말(120-1~120-N)의 입력부는 사용자의 터치 또는 조작에 따른 입력 신호를 발생하는 키패드와 터치패드 중 적어도 하나를 포함하여 구성할 수 있다. 이 때, 클라이언트 단말(120-1~120-N)의 입력부는 클라이언트 단말(120-1~120-N)의 표시부와 함께 하나의 터치패널(또는 터치 스크린(touch screen))의 형태로 구성되어 입력과 표시 기능을 동시에 수행할 수 있다. 또한, 클라이언트 단말(120-1~120-N)의 입력부는 키보드, 키패드, 마우스, 조이스틱 등과 같은 입력 장치 외에도 향후 개발될 수 있는 모든 형태의 입력 수단이 사용될 수 있다.

또한, 클라이언트 단말(120-1~120-N)의 표시부는 클라이언트 단말(120-1~120-N)의 기능 수행 중에 발생하는 일련의 동작상태 및 동작결과 등에 대한 정보를 표시할 수 있다. 또한, 클라이언트 단말(120-1~120-N)의 표시부는 클라이언트 단말(120-1~120-N)의 메뉴 및 사용자가 입력한 사용자 데이터 등을 표시할 수 있다. 여기서, 클라이언트 단말(120-1~120-N)의 표시부는 액정표시장치(LCD, Liquid Crystal Display), 초박막 액정표시장치(TFT-LCD, Thin Film Transistor LCD), 발광다이오드(LED, Light Emitting Diode), 유기 발광다이오드(OLED, Organic LED), 능동형 유기발광다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다. 이 때, 클라이언트 단말(120-1~120-N)의 표시부가 터치스크린 형태로 구성된 경우, 클라이언트 단말(120-1~120-N)의 표시부는 클라이언트 단말(120-1~120-N)의 입력부의 기능 중 일부 또는 전부를 수행할 수 있다.

또한, 클라이언트 단말(120-1~120-N)의 저장부는 데이터를 저장하기 위한 장치로, 주 기억장치 및 보조 기억장치를 포함하고, 클라이언트 단말(120-1~120-N)의 기능 동작에 필요한 응용 프로그램을 저장할 수 있다. 이러한 클라이언트 단말(120-1~120-N)의 저장부는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다. 여기서, 클라이언트 단말(120-1~120-N)은 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 제어부의 제어 하에 해당 응용 프로그램들을 실행하여 각 기능을 제공하게 된다.

또한, 클라이언트 단말(120-1~ 120-N)의 통신부는 클라우드 스트리밍 서버(110)와 네트워크(130)을 통해 데이터를 송수신하기 위한 기능을 수행할 수 있다. 여기서 클라이언트 단말(120-1~120-N)의 통신부는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함할 수 있다. 이러한 클라이언트 단말(120-1~120-N)의 통신부는 무선통신 모듈 및 유선통신 모듈 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 클라이언트 단말(120-1~120-N)이 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 클라우드 스트리밍 서버(110)로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 네트워크(130)에 접속하여, 클라우드 스트리밍 서버(110)에 데이터를 송수신할 수 있다. 즉 클라이언트 단말(120-1~120-N)은 무선통신 모듈 또는 유선통신 모듈을 이용하여 네트워크(130)에 접속하며, 네트워크(130)을 통해 클라우드 스트리밍 서버(110)와 데이터를 송수신할 수 있다.

또한, 클라이언트 단말(120-1~120-N)의 제어부는 운영 체제((OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 예를 들어, 제어부는 클라우드 스트리밍 서버(110)에 접속하는 과정 전반을 제어할 수 있다. 별도의 서비스 어플리케이션을 통해 클라우드 스트리밍 서버(110)에 접속하는 경우, 사용자의 요청에 따라 서비스 어플리케이션을 실행되는 과정 전반을 제어할 수 있으며, 실행과 동시에 클라우드 스트리밍 서버(110)로 서비스 이용 요청이 전송되도록 제어할 수 있으며, 이때 사용자 인증에 필요한 클라이언트 단말(120-1~120-N)의 정보가 함께 전송되도록 제어할 수 있다.

네트워크(130)는 클라우드 스트리밍 서버(110)및 클라이언트 단말(120-1~120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 클라이언트 단말(120-1~120-N) 사이에 사용되는 네트워크는 클라이언트 단말(120-1~120-N)들 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.

이와 같은 시스템을 통해 클라우드 스트리밍 서비스 제공 시 서버 내부에서의 화면 표시 과정을 생략함으로써 서버의 CPU 사용률을 감소시킬 수 있다.

또한, 클라우드 스트리밍 서버의 CPU 사용률을 감소시키고, 전체 데이터 대역폭에 여유를 제공함으로써 서버의 최대 동시 접속자 수를 늘릴 수 있다.

또한, 클라우드 스트리밍 서버 내부의 디스플레이 버퍼(Display Buffer)로 화면을 구성하기 위한 비디오 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 서비스를 제공할 수 있다.

또한, YUV 프레임보다 비교적으로 용량이 큰 RGBA 프레임의 사용을 생략함으로써 서버 내에서의 데이터 대역폭에 여유를 제공할 수 있다.

도 2는 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법을 나타낸 동작 흐름도이다.

도 2를 참조하면, 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법은, 클라우드 스트리밍 서버가, YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성한다(S210).

이 때, YUV 컬러 공간은 빛과 컬러 정보를 한번에 담은 포맷에 해당하는 것으로, YcbCr 컬러 공간으로도 불린다. 이는, 휘도 신호(Y), 휘도 신호와 청색 성분의 차(U), 휘도 신호와 적색 성분의 차(V)의 3가지 정보로 색을 나타내는 색 표현 방식으로 일반적으로 TV에서 사용되고 있다. 이 때, Y 성분은 오차에 민감하므로 색상 성분인 U와 V보다 많은 비트를 코딩하며, Y:U:V의 비율은 일반적으로 4:2:2에 상응할 수 있다.

일반적인 클라우드 스트리밍 서비스 제공 과정에서는, 클라우드 스트리밍 서버가 엘리먼트 스트림(Element Stream)을 디코딩하는 경우에 YUV 컬러 공간에 상응하는 YUV 프레임을 획득할 수 있다.

그러나, 도 3을 참조하면, 종래의 클라우드 스트리밍 서버에서는 플레이어(310)를 기반으로 VOD 동영상 또는 어플리케이션 화면을 구성할 때, 비디오 데이터와 함께 UI 데이터를 제공하기 위해서 RGBA 컬러 공간에 상응하게 UI 데이터를 제공한다.

이 때, RGBA 컬러 공간은 적색, 녹색, 청색 3개의 RGB 컬러 모델에 4번째 알파 채널이 보충된 것으로, 알파는 각 화소가 얼마나 투명한지를 나타낼 수 있다.

즉, UI 데이터는 RGBA 픽셀로 구현되고, 비디오 데이터는 YUV 픽셀로 구현되므로, 두 데이터를 합성하기 위해서는 어느 하나의 데이터 컬러 공간을 필수적으로 변환해야 한다. YUV 컬러 공간과 RGBA 컬러 공간은 방식이 상이하기 때문에 상호간에 변환하는 과정에서 별도의 연산 비용이 발생할 수 있다.

예를 들어, RGB 값을 YUV 값으로 변환하는 경우에는 'Y=0.3R+0.59G +0.11B, U=(B-Y)x0.493, V=(R-Y)x0.877'와 같은 변환식을 연산해야 하며, 반대로 YUV 값을 RGB 값으로 변환하는 경우에는 'R=Y+0.956U+0.621V, G=Y+0.272U+0.647V, B=Y+1.1061U+1.703V'와 같은 변환식을 연산해야 한다.

이 때, 클라우드 스트리밍 서버에서 디스플레이 버퍼(Display buffer)를 통해 구성된 화면을 표시하기 위해서는 RGBA 데이터가 있어하므로, 도 3에 도시된 것처럼 YUV 픽셀로 구현된 비디오 데이터를 RGBA 픽셀로 변환하는 과정을 수행하게 된다. 이 후, RGBA 픽셀로 구현된 UI 데이터와 비디오 데이터를 합성한다.

그러나, 클라우드 스트리밍 서버에서 디스플레이 버퍼를 통해 완성된 어플리케이션 실행화면은 클라이언트 단말을 사용하는 사용자에게 바로 보여지는 것이 아니라, 도 3에 도시된 것처럼 인코더(320)에 의한 인코딩 과정을 거치게 된다.

이 때, 사용되는 비디오 인코더는 YUV 프레임을 입력으로 하기 때문에 화면 구성을 위해 RGBA 컬러로 변환하였던 데이터는 또 다시 YUV 컬러로 변환하는 과정을 수행해야 하고, 이에 따른 연산 비용이 발생하게 된다.

이와 같은 과정을 통해, 클라우드 스트리밍 서버가 엘리먼트 스트림의 형태로 인코딩된 데이터를 클라이언트 단말로 전송하면, 클라이언트 단말에서는 엘리먼트 스트림을 다시 디코딩한 뒤에 사용자에게 어플리케이션 화면을 제공하게 된다.

따라서, 클라우드 스트리밍 서버 단에서 디스플레이 버퍼를 통해 완성된 화면을 구성하는 과정은 실제 서비스 과정에서는 불필요한 과정에 해당할 수 있다.

본 발명에서는 이 과정에서 발생하는 비효율적인 연산과정을 생략하기 위해서 디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략하도록 한다.

이를 위해, 도 4에 도시된 것처럼, 사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환할 수 있다.

즉, 추후 데이터 합성을 위한 컬러 공간을 RGBA가 아닌 YUV로 통일하기 위해서 비디오 데이터 대신 UI 데이터의 컬러 공간을 변환할 수 있다.

또한, 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법은, 클라우드 스트리밍 서버가, YUV 컬러 공간에 상응하게 비디오 프레임을 생성한다(S220).

이 때, 비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩할 수 있다.

예를 들어, 도 4에 도시된 것처럼, 비디오 디코더를 통해 엘리먼트 스트림을 디코딩하여 YUV 픽셀에 상응하게 비디오 프레임이 생성되면, 추가적인 색상 변환을 수행하지 않고 YUV 픽셀의 비디오 프레임을 그대로 이용할 수 있다.

즉, 도 4에 도시된 것처럼 엘리먼트 스트림을 디코딩해서 획득한 YUV 프레임을 RGBA 컬러 공간에 상응하는 데이터로 변환하지 않고 그대로 사용하도록 한다.

이 때, 도 5에 도시된 인코더의 입력 및 디코더의 출력은 YUV 컬러 공간이 되며, 일반적으로 많이 쓰이는 YUV420 포맷의 경우에는 픽셀당 1.5byte에 상응할 수 있다.

즉, 픽셀당 4byte에 해당하는 RGBA 데이터를 전송하는 것보다 픽셀당 1.5byte에 해당하는 YUV 데이터를 전송하는 것이 대역폭 점유면에서도 효과적일 수 있다.

예를 들어, RGBA는 픽셀당 4byte이므로, '넓이 * 높이 * 4'에 상응하는 대역폭을 점유하지만, YUV에서 많이 쓰이는 420포맷의 경우에는 픽셀당 1.5byte이므로, '넓이 * 높이 * 1.5'에 상응하는 대역폭을 점유하게 된다. 즉, 4/1.5로 약 2.67배의 데이터 대역폭 점유의 이득이 발생할 수 있다.

또한, 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법은, 클라우드 스트리밍 서버가, 사용자 인터페이스 화면 및 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공한다(S230).

예를 들어, 도 4에 도시된 것처럼 YUV COMPOSITE 과정을 통해 YUV 컬러 공간에 상응하는 사용자 인터페이스 화면과 YUV 컬러 공간에 상응하는 비디오 프레임을 합성할 수 있다.

이 때, YUV 합성 데이터는 이미 YUV 컬러 공간에 상응하므로, 합성 데이터를 인코더(420)로 입력하는 과정에서 컬러 변환을 위한 연산 비용이 절약될 수 있다.

이 때, YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 클라이언트 단말에게 전달할 수 있다.

이 때, 도 2에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 파이프 라인 절차를 수행하여 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 파이프라인 처리 절차는 캡처, 인코딩 및 센딩에 상응할 수 있다.

예를 들어, 본 발명의 일실시예에 따른 파이프라인 처리 방식은 도 5에 도시된 것과 같이 렌더링을 포함하는 캡처, 인코딩 및 센딩의 절차를 수행할 수 있다. 즉, 클라우드 스트리밍 서버는 어플리케이션 실행화면을 캡처하고, 캡처된 화면을 인코딩(압축)하여 클라이언트 단말에게 센딩(전송)해 줄 수 있다.

이 때, 클라우드 스트리밍 서버는 클라이언트 단말이 요청한 클라우드 스트리밍 서비스에 대한 어플리케이션 화면을 제공할 수 있다.

예를 들어, 웹 어플리케이션 서버가 클라이언트 단말의 요청에 상응하게 어플리케이션을 실행시키고, 어플리케이션을 실행한 결과에 상응하는 어플리케이션 실행화면을 클라우드 스트리밍 서버로 전송할 수 있다. 즉, 클라우드 스트리밍 서버에서는 어플리케이션을 실행한 결과 화면만을 이용하여 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 클라이언트 단말은 클라우드 스트리밍 서버로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행화면을 수신하여 사용자에게 제공한다.

또한, 클라이언트 단말은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말(120-1~ 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.

또한, 클라이언트 단말은 숫자 및 문자 정보 등의 다양한 정보를 입력 받고, 각종 기능을 설정 및 클라이언트 단말의 기능 제어와 관련하여 입력되는 신호를 입력부를 통해 제어부로 전달할 수 있다. 또한, 클라이언트 단말의 입력부는 사용자의 터치 또는 조작에 따른 입력 신호를 발생하는 키패드와 터치패드 중 적어도 하나를 포함하여 구성할 수 있다. 이 때, 클라이언트 단말의 입력부는 클라이언트 단말의 표시부와 함께 하나의 터치패널(또는 터치 스크린(touch screen))의 형태로 구성되어 입력과 표시 기능을 동시에 수행할 수 있다. 또한, 클라이언트 단말의 입력부는 키보드, 키패드, 마우스, 조이스틱 등과 같은 입력 장치 외에도 향후 개발될 수 있는 모든 형태의 입력 수단이 사용될 수 있다.

또한, 클라이언트 단말의 표시부는 클라이언트 단말의 기능 수행 중에 발생하는 일련의 동작상태 및 동작결과 등에 대한 정보를 표시할 수 있다. 또한, 클라이언트 단말의 표시부는 클라이언트 단말의 메뉴 및 사용자가 입력한 사용자 데이터 등을 표시할 수 있다. 여기서, 클라이언트 단말의 표시부는 액정표시장치(LCD, Liquid Crystal Display), 초박막 액정표시장치(TFT-LCD, Thin Film Transistor LCD), 발광다이오드(LED, Light Emitting Diode), 유기 발광다이오드(OLED, Organic LED), 능동형 유기발광다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다. 이 때, 클라이언트 단말의 표시부가 터치스크린 형태로 구성된 경우, 클라이언트 단말의 표시부는 클라이언트 단말의 입력부의 기능 중 일부 또는 전부를 수행할 수 있다.

또한, 클라이언트 단말의 저장부는 데이터를 저장하기 위한 장치로, 주 기억장치 및 보조 기억장치를 포함하고, 클라이언트 단말의 기능 동작에 필요한 응용 프로그램을 저장할 수 있다. 이러한 클라이언트 단말의 저장부는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다. 여기서, 클라이언트 단말은 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 제어부의 제어 하에 해당 응용 프로그램들을 실행하여 각 기능을 제공하게 된다.

또한, 클라이언트 단말의 통신부는 클라우드 스트리밍 서버와 네트워크을 통해 데이터를 송수신하기 위한 기능을 수행할 수 있다. 여기서 클라이언트 단말의 통신부는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함할 수 있다. 이러한 클라이언트 단말의 통신부는 무선통신 모듈 및 유선통신 모듈 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 클라이언트 단말이 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 클라우드 스트리밍 서버로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 네트워크에 접속하여, 클라우드 스트리밍 서버에 데이터를 송수신할 수 있다. 즉 클라이언트 단말은 무선통신 모듈 또는 유선통신 모듈을 이용하여 네트워크에 접속하며, 네트워크을 통해 클라우드 스트리밍 서버와 데이터를 송수신할 수 있다.

또한, 클라이언트 단말의 제어부는 운영 체제((OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 예를 들어, 제어부는 클라우드 스트리밍 서버에 접속하는 과정 전반을 제어할 수 있다. 별도의 서비스 어플리케이션을 통해 클라우드 스트리밍 서버에 접속하는 경우, 사용자의 요청에 따라 서비스 어플리케이션을 실행되는 과정 전반을 제어할 수 있으며, 실행과 동시에 클라우드 스트리밍 서버로 서비스 이용 요청이 전송되도록 제어할 수 있으며, 이때 사용자 인증에 필요한 클라이언트 단말의 정보가 함께 전송되도록 제어할 수 있다.

또한, 도 2에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 스킵 프레임을 이용한 클라우드 스트리밍 서비스 제공 방법은 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장할 수 있다.

이와 같은 클라우드 스트리밍 서비스 제공 방법을 통해 클라우드 스트리밍 서비스 제공 시 서버 내부에서의 화면 표시 과정을 생략함으로써 서버의 CPU 사용률을 감소시킬 수 있다.

또한, 클라우드 스트리밍 서버의 CPU 사용률을 감소시키고, 전체 데이터 대역폭에 여유를 제공함으로써 서버의 최대 동시 접속자 수를 늘릴 수 있다.

또한, 클라우드 스트리밍 서버 내부의 디스플레이 버퍼(Display Buffer)로 화면을 구성하기 위한 비디오 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 서비스를 제공할 수 있다.

또한, YUV 프레임보다 비교적으로 용량이 큰 RGBA 프레임의 사용을 생략함으로써 서버 내에서의 데이터 대역폭에 여유를 제공할 수 있다.

도 5는 본 발명에 따른 클라우드 스트리밍 서비스 과정의 일 예를 나타낸 도면이다.

도 5를 참조하면, 본 발명에 따른 클라우드 스트리밍 서비스 과정은 디스플레이 버퍼(DISPLAY BUFFER)에 의한 화면 구성 및 표시 과정을 생략하고, YUV 프레임(YUV FRAME)을 엘리먼트 스트림(ELEMENT STREAM)으로 인코딩하여 클라이언트 단말(CLIENT TERMINAL)로 스트리밍할 수 있다.

이 때, 도 5의 상단의 과정은 종래의 클라우드 스트리밍 서비스 제공 과정으로써 UI 화면과 비디오 데이터를 합성한 화면을 디스플레이 버퍼를 통해 나타내기 위해서, 비디오 데이터의 엘리먼트 스트림을 디코딩하여 YUV 프레임으로 변환하는 과정, YUV 프레임의 색상 변환을 수행하여 RGBA 프레임을 생성하는 과정, UI 화면과 비디오 데이터가 합성된 RGBA 프레임을 통해 디스플레이 버퍼에 화면을 구성하는 과정, UI 화면과 비디오 데이터가 합성된 RGBA 프레임의 색상을 다시 YUV 프레임으로 변환하는 과정, UI 화면과 비디오 데이터가 합성된 YUV 프레임을 인코딩하여 UI 화면과 비디오 데이터가 합성된 엘리먼트 스트림을 생성하는 과정 및 UI 화면과 비디오 데이터가 합성된 엘리먼트 스트림을 클라이언트 단말로 스트리밍 하는 과정을 포함해야만 했다.

이 때, YUV 프레임을 RGBA 프레임으로 변환하거나 또는 RGBA 프레임을 YUV 프레임으로 변환하는 과정은 단순히 디스플레이 버퍼를 통해 화면을 구성하기 위함인데, 이렇게 디스플레이 버퍼를 통해 구성된 화면은 그대로 클라이언트 단말에게 전달되는 것이 아니다.

즉, 서버 단에서 디스플레이 버퍼를 통해 화면을 구성하는 과정은 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공하기 위해 반드시 필요한 과정이라고 볼 수 없다.

따라서, 본 발명에서는 이러한 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 시스템을 운영하기 위한 방안을 제공할 수 있다.

예를 들어, 도 5의 하단에 도시된 과정을 참조하면, 본 발명의 일실시예에 따르면 상단에서 점선으로 표시된 과정을 생략하고 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 과정만으로 본다면 디스플레이 버퍼를 통해 화면을 구성하는 과정만 생략되었을 뿐이지만, 이로 인해 YUV 프레임을 RGBA 프레임으로 변환하거나 또는 RGBA 프레임을 YUV 프레임으로 변환하는 과정 또한 생략될 수 있음을 알 수 있다.

다시 말해서, 디스플레이 버퍼로 RGBA 프레임이 입력되지 않아도 되므로, 비디오 데이터에 해당하는 YUV 프레임을 RGBA 프레임으로 변환하는 과정을 수행하지 않아도 된다. 또한, 이를 다시 인코더로 입력하기 위해서 RGBA 프레임을 YUV 프레임으로 변환하는 과정을 수행하지 않아도 된다.

이와 같이 디스플레이 버퍼를 통해 서버 단에서 화면을 구성하는 과정을 생략함으로 인해 비디오 컬러 공간을 여러 번 변환하기 위해 발생하는 연산 비용을 절약할 수 있다.

또한, 픽셀당 4byte에 해당하는 RGBA 데이터를 전송하는 과정이 생략되고, 모든 데이터는 픽셀당 1.5byte에 해당하는 YUV 데이터로 전송되기 때문에 점유면에서도 효과적일 수 있다.

예를 들어, RGBA는 픽셀당 4byte이므로, '넓이 * 높이 * 4'에 상응하는 대역폭을 점유하지만, YUV에서 많이 쓰이는 420포맷의 경우에는 픽셀당 1.5byte이므로, '넓이 * 높이 * 1.5'에 상응하는 대역폭을 점유하게 된다. 즉, 4/1.5로 약 2.67배의 데이터 대역폭 점유의 이득이 발생할 수 있다.

도 6은 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법을 상세하게 나타낸 동작 흐름도이다.

도 6을 참조하면, 본 발명의 일실시예에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법은 먼저 RGBA 픽셀에 상응하는 UI 데이터를 YUV 픽셀로 변환하여(S610) YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성한다(S620).

이 때, YUV 컬러 공간은 빛과 컬러 정보를 한번에 담은 포맷에 해당하는 것으로, YcbCr 컬러 공간으로도 불린다. 이는, 휘도 신호(Y), 휘도 신호와 청색 성분의 차(U), 휘도 신호와 적색 성분의 차(V)의 3가지 정보로 색을 나타내는 색 표현 방식으로 일반적으로 TV에서 사용되고 있다. 이 때, Y 성분은 오차에 민감하므로 색상 성분인 U와 V보다 많은 비트를 코딩하며, Y:U:V의 비율은 일반적으로 4:2:2에 상응할 수 있다.

이 때, RGBA 컬러 공간은 적색, 녹색, 청색 3개의 RGB 컬러 모델에 4번째 알파 채널이 보충된 것으로, 알파는 각 화소가 얼마나 투명한지를 나타낼 수 있다.

즉, YUV 컬러 공간과 RGBA 컬러 공간은 방식이 상이하기 때문에 상호간에 변환하는 과정에서 별도의 연산 비용이 발생할 수 있다.

예를 들어, RGB 값을 YUV 값으로 변환하는 경우에는 'Y=0.3R+0.59G +0.11B, U=(B-Y)x0.493, V=(R-Y)x0.877'와 같은 변환식을 연산해야 하며, 반대로 YUV 값을 RGB 값으로 변환하는 경우에는 'R=Y+0.956U+0.621V, G=Y+0.272U+0.647V, B=Y+1.1061U+1.703V'와 같은 변환식을 연산해야 한다.

이 후, VOD 동영상이나 어플리케이션 실행화면에 상응하는 엘리먼트 스트림(Element Stream)을 디코딩하여(S630) YUV 컬러 공간에 상응하는 비디오 프레임을 생성한다(S640).

예를 들어, 도 4에 도시된 것처럼, 비디오 디코더를 통해 엘리먼트 스트림을 디코딩하여 YUV 픽셀에 상응하게 비디오 프레임이 생성되면, 추가적인 색상 변환을 수행하지 않고 YUV 픽셀의 비디오 프레임을 그대로 이용할 수 있다.

즉, 도 4에 도시된 것처럼 엘리먼트 스트림을 디코딩해서 획득한 YUV 프레임을 RGBA 컬러 공간에 상응하는 데이터로 변환하지 않고 그대로 사용하도록 한다.

이 때, 도 5에 도시된 인코더의 입력 및 디코더의 출력은 YUV 컬러 공간이 되며, 일반적으로 많이 쓰이는 YUV420 포맷의 경우에는 픽셀당 1.5byte에 상응할 수 있다.

즉, 픽셀당 4byte에 해당하는 RGBA 데이터를 전송하는 것보다 픽셀당 1.5byte에 해당하는 YUV 데이터를 전송하는 것이 대역폭 점유면에서도 효과적일 수 있다.

예를 들어, RGBA는 픽셀당 4byte이므로, '넓이 * 높이 * 4'에 상응하는 대역폭을 점유하지만, YUV에서 많이 쓰이는 420포맷의 경우에는 픽셀당 1.5byte이므로, '넓이 * 높이 * 1.5'에 상응하는 대역폭을 점유하게 된다. 즉, 4/1.5로 약 2.67배의 데이터 대역폭 점유의 이득이 발생할 수 있다.

이 후, YUV 컬러 공간에 상응하는 UI 화면과 YUV 컬러 공간에 상응하는 비디오 프레임을 합성하여 YUV 합성 데이터를 생성한다(S650).

예를 들어, 도 4에 도시된 것처럼 YUV COMPOSITE 과정을 통해 YUV 컬러 공간에 상응하는 사용자 인터페이스 화면과 YUV 컬러 공간에 상응하는 비디오 프레임을 합성할 수 있다.

이 때, YUV 합성 데이터는 이미 YUV 컬러 공간에 상응하므로, 합성 데이터를 인코더(420)로 입력하는 과정에서 컬러 변환을 위한 연산 비용이 절약될 수 있다.

이 후, YUV 합성 데이터를 인코딩하여(S660) 생성된 엘리먼트 스트림을 클라이언트 단말로 전송한다(S670).

이 때, 도 2에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 파이프 라인 절차를 수행하여 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 파이프라인 처리 절차는 캡처, 인코딩 및 센딩에 상응할 수 있다.

예를 들어, 본 발명의 일실시예에 따른 파이프라인 처리 방식은 도 5에 도시된 것과 같이 렌더링을 포함하는 캡처, 인코딩 및 센딩의 절차를 수행할 수 있다. 즉, 클라우드 스트리밍 서버는 어플리케이션 실행화면을 캡처하고, 캡처된 화면을 인코딩(압축)하여 클라이언트 단말에게 센딩(전송)해 줄 수 있다.

이 때, 클라우드 스트리밍 서버는 클라이언트 단말이 요청한 클라우드 스트리밍 서비스에 대한 어플리케이션 화면을 제공할 수 있다.

예를 들어, 웹 어플리케이션 서버가 클라이언트 단말의 요청에 상응하게 어플리케이션을 실행시키고, 어플리케이션을 실행한 결과에 상응하는 어플리케이션 실행화면을 클라우드 스트리밍 서버로 전송할 수 있다. 즉, 클라우드 스트리밍 서버에서는 어플리케이션을 실행한 결과 화면만을 이용하여 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 클라이언트 단말은 클라우드 스트리밍 서버로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행화면을 수신하여 사용자에게 제공한다.

또한, 클라이언트 단말은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말(120-1~ 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.

이와 같은 클라우드 스트리밍 서비스 제공 방법을 통해 클라우드 스트리밍 서비스 제공 시 서버 내부에서의 화면 표시 과정을 생략함으로써 서버의 CPU 사용률을 감소시킬 수 있다.

또한, 클라우드 스트리밍 서버의 CPU 사용률을 감소시키고, 전체 데이터 대역폭에 여유를 제공함으로써 서버의 최대 동시 접속자 수를 늘릴 수 있다.

또한, 클라우드 스트리밍 서버 내부의 디스플레이 버퍼(Display Buffer)로 화면을 구성하기 위한 비디오 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 서비스를 제공할 수 있다.

도 7은 본 발명의 일실시예에 따른 클라우드 스트리밍 서버를 나타낸 블록도이다.

도 7을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서버는 통신부(710), 프로세서(720) 및 메모리(730)를 포함한다.

통신부(710)는 도 1에 도시된 네트워크와 같은 통신망을 통해 다수의 클라이언트 단말들과 클라우드 스트리밍 서비스와 관련된 정보를 송수신하는 역할을 한다. 특히, 본 발명의 실시예에 따른 통신부(710)는 클라우드 스트리밍 서비스에 대한 요청을 클라이언트 단말로부터 수신하고, 클라이언트 단말이 요청한 클라우드 스트리밍 서비스에 상응하는 어플리케이션의 실행 결과 화면을 클라이언트 단말로 제공할 수 있다.

이 때, 통신부(710)는 네트워크와 같은 통신망을 이용할 수 있는데, 네트워크는 클라우드 스트리밍 서버 및 클라이언트 단말들간에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다.

프로세서(720)는 YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성한다.

이 때, YUV 컬러 공간은 빛과 컬러 정보를 한번에 담은 포맷에 해당하는 것으로, YcbCr 컬러 공간으로도 불린다. 이는, 휘도 신호(Y), 휘도 신호와 청색 성분의 차(U), 휘도 신호와 적색 성분의 차(V)의 3가지 정보로 색을 나타내는 색 표현 방식으로 일반적으로 TV에서 사용되고 있다. 이 때, Y 성분은 오차에 민감하므로 색상 성분인 U와 V보다 많은 비트를 코딩하며, Y:U:V의 비율은 일반적으로 4:2:2에 상응할 수 있다.

일반적인 클라우드 스트리밍 서비스 제공 과정에서는, 클라우드 스트리밍 서버가 엘리먼트 스트림(Element Stream)을 디코딩하는 경우에 YUV 컬러 공간에 상응하는 YUV 프레임을 획득할 수 있다.

그러나, 도 3을 참조하면, 종래의 클라우드 스트리밍 서버에서는 플레이어(310)를 기반으로 VOD 동영상 또는 어플리케이션 화면을 구성할 때, 비디오 데이터와 함께 UI 데이터를 제공하기 위해서 RGBA 컬러 공간에 상응하게 UI 데이터를 제공한다.

이 때, RGBA 컬러 공간은 적색, 녹색, 청색 3개의 RGB 컬러 모델에 4번째 알파 채널이 보충된 것으로, 알파는 각 화소가 얼마나 투명한지를 나타낼 수 있다.

즉, UI 데이터는 RGBA 픽셀로 구현되고, 비디오 데이터는 YUV 픽셀로 구현되므로, 두 데이터를 합성하기 위해서는 어느 하나의 데이터 컬러 공간을 필수적으로 변환해야 한다. YUV 컬러 공간과 RGBA 컬러 공간은 방식이 상이하기 때문에 상호간에 변환하는 과정에서 별도의 연산 비용이 발생할 수 있다.

예를 들어, RGB 값을 YUV 값으로 변환하는 경우에는 'Y=0.3R+0.59G +0.11B, U=(B-Y)x0.493, V=(R-Y)x0.877'와 같은 변환식을 연산해야 하며, 반대로 YUV 값을 RGB 값으로 변환하는 경우에는 'R=Y+0.956U+0.621V, G=Y+0.272U+0.647V, B=Y+1.1061U+1.703V'와 같은 변환식을 연산해야 한다.

이 때, 클라우드 스트리밍 서버에서 디스플레이 버퍼(Display buffer)를 통해 구성된 화면을 표시하기 위해서는 RGBA 데이터가 있어하므로, 도 3에 도시된 것처럼 YUV 픽셀로 구현된 비디오 데이터를 RGBA 픽셀로 변환하는 과정을 수행하게 된다. 이 후, RGBA 픽셀로 구현된 UI 데이터와 비디오 데이터를 합성한다.

그러나, 클라우드 스트리밍 서버에서 디스플레이 버퍼를 통해 완성된 어플리케이션 실행화면은 클라이언트 단말을 사용하는 사용자에게 바로 보여지는 것이 아니라, 도 3에 도시된 것처럼 인코더(320)에 의한 인코딩 과정을 거치게 된다.

이 때, 사용되는 비디오 인코더는 YUV 프레임을 입력으로 하기 때문에 화면 구성을 위해 RGBA 컬러로 변환하였던 데이터는 또 다시 YUV 컬러로 변환하는 과정을 수행해야 하고, 이에 따른 연산 비용이 발생하게 된다.

이와 같은 과정을 통해, 클라우드 스트리밍 서버가 엘리먼트 스트림의 형태로 인코딩된 데이터를 클라이언트 단말로 전송하면, 클라이언트 단말에서는 엘리먼트 스트림을 다시 디코딩한 뒤에 사용자에게 어플리케이션 화면을 제공하게 된다.

따라서, 클라우드 스트리밍 서버 단에서 디스플레이 버퍼를 통해 완성된 화면을 구성하는 과정은 실제 서비스 과정에서는 불필요한 과정에 해당할 수 있다.

본 발명에서는 이 과정에서 발생하는 비효율적인 연산과정을 생략하기 위해서 디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략하도록 한다.

이를 위해, 도 4에 도시된 것처럼, 사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환할 수 있다.

즉, 추후 데이터 합성을 위한 컬러 공간을 RGBA가 아닌 YUV로 통일하기 위해서 비디오 데이터 대신 UI 데이터의 컬러 공간을 변환할 수 있다.

또한, 프로세서(720)는 YUV 컬러 공간에 상응하게 비디오 프레임을 생성한다.

이 때, 비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩할 수 있다.

예를 들어, 도 4에 도시된 것처럼, 비디오 디코더를 통해 엘리먼트 스트림을 디코딩하여 YUV 픽셀에 상응하게 비디오 프레임이 생성되면, 추가적인 색상 변환을 수행하지 않고 YUV 픽셀의 비디오 프레임을 그대로 이용할 수 있다.

즉, 도 4에 도시된 것처럼 엘리먼트 스트림을 디코딩해서 획득한 YUV 프레임을 RGBA 컬러 공간에 상응하는 데이터로 변환하지 않고 그대로 사용하도록 한다.

이 때, 도 5에 도시된 인코더의 입력 및 디코더의 출력은 YUV 컬러 공간이 되며, 일반적으로 많이 쓰이는 YUV420 포맷의 경우에는 픽셀당 1.5byte에 상응할 수 있다.

즉, 픽셀당 4byte에 해당하는 RGBA 데이터를 전송하는 것보다 픽셀당 1.5byte에 해당하는 YUV 데이터를 전송하는 것이 대역폭 점유면에서도 효과적일 수 있다.

예를 들어, RGBA는 픽셀당 4byte이므로, '넓이 * 높이 * 4'에 상응하는 대역폭을 점유하지만, YUV에서 많이 쓰이는 420포맷의 경우에는 픽셀당 1.5byte이므로, '넓이 * 높이 * 1.5'에 상응하는 대역폭을 점유하게 된다. 즉, 4/1.5로 약 2.67배의 데이터 대역폭 점유의 이득이 발생할 수 있다.

또한, 프로세서(720)는 사용자 인터페이스 화면 및 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공한다.

예를 들어, 도 4에 도시된 것처럼 YUV COMPOSITE 과정을 통해 YUV 컬러 공간에 상응하는 사용자 인터페이스 화면과 YUV 컬러 공간에 상응하는 비디오 프레임을 합성할 수 있다.

이 때, YUV 합성 데이터는 이미 YUV 컬러 공간에 상응하므로, 합성 데이터를 인코더(420)로 입력하는 과정에서 컬러 변환을 위한 연산 비용이 절약될 수 있다.

이 때, YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 클라이언트 단말에게 전달할 수 있다.

이 때, 프로세서(720)는 파이프 라인 절차를 수행하여 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 파이프라인 처리 절차는 캡처, 인코딩 및 센딩에 상응할 수 있다.

예를 들어, 본 발명의 일실시예에 따른 파이프라인 처리 방식은 렌더링을 포함하는 캡처, 인코딩 및 센딩의 절차를 수행할 수 있다. 즉, 클라우드 스트리밍 서버는 어플리케이션 실행화면을 캡처하고, 캡처된 화면을 인코딩(압축)하여 클라이언트 단말에게 센딩(전송)해 줄 수 있다.

이 때, 클라우드 스트리밍 서버는 클라이언트 단말이 요청한 클라우드 스트리밍 서비스에 대한 어플리케이션 화면을 제공할 수 있다.

예를 들어, 웹 어플리케이션 서버가 클라이언트 단말의 요청에 상응하게 어플리케이션을 실행시키고, 어플리케이션을 실행한 결과에 상응하는 어플리케이션 실행화면을 클라우드 스트리밍 서버로 전송할 수 있다. 즉, 클라우드 스트리밍 서버에서는 어플리케이션을 실행한 결과 화면만을 이용하여 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다.

이 때, 클라이언트 단말은 클라우드 스트리밍 서버로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행화면을 수신하여 사용자에게 제공한다.

또한, 클라이언트 단말은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말(120-1~ 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.

또한, 클라이언트 단말은 숫자 및 문자 정보 등의 다양한 정보를 입력 받고, 각종 기능을 설정 및 클라이언트 단말의 기능 제어와 관련하여 입력되는 신호를 입력부를 통해 제어부로 전달할 수 있다. 또한, 클라이언트 단말의 입력부는 사용자의 터치 또는 조작에 따른 입력 신호를 발생하는 키패드와 터치패드 중 적어도 하나를 포함하여 구성할 수 있다. 이 때, 클라이언트 단말의 입력부는 클라이언트 단말의 표시부와 함께 하나의 터치패널(또는 터치 스크린(touch screen))의 형태로 구성되어 입력과 표시 기능을 동시에 수행할 수 있다. 또한, 클라이언트 단말의 입력부는 키보드, 키패드, 마우스, 조이스틱 등과 같은 입력 장치 외에도 향후 개발될 수 있는 모든 형태의 입력 수단이 사용될 수 있다.

또한, 클라이언트 단말의 표시부는 클라이언트 단말의 기능 수행 중에 발생하는 일련의 동작상태 및 동작결과 등에 대한 정보를 표시할 수 있다. 또한, 클라이언트 단말의 표시부는 클라이언트 단말의 메뉴 및 사용자가 입력한 사용자 데이터 등을 표시할 수 있다. 여기서, 클라이언트 단말의 표시부는 액정표시장치(LCD, Liquid Crystal Display), 초박막 액정표시장치(TFT-LCD, Thin Film Transistor LCD), 발광다이오드(LED, Light Emitting Diode), 유기 발광다이오드(OLED, Organic LED), 능동형 유기발광다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다. 이 때, 클라이언트 단말의 표시부가 터치스크린 형태로 구성된 경우, 클라이언트 단말의 표시부는 클라이언트 단말의 입력부의 기능 중 일부 또는 전부를 수행할 수 있다.

또한, 클라이언트 단말의 저장부는 데이터를 저장하기 위한 장치로, 주 기억장치 및 보조 기억장치를 포함하고, 클라이언트 단말의 기능 동작에 필요한 응용 프로그램을 저장할 수 있다. 이러한 클라이언트 단말의 저장부는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다. 여기서, 클라이언트 단말은 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 제어부의 제어 하에 해당 응용 프로그램들을 실행하여 각 기능을 제공하게 된다.

또한, 클라이언트 단말의 통신부는 클라우드 스트리밍 서버와 네트워크을 통해 데이터를 송수신하기 위한 기능을 수행할 수 있다. 여기서 클라이언트 단말의 통신부는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함할 수 있다. 이러한 클라이언트 단말의 통신부는 무선통신 모듈 및 유선통신 모듈 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 클라이언트 단말이 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 클라우드 스트리밍 서버로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 네트워크에 접속하여, 클라우드 스트리밍 서버에 데이터를 송수신할 수 있다. 즉 클라이언트 단말은 무선통신 모듈 또는 유선통신 모듈을 이용하여 네트워크에 접속하며, 네트워크을 통해 클라우드 스트리밍 서버와 데이터를 송수신할 수 있다.

또한, 클라이언트 단말의 제어부는 운영 체제((OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 예를 들어, 제어부는 클라우드 스트리밍 서버에 접속하는 과정 전반을 제어할 수 있다. 별도의 서비스 어플리케이션을 통해 클라우드 스트리밍 서버에 접속하는 경우, 사용자의 요청에 따라 서비스 어플리케이션을 실행되는 과정 전반을 제어할 수 있으며, 실행과 동시에 클라우드 스트리밍 서버로 서비스 이용 요청이 전송되도록 제어할 수 있으며, 이때 사용자 인증에 필요한 클라이언트 단말의 정보가 함께 전송되도록 제어할 수 있다.

메모리(730)는 YUV 합성 데이터를 저장한다.

또한, 메모리(730)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.

실시예에 따라, 메모리(730)는 클라우드 스트리밍 서버와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 메모리(730)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버는 하나 이상의 서버로 구현될 수 있다.

한편, 클라우드 스트리밍 서버는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.

이와 같은 클라우드 스트리밍 서버를 통해 클라우드 스트리밍 서비스 제공 시 서버 내부에서의 화면 표시 과정을 생략함으로써 서버의 CPU 사용률을 감소시킬 수 있다.

또한, 클라우드 스트리밍 서버의 CPU 사용률을 감소시키고, 전체 데이터 대역폭에 여유를 제공함으로써 서버의 최대 동시 접속자 수를 늘릴 수 있다.

또한, 클라우드 스트리밍 서버 내부의 디스플레이 버퍼(Display Buffer)로 화면을 구성하기 위한 비디오 컬러 공간 변환 과정을 생략함으로써 보다 효율적으로 클라우드 스트리밍 서비스를 제공할 수 있다.

또한, YUV 프레임보다 비교적으로 용량이 큰 RGBA 프레임의 사용을 생략함으로써 서버 내에서의 데이터 대역폭에 여유를 제공할 수 있다.

본 명세서에서 설명하는 기능적인 동작과 주제의 구현물들은 디지털 전자 회로로 구현되거나, 본 명세서에서 개시하는 구조 및 그 구조적인 등가물들을 포함하는 컴퓨터 소프트웨어, 펌웨어 혹은 하드웨어로 구현되거나, 이들 중 하나 이상의 결합으로 구현 가능하다. 본 명세서에서 설명하는 주제의 구현물들은 하나 이상의 컴퓨터 프로그램 제품, 다시 말해 처리 시스템의 동작을 제어하기 위하여 혹은 이것에 의한 실행을 위하여 유형의 프로그램 저장매체 상에 인코딩된 컴퓨터 프로그램 명령에 관한 하나 이상의 모듈로서 구현될 수 있다.

컴퓨터로 판독 가능한 매체는 기계로 판독 가능한 저장 장치, 기계로 판독 가능한 저장 기판, 메모리 장치, 기계로 판독 가능한 전파형 신호에 영향을 미치는 물질의 조성물 혹은 이들 중 하나 이상의 조합일 수 있다.

본 명세서에서 '시스템'이나 '장치'라 함은 예컨대 프로그래머블 프로세서, 컴퓨터 혹은 다중 프로세서나 컴퓨터를 포함하여 데이터를 처리하기 위한 모든 기구, 장치 및 기계를 포괄한다. 처리 시스템은, 하드웨어에 부가하여, 예컨대 프로세서 펌웨어를 구성하는 코드, 프로토콜 스택, 데이터베이스 관리 시스템, 운영 체제 혹은 이들 중 하나 이상의 조합 등 요청 시 컴퓨터 프로그램에 대한 실행 환경을 형성하는 코드를 포함할 수 있다.

컴퓨터 프로그램(프로그램, 소프트웨어, 소프트웨어 어플리케이션, 스크립트 혹은 코드로도 알려져 있음)은 컴파일되거나 해석된 언어나 선험적 혹은 절차적 언어를 포함하는 프로그래밍 언어의 어떠한 형태로도 작성될 수 있으며, 독립형 프로그램이나 모듈, 컴포넌트, 서브루틴 혹은 컴퓨터 환경에서 사용하기에 적합한 다른 유닛을 포함하여 어떠한 형태로도 전개될 수 있다. 컴퓨터 프로그램은 파일 시스템의 파일에 반드시 대응하는 것은 아니다. 프로그램은 요청된 프로그램에 제공되는 단일 파일 내에, 혹은 다중의 상호 작용하는 파일(예컨대, 하나 이상의 모듈, 하위 프로그램 혹은 코드의 일부를 저장하는 파일) 내에, 혹은 다른 프로그램이나 데이터를 보유하는 파일의 일부(예컨대, 마크업 언어 문서 내에 저장되는 하나 이상의 스크립트) 내에 저장될 수 있다. 컴퓨터 프로그램은 하나의 사이트에 위치하거나 복수의 사이트에 걸쳐서 분산되어 통신 네트워크에 의해 상호 접속된 다중 컴퓨터나 하나의 컴퓨터 상에서 실행되도록 전개될 수 있다.

한편, 컴퓨터 프로그램 명령어와 데이터를 저장하기에 적합한 컴퓨터로 판독 가능한 매체는, 예컨대 EPROM, EEPROM 및 플래시메모리 장치와 같은 반도체 메모리 장치, 예컨대 내부 하드디스크나 외장형 디스크와 같은 자기 디스크, 자기광학 디스크 및 CD-ROM과 DVD-ROM 디스크를 포함하여 모든 형태의 비휘발성 메모리, 매체 및 메모리 장치를 포함할 수 있다. 프로세서와 메모리는 특수 목적의 논리 회로에 의해 보충되거나, 그것에 통합될 수 있다.

본 명세서에서 설명한 주제의 구현물은 예컨대 데이터 서버와 같은 백엔드 컴포넌트를 포함하거나, 예컨대 어플리케이션 서버와 같은 미들웨어 컴포넌트를 포함하거나, 예컨대 사용자가 본 명세서에서 설명한 주제의 구현물과 상호 작용할 수 있는 웹 브라우저나 그래픽 유저 인터페이스를 갖는 클라이언트 컴퓨터와 같은 프론트엔드 컴포넌트 혹은 그러한 백엔드, 미들웨어 혹은 프론트엔드 컴포넌트의 하나 이상의 모든 조합을 포함하는 연산 시스템에서 구현될 수도 있다. 시스템의 컴포넌트는 예컨대 통신 네트워크와 같은 디지털 데이터 통신의 어떠한 형태나 매체에 의해서도 상호 접속 가능하다.

본 명세서는 다수의 특정한 구현물의 세부사항들을 포함하지만, 이들은 어떠한 발명이나 청구 가능한 것의 범위에 대해서도 제한적인 것으로서 이해되어서는 안되며, 오히려 특정한 발명의 특정한 실시형태에 특유할 수 있는 특징들에 대한 설명으로서 이해되어야 한다. 마찬가지로, 개별적인 실시형태의 문맥에서 본 명세서에 기술된 특정한 특징들은 단일 실시형태에서 조합하여 구현될 수도 있다. 반대로, 단일 실시형태의 문맥에서 기술한 다양한 특징들 역시 개별적으로 혹은 어떠한 적절한 하위 조합으로도 복수의 실시형태에서 구현 가능하다. 나아가, 특징들이 특정한 조합으로 동작하고 초기에 그와 같이 청구된 바와 같이 묘사될 수 있지만, 청구된 조합으로부터의 하나 이상의 특징들은 일부 경우에 그 조합으로부터 배제될 수 있으며, 그 청구된 조합은 하위 조합이나 하위 조합의 변형물로 변경될 수 있다.

또한, 본 명세서에서는 특정한 순서로 도면에서 동작들을 묘사하고 있지만, 이는 바람직한 결과를 얻기 위하여 도시된 그 특정한 순서나 순차적인 순서대로 그러한 동작들을 수행하여야 한다거나 모든 도시된 동작들이 수행되어야 하는 것으로 이해되어서는 안 된다. 특정한 경우, 멀티태스킹과 병렬 프로세싱이 유리할 수 있다. 또한, 상술한 실시형태의 다양한 시스템 컴포넌트의 분리는 그러한 분리를 모든 실시형태에서 요구하는 것으로 이해되어서는 안되며, 설명한 프로그램 컴포넌트와 시스템들은 일반적으로 단일의 소프트웨어 제품으로 함께 통합되거나 다중 소프트웨어 제품에 패키징될 수 있다는 점을 이해하여야 한다

이와 같이, 본 명세서는 그 제시된 구체적인 용어에 본 발명을 제한하려는 의도가 아니다. 따라서, 상술한 예를 참조하여 본 발명을 상세하게 설명하였지만, 당업자라면 본 발명의 범위를 벗어나지 않으면서도 본 예들에 대한 개조, 변경 및 변형을 가할 수 있다. 본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

이상에서와 같이 본 발명에 따른 비디오 컬러 공간 변환 생략을 이용한 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.

본 발명에 의하면 클라우드 스트리밍 서버가 YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성하고, YUV 컬러 공간에 상응하게 비디오 프레임을 생성하고, 사용자 인터페이스 화면 및 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공할 수 있다. 이는, 시스템의 CPU 이용률을 감소시키면서 전체 데이터 대역폭의 여유를 가져올 수 있고, 이로 인한 효과로써 최대 동시 접속자수가 늘어나 클라우드 스트리밍 서비스 시스템을 보다 효율적으로 운영할 수 있다.

110: 클라우드 스트리밍 서버
120-1~120-N: 클라이언트 단말
130: 네트워크
310, 410: 플레이어
320, 420: 인코더
710: 통신부
720: 프로세서
730: 메모리

Claims (10)

1. 클라우드 스트리밍 서버가, YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성하는 단계;
   상기 클라우드 스트리밍 서버가, 상기 YUV 컬러 공간에 상응하게 비디오 프레임을 생성하는 단계; 및
   상기 클라우드 스트리밍 서버가, 상기 사용자 인터페이스 화면 및 상기 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, 상기 YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공하는 단계
   를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
2. 청구항 1에 있어서,
   상기 비디오 프레임을 생성하는 단계는
   비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩하는 단계를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
3. 청구항 1에 있어서,
   상기 사용자 인터페이스 화면을 생성하는 단계는
   사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환하는 단계를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
4. 청구항 1에 있어서,
   상기 클라우드 스트리밍 서버는
   디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
5. 청구항 1에 있어서,
   상기 클라우드 스트리밍 서비스를 제공하는 단계는
   상기 YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 상기 클라이언트 단말에게 전달하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
6. YUV 컬러 공간에 상응하게 사용자 인터페이스(USER INTERFACE) 화면을 생성하고, 상기 YUV 컬러 공간에 상응하게 비디오 프레임을 생성하고, 상기 사용자 인터페이스 화면 및 상기 비디오 프레임을 합성하여 YUV 합성 데이터를 생성하고, 상기 YUV 합성 데이터를 기반으로 클라이언트 단말에게 클라우드 스트리밍 서비스를 제공하는 프로세서; 및
   상기 YUV 합성 데이터를 저장하는 메모리
   를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
7. 청구항 6에 있어서,
   상기 프로세서는
   비디오 데이터에 상응하는 엘리먼트 스트림(ELEMENT STREAM)을 디코딩하는 것을 특징으로 하는 클라우드 스트리밍 서버.
8. 청구항 6에 있어서,
   상기 프로세서는
   사용자 인터페이스에 상응하는 RGBA 데이터를 YUV 데이터로 변환하는 것을 특징으로 하는 클라우드 스트리밍 서버.
9. 청구항 6에 있어서,
   디스플레이 버퍼(DISPLAY BUFFER)에 기반한 화면 구성을 생략하는 것을 특징으로 하는 클라우드 스트리밍 서버.
10. 청구항 6에 있어서,
    상기 프로세서는
    상기 YUV 합성 데이터를 엘리먼트 스트림에 상응하는 형태로 인코딩하여 상기 클라이언트 단말에게 전달하는 것을 특징으로 하는 클라우드 스트리밍 서버.

Images