KR20160044732A - System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same - Google Patents

System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same Download PDF

Info

Publication number
KR20160044732A
KR20160044732A KR1020140139556A KR20140139556A KR20160044732A KR 20160044732 A KR20160044732 A KR 20160044732A KR 1020140139556 A KR1020140139556 A KR 1020140139556A KR 20140139556 A KR20140139556 A KR 20140139556A KR 20160044732 A KR20160044732 A KR 20160044732A
Authority
KR
South Korea
Prior art keywords
still image
cloud streaming
frame
image compression
change area
Prior art date
Application number
KR1020140139556A
Other languages
Korean (ko)
Other versions
KR102273143B1 (en
Inventor
배태면
나현식
윤홍서
Original Assignee
엔트릭스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔트릭스 주식회사 filed Critical 엔트릭스 주식회사
Priority to KR1020140139556A priority Critical patent/KR102273143B1/en
Priority to EP15826754.2A priority patent/EP3177023B1/en
Priority to CN201580041775.6A priority patent/CN106664439B/en
Priority to PCT/KR2015/006952 priority patent/WO2016017953A1/en
Priority to JP2017504729A priority patent/JP6527579B2/en
Publication of KR20160044732A publication Critical patent/KR20160044732A/en
Priority to US15/416,307 priority patent/US10462200B2/en
Application granted granted Critical
Publication of KR102273143B1 publication Critical patent/KR102273143B1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2405—Monitoring of the internal components or processes of the server, e.g. server load

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

The present invention provides a cloud streaming service system, a still image based cloud streaming service method, and an apparatus for the same. Compared to a previous frame, a change area included in a changed frame is captured. A still image compression scheme is selected by considering at least one of a size of a cloud streaming server load and a data process rate of a network. The change area, which is encoded by the still image compression scheme, is transmitted to a user to perform the still image based cloud streaming service. The still image compression scheme, which is suitable for a situation when providing the still image based cloud streaming service, is used such that compression efficiency of the still image and the speed of the cloud streaming service can be improved.

Description

클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF CLOUD STREAMING SERVICE BASED ON STILL IMAGE AND APPARATUS FOR THE SAME}TECHNICAL FIELD [0001] The present invention relates to a cloud streaming service system, a still image-based cloud streaming service method, and a device for the same. BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a cloud streaming service system,

본 발명은 클라우드 스트리밍 서비스 시 변화가 적은 부분에 대해서 스틸 이미지 기반의 클라우드 스트리밍 서비스를 제공할 때, 시스템 부하 및 네트워크 상태에 따라 스틸 이미지 압축 기법을 선택하여 인코딩함으로써 압축 효율과 서비스 속도를 향상시킬 수 있는 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치에 관한 것이다.The present invention provides a still image-based cloud streaming service for a portion of the cloud streaming service that has little change, and can improve compression efficiency and service speed by selecting and encoding a still image compression technique according to system load and network conditions A still image based cloud streaming service method, and an apparatus therefor.

현대 인터넷의 급속한 발달로 인해 개인의 통신 속도는 급격하게 향상되었고, 이러한 통신 속도의 향상으로 원격지 컴퓨터에 접속하여 대용량의 데이터를 다운로드 또는 업로드 하거나, 원격지 컴퓨터 제어 프로그램을 사용하여 마치 원격지 컴퓨터에 로컬 로그인한 것과 같이 원격지 컴퓨터를 이용할 수 있는 환경이 조성되었다.Due to the rapid development of the modern Internet, the communication speed of an individual has been dramatically improved. As a result of this communication speed, it is possible to access or download a large amount of data by connecting to a remote computer, As a result, an environment where remote computers can be used has been established.

또한, 어플리케이션을 서버에서 구동시키고 구동화면은 비디오 인코딩(Encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면 가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있다.In addition, the application is driven on the server, the driving screen is compressed through video encoding and transmitted to the client, and the client reproduces the transmitted video to provide a screen virtualization Cloud streaming service is becoming popular.

이와 같은 클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법이 적용되었다. 그러나 메뉴 디스플레이와 같이 정적인 화면을 서비스 하는 경우에도 불필요하게 화면 전체를 캡처하고 비디오 코덱을 이용하여 동작하기 때문에 클라우드 스트리밍 서비스 시스템을 운영함에 있어서 비효율적인 부분이 존재하였다.This cloud streaming service basically adopts the cloud streaming method based on the video codec. However, even when a static screen such as a menu display is served, the entire screen is unnecessarily captured and operated using a video codec, which is inefficient in operating the cloud streaming service system.

한국 공개 특허 제10-2014-0076668호, 2013년 6월 23일 공개 (명칭: 클라우드 스트리밍 기반의 게임 제공 방법, 시스템, 클라이언트 단말기 및 서비스 장치)Korean Patent Laid-Open No. 10-2014-0076668, published on June 23, 2013 (name: game providing method, system, client terminal and service apparatus based on cloud streaming)

본 발명의 목적은, 스틸 이미지 기반 클라우드 스트리밍 서비스 제공 시 클라우드 스트리밍 서버 상태에 적합한 스틸 이미지 압축 기법을 사용함으로써 클라우드 스트리밍 서버 부하로 발생할 수 있는 서비스 지연을 방지하고 빠르게 서비스를 제공하는 것이다.It is an object of the present invention to provide a still image service based on a still image compression technique suitable for a cloud streaming server state when a still image based cloud streaming service is provided, thereby preventing a service delay that may occur due to a load of a cloud streaming server.

또한, 본 발명의 목적은 스틸 이미지 기반 클라우드 스트리밍 서비스 제공 시 네트워크 상태에 따른 스틸 이미지 압축 기법을 선택함으로써 동일한 대역을 이용하여 보다 빠르고 보다 많은 사용자를 대상으로 한 스틸 이미지 기반 클라우드 스트리밍 서비스를 제공하는 것이다.It is another object of the present invention to provide a still image-based cloud streaming service for a faster and more users using the same band by selecting a still image compression scheme according to a network state in providing a still image based cloud streaming service .

상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 캡처부; 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 인코딩부; 및 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 센딩부를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버를 포함한다.According to an aspect of the present invention, there is provided a cloud streaming server comprising: a capture unit for capturing a change area included in a changed frame compared with a previous frame; A still image compression method is selected in consideration of at least one of the size of the cloud streaming server load and the data processing rate of the network and the still image compression method is used to convert the change area corresponding to one frame into a still image An encoding unit for encoding the encoded data; And a sender for transmitting the still image-encoded change region to the user to perform a still image based cloud streaming service.

이 때, 인코딩부는 PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 압축할 수 있다.At this time, the encoding unit can compress the change area using a still image compression technique of any one of portable network graphics (PNG), portable network graphics (PNG), and joint experts group (JPEG).

이 때, 인코딩부는 상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 상기 JPEG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩할 수 있다.At this time, the encoding unit may encode the change area by applying the JPEG still image compression scheme when the size of the load of the cloud streaming server is less than a preset reference value.

이 때, 인코딩부는 상기 클라우드 스트리밍 서버 부하의 크기가 상기 기설정된 기준값 이상인 경우 상기 네트워크의 데이터 처리율을 고려하여 상기 스틸 이미지 압축 기법을 선택할 수 있다.At this time, the encoding unit can select the still image compression scheme considering the data processing rate of the network when the size of the load of the cloud streaming server is equal to or greater than the preset reference value.

이 때, 인코딩부는 상기 네트워크의 데이터 처리율이 기설정된 처리율 미만인 경우 상기 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩할 수 있다.In this case, the encoding unit may encode the change area by applying the PNG still image compression scheme when the data throughput of the network is less than a predetermined throughput.

이 때, 인코딩부는 상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 상기 네트워크의 데이터 처리율이 상기 기설정된 처리율 이상인 경우 상기 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩할 수 있다.In this case, the encoding unit may encode the change area by applying the palette PNG still image compression scheme when the size of the load of the cloud streaming server is equal to or greater than a preset reference value, and the data processing rate of the network is equal to or greater than the predetermined processing rate .

이 때, 캡처부는 상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처할 수 있다.In this case, the capturing unit may capture the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame.

이 때, 캡처부는 상기 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 상기 프레임 변화가 적은 구간에서 상기 변화 영역을 캡처할 수 있다.At this time, the capture unit detects an interval in which a frame change is small in the entire frame to be transmitted to the terminal apparatus of the user, and captures the change area in a section in which the frame change is small.

이 때, 캡처부는 상기 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 상기 프레임 변화가 적은 구간을 검출할 수 있다.At this time, the capturing unit detects an event type of the application generated from the terminal device of the user, and can detect an interval in which the frame change is small.

또한, 본 발명에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법은, 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 단계; 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 단계; 및 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 단계를 포함한다.Also, a still image-based cloud streaming service method according to the present invention includes: capturing a change area included in a changed frame compared with a previous frame; A still image compression method is selected in consideration of at least one of the size of the cloud streaming server load and the data processing rate of the network and the still image compression method is used to convert the change area corresponding to one frame into a still image Encoding; And transmitting the still image-encoded change area to the user to perform a still image-based cloud streaming service.

이 때, 인코딩하는 단계는 PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 압축할 수 있다.At this time, the encoding step may compress the change area using a still image compression technique of any one of portable network graphics (PNG), portable network graphics (PNG), and joint experts group (JPEG).

이 때, 인코딩하는 단계는 상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 상기 JPEG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩할 수 있다.In this case, when the size of the load of the cloud streaming server is less than a predetermined reference value, the encoding step may encode the change area using the JPEG still image compression technique.

이 때, 인코딩하는 단계는 상기 클라우드 스트리밍 서버 부하의 크기가 상기 기설정된 기준값 이상인 경우 상기 네트워크의 데이터 처리율을 고려하여 상기 스틸 이미지 압축 기법을 선택할 수 있다.In this case, when the size of the load of the cloud streaming server is equal to or greater than the predetermined reference value, the encoding step may select the still image compression scheme considering the data processing rate of the network.

이 때, 인코딩하는 단계는 상기 네트워크의 데이터 처리율이 기설정된 처리율 미만인 경우 상기 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩할 수 있다.In this case, the encoding step may encode the change area by applying the PNG still image compression scheme when the data throughput of the network is less than a predetermined throughput.

이 때, 인코딩하는 단계는 상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 상기 네트워크의 데이터 처리율이 상기 기설정된 처리율 이상인 경우 상기 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩할 수 있다.In this case, when the size of the load of the cloud streaming server is equal to or greater than a preset reference value, and the data processing rate of the network is equal to or greater than the predetermined processing rate, the encoding is performed by applying the palette PNG still image compression scheme .

이 때, 캡처하는 단계는 상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처할 수 있다.In this case, the capturing may capture the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame.

이 때, 캡처하는 단계는 상기 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하는 단계를 포함하고, 상기 프레임 변화가 적은 구간에서 상기 변화 영역을 캡처할 수 있다.In this case, the step of capturing includes detecting an interval in which a frame change is small, of the entire frame to be transmitted to the terminal device of the user, and the change area can be captured in a section in which the frame change is small.

이 때, 검출하는 단계는 상기 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 상기 프레임 변화가 적은 구간을 검출할 수 있다.At this time, the detecting step detects an event type of the application generated from the terminal device of the user, and can detect an interval in which the frame change is small.

또한, 본 발명의 과제 해결을 위한 또 다른 수단으로써, 상술한 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램을 제공한다.As another means for solving the problem of the present invention, there is provided a computer program stored in a medium for executing the above-described method.

또한, 본 발명에 따른 클라우드 스트리밍 서비스 시스템은 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하고, 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및 상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말을 포함한다.In addition, the cloud streaming service system according to the present invention captures a change area included in a changed frame compared with a previous frame, and determines a still image (still image) by taking into consideration at least one of the size of a load of the cloud streaming server and the data processing rate of the network ) Compression scheme, and still image encoding the change region corresponding to one frame using the still image compression scheme, transmitting the still image encoded change region to the user, and generating a still image based cloud streaming service A cloud streaming server for performing the following; And a terminal receiving an application execution result screen corresponding to the cloud streaming service from the cloud streaming server.

본 발명에 따르면, 스틸 이미지 기반 클라우드 스트리밍 서비스 제공 시 클라우드 스트리밍 서버 상태에 적합한 스틸 이미지 압축 기법을 사용함으로써 클라우드 스트리밍 서버 부하로 발생할 수 있는 서비스 지연을 방지하고 빠르게 서비스를 제공할 수 있다.According to the present invention, when a still image-based cloud streaming service is provided, a still image compression method suitable for a state of a cloud streaming server is used, thereby preventing a service delay that may occur due to a load of a cloud streaming server and providing a service quickly.

또한, 본 발명은 스틸 이미지 기반 클라우드 스트리밍 서비스 제공 시 네트워크 상태에 따른 스틸 이미지 압축 기법을 선택함으로써 동일한 대역을 이용하여 보다 빠르고 보다 많은 사용자를 대상으로 한 스틸 이미지 기반 클라우드 스트리밍 서비스를 제공할 수 있다.In addition, the present invention can provide still image-based cloud streaming service for a faster and more users using the same bandwidth by selecting a still image compression scheme according to the network state in providing a still image-based cloud streaming service.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3은 스틸 이미지 기반 클라우드 스트리밍 시스템을 나타낸 도면이다.
도 4는 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스에서 변화 영역을 캡처하는 과정을 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
도 6은 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.1 is a block diagram illustrating a cloud streaming service system according to an embodiment of the present invention.
2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.
3 is a diagram illustrating a still image-based cloud streaming system.
FIG. 4 illustrates a process of capturing a change area in a still image-based cloud streaming service according to an embodiment of the present invention.
5 is a flowchart illustrating a still image-based cloud streaming service method according to an exemplary embodiment of the present invention.
FIG. 6 is a detailed flowchart illustrating a still image-based cloud streaming service method according to an embodiment of the present invention.

이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description and the accompanying drawings, detailed description of well-known functions or constructions that may obscure the subject matter of the present invention will be omitted. It should be noted that the same constituent elements are denoted by the same reference numerals as possible throughout the drawings.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.The terms and words used in the present specification and claims should not be construed to be limited to ordinary or dictionary meanings and the inventor is not limited to the concept of terminology for describing his or her invention in the best way. It should be interpreted as meaning and concept consistent with the technical idea of the present invention. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention, and not all of the technical ideas of the present invention are described. Therefore, It is to be understood that equivalents and modifications are possible. Also, the terms first, second, etc. are used for describing various components and are used only for the purpose of distinguishing one component from another component, and are not used to define the components.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.1 is a block diagram illustrating a cloud streaming service system according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일실시예에 다른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 단말 장치들(120-1, ..., 120-N) 및 네트워크(130)를 포함한다.1, a cloud streaming service system according to an exemplary embodiment of the present invention includes a cloud streaming server 110, terminal devices 120-1 to 120-N, and a network 130 .

클라우드 스트리밍 서버(110)는 단말 장치들(120-1, ..., 120-N)로부터 클라우드 스트리밍 서비스 요청을 받아 어플리케이션을 실행하고, 어플리케이션 실행 결과에 해당하는 실행 결과 화면을 단말 장치들(120-1, ..., 120-N)에게 제공한다.The cloud streaming server 110 receives the cloud streaming service request from the terminal devices 120-1 to 120-N and executes the application. The cloud streaming server 110 transmits the execution result screen corresponding to the application execution result to the terminal devices 120 -1, ..., 120-N.

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법을 적용하기 때문에 메뉴 디스플레이와 같은 정적인 화면에 대해서 클라우드 스트리밍 기법을 적용하는 경우에도 불필요하게 화면 전체를 캡처하여 비디오 코덱으로 인코딩하는 비효율적인 방법으로 클라우드 스트리밍 서비스를 수행하였다. 이러한 문제점을 해결하기 위해 본 발명은 메뉴 디스플레이 화면과 같이 프레임간 변화가 크지 않은 경우에는 클라우드 스트리밍 서버가 프레임간 변화를 검출하고, 검출된 변화 영역만을 스틸 이미지 압축 기법으로 인코딩하는 클라우드 스트리밍 시스템을 제공한다.Since the cloud streaming service basically adopts the cloud streaming technique based on the video codec, even when the cloud streaming technique is applied to a static screen such as a menu display, an inefficient method of capturing an entire screen unnecessarily and encoding it into a video codec We performed cloud streaming service. In order to solve such a problem, the present invention provides a cloud streaming system in which a cloud streaming server detects a change between frames when a change between frames is not large as in a menu display screen, and encodes only the detected change region using a still image compression technique do.

클라우드 스트리밍 서버(110)는 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다. 이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 이 때, 단말 장치들(120-1, ..., 120-N)로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. 이 때, 단말 장치들(120-1, ..., 120-N)로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다.The cloud streaming server 110 captures the change area included in the changed frame as compared with the previous frame. At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. At this time, it is possible to detect a section in which a frame change is small in the entire frame to be transmitted to the terminal devices 120-1, ..., and 120-N, and capture the change area in a section in which the frame change is small. At this time, an event type of an application generated from the terminal devices 120-1, ..., and 120-N may be detected to detect an interval in which a frame change is small.

또한, 클라우드 스트리밍 서버(110)는 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다. 이 때, PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 압축할 수 있다. 이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 JPEG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. 이 때, 클라우드 스트리밍 서버 부하의 크기가 상기 기설정된 기준값 이상인 경우 네트워크의 데이터 처리율을 고려하여 스틸 이미지 압축 기법을 선택할 수 있다. 이 때, 네트워크의 데이터 처리율이 기설정된 처리율 미만일 경우 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. 이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 네트워크의 데이터 처리율이 기설정된 처리율 이상인 경우 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다.In addition, the cloud streaming server 110 selects a still image compression scheme in consideration of at least one of the size of a cloud streaming server load and the data processing rate of the network, And still image encodes the corresponding change area. At this time, the change area can be compressed using a still image compression technique of any one of portable network graphics (PNG), portable network graphics (PNG), and joint experts group (JPEG). In this case, if the size of the load of the cloud streaming server is less than the preset reference value, the JPEG still image compression technique can be applied to encode the change area. At this time, if the size of the load of the cloud streaming server is equal to or greater than the preset reference value, the still image compression technique can be selected in consideration of the data processing rate of the network. In this case, when the data throughput of the network is less than the predetermined throughput, the change area can be encoded by applying the PNG still image compression technique. In this case, when the load of the cloud streaming server is equal to or larger than a preset reference value and the data processing rate of the network is equal to or greater than a predetermined processing rate, the changed area can be encoded by applying the palette PNG still image compression method.

또한, 클라우드 스트리밍 서버(110)는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다.In addition, the cloud streaming server 110 transmits a still image encoded changed area to a user to perform a still image based cloud streaming service.

단말 장치들(120-1, ..., 120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하여 사용자에게 제공한다.The terminal devices 120-1 to 120-N receive an application execution result screen corresponding to the cloud streaming service from the cloud streaming server 110 and provide them to the user.

단말 장치들(120-1, ..., 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말 장치들(120-1, ..., 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.Each of the terminal devices 120-1 to 120-N is connected to a communication network and is capable of executing applications on the basis of a cloud computing system. The terminal devices 120-1 to 120-N are not limited to mobile communication terminals, , A wired terminal, a fixed terminal, and an IP (Internet Protocol) terminal. Each of the terminal devices 120-1 to 120-N may be a mobile phone, a portable multimedia player (PMP), a mobile Internet device (MID), a smart phone, a desktop, A mobile terminal having various mobile communication specifications such as a tablet PC, a notebook computer, a net book, a personal digital assistant (PDA), a smart TV, have.

네트워크(130)는 클라우드 스트리밍 서버(110)및 단말 장치들(120-1, ..., 120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말 장치들(120-1, ..., 120-N) 사이에 사용되는 네트워크는 단말 장치들(120-1, ..., 120-N) 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.The network 130 provides a pathway for transferring data between the cloud streaming server 110 and the terminal devices 120-1, ..., 120-N, . For example, the network 130 may be a wired / wireless local area network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between mobile objects and mobile objects outside the mobile object, Or a wired / wireless communication network, or a combination of two or more. Meanwhile, the transmission scheme standard of the network 130 is not limited to the existing transmission scheme standard, and may include all transmission scheme standards to be developed in the future. The network used between the cloud streaming server 110 and the terminal devices 120-1 to 120-N in FIG. 1 is a terminal device 120-1 to 120-N, And may be the same or different from the network used for mutual use.

도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.

도 2를 참조하면, 도 1에 도시된 클라우드 스트리밍 서버(110)는 캡처부(210), 인코딩부(220), 센딩부(230) 및 저장부(240)를 포함한다.Referring to FIG. 2, the cloud streaming server 110 shown in FIG. 1 includes a capture unit 210, an encoding unit 220, a sending unit 230, and a storage unit 240.

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법을 적용하기 때문에 메뉴 디스플레이와 같은 정적인 화면에 대해서 클라우드 스트리밍 기법을 적용하는 경우에도 불필요하게 화면 전체를 캡처하여 비디오 코덱으로 인코딩하는 비효율적인 방법으로 클라우드 스트리밍 서비스를 수행하였다. 이러한 문제점을 해결하기 위해 본 발명은 메뉴 디스플레이 화면과 같이 프레임간 변화가 크지 않은 경우에는 클라우드 스트리밍 서버가 프레임간 변화를 검출하고, 검출된 변화 영역만을 스틸 이미지 압축 기법으로 인코딩하는 클라우드 스트리밍 서버(110)를 제공한다.Since the cloud streaming service basically adopts the cloud streaming technique based on the video codec, even when the cloud streaming technique is applied to a static screen such as a menu display, an inefficient method of capturing an entire screen unnecessarily and encoding it into a video codec We performed cloud streaming service. In order to solve such a problem, the present invention is characterized in that when a change between frames is not large as in a menu display screen, the cloud streaming server 110 detects a change between frames and encodes only the detected change region using a still image compression technique ).

캡처부(210)는 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다. 비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말 장치에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.The capture unit 210 captures a change area included in the changed frame as compared with the previous frame. The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the change between the frames on the screen on which the application operates is not large, the still image encoding is performed by capturing only the change area of the changed frame compared with the previous frame, and when displaying on the user's terminal device, And only the change area is changed.

이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 예를 들어 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역이 A 영역이라면, 변화된 프레임에 상응하는 화면 영역 중 A 영역만을 변화 영역으로 캡처할 수 있다. 이러한 변화 영역은 사용자의 단말 장치에서 입력되는 입력 신호에 따라 사이즈나 변화 영역에 상응하는 이미지의 성질이 다양할 수 있다.At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. For example, if the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame is the area A, only the area A of the screen area corresponding to the changed frame can be captured as the changed area. Such a change area may vary in the nature of the image corresponding to the size or change area according to the input signal input from the terminal device of the user.

이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small.

이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다. 예를 들어, 사용자의 단말 장치로부터 발생하는 입력신호에 따라 어플리케이션의 이벤트 유형이 결정될 수 있다. 입력신호에 따라 메뉴, 옵션, 안내 창과 같이 어플리케이션을 실행하였을 때 프레임의 변화가 적은 정적인 이벤트 또는 동영상 재생 및 게임 플레이와 같이 프레임이 자주 변하는 동적인 이벤트가 발생할 수 있다. 따라서, 사용자가 단말 장치를 통해 발생시키는 입력신호로 이벤트 유형을 감지하고, 이벤트 유형이 정적인 이벤트라면, 해당 이벤트에 상응하는 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출할 수 있다.At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected. For example, an event type of an application can be determined according to an input signal generated from a user's terminal device. Depending on the input signal, a static event with little frame change or a dynamic event with frequent frame changes such as video playback and game play may occur when an application such as a menu, option, or guide window is executed. Therefore, if the event type is a static event, the user detects an event type with an input signal generated through a terminal device, and can detect an interval in which a frame change is small in the entire frame corresponding to the event.

인코딩부(220)는 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다. The encoding unit 220 selects a still image compression scheme considering at least one of the size of the load of the cloud streaming server and the data processing rate of the network, and uses the still image compression scheme to change corresponding to one frame The region is still image encoded.

클라우드 스트리밍 서버 부하는 클라우드 스트리밍 서버에서 원하는 어떤 효과를 얻기 위해 서버에서 취하는 행동에 필요한 동작이나 자원으로, 예를 들어 변화 영역에 해당하는 스틸 이미지를 인코딩하거나 디코딩할 때 클라우드 스트리밍 서버 부하가 커질 수 있다. 이 때, 클라우드 스트리밍 서버 부하의 한계는 서버를 구성하는 하드웨어 기기에 따라 다양하게 존재할 수 있으며, 만약 클라우드 스트리밍 서버 부하의 한계를 초과하는 명령이 입력된다면 서버의 성능이 저하되는 병목 현상이 발생할 수 있다. 따라서, 클라우드 스트리밍 서비스 시 클라우드 스트리밍 서버 부하의 크기를 고려하여 상황에 따라 서버 부하가 작은 스틸 이미지 압축 기법을 선택할 수 있다.The cloud streaming server load may be an operation or resource required for the action taken by the server to achieve some desired effect on the cloud streaming server, for example, when the encoding or decoding of the still image corresponding to the change area may increase the load on the cloud streaming server . In this case, the limit of the load of the cloud streaming server may vary depending on the hardware devices constituting the server, and if a command exceeding the limit of the load of the cloud streaming server is input, the performance of the server may be degraded. . Therefore, considering the size of the cloud streaming server load in the cloud streaming service, it is possible to select the still image compression method with a small server load depending on the situation.

또한, 네트워크의 데이터 처리율은 동일한 네트워크 대역을 기반으로 데이터가 처리되는 비율로, 네트워크의 데이터 처리율 또한 네트워크 대역 이상의 데이터 처리가 요청되는 경우에 병목현상이 발생할 수 있다. 따라서, 네트워크의 데이터 처리율을 확인하여 클라우드 스트리밍 서비스 시 데이터 크기를 줄일 수 있는 스틸 이미지 압축 기법을 선택하여 인코딩을 수행할 수 있다.In addition, the data processing rate of the network may be a bottleneck when the data processing rate of the network and the data processing of the network bandwidth are requested at a rate that data is processed based on the same network band. Therefore, it is possible to perform encoding by selecting a still image compression technique that can reduce the data size in the cloud streaming service by checking the data throughput of the network.

이 때, PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 압축할 수 있다. PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있다. 팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다. JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있다.At this time, the change area can be compressed using a still image compression technique of any one of portable network graphics (PNG), portable network graphics (PNG), and joint experts group (JPEG). In PNG still image compression, the image quality is good when encoding, but when the bandwidth of the transmission network is low due to the large data size, the transmission speed may be lowered. PALETED PNG still image compression techniques can reduce the data size of the image during encoding, which can guarantee the transmission speed, but it can cause deterioration in image quality because it expresses color with 8 bits. The JPEG Still Image Compression technique can greatly reduce the amount of data transferred during encoding because of its high compression efficiency. However, when encoding and decoding are performed, the system load may be increased.

이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 JPEG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. JPEG 스틸 이미지 압축 기법은 상대적으로 PNG 스틸 이미지 압축 기법 및 팔렛티드 스틸 이미지 압축 기법보다 압축률이 높기 때문에 서버에서 인코딩을 수행하거나, 클라이언트에서 디코딩을 수행할 때 큰 부하를 발생시킬 수 있다. 따라서, 클라우드 스트리밍 서버 부하의 크기가 크지 않을 때 JPEG 스틸 이미지 압축 기법을 통해 변화영역을 인코딩할 수 있다. 또한, JPEG 스틸 이미지 압축 기법은 압축률이 좋기 때문에 데이터의 크기를 감소시킬 수 있으므로, 네트워크의 데이터 처리량이 많을 때 사용하여 네트워크의 데이터 처리량이 늘어나는 것을 방지할 수 있다.In this case, if the size of the load of the cloud streaming server is less than the preset reference value, the JPEG still image compression technique can be applied to encode the change area. The JPEG still image compression method has a higher compression ratio than the PNG still image compression method and the palettized still image compression method, so that it may cause a large load when performing encoding on a server or decoding on a client. Therefore, when the size of the cloud streaming server load is not large, the JPEG still image compression technique can encode the change area. In addition, the JPEG Still Image Compression technique can reduce the size of data because it has a good compression ratio. Therefore, when the data throughput of the network is large, the data throughput of the network can be prevented from increasing.

이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상인 경우 네트워크 데이터 처리율을 고려하여 스틸 이미지 압축 기법을 선택할 수 있다. 예를 들어, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상일 때에는 PNG 스틸 이미지 압축 기법 및 팔렛티드 PNG 스틸 이미지 압축 기법 중 어느 하나를 선택하여 변화 영역을 인코딩할 수 있다. 이 때, PNG 스틸 이미지 압축 기법과 팔렛티드 PNG 스틸 이미지 압축 기법 중 어느 기법을 선택하느냐에 따라 전송되는 데이터의 크기가 상이할 수 있기 때문에 네트워크 데이터 처리율을 고려하여 스틸 이미지 압축 기법을 선택할 수 있다.At this time, if the load of the cloud streaming server is larger than the preset reference value, the still image compression method can be selected in consideration of the network data processing rate. For example, when the size of the load of the cloud streaming server is equal to or greater than a preset reference value, the change area can be encoded by selecting either the PNG still image compression method or the paletteed PNG still image compression method. In this case, since the size of data to be transmitted may be different depending on which of the PNG still image compression method and the paletteed PNG still image compression method is selected, the still image compression method can be selected considering the network data processing rate.

이 때, 네트워크의 데이터 처리율이 기설정된 처리율 미만일 경우 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. 예를 들어, PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩하는 경우에는 사용자 단말 장치로 제공되는 변화 영역의 화질은 좋을 수 있지만, 그만큼 전송되는 데이터의 크기가 커져서 네트워크의 대역이 낮은 경우 서비스 속도가 저하될 수 있다. 따라서, 네트워크의 데이터 처리율이 낮아 네트워크가 원활한 경우에는 서비스의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다. 또한, PNG 스틸 이미지 압축 기법은 인코딩 및 디코딩시에 부하가 크지 않기 때문에, 클라우드 스트리밍 서버 부하가 큰 경우에는 PNG 스틸 이미지 압축 기법으로 인코딩을 수행하여 서버의 부하가 더 커지는 것을 방지할 수 있다.In this case, when the data throughput of the network is less than the predetermined throughput, the change area can be encoded by applying the PNG still image compression technique. For example, in the case of encoding a change area using the PNG still image compression technique, the change area provided to the user terminal device may have a good image quality. However, when the bandwidth of the network is low due to a large data size, . Therefore, when the network throughput is low due to the low data throughput of the network, the change area can be encoded by the PNG still image compression technique, which can enhance the service quality. In addition, since the PNG still image compression scheme does not have a large load during encoding and decoding, when the load of the cloud streaming server is large, encoding with the PNG still image compression scheme can be prevented to increase the load on the server.

이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 네트워크의 데이터 처리율이 기설정된 처리율 이상인 경우 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. 예를 들어, 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩하는 경우에는 화질의 열화가 발생할 수는 있지만, 전송되는 데이터의 크기를 줄어들 수 있다. 따라서, 네트워크의 데이터 처리율이 높아서 병목이 발생할 가능성이 있는 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역을 인코딩함으로써 데이터 전송량이 더 늘어나는 것을 방지할 수 있다.In this case, when the load of the cloud streaming server is equal to or larger than a preset reference value and the data processing rate of the network is equal to or greater than a predetermined processing rate, the changed area can be encoded by applying the palette PNG still image compression method. For example, in the case of encoding a change area by applying a palette-edged PNG still image compression technique, deterioration of image quality may occur, but the size of data to be transmitted may be reduced. Accordingly, when the bottleneck is likely to occur due to a high data throughput rate of the network, a palletized PNG still image compression technique capable of reducing the size of data can be selected to encode the change area, thereby preventing further increase in data transmission amount.

또한, 변화 영역을 인코딩할 스틸 이미지 압축 기법을 결정하기 위해서 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율을 고려하는 순서는 클라우드 스트리밍 서비스에 따라 상이하게 결정될 수 있다.In addition, the order of considering the size of the cloud streaming server load and the data throughput rate of the network in order to determine the still image compression technique to encode the change area may be determined differently according to the cloud streaming service.

센딩부(230)는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다. 인코딩을 완료함으로써 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.The sending unit 230 transmits the still image encoded changed area to the user to perform a still image based cloud streaming service. By transmitting the compressed change area to the terminal device of the user by completing the encoding, the user can perform the cloud streaming service so as to receive the feeling of running the application on the terminal device of the user.

저장부(240)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.The storage unit 240 stores various information generated in the cloud streaming service process according to the embodiment of the present invention, as described above.

실시예에 따라, 저장부(240)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(240)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.According to an embodiment, the storage unit 240 may be configured independently of the cloud streaming server 110 to support a function for the cloud streaming service. At this time, the storage unit 240 may operate as a separate mass storage and may include a control function for performing operations.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.In addition, the cloud streaming server 110 configured as described above may be implemented as one or more servers.

한편, 클라우드 스트리밍 서버(110)는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.On the other hand, the cloud streaming server 110 can store information in the memory on which the memory is mounted. In one implementation, the memory is a computer-readable medium. In one implementation, the memory may be a volatile memory unit, and in other embodiments, the memory may be a non-volatile memory unit. In one implementation, the storage device is a computer-readable medium. In various different implementations, the storage device may include, for example, a hard disk device, an optical disk device, or any other mass storage device.

도 3은 스틸 이미지 기반 클라우드 스트리밍 시스템을 나타낸 도면이다.3 is a diagram illustrating a still image-based cloud streaming system.

도 3을 참조하면, 서버(310)에서는 사용자의 단말 장치로부터 발생되는 사용자 입력(User Input)에 상응하는 프로그램 화면(310)을 실행시켜 캡처(Screen Capture)를 수행할 수 있다. 이 때, 서버(300)는 클라우드 스트리밍 서버와 웹 어플리케이션 서버를 통칭하는 서버일 수 있다. 또한, 프로그램 화면(310)을 실행시켜 캡처(Screen Capture)를 수행하는 과정은 도 2에 도시된 캡처부(210)의 동작 흐름과 상응할 수 있다. Referring to FIG. 3, the server 310 may perform a screen capture by executing a program screen 310 corresponding to a user input generated from a user terminal. In this case, the server 300 may be a server collectively referred to as a cloud streaming server and a web application server. In addition, the process of executing the screen capture by executing the program screen 310 may correspond to the operation flow of the capture unit 210 shown in FIG.

서버(300)는 캡처(Screen Capture)된 프로그램 화면(310)을 스틸 이미지 압축 기법을 통해 인코딩(Image Encoding)(320)할 수 있다. 이 때, 인코딩 (Image Encoding)(320)을 수행하는 과정은 도 2에 도시된 인코딩부(220)의 동작 흐름과 상응할 수 있다.The server 300 may encode the screen 310 of the screen-captured program through a still image compression technique. At this time, the process of performing the encoding (Image Encoding) 320 may correspond to the operation flow of the encoding unit 220 shown in FIG.

이 때, 변화된 프레임을 이전 프레임과 비교하여 변화된 영역만을 캡처할 수 있다. 또한, 변화된 영역의 사이즈 및 변화된 영역에 상응하는 이미지 성질을 고려하여 PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법으로 변화된 영역을 인코딩할 수 있다.At this time, the changed frame can be compared with the previous frame to capture only the changed area. In addition, a still image compression technique such as portable network graphics (PNG), portable network graphics (PNG), and joint experts group (JPEG) is selected in consideration of the size of the changed area and the image characteristics corresponding to the changed area And the changed area can be encoded by the selected still image compression technique.

이 후, 서버(300)는 스틸 이미지 인코딩된 변화된 영역을 사용자의 단말 장치로 스트리밍(Streaming)(330)하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 제공할 수 있다. 이 때, 스트리밍(Streaming)(330)을 수행하는 과정은 도 2에 도시된 센딩부(230)의 동작 흐름과 상응할 수 있다.Thereafter, the server 300 may provide a still image-based cloud streaming service by streaming 330 the still image-encoded changed area to the user's terminal device. At this time, the process of performing the streaming 330 may correspond to the operation flow of the sending unit 230 shown in FIG.

이 후, 사용자의 단말 장치에서는 수신한 데이터를 렌더링(Image Rendering)(340)함으로써 사용자 입력(User Input)에 의해 어플리케이션에서 실행된 프로그램 화면(310)이 마치 사용자의 단말 장치에서 실행된 것처럼 사용자에게 디스플레이 할 수 있다.Thereafter, the user's terminal device renders the received data (Image Rendering) 340 so that the program screen 310 executed in the application by the user input (User Input) is displayed to the user Can be displayed.

도 4는 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스에서 변화 영역을 캡처하는 과정을 나타낸 도면이다.FIG. 4 illustrates a process of capturing a change area in a still image-based cloud streaming service according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스는 첫번째 프레임(410)과 두번째 프레임(420)을 비교하여 변화된 변화 영역(430)만을 캡처하여 인코딩할 수 있다.Referring to FIG. 4, a still image-based cloud streaming service according to an embodiment of the present invention can capture and encode only the changed change area 430 by comparing the first frame 410 and the second frame 420.

예를 들어, 첫번째 프레임(410)과 두번째 프레임(420)에서 B, C, D 및 E의 영역을 메뉴 디스플레이라고 가정하였을 때, 첫번째 프레임(410)에서는 C 영역에 커서가 위치함으로써 C 영역이 다른 B, D, 및 E 영역과 구별될 수 있도록 음영처리 되었고, 두번째 프레임(420)에서는 C 영역에서 D 영역으로 커서가 이동함으로써 D 영역이 다른 B, C 및 E 영역과 구별될 수 있도록 음영처리 될 수 있다.For example, assuming that the areas of B, C, D and E in the first frame 410 and the second frame 420 are menu displays, in the first frame 410, the cursor is positioned in the C area, B, D, and E regions, and in the second frame 420 the cursor is moved from the C region to the D region so that the D region is shaded so that it can be distinguished from the other B, C, and E regions .

이 때, 첫번째 프레임(410)과 두번째 프레임(420)을 비교하였을 때 변화된 영역인 C와 D 영역만을 변화 영역(430)으로 캡처할 수 있다. 또한, 변화 영역(430)의 사이즈와 변화 영역(430)에 상응하는 이미지 성질을 고려하여 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법을 이용하여 변화 영역(430)을 인코딩할 수 있다.At this time, when the first frame 410 and the second frame 420 are compared, only the changed regions C and D can be captured in the change region 430. Also, the still image compression method may be selected in consideration of the size of the change area 430 and the image characteristics corresponding to the change area 430, and the change area 430 may be encoded using the selected still image compression technique.

이와 같이 첫번째 프레임(410)과 두번째 프레임(420)은 분명 변화가 있는 프레임으로 기존의 클라우드 스트리밍 서비스 시에는 두 프레임을 포함하여 프레임 레이트에 상응하는 수의 프레임들을 모두 캡처하여 인코딩을 수행해야 할 수 있다. 하지만 스틸 이미지 기반 클라우드 스트리밍 서비스는 변화 영역(430)만을 캡처하여 스틸 이미지 압축 기법으로 인코딩하기 때문에, 불필요하게 많은 프레임과 프레임의 화면 전체를 캡처하는 기존의 클라우드 스트리밍 서비스 방법보다 서비스의 효율성을 향상시킬 수 있다.Thus, in the conventional cloud streaming service, the first frame 410 and the second frame 420 must be clearly changed. In the conventional cloud streaming service, it is necessary to capture and encode all the frames corresponding to the frame rate including two frames have. However, since the still image-based cloud streaming service captures only the change area 430 and encodes it using the still image compression technique, it improves service efficiency compared to the existing cloud streaming service method that captures an entire screen of unnecessary frames and frames .

도 5는 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.5 is a flowchart illustrating a still image-based cloud streaming service method according to an exemplary embodiment of the present invention.

도 5를 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법은 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다(S510). 비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말 장치에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.Referring to FIG. 5, a still image-based cloud streaming service method according to an exemplary embodiment of the present invention captures a change area included in a changed frame compared with a previous frame (S510). The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the change between the frames on the screen on which the application operates is not large, the still image encoding is performed by capturing only the change area of the changed frame compared with the previous frame, and when displaying on the user's terminal device, And only the change area is changed.

이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 예를 들어 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역이 A 영역이라면, 변화된 프레임에 상응하는 화면 영역 중 A 영역만을 변화 영역으로 캡처할 수 있다. 이러한 변화 영역은 사용자의 단말 장치에서 입력되는 입력 신호에 따라 사이즈나 변화 영역에 상응하는 이미지의 성질이 다양할 수 있다.At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. For example, if the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame is the area A, only the area A of the screen area corresponding to the changed frame can be captured as the changed area. Such a change area may vary in the nature of the image corresponding to the size or change area according to the input signal input from the terminal device of the user.

이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small.

이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다. 예를 들어, 사용자의 단말 장치로부터 발생하는 입력신호에 따라 어플리케이션의 이벤트 유형이 결정될 수 있다. 입력신호에 따라 메뉴, 옵션, 안내 창과 같이 어플리케이션을 실행하였을 때 프레임의 변화가 적은 정적인 이벤트 또는 동영상 재생 및 게임 플레이와 같이 프레임이 자주 변하는 동적인 이벤트가 발생할 수 있다. 따라서, 사용자가 단말 장치를 통해 발생시키는 입력신호로 이벤트 유형을 감지하고, 이벤트 유형이 정적인 이벤트라면, 해당 이벤트에 상응하는 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출할 수 있다.At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected. For example, an event type of an application can be determined according to an input signal generated from a user's terminal device. Depending on the input signal, a static event with little frame change or a dynamic event with frequent frame changes such as video playback and game play may occur when an application such as a menu, option, or guide window is executed. Therefore, if the event type is a static event, the user detects an event type with an input signal generated through a terminal device, and can detect an interval in which a frame change is small in the entire frame corresponding to the event.

또한, 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법은 클라우드 스트리밍 서버 부하의 크기 및 네트워크 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다(S520). Still further, a still image-based cloud streaming service method according to an embodiment of the present invention selects a still image compression scheme considering at least one of a size of a cloud streaming server load and a network data processing rate, Technique to still image encode the change area corresponding to one frame (S520).

클라우드 스트리밍 서버 부하는 클라우드 스트리밍 서버에서 원하는 어떤 효과를 얻기 위해 서버에서 취하는 행동에 필요한 동작이나 자원으로, 예를 들어 변화 영역에 해당하는 스틸 이미지를 인코딩하거나 디코딩할 때 클라우드 스트리밍 서버 부하가 커질 수 있다. 이 때, 클라우드 스트리밍 서버 부하의 한계는 서버를 구성하는 하드웨어 기기에 따라 다양하게 존재할 수 있으며, 만약 클라우드 스트리밍 서버 부하의 한계를 초과하는 명령이 입력된다면 서버의 성능이 저하되는 병목 현상이 발생할 수 있다. 따라서, 클라우드 스트리밍 서비스 시 클라우드 스트리밍 서버 부하의 크기를 고려하여 상황에 따라 서버 부하가 작은 스틸 이미지 압축 기법을 선택할 수 있다.The cloud streaming server load may be an operation or resource required for the action taken by the server to achieve some desired effect on the cloud streaming server, for example, when the encoding or decoding of the still image corresponding to the change area may increase the load on the cloud streaming server . In this case, the limit of the load of the cloud streaming server may vary depending on the hardware devices constituting the server, and if a command exceeding the limit of the load of the cloud streaming server is input, the performance of the server may be degraded. . Therefore, considering the size of the cloud streaming server load in the cloud streaming service, it is possible to select the still image compression method with a small server load depending on the situation.

또한, 네트워크의 데이터 처리율은 동일한 네트워크 대역을 기반으로 데이터가 처리되는 비율로, 네트워크의 데이터 처리율 또한 네트워크 대역 이상의 데이터 처리가 요청되는 경우에 병목현상이 발생할 수 있다. 따라서, 네트워크의 데이터 처리율을 확인하여 클라우드 스트리밍 서비스 시 데이터 크기를 줄일 수 있는 스틸 이미지 압축 기법을 선택하여 인코딩을 수행할 수 있다.In addition, the data processing rate of the network may be a bottleneck when the data processing rate of the network and the data processing of the network bandwidth are requested at a rate that data is processed based on the same network band. Therefore, it is possible to perform encoding by selecting a still image compression technique that can reduce the data size in the cloud streaming service by checking the data throughput of the network.

이 때, PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 압축할 수 있다. PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있다. 팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다. JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있다.At this time, the change area can be compressed using a still image compression technique of any one of portable network graphics (PNG), portable network graphics (PNG), and joint experts group (JPEG). In PNG still image compression, the image quality is good when encoding, but when the bandwidth of the transmission network is low due to the large data size, the transmission speed may be lowered. PALETED PNG still image compression techniques can reduce the data size of the image during encoding, which can guarantee the transmission speed, but it can cause deterioration in image quality because it expresses color with 8 bits. The JPEG Still Image Compression technique can greatly reduce the amount of data transferred during encoding because of its high compression efficiency. However, when encoding and decoding are performed, the system load may be increased.

이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 JPEG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. JPEG 스틸 이미지 압축 기법은 상대적으로 PNG 스틸 이미지 압축 기법 및 팔렛티드 스틸 이미지 압축 기법보다 압축률이 높기 때문에 서버에서 인코딩을 수행하거나, 클라이언트에서 디코딩을 수행할 때 큰 부하를 발생시킬 수 있다. 따라서, 클라우드 스트리밍 서버 부하의 크기가 크지 않을 때 JPEG 스틸 이미지 압축 기법을 통해 변화영역을 인코딩할 수 있다. 또한, JPEG 스틸 이미지 압축 기법은 압축률이 좋기 때문에 데이터의 크기를 감소시킬 수 있으므로, 네트워크의 데이터 처리량이 많을 때 사용하여 네트워크의 데이터 처리량이 늘어나는 것을 방지할 수 있다.In this case, if the size of the load of the cloud streaming server is less than the preset reference value, the JPEG still image compression technique can be applied to encode the change area. The JPEG still image compression method has a higher compression ratio than the PNG still image compression method and the palettized still image compression method, so that it may cause a large load when performing encoding on a server or decoding on a client. Therefore, when the size of the cloud streaming server load is not large, the JPEG still image compression technique can encode the change area. In addition, the JPEG Still Image Compression technique can reduce the size of data because it has a good compression ratio. Therefore, when the data throughput of the network is large, the data throughput of the network can be prevented from increasing.

이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상인 경우 네트워크 데이터 처리율을 고려하여 스틸 이미지 압축 기법을 선택할 수 있다. 예를 들어, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상일 때에는 PNG 스틸 이미지 압축 기법 및 팔렛티드 PNG 스틸 이미지 압축 기법 중 어느 하나를 선택하여 변화 영역을 인코딩할 수 있다. 이 때, PNG 스틸 이미지 압축 기법과 팔렛티드 PNG 스틸 이미지 압축 기법 중 어느 기법을 선택하느냐에 따라 전송되는 데이터의 크기가 상이할 수 있기 때문에 네트워크 데이터 처리율을 고려하여 스틸 이미지 압축 기법을 선택할 수 있다.At this time, if the load of the cloud streaming server is larger than the preset reference value, the still image compression method can be selected in consideration of the network data processing rate. For example, when the size of the load of the cloud streaming server is equal to or greater than a preset reference value, the change area can be encoded by selecting either the PNG still image compression method or the paletteed PNG still image compression method. In this case, since the size of data to be transmitted may be different depending on which of the PNG still image compression method and the paletteed PNG still image compression method is selected, the still image compression method can be selected considering the network data processing rate.

이 때, 네트워크의 데이터 처리율이 기설정된 처리율 미만일 경우 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. 예를 들어, PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩하는 경우에는 사용자 단말 장치로 제공되는 변화 영역의 화질은 좋을 수 있지만, 그만큼 전송되는 데이터의 크기가 커져서 네트워크의 대역이 낮은 경우 서비스 속도가 저하될 수 있다. 따라서, 네트워크의 데이터 처리율이 낮아 네트워크가 원활한 경우에는 서비스의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다. 또한, PNG 스틸 이미지 압축 기법은 인코딩 및 디코딩시에 부하가 크지 않기 때문에, 클라우드 스트리밍 서버 부하가 큰 경우에는 PNG 스틸 이미지 압축 기법으로 인코딩을 수행하여 서버의 부하가 더 커지는 것을 방지할 수 있다.In this case, when the data throughput of the network is less than the predetermined throughput, the change area can be encoded by applying the PNG still image compression technique. For example, in the case of encoding a change area using the PNG still image compression technique, the change area provided to the user terminal device may have a good image quality. However, when the bandwidth of the network is low due to a large data size, . Therefore, when the network throughput is low due to the low data throughput of the network, the change area can be encoded by the PNG still image compression technique, which can enhance the service quality. In addition, since the PNG still image compression scheme does not have a large load during encoding and decoding, when the load of the cloud streaming server is large, encoding with the PNG still image compression scheme can be prevented to increase the load on the server.

이 때, 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 네트워크의 데이터 처리율이 기설정된 처리율 이상인 경우 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩할 수 있다. 예를 들어, 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩하는 경우에는 화질의 열화가 발생할 수는 있지만, 전송되는 데이터의 크기를 줄어들 수 있다. 따라서, 네트워크의 데이터 처리율이 높아서 병목이 발생할 가능성이 있는 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역을 인코딩함으로써 데이터 전송량이 더 늘어나는 것을 방지할 수 있다.In this case, when the load of the cloud streaming server is equal to or larger than a preset reference value and the data processing rate of the network is equal to or greater than a predetermined processing rate, the changed area can be encoded by applying the palette PNG still image compression method. For example, in the case of encoding a change area by applying a palette-edged PNG still image compression technique, deterioration of image quality may occur, but the size of data to be transmitted may be reduced. Accordingly, when the bottleneck is likely to occur due to a high data throughput rate of the network, a palletized PNG still image compression technique capable of reducing the size of data can be selected to encode the change area, thereby preventing further increase in data transmission amount.

또한, 변화 영역을 인코딩할 스틸 이미지 압축 기법을 결정하기 위해서 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율을 고려하는 순서는 클라우드 스트리밍 서비스에 따라 상이하게 결정될 수 있다.In addition, the order of considering the size of the cloud streaming server load and the data throughput rate of the network in order to determine the still image compression technique to encode the change area may be determined differently according to the cloud streaming service.

또한, 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법은 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다(S530). 스틸 이미지 인코딩하여 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.In addition, the still image-based cloud streaming service method according to an embodiment of the present invention transmits a still image encoded changed region to a user to perform a still image based cloud streaming service in operation S530. A still image encoding and transmitting the compressed change area to a terminal device of a user enables a user to perform a cloud streaming service so as to receive an impression that an application is executed on the terminal device.

도 6은 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.FIG. 6 is a detailed flowchart illustrating a still image-based cloud streaming service method according to an embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법은 먼저 클라우드 스트리밍 서버에서 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다(S610). 이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. 이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다.Referring to FIG. 6, in the still image-based cloud streaming service method according to an embodiment of the present invention, a cloud streaming server captures a change area included in a changed frame compared with a previous frame in operation S610. At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small. At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected.

클라우드 스트리밍 서버는 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인지 여부를 판단한다(S615).The cloud streaming server determines whether the size of the load of the cloud streaming server is less than a predetermined reference value (S615).

단계(S615)의 판단결과 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만이라면, 변화 영역을 JPEG 스틸 이미지 압축 기법으로 인코딩한다(S620). JPEG 스틸 이미지 압축 기법은 상대적으로 PNG 스틸 이미지 압축 기법 및 팔렛티드 스틸 이미지 압축 기법보다 압축률이 높기 때문에 서버에서 인코딩을 수행하거나, 클라이언트에서 디코딩을 수행할 때 큰 부하를 발생시킬 수 있다. 따라서, 클라우드 스트리밍 서버 부하의 크기가 크지 않을 때 JPEG 스틸 이미지 압축 기법을 통해 변화영역을 인코딩할 수 있다.If it is determined in operation S615 that the load of the cloud streaming server is smaller than the preset reference value, the change area is encoded using the JPEG still image compression scheme in operation S620. The JPEG still image compression method has a higher compression ratio than the PNG still image compression method and the palettized still image compression method, so that it may cause a large load when performing encoding on a server or decoding on a client. Therefore, when the size of the cloud streaming server load is not large, the JPEG still image compression technique can encode the change area.

단계(S615)의 판단결과 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이라면, 네트워크의 데이터 처리율이 기설정된 처리율 미만인지 여부를 판단한다(S625).If it is determined in step S615 that the load of the cloud streaming server is equal to or greater than the preset reference value, it is determined whether the data processing rate of the network is less than the predetermined processing rate (S625).

단계(S625)의 판단결과 네트워크의 데이터 처리율이 기설정된 처리율 미만이라면, PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩한다(S630). PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩하는 경우에는 사용자 단말 장치로 제공되는 변화 영역의 화질은 좋을 수 있지만, 그만큼 전송되는 데이터의 크기가 커져서 네트워크의 대역이 낮은 경우 서비스 속도가 저하될 수 있다. 따라서, 네트워크의 데이터 처리율이 낮아 네트워크가 원활한 경우에는 서비스의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다.If it is determined in step S625 that the data processing rate of the network is less than the predetermined processing rate, the change area is encoded using the PNG still image compression scheme (S630). In the case of encoding the change area using the PNG still image compression technique, the image quality of the change area provided to the user terminal may be good, but the service speed may be lowered when the bandwidth of the network is low due to the large size of the transmitted data. Therefore, when the network throughput is low due to the low data throughput of the network, the change area can be encoded by the PNG still image compression technique, which can enhance the service quality.

단계(S625)의 판단결과 네트워크의 데이터 처리율이 기설정된 처리율 이상이라면, 팔렛티드 PNG 스틸 이미지 압축 기법으로 변화 영역을 인코딩한다(S640). 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 변화 영역을 인코딩하는 경우에는 화질의 열화가 발생할 수는 있지만, 전송되는 데이터의 크기를 줄어들 수 있다. 따라서, 네트워크의 데이터 처리율이 높아서 병목이 발생할 가능성이 있는 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역을 인코딩함으로써 데이터 전송량이 더 늘어나는 것을 방지할 수 있다.If it is determined in step S625 that the data processing rate of the network is greater than or equal to the predetermined processing rate, the changed area is encoded by the palette PNG still image compression method (S640). In the case of encoding the change area by applying the paletteed PNG still image compression technique, deterioration of the image quality may occur, but the size of the transmitted data may be reduced. Accordingly, when the bottleneck is likely to occur due to a high data throughput rate of the network, a palletized PNG still image compression technique capable of reducing the size of data can be selected to encode the change area, thereby preventing further increase in data transmission amount.

이 후, 클라우드 스트리밍 서버는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전달한다(S650). 스틸 이미지 인코딩하여 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.Thereafter, the cloud streaming server delivers the still image encoded changed area to the user (S650). A still image encoding and transmitting the compressed change area to a terminal device of a user enables a user to perform a cloud streaming service so as to receive an impression that an application is executed on the terminal device.

본 발명에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The still image based cloud streaming service method according to the present invention may be implemented in the form of a program command which can be executed through various computer means and recorded in a computer readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and constructed for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Includes all types of hardware devices that are specially configured to store and execute magneto-optical media and program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions may include machine language code such as those generated by a compiler, as well as high-level language code that may be executed by a computer using an interpreter or the like. Such a hardware device may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.As described above, the cloud streaming service system, the still image-based cloud streaming service method, and the apparatus therefor according to the present invention are not limited to the configuration and method of the embodiments described above, All or some of the embodiments may be selectively combined so that various modifications can be made.

본 발명에 의하면 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하고, 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행할 수 있다. 나아가, 스틸 이미지 기반 클라우드 스트리밍 서비스를 통해서 스트리밍 압축 효율을 극대화하고, 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공할 수 있기 때문에 클라우드 스트리밍 서비스 제공자는 대역 확장이 필요한 자원을 절약하면서 사용자들에게 효율적인 서비스를 제공할 수 있다.According to the present invention, it is possible to capture a change area included in a changed frame compared with a previous frame, select a still image compression scheme considering at least one of the size of a cloud streaming server load and the data processing rate of the network, Technique, a still image corresponding to a frame is still image encoded, and a still image encoded change area is transmitted to a user to perform a still image based cloud streaming service. Furthermore, cloud-streaming service providers can maximize streaming compression efficiency through still-image-based cloud streaming services and provide cloud streaming services to users faster and through more users over the same band. Thereby providing efficient services to users.

110: 클라우드 스트리밍 서버 120-1~ 120-N: 단말 장치들
130: 네트워크 210: 캡처부
220: 인코딩부 230: 센딩부
240: 저장부 300: 서버
310: 프로그램 화면 320: 이미지 인코딩
330: 스트리밍 340: 이미지 렌더링
410: 첫번째 프레임 420: 두번째 프레임
430: 변화 영역110: Cloud streaming servers 120-1 to 120-N:
130: Network 210: Capture unit
220: encoding unit 230:
240: Storage unit 300: Server
310: Program screen 320: Image encoding
330: Streaming 340: Image rendering
410: first frame 420: second frame
430: Change area

Claims (20)

이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 캡처부;
클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 인코딩부; 및
스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 센딩부
를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.A capturing unit for capturing a change area included in the changed frame in comparison with the previous frame;
A still image compression method is selected in consideration of at least one of the size of the cloud streaming server load and the data processing rate of the network and the still image compression method is used to convert the change area corresponding to one frame into a still image An encoding unit for encoding the encoded data; And
And transmits the still image-encoded change region to the user to perform a still image based cloud streaming service.
Wherein the server comprises: 청구항 1에 있어서,
상기 인코딩부는
PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 압축하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method according to claim 1,
The encoding unit
Wherein the change area is compressed using a still image compression technique of any one of portable network graphics (PNG), portable network graphics (PNG), and joint art experts group (JPEG). 청구항 2에 있어서,
상기 인코딩부는
상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 상기 JPEG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 2,
The encoding unit
And the JPEG still image compression technique is applied to encode the change area when the size of the load of the cloud streaming server is less than a predetermined reference value. 청구항 3에 있어서,
상기 인코딩부는
상기 클라우드 스트리밍 서버 부하의 크기가 상기 기설정된 기준값 이상인 경우 상기 네트워크의 데이터 처리율을 고려하여 상기 스틸 이미지 압축 기법을 선택하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 3,
The encoding unit
Wherein the still image compression scheme is selected in consideration of a data processing rate of the network when the size of the load of the cloud streaming server is equal to or greater than the preset reference value. 청구항 2에 있어서,
상기 인코딩부는
상기 네트워크의 데이터 처리율이 기설정된 처리율 미만인 경우 상기 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 2,
The encoding unit
Wherein the PNG still image compression technique is applied to encode the change area when the data throughput of the network is less than a predetermined throughput. 청구항 5에 있어서,
상기 인코딩부는
상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 상기 네트워크의 데이터 처리율이 상기 기설정된 처리율 이상인 경우 상기 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 5,
The encoding unit
Wherein when the size of the load of the cloud streaming server is equal to or greater than a preset reference value and the data processing rate of the network is equal to or greater than the predetermined processing rate, the parsed PNG still image compression technique is applied to encode the change area. . 청구항 1에 있어서,
상기 캡처부는
상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method according to claim 1,
The capture unit
Wherein the control unit captures the changed area in comparison with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame as the change area. 청구항 7에 있어서,
상기 캡처부는
상기 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 상기 프레임 변화가 적은 구간에서 상기 변화 영역을 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 7,
The capture unit
Wherein the frame detecting unit detects an interval in which a frame change is small among the entire frame to be transmitted to the terminal apparatus of the user and captures the change area in a section in which the frame change is small. 청구항 8에 있어서,
상기 캡처부는
상기 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 상기 프레임 변화가 적은 구간을 검출하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 8,
The capture unit
Detects an event type of an application generated from the terminal device of the user, and detects an interval in which the frame change is small. 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 단계;
클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 단계; 및
스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 단계
를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.Capturing a change area included in a changed frame compared to a previous frame;
A still image compression method is selected in consideration of at least one of the size of the cloud streaming server load and the data processing rate of the network and the still image compression method is used to convert the change area corresponding to one frame into a still image Encoding; And
Transmitting the still image encoded change area to the user to perform a still image based cloud streaming service
The method of claim 1, further comprising the steps of: 청구항 10에 있어서,
상기 인코딩하는 단계는
PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 압축하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.The method of claim 10,
The encoding step
A still image of the cloud streaming service is compressed using a still image compression technique of PNG (Portable Network Graphics), Palletized PNG (Portable Network Graphics), and JPEG (Joint Pictures Experts Group) Based cloud streaming service method. 청구항 11에 있어서,
상기 인코딩하는 단계는
상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 미만인 경우 상기 JPEG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.The method of claim 11,
The encoding step
And if the size of the load of the cloud streaming server is less than a preset reference value, the change area is encoded by applying the JPEG still image compression scheme to the still image based cloud streaming service method of the cloud streaming service. 청구항 12에 있어서,
상기 인코딩하는 단계는
상기 클라우드 스트리밍 서버 부하의 크기가 상기 기설정된 기준값 이상인 경우 상기 네트워크의 데이터 처리율을 고려하여 상기 스틸 이미지 압축 기법을 선택하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.The method of claim 12,
The encoding step
And selecting the still image compression scheme considering the data processing rate of the network when the size of the load of the cloud streaming server is equal to or greater than the preset reference value. 청구항 11에 있어서,
상기 인코딩하는 단계는
상기 네트워크의 데이터 처리율이 기설정된 처리율 미만인 경우 상기 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.The method of claim 11,
The encoding step
Wherein the PNG still image compression technique is applied to encode the change area when the data throughput of the network is less than a predetermined throughput. 청구항 14에 있어서,
상기 인코딩하는 단계는
상기 클라우드 스트리밍 서버 부하의 크기가 기설정된 기준값 이상이고, 상기 네트워크의 데이터 처리율이 상기 기설정된 처리율 이상인 경우 상기 팔렛티드 PNG 스틸 이미지 압축 기법을 적용하여 상기 변화 영역을 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.15. The method of claim 14,
The encoding step
Wherein when the size of the load of the cloud streaming server is equal to or greater than a predetermined reference value and the data processing rate of the network is equal to or greater than the predetermined processing rate, the changing region is encoded by applying the palette PNG still image compression scheme. A still image based cloud streaming service method. 청구항 10에 있어서,
상기 캡처하는 단계는
상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.The method of claim 10,
The step of capturing
Wherein the change area is captured by the change area in comparison with a screen area corresponding to the previous frame among the screen areas corresponding to the changed frame. 청구항 16에 있어서,
상기 캡처하는 단계는
상기 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하는 단계를 포함하고,
상기 프레임 변화가 적은 구간에서 상기 변화 영역을 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.18. The method of claim 16,
The step of capturing
Detecting an interval in which a frame change is small among all frames to be transmitted to the user terminal,
And captures the change area in a section where the frame change is small. 청구항 17에 있어서,
상기 검출하는 단계는
상기 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 상기 프레임 변화가 적은 구간을 검출하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 스틸 이미지 기반 클라우드 스트리밍 서비스 방법.18. The method of claim 17,
The detecting step
And detecting an event type of an application generated from the terminal device of the user to detect an interval in which the frame change is small. 청구항 10 내지 18 중 어느 한 항에 기재된 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.A computer program stored on a medium for carrying out the method of any one of claims 10 to 18. 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하고, 클라우드 스트리밍 서버 부하의 크기 및 네트워크의 데이터 처리율 중 어느 하나 이상을 고려하여 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및
상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말
을 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 시스템.Capturing a change area included in a changed frame in comparison with a previous frame, selecting a still image compression scheme considering at least one of a size of a cloud streaming server load and a data processing rate of the network, A cloud streaming server for still image encoding the change region corresponding to one frame and transmitting the still image encoded change region to the user to perform a still image based cloud streaming service; And
And a terminal for receiving an application execution result screen corresponding to the cloud streaming service from the cloud streaming server,
And a server for providing the cloud streaming service.
KR1020140139556A 2014-07-30 2014-10-16 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same KR102273143B1 (en)

Priority Applications (6)

Application Number Priority Date Filing Date Title
KR1020140139556A KR102273143B1 (en) 2014-10-16 2014-10-16 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
EP15826754.2A EP3177023B1 (en) 2014-07-30 2015-07-06 Apparatus for cloud streaming service
CN201580041775.6A CN106664439B (en) 2014-07-30 2015-07-06 Cloud streaming server
PCT/KR2015/006952 WO2016017953A1 (en) 2014-07-30 2015-07-06 System for cloud streaming service, method for still image-based cloud streaming service and apparatus therefor
JP2017504729A JP6527579B2 (en) 2014-07-30 2015-07-06 Cloud streaming service system, still image based cloud streaming service method and apparatus therefor
US15/416,307 US10462200B2 (en) 2014-07-30 2017-01-26 System for cloud streaming service, method for still image-based cloud streaming service and apparatus therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140139556A KR102273143B1 (en) 2014-10-16 2014-10-16 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same

Publications (2)

Publication Number Publication Date
KR20160044732A true KR20160044732A (en) 2016-04-26
KR102273143B1 KR102273143B1 (en) 2021-07-05

Family

ID=55919100

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140139556A KR102273143B1 (en) 2014-07-30 2014-10-16 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same

Country Status (1)

Country Link
KR (1) KR102273143B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115150638A (en) * 2022-06-29 2022-10-04 深信服科技股份有限公司 Data transmission method, device, equipment and storage medium based on cloud desktop

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140034603A (en) * 2012-09-12 2014-03-20 삼성전자주식회사 Method and apparatus of managing muti-session
US20140129861A1 (en) * 2012-11-05 2014-05-08 Accenture Global Services Limited Controlling a data stream
KR20140076668A (en) 2012-12-12 2014-06-23 에스케이플래닛 주식회사 Method for providing game based on cloud steaming, system, client terminal and service apparatus
KR20140093849A (en) * 2013-01-18 2014-07-29 한국과학기술원 Method and system for web screen streaming based on dom mutation event
WO2014138331A2 (en) * 2013-03-06 2014-09-12 Interdigital Patent Holdings, Inc. Power aware adaptation for video streaming

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140034603A (en) * 2012-09-12 2014-03-20 삼성전자주식회사 Method and apparatus of managing muti-session
US20140129861A1 (en) * 2012-11-05 2014-05-08 Accenture Global Services Limited Controlling a data stream
KR20140076668A (en) 2012-12-12 2014-06-23 에스케이플래닛 주식회사 Method for providing game based on cloud steaming, system, client terminal and service apparatus
KR20140093849A (en) * 2013-01-18 2014-07-29 한국과학기술원 Method and system for web screen streaming based on dom mutation event
WO2014138331A2 (en) * 2013-03-06 2014-09-12 Interdigital Patent Holdings, Inc. Power aware adaptation for video streaming

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115150638A (en) * 2022-06-29 2022-10-04 深信服科技股份有限公司 Data transmission method, device, equipment and storage medium based on cloud desktop

Also Published As

Publication number Publication date
KR102273143B1 (en) 2021-07-05

Similar Documents

Publication Publication Date Title
KR101780782B1 (en) Method and apparatus for cloud streaming service
KR102384174B1 (en) System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR20160131827A (en) System for cloud streaming service, method of image cloud streaming service using alpha level of color bit and apparatus for the same
KR102271721B1 (en) System for cloud streaming service, method of image cloud streaming service considering terminal performance and apparatus for the same
KR102273143B1 (en) System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR102247892B1 (en) System for cloud streaming service, method of image cloud streaming service using application code and apparatus for the same
KR102247887B1 (en) System for cloud streaming service, method of cloud streaming service using source information and apparatus for the same
KR20160093929A (en) System for cloud streaming service, method of image cloud streaming service using simultaneous encoding and apparatus for the same
KR20160131829A (en) System for cloud streaming service, method of image cloud streaming service using alpha value of image type and apparatus for the same
KR20160115566A (en) System for cloud streaming service, method of image cloud streaming service using separation of image and text and apparatus for the same
KR102313533B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102405143B1 (en) System for cloud streaming service, method of image cloud streaming service using reduction of color bit and apparatus for the same
KR102313516B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR102225609B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102225610B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR102225608B1 (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
KR102265419B1 (en) System for cloud streaming service, method of cloud streaming service using selective encoding processing unit and apparatus for the same
KR20210027340A (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
KR102272357B1 (en) System for cloud streaming service, method of image cloud streaming service using drawing layer separation and apparatus for the same
KR20160016265A (en) System for cloud streaming service, method of compressing data for preventing memory bottleneck and apparatus for the same
KR20160094746A (en) System for cloud streaming service, method of image cloud streaming service using additional encoding and apparatus for the same
KR20160040943A (en) System for cloud streaming service, method of cloud streaming service using separate operations of the encoding process unit and apparatus for the same
KR20160087129A (en) System for cloud streaming service, method of image cloud streaming service using application code conversion and apparatus for the same
KR20160026561A (en) System for cloud streaming service, method of cloud streaming service to save system resources and apparatus for the same

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant