KR20160015128A - System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same - Google Patents

System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same Download PDF

Info

Publication number
KR20160015128A
KR20160015128A KR1020140156004A KR20140156004A KR20160015128A KR 20160015128 A KR20160015128 A KR 20160015128A KR 1020140156004 A KR1020140156004 A KR 1020140156004A KR 20140156004 A KR20140156004 A KR 20140156004A KR 20160015128 A KR20160015128 A KR 20160015128A
Authority
KR
South Korea
Prior art keywords
image
change area
cloud streaming
still image
streaming service
Prior art date
Application number
KR1020140156004A
Other languages
Korean (ko)
Other versions
KR102232899B1 (en
Inventor
배태면
나현식
윤홍서
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to EP15826754.2A priority Critical patent/EP3177023B1/en
Priority to JP2017504729A priority patent/JP6527579B2/en
Priority to CN201580041775.6A priority patent/CN106664439B/en
Priority to PCT/KR2015/006952 priority patent/WO2016017953A1/en
Publication of KR20160015128A publication Critical patent/KR20160015128A/en
Priority to US15/416,307 priority patent/US10462200B2/en
Application granted granted Critical
Publication of KR102232899B1 publication Critical patent/KR102232899B1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/41—Bandwidth or redundancy reduction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21—Server components or server architectures
    • H04N21/222—Secondary servers, e.g. proxy server, cable television Head-end
    • H04N21/2223—Secondary servers, e.g. proxy server, cable television Head-end being a public access point, e.g. for downloading to or uploading from clients

Abstract

Disclosed are a cloud streaming service system, a cloud streaming service method depending on an image type, and a device for the same. According to the present invention, the cloud streaming service based on a still image can be performed by capturing a change area included in a changed frame compared to the pervious frame, selecting a still image compression method depending on an image type by considering at least one from a standard deviation of an image pixel value and the number of image colors corresponding to the change area, and sending a change area encoded by the still image compression method to a user. By using a still image compression method appropriate to an image type when the cloud streaming service is offered, it is possible to enhance compression efficiency of a still image and cloud streaming service speed.

Description

클라우드 스트리밍 서비스 시스템, 이미지 타입에 따른 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF CLOUD STREAMING SERVICE BASED ON TYPE OF IMAGE AND APPARATUS FOR THE SAME}TECHNICAL FIELD [0001] The present invention relates to a cloud streaming service system, a cloud streaming service method, and a cloud streaming service method,

본 발명은 클라우드 스트리밍 서비스 시 변화된 영역의 이미지 타입을 판단하고, 이미지 타입에 따른 스틸 이미지 압축 기법으로 인코딩을 수행하여 이미지의 압축 효율과 서비스 속도를 향상시킬 수 있는 클라우드 스트리밍 서비스 시스템, 이미지 타입에 따른 클라우드 스트리밍 서비스 방법 및 이를 위한 장치에 관한 것이다.The present invention relates to a cloud streaming service system capable of judging an image type of a changed area in a cloud streaming service and improving encoding efficiency and service speed by performing encoding using a still image compression technique according to an image type, A cloud streaming service method and an apparatus therefor.

현대 인터넷의 급속한 발달로 인해 개인의 통신 속도는 급격하게 향상되었고, 이러한 통신 속도의 향상으로 원격지 컴퓨터에 접속하여 대용량의 데이터를 다운로드 또는 업로드 하거나, 원격지 컴퓨터 제어 프로그램을 사용하여 마치 원격지 컴퓨터에 로컬 로그인한 것과 같이 원격지 컴퓨터를 이용할 수 있는 환경이 조성되었다.Due to the rapid development of the modern Internet, the communication speed of an individual has been dramatically improved. As a result of this communication speed, it is possible to access or download a large amount of data by connecting to a remote computer, As a result, an environment where remote computers can be used has been established.

또한, 어플리케이션을 서버에서 구동시키고 구동화면은 비디오 인코딩(Encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면 가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있다.In addition, the application is driven on the server, the driving screen is compressed through video encoding and transmitted to the client, and the client reproduces the transmitted video to provide a screen virtualization Cloud streaming service is becoming popular.

이와 같은 클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법이 적용되었다. 그러나 메뉴 디스플레이와 같이 정적인 화면을 서비스 하는 경우에도 불필요하게 화면 전체를 캡처하고 비디오 코덱을 이용하여 동작하기 때문에 클라우드 스트리밍 서비스 시스템을 운영함에 있어서 비효율적인 부분이 존재하였다.This cloud streaming service basically adopts the cloud streaming method based on the video codec. However, even when a static screen such as a menu display is served, the entire screen is unnecessarily captured and operated using a video codec, which is inefficient in operating the cloud streaming service system.

한국 공개 특허 제10-2014-0027040호, 2014년 3월 6일 공개 (명칭: 적응 이미지 압축시스템 및 그 방법)Korean Patent Publication No. 10-2014-0027040, published on Mar. 6, 2014 (name: Adaptive Image Compression System and Method)

본 발명의 목적은, 스틸 이미지 기반 클라우드 스트리밍 서비스 제공 시 이미지 타입에 적합한 스틸 이미지 압축 기법을 사용함으로써 압축 효율과 클라우드 스트리밍 서비스 속도를 향상시키는 것이다.It is an object of the present invention to improve a compression efficiency and a cloud streaming service speed by using a still image compression technique suitable for an image type in providing a still image based cloud streaming service.

또한, 본 발명의 목적은 스틸 이미지 기반 클라우드 스트리밍 서비스를 통해서 스트리밍 압출효율을 극대화하여 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공하는 것이다.It is also an object of the present invention to provide streaming extrusion efficiency through a still image-based cloud streaming service, thereby providing a cloud streaming service for a faster and more users over the same band.

상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 캡처부; 상기 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 인코딩부; 및 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 센딩부를 포함한다.According to an aspect of the present invention, there is provided a cloud streaming server comprising: a capture unit for capturing a change area included in a changed frame compared with a previous frame; A still image compression method is selected according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, An encoding unit for still image encoding the change area corresponding to the frame; And a sender for transmitting the still image-encoded change area to the user to perform a still image based cloud streaming service.

이 때, 인코딩부는 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 상기 스틸 이미지 압축 기법을 선택할 수 있다.At this time, the encoding unit may select the still image compression technique according to an image type of either a natural image or a synthetic image.

이 때, 인코딩부는 상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 상기 이미지 타입을 상기 자연 이미지로 결정할 수 있다.At this time, the encoding unit may determine the image type as the natural image if the number of colors of the image corresponding to the change area exceeds a preset reference number.

이 때, 인코딩부는 상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하인 경우 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차를 고려하여 상기 이미지 타입을 결정할 수 있다.At this time, the encoding unit may determine the image type by considering the standard deviation of the image pixel value corresponding to the change area when the number of colors of the image corresponding to the change area is equal to or less than the preset reference number.

이 때, 인코딩부는 상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하이고, 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 상기 이미지 타입을 상기 합성 이미지로 결정할 수 있다.In this case, if the color number of the image corresponding to the change area is less than or equal to the preset reference number, and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, It can be determined as a composite image.

이 때, 인코딩부는 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 상기 이미지 타입을 상기 자연 이미지로 결정할 수 있다.At this time, the encoding unit may determine the image type as the natural image if the standard deviation of the image pixel value corresponding to the change area exceeds a preset reference value.

이 때, 인코딩부는 상기 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 상기 스틸 이미지 인코딩할 수 있다.In this case, the encoding unit may encode the still image using the still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

이 때, 캡처부는 상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처할 수 있다.In this case, the capturing unit may capture the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame.

이 때, 캡처부는 상기 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 상기 프레임 변화가 적은 구간에서 상기 변화 영역을 캡처할 수 있다.At this time, the capture unit detects an interval in which a frame change is small in the entire frame to be transmitted to the terminal apparatus of the user, and captures the change area in a section in which the frame change is small.

이 때, 캡처부는 상기 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 상기 프레임 변화가 적은 구간을 검출할 수 있다.At this time, the capturing unit detects an event type of the application generated from the terminal device of the user, and can detect an interval in which the frame change is small.

또한, 본 발명에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법 은, 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 단계; 상기 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 단계; 및 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 단계를 포함한다.In addition, a cloud streaming service method according to an image type according to the present invention includes: capturing a change area included in a changed frame compared with a previous frame; A still image compression method is selected according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, Still image encoding the change area corresponding to the frame; And transmitting the still image-encoded change area to the user to perform a still image-based cloud streaming service.

이 때, 인코딩하는 단계는 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 상기 스틸 이미지 압축 기법을 선택할 수 있다.At this time, the encoding step may select the still image compression technique according to an image type of either a natural image or a synthetic image.

이 때, 인코딩하는 단계는 상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 상기 이미지 타입을 자연 이미지로 결정할 수 있다.At this time, the encoding step may determine the image type as a natural image if the number of colors of the image corresponding to the change area exceeds a preset reference number.

이 때, 인코딩하는 단계는 상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하인 경우 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차를 고려하여 상기 이미지 타입을 결정할 수 있다.In this case, the encoding step may determine the image type by considering the standard deviation of the image pixel value corresponding to the change area when the number of colors of the image corresponding to the change area is equal to or less than the predetermined reference number.

이 때, 인코딩하는 단계는 상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하이고, 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 상기 이미지 타입을 합성 이미지로 결정할 수 있다.In this case, when the number of colors of the image corresponding to the change area is less than or equal to the predetermined reference number and the standard deviation of the image pixel value corresponding to the change area is less than a preset reference value, Can be determined as a composite image.

이 때, 인코딩하는 단계는 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 상기 이미지 타입을 상기 자연 이미지로 결정할 수 있다.At this time, the encoding step may determine the image type as the natural image when the standard deviation of the image pixel value corresponding to the change area exceeds a preset reference value.

이 때, 인코딩하는 단계는 상기 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 상기 스틸 이미지 인코딩할 수 있다.In this case, the encoding step may encode the still image using the still image compression technique of any one of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

이 때, 캡처하는 단계는 상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처할 수 있다.In this case, the capturing may capture the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame.

또한, 본 발명의 과제 해결을 위한 또 다른 수단으로써, 상술한 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램을 제공한다.As another means for solving the problem of the present invention, there is provided a computer program stored in a medium for executing the above-described method.

또한, 본 발명에 따른 클라우드 스트리밍 서비스 시스템은 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하고, 상기 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및 상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말을 포함한다.In addition, the cloud streaming service system according to the present invention captures a change area included in a changed frame compared with a previous frame, and considers at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value Selecting a still image compression scheme according to the decided image type, still image encoding the change region corresponding to one frame using the still image compression scheme, and transmitting the still image encoded change region to the user A cloud streaming server for performing a still image based cloud streaming service; And a terminal receiving an application execution result screen corresponding to the cloud streaming service from the cloud streaming server.

본 발명에 따르면, 스틸 이미지 기반 클라우드 스트리밍 서비스 제공 시 이미지 타입에 적합한 스틸 이미지 압축 기법을 사용함으로써 이미지의 압축 효율과 클라우드 스트리밍 서비스 속도를 향상시킬 수 있다.According to the present invention, when providing a still image-based cloud streaming service, it is possible to improve the compression efficiency of an image and the speed of a cloud streaming service by using a still image compression technique suitable for an image type.

또한, 본 발명은 스틸 이미지 기반 클라우드 스트리밍 서비스를 통해서 스트리밍 압축 효율을 극대화하여 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공할 수 있다.Also, the present invention maximizes the streaming compression efficiency through the still image-based cloud streaming service, and can provide the cloud streaming service to a faster and more users over the same band.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3은 스틸 이미지 기반 클라우드 스트리밍 시스템을 나타낸 도면이다.
도 4는 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스에서 변화 영역을 캡처하는 과정을 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
도 6은 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.1 is a block diagram illustrating a cloud streaming service system according to an embodiment of the present invention.
2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.
3 is a diagram illustrating a still image-based cloud streaming system.
FIG. 4 illustrates a process of capturing a change area in a still image-based cloud streaming service according to an embodiment of the present invention.
5 is a flowchart illustrating a method of providing a cloud streaming service according to an image type according to an exemplary embodiment of the present invention.
6 is a flowchart illustrating a method of providing a cloud streaming service according to an image type according to an exemplary embodiment of the present invention.

이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description and the accompanying drawings, detailed description of well-known functions or constructions that may obscure the subject matter of the present invention will be omitted. It should be noted that the same constituent elements are denoted by the same reference numerals as possible throughout the drawings.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.The terms and words used in the present specification and claims should not be construed to be limited to ordinary or dictionary meanings and the inventor is not limited to the concept of terminology for describing his or her invention in the best way. It should be interpreted as meaning and concept consistent with the technical idea of the present invention. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention, and not all of the technical ideas of the present invention are described. Therefore, It is to be understood that equivalents and modifications are possible. Also, the terms first, second, etc. are used for describing various components and are used only for the purpose of distinguishing one component from another component, and are not used to define the components.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.1 is a block diagram illustrating a cloud streaming service system according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일실시예에 다른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 단말 장치들(120-1, ..., 120-N) 및 네트워크(130)를 포함한다.1, a cloud streaming service system according to an exemplary embodiment of the present invention includes a cloud streaming server 110, terminal devices 120-1 to 120-N, and a network 130 .

클라우드 스트리밍 서버(110)는 단말 장치들(120-1, ..., 120-N)로부터 클라우드 스트리밍 서비스 요청을 받아 어플리케이션을 실행하고, 어플리케이션 실행 결과에 해당하는 실행 결과 화면을 단말 장치들(120-1, ..., 120-N)에게 제공한다.The cloud streaming server 110 receives the cloud streaming service request from the terminal devices 120-1 to 120-N and executes the application. The cloud streaming server 110 transmits the execution result screen corresponding to the application execution result to the terminal devices 120 -1, ..., 120-N.

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법을 적용하기 때문에 메뉴 디스플레이와 같은 정적인 화면에 대해서 클라우드 스트리밍 기법을 적용하는 경우에도 불필요하게 화면 전체를 캡처하여 비디오 코덱으로 인코딩하는 비효율적인 방법으로 클라우드 스트리밍 서비스를 수행하였다. 이러한 문제점을 해결하기 위해 본 발명은 메뉴 디스플레이 화면과 같이 프레임간 변화가 크지 않은 경우에는 클라우드 스트리밍 서버가 프레임간 변화를 검출하고, 검출된 변화 영역만을 스틸 이미지 압축 기법으로 인코딩하는 클라우드 스트리밍 시스템을 제공한다.Since the cloud streaming service basically adopts the cloud streaming technique based on the video codec, even when the cloud streaming technique is applied to a static screen such as a menu display, an inefficient method of capturing an entire screen unnecessarily and encoding it into a video codec We performed cloud streaming service. In order to solve such a problem, the present invention provides a cloud streaming system in which a cloud streaming server detects a change between frames when a change between frames is not large as in a menu display screen, and encodes only the detected change region using a still image compression technique do.

클라우드 스트리밍 서버(110)는 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다. 이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 이 때, 단말 장치들(120-1, ..., 120-N)로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. 이 때, 단말 장치들(120-1, ..., 120-N)로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다.The cloud streaming server 110 captures the change area included in the changed frame as compared with the previous frame. At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. At this time, it is possible to detect a section in which a frame change is small in the entire frame to be transmitted to the terminal devices 120-1, ..., and 120-N, and capture the change area in a section in which the frame change is small. At this time, an event type of an application generated from the terminal devices 120-1, ..., and 120-N may be detected to detect an interval in which a frame change is small.

또한, 클라우드 스트리밍 서버(110)는 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다. 이 때, 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택할 수 있다. 이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하인 경우 변화 영역에 상응하는 이미지 화소값의 표준 편차를 고려하여 이미지 타입을 결정할 수 있다. 이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하이고, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 이미지 타입을 합성 이미지로 결정할 수 있다. 이 때, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 이 때, 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩할 수 있다.In addition, the cloud streaming server 110 selects a still image compression technique according to the determined image type in consideration of at least one of the color number of the image corresponding to the change area and the standard deviation of the image pixel value, A still image corresponding to one frame is still-encoded using a compression technique. At this time, the still image compression technique can be selected according to the image type of either the natural image or the synthetic image. At this time, if the number of colors of the image corresponding to the change area exceeds the preset reference number, the image type can be determined as the natural image. At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number, the image type can be determined in consideration of the standard deviation of the image pixel value corresponding to the change area. At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, the image type can be determined as the composite image. At this time, if the standard deviation of the image pixel value corresponding to the change area exceeds the predetermined reference value, the image type can be determined as the natural image. At this time, still image encoding of the change area can be performed using a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

또한, 클라우드 스트리밍 서버(110)는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다.In addition, the cloud streaming server 110 transmits a still image encoded changed area to a user to perform a still image based cloud streaming service.

단말 장치들(120-1, ..., 120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하여 사용자에게 제공한다.The terminal devices 120-1 to 120-N receive an application execution result screen corresponding to the cloud streaming service from the cloud streaming server 110 and provide them to the user.

단말 장치들(120-1, ..., 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말 장치들(120-1, ..., 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.Each of the terminal devices 120-1 to 120-N is connected to a communication network and is capable of executing applications on the basis of a cloud computing system. The terminal devices 120-1 to 120-N are not limited to mobile communication terminals, , A wired terminal, a fixed terminal, and an IP (Internet Protocol) terminal. Each of the terminal devices 120-1 to 120-N may be a mobile phone, a portable multimedia player (PMP), a mobile Internet device (MID), a smart phone, a desktop, A mobile terminal having various mobile communication specifications such as a tablet PC, a notebook computer, a net book, a personal digital assistant (PDA), a smart TV, have.

네트워크(130)는 클라우드 스트리밍 서버(110)및 단말 장치들(120-1, ..., 120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말 장치들(120-1, ..., 120-N) 사이에 사용되는 네트워크는 단말 장치들(120-1, ..., 120-N) 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.The network 130 provides a pathway for transferring data between the cloud streaming server 110 and the terminal devices 120-1, ..., 120-N, . For example, the network 130 may be a wired / wireless local area network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between mobile objects and mobile objects outside the mobile object, Or a wired / wireless communication network, or a combination of two or more. Meanwhile, the transmission scheme standard of the network 130 is not limited to the existing transmission scheme standard, and may include all transmission scheme standards to be developed in the future. The network used between the cloud streaming server 110 and the terminal devices 120-1 to 120-N in FIG. 1 is a terminal device 120-1 to 120-N, And may be the same or different from the network used for mutual use.

도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.

도 2를 참조하면, 도 1에 도시된 클라우드 스트리밍 서버(110)는 캡처부(210), 인코딩부(220), 센딩부(230) 및 저장부(240)를 포함한다.Referring to FIG. 2, the cloud streaming server 110 shown in FIG. 1 includes a capture unit 210, an encoding unit 220, a sending unit 230, and a storage unit 240.

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법을 적용하기 때문에 메뉴 디스플레이와 같은 정적인 화면에 대해서 클라우드 스트리밍 기법을 적용하는 경우에도 불필요하게 화면 전체를 캡처하여 비디오 코덱으로 인코딩하는 비효율적인 방법으로 클라우드 스트리밍 서비스를 수행하였다. 이러한 문제점을 해결하기 위해 본 발명은 메뉴 디스플레이 화면과 같이 프레임간 변화가 크지 않은 경우에는 클라우드 스트리밍 서버가 프레임간 변화를 검출하고, 검출된 변화 영역만을 스틸 이미지 압축 기법으로 인코딩하는 클라우드 스트리밍 서버(110)를 제공한다.Since the cloud streaming service basically adopts the cloud streaming technique based on the video codec, even when the cloud streaming technique is applied to a static screen such as a menu display, an inefficient method of capturing an entire screen unnecessarily and encoding it into a video codec We performed cloud streaming service. In order to solve such a problem, the present invention is characterized in that when a change between frames is not large as in a menu display screen, the cloud streaming server 110 detects a change between frames and encodes only the detected change region using a still image compression technique ).

캡처부(210)는 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다. 비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말 장치에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.The capture unit 210 captures a change area included in the changed frame as compared with the previous frame. The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the change between the frames on the screen on which the application operates is not large, the still image encoding is performed by capturing only the change area of the changed frame compared with the previous frame, and when displaying on the user's terminal device, And only the change area is changed.

이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 예를 들어 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역이 A 영역이라면, 변화된 프레임에 상응하는 화면 영역 중 A 영역만을 변화 영역으로 캡처할 수 있다. 이러한 변화 영역은 사용자의 단말 장치에서 입력되는 입력 신호에 따라 사이즈나 변화 영역에 상응하는 이미지의 성질이 다양할 수 있다.At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. For example, if the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame is the area A, only the area A of the screen area corresponding to the changed frame can be captured as the changed area. Such a change area may vary in the nature of the image corresponding to the size or change area according to the input signal input from the terminal device of the user.

이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small.

이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다. 예를 들어, 사용자의 단말 장치로부터 발생하는 입력신호에 따라 어플리케이션의 이벤트 유형이 결정될 수 있다. 입력신호에 따라 메뉴, 옵션, 안내 창과 같이 어플리케이션을 실행하였을 때 프레임의 변화가 적은 정적인 이벤트 또는 동영상 재생 및 게임 플레이와 같이 프레임이 자주 변하는 동적인 이벤트가 발생할 수 있다. 따라서, 사용자가 단말 장치를 통해 발생시키는 입력신호로 이벤트 유형을 감지하고, 이벤트 유형이 정적인 이벤트라면, 해당 이벤트에 상응하는 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출할 수 있다.At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected. For example, an event type of an application can be determined according to an input signal generated from a user's terminal device. Depending on the input signal, a static event with little frame change or a dynamic event with frequent frame changes such as video playback and game play may occur when an application such as a menu, option, or guide window is executed. Therefore, if the event type is a static event, the user detects an event type with an input signal generated through a terminal device, and can detect an interval in which a frame change is small in the entire frame corresponding to the event.

인코딩부(220)는 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다. 예를 들어, 캡처된 변화 영역의 이미지 타입이 하나의 사진이나 그림과 같은 타입이거나 또는 여러 개의 이미지가 합쳐져서 만들어진 이미지일 수 있기 때문에, 이미지 타입을 결정하고 각각의 이미지 타입에 적합한 스틸 이미지 압축 기법을 선택하여 스틸 이미지 인코딩을 수행함으로써 변화 영역의 압축 효율을 상승시킬 수 있다.The encoding unit 220 selects a still image compression scheme according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, To still image encode the change area corresponding to one frame. For example, since the image type of the captured change area may be a type such as a picture, a picture, or an image formed by combining several images, the image type is determined and a still image compression technique suitable for each image type It is possible to increase the compression efficiency of the change area by performing the still image encoding.

이 때, 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택할 수 있다. 자연 이미지는 자연적으로 발생한 객체의 이미지를 의미할 수 있다. 예를 들어, 하나의 사진이나 그림과 같은 광학 이미지뿐 아니라 엑스레이와 적외선 같은 다른 파장의 이미지들을 의미할 수도 있다. 합성 이미지는 자연 이미지와 다르게 컴퓨터나 인위적 수단을 통해 생성되거나 합성된 이미지를 의미할 수 있다. At this time, the still image compression technique can be selected according to the image type of either the natural image or the synthetic image. A natural image can mean an image of a naturally occurring object. For example, it may refer to optical images such as a photograph or a picture, as well as images of other wavelengths such as x-rays and infrared rays. Composite images can mean images created or synthesized through computer or artificial means, unlike natural images.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 자연 이미지의 경우 자연적으로 발생한 객체에 대한 이미지일 수 있기 때문에, 이미지를 표현하는 컬러에 적용된 명도와 채도의 변화가 합성 이미지보다 정교할 수 있다. 따라서, 자연 이미지를 나타내기 위해 구성된 화소들이 표현하는 컬러의 개수가 합성 이미지보다 다양할 수 있기 때문에, 변화 영역에 상응하는 이미지의 컬러 개수를 고려하여 변화 영역에 상응하는 이미지 타입을 결정할 수 있다. 예를 들어, 기설정된 기준 개수를 10만개라고 설정하였다면, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개를 초과하는 경우에는 이미지 타입을 자연 이미지로 결정하고, 10만개 이하인 경우에는 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area exceeds the preset reference number, the image type can be determined as the natural image. Since the natural image may be an image of a naturally occurring object, the change in brightness and saturation applied to the color representing the image may be more sophisticated than the composite image. Therefore, since the number of colors represented by the pixels constituting the natural image may be more varied than the composite image, the image type corresponding to the change area can be determined by considering the number of colors of the image corresponding to the change area. For example, if the preset reference number is set at 100,000, if the number of colors constituting the image corresponding to the change area exceeds 100,000, the image type is determined as a natural image. If the number of colors is less than 100,000, The type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하인 경우 변화 영역에 상응하는 이미지 화소값의 표준 편차를 고려하여 이미지 타입을 결정할 수 있다. 화소값의 표준 편차는 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도일 수 있다. 만약 컬러값의 분포도가 0이라면 모든 컬러가 같은 값이라는 의미일 수 있기 때문에, 컬러값의 분포도, 즉 화소값의 표준 편차가 작다는 것은 이미지를 구성하는 컬러의 개수가 적다는 의미와 상통할 수 있다. 따라서, 이와 같은 이미지 화소값의 표준 편차를 고려하여 변화 영역에 상응하는 이미지의 이미지 타입을 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number, the image type can be determined in consideration of the standard deviation of the image pixel value corresponding to the change area. The standard deviation of the pixel value may be a distribution of color values represented by pixels constituting the image corresponding to the change area. If the distribution of the color values is 0, it means that all the colors are the same value. Therefore, the distribution of the color values, that is, the standard deviation of the pixel values is small means that the number of colors constituting the image is small have. Therefore, the image type of the image corresponding to the change area can be determined in consideration of the standard deviation of the image pixel value.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하이고, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 이미지 타입을 합성 이미지로 결정할 수 있다. 예를 들어, 이미지의 컬러 개수에 대해서 기설정된 기준 개수가 10만개이고, 이미지 화소값의 표준 편차에 대해 기설정된 기준 값이 N이라고 가정할 수 있다. 이 때, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개 이하이면서, 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도가 N보다 작은 값일 경우 변화 영역에 상응하는 이미지의 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, the image type can be determined as the composite image. For example, it can be assumed that a preset reference number is 100,000 for the number of colors of an image, and a predetermined reference value is N for a standard deviation of image pixel values. At this time, if the number of colors constituting the image corresponding to the change area is 100,000 or less and the distribution of the color values represented by the pixels constituting the image corresponding to the change area is a value smaller than N, The image type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 예를 들어, 변화 영역을 상응하는 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면 그만큼 이미지를 구성하는 컬러의 개수가 많다는 의미일 수 있다. 따라서, 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면, 변화 영역에 상응하는 이미지가 많은 컬러로 구성된 자연 이미지라고 판단할 수 있다.At this time, if the standard deviation of the image pixel value corresponding to the change area exceeds the predetermined reference value, the image type can be determined as the natural image. For example, if the standard deviation of the corresponding image pixel value exceeds the preset reference value, it means that the number of colors constituting the image is large. Therefore, if the standard deviation of the image pixel value exceeds the preset reference value, it can be determined that the natural image is composed of a large number of colors corresponding to the change area.

이 때, 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩할 수 있다. At this time, still image encoding of the change area can be performed using a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송 망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있는 기법이며, JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있는 기법이다. 또한, JPEG 스틸 이미지 압축 기법은 한 픽셀 주위에 서로 비슷한 색이 모여 있는 자연 이미지를 압축하였을 때 압축 효율이 더 효과적일 수 있다. 따라서, 변화 영역에 상응하는 이미지 타입이 자연 이미지인 경우에는 JPEG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다. The PNG still image compression technique is a technique in which the image quality is good when encoding, but the transmission speed may be lowered when the bandwidth of the transmission network is low due to a large data size. The JPEG still image compression technique has a high compression efficiency, However, since the compression efficiency is high, it is a technique that can generate a large system load when performing encoding and decoding. In addition, the JPEG still image compression technique may be more effective in compressing a natural image in which similar colors are gathered around one pixel. Therefore, if the image type corresponding to the change area is a natural image, the change area can be encoded by the JPEG still image compression technique.

또한, 변화 영역이 합성 이미지인 경우에는 JPEG 스틸 이미지 압축 기법을 사용하더라도 자연 이미지처럼 압축 효율을 기대하기 어려울 수 있다. 따라서, 변화 영역에 상응하는 이미지의 이미지 타입이 합성 이미지인 경우에는 이미지의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역의 스틸 이미지 인코딩을 수행할 수 있다.Also, when the change area is a composite image, it may be difficult to expect a compression efficiency like a natural image even if a JPEG still image compression technique is used. Accordingly, when the image type of the image corresponding to the change area is the composite image, the still image encoding of the change area can be performed by selecting the PNG still image compression technique that can enhance the image quality of the image.

또한, 변화 영역이 합성 이미지이고 변화 영역의 사이즈가 커서 데이터가 큰 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG(portable network graphics) 스틸 이미지 압축 기법을 이용하여 변화 영역을 인코딩할 수 있다. 팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다.In addition, if the change area is a composite image and the size of the change area is large, the change area can be encoded using a portable network graphics (PNG) still image compression technique that can reduce the data size. PALETED PNG still image compression techniques can reduce the data size of the image during encoding, which can guarantee the transmission speed, but it can cause deterioration in image quality because it expresses color with 8 bits.

센딩부(230)는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다. 인코딩을 완료함으로써 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.The sending unit 230 transmits the still image encoded changed area to the user to perform a still image based cloud streaming service. By transmitting the compressed change area to the terminal device of the user by completing the encoding, the user can perform the cloud streaming service so as to receive the feeling of running the application on the terminal device of the user.

저장부(240)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.The storage unit 240 stores various information generated in the cloud streaming service process according to the embodiment of the present invention, as described above.

실시예에 따라, 저장부(240)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(240)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.According to an embodiment, the storage unit 240 may be configured independently of the cloud streaming server 110 to support a function for the cloud streaming service. At this time, the storage unit 240 may operate as a separate mass storage and may include a control function for performing operations.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.In addition, the cloud streaming server 110 configured as described above may be implemented as one or more servers.

한편, 클라우드 스트리밍 서버(110)는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.On the other hand, the cloud streaming server 110 can store information in the memory on which the memory is mounted. In one implementation, the memory is a computer-readable medium. In one implementation, the memory may be a volatile memory unit, and in other embodiments, the memory may be a non-volatile memory unit. In one implementation, the storage device is a computer-readable medium. In various different implementations, the storage device may include, for example, a hard disk device, an optical disk device, or any other mass storage device.

도 3은 스틸 이미지 기반 클라우드 스트리밍 시스템을 나타낸 도면이다.3 is a diagram illustrating a still image-based cloud streaming system.

도 3을 참조하면, 서버(310)에서는 사용자의 단말 장치로부터 발생되는 사용자 입력(User Input)에 상응하는 프로그램 화면(310)을 실행시켜 캡처(Screen Capture)를 수행할 수 있다. 이 때, 서버(300)는 클라우드 스트리밍 서버와 웹 어플리케이션 서버를 통칭하는 서버일 수 있다. 또한, 프로그램 화면(310)을 실행시켜 캡처(Screen Capture)를 수행하는 과정은 도 2에 도시된 캡처부(210)의 동작 흐름과 상응할 수 있다. Referring to FIG. 3, the server 310 may perform a screen capture by executing a program screen 310 corresponding to a user input generated from a user terminal. In this case, the server 300 may be a server collectively referred to as a cloud streaming server and a web application server. In addition, the process of executing the screen capture by executing the program screen 310 may correspond to the operation flow of the capture unit 210 shown in FIG.

서버(300)는 캡처(Screen Capture)된 프로그램 화면(310)을 스틸 이미지 압축 기법을 통해 인코딩(Image Encoding)(320)할 수 있다. 이 때, 인코딩 (Image Encoding)(320)을 수행하는 과정은 도 2에 도시된 인코딩부(220)의 동작 흐름과 상응할 수 있다.The server 300 may encode the screen 310 of the screen-captured program through a still image compression technique. At this time, the process of performing the encoding (Image Encoding) 320 may correspond to the operation flow of the encoding unit 220 shown in FIG.

이 때, 변화된 프레임을 이전 프레임과 비교하여 변화된 영역만을 캡처할 수 있다. 또한, 변화된 영역의 이미지 타입을 고려하여 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법으로 변화된 영역을 인코딩할 수 있다.At this time, the changed frame can be compared with the previous frame to capture only the changed area. In addition, the still image compression scheme of PNG (portable network graphics) and JPEG (joint image experts group) may be selected in consideration of the image type of the changed area, and the changed area may be encoded using the selected still image compression scheme.

이 후, 서버(300)는 스틸 이미지 인코딩된 변화된 영역을 사용자의 단말 장치로 스트리밍(Streaming)(330)하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 제공할 수 있다. 이 때, 스트리밍(Streaming)(330)을 수행하는 과정은 도 2에 도시된 센딩부(230)의 동작 흐름과 상응할 수 있다.Thereafter, the server 300 may provide a still image-based cloud streaming service by streaming 330 the still image-encoded changed area to the user's terminal device. At this time, the process of performing the streaming 330 may correspond to the operation flow of the sending unit 230 shown in FIG.

이 후, 사용자의 단말 장치에서는 수신한 데이터를 렌더링(Image Rendering)(340)함으로써 사용자 입력(User Input)에 의해 어플리케이션에서 실행된 프로그램 화면(310)이 마치 사용자의 단말 장치에서 실행된 것처럼 사용자에게 디스플레이 할 수 있다.Thereafter, the user's terminal device renders the received data (Image Rendering) 340 so that the program screen 310 executed in the application by the user input (User Input) is displayed to the user Can be displayed.

도 4는 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스에서 변화 영역을 캡처하는 과정을 나타낸 도면이다.FIG. 4 illustrates a process of capturing a change area in a still image-based cloud streaming service according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 기반 클라우드 스트리밍 서비스는 첫번째 프레임(410)과 두번째 프레임(420)을 비교하여 변화된 변화 영역(430)만을 캡처하여 인코딩할 수 있다.Referring to FIG. 4, a still image-based cloud streaming service according to an embodiment of the present invention can capture and encode only the changed change area 430 by comparing the first frame 410 and the second frame 420.

예를 들어, 첫번째 프레임(410)과 두번째 프레임(420)에서 B, C, D 및 E의 영역을 메뉴 디스플레이라고 가정하였을 때, 첫번째 프레임(410)에서는 C 영역에 커서가 위치함으로써 C 영역이 다른 B, D, 및 E 영역과 구별될 수 있도록 음영처리 되었고, 두번째 프레임(420)에서는 C 영역에서 D 영역으로 커서가 이동함으로써 D 영역이 다른 B, C 및 E 영역과 구별될 수 있도록 음영처리 될 수 있다.For example, assuming that the areas of B, C, D and E in the first frame 410 and the second frame 420 are menu displays, in the first frame 410, the cursor is positioned in the C area, B, D, and E regions, and in the second frame 420 the cursor is moved from the C region to the D region so that the D region is shaded so that it can be distinguished from the other B, C, and E regions .

이 때, 첫번째 프레임(410)과 두번째 프레임(420)을 비교하였을 때 변화된 영역인 C와 D 영역만을 변화 영역(430)으로 캡처할 수 있다. 또한, 변화 영역(430)의 사이즈와 변화 영역(430)에 상응하는 이미지 성질을 고려하여 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법을 이용하여 변화 영역(430)을 인코딩할 수 있다.At this time, when the first frame 410 and the second frame 420 are compared, only the changed regions C and D can be captured in the change region 430. Also, the still image compression method may be selected in consideration of the size of the change area 430 and the image characteristics corresponding to the change area 430, and the change area 430 may be encoded using the selected still image compression technique.

이와 같이 첫번째 프레임(410)과 두번째 프레임(420)은 분명 변화가 있는 프레임으로 기존의 클라우드 스트리밍 서비스 시에는 두 프레임을 포함하여 프레임 레이트에 상응하는 수의 프레임들을 모두 캡처하여 인코딩을 수행해야 할 수 있다. 하지만 스틸 이미지 기반 클라우드 스트리밍 서비스는 변화 영역(430)만을 캡처하여 스틸 이미지 압축 기법으로 인코딩하기 때문에, 불필요하게 많은 프레임과 프레임의 화면 전체를 캡처하는 기존의 클라우드 스트리밍 서비스 방법보다 서비스의 효율성을 향상시킬 수 있다.Thus, in the conventional cloud streaming service, the first frame 410 and the second frame 420 must be clearly changed. In the conventional cloud streaming service, it is necessary to capture and encode all the frames corresponding to the frame rate including two frames have. However, since the still image-based cloud streaming service captures only the change area 430 and encodes it using the still image compression technique, it improves service efficiency compared to the existing cloud streaming service method that captures an entire screen of unnecessary frames and frames .

도 5는 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.5 is a flowchart illustrating a method of providing a cloud streaming service according to an image type according to an exemplary embodiment of the present invention.

도 5를 참조하면, 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법은 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다(S510). 비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말 장치에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.Referring to FIG. 5, in the cloud streaming service method according to an image type according to an embodiment of the present invention, a change area included in a changed frame is compared with a previous frame (S510). The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the change between the frames on the screen on which the application operates is not large, the still image encoding is performed by capturing only the change area of the changed frame compared with the previous frame, and when displaying on the user's terminal device, And only the change area is changed.

이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다. 예를 들어 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역이 A 영역이라면, 변화된 프레임에 상응하는 화면 영역 중 A 영역만을 변화 영역으로 캡처할 수 있다. 이러한 변화 영역은 사용자의 단말 장치에서 입력되는 입력 신호에 따라 사이즈나 변화 영역에 상응하는 이미지의 성질이 다양할 수 있다.At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area. For example, if the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame is the area A, only the area A of the screen area corresponding to the changed frame can be captured as the changed area. Such a change area may vary in the nature of the image corresponding to the size or change area according to the input signal input from the terminal device of the user.

이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small.

이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다. 예를 들어, 사용자의 단말 장치로부터 발생하는 입력신호에 따라 어플리케이션의 이벤트 유형이 결정될 수 있다. 입력신호에 따라 메뉴, 옵션, 안내 창과 같이 어플리케이션을 실행하였을 때 프레임의 변화가 적은 정적인 이벤트 또는 동영상 재생 및 게임 플레이와 같이 프레임이 자주 변하는 동적인 이벤트가 발생할 수 있다. 따라서, 사용자가 단말 장치를 통해 발생시키는 입력신호로 이벤트 유형을 감지하고, 이벤트 유형이 정적인 이벤트라면, 해당 이벤트에 상응하는 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출할 수 있다.At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected. For example, an event type of an application can be determined according to an input signal generated from a user's terminal device. Depending on the input signal, a static event with little frame change or a dynamic event with frequent frame changes such as video playback and game play may occur when an application such as a menu, option, or guide window is executed. Therefore, if the event type is a static event, the user detects an event type with an input signal generated through a terminal device, and can detect an interval in which a frame change is small in the entire frame corresponding to the event.

또한, 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법은 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다(S520). 예를 들어, 캡처된 변화 영역의 이미지 타입이 하나의 사진이나 그림과 같은 타입이거나 또는 여러 개의 이미지가 합쳐져서 만들어진 이미지일 수 있기 때문에, 이미지 타입을 결정하고 각각의 이미지 타입에 적합한 스틸 이미지 압축 기법을 선택하여 스틸 이미지 인코딩을 수행함으로써 변화 영역의 압축 효율을 상승시킬 수 있다.The cloud streaming service method according to an image type according to an exemplary embodiment of the present invention is a method for providing a still image according to an image type determined by considering at least one of a color number of an image corresponding to a change area and a standard deviation of an image pixel value image compression scheme is selected, and still image encoding is performed on the change area corresponding to one frame using the still image compression scheme (S520). For example, since the image type of the captured change area may be a type such as a picture, a picture, or an image formed by combining several images, the image type is determined and a still image compression technique suitable for each image type It is possible to increase the compression efficiency of the change area by performing the still image encoding.

이 때, 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택할 수 있다. 자연 이미지는 자연적으로 발생한 객체의 이미지를 의미할 수 있다. 예를 들어, 하나의 사진이나 그림과 같은 광학 이미지뿐 아니라 엑스레이와 적외선 같은 다른 파장의 이미지들을 의미할 수도 있다. 합성 이미지는 자연 이미지와 다르게 컴퓨터나 인위적 수단을 통해 생성되거나 합성된 이미지를 의미할 수 있다.At this time, the still image compression technique can be selected according to the image type of either the natural image or the synthetic image. A natural image can mean an image of a naturally occurring object. For example, it may refer to optical images such as a photograph or a picture, as well as images of other wavelengths such as x-rays and infrared rays. Composite images can mean images created or synthesized through computer or artificial means, unlike natural images.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 자연 이미지의 경우 자연적으로 발생한 객체에 대한 이미지일 수 있기 때문에, 이미지를 표현하는 컬러에 적용된 명도와 채도의 변화가 합성 이미지보다 정교할 수 있다. 따라서, 자연 이미지를 나타내기 위해 구성된 화소들이 표현하는 컬러의 개수가 합성 이미지보다 다양할 수 있기 때문에, 변화 영역에 상응하는 이미지의 컬러 개수를 고려하여 변화 영역에 상응하는 이미지 타입을 결정할 수 있다. 예를 들어, 기설정된 기준 개수를 10만개라고 설정하였다면, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개를 초과하는 경우에는 이미지 타입을 자연 이미지로 결정하고, 10만개 이하인 경우에는 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area exceeds the preset reference number, the image type can be determined as the natural image. Since the natural image may be an image of a naturally occurring object, the change in brightness and saturation applied to the color representing the image may be more sophisticated than the composite image. Therefore, since the number of colors represented by the pixels constituting the natural image may be more varied than the composite image, the image type corresponding to the change area can be determined by considering the number of colors of the image corresponding to the change area. For example, if the preset reference number is set at 100,000, if the number of colors constituting the image corresponding to the change area exceeds 100,000, the image type is determined as a natural image. If the number of colors is less than 100,000, The type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하인 경우 변화 영역에 상응하는 이미지 화소값의 표준 편차를 고려하여 이미지 타입을 결정할 수 있다. 화소값의 표준 편차는 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도일 수 있다. 만약 컬러값의 분포도가 0이라면 모든 컬러가 같은 값이라는 의미일 수 있기 때문에, 컬러값의 분포도, 즉 화소값의 표준 편차가 작다는 것은 이미지를 구성하는 컬러의 개수가 적다는 의미와 상통할 수 있다. 따라서, 이와 같은 이미지 화소값의 표준 편차를 고려하여 변화 영역에 상응하는 이미지의 이미지 타입을 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number, the image type can be determined in consideration of the standard deviation of the image pixel value corresponding to the change area. The standard deviation of the pixel value may be a distribution of color values represented by pixels constituting the image corresponding to the change area. If the distribution of the color values is 0, it means that all the colors are the same value. Therefore, the distribution of the color values, that is, the standard deviation of the pixel values is small means that the number of colors constituting the image is small have. Therefore, the image type of the image corresponding to the change area can be determined in consideration of the standard deviation of the image pixel value.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하이고, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 이미지 타입을 합성 이미지로 결정할 수 있다. 예를 들어, 이미지의 컬러 개수에 대해서 기설정된 기준 개수가 10만개이고, 이미지 화소값의 표준 편차에 대해 기설정된 기준 값이 N이라고 가정할 수 있다. 이 때, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개 이하이면서, 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도가 N보다 작은 값일 경우 변화 영역에 상응하는 이미지의 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, the image type can be determined as the composite image. For example, it can be assumed that a preset reference number is 100,000 for the number of colors of an image, and a predetermined reference value is N for a standard deviation of image pixel values. At this time, if the number of colors constituting the image corresponding to the change area is 100,000 or less and the distribution of the color values represented by the pixels constituting the image corresponding to the change area is a value smaller than N, The image type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 예를 들어, 변화 영역을 상응하는 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면 그만큼 이미지를 구성하는 컬러의 개수가 많다는 의미일 수 있다. 따라서, 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면, 변화 영역에 상응하는 이미지가 많은 컬러로 구성된 자연 이미지라고 판단할 수 있다.At this time, if the standard deviation of the image pixel value corresponding to the change area exceeds the predetermined reference value, the image type can be determined as the natural image. For example, if the standard deviation of the corresponding image pixel value exceeds the preset reference value, it means that the number of colors constituting the image is large. Therefore, if the standard deviation of the image pixel value exceeds the preset reference value, it can be determined that the natural image is composed of a large number of colors corresponding to the change area.

이 때, 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩할 수 있다.At this time, still image encoding of the change area can be performed using a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송 망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있는 기법이며, JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있는 기법이다. 또한, JPEG 스틸 이미지 압축 기법은 한 픽셀 주위에 서로 비슷한 색이 모여 있는 자연 이미지를 압축하였을 때 압축 효율이 더 효과적일 수 있다. 따라서, 변화 영역에 상응하는 이미지 타입이 자연 이미지인 경우에는 JPEG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다. The PNG still image compression technique is a technique in which the image quality is good when encoding, but the transmission speed may be lowered when the bandwidth of the transmission network is low due to a large data size. The JPEG still image compression technique has a high compression efficiency, However, since the compression efficiency is high, it is a technique that can generate a large system load when performing encoding and decoding. In addition, the JPEG still image compression technique may be more effective in compressing a natural image in which similar colors are gathered around one pixel. Therefore, if the image type corresponding to the change area is a natural image, the change area can be encoded by the JPEG still image compression technique.

또한, 변화 영역이 합성 이미지인 경우에는 JPEG 스틸 이미지 압축 기법을 사용하더라도 자연 이미지처럼 압축 효율을 기대하기 어려울 수 있다. 따라서, 변화 영역에 상응하는 이미지의 이미지 타입이 합성 이미지인 경우에는 이미지의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역의 스틸 이미지 인코딩을 수행할 수 있다.Also, when the change area is a composite image, it may be difficult to expect a compression efficiency like a natural image even if a JPEG still image compression technique is used. Accordingly, when the image type of the image corresponding to the change area is the composite image, the still image encoding of the change area can be performed by selecting the PNG still image compression technique that can enhance the image quality of the image.

또한, 변화 영역이 합성 이미지이고 변화 영역의 사이즈가 커서 데이터가 큰 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG(portable network graphics) 스틸 이미지 압축 기법을 이용하여 변화 영역을 인코딩할 수 있다. 팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다.In addition, if the change area is a composite image and the size of the change area is large, the change area can be encoded using a portable network graphics (PNG) still image compression technique that can reduce the data size. PALETED PNG still image compression techniques can reduce the data size of the image during encoding, which can guarantee the transmission speed, but it can cause deterioration in image quality because it expresses color with 8 bits.

또한, 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법은 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다(S530). 인코딩을 완료함으로써 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.In addition, the cloud streaming service method according to an image type according to an embodiment of the present invention transmits a still image encoded changed region to a user to perform a still image based cloud streaming service in operation S530. By transmitting the compressed change area to the terminal device of the user by completing the encoding, the user can perform the cloud streaming service so as to receive the feeling of running the application on the terminal device of the user.

또한, 도 5에는 도시하지 아니하였으나 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.In addition, although not shown in FIG. 5, the cloud streaming service method according to the image type according to an embodiment of the present invention stores various information generated in the cloud streaming service process according to an embodiment of the present invention.

도 6은 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.6 is a flowchart illustrating a method of providing a cloud streaming service according to an image type according to an exemplary embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법은 먼저 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처한다(S610). 이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 캡처할 수 있다.Referring to FIG. 6, a cloud streaming service method according to an image type according to an exemplary embodiment of the present invention captures a change area included in a changed frame by comparing with a previous frame (S610). At this time, the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame can be captured as the changed area.

이 후, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는지 여부를 판단한다(S615).Thereafter, it is determined whether the number of colors of the image corresponding to the change area exceeds a preset reference number (S615).

단계(S615)의 판단결과 기설정된 기준 개수를 초과하면, 변화 영역의 이미지 타입을 자연 이미지로 판단한다(S620).As a result of the determination in step S615, if the predetermined number of reference images is exceeded, the image type of the change area is determined as a natural image (S620).

단계(S615)의 판단결과 기설정된 기준 개수를 초과하지 못하면, 변화 영역에 상응하는 이미지의 화소값의 표준 편차가 기설정된 기준 값을 초과하는지 여부를 판단한다(S625).If it is determined in step S615 that the number of reference pixels does not exceed the predetermined reference number, it is determined whether the standard deviation of the pixel value of the image corresponding to the change area exceeds a predetermined reference value in step S625.

단계(S625)의 판단결과 기설정된 기준 값을 초과하면, 변화 영역의 이미지 타입을 자연 이미지로 판단한다(S620).As a result of the determination in step S625, if the predetermined reference value is exceeded, the image type of the change area is determined as a natural image (S620).

단계(S625)의 판단결과 기설정된 기준 값을 초과하지 못하면, 변화 영역의 이미지 타입을 합성 이미지로 판단한다(S630).As a result of the determination in step S625, if the predetermined reference value is not exceeded, the image type of the change area is determined as a composite image (S630).

이 후, 결정된 변화 영역의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택한다(S640). 이 때, PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 선택할 수 있다. 또한, 이미지 타입이 합성 이미지인 경우 팔렛티드 PNG(portable network graphics) 스틸 이미지 압축 기법을 이용할 수도 있다.Thereafter, the still image compression method is selected according to the determined image type of the change area (S640). At this time, it is possible to select a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group). Also, if the image type is a composite image, a portable network graphics (PNG) still image compression technique may be used.

이 후, 선택한 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩한다(S650).Thereafter, still image encoding is performed on the change area using the selected still image compression technique (S650).

이 후, 스틸 이미지 인코딩된 변화 영역을 사용자의 단말 장치로 전달한다(S660). 스틸 이미지 인코딩하여 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.Thereafter, the still image encoded changed area is transmitted to the terminal of the user (S660). A still image encoding and transmitting the compressed change area to a terminal device of a user enables a user to perform a cloud streaming service so as to receive an impression that an application is executed on the terminal device.

본 발명에 따른 이미지 타입에 따른 클라우드 스트리밍 서비스 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The cloud streaming service method according to the image type according to the present invention can be implemented in the form of a program command that can be executed through various computer means and recorded in a computer readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and configured for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Includes all types of hardware devices that are specially configured to store and execute magneto-optical media and program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions may include machine language code such as those generated by a compiler, as well as high-level language code that may be executed by a computer using an interpreter or the like. Such a hardware device may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 이미지 타입에 따른 클라우드 스트리밍 서비스 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.As described above, the cloud streaming service system according to the present invention, the cloud streaming service method according to the image type, and the apparatus therefor are not limited to the configuration and method of the embodiments described above, All or some of the embodiments may be selectively combined so that various modifications may be made.

본 발명에 의하면 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하고, 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행할 수 있다. 나아가, 이미지 타입에 따른 클라우드 스트리밍 서비스를 통해서 스트리밍 압축 효율을 극대화하고, 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공할 수 있기 때문에 클라우드 스트리밍 서비스 제공자는 대역 확장이 필요한 자원을 절약하면서 사용자들에게 효율적인 서비스를 제공할 수 있다.According to the present invention, it is possible to capture a change area included in a changed frame in comparison with a previous frame, and generate a still image (or a still image) according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value still image compression method, still image encoding corresponding to one frame by using the selected still image compression technique, and transmission of the still image encoded change area to the user, thereby providing still image based cloud streaming service Can be performed. Furthermore, since the cloud streaming service according to the image type maximizes the streaming compression efficiency and the cloud streaming service can be provided to a larger number of users faster and faster through the same band, the cloud streaming service provider can provide resources While providing efficient services to users.

110: 클라우드 스트리밍 서버 120-1~ 120-N: 단말 장치들
130: 네트워크 210: 캡처부
220: 인코딩부 230: 센딩부
240: 저장부 300: 서버
310: 프로그램 화면 320: 이미지 인코딩
330: 스트리밍 340: 이미지 렌더링
410: 첫번째 프레임 420: 두번째 프레임
430: 변화 영역110: Cloud streaming servers 120-1 to 120-N:
130: Network 210: Capture unit
220: encoding unit 230:
240: Storage unit 300: Server
310: Program screen 320: Image encoding
330: Streaming 340: Image rendering
410: first frame 420: second frame
430: Change area

Claims (20)

이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 캡처부;
상기 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 인코딩부; 및
스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 센딩부
를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.A capturing unit for capturing a change area included in the changed frame in comparison with the previous frame;
A still image compression method is selected according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, An encoding unit for still image encoding the change area corresponding to the frame; And
And transmits the still image-encoded change region to the user to perform a still image based cloud streaming service.
Wherein the server comprises: 청구항 1에 있어서,
상기 인코딩부는
자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 상기 스틸 이미지 압축 기법을 선택하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method according to claim 1,
The encoding unit
Wherein the still image compression method is selected according to an image type of any one of a natural image and a synthetic image. 청구항 2에 있어서,
상기 인코딩부는
상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 상기 이미지 타입을 상기 자연 이미지로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 2,
The encoding unit
And determines the image type as the natural image when the number of colors of the image corresponding to the change area exceeds a preset reference number. 청구항 3에 있어서,
상기 인코딩부는
상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하인 경우 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차를 고려하여 상기 이미지 타입을 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 3,
The encoding unit
Wherein the image type determination unit determines the image type by considering a standard deviation of the image pixel value corresponding to the change area when the number of colors of the image corresponding to the change area is equal to or less than the predetermined reference number. 청구항 4에 있어서,
상기 인코딩부는
상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하이고, 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 상기 이미지 타입을 상기 합성 이미지로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 4,
The encoding unit
Determining the image type as the composite image when the number of colors of the image corresponding to the change area is equal to or less than the predetermined reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value Wherein the server comprises: 청구항 2에 있어서,
상기 인코딩부는
상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 상기 이미지 타입을 상기 자연 이미지로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 2,
The encoding unit
And determines the image type as the natural image when the standard deviation of the image pixel value corresponding to the change area exceeds a preset reference value. 청구항 5에 있어서,
상기 인코딩부는
상기 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 상기 스틸 이미지 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 5,
The encoding unit
Wherein the still image encoding unit encodes the still image using the still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type. 청구항 1에 있어서,
상기 캡처부는
상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method according to claim 1,
The capture unit
Wherein the control unit captures the changed area in comparison with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame as the change area. 청구항 8에 있어서,
상기 캡처부는
상기 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 상기 프레임 변화가 적은 구간에서 상기 변화 영역을 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 8,
The capture unit
Wherein the frame detecting unit detects an interval in which a frame change is small among the entire frame to be transmitted to the terminal apparatus of the user and captures the change area in a section in which the frame change is small. 청구항 9에 있어서,
상기 캡처부는
상기 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 상기 프레임 변화가 적은 구간을 검출하는 것을 특징으로 하는 클라우드 스트리밍 서버.The method of claim 9,
The capture unit
Detects an event type of an application generated from the terminal device of the user, and detects an interval in which the frame change is small. 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하는 단계;
상기 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 단계; 및
스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 단계
를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.Capturing a change area included in a changed frame compared to a previous frame;
A still image compression method is selected according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, Still image encoding the change area corresponding to the frame; And
Transmitting the still image encoded change area to the user to perform a still image based cloud streaming service
The method according to claim 1, wherein the cloud streaming service is a cloud streaming service. 청구항 11에 있어서,
상기 인코딩하는 단계는
자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 상기 스틸 이미지 압축 기법을 선택하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.The method of claim 11,
The encoding step
Wherein the still image compression technique is selected according to an image type of any one of a natural image and a synthetic image according to an image type of the cloud streaming service. 청구항 12에 있어서,
상기 인코딩하는 단계는
상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 상기 이미지 타입을 자연 이미지로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.The method of claim 12,
The encoding step
And determines the image type as a natural image when the number of colors of the image corresponding to the change area exceeds a preset reference number. 청구항 13에 있어서,
상기 인코딩하는 단계는
상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하인 경우 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차를 고려하여 상기 이미지 타입을 결정하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.14. The method of claim 13,
The encoding step
And determines the image type by considering the standard deviation of the image pixel value corresponding to the change area when the number of colors of the image corresponding to the change area is equal to or less than the predetermined reference number. A method of cloud streaming service according to type. 청구항 14에 있어서,
상기 인코딩하는 단계는
상기 변화 영역에 상응하는 상기 이미지의 컬러 개수가 상기 기설정된 기준 개수 이하이고, 상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 상기 이미지 타입을 합성 이미지로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.15. The method of claim 14,
The encoding step
Determining the image type as a composite image when the number of colors of the image corresponding to the change area is equal to or less than the predetermined reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value A method of cloud streaming service according to image type of cloud streaming service. 청구항 12에 있어서,
상기 인코딩하는 단계는
상기 변화 영역에 상응하는 상기 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 상기 이미지 타입을 상기 자연 이미지로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.The method of claim 12,
The encoding step
And determining the image type as the natural image when the standard deviation of the image pixel value corresponding to the change area exceeds a preset reference value. 청구항 13에 있어서,
상기 인코딩하는 단계는
상기 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 상기 변화 영역을 상기 스틸 이미지 인코딩하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.14. The method of claim 13,
The encoding step
Wherein the still image encoding unit encodes the still image using the still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type. A method of cloud streaming service. 청구항 11에 있어서,
상기 캡처하는 단계는
상기 변화된 프레임에 상응하는 화면 영역 중 상기 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 상기 변화 영역으로 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서비스의 이미지 타입에 따른 클라우드 스트리밍 서비스 방법.The method of claim 11,
The step of capturing
And capturing the changed area in comparison with a screen area corresponding to the previous frame among the screen areas corresponding to the changed frame as the change area. 청구항 11 내지 18 중 어느 한 항에 기재된 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.A computer program stored on a medium for carrying out the method according to any one of claims 11 to 18. 이전 프레임과 비교하여 변화된 프레임에 포함된 변화 영역을 캡처하고, 상기 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 상기 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 상기 변화 영역을 상기 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및
상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말
을 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 시스템.Capturing a change area included in a changed frame in comparison with a previous frame, and generating still images according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, A still image-based cloud streaming service by selecting a compression scheme, still image encoding the change region corresponding to one frame using the still image compression scheme, and transmitting the still image encoded change region to the user, A cloud streaming server performing; And
And a terminal for receiving an application execution result screen corresponding to the cloud streaming service from the cloud streaming server,
And a server for providing the cloud streaming service.
KR1020140156004A 2014-07-30 2014-11-11 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same KR102232899B1 (en)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP15826754.2A EP3177023B1 (en) 2014-07-30 2015-07-06 Apparatus for cloud streaming service
JP2017504729A JP6527579B2 (en) 2014-07-30 2015-07-06 Cloud streaming service system, still image based cloud streaming service method and apparatus therefor
CN201580041775.6A CN106664439B (en) 2014-07-30 2015-07-06 Cloud streaming server
PCT/KR2015/006952 WO2016017953A1 (en) 2014-07-30 2015-07-06 System for cloud streaming service, method for still image-based cloud streaming service and apparatus therefor
US15/416,307 US10462200B2 (en) 2014-07-30 2017-01-26 System for cloud streaming service, method for still image-based cloud streaming service and apparatus therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020140097322 2014-07-30
KR20140097322 2014-07-30

Publications (2)

Publication Number Publication Date
KR20160015128A true KR20160015128A (en) 2016-02-12
KR102232899B1 KR102232899B1 (en) 2021-03-29

Family

ID=55355071

Family Applications (6)

Application Number Title Priority Date Filing Date
KR1020140110551A KR102199270B1 (en) 2014-07-30 2014-08-25 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR1020140141983A KR102225607B1 (en) 2014-07-30 2014-10-20 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR1020140156004A KR102232899B1 (en) 2014-07-30 2014-11-11 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150000827A KR102247886B1 (en) 2014-07-30 2015-01-05 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150006050A KR102273141B1 (en) 2014-07-30 2015-01-13 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR1020210028265A KR102384174B1 (en) 2014-07-30 2021-03-03 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Family Applications Before (2)

Application Number Title Priority Date Filing Date
KR1020140110551A KR102199270B1 (en) 2014-07-30 2014-08-25 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR1020140141983A KR102225607B1 (en) 2014-07-30 2014-10-20 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Family Applications After (3)

Application Number Title Priority Date Filing Date
KR1020150000827A KR102247886B1 (en) 2014-07-30 2015-01-05 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150006050A KR102273141B1 (en) 2014-07-30 2015-01-13 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR1020210028265A KR102384174B1 (en) 2014-07-30 2021-03-03 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Country Status (1)

Country Link
KR (6) KR102199270B1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190142928A (en) 2018-06-19 2019-12-30 삼성전자주식회사 Electronic device for performing image compresion and method for the same
KR102078576B1 (en) 2018-08-22 2020-02-19 에스케이플래닛 주식회사 Method for cloud streaming service using compression of alpha data and apparatus for the same
KR20210147596A (en) 2020-05-29 2021-12-07 에스케이플래닛 주식회사 Method and apparatus for providing cloud streaming service

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120128256A1 (en) * 2010-11-19 2012-05-24 Nao Mishima Image Processing Method, Apparatus, and Computer Program Product
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
KR20140027040A (en) 2013-12-30 2014-03-06 주식회사 큐램 Adaptive predictive image compression system and method thereof

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5032419B2 (en) * 2008-08-27 2012-09-26 株式会社東芝 Server, screen transmission method and computer program
GB2486475A (en) * 2010-12-16 2012-06-20 Norland Technology Ltd Encoding, transmitting and displaying a sequence of images using a difference image
KR101777776B1 (en) * 2011-07-22 2017-09-12 에스케이플래닛 주식회사 Apparatus and method for sampled profile based motion estimation
JP2013131990A (en) * 2011-12-22 2013-07-04 Ricoh Co Ltd Information processor and program
KR101430930B1 (en) 2012-12-12 2014-09-25 에스케이플래닛 주식회사 Method for providing game based on cloud steaming, system, client terminal and service apparatus

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120128256A1 (en) * 2010-11-19 2012-05-24 Nao Mishima Image Processing Method, Apparatus, and Computer Program Product
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
KR20140027040A (en) 2013-12-30 2014-03-06 주식회사 큐램 Adaptive predictive image compression system and method thereof

Also Published As

Publication number Publication date
KR102273141B1 (en) 2021-07-05
KR20160015136A (en) 2016-02-12
KR102384174B1 (en) 2022-04-08
KR20160015134A (en) 2016-02-12
KR102247886B1 (en) 2021-05-06
KR102225607B1 (en) 2021-03-12
KR20210029746A (en) 2021-03-16
KR102232899B1 (en) 2021-03-29
KR20160015125A (en) 2016-02-12
KR20160015123A (en) 2016-02-12
KR102199270B1 (en) 2021-01-07

Similar Documents

Publication Publication Date Title
KR102384174B1 (en) System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
US10462200B2 (en) System for cloud streaming service, method for still image-based cloud streaming service and apparatus therefor
KR20160131827A (en) System for cloud streaming service, method of image cloud streaming service using alpha level of color bit and apparatus for the same
KR102407477B1 (en) System for cloud streaming service, method of image cloud streaming service using alpha value of image type and apparatus for the same
KR102271721B1 (en) System for cloud streaming service, method of image cloud streaming service considering terminal performance and apparatus for the same
KR102247887B1 (en) System for cloud streaming service, method of cloud streaming service using source information and apparatus for the same
KR102405143B1 (en) System for cloud streaming service, method of image cloud streaming service using reduction of color bit and apparatus for the same
KR20160093929A (en) System for cloud streaming service, method of image cloud streaming service using simultaneous encoding and apparatus for the same
KR20160087225A (en) System for cloud streaming service, method of image cloud streaming service to provide a multi-view screen, and apparatus for the same
KR102313516B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR102313533B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102273143B1 (en) System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR102225609B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102225610B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR102265419B1 (en) System for cloud streaming service, method of cloud streaming service using selective encoding processing unit and apparatus for the same
KR102272357B1 (en) System for cloud streaming service, method of image cloud streaming service using drawing layer separation and apparatus for the same
KR102225608B1 (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
KR20210027340A (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
KR102247889B1 (en) System for cloud streaming service, method of cloud streaming service to save system resources and apparatus for the same
KR20160040943A (en) System for cloud streaming service, method of cloud streaming service using separate operations of the encoding process unit and apparatus for the same
KR20170025140A (en) System for cloud streaming service, method of image cloud streaming service based on detection of change area using operating system massage and apparatus for the same
KR20160087129A (en) System for cloud streaming service, method of image cloud streaming service using application code conversion and apparatus for the same
KR20170000670A (en) System for cloud streaming service, method of image cloud streaming service using property of scene region and method using the same

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant