KR20160015125A - System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same - Google Patents

System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same Download PDF

Info

Publication number
KR20160015125A
KR20160015125A KR1020140141983A KR20140141983A KR20160015125A KR 20160015125 A KR20160015125 A KR 20160015125A KR 1020140141983 A KR1020140141983 A KR 1020140141983A KR 20140141983 A KR20140141983 A KR 20140141983A KR 20160015125 A KR20160015125 A KR 20160015125A
Authority
KR
South Korea
Prior art keywords
change
frame
change area
still image
area
Prior art date
Application number
KR1020140141983A
Other languages
Korean (ko)
Other versions
KR102225607B1 (en
Inventor
배태면
나현식
윤홍서
Original Assignee
엔트릭스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔트릭스 주식회사 filed Critical 엔트릭스 주식회사
Priority to CN201580049450.2A priority Critical patent/CN106717007B/en
Priority to PCT/KR2015/006950 priority patent/WO2016017952A1/en
Priority to EP15827254.2A priority patent/EP3177024B1/en
Priority to JP2016575537A priority patent/JP2017529716A/en
Publication of KR20160015125A publication Critical patent/KR20160015125A/en
Priority to US15/420,030 priority patent/US10652591B2/en
Priority to KR1020210028265A priority patent/KR102384174B1/en
Application granted granted Critical
Publication of KR102225607B1 publication Critical patent/KR102225607B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/41Bandwidth or redundancy reduction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/222Secondary servers, e.g. proxy server, cable television Head-end
    • H04N21/2223Secondary servers, e.g. proxy server, cable television Head-end being a public access point, e.g. for downloading to or uploading from clients

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

Disclosed are a cloud streaming service system, a cloud streaming service method using a still image compression technique, and a device for the same. According to the present invention, the still image based cloud streaming service can be performed by the following steps of: determining an area of change in the current frame from the previous frame by comparing the current frame to the previous frame; capturing the changed area; and transmitting the same, which is encoded by the still image compression technique, to a user. As an appropriate still image compression technique is used for an image type when a cloud streaming service is offered, still image compression efficiency and cloud streaming service speed can be enhanced.

Description

클라우드 스트리밍 서비스 시스템, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF CLOUD STREAMING SERVICE USING STILL IMAGE COMPRESSION TECHNIQUE AND APPARATUS FOR THE SAME}TECHNICAL FIELD [0001] The present invention relates to a cloud streaming service system, a cloud streaming service system, and a cloud streaming service method using the still image compression method.

본 발명은 클라우드 스트리밍 서비스 시 이전 프레임 및 현재 프레임의 변화 영역에 대해서만 스틸 이미지 압축 기법을 적용하여 서비스 속도를 향상시킬 수 있는 클라우드 스트리밍 서비스 시스템, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치에 관한 것이다.The present invention relates to a cloud streaming service system capable of improving a service speed by applying a still image compression scheme only to a change area of a previous frame and a current frame in a cloud streaming service, a cloud streaming service method using a still image compression scheme, .

현대 인터넷의 급속한 발달로 인해 개인의 통신 속도는 급격하게 향상되었고, 이러한 통신 속도의 향상으로 원격지 컴퓨터에 접속하여 대용량의 데이터를 다운로드 또는 업로드 하거나, 원격지 컴퓨터 제어 프로그램을 사용하여 마치 원격지 컴퓨터에 로컬 로그인한 것과 같이 원격지 컴퓨터를 이용할 수 있는 환경이 조성되었다.Due to the rapid development of the modern Internet, the communication speed of an individual has been dramatically improved. As a result of this communication speed, it is possible to access or download a large amount of data by connecting to a remote computer, As a result, an environment where remote computers can be used has been established.

또한, 어플리케이션을 서버에서 구동시키고 구동화면은 비디오 인코딩(Encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면 가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있다.In addition, the application is driven on the server, the driving screen is compressed through video encoding and transmitted to the client, and the client reproduces the transmitted video to provide a screen virtualization Cloud streaming service is becoming popular.

이와 같은 클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법이 적용되었다. 그러나 메뉴 디스플레이와 같이 정적인 화면을 서비스 하는 경우에도 불필요하게 화면 전체를 캡처하고 비디오 코덱을 이용하여 동작하기 때문에 클라우드 스트리밍 서비스 시스템을 운영함에 있어서 비효율적인 부분이 존재하였다. This cloud streaming service basically adopts the cloud streaming method based on the video codec. However, even when a static screen such as a menu display is served, the entire screen is unnecessarily captured and operated using a video codec, which is inefficient in operating the cloud streaming service system.

한국 공개 특허 제10-2014-0027040호, 2014년 3월 6일 공개 (명칭: 적응 이미지 압축시스템 및 그 방법)Korean Patent Publication No. 10-2014-0027040, published on Mar. 6, 2014 (name: Adaptive Image Compression System and Method)

본 발명의 목적은, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 제공 시 이전 프레임 및 현재 프레임의 변화 영역에 대해서만 스틸 이미지 압축 기법을 적용함으로써, 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공하는 것이다.SUMMARY OF THE INVENTION It is an object of the present invention to provide a still image compression technique for only a change area of a previous frame and a current frame when providing a cloud streaming service using a still image compression technique, .

또한, 본 발명의 목적은 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 제공 시 이전 프레임 및 현재 프레임의 차분 프레임을 스캐닝(scanning)하여 변화 영역을 결정함으로써, 스틸 이미지 압축 대상을 보다 빠르게 검출하는 것이다.It is another object of the present invention to provide a cloud streaming service using a still image compression technique to detect a still image compression target more quickly by scanning a difference frame between a previous frame and a current frame to determine a change area.

상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하는 변화 영역 결정부; 상기 변화 영역을 캡처하는 캡처부; 스틸 이미지(still image) 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 인코딩부; 및 스틸 이미지 인코딩된 상기 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 센딩부를 포함한다.According to an aspect of the present invention, there is provided a cloud streaming server comprising: a change area determining unit for comparing a previous frame with a current frame to determine a change area of the current frame changed from the previous frame; A capturing unit capturing the change area; An encoding unit for still image encoding the change area corresponding to one frame using a still image compression scheme; And a sender for transmitting the still image-encoded change area to a user to perform a still image based cloud streaming service.

이 때, 변화 영역 결정부는 상기 이전 프레임 및 상기 현재 프레임의 차분 프레임을 산출하고, 상기 차분 프레임을 이용하여 상기 변화 영역을 결정할 수 있다.In this case, the change area determination unit may calculate a difference frame between the previous frame and the current frame, and may determine the change area using the difference frame.

이 때, 변화 영역 결정부는 상기 차분 프레임을 스캐닝(scanning)하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 픽셀을 감지하여 상기 변화 영역을 결정할 수 있다.In this case, the change area determination unit may scan the difference frame to detect the change pixel of the current frame changed from the previous frame, and determine the change area.

이 때, 변화 영역 결정부는 상기 차분 프레임을 수평 스캐닝(horizontal scanning) 및 수직 스캐닝(vertical scanning)하여 감지되는 변화 픽셀들을 포함하는 상기 변화 영역을 결정할 수 있다.At this time, the change area determination unit may determine the change area including the change pixels to be sensed by horizontal scanning and vertical scanning of the differential frame.

이 때, 변화 영역 결정부는 상기 차분 프레임의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제1 세로 좌표 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제2 세로 좌표 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제1 가로 좌표 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제2 가로 좌표 요소를 획득하고, 상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 좌표에 상응하는 변화 픽셀을 포함하는 직사각형 영역을 상기 변화 영역으로 결정할 수 있다.At this time, the change area determining unit obtains the first vertical coordinate element from the first detected change pixel by horizontally scanning in a row unit while moving downward from the upper end of the difference frame, The first horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in the column unit when the second vertical coordinate element is obtained from the first detected change pixel by scanning, And a second horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in a column unit while moving in the direction of the vertical coordinate element, A rectangular area including a change pixel corresponding to the change area It can be determined.

이 때, 변화 영역 결정부는 상기 변화 픽셀들을 포함하면서 최소 넓이를 가지는 직사각형 영역을 상기 변화 영역으로 결정할 수 있다.At this time, the change area determination unit may determine a rectangular area having the minimum width including the change pixels as the change area.

이 때, 변화 영역 결정부는 상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 네 좌표를 꼭지점으로 하는 직사각형 영역을 상기 변화 영역으로 결정할 수 있다.At this time, the change area determination unit may determine a rectangular area having vertexes of four coordinates, which are formed by pairing any one of the horizontal coordinate elements and the vertical coordinate elements as the change area.

또한, 본 발명에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은, 이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하는 단계; 상기 변화 영역을 캡처하는 단계; 스틸 이미지(still image) 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 단계; 및 스틸 이미지 인코딩된 상기 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 단계를 포함한다.According to another aspect of the present invention, there is provided a cloud streaming service method using a still image compression method, the method comprising: comparing a previous frame with a current frame to determine a change area of the current frame changed from the previous frame; Capturing the change area; Still image encoding the change area corresponding to one frame using a still image compression technique; And transmitting the still image encoded change region to a user to perform a still image based cloud streaming service.

이 때, 변화 영역을 결정하는 단계는 상기 이전 프레임 및 상기 현재 프레임의 차분 프레임을 산출하고, 상기 차분 프레임을 이용하여 상기 변화 영역을 결정할 수 있다.In this case, the step of determining a change area may calculate a difference frame between the previous frame and the current frame, and determine the change area using the difference frame.

이 때, 변화 영역을 결정하는 단계는 상기 차분 프레임을 스캐닝(scanning)하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 픽셀을 감지하여 상기 변화 영역을 결정할 수 있다.At this time, the step of determining the change area may scan the difference frame to detect the change pixel of the current frame changed from the previous frame, and determine the change area.

이 때, 변화 영역을 결정하는 단계는 상기 차분 프레임을 수평 스캐닝(horizontal scanning) 및 수직 스캐닝(vertical scanning)하여 감지되는 변화 픽셀들을 포함하는 상기 변화 영역을 결정할 수 있다.At this time, the step of determining a change area may determine the change area including change pixels that are sensed by horizontal scanning and vertical scanning of the differential frame.

이 때, 변화 영역을 결정하는 단계는 상기 차분 프레임의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제1 세로 좌표 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제2 세로 좌표 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제1 가로 좌표 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제2 가로 좌표 요소를 획득하고, 상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 좌표에 상응하는 변화 픽셀을 포함하는 직사각형 영역을 상기 변화 영역으로 결정할 수 있다.At this time, in the step of determining the change area, the first vertical coordinate element is obtained from the first detected change pixel by horizontally scanning in a row unit while going downward from the upper end of the difference frame, The first horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in the unit of the horizontal direction and the first horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in the column direction on the right side from the left end, A second horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in a column unit while moving in the left direction, and one of the horizontal coordinate elements and one of the vertical coordinate elements is paired A rectangle area including a change pixel corresponding to the coordinates to be formed is defined as the above- It can be determined by area.

이 때, 변화 영역을 결정하는 단계는 상기 변화 픽셀들을 포함하면서 최소 넓이를 가지는 직사각형 영역을 상기 변화 영역으로 결정할 수 있다.At this time, the step of determining a change area may determine a rectangular area having the minimum width including the change pixels as the change area.

이 때, 변화 영역을 결정하는 단계는 상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 네 좌표를 꼭지점으로 하는 직사각형 영역을 상기 변화 영역으로 결정할 수 있다.At this time, in the step of determining the change area, a rectangular area having vertexes of four coordinates constituted by a pair of any one of the abscissa elements and the ordinate elements may be determined as the change area .

본 발명에 따르면, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 제공 시 이전 프레임 및 현재 프레임의 변화 영역에 대해서만 스틸 이미지 압축 기법을 적용함으로써, 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공할 수 있다.According to the present invention, when providing a cloud streaming service using a still image compression scheme, a still image compression scheme is applied only to a change area of a previous frame and a current frame, thereby enabling a cloud streaming service .

또한, 본 발명은 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 제공 시 이전 프레임 및 현재 프레임의 차분 프레임을 스캐닝(scanning)하여 변화 영역을 결정함으로써, 스틸 이미지 압축 대상을 보다 빠르게 검출하는 클라우드 스트리밍 서비스를 제공할 수 있다.In addition, the present invention provides a cloud streaming service that detects a still image compression target more quickly by scanning a difference frame between a previous frame and a current frame to determine a change area when providing a cloud streaming service using a still image compression technique can do.

도 1은 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3은 클라우드 스트리밍 시스템의 일 예를 나타낸 도면이다.
도 4는 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스에서 변화 영역을 캡처하는 과정을 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스에서 변화 영역을 결정하는 과정을 나타낸 도면이다.
도 6은 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
1 is a block diagram illustrating a cloud streaming service system using a still image compression technique according to an embodiment of the present invention.
2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.
3 is a diagram illustrating an example of a cloud streaming system.
4 is a diagram illustrating a process of capturing a change area in a cloud streaming service using a still image compression technique according to an embodiment of the present invention.
5 is a diagram illustrating a process of determining a change area in a cloud streaming service using a still image compression technique according to an embodiment of the present invention.
FIG. 6 is a flowchart illustrating a cloud streaming service method using a still image compression technique according to an embodiment of the present invention.

이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description and the accompanying drawings, detailed description of well-known functions or constructions that may obscure the subject matter of the present invention will be omitted. It should be noted that the same constituent elements are denoted by the same reference numerals as possible throughout the drawings.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.The terms and words used in the present specification and claims should not be construed to be limited to ordinary or dictionary meanings and the inventor is not limited to the concept of terminology for describing his or her invention in the best way. It should be interpreted as meaning and concept consistent with the technical idea of the present invention. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention, and not all of the technical ideas of the present invention are described. Therefore, It is to be understood that equivalents and modifications are possible. Also, the terms first, second, etc. are used for describing various components and are used only for the purpose of distinguishing one component from another component, and are not used to define the components.

도 1은 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.1 is a block diagram illustrating a cloud streaming service system using a still image compression technique according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일실시예에 다른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 단말 장치들(120-1, …, 120-N) 및 네트워크(130)를 포함한다.1, a cloud streaming service system using a still image compression technique according to an exemplary embodiment of the present invention includes a cloud streaming server 110, terminal devices 120-1 to 120-N, ).

클라우드 스트리밍 서버(110)는 단말 장치들(120-1, …, 120-N)로부터 클라우드 스트리밍 서비스 요청을 받아 어플리케이션을 실행하고, 어플리케이션 실행 결과에 해당하는 실행 결과 화면을 단말 장치들(120-1, …, 120-N)에게 제공한다.The cloud streaming server 110 receives the cloud streaming service request from the terminal devices 120-1 to 120-N and executes the application. The cloud streaming server 110 transmits the execution result screen corresponding to the application execution result to the terminal devices 120-1 , ..., 120-N.

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법을 적용하기 때문에 메뉴 디스플레이와 같은 정적인 화면에 대해서 클라우드 스트리밍 기법을 적용하는 경우에도 불필요하게 화면 전체를 캡처하여 비디오 코덱으로 인코딩하는 비효율적인 방법으로 클라우드 스트리밍 서비스를 수행하였다. 이러한 문제점을 해결하기 위해 본 발명은 메뉴 디스플레이 화면과 같이 프레임간 변화가 크지 않은 경우에는 클라우드 스트리밍 서버가 프레임간 변화를 검출하고, 검출된 변화 영역만을 스틸 이미지 압축 기법으로 인코딩하는 클라우드 스트리밍 시스템을 제공한다.Since the cloud streaming service basically adopts the cloud streaming technique based on the video codec, even when the cloud streaming technique is applied to a static screen such as a menu display, an inefficient method of capturing an entire screen unnecessarily and encoding it into a video codec We performed cloud streaming service. In order to solve such a problem, the present invention provides a cloud streaming system in which a cloud streaming server detects a change between frames when a change between frames is not large as in a menu display screen, and encodes only the detected change region using a still image compression technique do.

클라우드 스트리밍 서버(110)는 이전 프레임과 현재 프레임을 비교하여 이전 프레임으로부터 변화된 현재 프레임의 변화 영역을 결정하고, 변화 영역을 캡처한다. 이 때, 단말 장치들(120-1, …, 120-N)로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. 이 때, 단말 장치들(120-1, …, 120-N)로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다.The cloud streaming server 110 compares the current frame with the previous frame to determine the change area of the current frame changed from the previous frame, and captures the change area. At this time, it is possible to detect a section in which a frame change is small in the entire frame to be transmitted to the terminal devices 120-1, ..., and 120-N, and capture the change area in a section in which the frame change is small. At this time, an event type of an application generated from the terminal devices 120-1, ..., and 120-N may be detected to detect an interval in which a frame change is small.

또한, 클라우드 스트리밍 서버(110)는 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다. 이 때, 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택할 수 있다. 이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하인 경우 변화 영역에 상응하는 이미지 화소값의 표준 편차를 고려하여 이미지 타입을 결정할 수 있다. 이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하이고, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 이미지 타입을 합성 이미지로 결정할 수 있다. 이 때, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 이 때, 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩할 수 있다.In addition, the cloud streaming server 110 selects a still image compression technique according to the determined image type in consideration of at least one of the color number of the image corresponding to the change area and the standard deviation of the image pixel value, A still image corresponding to one frame is still-encoded using a compression technique. At this time, the still image compression technique can be selected according to the image type of either the natural image or the synthetic image. At this time, if the number of colors of the image corresponding to the change area exceeds the preset reference number, the image type can be determined as the natural image. At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number, the image type can be determined in consideration of the standard deviation of the image pixel value corresponding to the change area. At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, the image type can be determined as the composite image. At this time, if the standard deviation of the image pixel value corresponding to the change area exceeds the predetermined reference value, the image type can be determined as the natural image. At this time, still image encoding of the change area can be performed using a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

또한, 클라우드 스트리밍 서버(110)는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다.In addition, the cloud streaming server 110 transmits a still image encoded changed area to a user to perform a still image based cloud streaming service.

단말 장치들(120-1, …, 120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하여 사용자에게 제공한다.The terminal devices 120-1 to 120-N receive an application execution result screen corresponding to the cloud streaming service from the cloud streaming server 110 and provide them to the user.

단말 장치들(120-1, …, 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말 장치들(120-1, …, 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.Each of the terminal devices 120-1 to 120-N is connected to a communication network and is capable of executing applications on the basis of a cloud computing system. The terminal devices 120-1 to 120-N are not limited to mobile communication terminals, Terminal, a fixed terminal, and an IP (Internet Protocol) terminal. Each of the terminal devices 120-1 to 120-N may be a mobile phone, a portable multimedia player (PMP), a mobile internet device (MID), a smart phone, a desktop, a tablet A mobile terminal having various mobile communication specifications such as a PC, a notebook, a netbook, a personal digital assistant (PDA), a smart TV, and an information communication device.

네트워크(130)는 클라우드 스트리밍 서버(110)및 단말 장치들(120-1, …, 120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말 장치들(120-1, …, 120-N) 사이에 사용되는 네트워크는 단말 장치들(120-1, …, 120-N) 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.The network 130 provides a path for transferring data between the cloud streaming server 110 and the terminal devices 120-1, ..., and 120-N. The network 130 includes both existing and future developable networks It is a comprehensive concept. For example, the network 130 may be a wired / wireless local area network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between mobile objects and mobile objects outside the mobile object, Or a wired / wireless communication network, or a combination of two or more. Meanwhile, the transmission scheme standard of the network 130 is not limited to the existing transmission scheme standard, and may include all transmission scheme standards to be developed in the future. 1, a network used between the cloud streaming server 110 and the terminal devices 120-1 to 120-N is used between the terminal devices 120-1 to 120-N It may or may not be the same as the network.

도 2는 도 1에 도시된 클라우드 스트리밍 서버(110)의 일 예를 나타낸 블록도이다.2 is a block diagram illustrating an example of the cloud streaming server 110 shown in FIG.

도 2를 참조하면, 도 1에 도시된 클라우드 스트리밍 서버(110)는 변화 영역 결정부(205), 캡처부(210), 인코딩부(220), 센딩부(230) 및 저장부(240)를 포함한다.2, the cloud streaming server 110 shown in FIG. 1 includes a change area determining unit 205, a capturing unit 210, an encoding unit 220, a sending unit 230, and a storage unit 240 .

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법을 적용하기 때문에 메뉴 디스플레이와 같은 정적인 화면에 대해서 클라우드 스트리밍 기법을 적용하는 경우에도 불필요하게 화면 전체를 캡처하여 비디오 코덱으로 인코딩하는 비효율적인 방법으로 클라우드 스트리밍 서비스를 수행하였다. 이러한 문제점을 해결하기 위해 본 발명은 메뉴 디스플레이 화면과 같이 프레임간 변화가 크지 않은 경우에는 클라우드 스트리밍 서버가 프레임간 변화를 검출하고, 검출된 변화 영역만을 스틸 이미지 압축 기법으로 인코딩하는 클라우드 스트리밍 서버(110)를 제공한다.Since the cloud streaming service basically adopts the cloud streaming technique based on the video codec, even when the cloud streaming technique is applied to a static screen such as a menu display, an inefficient method of capturing an entire screen unnecessarily and encoding it into a video codec We performed cloud streaming service. In order to solve such a problem, the present invention is characterized in that when a change between frames is not large as in a menu display screen, the cloud streaming server 110 detects a change between frames and encodes only the detected change region using a still image compression technique ).

변화 영역 결정부(205)는 이전 프레임과 현재 프레임을 비교하여 이전 프레임으로부터 변화된 현재 프레임의 변화 영역을 결정한다.The change area determination unit 205 determines a change area of the current frame that has changed from the previous frame by comparing the previous frame with the current frame.

비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말 장치에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the change between the frames on the screen on which the application operates is not large, the still image encoding is performed by capturing only the change area of the changed frame compared with the previous frame, and when displaying on the user's terminal device, And only the change area is changed.

이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 결정할 수 있다. 예를 들어 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역이 A 영역이라면, 변화된 프레임에 상응하는 화면 영역 중 A 영역만을 변화 영역으로 결정할 수 있다. 이러한 변화 영역은 사용자의 단말 장치에서 입력되는 입력 신호에 따라 사이즈나 변화 영역에 상응하는 이미지의 성질이 다양할 수 있다.At this time, the changed area can be determined as the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame. For example, if the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame is the A area, only the A area of the screen area corresponding to the changed frame can be determined as the changed area. Such a change area may vary in the nature of the image corresponding to the size or change area according to the input signal input from the terminal device of the user.

이 때, 이전 프레임 및 현재 프레임의 차분 프레임을 산출하고, 차분 프레임을 이용하여 변화 영역을 결정할 수 있다. 이 때, 차분 프레임을 스캐닝(scanning)하여 이전 프레임으로부터 변화된 현재 프레임의 변화 픽셀을 감지하여 변화 영역을 결정할 수 있다. 이 때, 차분 프레임을 수평 스캐닝(horizontal scanning) 및 수직 스캐닝(vertical scanning)하여 감지되는 변화 픽셀들을 포함하는 변화 영역을 결정할 수 있다. 예를 들어, 차분 프레임의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝(horizontal scanning)하여 변화 픽셀이 감지되는 경우, 해당 행에 상응하는 y0 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 변화 픽셀이 감지되는 경우, 해당 행에 상응하는 y1 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면서 열 단위로 수직 스캐닝(vertical scanning)하여 변화 픽셀이 감지되는 경우, 해당 열에 상응하는 x0 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 변화 픽셀이 감지되는 경우, 해당 열에 상응하는 x1 요소를 획득하여 (x0, y0), (x1, y0), (x1, y1) 및 (x0, y1), 네 픽셀을 꼭지점으로 하는 직사각형 영역을 변화 영역으로 결정할 수 있다.At this time, the difference frame between the previous frame and the current frame is calculated, and the change area can be determined using the difference frame. At this time, the difference frame can be scanned, and the change area can be determined by sensing the changed pixel of the current frame changed from the previous frame. At this time, it is possible to determine the change area including the changed pixels, which are detected by performing horizontal scanning and vertical scanning of the difference frame. For example, when a change pixel is sensed by horizontally scanning in a row unit by going downward from the top of a difference frame, a y0 element corresponding to the row is obtained, When a change pixel is sensed by a horizontal scanning unit, a y1 element corresponding to the corresponding row is acquired, and when a changed pixel is sensed by vertical scanning in units of columns while moving in the right direction from the left end, (X0, y0), (x1, y0), and (x1, y0) are obtained by obtaining the corresponding x0 element and vertically scanning in the unit of column while moving leftward from the right end, (x1, y1) and (x0, y1) and a rectangular area having four pixels as vertexes can be determined as the change area.

캡처부(210)는 변화 영역을 캡처한다. 이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. The capture unit 210 captures the change area. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small.

이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다. 예를 들어, 사용자의 단말 장치로부터 발생하는 입력신호에 따라 어플리케이션의 이벤트 유형이 결정될 수 있다. 입력신호에 따라 메뉴, 옵션, 안내 창과 같이 어플리케이션을 실행하였을 때 프레임의 변화가 적은 정적인 이벤트 또는 동영상 재생 및 게임 플레이와 같이 프레임이 자주 변하는 동적인 이벤트가 발생할 수 있다. 따라서, 사용자가 단말 장치를 통해 발생시키는 입력신호로 이벤트 유형을 감지하고, 이벤트 유형이 정적인 이벤트라면, 해당 이벤트에 상응하는 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출할 수 있다.At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected. For example, an event type of an application can be determined according to an input signal generated from a user's terminal device. Depending on the input signal, a static event with little frame change or a dynamic event with frequent frame changes such as video playback and game play may occur when an application such as a menu, option, or guide window is executed. Therefore, if the event type is a static event, the user detects an event type with an input signal generated through a terminal device, and can detect an interval in which a frame change is small in the entire frame corresponding to the event.

인코딩부(220)는 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다. 예를 들어, 캡처된 변화 영역의 이미지 타입이 하나의 사진이나 그림과 같은 타입이거나 또는 여러 개의 이미지가 합쳐져서 만들어진 이미지일 수 있기 때문에, 이미지 타입을 결정하고 각각의 이미지 타입에 적합한 스틸 이미지 압축 기법을 선택하여 스틸 이미지 인코딩을 수행함으로써 변화 영역의 압축 효율을 상승시킬 수 있다.The encoding unit 220 selects a still image compression scheme according to an image type determined by considering at least one of a color number of an image corresponding to the change area and a standard deviation of an image pixel value, To still image encode the change area corresponding to one frame. For example, since the image type of the captured change area may be a type such as a picture, a picture, or an image formed by combining several images, the image type is determined and a still image compression technique suitable for each image type It is possible to increase the compression efficiency of the change area by performing the still image encoding.

이 때, 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택할 수 있다. 자연 이미지는 자연적으로 발생한 객체의 이미지를 의미할 수 있다. 예를 들어, 하나의 사진이나 그림과 같은 광학 이미지뿐 아니라 엑스레이와 적외선 같은 다른 파장의 이미지들을 의미할 수도 있다. 합성 이미지는 자연 이미지와 다르게 컴퓨터나 인위적 수단을 통해 생성되거나 합성된 이미지를 의미할 수 있다. At this time, the still image compression technique can be selected according to the image type of either the natural image or the synthetic image. A natural image can mean an image of a naturally occurring object. For example, it may refer to optical images such as a photograph or a picture, as well as images of other wavelengths such as x-rays and infrared rays. Composite images can mean images created or synthesized through computer or artificial means, unlike natural images.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 자연 이미지의 경우 자연적으로 발생한 객체에 대한 이미지일 수 있기 때문에, 이미지를 표현하는 컬러에 적용된 명도와 채도의 변화가 합성 이미지보다 정교할 수 있다. 따라서, 자연 이미지를 나타내기 위해 구성된 화소들이 표현하는 컬러의 개수가 합성 이미지보다 다양할 수 있기 때문에, 변화 영역에 상응하는 이미지의 컬러 개수를 고려하여 변화 영역에 상응하는 이미지 타입을 결정할 수 있다. 예를 들어, 기설정된 기준 개수를 10만개라고 설정하였다면, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개를 초과하는 경우에는 이미지 타입을 자연 이미지로 결정하고, 10만개 이하인 경우에는 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area exceeds the preset reference number, the image type can be determined as the natural image. Since the natural image may be an image of a naturally occurring object, the change in brightness and saturation applied to the color representing the image may be more sophisticated than the composite image. Therefore, since the number of colors represented by the pixels constituting the natural image may be more varied than the composite image, the image type corresponding to the change area can be determined by considering the number of colors of the image corresponding to the change area. For example, if the preset reference number is set at 100,000, if the number of colors constituting the image corresponding to the change area exceeds 100,000, the image type is determined as a natural image. If the number of colors is less than 100,000, The type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하인 경우 변화 영역에 상응하는 이미지 화소값의 표준 편차를 고려하여 이미지 타입을 결정할 수 있다. 화소값의 표준 편차는 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도일 수 있다. 만약 컬러값의 분포도가 0이라면 모든 컬러가 같은 값이라는 의미일 수 있기 때문에, 컬러값의 분포도, 즉 화소값의 표준 편차가 작다는 것은 이미지를 구성하는 컬러의 개수가 적다는 의미와 상통할 수 있다. 따라서, 이와 같은 이미지 화소값의 표준 편차를 고려하여 변화 영역에 상응하는 이미지의 이미지 타입을 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number, the image type can be determined in consideration of the standard deviation of the image pixel value corresponding to the change area. The standard deviation of the pixel value may be a distribution of color values represented by pixels constituting the image corresponding to the change area. If the distribution of the color values is 0, it means that all the colors are the same value. Therefore, the distribution of the color values, that is, the standard deviation of the pixel values is small means that the number of colors constituting the image is small have. Therefore, the image type of the image corresponding to the change area can be determined in consideration of the standard deviation of the image pixel value.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하이고, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 이미지 타입을 합성 이미지로 결정할 수 있다. 예를 들어, 이미지의 컬러 개수에 대해서 기설정된 기준 개수가 10만개이고, 이미지 화소값의 표준 편차에 대해 기설정된 기준 값이 N이라고 가정할 수 있다. 이 때, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개 이하이면서, 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도가 N보다 작은 값일 경우 변화 영역에 상응하는 이미지의 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, the image type can be determined as the composite image. For example, it can be assumed that a preset reference number is 100,000 for the number of colors of an image, and a predetermined reference value is N for a standard deviation of image pixel values. At this time, if the number of colors constituting the image corresponding to the change area is 100,000 or less and the distribution of the color values represented by the pixels constituting the image corresponding to the change area is a value smaller than N, The image type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 예를 들어, 변화 영역을 상응하는 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면 그만큼 이미지를 구성하는 컬러의 개수가 많다는 의미일 수 있다. 따라서, 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면, 변화 영역에 상응하는 이미지가 많은 컬러로 구성된 자연 이미지라고 판단할 수 있다.At this time, if the standard deviation of the image pixel value corresponding to the change area exceeds the predetermined reference value, the image type can be determined as the natural image. For example, if the standard deviation of the corresponding image pixel value exceeds the preset reference value, it means that the number of colors constituting the image is large. Therefore, if the standard deviation of the image pixel value exceeds the preset reference value, it can be determined that the natural image is composed of a large number of colors corresponding to the change area.

이 때, 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩할 수 있다. At this time, still image encoding of the change area can be performed using a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송 망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있는 기법이며, JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있는 기법이다. 또한, JPEG 스틸 이미지 압축 기법은 한 픽셀 주위에 서로 비슷한 색이 모여 있는 자연 이미지를 압축하였을 때 압축 효율이 더 효과적일 수 있다. 따라서, 변화 영역에 상응하는 이미지 타입이 자연 이미지인 경우에는 JPEG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다. The PNG still image compression technique is a technique in which the image quality is good when encoding, but the transmission speed may be lowered when the bandwidth of the transmission network is low due to a large data size. The JPEG still image compression technique has a high compression efficiency, However, since the compression efficiency is high, it is a technique that can generate a large system load when performing encoding and decoding. In addition, the JPEG still image compression technique may be more effective in compressing a natural image in which similar colors are gathered around one pixel. Therefore, if the image type corresponding to the change area is a natural image, the change area can be encoded by the JPEG still image compression technique.

또한, 변화 영역이 합성 이미지인 경우에는 JPEG 스틸 이미지 압축 기법을 사용하더라도 자연 이미지처럼 압축 효율을 기대하기 어려울 수 있다. 따라서, 변화 영역에 상응하는 이미지의 이미지 타입이 합성 이미지인 경우에는 이미지의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역의 스틸 이미지 인코딩을 수행할 수 있다.Also, when the change area is a composite image, it may be difficult to expect a compression efficiency like a natural image even if a JPEG still image compression technique is used. Accordingly, when the image type of the image corresponding to the change area is the composite image, the still image encoding of the change area can be performed by selecting the PNG still image compression technique that can enhance the image quality of the image.

또한, 변화 영역이 합성 이미지이고 변화 영역의 사이즈가 커서 데이터가 큰 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG(portable network graphics) 스틸 이미지 압축 기법을 이용하여 변화 영역을 인코딩할 수 있다. 팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다.In addition, if the change area is a composite image and the size of the change area is large, the change area can be encoded using a portable network graphics (PNG) still image compression technique that can reduce the data size. PALETED PNG still image compression techniques can reduce the data size of the image during encoding, which can guarantee the transmission speed, but it can cause deterioration in image quality because it expresses color with 8 bits.

센딩부(230)는 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다. 인코딩을 완료함으로써 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.The sending unit 230 transmits the still image encoded changed area to the user to perform a still image based cloud streaming service. By transmitting the compressed change area to the terminal device of the user by completing the encoding, the user can perform the cloud streaming service so as to receive the feeling of running the application on the terminal device of the user.

저장부(240)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.The storage unit 240 stores various information generated in the cloud streaming service process according to the embodiment of the present invention, as described above.

실시예에 따라, 저장부(240)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(240)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.According to an embodiment, the storage unit 240 may be configured independently of the cloud streaming server 110 to support a function for the cloud streaming service. At this time, the storage unit 240 may operate as a separate mass storage and may include a control function for performing operations.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.In addition, the cloud streaming server 110 configured as described above may be implemented as one or more servers.

한편, 클라우드 스트리밍 서버(110)는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.On the other hand, the cloud streaming server 110 can store information in the memory on which the memory is mounted. In one implementation, the memory is a computer-readable medium. In one implementation, the memory may be a volatile memory unit, and in other embodiments, the memory may be a non-volatile memory unit. In one implementation, the storage device is a computer-readable medium. In various different implementations, the storage device may include, for example, a hard disk device, an optical disk device, or any other mass storage device.

도 3은 클라우드 스트리밍 시스템의 일 예를 나타낸 도면이다.3 is a diagram illustrating an example of a cloud streaming system.

도 3을 참조하면, 서버(310)에서는 사용자의 단말 장치로부터 발생되는 사용자 입력(User Input)에 상응하는 프로그램 화면(310)을 실행시켜 캡처(Screen Capture)를 수행할 수 있다. 이 때, 서버(300)는 클라우드 스트리밍 서버와 웹 어플리케이션 서버를 통칭하는 서버일 수 있다. 또한, 프로그램 화면(310)을 실행시켜 캡처(Screen Capture)를 수행하는 과정은 도 2에 도시된 캡처부(210)의 동작 흐름과 상응할 수 있다. Referring to FIG. 3, the server 310 may perform a screen capture by executing a program screen 310 corresponding to a user input generated from a user terminal. In this case, the server 300 may be a server collectively referred to as a cloud streaming server and a web application server. In addition, the process of executing the screen capture by executing the program screen 310 may correspond to the operation flow of the capture unit 210 shown in FIG.

서버(300)는 캡처(Screen Capture)된 프로그램 화면(310)을 스틸 이미지 압축 기법을 통해 인코딩(Image Encoding)(320)할 수 있다. 이 때, 인코딩 (Image Encoding)(320)을 수행하는 과정은 도 2에 도시된 인코딩부(220)의 동작 흐름과 상응할 수 있다.The server 300 may encode the screen 310 of the screen-captured program through a still image compression technique. At this time, the process of performing the encoding (Image Encoding) 320 may correspond to the operation flow of the encoding unit 220 shown in FIG.

이 때, 이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역만을 캡처할 수 있다. 또한, 변화된 영역의 이미지 타입을 고려하여 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법으로 변화된 영역을 인코딩할 수 있다.At this time, the previous frame and the current frame may be compared and only the changed area of the current frame changed from the previous frame may be captured. In addition, the still image compression scheme of PNG (portable network graphics) and JPEG (joint image experts group) may be selected in consideration of the image type of the changed area, and the changed area may be encoded using the selected still image compression scheme.

이 후, 서버(300)는 스틸 이미지 인코딩된 변화된 영역을 사용자의 단말 장치로 스트리밍(Streaming)(330)하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 제공할 수 있다. 이 때, 스트리밍(Streaming)(330)을 수행하는 과정은 도 2에 도시된 센딩부(230)의 동작 흐름과 상응할 수 있다.Thereafter, the server 300 may provide a still image-based cloud streaming service by streaming 330 the still image-encoded changed area to the user's terminal device. At this time, the process of performing the streaming 330 may correspond to the operation flow of the sending unit 230 shown in FIG.

이 후, 사용자의 단말 장치에서는 수신한 데이터를 렌더링(Image Rendering)(340)함으로써 사용자 입력(User Input)에 의해 어플리케이션에서 실행된 프로그램 화면(310)이 마치 사용자의 단말 장치에서 실행된 것처럼 사용자에게 디스플레이 할 수 있다.Thereafter, the user's terminal device renders the received data (Image Rendering) 340 so that the program screen 310 executed in the application by the user input (User Input) is displayed to the user Can be displayed.

도 4는 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스에서 변화 영역을 캡처하는 과정을 나타낸 도면이다.4 is a diagram illustrating a process of capturing a change area in a cloud streaming service using a still image compression technique according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스는 첫번째 프레임(410)과 두번째 프레임(420)을 비교하여 변화된 변화 영역(430)만을 캡처하여 인코딩할 수 있다.4, in the cloud streaming service using the still image compression method according to an embodiment of the present invention, only the changed change area 430 can be captured and encoded by comparing the first frame 410 and the second frame 420 have.

예를 들어, 첫번째 프레임(410)과 두번째 프레임(420)에서 B, C, D 및 E의 영역을 메뉴 디스플레이라고 가정하였을 때, 첫번째 프레임(410)에서는 C 영역에 커서가 위치함으로써 C 영역이 다른 B, D, 및 E 영역과 구별될 수 있도록 음영처리 되었고, 두번째 프레임(420)에서는 C 영역에서 E 영역으로 커서가 이동함으로써 E 영역이 다른 B, C 및 D 영역과 구별될 수 있도록 음영처리 될 수 있다.For example, assuming that the areas of B, C, D and E in the first frame 410 and the second frame 420 are menu displays, in the first frame 410, the cursor is positioned in the C area, The second frame 420 is shaded so that it can be distinguished from the B, D, and E regions, and in the second frame 420 the cursor is moved from the C region to the E region so that the E region can be distinguished from other B, .

이 때, 첫번째 프레임(410)과 두번째 프레임(420)을 비교하였을 때 변화된 영역인 C와 E 영역을 포함하는 직사각형 영역(C, D 및 E)만을 변화 영역(430)으로 캡처할 수 있다. 또한, 변화 영역(430)의 사이즈와 변화 영역(430)에 상응하는 이미지 성질을 고려하여 스틸 이미지 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법을 이용하여 변화 영역(430)을 인코딩할 수 있다.At this time, when the first frame 410 and the second frame 420 are compared, only the rectangular regions C, D, and E including the changed regions C and E can be captured in the change region 430. Also, the still image compression method may be selected in consideration of the size of the change area 430 and the image characteristics corresponding to the change area 430, and the change area 430 may be encoded using the selected still image compression technique.

이와 같이 첫번째 프레임(410)과 두번째 프레임(420)은 분명 변화가 있는 프레임으로 기존의 클라우드 스트리밍 서비스 시에는 두 프레임을 포함하여 프레임 레이트에 상응하는 수의 프레임들을 모두 캡처하여 인코딩을 수행해야 할 수 있다. 하지만 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스는 변화 영역(430)만을 캡처하여 스틸 이미지 압축 기법으로 인코딩하기 때문에, 불필요하게 많은 프레임과 프레임의 화면 전체를 캡처하는 기존의 클라우드 스트리밍 서비스 방법보다 서비스의 효율성을 향상시킬 수 있다.Thus, in the conventional cloud streaming service, the first frame 410 and the second frame 420 must be clearly changed. In the conventional cloud streaming service, it is necessary to capture and encode all the frames corresponding to the frame rate including two frames have. However, since the cloud streaming service using the still image compression technique captures only the change area 430 and encodes the change area 430 using the still image compression technique, the efficiency of the service is lower than that of the conventional cloud streaming service method, which captures the entire screen of unnecessary frames and frames. Can be improved.

도 5는 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스에서 변화 영역을 결정하는 과정을 나타낸 도면이다.5 is a diagram illustrating a process of determining a change area in a cloud streaming service using a still image compression technique according to an embodiment of the present invention.

도 5를 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스는 첫번째 프레임(410) 및 두번째 프레임(420)의 차분 프레임(510)을 이용하여 변화 픽셀들을 포함하면서 최소 넓이를 가지는 직사각형 영역을 변화 영역(430)을 결정한다.Referring to FIG. 5, a cloud streaming service using a still image compression technique according to an embodiment of the present invention includes changing pixels 510 using a first frame 410 and a second frame 420, The change area 430 is determined as a rectangular area having a width.

예를 들어, 차분 프레임(510)의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝(horizontal scanning)하여 변화 픽셀이 감지되는 경우, 해당 행에 상응하는 y0 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 변화 픽셀이 감지되는 경우, 해당 행에 상응하는 y1 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면서 열 단위로 수직 스캐닝(vertical scanning)하여 변화 픽셀이 감지되는 경우, 해당 열에 상응하는 x0 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 변화 픽셀이 감지되는 경우, 해당 열에 상응하는 x1 요소를 획득하여 (x0, y0), (x1, y0), (x1, y1) 및 (x0, y1), 네 픽셀을 꼭지점으로 하는 직사각형 영역을 변화 영역(430)으로 결정할 수 있다.For example, when a change pixel is sensed by horizontally scanning in a row unit by going downward from the upper end of the difference frame 510, a y0 element corresponding to the corresponding row is obtained, When a pixel is horizontally scanned on a row-by-row basis to detect a change pixel, a y1 element corresponding to the row is obtained, and when a change pixel is detected by vertically scanning in a column unit while moving in the right direction from the left end (X0, y0) corresponding to the corresponding column is obtained (x0, y0), and when the changing pixel is sensed by vertically scanning in the column unit while moving in the left direction from the right end, y0), (x1, y1) and (x0, y1) and a rectangular area having four pixels as vertexes can be determined as the change area 430.

도 6은 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.FIG. 6 is a flowchart illustrating a cloud streaming service method using a still image compression technique according to an embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은 이전 프레임과 현재 프레임을 비교하여 이전 프레임으로부터 변화된 현재 프레임의 변화 영역을 결정한다(S605).Referring to FIG. 6, in a cloud streaming service method using a still image compression method according to an embodiment of the present invention, a change area of a current frame changed from a previous frame is determined by comparing a previous frame and a current frame (S605).

비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말 장치에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the change between the frames on the screen on which the application operates is not large, the still image encoding is performed by capturing only the change area of the changed frame compared with the previous frame, and when displaying on the user's terminal device, And only the change area is changed.

이 때, 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역을 변화 영역으로 결정할 수 있다. 예를 들어 변화된 프레임에 상응하는 화면 영역 중 이전 프레임에 상응하는 화면 영역과 비교하여 변화된 영역이 A 영역이라면, 변화된 프레임에 상응하는 화면 영역 중 A 영역만을 변화 영역으로 결정할 수 있다. 이러한 변화 영역은 사용자의 단말 장치에서 입력되는 입력 신호에 따라 사이즈나 변화 영역에 상응하는 이미지의 성질이 다양할 수 있다.At this time, the changed area can be determined as the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame. For example, if the changed area compared with the screen area corresponding to the previous frame among the screen areas corresponding to the changed frame is the A area, only the A area of the screen area corresponding to the changed frame can be determined as the changed area. Such a change area may vary in the nature of the image corresponding to the size or change area according to the input signal input from the terminal device of the user.

이 때, 이전 프레임 및 현재 프레임의 차분 프레임을 산출하고, 차분 프레임을 이용하여 변화 영역을 결정할 수 있다. 이 때, 차분 프레임을 스캐닝(scanning)하여 이전 프레임으로부터 변화된 현재 프레임의 변화 픽셀을 감지하여 변화 영역을 결정할 수 있다. 이 때, 차분 프레임을 수평 스캐닝(horizontal scanning) 및 수직 스캐닝(vertical scanning)하여 감지되는 변화 픽셀들을 포함하는 변화 영역을 결정할 수 있다. 예를 들어, 차분 프레임의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝(horizontal scanning)하여 변화 픽셀이 감지되는 경우, 해당 행에 상응하는 y0 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 변화 픽셀이 감지되는 경우, 해당 행에 상응하는 y1 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면서 열 단위로 수직 스캐닝(vertical scanning)하여 변화 픽셀이 감지되는 경우, 해당 열에 상응하는 x0 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 변화 픽셀이 감지되는 경우, 해당 열에 상응하는 x1 요소를 획득하여 (x0, y0), (x1, y0), (x1, y1) 및 (x0, y1), 네 픽셀을 꼭지점으로 하는 직사각형 영역을 변화 영역으로 결정할 수 있다.At this time, the difference frame between the previous frame and the current frame is calculated, and the change area can be determined using the difference frame. At this time, the difference frame can be scanned, and the change area can be determined by sensing the changed pixel of the current frame changed from the previous frame. At this time, it is possible to determine the change area including the changed pixels, which are detected by performing horizontal scanning and vertical scanning of the difference frame. For example, when a change pixel is sensed by horizontally scanning in a row unit by going downward from the top of a difference frame, a y0 element corresponding to the row is obtained, When a change pixel is sensed by a horizontal scanning unit, a y1 element corresponding to the corresponding row is acquired, and when a changed pixel is sensed by vertical scanning in units of columns while moving in the right direction from the left end, (X0, y0), (x1, y0), and (x1, y0) are obtained by obtaining the corresponding x0 element and vertically scanning in the unit of column while moving leftward from the right end, (x1, y1) and (x0, y1) and a rectangular area having four pixels as vertexes can be determined as the change area.

또한, 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은 변화 영역을 캡처한다(S610).In addition, the cloud streaming service method using the still image compression technique according to an embodiment of the present invention captures the change area (S610).

이 때, 사용자의 단말 장치로 전송될 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출하고, 프레임 변화가 적은 구간에서 변화 영역을 캡처할 수 있다. At this time, a section in which a frame change is small in the entire frame to be transmitted to the user terminal device is detected, and the change area can be captured in a section in which the frame change is small.

이 때, 사용자의 단말 장치로부터 발생하는 어플리케이션의 이벤트 유형을 감지하여 프레임 변화가 적은 구간을 검출할 수 있다. 예를 들어, 사용자의 단말 장치로부터 발생하는 입력신호에 따라 어플리케이션의 이벤트 유형이 결정될 수 있다. 입력신호에 따라 메뉴, 옵션, 안내 창과 같이 어플리케이션을 실행하였을 때 프레임의 변화가 적은 정적인 이벤트 또는 동영상 재생 및 게임 플레이와 같이 프레임이 자주 변하는 동적인 이벤트가 발생할 수 있다. 따라서, 사용자가 단말 장치를 통해 발생시키는 입력신호로 이벤트 유형을 감지하고, 이벤트 유형이 정적인 이벤트라면, 해당 이벤트에 상응하는 프레임 전체 구간 중 프레임 변화가 적은 구간을 검출할 수 있다.At this time, an event type of the application generated from the user's terminal device is detected, and a section in which a frame change is small can be detected. For example, an event type of an application can be determined according to an input signal generated from a user's terminal device. Depending on the input signal, a static event with little frame change or a dynamic event with frequent frame changes such as video playback and game play may occur when an application such as a menu, option, or guide window is executed. Therefore, if the event type is a static event, the user detects an event type with an input signal generated through a terminal device, and can detect an interval in which a frame change is small in the entire frame corresponding to the event.

또한, 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩한다(S620). 예를 들어, 캡처된 변화 영역의 이미지 타입이 하나의 사진이나 그림과 같은 타입이거나 또는 여러 개의 이미지가 합쳐져서 만들어진 이미지일 수 있기 때문에, 이미지 타입을 결정하고 각각의 이미지 타입에 적합한 스틸 이미지 압축 기법을 선택하여 스틸 이미지 인코딩을 수행함으로써 변화 영역의 압축 효율을 상승시킬 수 있다.The cloud streaming service method using the still image compression method according to an exemplary embodiment of the present invention may include a still image processing method according to an image type determined by considering at least one of a color number of an image corresponding to a change area and a standard deviation of an image pixel value, still image compression method is selected, and the still image corresponding to one frame is still image encoded using the still image compression method (S620). For example, since the image type of the captured change area may be a type such as a picture, a picture, or an image formed by combining several images, the image type is determined and a still image compression technique suitable for each image type It is possible to increase the compression efficiency of the change area by performing the still image encoding.

이 때, 자연 이미지(natural image) 및 합성 이미지(synthetic image) 중 어느 하나의 이미지 타입에 따라 스틸 이미지 압축 기법을 선택할 수 있다. 자연 이미지는 자연적으로 발생한 객체의 이미지를 의미할 수 있다. 예를 들어, 하나의 사진이나 그림과 같은 광학 이미지뿐 아니라 엑스레이와 적외선 같은 다른 파장의 이미지들을 의미할 수도 있다. 합성 이미지는 자연 이미지와 다르게 컴퓨터나 인위적 수단을 통해 생성되거나 합성된 이미지를 의미할 수 있다.At this time, the still image compression technique can be selected according to the image type of either the natural image or the synthetic image. A natural image can mean an image of a naturally occurring object. For example, it may refer to optical images such as a photograph or a picture, as well as images of other wavelengths such as x-rays and infrared rays. Composite images can mean images created or synthesized through computer or artificial means, unlike natural images.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수를 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 자연 이미지의 경우 자연적으로 발생한 객체에 대한 이미지일 수 있기 때문에, 이미지를 표현하는 컬러에 적용된 명도와 채도의 변화가 합성 이미지보다 정교할 수 있다. 따라서, 자연 이미지를 나타내기 위해 구성된 화소들이 표현하는 컬러의 개수가 합성 이미지보다 다양할 수 있기 때문에, 변화 영역에 상응하는 이미지의 컬러 개수를 고려하여 변화 영역에 상응하는 이미지 타입을 결정할 수 있다. 예를 들어, 기설정된 기준 개수를 10만개라고 설정하였다면, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개를 초과하는 경우에는 이미지 타입을 자연 이미지로 결정하고, 10만개 이하인 경우에는 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area exceeds the preset reference number, the image type can be determined as the natural image. Since the natural image may be an image of a naturally occurring object, the change in brightness and saturation applied to the color representing the image may be more sophisticated than the composite image. Therefore, since the number of colors represented by the pixels constituting the natural image may be more varied than the composite image, the image type corresponding to the change area can be determined by considering the number of colors of the image corresponding to the change area. For example, if the preset reference number is set at 100,000, if the number of colors constituting the image corresponding to the change area exceeds 100,000, the image type is determined as a natural image. If the number of colors is less than 100,000, The type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하인 경우 변화 영역에 상응하는 이미지 화소값의 표준 편차를 고려하여 이미지 타입을 결정할 수 있다. 화소값의 표준 편차는 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도일 수 있다. 만약 컬러값의 분포도가 0이라면 모든 컬러가 같은 값이라는 의미일 수 있기 때문에, 컬러값의 분포도, 즉 화소값의 표준 편차가 작다는 것은 이미지를 구성하는 컬러의 개수가 적다는 의미와 상통할 수 있다. 따라서, 이와 같은 이미지 화소값의 표준 편차를 고려하여 변화 영역에 상응하는 이미지의 이미지 타입을 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number, the image type can be determined in consideration of the standard deviation of the image pixel value corresponding to the change area. The standard deviation of the pixel value may be a distribution of color values represented by pixels constituting the image corresponding to the change area. If the distribution of the color values is 0, it means that all the colors are the same value. Therefore, the distribution of the color values, that is, the standard deviation of the pixel values is small means that the number of colors constituting the image is small have. Therefore, the image type of the image corresponding to the change area can be determined in consideration of the standard deviation of the image pixel value.

이 때, 변화 영역에 상응하는 이미지의 컬러 개수가 기설정된 기준 개수 이하이고, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값 이하인 경우 이미지 타입을 합성 이미지로 결정할 수 있다. 예를 들어, 이미지의 컬러 개수에 대해서 기설정된 기준 개수가 10만개이고, 이미지 화소값의 표준 편차에 대해 기설정된 기준 값이 N이라고 가정할 수 있다. 이 때, 변화 영역에 상응하는 이미지를 구성하는 컬러의 개수가 10만개 이하이면서, 변화 영역에 상응하는 이미지를 구성하는 화소들이 나타내는 컬러값의 분포도가 N보다 작은 값일 경우 변화 영역에 상응하는 이미지의 이미지 타입을 합성 이미지로 결정할 수 있다.At this time, if the number of colors of the image corresponding to the change area is equal to or less than the preset reference number and the standard deviation of the image pixel value corresponding to the change area is equal to or less than a preset reference value, the image type can be determined as the composite image. For example, it can be assumed that a preset reference number is 100,000 for the number of colors of an image, and a predetermined reference value is N for a standard deviation of image pixel values. At this time, if the number of colors constituting the image corresponding to the change area is 100,000 or less and the distribution of the color values represented by the pixels constituting the image corresponding to the change area is a value smaller than N, The image type can be determined as a composite image.

이 때, 변화 영역에 상응하는 이미지 화소값의 표준 편차가 기설정된 기준 값을 초과하는 경우 이미지 타입을 자연 이미지로 결정할 수 있다. 예를 들어, 변화 영역을 상응하는 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면 그만큼 이미지를 구성하는 컬러의 개수가 많다는 의미일 수 있다. 따라서, 이미지 화소값의 표준 편차가 기설정된 기준값을 초과한다면, 변화 영역에 상응하는 이미지가 많은 컬러로 구성된 자연 이미지라고 판단할 수 있다.At this time, if the standard deviation of the image pixel value corresponding to the change area exceeds the predetermined reference value, the image type can be determined as the natural image. For example, if the standard deviation of the corresponding image pixel value exceeds the preset reference value, it means that the number of colors constituting the image is large. Therefore, if the standard deviation of the image pixel value exceeds the preset reference value, it can be determined that the natural image is composed of a large number of colors corresponding to the change area.

이 때, 이미지 타입에 따라 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나의 스틸 이미지 압축 기법을 이용하여 변화 영역을 스틸 이미지 인코딩할 수 있다.At this time, still image encoding of the change area can be performed using a still image compression technique of PNG (portable network graphics) and JPEG (joint image experts group) according to the image type.

PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송 망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있는 기법이며, JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있는 기법이다. 또한, JPEG 스틸 이미지 압축 기법은 한 픽셀 주위에 서로 비슷한 색이 모여 있는 자연 이미지를 압축하였을 때 압축 효율이 더 효과적일 수 있다. 따라서, 변화 영역에 상응하는 이미지 타입이 자연 이미지인 경우에는 JPEG 스틸 이미지 압축 기법으로 변화 영역을 인코딩할 수 있다. The PNG still image compression technique is a technique in which the image quality is good when encoding, but the transmission speed may be lowered when the bandwidth of the transmission network is low due to a large data size. The JPEG still image compression technique has a high compression efficiency, However, since the compression efficiency is high, it is a technique that can generate a large system load when performing encoding and decoding. In addition, the JPEG still image compression technique may be more effective in compressing a natural image in which similar colors are gathered around one pixel. Therefore, if the image type corresponding to the change area is a natural image, the change area can be encoded by the JPEG still image compression technique.

또한, 변화 영역이 합성 이미지인 경우에는 JPEG 스틸 이미지 압축 기법을 사용하더라도 자연 이미지처럼 압축 효율을 기대하기 어려울 수 있다. 따라서, 변화 영역에 상응하는 이미지의 이미지 타입이 합성 이미지인 경우에는 이미지의 화질을 높일 수 있는 PNG 스틸 이미지 압축 기법을 선택하여 변화 영역의 스틸 이미지 인코딩을 수행할 수 있다.Also, when the change area is a composite image, it may be difficult to expect a compression efficiency like a natural image even if a JPEG still image compression technique is used. Accordingly, when the image type of the image corresponding to the change area is the composite image, the still image encoding of the change area can be performed by selecting the PNG still image compression technique that can enhance the image quality of the image.

또한, 변화 영역이 합성 이미지이고 변화 영역의 사이즈가 커서 데이터가 큰 경우에는 데이터의 크기를 줄일 수 있는 팔렛티드 PNG(portable network graphics) 스틸 이미지 압축 기법을 이용하여 변화 영역을 인코딩할 수 있다. 팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다.In addition, if the change area is a composite image and the size of the change area is large, the change area can be encoded using a portable network graphics (PNG) still image compression technique that can reduce the data size. PALETED PNG still image compression techniques can reduce the data size of the image during encoding, which can guarantee the transmission speed, but it can cause deterioration in image quality because it expresses color with 8 bits.

또한, 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다(S630). 인코딩을 완료함으로써 압축된 변화 영역을 사용자의 단말 장치로 전송함으로써, 사용자의 단말 장치에서 어플리케이션을 실행되는 느낌을 받을 수 있도록 클라우드 스트리밍 서비스를 수행할 수 있다.In addition, the cloud streaming service method using the still image compression method according to an embodiment of the present invention transmits a still image encoded changed region to a user to perform a still image based cloud streaming service (S630). By transmitting the compressed change area to the terminal device of the user by completing the encoding, the user can perform the cloud streaming service so as to receive the feeling of running the application on the terminal device of the user.

또한, 도 5에는 도시하지 아니하였으나 본 발명의 일실시예에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.Also, although not shown in FIG. 5, the cloud streaming service method using the still image compression method according to an embodiment of the present invention stores various information generated in the cloud streaming service process according to an embodiment of the present invention.

본 발명에 따른 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The cloud streaming service method using the still image compression technique according to the present invention can be implemented in the form of a program command that can be executed through various computer means and recorded in a computer readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and configured for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Includes all types of hardware devices that are specially configured to store and execute magneto-optical media and program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions may include machine language code such as those generated by a compiler, as well as high-level language code that may be executed by a computer using an interpreter or the like. Such a hardware device may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.As described above, the cloud streaming service system according to the present invention, the cloud streaming service method using the still image compression method, and the apparatus therefor are not limited to the configuration and method of the embodiments described above, The embodiments may be configured such that all or some of the embodiments are selectively combined so that various modifications can be made.

본 발명에 의하면 이전 프레임 및 현재 프레임의 차분 프레임을 이용하여 변화 픽셀들을 포함하면서 최소 넓이를 가지는 직사각형 영역을 변화 영역으로 결정하여 캡처하고, 변화 영역에 상응하는 이미지의 컬러 개수 및 이미지 화소값의 표준 편차 중 하나 이상을 고려하여 결정한 이미지 타입에 따라 스틸 이미지(still image) 압축 기법을 선택하고, 선택한 스틸 이미지 압축 기법을 이용하여 하나의 프레임에 상응하는 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행할 수 있다. 나아가, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스를 통해서 스트리밍 압축 효율을 극대화하고, 동일한 대역을 통해 보다 빠르고 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공할 수 있기 때문에 클라우드 스트리밍 서비스 제공자는 대역 확장이 필요한 자원을 절약하면서 사용자들에게 효율적인 서비스를 제공할 수 있다.According to the present invention, a rectangular area having a minimum width including change pixels is determined and captured as a change area by using a difference frame between a previous frame and a current frame, and the color number of the image corresponding to the change area and the standard A still image compression method is selected according to an image type determined in consideration of one or more of the differences, and still image encoding is performed on a change area corresponding to one frame using the selected still image compression technique, And transmits the changed area to the user to perform the still image based cloud streaming service. Furthermore, the cloud streaming service using the still image compression technique maximizes the streaming compression efficiency, and the cloud streaming service provider can provide the cloud streaming service to the faster and more users over the same band. Therefore, It can provide efficient services to users while saving resources.

110: 클라우드 스트리밍 서버 120-1~ 120-N: 단말 장치들
130: 네트워크 205: 변화 영역 결정부
210: 캡처부 220: 인코딩부
230: 센딩부 240: 저장부
300: 서버 310: 프로그램 화면
320: 이미지 인코딩 330: 스트리밍
340: 이미지 렌더링 410: 첫번째 프레임
420: 두번째 프레임 430: 변화 영역
510: 차분 프레임
110: Cloud streaming servers 120-1 to 120-N:
130: Network 205: Change area determining unit
210: capture unit 220: encoding unit
230: sending unit 240: storing unit
300: server 310: program screen
320: Image encoding 330: Streaming
340: image rendering 410: first frame
420: second frame 430: change area
510: differential frame

Claims (16)

이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하는 변화 영역 결정부;
상기 변화 영역을 캡처하는 캡처부;
스틸 이미지(still image) 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 인코딩부; 및
스틸 이미지 인코딩된 상기 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 센딩부
를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
A change area determining unit for comparing a previous frame with a current frame to determine a change area of the current frame changed from the previous frame;
A capturing unit capturing the change area;
An encoding unit for still image encoding the change area corresponding to one frame using a still image compression scheme; And
And transmits the still image-encoded change region to a user to perform a still image-based cloud streaming service.
Wherein the server comprises:
청구항 1에 있어서,
상기 변화 영역 결정부는
상기 이전 프레임 및 상기 현재 프레임의 차분 프레임을 산출하고, 상기 차분 프레임을 이용하여 상기 변화 영역을 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method according to claim 1,
The change area determination unit
A difference frame between the previous frame and the current frame is calculated, and the change area is determined using the difference frame.
청구항 2에 있어서,
상기 변화 영역 결정부는
상기 차분 프레임을 스캐닝(scanning)하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 픽셀을 감지하여 상기 변화 영역을 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 2,
The change area determination unit
Wherein the controller determines the change area by scanning the difference frame to detect a change pixel of the current frame changed from the previous frame.
청구항 3에 있어서,
상기 변화 영역 결정부는
상기 차분 프레임을 수평 스캐닝(horizontal scanning) 및 수직 스캐닝(vertical scanning)하여 감지되는 변화 픽셀들을 포함하는 상기 변화 영역을 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 3,
The change area determination unit
And determines the change area including change pixels to be detected by horizontal scanning and vertical scanning of the difference frame.
청구항 4에 있어서,
상기 변화 영역 결정부는
상기 차분 프레임의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제1 세로 좌표 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제2 세로 좌표 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제1 가로 좌표 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제2 가로 좌표 요소를 획득하고, 상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 좌표에 상응하는 변화 픽셀을 포함하는 직사각형 영역을 상기 변화 영역으로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 4,
The change area determination unit
A first vertical coordinate element is obtained from the first detected change pixel by horizontally scanning in a row unit from the upper end of the differential frame and horizontal scanning is performed in a row unit going from the lower end to the upper direction, The first horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in the column unit on the right side in the left end and the first horizontal coordinate element is obtained in the column direction on the right side in the left direction, A second horizontal coordinate element is obtained from the first detected change pixel by vertical scanning, and a change pixel corresponding to a coordinate composed of a pair of any one of the horizontal coordinate elements and one of the vertical coordinate elements is included Is determined as the change area Cloud is a streaming server.
청구항 5에 있어서,
상기 변화 영역 결정부는
상기 변화 픽셀들을 포함하면서 최소 넓이를 가지는 직사각형 영역을 상기 변화 영역으로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 5,
The change area determination unit
And determines a rectangular area having the minimum width including the changed pixels as the change area.
청구항 6에 있어서,
상기 변화 영역 결정부는
상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 네 좌표를 꼭지점으로 하는 직사각형 영역을 상기 변화 영역으로 결정하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 6,
The change area determination unit
Wherein the rectangular area is defined as a rectangular area having vertexes of four coordinates constituted by a pair of any one of the horizontal coordinate elements and the vertical coordinate elements as the change area.
이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하는 단계;
상기 변화 영역을 캡처하는 단계;
스틸 이미지(still image) 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하는 단계; 및
스틸 이미지 인코딩된 상기 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 단계
를 포함하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
Comparing a previous frame with a current frame to determine a change area of the current frame changed from the previous frame;
Capturing the change area;
Still image encoding the change area corresponding to one frame using a still image compression technique; And
Transmitting the still image-encoded change area to a user to perform a still image-based cloud streaming service
The method of claim 1, further comprising the steps of:
청구항 8에 있어서,
상기 변화 영역을 결정하는 단계는
상기 이전 프레임 및 상기 현재 프레임의 차분 프레임을 산출하고, 상기 차분 프레임을 이용하여 상기 변화 영역을 결정하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
The method of claim 8,
The step of determining the change region
A difference frame between the previous frame and the current frame is calculated, and the change area is determined using the difference frame.
청구항 9에 있어서,
상기 변화 영역을 결정하는 단계는
상기 차분 프레임을 스캐닝(scanning)하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 픽셀을 감지하여 상기 변화 영역을 결정하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
The method of claim 9,
The step of determining the change region
Wherein the change area is determined by scanning the difference frame to detect a change pixel of the current frame changed from the previous frame.
청구항 10에 있어서,
상기 변화 영역을 결정하는 단계는
상기 차분 프레임을 수평 스캐닝(horizontal scanning) 및 수직 스캐닝(vertical scanning)하여 감지되는 변화 픽셀들을 포함하는 상기 변화 영역을 결정하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
The method of claim 10,
The step of determining the change region
And determining the change area including change pixels to be sensed by horizontal scanning and vertical scanning of the difference frame.
청구항 11에 있어서,
상기 변화 영역을 결정하는 단계는
상기 차분 프레임의 상단에서 아래 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제1 세로 좌표 요소를 획득하고, 하단에서 위 방향으로 나아가면서 행 단위로 수평 스캐닝하여 최초 감지되는 변화 픽셀로부터 제2 세로 좌표 요소를 획득하고, 좌측단에서 오른쪽 방향으로 나아가면 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제1 가로 좌표 요소를 획득하고, 우측단에서 왼쪽 방향으로 나아가면서 열 단위로 수직 스캐닝하여 최초로 감지되는 변화 픽셀로부터 제2 가로 좌표 요소를 획득하고, 상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 좌표에 상응하는 변화 픽셀을 포함하는 직사각형 영역을 상기 변화 영역으로 결정하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
The method of claim 11,
The step of determining the change region
A first vertical coordinate element is obtained from the first detected change pixel by horizontally scanning in a row unit from the upper end of the differential frame and horizontal scanning is performed in a row unit going from the lower end to the upper direction, The first horizontal coordinate element is obtained from the first detected change pixel by vertically scanning in the column unit on the right side in the left end and the first horizontal coordinate element is obtained in the column direction on the right side in the left direction, A second horizontal coordinate element is obtained from the first detected change pixel by vertical scanning, and a change pixel corresponding to a coordinate composed of a pair of any one of the horizontal coordinate elements and one of the vertical coordinate elements is included Is determined as the change area How cloud-streaming service using a still image compression techniques.
청구항 12에 있어서,
상기 변화 영역을 결정하는 단계는
상기 변화 픽셀들을 포함하면서 최소 넓이를 가지는 직사각형 영역을 상기 변화 영역으로 결정하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
The method of claim 12,
The step of determining the change region
And determining a rectangular area having the minimum width including the changing pixels as the changing area.
청구항 13에 있어서,
상기 변화 영역을 결정하는 단계는
상기 가로 좌표 요소들 중 어느 하나 및 상기 세로 좌표 요소들 중 어느 하나를 한 쌍으로 하여 구성되는 네 좌표를 꼭지점으로 하는 직사각형 영역을 상기 변화 영역으로 결정하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법.
14. The method of claim 13,
The step of determining the change region
Wherein the rectangular area is defined as a rectangular area having vertexes of four coordinates formed by pairing any one of the horizontal coordinate elements and one of the vertical coordinate elements as the changed area. Streaming service method.
청구항 8 내지 14 중 어느 한 항에 기재된 방법을 실행시키기 위하여 매체에 저장된 컴퓨터 프로그램.A computer program stored on a medium for carrying out the method of any one of claims 8 to 14. 이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하여 상기 변화 영역을 캡처하고, 스틸 이미지(still image) 압축 기법을 이용하여 하나의 프레임에 상응하는 상기 변화 영역을 스틸 이미지 인코딩하고, 스틸 이미지 인코딩된 상기 변화 영역을 사용자에게 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행하는 클라우드 스트리밍 서버; 및
상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말
을 포함하는 것을 특징으로 하는 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 시스템.
A change area of the current frame changed from the previous frame is compared with a previous frame and a current frame to capture the change area, and the change area corresponding to one frame is captured using a still image compression technique A cloud streaming server that performs a still image based cloud streaming service by encoding a still image and transmitting the still image encoded change region to a user; And
And a terminal for receiving an application execution result screen corresponding to the cloud streaming service from the cloud streaming server,
And a cloud streaming service system using the still image compression technique.
KR1020140141983A 2014-07-30 2014-10-20 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same KR102225607B1 (en)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201580049450.2A CN106717007B (en) 2014-07-30 2015-07-06 Cloud end streaming media server
PCT/KR2015/006950 WO2016017952A1 (en) 2014-07-30 2015-07-06 System for cloud streaming service, method for same using still-image compression technique and apparatus therefor
EP15827254.2A EP3177024B1 (en) 2014-07-30 2015-07-06 Apparatus for cloud streaming service
JP2016575537A JP2017529716A (en) 2014-07-30 2015-07-06 Cloud streaming service system, cloud streaming service method using still image compression technique, and apparatus therefor
US15/420,030 US10652591B2 (en) 2014-07-30 2017-01-30 System for cloud streaming service, method for same using still-image compression technique and apparatus therefor
KR1020210028265A KR102384174B1 (en) 2014-07-30 2021-03-03 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20140097322 2014-07-30
KR1020140097322 2014-07-30

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020210028265A Division KR102384174B1 (en) 2014-07-30 2021-03-03 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Publications (2)

Publication Number Publication Date
KR20160015125A true KR20160015125A (en) 2016-02-12
KR102225607B1 KR102225607B1 (en) 2021-03-12

Family

ID=55355071

Family Applications (6)

Application Number Title Priority Date Filing Date
KR1020140110551A KR102199270B1 (en) 2014-07-30 2014-08-25 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR1020140141983A KR102225607B1 (en) 2014-07-30 2014-10-20 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR1020140156004A KR102232899B1 (en) 2014-07-30 2014-11-11 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150000827A KR102247886B1 (en) 2014-07-30 2015-01-05 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150006050A KR102273141B1 (en) 2014-07-30 2015-01-13 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR1020210028265A KR102384174B1 (en) 2014-07-30 2021-03-03 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020140110551A KR102199270B1 (en) 2014-07-30 2014-08-25 System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same

Family Applications After (4)

Application Number Title Priority Date Filing Date
KR1020140156004A KR102232899B1 (en) 2014-07-30 2014-11-11 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150000827A KR102247886B1 (en) 2014-07-30 2015-01-05 System for cloud streaming service, method of cloud streaming service based on type of image and apparatus for the same
KR1020150006050A KR102273141B1 (en) 2014-07-30 2015-01-13 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
KR1020210028265A KR102384174B1 (en) 2014-07-30 2021-03-03 System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same

Country Status (1)

Country Link
KR (6) KR102199270B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11477443B2 (en) 2018-06-19 2022-10-18 Samsung Electronics Co., Ltd. Electronic device for performing image compression and operating method of electronic device

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102078576B1 (en) 2018-08-22 2020-02-19 에스케이플래닛 주식회사 Method for cloud streaming service using compression of alpha data and apparatus for the same
KR20210147596A (en) 2020-05-29 2021-12-07 에스케이플래닛 주식회사 Method and apparatus for providing cloud streaming service
KR102678714B1 (en) * 2023-11-23 2024-06-26 (주)뷰텍솔루션 Method of processing partial image rendering depend on variation capacity and system thereof

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
KR20140027040A (en) 2013-12-30 2014-03-06 주식회사 큐램 Adaptive predictive image compression system and method thereof

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5032419B2 (en) * 2008-08-27 2012-09-26 株式会社東芝 Server, screen transmission method and computer program
JP5198543B2 (en) * 2010-11-19 2013-05-15 株式会社東芝 Image processing method, image processing apparatus, and image processing program
GB2486475A (en) * 2010-12-16 2012-06-20 Norland Technology Ltd Encoding, transmitting and displaying a sequence of images using a difference image
KR101777776B1 (en) * 2011-07-22 2017-09-12 에스케이플래닛 주식회사 Apparatus and method for sampled profile based motion estimation
JP2013131990A (en) * 2011-12-22 2013-07-04 Ricoh Co Ltd Information processor and program
KR101430930B1 (en) 2012-12-12 2014-09-25 에스케이플래닛 주식회사 Method for providing game based on cloud steaming, system, client terminal and service apparatus

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
KR20140027040A (en) 2013-12-30 2014-03-06 주식회사 큐램 Adaptive predictive image compression system and method thereof

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11477443B2 (en) 2018-06-19 2022-10-18 Samsung Electronics Co., Ltd. Electronic device for performing image compression and operating method of electronic device

Also Published As

Publication number Publication date
KR20160015134A (en) 2016-02-12
KR102273141B1 (en) 2021-07-05
KR20160015123A (en) 2016-02-12
KR102225607B1 (en) 2021-03-12
KR102199270B1 (en) 2021-01-07
KR102384174B1 (en) 2022-04-08
KR102247886B1 (en) 2021-05-06
KR20160015128A (en) 2016-02-12
KR102232899B1 (en) 2021-03-29
KR20210029746A (en) 2021-03-16
KR20160015136A (en) 2016-02-12

Similar Documents

Publication Publication Date Title
CN109983757B (en) View dependent operations during panoramic video playback
KR102384174B1 (en) System for cloud streaming service, method of cloud streaming service using still image compression technique and apparatus for the same
US10574955B2 (en) Re-projecting flat projections of pictures of panoramic video for rendering by application
US10652591B2 (en) System for cloud streaming service, method for same using still-image compression technique and apparatus therefor
US10462200B2 (en) System for cloud streaming service, method for still image-based cloud streaming service and apparatus therefor
KR102407477B1 (en) System for cloud streaming service, method of image cloud streaming service using alpha value of image type and apparatus for the same
KR102271721B1 (en) System for cloud streaming service, method of image cloud streaming service considering terminal performance and apparatus for the same
KR102247887B1 (en) System for cloud streaming service, method of cloud streaming service using source information and apparatus for the same
KR102405143B1 (en) System for cloud streaming service, method of image cloud streaming service using reduction of color bit and apparatus for the same
KR102273143B1 (en) System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR102313533B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102313516B1 (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
CN115089966B (en) Video rendering method, system and related equipment applied to cloud game
KR102225609B1 (en) System for cloud streaming service, method of image cloud streaming service considering full screen transition and apparatus for the same
KR102265419B1 (en) System for cloud streaming service, method of cloud streaming service using selective encoding processing unit and apparatus for the same
KR20210027340A (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same
CN115396710A (en) Method for H5 or small program to project short video and related device
KR20160087256A (en) System for cloud streaming service, method of message-based image cloud streaming service and apparatus for the same
KR20160087227A (en) System for cloud streaming service, method of image cloud streaming service using animation message and apparatus for the same

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
A302 Request for accelerated examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right