KR20160132607A - System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same - Google Patents

System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same Download PDF

Info

Publication number
KR20160132607A
KR20160132607A KR1020150065347A KR20150065347A KR20160132607A KR 20160132607 A KR20160132607 A KR 20160132607A KR 1020150065347 A KR1020150065347 A KR 1020150065347A KR 20150065347 A KR20150065347 A KR 20150065347A KR 20160132607 A KR20160132607 A KR 20160132607A
Authority
KR
South Korea
Prior art keywords
data
image
frame
cloud streaming
picture data
Prior art date
Application number
KR1020150065347A
Other languages
Korean (ko)
Other versions
KR102306889B1 (en
Inventor
이동수
Original Assignee
엔트릭스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엔트릭스 주식회사 filed Critical 엔트릭스 주식회사
Priority to KR1020150065347A priority Critical patent/KR102306889B1/en
Publication of KR20160132607A publication Critical patent/KR20160132607A/en
Application granted granted Critical
Publication of KR102306889B1 publication Critical patent/KR102306889B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream, rendering scenes according to MPEG-4 scene graphs

Abstract

Disclosed are a system for cloud streaming service, a method of image cloud streaming service using data substitution and an apparatus for the same. The method of the image cloud streaming service using the data substitution includes: substituting at least one image data included in an application execution screen with at least one modified data of which a volume is reduced, and rendering the modified data; detecting a frame for capturing an image to be transmitted to a terminal in a rendered application execution screen; restoring, according to whether the frame corresponds to the at least one modified data or not, the frame into at least one image data to capture an image; and performing still-image encoding on the image, and transmitting the encoded image to the terminal. Resources required for rendering are reduced when providing the image cloud streaming service, so that system efficiency is improved.

Description

클라우드 스트리밍 서비스 시스템, 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF IMAGE CLOUD STREAMING SERVICE USING DATA SUBSTITUTION AND APPARATUS FOR THE SAME}TECHNICAL FIELD [0001] The present invention relates to a cloud streaming service system, a cloud streaming service system, a method of providing an image cloud streaming service through data replacement,

본 발명은 이미지 기반의 클라우드 스트리밍 서비스 시 그림 데이터를 용량이 작은 데이터로 치환하여 렌더링을 수행함으로써 렌더링 수행 시 클라우드 스트리밍 서버의 리소스를 절약할 수 있는 클라우드 스트리밍 서비스 시스템, 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치에 관한 것이다.The present invention relates to a cloud streaming service system capable of saving resources of a cloud streaming server when performing rendering by replacing picture data with data having a small capacity in an image-based cloud streaming service, an image cloud streaming service And an apparatus therefor.

인터넷의 급속한 발달은 개인의 통신 속도를 급격히 향상시키는 결과를 가져왔으며, 이러한 통신 속도의 향상은 원격지에 위치한 컴퓨터에 접속하여 대용량의 데이터를 다운로드 또는 업로드 하거나, 원격지 컴퓨터 제어 프로그램을 사용하여 마치 원격지 컴퓨터에 로컬 로그인한 것과 같이 원격지 컴퓨터를 이용할 수 있는 환경을 제공하고 있다.The rapid development of the Internet has resulted in a rapid increase in the communication speed of an individual. The improvement in the communication speed can be achieved by downloading or uploading a large amount of data by accessing a computer located at a remote place, or by using a remote computer control program, As well as providing an environment in which a remote computer can be used.

또한, 스마트폰과 같은 이동통신 단말에서 구동되는 어플리케이션이 다양하게 개발되면서, 비교적 낮은 성능의 사용자 단말에서 높은 성능을 필요로 하는 어플리케이션을 구동하기 위한 가상화 기술들이 많이 제안되고 있다. In addition, as a variety of applications have been developed for mobile communication terminals such as smart phones, many virtualization technologies have been proposed for driving applications requiring high performance in relatively low performance user terminals.

그 중에서 어플리케이션을 서버에서 구동시키고 구동화면은 비디오 인코딩(Encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면 가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있는 추세이다.Among them, the application is driven on the server, the driving screen is compressed through video encoding and transmitted to the client, and the client reproduces the transmitted video to generate a screen virtualization Cloud streaming service is becoming popular.

클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법이 적용되었다. 그러나 메뉴 디스플레이와 같이 정적인 화면을 서비스 하는 경우에도 불필요하게 화면 전체를 캡처하고 비디오 코덱을 이용하여 동작하게 되어 시스템 전체적으로 비효율적인 측면이 존재하였다.The cloud streaming service basically adopts the cloud streaming method based on the video codec. However, even when a static screen such as a menu display is serviced, the entire screen is unnecessarily captured and operated using a video codec, which makes the overall system ineffective.

또한, 클라우드 스트리밍 서비스에서 CPU 등의 자원 효율을 가장 많이 소비하는 구성 요소는 그림 데이터일 수 있다. 따라서, 클라우드 스트리밍 서버에서 그림 데이터를 렌더링 할 때 각 브라우저에 부담이 될 수 있다. 그러나 클라우드 스트리밍 서버의 경우 실제 화면을 정확히 렌더링할 필요가 없기 때문에 이와 같은 렌더링 과정 또한 비효율적인 측면에 해당한다. Also, in a cloud streaming service, a component that consumes the most resource efficiency such as a CPU may be picture data. Therefore, each browser may be burdened when rendering the picture data in the cloud streaming server. However, this streaming process is also inefficient because the cloud streaming server does not need to render the actual screen correctly.

따라서, 어플리케이션 실행화면에서 정적인 부분의 이미지만을 캡처하여 사용자의 단말로 제공하되, 렌더링 수행 시 부담을 줄일 수 있도록 적은 용량의 데이터로 치환하여 렌더링을 수행하는 이미지 기반의 클라우드 스트리밍 서비스 기술이 절실하게 대두된다.Accordingly, an image-based cloud streaming service technology that captures only static images of an application execution screen and provides it to the user's terminal, but performs rendering by substituting a small amount of data to reduce the burden upon rendering, .

한국 공개 특허 제2014-0056673호, 2014년 05월 12일 등록 (명칭: 클라우드 스트리밍 기반의 게임 제공 방법, 이를 위한 시스템, 이를 위한 클라이언트 단말기, 이를 위한 서비스장치 및 이 방법이 기록된 컴퓨터로 판독 가능한 기록 매체)Korean Patent Laid-Open Publication No. 2014-0056673, registered May 12, 2014 (name: a method for providing a game based on cloud streaming, a system therefor, a client terminal for the same, a service device for the same, Recording medium)

본 발명의 목적은, 렌더링 시 발생하는 부하를 감소시켜 이미지 클라우드 스트리밍 시스템의 효율을 향상시키는 것이다.It is an object of the present invention to improve the efficiency of an image cloud streaming system by reducing the load generated during rendering.

또한, 본 발명의 목적은 사용자에게 제공되는 서비스 품질은 유지하면서 클라우드 스트리밍 서버의 리소스를 보다 효과적으로 사용할 수 있는 서비스 방법을 제공하는 것이다.It is another object of the present invention to provide a service method that can use resources of a cloud streaming server more effectively while maintaining a service quality provided to a user.

또한, 본 발명의 목적은 어플리케이션 실행화면에서 변화된 이미지만을 처리하여 사용자 단말로 제공함으로써 저사양의 단말에서도 고사양의 어플리케이션 실행화면을 제공하는 것이다.It is another object of the present invention to provide a high-performance application execution screen even in a low-end terminal by processing only the changed image on the application execution screen and providing it to the user terminal.

상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링하는 치환 렌더링부; 렌더링된 상기 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출하는 프레임 검출부; 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 상기 프레임을 상기 적어도 하나의 그림 데이터로 복원하여 상기 이미지를 캡처하는 캡처부; 및 상기 이미지를 스틸 이미지 인코딩하여 상기 단말로 전송하는 스트리밍부를 포함한다.According to an aspect of the present invention, there is provided a cloud streaming server comprising: a substitution rendering unit for substituting at least one piece of picture data included in an application execution picture into at least one piece of transformed data having a reduced capacity; A frame detector for detecting a frame to capture an image to be transmitted to the terminal on the rendered application execution screen; A capture unit for capturing the image by restoring the frame to the at least one picture data according to whether the frame corresponds to the at least one deformation data; And a streaming unit for still image encoding the image and transmitting the still image to the terminal.

이 때, 캡처부는 상기 프레임에 상기 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다.In this case, the capture unit may determine that the frame corresponds to the at least one transformed data when the frame includes a substitution mark indicating that the at least one picture data is replaced.

이 때, 캡처부는 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 경우에, 상기 적어도 하나의 그림 데이터 중 상기 프레임에 상응하는 그림 데이터를 복원하여 상기 이미지를 캡처할 수 있다.At this time, the capture unit may capture the image by restoring the picture data corresponding to the frame among the at least one picture data, when the frame corresponds to the at least one deformation data.

이 때, 치환 렌더링부는 상기 적어도 하나의 그림 데이터와 상기 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.At this time, the substitution rendering unit may replace the at least one picture data by mapping the at least one transformed data.

이 때, 캡처부는 상기 적어도 하나의 변형 데이터 중 상기 프레임에 상응하는 변형 데이터와 매핑된 상기 프레임에 상응하는 그림 데이터를 복원할 수 있다.In this case, the capturing unit may restore picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

이 때, 캡처부는 상기 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 상기 이미지를 캡처할 수 있다.At this time, the capture unit can capture the image corresponding to the changed portion compared with the previous frame of the frame.

이 때, 캡처부는 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하지 않는 경우에 상기 복원을 수행하지 않고 상기 이미지를 캡처할 수 있다.At this time, the capture unit may capture the image without performing the restoration if the frame does not correspond to the at least one deformation data.

또한, 본 발명에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은, 어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링하는 단계; 렌더링된 상기 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출하는 단계; 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 상기 프레임을 상기 적어도 하나의 그림 데이터로 복원하여 상기 이미지를 캡처하는 단계; 및 상기 이미지를 스틸 이미지 인코딩하여 상기 단말로 전송하는 단계를 포함한다.According to another aspect of the present invention, there is provided an image cloud streaming service method for replacing at least one image data included in an application execution image with at least one deformation data having a reduced capacity, Detecting a frame to capture an image to be transmitted to the terminal on the rendered application execution screen; Capturing the image by restoring the frame to the at least one picture data according to whether the frame corresponds to the at least one deformation data; And transmitting still image encoding the image to the terminal.

이 때, 캡처하는 단계는 상기 프레임에 상기 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는지 여부를 확인하는 단계를 포함하고, 상기 치환 표식이 포함되어 있는 경우에 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다.In this case, the step of capturing includes checking whether the frame includes a substitute mark indicating that the at least one picture data is replaced, and when the substitute mark is included, It can be determined that it corresponds to the deformation data.

이 때, 캡처하는 단계는 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 경우에 상기 적어도 하나의 그림 데이터 중 상기 프레임에 상응하는 그림 데이터를 복원하여 상기 이미지를 캡처할 수 있다.At this time, the capturing step may capture the image by restoring picture data corresponding to the frame among the at least one picture data when the frame corresponds to the at least one deformation data.

이 때, 치환하여 렌더링하는 단계는 상기 적어도 하나의 그림 데이터와 상기 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.In this case, the replacing and rendering may replace the at least one picture data with the at least one transformed data.

이 때, 캡처하는 단계는 상기 적어도 하나의 변형 데이터 중 상기 프레임에 상응하는 변형 데이터와 매핑된 상기 프레임에 상응하는 그림 데이터를 복원할 수 있다.In this case, the capturing may restore picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

이 때, 캡처하는 단계는 상기 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 상기 이미지를 캡처할 수 있다.At this time, the capturing step may capture the image corresponding to the changed part compared to the previous frame of the frame.

이 때, 캡처하는 단계는 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하지 않는 경우에 상기 복원을 수행하지 않고 상기 이미지를 캡처할 수 있다.At this time, the capturing step may capture the image without performing the restoration if the frame does not correspond to the at least one deformation data.

본 발명에 따르면, 렌더링 시 발생하는 부하를 감소시켜 이미지 클라우드 스트리밍 시스템의 효율을 향상시킬 수 있다.According to the present invention, it is possible to improve the efficiency of the image cloud streaming system by reducing the load generated during rendering.

또한, 본 발명은 사용자에게 제공되는 서비스 품질은 유지하면서 클라우드 스트리밍 서버의 리소스를 보다 효과적으로 사용할 수 있는 서비스 방법을 제공할 수 있다.In addition, the present invention can provide a service method that can use the resources of the cloud streaming server more effectively while maintaining the service quality provided to the user.

또한, 본 발명은 어플리케이션 실행화면에서 변화된 이미지만을 처리하여 사용자 단말로 제공함으로써 저사양의 단말에서도 고사양의 어플리케이션 실행화면을 제공할 수 있다.In addition, according to the present invention, only the changed image is processed on the application execution screen and provided to the user terminal, thereby providing a high-performance application execution screen even in low-end terminals.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3은 본 발명의 일실시예에 따른 데이터 치환 과정을 나타낸 도면이다.
도 4는 본 발명의 일실시예에 따른 이미지 캡처 과정을 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 매핑 테이블을 나타낸 도면이다.
도 6은 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
도 7은 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.
도 8은 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 과정을 나타낸 도면이다.
1 is a block diagram illustrating a cloud streaming service system according to an embodiment of the present invention.
2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.
3 is a diagram illustrating a data replacement process according to an embodiment of the present invention.
4 is a flowchart illustrating an image capturing process according to an exemplary embodiment of the present invention.
5 is a diagram illustrating a mapping table according to an embodiment of the present invention.
FIG. 6 is a flowchart illustrating an image cloud streaming service method using data replacement according to an embodiment of the present invention.
FIG. 7 is a flowchart illustrating an image cloud streaming service method according to an exemplary embodiment of the present invention.
FIG. 8 is a flowchart illustrating an image cloud streaming service process through data replacement according to an exemplary embodiment of the present invention. Referring to FIG.

이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다. 본 발명의 실시형태는 당 업계에서 평균적인 지식을 가진 자에게 본 발명을 보다 완전하게 설명하기 위해서 제공되는 것이다. 따라서, 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In the following description and the accompanying drawings, detailed description of well-known functions or constructions that may obscure the subject matter of the present invention will be omitted. It should be noted that the same constituent elements are denoted by the same reference numerals as possible throughout the drawings. Embodiments of the present invention are provided to more fully describe the present invention to those skilled in the art. Accordingly, the shapes and sizes of the elements in the drawings and the like can be exaggerated for clarity.

이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.The terms and words used in the present specification and claims should not be construed to be limited to ordinary or dictionary meanings and the inventor is not limited to the concept of terminology for describing his or her invention in the best way. It should be interpreted as meaning and concept consistent with the technical idea of the present invention. Therefore, the embodiments described in the present specification and the configurations shown in the drawings are merely the most preferred embodiments of the present invention, and not all of the technical ideas of the present invention are described. Therefore, It is to be understood that equivalents and modifications are possible. Also, the terms first, second, etc. are used for describing various components and are used only for the purpose of distinguishing one component from another component, and are not used to define the components.

도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.1 is a block diagram illustrating a cloud streaming service system according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 단말(120-1~ 120-N) 및 네트워크(130)를 포함한다.Referring to FIG. 1, a cloud streaming service system according to an embodiment of the present invention includes a cloud streaming server 110, terminals 120-1 to 120-N, and a network 130. FIG.

클라우드 스트리밍 서버(110)는 어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링한다.The cloud streaming server 110 replaces at least one picture data included in the application execution picture with at least one modified data having a reduced capacity.

이 때, 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and replaced.

또한, 클라우드 스트리밍 서버(110)는 렌더링된 어플리케이션 실행화면에서 단말(120-1~ 120-N)에게 전송될 이미지를 캡처할 프레임을 검출한다.In addition, the cloud streaming server 110 detects a frame to capture an image to be transmitted to the terminals 120-1 to 120-N on the rendered application execution screen.

또한, 클라우드 스트리밍 서버(110)는 프레임이 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 프레임을 적어도 하나의 그림 데이터로 복원하여 이미지를 캡처한다.In addition, the cloud streaming server 110 restores the frame to at least one picture data according to whether or not the frame corresponds to at least one transformed data, thereby capturing an image.

이 때, 프레임에 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 프레임이 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다.At this time, if the frame includes a substitution mark indicating that at least one picture data is replaced, it can be determined that the frame corresponds to at least one piece of transformed data.

이 때, 프레임이 적어도 하나의 변형 데이터에 상응하는 경우에 적어도 하나의 그림 데이터 중 프레임에 상응하는 그림 데이터를 복원하여 이미지를 캡처할 수 있다.At this time, when the frame corresponds to at least one deformation data, the image data can be captured by restoring the picture data corresponding to the frame among at least one picture data.

이 때, 적어도 하나의 변형 데이터 중 프레임에 상응하는 변형 데이터와 매핑된 프레임에 상응하는 그림 데이터를 복원할 수 있다.At this time, it is possible to restore the picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

이 때, 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 이미지를 캡처할 수 있다.At this time, it is possible to capture an image corresponding to the changed portion compared with the previous frame of the frame.

이 때, 프레임이 적어도 하나의 변형 데이터에 상응하지 않는 경우에 복원을 수행하지 않고 이미지를 캡처할 수 있다.At this time, if the frame does not correspond to at least one deformation data, the image can be captured without performing restoration.

또한, 이미지를 스틸 이미지 인코딩하여 단말(120-1~ 120-N)로 전송한다.Also, the image is still image encoded and transmitted to the terminals 120-1 to 120-N.

이 때, 스틸 이미지 인코딩 방식을 이용하여 이미지를 스틸 이미지 인코딩할 수 있다.At this time, the still image encoding method can still image the image.

단말(120-1~ 120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행화면을 수신하여 사용자에게 제공한다.The terminals 120-1 to 120-N receive an application execution screen corresponding to the cloud streaming service from the cloud streaming server 110 and provide them to the user.

또한, 단말(120-1~ 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말(120-1~ 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.The terminals 120-1 to 120-N are connected to a communication network and are capable of executing applications on the basis of a cloud computing system. The terminals 120-1 to 120-N are not limited to the mobile communication terminal but may be any information communication device, multimedia terminal, A fixed terminal and an IP (Internet Protocol) terminal. Each of the terminals 120-1 to 120-N may be a mobile phone, a portable multimedia player (PMP), a mobile Internet device (MID), a smart phone, a desktop, a tablet PC, A mobile terminal having various mobile communication specifications such as a notebook computer, a notebook computer, a netbook, a personal digital assistant (PDA), a smart TV, and an information communication device.

또한, 단말(120-1~ 120-N)은 숫자 및 문자 정보 등의 다양한 정보를 입력 받고, 각종 기능을 설정 및 단말(120-1~ 120-N)의 기능 제어와 관련하여 입력되는 신호를 입력부를 통해 제어부로 전달할 수 있다. 또한, 단말(120-1~ 120-N)의 입력부는 사용자의 터치 또는 조작에 따른 입력 신호를 발생하는 키패드와 터치패드 중 적어도 하나를 포함하여 구성할 수 있다. 이 때, 단말(120-1~ 120-N)의 입력부는 단말(120-1~ 120-N)의 표시부와 함께 하나의 터치패널(또는 터치 스크린(touch screen))의 형태로 구성되어 입력과 표시 기능을 동시에 수행할 수 있다. 또한, 단말(120-1~ 120-N)의 입력부는 키보드, 키패드, 마우스, 조이스틱 등과 같은 입력 장치 외에도 향후 개발될 수 있는 모든 형태의 입력 수단이 사용될 수 있다. 특히, 본 발명에 따른 단말(120-1~ 120-N)의 입력부는 클라우드 컴퓨팅 기반으로 컨텐츠를 업로드 하거나 다운로드 하기 위한 입력 신호를 단말(120-1~ 120-N)의 제어부로 전달할 수 있다.The terminals 120-1 to 120-N receive various kinds of information such as numeric and character information, set various functions, and input signals related to the function control of the terminals 120-1 to 120-N And can be transmitted to the control unit through the input unit. The input unit of the terminals 120-1 to 120-N may include at least one of a keypad and a touchpad for generating an input signal according to a user's touch or operation. At this time, the input units of the terminals 120-1 to 120-N are configured in the form of one touch panel (or touch screen) together with the display units of the terminals 120-1 to 120-N, Display function can be performed at the same time. The input unit of the terminals 120-1 to 120-N may be any type of input unit that can be developed in addition to an input unit such as a keyboard, a keypad, a mouse, a joystick, and the like. In particular, the input units of the terminals 120-1 to 120-N according to the present invention can transmit input signals for uploading or downloading contents based on cloud computing to the control units of the terminals 120-1 to 120-N.

또한, 단말(120-1~ 120-N)의 표시부는 단말(120-1~ 120-N)의 기능 수행 중에 발생하는 일련의 동작상태 및 동작결과 등에 대한 정보를 표시할 수 있다. 또한, 단말(120-1~ 120-N)의 표시부는 단말(120-1~ 120-N)의 메뉴 및 사용자가 입력한 사용자 데이터 등을 표시할 수 있다. 여기서, 단말(120-1~ 120-N)의 표시부는 액정표시장치(LCD, Liquid Crystal Display), 초박막 액정표시장치(TFT-LCD, Thin Film Transistor LCD), 발광다이오드(LED, Light Emitting Diode), 유기 발광다이오드(OLED, Organic LED), 능동형 유기발광다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다. 이 때, 단말(120-1~ 120-N)의 표시부가 터치스크린 형태로 구성된 경우, 단말(120-1~ 120-N)의 표시부는 단말(120-1~ 120-N)의 입력부의 기능 중 일부 또는 전부를 수행할 수 있다. 특히, 본 발명에 따른 단말(120-1~ 120-N)의 표시부는 클라우드 컴퓨팅 기반으로 제공되는 컨텐츠의 실행과 관련된 정보를 화면으로 표시할 수 있다.In addition, the display unit of the terminals 120-1 to 120-N can display information on a series of operation states, operation results, and the like that occur during the performance of the functions of the terminals 120-1 to 120-N. In addition, the display units of the terminals 120-1 to 120-N can display menus of the terminals 120-1 to 120-N and user data input by the user. The display units of the terminals 120-1 to 120-N may be a liquid crystal display (LCD), a thin film transistor LCD (TFT-LCD), a light emitting diode (LED) An organic light emitting diode (OLED), an organic light emitting diode (AMOLED), an active matrix OLED, a retina display, a flexible display, and a three-dimensional display have. At this time, when the display units of the terminals 120-1 to 120-N are configured as touch screens, the display units of the terminals 120-1 to 120-N function as the input units of the terminals 120-1 to 120- Some or all of them. In particular, the display unit of the terminals 120-1 to 120-N according to the present invention can display information related to execution of content provided on a cloud computing basis on a screen.

또한, 단말(120-1~ 120-N)의 저장부는 데이터를 저장하기 위한 장치로, 주 기억장치 및 보조 기억장치를 포함하고, 단말(120-1~ 120-N)의 기능 동작에 필요한 응용 프로그램을 저장할 수 있다. 이러한 단말(120-1~ 120-N)의 저장부는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다. 여기서, 단말(120-1~ 120-N)는 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 제어부의 제어 하에 해당 응용 프로그램들을 실행하여 각 기능을 제공하게 된다. 특히, 본 발명에 따른 단말(120-1~ 120-N)의 저장부는 단말(120-1~ 120-N)를 부팅시키는 운영체제, 클라우드 컴퓨팅 기반으로 컨텐츠를 업로드 하거나 다운로드하기 위한 프로그램 등을 저장할 수 있다. 또한, 단말(120-1~ 120-N)의 저장부는 다수의 컨텐츠를 저장하는 컨텐츠 DB와 단말(120-1~ 120-N)의 정보를 저장할 수 있다. 이 때, 컨텐츠 DB는 컨텐츠를 실행하기 위한 실행 데이터와 컨텐츠에 대한 속성 정보를 포함하고, 컨텐츠 실행에 따른 컨텐츠 사용 정보 등이 저장될 수 있다. 그리고, 단말(120-1~ 120-N)의 정보는 단말 사양 정보를 포함할 수 있다.The storage units of the terminals 120-1 to 120-N are devices for storing data, and include a main storage device and an auxiliary storage device, and are used for applications required for functional operations of the terminals 120-1 to 120- You can save the program. The storage units of these terminals 120-1 to 120-N may largely include a program area and a data area. Here, when the terminals 120-1 to 120-N activate the respective functions in response to a request from the user, the terminals 120-1 to 120-N provide the respective functions by executing the corresponding application programs under the control of the controller. In particular, the storage units of the terminals 120-1 to 120-N according to the present invention may store an operating system for booting the terminals 120-1 to 120-N, a program for uploading or downloading contents on the basis of cloud computing have. In addition, the storage units of the terminals 120-1 to 120-N may store information of a content DB storing a plurality of contents and information of the terminals 120-1 to 120-N. At this time, the content DB includes execution data for executing the content and attribute information about the content, and content usage information according to the execution of the content can be stored. The information of the terminals 120-1 to 120-N may include terminal specification information.

또한, 단말(120-1~ 120-N)의 통신부는 클라우드 스트리밍 서버(110)와 네트워크(130)을 통해 데이터를 송수신하기 위한 기능을 수행할 수 있다. 여기서 단말(120-1~ 120-N)의 통신부는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함할 수 있다. 이러한 단말(120-1~ 120-N)의 통신부는 무선통신 모듈 및 유선통신 모듈 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 단말(120-1~ 120-N)이 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 클라우드 스트리밍 서버(110)로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 네트워크(130)에 접속하여, 클라우드 스트리밍 서버(110)에 데이터를 송수신할 수 있다. 즉 단말(120-1~ 120-N)은 무선통신 모듈 또는 유선통신 모듈을 이용하여 네트워크(130)에 접속하며, 네트워크(130)을 통해 클라우드 스트리밍 서버(110)와 데이터를 송수신할 수 있다. 특히, 본 발명에 따른 네트워크(130)는 클라우드 스트리밍 서버(110) 또는 다른 단말(120-1~ 120-N)과 통신하여 클라우드 컴퓨팅 기반으로 컨텐츠를 업로드 또는 다운로드 하는데 필요한 데이터를 송수신할 수 있다.In addition, the communication units of the terminals 120-1 to 120-N may perform a function of transmitting and receiving data through the cloud streaming server 110 and the network 130. [ Here, the communication unit of the terminals 120-1 to 120-N may include RF transmitting means for up-converting and amplifying the frequency of the transmitted signal, RF receiving means for low-noise amplifying the received signal and down-converting the frequency . The communication units of the terminals 120-1 to 120-N may include at least one of a wireless communication module and a wired communication module. In the case where the terminals 120-1 to 120-N use wireless communication, the wireless communication module is a module for transmitting and receiving data according to a wireless communication method. The wireless communication module, the wireless LAN communication module, The data can be transmitted / received to / from the cloud streaming server 110 by using any one of them. The wired communication module is for transmitting / receiving data by wire. The wired communication module may connect to the network 130 through a wired network and transmit / receive data to / from the cloud streaming server 110. That is, the terminals 120-1 to 120-N access the network 130 using a wireless communication module or a wired communication module and transmit and receive data to and from the cloud streaming server 110 through the network 130. [ In particular, the network 130 according to the present invention can communicate with the cloud streaming server 110 or other terminals 120-1 to 120-N to transmit / receive data necessary for uploading or downloading content based on cloud computing.

또한, 단말 장치(120-1~ 120-N)의 제어부는 운영 체제((OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 예를 들어, 제어부는 클라우드 스트리밍 서버(110)에 접속하는 과정 전반을 제어할 수 있다. 별도의 서비스 어플리케이션을 통해 클라우드 스트리밍 서버(110)에 접속하는 경우, 사용자의 요청에 따라 서비스 어플리케이션을 실행되는 과정 전반을 제어할 수 있으며, 실행과 동시에 클라우드 스트리밍 서버(110)로 서비스 이용 요청이 전송되도록 제어할 수 있으며, 이때 사용자 인증에 필요한 단말(120-1~ 120-N)의 정보가 함께 전송되도록 제어할 수 있다.The control unit of the terminal devices 120-1 to 120-N may be an operating system (OS) and a process unit for driving each configuration. For example, the control unit may include a cloud streaming server 110, When accessing the cloud streaming server 110 through a separate service application, it is possible to control the entire process of executing the service application according to the request of the user, and at the same time, It is possible to control the streaming server 110 to transmit the service use request and control the information of the terminals 120-1 to 120-N necessary for user authentication to be transmitted together.

또한, 단말(120-1~ 120-N)의 제어부는 사용자의 요청에 따라 단말(120-1~ 120-N)의 저장부에 저장된 특정 컨텐츠를 실행할 수 있다. 이때, 제어부는 컨텐츠 실행에 따른 컨텐츠 사용 이력을 컨텐츠 사용 정보로 저장할 수 있다.In addition, the control units of the terminals 120-1 to 120-N can execute the specific contents stored in the storage units of the terminals 120-1 to 120-N according to the request of the user. At this time, the control unit may store the content usage history according to the execution of the content as the content usage information.

또한, 단말(120-1~ 120-N)의 제어부는 컨텐츠를 실행하기 위한 실행 데이터와, 컨텐츠에 대한 속성 정보를 포함하는 컨텐츠 정보와, 컨텐츠 사용 이력에 따른 정보인 컨텐츠 사용 정보를 함께 클라우드 스트리밍 서버(110)로 전송하여 업로드 할 수 있다. 이후, 제어부는 클라우드 스트리밍 서버(110)에 전송하여 업로드된 컨텐츠에 대해서는 사용자의 요청에 따라 단말(120-1~ 120-N)의 저장부에서 삭제할 수 있으며, 클라우드 스트리밍 서버(110)에 접속하여 클라우드 스트리밍 서버(110)를 통해 컨텐츠를 실행하여 이용할 수도 있다.In addition, the control unit of the terminals 120-1 to 120-N may execute execution data for executing the content, content information including attribute information about the content, and content usage information, which is information according to the content usage history, And uploaded to the server 110 for uploading. Then, the controller transmits the uploaded content to the cloud streaming server 110, deletes the uploaded content from the storage unit of the terminals 120-1 to 120-N according to the user's request, connects to the cloud streaming server 110 The content may be executed through the cloud streaming server 110 and used.

또한, 단말(120-1~ 120-N)의 제어부는 클라우드 스트리밍 서버(110)에 접속하여 다른 단말(120-1~ 120-N)로부터 컨텐츠를 다운로드한 후 저장부에 저장되도록 제어할 수도 있으며, 클라우드 스트리밍 서버(110)를 통해 컨텐츠 실행 시, 실행에 필요한 데이터만을 수신한 후 컨텐츠가 실행되도록 제어할 수도 있다.In addition, the control units of the terminals 120-1 to 120-N may access the cloud streaming server 110 to download the content from the other terminals 120-1 to 120-N and control the content to be stored in the storage unit , It is also possible to control the content to be executed after receiving only data necessary for execution at the time of executing the content through the cloud streaming server 110.

네트워크(130)는 클라우드 스트리밍 서버(110) 및 단말(120-1~ 120-N) 사이 에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말(120-1~ 120-N) 사이에 사용되는 네트워크는 단말(120-1~ 120-N)들 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.The network 130 provides a path for transferring data between the cloud streaming server 110 and the terminals 120-1 to 120-N, and is a concept covering both existing networks and future developable networks . For example, the network 130 may be a wired / wireless local area network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between mobile objects and mobile objects outside the mobile object, Or a wired / wireless communication network, or a combination of two or more. Meanwhile, the transmission scheme standard of the network 130 is not limited to the existing transmission scheme standard, and may include all transmission scheme standards to be developed in the future. In addition, the network used between the cloud streaming server 110 and the terminals 120-1 to 120-N in FIG. 1 may be different from the network used between the terminals 120-1 to 120-N, It may be the same.

도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.2 is a block diagram illustrating an example of the cloud streaming server shown in FIG.

도 2를 참조하면, 도 1에 도시된 클라우드 스트리밍 서버(110)는 통신부(210), 치환 렌더링부(220), 프레임 검출부(230), 캡처부(240), 스트리밍부(250) 및 저장부(260)를 포함한다.2, the cloud streaming server 110 shown in FIG. 1 includes a communication unit 210, a replacement rendering unit 220, a frame detection unit 230, a capture unit 240, a streaming unit 250, (260).

통신부(210)는 도 1에 도시된 네트워크와 같은 통신망을 통해 다수의 단말들과 관련된 정보를 송수신하는 역할을 한다. 특히, 본 발명의 일실시예에 따른 통신부(210)는 클라우드 스트리밍 서비스에 대한 요청을 단말로부터 수신하고, 단말이 요청한 클라우드 스트리밍 서비스에 상응하는 어플리케이션의 실행결과를 단말로 제공할 수 있다.The communication unit 210 transmits and receives information related to a plurality of terminals through a communication network such as the network shown in FIG. In particular, the communication unit 210 according to an embodiment of the present invention can receive a request for a cloud streaming service from the terminal and provide the terminal with the execution result of the application corresponding to the cloud streaming service requested by the terminal.

이 때, 단말이 요청한 클라우드 스트리밍 서비스에 대해서 클라우드 스트리밍 서버로부터 어플리케이션 실행결과를 수신할 수 있다.At this time, the terminal can receive the application execution result from the cloud streaming server with respect to the requested cloud streaming service.

치환 렌더링부(220)는 어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링한다.The substitution rendering unit 220 substitutes at least one piece of picture data included in the application execution picture with at least one piece of transformed data having a reduced capacity and renders it.

비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이미지 기반의 클라우드 스트리밍 기법과 같이 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the frame-to-frame change on the screen on which the application operates is not large, the still-image encoding is performed by capturing only the change area of the changed frame as compared with the previous frame like the image-based cloud streaming technique, The part except for the change area can be displayed in the same manner, and the change area can be displayed in a manner of changing only.

이러한 이미지 기반의 클라우드 스트리밍 서비스에서 CPU 등의 자원을 가장 많이 소비하게 하게 하는 구성 요소가 바로 그림 데이터이다. 이 때, 그림 데이터는 자연 이미지나 합성 이미지 중 적어도 하나를 포함할 수 있으며, 적어도 하나의 컬러를 포함하는 이미지일 수 있다. 또한, 그림 데이터는 텍스트와 같은 일반 데이터에 비해서 렌더링을 수행할 때 클라우드 스트리밍 서버에서 더 많은 리소스를 사용할 수 있다. In this image-based cloud streaming service, picture data is the component that makes the CPU and other resources consume the most. At this time, the picture data may include at least one of a natural image and a composite image, and may be an image including at least one color. In addition, picture data can use more resources in the cloud streaming server when rendering, compared to regular data such as text.

렌더링은 컴퓨터 프로그램을 사용하여 여러 씬들로부터 영상을 만들어내는 과정을 말할 수 있다. 하나의 씬 파일에는 정확히 정의된 언어나 자료 구조로 이루어진 개체들이 있으며, 여기에는 가상의 씬을 표현하는 도형의 배열, 시점, 텍스처 매핑, 조명, 셰이딩 정보 등이 포함될 수 있다. 이와 같은 씬 파일에 포함된 자료들은 렌더링되어 결과물로서 디지털 이미지, 래스터 그래픽스 이미지 파일을 만들어낼 수 있다. 렌더링 방식은 기술적으로 매우 다양하지만 그래픽 처리 장치(GPU) 같은 렌더링 장치를 통한 그래픽스 파이프라인을 따라 씬 파일에 저장되어있는 3차원 연출로부터 2차원의 그림을 만들어낸다는 점은 동일하다. 또한, GPU는 중앙 처리 장치(CPU)가 복잡한 렌더링 계산을 수행할 때 도움을 주도록 만들어진 장치이다.Rendering is the process of creating images from multiple scenes using a computer program. A scene file contains objects with precisely defined language or data structures, which can include an array of shapes representing the virtual scene, viewpoints, texture mapping, lighting, shading information, and so on. The data contained in such a scene file can be rendered to produce a digital image or raster graphics image file as a result. The rendering method is technically very different, but it is the same in that it creates a two-dimensional picture from the three-dimensional rendering stored in the scene file along the graphics pipeline through a rendering device such as a graphics processing unit (GPU). The GPU is also a device designed to help a central processing unit (CPU) perform complex rendering calculations.

그러나 클라우드 스트리밍 서비스 시, 어플리케이션 실행화면을 렌더링한 화면을 사용자가 보는 것이 아니기 때문에 높은 품질로 렌더링할 필요가 없을 수 있다. 즉, 그림 데이터를 좋은 품질로 렌더링할 필요가 없다는 의미와 상통할 수 있다. However, in the cloud streaming service, since the user does not see a screen in which the application execution screen is rendered, it may not be necessary to render it with high quality. That is, it can be said that it is not necessary to render the picture data with good quality.

따라서, 본 발명에서는 클라우드 스트리밍 서버에서 그림 데이터를 렌더링할 때 사용되는 리소스를 절약하기 위해서, 그림 데이터를 보다 용량이 작은 변형 데이터로 치환한 뒤 렌더링을 수행할 수 있다. 이 때, 변형 데이터는 그림 데이터의 품질을 저하시켜 용량을 감소시킨 데이터에 상응할 수 있다. 예를 들어, 그림 데이터에서 컬러 수를 줄여서 용량을 감소시킨 변형 데이터로 치환할 수 있다.Therefore, in the present invention, in order to save resources used in rendering the picture data in the cloud streaming server, it is possible to perform rendering after replacing picture data with deformation data having a smaller capacity. At this time, the deformation data may correspond to the data in which the quality of picture data is lowered and the capacity is reduced. For example, it is possible to substitute deformation data whose capacity is reduced by reducing the number of colors in the picture data.

이 때, 어플리케이션 실행화면에 치환되어 포함되는 적어도 하나의 변형 데이터는 각각 치환 표식을 포함할 수 있다. 치환 표식은 추후에 캡처를 수행할 때 캡처될 대상이 변형 데이터인지 여부를 확인하기 위해 사용될 수 있다. At this time, the at least one modified data included in the application execution screen may include substitution markers. Substitution markers can be used to determine whether the object to be captured is transformed data when performing capturing at a later time.

이 때, 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and replaced.

이 때, 치환 표식은 변형 데이터와 그림 데이터가 매핑되어 저장될 때 함께 저장될 수도 있다. 또한, 치환 표식은 각각의 변형 데이터마다 고유한 형태로 포함될 수 있고, 또는 모두 동일한 형태의 치환 표식이 포함될 수도 있다.At this time, the substitution markers may be stored together when the transformed data and the picture data are mapped and stored. In addition, the substitution tag may be included in a unique form for each transformed data, or may include a substitution tag of the same type.

이 때, 매핑 테이블에 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 저장할 수 있다. 예를 들어 매핑 테이블을 생성하고, 테이블의 항목마다 치환된 변형 데이터와 변형 데이터에 상응하는 그림 데이터를 저장할 수 있다. At this time, at least one picture data and at least one transformed data may be mapped and stored in the mapping table. For example, a mapping table can be created, and picture data corresponding to transformed data and transformed data can be stored for each item of the table.

프레임 검출부(230)는 렌더링된 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출한다.The frame detection unit 230 detects a frame to capture an image to be transmitted to the terminal on the rendered application execution screen.

이 때, 렌더링된 어플리케이션의 실행화면에 상응하는 프레임들 중 프레임간의 변화가 적은 구간들을 검출하고, 프레임간의 변화가 적은 구간에서 이미지를 캡처할 프레임을 검출할 수 있다. 예를 들어, 프레임간의 변화가 많은 구간은 캡처할 이미지의 수가 많아 이미지 기반의 클라우드 스트리밍 서비스를 제공하는 것이 비효율적일 수 있다. 따라서, 이와 같이 변화가 많은 구간은 비디오 코덱 기반의 클라우드 스트리밍 기법을 통해 서비스를 수행하고, 프레임간 변화가 적은 구간에서만 이미지 기반의 클라우드 스트리밍 서비스를 수행하기 위해 변화된 프레임에서 이미지를 캡처할 수 있다.In this case, it is possible to detect intervals in which there is little change between frames among the frames corresponding to the execution screen of the rendered application, and to detect a frame in which the image is to be captured in a section where the change between frames is small. For example, it may be inefficient to provide an image-based cloud streaming service because there are a large number of images to be captured with a large number of frames between frames. Therefore, the service can be performed through the cloud streaming technique based on the video codec and the image can be captured in the changed frame in order to perform the image based cloud streaming service only in a section where the change between the frames is small.

캡처부(240)는 프레임이 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 프레임을 적어도 하나의 그림 데이터로 복원하여 이미지를 캡처한다. 렌더링을 수행할 때 치환된 변형 데이터에서 이미지를 캡처한다면, 용량을 감소시키기 위해 화질이 저하된 상태에서 캡처를 하게 되므로 사용자에게도 화질이 저하된 이미지를 제공하게 될 수 있다. 따라서, 사용자에게는 기본의 방식과 동일하게 화질을 보장하여 서비스를 제공하기 위해서 변형 데이터를 원래의 그림 데이터로 복원하여 캡처할 수 있다.The capturing unit 240 captures an image by restoring the frame into at least one picture data according to whether the frame corresponds to at least one deformation data. If the image is captured from the transformed transformed data at the time of rendering, the image is captured in a state where the image quality is deteriorated in order to reduce the capacity, so that the user may be provided with a degraded image. Accordingly, the transformed data can be restored to the original picture data and captured by the user in order to provide the service by ensuring the image quality in the same manner as the basic method.

이 때, 프레임에 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 프레임이 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다. 데이터를 치환할 때, 그림 데이터와 치환되는 변형 데이터에는 해당 데이터가 치환되었다는 것을 알리기 위해 치환 표식을 포함할 수 있다. 따라서, 캡처하기 위한 프레임이 치환된 변형 데이터인지 확인하기 위해서는 프레임에 상응하는 데이터에 치환 표식이 포함되어있는지 여부를 확인함으로써 판단할 수 있다.At this time, if the frame includes a substitution mark indicating that at least one picture data is replaced, it can be determined that the frame corresponds to at least one piece of transformed data. When replacing data, the transformed data to be substituted with the picture data may include a substitution mark to indicate that the corresponding data has been replaced. Accordingly, in order to confirm whether the frame to be captured is the transformed transformed data, it can be determined whether or not the data corresponding to the frame includes a substitution mark.

이 때, 프레임이 적어도 하나의 변형 데이터에 상응하는 경우에 적어도 하나의 그림 데이터 중 프레임에 상응하는 그림 데이터를 복원하여 이미지를 캡처할 수 있다.At this time, when the frame corresponds to at least one deformation data, the image data can be captured by restoring the picture data corresponding to the frame among at least one picture data.

이 때, 적어도 하나의 변형 데이터 중 프레임에 상응하는 변형 데이터와 매핑된 프레임에 상응하는 그림 데이터를 복원할 수 있다.At this time, it is possible to restore the picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

예를 들어, 어플리케이션 실행화면에서 치환된 적어도 하나의 변형 데이터와 적어도 하나의 그림 데이터를 매핑하여 저장하는 매핑 테이블에서 프레임에 상응하는 변형 데이터를 검색할 수 있다. 이 후 검색된 변형 데이터와 매핑되어 테이블에 저장된 그림 데이터로 어플리케이션 실행화면을 복원할 수 있다. For example, it is possible to retrieve transformed data corresponding to a frame in a mapping table for mapping and storing at least one transformed data and at least one transformed transformed data on an application execution screen. The application execution screen can be restored with the image data mapped to the searched transformed data and stored in the table.

또한, 프레임에 상응하는 변형 데이터에 포함된 치환 표식을 이용하여 매핑 테이블에서 프레임에 상응하는 그림 데이터를 획득할 수도 있다. 예를 들어, 적어도 하나의 변형 데이터마다 각각 상이한 치환 표식을 가질 수 있고, 치환 표식도 매핑 테이블에 함께 매핑하여 저장하는 경우에 치환 표식을 주소값처럼 검색하여 함께 매핑된 그림 데이터를 획득할 수도 있다. In addition, picture data corresponding to a frame in the mapping table may be obtained by using a replacement mark included in the deformation data corresponding to the frame. For example, each of the at least one deformation data may have a different replacement mark, and when the replacement mark is mapped together with the mapping table, the replacement mark may be searched as an address value to obtain the mapped image data .

이 때, 어플리케이션 실행화면에서 치환된 적어도 하나의 변환 데이터와 적어도 하나의 그림 데이터를 서로 매핑하는 방법은 매핑 테이블을 이용한 방법 말고도 다양한 방법이 사용될 수 있다.At this time, a method of mapping at least one transformed data and at least one picture data to each other on the application execution screen may be various methods other than a method using a mapping table.

이 때, 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 이미지를 캡처할 수 있다. 예를 들어, 어플리케이션 실행화면을 구성하는 많은 프레임들 중에서 현재 프레임과 이전 프레임을 비교하고, 두 프레임간에 차이가 있는 부분을 변화된 부분으로 판단하여 이미지로 캡처할 수 있다. 또한, 변화된 부분이 프레임 상에서 복수의 영역으로 검출되는 경우에는, 복수의 영역을 포함하는 하나의 영역을 이미지로 캡처하거나 복수의 영역을 각각 여러 이미지로 캡처할 수도 있다.At this time, it is possible to capture an image corresponding to the changed portion compared with the previous frame of the frame. For example, it is possible to compare a current frame with a previous frame among a large number of frames constituting an application execution screen, and to judge a difference part between two frames as a changed part and capture it as an image. In addition, when the changed portion is detected as a plurality of regions on the frame, one region including a plurality of regions may be captured as an image, or a plurality of regions may be captured as a plurality of images.

이 때, 프레임이 적어도 하나의 변형 데이터에 상응하지 않는 경우에 복원을 수행하지 않고 이미지를 캡처할 수 있다. 즉, 이미지를 캡처하는 부분이 치환된 부분이 아니기 때문에 복원하는 과정 없이 바로 캡처를 수행할 수 있다. At this time, if the frame does not correspond to at least one deformation data, the image can be captured without performing restoration. In other words, since the capturing part of the image is not a substituted part, capturing can be performed directly without restoration.

스트리밍부(250)는 이미지를 스틸 이미지 인코딩하여 단말로 전송한다.The streaming unit 250 encodes the still image and transmits the still image to the terminal.

이 때, 여러 스틸 이미지 인코딩 방식 중 이미지에 상응하는 방식을 선택하여 스틸 이미지 인코딩을 수행할 수 있다. At this time, still image encoding can be performed by selecting a method corresponding to an image among a plurality of still image encoding methods.

이 때, 스틸 이미지 인코딩 방식은 클라우드 스트리밍 서버(110)에서 발생하는 부하량, 서비스 속도, 이미지의 화질 또는 인코딩된 이미지를 수신하여 렌더링하는 단말의 성능 등을 고려하여 결정할 수 있다. 예를 들어, 클라우드 스트리밍 서비스의 속도를 향상시키기 위해서는 압축률이 높고 부하가 적게 발생하는 팔렛트 PNG 인코딩 방식으로 이미지를 압축할 수 있다. 또한, 부하량은 상관하지 않고 이미지의 화질을 좋게 제공하고 싶다면, PNG32bit 인코딩 방식 또는 JPEG 인코딩 방식 등을 이용하여 이미지를 압축할 수 있다.In this case, the still image encoding method can be determined in consideration of the load generated in the cloud streaming server 110, the service speed, the image quality of the image, or the performance of the terminal receiving and rendering the encoded image. For example, to improve the speed of the cloud streaming service, you can compress the image with a palette PNG encoding method that has a high compression ratio and low load. In addition, if it is desired to provide a good image quality without regard to the load, the image can be compressed using the PNG 32-bit encoding method or the JPEG encoding method.

저장부(260)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.The storage unit 260 stores various information generated in the cloud streaming service process according to the embodiment of the present invention as described above.

실시예에 따라, 저장부(260)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(260)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.According to an embodiment, the storage unit 260 may be configured independently of the cloud streaming server 110 to support a function for the cloud streaming service. At this time, the storage unit 260 may operate as a separate mass storage and may include a control function for performing operations.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.In addition, the cloud streaming server 110 configured as described above may be implemented as one or more servers.

한편, 클라우드 스트리밍 서버(110)는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.On the other hand, the cloud streaming server 110 can store information in the memory on which the memory is mounted. In one implementation, the memory is a computer-readable medium. In one implementation, the memory may be a volatile memory unit, and in other embodiments, the memory may be a non-volatile memory unit. In one implementation, the storage device is a computer-readable medium. In various different implementations, the storage device may comprise, for example, a hard disk device, an optical disk device, or any other mass storage device.

이와 같은 클라우드 스트리밍 서버(110)를 통해 이미지 기반의 클라우드 스트리밍 시 렌더링을 수행할 때 발생하는 부하량을 감소시켜 이미지 클라우드 스트리밍 시스템의 효율을 향상시킬 수 있다.The efficiency of the image cloud streaming system can be improved by reducing the amount of load generated when the image-based cloud streaming is performed through the cloud streaming server 110.

또한, 사용자에게 제공되는 서비스 품질은 유지하면서도 클라우드 스트리밍 서버의 리소스는 절약할 수 있어 보다 효과적으로 클라우드 스트리밍 서비스 시스템을 운용하는 것이 가능하다.In addition, it is possible to save the resources of the cloud streaming server while maintaining the quality of service provided to the user, and to operate the cloud streaming service system more effectively.

도 3은 본 발명의 일실시예에 따른 데이터 치환 과정을 나타낸 도면이다.3 is a diagram illustrating a data replacement process according to an embodiment of the present invention.

도 3을 참조하면, 본 발명의 일실시예에 따른 데이터 치환 과정은 먼저 어플리케이션 실행화면을 구성하는 프레임들(310) 중에서 그림 데이터에 상응하는 프레임(311)을 검색하는 과정을 수행할 수 있다.Referring to FIG. 3, a data replacement process according to an embodiment of the present invention may first search for a frame 311 corresponding to picture data among frames 310 constituting an application execution screen.

클라우드 스트리밍 서비스 시, 어플리케이션 실행화면을 렌더링한 화면을 사용자가 보는 것이 아니기 때문에 높은 품질로 렌더링할 필요가 없을 수 있다. 즉, 그림 데이터를 좋은 품질로 렌더링할 필요가 없다는 의미와 상통할 수 있다.At the time of the cloud streaming service, since the user does not see the screen in which the application execution screen is rendered, it may not be necessary to render it with high quality. That is, it can be said that it is not necessary to render the picture data with good quality.

따라서, 본 발명에서는 클라우드 스트리밍 서버에서 그림 데이터를 렌더링할 때 사용되는 리소스를 절약하기 위해서, 그림 데이터를 보다 용량이 작은 변형 데이터로 치환한 뒤 렌더링을 수행할 수 있는데, 이를 위해 먼저 어플리케이션 실행화면에서 그림 데이터를 검색할 수 있다.Therefore, in the present invention, in order to save resources used in rendering the picture data in the cloud streaming server, it is possible to perform rendering after replacing picture data with deformation data having a smaller capacity. You can search for picture data.

이 후, 검색된 그림 데이터에 상응하는 프레임(311)을 변형 데이터에 상응하는 프레임(321)으로 치환할 수 있다.Thereafter, the frame 311 corresponding to the retrieved picture data can be replaced with the frame 321 corresponding to the transformed data.

이 때, 어플리케이션 실행화면에 치환되어 포함되는 적어도 하나의 변형 데이터, 즉 프레임(321)은 치환 표식을 포함할 수 있다. 이 때, 치환 표식은 추후에 캡처을 수행할 때 캡처될 대상이 변형 데이터인지 여부를 확인하기 위해 사용될 수 있다. At this time, the at least one modified data included in the application execution screen, that is, the frame 321, may include a substitution mark. At this time, the substitution mark can be used to check whether or not the object to be captured when the capture is performed later is deformation data.

이 때, 그림 데이터에 상응하는 프레임(311)과 변형 데이터에 상응하는 프레임(321)을 매핑하여 저장할 수 있다.At this time, the frame 311 corresponding to the picture data and the frame 321 corresponding to the transformed data can be mapped and stored.

또한, 치환 표식은 변형 데이터와 그림 데이터가 매핑되어 저장될 때 함께 저장될 수도 있다. 또한, 치환 표식은 각각의 변형 데이터마다 고유한 형태로 포함될 수 있고, 또는 모두 동일한 형태의 치환 표식이 포함될 수도 있다.In addition, the substitution markers may be stored together when the transformed data and the picture data are mapped and stored. In addition, the substitution tag may be included in a unique form for each transformed data, or may include a substitution tag of the same type.

이 때, 매핑 테이블을 이용하여 그림 데이터에 상응하는 프레임(311)과 변형 데이터에 상응하는 프레임(321)을 매핑하여 저장할 수 있다. 예를 들어 매핑 테이블을 생성하고, 테이블의 항목마다 치환된 변형 데이터와 변형 데이터에 상응하는 그림 데이터를 저장할 수 있다.At this time, the frame 311 corresponding to the picture data and the frame 321 corresponding to the transformed data can be mapped and stored using the mapping table. For example, a mapping table can be created, and picture data corresponding to transformed data and transformed data can be stored for each item of the table.

도 4는 본 발명의 일실시예에 따른 이미지 캡처 과정을 나타낸 도면이다.4 is a flowchart illustrating an image capturing process according to an exemplary embodiment of the present invention.

도 4를 참조하면, 본 발명의 일실시예에 따른 이미지 캡처 과정은 이전 프레임(410)과 현재 프레임(420)을 비교하여, 두 프레임간의 차이가 있는 부분을 변화된 부분으로 판단하여 이미지로 캡처할 수 있다.Referring to FIG. 4, in the image capturing process according to an embodiment of the present invention, a previous frame 410 and a current frame 420 are compared, and a portion having a difference between two frames is determined as a changed portion, .

예를 들어, 도 4의 이전 프레임(410)과 현재 프레임(420)을 비교하면, 이전 프레임(410)의 A부터 D까지 4개의 영역 중에서 A와 B에 해당하는 두 개의 영역이 현재 프레임(420)에서는 A'와 B'로 변한 것을 확인할 수 있다. 즉, 실제 화면에서 해당 영역의 다른 내용이 표시되었다는 의미와 상통할 수 있다. For example, when comparing the previous frame 410 and the current frame 420 of FIG. 4, two regions A and B among the four regions A to D of the previous frame 410 correspond to the current frame 420 ), It can be confirmed that A 'and B' are changed. That is, it can be said that other contents of the area are displayed on the actual screen.

따라서, 클라우드 스트리밍 서버의 캡처단에서는 변화된 A'와 B'에 해당하는 영역을 캡처 이미지(430)로 판단하고 캡처를 수행할 수 있다.Accordingly, at the capture end of the cloud streaming server, the region corresponding to the changed A 'and B' can be determined as the capture image 430 and capture can be performed.

이와 같은 캡처 이미지(430)는 비교되는 프레임에 따라 다양하게 생성될 수 있다. 또한, 캡처 이미지(430)는 하나의 이미지가 아닌 여러 이미지로 생성될 수도 있다. Such a captured image 430 may be variously generated according to a frame to be compared. Also, the captured image 430 may be generated as multiple images instead of one image.

예를 들어, 이전 프레임과 현재 프레임을 비교하였을 때, 서로 맞닿지 않는 여러 영역이 변했다고 가정한다면, 변화가 발생한 영역을 각각 캡처 이미지로 생성하여 캡처를 수행할 수도 있다.For example, when comparing the previous frame and the current frame, assuming that various regions that are not in contact with each other have changed, capturing may be performed by generating a captured image as a captured image, respectively.

또한, 변화가 발생한 여러 영역을 모두 포함하는 하나의 영역을 새롭게 생성하고, 새롭게 생성한 영역을 하나의 캡처 이미지로 생성할 수도 있다. 이와 같이 여러 개의 캡처 영역을 하나의 영역으로 합쳐서 캡처 이미지를 생성함으로써, 후에 캡처된 이미지를 스틸 이미지 인코딩할 때 한번의 인코딩만으로 서비스를 수행할 수 있어 서버에서 사용되는 리소스를 절약할 수도 있다.In addition, one area including all the areas where the change occurs may be newly generated, and the newly generated area may be generated as one capture image. By combining a plurality of capture regions into one region to generate a capture image, a still image can be encoded with a single encoding, thereby saving resources used by the server.

따라서, 캡처를 수행하는 방법은 해당하는 클라우드 스트리밍 서버의 성능이나 이미지를 수신하는 단말의 성능을 고려하여 다양한 방법으로 수행될 수 있으며, 관리자에 설정에 따라 자유롭게 설정 변경이 가능할 수 있다.Accordingly, the method of performing the capture can be performed in various ways in consideration of the performance of the corresponding cloud streaming server or the performance of the terminal receiving the image, and the setting can be freely changed according to the setting by the administrator.

도 5는 본 발명의 일실시예에 따른 매핑 테이블을 나타낸 도면이다.5 is a diagram illustrating a mapping table according to an embodiment of the present invention.

도 5를 참조하면, 본 발명의 일실시예에 따른 매핑 테이블(510)은 치환 표식, 변형 데이터, 그림 데이터를 포함할 수 있다.Referring to FIG. 5, a mapping table 510 according to an embodiment of the present invention may include substitution markers, modified data, and picture data.

본 발명에 따르면, 어플리케이션 실행화면을 렌더링할 때, 렌더링한 화면이 사용자에게 출력되는 것이 아니기 때문에 렌더링 화면이 높은 품질로 생성될 필요가 없다. According to the present invention, since the rendered screen is not output to the user when rendering the application execution screen, the rendering screen does not need to be generated with high quality.

따라서, 렌더링에 많은 리소스를 필요로 하는 그림 데이터들의 경우 렌더링 전에 데이터 용량이 감소된 변형 데이터로 치환된 후 렌더링을 수행할 수 있는데, 클라우드 스트리밍 서버의 캡처단에서 캡처를 수행할 때에는 치환된 데이터를 다시 그림 데이터로 복원하는 과정을 수행해야 할 수 있다. 이는 이미지가 캡처되는 프레임이 데이터 용량이 감소된 변형 데이터인 경우에는 실제로 사용자에게 출력되는 이미지의 화질이 떨어질 수 있기 때문일 수 있다.Therefore, in the case of picture data that requires a lot of resources for rendering, it is possible to perform rendering after replacing the transformed data with reduced data capacity before rendering. In performing capturing at the capture end of the cloud streaming server, It may be necessary to perform a process of restoring the image data again. This may be because, when the frame in which the image is captured is deformed data whose data capacity is reduced, the image quality of the image actually output to the user may deteriorate.

따라서 복원할 때 변형 데이터에 상응하는 그림 데이터를 수월하게 획득하기 위해서 치환할 때 도 5와 같은 매핑 테이블을 생성하여 저장해 둘 수 있다.Therefore, the mapping table shown in FIG. 5 can be generated and stored when replacing the image data corresponding to the transformed data to easily obtain the reconstructed image data.

이 때, 치환 표식은 그림 데이터와 치환되는 변형 데이터에 포함되는 표식으로써, 캡처단에서 캡처를 수행하기 위해 검출된 프레임이 치환된 변형 데이터인지 여부를 확인하기 위한 수단일 수 있다. 즉, 프레임에 치환 표식이 포함되어있다면, 해당 프레임을 변형 데이터로 판단하고 복원 과정을 수행한 뒤 이미지를 캡처할 수 있다.In this case, the substitution mark is a mark included in the transformed data to be substituted with the picture data, and may be a means for checking whether or not the detected frame for performing the capturing at the capturing end is the transformed transformed data. That is, if the frame includes the replacement mark, the frame can be determined as the transformed data, and the image can be captured after performing the restoration process.

이 때, 치환 표식은 도 5와 같이 각각의 변형 데이터마다 고유하게 생성될 수도 있다. 이와 같이 고유하게 생성된 치환 표식을 매핑 테이블(510)에 함께 저장함으로써, 변형 데이터에 대한 그림 데이터를 매핑 테이블에서 검색할 때, 치환 표식을 주소값처럼 사용하여 그림 데이터를 획득할 수도 있다.At this time, the substitution landmarks may be generated uniquely for each of the transformed data as shown in FIG. By storing the substitution markers uniquely generated in this manner together in the mapping table 510, it is also possible to obtain picture data by using the substitution markers as address values when searching picture data for the modified data in the mapping table.

또한, 변형 데이터들이 모두 동일한 형식의 치환 표식을 포함할 수도 있는데, 이 때에는 변형 데이터 자체를 매핑 테이블(510)의 주소값처럼 사용하여 그림 데이터를 획득할 수 있다.Also, all of the transformed data may include substitution markers of the same type. At this time, the transformed data itself can be used as an address value of the mapping table 510 to obtain picture data.

이 때, 어플리케이션 실행화면에서 치환된 변환 데이터와 그림 데이터를 매핑하는 방법은 도 5와 같은 매핑 테이블(510)을 이용한 방법 말고도 다양한 방법이 사용될 수 있다.At this time, various methods other than the method using the mapping table 510 as shown in FIG. 5 can be used as a method of mapping substituted data and picture data on the application execution screen.

도 6은 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.FIG. 6 is a flowchart illustrating an image cloud streaming service method using data replacement according to an embodiment of the present invention.

도 6을 참조하면, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링한다(S610).Referring to FIG. 6, an image cloud streaming service method using data replacement according to an exemplary embodiment of the present invention renders at least one picture data included in an application execution picture by substituting at least one modified data having a reduced capacity (S610).

비디오 코덱 기반의 클라우드 스트리밍 기법은 어플리케이션이 동작하는 화면에 상응하는 모든 프레임을 캡처하여 인코딩을 수행할 수 있다. 그러나 어플리케이션이 동작하는 화면 상에서 프레임간 변화가 크지 않은 경우에는 이미지 기반의 클라우드 스트리밍 기법과 같이 이전 프레임과 비교하여 변화된 프레임의 변화 영역만을 캡처하여 스틸 이미지 인코딩을 수행하고, 사용자의 단말에 디스플레이 할 때 변화 영역을 제외한 부분은 동일하게 보여주고 변화 영역만 변화를 주는 방식으로 디스플레이 할 수 있다.The cloud streaming technique based on the video codec can capture and encode all the frames corresponding to the screen on which the application operates. However, when the frame-to-frame change on the screen on which the application operates is not large, the still-image encoding is performed by capturing only the change area of the changed frame as compared with the previous frame like the image-based cloud streaming technique, The part except for the change area can be displayed in the same manner, and the change area can be displayed in a manner of changing only.

이러한 이미지 기반의 클라우드 스트리밍 서비스에서 CPU 등의 자원을 가장 많이 소비하게 하게 하는 구성 요소가 바로 그림 데이터이다. 이 때, 그림 데이터는 자연 이미지나 합성 이미지 중 적어도 하나를 포함할 수 있으며, 적어도 하나의 컬러를 포함하는 이미지일 수 있다. 또한, 그림 데이터는 텍스트와 같은 일반 데이터에 비해서 렌더링을 수행할 때 클라우드 스트리밍 서버에서 더 많은 리소스를 사용할 수 있다. In this image-based cloud streaming service, picture data is the component that makes the CPU and other resources consume the most. At this time, the picture data may include at least one of a natural image and a composite image, and may be an image including at least one color. In addition, picture data can use more resources in the cloud streaming server when rendering, compared to regular data such as text.

렌더링은 컴퓨터 프로그램을 사용하여 여러 씬들로부터 영상을 만들어내는 과정을 말할 수 있다. 하나의 씬 파일에는 정확히 정의된 언어나 자료 구조로 이루어진 개체들이 있으며, 여기에는 가상의 씬을 표현하는 도형의 배열, 시점, 텍스처 매핑, 조명, 셰이딩 정보 등이 포함될 수 있다. 이와 같은 씬 파일에 포함된 자료들은 렌더링되어 결과물로서 디지털 이미지, 래스터 그래픽스 이미지 파일을 만들어낼 수 있다. 렌더링 방식은 기술적으로 매우 다양하지만 그래픽 처리 장치(GPU) 같은 렌더링 장치를 통한 그래픽스 파이프라인을 따라 씬 파일에 저장되어있는 3차원 연출로부터 2차원의 그림을 만들어낸다는 점은 동일하다. 또한, GPU는 중앙 처리 장치(CPU)가 복잡한 렌더링 계산을 수행할 때 도움을 주도록 만들어진 장치이다.Rendering is the process of creating images from multiple scenes using a computer program. A scene file contains objects with precisely defined language or data structures, which can include an array of shapes representing the virtual scene, viewpoints, texture mapping, lighting, shading information, and so on. The data contained in such a scene file can be rendered to produce a digital image or raster graphics image file as a result. The rendering method is technically very different, but it is the same in that it creates a two-dimensional picture from the three-dimensional rendering stored in the scene file along the graphics pipeline through a rendering device such as a graphics processing unit (GPU). The GPU is also a device designed to help a central processing unit (CPU) perform complex rendering calculations.

그러나 클라우드 스트리밍 서비스 시, 어플리케이션 실행화면을 렌더링한 화면을 사용자가 보는 것이 아니기 때문에 높은 품질로 렌더링할 필요가 없을 수 있다. 즉, 그림 데이터를 좋은 품질로 렌더링할 필요가 없다는 의미와 상통할 수 있다. However, in the cloud streaming service, since the user does not see a screen in which the application execution screen is rendered, it may not be necessary to render it with high quality. That is, it can be said that it is not necessary to render the picture data with good quality.

따라서, 본 발명에서는 클라우드 스트리밍 서버에서 그림 데이터를 렌더링할 때 사용되는 리소스를 절약하기 위해서, 그림 데이터를 보다 용량이 작은 변형 데이터로 치환한 뒤 렌더링을 수행할 수 있다. 이 때, 변형 데이터는 그림 데이터의 품질을 저하시켜 용량을 감소시킨 데이터에 상응할 수 있다. 예를 들어, 그림 데이터에서 컬러 수를 줄여서 용량을 감소시킨 변형 데이터로 치환할 수 있다.Therefore, in the present invention, in order to save resources used in rendering the picture data in the cloud streaming server, it is possible to perform rendering after replacing picture data with deformation data having a smaller capacity. At this time, the deformation data may correspond to the data in which the quality of picture data is lowered and the capacity is reduced. For example, it is possible to substitute deformation data whose capacity is reduced by reducing the number of colors in the picture data.

이 때, 어플리케이션 실행화면에 치환되어 포함되는 적어도 하나의 변형 데이터는 각각 치환 표식을 포함할 수 있다. 치환 표식은 추후에 캡처을 수행할 때 캡처될 대상이 변형 데이터인지 여부를 확인하기 위해 사용될 수 있다. At this time, the at least one modified data included in the application execution screen may include substitution markers. Substitution markers can be used to determine if the object to be captured is transformed data when performing capturing at a later time.

이 때, 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and replaced.

이 때, 치환 표식은 변형 데이터와 그림 데이터가 매핑되어 저장될 때 함께 저장될 수도 있다. 또한, 치환 표식은 각각의 변형 데이터마다 고유한 형태로 포함될 수 있고, 또는 모두 동일한 형태의 치환 표식이 포함될 수도 있다.At this time, the substitution markers may be stored together when the transformed data and the picture data are mapped and stored. In addition, the substitution tag may be included in a unique form for each transformed data, or may include a substitution tag of the same type.

이 때, 매핑 테이블에 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 저장할 수 있다. 예를 들어 매핑 테이블을 생성하고, 테이블의 항목마다 치환된 변형 데이터와 변형 데이터에 상응하는 그림 데이터를 저장할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and stored in the mapping table. For example, a mapping table can be created, and picture data corresponding to transformed data and transformed data can be stored for each item of the table.

또한, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 렌더링된 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출한다(S620).In addition, the method of image cloud streaming service through data replacement according to an embodiment of the present invention detects a frame to capture an image to be transmitted to a terminal on a rendered application execution screen (S620).

이 때, 렌더링된 어플리케이션의 실행화면에 상응하는 프레임들 중 프레임간의 변화가 적은 구간들을 검출하고, 프레임간의 변화가 적은 구간에서 이미지를 캡처할 프레임을 검출할 수 있다. 예를 들어, 프레임간의 변화가 많은 구간은 캡처할 이미지의 수가 많아 이미지 기반의 클라우드 스트리밍 서비스를 제공하는 것이 비효율적일 수 있다. 따라서, 이와 같이 변화가 많은 구간은 비디오 코덱 기반의 클라우드 스트리밍 기법을 통해 서비스를 수행하고, 프레임간 변화가 적은 구간에서만 이미지 기반의 클라우드 스트리밍 서비스를 수행하기 위해 변화된 프레임에서 이미지를 캡처할 수 있다.In this case, it is possible to detect intervals in which there is little change between frames among the frames corresponding to the execution screen of the rendered application, and to detect a frame in which the image is to be captured in a section where the change between frames is small. For example, it may be inefficient to provide an image-based cloud streaming service because there are a large number of images to be captured with a large number of frames between frames. Therefore, the service can be performed through the cloud streaming technique based on the video codec and the image can be captured in the changed frame in order to perform the image based cloud streaming service only in a section where the change between the frames is small.

또한, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 프레임이 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 프레임을 적어도 하나의 그림 데이터로 복원하여 이미지를 캡처한다(S630). 렌더링을 수행할 때 치환된 변형 데이터에서 이미지를 캡처한다면, 용량을 감소시키기 위해 화질이 저하된 상태에서 캡처를 하게 되므로 사용자에게도 화질이 저하된 이미지를 제공하게 될 수 있다. 따라서, 사용자에게는 기본의 방식과 동일하게 화질을 보장하여 서비스를 제공하기 위해서 변형 데이터를 원래의 그림 데이터로 복원하여 캡처할 수 있다.In addition, the method of image cloud streaming service through data replacement according to an embodiment of the present invention restores a frame into at least one picture data and captures an image according to whether the frame corresponds to at least one transformed data (S630) . If the image is captured from the transformed transformed data at the time of rendering, the image is captured in a state where the image quality is deteriorated in order to reduce the capacity, so that the user may be provided with a degraded image. Accordingly, the transformed data can be restored to the original picture data and captured by the user in order to provide the service by ensuring the image quality in the same manner as the basic method.

이 때, 프레임에 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 프레임이 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다. 데이터를 치환할 때, 그림 데이터와 치환되는 변형 데이터에는 해당 데이터가 치환되었다는 것을 알리기 위해 치환 표식을 포함할 수 있다. 따라서, 캡처하기 위한 프레임이 치환된 변형 데이터인지 확인하기 위해서는 프레임에 상응하는 데이터에 치환 표식이 포함되어있는지 여부를 확인함으로써 판단할 수 있다.At this time, if the frame includes a substitution mark indicating that at least one picture data is replaced, it can be determined that the frame corresponds to at least one piece of transformed data. When replacing data, the transformed data to be substituted with the picture data may include a substitution mark to indicate that the corresponding data has been replaced. Accordingly, in order to confirm whether the frame to be captured is the transformed transformed data, it can be determined whether or not the data corresponding to the frame includes a substitution mark.

이 때, 프레임이 적어도 하나의 변형 데이터에 상응하는 경우에 적어도 하나의 그림 데이터 중 프레임에 상응하는 그림 데이터를 복원하여 이미지를 캡처할 수 있다.At this time, when the frame corresponds to at least one deformation data, the image data can be captured by restoring the picture data corresponding to the frame among at least one picture data.

이 때, 적어도 하나의 변형 데이터 중 프레임에 상응하는 변형 데이터와 매핑된 프레임에 상응하는 그림 데이터를 복원할 수 있다.At this time, it is possible to restore the picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

예를 들어, 어플리케이션 실행화면에서 치환된 적어도 하나의 변형 데이터와 적어도 하나의 그림 데이터를 매핑하여 저장하는 매핑 테이블에서 프레임에 상응하는 변형 데이터를 검색할 수 있다. 이 후 검색된 변형 데이터와 매핑되어 테이블에 저장된 그림 데이터로 어플리케이션 실행화면을 복원할 수 있다. For example, it is possible to retrieve transformed data corresponding to a frame in a mapping table for mapping and storing at least one transformed data and at least one transformed transformed data on an application execution screen. The application execution screen can be restored with the image data mapped to the searched transformed data and stored in the table.

또한, 프레임에 상응하는 변형 데이터에 포함된 치환 표식을 이용하여 매핑 테이블에서 프레임에 상응하는 그림 데이터를 획득할 수도 있다. 예를 들어, 적어도 하나의 변형 데이터마다 각각 상이한 치환 표식을 가질 수 있고, 치환 표식도 매핑 테이블에 함께 매핑하여 저장하는 경우에 치환 표식을 주소값처럼 검색하여 함께 매핑된 그림 데이터를 획득할 수도 있다. In addition, picture data corresponding to a frame in the mapping table may be obtained by using a replacement mark included in the deformation data corresponding to the frame. For example, each of the at least one deformation data may have a different replacement mark, and when the replacement mark is mapped together with the mapping table, the replacement mark may be searched as an address value to obtain the mapped image data .

이 때, 어플리케이션 실행화면에서 치환된 적어도 하나의 변환 데이터와 적어도 하나의 그림 데이터를 서로 매핑하는 방법은 매핑 테이블을 이용한 방법 말고도 다양한 방법이 사용될 수 있다.At this time, a method of mapping at least one transformed data and at least one picture data to each other on the application execution screen may be various methods other than a method using a mapping table.

이 때, 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 이미지를 캡처할 수 있다. 예를 들어, 어플리케이션 실행화면을 구성하는 많은 프레임들 중에서 현재 프레임과 이전 프레임을 비교하고, 두 프레임간에 차이가 있는 부분을 변화된 부분으로 판단하여 이미지로 캡처할 수 있다. 또한, 변화된 부분이 프레임 상에서 복수의 영역으로 검출되는 경우에는, 복수의 영역을 포함하는 하나의 영역을 이미지로 캡처하거나 복수의 영역을 각각 여러 이미지로 캡처할 수도 있다.At this time, it is possible to capture an image corresponding to the changed portion compared with the previous frame of the frame. For example, it is possible to compare a current frame with a previous frame among a large number of frames constituting an application execution screen, and to judge a difference part between two frames as a changed part and capture it as an image. In addition, when the changed portion is detected as a plurality of regions on the frame, one region including a plurality of regions may be captured as an image, or a plurality of regions may be captured as a plurality of images.

이 때, 프레임이 적어도 하나의 변형 데이터에 상응하지 않는 경우에 복원을 수행하지 않고 이미지를 캡처할 수 있다. 즉, 이미지를 캡처하는 부분이 치환된 부분이 아니기 때문에 복원하는 과정 없이 바로 캡처를 수행할 수 있다.At this time, if the frame does not correspond to at least one deformation data, the image can be captured without performing restoration. In other words, since the capturing part of the image is not a substituted part, capturing can be performed directly without restoration.

또한, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 이미지를 스틸 이미지 인코딩하여 단말로 전송한다(S640). In addition, in the image cloud streaming service method of replacing data according to an embodiment of the present invention, the image is still image encoded and transmitted to the terminal (S640).

이 때, 여러 스틸 이미지 인코딩 방식 중 이미지에 상응하는 방식을 선택하여 스틸 이미지 인코딩을 수행할 수 있다. At this time, still image encoding can be performed by selecting a method corresponding to an image among a plurality of still image encoding methods.

이 때, 스틸 이미지 인코딩 방식은 클라우드 스트리밍 서버에서 발생하는 부하량, 서비스 속도, 이미지의 화질 또는 인코딩된 이미지를 수신하여 렌더링하는 단말의 성능 등을 고려하여 결정할 수 있다. 예를 들어, 클라우드 스트리밍 서비스의 속도를 향상시키기 위해서는 압축률이 높고 부하가 적게 발생하는 팔렛트 PNG 인코딩 방식으로 이미지를 압축할 수 있다. 또한, 부하량은 상관하지 않고 이미지의 화질을 좋게 제공하고 싶다면, PNG32bit 인코딩 방식 또는 JPEG 인코딩 방식 등을 이용하여 이미지를 압축할 수 있다.At this time, the still image encoding method can be determined in consideration of the load generated in the cloud streaming server, the service speed, the image quality of the image, or the performance of the terminal receiving and rendering the encoded image. For example, to improve the speed of the cloud streaming service, you can compress the image with a palette PNG encoding method that has a high compression ratio and low load. In addition, if it is desired to provide a good image quality without regard to the load, the image can be compressed using the PNG 32-bit encoding method or the JPEG encoding method.

또한, 도 6에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 도 1에 도시된 네트워크와 같은 통신망을 통해 다수의 단말들과 관련된 정보를 송수신한다. 특히, 본 발명의 일실시예에 따르면 클라우드 스트리밍 서비스에 대한 요청을 단말로부터 수신하고, 단말이 요청한 클라우드 스트리밍 서비스에 상응하는 어플리케이션의 실행결과를 단말로 제공할 수 있다.In addition, although not shown in FIG. 6, the image cloud streaming service method using data replacement according to an embodiment of the present invention transmits and receives information related to a plurality of terminals through a communication network such as the network shown in FIG. Particularly, according to an embodiment of the present invention, a request for a cloud streaming service can be received from a terminal, and an execution result of an application corresponding to a cloud streaming service requested by the terminal can be provided to the terminal.

이 때, 단말이 요청한 클라우드 스트리밍 서비스에 대해서 클라우드 스트리밍 서버로부터 어플리케이션 실행결과를 수신할 수 있다.At this time, the terminal can receive the application execution result from the cloud streaming server with respect to the requested cloud streaming service.

또한, 도 6에는 도시하지 아니하였으나, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.Although not shown in FIG. 6, the image cloud streaming service method using data replacement according to an exemplary embodiment of the present invention stores various information generated in the cloud streaming service process according to an exemplary embodiment of the present invention do.

실시예에 따라, 다양한 정보를 저장하는 저장 모듈은 클라우드 스트리밍 서버와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장 모듈은 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.According to an embodiment, the storage module for storing various information may be configured independently of the cloud streaming server to support the function for the cloud streaming service. At this time, the storage module may operate as a separate mass storage and may include control functions for performing operations.

또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버는 하나 이상의 서버로 구현될 수 있다.In addition, the cloud streaming server configured as described above may be implemented as one or more servers.

한편, 클라우드 스트리밍 서버는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.On the other hand, the cloud streaming server can store information in the device by loading the memory. In one implementation, the memory is a computer-readable medium. In one implementation, the memory may be a volatile memory unit, and in other embodiments, the memory may be a non-volatile memory unit. In one implementation, the storage device is a computer-readable medium. In various different implementations, the storage device may comprise, for example, a hard disk device, an optical disk device, or any other mass storage device.

이와 같은 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법을 이용함으로써 렌더링 시 필요한 서버의 리소스를 감소시켜 전체적인 시스템의 효율을 향상시키는 것이 가능하다.By using the image cloud streaming service method through the data substitution, it is possible to reduce the resources of the server required for rendering, thereby improving the efficiency of the overall system.

또한, 서비스 품질을 유지하되 보다 효과적으로 클라우드 스트리밍 시스템을 운용할 수 있으며, 변화된 이미지만을 처리하여 사용자 단말로 제공함으로써 저사양의 단말에서도 고사양의 어플리케이션 실행화면을 제공받을 수 있다.In addition, the service quality can be maintained, but the cloud streaming system can be operated more effectively. By processing only the changed image and providing it to the user terminal, high-end application execution screens can be provided even in low-end terminals.

도 7은 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법을 상세하게 나타낸 동작 흐름도이다.FIG. 7 is a flowchart illustrating an image cloud streaming service method according to an exemplary embodiment of the present invention.

도 7을 참조하면, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 먼저 어플리케이션 실행화면에서 그림 데이터를 검색한다(S710). 클라우드 스트리밍 서비스 시, 어플리케이션 실행화면을 렌더링한 화면을 사용자가 보는 것이 아니기 때문에 높은 품질로 렌더링할 필요가 없을 수 있다. 즉, 그림 데이터를 좋은 품질로 렌더링할 필요가 없다는 의미와 상통할 수 있다.Referring to FIG. 7, an image cloud streaming service method using data replacement according to an embodiment of the present invention searches picture data on an application execution screen (S710). At the time of the cloud streaming service, since the user does not see the screen in which the application execution screen is rendered, it may not be necessary to render it with high quality. That is, it can be said that it is not necessary to render the picture data with good quality.

따라서, 본 발명에서는 클라우드 스트리밍 서버에서 그림 데이터를 렌더링할 때 사용되는 리소스를 절약하기 위해서, 그림 데이터를 보다 용량이 작은 변형 데이터로 치환한 뒤 렌더링을 수행할 수 있는데, 이를 위해 먼저 어플리케이션 실행화면에서 그림 데이터를 검색할 수 있다.Therefore, in the present invention, in order to save resources used in rendering the picture data in the cloud streaming server, it is possible to perform rendering after replacing picture data with deformation data having a smaller capacity. You can search for picture data.

이 후, 검색된 그림 데이터를 데이터 용량이 감소된 변형 데이터로 치환한다(S720).Thereafter, the retrieved picture data is replaced with deformation data whose data capacity is reduced (S720).

이 때, 어플리케이션 실행화면에 치환되어 포함되는 적어도 하나의 변형 데이터는 각각 치환 표식을 포함할 수 있다. 치환 표식은 추후에 캡처을 수행할 때 캡처될 대상이 변형 데이터인지 여부를 확인하기 위해 사용될 수 있다. At this time, the at least one modified data included in the application execution screen may include substitution markers. Substitution markers can be used to determine if the object to be captured is transformed data when performing capturing at a later time.

이 때, 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and replaced.

이 때, 치환 표식은 변형 데이터와 그림 데이터가 매핑되어 저장될 때 함께 저장될 수도 있다. 또한, 치환 표식은 각각의 변형 데이터마다 고유한 형태로 포함될 수 있고, 또는 모두 동일한 형태의 치환 표식이 포함될 수도 있다.At this time, the substitution markers may be stored together when the transformed data and the picture data are mapped and stored. In addition, the substitution tag may be included in a unique form for each transformed data, or may include a substitution tag of the same type.

이 때, 매핑 테이블에 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 저장할 수 있다. 예를 들어 매핑 테이블을 생성하고, 테이블의 항목마다 치환된 변형 데이터와 변형 데이터에 상응하는 그림 데이터를 저장할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and stored in the mapping table. For example, a mapping table can be created, and picture data corresponding to transformed data and transformed data can be stored for each item of the table.

이 후, 변형 데이터로 치환된 어플리케이션 실행화면을 렌더링한다(S730).Thereafter, the application execution screen substituted with the transformed data is rendered (S730).

렌더링은 컴퓨터 프로그램을 사용하여 여러 씬들로부터 영상을 만들어내는 과정을 말할 수 있다. 하나의 씬 파일에는 정확히 정의된 언어나 자료 구조로 이루어진 개체들이 있으며, 여기에는 가상의 씬을 표현하는 도형의 배열, 시점, 텍스처 매핑, 조명, 셰이딩 정보 등이 포함될 수 있다. 이와 같은 씬 파일에 포함된 자료들은 렌더링되어 결과물로서 디지털 이미지, 래스터 그래픽스 이미지 파일을 만들어낼 수 있다. 렌더링 방식은 기술적으로 매우 다양하지만 그래픽 처리 장치(GPU) 같은 렌더링 장치를 통한 그래픽스 파이프라인을 따라 씬 파일에 저장되어있는 3차원 연출로부터 2차원의 그림을 만들어낸다는 점은 동일하다. 또한, GPU는 중앙 처리 장치(CPU)가 복잡한 렌더링 계산을 수행할 때 도움을 주도록 만들어진 장치이다.Rendering is the process of creating images from multiple scenes using a computer program. A scene file contains objects with precisely defined language or data structures, which can include an array of shapes representing the virtual scene, viewpoints, texture mapping, lighting, shading information, and so on. The data contained in such a scene file can be rendered to produce a digital image or raster graphics image file as a result. The rendering method is technically very different, but it is the same in that it creates a two-dimensional picture from the three-dimensional rendering stored in the scene file along the graphics pipeline through a rendering device such as a graphics processing unit (GPU). The GPU is also a device designed to help a central processing unit (CPU) perform complex rendering calculations.

이 후, 렌더링된 어플리케이션 실행화면에서 단말로 전송될 이미지를 캡처할 프레임을 검출한다(S740).Thereafter, a frame to capture an image to be transmitted to the terminal is detected on the rendered application execution screen (S740).

이 때, 렌더링된 어플리케이션의 실행화면에 상응하는 프레임들 중 프레임간의 변화가 적은 구간들을 검출하고, 프레임간의 변화가 적은 구간에서 이미지를 캡처할 프레임을 검출할 수 있다. 예를 들어, 프레임간의 변화가 많은 구간은 캡처할 이미지의 수가 많아 이미지 기반의 클라우드 스트리밍 서비스를 제공하는 것이 비효율적일 수 있다. 따라서, 이와 같이 변화가 많은 구간은 비디오 코덱 기반의 클라우드 스트리밍 기법을 통해 서비스를 수행하고, 프레임간 변화가 적은 구간에서만 이미지 기반의 클라우드 스트리밍 서비스를 수행하기 위해 변화된 프레임에서 이미지를 캡처할 수 있다.In this case, it is possible to detect intervals in which there is little change between frames among the frames corresponding to the execution screen of the rendered application, and to detect a frame in which the image is to be captured in a section where the change between frames is small. For example, it may be inefficient to provide an image-based cloud streaming service because there are a large number of images to be captured with a large number of frames between frames. Therefore, the service can be performed through the cloud streaming technique based on the video codec and the image can be captured in the changed frame in order to perform the image based cloud streaming service only in a section where the change between the frames is small.

이 후, 검출된 프레임에 치환 표식이 포함되어있는지 여부를 판단한다(S745).Thereafter, it is determined whether or not a replacement mark is included in the detected frame (S745).

만약, 렌더링을 수행할 때 치환된 변형 데이터에서 이미지를 캡처한다면, 용량을 감소시키기 위해 화질이 저하된 상태에서 캡처를 하게 되므로 사용자에게도 화질이 저하된 이미지를 제공하게 될 수 있다. 따라서, 사용자에게는 기본의 방식과 동일하게 화질을 보장하여 서비스를 제공하기 위해서 변형 데이터를 원래의 그림 데이터로 복원하여 캡처할 수 있다. If the image is captured from the transformed transformed data at the time of rendering, the captured image is degraded in order to reduce the capacity, so that the user may be provided with a degraded image. Accordingly, the transformed data can be restored to the original picture data and captured by the user in order to provide the service by ensuring the image quality in the same manner as the basic method.

이 때, 프레임에 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 프레임이 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다. 데이터를 치환할 때, 그림 데이터와 치환되는 변형 데이터에는 해당 데이터가 치환되었다는 것을 알리기 위해 치환 표식을 포함할 수 있다. 따라서, 캡처하기 위한 프레임이 치환된 변형 데이터인지 확인하기 위해서는 프레임에 상응하는 데이터에 치환 표식이 포함되어있는지 여부를 확인함으로써 판단할 수 있다.At this time, if the frame includes a substitution mark indicating that at least one picture data is replaced, it can be determined that the frame corresponds to at least one piece of transformed data. When replacing data, the transformed data to be substituted with the picture data may include a substitution mark to indicate that the corresponding data has been replaced. Accordingly, in order to confirm whether the frame to be captured is the transformed transformed data, it can be determined whether or not the data corresponding to the frame includes a substitution mark.

단계(S745)의 판단결과 치환 표식이 포함되었으면, 프레임이 치환된 것으로 판단하고 해당 프레임을 그림 데이터로 복원한다(S750).If it is determined in step S745 that the substitution mark is included, it is determined that the frame has been replaced and the corresponding frame is restored as picture data (S750).

이 때, 적어도 하나의 변형 데이터 중 프레임에 상응하는 변형 데이터와 매핑된 프레임에 상응하는 그림 데이터를 복원할 수 있다.At this time, it is possible to restore the picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

예를 들어, 어플리케이션 실행화면에서 치환된 적어도 하나의 변형 데이터와 적어도 하나의 그림 데이터를 매핑하여 저장하는 매핑 테이블에서 프레임에 상응하는 변형 데이터를 검색할 수 있다. 이 후 검색된 변형 데이터와 매핑되어 테이블에 저장된 그림 데이터로 어플리케이션 실행화면을 복원할 수 있다. For example, it is possible to retrieve transformed data corresponding to a frame in a mapping table for mapping and storing at least one transformed data and at least one transformed transformed data on an application execution screen. The application execution screen can be restored with the image data mapped to the searched transformed data and stored in the table.

또한, 프레임에 상응하는 변형 데이터에 포함된 치환 표식을 이용하여 매핑 테이블에서 프레임에 상응하는 그림 데이터를 획득할 수도 있다. 예를 들어, 적어도 하나의 변형 데이터마다 각각 상이한 치환 표식을 가질 수 있고, 치환 표식도 매핑 테이블에 함께 매핑하여 저장하는 경우에 치환 표식을 주소값처럼 검색하여 함께 매핑된 그림 데이터를 획득할 수도 있다. In addition, picture data corresponding to a frame in the mapping table may be obtained by using a replacement mark included in the deformation data corresponding to the frame. For example, each of the at least one deformation data may have a different replacement mark, and when the replacement mark is mapped together with the mapping table, the replacement mark may be searched as an address value to obtain the mapped image data .

이 때, 어플리케이션 실행화면에서 치환된 적어도 하나의 변환 데이터와 적어도 하나의 그림 데이터를 서로 매핑하는 방법은 매핑 테이블을 이용한 방법 말고도 다양한 방법이 사용될 수 있다.At this time, a method of mapping at least one transformed data and at least one picture data to each other on the application execution screen may be various methods other than a method using a mapping table.

이 후, 복원된 그림 데이터에서 이미지를 캡처한다(S760).Thereafter, the image is captured from the reconstructed picture data (S760).

이 때, 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 이미지를 캡처할 수 있다. 예를 들어, 어플리케이션 실행화면을 구성하는 많은 프레임들 중에서 현재 프레임과 이전 프레임을 비교하고, 두 프레임간에 차이가 있는 부분을 변화된 부분으로 판단하여 이미지로 캡처할 수 있다. 또한, 변화된 부분이 프레임 상에서 복수의 영역으로 검출되는 경우에는, 복수의 영역을 포함하는 하나의 영역을 이미지로 캡처하거나 복수의 영역을 각각 여러 이미지로 캡처할 수도 있다.At this time, it is possible to capture an image corresponding to the changed portion compared with the previous frame of the frame. For example, it is possible to compare a current frame with a previous frame among a large number of frames constituting an application execution screen, and to judge a difference part between two frames as a changed part and capture it as an image. In addition, when the changed portion is detected as a plurality of regions on the frame, one region including a plurality of regions may be captured as an image, or a plurality of regions may be captured as a plurality of images.

또한, 단계(S745)의 판단결과 치환 표식이 포함되지 않았으면, 프레임이 치환되지 않은 것으로 판단하고 복원을 수행하지 않고 이미지를 캡처한다(S760). 즉, 이미지를 캡처하는 부분이 치환된 부분이 아니기 때문에 복원하는 과정 없이 바로 캡처를 수행할 수 있다.If it is determined in step S745 that the substitution mark is not included, it is determined that the frame is not replaced and the image is captured without performing the restoration (S760). In other words, since the capturing part of the image is not a substituted part, capturing can be performed directly without restoration.

이 후, 캡처된 이미지를 스틸 이미지 인코딩 방식으로 스틸 이미지 인코딩한다(S770).Thereafter, the captured image is still image encoded by a still image encoding method (S770).

이 때, 스틸 이미지 인코딩 방식은 클라우드 스트리밍 서버에서 발생하는 부하량, 서비스 속도, 이미지의 화질 또는 인코딩된 이미지를 수신하여 렌더링하는 단말의 성능 등을 고려하여 결정할 수 있다. 예를 들어, 클라우드 스트리밍 서비스의 속도를 향상시키기 위해서는 압축률이 높고 부하가 적게 발생하는 팔렛트 PNG 인코딩 방식으로 이미지를 압축할 수 있다. 또한, 부하량은 상관하지 않고 이미지의 화질을 좋게 제공하고 싶다면, PNG32bit 인코딩 방식 또는 JPEG 인코딩 방식 등을 이용하여 이미지를 압축할 수 있다.At this time, the still image encoding method can be determined in consideration of the load generated in the cloud streaming server, the service speed, the image quality of the image, or the performance of the terminal receiving and rendering the encoded image. For example, to improve the speed of the cloud streaming service, you can compress the image with a palette PNG encoding method that has a high compression ratio and low load. In addition, if it is desired to provide a good image quality without regard to the load, the image can be compressed using the PNG 32-bit encoding method or the JPEG encoding method.

이 후, 스틸 이미지 인코딩된 이미지를 사용자의 단말로 전송한다(S780).Thereafter, the still image encoded image is transmitted to the user terminal (S780).

도 8은 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 과정을 나타낸 도면이다.FIG. 8 is a flowchart illustrating an image cloud streaming service process through data replacement according to an exemplary embodiment of the present invention. Referring to FIG.

도 8을 참조하면, 본 발명의 일실시예에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 과정은 먼저 웹 서버(810)가 어플리케이션을 실행하고, 어플리케이션 실행화면을 클라우드 스트리밍 서버(110)의 통신부로 전송한다(S802).8, an image cloud streaming service process through data substitution according to an exemplary embodiment of the present invention starts by executing an application by a web server 810 and transmitting an application execution screen to a communication unit of the cloud streaming server 110 (S802).

이 후, 클라우드 스트리밍 서버(110)의 통신부는 어플리케이션 실행화면을 수신하여(S804) 치환 렌더링부로 전달한다.Thereafter, the communication unit of the cloud streaming server 110 receives the application execution screen (S804) and transfers it to the replacement rendering unit.

이 후, 클라우드 스트리밍 서버(110)의 치환 렌더링부에서는 어플리케이션 실행화면에서 그림 데이터를 검색한다(S806). Thereafter, the replacement rendering unit of the cloud streaming server 110 searches the application execution screen for the picture data (S806).

이 때, 클라우드 스트리밍 서비스 시, 어플리케이션 실행화면을 렌더링한 화면을 사용자가 보는 것이 아니기 때문에 높은 품질로 렌더링할 필요가 없을 수 있다. 즉, 그림 데이터를 좋은 품질로 렌더링할 필요가 없다는 의미와 상통할 수 있다.At this time, in the cloud streaming service, since the user does not see a screen on which the application execution screen is rendered, it may not be necessary to render the application with high quality. That is, it can be said that it is not necessary to render the picture data with good quality.

따라서, 본 발명에서는 클라우드 스트리밍 서버에서 그림 데이터를 렌더링할 때 사용되는 리소스를 절약하기 위해서, 그림 데이터를 보다 용량이 작은 변형 데이터로 치환한 뒤 렌더링을 수행할 수 있는데, 이를 위해 먼저 어플리케이션 실행화면에서 그림 데이터를 검색할 수 있다.Therefore, in the present invention, in order to save resources used in rendering the picture data in the cloud streaming server, it is possible to perform rendering after replacing picture data with deformation data having a smaller capacity. You can search for picture data.

이 후, 치환 렌더링부에서는 검색된 그림 데이터를 데이터 용량이 감소된 변형 데이터로 치환한다(S808).Subsequently, the substitution rendering unit replaces the searched picture data with transformed data whose data capacity is reduced (S808).

이 때, 어플리케이션 실행화면에 치환되어 포함되는 적어도 하나의 변형 데이터는 각각 치환 표식을 포함할 수 있다. 치환 표식은 추후에 캡처을 수행할 때 캡처될 대상이 변형 데이터인지 여부를 확인하기 위해 사용될 수 있다. At this time, the at least one modified data included in the application execution screen may include substitution markers. Substitution markers can be used to determine if the object to be captured is transformed data when performing capturing at a later time.

이 때, 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 치환할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and replaced.

이 때, 치환 표식은 변형 데이터와 그림 데이터가 매핑되어 저장될 때 함께 저장될 수도 있다. 또한, 치환 표식은 각각의 변형 데이터마다 고유한 형태로 포함될 수 있고, 또는 모두 동일한 형태의 치환 표식이 포함될 수도 있다.At this time, the substitution markers may be stored together when the transformed data and the picture data are mapped and stored. In addition, the substitution tag may be included in a unique form for each transformed data, or may include a substitution tag of the same type.

이 때, 매핑 테이블에 적어도 하나의 그림 데이터와 적어도 하나의 변형 데이터를 매핑하여 저장할 수 있다. 예를 들어 매핑 테이블을 생성하고, 테이블의 항목마다 치환된 변형 데이터와 변형 데이터에 상응하는 그림 데이터를 저장할 수 있다.At this time, at least one picture data and at least one transformed data may be mapped and stored in the mapping table. For example, a mapping table can be created, and picture data corresponding to transformed data and transformed data can be stored for each item of the table.

이 후, 치환 렌더링부에서 변형 데이터로 치환된 어플리케이션 실행화면을 렌더링한다(S810).Thereafter, the substitution rendering unit renders the application execution screen substituted with the transformed data (S810).

렌더링은 컴퓨터 프로그램을 사용하여 여러 씬들로부터 영상을 만들어내는 과정을 말할 수 있다. 하나의 씬 파일에는 정확히 정의된 언어나 자료 구조로 이루어진 개체들이 있으며, 여기에는 가상의 씬을 표현하는 도형의 배열, 시점, 텍스처 매핑, 조명, 셰이딩 정보 등이 포함될 수 있다. 이와 같은 씬 파일에 포함된 자료들은 렌더링되어 결과물로서 디지털 이미지, 래스터 그래픽스 이미지 파일을 만들어낼 수 있다. 렌더링 방식은 기술적으로 매우 다양하지만 그래픽 처리 장치(GPU) 같은 렌더링 장치를 통한 그래픽스 파이프라인을 따라 씬 파일에 저장되어있는 3차원 연출로부터 2차원의 그림을 만들어낸다는 점은 동일하다. 또한, GPU는 중앙 처리 장치(CPU)가 복잡한 렌더링 계산을 수행할 때 도움을 주도록 만들어진 장치이다.Rendering is the process of creating images from multiple scenes using a computer program. A scene file contains objects with precisely defined language or data structures, which can include an array of shapes representing the virtual scene, viewpoints, texture mapping, lighting, shading information, and so on. The data contained in such a scene file can be rendered to produce a digital image or raster graphics image file as a result. The rendering method is technically very different, but it is the same in that it creates a two-dimensional picture from the three-dimensional rendering stored in the scene file along the graphics pipeline through a rendering device such as a graphics processing unit (GPU). The GPU is also a device designed to help a central processing unit (CPU) perform complex rendering calculations.

이 후, 클라우드 스트리밍 서버(110)의 프레임 검출부에서는 렌더링된 어플리케이션 실행화면에서 단말(120-1)로 전송될 이미지를 캡처할 프레임을 검출한다(S812).Thereafter, the frame detection unit of the cloud streaming server 110 detects a frame to capture an image to be transmitted to the terminal 120-1 from the rendered application execution screen (S812).

이 때, 렌더링된 어플리케이션의 실행화면에 상응하는 프레임들 중 프레임간의 변화가 적은 구간들을 검출하고, 프레임간의 변화가 적은 구간에서 이미지를 캡처할 프레임을 검출할 수 있다. 예를 들어, 프레임간의 변화가 많은 구간은 캡처할 이미지의 수가 많아 이미지 기반의 클라우드 스트리밍 서비스를 제공하는 것이 비효율적일 수 있다. 따라서, 이와 같이 변화가 많은 구간은 비디오 코덱 기반의 클라우드 스트리밍 기법을 통해 서비스를 수행하고, 프레임간 변화가 적은 구간에서만 이미지 기반의 클라우드 스트리밍 서비스를 수행하기 위해 변화된 프레임에서 이미지를 캡처할 수 있다.In this case, it is possible to detect intervals in which there is little change between frames among the frames corresponding to the execution screen of the rendered application, and to detect a frame in which the image is to be captured in a section where the change between frames is small. For example, it may be inefficient to provide an image-based cloud streaming service because there are a large number of images to be captured with a large number of frames between frames. Therefore, the service can be performed through the cloud streaming technique based on the video codec and the image can be captured in the changed frame in order to perform the image based cloud streaming service only in a section where the change between the frames is small.

이 후, 클라우드 스트리밍 서버(110)의 캡처부에서는 검출된 프레임에 치환 표식이 포함되어있는지 여부를 판단한다(S814).Thereafter, the capture unit of the cloud streaming server 110 determines whether a replacement mark is included in the detected frame (S814).

만약, 렌더링을 수행할 때 치환된 변형 데이터에서 이미지를 캡처한다면, 용량을 감소시키기 위해 화질이 저하된 상태에서 캡처를 하게 되므로 사용자에게도 화질이 저하된 이미지를 제공하게 될 수 있다. 따라서, 사용자에게는 기본의 방식과 동일하게 화질을 보장하여 서비스를 제공하기 위해서 변형 데이터를 원래의 그림 데이터로 복원하여 캡처할 수 있다. If the image is captured from the transformed transformed data at the time of rendering, the captured image is degraded in order to reduce the capacity, so that the user may be provided with a degraded image. Accordingly, the transformed data can be restored to the original picture data and captured by the user in order to provide the service by ensuring the image quality in the same manner as the basic method.

이 때, 프레임에 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 프레임이 적어도 하나의 변형 데이터에 상응하는 것으로 판단할 수 있다. 데이터를 치환할 때, 그림 데이터와 치환되는 변형 데이터에는 해당 데이터가 치환되었다는 것을 알리기 위해 치환 표식을 포함할 수 있다. 따라서, 캡처하기 위한 프레임이 치환된 변형 데이터인지 확인하기 위해서는 프레임에 상응하는 데이터에 치환 표식이 포함되어있는지 여부를 확인함으로써 판단할 수 있다.At this time, if the frame includes a substitution mark indicating that at least one picture data is replaced, it can be determined that the frame corresponds to at least one piece of transformed data. When replacing data, the transformed data to be substituted with the picture data may include a substitution mark to indicate that the corresponding data has been replaced. Accordingly, in order to confirm whether the frame to be captured is the transformed transformed data, it can be determined whether or not the data corresponding to the frame includes a substitution mark.

단계(S814)의 판단결과 치환 표식이 포함되었으면, 프레임이 치환된 것으로 판단하고 해당 프레임을 그림 데이터로 복원한다(S816).If it is determined in step S814 that the replacement mark is included, it is determined that the frame has been replaced and the corresponding frame is recovered as picture data (S816).

이 때, 적어도 하나의 변형 데이터 중 프레임에 상응하는 변형 데이터와 매핑된 프레임에 상응하는 그림 데이터를 복원할 수 있다.At this time, it is possible to restore the picture data corresponding to the frame mapped with the deformation data corresponding to the frame among the at least one deformation data.

예를 들어, 어플리케이션 실행화면에서 치환된 적어도 하나의 변형 데이터와 적어도 하나의 그림 데이터를 매핑하여 저장하는 매핑 테이블에서 프레임에 상응하는 변형 데이터를 검색할 수 있다. 이 후 검색된 변형 데이터와 매핑되어 테이블에 저장된 그림 데이터로 어플리케이션 실행화면을 복원할 수 있다. For example, it is possible to retrieve transformed data corresponding to a frame in a mapping table for mapping and storing at least one transformed data and at least one transformed transformed data on an application execution screen. The application execution screen can be restored with the image data mapped to the searched transformed data and stored in the table.

또한, 프레임에 상응하는 변형 데이터에 포함된 치환 표식을 이용하여 매핑 테이블에서 프레임에 상응하는 그림 데이터를 획득할 수도 있다. 예를 들어, 적어도 하나의 변형 데이터마다 각각 상이한 치환 표식을 가질 수 있고, 치환 표식도 매핑 테이블에 함께 매핑하여 저장하는 경우에 치환 표식을 주소값처럼 검색하여 함께 매핑된 그림 데이터를 획득할 수도 있다. In addition, picture data corresponding to a frame in the mapping table may be obtained by using a replacement mark included in the deformation data corresponding to the frame. For example, each of the at least one deformation data may have a different replacement mark, and when the replacement mark is mapped together with the mapping table, the replacement mark may be searched as an address value to obtain the mapped image data .

이 때, 어플리케이션 실행화면에서 치환된 적어도 하나의 변환 데이터와 적어도 하나의 그림 데이터를 서로 매핑하는 방법은 매핑 테이블을 이용한 방법 말고도 다양한 방법이 사용될 수 있다.At this time, a method of mapping at least one transformed data and at least one picture data to each other on the application execution screen may be various methods other than a method using a mapping table.

이 후, 복원된 그림 데이터에서 이미지를 캡처한다(S818).Thereafter, an image is captured from the reconstructed picture data (S818).

이 때, 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 이미지를 캡처할 수 있다. 예를 들어, 어플리케이션 실행화면을 구성하는 많은 프레임들 중에서 현재 프레임과 이전 프레임을 비교하고, 두 프레임간에 차이가 있는 부분을 변화된 부분으로 판단하여 이미지로 캡처할 수 있다. 또한, 변화된 부분이 프레임 상에서 복수의 영역으로 검출되는 경우에는, 복수의 영역을 포함하는 하나의 영역을 이미지로 캡처하거나 복수의 영역을 각각 여러 이미지로 캡처할 수도 있다.At this time, it is possible to capture an image corresponding to the changed portion compared with the previous frame of the frame. For example, it is possible to compare a current frame with a previous frame among a large number of frames constituting an application execution screen, and to judge a difference part between two frames as a changed part and capture it as an image. In addition, when the changed portion is detected as a plurality of regions on the frame, one region including a plurality of regions may be captured as an image, or a plurality of regions may be captured as a plurality of images.

또한, 단계(S814)의 판단결과 치환 표식이 포함되지 않았으면, 프레임이 치환되지 않은 것으로 판단하고 복원을 수행하지 않고 이미지를 캡처한다(S818). 즉, 이미지를 캡처하는 부분이 치환된 부분이 아니기 때문에 복원하는 과정 없이 바로 캡처를 수행할 수 있다.If it is determined in step S814 that the substitution mark is not included, it is determined that the frame is not replaced and the image is captured without performing the restoration (S818). In other words, since the capturing part of the image is not a substituted part, capturing can be performed directly without restoration.

이 후, 클라우드 스트리밍 서버(110)의 스트리밍부에서는 캡처된 이미지를 스틸 이미지 인코딩 방식으로 스틸 이미지 인코딩한다(S820).Thereafter, the streaming unit of the cloud streaming server 110 performs still image encoding of the captured image using a still image encoding method (S820).

이 때, 스틸 이미지 인코딩 방식은 클라우드 스트리밍 서버에서 발생하는 부하량, 서비스 속도, 이미지의 화질 또는 인코딩된 이미지를 수신하여 렌더링하는 단말의 성능 등을 고려하여 결정할 수 있다. 예를 들어, 클라우드 스트리밍 서비스의 속도를 향상시키기 위해서는 압축률이 높고 부하가 적게 발생하는 팔렛트 PNG 인코딩 방식으로 이미지를 압축할 수 있다. 또한, 부하량은 상관하지 않고 이미지의 화질을 좋게 제공하고 싶다면, PNG32bit 인코딩 방식 또는 JPEG 인코딩 방식 등을 이용하여 이미지를 압축할 수 있다.At this time, the still image encoding method can be determined in consideration of the load generated in the cloud streaming server, the service speed, the image quality of the image, or the performance of the terminal receiving and rendering the encoded image. For example, to improve the speed of the cloud streaming service, you can compress the image with a palette PNG encoding method that has a high compression ratio and low load. In addition, if it is desired to provide a good image quality without regard to the load, the image can be compressed using the PNG 32-bit encoding method or the JPEG encoding method.

이 후, 스틸 이미지 인코딩된 이미지를 사용자의 단말(120-1)로 전송한다(S822).Thereafter, the still image encoded image is transmitted to the user terminal 120-1 (S822).

이 후, 단말(120-1)에서는 수신된 이미지를 렌더링하여(S824) 사용자에게 디스플레이 한다(S826).Thereafter, the terminal 120-1 renders the received image (S824) and displays it to the user (S826).

본 발명에 따른 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The image cloud streaming service method through data substitution according to the present invention may be implemented in the form of a program command that can be executed through various computer means and recorded in a computer readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and constructed for the present invention or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Includes all types of hardware devices that are specially configured to store and execute magneto-optical media and program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions may include machine language code such as those generated by a compiler, as well as high-level language code that may be executed by a computer using an interpreter or the like. Such a hardware device may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.

이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.As described above, the cloud streaming service system according to the present invention, the image cloud streaming service method using data substitution, and the apparatus therefor are not limited to the configuration and method of the above-described embodiments, The examples may be constructed by selectively combining all or a part of each embodiment so that various modifications can be made.

본 발명에 의하면 어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링하고, 렌더링된 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출하고, 프레임이 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 프레임을 적어도 하나의 그림 데이터로 복원하여 이미지를 캡처하고, 이미지를 스틸 이미지 인코딩하여 단말로 전송할 수 있다. 나아가, 이미지 기반의 클라우드 스트리밍 서비스 시 렌더링에 사용하는 자원을 절약함으로써 클라우드 스트리밍 서버를 보다 효율적으로 운용하는 것이 가능하다.According to the present invention, at least one piece of picture data included in an application execution picture is replaced with at least one piece of transformed data having a reduced capacity, and a frame to be captured is detected from the rendered application execution picture, A frame may be restored to at least one picture data according to whether the frame corresponds to at least one piece of transform data to capture an image, and the still image may be encoded and transmitted to the terminal. Furthermore, it is possible to operate the cloud streaming server more efficiently by saving resources used for rendering in the image-based cloud streaming service.

110: 클라우드 스트리밍 서버 120-1~ 120-N: 단말
130: 네트워크 210: 통신부
220: 치환 렌더링부 230: 프레임 검출부
240: 캡처부 250: 스트리밍부
260: 저장부 310: 프레임들
311, 312: 프레임 410: 이전 프레임
420: 현재 프레임 430: 캡처 이미지
510: 매핑 테이블
110: Cloud streaming servers 120-1 to 120-N:
130: Network 210:
220: displacement rendering unit 230: frame detection unit
240: Capture unit 250: Streaming unit
260: storage unit 310: frames
311, 312: frame 410: previous frame
420: current frame 430: captured image
510: mapping table

Claims (10)

어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링하는 치환 렌더링부;
렌더링된 상기 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출하는 프레임 검출부;
상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 상기 프레임을 상기 적어도 하나의 그림 데이터로 복원하여 상기 이미지를 캡처하는 캡처부; 및
상기 이미지를 스틸 이미지 인코딩하여 상기 단말로 전송하는 스트리밍부
를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
A substitution rendering unit that substitutes and renders at least one picture data included in an application execution picture with at least one modified data having a reduced capacity;
A frame detector for detecting a frame to capture an image to be transmitted to the terminal on the rendered application execution screen;
A capture unit for capturing the image by restoring the frame to the at least one picture data according to whether the frame corresponds to the at least one deformation data; And
A still image encoding unit for encoding the still image and transmitting the still image to the terminal,
Wherein the server comprises:
청구항 1에 있어서,
상기 캡처부는
상기 프레임에 상기 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는 경우에 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 것으로 판단하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method according to claim 1,
The capture unit
Wherein the frame determining unit determines that the frame corresponds to the at least one transformed data when the frame includes a substitution mark indicating that the at least one picture data is replaced.
청구항 2에 있어서,
상기 캡처부는
상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 경우에 상기 적어도 하나의 그림 데이터 중 상기 프레임에 상응하는 그림 데이터를 복원하여 상기 이미지를 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 2,
The capture unit
And when the frame corresponds to the at least one transformed data, restores the picture data corresponding to the frame among the at least one picture data to capture the picture.
청구항 3에 있어서,
상기 치환 렌더링부는
상기 적어도 하나의 그림 데이터와 상기 적어도 하나의 변형 데이터를 매핑하여 치환하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 3,
The substitution rendering unit
Wherein the at least one image data and the at least one transformed data are mapped and replaced.
청구항 4에 있어서,
상기 캡처부는
상기 적어도 하나의 변형 데이터 중 상기 프레임에 상응하는 변형 데이터와 매핑된 상기 프레임에 상응하는 그림 데이터를 복원하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 4,
The capture unit
And restores picture data corresponding to the frame mapped with the transformed data corresponding to the frame among the at least one transformed data.
청구항 1에 있어서,
상기 캡처부는
상기 프레임의 이전 프레임과 비교하여 변화된 부분에 상응하는 상기 이미지를 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method according to claim 1,
The capture unit
And captures the image corresponding to the changed portion compared to a previous frame of the frame.
청구항 2에 있어서,
상기 캡처부는
상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하지 않는 경우에 상기 복원을 수행하지 않고 상기 이미지를 캡처하는 것을 특징으로 하는 클라우드 스트리밍 서버.
The method of claim 2,
The capture unit
And to capture the image without performing the restoration if the frame does not correspond to the at least one deformation data.
어플리케이션 실행화면에 포함된 적어도 하나의 그림 데이터를 용량이 감소된 적어도 하나의 변형 데이터로 치환하여 렌더링하는 단계;
렌더링된 상기 어플리케이션 실행화면에서 단말에게 전송될 이미지를 캡처할 프레임을 검출하는 단계;
상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는지 여부에 따라 상기 프레임을 상기 적어도 하나의 그림 데이터로 복원하여 상기 이미지를 캡처하는 단계; 및
상기 이미지를 스틸 이미지 인코딩하여 상기 단말로 전송하는 단계
를 포함하는 것을 특징으로 하는 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법.
Replacing at least one picture data included in the application execution picture with at least one modified data whose capacity is reduced;
Detecting a frame to capture an image to be transmitted to the terminal on the rendered application execution screen;
Capturing the image by restoring the frame to the at least one picture data according to whether the frame corresponds to the at least one deformation data; And
Encoding the still image and transmitting the still image to the terminal
Wherein the image cloud streaming service method comprises:
청구항 8에 있어서,
상기 캡처하는 단계는
상기 프레임에 상기 적어도 하나의 그림 데이터가 치환되었다는 치환 표식이 포함되어 있는지 여부를 확인하는 단계를 포함하고,
상기 치환 표식이 포함되어 있는 경우에 상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 것으로 판단하는 것을 특징으로 하는 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법.
The method of claim 8,
The step of capturing
And checking whether the frame includes a substitution mark indicating that the at least one picture data is replaced,
If the replacement indicator is included, determines that the frame corresponds to the at least one deformation data. ≪ Desc / Clms Page number 13 >
청구항 9에 있어서,
상기 캡처하는 단계는
상기 프레임이 상기 적어도 하나의 변형 데이터에 상응하는 경우에 상기 적어도 하나의 그림 데이터 중 상기 프레임에 상응하는 그림 데이터를 복원하여 상기 이미지를 캡처하는 것을 특징으로 하는 데이터 치환을 통한 이미지 클라우드 스트리밍 서비스 방법.
The method of claim 9,
The step of capturing
And if the frame corresponds to the at least one deformation data, restores picture data corresponding to the frame among the at least one picture data to capture the image.
KR1020150065347A 2015-05-11 2015-05-11 System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same KR102306889B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020150065347A KR102306889B1 (en) 2015-05-11 2015-05-11 System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150065347A KR102306889B1 (en) 2015-05-11 2015-05-11 System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same

Publications (2)

Publication Number Publication Date
KR20160132607A true KR20160132607A (en) 2016-11-21
KR102306889B1 KR102306889B1 (en) 2021-09-30

Family

ID=57537867

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150065347A KR102306889B1 (en) 2015-05-11 2015-05-11 System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same

Country Status (1)

Country Link
KR (1) KR102306889B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023128491A1 (en) * 2021-12-30 2023-07-06 주식회사 카이 Operation method for system for transmitting multi-channel image, and system for performing same

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
KR20130109904A (en) * 2012-03-27 2013-10-08 한국전자통신연구원 Method and apparatus for servicing multi-dimension game based on multi-screen service
KR20140056673A (en) 2012-10-30 2014-05-12 에스케이플래닛 주식회사 Method for providing game based on cloud steaming, system thereof, client terminal thereof, service apparatus thereof and computer recordable medium storing the method
KR20140057983A (en) * 2012-11-05 2014-05-14 주식회사 케이티 Virtualization server providing virtualization service of web application and method for transmitting data for providing the same
KR20140076072A (en) * 2012-12-12 2014-06-20 에스케이플래닛 주식회사 Method for providing of cloud services, apparatus and system for the same

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
KR20130109904A (en) * 2012-03-27 2013-10-08 한국전자통신연구원 Method and apparatus for servicing multi-dimension game based on multi-screen service
KR20140056673A (en) 2012-10-30 2014-05-12 에스케이플래닛 주식회사 Method for providing game based on cloud steaming, system thereof, client terminal thereof, service apparatus thereof and computer recordable medium storing the method
KR20140057983A (en) * 2012-11-05 2014-05-14 주식회사 케이티 Virtualization server providing virtualization service of web application and method for transmitting data for providing the same
KR20140076072A (en) * 2012-12-12 2014-06-20 에스케이플래닛 주식회사 Method for providing of cloud services, apparatus and system for the same

Also Published As

Publication number Publication date
KR102306889B1 (en) 2021-09-30

Similar Documents

Publication Publication Date Title
CN107209693B (en) Buffer optimization
US9922007B1 (en) Split browser architecture capable of determining whether to combine or split content layers based on the encoding of content within each layer
KR102426670B1 (en) System for cloud streaming service, method of image cloud streaming service using process shortering and apparatus for the same
US20170272545A1 (en) Method and system for transmitting remote screen
KR102199270B1 (en) System for cloud streaming service, method of cloud streaming service based on still image and apparatus for the same
KR101888846B1 (en) System for cloud streaming service, method of image cloud streaming service using reciprocal cache and apparatus for the same
KR102409033B1 (en) System for cloud streaming service, method of image cloud streaming service using alpha level of color bit and apparatus for the same
KR102442699B1 (en) System for cloud streaming service, method of image cloud streaming service using common cache and apparatus for the same
KR102306889B1 (en) System for cloud streaming service, method of image cloud streaming service using data substitution and apparatus for the same
US10042521B1 (en) Emulation of control resources for use with converted content pages
KR102177934B1 (en) System for cloud streaming service, method of image cloud streaming service using split of changed image and apparatus for the same
KR20160115566A (en) System for cloud streaming service, method of image cloud streaming service using separation of image and text and apparatus for the same
KR102247892B1 (en) System for cloud streaming service, method of image cloud streaming service using application code and apparatus for the same
KR102247887B1 (en) System for cloud streaming service, method of cloud streaming service using source information and apparatus for the same
KR20210133229A (en) User interface session recovery method in cloud streaming service and device therefor
KR102313530B1 (en) System for cloud streaming service, method of image cloud streaming service using split screen and apparatus for the same
US8688799B2 (en) Methods, apparatuses and computer program products for reducing memory copy overhead by indicating a location of requested data for direct access
KR20160131829A (en) System for cloud streaming service, method of image cloud streaming service using alpha value of image type and apparatus for the same
KR20160091622A (en) System for cloud streaming service, method of image cloud streaming service using division of the change area and apparatus for the same
KR102313531B1 (en) System for cloud streaming service, method of cloud streaming service using single session multi-access and apparatus for the same
KR102354269B1 (en) System for cloud streaming service, method of image cloud streaming service using property of scene region and method using the same
KR20170025140A (en) System for cloud streaming service, method of image cloud streaming service based on detection of change area using operating system massage and apparatus for the same
KR102247657B1 (en) System for cloud streaming service, method of cloud streaming service using separate operations of the encoding process unit and apparatus for the same
KR102053159B1 (en) Method for cloud streaming service using scalable cache image and apparatus for the same
KR20160109072A (en) System for cloud streaming service, method of image cloud streaming service based on optimum rendering and apparatus for the same

Legal Events

Date Code Title Description
N231 Notification of change of applicant
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right