WO2015119361A1 - 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치 - Google Patents

클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치 Download PDF

Info

Publication number
WO2015119361A1
WO2015119361A1 PCT/KR2014/011251 KR2014011251W WO2015119361A1 WO 2015119361 A1 WO2015119361 A1 WO 2015119361A1 KR 2014011251 W KR2014011251 W KR 2014011251W WO 2015119361 A1 WO2015119361 A1 WO 2015119361A1
Authority
WO
WIPO (PCT)
Prior art keywords
section
cloud streaming
capture
data
application
Prior art date
Application number
PCT/KR2014/011251
Other languages
English (en)
French (fr)
Inventor
이동수
김동국
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020140013974A external-priority patent/KR101668284B1/ko
Priority claimed from KR1020140061841A external-priority patent/KR102094677B1/ko
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to EP20162243.8A priority Critical patent/EP3683692A1/en
Priority to US14/761,251 priority patent/US10021162B2/en
Priority to EP14878394.7A priority patent/EP2937789A4/en
Priority to CN201480006988.0A priority patent/CN104981797B/zh
Publication of WO2015119361A1 publication Critical patent/WO2015119361A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
    • H04L65/60—Network streaming of media packets
    • H04L65/70—Media network packetisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
    • H04N21/2405—Monitoring of the internal components or processes of the server, e.g. server load
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845—Structuring of content, e.g. decomposing content into time segments
    • H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2350/00—Solving problems of bandwidth in display systems
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00—Aspects of data communication
    • G09G2370/02—Networking aspects
    • G09G2370/022—Centralised management of display operation, e.g. in a server instead of locally

Definitions

  • the present invention relates to a cloud streaming service system, a method for providing a cloud streaming service, and a device therefor, and more particularly, to an application requiring a lot of system resources.
  • a cloud streaming service system Through pre-processing for a specific section, it is possible to efficiently manage the resources of the cloud streaming server, and transmit the screen of the section with large screen change in advance so that even if the screen change for user input is large, the response speed is increased.
  • the present invention relates to a cloud streaming service system, a cloud streaming service providing method, and an apparatus therefor that can be improved.
  • the present invention claims the benefits of the Korean Patent Application No. 10-2014-0013974 filed February 7, 2014 and the Korean Patent Application No. 10-2014-0061841 filed May 22, 2014, the contents of all Is included herein.
  • the rapid development of the Internet has resulted in a drastic increase in the speed of personal communication, which can be achieved by accessing a remote computer to download or upload large amounts of data, or by using a remote computer control program. It provides an environment where a remote computer can be used as if logged in locally.
  • the application is run on the server and the driving screen is compressed through video encoding to be transmitted to the client, and the client plays the transmitted video to produce the same effect as if the application is running on its own terminal.
  • Cloud streaming services are in the spotlight.
  • An application running in the cloud streaming system updates the screen according to a preset frame period.
  • the cloud streaming server executes the application on the server side, captures the screen corresponding to the execution result, encodes the encoding, and sends the result to the terminal so that the execution result is streamed to the terminal. To be transmitted.
  • resource utilization is very important because multiple users share the resource.
  • a section in which a resource utilization rate is high when the application is executed is often a predetermined specific section among application execution sections, and the length of the specific section is often short. Even in this case, if the server resources are insufficient in this particular section, the cloud streaming system operation may become unstable and affect other users. Will be limited.
  • the average CPU utilization is about 5%, but if the CPU utilization reaches only 30% for a specific section, the number of applications must be limited to a specific section, so the cloud streaming system resources can be efficiently You cannot use it.
  • the cloud streaming server must perform a streaming pipeline procedure of rendering, capturing, encoding, and sending every screen refresh cycle. It is very important to use it efficiently.
  • the difference in the transmission amount occurs according to the change amount of the screen, and if the change in the screen is large, the transmission time is longer, so that more time is required from the user input until the client receives the screen. Will occur.
  • the transmission time is shortened and a spare band is generated until the next input by the user. Therefore, delay time can be minimized if additional data can be transmitted using the spare band.
  • Korean Patent Publication No. 10-2012-0072904 published on July 4, 2012 (name: a method of providing a game service in a cloud computing environment, a cloud computing server, and a cloud computing system).
  • An object of the present invention is to solve a problem in which cloud streaming server resources cannot be efficiently used by some specific sections of an application through preprocessing for a specific section that uses a lot of system resources of an application executed through a cloud streaming service. will be.
  • an object of the present invention is to allow a larger number of applications to be executed in one cloud streaming server, especially when running an application with high resource usage only in a certain section.
  • an object of the present invention is to minimize a delay time in a section having a large screen change by recognizing a section having a large screen change, pre-capturing and encoding the screen in advance, and transmitting the spare screen in advance to a spare band.
  • a cloud streaming server including: a storage unit configured to store a section clip on which an execution screen corresponding to a preset execution section of an application is stored; And performing a normal streaming procedure of rendering, capturing, encoding, and sending every screen update period when the use condition of the interval clip determined by considering the execution state of the application executed for the cloud streaming service is not satisfied. And a controller for providing the cloud streaming service to a terminal by performing a shortened streaming procedure of sending the section clip when a condition is satisfied.
  • the section clip may be generated by performing rendering, capturing, and encoding during the execution section.
  • the short streaming procedure may use less of the cloud streaming server resources than the normal streaming procedure.
  • the section clip may be generated for a section that uses the application of the cloud streaming server more than a predetermined level by running the application in advance.
  • the cloud streaming service providing method comprises the steps of: storing the section clip, the execution screen corresponding to the preset execution section of the application is rendered; Determining whether a condition for using the interval clip is satisfied in consideration of an execution state of the application executed for a cloud streaming service; If the usage condition is not satisfied, performing a normal streaming procedure of rendering, capturing, encoding, and sending every screen update period; And performing a shortened streaming procedure for sending the interval clip when the usage condition is satisfied.
  • the interval clip is generated by performing rendering, capturing, and encoding during the execution interval, and the shortened streaming procedure may use less resources than the normal streaming procedure.
  • the section clip may be generated for a section that uses the resource in advance by executing the application in advance.
  • the cloud streaming service system if the use condition of the interval clip determined in consideration of the running state of the application is not satisfied, performs a normal streaming procedure for each screen update period, and if the use condition is satisfied A cloud streaming server providing a cloud streaming service by performing a short streaming procedure for sending an interval clip; And a terminal receiving an application execution result screen corresponding to the cloud streaming service from the cloud streaming server.
  • the control unit for generating real-time data by capturing and encoding the execution screen corresponding to the current section of the application running for the cloud streaming service;
  • a storage unit for storing pre-capture data, which captures and encodes an execution screen corresponding to a preset pre-capture section of the application;
  • a communication unit configured to transmit the real time data and to transmit at least some of the precapture data.
  • the communication unit may transmit at least a part of the transmission of the pre-captured data during the spare band until receiving the next input.
  • the communication unit enters the pre-capture section and is requested to transmit real-time data corresponding to the pre-capture section before the transmission of all the pre-capture data is performed, the portion of the pre-capture data transmission is not performed. Can be transmitted.
  • the pre-capture section may be a section in which the change of the screen, which is searched based on the user input scenario, is larger than the preset reference.
  • the change of the screen analyzed based on the execution history of the application may be a section larger than a preset criterion.
  • the terminal device corresponds to a real-time data generated by capturing and encoding an execution screen corresponding to a current section of an application executed in a cloud streaming server and corresponding to a preset pre-capture section of the application.
  • a communication unit configured to receive at least one of pre-capture data generated by capturing and encoding an execution screen;
  • a controller configured to provide a cloud streaming service by displaying one of the real time data and the pre-capture data on a screen.
  • the communication unit may receive at least a portion of the non-received portion of the pre-capture data during the spare band until the next input.
  • the cloud streaming service method the step of capturing and encoding the execution screen corresponding to the predetermined pre-capture interval of the application executed for the cloud streaming service to generate the pre-capture data; Generating real-time data by capturing and encoding an execution screen corresponding to a current section of the application; Transmitting the real time data; And transmitting at least some of the pre-capture data.
  • the step of transmitting at least a portion of the pre-capture data may transmit at least a portion of the portion of the pre-capture data is not performed during the spare band until receiving the next input.
  • the step of transmitting at least some of the pre-capture data is entered into the pre-capture section before the transmission of all the pre-capture data is received, the transmission of the pre-capture data is received.
  • the part that is not performed can be transmitted.
  • the cloud streaming service method receiving the real-time data generated by capturing and encoding the execution screen corresponding to the current section of the application running on the cloud streaming server; Receiving at least some of pre-capture data generated by capturing and encoding an execution screen corresponding to a preset pre-capture section of the application; And providing a cloud streaming service by displaying one of the real-time data and the pre-capture data on a screen.
  • the step of receiving at least a portion of the pre-capture data may receive at least a portion of the non-received portion of the pre-capture data for the spare band until the next input.
  • the present invention it is possible to solve the problem of not using the cloud streaming server resources efficiently by some specific sections of the application through preprocessing for a particular section that uses a lot of system resources of the application executed through the cloud streaming service. .
  • the present invention may allow a larger number of applications to be executed in one cloud streaming server, especially when an application that uses a lot of resources is used only in some sections.
  • the present invention can minimize delay time when providing a cloud streaming service.
  • the present invention can minimize the delay time in a section with a large screen change by recognizing a section having a large screen change, capturing and encoding the screen in advance, and transmitting the same to a spare band in advance.
  • the present invention can improve the user's haptic response speed by transmitting only different portions when the pre-captured data previously transmitted and the data to be actually transmitted are different.
  • FIG. 1 is a block diagram showing a cloud streaming service system according to an embodiment of the present invention.
  • FIG. 2 is a block diagram showing a cloud streaming service system according to another embodiment of the present invention.
  • FIG. 3 is a block diagram illustrating an example of a cloud streaming server illustrated in FIG. 1.
  • FIG. 4 is a block diagram illustrating an example of the controller illustrated in FIG. 3.
  • FIG. 5 is a block diagram illustrating an example of a terminal illustrated in FIG. 1.
  • FIG. 6 is a block diagram illustrating an example of a cloud streaming server of FIG. 2.
  • FIG. 7 is a block diagram illustrating an example of the terminal device illustrated in FIG. 2.
  • FIG. 8 is a graph illustrating a change in resource usage rate of an application having a high resource utilization rate only in some intervals.
  • 9 to 12 are diagrams showing an example of a change of a cloud streaming service screen according to an embodiment of the present invention.
  • FIG. 13 is a flowchart illustrating a method of providing a cloud streaming service according to an embodiment of the present invention.
  • FIG. 14 is a flowchart illustrating an example of a normal streaming procedure illustrated in FIG. 13.
  • FIG. 15 is a flowchart illustrating an example of a shortened streaming procedure illustrated in FIG. 13.
  • 16 is a flowchart illustrating an example of a cloud streaming service method (server point of view) according to another embodiment of the present invention.
  • FIG. 17 is a flowchart illustrating an operation of a cloud streaming service method (terminal view) according to another embodiment of the present invention.
  • FIG. 1 is a block diagram showing a cloud streaming service system according to an embodiment of the present invention.
  • a cloud streaming service system includes a cloud streaming server 110, terminals 120-1,..., 120 -N, and a network 130.
  • the cloud streaming server 110 executes an application in response to a request of any one of the terminals 120-1,..., 120 -N, and displays the application execution result screen corresponding to the application execution result. -1, ..., 120-N).
  • the application execution result screen may be generated by performing a streaming pipeline procedure of capturing, encoding, and sending every screen update cycle in the cloud streaming server.
  • the streaming pipeline procedure may be viewed as consisting of rendering, capturing, encoding, and sending, including rendering.
  • the screen update period may be a time taken for the screen to be updated, or may be a number of times that the screen is updated for 1 second.
  • the unit of the screen update period may be s or 1 / s.
  • the cloud streaming server 110 stores the section clip in which the execution screen corresponding to the preset execution section of the application is rendered and determines the use condition of the section clip in consideration of the execution state of the application executed for the cloud streaming service.
  • the cloud streaming server 110 performs a normal streaming procedure of rendering, capturing, encoding, and sending at each screen update period. Perform.
  • the cloud streaming server 110 performs a shortened streaming procedure for sending the interval clip.
  • the cloud streaming server 110 may efficiently use server resources by selectively performing a normal streaming procedure or a shortened streaming procedure according to whether the use condition of the interval clip is satisfied.
  • an interval clip corresponding to a partial interval requiring a lot of system resources is generated in advance, and a shortening of immediately sending an interval clip instead of a normal streaming procedure of rendering, capturing, encoding, and sending in the corresponding section when the application is executed.
  • a normal streaming procedure of rendering, capturing, encoding, and sending in the corresponding section when the application is executed By performing the streaming procedure, more cloud streaming applications can run under defined system resources.
  • the maximum application that can be reliably serviced by the server. Number is 2-3.
  • the present invention when the present invention is applied, if a section clip corresponding to a corresponding section (for the first 30 seconds) is generated and only the section clip generated when the corresponding section is executed is executed, the normal streaming procedure is performed in the section. It consumes much less resources. For example, if you send an interval clip immediately for the first 30 seconds after the application starts running, if the CPU utilization is 10%, the maximum number of applications that can be serviced reliably increases to 7-8.
  • the terminals 120-1,..., 120 -N receive an application execution result screen corresponding to the cloud streaming service from the cloud streaming server 110 and provide the result to the user.
  • the terminals 120-1,..., 120 -N are devices connected to a communication network to execute an application based on a cloud computing system, and are not limited to mobile communication terminals, but all information communication devices, multimedia terminals, It may be various terminals such as a wired terminal, a fixed terminal, and an Internet Protocol (IP) terminal.
  • IP Internet Protocol
  • the terminals 120-1,..., 120 -N are mobile phones, portable multimedia players (PMPs), mobile internet devices (MIDs), smart phones, desktops, and tablet computers, respectively. Tablet PC), notebook (Note book), netbook (Net book), personal digital assistant (PDA), smart TV and a mobile terminal having a variety of mobile communication specifications such as information communication devices, etc. .
  • the network 130 provides a path for transferring data between the cloud streaming server 110 and the terminals 120-1,..., 120 -N, and the network 130 and the network that can be developed in the future. All are inclusive concepts.
  • the network 130 is a wired / wireless local area network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between each other and between the mobile and the outside of the mobile, and the communication between the earth station and the earth station using satellites. It may be made of a satellite communication network or a wired or wireless communication network providing a combination of two or more.
  • the transmission standard of the network 130 is not limited to the existing transmission method standard and may include all transmission method standards to be developed in the future.
  • a network used between the cloud streaming server 110 and the terminals 120-1,..., 120 -N is connected to the terminals 120-1,..., 120 -N. It may be different from the network used for or may be the same.
  • FIG. 2 is a block diagram showing a cloud streaming service system according to another embodiment of the present invention.
  • a cloud streaming service system includes a cloud streaming server 210, a terminal device 220, and a network 230.
  • the cloud streaming server 210 generates real-time data by capturing and encoding an execution screen corresponding to a current section of an application executed for a cloud streaming service, and captures an execution screen corresponding to a preset pre-capture section of the application. Encoded pre-capture data is stored, transmitting the real-time data, and transmitting at least a portion of the pre-capture data.
  • the cloud streaming server 210 transmits at least a part of the transmission of the pre-captured data of the pre-captured data during the spare band until receiving the next input after transmitting the real-time data corresponding to the current section Can be.
  • the cloud streaming server 210 enters the pre-capture section before the transmission of all the pre-capture data is received, if the request for the transmission of real-time data corresponding to the pre-capture section, transmission of the pre-capture data This may be the part that has not been performed.
  • the cloud streaming server 210 may transmit only a portion different from the pre-capture data among the real-time data when the real-time data to be transmitted and the pre-capture data are different.
  • the pre-capture section may be a section in which the change of the screen, which is searched based on the user input scenario, is larger than the preset reference.
  • the pre-capture section may be a section in which the change in the screen is greater than a preset criterion analyzed based on the execution history of the application.
  • the pre-capture section may be a section in which the user's entry is greater than a predetermined criterion analyzed based on the execution history of the application.
  • the terminal device 220 is generated by capturing and encoding real-time data generated by capturing and encoding an execution screen corresponding to a current section of an application executed in a cloud streaming server and an execution screen corresponding to a preset pre-capture section of the application. Receives at least one of the pre-captured data, and displays one of the real-time data and the pre-capture data on the screen to provide a cloud streaming service.
  • the terminal device 220 will be described below with an example of a mobile communication terminal that can be connected to a communication network to upload or download content based on a cloud computing system, but the terminal device 220 is limited to the mobile communication terminal.
  • the present invention can be applied to various terminals such as all information communication devices, multimedia terminals, wired terminals, fixed terminals, and IP (Internet Protocol) terminals.
  • the terminal device 120 may be a mobile phone, a portable multimedia player (PMP), a mobile internet device (MID), a smart phone, a desktop, a tablet computer, a notebook, a netbook. It can be advantageously used when a mobile terminal having various mobile communication specifications such as a net book, a personal digital assistant (PDA), a smart TV, and an information communication device.
  • PDA personal digital assistant
  • the terminal device 220 may receive at least a portion of the non-received portion of the pre-capture data during the spare band until the next input.
  • the terminal device 220 when the terminal device 220 enters the pre-capture section before receiving all of the pre-capture data, the terminal device 220 may receive an unreceived portion of the pre-capture data.
  • the terminal device 220 may display the pre-capture data on the screen. Otherwise, the terminal device 220 may display the real-time data on the screen.
  • the network 230 provides a path for transferring data between the cloud streaming server 210 and the terminal device 220, and is a concept that encompasses both an existing network and a future network.
  • the network 230 may be a wired / wireless local area network that provides communication of various information devices within a limited area, a mobile communication network that provides communication between each other, and between the mobile device and the outside of the mobile device, and communication between the earth station and the earth station using satellites. It may be made of a satellite communication network or a wired or wireless communication network providing a combination of two or more.
  • the transmission standard of the network 230 is not limited to the existing transmission standard, and may include all transmission standard that will be developed in the future.
  • FIG. 3 is a block diagram illustrating an example of a cloud streaming server illustrated in FIG. 1.
  • the cloud streaming server 110 illustrated in FIG. 1 includes a communicator 310, a storage 320, and a controller 330.
  • the storage unit 320 stores the section clip in which the execution screen corresponding to the preset execution section of the application is rendered.
  • the interval clip may be generated by performing rendering, capture, and encoding during the execution interval.
  • the section clip may be generated for a section that uses the application of the cloud streaming server at a predetermined level or more by executing the corresponding application in advance.
  • the interval clip may be generated corresponding to the quality assurance (QA) of the application.
  • the application for cloud streaming services go through a quality control step, so that in the quality control step, a section clip is generated by rendering, capturing, and encoding a specific section with high resource utilization in advance. While managing with information, it can be utilized to reduce resource utilization when running applications.
  • the execution interval may be set identically to the same application.
  • the same moving picture reading application may have the same period of high resource usage. Therefore, the same application does not need to check the execution period of high resource usage rate again.
  • the execution interval may be set independently for each application. In other words, intervals with a high resource utilization rate will be different for each application, so an interval clip suitable for the application should be set as an execution interval.
  • the controller 330 determines whether the use condition of the interval clip is satisfied in consideration of the execution state of the application executed for the cloud streaming service. If it is determined that the condition for using the interval clip is not satisfied, the controller 330 performs a normal streaming procedure of rendering, capturing, encoding, and sending every screen update period.
  • the controller 330 performs a shortened streaming procedure for sending the interval clip.
  • the controller 330 selectively performs a normal streaming procedure or a shortened streaming procedure to provide a cloud streaming service to a terminal while using server resources more efficiently by minimizing the effect of the interval even if the resource utilization rate of some sections is high. Can be.
  • the short streaming procedure may be to use less cloud streaming server resources than the normal streaming procedure.
  • the use condition of the section clip may be whether the execution timing of the corresponding application belongs to a predetermined section. That is, the interval clip is generated for a predetermined application execution interval, and when the application execution timing reaches this interval, the controller may determine that the interval clip usage condition is satisfied.
  • the communication unit 230 plays a role of transmitting and receiving information related to a plurality of terminals through a communication network such as the network shown in FIG. 1.
  • the communication unit 230 according to an embodiment of the present invention receives a request for a cloud streaming service from the terminal, and provides an execution result screen of an application corresponding to the cloud streaming service requested by the terminal to the terminal.
  • the storage unit 320 stores various information generated in the cloud streaming service process in addition to the section clip.
  • the storage 320 may be configured independently of the cloud streaming server 110 to support a function for a cloud streaming service. At this time, the storage unit 320 may operate as a separate mass storage, and may include a control function for performing the operation.
  • cloud streaming server 110 configured as described above may be implemented as one or more servers.
  • the cloud streaming server 110 may be equipped with a memory to store information in the device.
  • the memory is a computer readable medium.
  • the memory may be a volatile memory unit, and for other implementations, the memory may be a nonvolatile memory unit.
  • the storage device is a computer readable medium.
  • the storage device may include, for example, a hard disk device, an optical disk device, or some other mass storage device.
  • FIG. 4 is a block diagram illustrating an example of the controller illustrated in FIG. 3.
  • the controller 330 illustrated in FIG. 3 includes a determination unit 410, a normal procedure performing unit 420, and a resource saving mode unit 430.
  • the determination unit 410 determines whether the use condition of the section clip is satisfied.
  • the use condition of the section clip may be whether or not the execution timing of the corresponding application reaches a predetermined section. For example, if the resource usage rate is set to the highest running interval for 5 minutes to 30 seconds after the start of the moving picture reading application, the use condition of the interval clip is between 5 minutes and 5 minutes 30 seconds after the moving picture reading application starts running. Whether or not.
  • the normal procedure performing unit 420 performs a normal streaming procedure of rendering, capturing, encoding, and sending.
  • the resource saving mode unit 430 performs a shortened streaming procedure for sending an interval clip. At this time, since the short streaming procedure only sends a section clip which is pre-rendered in rendering, capturing, and encoding, resource consumption is lower than that of the normal streaming procedure of rendering, capturing, encoding, and sending.
  • FIG. 5 is a diagram illustrating an example of a terminal illustrated in FIG. 1.
  • the terminal includes a control unit 510, a communication unit 520, an input unit 530, a display unit 540, and a storage unit 550.
  • the input unit 530 receives various information such as numeric and text information, and transmits a signal input in connection with setting various functions and controlling functions of the terminal to the controller 510.
  • the input unit 530 may include at least one of a keypad and a touch pad generating an input signal according to a user's touch or manipulation.
  • the input unit 530 may be configured in the form of one touch panel (or touch screen) together with the display unit 540 to simultaneously perform input and display functions.
  • the input unit 530 may be any type of input means that may be developed in the future, in addition to an input device such as a keyboard, a keypad, a mouse, a joystick, and the like.
  • the input unit 530 according to the present invention transmits an input signal for requesting a cloud streaming service to the cloud streaming server 110 or receiving an application execution result screen from the cloud streaming server 110 to the controller 510.
  • the display unit 540 displays information about a series of operation states and operation results that occur during the functioning of the terminal. In addition, the display unit 540 may display a menu of the terminal and user data input by the user.
  • the display unit 540 includes a liquid crystal display (LCD), an ultra-thin liquid crystal display (TFT-LCD, thin film transistor LCD), a light emitting diode (LED), and an organic light emitting diode (OLED, Organic). LED), an active organic light emitting diode (AMOLED, Active Matrix OLED), a Retina display, a flexible display, and a three-dimensional display.
  • the display unit 540 when the display unit 540 is configured in the form of a touch screen, the display unit 540 may perform some or all of the functions of the input unit 530.
  • the display unit 540 according to the present invention displays information related to the cloud streaming service on the screen.
  • the storage unit 550 is a device for storing data.
  • the storage unit 550 includes a main memory device and an auxiliary memory device, and stores an application program required for a functional operation of the terminal.
  • the storage unit 550 may largely include a program area and a data area.
  • the terminal when the terminal activates each function in response to a user's request, the terminal executes corresponding application programs under the control of the controller 510 to provide each function.
  • the storage unit 550 according to the present invention stores an operating system for booting the terminal, a program for requesting a cloud streaming service to the cloud streaming server 110, or a program for receiving an application execution result from the cloud streaming server 110. .
  • the communication unit 520 performs a function for transmitting and receiving data with the cloud streaming server 110 through a network.
  • the communication unit 520 may include RF transmitting means for up-converting and amplifying the frequency of the transmitted signal, and RF receiving means for low-noise-amplifying and down-converting the received signal.
  • the communication unit 520 may include at least one of a wireless communication module (not shown) and a wired communication module (not shown).
  • the wireless communication module is configured to transmit and receive data according to a wireless communication method, and when the terminal uses wireless communication, the data is clouded using any one of a wireless network communication module, a wireless LAN communication module, and a wireless fan communication module.
  • the streaming server 110 may transmit and receive.
  • the wired communication module is for transmitting and receiving data by wire.
  • the wired communication module may connect to a communication network through a wire and transmit and receive data to and from the cloud streaming server 110. That is, the terminal may access a communication network using a wireless communication module or a wired communication module, and may transmit and receive data to and from the cloud streaming server 110 through the communication network.
  • the communication unit 520 according to the present invention communicates with the cloud streaming server 110 to request the application execution, and transmits and receives data necessary to receive the application execution result screen.
  • the controller 510 may be a process device for driving an operating system (OS) and each component.
  • the controller 510 may control the overall process of accessing the cloud streaming server 110.
  • OS operating system
  • the controller 510 may control the overall process of running the service application according to the user's request, and at the same time the request to use the service to the cloud streaming server 110 This may be controlled to be transmitted, and at this time, the terminal information required for user authentication may be transmitted together.
  • FIG. 6 is a block diagram illustrating an example of a cloud streaming server of FIG. 2.
  • the cloud streaming server 210 illustrated in FIG. 2 includes a controller 610, a storage 620, and a communication unit 630.
  • the controller 610 may be a process device for driving an operating system (OS) and each component.
  • OS operating system
  • the controller 610 captures and encodes an execution screen corresponding to a current section of an application executed for a cloud streaming service to generate real-time data.
  • the real-time data may be data captured and encoded of a current screen on which an application executed according to a user's input is executed. That is, it is continuously generated in real time according to the execution of the application.
  • the storage unit 620 is a device for storing data.
  • the storage unit 620 includes a main memory device and an auxiliary memory device, and stores an application program required for a functional operation of a cloud streaming server.
  • the storage unit 620 may largely include a program area and a data area.
  • the cloud streaming server activates each function in response to a user's request, the cloud streaming server executes corresponding application programs under the control of the controller 610 to provide each function.
  • the storage unit 620 according to the present invention stores the pre-capture data, which captures and encodes an execution screen corresponding to a preset pre-capture section of the application.
  • the storage unit 620 may include an optical recording medium such as a magnetic media such as a hard disk, a floppy disk, and a magnetic tape, a compact disk read only memory (CD-ROM), and a digital video disk (DVD). Media, magneto-optical media such as floppy disks, and read only memory (ROM), random access memory (RAM), and flash memory. .
  • an optical recording medium such as a magnetic media such as a hard disk, a floppy disk, and a magnetic tape, a compact disk read only memory (CD-ROM), and a digital video disk (DVD).
  • CD-ROM compact disk read only memory
  • DVD digital video disk
  • Media magneto-optical media such as floppy disks, and read only memory (ROM), random access memory (RAM), and flash memory.
  • the pre-capture section may be a section in which the change of the screen, which is searched based on the user input scenario, is larger than the preset reference.
  • a scenario may be generated according to a user input predicted for the application, and when the screen is changed according to the scenario, a section in which the amount of change of the screen is larger than a preset reference may be set as a precapturing section. For example, based on a user input scenario, if more than 50 percent of the screen changes, it may be set as a precapturing section.
  • the pre-capture section may be a section in which the change in the screen is greater than a preset criterion analyzed based on the execution history of the application.
  • the execution history which is a history of the execution of the application in the past, may be stored, and a section in which the screen is changed more than a preset criterion in the execution history may be set as a pre-capture section.
  • a section in which more than 50 percent of the screen changes in the execution history may be set as a precapturing section.
  • the pre-capture section may be a section in which the user's entry is greater than a predetermined criterion analyzed based on the execution history of the application.
  • a section in which many users enter, i.e., many requests can be set as a pre-capture section.
  • the pre-capture section may be set by combining one or more of the above three criteria.
  • the communication unit 630 performs a function for transmitting and receiving data through a cloud streaming server and a network.
  • the communication unit 630 includes RF transmitting means for up-converting and amplifying the frequency of the transmitted signal, and RF receiving means for low-noise-amplifying and down-converting the received signal.
  • the communication unit 630 may include at least one of a wireless communication module (not shown) and a wired communication module (not shown).
  • the wireless communication module is configured to transmit and receive data according to a wireless communication method.
  • the wireless communication module uses one of a wireless network communication module, a wireless LAN communication module, and a wireless fan communication module. It can transmit and receive to the terminal device.
  • the wired communication module is for transmitting and receiving data by wire.
  • the wired communication module may connect to a network through a wire and transmit / receive data to / from the terminal device. That is, the cloud streaming server may access a network using a wireless communication module or a wired communication module, and transmit and receive data with a terminal device through the network.
  • the communication unit 630 according to the present invention transmits the real-time data, and transmits at least some of the pre-capture data.
  • the communication unit 630 may transmit and receive data through various communication methods including a wired method and a wireless method.
  • the communication unit 630 may include a plurality of communication modules for transmitting data according to different communication methods.
  • the communication unit 630 transmits at least a portion of the pre-captured data in which the transmission is not performed during the spare band until receiving the next input after transmitting the real-time data corresponding to the current section. Can be.
  • the real-time data of capturing and encoding the requested screen together with the user's input is transmitted first, and the pre-capture data may be transmitted if the free band remains until the next input is received. If there is no spare band left, only real-time data can be transmitted. At this time, even if not all of the pre-capture data, only a portion of the pre-capture data can be transmitted as much as the spare band. The untransmitted portion may receive the next input to transmit real-time data, and transmit a portion not yet transmitted when a spare band remains.
  • the communication unit 630 enters the pre-capture section and transmits the real-time data corresponding to the pre-capture section before transmitting all of the pre-capture data, and transmits the pre-capture data. This may be the part that has not been performed.
  • the terminal device will provide the cloud streaming service using the received pre-capture data instead of the real-time data, and the cloud streaming server has no data to transmit. There may be a spare band.
  • the terminal device can provide the cloud streaming service by transmitting the rest of the pre-captured data that has not yet been transmitted.
  • the communication unit 630 may transmit only a portion different from the pre-capture data among the real-time data when the real-time data to be transmitted and the pre-capture data are different.
  • the pre-capture data corresponding to the pre-capture section predicted based on the user input scenario or analyzed based on the execution history of the application may not be exactly the same as the real-time data actually requested.
  • FIG. 7 is a block diagram illustrating an example of the terminal device illustrated in FIG. 2.
  • the terminal device illustrated in FIG. 2 includes a communication unit 710 and a controller 720.
  • the communication unit 710 performs a function for transmitting and receiving data through a cloud streaming server and a network.
  • the communication unit 710 includes RF transmitting means for up-converting and amplifying the frequency of the transmitted signal, and RF receiving means for low-noise-amplifying and down-converting the received signal.
  • the communication unit 710 may include at least one of a wireless communication module (not shown) and a wired communication module (not shown).
  • the wireless communication module is a component for transmitting and receiving data according to a wireless communication method.
  • the wireless communication module uses one of a wireless network communication module, a wireless LAN communication module, and a wireless fan communication module. Send and receive to cloud streaming server.
  • the wired communication module is for transmitting and receiving data by wire.
  • the wired communication module may connect to a network through a wire and transmit and receive data to and from the cloud streaming server. That is, the terminal device may access a network by using a wireless communication module or a wired communication module, and may transmit and receive data with a cloud streaming server through the network.
  • the communication unit 710 according to the present invention is a real-time data generated by capturing and encoding the execution screen corresponding to the current section of the application running on the cloud streaming server and the execution screen corresponding to the preset pre-capture section of the application At least one of the captured and encoded precapture data is received.
  • the communication unit 710 may transmit and receive data through various communication methods including a wired method and a wireless method.
  • the communication unit 710 may include a plurality of communication modules for transmitting data according to different communication methods.
  • the real-time data may be data captured and encoded of a current screen on which an application executed according to a user's input is executed. That is, it continues to receive in real time as the application executes.
  • the pre-capture section may be a section in which the change of the screen, which is searched based on the user input scenario, is larger than the preset reference.
  • a scenario may be generated according to a user input predicted for the application, and when the screen is changed according to the scenario, a section in which the amount of change of the screen is larger than a preset reference may be set as a precapturing section. For example, based on a user input scenario, if more than 50 percent of the screen changes, it may be set as a precapturing section.
  • the pre-capture section may be a section in which the change in the screen is greater than a preset criterion analyzed based on the execution history of the application.
  • the execution history which is a history of the execution of the application in the past, may be stored, and a section in which the screen is changed more than a predetermined reference in the execution history may be set as a pre-capture section.
  • a section in which more than 50 percent of the screen changes in the execution history may be set as a precapturing section.
  • the pre-capture section may be a section in which the user's entry is greater than a predetermined criterion analyzed based on the execution history of the application.
  • a section in which a lot of users enter may be set as a pre-capture section.
  • the pre-capture section may be set by combining one or more of the above three criteria.
  • the communication unit 710 may receive at least a portion of the uncaptured portion of the pre-captured data during the spare band until the next input is transmitted after receiving the real time data corresponding to the current section. .
  • real-time data of capturing and encoding the requested screen with the user's input is first received, and pre-captured data can be received if the free band remains until the next input is transmitted. If there is no spare band left, only real-time data can be received. At this time, even if not all of the pre-capture data, only a portion of the pre-capture data can be received by the spare band.
  • the part which has not received may receive the real time data by sending the next input, and may receive the part which has not yet been received when the spare band remains.
  • the communication unit 710 when entering the pre-capture section before receiving all of the pre-capture data, the communication unit 710 may receive an unreceived portion of the pre-capture data.
  • the controller 720 will provide the cloud streaming service using the received pre-capture data instead of the real-time data, and the cloud streaming server will transmit the data. Since there is no spare band can be created.
  • the pre-capture section but has not yet received all of the pre-capture data, it is possible to provide the cloud streaming service by receiving the rest of the pre-captured data that has not yet received.
  • the communication unit 710 may receive only a portion different from the pre-capture data among the real-time data.
  • the controller 720 may be a process device for driving an operating system (OS) and each component.
  • the controller 720 may control the overall process of accessing the cloud streaming server.
  • OS operating system
  • the controller 720 may control the overall process of running the service application according to the user's request, and at the same time it can be controlled to send a service use request to the cloud streaming server.
  • the terminal information required for user authentication may be transmitted together.
  • the controller 720 according to the present invention provides a cloud streaming service by displaying any one of the real-time data and the pre-capture data on the screen.
  • the display unit (not shown) displays information on a series of operation states and operation results generated while performing a function of the terminal device.
  • the display unit may display a menu of the terminal device and user data input by the user.
  • the display unit may include a liquid crystal display (LCD), an ultra-thin liquid crystal display (TFT-LCD), a thin film transistor (LED), a light emitting diode (LED), an organic light emitting diode (OLED, Organic LED), Active organic light emitting diodes (AMOLED, Active Matrix OLED), Retina Display (Retina Display), Flexible display (Flexible display) and three-dimensional (three-dimensional) display and the like can be configured.
  • LCD liquid crystal display
  • TFT-LCD ultra-thin liquid crystal display
  • LED thin film transistor
  • LED light emitting diode
  • OLED organic light emitting diode
  • AMOLED Active Matrix OLED
  • Retina Display Retina Display
  • Flexible display Flexible display
  • the display unit when the display unit is configured in the form of a touch screen, the display unit may perform some or all of the functions of the input unit (not shown).
  • the display unit according to the present invention provides a cloud streaming service by displaying real-time data or pre-capture data on a screen under the control of the controller 720.
  • the controller 720 may display the pre-capture data on the screen. Otherwise, the controller 720 may display the real-time data on the screen.
  • the delay time can be minimized by displaying the pre-capture data.
  • the controller 720 when entering the pre-capture section, when the real-time data and the pre-capture data is different, the controller 720 combines the pre-capture data and the portion different from the pre-capture data of the real-time data received by the communication unit 710, the screen By displaying in the cloud streaming service can be provided.
  • the pre-capture data corresponding to the pre-capture section predicted based on the user input scenario or analyzed based on the execution history of the application may not be exactly the same as the real-time data actually requested.
  • the cloud streaming server recognizes different parts of the real-time data and the pre-capture data and transmits only the different parts, and the controller 720 combines the different parts and the pre-capture data to provide the cloud streaming service. Can provide.
  • FIG. 8 is a graph illustrating a change in resource usage rate of an application having a high resource utilization rate only in some intervals.
  • the resource usage rate according to the execution time of the application and that the section in which the resource usage rate exceeds 30% are two places of the A section and the B section.
  • the application when the cloud streaming service is provided, the application will have a 50% resource utilization rate in a certain section (section A) (when performing a normal streaming procedure), so the server may run too many applications.
  • a section clip corresponding to section A and section B is generated, and section A and section B only send the section clip without performing a normal streaming procedure of rendering, capturing, encoding, and sending. If the resource utilization is less than 30%, the server will be able to run three applications without problems.
  • Execution sections such as A section and B section should be set differently for different applications. However, the execution interval may be set the same for the same application.
  • 9 to 12 are diagrams showing an example of a change of a cloud streaming service screen according to an embodiment of the present invention.
  • the cloud streaming service screen according to an embodiment of the present invention is the upper left 910, 1010, 1110, 1210, the lower left 920, 1020, 1120, 1220 and the right 930, 1030, 1130, 1230).
  • the right portion When changing from FIG. 11 to FIG. 12, the right portion changes from '1' 1130 to '2' 1230. Since about half of the screen changes, the right portion may be set as a precapturing section based on a user input scenario or execution history. Can be. Hereinafter, a description will be made on the assumption that a section changing from FIG. 11 to FIG. 12 is a precapturing section.
  • the lower left portion changes from 'a' 920 to 'b' 1020.
  • the lower left part has a small size, so the amount of change in the screen is small, resulting in a free band.
  • some of the pre-capture data '2' are transmitted as much as they can be transmitted during the spare band. This is called '2-1'.
  • the upper left portion changes from 'A' 1010 to 'B' 1110.
  • the upper left part is also small, so the amount of change in the screen is small, resulting in a free band.
  • some of the pre-capture data '2' are transmitted as much as they can be transmitted during the spare band. This is called '2-2'.
  • the section changing from FIG. 11 to FIG. 12 is a precapturing section. However, since all of the pre-capture data '2' have not been transmitted, the remaining untransmitted data is transmitted. This is called '2-3'.
  • '2' is not divided and some of '2-1' and '2-2' are not transmitted in advance, and '2' is transmitted as a whole, a large amount of data may cause a delay time.
  • '2-1' and '2-2' which are some of the pre-capture data are transmitted in advance, and when entering the pre-capture section, only the remaining '2-3' is transmitted until the next input is received. Transmission of the entire '2' can be completed, and delay time can be minimized.
  • FIG. 13 is a flowchart illustrating a method of providing a cloud streaming service according to an embodiment of the present invention.
  • an interval clip in which an execution screen corresponding to a preset execution interval of an application is rendered is stored (S1310).
  • the interval clip is generated by performing rendering, capturing, and encoding during the execution interval, and the shortened streaming procedure may use less resources than the normal streaming procedure.
  • the section clip may be generated for a section that uses the resource in advance by executing the application in advance.
  • the interval clip may be generated in accordance with the quality control (QA) of the application.
  • the execution interval may be set identically for the same application and may be set independently for different applications.
  • the cloud streaming service providing method executes the application for the cloud streaming service (S1320).
  • the cloud streaming service providing method determines whether the use condition of the interval clip is satisfied in consideration of the execution state of the application executed for the cloud streaming service (S1330).
  • the execution state may be an execution timing of the application
  • the use condition may be whether the execution timing of the application belongs to a preset section.
  • the normal streaming procedure of rendering, capturing, encoding, and sending is performed at each screen update period (S1350). .
  • a shortened streaming procedure for sending the interval clip is performed (S1340).
  • FIG. 14 is a flowchart illustrating an example of a normal streaming procedure illustrated in FIG. 13.
  • the normal streaming procedure illustrated in FIG. 13 first renders an application execution result screen in operation S1410.
  • the rendering may be performed by software or may be performed by hardware such as a graphic processing unit (GPU).
  • GPU graphic processing unit
  • the normal streaming procedure captures the rendered screen (S1420).
  • the normal streaming procedure encodes the captured screen (S1430).
  • encoding may be applied to various encoding schemes according to the type of cloud streaming server and / or the type of application to be executed.
  • the normal streaming procedure sends the encoded screen to the terminal (S1440).
  • FIG. 15 is a flowchart illustrating an example of a shortened streaming procedure illustrated in FIG. 13.
  • the short streaming procedure illustrated in FIG. 13 loads a section clip corresponding to an execution timing of a stored application (S1510).
  • the interval clip may be generated by rendering, capturing and encoding the application in advance.
  • the short streaming procedure sends a loaded section clip (S1520).
  • the shortened streaming procedure shown in FIG. 8 consumes less server resources than the normal streaming procedure because no rendering, capturing, and encoding procedures are needed compared to the normal streaming procedure shown in FIG.
  • FIGS. 13, 14 and 15 may be performed in the order shown in FIGS. 13, 14 and 15, in the reverse order or simultaneously.
  • 16 is a flowchart illustrating an example of a cloud streaming service method (server point of view) according to another embodiment of the present invention.
  • the cloud streaming service method generates and stores pre-capture data that captures and encodes an execution screen corresponding to a preset pre-capture section of an application (S1610).
  • the pre-capture section may be a section in which the change of the screen, which is searched based on the user input scenario, is larger than a preset criterion.
  • a scenario may be generated according to a user input predicted for the application, and when the screen is changed according to the scenario, a section in which the amount of change of the screen is larger than a preset reference may be set as a precapturing section. For example, based on a user input scenario, if more than 50 percent of the screen changes, it may be set as a precapturing section.
  • the pre-capture section may be a section in which the change in the screen is greater than a preset criterion analyzed based on the execution history of the application.
  • the execution history which is a history of the execution of the application in the past, may be stored, and a section in which the screen is changed more than a preset criterion in the execution history may be set as a pre-capture section.
  • a section in which more than 50 percent of the screen changes in the execution history may be set as a precapturing section.
  • the pre-capture section may be a section in which the user's entry is greater than a predetermined criterion analyzed based on the execution history of the application.
  • a section in which many users enter, i.e., many requests can be set as a pre-capture section.
  • the pre-capture section may be set by combining one or more of the above three criteria.
  • the cloud streaming service method determines whether the user enters the pre-capture section in response to the user input (S1620), if the entry does not enter the pre-capture section, the current of the application running for the cloud streaming service Real-time data is generated by capturing and encoding an execution screen corresponding to the section (S1630).
  • the real-time data may be data captured and encoded of a current screen on which an application executed according to a user's input is executed. That is, it is continuously generated in real time according to the execution of the application.
  • the cloud streaming service method transmits real-time data (S1640).
  • a spare band may occur until the next input is received.
  • the cloud streaming service method transmits at least a portion of the pre-captured data (S1650).
  • the transmitting of at least some of the pre-capture data may not be performed during the spare band until the next input is received after transmitting the real-time data corresponding to the current section. At least a portion of the portion that has not been transmitted may be transmitted.
  • the real-time data of capturing and encoding the requested screen together with the user's input is transmitted first, and the pre-capture data may be transmitted if the free band remains until the next input is received. If there is no spare band left, only real-time data can be transmitted. At this time, even if not all of the pre-capture data, only a portion of the pre-capture data can be transmitted as much as the spare band. The untransmitted portion may receive the next input to transmit real-time data, and transmit a portion not yet transmitted when a spare band remains.
  • the cloud streaming service method receives a user input again, and determines whether or not to enter the pre-capture section (S1620).
  • the terminal device will provide the cloud streaming service using the received pre-capture data instead of the real-time data, and the cloud streaming server has no data to transmit. There may be a spare band.
  • the terminal device can provide the cloud streaming service by transmitting the rest of the pre-captured data that has not yet been transmitted.
  • the pre-capture data of the real-time data is different. Only parts different from can be transmitted.
  • the pre-capture data corresponding to the pre-capture section predicted based on the user input scenario or analyzed based on the execution history of the application may not be exactly the same as the real-time data actually requested.
  • FIG. 17 is a flowchart illustrating an example of a cloud streaming service method (terminal view) according to another embodiment of the present invention.
  • the cloud streaming service method transmits a user's input and determines whether the user enters the pre-capture section (S1710).
  • An execution screen corresponding to a current section of an application to be executed is captured and encoded to receive real-time data generated (S1720).
  • the real-time data may be data captured and encoded of a current screen on which an application executed according to a user's input is executed. That is, it continues to receive in real time as the application executes.
  • the cloud streaming service method receives at least some of the pre-capture data generated by capturing and encoding an execution screen corresponding to a preset pre-capture section of the application (S1730).
  • the pre-capture section may be a section in which the change of the screen, which is searched based on the user input scenario, is larger than the preset reference.
  • a scenario may be generated according to a user input predicted for the application, and when the screen is changed according to the scenario, a section in which the amount of change of the screen is larger than a preset reference may be set as a precapturing section. For example, based on a user input scenario, if more than 50 percent of the screen changes, it may be set as a precapturing section.
  • the pre-capture section may be a section in which the change in the screen is greater than a preset criterion analyzed based on the execution history of the application.
  • the execution history which is a history of the execution of the application in the past, may be stored, and a section in which the screen is changed more than a preset criterion in the execution history may be set as a pre-capture section.
  • a section in which more than 50 percent of the screen changes in the execution history may be set as a precapturing section.
  • the pre-capture section may be a section in which the user's entry is greater than a predetermined criterion analyzed based on the execution history of the application.
  • a section in which a lot of users enter may be set as a pre-capture section.
  • the pre-capture section may be set by combining one or more of the above three criteria.
  • the step of receiving at least a portion of the pre-capture data may include at least a portion of the non-received portion of the pre-capture data during the free band until the next input is transmitted after receiving the real time data corresponding to the current section. Some may be received.
  • real-time data of capturing and encoding the requested screen with the user's input is first received, and pre-captured data can be received if the free band remains until the next input is transmitted. If there is no spare band left, only real-time data can be received. At this time, even if not all of the pre-capture data, only a portion of the pre-capture data can be received by the spare band.
  • the part which has not received may receive the real time data by sending the next input, and may receive the part which has not yet been received when the spare band remains.
  • the cloud streaming service method provides a cloud streaming service by displaying real-time data on the screen (S1740).
  • the cloud streaming service method transmits the user's input again, and accordingly determines whether or not to enter the pre-capture section (S1710).
  • the cloud streaming service method receives an unreceived portion of the pre-capture data (S1750).
  • the terminal device will provide the cloud streaming service using the received pre-capture data instead of the real-time data, and the cloud streaming server has no data to transmit. There may be a spare band.
  • the pre-capture section but has not yet received all of the pre-capture data, it is possible to provide the cloud streaming service by receiving the rest of the pre-captured data that has not yet received.
  • the cloud streaming service method provides a cloud streaming service by displaying the pre-capture data on the screen (S1760).
  • the pre-capture data is displayed on the screen to provide the cloud streaming service.
  • the cloud streaming service method may receive only a portion different from the pre-capture data among the real-time data. Can be.
  • the pre-capture data corresponding to the pre-capture section predicted based on the user input scenario or analyzed based on the execution history of the application may not be exactly the same as the real-time data actually requested.
  • the cloud streaming server recognizes different parts of the real-time data and the pre-capture data and transmits only the different parts, and the terminal device combines the different parts and the pre-capture data to provide a cloud streaming service. Can be.
  • Each step illustrated in FIGS. 16 and 17 may be performed in the order shown in FIGS. 16 and 17, in the reverse order, or simultaneously.
  • the cloud streaming service providing method may be implemented as a program or a smartphone app that can be executed through various computer means.
  • the program or the smartphone app may be recorded in a computer readable medium.
  • the computer readable medium may include program instructions, data files, data structures, etc. alone or in combination.
  • Program instructions recorded on the media may be those specially designed and constructed for the purposes of the present invention, or they may be of the kind well-known and available to those having skill in the computer software arts.
  • Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks.
  • Magneto-optical media and any type of hardware device specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like.
  • Examples of program instructions may include high-level language code that can be executed by a computer using an interpreter as well as machine code such as produced by a compiler.
  • Such hardware devices may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.
  • the cloud streaming service system As described above, the cloud streaming service system, the cloud streaming service providing method, and the apparatus for the same according to the present invention are not limited to the configuration and method of the embodiments described as described above, but the above embodiments are variously modified. All or some of the embodiments may be selectively combined in order to accomplish this.
  • the present invention can solve the problem of limiting the maximum number of applications that can be executed in the server by a portion of the high resource utilization in the cloud streaming service, recognizing the section with a large screen change, by capturing and encoding the corresponding screen in advance to free band It is possible to improve the user's haptic response speed by transmitting only a different part when the pre-transmitted data and the data to be actually transmitted are different from each other. Furthermore, since the number of applications that can run the cloud streaming server increases, it is possible to provide a cloud streaming service to a larger number of users, thereby maximizing revenue through cloud streaming services. In addition, by reducing the waste of time and resources when using the cloud streaming service, it is possible to activate the cloud streaming service industry and contribute to the development of the industry.

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Information Transfer Between Computers (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 방법 및 이를 위한 장치가 개시된다. 클라우드 스트리밍 서버에서 자원 사용률이 높은 구간에 대한 구간 클립을 미리 생성해두고, 해당 구간에서 정상 스트리밍 절차를 수행하지 않고 미리 생성된 클립을 센딩하는 단축 스트리밍 절차를 수행함으로써 클라우드 스트리밍 시스템 자원을 효율적으로 활용하여 동시 실행 가능한 최대 어플리케이션 수를 증가시킬 수 있다.

Description

클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치
본 발명은 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치(SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF PROVIDING CLOUD STREAMING SERVICE AND APPARATUS FOR THE SAME)에 관한 것으로, 특히 많은 시스템 자원을 필요로 하는 어플리케이션의 특정 구간에 대한 사전 처리(pre-processing)를 통해 클라우드 스트리밍 서버의 자원을 효율적으로 관리할 수 있고, 화면 변화가 큰 구간의 화면을 미리 전송하여 사용자 입력에 대한 화면 변화가 큰 경우에도 반응 속도를 향상시킬 수 있는 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치에 관한 것이다.
본 발명은 2014년 2월 7일 출원된 한국특허출원 제10-2014-0013974호 및 2014년 5월 22일 출원된 한국특허출원 제10-2014-0061841호의 출원일의 이익을 주장하며, 그 내용 전부는 본 명세서에 포함된다.
인터넷의 급속한 발달은 개인의 통신 속도를 급격히 향상시키는 결과를 가져왔으며, 이러한 통신 속도의 향상은 원격지에 위치한 컴퓨터에 접속하여 대용량의 데이터를 다운로드 또는 업로드하거나, 원격지 컴퓨터 제어 프로그램을 사용하여 마치 원격지 컴퓨터에 로컬 로그인한 것과 같이 원격지 컴퓨터를 이용할 수 있는 환경을 제공하고 있다.
또한, 어플리케이션을 서버에서 구동시키고 구동화면을 비디오 인코딩(encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있다.
클라우드 스트리밍 시스템에서 구동되는 어플리케이션은 기설정된 프레임 주기에 따라 화면을 갱신한다.
즉, 클라우드 스트리밍 서버는 서버 측에서 어플리케이션을 실행하고, 실행 결과에 해당하는 화면을 캡처(capture)하고 인코딩(encoding)한 후 단말로 센딩(sending)하여 실행 결과가 스트리밍(streaming)을 통해 단말로 전송되도록 한다.
클라우드 스트리밍 서버는 여러 사용자들이 그 자원을 공유하게 되므로, 자원 사용률 관리가 매우 중요한 문제가 된다.
클라우드 스트리밍 서버에서 하나의 어플리케이션을 실행하는 경우, 해당 어플리케이션 실행시 실제로 자원 사용률이 높은 구간은 어플리케이션 실행 구간 중 기설정된 특정 구간인 경우가 많고, 이 특정 구간의 길이가 짧은 경우가 많다. 이러한 경우에도, 이 특정 구간에 서버의 시스템 리소스가 부족하면 클라우드 스트리밍 시스템 동작이 불안정해지고 다른 사용자들에게 영향을 끼칠 수 있기 때문에 클라우드 스트리밍 서버는 이 특정 구간의 리소스 사용량에 맞추어 실행가능한 최대 어플리케이션 수를 제한하게 된다.
예를 들어, 클라우드 스트리밍 서비스를 통해 어플리케이션을 실행하는 경우 평균 CPU 사용률은 5% 정도이나, 특정 구간만 CPU 사용률이 30%가 된다면 특정 구간에 맞춰 어플리케이션 수를 제한하여야 하므로 클라우드 스트리밍 시스템 자원을 효율성 있게 사용할 수 없게 된다.
특히, 클라우드 스트리밍 서버는 화면 갱신 주기마다 렌더링(rendering), 캡처(capture), 인코딩(encoding) 및 센딩(sending)의 스트리밍 파이프라인 절차(streaming pipeline procedure)를 수행하여야 하므로 시스템 자원 사용량이 많아서 시스템 자원을 효율성 있게 사용하는 것이 매우 중요하다.
나아가, 어플리케이션 중에는 미리 정해진 순서대로 시스템 자원을 사용하는 어플리케이션들이 존재하며, 이와 같은 어플리케이션의 경우 시스템 자원을 많이 사용하는 구간이 정해져 있다.
따라서, 일부 특정 구간에서만 자원 사용량이 높은 어플리케이션이 실행될 때 클라우드 스트리밍 서버의 시스템 자원을 효율적으로 관리할 수 있는 새로운 클라우드 스트리밍 서비스 기술의 필요성이 절실하게 대두된다.
또한, 화면의 변화량에 따라서 전송량의 차이가 발생하게 되고, 화면의 변화가 큰 경우 전송 시간이 더 길어지게 되어서, 사용자의 입력 이후 클라이언트가 해당 화면을 받을 때까지 더 많은 시간이 필요하게 되어 지연이 발생하게 된다. 반대로, 화면의 변화가 작은 경우 전송 시간이 짧아지고, 사용자의 다음 입력시까지 여유 대역이 발생하게 되므로, 여유 대역을 이용하여 추가로 데이터를 전송할 수 있다면 지연 시간을 최소화할 수 있다.
따라서, 클라우드 스트리밍 서비스를 제공할 때, 여유 대역이 있는 경우, 화면 변화가 큰 구간의 화면을 미리 전송하여 반응 시간을 감소시킬 수 있는 새로운 클라우드 스트리밍 서비스 기술의 필요성이 절실하게 대두된다.
관련 선행기술로는, 한국 공개 특허 제10-2012-0072904호, 2012년 7월 4일 공개(명칭: 클라우드 컴퓨팅 환경에서 게임 서비스 제공 방법, 클라우드 컴퓨팅 서버, 및 클라우드 컴퓨팅 시스템)가 있다.
관련 선행기술로는, 한국 공개 특허 제10-2000-0040087호, 2000년 7월 5일 공개(명칭: 장면 변화분포를 이용한 비디오 재생 속도제어 방법)가 있다.
본 발명의 목적은, 클라우드 스트리밍 서비스를 통하여 실행되는 어플리케이션의 시스템 자원을 많이 사용하는 특정 구간에 대한 사전 처리를 통해 어플리케이션의 일부 특정 구간에 의하여 클라우드 스트리밍 서버 자원을 효율적으로 사용하지 못하는 문제를 해결하는 것이다.
또한, 본 발명의 목적은 특히 일부 구간에서만 자원 사용량이 많은 어플리케이션을 실행하는 경우 하나의 클라우드 스트리밍 서버에서 보다 많은 개수의 어플리케이션들이 실행되도록 하는 것이다.
또한, 본 발명의 목적은 클라우드 스트리밍 서비스를 제공할 때 지연 시간을 최소화하는 것이다.
또한, 본 발명의 목적은 화면 변화가 큰 구간을 인식하고, 해당 화면을 미리 캡처 및 인코딩하여 여유 대역에 미리 전송함으로써 화면 변화가 큰 구간에서의 지연 시간을 최소화하는 것이다.
또한, 본 발명의 목적은 미리 전송한 선캡처 데이터와, 실제로 전송해야할 데이터가 상이할 때, 상이한 부분만을 전송함으로써 사용자의 체감 반응 속도를 향상시키는 것이다.
상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된, 구간 클립이 저장되는 저장부; 및 클라우드 스트리밍 서비스를 위해 실행되는 상기 어플리케이션의 실행 상태를 고려하여 판단한, 상기 구간 클립의 사용 조건이 만족되지 않은 경우 화면 갱신 주기마다 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행하고, 상기 사용 조건이 만족되는 경우 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행하여, 단말로 상기 클라우드 스트리밍 서비스를 제공하는 제어부를 포함한다.
이 때, 구간 클립은 상기 실행 구간 동안 렌더링, 캡처 및 인코딩을 수행하여 생성될 수 있다.
이 때, 단축 스트리밍 절차는 상기 정상 스트리밍 절차보다 상기 클라우드 스트리밍 서버 자원을 적게 사용할 수 있다.
이 때, 구간 클립은 상기 어플리케이션을 사전에 실행하여 상기 클라우드 스트리밍 서버의 자원을 기설정된 수준 이상 사용하는 구간에 대하여 생성될 수 있다.
또한, 본 발명에 따른 클라우드 스트리밍 서비스 제공 방법은, 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된, 구간 클립을 저장하는 단계; 클라우드 스트리밍 서비스를 위해 실행되는 상기 어플리케이션의 실행 상태를 고려하여 상기 구간 클립의 사용 조건의 만족 여부를 판단하는 단계; 상기 사용 조건이 만족되지 않는 경우, 화면 갱신 주기마다 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행하는 단계; 및 상기 사용 조건이 만족되는 경우, 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행하는 단계를 포함한다.
이 때, 구간 클립은 상기 실행 구간 동안 렌더링, 캡처 및 인코딩을 수행하여 생성되고, 상기 단축 스트리밍 절차는 상기 정상 스트리밍 절차보다 자원을 적게 사용할 수 있다.
이 때, 구간 클립은 상기 어플리케이션을 사전에 실행하여 상기 자원을 기설정된 수준 이상 사용하는 구간에 대하여 생성될 수 있다.
또한, 본 발명에 따른 클라우드 스트리밍 서비스 시스템은, 어플리케이션의 실행 상태를 고려하여 판단한, 구간 클립의 사용 조건이 만족되지 않은 경우 화면 갱신 주기마다 정상 스트리밍 절차를 수행하고, 상기 사용 조건이 만족되는 경우 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행하여 클라우드 스트리밍 서비스를 제공하는 클라우드 스트리밍 서버; 및 상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말을 포함한다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서버는, 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성하는 제어부; 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩한, 선캡처 데이터가 저장되는 저장부; 및 상기 실시간 데이터를 전송하고, 상기 선캡처 데이터 중 적어도 일부를 전송하는 통신부를 포함한다.
이 때, 통신부는 상기 현재 구간에 상응하는 실시간 데이터를 전송한 후, 다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송할 수 있다.
이 때, 통신부는 상기 선캡처 데이터 전부의 전송이 수행되기 전에 상기 선캡처 구간에 진입하여 상기 선캡처 구간에 상응하는 실시간 데이터의 전송을 요청받은 경우, 상기 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송할 수 있다.
이 때, 선캡처 구간은 사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
이 때, 선캡처 구간은
상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
또한, 본 발명의 일실시예에 따른 단말 장치는, 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터 및 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 어느 하나를 수신하는 통신부; 및 상기 실시간 데이터 및 상기 선캡처 데이터 중 어느 하나를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공하는 제어부를 포함한다.
이 때, 통신부는 상기 현재 구간에 상응하는 실시간 데이터를 수신한 후, 다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신할 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은, 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 선캡처 데이터를 생성하는 단계; 상기 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성하는 단계; 상기 실시간 데이터를 전송하는 단계; 및 상기 선캡처 데이터 중 적어도 일부를 전송하는 단계를 포함한다.
이 때, 선캡처 데이터 중 적어도 일부를 전송하는 단계는 다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송할 수 있다.
이 때, 선캡처 데이터 중 적어도 일부를 전송하는 단계는 상기 선캡처 데이터 전부의 전송이 수행되기 전에 상기 선캡처 구간에 진입하여 상기 선캡처 데이터의 전송을 요청받은 경우, 상기 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송할 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은, 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터를 수신하는 단계; 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 일부를 수신하는 단계; 및 상기 실시간 데이터 및 상기 선캡처 데이터 중 어느 하나를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공하는 단계를 포함한다.
이 때, 선캡처 데이터 중 적어도 일부를 수신하는 단계는 다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신할 수 있다.
본 발명에 따르면, 클라우드 스트리밍 서비스를 통하여 실행되는 어플리케이션의 시스템 자원을 많이 사용하는 특정 구간에 대한 사전 처리를 통해 어플리케이션의 일부 특정 구간에 의하여 클라우드 스트리밍 서버 자원을 효율적으로 사용하지 못하는 문제를 해결할 수 있다.
또한, 본 발명은 특히 일부 구간에서만 자원 사용량이 많은 어플리케이션을 실행하는 경우 하나의 클라우드 스트리밍 서버에서 보다 많은 개수의 어플리케이션들이 실행되도록 할 수 있다.
또한, 본 발명은 클라우드 스트리밍 서비스를 제공할 때 지연 시간을 최소화할 수 있다.
또한, 본 발명은 화면 변화가 큰 구간을 인식하고, 해당 화면을 미리 캡처 및 인코딩하여 여유 대역에 미리 전송함으로써 화면 변화가 큰 구간에서의 지연 시간을 최소화할 수 있다.
또한, 본 발명은 미리 전송한 선캡처 데이터와, 실제로 전송해야할 데이터가 상이할 때, 상이한 부분만을 전송함으로써 사용자의 체감 반응 속도를 향상시킬 수 있다.
도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 본 발명의 다른 실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 3은 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 4는 도 3에 도시된 제어부의 일 예를 나타낸 블록도이다.
도 5는 도 1에 도시된 단말의 일 예를 나타낸 블록도이다.
도 6은 도 2에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 7은 도 2에 도시된 단말 장치의 일 예를 나타낸 블록도이다.
도 8은 일부 구간에서만 자원 사용률이 높은 어플리케이션의 자원 사용률 변화를 나타낸 그래프이다.
도 9 내지 도 12는 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 화면의 변화의 일 예를 나타낸 도면이다.
도 13은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법을 나타낸 동작 흐름도이다.
도 14는 도 13에 도시된 정상 스트리밍 절차의 일 예를 나타낸 동작 흐름도이다.
도 15는 도 13에 도시된 단축 스트리밍 절차의 일 예를 나타낸 동작 흐름도이다.
도 16은 본 발명의 다른 실시예에 따른 클라우드 스트리밍 서비스 방법(서버 관점)의 일 예를 나타낸 동작 흐름도이다.
도 17은 본 발명의 다른 실시예에 따른 클라우드 스트리밍 서비스 방법(단말 관점)의 일 옐르 나타낸 동작 흐름도이다.
이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.
이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.
도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 1을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(110), 단말들(120-1, ..., 120-N) 및 네트워크(130)를 포함한다.
클라우드 스트리밍 서버(110)는 단말들(120-1, ..., 120-N) 중 어느 하나의 요청에 상응하여 어플리케이션을 실행하고, 어플리케이션 실행 결과에 해당하는 어플리케이션 실행 결과 화면을 단말들(120-1, ..., 120-N) 중 어느 하나로 제공한다. 이 때, 어플리케이션 실행 결과 화면은 클라우드 스트리밍 서버에서 화면 갱신 주기마다 캡처, 인코딩 및 센딩의 스트리밍 파이프라인 절차를 수행하여 생성될 수 있다. 스트리밍 파이프라인 절차는 렌더링(rendering)까지 포함하여, 렌더링, 캡처, 인코딩 및 센딩으로 이루어지는 것으로 볼 수도 있다.
이하에서, 화면 갱신 주기는 화면이 갱신되는데 걸리는 시간일 수도 있고, 1초 동안 화면이 갱신되는 횟수일 수도 있다. 예를 들어, 화면 갱신 주기의 단위는 s일 수도 있고, 1/s일 수도 있다.
클라우드 스트리밍 서버(110)는 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된 구간 클립을 저장하고, 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 실행 상태를 고려하여 구간 클립의 사용 조건을 판단한다.
이 때, 클라우드 스트리밍 서버(110)는 구간 클립의 사용 조건이 만족되지 않은 것으로 판단되면 화면 갱신 주기마다 렌더링(rendering), 캡처(capture), 인코딩(encoding) 및 센딩(sending)의 정상 스트리밍 절차를 수행한다.
이 때, 클라우드 스트리밍 서버(110)는 구간 클립의 사용 조건이 만족된 것으로 판단되면 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행한다.
이와 같이, 클라우드 스트리밍 서버(110)는 구간 클립의 사용 조건 만족 여부에 따라 정상 스트리밍 절차 또는 단축 스트리밍 절차를 선택적으로 수행함으로써 서버 자원을 효율적으로 사용할 수 있다.
즉, 어플리케이션마다 정해진 일부 구간에서만 많은 시스템 자원을 필요로 하는 경우가 많고, 이와 같은 경우 많은 시스템 자원을 필요로 하는 해당 구간 때문에 서버에서 실행되는 어플리케이션의 개수가 제한되게 된다.
본 발명에 따르면, 많은 시스템 자원을 필요로 하는 일부 구간에 해당하는 구간 클립을 미리 생성해두고, 어플리케이션 실행시 해당 구간에서는 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차 대신 구간 클립을 바로 센딩하는 단축 스트리밍 절차를 수행함으로써 정해진 시스템 자원 하에서 보다 많은 클라우드 스트리밍 어플리케이션이 실행되도록 할 수 있다.
예를 들어, 동화(fairy tale) 리딩 어플리케이션의 전체 구간이 5분이고 평균 CPU 사용률이 5%이나, 어플리케이션 실행 시작 후 최초 30초 동안의 CPU 사용률이 30%라면 서버에서 안정적으로 서비스할 수 있는 최대 어플리케이션 수는 2~3개이다. 그러나, 본 발명이 적용되면 해당 구간(최초 30초 동안)에 상응하는 구간 클립을 생성해두고 어플리케이션의 해당 구간 실행시 생성된 구간 클립을 바로 센딩만 하게 되면 해당 구간에서 정상 스트리밍 절차를 수행하는 것보다 훨씬 적은 자원을 소모하게 된다. 예를 들어, 어플리케이션 실행 시작 후 최초 30초 동안 구간 클립을 바로 센딩하는 경우 CPU 사용률이 10%라면 안정적으로 서비스할 수 있는 최대 어플리케이션 수는 7~8개로 늘어난다.
단말들(120-1, ..., 120-N)은 클라우드 스트리밍 서버(110)로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하여 사용자에게 제공한다.
단말들(120-1, ..., 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말들(120-1, ..., 120-N)은 각각 휴대폰, PMP(Portable Multimedia Player), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.
네트워크(130)는 클라우드 스트리밍 서버(110) 및 단말들(120-1, ..., 120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들면, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말들(120-1, ..., 120-N) 사이에 사용되는 네트워크는 단말들((120-1, ..., 120-N) 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.
도 2는 본 발명의 다른 실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2를 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 클라우드 스트리밍 서버(210), 단말 장치(220) 및 네트워크(230)를 포함한다.
클라우드 스트리밍 서버(210)는 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성하고, 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩한, 선캡처 데이터가 저장되고, 상기 실시간 데이터를 전송하고, 상기 선캡처 데이터 중 적어도 일부를 전송한다.
이 때, 클라우드 스트리밍 서버(210)는 상기 현재 구간에 상응하는 실시간 데이터를 전송한 후, 다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송할 수 있다.
이 때, 클라우드 스트리밍 서버(210)는 상기 선캡처 데이터 전부의 전송이 수행되기 전에 상기 선캡처 구간에 진입하여 상기 선캡처 구간에 상응하는 실시간 데이터의 전송을 요청 받은 경우, 상기 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송할 수 있다.
이 때, 클라우드 스트리밍 서버(210)는 상기 선캡처 구간에 진입하였을 때, 전송할 실시간 데이터와 상기 선캡처 데이터가 상이한 경우, 상기 실시간 데이터 중 상기 선캡처 데이터와 상이한 부분만을 전송할 수 있다.
이 때, 선캡처 구간은 사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 사용자의 진입이 기설정된 기준보다 많은 구간일 수 있다.
단말 장치(220)는 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터 및 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 어느 하나를 수신하고, 상기 실시간 데이터 및 상기 선캡처 데이터 중 어느 하나를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공한다.
이 때, 단말 장치(220)는 이하에서는 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 컨텐츠를 업로드 또는 다운로드 할 수 있는 이동통신단말기의 예를 들어 설명하지만, 단말 장치(220)는 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말기, 유선 단말기, 고정형 단말기 및 IP(Internet Protocol) 단말기 등의 다양한 단말기에 적용될 수 있다. 또한, 단말 장치(120)는 휴대폰, PMP(Portable Multimedia Player), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net book), 개인휴대용 정보단말기(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말기일 때 유리하게 활용될 수 있다.
이 때, 단말 장치(220)는 상기 현재 구간에 상응하는 실시간 데이터를 수신한 후, 다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신할 수 있다.
이 때, 단말 장치(220)는 상기 선캡처 데이터 전부를 수신하기 전에 상기 선캡처 구간에 진입한 경우, 상기 선캡처 데이터 중 수신되지 않은 부분을 수신할 수 있다.
이 때, 단말 장치(220)는 상기 어플리케이션이 상기 선캡처 구간에 진입한 경우, 상기 선캡처 데이터를 상기 화면에 표시하고, 그렇지 아니한 경우 상기 실시간 데이터를 상기 화면에 표시할 수 있다.
네트워크(230)는 클라우드 스트리밍 서버(210) 및 단말 장치(220) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들면, 네트워크(230)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(230)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다.
도 3은 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3을 참조하면, 도 1에 도시된 클라우드 스트리밍 서버(110)는 통신부(310), 저장부(320) 및 제어부(330)를 포함한다.
저장부(320)는 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된, 구간 클립을 저장한다.
이 때, 구간 클립은 실행 구간 동안 렌더링, 캡처 및 인코딩을 수행하여 생성된 것일 수 있다.
이 때, 구간 클립은 해당 어플리케이션을 사전에 실행하여 클라우드 스트리밍 서버의 자원을 기설정된 수준 이상 사용하는 구간에 대하여 생성되는 것일 수 있다.
이 때, 구간 클립은 해당 어플리케이션의 품질관리(Quality Assurance; QA)에 상응하여 생성되는 것일 수 있다. 통상, 클라우드 스트리밍 서비스를 위한 어플리케이션은 품질관리 단계를 거치게 되므로 품질관리 단계에서 미리 자원 사용률이 높은 특정 구간에 대해 렌더링, 캡처 및 인코딩을 수행하여 구간 클립을 생성해두고, 이를 품질관리에 상응하는 메타정보와 함께 관리하면서 어플리케이션 실행시 자원 사용률을 낮추기 위해 활용할 수 있다.
이 때, 실행 구간은 동일한 어플리케이션에 대하여 동일하게 설정될 수 있다. 즉, 동일한 동화 리딩 어플리케이션이라면 자원 사용량이 많은 구간이 동일할 것이므로 같은 어플리케이션에 대해서는 자원 사용률이 높은 실행 구간을 다시 체크할 필요가 없다.
이 때, 실행 구간은 어플리케이션마다 독립적으로 설정될 수 있다. 즉, 어플리케이션마다 자원 사용률이 높은 구간이 상이할 것이므로 해당 어플리케이션에 적합한 구간을 실행 구간으로 설정하여 구간 클립을 생성하여야 한다.
제어부(330)는 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 실행 상태를 고려하여 구간 클립의 사용 조건 만족 여부를 판단한다. 제어부(330)는 구간 클립의 사용 조건이 만족되지 않은 것으로 판단되면 화면 갱신 주기마다 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행한다.
제어부(330)는 구간 클립의 사용 조건이 만족된 것으로 판단되면 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행한다.
제어부(330)는 이와 같이 선택적으로 정상 스트리밍 절차 또는 단축 스트리밍 절차를 수행하여 일부 구간의 자원 사용률이 높더라도 그 구간의 영향을 최소화하여 서버 자원을 보다 효율적으로 사용하면서 단말로 클라우드 스트리밍 서비스를 제공할 수 있다.
이 때, 단축 스트리밍 절차는 정상 스트리밍 절차보다 클라우드 스트리밍 서버 자원을 적게 사용하는 것일 수 있다.
이 때, 구간 클립의 사용 조건은 해당 어플리케이션의 실행 타이밍이 기설정된 구간에 속하는지 여부일 수 있다. 즉, 구간 클립은 미리 정해진 어플리케이션 실행 구간에 대해 생성되어 있고, 어플리케이션 실행 타이밍이 이 구간에 도달하면 제어부는 구간 클립 사용 조건이 만족된 것으로 판단할 수 있다.
통신부(230)는 도 1에 도시된 네트워크와 같은 통신망을 통해 다수의 단말들과 관련된 정보를 송수신하는 역할을 한다. 특히, 본 발명의 실시 예에 따른 통신부(230)는 클라우드 스트리밍 서비스에 대한 요청을 단말로부터 수신하고, 단말이 요청한 클라우드 스트리밍 서비스에 상응하는 어플리케이션의 실행 결과 화면을 단말로 제공한다.
저장부(320)는 구간 클립 이외에도 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.
실시예에 따라, 저장부(320)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(320)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.
또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.
한편, 클라우드 스트리밍 서버(110)에는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛 일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛 일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.
도 4는 도 3에 도시된 제어부의 일 예를 나타낸 블록도이다.
도 4를 참조하면, 도 3에 도시된 제어부(330)는 판단부(410), 정상 절차 수행부(420) 및 자원 절약 모드부(430)를 포함한다.
판단부(410)는 구간 클립의 사용 조건 만족 여부를 판단한다. 이 때, 구간 클립의 사용 조건은 해당 어플리케이션의 실행 타이밍이 기설정된 구간에 도달했는지 여부일 수 있다. 예를 들어, 동화 리딩 어플리케이션의 실행 시작 후 5분부터 30초 동안이 자원 사용률이 가장 높은 실행 구간으로 설정된 경우, 구간 클립의 사용 조건은 동화 리딩 어플리케이션이 실행 시작 후 5분부터 5분 30초 사이인지 여부일 수 있다.
정상 절차 수행부(420)는 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행한다.
자원 절약 모드부(430)는 구간 클립을 센딩하는 단축 스트리밍 절차를 수행한다. 이 때, 단축 스트리밍 절차는 렌더링, 캡처 및 인코딩을 미리 수행해둔 구간 클립을 센딩하기만 하므로 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차보다 자원 소모량이 작다.
도 5는 도 1에 도시된 단말의 일 예를 나타낸 도면이다.
도 5를 참조하면, 단말은 제어부(510), 통신부(520), 입력부(530), 표시부(540) 및 저장부(550)를 포함한다.
입력부(530)는 숫자 및 문자 정보 등의 다양한 정보를 입력 받고, 각종 기능을 설정 및 단말의 기능 제어와 관련하여 입력되는 신호를 제어부(510)로 전달한다. 또한, 입력부(530)는 사용자의 터치 또는 조작에 따른 입력 신호를 발생하는 키패드와 터치패드 중 적어도 하나를 포함하여 구성될 수 있다. 이 때, 입력부(530)는 표시부(540)와 함께 하나의 터치패널(또는 터치스크린(Touch screen))의 형태로 구성되어 입력과 표시 기능을 동시에 수행할 수도 있다. 또한, 입력부(530)는 키보드, 키패드, 마우스, 조이스틱 등과 같은 입력 장치 외에도 향후 개발될 수 있는 모든 형태의 입력 수단이 사용될 수 있다. 특히, 본 발명에 따른 입력부(530)는 클라우드 스트리밍 서비스를 클라우드 스트리밍 서버(110)에 요청하거나 클라우드 스트리밍 서버(110)로부터 어플리케이션 실행 결과 화면을 제공 받기 위한 입력 신호를 제어부(510)로 전달한다.
표시부(540)는 단말의 기능 수행 중에 발생하는 일련의 동작상태 및 동작결과 등에 대한 정보를 표시한다. 또한, 표시부(540)는 단말의 메뉴 및 사용자가 입력한 사용자 데이터 등을 표시할 수 있다. 여기서, 표시부(540)는 액정표시장치(LCD, Liquid Crystal Display), 초박막 액정표시장치(TFT-LCD, Thin Film Transistor LCD), 발광다이오드(LED, Light Emitting Diode), 유기 발광다이오드(OLED, Organic LED), 능동형 유기발광다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다. 이 때, 표시부(540)가 터치스크린 형태로 구성된 경우, 표시부(540)는 입력부(530)의 기능 중 일부 또는 전부를 수행할 수 있다. 특히, 본 발명에 따른 표시부(540)는 클라우드 스트리밍 서비스와 관련된 정보를 화면으로 표시한다.
저장부(550)는 데이터를 저장하기 위한 장치로, 주 기억 장치 및 보조 기억 장치를 포함하고, 단말의 기능 동작에 필요한 응용 프로그램을 저장한다. 이러한 저장부(550)는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다. 여기서, 단말은 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 제어부(510)의 제어 하에 해당 응용 프로그램들을 실행하여 각 기능을 제공하게 된다. 특히, 본 발명에 따른 저장부(550)는 단말을 부팅시키는 운영체제, 클라우드 스트리밍 서비스를 클라우드 스트리밍 서버(110)로 요청하거나 어플리케이션 실행 결과를 클라우드 스트리밍 서버(110)로부터 수신하기 위한 프로그램 등을 저장한다.
통신부(520)는 클라우드 스트리밍 서버(110)와 네트워크를 통해 데이터를 송수신하기 위한 기능을 수행한다. 여기서, 통신부(520)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함할 수 있다. 이러한 통신부(520)는 무선통신 모듈(미도시) 및 유선통신 모듈(미도시) 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 단말이 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 클라우드 스트리밍 서버(110)로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 통신망에 접속하여, 클라우드 스트리밍 서버(110)에 데이터를 송수신할 수 있다. 즉, 단말은 무선통신 모듈 또는 유선통신 모듈을 이용하여 통신망에 접속하며, 통신망을 통해 클라우드 스트리밍 서버(110)와 데이터를 송수신할 수 있다. 특히, 본 발명에 따른 통신부(520)는 클라우드 스트리밍 서버(110) 와 통신하여 어플리케이션 실행을 요청하고, 어플리케이션 실행 결과 화면을 수신하는데 필요한 데이터를 송수신한다.
제어부(510)는 운영 체제(OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 예컨대, 제어부(510)는 클라우드 스트리밍 서버(110)에 접속하는 과정 전반을 제어할 수 있다. 예컨대, 별도의 서비스 어플리케이션을 통해 클라우드 스트리밍 서버(110)에 접속하는 경우, 사용자의 요청에 따라 서비스 어플리케이션을 실행되는 과정 전반을 제어할 수 있으며, 실행과 동시에 클라우드 스트리밍 서버(110)로 서비스 이용 요청이 전송되도록 제어할 수 있으며, 이 때 사용자 인증에 필요한 단말 정보가 함께 전송되도록 제어할 수 있다.
도 6은 도 2에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 6을 참조하면, 도 2에 도시된 클라우드 스트리밍 서버(210)는 제어부(610), 저장부(620) 및 통신부(630)를 포함한다.
제어부(610)는 운영 체제(OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 특히, 본 발명에 따른 제어부(610)는 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성한다.
이 때, 실시간 데이터는 사용자의 입력에 따라 실행된 어플리케이션이 실행되고 있는 현재 화면이 캡처 및 인코딩된 데이터일 수 있다. 즉, 어플리케이션의 실행에 따라 실시간으로 계속 생성된다.
저장부(620)는 데이터를 저장하기 위한 장치로, 주 기억 장치 및 보조 기억 장치를 포함하고, 클라우드 스트리밍 서버의 기능 동작에 필요한 응용 프로그램을 저장한다. 이러한 저장부(620)는 크게 프로그램 영역과 데이터 영역을 포함할 수 있다. 여기서, 클라우드 스트리밍 서버는 사용자의 요청에 상응하여 각 기능을 활성화하는 경우, 제어부(610)의 제어 하에 해당 응용 프로그램들을 실행하여 각 기능을 제공하게 된다. 특히, 본 발명에 따른 저장부(620)는 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩한, 선캡처 데이터가 저장된다.
이 때, 저장부(620)는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(Magnetic Media), CD-ROM(Compact Disk Read Only Memory), DVD(Digital Video Disk)와 같은 광 기록 매체(Optical Media), 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-optical Media) 및 롬(Read Only Memory; ROM), 램(Random Access Memory; RAM), 플래시 메모리(Flash Memory)를 포함한다.
실시예에 따라, 선캡처 구간은 사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 어플리케이션에 대해 예측되는 사용자 입력에 따른 시나리오를 생성하고, 시나리오에 따라 화면이 변화될 때, 화면의 변화량이 기설정된 기준보다 큰 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 사용자 입력 시나리오에 기반했을 때, 화면의 50퍼센트 이상이 변화하는 경우 선캡처 구간으로 설정될 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 과거에 어플리케이션이 실행된 이력인 실행 히스토리를 저장하고, 실행 히스토리에서 화면이 기설정된 기준보다 많이 변화된 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 실행 히스토리에서 화면의 50퍼센트 이상이 변화하는 구간을 선캡처 구간으로 설정할 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 사용자의 진입이 기설정된 기준보다 많은 구간일 수 있다.
즉, 실행 히스토리를 분석하여, 사용자가 많이 진입하는, 즉 요청이 많은 구간을 선캡처 구간으로 설정할 수 있다.
또는, 상술한 3가지 중 어느 하나 이상의 기준을 조합하여 선캡처 구간을 설정할 수도 있다.
통신부(630)는 클라우드 스트리밍 서버와 네트워크를 통해 데이터를 송수신하기 위한 기능을 수행한다. 여기서, 통신부(630)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함한다. 이러한 통신부(630)는 무선통신 모듈(미도시) 및 유선통신 모듈(미도시) 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 클라우드 스트리밍 서버가 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 단말 장치로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 네트워크에 접속하여, 단말 장치에 데이터를 송수신할 수 있다. 즉, 클라우드 스트리밍 서버는 무선통신 모듈 또는 유선통신 모듈을 이용하여 네트워크에 접속하며, 네트워크를 통해 단말 장치와 데이터를 송수신할 수 있다. 특히, 본 발명에 따른 통신부(630)는 상기 실시간 데이터를 전송하고, 상기 선캡처 데이터 중 적어도 일부를 전송한다.
이 때, 통신부(630)는 유선 방식 및 무선 방식을 포함하여 다양한 통신 방식을 통해서 데이터를 송수신할 수 있다.
이 때, 통신부(630)는 각각 서로 다른 통신 방식에 따라서 데이터를 송신하는 복수의 통신 모듈을 포함할 수 있다.
실시예에 따라, 통신부(630)는 상기 현재 구간에 상응하는 실시간 데이터를 전송한 후, 다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송할 수 있다.
즉, 단말 장치로부터 사용자의 입력과 함께 요청 받은 화면을 캡처 및 인코딩한 실시간 데이터를 먼저 전송하고, 다음 입력을 수신할 때까지 여유 대역이 남는다면 선캡처 데이터를 전송할 수 있다. 만약 여유 대역이 남지 않는다면 실시간 데이터만 전송할 수 있다. 이 때, 선캡처 데이터의 전부를 전송하지 못하더라도 여유 대역만큼만 선캡처 데이터의 일부를 전송할 수 있다. 전송되지 않은 일부는, 다음 입력을 수신하여 실시간 데이터를 전송하고, 여유 대역이 남았을 때 아직 전송되지 않은 부분을 전송할 수 있다.
실시예에 따라, 통신부(630)는 상기 선캡처 데이터 전부의 전송이 수행되기 전에 상기 선캡처 구간에 진입하여 상기 선캡처 구간에 상응하는 실시간 데이터의 전송을 요청 받은 경우, 상기 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송할 수 있다.
즉, 선캡처 구간에 진입했을 때 선캡처 데이터의 전부가 전송됐다면, 단말 장치는 실시간 데이터 대신 수신한 선캡처 데이터를 이용하여 클라우드 스트리밍 서비스를 제공할 것이고, 클라우드 스트리밍 서버는 전송해야 할 데이터가 없으므로 여유 대역이 생길 수 있다. 반면, 선캡처 구간에 진입하였는데 선캡처 데이터가 아직 전부 전송되지 않은 경우, 아직 전송되지 않은 선캡처 데이터의 나머지를 전송하여 단말 장치가 클라우드 스트리밍 서비스를 제공할 수 있도록 한다.
실시예에 따라, 통신부(630)는 상기 선캡처 구간에 진입하였을 때, 전송할 실시간 데이터와 상기 선캡처 데이터가 상이한 경우, 상기 실시간 데이터 중 상기 선캡처 데이터와 상이한 부분만을 전송할 수 있다.
이 때, 사용자 입력 시나리오에 기반하여 예측되거나, 어플리케이션의 실행 히스토리에 기반하여 분석된 선캡처 구간에 상응하는 선캡처 데이터가 실제로 요청 받은 실시간 데이터와 완전히 동일하지 않을 수도 있다. 이 경우, 실시간 데이터 전체를 전송하는 것보다, 상이한 부분만을 전송하고 미리 전송된 선캡처 데이터와 조합하여 클라우드 스트리밍 서비스를 제공하는 것이 효율적일 수 있다. 따라서, 선캡처 구간에 진입하였을 때, 실시간 데이터와 선캡처 데이터의 상이한 부분을 인식하고, 상이한 부분만을 전송할 수 있다.
도 7은 도 2에 도시된 단말 장치의 일 예를 나타낸 블록도이다.
도 7을 참조하면, 도 2에 도시된 단말 장치는 통신부(710) 및 제어부(720)를 포함한다.
통신부(710)는 클라우드 스트리밍 서버와 네트워크를 통해 데이터를 송수신하기 위한 기능을 수행한다. 여기서, 통신부(710)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF 송신 수단과 수신되는 신호를 저잡음 증폭하고 주파수를 하강 변환하는 RF 수신 수단 등을 포함한다. 이러한 통신부(710)는 무선통신 모듈(미도시) 및 유선통신 모듈(미도시) 중 적어도 하나를 포함할 수 있다. 그리고, 무선통신 모듈은 무선 통신 방법에 따라 데이터를 송수신하기 위한 구성이며, 단말 장치가 무선 통신을 이용하는 경우, 무선망 통신 모듈, 무선랜 통신 모듈 및 무선팬 통신 모듈 중 어느 하나를 이용하여 데이터를 클라우드 스트리밍 서버로 송수신할 수 있다. 또한, 유선통신 모듈은 유선으로 데이터를 송수신하기 위한 것이다. 유선통신 모듈은 유선을 통해 네트워크에 접속하여, 클라우드 스트리밍 서버에 데이터를 송수신할 수 있다. 즉, 단말 장치는 무선통신 모듈 또는 유선통신 모듈을 이용하여 네트워크에 접속하며, 네트워크를 통해 클라우드 스트리밍 서버와 데이터를 송수신할 수 있다. 특히, 본 발명에 따른 통신부(710)는 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터 및 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 어느 하나를 수신한다.
이 때, 통신부(710)는 유선 방식 및 무선 방식을 포함하여 다양한 통신 방식을 통해서 데이터를 송수신할 수 있다.
이 때, 통신부(710)는 각각 서로 다른 통신 방식에 따라서 데이터를 송신하는 복수의 통신 모듈을 포함할 수 있다.
이 때, 실시간 데이터는 사용자의 입력에 따라 실행된 어플리케이션이 실행되고 있는 현재 화면이 캡처 및 인코딩된 데이터일 수 있다. 즉, 어플리케이션의 실행에 따라 실시간으로 계속 수신한다.
이 때, 선캡처 구간은 사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 어플리케이션에 대해 예측되는 사용자 입력에 따른 시나리오를 생성하고, 시나리오에 따라 화면이 변화될 때, 화면의 변화량이 기설정된 기준보다 큰 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 사용자 입력 시나리오에 기반했을 때, 화면의 50퍼센트 이상이 변화하는 경우 선캡처 구간으로 설정될 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 과거에 어플리케이션이 실행된 이력인 실행 히스토리를 저장하고, 실행 히스토리에서 화면이 기설정된 기준보다 많이 변화된 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 실행 히스토리에서 화면의 50퍼센트 이상이 변화하는 구간이 선캡처 구간으로 설정될 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 사용자의 진입이 기설정된 기준보다 많은 구간일 수 있다.
즉, 실행 히스토리를 분석하여, 사용자가 많이 진입하는, 즉 요청이 많은 구간이 선캡처 구간으로 설정될 수 있다.
또는, 상술한 3가지 중 어느 하나 이상의 기준을 조합하여 선캡처 구간이 설정될 수도 있다.
실시예에 따라, 통신부(710)는 상기 현재 구간에 상응하는 실시간 데이터를 수신한 후, 다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신할 수 있다.
즉, 사용자의 입력과 함께 요청한 화면을 캡처 및 인코딩한 실시간 데이터를 먼저 수신하고, 다음 입력을 전송할 때까지 여유 대역이 남는다면 선캡처 데이터를 수신할 수 있다. 만약 여유 대역이 남지 않는다면 실시간 데이터만 수신할 수 있다. 이 때, 선캡처 데이터의 전부를 수신하지 못하더라도 여유 대역만큼만 선캡처 데이터의 일부를 수신할 수 있다. 수신하지 않은 일부는, 다음 입력을 전송하여 실시간 데이터를 수신하고, 여유 대역이 남았을 때 아직 수신하지 않은 부분을 수신할 수 있다.
실시예에 따라, 통신부(710)는 상기 선캡처 데이터 전부를 수신하기 전에 상기 선캡처 구간에 진입한 경우, 상기 선캡처 데이터 중 수신되지 않은 부분을 수신할 수 있다.
즉, 선캡처 구간에 진입했을 때 선캡처 데이터의 전부를 수신했다면, 제어부(720)는 실시간 데이터 대신 수신한 선캡처 데이터를 이용하여 클라우드 스트리밍 서비스를 제공할 것이고, 클라우드 스트리밍 서버는 전송해야 할 데이터가 없으므로 여유 대역이 생길 수 있다. 반면, 선캡처 구간에 진입하였는데 선캡처 데이터를 아직 전부 수신하지 않은 경우, 아직 수신하지 않은 선캡처 데이터의 나머지를 수신하여 클라우드 스트리밍 서비스를 제공할 수 있다.
이 때, 선캡처 구간에 진입하였는데, 실시간 데이터와 선캡처 데이터가 상이한 경우, 통신부(710)는 실시간 데이터 중 선캡처 데이터와 상이한 부분만을 수신할 수 있다.
제어부(720)는 운영 체제(OS, Operation System) 및 각 구성을 구동시키는 프로세스 장치가 될 수 있다. 예컨대, 제어부(720)는 클라우드 스트리밍 서버에 접속하는 과정 전반을 제어할 수 있다. 예컨대, 별도의 서비스 어플리케이션을 통해 클라우드 스트리밍 서버에 접속하는 경우, 사용자의 요청에 따라 서비스 어플리케이션을 실행되는 과정 전반을 제어할 수 있으며, 실행과 동시에 클라우드 스트리밍 서버로 서비스 이용 요청이 전송되도록 제어할 수 있으며, 이때 사용자 인증에 필요한 단말 정보가 함께 전송되도록 제어할 수 있다. 특히, 본 발명에 따른 제어부(720)는 상기 실시간 데이터 및 상기 선캡처 데이터 중 어느 하나를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공한다.
이 때, 표시부(미도시)는 단말 장치의 기능 수행 중에 발생하는 일련의 동작상태 및 동작결과 등에 대한 정보를 표시한다. 또한, 표시부는 단말 장치의 메뉴 및 사용자가 입력한 사용자 데이터 등을 표시할 수 있다. 여기서, 표시부는 액정표시장치(LCD, Liquid Crystal Display), 초박막 액정표시장치(TFT-LCD, Thin Film Transistor LCD), 발광다이오드(LED, Light Emitting Diode), 유기 발광다이오드(OLED, Organic LED), 능동형 유기발광다이오드(AMOLED, Active Matrix OLED), 레티나 디스플레이(Retina Display), 플렉시블 디스플레이(Flexible display) 및 3차원(3 Dimension) 디스플레이 등으로 구성될 수 있다. 이때, 표시부가 터치스크린 형태로 구성된 경우, 표시부는 입력부(미도시)의 기능 중 일부 또는 전부를 수행할 수 있다. 특히, 본 발명에 따른 표시부는 제어부(720)의 제어에 따라 실시간 데이터 또는 선캡처 데이터를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공한다.
실시예에 따라, 제어부(720)는 상기 어플리케이션이 상기 선캡처 구간에 진입한 경우, 상기 선캡처 데이터를 상기 화면에 표시하고, 그렇지 아니한 경우 상기 실시간 데이터를 상기 화면에 표시할 수 있다.
즉, 선캡처 구간에 상응하는 선캡처 데이터를 이용할 수 있을 때에는 선캡처 데이터를 표시함으로써 지연 시간을 최소화할 수 있다.
이 때, 선캡처 구간에 진입하였는데, 실시간 데이터와 선캡처 데이터가 상이한 경우, 제어부(720)는 통신부(710)가 수신한 실시간 데이터 중 선캡처 데이터와 상이한 부분과, 선캡처 데이터를 조합하여 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공할 수 있다.
이 때, 사용자 입력 시나리오에 기반하여 예측되거나, 어플리케이션의 실행 히스토리에 기반하여 분석된 선캡처 구간에 상응하는 선캡처 데이터가 실제로 요청 받은 실시간 데이터와 완전히 동일하지 않을 수도 있다. 이 경우, 실시간 데이터 전체를 수신하는 것보다, 상이한 부분만을 수신하고 미리 수신한 선캡처 데이터와 조합하여 클라우드 스트리밍 서비스를 제공하는 것이 효율적일 수 있다. 따라서, 선캡처 구간에 진입하였을 때, 클라우드 스트리밍 서버는 실시간 데이터와 선캡처 데이터의 상이한 부분을 인식하여 상이한 부분만을 전송하고, 제어부(720)는 상이한 부분과 선캡처 데이터를 조합하여 클라우드 스트리밍 서비스를 제공할 수 있다.
도 8은 일부 구간에서만 자원 사용률이 높은 어플리케이션의 자원 사용률 변화를 나타낸 그래프이다.
도 8을 참조하면, 어플리케이션의 실행 시간에 따른 자원 사용률을 알 수 있고, 자원 사용률이 30%를 초과하는 구간이 A 구간 및 B 구간의 2군데임을 알 수 있다.
일반적으로 클라우드 스트리밍 서비스를 제공하게 되면 이 어플리케이션은 특정 구간(A 구간)에서 자원 사용률이 50%(정상 스트리밍 절차를 수행하는 경우)에 이르므로, 서버는 2개의 어플리케이션을 실행하기도 버거울 것이다.
본 발명이 적용되어, A 구간 및 B 구간에 해당하는 구간 클립을 생성해두고, A 구간 및 B 구간에서는 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 진행하지 않고, 구간 클립을 센딩만(이 경우 자원사용률이 30% 미만이라면) 한다면 서버는 3개의 어플리케이션을 문제 없이 구동할 수 있을 것이다.
A 구간 및 B 구간과 같은 실행 구간은 서로 다른 어플리케이션의 경우 달리 설정되어야 할 것이다. 다만, 실행 구간은 동일한 어플리케이션에 대해서는 동일하게 설정될 수 있다.
도 9 내지 도 12는 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 화면의 변화의 일 예를 나타낸 도면이다.
도 9 내지 도 12를 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 화면은 좌상부(910, 1010, 1110, 1210), 좌하부(920, 1020, 1120, 1220) 및 우부(930, 1030, 1130, 1230)로 나누어져 있다.
이하, 도 9부터 도 12로 순차적으로 화면이 변화하는 경우를 예시로 들어 설명한다.
도 11에서 도 12로 변화할 때 우부가 '1'(1130)에서 '2'(1230)로 변화하는데, 화면의 약 절반이 변화하므로 사용자 입력 시나리오 또는 실행 히스토리에 기반하여 선캡처 구간으로 설정될 수 있다. 이하에선 도 11에서 도 12로 변화하는 구간을 선캡처 구간으로 가정하여 설명하도록 한다.
도 9에서 도 10으로 변화할 때, 좌하부가 'a'(920)에서 'b'(1020)로 변화한다. 좌하부는 크기가 작아 화면의 변화량이 작으므로 여유 대역이 생긴다. 이 때, 선캡처 데이터인 '2' 중 일부를 여유 대역 동안 전송할 수 있는 만큼만 전송한다. 이를 '2-1'이라 한다.
도 10에서 도 11으로 변화할 때, 좌상부가 'A'(1010)에서 'B'(1110)로 변화한다. 좌상부 역시 크기가 작아 화면의 변화량이 작으므로 여유 대역이 생긴다. 이 때, 선캡처 데이터인 '2' 중 일부를 여유 대역 동안 전송할 수 있는 만큼만 전송한다. 이를 '2-2'라 한다.
도 11에서 도 12로 변화하는 구간은 선캡처 구간이다. 그런데, 선캡처 데이터인 '2'가 전부 전송되지 않았으므로, 전송되지 않은 나머지를 전송한다. 이를 '2-3'이라 한다.
만약 '2'를 나누어 그 중 일부인 '2-1' 및 '2-2'를 미리 전송하지 않고, '2'를 통째로 전송하는 경우, 데이터의 양이 많아 지연시간이 발생할 수 있다. 그러나, 본 발명에 의하여 선캡처 데이터 중 일부인 '2-1' 및 '2-2'를 미리 전송하고, 선캡처 구간에 진입했을 때는 나머지인 '2-3'만 전송함으로써 다음 입력을 수신하기 전까지 '2' 전체의 전송이 완료될 수 있고, 지연 시간을 최소화할 수 있다.
도 13은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법을 나타낸 동작 흐름도이다.
도 13을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된, 구간 클립을 저장한다(S1310).
이 때, 구간 클립은 상기 실행 구간 동안 렌더링, 캡처 및 인코딩을 수행하여 생성되고, 상기 단축 스트리밍 절차는 상기 정상 스트리밍 절차보다 자원을 적게 사용할 수 있다.
이 때, 구간 클립은 상기 어플리케이션을 사전에 실행하여 상기 자원을 기설정된 수준 이상 사용하는 구간에 대하여 생성될 수 있다.
이 때, 구간 클립은 어플리케이션의 품질 관리(Quality Assurance; QA)에 상응하여 생성될 수 있다.
이 때, 실행 구간은 동일한 어플리케이션에 대해서는 동일하게 설정되고, 서로 다른 어플리케이션들에 대해서는 독립적으로 설정될 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 클라우드 스트리밍 서비스를 위해 어플리케이션을 실행한다(S1320).
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 실행 상태를 고려하여 구간 클립의 사용 조건의 만족 여부를 판단한다(S1330).
이 때, 실행 상태는 어플리케이션의 실행 타이밍이고, 사용 조건은 어플리케이션의 실행 타이밍이 기설정된 구간에 속하는지 여부일 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 구간 클립의 사용 조건이 만족되지 않은 것으로 판단되면, 화면 갱신 주기마다 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행한다(S1350).
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 제공 방법은 구간 클립의 사용 조건이 만족된 것으로 판단되면, 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행한다(S1340).
도 14는 도 13에 도시된 정상 스트리밍 절차의 일 예를 나타낸 동작 흐름도이다.
도 14를 참조하면, 도 13에 도시된 정상 스트리밍 절차는 먼저 어플리케이션 실행 결과 화면을 렌더링한다(S1410). 이 때, 렌더링은 소프트웨어에 의하여 수행될 수도 있고, GPU(Graphic Processing Unit)와 같은 하드웨어에 의하여 수행될 수도 있다.
또한, 정상 스트리밍 절차는 렌더링된 화면을 캡처한다(S1420).
또한, 정상 스트리밍 절차는 캡처된 화면을 인코딩한다(S1430). 이 때, 인코딩은 클라우드 스트리밍 서버의 종류 및/또는 실행되는 어플리케이션의 종류 등에 따라 다양한 인코딩 기법이 적용될 수 있다.
또한, 정상 스트리밍 절차는 인코딩된 화면을 단말로 센딩한다(S1440).
도 15는 도 13에 도시된 단축 스트리밍 절차의 일 예를 나타낸 동작 흐름도이다.
도 15를 참조하면, 도 13에 도시된 단축 스트리밍 절차는 저장된 어플리케이션의 실행 타이밍에 상응하는 구간 클립을 로드한다(S1510). 이 때, 구간 클립은 사전에 어플리케이션 실행하여 렌더링, 캡처 및 인코딩을 통해 생성된 것일 수 있다.
또한, 단축 스트리밍 절차는 로드된 구간 클립을 센딩한다(S1520).
도 8에 도시된 단축 스트리밍 절차는 도 7에 도시된 정상 스트리밍 절차와 비교하여 렌더링, 캡처 및 인코딩 절차가 필요 없으므로 정상 스트리밍 절차보다 적은 서버 자원을 소모한다.
도 13, 도 14 및 도 15에 도시된 단계들은, 도 13, 도 14 및 도 15에 도시된 순서, 그 역순 또는 동시에 수행될 수 있다.
도 16은 본 발명의 다른 실시예에 따른 클라우드 스트리밍 서비스 방법(서버 관점)의 일 예를 나타낸 동작 흐름도이다.
도 16을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩한, 선캡처 데이터를 생성하여 저장한다(S1610).
실시예에 따라, 선캡처 구간은 사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 어플리케이션에 대해 예측되는 사용자 입력에 따른 시나리오를 생성하고, 시나리오에 따라 화면이 변화될 때, 화면의 변화량이 기설정된 기준보다 큰 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 사용자 입력 시나리오에 기반했을 때, 화면의 50퍼센트 이상이 변화하는 경우 선캡처 구간으로 설정될 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 과거에 어플리케이션이 실행된 이력인 실행 히스토리를 저장하고, 실행 히스토리에서 화면이 기설정된 기준보다 많이 변화된 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 실행 히스토리에서 화면의 50퍼센트 이상이 변화하는 구간을 선캡처 구간으로 설정할 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 사용자의 진입이 기설정된 기준보다 많은 구간일 수 있다.
즉, 실행 히스토리를 분석하여, 사용자가 많이 진입하는, 즉 요청이 많은 구간을 선캡처 구간으로 설정할 수 있다.
또는, 상술한 3가지 중 어느 하나 이상의 기준을 조합하여 선캡처 구간을 설정할 수도 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 사용자의 입력을 받아 선캡처 구간에 진입하였는지 판단하여(S1620), 선캡처 구간에 진입하지 않은 경우 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성한다(S1630).
이 때, 실시간 데이터는 사용자의 입력에 따라 실행된 어플리케이션이 실행되고 있는 현재 화면이 캡처 및 인코딩된 데이터일 수 있다. 즉, 어플리케이션의 실행에 따라 실시간으로 계속 생성된다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 실시간 데이터를 전송한다(S1640).
이 때, 실시간 데이터의 크기가 작은 경우 다음 입력을 수신할 때까지 여유 대역이 발생할 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 선캡처 데이터 중 적어도 일부를 전송한다(S1650).
실시예에 따라, 선캡처 데이터 중 적어도 일부를 전송하는 단계는 상기 현재 구간에 상응하는 실시간 데이터를 전송하는 단계 이후, 다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송할 수 있다.
즉, 단말 장치로부터 사용자의 입력과 함께 요청 받은 화면을 캡처 및 인코딩한 실시간 데이터를 먼저 전송하고, 다음 입력을 수신할 때까지 여유 대역이 남는다면 선캡처 데이터를 전송할 수 있다. 만약 여유 대역이 남지 않는다면 실시간 데이터만 전송할 수 있다. 이 때, 선캡처 데이터의 전부를 전송하지 못하더라도 여유 대역만큼만 선캡처 데이터의 일부를 전송할 수 있다. 전송되지 않은 일부는, 다음 입력을 수신하여 실시간 데이터를 전송하고, 여유 대역이 남았을 때 아직 전송되지 않은 부분을 전송할 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 다시 사용자의 입력을 받고, 선캡처 구간에 진입하였는지 여부를 판단한다(S1620).
만약, 선캡처 구간에 진입하였고, 선캡처 데이터 전부가 전송되지 않았다면, 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송한다(S1660).
즉, 선캡처 구간에 진입했을 때 선캡처 데이터의 전부가 전송됐다면, 단말 장치는 실시간 데이터 대신 수신한 선캡처 데이터를 이용하여 클라우드 스트리밍 서비스를 제공할 것이고, 클라우드 스트리밍 서버는 전송해야 할 데이터가 없으므로 여유 대역이 생길 수 있다. 반면, 선캡처 구간에 진입하였는데 선캡처 데이터가 아직 전부 전송되지 않은 경우, 아직 전송되지 않은 선캡처 데이터의 나머지를 전송하여 단말 장치가 클라우드 스트리밍 서비스를 제공할 수 있도록 한다.
도 16에는 도시되지 아니하였으나, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 상기 선캡처 구간에 진입하였을 때, 전송할 실시간 데이터와 상기 선캡처 데이터가 상이한 경우, 상기 실시간 데이터 중 상기 선캡처 데이터와 상이한 부분만을 전송할 수 있다.
이 때, 사용자 입력 시나리오에 기반하여 예측되거나, 어플리케이션의 실행 히스토리에 기반하여 분석된 선캡처 구간에 상응하는 선캡처 데이터가 실제로 요청 받은 실시간 데이터와 완전히 동일하지 않을 수도 있다. 이 경우, 실시간 데이터 전체를 전송하는 것보다, 상이한 부분만을 전송하고 미리 전송된 선캡처 데이터와 조합하여 클라우드 스트리밍 서비스를 제공하는 것이 효율적일 수 있다. 따라서, 선캡처 구간에 진입하였을 때, 실시간 데이터와 선캡처 데이터의 상이한 부분을 인식하고, 상이한 부분만을 전송할 수 있다.
도 17은 본 발명의 다른 실시예에 따른 클라우드 스트리밍 서비스 방법(단말 관점)의 일 예를 나타낸 동작 흐름도이다.
도 17을 참조하면, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 사용자의 입력을 전송하고, 선캡처 구간에 진입하였는지 판단하여(S1710), 선캡처 구간에 진입하지 아니한 경우 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터를 수신한다(S1720).
이 때, 실시간 데이터는 사용자의 입력에 따라 실행된 어플리케이션이 실행되고 있는 현재 화면이 캡처 및 인코딩된 데이터일 수 있다. 즉, 어플리케이션의 실행에 따라 실시간으로 계속 수신한다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 일부를 수신한다(S1730).
이 때, 선캡처 구간은 사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 어플리케이션에 대해 예측되는 사용자 입력에 따른 시나리오를 생성하고, 시나리오에 따라 화면이 변화될 때, 화면의 변화량이 기설정된 기준보다 큰 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 사용자 입력 시나리오에 기반했을 때, 화면의 50퍼센트 이상이 변화하는 경우 선캡처 구간으로 설정될 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간일 수 있다.
즉, 과거에 어플리케이션이 실행된 이력인 실행 히스토리를 저장하고, 실행 히스토리에서 화면이 기설정된 기준보다 많이 변화된 구간을 선캡처 구간으로 설정할 수 있다. 예를 들어, 실행 히스토리에서 화면의 50퍼센트 이상이 변화하는 구간이 선캡처 구간으로 설정될 수 있다.
또는, 선캡처 구간은 상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 사용자의 진입이 기설정된 기준보다 많은 구간일 수 있다.
즉, 실행 히스토리를 분석하여, 사용자가 많이 진입하는, 즉 요청이 많은 구간이 선캡처 구간으로 설정될 수 있다.
또는, 상술한 3가지 중 어느 하나 이상의 기준을 조합하여 선캡처 구간이 설정될 수도 있다.
실시예에 따라, 선캡처 데이터 중 적어도 일부를 수신하는 단계는 현재 구간에 상응하는 실시간 데이터를 수신하는 단계 이후, 다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신할 수 있다.
즉, 사용자의 입력과 함께 요청한 화면을 캡처 및 인코딩한 실시간 데이터를 먼저 수신하고, 다음 입력을 전송할 때까지 여유 대역이 남는다면 선캡처 데이터를 수신할 수 있다. 만약 여유 대역이 남지 않는다면 실시간 데이터만 수신할 수 있다. 이 때, 선캡처 데이터의 전부를 수신하지 못하더라도 여유 대역만큼만 선캡처 데이터의 일부를 수신할 수 있다. 수신하지 않은 일부는, 다음 입력을 전송하여 실시간 데이터를 수신하고, 여유 대역이 남았을 때 아직 수신하지 않은 부분을 수신할 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 실시간 데이터를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공한다(S1740).
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 다시 사용자의 입력을 전송하고, 이에 따라 선캡처 구간에 진입하였는지 여부를 판단한다(S1710).
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 선캡처 구간에 진입하였고, 선캡처 데이터 전부를 수신하지 않았다면, 선캡처 데이터 중 수신되지 않은 부분을 수신한다(S1750).
즉, 선캡처 구간에 진입했을 때 선캡처 데이터의 전부를 수신했다면, 단말 장치는 실시간 데이터 대신 수신한 선캡처 데이터를 이용하여 클라우드 스트리밍 서비스를 제공할 것이고, 클라우드 스트리밍 서버는 전송해야 할 데이터가 없으므로 여유 대역이 생길 수 있다. 반면, 선캡처 구간에 진입하였는데 선캡처 데이터를 아직 전부 수신하지 않은 경우, 아직 수신하지 않은 선캡처 데이터의 나머지를 수신하여 클라우드 스트리밍 서비스를 제공할 수 있다.
또한, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 선캡처 데이터를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공한다(S1760).
즉, 선캡처 구간에 진입하여 선캡처 데이터를 이용하여 클라우드 스트리밍 서비스를 제공할 수 있을 때에는, 선캡처 데이터를 화면에 표시하여 클라우드 스트리밍 서비스를 제공한다.
도 17에는 도시되지 아니하였으나, 선캡처 구간에 진입하였는데, 실시간 데이터와 선캡처 데이터가 상이한 경우, 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 방법은 실시간 데이터 중 선캡처 데이터와 상이한 부분만을 수신할 수 있다.
이 때, 사용자 입력 시나리오에 기반하여 예측되거나, 어플리케이션의 실행 히스토리에 기반하여 분석된 선캡처 구간에 상응하는 선캡처 데이터가 실제로 요청 받은 실시간 데이터와 완전히 동일하지 않을 수도 있다. 이 경우, 실시간 데이터 전체를 수신하는 것보다, 상이한 부분만을 수신하고 미리 수신한 선캡처 데이터와 조합하여 클라우드 스트리밍 서비스를 제공하는 것이 효율적일 수 있다. 따라서, 선캡처 구간에 진입하였을 때, 클라우드 스트리밍 서버는 실시간 데이터와 선캡처 데이터의 상이한 부분을 인식하여 상이한 부분만을 전송하고, 단말 장치는 상이한 부분과 선캡처 데이터를 조합하여 클라우드 스트리밍 서비스를 제공할 수 있다.
도 16 및 도 17에 도시된 각 단계는 도 16 및 도 17에 도시된 순서, 그 역순 또는 동시에 수행될 수 있다.
본 발명에 따른 클라우드 스트리밍 서비스 제공 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 또는 스마트폰 앱으로 구현될 수 있다. 이 때, 프로그램 또는 스마트폰 앱은 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
본 발명에 의하면 클라우드 스트리밍 서비스 시 자원 사용률이 높은 일부 구간에 의하여 서버에서 실행 가능한 최대 어플리케이션 수가 제한되는 문제를 해결할 수 있고, 화면 변화가 큰 구간을 인식하고, 해당 화면을 미리 캡처 및 인코딩하여 여유 대역에 미리 전송함으로써 화면 변화가 큰 구간에서의 지연 시간을 최소화하고, 미리 전송한 선캡처 데이터와, 실제로 전송해야할 데이터가 상이할 때, 상이한 부분만을 전송함으로써 사용자의 체감 반응 속도를 향상시킬 수 있다. 나아가, 클라우드 스트리밍 서버가 실행 가능한 어플리케이션의 수가 증가하여 보다 많은 사용자를 대상으로 클라우드 스트리밍 서비스를 제공할 수 있으므로 클라우드 스트리밍 서비스를 통한 수익을 극대화할 수 있다. 또한, 클라우드 스트리밍 서비스를 이용할 때의 낭비되는 시간 및 자원을 감소시킴으로써 클라우드 스트리밍 서비스 산업을 활성화시키고, 산업 발전에 이바지할 수 있다.

Claims (20)

  1. 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된, 구간 클립이 저장되는 저장부; 및
    클라우드 스트리밍 서비스를 위해 실행되는 상기 어플리케이션의 실행 상태를 고려하여 판단한, 상기 구간 클립의 사용 조건이 만족되지 않은 경우 화면 갱신 주기마다 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행하고, 상기 사용 조건이 만족되는 경우 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행하여, 단말로 상기 클라우드 스트리밍 서비스를 제공하는 제어부
    를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  2. 청구항 1에 있어서,
    상기 구간 클립은
    상기 실행 구간 동안 렌더링, 캡처 및 인코딩을 수행하여 생성되는 것을 특징으로 하는 클라우드 스트리밍 서버.
  3. 청구항 2에 있어서,
    상기 단축 스트리밍 절차는
    상기 정상 스트리밍 절차보다 상기 클라우드 스트리밍 서버 자원을 적게 사용하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  4. 청구항 3에 있어서,
    상기 구간 클립은
    상기 어플리케이션을 사전에 실행하여 상기 클라우드 스트리밍 서버의 자원을 기설정된 수준 이상 사용하는 구간에 대하여 생성되는 것을 특징으로 하는 클라우드 스트리밍 서버.
  5. 어플리케이션의 기설정된 실행 구간에 상응하는 실행 화면이 렌더링된, 구간 클립을 저장하는 단계;
    클라우드 스트리밍 서비스를 위해 실행되는 상기 어플리케이션의 실행 상태를 고려하여 상기 구간 클립의 사용 조건의 만족 여부를 판단하는 단계;
    상기 사용 조건이 만족되지 않은 경우, 화면 갱신 주기마다 렌더링, 캡처, 인코딩 및 센딩의 정상 스트리밍 절차를 수행하는 단계; 및
    상기 사용 조건이 만족되는 경우, 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행하는 단계
    를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
  6. 청구항 5에 있어서,
    상기 구간 클립은
    상기 실행 구간 동안 렌더링, 캡처 및 인코딩을 수행하여 생성되고, 상기 단축 스트리밍 절차는 상기 정상 스트리밍 절차보다 자원을 적게 사용하는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
  7. 청구항 6에 있어서,
    상기 구간 클립은
    상기 어플리케이션을 사전에 실행하여 상기 자원을 기설정된 수준 이상 사용하는 구간에 대하여 생성되는 것을 특징으로 하는 클라우드 스트리밍 서비스 제공 방법.
  8. 어플리케이션의 실행 상태를 고려하여 판단한, 구간 클립의 사용 조건이 만족되지 않은 경우 화면 갱신 주기마다 정상 스트리밍 절차를 수행하고, 상기 사용 조건이 만족되는 경우 상기 구간 클립을 센딩하는 단축 스트리밍 절차를 수행하여 클라우드 스트리밍 서비스를 제공하는 클라우드 스트리밍 서버; 및
    상기 클라우드 스트리밍 서버로부터 상기 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하는 단말
    을 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 시스템.
  9. 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성하는 제어부;
    상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩한, 선캡처 데이터가 저장되는 저장부; 및
    상기 실시간 데이터를 전송하고, 상기 선캡처 데이터 중 적어도 일부를 전송하는 통신부
    를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  10. 청구항 9에 있어서,
    상기 통신부는
    상기 현재 구간에 상응하는 실시간 데이터를 전송한 후, 다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  11. 청구항 10에 있어서,
    상기 통신부는
    상기 선캡처 데이터 전부의 전송이 수행되기 전에 상기 선캡처 구간에 진입하여 상기 선캡처 구간에 상응하는 실시간 데이터의 전송을 요청받은 경우, 상기 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  12. 청구항 10에 있어서,
    상기 선캡처 구간은
    사용자 입력 시나리오에 기반하여 탐색된, 화면의 변화가 기설정된 기준보다 큰 구간인 것을 특징으로 하는 클라우드 스트리밍 서버.
  13. 청구항 10에 있어서,
    상기 선캡처 구간은
    상기 어플리케이션의 실행 히스토리에 기반하여 분석된, 화면의 변화가 기설정된 기준보다 큰 구간인 것을 특징으로 하는 클라우드 스트리밍 서버.
  14. 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터 및 상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 어느 하나를 수신하는 통신부; 및
    상기 실시간 데이터 및 상기 선캡처 데이터 중 어느 하나를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공하는 제어부
    를 포함하는 것을 특징으로 하는 단말 장치.
  15. 청구항 14에 있어서,
    상기 통신부는
    상기 현재 구간에 상응하는 실시간 데이터를 수신한 후, 다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신하는 것을 특징으로 하는 단말 장치.
  16. 클라우드 스트리밍 서비스를 위해 실행되는 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 선캡처 데이터를 생성하는 단계;
    상기 어플리케이션의 현재 구간에 상응하는 실행 화면을 캡처 및 인코딩하여 실시간 데이터를 생성하는 단계;
    상기 실시간 데이터를 전송하는 단계; 및
    상기 선캡처 데이터 중 적어도 일부를 전송하는 단계
    를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 방법.
  17. 청구항 16에 있어서,
    상기 선캡처 데이터 중 적어도 일부를 전송하는 단계는
    다음 입력을 수신할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 전송이 수행되지 않은 부분의 적어도 일부를 전송하는 것을 특징으로 하는 클라우드 스트리밍 서비스 방법.
  18. 청구항 17에 있어서,
    상기 선캡처 데이터 중 적어도 일부를 전송하는 단계는
    상기 선캡처 데이터 전부의 전송이 수행되기 전에 상기 선캡처 구간에 진입하여 상기 선캡처 데이터의 전송을 요청 받은 경우, 상기 선캡처 데이터 중 전송이 수행되지 않은 부분을 전송하는 것을 특징으로 하는 클라우드 스트리밍 서비스 방법.
  19. 클라우드 스트리밍 서버에서 실행되는 어플리케이션의 현재 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 실시간 데이터를 수신하는 단계;
    상기 어플리케이션의 기설정된 선캡처 구간에 상응하는 실행 화면이 캡처 및 인코딩되어 생성된 선캡처 데이터 중 적어도 일부를 수신하는 단계; 및
    상기 실시간 데이터 및 상기 선캡처 데이터 중 어느 하나를 화면에 표시함으로써 클라우드 스트리밍 서비스를 제공하는 단계
    를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서비스 방법.
  20. 청구항 19에 있어서,
    상기 선캡처 데이터 중 적어도 일부를 수신하는 단계는
    다음 입력을 전송할 때까지의 여유 대역 동안 상기 선캡처 데이터 중 수신되지 않은 부분의 적어도 일부를 수신하는 것을 특징으로 하는 클라우드 스트리밍 서비스 방법.
PCT/KR2014/011251 2014-02-07 2014-11-21 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치 WO2015119361A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP20162243.8A EP3683692A1 (en) 2014-02-07 2014-11-21 Cloud streaming service system, and method and apparatus for providing cloud streaming service
US14/761,251 US10021162B2 (en) 2014-02-07 2014-11-21 Cloud streaming service system, and method and apparatus for providing cloud streaming service
EP14878394.7A EP2937789A4 (en) 2014-02-07 2014-11-21 CLOUD STREAMING SERVICE SYSTEM, METHOD FOR PROVIDING A CLOUD STREAMING SERVICE AND DEVICE THEREFOR
CN201480006988.0A CN104981797B (zh) 2014-02-07 2014-11-21 云流服务系统以及提供云流服务的方法和设备

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2014-0013974 2014-02-07
KR1020140013974A KR101668284B1 (ko) 2014-02-07 2014-02-07 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치
KR1020140061841A KR102094677B1 (ko) 2014-05-22 2014-05-22 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 방법 및 이를 위한 서버
KR10-2014-0061841 2014-05-22

Publications (1)

Publication Number Publication Date
WO2015119361A1 true WO2015119361A1 (ko) 2015-08-13

Family

ID=53778139

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2014/011251 WO2015119361A1 (ko) 2014-02-07 2014-11-21 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치

Country Status (4)

Country Link
US (1) US10021162B2 (ko)
EP (2) EP2937789A4 (ko)
CN (1) CN104981797B (ko)
WO (1) WO2015119361A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10417116B2 (en) * 2016-07-28 2019-09-17 International Business Machines Corporation System, method, and apparatus for crowd-sourced gathering of application execution events for automatic application testing and replay
KR102004970B1 (ko) * 2016-11-17 2019-07-30 에스케이플래닛 주식회사 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치
US10708382B2 (en) * 2018-11-08 2020-07-07 Citrix Systems, Inc. Systems and methods for latency masking via prefix caching
US10926177B2 (en) * 2019-03-15 2021-02-23 Sony Interactive Entertainment Inc. Systems and methods for predicting states by using a distributed game engine

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000040087A (ko) 1998-12-17 2000-07-05 구자홍 장면 변화분포를 이용한 비디오 재생 속도제어 방법
US20110161493A1 (en) * 2003-01-29 2011-06-30 Realnetworks, Inc. Systems and methods for selecting buffering time for media data
US20110167167A1 (en) * 2010-01-05 2011-07-07 Disney Enterprises, Inc. Method and system for providing real-time streaming media content
KR20120072904A (ko) 2010-12-24 2012-07-04 주식회사 케이티 클라우드 컴퓨팅 환경에서 게임 서비스 제공 방법, 클라우드 컴퓨팅 서버, 및 클라우드 컴퓨팅 시스템
US20140019583A1 (en) * 2012-07-13 2014-01-16 Ittiam Systems (P) Ltd. Ingest bandwidth reduction for cloud based media services

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5831640A (en) * 1996-12-20 1998-11-03 Cirrus Logic, Inc. Enhanced texture map data fetching circuit and method
US7430723B2 (en) * 2001-11-29 2008-09-30 Gse Advanced Industrial Technologies, Gmbh System and method for implementing a three-dimensional graphic user interface
US8949922B2 (en) * 2002-12-10 2015-02-03 Ol2, Inc. System for collaborative conferencing using streaming interactive video
US20090118019A1 (en) * 2002-12-10 2009-05-07 Onlive, Inc. System for streaming databases serving real-time applications used through streaming interactive video
US9756349B2 (en) * 2002-12-10 2017-09-05 Sony Interactive Entertainment America Llc User interface, system and method for controlling a video stream
US9108107B2 (en) * 2002-12-10 2015-08-18 Sony Computer Entertainment America Llc Hosting and broadcasting virtual events using streaming interactive video
EP1880551A4 (en) * 2005-02-24 2011-12-07 Lg Electronics Inc PROCESS FOR UP- BZW. DOWNSAMPLING DATA OF A VIDEO LOCKS
JP2007207328A (ja) * 2006-01-31 2007-08-16 Toshiba Corp 情報記憶媒体、プログラム、情報再生方法、情報再生装置、データ転送方法、及びデータ処理方法
JP2007305173A (ja) * 2006-05-08 2007-11-22 Toshiba Corp 情報記憶媒体、情報再生方法、及び情報再生装置
JP4102847B2 (ja) * 2006-06-30 2008-06-18 シャープ株式会社 画像データ提供装置、画像表示装置、画像表示システム、画像データ提供装置の制御方法、画像表示装置の制御方法、制御プログラム、および、記録媒体
EP2105019A2 (en) * 2006-09-29 2009-09-30 Avinity Systems B.V. Method for streaming parallel user sessions, system and computer software
US20100169303A1 (en) * 2008-12-31 2010-07-01 David Biderman Playlists for real-time or near real-time streaming
US8527646B2 (en) * 2009-04-14 2013-09-03 Avid Technology Canada Corp. Rendering in a multi-user video editing system
US8724707B2 (en) * 2009-05-07 2014-05-13 Qualcomm Incorporated Video decoding using temporally constrained spatial dependency
EP2319597A1 (en) * 2009-10-13 2011-05-11 Crytek GmbH A system of providing data for entertaining presentations to at least one audience
US8121618B2 (en) * 2009-10-28 2012-02-21 Digimarc Corporation Intuitive computing methods and systems
JP5951367B2 (ja) * 2012-01-17 2016-07-13 シャープ株式会社 撮像装置、撮像画像処理システム、プログラムおよび記録媒体
US9037683B1 (en) * 2012-03-05 2015-05-19 Koji Yoden Media asset streaming over network to devices
KR20140013974A (ko) 2012-07-24 2014-02-05 박민철 자전거의 자동 변속기어 구조
US9939963B2 (en) * 2012-08-14 2018-04-10 Christopher V. Beckman Techniques improving displays
US20140095504A1 (en) * 2012-09-28 2014-04-03 United Video Properties, Inc. Systems and methods for cataloging user-generated content
US9936200B2 (en) * 2013-04-12 2018-04-03 Qualcomm Incorporated Rice parameter update for coefficient level coding in video coding process
US20140325450A1 (en) * 2013-04-25 2014-10-30 Infobank Corp. Method for executing application, terminal and server thereof
US9514571B2 (en) * 2013-07-25 2016-12-06 Microsoft Technology Licensing, Llc Late stage reprojection
JP5882279B2 (ja) * 2013-10-08 2016-03-09 Ｎｅｃパーソナルコンピュータ株式会社 情報処理装置、方法及びプログラム
US9354778B2 (en) * 2013-12-06 2016-05-31 Digimarc Corporation Smartphone-based methods and systems
US9667521B2 (en) * 2014-01-27 2017-05-30 Vencore Labs, Inc. System and method for network traffic profiling and visualization
US20150296033A1 (en) * 2014-04-15 2015-10-15 Edward K. Y. Jung Life Experience Enhancement Via Temporally Appropriate Communique
CN106664439B (zh) * 2014-07-30 2020-04-03 Sk普兰尼特有限公司 云流服务器
US20160070356A1 (en) * 2014-09-07 2016-03-10 Microsoft Corporation Physically interactive manifestation of a volumetric space

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20000040087A (ko) 1998-12-17 2000-07-05 구자홍 장면 변화분포를 이용한 비디오 재생 속도제어 방법
US20110161493A1 (en) * 2003-01-29 2011-06-30 Realnetworks, Inc. Systems and methods for selecting buffering time for media data
US20110167167A1 (en) * 2010-01-05 2011-07-07 Disney Enterprises, Inc. Method and system for providing real-time streaming media content
KR20120072904A (ko) 2010-12-24 2012-07-04 주식회사 케이티 클라우드 컴퓨팅 환경에서 게임 서비스 제공 방법, 클라우드 컴퓨팅 서버, 및 클라우드 컴퓨팅 시스템
US20140019583A1 (en) * 2012-07-13 2014-01-16 Ittiam Systems (P) Ltd. Ingest bandwidth reduction for cloud based media services

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
KWON, O CHEOL ET AL.: "The Development of Webpage Pre-loading Technology for Zero Latency Response on Cloud Mobile Web Browser", JOURNAL OF 2012 KOREA COMPUTER CONGRESS, vol. 39, no. 1(D, XP008179425 *
See also references of EP2937789A4

Also Published As

Publication number Publication date
CN104981797A (zh) 2015-10-14
EP2937789A4 (en) 2016-05-25
EP3683692A1 (en) 2020-07-22
EP2937789A1 (en) 2015-10-28
US10021162B2 (en) 2018-07-10
US20160197974A1 (en) 2016-07-07
CN104981797B (zh) 2018-05-15

Similar Documents

Publication Publication Date Title
WO2017142293A1 (en) Electronic device and method of application data display therefor
WO2015026058A1 (en) Method, terminal, and system for reproducing content
WO2014025186A1 (en) Method for providing message function and electronic device thereof
WO2016010319A2 (ko) 클라우드 스트리밍 서비스 시스템, 메모리 병목 현상을 방지하기 위한 데이터 압축 방법 및 이를 위한 장치
WO2018161604A1 (zh) 移动终端的播放控制方法、装置、存储介质及电子设备
WO2014157899A1 (en) Method for controlling dynamically changing contents of web page and electronic device thereof
WO2014157903A1 (en) Method and device for displaying service page for executing application
WO2018076812A1 (zh) 数据请求的响应方法、装置、存储介质、服务器及系统
WO2018028128A1 (zh) 一种上行数据的信息反馈方法及相关设备
WO2016032021A1 (ko) 음성 명령 인식을 위한 장치 및 방법
WO2015119361A1 (ko) 클라우드 스트리밍 서비스 시스템, 클라우드 스트리밍 서비스 제공 방법 및 이를 위한 장치
WO2015057013A1 (ko) 휴대용 장치가 웨어러블 장치를 통하여 정보를 표시하는 방법 및 그 장치
WO2020071809A1 (en) Method and apparatus for enhanced assertion management in cloud media processing
WO2016099166A1 (en) Electronic device and method for displaying webpage using the same
WO2018101655A1 (ko) 디스플레이장치 및 그 제어방법
WO2014148751A1 (en) Method for displaying contact information and electronic device thereof
WO2018076872A1 (zh) 数据备份方法、装置、存储介质及服务器
WO2018076871A1 (zh) 联系人信息的同步方法、装置、介质、电子设备及系统
WO2024112108A1 (ko) 실시간 drm 기반 영상 스트리밍 시스템 및 그의 영상 스트리밍 방법
WO2014042470A1 (en) Method for editing display information and electronic device thereof
WO2014092293A1 (ko) 사용자의 입력에 즉각적인 결과를 제공할 수 있는 서비스 제공 방법, 이를 위한 시스템 및 장치
WO2014107096A1 (en) Apparatus and method of converting address and data of memory in a terminal
WO2020027562A1 (en) Electronic apparatus for controlling display of virtual input interface in environment of a plurality of output screens and operating method thereof
WO2014092289A1 (ko) 클라우드 서비스 제공 방법, 이를 위한 시스템 및 장치
WO2020059914A1 (ko) 단말기, 이의 제어 방법 및 상기 방법을 구현하기 위한 프로그램을 기록한 기록 매체

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 14761251

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2014878394

Country of ref document: EP

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 14878394

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE