KR102313516B1 - 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 - Google Patents

클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 Download PDF

Info

Publication number
KR102313516B1
KR102313516B1 KR1020210028268A KR20210028268A KR102313516B1 KR 102313516 B1 KR102313516 B1 KR 102313516B1 KR 1020210028268 A KR1020210028268 A KR 1020210028268A KR 20210028268 A KR20210028268 A KR 20210028268A KR 102313516 B1 KR102313516 B1 KR 102313516B1
Authority
KR
South Korea
Prior art keywords
animation
cloud streaming
message
web application
captured image
Prior art date
Application number
KR1020210028268A
Other languages
English (en)
Other versions
KR20210027342A (ko
Inventor
정유리
나현식
배태면
Original Assignee
에스케이플래닛 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020150006364A external-priority patent/KR102225610B1/ko
Application filed by 에스케이플래닛 주식회사 filed Critical 에스케이플래닛 주식회사
Priority to KR1020210028268A priority Critical patent/KR102313516B1/ko
Publication of KR20210027342A publication Critical patent/KR20210027342A/ko
Application granted granted Critical
Publication of KR102313516B1 publication Critical patent/KR102313516B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams, manipulating MPEG-4 scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47—End-user applications
    • H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/854—Content authoring
    • H04N21/8549—Creating video summaries, e.g. movie trailer

Abstract

클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치가 개시된다. 클라우드 스트리밍 서버가 웹 어플리케이션 실행 화면으로부터 변화 영역을 검출하여, 애니메이션 메시지 및 캡처 이미지를 생성하고, 스틸 이미지(still image) 압축 기법을 이용하여 스틸 이미지 인코딩된 캡처 이미지 및 애니메이션 메시지를 사용자의 단말 장치에 전송하면, 단말 장치가 캡처 이미지에 애니메이션을 적용하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행할 수 있도록 하여 클라우드 스트리밍 서버에서의 불필요한 애니메이션 처리를 줄여 서버에서 구동 가능한 웹 컨테이너의 수를 증가시킬 수 있다.

Description

클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 {SYSTEM FOR CLOUD STREAMING SERVICE, METHOD OF MESSAGE-BASED IMAGE CLOUD STREAMING SERVICE AND APPARATUS FOR THE SAME}
본 발명은 메시지 기반 이미지 클라우드 스트리밍 서비스 기술에 관한 것으로, 특히 비디오 코덱 기반의 클라우드 스트리밍이 적절치 아니한 영역에 대해 캡처 이미지 및 애니메이션 메시지를 생성하여 사용자에게 전송함으로써 사용자 단말에서 애니메이션이 적용된 웹 어플리케이션 실행 결과 화면을 생성토록 하는 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치에 관한 것이다.
최근 인터넷의 발달로 인해 개인용 모바일 통신기기를 이용한 통신의 속도가 급격하게 향상되고, 이를 기반으로 원격지 컴퓨터 접속을 통해 대용량의 데이터를 다운로드 및 업로드하거나, 원격지 컴퓨터에 로컬 로그인하는 것과 같은 인터넷 환경이 조성되었다. 또한, 스마트폰과 같은 이동통신 단말에서 구동되는 어플리케이션이 다양하게 개발되면서, 비교적 낮은 성능의 사용자 단말에서 높은 성능을 필요로 하는 어플리케이션을 구동하기 위한 가상화 기술들이 많이 제안되고 있다. 그 중에서 어플리케이션을 서버에서 구동시키고 구동화면은 비디오 인코딩(Encoding)을 통해 압축하여 클라이언트로 전송하고, 클라이언트는 전송된 비디오를 재생하여 마치 자신의 단말에서 어플리케이션이 구동되는 것과 같은 효과를 내는 화면 가상화 기반의 클라우드 스트리밍 서비스가 각광받고 있는 추세이다.
이와 같은 클라우드 스트리밍 서비스는 기본적으로 비디오 코덱 기반의 클라우드 스트리밍 기법이 적용되지만, 메뉴 디스플레이와 같은 서비스를 제공하는 경우에도 불필요하게 화면 전체를 캡처하고 비디오 코덱을 이용하여 동작하게 되어 시스템 전체적으로 비효율적인 측면이 존재한다.
따라서, 사용자 요청에 의해 실행된 어플리케이션의 실행 결과 화면 중 애니메이션과 같은 동적인 효과가 필요한 부분에 대해 캡처 이미지를 생성하여, 캡처 이미지와 애니메이션과 관련된 정보를 사용자의 셋탑박스로 전송함으로써 셋탑박스에서 애니메이션 효과가 적용된 서비스 화면을 생성할 수 있는 기술이 절실하게 대두되고 있다.
한국 공개 특허 제10-2012-0096909호, 2012년 8월 31일 공개 (명칭: 서비스되는 클라이언트 디바이스로의 전달을 위한 게이트웨이/셋톱박스 이미지 병합)
본 발명의 목적은, 클라우드 스트리밍 서버에서 웹 어플리케이션 실행 화면 중 일부 영역만을 캡처하고, 해당 영역에 적용될 애니메이션 정보를 갖는 메시지를 생성하여 캡처 이미지 및 메시지를 셋탑박스에 전송하면, 셋탑박스에서 메시지를 이용하여 캡처 이미지에 애니메이션을 적용함으로써, 불필요한 애니메이션 처리를 줄여 서버에서 구동 가능한 웹 컨테이너의 수를 증가시키는 것이다.
상기한 목적을 달성하기 위한 본 발명에 따른 클라우드 스트리밍 서버는, 웹 어플리케이션 서버로부터 웹 어플리케이션 실행 화면을 수신하는 화면 수신부; 상기 웹 어플리케이션 실행 화면에 포함된 이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하는 변화 영역 검출부; 상기 변화 영역에 적용된 애니메이션 정보를 포함하는 애니메이션 메시지를 생성하는 애니메이션 메시지 생성부; 상기 변화 영역 내 프레임들 중 어느 하나로부터 캡처 이미지를 생성하는 캡처부; 스틸 이미지(still image) 압축 기법을 이용하여 상기 캡처 이미지를 스틸 이미지 인코딩하는 인코딩부; 및 사용자 단말에서 상기 웹 어플리케이션 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지를 상기 사용자 단말로 전송하여 스틸 이미지 기반 클라우드 스트리밍 서비스를 수행하는 센딩부를 포함한다.
이 때, 센딩부는 상기 사용자 단말에서 상기 캡처 이미지에 상기 애니메이션 메시지에 포함된 상기 애니메이션 정보를 적용하여 상기 웹 어플리케이션 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지 및 스틸 이미지 인코딩된 상기 캡처 이미지를 상기 사용자 단말에 전송할 수 있다.
이 때, 변화 영역은 상기 웹 어플리케이션 실행 화면 중 메인 화면 상에 중첩적으로 표시되는 메뉴 영역일 수 있다.
이 때, 캡처 이미지는 상기 변화 영역 내 프레임들 중 마지막 프레임에 상응하는 이미지일 수 있다.
이 때, 애니메이션 메시지는 상기 애니메이션의 종류를 결정하기 위한 애니메이션 타입을 포함할 수 있다.
이 때, 애니메이션 타입은 날아오기, 밝기 변화, 올라오기 및 닦아내기 중 어느 하나일 수 있다.
이 때, 애니메이션 메시지는 애니메이션 타입, 애니메이션 적용 시간, 애니메이션 반복 횟수, 시작 좌표, 종료 좌표, 시작 사이즈 및 종료 사이즈 중 적어도 하나 이상에 상응하는 상기 애니메이션 정보를 포함할 수 있다.
또한, 본 발명에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은, 웹 어플리케이션 서버로부터 웹 어플리케이션 실행 화면을 수신하는 단계; 상기 웹 어플리케이션 실행 화면에 포함된 이전 프레임과 현재 프레임을 비교하여 상기 이전 프레임으로부터 변화된 상기 현재 프레임의 변화 영역을 결정하는 단계; 상기 변화 영역에 적용된 애니메이션 정보를 포함하는 애니메이션 메시지를 생성하는 단계; 상기 변화 영역 내 프레임들 중 어느 하나로부터 캡처 이미지를 생성하는 단계; 스틸 이미지(still image) 압축 기법을 이용하여 상기 캡처 이미지를 스틸 이미지 인코딩하는 단계; 및 사용자 단말에서 상기 웹 어플리케이션 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지를 상기 사용자 단말로 전송하여 스틸 이미지 기반 클라우드 스트리밍 서비스를 수행하는 단계를 포함한다.
이 때, 클라우드 스트리밍 서비스를 수행하는 단계는 상기 사용자 단말에서 상기 캡처 이미지에 상기 애니메이션 메시지에 포함된 상기 애니메이션 정보를 적용하여 상기 웹 어플리케이션 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지 및 스틸 이미지 인코딩된 상기 캡처 이미지를 상기 사용자 단말에 전송할 수 있다.
이 때, 변화 영역은 상기 웹 어플리케이션 실행 화면 중 메인 화면 상에 중첩적으로 표시되는 메뉴 영역일 수 있다.
이 때, 캡처 이미지는 상기 변화 영역 내 프레임들 중 마지막 프레임에 상응하는 이미지일 수 있다.
이 때, 애니메이션 메시지는 상기 애니메이션의 종류를 결정하기 위한 애니메이션 타입을 포함할 수 있다.
이 때, 애니메이션 타입은 날아오기, 밝기 변화, 올라오기 및 닦아내기 중 어느 하나일 수 있다.
이 때, 애니메이션 메시지는 애니메이션 타입, 애니메이션 적용 시간, 애니메이션 반복 횟수, 시작 좌표, 종료 좌표, 시작 사이즈 및 종료 사이즈 중 적어도 하나 이상에 상응하는 상기 애니메이션 정보를 포함할 수 있다.
본 발명에 따르면, 클라우드 스트리밍 서버에서 웹 어플리케이션 실행 화면 중 일부 영역만을 캡처하고, 해당 영역에 적용될 애니메이션 정보를 갖는 메시지를 생성하여 캡처 이미지 및 메시지를 셋탑박스에 전송하면, 셋탑박스에서 메시지를 이용하여 캡처 이미지에 애니메이션을 적용함으로써, 불필요한 애니메이션 처리를 줄여 서버에서 구동 가능한 웹 컨테이너의 수를 증가시킬 수 있다.
도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 3은 본 발명의 일실시예에 따른 스틸 이미지 기반의 클라우드 스트리밍 서비스 수행 과정을 나타낸 도면이다.
도 4a 내지 도 4c는 본 발명의 일실시예에 따른 웹 어플리케이션 실행 화면을 나타낸 도면이다.
도 5는 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
이하 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 상세히 설명한다. 다만, 하기의 설명 및 첨부된 도면에서 본 발명의 요지를 흐릴 수 있는 공지 기능 또는 구성에 대한 상세한 설명은 생략한다. 또한, 도면 전체에 걸쳐 동일한 구성 요소들은 가능한 한 동일한 도면 부호로 나타내고 있음에 유의하여야 한다.
이하에서 설명되는 본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위한 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다. 따라서 본 명세서에 기재된 실시예와 도면에 도시된 구성은 본 발명의 가장 바람직한 일 실시예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다. 또한 제 1, 제 2 등의 용어는 다양한 구성요소들을 설명하기 위해 사용하는 것으로, 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 뿐, 상기 구성요소들을 한정하기 위해 사용되지 않는다.
도 1은 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템을 나타낸 블록도이다.
도 1을 참조하면 본 발명의 일실시예에 따른 클라우드 스트리밍 서비스 시스템은 웹 어플리케이션 서버(105), 클라우드 스트리밍 서버(110), 단말 장치들(120-1, …, 120-N) 및 네트워크(130)를 포함한다.
클라우드 스트리밍 서버(110)는 웹 어플리케이션 서버(105)로부터 어플리케이션 결과 실행 화면을 수신한다.
*또한, 클라우드 스트리밍 서버(110)는 웹 어플리케이션 실행 화면에 포함된 이전 프레임과 현재 프레임을 비교하여 이전 프레임으로부터 변화된 현재 프레임의 변화 영역을 결정한다. 이 때, 변화 영역은 웹 어플리케이션 실행 화면 중 메인 화면 상에 중첩적으로 표시되는 메뉴 영역일 수 있다.
또한, 클라우드 스트리밍 서버(110)는 변화 영역에 적용된 애니메이션 정보를 포함하는 애니메이션 메시지를 생성한다. 이 때, 애니메이션 메시지는 애니메이션의 종류를 결정하기 위한 애니메이션 타입을 포함할 수 있다. 예를 들어, 애니메이션 메시지는 날아오기, 밝기 변화, 올라오기 및 닦아내기 중 어느 하나에 해당하는 애니메이션 타입을 포함할 수 있다. 또한, 애니메이션 메시지는 애니메이션 타입, 애니메이션 적용 시간, 애니메이션 반복 횟수, 시작 좌표, 종료 좌표, 시작 사이즈 및 종료 사이즈 중 적어도 하나 이상에 상응하는 애니메이션 정보를 포함할 수 있다.
또한, 클라우드 스트리밍 서버(110)는 변화 영역 내 프레임들 중 어느 하나로부터 캡처 이미지를 생성한다. 이 때, 캡처 이미지는 변화 영역 내 프레임들 중 첫번째 프레임 혹은 마지막 프레임에 상응하는 이미지일 수 있다.
또한, 클라우드 스트리밍 서버(110)는 스틸 이미지 압축 기법을 이용하여 캡처 이미지를 스틸 이미지 인코딩한다. 이 때, PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나에 상응하는 스틸 이미지 압축 기법을 이용하여 캡처 이미지를 스틸 이미지 인코딩할 수 있다.
또한, 클라우드 스트리밍 서버(110)는 단말 장치들(120-1, …, 120-N)에서 웹 어플리케이션 실행 화면을 생성할 수 있도록 스틸 이미지 인코딩된 캡처 이미지 및 애니메이션 메시지를 사용자 단말로 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다.
단말 장치들(120-1, …, 120-N)은 클라우드 스트리밍 서버(110)로부터 클라우드 스트리밍 서비스에 상응하는 어플리케이션 실행 결과 화면을 수신하여 사용자에게 제공한다.
단말 장치들(120-1, …, 120-N)은 각각 통신망에 연결되어 클라우드 컴퓨팅 시스템 기반으로 어플리케이션을 실행할 수 있는 장치로, 이동통신단말기에 한정된 것이 아니고, 모든 정보통신기기, 멀티미디어 단말, 유선 단말, 고정형 단말 및 IP(Internet Protocol) 단말 등의 다양한 단말일 수 있다. 또한, 단말 장치들(120-1, …, 120-N)은 각각 휴대폰, PMP(Portable Multimedia Played), MID(Mobile Internet Device), 스마트폰(Smart Phone), 데스크톱(Desktop), 태블릿컴퓨터(Tablet PC), 노트북(Note book), 넷북(Net Book), 개인휴대용 정보단말(Personal Digital Assistant; PDA), 스마트 TV 및 정보통신 기기 등과 같은 다양한 이동통신 사양을 갖는 모바일(Mobile) 단말일 수 있다.
웹 어플리케이션 서버(105)는 단말 장치들(120-1, …, 120-N)로부터의 요청을 전달받아 처리하는 서버이다. 웹 어플리케이션 서버(105)에서 단말 장치들(120-1, …, 120-N)로부터 수신된 요청을 모두 처리하기보다 웹 컨테이너들을 통해 웹 어플리케이션 서버(105)의 기능을 구조적으로 분리하여 처리할 수 있기 때문에 단말 장치들(120-1, …, 120-N)로부터의 서비스 요청이 많을수록 웹 어플리케이션 서버(105)를 이용하여 서비스하는 방법이 효과적일 수 있다. 예를 들어, BEA사의 WEB LOGIC, IBM사의 Web Spere, T-max사의 JEUS, Tomcat, RedHot사의 Jboss 등이 웹 어플리케이션 서버(105)에 해당할 수 있다.
이러한 어플리케이션 서버(105)는 단말 장치들(120-1, …, 120-N)로부터 수신된 서비스 요청에 기반하여 웹 어플리케이션 실행 화면을 클라우드 스트리밍 서버(110)로 전송할 수 있다.
네트워크(130)는 클라우드 스트리밍 서버(110)및 단말 장치들(120-1, …, 120-N) 사이에 데이터를 전달하는 통로를 제공하는 것으로서, 기존에 이용되는 네트워크 및 향후 개발 가능한 네트워크를 모두 포괄하는 개념이다. 예를 들어, 네트워크(130)는 한정된 지역 내에서 각종 정보장치들의 통신을 제공하는 유무선근거리 통신망, 이동체 상호 간 및 이동체와 이동체 외부와의 통신을 제공하는 이동통신망, 위성을 이용해 지구국과 지구국간 통신을 제공하는 위성통신망이거나 유무선 통신망 중에서 어느 하나이거나, 둘 이상의 결합으로 이루어질 수 있다. 한편, 네트워크(130)의 전송 방식 표준은, 기존의 전송 방식 표준에 한정되는 것은 아니며, 향후 개발될 모든 전송 방식 표준을 포함할 수 있다. 또한, 도 1에서 클라우드 스트리밍 서버(110)와 단말 장치들(120-1, …, 120-N) 사이에 사용되는 네트워크는 단말 장치들(120-1, …, 120-N) 상호간에 사용되는 네트워크와 상이한 것일 수도 있고, 동일한 것일 수도 있다.
도 2는 도 1에 도시된 클라우드 스트리밍 서버의 일 예를 나타낸 블록도이다.
도 2를 참조하면, 도 1에 도시된 클라우드 스트리밍 서버는 화면 수신부(210), 변화 영역 검출부(220), 애니메이션 메시지 생성부(230), 캡처부(250), 인코딩부(260), 센딩부(270) 및 저장부(280)를 포함한다.
화면 수신부(210)는 웹 어플리케이션 서버로부터 웹 어플리케이션 실행 화면을 수신한다. 이와 같은 웹 어플리케이션 실행 화면은 메인 화면 및 메인 화면 상에 중첩되어 표시되는 메뉴 영역을 포함할 수 있다.
변화 영역 검출부(220)는 웹 어플리케이션 실행 화면에 포함된 이전 프레임과 현재 프레임을 비교하여 이전 프레임으로부터 변화된 현재 프레임의 변화 영역을 결정한다. 이 때, 변화 영역은 웹 어플리케이션 실행 화면 중 메인 화면 상에 중첩적으로 표시되는 메뉴 영역일 수 있다.
애니메이션 메시지 생성부(230)는 변화 영역에 적용된 애니메이션 정보를 포함하는 애니메이션 메시지를 생성한다. 이 때, 애니메이션 메시지는 애니메이션의 종류를 결정하기 위한 애니메이션 타입을 포함할 수 있다. 예를 들어, 애니메이션 메시지는 날아오기, 밝기 변화, 올라오기 및 닦아내기 중 어느 하나에 해당하는 애니메이션 타입을 포함할 수 있다. 또한, 애니메이션 메시지는 애니메이션 타입, 애니메이션 적용 시간, 애니메이션 반복 횟수, 시작 좌표, 종료 좌표, 시작 사이즈 및 종료 사이즈 중 적어도 하나 이상에 상응하는 애니메이션 정보를 포함할 수 있다. 또한, 애니메이션 메시지는 애니메이션 적용 시간을 포함할 수 있다.
이 때, 시작 좌표는 애니메이션이 적용되는 비디오 객체의 애니메이션 시작 좌표이고, 종료 좌표는 애니메이션이 적용되는 비디오 객체의 애니메이션 종료 좌표이고, 시작 사이즈는 애니메이션이 적용되는 비디오 객체의 애니메이션 시작 사이즈이고, 종료 사이즈는 애니메이션이 적용되는 비디오 객체의 애니메이션 종료 사이즈이다.
예를 들어, 애니메이션 타입은 'effect type', 애니메이션 적용 시간은 'duration', 애니메이션 반복 횟수는 'isRepeat', 시작 좌표는 'start X, start Y', 종료 좌표는 'end X, end Y', 시작 사이즈는 'start W, start H' 및 종료 사이즈는 'end W, end H'로 표시될 수 있다.
캡처부(250)는 변화 영역 내 프레임들 중 어느 하나로부터 캡처 이미지를 생성한다. 이 때, 캡처 이미지는 변화 영역 내 프레임들 중 첫번째 프레임 혹은 마지막 프레임에 상응하는 이미지일 수 있다.
인코딩부(260)는 스틸 이미지 압축 기법을 이용하여 캡처 이미지를 스틸 이미지 인코딩한다. 이 때, PNG(portable network graphics), 팔렛티드 PNG(portable network graphics) 및 JPEG(joint photography experts group) 중 어느 하나에 상응하는 스틸 이미지 압축 기법을 이용하여 캡처 이미지를 스틸 이미지 인코딩할 수 있다.
PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 화질은 좋으나 데이터의 크기가 커져서 전송 망의 대역폭이 낮은 경우에는 전송 속도가 저하될 수 있다.
팔렛티드 PNG 스틸 이미지 압축 기법은 인코딩 시 이미지의 데이터 크기가 줄어들어 전송 속도는 보장할 수 있지만, 8비트로 색상을 표현하기 때문에 이미지 화질에 열화를 가져올 수 있다.
JPEG 스틸 이미지 압축 기법은 압축 효율이 좋아서 인코딩 시 전송 데이터 량을 대폭 줄일 수 있으나, 압축 효율이 큰 만큼 인코딩 및 디코딩을 수행할 때 시스템 부하를 많이 발생시킬 수 있다.
센딩부(270)는 사용자 단말에서 웹 어플리케이션 실행 화면을 생성할 수 있도록 스틸 이미지 인코딩된 캡처 이미지 및 애니메이션 메시지를 사용자 단말로 전송하여 스틸 이미지 기반의 클라우드 스트리밍 서비스를 수행한다. 예를 들어, 클라우드 스트리밍 서버(110)에서 어플리케이션 결과 화면을 완벽하게 생성하여 스트리밍 할 수도 있지만, 상기와 같은 방법으로 사용자 단말에서 어플리케이션 결과 화면을 생성하도록 전송함으로써 클라우드 스트리밍 서버(110)에서 발생하는 부하를 현저하게 감소시킬 수 있다. 이와 같이 클라우드 스트리밍 서버(110)의 부하가 감소되면 클라우드 스트리밍 서버(110)에서 동시에 처리할 수 있는 서비스의 수가 늘어나므로 보다 많은 사용자들이 동시에 서비스를 제공받을 수 있는 효과가 있다.
저장부(280)는 상술한 바와 같이 본 발명의 실시예에 따른 클라우드 스트리밍 서비스 과정에서 발생되는 다양한 정보를 저장한다.
실시예에 따라, 저장부(280)는 클라우드 스트리밍 서버(110)와 독립적으로 구성되어 클라우드 스트리밍 서비스를 위한 기능을 지원할 수 있다. 이 때, 저장부(280)는 별도의 대용량 스토리지로 동작할 수 있고, 동작 수행을 위한 제어 기능을 포함할 수 있다.
또한, 상술한 바와 같이 구성되는 클라우드 스트리밍 서버(110)는 하나 이상의 서버로 구현될 수 있다.
한편, 클라우드 스트리밍 서버(110)는 메모리가 탑재되어 그 장치 내에서 정보를 저장할 수 있다. 일 구현예의 경우, 메모리는 컴퓨터로 판독 가능한 매체이다. 일 구현 예에서, 메모리는 휘발성 메모리 유닛일 수 있으며, 다른 구현예의 경우, 메모리는 비휘발성 메모리 유닛일 수도 있다. 일 구현예의 경우, 저장장치는 컴퓨터로 판독 가능한 매체이다. 다양한 서로 다른 구현 예에서, 저장장치는 예컨대 하드디스크 장치, 광학디스크 장치, 혹은 어떤 다른 대용량 저장장치를 포함할 수도 있다.
도 3은 본 발명의 일실시예에 따른 스틸 이미지 기반의 클라우드 스트리밍 서비스 수행 과정을 나타낸 도면이다.
도 3을 참조하면, 본 발명의 일실시예에 따른 스틸 이미지 기반의 클라우드 스트리밍 서비스 수행 과정은 클라우드 스트리밍 서버 영역(300), 단말 영역(305) 및 어플리케이션 서버 영역(310)으로 분류하여 설명할 수 있다.
먼저 클라우드 스트리밍 서버 영역(300)에서 사용자의 요청에 기반하여 웹 어플리케이션 서버에서 실행하여 생성되는 웹 어플리케이션 실행 화면을 수신(320)할 수 있다.
이 때, 클라우드 스트리밍 서버 영역(300)에서는 웹 어플리케이션 실행 화면에서 변화 영역을 검출하고, 변화 영역에 대해 캡처 이미지를 생성하거나, 애니메이션 메시지를 생성(340)할 수 있다.
또한, 클라우드 스트리밍 서버 영역(300)에서는 인코딩(330)을 수행한 캡처 이미지와 애니메이션 메시지를 함께 단말 영역(305)으로 스트리밍(350)할 수 있다.
단말 영역(305)에서는 클라우드 스트리밍 서버 영역(300)으로부터 수신된 캡처 이미지와 애니메이션 메시지를 이용하여 웹 어플리케이션 실행 화면을 생성할 수 있다. 이 때, 애니메이션 정보에는 애니메이션 타입, 애니메이션 적용 시간, 애니메이션 반복 횟수, 시작 좌표, 종료 좌표, 시작 사이즈 및 종료 사이즈와 같은 정보가 포함되어 있으므로, 캡처 이미지에 애니메이션을 정확하고 수월하게 적용하여 웹 어플리케이션 실행 화면을 생성할 수 있다.
단말 영역(305)에서는 이와 같이 생성된 웹 어플리케이션 실행 화면을 이미지 렌더링(370)을 수행하여 사용자에게 출력할 수 있다.
어플리케이션 서버 영역(310)에서는 사용자의 입력 신호를 수신하고, 입력 신호에 상응하는 출력 화면을 클라우드 스트리밍 서버에 전송한다.
도 4a 내지 도 4c는 본 발명의 일실시예에 따른 웹 어플리케이션 실행 화면을 나타낸 도면이다.
도 4a 내지 도 4c를 참조하면, 본 발명의 일실시예에 따른 웹 어플리케이션 실행 화면은 메뉴 영역의 '올라오기' 애니메이션을 시계열적으로 도시한 것임을 알 수 있다.
도 4a는 메인 화면(410)에 메뉴 영역(420)이 나타나지 않은 상태를 나타낸다.
사용자의 요청에 따라, 웹 어플리케이션 서버에서 메뉴 표시 명령이 실행되면 메뉴 영역(420)이 메인 화면(410)의 오른쪽 단에서부터 중첩적으로 나타나게 되어, 도 4a에서 도 4b를 거쳐 도 4c와 같은 화면으로 변경된다.
이 때, 도 4a 및 도 4b 사이 혹은 도 4b 및 도 4a 사이에는 중간 단계를 나타내는 복수의 프레임이 있을 수 있다. 예를 들어, 도 4a 및 도 4b 사이에는 중간 단계를 나타내는 10개의 프레임이 있을 수 있다.
이 때, 본 발명에 따른 클라우드 스트리밍 서버는 이들 중간 단계를 나타내는 10개의 프레임 각각에 대해 캡처를 수행하여 비디오 코덱 기반 스트리밍을 수행하는 대신 이미지 기반 클라우드 스트리밍 방식을 이용한다.
보다 구체적으로, 본 발명에 따른 클라우드 스트리밍 서버는 도 4c의 메뉴 영역(420) 이미지만을 캡처하고, 이미지를 오른쪽 단에서 '올라오기' 애니메이션 적용하기 위한 정보를 포함하는 애니메이션 메시지를 생성하여 이를 셋탑박스에 전송함으로써, 셋탑박스에서 메뉴 영역(420) 이미지에 '올라오기' 애니메이션을 적용하여 도 4a 및 도 4b 사이의 중간 단계 프레임을 생성하도록 한다.
도 5는 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법을 나타낸 동작 흐름도이다.
도 5를 참조하면, 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 웹 어플리케이션 서버로부터 웹 어플리케이션 실행 화면을 수신한다(S510).
또한, 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 웹 어플리케이션 실행 화면에 포함된 이전 프레임과 현재 프레임을 비교하여 이전 프레임으로부터 변화된 현재 프레임의 변화 영역을 결정한다(S520).
또한, 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 변화 영역에 적용된 애니메이션 정보를 포함하는 애니메이션 메시지를 생성한다(S530).
또한, 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 변화 영역 내 프레임들 중 어느 하나로부터 캡처 이미지를 생성한다(S550).
또한, 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 스틸 이미지 압축 기법을 이용하여 캡처 이미지를 스틸 이미지 인코딩한다(S560).
또한, 본 발명의 일실시예에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 사용자 단말에서 웹 어플리케이션 실행 화면을 생성할 수 있도록 애니메이션 메시지를 사용자 단말로 전송하여 스틸 이미지 기반 클라우드 스트리밍 서비스를 수행한다(S570).
본 발명에 따른 메시지 기반 이미지 클라우드 스트리밍 서비스 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 모든 형태의 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 이러한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서와 같이 본 발명에 따른 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치는 상기한 바와 같이 설명된 실시예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시예들은 다양한 변형이 이루어질 수 있도록 각 실시예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
본 발명에 의하면 비디오 코덱 기반의 클라우드 스트리밍이 적절치 아니한 영역에 대해 캡처 이미지 및 애니메이션 메시지를 생성하여 사용자에게 전송함으로써 사용자 단말에서 애니메이션이 적용된 웹 어플리케이션 실행 결과 화면을 생성토록 할 수 있다. 나아가, 클라우드 스트리밍 서버에서의 불필요한 애니메이션 처리를 줄여 클라우드 스트르밍 서버에서 구동 가능한 웹 컨테이너의 수를 증가시켜 서비스 제공자의 편의를 도울 수 있다.
105, 310: 웹 어플리케이션 서버 110, 300: 클라우드 스트리밍 서버
120-1~120-N: 단말 장치 130: 네트워크
210: 화면 수신부 220: 변화 영역 검출부
230: 애니메이션 메시지 생성부 250: 캡처부
260: 인코딩부 270: 센딩부
280: 저장부 305: 사용자 단말
410: 메인 화면 420: 메뉴 영역

Claims (7)

  1. 웹 어플리케이션 서버로부터 웹 어플리케이션 실행 화면을 수신하는 화면 수신부;
    상기 웹 어플리케이션 실행 화면에 포함된 프레임들에 상응하는 애니메이션 정보를 포함하는 애니메이션 메시지를 생성하는 애니메이션 메시지 생성부;
    상기 프레임들에 상응하는 캡처 이미지를 생성하는 캡처부;
    스틸 이미지(still image) 압축 기법을 이용하여 상기 캡처 이미지를 스틸 이미지 인코딩하는 인코딩부; 및
    사용자 단말에서 애니메이션이 적용된 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지를 상기 사용자 단말로 전송하는 센딩부
    를 포함하고,
    상기 애니메이션은
    상기 사용자 단말에서 상기 캡처 이미지와 상기 애니메이션 정보를 기반으로 생성되는 것을 특징으로 하는 클라우드 스트리밍 서버.
  2. ◈청구항 2은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 1에 있어서,
    상기 센딩부는
    상기 사용자 단말에서 상기 캡처 이미지에 상기 애니메이션 메시지에 포함된 상기 애니메이션 정보를 적용하여 상기 웹 어플리케이션 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지 및 스틸 이미지 인코딩된 상기 캡처 이미지를 상기 사용자 단말에 전송하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  3. ◈청구항 3은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 2에 있어서,
    상기 캡처 이미지는
    상기 애니메이션에 상응하는 프레임들 중 마지막 프레임에 상응하는 이미지인 것을 특징으로 하는 클라우드 스트리밍 서버.
  4. ◈청구항 4은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 1에 있어서,
    상기 애니메이션 메시지는
    상기 애니메이션의 종류를 결정하기 위한 애니메이션 타입을 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  5. ◈청구항 5은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 4에 있어서,
    상기 애니메이션 타입은
    날아오기, 밝기 변화, 올라오기 및 닦아내기 중 어느 하나인 것을 특징으로 하는 클라우드 스트리밍 서버.
  6. ◈청구항 6은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 1에 있어서,
    상기 애니메이션 메시지는
    애니메이션 타입, 애니메이션 적용 시간, 애니메이션 반복 횟수, 시작 좌표, 종료 좌표, 시작 사이즈 및 종료 사이즈 중 적어도 하나 이상에 상응하는 상기 애니메이션 정보를 포함하는 것을 특징으로 하는 클라우드 스트리밍 서버.
  7. 웹 어플리케이션 서버로부터 웹 어플리케이션 실행 화면을 수신하는 단계;
    상기 웹 어플리케이션 실행 화면에 포함된 프레임들에 상응하는 애니메이션 정보를 포함하는 애니메이션 메시지를 생성하는 단계;
    상기 프레임들에 상응하는 캡처 이미지를 생성하는 단계;
    스틸 이미지(still image) 압축 기법을 이용하여 상기 캡처 이미지를 스틸 이미지 인코딩하는 단계; 및
    사용자 단말에서 애니메이션이 적용된 실행 화면을 생성할 수 있도록 상기 애니메이션 메시지를 상기 사용자 단말로 전송하는 단계
    를 포함하고,
    상기 애니메이션은
    상기 사용자 단말에서 상기 캡처 이미지와 상기 애니메이션 정보를 기반으로 생성되는 것을 특징으로 하는 메시지 기반 이미지 클라우드 스트리밍 서비스 방법.
KR1020210028268A 2015-01-13 2021-03-03 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치 KR102313516B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210028268A KR102313516B1 (ko) 2015-01-13 2021-03-03 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020150006364A KR102225610B1 (ko) 2015-01-13 2015-01-13 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR1020210028268A KR102313516B1 (ko) 2015-01-13 2021-03-03 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020150006364A Division KR102225610B1 (ko) 2015-01-13 2015-01-13 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Publications (2)

Publication Number Publication Date
KR20210027342A KR20210027342A (ko) 2021-03-10
KR102313516B1 true KR102313516B1 (ko) 2021-10-18

Family

ID=75148658

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210028268A KR102313516B1 (ko) 2015-01-13 2021-03-03 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Country Status (1)

Country Link
KR (1) KR102313516B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080313545A1 (en) * 2007-06-13 2008-12-18 Microsoft Corporation Systems and methods for providing desktop or application remoting to a web browser
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium
US20140098108A1 (en) * 2010-03-10 2014-04-10 Microsoft Corporation Control of timing for animations in dynamic icons

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9015230B2 (en) 2011-02-23 2015-04-21 Broadcom Corporation Gateway/set top box image merging for delivery to serviced client device
KR101491591B1 (ko) * 2012-11-05 2015-02-09 주식회사 케이티 웹앱 가상화 서비스를 제공하는 가상화 서버 및 웹앱 가상화 서비스 제공을 위한 데이터 전송방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080313545A1 (en) * 2007-06-13 2008-12-18 Microsoft Corporation Systems and methods for providing desktop or application remoting to a web browser
US20140098108A1 (en) * 2010-03-10 2014-04-10 Microsoft Corporation Control of timing for animations in dynamic icons
US20130155075A1 (en) * 2011-12-15 2013-06-20 Fujitsu Limited Information processing device, image transmission method, and recording medium

Also Published As

Publication number Publication date
KR20210027342A (ko) 2021-03-10

Similar Documents

Publication Publication Date Title
KR102384174B1 (ko) 클라우드 스트리밍 서비스 시스템, 스틸 이미지 압축 기법을 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102271721B1 (ko) 클라우드 스트리밍 서비스 시스템, 단말 성능을 고려한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102313516B1 (ko) 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102247892B1 (ko) 클라우드 스트리밍 서비스 시스템, 어플리케이션 코드를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102313533B1 (ko) 클라우드 스트리밍 서비스 시스템, 전체 화면 변화를 고려한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102313532B1 (ko) 클라우드 스트리밍 서비스 시스템, 애니메이션 메시지를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102225610B1 (ko) 클라우드 스트리밍 서비스 시스템, 메시지 기반 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102313527B1 (ko) 클라우드 스트리밍 서비스 시스템, 멀티뷰 화면을 제공하기 위한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102272357B1 (ko) 클라우드 스트리밍 서비스 시스템, 드로잉 레이어 분리를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102225609B1 (ko) 클라우드 스트리밍 서비스 시스템, 전체 화면 변화를 고려한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102225608B1 (ko) 클라우드 스트리밍 서비스 시스템, 애니메이션 메시지를 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102247887B1 (ko) 클라우드 스트리밍 서비스 시스템, 소스 정보를 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102273142B1 (ko) 클라우드 스트리밍 서비스 시스템, 어플리케이션 코드 변환을 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR20160115566A (ko) 클라우드 스트리밍 서비스 시스템, 이미지와 텍스트의 분리를 통한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102273143B1 (ko) 클라우드 스트리밍 서비스 시스템, 스틸 이미지 기반 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102265419B1 (ko) 클라우드 스트리밍 서비스 시스템, 선택적 인코딩 처리 유닛을 이용한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102354269B1 (ko) 클라우드 스트리밍 서비스 시스템, 씬 영역 특성을 이용한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102247888B1 (ko) 클라우드 스트리밍 서비스 시스템, 선택적 스트리밍 파이프라인 방식에 기반한 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102442698B1 (ko) 클라우드 스트리밍 서비스 시스템, os 메시지를 이용한 변화 영역 탐지 기반의 이미지 클라우드 스트리밍 서비스 방법 및 이를 위한 장치
KR102247889B1 (ko) 클라우드 스트리밍 서비스 시스템, 시스템 자원을 절약하기 위한 클라우드 스트리밍 서비스 방법 및 이를 위한 장치

Legal Events

Date Code Title Description
A107 Divisional application of patent
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right