KR101714983B1 - 제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품 - Google Patents

제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품 Download PDF

Info

Publication number
KR101714983B1
KR101714983B1 KR1020160108187A KR20160108187A KR101714983B1 KR 101714983 B1 KR101714983 B1 KR 101714983B1 KR 1020160108187 A KR1020160108187 A KR 1020160108187A KR 20160108187 A KR20160108187 A KR 20160108187A KR 101714983 B1 KR101714983 B1 KR 101714983B1
Authority
KR
South Korea
Prior art keywords
image
target object
user
target
user device
Prior art date
Application number
KR1020160108187A
Other languages
English (en)
Inventor
한상선
Original Assignee
한상선
(주)한스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한상선, (주)한스 filed Critical 한상선
Priority to KR1020160108187A priority Critical patent/KR101714983B1/ko
Application granted granted Critical
Publication of KR101714983B1 publication Critical patent/KR101714983B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • H04L29/06034
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/131Protocols for games, networked simulations or virtual reality
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/80Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
    • A63F2300/8082Virtual reality

Abstract

본 발명의 일 실시예에 따라서, 제품에 표시된 이미지나 마크, 글자를 통해 문자, 이미지, 사운드, 동영상, 2d,3d 입체동영상을 현시하기 위한 “증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템”에서, 사용자 장치가 개시된다. 상기 사용자 장치는: 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영할 수 있도록 배치된 하나 이상의 카메라부-상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함함-;상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하는 사용자선택입력부- 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행됨 - ; 상기 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성하고, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며 그리고 상기 제 2 영상을 저장하도록 결정하는 제어부; 및 상기 사용자 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력하는 디스플레이부; 를 포함할 수 있다.

Description

제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품{SERVER AND USER APPARATUS FOR IMPLEMENTING THE AUGMENTED REALITY BY USING PRODUCTS AND PRODUCTS OF THEREOF}
본 발명은 현시된 컨텐츠에 대한 증강 현실 시스템에 관한 것으로서, 보다 상세하게는, 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템에 관한 것이다.
최근 전자통신기기의 보편화와 IT 기술 인프라의 보급화에 의해 전자통신기기를 이용한 각종 정보의 제공이나 홍보 등이 다양한 방식으로 이루어지고 있다.
전자 통신 기기에서 접목된 기술로는 카메라와 디스플레이가 혼합된 증강 현실(AR: Augmented Reality)이 점차 대중화되고 있으며, 이러한 증강 현실은 현실의 이미지에 3차원 가상 이미지를 합성함으로써 하나의 영상으로 화면상에 디스플레이시켜주는 현시 기술을 의미한다.
따라서, 카메라 모듈을 이용한 촬영시 현실의 공간에 다양한 정보를 덧씌워 보여주는 증강 현실(AR; Agumented Reality) 기법을 이용한 컨텐츠 제공에 대한 연구가 활발하게 이루어지고 있다.
증강 현실이란, 가상 현실(VR; Virtual Reality)의 한 분야에 속하는 기술로, 사용자가 감각으로 느끼는 실제 환경에 가상 환경을 합성하여 원래의 실제 환경에 존재하는 것처럼 느끼게 하는 컴퓨터 기법이다.
이러한 증강 현실은 가상의 공간과 사물만을 대상으로 하는 기존의 가상 현실과 달리 현실 세계의 기반에 가상 사물만을 대상으로 하는 기존의 가상 현실과는 달리 현실 세계의 기반에 가상 사물을 합성하여 현실 세계만으로는 얻기 어려운 부가적인 정보들을 보강해 제공할 수 있는 장점이 있다.
이러한 증강현실은 단순 가상 현실 기술에 비하여 3차원 가상 환경에 실사영상도 같이 제공하여 현실 환경과 가상환경과의 구분이 모호해지게 함으로써, 보다 나은 현실감을 제공할 수 있다.
이에 따라, 전자 통신 기기에서 카메라를 이용하여 실제 이미지를 획득하고, 그 획득된 실제 이미지에 대한 다른 기능들을 제공하고자 하는 요구가 당업계에 존재하고 있다.
보다 상세하게, 증강 현실을 이용하여 사용자가 실제 체감할 수 없는 정보들을 제공받고 또는, 교육, 디자인, 게임 등 다양한 분야에서 증강 현실을 접목한 다양한 서비스들을 이용하고자 하는 사용자 요구가 증대하고 있다.
이에 따라, 증강 현실을 접목한 다양한 서비스들을 제공하고자 하는 요구가 당업계에 존재하고 있다.
본 발명은 전술한 바와 같은 배경 기술을 감안하여 안출된 것으로서, 카메라를 이용하여 실제 이미지를 획득하고, 그 획득된 실제 이미지에 대한 다른 기능들을 제공하고자 하기 위함이다.
본 발명은 전술한 바와 같은 배경 기술을 감안하여 안출된 것으로서, 증강 현실을 이용하여 사용자가 실제 체감할 수 없는 정보들을 효과적으로 취득하도록 하기 위함이다.
전술한 바와 같은 과제를 해결하기 위한 본 발명의 일 실시예에 따라서, 제품에 표시된 이미지나 마크, 글자를 통해 문자, 이미지, 사운드, 동영상, 2d,3d 입체동영상을 현시하기 위한 “증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템”에서, 사용자 장치가 개시된다. 상기 사용자 장치는: 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영할 수 있도록 배치된 하나 이상의 카메라부-상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함함-;상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하는 사용자선택입력부- 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행됨 - ; 상기 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성하고, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며 그리고 상기 제 2 영상을 저장하도록 결정하는 제어부; 및 상기 사용자 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력하는 디스플레이부; 를 포함할 수 있다.
대안적으로, 상기 제 1 타겟 대상에 관련된 제 2 영상을 포함하는, 상기 카메라부로부터 촬영된 적어도 하나 이상의 영상들은, 사용자 선택 입력에 기초하여, 상기 사용자 장치와 관련된 저장 매체 및 서버 중 적어도 하나에 저장될 수 있다.
대안적으로, 상기 제어부는 추가적으로, 상기 사용자 장치와 관련된 저장 매체 및 서버 중 적어도 하나에 저장된 하나 이상의 영상들을 포함하는 영상 리스트를 생성하며, 상기 하나 이상의 영상들 중 사용자 선택 입력을 수신한 적어도 하나 이상의 영상에 대한 편집 동작, 삭제 동작 및 공유 동작 중 적어도 하나를 수행하도록 허용할 수 있다.
대안적으로, 상기 실행하고자 하는 하나 이상의 동작은, 상기 제 1 타겟 대상의 이동 동작, 상기 제 1 타겟 대상에 대한 색상 변환 동작, 상기 제 1 타겟 대상에 대한 크기 조정 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 생성 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 정보 제공 동작, 상기 제 1 타겟 대상에 대한 아이템 구매 동작, 상기 제 1 타겟 대상에 관련하여 생성된 영상들 중 적어도 하나에 대한 공유 동작 및 사전 결정된 링크 접속 동작 중 적어도 하나를 포함할 수 있다. 상기 컨텐츠 정보는, 텍스트 정보, 음성 정보, 영상 정보 및 링크 정보 중 적어도 하나로 구성되며, 그리고 한국어를 포함하는 복수의 외국어로 제공되며, 그리고 상기 제어부는 추가적으로, 상기 실행하고자 하는 하나 이상의 동작에 적어도 기초하여 추가적인 사용자 인터페이스를 생성할 수 있다.
대안적으로, 상기 제어부는 추가적으로, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상이 출력되는 동안, 상기 카메라부가 상기 제 1 타겟 대상과 상이한 제 2 타겟 대상의 적어도 일부분을 촬영하는 경우, 상기 제 2 타겟 대상에 대한 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 2 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며 그리고 상기 하나 이상의 동작을 수행하는 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장하도록 결정할 수 있다.
대안적으로, 상기 디스플레이부는 추가적으로, 상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 동일한 프레임 상에서 출력하고, 그리고 상기 제어부는 추가적으로, 동일한 프레임 상에서 출력되는 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장할 수 있다.
대안적으로, 상기 디스플레이부는 추가적으로, 상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 상이한 프레임 상에서 출력하고, 그리고 상기 제어부는 추가적으로, 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상을 각각 저장할 수 있다.
대안적으로, 상기 제어부는 추가적으로, 저장된 상기 제 2 영상의 저장 기간 및 저장 개수 중 적어도 하나가 사전 결정된 임계값을 초과하는 경우, 저장된 날짜에 적어도 기초하여 복수의 제 2 영상들 중 적어도 하나를 삭제할 것을 결정하는 동작 및 상기 복수의 제 2 영상들을 포함하는 제 2 영상 리스트를 생성할 것을 결정하는 동작 중 적어도 하나를 수행할 수 있다.
대안적으로, 상기 제어부는 추가적으로, 상기 제 1 영상에 적어도 기초하여 상기 제 1 타겟 대상을 결정할 수 있다.
대안적으로, 상기 디스플레이부는 추가적으로, 상기 제 1 타겟 대상이 결정되는 경우, 사전 결정된 초기 동작을 수행하는 상기 제 1 타겟 대상에 대한 제 3 영상을 출력할 수 있다.
대안적으로, 상기 제어부는 추가적으로, 상기 제 1 타겟 대상의 각 부분을 추출하고 그리고 상기 제 1 타겟 대상과 합성하기 위하여 사용자로부터 선택된 합성 대상인 제 1 합성 대상 영상의 각 부분에 매칭함으로써 제 1 합성 영상을 생성할 수 있다.
대안적으로, 상기 제 1 합성 대상 영상은 하나 이상의 합성 대상 객체를 포함하며, 상기 사용자선택입력부는 추가적으로, 상기 제 1 영상과 상기 제 1 합성 대상 영상의 객체를 합성하기 위한 합성 위치에 대한 사용자 선택 입력을 수신하며, 그리고 상기 제어부는 추가적으로, 상기 제 1 영상을 재생할 것을 허용하며, 그리고 상기 합성 위치에 대한 사용자 선택 입력에 기초하여 제 1 합성 영상을 생성할 수 있다.
대안적으로, 상기 제어부는 추가적으로, 상기 제 1 타겟이 포함된 영상의 배경을 투명화할 수 있다.
대안적으로, 상기 디스플레이부는 추가적으로, 상기 제 1 타겟 대상에 관련된 제 1 영상을 출력하는 경우와 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력하는 경우, 각각 상이한 사용자 인터페이스를 출력할 수 있다.
대안적으로,“증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템"에서 타겟 대상인 제품은, 이미지나 마크, 글자를 표시한 의류나 프린트된 원단, 광고원단, 종이, 열쇠고리, 모자, 가방의 공산품, 카다로그, 잡지, 광고지, 서적, 커튼, 카페트, 벽지, 달력, 시트지, 이불, 매트, 인테리어용품, 마개나 뚜껑, 용기, 자석교구, 나무교구, 완구, 색칠북, 교재 및 포장지, 택, 이미지나, 마크, 글자를 표시할 수 있는 제품의 외관이나 택 또는 제품 내부에 제공되는 카드의 이미지나 마크, 글자를 표시한 제품에 표시된 이미지나 마크, 글자를 표시한 제품일 수 있다.
대안적으로, 상기 카메라부는, 연속 촬영 횟수를 포함하는 사전 결정된 설정에 따라 연속 촬영하는 동작 및 촬영된 적어도 하나 이상의 영상들은 사전 결정된 개수에 대응하여 저장되는 동작 중 적어도 하나를 수행할 수 있다.
대안적으로, 상기 디스플레이부는, 촬영된 적어도 하나 이상의 영상들을 출력하는 경우, 상기 연속 촬영 횟수 및 출력되는 영상에 대한 사용자 선택 입력을 위한 아이콘 중 적어도 하나를 더 출력하고, 그리고 저장된 적어도 하나 이상의 영상들을 출력하는 경우, 상기 사전 결정된 개수 및 출력되는 영상에 대한 사용자 선택 입력을 위한 아이콘 중 적어도 하나를 더 출력할 수 있다.
본 발명의 다른 실시예에 따라 하나 이상의 프로세서에 의해 실행되는 복수의 명령들을 포함하는, 컴퓨터-판독가능 기록매체에 저장된 컴퓨터 프로그램이 개시된다. 상기 컴퓨터 프로그램은, 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영하도록 하는 명령-상기 제 1 타겟 대상은, 사전 결정된 이미지 및 사전 결정된 텍스트 중 적어도 하나를 포함함-; 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하도록 하는 명령-상기 하나 이상의 동작은 증강현실시스템에 기초하여 수행됨-; 상기 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성하고, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며 그리고 상기 제 2 영상을 저장하도록 하는 명령; 및 상기 사용자 선택 입력을 수신하기 위한 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력하도록 하는 명령;을 포함할 수 있다.
본 발명의 다른 실시예에 따라서 서버가 개시된다. 상기 서버는:사용자 장치의 카메라부로부터 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 수신하고, 그리고 사용자 장치의 사용자선택입력부로부터 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하는 수신 모듈-상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함하며, 그리고 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행됨 - ; 및 상기 사용자 선택 입력을 수신하기 위하여 상기 사용자 장치의 디스플레이부에 출력될 사용자 인터페이스를 생성하고, 그리고 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 그리고 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 상기 사용자 장치의 디스플레이부가 출력할 것을 허용하는 제어모듈;을 포함할 수 있다.
본 발명의 일 실시예에 따르면, 카메라를 이용하여 실제 이미지를 획득하고, 그 획득된 실제 이미지에 대한 다른 기능들을 제공할 수 있다.
본 발명의 일 실시예에 따르면, 증강 현실을 이용하여 사용자가 실제 체감할 수 없는 정보들을 효과적으로 취득할 수 있다.
상기 언급된 본 개시내용의 특징들이 상세하게, 보다 구체화된 설명으로, 이하의 실시예들을 참조하여 이해될 수 있도록, 실시예들 중 일부는 첨부되는 도면에서 도시된다. 또한, 도면과의 유사한 참조번호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭하는 것으로 의도된다. 그러나, 첨부된 도면들은 단지 본 개시내용의 특정한 전형적인 실시예들만을 도시하는 것일 뿐, 본 발명의 범위를 한정하는 것으로 고려되지는 않으며, 동일한 효과를 갖는 다른 실시예들이 충분히 인식될 수 있다는 점을 유의하도록 한다.
도 1은 본 발명의 다양한 양태가 구현될 수 있는 시스템을 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따라 출력될 수 있는 사용자 인터페이스들을 도시한다.
도 3은 본 발명의 일 실시예에 따른 제품 및 타겟 대상들을 도시한다.
도 4는 본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템의 실행 인터페이스를 도시한다.
도 5는 본 발명의 일 실시예에 따라 제 1 타겟 대상을 촬영하기 위한 인터페이스를 도시한다.
도 6은 본 발명의 일 실시예에 따라 제 1 타겟 대상이 촬영중인 인터페이스를 도시한다.
도 7은 본 발명의 일 실시예에 따라 제 1 타겟 대상이 촬영된 영상을 재생하는 인터페이스를 도시한다.
도 8은 본 발명의 일 실시예에 따라 제 2 타겟 대상을 촬영하기 위한 인터페이스를 도시한다.
도 9는 본 발명의 일 실시예에 따라 제 1 타겟 대상 및 제 2 타겟 대상이 촬영중인 인터페이스를 도시한다.
도 10은 본 발명의 일 실시예에 따라 촬영된 영상들의 저장을 위한 인터페이스를 도시한다.
도 11은 본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 인터페이스를 도시한다.
도 12는 본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 다른 인터페이스를 도시한다.
도 13은 본 발명의 다른 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 인터페이스를 도시한다.
도 14는 본 발명의 다른 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 다른 인터페이스를 도시한다.
다양한 실시예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나 이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.
본 명세서에서 사용되는 "실시예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다.
더불어, 용어 "또는"은 배타적 "또는"이 아니라 내포적 "또는"을 의미하는 것으로 의도된다. 즉, 달리 특정되지 않거나 문맥상 명확하지 않은 경우에, "X는 A 또는 B를 이용한다"는 자연적인 내포적 치환 중 하나를 의미하는 것으로 의도된다. 즉, X가 A를 이용하거나; X가 B를 이용하거나; 또는 X가 A 및 B 모두를 이용하는 경우, "X는 A 또는 B를 이용한다"가 이들 경우들 어느 것으로도 적용될 수 있다. 또한, 본 명세서에 사용된 "및/또는"이라는 용어는 열거된 관련 아이템들 중 하나 이상의 아이템의 가능한 모든 조합을 지칭하고 포함하는 것으로 이해되어야 한다.
또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나 이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다. 또한, 달리 특정되지 않거나 단수 형태를 지시하는 것으로 문맥상 명확하지 않은 경우에, 본 명세서와 청구범위에서 단수는 일반적으로 "하나 또는 그 이상"을 의미하는 것으로 해석되어야 한다.
본 명세서에서 사용되는 용어 "제 1 타겟 대상" 및 "제 2 타겟 대상"은 상이한 타겟 대상을 의미한다.
예를 들어, 제 1 타겟 대상 및 제 2 타겟 대상은 동일한 타겟 대상인 제품에 포함된 복수개의 이미지 중 각각 상이한 이미지들을 지칭할 수 있다. 예를 들어, 동일한 색칠북에 포함된 새(bird) 및 해(sun)는 각각 제 1 타겟 대상 및 제 2 타겟 대상으로 지칭될 수 있다. 또는, 제 1 타겟 대상 및 제 2 타겟 대상은 각각 상이한 타겟 대상인 제품에 포함된 동일한/상이한 이미지를 지칭할 수 있다.
다른 예로, 제 1 타겟 대상은 "ABC"라는 색칠북에 포함된 새(bird)를 지칭하며 그리고 제 2 타겟 대상은 "XYZ"라는 색칠북에 포함된 새(bird)를 지칭할 수 있다. 또 다른 예로, 제 1 타겟 대상은 제 1 타겟 대상은 "ABC"라는 색칠북에 포함된 새(bird)를 지칭하며 그리고 제 2 타겟 대상은 "XYZ"라는 색칠북에 포함된 해(sun)를 지칭할 수도 있다.
본 명세서에서 사용되는 용어 "제 1 영상"은 제 1 타겟 대상의 적어도 일부분이 촬영된 영상을 의미한다. 본 명세서에서 사용되는 용어 "제 2 영상"은 하나 이상의 동작을 수행하는 제 1 타겟 대상에 대한 영상을 의미한다. 본 명세서에서 사용되는 용어 "제 3 영상"은 사전 결정된 초기 동작을 수행하는 제 1 타겟 대상에 대한 영상을 의미한다.
예를 들어, 색칠북에 표시된 "새"의 다리 부분이 촬영된 영상은 제 1 영상일 수 있다. "새"에 대한 컨텐츠 생성 동작(예를 들어, 상기 "새"와 사용자가 함께 동영상 촬영하는 것 등)에 관련된 영상이 제 2 영상일 수 있다. 또한, "새"의 다리 부분에 기초하여, 제 1 타겟 대상이 "새"임이 결정되고, 그리고 사전 결정된 초기 동작을 수행하는 새에 관련된 영상(예를 들어, 날개짓을 하는 새)이 제 3 영상일 수 있다.
도 1은 본 발명의 다양한 양태가 구현될 수 있는 시스템을 도시한 도면이다.
본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강 현실 제품 현시 시스템은, 사용자 장치(100) 및 서버(200)를 포함할 수 있다. 사용자 장치(100) 및 서버(200)는 네트워크를 통해 연결될 수 있다. 네트워크를 통해 연결되는 각 구성들 간에는 다양한 데이터들이 전송되고 그리고 수신될 수 있다.
본 발명의 일 실시예에 따른 증강 현실 제품 현시 시스템을 지원하는 사용자 장치(100) 및 서버(200)를 도 1을 참조하여 간략하게 설명하도록 한다.
본 발명의 일 실시예에 따른 사용자 장치(100)는, 전자 통신 기기, 사용자 단말, 사용자 장비, 모바일, 무선 통신이 가능한 PC, 핸드폰, 키오스크, 셀룰러 폰, 셀룰러, 셀룰러 단말, 가입자 유닛, 가입자국, 이동국, 단말, 원격국, PDA, 원격 단말, 액세스 단말, 사용자 에이전트, 무선 접속 기능을 구비하는 휴대용 장치, 무선 모뎀과 같은, 무선 접속 매커니즘을 사용할 수 있는 임의의 장치 등으로 지칭될 수 있으나, 이들로 한정되지는 않는다.
또한, 이러한 사용자 장치(100)는 유선 팩스, 유선 모뎀을 구비한 PC, 유선 전화, 유선 통신이 가능한 단말 등과 같은 유선 접속 매커니즘을 사용할 수 있는 임의의 장치 등으로 지칭될 수 있으나, 이들로 한정되지는 않는다.
본 발명의 일 실시예에 따른 서버(200)는 EAI(Enterprise Application Integration) 서버, API(Application Programming Interface) 서버, CMS(Cash Management Service) 서버, 외부 서버, 운용서버 및/또는 콜센터 서버 등을 포함할 수도 있다. 또한, 도 1에 도시된 바와 같이 사용자 장치(100) 및/또는 서버(200)는 다른 서버(300)와 연결되어 동작될 수도 있다.
본 발명의 일 실시예에 따라서 사용자 장치(100) 및 서버(200)는 네트워크로 연결되어 다양한 정보들을 송수신할 수 있다. 추가적으로, 이러한 정보들은 사용자 장치(100) 및/또는 서버(200)의 데이터베이스 또는 컴퓨터로 판독가능한 저장 매체에 저장될 수 있다. 본 발명의 일 양상에 따라, 컴퓨터로 판독가능한 저장 매체는 사용자 장치(100) 및/또는 서버(200) 내에 포함될 수 있다. 이러한 저장 매체는 컴퓨터 시스템에 의해서 판독될 수 있도록 프로그램 및 데이터가 저장되는 모든 종류의 저장 매체를 포함할 수 있다. 본 발명의 일 양상에 따르면, 이러한 매체는 ROM(판독 전용 메모리), RAM(랜덤 액세스 메모리), CD(컴팩트 디스크)-ROM, DVD(디지털 비디오 디스크)-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장장치 등을 포함할 수 있다.
본 발명의 일 실시예에 따라 네트워크는 공중전화 교환망(PSTN:Public Switiched Telephone Network), xDSL(x Digital Subscriber Line), RADSL(Rate Adaptive DSL), MDSL(Multi Rate DSL), VDSL(Very High Speed DSL), UADSL(Universal Asymmetric DSL), HDSL(High Bit Rate DSL) 및 근거리 통신망(LAN) 등과 같은 다양한 유선 통신 시스템들을 사용할 수 있다.
또한, 여기서 제시되는 네트워크는 CDMA(Code Division Multi Access), TDMA(Time Division Multi Access), FDMA(Frequency Division Multi Access), OFDMA(Orthogonal Frequency Division Multi Access), SC-FDMA(Single Carrier-FDMA) 및 다른 시스템들과 같은 다양한 무선 통신 시스템들을 사용할 수 있다.
본 발명의 일 양상에 따른 네트워크는 유선 및 무선 등과 같은 그 통신 양태를 가리지 않고 구성될 수 있으며, 단거리 통신망(PAN:Personal Area Network), 근거리 통신망(WAN:Wide Area Network) 등 다양한 통신망으로 구성될 수 있다. 또한, 상기 네트워크는 공지의 월드와이드웹(WWW:World Wide Web)일 수 있으며, 적외선(IrDA:Infrared Data Assoication) 또는 블루투스(Bluetooth)와 같이 단거리 통신에 이용되는 무선 전송 기술을 이용할 수도 있다.
도 1에 도시된 시스템에 포함된 컴포넌트들은 예시적인 것이며, 상기 컴포넌트들 중 일부만이 시스템을 구성하거나 또는 상기 컴포넌트들 이외의 추가적인 컴포넌트(들)가 시스템에 포함될 수도 있다.
이하에서, 제품에 표시된 이미지나 마크, 글자를 통해 문자, 이미지, 사운드, 동영상, 2d,3d 입체동영상을 현시하기 위한“증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템"을 제공하기 위한 사용자 장치(100), 서버(200) 및 그 방법에 대하여 설명하도록 한다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 사용자 장치(100)의 컴포넌트들이 도시된다.
본 발명의 일 실시예에 따른 사용자 장치(100)는 카메라부(110), 사용자선택입력부(120), 제어부(130), 디스플레이부(140), 네트워크부(160) 및 메모리부(170)를 포함할 수 있다.
도 1에 도시된 사용자 장치(100)의 구성요소들은 필수적인 것이 아니며, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성 요소들을 갖는 사용자 장치(100)가 구현될 수도 있다.
이하에서는, 상기 구성요소들에 대해 차례로 살펴본다.
카메라부(110)는, 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영할 수 있도록 배치될 수 있다. 예를 들어, 카메라부(110)는 사용자 장치(100)의 전면 및/또는 배면의 임의의 영역에 위치하도록 형성될 수 있다. 이러한 카메라부(110)는 하나 이상의 카메라를 포함할 수 있다. 본 발명의 일 실시예에 따라서, 상기 제 1 타겟 대상이란, 이미지 및 텍스트 중 적어도 하나를 포함할 수 있으며, “증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템에서 타겟 대상인 제품에 포함된 이미지 및 텍스트 중 적어도 하나를 의미할 수 있다. 예를 들어, 제 1 타겟 대상은, 발명의 일 실시예에 따른 증강 현실 제품 현시 시스템의 대상이 되는 제품에 표시된 이미지나 마크, 글자 등을 의미할 수 있다. 여기서 상기 타겟 대상인 제품은, 이미지나 마크, 글자를 표시한 의류나 프린트된 원단, 광고원단, 종이, 열쇠고리, 모자, 가방의 공산품, 카다로그, 잡지, 광고지, 서적, 커튼, 카페트, 벽지, 달력, 시트지, 이불, 매트, 인테리어용품, 마개나 뚜껑, 용기, 자석교구, 나무교구, 완구, 색칠북, 교재 및 포장지, 택, 이미지나, 마크, 글자를 표시할 수 있는 제품의 외관이나 택 또는 제품 내부에 제공되는 카드의 이미지나 마크, 글자를 표시한 제품에 표시된 이미지나 마크, 글자를 표시한 제품 중 적어도 하나일 수 있으며 본 발명의 권리 범위는 이에 제한되지 않는다.
추가적으로, 본 발명의 일 실시예에 따른 카메라부(110)로부터 현시된 컨텐츠들(예를 들어, 후술되는 제 1 영상, 제 2 영상, 제 3 영상 및 합성 영상 등)은 사전 결정된 설정에 따라 자동적으로 저장될 수 있다. 또한, 후술되는 제어부(130)는 카메라부(110)가 타겟 대상에 1회의 촬영 입력을 수행하는 경우, 사전 결정된 설정에 따라 상기 카메라부(110)가 상기 타겟 대상을 3회 내지 4회의 연속 촬영이 가능하도록 제어할 수 있다. 또는, 제어부(130)는 카메라부(110)가 타겟 대상에 1회의 촬영 입력을 수행하는 경우, 사전 결정된 설정에 따라 상기 타겟 대상에 대하여 예를 들어 3회 내지 4회 저장하도록 결정할 수 있다.
나아가, 제어부(130)는 저장된 촬영물을 불러올 때, 타겟 대상별로 사용자 선택 입력 및/또는 사전 결정된 설정에 따른 동작(예를 들어, 저장된 촬영물에 대한 재생)이 수행되도록 결정할 수 있다.
보다 상세하게, 제 1 타겟 대상과 제 2 타겟 대상을 촬영한 이후, 다시 제 1 타겟 대상을 촬영한 경우가 존재한다고 가정한다. 이러한 경우, 제 1 타겟 대상에 대해 사전 결정된 설정에 따라 저장된 이미지들이 재생되고, 제 2 타겟 대상에 대해 상기 사전 결정된 설정에 따라 저장된 이미지들이 재생되고 그리고 제 1 타겟 대상에 대해 상기 사전 결정된 설정에 따라 저장된 이미지들이 재생될 수 있다. 한편, 제 1 타겟 대상에 대해 사전 결정된 설정에 따라 저장된 이미지들이 먼저 재생되고, 그리고 제 2 타겟 대상에 대해 상기 사전 결정된 설정에 따라 저장된 이미지들이 재생될 수도 있다.
또한, 제어부(130)는 저장된 촬영물을 불러올 때, 타겟 대상별로 숫자 또는 버튼이 표시되도록 구성될 수 있으며, 이를 통하여 타겟 대상별로 촬영 및/또는 저장된 이미지들의 개수 및 상기 이미지들에 대한 동작 제어(예를 들어, 재생 등)가 가능해질 수 있다. 선택적으로, 또는, 대안적으로, 제어부(130)는 저장된 촬영물을 불러올 때, 타겟 대상별로 숫자 또는 버튼이 표시되지 않도록 구성될 수도 있다.
다시 말해, 전술한 바와 같은 추가적인 실시예에 따라 카메라부(110)로부터 현시된 현시된/생성된 컨텐츠들(예를 들어, 후술되는 제 1 영상, 제 2 영상, 제 3 영상 및 합성 영상 등)은 사전 결정된 설정에 따라 자동적으로 저장될 수 있다. 사전 결정된 설정이란, 카메라부(110)의 촬영을 위한 선택 입력을 1회 수신하는 경우 3회 내지 4회의 연속 촬영이 가능하도록 하는 것, 또는, 카메라부(110)의 촬영물을 3회 내지 4회 저장하도록 하는 것을 의미할 수 있다. 저장되는 이미지들은 (자동 저장/촬영되는 횟수에 관련한) 숫자나 버튼을 함께 표시함으로써, 저장된 이미지들의 개수 등을 알려줄 수 있다. 또는, 저장되는 이미지들은 (자동 저장/촬영되는 횟수에 관련한) 숫자나 버튼을 표시하지 않고 저장 될 수 있다.
나아가, 카메라부(110)에서 현시된 이미지들은 현시된 순서대로 타겟의 종류와 상관 없이 불러올 수 있고, 또는 같은 종류를 연속으로 보여지게 할 수도 있다. 전술한 바와 같은 내용들은 본 발명의 일 실시예에 따른 예시적 기재일 뿐이며, 이는 본 발명의 권리 범위에 제한되지 않는다.
본 발명의 추가적인 실시예에 따라서, 카메라부(110)가 촬영할 수 있는 타겟 대상의 개수나, 타겟 대상에 대한 촬영물에 대한 저장 횟수는 제한되지 않으나, 상기 시스템에 적용되는 사용자 장치(100)의 메모리부(160) 및 사용자 장치(100)와 연결된 외부 저장 매체의 저장 용량에 대응될 수 있다.
사용자선택입력부(120)는 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신할 수 있다. 여기서, 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행될 수 있다.
본 발명의 추가적인 실시예에 따른 상기 실행하고자 하는 하나 이상의 동작은, 상기 제 1 타겟 대상의 이동 동작, 상기 제 1 타겟 대상에 대한 색상 변환 동작, 상기 제 1 타겟 대상에 대한 크기 조정 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 생성 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 정보 제공 동작, 상기 제 1 타겟 대상에 대한 아이템 구매 동작, 상기 제 1 타겟 대상에 관련하여 생성된 영상들 중 적어도 하나에 대한 공유 동작 및 사전 결정된 링크 접속 동작 중 적어도 하나를 포함할 수 있다. 전술한 바와 같은 동작들은 본 발명의 일 실시예에 따른 예시적 기재일 뿐이며, 본 발명의 권리 범위는 이에 제한되지 않음을 당업자라면 명백히 이해할 것이다. 또한, 전술되는 하나 이상의 동작에 대응하는 사용자 인터페이스가 추가적으로 생성될 수 있다. 예를 들어, 상기 제 1 타겟 대상에 관련하여 생성된 영상들 중 적어도 하나에 대한 공유 동작이 선택되는 경우, 공유할 영상에 대한 선택 및 공유할 곳에 대한 정보 중 적어도 하나를 선택할 수 있는 사용자 인터페이스가 생성될 수 있다. 나아가, 상기 제 1 타겟 대상에 대한 아이템 구매 동작이 선택된 경우, 아이템의 종류들을 설명하는 사용자 인터페이스 및/또는 결제를 위한 사용자 인터페이스 등이 제공될 수 있다.
전술한 바와 같은 본 발명의 일 실시예에 따르면, 카메라부(110)에 의해“증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템에서 타겟 대상인 제품에 포함된 이미지 및 텍스트 중 적어도 하나를 포함하는 제 1 타겟 대상이 촬영되고, 그리고 사용자 선택입력부(120)에 의해 선택된 동작이 증강현실 시스템을 접목하여 수행됨으로써, 다양한 부가 기능들이 제공되는 증강현실 제품현시시스템이 제공될 수 있다.
예를 들어, 사용자 장치(100)의 디스플레이부(140) 상에서 제 1 타겟 대상에 관련된 제 1 영상 및 제 2 영상이 현시되도록 하며, 이 때 제 1 영상 및 제 2 영상은 제 1 타겟 대상에 관련된 2D 또는 3D 입체 동영상으로 제공될 수 있다. 전술한 바와 같이, 제 1 타겟 대상에 관련된 제 2 영상을 포함하는, 카메라부(110)로부터 촬영된 적어도 하나 이상의 영상들은, 사용자 선택 입력에 기초하여 사용자 장치(100)와 관련된 저장 매체(즉, 메모리부(160) 및/또는 사용자 장치(100)와 연결 가능한 USB 등 개인 저장 기록 매체) 및 서버(200 또는 300) 중 적어도 하나에 저장될 수 있다. 나아가, 사용자 장치(100)의 디스플레이부(140) 및/또는 사용자 선택 입력부(120)를 통하여 현시되는 이미지들에 대한 크기 조절, 동작 선택, 저장된 자료 출력 등의 기능을 수행할 수 있다. 보다 상세하게, 디스플레이부(140) 상에서의 터치 기능을 통해, 제 1 타겟 대상의 크기, 방향 및 각도 등을 조정할 수도 있다.
보다 상세하게, 전술한 바와 같이 상기 제 1 타겟 대상의 이동 동작, 상기 제 1 타겟 대상에 대한 색상 변환 동작, 상기 제 1 타겟 대상에 대한 크기 조정 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 생성 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 정보 제공 동작, 상기 제 1 타겟 대상에 대한 아이템 구매 동작, 상기 제 1 타겟 대상에 관련하여 생성된 영상들 중 적어도 하나에 대한 공유 동작 및 사전 결정된 링크 접속 동작 중 적어도 하나에 대한 동작을 수행하도록 결정함으로서, 교육적 기능, 오락적 기능 및 감상적 기능을 제공할 수 있다.
예를 들어, 제 1 타겟 대상이 카메라부(110)를 통해 디스플레이부(140)에 출력되는 경우, 상기 제 1 타겟 대상과 관련된 URL에 기초하여 해당 인터넷 페이지로 이동하거나, 또는 이미지, 문자, 영상 등이 출력될 수 있다. 추가적으로, 제 1 타겟 대상과 관련된 홈페이지 접속, 제 1 타겟 대상에 대한 아이템 구매, 공유하기, 저장하기 등 다양한 기능이 제공될 수 있다.
추가적으로, 전술한 바와 같은 컨텐츠 정보는, 텍스트 정보, 음성 정보, 영상 정보 및 링크 정보 중 적어도 하나로 구성될 수 있다. 또한, 컨텐츠 정보는 한국어 및/또는 하나 이상의 외국어로 제공될 수 있다. 예를 들어, 제 1 타겟 대상에 대한 컨텐츠 정보는 "영어 음성 정보" 및 "한글 텍스트 정보"로 제공될 수도 있다.
예를 들어, 제 1 타겟 대상이 "새(bird)"인 경우 음성 정보로서 "bird"라는 영어 발음이 출력되고, 그리고 한글 텍스트 정보로 "새"가 디스플레이부에 출력될 수 있다. 또한, "새"와 관련된 추가적인 정보들(예를 들어, 겨울 철새의 종류 등)이 부가적으로 제공될 수 있다. 다른 예로, "새"에 관련하여 촬영된 영상들을 편집하기 위한 추가적인 동작이 수행될 수도 있다. 이러한 추가적인 정보들 또는 추가적인 동작들은 아이템 구매를 통하여 그 제공 범위가 상이하도록 결정될 수도 있다. 이로써, 사용자들에게 보다 오락적인 기능이 추가된 교육 기능을 제공하면서 동시에, 상기 시스템에 관련된 부가적 기능에 대한 구매 효과에의 제고 또한 가능해질 수 있다.
제어부(130)는 제품의 타겟 대상에 포함된 마커 정보가 수신되면, 수신된 마커와 매칭되는 가상 이미지와 그 밖으 보조 데이터들을 메모리부(160)에서 검색하고, 이를 디스플레이부(150)로 표시하도록 한다.
본 발명의 일 실시예에 따른 제어부(130)는 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성할 수 있다. 또한, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정할 수 있다. 나아가, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며 그리고 상기 제 2 영상을 저장하도록 결정할 수 있다.
본 발명의 추가적인 실시예에 따라서 제어부(130)는 사용자 장치(100)와 관련된 저장 매체 및 서버 중 적어도 하나에 저장된 하나 이상의 영상들을 포함하는 영상 리스트를 생성할 수 있다. 이러한 영상 리스트는 예를 들어 사용자 장치(100)의 디스플레이부(140)에서 표시되기 위해 적합한 형식의 사용자 인터페이스 내에 포함될 수 있다. 제어부(130)는 이러한 하나 이상의 영상들 중 사용자 선택 입력을 수신한 적어도 하나 이상의 영상에 대하여 편집 동작, 삭제 동작 및 공유 동작 중 적어도 하나를 수행하도록 허용할 수 있다.
본 발명의 추가적인 실시예에 따라서, 제어부(130)는 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상이 출력되는 동안, 상기 카메라부(110)가 상기 제 1 타겟 대상과 상이한 제 2 타겟 대상의 적어도 일부분을 촬영하는 경우, 상기 제 2 타겟 대상에 대한 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 2 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며 그리고 상기 하나 이상의 동작을 수행하는 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장하도록 결정할 수 있다.
또한, 후술되는 디스플레이부(140)는 상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 동일한 프레임 상에서 출력하고,그리고 제어부(130)는 추가적으로, 동일한 프레임 상에서 출력되는 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장할 수도 있다. 다른 예로, 후술되는 디스플레이부(140)는 상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 상이한 프레임 상에서 출력할 수 있다. 나아가, 제어부(130)는 상이한 프레임 상에서 출력되는 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상을 각각 저장할 수도 있다. 이와 관련하여 도 7 내지 도 8에서 후술하도록 한다.
저장된 상기 제 2 영상의 저장 기간 및 저장 개수 중 적어도 하나가 사전 결정된 임계값을 초과하는 경우, 본 발명의 추가적인 실시예에 따라 제어부(130)는,저장된 날짜에 적어도 기초하여 복수의 제 2 영상들 중 적어도 하나를 삭제할 것을 결정하는 동작 및 상기 복수의 제 2 영상들을 포함하는 제 2 영상 리스트를 생성할 것을 결정하는 동작 중 적어도 하나를 수행할 수 있다. 예를 들어, 제어부(130)는 저장된 지 가장 오래된 제 2 영상을 삭제할 것을 결정할 수 있다. 또 다른 예로, 제어부(130)는, 사용자 장치(100)의 메모리부(160) 및 사용자 장치(100)와 관련되는 서버(200)의 메모리 모듈(240) 중 적어도 하나에 저장된 복수의 제 2 영상들에 관련한 제 2 영상 리스트를 생성할 수 있다. 상기 제 2 영상 리스트에 포함된 복수의 제 2 영상들 중 사용자 선택이 수신된 제 2 영상은 삭제될 수 있다.
본 발명의 일 실시예에 따른 제어부(130)는 추가적으로, 상기 제 1 영상에 적어도 기초하여 상기 제 1 타겟 대상을 결정할 수 있다. 제 1 타겟 대상이 결정되는 경우, 디스플레이부(140)는 사전 결정된 초기 동작을 수행하는 상기 제 1 타겟 대상에 대한 제 3 영상을 출력할 수 있다. 예를 들어, 새(bird)에 관련한 이미지인 제 1 타겟 대상이 존재한다고 가정하도록 한다. 제 1 타겟 대상(즉, 새)의 일 영역(예를 들어, 새의 발 부분)이 촬영된 제 1 영상에 기초하여 상기 제 1 타겟 대상이 결정될 수 있다. 제 1 타겟 대상이 결정되면, 디스플레이부(130)는 제 1 타겟 대상(즉, 새)에 대하여 사전 결정된 초기 동작(예를 들어, 날개 짓을 하며 하늘을 나는 동작)을 수행하는 영상(즉, 제 3 영상)을 출력할 수 있다.
본 발명의 실시예에 따른 제어부(130)는 추가적으로, 상기 제 1 타겟 대상의 각 부분을 추출하고 그리고 상기 제 1 타겟 대상과 합성하기 위하여 사용자로부터 선택된 합성 대상인 제 1 합성 대상 영상의 각 부분에 매칭함으로써 제 1 합성 영상을 생성할 수 있다. 보다 상세하게, 제 1 합성 대상 영상은 하나 이상의 합성 대상 객체를 포함할 수 있다. 또한, 사용자 선택입력부(120)는 상기 제 1 영상과 상기 제 1 합성 대상 영상의 객체를 합성하기 위한 합성 위치에 대한 사용자 선택 입력을 수신할 수 있다. 제어부(130)는 제 1 영상을 재생할 것을 허용하며, 그리고 상기 합성 위치에 대한 사용자 선택 입력에 기초하여 제 1 합성 영상을 생성할 수 있다.
예를 들어, '눈사람'에 대응하는 이미지가 제 1 타겟 대상이라고 가정하도록 한다. 또한, 사용자로부터 선택된 합성 대상인 제 1 합성 대상 영상은 사진을 촬영하고자 하는 가족이 포함된 영상이라고 가정하도록 한다. 이러한 경우, 눈사람의 각 부분을 추출하고, 상기 제 1 합성 대상 영상의 각 부분에 매칭함으로써 '눈사람과 사진을 촬영하고자 하는 가족'이 제 1 합성 영상으로 생성될 수 있다.
다른 예로, '잠자리'에 대응하는 이미지가 제 1 타겟 대상이라고 가정하도록 한다. 사용자로부터 선택된 합성 대상인 제 1 합성 대상 영상은 예를 들어, 허수아비가 세워진 가을 논밭의 배경일 수 있다. 즉, 제 1 합성 대상 영상은, '허수아비' 및 '가을 논밭'을 합성 객체로서 포함할 수 있다. 사용자로부터 '허수아비의 모자'를 합성 위치로 선택 입력이 수신된 경우, 잠자리의 각 부분이 추출되고 허수아비의 각 부분에 매칭됨으로써, '가을 논밭 허수아비 모자에 앉은 잠자리'가 제 1 합성 영상으로 생성될 수 있다. 이를 위하여, 제 1 타겟 대상의 크기, 각도 등의 조정이 수행될 수도 있다.
또한, 제어부(130)는 제 1 타겟의 배경을 투명화함으로써, 보다 고품질의 합성 영상을 생성할 수 있다.
전술한 바와 같은 제어부(130)는 통상적으로 사용자 장치(100)의 전반적인 동작을 제어한다. 또한, 본 발명의 일 실시예에 따른 제어부(130)는 전술되고 그리고 후술되는 다양한 컴포넌트들 모두와 통신할 수 있어서, 이들의 동작을 유기적으로 제어할 수 있다.
본 발명의 일 실시예에 따른 디스플레이부(140)는 제어부(130)에서 생성되거나 또는 네트워크부(160)를 통해 수신한 사용자 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력할 수 있다.
이러한 디스플레이부(140)는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이 모듈은 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이 모듈이라 지칭될 수 있는데, 상기 투명 디스플레이 모듈의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다.
본 발명의 일 실시예에서, 사용자 장치(100)의 구현 형태에 따라 디스플레이부가 2개 이상 존재할 수 있다. 예를 들어, 사용자 장치(100)에는 복수의 디스플레이들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. 예를 들어, 상기 디스플레이부(140)는 사용자 장치(100)의 상단에 배치되는 디스플레이, 하단에 배치되는 디스플레이를 모두 포함하거나, 이들 중 하나의 디스플레이를 포함할 수 있다. 그러나, 전술한 디스플레이부(140)가 배치되는 위치는 일 예일 뿐이며, 설계상의 필요 또는 시각적인 효과를 위해 다양한 위치에 디스플레이부(140)가 배치될 수 있다.
본 발명의 일 양상에서, 디스플레이부(140)는 사용자의 선택 입력을 수신하도록 구현되는 터치스크린으로 구성될 수 있다. 이러한 경우 디스플레이부(140)는 사용자선택입력부(120)에 포함될 수도 있다. 또는 디스플레이부(140)가 사용자선택입력부(120)를 대체하여 사용자 장치(100)에 구비될 수도 있다.
추가적으로 터치스크린으로 구성된 디스플레이 모듈은 터치 센서를 포함할 수 있다. 터치 센서는 디스플레이 모듈의 특정 부위에 가해진 압력 또는 디스플레이 모듈의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(130)로 전송한다. 이로써, 제어 부(130)는 디스플레이 모듈의 어느 영역이 터치 되었는지 여부 등을 인식할 수 있게 된다.
이러한 디스플레이부(140)는 제 1 타겟 대상에 관련된 제 1 영상을 출력하는 경우와 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력하는 경우, 각각 상이한 사용자 인터페이스를 출력할 수 있다. 이와 관련하여 도 5 내지 도 6을 참조하도록 한다.
또한, 디스플레이부(140)는 제 1 타겟 대상에 관련된 제 2 영상과, 제 2 타겟 대상에 관련된 제 2 영상을 동일한 프레임 상에서 출력할 수 있다. 또는, 디스플레이부(140)는 제 1 타겟 대상에 관련된 제 2 영상과, 제 2 타겟 대상에 관련된 제 2 영상을 상이한 프레임 상에서 출력할 수 있다. 각 영상들을 동일 프레임 상에서 출력할지 또는 상이한 프레임 상에서 출력될지에 관련한 사용자 선택 입력이 수신될 수 있음을 당업자라면 명백히 이해할 것이다.
추가적으로 사용자 장치(100)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위하여, 또는 전술한 바와 같은 종류의 출력들을 보조하기 위하여 도면에 개시되지 않은 추가적인 구성요소들을 더 포함할 수 있다. 예를 들어, 사용자 장치(100)는 사용자 장치(100)에서 상기 증강 현실 제품 현시 시스템을 지원할 때 발생되는 음향 신호(예를 들어, 어플리케이션 실행음, 효과음 등)를 출력하기 위한 음향 출력부를 포함할 수 있다. 이러한 음향 출력부는 예를 들어, 리시버(reciever), 스피커(speaker) 등이 포함될 수 있다. 다른 예로, 사용자 장치(100)는 사용자 장치(100)에서 상기 증강 현실 제품 현시 시스템을 사용할 때 발생하는 다양한 이벤트(예를 들어, 타겟 대상의 인식, 타겟 대상에 대한 촬영 시작 등)를 알리거나, 또는, 카메라부(110)의 촬영을 보조하기 위하여 조명부를 더 포함할 수 있다. 이러한 조명부는 확산적인 전반 조명을 하는 플랫 조명(flatlight) 및/또는 빛을 집광하는 조명인 스폿 조명(spotlight)으로 구성될 수 있다. 또한 플랫 조명(flatlight) 및/또는 스폿 조명(spotlight) 이외의 조명으로 구성될 수도 있다.
본 발명의 일 실시예에서 사용자 장치(100)는 네트워크부(150)를 포함할 수 있다. 이러한 네트워크부(150)는 사용자 장치(100)와 관련되는 서버(예를 들어, 200 및/또는 300)와 다양한 정보들을 송수신하도록 허용할 수 있다.
이러한 네트워크부(150)는, 네트워크 접속을 위한 유/무선 인터넷 모듈을 포함할 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. 유선 인터넷 기술로는 XDSL(Digital Subscriber Line), FTTH(Fibers to the home), PLC(Power Line Communication) 등이 이용될 수 있다.
또한, 네트워크부(150)는, 근거리 통신 모듈을 포함할 수도 있다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
본 발명의 일 양상에 따라 네트워크부(150)는 유선 및 무선 등과 같은 그 통신 양태를 가리지 않을 수 있으며, 단거리 통신망(PAN:Personal Area Network), 근거리 통신망(WAN:Wide Area Network) 등 다양한 통신망으로 구성될 수 있다.
본 명세서에서 설명된 기술들은 위에서 언급된 네트워크들뿐만 아니라, 다른 네트워크들에서도 사용될 수 있다.
본 발명의 일 양상에서 사용자 장치(100)는 메모리부(160)을 포함할 수 있다. 메모리부(160)는 제어부(130)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들을 임시 또는 영구 저장할 수도 있다.
본 발명의 일 실시예에 따른 메모리부(160)는 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시시스템"을 지원하기 위한 다양한 정보들을 포함할 수 있다. 예를 들어, 메모리부(160)는 제어부(130)의 처리 및 제어를 위한 프로그램(예를 들면, 카메라부(110)로부터 획득된 영상과 증강 현실 이미지를 정합하는 알고리즘), 증강 현실을 구현하기 위한 마커에 대한 정보 등을 저장할 수 있다.
예를 들어, 카메라부(110)에 의해 획득된 제 1 타겟 대상의 제 1 영상에 기초하여 상기 제 1 타겟 대상을 인식할 수 있는 사전결정된 로직들이 저장될 수 있다. 나아가, 메모리부(160)는 제 1 타겟 대상과 합성하기 위한 합성 대상 영상들을 저장할 수 있다. 추가적으로, 메모리부(160)는 제 1 영상, 제 2 영상, 제 3 영상 및 합성 영상 중 적어도 하나를 저장할 수 있다. 이러한 메모리부(160)는 제 2 영상을 저장하기 위한 저장 기간 및 저장 개수에 관련된 사전 결정된 임계값을 저장할 수 있다. 따라서, 임계값이 초과된 경우, 제 2 영상을 저장하기 위해 기존 저장된 영상들 중 일부를 삭제 또는 다른 저장 매체로 전송해야한다는 사실이 제공될 수 있다. 예를 들어, 녹화된 영상들의 보관을 3개까지만 가능하도록 설정하면, 그 이상의 영상을 저장하려 하면, 알림창을 통하여,“첫번째 저장된 영상(즉, 저장된 날짜가 가장 오래된 영상)을 삭제하고 저장하시겠습니까?”라는 문구를 보이게 하여 확인을 누를 경우, 먼저 저장된 영상이 삭제되고, 제일 나중에 저장한 영상이 메모리부(150)에 저장될 수 있다. 다른 예로, 녹화된 영상들의 보관을 3개까지만 가능하도록 설정하고, 그 이상의 영상을 저장하려 하면, 알림창을 통하여, "사용자 장치의 갤러리가 아닌, 클라우드에 저장하시겠습니까?"와 같은 문구를 보이게 할 수도 있다. 클라우드는 예를 들어, 사용자 장치(100)와 네트워크를 통해 연결된 서버(200)의 메모리모듈(240)일 수 있다. 선택적으로, 또는, 대안적으로, 클라우드는 사용자 장치(100)와 네트워크를 통해 연결된 다른 서버(300)를 의미할 수도 있다. 이러한 기능을 제공함으로써, 사용자가 사용자 장치(100)의 메모리부(160)의 저장 용량에 제한되지 아니하고, 많은 영상물들을 저장할 수 있도록 허용한다. 따라서, 사용자로 하여금 상기 시스템의 이용에의 지속도를 제고할 수 있는 효과가 발생할 수 있다. 전술한 바와 같은 클라우드에 저장된 영상들 중 전체 또는 일부의 영상들은, 사용자의 선택 입력에 기초하여 사용자 장치(100)로 전송받을 수 있다.
이러한 메모리부(160)는 전술한 바와 같이 사용자로부터 선택 저장된 제 2 영상들을 저장할 수 있다. 또한, 사용자의 구매 이력 정보를 저장할 수도 있다. 전술한 바와 같은 정보들은 본 발명의 일 실시예에 따른 예시적 기재일 뿐이며, 기재되지 않은 다양한 정보들이 메모리부(160)에 영구적 또는 임시적으로 저장될 수 있다. 나아가, 메모리부(160)는 제어부(130)에 동작에 따라서, 본 발명의 일 실시예에 따른 시스템의 업데이트 정보들을 등록 및 저장할 수 있다. 이를 통하여, 사용자가 상기 시스템을 이용하는데 흥미가 감소하지 않도록 주기적으로 관리할 수 있다. 이로써, 사용자의 선택의 폭을 넓히고 또한 사용자가 요구하는 다양한 장르의 서비스를 제공할 수 있다.
메모리부(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 사용자 장치(100)는 인터넷(internet) 상에서 상기 메모리부(140)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다. 예를 들어, 사용자 장치(100)는 상기 사용자 장치(100)와 네트워크로 연결된, 도 1에 도시되는 서버(200)의 메모리모듈(140) 및/또는 다른 서버(300)과 관련되어 동작할 수도 있다.
도 1에 도시된 통합 장치(100)의 구성요소들은 필수적인 것이 아니며, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성 요소들을 갖는 통합 장치(100)가 구현될 수도 있다.
예를 들어, 사용자 장치(100)는 사용자 인식부를 포함할 수 있다. 예를 들어, 사용자 인식부는 근거리 통신 기술의 일종인 RFID(Radio Frequency Identification)기술을 이용하여, 전파를 이용하여 원거리의 사용자 정보를 인식함으로써 사용자 정보를 수신할 수 있다. 보다 상세하게, 사용자는 RFID 모듈이 포함된 카드 및 이동 단말기(mobile terminal)를 소지할 수 있다. 상기 사용자가 소지한 RFID 모듈에는 상기 사용자를 식별하는 정보(예를 들어, 데이터베이스 서버에 등록된 사용자의 개인ID, 식별 코드 등)이 기록될 수 있다. 사용자 인식부는 전술한 바와 같은 RFID 기술 외에도, 접촉식/비접촉식으로 사용자의 고유정보를 송수신할 수 있는 다양한 기술(예를 들어, 블루투스등과 같은 근거리 통신 기술)을 포함할 수 있다. 또한, 사용자 인식부는 사용자선택입력부(120) 또는 네트워크부(160) 또는 카메라부(110) 등과 연동하여, 사용자의 생체 데이터(음성, 지문, 얼굴)를 식별하는 생체 데이터 식별 모듈을 포함할 수도 있다.
도 1 내지 도 9를 참조하여, 본 명세서에서 설명되는 다양한 실시예의 일부 및/또는 전부는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 또는 저장매체 내에서 구현될 수 있다.
예를 들어, 하나 이상의 프로세서에 의해 실행되는 복수의 명령들을 포함하는, 컴퓨터-판독가능 기록매체에 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은, 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영하도록 하는 명령-상기 제 1 타겟 대상은, 사전 결정된 이미지 및 사전 결정된 텍스트 중 적어도 하나를 포함함-; 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하도록 하는 명령-상기 하나 이상의 동작은 증강현실시스템에 기초하여 수행됨-; 상기 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성하고, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며 그리고 상기 제 2 영상을 저장하도록 하는 명령; 및 상기 사용자 선택 입력을 수신하기 위한 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력하도록 하는 명령;을 포함할 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(130) 그 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 씌여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리부(160)에 저장되고, 제어부(130)에 의해 실행될 수 있다.
다시, 도 1을 참조하면, 본 발명의 일 실시예에 따른 서버(200)는 수신모듈(210), 제어모듈(220), 네트워크모듈(230) 및 메모리 모듈(240)을 포함할 수 있다. 도 1에 도시된 서버(200)의 구성요소들은 필수적인 것이 아니며, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성 요소들을 갖는 서버(200)가 구현될 수도 있다.
이하에서는, 상기 구성요소들에 대해 차례로 살펴본다.
수신모듈(210)은 사용자 장치의 카메라부로부터 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 수신할 수 있다. 또한, 사용자 장치의 사용자선택입력부로부터 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신할 수 있다.
여기서 상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함하며, 그리고 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행될 수 있음을 전술하였다.
또한, 제어 모듈(120)은 상기 사용자 선택 입력을 수신하기 위하여 상기 사용자 장치의 디스플레이부에 출력될 사용자 인터페이스를 생성할 수 있다. 나아가 제어 모듈(120)은 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정할 수 있다. 그리고 제어 모듈(120)은 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 상기 사용자 장치의 디스플레이부가 출력할 것을 허용할 수 있다.
네트워크 모듈(130)은 전술한 바와 같이, 사용자 장치(100)와 서버(200)간에 전달되는 다양한 정보들의 전송을 보조한다. 메모리 모듈(140)은 전술한 바와 같은 다양한 정보들을 영구적 또는 일시적으로 저장한다.
서버(200)의 제어 모듈(220), 네트워크 모듈(230) 및 메모리 모듈(240)은 사용자 장치(100)의 제어부(130), 네트워크부(150), 및 메모리부(160)와 대응되므로 상세한 설명은 생략하도록 한다.
도 1 내지 도 9를 참조하여, 본 명세서에서 설명되는 다양한 실시예의 일부 및/또는 전부는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 또는 저장매체 내에서 구현될 수 있다.
예를 들어, 하나 이상의 프로세서에 의해 실행되는 복수의 명령들을 포함하는, 컴퓨터-판독가능 기록매체에 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은, 사용자 장치의 카메라부로부터 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 수신하고, 그리고 사용자 장치의 사용자선택입력부로부터 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하는 명령-상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함하며, 그리고 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행됨 - ; 및 상기 사용자 선택 입력을 수신하기 위하여 상기 사용자 장치의 디스플레이부에 출력될 사용자 인터페이스를 생성하고, 그리고 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 그리고 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 상기 사용자 장치의 디스플레이부가 출력할 것을 허용하는 명령;을 포함할 수 있다.
즉, 사용자 장치(100)는 제어부(130)의 역할을 하는 서버(200)와 연결되어서, 상기 시스템을 제공하는 애플리케이션을 상기 사용자 장치(100)에 설치함으로써 전술한 바와 같은 동작들이 구현될 수도 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어모듈(220) 그 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 씌여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리 모듈(240)에 저장되고, 제어모듈(220)에 의해 실행될 수 있다.
이하, 도 2 내지 도 9를 참조하여, 본 발명의 다양한 양태가 구현될 수 있는 시스템에서 제공될 수 있는 증강 현시 시스템에 대하여 설명하도록 한다.
본 발명의 일 실시예에 따른 증강 현실 제품 현시 시스템의 대상이 되는 제품은 이미지에 제한되지 아니함을 당업자라면 명백히 이해할 것이다. 예를 들어, 제품에 표시된 이미지나 마크, 글자를 통해 문자, 이미지, 사운드, 동영상, 2d,3d 입체동영상을 현시하기 위한“증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템”에서, 상기 타겟 대상인 제품은, 이미지나 마크, 글자를 표시한 의류나 프린트된 원단, 광고원단, 종이, 열쇠고리, 모자, 가방의 공산품, 카다로그, 잡지, 광고지, 서적, 커튼, 카페트, 벽지, 달력, 시트지, 이불, 매트, 인테리어용품, 마개나 뚜껑, 용기, 자석교구, 나무교구, 완구, 색칠북, 교재 및 포장지, 택, 이미지나, 마크, 글자를 표시할 수 있는 제품의 외관이나 택 또는 제품 내부에 제공되는 카드의 이미지나 마크, 글자를 표시한 제품에 표시된 이미지나 마크, 글자를 표시한 제품 중 적어도 하나일 수 있다. 또한, 예를 들어, 상기 "증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시시스템"에 기초하는 복수개의 이미지 데이터들 그 자체가 타겟 대상인 제품일 수 있다. 따라서, 상기 이미지 데이터들을 출력한 인쇄물을 통해 문자, 이미지, 사운드, 동영상, 2d,3d 입체동영상을 현시하기 위한“증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템”이 개시될 수도 있다.
도 2는 본 발명의 일 실시예에 따라 출력될 수 있는 사용자 인터페이스들을 도시한다.
도 2에서 도시되고, 그리고 상술되는 인터페이스들은 사용자 장치(100)의 디스플레이부에서 표시될 수 있다. 도 2에 도시된 인터페이스들(51, 53 및 55)은 사용자 장치(100)에서 출력할 수 있는 예시적 사용자 인터페이스의 메커니즘을 도시한다. 예를 들어, 상기 인터페이스들(51,53,55)은 실행 메뉴에 대한 사용자 선택 입력을 수신하기 위하여, 적어도 하나 이상의 선택 입력 수신을 위한 프레임으로 구성될 수 있다. 추가적으로, 도시된 그리고 상술된 인터페이스들(51, 53 및 55)은 사용자 장치(100)에서 “증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템을 개시하기 위한 예시적 단계일 뿐이며 본 발명의 권리 범위는 이에 제한되지 않는다. 즉, 도 2에서 도시되고 그리고 상술된 인터페이스들에 표시되는 요소들은 당업자 및/또는 사용자의 니즈에 의해 생략되거나 추가, 변경될 수 있다.
도 2를 참조하면, 인터페이스(51)는, "4D 체험하기" 및 "색칠하기" 중 적어도 하나에 대한 선택 입력을 수신하기 위한 선택 입력 프레임들을 표시한다. "4D 체험하기"에 대한 선택 입력이 수신되는 경우, 인터페이스(53)이 디스플레이부에 표시될 수 있다. 다시 말해, "4D 체험하기"는 "관찰하기", "공부하기", "간단 회화" 등의 오락 기능 및 교육 기능을 제공한다. 다시, 인터페이스(51)를 참조하여, "색칠하기"에 대한 선택 입력이 수신되는 경우, 인터페이스(55)가 디스플레이부에 출력될 수 있다. "색칠하기"는 "탈것", "동물" 및 "공룡"의 카테고리로 색칠 대상들이 제공될 수 있다. 전술한 예시들은 본 발명을 설명하기 위한 예시적인 기재들 뿐이며, 본 발명의 권리 범위는 이에 제한되지 않는다. 다시 말해, 인터페이스들(51, 53 및 55)은 전술한 내용 이외의 정보를 포함하도록 추가로 구성될 수도 있다.
사용자 장치(100)의 사용자 선택 입력부(120) 및 제어부(130)에 의해, 각종 기능을 표시하는 인터페이스에 대한 사용자 선택 입력이 수신되고, 이에 따라 시스템의 동작들이 제어될 수 있다.
본 명세서에서는, 전술한 바와 같은 시스템을 지원하는 애플리케이션이 설치된 사용자 장치(100)에 기초하여 본 발명의 일 실시예를 설명하도록 한다.
도 3은 본 발명의 일 실시예에 따른 제품 및 타겟 대상들을 도시한다.
도 3을 참조하면, 제품(10)은 예를 들어, 색칠북일 수 있으며, 제 1 타겟 대상(11)은 "새", 제 2 타겟 대상(13)은 "해"일 수 있다.
사용자들이 색칠놀이를 함과 동시에 자연스럽게 학습할 수 있도록, 상기 제품(10)에는 색칠의 대상이 되는 제 1 타겟 대상(11) 및 제 2 타겟 대상(12)에 대한 한글 정보 및 영어 정보가 텍스트 정보가 함께 기재될 수 있다.
사용자 장치(100)가 제 1 타겟 대상(11)의 적어도 일부분을 포함하는 제 1 영상을 촬영하면, 상기 제 1 영상에 적어도 기초하여 상기 제 1 타겟 대상이 결정될 수 있다. 상기 제 1 타겟 대상(11)이 결정되는 경우, 사전 결정된 초기 동작을 수행하는 상기 제 1 타겟 대상에 대한 제 3 영상이 출력될 수 있다. 예를 들어, 제 1 타겟 대상(11)에 대응하여 사전 결정된 초기 동작은 "날개짓을 하는 동작"일 수 있다. 따라서, 사용자 장치(100)가 상기 제 1 타겟 대상(11)의 적어도 일부분을 촬영하는 경우, 상기 제 1 타겟 대상(11)이 날개짓을 하는 영상이 사용자 장치(100)에 디스플레이될 수 있다.
본 발명의 추가적인 실시예에 따라서, 사용자가 상기 제품(10)상에서 상기 제 1 타겟 대상(11)을 색칠한다고 가정하도록 한다. 색칠된 제 1 타겟 대상(11)에 대한 제 1 영상이 획득되는 경우, 디스플레이부(140)는 상기 제 1 영상에 기초하여 사전 결정된 초기 동작을 수행하는 제 1 타겟 대상(11)에 대한 제 3 영상을 출력할 수 있다. 예를 들어, 사용자가 제 1 타겟 대상(11)의 몸체는 파랑색으로 색칠하고, 부리와 다리는 노랑색으로 색칠한 이후에 색칠된 제 1 타겟 대상(11)을 촬영하는 경우, "파랑색 몸체와 노랑색 부리 및 다리를 가진 새" 및 "파랑색 몸체와 노랑색 부리 및 다리를 가진 새가 날개짓 하는 모습"이 디스플레이부(140)에 출력될 수 있다.
도 4에 도시된 제 1 타겟 대상(11) 및 제 2 타겟 대상(13)을 참조로 하여 도 5 내지 도 10을 설명하도록 한다.
도 3은 본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템의 실행 인터페이스를 도시한다.
도 3에서 도시되고, 그리고 상술되는 인터페이스들은 사용자 장치(100)의 디스플레이부에서 표시될 수 있다. 도 3에 도시된 인터페이스(101)는 사용자 장치(100)에서 출력할 수 있는 예시적 사용자 인터페이스의 메커니즘을 도시한다. 예를 들어, 상기 인터페이스(101)는 타겟 대상에 대한 영상을 획득하기 위하여, "이미지를 비추어 보세요"라는 알림 문구를 표시할 수 있다. 또한, 카메라부(110)의 효율적인 동작(저장하기, 목록 보기, 동영상 촬영하기, 재생하기, 정보 알림 등)을 보조하기 위한 아이콘들이 표시될 수도 있다.
추가적으로, 도시된 그리고 상술된 인터페이스(101)는 사용자 장치(100)에서 “증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템을 개시하기 위한 예시적 단계일 뿐이며 본 발명의 권리 범위는 이에 제한되지 않는다. 즉, 도 3에서 도시되고 그리고 상술된 인터페이스들에 표시되는 요소들은 당업자 및/또는 사용자의 니즈에 의해 생략되거나 추가, 변경될 수 있다.
도 5는 본 발명의 일 실시예에 따라 제 1 타겟 대상을 촬영하기 위한 인터페이스를 도시한다.
도 6은 본 발명의 일 실시예에 따라 제 1 타겟 대상이 촬영중인 인터페이스를 도시한다.
도 7은 본 발명의 일 실시예에 따라 제 1 타겟 대상이 촬영된 영상을 재생하는 인터페이스를 도시한다.
도 5 내지 도 7에 도시된 인터페이스들(103, 105 및 107)은, 상기 시스템을 지원하기 위한 애플리케이션이 설치된 사용자 장치(100)의 디스플레이부(140) 상에 표시될 수 있다. 도 5 내지 도 7에 도시된 인터페이스들(103, 105 및 107)은 사용자 장치(100)에서 출력할 수 있는 예시적 사용자 인터페이스의 메커니즘을 도시한다.
본 발명의 일 실시예에 따라서, 카메라부(110)는 제 1 타겟 대상의 적어도 일부를 촬영할 수 있다. 도 5를 참조하면, 카메라부(110)는 제 1 타겟 대상(11) 및 제 2 타겟 대상(13)이 포함된 제품(10)(도 3 참조)에 대하여 촬영한다. 도 5 내지 도 7에서는 이 중 제 1 타겟 대상(11)에 대하여 촬영이 이루어진 경우를 전제로 하여 본 발명의 일 실시예에 따른 시스템을 설명하도록 한다.
도 6의 인터페이스(150)는 본 발명의 일 실시예에 따라 제 1 타겟 대상이 촬영되는 경우 사용자 장치(100)에서 출력될 수 있다. 제 1 타겟 대상에 대한 초기 동작 또는 사용자 선택 입력에 따라 실행되는 하나 이상의 동작들이 수행되는 제 1 타겟 대상의 영상이 표시되는 사용자 인터페이스(150)에는 상기 제 1 타겟 대상의 촬영을 보조하기 위한 다양한 아이콘들(예를 들어, 재생 버튼, 방향 이동 버튼, 일시 정지 보튼, 저장 버튼, 목록 버튼 등)이 더 표시될 수 있다. 이러한 다양한 아이콘들은, 도 7을 참조하면, 촬영된 제 1 타겟 대상에 대한 영상을 재생하는 인터페이스(107)에서는 표시되지 않을 수 있다.
도 5 내지 도 7에서 도시된 그리고 상술된 인터페이스들은(103, 105 및 107) 사용자 장치(100)에서 “증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템을 개시하기 위한 예시적 단계일 뿐이며 본 발명의 권리 범위는 이에 제한되지 않는다. 즉, 도 5 내지 도 7에서 도시되고 그리고 상술된 인터페이스들에 표시되는 요소들은 당업자 및/또는 사용자의 니즈에 의해 생략되거나 추가, 변경될 수 있다.
도 8은 본 발명의 일 실시예에 따라 제 2 타겟 대상을 촬영하기 위한 인터페이스를 도시한다.
도 9는 본 발명의 일 실시예에 따라 제 1 타겟 대상 및 제 2 타겟 대상이 촬영중인 인터페이스를 도시한다.
도 10은 본 발명의 일 실시예에 따라 촬영된 영상들의 저장을 위한 인터페이스를 도시한다.
도 8 내지 도 10에 도시된 인터페이스들(109, 111 및 113)은, 상기 시스템을 지원하기 위한 애플리케이션이 설치된 사용자 장치(100)의 디스플레이부(140) 상에 표시될 수 있다. 도 8 내지 도 10에 도시된 인터페이스들(109, 111 및 113)은 사용자 장치(100)에서 출력할 수 있는 예시적 사용자 인터페이스의 메커니즘을 도시한다.
도 8을 참조하면, 카메라부(110)는 제 1 타겟 대상(11) 및 제 2 타겟 대상(13)이 포함된 제품(10)(도 3 참조)을 촬영할 수 있다. 도 8 내지 도 10에서는 이 중 제 2 타겟 대상(11)에 대하여 촬영이 이루어진 경우를 전제로 하여 본 발명의 일 실시예에 따른 시스템을 설명하도록 한다.
본 발명의 추가적인 실시예에 따라서, 제 2 타겟 대상(13)에 대한 촬영은 제 1 타겟 대상(11)에 대한 촬영(도 5의 인터페이스 103 참조)과 동시에 이뤄질 수도 있다. 다시 말해, 제 1 타겟 대상(11)에 관련된 제 2 영상이 출력되는 동안(도 5 내지 도 7 참조) 카메라부(110)는 제 2 타겟 대상(13)을 촬영할 수 있다(도 8 참조).
보다 상세하게, 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상이 출력되는 동안(도 5 내지 도 7 참조), 카메라부(110)가 상기 제 1 타겟 대상과 상이한 제 2 타겟 대상의 적어도 일부분을 촬영하는 경우(도 8 참조), 상기 제 2 타겟 대상에 대해서도 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 2 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며 그리고 상기 하나 이상의 동작을 수행하는 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장하도록 결정될 수 있다.
종래에는 하나의 타겟 대상에 대한 증강 현실을 구현 중, 다른 타겟 대상에 대한 증강 현실을 구현하기 위해서는 먼저 증강 현실을 구현중인 타겟 대상에 대한 촬영을 중지하여야 하는 불편함이 발생했다. 반면, 본 발명의 일 실시예에 따른 증강현실 시스템에 따르면, 하나 이상의 타겟 대상에 대하여 동시에 증강 현실을 구현할 수 있다는 효과가 발생한다.
상기 제 1 타겟 대상에 관련된 제 2 영상이 출력되는 동안(도 5 내지 도 7 참조), 카메라부(110)가 상기 제 1 타겟 대상과 상이한 제 2 타겟 대상의 적어도 일부분을 촬영하는 경우(도 8 참조), 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 동일한 프레임 상에서 출력될 수 있다. 또한, 동일한 프레임 상에서 출력되는 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상이 저장될 수 있다. 다른 예로, 도 9를 참조하면, 상기 제 1 타겟 대상에 관련된 제 2 영상이 출력되는 동안(도 5 내지 도 7 참조), 카메라부(110)가 상기 제 1 타겟 대상과 상이한 제 2 타겟 대상의 적어도 일부분을 촬영하는 경우(도 8 참조), 상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상은 상이한 프레임 상에서 출력되고, 그리고 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상은 각각 저장될 수도 있다. 또한, 제 1 타겟 대상에 관련된 제 2 영상과 제 2 타겟 대상에 관련된 제 2 영상을 각각 저장하는 것을 보조하기 위한 아이콘들이 인터페이스(111) 상에 더 표시될 수도 있다.
본 발명의 일 실시예에 따르면, 상이한 타겟 대상에 대하여 동시에 촬영이 가능하며, 또한, 상이한 타겟 대상에 대한 영상들을 각각 또는 함께 저장할 수 있도록 함으로써, 사용자가 상기 시스템에의 활용도에서 자유로워질 수 있도록 허용한다.
도 10을 참조하면, 상기 시스템에 의해 촬영된/생성된 영상들을 저장하기 위한 인터페이스(113)가 도시된다.
전술한 바와 같이, 저장된 영상의 저장 기간 및 저장 개수 중 적어도 하나가 사전 결정된 임계값을 초과하는 경우, 저장된 날짜에 적어도 기초하여 복수의 영상들 중 적어도 하나를 삭제할 것을 결정하는 동작 및 상기 복수의 영상들을 포함하는 영상 리스트를 생성할 것을 결정하는 동작 중 적어도 하나가 수행될 수 있다. 전술한 바와 같은 동작에 대응되는 인터페이스가 사용자 장치(100)에 출력될 수 있다.
예를 들어, 영상의 보관을 5개까지만 가능하도록 설정된 경우, 사용자가 그 이상의 영상을 저장하려 하면, 인터페이스(113)에 도시된 바와 같이 "이미 5개의 영상이 저장되어 있습니다"와 같은 안내창이 표시될 수 있다. 또한, 인터페이스(113)의 안내창에 포함된 "확인"을 누를 경우, 영상 리스트가 출력되거나 또는, 저장일이 가장 오래된 영상이 삭제될 수 있다.
도 8 내지 도 10에서 도시된 그리고 상술된 인터페이스들은(109, 111 및 113) 사용자 장치(100)에서 “증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템을 개시하기 위한 예시적 단계일 뿐이며 본 발명의 권리 범위는 이에 제한되지 않는다. 즉, 도 8 내지 도 10에서 도시되고 그리고 상술된 인터페이스들에 표시되는 요소들은 당업자 및/또는 사용자의 니즈에 의해 생략되거나 추가, 변경될 수 있다.
도 11은 본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 모습을 도시한다.
도 12는 본 발명의 일 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 다른 모습을 도시한다.
도 13은 본 발명의 다른 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 모습을 도시한다.
도 14는 본 발명의 다른 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 다른 모습을 도시한다.
도 15는 본 발명의 다른 실시예에 따른 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 또다른 모습을 도시한다.
도 11 내지 도 15에 도시된 도면들은, 상기 시스템을 지원하기 위한 애플리케이션이 설치된 사용자 장치(100)로부터 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 모습이 도시된다.
도 11을 참조하면, 도 3 내지 도 10에서 전술한 바와 같이, 타겟 대상(여기서는, 소방차)에 대한 영상이 획득되면, 상기 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행되는 다양한 동작들이 수행되는 영상들(115, 117 및 119)이 사용자 장치(100)의 디스플레이부(140)상에서 보여질 수 있다.
도 12를 참조하면, 이러한 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행되는 다양한 동작들이 수행되는 영상(121)은 현실의 객체 또는 사전 결정되어 저장된 합성 영상들과 합쳐져서 새로운 영상으로 제공될 수도 있다.
도 13 내지 도 15를 참조하면, 본 발명의 일 실시예에 따라 증강 현시된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품 현시 시스템이 구현되는 모습들(57, 59, 61, 63, 65, 67, 69 및 71)을 보여준다. 도 13 내지 도 15에서 도시되는 전술한 바와 같은 모습들은, 도 2의 인터페이스(53)을 참조하면, 현시된 컨텐츠에 대한 증강 현실 시스템을 이용하여 '관찰하기', '공부하기', '간단회화' 등에 대한 사용자 선택 입력에 기초하여 제공되는 동작들일 수 있다.
따라서, 전술한 바와 같은 기술적 특징들을 포함하는 본 발명의 일 실시예에 따라서, 예를 들어, 제품의 외관이나 택 또는 제품 내부에 제공되는 카드에 표기되는 이미지, 마크, 글자와 연동되어 제작한 이미지, 사운드, 문자, 동영상, 2d, 3d 입체 동영상 등은 제품의 외관에 표시한 이미지나 마크, 글자가 장식적인 기능을 발휘함과 동시에 증강현실시스템의 기능과 연동되어 현시되도록 하므로, 제품의 외관에 표시한 이미지나 마크, 글자에 URL을 입력 저장하고 전술한 바와 같은 추가 기능이 탑재된 서비스를 사용자 장치를 통해 실제 다양한 제품에서 실행시켜줄 수 있다. 따라서, 해당 제품의 가치 상승과 판매효과는 물론 경쟁력 강화, 복제품 관리 및 사용자에 대한 교육적 기능 제고, 오락적 기능 제고가 가능해질 수 있다.
본 발명의 일 실시예에 따르면, 증강현실을 응용 접목한 다양한 제품에 연출되는 다양한 추가 기능을 제공하는 애플리케이션, 사용자 장치, 시스템을 실시하기 위한 구체적인 내용에 대하여 본 명세서에서 설명되는 바와 같은 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 당업자라면 후술될 특허 청구범위에 기재된 발명의 사상 및 기술 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변형시킬 수 있음을 이해할 수 있을 것이다.
본 발명의 기술 분야에서 통상의 지식을 가진 자는 정보 및 신호들이 임의의 다양한 상이한 기술들 및 기법들을 이용하여 표현될 수 있다는 것을 이해할 것이다. 예를 들어, 위의 설명에서 참조될 수 있는 데이터, 지시들, 명령들, 정보, 신호들, 비트들, 심볼들 및 칩들은 전압들, 전류들, 전자기파들, 자기장들 또는 입자들, 광학장들 또는 입자들, 또는 이들의 임의의 결합에 의해 표현될 수 있다.
본 발명의 기술 분야에서 통상의 지식을 가진 자는 여기에 개시된 실시예들과 관련하여 설명된 다양한 예시적인 논리 블록들, 모듈들, 프로세서들, 수단들, 회로들 및 알고리즘 단계들이 전자 하드웨어, (편의를 위해, 여기에서 "소프트웨어"로 지칭되는) 다양한 형태들의 프로그램 또는 설계 코드 또는 이들 모두의 결합에 의해 구현될 수 있다는 것을 이해할 것이다. 하드웨어 및 소프트웨어의 이러한 상호 호환성을 명확하게 설명하기 위해, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들 및 단계들이 이들의 기능과 관련하여 위에서 일반적으로 설명되었다. 이러한 기능이 하드웨어 또는 소프트웨어로서 구현되는지 여부는 특정한 애플리케이션 및 전체 시스템에 대하여 부과되는 설계 제약들에 따라 좌우된다. 본 발명의 기술 분야에서 통상의 지식을 가진 자는 각각의 특정한 애플리케이션에 대하여 다양한 방식들로 설명된 기능을 구현할 수 있으나, 이러한 구현 결정들은 본 발명의 범위를 벗어나는 것으로 해석되어서는 안 될 것이다.
여기서 제시된 다양한 실시예들은 방법, 장치, 또는 표준 프로그래밍 및/또는 엔지니어링 기술을 사용한 제조 물품(article)으로 구현될 수 있다. 용어 "제조 물품"은 임의의 컴퓨터-판독가능 장치로부터 액세스 가능한 컴퓨터 프로그램, 캐리어, 또는 매체(media)를 포함한다. 예를 들어, 컴퓨터-판독가능 매체는 자기 저장 장치(예를 들면, 하드 디스크, 플로피 디스크, 자기 스트립, 등), 광학 디스크(예를 들면, CD, DVD, 등), 스마트 카드, 및 플래쉬 메모리 장치(예를 들면, EEPROM, 카드, 스틱, 키 드라이브, 등)를 포함하지만, 이들로 제한되는 것은 아니다. 또한, 여기서 제시되는 다양한 저장 매체는 정보를 저장하기 위한 하나 이상의 장치 및/또는 다른 기계-판독가능한 매체를 포함한다. 용어 "기계-판독가능 매체"는 명령(들) 및/또는 데이터를 저장, 보유, 및/또는 전달할 수 있는 무선 채널 및 다양한 다른 매체를 포함하지만, 이들로 제한되는 것은 아니다.
제시된 프로세스들에 있는 단계들의 특정한 순서 또는 계층 구조는 예시적인 접근들의 일례임을 이해하도록 한다. 설계 우선순위들에 기반하여, 본 발명의 범위 내에서 프로세스들에 있는 단계들의 특정한 순서 또는 계층 구조가 재배열될 수 있다는 것을 이해하도록 한다. 첨부된 방법 청구항들은 샘플 순서로 다양한 단계들의 엘리먼트들을 제공하지만 제시된 특정한 순서 또는 계층 구조에 한정되는 것을 의미하지는 않는다.
제시된 실시예들에 대한 설명은 임의의 본 발명의 기술 분야에서 통상의 지식을 가진 자가 본 발명을 이용하거나 또는 실시할 수 있도록 제공된다. 이러한 실시예들에 대한 다양한 변형들은 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 명백할 것이며, 여기에 정의된 일반적인 원리들은 본 발명의 범위를 벗어남이 없이 다른 실시예들에 적용될 수 있다. 그리하여, 본 발명은 여기에 제시된 실시예들로 한정되는 것이 아니라, 여기에 제시된 원리들 및 신규한 특징들과 일관되는 최광의의 범위에서 해석되어야 할 것이다.
제품: 10
제 1 타겟 대상: 11
제 2 타겟 대상: 13
사용자 장치: 100
서버: 200

Claims (19)

  1. 제품에 표시된 이미지나 마크, 글자를 통해 문자, 이미지, 사운드, 동영상, 2d,3d 입체동영상을 현시하기 위한“증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템”에서,
    제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영할 수 있도록 배치된 하나 이상의 카메라부-상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함함-;
    상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하는 사용자선택입력부- 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행됨 - ;
    상기 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성하고, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며, 상기 제 2 영상을 저장하도록 결정하며, 사용자 장치와 관련된 저장 매체 및 서버 중 적어도 하나에 저장된 하나 이상의 영상들을 포함하는 영상 리스트를 생성하며, 그리고 상기 하나 이상의 영상들 중 사용자 선택 입력을 수신한 적어도 하나 이상의 영상에 대한 편집 동작, 삭제 동작 및 공유 동작 중 적어도 하나를 수행하도록 허용하는 제어부; 및
    상기 사용자 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력하는 디스플레이부;
    를 포함하는,
    사용자 장치.
  2. 제 1 항에 있어서,
    상기 제 1 타겟 대상에 관련된 제 2 영상을 포함하는, 상기 카메라부로부터 촬영된 적어도 하나 이상의 영상들은,
    사용자 선택 입력에 기초하여, 상기 사용자 장치와 관련된 저장 매체 및 서버 중 적어도 하나에 저장되는,
    사용자 장치.
  3. 삭제
  4. 제 1 항에 있어서,
    상기 실행하고자 하는 하나 이상의 동작은,
    상기 제 1 타겟 대상의 이동 동작, 상기 제 1 타겟 대상에 대한 색상 변환 동작, 상기 제 1 타겟 대상에 대한 크기 조정 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 생성 동작, 상기 제 1 타겟 대상에 대한 컨텐츠 정보 제공 동작, 상기 제 1 타겟 대상에 대한 아이템 구매 동작, 상기 제 1 타겟 대상에 관련하여 생성된 영상들 중 적어도 하나에 대한 공유 동작 및 사전 결정된 링크 접속 동작 중 적어도 하나를 포함하며,
    상기 컨텐츠 정보는,
    텍스트 정보, 음성 정보, 영상 정보 및 링크 정보 중 적어도 하나로 구성되며, 그리고 한국어를 포함하는 복수의 외국어로 제공되며,
    그리고 상기 제어부는 추가적으로,
    상기 실행하고자 하는 하나 이상의 동작에 적어도 기초하여 추가적인 사용자 인터페이스를 생성하는,
    사용자 장치.
  5. 제 1 항에 있어서,
    상기 제어부는 추가적으로,
    상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상이 출력되는 동안, 상기 카메라부가 상기 제 1 타겟 대상과 상이한 제 2 타겟 대상의 적어도 일부분을 촬영하는 경우,
    상기 제 2 타겟 대상에 대한 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 2 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며 그리고 상기 하나 이상의 동작을 수행하는 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장하도록 결정하는,
    사용자 장치.
  6. 제 5 항에 있어서,
    상기 디스플레이부는 추가적으로,
    상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 동일한 프레임 상에서 출력하고,
    그리고 상기 제어부는 추가적으로,
    동일한 프레임 상에서 출력되는 상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상을 저장하는,
    사용자 장치.
  7. 제 5 항에 있어서,
    상기 디스플레이부는 추가적으로,
    상기 제 1 타겟 대상에 관련된 제 2 영상과 상기 제 2 타겟 대상에 관련된 제 2 영상을 상이한 프레임 상에서 출력하고,
    그리고 상기 제어부는 추가적으로,
    상기 제 1 타겟 대상에 관련된 제 2 영상 및 상기 제 2 타겟 대상에 관련된 제 2 영상을 각각 저장하는,
    사용자 장치.
  8. 제 1 항에 있어서,
    상기 제어부는 추가적으로,
    저장된 상기 제 2 영상의 저장 기간 및 저장 개수 중 적어도 하나가 사전 결정된 임계값을 초과하는 경우,
    저장된 날짜에 적어도 기초하여 복수의 제 2 영상들 중 적어도 하나를 삭제할 것을 결정하는 동작 및 상기 복수의 제 2 영상들을 포함하는 제 2 영상 리스트를 생성할 것을 결정하는 동작 중 적어도 하나를 수행하는,
    사용자 장치.
  9. 제 1 항에 있어서,
    상기 제어부는 추가적으로,
    상기 제 1 영상에 적어도 기초하여 상기 제 1 타겟 대상을 결정하는,
    사용자 장치.
  10. 제 9 항에 있어서,
    상기 디스플레이부는 추가적으로,
    상기 제 1 타겟 대상이 결정되는 경우, 사전 결정된 초기 동작을 수행하는 상기 제 1 타겟 대상에 대한 제 3 영상을 출력하는,
    사용자 장치.
  11. 제 1 항에 있어서,
    상기 제어부는 추가적으로,
    상기 제 1 타겟 대상의 각 부분을 추출하고 그리고 상기 제 1 타겟 대상과 합성하기 위하여 사용자로부터 선택된 합성 대상인 제 1 합성 대상 영상의 각 부분에 매칭함으로써 제 1 합성 영상을 생성하는,
    사용자 장치.
  12. 제 11 항에 있어서,
    상기 제 1 합성 대상 영상은 하나 이상의 합성 대상 객체를 포함하며,
    상기 사용자선택입력부는 추가적으로,
    상기 제 1 영상과 상기 제 1 합성 대상 영상의 객체를 합성하기 위한 합성 위치에 대한 사용자 선택 입력을 수신하며,
    그리고 상기 제어부는 추가적으로,
    상기 제 1 영상을 재생할 것을 허용하며, 그리고 상기 합성 위치에 대한 사용자 선택 입력에 기초하여 제 1 합성 영상을 생성하는,
    사용자 장치.
  13. 제 11 항에 있어서,
    상기 제어부는 추가적으로,
    상기 제 1 타겟이 포함된 영상의 배경을 투명화하는,
    사용자 장치.
  14. 제 1 항에 있어서,
    상기 디스플레이부는 추가적으로,
    상기 제 1 타겟 대상에 관련된 제 1 영상을 출력하는 경우와 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력하는 경우, 각각 상이한 사용자 인터페이스를 출력하는,
    사용자 장치.
  15. 제 1 항에 있어서,
    증강 현시 된 컨텐츠를 다양하게 활용하기 위한 증강현실 제품현시시스템에서 타겟 대상인 제품은,
    이미지나 마크, 글자를 표시한 의류나 프린트된 원단, 광고원단, 종이, 열쇠고리, 모자, 가방의 공산품, 카다로그, 잡지, 광고지, 서적, 커튼, 카페트, 벽지, 달력, 시트지, 이불, 매트, 인테리어용품, 마개나 뚜껑, 용기, 자석교구, 나무교구, 완구, 색칠북, 교재 및 포장지, 택, 이미지나, 마크, 글자를 표시할 수 있는 제품의 외관이나 택 또는 제품 내부에 제공되는 카드의 이미지나 마크, 글자를 표시한 제품에 표시된 이미지나 마크, 글자를 표시한 제품이며 이것을 사용하는,
    사용자 장치.
  16. 제 1 항에 있어서,
    상기 카메라부는,
    연속 촬영 횟수를 포함하는 사전 결정된 설정에 따라 연속 촬영하는 동작 및 촬영된 적어도 하나 이상의 영상들은 사전 결정된 개수에 대응하여 저장되는 동작 중 적어도 하나를 수행하는,
    사용자 장치.
  17. 제 16 항에 있어서,
    상기 디스플레이부는,
    촬영된 적어도 하나 이상의 영상들을 출력하는 경우, 상기 연속 촬영 횟수 및 출력되는 영상에 대한 사용자 선택 입력을 위한 아이콘 중 적어도 하나를 더 출력하고, 그리고
    저장된 적어도 하나 이상의 영상들을 출력하는 경우, 상기 사전 결정된 개수 및 출력되는 영상에 대한 사용자 선택 입력을 위한 아이콘 중 적어도 하나를 더 출력하는,
    사용자 장치.
  18. 하나 이상의 프로세서에 의해 실행되는 복수의 명령들을 포함하는, 컴퓨터-판독가능 기록 저장 매체에 저장된 컴퓨터 프로그램으로서,
    상기 컴퓨터 프로그램은,
    제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 촬영하도록 하는 명령-상기 제 1 타겟 대상은, 사전 결정된 이미지 및 사전 결정된 텍스트 중 적어도 하나를 포함함-;
    상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하도록 하는 명령-상기 하나 이상의 동작은 증강현실시스템에 기초하여 수행됨-;
    상기 사용자 선택 입력을 수신하기 위한 사용자 인터페이스를 생성하고, 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 출력할 것을 허용하며, 상기 제 2 영상을 저장하도록 하는 결정하며, 사용자 장치와 관련된 저장 매체 및 서버 중 적어도 하나에 저장된 하나 이상의 영상들을 포함하는 영상 리스트를 생성하며, 그리고 상기 하나 이상의 영상들 중 사용자 선택 입력을 수신한 적어도 하나 이상의 영상에 대한 편집 동작, 삭제 동작 및 공유 동작 중 적어도 하나를 수행하도록 허용하는 명령; 및
    상기 사용자 선택 입력을 수신하기 위한 인터페이스, 상기 제 1 영상 및 상기 제 2 영상 중 적어도 하나를 출력하도록 하는 명령;
    을 포함하는,
    컴퓨터-판독가능 기록 저장 매체에 저장된 컴퓨터 프로그램.
  19. 서버로서,
    사용자 장치의 카메라부로부터 제 1 타겟 대상의 적어도 일부분을 포함하는 제 1 영상을 수신하고, 그리고 사용자 장치의 사용자선택입력부로부터 상기 제 1 타겟 대상에 대하여 실행하고자 하는 하나 이상의 동작에 대한 사용자 선택 입력을 수신하는 수신 모듈-상기 제 1 타겟 대상은, 이미지 및 텍스트 중 적어도 하나를 포함하며, 그리고 상기 하나 이상의 동작은, 상기 제 1 타겟 대상에 대하여 증강현실 시스템을 접목하여 수행됨 - ; 및
    상기 사용자 선택 입력을 수신하기 위하여 상기 사용자 장치의 디스플레이부에 출력될 사용자 인터페이스를 생성하고, 그리고 상기 사용자 선택 입력에 적어도 부분적으로 기초하여 상기 제 1 타겟 대상이 적어도 하나 이상의 동작을 수행하도록 결정하며, 상기 하나 이상의 동작을 수행하는 상기 제 1 타겟 대상에 관련된 제 2 영상을 상기 사용자 장치의 디스플레이부가 출력할 것을 허용하며, 사용자 장치와 관련된 저장 매체 및 서버 중 적어도 하나에 저장된 하나 이상의 영상들을 포함하는 영상 리스트를 생성하며, 그리고 상기 하나 이상의 영상들 중 사용자 선택 입력을 수신한 적어도 하나 이상의 영상에 대한 편집 동작, 삭제 동작 및 공유 동작 중 적어도 하나를 수행하도록 허용하는 제어모듈;
    포함하는,
    서버.
KR1020160108187A 2016-08-25 2016-08-25 제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품 KR101714983B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160108187A KR101714983B1 (ko) 2016-08-25 2016-08-25 제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160108187A KR101714983B1 (ko) 2016-08-25 2016-08-25 제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품

Publications (1)

Publication Number Publication Date
KR101714983B1 true KR101714983B1 (ko) 2017-03-22

Family

ID=58497380

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160108187A KR101714983B1 (ko) 2016-08-25 2016-08-25 제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품

Country Status (1)

Country Link
KR (1) KR101714983B1 (ko)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101889025B1 (ko) 2017-05-22 2018-08-16 동서대학교산학협력단 R-cnn 알고리즘 기반 객체인식을 이용한 휴대단말기용 3차원영상 출력시스템 및 출력방법
KR20180136599A (ko) * 2017-06-14 2018-12-26 주식회사 더미리 노래 서비스를 제공하기 위한 서버장치
KR20190045894A (ko) * 2019-04-22 2019-05-03 주식회사 더미리 노래 대결의 서비스를 제공하기 위한 서버장치
KR20190133908A (ko) * 2018-05-24 2019-12-04 시크릿타운 주식회사 상품 이미지 인식 기반 증강현실 컨텐츠 제공방법
WO2021107308A1 (ko) * 2019-11-27 2021-06-03 삼성전자주식회사 전자 장치 및 이의 제어 방법
KR20220105967A (ko) * 2021-01-21 2022-07-28 동서대학교 산학협력단 페이퍼토이 기반 ar인터랙티브 교육시스템

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110107542A (ko) * 2010-03-25 2011-10-04 에스케이텔레콤 주식회사 가상 사용자 인터페이스를 이용한 증강현실 시스템 및 그 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110107542A (ko) * 2010-03-25 2011-10-04 에스케이텔레콤 주식회사 가상 사용자 인터페이스를 이용한 증강현실 시스템 및 그 방법

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101889025B1 (ko) 2017-05-22 2018-08-16 동서대학교산학협력단 R-cnn 알고리즘 기반 객체인식을 이용한 휴대단말기용 3차원영상 출력시스템 및 출력방법
KR20180136599A (ko) * 2017-06-14 2018-12-26 주식회사 더미리 노래 서비스를 제공하기 위한 서버장치
KR101973206B1 (ko) 2017-06-14 2019-04-29 주식회사 더미리 노래 서비스를 제공하기 위한 서버장치
KR20190133908A (ko) * 2018-05-24 2019-12-04 시크릿타운 주식회사 상품 이미지 인식 기반 증강현실 컨텐츠 제공방법
KR102194008B1 (ko) * 2018-05-24 2020-12-22 시크릿타운 주식회사 상품 이미지 인식 기반 증강현실 컨텐츠 제공방법
KR20190045894A (ko) * 2019-04-22 2019-05-03 주식회사 더미리 노래 대결의 서비스를 제공하기 위한 서버장치
KR102011868B1 (ko) 2019-04-22 2019-08-26 주식회사 더미리 노래 대결의 서비스를 제공하기 위한 서버장치
WO2021107308A1 (ko) * 2019-11-27 2021-06-03 삼성전자주식회사 전자 장치 및 이의 제어 방법
US11889152B2 (en) 2019-11-27 2024-01-30 Samsung Electronics Co., Ltd. Electronic device and control method thereof
KR20220105967A (ko) * 2021-01-21 2022-07-28 동서대학교 산학협력단 페이퍼토이 기반 ar인터랙티브 교육시스템
KR102452922B1 (ko) 2021-01-21 2022-10-07 동서대학교 산학협력단 페이퍼토이 기반 ar인터랙티브 교육시스템

Similar Documents

Publication Publication Date Title
KR101714983B1 (ko) 제품을 활용한 증강 현실을 구현하기 위한 서버 및 사용자 장치 및 제품
US10520782B2 (en) Display devices, systems and methods capable of single-sided, dual-sided, and transparent mixed reality applications
CN106227439B (zh) 用于捕获增强型数字图像和与之交互的设备和方法
Meyer Material mediations and religious practices of world-making
Andersen et al. Interface criticism: Aesthetics beyond the buttons
Vernallis The Oxford handbook of sound and image in digital media
CN109691073A (zh) 包括多个显示器的电子设备及其操作方法
CN108933970A (zh) 视频的生成方法和装置
CN103828350A (zh) 增强视频会议
CN103399690A (zh) 拍照引导方法、装置及移动终端
KR101561267B1 (ko) 증강현실을 접목한 제품과 다양한 추가기능이 탑재된 통합 애플리케이션시스템
CN104166966A (zh) 一种图像增强现实应用的实现方法
CN115529378A (zh) 一种视频处理方法及相关装置
Chung The reanimation of the digital (un) dead, or how to regenerate bodies in digital cinema
Huhtamo Screenology; or, media archaeology of the screen
Brooker ‘Now you’re thinking with portals’ Media training for a digital world
KR101587985B1 (ko) 다양한 추가기능이 탑재된 제품증강현실 애플리케이션시스템
KR102184770B1 (ko) 망자 추모 사진틀
KR20180006137A (ko) 단말기 및 그 제어 방법
CN104506751A (zh) 一种生成带声音的电子明信片的方法及装置
Rabissi The body of Milan in Gabriele Basilico and Michelangelo Antonioni
Moorman Radio Remediated: Sissako's Life on Earth and Sembène's Moolaadé
JP5519750B2 (ja) 画像鑑賞システム、画像鑑賞方法、画像鑑賞用サーバー、および端末機器
Beugnet The Gulliver effect: screen size, scale and frame, from cinema to mobile phones
Camblor Looking at paintings with smartphones

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20200302

Year of fee payment: 4