KR20190140311A - 단말 및 그의 제어 방법 - Google Patents

Abstract

본 발명은 단말 및 그의 제어 방법을 개시한다. 즉, 본 발명은 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시함으로써, 가상 현실 또는 혼합 현실이 적용된 업체 정보 제공에 따라 홍보 효과를 높이고, 사용자의 관심을 증가시켜 실제 상품 판매 증가를 유도할 수 있다.

Description

단말 및 그의 제어 방법{Terminal and control method thereof}

본 발명은 단말 및 그의 제어 방법에 관한 것으로, 특히 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시하는 단말 및 그의 제어 방법에 관한 것이다.

일반적으로, 이동 단말기(Mobile Terminal)는, GPS(Global Positioning System) 기능 및 통화 기능(또는, 호(call) 기능)을 수행하여, 그 수행 결과를 사용자에게 제공하는 장치이다.

이러한 이동 단말기는 세대를 거듭할수록 더 많은 정보를 더 짧은 시간에 송수신할 수 있고, 다양한 기능이 부가되고 있으나, 이러한 기능에 맞춘 사용자 중심의 편의성을 위한 UI(User Interface) 개발이 부족한 상태이다.

또한, TV 홈쇼핑은 쇼핑호스트를 통해서 개별 상품에 대해 홍보하고 해당 상품에 대한 판매 기능을 제공하고 있다.

이러한 TV 홈쇼핑이 활성화되고 있으나, 제한된 방송 채널에 많은 상품을 홍보해야 함에 따라, 자연스럽게 영상 제작비, 채널 임대료 등이 고비용 구조로 형성되어, 중소 제조기업의 진입이 어려운 상태이다.

최근 오프라인 매장의 고객이 지속적으로 인터넷 온라인이나 TV 홈쇼핑으로 이동하는 추세이나, TV 홈쇼핑 분야에서의 새로운 기술 개발이 더디게 진행되고 있어, 상품을 판매하고자 하는 제조업체의 비용 부담이 높아지고 있다.

또한, TV 홈쇼핑에서 상품을 주문할 때, 인터넷이 아닌 전화로 주문해야 함에 따른 불편함이 있다.

한국공개특허 제10-2013-0084274호 [명칭: 3차원 가상현실 인터넷 쇼핑몰]

본 발명의 목적은 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시하는 단말 및 그의 제어 방법을 제공하는 데 있다.

본 발명의 다른 목적은 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정되지 않은 경우, 해당 키워드와 관련한 상품 정보를 표시하는 단말 및 그의 제어 방법을 제공하는 데 있다.

본 발명의 실시예에 따른 단말의 제어 방법은 단말의 제어 방법에 있어서, 입력부나 리더기에 의해, 사용자 입력에 따른 키워드를 수신하거나 외부 디바이스에서 표시 중인 영상에 포함된 상품에 대한 패턴을 인식하는 단계; 제어부에 의해, 상기 키워드와 관련한 상품 또는 상기 인식된 패턴과 관련한 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하는지 여부를 판단하는 단계; 상기 판단 결과, 상기 키워드와 관련한 상품 또는 상기 인식된 패턴과 관련한 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하지 않을 때, 상기 제어부에 의해, 저장부에 미리 저장된 복수의 영상 중에서 상기 키워드 또는 상기 패턴 정보와 관련한 영상을 확인하는 단계; 상기 확인 결과, 상기 저장부에 미리 저장된 복수의 영상 중에서 상기 키워드 또는 상기 패턴 정보와 관련한 영상이 존재하는 않을 때, 상기 제어부에 의해, 상기 저장부에 미리 설정된 카테고리 정보를 표시하도록 표시부를 제어하는 단계; 상기 제어부에 의해, 상기 표시부에 표시되는 카테고리 정보 중에서 사용자 선택에 따라 선택된 특정 카테고리에 대응하는 적어도 하나의 정보를 표시하도록 상기 표시부를 제어하는 단계; 상기 표시부에 표시되는 적어도 하나의 정보 중에서 특정 정보가 선택될 때, 상기 표시부에 의해, 상기 선택된 특정 정보를 표시하는 단계; 및 상기 표시부에 상기 특정 정보가 표시 중인 상태에서 미리 설정된 이벤트가 감지될 때, 상기 제어부에 의해, 상기 이벤트에 대응하여 미리 설정된 기능을 수행하고, 상기 기능 수행 결과를 표시하도록 상기 표시부를 제어하는 단계를 포함할 수 있다.

본 발명은 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시함으로써, 가상 현실 또는 혼합 현실이 적용된 업체 정보 제공에 따라 홍보 효과를 높이고, 사용자의 관심을 증가시켜 실제 상품 판매 증가를 유도할 수 있는 효과가 있다.

또한, 본 발명은 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정되지 않은 경우, 해당 키워드와 관련한 상품 정보를 표시함으로써, 사용자 편의를 위한 사용자 인터페이스를 제공하고, 사용자의 편의성을 향상시킬 수 있는 효과가 있다.

도 1은 본 발명의 실시예에 따른 콘텐츠 제공 시스템의 구성을 나타낸 블록도이다.
도 2는 본 발명의 실시예에 따른 단말의 구성을 나타낸 블록도이다.
도 3은 본 발명의 실시예에 따른 단말이 적용된 콘텐츠 제공 시스템의 제어 방법을 나타낸 흐름도이다.
도 4는 본 발명의 실시예에 따른 단말의 화면을 나타낸 도이다.

본 발명에서 사용되는 기술적 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 발명에서 사용되는 기술적 용어는 본 발명에서 특별히 다른 의미로 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 발명에서 사용되는 기술적인 용어가 본 발명의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는 당업자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 발명에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.

또한, 본 발명에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함한다. 본 발명에서 "구성된다" 또는 "포함한다" 등의 용어는 발명에 기재된 여러 구성 요소들 또는 여러 단계를 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.

또한, 본 발명에서 사용되는 제 1, 제 2 등과 같이 서수를 포함하는 용어는 구성 요소들을 설명하는데 사용될 수 있지만, 구성 요소들은 용어들에 의해 한정되어서는 안 된다. 용어들은 하나의 구성 요소를 다른 구성 요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성 요소는 제 2 구성 요소로 명명될 수 있고, 유사하게 제 2 구성 요소도 제 1 구성 요소로 명명될 수 있다.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.

또한, 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 발명의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 발명의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.

도 1은 본 발명의 실시예에 따른 단말(100)이 적용된 콘텐츠 제공 시스템(또는 콘텐츠 제공 장치)(10)의 구성을 나타낸 블록도이다.

도 1에 도시한 바와 같이, 콘텐츠 제공 시스템(10)은 단말(100) 및 서버(200)로 구성된다. 도 1에 도시된 콘텐츠 제공 시스템(10)의 구성 요소 모두가 필수 구성 요소인 것은 아니며, 도 1에 도시된 구성 요소보다 많은 구성 요소에 의해 콘텐츠 제공 시스템(10)이 구현될 수도 있고, 그보다 적은 구성 요소에 의해서도 콘텐츠 제공 시스템(10)이 구현될 수도 있다.

상기 단말(100)은 스마트 폰(Smart Phone), 휴대 단말기(Portable Terminal), 이동 단말기(Mobile Terminal), 개인 정보 단말기(Personal Digital Assistant: PDA), PMP(Portable Multimedia Player) 단말기, 텔레매틱스(Telematics) 단말기, 내비게이션(Navigation) 단말기, 개인용 컴퓨터(Personal Computer), 노트북 컴퓨터, 슬레이트 PC(Slate PC), 태블릿 PC(Tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(Wearable Device, 예를 들어, 워치형 단말기(Smartwatch), 글래스형 단말기(Smart Glass), HMD(Head Mounted Display) 등 포함), 와이브로(Wibro) 단말기, IPTV(Internet Protocol Television) 단말기, 스마트 TV, 디지털방송용 단말기, AVN(Audio Video Navigation) 단말기, A/V(Audio/Video) 시스템, 플렉시블 단말기(Flexible Terminal), 디지털 사이니지 장치 등과 같은 다양한 단말기에 적용될 수 있다.

도 2에 도시된 바와 같이, 상기 단말(100)은 입력부(110), 리더기(120), 통신부(130), 저장부(140), 표시부(150), 음성 출력부(160) 및 제어부(170)로 구성된다. 도 2에 도시된 단말(100)의 구성 요소 모두가 필수 구성 요소인 것은 아니며, 도 2에 도시된 구성 요소보다 많은 구성 요소에 의해 단말(100)이 구현될 수도 있고, 그보다 적은 구성 요소에 의해서도 단말(100)이 구현될 수도 있다.

상기 입력부(110)는 사용자에 의한 버튼 조작 또는 임의의 기능 선택에 따른 신호를 수신하거나, 디스플레이되는 화면을 터치/스크롤하는 등의 조작에 의해 생성된 명령 또는 제어 신호를 수신한다.

또한, 상기 입력부(110)는 사용자에 의해 입력된 정보에 대응하는 신호를 수신하며, 키 패드(Key Pad), 돔 스위치 (Dome Switch), 터치 패드(예를 들어 접촉식 정전 용량 방식, 압력식 저항막 방식, 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력 측정 방식, 피에조 효과 방식 등 포함), 터치 스크린(Touch Screen), 조그 휠, 조그 스위치, 조그 셔틀(Jog Shuttle), 마우스(mouse), 스타일러스 펜(Stylus Pen), 터치 펜(Touch Pen) 등의 다양한 장치가 사용될 수 있다.

또한, 상기 입력부(110)는 오디오 신호 또는 비디오 신호를 입력받기 위한 적어도 하나 이상의 마이크(미도시)와 카메라(미도시) 등을 포함할 수 있다. 상기 마이크는 통화 모드, 녹음 모드, 음성 인식 모드, 영상 회의 모드, 영상 통화 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호(사용자의 음성(음성 신호 또는 음성 정보) 포함)를 수신하여 전기적인 음성 데이터로 처리한다. 또한, 상기 처리된 음성 데이터는 상기 음성 출력부(160)를 통해 출력하거나 또는 상기 통신부(130)를 통하여 외부 단말기로 송신 가능한 형태로 변환되어 출력될 수 있다. 또한, 상기 마이크는 외부의 음향 신호를 입력받는 과정에서 발생하는 잡음을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수도 있다.

또한, 상기 카메라는 영상 통화 모드, 촬영 모드, 영상 회의 모드 등에서 이미지 센서(카메라 모듈 또는 카메라)에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 즉, 코덱(CODEC)에 따라 상기 이미지 센서에 의해 얻어지는 해당 화상 데이터들을 각 규격에 맞도록 인코딩/디코딩한다. 상기 처리된 화상 프레임은 상기 제어부(170)의 제어에 의해 상기 표시부(150)에 표시될 수 있다. 일 예로, 상기 카메라는 객체(또는 피사체)(사용자 영상 또는 화상 회의자)를 촬영하고, 그 촬영된 영상(피사체 영상)에 대응하는 비디오 신호를 출력한다.

또한, 상기 카메라에서 처리된 화상 프레임은 상기 저장부(140)에 저장되거나 상기 통신부(130)를 통해 외부 단말기(화상 회의 시스템에 포함된 임의의 화상 회의 단말기 포함)로 전송될 수 있다.

또한, 상기 카메라는 객체(예를 들어 사람의 얼굴, 지문, 상품, 건물, 상품/진열대에 구비/부착된 태그, 다른 장치에서 출력 중인 화면에 표시되는 상품/태그/키워드 등 포함)를 촬영하고, 상기 촬영된 객체를 포함하는 영상 정보를 상기 제어부(170)에 제공한다.

상기 리더기(120)는 상품이나 임의의 장소(예를 들어 진열대 등 포함)에 구비되거나 부착된 태그(예를 들어 2차원/3차원 형태의 바코드, 2차원/3차원 형태의 QR 코드 등 포함), 다른 장치에서 출력 중인 화면에 표시되는 태그 등을 인식(또는 태깅)한다.

또한, 상기 리더기(120)는 인식된 태그 정보를 상기 제어부(170)에 제공한다.

이와 같이, 본 발명은 상기 입력부(110) 및/또는 상기 리더기(120)를 통해 임의의 객체가 포함된 영상 정보를 통해 패턴 정보를 확인하거나 또는, 상기 객체에 대한 스캔을 통해 패턴 정보를 확인할 수 있다.

상기 통신부(130)는 유/무선 통신망을 통해 내부의 임의의 구성 요소 또는 외부의 임의의 적어도 하나의 단말기와 통신 연결한다. 이때, 상기 외부의 임의의 단말기는 상기 서버(200) 등을 포함할 수 있다. 여기서, 무선 인터넷 기술로는 무선랜(Wireless LAN: WLAN), DLNA(Digital Living Network Alliance), 와이브로(Wireless Broadband: Wibro), 와이맥스(World Interoperability for Microwave Access: Wimax), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), IEEE 802.16, 롱 텀 에볼루션(Long Term Evolution: LTE), LTE-A(Long Term Evolution-Advanced), 광대역 무선 이동 통신 서비스(Wireless Mobile Broadband Service: WMBS) 등이 있으며, 상기 통신부(130)는 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 또한, 근거리 통신 기술로는 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association: IrDA), UWB(Ultra Wideband), 지그비(ZigBee), 인접 자장 통신(Near Field Communication: NFC), 초음파 통신(Ultra Sound Communication: USC), 가시광 통신(Visible Light Communication: VLC), 와이 파이(Wi-Fi), 와이 파이 다이렉트(Wi-Fi Direct) 등이 포함될 수 있다. 또한, 유선 통신 기술로는 전력선 통신(Power Line Communication: PLC), USB 통신, 이더넷(Ethernet), 시리얼 통신(serial communication), 광/동축 케이블 등이 포함될 수 있다.

또한, 상기 통신부(130)는 유니버설 시리얼 버스(Universal Serial Bus: USB)를 통해 임의의 단말과 정보를 상호 전송할 수 있다.

또한, 상기 통신부(130)는 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)에 따라 구축된 이동 통신망 상에서 기지국, 상기 서버(200) 등과 무선 신호를 송수신한다.

또한, 상기 통신부(130)는 상기 제어부(170)의 제어에 의해 상기 서버(200)로부터 제공되는 복수의 상품 정보, 키워드별/카테고리별 피팅(fitting) 기능 설정 여부 정보, 복수의 상품과 관련한 영상 정보(또는 MR 콘텐츠) 등을 수신한다.

상기 저장부(140)는 다양한 사용자 인터페이스(User Interface: UI), 그래픽 사용자 인터페이스(Graphic User Interface: GUI) 등을 저장한다.

또한, 상기 저장부(140)는 상기 단말(100)이 동작하는데 필요한 데이터와 프로그램 등을 저장한다.

즉, 상기 저장부(140)는 상기 단말(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 단말(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한, 이러한 응용 프로그램 중 적어도 일부는 단말(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 단말(100) 상에 존재할 수 있다. 한편, 응용 프로그램은 상기 저장부(140)에 저장되고, 단말(100)에 설치되어, 제어부(170)에 의하여 상기 단말(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다.

또한, 상기 저장부(140)는 플래시 메모리 타입(Flash Memory Type), 하드 디스크 타입(Hard Disk Type), 멀티미디어 카드 마이크로 타입(Multimedia Card Micro Type), 카드 타입의 메모리(예를 들면, SD 또는 XD 메모리 등), 자기 메모리, 자기 디스크, 광디스크, 램(Random Access Memory: RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory: ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory) 중 적어도 하나의 저장매체를 포함할 수 있다. 또한, 단말(100)은 인터넷(internet)상에서 저장부(140)의 저장 기능을 수행하는 웹 스토리지(web storage)를 운영하거나, 또는 상기 웹 스토리지와 관련되어 동작할 수도 있다.

또한, 상기 저장부(140)는 상기 통신부(130)를 통해 수신된 상기 복수의 상품 정보, 키워드별/카테고리별 피팅 기능 설정 여부 정보, 복수의 상품과 관련한 영상 정보(또는 MR 콘텐츠) 등을 저장한다.

상기 표시부(150)는 상기 제어부(170)의 제어에 의해 상기 저장부(140)에 저장된 사용자 인터페이스 및/또는 그래픽 사용자 인터페이스를 이용하여 다양한 메뉴 화면 등과 같은 다양한 콘텐츠를 표시할 수 있다. 여기서, 상기 표시부(150)에 표시되는 콘텐츠는 다양한 텍스트 또는 이미지 데이터(각종 정보 데이터 포함)와 아이콘, 리스트 메뉴, 콤보 박스 등의 데이터를 포함하는 메뉴 화면 등을 포함한다. 또한, 상기 표시부(150)는 터치 스크린 일 수 있다.

또한, 상기 표시부(150)는 액정 디스플레이(Liquid Crystal Display: LCD), 박막 트랜지스터 액정 디스플레이(Thin Film Transistor-Liquid Crystal Display: TFT LCD), 유기 발광 다이오드(Organic Light-Emitting Diode: OLED), 플렉시블 디스플레이(Flexible Display), 3차원 디스플레이(3D Display), 전자잉크 디스플레이(e-ink display), LED(Light Emitting Diode) 중에서 적어도 하나를 포함할 수 있다.

또한, 상기 표시부(150)는 상기 제어부(170)의 제어에 의해 상기 통신부(130)를 통해 수신된 상기 복수의 상품 정보, 키워드별/카테고리별 피팅 기능 설정 여부 정보, 복수의 상품과 관련한 영상 정보(또는 MR 콘텐츠) 등을 표시한다.

상기 음성 출력부(160)는 상기 제어부(170)에 의해 소정 신호 처리된 신호에 포함된 음성 정보를 출력한다. 여기서, 상기 음성 출력부(160)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.

또한, 상기 음성 출력부(160)는 상기 제어부(170)에 의해 생성된 안내 음성을 출력한다.

또한, 상기 음성 출력부(160)는 상기 제어부(170)에 의해 상기 통신부(130)를 통해 수신된 상기 복수의 상품 정보, 키워드별/카테고리별 피팅 기능 설정 여부 정보, 복수의 상품과 관련한 영상 정보(또는 MR 콘텐츠) 등에 대응하는 정보에 대응하는 음성 정보를 출력한다.

상기 제어부(170)는 상기 단말(100)의 전반적인 제어 기능을 실행한다.

또한, 상기 제어부(170)는 상기 저장부(140)에 저장된 프로그램 및 데이터를 이용하여 상기 단말(100)의 전반적인 제어 기능을 실행한다. 상기 제어부(170)는 RAM, ROM, CPU, GPU, 버스를 포함할 수 있으며, RAM, ROM, CPU, GPU 등은 버스를 통해 서로 연결될 수 있다. CPU는 상기 저장부(140)에 액세스하여, 상기 저장부(140)에 저장된 O/S를 이용하여 부팅을 수행할 수 있으며, 상기 저장부(140)에 저장된 각종 프로그램, 콘텐츠, 데이터 등을 이용하여 다양한 동작을 수행할 수 있다.

또한, 상기 제어부(170)는 상기 특정 매장에 구비된 특정 360도 카메라를 통해 촬영된 영상을 근거로 생성된 파노라마 영상 정보를 상기 저장부(140)에 저장한다.

또한, 상기 제어부(170)는 상기 특정 매장에 구비된 특정 360도 카메라를 통해 촬영된 영상을 근거로 생성된 파노라마 영상 정보를 상기 통신부(130)를 통해 상기 서버(200), 다른 단말(미도시) 등에 전송한다.

이와 같이, 상기 파노라마 영상 정보는 상기 서버(200), 상기 다른 단말에서 생성된 후, 상기 단말(100)에 제공되거나 또는, 상기 단말(100) 자체에서 생성할 수 있다.

또한, 상기 표시부(150)에 상기 수신된 파노라마 영상 정보를 표시하고자 하는 경우, 상기 제어부(170)는 상기 파노라마 영상 정보를 표시하기 위한 앱이 상기 단말(100)에 설치된 상태인지 여부를 확인한다.

상기 확인 결과, 상기 파노라마 영상 정보를 표시하기 위한 앱이 상기 단말(100)에 설치되지 않은 상태인 경우, 상기 제어부(170)는 상기 서버(200)와의 연동에 의해 해당 앱을 상기 단말(100)에 설치한다.

또한, 상기 확인 결과, 상기 단말(100)에 설치된 앱이 실행되는 경우, 상기 제어부(170)는 앱 실행 결과 화면을 상기 표시부(150)에 표시한다. 여기서, 상기 앱 실행 결과 화면은 전시회 관리(예를 들어 전시회 생성, 삭제, 수정, 추가 등 포함)를 위한 전시회 관리 항목(또는 메뉴/버튼), MR(Mixed Reality) 콘텐츠를 편집하고 생성하기 위한 MR 콘텐츠 관리 항목, MR 콘텐츠를 공유하기 위한 MR 콘텐츠 배포 항목 등을 포함한다. 상기 앱 실행 결과 화면은 회원 정보를 입력받거나 전송하기 위한 회원 정보 항목, 앱의 기능을 설정하기 위한 설정 항목, MR 콘텐츠 편집 이력 정보 등을 관리하기 위한 마이 페이지 항목 등을 더 포함할 수도 있다. 이때, 상기 단말(100)는 백그라운드 상태로 해당 앱과 관련한 서버(200)와 통신한다.

또한, 상기 제어부(170)는 특정 매장, 특정 전시회 등과 관련한 파노라마 영상 정보를 요청하기 위한 파노라마 영상 정보 요청 신호를 생성한다.

또한, 상기 제어부(170)는 상기 생성된 파노라마 영상 정보 요청 신호, 상기 단말(100)의 식별 정보 등을 상기 통신부(130)를 통해 상기 서버(200)에 전송한다. 여기서, 상기 단말(100)의 식별 정보는 MDN(Mobile Directory Number), 모바일 IP, 모바일 MAC, Sim(subscriber identity module: 가입자 식별 모듈) 카드 고유정보, 시리얼번호 등을 포함한다.

또한, 상기 제어부(170)는 상기 전송된 파노라마 영상 정보 요청 신호에 응답하여 상기 서버(200)로부터 전송되는 특정 매장, 특정 전시회 등과 관련한 특정 파노라마 영상 정보를 상기 통신부(130)를 통해 수신한다.

또한, 상기 제어부(170)는 상기 수신된 특정 파노라마 영상 정보를 상기 저장부(140)에 저장한다.

상기 표시부(150)에 표시되는 앱 실행 결과 화면 내의 미리 설정된 메뉴(또는 버튼)가 선택되는 경우, 상기 제어부(170)는 상기 표시부(150)의 목록/리스트 표시 영역에 저장부(140)에 저장된 하나 이상의 파노라마 영상 정보에 대한 목록(또는 리스트)을 표시한다. 여기서, 상기 파노라마 영상 정보는 이미지, 동영상 등을 포함한다. 또한, 상기 파노라마 영상 정보는 상기 이미지/동영상 외에, 상기 이미지/동영상에 포함된 객체와 관련한 코드, 코드의 고유 식별 정보, 코드의 종류, 이미지/동영상 내에서의 코드의 위치 정보, 코드의 종류에 대응하는 임시 마커(또는 예비 마커), 이미지/동영상 내에서의 임시 마커의 위치 정보, 이미지/동영상과 관련한 카테고리 정보(예를 들어 대분류, 중분류, 소분류 정보 등 포함), 카메라 번호, 파노라마 영상 파일 번호, 촬영 일자 및 시각 정보, 런 타임 정보, 영상 유형 정보(예를 들어 VOD, 생방송, 미설정 등 포함) 등을 포함한다. 이때, 상기 미리 설정된 메뉴 선택에 따른 화면은 파노라마 영상을 표시하기 위한 제 1 영역(또는 영상 표시 영역), 카테고리 분류를 표시하기 위한 제 2 영역(또는 카테고리 영역), 객체 마커를 표시하기 위한 제 3 영역(또는 객체 마커 표시 영역), 설정 메뉴를 표시하기 위한 제 4 영역(또는 설정 영역), 하나 이상의 파노라마 영상 정보를 포함하는 목록을 표시하기 위한 제 5 영역(또는 목록/리스트 표시 영역) 등을 포함할 수 있다.

또한, 상기 제 1 영역(또는 영상 표시 영역)은 상기 파노라마 영상에 해당하는 이미지, 동영상 등을 표시하는 영역이다. 이때, 상기 파노라마 영상이 동영상인 경우, 상기 제 1 영역의 일측에 상기 동영상을 표시하고, 상기 제 1 영역의 다른 일측에 해당 동영상의 재생, 일시정지, 2배속 정방향/역방향 재생 등을 위한 메뉴와, 하이라이트 재생 지점을 나타내는 메뉴와, 해당 동영상의 전체 런 타임과 재생 중인 지점의 시간 등을 나타내는 메뉴 등을 표시할 수 있다.

또한, 상기 제 2 영역(또는 카테고리 영역)은 상기 전시회 관리 메뉴 등을 통해 설정된(또는 등록된) 하나 이상의 전시회 항목을 리스트 박스, 콤보 박스 등의 형태로 표시하는 영역이다. 이때, 상기 카테고리 영역은 대분류, 중분류, 소분류 등에 의한 복수의 카테고리 영역으로 구분할 수 있다. 또한, 상기 카테고리 영역을 통해 어느 하나의 카테고리가 선택되는 경우, 상기 제어부(170)는 상기 선택된 카테고리에 대응하는 파노라마 영상 정보를 포함하는 목록을 상기 제 5 영역에 표시한다.

또한, 상기 제 3 영역(또는 객체 마커 표시 영역)은 파노라마 영상 정보에 추가될 수 있는 미리 설정된 객체 마커(예를 들어 샵카메라(또는 카메라), 상품, 업체, 이벤트 정보 등 포함)를 표시하는 영역이다. 이때, 특정 객체 마커가 상기 파노라마 영상 정보에 배치된 이후 해당 특정 객체 마커가 선택(또는 터치/더블 클릭 등 포함)되는 경우, 상기 제어부(170)는 상기 제 3 영역의 일측에 상기 선택된 특정 객체 마커에 대한 속성 정보를 설정하기 위한 화면을 추가로 표시한다.

또한, 상기 제 4 영역(또는 설정 영역)은 편집 중인 파노라마 영상 정보에 대해서 미리보기 기능, 삭제 기능, 저장 기능, 취소 기능 등의 메뉴 항목을 표시하는 영역이다.

또한, 상기 제 5 영역(또는 목록/리스트 표시 영역)은 상기 저장부(140)에 저장된 하나 이상의 파노라마 영상 정보에 대한 목록(또는 리스트)을 표시하는 영역이다.

또한, 상기 표시부(150)에 표시되는 하나 이상의 파노라마 영상 정보 중에서 어느 하나의 파노라마 영상 정보가 선택되는 경우, 상기 제어부(170)는 상기 선택된 파노라마 영상 정보를 상기 표시부(150)의 제 1 영역(또는 영상 표시 영역)에 표시한다. 이때, 상기 표시부(150)의 제 1 영역에 표시되는 파노라마 영상 정보는 카메라(미도시)를 통해 촬영된 코드가 포함된 이미지 또는 동영상 외에, 상기 코드와 관련한 하나 이상의 임시 마커가 포함된 상태일 수 있다. 여기서, 상기 임시 마커는 상기 코드와 관련하여 상기 코드 종류를 표시하기 위한 것으로, 샵카메라, 상품, 업체, 이벤트 정보 등을 표시하기 위한 용도이다. 또한, 상기 임시 마커는 샵카메라를 나타내기 위한 샵카메라 임시 마커(예를 들어 'CM'으로 표시), 상품을 나타내기 위한 상품 임시 마커(예를 들어 'PD'로 표시), 업체를 나타내기 위한 업체 임시 마커(예를 들어 'CO'로 표시), 이벤트 정보를 나타내기 위한 이벤트 정보 임시 마커(예를 들어 'EV'로 표시), 프로모션 정보를 나타내기 위한 프로모션 정보 임시 마커(예를 들어 'PR'로 표시) 등을 포함한다. 또한, 상기 임시 마커는 객체 마커와의 구분을 위해서, 실제 객체 마커로 대체(또는 교체/변경)되기 이전까지는 해당 임시 마커의 테두리를 점선 처리하거나, 배경색을 투명하게 설정하거나 또는 특정 색상으로 설정한 상태로 표시한다.

또한, 상기 제어부(170)는 상기 표시부(150)에 표시되는 파노라마 영상 정보의 다른 일측에 360도 파노라마 영상의 상/하/좌/우로 패닝(panning)하기 위한 패닝 버튼 등을 표시할 수 있다.

이때, 상기 제어부(170)는 사용자 선택(또는 사용자 터치/사용자 입력)에 따라 상기 표시부(150)에 표시되는 화면 내의 제 2 영역(또는 카테고리 영역)에 표시되는 상기 하나 이상의 파노라마 영상 정보에 대응하는 카테고리에 대한 정보를 선택하고, 상기 선택된 카테고리 정보에 대응하는 적어도 하나의 파노라마 영상 정보 중에서 선택되는 어느 하나의 파노라마 영상 정보를 상기 표시부(150)의 제 1 영역(또는 영상 표시 영역)에 표시할 수도 있다.

또한, 상기 제어부(170)는 사용자 입력(또는 MR 콘텐츠 제작에 관한 제어/조작 명령/사용자 터치/사용자 선택)에 따라 상기 제 3 영역(또는 객체 마커 표시 영역)에 표시되는 하나 이상의 객체 마커 중에서 어느 하나의 객체 마커가 선택된 후, 상기 제 1 영역(또는 영상 표시 영역) 상의 특정 영역(또는 특정 위치)이 선택되는 경우, 상기 선택된 특정 영역(또는 특정 위치)에 대응하는 코드 종류와 상기 선택된 객체 마커의 종류를 비교한다. 여기서, 상기 특정 영역(또는 특정 위치)에 대응하는 코드 종류(또는 상기 코드 종류에 대응하는 임시 마커의 종류)는 샵카메라, 상품, 업체, 이벤트 정보, 관련 데이터 없음 중 어느 하나일 수 있다. 또한, 상기 객체 마커의 종류는 샵카메라, 상품, 업체, 이벤트 정보 중 어느 하나일 수 있다.

즉, 상기 표시부(150)에 표시되는 하나 이상의 객체 마커 중에서 어느 하나의 객체 마커가 선택된 후, 상기 표시부(150)에 표시되는 파노라마 영상 정보 상의 특정 영역에 상기 선택된 객체 마커를 배치하고자 하는 경우, 상기 제어부(170)는 상기 특정 영역에 대해서 미리 설정된 코드 종류(또는 상기 코드 종류에 대응하는 임시 마커의 종류)와 상기 선택된 객체 마커의 종류가 일치하는지 여부를 확인(또는 판단)한다.

이때, 상기 제어부(170)는 상기 표시부(150)에 대한 드래그 앤 드롭(drag & drop) 기능을 사용하여 상기 제 3 영역(또는 객체 마커 표시 영역)에서의 객체 마커 중 어느 하나의 객체 마커가 선택(또는 드래그)된 후, 드래그 앤 드랍 기능에 의해, 상기 제 1 영역(또는 영상 표시 영역) 상의 특정 영역(또는 특정 위치)에 드랍될 때, 상기 객체 마커가 드랍된 특정 영역(또는 특정 위치)에 대응하는 코드 종류와, 상기 선택된 어느 하나의 객체 마커의 종류를 비교할 수도 있다.

이와 같이, 상기 제어부(170)는 상기 특정 영역(또는 특정 위치)에 배치하고자 하는 객체 마커에 대해서, 상기 객체 마커가 상기 특정 영역에 대응하여 미리 설정된 임시 마커와 동일한 종류(또는 동일/유사 분야/카테고리)의 마커에 해당하는지 여부를 검증한다.

상기 비교 결과(또는 상기 확인/판단 결과), 상기 선택된 특정 영역(또는 특정 위치)에 대응하는 코드 종류가 관련 데이터 없음이거나 또는, 상기 선택된 특정 영역(또는 특정 위치)에 대응하는 코드 종류와 상기 선택된 객체 마커의 종류가 일치하지 않는 경우, 상기 제어부(170)는 객체 마커 설정이 실패하였음을 나타내는 정보를 상기 표시부(150)의 일부 영역에 팝업 형태 등으로 표시하거나 상기 영상 표시 영역에 표시한다.

또한, 상기 표시부(150)에 표시되는 객체 마커 설정이 실패하였음을 나타내는 정보의 일측에 표시되는 미리 설정된 확인 버튼이 선택되는 경우, 상기 제어부(170)는 상기 선택된 객체 마커를 해제(또는 상기 드랍된 객체 마커를 삭제)하고, 상기 선택된 특정 영역(또는 특정 위치)에 대응하는 임시 마커를 계속하여 표시하고, 객체 마커를 선택하기 위한 상태로 전환한다.

또한, 상기 비교 결과(또는 상기 확인/판단 결과), 상기 선택된 특정 영역(또는 특정 위치)에 대응하는 코드 종류와 상기 선택된 객체 마커의 종류가 일치하는 경우, 상기 제어부(170)는 상기 특정 영역(또는 특정 위치)에 상기 객체 마커를 배치한다. 여기서, 상기 제어부(170)는 상기 특정 영역/특정 위치에 대응하여 미리 설정된 다른 위치에 상기 객체 마커를 배치할 수도 있다. 이때, 상기 제어부(170)는 상기 객체 마커의 배치에 따라, 해당 특정 영역(또는 특정 위치)에 위치했던 임시 마커는 삭제한다.

이와 같이, 상기 특정 영역에 배치할 객체 마커에 대한 검증(또는 확인)이 정상적으로 완료된 경우, 상기 제어부(170)는 상기 특정 영역에 대응하여 배치되었던 임시 마커를 상기 객체 마커로 교체(또는 업데이트/전환/변경/적용)한다.

또한, 상기 제어부(170)는 사용자 입력(또는 MR 콘텐츠 제작에 관한 제어/조작 명령/사용자 터치/사용자 선택)에 따라 상기 제 3 영역(또는 객체 마커 표시 영역)에 표시되는 하나 이상의 객체 마커 중에서 어느 하나의 객체 마커가 선택된 후, 상기 제 1 영역(또는 영상 표시 영역) 상의 특정 영역(또는 특정 위치)이 선택되는 경우, 상기 특정 영역(또는 특정 위치)에 상기 객체 마커를 배치한다. 여기서, 상기 제어부(170)는 상기 특정 영역/특정 위치에 대응하여 미리 설정된 다른 위치에 상기 객체 마커를 배치할 수도 있다. 이때, 상기 객체 마커의 종류는 샵카메라, 상품, 업체, 프로모션, 크리에이터(creator) 중 어느 하나일 수 있다. 또한, 상기 객체 마커의 테두리는 실선 처리할 수 있다.

이때, 상기 제어부(170)는 상기 표시부(150)에 대한 드래그 앤 드롭 기능을 사용하여 상기 제 3 영역(또는 객체 마커 표시 영역)에서의 객체 마커 중 어느 하나의 객체 마커가 선택(또는 드래그)된 후, 드래그 앤 드랍 기능에 의해, 상기 제 1 영역(또는 영상 표시 영역) 상의 특정 영역(또는 특정 위치)에 드랍될 때, 상기 객체 마커가 드랍된 특정 영역(또는 특정 위치)에 상기 객체 마커를 배치할 수도 있다.

이와 같이, 상기 파노라마 영상 정보에 임시 마커가 포함된 경우, 상기 제어부(170)는 상기 임시 마커와 동일 종류의 객체 마커로 해당 임시 마커를 교체(또는 배치)할 수 있다.

또한, 상기 파노라마 영상 정보에 임시 마커가 포함되지 않은 경우, 상기 제어부(170)는 해당 파노라마 영상 정보 내의 특정 위치에 사용자 선택에 따른 객체 마커를 배치할 수 있다.

또한, 상기 파노라마 영상 정보에 임시 마커가 포함된 경우에 있어서도, 상기 제어부(170)는 해당 임시 마커가 위치하지 않은 다른 특정 위치에 사용자 선택에 따른 객체 마커를 배치하고, 상기 임시 마커와 동일 종류의 다른 객체 마커로 해당 임시 마커를 교체(또는 배치)할 수도 있다.

이와 같이, 상기 파노라마 영상 정보에 임시 마커의 포함 여부에 따라, 상기 제어부(170)는 임시 마커를 대체하여 해당 임시 마커와 동일 종류의 객체 마커를 배치하거나, 파노라마 영상 정보 내의 특정 위치에 신규로 객체 마커를 배치할 수 있다.

또한, 상기 표시부(150)에 표시되는 제 1 영역(또는 상기 영상 표시 영역)에 위치된(또는 배치된) 객체 마커가 선택(또는 터치/더블 클릭)되는 경우, 상기 제어부(170)는 사용자 입력(또는 사용자 터치/사용자 선택)을 근거로 상기 선택된 객체 마커에 대한 속성 정보를 설정한다. 여기서, 상기 객체 마커에 대한 속성 정보는 객체 마커의 종류에 따라 다를 수 있다.

즉, 상기 객체 마커가 상품인 경우, 상기 제어부(170)는 상품에 대한 이미지, 상품명, 상품 고유 코드, 가격 정보, 상품과 관련한 동영상 링크 주소, 상세 설명 정보, 카탈로그, 외부에 저장된 상세 페이지 주소 링크 등을 설정(또는 편집/수정/삭제/추가)한다.

또한, 상기 객체 마커가 샵카메라인 경우, 상기 제어부(170)는 해당 파노라마 영상과 관련한 하나 이상의 카메라 중에서 적어도 하나의 카메라의 링크 등을 설정(또는 편집/수정/삭제/추가)한다.

또한, 상기 객체 마커가 업체(또는 업체 정보)인 경우, 상기 제어부(170)는 업체명, 업체에 대한 이미지, 업체 로고, 업체 고유 코드, 업체와 관련한 동영상 링크 주소, 업체 설명, 카탈로그, 외부에 저장된 업체 상세 설명 페이지 주소 링크 등을 설정(또는 편집/수정/삭제/추가)한다.

또한, 상기 객체 마커가 이벤트(또는 이벤트 정보)인 경우, 상기 제어부(170)는 이벤트명, 이벤트에 대한 이미지/동영상, 이벤트 고유 코드, 이벤트 설명, 외부에 저장된 이벤트 상세 설명 페이지 주소 링크 등을 설정(또는 편집/수정/삭제/추가)한다.

또한, 상기 객체 마커가 프로모션(또는 프로모션 정보/이벤트/이벤트 정보)인 경우, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 하나 이상의 프로모션 정보를 상기 표시부(150)에 표시한다. 또한, 상기 제어부(170)는 상기 표시부(150)에 표시되는 하나 이상의 프로모션 정보 중에서 사용자 선택에 따른 특정 프로모션(또는 특정 프로모션 정보)을 확인한다. 또한, 상기 제어부(170)는 상기 선택된 프로모션 정보에 포함된 프로모션명, 프로모션에 대한 이미지/동영상, 프로모션 고유 코드, 프로모션 설명, 외부에 저장된 프로모션 상세 설명 페이지 주소 링크 등을 설정(또는 편집/수정/삭제/추가)한다.

또한, 상기 객체 마커가 크리에이터인 경우, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 하나 이상의 크리에이터(또는 쇼핑호스트) 정보를 상기 표시부(150)에 표시한다. 또한, 상기 제어부(170)는 상기 표시부(150)에 표시되는 하나 이상의 크리에이터 정보 중에서 사용자 선택에 따른 특정 크리에이터(또는 특정 크리에이터 정보)를 확인한다. 또한, 상기 제어부(170)는 상기 선택된 크리에이터 정보에 포함된 크리에이터명, 이미지(또는 동영상), 크리에이터 고유 코드, 크리에이터 설명 등을 설정(또는 편집/수정/삭제/추가)한다.

또한, 상기 제어부(170)는 상기 표시부(150)에 표시되는 복수의 객체 마커 사이즈 중에서 사용자 선택에 따른 객체 마커의 크기를 설정하기 위한 특정 객체 마커 사이즈(또는 객체 마커 사이즈 정보)를 설정(또는 확인)한다.

또한, 상기 제어부(170)는 상기 사용자 입력에 따른 객체 마커 선택 및 제 1 영역(또는 영상 표시 영역) 상의 특정 영역에 상기 선택된 객체 마커를 배치하고, 상기 배치된 객체 마커에 대한 속성 정보를 설정하는 과정을 반복 수행하여, 상기 선택된 파노라마 영상 정보에 포함된 모든 임시 마커에 대해서 객체 마커 배치 및 속성 정보 설정 과정을 수행하여 MR 콘텐츠를 편집(또는 제작/저작)한다.

이와 같이, 상기 표시부(150)의 제 1 영역(또는 영상 표시 영역)에 하나 이상의 임시 마커가 포함된 파노라마 영상 정보가 표시되고 있는 상태에서, 상기 제어부(170)는 사용자 입력(또는 사용자 선택/사용자 터치)에 따라 상기 하나 이상의 임시 마커를 대체하여 객체 마커를 배치하고, 상기 배치된 객체 마커에 대한 속성 정보를 설정하는 과정을 상기 파노라마 영상 정보에 포함된 모든 임시 마커에 대해서 수행한다.

이때, 상기 파노라마 영상 정보가 동영상인 상태에서 상기 임시 마커가 상기 객체 마커로 변경(또는 대체/교체/배치)되는 경우, 상기 제어부(170)는 상기 임시 마커에 대응하는 코드의 고유 식별 정보(또는 상기 객체 마커가 배치된 영역/위치와 관련한 코드의 고유 식별 정보)를 근거로, 해당 동영상에 포함된 해당 임시 마커 및 코드와 관련한 정보를 상기 설정되는 객체 마커(또는 객체 마커의 속성 정보를 포함하는 객체 마커)로 한 번에 모두 변경(또는 매칭/연동시킨다/업데이트)한다.

또한, 상기 파노라마 영상 정보가 동영상인 상태에서 상기 객체 마커가 배치되는 경우, 상기 제어부(170)는 상기 객체 마커에 대응하는 코드의 고유 식별 정보(또는 상기 객체 마커가 배치된 영역/위치와 관련한 코드의 고유 식별 정보/상기 객체 마커가 배치된 영역/위치에 대한 정보)를 근거로, 해당 동영상 내에서의 객체 마커가 배치된 영역/위치에 상기 설정되는 객체 마커(또는 객체 마커의 속성 정보를 포함하는 객체 마커)로 한 번에 모두 변경(또는 매칭/연동시킨다/업데이트/적용)한다. 이때, 상기 제어부(170)는 해당 동영상 중에서 상기 객체 마커가 배치되는 위치를 기준으로 미리 설정된 프레임의 개수만큼 전/후 프레임에 상기 설정되는 객체 마커를 추가로 적용할 수도 있다.

또한, 상기 표시부(150)에 상기 객체 마커가 배치되는 경우 또는 상기 표시부(150)에 배치된 객체 마커에 대한 속성 정보의 설정이 완료되는 경우, 상기 제어부(170)는 상기 객체 마커와 관련한 상기 이미지/동영상에 포함된 객체(또는 상기 객체와 관련한 코드, 상기 객체/코드와 관련한 임시 마커)와, 상기 객체 마커를 연동하여 저장한다.

이때, 상기 제어부(170)는 상기 배치된 객체 마커의 외곽선을 상기 이미지/동영상에 포함된 상기 객체 마커와 관련한 임시 마커에 대응하는 객체의 외곽선까지 연장 형성한다. 즉, 상기 제어부(170)는 상기 배치된 객체 마커의 외곽선의 좌표값을 상기 객체 마커와 관련한 임시 마커에 대응하는 객체의 외곽선의 좌표값으로 매칭하여 저장한다.

예를 들어, 상기 제어부(170)는 ABCD 간판에 대응하는 객체와 관련한 임시 마커를 대체하여 이벤트 정보 객체 마커가 배치되고, 상기 배치된 이벤트 정보 객체 마커에 대한 속성 정보 설정이 완료되는 경우, 상기 배치된 이벤트 정보 객체 마커의 외곽선의 좌표값을 상기 ABCD 간판의 외곽선의 좌표값으로 매칭(또는 연장 형성)한다.

이와 같이, 상기 객체 마커의 외곽선을 상기 객체 마커와 관련한 객체의 외곽선으로 연장 형성함에 따라, 추후 해당 객체를 선택할 경우에도, 해당 객체 마커를 선택한 효과를 얻을 수 있다.

또한, 상기 표시부(150)에 표시되는 미리 설정된 미리보기 메뉴(또는 버튼)가 선택되는 경우, 상기 제어부(170)는 상기 파노라마 영상 정보에 배치된 하나 이상의 객체 마커에 대한 결과 화면을 팝업 형태 등으로 상기 표시부(150)에 표시한다.

즉, 상기 표시부(150)에 표시되는 미리 설정된 미리보기 메뉴(또는 버튼)가 선택되는 경우, 상기 제어부(170)는 MR 콘텐츠 저작의 결과 영상(또는 상기 파노라마 영상 정보에 배치된 하나 이상의 객체 마커의 속성 정보에 대한 화면)을 미리보기 형태로 상기 표시부(150)에 표시한다.

또한, 상기 표시부(150)에 표시되는 미리 설정된 저장 메뉴(또는 버튼)가 선택되는 경우, 상기 제어부(170)는 상기 제 1 영역(또는 상기 영상 표시 영역)의 파노라마 영상 정보 상에 배치된 복수의(또는 하나 이상의) 객체 마커를 포함하는 MR 콘텐츠를 생성한다. 이때, 상기 MR 콘텐츠는 상기 파노라마 영상 정보(예를 들어 이미지/동영상), 이미지/동영상에 포함된 객체와 관련한 코드, 코드의 고유 식별 정보, 코드의 종류, 이미지/동영상 내에서의 코드의 위치 정보, 코드의 종류에 대응하는 임시 마커, 이미지/동영상 내에서의 임시 마커의 위치 정보, 이미지/동영상과 관련한 카테고리 정보(예를 들어 대분류, 중분류, 소분류 정보 등 포함), 카메라 번호, 파노라마 영상 파일 번호, 촬영 일자 및 시각 정보, 런 타임 정보, 영상 유형 정보(예를 들어 VOD, 생방송, 미설정 등 포함) 등 포함) 이외에, 코드의 종류에 대응하는 객체 마커, 이미지/동영상 내에 배치된 객체 마커(예를 들어 샵카메라, 상품, 업체, 프로모션, 크리에이터 등 포함), 이미지/동영상 내에서의 객체 마커의 위치 정보, 객체 마커의 속성 정보 등을 더 포함한다.

즉, 상기 표시부(150)에 표시되는 미리 설정된 저장 메뉴가 선택되는 경우, 상기 제어부(170)는 상기 제 1 영역의 파노라마 영상 정보에 포함된 모든 임시 마커에 대해서, 사용자 선택에 따른 객체 마커 배치 및 객체 마커의 속성 정보 설정이 모두 완료된 상태인지 여부를 확인한다.

또한, 상기 확인 결과, 상기 제 1 영역의 파노라마 영상 정보에 포함된 모든 임시 마커에 대해서, 사용자 선택에 따른 객체 마커 배치 및 객체 마커의 속성 정보 설정이 모두 완료되지 않은 상태인 경우, 상기 제어부(170)는 상기 모든 임시 마커 중에서 객체 마커 배치 및/또는 객체 마커의 속성 정보 설정이 완료되지 않은 임시 마커를 상기 표시부(150)에 표시하며, 해당 객체 마커 배치 및/또는 객체 마커의 속성 정보 설정이 완료되지 않은 임시 마커에 대한 객체 마커 배치 및/또는 객체 마커의 속성 정보 설정에 대한 안내 정보를 상기 표시부(150)의 일측에 표시한다.

또한, 확인 결과, 상기 제 1 영역의 파노라마 영상 정보에 포함된 모든 객체 마커에 대해서, 사용자 선택에 따른 객체 마커 배치 및 객체 마커의 속성 정보 설정이 모두 완료되지 않은 상태인 경우, 상기 제어부(170)는 상기 모든 임시 마커 중에서 객체 마커 배치 및/또는 객체 마커의 속성 정보 설정이 완료되지 않은 임시 마커, 상기 신규로 배치된 복수의 객체 마커 중에서 속성 정보 설정이 완료되지 않은 하나 이상의 객체 마커 등을 상기 표시부(150)에 표시하며, 해당 객체 마커 배치 및/또는 객체 마커의 속성 정보 설정이 완료되지 않은 임시 마커에 대한 객체 마커 배치 및/또는 객체 마커의 속성 정보 설정에 대한 안내 정보, 상기 객체 정보의 속성 정보 설정이 완료되지 않은 객체 마커의 속성 정보 설정에 대한 안내 정보 등을 상기 표시부(150)의 일측에 표시한다.

또한, 상기 확인 결과, 상기 제 1 영역의 파노라마 영상 정보에 포함된 모든 임시 마커에 대해서, 사용자 선택에 따른 객체 마커 배치 및 객체 마커의 속성 정보 설정이 모두 완료된 경우, 상기 제어부(170)는 상기 제 1 영역(또는 상기 영상 표시 영역)의 파노라마 영상 정보 상에 배치된 복수의(또는 하나 이상의) 객체 마커를 포함하는 MR 콘텐츠를 생성한다.

또한, 상기 미리 설정된 저장 메뉴가 선택되는 경우, 상기 제어부(170)는 상기 제 1 영역의 파노라마 영상 정보에 포함된(또는 배치된) 모든 객체 마커에 대해서, 해당 객체 마커의 속성 정보 설정이 모두 완료된 상태인지 여부를 확인한다.

또한, 확인 결과, 상기 제 1 영역의 파노라마 영상 정보에 포함된 모든 객체 마커에 대해서, 객체 마커의 속성 정보 설정이 모두 완료되지 않은 상태인 경우, 상기 제어부(170)는 상기 모든 객체 마커 중에서 속성 정보 설정이 완료되지 않은 하나 이상의 객체 마커를 상기 표시부(150)에 표시하며, 상기 객체 정보의 속성 정보 설정이 완료되지 않은 객체 마커의 속성 정보 설정에 대한 안내 정보를 상기 표시부(150)의 일측에 표시한다.

또한, 상기 확인 결과, 상기 제 1 영역의 파노라마 영상 정보에 포함된 모든 객체 마커에 대해서, 객체 마커의 속성 정보 설정이 모두 완료된 경우, 상기 제어부(170)는 상기 제 1 영역(또는 상기 영상 표시 영역)의 파노라마 영상 정보 상에 배치된 복수의(또는 하나 이상의) 객체 마커를 포함하는 MR 콘텐츠를 생성한다.

또한, 상기 파노라마 영상 정보가 동영상이고 상기 동영상 내의 특정 화면(또는 특정 이미지)에서 하나 이상의 객체 마커 배치 및 객체 마커의 속성 정보 설정이 완료된 상태에서 상기 미리 설정된 저장 버튼이 선택되는 경우, 상기 제어부(170)는 상기 객체 마커가 배치된 임시 마커와 관련한 코드의 고유 식별 정보(또는 상기 객체 마커가 배치된 영역/위치와 관련한 코드의 고유 식별 정보)를 근거로, 해당 동영상에 포함된 코드 및 임시 마커와 관련한 정보를 상기 설정되는 객체 마커(또는 객체 마커의 속성 정보를 포함하는 객체 마커)로 모두 변경하여(또는 매칭하여/연동시켜/업데이트) 저장한다.

이때, 상기 설정 영역에 임시 저장 항목이 추가로 포함된 상태인 경우, 상기 파노라마 영상 정보에 포함된 모든 임시 마커에 대해서 상기 객체 마커 배치 및 속성 정보 설정의 과정이 완료되지 않은 상태이더라도, 상기 임시 저장 항목이 선택되는 경우, 상기 제어부(170)는 해당 시점까지 설정된 객체 마커 배치 및 속성 정보, 객체 마커로 설정되지 않고 남아있는 임시 마커에 대한 정보 등을 임시로 상기 저장부(140)에 저장할 수도 있다.

또한, 상기 파노라마 영상 정보가 동영상이고 상기 동영상 내의 특정 화면(또는 특정 이미지)에서 하나 이상의 객체 마커 배치 및 객체 마커의 속성 정보 설정이 완료된 상태에서 상기 미리 설정된 저장 버튼이 선택되는 경우, 상기 제어부(170)는 상기 객체 마커에 대응하는 코드의 고유 식별 정보(또는 상기 객체 마커가 배치된 영역/위치와 관련한 코드의 고유 식별 정보/상기 객체 마커가 배치된 영역/위치에 대한 정보)를 근거로, 해당 동영상 내에서의 객체 마커가 배치된 영역/위치에 상기 설정되는 객체 마커(또는 객체 마커의 속성 정보를 포함하는 객체 마커)로 모두 변경하여(또는 매칭하여/연동시켜/업데이트하여/적용하여) 저장한다. 이때, 상기 제어부(170)는 해당 동영상 중에서 상기 객체 마커가 배치되는 위치를 기준으로 미리 설정된 프레임의 개수만큼 전/후 프레임에 상기 설정되는 객체 마커를 적용하여 저장할 수도 있다.

또한, 상기 표시부(150)에 표시되는 앱 실행 결과 화면에 포함된 전시회 관리 항목이 선택되는 경우, 상기 제어부(170)는 사용자 입력을 근거로 하나 이상의 전시회 관련 정보를 신규 추가한다.

또한, 상기 표시부(150)에 표시되는 상기 전시회 관리 항목이 선택된 상태에서, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 하나 이상의 파노라마 영상 정보 중에서 선택되는 특정 파노라마 영상 정보에 대해서 카테고리 항목, 전시회 항목 등을 신규로 추가(또는 연동/매칭)하거나, 변경(또는 업데이트)하거나, 삭제하는 등의 기능을 수행한다.

또한, 상기 표시부(150)에 표시되는 앱 실행 결과 화면에 포함된 MR 콘텐츠 배포 항목이 선택되는 경우, 상기 제어부(170)는 상기 통신부(130)를 통해 접속되는 하나 이상의 다른 단말, 서버(200), 상기 단말(100)과 관련한 소셜 네트워크 서비스(Social Networking Service: SNS) 등에 상기 저장부(140)에 저장된 MR 콘텐츠 중 적어도 하나의 MR 콘텐츠를 전송(또는 공유)한다.

이와 같이, 상기 제어부(170)는 MR 콘텐츠를 생성하고, 상기 생성된 MR 콘텐츠를 상기 통신부(130)를 통해 상기 서버(200) 또는 다른 단말에 제공한다.

본 발명의 실시예에서 설명하는 정보에 포함된 상기 MR 콘텐츠는 상기 단말(100)에서 생성된 MR 콘텐츠이거나 또는 다른 단말에서 생성된 MR 콘텐츠일 수 있다.

또한, 외부 디바이스(미도시)에서 표시 중인 영상에 포함된 상품(또는 객체)과 관련해서, 상기 제어부(170)의 제어에 의해, 단말(100)의 사용자 입력(또는 사용자 선택/터치)에 따른 키워드를 수신하거나 또는, 단말(100)에 포함된 입력부(110)나 리더기(120)를 통해 상기 외부 디바이스에서 표시 중인 영상에 포함된 상품과 관련한 패턴(또는 코드)을 인식한다. 이때, 상기 수신되는 키워드는 사용자 입력에 따른 문자 형태의 키워드, 사용자 입력에 따른 음성 형태의 키워드 등을 포함한다. 또한, 상기 패턴(또는 코드)은 상기 입력부(110)에 포함된 카메라를 통해 촬영되거나 또는, 상기 리더기(120)를 통해 인식되는 상기 상품과 관련한 2차원 또는 3차원 형태의 QR 코드, 바코드 등을 포함한다.

여기서, 상기 외부 디바이스는 영상을 표시(또는 출력)할 수 있는 텔레비전, 광고판(예를 들어 영상이 표시되는 실내/실외 광고판, 이미지/포스터 형태의 광고판 등 포함), 특정 사용자 계정과 관련한 소셜 네트워크 서비스(예를 들어 인스타그램, 트위터, 페이스북 등 포함)에 대한 화면을 출력하는 디바이스 등을 포함한다. 이때, 상기 외부 디바이스에 표시 중인 영상은 상기 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원 형태의 코드/3차원 형태의 코드 등을 포함하며, 정지 영상 또는 동영상일 수 있다.

즉, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 단말(100)에서 상기 입력부(110)를 통해 상기 사용자 입력에 따른 음성 형태의 상기 상품과 관련한 키워드를 포함하는 음성 정보를 수신하는 경우, 상기 제어부(170)는 상기 수신된 음성 정보에 대해서 음성 인식 기능을 수행하고, 상기 수행된 음성 인식 기능 수행 결과인 상기 키워드를 확인한다. 여기서, 상기 음성 인식 기능은 공지된 다양한 기술을 적용하여 수행될 수 있다.

또한, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 단말(100)에서 상기 입력부(110)를 통해 상기 사용자 입력에 따른 문자 형태의 상기 상품과 관련한 키워드를 포함하는 문자 정보를 수신하는 경우, 상기 제어부(170)는 상기 수신된 문자 정보에 대해서 문자 인식 기능을 수행하고, 상기 수행된 문자 인식 기능 수행 결과인 상기 키워드를 확인한다. 여기서, 상기 문자 인식 기능은 공지된 다양한 기술을 적용하여 수행될 수 있다.

또한, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 입력부(110)를 통해 해당 영상을 촬영하는 경우, 상기 제어부(170)는 상기 촬영된 영상에 대해서 특징점을 추출하는 패턴 인식 기능을 수행하거나 문자 인식 기능을 수행한다. 또한, 상기 제어부(170)는 상기 수행된 패턴 인식 기능 수행 결과인 코드 정보(또는 패턴 정보)를 확인하거나 또는 상기 수행된 문자 인식 기능 수행 결과인 상기 상품과 관련한 키워드를 확인한다. 여기서, 상기 코드 정보(또는 패턴 정보)는 상기 상품과 관련한 고유 코드/식별자, 상기 상품과 관련한 키워드, 상기 상품/키워드와 관련한 피팅 기능 설정 여부 정보(예를 들어 피팅 기능 수행 정보, 피팅 기능 미수행 정보 등 포함), 상기 상품과 관련한 상품 정보, 상기 상품과 관련한 영상 정보, 상기 상품과 관련하여 미리 설정된 홈페이지 주소 등을 포함한다.

또한, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 리더기(120)를 통해 상기 영상에 포함된 태그(예를 들어 바코드, QR 코드 등 포함)를 인식하는 경우, 상기 제어부(170)는 상기 인식된 태그에 포함된 정보(또는 패턴 정보)를 확인한다.

또한, 상기 제어부(170)는 상기 수신된 키워드 또는 상기 인식된 패턴과 관련한 패턴 정보를 근거로 상기 키워드와 관련한 상품 또는 상기 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하는지 여부(또는 사용자에 대한 피팅 기능을 제공하는지 여부)를 판단한다.

즉, 상기 제어부(170)는 상기 수신된 키워드(또는 상기 키워드가 포함된 카테고리)에 대해서 사용자에 대한 피팅 기능이 설정된 상태인지 여부를 판단한다. 이때, 특정 키워드 또는 해당 특정 키워드가 포함된 특정 카테고리에 대해서, 특정 키워드별로 또는 특정 카테고리별로 미리 피팅 가능 여부가 설정된 상태일 수 있다.

또한, 상기 제어부(170)는 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보(또는 피팅 기능 설정 정보)가 포함된 상태인지 여부를 판단한다.

판단 결과, 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하지 않는 경우, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 복수의 영상(또는 MR 콘텐츠) 중에서, 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 영상을 확인한다. 여기서, 상기 영상은 정지 영상, 동영상 등을 포함하며, MR 콘텐츠 등의 형태로 제작된 영상일 수 있으며, 해당 상품과 관련한 2D/3D 객체, 해당 상품과 관련된 마커, 서버(200)에 미리 등록된 광고 영상을 표시하기 위한 광고 마커 등을 포함한다. 이때, 마커는 해당 상품과 관련된 애니메이션 기능을 제공한다. 여기서, 상기 애니메이션 기능은 해당 상품과 관련된 동작, 조립방식, 조립순서, 사용방법, 조리방법 등과 같은 정보를 제공하는 기능일 수 있다.

또한, 상기 제어부(170)는 상기 확인된 영상을 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

즉, 상기 판단 결과, 상기 수신된 키워드(또는 상기 키워드가 포함된 카테고리)에 대해서 사용자에 대한 피팅 기능이 설정되지 않은 경우, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 복수의 영상(또는 복수의 콘텐츠) 중에서 상기 수신된 키워드와 관련한 영상(또는 해당 상품과 관련된 2D/3D 객체를 포함하는 영상)을 확인하고, 상기 확인된 영상을 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

또한, 상기 판단 결과, 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보가 포함되지 않은 경우, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 복수의 영상 중에서 상기 패턴 정보와 관련한 영상을 확인하고, 상기 확인된 영상을 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

본 발명의 실시예에서는 상기 단말(100)에 미리 저장된 복수의 영상 정보 중에서 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 영상을 확인하고, 상기 확인된 영상을 표시하는 것을 설명하고 있으나, 이에 한정되는 것은 아니며, 상기 단말(100)과 상기 서버(200) 간의 연동에 의해 상기 서버(200)에 저장된 복수의 영상 정보 중에서 상기 키워드 또는 상기 패턴 정보와 관련한 영상을 확인하고, 상기 단말(100)은 상기 서버(200)로부터 제공되는 상기 키워드 또는 상기 패턴 정보와 관련한 영상을 출력할 수도 있다.

즉, 상기 제어부(170)는 상기 수신된 키워드, 상기 패턴 정보, 단말(100)의 식별 정보 등을 포함하는 정보 요청 신호를 상기 통신부(110)를 통해 상기 서버(200)에 전송한다.

또한, 상기 제어부(170)는 상기 전송된 정보 요청 신호에 응답하여 상기 서버(200)로부터 전송되는 상기 키워드 또는 상기 패턴 정보에 대응하는 영상(또는 영상 정보)을 상기 통신부(110)를 통해 수신한다.

또한, 상기 제어부(170)는 상기 수신된 상기 키워드 또는 상기 패턴 정보에 대응하는 영상을 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

또한, 상기 표시부(150)의 일측에 표시되는 광고 마커가 선택되는 경우, 상기 제어부(170)는 상기 통신부(110)를 통해 상기 서버(200)와 연동하여 상기 표시부(150)의 화면의 전체 영역 또는 상기 영상이 표시되고 있는 일부 영역에 상기 서버(200)로부터 전송되는 광고 영상을 표시한다.

또한, 상기 표시부(150)의 다른 일측에 표시되는 특정 마커가 선택되는 경우, 상기 제어부(170)는 상기 선택된 특정 마커와 관련한 추가 MR 콘텐츠(또는 애니메이션 정보)를 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

또한, 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보가 포함되지 않은 상태에서, 상기 저장부(140)에 미리 저장된 복수의 영상 중에서 상기 키워드 및/또는 상기 패턴 정보와 관련한 영상이 존재하는 않는 경우, 상기 제어부(170)는 상기 저장부(140)에 미리 설정된(또는 저장된) 카테고리 정보(또는 카테고리 리스트)를 상기 표시부(150)에 표시한다. 여기서, 상기 카테고리 정보는 상기 키워드 및/또는 상기 패턴 정보와 관련한 카테고리 정보일 수도 있다.

이때, 상기 제어부(170)는 실시간으로 확인되는 단말(100)의 위치 정보를 기준으로 미리 설정된 반경 내에 위치하며, 상기 키워드 및/또는 상기 패턴 정보에 대응하는 영상이 존재하지 않는 경우, 상기 저장부(140)에 미리 설정된 카테고리 정보를 상기 표시부(150)에 표시할 수도 있다. 여기서, 상기 제어부(170)는 상기 미리 설정된 반경을 추가로 확장하여 상기 단말(100)의 현재 위치 정보를 기준으로 임의의 반경 내에 위치하며 상기 키워드 및/또는 상기 패턴 턴 정보에 대응하는 영상이 존재하는지 여부를 추가로 판단할 수도 있다. 또한, 상기 반경 확장 기능은 미리 설정된 횟수만큼 반복될 수도 있다.

또한, 상기 제어부(170)는 상기 서버(200)와 연동하여, 상기 표시부(150)에 표시되는 카테고리 정보 중에서 사용자 선택(또는 사용자 터치/입력)에 따라 선택되는 특정 카테고리에 대응하는 적어도 하나의 정보를 상기 표시부(150)에 표시한다.

또한, 상기 표시부(150)에 표시되는 적어도 하나의 정보 중에서 특정 정보가 선택되는 경우, 상기 제어부(170)는 상기 선택된 특정 정보(또는 상기 선택된 특정 정보에 대한 상세 정보)를 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

또한, 상기 판단 결과, 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하는 경우, 상기 제어부(170)는 단말(100)의 사용자를 촬영하도록 상기 입력부(110)에 포함된 카메라를 제어하여, 상기 단말(100)의 사용자(또는 객체)가 포함된 영상 정보를 획득한다. 이때, 상기 단말(100)은 전방 카메라, 후방 카메라 등의 복수의 카메라를 포함하며, 상기 복수의 카메라 중 어느 하나의 카메라를 통해 상기 단말(100)의 사용자를 촬영할 수 있다.

즉, 상기 판단 결과, 상기 수신된 키워드(또는 상기 키워드가 포함된 카테고리)에 대해서 사용자에 대한 피팅 기능이 설정된 상태인 경우, 상기 제어부(170)는 상기 입력부(110)에 포함된 카메라를 통해 상기 단말(100)의 사용자가 포함된 영상 정보를 획득(또는 촬영)한다.

또한, 상기 판단 결과, 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보가 포함된 상태인 경우, 상기 제어부(170)는 상기 입력부(110)에 포함된 카메라를 통해 상기 단말(100)의 사용자가 포함된 영상 정보를 획득(또는 촬영)한다.

또한, 상기 제어부(170)는 상기 획득된(또는 촬영된) 영상 정보에서 사용자(또는 객체)를 인식한다. 여기서, 상기 영상 정보에 포함된 사용자를 인식할 때, 상기 제어부(170)는 사용자의 신체 부위를 각각 인식(또는 판별)할 수 있다. 이때, 영상 정보에서 사용자(또는 객체)를 인식하는 방법은 공지된 다양한 기술을 적용할 수 있다.

본 발명의 실시예에서는, 실시간으로 상기 단말(100)에 포함된 카메라를 통해 해당 단말(100)의 사용자를 포함하는 영상 정보를 획득하는 것을 설명하고 있으나, 이에 한정되는 것은 아니며, 상기 저장부(140)에 미리 저장된 임의의 사용자를 포함하는 복수의 이미지 또는 복수의 아바타 중에서 특정 이미지 또는 특정 아바타를 선택하도록 구성할 수도 있다.

즉, 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보가 포함된 상태에서, 상기 상품을 상기 단말(100)의 사용자가 구매 후 사용하고자 하는 경우에는 앞서 설명된 방식에 따라 상기 카메라를 통해 상기 단말(100)의 사용자가 포함된 영상 정보를 획득할 수 있으며, 상기 상품을 상기 단말(100)의 사용자와 관련한 가족, 친지, 지인 등의 다른 사용자에게 선물하고자 하는 경우, 상기 제어부(170)는 사용자 선택(또는 사용자 터치/입력)에 따라 상기 저장부(140)에 미리 저장된 임의의 사용자를 포함하는 복수의 이미지 중에서 상기 상품을 선물받을 특정 사용자가 포함된 특정 이미지를 선택받을 수 있다.

또한, 상기 제어부(170)는 상기 선택된 특정 이미지에 포함된 특정 사용자(상기 상품을 선물받을 사용자)를 인식한다.

또한, 상기 제어부(170)는 상기 저장부(140)에 미리 저장된 복수의 상품 정보 중에서 상기 수신된 키워드 또는 상기 패턴 정보에 대응하는 상품 정보(또는 상기 키워드와 관련한 상품에 대응하는 상품 정보 또는 상기 패턴 정보와 관련한 상품에 대응하는 상품 정보)를 확인한다. 여기서, 상기 상품 정보는 제조사명/판매사명, 상품명, 상품 고유 코드, 가격 정보, 상품과 관련한 동영상 링크 주소, 상세 설명 정보, 카탈로그, 외부 장치(미도시)에 저장된 상세 페이지 주소 링크, 상품에 대한 2D/3D 형태의 이미지, 사용자 신체 적용 부위 정보(예를 들어 손, 손목, 팔, 목, 얼굴, 머리, 발, 발목, 눈 코, 입, 입술 등 포함) 등을 포함한다.

또한, 상기 제어부(170)는 증강 현실 기술을 이용해서, 상기 사용자가 포함된 영상 정보에 상기 확인된 상품 정보에 대응하는 해당 상품을 적용(또는 혼합)하여 혼합 영상(또는 MR 콘텐츠)을 생성한다.

또한, 상기 제어부(170)는 상기 생성된 혼합 영상을 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

또한, 상기 제어부(170)는 상기 표시부(150)에서 상품이 적용된 사용자가 표시되고 있는 혼합 영상의 일측에 상기 서버(200)에 미리 등록된 광고 영상을 표시하기 위한 광고 마커를 추가로 표시하고, 상기 혼합 영상의 다른 일측에 상기 상품과 관련한 상품 정보를 표시할 수도 있다.

즉, 상기 제어부(170)는 상기 확인된 상품 정보를 근거로 해당 상품을 확인한다. 또한, 상기 제어부(170)는 상기 상품 정보에 포함된 사용자 신체 적용 부위 정보를 근거로 상기 확인된 상품이 적용될 수 있는 사용자의 신체 부위를 확인한다. 또한, 상기 제어부(170)는 상기 사용자를 포함하는 영상 정보 내에서 상기 확인된 상품이 적용될 수 있는 사용자의 신체 부위에 대응하는 위치 정보를 확인(또는 상기 영상 정보에서 인식된 사용자의 신체 부위 중에서 상기 확인된 상품이 적용될 수 있는 사용자의 신체 부위를 확인)한다. 또한, 상기 제어부(170)는 상기 확인된 사용자를 포함하는 영상 정보 내에서 상기 상품이 적용될 수 있는 사용자의 신체 부위에 대응하는 위치 정보에 해당 상품에 대한 2D/3D 형태의 이미지를 적용(또는 해당 상품에 대한 2D/3D 형태의 이미지를 상기 확인된 사용자의 신체 부위에 적용하고/상기 상품에 대한 2D/3D 형태의 이미지를 해당 사용자의 신체 부위에 맞춰 크기를 조정)한다. 또한, 상기 제어부(170)는 상기 사용자의 신체 부위(또는 상기 상품과 관련한 사용자의 특정 신체 부위)에 해당 상품에 대한 2D/3D 형태의 이미지가 적용된 혼합 영상을 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

또한, 상기 표시부(150)의 일측에 표시되는 광고 마커가 선택되는 경우, 상기 제어부(170)는 상기 통신부(110)를 통해 상기 서버(200)와 연동하여 상기 표시부(150)의 화면의 전체 영역 또는 상기 혼합 영상이 표시되고 있는 일부 영역에 상기 서버(200)로부터 전송되는 광고 영상을 표시한다.

또한, 상기 표시부(150)의 다른 일측에 표시되는 상기 상품과 관련한 상품 정보에 포함된 결제 기능 메뉴(또는 결제 기능 버튼) 또는 상기 혼합 영상의 또 다른 일측에 표시되는 결제 기능 메뉴가 선택되는 경우, 상기 제어부(170)는 상기 서버(200) 및/또는 결제 서버(미도시)와 연동하여 상기 상품에 대한 결제 기능을 수행할 수도 있다.

또한, 결제 기능이 정상적으로 수행된 경우, 상기 제어부(170)는 상기 서버(200) 및/또는 상기 결제 서버로부터 제공되는 결제 기능 수행 결과(예를 들어 제조사명/판매사명, 상품명, 상품 고유 코드, 가격 정보, 상품과 관련한 동영상 링크 주소, 상세 설명 정보, 결제 일자 정보, 결제 서버 정보 등 포함)를 상기 표시부(150) 및/또는 상기 음성 출력부(160)를 통해 출력한다.

본 발명의 실시예에서 설명된 상기 단말(100)의 기능들은 상기 서버(200)에서 수행될 수도 있고, 상기 단말(100)은 상기 서버(200)에서 수행된 결과(예를 들어 상기 키워드/패턴 정보가 피팅 기능 수행 정보를 포함할 때, 상기 단말(100)에서 획득된 영상 정보에 상기 키워드/패턴 정보에 대응하는 상품을 적용한 혼합 영상)를 수신하고, 상기 수신된 결과(상기 서버(200)에 의해 생성된 사용자가 포함된 영상 정보에 상기 상품을 적용한 혼합 영상)를 표시할 수도 있다.

상기 서버(200)는 상기 단말(100) 등과 통신한다.

또한, 상기 서버(200)는 해당 서버(200)에 포함된 복수의 카메라(미도시)를 통해 오프라인 또는 가두 매장 상의 하나 이상의 매장, 해당 매장 내의 상품, 전시 상품, POP, 전단, 배너 광고, 게시판 광고, 포스터 광고, 간판, 가격표 등을 포함하는 제 1 영상과 제 2 영상을 촬영한다. 여기서, 상기 매장은 백화점, 쇼핑몰, 아울렛, 음식점, 병원, 빌딩(또는 건축물) 등을 포함한다. 이때, 상기 서버(200)는 상기 제 1 영상과 제 2 영상을 촬영하는 지점의 위치 정보(예를 들어 GPS 위치 정보 등 포함)를 확인하고, 상기 확인된 위치 정보를 상기 촬영한 제 1 영상과 제 2 영상과 매칭(또는 연동)하여 저장한다.

여기서, 상기 POP(Point of Purchase)는 매장을 찾아온 고객에게 즉석에서 상품 및/또는 서비스에 대한 정보를 제공하는 광고를 나타낸다. 또한, 상기 전단(leaflet)(또는 전단 광고/전단지/전단지 광고)은 광고나 선전을 목적으로 배포하는 간단한 인쇄물의 형태를 나타낸다. 또한, 상기 배너 광고(banner advertisement)는 매장의 특정 위치에 설치되어 특정 상품 및/또는 서비스에 대한 정보를 제공하는 광고를 나타낸다. 또한, 상기 포스터 광고(billing)는 광고 선전용으로 제작하여 붙이는 종이를 나타내며, 시각에 호소하는 것이기 때문에 주목을 끌수 있도록 문자, 도형, 문장 등을 고려하여 제작한다. 또한, 상기 간판(signboard)은 매장과 관련한 회사명, 상점명, 상품명, 서비스명 등을 표시하는 판을 나타낸다.

또한, 상기 서버(200)는 상기 촬영된 제 1 영상 및 제 2 영상에 대해 픽셀의 방향성을 기준으로 상기 제 1 영상 및 제 2 영상이 중첩되는 중첩 영역을 획득한다.

또한, 상기 서버(200)는 상기 획득된 중첩 영역을 기준으로 상기 제 1 영상 및 제 2 영상을 합성하여 예비 파노라마 영상을 생성한다. 이때, 상기 서버(200)는 미리 공지된 다양한 합성 방법에 의해서 상기 촬영된 제 1 영상 및 제 2 영상을 합성하여 예비 파노라마 영상을 생성할 수 있다. 이때, 상기 생성되는 예비 파노라마 영상은 상기 예비 파노라마 영상에 포함된 제 1 객체, 상품, 지점(point)(또는 좌표) 등에 대한 위치 정보를 포함(또는 연동/매칭)한다.

즉, 상기 예비 파노라마 영상은 영상뿐만 아니라, 추후 임의의 단말의 위치 정보(예를 들어 구매 단말(100)의 위치 정보 등 포함)에 대응하는 3D 파노라마 영상을 검색(또는 확인)할 수 있도록 해당 예비 파노라마 영상에 포함된 제 1 객체, 상품, 지점 등에 대한 위치 정보를 포함하도록 구성한다.

본 발명의 실시예에서는, 상기 획득된 중첩 영역을 기준으로 상기 제 1 영상 및 제 2 영상을 합성하여 상기 예비 파노라마 영상을 생성하는 것으로 설명하고 있으나, 이에 한정되는 것은 아니며, 상기 서버(200)는 미리 공지된 다양한 합성 방법에 의해서 상기 촬영된 제 1 영상 및 제 2 영상을 합성하여 상기 예비 파노라마 영상을 생성할 수도 있다.

이때, 상기 서버(200)는 별도로 구성되는 복수의 카메라(예를 들어 3D 파노라마 영상을 촬영하기 위한 특수 장치, 특수 차량 등에 구성된 복수의 카메라)를 통해서 촬영된 제 1 영상 및 제 2 영상을 근거로 상기 예비 파노라마 영상을 생성할 수도 있다.

또한, 상기 서버(200)는 상기 예비 파노라마 영상 내에 포함된 하나 이상의 제 1 객체를 각각 인식한다. 여기서, 상기 제 1 객체는 상기 오프라인 상에 위치하는 각각의 매장일 수도 있고, 상기 오프라인 상에 위치하거나 각 매장 내에 위치하는 POP(Point of Purchase), 전단(Leaflet), 배너 광고(Banner), 포스터 광고(Poster), 간판(Signboard), 가격표(Price Tag) 등을 포함할 수 있다. 이때, 본 발명에서의 상기 제 1 객체는 각 매장에서 제공하는 상품 및 서비스를 제외하거나 또는 포함한 상태일 수 있다. 또한, 상기 POP, 전단, 배너 광고, 포스터 광고, 간판 등은 할인 행사 코드를 나타내며, 상기 가격표는 상품 코드를 나타낼 수 있다.

즉, 상기 서버(200)는 상기 예비 파노라마 영상 내에 포함된 하나 이상의 매장을 각각 인식하거나, 상기 예비 파노라마 영상 내에 포함된 POP, 전단, 배너 광고, 포스터 광고, 간판, 가격표 등을 각각 인식한다.

또한, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체에 각각 대응하는 판매 광고, 확대 이미지, 동영상(또는 홍보용 동영상), 쿠폰(예를 들어 할인 쿠폰, 무료 쿠폰 등 포함), 기부, 댓글 등의 정보를 제공하기 위한 객체 및/또는 화면 전환을 위한 다른 추가 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다.

즉, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체에 대응하는 판매 광고와 관련한 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다. 여기서, 상기 판매 광고는 POP, 전단, 배너 광고, 포스터 광고, 간판, 가격표 등을 포함한다.

또한, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체에 대응하는 확대 이미지를 제공하기 위한 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다. 여기서, 상기 확대 이미지는 냉장고, 세탁기 등의 상품에 대한 내부 사진(또는 상품과 관련한 추가 이미지)이거나 신선 식품의 확대 사진일 수 있으며, 복수인 경우 슬라이드 방식으로 순서별로 정렬된 상태일 수 있다.

또한, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체에 대응하는 동영상(또는 홍보용 동영상)을 제공하기 위한 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다. 여기서, 상기 동영상(또는 홍보용 동영상)은 해당 상품 및/또는 서비스와 관련한 영상, 상품의 사용법과 관련한 동영상(예를 들어 화장품의 사용법에 대한 동영상, 의류 착용 예시에 대한 동영상, 장난감 조립 방법에 대한 동영상, 공구 사용법에 대한 동영상, 조리 방법에 대한 동영상 등 포함) 등을 포함하며, 문자 및/또는 음성 메시지를 포함할 수도 있다.

또한, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체에 대응하는 쿠폰을 제공하기 위한 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다. 여기서, 상기 쿠폰은 해당 상품 구매시 할인이 적용되는 쿠폰이며, 복수인 경우 슬라이드 방식으로 순서별로 정렬된 상태이며, 사용자 선택에 따라 상기 구매 단말(100)에 다운로드 될 수 있다.

또한, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체와 관련한 상품 및/또는 서비스 구매 시 제공되는 기부 정보를 제공하기 위한 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다. 여기서, 상기 기부는 해당되는 상품 구매시 적용되는 기부 정보에 대한 상세 안내 정보를 표시하며, 복수의 경우 슬라이드 방식으로 정렬된 상태일 수 있다.

또한, 상기 서버(200)는 상기 인식된 하나 이상의 제 1 객체와 관련한 상품 및/또는 서비스에 대한 댓글 정보를 제공하기 위한 객체를 상기 예비 파노라마 영상 내의 해당 제 1 객체 상의 일부 영역에 추가(또는 삽입)하거나 또는 상기 제 1 객체로부터 미리 설정된 거리 이내에 인접하게 추가(또는 삽입)하여 3D 파노라마 영상을 생성한다. 여기서, 상기 댓글은 해당 상품 및/또는 서비스를 구매한 다른 단말에서 등록한 해당되는 상품 및/또는 서비스와 관련한 정보(예를 들어 구매 소감, 이용 후기 등 포함)를 포함한다.

이때, 상기 예비 파노라마 영상 정보에 추가되는 객체 및/또는 다른 추가 객체는 해당 객체(또는 상기 다른 추가 객체)의 확인이 용이하도록 미리 설정된 주기로 해당 객체에 대해서 불빛(또는 특정 색상)이 최대 상태에서 점차 소등되고 다시 소등 상태에서 점차 최대 상태로 반복적으로 변화하는 효과, 불빛의 깜빡임 효과, 네온 사인 효과, 불빛의 색상이 미리 설정된 주기로 서로 다른 색상으로 변하는 효과 등이 적용된 상태일 수 있다.

이와 같이, 예비 파노라마 영상 정보에 추가되는 객체 및/또는 다른 추가 객체에 대해서 다양한 효과를 적용하여, 3D 파노라마 영상 정보 내에서의 식별이 용이하도록 구성할 수 있다.

또한, 상기 생성되는 3D 파노라마 영상은 상기 3D 파노라마 영상에 포함된 제 1 객체, 상품, 지점(또는 좌표) 등에 대한 위치 정보를 포함(또는 연동/매칭)한다.

또한, 상기 서버(200)는 언어별 특성을 고려하여 언어별로 상기 3D 파노라마 영상을 생성할 수도 있다.

본 발명의 실시예에 따라 생성되는 3D 파노라마 영상은 상기 3D 파노라마 영상에 포함된 제 1 객체, 상품, 지점(또는 좌표) 등에 대한 위치 정보를 포함(또는 연동/매칭)한다.

즉, 상기 3D 파노라마 영상은 영상뿐만 아니라, 추후 임의의 단말(예를 들어 상기 구매 단말(100)의 위치 정보 등 포함)에 대응하는 3D 파노라마 영상을 검색(또는 확인)할 수 있도록 해당 3D 파노라마 영상에 포함된 제 1 객체, 상품, 지점 등에 대한 위치 정보를 포함하도록 구성한다.

이에 따라, 상기 임의의 단말에서 위치 정보에 대응하는 3D 파노라마 영상을 요청하는 경우, 상기 서버(200)는 미리 저장된 하나 이상의 객체, 상품, 지점 등의 위치 정보를 포함하는 복수의 3D 파노라마 영상 정보 중에서 상기 임의의 단말로부터 요청된 특정 위치 정보에 대응하는 3D 파노라마 영상 정보를 확인하고, 상기 확인된 3D 파노라마 영상 정보를 해당 단말에 제공할 수 있다.

예를 들어, 상기 서버(200)는 복수의 객체 및/또는 상품의 위치 정보와 연동된 3D 파노라마 영상 정보 중에서, 상기 임의의 단말의 위치 정보인 서울특별시 강남구 역삼로 123-45에 대응하는 객체가 포함된 3D 파노라마 영상 정보를 확인할 수 있다.

또한, 상기 복수의 객체 및/또는 상품의 위치 정보와 연동된 3D 파노라마 영상 정보 중에서, 상기 임의의 단말의 위치 정보인 서울특별시 강남구 역삼로 123-45에 대응하는 객체 및/또는 상품이 없는 경우, 상기 서버(200)는 상기 임의의 단말의 위치 정보와 유사한(예를 들어 서울특별시 강남구 역삼로 123-44 또는 123-46 등 포함) 객체 및/또는 상품이 포함된 3D 파노라마 영상 정보를 확인할 수도 있다.

또한, 상기 복수의 3D 파노라마 영상 정보가 미리 설정된 간격으로 구성된 GPS 정보와 매칭된 경우, 상기 서버(200)는 상기 임의의 단말의 위치 정보와 상기 미리 설정된 간격으로 구성된 GPS 정보를 근거로 상기 임의의 단말의 위치 정보에 대응하는(또는 유사한/관련한) 하나의 3D 파노라마 영상 정보를 확인할 수도 있다.

이외에도, 상기 서버(200)에 미리 저장된 복수의 3D 파노라마 영상 정보 중에서 특정 위치 정보에 대응하는 3D 파노라마 영상 정보를 확인하는 방법은 지도 검색 서비스에서 활용되는 기술들을 적용할 수도 있다.

이와 같이, 본 발명에 의해 생성되는 3D 파노라마 영상 정보는 위치 정보와 연동된 상태로, 임의의 단말로부터 전송되는 특정 위치 정보에 대해서, 상기 서버(200)에 미리 저장된 복수의 3D 파노라마 영상 정보 중에서 상기 특정 위치 정보에 대응하는 3D 파노라마 영상 정보를 확인하고, 상기 확인된 3D 파노라마 영상 정보를 상기 특정 위치 정보를 전송한 해당 단말에 제공할 수 있다.

또한, 상기 서버(200)는 미리 설정된 주기(예를 들어 10초, 1분 등 포함)로 앞선 단계들을 반복적으로 수행하여, 새로운 3D 파노라마 영상을 생성한다.

즉, 상기 서버(200)는 미리 설정된 주기(예를 들어 10초, 1분 등 포함)로 상기 복수의 카메라를 통해 실시간으로 촬영되는 영상들을 합성하여 새로운 예비 파노라마 영상을 생성하고, 상기 생성된 새로운 예비 파노라마 영상 내에 포함된 하나 이상의 제 1 객체를 인식하고, 상기 인식된 하나 이상의 제 1 객체에 대응하는 제 1 코드를 상기 새로운 예비 파노라마 영상 내에 추가하여 상기 새로운 3D 파노라마 영상을 생성한다.

이때, 상기 생성된 새로운 예비 파노라마 영상 내에서 사람이 인식되는 경우, 상기 서버(200)는 상기 새로운 예비 파노라마 영상 내에서의 사람의 윤곽선을 획득(또는 추출)하고, 상기 새로운 예비 파노라마 영상 내에서 상기 인식된 사람을 제거하고, 상기 사람이 제거된 새로운 예비 파노라마 영상 내에 상기 인식된 하나 이상의 제 1 객체에 대응하는 제 1 코드 및 상기 획득된(또는 추출된) 사람의 윤곽선을 추가하여 상기 새로운 3D 파노라마 영상을 생성한다. 여기서, 상기 서버(200)는 상기 새로운 예비 파노라마 영상 내에서의 사람의 위치에 상기 획득된 사람의 윤곽선을 추가한다.

이와 같이, 상기 생성되는 새로운 예비 파노라마 영상 내에 사람이 포함된 경우, 상기 서버(200)는 개인 정보 보호를 위해서 상기 새로운 예비 파노라마 영상 내에 포함된 사람에 대해서 해당 사람의 윤곽선만을 유지하고, 사람의 윤곽선 내부 영역은 빈 공간으로 처리하거나 직전 단계에서 생성된 직전 예비 파노라마 영상의 화면으로 대체하도록 처리할 수 있다.

또한, 상기 서버(200)는 상기 생성된 새로운 3D 파노라마 영상과 앞서 생성된 3D 파노라마 영상(또는 상기 생성된 새로운 3D 파노라마 영상 정보와 앞서 생성된 3D 파노라마 영상 정보) 간의 차이를 확인한다.

또한, 상기 서버(200)는 상기 확인된 차이를 상기 앞서 생성된 3D 파노라마 영상에 실시간으로 보상하여 최신의 3D 파노라마 영상을 유지한다.

즉, 상기 생성된 새로운 3D 파노라마 영상과 상기 앞서 생성된 3D 파노라마 영상이 동일한 경우(또는 차이가 없는 경우), 상기 서버(200)는 상기 앞서 생성된 3D 파노라마 영상에 포함된 하나 이상의 제 1 객체 및/또는 상품의 상태에 변화가 없는 것으로 판단하여, 앞서 생성된 3D 파노라마 영상을 최신의 3D 파노라마 영상으로 그대로 유지한다.

또한, 상기 생성된 새로운 3D 파노라마 영상과 상기 앞서 생성된 3D 파노라마 영상에 차이가 있는 경우, 상기 서버(200)는 변화가 있는 부분(또는 상기 확인된 차이)을 상기 앞서 생성된 3D 파노라마 영상에 보상(또는 반영)하여, 비교 대상 3D 파노라마 영상 간의 차이가 보상된 3D 파노라마 영상을 최신의 새로운 3D 파노라마 영상으로 생성한다.

또한, 상기 새로운 3D 파노라마 영상에 사람이 포함된 경우(또는 상기 새로운 3D 파노라마 영상에서 사람이 인식된 경우), 상기 서버(200)는 상기 앞서 생성된 3D 파노라마 영상에 상기 새로운 3D 파노라마 영상 내에 포함된 사람의 윤곽선을 추가하여, 상기 윤곽선 형태의 사람이 포함된 3D 파노라마 영상을 최신의 새로운 3D 파노라마 영상으로 생성할 수도 있다.

이와 같이, 상기 생성되는 새로운 3D 파노라마 영상 내에 사람이 포함된 경우, 상기 서버(200)는 개인 정보 보호를 위해서 상기 새로운 3D 파노라마 영상 내에 포함된 사람에 대해서 해당 사람의 윤곽선만을 유지하고, 사람의 윤곽선 내부 영역은 빈 공간으로 처리하거나 직전 단계에서 생성된 직전 3D 파노라마 영상의 화면으로 대체하도록 처리할 수 있다.

또한, 상기 새로 생성되는 새로운 3D 파노라마 영상 내에 사람이 포함된 경우, 상기 서버(200)는 상기 새로운 3D 파노라마 영상 내에 포함된 사람을 윤곽선 처리하고 해당 윤곽선 처리된 사람 내부 영역은 직전 단계에서 생성된 직전 3D 파노라마 영상의 화면을 표시함에 따라, 해당 사람에 의해 3D 파노라마 영상 내의 객체, 상품 등이 가려져서 보이지 않게 되는 경우를 방지할 수 있다.

이때, 상기 서버(200)는 상기 앞서 생성된 3D 파노라마 영상에서 차이가 있는 부분만을 보상할 수도 있고, 상기 앞서 생성된 3D 파노라마 영상 대신 상기 생성된 새로운 3D 파노라마 영상을 최신의 새로운 3D 파노라마 영상으로 대체할 수도 있다.

이와 같이, 상기 서버(200)는 백그라운드 모델링을 통해 실시간으로 최신의 3D 파노라마 영상을 유지할 수 있다.

또한, 상기 서버(200)는 상기 단말(100)로부터 전송되는 상기 키워드, 상기 패턴 정보, 상기 단말(100)의 식별 정보 등을 포함하는 정보 요청 신호를 수신한다.

또한, 상기 서버(200)는 상기 서버(200)에 미리 등록된(또는 저장된) 복수의 정보 중에서 상기 키워드 및/또는 상기 패턴 정보에 대응하는 영상(또는 영상 정보)을 확인한다.

또한, 상기 서버(200)는 상기 확인된 키워드 및/또는 상기 패턴 정보에 대응하는 영상(또는 영상 정보)를 상기 단말(100)에 전송한다.

이와 같이, 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시할 수 있다.

또한, 이와 같이, 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정되지 않은 경우, 해당 키워드와 관련한 상품 정보를 표시할 수 있다.

이하에서는, 본 발명에 따른 단말이 적용된 콘텐츠 제공 시스템의 제어 방법을 도 1 내지 도 4를 참조하여 상세히 설명한다.

도 3은 본 발명의 실시예에 따른 단말이 적용된 콘텐츠 제공 시스템의 제어 방법을 나타낸 흐름도이다.

먼저, 단말(100)은 외부 디바이스(미도시)에서 표시 중인 영상에 포함된 상품(또는 객체)과 관련해서, 단말(100)의 사용자 입력(또는 사용자 선택/터치)에 따른 키워드를 수신하거나 또는, 단말(100)에 포함된 입력부(110)나 리더기(120)를 통해 상기 외부 디바이스에서 표시 중인 영상에 포함된 상품과 관련한 패턴(또는 코드)을 인식한다. 여기서, 상기 외부 디바이스는 영상을 표시(또는 출력)할 수 있는 텔레비전, 광고판(예를 들어 영상이 표시되는 실내/실외 광고판, 이미지/포스터 형태의 광고판 등 포함), 특정 사용자 계정과 관련한 소셜 네트워크 서비스(예를 들어 인스타그램, 트위터, 페이스북 등 포함)에 대한 화면을 출력하는 디바이스 등을 포함한다. 이때, 상기 외부 디바이스에 표시 중인 영상은 상기 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원 형태의 코드/3차원 형태의 코드 등을 포함하며, 정지 영상 또는 동영상일 수 있다. 또한, 상기 수신되는 키워드는 사용자 입력에 따른 문자 형태의 키워드, 사용자 입력에 따른 음성 형태의 키워드 등을 포함한다. 또한, 상기 패턴(또는 코드)은 상기 입력부(110)에 포함된 카메라를 통해 촬영되거나 또는, 상기 리더기(120)를 통해 인식되는 상기 상품과 관련한 2차원 또는 3차원 형태의 QR 코드, 바코드 등을 포함한다.

즉, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 단말(100)에서 상기 사용자 입력에 따른 음성 형태의 상기 상품과 관련한 키워드를 포함하는 음성 정보를 수신하는 경우, 상기 단말(100)은 상기 수신된 음성 정보에 대해서 음성 인식 기능을 수행하고, 상기 수행된 음성 인식 기능 수행 결과인 상기 키워드를 확인한다.

또한, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 단말(100)에서 상기 사용자 입력에 따른 문자 형태의 상기 상품과 관련한 키워드를 포함하는 문자 정보를 수신하는 경우, 상기 단말(100)은 상기 수신된 문자 정보에 대해서 문자 인식 기능을 수행하고, 상기 수행된 문자 인식 기능 수행 결과인 상기 키워드를 확인한다.

또한, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 단말(100)에 포함된 입력부(110)를 통해 해당 영상을 촬영하는 경우, 상기 단말(100)은 상기 촬영된 영상에 대해서 특징점을 추출하는 패턴 인식 기능을 수행하거나 문자 인식 기능을 수행하고, 상기 수행된 패턴 인식 기능 수행 결과인 코드 정보(또는 패턴 정보)를 확인하거나 또는 상기 수행된 문자 인식 기능 수행 결과인 상기 상품과 관련한 키워드를 확인한다. 여기서, 상기 코드 정보(또는 패턴 정보)는 상기 상품과 관련한 고유 코드/식별자, 상기 상품과 관련한 키워드, 상기 상품/키워드와 관련한 피팅 기능 설정 여부 정보(예를 들어 피팅 기능 수행 정보, 피팅 기능 미수행 정보 등 포함), 상기 상품과 관련한 상품 정보, 상기 상품과 관련한 영상 정보, 상기 상품과 관련하여 미리 설정된 홈페이지 주소 등을 포함한다.

또한, 상기 외부 디바이스에서 상품, 해당 상품과 관련한 키워드, 해당 상품과 관련한 2차원/3차원 형태의 코드 등을 포함하는 영상이 표시되고 있는 상태에서, 상기 단말(100)에서 상기 단말(100)에 포함된 리더기(120)를 통해 상기 영상에 포함된 태그(예를 들어 바코드, QR 코드 등 포함)를 인식하는 경우, 상기 단말(100)은 상기 인식된 태그에 포함된 정보(또는 패턴 정보)를 확인한다.

일 예로, 텔레비전을 통해 특정 홈쇼핑 채널의 모자, 상기 모자와 관련한 키워드(2018년 ABC사의 최신 신상품 AOA1234 모델), 상기 모자와 관련한 2차원 형태의 QR 코드 등을 포함하는 제 1 영상이 표시되고 있는 상태에서, 제 1 단말(100)에서 제 1 단말의 사용자 입력에 따른 음성 형태의 제 1 키워드(예를 들어 AOA1234 모델)를 포함하는 음성 정보를 수신할 때, 상기 제 1 단말은 상기 수신된 음성 정보에 대해서 음성 인식 기능을 수행하고, 상기 음성 인식 기능 수행 결과에 따라 상기 제 1 키워드(예를 들어 AOA1234 모델)를 추출(또는 확인)한다.

다른 일 예로, 옥외 광고판을 통해 AAA 자동차, 상기 AAA 자동차와 관련한 키워드(2018년 BBB사의 최신 신상품 BCB123 모델), 상기 AAA 자동차와 관련한 2차원 형태의 QR 코드 등을 포함하는 제 2 영상이 표시되고 있는 상태에서, 제 2 단말(100)에서 제 2 단말의 사용자 입력에 따른 문자 형태의 제 2 키워드(예를 들어 BBB사의 최신 신상품 BCB123 모델)를 포함하는 문자 정보를 수신할 때, 상기 제 2 단말은 상기 수신된 문자 정보에 대해 문자 인식 기능을 수행하고, 상기 문자 인식 기능 수행 결과에 따라 상기 제 2 키워드(예를 들어 BBB사의 최신 신상품 BCB123 모델)를 추출(또는 확인)한다.

또 다른 일 예로, 다른 단말을 통해 다른 사용자의 인스타그램 계정 내의 안경 이미지, 상기 안경 이미지와 관련한 제 3 키워드(2018년 CCC사의 최신 신상품 CC9876 모델), 상기 안경과 관련한 2차원 형태의 제 3 바코드 등을 포함하는 제 3 영상이 표시되고 있는 상태에서, 제 3 단말(100)에 포함된 입력부(110)를 통해 해당 제 3 바코드를 포함하는 해당 제 3 영상을 촬영할 때, 상기 제 3 단말은 상기 촬영된 제 3 영상 내에 포함된 제 3 바코드를 인식하고, 상기 인식된 제 3 바코드에 포함된 제 3 패턴 정보(예를 들어 피팅 기능 포함, 상기 제 3 키워드에 대응하는 CCC사의 최신 신상품 CC9876 모델 등 포함)를 확인한다.

또 다른 일 예로, 텔레비전을 통해 다른 특정 홈쇼핑 채널의 아카시아 꿀, 상기 아카시아 꿀과 관련한 제 4 키워드(2018년 채집한 ACA2018 모델), 상기 아카시아 꿀과 관련한 2차원 형태의 QR 코드 등을 포함하는 제 4 영상이 표시되고 있는 상태에서, 제 4 단말(100)에서 상기 제 4 단말에 포함된 리더기(120)를 통해 상기 제 4 영상에 포함된 QR 코드를 인식할 때, 상기 제 4 단말은 상기 인식된 QR 코드에 포함된 제 4 패턴 정보(예를 들어 피팅 기능 미포함, 상기 제 4 키워드에 대응하는 2018년 채집한 ACA2018 모델 등 포함)를 확인한다(S310).

이후, 상기 단말(100)은 상기 수신된 키워드 또는 상기 인식된 패턴과 관련한 패턴 정보를 근거로 상기 키워드와 관련한 상품 또는 상기 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하는지 여부(또는 사용자에 대한 피팅 기능을 제공하는지 여부)를 판단한다.

즉, 상기 단말(100)은 상기 수신된 키워드(또는 상기 키워드가 포함된 카테고리)에 대해서 사용자에 대한 피팅 기능이 설정된 상태인지 여부를 판단한다. 이때, 특정 키워드 또는 해당 특정 키워드가 포함된 특정 카테고리에 대해서, 특정 키워드별로 또는 특정 카테고리별로 미리 피팅 가능 여부가 설정된 상태일 수 있다.

또한, 상기 단말(100)은 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보(또는 피팅 기능 설정 정보)가 포함된 상태인지 여부를 판단한다.

일 예로, 상기 제 1 단말은 상기 홈쇼핑 채널에서 방송 중인 모자와 관련한 상기 제 1 키워드(예를 들어 AOA1234 모델)가 사용자에 대한 피팅 기능이 설정된 상태인지 여부를 판단한다.

다른 일 예로, 상기 제 2 단말은 상기 옥외 광고판에서 광고 중인 AAA 자동차와 관련한 상기 제 2 키워드(예를 들어 BBB사의 최신 신상품 BCB123 모델)가 사용자에 대한 피팅 기능이 설정된 상태인지 여부를 판단한다.

또 다른 일 예로, 상기 제 3 단말은 상기 다른 사용자의 인스타그램 계정 내에서 표시되고 있는 안경과 관련한 상기 제 3 패턴 정보(예를 들어 피팅 기능 수행 정보 포함, 상기 제 3 키워드에 대응하는 CCC사의 최신 신상품 CC9876 모델 등 포함)에 사용자에 대한 피팅 기능 수행 정보가 포함된 상태인지 여부를 판단한다.

또 다른 일 예로, 상기 제 4 단말은 상기 다른 특정 홈쇼핑 채널에서 방송 중인 아카시아 꿀과 관련한 제 4 패턴 정보(예를 들어 피팅 기능 미수행 정보 포함, 상기 제 4 키워드에 대응하는 2018년 채집한 ACA2018 모델 등 포함)에 사용자에 대한 피팅 기능 수행 정보가 포함된 상태인지 여부를 판단한다(S320).

판단 결과, 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하지 않는 경우, 상기 단말(100)은 상기 단말(100)에 미리 저장된 복수의 영상(또는 MR 콘텐츠) 중에서, 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 영상(또는 해당 상품과 관련된 2D/3D 객체를 포함하는 영상)을 확인하고, 상기 확인된 영상을 출력(또는 표시)한다. 여기서, 상기 영상은 정지 영상, 동영상 등을 포함하며, MR 콘텐츠 등의 형태로 제작된 영상일 수 있으며, 해당 상품과 관련한 2D/3D 객체, 해당 상품과 관련된 마커, 서버(200)에 미리 등록된 광고 영상을 표시하기 위한 광고 마커 등을 포함한다. 이때, 마커는 해당 상품과 관련된 애니메이션 기능을 제공한다. 여기서, 상기 애니메이션 기능은 해당 상품과 관련된 동작, 조립방식, 조립순서, 사용방법, 조리방법 등과 같은 정보를 제공하는 기능일 수 있다.

즉, 상기 판단 결과, 상기 수신된 키워드(또는 상기 키워드가 포함된 카테고리)에 대해서 사용자에 대한 피팅 기능이 설정되지 않은 경우, 상기 단말(100)은 상기 단말(100)에 미리 저장된 복수의 영상 중에서 상기 수신된 키워드와 관련한 영상을 확인하고, 상기 확인된 영상을 출력한다.

또한, 상기 판단 결과, 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보가 포함되지 않은 경우, 상기 단말(100)은 상기 단말(100)에 미리 저장된 복수의 영상 중에서 상기 패턴 정보와 관련한 영상을 확인하고, 상기 확인된 영상을 출력한다.

일 예로, 상기 판단 결과, 상기 옥외 광고판에서 광고 중인 AAA 자동차와 관련한 상기 제 2 키워드(예를 들어 BBB사의 최신 신상품 BCB123 모델)가 사용자에 대한 피팅 기능이 설정되지 않은 상태일 때, 상기 제 2 단말은 상기 제 2 단말에 미리 저장된 복수의 MR 콘텐츠 중에서 상기 제 2 키워드(예를 들어 BBB사의 최신 신상품 BCB123 모델)와 관련한 제 2 MR 콘텐츠를 확인하고, 상기 확인된 제 2 MR 콘텐츠를 출력한다.

다른 일 예로, 상기 판단 결과, 상기 다른 특정 홈쇼핑 채널에서 방송 중인 아카시아 꿀과 관련한 제 4 패턴 정보(예를 들어 피팅 기능 미수행 정보 포함, 상기 제 4 키워드에 대응하는 2018년 채집한 ACA2018 모델 등 포함)에 사용자에 대한 피팅 기능 수행 정보가 포함되지 않은 상태일 때, 상기 제 4 단말은 상기 제 4 단말에 미리 저장된 복수의 영상 중에서 상기 아카시아 꿀과 관련한 제 4 패턴 정보(예를 들어 피팅 기능 미포함, 상기 제 4 키워드에 대응하는 2018년 채집한 ACA2018 모델 등 포함)와 관련한 제 4 영상을 확인하고, 상기 확인된 제 4 영상을 출력한다(S330).

또한, 상기 판단 결과, 상기 수신된 키워드 또는 상기 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하는 경우, 상기 단말(100)은 상기 입력부(110)에 포함된 카메라를 통해 단말(100)의 사용자를 촬영하여, 상기 단말(100)의 사용자(또는 객체)가 포함된 영상 정보를 획득한다. 이때, 상기 단말(100)은 전방 카메라, 후방 카메라 등의 복수의 카메라를 포함하며, 상기 복수의 카메라 중 어느 하나의 카메라를 통해 상기 단말(100)의 사용자를 촬영할 수 있다.

즉, 상기 판단 결과, 상기 수신된 키워드(또는 상기 키워드가 포함된 카테고리)에 대해서 사용자에 대한 피팅 기능이 설정된 상태인 경우, 상기 단말(100)은 상기 입력부(110)에 포함된 카메라를 통해 상기 단말(100)의 사용자가 포함된 영상 정보를 획득(또는 촬영)한다.

또한, 상기 판단 결과, 상기 패턴 정보에 사용자에 대한 피팅 기능 수행 정보가 포함된 상태인 경우, 상기 단말(100)은 상기 입력부(110)에 포함된 카메라를 통해 상기 단말(100)의 사용자가 포함된 영상 정보를 획득(또는 촬영)한다.

또한, 상기 단말(100)은 상기 획득된(또는 촬영된) 영상 정보에서 사용자(또는 객체)를 인식한다. 여기서, 상기 영상 정보에 포함된 사용자를 인식할 때, 상기 제어부(170)는 사용자의 신체 부위를 각각 인식(또는 판별)할 수 있다.

일 예로, 상기 판단 결과, 상기 홈쇼핑 채널에서 방송 중인 모자와 관련한 상기 제 1 키워드(예를 들어 AOA1234 모델)가 사용자에 대한 피팅 기능이 설정된 상태일 때, 상기 제 1 단말은 상기 제 1 단말의 전방 카메라(또는 제 1 단말의 표시부와 동일면상에 위치한 카메라)를 통해 제 1 단말의 제 1 사용자가 포함된 제 1 영상 정보를 획득하고, 상기 획득된 제 1 영상 정보에 포함된 제 1 사용자를 인식한다.

다른 일 예로, 상기 판단 결과, 상기 다른 사용자의 인스타그램 계정 내에서 표시되고 있는 안경과 관련한 상기 제 3 패턴 정보(예를 들어 피팅 기능 수행 정보 포함, 상기 제 3 키워드에 대응하는 CCC사의 최신 신상품 CC9876 모델 등 포함)에 사용자에 대한 피팅 기능 수행 정보가 포함된 상태일 때, 상기 제 3 단말은 상기 제 3 단말의 전방 카메라를 통해 제 3 단말의 제 3 사용자가 포함된 제 3 영상 정보를 획득하고, 상기 획득된 제 3 영상 정보에 포함된 제 3 사용자를 인식한다(S340).

이후, 상기 단말(100)은 상기 단말(100)에 미리 저장된 복수의 상품 정보 중에서 상기 수신된 키워드 또는 상기 패턴 정보에 대응하는 상품 정보를 확인한다. 여기서, 상기 상품 정보는 제조사명/판매사명, 상품명, 상품 고유 코드, 가격 정보, 상품과 관련한 동영상 링크 주소, 상세 설명 정보, 카탈로그, 외부 장치(미도시)에 저장된 상세 페이지 주소 링크, 상품에 대한 2D/3D 형태의 이미지, 사용자 신체 적용 부위 정보(예를 들어 손, 손목, 팔, 목, 얼굴, 머리, 발, 발목, 눈, 코, 입, 입술 등 포함) 등을 포함한다.

일 예로, 상기 제 1 단말은 상기 제 1 단말에 미리 저장된 복수의 상품 정보 중에서 상기 제 1 키워드(예를 들어 AOA1234 모델)에 대응하는 모자와 관련한 제 1 상품 정보를 확인한다. 여기서, 상기 제 1 상품 정보는 ABC 제조사, AABB 모자, AOA1234 모델, 12,300원, 3D 형태의 제 1 이미지, 사용자 신체 적용 부위 정보(예를 들어 머리 부분) 등을 포함한다.

다른 일 예로, 상기 제 3 단말은 상기 제 3 단말에 미리 저장된 복수의 상품 정보 중에서 상기 제 3 패턴 정보(예를 들어 피팅 기능 포함, 상기 제 3 키워드에 대응하는 CCC사의 최신 신상품 CC9876 모델 등 포함)에 대응하는 안경과 관련한 제 3 상품 정보를 확인한다(S350).

이후, 상기 단말(100)은 증강 현실 기술을 이용해서, 상기 사용자가 포함된 영상 정보에 상기 확인된 상품 정보에 대응하는 해당 상품을 적용(또는 혼합)하여 혼합 영상(또는 MR 콘텐츠)을 생성하고, 상기 생성된 혼합 영상을 출력한다. 이때, 상기 확인된 상품 정보에 대응하는 해당 상품은 앞서 인식된 사용자의 신체 부위(또는 신체 영역)에 적용되어 표시될 수 있다. 또한, 상기 단말(100)은 상기 상품이 적용된 사용자가 표시되고 있는 혼합 영상의 일측에 상기 서버(200)에 미리 등록된 광고 영상을 표시하기 위한 광고 마커를 추가로 표시하고, 상기 혼합 영상의 다른 일측에 상기 상품과 관련한 상품 정보를 표시할 수도 있다.

즉, 상기 단말(100)은 상기 확인된 상품 정보를 근거로 해당 상품을 확인하고, 상기 상품 정보에 포함된 사용자 신체 적용 부위 정보를 근거로 상기 확인된 상품이 적용될 수 있는 사용자의 신체 부위를 확인하고, 상기 사용자를 포함하는 영상 정보 내에서 상기 확인된 상품이 적용될 수 있는 사용자의 신체 부위에 대응하는 위치 정보를 확인하고(또는 상기 영상 정보에서 인식된 사용자의 신체 부위 중에서 상기 확인된 상품이 적용될 수 있는 사용자의 신체 부위를 확인하고), 상기 확인된 사용자를 포함하는 영상 정보 내에서 상기 상품이 적용될 수 있는 사용자의 신체 부위에 대응하는 위치 정보에 해당 상품에 대한 2D/3D 형태의 이미지를 적용하고(또는 해당 상품에 대한 2D/3D 형태의 이미지를 상기 확인된 사용자의 신체 부위에 적용하고/상기 상품에 대한 2D/3D 형태의 이미지를 해당 사용자의 신체 부위에 맞춰 크기를 조정하고), 상기 사용자의 신체 부위(또는 상기 상품과 관련한 사용자의 특정 신체 부위)에 해당 상품에 대한 2D/3D 형태의 이미지가 적용된 혼합 영상을 출력한다.

일 예로, 상기 제 1 단말은 상기 제 1 상품 정보를 근거로 ABC 제조사의 AOA1234 모델의 AABB 모자를 확인하고, 상기 제 1 상품 정보에 포함된 제 1 사용자 신체 적용 부위 정보(예를 들어 머리 부분)를 근거로 해당 모자가 적용될 사용자의 신체 부위(예를 들어 머리 부분)를 확인하고, 상기 제 1 사용자가 포함된 제 1 영상 정보 내에서 상기 모자가 적용될 사용자의 신체 부위에 대응하는 제 1 위치 정보를 확인하고, 상기 제 1 영상 정보 내의 상기 제 1 위치 정보에 상기 모자와 관련한 3D 형태의 제 1 이미지를 적용하여 제 1 혼합 영상을 생성한다.

또한, 도 4에 도시된 바와 같이, 상기 제 1 단말은 상기 제 1 영상 정보 내의 제 1 사용자의 머리 부분에 상기 모자와 관련한 3D 형태의 제 1 이미지(410)가 적용된 제 1 혼합 영상(420)을 출력한다. 이때, 상기 제 1 이미지(410)는 상기 제 1 사용자의 머리 부분의 크기(또는 머리 부분의 위치 정보)에 맞춰서 크기가 조정된 상태일 수 있다.

또한, 상기 도 4에 도시된 바와 같이, 상기 제 1 단말은 상기 제 1 사용자의 머리 부분에 상기 모자와 관련한 3D 형태의 제 1 이미지(410)가 적용된 제 1 혼합 영상(420)이 출력되는 화면의 일측에 상기 서버(200)에 미리 등록된 광고 영상을 표시하기 위한 광고 마커(430)를 추가로 표시하고, 상기 제 1 혼합 영상(420)이 출력되는 화면의 다른 일측에 상기 모자와 관련한 제 1 상세 정보(예를 들어 가격 정보, 실시간 재고 현황 정보 등 포함)(440)를 표시할 수도 있다(S360).

본 발명의 실시예는 앞서 설명된 바와 같이, 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시하여, 가상 현실 또는 혼합 현실이 적용된 업체 정보 제공에 따라 홍보 효과를 높이고, 사용자의 관심을 증가시켜 실제 상품 판매 증가를 유도할 수 있다.

또한, 본 발명의 실시예는 앞서 설명된 바와 같이, 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정되지 않은 경우, 해당 키워드와 관련한 상품 정보를 표시하여, 사용자 편의를 위한 사용자 인터페이스를 제공하고, 사용자의 편의성을 향상시킬 수 있다.

전술된 내용은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

본 발명은 상품과 관련한 키워드를 인식하고, 인식된 키워드와 관련해서 미리 설정된 피팅 기능이 설정된 경우, 실시간으로 촬영되는 사용자를 인식하고, 인식된 사용자의 특정 신체 부위에 해당 키워드와 관련한 상품을 적용하여 표시함으로써, 가상 현실 또는 혼합 현실이 적용된 업체 정보 제공에 따라 홍보 효과를 높이고, 사용자의 관심을 증가시켜 실제 상품 판매 증가를 유도할 수 있는 것으로, 가상 현실 분야, 증강 현실 분야, 혼합 현실(MR) 분야, 단말 분야, 파노라마 영상 분야, 쇼핑 정보 제공 분야, 마케팅 분야, 서버 분야 등에서 광범위하게 이용될 수 있다.

10: 콘텐츠 제공 시스템 100: 단말
200: 서버 110: 입력부
120: 리더기 130: 통신부
140: 저장부 150: 표시부
160: 음성 출력부 170: 제어부

Claims (1)

1. 단말의 제어 방법에 있어서,
   입력부나 리더기에 의해, 사용자 입력에 따른 키워드를 수신하거나 외부 디바이스에서 표시 중인 영상에 포함된 상품에 대한 패턴을 인식하는 단계;
   제어부에 의해, 상기 키워드와 관련한 상품 또는 상기 인식된 패턴과 관련한 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하는지 여부를 판단하는 단계;
   상기 판단 결과, 상기 키워드와 관련한 상품 또는 상기 인식된 패턴과 관련한 패턴 정보와 관련한 상품이 사용자에 대한 피팅 기능을 포함하지 않을 때, 상기 제어부에 의해, 저장부에 미리 저장된 복수의 영상 중에서 상기 키워드 또는 상기 패턴 정보와 관련한 영상을 확인하는 단계;
   상기 확인 결과, 상기 저장부에 미리 저장된 복수의 영상 중에서 상기 키워드 또는 상기 패턴 정보와 관련한 영상이 존재하는 않을 때, 상기 제어부에 의해, 상기 저장부에 미리 설정된 카테고리 정보를 표시하도록 표시부를 제어하는 단계;
   상기 제어부에 의해, 상기 표시부에 표시되는 카테고리 정보 중에서 사용자 선택에 따라 선택된 특정 카테고리에 대응하는 적어도 하나의 정보를 표시하도록 상기 표시부를 제어하는 단계;
   상기 표시부에 표시되는 적어도 하나의 정보 중에서 특정 정보가 선택될 때, 상기 표시부에 의해, 상기 선택된 특정 정보를 표시하는 단계; 및
   상기 표시부에 상기 특정 정보가 표시 중인 상태에서 미리 설정된 이벤트가 감지될 때, 상기 제어부에 의해, 상기 이벤트에 대응하여 미리 설정된 기능을 수행하고, 상기 기능 수행 결과를 표시하도록 상기 표시부를 제어하는 단계를 포함하는 단말의 제어 방법.

Images