KR102543695B1 - 영상 처리 방법 및 이를 지원하는 전자 장치 - Google Patents

영상 처리 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
KR102543695B1
KR102543695B1 KR1020190007036A KR20190007036A KR102543695B1 KR 102543695 B1 KR102543695 B1 KR 102543695B1 KR 1020190007036 A KR1020190007036 A KR 1020190007036A KR 20190007036 A KR20190007036 A KR 20190007036A KR 102543695 B1 KR102543695 B1 KR 102543695B1
Authority
KR
South Korea
Prior art keywords
image
electronic device
information
additional information
screen
Prior art date
Application number
KR1020190007036A
Other languages
English (en)
Other versions
KR20200090014A (ko
Inventor
배수정
염동현
김창원
김현진
유임경
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190007036A priority Critical patent/KR102543695B1/ko
Priority to PCT/KR2020/000848 priority patent/WO2020149689A1/ko
Priority to US17/310,118 priority patent/US20220101638A1/en
Publication of KR20200090014A publication Critical patent/KR20200090014A/ko
Application granted granted Critical
Publication of KR102543695B1 publication Critical patent/KR102543695B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63—Scene text, e.g. street names
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5846—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using extracted text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes

Abstract

전자 장치에 있어서, 디스플레이, 메모리, 및 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 영상을 획득하고, 상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 디스플레이에 출력하고, 상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하고, 상기 파일을 상기 메모리에 저장하도록 설정된 전자 장치가 개시된다. 이 외에도 본 문서를 통해 파악되는 다양한 실시예들이 가능하다.

Description

영상 처리 방법 및 이를 지원하는 전자 장치{Image processing method and electronic device supporting the same}
본 발명의 다양한 실시예들은, 영상 처리 기술에 관한 것이다.
스마트폰 등과 같은 전자 장치에 있어서, 사용자에게 각종 정보를 제공하는 다양한 서비스 방식들이 개발되고 있다. 예를 들어, 전자 장치는 사용자에게 현실 세계에서는 불가능한 영상 표현이나 정보를 제공하기 위하여 현실 세계와 가상 세계를 혼합하여 보다 유용한 정보를 제공하는 증강 현실(augmented reality(AR)) 서비스를 제공할 수 있다.
이러한 증강 현실 서비스를 제공하는 전자 장치는, 카메라를 통해 촬영된 영상을 획득하고, 상기 영상의 분석 또는 GPS(global positioning system) 등 다양한 센서를 이용하여 전자 장치의 위치와 방향을 판단하고, 전자 장치의 위치와 방향 및 카메라의 화각, 초점 거리 등과 같은 카메라의 속성 정보를 기반으로 상기 영상에서 부가 정보를 표시하고자 하는 관심 객체를 결정하고, 상기 관심 객체에 대한 부가 정보의 존재를 나타내는 가상 객체(AR 객체)를 생성한 후 상기 영상에 상기 가상 객체를 합성하여 화면에 표시할 수 있다.
한편, 전자 장치는 사용자에게 다양한 편의 기능을 제공할 수 있다. 예를 들어, 전자 장치는 사용자가 관심을 가지는 내용이 화면에 표시된 상태에서 사용자 입력에 대응하여 화면을 캡처(capture)하여 저장하거나 편집할 수 있도록 인터페이스를 제공할 수 있다.
그러나, 기존의 전자 장치는 AR 객체가 포함된 화면의 캡처 시, 현재의 화면만 캡처되고 상기 AR 객체와 관련된 정보 예를 들어, 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보는 캡처되지 않을 수 있다. 또한, 기존의 전자 장치는 AR 객체의 선택 입력에 대응하여 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보를 화면에 표시한 상태에서, 화면을 캡처하더라도 캡처된 영상을 상기 AR 객체가 포함된 화면의 캡처 영상과 연관시켜 함께 저장하지 않을 수 있다. 이에 따라, 사용자는 상기 관심 객체에 대한 부가 정보가 표시된 화면의 캡처 영상이 AR 상황에서 캡처된 영상인지를 구분하기 어려울 수 있다.
본 발명의 다양한 실시예들은, AR 객체가 포함된 화면의 캡처 시, 캡처 영상과 상기 AR 객체와 관련된 정보를 하나의 파일로 저장하는 영상 처리 방법 및 이를 지원하는 전자 장치를 제공할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 디스플레이, 메모리, 및 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 영상을 획득하고, 상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 디스플레이에 출력하고, 상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하고, 상기 파일을 상기 메모리에 저장하도록 설정될 수 있다.
또한, 본 발명의 다양한 실시예에 따른 전자 장치의 영상 처리 방법은, 영상을 획득하는 동작, 상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 전자 장치의 디스플레이에 출력하는 동작, 상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하는 동작, 및 상기 파일을 상기 전자 장치의 메모리에 저장하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예들에 따르면, AR 객체가 포함된 화면의 캡처 영상과 상기 AR 객체와 관련된 정보가 하나의 파일에 저장됨으로써, 상기 캡처 영상의 검색 시 상기 AR 객체와 관련된 정보도 쉽게 파악할 수 있도록 지원할 수 있다.
또한, 본 발명의 다양한 실시예들에 따르면, 캡처 영상 및 AR 객체와 관련된 정보가 하나의 파일에 저장되더라도 기존의 일반적인 캡처 영상을 조회하고 검색하는 프로그램이 상기 파일을 읽을 수 있도록 호환성이 유지될 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 본 발명의 일 실시예에 따른 영상 처리 모듈을 나타낸 도면이다.
도 3은 본 발명의 일 실시예에 따른 영상 처리 방법을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류에 따라 캡처 영상 파일을 생성하는 방법을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 저장 위치에 따라 캡처 영상 파일을 생성하는 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들이 포함된 화면에 대한 캡처 영상 파일을 생성하는 방법을 설명하기 위한 도면이다.
도 7은 본 발명의 일 실시예에 따른 AR 상황을 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 캡처 영상 파일의 구조를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 캡처 영상 파일의 검색과 관련된 기능을 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들이 포함된 화면에서의 제1 사용자 입력에 대한 처리 방법을 설명하기 위한 도면이다.
도 11은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들이 포함된 화면에서의 제2 사용자 입력에 대한 처리 방법을 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시예에 따른 복수 개의 AR 객체들과 관련된 정보를 포함하는 캡처 영상 파일의 구조를 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들 중 메인 AR 객체를 설정하는 방법을 설명하기 위한 도면이다.
도 14는 본 발명의 일 실시예에 따른 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 저장 위치 정보를 포함하는 캡처 영상 파일의 구조를 설명하기 위한 도면이다.
도 15a 및 도 15b는 본 발명의 일 실시예에 따른 캡처 영상 파일의 썸네일 이미지(thumbnail image)를 설명하기 위한 도면이다.
도 16은 본 발명의 일 실시예에 따른 AR 객체와 관련된 정보의 편집 방법을 설명하기 위한 도면이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시예들이 설명된다. 설명의 편의를 위하여 도면에 도시된 구성요소들은 그 크기가 과장 또는 축소될 수 있으며, 본 발명이 반드시 도시된 바에 의해 한정되는 것은 아니다.
도 1은 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(388)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 본 발명의 일 실시예에 따른 영상 처리 모듈을 나타낸 도면이다. 도 2의 영상 처리 모듈(200)은 도 1에서 설명한 전자 장치(101)의 하드웨어 또는 소프트웨어 구성요소로 구현될 수 있다. 일 예로, 영상 처리 모듈(200)은 전자 장치(101)의 메모리(130)에 저장된 프로그램(140)의 형태로 구현될 수 있다. 예컨대, 영상 처리 모듈(200)은 메모리(130)에 저장된 명령어로 구현되고, 상기 명령어는 프로세서(120)에 의해 실행될 때, 프로세서(120)가 상기 명령어에 해당하는 기능을 수행할 수 있다.
영상 처리 모듈(200)은 영상의 획득, 표시, 및 저장과 관련된 기능을 수행하고, 더 나아가 영상에 증강 현실을 구현하는 기능을 수행할 수 있다. 이러한 영상 처리 모듈(200)은 도 2를 참조하면, 영상 획득 모듈(210), 증강 현실 구현 모듈(230), 영상 표시 모듈(250), 및 영상 저장 모듈(270)을 포함할 수 있다.
영상 획득 모듈(210)은 표시 장치(160)(예: 디스플레이)의 화면에 표시할 영상을 획득할 수 있다. 일 예로, 영상 획득 모듈(210)은 카메라 모듈(180)로부터 촬영 영상을 획득할 수 있다. 다른 예로, 영상 획득 모듈(210)은 통신 모듈(190)을 통해 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))로부터 영상을 획득할 수 있다.
증강 현실 구현 모듈(230)은 영상에 증강 현실을 구현할 수 있다. 예를 들어, 증강 현실 구현 모듈(230)은 사용자가 보고 있는 실사 영상에 가상 객체(AR 객체)를 겹치는 방식 등으로 현실 환경과 가상 객체를 하나의 화면에 구성하여 현실 환경에 대한 추가 정보를 제공하는 증강 현실을 구현할 수 있다. 이러한 증강 현실 구현 모듈(230)은 영상 분석 모듈(231) 및 객체 정보 획득 모듈(233)을 포함할 수 있다.
영상 분석 모듈(231)은 영상 획득 모듈(210)을 통해 획득된 영상을 분석할 수 있다. 예를 들어, 영상 분석 모듈(231)은 영상에서 객체들을 인식하고 추출할 수 있다. 또한, 영상 분석 모듈(231)은 추출된 객체들 중에서 소정 개수의 관심 객체를 결정(또는 인식)할 수 있다. 예를 들어, 영상 분석 모듈(231)은 지도 정보를 바탕으로 전자 장치(101)의 위치와 방향에 대응하는 소정 범위의 검색 영역을 선정하고, 선정된 검색 영역에 존재하는 상기 객체들 중에서 관심 객체를 결정할 수 있다. 또는, 영상 분석 모듈(231)은 선정된 검색 영역에서 카메라 모듈(180)이 촬영하는 화각 내에 존재하는 상기 객체들 중에서 관심 객체를 결정할 수 있다.
일 실시예에 따르면, 영상 분석 모듈(231)은 전자 장치(101)의 위치와 방향을 판단하기 위해, 추출된 객체들 중 특정 지역을 나타내는 객체(예: 랜드마크(landmark)에 해당하는 객체)를 검색하고, 검색된 객체를 기반으로 전자 장치(101)의 위치와 방향을 판단할 수 있다. 다른 실시예에 따르면, 영상 분석 모듈(231)은 측위 모듈(예: GPS 모듈)을 통해 전자 장치(101)의 위치를 판단하고, 가속도 센서, 지자기 센서 및 자이로 센서 중 적어도 하나를 이용하여 전자 장치(101)의 방향을 판단할 수 있다.
객체 정보 획득 모듈(233)은 결정된 관심 객체에 대한 부가 정보를 획득할 수 있다. 일 예로, 객체 정보 획득 모듈(233)은 통신 모듈(190)을 통해 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))로부터 상기 관심 객체에 대한 부가 정보를 획득할 수 있다. 다른 예로, 객체 정보 획득 모듈(233)은 메모리(130)에 기 저장된 지도 정보 및 상기 지도 정보와 매핑된 지도 상의 각 지점에 해당하는 객체의 정보를 이용하여 상기 관심 객체에 대한 부가 정보를 획득할 수 있다. 이와 관련하여 상기 관심 객체에 대한 부가 정보는 상기 관심 객체의 명칭, 위치, 또는 설명 등과 같은 정보를 포함할 수 있다. 또한, 상기 관심 객체에 대한 부가 정보는 상기 관심 객체의 위치와 관련된 경로 안내 정보, 관심 지점(point of interest(POI)) 정보, 쇼핑 정보, 또는 광고 정보 등을 포함할 수 있다. 상기 관심 객체에 대한 부가 정보는 다양한 종류의 컨텐츠로 제공될 수 있다. 예를 들어, 상기 관심 객체에 대한 부가 정보는 이미지, 텍스트, 동영상, 또는 문서 등으로 제공될 수 있다.
증강 현실 구현 모듈(230)은 상기 관심 객체에 대한 부가 정보의 존재를 나타내는 가상 객체(AR 객체)를 생성할 수 있다. 상기 AR 객체는 예를 들어, 이미지, 텍스트, 또는 아이콘 등을 포함할 수 있다. 일 실시예에 따르면, 증강 현실 구현 모듈(230)은 상기 관심 객체에 대한 부가 정보의 종류(예: 이미지, 텍스트, 동영상, 또는 문서 등)에 따라 상기 AR 객체의 종류 또는 그래픽적 요소(예: 형상, 또는 색상 등)를 다르게 생성할 수 있다.
증강 현실 구현 모듈(230)은 상기 획득된 영상에 상기 AR 객체를 추가(또는 합성)할 수 있다. 예를 들어, 증강 현실 구현 모듈(230)은 상기 획득된 영상에서 상기 AR 객체에 대응하는 관심 객체 상에 상기 AR 객체를 겹치도록 합성할 수 있다.
영상 표시 모듈(250)은 표시 장치(160)를 통해 영상을 표시할 수 있다. 일 예로, 영상 표시 모듈(250)은 영상 획득 모듈(210)을 통해 획득된 영상을 표시 장치(160)에 표시할 수 있다. 다른 예로, 영상 표시 모듈(250)은 증강 현실 구현 모듈(230)로부터 AR 객체가 추가된 영상을 획득하여 표시 장치(160)에 표시할 수 있다.
영상 저장 모듈(270)은 메모리(130)에 영상을 저장할 수 있다. 일 예로, 영상 저장 모듈(270)은 영상 획득 모듈(210)을 통해 획득된 영상을 메모리(130)에 저장할 수 있다. 다른 예로, 영상 저장 모듈(270)은 표시 장치(160)의 화면에 대한 캡처 입력에 대응하여 상기 화면에 대한 캡처 영상을 메모리(130)에 저장할 수 있다. 이 때, 영상 저장 모듈(270)은 상기 화면이 AR 객체가 추가된 화면인 경우, 상기 화면에 대한 캡처 영상 및 상기 AR 객체와 관련된 정보를 포함하는 파일을 메모리(130)에 저장할 수 있다. 상기 AR 객체와 관련된 정보는 예를 들어, 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보, 상기 부가 정보의 종류에 대한 정보, 상기 부가 정보의 저장 위치 정보, 상기 AR 객체의 위치 정보, 상기 AR 객체의 개수 정보, 또는 상기 AR 객체가 메인 AR 객체인지에 대한 정보 등을 포함할 수 있다.
상술한 바와 같이, 다양한 실시 예에 따르면, 전자 장치(예: 전자 장치(101))는, 디스플레이(예: 표시 장치(160)), 메모리(예: 메모리(130)), 및 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서(예: 프로세서(120))를 포함하고, 상기 프로세서는, 영상을 획득하고, 상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 디스플레이에 출력하고, 상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하고, 상기 파일을 상기 메모리에 저장하도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 전자 장치에 포함된 카메라(예: 카메라 모듈(180))로부터 상기 카메라가 촬영한 영상을 상기 영상으로 획득하거나, 상기 전자 장치에 포함된 통신 모듈(예: 통신 모듈(190))을 통해 연결된 외부 전자 장치로부터 상기 영상을 획득하도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 파일은 확장 영상 파일 포맷을 가지고, 상기 프로세서는, 상기 적어도 하나의 AR 객체와 관련된 정보를 상기 파일의 확장 영역에 저장하도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지이면서 텍스트 이미지가 아니면, 상기 부가 정보의 이미지 데이터를 상기 AR 객체와 관련된 정보에 포함시키도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지이면, 상기 부가 정보에서 텍스트를 추출하고, 추출된 텍스트를 상기 AR 객체와 관련된 정보에 포함시키도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지가 아니면, 상기 부가 정보를 상기 전자 장치에 포함된 통신 모듈을 통해 연결된 외부 전자 장치 또는 상기 메모리에 저장하고, 상기 부가 정보의 저장 위치 정보를 상기 AR 객체와 관련된 정보에 포함시키도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 부가 정보가 상기 외부 전자 장치에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 외부 전자 장치에 접속하기 위한 링크 정보로 설정하고, 상기 부가 정보가 상기 메모리에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 메모리의 저장 주소 정보로 설정할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하고, 상기 프로세서는, 상기 화면 상의 일지점에서 지정된 시간 동안 지정된 크기 이상의 압력이 가해지는 사용자 입력을 수신하면, 상기 복수 개의 AR 객체들 중 상기 사용자 입력의 입력 위치에 대응하는 AR 객체를 메인 AR 객체로 설정하고, 상기 AR 객체가 상기 메인 AR 객체임을 나타내는 정보를 상기 AR 객체와 관련된 정보에 포함시키도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하고, 상기 프로세서는, 상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하면, 상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체의 개수를 확인하고, 상기 확인된 적어도 하나의 AR 객체의 개수에 대한 정보를 상기 AR 객체와 관련된 정보에 포함시키도록 설정될 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하고, 상기 프로세서는, 상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하면, 상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체를 선택하고, 상기 선택된 적어도 하나의 AR 객체와 관련된 정보 외에 다른 AR 객체와 관련된 정보를 상기 AR 객체와 관련된 정보에서 제외시키도록 설정될 수 있다.
도 3은 본 발명의 일 실시예에 따른 영상 처리 방법을 설명하기 위한 도면이다.
도 3을 참조하면, 영상 처리 모듈(200)을 포함하는 전자 장치(101)는 동작 310에서, 상기 영상 처리 모듈(200)의 영상 획득 모듈(210)을 통해, 영상을 획득할 수 있다. 일 예로, 상기 영상 획득 모듈(210)은 카메라 모듈(180)로부터 촬영 영상을 획득할 수 있다. 다른 예로, 상기 영상 획득 모듈(210)은 통신 모듈(190)을 통해 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))로부터 영상을 획득할 수 있다.
동작 320에서, 전자 장치(101)는 상기 영상 처리 모듈(200)의 영상 표시 모듈(250)을 통해, 획득된 영상에 증강 현실(AR) 객체가 추가된 화면을 표시 장치(160)에 출력할 수 있다. 상기 획득된 영상에 상기 AR 객체가 추가된 화면을 얻기 위해, 상기 영상 처리 모듈(200)의 증강 현실 구현 모듈(230)은 영상 분석 모듈(231)을 통해, 획득된 영상을 분석할 수 있다. 예를 들어, 상기 영상 분석 모듈(231)은 상기 획득된 영상에서 객체들을 인식 및 추출하고, 추출된 객체들 중에서 소정 개수의 관심 객체를 결정할 수 있다. 또한, 상기 영상 분석 모듈(231)은 상기 획득된 영상에서 추출된 객체들 중 특정 지역을 나타내는 객체를 검색하고, 검색된 객체를 기반으로 전자 장치(101)의 위치와 방향을 판단하거나, 측위 모듈(예: GPS 모듈)을 통해 전자 장치(101)의 위치를 판단하고, 가속도 센서, 지자기 센서 및 자이로 센서 중 적어도 하나를 이용하여 전자 장치(101)의 방향을 판단할 수 있다. 이 후, 상기 영상 처리 모듈(200)의 객체 정보 획득 모듈(233)은 결정된 관심 객체에 대한 부가 정보를 획득할 수 있다. 또한, 상기 증강 현실 구현 모듈(230)은 상기 관심 객체에 대한 부가 정보의 존재를 나타내는 AR 객체를 생성하고, 상기 획득된 영상에 상기 AR 객체를 추가(또는 합성)할 수 있다. 예를 들어, 상기 증강 현실 구현 모듈(230)은 상기 획득된 영상에서 상기 AR 객체에 대응하는 관심 객체 상에 상기 AR 객체를 겹치도록 합성할 수 있다.
동작 330에서, 전자 장치(101)는 상기 화면의 캡처 입력이 수신되었는지를 판단할 수 있다. 예를 들어, 전자 장치(101)는 입력 장치(150) 또는 센서 모듈(176)을 통해, 상기 획득된 영상에 상기 AR 객체가 추가된 화면에 대한 캡처 입력이 수신되었는지를 판단할 수 있다. 일 실시예에 따르면, 상기 캡처 입력은 상기 입력 장치(150)에 포함된 마이크를 통해 수신된 사용자의 음성 입력을 포함할 수 있다. 예를 들어, 사용자가 지정된 표현(예: "캡처해줘")을 포함하는 음성을 발화하고 상기 마이크를 통해 상기 음성 입력을 수신하면, 전자 장치(101)는 상기 캡처 입력이 수신되었다고 판단할 수 있다. 다른 실시예에 따르면, 상기 캡처 입력은 상기 입력 장치(150)에 포함된 마우스 또는 디지털 펜을 통해 수신된 터치 입력 또는 키보드 또는 물리 버튼을 통해 수신된 키 입력을 포함할 수 있다. 예를 들어, 사용자가 마우스 또는 디지털 펜을 이용하여 캡처 명령에 대응하는 표시 객체를 터치하거나, 키보드에 포함된 키들 중 캡처 명령에 대응하는 키를 누르거나, 또는 캡처 명령에 대응하는 물리 버튼을 누르는 경우, 전자 장치(101)는 상기 캡처 입력이 수신되었다고 판단할 수 있다. 또 다른 실시예에 따르면, 상기 캡처 입력은 상기 센서 모듈(176)에 포함된 적어도 하나의 센서를 통해 수신된 사용자의 제스처 입력 또는 전자 장치(101)의 모션 입력을 포함할 수 있다. 예를 들어, 사용자가 취한 지정된 제스처를 상기 센서 모듈(176)이 감지하거나, 사용자가 전자 장치(101)를 흔들거나 뒤집거나 이동시켜 전자 장치(101)가 지정된 방향, 거리, 및 횟수에 해당하는 모션을 수행한 경우, 전자 장치(101)는 상기 캡처 입력이 수신되었다고 판단할 수 있다.
상기 화면의 캡처 입력이 수신되었다는 판단 하에, 전자 장치(101)는 동작 340에서, 상기 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 AR 객체와 관련된 정보(예: 상기 관심 객체에 대한 부가 정보)를 포함하는 파일을 생성할 수 있다. 파일 생성과 관련된 기능은 도 4에서 자세히 설명하도록 한다.
동작 350에서, 전자 장치(101)는 상기 영상 처리 모듈(200)의 영상 저장 모듈(270)을 통해, 상기 생성된 파일을 메모리(130)에 저장할 수 있다. 예를 들어, 상기 영상 저장 모듈(270)은 상기 화면에 대한 캡처 영상 및 상기 AR 객체와 관련된 정보를 포함하는 상기 파일을 메모리(130)에 저장할 수 있다.
도 4는 본 발명의 일 실시예에 따른 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류에 따라 캡처 영상 파일을 생성하는 방법을 설명하기 위한 도면이다.
도 4를 참조하면, 전자 장치(101)는 AR 객체가 추가된 화면에 대한 캡처 입력이 수신되면, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 AR 객체와 관련된 정보를 포함하는 파일(캡처 영상 파일)을 생성할 수 있다. 이 때, 상기 영상 처리 모듈(200)은 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류에 따라 상기 캡처 영상 파일을 다르게 생성할 수 있다.
동작 410에서, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보의 종류가 이미지인지를 판단할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보의 데이터 형식이 이미지인지를 판단할 수 있다.
상기 관심 객체에 대한 부가 정보의 종류가 이미지인 경우, 상기 영상 처리 모듈(200)은 동작 420에서, 상기 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지인지를 판단할 수 있다. 여기서, 상기 텍스트 이미지는 한 줄 또는 여러 줄의 인쇄체 텍스트가 포함되는 이미지일 수 있다.
상기 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지인 경우, 상기 영상 처리 모듈(200)은 동작 430에서, 광학 문자 인식(optical character recognition(OCR)) 기술을 통해 텍스트 이미지 형식의 상기 관심 객체에 대한 부가 정보에서 텍스트를 추출할 수 있다.
텍스트가 추출되면, 상기 영상 처리 모듈(200)은 동작 440에서, 확장 영상 파일 포맷을 가지는 상기 캡처 영상 파일의 확장 영역에 상기 AR 객체의 위치 정보 및 상기 추출된 텍스트를 추가하여 상기 캡처 영상 파일을 생성할 수 있다. 여기서, 상기 AR 객체의 위치 정보는 상기 AR 객체가 표시된 상기 화면 상의 좌표 정보를 포함할 수 있다. 또한, 상기 확장 영상 파일 포맷은 영상 데이터 및 부가 정보를 포함할 수 있는 영상 파일 포맷으로서, 예를 들어 Exif(exchangeable image file format), SEF(samsung extended format) 등을 포함할 수 있다.
상기 영상 처리 모듈(200)은 상기 캡처 영상 파일에 텍스트 이미지 형식의 상기 관심 객체에 대한 부가 정보를 그대로 저장하지 않고 상기 텍스트 이미지에서 텍스트를 추출하고 추출된 텍스트를 저장함으로써, 상기 캡처 영상 파일의 용량을 줄일 수 있고, 이에 따라 상기 캡처 영상 파일이 저장되는 메모리(130)의 저장 공간에 대한 활용도가 높아지며, 상기 캡처 영상 파일에 대한 처리 속도도 향상될 수 있다.
상기 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지가 아닌 경우(일반 이미지인 경우), 상기 영상 처리 모듈(200)은 동작 450에서, 확장 영상 파일 포맷을 가지는 상기 캡처 영상 파일의 확장 영역에 상기 AR 객체의 위치 정보 및 이미지 형식의 상기 관심 객체에 대한 부가 정보(해당 이미지)를 추가하여 상기 캡처 영상 파일을 생성할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 캡처 영상 파일의 확장 영역에 상기 AR 객체가 표시된 상기 화면 상의 좌표 정보 및 상기 관심 객체에 대한 부가 정보의 이미지 데이터를 저장할 수 있다.
상기 관심 객체에 대한 부가 정보의 종류가 이미지가 아닌 경우, 상기 영상 처리 모듈(200)은 동작 460에서, 확장 영상 파일 포맷을 가지는 상기 캡처 영상 파일의 확장 영역에 상기 AR 객체의 위치 정보 및 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 추가하여 상기 캡처 영상 파일을 생성할 수 있다. 예를 들어, 상기 관심 객체에 대한 부가 정보의 종류가 동영상, 문서(예: pdf(portable document format) 문서), 또는 이미지 검색 어플리케이션(예: 갤러리 어플리케이션)을 통해 화면에 표시하기 어려운 형식의 데이터 종류인 경우, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보를 그대로 상기 캡처 영상 파일의 확장 영역에 저장하지 않고, 상기 관심 객체에 대한 부가 정보를 메모리(130)나 외부 서버에 저장하면서 상기 관심 객체에 대한 부가 정보의 저장 위치 정보만을 상기 캡처 영상의 확장 영역에 저장할 수 있다. 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 설정하는 기능에 대해서는 도 5에서 자세히 설명하도록 한다.
상술한 도 4의 설명에서, 상기 영상 처리 모듈(200)이 상기 AR 객체와 관련된 정보(예: 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보)를 확장 영상 파일 포맷을 가지는 파일의 확장 영역에 저장하는 기능에 대해서 설명하였지만, 상기 AR 객체와 관련된 정보의 저장 위치가 확장 영역에 한정되는 것은 아니다. 다양한 실시예에 따르면, 상기 영상 처리 모듈(200)은 상기 AR 객체와 관련된 정보 중 적어도 일부(예: 상기 AR 객체의 위치 정보, 추출된 텍스트, 관심 객체에 대한 부가 정보의 저장 위치 정보, AR 객체의 개수 정보, 메인 AR 객체를 나타내는 정보 등)를 파일의 메타데이터(metadata) 영역에 저장할 수도 있다.
도 5는 본 발명의 일 실시예에 따른 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지가 아닌 경우, 부가 정보를 저장할 위치에 따라 캡처 영상 파일을 생성하는 방법을 설명하기 위한 도면이다.
도 5를 참조하면, 전자 장치(101)는 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지가 아닌 경우, 영상 처리 모듈(200)을 통해, 확장 영상 파일 포맷을 가지는 파일(캡처 영상 파일)의 확장 영역에 상기 관심 객체에 대한 부가 정보가 저장된 위치 정보를 추가하여 상기 캡처 영상 파일을 생성할 수 있다. 이 때, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보의 저장 위치에 따라 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 다르게 설정할 수 있다.
동작 510에서, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보가 저장될 위치의 선택과 관련한 유저 인터페이스를 제공할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 사용자가 상기 관심 객체에 대한 부가 정보의 저장 위치를 선택할 수 있도록 유저 인터페이스를 제공할 수 있다. 상기 유저 인터페이스는 예를 들어, 입력 장치(150), 음향 출력 장치(155), 센서 모듈(176), 또는 표시 장치(160) 중 적어도 하나로 구현될 수 있다. 일 예로, 상기 영상 처리 모듈(200)은 음향 출력 장치(155)를 통해 사용자에게 상기 관심 객체에 대한 부가 정보의 저장 위치를 선택하도록 유도하는 음성을 출력하고, 입력 장치(150), 센서 모듈(176), 또는 표시 장치(160) 중 적어도 하나를 통해 상기 관심 객체에 대한 부가 정보의 저장 위치를 선택하는 사용자 입력을 수신할 수 있다. 다른 예로, 상기 영상 처리 모듈(200)은 표시 장치(160)를 통해 사용자에게 상기 관심 객체에 대한 부가 정보의 저장 위치를 선택하도록 유도하는 표시 객체(예: 복수의 저장 위치들에 대한 정보를 포함하는 리스트 객체)를 출력하고, 입력 장치(150), 센서 모듈(176), 또는 표시 장치(160) 중 적어도 하나를 통해 상기 관심 객체에 대한 부가 정보의 저장 위치를 선택하는 사용자 입력을 수신할 수도 있다.
동작 520에서, 상기 영상 처리 모듈(200)은 선택된 저장 위치가 외부 서버인지를 판단할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 유저 인터페이스를 통해 사용자가 선택한 상기 관심 객체에 대한 부가 정보의 저장 위치가 외부 서버인지를 판단할 수 있다. 상기 외부 서버는 예를 들어, 클라우드(cloud) 서버를 포함할 수 있다.
상기 선택된 저장 위치가 외부 서버인 경우, 상기 영상 처리 모듈(200)은 동작 530에서, 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 상기 외부 서버로 접속하기 위한 링크(link) 정보(예: URL 접속 정보)로 설정할 수 있다. 이 경우, 상기 영상 처리 모듈(200)은 상기 링크가 선택되면, 상기 링크 정보에 대응하는 외부 서버로 접속하여 상기 관심 객체에 대한 부가 정보를 출력할 수 있는 어플리케이션을 통해, 상기 관심 객체에 대한 부가 정보를 출력할 수 있다. 이 때, 상기 어플리케이션은 상기 외부 서버에 설치된 상태이거나 전자 장치(101)에 설치된 상태일 수 있다. 일 예로, 상기 어플리케이션이 상기 외부 서버에 설치된 상태인 경우, 상기 영상 처리 모듈(200)은 상기 외부 서버로 접속하면서 상기 관심 객체에 대한 부가 정보의 출력을 요청하는 신호를 전송하고, 상기 외부 서버로의 접속 어플리케이션을 통해 상기 관심 객체에 대한 부가 정보의 출력 화면을 제공받을 수 있다. 다른 예로, 상기 어플리케이션이 전자 장치(101)에 설치된 상태인 경우, 상기 영상 처리 모듈(200)은 상기 외부 서버로 접속하여 상기 관심 객체에 대한 부가 정보를 수신하고, 상기 어플리케이션을 실행하고, 상기 어플리케이션을 통해 수신된 상기 관심 객체에 대한 부가 정보를 출력할 수 있다.
상기 선택된 저장 위치가 외부 서버가 아닌 경우(전자 장치(101)의 메모리(130)인 경우), 상기 영상 처리 모듈(200)은 동작 540에서, 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 메모리(130)의 저장 주소 정보(예: 저장 경로 정보)로 설정할 수 있다. 이 경우, 상기 영상 처리 모듈(200)은 상기 메모리(130)의 저장 주소 정보를 기반으로 상기 메모리(130)에 저장된 상기 관심 객체에 대한 부가 정보를 획득하고, 상기 관심 객체에 대한 부가 정보를 출력할 수 있는 어플리케이션을 실행하고, 상기 어플리케이션을 통해 상기 관심 객체에 대한 부가 정보를 출력할 수 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 동작 510 및 동작 520의 수행을 생략하고, 동작 530에서, 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 상기 외부 서버로 접속하기 위한 링크 정보로 설정할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보의 종류가 이미지가 아닌 경우, 디폴트(default) 설정으로 상기 관심 객체에 대한 부가 정보를 상기 외부 서버에 저장하고, 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 상기 외부 서버로 접속하기 위한 링크 정보로 설정할 수 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 동작 510 및 동작 520의 수행을 생략하고, 동작 540에서, 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 메모리(130)의 저장 주소 정보로 설정할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 관심 객체에 대한 부가 정보의 종류가 이미지가 아닌 경우, 디폴트 설정으로 상기 관심 객체에 대한 부가 정보를 상기 메모리(130)에 저장하고, 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 상기 메모리(130)의 저장 주소 정보로 설정할 수 있다.
도 6은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들이 포함된 화면에 대한 캡처 영상 파일을 생성하는 방법을 설명하기 위한 도면이다.
도 6을 참조하면, 전자 장치(101)는 복수 개의 AR 객체들이 포함된 화면에 대한 캡처 입력이 수신되면, 영상 처리 모듈(200)을 통해, 상기 복수 개의 AR 객체들과 관련된 정보들을 모두 캡처 영상과 함께 파일(캡처 영상 파일)에 저장하거나, 상기 복수 개의 AR 객체들 중 선택된 적어도 하나의 AR 객체와 관련된 정보를 캡처 영상과 함께 상기 캡처 영상 파일에 저장할 수 있다.
동작 610에서, 상기 영상 처리 모듈(200)은 상기 복수 개의 AR 객체들이 포함된 화면에서의 입력이 수신되었는지를 판단할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 입력 장치(150) 또는 센서 모듈(176)을 통해, 상기 화면에서의 입력이 수신되었는지를 판단할 수 있다.
동작 620에서, 상기 영상 처리 모듈(200)은 상기 입력이 포스 터치 입력인지를 판단할 수 있다. 상기 포스 터치 입력은 상기 화면 상의 일지점에서 지정된 시간 동안 지정된 크기 이상의 압력이 가해질 때 압력 센서에 의해 감지될 수 있다.
상기 입력이 포스 터치 입력인 경우, 상기 영상 처리 모듈(200)은 동작 630에서, 상기 입력의 입력 위치에 대응하는 AR 객체를 메인 AR 객체로 설정할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 화면에 출력된 복수 개의 AR 객체들 중 상기 입력 위치에 대응하는 AR 객체를 메인 AR 객체로 설정할 수 있다.
동작 640에서, 상기 영상 처리 모듈(200)은 상기 복수 개의 AR 객체들과 관련된 부가 정보들과 상기 메인 AR 객체를 나타내는 정보를 포함하여 상기 캡처 영상 파일을 생성할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 캡처 영상 파일의 확장 영역에 상기 복수 개의 AR 객체들과 관련된 부가 정보들을 저장하고 상기 메인 AR 객체를 나타내는 태그(tag) 정보를 포함하여 상기 캡처 영상 파일을 생성할 수 있다.
상기 입력이 포스 터치 입력이 아닌 경우, 상기 영상 처리 모듈(200)은 동작 650에서, 상기 입력이 드래그 입력인지를 판단할 수 있다. 상기 드래그 입력은 상기 화면 상의 일지점(시작 지점)에서부터 타지점(종료 지점)까지 연속된(손가락 등의 터치 객체가 상기 화면에서 떨어지지 않고 이어지는) 터치 입력으로, 터치 회로(또는 터치 센서)에 의해 감지될 수 있다.
상기 입력이 드래그 입력인 경우, 상기 영상 처리 모듈(200)은 동작 660에서, 상기 입력의 입력 위치에 대응하는 적어도 하나의 AR 객체를 식별하고 그 개수를 확인할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 화면에 출력된 복수 개의 AR 객체들 중 상기 입력 위치에 대응하는 입력 영역(상기 드래그 입력의 시작 지점과 종료 지점으로 형성된 사각 형상의 영역) 내에 포함된 적어도 하나의 AR 객체를 식별하고 상기 적어도 하나의 AR 객체의 개수를 확인할 수 있다.
동작 670에서, 상기 영상 처리 모듈(200)은 상기 식별된 적어도 하나의 AR 객체와 관련된 부가 정보와 상기 적어도 하나의 AR 객체의 개수 정보를 포함하는 상기 캡처 영상 파일을 생성할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 캡처 영상 파일의 확장 영역에 상기 식별된 적어도 하나의 AR 객체와 관련된 부가 정보를 저장하고 상기 적어도 하나의 AR 객체의 개수를 나타내는 태그 정보를 포함하여 상기 캡처 영상 파일을 생성할 수 있다.
상기 입력이 드래그 입력이 아닌 경우(상기 입력이 포스 터치 입력 및 드래그 입력이 아닌 경우), 상기 영상 처리 모듈(200)은 동작 680에서, 상기 입력에 대응되는 기능을 수행할 수 있다. 일 예로, 상기 입력이 캡처 입력인 경우, 상기 영상 처리 모듈(200)은 상기 복수 개의 AR 객체들과 관련된 정보들 및 캡처 영상을 포함하여 상기 캡처 영상 파일을 생성할 수 있다. 다른 예로, 상기 입력이 핀치 인(pinch in) 또는 핀치 아웃(pinch out) 입력인 경우, 상기 영상 처리 모듈(200)은 상기 화면을 축소 또는 확대시킬 수 있다.
상술한 동작 620과 관련하여, 상기 메인 AR 객체를 지정(또는 설정)하기 위한 사용자 입력의 방식은 포스 터치 입력으로만 국한되는 것은 아니다. 다양한 실시예에 따르면, 상기 메인 AR 객체를 지정(또는 설정)하기 위한 사용자 입력으로 화면 상의 일지점을 지정된 시간 이상 터치하는 롱 프레스 터치 입력(long pressed touch input)이 사용될 수도 있다. 또한, 상술한 동작 650과 관련하여, 상기 복수 개의 AR 객체들 중 저장하길 원하는 AR 객체를 선택하는 입력 방식이 드래그 입력에만 국한되는 것은 아니다. 다양한 실시예에 따르면, 상기 복수 개의 AR 객체들 중 저장하길 원하는 AR 객체를 선택하는 사용자 입력으로 화면 상의 적어도 두 지점을 터치하는 멀티 터치 입력(multi touch input)이 사용될 수도 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 동작 640 및 동작 670의 수행을 생략할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 포스 터치 입력의 수신에 대응하여 상기 복수 개의 AR 객체들 중 선택된 AR 객체를 메인 AR 객체로 설정하는 동작 630, 또는 상기 드래그 입력의 수신에 대응하여 상기 복수 개의 AR 객체들 중 선택된 적어도 하나의 AR 객체의 개수를 확인하는 동작 660까지만 수행할 수도 있다. 이 경우, 상기 영상 처리 모듈(200)은 동작 680에서, 상기 입력이 캡처 입력인 경우에 동작 640 또는 동작 670을 수행하여, 상기 메인 AR 객체를 나타내는 정보를 포함하여 상기 캡처 영상 파일을 생성하거나 상기 확인된 AR 객체의 개수 정보를 포함하여 상기 캡처 영상 파일을 생성할 수 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 상기 포스 터치 입력이 수신되지 않더라도 상기 복수 개의 AR 객체들의 우선 순위에 기반하여 상기 복수 개의 AR 객체들 중 어느 하나를 메인 AR 객체로 설정할 수 있다. 상기 우선 순위는 예를 들어, 사용자의 선호도 정보(예: 검색 이력), 추천 정보 등에 의해 설정될 수 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 상기 드래그 입력이 수신되지 않더라도 상기 복수 개의 AR 객체들의 개수를 확인하고, 확인된 개수에 대한 정보를 포함하여 상기 캡처 영상 파일을 생성할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 화면에 출력된 상기 복수 개의 AR 객체들의 전체 개수에 대한 정보를 상기 캡처 영상 파일의 확장 영역에 추가하여 상기 캡처 영상 파일을 생성할 수 있다. 또한, 상기 화면에 하나의 AR 객체가 포함된 경우, 상기 영상 처리 모듈(200)은 상기 AR 객체의 개수가 하나임을 나타내는 정보를 포함하여 상기 캡처 영상 파일을 생성할 수 있다. 이 때, 상기 영상 처리 모듈(200)은 상기 하나의 AR 객체를 메인 AR 객체로 설정할 수도 있다.
상술한 바와 같이, 다양한 실시 예에 따르면, 전자 장치(예: 전자 장치(101))의 영상 처리 방법은, 영상을 획득하는 동작, 상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 전자 장치의 디스플레이(예: 표시 장치(160))에 출력하는 동작, 상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하는 동작, 및 상기 파일을 상기 전자 장치의 메모리(예: 메모리(130))에 저장하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상을 획득하는 동작은, 상기 전자 장치에 포함된 카메라(예: 카메라 모듈(180))로부터 상기 카메라가 촬영한 영상을 상기 영상으로 획득하는 동작, 또는 상기 전자 장치에 포함된 통신 모듈(예: 통신 모듈(190))을 통해 연결된 외부 전자 장치로부터 상기 영상을 획득하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 파일을 생성하는 동작은, 상기 적어도 하나의 AR 객체와 관련된 정보를 확장 영상 파일 포맷을 가지는 상기 파일의 확장 영역에 저장하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지이면서 텍스트 이미지가 아니면, 상기 부가 정보의 이미지 데이터를 상기 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지이면, 상기 부가 정보에서 텍스트를 추출하고, 추출된 텍스트를 상기 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지가 아니면, 상기 부가 정보를 상기 전자 장치에 포함된 통신 모듈을 통해 연결된 외부 전자 장치 또는 상기 메모리에 저장하고, 상기 부가 정보의 저장 위치 정보를 상기 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 부가 정보가 상기 외부 전자 장치에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 외부 전자 장치에 접속하기 위한 링크 정보로 설정하는 동작, 및 상기 부가 정보가 상기 메모리에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 메모리의 저장 주소 정보로 설정하는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하는 상태에서, 상기 화면 상의 일지점에서 지정된 시간 동안 지정된 크기 이상의 압력이 가해지는 사용자 입력을 수신하는 동작, 상기 복수 개의 AR 객체들 중 상기 사용자 입력의 입력 위치에 대응하는 AR 객체를 메인 AR 객체로 설정하는 동작, 및 상기 AR 객체가 상기 메인 AR 객체임을 나타내는 정보를 상기 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하는 상태에서, 상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하는 동작, 상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체의 개수를 확인하는 동작, 및 상기 확인된 적어도 하나의 AR 객체의 개수에 대한 정보를 상기 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 영상 처리 방법은, 상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하는 상태에서, 상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하는 동작, 상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체를 선택하는 동작, 및 상기 선택된 적어도 하나의 AR 객체와 관련된 정보 외에 다른 AR 객체와 관련된 정보를 상기 AR 객체와 관련된 정보에서 제외시키는 동작을 더 포함할 수 있다.
도 7은 본 발명의 일 실시예에 따른 AR 상황을 설명하기 위한 도면이다.
도 7을 참조하면, 전자 장치(101)는 영상 처리 모듈(200)의 영상 표시 모듈(250)을 통해, 증강 현실이 구현된 제1 화면(710)을 표시 장치(160)에 출력할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)의 영상 획득 모듈(210)은 카메라 모듈(180)로부터 촬영 영상(711)(예: 카메라 프리뷰 영상)을 획득하고, 상기 영상 처리 모듈(200)의 증강 현실 구현 모듈(230)은 획득된 영상(711)을 분석하여, 상기 획득된 영상(711)에서 객체들을 인식 및 추출하고, 추출된 객체들 중에서 소정 개수의 관심 객체를 결정할 수 있다. 또한, 상기 증강 현실 구현 모듈(230)은 결정된 관심 객체에 대한 부가 정보를 획득하고, 상기 관심 객체에 대한 부가 정보의 존재를 나타내는 AR 객체(예: 제1 AR 객체(712), 제2 AR 객체(713), 또는 제3 AR 객체(714))를 생성하고, 상기 획득된 영상(711)에 상기 AR 객체(예: 제1 AR 객체(712), 제2 AR 객체(713), 또는 제3 AR 객체(714))를 추가(또는 합성)할 수 있다. 이 후, 상기 영상 표시 모듈(250)은 상기 획득된 영상(711)에 상기 AR 객체(예: 제1 AR 객체(712), 제2 AR 객체(713), 또는 제3 AR 객체(714))가 추가된 증강 현실이 구현된 제1 화면(710)을 표시 장치(160)에 출력할 수 있다.
상기 영상 처리 모듈(200)은 상기 제1 화면(710)에서 어느 하나의 AR 객체(예: 제2 AR 객체(713))를 선택하는 사용자 입력(701)(예: 터치 입력)이 수신되면, 상기 선택된 AR 객체(예: 제2 AR 객체(713))에 대응하는 관심 객체에 대한 부가 정보(731)를 포함하는 제2 화면(730)을 표시 장치(160)에 출력할 수 있다.
상기 영상 처리 모듈(200)은 상기 제1 화면(710)에 대한 캡처 입력이 수신되면, 상기 제1 화면(710)의 캡처 영상 및 상기 제1 화면(710)에 포함된 상기 AR 객체(예: 제1 AR 객체(712), 제2 AR 객체(713), 또는 제3 AR 객체(714))와 관련된 정보를 포함하여 캡처 영상 파일을 생성할 수 있다. 여기서, 상기 AR 객체와 관련된 정보는 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보(731), 상기 부가 정보(731)의 종류에 대한 정보, 상기 부가 정보(731)의 저장 위치 정보, 상기 AR 객체의 위치 정보, 상기 AR 객체의 개수 정보, 또는 상기 AR 객체가 메인 AR 객체인지에 대한 정보 등을 포함할 수 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 상기 획득된 영상(711)을 이용하여 상기 캡처 영상 파일을 생성할 수 있다. 예를 들어, 상기 영상 처리 모듈(200)은 상기 획득된 영상(711) 및 상기 제1 화면(710)에 포함된 상기 AR 객체(예: 제1 AR 객체(712), 제2 AR 객체(713), 또는 제3 AR 객체(714))와 관련된 정보를 포함하여 캡처 영상 파일을 생성할 수 있다. 이 경우, 상기 영상 처리 모듈(200)은 상기 캡처 영상 파일의 검색 시, 카메라 모듈(180)로부터 획득한 촬영 원본 영상 즉, 상기 획득된 영상(711)을 사용자에게 그대로 제공할 수도 있으며, 상기 캡처 영상 파일에 포함된 AR 객체와 관련된 정보를 이용하여 AR 객체(예: 제1 AR 객체(712), 제2 AR 객체(713), 또는 제3 AR 객체(714))를 생성하고, 생성된 AR 객체를 상기 획득된 영상(711)에 합성하여 사용자에게 제공할 수도 있다.
일 실시예에 따르면, 상기 영상 처리 모듈(200)은 상기 제1 화면(710)에 대한 캡처 입력이 수신되면, 상기 AR 객체와 관련된 정보 예컨대, 상기 AR 객체에 대응하는 관심 객체에 대한 부가 정보를 백그라운드(background)로 획득(또는 로딩(loading))하여, 상기 캡처 영상 파일에 추가할 수 있다.
도 8은 본 발명의 일 실시예에 따른 캡처 영상 파일의 구조를 설명하기 위한 도면이다.
도 8을 참조하면, 전자 장치(101)는 증강 현실이 구현된 화면(예: 제1 화면(710))의 캡처 시, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 화면에 포함된 AR 객체와 관련된 정보를 포함하여 캡처 영상 파일을 생성할 수 있다. 상기 캡처 영상 파일의 구조(800)를 보면, 상기 캡처 영상 파일은 메인 영역(810)과 확장 영역(830)으로 구분될 수 있다.
상기 메인 영역(810)은 상기 메인 영역(810)의 시작을 나타내는 제1 태그 정보(811)와 상기 메인 영역(810)의 끝을 나타내는 제2 태그 정보(812)에 의해 구분되고, 상기 제1 태그 정보(811)와 상기 제2 태그 정보(812) 사이에 상기 화면에 대한 캡처 영상의 데이터(813)(예: 이미지 스트림(image stream))가 저장될 수 있다.
상기 확장 영역(830)은 상기 확장 영역(830)의 시작을 나타내는 제3 태그 정보(831)와 상기 확장 영역(830)의 끝을 나타내는 제4 태그 정보(832)에 의해 구분되고, 상기 제3 태그 정보(831)와 상기 제4 태그 정보(832) 사이에 상기 화면에 포함된 AR 객체의 개수 정보(833) 및 상기 화면에 포함된 각각의 AR 객체와 관련된 정보(834)가 저장될 수 있다.
상기 각각의 AR 객체와 관련된 정보(834)는 상기 각각의 AR 객체와 관련된 정보(834)의 시작을 나타내는 제5 태그 정보(834a)와 상기 각각의 AR 객체와 관련된 정보(834)의 끝을 나타내는 제6 태그 정보(834b)에 의해 구분되고, 상기 제5 태그 정보(834a)와 상기 제6 태그 정보(834b) 사이에 상기 각각의 AR 객체가 메인 AR 객체인지를 나타내는 정보(834c), 상기 각각의 AR 객체의 위치 정보(834d), 상기 각각의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 데이터(834f) 및 상기 부가 정보의 종류에 대한 정보(834e)가 저장될 수 있다. 예를 들어, 상기 부가 정보의 종류가 이미지인 경우, 상기 부가 정보의 데이터(834f)는 상기 부가 정보의 이미지 스트림이 될 수 있고, 상기 부가 정보(834f)의 종류에 대한 정보(834e)는 상기 이미지 스트림의 데이터 형식이 될 수 있다.
도 9는 본 발명의 일 실시예에 따른 캡처 영상 파일의 검색과 관련된 기능을 설명하기 위한 도면이다.
도 9를 참조하면, 전자 장치(101)는 증강 현실이 구현된 화면(예: 제1 화면(710))의 캡처 시, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 화면에 포함된 AR 객체와 관련된 정보를 포함하여 캡처 영상 파일을 생성하고, 생성된 캡처 영상 파일을 메모리(130)에 저장할 수 있다. 또한, 상기 전자 장치(101)는 메모리(130)에 저장된 상기 캡처 영상 파일을 이미지 검색 어플리케이션(예: 갤러리 어플리케이션) 등을 통해 검색할 수 있다. 예를 들어, 상기 이미지 검색 어플리케이션이 실행되면, 상기 전자 장치(101)는 메모리(130)에 저장된 영상 파일들의 썸네일 이미지들을 포함하는 제1 화면(910)을 표시 장치(160)에 출력할 수 있다. 일 실시예에 따르면, 상기 AR 객체와 관련된 정보를 가진 캡처 영상 파일의 썸네일 이미지의 경우 일반적인 캡처 파일의 썸네일 이미지와는 다르게 상기 AR 객체와 관련된 정보를 같이 표현해 줄 수 있다는 의미로 썸네일 이미지 상에 상기 AR 객체와 관련된 정보가 존재함을 나타내는 아이콘이 출력될 수 있다.
상기 전자 장치(101)는 상기 제1 화면(910)에 포함된 영상 파일들의 썸네일 이미지들 중 캡처 영상 파일의 썸네일 이미지(911)를 선택하는 제1 사용자 입력(901)을 수신하면, 선택된 썸네일 이미지(911)에 대응하는 캡처 영상 파일에 포함된 캡처 영상(931)을 획득할 수 있다. 또한, 상기 전자 장치(101)는 상기 캡처 영상 파일의 확장 영역에 저장된 AR 객체와 관련된 부가 정보들을 조회하고, 상기 부가 정보가 존재하는 경우 상기 부가 정보를 이용하여 상기 캡처 영상(931)에 합성될 적어도 하나의 AR 객체(예: 제1 AR 객체(932), 제2 AR 객체(933), 또는 제3 AR 객체(934))를 생성하고, 상기 적어도 하나의 AR 객체가 추가(또는 합성)된 제2 화면(930)을 표시 장치(160)에 출력할 수 있다.
상기 전자 장치(101)는 상기 제2 화면(930)에 포함된 어느 하나의 AR 객체(예: 제2 AR 객체(933))를 선택하는 제2 사용자 입력(903)을 수신하면, 상기 선택된 AR 객체(예: 제2 AR 객체(933))에 대응하는 관심 객체에 대한 부가 정보(951)를 캡처 영상 파일의 확장 영역에서 획득하고, 획득된 부가 정보(951)를 포함하는 제3 화면(950)을 표시 장치(160)에 출력할 수 있다.
상기 전자 장치(101)는 상기 캡처 영상 파일에 포함된 상기 AR 객체와 관련된 정보를 기반으로 상기 관심 객체에 대한 부가 정보(951)를 획득할 수 있다. 일 예로, 상기 전자 장치(101)는 상기 AR 객체와 관련된 정보에 상기 관심 객체에 대한 부가 정보(951)의 데이터가 포함된 경우(예: 상기 부가 정보(951)의 종류가 이미지인 경우), 상기 부가 정보(951)의 데이터를 이용하여 상기 부가 정보(951)(예: 이미지)를 획득할 수 있다. 다른 예로, 상기 전자 장치(101)는 상기 AR 객체와 관련된 정보에 상기 관심 객체에 대한 부가 정보(951)에서 추출된 텍스트가 포함된 경우(예: 상기 부가 정보(951)의 종류가 텍스트 이미지인 경우), 상기 추출된 텍스트를 이용하여 상기 부가 정보(951)(예: 텍스트 이미지)를 획득할 수 있다. 또 다른 예로, 상기 전자 장치(101)는 상기 AR 객체와 관련된 정보에 상기 관심 객체에 대한 부가 정보(951)의 저장 위치 정보가 포함된 경우(예: 상기 부가 정보(951)의 종류가 동영상, 문서, 또는 이미지 검색 어플리케이션을 통해 화면에 표시하기 어려운 형식의 데이터 종류인 경우), 상기 부가 정보(951)의 저장 위치 정보가 링크 정보를 포함하면 상기 링크 정보에 대응하는 외부 서버로 접속하여 상기 부가 정보(951)를 획득하고, 상기 부가 정보(951)의 저장 위치 정보가 메모리(130)의 저장 주소 정보를 포함하면 상기 메모리(130)로부터 상기 부가 정보(951)를 획득할 수 있다.
도 10은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들이 포함된 화면에서의 제1 사용자 입력에 대한 처리 방법을 설명하기 위한 도면이다.
도 10을 참조하면, 전자 장치(101)는 복수 개의 AR 객체들(예: 제1 AR 객체(1010), 제2 AR 객체(1020), 제3 AR 객체(1030), 또는 제4 AR 객체(1040))이 포함된 화면(1000)에서 어느 하나의 AR 객체를 선택하는 제1 사용자 입력(1090)을 수신하면, 선택된 AR 객체(예: 제2 AR 객체(1020))를 메인 AR 객체로 설정할 수 있다. 상기 제1 사용자 입력(1090)은 예를 들어, 상기 화면(1000) 상의 일지점에서 지정된 시간 동안 지정된 크기 이상의 압력이 가해지는 포스 터치 입력을 포함할 수 있다.
상기 전자 장치(101)는 제1 상태(1001)에서와 같이, 상기 화면(1000)에서 상기 제1 사용자 입력(1090)이 발생하면, 상기 제1 사용자 입력(1090)의 입력 위치에 대응하는 AR 객체(예: 제2 AR 객체(1020))를 메인 AR 객체로 설정할 수 있다. 또한, 상기 전자 장치(101)는 상기 메인 AR 객체가 설정되면, 제2 상태(1003)에서와 같이, 상기 메인 AR 객체가 설정되었음을 알리는 표시 객체(1021)를 상기 화면(1000)에 표시할 수 있다. 도 10에서는 상기 표시 객체(1021)가 상기 메인 AR 객체로 설정된 제2 AR 객체(1020) 상에 표시된 상태를 나타내지만, 이에 한정되는 것은 아니다. 다양한 실시예에 따르면, 상기 표시 객체(1021)는 상기 제2 AR 객체(1020)가 상기 메인 AR 객체로 설정되었음을 알리는 텍스트를 포함하여 상기 화면(1000)의 일부 영역(예: 상단 영역)에 표시될 수도 있다. 또한, 상기 전자 장치(101)는 상기 메인 AR 객체로 설정된 AR 객체(예: 제2 AR 객체(1020))의 그래픽적 요소를 변경할 수도 있다. 예를 들어, 상기 전자 장치(101)는 상기 메인 AR 객체로 설정된 AR 객체(예: 제2 AR 객체(1020))와 다른 AR 객체(예: 제1 AR 객체(1010), 제3 AR 객체(1030), 또는 제4 AR 객체(1040))가 구별될 수 있도록 상기 메인 AR 객체로 설정된 AR 객체의 형상, 색상, 테두리의 두께, 또는 테두리의 색상 등을 변경할 수 있다.
도 11은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들이 포함된 화면에서의 제2 사용자 입력에 대한 처리 방법을 설명하기 위한 도면이다.
도 11을 참조하면, 전자 장치(101)는 복수 개의 AR 객체들(예: 제1 AR 객체(1110), 제2 AR 객체(1120), 제3 AR 객체(1130), 또는 제4 AR 객체(1140))이 포함된 화면(1100)에서 적어도 하나의 AR 객체를 선택하는 제2 사용자 입력(1190)을 수신하면, 선택된 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))를 식별하고 그 개수를 확인할 수 있다. 상기 제2 사용자 입력(1190)은 예를 들어, 상기 화면(1100) 상의 일지점(시작 지점)에서부터 타지점(종료 지점)까지 연속된(손가락 등의 터치 객체가 상기 화면에서 떨어지지 않고 이어지는) 드래그 입력을 포함할 수 있다.
상기 전자 장치(101)는 제1 상태(1101)에서와 같이, 상기 화면(1100)에서 상기 제2 사용자 입력(1190)이 발생하면, 상기 제2 사용자 입력(1190)의 입력 위치에 대응하는 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))를 식별하고 그 개수를 확인할 수 있다. 예를 들어, 상기 전자 장치(101)는 상기 화면(1100)에 출력된 복수 개의 AR 객체들(예: 제1 AR 객체(1110), 제2 AR 객체(1120), 제3 AR 객체(1130), 또는 제4 AR 객체(1140)) 중 상기 입력 위치에 대응하는 입력 영역(1191)(상기 드래그 입력의 시작 지점과 종료 지점으로 결정된 사각 형상의 영역) 내에 포함된 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))를 식별하고 그 개수를 확인할 수 있다.
상기 전자 장치(101)는 상기 제2 사용자 입력(1190)에 의해 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))가 선택되면, 제2 상태(1103)에서와 같이, 상기 적어도 하나의 AR 객체가 선택되었음을 알리는 표시 객체(1121, 1131)를 상기 화면(1100)에 표시할 수 있다. 도 11에서는 선택된 제2 AR 객체(1120) 및 제3 AR 객체(1130) 상에 각각 제1 표시 객체(1121) 및 제2 표시 객체(1131)가 표시된 상태를 나타내지만, 이에 한정되는 것은 아니다. 다양한 실시예에 따르면, 전자 장치(101)는 상기 제2 AR 객체(1120) 및 상기 제3 AR 객체(1130)가 선택되었음을 알리는 텍스트를 포함하는 하나의 표시 객체를 상기 화면(1100)의 일부 영역(예: 상단 영역)에 표시할 수도 있다. 또한, 상기 전자 장치(101)는 선택된 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))의 그래픽적 요소를 변경할 수도 있다. 예를 들어, 상기 전자 장치(101)는 상기 선택된 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))와 다른 AR 객체(예: 제1 AR 객체(1110) 및 제4 AR 객체(1140))가 구별될 수 있도록 상기 선택된 적어도 하나의 AR 객체의 형상, 색상, 테두리의 두께, 또는 테두리의 색상 등을 변경할 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는 상기 제2 사용자 입력(1190)에 의해 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))가 선택되면, 상기 선택된 적어도 하나의 AR 객체와 관련된 정보만을 캡처 영상 파일에 추가할 수도 있다. 예를 들어, 상기 전자 장치(101)는 상기 선택된 적어도 하나의 AR 객체 외의 다른 AR 객체(예: 제1 AR 객체(1110) 및 제4 AR 객체(1140))와 관련된 정보는 상기 캡처 영상 파일에 추가하지 않을 수 있다.
도 12는 본 발명의 일 실시예에 따른 복수 개의 AR 객체들과 관련된 정보를 포함하는 캡처 영상 파일의 구조를 설명하기 위한 도면이다.
도 12를 참조하면, 전자 장치(101)는 복수 개의 AR 객체들이 포함된 화면의 캡처 시, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 화면에 포함된 복수 개의 AR 객체들과 관련된 정보들을 포함하여 캡처 영상 파일을 생성할 수 있다. 상기 캡처 영상 파일의 구조(1200)를 보면, 상기 캡처 영상 파일은 메인 영역(1210)과 확장 영역(1230)으로 구분될 수 있다.
상기 메인 영역(1210)은 상기 메인 영역(1210)의 시작을 나타내는 제1 태그 정보(1211)와 상기 메인 영역(1210)의 끝을 나타내는 제2 태그 정보(1212)에 의해 구분되고, 상기 제1 태그 정보(1211)와 상기 제2 태그 정보(1212) 사이에 상기 화면에 대한 캡처 영상의 데이터(1213)(예: 이미지 스트림)가 저장될 수 있다.
상기 확장 영역(1230)은 상기 확장 영역(1230)의 시작을 나타내는 제3 태그 정보(1231)와 상기 확장 영역(1230)의 끝을 나타내는 제4 태그 정보(1232)에 의해 구분되고, 상기 제3 태그 정보(1231)와 상기 제4 태그 정보(1232) 사이에 상기 화면에 포함된 복수 개의 AR 객체들의 개수 정보(1233) 및 각각의 AR 객체와 관련된 정보(1234, 1235)가 저장될 수 있다.
상기 각각의 AR 객체와 관련된 정보(1234, 1235)는 상기 각각의 AR 객체와 관련된 정보(1234, 1235)의 시작을 나타내는 제5 태그 정보(1234a, 1235a)와 상기 각각의 AR 객체와 관련된 정보(1234, 1235)의 끝을 나타내는 제6 태그 정보(1234b, 1235b)에 의해 구분되고, 상기 제5 태그 정보(1234a, 1235a)와 상기 제6 태그 정보(1234b, 1235b) 사이에 상기 각각의 AR 객체가 메인 AR 객체인지를 나타내는 정보(1234c, 1235c), 상기 각각의 AR 객체의 위치 정보(1234d, 1235d), 상기 각각의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 데이터(1234f, 1235f) 및 상기 부가 정보의 종류에 대한 정보(1234e, 1235e)가 저장될 수 있다. 도 12에서는, 상기 확장 영역(1230)에 제1 AR 객체와 관련된 정보(1234) 및 메인 AR 객체로 설정된 제2 AR 객체와 관련된 정보(1235)가 저장된 상태를 나타낸다.
도 13은 본 발명의 일 실시예에 따른 복수 개의 AR 객체들 중 메인 AR 객체를 설정하는 방법을 설명하기 위한 도면이다.
도 13을 참조하면, 전자 장치(101)는 복수 개의 AR 객체들(예: 제1 AR 객체(1310), 제2 AR 객체(1320), 제3 AR 객체(1330), 또는 제4 AR 객체(1340))이 포함된 화면(1300)에서 적어도 하나의 AR 객체(예: 제2 AR 객체(1320) 및 제3 AR 객체(1330))가 선택된 후, 상기 화면(1300)에 대한 캡처 입력이 수신되면, 상기 화면(1300)에 대한 캡처 영상 및 상기 선택된 적어도 하나의 AR 객체(예: 제2 AR 객체(1120) 및 제3 AR 객체(1130))와 관련된 정보를 포함하는 캡처 영상 파일을 생성할 수 있다.
상기 전자 장치(101)는 제1 상태(1301)에서와 같이, 상기 화면(1300)에 포함된 복수 개의 AR 객체들(예: 제1 AR 객체(1310), 제2 AR 객체(1320), 제3 AR 객체(1330), 또는 제4 AR 객체(1340)) 중 적어도 하나의 AR 객체(예: 제2 AR 객체(1320) 및 제3 AR 객체(1330))가 선택되고, 상기 화면(1300)에 대한 캡처 입력이 수신되면, 제2 상태(1303)에서와 같이, 상기 화면(1300)이 캡처되었음을 알리는 제1 표시 객체(1380)를 상기 화면(1300)의 일부 영역에 표시할 수 있다. 또한, 상기 전자 장치(101)는 상기 적어도 하나의 AR 객체가 복수 개인 경우, 어느 하나의 AR 객체를 메인 AR 객체로 선택할 수 있도록 하는 유저 인터페이스를 제공할 수 있다. 예를 들어, 도 13의 제2 상태(1303)에서와 같이, 상기 전자 장치(101)는 상기 화면(1300)의 일부 영역(예: 하단 영역)에 제2 표시 객체(1390)를 출력할 수 있다. 상기 제2 표시 객체(1390)는 예를 들어, AR 객체들 각각에 대응하는 항목들(1391, 1392)을 포함하는 리스트 객체 및 상기 항목들(1391, 1392) 중 어느 하나를 선택하도록 유도하는 선택 박스 객체(1393)를 포함할 수 있다. 상기 제2 표시 객체(1390)를 통해 어느 하나의 AR 객체에 대응하는 항목이 선택되면, 상기 전자 장치(101)는 선택된 항목에 대응하는 AR 객체를 메인 AR 객체로 설정할 수 있다.
도 14는 본 발명의 일 실시예에 따른 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 저장 위치 정보를 포함하는 캡처 영상 파일의 구조를 설명하기 위한 도면이다.
도 14를 참조하면, 전자 장치(101)는 화면의 캡처 시, 화면에 포함된 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류가 이미지가 아닌 경우, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 관심 객체에 대한 부가 정보의 저장 위치 정보를 포함하여 캡처 영상 파일을 생성할 수 있다. 또한, 전자 장치(101)는 화면의 캡처 시, 상기 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지인 경우, 상기 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 텍스트 이미지에서 추출된 텍스트를 포함하여 캡처 영상 파일을 생성할 수 있다. 상기 캡처 영상 파일의 구조(1400)를 보면, 상기 캡처 영상 파일은 메인 영역(1410)과 확장 영역(1430)으로 구분될 수 있다.
상기 메인 영역(1410)은 상기 메인 영역(1410)의 시작을 나타내는 제1 태그 정보(1411)와 상기 메인 영역(1410)의 끝을 나타내는 제2 태그 정보(1412)에 의해 구분되고, 상기 제1 태그 정보(1411)와 상기 제2 태그 정보(1412) 사이에 상기 화면에 대한 캡처 영상의 데이터(1413)(예: 이미지 스트림)가 저장될 수 있다.
상기 확장 영역(1430)은 상기 확장 영역(1430)의 시작을 나타내는 제3 태그 정보(1431)와 상기 확장 영역(1430)의 끝을 나타내는 제4 태그 정보(1432)에 의해 구분되고, 상기 제3 태그 정보(1431)와 상기 제4 태그 정보(1432) 사이에 상기 화면에 포함된 AR 객체의 개수 정보(1433) 및 각각의 AR 객체와 관련된 정보(1434, 1435)가 저장될 수 있다.
상기 각각의 AR 객체와 관련된 정보(1434, 1435)는 상기 각각의 AR 객체와 관련된 정보(1434, 1435)의 시작을 나타내는 제5 태그 정보(1434a, 1435a)와 상기 각각의 AR 객체와 관련된 정보(1434, 1435)의 끝을 나타내는 제6 태그 정보(1434b, 1435b)에 의해 구분되고, 상기 제5 태그 정보(1434a, 1435a)와 상기 제6 태그 정보(1434b, 1435b) 사이에 상기 각각의 AR 객체가 메인 AR 객체인지를 나타내는 정보(1434c, 1435c), 상기 각각의 AR 객체의 위치 정보(1434d, 1435d), 및 상기 각각의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류에 대한 정보(1434e, 1435e)가 저장될 수 있다. 또한, 상기 각각의 AR 객체와 관련된 정보(1434, 1435)는 상기 부가 정보의 종류에 대한 정보(1434e, 1435e)에 따라, 상기 부가 정보에서 추출된 텍스트(1434f) 또는 상기 부가 정보의 저장 위치 정보(1435f)가 저장될 수 있다. 도 14에서는 상기 확장 영역(1430)에 제1 AR 객체와 관련된 정보(1434) 및 제2 AR 객체와 관련된 정보(1435)가 저장된 상태를 나타내는데, 여기서 상기 제1 AR 객체에 대응하는 제1 관심 객체에 대한 부가 정보의 종류가 텍스트 이미지이고, 상기 제2 AR 객체에 대응하는 제2 관심 객체에 대한 부가 정보의 종류가 문서(예: pdf 문서)인 상태를 나타낸다. 이에 따라, 상기 제1 AR 객체와 관련된 정보(1434)에 상기 제1 관심 객체에 대한 부가 정보로부터 추출된 텍스트(1434f)가 저장되고, 상기 부가 정보의 종류에 대한 정보(1434e)에 텍스트 형식임을 나타내는 정보가 저장되고, 상기 제2 AR 객체와 관련된 정보(1435)에 상기 제2 관심 객체에 대한 부가 정보의 저장 위치 정보(1435f)가 저장되고, 상기 부가 정보의 종류에 대한 정보(1435e)에 문서 형식(예: pdf 문서 형식)임을 나타내는 정보가 저장될 수 있다.
도 15a 및 도 15b는 본 발명의 일 실시예에 따른 캡처 영상 파일의 썸네일 이미지(thumbnail image)를 설명하기 위한 도면이다.
도 15a 및 도 15b를 참조하면, 전자 장치(101)는 증강 현실이 구현된 화면의 캡처 시, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 화면에 포함된 AR 객체와 관련된 정보를 포함하여 캡처 영상 파일을 생성하고, 생성된 캡처 영상 파일을 메모리(130)에 저장할 수 있다. 또한, 상기 전자 장치(101)는 메모리(130)에 저장된 상기 캡처 영상 파일을 이미지 검색 어플리케이션(예: 갤러리 어플리케이션) 등을 통해 검색할 수 있다. 예를 들어, 상기 이미지 검색 어플리케이션이 실행되면, 상기 전자 장치(101)는 메모리(130)에 저장된 영상 파일들의 썸네일 이미지들을 포함하는 화면(1500)을 표시 장치(160)에 출력할 수 있다.
상기 전자 장치(101)는 메모리(130)에 저장된 영상 파일들 중 증강 현실이 구현된 화면에 대한 제1 캡처 영상 파일과 일반 영상 파일(일반 화면에 대한 제2 캡처 영상 파일 포함)이 구별되도록 상기 제1 캡처 영상 파일의 제1 썸네일 이미지(1510)를 다른 일반 영상 파일의 제2 썸네일 이미지와 다르게 생성할 수 있다.
일 실시예에 따르면, 도 15a에서와 같이, 상기 전자 장치(101)는 상기 제1 썸네일 이미지(1510)의 일부 영역(예: 상단 좌측 영역)에 상기 제1 썸네일 이미지(1510)에 대응하는 영상이 AR 상황에서 캡처된 영상(AR 객체와 관련된 정보를 포함하는 캡처 영상)임을 나타내는 표시 객체(1511)(예: 아이콘 또는 이미지)를 추가하여 상기 제1 썸네일 이미지(1510)를 생성할 수 있다.
일 실시예에 따르면, 도 15b에서와 같이, 상기 전자 장치(101)는 상기 제1 썸네일 이미지(1510)의 일부 영역(예: 하단 우측 영역)에 상기 제1 캡처 영상 파일에 포함된 AR 객체의 개수 정보를 나타내는 표시 객체(1513)를 추가하여 상기 제1 썸네일 이미지(1510)를 생성할 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는 상기 제1 썸네일 이미지(1510)의 일부 영역(예: 하단 우측 영역)에 상기 제1 캡처 영상 파일에 포함된 관심 객체에 대한 부가 정보의 썸네일 이미지를 추가하여 상기 제1 썸네일 이미지(1510)를 생성할 수 있다. 이 때, 상기 제1 캡처 영상 파일에 복수 개의 관심 객체들에 대한 부가 정보들이 포함된 경우, 상기 전자 장치(101)는 상기 복수 개의 관심 객체들에 대한 부가 정보들의 썸네일 이미지들을 해당 AR 객체의 순서대로 나란히 상기 제1 썸네일 이미지(1510)의 일부 영역에 추가할 수 있다. 또한, 상기 전자 장치(101)는 상기 복수 개의 관심 객체들 중 메인 AR 객체에 대응하는 제1 관심 객체에 대한 부가 정보의 제3 썸네일 이미지가 다른 제2 관심 객체에 대한 부가 정보의 제4 썸네일 이미지와 구별되도록, 상기 제3 썸네일 이미지의 그래픽적 요소 예컨대, 형상, 색상, 테두리의 굵기, 또는 테두리의 색상 등을 다르게 설정하여 상기 제1 썸네일 이미지(1510)의 일부 영역에 추가할 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는 상기 제1 썸네일 이미지(1510)의 일부 영역(예: 하단 우측 영역)에 상기 제1 캡처 영상 파일에 포함된 관심 객체에 대한 부가 정보의 종류를 나타내는 이미지를 추가하여 상기 제1 썸네일 이미지(1510)를 생성할 수 있다. 이 때, 상기 제1 캡처 영상 파일에 복수 개의 관심 객체들에 대한 부가 정보들이 포함된 경우, 상기 전자 장치(101)는 상기 복수 개의 관심 객체들에 대한 부가 정보들의 종류를 나타내는 이미지들을 해당 AR 객체의 순서대로 나란히 상기 제1 썸네일 이미지(1510)의 일부 영역에 추가할 수 있다. 또한, 상기 전자 장치(101)는 상기 복수 개의 관심 객체들 중 메인 AR 객체에 대응하는 제1 관심 객체에 대한 부가 정보의 종류를 나타내는 제1 이미지가 다른 제2 관심 객체에 대한 부가 정보의 종류를 나타내는 제2 이미지와 구별되도록, 상기 제1 이미지의 그래픽적 요소 예컨대, 형상, 색상, 테두리의 굵기, 또는 테두리의 색상 등을 다르게 설정하여 상기 제1 썸네일 이미지(1510)의 일부 영역에 추가할 수 있다.
도 16은 본 발명의 일 실시예에 따른 AR 객체와 관련된 정보의 편집 방법을 설명하기 위한 도면이다.
도 16을 참조하면, 전자 장치(101)는 증강 현실이 구현된 화면의 캡처 시, 영상 처리 모듈(200)을 통해, 상기 화면에 대한 캡처 영상 및 상기 화면에 포함된 AR 객체와 관련된 정보를 포함하여 캡처 영상 파일을 생성하고, 생성된 캡처 영상 파일을 메모리(130)에 저장할 수 있다. 또한, 전자 장치(101)는 메모리(130)에 저장된 상기 캡처 영상 파일에 포함된 AR 객체와 관련된 정보를 편집할 수 있다.
상기 전자 장치(101)는 메모리(130)에 저장된 상기 캡처 영상 파일을 이미지 검색 어플리케이션(예: 갤러리 어플리케이션) 등을 통해 검색할 수 있다. 예를 들어, 상기 이미지 검색 어플리케이션이 실행되면, 상기 전자 장치(101)는 제1 상태(1601)에서와 같이, 메모리(130)에 저장된 상기 캡처 영상 파일의 썸네일 이미지(1611)를 포함하는 제1 화면(1610)을 표시 장치(160)에 출력할 수 있다.
상기 전자 장치(101)는 상기 제1 화면(1610)에서 상기 캡처 영상 파일의 썸네일 이미지(1611)를 선택하는 사용자 입력(1620)을 수신하면, 제2 상태(1603)에서와 같이, 선택된 썸네일 이미지(1611)에 대응하는 캡처 영상 파일에 포함된 캡처 영상(1631)에 AR 객체(예: 제1 AR 객체(1632), 제2 AR 객체(1633), 또는 제3 AR 객체(1634))가 추가된 제2 화면(1630)을 표시 장치(160)에 출력할 수 있다.
상기 제2 화면(1630)이 출력된 후 지정된 시간이 경과하거나, 상기 제2 화면(1630)에서 지정된 사용자 입력이 발생하면, 상기 전자 장치(101)는 제3 상태(1605)에서와 같이, 상기 제2 화면(1630)의 일부 영역(예: 하단 영역)에 상기 캡처 영상 파일에 포함된 AR 객체와 관련된 정보를 편집할 수 있는 유저 인터페이스를 제공할 수 있다. 예를 들어, 상기 전자 장치(101)는 상기 제2 화면(1630)의 일부 영역에 편집을 위한 표시 객체(1690)를 출력할 수 있다. 상기 표시 객체(1690)는 예를 들어, AR 객체들 각각에 대응하는 항목들(1691, 1692, 1693)을 포함하는 리스트 객체, 상기 항목들(1691, 1692, 1693) 중 어느 하나를 선택하도록 유도하는 선택 박스 객체(1694), 선택된 항목에 대응하는 AR 객체와 관련된 정보를 삭제하도록 요청하기 위한 제1 버튼(1695), 및 상기 표시 객체(1690)의 출력을 종료하도록 요청하기 위한 제2 버튼(1696)을 포함할 수 있다.
도 16에서는 상기 표시 객체(1690)가 상기 캡처 영상 파일에 포함된 복수 개의 AR 객체들과 관련된 정보들 중 어느 하나를 삭제하는 편집 기능에 대해서만 나타내고 있지만, 상기 표시 객체(1690)를 통한 편집 기능이 이에 한정되는 것은 아니다. 다양한 실시예에 따르면, 상기 편집 기능은 복수 개의 AR 객체들 중 메인 AR 객체를 변경하는 기능을 더 포함할 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는 상기 사용자 입력(1620)에 대응하여 상기 제2 화면(1630)을 표시 장치(160)에 출력하면서, 백그라운드로 상기 캡처 영상 파일에 포함된 AR 객체에 대응하는 관심 객체에 대한 부가 정보를 업데이트할 수 있다. 예를 들어, 상기 전자 장치(101)는 통신 모듈(190)을 통해 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))로부터 상기 관심 객체에 대한 부가 정보의 변경 여부 또는 추가 여부를 확인하고, 변경되거나 추가된 부가 정보가 있는 경우, 상기 외부 전자 장치로부터 변경되거나 추가된 부가 정보를 수신하여 업데이트할 수 있다.
다양한 실시예에 따르면, 상기 전자 장치(101)는 통신 모듈(190)을 통해 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))와 증강 현실이 구현된 화면에 대한 캡처 영상 파일을 공유할 수 있다. 이 경우, 상기 전자 장치(101)는 상기 외부 전자 장치가 상기 캡처 영상 파일에 포함된 AR 객체와 관련된 정보를 인식할 수 있는 장치인지를 판단할 수 있다. 상기 외부 전자 장치가 상기 캡처 영상 파일에 포함된 AR 객체와 관련된 정보를 인식할 수 있는 장치인 경우, 상기 전자 장치(101)는 상기 캡처 영상 파일을 그대로 상기 외부 전자 장치로 전송할 수 있다. 상기 외부 전자 장치가 상기 캡처 영상 파일에 포함된 AR 객체와 관련된 정보를 인식할 수 없는 장치인 경우, 상기 전자 장치(101)는 상기 캡처 영상 파일에서 캡처 영상과 AR 객체와 관련된 정보를 분리하여 따로 상기 외부 전자 장치로 전송할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째", "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101))에 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (20)

  1. 전자 장치에 있어서,
    디스플레이;
    메모리; 및
    상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고,
    상기 프로세서는,
    영상을 획득하고,
    상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 디스플레이에 출력하고,
    상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하고,
    상기 파일을 상기 메모리에 저장하도록 설정되고,
    상기 프로세서는,
    상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류를 판단하고,
    상기 부가 정보의 종류가 이미지가 아니면, 상기 부가 정보를 상기 전자 장치에 포함된 통신 모듈을 통해 연결된 외부 전자 장치 또는 상기 메모리에 저장하고,
    상기 부가 정보의 저장 위치 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키도록 설정된 전자 장치.
  2. 청구항 1에 있어서,
    상기 프로세서는,
    상기 전자 장치에 포함된 카메라로부터 상기 카메라가 촬영한 영상을 상기 영상으로 획득하거나,
    상기 전자 장치에 포함된 통신 모듈을 통해 연결된 외부 전자 장치로부터 상기 영상을 획득하도록 설정된 전자 장치.
  3. 청구항 1에 있어서,
    상기 파일은 확장 영상 파일 포맷을 가지고,
    상기 프로세서는,
    상기 적어도 하나의 AR 객체와 관련된 정보를 상기 파일의 확장 영역에 저장하도록 설정된 전자 장치.
  4. 청구항 1에 있어서,
    상기 프로세서는,
    상기 부가 정보의 종류가 이미지이면서 텍스트 이미지가 아니면, 상기 부가 정보의 이미지 데이터를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키도록 설정된 전자 장치.
  5. 청구항 1에 있어서,
    상기 프로세서는,
    상기 부가 정보의 종류가 텍스트 이미지이면, 상기 부가 정보에서 텍스트를 추출하고, 상기 추출된 텍스트를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키도록 설정된 전자 장치.
  6. 삭제
  7. 청구항 1에 있어서,
    상기 프로세서는,
    상기 부가 정보가 상기 외부 전자 장치에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 외부 전자 장치에 접속하기 위한 링크 정보로 설정하고,
    상기 부가 정보가 상기 메모리에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 메모리의 저장 주소 정보로 설정하는 전자 장치.
  8. 청구항 1에 있어서,
    상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하고,
    상기 프로세서는,
    상기 화면 상의 일지점에서 지정된 시간 동안 지정된 크기 이상의 압력이 가해지는 사용자 입력을 수신하면, 상기 복수 개의 AR 객체들 중 상기 사용자 입력의 입력 위치에 대응하는 AR 객체를 메인 AR 객체로 설정하고, 상기 AR 객체가 상기 메인 AR 객체임을 나타내는 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키도록 설정된 전자 장치.
  9. 청구항 1에 있어서,
    상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하고,
    상기 프로세서는,
    상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하면, 상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체의 개수를 확인하고, 상기 확인된 적어도 하나의 AR 객체의 개수에 대한 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키도록 설정된 전자 장치.
  10. 청구항 1에 있어서,
    상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하고,
    상기 프로세서는,
    상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하면, 상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체를 선택하고, 상기 선택된 적어도 하나의 AR 객체와 관련된 정보 외에 다른 적어도 하나의 AR 객체와 관련된 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에서 제외시키도록 설정된 전자 장치.
  11. 전자 장치의 영상 처리 방법에 있어서,
    영상을 획득하는 동작;
    상기 획득된 영상에 적어도 하나의 증강 현실(AR) 객체가 추가된 화면을 상기 전자 장치의 디스플레이에 출력하는 동작;
    상기 화면에 대한 캡처 입력의 수신에 대응하여, 상기 화면의 캡처 영상 및 상기 적어도 하나의 AR 객체와 관련된 정보를 포함하는 파일을 생성하는 동작; 및
    상기 파일을 상기 전자 장치의 메모리에 저장하는 동작을 포함하고,
    상기 파일을 생성하는 동작은,
    상기 획득된 영상에 포함된 객체들 중 상기 적어도 하나의 AR 객체에 대응하는 관심 객체에 대한 부가 정보의 종류를 판단하는 동작;
    상기 부가 정보의 종류가 이미지가 아니면, 상기 부가 정보를 상기 전자 장치에 포함된 통신 모듈을 통해 연결된 외부 전자 장치 또는 상기 메모리에 저장하는 동작; 및
    상기 부가 정보의 저장 위치 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키는 동작을 포함하는 영상 처리 방법.
  12. ◈청구항 12은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 영상을 획득하는 동작은,
    상기 전자 장치에 포함된 카메라로부터 상기 카메라가 촬영한 영상을 상기 영상으로 획득하는 동작; 또는
    상기 전자 장치에 포함된 통신 모듈을 통해 연결된 외부 전자 장치로부터 상기 영상을 획득하는 동작을 포함하는 영상 처리 방법.
  13. ◈청구항 13은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 파일을 생성하는 동작은,
    상기 적어도 하나의 AR 객체와 관련된 정보를 확장 영상 파일 포맷을 가지는 상기 파일의 확장 영역에 저장하는 동작을 포함하는 영상 처리 방법.
  14. ◈청구항 14은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 파일을 생성하는 동작은,
    상기 부가 정보의 종류가 이미지이면서 텍스트 이미지가 아니면, 상기 부가 정보의 이미지 데이터를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함하는 영상 처리 방법.
  15. ◈청구항 15은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 파일을 생성하는 동작은,
    상기 부가 정보의 종류가 텍스트 이미지이면, 상기 부가 정보에서 텍스트를 추출하고, 상기 추출된 텍스트를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함하는 영상 처리 방법.
  16. 삭제
  17. ◈청구항 17은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 파일을 생성하는 동작은,
    상기 부가 정보가 상기 외부 전자 장치에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 외부 전자 장치에 접속하기 위한 링크 정보로 설정하는 동작; 및
    상기 부가 정보가 상기 메모리에 저장된 경우, 상기 부가 정보의 저장 위치 정보를 상기 메모리의 저장 주소 정보로 설정하는 동작을 더 포함하는 영상 처리 방법.
  18. ◈청구항 18은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하는 상태에서,
    상기 화면 상의 일지점에서 지정된 시간 동안 지정된 크기 이상의 압력이 가해지는 사용자 입력을 수신하는 동작;
    상기 복수 개의 AR 객체들 중 상기 사용자 입력의 입력 위치에 대응하는 AR 객체를 메인 AR 객체로 설정하는 동작; 및
    상기 AR 객체가 상기 메인 AR 객체임을 나타내는 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함하는 영상 처리 방법.
  19. ◈청구항 19은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하는 상태에서,
    상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하는 동작;
    상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체의 개수를 확인하는 동작; 및
    상기 확인된 적어도 하나의 AR 객체의 개수에 대한 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에 포함시키는 동작을 더 포함하는 영상 처리 방법.
  20. ◈청구항 20은(는) 설정등록료 납부시 포기되었습니다.◈
    청구항 11에 있어서,
    상기 적어도 하나의 AR 객체가 복수 개의 AR 객체들을 포함하는 상태에서,
    상기 화면 상의 일지점에서부터 타지점까지 연속된 사용자 입력을 수신하는 동작;
    상기 복수 개의 AR 객체들 중 상기 일지점과 상기 타지점으로 결정된 상기 사용자 입력의 입력 영역 내에 포함된 적어도 하나의 AR 객체를 선택하는 동작; 및
    상기 선택된 적어도 하나의 AR 객체와 관련된 정보 외에 다른 적어도 하나의 AR 객체와 관련된 정보를 상기 적어도 하나의 AR 객체와 관련된 정보에서 제외시키는 동작을 더 포함하는 영상 처리 방법.
KR1020190007036A 2019-01-18 2019-01-18 영상 처리 방법 및 이를 지원하는 전자 장치 KR102543695B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190007036A KR102543695B1 (ko) 2019-01-18 2019-01-18 영상 처리 방법 및 이를 지원하는 전자 장치
PCT/KR2020/000848 WO2020149689A1 (ko) 2019-01-18 2020-01-17 영상 처리 방법 및 이를 지원하는 전자 장치
US17/310,118 US20220101638A1 (en) 2019-01-18 2020-01-17 Image processing method, and electronic device supporting same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190007036A KR102543695B1 (ko) 2019-01-18 2019-01-18 영상 처리 방법 및 이를 지원하는 전자 장치

Publications (2)

Publication Number Publication Date
KR20200090014A KR20200090014A (ko) 2020-07-28
KR102543695B1 true KR102543695B1 (ko) 2023-06-16

Family

ID=71613974

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190007036A KR102543695B1 (ko) 2019-01-18 2019-01-18 영상 처리 방법 및 이를 지원하는 전자 장치

Country Status (3)

Country Link
US (1) US20220101638A1 (ko)
KR (1) KR102543695B1 (ko)
WO (1) WO2020149689A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9589000B2 (en) * 2012-08-30 2017-03-07 Atheer, Inc. Method and apparatus for content association and history tracking in virtual and augmented reality
KR20200100918A (ko) * 2019-02-19 2020-08-27 삼성전자주식회사 카메라를 이용하는 어플리케이션을 통해 다양한 기능을 제공하는 전자 장치 및 그의 동작 방법
US11928783B2 (en) 2021-12-30 2024-03-12 Snap Inc. AR position and orientation along a plane
US11887260B2 (en) * 2021-12-30 2024-01-30 Snap Inc. AR position indicator
US11954762B2 (en) 2022-01-19 2024-04-09 Snap Inc. Object replacement system

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101062961B1 (ko) * 2009-01-07 2011-09-06 광주과학기술원 증강현실 컨텐츠 저작 시스템과 방법 및 상기 방법을 구현하는 프로그램이 기록된 기록매체
US10455096B2 (en) * 2010-08-09 2019-10-22 Decopac, Inc. Decorating system for edible products
KR101661950B1 (ko) * 2010-08-24 2016-10-04 엘지전자 주식회사 휴대 단말기 및 그 동작 제어방법
KR101788046B1 (ko) * 2010-11-03 2017-10-19 엘지전자 주식회사 이동 단말기 및 그 제어방법
KR20120085474A (ko) * 2011-01-24 2012-08-01 삼성전자주식회사 디지털 촬영 장치, 그 제어 방법, 및 컴퓨터 판독가능 저장매체
KR102309175B1 (ko) * 2014-08-29 2021-10-06 삼성전자주식회사 스크랩 정보를 제공하는 전자 장치 및 그 제공 방법
KR101600456B1 (ko) * 2015-12-31 2016-03-08 네이버 주식회사 공간 정보를 제공하기 위한 증강 현실 제공 방법과 시스템, 그리고 기록 매체 및 파일 배포 시스템
US10055895B2 (en) * 2016-01-29 2018-08-21 Snap Inc. Local augmented reality persistent sticker objects
KR20170092408A (ko) * 2016-02-03 2017-08-11 엘지전자 주식회사 디지털 디바이스 및 그 제어 방법
US10805696B1 (en) * 2016-06-20 2020-10-13 Pipbin, Inc. System for recording and targeting tagged content of user interest
US10620817B2 (en) * 2017-01-13 2020-04-14 International Business Machines Corporation Providing augmented reality links to stored files
US10692299B2 (en) * 2018-07-31 2020-06-23 Splunk Inc. Precise manipulation of virtual object position in an extended reality environment

Also Published As

Publication number Publication date
US20220101638A1 (en) 2022-03-31
WO2020149689A1 (ko) 2020-07-23
KR20200090014A (ko) 2020-07-28

Similar Documents

Publication Publication Date Title
KR102543695B1 (ko) 영상 처리 방법 및 이를 지원하는 전자 장치
KR102479052B1 (ko) 복수의 컨트롤러를 이용한 전자 장치의 디스플레이 제어 방법 및 그 장치
KR20200100918A (ko) 카메라를 이용하는 어플리케이션을 통해 다양한 기능을 제공하는 전자 장치 및 그의 동작 방법
KR102652984B1 (ko) 전자 장치 및 그 폴더 구성 방법
KR20200101014A (ko) 아바타 추천 및 다운로드를 지원하는 전자 장치
KR102544477B1 (ko) 전자 장치, 전자 장치 보호 케이스 및 그 전자 장치의 디스플레이 방법
US11194881B2 (en) Electronic device and method for displaying web content in augmented reality mode
KR102569032B1 (ko) 전자 장치 및 그의 컨텐트 제공 방법
KR102604937B1 (ko) 캐릭터를 포함하는 동영상을 생성하기 위한 전자 장치 및 그에 관한 방법
KR102436435B1 (ko) 전자 펜으로부터 수신한 신호에 기초하여 다양한 기능을 실행시키기 위한 전자 장치
US11238622B2 (en) Method of providing augmented reality contents and electronic device therefor
KR102620877B1 (ko) 이미지의 촬영 장소를 추천하는 전자 장치 및 방법
US11334152B2 (en) Electronic device and content executing method using sight-line information thereof
KR20210029526A (ko) 이미지를 합성하기 위한 전자 장치 및 그의 동작 방법
KR20210017063A (ko) 전자 장치 및 그의 필기 입력을 처리하는 방법
KR20200117183A (ko) 메시지를 표시하는 전자 장치 및 그의 동작 방법
US20230185434A1 (en) Method for providing tag, and electronic device for supporting same
KR102570009B1 (ko) Ar 객체 생성 방법 및 전자 장치
US20200341629A1 (en) Electronic device including display device including touch sensor
KR20200101055A (ko) 콘텐츠와 관련된 시각적 객체를 표시하는 방법 및 이를 지원하는 전자 장치
US20230005193A1 (en) Electronic device for providing augmented reality mode, and operating method therefor
US11755171B2 (en) Electronic device and screenshot operation method for electronic device
KR102614026B1 (ko) 복수의 렌즈를 구비하는 전자 장치 및 그 제어 방법
US20220156026A1 (en) Foldable electronic device for displaying user interface and method therefor
US11622097B2 (en) Apparatus and method for providing point of interest (POI) information in 360 video

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right