KR20190059629A - 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법 - Google Patents

전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법 Download PDF

Info

Publication number
KR20190059629A
KR20190059629A KR1020170157425A KR20170157425A KR20190059629A KR 20190059629 A KR20190059629 A KR 20190059629A KR 1020170157425 A KR1020170157425 A KR 1020170157425A KR 20170157425 A KR20170157425 A KR 20170157425A KR 20190059629 A KR20190059629 A KR 20190059629A
Authority
KR
South Korea
Prior art keywords
information
image
category
images
live view
Prior art date
Application number
KR1020170157425A
Other languages
English (en)
Other versions
KR102418992B1 (ko
Inventor
윤여준
곽지연
이래경
모은주
이재익
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020170157425A priority Critical patent/KR102418992B1/ko
Priority to US16/761,988 priority patent/US11308653B2/en
Priority to PCT/KR2018/009936 priority patent/WO2019103285A1/ko
Publication of KR20190059629A publication Critical patent/KR20190059629A/ko
Application granted granted Critical
Publication of KR102418992B1 publication Critical patent/KR102418992B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • H04M1/72522—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/243—Classification techniques relating to the number of classes
    • G06F18/2431—Multiple classes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/17—Image acquisition using hand-held instruments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/70—Labelling scene content, e.g. deriving syntactic or semantic representations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/725—Cordless telephones
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34—Microprocessors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/38—Displays
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/52—Details of telephonic subscriber devices including functional features of a camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

전자 장치가 개시된다. 본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 카메라; 디스플레이; 복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리; 및 상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고, 상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정될 수 있다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법{Electronic device and the Method for providing Augmented Reality Service thereof}
본 문서에서 개시되는 실시 예들은, 증강 현실 서비스를 위한 기술과 관련된다.
증강 현실(AR; augmented reality)이란 사용자가 눈으로 보는 현실 세계에 가상 객체를 겹쳐 보여주는 기술로서, 혼합 현실(mixed reality)라고도 불린다. 증강 현실 기술은 실제 환경과 가상 객체를 혼합하여 보여줌에 따라 보다 가상 객체(또는, 부가 정보)에 대한 현실감을 높일 수 있다.
전자 장치는 카메라를 이용하여 획득된 라이브 뷰(live view) 이미지(현실 세계) 상에 부가 정보를 겹쳐서 디스플레이에 표시할 수 있다. 예를 들어, 전자 장치는 전자 장치의 현 위치 정보를 확인하고 현 위치 정보를 부가 정보를 획득하여, 부가 정보와 라이브 뷰 이미지(live view image)를 디스플레이에 표시할 수 있다.
상기 부가 정보는 예를 들어, 서비스 제공 서버로부터 제공될 수 있는데, 서비스 제공 서버는 동일한 위치에 있는 전자 장치로 동일한 부가 정보를 제공하므로, 동일 위치에 있는 전자 장치는 동일한 부가 정보를 수신할 수 있다. 또한, 사용자가 방문하는 장소는 한정적이므로, 전자 장치가 제공하는 부가 정보는 한정적일 수 있다. 따라서, 사용자는 증강 현실 서비스를 반복 이용할수록 흥미를 잃을 수 있다.
본 문서에 개시되는 다양한 실시 예들은 사용자 취향에 따른 증강 현실 서비스를 제공할 수 있는 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법을 제공한다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 카메라; 디스플레이; 복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리; 및 상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고, 상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정될 수 있다.
또한, 본 문서에 개시되는 일 실시 예에 따른 전자 장치에 의한 증강 현실 서비스 제공 방법은, 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하는 동작; 메모리에 저장된 복수의 촬영 이미지에 대한 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 결정하는 동작; 및 상기 적어도 하나의 이미지와 상기 라이브 뷰 이미지를 디스플레이에 표시하는 동작을 포함할 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 사용자 취향에 따른 증강 현실 서비스를 제공할 수 있다. 이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 구성도를 나타낸다.
도 2는 일 실시 예에 따른 카테고리 체계를 나타낸다.
도 3a는 일 실시 예에 따른 객체 인식 과정의 UI 화면을 나타낸다.
도 3b는 일 실시 예에 따른 인식된 객체에 대응하는 AR 서비스의 부가 정보 결정 방법을 설명하기 위한 도면이다.
도 3c는 일 실시 예에 따른 촬영 이미지로부터 결정된 AR 서비스의 부가 정보를 표시하는 UI 화면을 나타낸다.
도 3d는 일 실시 예에 따른 AR 서비스의 부가 정보를 수동 결정하는 과정의 UI 화면을 나타낸다.
도 4는 일 실시 예에 따른 촬영 이미지를 이용한 선호도 결정 방법을 설명하기 위한 도면이다.
도 5는 일 실시 예에 따른 장소 카테고리에 대응하는 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 6a 내지 도 6c는 일 실시 예에 따른 사용자 취향에 대응하는 프로모션 정보를 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 7은 일 실시 예에 따른 사용자 취향에 따른 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 8은 일 실시 예에 따른 증강 현실 서비스 제공 방법을 도시한 흐름도이다.
도 9는 일 실시 예에 따른 AR 서비스의 부가 정보 결정 방법을 나타낸 흐름도이다.
도 10은 다양한 실시 예에 따른 네트워크 환경 내의 증강 현실 서비스를 제공하는 전자 장치의 구성도를 나타낸다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
다양한 실시 예에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명의 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 일반적으로 사용되는 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미를 가지는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 발명의 실시 예들을 배제하도록 해석될 수 없다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
도 1은 일 실시 예에 따른 전자 장치의 구성도를 나타낸다.
도 1을 참조하면, 일 실시 예에 따르면, 전자 장치(10)는 카메라(110), 통신 모듈(120), 입력 모듈(130), 디스플레이(140), 메모리(150) 및 프로세서(160)를 포함할 수 있다. 일 실시 예에서, 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함할 수 있다. 일 실시 예에서, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다. 일 실시 예에서, 전자 장치(10)는 복수의 장치로 구성될 수 있다. 예를 들어, 전자 장치(10)는 휴대 단말과 서버를 포함할 수 있다. 도 1에 도시된 입출력 관계는 설명의 편의성을 위한 예시에 불과하며, 이에 한정되지 않을 수 있다.
일 실시 예에 따르면, 카메라(110)는 라이브 뷰 이미지(live view image) 또는 촬영 이미지(captured image)를 생성할 수 있다. 상기 촬영 이미지는 예를 들면, 동영상 또는 정지 영상 중 적어도 하나를 포함할 수 있다. 카메라(110)는 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서 또는 플래시 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 통신 모듈(120)은 적어도 하나의 통신 방식의 통신을 위한 통신 채널을 형성할 수 있다. 상기 통신 모듈(120)은 예를 들면, 3G(CDMA, GSM) 통신, LTE(long term evolution) 통신 또는 WiFi 중 적어도 하나의 통신을 위한 통신 회로를 포함할 수 있다. 상기 통신 모듈(120)은 다른 예를 들어, GPS 수신을 위한 통신 회로를 포함할 수 있다. 예를 들어, 통신 모듈(120)은 지정된 통신 채널을 통해 수신된 지정된 통신 방식의 신호를 프로세서(160)에 의해 해석 가능한 형식으로 변환할 수 있다. 통신 모듈(120)은 프로세서(160)로부터 수신된 신호를 지정된 통신 방식의 신호로 변환하여 지정된 통신 채널로 송신할 수 있다.
일 실시 예에 따르면, 입력 모듈(130)은 사용자 입력을 감지 또는 수신할 수 있다. 예를 들어, 입력 모듈(130)은 터치 스크린(예: 디스플레이(140)) 상에 구비된 터치 센서일 수 있다.
디스플레이(140)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(140)는, 예를 들면, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)를 표시할 수 있다. 일 실시 예에 따르면, 디스플레이(140)는 프로세서(160)의 지시에 따라 라이브 뷰 이미지, 촬영 이미지 또는 AR 서비스의 부가 정보 중 적어도 하나를 출력(또는, 표시)할 수 있다.
메모리(150)는 휘발성 메모리(예를 들어, RAM 등), 비휘발성 메모리(예를 들어, ROM, 플래시 메모리 등) 또는 이들의 조합일 수 있다. 메모리(150)는, 예를 들면, 전자 장치(10)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 일 실시 예에 따르면, 메모리(150)는 복수의 촬영 이미지들, 촬영 이미지 정보, 카테고리 체계 정보 또는 선호도 정보 중 적어도 하나를 저장할 수 있다.
한 실시 예에 따르면, 복수의 촬영 이미지는 카메라(110)를 이용하여 생성된 사진 이미지, 앱을 통하여 공유된 이미지(이하, '공유 이미지'라 함) 또는 화면 캡처 기능으로 획득된 화면 이미지 중 적어도 하나를 포함할 수 있다. 상기 공유 이미지는 예를 들면, 촬영된 이미지 중에서 공유 이력이 있는 이미지 또는 다운로드 된 이미지 중 적어도 하나를 포함할 수 있다. 상기 화면 캡처 기능은 예를 들면, 스크린 샷(screenshot) 기능을 포함할 수 있다. 본 문서에서는 메모리(150)가 복수의 촬영 이미지를 저장하는 경우의 예를 설명한다.
한 실시 예에 따르면, 촬영 이미지 정보는 촬영 이미지의 카테고리 정보, 촬영 이미지의 이력 정보 또는 촬영 이미지의 환경 정보 중 적어도 하나를 포함할 수 있다. 상기 촬영 이미지 정보는 예를 들면, 촬영 이미지의 메타 데이터 정보일 수 있다.
상기 촬영 이미지의 카테고리 정보는 예를 들면, 촬영 이미지에 포함된 적어도 하나의 객체가 속하는 카테고리(예: 상위 카테고리 명칭, 하위 카테고리 명칭 등)에 대한 정보를 포함할 수 있다.
상기 촬영 이미지의 이력 정보는 예를 들면, 촬영 이미지에 대한 검색 이력 정보, 촬영 이미지의 공유 이력 정보, 촬영 이미지에 태깅된 태그 정보 또는 촬영 이미지에 대응하는 앱 정보 중 적어도 하나를 포함할 수 있다. 상기 검색 이력 정보는 예를 들면, 텍스트 검색 이력 정보 또는 보이스 검색(예: bixby vision search function) 이력 정보 중 적어도 하나를 포함할 수 있다. 상기 공유 이력 정보는 예를 들면, 각 촬영 이미지를 공유 가능한 앱(예: 문자 메시지 앱, 소셜 네트워크 앱, 채팅 앱 등)을 통한 촬영 이미지의 업로드 이력 정보 또는 다운로드 이력 정보를 포함할 수 있다. 상기 태그 정보는 예를 들면, 각 촬영 이미지에 태깅된 보이스 정보 또는 텍스트 정보 중 적어도 하나를 포함할 수 있다.
상기 촬영 이미지의 환경 정보는 예를 들면, 촬영 이미지의 생성 날짜 정보, 생성 시간 정보, 생성 위치 정보 또는 생성 시점의 기상 정보 중 적어도 하나를 포함할 수 있다.
한 실시 예에 따르면, 카테고리 체계 정보는 예를 들면, 복수의 카테고리들 중에서 인식된 객체가 속하는 카테고리를 결정하기 위한 정보를 포함할 수 있다. 카테고리 체계 정보에 따르면, 복수의 카테고리들 중에서 인식된 객체의 종류(또는, 유형)에 대응하는 복수의 상위 카테고리와 각 상위 카테고리에 포함된 복수의 하위(또는, 세부) 카테고리의 체계에 관한 정보를 포함할 수 있다.
한 실시 예에 따르면, 선호도 정보는 복수의 카테고리들에 대한 사용자의 선호도 점수 또는 선호 순위 중 적어도 하나를 나타내는 정보일 수 있다. 예를 들면, 선호도 정보는 복수의 촬영 이미지에 대응하는 상위 카테고리 또는 하위 카테고리 중 적어도 하나에 대한 사용자의 선호 순위를 포함할 수 있다.
프로세서(160)는 예를 들어, 중앙처리장치(CPU), 그래픽처리장치(GPU), 마이크로프로세서, 애플리케이션 프로세서(application processor), 주문형 반도체(ASIC(application specific integrated circuit), FPGA(field programmable gate arrays)) 중 적어도 하나를 포함할 수 있으며, 복수의 코어를 가질 수 있다. 프로세서(160)는 전자 장치(10)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 증강 현실 서비스(이하, 'AR 서비스'라 함)가 요청되면, 카메라(110)를 이용하여 라이브 뷰(live view) 이미지를 획득하고, 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 복수의 촬영 이미지들 중에서 상대적으로 선호도가 높은 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정하고, 부가 정보와 상기 라이브 뷰 이미지를 디스플레이(140)에 표시할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 AR 서비스 제공을 위하여, 메모리(150)에 저장된 복수의 촬영 이미지 각각에 포함된 객체에 대응하는 카테고리를 결정하고, 각 촬영 이미지와 각 촬영 이미지에 대응하는 카테고리 정보를 연관하여 저장할 수 있다. 예를 들면, 프로세서(160)는 AR 서비스를 위한 앱이 설치되면, 앱을 이용하여 AR 서비스 제공 전에 메모리(150)에 저장된 복수의 촬영 이미지 각각에 포함된 객체를 인식하고, 인식된 객체가 속하는 카테고리를 결정할 수 있다. 다른 예를 들면, 프로세서(160)는 새로운 촬영 이미지가 확인되면, 새로운 촬영 이미지에 포함된 객체를 인식하고, 인식된 객체가 속하는 카테고리를 결정하고, 새로운 촬영 이미지와 결정된 카테고리 정보를 연관하여 저장할 수 있다.
프로세서(160)는 각 촬영 이미지의 카테고리 정보를 이용하여 각 카테고리에 대한 선호도 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 각 촬영 이미지의 카테고리 정보를 이용하여 각 촬영 이미지에 포함된 객체에 대응하는 적어도 하나의 카테고리(하나 또는 그 이상의 카테고리)를 확인할 수 있다. 프로세서(160)는 적어도 하나의 카테고리의 출현 빈도를 확인하고, 적어도 하나의 카테고리의 출현 빈도를 기반으로 각 카테고리에 대한 선호도 정보(또는, 선호 우선 순위)를 결정할 수 있다.
프로세서(160)는 촬영 이미지 정보를 기반으로 카테고리에 대해 적어도 하나의 가중치를 적용하여 각 카테고리의 우선 순위를 결정할 수 있다. 예를 들어, 프로세서(160)는 촬영 이미지 정보로부터 복수의 촬영 이미지들 중에서 검색 이력이 있는 이미지, 공유 이력이 있는 이미지, 화면 캡처 기능으로 획득된 이미지 또는 태깅된 정보가 있는 이미지의 출현 빈도(또는, 비율)에 대해서는 다른 이미지에 비해서 상대적으로 높은 가중치를 적용하고, 가중치가 적용된 출현 빈도를 이용하여 복수의 촬영 이미지에 대응하는 카테고리에 대한 선호도를 결정할 수 있다. 다른 예를 들어, 프로세서(160)는 촬영 이미지 정보로부터 카테고리에 속하는 촬영 이미지를 생성한 시점에 대응하는 환경 정보의 패턴을 분석하고, 환경 정보의 패턴을 추출한 카테고리에 대해서는 상대적으로 높은 가중치를 적용할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 AR 서비스를 위한 AR VIEW 기능이 요청되면, 라이브 뷰 이미지에 포함된 객체를 인식할 수 있다. 예를 들면, 프로세서(160)는 라이브 뷰 이미지의 특징 정보를 추출하고, 라이브 뷰 이미지의 특징 정보와 메모리(150)에 저장된 카테고리별 객체의 특징 정보를 비교하고, 비교 결과를 기반으로 라이브 뷰 이미지에 포함된 객체 및 객체가 속하는 카테고리를 결정할 수 있다. 다른 예를 들면, 프로세서(160)는 라이브 뷰 이미지를 지정된 서버(예: 빅 데이터 서버)로 송신하고 지정된 서버가 라이브 뷰 이미지의 특징 정보와 지정된 서버의 데이터베이스에 저장된 객체의 특징 정보를 비교함에 따라 결정한, 라이브 뷰 이미지에 포함된 객체 및 객체가 속하는 제 1 카테고리를 인식할 수 있다. 이하의 문서에서는 전자와 같이, 프로세서(160)가 라이브 뷰 이미지의 특징 정보를 기반으로 제 1 카테고리를 결정하는 경우를 예로 설명한다.
일 실시 예에 따르면, 프로세서(160)는 카테고리 정보를 기반으로 메모리(150)에 저장된 예컨대, 사진첩 폴더에 저장된, 복수의 촬영 이미지들 중에서 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하고, 선호도 정보를 기반으로 획득된 적어도 하나의 촬영 이미지 중에서 상대적으로 선호도가 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
프로세서(160)는 사진첩 폴더에 저장된 적어도 하나의 촬영 이미지들의 카테고리 정보를 확인하고, 적어도 하나의 촬영 이미지들에 대응하는 카테고리 중에서 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인할 수 있다. 프로세서(160)는 선호도 정보를 기반으로 적어도 하나의 제 2 카테고리 중에서 선호도가 상대적으로 높은 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 제 1 카테고리에 속하는 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 복수의 이미지들의 선호도가 동일한 경우, 복수의 이미지들의 촬영 이미지 정보 또는 픽셀 값을 이용하여 AR 서비스의 부가 정보를 결정할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 복수의 이미지들 각각을 생성한 촬영 시점의 환경 정보와 상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 각기 확인하고, 복수의 이미지들 중에서 촬영 시점의 환경 정보와 현재 시점의 환경 정보와 상대적으로 유사도를 기반으로 적어도 하나의 이미지를 결정할 수 있다.
예를 들면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 현재 날짜 정보와 복수의 이미지들의 생성 시간 정보를 각기 확인하고, 복수의 이미지들 중에서 현재 날짜와 동일한 날짜 또는 유사한 날짜에 촬영된 이미지가 있으면, 해당 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 현재 날짜 정보는 예를 들면, 통신 모듈(120)을 통해 수신된 정보(예: 표준 시각 정보) 또는, 프로세서(160)에 의해 산출된 날짜 정보로부터 확인될 수 있다. 상기 각 이미지의 생성 시간 정보는 예를 들면, 각 이미지의 메타 데이터로부터 확인될 수 있다. 상기 유사한 날짜는 현재 날짜의 전 또는 후의 지정된 기간(예: 1주일) 동안의 날짜일 수 있다.
다른 예를 들면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 전자 장치(10)의 현 위치 정보 및 복수의 이미지들의 촬영 위치 정보를 각기 확인하고, 복수의 이미지들 중에서 전자 장치(10)의 현 위치로부터 지정된 거리(예: 100m) 미만 근접한 위치에서 촬영된 이미지가 있으면, 해당 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 전자 장치(10)의 현 위치 정보는 예를 들면, 통신 모듈(120)을 통해 수신된 정보(예: GPS 정보)를 이용하여 확인될 수 있다. 상기 각 이미지의 촬영 위치 정보는 예를 들면, 각 이미지의 메타 데이터로부터 확인될 수 있다. 상기 지정된 거리는 예를 들면, 인식된 객체와 전자 장치(10) 간의 거리(또는, 깊이) 미만의 거리일 수 있다. 상기 지정된 거리는 다른 예를 들면, 도보로 20분 이내에 이용 가능한 거리로서 실험적으로 결정될 수 있다.
또 다른 예로, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 현재 날짜 및 시간 정보와 복수의 이미지들의 촬영 날짜 및 시간 정보를 각기 확인하고, 복수의 이미지들 중에서 상대적으로 최근 촬영된 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 현재 날짜 및 시간 정보는 예를 들면, 통신 모듈(120)을 통해 수신된 정보(예: 표준 시각 정보) 또는, 프로세서(160)에 의해 산출된 날짜와 시간 정보로부터 확인될 수 있다. 상기 각 이미지의 저장 날짜 및 시간 정보는 예를 들면, 각 이미지의 메타 데이터로부터 확인될 수 있다.
한 실시 예에 따르면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 복수의 이미지들 중에서 공유 이력, 검색 이력 또는 태깅 이력이 있거나, 화면 캡처 기능으로 생성된 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
한 실시 예에 따르면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 라이브 뷰 이미지와 각 이미지 간의 톤(tone) 유사도를 기반으로 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지의 픽셀 값의 평균과 각 이미지의 픽셀 값의 평균을 각기 확인하고, 복수의 이미지들 중에서 라이브 뷰 이미지의 픽셀 값의 평균과 유사도가 큰 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
한 실시 예에 따르면, 복수의 이미지들의 선호도 정보가 동일한 경우, 프로세서(160)는 사용자 입력에 따라 복수의 이미지들 중에서 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 입력 모듈(130)을 통하여 지정된 기능(예: 수동 필터링 기능)이 선택되면, 카테고리 체계 정보 및 복수의 이미지들의 카테고리 정보를 기반으로 복수의 이미지들에 대응하는 상위 카테고리 목록을 표시하고, 입력 모듈(130)을 통하여 상위 카테고리 목록의 적어도 하나의 카테고리가 선택되면, 선택된 카테고리의 하위 카테고리 목록을 표시할 수 있다. 입력 모듈(130)을 통해 표시된 하위 카테고리 목록 중 하나가 선택되면, 프로세서(160)는 복수의 이미지들 중에서 선택된 하위 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 사용자 취향(개인 정보)을 기반으로 인식된 객체에 대응하는 객체 정보를 확인하고, 확인된 객체 정보를 AR 서비스의 부가 정보로 결정하고, 결정된 AR 서비스의 부가 정보를 라이브 뷰 이미지와 함께 디스플레이(140)에 표시할 수 있다. 프로세서(160)는 예를 들어, 카테고리에 대한 선호도 정보 또는 개인 정보 중 적어도 하나를 이용하여 사용자 취향을 확인할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지 및 사용자 취향 정보를 지정된 서버(예: 쇼핑몰 서버)로 송신하고, 지정된 서버가 사용자 취향 정보를 기반으로 라이브 뷰 이미지에 포함된 객체에 대응하도록 결정한, 객체 정보를 지정된 서버로부터 수신할 수 있다. 다른 예를 들어, 프로세서(160)는 메모리(150)로부터 라이브 이미지에 포함된 객체에 대응하는 객체 정보들 중에서 사용자 취향에 따른 객체 정보를 결정할 수 있다. 본 문서에서는 프로세서(160)가 메모리(150)에 저장된 객체 정보들을 이용하여 사용자 취향에 따른 객체 정보를 결정하는 경우를 예로 들어 설명한다.
한 실시 예에 따르면, 프로세서(160)는 사용자 취향을 확인하지 못한 경우, 인식된 객체에 대응하는 객체 정보들 중에서 디폴트 취향에 대응하는 객체 정보 예컨대, 객체의 가격 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 음식(또는, 요리)에 관심이 많은 사용자 취향을 확인한 경우, 인식된 객체에 대응하는 객체 정보들 중에서 요리에 대응하는 객체 정보 예컨대, 인식된 객체를 이용한 레시피 관련 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 건강 또는 다이어트에 관심이 많은 사용자 취향을 확인한 경우, 인식된 객체에 대응하는 객체 정보들 중에서 건강 또는 다이어트에 대응하는 객체 정보 예컨대, 인식된 객체의 칼로리 또는 성분 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 사용자 취향 또는 카테고리에 대응한 선호도에 따른 프로모션 정보를 획득하고, 획득된 프로모션 정보(AR 서비스의 부가 정보)와 라이브 뷰 이미지를 디스플레이(140)에 표시할 수 있다. 예를 들어, 프로세서(160)는 전자 장치(10)의 현 위치 정보를 확인하고, 현 위치 정보로부터 지정된 거리 미만의 프로모션 정보를 AR 서비스의 부가 정보로 결정할 수 있다. 다른 예를 들어, 프로세서(160)는 통신 모듈(120)을 통해 지정된 서버(예: 광고 서비스 서버)에 사용자 취향 또는 선호도 정보를 송신하고, 사용자 취향 또는 선호도 정보에 대응하는 프로모션 정보를 수신하고, 수신된 프로모션 정보를 라이브 뷰 이미지와 함께 표시할 수 있다.
도 2는 일 실시 예에 따른 카테고리 체계를 나타낸다.
도 2를 참조하면, 일 실시 예에 따르면, 복수의 카테고리들은 복수의 상위 카테고리를 포함하고, 각 상위 카테고리는 복수의 하위 카테고리를 포함하는 형태일 수 있다. 상기 복수의 상위 카테고리는 예를 들면, 사물 카테고리, 사람 카테고리, 음식 카테고리, 무드 카테고리, 장소 카테고리 및 기타 카테고리를 포함할 수 있다. 각 카테고리는 객체를 분류하기 위한 것일 수 있다.
한 실시 예에 따르면, 사물 카테고리는 사물 객체를 분류하기 위한 카테고리로서, 예를 들면, 옷, 와인, 차 및 꽃 등의 하위 카테고리를 포함할 수 있다.
한 실시 예에 따르면, 사람 카테고리는 사람 객체를 분류하기 위한 카테고리로서, 예를 들면, 아내, 아들, 친구, 엄마 등의 하위 카테고리를 포함할 수 있다.
한 실시 예에 따르면, 음식 카테고리는 음식 객체를 분류하기 위한 카테고리로서, 예를 들면, 케이크(cake), 면(noddle), 해산물(seafood), 커피 등의 하위 카테고리를 포함할 수 있다.
한 실시 예에 따르면, 무드 카테고리는 촬영 이미지에 적용된 효과를 분류하기 위한 카테고리로서, 예를 들면, 다크(dark), 써니(sunny), 비비드(vivid), 썬셋(sunset) 등을 포함할 수 있다.
한 실시 예에 따르면, 장소 카테고리는 장소 객체를 분류하기 위한 카테고리로서, 테마파크(Theme park), 몰(mall), 거리(street), 랜드마크(landmark), 빌딩 등을 포함할 수 있다.
한 실시 예에 따르면, 기타 카테고리는 다른 상위 카테고리에 포함되지 않는 하위 카테고리를 포괄하는 카테고리로서, 기념일, 문서, 빌딩 및 날짜 등을 포함할 수 있다.
복수의 카테고리들은 입력 모듈(예: 도 1의 130) 또는 빅 데이터 수집 등의 과정을 통하여 등록 또는 갱신될 수 있다. 예를 들어, 프로세서(예: 도 1의 160)는 입력 모듈(130)을 통해 사람 카테고리 중에서 특정 사람(예: 아내, 아들, 친구, 엄마 등)에 대한 촬영 이미지와 카테고리 명칭이 등록되면, 사람 카테고리에 대하여 특정 사람 카테고리를 하위 카테고리로 등록할 수 있다. 다른 예를 들어, 프로세서(160)는 메모리(예: 도 1의 150)에 저장된 특징 정보로부터 인식 불가한 새로운 객체가 인식되면, 디스플레이(예: 도 1의 140)를 통해 새로운 객체에 대한 카테고리 정의를 요청할 수 있다. 프로세서(160)는 입력 모듈(130)을 통해 새로운 객체에 대한 카테고리가 새롭게 정의되면, 새로운 객체의 특징 정보와 새롭게 정의된 카테고리 정보를 연관하여 저장하고, 이후 새로운 객체를 인식하면, 새로운 객체를 새로운 카테고리를 이용하여 분류할 수 있다.
도 3a 내지 도 3c는 일 실시 예에 따른 전자 장치가 AR 서비스를 제공하는 과정의 UI 화면이다.
도 3a는 일 실시 예에 따른 객체 인식 과정의 UI 화면을 나타낸다.
도 3a를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 AR 서비스가 요청되면, 라이브 뷰 이미지(311)를 디스플레이(예: 도 1의 140)에 표시할 수 있다. 프로세서(160)는 라이브 뷰 이미지(311)의 특징 정보를 추출하고, 추출된 특징 정보와 메모리(예: 도 1의 150)에 저장된 카테고리별 객체의 특징 정보를 비교하고, 비교 결과를 기반으로 라이브 뷰 이미지(311)에 포함된 객체(312)가 속한 제 1 카테고리(313)를 결정할 수 있다. 라이브 뷰 이미지(311)에 포함된 객체(312)가 사물 카테고리(상위 카테고리)의 하위 카테고리 중에서 와인 카테고리(313)에 속하는 와인임을 확인할 수 있다.
도 3b는 일 실시 예에 따른 인식된 객체에 대응하는 AR 서비스의 부가 정보 결정 방법을 설명하기 위한 도면이다.
도 3b를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 메모리(예: 도 1의 150)에 저장된 복수의 촬영 이미지들 중에서 와인 카테고리에 속하는 모든 이미지를 검색 및 획득할 수 있다. 예를 들어, 프로세서(160)는 복수의 촬영 이미지들의 카테고리 정보(320)를 확인하고, 카테고리 정보(320)를 기반으로 와인 카테고리에 속하는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)를 획득할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)가 속하는 적어도 하나의 제 2 카테고리에 대한 선호도 정보를 확인하고, 선호도 정보를 기반으로 적어도 하나의 제 2 카테고리 중에서 선호도가 상대적으로 높은 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 적어도 하나의 제 2 카테고리는 인식된 객체가 속하는 와인 카테고리를 제외한 카테고리로서, 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 촬영 이미지 정보와 같이, 예로 들면, 해산물(seafood), 면(noddle), 선명함(vivid), 수원(Suwon), 어두움(dark), 강남(Gangnam), 거리(street), 빌딩(building), 케이크(cake), 기념일(anniversary), 남자 친구(boyfriend), 여자 친구(girlfriend), 음식(food), 꽃(flower) 카테고리를 포함할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 카테고리 정보를 기반으로 확인된 제 1 이미지 내지 제 6 이미지(326)의 선호도가 동일한 경우, 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 환경 정보 또는 이력 정보 중 적어도 하나를 기반으로 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보와 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 환경 정보를 기반으로 작년의 동일 날짜에 소셜 네트워크를 통하여 공유된 제 4 이미지(324)를 AR 서비스의 부가 정보로 결정할 수 있다. 부가적으로 또는 대체적으로, 프로세서(160)는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)의 이력 정보를 기반으로 소셜 네트워크를 통해 공유된 이력이 있는 제 4 이미지(324)와 화면 캡처 기능으로 생성된 제 6 이미지(326)를 AR 서비스의 부가 정보로 결정할 수 있다. 이하의 문서에서는 프로세서(160)가 환경 정보 및 이력 정보를 기반으로 제 4 이미지(324)와 제 6 이미지(326)를 AR 서비스의 부가 정보로 결정하는 경우를 예로 설명한다.
도 3c는 일 실시 예에 따른 촬영 이미지로부터 결정된 AR 서비스의 부가 정보를 표시하는 UI 화면을 나타낸다.
도 3a 내지 도 3c를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 인식된 객체가 속하는 제 1 카테고리가 와인 카테고리이면, 프로세서(160)는 와인 카테고리에 속하면서 선호도 정보가 상대적으로 제 4 이미지(324)와 제 6 이미지(326)를 AR 서비스의 부가 정보로서 라이브 뷰 이미지(311)에 겹쳐서 디스플레이(예: 도 1의 140)에 표시할 수 있다.
도 3d는 일 실시 예에 따른 AR 서비스의 부가 정보를 수동 결정하는 과정의 UI 화면을 나타낸다.
도 3d를 참조하면, 이미지 <351>에서, 프로세서(예: 도 1의 160)는 라이브 뷰 이미지(311)로부터 객체가 속하는 제 1 카테고리(와인 카테고리)가 결정되고, 제 1 카테고리에 속하는 복수의 이미지들이 획득된 상황에서, 수동 필터링 기능에 할당된 아이콘(341)을 표시할 수 있다.
이미지 <353>에서, 프로세서(160)는 아이콘(341)이 선택되면, 수동 필터링 기능을 제공하기 위하여 복수의 이미지들에 대응하는 적어도 하나의 제 2 카테고리의 상위 카테고리 목록을 표시할 수 있다.
프로세서(160)는 이미지 <353>에서, 입력 모듈(예: 도 1의 130)을 통하여 상위 카테고리 목록에서 복수의 상위 카테고리가 선택되면, 이미지 <355>에서, 선택된 복수의 카테고리의 하위 카테고리 목록을 표시할 수 있다. 예를 들어, 프로세서(160)는 제 1 상위 카테고리(343)와 제 2 상위 카테고리(344)가 터치된 후 선택 아이콘(select)이 터치되면, 이미지 <355>와 같이 선택된 제 1 및 제 2 상위 카테고리(343, 344)의 하위 카테고리 목록을 표시할 수 있다.
이미지 <353>에서, 표시된 하위 카테고리 목록 중 하나가 입력 모듈(130)을 통해 선택되면, 프로세서(160)는 복수의 이미지들 중에서 선택된 하위 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다. 예를 들어, 하위 카테고리 목록 중에서 제 1 하위 카테고리(345) 및 제 2 하위 카테고리(346)가 터치된 후 완료 아이콘(Done)이 터치되면, 복수의 이미지들 중에서 선택된 하위 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
도 3b를 참조하면, 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)가 속하는 상위 카테고리는 사물 카테고리(예: wine, building, flower), 사람 카테고리(예: boyfriend, girlfriend), 음식 카테고리(예: seafood, noddle, cake), 무드 카테고리(예: vivid, dark), 장소 카테고리(Suwon, Gang-nam, street) 및 기타 카테고리(예: anniversary)일 수 있다. 이 경우, 프로세서(160)는 제 1 내지 제 6 이미지(321, 322, 323, 324, 325, 326)에 대응하는 카테고리 목록 예컨대, 사물 카테고리, 사람 카테고리, 음식 카테고리, 무드 카테고리, 장소 카테고리 및 기타 카테고리를 표시할 수 있다. 입력 모듈(130)을 통해 사물 카테고리와 기타 카테고리가 선택되는 경우, 프로세서(160)는 사물 카테고리 및 기타 카테고리에 속하는 하위 카테고리들 중에서 인식된 객체가 속하는 와인 카테고리를 제외한 제 2 카테고리 목록(예: 꽃, 빌딩, 기념일)를 표시할 수 있다. 프로세서(160)는 입력 모듈(130)을 통해 기념일 카테고리가 선택되면, 제 4 이미지(324)와 제 6 이미지(326)를 AR 서비스의 부가 정보로 결정할 수 있다.
도 4는 일 실시 예에 따른 촬영 이미지를 이용한 선호도 결정 방법을 설명하기 위한 도면이다.
도 4를 참조하면, 일 실시 예에 따르면, 메모리(예: 도 1의 150)에 저장된 예컨대, 사진첩 폴더에 저장된 복수의 촬영 이미지들 각각은 각 촬영 이미지에 대응하는 카테고리 정보와 연관하여 저장될 수 있다. 이 경우, 프로세서(예: 도 1의 160)는 카테고리 정보를 기반으로 복수의 촬영 이미지 각각에 대응하는 카테고리(하위 카테고리)를 확인하고, 확인된 하위 카테고리들의 출현 빈도를 각기 확인하고, 확인된 전체 하위 카테고리들의 출현 빈도의 비율을 확인할 수 있다. 예를 들어, 이미지 <410>에서, 프로세서(160)는 복수의 촬영 이미지가 속하는 하위 카테고리를 분석한 결과, 사람 A 카테고리(A user), 사람 B 카테고리(B user), 인형 카테고리와 기타 카테고리 간의 비율(이하, '제 1 비율'이라 함)이 각기 0.3: 0.2: 0.2: 0.15: 0.15임을 결정할 수 있다.
프로세서(160)는 복수의 촬영 이미지들 중에서 검색 이력, 공유 이력, 태깅 정보 또는 화면 캡처 기능으로 획득된 이미지에 대해서는 가중치를 적용할 수 있다.
한 실시 예에 따르면, 복수의 촬영 이미지들 중에서 공유 이력이 있는 이미지 및 공유 이력이 있는 이미지들의 카테고리 정보를 확인하고, 복수의 촬영 이미지들 전체에서 공유 이력이 있는 이미지들의 비율(이하, '제 2 비율'이라 함)을 카테고리별로 확인할 수 있다. 예를 들어, 이미지 <420>에서, 프로세서(160)는 복수의 촬영 이미지들 전체에서 공유 이력이 있고 인형 카테고리에 대응하는 이미지의 비율이 0.05임을 확인하면, 인형 카테고리의 비율(0.05)에 대하여 지정된 가중치(예: 10)을 곱하여 제 2 비율을 결정할 수 있다.
한 실시 예에 따르면, 복수의 촬영 이미지들 중에서 화면 캡처 기능으로 생성된 이미지 및 해당 이미지의 카테고리 정보를 확인하고, 복수의 촬영 이미지 전체에서 화면 캡처 기능으로 획득된 이미지들의 비율을 카테고리별로 확인할 수 있다. 예를 들어, 이미지 <430>에서, 프로세서(160)는 복수의 촬영 이미지들 전체에서 화면 캡처 기능으로 생성되고 인형 카테고리에 대응하는 이미지의 비율이 0.01임을 확인하면, 인형 카테고리의 비율(0.01)에 대하여 지정된 가중치를 곱하여 제 3 비율을 결정할 수 있다.
한 실시 예에 따르면, 프로세서(160)는 사진첩 폴더의 분석 결과를 기반으로 결정된 제 1 비율, 이력 정보를 기반으로 결정된 제 2 비율 및 앱 정보 기반으로 결정된 제 3 비율을 이용하여 카테고리별 선호도를 결정할 수 있다. 예를 들면, 인형 카테고리에 대한 제 1 비율이 0.2, 제 2 비율이 0.5이고, 제 3 비율이 0.2이면, 인형 카테고리에 대한 선호도를 0.9로 결정할 수 있다.
일 실시 예에 따르면, 사람 A 카테고리와 사람 B 카테고리에 대응하는 이미지 중에는 이력 정보가 있는 이미지와 화면 캡처 기능으로 생성된 이미지가 없는 경우, 사람 A 카테고리의 선호도는 0.3, 사람 B 카테고리의 선호도는 0.2일 수 있다. 이 경우, 인형 카테고리에 대한 선호도가 가장 높고, 사람 A 카테고리에 대한 선호도가 두 번째로 높고, 사람 B에 대한 선호도가 세 번째로 높을 수 있다.
도 5는 일 실시 예에 따른 장소 카테고리에 대응하는 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 5를 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 라이브 뷰 이미지(510)로부터 인식된 객체가 속하는 제 1 카테고리가 장소 A(예: 특정 거리) 카테고리이면, 장소 A 카테고리에 속하는 복수의 이미지들을 획득할 수 있다. 복수의 이미지들은 장소 A 카테고리 이외의 다른 카테고리에 속할 수 있으므로, 프로세서(160)는 다른 카테고리 중에서 선호도 정보를 기반으로 복수의 이미지들에서 선호도 정보가 상대적으로 높은 AR 서비스의 부가 정보를 결정할 수 있다.
한 실시 예에 따르면, 다른 카테고리 중에는 지정된 횟수 이상의 구매 이력(개인 정보)이 있는 장소 B 카테고리(예: 특정 상점 카테고리)가 포함될 수 있다. 이 경우, 프로세서(160)는 장소 B 카테고리는 구매 이력을 기반으로 촬영 이미지를 기반으로 결정된 선호도를 증가할 수 있고, 그 결과 다른 카테고리 중에서 장소 B 카테고리의 선호도는 상대적으로 높을 수 있다. 프로세서(160)는 장소 A 이외의 다른 카테고리 중에서 선호도 정보가 가장 높은 장소 B 카테고리에서 생성된 촬영 이미지(520)를 AR 서비스의 부가 정보로 결정할 수 있다. 한 실시 예에서, 프로세서(160)는 장소 A와 장소 B 간의 거리를 확인하고, 장소 A와 장소 B 간의 거리가 지정된 거리(예: 100m) 미만일 경우에만 장소 B에서 생성된 촬영 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(160)는 전자 장치(예: 도 1의 10)의 현 위치에 근접한 특정 장소에 대응하는 AR 서비스의 부가 정보를 표시하는 경우에, 라이브 뷰 이미지(510)와 AR 서비스의 부가 정보(520) 이외에, 현 위치와 특정 장소를 포함하는 지도 정보(530)를 표시할 수 있다. 예를 들어, 프로세서(160)는 현 위치와 특정 장소와 표시한 지도 정보(530)를 표시할 수 있다.
도 6a 내지 도 6c는 일 실시 예에 따른 사용자 취향에 대응하는 프로모션 정보를 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 6a 내지 6c을 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 복수의 촬영 이미지들의 환경 정보와 복수의 촬영 이미지의 카테고리 정보 간의 연관성을 확인하고, 확인된 연관성을 기반으로 환경 정보와 카테고리에 대응하는 사용자 취향을 확인할 수 있다. 프로세서(160)는 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 기반으로 복수의 프로모션 정보 중에서 상기 사용자 취향에 대응하는 프로모션 정보를 결정하고, 라이브 뷰 이미지와 프로모션 정보(AR 서비스의 부가 정보)를 디스플레이(예: 도 1의 140)에 표시할 수 있다.
도 6a를 참조하면, 한 실시 예에 따르면, 프로세서(160)는 복수의 촬영 이미지에 대한 환경 정보와 카테고리 정보 간의 연관성을 분석한 결과, 주말 늦은 아침에 브런치(brunch)에 대한 촬영 이미지가 많이 생성된 것을 확인하고, 주말 늦은 아침에 브런치를 먹는 것을 좋아하는 사용자 취향을 확인할 수 있다. 이 경우, 프로세서(160)는 AR 서비스가 주말 늦은 아침 시간에 실행되면, 메모리(예: 도 1의 150)(또는, 지정된 서버의 데이터베이스)에 저장된 전자 장치(예: 도 1의 10)의 현 위치에 대응하는 프로모션 정보들을 확인하고, 프로모션 정보들 중에서 브런치 메뉴를 제공하는 식당의 프로모션 정보를 AR 서비스의 부가 정보로 결정할 수 있다. 상기 현 위치에 대응하는 프로모션 정보는 예를 들면, 현 위치로부터 지정된 거리 미만으로 근접한 장소에 대한 프로모션 정보를 포함할 수 있다.
도 6b를 참조하면, 한 실시 예에 따르면, 프로세서(예: 도 1의 160)는 복수의 촬영 이미지에 대한 환경 정보와 카테고리 정보 간의 연관성을 분석한 결과, 비 오는 월요일 아침 커피에 대한 촬영 이미지가 많이 생성된 것을 확인하고, 비 오는 월요일 아침에 커피를 먹는 것을 좋아하는 사용자 취향을 확인할 수 있다. 이 경우, 프로세서(160)는 AR 서비스가 비 오는 월요일 아침에 실행되면, 전자 장치(예: 도 1의 10)의 현 위치에 대응하는 프로모션 정보들을 확인하고, 메모리(예: 도 1의 150)(또는, 지정된 서버의 데이터베이스)에 저장된 프로모션 정보들 중에서 커피숍의 프로모션 정보를 AR 서비스의 부가 정보로 결정할 수 있다.
도 6c를 참조하면, 이미지 <610>과 같이, 프로세서(예: 도 1의 160)는 사용자 취향을 확인하지 못했거나, 사용자 취향에 따른 프로모션 정보의 수동 필터링 기능이 설정되지 않은 경우, 전자 장치(예: 도 1의 10)의 현 위치에 지정된 거리 미만으로 근접한 프로모션 정보를 모두 라이브 뷰 이미지에 겹쳐서 표시할 수 있다.
이미지 <620>같이, 프로세서(160)는 사용자 취향을 확인하였고, 사용자 취향에 따른 프로모션 정보의 수동 필터링 기능이 설정된 경우, 전자 장치(10)의 현 위치에 지정된 거리 미만으로 근접한 프로모션 정보들 중에서 사용자 취향에 따른 프로모션 정보를 선택하고, 선택된 프로모션 정보를 AR 서비스의 부가 정보로 출력할 수 있다.
도 6a 내지 6c에서, 일 실시 예에 따르면, 프로세서(160)는 메모리(150)에 저장된 프로모션 정보들을 이용하여 전자 장치(10)의 현 위치, 현재 날씨 또는 현재 시간 중 적어도 하나의 환경 정보에 대응하는 프로모션 정보를 획득할 수 있다. 부가적으로 또는 대체적으로, 프로세서(160)는 통신 모듈(예: 도 1의 120)을 통하여 프로모션 서버와 통신하여 환경 정보에 대응하는 프로모션 정보를 수신하고, 수신된 프로모션 정보를 AR 서비스의 부가 정보로 출력할 수 있다.
도 7은 일 실시 예에 따른 사용자 취향에 따른 AR 서비스의 부가 정보를 제공하는 UI 화면을 나타낸다.
도 7을 참조하면, 일 실시 예에 따르면, 프로세서(예: 도 1의 160)는 라이브 뷰 이미지로부터 인식된 객체에 대한 사용자 취향에 따른 객체 정보를 증상 현실 서비스의 부가 정보로 결정할 수 있다.
이미지 <710>에서, 프로세서(160)는 라이브 뷰 이미지로부터 사과(객체)를 인식할 수 있다. 예를 들어, 프로세서(160)는 라이브 뷰 이미지의 특징 정보를 분석하고, 라이브 뷰 이미지의 특징 정보와 메모리(예: 도 1의 150)에 저장된 특징 정보를 비교하여 라이브 뷰 이미지에 포함된 객체가 사과 카테고리에 포함된 사과임을 확인할 수 있다.
이미지 <720>에서, 프로세서(160)는 메모리(150)로부터 사용자 취향에 대응하는 사용자 취향 정보가 확인되지 않으면, 사과의 가격 정보를 AR 서비스의 부가 정보로 결정하고, 라이브 뷰 이미지 상에 사과의 가격 정보를 표시(예: overlay)할 수 있다.
이미지 <730>에서, 프로세서(160)는 메모리(150)로부터 음식(또는, 요리)에 관심이 많은 사용자 취향을 확인한 경우, 사과를 이용한 레시피 관련 정보를 AR 서비스의 부가 정보로 결정하고, 라이브 뷰 이미지 상에 사과를 이용한 레시피 관련 정보를 표시할 수 있다.
이미지 <740>에서, 프로세서(160)는 건강 또는 다이어트에 관심이 많은 사용자 취향을 확인한 경우, 사과의 칼로리 또는 성분 정보를 AR 서비스의 부가 정보로 결정하고, 라이브 뷰 이미지 상에 사과의 칼로리 정보 또는 성분 정보를 표시할 수 있다.
전술한 실시 예에서, 프로세서(160)는 예를 들어, 사용자 취향 정보를 지정된 서버(예: 쇼핑몰 서버)로 송신하고, 지정된 서버로부터 사용자 취향에 대응하는 객체 정보를 수신하고, 수신된 객체 정보를 라이브 뷰 이미지 상에 표시할 수 있다.
도 8은 일 실시 예에 따른 증강 현실 서비스 제공 방법을 도시한 흐름도이다.
도 8을 참조하면, 동작 810에서, 프로세서(예: 도 1의 160)는 카메라(110)를 이용하여 라이브 뷰(live view) 이미지를 획득할 수 있다.
동작 820에서, 프로세서(160)는 메모리(예: 도 1의 150)에 저장된 복수의 촬영 이미지에 대한 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지(AR 서비스의 부가 정보)를 결정할 수 있다.
동작 830에서, 프로세서(160)는 적어도 하나의 이미지와 라이브 뷰 이미지를 디스플레이(예: 도 1의 140)에 표시할 수 있다.
도 9는 일 실시 예에 따른 AR 서비스의 부가 정보 결정 방법을 나타낸 흐름도이다.
도 9를 참조하면, 동작 910에서, 프로세서(예: 도 1의 160)는 AR 뷰 기능이 실행되면, 동작 920에서, 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 확인할 수 있다.
동작 930에서, 프로세서(160)는 메모리(예: 도 1의 150)에 저장된 복수의 촬영 이미지들 중에서 제 1 카테고리에 대응하는(또는, 연관되는) 적어도 하나의 촬영 이미지를 획득할 수 있다. 예를 들어, 프로세서(160)는 복수의 촬영 이미지들의 카테고리 정보를 확인하고, 카테고리 정보로부터 제 1 카테고리에 대응되는 적어도 하나의 촬영 이미지를 획득할 수 있다.
동작 940에서, 프로세서(160)는 입력 모듈(예: 도 1의 130)을 통하여 카테고리 선택에 대한 사용자 입력이 수신 또는 감지되는지를 확인할 수 있다. 예를 들어, 프로세서(160)는 입력 모듈(130)을 통하여 수동 필터링 기능이 선택되면, 적어도 하나의 촬영 이미지에 대응하는 제 1 카테고리를 제외한 상위 카테고리 또는 하위 카테고리 중 적어도 하나에 대하여 선택 가능한 사용자 인터페이스를 제공할 수 있다.
프로세서(160)는 동작 940에서, 수동 필터링 기능이 선택되면, 동작 950에서, 수동 필터링을 위한 사용자 인터페이스에 대한 사용자 입력을 확인하고, 사용자 입력으로 선택된 카테고리에 대응하는 적어도 하나의 이미지를 AR 서비스의 부가 정보로 결정할 수 있다.
프로세서(160)는 동작 940에서, 수동 필터링 기능이 선택되지 않으면, 동작 960에서, 적어도 하나의 촬영 이미지에 대응하는 카테고리 중에서 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리에 대한 선호도 정보를 기반으로 AR 서비스의 부가 정보를 결정할 수 있다. 예를 들어, 프로세서(160)는 적어도 하나의 제 2 카테고리에 대한 선호도 정보를 확인하고, 선호도 정보를 기반으로 상대적으로 선호도가 높은 카테고리에 속하는 적어도 하나의 이미지를 AR 서비스의 부가 정보를 결정할 수 있다.
도 9에서, 일 실시 예에 따르면, 프로세서(160)는 AR 뷰 기능이 종료될 때까지 동작 920 내지 970 중 적어도 하나를 수행할 수 있다.
도 10은, 다양한 실시예들에 따른, 네트워크 환경(1000) 내의 증강 현실 서비스를 제공하는 전자 장치(1001)의 블럭도이다. 도 10을 참조하면, 네트워크 환경(1000)에서 전자 장치(1001)(예: 도 1의 10)는 제 1 네트워크(1098)(예: 근거리 무선 통신)를 통하여 전자 장치(1002)와 통신하거나, 또는 제 2 네트워크(1099)(예: 원거리 무선 통신)를 통하여 전자 장치(1004) 또는 서버(1008)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1001)는 서버(1008)를 통하여 전자 장치(1004)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1001)는 프로세서(1020)(예: 도 1의 160), 메모리(1030)(예: 도 1의 150), 입력 장치(1050)(예: 도 1의 130), 음향 출력 장치(1055), 표시 장치(1060)(예: 도 1의 140), 오디오 모듈(1070), 센서 모듈(1076), 인터페이스(1077), 햅틱 모듈(1079), 카메라 모듈(1080)(예: 도 1의 110), 전력 관리 모듈(1088), 배터리(1089), 통신 모듈(1090)(예: 도 1의 120), 가입자 식별 모듈(1096), 및 안테나 모듈(1097)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(1001)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(1060) 또는 카메라 모듈(1080))가 생략되거나 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 예를 들면, 표시 장치(1060)(예: 디스플레이)에 임베디드된 센서 모듈(1076)(예: 지문 센서, 홍채 센서, 또는 조도 센서)의 경우와 같이, 일부의 구성요소들이 통합되어 구현될 수 있다.
프로세서(1020)는, 예를 들면, 소프트웨어(예: 프로그램(1040))를 구동하여 프로세서(1020)에 연결된 전자 장치(1001)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 및 연산을 수행할 수 있다. 프로세서(1020)는 다른 구성요소(예: 센서 모듈(1076) 또는 통신 모듈(1090))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1032)에 로드하여 처리하고, 결과 데이터를 비휘발성 메모리(1034)에 저장할 수 있다. 일실시예에 따르면, 프로세서(1020)는 메인 프로세서(1021)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 운영되고, 추가적으로 또는 대체적으로, 메인 프로세서(1021)보다 저전력을 사용하거나, 또는 지정된 기능에 특화된 보조 프로세서(1023)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 여기서, 보조 프로세서(1023)는 메인 프로세서(1021)와 별개로 또는 임베디드되어 운영될 수 있다.
이런 경우, 보조 프로세서(1023)는, 예를 들면, 메인 프로세서(1021)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1021)를 대신하여, 또는 메인 프로세서(1021)가 액티브(예: 어플리케이션 수행) 상태에 있는 동안 메인 프로세서(1021)와 함께, 전자 장치(1001)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(1060), 센서 모듈(1076), 또는 통신 모듈(1090))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(1023)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(1080) 또는 통신 모듈(1090))의 일부 구성 요소로서 구현될 수 있다. 메모리(1030)는, 전자 장치(1001)의 적어도 하나의 구성요소(예: 프로세서(1020) 또는 센서모듈(1076))에 의해 사용되는 다양한 데이터, 예를 들어, 소프트웨어(예: 프로그램(1040)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 저장할 수 있다. 메모리(1030)는, 휘발성 메모리(1032) 또는 비휘발성 메모리(1034)를 포함할 수 있다.
프로그램(1040)은 메모리(1030)에 저장되는 소프트웨어로서, 예를 들면, 운영 체제(1042), 미들 웨어(1044) 또는 어플리케이션(1046)을 포함할 수 있다.
입력 장치(1050)는, 전자 장치(1001)의 구성요소(예: 프로세서(1020))에 사용될 명령 또는 데이터를 전자 장치(1001)의 외부(예: 사용자)로부터 수신하기 위한 장치로서, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(1055)는 음향 신호를 전자 장치(1001)의 외부로 출력하기 위한 장치로서, 예를 들면, 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용되는 스피커와 전화 수신 전용으로 사용되는 리시버를 포함할 수 있다. 일실시예에 따르면, 리시버는 스피커와 일체 또는 별도로 형성될 수 있다.
표시 장치(1060)는 전자 장치(1001)의 사용자에게 정보를 시각적으로 제공하기 위한 장치로서, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(1060)는 터치 회로(touch circuitry) 또는 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서를 포함할 수 있다.
오디오 모듈(1070)은 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(1070)은, 입력 장치(1050) 를 통해 소리를 획득하거나, 음향 출력 장치(1055), 또는 전자 장치(1001)와 유선 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1002)(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(1076)은 전자 장치(1001)의 내부의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 센서 모듈(1076)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(1077)는 외부 전자 장치(예: 전자 장치(1002))와 유선 또는 무선으로 연결할 수 있는 지정된 프로토콜을 지원할 수 있다. 일실시예에 따르면, 인터페이스(1077)는 HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(1078)는 전자 장치(1001)와 외부 전자 장치(예: 전자 장치(1002))를 물리적으로 연결시킬 수 있는 커넥터, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(1079)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 햅틱 모듈(1079)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(1080)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(1080)은 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서, 또는 플래시를 포함할 수 있다.
전력 관리 모듈(1088)은 전자 장치(1001)에 공급되는 전력을 관리하기 위한 모듈로서, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구성될 수 있다.
배터리(1089)는 전자 장치(1001)의 적어도 하나의 구성 요소에 전력을 공급하기 위한 장치로서, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(1090)은 전자 장치(1001)와 외부 전자 장치(예: 전자 장치(1002), 전자 장치(1004), 또는 서버(1008))간의 유선 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1090)은 프로세서(1020)(예: 어플리케이션 프로세서)와 독립적으로 운영되는, 유선 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(1090)은 무선 통신 모듈(1092)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1094)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함하고, 그 중 해당하는 통신 모듈을 이용하여 제 1 네트워크(1098)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(1099)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 상술한 여러 종류의 통신 모듈(1090)은 하나의 칩으로 구현되거나 또는 각각 별도의 칩으로 구현될 수 있다.
일실시예에 따르면, 무선 통신 모듈(1092)은 가입자 식별 모듈(1096)에 저장된 사용자 정보를 이용하여 통신 네트워크 내에서 전자 장치(1001)를 구별 및 인증할 수 있다.
안테나 모듈(1097)은 신호 또는 전력을 외부로 송신하거나 외부로부터 수신하기 위한 하나 이상의 안테나들을 포함할 수 있다. 일시예에 따르면, 통신 모듈(1090)(예: 무선 통신 모듈(1092))은 통신 방식에 적합한 안테나를 통하여 신호를 외부 전자 장치로 송신하거나, 외부 전자 장치로부터 수신할 수 있다.
상기 구성요소들 중 일부 구성요소들은 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input/output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되어 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(1099)에 연결된 서버(1008)를 통해서 전자 장치(1001)와 외부의 전자 장치(1004)간에 송신 또는 수신될 수 있다. 전자 장치(1002, 1004) 각각은 전자 장치(1001)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(1001)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 전자 장치에서 실행될 수 있다. 일실시예에 따르면, 전자 장치(1001)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(1001)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 전자 장치에게 요청할 수 있다. 상기 요청을 수신한 외부 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(1001)로 전달할 수 있다. 전자 장치(1001)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(1036) 또는 외장 메모리(1038))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(1040))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치(예: 전자 장치(1001))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(1020))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (20)

  1. 전자 장치에 있어서,
    카메라;
    디스플레이;
    복수의 촬영 이미지(captured image)들 및 각 촬영 이미지에 대한 선호도 정보를 저장하는 메모리; 및
    상기 카메라, 상기 디스플레이 및 상기 메모리와 기능적으로 연결된 프로세서를 포함하고, 상기 프로세서는,
    상기 카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하고,
    상기 선호도 정보 또는 상기 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 증강 현실 서비스의 부가 정보로 결정하고,
    상기 부가 정보와 상기 라이브 뷰 이미지를 상기 디스플레이에 표시하도록 설정된 전자 장치.
  2. 제 1 항에 있어서,
    상기 메모리는,
    상기 각 촬영 이미지와 상기 각 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보를 연관하여 저장하고,
    상기 선호도 정보는, 상기 카테고리 정보에 대한 선호도 정보이고,
    상기 프로세서는,
    상기 카테고리 정보를 기반으로 상기 복수의 촬영 이미지들 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하고,
    상기 선호도 정보를 기반으로 상기 획득된 적어도 하나의 촬영 이미지 중에서 상기 선호도가 상대적으로 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 결정하도록 전자 장치.
  3. 제 2 항에 있어서,
    서버와 통신하도록 설정된 통신 모듈을 더 포함하고,
    상기 프로세서는,
    상기 통신 모듈을 통해 상기 라이브 뷰 이미지를 상기 서버로 송신하고,
    상기 서버로부터, 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리 정보를 수신하도록 설정된 전자 장치.
  4. 제 3 항에 있어서, 상기 카테고리 정보는,
    상기 서버에 의해 상기 라이브 뷰 이미지에 포함된 객체와 상기 서버의 데이터베이스에 저장된 객체를 비교하여 결정되는 전자 장치.
  5. 제 2 항에 있어서, 상기 프로세서는,
    상기 복수의 촬영 이미지에 포함된 객체가 속하는 카테고리 정보를 확인하고,
    상기 카테고리 정보의 출연 빈도를 이용하여 상기 카테고리 정보에 대한 선호도 정보를 결정하도록 설정된 전자 장치.
  6. 제 5 항에 있어서, 상기 프로세서는,
    상기 각 촬영 이미지의 생성, 공유 또는 편집에 대한 이력 정보 또는 상기 각 촬영 이미지의 생성 시점에 대응하는 환경 정보 중 적어도 하나를 기반으로 적어도 하나의 카테고리의 출연 빈도에 상기 가중치를 적용하여, 상기 카테고리 정보에 대한 선호도 정보를 결정하도록 설정된 전자 장치.
  7. 제 6 항에 있어서, 상기 이력 정보는,
    상기 각 촬영 이미지의 검색 이력 정보, 상기 각 촬영 이미지의 공유 이력 정보, 상기 각 촬영 이미지의 태그 정보 또는 상기 각 촬영 이미지를 생성한 앱 정보 중 적어도 하나를 포함하는 전자 장치.
  8. 제 6 항에 있어서, 상기 환경 정보는,
    시간 정보, 날짜 정보, 현 위치 정보 또는 기상 정보 중 적어도 하나를 포함하는 전자 장치.
  9. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지의 카테고리 정보를 기반으로, 상기 적어도 하나의 촬영 이미지에 포함된 객체가 속하는 카테고리 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인하고,
    상기 선호도 정보를 기반으로 상기 적어도 하나의 제 2 카테고리 중에서 상기 선호도가 상대적으로 큰 상기 상기 적어도 하나의 이미지를 부가 정보로 결정하도록 설정된 전자 장치.
  10. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우,
    상기 복수의 이미지들 각각을 생성한 촬영 시점의 환경 정보와 상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 각기 확인하고,
    상기 복수의 이미지들 중에서 상기 촬영 시점의 환경 정보와 상기 현재 시점의 환경 정보와 상대적으로 유사도를 기반으로 상기 적어도 하나의 이미지를 결정하도록 설정된 전자 장치.
  11. 제 10 항에 있어서, 상기 프로세서는,
    상기 복수의 이미지들 중에서 상기 전자 장치의 현 위치로부터 지정된 거리 미만으로 근접한 위치에서 촬영된 이미지가 있으면, 상기 지정된 거리 미만으로 근접한 위치에서 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정된 전자 장치.
  12. 제 9 항에 있어서, 상기 프로세서는,
    상기 복수의 이미지들 중에서 공유 이력, 검색 이력 또는 태깅 이력이 있거나, 화면 캡처 기능으로 생성된 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정된 전자 장치.
  13. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우,
    상기 복수의 이미지들의 촬영 날짜와 촬영 시간 정보와 상기 환경 정보 중에서 현재 시간 정보와 현재 날짜 정보를 확인하고,
    상기 복수의 이미지들 중에서 상대적으로 최근 촬영된 적어도 하나의 이미지를 상기 부가 정보로 결정하도록 설정된 전자 장치.
  14. 제 2 항에 있어서, 상기 프로세서는,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우,
    상기 라이브 뷰 이미지와 상기 복수의 이미지들의 톤(tone)을 확인하고,
    상기 복수의 이미지들 중에서 상기 라이브 뷰 이미지와 톤이 상대적으로 유사한 상기 적어도 하나의 이미지를 결정하도록 설정된 전자 장치.
  15. 제 2 항에 있어서,
    상기 메모리는,
    복수의 프로모션 정보를 더 저장하고,
    상기 프로세서는,
    상기 복수의 촬영 이미지들의 환경 정보와 상기 복수의 촬영 이미지의 카테고리 정보 간의 연관성을 확인하고,
    상기 확인된 연관성을 기반으로 상기 환경 정보와 상기 카테고리 정보에 대응하는 사용자 취향을 확인하고,
    상기 라이브 뷰 이미지를 획득한 현재 시점의 환경 정보를 기반으로 상기 복수의 프로모션 정보 중에서 상기 사용자 취향에 대응하는 프로모션 정보를 결정하고,
    상기 라이브 뷰 이미지와 상기 프로모션 정보를 상기 디스플레이에 표시하도록 설정된 전자 장치.
  16. 전자 장치에 의한 증강 현실 서비스 제공 방법으로서,
    카메라를 이용하여 라이브 뷰(live view) 이미지를 획득하는 동작;
    메모리에 저장된 복수의 촬영 이미지에 대한 선호도 정보 또는 라이브 뷰 이미지에 포함된 객체 중 적어도 하나를 기반으로 상기 복수의 촬영 이미지들 중에서 선호도가 상대적으로 높은 적어도 하나의 이미지를 결정하는 동작; 및
    상기 적어도 하나의 이미지와 상기 라이브 뷰 이미지를 디스플레이에 표시하는 동작
    을 포함하는 증강 현실 서비스 제공 방법.
  17. 제 16 항에 있어서,
    상기 각 촬영 이미지는, 상기 각 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보를 연관하여 저장되고,
    상기 선호도 정보는, 상기 카테고리 정보에 대한 선호도 정보이고,
    상기 결정하는 동작은,
    상기 카테고리 정보를 기반으로 상기 복수의 촬영 이미지들 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 카테고리에 대응하는 적어도 하나의 촬영 이미지를 획득하는 동작; 및
    상기 선호도 정보를 기반으로 상기 획득된 적어도 하나의 촬영 이미지 중에서 상기 선호도가 상대적으로 높은 카테고리에 속하는 상기 적어도 하나의 이미지를 결정하는 동작
    을 포함하는 증강 현실 서비스 제공 방법.
  18. 제 17 항에 있어서,
    상기 복수의 촬영 이미지에 포함된 객체에 대응하는 카테고리 정보를 확인하는 동작; 및
    상기 카테고리 정보의 출연 빈도를 이용하여 상기 카테고리 정보에 대한 선호도 정보를 결정하는 동작을 더 포함하는 증강 현실 서비스 제공 방법
  19. 제 17 항에 있어서, 상기 부가 정보로 결정하는 동작은,
    상기 적어도 하나의 촬영 이미지의 카테고리 정보를 기반으로, 상기 적어도 하나의 촬영 이미지에 포함된 객체가 속하는 카테고리 중에서 상기 라이브 뷰 이미지에 포함된 객체가 속하는 제 1 카테고리를 제외한 적어도 하나의 제 2 카테고리를 확인하는 동작; 및
    상기 선호도 정보를 기반으로 상기 적어도 하나의 제 2 카테고리 중에서 상기 선호도가 상대적으로 큰 상기 상기 적어도 하나의 이미지를 상기 부가 정보로 결정하는 동작을 포함하는 증강 현실 서비스 제공 방법.
  20. 제 17 항에 있어서,
    상기 적어도 하나의 촬영 이미지가 복수의 이미지들을 포함하고, 상기 복수의 이미지들의 선호도가 동일한 경우, 상기 복수의 이미지들 각각을 생성한 시점의 환경 정보를 확인하는 동작; 및
    상기 복수의 이미지들 중에서 상기 라이브 뷰 이미지를 획득한 시점의 환경 정보와 상대적으로 유사도가 높은 적어도 하나의 이미지를 상기 부가 정보로 결정하는 동작을 더 포함하는 증강 현실 서비스 제공 방법.
KR1020170157425A 2017-11-23 2017-11-23 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법 KR102418992B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020170157425A KR102418992B1 (ko) 2017-11-23 2017-11-23 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법
US16/761,988 US11308653B2 (en) 2017-11-23 2018-08-29 Electronic device and method for providing augmented reality service based on a user of electronic device
PCT/KR2018/009936 WO2019103285A1 (ko) 2017-11-23 2018-08-29 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170157425A KR102418992B1 (ko) 2017-11-23 2017-11-23 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법

Publications (2)

Publication Number Publication Date
KR20190059629A true KR20190059629A (ko) 2019-05-31
KR102418992B1 KR102418992B1 (ko) 2022-07-11

Family

ID=66630614

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170157425A KR102418992B1 (ko) 2017-11-23 2017-11-23 전자 장치 및 전자 장치의 증강 현실 서비스 제공 방법

Country Status (3)

Country Link
US (1) US11308653B2 (ko)
KR (1) KR102418992B1 (ko)
WO (1) WO2019103285A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021182872A1 (ko) * 2020-03-10 2021-09-16 삼성전자 주식회사 증강 현실 모드를 제공하는 전자 장치 및 그의 동작 방법

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11175516B1 (en) 2018-02-27 2021-11-16 Snap Inc. Object recognition for improving interfaces on an eyewear device and other wearable and mobile devices
US11776253B2 (en) * 2020-03-27 2023-10-03 Snap Inc. Displaying object names in association with augmented reality content
US20240054156A1 (en) * 2020-10-28 2024-02-15 Meta Platforms, Inc. Personalized Labeling for User Memory Exploration for Assistant Systems

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120086064A (ko) * 2011-01-25 2012-08-02 주식회사 팬택 증강 현실 통합정보 제공 장치와 그 방법 및, 이를 포함하는 시스템
KR20170122092A (ko) * 2016-04-26 2017-11-03 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9329052B2 (en) 2007-08-07 2016-05-03 Qualcomm Incorporated Displaying image data and geographic element data
US8769396B2 (en) * 2009-06-05 2014-07-01 Microsoft Corporation Calibration and annotation of video content
KR101636723B1 (ko) * 2010-06-28 2016-07-06 엘지전자 주식회사 휴대 단말기 및 그 동작 방법
DE112011103903B4 (de) 2010-11-24 2016-06-23 Lg Electronics Inc. Methode zum Empfang eines bestimmten Services und Videowiedergabegerät dazu
KR101292083B1 (ko) 2011-03-29 2013-08-01 주식회사 소프트맥스 증강 현실 환경에서의 위치기반 광고방법 및 그 장치
KR20130000160A (ko) * 2011-06-22 2013-01-02 광주과학기술원 사용자 적응형 증강현실 이동통신 장치와 서버 및 그 방법
JP5891843B2 (ja) * 2012-02-24 2016-03-23 ソニー株式会社 クライアント端末、サーバ、およびプログラム
JP2013183433A (ja) * 2012-03-05 2013-09-12 Sony Corp クライアント端末、サーバ、およびプログラム
CN102769775A (zh) * 2012-06-12 2012-11-07 严幸华 覆盖图像提供系统、服务器和方法
US20140058825A1 (en) * 2012-08-24 2014-02-27 Verizon Patent And Licensing Inc. Augmented-reality-based offer management system
KR102098058B1 (ko) * 2013-06-07 2020-04-07 삼성전자 주식회사 뷰 모드에서 정보 제공 방법 및 장치
US20150262428A1 (en) * 2014-03-17 2015-09-17 Qualcomm Incorporated Hierarchical clustering for view management augmented reality
KR101808739B1 (ko) * 2014-12-31 2017-12-14 한국전자통신연구원 감성 기반 콘텐츠 추천 장치 및 방법
US20160330522A1 (en) * 2015-05-06 2016-11-10 Echostar Technologies L.L.C. Apparatus, systems and methods for a content commentary community
US9706112B2 (en) * 2015-09-02 2017-07-11 Mediatek Inc. Image tuning in photographic system
US9876951B2 (en) * 2015-09-25 2018-01-23 International Business Machines Corporation Image subject and composition demand
US10354425B2 (en) 2015-12-18 2019-07-16 Snap Inc. Method and system for providing context relevant media augmentation
KR101873793B1 (ko) * 2017-07-26 2018-07-04 삼성전자주식회사 디바이스간 동기화된 인터랙션을 제공하는 콘텐츠 동기화 장치 및 방법
US10891685B2 (en) * 2017-11-17 2021-01-12 Ebay Inc. Efficient rendering of 3D models using model placement metadata
KR102627612B1 (ko) * 2019-02-19 2024-01-22 삼성전자주식회사 증강현실을 이용한 주변 정보 표시 방법 및 그 전자 장치

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20120086064A (ko) * 2011-01-25 2012-08-02 주식회사 팬택 증강 현실 통합정보 제공 장치와 그 방법 및, 이를 포함하는 시스템
KR20170122092A (ko) * 2016-04-26 2017-11-03 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021182872A1 (ko) * 2020-03-10 2021-09-16 삼성전자 주식회사 증강 현실 모드를 제공하는 전자 장치 및 그의 동작 방법

Also Published As

Publication number Publication date
US11308653B2 (en) 2022-04-19
WO2019103285A1 (ko) 2019-05-31
KR102418992B1 (ko) 2022-07-11
US20200265613A1 (en) 2020-08-20

Similar Documents

Publication Publication Date Title
KR102367828B1 (ko) 이미지 운용 방법 및 이를 지원하는 전자 장치
KR102647656B1 (ko) 증강 현실 영상에 부가 객체를 표시하는 전자 장치 및 상기 전자 장치의 구동 방법
US20230160716A1 (en) Method and apparatus for displaying surrounding information using augmented reality
CN105426035B (zh) 用于提供信息的方法和电子装置
US10921958B2 (en) Electronic device supporting avatar recommendation and download
US20160063748A1 (en) Displaying method of electronic device and electronic device thereof
US11308653B2 (en) Electronic device and method for providing augmented reality service based on a user of electronic device
US11145047B2 (en) Method for synthesizing image and an electronic device using the same
US11501409B2 (en) Electronic device for image synthesis and operating method thereof
US20230328362A1 (en) Electronic device and method providing content associated with image to application
US11531702B2 (en) Electronic device for generating video comprising character and method thereof
CN111506758A (zh) 物品名称确定方法、装置、计算机设备及存储介质
KR102651524B1 (ko) 전자 장치 및 그 결제 정보 출력 방법
US20200265233A1 (en) Method for recognizing object and electronic device supporting the same
KR102316846B1 (ko) 미디어 컨텐츠를 선별하는 방법 및 이를 구현하는 전자장치
US20150310093A1 (en) Method of providing contents of an electronic device
KR20210101583A (ko) 전자 장치 및 상기 전자 장치를 이용한 콘텐츠 운용 방법
US12008221B2 (en) Method for providing tag, and electronic device for supporting same
US11233953B2 (en) Image editing method and electronic device supporting same
KR20190076621A (ko) 전자 장치 및 전자 장치에서 방송 콘텐트와 관련된 서비스 정보 제공 방법
KR102192375B1 (ko) 쇼핑몰 관련 웹사이트를 제공하는 서버 및 그 동작 방법
KR20200086558A (ko) 전자 장치 및 증강현실을 이용한 상품 정보 제공 방법
KR20190056768A (ko) 시구간을 나타내는 콘텐츠와 연관된 정보를 시각적으로 제공하기 위한 장치 및 방법

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant