KR20160031851A - 정보 제공 방법 및 그 전자 장치 - Google Patents

정보 제공 방법 및 그 전자 장치 Download PDF

Info

Publication number
KR20160031851A
KR20160031851A KR1020140122111A KR20140122111A KR20160031851A KR 20160031851 A KR20160031851 A KR 20160031851A KR 1020140122111 A KR1020140122111 A KR 1020140122111A KR 20140122111 A KR20140122111 A KR 20140122111A KR 20160031851 A KR20160031851 A KR 20160031851A
Authority
KR
South Korea
Prior art keywords
information
electronic device
primary
displayed
primary information
Prior art date
Application number
KR1020140122111A
Other languages
English (en)
Other versions
KR102178892B1 (ko
Inventor
정진회
황민경
조규성
조익환
박지현
전용준
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020140122111A priority Critical patent/KR102178892B1/ko
Priority to US14/748,629 priority patent/US10146412B2/en
Priority to EP15174128.7A priority patent/EP2996023A1/en
Priority to CN201510587545.1A priority patent/CN105426035B/zh
Publication of KR20160031851A publication Critical patent/KR20160031851A/ko
Application granted granted Critical
Publication of KR102178892B1 publication Critical patent/KR102178892B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q20/00—Payment architectures, schemes or protocols
    • G06Q20/30—Payment architectures, schemes or protocols characterised by the use of specific devices or networks
    • G06Q20/32—Payment architectures, schemes or protocols characterised by the use of specific devices or networks using wireless devices
    • G06Q20/327—Short range or proximity payments by means of M-devices
    • G06Q20/3276—Short range or proximity payments by means of M-devices using a pictured code, e.g. barcode or QR-code, being read by the M-device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes

Abstract

본 발명의 일 실시 예에 따른 전자 장치의 정보 제공 방법은, 전자 장치의 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하는 동작; 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하는 동작; 및 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 화면상에 표시하는 동작을 포함할 수 있다.
또한, 본 발명의 다양한 실시 예들은 다른 실시 예들이 가능할 수 있다.

Description

정보 제공 방법 및 그 전자 장치{METHOD FOR PROVIDING AN INFORMATION ON THE ELECTRONIC DEVICE AND ELECTRONIC DEVICE THEREOF}
본 발명의 다양한 실시 예들은 전자 장치에서 정보를 제공하기 위한 방법 및 그 전자 장치에 관한 것이다.
증강 현실(Augmented Reality; AR)이란 사용자가 눈으로 보는 현실 세계와 부가 정보를 갖는 가상 세계를 결합하여 보여주는 가상 현실의 하나이다. 현실 세계를 가상 세계로 보완해주는 개념인 증강 현실은 컴퓨터 그래픽으로 만들어진 가상 환경을 통해 현실 환경에 필요한 정보를 추가로 제공할 수 있다.
증강 현실 기술은 모바일 기기(예컨대, 스마트폰, 태블릿 PC, 웨어러블 장치(wearable device) 등)가 발전함에 따라 다양한 서비스에서도 접할 수 있게 되었다.
현존하는 기술에 의하면, 인식된 객체와 관련된 정보를 제공함에 있어 사용자는 인식하고자 하는 대상 객체 또는 상기 객체와 관련하여 제공받고자 하는 정보(예컨대, 서비스)를 미리 선택해야 한다. 이는 사용자가 명시적으로 인식 결과를 얻고자 하는 하나의 정보를 알고 선택해야 하며, 인식하고자 하는 객체가 해당 유형의 정보를 제공하지 못하는 객체인 경우 일일이 정보를 변경하여 선택해주어야 하는 문제점이 있다.
본 발명의 다양한 실시 예에 따르면, 전자 장치에 표시된 이미지에서 인식된 객체와 관련된 정보를 제공하여, 인식된 객체에 대해 다차원적이고 단계적으로 정보를 제공할 수 있는 전자 장치 및 전자 장치의 정보 제공 방법을 제공할 수 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 전자 장치는, 화면상에 이미지를 표시하는 디스플레이; 및 상기 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하고, 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하며, 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 상기 화면상에 표시하도록 제어하는 제어부;를 포함할 수 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 정보 제공 방법은, 전자 장치의 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하는 동작; 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하는 동작; 및 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 화면상에 표시하는 동작을 포함할 수 있다.
본 발명의 다양한 실시 예들에 따르면, 각종 전자 장치에서 화면에 표시된 이미지로부터 인식된 객체와 관련된 정보를 사용자가 용이하게 확인할 수 있다.
본 발명의 다양한 실시 예들에 따르면, 각 인식된 객체별로 이용 가능한 정보(예컨대, 관련된 서비스에 대한 정보)를 표시하고, 특정 서비스가 선택될 때 대응하는 상세 정보를 제공함으로써 다양한 사용자 환경(user experience; UX)을 제공할 수 있다.
도 1은 본 발명의 다양한 실시 예에 따른 네트워크 환경을 나타내는 도면이다.
도 2는 본 발명의 다양한 실시 예에 따른, 전자 장치의 구성 예를 나타내는 도면이다.
도 3은 본 발명의 다양한 실시 예에 따른, 전자 장치의 정보 제공 절차를 나타내는 흐름도이다.
도 4는 본 발명의 다양한 실시 예에 따른, 전자 장치에서 제공되는 정보의 단계적 구조를 나타내는 도면이다.
도 5는 본 발명의 다양한 실시 예들에 따른, 전자 장치에서 인식된 객체의 관련 정보를 표시하는 예를 나타내는 도면이다.
도 6은 본 발명의 다양한 실시 예들에 따른, 제공되는 정보의 단계적 전환 과정을 나타내는 도면이다.
도 7은 본 발명의 다양한 실시 예들에 따른, 제공되는 정보의 단계적 전환 과정을 나타내는 도면이다.
도 8은 본 발명의 다양한 실시 예들에 따른, 제공되는 정보의 단계적 전환 과정을 나타내는 도면이다.
도 9는 본 발명의 다양한 실시 예들에 따른, 인식된 객체와 관련된 정보의 표시 방법의 예를 나타내는 도면이다.
도 10은 본 발명의 다양한 실시 예들에 따른, 인식된 객체와 관련된 정보의 표시 방법의 예를 나타내는 도면이다.
도 11은 본 발명의 다양한 실시 예들에 따른, 인식된 객체의 관련 정보 선택에 따른 정보 제공의 예를 나타내는 도면이다.
도 12는 본 발명의 다양한 실시 예들에 따른, 인식된 객체의 관련 정보 선택에 따른 정보 제공의 예를 나타내는 도면이다.
도 13은 본 발명의 다양한 실시 예들에 따른, 인식된 텍스트의 관련 정보 표시 단계를 나타내는 도면이다.
도 14는 본 발명의 다양한 실시 예들에 따른, 인식된 코드의 관련 정보 표시 단계를 나타내는 도면이다.
도 15는 본 발명의 다양한 실시 예들에 따른, 복수의 인식된 객체의 관련 정보 표시 예를 나타내는 도면이다.
도 16은 본 발명의 다양한 실시 예들에 따른, 인식된 문서 서식의 관련 정보 표시 예를 나타내는 도면이다.
도 17은 본 발명의 다양한 실시 예들에 따른, 복수의 인식된 객체의 결합과 관련된 정보를 표시하는 예를 나타내는 도면이다.
도 18은 본 발명의 다양한 실시 예들에 따른, 복수의 대상에서 복수의 객체를 인식하는 예를 나타내는 도면이다.
도 19는 본 발명의 다양한 실시 예들에 따른, 복수의 인식된 객체의 결합과 관련된 정보를 표시하는 예를 나타내는 도면이다.
도 20은 본 발명의 다양한 실시 예에 따른, 전자 장치의 구성을 나타내는 블록도이다.
이하, 첨부된 도면을 참조하여 본 발명(present disclosure)을 설명한다. 본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예를 가질 수 있는 바, 특정 실시 예들이 도면에 예시되고 관련된 상세한 설명이 기재되어 있다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경 및/또는 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용되었다.
본 발명 가운데 사용될 수 있는“포함한다” 또는 “포함할 수 있다” 등의 표현은 발명된 해당 기능, 동작 또는 구성요소 등의 존재를 가리키며, 추가적인 하나 이상의 기능, 동작 또는 구성요소 등을 제한하지 않는다. 또한, 본 발명에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 발명에서 “또는” 등의 표현은 함께 나열된 단어들의 어떠한, 그리고 모든 조합을 포함한다. 예를 들어, “A 또는 B”는, A를 포함할 수도, B를 포함할 수도, 또는 A 와 B 모두를 포함할 수도 있다.
본 발명 가운데 “제 1,”“제2,”“첫째,”또는“둘째,”등의 표현들이 본 발명의 다양한 구성요소들을 수식할 수 있지만, 해당 구성요소들을 한정하지 않는다. 예를 들어, 상기 표현들은 해당 구성요소들의 순서 및/또는 중요도 등을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분 짓기 위해 사용될 수 있다. 예를 들어, 제1 사용자 기기와 제 2 사용자 기기는 모두 사용자 기기이며, 서로 다른 사용자 기기를 나타낸다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해될 수 있어야 할 것이다.
본 발명에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
본 발명의 다양한 실시 예에서는 전자 장치에 표시된 이미지에서 인식된 객체와 관련된 정보를 제공하기 위한 정보 제공 방법 및 그 전자 장치를 개시한다.
본 발명의 다양한 실시 예에 따라 상기 인식된 각 객체와 관련된 적어도 하나의 1차 정보(예컨대, 정보 유형)를 표시할 수 있으며, 상기 1차 정보의 선택에 따라 대응하는 2차 정보(예컨대, 관련 정보 또는 상세 정보)를 화면상에 표시할 수 있다. 예컨대, 다양한 실시 예에 따라 상기 인식된 객체와 관련된 정보를 단계적 또는 계층적으로 표시함으로써 다양하고 효과적인 사용자 경험을 제공할 수 있다.
본 발명의 다양한 실시 예들에 따라 상기 전자 장치에 표시된 이미지 내에서 인식 가능한 '객체(object)'들의 예로는 광고 이미지, 회사 로고, 사람의 얼굴, 신체, 신체의 일부, 사람이 휴대하고 있는 물체, 사람이 착용하고 있는 물체, 건물, 건물의 일부, 수목, 배경에 고정된 물체, 이동 가능한 물체, 텍스트, 텍스처, 또는 제스쳐 등 이미지 내에서 인식 가능한 어떠한 대상도 본 발명의 다양한 실시 예에 따른 인식 가능한 객체에 포함될 수 있다.
또한, 본 발명의 다양한 실시 예에 따라 인식된 객체와 관련하여 제공 가능한 정보 유형들로는, 쿠폰, 이벤트, 전자 지도, 사전(dictionary) 검색, 이메일, 복사, 전화 걸기, 단문 메시지 서비스, 웹페이지, 또는 내비게이션 등의 정보를 포함할 수 있으며, 본 발명의 다양한 실시 예들이 상기 예에 한정되는 것은 아니다.
본 발명의 다양한 실시 예에 따른 전자 장치는 디스플레이 기능이 포함된 장치일 수 있으나, 이에 한정되는 것은 아니다. 예를 들면, 전자 장치는 스마트 폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 화상전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device)(예컨대, 전자 안경과 같은 head-mounted-device(HMD), 전자 의복, 전자 팔찌, 전자 목걸이, 전자 앱세서리(appcessory), 전자 문신, 또는 스마트 와치(smartwatch))중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에 따르면, 전자 장치는 디스플레이 기능을 갖춘 스마트 가전 제품(smart home appliance)일 수 있다. 스마트 가전 제품은, 예를 들자면, 전자 장치는 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), TV 박스(예를 들면, 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(game consoles), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에 따르면, 전자 장치는 각종 의료기기(예컨대, MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 초음파기 등), 네비게이션(navigation) 장치, GPS 수신기(global positioning system receiver), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예컨대, 선박용 항법 장치 또는 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛, 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller’s machine) 또는 상점의 POS(point of sales) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에 따르면, 전자 장치는 디스플레이 기능을 포함한 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 입력 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측기기(예컨대, 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 본 발명에 따른 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 또한, 본 발명에 따른 전자 장치는 플렉서블 장치일 수 있다. 또한, 본 발명에 따른 전자 장치는 전술한 기기들에 한정되지 않음은 당업자에게 자명하다.
이하, 첨부된 도면을 참조하여 다양한 실시 예에 따른 전자 장치에 대해서 살펴본다. 다양한 실시 예에서 이용되는 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치를 지칭할 수 있다.
도 1은 다양한 실시 예에 따른, 전자 장치(101)를 포함하는 네트워크 환경(100)을 도시한다. 도 1을 참조하면, 상기 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(140), 디스플레이(150), 통신 인터페이스(160), 또는 정보 제공 모듈(170) 중 적어도 어느 하나를 포함할 수 있다.
상기 버스(110)는 전술한 구성요소들을 서로 연결하고, 전술한 구성요소들 간의 통신(예컨대, 제어 메시지)을 전달하는 회로일 수 있다.
상기 프로세서(120)는, 예를 들면, 상기 버스(110)를 통해 전술한 다른 구성요소들(예컨대, 상기 메모리(130), 상기 입출력 인터페이스(140), 상기 디스플레이(150), 상기 통신 인터페이스(160), 또는 정보 제공 모듈(170) 등)로부터 명령을 수신하여, 수신된 명령을 해독하고, 해독된 명령에 따른 연산이나 데이터 처리를 실행할 수 있다.
상기 메모리(130)는, 상기 프로세서(120) 또는 다른 구성요소들(예컨대, 상기 입출력 인터페이스(140), 상기 디스플레이(150), 상기 통신 인터페이스(160), 또는 정보 제공 모듈(170) 등)로부터 수신되거나 상기 프로세서(120) 또는 다른 구성요소들에 의해 생성된 명령 또는 데이터를 저장할 수 있다. 상기 메모리(130)는, 예를 들면, 커널(131), 미들웨어(132), 애플리케이션 프로그래밍 인터페이스(API: application programming interface)(133) 또는 애플리케이션(134) 등의 프로그래밍 모듈들을 포함할 수 있다. 전술한 각각의 프로그래밍 모듈들은 소프트웨어, 펌웨어, 하드웨어 또는 이들 중 적어도 둘 이상의 조합으로 구성될 수 있다.
상기 커널(131)은 나머지 다른 프로그래밍 모듈들, 예를 들면, 상기 미들웨어(132), 상기 API(133) 또는 상기 애플리케이션(134)에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예컨대, 상기 버스(110), 상기 프로세서(120) 또는 상기 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 상기 커널(131)은 상기 미들웨어(132), 상기 API(133) 또는 상기 애플리케이션(134)에서 상기 전자 장치(101)의 개별 구성요소에 접근하여 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
상기 미들웨어(132)는 상기 API(133) 또는 상기 애플리케이션(134)이 상기 커널(131)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 상기 미들웨어(132)는 상기 애플리케이션(134)으로부터 수신된 작업 요청들과 관련하여, 예를 들면, 상기 애플리케이션(134) 중 적어도 하나의 애플리케이션에 상기 전자 장치(101)의 시스템 리소스(예컨대, 상기 버스(110), 상기 프로세서(120) 또는 상기 메모리(130) 등)를 사용할 수 있는 우선 순위를 배정하는 등의 방법을 이용하여 작업 요청에 대한 제어(예컨대, 스케쥴링 또는 로드 밸런싱)를 수행할 수 있다.
상기 API(133)는 상기 애플리케이션(134)이 상기 커널(131) 또는 상기 미들웨어(132)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 화상 처리 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예컨대, 명령어)를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 애플리케이션(134)은 SMS/MMS 애플리케이션, 이메일 애플리케이션, 달력 애플리케이션, 알람 애플리케이션, 건강 관리(health care) 애플리케이션(예컨대, 운동량 또는 혈당 등을 측정하는 애플리케이션) 또는 환경 정보 애플리케이션(예컨대, 기압, 습도 또는 온도 정보 등을 제공하는 애플리케이션) 등을 포함할 수 있다. 추가적으로 또는 대안적으로, 상기 애플리케이션(134)은 상기 전자 장치(101)와 외부 전자 장치(예컨대, 전자 장치(104)) 사이의 정보 교환과 관련된 애플리케이션일 수 있다. 상기 정보 교환과 관련된 애플리케이션은, 예를 들어, 상기 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 애플리케이션, 또는 상기 외부 전자 장치를 관리하기 위한 장치 관리(device management) 애플리케이션을 포함할 수 있다.
예를 들면, 상기 알림 전달 애플리케이션은 상기 전자 장치(101)의 다른 애플리케이션(예컨대, SMS/MMS 애플리케이션, 이메일 애플리케이션, 건강 관리 애플리케이션 또는 환경 정보 애플리케이션 등)에서 발생한 알림 정보를 외부 전자 장치(예컨대, 전자 장치(104))로 전달하는 기능을 포함할 수 있다. 추가적으로 또는 대안적으로, 상기 알림 전달 애플리케이션은, 예를 들면, 외부 전자 장치(예컨대, 전자 장치(104))로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 상기 장치 관리 애플리케이션은, 예를 들면, 상기 전자 장치(101)와 통신하는 외부 전자 장치(예컨대, 전자 장치(104))의 적어도 일부에 대한 기능(예컨대, 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴온/턴오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 상기 외부 전자 장치에서 동작하는 애플리케이션 또는 상기 외부 전자 장치에서 제공되는 서비스(예컨대, 통화 서비스 또는 메시지 서비스)를 관리(예컨대, 설치, 삭제 또는 업데이트)할 수 있다.
다양한 실시 예에 따르면, 상기 애플리케이션(134)은 상기 외부 전자 장치(예컨대, 전자 장치(104))의 속성(예컨대, 전자 장치의 종류)에 따라 지정된 애플리케이션을 포함할 수 있다. 예를 들어, 외부 전자 장치가 MP3 플레이어인 경우, 상기 애플리케이션(134)은 음악 재생과 관련된 애플리케이션을 포함할 수 있다. 유사하게, 외부 전자 장치가 모바일 의료기기인 경우, 상기 애플리케이션(134)은 건강 관리와 관련된 애플리케이션을 포함할 수 있다. 일 실시 예에 따르면, 상기 애플리케이션(134)은 전자 장치(101)에 지정된 애플리케이션 또는 외부 전자 장치(예컨대, 서버(106) 또는 전자 장치(104))로부터 수신된 애플리케이션 중 적어도 하나를 포함할 수 있다.
또한, 본 발명의 다양한 실시 예에 따르면, 상기 애플리케이션(134)은 이미지 분석과 관련된 애플리케이션을 포함할 수 있다. 예를 들면, 상기 애플리케이션(134)이 이미지 분석과 관련된 애플리케이션일 경우, 프로세서(120)에 의한 상기 애플리케이션(134)의 실행에 따라 선택된 이미지에 포함된 적어도 하나의 객체를 인식하고, 인식된 객체와 관련된 다양한 정보들을 디스플레이(150)를 통해 제공할 수 있다. 또한, 상기 애플리케이션(134)의 실행에 따라 네트워크(162)를 통해 상기 외부의 전자 장치(104)로부터 이미지 분석 정보 또는 상기 이미지에 포함된 객체와 관련된 정보를 수신하여 디스플레이(150)를 통해 제공할 수 있다. 이에 대한 상세한 실시 예들은 후술하기로 한다.
상기 입출력 인터페이스(140)는, 입출력 장치(예컨대, 센서, 키보드 또는 터치 스크린)를 통하여 사용자로부터 입력된 명령 또는 데이터를, 예를 들면, 상기 버스(110)를 통해 상기 프로세서(120), 상기 메모리(130), 또는 상기 통신 인터페이스(160)에 전달할 수 있다. 예를 들면, 상기 입출력 인터페이스(140)는 터치 스크린을 통하여 입력된 사용자의 터치에 대한 데이터를 상기 프로세서(120)로 제공할 수 있다. 또한, 상기 입출력 인터페이스(140)는, 예를 들면, 상기 버스(110)를 통해 상기 프로세서(120), 상기 메모리(130), 또는 상기 통신 인터페이스(160)로부터 수신된 명령 또는 데이터를 상기 입출력 장치(예컨대, 스피커 또는 디스플레이)를 통하여 출력할 수 있다. 예를 들면, 상기 입출력 인터페이스(140)는 상기 프로세서(120)를 통하여 처리된 데이터를 스피커 등을 통하여 사용자에게 출력할 수 있다.
상기 디스플레이(150)는 사용자에게 각종 정보(예컨대, 멀티미디어 데이터 또는 텍스트 데이터, 증강 현실 이미지, 객체 이미지, 인식된 객체와 관련된 정보(예컨대, 1차 정보 또는 2차 정보) 등)를 표시할 수 있다. 또한, 상기 디스플레이(150)는 적어도 하나의 이미지를 표시할 수 있으며, 표시된 이미지로부터 인식된 객체와 관련된 적어도 하나의 정보를 표시할 수 있다.
상기 통신 인터페이스(160)는 상기 전자 장치(101)와 외부 장치(예컨대, 전자 장치(104) 또는 서버(106)) 간의 통신을 연결할 수 있다. 예를 들면, 상기 통신 인터페이스(160)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 상기 외부 장치와 통신할 수 있다. 상기 무선 통신은, 예를 들어, 와이파이(wifi; wireless fidelity), BT(bluetooth), NFC(near field communication), GPS(global positioning system) 또는 셀룰라(cellular) 통신(예컨대, LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro 또는 GSM 등) 중 적어도 하나를 포함할 수 있다. 상기 유선 통신은, 예를 들어, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232) 또는 POTS(plain old telephone service) 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 네트워크(162)는 통신 네트워크(telecommunications network)일 수 있다. 상기 통신 네트워크는 컴퓨터 네트워크(computer network), 인터넷(internet), 사물 인터넷(internet of things) 또는 전화망(telephone network) 중 적어도 하나를 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치(101)와 외부 장치 간의 통신을 위한 프로토콜(예컨대, transport layer protocol, data link layer protocol 또는 physical layer protocol))은 애플리케이션(134), 애플리케이션 프로그래밍 인터페이스(133), 상기 미들웨어(132), 커널(131) 또는 통신 인터페이스(160) 중 적어도 하나에서 지원될 수 있다.
상기 도 1에서는 전자 장치(101)가 통신 인터페이스(160)를 구비하여 네트워크(120)를 통해 외부 전자 장치(104) 또는 서버(106) 등과 통신하는 것으로 도시되어 있으나, 본 발명의 다른 실시 예에 따라 상기 전자 장치(101)는 별도의 통신 기능 없이 전자 장치(101)의 내에서 독립적으로 동작하도록 구현될 수도 있다.
본 발명의 다양한 실시 예에 따르면, 제1 전자 장치(101)와 제2 전자 장치(104)는 유무선 통신 수단에 의해 상호 간에 또는 일방향으로 정보를 송수신할 수 있다. 상기 제1 전자 장치(101)는 스마트폰 등과 같은 휴대용 전자 장치일 수 있으며, 상기 제2 전자 장치(104)는 시계형 장치 또는 안경형 장치 등과 같은 웨어러블 장치일 수 있다. 반대로 상기 제1 전자 장치(101)는 시계형 장치 또는 안경형 장치 등과 같은 웨어러블 장치일 수 있으며, 상기 제2 전자 장치(104)는 스마트 폰 등과 같은 휴대용 전자 장치일 수 있다. 그러나, 본 발명의 다양한 실시 예들이 상기 장치들로 한정되는 것은 아니다. 후술하는 본 발명의 다양한 실시 예들에 따른 동작 또는 기능들은 하나의 전자 장치 내에서 구현될 수도 있으며, 적어도 일부의 기능이 다른 전자 장치 또는 네트워크(162)에 의해 연결된 서버(106)를 통해 제공될 수도 있다.
도 2는 본 발명의 다양한 실시 예에 따른, 전자 장치의 구성을 나타내는 도면이다. 도 2를 참조하면, 본 발명의 다양한 실시 예에 따른 전자 장치는 제어부(210), 저장부(220), 센서부(230), 카메라부(240), 표시부(250), 입력부(260), 또는 통신부(270) 중 적어도 하나의 구성을 포함하여 구성될 수 있다. 또한, 제어부(210)는 객체 인식부(211), 정보 관리부(212), 정보 검색부(213), 화면 구성부(214) 또는 정보 처리부(215) 중 적어도 하나의 구성을 포함하여 구성될 수 있다.
본 발명의 다양한 실시 예에 따라, 카메라부(240)를 통해 촬영된 영상 이미지 또는 저장부(220)에 저장된 이미지는 표시부(250)를 통해 화면상에 표시될 수 있다. 이때, 본 발명의 다양한 실시 예에 따라 객체 인식부(211)에서는 상기 화면상에 표시되는 이미지로부터 적어도 하나의 객체를 인식할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 인식 가능한 객체로는 전술한 바와 같이 광고 이미지, 회사 로고, 사람의 얼굴, 신체, 신체의 일부, 사람이 휴대하고 있는 물체, 사람이 착용하고 있는 물체, 건물, 건물의 일부, 수목, 배경에 고정된 물체, 이동 가능한 물체, 텍스트, 텍스처, 또는 제스쳐 중 적어도 어느 하나 이상이 될 수 있으며, 본 발명의 다양한 실시 예들이 이에 한정되지는 않는다.
본 발명의 다양한 실시 예에 따라, 객체 인식부(211)에서 적어도 하나의 객체가 인식되면, 정보 관리부(212)에서는 상기 인식된 객체에 대해 제공 가능한 정보(예컨대, 1차 정보 또는 2차 정보)를 검색하여 표시부(250)를 통해 화면상에 표시할 수 있다. 상기 정보 관리부(212)는 상기 인식된 객체에 대해 제공 가능한 정보를 전자 장치의 저장부(220)를 통해 검색할 수도 있으며, 정보 검색부(213)를 통해 서버(106)로 정보를 요청하여 검색할 수도 있다.
상기 제공 가능한 정보(예컨대, 1차 정보 또는 2차 정보)는 전술한 바와 같이 쿠폰, 이벤트, 전자 지도, 사전(dictionary) 검색, 이메일, 복사, 전화 걸기, 단문 메시지 서비스, 웹페이지, 또는 내비게이션 등의 정보 등이 될 수 있으며, 본 발명의 다양한 실시 예들이 이에 한정되지는 않는다.
본 발명의 다양한 실시 예에 따라, 상기 검색된 정보는 화면 구성부(214)를 통해 해당 인식된 객체와 관련하여 화면상에 배치될 수 있으며, 표시부(250)를 통해 인식된 객체와 관련된 적어도 하나의 정보를 연결하여 표시할 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 표시부(250)를 통해 표시된 적어도 하나의 정보에서 입력부(260)를 통해 특정 정보가 선택되면, 정보 처리부(215)에서는 상기 선택된 정보에 대한 관련 정보 또는 상세 정보들을 제공할 수 있다. 예컨대, 정보 검색부(213)를 통해 상기 인식된 객체 및/또는 상기 선택된 정보로 관련 정보 또는 상세 정보를 검색하고, 검색된 정보를 표시부(250)에 표시할 수 있다.
본 발명의 다양한 실시 예에 따라 상기 선택된 정보에 대한 관련 정보 또는 상세 정보는 계층적 또는 단계적으로 제공될 수 있다. 후술하는 실시 예들에 대한 설명에서는 상기 인식된 객체에 대해 1차적으로 화면상에 표시되는 적어도 하나의 정보를 설명의 편의상 '1차 정보'라 칭하기로 하며, 상기 '1차 정보'의 선택시 선택된 정보에 대한 관련 정보 또는 상세 정보를 '2차 정보'라 칭하기로 한다. 예컨대, 상기 '1차 정보'는 정보의 유형 또는 정보의 일부가 될 수 있으며, 상기 '2차 정보'는 선택된 정보의 유형에 대한 관련 정보 또는 상세 정보가 될 수 있다. 그러나, 본 발명의 다양한 실시 예들이 상기 정보 형태들로 한정되는 것은 아니다.
본 발명의 다양한 실시 예에 따라, 상기 센서부(sensor)(230)는 가속도계, GPS 모듈, 마이크 등 모든 측정 가능한 수단을 포함할 수 있다. 예컨대, 상기 센서부(230)는 GPS 모듈을 통해 인식된 위치 정보가 될 수도 있다. 이와 같이 상기 센서부(230)에서 센싱된 정보는 객체 인식부(211) 또는 정보 관리부(212)로 제공되어 인식된 객체와 관련된 서비스 또는 관련된 정보를 제공하는데 참조될 수 있다.
본 발명의 다양한 실시 예에서 각 기능부 또는 모듈이라 함은, 본 발명의 다양한 실시 예의 기술적 사상을 수행하기 위한 하드웨어 또는 상기 하드웨어를 구동하기 위한 소프트웨어의 기능적, 구조적 결합을 의미할 수 있다. 예컨대, 상기 각 기능부는 소정의 코드와 상기 소정의 코드가 수행되기 위한 하드웨어 리소스의 논리적인 단위를 의미할 수 있으며, 반드시 물리적으로 연결된 코드를 의미하거나, 한 종류의 하드웨어를 의미하는 것은 아님은 본 발명의 다양한 실시 예의 기술분야의 평균적 전문가에게는 용이하게 추론될 수 있다.
상기 도 2에서 제어부(210)는 도 1의 프로세서(120)와 별도의 모듈로 구현될 수도 있으며, 상기 제어부(210)의 적어도 일부 기능이 상기 프로세서(120) 내에 포함되어 구현될 수도 있다. 다른 실시 예에 따라, 상기 제어부(210)의 전체 기능이 상기 프로세서(120) 또는 다른 프로세서 내에 포함되어 구현될 수도 있다. 또한, 상기 제어부(210)는 소프트웨어 또는 하드웨어 형태로 구현될 수 있다. 예컨대, 제어부(210)가 소프트웨어로 구현될 경우, 애플리케이션(134)의 형태로 메모리(130)에 저장될 수도 있다.
본 발명의 다양한 실시 예 중 어느 하나에 따른 전자 장치는, 화면상에 이미지를 표시하는 디스플레이; 및 상기 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하고, 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하며, 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 상기 화면상에 표시하도록 제어하는 제어부;를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 2차 정보는 계층적으로 구성 가능하며, 각 계층별 정보의 선택에 따라 선택된 정보에 대한 하부 계층의 정보가 제공될 수 있다.
다양한 실시 예에 따르면, 상기 2차 정보는, 상기 1차 정보와 동일한 화면상에 동시에 표시될 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보는, 쿠폰, 이벤트, 전자 지도, 사전(dictionary) 검색, 이메일, 복사, 전화 걸기, 단문 메시지 서비스, 웹페이지, 또는 내비게이션 중에서 선택된 어느 하나 이상일 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보 또는 상기 2차 정보는, 상기 인식된 각 객체와 관련되도록 표시될 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보 또는 상기 2차 정보는, 상기 인식된 각 객체와 선으로 연결하여 표시될 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보 또는 상기 2차 정보는, 상기 인식된 각 객체와 이미지의 적어도 일부가 중첩되어 표시될 수 있다.
다양한 실시 예에 따르면, 상기 제어부는, 상기 표시된 복수의 1차 정보들 중에서 둘 이상의 1차 정보들이 동시에 선택되면, 상기 선택된 둘 이상의 1차 정보들이 서로 연관된 추가의 정보가 제공되도록 더 제어할 수 있다.
다양한 실시 예에 따르면, 상기 제어부는, 상기 동시에 선택된 1차 정보들 중 적어도 하나의 1차 정보에 전자 메일 주소가 포함될 경우, 상기 동시에 선택된 1차 정보들 중 다른 1차 정보에 대응하는 정보를 상기 전자 메일 주소로 전송하도록 더 제어할 수 있다.
다양한 실시 예에 따르면, 상기 제어부는, 상기 인식된 객체의 변화를 판단하고, 상기 객체의 변화에 대응하여 설정된 정보를 제공하도록 더 제어할 수 있다.
도 3은 본 발명의 다양한 실시 예에 따른, 전자 장치의 정보 제공 절차를 나타내는 흐름도이다. 도 3을 참조하면, 동작 302에서 본 발명의 다양한 실시 예에 따라 전자 장치의 표시부(250)에 표시된 화면 이미지에서 적어도 하나의 객체를 인식할 수 있다. 동작 304에서, 상기 인식된 객체와 관련된 적어도 하나의 정보를 검색하고, 동작 306에서 상기 검색된 적어도 하나의 정보(예컨대, 1차 정보)를 화면상에 표시할 수 있다. 상기 정보의 표시 방법은 로고, 이미지, 텍스트, 사진, 애니메이션, 소리 또는 그 중 둘 이상의 조합의 방법으로 표시할 수 있다. 예컨대, 도 5에 도시된 바와 같이 텍스트(예컨대, 'COUPON'이라는 텍스트), 이미지(예컨대, 지도 이미지), 마크 또는 아이콘(예컨대, 이벤트를 나타내는 아이콘) 등으로 정보 유형을 표시할 수 있다.
본 발명의 다양한 실시 예에 따라, 동작 308에서 상기 표시된 적어도 하나의 정보 중에서 특정 정보가 선택되면, 동작 310에서 상기 선택된 정보에 대한 관련 정보 또는 상세 정보(예컨대, 2차 정보)를 검색하여 화면상에 표시할 수 있다.
한편, 상술한 본 발명의 일 실시 예에 따른 전자 장치의 정보 제공 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 또는 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 또는 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
본 발명의 다양한 실시 예들에 따라, 상기 도 3에 도시된 동작들 중 적어도 하나의 동작이 생략되어 실행될 수도 있으며, 적어도 하나의 다른 동작이 상기 동작들 사이에 추가될 수도 있다. 또한, 상기 도 3의 동작들은 도시된 순서로 처리될 수도 있으며, 적어도 하나의 동작에 대한 실행 순서가 다른 동작의 실행 순서와 변경되어 처리될 수도 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치에서의 정보 제공 방법은, 전자 장치의 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하는 동작; 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하는 동작; 및 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 화면상에 표시하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 2차 정보는 계층적으로 구성 가능하며, 각 계층별 정보의 선택에 따라 선택된 정보에 대한 하부 계층의 정보가 제공될 수 있다.
다양한 실시 예에 따르면, 상기 2차 정보는, 상기 1차 정보와 동일한 화면상에 동시에 표시될 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보는, 쿠폰, 이벤트, 전자 지도, 사전(dictionary) 검색, 이메일, 복사, 전화 걸기, 단문 메시지 서비스, 웹페이지, 또는 내비게이션 중에서 선택된 어느 하나 이상일 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보 또는 상기 2차 정보는, 상기 인식된 각 객체와 관련되도록 표시될 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보 또는 상기 2차 정보는, 상기 인식된 각 객체와 선으로 연결하여 표시될 수 있다.
다양한 실시 예에 따르면, 상기 1차 정보 또는 상기 2차 정보는, 상기 인식된 각 객체와 이미지의 적어도 일부가 중첩되어 표시될 수 있다.
다양한 실시 예에 따르면, 상기 표시된 복수의 1차 정보들 중에서 둘 이상의 1차 정보들을 동시에 선택하는 동작; 및 상기 선택된 둘 이상의 1차 정보들이 서로 연관된 추가의 정보를 제공하는 동작;을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 동시에 선택된 1차 정보들 중 적어도 하나의 1차 정보에 전자 메일 주소가 포함될 경우, 상기 동시에 선택된 1차 정보들 중 다른 1차 정보에 대응하는 정보를 상기 전자 메일 주소로 전송하는 동작;을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 인식된 객체의 변화를 판단하는 동작; 및 상기 객체의 변화에 대응하여 설정된 정보를 제공하는 동작;을 더 포함할 수 있다.
도 4는 본 발명의 다양한 실시 예에 따라 제공되는 정보의 계층적 구조를 나타내는 도면이다. 도 4를 참조하면, 화면에 표시된 이미지에서 식별된 객체에 대한 제시어 또는 키워드(keyword)(401)에 대해 관련된 제공 가능한 다양한 종류의 1차 정보(402)(예컨대, 정보 유형 또는 정보의 일부)를 검색하여 제공할 수 있다.
예컨대, 본 발명의 다양한 실시 예에 따라, 식별된 객체에 대해 검색된 1차 정보가 제1 정보 내지 제N 정보가 존재할 경우, 각 1차 정보들은 화면상에서 해당 객체와 관련하여 다양한 형태로 표시될 수 있다. 상기 표시된 1차 정보들 중 특정 정보가 선택되면, 상기 선택된 정보에 대한 2차 정보(403)(예컨대, 관련 정보 또는 상세 정보)가 제공될 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 도 4에 도시된 바와 같이 각 키워드에 대한 1차 정보(402) 또는 2차 정보(403)들은 계층적으로 구조화되어 표시될 수 있다. 예컨대, 1차 정보(402)로서 제2 정보를 선택하면, 2차 정보(403)로서 제2-1 관련 정보가 표시되고, 다시 제2-1 관련 정보를 선택하면, 제2-2 관련 정보가 표시될 수 있다.
이하, 도 5 내지 도 9를 참조하여 본 발명의 다양한 실시 예에 따라, 전자 장치에서 인식된 객체와 관련된 정보를 표시하는 다양한 예들을 설명하기로 한다.
도 5를 참조하면, 본 발명의 다양한 실시 예에 따라, 전자 장치(500)의 화면상에 표시된 이미지에서 인식된 객체가 커피숍 로고일 경우, 상기 인식된 객체에 대해 제공 가능한 1차 정보(예컨대, 제공 가능한 서비스 등과 같은 정보 유형)을 검색하여 화면상에 표시할 수 있다. 예컨대, 인식된 객체에 대해 제공 가능한 정보가 쿠폰, 이벤트 알림, 지도검색 서비스 등일 경우, 도 5에 도시된 바와 같이 쿠폰 이미지(521), 지도 이미지(522), 이벤트 알림 아이콘(523) 등을 화면상에 표시할 수 있다. 또한, 이벤트 알림에 연관된 정보(예컨대, 이벤트 알림 제목, 주요 키워드 등)(524)를 함께 표시할 수도 있다.
본 발명의 다양한 실시 예에 따라, 상기 도 5에 표시된 1차 정보(예컨대, 정보 유형)을 나타내는 표시에서 특정 1차 정보를 선택하면, 도 6 내지 도 8에 도시된 바와 같이 각 1차 정보와 연결된 2차 정보들이 단계적으로 제공될 수 있다. 본 발명의 다양한 실시 예에 따라, 정보의 선택은 사용자의 명시적 선택일 수도 있으며, 서비스의 특성에 따라 자동으로 선택될 수도 있다. 상기 도 5와 같은 이벤트 서비스의 경우, 서비스 제공자가 광고 등의 목적으로 활용하고자 계층적 정보(예컨대, 2차 정보)의 일부를 1차 정보로서 함께 표시하기를 원할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라 사용자나 서비스 제공자의 설정에 따라 전자 장치는 특정 정보에 대하여 해당 정보에 대한 2차 정보(예컨대, 추가 정보)의 일부를 함께 표시할 수 있다.
도 6을 참조하면, 본 발명의 다양한 실시 예에 따라, 인식된 객체가 커피숍 로고(610)이고, 사용자가 커피숍 로고(610)에 대한 1차 정보로서 제공된 쿠폰 이미지(620)를 선택할 경우, 해당 쿠폰에 대한 상세 정보(630)를 2차 정보로서 화면상에 표시할 수 있다.
도 7을 참조하면, 본 발명의 다양한 실시 예에 따라, 인식된 객체가 커피숍 로고(710)이고, 사용자가 커피숍 로고(610)에 대한 1차 정보로서 제공된 이벤트 이미지(720)를 선택할 경우, 해당 이벤트에 대한 간략 정보(730)를 2차 정보로서 화면상에 표시할 수 있다. 또한, 상기 간략 정보(730)를 선택하면 보다 세부적인 이벤트 정보(740)를 화면상에 표시할 수 있다. 이와 같이, 사용자의 선택에 따라 단계적 또는 점진적으로 인식된 객체와 관련된 정보를 제공할 수 있다. 다양한 실시 예에 따라 상기 도 5에 도시된 바와 같이 상기 이벤트 이미지(720)와 간략 정보(730)는 한 화면에 동시에 표시될 수도 있다.
도 8을 참조하면, 본 발명의 다양한 실시 예에 따라, 인식된 객체가 커피숍 로고(810)이고, 사용자가 커피숍 로고(810)에 대한 1차 정보로서 제공된 전자 지도 이미지(820)를 선택할 경우, 해당 커피숍의 위치(831)가 표시된 전자 지도(830)가 2차 정보로서 화면상에 표시될 수 있다.
상기 도 6 내지 도 8을 참조하면, 본 발명의 다양한 실시 예에 따라, 사용자는 어떤 대상이 인식되었는지 알 수 있고, 자신의 관심 대상이 인식되었는지 확인할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라, 인식된 대상에 대하여 하이라이트, 이미지 테두리 처리, 배경 지우기 등의 방식을 통해 관심 대상, 예컨대 인식된 대상을 구별하여 볼 수 있도록 구성할 수도 있다.
도 9는 본 발명의 다양한 실시 예들에 따른, 인식된 객체와 관련된 정보의 표시 방법의 예를 나타내는 도면이고, 도 10은 본 발명의 다양한 실시 예들에 따른, 인식된 객체와 관련된 정보의 표시 방법의 예를 나타내는 도면이다.
본 발명의 다양한 실시 예에 따르면, 객체 인식 결과에 따라 적어도 하나 이상의 서비스가 결정될 수 있으며, 화면에는 서비스의 개수만큼 서비스 유형 이미지가 표시될 수 있다. 또한, 전자 장치(900, 1000)에서 인식된 객체(910, 1010)에 대하여 생성된 서비스 유형의 이미지 정보(921, 922, 1021, 1022)는 도 9에 도시된 바와 같이 인식된 객체를 지칭하는 말풍선과 같은 형태의 핀(pin) 타입으로 나타낼 수도 있으며, 도 10에 도시된 바와 같이 인식 대상에 일치되는 일부 이미지 영역에 겹쳐서 표현하는 오버랩(overlap) 타입의 형태 등으로 표현할 수도 있다.
본 발명의 다양한 실시 예에서는 인식된 대상에 대한 인식 결과를 기반으로 적어도 하나의 제공 가능한 서비스(service)를 결정하고 예컨대 상기 결정된 서비스(service)의 유형을 아이콘과 같은 형태로 보여 줄 수 있다. 예컨대, 서비스 결과 단계에서 사용자는 자신이 이용 가능한 서비스가 무엇인지를 알 수 있다. 상기 서비스 결과에서 하나 이상의 이용 가능한 형태의 서비스들이 전술한 바와 같이 화면상에 핀(pin) 또는 오버레이(overlay)등의 형태로 표현될 수 있으며, 사용자는 서비스를 확인하고 바로 수행시킬 수 있다.
본 발명의 다양한 실시 예에 따라, 각각의 서비스에 대한 정보 결과(예컨대, 쿠폰의 실제 내용(1+1 쿠폰 등))는 정보 제공 서버(예컨대, 서비스 제공자(service provider))로부터 제공될 수도 있으며 선택된 서비스에 대해 좀더 깊이 있는 정보를 제공할 수 있다. 또한, 본 발명의 다양한 실시 예에 따라 서비스의 구체적인 정보를 단계적으로 보여 줄 수도 있다. 또한, 최종 정보 결과에 도달하기까지, 적어도 하나의 중간 단계의 정보 결과들이 존재할 수도 있다. 또한, 사용자가 획득하려는 정보의 정도에 따라, 최종 정보 결과에 도달하기 전에 서비스를 완료할 수도 있다. 이후, 추가적인 정보 전달은 정보 제공 서버에 의해 결정될 수 있다.
또한, 본 발명의 다른 실시 예에 따라, 정보 제공 서버에서는 필요에 따라 더 구분된 관련 정보들을 제공할 수도 있다. 예를 들어, 도 9의 오버레이 타입(overlay type)의 경우, 메인 화면에는 사용자가 관심이 있을 수 있는 이벤트의 일부의 정보만을 제공하고, 해당 정보를 선택하면 상기 정보 제공 서버를 통해 좀더 구체적인 이벤트 정보를 제공하도록 구현할 수도 있다.
본 발명의 다양한 실시 예에 따라, 사용자는 다수의 서비스를 제공할 때, 설정이나 미리 분석된 상황 등을 바탕으로 한 화면상에 각각 서비스의 단계를 상이하게 표현할 수도 있다. 예를 들어, 해당 인식 대상 중 가장 주요한 항목이나 서비스 제공자가 제공하고자 하는 핵심 서비스를 부각되게 표시할 수도 있다. 도 9를 다시 참조하면, 오버레이 타입의 표시 방법에서 커피숍 로고와 관련된 정보 중 현재 진행 중인 이벤트 정보를 제품 이미지 위에 매핑시킴으로써 정보의 표시 효과를 부각시켜 표현하여 광고로 활용할 수도 있다.
도 11 및 도 12는 특정 서비스와 관련된 상세 정보를 단계적으로 탐색하는 방법의 예를 도시한다.
본 발명의 다양한 실시 예에 따라, 도 11 및 도 12를 참조하면, 사용자는 한 화면상에 표현된 다수의 서비스에 대하여 각각, 일부 또는 전체의 서비스 단계를 조정할 수 있다. 예를 들어, 사용자가 다수의 서비스 중에 하나의 서비스를 선택할 경우, 도 11에 도시된 바와 같이 해당 서비스에 대하여 다음 단계를 제공할 수 있도록 하거나, 도 12에 도시된 바와 같이 인식된 객체 자체를 선택하여 인식된 객체와 연결된 복수의 서비스들의 다음 단계 정보(예컨대, 2차 정보)를 동시에 얻을 수 있도록 구현할 수도 있다.
예컨대, 도 11을 참조하면, 본 발명의 다양한 실시 예에 따라, 전자 장치(1100)에서 인식된 객체(1110)에 대해 연결된 다수의 정보(1121, 1122, 1123, 1124)들이 다양한 형태로 표시될 수 있다. 상기 인식된 객체(1110)와 관련하여 표시된 다수의 정보들 중에서 특정 정보(1121)를 선택하면, 상기 선택된 정보(1121)에 대한 상세 정보(1131)가 표시될 수 있다. 본 발명의 다양한 실시 예에 따라 상기 다수의 정보(1121, 1122, 1123, 1124)들 중에서 일부의 정보를 선택함으로써 해당 정보에 대한 상세 정보(1131)가 표시될 수 있다.
본 발명의 다양한 실시 예에 따라, 도 12를 참조하면, 전자 장치(1200)에서 인식된 객체(1210)에 대해 연결된 다수의 정보(1221, 1222, 1223, 1224)들이 다양한 형태로 표시될 수 있다. 상기 인식된 객체(1210)를 사용자가 선택하면, 다수의 정보(1221, 1222, 1223, 1224)들 중에서 미리 선택된 적어도 하나의 정보(예컨대, 쿠폰 정보 또는 지도 정보)에 대한 상세 정보(1231, 1232)가 표시될 수 있다.
본 발명의 다양한 실시 예에 따라, 상기 서비스와 인식 객체를 선택하는 방법은 단계적 접근을 위하여 터치, 호버링, 아이 트래킹, 팜 인식, 제스처 등 다양한 방식으로 단계를 조정 또는 선택할 수 있다.
본 발명의 다른 실시 예에 따라, 상기 인식된 객체로부터 스트링 또는 텍스트(string/text)를 더 인식함으로써 관련된 서비스를 더 제공할 수도 있다. 예를 들어, 인식된 텍스트를 통해 사전, 웹 검색, 전자 메일(E-mail) 보내기/검색, 전화 걸기/검색, 단문 메시지 보내기/검색, 복사, PIMS 검색, 내비게이션(navigation) 검색 등의 다양한 서비스들을 더 제공할 수 있다. 또한, 스트링 또는 텍스트의 패턴을 검사하여 일부 서비스를 활성화 또는 비활성화(enable/disable)시키는 것도 가능하다.
예컨대, 텍스트 인식 서비스 중에서 사전 서비스에 대해서는 도 13에 도시된 바와 같이 단계적으로 변화하는 UX를 표시할 수 있다. 예컨대, 도 13에 도시된 바와 같이 먼저 인식된 텍스트(text)(1310)를 표시함으로써 인식된 텍스트의 오류 여부를 확인할 수 있다. 그런 다음, 인식된 텍스트에 대해 사전(dictionary) 서비스가 가능함을 표시(1320)할 수 있다. 다음으로, 사전 정보 제공자는 인식된 텍스트를 사전 검색하여 검색 결과(1330)를 표시할 수 있다.
QR(quick response) 코드의 경우 내부 정보 URL을 많이 사용한다. 도 14를 참조하면, 본 발명의 다양한 실시 예에 따라, 상기 인식된 QR 코드에 대해 도시된 바와 같이 인터넷 비디오 스트리밍 서비스 사업자가 단계적으로 변화하는 UX를 구현할 수도 있다.
예컨대, 본 발명의 다양한 실시 예에 따라, 먼저 QR 코드의 영역(1410)을 표시하고, 다음으로, QR 코드의 URL이 유튜브 비디오(Youtube video)인 경우, 스트리밍 서비스가 이용 가능함을 표시(1420)할 수 있다. 다음으로, 해당 비디오의 썸 네일(thumbnail) 이미지(1430)를 표시하고, 해당 비디오의 샘플 영상(또는 전체 영상)의 스트리밍 재생 서비스(1440)를 제공할 수 있다.
본 발명의 다양한 실시 예에 따라, 이러한 점진적 단계를 이용하여, 사용자에게 인식 대상으로부터 서비스가 결정되는 단계에 대한 정보를 받을 수 있으며, 더 나아가 사용자가 원하는 단계의 서비스를 수행할 수 있다.
도 15는 본 발명의 다양한 실시 예들에 따른, 복수의 인식된 객체의 관련 정보 표시 예를 나타내는 도면이다. 본 발명의 다른 실시 예에 따라, 도 15를 참조하면, 화면에 표시된 이미지로부터 복수의 객체가 인식될 경우, 각 인식된 객체에 대해 적어도 하나의 제공 가능한 서비스 유형들을 각각 제공할 수도 있다. 이때, 사용자가 특정 인식된 객체에 대한 특정 서비스를 선택할 경우, 해당 서비스에 대한 관련 정보 또는 상세 정보를 제공할 수 있다. 예컨대, 도 15에서 사용자가 단어 검색 서비스를 선택할 경우 도 13에 도시된 바와 같이 단어 사전 검색 서비스를 제공할 수 있으며, 도 15에서 사용자가 QR 코드 분석 서비스를 선택할 경우 도 14에 도시된 바와 같이 인식된 QR 코드에 해당하는 비디오 영상 등을 제공할 수 있다.
본 발명의 다양한 실시 예에 따라, 보다 구체적으로 설명하면, 전자 장치(1500)로 신문 기사(1510)의 적어도 일부를 촬영할 때, QR 코드(1511)가 인식될 수 있다. 상기 QR 코드(1511)의 URL이 유튜브 비디오(Youtube video)(1512)인 경우, 스트리밍 서비스 이용 가능함을 표시할 수 있다. 이때, 사용자가 단어를 선택하면, 도시된 바와 같이 선택된 단어(1514)에 대한 검색 서비스가 제공될 수 있으며, 사용자가 QR 코드(1515))를 선택하면, QR 코드에 해당하는 정보를 제공할 수 있다.
도 16은 본 발명의 다양한 실시 예들에 따른, 인식된 문서 서식의 관련 정보 표시 예를 나타내는 도면이다. 본 발명의 다양한 실시 예에 따라, 도 16을 참조하면 증강 현실 서비스에 적용할 경우 인식 객체의 실시간 변화에 따라 각 단계를 인식하여 해당 서비스를 제공할 수도 있다.
본 발명의 다양한 실시 예에 따라, 상기 단계적 인식 서비스는 외부 서비스 제공 서버에 의해 제공될 수도 있다. 또한, 전자 장치에서 제공하는 프레임워크(framework)를 기반으로 추가의 서비스를 구성할 수도 있으며, 인식 데이터베이스(DB)와 연동된 서비스를 구성할 수도 있다. 또한, 외부의 서비스 제공 서버가 제공하는 서비스는 서비스 결과 또는 정보 결과를 통해 선택된 서비스를 런치(lounch)하는 형태로 제공되며, 일 형태로서 상술한 바와 같이 외부의 별도의 사이트나 애플리케이션을 로딩하여 동작하도록 할 수도 있다.
예컨대, 도 16을 참조하면, 본 발명의 다양한 실시 예에 따라, 관공서 신청서류 작성 가이드 서비스에 본 발명의 다양한 실시 예들을 적용할 수 있다. 예컨대, 외부의 정보 제공 서버가 서비스 결과 또는 정보 결과를 이용하여 현재 주시하는 현실의 인식 객체에 매칭하고, 상호 간의 인터렉션(interaction)을 제공하는 형태로 서비스를 제공할 수 있다.
본 발명의 다양한 실시 예에 따라, 도 16에 도시된 바와 같이, 사용자가 관공서를 방문하여 서류를 작성해야 할 경우, 해당 관공서가 제공하는 서류 작성 가이드 서비스를 이용할 수 있다. 예컨대, 전자 장치(1600)가 여권 발급 신청서(1610)를 객체로 인식하면, 여권 발급 신청서(1610)와 관련된 정보 유형으로서 전자 장치의 표시부에 표시된 객체에 가이드 또는 예시 정보가 제공될 수 있다. 예컨대, 1 단계 서비스(예컨대, 1차 정보)로 신청서의 각 항목을 어떻게 써야할 지에 대한 가이드 서비스와 실제 작성된 예시 서비스 중 하나를 선택할 수 있는 메뉴를 제공받을 수 있다. 사용자가 예시 서비스를 선택하게 되면 2 단계 서비스로 도 16 의 두 번째 그림에서 확인할 수 있듯이, 전자 장치의 표시부에 표시된 객체에 작성해야하는 실제 영역을 인식하여, 해당 위치에 예시 정보를 보여 줄 수 있다.
사용자가 예시를 참고하여 실세계의 여권 발급 신청서(1610)에 제 양식에 맞게 작성한다면, 3 단계 서비스로 도 16의 세 번째 그림과 같이, 전자장치의 표시부에 실제 변경이 일어난 부분(실세계에 일어난 변경)에 대해서, 예시의 부분을 제거하고, 작성된 내용을 업데이트하여, 작성된 영역임을 알 수 있도록 해당 영역을 기존의 예시들과 다르게 보여 줄 수 있다. 예컨대, 도 16에서 성과 이름은 동일한 예시 서비스이지만, '성' 부분은 3단계, '이름' 부분은 2단계로 서비스를 하는 것이 가능하다.
도 17은 본 발명의 다른 실시 예에 따라 다수의 서비스 또는 인식 객체를 혼합하여 추가 서비스를 표시하는 방법을 나타내는 예이다.
본 발명의 다양한 실시 예에 따라, 도 17을 참조하면, 인식 대상에 대하여 다수의 서비스가 존재하거나 다수의 인식 객체들이 존재할 경우, 이들 간의 상호 연동을 통해 파생된 제 3의 서비스를 제공할 수 있다. 예를 들면, 인식된 객체에 대해 다수의 서비스(예컨대, 쿠폰 서비스와 전자 지도 서비스)를 연동하는 경우, 혹은 명함의 전자 메일(Email) 주소 또는 QR 코드를 참조하여 다수의 인식 대상을 연동하는 경우가 가능하다.
본 발명의 다양한 실시 예에 따라, 각 인식 결과에 연결되는 서비스가 다수일 경우, 사용자는 서비스를 선택하여, 서비스의 정보 단계를 조절하거나 수행할 수 있다. 사용자가 서비스를 선택하는 방법으로는 터치, 클릭, 사용자의 제스쳐 인식(손끝 인식, 시선 추적), 호버링, 인식 객체를 기기의 특정 위치로 지향, 콘텍스트 인식(context awareness)에 의한 자동화, 인식 객체 자체의 실시간 이동 등의 방법이 있다.
예컨대, 도 17을 참조하면, 본 발명의 다양한 실시 예에 따라, 전자 장치(1700)에서 인식된 객체(1710)에 대해 연결된 다수의 정보(1721, 1722, 1723, 1724)들이 다양한 형태로 표시될 수 있다. 본 발명의 다양한 실시 예에 따라 사용자의 제스쳐(예컨대, 핀치 제스쳐)에 의해 쿠폰 정보(1721)와 지도 정보(1722)를 모으는 또는 결합하는 제스처를 취하면, 상기 쿠폰 정보와 지도 정보가 결합된 새로운 추가 정보(예컨대, 해당 지역에서 제공하는 쿠폰 서비스 등)를 사용자에게 제공할 수 있다. 예컨대, 도 17에 도시된 바와 같이 쿠폰 정보와 지도 정보를 결합하여, 해당 쿠폰을 어느 위치에서 사용할 수 있는지 서비스를 제공할 수 있다.
도 18 및 도 19를 참조하면, 본 발명의 다른 실시 예에 따라 두 개의 인식 객체로부터 결정된 서비스의 결합이 가능함을 알 수 있다.
본 발명의 다양한 실시 예에 따라, 도 18을 참조하면, QR 코드가 포함된 기사 정보(1820)에 명함(1810)을 겹친 후, 상기 QR 코드와 명함을 전자 장치(1830)에서 동시에 인식하면, 상기 QR 코드와 명함에서 추출된 정보를 결합하여 새로운 추가 정보를 제공할 수 있다.
본 발명의 다양한 실시 예에 따라, 도 19에 도시된 바와 같이 QR 코드가 포함된 기사 정보(1920)에 명함(1910)을 겹친 후, 상기 QR 코드와 명함을 전자 장치(1930)에서 동시에 인식하고, 상기 명함에 포함된 전자 메일 주소를 사용자가 선택하여, QR 코드와 결합하는 제스쳐(예컨대, 핀치 제스쳐)를 취하면, 상기 선택된 전자 주소로 상기 QR 코드의 인식된 정보(예컨대, 보너스 콘텐츠 정보)가 전송될 수 있다. 예컨대, 도 19에 도시된 바와 같이 명함의 전자 메일 주소로 해당 콘텐츠 정보(예컨대, 동영상의 URL 정보 또는 실제 동영상 정보)를 전달해줄 수도 있다.
한편, 상술한 전자 장치(100)는 표시부를 구비하는 임의의 장치일 수 있으며, 카메라, 휴대 장치, 이동 단말, 통신 단말, 휴대용 통신 단말, 휴대용 이동 단말 등으로 칭할 수 있다. 예를 들어, 전자 장치는 디지털 카메라, 스마트폰, 휴대폰, 게임기, 텔레비전(TV), 디스플레이 장치, 차량용 헤드 유닛, 노트북 컴퓨터, 랩탑 컴퓨터, 태블릿(tablet) 컴퓨터, PMP(personal media player), PDA(personal digital assistants), 내비게이션 장치, 은행의 ATM, 상점의 POS 장치 등일 수 있다. 또한, 본 발명에서의 전자 장치는 플렉서블 장치 또는 플렉서블 디스플레이 장치일 수 있다.
이하, 도 20을 참조하여, 본 발명의 다양한 실시 예들이 적용될 수 있는 전자 장치(2001)의 세부 구성을 예로서 설명하기로 한다.
도 20은 다양한 실시 예들에 따른 전자 장치(2001)의 블록도(2000)를 도시한다. 상기 전자 장치(2001)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 구성할 수 있다. 도 20을 참조하면, 상기 전자 장치(2001)는 하나 이상의 애플리케이션 프로세서(AP: application processor)(2010), 통신 모듈(2020), SIM(subscriber identification module) 카드(2024), 메모리(2030), 센서 모듈(2040), 입력 장치(2050), 디스플레이(2060), 인터페이스(2070), 오디오 모듈(2080), 카메라 모듈(2091), 전력관리 모듈(2095), 배터리(2096), 인디케이터(2097) 또는 모터(2098) 중에서 적어도 하나 이상을 포함할 수 있다.
상기 AP(2010)는 운영체제 또는 응용 프로그램을 구동하여 상기 AP(2010)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 멀티미디어 데이터를 포함한 각종 데이터 처리 또는 연산을 수행할 수 있다. 상기 AP(2010)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 일 실시 예에 따르면, 상기 AP(2010)는 GPU(graphic processing unit, 미도시)를 더 포함할 수 있다.
상기 통신 모듈(2020)(예컨대, 상기 통신 인터페이스(160))은 상기 전자 장치(2001)(예컨대, 상기 전자 장치(101))와 네트워크를 통해 연결된 다른 전자 장치들(예컨대, 전자 장치(104) 또는 서버(106) 간의 통신에서 데이터 송수신을 수행할 수 있다. 일 실시 예에 따르면, 상기 통신 모듈(2020)은 셀룰러 모듈(2021), Wifi 모듈(2023), BT 모듈(2025), GPS 모듈(2027), NFC 모듈(2028) 또는 RF(radio frequency) 모듈(2029) 중에서 적어도 하나 이상을 포함할 수 있다.
상기 셀룰러 모듈(2021)은 통신망(예컨대, LTE, LTE-A, CDMA, WCDMA, UMTS, WiBro 또는 GSM 등)을 통해서 음성 통화, 영상 통화, 문자 서비스 또는 인터넷 서비스 등을 제공할 수 있다. 또한, 상기 셀룰러 모듈(2021)은, 예를 들면, 가입자 식별 모듈(예컨대, SIM 카드(2024))을 이용하여 통신 네트워크 내에서 전자 장치의 구별 또는 인증을 수행할 수 있다. 일 실시 예에 따르면, 상기 셀룰러 모듈(2021)은 상기 AP(2010)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 예를 들면, 상기 셀룰러 모듈(2021)은 멀티 미디어 제어 기능의 적어도 일부를 수행할 수 있다.
일 실시 예에 따르면, 상기 셀룰러 모듈(2021)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다. 또한, 상기 셀룰러 모듈(2021)은, 예를 들면, SoC(System on Chip) 형태로 구현될 수 있다. 도 20에서는 상기 셀룰러 모듈(2021)(예컨대, 커뮤니케이션 프로세서), 상기 메모리(2030) 또는 상기 전력관리 모듈(2095) 등의 구성요소들이 상기 AP(2010)와 별개의 구성요소로 도시되어 있으나, 일 실시 예에 따르면, 상기 AP(2010)가 전술한 구성요소들의 적어도 일부(예컨대, 셀룰러 모듈(2021)을 포함하도록 구현될 수 있다.
한 실시 예에 따르면, 상기 AP(2010) 또는 상기 셀룰러 모듈(2021)(예컨대, 커뮤니케이션 프로세서)은 각각에 연결된 비휘발성 메모리 또는 다른 구성요소 중 적어도 하나로부터 수신한 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리할 수 있다. 또한, 상기 AP(2010) 또는 상기 셀룰러 모듈(2021)은 다른 구성요소 중 적어도 하나로부터 수신하거나 다른 구성요소 중 적어도 하나에 의해 생성된 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
상기 Wifi 모듈(2023), 상기 BT 모듈(2025), 상기 GPS 모듈(2027) 또는 상기 NFC 모듈(2028) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 도 20에서는 셀룰러 모듈(2021), Wifi 모듈(2023), BT 모듈(2025), GPS 모듈(2027) 또는 NFC 모듈(2028)이 각각 별개의 블록으로 도시되었으나, 일 실시 예에 따르면, 셀룰러 모듈(2021), Wifi 모듈(2023), BT 모듈(2025), GPS 모듈(2027) 또는 NFC 모듈(2028) 중 적어도 일부(예컨대, 두 개 이상)는 하나의 집적 회로(integrated chip; IC) 또는 IC 패키지 내에 포함될 수 있다. 예를 들면, 셀룰러 모듈(2021), Wifi 모듈(2023), BT 모듈(2025), GPS 모듈(2027) 또는 NFC 모듈(2028) 각각에 대응하는 프로세서들 중 적어도 일부(예컨대, 셀룰러 모듈(2021))에 대응하는 커뮤니케이션 프로세서 또는 Wifi 모듈(2023)에 대응하는 Wifi 프로세서)는 하나의 SoC로 구현될 수 있다.
상기 RF 모듈(2029)은 데이터의 송수신, 예를 들면, RF 신호의 송수신을 할 수 있다. 상기 RF 모듈(2029)은, 도시되지는 않았으나, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter) 또는 LNA(low noise amplifier) 등을 포함할 수 있다. 또한, 상기 RF 모듈(2029)은 무선 통신에서 자유 공간상의 전자파를 송수신하기 위한 부품, 예를 들면, 도체 또는 도선 등을 더 포함할 수 있다. 도 20에서는 셀룰러 모듈(2021), Wifi 모듈(2023), BT 모듈(2025), GPS 모듈(2027) 및 NFC 모듈(2028)이 하나의 RF 모듈(2029)을 서로 공유하는 것으로 도시되어 있으나, 일 실시 예에 따르면, 셀룰러 모듈(2021), Wifi 모듈(2023), BT 모듈(2025), GPS 모듈(2027) 또는 NFC 모듈(2028) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호의 송수신을 수행할 수 있다.
상기 SIM 카드(2024)는 가입자 식별 모듈을 포함하는 카드일 수 있으며, 전자 장치의 특정 위치에 형성된 슬롯에 삽입될 수 있다. 상기 SIM 카드(2024)는 고유한 식별 정보(예컨대, ICCID(integrated circuit card identifier)) 또는 가입자 정보(예컨대, IMSI(international mobile subscriber identity))를 포함할 수 있다.
상기 메모리(2030)(예컨대, 상기 메모리(130))는 내장 메모리(2032) 또는 외장 메모리(2034)를 포함할 수 있다. 상기 내장 메모리(2032)는, 예를 들면, 휘발성 메모리(예를 들면, DRAM(dynamic RAM), SRAM(static RAM), SDRAM(synchronous dynamic RAM) 등) 또는 비휘발성 메모리(non-volatile Memory)(예를 들면, OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, NAND flash memory, NOR flash memory 등) 중 적어도 하나를 포함할 수 있다.
일 실시 예에 따르면, 상기 내장 메모리(2032)는 SSD(Solid State Drive) 일 수 있다. 상기 외장 메모리(2034)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital) 또는 메모리 스틱(Memory Stick) 등을 더 포함할 수 있다. 상기 외장 메모리(2034)는 다양한 인터페이스를 통하여 상기 전자 장치(2001)와 기능적으로 연결될 수 있다. 일 실시 예에 따르면, 상기 전자 장치(2001)는 하드 드라이브와 같은 저장 장치(또는 저장 매체)를 더 포함할 수 있다.
상기 센서 모듈(2040)은 물리량을 계측하거나 전자 장치(2001)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 상기 센서 모듈(2040)은, 예를 들면, 제스처 센서(2040A), 자이로 센서(2040B), 기압 센서(2040C), 마그네틱 센서(2040D), 가속도 센서(2040E), 그립 센서(2040F), 근접 센서(2040G), 색상(color) 센서(2040H)(예컨대, RGB(red, green, blue) 센서), 생체 센서(2040I), 온/습도 센서(2040J), 조도 센서(2040K) 또는 UV(ultra violet) 센서(2040M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 상기 센서 모듈(2040)은, 예를 들면, 후각 센서(E-nose sensor, 미도시), EMG 센서(electromyography sensor, 미도시), EEG 센서(electroencephalogram sensor, 미도시), ECG 센서(electrocardiogram sensor, 미도시), IR(infra red) 센서(미도시), 홍채 센서(미도시) 또는 지문 센서(미도시) 등을 포함할 수 있다. 상기 센서 모듈(2040)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다.
상기 입력 장치(2050)는 터치 패널(touch panel)(2052), (디지털) 펜 센서(pen sensor)(2054), 키(key)(2056) 또는 초음파(ultrasonic) 입력 장치(2058)를 포함할 수 있다. 상기 터치 패널(2052)은, 예를 들면, 정전식, 감압식, 적외선 방식 또는 초음파 방식 중 적어도 하나의 방식으로 터치 입력을 인식할 수 있다. 또한, 상기 터치 패널(2052)은 제어 회로를 더 포함할 수도 있다. 정전식의 경우, 물리적 접촉 또는 근접 인식이 가능하다. 상기 터치 패널(2052)은 택타일 레이어(tactile layer)를 더 포함할 수도 있다. 이 경우, 상기 터치 패널(2052)은 사용자에게 촉각 반응을 제공할 수 있다.
상기 (디지털) 펜 센서(2054)는, 예를 들면, 사용자의 터치 입력을 받는 것과 동일 또는 유사한 방법 또는 별도의 인식용 쉬트(sheet)를 이용하여 구현될 수 있다. 상기 키(2056)는, 예를 들면, 물리적인 버튼, 광학식 키 또는 키패드를 포함할 수 있다. 상기 초음파(ultrasonic) 입력 장치(2058)는 초음파 신호를 발생하는 입력 도구를 통해, 전자 장치(2001)에서 마이크(예컨대, 마이크(2088))로 음파를 감지하여 데이터를 확인할 수 있는 장치로서, 무선 인식이 가능하다. 일 실시 예에 따르면, 상기 전자 장치(2001)는 상기 통신 모듈(2020를 이용하여 이와 연결된 외부 장치(예컨대, 컴퓨터 또는 서버)로부터 사용자 입력을 수신할 수도 있다.
상기 디스플레이(2060)(예컨대, 상기 디스플레이(150))는 패널(2062), 홀로그램 장치(2064) 또는 프로젝터(2066))를 포함할 수 있다. 상기 패널(2062)은, 예를 들면, LCD(liquid-crystal display) 또는 AM-OLED(active-matrix organic light-emitting diode) 등일 수 있다. 상기 패널(2062)은, 예를 들면, 유연하게(flexible), 투명하게(transparent) 또는 착용할 수 있게(wearable) 구현될 수 있다. 상기 패널(2062)은 상기 터치 패널(2052)과 하나의 모듈로 구성될 수도 있다. 상기 홀로그램 장치(2064)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 상기 프로젝터(2066)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 상기 스크린은, 예를 들면, 상기 전자 장치(2001)의 내부 또는 외부에 위치할 수 있다. 일 실시 예에 따르면, 상기 디스플레이(2060)는 상기 패널(2062), 상기 홀로그램 장치(2064), 또는 프로젝터(2066)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
상기 인터페이스(2070)는, 예를 들면, HDMI(high-definition multimedia interface)(2072), USB(universal serial bus)(2074), 광 인터페이스(optical interface)(2076) 또는 D-sub(D-subminiature)(2078)를 포함할 수 있다. 상기 인터페이스(2070)는, 예를 들면, 도 1에 도시된 통신 인터페이스(160)에 포함될 수 있다. 추가적으로 또는 대안적으로, 상기 인터페이스(2070)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure Digital) 카드/MMC(multi-media card) 인터페이스 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
상기 오디오 모듈(2080)은 소리(sound)와 전기신호를 쌍방향으로 변환시킬 수 있다. 상기 오디오 모듈(2080)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(140)에 포함될 수 있다. 상기 오디오 모듈(2080)은, 예를 들면, 스피커(2082), 리시버(2084), 이어폰(2086) 또는 마이크(2088) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
상기 카메라 모듈(2091)은 정지 영상 또는 동영상을 촬영할 수 있는 장치로서, 일 실시 예에 따르면, 하나 이상의 이미지 센서(예컨대, 전면 센서 또는 후면 센서), 렌즈(미도시), ISP(image signal processor, 미도시) 또는 플래쉬(flash, 미도시)(예컨대, LED 또는 제논 램프(xenon lamp))를 포함할 수 있다.
상기 전력 관리 모듈(2095)은 상기 전자 장치(2001)의 전력을 관리할 수 있다. 도시하지는 않았으나, 상기 전력 관리 모듈(2095)은, 예를 들면, PMIC(power management integrated circuit), 충전 IC(charger integrated circuit) 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다.
상기 PMIC는, 예를 들면, 집적회로 또는 SoC 반도체 내에 탑재될 수 있다. 충전 방식은 유선과 무선으로 구분될 수 있다. 상기 충전 IC는 배터리를 충전시킬 수 있으며, 충전기로부터의 과전압 또는 과전류 유입을 방지할 수 있다. 일 실시 예에 따르면, 상기 충전 IC는 유선 충전 방식 또는 무선 충전 방식 중 적어도 하나를 위한 충전 IC를 포함할 수 있다. 무선 충전 방식으로는, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등이 있으며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로 또는 정류기 등의 회로가 추가될 수 있다.
상기 배터리 게이지는, 예를 들면, 상기 배터리(2096)의 잔량, 충전 중 전압, 전류 또는 온도를 측정할 수 있다. 상기 배터리(2096)는 전기를 저장 또는 생성할 수 있고, 그 저장 또는 생성된 전기를 이용하여 상기 전자 장치(2001)에 전원을 공급할 수 있다. 상기 배터리(2096)는, 예를 들면, 충전식 전지(rechargeable battery) 또는 태양 전지(solar battery)를 포함할 수 있다.
상기 인디케이터(2097)는 상기 전자 장치(2001) 혹은 그 일부(예컨대, 상기 AP(2010)의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 상기 모터(2098)는 전기적 신호를 기계적 진동으로 변환할 수 있다. 도시되지는 않았으나, 상기 전자 장치(2001)는 모바일 TV 지원을 위한 처리 장치(예컨대, GPU)를 포함할 수 있다. 상기 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting) 또는 미디어플로우(media flow) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 발명에 따른 전자 장치의 전술한 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 본 발명에 따른 전자 장치는 전술한 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 본 발명에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
본 발명에 사용된 용어 “모듈”은, 예를 들어, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. “모듈”은 예를 들어, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component) 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. “모듈”은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. “모듈”은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. “모듈”은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, 본 발명에 따른 “모듈”은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따르면, 본 발명에 따른 장치(예컨대, 모듈들 또는 그 기능들) 또는 방법(예컨대, 동작들)의 적어도 일부는, 예컨대, 프로그래밍 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어는, 하나 이상의 프로세서에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리가 될 수 있다. 상기 프로그래밍 모듈의 적어도 일부는, 예를 들면, 상기 프로세서에 의해 구현(implement)(예컨대, 실행)될 수 있다. 상기 프로그래밍 모듈의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
상기 컴퓨터로 판독 가능한 기록 매체에는 하드디스크, 플로피디스크 또는 자기 테이프와 같은 마그네틱 매체(Magnetic Media)와, CD-ROM(Compact Disc Read Only Memory), DVD(Digital Versatile Disc)와 같은 광기록 매체(Optical Media)와, 플롭티컬 디스크(Floptical Disk)와 같은 자기-광 매체(Magneto-Optical Media)와, 그리고 ROM(Read Only Memory), RAM(Random Access Memory), 플래시 메모리 등과 같은 프로그램 명령(예컨대, 프로그래밍 모듈)을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함될 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
본 발명에 따른 모듈 또는 프로그래밍 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 본 발명에 따른 모듈, 프로그래밍 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
다양한 실시 예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 전자 장치의 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하는 동작; 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하는 동작; 및 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 화면상에 표시하는 동작을 포함할 수 있다.
그리고 본 명세서와 도면에 발명된 본 발명의 다양한 실시 예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 발명된 실시 예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
100 : 네트워크 환경 101 : 전자 장치
104 : 전자 장치 106 : 서버
110 : 버스 120 : 프로세서
130 : 메모리 131 : 커널
132 : 미들웨어 133 : API
134 : 애플리케이션 140 : 입출력 인터페이스
150 : 디스플레이 160 : 통신 인터페이스
162 : 네트워크 170 : 정보 제공 모듈
210 : 제어부 211 : 객체 인식부
212 : 정보 관리부 213 : 정보 검색부
214 : 화면 구성부 215 : 정보 처리부
220 : 저장부 230 : 센서부
240 : 카메라부 250 : 표시부
260 : 입력부 270 : 통신부

Claims (20)

  1. 전자 장치의 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하는 동작;
    상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하는 동작; 및
    상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 화면상에 표시하는 동작을 포함하는, 전자 장치의 정보 제공 방법.
  2. 제1항에 있어서, 상기 2차 정보는 계층적으로 구성 가능하며, 각 계층별 정보의 선택에 따라 선택된 정보에 대한 하부 계층의 정보가 제공되는, 전자 장치의 정보 제공 방법.
  3. 제1항에 있어서, 상기 2차 정보는, 상기 1차 정보와 동일한 화면상에 동시에 표시되는, 전자 장치의 정보 제공 방법.
  4. 제1항에 있어서, 상기 1차 정보는,
    쿠폰, 이벤트, 전자 지도, 사전(dictionary) 검색, 이메일, 복사, 전화 걸기, 단문 메시지 서비스, 웹페이지, 또는 내비게이션 중에서 선택된 어느 하나 이상인, 전자 장치의 정보 제공 방법.
  5. 제1항에 있어서, 상기 1차 정보 또는 상기 2차 정보는,
    상기 인식된 각 객체와 관련되도록 표시되는, 전자 장치의 정보 제공 방법.
  6. 제5항에 있어서, 상기 1차 정보 또는 상기 2차 정보는,
    상기 인식된 각 객체와 선으로 연결하여 표시되는, 전자 장치의 정보 제공 방법.
  7. 제5항에 있어서, 상기 1차 정보 또는 상기 2차 정보는,
    상기 인식된 각 객체와 이미지의 적어도 일부가 중첩되어 표시되는, 전자 장치의 정보 제공 방법.
  8. 제1항에 있어서,
    상기 표시된 복수의 1차 정보들 중에서 둘 이상의 1차 정보들을 동시에 선택하는 동작; 및
    상기 선택된 둘 이상의 1차 정보들이 서로 연관된 추가의 정보를 제공하는 동작;을 더 포함하는, 전자 장치의 정보 제공 방법.
  9. 제8항에 있어서,
    상기 동시에 선택된 1차 정보들 중 적어도 하나의 1차 정보에 전자 메일 주소가 포함될 경우, 상기 동시에 선택된 1차 정보들 중 다른 1차 정보에 대응하는 정보를 상기 전자 메일 주소로 전송하는 동작;을 더 포함하는, 전자 장치의 정보 제공 방법.
  10. 제1항에 있어서,
    상기 인식된 객체의 변화를 판단하는 동작; 및
    상기 객체의 변화에 대응하여 설정된 정보를 제공하는 동작;을 더 포함하는, 전자 장치의 정보 제공 방법.
  11. 화면상에 이미지를 표시하는 디스플레이; 및
    상기 화면상에 표시된 이미지로부터 적어도 하나의 객체를 인식하고, 상기 인식된 객체와 관련된 적어도 하나의 1차 정보를 표시하며, 상기 표시된 1차 정보 중에서 적어도 하나의 1차 정보가 선택되면, 상기 선택된 1차 정보와 연관된 2차 정보를 상기 화면상에 표시하도록 제어하는 제어부;를 포함하는, 전자 장치.
  12. 제11항에 있어서, 상기 2차 정보는 계층적으로 구성 가능하며, 각 계층별 정보의 선택에 따라 선택된 정보에 대한 하부 계층의 정보가 제공되는, 전자 장치.
  13. 제11항에 있어서, 상기 2차 정보는, 상기 1차 정보와 동일한 화면상에 동시에 표시되는, 전자 장치.
  14. 제11항에 있어서, 상기 1차 정보는,
    쿠폰, 이벤트, 전자 지도, 사전(dictionary) 검색, 이메일, 복사, 전화 걸기, 단문 메시지 서비스, 웹페이지, 또는 내비게이션 중에서 선택된 어느 하나 이상인, 전자 장치.
  15. 제11항에 있어서, 상기 1차 정보 또는 상기 2차 정보는,
    상기 인식된 각 객체와 관련되도록 표시되는, 전자 장치.
  16. 제15항에 있어서, 상기 1차 정보 또는 상기 2차 정보는,
    상기 인식된 각 객체와 선으로 연결하여 표시되는, 전자 장치.
  17. 제15항에 있어서, 상기 1차 정보 또는 상기 2차 정보는,
    상기 인식된 각 객체와 이미지의 적어도 일부가 중첩되어 표시되는, 전자 장치.
  18. 제11항에 있어서, 상기 제어부는,
    상기 표시된 복수의 1차 정보들 중에서 둘 이상의 1차 정보들이 동시에 선택되면, 상기 선택된 둘 이상의 1차 정보들이 서로 연관된 추가의 정보가 제공되도록 더 제어하는, 전자 장치.
  19. 제18항에 있어서, 상기 제어부는,
    상기 동시에 선택된 1차 정보들 중 적어도 하나의 1차 정보에 전자 메일 주소가 포함될 경우, 상기 동시에 선택된 1차 정보들 중 다른 1차 정보에 대응하는 정보를 상기 전자 메일 주소로 전송하도록 더 제어하는, 전자 장치.
  20. 제11항에 있어서, 상기 제어부는,
    상기 인식된 객체의 변화를 판단하고, 상기 객체의 변화에 대응하여 설정된 정보를 제공하도록 더 제어하는, 전자 장치.
KR1020140122111A 2014-09-15 2014-09-15 정보 제공 방법 및 그 전자 장치 KR102178892B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020140122111A KR102178892B1 (ko) 2014-09-15 2014-09-15 정보 제공 방법 및 그 전자 장치
US14/748,629 US10146412B2 (en) 2014-09-15 2015-06-24 Method and electronic device for providing information
EP15174128.7A EP2996023A1 (en) 2014-09-15 2015-06-26 Method and electronic device for providing information
CN201510587545.1A CN105426035B (zh) 2014-09-15 2015-09-15 用于提供信息的方法和电子装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140122111A KR102178892B1 (ko) 2014-09-15 2014-09-15 정보 제공 방법 및 그 전자 장치

Publications (2)

Publication Number Publication Date
KR20160031851A true KR20160031851A (ko) 2016-03-23
KR102178892B1 KR102178892B1 (ko) 2020-11-13

Family

ID=53502488

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140122111A KR102178892B1 (ko) 2014-09-15 2014-09-15 정보 제공 방법 및 그 전자 장치

Country Status (4)

Country Link
US (1) US10146412B2 (ko)
EP (1) EP2996023A1 (ko)
KR (1) KR102178892B1 (ko)
CN (1) CN105426035B (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170122092A (ko) * 2016-04-26 2017-11-03 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법
KR20170133234A (ko) * 2016-05-25 2017-12-05 바이두 유에스에이 엘엘씨 실시간 교통 정보에 기반하여 자율 주행 차량 내에서 콘텐츠를 제공하는 시스템 및 방법
WO2018106019A1 (ko) * 2016-12-06 2018-06-14 삼성전자 주식회사 콘텐츠 출력 방법 및 이를 지원하는 전자 장치

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019520012A (ja) * 2016-05-07 2019-07-11 スマート サード−アイ リミティド 手持ち式装置のエッジカメラアセンブリを有するシステム及び方法
US11410419B2 (en) 2016-07-21 2022-08-09 L3 Technologies, Inc. Enhanced vision systems and methods
CN106648322A (zh) * 2016-12-21 2017-05-10 广州市动景计算机科技有限公司 与虚拟对象进行互动操作的触发方法、装置和系统
US11132840B2 (en) 2017-01-16 2021-09-28 Samsung Electronics Co., Ltd Method and device for obtaining real time status and controlling of transmitting devices
KR102444148B1 (ko) * 2017-04-17 2022-09-19 삼성전자주식회사 전자 장치 및 그 동작 방법
CN110741228A (zh) * 2017-06-16 2020-01-31 本田技研工业株式会社 信息提供系统、信息提供方法以及程序
US20190095069A1 (en) * 2017-09-25 2019-03-28 Motorola Solutions, Inc Adaptable interface for retrieving available electronic digital assistant services
KR102599947B1 (ko) 2017-10-27 2023-11-09 삼성전자주식회사 관련 이미지를 검색하기 위한 전자 장치 및 이의 제어 방법
EP4246447A3 (en) * 2017-11-20 2023-11-01 Huawei Technologies Co., Ltd. Method and device for dynamically displaying icon according to background image
CN109582134B (zh) 2018-11-09 2021-07-23 北京小米移动软件有限公司 信息显示的方法、装置及显示设备
CN110913141B (zh) * 2019-11-29 2021-09-21 维沃移动通信有限公司 一种视频显示方法、电子设备以及介质
US20220335698A1 (en) * 2019-12-17 2022-10-20 Ashley SinHee Kim System and method for transforming mapping information to an illustrated map
US11632341B2 (en) * 2020-03-14 2023-04-18 Polypie Inc. Enabling communication with uniquely identifiable objects

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120038668A1 (en) * 2010-08-16 2012-02-16 Lg Electronics Inc. Method for display information and mobile terminal using the same
KR101324336B1 (ko) * 2010-12-28 2013-10-31 주식회사 팬택 증강 현실 제공 단말기

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6219045B1 (en) * 1995-11-13 2001-04-17 Worlds, Inc. Scalable virtual world chat client-server system
JP2008225904A (ja) * 2007-03-13 2008-09-25 Sony Corp データ処理システム及びデータ処理方法
US8037425B2 (en) * 2007-12-14 2011-10-11 Scenera Technologies, Llc Methods, systems, and computer readable media for controlling presentation and selection of objects that are digital images depicting subjects
US8237666B2 (en) * 2008-10-10 2012-08-07 At&T Intellectual Property I, L.P. Augmented I/O for limited form factor user-interfaces
TWI649730B (zh) 2009-02-20 2019-02-01 日商尼康股份有限公司 資訊取得系統、攜帶型終端、伺服器、以及攜帶資訊機器用程式
CN102193965A (zh) * 2010-03-03 2011-09-21 宏达国际电子股份有限公司 景点信息浏览方法、装置及系统
WO2012006356A2 (en) 2010-07-06 2012-01-12 Mark Lane Apparatus, system, and method for an improved video stream
KR101337555B1 (ko) 2010-09-09 2013-12-16 주식회사 팬택 객체 연관성을 이용한 증강 현실 제공 장치 및 방법
US20130212507A1 (en) * 2010-10-11 2013-08-15 Teachscape, Inc. Methods and systems for aligning items of evidence to an evaluation framework
US8788972B2 (en) * 2011-01-26 2014-07-22 Cisco Technology, Inc. Graphical display for sorting and filtering a list in a space-constrained view
WO2013022431A1 (en) * 2011-08-09 2013-02-14 Research In Motion Limited Manipulating screen layers in multi-layer applications
US9606992B2 (en) 2011-09-30 2017-03-28 Microsoft Technology Licensing, Llc Personal audio/visual apparatus providing resource management
US9449342B2 (en) 2011-10-27 2016-09-20 Ebay Inc. System and method for visualization of items in an environment using augmented reality
KR20130056529A (ko) 2011-11-22 2013-05-30 삼성전자주식회사 휴대용 단말기에서 증강현실 서비스를 제공하기 위한 장치 및 방법
US8854325B2 (en) * 2012-02-29 2014-10-07 Blackberry Limited Two-factor rotation input on a touchscreen device
US20130239062A1 (en) * 2012-03-06 2013-09-12 Apple Inc. Operations affecting multiple images
JP2013200793A (ja) 2012-03-26 2013-10-03 Sony Corp 情報処理装置、情報処理方法およびプログラム
JP5740351B2 (ja) * 2012-06-01 2015-06-24 任天堂株式会社 情報処理システム、情報処理プログラム、情報処理装置および表示方法
US9690457B2 (en) * 2012-08-24 2017-06-27 Empire Technology Development Llc Virtual reality applications
US9111383B2 (en) * 2012-10-05 2015-08-18 Elwha Llc Systems and methods for obtaining and using augmentation data and for sharing usage data
US10180715B2 (en) * 2012-10-05 2019-01-15 Elwha Llc Correlating user reaction with at least an aspect associated with an augmentation of an augmented view
US9141188B2 (en) * 2012-10-05 2015-09-22 Elwha Llc Presenting an augmented view in response to acquisition of data inferring user activity
US10713846B2 (en) * 2012-10-05 2020-07-14 Elwha Llc Systems and methods for sharing augmentation data
US9077647B2 (en) * 2012-10-05 2015-07-07 Elwha Llc Correlating user reactions with augmentations displayed through augmented views
US9424472B2 (en) * 2012-11-26 2016-08-23 Ebay Inc. Augmented reality information system
US10671973B2 (en) 2013-01-03 2020-06-02 Xerox Corporation Systems and methods for automatic processing of forms using augmented reality
US20140282246A1 (en) * 2013-03-12 2014-09-18 Sas Institute Inc. List for touch screens
US9690476B2 (en) * 2013-03-14 2017-06-27 Blackberry Limited Electronic device and method of displaying information in response to a gesture
US8799799B1 (en) * 2013-05-07 2014-08-05 Palantir Technologies Inc. Interactive geospatial map

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120038668A1 (en) * 2010-08-16 2012-02-16 Lg Electronics Inc. Method for display information and mobile terminal using the same
KR101324336B1 (ko) * 2010-12-28 2013-10-31 주식회사 팬택 증강 현실 제공 단말기

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170122092A (ko) * 2016-04-26 2017-11-03 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법
KR20190039915A (ko) * 2016-04-26 2019-04-16 바이두 유에스에이 엘엘씨 자율 주행 차량 내에서 미디어 콘텐츠를 표시하기 위한 시스템 및 방법
KR20170133234A (ko) * 2016-05-25 2017-12-05 바이두 유에스에이 엘엘씨 실시간 교통 정보에 기반하여 자율 주행 차량 내에서 콘텐츠를 제공하는 시스템 및 방법
WO2018106019A1 (ko) * 2016-12-06 2018-06-14 삼성전자 주식회사 콘텐츠 출력 방법 및 이를 지원하는 전자 장치
US10943404B2 (en) 2016-12-06 2021-03-09 Samsung Electronics Co., Ltd. Content output method and electronic device for supporting same

Also Published As

Publication number Publication date
US10146412B2 (en) 2018-12-04
CN105426035A (zh) 2016-03-23
CN105426035B (zh) 2021-01-26
EP2996023A1 (en) 2016-03-16
US20160077711A1 (en) 2016-03-17
KR102178892B1 (ko) 2020-11-13

Similar Documents

Publication Publication Date Title
US10484673B2 (en) Wearable device and method for providing augmented reality information
KR102178892B1 (ko) 정보 제공 방법 및 그 전자 장치
CN107430480B (zh) 电子设备和在电子设备中处理信息的方法
KR102248474B1 (ko) 음성 명령 제공 방법 및 장치
KR102379171B1 (ko) 전자 장치 및 그의 영상 표시 방법
KR20160035248A (ko) 가상 오브젝트 제공 방법 및 그 전자 장치
KR102213190B1 (ko) 홈스크린 구성 방법 및 이를 이용한 전자 장치
KR20150115555A (ko) 전자 장치 및 그의 정보 제공 방법
KR20160026578A (ko) 전자 장치의 디스플레이 방법 및 그 전자 장치
KR20160020166A (ko) 전자 장치 및 이의 화면 표시 방법
KR20160027848A (ko) 콘텐츠 검색 방법 및 이를 구현하는 전자 장치
KR20160011388A (ko) 전자 장치의 화면 표시 방법 및 그 전자 장치
KR20160026218A (ko) 컨텐츠 제공 방법 및 그 전자 장치
KR20150135837A (ko) 디스플레이 운용 전자장치 및 방법
KR20160050983A (ko) 사용자 입력에 따라 하나 이상의 아이템들을 선택하는 방법 및 이를 위한 전자 장치
KR20150136792A (ko) 멀티 심이 구비된 전자 장치 및 방법
KR20150086150A (ko) 사용자 인터페이스 제어 방법 및 장치
KR20150113572A (ko) 영상데이터를 획득하는 전자장치 및 방법
KR20150096956A (ko) 전자 장치에서 정보를 표시하는 방법 및 장치
KR20150117043A (ko) 미디어 컨텐츠를 선별하는 방법 및 이를 구현하는 전자장치
KR20150120153A (ko) 전자 장치의 웹 페이지 저장 및 표현 방법
KR20150141419A (ko) 전자 장치에서 이미지의 위치 정보에 기반한 이미지 활용 방법 및 그 장치
KR20150125338A (ko) 텍스트 입력 제어 방법 및 그 전자 장치
KR20150142476A (ko) 전자장치에서 어플리케이션 실행 화면을 표시하는 방법 및 장치
KR20150071244A (ko) 전자 장치 및 이의 운영 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant