KR20160001465A - 글래스 타입 단말기 및 이의 제어방법 - Google Patents

글래스 타입 단말기 및 이의 제어방법 Download PDF

Info

Publication number
KR20160001465A
KR20160001465A KR1020140080051A KR20140080051A KR20160001465A KR 20160001465 A KR20160001465 A KR 20160001465A KR 1020140080051 A KR1020140080051 A KR 1020140080051A KR 20140080051 A KR20140080051 A KR 20140080051A KR 20160001465 A KR20160001465 A KR 20160001465A
Authority
KR
South Korea
Prior art keywords
information
voice
input
user
image
Prior art date
Application number
KR1020140080051A
Other languages
English (en)
Inventor
이정윤
김태성
장유준
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020140080051A priority Critical patent/KR20160001465A/ko
Priority to US15/315,232 priority patent/US10409324B2/en
Priority to PCT/KR2014/009760 priority patent/WO2015199288A1/en
Publication of KR20160001465A publication Critical patent/KR20160001465A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1601—Constructional details related to the housing of computer displays, e.g. of CRT monitors, of flat displays
    • G06F1/1605—Multimedia displays, e.g. with integrated or attached speakers, cameras, microphones
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G02B27/0172—Head mounted characterised by optical features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0141—Head-up displays characterised by optical features characterised by the informative content of the display
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/228—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of application context

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Optics & Photonics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은, 사용자의 두부(頭部)에 착용 가능하게 이루어진 프레임부와, 프레임부와 결합되어, 음성을 입력받는 마이크와, 그리고 프레임부와 결합되어, 마이크를 통해 입력되는 음성과 관련된 적어도 하나의 일정정보가 저장된 저장부와, 마이크에 음성이 입력되면, 입력받은 음성을 분석하고 분석된 음성과 관련된 일정정보를 저장부로부터 추출하는 제어부를 포함한다. 그리고, 상기 제어부는, 추출된 일정정보와 입력받은 음성에 포함된 음성정보의 일치 여부에 따라 추출된 일정정보의 출력 여부를 결정하는 것을 특징으로 한다.

Description

글래스 타입 단말기 및 이의 제어방법{GLASS TYPE TERMINAL AND CONTROL METHOD THEREOF}
본 발명은 안경처럼 사용자의 두부(頭部)에 착용 가능하도록 구성되는 단말기에 관한 것이다.
단말기는 이동 가능여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mounted terminal)로 나뉠 수 있다.
이동 단말기의 기능은 다양화 되고 있다. 예를 들면, 데이터와 음성통신, 카메라를 통한 사진촬영 및 비디오 촬영, 음성녹음, 스피커 시스템을 통한 음악파일 재생 그리고 디스플레이부에 이미지나 비디오를 출력하는 기능이 있다. 일부 이동 단말기는 전자게임 플레이 기능이 추가되거나, 멀티미디어 플레이어 기능을 수행한다. 특히 최근의 이동 단말기는 방송과 비디오나 텔레비전 프로그램과 같은 시각적 컨텐츠를 제공하는 멀티캐스트 신호를 수신할 수 있다.
이와 같은 이동 단말기는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(multimedia player) 형태로 구현되고 있다.
최근 이동 단말기는 사용자가 주로 손에 쥐고 사용하는 차원을 넘어서, 신체에 착용할 수 있는 웨어러블 디바이스(wearable device)로 확장되고 있다. 이러한 웨어러블 디바이스의 일 예로 글래스 타입 단말기를 들 수 있다.
이러한 글래스 타입 단말기는, 예를 들어 착용자의 두부(頭部)에 착용되어서, 착용자의 발화내용이나 착용자가 바라보는 시야에 존재하는 객체를 자연스럽게 인식하는 것이 가능하다.
한편, 착용자가 타인과의 대화중에 관련된 정보를 얻기를 원하는 경우, 또는 시야에 들어온 객체와 관련된 정보를 알고 싶은 경우, 글래스 타입 단말기에 특정 정보를 검색하기 위한 입력이 선행되어야 할 것이다. 그러나, 상황에 따라서는 특정 정보를 검색할 시간이 부족하거나 입력을 수행하기 곤란한 경우가 있을 수 있다. 특히, 착용자가 발화한 내용이 잘못된 정보임에도 스스로 인식하지 못하는 경우, 착용자에 의한 정보 검색 요청을 기대하기 어려운 문제가 있다.
이에, 본 발명은 상기한 문제를 해결하기 위한 것으로, 잘못된 발화내용이 입력되는 경우에 이를 사용자 스스로 수정할 수 있도록 동작하는 글래스 타입 단말기및 그것의 제어방법을 제공하는 데에 일 목적이 있다.
또한, 본 발명은 상황에 따라서 인식된 정보를 스스로 정보를 저장할 수 있도록 구현된 글래스 타입 단말기 및 그것의 제어방법을 제공하는데 일 목적이 있다.
이와 같은 본 발명의 해결 과제를 달성하기 위하여, 본 발명의 일 실시예에 따른 글래스 타입 단말기는, 사용자의 두부(頭部)에 착용 가능하게 이루어진 프레임부와; 상기 프레임부와 결합되고, 음성을 입력받는 마이크와; 상기 프레임부와 결합되고, 상기 음성과 관련된 적어도 하나의 일정정보가 저장된 저장부와; 상기 마이크에 음성이 입력되면, 입력받은 음성을 분석하고 분석된 음성과 관련된 일정정보를 상기 저장부로부터 추출하는 제어부를 포함하고, 상기 제어부는, 추출된 일정정보와 입력받은 음성에 포함된 음성정보의 일치 여부에 따라 상기 추출된 일정정보의 출력 여부를 결정하는 것을 특징으로 한다.
일 실시 예에서, 상기 글래스 타입 단말기는, 상기 본체와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 더 포함하고, 상기 제어부는, 상기 추출된 일정정보와 상기 음성정보가 일치하지 않는 경우에 상기 추출된 일정정보를 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 한다.
일 실시 예에서, 상기 글래스 타입 단말기는, 상기 본체와 결합되고, 사용자의 양측 귀 중 적어도 하나에 대응되도록 배치된 골전도 스피커를 더 포함하고, 상기 제어부는, 상기 추출된 일정정보와 상기 음성정보가 일치하지 않는 경우, 상기 추출된 일정정보를 음성신호로 변환하여 상기 골전도 스피커에 출력시키는 것을 특징으로 한다.
일 실시 예에서, 상기 제어부는, 상기 추출된 일정정보와 상기 음성정보가 서로 일치하는 경우, 추출된 일정정보에 대응되는 일정에 확인 표시가 나타나도록 제어하는 것을 특징으로 한다.
또한, 본 발명의 다른 실시예에 따른 글래스 타입 단말기는, 사용자의 두부(頭部)에 착용 가능하게 이루어진 프레임부와, 상기 프레임부와 결합되고, 음성을 입력받는 마이크와; 상기 프레임부와 결합되고, 활성화 신호에 따라 이미지를 획득하는 카메라와; 상기 프레임부와 결합되고, 상기 이미지에 대응되는 정보가 저장된 저장부와; 상기 활성화 신호를 생성하여 획득된 이미지를 분석하고, 분석된 이미지에 대응되는 정보를 상기 저장부로부터 추출하는 제어부를 포함하고, 상기 제어부는, 상기 분석된 이미지와 관련된 음성이 입력되는 것에 응답하여, 상기 추출된 정보와 상기 입력된 음성에 포함된 음성정보를 비교하고, 일치 여부에 따라 상기 추출된 정보의 출력 여부를 결정하는 것을 특징으로 한다.
일 실시 예에서, 상기 활성화 신호는, 상기 제어부에 정보 확인 요청이 수신되거나 상기 마이크에 음성이 입력되는 경우에 생성되는 것을 특징으로 한다.
일 실시 예에서, 상기 글래스 타입 단말기는, 상기 본체와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 더 포함하고, 상기 제어부는, 상기 추출된 정보와 상기 음성정보가 일치하지 않는 경우, 상기 추출된 정보를 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 한다.
일 실시 예에서, 상기 제어부는, 상기 추출된 정보가 상기 디스플레이부에 출력된 상태에서, 상기 출력된 정보와 일치하는 음성정보가 마이크에 입력되면, 상기 출력된 정보가 상기 디스플레이부로부터 사라지도록 제어하는 것을 특징으로 한다.
일 실시 예에서, 상기 제어부는, 정보 입력 요청이 감지되면, 상기 활성화 신호를 생성하여 획득된 이미지를 상기 저장부에 저장하고, 상기 저장된 이미지와 관련된 음성이 입력되는 것에 응답하여, 상기 입력된 음성에 포함된 상기 저장된 이미지에 대응되는 음성정보를 텍스트 변환하여, 상기 저장부에 제공하는 것을 특징으로 한다.
일 실시 예에서, 상기 글래스 타입 단말기는, 상기 프레임부와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 포함하고, 상기 제어부는, 상기 정보 입력 요청이 감지되면, 상기 입력된 음성에 포함된 음성정보 중 적어도 일부를 텍스트 변환하여 입력된 순서대로 상기 디스플레이부에 출력시키는 것을 특징으로 한다.
일 실시 예에서, 상기 정보 입력 요청은 기설정된 음성이나 제스처가 입력되는 경우에 트리거되는 것을 특징으로 한다.
일 실시 예에서, 상기 제어부는, 상기 디스플레이부에 출력된 텍스트 변환된 음성정보가 상기 저장부에 저장되면 상기 디스플레이부에서 사라지도록 제어하고, 상기 디스플레이부에 출력된 텍스트 변환된 음성정보가 사용자의 시선을 따라 상하로 이동하도록 제어하는 것을 특징으로 한다.
일 실시 예에서, 상기 프레임부와 결합되고, 사용자의 양안 중 적어도 하나의 대응되도록 배치되어 사용자의 시선을 추적하는 시선 추적부를 더 포함하고, 상기 제어부는, 활성화 신호를 생성하여 사용자의 시선이 고정된 위치에 존재하는 객체에 대한 이미지를 획득하고, 상기 객체에 대응되는 정보를 상기 저장부로부터 추출하는 것을 특징으로 한다.
일 실시 예에서, 상기 프레임부와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 포함하고, 상기 제어부는, 사용자의 시선이 상기 객체에 고정된 상태에서, 기설정된 제스처가 입력되거나 기설정된 시간이 경과되면, 상기 추출된 정보 중 적어도 일부가 상기 디스플레이부의 일 영역에 출력되도록 제어하는 것을 특징으로 한다.
일 실시 예에서, 상기 카메라는, 활성화 신호에 따라, 사용자의 시선이 고정된 위치에 존재하는 제1객체에 대한 이미지와 사용자의 시선을 벗어난 위치에 존재하는 제2객체에 대한 이미지를 각각 획득하고, 상기 제어부는, 상기 제1객체에 대응되는 정보와 상기 제2객체에 대응되는 정보를 상기 저장부로부터 각각 추출하고, 사용자의 시선이 상기 제1객체에 고정된 상태에서, 상기 추출된 제2객체에 대응되는 정보와 상기 마이크에 입력된 음성에 포함된 음성정보가 일치하는 경우, 상기 제2객체의 위치를 알려주는 아이콘을 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 한다.
일 실시 예에서, 상기 제어부는, 상기 추출된 정보와 상기 입력된 음성에 포함된 음성정보의 일치 여부에 대한 정보를 저장하고, 상기 정보에 근거하여, 상기 카메라를 통해 획득된 동일 이미지에 대응되는 정보의 출력 여부를 다르게 결정하는 것을 특징으로 한다.
또한, 본 발명의 일 실시 예에 따른 글래스 타입 단말기의 동작방법은, 마이크에 음성이 입력되면 입력받은 음성을 분석하는 단계와; 분석된 음성과 관련된 일정정보를 추출하는 단계와; 추출된 일정정보와 입력된 음성에 포함된 음성정보의 일치 여부에 따라 상기 추출된 일정정보의 출력 여부를 결정하는 단계와; 상기 결정에 근거하여, 상기 추출된 일정정보를 출력하는 단계를 포함하는 것을 특징으로 한다.
또한, 본 발명의 다른 실시 예에 따른 글래스 타입 단말기의 동작방법은, 카메라를 활성화하여 적어도 하나의 이미지를 획득하는 단계와; 획득된 이미지를 분석하고, 분석된 이미지에 대응되는 정보를 추출하는 단계와; 분석된 이미지와 관련된 음성이 입력되는 것에 응답하여, 상기 추출된 정보와 상기 입력된 음성에 포함된 음성정보를 비교하고, 일치 여부에 따라 상기 추출된 정보의 출력 여부를 결정하는 단계를 포함하는 것을 특징으로 한다.
일 실시 예에서, 상기 카메라의 활성화는, 정보 확인 요청이 수신되거나 마이크에 음성이 입력된 경우에 수행되는 것을 특징으로 한다.
일 실시 예에서, 상기 결정에 근거하여, 상기 추출된 정보를 디스플레이부의 일 영역에 출력시키는 단계와; 상기 디스플레이부에 출력된 정보와 일치하는 음성정보가 마이크에 입력되면, 출력된 정보가 상기 디스플레이부로부터 사라지도록 제어하는 단계를 포함하는 것을 특징으로 한다.
상기에서 설명한 바와 같은 글래스 타입 단말기에 의하면, 잘못된 발화내용이 입력되는 경우 이를 인식하여, 교정된 정보를 사용자에게 알려준다. 그에 따라, 착용자가 실수임을 인식한 경우뿐만 아니라 잘못된 정보임을 스스로 인식하지 못하는 경우에도 오류를 교정할 수 있도록 도와준다. 또한, 착용자가 오류를 교정하면, 더 이상 정보를 제공하지 않음으로써 자연스러운 피드백을 제공한다.
도 1은 본 발명의 일 실시예와 관련된 글래스 타입 단말기의 블록도이다.
도 2는 본 발명의 일 실시예와 관련된 글래스 타입 단말기의 사시도이다.
도 3은 본 발명의 일 실시예와 관련된 글래스 타입 단말기의 제어방법을 설명하기 위한 흐름도이다.
도 4a 및 도 4b는 도 3의 흐름도를 설명하기 위한 개념도이다.
도 5는 본 발명의 다른 실시예와 관련된 글래스 타입 단말기의 제어방법을 설명하기 위한 흐름도이다.
도 6a 및 도 6b는 도 5의 흐름도를 설명하기 위한 개념도이다.
도 7은 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 착용자의 발화내용에 따라 교정된 정보를 변경하는 방법을 설명하기 위한 개념도이다.
도 8a, 도 8b, 도 8c는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 착용자의 발화내용을 저장하는 방법을 설명하기 위한 개념도들이다.
도 9a 및 도 9b는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 인식된 정보에 따라 교정된 정보를 출력하는 방법을 설명하기 위한 개념도들이다.
도 10a 및 도 10b는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 사용자의 시선에 따라 교정된 정보를 출력하는 방법을 설명하기 위한 개념도들이다.
도 11a 및 도 11b는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 착용자가 잘못된 정보를 발화한 이력정보에 기초하여, 교정된 정보를 출력하는 방법을 설명하기 위한 개념도이다.
도 12는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 음성 입력이 없는 경우에 인식된 객체와 관련된 정보를 출력하는 방법을 설명하기 위한 개념도이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 동일하거나 유사한 구성요소에는 동일·유사한 도면 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어"있다거나 "접속되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
도 1은 본 발명의 일 실시예와 관련된 글래스 타입 단말기(100)의 블록도(block diagram)이다.
글래스 타입 단말기(100)는 무선 통신부(110), 입력부(120), 센싱부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180) 및 전원 공급부(190)를 포함할 수 있다. 도 1에 도시된 구성요소들은 글래스 타입 단말기(100)를 구현하는 데에 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 이동 단말기는 위에서 열거된 구성요소들보다 많거나, 또는 적은 구성요소들을 가질 수 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 글래스 타입 단말기(100)와 무선 통신 시스템 사이, 글래스 타입 단말기(100)와 다른 단말기 사이, 글래스 타입 단말기(100)와 외부서버 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 무선 통신부(110)는, 글래스 타입 단말기(100)를 하나 이상의 네트워크에 연결하는 하나 이상의 모듈을 포함할 수 있다.
이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.
입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크(microphone, 122) 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부[123, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등]를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.
카메라(121)는 카메라 센서(예를 들어, CCD, CMOS 등), 포토 센서(또는 이미지 센서) 및 레이저 센서 중 적어도 하나를 포함할 수 있다. 이러한 경우, 카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 또한, 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 디스플레이에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다
마이크(122)는 사용자의 음성, 기타 소리 등을 입력받아 전기적인 음성 데이터로 처리한다. 마이크(122)는 복수의 개소에 구비되어 스테레오 음향을 입력받도록 구성될 수 있다. 또한, 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
센싱부(140)는 글래스 타입 단말기(100) 내의 정보, 단말기(100)를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(140)는 근접센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조)), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gauge), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 글래스 타입 단말기(100)는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅팁 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 글래스 타입 단말기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.
인터페이스부(160)는 이동 단말기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. 이동 단말기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.
또한, 메모리(170)는 글래스 타입 단말기(100)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(170)는 글래스 타입 단말기(100)에서 구동되는 다수의 응용 프로그램[application program 또는 애플리케이션(application)], 이동 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 글래스 타입 단말기(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 글래스 타입 단말기(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, 글래스 타입 단말기(100) 상에 설치되어, 제어부(180)에 의하여 단말기(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 글래스 타입 단말기(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 1에 도시된 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용 프로그램의 구동을 위하여, 글래스 타입 단말기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
전원공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 글래스 타입 단말기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 충전 가능하게 이루어진다.
상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 글래스 타입 단말기의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 글래스 타입 단말기의 동작, 제어, 또는 제어방법은 상기 메모리(170)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 글래스 타입 단말기 상에서 구현될 수 있다.
도 2는 본 발명의 일 실시예와 관련된 글래스 타입 단말기(200)의 사시도이다.
도 2를 참조하면, 글래스 타입 단말기(200)는 안경처럼 사용자의 두부(頭部)에 착용 가능하도록 구성되며, 이를 위한 프레임부(201, 또는 케이스, 하우징 등)를 구비한다.
글래스 타입 단말기(200)는 인체의 두부(頭部)에 착용 가능하도록 구성되며, 이를 위한 프레임부(케이스, 하우징 등)를 구비할 수 있다. 프레임부는 착용이 용이하도록 플렉서블 재질로 형성될 수 있다. 본 도면에서는, 프레임부가 서로 다른 재질의 제1 프레임(201)과 제2 프레임(202)을 포함하는 것을 예시하고 있다.
프레임부는 두부(頭部)에 지지되며, 각종 부품들이 장착되는 공간을 마련한다. 도시된 바와 같이, 프레임부에는 사용자 입력부(223), 제어부(280), 전원공급부(290), 음향 출력 모듈(252) 등과 같은 전자부품이 장착될 수 있다. 또한, 프레임부에는 좌안 및 우안 중 적어도 하나를 덮는 렌즈(205)가 착탈 가능하게 장착될 수 있다.
제어부(280)는 글래스 타입 단말기(200)에 구비되는 각종 전자부품을 제어하도록 이루어진다. 제어부(280)는 앞서 설명한 제어부(180)에 대응되는 구성으로 이해될 수 있다. 본 도면에서는, 제어부(280)가 일측 두부 상의 프레임부에 설치된 것을 예시하고 있다. 하지만, 제어부(280)의 위치는 이에 한정되지 않는다.
디스플레이부(251)는 헤드 마운티드 디스플레이(Head Mounted Display, HMD) 형태로 구현될 수 있다. HMD 형태란, 두부에 장착되어, 사용자의 눈 앞에 직접 영상을 보여주는 디스플레이 방식을 말한다. 사용자가 글래스 타입 단말기(200)를 착용하였을 때, 사용자의 눈 앞에 직접 영상을 제공할 수 있도록, 디스플레이부(251)는 좌안 및 우안 중 적어도 하나에 대응되게 배치될 수 있다. 본 도면에서는, 사용자의 우안을 향하여 영상을 출력할 수 있도록, 디스플레이부(251)가 우안에 대응되는 부분에 위치한 것을 예시하고 있다.
디스플레이부(251)는 프리즘을 이용하여 사용자의 눈으로 이미지를 투사할 수 있다. 또한, 사용자가 투사된 이미지와 전방의 일반 시야(사용자가 눈을 통하여 바라보는 범위)를 함께 볼 수 있도록, 프리즘은 투광성으로 형성될 수 있다.
이처럼, 디스플레이부(251)를 통하여 출력되는 영상은, 일반 시야와 오버랩(overlap)되어 보여질 수 있다. 글래스 타입 단말기(200)는 이러한 디스플레이의 특성을 이용하여 현실의 이미지나 배경에 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 증강현실(Augmented Reality, AR)을 제공할 수 있다.
카메라(221)는 좌안 및 우안 중 적어도 하나에 인접하게 배치되어, 전방의 영상을 촬영하도록 형성된다. 카메라(221)가 눈에 인접하여 위치하므로, 카메라(221)는 사용자가 바라보는 장면을 영상으로 획득할 수 있다.
본 도면에서는, 카메라(221)가 제어부(280)에 구비된 것을 예시하고 있으나, 반드시 이에 한정되는 것은 아니다. 카메라(221)는 상기 프레임부에 설치될 수도 있으며, 복수 개로 구비되어 입체 영상을 획득하도록 이루어질 수도 있다. 예를 들어, 상기 카메라(221)는 프레임부의 내측과 외측에 대향되도록 배치되어, 하나는 사용자의 시선을 계속 추적하고, 다른 하나는 사용자가 바라보는 장면을 획득할 수 있다.
글래스 타입 단말기(200)는 제어명령을 입력받기 위하여 조작되는 사용자 입력부(223)를 구비할 수 있다. 사용자 입력부(223)는 터치, 푸시 등 사용자가 촉각적인 느낌을 가면서 조작하게 되는 방식(tactile manner)이라면 어떤 방식이든 채용될 수 있다. 본 도면에서는, 프레임부에 터치 입력 방식의 사용자 입력부(223)가 구비된 것을 예시하고 있다. 또한, 사용자 입력부(223)는 터치 입력이 인가된 지점, 드래그된 길이, 터치 속도, 터치 횟수 등을 감지하여, 대응되는 신호를 제어부(280)에 전달할 수 있다.
또한, 글래스 타입 단말기(200)에는 사운드를 입력받아 전기적인 음성 데이터로 처리할 수 있는 마이크(222)가 더 구비될 수 있다. 마이크(222)는 예를 들어, 플렉서블 소재로 이루어진 커넥터(224)를 통해, 프레임부에 탁찰가능하게 배치될 수 있다. 본 도면에서는, 마이크(222)가 사용자의 우측 귀에 대응되는 프레임부에 장착된 것을 예시하고 있다.
또한, 글래스 타입 단말기(200)에는 음향을 출력하는 음향 출력 모듈(252)이 더 구비될 수 있다. 음향 출력 모듈(252)은 사용자의 양 귀에 각각 대응되도록 배치되어, 골전도 방식으로 음향을 전달하도록 이루어질 수 있다. 골전도 방식은, 사용자의 두부에 밀착되어서, 두개골을 진동시켜 음향을 전달하는 출력 방식이다. 한편, 이와 같이 음향 출력 모듈(252)이 골전도 방식으로 구현되는 경우, 골전도 픽업소자를 통해 선택적으로 골전도 마이크 기능을 수행하도록 구현가능하다.
이상에서 설명한 구성 중 적어도 하나 이상을 구비한 본 발명에 따른 실시예에 따른 글래스 타입 단말기(200)는 마이크를 통해 음성이 입력되면, 입력된 음성을 분석하여 기저장된 일정정보와 비교하고, 비교 결과 발화내용이 기저장된 일정정보와 모순되면, 저장된 일정정보를 사용자가 인식할 수 있도록 제공해준다. 또한, 다른 예에서는, 글래스 타입 단말기(200)에 구비된 카메라를 통해 인식된 객체와 관련된 발화내용이 기저장된 내용과 모순되는 경우, 사용자가 교정된 내용을 인식할 수 있도록 화면이나 음향 출력 모듈 등을 통해 출력시킨다.
이하, 도 3은 본 발명의 일 실시예와 관련된 글래스 타입 단말기의 제어방법을 설명하기 위한 흐름도이고, 도 4a 및 도 4b는 도 3의 흐름도를 설명하기 위한 개념도이다.
먼저, 도 3을 참조하면, 글래스 타입 단말기(200)가 착용되면, 마이크(222)를 통해 사용자 등의 음성이 입력되는 것을 감지할 수 있다.
이를 위해, 글래스 타입 단말기(200)는 본체의 착용이 감지된 것에 응답하여, 마이크(222 또는 252)의 동작이 활성화될 수 있다. 이때, 본체의 착용은, 예를 들어, 프레임부의 특정 지점 또는 영역에 터치(및/또는 근접 터치)가 인가되거나, 사용자의 생체신호(예, 프레임부의 온도변화)가 감지되거나, 또는 카메라(221)를 통해 획득된 이미지의 분석 결과 등을 통해 수행될 수 있다.
또한, 여기서 마이크(222 또는 252)의 동작이 활성화되었다는 것은, 마이크(222 또는 252)에 입력된 음성에 대한 음성인식기능이 활성화된 상태임을 포함한다. 이러한 음성인식기능은, 글래스 타입 단말기(200)가 착용되면 자동으로 활성화될 수도 있고 소정의 입력이 감지된 경우에 활성화될 수도 있다.
또한, 프레임부의 일측에 탈착가능하게 장착된 마이크(222)가 활성화된 경우에는, 복수인에 의한 음성(이하, '사용자 등'으로 명명하기로 하겠다)이 마이크(222)에 동시에 입력될 수 있다. 한편, 사용자의 양측 귀에 대응되도록 배치된 골전도 마이크(252)가 활성화된 경우에는, 외부 잡음이 제거되고, 글래스 타입 단말기(200)를 착용한 사용자의 음성만이 마이크(252)를 통해 입력될 수 있다.
마이크(222)에 음성이 입력되면, 제어부(280)는 입력받은 음성을 분석한다(S210). 그에 따라, 제어부(200)는 사용자 등의 발화내용을 인식하여, 발화내용에 일정(schedule)과 관련된 적어도 하나의 키워드를 추출할 수 있다.
여기에서, 일정(schedule)이란, 사용자에 의하여 예정되는 시간 및/또는 장소 정보, 약속 상대방 등을 포함하는 계획을 의미한다. 또한, 일정(schedule)과 관련된 키워드란, 시간 정보 및/또는 장소 정보를 포함하는 텍스트(예, 내일, 오전 10시, 강남역 등)나 일정과 관련된 상용문구(예, 약속, 모임, 만나자 등)를 의미한다.
예를 들어, 도 4a의 (a)에서, 글래스 타입 단말기(200)를 착용한 사용자가 '내일 약속이 7시 였나?' 라는 문장을 발화한 경우, 음성인식기능의 활성화에 따라, 사용자가 발화한 문장에서 '내일', '약속', '7시'와 같은 일정과 관련된 키워드를 추출할 수 있고, 또한 문장이 '?'와 같이 의문형으로 종료된 것을 인식할 수 있다. 이와 같이 음성인식기능이 실행되는 동안, 도시된 바와 같이, 음성인식기능이 동작중임을 알려주는 표시(예, '음성분석중...')(401)가 디스플레이부(251)를 통해 출력될 수 있다.
다음, 상기 제어부(280)는 인식된 발화내용에 근거하여, 분석된 음성과 관련된 기저장된 일정정보를 추출한다(S220).
이때, 상기 제어부(280)는 인식된 발화내용의 분석 결과에 근거하여, 일정정보의 추출 여부를 결정할 수 있다. 구체적으로, 제어부(280)는, 인식된 발화내용에 '일정'과 관련된 키워드, 예를 들어, 특정 단어, 구, 또는 문장 등이 포함된 경우, 인식된 발화내용에 기설정된 '음성명령'이 포함된 경우, 또는 인식된 발화내용에 포함된 단어나 문장이 '의문형'으로 종료하는 경우, 인식된 발화내용과 관련된 일정정보를 추출하도록 제어동작을 수행할 수 있다. 또한, 이와 같은 조건 및 조건의 조합개수는 사용자 입력을 통해 설정될 수 있다.
여기서, 기저장된 일정정보란, 사용자가 캘린더 애플리케이션을 실행하여 직접 입력한 일정과 관련된 정보뿐만 아니라, 메모리(미도시)의 일 영역에 저장된 정보, 그리고 글래스 타입 단말기(200)와 연동된 데이터베이스 등에 저장된 사용자의 일정과 관련된 정보를 모두 포함한다.
이와 같이, 발화내용과 관련된 일정정보를 추출하는 동안, 도 4a의 (b)와 같이, 대응되는 일정정보가 추출중임을 알려주는 표시(예, '일정정보확인중...')(402)가 디스플레이부(251)를 통해 출력될 수 있다.
다음으로, 제어부(280)는 추출된 일정정보와 마이크(222 또는 252)를 통해 입력되는 음성에 포함된 음성정보가 일치하는지 여부의 비교를 수행한다. 비교 결과, 일치 여부에 따라 추출된 일정정보의 출력 여부를 결정한다(S230).
예를 들어, 사용자가 발화한 내용에 포함된 일정과 관련된 음성정보와 기저장된 일정정보가 서로 모순되는 경우에는, 사용가 저장된 일정정보를 인식할 수 있도록, 추출된 일정정보를 출력하기로 결정할 수 있다. 반면, 사용자가 발화한 내용에 포함된 일정과 관련된 음성정보와 기저장된 일정정보가 일치하는 경우에는, 사용자가 저장된 일정정보를 인식하고 있는 것으로 판단하여, 추출된 일정정보를 출력하기로 않기로 결정할 수 있다.
다음, 제어부(280)의 결정에 근거하여, 추출된 일정정보를 디스플레이부(251)나 또는 음향 출력 모듈(252)을 통해 출력한다(S240).
이때, 제어부(280)는 현재 마이크(222 또는 252)에 사용자 등의 음성이 입력 중인지 여부에 따라, 추출된 일정정보를 디스플레이부(251)를 통해 출력할지 또는 음향 출력 모듈(252)을 통해 출력할지 여부를 결정할 수 있다. 예를 들어, 상기 제어부(280)는, 사용자가 상대방과 계속 대화중인 경우에는 추출된 일정정보를 시각정보로 변환하여 디스플레이부(251)의 일 영역에 출력하고, 사용자의 대화가 중단된 상태이면 추출된 일정정보를 음성신호로 변환하여 음향 출력 모듈(252)을 통해 출력하도록 동작할 있다.
예를 들어, 도 4a의 (b)에서의 일정정보의 확인 결과, 사용자의 발화내용('내일 약속이 7시 였나?')과 캘린더 애플리케이션에 저장된 일정정보('내일 8시 저녁약속')가 모순되는 경우, 도 4a의 (c)와 같이, 디스플레이부(251)를 통해 기저장된 일정정보(예, 캘린더 화면)(403)가 출력될 수 있다. 도면에서는 추출된 일정정보로 전체 캘린더 화면이 출력되었지만, 다른 예에서는 사용자의 발화내용 중에서 저장된 일정정보와 모순되는 부분과 대응되는 교정된 부분일정정보(예, '7시가 아니라 8시입니다')가 화면에 출력될 수도 있다.
일정정보 중 사용자가 잘못 인식한 부분(403a)에는 하이라이팅 효과(예, 강조효과, 깜빡임, 다른 색상이나 크기 등)가 출력될 수 있다. 이러한 상태에서, 사용자가 출력된 일정정보를 확인하는 내용의 음성을 발화하면(예, '아! 8시구나'), 도 4a의 (d)와 같이, 출력된 일정정보가 디스플레이부(251)로부터 사라지게 된다.
한편, 단계(S230)에서 추출된 일정정보와 사용자가 발화한 음성에 포함된 음성정보가 일치하는 경우, 제어부(280) 추출된 일정정보에 대응되는 일정에 확인 표시가 나타나도록 제어할 수 있다.
예를 들어, 도 4b에서, 글래스 타입 단말기(200)의 착용자가 '내일 비행기 출발시간이 7시 30분이지?"라고 발화한 경우(도 4b의 (a)), 발화내용에 일정과 관련된 키워드가 있음을 인식하여 대응되는 일정정보(예, 내일 일정정보)를 확인한 다음(도 4b의 (b)), 사용자가 내일 일정을 바르게 알고 있는 것으로 판단하여, 디스플레이부에 아무런 시각정보도 출력하지 않는다(도 4b의 (c)). 이때, 제어부(280)는 추출된 일정정보에 대응되는 캘린더 애플리케이션을 백그라운드(background)에서 실행하여(404), 내일 일정정보를 확인했음을 알려주는 아이콘(410)이 출력될 수 있도록 제어할 수 있다. 다만, 이러한 아이콘의 표시는 디스플레이부(251)에 현재 출력되지는 않는다.
이상에서 살펴본 본 발명의 실시 예에 의하면, 기저장된 일정정보와 모순되는 발화내용이 입력되는 경우, 글래스 타입 단말기가 이를 인식하여서 교정된 정보를 사용자에게 알려준다. 그에 따라, 사용자의 발화내용을 통해 자연스럽게 일정을 확인할 수 있고, 사용자 스스로 실수를 번복할 수 있도록 도와준다.
한편, 사용자의 발화내용에만 의존하여 관련된 정보를 추출하는 데는 한계가 있다. 이에, 이하에서는 도 5, 도 6a, 및 도 6b을 참조하여, 사용자가 바라보는 객체를 인식하여, 잘못된 정보가 발화되는 경우에 교정된 정보를 제공하는 방법을 구체적으로 살펴보겠다.
이를 위해, 본 발명의 실시 예에 따른 글래스 타입 단말기(200)는 적어도 하나의 카메라(221)를 이용하여, 사용자가 바라보는 객체를 인식할 수 있다. 여기에서, 카메라를 통해 획득되는 이미지는 카메라의 프리뷰화면을 통해 실시간으로 보여지는 주변 이미지로서, 사용자가 바라보는 장면과 일치하는 이미지를 의미한다.
도 5를 참조하면, 먼저, 글래스 타입 단말기(200)가 착용되면, 구비된 카메라(221)를 활성화하여 적어도 하나의 이미지를 획득할 수 있다(S510).
여기에서, 카메라의 활성화는, 글래스 타입 단말기(200)의 착용이 감지되면 자동으로 수행될 수 있다. 예를 들어, 도 6a를 참조하면, 글래스 타입 단말기(200)가 착용되면, 카메라(221)가 활성화되어, 프리뷰 화면(601)에 보여지는 제3자의 얼굴 이미지가 획득될 수 있다. 이러한 경우, 전력 소모를 최소화하기 위해, 프리뷰 화면(601)에 보여지는 이미지는 흑백으로 출력될 수 있다.
또는, 카메라의 활성화는, 사용자로부터 정보 확인 요청이 수신되거나 마이크(222 또는 252)에 음성이 입력되는 조건을 만족한 경우에 수행될 수 있다. 예를 들어, 도 6b의 (a) 및 (b)를 참조하면, 처음에는 글래스 타입 단말기(200)를 착용하더라도 카메라(221)가 활성화되지 않다가, 마이크(222 또는 252)에 사용자 등의 음성, 예를 들어 "박차장님 맞나?"와 같은 의문형 문장이 입력된 경우에 활성화될 수 있다. 이러한 경우, 글래스 타입 단말기(200)는 사용자가 바라보는 장면을 인식하기 이전에 입력된 사용자의 음성을 기억하기 위하여, 음성인식기능을 활성화화고, 인식된 음성을 텍스트 변환하여 디스플레이부(251)에 출력시킬 수 있다.
다음으로, 글래스 타입 단말기(200)의 제어부(280)는 획득된 이미지를 분석하고, 분석된 이미지에 대응되는 정보를 추출하는 단계를 진행한다(S520). 이때, 이미지의 분석과 분석된 이미지에 대응되는 정보의 범위는, 획득된 이미지의 종류에 따라 달라진다.
예를 들어, 획득된 이미지가 특정인의 얼굴인 경우, 상기 제어부(280)는 자동으로 얼굴인식기능을 실행하여 이미지를 분석한다. 이와 같이 얼굴인식기능이 실행되면, 얼굴의 전체적인 윤곽이나 피부 톤 정보 및 눈, 코, 입, 눈썹, 또는 귀와 같은 얼굴의 구성요소에 대한 특징 정보(예 : 길이, 위치, 각도, 모양)를 획득된 이미지로부터 검출할 수 있다. 그런 다음, 검출된 정보에 기초하여 인식된 얼굴이 글래스 타입 단말기(200)의 폰북, 주소록 등에 저장된 얼굴 이미지와 일치하는지 비교한다. 비교 결과 인식된 얼굴과 저장된 얼굴 이미지가 일치하면, 저장된 얼굴 이미지와 함께 저장된 적어도 하나의 정보, 예를 들어 이름, 전화번호, 주소, 직업, 직함 등을 추출할 수 있다. 예를 들어, 도 6a의 (b)와 도 6b의 (b)에 도시된 프리뷰 화면(601)에서 제3자의 얼굴 이미지를 분석하여 기저장된 폰북, 주소록 등으로부터 대응되는 정보를 검출할 수 있다.
또한, 예를 들어, 획득된 이미지가 특정 객체인 경우, 상기 제어부(280)는 해당 객체의 특징 정보(윤곽, 크기, 색깔 등)를 검출하여, 웹검색 등을 통해 검색된 동일 객체와 관련된 정보를 추출할 수 있다.
한편, 카메라(221)를 통해 획득된 이미지가 복수인 경우, 제어부(180)는 이하의 단계(S530)에서 수행되는 사용자 등의 음성에 기초하여, 적어도 하나의 이미지를 특정할 수 있다. 예를 들어, 획득된 하나의 이미지에 '꽃, 나무, 사람'과 같은 복수의 객체가 포함되고, 마이크(222 또는 252)를 통해 "나팔꽃인가?" 라는 사용자 음성이 입력되면, 제어부(280)는 획득된 이미지에서 "꽃"이미지를 특정할 수 있다. 이러한 경우, 상기 제어부(280)는 특정된 부분이미지("꽃"이미지)와 관련된 정보만 추출할 수 있다.
그런 다음, 제어부(280)는 마이크에 입력된 음성이 획득된 이미지와 관련된 것인지를 감지한다(S530).
구체적으로, 제어부(280)는 마이크(222 또는 252)를 통해 입력된 음성 중에서, 획득된 이미지와 관련된 발화내용만을 감지하고, 획득된 이미지와 전혀 관련 없는 발화내용은 무시한다. 예를 들어, 글래스 타입 단말기(200)를 착용한 사용자가 보행을 하면서 통화를 수행하는 경우, 사용자의 통화내용이 프리뷰 화면에 보여지는 이미지들과 무관한 것이면 아무런 동작을 수행하지 않을 수 있다.
한편, 제어부(280)는 이와 같이 마이크(222 또는 252)에 입력된 음성이 획득된 이미지와 관련된 경우, 특정 이벤트가 발생한 것으로 인식할 수 있다.
이와 같이, 특정 이벤트가 발생된 경우, 상기 제어부(280)는 단계(S520)에서 추출된 정보와 마이크(222 또는 252)를 통해 입력된 음성에 포함된 음성정보의 비교를 수행한다. 비교 결과, 제어부(280)는, 추출된 정보와 마이크에 입력된 음성정보가 일치되는지 여부에 따라, 추출된 정보의 출력 여부를 결정한다(S540).
구체적으로, 추출된 정보와 마이크(222 또는 252)를 통해 입력된 음성에 포함된 음성정보가 서로 모순되는 경우, 추출된 이미지에 대응되는 정보를 출력하여 사용자의 발화한 내용을 교정하도록 유도할 수 있다. 반면, 추출된 정보와 마이크(222 또는 252)를 통해 입력된 음성에 포함된 음성정보가 모순 없이 일치하는 경우에는 아무런 정보를 출력하지 않는다. 그에 따라, 디스플레이부(251)에의 표시가 최소화되고, 사용자는 자신이 발화한 내용에 실수가 없는지 여부에 대한 피드백을 제공받을 수 있다.
추출된 정보를 출력하기로 결정한 경우, 상기 제어부(280)는 획득된 이미지에 대응되는 정보를, 디스플레이부(251)의 일 영역에 출력시킬 수 있다.
예를 들어, 도 6a의 (b)와 도 6b의 (a)에서 사용자의 발화내용이 '박차장님' 또는 '박차장님 맞나?'인 경우, 획득된 이미지(601)에 대응되는 실제정보와 불일치하면, 도 6a의 (c)와 도 6b의 (c)에 도시된 바와 같이, 획득된 이미지(601)에 대응되는 정보를 나타내는 "박선우 과장"이 디스플레이부(251)의 일 영역, 예를 들어 얼굴 이미지의 하단영역에 출력된다. 사용자는 디스플레이부(251)에 출력된 내용을 보고, 발화한 내용에 실수가 있었음을 인식할 수 있다.
이때, 제어부(280)는 추출된 정보를 가공하여 디스플레이부(251)에 출력시킬 수 있다. 예를 들어, 마이크(222 또는 252)를 통해 입력된 음성에 포함된 음성정보 중 추출된 정보와 모순되는 부분을 사용자가 인식할 수 있도록, 추출된 정보를 가공할 수 있다. 예를 들어, 도 6a의 (c)나 도 6b의 (c)에서, '박차장님이 아니라 박과장님이에요'라는 텍스트정보가 디스플레이부(251)의 일 영역에 출력될 수 있다. 이때, 교정될 텍스트 부분, 즉 "박과장님"에 하이라이팅 효과, 예를 들어 색상 또는 크기에 강조표시가 나타날 수 있다.
이와 같이, 교정된 정보가 디스플레이부(251)에 출력된 상태에서, 상기 제어부(280)는 마이크(222 또는 252)를 통해 입력되는 음성정보가 디스플레이부(251)에 출력된 정보와 모순되지 않는지 계속 감시할 수 있다.
감시 결과, 사용자가 교정된 정보대로 발화한 경우, 즉, 디스플레이부(251)에 출력된 정보와 일치하는 음성정보가 마이크(222 또는 252)에 입력되면, 상기 제어부(280)는 디스플레이부(251)에 출력되었던 정보가 사라지도록 제어한다. 사용자는 디스플레이부(251)에 출력되었던 정보가 사라지는 것을 보고, 잘못된 내용이 바르게 교정된 것을 인식할 수 있다. 그에 따라, 사용자는 발화내용과 관련된 피드백을 자연스럽게 제공받을 수 있다.
또한, 위에서는 교정된 정보가 디스플레이부(251)를 통해 출력되는 경우를 예시로 설명하였으나, 교정된 정보가 골전도 방식의 음향 출력 모듈(252)을 통해 출력될 수 있음은 물론이다. 이러한 경우, 상기 제어부(280)는 음향 출력 모듈(252)의 마이크기능과 스피커기능 중 어느 하나만 선택적으로 동작하도록 제어할 수 있다. 즉, 에코(echo) 현상이 발생되어 마이크기능과 스피커기능이 작동 불능 상태가 되는 것을 방지하기 위해, 소정의 스위치(미도시)를 구비할 수 있고, 제어부(280)는, 기설정된 입력에 대응되는 스위칭 신호에 따라, 마이크기능이 온(on) 상태이면 스피커기능이 오프(off)되도록 제어하고, 스피커기능이 온(on) 상태이면 마이크기능이 오프(off)되도록 제어할 수 있다.
한편, 도 7은 교정된 정보가 디스플레이부(251)에 출력된 상태에서, 착용자의 발화내용에 따라 교정된 정보가 다르게 변경되는 예시들을 도시한 것이다.
위에서 언급한 바와 같이, 카메라(221)를 통해 획득된 이미지와 관련된 사용자의 발화내용이 잘못된 것으로 인식되면, 교정된 정보가 디스플레이부(251)나 음향 출력 모듈(252) 등을 통해 출력된다. 그리고, 사용자가 출력된 정보를 확인하여, 교정된 정보대로 발화를 수행하면, 더 이상의 교정이 필요없는 것으로 인식하여 출력된 정보가 사라지게 된다.
반면, 교정된 정보가 디스플레이부(251)에 출력된 상태에서, 착용자가 연속하여 또는 일정 간격을 두고, 교정된 정보와 모순되는 내용을 발화한 경우, 상기 제어부(280)는 교정된 정보에 강조효과를 출력하거나 또는 다른 출력 수단(예, 음향 출력 모듈)과 조합하여 교정된 정보를 알려줄 수 있다.
예를 들어, 도 7의 (a)와 같이, 디스플레이부(251)에 교정된 정보("박선우 과장")가 출력된 상태에서, 도 7의 (b)와 같이, 사용자가 또 다시 잘못된 내용을 발화하면(예, '근데요 박차장님'), 디스플레이부(251)에 출력된 텍스트정보("박선우 과장")의 크기가 더욱 커지고, 글씨체에 강조 효과(예, 볼드체)가 표시된다. 또한, 이러한 이력(history)은 글래스 타입 단말기(200)에 저장되어, 이후에 교정된 정보의 표시상태를 결정할 수 있다.
교정된 정보가 도 7의 (b)와 같이 강조되어 출력된 상태에서, 사용자가 교정된 정보대로 발화내용을 수정하면(예, '박과장님 휴가가시죠?'), 도 7의 (c)와 같이 출력된 정보가 디스플레이부(251)로부터 사라진다.
이상에서는 사용자가 발화한 내용을 기초로 저장된 정보 추출하는 예시들을 살펴보았다. 이하에서는, 도 8a, 도 8b, 및 도 8c를 참조하여, 사용자가 발화한 내용을 기초로 관련된 정보를 수집 및 저장하는 방법을 설명하기로 한다.
이를 위해, 글래스 타입 단말기(200)는 사용자가 바라보는 장면을 인식하기 위해 카메라(221)를 활성화시킬 수 있다.
다음, 제어부(180)는 정보 입력 요청이 감지되면, 카메라의 활성화 신호에 따라 획득된 이미지를 단말의 저장부(미도시)에 저장할 수 있다. 여기에서, 정보 입력 요청은 기설정된 음성이나 제스처가 입력되는 경우에 트리거(trigger)될 수 있다. 예를 들어, 정보 입력 요청은, 소개와 관련된 음성정보(예, '안녕하세요?', '처음 뵙겠습니다', '존함이 어떻게 되시나요' 등), 소개와 관련된 제스처(예, 악수를 하는 행위, 명함을 건네는 행위)가 있거나, 또는 기설정된 입력(프레임부의 일 영역에 터치입력, 프레임부를 들어올리는 행위, 코받침 프레임부를 누르는 행위 등)이 인가되는 경우에 트리거될 수 있다.
예를 들어, 도 8a의 (a)와 같이, 카메라를 통해, 상대방에게 명함을 건네는 장면이 인식되고 마이크를 통해 소개와 관련된 음성정보(예, '안녕하세요? 재윤이입니다')가 입력된 경우, 도 8a의 (b)와 같이, 프리뷰 화면에 출력되는 상대방의 얼굴 이미지(802)를 저장한다.
이때, 제어부(180)는 저장될 이미지가 프리뷰 화면의 중앙에 오도록, 디스프레이부(251)에 가이드정보를 출력할 수 있다. 예를 들어, 가이드정보는, 프리뷰 화면의 중앙영역에 포커싱박스 형태로 출력될 수 있다. 또한, 가이드정보는 저장될 이미지의 일부가 카메라의 화각범위를 벗어나는 경우, 사용자의 두부의 이동 방향을 나타내는 정보를 포함할 수 있다.
다음으로, 제어부(280)는 저장된 이미지와 관련된 음성이 마이크(222 또는 252)에 입력되는 것에 응답하여, 입력되는 음성 중 저장된 이미지에 대응되는 음성정보를 텍스트 변환하여, 저장부(미도시)에 저장할 수 있다.
저장된 이미지와 관련된 음성은 사용자의 음성뿐만 아니라, 도 8a의 (a)처럼, 사용자의 대화 상대방으로부터 발화되는 음성정보(예, '네, 저는 김경미입니다')도 포함할 수 있다. 또한, 입력되는 음성 중 저장된 이미지와 관련없는 발화내용은 무시된다.
그런 다음, 제어부(280)는 저장될 텍스트 정보를 사용자가 확인할 수 있도록, 대응되는 음성정보가 수집된 순서대로 디스플레이부(251)에 출력한다. 상기 텍스트정보는, 저장될 카테고리에 적합하게 가공되어 디스플레이부(251)에 출력될 수 있다.
예를 들어, 도 8a의 (c)에 도시된 바와 같이, 저장된 얼굴 이미지(802)와 관련된 음성정보에 대응되는 텍스트가 디스플레이부(251)의 일 영역, 예를 들어, 얼굴 이미지(802)의 하단영역에, 라인(line) 단위로 출력된다. 이때, 저장될 카테고리가 변경되면, 서로 다른 라인(line)에 표시된다. 서로 다른 라인(line)은 시각적으로 구별될 수 있도록 서로 다른 색상으로 표시될 수 있다. 또한, 예를 들어, 저장된 얼굴 이미지(802)에 대응되는 텍스트 정보(803a, 803b)가 저장될 카테고리에 적합한 길이(예, '김경미', '회사:역삼')로 가공되어 표시될 수 있다.
이와 같이 디스플레이부(251)에 라인(line) 단위로 출력된 정보들은, 출력된 텍스트정보가 저장부에 저장될때마다 디스플레이부(251)로부터 사라질 수 있다. 예를 들어, 도 8b를 참조하면, 시간의 흐름에 따라, 디스플레이부(251)에 출력되었던 상대방의 얼굴 이미지(802), 소속정보(예, 'UX실')(803a), 이름정보(예, '홍길동')(803b), 직함정보(예, '주임')(803c)가 발화된 순서대로 표시되었다가, 라인단위로 위쪽으로 이동하면서 디스플레이부(251)로부터 사라진다.
이때, 제어부(280)는 디스플레이부(251)에 출력되었던 텍스트정보들이 사용자의 시선을 따라 상하로 이동하도록 제어할 수 있다. 이를 위해, 프레임부의 내측에는 사용자의 시선을 감지하기 위한 제2카메라(221b)가 배치될 수 있다.
이러한 경우, 도 8c에 도시된 바와 같이, 디스플레이부(251)에 출력되는 정보들이 사용자의 시선을 따라 상하방향으로 스크롤 될 수 있다. 예를 들어, 사용자가 도 8c의 (a)에 도시된 바와 같이, 시선을 위쪽으로 이동하면, 출력된 정보들이 위쪽방향으로 빠르게 이동한다. 또한, 예를 들어, 사용자가 도 8c의 (b)에 도시된 바와 같이, 시선을 아래쪽으로 이동하면, 출력된 정보들이 아래방향으로 빠르게 이동한다. 이때, 정보들이 스크롤되는 속도는 사용자의 시선이 이동하는 속도와 출력된 정보의 양에 비례하여 결정될 수 있다.
한편, 제어부(280)는 정보 입력의 종료신호를 감지할 수 있다. 여기서, 정보 입력의 종료신호는, 기설정된 음성이나 제스처가 입력되는 경우에 트리거(trigger)될 수 있다. 예를 들어, 정보 입력의 종료신호는, 소개종료와 관련된 음성정보(예, '그럼, 또 뵙겠습니다', '안녕히가세요', '반가웠습니다', '잘 부탁드립니다' 등)가 있거나 또는 기설정된 입력(프레임부의 일 영역에 기설정된 터치입력)이 인가되는 경우에 트리거될 수 있다.
이와 같이 정보 입력의 종료신호가 감지되면, 상기 제어부(280)는 도 8a의 (d)와 같이, 현재 화면을 정보들이 저장된 폰북, 또는 주소록 등의 화면으로 전환한다. 이때, 화면에 출력된 정보들은 폰북, 또는 주소록 등의 형식에 적합한 순서대로 변경되어 저장될 수 있다. 즉, 정보들이 디스플레이부(251)에 출력되는 순서와 저장부(미도시)에 최종 저장되는 순서는 일치하지 않을 수 있다. 사용자는 발화내용에 대응되는 정보들(예, 이름, 회사정보, 휴대폰번호)의 입력이 제대로 되었는지 여부를 최종 확인할 수 있다.
이하, 도 9a 및 도 9b는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 인식된 정보에 따라 교정된 정보를 제공하는 서로 다른 방법을 설명하기 위한 개념도들이다. 여기서는, 사용자의 음성이 입력되는 경우에 발화된 내용을 교정하기 위한 프로세스가 트리거되는 것을 실시 예로 설명하였다.
먼저, 사용자의 음성(예, '어, 양배추네')이 마이크를 통해 입력되면, 입력된 음성이 텍스트로 변환되어, 디스플레이부(251)에 출력된다. 그러면, 글래스 타입 단말기가 이를 확인하기 위해, 카메라에 활성화 신호를 인가한다. 그에 따라, 카메라를 통해 획득된 이미지(901)를 분석하여 대응되는 정보를 검출한다. 이때, 정보의 검출은 위에서 이미 설명한 바와 같이, 글래스 타입 단말기(200)에 기저장된 정보일 수도 있고 웹 검색을 통해 검출된 정보일 수도 있다.
이와 같이 검출된 정보가 디스플레이부(251)에 출력된 텍스트정보(마이크를 통해 입력된 음성정보가 변환된 것)와 일치하지 않으면, 제어부(280)는 도 9a에 도시된 바와 같이, 마이크를 통해 입력된 정보 대신에 교정된 정보(예, '콜라비')(910)를 디스플레이부(251)에 표시해준다.
사용자가 발화한 정보와 교정된 정보가 순서대로 디스플레이부(251)에 출력될 경우, 사용자는 발화내용이 잘못된 부분을 직관적으로 인식할 수 있다. 또한, 글래스 타입 단말기(200)는 사용자가 잘못 발화한 내용을 확실히 인식할 수 있도록, 연관된 이미지(예, '콜라비 요리')를 표시해주거나, 또는 잘못 말한 정보에 대응되는 다른 이미지(예, '양배추 이미지')를 디스플레이부(251)에 표시해줄 수 있다.
한편, 제어부(180)는 교정될 정보의 타입에 따라 음향 출력 모듈을 통해 정보를 교정하도록 가이드할 수 있다. 예를 들어, 도 9b와 같이, 카메라를 통해 인식된 텍스트 이미지(902)가 외국어이고, 마이크를 통해 입력된 사용자의 외국어 발음이 잘못된 경우(예, '포기너'), 디스플레이부(251)에는 외국어의 발음기호와 관련된 시각정보(920)를 출력하고, 음향 출력 모듈(252)을 통해 해당 외국어 발음을 출력할 수 있다.
도 10은 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 사용자의 시선에 따라 교정된 정보를 출력하는 방법을 설명하기 위한 개념도들이다.
이를 위해, 본 발명의 실시 예에 따른 글래스 타입 단말기(200)는 프레임부와 결합되고 사용자의 양안 중 적어도 하나의 대응되도록 배치되어, 사용자의 시선을 추적하는 시선 추적부를 포함할 수 있다. 여기서, 시선 추적부는, 프레임부의 내측에 구비된 제2카메라(221b) 및 이와 인접되게 배치된 적외선 센서(미도시)로 이루어질 수 있다. 또한, 제1활성화신호에 따라 제1카메라(221)가 활성화되고, 제2활성화신호에 따라 제2카메라(221b)가 활성화된다. 여기서는, 제1활성화신호와 제2활성화신호를 특별히 구별하고 않는 경우이면, 활성화 신호에 제1 및 제2 활성화신호가 모두 포함된 것을 전제로 하여 설명하겠다.
글래스 타입 단말기(200)가 착용되면, 활성화신호가 생성되어 제1카메라(221) 및 제2카메라(221b)를 통해, 사용자의 시선이 고정된 위치에 존재하는 객체에 대한 이미지를 획득할 수 있다. 이때, 사용자가 획득된 객체 이미지를 확인할 수 있도록, 사용자의 시선이 고정된 위치를 알려주는 영역표시나 알림 아이콘이 디스플레이부(251)의 일 영역에 표시될 수 있다.
그러면, 제어부(280)는 획득된 객체이미지를 분석하여, 대응되는 정보를 추출한다. 그리고, 마이크(222 또는 252)를 통해 입력된 음성이 획득된 객체이미지에 대한 것이고 추출된 정보와 모순되는 것으로 판단되면, 상기 제어부(280)는 추출된 정보를 획득된 객체이미지와 함께 디스플레이부(251)의 일 영역에 출력한다. 그에 따라, 사용자가 관심 있게 보고 있는 객체에 대하여 잘못 알고 있는 정보를 스스로 수정할 수 있도록 가이드를 제공한다.
한편, 사용자가 관심 있는 대상과 관련된 아무런 정보가 기억하지 못하는 경우, 상기 제어부(280)는 이러한 상황을 인식하여, 관련된 정보를 디스플레이부(251)에 제공해줄 수 있다.
구체적으로, 상기 제어부(280)는, 사용자의 시선이 특정 객체에 고정된 상태에서, 기설정된 제스처가 입력되거나 기설정된 시간이 경과되면, 객체와 관련된 정보 중 적어도 일부가 디스플레이부의 일 영역에 출력되도록 제어할 수 있다.
다른 예로, 본 발명에 따른 실시 예에서는, 카메라의 화각범위에 존재하는 객체가 복수인 경우, 활성화 신호에 따라, 제1카메라(221)와 제2카메라(221b)가 동시에 활성화하여, 복수의 이미지, 즉 제1이미지와 제2이미지를 획득하는 것이 가능하다. 여기서, 획득된 제1이미지는 사용자의 시선이 고정된 위치에 존재하는 제1객체에 대한 이미지이고, 획득된 제2이미지는 사용자의 시선이 벗어난 위치에 존재하는 제2객체에 대한 이미지일 수 있다.
이와 같이 복수의 이미지가 획득되면, 제어부(280)는 획득된 제1이미지에 대응되는 정보와 제2이미지에 대응되는 정보를 저장부나 웹 검색을 통해 각각 추출할 수 있다. 추출된 각각의 정보는 획득된 이미지와 연관되어 임시 저장된다.
또한, 제어부(280)는 획득된 제1이미지 또는 제2이미지와 관련된 음성이 마이크(222 또는 252)를 통해 입력되는 것을 감지할 수 있다.
다음으로, 상기 제어부(280)는 입력된 음성이 제1이미지, 즉 사용자의 시선이 고정된 위치에 존재하는 객체에 대한 것인지 또는 제2이미지, 즉 사용자의 시선을 벗어난 위치에 존재하는 객체에 대한 것인지를 판단한다.
판단 결과에 근거하여, 상기 제어부(280)는 추출된 정보들의 출력 여부 및 발화된 내용과 관련된 이미지의 표시 여부를 결정할 수 있다.
먼저, 사용자의 발화내용이 제1이미지와 관련된 것이면, 발화내용과 추출된 제1이미지에 대응되는 정보의 일치 여부를 비교하여, 추출된 제1이미지에 대응되는 정보의 출력 여부만을 결정한다. 다른 예로, 사용자의 발화내용이 제1 및 제2이미지와 무관한 것이면, 사용자의 추출된 정보들을 출력하지 않는다.
또 다른 예로, 사용자의 발화내용이 제1이미지와는 관련 없지만 제2이미지와 관련된 것이면, 추출된 제2이미지에 대응되는 정보와 함께 발화된 내용과 관련된 제2이미지를 알려주는 표시를 디스플레이부(251)에 출력시킬 수 있다.
구체적으로, 상기 제어부(280)는 사용자의 시선이 제1객체에 고정된 상태에서, 상기 추출된 제2객체에 대응되는 정보와 상기 마이크에 입력된 음성에 포함된 음성정보가 일치하는 경우, 상기 제2객체의 위치를 알려주는 아이콘을 디스플레이부(251)의 일 영역에 출력시킬 수 있다.
예를 들어, 도 10의 (a)에서 사용자가 복수인과 대화중인 경우, 복수인의 위치에 각각 대응되는 제1 얼굴 이미지와 제2 얼굴 이미지가 디스플레이부(251)의 양안에 대응되도록 출력될 수 있다. 예를 들어, 좌측 디스플레이 영역(251a)에는 제1 얼굴 이미지(901)가 표시되고, 우측 디스플레이 영역(251b)에는 제2 얼굴 이미지(902)가 표시될 수 있다.
이러한 상태에서, 사용자가 제2 얼굴 이미지가 표시된 우측 디스플레이 영역(251b)에 시선을 고정하면서, 발화한 음성의 내용(예, '길동 연구원님')이 제2 얼굴 이미지(902)에 대응되는 정보가 아니라 제1 얼굴 이미지(901)에 대응되는 정보인 것으로 판단된 경우, 상기 제어부(280)는, 도 10의 (b)와 같이, 제1 얼굴 이미지(901)가 표시된 좌측 디스플레이 영역(251a)에 제1 얼굴 이미지에 대한 정보임을 알려주는 알림 아이콘(예, 화살표 아이콘)(910)을 출력시킬 수 있다. 그에 따라, 디스플레이부(251)에의 표시를 최소화하면서 사용자의 발화내용이 잘못된 것을 직관적으로 알려줄 수 있다.
한편, 사용자가 인식된 이미지에 대해 잘못 발화한 내용의 이력(history)이 디스플레이부(251)의 일 영역에 출력될 수 있다.
도 11a 및 도 11b는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 착용자가 잘못된 정보를 발화한 이력정보에 기초하여, 교정된 정보를 출력하는 방법의 예시를 보여주고 있다.
이를 위해, 제어부(280)는 추출된 정보와 마이크(222 또는 252)에 입력된 음성 음성정보의 일치 여부에 대한 정보, 예를 들어 일치하지 않은 횟수, 일치 정도, 잘못된 정보 등과 같은 이력정보(history information)를 저장할 수 있다.
이와 같이 이력정보가 저장되면, 상기 제어부(280)는 저장된 이력정보에 근거하여, 이후, 카메라를 통해 획득된 동일 이미지에 대응되는 정보의 출력 여부를 다르게 결정할 수 있다. 또한, 이러한 이력정보는 제어부(280)에 의하여 업데이트되거나 학습될 수 있다.
도 11a는 디스플레이부(251)에 출력된 얼굴 이미지에 대하여 이전에 잘못된 정보를 말한 이력이 있는 경우, 교정된 정보(예, '홍길동 주임입니다')가 디스플레이부(251)에 출력된 예시이다. 마이크(222 또는 252)에 아무런 음성정보가 입력되지 않더라고 교정될 정보가 출력되었음을 확인할 수 있다.
그리고, 도 11b는 디스플레이부(251)에 출력된 얼굴 이미지에 대하여 이전에 잘못된 정보를 말한 이력이 없거나, 또는 이전에 인식된 적이 없었던 얼굴 이미지인 경우, 마이크(222 또는 252)에 음성정보가 입력되기 전까지 아무런 정보가 출력되지 않는 것을 확인할 수 있다.
도 12는 본 발명의 일 실시예와 관련된 글래스 타입 단말기에서, 음성 입력이 없는 경우에 인식된 객체와 관련된 정보가 출력되도록 하는 예시를 보인 것이다.
제어부(280)는 디스플레이부(251)에 출력된 프리뷰 화면에 보여지는 제3자의 얼굴 이미지를 인식할 수 있다. 이때, 사용자가 인식된 얼굴 이미지와 관련된 정보를 얻고 싶은 경우, 도 12와 같이 터치 센서가 구비된 프레임부의 일 측에 기설정된 터치입력(예, 드래그 터치입력)을 인가할 수 있다.
이와 같이 터치 센서에 터치입력이 감지되면, 제어부(280)는 인식된 정보에 대응되는 정보를 추출하여 디스플레이부(251)의 일 영역, 예를 들어, 출력된 이미지의 하단영역에 표시해줄 수 있다.
이때, 제어부(280)는 터치 센서에 인가되는 터치입력이 드래그된 길이나 터치입력의 강도에 따라, 출력될 정보의 양이 달라지도록 제어동작을 수행할 수 있다. 예를 들어, 출력될 정보의 양은 터치입력이 드래그된 길이나 터치입력의 강도에 비례하여 결정될 수 있다. 또한, 상기 제어부(280)는 기설정된 터치입력이 감지되면, 관련된 정보를 저장부에 저장된 순서대로 또는 기설정된 우선순위(예, 글래스 타입 단말기의 현재 위치에 대응되는 정보의 중요도)에 따라 라인단위로 위에서 아래/아래에서 위로 이동시키면서 출력할 수 있다.
이상에서 설명한 바와 같이, 본 발명의 실시예에 따른 글래스 타입 단말기에 의하면, 잘못된 발화내용이 입력되는 경우에 단말이 이를 인식하여, 교정된 정보를 사용자에게 알려준다. 그에 따라, 착용자가 실수임을 인식한 경우뿐만 아니라 잘못된 정보임을 스스로 인식하지 못하는 경우에도 오류를 교정할 수 있도록 도와준다. 또한, 착용자가 오류를 교정하면, 더 이상 정보를 제공하지 않음으로써 자연스러운 피드백을 제공하는 효과가 있다.
나아가, 본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.

Claims (20)

  1. 사용자의 두부(頭部)에 착용 가능하게 이루어진 프레임부;
    상기 프레임부와 결합되고, 음성을 입력받는 마이크;
    상기 프레임부와 결합되고, 상기 음성과 관련된 적어도 하나의 일정정보가 저장된 저장부;
    상기 마이크에 음성이 입력되면, 입력받은 음성을 분석하고 분석된 음성과 관련된 일정정보를 상기 저장부로부터 추출하는 제어부를 포함하고,
    상기 제어부는, 추출된 일정정보와 입력받은 음성에 포함된 음성정보의 일치 여부에 따라 상기 추출된 일정정보의 출력 여부를 결정하는 것을 특징으로 하는 글래스 타입 단말기.
  2. 제1항에 있어서,
    상기 본체와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 더 포함하고,
    상기 제어부는,
    상기 추출된 일정정보와 상기 음성정보가 일치하지 않는 경우, 상기 추출된 일정정보를 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 하는 글래스 타입 단말기.
  3. 제1항에 있어서,
    상기 본체와 결합되고, 사용자의 양측 귀 중 적어도 하나에 대응되도록 배치된 골전도 스피커를 더 포함하고,
    상기 제어부는,
    상기 추출된 일정정보와 상기 음성정보가 일치하지 않는 경우, 상기 추출된 일정정보를 음성신호로 변환하여 상기 골전도 스피커에 출력시키는 것을 특징으로 하는 글래스 타입 단말기.
  4. 제1항에 있어서,
    상기 제어부는,
    상기 추출된 일정정보와 상기 음성정보가 서로 일치하는 경우, 추출된 일정정보에 대응되는 일정에 확인 표시가 나타나도록 제어하는 것을 특징으로 하는 글래스 타입 단말기.
  5. 사용자의 두부(頭部)에 착용 가능하게 이루어진 프레임부;
    상기 프레임부와 결합되고, 음성을 입력받는 마이크;
    상기 프레임부와 결합되고, 활성화 신호에 따라 이미지를 획득하는 카메라;
    상기 프레임부와 결합되고, 상기 이미지에 대응되는 정보가 저장된 저장부;
    상기 활성화 신호를 생성하여 획득된 이미지를 분석하고, 분석된 이미지에 대응되는 정보를 상기 저장부로부터 추출하는 제어부를 포함하고,
    상기 제어부는,
    상기 분석된 이미지와 관련된 음성이 입력되는 것에 응답하여, 상기 추출된 정보와 상기 입력된 음성에 포함된 음성정보를 비교하고, 일치 여부에 따라 상기 추출된 정보의 출력 여부를 결정하는 것을 특징으로 하는 글래스 타입 단말기.
  6. 제5항에 있어서,
    카메라의 활성화 신호는, 상기 제어부에 정보 확인 요청이 수신되거나 상기 마이크에 음성이 입력되는 경우에 생성되는 것을 특징으로 하는 글래스 타입 단말기.
  7. 제5항에 있어서,
    상기 본체와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 더 포함하고,
    상기 제어부는,
    상기 추출된 정보와 상기 음성정보가 일치하지 않는 경우, 상기 추출된 정보를 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 하는 글래스 타입 단말기.
  8. 제7항에 있어서,
    상기 제어부는,
    상기 추출된 정보가 상기 디스플레이부에 출력된 상태에서, 상기 출력된 정보와 일치하는 음성정보가 마이크에 입력되면, 상기 출력된 정보가 상기 디스플레이부로부터 사라지도록 제어하는 것을 특징으로 하는 글래스 타입 단말기.
  9. 제5항에 있어서,
    상기 제어부는,
    정보 입력 요청이 감지되면, 상기 활성화 신호를 생성하여 획득된 이미지를 상기 저장부에 저장하고,
    상기 저장된 이미지와 관련된 음성이 입력되는 것에 응답하여, 상기 입력된 음성에 포함된 상기 저장된 이미지에 대응되는 음성정보를 텍스트 변환하여, 상기 저장부에 제공하는 것을 특징으로 하는 글래스 타입 단말기.
  10. 제9항에 있어서,
    상기 프레임부와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 포함하고,
    상기 제어부는,
    상기 정보 입력 요청이 감지되면, 상기 입력된 음성에 포함된 음성정보 중 적어도 일부를 텍스트 변환하여 입력된 순서대로 상기 디스플레이부에 출력시키는 것을 특징으로 하는 글래스 타입 단말기.
  11. 제10항에 있어서,
    상기 정보 입력 요청은 기설정된 음성이나 제스처가 입력되는 경우에 트리거되는 것을 특징으로 하는 글래스 타입 단말기.
  12. 제10항 또는 제11항에 있어서,
    상기 제어부는,
    상기 디스플레이부에 출력된 텍스트 변환된 음성정보가 상기 저장부에 저장되면 상기 디스플레이부에서 사라지도록 제어하고,
    상기 디스플레이부에 출력된 텍스트 변환된 음성정보가 사용자의 시선을 따라 상하로 이동하도록 제어하는 것을 특징으로 하는 글래스 타입 단말기.
  13. 제5항에 있어서,
    상기 프레임부와 결합되고, 사용자의 양안 중 적어도 하나의 대응되도록 배치되어 사용자의 시선을 추적하는 시선 추적부를 더 포함하고,
    상기 제어부는,
    활성화 신호를 생성하여 사용자의 시선이 고정된 위치에 존재하는 객체에 대한 이미지를 획득하고, 상기 객체에 대응되는 정보를 상기 저장부로부터 추출하는 것을 특징으로 하는 글래스 타입 단말기.
  14. 제13항에 있어서,
    상기 프레임부와 결합되고, 사용자의 양안 중 적어도 하나에 대응되도록 배치된 디스플레이부를 포함하고,
    상기 제어부는,
    사용자의 시선이 상기 객체에 고정된 상태에서, 기설정된 제스처가 입력되거나 기설정된 시간이 경과되면, 상기 추출된 정보 중 적어도 일부가 상기 디스플레이부의 일 영역에 출력되도록 제어하는 것을 특징으로 하는 글래스 타입 단말기.
  15. 제13항에 있어서,
    상기 카메라는,
    활성화 신호에 따라, 사용자의 시선이 고정된 위치에 존재하는 제1객체에 대한 이미지와 사용자의 시선을 벗어난 위치에 존재하는 제2객체에 대한 이미지를 각각 획득하고,
    상기 제어부는,
    상기 제1객체에 대응되는 정보와 상기 제2객체에 대응되는 정보를 상기 저장부로부터 각각 추출하고,
    사용자의 시선이 상기 제1객체에 고정된 상태에서, 상기 추출된 제2객체에 대응되는 정보와 상기 마이크에 입력된 음성에 포함된 음성정보가 일치하는 경우, 상기 제2객체의 위치를 알려주는 아이콘을 상기 디스플레이부의 일 영역에 출력시키는 것을 특징으로 하는 글래스 타입 단말기.
  16. 제5항에 있어서
    상기 제어부는,
    상기 추출된 정보와 상기 입력된 음성에 포함된 음성정보의 일치 여부에 대한 정보를 저장하고,
    상기 정보에 근거하여, 상기 카메라를 통해 획득된 동일 이미지에 대응되는 정보의 출력 여부를 다르게 결정하는 것을 특징으로 하는 글래스 타입 단말기.
  17. 글래스 타입 단말기의 동작방법으로서,
    마이크에 음성이 입력되면 입력받은 음성을 분석하는 단계;
    분석된 음성과 관련된 일정정보를 추출하는 단계;
    추출된 일정정보와 입력된 음성에 포함된 음성정보의 일치 여부에 따라 상기 추출된 일정정보의 출력 여부를 결정하는 단계; 및
    상기 결정에 근거하여, 상기 추출된 일정정보를 출력하는 단계를 포함하는 것을 특징으로 하는 글래스 타입 단말기의 동작방법
  18. 글래스 타입 단말기의 동작방법으로서,
    카메라를 활성화하여 적어도 하나의 이미지를 획득하는 단계;
    획득된 이미지를 분석하고, 분석된 이미지에 대응되는 정보를 추출하는 단계;
    분석된 이미지와 관련된 음성이 입력되는 것에 응답하여, 상기 추출된 정보와 상기 입력된 음성에 포함된 음성정보를 비교하고, 일치 여부에 따라 상기 추출된 정보의 출력 여부를 결정하는 단계를 포함하는 것을 특징으로 하는 글래스 타입 단말기의 동작방법
  19. 제18항에 있어서,
    상기 카메라의 활성화는, 정보 확인 요청이 수신되거나 마이크에 음성이 입력된 경우에 수행되는 것을 특징으로 하는 글래스 타입 단말기의 동작방법.
  20. 제18항에 있어서,
    상기 결정에 근거하여, 상기 추출된 정보를 디스플레이부의 일 영역에 출력시키는 단계; 및
    상기 디스플레이부에 출력된 정보와 일치하는 음성정보가 마이크에 입력되면, 출력된 정보가 상기 디스플레이부로부터 사라지도록 제어하는 단계를 포함하는 것을 특징으로 하는 글래스 타입 단말기의 동작방법.
KR1020140080051A 2014-06-27 2014-06-27 글래스 타입 단말기 및 이의 제어방법 KR20160001465A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020140080051A KR20160001465A (ko) 2014-06-27 2014-06-27 글래스 타입 단말기 및 이의 제어방법
US15/315,232 US10409324B2 (en) 2014-06-27 2014-10-16 Glass-type terminal and method of controlling the same
PCT/KR2014/009760 WO2015199288A1 (en) 2014-06-27 2014-10-16 Glass-type terminal and method of controling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140080051A KR20160001465A (ko) 2014-06-27 2014-06-27 글래스 타입 단말기 및 이의 제어방법

Publications (1)

Publication Number Publication Date
KR20160001465A true KR20160001465A (ko) 2016-01-06

Family

ID=54938354

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140080051A KR20160001465A (ko) 2014-06-27 2014-06-27 글래스 타입 단말기 및 이의 제어방법

Country Status (3)

Country Link
US (1) US10409324B2 (ko)
KR (1) KR20160001465A (ko)
WO (1) WO2015199288A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10366691B2 (en) 2017-07-11 2019-07-30 Samsung Electronics Co., Ltd. System and method for voice command context
US10962785B2 (en) 2016-12-19 2021-03-30 Samsung Electronics Co., Ltd. Electronic device, mobile electronic device, and display device, which are controlled on basis of user gaze and input
WO2024080709A1 (ko) * 2022-10-14 2024-04-18 삼성전자주식회사 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6385210B2 (ja) * 2014-09-05 2018-09-05 キヤノン株式会社 画像診断支援装置および制御方法、プログラム
US10055563B2 (en) * 2015-04-15 2018-08-21 Mediatek Inc. Air writing and gesture system with interactive wearable device
US11222060B2 (en) * 2017-06-16 2022-01-11 Hewlett-Packard Development Company, L.P. Voice assistants with graphical image responses
US10770036B2 (en) * 2018-08-27 2020-09-08 Lenovo (Singapore) Pte. Ltd. Presentation of content on left and right eye portions of headset
US20200125322A1 (en) * 2018-10-22 2020-04-23 Navitaire Llc Systems and methods for customization of augmented reality user interface
KR20210009596A (ko) * 2019-07-17 2021-01-27 엘지전자 주식회사 지능적 음성 인식 방법, 음성 인식 장치 및 지능형 컴퓨팅 디바이스
WO2022270455A1 (ja) * 2021-06-21 2022-12-29 ピクシーダストテクノロジーズ株式会社 表示制御装置、表示制御方法、及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10240491A (ja) * 1997-02-26 1998-09-11 Olympus Optical Co Ltd 情報処理装置
JPH11265248A (ja) * 1998-03-18 1999-09-28 Sony Corp 眼鏡型画像表示装置
US20070220108A1 (en) 2006-03-15 2007-09-20 Whitaker Jerry M Mobile global virtual browser with heads-up display for browsing and interacting with the World Wide Web
US9024844B2 (en) 2012-01-25 2015-05-05 Microsoft Technology Licensing, Llc Recognition of image on external display
US8894484B2 (en) 2012-01-30 2014-11-25 Microsoft Corporation Multiplayer game invitation system
US9280972B2 (en) * 2013-05-10 2016-03-08 Microsoft Technology Licensing, Llc Speech to text conversion

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10962785B2 (en) 2016-12-19 2021-03-30 Samsung Electronics Co., Ltd. Electronic device, mobile electronic device, and display device, which are controlled on basis of user gaze and input
US10366691B2 (en) 2017-07-11 2019-07-30 Samsung Electronics Co., Ltd. System and method for voice command context
WO2024080709A1 (ko) * 2022-10-14 2024-04-18 삼성전자주식회사 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Also Published As

Publication number Publication date
WO2015199288A1 (en) 2015-12-30
US10409324B2 (en) 2019-09-10
US20170199543A1 (en) 2017-07-13

Similar Documents

Publication Publication Date Title
KR20160001465A (ko) 글래스 타입 단말기 및 이의 제어방법
EP3616050B1 (en) Apparatus and method for voice command context
US9503800B2 (en) Glass-type terminal and method of controlling the same
US9563057B2 (en) Eyewear type terminal and control method thereof
US9900498B2 (en) Glass-type terminal and method for controlling the same
US9921073B2 (en) Eyewear-type terminal and method for controlling the same
KR102471916B1 (ko) 모바일 디바이스 및 그 제어 방법
CN110326300B (zh) 信息处理设备、信息处理方法及计算机可读存储介质
US10514755B2 (en) Glasses-type terminal and control method therefor
US11373650B2 (en) Information processing device and information processing method
EP3116202A1 (en) Mobile terminal
JP2017102516A (ja) 表示装置、通信システム、表示装置の制御方法、及び、プログラム
CN108369451B (zh) 信息处理装置、信息处理方法及计算机可读存储介质
EP3985486B1 (en) Glasses-type terminal
CN111415421A (zh) 虚拟物体控制方法、装置、存储介质及增强现实设备
JP6460094B2 (ja) 検出装置、空中像制御装置、検出方法および検出プログラム
JP7031112B1 (ja) 眼鏡型端末
WO2022190406A1 (ja) 端末装置
KR20150041401A (ko) 전자 기기 및 그 제어 방법
JP2005234011A (ja) 集中思考支援装置、システム、方法並びにプログラム

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E601 Decision to refuse application