KR102136463B1 - 스마트 디바이스 및 그 제어 방법 - Google Patents
스마트 디바이스 및 그 제어 방법 Download PDFInfo
- Publication number
- KR102136463B1 KR102136463B1 KR1020180087682A KR20180087682A KR102136463B1 KR 102136463 B1 KR102136463 B1 KR 102136463B1 KR 1020180087682 A KR1020180087682 A KR 1020180087682A KR 20180087682 A KR20180087682 A KR 20180087682A KR 102136463 B1 KR102136463 B1 KR 102136463B1
- Authority
- KR
- South Korea
- Prior art keywords
- smart device
- voice command
- voice
- display
- user
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 230000004044 response Effects 0.000 claims description 19
- 238000012790 confirmation Methods 0.000 claims description 12
- 230000000007 visual effect Effects 0.000 claims description 5
- BALXUFOVQVENIU-GNAZCLTHSA-N Ephedrine hydrochloride Chemical compound Cl.CN[C@@H](C)[C@H](O)C1=CC=CC=C1 BALXUFOVQVENIU-GNAZCLTHSA-N 0.000 claims 1
- 230000036544 posture Effects 0.000 description 30
- 230000008859 change Effects 0.000 description 27
- 238000004891 communication Methods 0.000 description 14
- 230000003287 optical effect Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000010187 selection method Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 241000086550 Dinosauria Species 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000006266 hibernation Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
- G03B21/14—Details
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B21/00—Projectors or projection-type viewers; Accessories therefor
- G03B21/14—Details
- G03B21/145—Housing details, e.g. position adjustments thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
- G06F9/453—Help systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/04—Segmentation; Word boundary detection
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/221—Announcement of recognition results
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/223—Execution procedure of a spoken command
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
- G10L2015/225—Feedback of the input speech
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- General Health & Medical Sciences (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
본 발명은 보이스 커맨드를 획득하고, 상기 보이스 커맨드에 대응되는 다양한 피드백을 출력하는 스마트 디바이스의 제어 방법에 있어서, 사용자에 의해 발화되고 제1 보이스 커맨드를 포함하는 제1 보이스를 수신하는 단계, 상기 제1 보이스 커맨드에 대응되는 제1 컨텐츠를 획득하는 단계, 상기 제1 컨텐츠 중 상기 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력하는 단계, 상기 사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신하는 단계, 상기 제1 오브젝트가 상기 제1 영역에 포함되는 경우, 상기 제1 동작을 수행하는 단계 및 상기 제1 오브젝트가 상기 제1 영역에 포함되지 않는 경우, 제2 동작을 수행하는 단계를 포함하는 스마트 디바이스의 제어 방법에 관한 것이다.
Description
본 발명은 스마트 디바이스 및 그 제어 방법에 관한 것이다. 구체적으로, 보이스 커맨드를 획득하고, 보이스 커맨드에 대응되는 다양한 피드백을 출력하는 스마트 디바이스 및 그 제어 방법에 관한 것이다.
음성 인식 기술의 발전은 사물인터넷(IoT)의 확산에 힘입어, 스마트 홈 분야에서 그 활용성이 크게 증가하고 있다. 그 핵심 기기 중 하나로서, 음성을 매개로 명령을 내리고 대화를 나눌 수도 있는, 인공지능(AI)을 이용하는 스마트 스피커의 이용이 점차 보편화되고 있는 추세이다. 글로벌 시장을 살펴보면, 2014년 아마존이 최초의 음성인식 스피커 에코를 출시한 이후, 구글, 애플 등의 IT 공룡들이 앞다투어 자사 소프트웨어를 탑재한 스피커를 출시하였거나 출시를 결정하였으며, 국내 시장도 치열한 경쟁 양상을 보이고 있다.
이러한 '인공지능 비서' 기능이 탑재된 스마트 스피커는, 일반적으로, 보이스 커맨드를 입력받고, 커맨드에 따른 피드백을 오디오 형태로 출력할 수 있는 스마트 디바이스를 지칭한다. 전통적인 스마트 디바이스의 버튼 내지 터치 인터페이스에 비하여 음성으로 컨트롤이 가능하다는 점에서 사용자 편의성이 증진되었지만, 오디오 형태로 피드백을 제공한다는 한계에 따라, 제공 가능한 정보에 제약이 있고 사용자의 정보 획득이 비효율적이라는 비판이 제기되기도 하였다.
이러한 약점을 극복하기 위하여, 스마트 스피커는 점차 디스플레이가 탑재되고 오디오 형태뿐 아니라 비디오 형태의 피드백을 함께 제공할 수 있는 스마트 디스플레이 형태로 변모하고 있는 추세이다. 이러한 추세에 발맞추어, 증강 현실의 구축에 적극적으로 기여하고, 보다 나은 사용자 경험을 제공하는 개선된 형태의 스마트 디바이스의 개발이 요청되고 있다.
본 발명의 일 과제는 보이스 커맨드를 획득하고 피드백을 수행하는 스마트 디바이스를 제공하는 것이다.
본 발명의 일 과제는 보이스 커맨드를 획득하고 피드백을 수행하는 스마트 디바이스의 제어 방법을 제공하는 것이다.
본 발명의 일 과제는 보이스 인터페이스를 지원하는 스마트 디바이스를 제공하는 것이다.
본 발명의 일 과제는 보이스 커맨드를 획득하고, 보이스 커맨드에 대응되는 사용자 컨텐츠를 제공하는 스마트 디바이스를 제공하는 것이다.
본 발명의 일 양상에 따르면, 보이스 커맨드를 획득하고, 보이스 커맨드에 대응되는 다양한 피드백을 출력하는 스마트 디바이스 - 피드백은 디스플레이-백 및 토크-백을 포함함 -의 제어 방법이 제공될 수 있다.
스마트 디바이스의 제어 방법은 사용자에 의해 발화되고 제1 보이스 커맨드를 포함하는 제1 보이스를 수신하는 단계, 제1 보이스 커맨드에 대응되는 제1 컨텐츠를 획득하는 단계 - 제1 컨텐츠는 복수의 선택 가능한 오브젝트를 포함하고, 복수의 오브젝트에 포함되는 각각의 오브젝트는 각각의 오브젝트에 대응되도록 할당된 식별자를 포함함 -, 제1 컨텐츠 중 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력하는 단계, 사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신하는 단계 - 제2 보이스 커맨드는 복수의 오브젝트에 포함되는 제1 오브젝트에 대응되는 제1 식별자를 포함하고, 제1 오브젝트에 관련되는 제1 동작의 수행을 요청함 -, 제1 오브젝트가 제1 영역에 포함되는 경우, 제1 동작을 수행하는 단계 및 제1 오브젝트가 제1 영역에 포함되지 않는 경우, 사용자에게 제1 오브젝트 및 제1 오브젝트에 대한 제1 동작의 수행에 대한 확인을 요청하는 제2 동작을 수행하는 단계를 포함할 수 있따.
본 발명의 다른 일 양상에 따르면,보이스 커맨드를 획득하고, 보이스 커맨드에 대응되는 다양한 피드백- 피드백은 디스플레이-백 및 토크-백을 포함함 -을 출력하는 스마트 디바이스가 제공될 수 있다.
스마트 디바이스는 보이스 커맨드를 포함하는 보이스를 획득하는 마이크 모듈, 디스플레이-백을 출력하는 영상 출력 모듈, 토크-백을 출력하는 스피커 모듈 및 마이크 모듈을 통하여 사용자에 의해 발화되고 제1 보이스 커맨드를 포함하는 제1 보이스를 수신- 제1 컨텐츠는 복수의 선택 가능한 오브젝트를 포함하고, 복수의 오브젝트에 포함되는 각각의 오브젝트는 각각의 오브젝트에 대응되도록 할당된 식별자를 포함함 -하고, 영상 출력 모듈을 이용하여 제1 보이스 커맨드에 대응되는 제1 컨텐츠 중 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력하고, 마이크 모듈을 이용하여 사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신- 제2 보이스 커맨드는 복수의 오브젝트에 포함되는 제1 오브젝트에 대응되는 제1 식별자를 포함하고, 제1 오브젝트에 관련되는 제1 동작의 수행을 요청함 -하고, 제1 오브젝트가 제1 영역에 포함되는 경우, 제1 동작을 수행하고, 제1 오브젝트가 제1 영역에 포함되지 않는 경우, 사용자에게 제1 오브젝트 및 제1 오브젝트에 대한 제1 동작의 수행에 대한 확인을 요청하는 제2 동작을 수행하는 제어부를 포함할 수 있다.
본 발명의 과제의 해결 수단이 상술한 해결 수단들로 제한되는 것은 아니며, 언급되지 아니한 해결 수단들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명에 의하면 사용자 지향성 피드백을 출력하는 스마트 프로젝터가 제공될 수 있다.
본 발명에 의하면 사용자 위치를 고려하여 디스플레이-백을 출력하는 스마트 프로젝터가 제공될 수 있다.
본 발명에 의하면 사용자 위치를 고려하여 토크-백을 출력하는 스마트 디바이스가 제공될 수 있다.
본 발명의 효과가 상술한 효과들로 제한되는 것은 아니며, 언급되지 아니한 효과들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시예에 따른 스마트 디바이스를 설명하기 위한 블록도를 도시한 것이다.
도 2는 본 발명의 일 실시예에 따른 스마트 디바이스의 상태 변화를 도시한 것이다.
도 3은 본 발명의 일 실시예에 따른 스마트 디스플레이를 도시한 것이다.
도 4는 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 5는 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 6은 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 7은 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 8은 본 발명의 일 실시예에 따른 사용자 컨텐츠를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 사용자 컨텐츠를 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 스마트 디바이스의 표시 화면 제어를 설명하기 위한 도면이다.
도 11은 본 발명의 일 실시예에 따른 스마트 디바이스의 표시 화면 제어를 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 14는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 15는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 16은 본 발명의 일 실시예에 따른 예비 선택을 설명하기 위한 도면이다.
도 17은 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 18은 본 발명의 일 실시예에 따른 스마트 프로젝터의 동작을 설명하기 위한 도면이다.
도 19는 본 발명의 일 실시예에 따른 스마트 프로젝터의 동작을 설명하기 위한 도면이다.
도 20은 본 발명의 일 실시예에 따른 스마트 프로젝터의 동작을 설명하기 위한 도면이다.
도 21은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 순서도이다.
도 22는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 23은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 24는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 25는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 26은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 27은 본 발명의 일 실시예에 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 2는 본 발명의 일 실시예에 따른 스마트 디바이스의 상태 변화를 도시한 것이다.
도 3은 본 발명의 일 실시예에 따른 스마트 디스플레이를 도시한 것이다.
도 4는 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 5는 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 6은 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 7은 본 발명의 일 실시예에 따른 스마트 프로젝터를 도시한 것이다.
도 8은 본 발명의 일 실시예에 따른 사용자 컨텐츠를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 사용자 컨텐츠를 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 스마트 디바이스의 표시 화면 제어를 설명하기 위한 도면이다.
도 11은 본 발명의 일 실시예에 따른 스마트 디바이스의 표시 화면 제어를 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 14는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 15는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 16은 본 발명의 일 실시예에 따른 예비 선택을 설명하기 위한 도면이다.
도 17은 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 18은 본 발명의 일 실시예에 따른 스마트 프로젝터의 동작을 설명하기 위한 도면이다.
도 19는 본 발명의 일 실시예에 따른 스마트 프로젝터의 동작을 설명하기 위한 도면이다.
도 20은 본 발명의 일 실시예에 따른 스마트 프로젝터의 동작을 설명하기 위한 도면이다.
도 21은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 순서도이다.
도 22는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 23은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 24는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 25는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 26은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 27은 본 발명의 일 실시예에 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
본 발명의 상술한 목적, 특징들 및 장점은 첨부된 도면과 관련된 다음의 상세한 설명을 통해 보다 분명해질 것이다. 다만, 본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예들을 가질 수 있는 바, 이하에서는 특정 실시예들을 도면에 예시하고 이를 상세히 설명하고자 한다.
도면들에 있어서, 층 및 영역들의 두께는 명확성을 기하기 위하여 과장된 것이며, 또한, 구성요소(element) 또는 층이 다른 구성요소 또는 층의 "위(on)" 또는 "상(on)"으로 지칭되는 것은 다른 구성요소 또는 층의 바로 위뿐만 아니라 중간에 다른 층 또는 다른 구성요소를 개재한 경우를 모두 포함한다. 명세서 전체에 걸쳐서 동일한 참조번호들은 원칙적으로 동일한 구성요소들을 나타낸다. 또한, 각 실시예의 도면에 나타나는 동일한 사상의 범위 내의 기능이 동일한 구성요소는 동일한 참조부호를 사용하여 설명한다.
본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 본 명세서의 설명 과정에서 이용되는 숫자(예를 들어, 제1, 제2 등)는 하나의 구성요소를 다른 구성요소와 구분하기 위한 식별기호에 불과하다.
또한, 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
1. 스마트 디바이스
1.1 개요
이하에서는 본 발명의 일 실시예에 따른 스마트 디바이스에 관하여 설명한다.
본 발명의 일 실시예에 따른 스마트 디바이스는 사용자로부터 다양한 형태의 커맨드를 입력받고, 이에 대응하여 음성이나 영상 형태의 피드백을 출력함으로써 사용자에게 다양한 정보를 제공할 수 있다. 일 예로, 스마트 디바이스는 마이크 모듈을 통해 사용자의 발화를 수신하는 등에 따라 보이스 커맨드를 획득하고, 토크-백 또는 디스플레이-백과 같은 피드백을 출력함으로써 사용자의 보이스 커맨드에 대하여 응답할 수 있다.
상술한 스마트 디바이스의 일 예로는 스마트 프로젝터를 들 수 있다. 여기서, 스마트 프로젝터는 기존의 스마트 스피커에 프로젝터가 탑재된 형태로 제공되는 디바이스일 수 있다. 이외에도, 스마트 디바이스의 예로는 스마트 스피커, 스마트 프로젝터, 스마트 TV 등이 있을 수 있다. 다만, 본 명세서에서 스마트 디바이스가 상술한 예로 한정되는 것은 아니며, 음성 및/또는 영상의 출력이 가능한 다양한 디바이스가 본 명세서에서 설명하는 스마트 디바이스로서 이용될 수 있음은 물론이다.
1.2 구성
스마트 디바이스는 다양한 기능을 수행하는 모듈을 적어도 하나 포함할 수 있다. 스마트 디바이스는 적어도 하나의 모듈을 이용하여 보이스 커맨드를 포함하는 보이스를 획득하거나, 보이스 커맨드에 대응하는 피드백을 출력할 수 있다. 이하에서는 모듈들의 종류 및 기능에 대하여 설명한다.
스마트 디바이스는 음성 신호를 수신하는 마이크 모듈을 포함할 수 있다. 마이크 모듈은 복수 개의 마이크를 포함할 수 있다.
스마트 디바이스는 토크-백을 출력하는 스피커 모듈을 포함할 수 있다. 스피커 모듈은 복수 개의 스피커를 포함할 수 있다.
스마트 디바이스는 영상 또는 이미지를 출력하는 디스플레이를 포함하는 디스플레이 모듈을 포함할 수 있다. 디스플레이 모듈은 터치 센서를 포함할 수 있다.
디스플레이 모듈은 광을 출사하는 프로젝터 모듈일 수 있다. 프로젝터 모듈은 초단초점(ultra short throw) 프로젝터 모듈일 수 있다. 이하에서, 프로젝터 모듈을 포함하는 스마트 디바이스를 스마트 프로젝터로 정의한다.
스마트 디바이스는 스마트 디바이스는 광을 수집하는 광학 센서 모듈을 포함할 수 있다. 스마트 디바이스는 광학 센서 모듈을 이용하여 3차원 공간 정보를 획득할 수 있다. 스마트 디바이스는 광학 센서 모듈을 이용하여 사용자 행동 정보(예컨대, 시선 정보)를 획득할 수 있다.
광학 센서 모듈은 영상 또는 이미지를 획득하는 카메라 모듈일 수 있다. 카메라 모듈은 적외선 카메라 모듈 또는 가시광 카메라 모듈일 수 있다.
광학 센서 모듈은 깊이 센서(depth sensor) 모듈일 수 있다. 깊이 센서 모듈은 TOF(time of flight)를 이용하여 물체의 깊이 정보를 제공할 수 있다.
스마트 디바이스는 통신부를 포함할 수 있다. 스마트 디바이스는 통신부를 이용하여 서버와 통신할 수 있다. 스마트 디바이스는 통신부를 이용하여 외부 장치와 통신할 수 있다.
통신부는 외부 장치와 무선 통신을 수행할 수 있다. 예를 들어, 통신부는 와이파이(WiFi), 블루투스(Bluetooth)등의 무선 통신을 수행할 수 있다.
통신부는 유선 통신을 수행할 수 있다. 예를 들어, 통신부는 USB, 이더넷(ethernet) 등의 유선 통신을 수행할 수 있다.
스마트 디바이스는 제어부를 포함할 수 있다. 제어부는 스마트 디바이스에 포함되는 모듈들을 제어할 수 있다.
도 1은 본 발명의 일 실시예에 따른 스마트 디바이스(1000)를 설명하기 위한 블록도를 도시한 것이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(1000)는 마이크 모듈(1010), 카메라 모듈(1030), 스피커 모듈(1050), 디스플레이 모듈(1070), 제어부(1090) 및 통신부(1110)를 포함할 수 있다.
스마트 디바이스(1000)는 마이크 모듈(1010)을 이용하여 보이스(Input 1)을 획득할 수 있다. 스마트 디바이스(1000)는 카메라 모듈(1030)을 이용하여 이미지, 영상 또는 깊이 정보를 획득(Input 2)할 수 있다. 스마트 디바이스(1000) 스피커 모듈(1050)을 이용하여 오디오를 출력(Output 1)할 수 있다. 스마트 디바이스는 디스플레이 모듈(1070)을 이용하여 이미지 또는 영상을 출력(Output 2)할 수 있다.
스마트 디바이스는 제어부(1090)를 이용하여 각 모듈들을 제어할 수 있다. 스마트 디바이스는 제어부(1090)를 이용하여 각 모듈들로부터 획득한 정보를 처리할 수 있다.
스마트 디바이스는 통신부(1110)를 이용하여 외부 장치(2000)와 통신할 수 있다. 스마트 디바이스는 통신부(1110)를 이용하여 획득한 정보를 외부 장치(2000)로 전송할 수 있다. 외부 장치(2000)는 별도로 마련된 서버 장치일 수 있다.
한편, 도 1에서는 스마트 디바이스가 디스플레이 모듈을 포함하는 경우를 기준으로 설명하였으나, 스마트 디바이스는 프로젝터 모듈을 구비하는 스마트 프로젝터로 구현될 수 있다.
1.3 커맨드 & 피드백
스마트 디바이스는 상술한 모듈들을 이용하여 사용자로부터 커맨드를 입력받을 수 있다. 스마트 디바이스는 사용자 커맨드를 포함하는 신호를 획득할 수 있다. 또한 스마트 디바이스는 사용자 커맨드에 따른 신호(이하, 피드백)를 출력할 수 있다.
이하에서는, 스마트 디바이스가 획득하는 커맨드 및 스마트 디바이스가 출력하는 피드백에 대하여 설명한다.
1.3.1 커맨드
스마트 디바이스는 커맨드 또는 커맨드를 포함하는 신호를 획득할 수 있다. 대표적으로, 스마트 디바이스는 보이스 커맨드 또는 보이스 커맨드를 포함하는 보이스(또는 음성 신호)를 획득할 수 있다. 이외에도, 커맨드는 보이스 커맨드, 터치 커맨드 및 제스처 커맨드 등을 포함할 수 있다. 커맨드는 디바이스에 특정 또는 임의의 응답을 요청하는 사용자 행위로 정의될 수 있다.
스마트 디바이스는 사용자로부터 커맨드를 획득하기 위한 인터페이스를 제공할 수 있다. 인터페이스는 보이스 커맨드를 획득하기 위한 보이스 인터페이스, 터치 커맨드를 획득하기 위한 터치 인터페이스, 제스처 커맨드를 획득하기 위한 제스처 인터페이스를 포함할 수 있다.
스마트 디바이스는 보이스를 획득할 수 있다. 스마트 디바이스는 마이크 모듈을 이용하여 보이스를 획득할 수 있다. 스마트 디바이스는 사용자로부터 발화된 보이스를 획득할 수 있다. 스마트 디바이스는 마이크 모듈을 이용하여 보이스 커맨드를 포함하는 보이스를 획득할 수 있다.
스마트 디바이스는 획득한 보이스 커맨드 및/또는 보이스 커맨드를 포함하는 신호를 외부 장치로 전달할 수 있다. 스마트 디바이스는 보이스 커맨드 및/또는 보이스 커맨드를 포함하는 보이스를, 보이스 커맨드에 의해 요청되는 정보를 제공하는 외부 장치로 전달할 수 있다. 스마트 디바이스는 보이스 커맨드 데이터를 외부 장치로 전송할 수 있다. 외부 장치는 적어도 하나의 디바이스와 통신하는 서버 장치일 수 있다.
스마트 디바이스는 터치 커맨드를 포함하는 터치 이벤트를 획득할 수 있다. 스마트 디바이스는 터치 센서를 이용하여 디스플레이에 발생하는 터치 이벤트를 획득할 수 있다.
스마트 디바이스는 제스처 커맨드를 포함하는 제스처 이벤트를 획득할 수 있다. 스마트 디바이스는 광학 센서 모듈 및/또는 카메라 모듈을 이용하여 제스처 이벤트를 획득할 수 있다.
이하에서는, 상술한 커맨드는 보이스 커맨드인 경우를 기준으로 설명한다. 다만, 본 명세서에서 설명하는 보이스 커맨드에 대한 내용은 터치 커맨드 또는 제스처 커맨드에 유사하게 적용될 수 있다.
1.3.2 피드백
스마트 디바이스는 상술한 보이스 커맨드에 대응하는 정보를 포함하는 피드백 데이터를 획득하고, 음성 또는 영상으로 피드백을 출력할 수 있다.
피드백은 디바이스가 커맨드를 획득하는 것에 응답하여 출력되는 커맨드에 대응하는 정보를 포함하는 신호로 이해될 수 있다. 커맨드에 대응하는 정보는 요청되는 정보는 멀티미디어 컨텐츠를 포함할 수 있다.
스마트 디바이스는 커맨드에 대응하는 피드백 데이터를 획득할 수 있다. 스마트 디바이스는 보이스 커맨드 및/또는 보이스 커맨드를 포함하는 보이스를 획득하고, 커맨드에 대응하는 피드백 데이터를 획득할 수 있다.
스마트 디바이스는 외부 장치로부터 보이스 커맨드에 대응하는 피드백 데이터를 획득할 수 있다. 스마트 디바이스는 외부 장치로 보이스 커맨드 데이터를 전송하는 것에 응답하여 피드백 데이터를 획득할 수 있다.
스마트 디바이스는 피드백을 출력할 수 있다. 피드백은 음성 또는 음향으로 제공되는 보이스 피드백(이하, 보이스-백 또는 토크-백) 또는 영상 또는 이미지로 제공되는 디스플레이 피드백(이하, 디스플레이-백)을 포함할 수 있다.
스마트 디바이스는 토크-백을 출력할 수 있다. 스마트 디바이스는 보이스 커맨드 및/또는 보이스 커맨드를 포함하는 보이스를 획득하고, 토크-백을 출력할 수 있다. 스마트 디바이스는 보이스 커맨드에 의해 요청되는 정보를 포함하는 토크-백을 출력할 수 있다. 스마트 디바이스는 스피커 모듈을 이용하여 토크-백을 출력할 수 있다. 토크-백은 음악, 라디오 등의 오디오 컨텐츠를 포함할 수 있다.
스마트 디바이스는 디스플레이-백을 출력할 수 있다. 스마트 디바이스는 보이스 커맨드 및/또는 보이스 커맨드를 포함하는 보이스를 획득하고, 디스플레이-백을 출력할 수 있다. 스마트 디바이스는 보이스 커맨드에 의해 요청되는 정보를 포함하는 디스플레이-백을 출력할 수 있다. 스마트 디바이스는 디스플레이 모듈 또는 프로젝터 모듈을 이용하여 디스플레이-백을 출력할 수 있다. 디스플레이-백은 TV 프로그램, Youtube, 영화 등의 비디오 컨텐츠를 포함할 수 있다.
1.4 디바이스의 상태
스마트 디바이스는 여러 구동 상태를 가질 수 있다. 스마트 디바이스의 데이터 처리 양태는 스마트 디바이스의 상태에 따라 변경될 수 있다.
1.4.1 오프 상태
스마트 디바이스는 오프 상태일 수 있다. 오프 상태에서, 스마트 디바이스는 전력 소모를 최소화할 수 있다. 오프 상태에서, 스마트 디바이스는 전력을 소모하지 않을 수 있다. 오프 상태에서, 스마트 디바이스는 신호를 수집 또는 출력하지 않을 수 있다. 오프 상태에서, 스마트 디바이스는 휴면(hibernation) 상태일 수 있다.
1.4.2 스탠바이 상태
스마트 디바이스는 스탠바이 상태를 가질 수 있다. 스탠바이 상태에서, 스마트 디바이스는 신호를 획득 또는 출력할 수 있다.
스탠바이 상태에서, 스마트 디바이스는 커맨드 발생을 예고하는 예비 커맨드를 포함하는 신호를 획득할 수 있다. 예비 커맨드 또는 예비 커맨드를 포함하는 신호는 미리 정해지고, 스마트 디바이스에 미리 저장될 수 있다.
스마트 디바이스는 예비 커맨드를 포함하는 보이스를 획득할 수 있다. 보이스에 포함된 예비 커맨드는 핫-워드 또는 웨이크업-워드의 형태로 구현될 수 있다. 다시 말해, 예비 커맨드는 특정 단어를 포함하는 커맨드로 미리 결정될 수 있다.
스마트 디바이스는 예비 커맨드를 포함하는 터치 이벤트 또는 제스처 이벤트를 획득할 수 있다. 터치 이벤트에 포함된 예비 커맨드는 임의의 터치 이벤트 또는 특정 영역에 대한 터치 이벤트일 수 있다. 제스처 이벤트에 포함된 예비 커맨드는 특정 시퀀스에 따른 웨이크업 제스처일 수 있다.
1.4.3 리스닝 상태
스마트 디바이스는 리스닝 상태를 가질 수 있다. 리스닝 상태에서, 스마트 디바이스는 보이스 커맨드를 포함하는 신호를 획득할 수 있다. 스마트 디바이스는 전술한 예비 커맨드(예를 들어, 핫-워드)를 포함하는 신호를 획득하고, 리스닝 상태로 변경될 수 있다. 리스닝 상태는 예비 커맨드를 포함하는 신호에 의하여 트리거될 수 있다.
리스닝 상태에서, 스마트 디바이스는 리스닝 윈도우를 오픈할 수 있다. 스마트 디바이스는핫-워드를 획득하고, 리스닝 윈도우를 오픈할 수 있다.
스마트 디바이스는 리스닝 윈도우를 오픈하고, 보이스 커맨드를 포함하는 보이스를 수집할 수 있다. 스마트 디바이스는 리스닝 윈도우를 미리 정해진 시간 간격 동안 오픈할 수 있다. 미리 정해진 시간 간격은 변경될 수 있다.
스마트 디바이스는 리스닝 윈도우를 폐쇄할 수 있다. 스마트 디바이스는 리스닝 윈도우를 폐쇄하고 보이스의 수집을 중단할 수 있다. 스마트 디바이스는 리스닝 윈도우를 폐쇄하고, 수집된 보이스를 외부 장치로 전송할 수 있다. 스마트 디바이스는 리스닝 윈도우가 오픈된 상태에서 수집된 보이스를 외부 장치로 전송할 수도 있다.
리스닝 상태에서, 스마트 디바이스는 예비 커맨드를 획득할 수 있다. 스마트 디바이스는 예비 커맨드를 획득하고, 리스닝 상태로 재진입할 수 있다. 스마트 디바이스는 리스닝 상태에서 예비 커맨드를 획득하고, 리스닝 윈도우를 재오픈 또는 초기화할 수 있다.
1.4.4 피드백 상태
스마트 디바이스는 피드백 상태를 가질 수 있다. 피드백 상태에서, 스마트 디바이스는 보이스 커맨드에 대응하는 피드백을 출력할 수 있다. 스마트 디바이스는 보이스 커맨드를 획득하고, 피드백 상태로 변경될 수 있다.
피드백 상태에서, 스마트 디바이스는 보이스 커맨드에 대응하는 피드백 데이터를 획득할 수 있다. 스마트 디바이스는 보이스 및/또는 보이스 커맨드를 외부 장치로 전송하는 것에 응답하여 보이스 커맨드에 대응하는 피드백 데이터를 획득할 수 있다. 피드백 데이터는 토크-백 데이터 또는 디스플레이-백 데이터일 수 있다.
피드백 상태에서, 스마트 디바이스는 피드백 데이터에 기초하여 피드백을 출력할 수 있다. 피드백 상태에서, 스마트 디바이스는 보이스 커맨드에 대응하는 토크-백 또는 디스플레이-백을 출력할 수 있다. 스마트 디바이스는 보이스 커맨드에 의해 요청되는 정보를 포함하는 토크-백 또는 디스플레이-백을 출력할 수 있다. 피드백 상태에서, 스마트 디바이스는 토크-백과 디스플레이-백을 함께 또는 순차로 출력할 수도 있다.
피드백 상태에서, 스마트 디바이스는 핫-워드를 획득할 수 있다. 스마트 디바이스는 피드백 상태에서 핫-워드를 획득하고, 리스닝 상태로 변경될 수 있다.
1.5 동작
스마트 디바이스는 다양한 동작을 수행할 수 있다. 스마트 디바이스는 상술한 상태의 변화를 수반하는 다양한 동작을 수행할 수 있다. 이하에서는, 스마트 디바이스의 기본 동작 프로세스 및 부가적인 동작들에 대하여 몇몇 실시예를 들어 설명한다.
1.5.1 기본 프로세스 : 피드백 동작
본 발명의 일 실시예에 따르면, 스마트 디바이스는 핫-워드를 획득한 후, 보이스 커맨드를 획득하고, 피드백을 출력할 수 있다.
도 2는 본 발명의 일 실시예에 따른 스마트 디바이스의 상태 변화를 도시한 것이다. 이하에서는 도 2를 참조하여, 본 발명의 일 실시예에 따른 스마트 디바이스의 동작을 설명한다.
스마트 디바이스는 오프 상태에서 스탠바이 상태로 변경될 수 있다. 스마트 디바이스는 사용자 조작에 따라 오프 상태에서 스탠바이 상태로 변경될 수 있다.
스마트 디바이스는 스탠바이 상태에서 리스닝 상태로 변경될 수 있다. 스마트 디바이스는 스탠바이 상태에서 리스닝 윈도우를 오픈하고, 핫-워드를 포함하는 보이스를 획득하고, 리스닝 상태로 변경될 수 있다.
스마트 디바이스는 리스닝 상태에서 피드백 상태로 변경될 수 있다. 스마트 디바이스는 리스닝 상태에서 사용자로부터 발화되고 보이스 커맨드를 포함하는 보이스를 획득하고, 피드백 상태로 변경될 수 있다.
스마트 디바이스는 피드백의 출력이 완료되면, 스탠바이 상태로 변경될 수 있다. 경우에 따라, 스마트 디바이스는 피드백의 출력이 완료되면 커맨드 상태로 변경될 수 있다. 피드백의 종류에 따라, 스마트 디바이스는 피드백 출력 후 커맨드 상태로 변경될 수 있다. 예컨대, 출력되는 피드백이 사용자 커맨드를 요청하는 경우, 스마트 디바이스는 피드백을 출력한 후, 커맨드 상태로 변경될 수 있다.
스마트 디바이스는 피드백 상태에서 리스닝 상태로 변경될 수 있다. 피드백 상태에서, 스마트 디바이스는 피드백의 출력 중에 예비 커맨드, 예컨대 핫-워드를 획득할 수 있다. 스마트 디바이스는 피드백 출력 중 예비 커맨드를 획득하고, 리스닝 상태로 변경될 수 있다.
스마트 디바이스는 스탠바이 상태 또는 리스닝 상태에서 오프 상태로 변경될 수도 있다. 스마트 디바이스는 미리 정해신 시간 내에 핫-워드가 획득되지 아니하면 스탠바이 상태 또는 리스닝 상태에서 오프 상태로 변경될 수 있다.
1.5.2 사용자 위치 수집 동작
스마트 디바이스는 사용자 위치 정보를 획득하고, 저장할 수 있다. 스마트 디바이스는 사용자 위치와 관련된 기초 정보를 획득하고, 외부 장치로 전달할 수 있다. 사용자 위치 정보는 복수 사용자의 위치 정보를 포함할 수 있다.
사용자 위치 정보는 사용자의 스마트 디바이스로부터의 거리 정보를 포함할 수 있다. 사용자 위치 정보는 사용자의 스마트 디바이스의 기준 방향으로부터의 각변위 정보를 포함할 수 있다.
스마트 디바이스는 오프 상태에서 스탠바이 상태로 변경되면 사용자 위치 정보를 획득할 수 있다. 스마트 디바이스는 사용자 보이스가 획득되면 사용자 위치 정보를 획득할 수 있다.
스마트 디바이스는 전술한 광학 센서 모듈을 이용하여 사용자 위치 정보를 수집할 수 있다. 스마트 디바이스는 광학 센서 모듈을 이용하여 획득된 공간 정보에 기초하여 사용자 위치 정보를 획득할 수 있다.
스마트 디바이스는 전술한 마이크 모듈을 이용하여 사용자 위치 정보를 수집할 수 있다. 스마트 디바이스는 복수의 마이크를 이용하여 사용자로부터 발화된 보이스를 획득하고, 보이스가 발화되는 방향을 고려하여 사용자 위치 정보를 수집할 수 있다.
스마트 디바이스는 획득한 위치 정보를 저장할 수 있다. 스마트 디바이스는 획득한 위치 정보를 룩업테이블(look-up table) 형태로 저장할 수 있다. 스마트 디바이스는 획득한 위치 정보를 외부 장치(예컨대, 서버 장치)로 전달할 수 있다.
스마트 디바이스는 스탠바이 상태, 리스닝 상태 또는 피드백 상태에서 사용자 위치 정보를 획득할 수 있다. 스마트 디바이스는 사용자 위치 정보를 주기적으로 획득할 수 있다.
스마트 디바이스는 사용자 위치 정보를 고려하여 피드백을 출력할 수 있다. 스마트 디바이스는 사용자 위치 정보를 고려하여 토크-백의 출력 방향을 결정할 수 있다. 스마트 디바이스는 사용자 위치 정보를 고려하여 디스플레이-백의 출력 위치 및/또는 방향을 결정할 수 있다. 이와 관련하여, 후술하는 사용자 지향 피드백 목차에서 보다 상세하게 설명하기로 한다.
1.6 디바이스 형태
상술한 스마트 디바이스는 다양한 형태로 구현될 수 있다. 이하에서는, 스마트 디바이스의 형태에 대하여 몇몇 실시예를 들어 설명한다.
1.6.1 제1 타입 : display type
본 발명의 일 실시예에 따르면, 스마트 디바이스는 터치 인터페이스를 제공하는 디스플레이가 탑재된 스마트 디스플레이의 형태로 제공될 수 있다. 스마트 디스플레이는 보이스 커맨드를 획득하고 토크-백 또는 디스플레이-백을 출력할 수 있다.
도 3은 본 발명의 일 실시예에 따른 스마트 디스플레이(100a)를 도시한 것이다. 도 3을 참조하면, 스마트 디스플레이(100a)는 마이크(102a), 스피커(106a) 및 디스플레이(108a)를 포함할 수 있다. 또한, 스마트 디스플레이(100a)는 카메라(104a)를 선택적으로 포함할 수 있다.
스마트 디스플레이(100a)는 마이크(102a)를 이용하여 보이스 커맨드를 획득하고, 스피커(106a)를 이용하여 토크-백을 출력하거나 디스플레이(108a)를 통하여 디스플레이-백을 출력할 수 있다.
1.6.2 제2 타입 : wall type
본 발명의 일 실시예에 따르면, 스마트 디바이스는 프로젝터 모듈이 탑재된 스마트 프로젝터의 일 예로서, 상방으로 광을 출사하는 스마트 프로젝터의 형태로 제공될 수 있다.
도 4는 본 발명의 일 실시예에 따른 스마트 프로젝터(100b)를 도시한 것이다. 도 4를 참조하면, 본 발명의 일 실시예에 따른 스마트 프로젝터(100b)는 마이크(102b) 및 스피커(106b)를 포함할 수 있다. 도시하지는 아니하였으나, 스마트 프로젝터(100b)는 카메라를 포함할 수도 있다.
도 4를 참조하면, 본 발명의 일 실시예에 따른 스마트 프로젝터는 상방으로 광을 출사할 수 있다. 스마트 프로젝터는 임의의 벽면에 영상 또는 이미지를 투사할 수 있다. 스마트 프로젝터가 영상 또는 이미지를 투영하는 투영 영역(10a)은 변경될 수 있다. 투영 영역(10a)의 크기 또는 위치는 변경될 수 있다.
영상이 투영되는 방향은 그 시청이 용이하도록 결정될 수 있다. 영상이 투영되는 방향은 스마트 프로젝터가 영상을 투영하는 방향의 반대 방향에서 시청이 용이하도록 결정될 수 있다. 본 실시예에서, 스마트 스피커는 영상의 하측이 벽면의 하측에 위치하도록 투사할 수 있다. 다시 말해, 스마트 스피커는 영상이 벽면에 정립 방향으로 투영되도록 투사할 수 있다.
또한, 도시하지는 아니하였으나 스마트 프로젝터(100b)는 센서부를 더 포함하고, 투영 영역에 발생하는 제스처 이벤트 또는 터치 이벤트를 감지할 수 있다.
1.6.3 제3 타입 : table type
본 발명의 일 실시예에 따르면, 스마트 디바이스는 전술한 스마트 프로젝터의 일 예로서, 하방으로 광을 출사하는 스마트 프로젝터의 형태로 제공될 수 있다.
도 5는 본 발명의 일 실시예에 따른 스마트 프로젝터(100c)를 도시한 것이다. 도 5를 참조하면, 본 발명의 일 실시예에 따른 스마트 프로젝터(100c)는 마이크(102c) 및 스피커(106c)를 포함할 수 있다. 스마트 프로젝터(100c)는 카메라 또는 센서부를 더 포함할 수 있다.
도 5를 참조하면, 본 발명의 일 실시예에 따른 스마트 프로젝터(100c)는 하방으로 광을 출사할 수 있다. 스마트 프로젝터(100c)는 스마트 프로젝터(100c)가 위치된 바닥 또는 테이블 상에 영상 또는 이미지를 투사할 수 있다.
투영 영역(10b)의 크기 또는 위치는 변경될 수 있다. 영상이 투영되는 방향은 스마트 프로젝터가 영상을 투영하는 방향에서 시청이 용이하도록 결정될 수 있다. 본 실시예에서, 스마트 스피커는 영상의 하측이 테이블의 외측(즉, 장치로부터 먼 위치)에 투영되도록 투사할 수 있다.
1.6.4 제4 타입 : manually rotatable(rolling) type
본 발명의 일 실시예에 따르면, 전술한 스마트 프로젝터는 복수의 자세를 가질 수 있다. 스마트 프로젝터는 제1 자세 또는 제2 자세로 동작할 수 있다. 스마트 프로젝터는 자세 변경에 따라 상방 또는 하방으로 광을 출사할 수 있다.
도 6은 본 발명의 일 실시예에 따른 스마트 프로젝터(100d)를 도시한 것이다. 도 6을 참조하면, 본 발명의 일 실시예에 따른 스마트 프로젝터(100d)는 제1 면을 상면으로 하는 제1 자세(도 6의 a) 및 제1 면과 다른 제2 면을 상면으로 하는 제2 자세(도 6의 b)로 동작할 수 있다. 이하에서는, 도 6을 참조하여 스마트 프로젝터(100d)의 자세에 따른 동작에 대하여 설명한다.
도 6을 참조하면, 스마트 프로젝터(100d)는 마이크(102d) 및 스피커(106d)를 포함할 수 있다. 스마트 프로젝터(100d)는 센서부 또는 카메라를 선택적으로 포함할 수 있다
도 6의 (a)를 참조하면, 스마트 프로젝터(100d)가 제1 자세(예를 들어, 벽 투영 자세)일 때, 스마트 프로젝터(100d)는 벽을 향하여 광을 상방 출사할 수 있다. 스마트 프로젝터(100d)가 제1 자세일 때, 스마트 프로젝터(100d)는 전술한 제2 타입 스마트 프로젝터(100b)와 유사하게 동작할 수 있다.
도 6의 (b)를 참조하면, 스마트 프로젝터(100d)가 제2 자세(예를 들어, 테이블 투영 자세)일 때, 스마트 프로젝터(100d)는 바닥 또는 테이블을 향하여 광을 하방 출사할 수 있다. 스마트 프로젝터(100d)가 제2 자세일 때, 스마트 프로젝터(100d)는 전술한 제3 타입 프로젝터(100c)와 유사하게 동작할 수 있다.
스마트 프로젝터(100d)의 자세는 변경될 수 있다. 스마트 프로젝터(100d)의 자세는 수동으로 변경될 수 있다. 스마트 프로젝터(100d)의 자세는 구동부에 의하여 자동으로 변경될 수 있다.
스마트 프로젝터(100d)의 자세가 변경되면, 스마트 프로젝터(100d)에 포함된 모듈들 중 적어도 하나의 모듈의 동작이 변경될 수 있다. 스마트 프로젝터(100d)의 자세가 변경되면, 스마트 프로젝터(100d)에 포함된 스피커 모듈, 마이크 모듈, 센서 모듈 중 어느 하나의 동작이 변경될 수 있다. 일 예로, 스마트 프로젝터(100d)가 제1 자세에서 제2 자세로 변경되면, 오디오를 출력하는 스피커(106d)가 변경될 수 있다.
다른 예로, 스마트 프로젝터(100d)의 자세가 변경되면, 스마트 프로젝터(100d)가 광을 투사하는 방향이 변경될 수 있다. 스마트 프로젝터(100d)의 자세가 변경되면, 스마트 프로젝터(100d)로부터 투사되는 영상(10c)의 투영 방향이 변경될 수 있다. 구체적으로, 스마트 프로젝터(100d)는 제1 자세에서 영상의 하단이 스마트 프로젝터(100d)와 가깝도록 영상을 투사하고, 제2 자세에서 영상의 하단이 스마트 프로젝터(100d)와 멀리 위치하도록 영상을 투사할 수 있다.
이상에서는 스마트 프로젝터(100d)가 제1 자세 및 제2 자세를 가지고, 제1 자세 및 제2 자세 사이에서 선택적으로 자세가 변경되는 경우를 기준으로 설명하였으나, 본 명세서에서 개시하는 발명이 이에 한정되는 것은 아니다. 스마트 프로젝터(100d)는 셋 이상의 자세를 가지고 필요에 따라 자세가 선택적으로 변경되도록 구현될 수 있다.
1.6.5 제5 타입 : rotatable
본 발명의 일 실시예에 따르면, 스마트 디바이스는 전술한 스마트 프로젝터의 일 예로서, 광의 투사 방향이 회전 가능한 스마트 프로젝터의 형태로 제공될 수 있다. 스마트 프로젝터(100e)는 벽면 및/또는 테이블 상에 영상을 투사하고, 영상의 투사 방향이 회전 가능하도록 마련될 수 있다.
도 7은 본 발명의 일 실시예에 따른 스마트 프로젝터(100e)를 도시한 것이다. 도 7을 참조하면, 스마트 프로젝터는 영상의 투영 방향이 회전 가능하도록 구현될 수 있다. 영상이 투사되는 방향은 스마트 프로젝터의 회전축을 중심으로 회전할 수 있다.
도 7을 참조하면, 스마트 프로젝터(100e)는 마이크(102e) 및 스피커(106e)를 포함할 수 있다. 스마트 프로젝터(100e)는 센서부 또는 카메라를 선택적으로 포함할 수 있다.
도 7의 (a)를 참조하면, 스마트 프로젝터(100e)는 하방으로 광을 출사하고, 광의 투사 방향이 회전 가능하도록 마련될 수 있다. 스마트 프로젝터(100e)는 테이블 상에 위치하고, 테이블 상면에 영상을 투영할 수 있다. 스마트 프로젝터(100e)는 테이블 상에서 영상을 투사하는 방향을 회전시킬 수 있다. 예를 들어, 스마트 프로젝터(100e)는 투영 영역이 제1 위치(10d)에서 제2 위치(10d')로 변경되도록 영상의 투사 방향을 회전시킬 수 있다.
도 7의 (b)를 참조하면, 스마트 프로젝터(100e)는 상방으로 광을 출사하고, 광의 투사 방향을 회전시킬 수 있다. 스마트 프로젝터(100e)는 벽면으로 영상을 투영할 수 있다. 스마트 프로젝터(100e)는 영상을 투사하는 방향을 회전시킬 수 있다. 스마트 프로젝터(100e)는 영상이 투영되는 벽면이 변경되도록 영상을 투사하는 방향을 회전시킬 수 있다. 예를 들어, 스마트 프로젝터(100e)는 투영 영역이 제3 위치(10e)에서 제4 위치(10e')로 변경되도록 영상의 투사 방향을 회전시킬 수 있다.
스마트 프로젝터(100e)는 벽 투영 모드(제1 모드) 및/또는 바닥 투영 모드(제2 모드)를 포함하는 복수의 모드 중 선택된 어느 하나의 모드로 동작할 수 있다.
2. 보이스 인터페이스
2.1 개요
본 발명의 일 실시예에 따르면, 스마트 디바이스는 사용자로부터 보이스 커맨드를 획득하기 위한 보이스 인터페이스를 제공할 수 있다. 스마트 디바이스는 사용자의 보이스 커맨드에 응답하여 다양한 동작을 수행함으로써 사용자에게 음성 제어 환경을 제공할 수 있다.
이하에서는, 보이스 인터페이스를 제공하는 스마트 디바이스 및 그 제어 방법의 몇몇 실시예에 대하여 설명한다. 이하의 실시 예들에서, 스마트 디바이스는 영상을 표시하는 디스플레이가 탑재된 스마트 디스플레이 또는 영상을 출력하는 빔 프로젝터가 탑재된 스마트 프로젝터일 수 있다.
2.2 프로세스
스마트 디바이스는 보이스 인터페이스를 제공하고, 보이스 인터페이스를 통하여 보이스 커맨드를 포함하는 보이스를 획득하고, 보이스 커맨드에 대응하는 정보를 출력할 수 있다. 스마트 디바이스는 사용자에게 보이스 인터페이스(또는 음성 제어 환경)를 제공하여, 사용자의 보이스에 포함된 보이스 커맨드에 대응하는 정보를 다양한 형태로 출력할 수 있다.
스마트 디바이스는 보이스 인터페이스를 통하여 보이스 커맨드를 획득하고, 보이스 커맨드에 대응하는 정보가 음성(예컨대, 토크-백)으로 출력되도록 하는 보이스 인터페이스를 제공할 수 있다.
스마트 디바이스는 보이스 인터페이스를 통하여 보이스 커맨드를 획득하고, 보이스 커맨드에 대응하는 정보가 영상(예컨대, 디스플레이-백)으로 출력되도록 하는 보이스 인터페이스를 제공할 수 있다. 특히, 영상을 출력하는 스마트 디스플레이 또는 스마트 프로젝터의 경우, 스마트 디바이스는 보이스 커맨드에 대응하는 정보를 디스플레이-백을 통하여 출력할 수 있다.
2.3 컨텐츠
스마트 디바이스는 보이스 인터페이스를 지원하는 사용자 컨텐츠를 제공할 수 있다. 스마트 디바이스는 보이스 인터페이스를 지원하는 사용자 컨텐츠를 제공하고, 사용자 컨텐츠에 관한 사용자의 보이스 커맨드를 획득하고, 보이스 커맨드에 따른 동작을 수행할 수 있다.
스마트 디바이스는 사용자 컨텐츠를 시각 또는 청각적으로 사용자에게 제공할 수 있다. 사용자 컨텐츠는 오디오 컨텐츠 또는 비디오 컨텐츠로 마련될 수 있다. 사용자 컨텐츠는 멀티미디어 컨텐츠를 포함할 수 있다.
스마트 디바이스는 사용자 컨텐츠를 표시 영역에 표시할 수 있다. 스마트 디바이스는 디스플레이 또는 프로젝터 모듈을 이용하여 시각 정보를 포함하는 사용자 컨텐츠를 출력할 수 있다. 다시 말해, 사용자 컨텐츠가 표시되는 표시 영역은 디스플레이 화면 또는 투영 영역상에 마련될 수 있다. 본 명세서에서는, 별다른 언급이 없는 한 사용자 컨텐츠는 시각 정보를 포함하여 제공되는 경우를 기준으로 설명한다.
사용자 컨텐츠는 보이스 커맨드에 의해 요청되는 정보를 포함할 수 있다. 사용자 컨텐츠는 사용자의 보이스 커맨드에 의해 선택될 수 있는 복수의 오브젝트(또는 아이템)을 포함할 수 있다. 사용자 컨텐츠는 복수의 오브젝트가 나열된 리스트를 포함할 수 있다.
사용자 컨텐츠는 별도의 서버에 저장되고, 사용자의 보이스 커맨드에 의해 요청되어 스마트 디바이스에서 제공될 수 있다. 사용자 컨텐츠는 별도의 사업자에 의해 제공될 수 있다.
사용자 컨텐츠에 포함되는 복수의 오브젝트는 각각 대응되는 식별자가 할당되어 마련될 수 있다. 각각의 오브젝트에 할당된 식별자는 서수일 수 있다. 스마트 디바이스는 사용자 컨텐츠에 포함되는 복수의 오브젝트를 표시할 수 있다. 스마트 디바이스는 각각의 오브젝트를 할당된 식별자와 함께 표시할 수 있다.
사용자 컨텐츠는 적어도 일부 스크롤 가능한 형태로 제공될 수 있다. 사용자 컨텐츠는 사용자 커맨드에 따라 적어도 일 방향으로 스크롤될 수 있다.
복수의 오브젝트에 포함되는 각각의 오브젝트에는 연결 동작이 지정될 수 있다. 스마트 디바이스는 어느 오브젝트를 선택하는 보이스 커맨드를 획득하고, 해당 오브젝트에 대응되는 연결 동작을 수행할 수 있다.
각각의 오브젝트는 대응되는 연결 동작에 대한 시각 정보를 포함할 수 있다. 예컨대, 각각의 오브젝트는 연결된 영상의 썸네일, 아이콘 등을 포함할 수 있다. 각각의 오브젝트는 상품의 이미지, 가격, 제원 정보 등을 포함할 수 있다.
각각의 오브젝트는 미디어 컨텐츠와 연결된 미디어 오브젝트일 수 있다. 예컨대, 각각의 오브젝트는 뮤직비디오, TV 프로그램, 음악 등을 나타내는 음악, 영상 등의 명칭, 대표 이미지 등을 포함하는 미디어 오브젝트일 수 있다. 미디어 오브젝트는 각각의 미디어 컨텐츠가 재생되는 링크를 포함할 수 있다. 이때, 연결 동작은 선택된 음악, 영상 등의 재생, 선택된 음악, 영상 등의 재생 목록에의 추가, 음악, 영상 등의 연관 목록 생성 등으로 구현될 수 있다.
각각의 오브젝트는 판매 물품에 대한 상품 오브젝트일 수 있다. 예컨대, 사용자 컨텐츠는 쇼핑 페이지를 제공하고, 각각의 오브젝트는 판매되는 상품을 나타내는 상품 명칭, 상품의 이미지 등을 포함하는 상품 오브젝트일 수 있다. 이때, 연결 동작은 선택된 상품의 상세 페이지 오픈 또는 선택된 상품의 장바구니 추가, 선택된 상품의 구매창 오픈 등으로 구현될 수 있다.
스마트 디바이스는 사용자 컨텐츠에 포함된 정보의 일부를 표시할 수 있다. 스마트 디바이스는 사용자 컨텐츠에 포함된 복수의 오브젝트 중 일부가 표시되도록 표시 영역을 결정할 수 있다. 스마트 디바이스는 표시 영역을 디스플레이 하거나 투영하여 표시할 수 있다.
스마트 디바이스는 사용자 컨텐츠 중 표시되는 표시 영역을 변경할 수 있다. 표시 영역은 복수의 오브젝트를 포함할 수 있다. 표시 영역에 포함되는 오브젝트는 변경될 수 있다. 표시 영역에 포함되는 오브젝트의 수는 변경될 수 있다. 예컨대, 표시 영역은 확대(줌-인) 또는 축소(줌-아웃)될 수 있다.
스마트 디바이스는 보이스 커맨드 또는 터치 이벤트를 획득하고 표시 영역을 변경할 수 있다. 보이스 커맨드에 대응한 표시 영역의 변경에 관하여는, 이하의 음성 제어 및 컨텐츠 표시 제어 항목에서 보다 구체적으로 설명한다.
도 8은 본 발명의 일 실시예에 따른 사용자 컨텐츠를 설명하기 위한 도면이다.
도 8을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 동영상을 포함하는 사용자 컨텐츠를 표시 영역(20) 상에 표시할 수 있다.
사용자 컨텐츠는 각각의 동영상으로 연결되는 링크 리스트를 포함할 수 있다. 사용자 컨텐츠는 각각 지정된 동영상으로 연결되는 링크를 포함하는 복수의 오브젝트를 포함할 수 있다.
예를 들어, 스마트 디바이스는 '다큐멘터리 동영상'을 요청하는 사용자의 보이스 커맨드를 획득하고, 복수의 다큐멘터리 영상을 포함하는 사용자 컨텐츠를 복수의 다큐멘터리 동영상 각각의 링크를 포함하는 복수의 오브젝트가 나열된 리스트 형태로 표시 영역(20)상에 출력할 수 있다.
도 9는 본 발명의 일 실시예에 따른 사용자 컨텐츠를 설명하기 위한 도면이다.
도 9를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 상품 정보를 포함하는 사용자 컨텐츠를 표시 영역(20) 상에 출력할 수 있다. 사용자 컨텐츠는 각각의 상품의 상세 페이지 또는 구매 페이지로 연결되는 연결 링크를 포함하는 복수의 오브젝트를 포함할 수 있다.
예를 들어, 스마트 디바이스는 '구매 가능한 의자 목록'을 요청하는 사용자의 보이스 커맨드를 획득하고, 판매되는 복수의 '의자' 정보를 포함하는 사용자 컨텐츠를 각각의 의자의 썸네일을 포함하는 복수의 오브젝트가 나열된 형태로 표시 영역(20) 상에 출력할 수 있다.
3. 음성 제어
본 발명의 일 실시예에 따르면, 스마트 디바이스는 사용자에게 보이스 인터페이스를 제공하고, 보이스 인터페이스를 통하여 획득한 보이스 커맨드에 따라 다양한 동작을 수행함으로써, 사용자에게 음성 제어 환경을 제공할 수 있다.
스마트 디바이스는 디스플레이를 포함하는 스마트 디스플레이 또는 프로젝터 모듈을 포함하는 스마트 프로젝터일 수 있다. 스마트 디스플레이는 보이스 인터페이스와 더불어, 디스플레이에 인가되는 터치 이벤트를 인식하는 터치 인터페이스를 함께 제공할 수 있다. 스마트 프로젝터는 보이스 인터페이스와 함께, 투영되는 영상에 인가되는 터치 이벤트를 인식하는 터치 인터페이스를 제공할 수 있다.
이하에서는, 스마트 디바이스의 음성 제어 방법에 대하여 몇몇 실시예를 들어 설명한다.
3.1 컨텐츠 표시 제어
본 발명의 일 실시예에 따르면, 스마트 디바이스는 보이스 커맨드를 획득하고, 컨텐츠의 표시 상태를 변경할 수 있다. 스마트 디바이스는 사용자의 보이스 커맨드를 획득하고, 표시되는 화면을 스크롤할 수 있다. 스마트 디바이스는 보이스 커맨드를 획득하고, 표시되는 화면을 세로 또는 가로로 스크롤할 수 있다.
도 10은 본 발명의 일 실시예에 따른 스마트 디바이스의 표시 화면 제어를 설명하기 위한 도면이다.
도 10을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 세로 방향으로 정보 또는 오브젝트가 나열된 사용자 컨텐츠를 표시하고, 컨텐츠의 세로 방향 이동을 요청하는 사용자 보이스를 획득하고, 사용자 컨텐츠 중 표시되는 영역을 아래로 이동(스크롤 다운)할 수 있다. 예컨대, 스마트 디바이스는 표시 영역을 아래로 이동시킬 것을 요청하는 보이스 커맨드, 예를 들어 "scroll down" 를 포함하는 사용자 보이스를 획득하고, 표시되는 사용자 컨텐츠를 아래로 스크롤 할 수 있다.
도 11은 본 발명의 일 실시예에 따른 스마트 디바이스의 표시 화면 제어를 설명하기 위한 도면이다.
도 11을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 가로 방향으로 오브젝트 아이콘이 나열된 사용자 컨텐츠를 표시하고, 표시 화면의 가로 방향 이동을 요청하는 사용자 보이스를 획득하고, 사용자 컨텐츠 중 표시되는 영역을 우측으로 이동할 수 있다. 예컨대, 스마트 디바이스는 사용자의 보이스 커맨드 "scroll rignt"를 획득하고, 표시되는 사용자 컨텐츠를 우측으로 스크롤할 수 있다.
한편, 여기에서는 스마트 디바이스가 보이스를 획득하고, 출력되는 화면을 스크롤하는 경우를 기준으로 설명하였으나, 본 명세서에서 개시하는 발명이 이에 한정되는 것은 아니다. 예를 들어, 스마트 디바이스가 디스플레이를 포함하는 경우, 스마트 디바이스는 디스플레이에 인가되는 터치 이벤트를 획득하고, 출력되는 화면의 표시 상태를 변경할 수 있다. 또는, 스마트 디스플레이는 프로젝터 모듈을 포함하는 스마트 프로젝터이고, 스마트 프로젝터는 투영되는 화면에 인가되는 제스처 이벤트를 획득하고 출력되는 화면의 표시 상태를 변경할 수도 있다.
3.2 오브젝트 선택
본 발명의 일 실시예에 따르면, 스마트 디바이스는 복수의 오브젝트 중 어느 하나를 선택하는 사용자의 보이스 커맨드(셀렉션 커맨드)를 획득할 수 있다. 스마트 디바이스는 복수의 오브젝트를 포함하는 컨텐츠를 제공하고, 보이스 인터페이스를 통하여 복수의 오브젝트 중 어느 하나를 선택하는 사용자의 보이스 커맨드를 획득하고, 선택된 오브젝트에 지정된 연결 동작을 수행할 수 있다.
예를 들어, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 동영상을 포함하는 컨텐츠를 제공하되, 각각의 동영상이 재생되는 링크를 포함하는 동영상 리스트를 표시하고, 복수의 동영상 중 어느 하나의 동영상을 선택하는 사용자의 보이스 커맨드를 수신함에 응답하여 선택된 동영상을 출력할 수 있다.
도 12는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 12를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 동영상을 포함하는 사용자 컨텐츠를 표시하고, 사용자에 의해 발화되고 복수의 동영상 중 어느 하나의 동영상을 선택하는 보이스 커맨드를 포함하는 보이스를 획득하고, 보이스 커맨드에 의해 선택된 동영상을 출력할 수 있다.
예컨대, 스마트 디바이스는 도 8에서 도시하는 것과 같이 복수의 영상 오브젝트를 포함하는 화면이 표시된 상태에서, '3번 영상을 재생'할 것을 요청하는 사용자 보이스 커맨드를 획득하고, 3번에 해당하는 영상, 즉 'The history of hockey'를 재생할 수 있다.
다른 예를 들어, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 상품을 포함하는 사용자 컨텐츠를 제공하고, 각각의 상품의 상세 페이지 또는 구매 페이지 링크를 포함하는 상품 리스트를 표시하고, 복수의 상품 중 어느 하나의 상품을 선택하는 사용자의 보이스 커맨드를 수신함에 응답하여, 선택된 상품의 상세 페이지, 구매 페이지 등을 출력할 수 있다.
도 13은 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다. 도 13을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 도 8에서 도시하는 화면이 표시된 상태에서, '8번 의자를 선택'하는 사용자의 보이스 커맨드를 획득하고, 8번 의자의 보다 상세한 정보를 표시할 수 있다.
도 14는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다. 도 14를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 '4번 의자의 선택' 또는 '4번 의자의 구매'를 요청하는 사용자의 보이스 커맨드를 획득하고 4번 의자의 구매 페이지를 출력할 수 있다.
한편, 도 12 내지 14에서 설명하는 연결 동작 들은 예시에 불과하며, 본 명세서에서 개시하는 스마트 디바이스에 의하면, 다양한 연결 동작들이 전개될 수 있다.
3.2.1 복수의 오브젝트 선택
본 발명의 일 실시예에 따르면, 스마트 디바이스는 복수의 오브젝트를 포함하는 컨텐츠를 제공하고, 복수의 오브젝트 중 적어도 두 개의 오브젝트를 선택하는 사용자의 보이스 커맨드(멀티-셀렉션 커맨드)를 획득하고, 선택된 오브젝트들에 대한 연결 동작을 수행할 수 있다.
예컨대, 복수의 판매 상품 옵션을 제공하거나 음악 목록을 제공하는 경우에, 사용자가 복수의 대상 상품 또는 복수의 대상 음악을 선택하여 주문 내지 재생을 요청할 수 있도록 멀티-셀렉션 커맨드 환경이 제공될 수 있다.
본 발명의 일 실시예에 따르면, 스마트 디바이스는 복수의 선택 가능한 오브젝트를 포함하는 컨텐츠를 출력하고, 복수의 선택 가능한 오브젝트 중 적어도 두 개의 오브젝트를 선택하는 보이스 커맨드를 수신하고, 적어도 두 개의 오브젝트를 선택하는 보이스 커맨드를 수신하는 것에 응하여, 선택된 오브젝트들에 연결된 연결 동작을 수행할 수 있다.
본 발명의 일 실시예에 따르면, 스마트 디바이스는 기준 시간 간격 이내에 획득된 보이스에 포함된 보이스 커맨드에 기초하여 복수의 선택 대상 오브젝트를 판단할 수 있다. 스마트 디바이스는 미리 정해진 지시자를 포함하는 보이스 커맨드를 획득하고, 보이스 커맨드에 기초하여 복수의 선택 대상 오브젝트를 판단할 수 있다.
일 예로, 스마트 디바이스의 제어 방법은 복수의 음악 리스트를 포함하는 컨텐츠를 제공하고, 두 개 이상의 음악을 선택하는 사용자의 보이스 커맨드를 획득하고, 선택된 음악들을 재생 목록에 추가하는 연결 동작을 수행할 수 있다. 또는, 스마트 디바이스는 선택된 음악들이 추가된 재생 목록을 표시할 수 있다. 스마트 디바이스는 선택된 음악들을 재생할 수 있다.
다른 예로, 스마트 디바이스의 제어 방법은 복수의 상품 리스트를 포함하는 컨텐츠를 제공하고, 두 개 이상의 상품을 선택하는 사용자의 보이스 커맨드를 획득하고, 선택된 상품들이 추가된 장바구니 화면 또는 상품들의 구매 페이지를 표시하는 연결 동작을 수행할 수 있다. 스마트 디바이스는 사용자는 상품들을 선택하는 보이스 커맨드를 획득하고, 선택된 상품들이 장바구니에 추가되었음을 고지하는 피드백을 출력할 수 있다.
도 15는 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 15를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 도 9에서 도시하는 것처럼 복수의 상품을 포함하는 컨텐츠를 표시하고, 복수의 상품 중 적어도 두 개의 상품을 선택하는 사용자의 보이스 커맨드를 획득하고, 보이스 커맨드를 획득하는 것에 응답하여 선택된 복수의 상품에 대한 구매 페이지를 출력할 수 있다.
3.2.2 예비 선택
본 발명의 일 실시예에 따르면, 스마트 디바이스는 복수의 오브젝트를 포함하는 사용자 컨텐츠를 출력하고, 복수의 오브젝트 중 적어도 하나의 오브젝트를 선택하는 보이스 커맨드를 획득하고, 선택된 오브젝트에 대한 예비 선택 절차를 수행한 후, 선택된 오브젝트에 연결된 연결 동작을 수행할 수 있다.
예컨대, 보이스 커맨드가 오인식 되었거나 사용자가 선택 의도가 없었음에도 셀렉션 커맨드로 인식된 경우, 연결 동작을 수행하기 전에 확인하는 절차로서 예비 선택 절차가 이용될 수 있다.
본 발명의 일 실시예에 따르면, 스마트 디바이스는 복수의 오브젝트를 포함하는 사용자 컨텐츠를 출력하고, 복수의 오브젝트 중 적어도 하나의 오브젝트를 선택하는 보이스 커맨드를 획득하고, 선택된 오브젝트에 대한 예비 선택 절차로서, 실행 가능한 연결 동작들을 표시할 수 있다.
도 16은 본 발명의 일 실시예에 따른 예비 선택을 설명하기 위한 도면이다.
도 16을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 도 9에서 도시하는 것처럼 복수의 상품을 포함하는 컨텐츠가 표시된 상태에서, '4번 상품을 선택'하는 보이스 커맨드를 획득하고, 예비 선택된 4번 상품을 장바구니에 추가하거나, 바로 구매하거나, 상세 페이지를 오픈하는 연결 동작들이 가능함을 표시할 수 있다.
본 발명의 다른 일 실시예에 따르면, 스마트 디바이스는 복수의 오브젝트를 포함하는 사용자 컨텐츠를 출력하고, 복수의 오브젝트 중 적어도 하나의 오브젝트를 예비 선택하는 보이스 커맨드를 획득하고, 예비 선택된 오브젝트에 대한 표시 상태를 변경할 수 있다.
도 17은 본 발명의 일 실시예에 따른 연결 동작을 설명하기 위한 도면이다.
도 17을 참조하면, 스마트 디바이스는 복수의 상품을 포함하는 사용자 컨텐츠를 출력하고, '2번 및 7번' 상품을 선택하는 사용자의 보이스 커맨드를 획득하고, 2번 및 7번 상품의 표시 상태를 변경할 수 있다. 예컨대, 선택된 오브젝트들과 선택되지 않은 오브젝트들의 밝기를 달리할 수 있다. 구체적으로, 2번 및 7번 상품을 제외한 나머지 상품의 오브젝트들의 밝기를 감소시킬 수 있다. 또는, 2번 및 7번 상품을 나타내는 오브젝트의 색상을 변경할 수 있다.
3.2.3 표시되지 않는 오브젝트의 선택
상술한 바와 같이, 스마트 디바이스의 제어 상태에 따라, 일 컨텐츠에 포함되는 복수의 오브젝트가 한 화면에 다 표시되지 아니하고, 사용자의 스크롤 요청에 따라 화면이 스크롤 되면서 화면에 표시되는 오브젝트들이 변경되는 경우가 있을 수 있다.
이하에서는, 사용자로부터 변경된 화면에 포함되지 않는 오브젝트를 선택하는 보이스 커맨드를 포함하는 보이스가 수신된 경우의 스마트 디바이스의 동작에 대하여 몇몇 실시예를 들어 설명한다.
도 18은 본 발명의 일 실시예에 따른 스마트 디바이스의 동작을 설명하기 위한 도면이다.
도 18의 (a)를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 영상 링크를 포함하는 리스트를 표시하고, 사용자의 요청에 따라 리스트를 스크롤할 수 있다. 예컨대, 스마트 디바이스는 도 18의 (a)에서 도시하는 것과 같이, 스크롤되어 리스트 상단의 일부 오브젝트가 표시되지 않는 상태로 이용될 수 있다. 이때, 스마트 디바이스는 표시되지 않는 오브젝트, 예컨대, 1번 영상을 선택하는 사용자의 보이스 커맨드를 획득할 수 있다.
도 18의 (b)를 참조하면, 스마트 디바이스는 1번 영상이 표시되고 있지 않는 상태에서 1번 영상을 선택하는 사용자의 보이스 커맨드를 획득하고, 1번 영상을 재생할 수 있다.
한편, 사용자가 화면에 포함되지 않는 오브젝트를 선택한 경우, 사용자가 화면에 포함되는 오브젝트를 선택한 경우와 동일하게 취급할 경우에, 표시되지 않은 오브젝트의 내용은 사용자의 기억에 의존하게 되어, 잘못 선택된 오브젝트에 대하여 연결 동작이 수행되는 등의 문제가 발생할 수 있다.
예를 들어, 위 도면에서 도시하는 것과 같이 선택된 오브젝트(두 번째 동영상)가 디스플레이 모듈을 통하여 표시되고 있는 표시 영역에 존재하는 경우(좌측) 및 선택된 오브젝트가 표시 영역에 존재하지 않는 경우를 고려할 수 있다. 이에 따라, 선택된 오브젝트의 표시 여부를 고려하여 연결 동작을 수행하도록 하는 스마트 디바이스의 제어 방법이 요구된다.
도 19는 본 발명의 일 실시예에 따른 스마트 디바이스의 동작을 설명하기 위한 도면이다.
도 19의 (a)를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 사용자의 요청에 따라 복수의 영상 링크를 포함하는 리스트가 스크롤 다운되어 일부 오브젝트, 예컨대, 1번 영상이 표시되지 않는 상태에서, 표시되지 않는 오브젝트를 선택하는 사용자의 보이스 커맨드, 예컨대, '1번 영상의 재생'을 요청하는 보이스 커맨드를 획득할 수 있다.
도 19의 (b)를 참조하면, 스마트 디바이스는 1번 영상의 오브젝트가 표시되지 않는 상태에서 1번 영상의 재생을 요청하는 보이스 커맨드를 획득하고, 1번 영상 재생의 확인을 요청하는 팝업창을 표시 화면에 오버레이 할 수 있다. 이때, 스마트 디바이스는 1번 영상 재생의 확인을 요청하는 보이스 가이드를 함께 출력할 수도 있다.
도 20은 본 발명의 일 실시예에 따른 스마트 디바이스의 동작을 설명하기 위한 도면이다.
도 20의 (a)를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스는 복수의 영상 링크를 포함하는 리스트가 스크롤 다운되어 일부 오브젝트, 예컨대, 1번 영상이 표시되지 않는 상태에서, 표시되지 않는 오브젝트를 선택하는 사용자의 보이스 커맨드, 예컨대, '1번 영상의 재생'을 요청하는 보이스 커맨드를 획득할 수 있다.
도 20의 (b)를 참조하면, 스마트 디바이스는, 일부 오브젝트가 표시되지 않는 상태에서, 표시되지 않는 오브젝트를 선택하는 보이스 커맨드를 획득하고, 1번 영상 오브젝트가 표시되도록 컨텐츠의 표시 영역을 변경할 수 있다. 예컨대, 스마트 디바이스는 1번 영상의 오브젝트가 표시되지 않는 상태에서 1번 영상을 선택하는 보이스 커맨드를 획득하고, 1번 영상의 오브젝트가 표시되도록 화면을 스크롤할 수 있다. 스마트 디바이스는 화면의 변경과 동시에 1번 영상의 재생을 고지하는 가이드 보이스를 함께 출력할 수 있다.
이상의 실시 예들은 예시에 불과하며, 본 발명에 따른 스마트 디바이스는 사용자로부터 화면에 표시되지 않는 오브젝트를 선택하는 보이스 커맨드를 획득한 경우에, 사용자 편의를 증진하기 위한 다양한 형태의 피드백을 출력할 수 있다.
이하에서는, 상술한 실시 예들에서와 같이 사용자가 화면에 표시되고 있지 않은 오브젝트를 선택한 경우에 스마트 디바이스를 제어하는 방법에 대하여 보다 구체적으로 살펴본다.
4. 동작 알고리즘 ?? 표시되지 않는 오브젝트가 선택된 경우
여기에서는 상술한 보이스 인터페이스를 제공하는 스마트 디바이스를 제어하는 방법으로서, 사용자가 선택한 오브젝트의 표시 상태를 고려하여 스마트 디바이스가 다음 동작을 수행하도록 제어하는 방법에 대하여 몇가지 실시예를 들어 설명한다.
4.1 알고리즘
본 발명의 일 실시예에 따르면, 스마트 디바이스의 제어 방법은 복수의 선택 가능한 오브젝트를 포함하는 컨텐츠를 출력하고, 복수의 선택 가능한 오브젝트 중 어느 하나의 오브젝트를 선택하는 보이스 커맨드를 수신하고, 오브젝트를 선택하는 보이스 커맨드를 수신하는 것에 응하여, 선택된 오브젝트에 연결된 연결 동작을 수행하는 것을 포함할 수 있다.
도 21은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 순서도이다. 이때, 스마트 디바이스는 스마트 디바이스는 광을 출사하여 디스플레이-백을 출력하는 스마트 프로젝터 또는 디스플레이를 포함하고 디스플레이 상에 디스플레이-백을 출력하는 스마트 디스플레이일 수 있다.
도 21을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법은 제1 보이스 커맨드를 포함하는 제1 보이스를 수신하는 단계(S100), 제1 보이스 커맨드에 대응되는 제1 컨텐츠를 획득하는 단계(S200), 제1 컨텐츠 중 제1 영역을 표시하는 디스플레이-백을 출력하는 단계(S300), 제2 보이스 커맨드를 포함하는 제2 보이스를 수신하는 단계(S400), 제1 오브젝트가 제1 영역에 포함되는 경우, 제1 동작을 수행하는 단계(S500) 및 제1 오브젝트가 제1 영역에 포함되지 않는 경우, 제2 동작을 수행하는 단계(S600)를 포함할 수 있다.
제1 보이스 커맨드에 대응되는 제1 컨텐츠를 획득하는 단계(S200)는, 제1 컨텐츠는 복수의 선택 가능한 오브젝트를 포함하고, 복수의 오브젝트에 포함되는 각각의 오브젝트는 각각의 오브젝트에 대응되도록 할당된 식별자를 포함하는 것으로 구현될 수 있다. 식별자는 복수의 오브젝트가 정렬된 상태에 기초하여 결정된 서수일 수 있다.
제1 컨텐츠 중 제1 영역을 표시하는 디스플레이-백을 출력하는 단계(S300)는 제1 컨텐츠 중 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력하는 것을 더 포함할 수 있다. 다시 말해, 제1 컨텐츠는 복수의 오브젝트를 포함하는 목록 등을 포함하고, 스마트 디바이스는 제1 컨텐츠에 포함된 목록의 일부를 표시 영역에 출력할 수 있다. 제1 컨텐츠는 사용자 커맨드에 따라 적어도 일 방향으로 스크롤될 수 있도록 마련될 수 있다. 제1 영역은 컨텐츠 또는 리스트가 스크롤됨에 따라 변경될 수 있다. 표시되는 제1 영역이 변경됨에 따라 제1 영역에 포함되는 복수의 오브젝트는 변경될 수 있다.
도 22는 본 발명의 일 실시예에 따른 스마트 디바이스(200)의 제어 방법을 설명하기 위한 도면이다.
도 22를 참조하면, 스마트 디바이스(200)의 제어 방법은 보이스 커맨드를 포함하는 보이스를 수신하고, 보이스 커맨드에 대응되는 사용자 컨텐츠를 획득하고, 사용자 컨텐츠 중 일부 영역을 표시하는 디스플레이-백을 출력하는 것을 포함할 수 있다.
보다 구체적으로, 도 22를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(200)는 다큐멘터리 영상을 요청하는 제1 보이스 커맨드를 포함하는 제1 보이스(예를 들어, "I want to watch a documentary)를 수신하고 제1 보이스 커맨드에 대응되는 제1 컨텐츠(예컨대, 복수의 다큐멘터리 영상 링크를 포함하는 사용자 컨텐츠) 중 제1 영역을 표시 영역(30)에 출력할 수 있다.
사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신하는 단계(S400)에 있어서, 제2 보이스 커맨드는 제1 오브젝트에 관련되는 동작(피드백)을 요청하는 것일 수 있다. 제2 보이스 커맨드는 복수의 오브젝트에 포함되는 제1 오브젝트에 대응되는 제1 식별자를 포함하고, 제1 오브젝트에 관련되는 제1 동작의 수행을 요청하는 것으로 구현될 수 있다.
제1 오브젝트가 제1 영역에 포함되는 경우, 제1 동작을 수행하는 단계(S500)는, 별도의 알림 없이 곧바로 제1 동작을 수행하는 것을 포함할 수 있다. 제1 오브젝트가 제1 영역에 포함되는 경우, 스마트 디바이스는 별도의 피드백 없이 곧바로 제1 동작을 수행할 수 있다.
제2 보이스 커맨드는 제1 오브젝트에 연결되는 제2 컨텐츠의 표시를 요청하는 보이스 커맨드일 수 있다. 이때, 제1 동작은 제1 오브젝트에 연결되는 제2 컨텐츠를 표시하는 것을 포함할 수 있다.
제1 오브젝트가 제1 영역에 포함되지 않는 경우, 제2 동작을 수행하는 단계(S600)는, 사용자에게 제1 오브젝트 및 제1 오브젝트에 대한 제1 동작의 수행에 대한 확인을 요청하는 제2 동작을 수행하는 것을 포함할 수 있다.
제2 동작을 수행하는 단계(S600)는, 제2 동작에 응답하여 제1 동작의 수행을 확인하는 제3 보이스 커맨드를 포함하는 제3 보이스가 수신되면 제1 동작을 수행하는 것을 포함하는 것으로 구현될 수 있다.
제2 동작을 수행하는 단계(S600)는, 제2 동작은 제1 식별자 및 제1 오브젝트에 대한 제1 동작의 수행의 확인을 요청하는 피드백을 출력하는 것을 포함하는 것으로 구현될 수 있다.
제2 동작을 수행하는 단계(S600)는, 제2 동작은 제2 보이스 커맨드에 따른 제1 동작이 제1 오브젝트에 관련된 것임을 사용자에게 고지하기 위한 디스플레이-백 또는 토크-백을 출력하는 것을 포함하는 것으로 구현될 수 있다.
제2 동작을 수행하는 단계(S600)는, 제2 동작은 제1 콘텐츠 중 제1 오브젝트가 포함되도록 결정된 제2 영역을 표시하는 것을 포함하는 것으로 구현될 수 있다.
제2 동작을 수행하는 단계(S600)는, 제2 동작은 제1 영역이 표시된 상태에서 제1 오브젝트를 포함하는 팝업창을 제1 영역에 오버랩하는 것을 포함하는 것으로 구현될 수 있다.
제2 동작을 수행하는 단계(S600)는, 제2 동작은 제1 오브젝트에 대한 제1 동작 수행의 확인을 요청하는 가이드 보이스를 출력하는 것을 포함하는 것으로 구현될 수 있다.
한편, 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법은, 표시되는 영역의 스크롤을 요청하는 제4 보이스 커맨드를 포함하는 제4 보이스를 수신하고, 제1 컨텐츠 중 제1 영역과 다른 제3 영역을 표시하는 디스플레이-백을 출력하는 단계를 더 포함할 수 있다. 이때, 제1 동작을 수행하는 단계는 제1 오브젝트가 제3 영역에 포함되는 경우 제1 동작을 수행하고, 제2 동작을 수행하는 단계는 제1 오브젝트가 제3 영역에 포함되지 않는 경우 제2 동작을 수행하는 것으로 구현될 수 있다.
도 23은 본 발명의 일 실시예에 따른 스마트 디바이스(200)의 제어 방법을 설명하기 위한 도면이다.
도 23을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(200)의 제어 방법은 표시 영역의 변경을 요청하는 보이스 커맨드를 포함하는 보이스를 획득하고, 사용자 컨텐츠 중 표시되는 일부 영역을 변경하는 것을 포함할 수 있다.
보다 구체적으로, 도 23을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(200)는 표시 영역의 아래 방향 스크롤을 요청하는 사용자의 보이스 커맨드(예를 들어, "scroll down")를 수신하고, 표시 영역(30)을 아래 방향으로 스크롤할 수 있다.
도 24는 본 발명의 일 실시예에 따른 스마트 디바이스(200)의 제어 방법을 설명하기 위한 도면이다.
도 24를 참조하면, 스마트 디바이스(200)의 제어 방법은 표시되지 않는 오브젝트를 선택하는 보이스 커맨드를 획득하는 것을 포함할 수 있다.
예컨대, 도 23과 관련하여 전술한 바와 같이, 사용자의 보이스 커맨드에 의하여 표시 영역이 스크롤되어 표시 영역(30)에 포함되는 오브젝트가 변경된 상태에서, 스마트 디바이스는 화면 밖으로 밀려난 오브젝트를 선택하는 사용자 커맨드를 획득할 수 있다.
구체적으로, 도 24를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(200)는 표시 영역(30)에 나타나지 않는 1번 영상의 재생을 요청하는 사용자의 보이스 커맨드(예를 들어, "Play the first one")를 수신할 수 있다.
도 25는 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 25를 참조하면, 스마트 디바이스(200)의 제어 방법은 표시되지 않는 오브젝트를 선택하는 보이스 커맨드를 획득하고, 선택된 오브젝트를 고지하는 팝업창 표시 및/또는 가이드 보이스의 출력을 수행하는 것을 포함할 수 있다.
구체적으로, 도 25를 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(200)는 표시 영역(30)에 나타나지 않는 1번 영상의 재생을 요청하는 사용자의 보이스 커맨드를 획득하고, 1번 영상의 재생을 안내하는 팝업창을 표시하거나, 1번 영상의 재생 확인을 요청하는 가이드 보이스(예컨대, "Play the first video 'Life in Paris'?")를 출력하거나, 가이드 보이스의 출력과 팝업창의 표시를 함께 수행할 수 있다.
도 26은 본 발명의 일 실시예에 따른 스마트 디바이스의 제어 방법을 설명하기 위한 도면이다.
도 26을 참조하면, 스마트 디바이스(200)의 제어 방법은 선택된 오브젝트를 고지하는 팝업창 표시 및/또는 가이드 보이스의 출력에 응답하여, 선택된 오브젝트를 확정하는 사용자의 보이스 커맨드를 수신하고, 선택된 오브젝트에 대한 연결 동작을 수행하는 것을 포함할 수 있다.
구체적으로, 도 26을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(200)는 도 25에서 설명한 것처럼, 표시 영역(30)에 포함되지 않는 제1 영상의 재생을 확인하는 피드백을 출력하고, 피드백에 응하여 발화된 사용자의 보이스를 획득하고, 보이스에 포함되고 제1 영상의 재생을 확인하는 보이스 커맨드(예컨대, "Yes. Play that one")를 수신하고, 제1 영상을 재생할 수 있다.
스마트 디바이스는 제1 영상의 재생을 확인하는 보이스 커맨드를 확인하고, 곧바로 제1 영상을 재생할 수 있다. 또는, 스마트 디바이스는, 사용자의 보이스 커맨드가 획득되지 않더라도, 제1 영상의 재생을 확인하는 피드백을 출력하고 기준 시간이 경과하면 제1 영상을 재생할 수도 있다.
한편, 본 발명의 일 실시예에 따르면, 스마트 디바이스의 제어 방법은, 사용자에 의해 요청되어 출력되는 컨텐츠의 종류를 고려하여, 사용자로부터 복수의 오브젝트를 선택하는 보이스 커맨드를 수신할 수도 있다. 예컨대, 사용자가 복수의 음악을 선택하여 재생 목록을 형성하거나 복수의 상품을 선택하여 장바구니에 담을 수 있도록 하는 보이스 인터페이스를 제공할 수 있다.
이때, 스마트 디바이스의 제어 방법은 선택된 복수의 오브젝트 중 적어도 어느 하나의 오브젝트가 표시 영역에 포함되지 않는 경우, 표시 영역에 포함되지 않는 오브젝트들의 선택을 확인하는 피드백을 출력하는 것을 포함할 수 있다.
4.2 장치
상술한 스마트 디바이스의 제어 방법은 본 명세서에서 개시하는 스마트 디바이스에 의하여 수행될 수 있다.
도 27은 본 발명의 일 실시예에 따른 스마트 디바이스(3000)를 설명하기 위한 도면이다.
도 27을 참조하면, 본 발명의 일 실시예에 따른 스마트 디바이스(3000)는 보이스 커맨드를 포함하는 보이스를 획득하는 마이크 모듈(3010), 토크-백을 출력하는 스피커 모듈(3030), 디스플레이-백을 출력하는 영상 출력 모듈(3050) 및 제어부(3070)를 포함할 수 있다.
영상 출력 모듈(3050)은 광을 출사하여 디스플레이 백을 출력하는 프로젝터 모듈 및 디스플레이를 포함하고 디스플레이를 이용하여 디스플레이-백을 출력하는 디스플레이 모듈 중 어느 하나일 수 있다.
제어부(3070)는 상기 마이크 모듈을 통하여 사용자에 의해 발화되고 제1 보이스 커맨드를 포함하는 제1 보이스를 수신할 수 있다. 이때, 제1 컨텐츠는 복수의 선택 가능한 오브젝트를 포함하고, 복수의 오브젝트에 포함되는 각각의 오브젝트는 각각의 오브젝트에 대응되도록 할당된 식별자를 포함할 수 있다.
제어부(3070)는 상기 영상 출력 모듈을 통하여 제1 보이스 커맨드에 대응되는 제1 컨텐츠 중 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력할 수 있다.
제어부(3070)는 상기 마이크 모듈을 통하여 사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신할 수 있다. 이때, 제2 보이스 커맨드는 복수의 오브젝트에 포함되는 제1 오브젝트에 대응되는 제1 식별자를 포함하고, 제1 오브젝트에 관련되는 제1 동작의 수행을 요청할 수 있다.
상기 제2 보이스 커맨드는 제1 오브젝트에 연결되는 제2 컨텐츠의 표시를 요청하는 보이스 커맨드이고, 제1 동작은 제1 오브젝트에 연결되는 제2 컨텐츠를 표시하는 것을 포함할 수 있다.
제2 동작은 제2 보이스 커맨드에 따른 제1 동작이 제1 오브젝트에 관련된 것임을 사용자에게 고지하기 위한 디스플레이-백 또는 토크-백을 출력하는 것을 포함할 수 있다.
제2 동작은 제1 영역이 표시된 상태에서 제1 오브젝트를 포함하는 팝업창을 제1 영역에 오버랩하는 것을 포함할 수 있다.
제2 동작은 제1 오브젝트에 대한 상기 제1 동작 수행의 확인을 요청하는 가이드 보이스를 출력하는 것을 포함할 수 있다.
제어부(3070)는 제1 오브젝트가 제1 영역에 포함되는 경우, 제1 동작을 곧바로 수행할 수 있다.
제어부(3070)는 제1 오브젝트가 제1 영역에 포함되지 않는 경우, 사용자에게 제1 오브젝트 및 제1 오브젝트에 대한 제1 동작의 수행에 대한 확인을 요청하는 제2 동작을 수행할 수 있다. 제2 동작은 제1 식별자 및 제1 오브젝트에 대한 제1 동작의 수행의 확인을 요청하는 피드백을 출력하는 것을 포함할 수 있다.
제어부(3070)는 제1 오브젝트가 제1 영역에 포함되지 않는 경우, 마이크 모듈을 통하여, 제2 동작의 수행에 응답하여, 제1 동작의 수행을 확인하는 제2 보이스 커맨드를 획득하고, 제1 동작을 수행하는 것을 더 포함할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (20)
- 보이스 커맨드를 획득하고, 상기 보이스 커맨드에 대응되는 다양한 피드백을 출력하는 스마트 디바이스 - 상기 피드백은 디스플레이-백 및 토크-백을 포함함 -의 제어 방법에 있어서,
사용자에 의해 발화되고 제1 보이스 커맨드를 포함하는 제1 보이스를 수신하는 단계;
상기 제1 보이스 커맨드에 대응되는 제1 컨텐츠를 획득하는 단계 - 상기 제1 컨텐츠는 복수의 선택 가능한 오브젝트를 포함하고, 상기 복수의 오브젝트에 포함되는 각각의 오브젝트는 상기 각각의 오브젝트에 일대일 대응되도록 할당된 식별자를 포함함 -;
상기 제1 컨텐츠 중 상기 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력하는 단계;
상기 사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신하는 단계 - 상기 제2 보이스 커맨드는 상기 제1 컨텐츠 중 제1 그룹에 포함되지 아니하는 오브젝트 중 적어도 일부를 요청함 -;
상기 제2 보이스 커맨드에 응답하여, 상기 제1 컨텐츠 중 상기 복수의 오브젝트에 포함되고 상기 제1 그룹과 적어도 일부 상이한 제2 그룹이 포함되는 제2 영역을 표시하는 디스플레이-백을 출력하는 단계;
상기 사용자에 의해 발화되고 제3 보이스 커맨드를 포함하는 제3 보이스를 수신하는 단계 - 상기 제3 보이스 커맨드는 상기 복수의 오브젝트에 포함되는 제1 오브젝트에 대응되는 제1 식별자를 포함하고, 상기 제1 오브젝트에 관련되는 제1 동작의 수행을 요청함 - ;
상기 제1 오브젝트가 상기 제2 영역에 포함되는 경우, 상기 제1 동작을 수행하는 단계; 및
상기 제1 오브젝트가 상기 제2 영역에 포함되지 않는 경우, 상기 사용자에게 상기 제1 오브젝트 및 상기 제1 오브젝트에 대한 상기 제1 동작의 수행에 대한 확인을 시각적 수단을 포함하여 요청하는 제2 동작을 수행하는 단계;를 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 동작을 수행하는 단계는,
상기 제2 동작에 응답하여 상기 제1 동작의 수행을 확인하는 제4 보이스 커맨드가 수신되면 상기 제1 동작을 수행하는 것을 더 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 동작은 상기 제1 식별자 및 상기 제1 오브젝트에 대한 상기 제1 동작의 수행의 확인을 요청하는 상기 피드백을 출력하는 것을 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제3 보이스 커맨드는 상기 제1 오브젝트와 연관되는 제2 컨텐츠의 표시를 요청하는 보이스 커맨드이고,
상기 제1 동작은 상기 제1 오브젝트와 연관되는 상기 제2 컨텐츠를 표시하는 것을 포함하는,
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 동작은 상기 제3 보이스 커맨드에 따른 상기 제1 동작이 상기 제1 오브젝트에 관련된 것임을 사용자에게 고지하기 위한 디스플레이-백 또는 토크-백을 출력하는 것을 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 식별자는 상기 복수의 오브젝트가 정렬된 상태에 기초하여 결정된 서수인
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제1 컨텐츠는 사용자 커맨드에 따라 적어도 일 방향으로 스크롤될 수 있도록 마련된,
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 동작은 상기 제1 컨텐츠 중 상기 제1 오브젝트가 포함되도록 결정된 영역을 표시하는 것을 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 동작은 상기 제2 영역이 표시된 상태에서 상기 제1 오브젝트를 포함하는 팝업창을 상기 제2 영역에 오버랩하는 것을 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 동작은 상기 제1 오브젝트에 대한 상기 제1 동작 수행의 확인을 요청하는 가이드 보이스를 출력하는 것을 포함하는
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 스마트 디바이스는 광을 출사하여 상기 디스플레이-백을 출력하는 스마트 프로젝터인
스마트 디바이스의 제어 방법.
- 제1항에 있어서,
상기 제2 보이스는, 표시되는 영역의 스크롤을 요청하는 상기 제2 보이스 커맨드를 포함하고,
상기 제2 영역을 표시하는 디스플레이-백을 출력하는 단계는, 상기 제1 컨텐츠 중 상기 제1 영역과 인접하는 상기 제2 영역을 표시하는 디스플레이-백을 출력하는 단계;를 더 포함하는,
스마트 디바이스의 제어 방법.
- 보이스 커맨드를 획득하고, 상기 보이스 커맨드에 대응되는 다양한 피드백- 상기 피드백은 디스플레이-백 및 토크-백을 포함함 -을 출력하는 스마트 디바이스에 있어서,
상기 보이스 커맨드를 포함하는 보이스를 획득하는 마이크 모듈;
상기 디스플레이-백을 출력하는 영상 출력 모듈;
상기 토크-백을 출력하는 스피커 모듈; 및
상기 마이크 모듈을 통하여 사용자에 의해 발화되고 제1 보이스 커맨드를 포함하는 제1 보이스를 수신하고,
상기 영상 출력 모듈을 통하여 상기 제1 보이스 커맨드에 대응되는 제1 컨텐츠 중 상기 복수의 오브젝트 중 일부가 포함되는 제1 영역을 표시하는 디스플레이-백을 출력하고- 상기 제1 컨텐츠는 복수의 선택 가능한 오브젝트를 포함하고, 상기 복수의 오브젝트에 포함되는 각각의 오브젝트는 상기 각각의 오브젝트에 일대일 대응되도록 할당된 식별자를 포함함 -,
상기 마이크 모듈을 통하여 상기 사용자에 의해 발화되고 제2 보이스 커맨드를 포함하는 제2 보이스를 수신 - 상기 제2 보이스 커맨드는 상기 제1 컨텐츠 중 상기 제1 그룹에 포함되지 아니하는 오브젝트 중 적어도 일부를 요청함 - 하고,
상기 제2 보이스 커맨드에 응답하여, 상기 제1 컨텐츠 중 상기 복수의 오브젝트에 포함되고 상기 제1 그룹과 적어도 일부 상이한 제2 그룹이 포함되는 제2 영역을 표시하는 디스플레이-백을 출력하고,
상기 마이크 모듈을 통하여 상기 사용자에 의해 발화되고 제3 보이스 커맨드를 포함하는 제3 보이스를 수신- 상기 제3 보이스 커맨드는 상기 복수의 오브젝트에 포함되는 제1 오브젝트에 대응되는 제1 식별자를 포함하고, 상기 제1 오브젝트에 관련되는 제1 동작의 수행을 요청함 -하고,
상기 제1 오브젝트가 상기 제2 영역에 포함되는 경우, 상기 제1 동작을 수행하고,
상기 제1 오브젝트가 상기 제2 영역에 포함되지 않는 경우, 상기 사용자에게 상기 제1 오브젝트 및 상기 제1 오브젝트에 대한 상기 제1 동작의 수행에 대한 확인을 시각적 수단을 포함하여 요청하는 제2 동작을 수행하는 제어부;를 포함하는
스마트 디바이스.
- 제13항에 있어서,
상기 제어부는 상기 제1 오브젝트가 상기 제2 영역에 포함되지 않는 경우, 상기 마이크 모듈을 통하여, 상기 제2 동작의 수행에 응답하여, 상기 제1 동작의 수행을 확인하는 제4 보이스 커맨드를 획득하고, 상기 제1 동작을 수행하는 것을 더 포함하는
스마트 디바이스.
- 제13항에 있어서,
상기 제2 동작은 상기 제1 식별자 및 상기 제1 오브젝트에 대한 상기 제1 동작의 수행의 확인을 요청하는 상기 피드백을 출력하는 것을 포함하는,
스마트 디바이스.
- 제13항에 있어서,
상기 영상 출력 모듈은 광을 출사하여 상기 디스플레이 백을 출력하는 프로젝터 모듈 및 디스플레이를 포함하고 상기 디스플레이를 통하여 상기 디스플레이-백을 출력하는 디스플레이 모듈 중 어느 하나인
스마트 디바이스.
-
제13항에 있어서,
상기 제3 보이스 커맨드는 상기 제1 오브젝트와 연관되는 제2 컨텐츠의 표시를 요청하는 보이스 커맨드이고,
상기 제1 동작은 상기 제1 오브젝트와 연관되는 상기 제2 컨텐츠를 표시하는 것을 포함하는,
스마트 디바이스.
- 제13항에 있어서,
상기 제2 동작은 상기 제3 보이스 커맨드에 따른 상기 제1 동작이 상기 제1 오브젝트에 관련된 것임을 사용자에게 고지하기 위한 디스플레이-백 또는 토크-백을 출력하는 것을 포함하는
스마트 디바이스.
- 제13항에 있어서,
상기 제2 동작은 상기 제2 영역이 표시된 상태에서 상기 제1 오브젝트를 포함하는 팝업창을 상기 제2 영역에 오버랩하는 것을 포함하는
스마트 디바이스.
- 제13항에 있어서,
상기 제2 동작은 상기 제1 오브젝트에 대한 상기 제1 동작 수행의 확인을 요청하는 가이드 보이스를 출력하는 것을 포함하는
스마트 디바이스.
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180087682A KR102136463B1 (ko) | 2018-07-27 | 2018-07-27 | 스마트 디바이스 및 그 제어 방법 |
| PCT/KR2018/014225 WO2020022571A1 (ko) | 2018-07-27 | 2018-11-19 | 스마트 디바이스 및 그 제어 방법 |
| US17/075,416 US20210035583A1 (en) | 2018-07-27 | 2020-10-20 | Smart device and method for controlling same |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020180087682A KR102136463B1 (ko) | 2018-07-27 | 2018-07-27 | 스마트 디바이스 및 그 제어 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20200012412A KR20200012412A (ko) | 2020-02-05 |
| KR102136463B1 true KR102136463B1 (ko) | 2020-07-21 |
Family
ID=69181813
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020180087682A KR102136463B1 (ko) | 2018-07-27 | 2018-07-27 | 스마트 디바이스 및 그 제어 방법 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20210035583A1 (ko) |
| KR (1) | KR102136463B1 (ko) |
| WO (1) | WO2020022571A1 (ko) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102592833B1 (ko) * | 2018-12-14 | 2023-10-23 | 현대자동차주식회사 | 차량의 음성 인식 기능 연동 제어 시스템 및 방법 |
| KR20220006833A (ko) * | 2020-07-09 | 2022-01-18 | 삼성전자주식회사 | 음성 및 비접촉 제스처에 기반한 음성 비서 호출 방법 및 전자 장치 |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2004006550A1 (en) * | 2002-07-02 | 2004-01-15 | Nokia Corporation | Method and communication device for handling data records by speech recognition |
| KR20120020853A (ko) * | 2010-08-31 | 2012-03-08 | 엘지전자 주식회사 | 이동 단말기 및 그 제어방법 |
| KR101828273B1 (ko) * | 2011-01-04 | 2018-02-14 | 삼성전자주식회사 | 결합기반의 음성명령 인식 장치 및 그 방법 |
| KR102009423B1 (ko) * | 2012-10-08 | 2019-08-09 | 삼성전자주식회사 | 음성 인식을 이용한 미리 설정된 동작 모드의 수행 방법 및 장치 |
| US20160328108A1 (en) * | 2014-05-10 | 2016-11-10 | Chian Chiu Li | Systems And Methods for Displaying Information |
| KR20160114873A (ko) * | 2015-03-25 | 2016-10-06 | 엘지전자 주식회사 | 회전 멀티미디어 장치 |
-
2018
- 2018-07-27 KR KR1020180087682A patent/KR102136463B1/ko active IP Right Grant
- 2018-11-19 WO PCT/KR2018/014225 patent/WO2020022571A1/ko active Application Filing
-
2020
- 2020-10-20 US US17/075,416 patent/US20210035583A1/en not_active Abandoned
Also Published As
| Publication number | Publication date |
|---|---|
| WO2020022571A1 (ko) | 2020-01-30 |
| US20210035583A1 (en) | 2021-02-04 |
| KR20200012412A (ko) | 2020-02-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10802689B2 (en) | Continuation of playback of media content by different output devices | |
| US10735686B2 (en) | Enhanced content consumption | |
| US10397643B2 (en) | Electronic device for identifying peripheral apparatus and method thereof | |
| US10585553B2 (en) | Display device and method of controlling the same | |
| JP6416626B2 (ja) | 第２のスクリーン上での代替ビュービデオの再生 | |
| US9201577B2 (en) | User interfaces for controlling audio playback devices and related systems and devices | |
| JP5723462B2 (ja) | マルチモーダル及びジェスチャー制御のための方法及びシステム | |
| US9971773B2 (en) | Automapping of music tracks to music videos | |
| CN103535028A (zh) | 用于提供与显示的内容相关的附加内容的方法和系统 | |
| CN104620593A (zh) | 显示装置及用于控制该显示装置的方法 | |
| KR102136463B1 (ko) | 스마트 디바이스 및 그 제어 방법 | |
| KR20210047112A (ko) | 전자장치 및 그 제어방법 | |
| KR101391553B1 (ko) | 스마트 프리젠테이션 시스템 | |
| US10257561B2 (en) | Time-line based digital media post viewing experience | |
| KR20170072666A (ko) | 디스플레이 장치, 원격 제어 장치 및 그 제어 방법 | |
| JP6065224B2 (ja) | カラオケ装置 | |
| JP7400531B2 (ja) | 情報処理システム、情報処理装置、プログラム、情報処理方法及び部屋 | |
| US20240078070A1 (en) | Video distribution device, display control device, video distribution method, display control method, and non-transitory computer readable medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| AMND | Amendment | ||
| AMND | Amendment | ||
| E601 | Decision to refuse application | ||
| X091 | Application refused [patent] | ||
| AMND | Amendment | ||
| X701 | Decision to grant (after re-examination) | ||
| GRNT | Written decision to grant |