KR20220083199A

KR20220083199A - 전자장치 및 그 제어방법

Info

Publication number: KR20220083199A
Application number: KR1020200173196A
Authority: KR
Inventors: 부영종
Original assignee: 삼성전자주식회사
Priority date: 2020-12-11
Filing date: 2020-12-11
Publication date: 2022-06-20
Also published as: WO2022124640A1

Abstract

본 개시의 일 실시예에 따른 전자장치에 있어서, 인터페이스부; 외부장치의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 상기 외부장치에 관한 명령어를 식별하고, 식별된 상기 외부장치의 상태에 기초하여, 상기 식별된 명령어에 따라 상기 외부장치가 수행할 기능에 대응하는 정보를 상기 인터페이스부를 통해 상기 외부장치로 전송하는 프로세서를 포함한다.

Description

전자장치 및 그 제어방법{ELECTRONIC APPARATUS AND THE METHOD THEREOF}

본 개시는 음성인식기능을 수행하는 전자장치 및 그 제어방법에 관한 것이다.

음성인식 기술의 대중화로 전자장치의 음성인식 기능 제공이 보편화되고 있다. 음성인식 기능을 이용하기 위해서 전자장치는 네트워크에 연결하거나 계정을 등록하는 등의 과정을 거쳐야 한다. 전자장치가 네트워크에 연결이 되어 있지 않거나, 계정 등록에 필요한 정보를 가지고 있지 않은 경우, 사용자는 필요한 정보를 일일이 찾아야 하는 부담이 존재한다.

보다 간단한 등록 과정을 위해, 이미 연결된 다른 전자장치로부터 등록에 필요한 정보를 네트워크를 통하여 전달받게 되는 경우, 보안에 문제가 발생할 수 있다.

또한, 연결된 복수의 전자장치의 음성인식 기능을 사용하는 경우, 각자 다른 호칭 및 발화를 통하여 사용자가 사용에 혼란을 일으킬 수 있다.

본 개시의 목적은 음성인식 기능을 이용하여 보다 나은 서비스를 제공하는 전자장치 및 그 제어방법을 제공하는 것이다.

상기 프로세서는, 상기 외부장치의 네트워크 연결여부 또는 인증정보 보유여부 중 적어도 어느 하나에 기초하여 상기 외부장치의 상태를 식별할 수 있다.

상기 프로세서는, 상기 수신되는 제1오디오신호가 외부장치의 시작명령어에 대응하는 것에 기초하여, 상기 인터페이스부를 통해 상기 외부장치의 상태에 대한 정보를 수신할 수 있다.

상기 프로세서는, 상기 외부장치가 수행할 기능에 대응하는 정보와 관련된 임시정보를 전송하도록 상기 인터페이스부를 제어할 수 있다.

상기 임시정보는 기설정된 시간 또는 횟수 동안 이용 가능한 정보를 포함한다.

상기 프로세서는, 상기 외부장치가 수행할 기능에 대응하는 정보를 획득하는 다른 외부장치를 식별하고, 식별된 다른 외부장치로부터 상기 인터페이스부를 통해 상기 정보를 수신할 수 있다.

본 개시의 일 실시예에 따른 전자장치에 있어서, 자연어 처리 엔진을 포함하고, 상기 프로세서는, 상기 자연어 처리 엔진에 기초하여 상기 제2오디오신호에 대응하는 상기 외부장치에 관한 명령어를 식별할 수 있다.

본 개시의 일 실시예에 따른 전자장치에 있어서, 디스플레이를 더 포함하고, 상기 프로세서는, 상기 식별한 외부장치의 상태를 나타내는 GUI(Graphic User Interface)를 표시하도록 상기 디스플레이를 제어할 수 있다.

본 개시의 일 실시예에 따른 전자장치의 제어방법에 있어서, 외부장치의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 상기 외부장치에 관한 명령어를 식별하는 단계; 및 식별된 상기 외부장치의 상태에 기초하여, 상기 식별된 명령어에 따라 상기 외부장치가 수행할 기능에 대응하는 정보를 상기 외부장치로 전송하는 단계를 포함한다.

상기 외부장치의 상태를 식별하는 단계는, 상기 외부장치의 네트워크 연결여부 또는 인증정보 보유여부 중 적어도 어느 하나에 기초하여 상기 외부장치의 상태를 식별하는 단계를 포함할 수 있다.

상기 외부장치의 상태를 식별하는 단계는, 상기 수신되는 제1오디오신호가 외부장치의 시작명령어에 대응하는 것에 기초하여, 상기 인터페이스부를 통해 상기 외부장치의 상태에 대한 정보를 수신하는 단계를 포함할 수 있다.

상기 외부장치가 수행할 기능에 대응하는 정보를 상기 외부장치로 전송하는 단계는, 상기 외부장치가 수행할 기능에 대응하는 정보와 관련된 임시정보를 전송하는 단계를 포함할 수 있다.

상기 외부장치가 수행할 동작에 이용되는 정보를 획득하는 다른 외부장치를 식별하는 단계; 및 식별된 다른 외부장치로부터 상기 인터페이스부를 통해 상기 정보를 수신하는 단계를 포함할 수 있다.

상기 외부장치에 관한 명령어를 식별하는 단계는, 자연어 처리 엔진에 기초하여 상기 제2오디오신호에 대응하는 상기 외부장치에 관한 명령어를 식별하는 단계를 포함할 수 있다.

본 개시의 일 실시예에 따른 전자장치의 제어방법에 있어서, 식별한 외부장치의 상태를 나타내는 GUI(Graphic User Interface)를 표시하는 단계를 더 포함할 수 있다.

컴퓨터가 읽을 수 있는 코드로서, 전자장치의 제어방법을 수행하는 코드를 포함하는 컴퓨터 프로그램이 저장된 기록매체에 있어서, 외부장치의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 상기 외부장치에 관한 명령어를 식별하는 단계; 및 식별된 상기 외부장치의 상태에 기초하여, 상기 식별된 명령어에 따라 상기 외부장치가 수행할 기능에 대응하는 정보를 상기 외부장치로 전송하는 단계를 포함할 수 있다.

본 개시의 일 실시예에 따르면, 장치의 네트워크 연결이 되지 않거나, 기능을 수행하기 위한 정보가 부족한 경우에도, 음성인식 기능을 이용하여 다른 장치와의 연결을 통해 서비스를 제공할 수 있다. 따라서, 사용자는 별도의 장치 등록과정을 거치지 않고 기능을 이용할 수 있으므로 사용자 편의를 도모한다.

도 1은 본 개시의 일 실시예에 따른 전체 시스템을 도시한 도면이다.
도 2는 본 개시의 일 실시예에 의한 전자장치의 구성을 도시한 블록도이다.
도 3은 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.
도 4는 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.
도 5는 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.
도 6은 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.
도 7은 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.
도 8은 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.
도 9는 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.
도 10은 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.

이하에서는 첨부 도면을 참조하여 본 개시의 실시예들을 상세히 설명한다. 도면에서 동일한 참조번호 또는 부호는 실질적으로 동일한 기능을 수행하는 구성요소를 지칭하며, 도면에서 각 구성요소의 크기는 설명의 명료성과 편의를 위해 과장되어 있을 수 있다. 다만, 본 개시의 기술적 사상과 그 핵심 구성 및 작용이 이하의 실시예에 설명된 구성 또는 작용으로만 한정되지는 않는다. 본 개시를 설명함에 있어서 본 개시와 관련된 공지 기술 또는 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략하기로 한다.

본 개시의 실시예에서, 제1, 제2 등과 같이 서수를 포함하는 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용되며, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 또한, 본 개시의 실시예에서, '구성되다', '포함하다', '가지다' 등의 용어는 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 또한, 본 개시의 실시예에서, '모듈' 혹은 '부'는 적어도 하나의 기능이나 동작을 수행하며, 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합으로 구현될 수 있으며, 적어도 하나의 모듈로 일체화되어 구현될 수 있다. 또한, 본 개시의 실시예에서, 복수의 요소 중 적어도 하나(at least one)는, 복수의 요소 전부뿐만 아니라, 복수의 요소 중 나머지를 배제한 각 하나 혹은 이들의 조합 모두를 지칭한다.

도 1은 본 개시의 일 실시예에 따른 전체 시스템을 도시한 도면이다.

도 1에는 전자장치(100), 외부장치(200), AP(Access Point, 300)와 사용자(10)가 도시되어 있다.

도 1에는 전자장치(100)는 TV로, 외부장치(200)는 스피커로 도시되어 있으나, 이에 한정되지 않고 전자장치(100)와 외부장치(200)는 영상을 표시할 수 있는 디스플레이장치로 구현되거나, 디스플레이를 구비하지 않는 장치로 구현될 수 있다.

일 예로, 전자장치(100)와 외부장치(200)는 TV, AI어시스턴스기기(AI스피커 등), 컴퓨터, 스마트 폰, 태블릿 PC, 노트북 PC, HMD(Head mounted Display), NED(Near Eye Display), LFD(large format display), Digital Signage(디지털 간판), DID(Digital Information Display), 비디오 월(video wall), 프로젝터 디스플레이, QD(quantum dot) 디스플레이 패널, QLED(quantum dot light-emitting diodes) μLED(Micro light-emitting diodes), Mini LED 등 다양한 형태의 디스플레이 및 카메라, 캠코더, 웨어러블 디바이스, 비디오 월, 전자액자 등을 포함할 수 있다.

또한, 전자장치(100)와 외부장치(200)는 디스플레이를 구비하지 않는 셋탑박스 등의 영상처리장치, 냉장고, 블루투스 스피커, 세탁기 등의 생활가전, 컴퓨터본체와 같은 정보처리장치 등 다양한 종류의 장치로 구현될 수 있다.

다만, 본 개시의 일 실시예에 따른 전자장치(100)와 외부장치(200)는 음성인식 기능을 수행할 수 있는 장치로 가정한다.

도 1에 도시된 AP(300)는 무선랜 또는 Wi-Fi 공유기로 도시되어 있으나, 본 발명의 AP(300)는 그 종류 및 명칭에 구애 받지 않고 전자장치(100)와 외부장치(200)를 네트워크와 연결하는 중개장치로서의 역할을 하는 장치라면 무엇이든 가능하다. 네트워크 연결을 위한 통신 방식은 크게 유선기술과 무선기술로 나눌 수 있다. 유선기술로는 전화선, 전력선, 이더넷(Ethernet), IEEE 1394, USB(Universal Serial Bus) 등을 이용한 방식이 있다. 무선기술로는 IEEE 802.11x 계열의 무선랜(LAN), HomeRF, 블루투스(Bluetooth), 광대역통신(UWB, UltraWideBand), Zigbee, HiperLAN 등의 방식이 있다. 전자장치(100)와 외부장치(200)는 애드 혹 모드(ad-hoc mode) 또는 AP(300)를 통해 상호 연결되는 인프라 스트럭쳐 모드(Intra-structure mode)로 연결될 수 있다. 설명의 편의상 이하에서는 IEEE 802.11x 계열의 무선랜(LAN) 통신 방식을 네트워크의 통신 방식으로 선택하여 무선랜 AP(300)를 사용하는 환경을 전제로 하여 본 발명을 설명한다.

본 개시의 일 실시예에 따르면 전자장치(100)는 AP(300)와 연결이 된 상태이고, 반면 외부장치(200)는 AP(300)와 연결이 되지 않은 상태이다.

본 개시의 일 실시예에 따르면 사용자(10)는 외부장치(200)의 음성인식 기능을 이용하고자 한다. 이 때, 네트워크 연결을 필요로 하는 기능을 수행하고자 하는 경우, 현재 외부장치(200)는 네트워크에 연결이 되어있지 않으므로 해당 기능을 수행할 수 없다.

예컨대, 사용자(10)는 “XX, 내 계정으로 메일 보내줘” 라고 발화한 경우, 외부장치(200)는 메일을 전송하기 위해서는 네트워크 연결이 필요하고, 네트워크에 연결이 되어있지 않으므로 해당 기능을 수행할 수 없다.

이 외에도, 외부장치(200)가 네트워크 연결이 되어 있더라도 사용자 계정에 로그인이 필요한 경우 등 해당 기능을 수행할 수 없는 경우가 존재할 수 있다.

이하 본 개시에서는, 전자장치를 통해 외부장치가 음성인식 기능을 수행하기 위해서 네트워크 연결이나 사용자 계정 연결 등을 수행할 수 있도록 하는 방안을 제시한다.

도 2는 본 개시의 일 실시예에 의한 전자장치의 구성을 도시한 블록도이다.

도 2에 도시된 바와 같이, 전자장치(100)는 인터페이스부(110)를 포함할 수 있다.

인터페이스부(110)는 유선 인터페이스부(111)를 포함할 수 있다. 유선 인터페이스부(111)는 지상파/위성방송 등 방송표준에 따른 방송신호를 수신할 수 있는 안테나가 연결되거나, 케이블 방송표준에 따른 방송신호를 수신할 수 있는 케이블이 연결될 수 있는 커넥터 또는 포트를 포함한다. 다른 예로서, 전자장치(100)는 방송신호를 수신할 수 있는 안테나를 내장할 수도 있다. 유선 인터페이스부(111)는 HDMI 포트, DisplayPort, DVI 포트, 썬더볼트, 컴포지트(composite) 비디오, 컴포넌트(component) 비디오, 슈퍼 비디오(super video), SCART 등과 같이, 비디오 및/또는 오디오 전송표준에 따른 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(111)는 USB 포트 등과 같은 범용 데이터 전송표준에 따른 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(111)는 광 전송표준에 따라 광케이블이 연결될 수 있는 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(111)는 외부 마이크로폰 또는 마이크로폰을 구비한 외부 오디오기기가 연결되며, 오디오기기로부터 오디오 신호를 수신 또는 입력할 수 있는 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(111)는 헤드셋, 이어폰, 외부 스피커 등과 같은 오디오기기가 연결되며, 오디오기기로 오디오 신호를 전송 또는 출력할 수 있는 커넥터 또는 포트 등을 포함할 수 있다. 유선 인터페이스부(111)는 이더넷 등과 같은 네트워크 전송표준에 따른 커넥터 또는 포트를 포함할 수 있다. 예컨대, 유선 인터페이스부(111)는 라우터 또는 게이트웨이에 유선 접속된 랜카드 등으로 구현될 수 있다.

유선 인터페이스부(111)는 상기 커넥터 또는 포트를 통해 셋탑박스, 광학미디어 재생장치와 같은 외부기기, 또는 외부 디스플레이장치나, 스피커, 서버 등과 1:1 또는 1:N(N은 자연수) 방식으로 유선 접속됨으로써, 해당 외부기기로부터 비디오/오디오 신호를 수신하거나 또는 해당 외부기기에 비디오/오디오 신호를 송신한다. 유선 인터페이스부(111)는, 비디오/오디오 신호를 각각 별개로 전송하는 커넥터 또는 포트를 포함할 수도 있다.

그리고, 본 실시예에 따르면 유선 인터페이스부(111)는 전자장치(100)에 내장되나, 동글(dongle) 또는 모듈(module) 형태로 구현되어 전자장치(100)의 커넥터에 착탈될 수도 있다.

인터페이스부(110)는 무선 인터페이스부(112)를 포함할 수 있다. 무선 인터페이스부(112)는 전자장치(100)의 구현 형태에 대응하여 다양한 방식으로 구현될 수 있다. 예를 들면, 무선 인터페이스부(112)는 통신방식으로 RF(radio frequency), 지그비(Zigbee), 블루투스(bluetooth), 와이파이(Wi-Fi), UWB(Ultra WideBand) 및 NFC(Near Field Communication) 등 무선통신을 사용할 수 있다. 무선 인터페이스부(112)는 와이파이(Wi-Fi) 방식에 따라서 AP와 무선통신을 수행하는 무선통신모듈이나, 블루투스 등과 같은 1대 1 다이렉트 무선통신을 수행하는 무선통신모듈 등으로 구현될 수 있다. 무선 인터페이스부(112)는 네트워크 상의 서버와 무선 통신함으로써, 서버와의 사이에 데이터 패킷을 송수신할 수 있다. 무선 인터페이스부(112)는 적외선 통신표준에 따라 IR(Infrared) 신호를 송신 및/또는 수신할 수 있는 IR송신부 및/또는 IR수신부를 포함할 수 있다. 무선 인터페이스부(112)는 IR송신부 및/또는 IR수신부를 통해 리모컨 또는 다른 외부기기로부터 리모컨신호를 수신 또는 입력하거나, 다른 외부기기로 리모컨신호를 전송 또는 출력할 수 있다. 다른 예로서, 전자장치(100)는 와이파이(Wi-Fi), 블루투스(bluetooth) 등 다른 방식의 무선 인터페이스부(112)를 통해 리모컨 또는 다른 외부기기와 리모컨신호를 송수신할 수 있다.

전자장치(100)는 인터페이스부(110)를 통해 수신하는 비디오/오디오신호가 방송신호인 경우, 수신된 방송신호를 채널 별로 튜닝하는 튜너(tuner)를 더 포함할 수 있다.

전자장치(100)가 디스플레이장치로 구현되는 경우, 디스플레이부(120)를 포함할 수 있다. 디스플레이부(120)는 화면 상에 영상을 표시할 수 있는 디스플레이(121)를 포함한다. 디스플레이(121)는 액정 방식과 같은 수광 구조 또는 OLED 방식과 같은 자발광 구조로 마련된다. 디스플레이부(120)는 디스플레이(121)의 구조에 따라서 부가적인 구성을 추가로 포함할 수 있는데, 예를 들면 디스플레이(121)가 액정 방식이라면, 디스플레이부(120)는 액정 디스플레이 패널과, 광을 공급하는 백라이트유닛과, 액정 디스플레이 패널의 액정을 구동시키는 패널구동기판을 포함한다.

전자장치(100)는 사용자입력부(130)를 포함할 수 있다. 사용자입력부(130)는 사용자의 입력을 수행하기 위해 마련된 다양한 종류의 입력 인터페이스 관련 회로를 포함한다. 사용자입력부(130)는 전자장치(100)의 종류에 따라서 여러 가지 형태의 구성이 가능하며, 예컨대, 전자장치(100)의 기계적 또는 전자적 버튼부, 전자장치(100)와 분리된 리모트 컨트롤러, 전자장치(100)와 연결된 외부기기에서의 입력부, 터치패드, 디스플레이부(120)에 설치된 터치스크린 등이 있다.

전자장치(100)는 저장부(140)를 포함할 수 있다. 저장부(140)는 디지털화된 데이터를 저장한다. 저장부(140)는 전원의 제공 유무와 무관하게 데이터를 보존할 수 있는 비휘발성 속성의 스토리지(storage)와, 프로세서(180)에 의해 처리되기 위한 데이터가 로딩되며 전원이 제공되지 않으면 데이터를 보존할 수 없는 휘발성 속성의 메모리(memory)를 포함한다. 스토리지에는 플래시메모리(flash-memory), HDD(hard-disc drive), SSD(solid-state drive) ROM(Read Only Memory) 등이 있으며, 메모리에는 버퍼(buffer), 램(RAM; Random Access Memory) 등이 있다.

저장부(140)는 복수의 레이어를 포함하는 인공 지능 모델에 관한 정보를 저장할 수 있다. 여기서, 인공 지능 모델에 관한 정보를 저장한다는 것은 인공 지능 모델의 동작과 관련된 다양한 정보, 예를 들어 인공 지능 모델에 포함된 복수의 레이어에 대한 정보, 복수의 레이어 각각에서 이용되는 파라미터(예를 들어, 필터 계수, 바이어스 등)에 대한 정보 등을 저장한다는 것을 의미할 수 있다. 예를 들어, 저장부(140)는 일 실시예에 따라 입력 영상의 업스케일링 정보(또는 음성 인식 관련 정보, 이미지 내의 오브젝트 정보 등)를 획득하도록 학습된 인공 지능 모델에 대한 정보를 저장할 수 있다. 다만, 프로세서가 인공 지능 모델 전용 하드웨어로 구현되는 경우, 인공 지능 모델에 관한 정보는 프로세서 내부 메모리에 저장될 수도 있다.

전자장치(100)는 마이크로폰(150)을 포함할 수 있다. 마이크로폰(150)은 사용자 음성을 비롯한 외부 환경의 소리를 수집한다. 마이크로폰(150)은 수집된 소리의 신호를 프로세서(180)에 전달한다. 전자장치(100)는 사용자 음성을 수집하는 마이크로폰(150)을 구비하거나, 또는 인터페이스부(110)를 통해 마이크로폰을 가진 리모트 컨트롤러, 스마트폰 등의 외부장치로부터 음성신호를 수신할 수 있다. 외부장치에 리모트 컨트롤러 어플리케이션을 설치하여 전자장치(100)를 제어하거나 음성 인식 등의 기능을 수행할 수도 있다. 이와 같은 어플리케이션이 설치된 외부장치의 경우, 사용자 음성을 수신할 수 있으며, 외부장치는 전자장치(100)와 Wi-Fi/BT 또는 적외선 등을 이용하여 데이터 송수신 및 제어가 가능한 바, 상기 통신 방식을 구현할 수 있는 복수의 인터페이스부(110)가 전자장치(100) 내에 존재할 수 있다.

전자장치(100)는 스피커(160)를 포함할 수 있다. 스피커(160)는 프로세서(180)에 의해 처리되는 오디오 데이터를 소리로 출력한다. 스피커(160)는 어느 한 오디오 채널의 오디오 데이터에 대응하게 마련된 단위 스피커를 포함하며, 복수 오디오 채널의 오디오 데이터에 각기 대응하도록 복수의 단위 스피커를 포함할 수 있다. 다른 실시예로서, 스피커(160)는 전자장치(100)와 분리되어 마련될 수 있으며, 이 경우 전자장치(100)는 오디오 데이터를 인터페이스부(110)를 통하여 스피커(160)로 전달할 수 있다.

전자장치(100)는 센서(170)를 포함할 수 있다. 센서(170)는, 전자장치(100)의 상태 또는 전자장치(100) 주변의 상태를 감지하고, 감지된 정보를 프로세서(180)로 전달할 수 있다. 센서(170)는, 지자기 센서(Magnetic sensor), 가속도 센서(Acceleration sensor), 온/습도 센서, 적외선 센서, 자이로스코프 센서, 위치 센서(예컨대, GPS), 기압 센서, 근접 센서, 및 RGB 센서(illuminance sensor) 중 적어도 하나를 포함할 수 있으나, 이에 한정되는 것은 아니다. 각 센서들의 기능은 그 명칭으로부터 당업자가 직관적으로 추론할 수 있으므로, 구체적인 설명은 생략하기로 한다. 프로세서(180)는 전자장치(100)와 외부장치(200)간의 탭으로 정의된 센싱값을 저장부(140)에 저장할 수 있다. 추후, 사용자 이벤트가 감지되는 경우, 프로세서(180)는 감지된 센싱값이 저장된 센싱값에 대응하는지 여부에 기초하여 사용자 이벤트의 발생 여부를 식별할 수 있다.

전자장치(100)는 프로세서(180)를 포함할 수 있다. 프로세서(180)는 인쇄회로기판 상에 장착되는 CPU, 칩셋, 버퍼, 회로 등으로 구현되는 하나 이상의 하드웨어 프로세서를 포함하며, 설계 방식에 따라서는 SOC(system on chip)로 구현될 수도 있다. 프로세서(180)는 전자장치(100)가 디스플레이장치로 구현되는 경우에 디멀티플렉서, 디코더, 스케일러, 오디오 DSP(Digital Signal Processor), 앰프 등의 다양한 프로세스에 대응하는 모듈들을 포함한다. 여기서, 이러한 모듈들 중 일부 또는 전체가 SOC로 구현될 수 있다. 예를 들면, 디멀티플렉서, 디코더, 스케일러 등 영상처리와 관련된 모듈이 영상처리 SOC로 구현되고, 오디오 DSP는 SOC와 별도의 칩셋으로 구현되는 것이 가능하다.

프로세서(180)는, 저장부(140)에 저장된 기 정의된 동작 규칙 또는 인공 지능 모델에 따라, 입력 데이터를 처리하도록 제어할 수 있다. 또는, 프로세서(180)가 전용 프로세서(또는 인공 지능 전용 프로세서)인 경우, 특정 인공 지능 모델의 처리에 특화된 하드웨어 구조로 설계될 수 있다. 예를 들어, 특정 인공 지능 모델의 처리에 특화된 하드웨어는 ASIC, FPGA 등의 하드웨어 칩으로 설계될 수 있다.

출력 데이터는 인공 지능 모델의 종류에 따라 다양한 형태가 될 수 있다. 예를 들어 출력 데이터는, 해상도가 향상된 이미지, 이미지 내에 포함된 오브젝트 관련 정보, 음성에 대응되는 텍스트 등이 될 수 있고 이에 한정되지 않는다.

프로세서(180)는 마이크로폰(150) 등에 의해 사용자 음성에 대한 음성신호를 획득하면, 음성신호를 음성데이터로 변환할 수 있다. 이 때, 음성데이터는 음성신호를 텍스트 데이터로 변환하는 STT(Speech-to-Text) 처리 과정을 통해 얻어진 텍스트 데이터일 수 있다. 프로세서(180)는 음성데이터가 나타내는 커맨드를 식별하고, 식별된 커맨드에 따라서 동작을 수행한다. 음성데이터 처리 과정과, 커맨드 식별 및 수행 과정은, 전자장치(100)에서 모두 실행될 수도 있다. 그러나, 이 경우에 전자장치(100)에 필요한 시스템 부하 및 소요 저장용량이 상대적으로 커지게 되므로, 적어도 일부의 과정은 네트워크를 통해 전자장치(100)와 통신 가능하게 접속되는 적어도 하나의 서버에 의해 수행될 수 있다.

본 발명에 따른 프로세서(180)는 전자장치(100)와 같은 기기(Machine)가 읽을 수 있는 저장 매체(Storage Medium)에 저장된 소프트웨어의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 전자장치(100)와 같은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(Non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적'은 저장매체가 실재(tangible)하는 장치이고, 신호(예컨대, 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.

한편, 프로세서(180)는 외부장치(200)의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 외부장치(200)에 관한 명령어를 식별하고, 외부장치(200)의 상태를 식별하고, 식별된 명령어 및 식별된 상태에 기초하여, 외부장치(200)가 수행할 기능에 대응하는 정보를 인터페이스부(110)를 통해 외부장치(200)로 전송하도록 제어동작을 수행하기 위한 데이터 분석, 처리, 및 결과 정보 생성 중 적어도 일부를 규칙 기반 또는 인공지능(Artificial Intelligence) 알고리즘으로서 기계학습, 신경망 네트워크(neural network), 또는 딥러닝 알고리즘 중 적어도 하나를 이용하여 수행할 수 있다.

인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템으로서 기계가 스스로 학습하고 판단하며, 사용할수록 인식률이 향상되는 시스템이다

인공지능 기술은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘을 이용하는 기계학습(딥러닝) 기술 및 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 요소 기술들로 구성된다.

요소기술들은, 예로, 인간의 언어/문자를 인식하는 언어적 이해 기술, 사물을 인간의 시각처럼 인식하는 시각적 이해 기술, 정보를 판단하여 논리적으로 추론하고 예측하는 추론/예측 기술, 인간의 경험 정보를 지식데이터로 처리하는 지식 표현 기술 및 차량의 자율 주행, 로봇의 움직임을 제어하는 동작 제어 기술 중 적어도 하나를 포함할 수 있다.

언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다.

일 예로, 프로세서(180)는 학습부 및 인식부의 기능을 함께 수행할 수 있다. 학습부는 학습된 신경망 네트워크를 생성하는 기능을 수행하고, 인식부는 학습된 신경망 네트워크를 이용하여 데이터를 인식(또는, 추론, 예측, 추정, 판단)하는 기능을 수행할 수 있다.

학습부는 신경망 네트워크를 생성하거나 갱신할 수 있다. 학습부는 신경망 네트워크를 생성하기 위해서 학습 데이터를 획득할 수 있다. 일 예로, 학습부는 학습 데이터를 저장부(140) 또는 외부로부터 획득할 수 있다. 학습 데이터는, 신경망 네트워크의 학습을 위해 이용되는 데이터일 수 있으며, 상기한 동작을 수행한 데이터를 학습데이터로 이용하여 신경망 네트워크를 학습시킬 수 있다.

학습부는 학습 데이터를 이용하여 신경망 네트워크를 학습시키기 전에, 획득된 학습 데이터에 대하여 전처리 작업을 수행하거나, 또는 복수 개의 학습 데이터들 중에서 학습에 이용될 데이터를 선별할 수 있다. 일 예로, 학습부는 학습 데이터를 기 설정된 포맷으로 가공하거나, 필터링하거나, 또는 노이즈를 추가/제거하여 학습에 적절한 데이터의 형태로 가공할 수 있다. 학습부는 전처리된 학습 데이터를 이용하여 상기한 동작을 수행하도록 설정된 신경망 네트워크를 생성할 수 있다.

학습된 신경망 네트워크는, 복수의 신경망 네트워크(또는, 레이어)들로 구성될 수 있다. 복수의 신경망 네트워크의 노드들은 가중치(weight values)를 가지며, 이전(previous) 레이어의 연산 결과와 복수의 가중치들 간의 연산을 통해 신경망 연산을 수행한다. 복수의 신경망 네트워크들은 일 신경망 네트워크의 출력 값이 다른 신경망 네트워크의 입력 값으로 이용되도록 서로 연결될 수 있다. 신경망 네트워크의 예로는, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN (Bidirectional Recurrent Deep Neural Network) 및 심층 Q-네트워크 (Deep Q-Networks)과 같은 모델을 포함할 수 있다.

한편 인식부는 상기한 동작을 수행하기 위해, 타겟 데이터를 획득할 수 있다. 타겟 데이터는 저장부(140) 또는 외부로부터 획득된 것일 수 있다. 타겟 데이터는 신경망 네트워크의 인식 대상이 되는 데이터일 수 있다. 인식부는 타겟 데이터를 학습된 신경망 네트워크에 적용하기 전에, 획득된 타겟 데이터에 대하여 전처리 작업을 수행하거나, 또는 복수 개의 타겟 데이터들 중에서 인식에 이용될 데이터를 선별할 수 있다. 일 예로, 인식부는 타겟 데이터를 기 설정된 포맷으로 가공하거나, 필터링 하거나, 또는 노이즈를 추가/제거하여 인식에 적절한 데이터의 형태로 가공할 수 있다. 인식부는 전처리된 타겟 데이터를 신경망 네트워크에 적용함으로써, 신경망 네트워크로부터 출력되는 출력값을 획득할 수 있다. 인식부는 출력값과 함께, 확률값 또는 신뢰도값을 획득할 수 있다.

인공 지능 모델의 학습 및 훈련 데이터의 생성은 외부 서버를 통해 수행될 수 있다. 다만, 경우에 따라 인공 지능 모델의 학습이 전자 장치에서 이루어지고, 훈련 데이터 또한 전자 장치에서 생성될 수도 있음은 물론이다.

일 예로, 본 발명에 따른 전자장치(100)의 제어방법은 컴퓨터 프로그램 제품 (Computer Program Product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은, 앞서 설명한, 프로세서(180)에 의해 실행되는 소프트웨어의 명령어들을 포함할 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예컨대, CD-ROM)의 형태로 배포되거나, 또는 어플리케이션 스토어(예컨대, 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예컨대, 스마트폰들) 간에 직접, 온라인으로 배포(예컨대, 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.

도 3은 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.

본 개시의 일 실시예에 따른 프로세서(180)는 외부장치(200)의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 외부장치(200)에 관한 명령어를 식별한다(S310).

프로세서(180)는 시작명령어의 신호 파형, 길이 등에 대한 정보에 기초하여 수신되는 제1오디오신호가 시작명령어에 대응하는지 여부를 식별한다. 이 때, 프로세서(180)는 저장부(140)에 미리 저장된 정보를 이용하거나, 서버 등과의 통신을 통해 정보를 획득할 수 있다. 또한, 프로세서(180)는 전자장치(100)의 시작명령어에 대한 정보뿐만 아니라, 음성인식 기능을 지원하고, 시작명령어가 다른 복수의 외부장치에 관한 정보를 저장 또는 획득할 수 있다.

프로세서(180)는 식별한 시작명령어와 전자장치(100)의 시작명령어가 다른 경우, 식별된 시작명령어에 대응하는 외부장치(200)를 식별한다.

전자장치(100)는 자신의 시작명령어를 처리 및 인식하는 엔진 이외에 외부장치(200)의 시작명령어를 처리 및 인식하는 엔진을 추가로 구비하고, 식별된 시작명령어에 대응하는 엔진을 통해 대응하는 외부장치(200)를 식별할 수 있다.

이 때, 프로세서(180)는 식별된 시작명령어에 대응하는 제조사에 관한 정보를 저장해두고, 주변에 존재하는 외부장치들 중 해당 제조사로부터 제조된 장치를 식별할 수 있다. 이 외에도 식별된 시작명령어에 대응하는 장치가 무엇인지 식별하는 방안은 제한 없이 적용 가능하다. 일 예로, 프로세서(180)는 제1오디오신호의 수신에 대응하여, 블루투스나 IR 신호 등을 이용하여 주변에 존재하는 외부장치를 검색하고, 제1오디오신호가 검색된 외부장치의 시작명령어인지 여부를 식별할 수 있다.

프로세서(180)는 수신되는 제1오디오신호에 기초하여 식별된 시작명령어가 외부장치(200)의 시작명령어임을 식별한 경우, 자신의 장치, 즉 전자장치(100)가 아닌 외부장치(200)의 음성인식 기능을 트리거(trigger)하는 것임을 식별할 수 있다.

한편, 동일 회사에서 제조되는 등 전자장치(100)와 외부장치(200)의 시작명령어가 상호 동일한 경우에 관하여는 도 4에서 후술한다.

본 개시의 일 실시예에서는 식별된 명령어의 동작 수행 주체는 외부장치(200)인 경우, 즉, 사용자가 외부장치(200)에 대해서 명령어를 발화한 경우임을 가정한다.

프로세서(180)는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 외부장치(200)에 관한 명령어를 식별한다.

본 개시의 일 실시예에 따른 프로세서(180)는 식별된 외부장치의 상태에 기초하여, 식별된 명령어에 따라 외부장치(200)가 수행할 기능에 대응하는 정보를 인터페이스부를 통해 외부장치(200)로 전송한다(S320).

외부장치(200)의 상태는 식별된 명령어를 수행할 수 있는 상태에 있는지 여부에 기초하여 식별한다. 일 예로, 식별된 명령어가 특정 계정을 통해 메일을 전송하는 동작을 요하는 경우, 프로세서(180)는 외부장치(200)의 네트워크 연결여부 또는 인증 정보 보유여부 중 적어도 어느 하나에 관한 외부장치(200)의 상태를 식별한다. 이 외에도, 외부장치(200) 스스로가 자신의 상태를 식별하거나, 제3의 장치, 예컨대, 서버 등이 외부장치(200)의 상태를 식별할 수 있고, 프로세서(180)는 인터페이스부(110)를 통해 외부장치(200)의 상태에 관한 정보를 수신할 수 있다.

예컨대, 도 1 에서 서술한 바와 같이, 식별된 명령어가 “내 계정으로 메일 보내줘”인 경우, 프로세서(180)는 외부장치(200)가 메일 전송을 수행하기 위해 네트워크에 연결되어 있는지, 내 계정에 로그인이 되어 있는지를 식별할 수 있다.

상태를 식별하는 방법으로, 예컨대, 프로세서(180)는 블루투스나 IR 신호 등을 이용하여 전자장치(100)와 외부장치(200) 간을 연결하고, 외부장치(200)의 상태에 대한 정보를 요청하거나, 외부장치(200)로부터 자신의 상태에 대한 정보를 수신할 수 있다.

보다 구체적으로, 저전력 통신 기술 중 하나인 BLE(Bluetooth Low Energy) 기술은 브로드캐스팅(Broadcasting)과 연결(Connection)이라는 두 가지 방식으로 서로 통신할 수 있다. 브로드캐스팅은 연결을 하지 않는 (Connectionless) 방식이며, 주변의 장치들에게 자신의 존재를 광고하는(advertizing) 데이터를 주기적으로 전송하거나 다른 장치의 데이터를 수신하는 방식이다. 이 방식을 사용하는 장치는 주기적으로 데이터 패킷을 전송하는 Broadcaster와 전송되는 광고 메시지를 반복해서 수신하는 Observer 의 역할로 나뉜다. 브로드캐스팅 방식은 전송하는 데이터가 최대 31바이트이므로 적은 양의 데이터를 주기적으로 전송할 때 적합하다. 그리고, 브로드캐스팅을 통해 식별한 장치 중　하나를 선택해서 1:1 로 연결하는 것이 연결(Connection)이다. 전자장치(100)가 수신되는 제1오디오신호로부터 사용자명령을 식별하면, 프로세서(180)는 BLE 기술을 통해 주변 장치의 신호를 찾을 수 있다. 발견한 주변 장치에 전자장치(100)가 사용자명령에 대응하는 장치인지 여부를 확인하는 정보를 외부장치(200)에 전송하면, 외부장치(200)는 이를 확인하는 정보를 다시 전자장치(100)에 전송할 수 있다.

외부장치(200)가 수행할 기능에 대응하는 정보란, 식별된 명령어에 따른 동작을 수행하기 위해서 필요한 정보 중 외부장치(200)의 상태에 기초하여 필요한 정보를 의미한다.

프로세서(180)는 식별된 상태에 기초하여, 식별된 명령어에 따라 필요한 정보를 식별하고, 외부장치(200)에 식별한 정보를 전송할 수 있다.

일 예로, 도 1에서 서술한 바와 같이, 식별된 명령어가 "내 계정으로 메일 보내줘"이고, 프로세서(180)는 외부장치(200)의 네트워크 연결이 되어있지 않거나, 네트워크에 연결이 되어 있더라도 내 계정에 대한 정보를 가지고 있지 않거나, 혹은 둘 다 해당되지 않음을 식별할 수 있다. 이 경우, 프로세서(180)는 외부장치(200)로 네트워크 연결에 관한 정보, 내 계정에 대한 정보 중 필요한 정보를 인터페이스부(110)를 통해 전송할 수 있다.

이 외에도, 외부장치(200) 스스로가 자신의 상태를 식별하고, 프로세서(180)는 외부장치(200)로부터 필요한 정보를 요청하는 신호를 수신한 것에 기초하여 외부장치(200)에 정보를 전송할 수 있다. 혹은 제3의 장치, 예컨대, 서버 등이 외부장치(200)의 상태를 식별하여, 프로세서(180)는 서버로부터 필요한 정보를 요청하는 신호를 수신한 것에 기초하여 외부장치(200)에 정보를 전송할 수 있다.

이후, 외부장치(200)는 수신한 네트워크 연결에 관한 정보에 기초하여 네트워크를 연결하거나, 내 계정에 관한 정보에 기초하여 로그인 후 메일을 전송하는 동작을 수행할 수 있다.

도 4는 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.

본 도면에서는 앞서 도 3에서 서술한 동작 흐름도를 일 예에 비추어 설명한다. 전자장치(100)와 외부장치(200)는 서로 다른 시작명령어를 가지는 제품으로, 전자장치(100)의 시작명령어는 “Hi, Bixby” 이고, 외부장치(200)의 시작명령어는 “XX”라고 가정한다.

프로세서(180)는, S310에서 서술한 바와 같이, “XX, 내 계정으로 메일 보내줘"에 대응하는 제1오디오신호와 제2오디오신호를 수신한다(S410).

프로세서(180)는 시작명령어를 처리 및 인식하는 엔진을 이용하여 제1오디오신호를 식별하고, 제2오디오신호에 대응하는 명령어가 외부장치(200)를 제어하기 위한 명령어임을 식별한다.

보다 구체적으로, 프로세서(180)는 사용자 발화에 대응하는 오디오신호를 수신하고, 수신한 오디오신호에 기초하여 발화 내용을 텍스트 데이터로 변환하는 STT(Speech-to-Text) 처리 과정을 통해 텍스트 데이터를 획득할 수 있다. 프로세서(180)는 획득한 텍스트 데이터를 자연어 처리 엔진을 이용하여 사용자의 발화 의도를 식별한다. 자연어 처리 엔진이란 자연어 처리 이해(NLU; Natural Language Understanding)를 위해 마련된 엔진으로, 프로세서(180)는 자연어 처리 엔진을 이용하여 사용자의 발화뿐 아니라, 사용자의 발화가 실제로 의미하는 바를 추론할 수 있다. 자연어 처리 엔진은 동작 구조가 복잡하고, 방대한 양의 데이터를 필요로 하므로 별도로 구비되는 것이 일반적이나, 비교적 간단한 음성인식 기능을 처리할 수 있도록 전자장치(100) 내 구비될 수 있다. On device 음성인식 엔진에 관한 보다 자세한 내용은 도 6에서 후술한다.

이외에도, 자연어 처리 엔진은 장치마다 다른 성능을 구비하므로, 프로세서(180)는 외부장치(200)의 시작명령어에 대응되는 프로토콜과 수신한 제2오디오신호의 데이터를 외부장치(200)로 전송하고, 외부장치(200)로부터 음성인식 결과를 수신할 수 있다.

한편, 동일 회사에서 제조되는 등 전자장치(100)와 외부장치(200)의 시작명령어가 상호 동일한 경우, 프로세서(180)는 수신되는 제2오디오신호에 대응하는 명령어의 동작 수행 주체가 어느 장치인지를 식별하는 것이 필요하다.

전자장치(100)와 외부장치(200)의 시작명령어가 동일한 경우에는 사용자가 어느 장치의 기능을 이용하고자 했는지 의도를 식별하여 동작 수행 주체를 식별할 수 있다. 일 예로, 각 장치의 프로세서는 수신한 오디오신호의 발화레벨, 잡음레벨의 크기를 식별하고, 신호 대 잡음 비(SNR; Signal-to-Noise Ratio)를 비교하여 SNR이 높은 장치를 동작 수행 주체로 식별할 수 있다. 이하, 식별 결과, 외부장치(200)가 동작 수행 주체로 식별되었음을 가정하여 서술한다.

프로세서(180)는, 도 3의 S320에서 서술한 바와 같이 외부장치(200)의 상태 즉, 외부장치(200)가 네트워크에 연결되어 있는지 여부를 식별한다(S420).

이후, 도 3의 S320에서 서술한 바와 같이 외부장치(200)의 식별된 상태에 기초하여, 외부장치(200)가 네트워크에 연결되어 있지 않으면(S420의 No), 프로세서(180)는 네트워크 연결정보, 예컨대, 네트워크 아이디, 네트워크 비밀번호 등을 외부장치(200)로 전송한다(S430).

외부장치(200)가 네트워크에 연결되어 있거나(S420의 Yes), 프로세서(180)로부터 정보를 수신하여 네트워크에 연결된 경우, 프로세서(180)는 외부장치(200) 가 내 계정에 연결되어 있는지 여부를 식별한다(S440). 외부장치(200)가 내 계정에 연결되어 있지 않으면(S440의 No), 프로세서(180)는 계정 연결정보, 예컨대, 계정 아이디, 계정 비밀번호 등을 외부장치(200)로 전송한다. 외부장치(200)가 내 계정에 연결되어 있으면(S440의 Yes), 프로세서(180)는 동작을 종료한다.

본 개시의 일 실시예에 따르면, 사용자의 발화명령만으로도 등록과정을 수행할 수 있어 사용자에게 편의성을 제공한다.

도 5는 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.

본 도면에서는 도 3의 S320과 관련하여, 전자장치(100)가 외부장치(200)로 정보 전송 시, 보안 상 발생할 수 있는 문제점을 보완하는 방안을 제시한다.

프로세서(180)는 외부장치(200)가 수행할 기능에 대응하는 정보의 임시정보(510)를 생성한다. 임시정보(510)는 외부장치(200)가 수행할 기능에 대응하는 정보 그 자체는 아니나, 동작에 유효하게 이용될 수 있도록 임의로 생성한 정보이다.

예컨대, 네트워크 연결 아이디는 sweethome101이고, 비밀번호는 galaxy이나, 이를 그대로 전달하기에는 보안 문제가 우려되는 경우, 프로세서(180)는 임의로 연결 아이디는 adc1, 비밀번호는 1234로 임시정보(510)를 생성하여 외부장치(200)에 전달할 수 있다. 이 때, 외부장치(200)가 AP(300)에 연결하기 위해 임시정보(510)를 입력하는 경우, AP(300)는 이를 잘못된 정보로 인식할 수 있으므로, 프로세서(180)는 AP(300)에도 임시정보(510)를 전송하여, 추후 외부장치(200)가 임시정보(510)를 이용 시 네트워크에 연결이 가능하도록 할 수 있다.

다만, 이 경우에도 생성된 임시정보(510)를 계속 이용하는 경우 2차적 보안문제가 발생할 수 있으므로, 프로세서(180)는 생성된 임시정보(510)는 기설정된 시간 또는 기설정된 횟수 동안 이용 가능한 정보로 설정할 수 있다.

이 때, 네트워크 연결에 관한 정보나 사용자 계정에 관한 정보 등 정보 전송의 경우, 인증문제나 사용자 약관 동의 프로세스 등의 필요로 인해 정보를 타 장치로 전송하기 어려운 경우가 존재하는 바, 프로세서(180)는 인증이나 사용자 약관 동의에 관한 GUI를 디스플레이(121)에 표시하도록 제어할 수 있다.

본 개시의 일 실시예에 따르면, 비밀번호와 같은 개인 정보를 전달하는 경우에도 보안을 유지할 수 있어 안전하고 편리하게 장치 사용을 위한 정보를 송,수신할 수 있다.

도 6은 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.

본 도면에서는 전자장치(100) 또는 외부장치(200) 내부에 자연어 처리 엔진을 구비한 경우를 설명한다.

도 4에서 설명한 바와 같이 자연어 처리 엔진과 같은 음성인식 엔진은 주로 서버에 존재하여 네트워크 통신을 통해 이용한다. 다만, 최근 간단한 음성인식 기능은 장치 스스로 처리할 수 있도록 On device 엔진을 구비한 전자장치가 개발되고 있다. On device 엔진을 이용할 경우, 음성인식 결과 등을 서버와 통신하지 않고도 획득할 수 있어 속도가 빨라지고, 보안도 강화할 수 있다.

전자장치(100)가 On device 엔진(610)을 구비한 경우, 프로세서(180)는, 도 3의 S310과 관련하여, On device 엔진(610)에 기초하여 수신되는 제2오디오신호에 대응하는 명령어를 식별한다. 또한, 프로세서(180)는 AP(300)와 같이 동작하여 네트워크가 연결되지 않은 외부장치(200)에 네트워크 공유기의 역할을 수행하거나, 사용자 계정 정보와 같은 인증 정보를 서버를 통하지 않고 외부장치(200)에 전송할 수 있다.

이 때, 도 5에서 설명한 바와 같이, 프로세서(180)는 임시정보(510)를 생성하여 외부장치(200)에 전송할 수 있음은 마찬가지이다. 프로세서(180)는 외부장치(200)가 필요한 정보를 IR 신호 형식으로 전송할 수 있고, 이 외에도 비가청 음역통신이나 블루투스와 같은 전송방식을 이용할 수 있다.

외부장치(200)가 On device 엔진(620)을 구비한 경우, 외부장치(200)가 시작명령어를 직접 식별할 수 있다. 시작명령어 식별에 기초하여 음성인식 기능이 트리거되면, 외부장치는 장치 상태를 스스로 식별하여 네트워크 연결이나 계정 등록이 필요한 경우, 전자장치(100)로 필요한 정보를 요청하는 신호를 전송할 수 있다. 즉, 외부장치(100)가 새로 설치되거나, 기존 연결된 네트워크 설정이 초기화 되는 등 정보가 필요한 경우, 외부장치(200)가 설치된 환경 내에서 연결 가능한 장치, 예컨대, 전자장치(100)와의 통신을 통해 외부 서버 등에 연결하지 않고 음성인식 기능을 수행할 수 있다.

프로세서(180)는 외부장치(200)로부터 수신한 신호에 기초하여 요청하는 정보를 외부장치(200)로 전송할 수 있다. 이 경우에도, 서버를 통하지 않고 전자장치(100)와 외부장치(200)간 정보 송, 수신으로 필요한 정보를 주고 받으므로 안전하게 정보를 전송할 수 있다.

본 개시의 일 실시예에 따르면, On Device 엔진을 이용하여 안전하게 네트워크 연결 및 계정 등록 등을 사용할 수 있어, 사용자에게 안전하고 편리한 기술을 제공한다.

도 7은 본 개시의 다른 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.

본 도면에서는 전자장치(100)와 적어도 하나의 외부장치(200)를 포함한 복수의 음성인식 장치가 존재하는 시스템을 기초로 하여 설명한다.

복수의 음성인식 장치는 음성인식 기능을 대표로 수행할 장치를 설정한다(S710). 대표 장치는 사용자입력에 의해 설정될 수 있고, 또는 복수의 음성인식 장치 간 음성인식 기능의 최적화 장치를 선정하여 설정될 수 있으며, 어느 하나에 한정되지 않는다. 사용자입력에 의해 설정되는 경우란, 예컨대, "Hi Bixby, TV를 대표 장치로 설정해줘." 등에 의해 설정될 수 있다. 이하 전자장치(100)가 대표 장치로 설정된 것으로 가정한다.

프로세서(180)는 다른 음성인식 장치를 분석한다(S720). 보다 구체적으로, 프로세서(180)는 주변 외부장치의 네트워크 연결 상태를 확인한다(S721). 먼저 전자장치(100)의 주변에 존재하는 외부장치 중 네트워크 연결을 요청하는 장치를 식별하고, 외부장치에 대응하는 시작명령어 호출 및 신호를 확인한다.

프로세서(180)는 각종 시작명령어 호출을 통해 주변 외부장치의 존재를 확인한다(S722). 시작명령어 호출 시 반응하는 외부장치를 식별하고, 네트워크 연결 여부를 식별하여 필요 시 연결한다.

주변 음성인식 장치의 분석이 끝나면, 프로세서(180)는 신규 음성인식 장치의 등록을 확인한다(S730).

전자장치(100)의 시작명령어와 함께 명령어에 대응하는 오디오신호 수신 시, 프로세서(180)는 이를 식별하고, 그에 대응하는 동작을 수행할 수 있다. 이 때, 프로세서(180)는 명령어에 대응하는 동작을 수행하는 대신, 기 식별되어 등록된 신규 음성인식 장치가 이를 수행하도록 제어할 수 있다. 따라서, 신규 음성인식 장치는 설치 이후 네트워크 연결 등의 초기 설정을 하지 않고도, 외부장치인 전자장치(100)를 이용하여 음성인식 엔진과의 연결, 음성인식 기능을 지원할 수 있다.

일 예로, 프로세서(180)가 "Hi Bixby, 뉴스 들려줘"라는 사용자입력을 수신하는 경우(S740), 전자장치(100)가 이미 다른 기능을 수행하고 있는 경우와 같이 다른 외부장치가 동작을 대신 수행할 필요가 있는 경우 혹은 수행할 기능에 따라 적합한 외부장치를 식별할 수 있다. 이 외에도, 해당 기능을 수행할 때 전자장치(100)는 불필요하게 전력을 많이 소모하는 경우, 예컨대, 뉴스를 들려주는 것은 스피커 기능만 활성화하는 것이 적절하나 전자장치(100)는 외부장치 대비 전력소모가 큰 경우, 혹은 전자장치(100)가 무선장치인 경우 배터리가 부족하여 동작을 수행할 수 없는 경우 등 다양한 상황이 존재할 수 있다.

프로세서(180)는 동작을 수행할 외부장치를 식별하고, 스피커(160)를 통해 "뉴스는 XX로 읽어주도록 하겠습니다. XX, 뉴스 읽어줘"라고 출력하도록 제어할 수 있다(S750). 이 경우, 신규 음성인식 장치는 기능을 수행할 수 있다(S760).

프로세서(180)는 네트워크에 연결된 다른 외부장치가 새로 수신된 사용자입력에 대응하는 동작을 수행하도록 할 수 있고, 혹은 네트워크에 연결되지 않은 외부장치의 네트워크 연결을 도와주어 사용자입력에 대응하는 동작을 수행하도록 할 수 있다.

본 개시의 일 실시예에 따르면, 주변 음성인식 기능을 수행하는 장치들을 시간이나 상황에 맞게 활용할 수 있으므로 에너지 소비나 사용자 편의성 측면에서 유리하다. 또한, 신규로 설치되어 네트워크 연결 설정 등 음성인식기능을 이용하기 위한 기본적인 설정을 수행하지 않는 경우에도 외부장치의 기능을 통해 음성인식 기능을 지원하고 동작을 수행할 수 있으므로 사용자의 편의성을 높일 수 있다.

도 8은 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.

본 도면의 경우, 전자장치(100)는 앞서 도 3 내지 도 7에서 설명한 외부장치(200)와 관련된 상황을 사용자에게 알려주는 GUI(Graphic User Interface)를 도시한다.

본 개시의 일 실시예에 따르면, 전자장치(100)는 디스플레이(121)를 더 포함하고, 프로세서(180)는, 식별된 외부장치(200)의 상태를 나타내는 GUI(810)를 표시하도록 디스플레이(121)를 제어한다.

일 예로, 도 8에 도시된 바와 같이, 프로세서(180)는"네트워크 연결이 필요한 기기가 있습니다. 연결하겠습니다."와 같은 GUI (810)를 디스플레이(121)에 표시하도록 제어할 수 있으며, 추가로 연결이 필요한 장치의 이름, 예컨대, 'S-spk-2020'을 함께 표시할 수 있다. 이 때, 추가로 연결이 필요한 장치는 하나일 수 있고, 2 이상의 장치가 존재할 수 있다.

이 외에도, 프로세서(180)는 네트워크 연결 뿐만 아니라 외부장치(200)의 필요한 정보를 표시하거나, 정보를 전송하기 전 이를 승인하는 사용자입력을 요청하는 GUI를 추가로 표시하도록 디스플레이(121)를 제어할 수 있다.

본 개시의 일 실시예에 따르면, 사용자에게 현재 진행 상황이나 주변 외부장치의 상태 등을 직접적으로 표시할 수 있고, 이를 사용자가 제어하도록 GUI를 제공하는 점에서 사용자 편의를 도모할 수 잇다.

도 9는 본 개시의 일 실시예에 따른 전자장치의 동작 모습을 도시한 도면이다.

본 도면의 경우, 도 8에서 도시한 네트워크 연결이 필요한 장치가 복수인 경우를 나타낸다. 전자장치(100)는 앞서 도 3 내지 도 7에서 설명한 외부장치(200)와 관련된 상황을 사용자에게 알려주는 GUI(Graphic User Interface)를 도시한다.

본 개시의 일 실시예에 따르면, 전자장치(100)는 디스플레이(121)를 더 포함하고, 프로세서(180)는, 식별된 외부장치(200)의 상태를 나타내는 GUI(910)를 표시하도록 디스플레이(121)를 제어한다.

일 예로, 도 9에 도시된 바와 같이, 프로세서(180)는"네트워크 연결이 필요한 기기가 있습니다."와 같은 GUI (910)를 디스플레이(121)에 표시하도록 제어할 수 있으며, 추가로 연결이 필요한 장치의 이름, 예컨대, "S-spk-2020, S-mobile, S-rf"을 함께 표시할 수 있다. 이 경우, 프로세서(180)는 연결이 필요한 복수의 장치 중 사용자가 연결하고자 하는 장치를 선택할 수 있도록 하는 GUI를 디스플레이(121)에 추가로 표시하도록 제어할 수 있다.

본 개시의 일 실시예에 따르면, 연결이 필요한 복수의 전자장치가 존재하는 경우 사용자가 제어하도록 GUI를 제공하는 점에서 사용자 편의를 도모할 수 잇다.

도 10은 본 개시의 일 실시예에 따른 전자장치의 동작 흐름도를 도시한 도면이다.

본 도면은 도 3의 S320과 관련하여, 외부장치(200)에 전송할 기능에 대응하는 정보를 전자장치(100)가 보유하고 있지 않은 경우에 대해서 도시한다.

프로세서(180)는 도 3의 S320에서 식별된 외부장치(200)의 상태에 기초하여, 명령어에 따라 외부장치(200)가 수행할 기능에 대응하는 정보를 보유하고 있는지 여부를 식별한다(S1010).

보유하고 있으면(S1010의 Yes), 다른 실시예들과 같이 프로세서(180)는 정보를 외부장치(200)로 전송한다.

프로세서(180)는 정보를 전자장치(100)가 보유하고 있지 않음을 식별한 경우(S1010의 No), 정보를 획득하는 다른 외부장치를 식별한다(S1020). 일 예로, 프로세서(180)는 주변에 존재하는 다른 외부장치로 정보 획득여부 및 정보를 요청하는 신호를 전송하여 식별할 수 있다.

프로세서(180)는 식별된 다른 외부장치로부터 인터페이스부(110)를 통해 정보를 수신한다(S1030). 이 때, 정보를 수신하는 경우, 보안을 위해 도 5 내지 도 6에서 설명한 바와 같이, 임시정보(510)를 이용하거나, On device 엔진을 이용하여 서버를 통하지 않고 정보를 수신할 수 있다.

프로세서(180)는 수신된 정보에 기초하여 외부장치(200)로 정보를 전송한다(S1040).

본 개시의 일 실시예에 따르면, 외부장치(200)가 필요한 정보가 전자장치에 없더라도, 전자장치는 중개장치로서 역할을 수행하여 다른 정보를 보유하고 있는 외부장치로부터 정보를 수신하여 전송할 수 있는 바, 사용 시나리오를 더욱 견고히 할 수 있다.

100: 전자장치
110: 인터페이스부
120: 디스플레이부
130: 사용자입력부
140: 저장부
150: 마이크로폰
160: 스피커
170: 센서
180: 프로세서

Claims

전자장치에 있어서,
인터페이스부;
외부장치의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 상기 외부장치에 관한 명령어를 식별하고,
식별된 상기 외부장치의 상태에 기초하여, 상기 식별된 명령어에 따라 상기 외부장치가 수행할 기능에 대응하는 정보를 상기 인터페이스부를 통해 상기 외부장치로 전송하는
프로세서를 포함하는 전자장치.
제1항에 있어서,
상기 프로세서는,
상기 외부장치의 네트워크 연결여부 또는 인증정보 보유여부 중 적어도 어느 하나에 기초하여 상기 외부장치의 상태를 식별하는 전자장치.
제1항에 있어서,
상기 프로세서는,
상기 수신되는 제1오디오신호가 외부장치의 시작명령어에 대응하는 것에 기초하여, 상기 인터페이스부를 통해 상기 외부장치의 상태에 대한 정보를 수신하는 전자장치.
제1항에 있어서,
상기 프로세서는,
상기 외부장치가 수행할 기능에 대응하는 정보와 관련된 임시정보를 전송하도록 상기 인터페이스부를 제어하는 전자장치.
제4항에 있어서,
상기 임시정보는 기설정된 시간 또는 횟수 동안 이용 가능한 정보를 포함하는 전자장치.
제1항에 있어서,
상기 프로세서는,
상기 외부장치가 수행할 기능에 대응하는 정보를 획득하는 다른 외부장치를 식별하고,
식별된 다른 외부장치로부터 상기 인터페이스부를 통해 상기 정보를 수신하는 전자장치.
제1항에 있어서,
자연어 처리 엔진을 포함하고,
상기 프로세서는, 상기 자연어 처리 엔진에 기초하여 상기 제2오디오신호에 대응하는 상기 외부장치에 관한 명령어를 식별하는 전자장치.
제1항에 있어서,
디스플레이를 더 포함하고,
상기 프로세서는,
상기 식별한 외부장치의 상태를 나타내는 GUI(Graphic User Interface)를 표시하도록 상기 디스플레이를 제어하는 전자장치.
전자장치의 제어방법에 있어서,
외부장치의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 상기 외부장치에 관한 명령어를 식별하는 단계; 및
식별된 상기 외부장치의 상태에 기초하여, 상기 식별된 명령어에 따라 상기 외부장치가 수행할 기능에 대응하는 정보를 상기 외부장치로 전송하는 단계를 포함하는 것을 특징으로 하는 전자장치의 제어방법.
제9항에 있어서,
상기 외부장치의 네트워크 연결여부 또는 인증정보 보유여부 중 적어도 어느 하나에 기초하여 상기 외부장치의 상태를 식별하는 단계를 더 포함하는 전자장치의 제어방법.
제9항에 있어서,
상기 수신되는 제1오디오신호가 외부장치의 시작명령어에 대응하는 것에 기초하여, 상기 인터페이스부를 통해 상기 외부장치의 상태에 대한 정보를 수신하는 단계를 더 포함하는 전자장치의 제어방법.
제9항에 있어서,
상기 외부장치가 수행할 기능에 대응하는 정보를 상기 외부장치로 전송하는 단계는,
상기 외부장치가 수행할 기능에 대응하는 정보와 관련된 임시정보를 전송하는 단계를 포함하는 전자장치의 제어방법.
제12항에 있어서,
상기 임시정보는 기설정된 시간 또는 횟수 동안 이용 가능한 정보인 전자장치의 제어방법.
제9항에 있어서,
상기 외부장치가 수행할 기능에 대응하는 정보를 획득하는 다른 외부장치를 식별하는 단계; 및
식별된 다른 외부장치로부터 상기 인터페이스부를 통해 상기 정보를 수신하는 단계를 포함하는 전자장치의 제어방법.
제9항에 있어서,
상기 외부장치에 관한 명령어를 식별하는 단계는, 자연어 처리 엔진에 기초하여 상기 제2오디오신호에 대응하는 상기 외부장치에 관한 명령어를 식별하는 단계를 포함하는 전자장치의 제어방법.
제9항에 있어서,
식별한 외부장치의 상태를 나타내는 GUI(Graphic User Interface)를 표시하는 단계를 더 포함하는 전자장치의 제어방법.
컴퓨터가 읽을 수 있는 코드로서, 전자장치의 제어방법을 수행하는 코드를 포함하는 컴퓨터 프로그램이 저장된 기록매체에 있어서, 상기 전자장치의 제어방법은,
외부장치의 시작명령어에 대응하는 것으로 식별되는 제1오디오신호 이후에 수신되는 제2오디오신호에 기초하여 상기 외부장치에 관한 명령어를 식별하는 단계; 및
식별된 상기 외부장치의 상태에 기초하여, 상기 식별된 명령어에 따라 상기 외부장치가 수행할 기능에 대응하는 정보를 상기 외부장치로 전송하는 단계를 포함하는 것을 특징으로 하는 컴퓨터가 읽을 수 있는 프로그램이 기록된 기록매체.