KR20200111853A - 전자 장치 및 전자 장치의 음성 인식 제어 방법 - Google Patents

전자 장치 및 전자 장치의 음성 인식 제어 방법 Download PDF

Info

Publication number
KR20200111853A
KR20200111853A KR1020190031198A KR20190031198A KR20200111853A KR 20200111853 A KR20200111853 A KR 20200111853A KR 1020190031198 A KR1020190031198 A KR 1020190031198A KR 20190031198 A KR20190031198 A KR 20190031198A KR 20200111853 A KR20200111853 A KR 20200111853A
Authority
KR
South Korea
Prior art keywords
electronic device
voice
speech
user
output data
Prior art date
Application number
KR1020190031198A
Other languages
English (en)
Inventor
피오트르 마르친키에비치
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190031198A priority Critical patent/KR20200111853A/ko
Priority to US16/444,019 priority patent/US11094313B2/en
Priority to PCT/KR2019/007357 priority patent/WO2020189850A1/en
Priority to EP19920439.7A priority patent/EP3877975B1/en
Publication of KR20200111853A publication Critical patent/KR20200111853A/ko
Priority to US17/399,852 priority patent/US11854527B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033—Voice editing, e.g. manipulating the voice of the synthesiser
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/04—Segmentation; Word boundary detection
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G10L13/10—Prosody rules derived from text; Stress or intonation
    • G10L2013/105—Duration
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G10L2015/025—Phonemes, fenemes or fenones being the recognition units

Abstract

본 발명의 다양한 실시예들은, 전자 장치에 있어서, 스피커; 마이크; 상기 스피커, 및 상기 마이크에 작동적으로 연결된 프로세서; 및 상기 프로세서에 작동적으로 연결된 메모리를 포함하고, 상기 메모리는 상기 프로세서가 실행될 때, 상기 마이크를 통해 음성 입력 신호를 수신하고, 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하고, 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하고, 상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하고, 상기 생성된 음성 신호를 상기 스피커를 통해 출력하도록 하는 인스트럭션들을 저장할 수 있다.
또한, 본 발명의 다양한 실시예들은 다른 실시예들이 가능할 수 있다.

Description

전자 장치 및 전자 장치의 음성 인식 제어 방법{ELECTRONIC DEVICE AND METHOD FOR PROVIDING VOICE RECOGNITION CONTROL THEREOF}
다양한 실시 예는 전자 장치 및 전자 장치의 음성 인식 제어 방법에 관한 것이다.
인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템으로서 기계가 스스로 학습하고 판단하며, 사용할수록 인식률이 향상되는 시스템이다.
인공지능 기술은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘을 이용하는 기계학습(예: 딥러닝) 기술 및 기계학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 요소 기술들로 구성된다.
요소 기술들은, 예로, 인간의 언어/문자를 인식하는 언어적 이해 기술, 사물을 인간의 시각처럼 인식하는 시각적 이해 기술, 정보를 판단하여 논리적으로 추론하고 예측하는 추론/예측 기술, 인간의 경험 정보를 지식데이터로 처리하는 지식 표현 기술 및 차량의 자율 주행, 또는 로봇의 움직임을 제어하는 동작 제어 기술 중 적어도 하나를 포함할 수 있다.
예를 들어, 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함할 수 있다.
예를 들어, 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함할 수 있다.
예를 들어, 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함할 수 있다.
예를 들어, 지식 표현은 인간의 경험 정보를 지식 데이터로 자동화 처리하는 기술로서, 지식 구축(예: 데이터 생성/분류), 지식 관리(예: 데이터 활용) 등을 포함할 수 있다.
예를 들어, 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(예: 항법, 충동, 주행), 조작 제어(예: 행동 제어) 등을 포함할 수 있다.
음성 인식 기능을 갖춘 전자 장치는 사용자로부터 발화(utterance)를 획득하고, 상기 발화에 기설정된 단어(예컨대, wake-up word)가 포함되어 있을 경우, 전자 장치의 모드를 명령 실행 모드로 전환하고, 상기 발화에 포함된 명령어 수행을 위한 관련된 동작을 수행할 수 있다. 예를 들어, 상기 획득한 발화에서 기설정된 단어의 포함 여부를 확인하는 방법은, 상기 획득한 발화의 음향적 특성(audio characteristic)을 분석하여 저장된 발화의 음향적 특성과 비교하는 방법, 또는 상기 획득한 발화를 문자열로 변환하고(STT; speech-to-text), 상기 변환된 문자열을 기저장된 단어와 비교하는 방법 중 적어도 하나의 방법을 포함할 수 있다.
다양한 예로서, 음성 인식 기능을 갖춘 전자 장치(예: 스마트폰, 스마트 스피커)는 보이스 어시스턴트(voice assistant)로 지칭될 수 있으며, 마이크를 통해 사용자의 발화를 획득하고, 이에 상응하여 스피커를 통해 음성 응답을 출력할 수 있다. 이때, 상기 음성 인식 기능을 갖춘 전자 장치는 상기 음성 응답을 출력할 때 하나의 고정된 음성 출력 속도(speech rate)로만 음성 신호를 출력함으로써 사용자와 전자 장치 간의 상호 작용이 원활하지 않는 문제점이 있다.
본 개시의 다양한 실시예에서는, 음성 인식 기능을 갖춘 전자 장치를 통해 음성 응답이 출력될 때, 미리 설정된 다양한 조건에 따라 음성 출력 속도를 조정하여 출력할 수 있는 전자 장치 및 전자 장치의 음성 인식 제어 방법을 제공할 수 있다.
전술한 과제 또는 다른 과제를 해결하기 위한, 한 실시예에 따른 전자 장치는, 스피커; 마이크; 상기 스피커, 및 상기 마이크에 작동적으로 연결된 프로세서; 및 상기 프로세서에 작동적으로 연결된 메모리를 포함하고, 상기 메모리는 상기 프로세서가 실행될 때, 상기 마이크를 통해 음성 입력 신호를 수신하고, 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하고, 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하고, 상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하고, 상기 생성된 음성 신호를 상기 스피커를 통해 출력하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예 중 어느 하나에 따른 전자 장치의 동작 방법은, 전자 장치의 음성 인식 제어 방법에 있어서, 마이크를 통해 음성 입력 신호를 수신하는 동작; 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하는 동작; 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하는 동작; 상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작; 및 상기 생성된 음성 신호를 상기 스피커를 통해 출력하는 동작을 포함할 수 있다.
다양한 실시예에 따른 전자 장치는 음성 인식 기능을 갖춘 전자 장치를 통해 음성 신호가 출력될 때, 미리 설정된 다양한 조건에 따라 음성 출력 속도를 조정하여 출력함으로써 사용자가 복잡한 정보를 보다 쉽게 이해하고 기억할 수 있다.
또한, 다양한 실시예에 따른 전자 장치는 음성 인식 기능을 갖춘 전자 장치를 통해 음성 신호가 출력될 때, 특정 단어 또는 특정 음절의 음성 출력 속도를 다른 단어 또는 다른 음절의 음성 출력 속도보다 더 느리게 설정함으로써 사용자가 원하는 정보를 반복 요청하는 상황을 방지할 수 있다.
도 1은 본 개시의 다양한 실시 예에 따른 시스템 환경을 나타내는 도면이다.
도 2는 본 개시의 다양한 실시 예에 따른 전자 장치의 세부 구성을 나타내는 블록도이다.
도 3은 본 개시의 다양한 실시 예에 따른 전자 장치 및 서버의 세부 구성을 나타내는 블록도이다.
도 4는 본 개시의 다양한 실시 예에 따른 전자 장치의 음성 인식 제어 절차를 나타내는 흐름도이다.
도 5는 본 개시의 다양한 실시 예에 따른 음성 신호 출력 절차를 나타내는 흐름도이다.
도 6은 본 개시의 다양한 실시 예에 따른 전자 장치와의 대화 상황을 나타내는 도면이다.
도 7은 본 개시의 다양한 실시 예에 따른 전자 장치에서의 음성 출력 속도 제어를 나타내는 도면이다.
도 8은 본 개시의 다양한 실시 예에 따른 전자 장치에서의 음성 출력 속도 제어를 나타내는 도면이다.
도 9는 본 개시의 다양한 실시 예에 따른 전자 장치에서의 음성 출력 속도 제어를 나타내는 도면이다.
도 10은 본 개시의 다양한 실시 예에 따른 서버에서의 학습 모듈을 나타내는 도면이다.
도 11은 본 개시의 다양한 실시 예에 따른 전자 장치와의 대화 상황을 나타내는 도면이다.
도 12는 본 개시의 다양한 실시 예에 따른 전자 장치와의 대화 상황을 나타내는 도면이다.
도 13은 본 개시의 다양한 실시 예에 따른 음성 합성 절차를 나타내는 도면이다.
도 14a, 도 14b, 도 14c, 및 도 14d는 음성 합성 절차에서의 음성 신호들을 나타내는 도면들이다.
도 15a, 및 도 15b는 음성 합성 절차에서의 음성 신호들의 출력 속도를 조정하는 개념을 나타내는 도면들이다.
도 16은 본 개시의 다양한 실시 예에 따른 화자 인식 시스템을 나타내는 도면이다.
도 17은 본 개시의 다양한 실시 예에 따른 통합 지능화 시스템을 나타낸 도면이다.
도 18은 본 개시의 일 실시 예에 따른 통합 지능화 시스템의 사용자 단말을 나타낸 블록도이다.
도 19는 본 개시의 일 실시 예에 따른 사용자 단말의 지능형 앱을 실행시키는 것을 나타낸 도면이다.
도 20은 본 개시의 다양한 실시예에 따른 전자 장치의 블록도를 도시한다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A/B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째," 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다. "복수의"라는 표현은 적어도 둘 이상을 의미할 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 HMD 장치 중 적어도 하나를 포함할 수 있다. HMD 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head mounted device; HMD) 또는 머리 착용형 디스플레이 장치(head mounted display; HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 또는 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
후술하는 실시예들에서, 전자 장치의 예로서 음성 인식 기능을 갖춘 스마트폰 또는 스마트 스피커를 예를 들어 설명하나, 후술하는 실시예들이 상기 장치들로 제한되는 것은 아니다.
도 1은 본 개시의 다양한 실시 예에 따른 시스템 환경을 나타내는 도면이다. 도 1을 참조하면, 다양한 실시예에 따른 시스템 환경은 다양한 형태의 전자 장치(101)를 포함할 수 있다. 상기 전자 장치(101)는 예컨대 스마트 스피커(101a), 또는 스마트폰(101b)을 포함할 수 있으며, 이에 한정되는 것은 아니다.
상기 전자 장치(101)는 음성 인식 기능을 갖춘 전자 장치로서 사용자가 발화한 음성을 마이크를 통해 수신할 수 있으며, 상기 사용자의 발화에 따라 상기 마이크를 통해 수신된 음성 입력 신호를 음성 인식하여 그 결과를 스피커를 통해 출력할 수 있다.
상기 음성 입력 신호에 대한 음성 인식 처리는 부분적으로 자동 음성 인식(ASR; automatic speech recognition) 및/또는 자연어 이해(NLU; natural language understanding) 처리를 포함할 수 있다. 다양한 실시예에 따라, 상기 음성 인식 처리는 상기 전자 장치(101)에 저장된 음성 인식 모듈에서 처리되거나, 서버(130)에서 처리될 수 있다.
예컨대, 상기 전자 장치(101)의 마이크를 통해 수신된 음성 입력 신호 또는 상기 음성 입력 신호에 대응하는 정보는 통신 네트워크(120)를 통해 서버(130)(예컨대, 지능형 서버 또는 클라우드 서버)로 전송될 수 있다. 서버(130)는 상기 전자 장치(101)로부터 수신된 음성 입력 신호 또는 음성 입력 신호에 대응하는 정보를 ASR 및/또는 NLU 처리함으로써 음성 인식을 수행할 수 있다. 상기 서버(130)에서 처리된 음성 인식 결과는 적어도 하나의 태스크 또는 음성 출력 데이터를 포함할 수 있으며, 상기 서버(130)에서 생성된 음성 인식 결과는 통신 네트워크(120)를 통해 해당 전자 장치(101)로 전송될 수 있다. 상기 전자 장치(101) 또는 서버(130)에서 수행되는 구체적인 음성 인식 과정 및 음성 인식 결과의 상세한 예들은 후술하기로 한다.
다양한 실시예에 따라, 상기 전자 장치(101) 또는 서버(130)에서 처리된 음성 인식의 결과는 음성 출력 데이터를 포함할 수 있으며, 상기 음성 출력 데이터는 상기 전자 장치(101)의 스피커를 통해 출력될 수 있다. 다양한 실시예에 따라, 전자 장치(101)는 상기 음성 출력 데이터를 스피커를 통해 출력할 때, 기설정된 조건에 따라 음성 출력 속도(speech rate)를 조정하여 출력할 수 있다. 예컨대, 전자 장치(101)는 상기 음성 출력 데이터의 전체 문장의 음성 출력 속도를 조정하거나, 상기 전체 문장에 포함된 적어도 하나의 단어에 대한 음성 출력 속도를 조정하거나, 상기 전체 문장에 포함된 적어도 하나의 음절 또는 음운에 대한 음성 출력 속도를 조정할 수 있다.
상기 음성 출력 속도는 음성 레이트 또는 발화 레이트로 지칭될 수 있다. 예컨대, 상기 음성 출력 속도는 단위 시간 당 음성 출력되는 단어들의 개수로 정의될 수 있으나, 후술하는 실시예들이 이에 한정되지는 않는다. 다양한 실시예에 따라, 전자 장치(101)는 상기 음성 출력 속도의 조정 시 설정된 평균 음성 출력 속도의 50% 내지 200%까지 조정하여 출력할 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 사용자의 요구, 스킬(skill)들, 대화의 내용(context) 및 상기 사용자에 의한 정보 이해에 영향을 끼칠 수 있는 외부 요인들을 고려하여 적응적으로 음성 출력 속도를 조정할 수 있다. 다양한 실시예에 따라, 전자 장치(101)는 사용자와 전자 장치(101) 간의 대화를 학습하고 이후 대화 시 상기 학습된 정보를 이용하여 적응적으로 음성 출력 속도를 조정할 수 있다. 예컨대, 상기 전자 장치(101)는 상기 전자 장치(101)의 스피커를 통해 출력되는 정보가 사용자가 기억하기 어려운 문장 또는 단어일 경우 해당 문장 또는 단어의 출력 속도를 정상 속도보다 더 느리게 조정하여 출력할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101)는 사용자로부터 발화를 획득하고, 상기 획득한 발화를 분석하여 관련된 동작을 수행하거나 수행하도록 할 수 있다. 다양한 실시예에 따라, 상기 전자 장치(101)는 사용자의 발화를 획득하고, 상기 획득한 발화로부터 발화 성문을 획득함으로써 사용자 식별, 사용자 등록 또는 사용자 인증을 수행할 수 있다. 다양한 실시예에 따라, 상기 전자 장치(101)는 상기 사용자 인증된 정보를 이용하여 적응적으로 음성 출력 속도를 조정할 수 있다. 이에 대한 상세한 실시예들의 설명은 후술하기로 한다.
상기 서버(130)는 사용자의 데이터를 저장하고 관리하는 기능을 수행할 수 있다. 또한, 상기 서버(130)는 상기 전자 장치(101)에서 출력할 음성 출력 데이터에 대한 음성 출력 속도 조정과 관련된 정보를 저장하고 관리할 수 있다.
다양한 실시예에 따라, 상기 서버(130)는 사용자의 스킬들, 접근성 레벨, 사용자의 나이, 학습 스킬들, 사용자가 특정 정보를 기억하는 능력에 대한 정보 등을 데이터베이스에 저장할 수 있다. 상기 서버(130)는 사용자가 전자 장치(101)를 향해 발화할 때, 또는 사용자가 상기 정보의 반복을 요구하거나, 또는 상기 정보를 더 느리게 말할 것을 요구하거나, 또는 보다 구체적인 사항들(예컨대, 숫자, 주소, 이름)을 문의할 때 상기 서버(130)에 포함된 데이터베이스 또는 상기 서버(130)에서 관리하는 데이터베이스를 갱신할 수 있다. 다양한 실시예에 따라, 전자 장치(101)가 적어도 일부의 정보를 제공하는 것이 요구될 때, 상기 전자 장치(101)는 상기 서버(130)의 데이터베이스 내에 미리 정의되어 있는 설정들 또는 학습된 사용자의 선호도들(preferences)을 고려하여 음성 출력 속도를 조정할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101)는 스피커를 통해 출력될 정보가 사용자에 의해 기억되는 것이 어려울 때, 또는 사용자에 의해 이해되는 것이 어려울 때, 또는 정보의 특성 또는 본질이 복잡한 정보일 때, 음성 출력 데이터가 평균적으로 출력되는 속도 또는 설정된 기준 속도보다 더 느리게 출력되도록 조정할 수 있다. 반면, 상기 전자 장치(101)는 스피커를 통해 출력될 정보가 사용자에 의해 쉽게 이해될 수 있는 정보로 판단될 때, 평균적으로 출력되는 속도로 출력시키거나, 평균적으로 출력되는 속도보다 더 빠르게 출력되도록 조정할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101)는 사용자와 대화하는 동안 동적으로 음성 출력 데이터의 음성 출력 속도를 변경할 수 있다. 예컨대, 필요에 따라 상기 전자 장치(101)는 음성 출력 속도를 더 느리게 조정할 수 있으며, 위급한(critical) 정보가 출력될 때, 음성 출력 속도를 더 빠르게 조정할 수 있다. 다양한 실시예에 따라, 상기 전자 장치(101)는 상기 사용자가 일부 정보를 더 느리게 반복하는 것을 요청할 때, 이를 인식하여 향후 대화에서 이를 고려하여 음성 출력 속도를 조정할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101) 또는 상기 서버(130)는 사용자가 발화한 음성의 음성 출력 속도 또는 사용자가 발화한 내용 중 특정 정보에 대해 강조하는 순간들을 분석할 수 있다. 예컨대, 상기 사용자의 음성 출력 속도가 일부 특별한 순간들에서 변경될 경우(예컨대, 숫자들을 말하는 경우), 상기 전자 장치(101)는 이를 고려하여 대응하는 단어에 대해 음성 출력 속도를 조정하여 출력할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101) 또는 상기 서버(130)는 사용자가 발화한 과거의 음성 대화들을 기반으로 사용자의 연령 및 접근성을 판단하고, 상기 판단한 정보를 기반으로 음성 출력 속도를 조정하여 출력할 수 있다. 또한, 상기 전자 장치(101) 또는 상기 서버(130)는 접근 모드, 연령, 개인 선호도와 같은 사용자 설정을 기반으로 음성 출력 속도를 조정하여 출력할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101) 또는 상기 서버(130)는 상황 또는 외부 입력을 기반으로 음성 출력 속도를 조정하여 출력할 수 있다. 예컨대, 상기 상황 또는 외부 입력은 사용자에 의해 말해지는 단어들, 전달되는 정보의 복잡도 변경, 단어들을 이해하기 어렵게 하는 잡음의 발생 등을 포함할 수 있다.
다양한 실시예에 따라, 상기 전자 장치(101) 또는 상기 서버(130)는 언제 음성 출력 속도 변조를 변경할 것인지를 판단할 수 있다. 상기 음성 출력 속도는 미리 정의된 데이터 또는 설정에 기반하여 판단될 수 있으며, 인공 지능(AI; artificial intelligence) 서버(예컨대, 상기 서버(130))에 의한 자기 학습의 결과에 따라 판단될 수도 있다.
다양한 실시예에 따라, 상기 미리 정의된 데이터 또는 설정의 예로서, 주소, 이메일, 숫자, 언어의 번역이 제공된 단어를 포함할 수 있다. 상기 인공 지능 서버에 의한 자기 학습 결과는 사용자의 평균 음성 출력 속도에 대한 조정, 특정 순간들에서의 사용자의 음성 출력 속도에 대한 조정, 단어/문장을 더 느리게 말하고/발음하는 것에 대한 사용자의 요청들이 고려될 수 있다.
도 2는 본 발명의 다양한 실시 예에 따른 전자 장치(101)(예컨대, 스마트 스피커(101a) 또는 스마트폰(101b))의 세부 구성을 나타내는 블록도이다.
프로세서(Processing Unit, 201)는 상기 전자 장치(101)의 다양한 구성 요소들을 제어하여 임의의 동작을 수행할 수 있다.
메모리(Memory Unit, 202)는 음성 분석 모듈(203), 사용자 식별 모듈(204), CODEC(205), 운영 체제(206), 클라우드 서비스 클라이언트(207), 피드백 모듈(208), 인텔리전트 에이전트(209), 또는 사용자 데이터(210)를 포함할 수 있다. 다양한 실시예에 따라, 상기 메모리(202)는 상기 전자 장치(101)의 구동을 위한 소프트웨어, 상기 소프트웨어 구동에 필요한 데이터 및 사용자 데이터를 저장할 수 있다. 상기 소프트웨어는 운영 체제, 프레임워크, 또는 응용 프로그램 중 적어도 하나를 포함할 수 있다. 상기 소프트웨어 구동에 필요한 데이터는 소프트웨어 구동 중 임시로 생성, 사용되는 임시 데이터, 또는 상기 소프트웨어 구동에 의해 생성되어 저장되는 프로그램 데이터 중 적어도 하나를 포함할 수 있다. 상기 사용자 데이터는 사용자가 생성하거나 획득한 다양한 형태의 콘텐트일 수 있다. 예를 들어, 상기 사용자 데이터는 음악, 동영상, 사진, 또는 문서 중 적어도 하나를 포함할 수 있다.
음성 분석 모듈(voice analysis module, 203)은 사용자의 발화를 획득하여 이를 분석할 수 있다. 상기 분석은 발화로부터 성문 획득, 획득한 성문을 인증 성문으로 저장, 또는 저장된 인증 성문과 발화 성문 비교 중 적어도 하나를 포함할 수 있다. 또한, 상기 분석은 상기 발화로부터 텍스트 추출(STT: speech-to-text), 또는 자연어 처리 중 적어도 하나의 기능을 포함하거나 적어도 하나의 기능을 수행하도록 하여 결과를 확인하는 기능을 포함할 수 있다.
사용자 식별 모듈(user identification module, 204)은 상기 전자 장치(101) 및 상기 전자 장치(101)와 연동된 서비스를 사용할 수 있는 사용자 계정을 관리할 수 있다. 상기 사용자 식별 모듈(204)은 상기 사용자 계정을 및 상기 사용자 계정 인증을 위한 관련 정보를 저장할 수 있다. 상기 사용자 식별 모듈(204)은 아이디/패스워드, 장치 인증, 또는 성문 인증 등 다양한 인증 방법 중 적어도 하나를 참고하여, 상기 전자 장치의 사용을 원하는 사용자에 대한 인증 절차를 수행할 수 있다.
코덱(CODEC. 205)은 영상 또는 음성 데이터를 압축하여 저장하거나(coder, encoding), 압축된 영상 또는 음성 데이터를 아날로그 신호로 출력하기 위해 압축을 해제(decoder, decoding)하는 동작을 수행한다. 상기 코덱(205)은 S/W의 형태로 상기 메모리(202)에 저장되어 상기 프로세서(201)에 의해 구동될 수 있다. 또한 상기 코덱(205)은 펌웨어의 형태로 DSP(211)에 저장되어 구동될 수도 있다. 상기 코덱(205)은 MPEG, Indeo, DivX, Xvid, H.264, WMV, RM, MOV, ASF, 또는 RA와 같은 동영상 코덱, MP3, AC3, AAC, OGG, WMA, FLAC, 또는 DTS와 같은 오디오 코덱 중 적어도 하나를 포함할 수 있다.
운영체제(operating system, 206)는 상기 전자 장치(101)의 동작을 위한 기본적인 기능을 제공하고, 전반적인 동작 상태를 제어할 수 있다. 상기 운영체제(206)는 다양한 이벤트를 감지하고, 상기 이벤트에 대응하는 동작을 수행하도록 할 수 있다. 상기 운영체제(208)는 확장 기능 수행을 위한 제3 응용프로그램 설치 및 구동 환경을 제공할 수 있다.
클라우드 서비스 클라이언트(cloud service client, 207)는 상기 전자 장치(l01)와 서버(130)의 연결 및 관련된 동작을 수행하도록 할 수 있다. 상기 클라우드 서비스 클라이언트(205)는 상기 전자 장치(101)에 저장된 데이터와 서버(130)에 저장된 데이터의 동기화 기능을 수행할 수 있다. 또한, 상기 클라우드 서비스 클라이언트(207)는 상기 서버(130)로부터 클라우드 서비스를 제공받을 수 있다. 상기 클라우드 서비스는 데이터 저장, 또는 콘텐트 스트리밍 등을 포함한 다양한 형태의 외부 제3자 서비스 일 수 있다.
피드백 모듈(feedback module, 208)은 상기 전자 장치(101)에서 상기 전자 장치(101)의 사용자에게 제공하기 위한 피드백을 생성하고, 발생시킬 수 있다. 상기 피드백은 음향 피드백(sound feedback), LED 피드백, 진동 피드백(vibration) 또는 장치의 일부를 제어하는 방법 중 적어도 하나를 포함할 수 있다.
인텔리전트 에이전트(intelligence agent, 209)는 상기 전자 장치(101)를 통해 획득한 사용자 발화 바탕으로 인텔리전스 기능을 수행하거나 외부 인텔리전스 서비스와 연동하여 인텔리전스 기능 수행 결과를 획득할 할 수 있다. 상기 인텔리전스 기능은 상기 사용자 발화 인식 및 처리를 위한 ASR, STT, NLU, NLG, TTS, Action Planning, 또는 Reasoning 기능 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따라, 상기 인텔리전트 에이전트(207)는 상기 전자 장치(101)를 통해 획득한 사용자 발화를 인식하고, 인식된 발화에서 추출된 텍스트에 기반하여 스피커(216)로 출력될 음성 출력 데이터의 음성 출력 속도(speech rate)를 조정할 수 있다. 사용자 데이터(user data, 210)는 사용자에 의해 생성, 획득되거나 사용자가 수행한 기능에 의해 생성, 획득된 데이터일 수 있다.
디지털신호처리부(DSP; digital signal processor, 211)는 아날로그 영상 또는 아날로그 음성 신호를 전자 장치가 처리할 수 있는 디지털 신호로 변경하거나, 저장된 디지털 영상 또는 디지털 음성 신호를 사용자가 인지할 수 있는 아날로그 신호로 변경하여 출력할 수 있다. 상기 디지털신호처리부(211)는 상기 동작을 고속으로 수행하기 위해 상기 동작을 위해 필요한 연산을 회로의 형태로 구현할 수 있다. 상기 디지털신호처리부(211)는 상기 코덱(205)을 포함하거나, 상기 코덱(205)을 참고하여 동작을 수행할 수 있다.
인터페이스(interface unit, 212)는 상기 전자 장치(101)가 사용자로부터 입력을 획득하거나, 상기 사용자를 위한 정보 출력을 수행하거나, 상기 전자 장치(101)가 외부 전자 장치와 정보를 주고받는 기능을 수행할 수 있다. 보다 구체적으로 상기 인터페이스(212)는 음향 신호 처리를 위한 마이크(215), 스피커(216)와 기능적으로 연결되어 동작할 수 있다. 또 다른 예로, 상기 인터페이스부(212) 사용자에게 정보를 출력하기 위해 디스플레이(217)와 기능적으로 연결되어 동작할 수 있다. 또한 상기 인터페이스(212)는 다양한 형태로 사용자 또는 외부 전자 장치와 전자 장치(101) 간의 입출력 동작을 수행하기 위해 입출력 단자(218), 입출력부(219)와 기능적으로 연결되어 동작할 수 있다.
통신 모듈(network unit, 213)은 상기 전자 장치(101)가 외부 장치와 네트워킹 프로토콜을 이용하여 정보를 주고받도록 할 수 있다. 상기 네트워킹 프로토콜은 NFC, 블루투스/BLE, Zigbee, Z-Wave와 같은 근거리 통신 프로토콜(short-range communication protocol), TCP, 또는 UDP와 같은 인터넷 프로토콜(internet network protocol) 중 적어도 하나를 포함할 수 있다. 상기 통신 모듈(213)은 유선 통신 네트워크, 또는 무선 통신 네트워크 중 적어도 하나를 지원할 수 있다.
전원 관리 모듈(power management unit, 214)은 전원 단자(220)로부터 상기 전자 장치(101)의 구동을 위한 전력을 획득하고, 이를 제어하여 상기 전자 장치(101)의 구동을 위한 전력을 공급할 수 있다. 상기 전원 관리 모듈(214)은 상기 전원 터미널(220)로부터 획득한 전력을 배터리에 충전하도록 할 수 있다. 상기 전원 관리 모듈(214)은 상기 전자 장치(101)의 구동 또는 충전을 위해 상기 획득한 전력에 대한 전압 변경, 직/교류 변경, 전류 제어, 또는 전류 회로 제어 중 적어도 하나의 동작을 수행할 수 있다.
마이크(MIC, 215)는 사용자 또는 주변 환경으로부터 음향 신호를 획득할 수 있다. 스피커(speaker, 216)는 음향 신호를 출력할 수 있다. 디스플레이(display, 217)는 영상 신호를 출력할 수 있다.
입출력 단자(I/O port, 218)는 상기 전자 장치(101)의 기능을 확장하기 위한 외부 전자 장치와의 연결을 위한 수단을 제공할 수 있다. 상기 입출력 단자(218)는 오디오 입력 단자, 오디오 출력 단자, USB 확장 포트, 또는 랜 포트 중 적어도 하나를 포함할 수 있다.
입출력부(I/O unit, 219)는 사용자로부터 입력을 획득하고 사용자에게 정보를 출력하기 위한 다양한 장치를 포함할 수 있다. 상기 입출력부(219)는 버튼, 터치패널, 휠, 조그다이얼, 센서, LED, 진동 발생 장치, 또는 비프음(beep) 발생 장치 중 적어도 하나를 포함할 수 있다. 전원 터미널(power terminal, 220)은 상기 전자 장치(101)의 구동을 위한 AC/DC 전력을 입력 받을 수 있다.
도 3은 본 개시의 다양한 실시 예에 따른 전자 장치 및 서버의 세부 구성을 나타내는 블록도이다. 도 3을 참조하면, 전자 장치(101)는 마이크(301)(예: 도 2의 마이크(215)), DSP(302), 키워드 인식 모듈(303), 키워드 모델 데이터베이스(304), 프로세서(305)(예: 도 2의 프로세서(201)), 통신 회로(306)(예: 도 2의 통신 모듈(213)), 음성 합성 모듈(307), 속도 조정 모델 데이터베이스(307), 화자 인식 모듈(309), 또는 화자 인식 모델 데이터베이스(310)를 포함하여 구성될 수 있다. 서버(130)는 프로세서(351), 통신 회로(352), ASR 모듈(353), ARS 모델 데이터베이스(354), 음성 레이트 학습 모듈(356), MLU/DM(dialogue management) 모듈(355), 음성 레이트 학습 모델 데이터베이스(357)를 포함하여 구성될 수 있다.
마이크(301)는 사용자의 발화를 입력받을 수 있다. DSP(digital signal processor)(302)는 오디오 코덱(audio codec)(마이크 또는 스피커와 연결되어, 소리 입출력을 담당, DA/AD 컨버팅을 수행, 또는 이득(gain) 조절 등의 간단한 사운드 전처리를 수행)을 포함할 수 있다. 프로세서(305)는 적어도 하나 이상의 프로세서를 포함할 수 있으며, AP(application processor)를 포함할 수 있다.
상기 서버(130)는 인식 서버(recognizing server)를 포함할 수 있으며, 복잡하고 보다 정확한 음성인식을 수행할 수 있다. 예를 들어, large vocabulary speech recognition, speaker verification/identification, natural language understanding 기능들을 수행할 수 있다.
키워드 인식 모듈(303)(keyword recognition)은 DSP(302)에 포함된 음성 인식기로 지정된 단어를 인식할 수 있다. 키워드 모델 데이터베이스(304)는 상기 키워드 인식 모듈(303)이 인식 중에 참조하는 인식 모델을 포함할 수 있다.
음성 합성 모듈(307)은 음성 인식 결과에 따라 스피커(311)를 통해 출력될 음성 출력 데이터를 설정된 음성 출력 속도의 음성 신호로 변조하는 기능을 수행할 수 있다. 다양한 실시예에 따라, 상기 음성 합성 모듈(307)은 속도 조정 모델 데이터베이스(308)에 저장된 속도 조정 모델 정보에 기반하여 음성 출력 데이터의 음성 출력 속도를 조정할 수 있다.
예컨대, 다양한 실시예에 따라, 상기 음성 합성 모듈(307)은 상기 속도 조정 모델 데이터베이스(308)에 저장된 정보에 기반하여 상기 음성 출력 데이터의 전체 문장의 음성 출력 속도가 조정된 음성 신호를 생성하거나, 상기 전체 문장에 포함된 적어도 하나의 단어에 대한 음성 출력 속도가 조정된 음성 신호를 생성하거나, 상기 전체 문장에 포함된 적어도 하나의 음절 또는 음운에 대한 음성 출력 속도가 조정된 음성 신호를 생성할 수 있다. 상기 음성 합성 모듈(307)을 통해 생성된 음성 신호는 스피커(311)를 통해 출력될 수 있다. 상기 음성 합성 모듈(307) 및/또는 상기 속도 조정 모델 데이터베이스(308)는 적어도 일부가 서버(130)에 포함될 수도 있다.
다양한 실시예에 따라, 화자 인식 모듈(309)은 화자 인증/화자 인식(speaker verification/identification)의 기능을 수행할 수 있다. 상기 화자 인식 모듈(309)은 화자 인식 모델 데이터베이스(310)에 저장된 데이터를 참조하여 text independent speaker recognition(GMM기반, i-vector 기반 인식 방법을 포함), text dependent speaker recognition(HMM기반, DTW, 등을 포함)을 수행할 수 있다.
ASR 모듈(353)은 large vocabulary speech recognition으로서 상대적으로 수많은 단어 또는 그의 조합을 인식할 수 있다. ASR 모델 데이터베이스(354)는 상기 large vocabulary speech recognition이 인식 중에 참조하는 인식 모델을 포함할 수 있다. NLU/DM 모듈(355)은 Natural language understating로서 사람의 언어 표현을 이해하기 위한 모델을 포함할 수 있다. 예컨대, 상기 NLU/DM 모듈(355)은 사용자의 의도(intent)를 파악하여 음성 명령에 대해 어떠한 동작(action)을 수행할 것인지 정의하고, 이를 전자 장치(101)가 실행하도록 할 수 있다.
다양한 실시예 중 어느 하나에 따른 전자 장치(101)는, 스피커(216), 마이크(215), 상기 스피커(216), 및 상기 마이크(215)에 작동적으로 연결된 프로세서(201), 및 상기 프로세서(201)에 작동적으로 연결된 메모리(202)를 포함하고, 상기 메모리(202)는 상기 프로세서(201)가 실행될 때, 상기 마이크(215)를 통해 음성 입력 신호를 수신하고, 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하고, 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하고, 상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하고, 상기 생성된 음성 신호를 상기 스피커(216)를 통해 출력하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에 따라, 상기 음성 출력 데이터는, 상기 수신된 음성 입력 신호를 자동 음성 인식(ASR; automatic speech recognition) 및/또는 자연어 이해(NLU; natural language understanding) 처리하여 생성될 수 있다.
다양한 실시예에 따라, 상기 음성 출력 데이터는, 외부의 서버(130)에서 상기 음성 입력 신호를 자동 음성 인식 및/또는 자연어 이해 처리하여 생성될 수 있다.
다양한 실시예에 따라, 상기 메모리는, 상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 단어를 판단하고, 상기 지정된 조건을 만족하는 적어도 하나의 단어에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에 따라, 상기 메모리는, 상기 음성 출력 데이터에 포함된 복수의 단어들 중 각 단어에 대한 텍스트 유형을 판단하고, 상기 판단에 따라, 지정된 텍스트 유형의 단어에 대해서는 다른 유형의 단어보다 음성 출력 속도가 더 느리게 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에 따라, 상기 지정된 텍스트 유형은, 숫자, 주소, 이메일, 번역된 언어의 단어 또는 문장 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따라, 상기 메모리는, 상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운을 판단하고, 상기 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에 따라, 상기 음성 출력 속도의 조정은, 상기 음성 출력 데이터에 포함된 각 단어 또는 음절 사이에 지정된 길이의 포즈(pause) 구간을 삽입하여 조정할 수 있다.
다양한 실시예에 따라, 상기 메모리는, 상기 수신된 음성 입력 신호로부터 사용자 정보를 확인하고, 상기 확인된 사용자 정보에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장할 수 있다.
다양한 실시예에 따라, 상기 메모리는, 상기 수신된 음성 입력 신호에 포함된 각 단어의 발화 속도를 판단하고, 상기 판단한 각 단어의 발화 속도에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장할 수 있다.
도 4는 본 개시의 다양한 실시 예에 따른 전자 장치의 음성 인식 제어 절차를 나타내는 흐름도이다. 도 4를 참조하면, 동작 410에서, 전자 장치(101)는 마이크(215)를 통해 음성 입력 신호를 수신할 수 있다.
동작 420에서, 전자 장치(101)는 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득할 수 있다. 상기 음성 출력 데이터는 상기 음성 입력 신호를 음성 인식 처리하여 생성된 결과일 수 있다. 다양한 실시예에 따라, 상기 음성 입력 신호의 음성 인식 처리는 전자 장치(101)에서 수행되거나, 서버(130)에서 수행될 수 있다. 다양한 실시예에 따라, 상기 음성 입력 신호의 음성 인식 처리는 적어도 일부의 처리가 전자 장치(101)에서 수행되고, 다른 적어도 일부의 처리가 서버(130)에서 수행될 수 있다.
동작 430에서, 전자 장치(101)는 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인할 수 있다. 상기 음성 출력 속도의 조절을 위해 지정된 적어도 하나의 조건은 전자 장치(101)의 메모리(202)에 저장될 수도 있으며, 서버(130)에 저장될 수도 있다.
동작 440에서, 전자 장치(101)는 상기 지정된 적어도 하나의 조건에 기반하여, 음성 출력 속도가 조정된 음성 신호를 생성할 수 있다. 다양한 실시예에 따라, 상기 음성 출력 속도가 조정된 음성 신호는 전자 장치(101)에서 생성할 수도 있으며, 서버(130)에서 생성할 수도 있다.
동작 450에서, 전자 장치(101)는 상기 생성된 음성 신호를 스피커(216)를 통해 출력할 수 있다.
도 5는 본 개시의 다양한 실시 예에 따른 음성 신호 출력 절차를 나타내는 흐름도이다.도 5를 참조하면, 동작 510에서, 전자 장치(101)는 마이크(215)를 통해 음성 입력 신호를 수신할 수 있다.
동작 520에서, 전자 장치(101)는 상기 수신된 음성 입력 신호에 대응하는 음성 입력 데이터 또는 상기 음성 입력 데이터와 관련된 정보를 서버(130)로 전송할 수 있다.
동작 530에서, 서버(130)는 상기 전자 장치(101)로부터 수신된 음성 입력 데이터 또는 상기 음성 입력 데이터와 관련된 정보를 음성 인식 처리할 수 있다. 다양한 실시예에 따라, 상기 음성 인식 처리는 상기 자동 음성 인식 처리 및/또는 자연어 이해 처리를 포함할 수 있다. 동작 540에서, 서버(130)는 상기 음성 인식 결과의 적어도 일부로서 음성 출력 데이터를 생성할 수 있다.
동작 550에서, 서버(130)는 상기 생성된 음성 출력 데이터를 해당 전자 장치(101)로 전송할 수 있다. 동작 560에서, 전자 장치(101)는 상기 음성 출력 데이터에 대해 음성 출력 속도 조절을 위한 조건을 확인할 수 있다. 동작 570에서, 전자 장치(101)는 상기 확인된 조건에 기반하여 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성할 수 있다. 동작 580에서, 전자 장치(101)는 상기 음성 출력 속도가 조정된 음성 신호를 스피커를 통해 출력할 수 있다.
다양한 실시예에 따라, 상기 동작 530, 동작 540, 동작 560, 동작 570 중 적어도 하나의 동작은 전자 장치(101)에서 수행되거나 서버(130)에서 수행될 수 있다. 예컨대, 상기 동작 530, 동작 540 중 적어도 하나의 동작은 전자 장치(101)에서 수행될 수도 있으며, 상기 동작 560, 동작 570 중 적어도 하나의 동작은 서버(130)에서 수행될 수도 있다.
다양한 실시예 중 어느 하나에 따른 방법은, 전자 장치(예: 프로세서(201))의 음성 인식 제어 방법에 있어서, 마이크를 통해 음성 입력 신호를 수신하는 동작, 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하는 동작, 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하는 동작, 상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작, 및 상기 생성된 음성 신호를 상기 스피커를 통해 출력하는 동작을 포함할 수 있다.
다양한 실시예에 따라, 상기 음성 출력 데이터는, 상기 수신된 음성 입력 신호를 자동 음성 인식(ASR; automatic speech recognition) 및/또는 자연어 이해(NLU; natural language understanding) 처리하여 생성될 수 있다.
다양한 실시예에 따라, 상기 음성 출력 데이터는, 외부 서버에서 상기 음성 입력 신호를 자동 음성 인식 및/또는 자연어 이해 처리하여 생성될 수 있다.
다양한 실시예에 따라, 상기 방법은, 상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 단어를 판단하는 동작; 및 상기 지정된 조건을 만족하는 적어도 하나의 단어에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함할 수 있다.
다양한 실시예에 따라, 상기 방법은, 상기 음성 출력 데이터에 포함된 복수의 단어들 중 각 단어에 대한 텍스트 유형을 판단하는 동작, 및 상기 판단에 따라, 지정된 텍스트 유형의 단어에 대해서는 다른 유형의 단어보다 음성 출력 속도가 더 느리게 조정된 음성 신호를 생성하는 동작을 더 포함할 수 있다.
다양한 실시예에 따라, 상기 지정된 텍스트 유형은, 숫자, 주소, 이메일, 번역된 언어의 단어 또는 문장 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따라, 상기 방법은, 상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운을 판단하는 동작; 및 상기 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함할 수 있다.
다양한 실시예에 따라, 상기 음성 출력 속도의 조정은, 상기 음성 출력 데이터에 포함된 각 단어 또는 음절 사이에 지정된 길이의 포즈(pause) 구간을 삽입하여 조정할 수 있다.
다양한 실시예에 따라, 상기 방법은, 상기 수신된 음성 입력 신호로부터 사용자 정보를 확인하는 동작, 및 상기 확인된 사용자 정보에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함할 수 있다.
다양한 실시예에 따라, 상기 방법은, 상기 수신된 음성 입력 신호에 포함된 각 단어의 발화 속도를 판단하는 동작, 및 상기 판단한 각 단어의 발화 속도에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함할 수 있다.
이하, 도 6 내지 도 12를 참조하여 다양한 실시예에 따라, 음성 출력 데이터에 대한 음성 출력 속도를 조정하는 예를 설명하기로 한다.
도 6은 본 개시의 다양한 실시 예에 따른 전자 장치와의 대화 상황을 나타내는 도면이다. 도 6을 참조하면, 사용자는 전자 장치(101)를 향해 "Hi Bixby! Tell me the address of my next meeting"(601)이라고 발화할 수 있다. 상기 사용자의 발화 중 "Hi Bixby"는 전자 장치(101)가 수신된 음성 신호에 대해 음성 인식을 수행할 수 있도록 하는 기설정된 단어(예컨대, wake-up word)일 수 있다.
상기 전자 장치(101)는 상기 사용자의 발화에서 "Hi Bixby"를 인식하고, 음성 인식 및 명령 실행 모드로 동작하여, 상기 발화에 포함된 명령어 수행을 위한 관련된 동작을 수행할 수 있다. 상기 전자 장치(101)는 상기 기설정된 단어에 이어서 발화된 "Tell me the address of my next meeting"를 음성 인식하고, 그 결과로 스피커를 통해 "5pm, 155 Water Street New York, Chase Bank"(602)를 출력할 수 있다.
다양한 실시예에 따라, 상기 음성 인식 결과로서 상기 전자 장치(101)에서 출력될 음성 출력 데이터에는 더 느리게 출력되어야 사용자가 용이하게 이해할 수 있는 단어가 포함될 수 있다. 예컨대, 상기 전자 장치(101)의 스피커를 통해 출력될 "5pm, 155 Water Street New York, Chase Bank" 중 상기 도 6에서 밑줄로 표시된 "155 Water Street" 및 "Chase Bank"는 사용자가 보다 용이하게 이해할 수 있도록 상대적으로 더 느리게 출력되도록 할 수 있다.
보다 구체적으로, 도 7을 참조하면, 사용자는 전자 장치(101)를 향해 "Hi Bixby! Tell me the address of my next meeting"(701)이라고 발화함에 따라, 전자 장치(101)는 이를 음성 인식하여 그 결과로 스피커를 통해 "5pm, 155 Water Street New York, Chase Bank"(702)를 출력할 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 상기 스피커를 통해 출력할 전체 문장 중 적어도 하나의 단어에 대한 음성 출력 속도를 나머지 단어에 대한 음성 출력 속도와 다르게 조정하여 출력할 수 있다. 예컨대, 전자 장치(101)는 상기 스피커를 통해 출력될 "5pm, 155 Water Street New York, Chase Bank"(702) 중 "5pm" 및 "New York"은 정상 속도(일반 속도 또는 표준 속도)인 r0의 속도로 음성 합성하고, "155 Water Street"은 정상 속도 r0 보다 느린 r1의 속도로 음성 합성하고, "Chase Bank"는 정상 속도 r0 보다는 느리지만 상기 r1 보다는 빠른 r2의 속도로 음성 합성할 수 있다. 결과적으로, 전자 장치(101)는 스피커를 통해 "155 Water Street"를 t1에서 t2구간 동안 r1의 속도로 더 느리게 출력할 수 있으며, "New York"은 t2에서 t3 구간 동안 정상 속도인 r0의 속도로 출력할 수 있다.
이와 같이, 하나의 문장 내에서도 특정 단어의 음성 출력 속도를 다르게 함으로써 사용자는 전자 장치(101)의 스피커를 통해 출력되는 문장을 보다 용이하게 이해할 수 있다.
다양한 실시예에 따라, 사용자가 전자 장치(101)에 저장된 전화 번호에 대해 질의하는 발화를 할 경우, 미리 정의되어 있는 조건을 확인하여 음성 출력 속도를 조정하여 음성 신호를 합성할 수 있다. 예컨대, 문장 및 이름은 100% 음성 출력 속도로 출력되는 반면, 전화 번호는 감소된 음성 레이트(일 예로, 75% 음성 출력 속도)로 출력되고, 추가적인 포즈(pause) 구간들이 숫자들의 페어(pair)들 사이에 추가 될 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 사용자 설정들 및 인식된 사용자 클래스(일 예로, 나이, 접근성(accessibility))를 기반으로 하는 음성 출력 속도를 조정할 수 있다. 예컨대, 전자 장치(101)는 사용자에 의해 말해지는 음성 명령들의 음성 출력 속도를 측정할 수 있다. 상기 전자 장치(101)는 사용자의 나이를 평가하고 사용자 음성에서의 이상을 검출하여 접근성을 검출한다. 이와 같은 모든 소셜 데이터(social data)는 서버(130)에서 사용되어 음성 인식 동안 학습되는 음성 출력 속도의 통계를 기반으로 사용자에 대한 최적 음성 출력 속도를 결정할 수 있다. 상기 방법은 전자 장치(101)의 마이크로 입력되는 음성 데이터로부터 최적의 음성 출력 속도를 학습하는 적응적 방식을 제공할 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 실시간으로 사용자의 이해 레벨을 평가할 수 있으며, 이를 기반으로 음성 출력 속도를 조정할 수 있다. 예컨대, 사용자가 전자 장치(101)에 정보를 반복하는 것을 요구할 때 또는 스펠링에 대해서 요구할 때, 상기 전자 장치(101)는 음성 출력 속도를 조정(예컨대, 더 느리게 조정)할 수 있다.
도 8은 본 개시의 다양한 실시 예에 따른 전자 장치에서의 음성 출력 속도 제어를 나타내는 도면이다. 도 8을 참조하면, 사용자는 전자 장치(101)를 향해 "Hi Bixby! Add new Ann's phone number +1 555 666 7777"(801)이라고 발화할 수 있다. 상기 사용자의 발화 중 "Hi Bixby"는 전자 장치(101)가 수신된 음성 신호에 대해 음성 인식을 수행할 수 있도록 하는 기설정된 단어(예컨대, wake-up word)일 수 있다.
상기 전자 장치(101)는 상기 사용자의 발화에서 "Hi Bixby"를 인식하고, 음성 인식 및 명령 실행 모드로 동작하여, 상기 발화에 포함된 명령어 수행을 위한 관련된 동작을 수행할 수 있다. 상기 전자 장치(101)는 상기 기설정된 단어에 이어서 발화된 "Add new Ann's phone number +1 555 666 7777"를 음성 인식하고, 그 결과로 "+1 555 666 7777"를 "Ann"의 새로운 전화 번호로 전화 번호부에 저장한 후, 스피커를 통해 "Phone number +1 555 666 7777 added"를 출력함으로써 정상적으로 명령이 수행되었음을 사용자에게 알릴 수 있다.
다양한 실시예에 따라, 사용자는 상기와 같이 전화 번호를 등록할 때, 전자 장치(101)가 숫자를 정확히 인식할 수 있도록 일반적인 속도보다 더 느리게 발화할 수 있다. 예컨대, 사용자가 "Hi Bixby! Add new Ann's phone number +1 555 666 7777"(801)이라고 발화할 때, "Hi Bixby! Add new Ann's phone number"는 정상적인 속도인 r0의 속도로 발화하고, "+1 555 666 7777"은 정상적인 속도보다 더 느린 r1의 속도로 발화할 수 있다. 상기 전자 장치(101) 또는 서버(130)는 상기 사용자의 발화에서 특히 느리게 말한 단어 또는 단어의 유형을 판단하고 향후 음성 출력 시 이를 기반으로 음성 출력 속도를 조정할 수 있다.
다양한 실시예에 따라, 상기 도 8에 도시된 실시예에서는 상기 전자 장치(101)가 상기 사용자의 발화를 음성 인식하여 새로운 전화 번호로 전화 번호부에 저장한 후, 스피커를 통해 "Phone number +1 555 666 7777 added"를 출력할 때, 상기 "+1 555 666 7777"을 정상적인 속도보다 더 느리게 출력되도록 음성 출력 속도를 조정할 수 있다. 예컨대, 다양한 실시예에 따라, 전자 장치(101)는 사용자의 발화에 대해 각 단어별 음성 출력 속도를 분석하고, 이후 음성 출력 시 이를 반영하여 음성 출력 속도를 조정할 수 있다. 이와 같이, 전화 번호에 대응하는 음성 출력 시 전자 장치(101)로 하여금 더 낮은 음성 출력 속도를 적용하도록 함으로써 전화 번호 등록 시 인식 오류를 제거할 수 있다.
도 9는 본 개시의 다양한 실시 예에 따른 전자 장치에서의 음성 출력 속도 제어를 나타내는 도면이다. 도 9를 참조하면, 다양한 실시예에 따라, 전자 장치(101) 또는 서버(130)는 각각의 양음소(biphone)에 대한 음성 출력 속도를 학습할 수 있다. 각 언어들은 모음들에서의 음성 출력 속도가 자음들보다 더 많이 변할 수 있다. 예컨대, 도 9에 도시된 바와 같이 'five' 및 'six' 중 모음인 'i', 'e', 'i'에서 자음인 'f', 'v', 's', 'x' 보다 음성 출력 속도가 더 많이 변할 수 있다. 또한, 각 자음 또는 모음 사이의 포즈(pause) 구간의 길이도 변경될 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 각각의 양음소(biphone)에 대한 음성 출력 속도를 학습함으로써, 전자 장치(101)에서 음성 출력 시 각 음성 출력 데이터의 자음 또는 모음의 음성 출력 속도를 효과적으로 조정할 수 있다.
도 10은 본 개시의 다양한 실시 예에 따른 서버에서의 학습 모듈을 나타내는 도면이다. 도 10을 참조하면, 전자 장치(101)는 다양한 사용자의 발화를 수신하고 이를 서버(130)에 저장하여 학습할 수 있다.
예컨대, 전자 장치(101)는 사용자가 "Hi Bixby! Add new Ann's phone number +1 555 666 7777"라고 발화한 음성의 속도를 서버(130)에 저장하고 각 단어의 속도를 분석하여 학습할 수 있다.
또한, 전자 장치(101)가 스피커를 통해 "5pm, 155 Water Street New York, Chase Bank"를 출력할 때, 사용자가 "Did you say Wall Street?"로 재차 질문할 경우, 전자 장치(101) 또는 서버(130)에서는 상기 사용자가 재차 질문한 문장을 분석하여 서버(130)에서 학습할 수 있다. 이에 따라, 전자 장치(101)는 "Tho shop is on 150 Water Street"를 스피커로 출력할 때, 서버(130)를 통해 이전 학습한 내용을 확인하여 음성 출력 속도를 조정할 수 있다. 예컨대, 전자 장치(101)는 학습 내용 확인 결과, "Water Street"에 대해 사용자의 인식이 떨어져 재차 질문한 경우가 있었으므로, 출력할 전체 문장 중에서 "Water Street"에 대한 음성 출력 속도를 평균 속도보다 더 느리게 조정하여 출력할 수 있다.
또한, 전자 장치(101)가 스피커를 통해 "5pm, 155 Water Street New York, Chase Bank"를 출력할 때, 사용자가 "Which bank?"로 재차 질문할 경우, 전자 장치(101) 또는 서버(130)에서는 상기 사용자가 재차 질문한 문장을 분석하여 서버(130)에서 학습할 수 있다. 이에 따라, 전자 장치(101)는 "Tho closest ATM is in Chase Bank"를 스피커로 출력할 때, 서버(130)를 통해 이전 학습한 내용을 확인하여 음성 출력 속도를 조정할 수 있다. 예컨대, 전자 장치(101)는 학습 내용 확인 결과, "Chase Bank"에 대해 사용자의 인식이 떨어져 재차 질문한 경우가 있었으므로, 출력할 전체 문장 중에서 "Chase Bank"에 대한 음성 출력 속도를 평균 속도보다 더 느리게 조정하여 출력할 수 있다.
도 11은 본 개시의 다양한 실시 예에 따른 전자 장치와의 대화 상황을 나타내는 도면이다. 도 11을 참조하면, 사용자는 전자 장치(101)에 "Hi Bixby, connect me with phone number, please."(1101)로 발화하여 전화 번호 입력 모드를 오픈할 것을 요구할 수 있다.
전자 장치(101)는 상기 발화를 음성 인식함으로써 전화 입력 모드를 시작하고, "Please tell me number"(1102)를 출력하여 사용자에게 전화 번호를 말할 것을 요구할 수 있다.
다양한 실시예에 따라, 사용자는 전체 전화 번호 중에서 일부만을 끊어서 말할 수 있다. 전자 장치(101)는 사용자의 발화가 전화 번호임을 인식하고, 전자 장치(101)가 사용자의 발화를 정확히 인식하였음을 확인할 수 있도록 인식한 번호를 반복하여 발화할 수 있다.
예컨대, 사용자가 "237"(1103)이라고 발화하면, 전자 장치(101)는 이를 인식하고 동일하게 "237"(1104)을 스피커로 출력할 수 있다. 동일한 방법으로, 사용자가 "389"(1105)라고 발화하면, 전자 장치(101)는 이를 인식하고 동일하게 "389"(1106)를 스피커로 출력할 수 있다. 동일한 방법으로, 사용자가 "421"(1107)이라고 발화하면, 전자 장치(101)는 이를 인식하고 동일하게 "421"(1108)을 스피커로 출력할 수 있다. 마지막으로, 사용자가 "Connect"(1109)라고 발화하면, 전자 장치(101)는 "Connecting"(1110)을 스피커로 출력하면서 해당 인식된 전화 번호로 통화 연결을 시도할 수 있다.
도 12는 본 개시의 다양한 실시 예에 따른 전자 장치와의 대화 상황을 나타내는 도면이다. 도 12는 다양한 실시예에 따라, 전자 장치(101)에서 스펠링을 지원하는 예를 도시한다.
도 12를 참조하면 사용자는 "Hi Bixby, what is Ann's family name?"(1201)을 발화함으로써 전자 장치(101)가 합성어를 말하도록 요구할 수 있다.
전자 장치(101)는 상기 사용자의 발화를 음성 인식한 후, "Ann's family name is Marclnklewlcz"(1202)를 스피커로 출력할 수 있다. 상기 전자 장치(101)에서 출력된 단어는 이해하기 어려운 단어일 수 있으므로, 사용자는 "Please spell it"(1203)을 발화하여 해당 단어를 스펠하도록 요구할 수 있다.
전자 장치(101)는 서버(130)로부터 음성 레이트 모델들에 의해 학습되는 단어 이해 비율들의 레벨에 대한 데이터를 확인할 수 있다. 상기 전자 장치(101)는 음성 레이트를 사용하여 어떤 단어가 식별하는 것이 어렵고 스펠되는지를 식별할 수 있다. 상기 식별에 따라, 전자 장치(101)는 "M,A,R,C,I,N,K,I,E,W,I,C,Z"(1204)를 스피커로 출력할 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 상기 스펠링에 대해 음성 출력 속도를 조정할 수 있다. 다양한 실시예에 따라, 사용자가 전자 장치(101)에 "보다 천천히 말할 것(Say it slower)"을 요구할 경우, 전자 장치(101)는 해당 문장을 발화가 사용자가 이해하기 어렵다는 지시로서 인식할 수 있다. 전자 장치(101)는 상기 인식된 결과를 학습하여 출력될 해당 문장 또는 단어의 음성 출력 속도를 감소시키고 마지막 문장을 더 느린 음성 출력 속도로 반복하여 출력할 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 평가된 사용자의 지각 능력들을 고려하여 스피커를 통해 출력될 음성 출력 데이터 출력 속도를 조정하거나 포즈 구간을 추가할 수 있다. 예컨대, 상기 사용자의 지각 능력은 정보의 유형(예컨대, 텍스트, 주소, 이름들, 다른 언어들에서의 이름들 및 단어들), 텍스트의 복잡도, 사용자에 대한 정보의 복잡도 및 어려움(예컨대, 과학 텍스트들), 사용자에 대한 일부 새로운 정보, 복잡한 의료 정보로부터의 일부 새로운 정보, 전단지 내용 등을 포함할 수 있다.
다양한 실시예에 따라, 전자 장치(101)는 사용자의 정신 물리학적 능력들을 고려하여 스피커를 통해 출력될 음성 출력 데이터 출력 속도를 조정하거나 포즈 구간을 추가할 수 있다. 예컨대, 상기 사용자의 정신 물리학적 능력은 사용자가 얼마나 빨리 정보를 수신하여 이해할 수 있는지를 나타내며, 연령, 이해에 대한 일반적인 능력들은 정보의 전달을 더 느리게 하는 것을 필요로 할 수 있다. 상기 이해에 대한 일반적인 능력들은 사용자가 일반적으로 또는 일시적으로 얼마나 빨리 말하는지 또는 더 느리게 말하는 지를 통해 고려될 수 있다.
다양한 실시예에 따라, 사용자의 일시적인 능력들은 다음과 같을 수 있다. 예컨대, 사용자 액티비티를 기반으로 사용자가 무엇을 하고 있는지를 판단할 수 있으며, 일 예로, 운동(런닝, 짐에서의 운동)을 하고 있는 사용자는 음성을 이해하는 능력이 제한된 상태일 수 있다. 상기 사용자의 액티비티는 심박수로부터(또한 강도 정보로부터) 측정될 수 있다.
다양한 실시예에 따라, 사용자가 존재하는 장소에 대한 정보를 고려하여 스피커를 통해 출력될 음성 출력 데이터 출력 속도를 조정하거나 포즈 구간을 추가할 수 있다. 예컨대, 액티비티의 일반적인 타입으로서 사용자가 차량을 운전하는 중인 경우, 또는 이른 아침에 사용자가 일어난 직후 스피커를 통해 출력될 음성 출력 데이터 출력 속도를 조정하거나 포즈 구간을 추가할 수 있다. 예컨대, 사용자가 막 일어나서 졸리다는 것을 평가하기 위해 약간 더 느리게 출력 속도를 조정할 수 있다.
다양한 실시예에 따라, 사용자의 외부 조건들을 고려하여 스피커를 통해 출력될 음성 출력 데이터 출력 속도를 조정하거나 포즈 구간을 추가할 수 있다. 예컨대, 환경의 잡음 레벨로서 사용자가 확성기로부터 얼마다 멀리 존재하는지(그리고 스피커의 볼륨 레벨이 얼마인지), 또는 사용자가 음성을 거의 들을 수 없을 수 있을 경우, 음성 출력 속도를 느리게 조정할 수 있다.
다양한 실시예에 따라, 서버(130)는 음성 출력 속도에 이용될 학습 정보를 데이터베이스에 저장할 수 있다. 예컨대, 서버(130)에는 텍스트의 일부 유형이 할당되는 고정된 규칙들이 설정된 수 있다. 예컨대, 서버(130)에는 각 텍스트, 혹은 텍스트 유형(일 예로, 숫자, 이름, 주소, 다른 언어로 번역된 이름 등)에 따라 일부 규칙이 할당될 수 있다.
다양한 실시예에 따라, 서버(130)는 사용자로부터의 수집된 평가 정보들을 고려하여 스피커를 통해 출력될 음성 출력 데이터 출력 속도를 조정하거나 포즈 구간을 추가할 수 있다. 예컨대, 사용자가 정보를 다시 한번 문의하는 경우, 사용자들이 일부 텍스트를 어떻게 제공하는지, 어떤 단어들 또는 어떤 구문들의 유형이 사용자가 반복을 위해 요구하는지가 서버(130)를 통해 데이터베이스에 저장될 수 있다.
다양한 실시예에 따라, 상기 데이터베이스에 저장된 정보들은 다른 사용자들과 공유될 수 있으며, 다양한 추가 정보들을 포함할 수 있다. 예컨대, 상기 데이터베이스는 연령, 사용자의 성별, 국적, 사용자가 어디에 거주하고 있는지 등의 정보들을 저장하여 음성 출력 데이터의 출력 속도를 조정하기 위해 고려될 수 있다.
이하, 도 13 내지 도 15를 참조하여 전자 장치(101)에서 스피커를 통해 출력할 음성 출력 데이터를 다양한 음성 출력 속도로 음성 합성하는 실시예를 설명하기로 한다. 후술하는 실시예는, 본 개시의 구현을 위한 예시로서 이에 한정되는 것은 아니며, 다양한 음성 합성 방법이 적용될 수 있다. 예컨대, 음성 합성은 양음운(biphone)들의 개념을 기반으로 하여 처리될 수 있으며, 상기 양음운들은 PSOLA(pitch synchronous overlap and add)를 사용하여 결합될 수 있다. 상기 양음운은 음성에서의 사운드들이 글자에서 글자로 변경될 때 발생되는 인간 음성 변조들의 기록된 샘플(sample)을 나타낸다. 상기 PSOLA는 현저한 왜곡들을 초래하지 않으면서 기록된 사운드들의 길이 및 피치 중 적어도 하나 또는 둘 다를 확장시키거나 혹은 감소시킬 수 있다. 이에 따라, 음성을 2배 느리게 하거나 또는 스피드 업(speed up)하는 것이 가능하다.
도 13은 본 개시의 다양한 실시 예에 따른 음성 합성 절차를 나타내는 도면이다. 도 13을 참조하면, 스피커를 통해 출력할 음성 출력 데이터가 "phonetic"의 텍스트(1310)일 경우, 이를 음소들로 구분(1320)할 수 있다. 상기 구분된 음소들은 이음소들(diphones) 형태로 분석(1330)될 수 있으며, 도 14a 내지 도 14d에 도시된 PSOLA 방법에 따라 음성 합성 절차(1340)가 수행되어 음성 파형이 생성(1350)될 수 있다. 다양한 실시예에 따라, 음성 합성 알고리즘은 발화된 단어들의 속도를 변경하기 위해 사용될 수 있다. 합성된 음성의 발화 속도는 모음들 및 자음들에 따라서 달라질 수 있으며, 딥(deep) 신경 네트워크가 기록시의 최적 속도를 획득하기 위한 방법으로 사용될 수 있다. 또한, ASR은 더 느리게 혹은 더 빠르게 말하도록 요청된 강사들에 대해 기록되는 발화들에서의 음소들을 마킹할 수 있다.
다양한 실시예에 따라, 사용자가 발화한 실제 음성 데이터의 속도는 발화의 각 타입에 대한 음성 출력 속도 프로파일을 생성하기 위해 사용될 수 있다. 다양한 실시예에 따라, 단어들 사이의 포즈 구간들은 또한 사용자에게 의미를 이해하는데 더 많은 시간을 제공하기 위해서 적용될 수 있다. 또한, 문장들 사이의 포즈 구간들은 또한 단어들 사이의 포즈 구간들에 비해 더 길어지거나/더 짧아지도록 변경될 수 있다.
도 14a, 도 14b, 도 14c, 및 도 14d는 PSOLA 방법에 따른 음성 합성 절차를 나타는 음성 신호의 그래프들이다. 도 14a는 전체 음성 신호에서 epoch 위치들(피치 파형의 진폭 최대값들)이 표시됨을 나타낸다. 도 14b는 프로세싱 프레임들을 분할하기 위해 사용되는 해밍 윈도우(hamming window)들을 표시한 그래프이다. 도 14b의 해밍 윈도우에 따라 전체 파형 프레임들은 도 14c에 도시된 바와 같이 다수의 샘플들(예컨대, 6개의 샘플들)로 분할될 수 있다. 상기 분리된 프레임들을 오버랩 및 결합함으로써 도 14d에 도시된 바와 같이 새로운 음성이 재합성된다.
도 15a, 및 도 15b는 음성 합성 절차에서의 음성 신호들의 출력 속도를 조정하는 개념을 나타내는 도면들이다. 도 15a를 참조하면, 음성 출력 속도를 변조하는 음성 합성에 따라 분석 시간 축(analysis time axis)에서 비해 합성 시간 축(synthesys time axis)에서 음성 출력 길이가 증가하여 음성 출력 속도가 감소함을 알 수 있다. 도 15b를 참조하면, 음성 출력 속도를 변조하는 음성 합성에 따라 분석 시간 축(analysis time axis)에 비해 합성 시간 축(synthesys time axis)에서 포즈 구간이 추가됨에 따라 상기 합성 시간 축에서의 음성 출력 시간이 증가하여 음성 출력 속도가 감소함을 알 수 있다.
예컨대, 상기 도 15a 및 도 15b의 예시에서는 음성 합성 처리에 따라 음성 출력 속도가 느려짐을 알 수 있다. 상기 도 15a 및 도 15b의 상측 및 하측에 표시된 기호는 각각 상기 분석 피치-마크 및 합성 피치-마크들을 나타낸다. 도 15a에서 점선들은 원하는 시간-스케일 변조에 상응하는 상기 분석 시간 축 및 합성 시간 축간의 시간-스케일 워핑(time-scale warping) 기능을 나타낸다. 도 15b에서, 점선들은 6개의 분석 ST-신호들 중 2개의 분석 ST-신호들을 복사하는 케이스에서의 결과적인 피치-마크 매핑을 나타낸다.
도 16은 본 개시의 다양한 실시 예에 따른 화자 인식 시스템을 나타내는 도면이다. 도 16을 참조하면, 다양한 실시예에 따라, 화자 인식 시스템(1600)은 화자 인식 처리 과정(1610) 및 모델 훈련 처리 과정(1620)을 포함할 수 있다. 상기 화자 인식 처리 과정(1610)은 전처리 모듈(1611), 특성 추출 모듈(1613), 또는 패턴 매칭 모듈(1615)을 포함할 수 있다. 상기 모델 훈련 처리 과정(1620)은 전처리 모듈(1621), 특성 추출 모듈(1623), 또는 화자 모델링 모듈(1625)을 포함할 수 있다.
다양한 실시예에 따라, 상기 화자 인식 처리 과정(1610)은 입력된 음성 신호를 전처리 모듈(1611)을 통해 전처리하여 분석 프레임을 출력할 수 있다. 특성 추출 모듈(1613)은 상기 전처리 모듈(1611)을 통해 출력된 분석 프레임에서 특성을 추출하여 특성 벡터를 출력할 수 있다. 상기 패턴 매칭 모듈(1615)은 상기 특성 벡터를 화자 모델링 모듈(1625)의 결과와 비교하여 검증할 수 있으며, 상기 검증 결과는 점수(score)화되어 출력될 수 있다.
다양한 실시예에 따라, 상기 모델 훈련 처리 과정(1620)은, 입력된 음성 신호를 전처리 모듈(1621)을 통해 전처리하여 분석 프레임을 출력할 수 있다. 특성 추출 모듈(1623)은 상기 전처리 모듈(1621)을 통해 출력된 분석 프레임에서 특성을 추출하여 특성 벡터를 출력할 수 있다. 상기 화자 모델링 모듈(1625)은 상기 특성 벡터에 의해 화자를 모델링하여 등록할 수 있다.
다양한 실시예에 따라, 상기 화자 인식을 통해 전자 장치(101)는 사용자 식별, 사용자 등록 또는 사용자 인증을 수행할 수 있다. 다양한 실시예에 따라, 상기 전자 장치(101)는 상기 화자 인식을 통해 인증된 사용자 인증 정보를 이용하여 적응적으로 음성 출력 속도를 조정할 수 있다.
이하, 도 17 내지 도 19를 참조하여 전자 장치(101) 및 서버(130)에서 음성 인식을 수행하는 다양한 실시예들이 적용될 수 있는 통합 지능화 시스템을 설명하기로 한다.
도 17은 본 발명의 다양한 실시 예에 따른 통합 지능화 시스템을 나타낸 도면이다. 도 17을 참조하면, 통합 지능화 시스템(1700)은 사용자 단말(1710), 지능형 서버(1720), 개인화 정보 서버(1730) 또는 제안 서버(1740)를 포함할 수 있다.
사용자 단말(1710)은 사용자 단말(1710) 내부에 저장된 앱(app)(또는, 어플리케이션 프로그램(application program))(예: 알람 앱, 메시지 앱, 사진(갤러리) 앱 등)을 통해 사용자에게 필요한 서비스를 제공할 수 있다. 예를 들어, 사용자 단말(1710)은 사용자 단말(1710) 내부에 저장된 지능형 앱(또는, 음성 인식 앱)을 통해 다른 앱을 실행하고 동작시킬 수 있다. 사용자 단말(1710)의 상기 지능형 앱을 통해 상기 다른 앱의 실행하고 동작을 실행시키기 위한 사용자 입력을 수신할 수 있다. 상기 사용자 입력은, 예를 들어, 물리적 버튼, 터치 패드, 음성 입력, 원격 입력 등을 통해 수신될 수 있다. 일 실시 예에 따르면, 사용자 단말(1710)은 휴대폰, 스마트폰, PDA(personal digital assistant) 또는 노트북 컴퓨터 등 인터넷에 연결 가능한 각종 단말 장치(또는, 전자 장치)가 이에 해당될 수 있다.
일 실시 예에 따르면, 사용자 단말(1710)은 사용자의 발화를 사용자 입력으로 수신할 수 있다. 사용자 단말(1710)은 사용자의 발화를 수신하고, 상기 사용자의 발화에 기초하여 앱을 동작시키는 명령을 생성할 수 있다. 이에 따라, 사용자 단말(1710)은 상기 명령을 이용하여 상기 앱을 동작시킬 수 있다.
지능형 서버(1720)는 통신망을 통해 사용자 단말(1710)로부터 사용자 음성 입력(voice input)을 수신하여 텍스트 데이터(text data)로 변경할 수 있다. 다른 실시 예에서는, 지능형 서버(1720)는 상기 텍스트 데이터에 기초하여 패스 룰(path rule)을 생성(또는, 선택)할 수 있다. 상기 패스 룰은 앱의 기능을 수행하기 위한 동작(action)(또는, 오퍼레이션(operation))에 대한 정보 또는 상기 동작을 실행하기 위해 필요한 파라미터에 대한 정보를 포함할 수 있다. 또한, 상기 패스 룰은 상기 앱의 상기 동작의 순서를 포함할 수 있다. 사용자 단말(1710)은 상기 패스 룰을 수신하고, 상기 패스 룰에 따라 앱을 선택하고, 상기 선택된 앱에서 상기 패스 룰에 포함된 동작을 실행시킬 수 있다.
본 문서의 "패스 룰(path rule)" 이라는 용어는 일반적으로, 전자 장치가 사용자에 의해 요청된 태스크를 수행하기 위한 상태들의 시퀀스를 의미할 수 있지만, 이에 제한되지 않는다. 다시 말해, 패스 룰은 상태들의 시퀀스에 대한 정보를 포함할 수 있다. 상기 태스크는, 예를 들어, 지능형 앱이 제공할 수 있는 어떠한 동작(action)일 수 있다. 상기 태스크는 일정을 생성하거나, 원하는 상대방에게 사진을 전송하거나, 날씨 정보를 제공하는 것을 포함할 수 있다. 사용자 단말(1710)은 적어도 하나 이상의 상태(예: 사용자 단말(1710)의 동작 상태)를 순차적으로 가짐으로써, 상기 태스크를 수행할 수 있다.
일 실시 예에 따르면, 패스 룰은 인공 지능(artificial intelligent)(AI) 시스템에 의해 제공되거나, 생성될 수 있다. 인공지능 시스템은 룰 베이스 시스템(rule-based system) 일 수도 있고, 신경망 베이스 시스템(neual network-based system)(예: 피드포워드 신경망(feedforward neural network(FNN)), 순환 신경망(recurrent neural network(RNN))) 일 수도 있다. 또는 전술한 것의 조합 또는 이와 다른 인공지능 시스템일 수도 있다. 일 실시 예에 따르면, 패스 룰은 미리 정의된 패스 룰들의 집합에서 선택될 수 있거나, 사용자 요청에 응답하여 실시간으로 생성될 수 있다. 예를 들어, 인공지능 시스템은 미리 정의 된 복수의 패스 룰 중 적어도 패스 룰을 선택하거나, 동적(또는, 실시간)으로 패스 룰을 생성할 수 있다. 또한, 사용자 단말(1710)은 패스 룰을 제공하기 위해 하이브리드 시스템을 사용할 수 있다.
일 실시 예에 따르면, 사용자 단말(1710)은 상기 동작을 실행하고, 동작을 실행한 사용자 단말(1710)의 상태에 대응되는 화면을 디스플레이에 표시할 수 있다. 다른 실시 예에 따르면, 사용자 단말(1710)은 상기 동작을 실행하고, 동작을 수행한 결과를 디스플레이에 표시하지 않을 수 있다. 사용자 단말(1710)은, 예를 들어, 복수의 동작을 실행하고, 상기 복수의 동작의 일부 결과 만을 디스플레이에 표시할 수 있다. 예를 들어, 사용자 단말(1710)은 마지막 순서의 동작을 실행한 결과만을 디스플레이에 표시할 수 있다. 또 다른 예를 들어, 사용자 단말(1710)은 사용자의 입력을 수신하여 상기 동작을 실행한 결과를 디스플레이에 표시할 수 있다.
개인화 정보 서버(1730)는 사용자 정보가 저장된 데이터베이스를 포함할 수 있다. 예를 들어, 개인화 정보 서버(1730)는 사용자 단말(1710)로부터 사용자 정보(예: 컨텍스트 정보, 앱 실행 등)를 수신하여 상기 데이터베이스에 저장할 수 있다. 지능형 서버(1720)는 통신망을 통해 개인화 정보 서버(1730)로부터 상기 사용자 정보를 수신하여 사용자 입력에 대한 패스 룰을 생성하는 경우에 이용할 수 있다. 일 실시 예에 따르면, 사용자 단말(1710)은 통신망을 통해 개인화 정보 서버(1730)로부터 사용자 정보를 수신하여 데이터베이스를 관리하기 위한 정보로 이용할 수 있다.
제안 서버(1740)는 단말 내에 기능 혹은 어플리케이션의 소개 또는 제공될 기능에 대한 정보가 저장된 데이터베이스를 포함할 수 있다. 예를 들어, 제안 서버(1740)는 개인화 정보 서버(1730)로부터 사용자 단말기(1710)의 사용자 정보를 수신하여 사용자가 사용할 수 있는 기능에 대한 데이터베이스를 포함할 수 있다. 사용자 단말(1710)은 통신망을 통해 제안 서버(1740)로부터 상기 제공될 기능에 대한 정보를 수신하여 사용자에게 정보를 제공할 수 있다.
도 18은 본 발명의 일 실시 예에 따른 통합 지능화 시스템의 사용자 단말을 나타낸 블록도(1800)이다.
도 18을 참조하면, 사용자 단말(1710)은 입력 모듈(1711), 디스플레이(1713), 스피커(1714), 메모리(1712) 또는 프로세서(1715)를 포함할 수 있다. 사용자 단말(1710)은 하우징을 더 포함할 수 있고, 상기 사용자 단말(1710)의 구성들은 상기 하우징의 내부에 안착되거나 하우징 상에(on the housing) 위치할 수 있다.
일 실시 예에 따른, 입력 모듈(1711)은 사용자로부터 사용자 입력을 수신할 수 있다. 예를 들어, 입력 모듈(1711)은 연결된 외부 장치(예: 키보드, 헤드셋)로부터 사용자 입력을 수신할 수 있다. 다른 예를 들어, 입력 모듈(1711)은 디스플레이(1713)와 결합된 터치 스크린(예: 터치 스크린 디스플레이)을 포함할 수 있다. 또 다른 예를 들어, 입력 모듈(1711)은 사용자 단말(1710)(또는, 사용자 단말(1710)의 하우징)에 위치한 하드웨어 키(또는, 물리적 키)를 포함할 수 있다.
일 실시 예에 따르면, 입력 모듈(1711)은 사용자의 발화를 음성 신호로 수신할 수 있는 마이크(1711a)를 포함할 수 있다. 예를 들어, 입력 모듈(1711)은 발화 입력 시스템(speech input system)을 포함하고, 상기 발화 입력 시스템을 통해 사용자의 발화를 음성 신호로 수신할 수 있다.
일 실시 예에 따른, 디스플레이(1713)는 이미지나 비디오, 및/또는 어플리케이션의 실행 화면을 표시할 수 있다. 예를 들어, 디스플레이(1713)는 앱의 그래픽 사용자 인터페이스(graphic user interface)(GUI)를 표시할 수 있다.
일 실시 예에 따르면, 스피커(1714)는 음성 신호를 출력할 수 있다. 예를 들어, 스피커(1714)는 사용자 단말(1710) 내부에서 생성된 음성 신호를 외부로 출력할 수 있다.
일 실시 예에 따르면, 메모리(1712)는 복수의 앱(또는, 어플리케이션 프로그램(application program))(1718, 1719)을 저장할 수 있다. 메모리(1712)에 저장된 복수의 앱(1718, 1719)은 사용자 입력에 따라 선택되어 실행되고 동작할 수 있다.
일 실시 예에 따르면, 메모리(1712)는 사용자 입력을 인식하는데 필요한 정보를 저장할 수 있는 데이터베이스를 포함할 수 있다. 예를 들어, 메모리(1712)는 로그(log) 정보를 저장할 수 있는 로그 데이터베이스를 포함할 수 있다. 다른 예를 들어, 메모리(1712)는 사용자 정보를 저장할 수 있는 페르소나 데이터베이스를 포함할 수 있다.
일 실시 예에 따르면, 메모리(1712)는 복수의 앱(1718, 1719)을 저장하고, 복수의 앱(1718, 1719)은 로드되어 동작할 수 있다. 예를 들어, 메모리(1712)에 저장된 복수의 앱(1718, 1719)은 프로세서(1715)의 실행 매니저 모듈(1717)에 의해 로드되어 동작할 수 있다. 복수의 앱(1718, 1719)은 기능을 수행하는 실행 서비스 모듈(1718a, 1719a)을 포함할 수 있다. 일 실시 예에서, 복수의 앱(1718, 1719)은 기능을 수행하기 위해서 실행 서비스 모듈(1718a, 1719a)을 통해서 복수의 동작(예: 상태들의 시퀀스)(1718b, 1719b)을 실행 수 있다. 즉, 실행 서비스 모듈(1718a, 1719a)은 실행 매니저 모듈(1717)에 의해 활성화되고, 복수의 동작(1718b, 1719b)을 실행할 수 있다.
일 실시 예에 따르면, 앱(1718, 1719)의 동작(1718b, 1719b)이 실행되었을 때, 동작(1718b, 1719b)의 실행에 따른 실행 상태 화면은 디스플레이(1713)에 표시될 수 있다. 상기 실행 상태 화면은, 예를 들어, 동작(1718b, 1719b)이 완료된 상태의 화면일 수 있다. 상기 실행 상태 화면은, 다른 예를 들어, 동작(1718b, 1719b)의 실행이 정지된 상태(partial landing)(예: 동작(1718b, 1719b)에 필요한 파라미터가 입력되지 않은 경우)의 화면일 수 있다.
일 실시 예에 따른, 실행 서비스 모듈(1718a, 1719a)은 패스 룰에 따라 동작(1718b, 1719b)을 실행할 수 있다. 예를 들어, 실행 서비스 모듈(1718a, 1719a)은 실행 매니저 모듈(1717)에 의해 활성화되고, 실행 매니저 모듈(1717)로부터 상기 패스 룰에 따라 실행 요청을 수신하고, 상기 실행 요청에 따라 동작(1718b, 1719b)함으로써, 앱(1718, 1719)의 기능을 실행할 수 있다. 실행 서비스 모듈 (1718a, 3109a)은 상기 동작(1718b, 1719b)의 수행이 완료되면 완료 정보를 실행 매니저 모듈(1717)로 송신할 수 있다.
일 실시 예에 따르면, 앱(1718, 1719)에서 복수의 동작(1718b, 1719b)이 실행되는 경우, 복수의 동작(1718b, 1719b)은 순차적으로 실행될 수 있다. 실행 서비스 모듈(1718a, 1719a)은 하나의 동작(예: 제1 앱(1718)의 동작 1, 제2 앱(1719)의 동작 1)의 실행이 완료되면 다음 동작(예: 제1 앱(1718)의 동작 2, 제2 앱(1719)의 동작 2)을 오픈하고 완료 정보를 실행 매니저 모듈(1717)로 송신할 수 있다. 여기서 임의의 동작을 오픈한다는 것은, 임의의 동작을 실행 가능한 상태로 천이시키거나, 임의의 동작의 실행을 준비하는 것으로 이해될 수 있다. 다시 말해서, 임의의 동작이 오픈되지 않으면, 해당 동작은 실행될 수 없다. 실행 매니저 모듈(1717)은 상기 완료 정보가 수신되면 다음 동작(예: 제1 앱(1718)의 동작 2, 제2 앱(1719)의 동작 2)에 대한 실행 요청을 실행 서비스 모듈(1718a, 1719a)로 송신할 수 있다. 일 실시 예에 따르면, 복수의 앱(1718, 1719)이 실행되는 경우, 복수의 앱(1718, 1719)은 순차적으로 실행될 수 있다. 예를 들어, 제1 앱(1718)의 마지막 동작(예: 제1 앱(1718)의 동작 3)의 실행이 완료되어 완료 정보를 수신하면, 실행 매니저 모듈(1717)은 제2 앱(1719)의 첫번째 동작(예: 제2 앱(1719)의 동작 1)의 실행 요청을 실행 서비스(1719a)로 송신할 수 있다.
일 실시 예에 따르면, 앱(1718, 1719)에서 복수의 동작(1718b, 1719b)이 실행된 경우, 상기 실행된 복수의 동작(1718b, 1719b) 각각의 실행에 따른 결과 화면은 디스플레이(1713)에 표시될 수 있다. 일 실시 예에 따르면, 상기 실행된 복수의 동작(1718b, 1719b)의 실행에 따른 복수의 결과 화면 중 일부만 디스플레이(1713)에 표시될 수 있다.
일 실시 예에 따르면, 메모리(1712)는 지능형 에이전트(1715)와 연동된 지능형 앱(예: 음성 인식 앱)을 저장할 수 있다. 지능형 에이전트(1715)와 연동된 앱은 사용자의 발화를 음성 신호로 수신하여 처리할 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715)와 연동된 앱은 입력 모듈(1711)을 통해 입력되는 특정 입력(예: 하드웨어 키를 통한 입력, 터치 스크린을 통한 입력, 특정 음성 입력)에 의해 동작될 수 있다.
일 실시 예에 따르면, 프로세서(1715)는 사용자 단말(1710)의 전반적인 동작을 제어할 수 있다. 예를 들어, 프로세서(1715)는 입력 모듈(1711)을 제어하여 사용자 입력을 수신할 수 있다. 프로세서(1715)는 디스플레이(1713)를 제어하여 이미지를 표시할 수 있다. 프로세서(1715)는 스피커(1714)를 제어하여 음성 신호를 출력할 수 있다. 프로세서(1715)는 메모리(1712)를 제어하여 필요한 정보를 불러오거나 저장할 수 있다.
일 실시 예에 따르면 프로세서(1715)는 지능형 에이전트(1715a), 실행 매니저 모듈(1717) 또는 지능형 서비스 모듈(1716)을 포함할 수 있다. 일 실시 예에서, 프로세서(1715)는 메모리(1712)에 저장된 명령어들을 실행하여 지능형 에이전트(1715a), 실행 매니저 모듈(1717) 또는 지능형 서비스 모듈(1716)을 구동시킬 수 있다. 본 발명의 다양한 실시 예에서 언급되는 여러 모듈들은 하드웨어로 구현될 수도 있고, 소프트웨어로 구현될 수도 있다. 본 발명의 다양한 실시 예에서 지능형 에이전트(1715a), 실행 매니저 모듈(1717) 또는 지능형 서비스 모듈(1716)에 의해 수행되는 동작은 프로세서(1715)에 의해 수행되는 동작으로 이해될 수 있다.
일 실시 예에 따른, 지능형 에이전트(1715a)는 사용자 입력으로 수신된 음성 신호에 기초하여 앱을 동작시키는 명령을 생성할 수 있다. 일 실시 예에 따른, 실행 매니저 모듈(1717)은 지능형 에이전트(1715a)로부터 상기 생성된 명령을 수신하여 메모리(1712)에 저장된 앱(1718, 1719)을 선택하여 실행시키고 동작시킬 수 있다. 일 실시 예에 따르면, 지능형 서비스 모듈(1716)은 사용자의 정보를 관리하여 사용자 입력을 처리하는데 이용할 수 있다.
지능형 에이전트(1715a)는 입력 모듈(1711)을 통해 수신된 사용자 입력을 지능형 서버(1720)로 송신하여 처리할 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1715a)는 상기 사용자 입력을 지능형 서버(1720)로 송신하기 전에, 상기 사용자 입력을 전처리할 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)는 상기 사용자 입력을 전처리하기 위하여, 적응 반향 제거(adaptive echo canceller)(AEC) 모듈, 노이즈 억제(noise suppression)(NS) 모듈, 종점 검출(end-point detection)(EPD) 모듈 또는 자동 이득 제어(automatic gain control)(AGC) 모듈을 포함할 수 있다. 상기 적응 반향 제거부는 상기 사용자 입력에 포함된 에코(echo)를 제거할 수 있다. 상기 노이즈 억제 모듈은 상기 사용자 입력에 포함된 배경 잡음을 억제할 수 있다. 상기 종점 검출 모듈은 상기 사용자 입력에 포함된 사용자 음성의 종점을 검출하여 사용자의 음성이 존재하는 부분을 찾을 수 있다. 상기 자동 이득 제어 모듈은 상기 사용자 입력을 인식하여 처리하기 적합하도록 상기 사용자 입력의 음량을 조절할 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)는 성능을 위하여 상기 전처리 구성을 전부 포함할 수 있지만, 다른 실시 예에서 지능형 에이전트(1715a)는 저전력으로 동작하기 위해 상기 전처리 구성 중 일부를 포함할 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1715a)는 사용자의 호출을 인식하는 웨이크 업(wake up) 인식 모듈을 포함할 수 있다. 상기 웨이크 업 인식 모듈은 음성 인식 모듈을 통해 사용자의 웨이크 업 명령을 인식할 수 있고, 상기 웨이크 업 명령을 수신한 경우 사용자 입력을 수신하기 위해 지능형 에이전트(1715a)를 활성화시킬 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)의 웨이크 업 인식 모듈은 저전력 프로세서(예: 오디오 코덱에 포함된 프로세서)에서 구현될 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)는 하드웨어 키를 통한 사용자 입력에 따라 활성화될 수 있다. 지능형 에이전트(1715a)가 활성화 되는 경우, 지능형 에이전트(1715a)와 연동된 지능형 앱(예: 음성 인식 앱)이 실행될 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1715a)는 사용자 입력을 실행하기 위한 음성 인식 모듈을 포함할 수 있다. 상기 음성 인식 모듈은 앱에서 동작을 실행하도록 하기 위한 사용자 입력을 인식할 수 있다. 예를 들어, 상기 음성 인식 모듈은 앱(1718, 1719)에서 상기 웨이크 업 명령과 같은 동작을 실행하는 제한된 사용자 (음성) 입력(예: 카메라 앱이 실행 중일 때 촬영 동작을 실행시키는 "찰칵"과 같은 발화 등)을 인식할 수 있다. 상기 지능형 서버(1720)를 보조하여 사용자 입력을 인식하는 음성 인식 모듈은, 예를 들어, 사용자 단말(1710) 내에서 처리할 수 있는 사용자 명령을 인식하여 빠르게 처리할 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)의 사용자 입력을 실행하기 위한 음성 인식 모듈은 앱 프로세서에서 구현될 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1715a)의 음성 인식 모듈(웨이크 업 모듈의 음성 인식 모듈을 포함)은 음성을 인식하기 위한 알고리즘을 이용하여 사용자 입력을 인식할 수 있다. 상기 음성을 인식하기 위해 사용되는 알고리즘은, 예를 들어, HMM(hidden markov model) 알고리즘, ANN(artificial neural network) 알고리즘 또는 DTW(dynamic time warping) 알고리즘 중 적어도 하나일 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1751a)는 사용자의 음성 입력을 텍스트 데이터로 변환할 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)는 사용자의 음성을 지능형 서버(1720)로 전달하여, 변환된 텍스트 데이터를 수신할 수 있다. 이에 따라, 지능형 에이전트(1715a)는 상기 텍스트 데이터를 디스플레이(1713)에 표시할 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1715a)는 지능형 서버(1720)로부터 송신한 패스 룰을 수신할 수 있다. 일 실시 예에 따르면, 지능형 에이전트(1715a)은 상기 패스 룰을 실행 매니저 모듈(1717)로 송신할 수 있다.
일 실시 예에 따르면, 지능형 에이전트(1715a)는 지능형 서버(1720)로부터 수신된 패스 룰에 따른 실행 결과 로그(log)를 지능형 서비스(intelligence service) 모듈(1716)로 송신하고, 상기 송신된 실행 결과 로그는 페르소나 모듈(persona manager)(1716b)의 사용자의 선호(preference) 정보에 누적되어 관리될 수 있다.
일 실시 예에 따른, 실행 매니저 모듈(1717)은 지능형 에이전트(1715a)로부터 패스 룰을 수신하여 앱(1718, 1719)을 실행시키고, 앱(1718, 1719)이 상기 패스 룰에 포함된 동작(1718b, 1719b)을 실행하도록 할 수 있다. 예를 들어, 실행 매니저 모듈(1717)은 앱(1718, 1719)으로 동작(1718b,3019b)을 실행하기 위한 명령 정보(예: 패스 룰 정보)를 송신할 수 있고, 상기 앱(1718, 1719)으로부터 동작(1718b, 1719b)의 완료 정보를 수신할 수 있다.
일 실시 예에 따르면, 실행 매니저 모듈(1717)은 지능형 에이전트(1715a)와 앱(1718, 1719)의 사이에서 앱(1718, 1719)의 동작(1718b, 1719b)을 실행하기 위한 명령 정보(예: 패스 룰 정보)를 송수신할 수 있다. 실행 매니저 모듈(1717)은 상기 패스 룰에 따라 실행할 앱(1718, 1719)을 바인딩(binding)하고, 상기 패스 룰에 포함된 동작(1718b, 1719b)의 명령 정보(예: 패스 룰 정보)를 앱(1718, 1719)으로 송신할 수 있다. 예를 들어, 실행 매니저 모듈(1717)은 상기 패스 룰에 포함된 동작(1718b, 1719b)을 순차적으로 앱(1718, 1719)으로 송신하여, 앱(1718, 1719)의 동작(1718b, 1719b)을 상기 패스 룰에 따라 순차적으로 실행시킬 수 있다.
일 실시 예에 따르면, 실행 매니저 모듈(1717)은 앱(1718, 1719)의 동작(1718b, 1719b)의 실행 상태를 관리할 수 있다. 예를 들어, 실행 매니저 모듈(1717)은 앱(1718, 1719)으로부터 상기 동작(1718b, 1719b)의 실행 상태에 대한 정보를 수신할 수 있다. 상기 동작(1718b, 1719b)의 실행 상태가, 예를 들어, 정지된 상태(partial landing)인 경우(예: 동작(1718b, 1719b)에 필요한 파라미터가 입력되지 않은 경우), 실행 매니저 모듈(1717)은 상기 정지된 상태에 대한 정보를 지능형 에이전트(1715a)로 송신할 수 있다. 지능형 에이전트(1715a)는 상기 수신된 정보를 이용하여, 사용자에게 필요한 정보(예: 파라미터 정보)의 입력을 요청할 수 있다. 상기 동작(1718b, 1719b)의 실행 상태가, 다른 예를 들어, 동작 상태인 경우에 사용자로부터 발화를 수신할 수 있고, 실행 매니저 모듈(1717)은 상기 실행되고 있는 앱(1718, 1719) 및 앱(1718, 1719)의 실행 상태에 대한 정보를 지능형 에이전트(1715a)로 송신할 수 있다. 지능형 에이전트(1715a)는 지능형 서버(1720)를 통해 상기 사용자의 발화의 파라미터 정보를 수신할 수 있고, 상기 수신된 파라미터 정보를 실행 매니저 모듈(1717)로 송신할 수 있다. 실행 매니저 모듈(1717)은 상기 수신한 파라미터 정보를 이용하여 동작(1718b, 1719b)의 파라미터를 새로운 파라미터로 변경할 수 있다.
일 실시 예에 따르면, 실행 매니저 모듈(1717)은 패스 룰에 포함된 파라미터 정보를 앱(1718, 1719)으로 전달할 수 있다. 상기 패스 룰에 따라 복수의 앱(1718, 1719)이 순차적으로 실행되는 경우, 실행 매니저 모듈(1717)은 하나의 앱에서 다른 앱으로 패스 룰에 포함된 파라미터 정보를 전달할 수 있다.
일 실시 예에 따르면, 실행 매니저 모듈(1717)은 복수의 패스 룰을 수신할 수 있다. 실행 매니저 모듈(1717)은 사용자의 발화에 기초하여 복수의 패스 룰이 선택될 수 있다. 예를 들어, 실행 매니저 모듈(1717)은 사용자의 발화가 일부 동작(1718a)을 실행할 일부 앱(1718a)을 특정하였지만, 나머지 동작(1719b)을 실행할 다른 앱(1719)을 특정하지 않은 경우, 일부 동작(1718a)을 실행할 동일한 앱(1718)(예: 갤러리 앱)이 실행되고 나머지 동작(1719b)를 실행할 수 있는 서로 다른 앱(1719)(예: 메시지 앱, 텔레그램 앱)이 각각 실행되는 서로 다른 복수의 패스 룰을 수신할 수 있다. 실행 매니저 모듈(1717)은, 예를 들어, 상기 복수의 패스 룰의 동일한 동작(1718b, 1719b)(예: 연속된 동일한 동작(1718b, 1719b))을 실행할 수 있다. 실행 매니저 모듈(1717)은 상기 동일한 동작까지 실행한 경우, 상기 복수의 패스 룰에 각각 포함된 서로 다른 앱(1718, 1719)을 선택할 수 있는 상태 화면을 디스플레이(1720)에 표시할 수 있다.
일 실시 예에 따르면, 지능형 서비스 모듈(1716)은 컨텍스트 모듈(1716a), 페르소나 모듈(1716b) 또는 제안 모듈(1716c)을 포함할 수 있다.
컨텍스트 모듈(1716a)은 앱(1718, 1719)으로부터 앱(1718, 1719)의 현재 상태를 수집할 수 있다. 예를 들어, 컨텍스트 모듈(1716a)은 앱(1718, 1719)의 현재 상태를 나타내는 컨텍스트 정보를 수신하여 앱(1718, 1719)의 현재 상태를 수집할 수 있다.
페르소나 모듈(1716b)은 사용자 단말(1710)을 사용하는 사용자의 개인 정보를 관리할 수 있다. 예를 들어, 페르소나 모듈(1716b)은 사용자 단말(1710)의 사용 정보 및 수행 결과를 수집하여 사용자의 개인 정보를 관리할 수 있다.
제안 모듈(1716c)은 사용자의 의도를 예측하여 사용자에게 명령을 추천해줄 수 있다. 예를 들어, 제안 모듈(1716c)은 사용자의 현재 상태(예: 시간, 장소, 상황, 앱)를 고려하여 사용자에게 명령을 추천해줄 수 있다.
도 19는 본 발명의 일 실시 예에 따른 사용자 단말의 지능형 앱을 실행시키는 것을 나타낸 도면이다.
도 19를 참조하면, 사용자 단말(1900)이 사용자 입력을 수신하여 지능형 에이전트(1715a)와 연동된 지능형 앱(예: 음성 인식 앱)을 실행시키는 것을 나타낸 것이다.
일 실시 예에 따르면, 사용자 단말(1900)은 하드웨어 키(1912)를 통해 음성을 인식하기 위한 지능형 앱을 실행시킬 수 있다. 예를 들어, 사용자 단말(1900)은 하드웨어 키(1912)를 통해 사용자 입력을 수신한 경우 디스플레이(1920)에 지능형 앱의 UI(user interface)(1921)를 표시할 수 있다. 사용자는, 예를 들어, 지능형 앱의 UI(1921)가 디스플레이(1920)에 표시된 상태에서 음성을 입력(1911b)하기 위해 지능형 앱의 UI(1921)에 음성인식 버튼(1921a)를 터치할 수 있다. 사용자는, 다른 예를 들어, 음성을 입력(1920b)하기 위해 상기 하드웨어 키(1912)를 지속적으로 눌러서 음성을 입력(1920b)을 할 수 있다.
일 실시 예에 따르면, 사용자 단말(1900)은 마이크(1911)를 통해 음성을 인식하기 위한 지능형 앱을 실행시킬 수 있다. 예를 들어, 사용자 단말(1900)은 마이크(1911)를 통해 지정된 음성(예: 일어나!(wake up!))이 입력(1920a)된 경우 디스플레이(1920)에 지능형 앱의 UI(1921)를 표시할 수 있다.
도 20은, 다양한 실시예들에 따른, 네트워크 환경(2000) 내의 전자 장치(2001)의 블럭도이다. 도 20을 참조하면, 네트워크 환경(2000)에서 전자 장치(2001)(예컨대, 도 1의 전자 장치(101))는 제 1 네트워크(2098)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(2002)와 통신하거나, 또는 제 2 네트워크(2099)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(2004) 또는 서버(2008)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(2001)는 서버(2008)를 통하여 전자 장치(2004)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(2001)는 프로세서(2020), 메모리(2030), 입력 장치(2050), 음향 출력 장치(2055), 표시 장치(2060), 오디오 모듈(2070), 센서 모듈(2076), 인터페이스(2077), 햅틱 모듈(2079), 카메라 모듈(2080), 전력 관리 모듈(2088), 배터리(2089), 통신 모듈(2090), 가입자 식별 모듈(2096), 또는 안테나 모듈(2097)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(2001)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(2060) 또는 카메라 모듈(2080))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(2076)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(2060)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(2020)는, 예를 들면, 소프트웨어(예: 프로그램(2040))를 실행하여 프로세서(2020)에 연결된 전자 장치(2001)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(2020)는 다른 구성요소(예: 센서 모듈(2076) 또는 통신 모듈(2090))로부터 수신된 명령 또는 데이터를 휘발성 메모리(2032)에 로드하고, 휘발성 메모리(2032)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(2034)에 저장할 수 있다. 일실시예에 따르면, 프로세서(2020)는 메인 프로세서(2021)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(2023)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(2023)은 메인 프로세서(2021)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(2023)는 메인 프로세서(2021)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(2023)는, 예를 들면, 메인 프로세서(2021)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(2021)를 대신하여, 또는 메인 프로세서(2021)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(2021)와 함께, 전자 장치(2001)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(2060), 센서 모듈(2076), 또는 통신 모듈(2090))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(2023)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(2080) 또는 통신 모듈(2090))의 일부로서 구현될 수 있다.
메모리(2030)는, 전자 장치(2001)의 적어도 하나의 구성요소(예: 프로세서(2020) 또는 센서모듈(2076))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(2040)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(2030)는, 휘발성 메모리(2032) 또는 비휘발성 메모리(2034)를 포함할 수 있다.
프로그램(2040)은 메모리(2030)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(2042), 미들 웨어(2044) 또는 어플리케이션(2046)을 포함할 수 있다.
입력 장치(2050)는, 전자 장치(2001)의 구성요소(예: 프로세서(2020))에 사용될 명령 또는 데이터를 전자 장치(2001)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(2050)은, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(2055)는 음향 신호를 전자 장치(2001)의 외부로 출력할 수 있다. 음향 출력 장치(2055)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(2060)는 전자 장치(2001)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(2060)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(2060)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(2070)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(2070)은, 입력 장치(2050) 를 통해 소리를 획득하거나, 음향 출력 장치(2055), 또는 전자 장치(2001)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(2002)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(2076)은 전자 장치(2001)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(2076)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(2077)는 전자 장치(2001)이 외부 전자 장치(예: 전자 장치(2002))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(2077)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(2078)는, 그를 통해서 전자 장치(2001)가 외부 전자 장치(예: 전자 장치(2002))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(2078)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(2079)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(2079)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(2080)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(2080)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(2088)은 전자 장치(2001)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(2088)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(2089)는 전자 장치(2001)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(2089)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(2090)은 전자 장치(2001)와 외부 전자 장치(예: 전자 장치(2002), 전자 장치(2004), 또는 서버(2008))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(2090)은 프로세서(2020)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(2090)은 무선 통신 모듈(2092)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(2094)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(2098)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(2099)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(2092)은 가입자 식별 모듈(2096)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(2098) 또는 제 2 네트워크(2099)와 같은 통신 네트워크 내에서 전자 장치(2001)를 확인 및 인증할 수 있다.
안테나 모듈(2097)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(2097)은 하나 이상의 안테나들을 포함할 수 있고, 이로부터, 제 1 네트워크 2098 또는 제 2 네트워크 2099와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(2090)에 의하여 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(2090)과 외부 전자 장치 간에 송신되거나 수신될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(2099)에 연결된 서버(2008)를 통해서 전자 장치(2001)와 외부의 전자 장치(2004)간에 송신 또는 수신될 수 있다. 전자 장치(2002, 2004) 각각은 전자 장치(2001)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(2001)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(2002, 2004, or 2008) 중 하나 이상의 외부 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(2001)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(2001)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(2001)로 전달할 수 있다. 전자 장치(2001)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다.. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(2036) 또는 외장 메모리(2038))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(2040))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치(예: 전자 장치(101))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(201, 2020))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(2036) 또는 외장 메모리(2038))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(2040))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치(예: 전자 장치(101))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(201))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
상기 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱 (heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
다양한 실시예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 전자 장치의 음성 인식 제어 방법에 있어서, 마이크를 통해 음성 입력 신호를 수신하는 동작, 상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하는 동작, 상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하는 동작, 상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작, 및 상기 생성된 음성 신호를 상기 스피커를 통해 출력하는 동작을 포함할 수 있다.
그리고 본 명세서와 도면에 발명된 본 발명의 실시예들은 본 발명의 실시예에 따른 기술 내용을 쉽게 설명하고 본 발명의 실시예의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 실시예의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 다양한 실시예의 범위는 여기에 발명된 실시예들 이외에도 본 발명의 다양한 실시예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 다양한 실시예의 범위에 포함되는 것으로 해석되어야 한다.
101 : 전자 장치 101a : AI 스피커
101b : 스마트폰 120 : 통신 네트워크
130 : 서버 201 : 프로세서
202 : 메모리 203 : 음성 분석 모듈
204 : 사용자 식별 모듈 205 : CODEC
206 : 운영 체제 207 : 클라우드 서비스 클라이언트
208 : 피드백 모듈 209 : 인텔리전트 에이전트
210 : 사용자 데이터 211 : DSP
212 : 인터페이스 213 : 통신 모듈
214 : 전원 관리 모듈 215 : 마이크
216 : 스피커 217 : 디스플레이
218 : 입출력 단자 219 : 입출력부
220 : 전원 터미널

Claims (20)

  1. 전자 장치에 있어서,
    스피커;
    마이크;
    상기 스피커, 및 상기 마이크에 작동적으로 연결된 프로세서; 및
    상기 프로세서에 작동적으로 연결된 메모리를 포함하고, 상기 메모리는 상기 프로세서가 실행될 때,
    상기 마이크를 통해 음성 입력 신호를 수신하고,
    상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하고,
    상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하고,
    상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하고,
    상기 생성된 음성 신호를 상기 스피커를 통해 출력하도록 하는 인스트럭션들을 저장하는, 전자 장치.
  2. 제1항에 있어서, 상기 음성 출력 데이터는,
    상기 수신된 음성 입력 신호를 자동 음성 인식(ASR; automatic speech recognition) 및/또는 자연어 이해(NLU; natural language understanding) 처리하여 생성되는, 전자 장치.
  3. 제2항에 있어서, 상기 음성 출력 데이터는,
    외부 서버에서 상기 음성 입력 신호를 자동 음성 인식 및/또는 자연어 이해 처리하여 생성되는, 전자 장치.
  4. 제1항에 있어서, 상기 메모리는,
    상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 단어를 판단하고,
    상기 지정된 조건을 만족하는 적어도 하나의 단어에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장하는, 전자 장치.
  5. 제4항에 있어서, 상기 메모리는,
    상기 음성 출력 데이터에 포함된 복수의 단어들 중 각 단어에 대한 텍스트 유형을 판단하고,
    상기 판단에 따라, 지정된 텍스트 유형의 단어에 대해서는 다른 유형의 단어보다 음성 출력 속도가 더 느리게 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장하는, 전자 장치.
  6. 제5항에 있어서, 상기 지정된 텍스트 유형은,
    숫자, 주소, 이메일, 번역된 언어의 단어 또는 문장 중 적어도 하나를 포함하는, 전자 장치.
  7. 제1항에 있어서, 상기 메모리는,
    상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운을 판단하고,
    상기 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장하는, 전자 장치.
  8. 제1항에 있어서, 상기 음성 출력 속도의 조정은,
    상기 음성 출력 데이터에 포함된 각 단어 또는 음절 사이에 지정된 길이의 포즈(pause) 구간을 삽입하여 조정하는, 전자 장치.
  9. 제1항에 있어서, 상기 메모리는,
    상기 수신된 음성 입력 신호로부터 사용자 정보를 확인하고,
    상기 확인된 사용자 정보에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장하는, 전자 장치.
  10. 제1항에 있어서, 상기 메모리는,
    상기 수신된 음성 입력 신호에 포함된 각 단어의 발화 속도를 판단하고,
    상기 판단한 각 단어의 발화 속도에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하도록 하는 인스트럭션들을 저장하는, 전자 장치.
  11. 전자 장치의 음성 인식 제어 방법에 있어서,
    마이크를 통해 음성 입력 신호를 수신하는 동작;
    상기 수신된 음성 입력 신호에 대응하여 출력할 음성 출력 데이터를 획득하는 동작;
    상기 음성 출력 데이터에 대한 음성 출력 속도(speech rate)의 조절을 위해 지정된 적어도 하나의 조건을 확인하는 동작;
    상기 지정된 조건에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작; 및
    상기 생성된 음성 신호를 상기 스피커를 통해 출력하는 동작을 포함하는, 전자 장치의 음성 인식 제어 방법.
  12. 제11항에 있어서, 상기 음성 출력 데이터는,
    상기 수신된 음성 입력 신호를 자동 음성 인식(ASR; automatic speech recognition) 및/또는 자연어 이해(NLU; natural language understanding) 처리하여 생성되는, 전자 장치의 음성 인식 제어 방법.
  13. 제12항에 있어서, 상기 음성 출력 데이터는,
    외부 서버에서 상기 음성 입력 신호를 자동 음성 인식 및/또는 자연어 이해 처리하여 생성되는, 전자 장치의 음성 인식 제어 방법.
  14. 제11항에 있어서, 상기 방법은,
    상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 단어를 판단하는 동작; 및
    상기 지정된 조건을 만족하는 적어도 하나의 단어에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함하는, 전자 장치의 음성 인식 제어 방법.
  15. 제14항에 있어서, 상기 방법은,
    상기 음성 출력 데이터에 포함된 복수의 단어들 중 각 단어에 대한 텍스트 유형을 판단하는 동작; 및
    상기 판단에 따라, 지정된 텍스트 유형의 단어에 대해서는 다른 유형의 단어보다 음성 출력 속도가 더 느리게 조정된 음성 신호를 생성하는 동작을 더 포함하는, 전자 장치의 음성 인식 제어 방법.
  16. 제15항에 있어서, 상기 지정된 텍스트 유형은,
    숫자, 주소, 이메일, 번역된 언어의 단어 또는 문장 중 적어도 하나를 포함하는, 전자 장치의 음성 인식 제어 방법.
  17. 제11항에 있어서, 상기 방법은,
    상기 음성 출력 데이터에 포함된 복수의 단어들 중 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운을 판단하는 동작; 및
    상기 지정된 조건을 만족하는 적어도 하나의 음절 또는 음운에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함하는, 전자 장치의 음성 인식 제어 방법.
  18. 제11항에 있어서, 상기 음성 출력 속도의 조정은,
    상기 음성 출력 데이터에 포함된 각 단어 또는 음절 사이에 지정된 길이의 포즈(pause) 구간을 삽입하여 조정하는, 전자 장치의 음성 인식 제어 방법.
  19. 제11항에 있어서, 상기 방법은,
    상기 수신된 음성 입력 신호로부터 사용자 정보를 확인하는 동작; 및
    상기 확인된 사용자 정보에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함하는, 전자 장치의 음성 인식 제어 방법.
  20. 제11항에 있어서, 상기 방법은,
    상기 수신된 음성 입력 신호에 포함된 각 단어의 발화 속도를 판단하는 동작; 및
    상기 판단한 각 단어의 발화 속도에 기반하여, 상기 음성 출력 데이터에 대한 음성 출력 속도가 조정된 음성 신호를 생성하는 동작을 더 포함하는, 전자 장치의 음성 인식 제어 방법.
KR1020190031198A 2019-03-19 2019-03-19 전자 장치 및 전자 장치의 음성 인식 제어 방법 KR20200111853A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020190031198A KR20200111853A (ko) 2019-03-19 2019-03-19 전자 장치 및 전자 장치의 음성 인식 제어 방법
US16/444,019 US11094313B2 (en) 2019-03-19 2019-06-18 Electronic device and method of controlling speech recognition by electronic device
PCT/KR2019/007357 WO2020189850A1 (en) 2019-03-19 2019-06-18 Electronic device and method of controlling speech recognition by electronic device
EP19920439.7A EP3877975B1 (en) 2019-03-19 2019-06-18 Electronic device and method for outputting a speech signal
US17/399,852 US11854527B2 (en) 2019-03-19 2021-08-11 Electronic device and method of controlling speech recognition by electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190031198A KR20200111853A (ko) 2019-03-19 2019-03-19 전자 장치 및 전자 장치의 음성 인식 제어 방법

Publications (1)

Publication Number Publication Date
KR20200111853A true KR20200111853A (ko) 2020-10-05

Family

ID=72514816

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190031198A KR20200111853A (ko) 2019-03-19 2019-03-19 전자 장치 및 전자 장치의 음성 인식 제어 방법

Country Status (4)

Country Link
US (2) US11094313B2 (ko)
EP (1) EP3877975B1 (ko)
KR (1) KR20200111853A (ko)
WO (1) WO2020189850A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024043592A1 (ko) * 2022-08-26 2024-02-29 삼성전자주식회사 전자 장치 및 텍스트 음성 변환의 속도 제어 방법

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9954996B2 (en) 2007-06-28 2018-04-24 Apple Inc. Portable electronic device with conversation management for incoming instant messages
US9207835B1 (en) 2014-05-31 2015-12-08 Apple Inc. Message user interfaces for capture and transmittal of media and location content
US10992795B2 (en) 2017-05-16 2021-04-27 Apple Inc. Methods and interfaces for home media control
US11431836B2 (en) 2017-05-02 2022-08-30 Apple Inc. Methods and interfaces for initiating media playback
CN111343060B (zh) 2017-05-16 2022-02-11 苹果公司 用于家庭媒体控制的方法和界面
US20220279063A1 (en) 2017-05-16 2022-09-01 Apple Inc. Methods and interfaces for home media control
US10372298B2 (en) 2017-09-29 2019-08-06 Apple Inc. User interface for multi-user communication session
DK201870364A1 (en) 2018-05-07 2019-12-03 Apple Inc. MULTI-PARTICIPANT LIVE COMMUNICATION USER INTERFACE
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
CN109378006B (zh) * 2018-12-28 2022-09-16 三星电子（中国）研发中心 一种跨设备声纹识别方法及系统
US10904029B2 (en) 2019-05-31 2021-01-26 Apple Inc. User interfaces for managing controllable external devices
US10996917B2 (en) 2019-05-31 2021-05-04 Apple Inc. User interfaces for audio media control
US11363071B2 (en) 2019-05-31 2022-06-14 Apple Inc. User interfaces for managing a local network
DK201970533A1 (en) 2019-05-31 2021-02-15 Apple Inc Methods and user interfaces for sharing audio
EP4231124A1 (en) 2019-05-31 2023-08-23 Apple Inc. User interfaces for audio media control
KR20210020656A (ko) * 2019-08-16 2021-02-24 엘지전자 주식회사 인공 지능을 이용한 음성 인식 방법 및 그 장치
KR20210052921A (ko) * 2019-11-01 2021-05-11 엘지전자 주식회사 소음 환경에서의 음성 합성
US11295741B2 (en) * 2019-12-05 2022-04-05 Soundhound, Inc. Dynamic wakewords for speech-enabled devices
US20210304736A1 (en) * 2020-03-30 2021-09-30 Nvidia Corporation Media engagement through deep learning
US11513667B2 (en) * 2020-05-11 2022-11-29 Apple Inc. User interface for audio message
US11924052B2 (en) * 2020-09-24 2024-03-05 Electronics And Telecommunications Research Institute Management server that controls network devices, and processing methods of network devices and model management servers
US11392291B2 (en) 2020-09-25 2022-07-19 Apple Inc. Methods and interfaces for media control with dynamic feedback
US11694685B2 (en) * 2020-12-10 2023-07-04 Google Llc Hotphrase triggering based on a sequence of detections
US20220230631A1 (en) * 2021-01-18 2022-07-21 PM Labs, Inc. System and method for conversation using spoken language understanding
US11817117B2 (en) * 2021-01-29 2023-11-14 Nvidia Corporation Speaker adaptive end of speech detection for conversational AI applications
US11671697B2 (en) 2021-01-31 2023-06-06 Apple Inc. User interfaces for wide angle video conference
US11907605B2 (en) 2021-05-15 2024-02-20 Apple Inc. Shared-content session user interfaces
US11360634B1 (en) 2021-05-15 2022-06-14 Apple Inc. Shared-content session user interfaces
US11893214B2 (en) 2021-05-15 2024-02-06 Apple Inc. Real-time communication user interface
US20230008868A1 (en) * 2021-07-08 2023-01-12 Nippon Telegraph And Telephone Corporation User authentication device, user authentication method, and user authentication computer program
CN113840208A (zh) * 2021-09-13 2021-12-24 广西大学 一种交互式智能云音箱系统
US11812135B2 (en) 2021-09-24 2023-11-07 Apple Inc. Wide angle video conference

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0431885A (ja) 1990-05-28 1992-02-04 Canon Inc 画像形成装置
JPH09152889A (ja) * 1995-11-29 1997-06-10 Sanyo Electric Co Ltd 話速変換装置
JPH11231885A (ja) 1998-02-19 1999-08-27 Fujitsu Ten Ltd 音声合成装置
JP2003263200A (ja) 2002-03-11 2003-09-19 Ricoh Co Ltd 話速変換装置、話速変換方法、音声ガイダンス装置、メディア装置、記憶媒体および話速変換プログラム
JP4026543B2 (ja) 2003-05-26 2007-12-26 日産自動車株式会社 車両用情報提供方法および車両用情報提供装置
JP2005003390A (ja) 2003-06-09 2005-01-06 Nissan Motor Co Ltd 車載情報提示装置
JP2005070430A (ja) 2003-08-25 2005-03-17 Alpine Electronics Inc 音声出力装置および方法
US7643991B2 (en) * 2004-08-12 2010-01-05 Nuance Communications, Inc. Speech enhancement for electronic voiced messages
JP4752516B2 (ja) 2006-01-12 2011-08-17 日産自動車株式会社 音声対話装置および音声対話方法
EP2051241B1 (en) * 2007-10-17 2010-12-08 Harman Becker Automotive Systems GmbH Speech dialog system with play back of speech output adapted to the user
WO2013118387A1 (ja) * 2012-02-10 2013-08-15 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
KR102050897B1 (ko) 2013-02-07 2019-12-02 삼성전자주식회사 음성 대화 기능을 구비한 휴대 단말기 및 이의 음성 대화 방법
KR102525209B1 (ko) * 2016-03-03 2023-04-25 한국전자통신연구원 원시 발화자의 목소리와 유사한 특성을 갖는 합성음을 생성하는 자동 통역 시스템 및 그 동작 방법
US10276149B1 (en) * 2016-12-21 2019-04-30 Amazon Technologies, Inc. Dynamic text-to-speech output
US10586079B2 (en) * 2016-12-23 2020-03-10 Soundhound, Inc. Parametric adaptation of voice synthesis
US10276185B1 (en) * 2017-08-15 2019-04-30 Amazon Technologies, Inc. Adjusting speed of human speech playback

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024043592A1 (ko) * 2022-08-26 2024-02-29 삼성전자주식회사 전자 장치 및 텍스트 음성 변환의 속도 제어 방법

Also Published As

Publication number Publication date
WO2020189850A1 (en) 2020-09-24
US20200302913A1 (en) 2020-09-24
EP3877975B1 (en) 2023-10-04
US20210375265A1 (en) 2021-12-02
US11094313B2 (en) 2021-08-17
EP3877975A4 (en) 2022-01-12
US11854527B2 (en) 2023-12-26
EP3877975A1 (en) 2021-09-15

Similar Documents

Publication Publication Date Title
US11854527B2 (en) Electronic device and method of controlling speech recognition by electronic device
KR102371313B1 (ko) 사용자 발화를 처리하는 전자 장치 및 그 전자 장치의 제어 방법
KR102513297B1 (ko) 전자 장치 및 전자 장치의 기능 실행 방법
KR102293063B1 (ko) 사용자 정의 가능한 웨이크업 음성 명령
US20200279553A1 (en) Linguistic style matching agent
US10777193B2 (en) System and device for selecting speech recognition model
US11430438B2 (en) Electronic device providing response corresponding to user conversation style and emotion and method of operating same
KR102563817B1 (ko) 사용자 음성 입력 처리 방법 및 이를 지원하는 전자 장치
KR102508863B1 (ko) 전자 장치 및 상기 전자 장치로부터 수신된 데이터를 처리하는 서버
CN112840396A (zh) 用于处理用户话语的电子装置及其控制方法
KR102391298B1 (ko) 음성 인식 서비스를 제공하는 전자 장치 및 그 방법
US11120792B2 (en) System for processing user utterance and controlling method thereof
KR20190090424A (ko) 사용자 발화 응답 방법 및 이를 지원하는 전자 장치
KR20180116726A (ko) 음성 데이터 처리 방법 및 이를 지원하는 전자 장치
US11315553B2 (en) Electronic device and method for providing or obtaining data for training thereof
KR20210042523A (ko) 전자 장치 및 이의 제어 방법
CN112384974A (zh) 电子装置和用于提供或获得用于训练电子装置的数据的方法
KR20200044175A (ko) 전자 장치 및 그의 비서 서비스 제공 방법
KR20200092763A (ko) 사용자 음성을 처리하는 전자장치 및 그 제어 방법
KR20230067501A (ko) 음성 합성 장치 및 그의 음성 합성 방법
KR20210094727A (ko) 전자 장치 및 이의 제어 방법
KR20200048976A (ko) 전자 장치 및 그 제어 방법