KR20190090562A - 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법 - Google Patents

보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR20190090562A
KR20190090562A KR1020180009410A KR20180009410A KR20190090562A KR 20190090562 A KR20190090562 A KR 20190090562A KR 1020180009410 A KR1020180009410 A KR 1020180009410A KR 20180009410 A KR20180009410 A KR 20180009410A KR 20190090562 A KR20190090562 A KR 20190090562A
Authority
KR
South Korea
Prior art keywords
trigger
voice
voice trigger
host processor
security
Prior art date
Application number
KR1020180009410A
Other languages
English (en)
Other versions
KR102629424B1 (ko
Inventor
김선규
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020180009410A priority Critical patent/KR102629424B1/ko
Priority to US16/176,026 priority patent/US11061465B2/en
Priority to TW107139624A priority patent/TWI791662B/zh
Priority to CN201910061770.XA priority patent/CN110083327A/zh
Publication of KR20190090562A publication Critical patent/KR20190090562A/ko
Application granted granted Critical
Publication of KR102629424B1 publication Critical patent/KR102629424B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234—Power saving characterised by the action undertaken
    • G06F1/3287—Power saving characterised by the action undertaken by switching off individual functional units in the computer system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234—Power saving characterised by the action undertaken
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26—Power supply means, e.g. regulation thereof
    • G06F1/32—Means for saving power
    • G06F1/3203—Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234—Power saving characterised by the action undertaken
    • G06F1/325—Power saving in peripheral device
    • G06F1/3253—Power saving in bus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F13/00—Interconnection of, or transfer of information or other signals between, memories, input/output devices or central processing units
    • G06F13/38—Information transfer, e.g. on bus
    • G06F13/40—Bus structure
    • G06F13/4063—Device-to-bus coupling
    • G06F13/4068—Electrical coupling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/71—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure computing or processing of information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/71—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure computing or processing of information
    • G06F21/74—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure computing or processing of information operating in dual or compartmented mode, i.e. at least one secure mode
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/78—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure storage of data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/78—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure storage of data
    • G06F21/79—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure storage of data in semiconductor storage media, e.g. directly-addressable memories
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/86—Secure or tamper-resistant housings
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0602—Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/062—Securing storage systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0628—Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638—Organizing or formatting or addressing of data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06—Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601—Interfaces specially adapted for storage systems
    • G06F3/0668—Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/0671—In-line storage system
    • G06F3/0673—Single storage device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/162—Interface to dedicated audio devices, e.g. audio drivers, interface to CODECs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/78—Detection of presence or absence of voice signals
    • G10L25/84—Detection of presence or absence of voice signals for discriminating voice from noise
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/21—Indexing scheme relating to G06F21/00 and subgroups addressing additional information or applications relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/2149—Restricted operating environment
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L2015/088—Word spotting
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L7/00—Arrangements for synchronising receiver with transmitter

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computer Security & Cryptography (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Signal Processing (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Power Sources (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

애플리케이션 프로세서는 시스템 버스, 호스트 프로세서 및 보이스 트리거 시스템을 포함한다. 호스트 프로세서는 시스템 버스에 전기적으로 연결된다. 보이스 트리거 시스템은 시스템 버스에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생한다. 보이스 트리거 시스템은 호스트 프로세서와 독립적으로 보안 처리하여 동작하며, 시스템 버스 및 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여 보이스 트리거 동작을 수행한다.

Description

보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법{APPLICATION PROCESSOR INCLUDING LOW POWER VOICE TRIGGER SYSTEM WITH SECURITY, ELECTRONIC DEVICE INCLUDING THE SAME AND METHOD OF OPERATING THE SAME}
본 발명은 반도체 집적 회로에 관한 것으로서, 더욱 상세하게는 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 상기 애플리케이션 프로세서를 포함하는 전자 장치 및 상기 애플리케이션 프로세서의 동작 방법에 관한 것이다.
최근에 보이스-기반의 지능형 인터페이스가 시장에 도입되었다. 이러한 보이스-기반의 지능형 인터페이스의 일 장점은 사용자들이 디바이스를 다루거나 볼 필요조차도 없이 핸드-프리 방식으로 디바이스와 상호작용할 수 있다는 것이다. 핸드-프리 동작은, 사용자들이 운전을 할 때와 같이 사용자가 디바이스를 물리적으로 다룰 수 없거나 다루어서는 안 되는 경우에서 특히 바람직할 수 있다. 그러나, 상기 보이스-기반의 지능형 인터페이스를 개시하기 위해서, 사용자들은 통상적으로 버튼을 누르거나 터치 스크린 상의 아이콘을 선택해야만 한다. 이러한 접촉식 입력은 보이스-기반의 지능형 인터페이스에 대한 사용자 경험(user experience)을 손상시킨다.
따라서, 점차 전자 장치들이 직접적인 접촉을 통한 입력이 아닌 음성(voice), 소리(sound), 센싱(sensing) 등을 통하여 외부와 통신을 개시하는 방식으로 변하고 있다. 이 때, 전자 장치는 외부에서 언제 전자 장치와 통신을 하고 싶어하는지 계속해서 스스로 모니터링하거나 간헐적으로 모니터링을 하여 상기 보이스-기반의 지능형 인터페이스를 개시하기 위한 트리거 이벤트를 발생하여야 한다. 이와 같이 트리거 이벤트를 발생하기 위한 동작을 보이스 트리거 동작(voice trigger operation)이라 한다.
전자 장치는 상기 보이스 트리거 동작을 수행할 때 파워를 소모하게 되며, 특히 모바일 장치에 있어서 파워 소모량은 그 제품의 가치를 판단하는 척도가 된다. 이러한 보이스 트리거 동작을 수행과 관련하여 전자 장치의 파워 소모를 감소하기 위한 대책이 요구된다.
본 발명의 일 목적은 보안 기능을 지원하고 보이스 트리거 동작 및 관련 동작을 저전력으로 수행할 수 있는 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서를 제공하는 것이다.
본 발명의 다른 목적은 상기 애플리케이션 프로세서를 포함하는 전자 장치를 제공하는 것이다.
본 발명의 또 다른 목적은 상기 애플리케이션 프로세서의 동작 방법을 제공하는 것이다.
상기 일 목적을 달성하기 위해, 본 발명의 실시예들에 따른 애플리케이션 프로세서는 시스템 버스, 호스트 프로세서 및 보이스 트리거 시스템을 포함한다. 상기 호스트 프로세서는 상기 시스템 버스에 전기적으로 연결된다. 상기 보이스 트리거 시스템은 상기 시스템 버스에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생한다. 상기 보이스 트리거 시스템은 상기 호스트 프로세서와 독립적으로 보안 처리하여 동작하며, 상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여 상기 보이스 트리거 동작을 수행한다.
상기 다른 목적을 달성하기 위해, 본 발명의 실시예들에 따른 전자 장치는 애플리케이션 프로세서 및 적어도 하나의 오디오 입출력 장치를 포함한다. 상기 애플리케이션 프로세서는 시스템 버스, 호스트 프로세서 및 보이스 트리거 시스템을 포함한다. 상기 호스트 프로세서는 상기 시스템 버스에 전기적으로 연결된다. 상기 보이스 트리거 시스템은 상기 시스템 버스에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생한다. 상기 보이스 트리거 시스템은 상기 호스트 프로세서와 독립적으로 보안 처리하여 동작하며, 상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여 상기 보이스 트리거 동작을 수행한다.
상기 또 다른 목적을 달성하기 위해, 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법에서, 시스템 버스와, 상기 시스템 버스에 전기적으로 연결되는 호스트 프로세서 및 보이스 트리거 시스템을 하나의 반도체 칩에 함께 집적하여 형성된 애플리케이션 프로세서에서, 상기 호스트 프로세서와 독립적으로 보안 처리하여 상기 보이스 트리거 시스템을 동작시킨다. 상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템에 의해 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호 및 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여, 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생한다.
상기와 같은 본 발명의 실시예들에 따른 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법은, 보이스 트리거 시스템을 애플리케이션 프로세서에 함께 집적함으로써 보이스 트리거 동작과 관련된 기능을 저전력으로 그리고 효율적으로 구현할 수 있으며, 특히 호스트 프로세서가 액티브 모드에서 수행하여야 할 동작을 온칩 보이스 트리거 시스템을 이용하여 대신 수행함으로써, 애플리케이션 프로세서를 포함하는 전자 장치의 전력 소모를 감소하고 성능을 향상시킬 수 있다.
또한, 호스트 프로세서와 독립적으로 보안 처리된 보이스 트리거 시스템을 이용하여 보이스 트리거 동작 및/또는 사용자 음성 정보 트레이닝 동작을 수행함으로써, 애플리케이션 프로세서 외부에 위치하는 보이스 트리거 시스템에 비하여 보다 더 강화된 보안 기능을 지원하여 보안 성능을 향상시킬 수 있다.
도 1은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법을 나타내는 순서도이다.
도 2a는 본 발명의 실시예들에 따른 전자 장치를 나타내는 블록도이다.
도 2b는 도 2a의 전자 장치의 구현 예를 나타내는 도면이다.
도 3은 본 발명의 실시예들에 따른 애플리케이션 프로세서를 나타내는 블록도이다.
도 4는 본 발명의 실시예들에 따른 애플리케이션 프로세서의 보이스 트리거 시스템 및 오디오 서브 시스템의 연결 관계를 나타내는 블록도이다.
도 5는 도 4의 애플리케이션 프로세서의 보이스 트리거 시스템 및 호스트 프로세서의 연결 관계를 나타내는 블록도이다.
도 6은 도 4의 애플리케이션 프로세서에 포함되는 메일 박스 모듈의 일 예를 나타내는 도면이다.
도 7은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 보이스 트리거 시스템 및 오디오 서브 시스템의 연결 관계를 나타내는 블록도이다.
도 8은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법을 나타내는 순서도이다.
도 9 및 10은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 보이스 트리거 시스템 및 센서 허브의 연결 관계를 나타내는 블록도들이다.
도 11은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법을 나타내는 순서도이다.
도 12a 및 12b는 본 발명의 실시예들에 따른 애플리케이션 프로세서의 파워 도메인을 설명하기 위한 도면들이다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법을 나타내는 순서도이다.
도 1을 참조하면, 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법에서는, 시스템 버스와, 상기 시스템 버스에 전기적으로 연결되는 호스트 프로세서 및 보이스 트리거 시스템을 하나의 반도체 칩에 함께 집적하여 형성된 애플리케이션 프로세서에서, 상기 호스트 프로세서와 독립적으로 보안 처리하여 상기 보이스 트리거 시스템을 동작시킨다(단계 S100).
상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템에 의해 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호 및 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보(또는 트리거 사운드)에 기초하여, 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생한다(단계 S200).
본 발명의 보이스 트리거 동작은, 상기 트리거 입력 신호가 특정한 트리거 사운드를 포함하는지를 모니터링하고, 상기 트리거 사운드가 검출된 경우 인터럽트와 같은 트리거 이벤트를 발생하여 음성 인식 모드(즉, 보이스-기반의 지능형 인터페이스)를 개시하는 것을 나타낸다. 상기 음성 인식 모드의 개시는 상기 호스트 프로세서 및/또는 상기 시스템 버스를 상기 슬립 모드에서 액티브(active) 모드로 진입시키는 것을 포함할 수 있다. 다시 말하면, 전력 소모 감소를 위해, 상기 호스트 프로세서 및 상기 시스템 버스는 상기 슬립 모드인 상태에서 상기 보이스 트리거 시스템만을 인에이블하여 상기 보이스 트리거 동작을 수행하며, 상기 트리거 이벤트를 발생하여 상기 음성 인식 모드를 개시하는 경우에 상기 호스트 프로세서 및 상기 시스템 버스는 상기 액티브 모드로 진입할 수 있다.
일 실시예에서, 상기 트리거 사운드는 사람에 의해 발성되는 특정한 단어, 구 등을 포함할 수 있다. 다른 실시예에서, 상기 트리거 사운드는 사람의 목소리 이외의 소리, 예를 들어, 휘파람 소리, 손뼉치는 소리, 경보음(siren), 충돌음, 일정 주파수를 초과하는 음파 등과 같은 임의의 사운드를 포함할 수 있다. 본 발명에서 사용자 음성 정보는 상술한 트리거 사운드에 대응하는 개념을 나타낸다.
상기 시스템 버스 및 상기 호스트 프로세서가 인에이블되는 상기 액티브 모드에서 상기 호스트 프로세서가 보안 운영 체제(operating system)를 실행하는 동안에, 상기 보안 처리된 보이스 트리거 시스템을 이용하여 상기 보안 처리된 사용자 음성 정보를 획득하는 트레이닝(training) 동작을 수행할 수 있다(단계 S300).
도 1에서는 단계 S100 및 S200이 수행된 이후에 단계 S300이 수행되는 것처럼 도시하였으나, 본 발명은 이에 한정되지 않으며, 특정 블록 내에 명기된 기능 또는 동작이 순서도에 명기된 순서와 다르게 일어날 수도 있다. 예를 들어, 단계 S300을 먼저 수행하여 상기 보안 처리된 사용자 음성 정보를 획득한 이후에, 단계 S100 및 S200을 수행하여 상기 트리거 이벤트를 발생할 수 있다.
본 발명의 실시예들에 따른 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법은, 보이스 트리거 시스템을 애플리케이션 프로세서에 함께 집적함으로써 보이스 트리거 동작과 관련된 기능을 저전력으로 그리고 효율적으로 구현할 수 있으며, 호스트 프로세서와 독립적으로 보안 처리된 보이스 트리거 시스템을 이용하여 보이스 트리거 동작 및/또는 사용자 음성 정보 트레이닝 동작을 수행함으로써, 애플리케이션 프로세서 외부에 위치하는 보이스 트리거 시스템에 비하여 보다 더 강화된 보안 기능을 지원하여 보안 성능을 향상시킬 수 있다.
도 2a는 본 발명의 실시예들에 따른 전자 장치를 나타내는 블록도이다.
도 2a를 참조하면, 전자 장치(1000)는 애플리케이션 프로세서(AP, application processor)(2000), 메모리 장치(1200), 저장 장치(1300), 복수의 기능 모듈들(1400, 1500, 1600, 1700) 및 전력 관리 장치(PMIC, power management integrated circuit)(1800)를 포함할 수 있다.
애플리케이션 프로세서(2000)는 전자 장치(1000)의 전반적인 동작을 제어할 수 있다. 다시 말하면, 애플리케이션 프로세서(2000)는 메모리 장치(1200), 저장 장치(1300) 및 복수의 기능 모듈들(1400, 1500, 1600, 1700)을 제어할 수 있다. 예를 들어, 애플리케이션 프로세서(2000)는 시스템 온 칩(SoC, system on chip)일 수 있다.
애플리케이션 프로세서(2000)는 시스템 버스(2100), 시스템 버스에 연결되는 중앙 처리 유닛(CPU, central processing unit) 또는 호스트 프로세서(100), 보이스 트리거 시스템(VTS, voice trigger system)(200) 및 오디오 처리 시스템(AUD, audio processing system)(250)을 포함할 수 있다.
보이스 트리거 시스템(200)은 시스템 버스(2100)에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생한다. 후술하는 바와 같이, 오디오 처리 시스템(250)은 적어도 오디오 서브 시스템을 포함할 수 있다. 상기 오디오 서브 시스템은 시스템 버스(2100)에 전기적으로 연결되고 오디오 인터페이스를 통하여 재생 및 녹음되는 오디오 스트림을 처리하고 상기 오디오 인터페이스 및 메모리 장치 사이의 상기 오디오 스트림의 전송을 지원한다. 보이스 트리거 시스템(200) 및 오디오 처리 시스템(250)의 실시예들은 도 3 내지 12b를 참조하여 후술한다.
메모리 장치(1200) 및 저장 장치(1300)는 전자 장치(1000)의 동작에 필요한 인스트럭션, 데이터 등을 저장할 수 있다. 예를 들어, 메모리 장치(1200)는 DRAM(dynamic random access memory) 장치, SRAM(static random access memory) 장치, 모바일 DRAM 장치 등과 같은 휘발성 메모리 장치에 상응할 수 있고, 저장 장치(1300)는 EPROM(erasable programmable read-only memory) 장치, EEPROM(electrically erasable programmable read-only memory) 장치, 플래시 메모리(flash memory) 장치, PRAM(phase change random access memory) 장치, RRAM(resistance random access memory) 장치, NFGM(nano floating gate memory) 장치, PoRAM(polymer random access memory) 장치, MRAM(magnetic random access memory) 장치, FRAM(ferroelectric random access memory) 장치 등과 같은 비휘발성 메모리 장치에 상응할 수 있다. 실시예에 따라서, 저장 장치(1300)는 임베디드 멀티미디어 카드(embedded multimedia card; eMMC), 유니버셜 플래시 스토리지(universal flash storage; UFS), 솔리드 스테이트 드라이브(solid state drive; SSD), 하드 디스크 드라이브(hard disk drive; HDD), 씨디롬(CD-ROM) 등을 더 포함할 수도 있다.
복수의 기능 모듈들(1400, 1500, 1600, 1700)은 전자 장치(1000)의 다양한 기능들을 각각 수행할 수 있다. 예를 들어, 전자 장치(1000)는 통신 기능을 수행하기 위한 통신 모듈(1400)(예를 들어, CDMA(code division multiple access) 모듈, LTE(long term evolution) 모듈, RF(radio frequency) 모듈, UWB(ultra-wideband) 모듈, WLAN(wireless local area network) 모듈, WIMAX(worldwide interoperability for microwave access) 모듈 등), 카메라 기능을 수행하기 위한 카메라 모듈(1500), 표시 기능을 수행하기 위한 디스플레이 모듈, 터치 입력 기능을 수행하기 위한 터치 패널 모듈 등을 포함하는 입출력 모듈(1600), 오디오 신호의 입출력을 위한 마이크 모듈, 스피커 모듈 등을 포함하는 오디오 모듈(1700) 등을 포함할 수 있다. 실시예에 따라서, 전자 장치(1000)는 GPS(global positioning system) 모듈, 자이로스코프(gyroscope) 모듈 등을 더 포함할 수 있다. 다만, 전자 장치(1000)에 구비되는 복수의 기능 모듈들(1400, 1500, 1600, 1700)의 종류는 상기 언급한 모듈들에 한정되지는 않는다.
전력 관리 장치(1800)는 애플리케이션 프로세서(2000), 메모리 장치(1200), 저장 장치(1300) 및 복수의 기능 모듈들(1400, 1500, 1600, 1700)에 각각 구동 전압을 제공할 수 있다.
도 2b는 도 2a의 전자 장치의 구현 예를 나타내는 도면이다.
도 2a의 전자 장치(1000)는 컴퓨터(computer), 노트북(laptop), 셀룰러 폰(cellular), 스마트 폰(smart phone), MP3 플레이어, PDA(personal digital assistant), PMP(portable multimedia player), 디지털 TV, 디지털 카메라, 포터블 게임 콘솔(portable game console), 네비게이션(navigation) 기기, 웨어러블(wearable) 기기, IoT(internet of things) 기기, IoE(internet of everything) 기기, e-북(e-book), VR(virtual reality) 기기, AR(augmented reality) 기기 등과 같은 장치일 수 있다. 전자 장치(1000)는 사용자의 직접 입력에 의해 조작되는 장치 또는 인터넷 또는 다른 네트워크 시스템을 이용하여 통신할 수 있는 장치일 수 있다. 도 2b의 전자 장치(1000a)는 도 2a의 전자 장치(1000)의 일 예로서 터치스크린을 가진 모바일 폰 또는 스마트 폰을 도시한 것이다.
도 2b를 참조하면, 전자 장치(1000a)는 전면카메라(2), 스피커(3), 근접센서(4), 조도센서(5), USB(universal serial bus) 인터페이스(6), 전원 버튼(7), 볼륨조절 버튼(8), 디스플레이 및 터치스크린(9), 아이콘(10), 메뉴버튼(11), 홈 버튼(12), 취소버튼(13), 마이크(14), 오디오 출력 인터페이스(15) 및 안테나(16)를 포함할 수 있다.
전면카메라(2)는 터치스크린(9) 방향의 카메라로 영상통화 또는 카메라의 용도로 사용된다. 스피커(3)는 사용자가 터치스크린(9)의 아이콘(10)을 터치하거나 음성으로 입력신호를 보내어 멀티미디어 데이터를 재생할 경우, 전화교환망을 통해 다른 사용자와 통화를 할 경우 또는 전자 장치(1000a)의 조작음이나 알림음을 재생할 경우 오디오 데이터를 출력한다. 근접센서(4)는 사용자가 전화통화를 하기 위해 전자 장치(1000a)를 귀에 가까이 할 경우 전력소모를 줄이면서 의도하지 않은 터치로 인한 잘못된 동작을 방지하기 위해 디스플레이 및 터치 스크린(9)을 오프여부를 제어하기 위한 센서이다. 조도 센서(5)는 전자 장치(1000a) 주변으로부터 입사되는 빛의 양에 따라 디스플레이 및 터치 스크린(9)과 전면카메라(2)의 동작을 제어한다. USB 인터페이스(6)는 전자 장치(1000a)와 외부와 데이터 통신 및 전원공급을 받기 위한 입출력 인터페이스이다.
전원버튼(7)은 전자 장치(1000a)의 전원을 온오프하거나, 디스플레이 및 터치스크린(9)의 화면을 온오프할 수 있고, 볼륨조절 버튼(8)은 스피커(3)의 오디오 출력을 제어할 수 있다. 아이콘(10)은 각각의 기능에 따라 디스플레이 및 터치스크린(9)에 복수의 아이콘들(10)이 위치할 수 있다. 예를 들어, 사용자는 멀티미디어 데이터를 재생하기 위하여 아이콘(10)을 터치할 수 있다.
메뉴버튼(11)은 아이콘들을 포함한 메뉴 및 설정메뉴를 열람하게 할 수 있고, 홈버튼(12)은 디스플레이 및 터치스크린(9)에서 전자 장치(1000a)가 소정의 동작을 수행하고 있는 도중에도 멀티워킹(multi-working)을 위해 홈 화면을 보여줄 수 있다. 취소버튼(13)은 전자 장치(1000a)가 소정의 동작 수행 중에 상기 동작을 취소하고 이전의 화면으로 되돌아 가기 위한 버튼이다.
마이크(14)는 음성통화 또는 음성입력 신호를 위한 입출력 인터페이스이고, 오디오 출력 인터페이스(15), 예를 들면 이어폰 꽂이는 재생되는 멀티미디어 데이터의 오디오 출력을 위한 것이다. 도시하지는 않았으나, 오디오 출력 및 마이크 입력은 블루투스(Bluetooth) 등의 장치를 통해서도 인터페이스 될 수 있다. 안테나(16)는 디지털미디어 방송 서비스의 수신에 이용될 수 있다.
전자 장치(1000a)의 상기 각 구성요소의 구체적인 실시예는 당업자에게 실현 가능한 범위에서 다양하게 구현될 수 있으며, 본 발명의 실시예들에 부합하는 범위 내에서 일부 구성요소는 생략되거나 다른 구성요소로 대체될 수 있다.
도 3은 본 발명의 실시예들에 따른 애플리케이션 프로세서를 나타내는 블록도이다.
도 3을 참조하면, 애플리케이션 프로세서(2000)는 시스템 버스(system bus)(SYSBUS)(2100), 호스트 프로세서(CPU)(100), 보이스 트리거 시스템(200), 오디오 서브 시스템(300) 및 센서 허브(400)를 포함할 수 있다. 오디오 서브 시스템(300) 및 센서 허브(400)는 도 2a의 오디오 처리 시스템(250)에 포함될 수 있다. 실시예들에 따라서, 애플리케이션 프로세서(2000)는 액티브 파워 관리부(active power manager)(APM), 메일 박스 모듈(mailbox module)들(MBXa, MBXb, MBXc) 및 인터럽트 콘트롤러(interrupt controller)(ITRC)를 더 포함할 수 있다.
시스템 버스(2100)는 인터커넥트 장치(interconnect) 또는 백본(backbone)이라 지칭할 수도 있다. 시스템 버스(2100)는 상위 계층의 버스, 하위 계층의 버스 및 이들을 연결하는 브리지를 포함하여 구현될 수 있다. 예를 들어, 시스템 버스(2100)는 AXI(advanced extensible interface), AHB(advanced high-performance bus), APB(advanced peripheral bus)와 같은 AMBA(advanced microcontroller bus architecture), 그 외의 다른 다양한 버스를 포함할 수 있으며, 이들을 연결하는 브리지를 포함할 수 있다. 호스트 프로세서(100)는 시스템 버스(2100)를 통하여 외부의 메모리 장치(1200) 및/또는 저장 장치(1300)에 액세스할 수 있다. 또한, 호스트 프로세서(100)는 시스템 버스(2100)를 통하여 보이스 트리거 시스템(200), 오디오 서브 시스템(300), 센서 허브(400)와 교신할 수 있다.
도 3에는 편의상 하나의 인터럽트 콘트롤러(ITRC)를 도시하였으나, 인터럽트 콘트롤러(ITRC)는 적어도 하나의 GIC(general interrupt controller), 적어도 하나의 VIC(vectored interrupt controller) 등을 포함할 수 있다. 예를 들어, 인터럽트 콘트롤러(ITRC)는 프로그램 가능 인터럽트 콘트롤러(PIC, programmable interrupt controller)일 수 있다. 프로그램 가능 인터럽트 콘트롤러는 일반적으로 복수의 계층으로 이루어지며, 벡터로 표시되는 우선 순위 체제를 가진 콘트롤러일 수 있다. 프로그램 가능 인터럽트 콘트롤러는 주변 장치로부터 인터럽트 신호를 받아 우선 순위 문제를 해결하고, 인터럽트 처리 루틴을 표시하는 포인터 주소와 함께 프로세서, 제어기 등에 인터럽트를 요청할 수 있다.
액티브 파워 관리부(APM)는 애플리케이션 프로세서(2000)의 전원을 관리할 수 있다. 액티브 파워 관리부(APM)는 애플리케이션 프로세서(2000)의 각 영역 또는 각 기능 블록에 공급되는 파워를 관리할 수 있다. 메일 박스 모듈들(MBXa, MBXb, MBXc)은 애플리케이션 프로세서(2000)의 구성 요소들 사이의 데이터 전송 또는 애플리케이션 프로세서(2000)와 외부 장치 사이의 데이터 전송의 동기화를 지원할 수 있다. 메일 박스 모듈들(MBXa, MBXb, MBXc)에 대해서는 도 6을 참조하여 후술한다.
도 3에서는 보이스 트리거 시스템(200)과 오디오 서브 시스템(300)이 1개의 메일 박스 모듈(MBXc)을 통해 연결되고 보이스 트리거 시스템(200)과 센서 허브(400)가 2개의 메일 박스 모듈들(MBXa, MBXb) 및 액티브 파워 관리부(APM)를 통해 연결되는 것으로 도시하였으나, 실시예에 따라서 보이스 트리거 시스템(200)과 오디오 서브 시스템(300)이 2개의 메일 박스 모듈들 및 액티브 파워 관리부를 통해 연결되거나 보이스 트리거 시스템(200)과 센서 허브(400)가 1개의 메일 박스 모듈을 통해 연결될 수도 있다.
보이스 트리거 시스템(200)은 시스템 버스(2100)에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행할 수 있다. 일 실시예에서, 보이스 트리거 시스템(200)은 디지털 마이크(digital microphone)(DMIC)(40) 및/또는 오디오 코덱(audio coder and decoder)(CODEC)(50)으로부터 상기 트리거 입력 신호를 수신할 수 있다. 즉, 보이스 트리거 시스템(200)의 상기 트리거 인터페이스는 디지털 마이크(40) 및 오디오 코덱(50)에 직접 연결될 수 있다. 오디오 코덱(50)은 디지털 마이크(40) 또는 아날로그 마이크(analog microphone)(AMIC)(61)로부터 입력되는 오디오 신호 및 스피커(62)로 출력되는 오디오 신호에 대한 인코딩 및 디코딩(또는, 아날로그-디지털 변환(ADC, analog-to-digital conversion) 및 디지털-아날로그 변환(DAC, digital-to-analog conversion))을 수행할 수 있다. 디지털 마이크(40)는 전자 장치의 보드 상에 애플리케이션 프로세서(2000)와 함께 실장되는 온-보드 마이크(on-board microphone)일 수 있다. 아날로그 마이크(61) 및 스피커(62)는 오디오 코덱(50)의 단자에 전기적으로 탈부착 가능한 장치일 수 있다.
오디오 서브 시스템(300)은 시스템 버스(2100)에 전기적으로 연결되고 오디오 인터페이스를 통하여 재생 및 녹음되는 오디오 스트림을 처리하고 상기 오디오 인터페이스 및 메모리 장치(1200) 사이의 상기 오디오 스트림의 전송을 지원할 수 있다. 일 실시예에서, 오디오 서브 시스템(300)은 오디오 코덱(50) 및/또는 블루투스 모듈(Bluetooth module)(BTM)(70)과 상기 오디오 스트림을 교환할 수 있다. 다시 말해, 오디오 서브 시스템(300)의 상기 오디오 인터페이스는 오디오 코덱(50) 및 블루투스 모듈(BTM), USB 모듈에 직접 연결될 수 있다. 블루투스 모듈(70)은 블루투스 오디오 모듈(BTAUD)(80)을 통하여 블루투스 마이크(Bluetooth microphone)(BMIC)(81) 및 블루투스 스피커(82)와 연결되며, 블루투스 마이크(81)로부터 오디오 신호를 입력받거나 블루투스 스피커(82)로 오디오 신호를 출력할 수 있다. 실시예에 따라서, 블루투스 모듈(70)은 임의의 블루투스 장치(85)와 직접 연결될 수도 있다. 한편, 도 3에 도시하지는 않았으나, 오디오 서브 시스템(300)은 USB 모듈에 연결되어 상기 USB 모듈과 상기 오디오 스트림을 교환할 수도 있다.
센서 허브(400)는 시스템 버스(2100)에 전기적으로 연결되고 하나 이상의 센서들(SEN1, SEN2)(31, 32)로부터 제공되는 감지 신호를 처리할 수 있다. 예를 들어, 센서 허브(400)는 센서들(31, 32)로부터의 신호들에 기초하여 전자 장치와 관련된 물리적 양을 측정하거나 동작 상태를 검출하고, 측정되거나 검출된 정보를 처리할 수 있다. 예를 들어, 센서들(31, 32)은 모션 센서(motion sensor), 자이로 센서(gyro sensor), 대기압 센서, 자기 센서, 가속도 센서, 그립(grip) 센서, 근접 센서, 생체 센서, 온도/습도 센서, 조도(illumination) 센서, 자외선(ultra violet, UV) 센서, 전기 코(electro-nose, E-nose) 센서, 근전도(electromyography, EMG) 센서, 뇌파도(electroencephalogram, EEG) 센서, 심전도(electrocardiogram, ECG) 센서, 적외선(infrared, IR) 센서, 홍채 센서, 지문 센서 중 적어도 하나를 포함할 수 있으며, 이에 한정되는 것은 아니다.
일 실시예에서, 도 3에 도시된 바와 같이, 시스템 버스(2100), 보이스 트리거 시스템(200), 오디오 서브 시스템(300) 및 센서 허브(400)는 하나의 반도체 칩으로서 애플리케이션 프로세서(2000)에 함께 집적될 수 있다. 다른 실시예에서, 시스템 버스(2100), 보이스 트리거 시스템(200) 및 오디오 서브 시스템(300)은 하나의 반도체 칩으로서 애플리케이션 프로세서(2000)에 함께 집적되고, 센서 허브(400)는 애플리케이션 프로세서(2000)의 외부에 구현될 수 있다. 이와 같이, 본 발명의 실시예들에 따른 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법은, 보이스 트리거 시스템을 애플리케이션 프로세서에 함께 집적함으로써 보이스 트리거 동작과 관련된 기능을 저전력으로 그리고 효율적으로 구현할 수 있다.
도 4는 본 발명의 실시예들에 따른 애플리케이션 프로세서의 보이스 트리거 시스템 및 오디오 서브 시스템의 연결 관계를 나타내는 블록도이다. 도 4에는 편의상 도 3에 도시된 센서 허브(400) 등은 그 도시를 생략하였다. 이하 도 3과 중복되는 설명은 생략될 수 있다.
도 4를 참조하면, 애플리케이션 프로세서(2001)는 시스템 버스(2100), 호스트 프로세서(101), 보이스 트리거 시스템(201), 오디오 서브 시스템(301) 및 메일 박스 모듈(SMBX)을 포함할 수 있다. 애플리케이션 프로세서(2001)는 인터럽트 콘트롤러(810), 보호 콘트롤러(protection controller)(PROC)(820), 어드레스 공간 보호기(address space protector)(ASP)(830) 및 방화벽(contents firewall)(CFW)(840)을 더 포함할 수 있다. 오디오 서브 시스템(301)은 도 2a의 오디오 처리 시스템(250)에 포함될 수 있다.
시스템 버스(2100) 및 호스트 프로세서(101)는 액티브 모드에서 인에이블된다. 호스트 프로세서(101)는 상기 액티브 모드에서 비보안(non-secure) 운영 체제(NS_OS)(또는 일반(normal) 운영 체제) 및 보안(secure) 운영 체제(S_OS) 중 하나를 실행할 수 있다. 애플리케이션 프로세서(2001)는 보안 운영 체제(S_OS)에 기초하여 보안 모드로 동작하고, 비보안 운영 체제(NS_OS)에 기초하여 비보안 모드로 동작할 수 있다.
한편, 시스템 버스(2100) 및 호스트 프로세서(101)는 슬립 모드에서 동작하지 않는다. 다시 말하면, 상기 슬립 모드에서 시스템 버스(2100) 및 호스트 프로세서(101)는 디스에이블되며, 따라서 비보안 및 보안 운영 체제들(NS_OS, S_OS)이 실행되지 않을 수 있다.
보이스 트리거 시스템(201)은 시스템 버스(2100)에 전기적으로 연결되고 트리거 인터페이스(TIF)를 통하여 제공되는 트리거 입력 신호(SDMIC, SAMIC)에 기초하여 보이스 트리거 동작을 수행할 수 있다. 보이스 트리거 시스템(201)은 디지털 마이크(40)로부터 트리거 입력 신호(SDMIC)를 수신하거나 오디오 코덱(50)으로부터 트리거 입력 신호(SAMIC)를 수신할 수 있다. 신호 전송의 동기화를 위해 마이크 클록 신호(MICCLK)가 보이스 트리거 시스템(201), 디지털 마이크(40) 및 오디오 코덱(50) 사이에서 전송될 수 있다. 트리거 입력 신호(SDMIC, SAMIC) 및 마이크 클록 신호(MICCLK)는 패드들(PD11, PD12, PD13)을 통하여 전송될 수 있다. 패드들(PD11, PD12, PD13)은 사용되지 않는 다른 패드들로부터 간섭을 받지 않도록 설정될 수 있다.
본 발명의 실시예들에 따른 보이스 트리거 시스템(201)은 호스트 프로세서(101)와 독립적으로 보안 처리하여 동작한다. 보안 처리되었다는 것은, 마이크로프로빙(Microprobing), 소프트웨어 공격(Software Attack), 도청(Eavesdropping), 오류 주입(Fault Injection) 등과 같은 외부로부터의 공격을 방어하는 기능을 포함하는 것을 나타내며, 이는 다양한 형태로 구현될 수 있다. 또한, 호스트 프로세서(101)와 독립적으로 보안 처리되었다는 것은, 시스템 버스(2100) 및 호스트 프로세서(101)가 동작하지 않는 상기 슬립 모드에서도 보이스 트리거 시스템(201)은 호스트 프로세서(101)의 지원없이 단독으로(즉, 독자적으로) 보안 모드로 동작하는 것을 나타낸다.
일 실시예에서, 호스트 프로세서(101)와 독립적으로 보안 처리할 수 있도록, 보이스 트리거 시스템(201)은 애플리케이션 프로세서(2001) 내에 집적되는 보안 소자(secure element) 내에 포함되어 구현될 수 있다. 다시 말하면, 보이스 트리거 시스템(201)은 하드웨어(hardware)인 보안 소자를 이용하여, 즉 하드웨어 적으로 독립적으로 보안 처리될 수 있다. 또한, 보이스 트리거 시스템(201)과 관련된 프레임워크(framework), HAL(hardware abstraction layer), 커널 드라이버(kernel driver) 등의 소프트웨어를 보안 메모리 영역에 위치시키고 보안 운영 체제(S_OS) 상에서 동작하도록 구현 및 사용하여, 보이스 트리거 시스템(201)으로 입력되는 모든 신호 및 데이터를 보안 처리하여 보호할 수 있다.
한편, 도 4 및 이후의 도면에서 상대적으로 굵은 실선으로 표시된 부분은, 보안 처리된(또는 보안 모드로 동작하는) 시스템, 모듈, 장치, 영역 및/또는 데이터를 나타낼 수 있다.
보이스 트리거 시스템(201)은 트리거 인터페이스 회로(VTS interface circuit)(IFV)(211), 래퍼(wrapper)(WRPP)(221), 트리거 메모리(VTS memory)(MEMV)(231) 및 트리거 프로세서(VTS processor)(PRCV)(241)를 포함할 수 있다. 보이스 트리거 시스템(201)이 보안 처리되었으므로, 트리거 인터페이스 회로(211), 래퍼(221), 트리거 메모리(231) 및 트리거 프로세서(241)는 각각 보안 트리거 인터페이스 회로, 보안 래퍼, 보안 트리거 메모리 및 보안 트리거 프로세서라고 지칭할 수도 있다.
트리거 인터페이스 회로(211)는 패드들(PD11, PD12, PD13)과 함께 트리거 인터페이스(TIF)를 형성하고 디지털 마이크(40) 또는 오디오 코덱(50)으로부터 제공되는 트리거 입력 신호(SDMIC, SAMIC)를 샘플링하고 샘플링된 데이터를 변환할 수 있다. 래퍼(221)는 트리거 인터페이스 회로(211)에 의해 변환된 데이터를 트리거 메모리(231)에 저장할 수 있다. 래퍼(221)는 트리거 메모리(231)에 일정 데이터를 저장하면 트리거 프로세서(241)로 인터럽트를 발생하고, 인터럽트 발생시 트리거 프로세서(241)는 트리거 메모리(231)에 저장된 데이터에 기초하여 상기 보이스 트리거 동작을 수행할 수 있다.
일 실시예에서, 보이스 트리거 시스템(201)은 펄스 밀도 변조(PDM, pulse density modulation) 신호를 트리거 입력 신호(SDMIC, SAMIC)로서 수신하고, 트리거 인터페이스 회로(211)는 수신된 PDM 신호를 펄스 코드 변조(PCM, pulse code modulation) 데이터로 변환하고, 래퍼(221)는 PCM 데이터를 트리거 메모리(231)에 저장할 수 있다. 래퍼(221)는 직접 메모리 액세스 콘트롤러로 구현될 수도 있다.
일 실시예에서, 트리거 메모리(231)는 보안 처리된 사용자 음성 정보(UVI)를 저장할 수 있다. 보이스 트리거 시스템(201)은 상기 슬립 모드에서 보안 저장 영역에 대응하는 트리거 메모리(231)에 저장된 보안 처리된 사용자 음성 정보(UVI)에 기초하여 상기 보이스 트리거 동작을 수행할 수 있다. 예를 들어, 보이스 트리거 시스템(201)은 트리거 입력 신호(SDMIC, SAMIC)가 보안 처리된 사용자 음성 정보(UVI)를 포함하는 것으로 판단된 경우에 트리거 이벤트를 발생하여 음성 인식 모드를 개시할 수 있다.
일 실시예에서, 상기 액티브 모드에서 호스트 프로세서(101)가 보안 운영 체제(S_OS)를 실행하는 동안에, 보이스 트리거 시스템(201)을 이용하여 보안 처리된 사용자 음성 정보(UVI)를 획득하는 트레이닝(training) 동작을 수행할 수 있으며, 이에 대해서는 도 5를 참조하여 후술한다.
오디오 서브 시스템(301)은 시스템 버스(2100)에 전기적으로 연결되고 오디오 인터페이스(AIF)를 통하여 재생 및 녹음되는 오디오 스트림을 처리하고 상기 오디오 인터페이스 및 메모리 장치(1200) 사이의 상기 오디오 스트림의 전송을 지원할 수 있다. 일 실시예에서, 오디오 서브 시스템(301)은 오디오 코덱(50)과 상기 오디오 스트림을 교환할 수 있다. 오디오 서브 시스템(301)은 오디오 입력 패드(PD21)를 통하여 오디오 코덱(50)으로부터 오디오 입력 신호(SDI)를 수신하고 오디오 출력 패드(PD22)를 통하여 오디오 출력 신호(SDO)를 오디오 코덱(50)으로 전송할 수 있다.
보이스 트리거 시스템(201)과 다르게, 오디오 서브 시스템(301)은 비보안 상태로 동작할 수 있다.
오디오 서브 시스템(301)은 오디오 인터페이스 회로(audio interface circuit)(IFA)(311), 직접 메모리 액세스 콘트롤러(direct access memory controller)(DMA)(321), 오디오 메모리(audio memory)(MEMA)(331) 및 오디오 프로세서(audio processor)(PRCA)(341)를 포함할 수 있다.
오디오 인터페이스 회로(311)는 패드들(PD21, PD22)과 함께 오디오 인터페이스(AIF)를 형성하고 오디오 입력 신호(SDI) 및 오디오 출력 신호(SDO)를 통하여 상기 오디오 스트림을 송수신할 수 있다. 오디오 메모리(331)는 오디오 스트림의 데이터를 저장하고, 직접 메모리 액세스 콘트롤러(321)는 오디오 메모리(331)의 액세스, 즉 오디오 메모리(331)로부터의 데이터 독출 및 오디오 메모리(331)로의 데이터 기입을 제어할 수 있다. 오디오 프로세서(341)는 오디오 메모리(331)에 저장된 데이터를 처리할 수 있다.
일 실시예에서, 오디오 인터페이스 회로(311)는 I2S 또는 IIS (Inter-IC Sound, Integrated Interchip Sound) 표준에 부합할 수 있다. 도 5에는 편의상 클록 신호에 대한 도시를 생략하였으나, 오디오 인터페이스 회로(311)는 I2S 표준에 따른 클록 신호에 기초하여 동작할 수 있다. 실시예에 따라서, 오디오 인터페이스 회로(311)는 디지털 마이크(40) 및/또는 오디오 코덱(50)에 직접 연결될 수도 있다.
인터럽트 콘트롤러(810)는 애플리케이션 프로세서(2001) 내의 모든 인터럽트(또는 interrupt resource)들의 보안 속성을 설정할 수 있다. 예를 들어, 인터럽트 콘트롤러(810)는 인터럽트들을 보안 인터럽트 및 비보안 인터럽트로 구분할 수 있다. 상기 보안 모드에서는 상기 보안 인터럽트가 처리될 수 있고, 상기 비보안 모드에서는 상기 비보안 인터럽트가 처리될 수 있다. 상술한 보안 속성의 설정은 호스트 프로세서(101)가 보안 운영 체제(S_OS)를 실행하는 상기 보안 모드에서만 가능할 수 있다.
보호 콘트롤러(820)는 애플리케이션 프로세서(2001) 내의 모든 하드웨어(또는 hardware resource)들의 보안 속성을 설정할 수 있다. 예를 들어, 보호 콘트롤러(820)는 하드웨어들을 보안 모드용 및 비보안 모드용으로 구분할 수 있다. 상기 보안 모드에서는 상기 보안 모드용 하드웨어가 동작할 수 있고, 상기 비보안 모드에서는 상기 비보안 모드용 하드웨어가 동작할 수 있다. 실시예에 따라서, 하나의 하드웨어가 상기 보안 모드 및 상기 비보안 모드 모두에서 동작할 수도 있다. 상술한 보안 속성의 설정은 상기 보안 모드에서만 가능할 수 있다.
어드레스 공간 보호기(830)는 메모리 장치(1201)의 저장 영역을 보안 저장 영역(SRM) 및 비보안 저장 영역(NSRM)으로 구분하고, 저장 장치(1301)의 저장 영역을 보안 저장 영역(SRS) 및 비보안 저장 영역(NSRS)으로 구분할 수 있다. 상술한 저장 영역의 구분은 상기 보안 모드에서만 가능할 수 있다. 실시예에 따라서, 어드레스 공간 보호기(830)는 메모리 어댑터(memory adapter)의 형태로 구현될 수도 있다.
방화벽(840)은 하드웨어들의 접근 가능한 어드레스 공간을 제어할 수 있으며, 상기 보안 모드에서의 정보가 상기 비보안 모드로 유출되는 것을 방지할 수 있다.
일 실시예에서, 보안 처리된 사용자 음성 정보(UVI)는 메모리 장치(1201)의 보안 저장 영역(SRM) 및/또는 저장 장치(1301)의 보안 저장 영역(SRS)에 추가적으로 저장될 수 있으며, 이에 따라 애플리케이션 프로세서(2001)에 전원 공급이 중단되더라도 보안 처리된 사용자 음성 정보(UVI)를 안전하게 저장할 수 있다.
도 5는 도 4의 애플리케이션 프로세서의 보이스 트리거 시스템 및 호스트 프로세서의 연결 관계를 나타내는 블록도이다.
도 5를 참조하면, 호스트 프로세서(101a)는 상기 액티브 모드에서 신뢰된 실행 환경(TEE, trusted execution environment) 및 비신뢰된 실행 환경(NTEE, non-trusted execution environment)을 가지도록 구현될 수 있다. 예를 들어, 신뢰된 실행 환경(TEE)은 ARM사의 트러스트존(TrustZone)을 사용하여 구현될 수 있으며, 이 경우 도 4의 보호 콘트롤러(820)는 TZPC(TrustZone protection controller)일 수 있다. 비신뢰된 실행 환경(NTEE)은 일반 OS 또는 리치(rich) OS 실행 환경이라고 지칭할 수도 있다.
비신뢰된 실행 환경(NTEE)에서는, 안드로이드(Android) 등과 같은 비보안 운영 체제(112) 상에서 비보안 어플리케이션(application)(APP)(111)이 실행되고 비보안 장치 드라이버(113) 또는 커널 드라이버가 실행될 수 있다. 신뢰된 실행 환경(TEE)에서는, 보안 운영 체제(122) 상에서 보안 어플리케이션(121)이 실행되고 보안 장치 드라이버(123) 또는 커널 드라이버가 실행될 수 있다.
보이스 트리거 시스템(201a)은 보안 메모리(231a) 및 보안 프로세서(241a)를 포함하는 보안 소자로서 구현될 수 있다. 다시 말하면, 상기 보안 소자를 이용하여 보안 처리된 보이스 트리거 시스템(201a)을 구현할 수 있다. 보안 메모리(231a) 및 보안 프로세서(241a)는 도 4의 트리거 메모리(231) 및 트리거 프로세서(241)에 각각 대응할 수 있다. 도시하지는 않았지만, 보이스 트리거 시스템(201a)은 도 4의 트리거 인터페이스 회로(211) 및 래퍼(221)에 대응하는 구성요소들을 추가적으로 포함할 수 있다.
일 실시예에서, 보이스 트리거 시스템(201a)은 신뢰된 실행 환경(TEE)에서 호스트 프로세서(101a)와 통신할 수 있다. 예를 들어, 상기 액티브 모드에서 호스트 프로세서(101a)가 보안 운영 체제(122)를 실행하는 동안에, 보이스 트리거 시스템(201a)을 이용하여 보안 처리된 사용자 음성 정보(UVI)를 획득하는 상기 트레이닝 동작을 수행하며, 상기 트레이닝 동작에 의해 획득된 보안 처리된 사용자 음성 정보(UVI)는 보이스 트리거 시스템(201a)의 보안 저장 영역을 나타내는 보안 메모리(231a)(즉, 도 4의 트리거 메모리(231))에 저장될 수 있다.
예를 들어, 상기 트레이닝 동작을 수행하여, 트리거 사운드에 대한 사용자 음성의 특성을 저장할 수 있다. 상기 사용자 음성의 특성은 사용자 발화 컨디션 및 발화 환경을 포함할 수 있다. 상기 사용자 발화 컨디션은 상기 사용자 음성의 에너지 및 상기 사용자 음성의 주파수 대역 분포를 포함할 수 있다. 상기 발화 환경은 음성 발화 당시의 울림값(RT, reverberation time) 및 음성 신호 대 잡음비(SNR, signal to noise ratio)를 포함할 수 있다. 다시 말하면, 상기 트레이닝 동작은 상기 사용자 음성의 에너지, 상기 주파수 대역 분포, 상기 사용자 음성의 발화 시의 울림값 및 상기 음성 신호 대 잡음비 중 적어도 하나를 상기 사용자 음성의 특성으로 저장하는 것을 나타낼 수 있다.
상기 액티브 모드에서 호스트 프로세서(101a)가 보안 운영 체제(122)를 실행하는 동안에 상기 트레이닝 동작을 수행하고, 보안 처리된 보이스 트리거 시스템(201a)을 입력 경로로 사용함으로써, 보안 처리된 사용자 음성 정보(UVI) 및 트리거 입력 신호를 안전하게 획득 및 보호할 수 있다.
한편, 보이스 트리거 시스템(201a)을 호스트 프로세서(101a)와 독립적으로 보안 처리하여 동작함으로써, 보이스 트리거 시스템(201a)은 호스트 프로세서(101a)가 동작하지 않는 상기 슬립 모드에서 보안 처리된 사용자 음성 정보(UVI)에 기초하여 상기 보이스 트리거 동작을 안전하게 수행할 수 있다.
도 6은 도 4의 애플리케이션 프로세서에 포함되는 메일 박스 모듈의 일 예를 나타내는 도면이다.
도 4 및 6을 참조하면, 애플리케이션 프로세서(2001)에 포함되는 메일 박스 모듈(SMBX)은 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송의 동기화를 지원할 수 있다. 애플리케이션 프로세서(2001)는 메일 박스 모듈(SMBX)을 이용하여 시스템 버스(2100)와 독립적으로 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송을 수행할 수 있다.
일 실시예에서, 메일 박스 모듈(SMBX)을 이용하여 비보안 상태로 동작하는 오디오 서브 시스템(301)이 보안 처리하여 동작하는 보이스 트리거 시스템(201)에 액세스 가능하도록 보안 속성(예를 들어, 애플리케이션 프로세서(2001), 보이스 트리거 시스템(201) 및/또는 메일 박스 모듈(SMBX)의 보안 속성)이 설정될 수 있다. 예를 들어, 도 4에 도시된 것처럼, 메일 박스 모듈(SMBX)은 보안 처리될 수 있고, 인터럽트 콘트롤러(810) 및/또는 보호 콘트롤러(820)에 의해 상기 보안 속성이 설정될 수 있다.
도 6에 도시된 것처럼, 메일 박스 모듈(900)은 인터페이스(910), 메시지 박스(920), 복수의 레지스터들(INTGR0, INTCR0, INTMR0, INTSR0, INTMSR0)을 포함하는 제1 레지스터 회로(930) 및 복수의 레지스터들(INTGR1, INTCR1, INTMR1, INTSR1, INTMSR1)을 포함하는 제2 레지스터 회로(940)를 포함할 수 있다. 도 6에는 메일 박스 모듈(900)이 인터페이스(910)(예를 들어, APB 인터페이스)를 통하여 시스템 버스(2100)의 브리지, 예를 들어, AHB-APB 브리지(AHB2APB)에 연결되고, 메시지 박스(920)가 6*32 비트의 공유된 레지스터로 구현된 예가 도시되어 있으나, 이에 한정되는 것은 아니다. 인터페이스(910)의 타입, 메시지 박스(920)의 레지스터의 개수 및 비트수 등은 다양하게 변경될 수 있다. 제1 레지스터 회로(930)는 트리거 프로세서(PRCV)로의 인터럽트(IRQ TO PRCV)를 발행하고 제2 레지스터 회로(940)는 오디오 프로세서(PRCA)로의 인터럽트(IRQ TO PRCA)를 발행한다. 이러한 메일 박스 모듈(900)을 이용하여 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송을 동기화할 수 있다.
트리거 프로세서(PRCV) 및 오디오 프로세서(PRCA) 중 하나가 메시지 박스(920)에 메시지를 기입한 후 인터럽트(IRQ)를 전송하는 방식으로 쌍방향 통신을 할 수 있으며, 폴링(polling) 방법 등을 통하여 적절하게 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송의 동기화를 구현할 수 있다.
도 7은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 보이스 트리거 시스템 및 오디오 서브 시스템의 연결 관계를 나타내는 블록도이다. 이하 도 4와 중복되는 설명은 생략될 수 있다.
도 7을 참조하면, 애플리케이션 프로세서(2002)는 시스템 버스(2100), 호스트 프로세서(101), 보이스 트리거 시스템(201), 오디오 서브 시스템(301), 메일 박스 모듈(SMBX), 인터럽트 콘트롤러(810), 보호 콘트롤러(820), 어드레스 공간 보호기(830), 방화벽(840) 및 다이렉트 버스(500)를 포함할 수 있다.
다이렉트 버스(500)를 더 포함하는 것을 제외하면, 도 7의 애플리케이션 프로세서(2002)는 도 4의 애플리케이션 프로세서(2001)와 실질적으로 동일할 수 있다.
다이렉트 버스(500)는 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301)을 전기적으로 연결하고, 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 직접적인 데이터 전송 경로를 제공할 수 있다.
일 실시예에서, 다이렉트 버스(500)를 이용하여 비보안 상태로 동작하는 오디오 서브 시스템(301)이 보안 처리하여 동작하는 보이스 트리거 시스템(201)에 액세스 가능하도록 보안 속성(예를 들어, 애플리케이션 프로세서(2002) 및/또는 보이스 트리거 시스템(201)의 보안 속성)이 설정될 수 있다. 도 7에 도시된 것처럼, 다이렉트 버스(500)는 보안 처리될 수 있고, 인터럽트 콘트롤러(810) 및/또는 보호 콘트롤러(820)에 의해 상기 보안 속성이 설정될 수 있다. 애플리케이션 프로세서(2002)는 다이렉트 버스(500) 및 메일 박스 모듈(SMBX)을 이용하여 시스템 버스(2100)와 독립적으로 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송을 수행할 수 있다.
한편, 도시하지는 않았지만, 도 4 및 7의 실시예에서 오디오 코덱(50)이 오디오 서브 시스템(301)에 포함되거나, 오디오 서브 시스템(301)이 블루투스 마이크(81) 및 블루투스 스피커(82)와 연결되는 블루투스 모듈(70)과 추가적으로 연결되거나, 오디오 서브 시스템(301)이 USB 마이크 및 USB 스피커와 연결되는 USB 모듈과 추가적으로 연결되거나, 또는 오디오 코덱(50)이 블루투스 모듈(70) 및/또는 상기 USB 모듈로 대체될 수도 있다.
도 8은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법을 나타내는 순서도이다.
도 4, 7 및 8을 참조하면, 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송의 동기화를 지원하는 메일 박스 모듈(SMBX)과, 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301)을 전기적으로 연결하는 다이렉트 버스(500) 중 적어도 하나를 제공한다(단계 S510).
메일 박스 모듈(SMBX)과 다이렉트 버스(500) 중 적어도 하나를 이용하여 비보안 상태로 동작하는 오디오 서브 시스템(301)이 보안 처리하여 동작하는 보이스 트리거 시스템(201)에 액세스 가능하도록 보안 속성을 설정한다(단계 S520).
메일 박스 모듈(SMBX)과 다이렉트 버스(500) 중 적어도 하나에 의해 시스템 버스(2100)와 독립적으로 보이스 트리거 시스템(201) 및 오디오 서브 시스템(301) 사이의 데이터 전송을 수행한다(단계 S530).
도 9 및 10은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 보이스 트리거 시스템 및 센서 허브의 연결 관계를 나타내는 블록도들이다. 이하 도 4와 중복되는 설명은 생략될 수 있다.
도 9를 참조하면, 애플리케이션 프로세서(2003)는 시스템 버스(2100), 호스트 프로세서(101), 보이스 트리거 시스템(203), 센서 허브(403), 액티브 파워 관리부(APM), 메일 박스 모듈들(SMBXa, SMBXb), 인터럽트 콘트롤러(810), 보호 콘트롤러(820), 어드레스 공간 보호기(830) 및 방화벽(840)을 포함할 수 있다. 센서 허브(403)는 도 2a의 오디오 처리 시스템(250)에 포함될 수 있다.
보이스 트리거 시스템(203)은 시스템 버스(2100)에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호(SDMIC, SAMIC)에 기초하여 보이스 트리거 동작을 수행할 수 있다. 보이스 트리거 시스템(203)은 디지털 마이크(40)로부터 트리거 입력 신호(SDMIC)를 수신하거나 오디오 코덱(CODEC)(50)으로부터 트리거 입력 신호(SAMIC)를 수신할 수 있다. 신호 전송의 동기화를 위해 마이크 클록 신호(MICCLK)가 보이스 트리거 시스템(203), 디지털 마이크(40) 및 오디오 코덱(50) 사이에서 전송될 수 있다. 트리거 입력 신호(SDMIC, SAMIC) 및 마이크 클록 신호(MICCLK)는 패드들(PD11, PD12, PD13)을 통하여 전송될 수 있다. 패드들(PD11, PD12, PD13)은 사용되지 않는 다른 패드들로부터 간섭을 받지 않도록 설정될 수 있다.
보이스 트리거 시스템(203)은 호스트 프로세서(101)와 독립적으로 보안 처리하여 동작하고, 상기 슬립 모드에서 상기 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호(SDMIC, SAMIC) 및 보이스 트리거 시스템(203) 내에 저장되고 보안 처리된 사용자 음성 정보(UVI)에 기초하여 상기 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생하며, 상기 액티브 모드에서 호스트 프로세서(101)가 보안 운영 체제(S_OS)를 실행하는 동안에, 보이스 트리거 시스템(203)을 이용하여 보안 처리된 사용자 음성 정보(UVI)를 획득하는 상기 트레이닝 동작을 수행할 수 있다.
센서 허브(403)는 시스템 버스(2100)에 전기적으로 연결되고 오디오 인터페이스를 통하여 하나 이상의 센서들(SEN1, SEN2, SEN3)(31, 32, 33)로부터 제공되는 감지 신호들을 처리할 수 있다.
보이스 트리거 시스템(203)과 다르게, 센서 허브(403)는 비보안 상태로 동작할 수 있다.
센서 허브(403)는 센서 로직(sensor logic)(LOGS)(413), 센서 메모리(sensor memory)(MEMS)(423) 및 센서 프로세서(sensor processor)(PRCS)(433)를 포함할 수 있고, 도 3을 참조하여 설명한 바와 같은 다양한 센서들로부터 제공되는 감지 신호들을 처리할 수 있다.
애플리케이션 프로세서(2003)에 포함되는 메일 박스 모듈들(SMBXa, SMBXb)은 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송의 동기화를 지원할 수 있다. 애플리케이션 프로세서(2003)는 메일 박스 모듈들(SMBXa, SMBXb)을 이용하여 시스템 버스(2100)와 독립적으로 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송을 수행할 수 있다.
일 실시예에서, 메일 박스 모듈들(SMBXa, SMBXb)을 이용하여 비보안 상태로 동작하는 센서 허브(403)가 보안 처리하여 동작하는 보이스 트리거 시스템(203)에 액세스 가능하도록 보안 속성이 설정될 수 있다. 도 9에 도시된 것처럼, 메일 박스 모듈들(SMBXa, SMBXb)은 보안 처리될 수 있고, 인터럽트 콘트롤러(810) 및/또는 보호 콘트롤러(820)에 의해 상기 보안 속성이 설정될 수 있다.
도 10을 참조하면, 애플리케이션 프로세서(2004)는 시스템 버스(2100), 호스트 프로세서(101), 보이스 트리거 시스템(203), 센서 허브(403), 액티브 파워 관리부(APM), 메일 박스 모듈들(SMBXa, SMBXb), 인터럽트 콘트롤러(810), 보호 콘트롤러(820), 어드레스 공간 보호기(830), 방화벽(840) 및 다이렉트 버스(600)를 포함할 수 있다.
다이렉트 버스(600)를 더 포함하는 것을 제외하면, 도 10의 애플리케이션 프로세서(2004)는 도 9의 애플리케이션 프로세서(2003)와 실질적으로 동일할 수 있다.
다이렉트 버스(600)는 보이스 트리거 시스템(203) 및 센서 허브(403)를 전기적으로 연결하고, 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 직접적인 데이터 전송 경로를 제공할 수 있다.
일 실시예에서, 다이렉트 버스(600)를 이용하여 비보안 상태로 동작하는 센서 허브(403)가 보안 처리하여 동작하는 보이스 트리거 시스템(203)에 액세스 가능하도록 보안 속성이 설정될 수 있다. 도 10에 도시된 것처럼, 다이렉트 버스(600)는 보안 처리될 수 있고, 인터럽트 콘트롤러(810) 및/또는 보호 콘트롤러(820)에 의해 상기 보안 속성이 설정될 수 있다. 애플리케이션 프로세서(2004)는 다이렉트 버스(600) 및 메일 박스 모듈들(SMBXa, SMBXb)을 이용하여 시스템 버스(2100)와 독립적으로 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송을 수행할 수 있다.
일 실시예에서, 도 9 및 10에 도시된 것처럼, 2개의 메일 박스 모듈들(SMBXa, SMBXb)이 액티브 파워 관리부(APM)를 매개로 하여 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송의 동기화를 지원할 수 있다. 메일 박스 모듈들(SMBXa, SMBXb)은 도 6을 참조하여 설명한 바와 같다. 다른 실시예에서, 액티브 파워 관리부(APM)를 경유하지 않고 1개의 메일 박스 모듈이 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송의 동기화를 지원할 수 있다.
도 11은 본 발명의 실시예들에 따른 애플리케이션 프로세서의 동작 방법을 나타내는 순서도이다.
도 9, 10 및 11을 참조하면, 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송의 동기화를 지원하는 메일 박스 모듈(SMBXa, SMBXb)과, 보이스 트리거 시스템(203) 및 센서 허브(403)를 전기적으로 연결하는 다이렉트 버스(600) 중 적어도 하나를 제공한다(단계 S710).
메일 박스 모듈(SMBXa, SMBXb)과 다이렉트 버스(600) 중 적어도 하나를 이용하여 비보안 상태로 동작하는 센서 허브(403)가 보안 처리하여 동작하는 보이스 트리거 시스템(203)에 액세스 가능하도록 보안 속성을 설정한다(단계 S720).
메일 박스 모듈(SMBXa, SMBXb)과 다이렉트 버스(600) 중 적어도 하나에 의해 시스템 버스(2100)와 독립적으로 보이스 트리거 시스템(203) 및 센서 허브(403) 사이의 데이터 전송을 수행한다(단계 S730).
한편, 도 4, 7, 9 및 10을 참조하여 오디오 서브 시스템(301) 및 센서 허브(403)가 비보안 상태로 동작하는 것으로 설명하였으나, 본 발명은 이에 한정되지 않으며 오디오 서브 시스템(301) 및 센서 허브(403)는 보안 상태로 동작할 수도 있다. 예를 들어, 오디오 서브 시스템(301) 및 센서 허브(403)는 소프트웨어(software) 적으로 보안 상태로 동작할 수 있으며, 하드웨어 적으로 독립적으로 보안 처리된 보이스 트리거 시스템(201, 203)과 데이터를 주고받을 수 있다.
도 12a 및 12b는 본 발명의 실시예들에 따른 애플리케이션 프로세서의 파워 도메인을 설명하기 위한 도면들이다.
애플리케이션 프로세서는 서로 다른 파워들을 각각 공급받는 복수의 파워 도메인을 포함할 수 있고, 도 12a 및 12b에는 예시적으로 제1 파워 도메인(PWDM1) 및 제2 파워 도메인(PWDM2)이 도시되어 있다. 제1 파워 도메인(PWDM1)은 애플리케이션 프로세서의 액티브 모드 및 스탠바이 모드(또는 슬립 모드)에서 모두 전원이 공급되는 상시 파워 도메인(always-powered domain)이고, 제2 파워 도메인(PWDM2)는 스탠바이 모드에서 전원이 차단되는 파워 세이브 도메인(power-save domain)일 수 있다.
도 12a를 참조하면, 상시 파워 도메인(PWDM1)에는 시스템 카운터(system counter)(SYSCNT), 액티브 파워 관리부(APM) 및 보이스 트리거 시스템(VTS)이 배치될 수 있다. 파워 세이브 도메인(PWDM2)에는 호스트 프로세서(CPU), 오디오 서브 시스템(ABOX), 센서 허브(CHUB) 등과 같은 복수의 하드웨어 블록들이 배치될 수 있다.
시스템 카운터(SYSCNT)는 시간 정보(TM)를 발생하여 시스템의 전역에 제공할 수 있다. 액티브 파워 관리부(AMP)는 복수의 파워 인에이블 신호들(EN)을 발생하여 각 구성 요소의 파워의 공급 및 차단 등을 제어할 수 있다.
본 발명에서 액티브 모드는 적어도 호스트 프로세서(CPU)가 인에이블되어 운영 체제(OS, operating system)가 동작(running)하는 모드를 나타내고, 슬립 모드는 호스트 프로세서(CPU)가 디스에이블되는 저전력 모드 또는 스탠바이 모드를 나타낸다.
보이스 트리거 시스템(VTS)은 전술한 트리거 이벤트를 나타내는 인터럽트 신호(ITRR)를 발생할 수 있다.
도 12a의 배치와 다르게, 도 12b에서와 같이 보이스 트리거 시스템(VTS)이 제2 파워 도메인(PWDM2)에 배치될 수 있다.
도 12a 및 12b에 도시된 바와 같이, 호스트 프로세서(CPU), 보이스 트리거 시스템(VTS), 오디오 서브 시스템(ABOX) 및 센서 허브(CHUB)는 파워 게이팅 회로들(PG1~PG4)을 각각 포함할 수 있고, 파워 게이팅 회로들(PG1~PG4)은 파워 인에이블 신호들(EN1~EN4)에 응답하여 선택적으로 파워를 공급할 수 있다. 이와 같이, 보이스 트리거 시스템(VTS), 오디오 서브 시스템(ABOX) 및 센서 허브(CHUB)의 각각은 호스트 프로세서(CPU)와 독립적으로 파워 게이팅되어 호스트 프로세서(CPU)와 독립적으로 인에이블될 수 있다.
이상 설명한 바와 같이, 본 발명의 실시예들에 따른 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법은, 보이스 트리거 시스템을 애플리케이션 프로세서에 함께 집적함으로써 보이스 트리거 동작과 관련된 기능을 저전력으로 그리고 효율적으로 구현할 수 있으며, 특히 호스트 프로세서가 액티브 모드에서 수행하여야 할 동작을 온칩 보이스 트리거 시스템을 이용하여 대신 수행함으로써, 애플리케이션 프로세서를 포함하는 전자 장치의 전력 소모를 감소하고 성능을 향상시킬 수 있다.
또한, 호스트 프로세서와 독립적으로 보안 처리된 보이스 트리거 시스템을 이용하여 보이스 트리거 동작 및/또는 사용자 음성 정보 트레이닝 동작을 수행함으로써, 애플리케이션 프로세서 외부에 위치하는 보이스 트리거 시스템에 비하여 보다 더 강화된 보안 기능을 지원하여 보안 성능을 향상시킬 수 있다.
본 발명의 실시예들은 보이스 트리거 기능을 지원하는 임의의 집적 회로, 전자 장치 및 시스템에 유용하게 이용될 수 있다. 예를 들어, 본 발명의 실시예들은 컴퓨터(computer), 노트북(laptop), 핸드폰(cellular), 스마트 폰(smart phone), MP3 플레이어, PDA(personal digital assistant), PMP(portable multimedia player), 디지털 TV, 디지털 카메라, 포터블 게임 콘솔(portable game console), 네비게이션(navigation) 기기, 웨어러블(wearable) 기기, IoT(internet of things) 기기, IoE(internet of everything) 기기, e-북(e-book), VR(virtual reality) 기기, AR(augmented reality) 기기 등과 같은 전자 기기에 더욱 유용하게 적용될 수 있다.
상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술분야의 숙련된 당업자는 하기의 특허청구범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 것이다.

Claims (10)

  1. 시스템 버스;
    상기 시스템 버스에 전기적으로 연결된 호스트 프로세서; 및
    상기 시스템 버스에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생하는 보이스 트리거 시스템을 포함하고,
    상기 보이스 트리거 시스템은 상기 호스트 프로세서와 독립적으로 보안 처리하여 동작하며, 상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여 상기 보이스 트리거 동작을 수행하는 애플리케이션 프로세서.
  2. 제 1 항에 있어서,
    상기 보이스 트리거 시스템은 상기 애플리케이션 프로세서 내에 집적되는 보안 소자(secure element) 내에 포함되는 것을 특징으로 하는 애플리케이션 프로세서.
  3. 제 2 항에 있어서, 상기 보이스 트리거 시스템은,
    보안 트리거 메모리;
    상기 트리거 인터페이스를 형성하고 디지털 마이크 또는 오디오 코덱으로부터 제공되는 상기 트리거 입력 신호를 샘플링하고 변환하는 보안 트리거 인터페이스 회로;
    상기 보안 트리거 인터페이스 회로에 의해 제공되는 데이터를 상기 보안 트리거 메모리에 저장하는 보안 래퍼; 및
    상기 보안 트리거 메모리에 저장된 데이터에 기초하여 상기 보이스 트리거 동작을 수행하는 보안 트리거 프로세서를 포함하고,
    상기 보안 처리된 사용자 음성 정보는 상기 보안 영역에 대응하는 상기 보안 트리거 메모리에 저장되어 있는 것을 특징으로 하는 애플리케이션 프로세서.
  4. 제 1 항에 있어서,
    상기 시스템 버스 및 상기 호스트 프로세서가 인에이블되는 액티브(active) 모드에서, 상기 호스트 프로세서는 비보안 운영 체제(operating system) 및 보안 운영 체제 중 하나를 실행하며,
    상기 호스트 프로세서가 상기 보안 운영 체제를 실행하는 동안에, 상기 보이스 트리거 시스템을 이용하여 상기 보안 처리된 사용자 음성 정보를 획득하는 트레이닝(training) 동작을 수행하는 것을 특징으로 하는 애플리케이션 프로세서.
  5. 제 1 항에 있어서,
    상기 시스템 버스에 전기적으로 연결되고 오디오 인터페이스를 통하여 재생 및 녹음되는 오디오 스트림을 처리하는 오디오 서브 시스템을 더 포함하며,
    상기 오디오 서브 시스템은 비보안 상태로 동작하는 것을 특징으로 하는 애플리케이션 프로세서.
  6. 제 5 항에 있어서,
    상기 보이스 트리거 시스템 및 상기 오디오 서브 시스템 사이의 데이터 전송의 동기화를 지원하는 메일 박스 모듈을 더 포함하고,
    상기 메일 박스 모듈을 이용하여 상기 비보안 상태로 동작하는 상기 오디오 서브 시스템이 상기 보안 처리하여 동작하는 보이스 트리거 시스템에 액세스 가능하도록 보안 속성이 설정되는 것을 특징으로 하는 애플리케이션 프로세서.
  7. 제 6 항에 있어서,
    상기 보이스 트리거 시스템 및 상기 오디오 서브 시스템을 전기적으로 연결하는 다이렉트 버스를 더 포함하고,
    상기 다이렉트 버스를 이용하여 상기 비보안 상태로 동작하는 상기 오디오 서브 시스템이 상기 보안 처리하여 동작하는 보이스 트리거 시스템에 액세스 가능하도록 상기 보안 속성이 설정되는 것을 특징으로 하는 애플리케이션 프로세서.
  8. 애플리케이션 프로세서; 및
    적어도 하나의 오디오 입출력 장치를 포함하고,
    상기 애플리케이션 프로세서는,
    시스템 버스;
    상기 시스템 버스에 전기적으로 연결된 호스트 프로세서; 및
    상기 시스템 버스에 전기적으로 연결되고 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호에 기초하여 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생하는 보이스 트리거 시스템을 포함하며,
    상기 보이스 트리거 시스템은 상기 호스트 프로세서와 독립적으로 보안 처리하여 동작하며, 상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여 상기 보이스 트리거 동작을 수행하는 전자 장치.
  9. 시스템 버스와, 상기 시스템 버스에 전기적으로 연결되는 호스트 프로세서 및 보이스 트리거 시스템을 하나의 반도체 칩에 함께 집적하여 형성된 애플리케이션 프로세서에서, 상기 호스트 프로세서와 독립적으로 보안 처리하여 상기 보이스 트리거 시스템을 동작시키는 단계; 및
    상기 시스템 버스 및 상기 호스트 프로세서가 동작하지 않는 슬립(sleep) 모드에서, 상기 보안 처리된 보이스 트리거 시스템에 의해 트리거 인터페이스를 통하여 제공되는 트리거 입력 신호 및 상기 보안 처리된 보이스 트리거 시스템 내의 보안 영역에 저장되고 보안 처리된 사용자 음성 정보에 기초하여, 보이스 트리거 동작을 수행하여 트리거 이벤트를 발생하는 단계를 포함하는 애플리케이션 프로세서의 동작 방법.
  10. 제 9 항에 있어서,
    상기 시스템 버스 및 상기 호스트 프로세서가 인에이블되는 액티브(active) 모드에서 상기 호스트 프로세서가 보안 운영 체제를 실행하는 동안에, 상기 보안 처리된 보이스 트리거 시스템을 이용하여 상기 보안 처리된 사용자 음성 정보를 획득하는 트레이닝(training) 동작을 수행하는 단계를 더 포함하는 것을 특징으로 하는 애플리케이션 프로세서의 동작 방법.

KR1020180009410A 2018-01-25 2018-01-25 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법 KR102629424B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020180009410A KR102629424B1 (ko) 2018-01-25 2018-01-25 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법
US16/176,026 US11061465B2 (en) 2018-01-25 2018-10-31 Application processor including low power voice trigger system with security, electronic device including the same and method of operating the same
TW107139624A TWI791662B (zh) 2018-01-25 2018-11-08 包含具安全性之低電力語音觸發系統的應用處理器
CN201910061770.XA CN110083327A (zh) 2018-01-25 2019-01-23 应用处理器、电子装置和操作应用处理器的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180009410A KR102629424B1 (ko) 2018-01-25 2018-01-25 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법

Publications (2)

Publication Number Publication Date
KR20190090562A true KR20190090562A (ko) 2019-08-02
KR102629424B1 KR102629424B1 (ko) 2024-01-25

Family

ID=67299980

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180009410A KR102629424B1 (ko) 2018-01-25 2018-01-25 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법

Country Status (4)

Country Link
US (1) US11061465B2 (ko)
KR (1) KR102629424B1 (ko)
CN (1) CN110083327A (ko)
TW (1) TWI791662B (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200093029A (ko) * 2018-03-21 2020-08-04 구글 엘엘씨 보안 처리 환경에서의 데이터 전송

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110060685B (zh) * 2019-04-15 2021-05-28 百度在线网络技术（北京）有限公司 语音唤醒方法和装置
CN113849792A (zh) * 2020-06-10 2021-12-28 瑞昱半导体股份有限公司 适于具有锁定功能的电子装置的电子组件及解除锁定方法
CN112463109A (zh) * 2021-01-18 2021-03-09 周子涵 一种智能终端语音报时的实现方法、装置及系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110030711A (ko) * 2008-08-04 2011-03-23 애플 인크. 매체 프로세싱 방법 및 장치
KR20160098771A (ko) * 2015-02-11 2016-08-19 삼성전자주식회사 음성 기능 운용 방법 및 이를 지원하는 전자 장치
KR20170010494A (ko) * 2015-07-20 2017-02-01 엘지전자 주식회사 이동 단말기 및 그 제어 방법

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2004046950A1 (en) * 2002-11-15 2004-06-03 Infineon Technologies Ag Mailbox interface between processors
JP2005184618A (ja) 2003-12-22 2005-07-07 Matsushita Electric Ind Co Ltd 音声認証装置、音声認証システム及び音声認証方法
JP2008005138A (ja) * 2006-06-21 2008-01-10 Nec Electronics Corp 半導体装置及び信号処理システム
US9253560B2 (en) 2008-09-16 2016-02-02 Personics Holdings, Llc Sound library and method
US20110154364A1 (en) 2009-12-22 2011-06-23 International Business Machines Corporation Security system to protect system services based on user defined policies
DE212014000045U1 (de) 2013-02-07 2015-09-24 Apple Inc. Sprach-Trigger für einen digitalen Assistenten
US9582983B2 (en) * 2013-09-11 2017-02-28 Intel Corporation Low power voice trigger for finding mobile devices
US9443522B2 (en) 2013-11-18 2016-09-13 Beijing Lenovo Software Ltd. Voice recognition method, voice controlling method, information processing method, and electronic apparatus
JP2017511619A (ja) 2014-01-10 2017-04-20 テルシィ エレットロニカ エ テレコムニカッチオーニ エスピーエーＴｅｌｓｙ Ｅｌｅｔｔｒｏｎｉｃａ Ｅ Ｔｅｌｅｃｏｍｕｎｉｃａｚｉｏｎｉ Ｓｐａ セキュアな音声とデータの方法及びシステム
US9837102B2 (en) * 2014-07-02 2017-12-05 Microsoft Technology Licensing, Llc User environment aware acoustic noise reduction
KR101650164B1 (ko) * 2015-02-11 2016-08-22 이정훈 Cctv 쉐어링 시스템 및 그를 이용한 영상 제공방법
KR102346302B1 (ko) * 2015-02-16 2022-01-03 삼성전자 주식회사 전자 장치 및 음성 인식 기능 운용 방법
GB2536215B (en) 2015-03-05 2018-01-31 Samsung Electronics Co Ltd Secure input mode for user device
US9867012B2 (en) 2015-06-03 2018-01-09 Dsp Group Ltd. Whispered speech detection
US10455339B2 (en) * 2018-01-19 2019-10-22 Cirrus Logic, Inc. Always-on detection systems

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20110030711A (ko) * 2008-08-04 2011-03-23 애플 인크. 매체 프로세싱 방법 및 장치
KR20160098771A (ko) * 2015-02-11 2016-08-19 삼성전자주식회사 음성 기능 운용 방법 및 이를 지원하는 전자 장치
KR20170010494A (ko) * 2015-07-20 2017-02-01 엘지전자 주식회사 이동 단말기 및 그 제어 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200093029A (ko) * 2018-03-21 2020-08-04 구글 엘엘씨 보안 처리 환경에서의 데이터 전송

Also Published As

Publication number Publication date
CN110083327A (zh) 2019-08-02
KR102629424B1 (ko) 2024-01-25
US20190227620A1 (en) 2019-07-25
US11061465B2 (en) 2021-07-13
TWI791662B (zh) 2023-02-11
TW201933085A (zh) 2019-08-16

Similar Documents

Publication Publication Date Title
KR102629424B1 (ko) 보안 기능을 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법
CN105745615B (zh) 用于移动设备的始终进行的音频控制
US11216399B2 (en) Application processor for low power operation, electronic device including the same and method of operating the same
US11256638B2 (en) Application processor supporting interrupt during audio playback, electronic device including the same and method of operating the same
EP4109281B1 (en) Peer-to-peer link sharing for upstream communications from xpus to a host processor
CN108681474A (zh) 应用预加载方法、装置、存储介质及终端
GB2522517A (en) Selectively disabling sensors and associated functions
TWI794342B (zh) 支援低功率回音消除之應用處理器、包含該處理器的電子裝置及其操作方法
KR102530391B1 (ko) 외부 인터럽트를 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법
KR102629385B1 (ko) 바지-인 관련 직접 경로를 지원하는 저전력 보이스 트리거 시스템을 포함하는 애플리케이션 프로세서, 이를 포함하는 전자 장치 및 그 동작 방법
US20110296223A1 (en) Electronic Apparatus and Control Method of the Electronic Apparatus
KR20210121436A (ko) Usb 모듈을 위한 오디오 서브 시스템의 구동 방법 및 이를 수행하는 시스템 온 칩

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant