WO2022114532A1 - 전자장치 및 그 제어방법 - Google Patents

전자장치 및 그 제어방법 Download PDF

Info

Publication number
WO2022114532A1
WO2022114532A1 PCT/KR2021/014693 KR2021014693W WO2022114532A1 WO 2022114532 A1 WO2022114532 A1 WO 2022114532A1 KR 2021014693 W KR2021014693 W KR 2021014693W WO 2022114532 A1 WO2022114532 A1 WO 2022114532A1
Authority
WO
WIPO (PCT)
Prior art keywords
audio signal
noise
reference data
noise characteristic
identified
Prior art date
Application number
PCT/KR2021/014693
Other languages
English (en)
French (fr)
Inventor
김가을
최찬희
Original Assignee
삼성전자(주)
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자(주) filed Critical 삼성전자(주)
Priority to US17/566,347 priority Critical patent/US20220165298A1/en
Publication of WO2022114532A1 publication Critical patent/WO2022114532A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/22—Interactive procedures; Man-machine interfaces
    • G10L17/24—Interactive procedures; Man-machine interfaces the user being prompted to utter a password or a predefined phrase
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/20—Pattern transformations or operations aimed at increasing system robustness, e.g. against channel noise or different working conditions
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G10L21/0216—Noise filtering characterised by the method used for estimating noise
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/15—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being formant information
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/225—Feedback of the input speech

Definitions

  • the present invention relates to an electronic device and a control method thereof, and more particularly, to an electronic device for identifying whether a received audio signal corresponds to a start command based on reference data, and a control method thereof.
  • the start command is a specific command for activating the voice recognition function.
  • the voice recognition function is activated, and then voice recognition processing is performed on the received user voice input, An operation is performed according to the recognition result.
  • This may be achieved by an electronic device including a processor that performs an operation corresponding to the user's voice input based on the user's voice input.
  • the processor identifies the noise characteristic based on the first audio signal received before the reception time of the second audio signal.
  • the processor adjusts a time period during which the first audio signal is received based on the identified magnitude of the noise characteristic.
  • the processor identifies reference data having two or more noise characteristics corresponding to the identified noise characteristics in two or more time intervals identified in frame order among the plurality of noise characteristics.
  • the processor assigns a high weight to reference data having a noise characteristic corresponding to the noise characteristic identified in the time interval close to the reception time of the second audio signal among the two or more noise characteristics.
  • the processor is configured to identify a first noise characteristic of reference data having a similarity of a frequency pattern with the second audio signal equal to or greater than a first preset value from among the two or more noise characteristics, and the identified first noise characteristic is the weight If n is consistent with the noise characteristic of the high reference data, the second audio signal is corrected by using the reference data having the first noise characteristic.
  • the processor is configured to determine, if the identified first noise characteristic does not match the noise characteristic of the reference data having a high weight, the similarity of the frequency pattern with the second audio signal among the two or more noise characteristics is determined by the first preset It is identified whether the second audio signal corresponds to the start command based on reference data having a second noise characteristic equal to or greater than a second preset value higher than the value.
  • the processor identifies the plurality of noise characteristics and controls to provide a user interface indicating the plurality of identified noise characteristics.
  • the processor controls to provide the user interface in which the plurality of noise characteristics are distinguished from each other according to the strength or type of the identified plurality of noise characteristics.
  • the identifying of the noise characteristic may include identifying the noise characteristic based on the first audio signal received before the reception time of the second audio signal.
  • the identifying of the noise characteristic may include adjusting a time period in which the first audio signal is received based on the identified magnitude of the noise characteristic.
  • the method further includes identifying reference data having two or more noise characteristics corresponding to the identified noise characteristics in two or more time intervals identified in frame order among the plurality of noise characteristics.
  • the method further includes assigning a high weight to reference data having a noise characteristic corresponding to the noise characteristic identified in the time interval close to the reception time of the second audio signal among the two or more noise characteristics.
  • an electronic device capable of improving resource efficiency, recognition speed and recognition accuracy by selecting reference data in consideration of current noise characteristics and recognizing a start command adaptive to the surrounding current noise environment, and controlling the same provide a way
  • FIG 1 illustrates an electronic device according to an embodiment of the present invention.
  • FIG. 2 shows an example of the configuration related to the electronic device and the server of FIG. 1 .
  • FIG. 3 shows an example of a control method for the electronic device of FIG. 1 .
  • FIG. 4 shows a specific example of identifying a noise characteristic in relation to operation S31 of FIG. 3 .
  • FIG. 5 shows a specific example of adjusting a time interval in relation to operation S31 of FIG. 3 .
  • FIG. 6 shows a specific example of selecting any one of a plurality of reference data in relation to operation S32 of FIG. 3 .
  • FIG. 7 illustrates a specific example of assigning weights to reference data or adjusting weights in relation to operation S32 of FIG. 3 .
  • FIG. 8 shows a specific example of a control method for selecting reference data based on similarity and weight among a plurality of reference data in relation to operation S32 of FIG. 3 .
  • FIG. 9 shows a specific example of identifying reference data when the noise characteristic according to the similarity determination and the noise characteristic based on the weight are the same in relation to operation S84 of FIG. 8 .
  • FIG. 10 shows a specific example of identifying reference data when the noise characteristic according to the similarity determination and the noise characteristic based on the weight are different in relation to operation S84 of FIG. 8 .
  • 11 shows a specific example of a user interface showing noise characteristics.
  • FIG. 12 shows a specific example in which the user interface of FIG. 11 is displayed with different colors for each noise characteristic.
  • FIG. 13 shows a specific example in which the user interface of FIG. 11 is set according to a user input.
  • expressions such as “A or B”, “at least one of A and/and B”, or “one or more of A or/and B” may include all possible combinations of the items listed together.
  • “A or B”, “at least one of A and B” or “at least one of A or B” includes at least one A, includes at least one B, or at least one A and at least one It can refer to all cases including all of B of .
  • expressions such as “first”, “second”, “first”, “second” may modify various components, regardless of order and/or importance, and do not limit the components. These expressions can be used to distinguish one component from another.
  • FIG 1 illustrates an electronic device according to an embodiment of the present invention.
  • the electronic device 1 includes not only an image display device such as a TV, a tablet, a portable media player, a wearable device, a video wall, an electronic picture frame, etc., but also an image processing device such as a set-top box without a display. , refrigerators, washing machines, and other household appliances, and information processing devices such as computer bodies.
  • the electronic device 1 is implemented as an artificial intelligence (AI) speaker equipped with an artificial intelligence function, an AI robot, and the like.
  • AI artificial intelligence
  • the type of the electronic device 1 is not limited thereto.
  • the electronic device 1 is implemented as a TV.
  • the electronic device 1 performs a voice recognition function.
  • the electronic device 1 performs voice recognition processing on the signal of the audio 3 uttered by the user 2 .
  • the electronic device 1 obtains a recognition result for voice recognition processing, and performs an operation corresponding to the obtained recognition result.
  • Speech recognition processing includes STT (Speech-to-Text) processing for converting a signal of the audio 3 into text data, identifying a command indicated by the text data, and performing an operation indicated by the identified command. includes the process of implementation. All of the voice recognition processing may be executed in the electronic device 1, but in consideration of the system load and required storage capacity, at least a part of the process is performed by at least one server communicatively connected to the electronic device 1 through a network. is carried out For example, at least one server performs an STT processing process, and the electronic device 1 performs a command identification and execution process. Alternatively, the at least one server may perform both the STT processing process and the command identification and execution process, and the electronic device 1 may only receive the result from the at least one server.
  • STT Sound-to-Text
  • the electronic device 1 receives the signal of the audio 3 through the internal microphone 16 provided in the main body or the remote controller 4 separated from the main body.
  • the remote controller 4 When the remote controller 4 is used, a signal of the audio 3 is received from the remote controller 4 and voice recognition processing is performed on the received audio 3 .
  • the electronic device 1 activates the voice recognition function based on the start command 6 .
  • the start command 6 is a specific command for activating the voice recognition function.
  • the voice recognition function is activated according to the start command 6, the voice recognition processing described above is performed on the user's voice input received later, and the user's voice An operation corresponding to the input is performed.
  • the electronic device 1 performs start command recognition based on the reference data 9 .
  • the start command recognition is performed based on the similarity determination between the second audio signal 7 and the reference data 9 .
  • the second audio signal 7 may be received from the user 2 through the internal microphone 16 or the remote controller 4, but is not limited thereto.
  • the similarity determination includes a similarity determination regarding frequency characteristics.
  • the frequency characteristic includes at least one of a frequency pattern, tone, intensity, speed, period, and amplitude.
  • the reference data 9 includes an acoustic model related to a pattern and the like, and the acoustic model may be implemented as a hardware/software component.
  • the reference data 9 may be provided for each sensitivity.
  • the sensitivity is a measure indicating how precisely the judgment of similarity with respect to the frequency characteristic with the second audio signal 7 is performed. When the sensitivity is high, the similarity determination for the frequency characteristic is performed even for an audio signal having a weak frequency characteristic, whereas when the sensitivity is low, the similarity determination for the frequency characteristic is performed only for an audio signal having a strong frequency characteristic.
  • the reference data 9 may be provided for each noise characteristic.
  • the noise includes not only natural noise, such as wind noise, but also artificial noise, such as noise between floors and operation of household appliances.
  • the noise may include voice input from the user 2 , daily conversations.
  • the user's voice input includes a voice command from the user 2 for controlling a function of the electronic device 1 or a peripheral device providing a voice recognition function.
  • Daily conversations include chats from the user 2 or family members, voice calls, and the like.
  • the noise may include audio of content output from the electronic device 1 .
  • the content audio includes audio output based on an audio signal corresponding to an image of the content displayed on the display 14 .
  • the noise characteristic is a characteristic of the noise, and includes at least one of a pattern, tone, intensity, speed, frequency, period, and amplitude of the noise.
  • reference data 9 corresponding to low noise, high noise, etc. may be provided for each noise level.
  • the noise may be received through the internal microphone 16 or the remote controller 4, but is not limited thereto, so the noise is not limited to data received from another external device or the server 30 (refer to FIG. 2) through the network. may be based on
  • the electronic device 1 identifies a noise characteristic based on the first audio signal 8 .
  • the first audio signal 8 may be received through the internal microphone 16 or the remote controller 4, but is not limited thereto.
  • the noise characteristic may indicate a current noise environment around the electronic device 1 before reception of the second audio signal 7 . For example, if the noise characteristic is identified as a low noise level, it may indicate that the current noise environment before the reception of the second audio signal 7 is a low noise environment. On the other hand, if it is identified as having a high level of noise, it may indicate that the current noise environment is a high noise environment.
  • FIG. 2 shows an example of the configuration of the electronic device of FIG. 1 .
  • the wireless interface unit transmits and receives data packets to and from the server 30 by wirelessly communicating with the server 30 on the network.
  • the wireless interface unit includes an IR transmitter and/or an IR receiver capable of transmitting and/or receiving an IR (Infrared) signal according to an infrared communication standard.
  • the electronic device 1 includes a communication unit 12 .
  • the communication unit 12 is connected to the server 30 and other external devices to transmit video/audio signals.
  • the communication unit 12 includes at least one of a wired interface unit and a wireless interface according to a design method, and performs at least one function of the wired interface unit and the wireless interface.
  • the electronic device 1 includes a user input unit 13 .
  • the user input unit 13 includes various types of input interface related circuits that are provided to be manipulated by the user 2 in order to perform an input of the user 2 .
  • the user input unit 13 may be configured in various forms depending on the type of the electronic device 1 , for example, a mechanical or electronic button unit of the electronic device 1 , a touch pad, or a touch screen installed on the display 14 . etc.
  • the electronic device 1 includes a sensor unit 15 .
  • the sensor unit 15 senses the front of the electronic device 1 to detect the presence, movement, etc. of the user 2 or another electronic device.
  • the sensor unit 15 may be implemented as an image sensor, captures the front of the electronic device 1, and obtains information about the presence, movement, etc. of the user 2 or other electronic device from the captured image.
  • the image sensor is implemented as a complementary metal oxide semiconductor (CMOS) or a charge coupled device (CCD) type camera.
  • CMOS complementary metal oxide semiconductor
  • CCD charge coupled device
  • the sensor unit 15 may be implemented as an infrared sensor, and obtains information about the presence, movement, etc. of the user 2 or other electronic device by measuring the time for the infrared signal output to the front to be reflected and returned.
  • the electronic device 1 includes a microphone 16 .
  • the microphone 16 receives various audio signals.
  • the microphone 16 receives not only the audio 3 from the user 2 but also an audio signal of noise such as noise introduced from the surroundings.
  • the microphone 16 transmits the collected audio signal to the processor 5 .
  • the microphone 16 is implemented as an internal microphone 16 provided in the electronic device 1 or an external microphone provided in the remote controller 4 separated from the main body. When the microphone 16 is implemented as an external microphone, the audio signal received through the external microphone is digitized and received from the remote controller 4 through the interface unit 11 .
  • the storage unit 18 is loaded with data to be processed by the processor 5 , and includes a memory having a volatile property that data cannot be stored if power is not provided.
  • the memory includes a buffer, a random access memory (RAM), and the like.
  • the storage unit 18 is loaded with the first code of the first application (1).
  • the processor 5 identifies the current noise characteristic based on the first audio signal 8 received through the microphone 16 .
  • An artificial intelligence system is a computer system that implements human-level intelligence, and the machine learns and judges by itself, and the recognition rate improves the more it is used.
  • the learning unit creates or updates a neural network.
  • the learning unit acquires learning data to generate a neural network.
  • the learning unit acquires the learning data from the storage unit 18 or the server storage unit 33 or from the outside.
  • the learning data may be data used for learning of the neural network, and the neural network may be trained by using the data obtained by performing the above-described operation as learning data.
  • the recognition unit acquires target data to perform the above-described operation.
  • the target data is acquired from the storage unit 18 or the server storage unit 33, or is acquired from the outside.
  • the target data may be data to be recognized by the neural network.
  • the recognition unit performs preprocessing on the acquired target data before applying the target data to the learned neural network, or selects data to be used for recognition from among a plurality of target data. For example, the recognition unit processes target data into a preset format, filters, or adds/removes noise to form data suitable for recognition.
  • the recognition unit obtains an output value output from the neural network by applying the preprocessed target data to the neural network.
  • the recognition unit obtains a probability value or a reliability value together with the output value.
  • the current noise characteristic is identified based on at least one frame corresponding to the time period d before the reception time of the second audio signal 7 among the plurality of frames. do.
  • the processor 5 may process the audio signal 40 in units of frames while buffering the time period d and the time period corresponding to the second audio signal 7 .
  • the existing noise characteristic may be updated based on the noise characteristic in the time interval d.
  • the processor 5 may identify the time period d based on the magnitude of the noise characteristic of the first audio signal 8 .
  • a process of adjusting the time interval d will be described with reference to FIG. 5 .
  • a second noise characteristic different from the first noise characteristic is identified based on the first audio signal 61 received in the first time period d1. For example, when it is identified that the first noise characteristic is a high level noise level based on the frame of the first audio signal 61 received in the first time period d1, the processor 5 generates a high level noise level.
  • the second reference data 64 prepared to correspond to the size may be identified, and the second reference data 64 may be selected as reference data for recognizing a start command for the second audio signal 7 .
  • FIG. 8 shows a specific example of a control method for selecting reference data based on similarity and weight among a plurality of reference data in relation to operation S32 of FIG. 3 .
  • the processor 5 determines whether the similarity of the reference data 9 is greater than or equal to the second preset value. Following (S87), the corresponding reference data 9 is selected (S90), or no reference data 9 is selected (S89).
  • the reference data 9 may be provided for each frequency pattern. As shown in FIG. 9 , the first reference data 63 is provided to correspond to the first frequency pattern 81 , and the second reference data 64 is a second frequency pattern different from the first frequency pattern 81 . It may be provided to correspond to (82). However, since the frequency pattern is for convenience of description, it may be provided in various ways according to a design method.
  • the processor 5 when the noise characteristic of the second reference data 64 identified as the first noise characteristic does not match the noise characteristic of the first reference data 63 to which a high weight is given, the processor 5 generates the second audio signal.
  • the second preset value has a higher value than the first preset value. If the similarity between the frequency pattern 80 of the second audio signal 7 and the frequency pattern 82 of the second reference data 64 is equal to or greater than the second preset value, the processor 5 transmits the second reference data ( 64) can be identified as the second noise characteristic, and the second reference data 64 of the second noise characteristic can be used as reference data for recognizing a start command.
  • 11 shows a specific example of a user interface showing noise characteristics.
  • the UI 110 may be displayed corresponding to the user 2 .
  • the processor 5 causes the user 2 to approach the electronic device 1 in order to utter the audio 3 for activating the voice recognition function. It is considered to be, and the UI 110 may be displayed.
  • the processor 5 can display the UI 110 indicating the noise characteristics, so that the user 2 can adaptively utter the audio 3 or utter the audio 3 adaptively to the current noise environment. It can lead to the creation of a current noise environment suitable for
  • FIG. 12 shows a specific example in which the user interface of FIG. 11 is displayed with different colors for each noise characteristic.
  • the user 2 When the noise characteristic is displayed as low noise through the UI 120, the user 2 identifies that the surrounding current noise environment is quiet, and can utter the audio 3 for activating the voice recognition function in a low voice, , on the other hand, if the noise characteristic is displayed as high noise, it is possible to identify the surrounding current noise environment as being noisy, and to utter the audio 3 for activating the voice recognition function in a loud voice. Alternatively, it is possible to remove a sound source that causes a disturbance in the surrounding current noise environment.
  • the processor 5 can display the UI 120 with different colors for each noise characteristic, the user 2 can intuitively recognize the current noise environment, thereby adaptively adjusting the audio ( 3) may be uttered, or a current noise environment suitable for the utterance of the audio 3 may be induced.
  • the processor 5 may set the UI 110 described with reference to FIG. 11 according to a user input. To this end, the processor 5 may display a setting UI. As an example, the processor 5 may display a setting UI composed of a first UI 101 representing various types of noise characteristics such as low noise and high noise, and a second UI 102 representing different icons of various types. have.
  • the processor 5 may display a square icon through the UI 110 .
  • the processor 5 may display the round icon through the UI 110 when it is identified that the noise characteristic is a high noise.
  • the processor 5 may set the UI 120 described with reference to FIG. 12 according to a user input. For example, when the user 2 associates a white round icon with a low noise, the processor 5 may display a white round icon through the UI 120 when it is identified that the noise characteristic is a low noise.
  • the processor 5 may set whether to display the UI 110 of FIG. 11 or the UI 120 of FIG. 12 according to a user input.
  • the processor 5 displays a UI capable of setting whether to display, and only when display is permitted according to a user input, the UI 110 of FIG. 11 or the UI of FIG. 12 according to the identified noise characteristic (120) can be displayed.
  • the processor 5 can display the UI 110 suitable for the user's preference by arbitrarily setting the UI 110 indicating the current noise characteristic according to a user input through the setting UI. Accordingly, user convenience can be further improved.
  • Various embodiments disclosed in this document are implemented as software including one or more instructions stored in a storage medium readable by a machine such as the electronic device 1 .
  • the processor 5 of the electronic device 1 calls at least one of the one or more instructions stored from the storage medium and executes it. This makes it possible for a device such as the electronic device 1 to be operated to perform at least one function in accordance with the called at least one command.
  • the one or more instructions include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium is provided in the form of a non-transitory storage medium.
  • the computer program product includes instructions of software executed by a processor, as mentioned above.
  • Computer program products are traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg, CD-ROM), or via an application store (eg, Play StoreTM) or between two user devices (eg, smartphones).
  • Direct, online distribution eg, download or upload).
  • at least a portion of the computer program product eg, a downloadable app
  • a machine-readable storage medium such as a memory of a manufacturer's server, a server of an application store, or a relay server. Temporarily saved or created temporarily.

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명은, 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하고, 복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 마이크를 통해 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하고, 기 설정된 유사도를 갖는 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 전자장치에 관한 발명이다.

Description

전자장치 및 그 제어방법
본 출원은 2020년 11월 24일자로 대한민국 특허청에 제출된 대한민국 특허 출원번호 제10-2020-0158904호에 기초한 우선권을 주장하며, 그 개시 내용은 전체가 참조로 본 발명에 포함된다.
본 발명은 전자장치 및 그 제어방법에 관한 것으로서, 상세하게는, 수신된 오디오신호가 시작명령어에 대응하는지 여부를 참조데이터에 기초하여 식별하는 전자장치 및 그 제어방법에 관한 것이다.
최근 전자장치는 시작명령어 인식을 통해 음성인식기능을 활성화하는 기술을 탑재하고 있다. 시작명령어는 음성인식기능을 활성화하는 특정 명령어로서, 수신된 오디오신호가 특정 명령어에 대응하는 것으로 식별되면, 음성인식기능이 활성화되고, 이후에 수신되는 사용자 음성 입력에 대하여 음성인식처리가 수행되어, 인식결과에 따른 동작이 수행된다.
다만, 시작명령어 인식을 수행함에 있어서, 오디오신호와 함께 유입되는 잡음으로 인해 인식 정확도가 저하되는 문제가 있다. 잡음 별로 참조데이터를 마련함으로써, 잡음으로 인한 인식 정확도가 저하되는 문제를 해결하려는 시도가 있었으나, 잡음의 다양성으로 인해 방대한 참조데이터를 마련해야 하므로, 자원 효율성 및 인식 신속성이 저하되는 문제가 초래되었다. 또한, 전자장치 주변의 현재잡음환경과 무관한 참조데이터에 기초하여 잡음처리가 수행되는 결과, 인식 정확도가 오히려 저하되기에 이르렀다.
따라서, 전자장치 현재의 잡음특성을 고려한 참조데이터를 선택하여, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행함으로써, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있는 방안이 요청되고 있다.
본 발명의 목적은, 현재의 잡음특성을 고려한 참조데이터를 선택하여, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행함으로써, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있는 전자장치 및 그 제어방법을 제공하는 것이다.
상기한 본 발명의 목적은, 마이크를 통해 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하고, 복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 상기 마이크를 통해 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하고, 상기 기 설정된 유사도를 갖는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 프로세서를 포함하는 전자장치에 의해 달성될 수 있다.
상기 프로세서는, 상기 제2오디오신호의 수신 시점 이전에 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별한다.
상기 프로세서는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정한다.
상기 프로세서는, 상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 상기 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성을 갖는 참조데이터를 식별한다.
상기 프로세서는, 상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 높은 가중치를 부여한다.
상기 프로세서는, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 제1기설정값 이상인 참조데이터의 제1잡음특성을 식별하고, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하면, 상기 제1잡음특성을 갖는 참조데이터를 사용하여 상기 제2오디오신호를 수정한다.
상기 프로세서는, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하지 않으면, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 상기 제1기설정값보다 높은 제2기설정값 이상인 제2잡음특성을 갖는 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별한다.
상기 프로세서는, 상기 복수의 잡음특성을 식별하고, 상기 식별된 복수의 잡음특성을 나타내는 사용자인터페이스를 제공하도록 제어한다.
상기 프로세서는, 상기 식별된 복수의 잡음특성의 세기 또는 종류에 따라 상기 복수의 잡음특성이 서로 구별되는 상기 사용자인터페이스를 제공하도록 제어한다.
상기한 본 발명의 목적은, 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계; 복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하는 단계; 및 상기 기 설정된 유사도를 갖는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 전자장치의 제어방법에 의해서도 달성될 수 있다.
상기 잡음특성을 식별하는 단계는, 상기 제2오디오신호의 수신 시점 이전에 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별하는 단계를 포함한다.
상기 잡음특성을 식별하는 단계는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정하는 단계를 포함한다.
상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 상기 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성을 갖는 참조데이터를 식별하는 단계를 더 포함한다.
상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 높은 가중치를 부여하는 단계를 더 포함한다.
상기한 본 발명의 목적은, 컴퓨터가 읽을 수 있는 코드로서, 전자장치의 제어방법을 수행하는 코드를 포함하는 컴퓨터 프로그램이 저장된 기록매체에 있어서, 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계; 복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하는 단계; 및 상기 기 설정된 유사도를 갖는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 것을 특징으로 하는 컴퓨터가 읽을 수 있는 프로그램이 기록된 기록매체에 의해서도 달성될 수 있다.
본 발명에 의하면, 현재의 잡음특성을 고려한 참조데이터를 선택하여, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행함으로써, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있는 전자장치 및 그 제어방법을 제공한다.
도 1은 본 발명의 일 실시예에 따른 전자장치를 도시한다.
도 2는 도 1의 전자장치 및 서버에 관한 구성의 일 예를 도시한다.
도 3은 도 1의 전자장치에 대한 제어방법의 일 예를 도시한다.
도 4는 도 3의 동작 S31과 관련하여, 잡음특성을 식별하는 구체적인 예를 도시한다.
도 5는 도 3의 동작 S31과 관련하여, 시간 구간을 조정하는 구체적인 예를 도시한다.
도 6은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 어느 하나를 선택하는 구체적인 예를 도시한다.
도 7은 도 3의 동작 S32와 관련하여, 참조데이터에 가중치를 부여하거나, 가중치를 조정하는 구체적인 예를 도시한다.
도 8은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 유사도 및 가중치에 기초하여 참조데이터를 선택하기 위한 제어방법의 구체적인 예를 도시한다.
도 9는 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 동일한 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
도 10은 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 다른 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
도 11은 잡음특성을 나타내는 사용자인터페이스에 관한 구체적인 예를 도시한다.
도 12는 도 11의 사용자인터페이스가 잡음특성 별로 색상을 달리하여 표시되는 구체적인 예를 도시한다.
도 13은 도 11의 사용자인터페이스가 사용자입력에 따라 설정되는 구체적인 예를 도시한다.
이하에서는 첨부도면을 참조하여 본 발명에 따른 실시예들에 관해 상세히 설명한다.
본 명세서에서, 첨부도면의 참조부호는 다른 도면에서도 동일한 구성을 지칭하도록 사용될 수 있다. 이하 설명에서 정의되는 특징들, 예컨대, 구체적인 구조와 구성은, 일 실시예의 이해를 돕기 위한 것이다. 그러나, 본 명세서에서 설명되는 일 실시예들은 특별하게 정의된 특징없이도 수행 가능함을 밝혀둔다. 또한, 공지된 기능 또는 구조에 관한 설명은 자세히 설명하지 않는다.
본 명세서에서, " A 또는 B", "A 또는/및 B 중 적어도 하나" 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나" 또는 "A 또는 B 중 적어도 하나"는, 적어도 하나의 A를 포함, 적어도 하나의 B를 포함 또는 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 명세서에서 "제 1", "제 2", "첫째", "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 해당 구성요소들을 한정하지 않는다. 이러한 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다.
이하 실시예들의 설명에서는 첨부된 도면들에 기재된 사항들을 참조하는 바, 각 도면에서 제시된 동일한 참조번호 또는 부호는 실질적으로 동일한 동작을 수행하는 구성요소를 나타낸다.
도 1은 본 발명의 일 실시예에 따른 전자장치를 도시한다.
도 1에 도시된 바와 같이, 전자장치(1)는 TV, 태블릿, 휴대용 미디어 플레이어, 웨어러블 디바이스, 비디오 월, 전자액자 등과 같이 영상표시장치뿐만 아니라, 디스플레이를 구비하지 않는 셋탑박스 등의 영상처리장치, 냉장고, 세탁기 등의 생활가전, 컴퓨터본체와 같은 정보처리장치 등 다양한 종류의 장치로 구현된다. 또한, 전자장치(1)는 인공지능 기능을 탑재한 인공지능(Artificial Intelligence, AI) 스피커, AI 로봇 등으로 구현된다. 전자장치(1)의 종류는 이에 한정되는 것은 아니며, 이하에서는 설명의 편의를 위해 전자장치(1)가 TV로 구현되는 경우를 가정한다.
전자장치(1)는 음성인식기능을 수행한다. 전자장치(1)는 사용자(2)로부터 발화된 오디오(3)의 신호에 대하여 음성인식처리를 수행한다. 전자장치(1)는 음성인식처리에 대한 인식결과를 획득하고, 획득된 인식결과에 대응하는 동작을 수행한다.
음성인식처리는 오디오(3)의 신호를 텍스트 데이터로 변환하는 STT(Speech-to-Text) 처리 과정과, 텍스트 데이터가 나타내는 커맨드를 식별하여, 식별된 커맨드가 지시하는 동작을 수행하는 커맨드 식별 및 수행 과정을 포함한다. 음성인식처리는 전자장치(1)에서 모두 실행될 수 있으나, 시스템 부하 및 소요 저장용량을 고려하여, 적어도 일부의 과정은 네트워크를 통해 전자장치(1)와 통신 가능하게 접속되는 적어도 하나의 서버에 의해 수행된다. 일 예로, 적어도 하나의 서버가 STT 처리 과정을 수행하고, 전자장치(1)가 커맨드 식별 및 수행 과정을 수행한다. 또는, 적어도 하나의 서버가 STT 처리 과정과, 커맨드 식별 및 수행 과정을 모두 수행하고, 전자장치(1)는 단지 적어도 하나의 서버로부터 결과를 수신하기만 할 수도 있다.
전자장치(1)는 본체에 마련된 내부 마이크(16) 또는 본체와 분리된 리모트 컨트롤러(4)를 통해 오디오(3)의 신호를 수신한다. 리모트 컨트롤러(4)를 활용하는 경우, 리모트 컨트롤러(4)로부터 오디오(3)의 신호를 전달받고, 전달받은 오디오(3)에 대한 음성인식처리를 수행한다.
전자장치(1)는 시작명령어(6)에 기초하여 음성인식기능을 활성화한다. 시작명령어(6)는 음성인식기능을 활성화하는 특정 명령어로서, 시작명령어(6)에 따라 음성인식기능이 활성화되면, 이후에 수신되는 사용자 음성 입력에 대하여 앞서 설명한 음성인식처리가 수행되고, 사용자 음성 입력에 대응하는 동작이 수행된다.
전자장치(1)는 참조데이터(9)에 기초하여 시작명령어 인식을 수행한다. 시작명령어 인식은, 제2오디오신호(7) 및 참조데이터(9) 간의 유사성 판단에 기초하여 수행된다. 제2오디오신호(7)는 사용자(2)로부터 내부 마이크(16) 또는 리모트 컨트롤러(4)를 통해 수신된 것일 수 있으나, 이에 한정되는 것은 아니다. 유사성 판단은 주파수특성에 관한 유사성 판단을 포함한다. 주파수특성은 주파수의 패턴, 톤, 세기, 빠르기, 주기, 진폭 중 적어도 하나를 포함한다. 참조데이터(9)는 패턴 등에 관한 음향모델을 포함하며, 음향모델은 하드웨어/소프트웨어 컴포넌트로 구현될 수 있다.
참조데이터(9)는 민감도 별로 마련될 수 있다. 민감도는 제2오디오신호(7)와의 주파수특성에 대한 유사성 판단이 얼마나 정밀하게 수행되는지를 나타내는 척도이다. 민감도가 높으면, 주파수특성이 약한 오디오신호에 대해서도 주파수특성에 대한 유사도 판단이 수행되는 반면에, 민감도가 낮으면, 주파수특성이 강한 오디오신호에 대해서만 주파수특성에 대한 유사도 판단이 수행된다.
참조데이터(9)는 잡음특성 별로 마련될 수 있다. 잡음은 바람 소리 등과 같은 자연 소음뿐만 아니라, 층간 소음, 가전제품 작동 소음과 같은 인공 소음을 포함한다. 또한, 잡음은 사용자(2)로부터의 음성 입력, 일상 대화를 포함할 수 있다. 사용자 음성 입력은 전자장치(1) 또는 음성인식기능을 제공하는 주변 기기의 기능을 제어하기 위한 사용자(2)로부터의 음성 명령을 포함한다. 일상 대화는 사용자(2) 또는 가족으로부터의 잡담, 통화 음성 등을 포함한다. 또한, 잡음은 전자장치(1)로부터 출력된 컨텐츠의 오디오를 포함할 수 있다. 컨텐츠의 오디오는 디스플레이(14)에 표시된 컨텐츠의 영상에 대응하는 오디오신호에 기초하여 출력된 오디오를 포함한다. 잡음특성은 상기한 잡음의 특성으로서, 잡음의 패턴, 톤, 세기, 빠르기, 주파수, 주기, 진폭 중 적어도 하나를 포함한다. 일 예로, 소음의 크기 별로 낮은 소음, 높은 소음 등에 대응하는 참조데이터(9)가 마련될 수 있다.
잡음은 내부 마이크(16) 또는 리모트 컨트롤러(4)를 통해 수신된 것일 수 있으나, 이에 한정되는 것은 아니므로, 네트워크를 통해 다른 외부장치 또는 서버(30)(도 2를 참조)로부터 수신된 데이터에 기초한 것일 수 있다.
전자장치(1)는 제1오디오신호(8)에 기초하여 잡음특성을 식별한다. 제1오디오신호(8)는 내부 마이크(16) 또는 리모트 컨트롤러(4)를 통해 수신된 것일 수 있으나, 이에 한정되는 것은 아니다. 잡음특성은 제2오디오신호(7)의 수신 이전에 전자장치(1) 주변의 현재잡음환경을 나타내는 것일 수 있다. 일 예로, 잡음특성이 낮은 수준의 소음 크기인 것으로 식별되면, 제2오디오신호(7)의 수신 이전의 현재잡음환경이 낮은 소음환경임을 나타낼 수 있다. 반면에, 높은 수준의 소음 크기인 것으로 식별되면, 현재잡음환경이 높은 소음환경임을 나타낼 수 있다.
전자장치(1)는 제1오디오신호(8)에 기초하여 식별된 잡음특성에 대응하는 잡음특성의 참조데이터(9)를 식별한다. 제1오디오신호(8)의 잡음특성이 낮은 수준의 소음 크기인 것으로 가정하면, 낮은 소음, 높은 소음 등에 대응하는 참조데이터(9) 중에서 제1오디오신호(8)의 낮은 수준의 소음 크기에 대응하는 낮은 소음의 참조데이터(9)가 선택될 수 있다. 즉, 주변의 현재잡음환경이 낮은 소음환경임을 반영한 참조데이터(9)가 선택된다.
전자장치(1)는 주변의 현재잡음환경에 대응하는 참조데이터(9)에 기초하여 시작명령어 인식을 수행할 수 있다. 시작명령어 인식은 참조데이터(9)에 기초한 잡음제거, 명령어검출 등의 동작을 포함한다. 잡음제거는 참조데이터(9)의 잡음특성에 기초하여 제2오디오신호(7)에서 잡음성분을 제거하는 동작을 포함한다. 명령어검출은 잡음성분이 제거된 제2오디오신호(7)에 대하여 참조데이터(9)와 주파수특성에 대한 유사도 판단을 통해 시작명령어(6)로의 대응 여부를 식별하는 동작을 포함한다. 전자장치(1)는 주변의 현재잡음환경을 고려한 시작명령어 인식을 수행할 수 있다.
전자장치(1)는 주변의 현재잡음환경을 고려한 유사도 판단을 통해 제2오디오신호(7)가 시작명령어(6)로 인식되면, 음성인식기능을 활성화하고, 활성화 이후에 수신되는 제3오디오신호(10)에 대하여, 앞서 설명한 바와 같이, 음성인식처리를 수행하고, 인식결과에 따른 동작을 수행한다.
한편, 앞서 설명한 참조데이터 마련, 시작명령어 인식 등의 동작은 전자장치(1)에서 모두 실행될 수 있으나, 시스템 부하 및 소요 저장용량을 고려하여, 적어도 일부의 과정은 네트워크를 통해 전자장치(1)와 통신 가능하게 접속되는 서버(30)에 의해 수행될 수 있다. 서버(30)는 음성인식처리를 위한 적어도 하나의 서버에 포함되거나, 별도로 마련될 수 있다. 일 예로, 서버(30)는 참조데이터 마련, 시작명령어 인식 등의 동작을 수행할 수 있으며, 전자장치(1)는 서버(30)가 상기한 동작을 수행할 수 있도록 제2오디오신호(7)를 서버(30)에 전송하거나, 서버(30)에 의한 처리결과를 수신하기만 할 수도 있다.
이와 같이, 전자장치(1)는 잡음특성 별로 마련된 참조데이터(9) 중에서 제1오디오신호(8)의 잡음특성에 기초하여 참조데이터(9)를 선택함으로써, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행할 수 있다. 따라서, 현재잡음환경에 최적화된 참조데이터(9)에 기초하여 시작명령어 인식을 수행할 수 있으므로, 주변의 현재잡음환경에 대한 고려없이 방대한 잡음데이터를 활용하여 시작명령어 인식을 수행하는 경우에 비해, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있다.
도 2는 도 1의 전자장치에 관한 구성의 일 예를 도시한다.
이하에서는 도 2를 참조하여, 전자장치(1)의 구성에 관해 자세히 설명한다. 본 실시예서는 전자장치(1)가 TV인 경우에 관해 설명하지만, 전자장치(1)는 다양한 종류의 장치로 구현될 수 있으므로, 본 실시예가 전자장치(1)의 구성을 한정하는 것은 아니다. 전자장치(1)가 TV와 같은 디스플레이장치로 구현되지 않는 경우도 가능하며, 이 경우 전자장치(1)는 디스플레이(14)와 같은 영상 표시를 위한 구성요소들을 포함하지 않을 수 있다. 일 예로, 전자장치(1)가 셋탑박스로 구현되는 경우, 전자장치(1)는 인터페이스부(11)를 통해 외부의 TV에 영상 신호를 출력한다.
전자장치(1)는 인터페이스부(11)를 포함한다. 인터페이스부(11)는 서버(30), 다른 외부장치 등과 네트워크를 통해 연결하여 데이터를 송수신한다. 다만 이에 한정되는 것은 아니므로, 인터페이스부(11)는 네트워크로 연결된 다양한 장치와 연결한다.
인터페이스부(11)는 유선 인터페이스부를 포함한다. 유선 인터페이스부는 지상파/위성방송 등 방송규격에 따른 방송신호를 수신할 수 있는 안테나가 연결되거나, 케이블 방송 규격에 따른 방송신호를 수신할 수 있는 케이블이 연결될 수 있는 커넥터 또는 포트를 포함한다. 다른 예로서, 전자장치(1)는 방송신호를 수신할 수 있는 안테나를 내장할 수도 있다. 유선 인터페이스부는 HDMI 포트, DisplayPort, DVI 포트, 썬더볼트, 컴포지트(Composite) 비디오, 컴포넌트(Component) 비디오, 슈퍼 비디오(Super Video), SCART 등과 같이, 비디오 및/또는 오디오 전송규격에 따른 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 USB 포트 등과 같은 범용 데이터 전송규격에 따른 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 광 전송규격에 따라 광케이블이 연결될 수 있는 커넥터 또는 포트 등을 포함한다.
유선 인터페이스부는 내부 마이크(16) 및 마이크를 구비한 외부 오디오기기가 연결될 수 있으며, 오디오기기로부터 오디오신호를 수신 또는 입력할 수 있는 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 헤드셋, 이어폰, 외부 스피커 등과 같은 오디오기기가 연결되며, 오디오기기로 오디오신호를 전송 또는 출력할 수 있는 커넥터 또는 포트 등을 포함한다. 유선 인터페이스부는 이더넷 등과 같은 네트워크 전송규격에 따른 커넥터 또는 포트를 포함한다. 일 예로, 유선 인터페이스부는 라우터 또는 게이트웨이에 유선 접속된 랜카드 등으로 구현된다.
유선 인터페이스부는 상기 커넥터 또는 포트를 통해 셋탑박스, 광학미디어 재생장치와 같은 외부기기, 또는 외부 디스플레이장치나, 스피커, 서버(30) 등과 1:1 또는 1:N(N은 자연수) 방식으로 유선 접속됨으로써, 해당 외부기기로부터 비디오/오디오신호를 수신하거나 또는 해당 외부기기에 비디오/오디오신호를 송신한다. 유선 인터페이스부는, 비디오/오디오신호를 각각 별개로 전송하는 커넥터 또는 포트를 포함할 수도 있다.
유선 인터페이스부는 전자장치(1)에 내장되거나, 동글(Dongle) 또는 모듈(Module) 형태로 구현되어 전자장치(1)의 커넥터에 착탈될 수도 있다.
인터페이스부(11)는 무선 인터페이스부를 포함한다. 무선 인터페이스부는 전자장치(1)의 구현 형태에 대응하여 다양한 방식으로 구현된다. 예를 들면, 무선 인터페이스부는 통신방식으로 RF(Radio Frequency), 지그비(Zigbee), 블루투스(Bluetooth), 와이파이(Wi-Fi), UWB(Ultra-Wideband) 및 NFC(Near Field Communication) 등 무선통신을 사용한다. 무선 인터페이스부는 와이파이 방식에 따라서 AP와 무선통신을 수행하는 무선통신모듈이나, 블루투스 등과 같은 1대 1 다이렉트 무선통신을 수행하는 무선통신모듈 등으로 구현된다.
무선 인터페이스부는 네트워크 상의 서버(30)와 무선 통신함으로써, 서버(30)와의 사이에 데이터 패킷을 송수신한다. 무선 인터페이스부는 적외선 통신규격에 따라 IR(Infrared) 신호를 송신 및/또는 수신할 수 있는 IR송신부 및/또는 IR수신부를 포함한다.
무선 인터페이스부는 IR송신부 및/또는 IR수신부를 통해 리모트 컨트롤러(4) 또는 다른 외부기기로부터 리모트 컨트롤러신호를 수신 또는 입력하거나, 리모트 컨트롤러(4) 또는 다른 외부기기로 리모트 컨트롤러신호를 전송 또는 출력한다. 다른 예로서, 전자장치(1)는 와이파이, 블루투스 등 다른 방식의 무선 인터페이스부를 통해 리모트 컨트롤러(4) 또는 다른 외부기기와 리모트 컨트롤러신호를 송수신한다.
전자장치(1)는 인터페이스부(11)를 통해 수신하는 비디오/오디오신호가 방송신호인 경우, 수신된 방송신호를 채널 별로 튜닝하는 튜너(Tuner)를 더 포함한다.
전자장치(1)는 통신부(12)를 포함한다. 통신부(12)는 서버(30), 다른 외부장치 등과 연결되어 비디오/오디오 신호를 전송한다. 통신부(12)는 설계 방법에 따라 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 구성을 포함하며, 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 기능을 수행한다.
전자장치(1)는 사용자입력부(13)를 포함한다. 사용자입력부(13)는 사용자(2)의 입력을 수행하기 위해 사용자(2)가 조작할 수 있도록 마련된 다양한 종류의 입력 인터페이스 관련 회로를 포함한다. 사용자입력부(13)는 전자장치(1)의 종류에 따라서 여러 가지 형태의 구성이 가능하며, 예를 들면 전자장치(1)의 기계적 또는 전자적 버튼부, 터치패드, 디스플레이(14)에 설치된 터치스크린 등이 있다.
전자장치(1)는 디스플레이(14)를 포함한다. 디스플레이(14)는 화면 상에 영상을 표시할 수 있는 디스플레이 패널을 포함한다. 디스플레이 패널은 액정 방식과 같은 수광 구조 또는 OLED 방식과 같은 자발광 구조로 마련된다. 디스플레이(14)는 디스플레이 패널의 구조에 따라서 부가적인 구성을 추가로 포함할 수 있는데, 예를 들면, 디스플레이 패널이 액정 방식이라면, 디스플레이(14)는 액정 디스플레이 패널과, 광을 공급하는 백라이트유닛과, 액정 디스플레이 패널의 액정을 구동시키는 패널구동기판을 포함한다. 다만, 앞서 설명한 바와 같이, 디스플레이(14)는 전자장치(1)가 셋탑박스 등으로 구현되는 경우 생략된다.
전자장치(1)는 센서부(15)를 포함한다. 센서부(15)는 전자장치(1)의 전방을 센싱하여, 사용자(2) 또는 다른 전자장치의 유무, 움직임 등을 감지한다. 일 예로, 센서부(15)는 이미지 센서로 구현될 수 있으며, 전자장치(1)의 전방을 캡처하여, 캡처된 이미지로부터 사용자(2) 또는 다른 전자장치의 유무, 움직임 등에 관한 정보를 획득한다. 이미지 센서는, CMOS(Complementary Metal Oxide Semiconductor) 또는 CCD(Charge Coupled Device) 방식의 카메라로 구현된다. 센서부(15)는 적외선 센서로 구현될 수 있으며, 전방으로 출력되는 적외선 신호가 반사되어 돌아오는 시간을 측정하여 사용자(2) 또는 다른 전자장치의 유무, 움직임 등에 관한 정보를 획득한다.
전자장치(1)는 마이크(16)를 포함한다. 마이크(16)는 다양한 오디오신호를 수신한다. 마이크(16)는 사용자(2)로부터의 오디오(3)뿐만 아니라, 주변으로부터 유입된 소음과 같은 잡음의 오디오신호를 수신한다. 마이크(16)는 수집된 오디오신호를 프로세서(5)에 전달한다. 마이크(16)는 전자장치(1)에 마련된 내부 마이크(16) 또는 본체와 분리된 리모트 컨트롤러(4)에 마련된 외부 마이크로 구현된다. 마이크(16)가 외부 마이크로 구현되는 경우, 외부 마이크로 수신된 오디오신호는 디지털화 되어 리모트 컨트롤러(4)로부터 인터페이스부(11)를 통해 수신된다.
리모트 컨트롤러(4)는 스마트폰 등을 포함하며, 스마트폰 등에는 리모트 컨트롤러 어플리케이션이 설치된다. 스마트폰 등은 설치된 어플리케이션을 통해 리모트 컨트롤러(4)의 기능, 예컨대, 전자장치(1)를 제어하는 기능을 수행한다. 이러한 리모트 컨트롤러 어플리케이션은 AI 스피커, AI 로봇 등 다양한 외부 장치에 설치된다.
전자장치(1)는 스피커(17)를 포함한다. 스피커(17)는 오디오신호에 기초하여 다양한 오디오를 출력한다. 스피커(17)는 적어도 하나 이상의 스피커로 구현된다. 스피커(17)는 전자장치(1)에 마련된 내부 스피커 또는 외부에 마련되는 외부 스피커로 구현된다. 스피커(17)가 외부 스피커로 구현되는 경우, 전자장치(1)는 오디오신호를 외부 스피커로 유선 또는 무선으로 전송한다.
사용자입력부(13), 디스플레이(14), 센서부(15), 마이크(16), 스피커(17) 등은 인터페이스부(11)와 별도의 구성으로 기재되었으나, 설계 방법에 따라 인터페이스부(11)에 포함되도록 구성된다.
전자장치(1)는 저장부(18)를 포함한다. 저장부(18)는 디지털화된 데이터를 저장한다. 저장부(18)는 전원의 제공 유무와 무관하게 데이터를 보존할 수 있는 비휘발성 속성의 스토리지(Storage)를 포함한다. 스토리지는 플래시메모리(Flash-Memory), HDD(Hard-Disc Drive), SSD(Solid-State Drive), ROM(Read Only Memory) 등을 포함한다.
저장부(18)는 프로세서(5)에 의해 처리되기 위한 데이터 등이 로드 되며, 전원이 제공되지 않으면 데이터를 보존할 수 없는 휘발성 속성의 메모리(Memory)를 포함한다. 메모리는 버퍼(Buffer), 램(RAM; Random Access Memory) 등을 포함한다. 일 예로, 저장부(18)에는 제1어플리케이션(1)의 제1코드가 로드된다.
전자장치(1)는 프로세서(5)를 포함한다. 프로세서(5)는 인쇄회로기판 상에 장착되는 CPU, 칩셋, 버퍼, 회로 등으로 구현되는 하나 이상의 하드웨어 프로세서를 포함하며, 설계 방식에 따라서는 SOC(System On Chip)로 구현될 수도 있다. 프로세서(5)는 전자장치(1)가 디스플레이장치로 구현되는 경우에 디멀티플렉서, 디코더, 스케일러, 오디오 DSP(Digital Signal Processor), 앰프 등의 다양한 프로세스에 대응하는 모듈들을 포함한다. 여기서, 이러한 모듈들 중 일부 또는 전체가 SOC로 구현된다. 예를 들면, 디멀티플렉서, 디코더, 스케일러 등 영상처리와 관련된 모듈이 영상처리 SOC로 구현되고, 오디오 DSP는 SOC와 별도의 칩셋으로 구현되는 것이 가능하다.
프로세서(5)는 마이크(16)를 통해 수신되는 제1오디오신호(8)에 기초하여 현재잡음특성을 식별한다.
프로세서(5)는 오디오신호와, 시작명령어 간의 유사성을 인식하기 위하여 복수의 잡음특성 별로 마련된 참조데이터(9) 중에서 식별된 현재잡음특성에 대응하는 잡음특성의 참조데이터(9)에 기초하여, 마이크(16)를 통해 수신되는 제2오디오신호(7)가 시작명령어(6)에 대응하는지 여부를 식별한다.
프로세서(5)는 시작명령어(6)에 대응하는 것으로 식별되는 제2오디오신호(7) 이후에 마이크(16)를 통해 수신되는 제3오디오신호(10)에 기초하여 음성명령의 인식에 관한 동작을 수행한다.
전자장치(1)의 구성은 도 2에 도시된 바에 한정되는 것은 아니므로, 설계 방법에 따라 상기한 구성 중 일부를 제외하거나, 상기한 구성 이외의 구성을 포함한다.
이하에서는 도 2를 참조하여 서버(30)의 구성에 대해 자세히 설명한다. 서버(30)는 서버인터페이스부(31)를 포함한다. 전자장치(1) 및 서버(30)는 인터페이스부(11) 및 서버인터페이스부(31)를 통해 연결되어, 데이터를 송수신한다. 서버인터페이스부(31)는 유선 인터페이스부 및 무선 인터페이스부를 포함한다. 유선 인터페이스부 및 무선 인터페이스부에 대한 설명은 전자장치(1)에서 인터페이스부(11)에 포함된 유선 인터페이스부 및 무선 인터페이스부에 대한 설명과 중복되므로 생략하기로 한다.
서버(30)는 서버통신부(32)를 포함한다. 서버통신부(32)는 전자장치(1), 다른 외부장치 등과 네트워크를 통해 연결되어 데이터를 전송한다. 서버통신부(32)는 설계 방법에 따라 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 구성을 포함하며, 유선 인터페이스부 또는 무선 인터페이스 중 적어도 하나의 기능을 수행한다.
서버(30)는 서버저장부(33)를 포함한다. 서버저장부(33)는 디지털화된 데이터를 저장한다. 서버저장부(33)는 전원의 제공 유무와 무관하게 데이터를 보존할 수 있는 비휘발성 속성의 스토리지를 포함한다. 스토리지는 플래시메모리, HDD, SSD, ROM 등을 포함한다. 서버저장부(33)는 서버프로세서(35)에 의해 처리되기 위한 데이터 등이 로드 되며, 전원이 제공되지 않으면 데이터를 보존할 수 없는 휘발성 속성의 메모리를 포함한다. 메모리는 버퍼, 램 등을 포함한다.
서버(30)는 서버프로세서(35)를 포함한다. 서버프로세서(35)는 인쇄회로기판 상에 장착되는 CPU, 칩셋, 버퍼, 회로 등으로 구현되는 하나 이상의 하드웨어 프로세서를 포함하며, 설계 방식에 따라서는 SOC(로 구현될 수도 있다.
서버프로세서(35)는 앞서 프로세서(5)의 동작의 전부 또는 일부를 수행할 수 있다. 일 예로, 현재잡음특성의 식별, 제2오디오신호(7)가 시작명령어(6)에 대응하는지 여부의 식별, 음성명령의 인식에 관한 동작 중 적어도 하나가 서버프로세서(35)에 의해 수행될 수 있다. 이 경우, 프로세서(5)는 서버프로세서(35)가 상기한 동작을 수행할 수 있도록 필요한 정보를 제공하거나, 서버프로세서(35)에 의해 처리된 정보를 수신할 수 있다.
서버(30)의 구성은 도 2에 도시된 바에 한정되는 것은 아니므로, 설계 방법에 따라 상기한 구성 중 일부를 제외하거나, 상기한 구성 이외의 구성을 포함한다.
전자장치(1)의 프로세서(5) 또는 서버(30)의 서버프로세서(35)는 각각 수행되는 동작들을 위한 데이터 분석, 처리, 및 결과 정보 생성 중 적어도 일부에 대하여, 규칙 기반 또는 인공지능 알고리즘을 이용한 인공지능 기술을 적용함으로써, 인공지능 시스템을 구축한다.
인공지능 시스템은 인간 수준의 지능을 구현하는 컴퓨터 시스템으로서 기계가 스스로 학습하고 판단하며, 사용할수록 인식률이 향상되는 시스템이며, 인공지능 알고리즘은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘이다.
인공지능 기술은 기계학습, 신경망 네트워크(Neural Network), 또는 딥러닝 알고리즘 중 적어도 하나를 이용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 요소 기술들로 구성된다.
요소기술들은 인간의 언어/문자를 인식하는 언어적 이해 기술, 사물을 인간의 시각처럼 인식하는 시각적 이해 기술, 정보를 판단하여 논리적으로 추론하고 예측하는 추론/예측 기술, 인간의 경험 정보를 지식데이터로 처리하는 지식 표현 기술 및 차량의 자율 주행, 로봇의 움직임을 제어하는 동작 제어 기술 중 적어도 하나를 포함할 수 있다.
언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다.
이하에서는 상기한 인공지능 알고리즘을 이용한 인공지능 기술이 전자장치(1)의 프로세서(5)에 의해 구현되는 일 예를 설명한다. 다만, 서버(30)의 서버프로세서(35)에 의해서도 동일한 인공지능 기술이 구현될 수 있음을 밝혀둔다.
프로세서(5)는 학습부 및 인식부의 기능을 함께 수행한다. 학습부는 학습된 신경망 네트워크를 생성하는 기능을 수행하고, 인식부는 학습된 신경망 네트워크를 이용하여 데이터를 인식, 추론, 예측, 추정, 판단하는 기능을 수행한다.
학습부는 신경망 네트워크를 생성하거나 갱신한다. 학습부는 신경망 네트워크를 생성하기 위해서 학습 데이터를 획득한다. 일 예로, 학습부는 학습 데이터를 저장부(18) 또는 서버저장부(33)로부터 획득하거나, 외부로부터 획득한다. 학습 데이터는, 신경망 네트워크의 학습을 위해 이용되는 데이터일 수 있으며, 상기한 동작을 수행한 데이터를 학습데이터로 이용하여 신경망 네트워크를 학습시킬 수 있다.
학습부는 학습 데이터를 이용하여 신경망 네트워크를 학습시키기 전에, 획득된 학습 데이터에 대하여 전처리 작업을 수행하거나, 또는 복수 개의 학습 데이터들 중에서 학습에 이용될 데이터를 선별한다. 일 예로, 학습부는 학습 데이터를 기 설정된 포맷으로 가공하거나, 필터링하거나, 또는 잡음을 추가/제거하여 학습에 적절한 데이터의 형태로 가공한다. 학습부는 전처리된 학습 데이터를 이용하여 상기한 동작을 수행하도록 설정된 신경망 네트워크를 생성한다.
학습된 신경망 네트워크는, 복수의 신경망 네트워크 또는 레이어들로 구성된다. 복수의 신경망 네트워크의 노드들은 가중치를 가지며, 복수의 신경망 네트워크들은 일 신경망 네트워크의 출력 값이 다른 신경망 네트워크의 입력 값으로 이용되도록 서로 연결된다. 신경망 네트워크의 예로는, CNN (Convolutional Neural Network), DNN (Deep Neural Network), RNN (Recurrent Neural Network), RBM (Restricted Boltzmann Machine), DBN (Deep Belief Network), BRDNN (Bidirectional Recurrent Deep Neural Network) 및 심층 Q-네트워크 (Deep Q-Networks)과 같은 모델을 포함한다.
한편, 인식부는 상기한 동작을 수행하기 위해, 타겟 데이터를 획득한다. 타겟 데이터는 저장부(18) 또는 서버저장부(33)로부터 획득하거나, 외부로부터 획득한다. 타겟 데이터는 신경망 네트워크의 인식 대상이 되는 데이터일 수 있다. 인식부는 타겟 데이터를 학습된 신경망 네트워크에 적용하기 전에, 획득된 타겟 데이터에 대하여 전처리 작업을 수행하거나, 또는 복수 개의 타겟 데이터들 중에서 인식에 이용될 데이터를 선별한다. 일 예로, 인식부는 타겟 데이터를 기 설정된 포맷으로 가공하거나, 필터링 하거나, 또는 잡음을 추가/제거하여 인식에 적절한 데이터의 형태로 가공한다. 인식부는 전처리된 타겟 데이터를 신경망 네트워크에 적용함으로써, 신경망 네트워크로부터 출력되는 츨력값을 획득한다. 인식부는 출력값과 함께, 확률값 또는 신뢰도값을 획득한다.
도 3은 도 1의 전자장치에 대한 제어방법의 일 예를 도시한다.
도 3를 참조하여 이하에서 설명하는 각 동작은 프로세서(5)가 저장부(18)에 저장된 프로그램을 실행함으로써 수행되지만, 설명의 편의를 위해 프로세서(5)가 수행하는 동작으로 기재한다.
프로세서(5)는 수신되는 제1오디오신호(8)에 기초하여 잡음특성을 식별한다(S31).
프로세서(5)는 복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터(9)에 기초하여, 마이크(16)를 통해 수신되는 제2오디오신호(7)가 시작명령어(6)와 기 설정된 유사도를 갖는지를 식별한다(S32).
프로세서(5)는 기 설정된 유사도를 갖는 제2오디오신호(7) 이후에 마이크(16)를 통해 수신되는 제3오디오신호(10)에 기초하여 사용자 음성 입력에 대응하는 동작을 수행한다(S33).
이와 같이, 프로세서(5)는 잡음특성 별로 마련된 참조데이터(9) 중에서 제1오디오신호(8)의 잡음특성에 기초하여 참조데이터(9)를 선택함으로써, 주변의 현재잡음환경에 적응적인 시작명령어 인식을 수행할 수 있다. 따라서, 주변의 현재잡음환경에 대한 고려없이 방대한 잡음데이터를 활용하여 시작명령어 인식을 수행하는 경우에 비해, 자원 효율성, 인식 신속성 및 인식 정확도를 향상시킬 수 있다.
도 4는 도 3의 동작 S31과 관련하여, 잡음특성을 식별하는 구체적인 예를 도시한다.
도 1을 참조하여 설명한 바와 같이, 프로세서(5)는 제1오디오신호(8)에 기초하여 식별된 잡음특성에 기초하여 참조데이터(9)를 식별하고, 식별된 참조데이터(9)에 기초하여 제2오디오신호(7)에 대한 시작명령어 인식을 수행한다. 이하에서는 도 4를 참조하여, 제1오디오신호(8)의 시간 구간(d)에 기초하여 잡음특성을 식별하는 과정에 대해 설명한다.
도 4에 도시된 바와 같이, 프로세서(5)는 오디오신호(40)를 수신하는 것으로 가정한다. 프로세서(5)는 오디오신호(40) 중에서 시간 구간(d)에서 수신된 제1오디오신호(8)에 기초하여 잡음특성을 식별한다. 시간 구간(d)은 제2오디오신호(7)의 수신 시점 이전의 미리 정해진 시간 구간(d)을 포함한다. 설계 방법에 따라, 제2오디오신호(7)의 수신 시점은 제2오디오신호(7)의 인식 시점을 포함할 수 있으며, 시간 구간(d)은 제2오디오신호(7)의 수신 시점 또는 인식 시점 이후의 미리 정해진 시간 구간(d)을 포함할 수 있다. 즉, 시간 구간(d)은 제2오디오신호(7)의 수신 시점 또는 인식 시점과의 선후에 무관하게 설정될 수 있으므로, 예컨대, 시간 구간(d)은 제2오디오신호(7)의 수신 시점 또는 인식 시점과 겹칠 수 있다.
오디오신호(40)가 복수의 프레임을 포함하는 경우, 복수의 프레임 중 제2오디오신호(7)의 수신 시점 이전의 시간 구간(d)에 대응하는 적어도 하나의 프레임에 기초하여 현재잡음특성을 식별한다. 프로세서(5)는 오디오신호(40)에 대하여, 시간 구간(d) 및 제2오디오신호(7)에 해당하는 시간 구간을 버퍼링 하면서, 프레임 단위로 처리할 수 있다. 기존 잡음특성이 있는 경우, 기존 잡음특성은 시간 구간(d)에서의 잡음특성에 기초하여 업데이트 될 수 있다.
시간 구간(d)의 길이 또는 주기는 다르게 설정될 수 있다. 일 예로, 시간 구간(d)의 길이를 늘려서, 잡음특성에 대한 식별 정확도를 향상시킬 수 있다. 또는, 시간 구간(d)의 길이를 줄여서, 자원 효율성을 향상시킬 수 있다. 시간 구간(d)은 비주기적으로 설정될 수 있다.
프로세서(5)는 식별된 잡음특성에 기초하여 주변의 현재잡음환경을 식별할 수 있다. 잡음특성은 제1오디오신호(8)에 포함된 잡음의 패턴, 톤, 세기, 빠르기, 주파수, 주기, 진폭 중 적어도 하나에 기초하여 식별된다. 일 예로, 청소기 작동소음을 나타내는 주파수패턴에 기초하여, 현재잡음환경이 청소기 작동환경임을 식별할 수 있다. 또는, 낮은 수준을 나타내는 소음 크기에 기초하여, 현재잡음환경이 낮은 소음환경인 것으로 식별할 수 있다.
전자장치(1)는 제1오디오신호(8)의 잡음특성에 대응하는 잡음특성의 참조데이터(9)를 식별할 수 있다. 일 예로, 제1오디오신호(8)의 잡음특성이 청소기 작동소음을 나타내는 경우, 청소기 작동소음에 대응하는 참조데이터(9)가 식별될 수 있다. 또는, 제1오디오신호(8)의 잡음특성이 낮은 수준을 나타내는 소음 크기인 경우, 낮은 수준의 소음 크기에 대응하는 참조데이터(9)가 식별될 수 있다. 즉, 전자장치(1)는 주변의 현재잡음환경을 반영한 참조데이터(9)를 식별할 수 있다.
이와 같이, 프로세서(5)는 제2오디오신호(7)의 수신 시점 이전의 특정 시간 구간(d)에서 수신된 제1오디오신호(8)에 기초하여 잡음특성을 식별할 수 있으므로, 특정 시간 구간(d)에 대한 고려없이 잡음특성을 식별하는 경우에 비해 잡음특성을 식별함에 있어서의 자원 효율성을 향상시킬 수 있다.
도 5는 도 3의 동작 S31과 관련하여, 시간 구간을 조정하는 구체적인 예를 도시한다.
앞서 도 4를 참조하여 설명한 바와 같이, 프로세서(5)는 제1오디오신호(8)의 잡음특성의 크기에 기초하여 시간 구간(d)을 식별할 수 있다. 이하에서는 도 5를 참조하여 시간 구간(d)을 조정하는 과정에 대해 설명한다.
설명의 편의를 위해 잡음특성의 크기가 주파수크기인 경우를 예로 들면, 제1시간 구간(d1)의 대부분 시간 구간에서 제1오디오신호(8)의 주파수크기가 낮게 식별되다가, 제1시간 구간(d1)의 일부 시간 구간에서 주파수크기가 높게 식별될 수 있다. 이 경우, 프로세서(5)는 높은 주파수크기가 일시적인지 또는 지속적인지를 식별하기 위해, 제1시간 구간(d1)을 늘리거나, 도 5에 도시된 바와 같이, 제1시간 구간(d1) 자체를 제2시간 구간(d2)으로 변경할 수 있다. 제2시간 구간(d2)은 제1시간 구간(d1) 이후로, 예컨대, 제2오디오신호(7)의 시작 시점에 가깝도록 변경될 수 있다. 다만, 이에 한정되는 것은 아니므로, 제2시간 구간(d2)은 다양한 시간 구간으로 변경될 수 있다.
만일, 변경된 제2시간 구간(d2)에서도 높은 주파수크기가 지속적으로 식별되면, 제2시간 구간(d2)에서의 주파수크기가 높은 것으로 식별될 수 있다. 반면에, 일시적이라면, 주파수크기가 낮은 것으로 식별될 수 있다. 다만, 시간 구간(d)은 잡음특성의 크기에 기초하여 조정되는 것에 한정되지 아니므로, 다양한 상황에 따라 조정될 수 있다.
이와 같이, 프로세서(5)는 제1오디오신호(8)의 잡음특성의 크기에 따라 시간 구간(d)을 조정하고, 조정된 시간 구간(d)에 기초하여 잡음특성을 식별할 수 있으므로, 제1오디오신호(8)의 잡음특성에 대한 식별 정확도를 향상시킬 수 있다.
도 6은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 어느 하나를 선택하는 구체적인 예를 도시한다.
이하에서는, 도 6에 도시된 바와 같이, 제1참조데이터(63) 및 제2참조데이터(64)가 마련된 경우를 가정하여, 제1오디오신호(8)의 잡음특성에 기초하여 어느 하나의 참조데이터가 선택되는 경우에 대해 설명한다. 다만, 참조데이터(9)의 개수를 한정한 것은 아니므로, 다양한 개수의 참조데이터(9)가 마련될 수 있다.
제1참조데이터(63) 및 제2참조데이터(64)는, 서로 다른 잡음특성에 기초하여 마련된다. 일 예로, 제1참조데이터(63)는 낮은 수준의 소음 크기에 대응하도록 마련될 수 있으며, 제2참조데이터(64)는 높은 수준의 소음 크기에 대응하도록 마련될 수 있다.
프로세서(5)는 제2오디오신호(7)에 대한 시작명령어 인식을 위해 제2오디오신호(7)의 수신 시점 이전의 시간 구간(d)에서 수신된 제1오디오신호(8)에 기초하여 잡음특성을 식별하고, 식별된 잡음특성에 대응하는 잡음특성의 참조데이터(9)를 선택할 수 있다. 일 예로, 제1시간 구간(d1)에서 수신된 제1오디오신호(61)의 프레임에 기초하여 제1잡음특성이 낮은 수준의 소음 크기인 것으로 식별된 경우, 프로세서(5)는 낮은 수준의 소음 크기에 대응하도록 마련된 제1참조데이터(63)를 식별하고, 제2오디오신호(7)에 대한 시작명령어 인식을 위한 참조데이터로서 제1참조데이터(63)를 선택할 수 있다.
제1시간 구간(d1)에서 수신된 제1오디오신호(61)에 기초하여 제1잡음특성과 다른 제2잡음특성이 식별된 경우를 가정한다. 일 예로, 제1시간 구간(d1)에서 수신된 제1오디오신호(61)의 프레임에 기초하여 제1잡음특성이 높은 수준의 소음 크기인 것으로 식별된 경우, 프로세서(5)는 높은 수준의 소음 크기에 대응하도록 마련된 제2참조데이터(64)를 식별하고, 제2오디오신호(7)에 대한 시작명령어 인식을 위한 참조데이터로서 제2참조데이터(64)를 선택할 수 있다.
한편, 도 5를 참조하여 설명한 바와 같이, 제1시간 구간(d1)과 다른 제2시간 구간(d2)에서 수신된 제1오디오신호(62)의 프레임에 기초하여 제1잡음특성 또는 제2잡음특성이 식별될 수 있으며, 이 경우, 앞서 설명한 바와 마찬가지로, 각각의 잡음특성에 대응하는 잡음특성의 제1참조데이터(63) 또는 제2참조데이터(64)가 선택될 수 있다.
이와 같이, 프로세서(5)는 잡음특성 별로 마련된 복수의 참조데이터(9) 중에서, 제1오디오신호(62)의 프레임에 대한 잡음특성에 기초하여 선택된 참조데이터(9)에 따라 시작명령어 인식을 수행할 수 있다. 따라서, 단일한 참조데이터를 마련한 경우 대비 현재잡음환경에 최적화된 참조데이터(9)를 식별할 수 있으므로, 참조데이터에 기초한 시작명령어 인식에 있어서, 자원 효율성, 인식 신속성 및 인식 정확도를 더욱 향상시킬 수 있다.
도 7은 도 3의 동작 S32와 관련하여, 참조데이터에 가중치를 부여하거나, 가중치를 조정하는 구체적인 예를 도시한다.
프로세서(5)는 잡음특성 별로 마련된 참조데이터(9)에 대하여 가중치를 부여할 수 있다. 프로세서(5)는 시작명령어 인식을 위해 참조데이터(9)를 선택함에 있어서 가중치가 높은 참조데이터(9)를 선택할 수 있다. 일 예로, 도 7에 도시된 바와 같이, 제1참조데이터(63)보다 제2참조데이터(64)의 가중치가 높은 경우, 제2참조데이터(64)가 선택될 수 있다.
가중치는 제1참조데이터(63) 및 제2참조데이터(64) 각각의 잡음특성 중에서 제2시간 구간(d2)에서의 잡음특성에 대응하는 잡음특성의 참조데이터에 더 높게 부여될 수 있다. 좀더 구체적인 설명을 위해, 제1참조데이터(63)는 제1시간 구간(d1)에서의 제1잡음특성에 대응하는 잡음특성을 갖고, 제2참조데이터(64)는 제2시간 구간(d2)에서의 제2잡음특성에 대응하는 잡음특성을 갖는 것으로 가정한다. 또한, 제1참조데이터(63)의 초기 가중치는 0.6이고, 제2참조데이터(64)의 초기 가중치는 0.4인 것으로 가정한다. 다만, 초기 가중치는 설명의 편의를 위한 것이므로, 설계 방법에 따라 다양하게 설정될 수 있다.
제2시간 구간(d2)이 제1시간 구간(d1)보다 제2오디오신호(7)의 수신 시점에 근접하므로, 제2시간 구간(d2)에서의 제2잡음특성에 대응하는 잡음특성을 갖는 제2참조데이터(64)에 더 높은 가중치가 부여될 수 있다. 일 예로, 가중치 증감량이 0.4로 설정된 경우, 제2참조데이터(64)의 가중치는 초기 0.4에서 0.8가 되고, 제1참조데이터(63)의 가중치는 초기 0.6에서 0.2가 될 수 있다. 가중치는 가중치의 총합이 1이 되도록 조정될 수 있으나, 이에 한정되는 것은 아니다.
가중치 증감량은 시간 구간(d)이 제2오디오신호(7)의 시작 구간에 근접한 정도에 따라 다를 수 있다. 일 예로, 제2시간 구간(d2)이 제2오디오신호(7)의 시작 구간에 좀더 근접하면, 가중치 증감량이 0.5로 설정될 수 있다. 따라서, 제2시간 구간(d2)에서의 제2잡음특성에 대응하는 잡음특성을 갖는 제2참조데이터(64)의 가중치는 초기 0.4에서 0.9가 될 수 있다. 다만, 가중치 증감량은 제2시간 구간(d2)이 제2오디오신호(7)의 시작 구간에 근접한 정도에 비례하여 설정될 수 있으나, 이에 한정되는 것은 아니므로, 설계 방법에 따라 다양하게 설정될 수 있다.
이와 같이, 프로세서(5)는 제1오디오신호의 시간 구간(d1, d2) 및 제2오디오신호(7)의 수신 시점 구간 간의 관계에 기초하여 더 높은 가중치가 부여된 참조데이터(9)를 선택할 수 있다. 더 높은 가중치가 부여된 참조데이터(9)를 선택한다는 것은, 현재잡음환경에 부합하는 참조데이터(9)를 선택한다는 것이므로, 프로세서(5)는 시작 명령어 인식에 있어서, 현재잡음환경에 보다 적응적인 참조데이터(9)를 활용할 수 있다.
도 8은 도 3의 동작 S32와 관련하여, 복수의 참조데이터 중 유사도 및 가중치에 기초하여 참조데이터를 선택하기 위한 제어방법의 구체적인 예를 도시한다.
프로세서(5)는 제1오디오신호(8)에 기초하여 잡음특성을 식별하고(S81), 식별된 잡음특성에 기초하여 참조데이터(9) 별로 가중치를 부여한다(S82). 앞서 도 6 및 7을 참조하여 설명한 바와 같이, 프로세서(5)는 가중치를 부여함에 있어서, 제1오디오신호(8)의 수신 구간(d) 및 제2오디오신호(7)의 수신 시점 간의 근접 여부를 고려할 수 있다.
프로세서(5)는 제2오디오신호(7)의 주파수특성을 식별하고(S83), 제2오디오신호(7)와 주파수특성의 유사도가 제1기설정값 이상인 참조데이터(9)가 2개 이상 존재하는지를 식별한다(S84).
동작 S84와 관련하여, 제2오디오신호(7)와 주파수특성의 유사도가 제1기설정값 이상인 참조데이터(9)가 2개 이상 존재하면, 프로세서(5)는 2개 이상의 참조데이터(9) 중에서 유사도가 가장 높은 참조데이터(9)가 가중치도 가장 높은지를 식별한다(S85).
동작 S85와 관련하여, 유사도가 가장 높은 참조데이터(9)의 가중치도 가장 높으면, 프로세서(5)는 유사도 및 가중치가 가장 높은 참조데이터(9)를 선택한다(S88).
반면에, 동작 S85와 관련하여, 유사도가 가장 높은 참조데이터(9)의 가중치도 가장 높지 않으면, 프로세서(5)는 해당 참조데이터(9)의 유사도가 제2기설정값 이상인지를 식별한다(S87). 제2기설정값은 제1기설정값보다 높게 설정될 수 있다.
동작 S87과 관련하여, 해당 참조데이터(9)의 유사도가 제2기설정값 이상이면, 프로세서(5)는 해당 참조데이터(9)를 선택한다(S90).
반면에, 동작 S87과 관련하여, 해당 참조데이터(9)의 유사도가 제2기설정값 미만이면, 프로세서(5)는 어떠한 참조데이터(9)도 선택하지 않는다(S89).
한편, 동작 S84와 관련하여, 제2오디오신호(7)와 주파수특성의 유사도가 제1기설정값 이상인 참조데이터(9)가 2개 이상 존재하지 않으면, 프로세서(5)는 해당 참조데이터(9)의 가중치가 가장 높은지를 식별한다(S86).
동작 S86과 관련하여, 해당 참조데이터(9)의 가중치가 가장 높으면, 앞서 설명한 동작 S90과 같이, 해당 참조데이터(9)를 선택한다.
반면에, S86과 관련하여, 해당 참조데이터(9)의 가중치가 가장 높지 않으면, 앞서 설명한 동작 S87과 같이, 프로세서(5)는 해당 참조데이터(9)의 유사도가 제2기설정값 이상인지에 따라(S87), 해당 참조데이터(9)를 선택하거나(S90), 어떠한 참조데이터(9)도 선택하지 않는다(S89).
이와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수특성의 유사도 및 잡음특성에 기초하여 부여된 가중치를 고려하여 참조데이터(9)를 선택할 수 있으므로, 시작명령어(6)에 대한 인식 정확도를 더욱 향상시킬 수 있다. 도 9은 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 동일한 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
도 8을 참조하여 설명한 바와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수특성에 대한 유사도 판단을 수행한다. 이하에서는, 설명의 편의를 위해 주파수특성이 주파수패턴인 경우를 가정하여, 주파수패턴의 유사도 판단에 기초하여 참조데이터(9)를 식별하는 과정에 대해 설명한다.
참조데이터(9)는 주파수패턴 별로 마련될 수 있다. 도 9에 도시된 바와 같이, 제1참조데이터(63)는 제1주파수패턴(81)에 대응하도록 마련되고, 제2참조데이터(64)는 제1주파수패턴(81)과 다른 제2주파수패턴(82)에 대응하도록 마련될 수 있다. 다만, 주파수패턴은 설명의 편의를 위한 것이므로, 설계 방법에 따라 다양하게 마련될 수 있다.
프로세서(5)는 제2오디오신호(7)의 주파수패턴(80)과 유사도가 제1기설정값 이상인 참조데이터(9)의 잡음특성을 제1잡음특성으로 식별할 수 있다. 일 예로, 제2오디오신호(7)의 주파수패턴(80)이 도 9에 도시된 바와 같은 경우, 프로세서(5)는 제2오디오신호(7)의 주파수패턴(80) 및 제2참조데이터(64)의 제2주파수패턴(82) 간의 유사도가 제1기설정값 이상인 것으로 식별할 수 있다. 따라서, 프로세서(5)는 제2참조데이터(64)의 잡음특성을 제1잡음특성으로 식별할 수 있다.
한편, 앞서 도 7을 참조하여, 프로세서(5)는 제1오디오신호(8)의 시간 구간(d1, d2) 및 제2오디오신호(7)의 인식 구간 간의 관계에 기초하여 참조데이터(9)에 높은 가중치를 부여할 수 있다고 설명한 바 있다. 설명의 편의를 위해 제1참조데이터(63)에 부여된 가중치가 0.2이고, 제2참조데이터(64)에 부여된 가중치가 0.8인 것으로 가정하면, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제2참조데이터(64)의 잡음특성이 일치하므로, 프로세서(5)는 제1잡음특성으로 식별된 잡음특성의 제2참조데이터(64)를 시작명령어 인식을 위한 참조데이터(9)로 식별할 수 있다.
다만, 주파수패턴의 유사도 및 가중치에 기초한 참조데이터(9)의 식별은 설계 방법에 따라 달라질 수 있다. 일 예로, 제1참조데이터(63)의 제1주파수패턴(81) 및 제2참조데이터(64)의 제2주파수패턴(82)이 제2오디오신호(7)의 주파수패턴(80)과의 유사도가 제1기설정값 미만인 경우, 어떠한 참조데이터(9)도 선택되지 않을 수 있다.
이와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수패턴의 유사도 및 잡음특성에 기초하여 부여된 가중치를 고려하여 참조데이터(9)를 식별할 수 있으므로, 시작명령어(6)에 대한 인식 정확도를 더욱 향상시킬 수 있다.
도 10은 도 8의 동작 S84와 관련하여, 유사도 판단에 따른 잡음특성 및 가중치에 기초한 잡음특성이 다른 경우 참조데이터를 식별하는 구체적인 예를 도시한다.
앞서 도 9를 참조하여, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제2참조데이터(64)의 잡음특성이 일치하여, 프로세서(5)는 제1잡음특성으로 식별된 잡음특성의 제2참조데이터(64)를 시작명령어 인식을 위한 참조데이터로 식별하는 과정에 대해 설명한 바 있다.
다만, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제2참조데이터(64)의 잡음특성이 일치하는 않는 경우가 있을 수 있으므로, 이하에서는, 이러한 상황에서 시작명령어 인식을 위한 참조데이터로 식별하는 과정에 대해 설명한다.
도 7에서 설명한 바와 같이, 제2오디오신호(7)의 주파수패턴(80) 및 제2참조데이터(64)의 제2주파수패턴(82) 간의 유사도가 제1기설정값 이상인 것으로 식별되어, 제2참조데이터(64)의 잡음특성이 제1잡음특성으로 식별된 것으로 가정한다. 반면에, 도 7에서 설명한 바와 달리, 제1참조데이터(63)에 부여된 가중치가 0.8이고, 제2참조데이터(64)에 부여된 가중치가 0.2인 것으로 가정한다.
이와 같이, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제1참조데이터(63)의 잡음특성이 일치하지 않는 경우, 프로세서(5)는 제2오디오신호(7)의 주파수패턴(80)과 유사도가 제2기설정값 이상인 참조데이터(9)의 제2잡음특성을 식별한다. 제2기설정값은 제1기설정값보다 높은 값을 갖는다. 만일, 제2오디오신호(7)의 주파수패턴(80) 및 제2참조데이터(64)의 주파수패턴(82) 간의 유사도가 제2기설정값 이상이면, 프로세서(5)는 제2참조데이터(64)의 잡음특성을 제2잡음특성으로 식별하고, 제2잡음특성의 제2참조데이터(64)를, 시작명령어 인식을 위한 참조데이터로 활용할 수 있다.
다만, 주파수패턴의 유사도 및 가중치에 기초한 참조데이터(9)의 식별은 설계 방법에 따라 달라질 수 있다. 일 예로, 제1잡음특성으로 식별된 제2참조데이터(64)의 잡음특성과 높은 가중치가 부여된 제1참조데이터(63)의 잡음특성이 일치하지 않는 경우라도, 프로세서(5)는 높은 가중치가 부여된 제1참조데이터(63)의 잡음특성을 제2잡음특성으로 식별하고, 제2잡음특성의 제1참조데이터(63)를, 시작명령어 인식을 위한 참조데이터로 활용할 수 있다.
이와 같이, 프로세서(5)는 제2오디오신호(7)와의 주파수패턴의 유사도 및 현재잡음특성에 기초하여 부여된 가중치를 고려하여 참조데이터(9)를 식별할 수 있으므로, 시작명령어(6)에 대한 인식 정확도를 더욱 향상시킬 수 있다.
도 11은 잡음특성을 나타내는 사용자인터페이스에 관한 구체적인 예를 도시한다.
도 11에 도시된 바와 같이, 프로세서(5)는 잡음특성을 나타내는 사용자인터페이스(User Interface, UI, 110)를 표시할 수 있다. UI(110)는 제2오디오신호(7)의 수신 시점 또는 인식 시점에 대응하여 표시될 수 있다. 일 예로, 제2오디오신호(7)가 마이크(16)를 통해 수신되거나 인식되면, UI(110)가 표시될 수 있다.
또는, UI(110)는 사용자(2)에 대응하여 표시될 수 있다. 일 예로, 사용자(2)가 전자장치(1)로 접근하는 경우, 프로세서(5)는 음성인식기능을 활성화하기 위한 오디오(3)를 발화하기 위해 사용자(2)가 전자장치(1)로 접근하는 것으로 간주하고, UI(110)를 표시할 수 있다.
사용자(2)의 식별, 사용자(2)의 접근 여부 식별은 센서부(15)에 의해 획득된 정보에 기초하여 식별될 수 있다. 일 예로, 프로세서(5)는 전자장치(1)의 전방을 캡처하도록 센서부(15)를 제어하고, 센서부(15)에 의해 캡처된 이미지에 기초하여 사용자(2)를 식별하거나, 사용자(2)의 접근 여부를 식별할 수 있다.
잡음특성에 대응하는 UI(110)는 서로 구별되도록 표시된다. 일 예로, 잡음특성이 낮은 소음인 경우, 동그란 아이콘(111)이 표시될 수 있다. 반면에, 잡음특성이 높은 소음인 경우, 네모 아이콘(112)이 표시될 수 있다. 높은 소음의 경우, 좀더 세분화하여, 소음의 세기가 더 큰 경우, 세모 아이콘(113)이 표시될 수 있다. 잡음특성이 연속적으로 변하는 경우, UI(110)도 연속적으로 변하여 표시될 수 있다. 다만, 이에 한정되는 것은 아니므로, 잡음특성에 따른 UI(110)의 종류, 형태, 색상, 크기 등은 설계 방법에 따라 다양하게 설정될 수 있다.
만일, UI(110)를 통해 잡음특성이 낮은 소음인 것으로 표시되면, 사용자(2)는 주변의 현재잡음환경이 조용한 것으로 식별할 수 있다. 이 경우, 사용자(2)는 음성인식기능을 활성화하기 위한 오디오(3)를 작은 목소리로 발화할 수 있다. 반면에, 잡음특성이 높은 소음인 것으로 표시되면, 사용자(2)는 주변의 현재잡음환경이 소란한 것으로 식별하고, 음성인식기능을 활성화하기 위한 오디오(3)를 큰 목소리로 발화할 수 있다. 또는, 주변의 현재잡음환경을 소란하게 하는 원인이 되는 음원을 제거할 수 있다.
이와 같이, 프로세서(5)는 잡음특성을 나타내는 UI(110)를 표시할 수 있으므로, 사용자(2)로 하여금 현재잡음환경에 적응적으로 오디오(3)를 발화하도록 하거나, 오디오(3)의 발화에 적합한 현재잡음환경을 조성하도록 유도할 수 있다.
도 12는 도 11의 사용자인터페이스가 잡음특성 별로 색상을 달리하여 표시되는 구체적인 예를 도시한다.
앞서 도 11을 참조하여 설명한 바와 같이, 프로세서(5)는 잡음특성을 나타내는 UI(110)를 표시할 수 있으며 도 12에 도시된 바와 같이, 잡음특성에 따라 색상을 달리하는 UI(120)를 표시할 수 있다. 일 예로, 잡음특성이 낮은 소음인 경우, 흰색의 동그란 아이콘(121)이 표시될 수 있다. 반면에, 잡음특성이 높은 소음인 경우, 회색 동그란 아이콘(122)이 표시될 수 있으며, 소음의 세기가 더 큰 경우, 검은색 동그란 아이콘(123)이 표시될 수 있다.
UI(120)를 통해 잡음특성이 낮은 소음인 것으로 표시되면, 사용자(2)는 주변의 현재잡음환경이 조용한 것으로 식별하고, 음성인식기능을 활성화하기 위한 오디오(3)를 작은 목소리로 발화할 수 있으며, 반면에, 잡음특성이 높은 소음인 것으로 표시되면, 주변의 현재잡음환경이 소란한 것으로 식별하고, 음성인식기능을 활성화하기 위한 오디오(3)를 큰 목소리로 발화할 수 있다. 또는, 주변의 현재잡음환경을 소란하게 하는 원인이 되는 음원을 제거할 수 있다.
이와 같이, 프로세서(5)는 잡음특성 별로 색상을 달리하는 UI(120)를 표시할 수 있으므로, 사용자(2)로 하여금 현재잡음환경을 직관적으로 인식하도록 함으로써, 현재잡음환경에 적응적으로 오디오(3)를 발화하도록 하거나, 오디오(3)의 발화에 적합한 현재잡음환경을 조성하도록 유도할 수 있다.
도 13은 도 11의 사용자인터페이스가 사용자입력에 따라 설정되는 구체적인 예를 도시한다.
프로세서(5)는 도 11을 참조하여 설명한 UI(110)를 사용자입력에 따라 설정할 수 있다. 이를 위해 프로세서(5)는 설정UI를 표시할 수 있다. 일 예로, 프로세서(5)는 낮은 소음, 높은 소음 등과 같이 다양한 종류의 잡음특성을 나타내는 제1UI(101) 및 다양한 형태의 서로 다른 아이콘을 나타내는 제2UI(102)로 구성되는 설정UI를 표시할 수 있다.
설명의 편의를 위해 사용자(2)가 낮은 소음에 네모 아이콘을 대응시킨 경우를 가정한다. 프로세서(5)는 잡음특성이 낮은 소음인 것으로 식별되면, UI(110)를 통해 네모 아이콘을 표시할 수 있다. 반면에, 사용자(2)가 높은 소음에 동그란 아이콘을 대응시킨 경우라면, 프로세서(5)는 잡음특성이 높은 소음인 것으로 식별되면, UI(110)를 통해 동그란 아이콘을 표시할 수 있다.
또는, 프로세서(5)는 도 12를 참조하여 설명한 UI(120)를 사용자입력에 따라 설정할 수 있다. 일 예로, 사용자(2)가 낮은 소음에 흰색 동그란 아이콘을 대응시킨 경우, 프로세서(5)는 잡음특성이 낮은 소음인 것으로 식별되면, UI(120)를 통해 흰색 동그란 아이콘을 표시할 수 있다.
또는, 프로세서(5)는 사용자입력에 따라 도 11의 UI(110) 또는 도 12의 UI(120)의 표시 여부를 설정할 수 있다. 일 예로, 프로세서(5)는 표시 여부를 설정할 수 있는 UI를 표시하고, 사용자입력에 따라 표시 여부가 허용된 경우에 한하여, 식별된 잡음특성에 따라 도 11의 UI(110) 또는 도 12의 UI(120)를 표시할 수 있다.
이와 같이, 프로세서(5)는 설정UI를 통해 사용자입력에 따라 현재잡음특성을 나타내는 UI(110)를 임의적으로 설정할 수 있도록 함으로써, 사용자 기호에 맞는 UI(110)를 표시하도록 할 수 있다. 따라서, 사용자 편의성을 더욱 향상시킬 수 있다.
본 문서에 개시된 다양한 실시예들은 전자장치(1)와 같은 기기(Machine)가 읽을 수 있는 저장 매체(Storage Medium)에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어로서 구현된다. 일 예로, 전자장치(1)의 프로세서(5)는 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행한다. 이것은 전자장치(1)와 같은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함한다. 기기로 읽을 수 있는 저장매체는, 비일시적(Non-transitory) 저장매체의 형태로 제공된다. 여기서, '비일시적 저장매체'는 실재(tangible)하는 장치이고, 신호(예컨대, 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다. 일 예로, '비일시적 저장매체'는 데이터가 임시적으로 저장되는 버퍼를 포함한다.
일 예로, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(Computer Program Product)에 포함되어 제공된다. 본 개시에 의한 컴퓨터 프로그램 제품은, 앞서 언급된 바와 같은, 프로세서에 의해 실행되는 소프트웨어의 명령어들을 포함한다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래된다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예컨대, CD-ROM)의 형태로 배포되거나, 또는 어플리케이션 스토어(예컨대, 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예컨대, 스마트폰들) 간에 직접, 온라인으로 배포(예컨대, 다운로드 또는 업로드)된다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품(예: 다운로더블 앱(downloadable app))의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성된다.
이상, 바람직한 실시예를 통하여 본 발명에 관하여 상세히 설명하였으나, 본 발명은 이에 한정되는 것은 아니며 특허청구범위 내에서 다양하게 실시된다.

Claims (15)

  1. 전자장치에 있어서,
    마이크를 통해 수신되는 제1오디오신호에 기초하여 잡음특성을 식별하고,
    복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 상기 마이크를 통해 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하고,
    상기 기 설정된 유사도를 갖는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는
    프로세서를 포함하는 전자장치.
  2. 제1항에 있어서,
    상기 프로세서는, 상기 제2오디오신호의 수신 시점 이전에 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별하는 전자장치.
  3. 제1항에 있어서,
    상기 프로세서는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정하는 전자장치.
  4. 제1항에 있어서,
    상기 프로세서는, 상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성을 갖는 참조데이터를 식별하는 전자장치.
  5. 제4항에 있어서,
    상기 프로세서는, 상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 높은 가중치를 부여하는 전자장치.
  6. 제5항에 있어서,
    상기 프로세서는,
    상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 제1기설정값 이상인 참조데이터의 제1잡음특성을 식별하고,
    상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하면, 상기 제1잡음특성을 갖는 참조데이터를 사용하여 상기 제2오디오신호를 수정하는 전자장치.
  7. 제6항에 있어서,
    상기 프로세서는, 상기 식별된 제1잡음특성이, 상기 가중치가 높은 참조데이터의 잡음특성과 일치하지 않으면, 상기 2이상의 잡음특성 중에서 상기 제2오디오신호와의 주파수패턴의 유사도가 상기 제1기설정값보다 높은 제2기설정값 이상인 제2잡음특성을 갖는 참조데이터에 기초하여 상기 제2오디오신호가 상기 시작명령어에 대응하는지 여부를 식별하는 전자장치.
  8. 제1항에 있어서,
    상기 프로세서는, 상기 복수의 잡음특성을 식별하고, 상기 식별된 복수의 잡음특성을 나타내는 사용자인터페이스를 제공하도록 제어하는 전자장치.
  9. 제8항에 있어서,
    상기 프로세서는, 상기 식별된 복수의 잡음특성의 세기 또는 종류에 따라 상기 식별된 복수의 잡음특성이 서로 구별되는 상기 사용자인터페이스를 제공하도록 제어하는 전자장치.
  10. 전자장치의 제어방법에 있어서,
    수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계;
    복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하는 단계; 및
    상기 기 설정된 유사도를 갖는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 전자장치의 제어방법.
  11. 제10항에 있어서,
    상기 잡음특성을 식별하는 단계는, 상기 제2오디오신호의 수신 시점 이전에 수신된 상기 제1오디오신호에 기초하여 상기 잡음특성을 식별하는 단계를 포함하는 전자장치의 제어방법.
  12. 제10항에 있어서,
    상기 잡음특성을 식별하는 단계는, 상기 식별된 잡음특성의 크기에 기초하여 상기 제1오디오신호가 수신되는 시간 구간을 조정하는 단계를 포함하는 전자장치의 제어방법.
  13. 제10항에 있어서,
    상기 복수의 잡음특성 중 프레임 순으로 식별되는 2이상의 시간 구간에서 식별된 잡음특성에 대응하는 2이상의 잡음특성을 갖는 참조데이터를 식별하는 단계를 포함하는 전자장치의 제어방법.
  14. 제13항에 있어서,
    상기 2이상의 잡음특성 중 상기 제2오디오신호의 수신 시점과 가까운 상기 시간 구간에서 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 높은 가중치를 부여하는 단계를 더 포함하는 전자장치의 제어방법.
  15. 컴퓨터가 읽을 수 있는 코드로서, 전자장치의 제어방법을 수행하는 코드를 포함하는 컴퓨터 프로그램이 저장된 기록매체에 있어서, 상기 전자장치의 제어방법은,
    수신되는 제1오디오신호에 기초하여 잡음특성을 식별하는 단계;
    복수의 잡음특성에 각각 대응하는 복수의 참조데이터 중에서 상기 식별된 잡음특성에 대응하는 잡음특성을 갖는 참조데이터에 기초하여, 수신되는 제2오디오신호가 시작명령어와 기 설정된 유사도를 갖는지를 식별하는 단계; 및
    상기 기 설정된 유사도를 갖는 상기 제2오디오신호 이후에 수신되는 제3오디오신호에 기초하여 사용자 음성 입력에 대응하는 동작을 수행하는 단계를 포함하는 것을 특징으로 하는 컴퓨터가 읽을 수 있는 프로그램이 기록된 기록매체.
PCT/KR2021/014693 2020-11-24 2021-10-20 전자장치 및 그 제어방법 WO2022114532A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/566,347 US20220165298A1 (en) 2020-11-24 2021-12-30 Electronic apparatus and control method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020200158904A KR20220071591A (ko) 2020-11-24 2020-11-24 전자장치 및 그 제어방법
KR10-2020-0158904 2020-11-24

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/566,347 Continuation US20220165298A1 (en) 2020-11-24 2021-12-30 Electronic apparatus and control method thereof

Publications (1)

Publication Number Publication Date
WO2022114532A1 true WO2022114532A1 (ko) 2022-06-02

Family

ID=81754786

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/014693 WO2022114532A1 (ko) 2020-11-24 2021-10-20 전자장치 및 그 제어방법

Country Status (2)

Country Link
KR (1) KR20220071591A (ko)
WO (1) WO2022114532A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180040426A (ko) * 2016-10-12 2018-04-20 삼성전자주식회사 전자 장치 및 이의 제어 방법
US20180330717A1 (en) * 2017-05-11 2018-11-15 International Business Machines Corporation Speech recognition by selecting and refining hot words
KR20180127100A (ko) * 2017-05-19 2018-11-28 엘지전자 주식회사 홈 어플라이언스 및 음성 인식 서버 시스템의 동작 방법
KR20180127065A (ko) * 2017-05-19 2018-11-28 네이버 주식회사 키워드 오인식을 방지하는 음성 제어 장치 및 이의 동작 방법
KR20190016851A (ko) * 2017-08-09 2019-02-19 에스케이텔레콤 주식회사 음성 인식 방법 및 이에 사용되는 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180040426A (ko) * 2016-10-12 2018-04-20 삼성전자주식회사 전자 장치 및 이의 제어 방법
US20180330717A1 (en) * 2017-05-11 2018-11-15 International Business Machines Corporation Speech recognition by selecting and refining hot words
KR20180127100A (ko) * 2017-05-19 2018-11-28 엘지전자 주식회사 홈 어플라이언스 및 음성 인식 서버 시스템의 동작 방법
KR20180127065A (ko) * 2017-05-19 2018-11-28 네이버 주식회사 키워드 오인식을 방지하는 음성 제어 장치 및 이의 동작 방법
KR20190016851A (ko) * 2017-08-09 2019-02-19 에스케이텔레콤 주식회사 음성 인식 방법 및 이에 사용되는 장치

Also Published As

Publication number Publication date
KR20220071591A (ko) 2022-05-31

Similar Documents

Publication Publication Date Title
WO2020071712A1 (en) Method for controlling plurality of voice recognizing devices and electronic device supporting the same
WO2021025350A1 (en) Electronic device managing plurality of intelligent agents and operation method thereof
WO2019059505A1 (ko) 객체를 인식하는 방법 및 장치
WO2020184842A1 (ko) 전자 장치 및 전자 장치의 제어 방법
WO2020251074A1 (ko) 음성 인식 기능을 제공하는 인공 지능 로봇 및 그의 동작 방법
EP3773111A1 (en) Method and apparatus for executing cleaning operation
WO2021206221A1 (en) Artificial intelligence apparatus using a plurality of output layers and method for same
WO2021075716A1 (en) Electronic device supporting improved speech recognition
WO2021125784A1 (ko) 전자장치 및 그 제어방법
WO2019231068A1 (en) Electronic device and control method thereof
WO2022102945A1 (ko) 전자장치 및 그 제어방법
EP3738305A1 (en) Electronic device and control method thereof
WO2022055107A1 (ko) 음성 인식을 위한 전자장치 및 그 제어방법
WO2022114532A1 (ko) 전자장치 및 그 제어방법
WO2021071166A1 (en) Electronic apparatus and control method thereof
WO2022050653A1 (ko) 전자장치 및 그 제어방법
WO2021256760A1 (ko) 이동 가능한 전자장치 및 그 제어방법
WO2022065662A1 (ko) 전자장치 및 그 제어방법
WO2022092530A1 (ko) 전자장치 및 그 제어방법
WO2022131432A1 (ko) 전자장치 및 그 제어방법
WO2022065663A1 (ko) 전자장치 및 그 제어방법
WO2022025420A1 (ko) 전자장치 및 그 제어방법
WO2022124640A1 (ko) 전자장치 및 그 제어방법
WO2022255730A1 (ko) 전자장치 및 그 제어방법
WO2023008714A1 (ko) 전자 장치 및 무선 오디오 장치의 연결 전환을 제공하는 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21898358

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21898358

Country of ref document: EP

Kind code of ref document: A1