WO2017111319A1 - 전자 장치 및 전자 장치의 동작 제어 방법 - Google Patents

전자 장치 및 전자 장치의 동작 제어 방법 Download PDF

Info

Publication number
WO2017111319A1
WO2017111319A1 PCT/KR2016/013265 KR2016013265W WO2017111319A1 WO 2017111319 A1 WO2017111319 A1 WO 2017111319A1 KR 2016013265 W KR2016013265 W KR 2016013265W WO 2017111319 A1 WO2017111319 A1 WO 2017111319A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
sound
received
data
microphone
Prior art date
Application number
PCT/KR2016/013265
Other languages
English (en)
French (fr)
Inventor
백인호
김승년
윤용상
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to EP16879186.1A priority Critical patent/EP3379404B1/en
Priority to US16/064,558 priority patent/US10489109B2/en
Priority to CN201680075699.5A priority patent/CN108431764B/zh
Publication of WO2017111319A1 publication Critical patent/WO2017111319A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/20—Arrangements for obtaining desired frequency or directional characteristics
    • H04R1/32—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only
    • H04R1/326—Arrangements for obtaining desired frequency or directional characteristics for obtaining desired directional characteristic only for microphones

Definitions

  • Various embodiments of the present disclosure relate to an electronic device capable of providing an audio signal received from an external electronic device and a sound obtained from the outside to a user, and a method of controlling an operation of the electronic device.
  • a user may receive a portable terminal (for example, a mobile phone or a tablet), a wearable device (for example, a smart watch, a smart band, etc.) and an electronic device that receives and outputs external sounds to the user, that is, hearing.
  • the hearing device may interwork with an external electronic device (for example, a smart TV) to provide a user with an audio signal wirelessly from the external electronic device.
  • the hearing device may provide an audio signal streamed from an external electronic device and a sound received from the outside (for example, another speaker).
  • it is necessary to control the output of the audio signal and the acquired sound for the convenience of the user.
  • an electronic device and an electronic device capable of adjusting an output intensity (for example, a mixing ratio) of audio data received from an external device and data related to a sound received from the outside of the electronic device through a microphone are provided.
  • An operation control method can be provided.
  • data related to a sound received from a surrounding (for example, a speaker of an electronic device) of an electronic device during streaming of an audio signal from an external device may be recognized, and the sound intensity outputted according to the situation may be adjusted.
  • An electronic device and an operation control method of the electronic device can be provided.
  • An electronic device includes: at least one microphone configured to receive a sound from the outside and sense a direction in which the sound is received; A speaker for outputting sound; Communication circuitry for receiving audio data from an external electronic device; Said at least one microphone. A processor electrically connected with the speaker and the communication circuit; And at least one memory electrically connected to the processor. The memory, when executed, extracts information on the direction in which the sound was received from the data on the sound received through the at least one microphone, based on the information on the direction in which the sound was received. Instructions for processing data about the sound output through the speaker may be stored.
  • a method of controlling an operation of an electronic device may include receiving audio data from an external electronic device; Receiving a sound external to the electronic device through at least one microphone; Extracting information on a direction in which the sound is received from data on the sound received through the at least one microphone; And processing data about a sound output through a speaker based on the information on the direction in which the sound is received.
  • an electronic device and an operation control method of the electronic device may control an output intensity of a sound similar to an audio signal received from an external device among sounds received through a microphone, thereby allowing a user to control external noise or It is possible to listen to the sound corresponding to the received audio signal without noise.
  • an electronic device and an operation control method of the electronic device may include audio data similar to each other by adjusting a mixing ratio of audio data received from an external device and external sound received through a microphone.
  • the echo phenomenon caused by sound can be prevented.
  • an electronic device and an operation control method of the electronic device may control a mixing ratio of the output sound or directivity of the electronic device when receiving ambient sound different from audio data received from an external device.
  • the user may be able to listen to the necessary sounds of the surroundings smoothly.
  • FIG. 1 illustrates an electronic device in a network environment, in various embodiments of the present disclosure.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG 4 illustrates an example of using an electronic device according to various embodiments of the present disclosure.
  • FIG. 5 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG 6 illustrates an electronic device and an external electronic device according to various embodiments of the present disclosure.
  • FIG. 7 is a view illustrating an interlocking operation between an electronic device and an external electronic device according to various embodiments of the present disclosure.
  • FIG 8 illustrates a data format used in an electronic device or an external electronic device according to various embodiments of the present disclosure.
  • FIG. 9 is a diagram illustrating a signal flow between an electronic device and an external electronic device according to various embodiments of the present disclosure.
  • FIG. 10 is a diagram illustrating a communication state between an electronic device and a plurality of external electronic devices according to various embodiments of the present disclosure.
  • FIG. 11 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 12 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • 15 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • 16 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • 17 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • FIG. 18 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • expressions such as “A or B,” “at least one of A or / and B,” or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B,” “at least one of A and B,” or “at least one of A or B,” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” as used herein may modify various components, regardless of order and / or importance, and may form a component. It is used to distinguish it from other components and does not limit the components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • no other component e.g., a third component
  • the expression “configured to” as used in this document is, for example, “having the capacity to” depending on the context, for example, “suitable for,” “. It may be used interchangeably with “designed to,” “adapted to,” “made to,” or “capable of.”
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or configured to) perform A, B, and C” may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general-purpose processor (eg, a CPU or an application processor) capable of performing corresponding operations.
  • An electronic device may include, for example, an auditory device (eg, a hearing aid).
  • the hearing device may include a housing that includes a portion configured to be detachable to a portion of the user.
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, and an e-book reader.
  • wearable devices may be accessory (eg, watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-devices (HMDs)), textiles, or clothing one-pieces (eg, it may include at least one of an electronic garment, a body attachment type (eg, a skin pad or a tattoo), or a living implantable type (eg, an implantable circuit).
  • HMDs head-mounted-devices
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, vacuum cleaners, ovens, microwaves, washing machines, air purifiers, set-top boxes, home automation controls Panel (home automation control panel), security control panel, TV box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary It may include at least one of an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include a variety of medical devices (e.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as computed tomography (CT), imaging or ultrasound, navigation devices, satellite navigation systems (global navigation satellite systems), event data recorders (EDRs), flight data recorders (FDRs), and automotive infotainment ) Devices, ship's electronic equipment (e.g.
  • Point of sales, point of sales, or Internet of things may include at least one.
  • an electronic device may be a piece of furniture or a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be a combination of one or more of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • a device eg, an artificial intelligence electronic device
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication interface 170.
  • the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may, for example, include circuitry that connects the components 110-170 to each other and communicates communications (eg, control messages and / or data) between the components.
  • communications eg, control messages and / or data
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may be, for example, a kernel 141, middleware 143, an application programming interface (API) 145, an application program (or an “application”) 147, or the like. It may include. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system (OS).
  • OS operating system
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Priority can be given.
  • the middleware 143 may perform the scheduling or load balancing of the one or more work requests by processing the one or more work requests according to the priority given to the at least one.
  • the API 145 is, for example, an interface for the application 147 to control a function provided by the kernel 141 or the middleware 143, for example, file control, window control, image processing, or text. It may include at least one interface or function (eg, a command) for control.
  • the input / output interface 150 may serve as, for example, an interface capable of transferring a command or data input from a user or another external device to other component (s) of the electronic device 101.
  • the input / output interface 150 may output commands or data received from other component (s) of the electronic device 101 to a user or another external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, or Microelectromechanical systems (MEMS) displays, or electronic paper displays.
  • the display 160 may display, for example, various contents (eg, text, images, videos, icons, symbols, etc.) to the user.
  • the display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • Wireless communication is, for example, a cellular communication protocol, for example, long-term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), UMTS (universal).
  • LTE long-term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal
  • WBro mobile telecommunications system
  • WiBro wireless broadband
  • GSM global system for mobile communications
  • wireless communication may include, for example, near field communication 164.
  • the short range communication 164 may include, for example, at least one of wireless fidelity (WiFi), Bluetooth, near field communication (NFC), global navigation satellite system (GNSS), and the like.
  • WiFi wireless fidelity
  • NFC near field communication
  • GNSS global navigation satellite system
  • GNSS may be, for example, among the Global Positioning System (GPS), the Global Navigation Satellite System (Glonass), the Beidou Navigation Satellite System (“Beidou”), or Galileo, the European global satellite-based navigation system. It may include at least one.
  • GPS Global Positioning System
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system. It may include at least one.
  • GPS Global Positioning System
  • the wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 162 may include a telecommunications network, for example, at least one of a computer network (for example, a LAN or WAN), the Internet, and a telephone network.
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • server 106 may comprise a group of one or more servers.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 may instead execute or execute the function or service by itself, or at least some function associated therewith.
  • the other electronic device may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 101.
  • the electronic device 101 may provide the requested function or service by processing the received result as it is or additionally.
  • Cloud computing distributed computing, or client-server computing techniques can be used.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an application processor (AP) 210), a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, and an input device ( 250, display 260, interface 270, audio module 280, camera module 291, power management module 295, battery 296, indicator 297, and motor 298.
  • AP application processor
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into volatile memory, and store various data in the nonvolatile memory. have.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication interface 170 of FIG. 1.
  • the communication module 220 may be, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GPS module 227 (eg, a GPS module, a Glonass module, a Beidou module, or a Galileo module). It may include an NFC module 228 and a radio frequency (RF) module 229.
  • RF radio frequency
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, a SIM card) 224. According to an embodiment, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment, the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • Each of the WiFi module 223, the Bluetooth module 225, the GPS module 227, or the NFC module 228 may include, for example, a processor for processing data transmitted and received through a corresponding module.
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GPS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GPS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module. Can be.
  • Subscriber identification module 224 may include, for example, a card that includes a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity (IMSI)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, non-volatile memory).
  • volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • non-volatile memory eg, non-volatile memory.
  • SSD solid state drive
  • the external memory 234 may be a flash drive, for example, compact flash (CF), secure digital (SD), micro secure digital (Micro-SD), mini secure digital (Mini-SD), or extreme (xD). It may further include a digital, a multi-media card (MMC) or a memory stick (memory stick).
  • the external memory 234 may be functionally and / or physically connected to the electronic device 201 through various interfaces.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • the sensor module 240 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor. And infrared (IR) sensors, iris sensors, and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240 as part of or separately from the processor 210, while the processor 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may be, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device ( 258).
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, hologram device 264, or projector 266.
  • the panel 262 may include a configuration that is the same as or similar to that of the display 160 of FIG. 1.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured as a single module with the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the display 260 may further include a control circuit for controlling the panel 262, the hologram device 264, or the projector 266.
  • the interface 270 may be, for example, a high-definition multimedia interface (HDMI) 272, a universal serial bus (USB) 274, an optical interface 276, or a D-subminiature ) 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an IrDA (infrared). data association) may include a standard interface.
  • MHL mobile high-definition link
  • SD secure digital
  • MMC multi-media card
  • IrDA infrared
  • the audio module 280 may bilaterally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 145 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LED or xenon lamp, etc.
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibrations, and may generate a vibration or haptic effect.
  • the electronic device 201 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM .
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM mediaFlo TM
  • the electronic device 201 (eg, the hearing device) may have a structure in which at least some of the components shown in FIG. 2 are omitted.
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form a single entity, and thus may perform the same functions of the corresponding components before being combined.
  • the program module 310 (eg, the program 140) is an operating system (or operating system) and / or operating a resource related to the electronic device (eg, the electronic device 101). It may include various applications (for example, an application program 147) running on the system.
  • the operating system may be, for example, android, ios, windows, symbian, tizen, bada, or the like.
  • the program module 310 may include a kernel 320, middleware 330, an application programming interface (API) 360, and / or an application 370. At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (eg, the electronic devices 102 and 104, the server 106, etc.).
  • API application programming interface
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver. .
  • IPC inter-process communication
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to efficiently use limited system resources inside the electronic device. Functions may be provided to the application 370.
  • the middleware 330 eg, the middleware 143 may include a runtime library 335, an application manager 341, a window manager 342, and a multimedia manager. 343, resource manager 344, power manager 345, database manager 346, package manager 347, connectivity manager (348), a notification manager (349), a location manager (350), a graphic manager (351), or a security manager (352) can do.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 341 may manage, for example, a life cycle of at least one of the applications 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may grasp formats required for playing various media files and perform encoding or decoding of media files using a codec suitable for the format.
  • the resource manager 344 may manage resources such as source code, memory, or storage space of at least one of the applications 370.
  • the power manager 345 may operate together with a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device.
  • the database manager 346 may generate, search for, or change a database to be used by at least one of the applications 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 348 may manage, for example, a wireless connection such as WiFi or Bluetooth. Notification manager 349 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 350 may manage location information of the electronic device.
  • the graphic manager 351 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide various security functions required for system security or user authentication. According to an embodiment of the present disclosure, when the electronic device (for example, the electronic device 101) includes a telephone function, the middleware 330 further includes a telephone manager for managing a voice or video call function of the electronic device. can do.
  • the middleware 330 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 330 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 (eg, API 145) is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 may be, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (374), a browser 375, Camera 376, Alarm 377, Contact 378, Voice Dial 379, Email 380, Calendar 381, Media Player 382, Album 383, or Clock 384, Healthcare or one or more applications capable of performing functions such as health care (eg, measuring exercise amount or blood sugar) or providing environmental information (eg, providing barometric pressure, humidity, or temperature information).
  • health care eg, measuring exercise amount or blood sugar
  • environmental information eg, providing barometric pressure, humidity, or temperature information
  • the application 370 may be an application that supports information exchange between an electronic device (eg, the electronic device 101) and an external electronic device (eg, the electronic devices 102 and 104).
  • the "information exchange application” may be included.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application). , 104)). Also, the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • another application of the electronic device eg, an SMS / MMS application, an email application, a health care application, or an environmental information application. , 104)
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may, for example, turn at least one function of an external electronic device (eg, the electronic devices 102 and 104) in communication with the electronic device (eg, turn on the external electronic device itself (or some component part). On / turn-off or adjust the brightness (or resolution) of the display, manage applications (e.g., install, delete), applications running on an external electronic device or services provided by the external electronic device (e.g., call service or message service) , Or update).
  • an external electronic device e.g, the electronic devices 102 and 104
  • manage applications e.g., install, delete
  • applications running on an external electronic device or services provided by the external electronic device e.g., call service or message service
  • the application 370 may include an application (eg, a health care application of a mobile medical device, etc.) designated according to an attribute of the external electronic device (eg, the electronic devices 102 and 104).
  • the application 370 may include an application received from an external electronic device (for example, the server 106 or the electronic devices 102 and 104). May include a preloaded application or a third party application downloadable from a server, etc.
  • the names of the components of the program module 310 according to the embodiment illustrated in FIG. Therefore, it may vary.
  • At least part of the program module 310 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a part of the program module 310 may be implemented (for example, executed) by, for example, a processor (for example, the processor 210). At least a part of the program module 310 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • the electronic device, the first external electronic device, and the second external electronic devices described below are all the transport elements of the electronic devices 101, 201, 310 described with reference to FIGS. 1 to 3. Or some.
  • FIG 4 illustrates an example of using an electronic device 400 according to various embodiments of the present disclosure.
  • the electronic device 400 may provide sound information to the user 401.
  • the electronic device 400 may allow the user 401 to listen to music, In the case of a phone call or a conversation, ambient sound information may be amplified and provided to the user 401.
  • the electronic device 400 may be worn on a body part of the user 401 to receive a receiver (for example, the electronic device 400).
  • the speaker may provide sound information in the vicinity of the ear of the user 401.
  • the electronic device 400 may take various forms according to the use purpose of the individual user 401, and provide various functions.
  • the electronic device 400 may include, for example, a headset, headphones, earpieces, hearing aids, or personal sound amplification products.
  • BTE behind-the-ear
  • RIC receiver-in-canal
  • ITE the-ear
  • ITC in-the-canal
  • CIC completely-in-canal
  • FIG. 5 is a block diagram of an electronic device 500 according to various embodiments of the present disclosure.
  • the electronic device 500 may have the same or similar components as the electronic devices 101 and 201 shown in FIGS. 1 and 2.
  • the electronic device 500 may include all or part of the components of the electronic devices 101 and 201 illustrated in FIGS. 1 and 2.
  • the electronic device 500 may include an input unit 510 (eg, a microphone), signal amplifiers 521 and 525, signal converters 531 and 535, a processor 540, and an output unit ( 550 (eg, a receiver or a speaker), a signal transmitter / receiver 560, a communication module 570, and a storage 580.
  • an input unit 510 eg, a microphone
  • signal amplifiers 521 and 525 e.g, a microphone
  • signal converters 531 and 535 e.g., a processor 540
  • an output unit 550 (eg, a receiver or a speaker)
  • a signal transmitter / receiver 560 e.g, a communication module 570
  • storage 580 e.g, a storage 580.
  • the electronic device 500 may obtain sound information through the input unit 510.
  • the input unit 510 may generate an input signal by receiving a sound around the electronic device 500.
  • the input unit 510 may include at least one microphone.
  • the electronic device 500 may further include signal amplifiers 521 and 525 (eg, an amplifier AMP).
  • the signal amplifiers 521 and 525 may amplify the analog signal.
  • the signal amplifiers 521 and 525 may include a first signal amplifier 521 (eg, pre-AMP) and a controller 540 that amplify a signal input through the input unit 510.
  • a second signal amplifying unit 525 (for example, power AMP) that amplifies the processed signal and transmits it to the output unit may be included.
  • the electronic device 500 may be connected to an external electronic device (eg, a mobile device, a mobile phone, a tablet, etc.) or a network by wire or wirelessly.
  • an external electronic device eg, a mobile device, a mobile phone, a tablet, etc.
  • the electronic device 500 may receive an input signal through the signal transmitter / receiver 560.
  • the signal transmitter / receiver 560 may include at least one antenna.
  • the communication controller 570 may process an input signal received through the signal transmitter / receiver 560 (for example, applying an audio filter or amplifying a signal) and transmit the same to the controller 540.
  • the controller 540 may process an input signal (for example, apply an audio filter or amplify a signal) to output sound through an output unit.
  • the controller 540 may process an input signal received from the input unit 510 or the communication controller 570 to output sound through the output unit.
  • the controller 540 may configure a signal processing method (for example, application of an audio filter or signal amplification, etc.) according to an input signal received through the communication controller 570 or the input unit 510. Can be.
  • the controller 540 may set a signal path (eg, an audio signal path or a sound signal path) according to the presence or absence of an input signal from the communication controller 570 or the input unit 510. For example, when an input signal is input to the controller 540 through the input unit 510, the controller 540 may set a signal path of the input unit 510 as an output unit and output a sound.
  • the controller 540 may set a signal path of the communication controller 570 as an output unit.
  • the controller 540 may switch the signal path from the signal path through the input unit 510 to the signal path through the communication unit according to a method of receiving an input signal.
  • the controller 540 may determine the presence or absence of an input signal through the input unit 510 by measuring the magnitude of power for each time section. According to an embodiment, in the presence of an input signal, the controller 540 may determine a mode to be performed by analyzing the input signal. For example, the controller 540 may determine whether the input signal is a signal of a user or a thing or a signal similar to a signal registered in the database DB. According to an embodiment, the controller 540 may change the mode of the electronic device 500 according to the voice information of the input signal. For example, when it is determined that the input signal is noise, the electronic device 500 may remove the input signal (ie, noise). For example, the controller 540 may operate at least a portion of the electronic device 500 in a low power mode when the input signal does not generate more than a specific value for a predetermined time.
  • the electronic device 500 may include signal converters 531 and 535.
  • the signal converters 531 and 535 may include a first signal converter 531 (eg, an analog-to-digital converter (ADC)) for converting an analog signal input through the input unit 510 into a digital signal.
  • a second signal converter 535 eg, a digital-to-analog converter (DAC) for converting the digital signal into an analog signal output through the output unit.
  • ADC analog-to-digital converter
  • DAC digital-to-analog converter
  • the memory 580 may store information for determining a type of an input signal (for example, voice information of a user, information on a sound (signal) of a specific object, etc.).
  • the storage unit 580 may store mode information, function information, and auditory parameters of the electronic device 500.
  • the auditory parameter may include, for example, information about a noise attenuation amount, a filter value, a pass frequency, a cutoff frequency, a sound amplification value, directivity, a fitting parameter for each user, and the like of the electronic device 500.
  • the storage unit 580 may store at least one instruction executed by the controller 540 to control the electronic device 500 to perform a corresponding function.
  • the electronic device 500 may include all or part of the components of the electronic device 201 illustrated in FIG. 2.
  • the electronic device 500 may include at least one sensor (eg, an acceleration sensor, a gyro sensor, a proximity sensor, a heart rate sensor, an electrocardiogram sensor, a pulse sensor, etc.).
  • the electronic device 500 may acquire data related to at least some of the state, posture, and / or movement of the user's body using the sensor.
  • the electronic device 500 may transmit the acquired data or the information extracted from the acquired data to the external device.
  • FIG. 6 illustrates an electronic device 630 and an external electronic device 610 according to various embodiments of the present disclosure.
  • the electronic device 630 and the external electronic device 630 may include all or part of components of the electronic devices 101 and 201 illustrated in FIGS. 1 and 2. .
  • the electronic device 630 may communicate with the external electronic device 610 (eg, a mobile electronic device, a mobile phone, a tablet, etc.).
  • the electronic device 630 and the external electronic device 610 are paired wirelessly (eg, Radio Frequency (RF), Near Field Magnetic Induction (NFMI), Bluetooth (BT), Audio over Bluetooth Low Energy (AoBLE), etc.).
  • RF Radio Frequency
  • NFMI Near Field Magnetic Induction
  • BT Bluetooth
  • the electronic device 630 may play music from a mobile terminal, receive a call, alarm, or input a first microphone 6163 of the mobile terminal. Sound information such as a signal can be transmitted.
  • the electronic device 630 may change the setting state of the electronic device 630 through the external electronic device 610.
  • the electronic device 630 may not include a separate display device, and may include a limited input unit 6340 (for example, a button).
  • the electronic device 630 may be a type of hearing aid, and may include a plurality of filter modes (eg, wide dynamic range compression (WDRC)) volume settings.
  • WDRC wide dynamic range compression
  • the mode of the electronic device 630 may be easily set or changed through the external electronic device 610.
  • the mobile terminal may provide a user with a UI for controlling the electronic device 630.
  • the user may easily change the setting of the electronic device 630 using the provided UI.
  • the user may control the volume of the electronic device 630 by performing a touch input to the mobile terminal without directly manipulating the electronic device 630.
  • the electronic device 630 may include a sensor part 6320.
  • the sensor unit 6320 may include a proximity sensor, an acceleration sensor, a geomagnetic sensor, a bio sensor, and the like.
  • the electronic device 630 may check whether the user wears the electronic device 630 through the sensor 6320.
  • the electronic device 630 may set the power control mode of the electronic device 630 according to whether the user wears the electronic device 630. For example, when the electronic device 630 includes an acceleration sensor, the electronic device 630 may detect a user's movement through the acceleration sensor and operate in a sleep mode when a specific movement is not detected. have.
  • the electronic device 630 may be connected to an external electronic device 610 (eg, a mobile electronic device (phone, tablet, etc.)) to clearly transmit a remote sound to a user.
  • the electronic device 630 may play a sound source stored in the external electronic device 610.
  • the electronic device 630 may convert the received sound information into an audio file or a text file and store it in the external electronic device 610.
  • the signal of the first microphone 6163 of the external electronic device 610 is set as the remote microphone
  • the electronic device 630 receives the audio signal of the first microphone 6163 of the external electronic device 610. can do.
  • the audio signal received from the external electronic device 610 may be data implied through a data compression operation.
  • the external electronic device 610 may transmit data to the electronic device 630 through the wireless communication unit 6110 (for example, an antenna).
  • the electronic device 630 receives data through the wireless communication unit 6310 (for example, an antenna, etc.), separates the audio information included in the data format, and releases the audio information through the second speaker 6321. You can print
  • the electronic device 630 may receive and play an audio signal stored in the external electronic device 610.
  • the external electronic device 610 may store a plurality of notification sounds.
  • the external electronic device 610 may transmit different notification sounds to the hearing device according to the user's situation, the state of the system, the time, the message reception status, the e-mail reception status, and the like.
  • the electronic device 630 may separate the audio information included in the data format from the data transmitted from the external electronic device 610, and reproduce the audio information included in the data format through the audio information release operation.
  • the electronic device 630 may record a signal using the external electronic device 610.
  • the electronic device 630 may compress and store audio data for effective use of the external electronic device 610.
  • the external electronic device 610 may convert and store the audio signal into text information by using speech to text (STT) technology.
  • STT speech to text
  • the external electronic device 610 may store a conversation content through the electronic device 630 as text using the STT method.
  • the external electronic device 610 may add and store various information such as time information, sensor information, or location information.
  • the external electronic device 610 may display the stored conversation content on the display unit.
  • the external electronic device 610 may convert text information into an audio signal and transmit the text information to the electronic device 630 using a text to speech (TTS) technology.
  • the electronic device 630 may output the audio signal received from the external electronic device 610 through the second speaker 6321.
  • TTS text to speech
  • the electronic device 630 may transmit a signal received through the second microphone 6353 to the external electronic device 610.
  • the external electronic device 610 may store a signal received from the electronic device 630.
  • the electronic device 630 may compress the signal and transmit the compressed signal to the external electronic device 610 in order to reduce power consumed in transmitting the signal.
  • the electronic device 630 may include a codec for compressing and decompressing audio data.
  • the external electronic device 610 may receive a signal received from the electronic device 630 through the second microphone 6353 of the electronic device 630, and may perform STT conversion and store it as text.
  • the external electronic device 610 may output data received from the electronic device 630 or stored data through the first speaker SPK 6161.
  • the electronic device 630 and the external electronic device 610 may be connected to the audio processing units 6160 and 6350 (eg, the first microphone (MIC) 6603 of the external electronic device 610).
  • the first speaker 6161 and the second microphone 6535 and the second speaker 6321 of the electronic device 630 may be used to provide a call function between remote locations to the user.
  • the electronic device 630 may form a network with additional external electronic devices connected to the external electronic device 610.
  • the electronic device 630 may transmit / receive data with other electronic devices connected to the external electronic device 610 through the external electronic device 610.
  • the electronic device 630 or the external electronic device 610 may include various electronic devices including a microphone or a speaker in addition to the portable terminal or the hearing device.
  • the electronic device 630 or the external electronic device 610 may include smart glasses including a plurality of microphones, a head mounted display (HMD), a robot, or the like. Can be.
  • HMD head mounted display
  • FIG. 7 is a view illustrating an interlocking operation between an electronic device 710 and an external electronic device 730 according to various embodiments of the present disclosure.
  • the electronic device 710 may receive an external sound through a microphone.
  • the electronic device 710 may control or change the setting of the electronic device 710 through communication with the external electronic device 730.
  • the external electronic device 730 may include a setting application of the electronic device 710.
  • the external electronic device 730 may perform mode control and volume control of the electronic device 710 through a setting application of the electronic device 710.
  • the external electronic device 730 may display a mode that the electronic device 710 can set through the display.
  • the external electronic device 730 may change the volume or mode of the electronic device 710 according to an input received from a user through an input unit (for example, a touch screen).
  • the external electronic device 730 may set the mode of the electronic device 710 through various sensors included in the sensor unit (eg, an acceleration sensor, a gyro sensor, a biometric sensor, or a proximity sensor). Can be. For example, when the user shakes the external electronic device 730 left or right or up and down, the external electronic device 730 may detect this through the sensor unit. When the external electronic device 730 detects a movement, the external electronic device 730 may transmit an input signal corresponding to the electronic device 710 to control the device to change the mode. As another example, the external electronic device 730 may control the electronic device 710 to change the mode to a setting state corresponding to the user's biometric information by using a biometric sensor (eg, a fingerprint sensor).
  • a biometric sensor eg, a fingerprint sensor
  • FIG. 8 illustrates a data format used by the electronic device 201 or an external electronic device according to various embodiments of the present disclosure.
  • the electronic device 201 may communicate using the data format shown in FIG. 8.
  • the electronic device 201 and the external electronic device may communicate wirelessly.
  • the electronic device 201 and the external electronic device may use a Bluetooth low energy (BLE) format as a data format for wireless communication.
  • the electronic device 201 and the external electronic device may use an audio over BLE (AoBLE) format that may exchange audio signals by modifying a portion of the BLE format during wireless communication.
  • BLE Bluetooth low energy
  • AoBLE audio over BLE
  • the electronic device 201 or the external electronic device may include a Logical Link Control and Adaptation Protocol (L2CAP) layer 810, a Logical layer 820, and a Physical layer 830.
  • the L2CAP layer may include L2CAP channels.
  • the logical layer may include a logical link 821 and a logical transport 823.
  • the physical layer may include a physical link 831 and a physical channel 833.
  • the data format includes a preamble 840, an access address 850, a protocol data unit (PDU) header 860, a PDU payload 870, and an error detection code (Cyclic). Redundancy Check (CRC) 880.
  • PDU protocol data unit
  • Cyclic Error detection code
  • the access address 850 may include a physical link access code.
  • the PDU header 860 may include identifiers of logical transport and link.
  • the PDU payload 870 may include an L2CAP frame and user data.
  • the PDU payload 870 may include an L2CAP header 871 and a payload 873.
  • the electronic device 201 and the external electronic device may set configuration data such as voice data, a sampling rate of the audio processor (for example, a codec), a frame size, or whether the electronic device is activated.
  • the PDU payload 870 may be loaded and exchanged with each other.
  • the L2CAP header part of the transmission data format may include an operation code for identifying a data type.
  • FIG. 9 is a diagram illustrating a signal flow between an electronic device 905 and an external electronic device 903 according to various embodiments of the present disclosure.
  • the electronic device 905 may communicate with an external electronic device 903 (eg, a mobile terminal, etc.).
  • the electronic device 905 may change the setting by using the external electronic device 903.
  • the electronic device 903 may receive an input (eg, link connection setting) for communication connection with the electronic device 905 from the user 901.
  • the external electronic device 903 may display the connectable electronic device 905 or other devices on the display.
  • the external electronic device 903 may attempt to communicate with the selected electronic device 905 or another device.
  • the external electronic device 903 may transmit a link connection request to the electronic device 905.
  • the external electronic device 903 may transmit a link connection request to the selected electronic device 905 according to the user 901 input.
  • the electronic device 905 may transmit a link connection response to the external electronic device 903 in response to a link connection request of the external electronic device 903.
  • the external electronic device 903 may display a user interface indicating that the link is connected.
  • the external electronic device 903 may request information from the electronic device 905.
  • the external electronic device 903 may request a setting characteristic from the electronic device 905.
  • the external electronic device 903 may request mode information, function information, setting information, etc. of the electronic device 905.
  • the electronic device 905 may transmit information to the external electronic device 903.
  • the electronic device 905 may transmit setting information corresponding to the information request to the external electronic device 903 in response to the information request of the external electronic device 903.
  • the external electronic device 903 may receive an auditory parameter setting from a user.
  • the external electronic device 903 may display mode information of the electronic device 905 or at least one auditory parameter that can be set.
  • the external electronic device 903 may display setting data or settable auditory parameter information of the electronic device 905 based on the information received from the electronic device 905.
  • the external electronic device 903 may receive an input for selecting at least one mode or hearing parameter from among the mode of the electronic device 905 or the hearing parameter of the user 901 displayed from the user 901.
  • the external electronic device 903 may transmit the selected mode or auditory parameter to the electronic device 905 according to the input of the user 901. For example, the external electronic device 903 may transmit a specific mode setting value of the selected electronic device 905 to the electronic device 905 according to the input of the user 901.
  • the setting completion response may be transmitted to the external electronic device 903.
  • the electronic device 905 may update the filter information of the audio processor (eg, a codec) based on an auditory parameter or a mode setting value received from the external electronic device 903.
  • the electronic device 905 may include a directionality for receiving sound from outside according to the received auditory parameter or mode setting value, a filter value for filtering the received sound information, a cutoff frequency band (or a pass frequency band), and the like. Can be changed.
  • the electronic device 905 may transmit a setting completion response to the external electronic device 903 after changing the setting according to the received setting value.
  • the electronic device 905 may process sound information received from the outside based on the set mode or auditory parameter and output the processed sound information through the speaker (or the receiver).
  • FIG. 10 is a diagram for describing a situation in which the electronic device 1000 and the plurality of external electronic devices 1010 and 1020 communicate according to various embodiments of the present disclosure.
  • the electronic device 1000 may communicate with a plurality of external electronic devices (eg, the first external electronic device 1010 and the second external electronic device 1020) or the network 1040. have.
  • a plurality of external electronic devices eg, the first external electronic device 1010 and the second external electronic device 1020
  • the network 1040 may have.
  • the electronic device 1000 may connect the first external electronic device 1010 and the first communication 1001.
  • the electronic device 1000 may exchange data with the first external electronic device 710.
  • the electronic device 1000 may set audio filter information of the electronic device 1000 through the first external electronic device 1010.
  • the electronic device 1000 may receive a command or data for setting audio filter information from the first external electronic device 1010.
  • the electronic device 1000 is connected to the second external electronic device 1020 or the network 1040 through the first external electronic device 1010 to connect the first external electronic device 1010, the second external electronic device 1020, or the like.
  • Data communication can be performed with the network 1040.
  • the first external electronic device 1010 may connect the second external electronic device 1020 and the third communication 1003.
  • the second external electronic device 1020 may connect the network 1040 and the fourth communication 1004.
  • the electronic device 1000 may transmit / receive data with the second external electronic device 1020 or the network 1040 using the first external electronic device 1010 as a relay terminal.
  • the electronic device 1000 may exchange data with the second external electronic device 1020 or the network 1040 using a communication standard provided to the first external electronic device 1010.
  • the electronic device 1000 may connect the first communication 1001 with the first external electronic device 1010 through NFMI or BLE.
  • the first external electronic device 1010 may connect the third external communication device 1003 with the second external electronic device 1020 or the network 1040 (including a connection through a gateway) through WiFi.
  • the electronic device 1000 transmits and receives data to and from the first external electronic device 1010 using NFMI or BLE, and the first external electronic device 1010 transmits data to the second external electronic device 1020 or the network 1040 through WiFi.
  • the electronic device 1000 may download fitting (audio filter) data from the network 1040 through the first external electronic device 1010.
  • the electronic device 1000 may receive and output audio data information stored in the second external electronic device 1020 through the first external electronic device 1010.
  • the electronic device 1000 may connect the second external electronic device 1020 and the second communication 1002.
  • the electronic device 1000 may support a standard for communicating with the second external electronic device 1020 or the network 1040.
  • the electronic device 1000 may provide a standard (eg, 3G, LTE) for telephony communication.
  • the electronic apparatus 1000 may communicate with the base station to provide a call function to the user.
  • an electronic device may include: at least one microphone configured to receive a sound from an outside and sense a direction in which the sound is received, a speaker for outputting a sound, and audio data from an external electronic device Circuit, said at least one microphone.
  • the speaker may include a processor, a processor electrically connected to the communication circuit, and at least one memory electrically connected to the processor.
  • the processor When the memory is executed, the processor extracts information on a direction in which a sound is received from data about a sound received through the at least one microphone, and receives the received audio data and the microphone. Instructions for determining the similarity of the data about the sound and processing the data about the sound output through the speaker based on the similarity and the information about the direction in which the sound is received may be stored.
  • the electronic device may further include a housing including a portion configured to be detachable from a portion of a user's ear.
  • the at least one microphone, the speaker, the communication circuit, the processor, and the memory may be included in the housing.
  • the instructions may further include an output intensity of a sound corresponding to the received audio data or a sound corresponding to the data about the received sound, from among the data about the sound output through the speaker. You can make adjustments.
  • the instructions may be based on a result of the processor comparing the information about the direction in which the sound is received with preset reference direction information and comparing the information about the direction with the reference direction information. Accordingly, data about the sound to be output may be processed.
  • the instructions may cause the processor to set the reference direction information using information about the similarity and the direction in which the sound is received.
  • the instructions determine the similarity between the received audio data and the data regarding the sound received through the microphone, and when the similarity is equal to or greater than a preset value, the instructions are applied to the received sound. It is possible to reduce the output intensity of the sound corresponding to the related data.
  • the instructions may cause the processor to increase an output intensity of a sound corresponding to data about the received sound when the similarity is less than a preset value.
  • the instructions may include a command for the processor to output a notification using the speaker or to cause the external electronic device to output a notification message when the similarity is less than a preset value. Can be sent to the device.
  • the instructions may be based on an output intensity of a sound corresponding to the received audio data or data related to the received sound, based on a signal or data received from the second external electronic device. It is possible to adjust the output intensity of the corresponding sound.
  • the electronic device may further include a sensor for detecting a state, posture, or movement of the electronic device.
  • the instructions may cause the processor to set the reference direction information based on at least some data related to a state, a posture, or a movement of the electronic device detected using the sensor.
  • the instructions the processor, based on the predetermined direction information, extracts data corresponding to the sound received from a range of directions of the data about the sound received through the microphone, The output intensity of the sound corresponding to the extracted data can be adjusted.
  • the hearing device includes at least one microphone for receiving sound from an external device, a speaker for outputting sound, a communication circuit for receiving audio data from an external electronic device, and the at least one microphone.
  • the speaker may include a processor, a processor electrically connected to the communication circuit, and at least one memory electrically connected to the processor.
  • the memory when executed, the processor compares the audio data received by the communication circuit with the data relating to the sound received through the microphone, and outputs the sound received through the microphone as sound through the speaker. Instructions can be stored that control what is done.
  • the instructions, the processor determines the similarity between the audio data received from the communication circuit and the data relating to the sound received through the microphone, and transmits the audio data based on the similarity
  • the direction of the external electronic device may be determined.
  • the instructions, the processor, based on the data for the sound determines the direction in which the sound received through the microphone is received, the direction in which the sound is received and the direction of the external electronic device Based on the comparison result, it is possible to adjust the output intensity of the sound received through the microphone output through the speaker.
  • the instructions, the processor, when the direction in which the sound is received is the direction of the external electronic device reduces the output strength of the sound received through the microphone, the direction in which the sound is received If it is not the direction of the external electronic device, the output intensity of the sound received through the microphone may be increased.
  • the instructions may cause the processor to output a sound corresponding to the received audio data and a sound corresponding to a sound received through the microphone through the speaker.
  • the instructions, the processor determines the similarity between the received audio data and the data relating to the sound received through the microphone, and if the similarity is equal to or greater than the set reference value, the received audio data Sets the output intensity of the sound corresponding to to be relatively higher than the output intensity of the sound corresponding to the sound received through the microphone, and if the similarity is less than the set reference value, the output intensity of the sound corresponding to the received audio data May be set to be relatively lower than the output intensity of the sound corresponding to the sound received through the microphone.
  • FIG. 11 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • the electronic device may check an output gain of each of the audio data received from the external device and the sound received through the microphone. For example, the electronic device may identify a gain for amplifying the received audio data and the received sound in order to output the sound corresponding to each of the received audio data and the received sound through the speaker. For example, the electronic device may check the mixing ratio of the received audio data and the sound received through the microphone. For example, the electronic device may check the output intensity corresponding to each of the audio data and the data about the received sound among the data about the sound to be output through the speaker. For example, the electronic device may determine which of the sounds corresponding to the audio data and the sound corresponding to the received sound is louder.
  • the electronic device outputs only a sound corresponding to the audio data, outputs only a sound corresponding to the sound received through the microphone, or randomly selects a sound corresponding to the audio data and a sound received through the microphone. You can output the mixture at the ratio of.
  • the electronic device may check the set output intensity or mixing ratio for the audio data and the sound received through the microphone, respectively.
  • the electronic device may receive audio data from an external device.
  • the electronic device may receive an audio signal from an external device.
  • the electronic device may receive audio data from a smart TV or an audio device using wireless communication.
  • the electronic device when audio data is received from an external device, the electronic device may output a sound corresponding to the audio data through a speaker. For example, the electronic device may output a sound corresponding to the received audio data based on the output gain checked in operation 1110.
  • the electronic device may receive a sound from the outside through the microphone.
  • the electronic device may receive a sound from the outside of the electronic device (ie, a speaker other than the user).
  • the electronic device may at least temporarily store data regarding sound received from the outside in a memory.
  • the data may be stored by converting the received sound into digital data.
  • the electronic device may include a converter for converting a received sound (ie, an analog signal) into a digital signal.
  • the electronic device may output a sound corresponding to the sound received through the microphone through the speaker.
  • the electronic device may output a sound corresponding to the received sound based on the output gain checked in operation 1110.
  • the electronic device may recognize a direction in which the sound is received. For example, the electronic device may extract information about a direction in which the sound is received from data about the received sound. For example, the electronic device may receive sound through one or more microphones. The electronic device may analyze the sound input through the plurality of microphones and recognize the direction in which the sound is received.
  • the electronic device may determine whether the direction of receiving the sound is toward the external device. According to an embodiment, the electronic device may recognize the location or direction of the external device based on a signal received from the external device. For example, the electronic device may recognize the direction of the external device based on audio data received from the external device or a separate wireless signal. According to an embodiment of the present disclosure, the electronic device may receive a sound output through a speaker of the external device and recognize the direction of the external device based on the received sound. The electronic device may compare the direction of the recognized external device with the direction in which the sound is received.
  • the electronic device may increase an output gain of the received sound.
  • an electronic device eg, an auditory device
  • the electronic device corresponds to an audio signal received from an external device (eg, a TV or an audio device)
  • the user may be able to hear the sounds of the speakers around him.
  • the received sound may be different from audio data (or a sound output by the external device through the speaker) received from the external device.
  • the electronic device may increase the output gain of the received sound. For example, the electronic device may increase an output volume of a sound corresponding to the received sound. For example, the electronic device may increase a relative output intensity of a sound corresponding to the received sound by adjusting a mixing ratio of the received audio data and the received sound. For example, the electronic device may adjust a filter value applied to data of sound to be output through the speaker.
  • the electronic device may decrease an output gain of the received sound.
  • the electronic device when receiving audio data, the electronic device may set a low output intensity of a sound received through a microphone. For example, when the electronic device receives audio data from the TV, the user of the electronic device may be watching the TV. Therefore, the electronic device may output audio data received from the TV through wireless communication through the speaker. The electronic device may not output a sound corresponding to a sound received through a microphone in order to prevent a user who is watching a TV from hearing ambient noise or noise. For example, the audio data received from the TV and the sound output through the TV speaker may be the same.
  • the electronic device When the electronic device outputs the audio data received from the TV and the sound corresponding to the ambient sound received through the microphone (that is, the sound output from the TV speaker) together, the sound corresponding to the audio data and the sound received through the microphone Sounds corresponding to the interference may interfere with each other, causing an echo phenomenon. Therefore, when the electronic device receives audio data from an external device, the electronic device may not output a sound corresponding to the sound received through the microphone or output the sound at a small volume.
  • the electronic device may execute all or part of the operations illustrated in FIG. 11 in a different order.
  • the electronic device may perform an operation of checking an output gain of 1110 after receiving audio data and sounds of 1120 and 1130.
  • the electronic device adjusts the mixing ratio of the sound output through the speaker according to the receiving direction of the sound received through the microphone, thereby allowing the user to receive audio data received from the external device according to the surrounding situation. While listening to sounds without echo or noise, it is possible to listen to the ambient sounds (for example, the voice of another speaker, etc.) received through the microphone regardless of the external device.
  • the ambient sounds for example, the voice of another speaker, etc.
  • FIG. 12 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • the electronic device may check an output gain of each of the audio data received from the external device and the sound received through the microphone. For example, the electronic device may identify a gain for amplifying the received audio data and the received sound in order to output the sound corresponding to each of the received audio data and the received sound through the speaker. For example, the electronic device may check the mixing ratio of the received audio data and the sound received through the microphone. For example, the electronic device may check the output intensity corresponding to each of the audio data and the data about the received sound among the data about the sound to be output through the speaker. The electronic device may check the set output intensity or mixing ratio for the audio data and the sound received through the microphone, respectively.
  • the electronic device may receive audio data from an external device.
  • the electronic device may output a sound corresponding to the audio data through a speaker.
  • the electronic device may receive a sound from the outside through the microphone.
  • the electronic device may at least temporarily store data regarding sound received from the outside in a memory.
  • the electronic device may output a sound corresponding to the sound received through the microphone through the speaker.
  • the electronic device may compare the received audio data with data about the received sound.
  • the electronic device may convert the sound received through the microphone into data having a format (format) corresponding to the audio data in order to compare the received audio data.
  • the external electronic device may transmit audio data to the electronic device and output sound corresponding to the audio data through the speaker of the external electronic device.
  • the electronic device may wirelessly receive audio data from an external electronic device and receive a sound corresponding to audio data output from the external electronic device through a microphone.
  • the electronic device may simultaneously receive audio data and sound corresponding to each other.
  • the electronic device may compare audio data received from an external electronic device with data converted from a sound received through a microphone.
  • the electronic device may determine whether the audio data and the data about the received sound are similar. For example, the electronic device may determine a similarity between the received audio data and the data about the sound. For example, the electronic device may determine whether the occasional audio data and the data about the received sound correspond to each other. For example, the electronic device may determine whether the received audio data and the data about the received sound are for the same audio information.
  • the electronic device may increase an output gain of the received sound. For example, the electronic device may increase the output gain of the received sound when the similarity between the audio data and the data for the received sound is less than a preset value.
  • an electronic device for example, an auditory device
  • the electronic device may transmit an external sound to the user (for example, a speaker other than the user). Voice, etc.).
  • the electronic device may increase an output volume of a sound corresponding to the received sound. For example, the electronic device may increase a relative output intensity of a sound corresponding to the received sound by adjusting a mixing ratio of the received audio data and the received sound.
  • the electronic device may reduce an output gain of the received sound. For example, the electronic device may reduce the output gain of the received sound when the similarity between the audio data and the data for the received sound is equal to or greater than a preset value.
  • the audio data received from the TV and the sound output through the TV speaker may be the same.
  • the electronic device outputs the audio data received from the TV and the sound corresponding to the ambient sound received through the microphone (that is, the sound output from the TV speaker) together, the sound corresponding to the audio data and the sound received through the microphone Sounds corresponding to the interference may interfere with each other, causing an echo phenomenon. Therefore, when the electronic device receives audio data from an external device, the electronic device may not output a sound corresponding to the sound received through the microphone or output the sound at a small volume.
  • the electronic device may execute all or part of the operations illustrated in FIG. 12 in a different order.
  • the electronic device may perform an operation of checking an output gain of 1210 after receiving audio data and sounds of 1220 and 1230.
  • the sound for the received audio data is echoed by adjusting the mixing ratio of the sound output through the speaker according to the similarity between the audio data received from the external device and the sound received through the microphone. Or while listening without noise, it is possible to listen to the ambient sound (for example, the sound except the sound output by the external device) received through the microphone regardless of the external device.
  • FIG. 13 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • the electronic device may receive audio data from an external electronic device.
  • the electronic device for example, the hearing device
  • the electronic device may receive a sound from the outside through the microphone.
  • the electronic device may simultaneously receive sound from the outside through a microphone while receiving audio data from the external electronic device.
  • the electronic device may at least temporarily store data about the received sound.
  • the electronic device may extract information about a direction in which the sound is received from data about the received sound. For example, the electronic device may recognize a direction in which sound is received using at least one microphone. The electronic device may extract and store or confirm only information on a direction in which the sound is received from data about the sound.
  • the electronic device may process data about the sound output through the speaker based on the information on the direction in which the sound is received. For example, the electronic device may adjust the mixing ratio of the sound output based on the information on the direction in which the sound is received. For example, the electronic device may adjust a volume mixing ratio of the data corresponding to the audio data received from the external device and the data corresponding to the sound received through the microphone among data on the output sound. For example, when the direction in which the sound is received corresponds to preset reference direction information, the electronic device may reduce the relative output intensity (or output gain) of data corresponding to the received sound.
  • the electronic device may increase a relative output intensity (or output gain) of data corresponding to the received sound.
  • the electronic device may differently set an output intensity of a sound output through the speaker in response to the received sound according to the receiving direction of the sound received through the microphone.
  • the electronic device processes data on a sound output through a speaker according to a receiving direction of a sound received through a microphone, thereby receiving audio data and a microphone received from an external device according to a situation.
  • the relative output intensity of each sound corresponding to the data about the received sound can be adjusted through the control.
  • FIG. 14 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 1410 may wirelessly receive the audio data 1421 from the external electronic device 1420.
  • the electronic device 1410 may receive a signal 1421 including audio data from an external electronic device 1420 (eg, a smart TV or a smart sound device) using a known wireless communication method. have.
  • the electronic device 1410 may receive sounds 1423 and 1435 from the outside using a microphone while receiving the audio data 1421.
  • the electronic device 1410 may receive a sound 1423 that the external electronic device 1420 outputs through the speaker of the external electronic device 1420.
  • the electronic device 1410 may receive ambient sounds (eg, a voice 1435 spoken by another speaker 1430).
  • the electronic device 1410 may process data about a sound to be output through the speaker according to a reception direction of the sounds 1423 and 1435 received through the microphone. For example, the electronic device 1410 may amplify data related to the sounds 1423 and 1435 received through the microphone to different amplification values according to the reception direction, and output the same through the speaker. For example, the electronic device 1410 may output the sound for the audio data 1421 received from the external electronic device 1420 and the data for the sounds 1423 and 1435 received through the microphone, among the data for the sound to be output. You can adjust the relative output strength of the data corresponding to.
  • the electronic device 1410 may determine whether the received directions of the sounds 1423 and 1435 through the microphone are in a preset direction (or within a preset range).
  • the output gain can be set differently.
  • the electronic device 1410 sets the amplification value for the sound 1423 received from the direction of the external electronic device 1420 (for example, the R1 region) to a small value, and the external electronic device 1420
  • the amplification value for the sound 1435 received from the other direction eg, the R2 region
  • the electronic device 1410 may set reference direction information. For example, the electronic device 1410 may set a specific direction or a specific range as reference direction information based on the electronic device 1410. The electronic device may set a predetermined range R1 in the direction of the external electronic device 1420 or in the direction of the external electronic device 1420 as reference direction information. According to an embodiment, the electronic device 1410 may refer to reference direction information according to a result of comparing audio data 1421 received from the external electronic device 1420 with data about sounds 1423 and 1435 received through a microphone. Can be set. For example, the electronic device 1410 may determine the similarity between the audio data 1421 and the data about the sounds 1423 and 1435 received through the microphone.
  • the electronic device 1410 may convert sounds 1423 and 1435 received through the microphone into data of the same type as the audio data 1421 received from the external electronic device 1420.
  • the electronic device 1410 may convert sounds 1423 and 1435 received through the microphone into digital data (digital signals).
  • the electronic device 1410 may have a range in which the similarity between the data of the audio data 1421 and the sounds 1423 and 1435 received through the microphone is equal to or greater than a preset value (that is, the data received through the audio data 1421 and the microphone).
  • the range in which data for the sounds 1423 and 1435 are determined to be the same or similar may be set as reference direction information (for example, an R1 region).
  • the electronic device 1410 determines a receiving direction of the sounds 1423 and 1435 received through the microphone, and receives the received signal through the microphone output through the speaker according to whether the receiving direction of the sound corresponds to the reference direction information R1.
  • the output strength of the sounds 1423 and 1435 can be adjusted. For example, when the receiving direction of the sound corresponds to the reference direction information R1, the electronic device 1410 may reduce the output intensity of the sound 1423 received through the microphone. If the reception direction of the sound is different from the reference direction information R1, the electronic device 1410 may increase the output intensity of the sound 1435 received through the microphone.
  • the external electronic device 1420 The transmitted signal (audio data) 1421 and the sound 1423 output by the external electronic device 1420 may include the same audio information.
  • the electronic device 1410 when the electronic device 1410 outputs the audio data 1421 and the sound 1423 corresponding to the sound 1423 received from the external electronic device 1420 together through the speaker, an echo phenomenon may occur or synchronization with each other may occur. It may be difficult to provide accurate audio information to the user. Therefore, when the electronic device 1410 receives the audio data 1421 from the external electronic device 1420, the electronic device 1410 may not output a sound corresponding to the sound 1423 received in the direction of the external electronic device 1420, or may be small. Can print in size.
  • the electronic device 1410 may output a sound corresponding to the sound 1435 received in a direction different from that of the external electronic device 1420 at a relatively large volume.
  • the electronic device 1410 may include a sound corresponding to the sound 1435 received from a direction different from the external electronic device 1420 and a sound corresponding to the audio data 1421 received from the external electronic device 1420. You can output the same or larger volume.
  • the electronic device 1410 may set a preset direction or region R1 according to the direction of the external electronic device 1420. For example, the electronic device 1410 may recognize the location of the external electronic device 1420 based on a signal (for example, audio data 1421, etc.) received from the external electronic device 1420. When the electronic device 1410 determines the location of the external electronic device 1420, the electronic device 1410 may set a predetermined area R1 including the direction of the external electronic device 1420 or the location of the external electronic device 1420. The electronic device 1410 may set a low output gain for the sound received from the set direction or area.
  • a signal for example, audio data 1421, etc.
  • the electronic device 1410 may determine a specific direction or a specific area according to a result of comparing the audio data 1421 received from the external electronic device 1420 and the sounds 1423 and 1435 received through the microphone. Can be set. For example, the electronic device 1410 may convert the received sounds 1423 and 1435 into data having the same format as the audio data 1421. The electronic device 1410 may determine a similarity between data of the received audio data 1421 and the received sounds 1423 and 1435. The electronic device 1410 determines whether a similarity (eg, a similar ratio of data) between the received audio data 1421 and the received sounds 1423 and 1435 is greater than or equal to a preset value. can do.
  • a similarity eg, a similar ratio of data
  • the electronic device 1410 may designate a predetermined area R1 including a direction in which the sound is received or a direction in which the sound is received. Can be set with For example, when the audio data 1421 and the received sound 1435 are different from each other, the electronic device 1410 may set or distinguish it as an area R2 separate from the set direction or area.
  • the electronic device 1410 may output an output gain of the received sounds 1423 and 1435 according to whether the reception direction of the sounds 1423 and 1435 received through the microphone is a preset direction or the region R1. Can be set differently.
  • the electronic device 1410 may change the volume of the sound output through the speaker whether the reception direction of the sounds 1423 and 1435 received through the microphone is a preset direction or the region R1. have.
  • 15 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 1510 may be worn by the user 1501 as a wearable device.
  • the electronic device 1510 eg, the hearing device
  • the electronic device 1510 may include a housing including a portion configured to be detachable to a portion of the ear of the user 1501.
  • the electronic device 1510 may wirelessly receive audio data from the first external device 1520 (for example, a smart TV).
  • the electronic device 1510 may receive sounds 1523 and 1535 from the outside using a microphone while receiving audio data from the first external device 1520.
  • the electronic device 1510 may receive a sound 1523 output by the first external electronic device 1510.
  • the electronic device 1510 may receive a voice 1535 spoken by another speaker 1530.
  • the electronic device 1510 may output a sound corresponding to each of audio data 1521 received from the first external device 1520 and sounds 1523 and 1535 received from the outside of the electronic device 1510. You can output through the speaker.
  • the electronic device 1510 may process data about a sound to be output through the speaker to adjust a volume mixing ratio for the audio data 1521 and the sound 1523. 1535 received through the microphone. .
  • the electronic device 1510 may output the sound corresponding to the sound 1523. 1535 received through the microphone to the same volume, the relatively large volume, or the relatively small volume with respect to the sound corresponding to the audio data 1521. You can output
  • the electronic device 1510 may adjust the volume mixing ratio of the sound to be output through the speaker according to the similarity (or correlation) between the audio data 1521 and the sounds 1523 and 1535 received through the microphone. I can adjust it. For example, when the similarity or correlation between the audio data 1521 and the received sound 1523 is higher than or equal to a preset criterion (for example, the sounds 1523 and 1535 received through the microphone). ), When the energy of the sound 1523 output by the first external electronic device 1520 is greater than or equal to a certain ratio, the relative output intensity of the sound corresponding to the sounds 1523 and 1535 received through the microphone may be reduced. have.
  • the similarity or correlation between the audio data 1521 and the received sound 1523 is less than a preset criterion (for example, through the microphone, the electronic device 1510 of the first external electronic device 1520).
  • a preset criterion for example, through the microphone, the electronic device 1510 of the first external electronic device 1520.
  • the ambient sound 1535 is received or when the sound 1523 output by the first external electronic device 1520 and the ambient sound 1535 are received together, the ambient sound 1535 is received from the received sounds 1523 and 1535.
  • the energy of the ratio is greater than or equal to a certain ratio
  • the relative output intensity of the sound corresponding to the sounds 1523 and 1535 received through the microphone may be increased.
  • the audio data 1521 transmitted by the first external electronic device 1520 and the sound 1523 output by the first external electronic device 1520 through the speaker may correspond to the same sound.
  • the audio data 1521 received by the electronic device 1510 and the microphone may be used.
  • the similarity of the data with respect to the received sounds 1523 and 1535 may be relatively higher.
  • the audio data 1521 received by the electronic device 1510 and the microphone may be used.
  • the similarity of the data with respect to the received sounds 1523 and 1535 may be relatively lower.
  • the electronic device 1510 may output sound corresponding to each of the audio data 1521 and the received sounds 1523 and 1535 through the speaker.
  • the electronic device 1510 sets a relative output intensity of the sound corresponding to the audio data 1521 to a higher value.
  • the relative output intensity of the sound corresponding to the received sounds 1523 and 1535 may be set higher.
  • the electronic device 1510 is interlocked with the second external device 1540 (for example, the portable terminal) to allow the second external device 1540 to display the set volume mixing ratio on the display.
  • the second external device 1540 may display a mixing ratio of sounds output by the electronic device 1510 based on a signal or data received from the electronic device 1510.
  • the electronic device 1510 may reduce an output gain for the sound 1523. 1535 received through the microphone.
  • the electronic device 1510 may receive audio data 1521 from the smart TV.
  • the electronic device 1510 blocks external noise or noise while the user 1501 is watching TV, and outputs audio data 1521 transmitted by the first external device 1520 and the first external device 1520.
  • the output gain of the sound 1523. 1535 received through the microphone may be reduced to eliminate an echo phenomenon due to the overlap of the sounds 1523.
  • the electronic device 1510 may output only a sound corresponding to the audio data 1521 so that the user 1501 can hear only a sound corresponding to the audio data 1521 received from the smart TV.
  • the electronic device 1510 may set the output volume of the data for the sound 1523. 1535 received through the microphone to 0 or lower the size of the data for the sound output through the speaker.
  • the electronic device 1510 may detect a direction of the sound 1523. 1535 received from the outside.
  • the electronic device 1510 may set an output volume differently according to a reception direction of the sound 1523. 1535 received through the microphone.
  • the electronic device 1510 sets the output volume of the sound 1523 received in the direction of the first external electronic device 1510 to be relatively low, and receives it in a direction different from that of the first external electronic device 1510.
  • the output volume for the sound 1535 may be set high.
  • the electronic device 1510 may adjust a volume mixing ratio of sound output through the speaker based on the signal or data received from the second external device 1540. For example, when the second external device 1540 receives an input for adjusting a volume mixing ratio from the user 1501, the electronic device 1510 may receive input from the second external device 1540 to the user 1501. The corresponding signal or data may be received, and the volume mixing ratio may be changed based on the received signal or data.
  • 16 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 1610 may receive audio data wirelessly from the external device 1620 (eg, a smart TV).
  • the electronic device 1610 may receive sounds 1623 and 1635 from the outside using a microphone while receiving audio data from the external device 1620.
  • the electronic device 1610 may include a speaker corresponding to audio data 1621 received from the external device 1620 and sounds 1623 and 1635 received from the outside of the electronic device 1610. Can be output through
  • the electronic device 1610 may process data about a sound to be output through the speaker and adjust a volume mixing ratio for the audio data 1621 and the sound 1623. 1635 received through the microphone. .
  • the electronic device 1610 may transmit a sound corresponding to the sound 1641. 1635 received through the microphone to the same volume, a relatively large volume, or a relatively small volume with respect to the sound corresponding to the audio data 1621. You can output
  • the electronic device 1610 may reduce an output gain for the sound 1723. 1635 received through the microphone. For example, the electronic device 1610 may set the output volume of the data for the sound 1623. 1635 received through the microphone to 0 or to a lower size among the data for the sound output through the speaker.
  • the electronic device 1610 may receive a sound having a predetermined level or more from the outside through a microphone, or may receive a signal from a wireless signal (for example, the external electronic device 1620) received for a predetermined time or more.
  • a sound different from the one audio data 1621 is received, an output volume of a sound corresponding to the sounds 1623 and 1635 received through the microphone may be increased.
  • the user 1601 may hear the ambient sound (for example, the speaker ( 1630), the volume set value of the sound received through the microphone (voice 1635 of the speaker 1630) may be increased and output.
  • the electronic device 1610 determines the similarity between the received audio data 1521 and the sounds 1623 and 1635 received through the microphone, and the audio data 1621 and the received sounds 1623 and 1635 are determined.
  • the volume of the sounds 1623 and 1635 received through the microphone in a different case, that is, when a surrounding sound (for example, the voice 1635 of the speaker 1630 near the outside) is received that is not related to the external electronic device 1620. You can increase the setting value.
  • the electronic device 1610 may process data about a sound to be output through the speaker according to a reception direction of the sounds 1623 and 1635 received through the microphone. For example, the electronic device 1610 may amplify data related to the sounds 1623 and 1635 received through the microphone into different amplification values according to the reception direction, and output the same through the speaker. For example, the electronic device 1610 may output the sound for the audio data 1621 received from the external electronic device 1620 and the data for the sounds 1623 and 1635 received through the microphone, among the data for the sound to be output. You can adjust the relative output strength of the data corresponding to.
  • the electronic device 1610 may receive the received sounds 1623 and 1635 according to whether the reception direction of the sounds 1623 and 1635 received through the microphone is a preset direction (or within a preset range).
  • the output gain can be set differently.
  • the electronic device 1610 may set an amplification value for the sound 1623 received from the direction of the external electronic device 1620 (for example, a predetermined area in the direction of the external electronic device 1620) to a small value.
  • the amplification value for the sound 1635 received from a direction different from the external electronic device 1620 may be set to a large value.
  • the electronic device 1610 may set reference direction information. For example, the electronic device 1610 may set a specific direction or a specific range as reference direction information based on the electronic device 1610. The electronic device may set a predetermined range of the direction of the external electronic device 1620 or the direction of the external electronic device 1620 as reference direction information. According to an embodiment, the electronic device 1610 may refer to reference direction information based on a result of comparing audio data 1621 received from the external electronic device 1620 with data about sounds 1623 and 1635 received through the microphone. Can be set. For example, the electronic device 1610 may determine the similarity between the data of the audio data 1621 and the data 1623 and 1635 received through the microphone.
  • the electronic device 1610 may set, as reference direction information, a range in which the similarity between the data of the audio data 1621 and the sound 1623 and 1635 received through the microphone is equal to or greater than a preset value.
  • the electronic device 1610 determines the receiving direction of the sounds 1623 and 1635 received through the microphone, and the sound 1623 received through the microphone output through the speaker according to whether the receiving direction of the sound corresponds to the reference direction information. , 1635). For example, when the reception direction of the sound corresponds to the reference direction information, the electronic device 1610 may reduce the output intensity of the sound 1623 received through the microphone. When the reception direction of the sound is different from the reference direction information, the electronic device 1610 may increase the output intensity of the sound 1635 received through the microphone.
  • the signal (audio data) 1621 transmitted by the external electronic device 1620 and the sound 1623 output by the external electronic device 1620 may include the same audio information.
  • the electronic device 1610 receives the audio data 1621 from the external electronic device 1620, the electronic device 1610 does not output a sound corresponding to the sound 1623 received in the direction of the external electronic device 1620, or has a small size.
  • the electronic device 1610 may output a sound corresponding to the sound 1635 received in a direction different from the external electronic device 1620 at a relatively large volume.
  • the electronic device 1610 may include a sound corresponding to the sound 1635 received in a direction different from the external electronic device 1620 and a sound corresponding to the audio data 1621 received from the external electronic device 1620. You can output the same or larger volume.
  • the electronic device 1610 may set a preset direction or area according to the direction of the external electronic device 1620. For example, the electronic device 1610 may recognize the location of the external electronic device 1620 based on a signal received from the external electronic device 1620 (eg, the audio data 1641). When the electronic device 1610 determines the location of the external electronic device 1620, the electronic device 1610 may set a predetermined area including the direction of the external electronic device 1620 or the location of the external electronic device 1620. The electronic device 1610 may set a low output gain for the sound received from the set direction or area.
  • the electronic device 1610 may determine a specific direction or a specific area according to a result of comparing the audio data 1621 received from the external electronic device 1620 and the sounds 1623 and 1635 received through the microphone. Can be set. For example, the electronic device 1610 may convert the received sounds 1623 and 1635 into data having the same format as the audio data 1621. The electronic device 1610 may determine a similarity between data of the received audio data 1621 and the received sounds 1623 and 1635. The electronic device 1610 determines whether a similarity (eg, a similar ratio of data) between the received audio data 1621 and the received sounds 1623 and 1635 is equal to or greater than a preset value. can do.
  • a similarity eg, a similar ratio of data
  • the electronic device 1610 may set a predetermined area including a direction in which the sound is received or a direction in which the sound is received as a specified direction or area. have.
  • the electronic device 1610 may set or distinguish a separate area from the set direction or area.
  • the electronic device 1610 may output an output gain of the received sounds 1623 and 1635 according to whether the reception direction of the sounds 1623 and 1635 received through the microphone is a preset direction or the region R1. Can be set differently.
  • the electronic device 1610 may change the volume of the sound output through the speaker whether the reception direction of the sounds 1623 and 1635 received through the microphone is a preset direction or the region R1. have.
  • the electronic device 1610 may set the directionality of the microphone in a specific direction while outputting sound corresponding to the audio data 1621 received from the external device 1620.
  • the electronic device 1610 receives a sound having a predetermined level or more from the outside through a microphone or a radio signal received from a wireless signal (for example, the external electronic device 1620) received for a predetermined time or more.
  • the directionality may be set with respect to the direction in which the sound is received.
  • the electronic device 1610 may receive sound through a plurality of microphones. The electronic device 1610 may recognize the direction of the received sound by using a difference in time at which the sound is received by the plurality of microphones.
  • the electronic device 1610 may determine a direction in which the sound is received by analyzing a difference in time at which the same sound is received through each of the plurality of microphones. According to an embodiment of the present disclosure, after confirming the direction in which the sound is received, the electronic device 1610 may set the direction in the direction in which the sound is received using a plurality of microphones.
  • the electronic device 1610 may increase an output volume of a sound corresponding to the sound 1635 received from the set direction. For example, while the electronic device 1610 outputs only a sound corresponding to the audio data 1621 received from the external device 1620, the electronic device 1610 detects a sound 1635 received from the outside for a predetermined level or a predetermined time. In this case, beamforming may be set in the direction of the received sound 1635. For example, when the electronic device 1610 detects a sound 1635 received from the outside for a predetermined level or a predetermined time or more, an output volume for a sound received from the same direction as the direction in which the sound 1635 is received. Can be increased.
  • the electronic device 1610 may receive the sound from the outside in the same direction as that of the external device 1620 even when a sound having a predetermined level (intensity) or more is received from the outside or the sound is received in the same direction for a preset time or more. Receiving sound 1623 may not increase the output volume.
  • 17 is a diagram illustrating an operation of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 1710 may receive audio data wirelessly from the first external device 1720 (eg, a smart TV).
  • the electronic device 1710 may receive sounds 1723 and 1735 from the outside using a microphone while receiving audio data from the first external device 1720.
  • the electronic device 1710 may output a sound corresponding to each of audio data 1721 received from the first external device 1720 and sounds 1723 and 1735 received from the outside of the electronic device 1710. You can output through the speaker.
  • the electronic device 1710 may process data about a sound to be output through the speaker to adjust a volume mixing ratio for the audio data 1721 and the sound 1723. 1735 received through the microphone. .
  • the electronic device 1710 is interlocked with the second external device 1740 (for example, the portable terminal) to allow the second external device 1740 to display the set volume mixing ratio on the display. Can be.
  • the second external device 1740 for example, the portable terminal
  • the electronic device 1710 may detect a direction of the sound 1723. 1735 received from the outside. According to an embodiment of the present disclosure, the electronic device 1710 may determine whether the received sounds 1723 and 1735 are sounds received from the direction of the first external device 1720. For example, the electronic device 1710 may determine the similarity between the audio data 1721 received from the first external device 1720 and the sound received through the microphone. For example, if the similarity between the audio data 1721 and the sound 1723 received through the microphone is equal to or greater than a preset reference value, the electronic device 1710 may receive the received sound 1723 from the direction of the first external device 1720. It may be determined that it has been received.
  • the electronic device 1710 may have a similarity between the audio data 1721 and the sound received through the microphone, that is less than a preset reference value (that is, when the surrounding sound 1635 is received through the microphone), the electronic device 1710 may have a first value. It may be determined that sound is received from a direction different from the external device 1720.
  • the electronic device 1710 when the electronic device 1710 receives a sound (eg, a voice 1735 of another speaker 1730) from a direction different from the position of the first external device 1720, the electronic device 1710 receives a notification. You can print For example, the electronic device 1710 may output a warning sound or generate vibration through a speaker. For example, when the electronic device 1710 receives a sound 1735 from a direction different from that of the first external device 1720, the electronic device 1710 receives a sound different from the audio data 1721 received from the first external device. Hearing or tactile reminders.
  • a sound eg, a voice 1735 of another speaker 1730
  • the electronic device 1710 may compare audio data received from the first external device 1720 with data about sounds 1721 and 1735 received through the microphone.
  • the electronic device 1710 may output a notification when the data about the audio data 1721 and the sounds 1721 and 1735 received through the microphone are different from each other. For example, if the similarity between the data of the audio data 1721 and the sounds 1721 and 1735 received through the microphone is less than a preset value, the electronic device may output a notification.
  • the electronic device 1710 receives the sound 1723 output by the second external electronic device 1720, the similarity between the data of the audio data 1721 and the received sound 1723 is already measured. It may be determined that the value is greater than the set value, and the notification may not be output.
  • the electronic device 1710 When the electronic device 1710 receives the surrounding sound (for example, the voice 1735 of the other speaker 1730), the similarity between the data of the audio data 1721 and the received sound 1723 is obtained. It may be determined that the value is less than the preset value, and a notification may be output. For example, the electronic device 1710 may output a warning sound or generate vibration through a speaker.
  • the surrounding sound for example, the voice 1735 of the other speaker 1730
  • the electronic device 1710 may output a signal or a command for the external devices 1720 and 1740 to output the notification. 1740.
  • the electronic device 1710 may send a command to the first external device 1720 to cause the first external device (eg, a smart TV, etc.) 1720 to display a notification message 1725 on at least a portion of the display. Can be sent to.
  • the first external device 1720 may display a notification message 1725 on the display in response to the signal received from the electronic device 1710.
  • the electronic device 1710 may cause the second external device (eg, portable terminal, etc.) 1740 to display the notification message 1747 on at least a portion of the display or the second external device 1740. May transmit a command for generating vibration to the second external device 1740.
  • the second external device 1740 may display a notification message 1747 on the display or generate a vibration in response to the signal received from the electronic device 1710.
  • FIG. 18 is a flowchart illustrating an operation control method of an electronic device according to various embodiments of the present disclosure.
  • the electronic device may receive audio data from an external device.
  • the electronic device may receive content from an external device (for example, a smart TV or an audio device).
  • the electronic device may receive a sound from the outside through the microphone.
  • the electronic device may receive sound through a microphone while receiving audio data from an external device.
  • the electronic device may at least temporarily store data about the received sound.
  • the electronic device may store the received information on the direction in which the sound is received, together with the data.
  • the electronic device may convert and store the received sound into data having the same format as the audio data.
  • the electronic device may compare audio data and data about the received sound. For example, the electronic device may determine the similarity between the audio data and the data about the received sound.
  • the electronic device may set reference direction information according to the similarity between the audio data and the data regarding sound. For example, the electronic device may set a specific direction or a specific range as reference direction information according to the similarity between the audio data and the data regarding sound. For example, when the similarity between the audio data and the data regarding the sound is equal to or greater than a preset value, the electronic device may set a predetermined range including the direction in which the sound is received or the direction in which the sound is received as reference direction information. The electronic device may set a predetermined range including the direction in which the sound is received or the direction in which the sound is received to be excluded from the reference direction information when the degree of similarity between the audio data and the data regarding the sound is less than the similarity.
  • the reference direction information may be information that designates a specific direction or a specific range (for example, a range within a specific angle based on the electronic device) based on the electronic device.
  • the electronic device may set, as reference direction information, a range in which sounds having a similarity or more than a predetermined value are received based on the similarity between the data about the sound received in each direction and the audio data.
  • the electronic device may detect a change or movement of a state or posture of the electronic device. For example, the electronic device may detect a change or movement of a state or posture of the electronic device using a sensor. When the electronic device detects a change or movement of the state or posture of the electronic device, the electronic device may perform operation 1830. When the electronic device detects a change or movement of the state or posture of the electronic device, the electronic device may perform operation 1835.
  • the electronic device may change reference direction information. For example, when the reference direction information is set to the front direction or a partial front range of the electronic device, the electronic device may change the reference direction information to the left direction of the electronic device as the electronic device rotates to the right direction.
  • the electronic device for example, the hearing device
  • the electronic device sets the front direction in which the external electronic device is located as reference direction information
  • the direction of the electronic device may change according to the movement of the user wearing the electronic device. have.
  • the electronic device in order to maintain the direction in which the external electronic device is located as the reference direction information, the electronic device may change the reference direction information corresponding to the changed direction of the electronic device.
  • the electronic device may reset the reference direction information set in the front direction to the left direction.
  • the electronic device may receive external sound through the microphone. According to various embodiments of the present disclosure, the electronic device may receive external sound and audio data through the microphone even after setting the reference direction information or while setting the reference direction information.
  • the electronic device may determine whether the direction in which the sound is received is different from the set reference direction information. For example, the electronic device may extract information about a direction in which the sound is received from data about the sound received through the microphone. The electronic device may compare the extracted direction information with the reference direction information. For example, the electronic device may determine whether the direction in which the sound is received coincides with the direction of the reference direction information or is within a range included in the reference direction information.
  • the electronic device may decrease the output intensity relative to the sound received through the microphone. For example, the electronic device may adjust the volume mixing ratio of the audio data received from the external device and the data corresponding to the sound received through the microphone among data on the sound to be output through the speaker. For example, the electronic device may increase the relative output volume of the sound corresponding to the sound received through the microphone with respect to the audio data.
  • the electronic device may output a notification.
  • the electronic device may output a notification sound or generate vibration.
  • the electronic device may transmit a signal or a command to the external device to display a notification message on the display or to generate vibration.
  • the electronic device may increase an output intensity relative to the sound received through the microphone. For example, the electronic device may adjust the volume mixing ratio of the audio data received from the external device and the data corresponding to the sound received through the microphone among data on the sound to be output through the speaker. For example, the electronic device may decrease the relative output volume of the sound corresponding to the sound received through the microphone with respect to the audio data.
  • the electronic device may detect a user input reception from an external device. For example, when an external device (for example, a portable terminal, etc.) receives an input from a user to change a setting (for example, reference direction information or volume mixing ratio, etc.) of the electronic device, the external device may be electronic. The device may transmit a command or data corresponding to a user input to the electronic device. The electronic device may detect whether a specific signal (for example, a command or data related to a user input) is received from the external device. The electronic device may perform operation 1865 when receiving a user input from an external device, and perform operation 1870 when not receiving a user input from an external device.
  • an external device for example, a portable terminal, etc.
  • the external device may be electronic.
  • the device may transmit a command or data corresponding to a user input to the electronic device.
  • the electronic device may detect whether a
  • the electronic device may adjust an output intensity of audio data or a received sound according to a user input. For example, the electronic device may change the volume mixing ratio for each of the audio data or the received sound among sounds output through the speaker according to a user input.
  • the electronic device corresponds to each of the sound received through the audio data and the microphone through the speaker according to the set volume mixing ratio (for example, the output volume size set for each of the sound received through the audio data and the microphone). Sound can be output.
  • the set volume mixing ratio for example, the output volume size set for each of the sound received through the audio data and the microphone. Sound can be output.
  • the electronic device may operate all or part of operations of the electronic device disclosed in FIG. 18 and the related description in a different order, or may omit some operations.
  • An operation control method of an electronic device may include receiving audio data from an external electronic device, receiving a sound external to the electronic device through at least one microphone, and controlling the at least one microphone. Extracting information on the direction in which the sound is received from data about the sound received through the data; and processing data on the sound output through the speaker based on the information on the direction in which the sound is received. Can be.
  • the electronic autonomous data corresponding to the received audio data or data about the received sound among the data about the sound output through the speaker You can adjust the output intensity of the sound corresponding to.
  • the processing of the data about the output sound may include comparing the information about the direction in which the sound is received with preset reference direction information and the information about the direction with the reference direction information. According to the comparison result, it may include an operation of processing data for the sound to be output.
  • the operation of processing data about the output sound may include determining a similarity between the received audio data and data regarding a sound received through the microphone, and receiving the similarity and the extracted sound. And setting the reference direction information by using the received direction information.
  • the processing of the data about the sound to be output may include determining the similarity between the received audio data and the data about the sound received through the microphone, and when the similarity is greater than or equal to a preset value. And reducing the output intensity of the sound corresponding to the data about the received sound, and increasing the output intensity of the sound corresponding to the data about the received sound when the similarity is less than a preset value. have.
  • the electronic device in the process of processing data about the output sound, when the similarity is less than a preset value, the electronic device outputs a notification using the speaker, or the external electronic device sends a notification message.
  • a command to output the data may be transmitted to the external electronic device.
  • the processing of the data about the output sound may correspond to a sound received from a direction of a range of data about the sound received through the microphone based on the preset direction information. And extracting data and adjusting an output intensity of a sound corresponding to the extracted data.
  • module may refer to a unit that includes one or a combination of two or more of hardware, software, or firmware.
  • a “module” may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” is one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (e.g., modules or functions thereof) or method (e.g., operations) may be, for example, computer-readable storage media in the form of a program module. It can be implemented as a command stored in.
  • a processor e.g, the processor 120
  • the one or more processors may perform a function corresponding to the instruction.
  • the computer-readable storage medium may be the memory 130, for example.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical media (e.g. compact disc read only memory), DVD ( digital versatile discs, magneto-optical media (e.g. floptical disks), hardware devices (e.g. read only memory, random access memory (RAM), or flash memory)
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be various. It can be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
  • Modules or program modules according to various embodiments may include at least one or more of the above components, some may be omitted, or further include other components. Operations performed by modules, program modules, or other components in accordance with various embodiments may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added. And the embodiments disclosed herein are presented for the purpose of explanation and understanding of the disclosed, technical content, and do not limit the scope of the technology described in this document. Accordingly, the scope of this document should be construed as including all changes or various other embodiments based on the technical spirit of this document.

Abstract

본 발명의 일 실시예에 의한 전자 장치는, 외부로부터 소리를 수신하고, 상기 소리가 수신되는 방향을 감지하도록 구성된 적어도 하나의 마이크; 소리를 출력하는 스피커; 외부 전자 장치로부터 오디오 데이터를 수신하는 통신 회로; 상기 적어도 하나의 마이크. 상기 스피커, 상기 통신 회로와 전기적으로 연결된 프로세서; 및 상기 프로세서와 전기적으로 연결된 적어도 하나의 메모리를 포함할 수 있다. 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하고, 상기 소리가 수신된 방향에 대한 정보를 기반으로, 상기 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하도록 하는 인스트럭션(instruction)들을 저장할 수 있다. 이 밖의 다른 실시예가 가능하다.

Description

전자 장치 및 전자 장치의 동작 제어 방법
본 발명의 다양한 실시예는, 외부의 전자 장치로부터 수신하는 오디오 신호 및 외부로부터 획득한 소리를 사용자에게 제공할 수 있는 전자 장치 및 전자 장치의 동작 제어 방법에 관한 것이다.
최근 일상 생활에서 다양한 전자 장치들이 사용되고 있다. 특히, 다양한 전자 장치들이 서로 연동되어 특정 기능을 수행하는 경우가 많아지고 있다. 예를 들어, 사용자는 휴대용 단말기(예를 들어, 핸드폰 또는 태블릿 등), 웨어러블 장치(예를 들어, 스마트 워치, 스마트 밴드 등) 및 외부의 소리를 수신하여 사용자에게 출력하는 전자 장치, 즉, 청각 장치를 함께 가지고 다니며 사용할 수 있다. 예를 들어, 청각 장치는 외부의 전자 장치(예를 들어, 스마트 TV 등)과 연동되어 사용자에게 외부 전자 장치로부터 무선으로 오디오 신호를 수신하여 제공할 수 있다. 청각 장치는 외부 전자 장치로부터 스트리밍 받는 오디오 신호와 외부(예를 들어, 다른 화자)에서 수신되는 소리를 함께 제공할 수 있다. 다만, 외부 전자 장치로부터 수신하는 오디오 신호와 외부에서 직접적으로 획득하는 소리를 제공하는 경우에는, 사용자의 편의에 맞게 오디오 신호 및 획득한 소리의 출력을 제어할 필요가 있다.
본 발명의 다양한 실시예들은, 외부 장치로부터 수신하는 오디오 데이터와 마이크를 통하여 전자 장치 외부로부터 수신하는 소리에 관한 데이터의 출력 세기(예를 들어, 믹싱 비율)을 조정할 수 있는 전자 장치 및 전자 장치의 동작 제어 방법을 제공할 수 있다.
본 발명의 다양한 실시예들은, 외부 장치로부터 오디오 신호 스트리밍 중에 전자 장치의 주변(예를 들어, 주변의 화자)으로부터 수신하는 소리에 관한 데이터를 인식하고, 상황에 적합하게 출력하는 소리의 세기를 조정할 수 있는 전자 장치 및 전자 장치의 동작 제어 방법을 제공할 수 있다.
본 발명의 일 실시예에 따른 전자 장치는, 외부로부터 소리를 수신하고, 상기 소리가 수신되는 방향을 감지하도록 구성된 적어도 하나의 마이크; 소리를 출력하는 스피커; 외부 전자 장치로부터 오디오 데이터를 수신하는 통신 회로; 상기 적어도 하나의 마이크. 상기 스피커, 상기 통신 회로와 전기적으로 연결된 프로세서; 및 상기 프로세서와 전기적으로 연결된 적어도 하나의 메모리를 포함할 수 있다. 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하고, 상기 소리가 수신된 방향에 대한 정보를 기반으로, 상기 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하도록 하는 인스트럭션(instruction)들을 저장할 수 있다.
본 발명의 일 실시예에 따른 전자 장치의 동작 제어 방법은, 외부 전자 장치로부터 오디오 데이터를 수신하는 동작; 적어도 하나의 마이크를 통하여 상기 전자 장치 외부의 소리를 수신하는 동작; 상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하는 동작; 및 상기 소리가 수신된 방향에 대한 정보를 기반으로, 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치 및 전자 장치의 동작 제어 방법에 따르면, 마이크를 통해 수신한 소리 중에서 외부 장치로부터 수신하는 오디오 신호와 유사한 소리의 출력 세기를 제어하여, 사용자가 외부 소음 또는 잡음 없이 수신한 오디오 신호에 대응하는 소리를 청취할 수 있도록 할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치 및 전자 장치의 동작 제어 방법에 따르면, 외부 장치로부터 수시한 오디오 데이터 및 마이크를 통해 수신한 외부의 소리에 대한 믹싱 비율을 조정함으로써, 서로 유사한 오디오 데이터 및 소리로 인하여 발생하는 에코 현상을 방지할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치 및 전자 장치의 동작 제어 방법에 따르면, 외부 장치로부터 수신하는 오디오 데이터와 상이한 주변 소리를 수신하는 경우, 출력하는 소리의 믹싱 비율 또는 전자 장치의 방향성을 제어하여, 사용자가 주변의 필요한 소리를 원활하게 청취 가능하도록 할 수 있다.
도1은 본 발명의 다양한 실시예에서의, 네트워크 환경 내의 전자 장치를 도시한다.
도 2는 본 발명의 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은 본 발명의 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시예에 따른 전자 장치의 사용 예를 도시한다.
도 5는 본 발명의 다양한 실시예에 따른 전자 장치의 블록도를 도시한다.
도 6은 본 발명의 다양한 실시예에 따른 전자 장치 및 외부 전자 장치를 도시한다.
도 7은 본 발명의 다양한 실시예에 따른 전자 장치와 외부 전자 장치의 연동 동작을 설명하기 위한 도면이다.
도 8은 본 발명의 다양한 실시예에 따른 전자 장치 또는 외부 전자 장치에서 사용하는 데이터 포맷을 도시한다.
도 9는 본 발명의 다양한 실시예에 따른 전자 장치 및 외부 전자 장치 사이의 신호 흐름을 나타내는 도면이다.
도 10은 본 발명의 다양한 실시예에 따른 전자 장치 및 복수의 외부 전자 장치들이 통신하는 상황을 설명하기 위한 도면이다.
도 11은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
도 12는 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
도 13은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
도 14는 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
도 15는 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
도 16은 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
도 17은 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
도 18은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
이하, 본 문서의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 청각 장치(auditory device)(예를 들어, 보청기 등)를 포함할 수 있다. 예를 들어, 청각 장치는 사용자의 일부분에 탈착 가능하도록 구성된 부분을 포함하는 하우징을 포함할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(228) 및 RF(radio frequency) 모듈(229)를 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GPS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(touch panel)(252),(디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
일 실시예에 따르면, 전자 장치(201)(예를 들어, 청각 장치)는 도 2에 도시된 구성요소를 중 적어도 일부가 생략된 구조를 가질 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드(download) 가능하다.
커널(320)(예: 커널(141))은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)(예: 미들웨어(143))는 런타임 라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 전자 장치(102, 104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 발명의 다양한 실시예들에 따르면, 이하에서 설명하는 전자 장치, 제1 외부 전자 장치, 제2 외부 전자 장치들은 도 1 내지 도 3에 개시된 전자 장치(101, 201, 310)의 구송요소들 전부 또는 일부를 포함할 수 있다.
도 4는 본 발명의 다양한 실시예에 따른 전자 장치(400)의 사용 예를 도시한다.
전자 장치(400)(예를 들어, 청각 장치(auditory device)는 사용자(401)에게 소리 정보를 제공할 수 있다. 예를 들어, 전자 장치(400)는 사용자(401)가 음악을 듣거나, 전화 통화 또는 대화하는 경우에 주위의 소리 정보를 증폭하여 사용자(401)에게 제공할 수 있다. 전자 장치(400)는 사용자(401)의 신체 일부에 착용되어, 전자 장치(400)의 리시버(예를 들어, 스피커)가 사용자(401)의 귀 인근에서 소리 정보를 제공할 수 있다. 전자 장치(400)는 개인 사용자(401)의 사용 목적에 따라 다양한 형태를 취할 수 있으며, 다양한 기능을 제공할 수 있다. 전자 장치(400)는, 예를 들어, 헤드셋(headset), 헤드폰(headphone), 이어피스(earpiece), 보청기(hearing aids) 또는 소리 증폭기들(personal sound amplification products)를 포함할 수 있다. 예를 들어, 보청기의 경우, behind-the-ear(BTE), receiver-in-canal(RIC), in-the-ear(ITE), in-the-canal(ITC), completely-in-canal(CIC) 등 다양한 종류의 보청기를 포함할 수 있다.
도 5는 본 발명의 다양한 실시예에 따른 전자 장치(500)의 블록도를 도시한다.
일 실시예에 따르면, 전자 장치(500)는 도 1 내지 도 2에 도시된 전자 장치(101,201)와 동일 또는 유사한 구성요소를 가질 수 있다. 예를 들어, 전자 장치(500)는 도 1 내지 도 2에 도시된 전자 장치(101, 201)의 구성요소 중 전부 또는 일부를 포함할 수 있다.
전자 장치(500)는 입력부(510)(예를 들어, 마이크(Mic)), 신호증폭부(521, 525), 신호변환부(531, 535), 제어부(processor)(540), 출력부(550)(예를 들어, 리시버 또는 스피커), 신호송수신부(560), 통신제어부(communication module)(570) 및 저장부(580)를 포함할 수 있다.
전자 장치(500)는 입력부(510)를 통하여 소리 정보를 획득할 수 있다. 예를 들어, 입력부(510)는 전자 장치(500) 주변의 소리를 수신하여 입력 신호를 생성할 수 있다. 일 실시예에 따르면, 입력부(510)는 적어도 하나 이상의 마이크를 포함할 수 있다.
전자 장치(500)는 신호증폭부(521, 525) (예를 들어, 증폭기(AMP))를 더 포함할 수 있다. 신호증폭부(521, 525)는 아날로그 신호를 증폭할 수 있다. 일 실시예에 따르면, 신호증폭부(521, 525)는 입력부(510)를 통해 입력되는 신호를 증폭하는 제1 신호 증폭부(521)(예를 들어, pre-AMP) 및 제어부(540)가 처리한 신호를 증폭하여 출력부로 전달하는 제2 신호 증폭부(525)(예를 들어, power AMP)를 포함할 수 있다.
전자 장치(500)는 유선 또는 무선으로 외부 전자 장치(예를 들어, 모바일 기기, 휴대폰, 태블릿 등) 또는 네트워크와 연결될 수 있다. 예를 들어, 무선 연결의 경우, 전자 장치(500)는 신호송수신부(560)를 통하여 입력 신호를 수신할 수 있다. 일 실시예에 따르면, 신호송수신부(560)는 적어도 하나 이상의 안테나를 포함할 수 있다.
통신제어부(570)는 신호송수신부(560)를 통하여 수신한 입력 신호를 처리(예를 들어, 오디오 필터의 적용 또는 신호 증폭 등)하여 제어부(540)로 전송할 수 있다.
제어부(540)는 입력 신호를 처리(예를 들어, 오디오 필터의 적용, 또는 신호 증폭)하여 출력부를 통하여 소리를 출력할 수 있다. 예를 들어, 제어부(540)는 입력부(510) 또는 통신제어부(570)로부터 수신한 입력 신호를 처리하여 출력부를 통하여 소리를 출력할 수 있다.
일 실시예에 따르면, 제어부(540)는 통신제어부(570) 또는 입력부(510)를 통하여 수신한 입력 신호에 따라 신호 처리(예를 들어, 오디오 필터의 적용 또는 신호 증폭 등) 방식을 다르게 구성할 수 있다. 제어부(540)는 통신제어부(570) 또는 입력부(510)의 입력 신호 유무에 따라 신호 패스(path)(예를 들어, 오디오 신호 패스 또는 소리 신호 패스)를 설정할 수 있다. 예를 들어, 입력부(510)를 통하여 입력 신호가 제어부(540)로 입력되는 경우, 제어부(540)는 입력부(510)의 신호 패스를 출력부로 설정하고 소리를 출력할 수 있다. 예를 들어, 통신제어부(570)를 통해 입력 신호가 제어부(540)로 입력되는 경우, 제어부(540)는 통신제어부(570)의 신호 패스를 출력부로 설정할 수 있다. 예를 들어, 제어부(540)는 입력 신호를 수신하는 방식에 따라 신호 패스를 입력부(510)를 통한 신호 패스에서 통신부를 통한 신호 패스로 전환할 수 있다.
예를 들어, 제어부(540)는 시간 구간별 파워의 크기를 측정하여, 입력부(510)를 통한 입력 신호의 유무를 확인할 수 있다. 일 실시예에 따르면, 제어부(540)는 입력 신호 존재 시, 입력된 신호를 분석하여 수행할 모드를 결정할 수 있다. 예를 들어, 제어부(540)는 입력 신호가 사용자 혹은 사물의 신호인지, 또는 데이터베이스(DB) 상에 등록되어 있는 신호와 유사한 신호인지 판단할 수 있다. 일 실시예에 따르면, 제어부(540)는 입력 신호의 음성 정보에 따라 전자 장치(500)의 모드를 변경할 수 있다. 예를 들어, 입력 신호가 잡음으로 판단된 경우, 전자 장치(500)는 입력 신호(즉, 잡음)을 제거할 수 있다. 예를 들어, 제어부(540)는 입력 신호가 일정 시간 동안 특정 값 이상 발생하지 않으면 전자 장치(500)의 적어도 일부분을 저전력 모드에서 동작시킬 수 있다.
일 실시예에 따르면, 전자 장치(500)는 신호변환부(531, 535)를 포함할 수 있다. 예를 들어, 신호변환부(531, 535)는 입력부(510)를 통해 입력되는 아날로그 신호를 디지털 신호로 변환하는 제1 신호변환부(531)(예를 들어, 아날로그-디지털 컨버터(ADC)) 및 디지털 신호를 출력부를 통하여 출력하는 아날로그 신호로 변환하는 제2 신호변환부(535)(예를 들어, 디지털-아날로그 컨버터(DAC))를 포함할 수 있다.
저장부(memory)(580)는 입력 신호의 종류를 판단하기 위한 정보(예를 들어, 사용자의 목소리 정보, 특정 사물의 소리(신호)에 대한 정보 등)을 저장할 수 있다. 저장부(580)는 전자 장치(500)의 모드 정보, 기능 정보, 청각 파라미터를 저장할 수 있다. 청각 파라미터는, 예를 들면, 전자 장치(500)의 노이즈 감쇄량, 필터값, 통과 주파수, 차단 주파수, 소리 증폭 값, 방향성, 사용자 별 피팅(fitting) 파라미터 등에 대한 정보들을 포함할 수 있다.
저장부(580)는 제어부(540)에 의해 실행되어 전자 장치(500)가 해당 기능을 수행하도록 제어하는 적어도 하나 이상의 명령(instruction)들을 저장할 수 있다.
다양한 실시예들에 따르면, 전자 장치(500)는 도 2에 도시된 전자 장치(201)의 구성요소 전부 또는 일부를 포함할 수 있다. 예를 들어, 전자 장치(500)는 적어도 하나의 센서(예를 들어, 가속도 센서, 자이로 센서, 근접 센서, 심박 센서, 심전도 센서, 맥박 센서 등)을 포함할 수 있다. 예를 들어, 전자 장치(500)는 센서를 이용하여, 사용자의 신체의 상태, 자세, 및/또는 움직임 중 적어도 일부와 관련된 데이터를 획득할 수 있다. 전자 장치(500)는 획득한 데이터 또는 획득한 데이터에서 추출한 정보를 외부 장치에 전송할 수 있다.
도 6은 본 발명의 다양한 실시예에 따른 전자 장치(630) 및 외부 전자 장치(610)를 도시한다.
본 발명의 다양한 실시예들에 따르면, 전자 장치(630) 및 외부 전자 장치(630)는 도 1 내지 도 2에 도시된 전자 장치(101, 201)의 구성요소 중 전부 또는 일부를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(630)(예를 들어, 청각 장치 등)는 외부 전자 장치(610)(예를 들어, 모바일 전자 장치, 휴대폰, 태블릿 등)와 통신할 수 있다. 전자 장치(630)와 외부 전자 장치(610)는 무선(예를 들어, RF(Radio Frequency), NFMI(Near Field Magnetic Induction), BT(Bluetooth), AoBLE(Audio over Bluetooth Low Energy) 등)으로 페어링될 수 있다. 예를 들어, 전자 장치(630)에 연결된 외부 전자 장치(610)가 모바일 단말기인 경우, 전자 장치(630)는 모바일 단말기로부터 음악 재생, 전화 수신, 알람 또는 모바일 단말기의 제1 마이크(6163) 입력 신호 등의 소리 정보를 전송 받을 수 있다.
일 실시예에 따르면, 전자 장치(630)는 외부 전자 장치(610)를 통하여 전자 장치(630)의 설정 상태를 변경할 수 있다. 예를 들어, 전자 장치(630)는 별도의 디스플레이 장치를 포함하지 않을 수 있고, 한정된 입력부(6340)(예를 들어, 버튼 등)를 포함할 수 있다. 예를 들어, 전자 장치(630)는 보청기의 한 종류일 수 있으며, 다수의 필터 모드(예를 들어, Wide Dynamic Range Compression(WDRC)) 볼륨 설정 등을 포함할 수 있다. 예를 들어, 사용자가 전자 장치(630)의 입력부(6340)(예를 들어, 버튼 등)를 통하여 모드 또는 볼륨을 설정하려고 하는 경우, 설정 상태를 확인하거나 또는 사용자가 원하는 모드를 설정하는 데 불편함이 존재할 수 있다. 예를 들어, 전자 장치(630)를 외부 전자 장치(610)와 연계하여 동작시킬 경우, 외부 전자 장치(610)를 통하여 전자 장치(630)의 모드를 용이하게 설정 또는 변경할 수 있다. 예를 들어, 다양한 입력 장치(예를 들어, 터치 키, 버튼 등) 및 디스플레이 장치를 포함하는 모바일 단말기를 이용하는 경우, 모바일 단말기는 사용자에게 전자 장치(630)를 제어할 수 있는 UI를 제공할 수 있고, 사용자는 제공된 UI를 이용하여 쉽게 전자 장치(630)의 설정을 변경할 수 있다. 예를 들어, 전자 장치(630)의 볼륨을 변경하려는 경우, 사용자는 전자 장치(630)를 직접 조작하지 않고 모바일 단말기에 터치 입력을 함으로써 전자 장치(630)의 볼륨을 제어할 수 있다.
일 실시예에 따르면, 전자 장치(630)는 센서부(6320)를 포함할 수 있다. 센서부(6320)는 근접 센서, 가속도 센서, 지자기 센서, 생체 센서 등을 포함할 수 있다. 전자 장치(630)는 센서부(6320)를 통하여 사용자의 전자 장치(630) 착용 유무를 확인할 수 있다. 일 실시예에 따르면, 전자 장치(630)는 사용자의 전자 장치(630) 착용 유무에 따라 전자 장치(630)의 파워 제어 모드를 설정할 수 있다. 예를 들어, 전자 장치(630)가 가속도 센서를 포함하는 경우, 전자 장치(630)는 가속도 센서를 통하여 사용자의 움직임을 감지하고, 특정 움직임이 감지되지 않는 경우 슬립(sleep) 모드로 동작될 수 있다.
일 실시예에 따르면, 전자 장치(630)는 외부 전자 장치(610)(예를 들어, 모바일 전자 장치(휴대폰, 태블릿 등))와 연결되어 원격지의 소리를 사용자에게 선명하게 전달할 수 있다. 전자 장치(630)는 외부 전자 장치(610)에 저장된 음원을 재생할 수 있다. 전자 장치(630)는 수신한 소리 정보를 오디오 파일 또는 텍스트 파일로 변환하여 외부 전자 장치(610)에 저장할 수 있다. 예를 들어, 외부 전자 장치(610)의 제1 마이크(6163)의 신호를 원격 마이크로 설정하는 경우, 전자 장치(630)는 외부 전자 장치(610)의 제1 마이크(6163)의 오디오 신호를 수신할 수 있다. 예를 들어, 외부 전자 장치(610)로부터 수신하는 오디오 신호는 데이터 압축 동작을 거쳐 함축된 데이터일 수 있다. 외부 전자 장치(610)는 무선 통신부(6110)(예를 들어, 안테나 등)를 통하여 데이터를 전자 장치(630)에 전송할 수 있다. 전자 장치(630)는 무선 통신부(6310)(예를 들어, 안테나 등)를 통해 데이터를 수신하고, 데이터 포맷에 포함된 오디오 정보를 분리하여 오디오 정보 해제 동작을 거쳐 제2 스피커(6351)를 통해 출력할 수 있다.
전자 장치(630)는 외부 전자 장치(610)에 저장되어 있는 오디오 신호를 전달 받아 재생할 수 있다. 예를 들어, 외부 전자 장치(610)는 다수의 알림음을 저장하고 있을 수 있다. 예를 들어, 외부 전자 장치(610)는 사용자의 상황, 시스템의 상태, 시간, 메시지 수신 유무, 이메일 수신 여부 등에 따라 청각장치에 각각 다른 알림음을 전달할 수 있다. 전자 장치(630)는 외부 전자 장치(610)로부터 전달 받은 데이터에서 데이터 포맷 내에 포함된 오디오 정보를 분리하고, 오디오 정보 해제 동작을 거쳐 제2 스피커(6351)의 출력으로 재생할 수 있다.
전자 장치(630)는 외부 전자 장치(610)를 이용하여 신호를 녹음할 수 있다. 전자 장치(630)는 외부 전자 장치(610)의 효과적인 사용을 위해 오디오 데이터를 압축하여 저장할 수 있다. 외부 전자 장치(610)는 오디오 신호를 STT(Speech to Text) 기술을 이용하여 텍스트 정보로 변환하여 저장할 수 있다. 예를 들어, 외부 전자 장치(610)는 STT 방식을 이용하여 전자 장치(630)를 통한 대화 내용을 텍스트로 저장할 수 있다. 일 실시예에 따르면, 외부 전자 장치(610)는 대화 내용을 텍스트로 저장할 때 시간 정보, 센서 정보, 또는 위치 정보 등의 다양한 정보를 추가하여 저장할 수 있다. 외부 전자 장치(610)는 저장된 대화 내용을 디스플레이부에 표시할 수 있다. 일 실시예에 따르면, 외부 전자 장치(610)는 TTS(Text to Speech) 기술을 이용하여 텍스트 정보를 오디오 신호로 변경하여 전자 장치(630)에 전송할 수 있다. 전자 장치(630)는 외부 전자 장치(610)로부터 전송 받은 오디오 신호를 제2 스피커(6351)를 통해 출력할 수 있다.
전자 장치(630)는 제2 마이크(6353)를 통해 수신한 신호를 외부 전자 장치(610)에 전달할 수 있다. 외부 전자 장치(610)는 전자 장치(630)로부터 전달 받은 신호를 저장할 수 있다. 전자 장치(630)는 신호를 전달하는데 소모되는 전력을 줄이기 위해, 신호를 데이터 압축하여 압축된 신호를 외부 전자 장치(610)에 전달할 수 있다. 전자 장치(630)는 오디오 데이터를 압축하고, 압축 해제하는 코덱을 포함할 수 있다. 외부 전자 장치(610)는 전자 장치(630)로부터 전자 장치(630)의 제2 마이크(6353)를 통해 수신된 신호를 전달 받아 STT 변환하여 텍스트로 저장할 수 있다. 외부 전자 장치(610)는 전자 장치(630)로부터 수신한 데이터 또는 저장한 데이터를 제1 스피커(SPK)(6161)를 통해 출력할 수 있다.
일 실시예에 따르면, 전자 장치(630)와 외부 전자 장치(610)는 각각의 오디오 처리부(6160, 6350)(예를 들어, 외부 전자 장치(610)의 제1 마이크(MIC)(6163)과 제1 스피커(6161) 및 전자 장치(630)의 제2 마이크(6353)와 제2 스피커(6351))를 이용하여, 사용자에게 원격지 간의 통화 기능을 제공할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치(630)는 외부 전자 장치(610)에 연결된 추가적인 외부 전자 장치들과 네트워크를 형성할 수 있다. 예를 들어, 전자 장치(630)는 외부 전자 장치(610)를 통하여 외부 전자 장치(610)에 연결된 다른 전자 장치들과 데이터를 송수신할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치(630) 또는 외부 전자 장치(610)는 휴대용 단말기 또는 청각 장치 이외에 마이크 또는 스피커를 포함하는 다양한 전자 장치를 포함할 수 있다. 예를 들어, 전자 장치(630) 또는 외부 전자 장치(610)는 복수 개의 마이크를 포함하는 스마트 글래스(smart glasses), 헤드 마운트 디스플레이(head mounted display, HMD), 또는 로봇(robot) 등을 포함할 수 있다.
도 7은 본 발명의 다양한 실시예에 따른 전자 장치(710)와 외부 전자 장치(730)의 연동 동작을 설명하기 위한 도면이다.
전자 장치(710)는 마이크를 통하여 외부의 소리를 수신할 수 있다. 전자 장치(710)는 외부 전자 장치(730)와 통신을 통하여 전자 장치(710)의 설정을 제어 또는 변경할 수 있다. 예를 들어, 외부 전자 장치(730)는 전자 장치(710)의 설정 어플리케이션을 포함할 수 있다. 예를 들어, 외부 전자 장치(730)는 전자 장치(710)의 설정 어플리케이션을 통하여 전자 장치(710)의 모드 제어 및 볼륨 제어 등을 할 수 있다. 외부 전자 장치(730)는 디스플레이를 통하여 전자 장치(710)가 설정 가능한 모드를 표시할 수 있다. 외부 전자 장치(730)는 입력부(예를 들어, 터치 스크린)를 통하여 사용자로부터 수신한 입력에 따라 전자 장치(710)의 볼륨 또는 모드를 변경할 수 있다. 일 실시예에 따르면, 외부 전자 장치(730)는 센서부에 포함된 다양한 센서들(예를 들어, 가속도 센서, 자이로 센서, 생체 센서 또는 근접 센서 등)를 통하여 전자 장치(710)의 모드를 설정할 수 있다. 예를 들어, 사용자가 외부 전자 장치(730)를 좌우 혹은 위아래로 흔드는 경우, 외부 전자 장치(730)는 센서부를 통하여 이를 감지할 수 있다. 외부 전자 장치(730)는 움직임을 감지하는 경우, 그에 대응되는 입력 신호를 전자 장치(710)에 전송하여 장치가 모드를 변경하도록 제어할 수 있다. 다른 예로, 외부 전자 장치(730)는 생체 센서(예를 들어, 지문 센서)를 이용하여 전자 장치(710)가 사용자의 생체 정보에 대응되는 설정 상태로 모드를 변경하도록 제어할 수 있다.
도 8은 본 발명의 다양한 실시예에 따른 전자 장치(201) 또는 외부 전자 장치에서 사용하는 데이터 포맷을 도시한다.
일 실시예에 따르면, 전자 장치(201)(예를 들어, 청각 장치)와 외부 전자 장치는 도 8에 도시된 데이터 포맷을 이용하여 통신을 할 수 있다. 예를 들어, 전자 장치(201)와 외부 전자 장치는 무선으로 통신할 수 있다. 예를 들어, 전자 장치(201)와 외부 전자 장치는 무선 통신 시의 데이터 포맷으로 BLE(bluetooth low energy) 포맷을 사용할 수 있다. 예를 들어, 전자 장치(201)와 외부 전자 장치는 무선 통신 시에 BLE 포맷의 일부분을 수정하여 오디오 신호를 교환할 수 있는 AoBLE(Audio over BLE) 포맷을 사용할 수 있다.
일 실시예에 따르면, 전자 장치(201) 또는 외부 전자 장치는 L2CAP(Logical Link Control and Adaptation Protocol) layer(810), Logical layer(820), Physical layer(830)를 포함할 수 있다. L2CAP layer는 L2CAP 채널(channels)을 포함할 수 있다. Logical layer는 logical link(821) 및 logical transport(823)을 포함할 수 있다. Physical layer는 physical link(831) 및 physical channel(833)을 포함할 수 있다.
일 실시예에 따르면, 데이터 포맷은 프리앰블(preamble)(840), 액세스 주소(access address) (850), PDU(Protocol Data Unit) 헤더(860), PDU 페이로드(870), 오류 검출 코드(Cyclic Redundancy Check, CRC)(880)를 포함할 수 있다.
일 실예에 따르면, 액세스 주소(850)는 physical link access code를 포함할 수 있다. PDU 헤더(860)는 logical transport 및 link 의 식별자(identifier)를 포함할 수 있다. PDU 페이로드(870)는 L2CAP 프레임 및 사용자 데이터를 포함할 수 있다. 일 실시예에 따르면, PDU 페이로드(870)는 L2CAP 헤더(871) 및 페이로드(873)을 포함할 수 있다.
일 실시예에 따르면, 전자 장치(201)와 외부 전자 장치는 음성 데이터, 오디오 처리부(예를 들어, 코덱)의 샘플링 주파수(sampling rate), 프레임 크기(frame size) 또는 활성화 여부 등의 설정 데이터를 PDU 페이로드 (870)에 실어서 서로 교환할 수 있다. 일 실시예에 따르면, 전송 데이터 포맷의 L2CAP 헤더부에는 데이터 종류를 구분하는 OP 코드(operation code)가 포함될 수 있다.
도 9는 본 발명의 다양한 실시예에 따른 전자 장치(905) 및 외부 전자 장치(903) 사이의 신호 흐름을 나타내는 도면이다.
일 실시예에 따르면, 전자 장치(905)(예를 들어, 청각 장치(auditory device))는 외부 전자 장치(903)(예를 들어, 휴대 단말기 등)와 통신할 수 있다. 전자 장치(905)는 외부 전자 장치(903)를 이용하여 설정을 변경할 수 있다.
910 동작에서, 전자 장치(903)는 사용자(901)로부터 전자 장치(905)와의 통신 연결을 위한 입력(예를 들면, 링크 연결 설정)을 수신할 수 있다. 예를 들어, 외부 전자 장치(903)는 연결 가능한 전자 장치(905) 또는 다른 장치들을 디스플레이에 표시할 수 있다. 외부 전자 장치(903)는 사용자(901)로부터 전자 장치(905) 또는 다른 장치를 선택하는 입력을 수신하면, 선택된 전자 장치(905) 또는 다른 장치와 통신 연결을 시도할 수 있다.
920 동작에서, 외부 전자 장치(903)는 전자 장치(905)에 링크 연결 요청을 전송할 수 있다. 예를 들어, 외부 전자 장치(903)는 사용자(901) 입력에 따라 선택된 전자 장치(905)에 링크 연결 요청을 전송할 수 있다.
930 동작에서, 전자 장치(905)는 외부 전자 장치(903)의 링크 연결 요청 에 응답하여 외부 전자 장치(903)에 링크 연결 응답을 전송할 수 있다. 일 실시예에 따르면, 외부 전자 장치(903)는 전자 장치(905)와 링크가 연결되면, 링크가 연결되었음을 알려주는 사용자 인터페이스를 표시할 수 있다.
940 동작에서, 외부 전자 장치(903)는 전자 장치(905)에 정보를 요청할 수 있다. 예를 들어, 외부 전자 장치(903)는 전자 장치(905)에 설정 특성을 요청할 수 있다. 예를 들어, 외부 전자 장치(903)는 전자 장치(905)의 모드 정보, 기능 정보, 설정 정보 등을 요청할 수 있다.
950 동작에서, 전자 장치(905)는 외부 전자 장치(903)에 정보를 전송할 수 있다. 예를 들면, 전자 장치(905)는 외부 전자 장치(903)의 정보 요청에 응답하여 정보 요청에 대응되는 설정 정보를 외부 전자 장치(903)에 전송할 수 있다.
960동작에서, 외부 전자 장치(903)는 사용자로부터 청각 파라미터 설정을 수신할 수 있다. 일 실시예에 따르면, 외부 전자 장치(903)는 전자 장치(905)의 모드 정보 또는 설정 가능한 적어도 하나의 청각 파라미터를 표시할 수 있다. 예를 들어, 외부 전자 장치(903)는 전자 장치(905)로부터 수신한 정보를 기반으로 전자 장치(905)의 설정 데이터 또는 설정 가능한 청각 파라미터 정보를 표시할 수 있다. 외부 전자 장치(903)는 사용자(901)로부터 표시된 전자 장치(905)의 모드 또는 사용자(901)의 청각 파라미터 중 적어도 하나의 모드 또는 청각 파라미터를 선택하는 입력을 수신할 수 있다.
970 동작에서, 외부 전자 장치(903)는 사용자(901)의 입력에 따라 선택된 모드 또는 청각 파라미터를 전자 장치(905)에 전송할 수 있다. 예를 들어, 외부 전자 장치(903)는 사용자(901)의 입력에 따라 선택된 전자 장치(905)의 특정 모드 설정 값을 전자 장치(905)에 전송할 수 있다.
980 동작에서, 외부 전자 장치(903)에 설정 완료 응답을 전송할 수 있다. 일 실시예에 따르면, 전자 장치(905)는 외부 전자 장치(903)로부터 수신한 청각 파라미터 또는 모드 설정 값을 기반으로 오디오 처리부(예를 들어, 코덱)의 필터 정보를 갱신할 수 있다. 예를 들어, 전자 장치(905)는 수신한 청각 파라미터 또는 모드 설정 값에 따라 외부로부터 소리를 수신하는 방향성, 수신된 소리 정보를 필터링하기 위한 필터 값, 차단 주파수 대역(또는, 통과 주파수 대역) 등을 변경할 수 있다. 전자 장치(905)는 수신한 설정 값에 따라 설정을 변경한 이후 외부 전자 장치(903)에 설정 완료 응답을 전송할 수 있다.
일 실시예에 따르면, 전자 장치(905)는 설정된 모드 또는 청각 파라미터에 기반하여 외부로부터 수신한 소리 정보를 처리하여 스피커(또는, 리시버)를 통해 출력할 수 있다.
도 10은 본 발명의 다양한 실시예에 따른 전자 장치(1000) 및 복수의 외부 전자 장치들(1010, 1020)이 통신하는 상황을 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(1000)는 복수의 외부 전자 장치들(예를 들어, 제1 외부 전자 장치(1010) 및 제2 외부 전자 장치(1020)) 또는 네트워크(1040)와 통신할 수 있다.
예를 들어, 전자 장치(1000)는 제1 외부 전자 장치(1010)와 제1 통신(1001)을 연결을 할 수 있다. 전자 장치(1000)는 제1 외부 전자 장치(710)와 데이터를 교환할 수 있다. 예를 들어, 전자 장치(1000)는 제1 외부 전자 장치(1010)를 통하여 전자 장치(1000)의 오디오 필터 정보를 설정할 수 있다. 예를 들어, 전자 장치(1000)는 제1 외부 전자 장치(1010)로부터 오디오 필터 정보를 설정하기 위한 명령 또는 데이터를 수신할 수 있다.
전자 장치(1000)는 제1 외부 전자 장치(1010)를 통하여 제2 외부 전자 장치(1020) 또는 네트워크(1040)와 연결되어 제1 외부 전자 장치(1010), 제2 외부 전자 장치(1020) 또는 네트워크(1040)와 데이터 통신을 할 수 있다. 예를 들어, 제1 외부 전자 장치(1010)는 제2 외부 전자 장치(1020)와 제3 통신(1003)을 연결할 수 있다. 제2 외부 전자 장치(1020)는 네트워크(1040)와 제4 통신(1004)를 연결할 수 있다. 예를 들어, 전자 장치(1000)는 제1 외부 전자 장치(1010)를 중계 단말로 이용하여 제2 외부 전자 장치(1020) 또는 네트워크(1040)와 데이터를 송수신할 수 있다. 일 실시예에 따르면, 전자 장치(1000)는 제1 외부 전자 장치(1010)에 제공되는 통신 규격을 이용하여 제2 외부 전자 장치(1020) 또는 네트워크(1040)와 데이터를 교환할 수 있다. 예를 들어, 전자 장치(1000)는 제1 외부 전자 장치(1010)와 NFMI 또는 BLE를 통해 제1 통신(1001)을 연결할 수 있다. 제1 외부 전자 장치(1010)는 제2 외부 전자 장치(1020) 또는 네트워크(1040)(게이트웨이를 통한 연결을 포함)와 WiFi를 통해 제3 통신(1003)을 연결할 수 있다. 전자 장치(1000)는 NFMI 또는 BLE를 이용하여 제1 외부 전자 장치(1010)에 데이터를 송수신하고, 제1 외부 전자 장치(1010)는 WiFi를 통해 제2 외부 전자 장치(1020) 또는 네트워크(1040)에 전자 장치(1000)로부터 전달 받은 데이터를 송수신할 수 있다. 예를 들어, 전자 장치(1000)는 제1 외부 전자 장치(1010)를 통하여 네트워크(1040)로부터 피팅(fitting)(오디오 필터) 데이터를 다운로드 받을 수 있다. 다른 예로, 전자 장치(1000)는 제1 외부 전자 장치(1010)를 통하여 제2 외부 전자 장치(1020)에 저장된 오디오 데이터 정보를 수신하여 출력할 수 있다.
전자 장치(1000)는 제2 외부 전자 장치(1020)와 제2 통신(1002)을 연결할 수 있다. 전자 장치(1000)는 제2 외부 전자 장치(1020) 또는 네트워크(1040)와 통신할 수 있는 규격을 지원할 수 있다. 예를 들어, 전자 장치(1000)는 전화 통신을 위한 규격(예를 들어, 3G, LTE)을 제공할 수 있다. 전자 장치(1000)는 기지국과 통신 연결되어 사용자에게 통화 기능을 제공할 수 있다.
본 발명의 일 실시예에 따른 전자 장치는, 외부로부터 소리를 수신하고, 상기 소리가 수신되는 방향을 감지하도록 구성된 적어도 하나의 마이크, 소리를 출력하는 스피커, 외부 전자 장치로부터 오디오 데이터를 수신하는 통신 회로, 상기 적어도 하나의 마이크. 상기 스피커, 상기 통신 회로와 전기적으로 연결된 프로세서 및 상기 프로세서와 전기적으로 연결된 적어도 하나의 메모리를 포함할 수 있다.
상기 메모리는, 실행 시에, 상기 프로세서가, 상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하고, 상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고, 상기 유사도 및 상기 소리가 수신된 방향에 대한 정보를 기반으로, 상기 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하도록 하는 인스트럭션(instruction)들을 저장할 수 있다.
본 발명의 일 실시예에 따른 전자 장치는, 사용자의 귀의 일부분에 탈착 가능하도록 구성된 부분을 포함하는 하우징을 더 포함할 수 있다. 일 실시예에 따르면, 상기 적어도 하나의 마이크, 상기 스피커, 상기 통신 회로, 상기 프로세서, 상기 메모리는 상기 하우징에 포함될 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 스피커를 통하여 출력되는 소리에 대한 데이터 중에서 상기 수신한 오디오 데이터에 대응하는 소리 또는 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 조정하도록 할 수 있다.
일 실시예에 따르면, 상기 인스터럭션들은, 상기 프로세서가, 상기 소리가 수신된 방향에 대한 정보를 기 설정된 기준 방향 정보와 비교하고, 상기 방향에 대한 정보를 상기 기준 방향 정보와 비교한 결과에 따라 상기 출력할 소리에 대한 데이터를 처리하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 유사도 및 상기 소리가 수신된 방향에 대한 정보를 이용하여 상기 기준 방향 정보를 설정하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고, 상기 유사도가 기 설정된 값 이상인 경우, 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 감소시키도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 유사도가 기 설정된 값 미만인 경우 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 증가시키도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 유사도가 기 설정된 값 미만인 경우, 상기 스피커를 이용하여 알림을 출력하거나, 또는 상기 외부 전자 장치가 알림 메시지를 출력하도록 하는 명령을 상기 외부 전자 장치에 전송하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 제2 외부 전자 장치로부터 수신한 신호 또는 데이터에 기반하여, 상기 수신한 오디오 데이터에 대응하는 소리의 출력 세기 또는 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 조정하도록 할 수 있다.
일 실시예에 따르면, 전자 장치는 상기 전자 장치의 상태, 자세, 또는 움직임을 검출하는 센서를 더 포함할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 센서를 이용하여 검출된 상기 전자 장치의 상태, 자세, 또는 움직임 중 적어도 일부 관련된 데이터를 기반으로 상기 기준 방향 정보를 설정하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 기 설정된 방향 정보를 기반으로, 상기 마이크를 통하여 수신된 소리에 관한 데이터 중 일정 범위의 방향으로부터 수신된 소리에 대응하는 데이터를 추출하고, 추출한 데이터에 대응하는 소리의 출력 세기를 조정하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 외부 장치로부터 수신된 신호를 기반으로, 상기 외부 전자 장치가 위치하는 방향을 인식하고, 상기 수신된 소리에 관한 데이터 중 상기 외부 전자 장치가 위치하는 방향의 기 설정된 범위로부터 수신된 소리에 관한 데이터를 추출하고, 상기 기 설정된 범위로부터 수신된 소리에 대응하는 소리의 출력 세기를 조정하도록 할 수 있다.
본 발명의 일 실시예에 따른 청각 장치는, 외부로부터 소리를 수신하는 적어도 하나의 마이크, 소리를 출력하는 스피커, 외부 전자 장치로부터 오디오 데이터를 수신하는 통신 회로, 상기 적어도 하나의 마이크. 상기 스피커, 상기 통신 회로와 전기적으로 연결된 프로세서 및 상기 프로세서와 전기적으로 연결된 적어도 하나의 메모리를 포함할 수 있다. 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 통신 회로에서 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터를 비교하고, 상기 마이크를 통하여 수신된 소리를 상기 스피커를 통하여 소리로 출력하는 것을 제어하는 인스트럭션(instruction)들을 저장할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 통신 회로에서 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고, 상기 유사도를 기반으로, 상기 오디오 데이터를 전송하는 상기 외부 전자 장치의 방향을 판단하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 소리에 대한 데이터에 기초하여 상기 마이크를 통하여 수신한 소리가 수신된 방향을 판단하고, 상기 소리가 수신된 방향과 상기 외부 전자 장치의 방향을 비교한 결과를 기반으로, 상기 스피커를 통하여 출력하는 상기 마이크를 통하여 수신된 소리의 출력 세기를 조정하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 소리가 수신된 방향이 상기 외부 전자 장치의 방향인 경우 상기 마이크를 통하여 수신된 소리의 출력 세기를 감소시키고, 상기 소리가 수신된 방향이 상기 외부 전자 장치의 방향이 아닌 경우 상기 마이크를 통하여 수신된 소리의 출력 세기를 증가시키도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 수신한 오디오 데이터에 대응하는 소리 및 상기 마이크를 통하여 수신한 소리에 대응하는 소리를 상기 스피커를 통하여 출력하도록 할 수 있다.
일 실시예에 따르면, 상기 인스트럭션들은, 상기 프로세서가, 상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고, 상기 유사도가 설정된 기준 값 이상인 경우, 상기 수신한 오디오 데이터에 대응하는 소리의 출력 세기를 상기 마이크를 통하여 수신한 소리에 대응하는 소리의 출력 세기보다 상대적으로 높게 설정하고, 상기 유사도가 설정된 기준 값 미만인 경우, 상기 수신한 오디오 데이터에 대응하는 소리의 출력 세기를 상기 마이크를 통하여 수신한 소리에 대응하는 소리의 출력 세기보다 상대적으로 낮게 설정하도록 할 수 있다.
도 11은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
1110 동작에서, 전자 장치는 외부 장치로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 소리 각각의 출력 이득(gain)을 확인할 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 수신한 소리 각각에 대응하는 소리를 스피커를 통하여 출력하기 위하여 수신한 오디오 데이터 및 수신한 소리 각각을 증폭하기 위한 이득을 확인할 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 마이크를 통하여 수신된 소리에 대한 믹싱 비율을 확인할 수 있다. 예를 들어, 전자 장치는 스피커를 통하여 출력할 소리에 대한 데이터 중에서 오디오 데이터 및 수신한 소리에 관한 데이터 각각에 대응되는 출력 세기를 확인할 수 있다. 예를 들어, 전자 장치는 오디오 데이터에 대응하는 소리 및 수신된 소리에 대응하는 소리 중 어떠한 소리를 더 크게 출력할지 결정할 수 있다. 예를 들어, 전자 장치는 오디오 데이터에 대응하는 소리만을 출력하거나, 마이크를 통하여 수신된 소리에 대응하는 소리만을 출력하거나, 오디오 데이터에 대응하는 소리 및 마이크를 통하여 수신한 소리에 대응하는 소리를 임의의 비율로 섞어서 출력할 수 있다. 전자 장치는 오디오 데이터 및 마이크를 통하여 수신한 소리에 대하여 각각 설정된 출력 세기 또는 믹싱 비율을 확인할 수 있다.
1120 동작에서, 전자 장치는 외부 장치로부터 오디오 데이터를 수신할 수 있다. 예를 들어, 전자 장치는 외부 장치로부터 오디오 신호를 스트리밍 받을 수 있다. 예를 들어, 전자 장치는 스마트 TV, 또는 오디오 장치로부터 오디오 데이터를 무선 통신을 이용하여 수신할 수 있다.
일 실시예에 따르면, 전자 장치는 외부 장치로부터 오디오 데이터를 수신한 경우, 오디오 데이터에 대응하는 소리를 스피커를 통하여 출력할 수 있다. 예를 들어, 전자 장치는 1110 동작에서 확인한 출력 이득(gain)에 기반하여 수신한 오디오 데이터에 대응하는 소리를 출력할 수 있다.
1130 동작에서, 전자 장치는 마이크를 통하여 외부로부터 소리를 수신할 수 있다. 예를 들어, 전자 장치는 전자 장치 외부(즉, 사용자 이외의 화자)로부터 소리를 수신할 수 있다. 일 실시예에 따르면, 전자 장치는 외부로부터 수신한 소리에 관한 데이터를 메모리에 적어도 임시로 저장할 수 있다. 예를 들어, 데이터는 수신한 소리를 디지털 데이터로 변환하여 저장할 수 있다. 일 실시예에 따르면, 전자 장치는 수신한 소리(즉, 아날로그 신호)를 디지털 신호로 변경하기 위한 컨버터를 포함할 수 있다.
일 실시예에 따르면, 전자 장치는 마이크를 통하여 수신한 소리에 대응하는 소리를 스피커를 통하여 출력할 수 있다. 예를 들어, 전자 장치는 1110 동작에서 확인한 출력 이득(gain)에 기반하여 수신한 소리에 대응하는 소리를 출력할 수 있다.
1140 동작에서, 전자 장치는 소리가 수신된 방향을 인식할 수 있다. 예를 들어, 전자 장치는 수신한 소리에 관한 데이터에서 소리가 수신된 방향에 대한 정보를 추출할 수 있다. 예를 들어, 전자 장치는 하나 이상의 마이크를 통하여 소리를 수신할 수 있다. 전자 장치는 복수 개의 마이크를 통하여 입력되는 소리를 분석하여 소리가 수신된 방향을 인식할 수 있다.
1150 동작에서, 전자 장치는 소리의 수신 방향이 외부 장치 방향인지 확인할 수 있다. 일 실시예에 따르면, 전자 장치는 외부 장치로부터 수신한 신호를 기반하여 외부 장치의 위치 또는 방향을 인식할 수 있다. 예를 들어, 전자 장치는 외부 장치로부터 수신한 오디오 데이터 또는 별도의 무선 신호를 기반으로 외부 장치의 방향을 인식할 수 있다. 일 실시예에 따르면, 전자 장치는 외부 장치의 스피커를 통하여 출력되는 소리를 수신하고, 상기 수신한 소리를 기반으로 외부 장치의 방향을 인식할 수 있다. 전자 장치는 인식한 외부 장치의 방향을 소리가 수신된 방향과 비교할 수 있다.
1160 동작에서, 전자 장치는 소리의 수신 방향이 외부 장치 방향이 아닌 경우, 수신한 소리의 출력 이득을 증가시킬 수 있다.
예를 들어, 전자 장치(예를 들어, 청각 장치)의 사용자가 TV 등을 시청 또는 청취하는 경우(즉, 전자 장치가 외부 장치(예를 들어, TV 또는 음향 기기)로부터 수신한 오디오 신호에 대응하는 소리를 출력하는 경우)에도, 주변의 화자가 말하는 소리 등을 사용자가 들을 수 있을 필요가 있다. 예를 들어, 마이크를 통하여 수신한 소리가 외부 장치 방향이 아닌 경우, 수신한 소리는 외부 장치로부터 수신한 오디오 데이터(또는, 외부 장치가 스피커를 통하여 출력하는 소리)와 상이할 수 있다.
일 실시예에 따르면, 전자 장치는 소리의 수신 방향이 외부 장치 방향이 아닌 경우, 수신한 소리의 출력 이득을 증가시킬 수 있다. 예를 들어, 전자 장치는 수신한 소리에 대응하는 소리의 출력 볼륨(volume)을 증가시킬 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 수신한 소리의 믹싱 비율을 조절하여 수신된 소리에 대응하는 소리의 상대적인 출력 세기를 증가시킬 수 있다. 예를 들어, 전자 장치는 스피커를 통하여 출력할 소리의 데이터에 적용하는 필터 값을 조정할 수 있다.
1170 동작에서, 전자 장치는 수신한 소리의 출력 이득을 감소시킬 수 있다. 일 실시예에 따르면, 전자 장치는 오디오 데이터를 수신하는 경우에 마이크를 통하여 수신하는 소리의 출력 세기를 낮게 설정할 수 있다. 예를 들어, 전자 장치가 TV로부터 오디오 데이터를 수신하는 경우, 전자 장치의 사용자는 TV를 시청 중일 수 있다. 따라서, 전자 장치는 TV로부터 무선 통신을 이용하여 수신한 오디오 데이터를 스피커를 통하여 출력할 수 있다. 전자 장치는 TV를 시청 중인 사용자가 주변의 소음 또는 잡음을 듣는 것을 방지하기 위하여 마이크를 통하여 수신한 소리에 대응하는 소리를 출력하지 않을 수 있다. 예를 들어, TV로부터 수신한 오디오 데이터와 TV 스피커를 통하여 출력되는 소리는 동일할 수 있다. 전자 장치가 TV로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 주변 소리(즉, TV 스피커에서 출력되는 소리)에 대응하는 소리를 함께 출력할 경우, 오디오 데이터에 대응하는 소리 및 마이크를 통하여 수신한 소리에 대응하는 소리가 서로 간섭하여 에코 현상이 발생할 수 있다. 따라서, 전자 장치는 외부 장치로부터 오디오 데이터를 수신하는 경우, 마이크를 통하여 수신된 소리에 대응하는 소리는 출력하지 않거나, 작은 볼륨(volume)으로 출력할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치는 도 11에 도시된 동작들의 전부 또는 일부를 다른 순서로 실행할 수 있다. 예를 들어, 전자 장치는 1120 및 1130 의 오디오 데이터 및 소리를 수신하는 동작 이후에 1110 의 출력 이득을 확인하는 동작을 수행할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치는 마이크를 통하여 수신한 소리의 수신 방향에 따라 스피커를 통하여 출력하는 소리의 믹싱 비율을 조정함으로써, 주변 상황에 따라 사용자가 외부 장치로부터 수신한 오디오 데이터에 대한 소리를 에코 또는 잡음 없이 청취하면서도, 외부 장치와 무관하게 마이크를 통하여 수신한 주변 소리(예를 들어, 다른 화자의 음성 등)를 들을 수 있도록 할 수 있다.
도 12는 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
1210 동작에서, 전자 장치는 외부 장치로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 소리 각각의 출력 이득(gain)을 확인할 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 수신한 소리 각각에 대응하는 소리를 스피커를 통하여 출력하기 위하여 수신한 오디오 데이터 및 수신한 소리 각각을 증폭하기 위한 이득을 확인할 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 마이크를 통하여 수신된 소리에 대한 믹싱 비율을 확인할 수 있다. 예를 들어, 전자 장치는 스피커를 통하여 출력할 소리에 대한 데이터 중에서 오디오 데이터 및 수신한 소리에 관한 데이터 각각에 대응되는 출력 세기를 확인할 수 있다. 전자 장치는 오디오 데이터 및 마이크를 통하여 수신한 소리에 대하여 각각 설정된 출력 세기 또는 믹싱 비율을 확인할 수 있다.
1220 동작에서, 전자 장치는 외부 장치로부터 오디오 데이터를 수신할 수 있다. 일 실시예에 따르면, 전자 장치는 외부 장치로부터 오디오 데이터를 수신한 경우, 오디오 데이터에 대응하는 소리를 스피커를 통하여 출력할 수 있다.
1230 동작에서, 전자 장치는 마이크를 통하여 외부로부터 소리를 수신할 수 있다. 일 실시예에 따르면, 전자 장치는 외부로부터 수신한 소리에 관한 데이터를 메모리에 적어도 임시로 저장할 수 있다. 일 실시예에 따르면, 전자 장치는 마이크를 통하여 수신한 소리에 대응하는 소리를 스피커를 통하여 출력할 수 있다.
1240 동작에서, 전자 장치는 수신한 오디오 데이터 및 수신한 소리에 대한 데이터를 비교할 수 있다. 일 실시예에 따르면, 전자 장치는 수신한 오디오 데이터와 비교하기 위하여 마이크를 통하여 수신한 소리를 오디오 데이터와 대응되는 형식(포맷)의 데이터로 변환할 수 있다.
예를 들어, 외부 전자 장치는 전자 장치에 오디오 데이터를 전송함과 동시에, 오디오 데이터에 대응하는 소리를 외부 전자 장치의 스피커를 통하여 출력할 수 있다. 전자 장치는 외부 전자 장치로부터 무선으로 오디오 데이터를 수신함과 동시에, 마이크를 통하여 외부 전자 장치가 출력하는 오디오 데이터에 대응하는 소리를 수신할 수 있다. 전자 장치는 서로 대응되는 오디오 데이터 및 소리를 동시에 수신할 수 있다. 일 실시예에 따르면, 전자 장치는 외부 전자 장치로부터 수신한 오디오 데이터와 마이크를 통하여 수신한 소리를 변환한 데이터를 비교할 수 있다.
1250 동작에서, 전자 장치는 오디오 데이터와 수신한 소리에 대한 데이터가 유사한지 판단할 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터와 소리에 대한 데이터의 유사도(similarity)를 판단할 수 있다. 예를 들어, 전자 장치는 수시한 오디오 데이터 및 수신한 소리에 대한 데이터가 서로 대응되는 것인지 판단할 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 수신한 소리에 대한 데이터가 동일한 오디오 정보에 대한 것인지 판단할 수 있다.
1260 동작에서, 전자 장치는 오디오 데이터와 수신한 소리에 대한 데이터가 유사하지 않은 경우, 수신한 소리의 출력 이득을 증가시킬 수 있다. 예를 들어, 전자 장치는 오디오 데이터와 수신한 소리에 대한 데이터의 유사도가 기 설정된 값 미만인 경우, 수신한 소리의 출력 이득을 증가시킬 수 있다.
예를 들어, 전자 장치(예를 들어, 청각 장치)가 사용자에게 외부 장치로부터 수신한 오디오 데이터에 대응하는 소리를 출력하는 경우, 전자 장치는 사용자에게 외부 소리(예를 들어, 사용자 이외의 화자의 음성 등)를 제공할 필요가 있다.
일 실시예에 따르면, 전자 장치는 오디오 데이터와 수신한 소리에 대한 데이터가 상이한 경우, 수신한 소리에 대응하는 소리의 출력 볼륨(volume)을 증가시킬 수 있다. 예를 들어, 전자 장치는 수신한 오디오 데이터 및 수신한 소리의 믹싱 비율을 조절하여 수신된 소리에 대응하는 소리의 상대적인 출력 세기를 증가시킬 수 있다.
1270 동작에서, 전자 장치는 오디오 데이터와 수신한 소리에 대한 데이터가 유사한 경우, 수신한 소리의 출력 이득을 감소시킬 수 있다. 예를 들어, 전자 장치는 오디오 데이터와 수신한 소리에 대한 데이터의 유사도가 기 설정된 값 이상인 경우 수신한 소리의 출력 이득을 감소시킬 수 있다.
예를 들어, TV로부터 수신한 오디오 데이터와 TV 스피커를 통하여 출력되는 소리는 동일할 수 있다. 전자 장치가 TV로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 주변 소리(즉, TV 스피커에서 출력되는 소리)에 대응하는 소리를 함께 출력할 경우, 오디오 데이터에 대응하는 소리 및 마이크를 통하여 수신한 소리에 대응하는 소리가 서로 간섭하여 에코 현상이 발생할 수 있다. 따라서, 전자 장치는 외부 장치로부터 오디오 데이터를 수신하는 경우, 마이크를 통하여 수신된 소리에 대응하는 소리는 출력하지 않거나, 작은 볼륨(volume)으로 출력할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치는 도 12에 도시된 동작들의 전부 또는 일부를 다른 순서로 실행할 수 있다. 예를 들어, 전자 장치는 1220 및 1230 의 오디오 데이터 및 소리를 수신하는 동작 이후에 1210 의 출력 이득을 확인하는 동작을 수행할 수 있다.
본 발명의 다양한 실시예들에 따르면, 외부 장치로부터 수신한 오디오 데이터와 마이크를 통하여 수신한 소리의 유사도에 따라 스피커를 통하여 출력하는 소리의 믹싱 비율을 조정함으로써, 수신한 오디오 데이터에 대한 소리를 에코 또는 잡음 없이 청취하면서도, 외부 장치와 무관하게 마이크를 통하여 수신한 주변 소리(예를 들어, 외부 장치가 출력하는 소리를 제외한 소리)를 들을 수 있도록 할 수 있다.
도 13은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
1310 동작에서, 전자 장치는 외부 전자 장치로부터 오디오 데이터를 수신할 수 있다. 예를 들어, 전자 장치(예를 들어, 청각 장치)는 외부 전자 장치(예를 들어, 스마트 TV, 음향 기기 등)로부터 무선 통신을 이용하여 오디오 데이터를 수신할 수 있다.
1320 동작에서, 전자 장치는 마이크를 통하여 외부로부터 소리를 수신할 수 있다. 예를 들어, 전자 장치는 외부 전자 장치로부터 오디오 데이터를 수신하는 중에 동시에 마이크를 통하여 외부로부터의 소리를 수신할 수 있다. 전자 장치는 수신한 소리에 대한 데이터를 적어도 임시로 저장할 수 있다.
1330 동작에서, 전자 장치는 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출할 수 있다. 예를 들어, 전자 장치는 적어도 하나의 마이크를 이용하여 소리를 수신한 방향을 인식할 수 있다. 전자 장치는 소리에 관한 데이터에서 소리가 수신된 방향에 대한 정보만을 추출하여 저장 또는 확인할 수 있다.
1340 동작에서, 전자 장치는 소리가 수신된 방향에 대한 정보를 기반으로 스피커를 통하여 출력되는 소리에 대한 데이터를 처리할 수 있다. 예를 들어, 전자 장치는 소리가 수신된 방향에 대한 정보를 기반으로 출력되는 소리에 대한 믹싱 비율을 조정할 수 있다. 예를 들어, 전자 장치는 출력되는 소리에 대한 데이터 중에서 외부 장치로부터 수신한 오디오 데이터에 대응하는 데이터 및 마이크를 통하여 수신한 소리에 대응하는 데이터의 볼륨(volume) 믹싱 비율을 조정할 수 있다. 예를 들어, 전자 장치는 소리가 수신된 방향이 기 설정된 기준 방향 정보에 대응하는 경우, 수신한 소리에 대응하는 데이터의 상대적인 출력 세기(또는, 출력 이득(gain))를 감소시킬 수 있다. 전자 장치는 소리가 수신된 방향이 기 설정된 방향 정보에 대응하지 않은 경우, 수신한 소리에 대응하는 데이터의 상대적인 출력 세기(또는, 출력 이득(gain))를 증가시킬 수 있다. 일 실시예에 따르면, 전자 장치는 마이크를 통하여 수신된 소리의 수신 방향에 따라 수신된 소리에 대응하여 스피커를 통하여 출력되는 소리의 출력 세기를 다르게 설정할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치는 마이크를 통하여 수신한 소리의 수신 방향에 따라 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하여, 상황에 따라 외부 장치로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 소리에 대한 데이터에 대응하는 소리 각각의 상대적인 출력 세기를 조절할 수 있다.
도 14는 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(1410)는 외부 전자 장치(1420)로부터 오디오 데이터(1421)를 무선으로 수신할 수 있다. 예를 들어, 전자 장치(1410)는 주지의 무선 통신 방식을 이용하여 외부 전자 장치(1420)(예를 들어, 스마트 TV 또는 스마트 음향 장치)로부터 오디오 데이터를 포함하는 신호(1421)를 수신할 수 있다. 전자 장치(1410)는 오디오 데이터(1421)를 수신하는 중에 마이크를 이용하여 외부로부터 소리(1423, 1435)를 수신할 수 있다. 예를 들어, 전자 장치(1410)는 외부 전자 장치(1420)가 외부 전자 장치(1420)의 스피커를 통하여 출력하는 소리(1423)를 수신할 수 있다. 전자 장치(1410)는 주변의 소리(예를 들어, 다른 화자(1430)가 말하는 음성(1435))를 수신할 수 있다.
일 실시예에 따르면, 전자 장치(1410)는 마이크를 통하여 수신한 소리(1423, 1435)의 수신 방향에 따라 스피커를 통하여 출력할 소리에 대한 데이터를 처리할 수 있다. 예를 들어, 전자 장치(1410)는 마이크를 통하여 수신된 소리(1423, 1435)에 관한 데이터를 수신 방향에 따라 다른 증폭 값으로 증폭하여 스피커를 통하여 출력할 수 있다. 예를 들어, 전자 장치(1410)는 출력할 소리에 대한 데이터 중에서 외부 전자 장치(1420)로부터 수신한 오디오 데이터(1421)에 대한 소리 및 마이크를 통하여 수신한 소리(1423, 1435)에 대한 데이터 각각에 대응하는 데이터의 상대적인 출력 세기를 조정할 수 있다.
일 실시예에 따르면 전자 장치(1410)는 마이크를 통하여 수신된 소리(1423, 1435)의 수신 방향이 기 설정된 방향인지(또는, 기 설정된 범위 내에 있는지)에 따라 상기 수신된 소리(1423, 1435)의 출력 이득을 다르게 설정할 수 있다. 예를 들어, 전자 장치(1410)는 외부 전자 장치(1420) 방향(예를 들어, R1 영역)으로부터 수신한 소리(1423)에 대한 증폭 값을 작은 값으로 설정하고, 외부 전자 장치(1420)와 다른 방향(예를 들어, R2 영역)으로부터 수신한 소리(1435)에 대한 증폭 값을 큰 값으로 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1410)는 기준 방향 정보를 설정할 수 있다. 예를 들어, 전자 장치(1410)는 전자 장치(1410)를 기준으로 특정 방향 또는 특정 범위를 기준 방향 정보로 설정할 수 있다. 전자 장치는 외부 전자 장치(1420)의 방향 또는 외부 전자 장치(1420) 방향의 일정 범위(R1)를 기준 방향 정보로 설정할 수 있다. 일 실시예에 따르면, 전자 장치(1410)는 외부 전자 장치(1420)로부터 수신하는 오디오 데이터(1421)와 마이크를 통하여 수신한 소리(1423, 1435)에 대한 데이터를 비교한 결과에 따라 기준 방향 정보를 설정할 수 있다. 예를 들어, 전자 장치(1410)는 오디오 데이터(1421) 및 마이크를 통하여 수신한 소리(1423, 1435)에 대한 데이터의 유사도를 판단할 수 있다. 예를 들어, 전자 장치(1410)는 마이크를 통하여 수신한 소리(1423, 1435)를 외부 전자 장치(1420)로부터 수신한 오디오 데이터(1421)과 동일한 형태의 데이터로 변환할 수 있다. 예를 들어, 전자 장치(1410)는 마이크를 통하여 수신한 소리(1423, 1435)를 디지털 데이터(디지털 신호)로 변환할 수 있다. 전자 장치(1410)는 오디오 데이터(1421) 및 마이크를 통하여 수신한 소리(1423, 1435)에 대한 데이터의 유사도가 기 설정된 값 이상이 되는 범위(즉, 오디오 데이터(1421) 및 마이크를 통하여 수신한 소리(1423, 1435)에 대한 데이터가 동일 또는 유사하다고 판단되는 범위)를 기준 방향 정보(예를 들어, R1 영역)로 설정할 수 있다. 전자 장치(1410)는 마이크를 통하여 수신한 소리(1423, 1435)의 수신 방향을 판단하고, 소리의 수신 방향이 기준 방향 정보(R1)에 대응하는지에 따라 스피커를 통해 출력하는 마이크를 통해 수신한 소리(1423, 1435)의 출력 세기를 조정할 수 있다. 예를 들어, 전자 장치(1410)는 소리의 수신 방향이 기준 방향 정보(R1)에 대응하는 경우, 마이크를 통하여 수신한 소리(1423)의 출력 세기를 감소시킬 수 있다. 전자 장치(1410)는 소리의 수신 방향이 기준 방향 정보(R1)와 상이한 경우, 마이크를 통하여 수신한 소리(1435)의 출력 세기를 증가시킬 수 있다.예를 들어, 외부 전자 장치(1420)가 전송하는 신호(오디오 데이터)(1421)와 외부 전자 장치(1420)가 출력하는 소리(1423)는 서로 동일한 오디오 정보를 포함할 수 있다. 다만, 전자 장치(1410)가 외부 전자 장치(1420)로부터 수신한 오디오 데이터(1421) 및 소리(1423)에 대응하는 소리를 스피커를 통하여 함께 출력하는 경우, 에코 현상이 발생하거나 서로 동기가 안 맞아 사용자에게 정확한 오디오 정보를 제공하기 어려울 수 있다. 따라서, 전자 장치(1410)는 외부 전자 장치(1420)로부터 오디오 데이터(1421)를 수신하는 경우, 외부 전자 장치(1420)의 방향에서 수신되는 소리(1423)에 대응하는 소리를 출력하지 않거나, 작은 크기로 출력할 수 있다. 전자 장치(1410)는 외부 전자 장치(1420)와 다른 방향에서 수신되는 소리(1435)에 대응하는 소리는 상대적으로 큰 볼륨(volume)으로 출력할 수 있다. 예를 들어, 전자 장치(1410)는 외부 전자 장치(1420)와 다른 방향에서 수신되는 소리(1435)에 대응하는 소리를 외부 전자 장치(1420)로부터 수신한 오디오 데이터(1421)에 대응하는 소리와 동일하거나 더 큰 볼륨(volume)으로 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1410)는 기 설정된 방향 또는 영역(R1)을 외부 전자 장치(1420)의 방향에 따라 설정할 수 있다. 예를 들어, 전자 장치(1410)는 외부 전자 장치(1420)로부터 수신한 신호(예를 들어, 오디오 데이터(1421) 등)에 기반하여 외부 전자 장치(1420)의 위치를 인식할 수 있다. 전자 장치(1410)는 외부 전자 장치(1420)의 위치를 확인하면, 외부 전자 장치(1420)의 방향 또는 외부 전자 장치(1420)의 위치를 포함하는 일정 영역(R1)을 설정할 수 있다. 전자 장치(1410)는 설정된 방향 또는 영역으로부터 수신되는 소리에 대한 출력 이득을 낮게 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1410)는 외부 전자 장치(1420)로부터 수신한 오디오 데이터(1421) 및 마이크를 통하여 수신된 소리(1423, 1435)를 비교한 결과에 따라 특정 방향 또는 특정 영역을 설정할 수 있다. 예를 들어, 전자 장치(1410)는 수신한 소리(1423, 1435)를 오디오 데이터(1421)와 동일한 포맷의 데이터로 변환할 수 있다. 전자 장치(1410)는 수신한 오디오 데이터(1421)와 수신한 소리(1423, 1435)에 대한 데이터의 유사도(similarity)를 판단할 수 있다. 전자 장치(1410)는 수신한 오디오 데이터(1421)와 수신한 소리(1423, 1435)에 대한 데이터의 유사도(similarity)(예를 들어, 데이터가 서로 유사한 비율)가 기 설정된 값 이상인지 미만인지 판단할 수 있다.
예를 들어, 전자 장치(1410)는 오디오 데이터(1421) 및 수신된 소리(1423)이 유사한 경우, 소리가 수신된 방향 또는 소리가 수시된 방향을 포함하는 일정 영역(R1)을 지정된 방향 또는 영역으로 설정할 수 있다. 예를 들어, 전자 장치(1410)는 오디오 데이터(1421) 및 수신된 소리(1435)가 상이한 경우, 이를 상기 설정된 방향 또는 영역과 별도의 영역(R2)으로 설정하거나, 구별할 수 있다.
일 실시예에 따르면, 전자 장치(1410)는 마이크를 통하여 수신된 소리(1423, 1435)의 수신 방향이 기 설정된 방향 또는 영역(R1)인지 여부에 따라 수신된 소리(1423, 1435)의 출력 이득을 다르게 설정할 수 있다. 예를 들어, 전자 장치(1410)는 마이크를 통하여 수신된 소리(1423, 1435)의 수신 방향이 기 설정된 방향 또는 영역(R1)인지 여부에 스피커를 통해 출력하는 소리의 볼륨(volume)을 변경할 수 있다.
도 15는 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(1510)는 웨어러블 장치로서 사용자(1501)에게 착용될 수 있다. 예를 들어, 전자 장치(1510)(예를 들어, 청각 장치)는 사용자(1501)의 귀의 일부분에 탈착 가능하도록 구성된 부분을 포함하는 하우징을 포함할 수 있다.
일 실시예에 따르면, 전자 장치(1510)(예를 들어, 청각 장치)는 제1 외부 장치(1520)(예를 들어, 스마트 TV 등)로부터 무선으로 오디오 데이터를 수신할 수 있다. 전자 장치(1510)는 제1 외부 장치(1520)로부터 오디오 데이터를 수신하는 중에 마이크를 이용하여 외부로부터의 소리(1523, 1535)를 수신할 수 있다. 예를 들어, 전자 장치(1510)는 제1 외부 전자 장치(1510)가 출력하는 소리(1523)를 수신할 수 있다. 예를 들어, 전자 장치(1510)는 다른 화자(1530)가 말하는 음성(1535)을 수신할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 제1 외부 장치(1520)로부터 수신한 오디오 데이터(1521) 및 전자 장치(1510)의 외부로부터 수신한 소리(1523, 1535) 각각에 대응하는 소리를 스피커를 통하여 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 스피커를 통하여 출력할 소리에 대한 데이터를 처리하여 오디오 데이터(1521) 및 마이크를 통하여 수신된 소리(1523. 1535)에 대한 볼륨 믹싱 비율을 조절할 수 있다. 예를 들어, 전자 장치(1510)는 마이크를 통하여 수신한 소리(1523. 1535)에 대응하는 소리를 오디오 데이터(1521)에 대응하는 소리에 대하여 동일한 볼륨, 상대적으로 큰 볼륨, 또는 상대적으로 작은 볼륨으로 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 오디오 데이터(1521) 및 마이크를 통하여 수신한 소리(1523, 1535)의 유사도(또는, 상관도)에 따라 스피커를 통하여 출력할 소리의 볼륨 믹싱 비율을 조정할 수 있다. 예를 들어, 전자 장치(1510)는 오디오 데이터(1521)와 수신한 소리(1523)의 유사도 또는 상관도가 기 설정된 기준 이상으로 높은 경우(예를 들어, 마이크를 통하여 수신한 소리(1523, 1535) 중에서 제1 외부 전자 장치(1520)가 출력하는 소리(1523)의 에너지가 일정 이상의 비율 이상인 경우)에는 마이크를 통하여 수신한 소리(1523, 1535)에 대응하는 소리의 상대적인 출력 세기를 감소시킬 수 있다. 예를 들어, 전자 장치(1510)는 오디오 데이터(1521)와 수신한 소리(1523)의 유사도 또는 상관도가 기 설정된 기준 미만인 경우(예를 들어, 마이크를 통하여 제1 외부 전자 장치(1520)의 주변 소리(1535)가 수신되거나, 제1 외부 전자 장치(1520)가 출력하는 소리(1523) 및 주변 소리(1535)가 함께 수신되는 경우 수신된 소리(1523, 1535) 중에서 주변 소리 소리(1535)의 에너지가 일정 비율 이상일 경우)에는 마이크를 통하여 수신한 소리(1523, 1535)에 대응하는 소리의 상대적인 출력 세기를 증가시킬 수 있다. 예를 들어, 제1 외부 전자 장치(1520)가 전송하는 오디오 데이터(1521)와 제1 외부 전자 장치(1520)가 스피커를 통하여 출력하는 소리(1523)는 동일한 소리에 대응될 수 있다. 따라서, 제1 외부 전자 장치(1520)가 출력하는 소리(1523)의 크기가 주변의 소리(1535)의 크기보다 더 큰 경우, 전자 장치(1510)가 수신한 오디오 데이터(1521)와 마이크를 통하여 수신한 소리(1523, 1535)에 관한 데이터의 유사도가 상대적으로 더 높을 수 있다. 반대로, 주변의 소리(1535)의 크기가 제1 외부 전자 장치(1520)가 출력하는 소리(1523)의 크기보다 더 큰 경우, 전자 장치(1510)가 수신한 오디오 데이터(1521)와 마이크를 통하여 수신한 소리(1523, 1535)에 관한 데이터의 유사도가 상대적으로 더 낮을 수 있다. 일 실시예에 따르면, 전자 장치(1510)는 오디오 데이터(1521) 및 수신한 소리(1523, 1535) 각각에 대응하는 소리를 스피커를 통하여 출력할 수 있다. 전자 장치(1510)는 오디오 데이터(1521) 및 수신한 소리(1523, 1535)에 관한 데이터의 유사도가 설정 값 이상인 경우, 오디오 데이터(1521)에 대응하는 소리의 상대적인 출력 세기를 더 높게 설정하고, 오디오 데이터(1521) 및 수신한 소리(1523, 1535)에 관한 데이터의 유사도가 설정값 미만인 경우, 수신한 소리(1523, 1535)에 대응하는 소리의 상대적인 출력 세기를 더 높게 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 제2 외부 장치(1540)(예를 들어, 휴대용 단말기 등)와 연동되어, 제2 외부 장치(1540)가 설정된 볼륨 믹싱 비율을 디스플레이에 표시하도록 할 수 있다. 예를 들어, 제2 외부 장치(1540)는 전자 장치(1510)로부터 수신한 신호 또는 데이터에 기반하여 디스플레이여 전자 장치(1510)가 출력하는 소리의 믹싱 비율을 표시할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 제1 외부 장치(1520)로부터 오디오 데이터(1521)를 수신하는 경우, 마이크를 통하여 수신하는 소리(1523. 1535)에 대한 출력 이득을 감소시킬 수 있다. 예를 들어, 사용자(1501)가 스마트 TV를 시청하는 경우, 전자 장치(1510)는 스마트 TV로부터 오디오 데이터(1521)를 수신할 수 있다. 전자 장치(1510)는 사용자(1501)가 TV를 시청하는 중에 외부 잡음 또는 소음을 차단하고, 제1 외부 장치(1520)가 전송하는 오디오 데이터(1521)와 제1 외부 장치(1520)가 출력하는 소리(1523)의 중첩으로 인한 에코 현상을 제거하기 위하여 마이크를 통하여 수신하는 소리(1523. 1535)의 출력 이득을 감소시킬 수 있다. 예를 들어, 전자 장치(1510)는, 사용자(1501)가 스마트 TV로부터 수신하는 오디오 데이터(1521)에 대응하는 소리만을 들을 수 있도록, 오디오 데이터(1521)에 대응하는 소리만을 출력할 수 있다. 예를 들어, 전자 장치(1510)는 스피커를 통하여 출력하는 소리에 대한 데이터 중에서 마이크를 통하여 수신한 소리(1523. 1535)에 대한 데이터의 출력 볼륨을 0으로 설정하거나, 낮은 크기로 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 외부로부터 수신된 소리(1523. 1535)의 방향을 감지할 수 있다. 전자 장치(1510)는 마이크를 통하여 수신된 소리(1523. 1535)의 수신 방향에 따라 출력 볼륨을 다르게 설정할 수 있다. 예를 들어, 전자 장치(1510)는 제1 외부 전자 장치(1510) 방향에서 수신되는 소리(1523)에 대한 출력 볼륨은 상대적으로 낮게 설정하고, 제1 외부 전자 장치(1510)와 다른 방향에서 수신되는 소리(1535)에 대한 출력 볼륨은 높게 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1510)는 제2 외부 장치(1540)로부터 수신한 신호 또는 데이터에 기반하여 스피커를 통하여 출력하는 소리의 볼륨 믹싱 비율을 조정할 수 있다. 예를 들어, 제2 외부 장치(1540)가 사용자(1501)로부터 볼륨 믹싱 비율을 조절하기 위한 입력을 수신한 경우, 전자 장치(1510)는 제2 외부 장치(1540)로부터 사용자(1501) 입력에 대응하는 신호 또는 데이터를 수신하고, 수신된 신호 또는 데이터에 기반하여 볼륨 믹싱 비율을 변경할 수 있다.
도 16은 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(1610)(예를 들어, 청각 장치)는 외부 장치(1620)(예를 들어, 스마트 TV 등)로부터 무선으로 오디오 데이터를 수신할 수 있다. 전자 장치(1610)는 외부 장치(1620)로부터 오디오 데이터를 수신하는 중에 마이크를 이용하여 외부로부터의 소리(1623, 1635)를 수신할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 외부 장치(1620)로부터 수신한 오디오 데이터(1621) 및 전자 장치(1610)의 외부로부터 수신한 소리(1623, 1635) 각각에 대응하는 소리를 스피커를 통하여 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 스피커를 통하여 출력할 소리에 대한 데이터를 처리하여 오디오 데이터(1621) 및 마이크를 통하여 수신된 소리(1623. 1635)에 대한 볼륨 믹싱 비율을 조절할 수 있다. 예를 들어, 전자 장치(1610)는 마이크를 통하여 수신한 소리(1623. 1635)에 대응하는 소리를 오디오 데이터(1621)에 대응하는 소리에 대하여 동일한 볼륨, 상대적으로 큰 볼륨, 또는 상대적으로 작은 볼륨으로 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 외부 장치(1620)로부터 오디오 데이터(1621)를 수신하는 경우, 마이크를 통하여 수신하는 소리(1623. 1635)에 대한 출력 이득을 감소시킬 수 있다. 예를 들어, 전자 장치(1610)는 스피커를 통하여 출력하는 소리에 대한 데이터 중에서 마이크를 통하여 수신한 소리(1623. 1635)에 대한 데이터의 출력 볼륨을 0으로 설정하거나, 낮은 크기로 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 마이크를 통하여 외부로부터 기 설정된 레벨(강도) 이상의 소리가 수신되거나, 기 설정된 시간 이상 수신한 무선 신호(예를 들어, 외부 전자 장치(1620)로부터 수신한 오디오 데이터(1621))와 상이한 소리가 수신되는 경우, 마이크를 통해 수신하는 소리(1623, 1635)에 대응하는 소리의 출력 볼륨을 증가시킬 수 있다. 예를 들어, 사용자(1601)가 스마트 TV를 시청 중인 경우, 주변의 화자(1630)가 지속적으로 또는 기 설정된 크기 이상의 목소리로 이야기하는 경우, 사용자(1601)는 주변 소리(예를 들어, 화자(1630)의 음성)을 인식하고, 마이크를 통하여 수신한 소리(화자(1630)의 음성(1635))의 볼륨 설정 값을 높여서 출력할 수 있다. 예를 들어, 전자 장치(1610)는 수신한 오디오 데이터(1521)와 마이크를 통하여 수신한 소리(1623, 1635)의 유사도를 판단하고, 오디오 데이터(1621)와 수신한 소리(1623, 1635)가 상이한 경우, 즉, 외부 전자 장치(1620)와 무관한 주변 소리(예를 들어, 주변의 화자(1630)의 음성(1635)가 수신된 경우에는 마이크를 통하여 수신한 소리(1623, 1635)의 볼륨 설정 값을 높여서 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 마이크를 통하여 수신한 소리(1623, 1635)의 수신 방향에 따라 스피커를 통하여 출력할 소리에 대한 데이터를 처리할 수 있다. 예를 들어, 전자 장치(1610)는 마이크를 통하여 수신된 소리(1623, 1635)에 관한 데이터를 수신 방향에 따라 다른 증폭 값으로 증폭하여 스피커를 통하여 출력할 수 있다. 예를 들어, 전자 장치(1610)는 출력할 소리에 대한 데이터 중에서 외부 전자 장치(1620)로부터 수신한 오디오 데이터(1621)에 대한 소리 및 마이크를 통하여 수신한 소리(1623, 1635)에 대한 데이터 각각에 대응하는 데이터의 상대적인 출력 세기를 조정할 수 있다.
일 실시예에 따르면 전자 장치(1610)는 마이크를 통하여 수신된 소리(1623, 1635)의 수신 방향이 기 설정된 방향인지(또는, 기 설정된 범위 내에 있는지)에 따라 상기 수신된 소리(1623, 1635)의 출력 이득을 다르게 설정할 수 있다. 예를 들어, 전자 장치(1610)는 외부 전자 장치(1620) 방향(예를 들어, 외부 전자 장치(1620) 방향의 일정 영역)으로부터 수신한 소리(1623)에 대한 증폭 값을 작은 값으로 설정하고, 외부 전자 장치(1620)와 다른 방향(예를 들어, 상기 외부 전자 장치(1620) 방향의 일정 영역을 제외한 영역)으로부터 수신한 소리(1635)에 대한 증폭 값을 큰 값으로 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 기준 방향 정보를 설정할 수 있다. 예를 들어, 전자 장치(1610)는 전자 장치(1610)를 기준으로 특정 방향 또는 특정 범위를 기준 방향 정보로 설정할 수 있다. 전자 장치는 외부 전자 장치(1620)의 방향 또는 외부 전자 장치(1620) 방향의 일정 범위를 기준 방향 정보로 설정할 수 있다. 일 실시예에 따르면, 전자 장치(1610)는 외부 전자 장치(1620)로부터 수신하는 오디오 데이터(1621)와 마이크를 통하여 수신한 소리(1623, 1635)에 대한 데이터를 비교한 결과에 따라 기준 방향 정보를 설정할 수 있다. 예를 들어, 전자 장치(1610)는 오디오 데이터(1621) 및 마이크를 통하여 수신한 소리(1623, 1635)에 대한 데이터의 유사도를 판단할 수 있다. 예를 들어, 전자 장치(1610)는 오디오 데이터(1621) 및 마이크를 통하여 수신한 소리(1623, 1635)에 대한 데이터의 유사도가 기 설정된 값 이상이 되는 범위를 기준 방향 정보로 설정할 수 있다. 전자 장치(1610)는 마이크를 통하여 수신한 소리(1623, 1635)의 수신 방향을 판단하고, 소리의 수신 방향이 기준 방향 정보에 대응하는지에 따라 스피커를 통해 출력하는 마이크를 통해 수신한 소리(1623, 1635)의 출력 세기를 조정할 수 있다. 예를 들어, 전자 장치(1610)는 소리의 수신 방향이 기준 방향 정보에 대응하는 경우, 마이크를 통하여 수신한 소리(1623)의 출력 세기를 감소시킬 수 있다. 전자 장치(1610)는 소리의 수신 방향이 기준 방향 정보와 상이한 경우, 마이크를 통하여 수신한 소리(1635)의 출력 세기를 증가시킬 수 있다. 예를 들어, 외부 전자 장치(1620)가 전송하는 신호(오디오 데이터)(1621)와 외부 전자 장치(1620)가 출력하는 소리(1623)는 서로 동일한 오디오 정보를 포함할 수 있다. 전자 장치(1610)는 외부 전자 장치(1620)로부터 오디오 데이터(1621)를 수신하는 경우, 외부 전자 장치(1620)의 방향에서 수신되는 소리(1623)에 대응하는 소리를 출력하지 않거나, 작은 크기로 출력할 수 있다. 전자 장치(1610)는 외부 전자 장치(1620)와 다른 방향에서 수신되는 소리(1635)에 대응하는 소리는 상대적으로 큰 볼륨(volume)으로 출력할 수 있다. 예를 들어, 전자 장치(1610)는 외부 전자 장치(1620)와 다른 방향에서 수신되는 소리(1635)에 대응하는 소리를 외부 전자 장치(1620)로부터 수신한 오디오 데이터(1621)에 대응하는 소리와 동일하거나 더 큰 볼륨(volume)으로 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 기 설정된 방향 또는 영역을 외부 전자 장치(1620)의 방향에 따라 설정할 수 있다. 예를 들어, 전자 장치(1610)는 외부 전자 장치(1620)로부터 수신한 신호(예를 들어, 오디오 데이터(1621) 등)에 기반하여 외부 전자 장치(1620)의 위치를 인식할 수 있다. 전자 장치(1610)는 외부 전자 장치(1620)의 위치를 확인하면, 외부 전자 장치(1620)의 방향 또는 외부 전자 장치(1620)의 위치를 포함하는 일정 영역을 설정할 수 있다. 전자 장치(1610)는 설정된 방향 또는 영역으로부터 수신되는 소리에 대한 출력 이득을 낮게 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 외부 전자 장치(1620)로부터 수신한 오디오 데이터(1621) 및 마이크를 통하여 수신된 소리(1623, 1635)를 비교한 결과에 따라 특정 방향 또는 특정 영역을 설정할 수 있다. 예를 들어, 전자 장치(1610)는 수신한 소리(1623, 1635)를 오디오 데이터(1621)와 동일한 포맷의 데이터로 변환할 수 있다. 전자 장치(1610)는 수신한 오디오 데이터(1621)와 수신한 소리(1623, 1635)에 대한 데이터의 유사도(similarity)를 판단할 수 있다. 전자 장치(1610)는 수신한 오디오 데이터(1621)와 수신한 소리(1623, 1635)에 대한 데이터의 유사도(similarity)(예를 들어, 데이터가 서로 유사한 비율)가 기 설정된 값 이상인지 미만인지 판단할 수 있다.
예를 들어, 전자 장치(1610)는 오디오 데이터(1621) 및 수신된 소리(1623)이 유사한 경우, 소리가 수신된 방향 또는 소리가 수시된 방향을 포함하는 일정 영역을 지정된 방향 또는 영역으로 설정할 수 있다. 예를 들어, 전자 장치(1610)는 오디오 데이터(1621) 및 수신된 소리(1635)가 상이한 경우, 이를 상기 설정된 방향 또는 영역과 별도의 영역으로 설정하거나, 구별할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 마이크를 통하여 수신된 소리(1623, 1635)의 수신 방향이 기 설정된 방향 또는 영역(R1)인지 여부에 따라 수신된 소리(1623, 1635)의 출력 이득을 다르게 설정할 수 있다. 예를 들어, 전자 장치(1610)는 마이크를 통하여 수신된 소리(1623, 1635)의 수신 방향이 기 설정된 방향 또는 영역(R1)인지 여부에 스피커를 통해 출력하는 소리의 볼륨(volume)을 변경할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 외부 장치(1620)로부터 수신한 오디오 데이터(1621)에 대응하는 소리를 출력하는 중에, 특정 방향으로 마이크의 방향성을 설정할 수 있다. 예를 들어, 전자 장치(1610)는 마이크를 통하여 외부로부터 기 설정된 레벨(강도) 이상의 소리가 수신되거나, 기 설정된 시간 이상 수신한 무선 신호(예를 들어, 외부 전자 장치(1620)로부터 수신한 오디오 데이터(1621))와 상이한 소리가 수신되는 경우, 상기 소리가 수신된 방향에 대하여 방향성을 설정할 수 있다. 일 실시예에 따르면, 전자 장치(1610)는 복수의 마이크를 통하여 소리를 수신할 수 있다. 전자 장치(1610)는 복수의 마이크에서 소리를 수신한 시간의 차이를 이용하여 수신한 소리의 방향을 인식할 수 있다. 예를 들어, 전자 장치(1610)는 동일한 소리가 복수의 마이크 각각을 통하여 수신된 시간의 차이를 분석하여 소리가 수신된 방향을 판단할 수 있다. 일 실시예에 따르면, 전자 장치(1610)는 소리가 수신된 방향을 확인한 후에, 복수의 마이크를 이용하여 소리가 수신된 방향으로 방향성을 설정할 수 있다.
일 실시예에 따르면, 전자 장치(1610)는 설정된 방향으로부터 수신되는 소리(1635)에 대응하는 소리의 출력 볼륨을 증가시킬 수 있다. 예를 들어, 전자 장치(1610)가 외부 장치(1620)로부터 수신한 오디오 데이터(1621)에 대응하는 소리만을 출력하는 중에, 외부로부터 기 설정된 레벨 또는 기 설정된 시간 이상 수신되는 소리(1635)를 감지하면, 수신된 소리(1635)의 방향에 빔 포밍(beam forming)을 설정할 수 있다. 예를 들어, 전자 장치(1610)는 외부로부터 기 설정된 레벨 또는 기 설정된 시간 이상 수신되는 소리(1635)를 감지하면, 상기 소리(1635)를 수신한 방향과 동일한 방향으로부터 수신하는 소리에 대한 출력 볼륨을 증가시킬 수 있다.
일 실시예에 따르면, 전자 장치(1610)는, 외부로부터 기 설정된 레벨(강도) 이상의 소리가 수신되거나, 기 설정된 시간 이상 같은 방향에서 소리가 수신되는 경우에도, 외부 장치(1620)와 동일한 방향으로부터 수신되는 소리(1623)에 대해서는 출력 볼륨을 증가시키지 않을 수 있다.
도 17은 본 발명의 다양한 실시예에 따른 전자 장치의 동작을 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(1710)(예를 들어, 청각 장치)는 제1 외부 장치(1720)(예를 들어, 스마트 TV 등)로부터 무선으로 오디오 데이터를 수신할 수 있다. 전자 장치(1710)는 제1 외부 장치(1720)로부터 오디오 데이터를 수신하는 중에 마이크를 이용하여 외부로부터의 소리(1723, 1735)를 수신할 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 제1 외부 장치(1720)로부터 수신한 오디오 데이터(1721) 및 전자 장치(1710)의 외부로부터 수신한 소리(1723, 1735) 각각에 대응하는 소리를 스피커를 통하여 출력할 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 스피커를 통하여 출력할 소리에 대한 데이터를 처리하여 오디오 데이터(1721) 및 마이크를 통하여 수신된 소리(1723. 1735)에 대한 볼륨 믹싱 비율을 조절할 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 제2 외부 장치(1740)(예를 들어, 휴대용 단말기 등)와 연동되어, 제2 외부 장치(1740)가 설정된 볼륨 믹싱 비율을 디스플레이에 표시하도록 할 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 외부로부터 수신한 소리(1723. 1735)의 방향을 감지할 수 있다. 일 실시예에 따르면, 전자 장치(1710)는 수신한 소리(1723, 1735)가 제1 외부 장치(1720)의 방향으로부터 수신한 소리인지 아닌지 판단할 수 있다. 예를 들어, 전자 장치(1710)는 제1 외부 장치(1720)로부터 수신한 오디오 데이터(1721)과 마이크를 통하여 수신한 소리의 유사도를 판단할 수 있다. 예를 들어, 전자 장치(1710)는 오디오 데이터(1721)와 마이크를 통하여 수신한 소리(1723)의 유사도가 기 설정된 기준값 이상인 경우, 수신한 소리(1723)가 제1 외부 장치(1720) 방향으로부터 수신된 것으로 판단할 수 있다. 예를 들어, 전자 장치(1710)는 오디오 데이터(1721)와 마이크를 통하여 수신한 소리의 유사도가 기 설정된 기준값 미만인 경우(즉, 마이크를 통하여 주변의 소리(1635)를 수신한 경우)에는 제1 외부 장치(1720)와 다른 방향으로부터 소리가 수신된 것으로 판단할 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 제1 외부 장치(1720)의 위치와 다른 방향으로부터 소리(예를 들어, 다른 화자(1730)의 음성(1735) 등)를 수신하는 경우, 알림을 출력할 수 있다. 예를 들어, 전자 장치(1710)는 스피커를 통해 경고음을 출력하거나, 진동을 발생시킬 수 있다. 예를 들어, 전자 장치(1710)는 제1 외부 장치(1720)와 상이한 방향으로부터 소리(1735)를 수신하는 경우, 사용자에게 제1 외부 장치로부터 수신한 오디오 데이터(1721)와 상이한 소리가 수신되었음을 청각 또는 촉각적으로 알려줄 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 제1 외부 장치(1720)으로부터 수신한 오디오 데이터와 마이크를 통하여 수신한 소리(1721, 1735)에 대한 데이터를 비교할 수 있다. 전자 장치(1710)는 오디오 데이터(1721)와 마이크를 통하여 수신한 소리(1721, 1735)에 대한 데이터가 서로 상이한 경우 알림을 출력할 수 있다. 예를 들어, 전자 장치는 오디오 데이터(1721)와 마이크를 통하여 수신한 소리(1721, 1735)에 대한 데이터의 유사도가 기 설정된 값 미만인 경우, 알림을 출력할 수 있다. 예를 들어, 전자 장치(1710)는 제2 외부 전자 장치(1720)이 출력한 소리(1723)를 수신한 경우에는, 오디오 데이터(1721)와 수신한 소리(1723)에 대한 데이터의 유사도가 기 설정된 값 이상인 것으로 판단하고, 알림을 출력하지 않을 수 있다. 전자 장치(1710)는 주변의 소리(예를 들어, 다른 화자(1730)의 음성(1735) 등)를 수신한 경우에는, 오디오 데이터(1721)와 수신한 소리(1723)에 대한 데이터의 유사도가 기 설정된 값 미만인 것으로 판단하고, 알림을 출력할 수 있다. 예를 들어, 전자 장치(1710)는 스피커를 통해 경고음을 출력하거나, 진동을 발생시킬 수 있다.
일 실시예에 따르면, 전자 장치(1710)는 알림(예를 들어, 알림음 또는 진동)을 직접 출력하는 대신 외부 장치(1720, 1740)가 알림을 출력하도록 하는 신호 또는 명령을 외부 장치(1720, 1740)에 전송할 수 있다. 예를 들어, 전자 장치(1710)는 제1 외부 장치(예를 들어, 스마트 TV 등)(1720)가 디스플레이의 적어도 일부분에 알림 메시지(1727)를 표시하도록 하는 명령을 제1 외부 장치(1720)에 전송할 수 있다. 제1 외부 장치(1720)는 전자 장치(1710)로부터 수신한 신호에 응답하여 디스플레이에 알림 메시지(1727)를 표시할 수 있다. 예를 들어, 전자 장치(1710)는 제2 외부 장치(예를 들어, 휴대용 단말기 등)(1740)가 디스플레이의 적어도 일부분에 알림 메시지(1747)를 표시하도록 하는 명령 또는 제2 외부 장치(1740)가 진동을 발생하도록 하는 명령을 제2 외부 장치(1740)에 전송할 수 있다. 제2 외부 장치(1740)는 전자 장치(1710)로부터 수신한 신호에 응답하여 디스플레이에 알림 메시지(1747)를 표시하거나, 진동을 발생시킬 수 있다.
도 18은 본 발명의 다양한 실시예에 따른 전자 장치의 동작 제어 방법의 순서도이다.
1805 동작에서, 전자 장치는 외부 장치로부터 오디오 데이터를 수신할 수 있다. 예를 들어, 전자 장치는 외부 장치(예를 들어, 스마트 TV 또는 음향 기기 등)로부터 컨텐츠를 스트리밍 받을 수 있다.
1810 동작에서, 전자 장치는 마이크를 통해 외부로부터 소리를 수신할 수 있다. 예를 들어, 전자 장치는 외부 장치로부터 오디오 데이터를 수신하는 중에 마이크를 통하여 소리를 수신할 수 있다. 전자 장치는 수신한 소리에 대한 데이터를 적어도 임시로 저장할 수 있다. 전자 장치는 소리를 수신한 방향에 대한 정보를 수신한 소리에 데이터에 함께 저장할 수 있다. 예를 들어, 전자 장치는 수신한 소리를 오디오 데이터와 동일한 포맷의 데이터로 변환 및 저장할 수 있다.
1815 동작에서, 전자 장치는 오디오 데이터 및 수신한 소리에 대한 데이터를 비교할 수 있다. 예를 들어, 전자 장치는 오디오 데이터 및 수신한 소리에 대한 데이터의 유사도(similarity)를 판단할 수 있다.
1820 동작에서, 전자 장치는 오디오 데이터 및 소리에 관한 데이터의 유사도에 따라 기준 방향 정보를 설정할 수 있다. 예를 들어, 전자 장치는 오디오 데이터 및 소리에 관한 데이터의 유사도에 따라 특정 방향 또는 특정 범위를 기준 방향 정보로 설정할 수 있다. 예를 들어, 전자 장치는 오디오 데이터 및 소리에 관한 데이터의 유사도가 기 설정된 값 이상인 경우, 상기 소리가 수신된 방향 또는 상기 소리가 수신된 방향을 포함하는 일정 범위를 기준 방향 정보로 설정할 수 있다. 전자 장치는 오디오 데이터 및 소리에 관한 데이터의 유사도 미만인 경우, 상기 소리가 수신된 방향 또는 상기 소리가 수신된 방향을 포함하는 일정 범위를 상기 기준 방향 정보에서 제외되도록 설정할 수 있다. 상기 기준 방향 정보는 전자 장치를 기준으로 특정 방향 또는 특정 범위(예를 들어, 전자 장치를 기준으로 특정 각도 내의 범위)를 지정한 정보일 수 있다. 예를 들어, 전자 장치는 각 방향에서 수신된 소리에 대한 데이터와 오디오 데이터의 유사도를 기반으로, 유사도가 기 설정된 값 이상인 소리들이 수신되는 범위를 기준 방향 정보로 설정할 수 있다.
1825 동작에서, 전자 장치는 전자 장치의 상태 또는 자세의 변화 또는 움직임을 감지할 수 있다. 예를 들어, 전자 장치는 센서를 이용하여 전자 장치의 상태 또는 자세의 변화 및 움직임을 감지할 수 있다. 전자 장치는 전자 장치의 상태 또는 자세의 변화 및 움직임을 감지하면, 1830 동작을 수행하고, 전자 장치의 상태 또는 자세의 변화 및 움직임이 검출되지 않으면, 1835 동작을 수행할 수 있다.
1830 동작에서, 전자 장치는 기준 방향 정보를 변경할 수 있다. 예를 들어, 전자 장치는 기준 방향 정보를 전자 장치의 정면 방향 또는 정면 일부 범위로 설정하였던 경우, 전자 장치가 우측 방향으로 회전함에 따라 기준 방향 정보를 전자 장치의 왼쪽 방향으로 변경할 수 있다. 예를 들어, 전자 장치(예를 들어, 청각 장치)가 외부 전자 장치가 위치하는 정면 방향을 기준 방향 정보로 설정한 경우, 전자 장치를 착용한 사용자의 움직임에 따라 전자 장치의 방향이 변경될 수 있다. 이 경우, 전자 장치는 외부 전자 장치가 위치하는 방향을 기준 방향 정보로 유지하기 위하여, 전자 장치의 변경된 방향에 대응하여 기준 방향 정보를 변경할 수 있다. 예를 들어, 전자 장치를 귀에 착용 중인 사용자가 머리를 우측으로 돌리는 경우, 전자 장치의 정면에 위치하였던 외부 전자 장치는 전자 장치의 좌측에 위치하게 된다. 따라서, 전자 장치는 정면으로 설정하였던 기준 방향 정보를 좌측 방향으로 재설정 할 수 있다.
1835 동작에서, 전자 장치는 마이크를 통하여 외부 소리를 수신할 수 있다. 다양한 실시예들에 따르면, 전자 장치는 기준 방향 정보를 설정한 후 또는 기준 방향 정보를 설정하는 동안에도 마이크를 통하여 외부의 소리 및 오디오 데이터를 수신할 수 있다.
1840 동작에서, 전자 장치는 소리를 수신한 방향이 설정된 기준 방향 정보와 상이한지 판단할 수 있다. 예를 들어, 전자 장치는 마이크를 통하여 수신한 소리에 대한 데이터에서 소리를 수신한 방향에 대한 정보를 추출할 수 있다. 전자 장치는 추출한 방향에 대한 정보와 기준 방향 정보를 비교할 수 있다. 예를 들어, 전자 장치는 소리가 수신된 방향이 기준 방향 정보의 방향과 일치하는지 또는 기준 방향 정보에 포함된 범위 내에 있는지 판단할 수 있다.
1845 동작에서, 전자 장치는 소리를 수신한 방향이 기준 방향 정보에 대응되는 경우, 마이크를 통해 수신한 소리에 대한 상대적인 출력 세기를 감소시킬 수 있다. 예를 들어, 전자 장치는 스피커를 통해 출력할 소리에 대한 데이터 중에서 외부 장치로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 소리에 대응되는 데이터의 볼륨 믹싱 비율을 조정할 수 있다. 예를 들어, 전자 장치는 오디오 데이터에 대하여 마이크를 통하여 수신한 소리에 대응하는 소리의 상대적인 출력 볼륨을 증가시킬 수 있다.
1850 동작에서, 전자 장치는 소리를 수신한 방향이 기준 방향 정보와 상이한 경우, 알림을 출력할 수 있다. 예를 들어, 전자 장치는 알림음을 출력하거나, 진동을 발생시킬 수 있다. 또는, 전자 장치는 외부 장치가 알림 메시지를 디스플레이에 표시하거나, 진동을 발생시키도록 하는 신호 또는 명령을 외부 장치에 전송할 수 있다.
1855 동작에서, 전자 장치는 소리를 수신한 방향이 기준 방향 정보와 상이한 경우, 마이크를 통해 수신한 소리에 대한 상대적인 출력 세기를 증가시킬 수 있다. 예를 들어, 전자 장치는 스피커를 통해 출력할 소리에 대한 데이터 중에서 외부 장치로부터 수신한 오디오 데이터 및 마이크를 통하여 수신한 소리에 대응되는 데이터의 볼륨 믹싱 비율을 조정할 수 있다. 예를 들어, 전자 장치는 오디오 데이터에 대하여 마이크를 통하여 수신한 소리에 대응하는 소리의 상대적인 출력 볼륨을 감소시킬 수 있다.
1860 동작에서, 전자 장치는 외부 장치로부터의 사용자 입력 수신을 감지할 수 있다. 예를 들어, 외부 장치(예를 들어, 휴대용 단말기 등)가 사용자로부터 전자 장치의 설정(예를 들어, 기준 방향 정보 또는 볼륨 믹싱 비율 등)을 변경하기 위한 입력을 수신한 경우, 외부 장치는 전자 장치에 사용자 입력에 대응하는 명령 또는 데이터를 전자 장치에 전송할 수 있다. 전자 장치는 외부 장치로부터 특정 신호(예를 들어, 사용자 입력에 관련된 명령 또는 데이터)의 수신 여부를 감지할 수 있다. 전자 장치는 외부 장치로부터 사용자 입력을 수신하면 1865 동작을 수행하고, 외부 장치로부터 사용자 입력을 수신하지 않은 경우 1870 동작을 수행할 수 있다.
1865 동작에서, 전자 장치는 사용자 입력에 따라 오디오 데이터 또는 수신한 소리에 대한 출력 세기를 조정할 수 있다. 예를 들어, 전자 장치는 사용자 입력에 따라 스피커를 통하여 출력하는 소리 중에서 오디오 데이터 또는 수신한 소리 각각에 대한 볼륨 믹싱 비율을 변경할 수 있다.
1870 동작에서, 전자 장치는 설정된 볼륨 믹싱 비율(예를 들어, 오디오 데이터 및 마이크를 통하여 수신한 소리 각각에 대하여 설정된 출력 볼륨 크기)에 따라 스피커를 통하여 오디오 데이터 및 마이크를 통하여 수신한 소리 각각에 대응하는 소리를 출력할 수 있다.
본 발명의 다양한 실시예들에 따르면, 전자 장치는 도 18 및 상기 관련 설명에서 개시된 전자 장치의 동작들의 전부 또는 일부를 다른 순서로 동작하거나, 일부의 동작을 생략하고 동작할 수 있다.
본 발명의 일 실시예에 따른 전자 장치의 동작 제어 방법은, 외부 전자 장치로부터 오디오 데이터를 수신하는 동작, 적어도 하나의 마이크를 통하여 상기 전자 장치 외부의 소리를 수신하는 동작, 상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하는 동작 및 상기 소리가 수신된 방향에 대한 정보를 기반으로, 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 출력되는 소리에 대한 데이터를 처리하는 동작에서, 전자 자치는 상기 스피커를 통하여 출력되는 소리에 대한 데이터 중에서 상기 수신한 오디오 데이터에 대응하는 소리 또는 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 조정할 수 있다.
일 실시예에 따르면, 상기 출력되는 소리에 대한 데이터를 처리하는 동작은, 상기 소리가 수신된 방향에 대한 정보를 기 설정된 기준 방향 정보와 비교하는 동작 및 상기 방향에 대한 정보를 상기 기준 방향 정보와 비교한 결과에 따라 상기 출력할 소리에 대한 데이터를 처리하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 출력되는 소리에 대한 데이터를 처리하는 동작은, 상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하는 동작 및 상기 유사도 및 상기 추출한 소리가 수신된 방향에 대한 정보를 이용하여 상기 기준 방향 정보를 설정하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 출력되는 소리에 대한 데이터를 처리하는 동작은, 상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하는 동작 및 상기 유사도가 기 설정된 값 이상인 경우, 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 감소시키는 동작 및 상기 유사도가 기 설정된 값 미만인 경우 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 증가시키는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 출력되는 소리에 대한 데이터를 처리하는 동작에서, 전자 장치는 상기 유사도가 기 설정된 값 미만인 경우, 상기 스피커를 이용하여 알림을 출력하거나, 또는 상기 외부 전자 장치가 알림 메시지를 출력하도록 하는 명령을 상기 외부 전자 장치에 전송할 수 있다.
일 실시예에 따르면, 상기 출력되는 소리에 대한 데이터를 처리하는 동작은, 상기 기 설정된 방향 정보를 기반으로, 상기 마이크를 통하여 수신된 소리에 관한 데이터 중 일정 범위의 방향으로부터 수신된 소리에 대응하는 데이터를 추출하는 동작 및 추출한 데이터에 대응하는 소리의 출력 세기를 조정하는 동작을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (20)

  1. 전자 장치에 있어서,
    외부로부터 소리를 수신하고, 상기 소리가 수신되는 방향을 감지하도록 구성된 적어도 하나의 마이크;
    소리를 출력하는 스피커;
    외부 전자 장치로부터 오디오 데이터를 수신하는 통신 회로;
    상기 적어도 하나의 마이크. 상기 스피커, 상기 통신 회로와 전기적으로 연결된 프로세서; 및
    상기 프로세서와 전기적으로 연결된 적어도 하나의 메모리를 포함하고,
    상기 메모리는, 실행 시에, 상기 프로세서가,
    상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하고,
    상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고,
    상기 유사도 및 상기 소리가 수신된 방향에 대한 정보를 기반으로, 상기 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하도록 하는 인스트럭션(instruction)들을 저장하는 것을 특징으로 하는 전자 장치.
  2. 제1항에 있어서,
    사용자의 귀의 일부분에 탈착 가능하도록 구성된 부분을 포함하는 하우징을 더 포함하고,
    상기 적어도 하나의 마이크, 상기 스피커, 상기 통신 회로, 상기 프로세서, 상기 메모리는 상기 하우징에 포함되는 것을 특징으로 하는 전자 장치.
  3. 제1항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 스피커를 통하여 출력되는 소리에 대한 데이터 중에서 상기 수신한 오디오 데이터에 대응하는 소리 또는 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 조정하도록 하는 것을 특징으로 하는 전자 장치.
  4. 제1항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 소리가 수신된 방향에 대한 정보를 기 설정된 기준 방향 정보와 비교하고,
    상기 방향에 대한 정보를 상기 기준 방향 정보와 비교한 결과에 따라 상기 출력할 소리에 대한 데이터를 처리하도록 하는 것을 특징으로 하는 전자 장치.
  5. 제4항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 유사도 및 상기 소리가 수신된 방향에 대한 정보를 이용하여 상기 기준 방향 정보를 설정하도록 하는 것을 특징으로 하는 전자 장치.
  6. 제1항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고,
    상기 유사도가 기 설정된 값 이상인 경우, 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 감소시키도록 하는 것을 특징으로 하는 전자 장치.
  7. 제6항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 유사도가 기 설정된 값 미만인 경우 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 증가시키도록 하는 것을 특징으로 하는 전자 장치.
  8. 제4항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 유사도가 기 설정된 값 미만인 경우, 상기 스피커를 이용하여 알림을 출력하거나, 또는 상기 외부 전자 장치가 알림 메시지를 출력하도록 하는 명령을 상기 외부 전자 장치에 전송하도록 하는 것을 특징으로 하는 전자 장치.
  9. 제3항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    제2 외부 전자 장치로부터 수신한 신호 또는 데이터에 기반하여, 상기 수신한 오디오 데이터에 대응하는 소리의 출력 세기 또는 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 조정하도록 하는 것을 특징으로 하는 전자 장치.
  10. 제1항에 있어서,
    상기 전자 장치의 상태, 자세, 또는 움직임을 검출하는 센서를 더 포함하고,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 센서를 이용하여 검출된 상기 전자 장치의 상태, 자세, 또는 움직임 중 적어도 일부 관련된 데이터를 기반으로 상기 기준 방향 정보를 설정하도록 하는 것을 특징으로 하는 전자 장치.
  11. 제2항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 기 설정된 방향 정보를 기반으로, 상기 마이크를 통하여 수신된 소리에 관한 데이터 중 일정 범위의 방향으로부터 수신된 소리에 대응하는 데이터를 추출하고,
    추출한 데이터에 대응하는 소리의 출력 세기를 조정하도록 하는 것을 특징으로 하는 전자 장치.
  12. 제1항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 외부 장치로부터 수신된 신호를 기반으로, 상기 외부 전자 장치가 위치하는 방향을 인식하고,
    상기 수신된 소리에 관한 데이터 중 상기 외부 전자 장치가 위치하는 방향의 기 설정된 범위로부터 수신된 소리에 관한 데이터를 추출하고,
    상기 기 설정된 범위로부터 수신된 소리에 대응하는 소리의 출력 세기를 조정하도록 하는 것을 특징으로 하는 전자 장치.
  13. 전자 장치의 동작 제어 방법에 있어서,
    외부 전자 장치로부터 오디오 데이터를 수신하는 동작;
    적어도 하나의 마이크를 통하여 상기 전자 장치 외부의 소리를 수신하는 동작;
    상기 적어도 하나의 마이크를 통하여 수신한 소리에 관한 데이터로부터 소리가 수신된 방향에 대한 정보를 추출하는 동작; 및
    상기 소리가 수신된 방향에 대한 정보를 기반으로, 스피커를 통하여 출력되는 소리에 대한 데이터를 처리하는 동작을 포함하는 전자 장치의 동작 제어 방법.
  14. 제13항에 있어서, 상기 출력되는 소리에 대한 데이터를 처리하는 동작은
    상기 스피커를 통하여 출력되는 소리에 대한 데이터 중에서 상기 수신한 오디오 데이터에 대응하는 소리 또는 상기 수신한 소리에 관한 데이터에 대응하는 소리의 출력 세기를 조정하는 것을 특징으로 하는 전자 장치의 동작 제어 방법.
  15. 청각 장치에 있어서,
    외부로부터 소리를 수신하는 적어도 하나의 마이크;
    소리를 출력하는 스피커;
    외부 전자 장치로부터 오디오 데이터를 수신하는 통신 회로;
    상기 적어도 하나의 마이크. 상기 스피커, 상기 통신 회로와 전기적으로 연결된 프로세서; 및
    상기 프로세서와 전기적으로 연결된 적어도 하나의 메모리를 포함하고,
    상기 메모리는, 실행 시에, 상기 프로세서가,
    상기 통신 회로에서 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터를 비교하고,
    상기 마이크를 통하여 수신된 소리를 상기 스피커를 통하여 소리로 출력하는 것을 제어하는 인스트럭션(instruction)들을 저장하는 것을 특징으로 하는 전자 장치.
  16. 제15항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 통신 회로에서 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고,
    상기 유사도를 기반으로, 상기 오디오 데이터를 전송하는 상기 외부 전자 장치의 방향을 판단하도록 하는 것을 특징으로 하는 전자 장치.
  17. 제16항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 소리에 대한 데이터에 기초하여 상기 마이크를 통하여 수신한 소리가 수신된 방향을 판단하고,
    상기 소리가 수신된 방향과 상기 외부 전자 장치의 방향을 비교한 결과를 기반으로, 상기 스피커를 통하여 출력하는 상기 마이크를 통하여 수신된 소리의 출력 세기를 조정하도록 하는 것을 특징으로 하는 전자 장치.
  18. 제17항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 소리가 수신된 방향이 상기 외부 전자 장치의 방향인 경우 상기 마이크를 통하여 수신된 소리의 출력 세기를 감소시키고, 상기 소리가 수신된 방향이 상기 외부 전자 장치의 방향이 아닌 경우 상기 마이크를 통하여 수신된 소리의 출력 세기를 증가시키도록 하는 것을 특징으로 하는 전자 장치.
  19. 제15항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 수신한 오디오 데이터에 대응하는 소리 및 상기 마이크를 통하여 수신한 소리에 대응하는 소리를 상기 스피커를 통하여 출력하도록 하는 것을 특징으로 하는 전자 장치.
  20. 제19항에 있어서,
    상기 인스트럭션들은, 상기 프로세서가,
    상기 수신한 오디오 데이터 및 상기 마이크를 통하여 수신한 소리에 관한 데이터의 유사도를 판단하고,
    상기 유사도가 설정된 기준 값 이상인 경우, 상기 수신한 오디오 데이터에 대응하는 소리의 출력 세기를 상기 마이크를 통하여 수신한 소리에 대응하는 소리의 출력 세기보다 상대적으로 높게 설정하고,
    상기 유사도가 설정된 기준 값 미만인 경우, 상기 수신한 오디오 데이터에 대응하는 소리의 출력 세기를 상기 마이크를 통하여 수신한 소리에 대응하는 소리의 출력 세기보다 상대적으로 낮게 설정하도록 하는 것을 특징으로 하는 전자 장치.
PCT/KR2016/013265 2015-12-24 2016-11-17 전자 장치 및 전자 장치의 동작 제어 방법 WO2017111319A1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
EP16879186.1A EP3379404B1 (en) 2015-12-24 2016-11-17 Electronic device and method for controlling operation of electronic device
US16/064,558 US10489109B2 (en) 2015-12-24 2016-11-17 Electronic device and method for controlling operation of electronic device
CN201680075699.5A CN108431764B (zh) 2015-12-24 2016-11-17 电子设备和用于控制电子设备操作的方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2015-0186133 2015-12-24
KR1020150186133A KR102549689B1 (ko) 2015-12-24 2015-12-24 전자 장치 및 전자 장치의 동작 제어 방법

Publications (1)

Publication Number Publication Date
WO2017111319A1 true WO2017111319A1 (ko) 2017-06-29

Family

ID=59090759

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2016/013265 WO2017111319A1 (ko) 2015-12-24 2016-11-17 전자 장치 및 전자 장치의 동작 제어 방법

Country Status (5)

Country Link
US (1) US10489109B2 (ko)
EP (1) EP3379404B1 (ko)
KR (1) KR102549689B1 (ko)
CN (1) CN108431764B (ko)
WO (1) WO2017111319A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200265838A1 (en) * 2017-10-17 2020-08-20 Samsung Electronics Co., Ltd. Electronic device and operation method therefor

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7031344B2 (ja) * 2018-02-13 2022-03-08 富士フイルムビジネスイノベーション株式会社 情報処理装置、情報処理システムおよびプログラム
KR102114102B1 (ko) * 2018-09-19 2020-05-22 주식회사 이엠텍 뉴럴 네트워크를 통한 음성 증폭 시스템
CN111343610A (zh) * 2018-12-19 2020-06-26 上海博泰悦臻电子设备制造有限公司 资源共享方法以及资源共享系统
CN109889670B (zh) * 2019-03-28 2021-01-22 努比亚技术有限公司 一种来电亮屏显示系统及其控制方法
US10540700B1 (en) * 2019-04-11 2020-01-21 RoboSystems, Inc. Personal shopping assistant
KR20210122568A (ko) * 2020-04-01 2021-10-12 삼성전자주식회사 전자 장치 및 그의 오디오 출력을 제어하는 방법
CN111503830B (zh) * 2020-04-26 2021-11-16 珠海格力电器股份有限公司 空调器的控制方法及装置、空调器
WO2022042635A1 (zh) * 2020-08-31 2022-03-03 华为技术有限公司 一种唤醒识别方法、音频装置以及音频装置组
EP4258686A1 (en) 2021-01-13 2023-10-11 Samsung Electronics Co., Ltd. Electronic device for measuring posture of user and method therefor
KR20220102311A (ko) * 2021-01-13 2022-07-20 삼성전자주식회사 사용자의 자세를 측정하기 위한 전자 장치 및 그 방법
CN112817503B (zh) * 2021-01-18 2024-03-26 陈林斌 电子相框的智能显示方法、电子相框及可读存储介质
CN112927711A (zh) * 2021-01-20 2021-06-08 维沃移动通信有限公司 智能眼镜的音频参数调节方法及装置
CN115240678B (zh) * 2022-09-21 2022-12-09 深圳市英特飞电子有限公司 一种智能语音识别装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120026837A1 (en) * 2010-07-28 2012-02-02 Empire Technology Development Llc Sound direction detection
US20130222230A1 (en) * 2012-02-29 2013-08-29 Pantech Co., Ltd. Mobile device and method for recognizing external input
US20140003611A1 (en) * 2012-07-02 2014-01-02 Qualcomm Incorporated Systems and methods for surround sound echo reduction
US20150023514A1 (en) * 2012-03-23 2015-01-22 Dolby Laboratories Licensing Corporation Method and Apparatus for Acoustic Echo Control
WO2015107382A1 (en) * 2014-01-06 2015-07-23 Alcatel Lucent Method and device for packet acoustic echo cancellation

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4044252A (en) * 1975-01-02 1977-08-23 Bell Telephone Laboratories, Incorporated Separation of chemical species
SU974613A1 (ru) 1978-06-28 1982-11-15 Специальное Конструкторско-Технологическое Бюро С Опытным Производством Института Физики Ан Бсср Плазменный генератор
JP5514698B2 (ja) * 2010-11-04 2014-06-04 パナソニック株式会社 補聴器
US8660581B2 (en) * 2011-02-23 2014-02-25 Digimarc Corporation Mobile device indoor navigation
US9037458B2 (en) * 2011-02-23 2015-05-19 Qualcomm Incorporated Systems, methods, apparatus, and computer-readable media for spatially selective audio augmentation
KR101398466B1 (ko) 2012-06-01 2014-05-27 임용무 음향조절 어플리케이션이 저장된 휴대단말
CN203522901U (zh) * 2013-07-04 2014-04-02 深圳Tcl新技术有限公司 声音自动调节装置及电视机
KR102109739B1 (ko) 2013-07-09 2020-05-12 삼성전자 주식회사 위치 기반 소리 출력 방법 및 장치
KR20150074642A (ko) * 2013-12-24 2015-07-02 삼성전자주식회사 음향 출력 장치에 입력된 외부 소리 신호에 대한 정보를 출력하는 방법 및 장치.
US9615170B2 (en) * 2014-06-09 2017-04-04 Harman International Industries, Inc. Approach for partially preserving music in the presence of intelligible speech
US20160165350A1 (en) * 2014-12-05 2016-06-09 Stages Pcs, Llc Audio source spatialization

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120026837A1 (en) * 2010-07-28 2012-02-02 Empire Technology Development Llc Sound direction detection
US20130222230A1 (en) * 2012-02-29 2013-08-29 Pantech Co., Ltd. Mobile device and method for recognizing external input
US20150023514A1 (en) * 2012-03-23 2015-01-22 Dolby Laboratories Licensing Corporation Method and Apparatus for Acoustic Echo Control
US20140003611A1 (en) * 2012-07-02 2014-01-02 Qualcomm Incorporated Systems and methods for surround sound echo reduction
WO2015107382A1 (en) * 2014-01-06 2015-07-23 Alcatel Lucent Method and device for packet acoustic echo cancellation

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3379404A4 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200265838A1 (en) * 2017-10-17 2020-08-20 Samsung Electronics Co., Ltd. Electronic device and operation method therefor
US11551683B2 (en) * 2017-10-17 2023-01-10 Samsung Electronics Co., Ltd. Electronic device and operation method therefor

Also Published As

Publication number Publication date
KR20170076181A (ko) 2017-07-04
CN108431764A (zh) 2018-08-21
EP3379404A4 (en) 2018-12-05
EP3379404B1 (en) 2023-01-04
KR102549689B1 (ko) 2023-06-30
EP3379404A1 (en) 2018-09-26
CN108431764B (zh) 2022-04-05
US20190026067A1 (en) 2019-01-24
US10489109B2 (en) 2019-11-26

Similar Documents

Publication Publication Date Title
WO2017111319A1 (ko) 전자 장치 및 전자 장치의 동작 제어 방법
WO2017043828A1 (ko) 전자 장치 및 전자 장치의 동작 제어 방법
WO2018174545A1 (en) Method and electronic device for transmitting audio data to multiple external devices
WO2017099354A1 (en) Electronic device and operating method thereof
WO2018131775A1 (ko) 전자 장치 및 그의 동작 방법
WO2017026652A1 (en) Method and apparatus for outputting audio in electronic device
EP3520434A1 (en) Method for detecting wrong positioning of earphone, and electronic device and storage medium therefor
WO2020141824A2 (en) Processing method of audio signal and electronic device supporting the same
WO2017146402A1 (en) Server and method of controlling user environment by server
WO2018135753A1 (ko) 전자 장치 및 그의 동작 방법
WO2016195362A1 (en) Electronic device for outputting message and method for controlling the same
WO2017022899A1 (en) Electronic apparatus and method for adjusting intensity of sound of an external device
WO2018110959A1 (en) Electronic device, storage medium, and method of processing audio signal by electronic device
WO2017126858A1 (ko) 음성통화 중 영상을 전송하는 방법 및 장치
WO2017010803A1 (en) Method for operating electronic device, and electronic device
WO2016056858A2 (en) Method for sharing screen and electronic device thereof
WO2018097557A2 (en) Electronic device including antenna
WO2020027498A1 (en) Electronic device and method for determining electronic device to perform speech recognition
WO2016137228A1 (en) Electronic device employing level-based transmission of configuration information
WO2015142114A1 (en) Method of call forwarding between devices
WO2020166944A1 (en) Sound outputting device including plurality of microphones and method for processing sound signal using plurality of microphones
WO2017034166A1 (en) Method for processing sound by electronic device and electronic device thereof
WO2016190619A1 (ko) 전자 장치 및 게이트웨이와 그 제어 방법
WO2017171137A1 (ko) 보청장치, 휴대장치 및 그 제어방법
EP3374914A1 (en) Electronic device and operating method thereof

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 16879186

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2016879186

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2016879186

Country of ref document: EP

Effective date: 20180621