WO2022019476A1 - 음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치 - Google Patents

음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치 Download PDF

Info

Publication number
WO2022019476A1
WO2022019476A1 PCT/KR2021/007028 KR2021007028W WO2022019476A1 WO 2022019476 A1 WO2022019476 A1 WO 2022019476A1 KR 2021007028 W KR2021007028 W KR 2021007028W WO 2022019476 A1 WO2022019476 A1 WO 2022019476A1
Authority
WO
WIPO (PCT)
Prior art keywords
voice data
electronic device
external device
output
external
Prior art date
Application number
PCT/KR2021/007028
Other languages
English (en)
French (fr)
Inventor
안중열
허승윤
김강열
김민석
양재모
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2022019476A1 publication Critical patent/WO2022019476A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H04S7/30—Control circuits for electronic adaptation of the sound field
    • H04S7/302—Electronic adaptation of stereophonic sound system to listener position or orientation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S1/00—Two-channel systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S1/00—Two-channel systems
    • H04S1/002—Non-adaptive circuits, e.g. manually adjustable or static, for enhancing the sound image or the spatial distribution
    • H04S1/005—For headphones
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S3/00—Systems employing more than two channels, e.g. quadraphonic
    • H04S3/008—Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04S—STEREOPHONIC SYSTEMS 
    • H04S2420/00—Techniques used stereophonic systems covered by H04S but not provided for in its groups
    • H04S2420/01—Enhancing the perception of the sound image or of the spatial distribution using head related transfer functions [HRTF's] or equivalents thereof, e.g. interaural time difference [ITD] or interaural level difference [ILD]

Definitions

  • Various embodiments of the present disclosure relate to an audio output method according to sound image localization and an apparatus using the same.
  • the sound data may be output in three dimensions by reflecting the direction or location in which it is received. For example, if a relative position and direction between an external device transmitting sound data and an electronic device receiving sound data is sensed, the user of the electronic device may experience the same as outputting sound from the actual position and direction of the external device.
  • the output according to the sound image localization of the sound that the user of the electronic device receives from the external device is the location of real users in a call connection between multiple users that can be connected and used by multiple users, virtual reality (VR), and video conference. It can allow voice data to be provided from directions.
  • VR virtual reality
  • Portable terminals represented by smartphones, Bluetooth earphones, and headsets may include a sound output device of a stereo system instead of a sound output device of an existing mono system.
  • a sound output device of a stereo system instead of a sound output device of an existing mono system.
  • An electronic device includes a communication module, an audio output device, a processor operatively connected to the communication module and the audio output device, and a memory operatively connected to the processor, wherein the memory
  • the processor When executing, when the processor connects a call with a first external device, receives an audio signal including first voice data output from the first external device through the communication module, and receives the audio signal for the electronic device a direction and a location of the first external device are checked, and a sound image localization of the first voice data is determined corresponding to the direction and location of the first external device with respect to the electronic device, and the determined sound image localization is determined. Accordingly, instructions for outputting the first voice data through the audio output device may be stored.
  • a sound output method of an electronic device includes the steps of: receiving an audio signal including first voice data output from the first external device through a communication module through a call connection with a first external device; confirming the direction and location of the first external device with respect to the electronic device; and sound image localization of the first voice data corresponding to the direction and location of the first external device with respect to the electronic device.
  • the determining operation may include outputting the first voice data through an audio output device according to the determined sound image localization.
  • an actual location and direction between users may be determined through the stereo sound output of the electronic device. It is possible to provide an effect such that an actual sound is output from the determined localization of the sound image.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is a block diagram of components of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is an operation flowchart of a method of outputting a voice according to localization of a sound image, according to various embodiments of the present disclosure
  • 4A to 4D are exemplary views of a sound image output change of an electronic device user in response to a sound image localization change of an external device.
  • FIG. 5 is an operation flowchart of a voice output method according to an embodiment in which a call connection between multiple users is made.
  • FIG. 6 is an exemplary diagram for distinguishing and receiving voice data among multiple users, according to various embodiments of the present disclosure
  • FIG. 7 is a block diagram illustrating the configuration of an audio receiver and transmitter for outputting a plurality of voice data of an electronic device.
  • FIG. 8 is a block diagram of an operation of restoring voice data by distinguishing and amplifying voice data of an electronic device according to various embodiments of the present disclosure
  • FIG. 9 is a block diagram illustrating voice data transmission of an electronic device according to various embodiments of the present disclosure.
  • FIG. 10 is an exemplary diagram in which a server is used when a call is connected between multiple users, according to various embodiments of the present disclosure
  • FIG. 11 is a flowchart illustrating an operation of a method of outputting a voice according to relative positioning of a sound image of an external device connected to a call, according to various embodiments of the present disclosure
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199
  • the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 may be included.
  • at least one of these components eg, the connection terminal 178
  • may be omitted or one or more other components may be added to the electronic device 101 .
  • some of these components are integrated into one component (eg, display module 160 ). can be
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120 . It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be stored in the volatile memory 132 , and may process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be stored in the volatile memory 132 , and may process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • the processor 120 is the main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123
  • the auxiliary processor 123 is, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190. have.
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which artificial intelligence is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 130 may store various data used by at least one component of the electronic device 101 (eg, the processor 120 or the sensor module 176 ).
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used in a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 or an external electronic device (eg, a sound output module 155 ) directly or wirelessly connected to the electronic device 101 . A sound may be output through the electronic device 102 (eg, a speaker or headphones).
  • an external electronic device eg, a sound output module 155
  • a sound may be output through the electronic device 102 (eg, a speaker or headphones).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more designated protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a LAN (local area network) communication module, or a power line communication module).
  • GNSS global navigation satellite system
  • a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a telecommunication network
  • the wireless communication module 192 uses the subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 includes various technologies for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 192 may support various requirements specified in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
  • the wireless communication module 192 may include a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less).
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module comprises a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, underside) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or a part of operations executed in the electronic device 101 may be executed in one or more external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of things (IoT) device.
  • Server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or the server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • FIG. 2 is a block diagram of components of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 200 (eg, the electronic device 101 of FIG. 1 ) includes a processor 210 (eg, the processor 120 of FIG. 1 ) and a sensor 220 (eg, the electronic device 101 of FIG. 1 ).
  • sensor module 176 eg, communication module 230 (eg, communication module 190 in FIG. 1 ), audio output device 240 (eg, sound output module 155 in FIG. 1 ), and/or memory ( 250) (eg, the memory 130 of FIG. 1 ), and some of the illustrated components may be omitted or substituted.
  • the electronic device 200 may include at least some of the configuration and/or functions of the electronic device 101 of FIG. 1 .
  • the electronic device 200 may be a portable terminal including a smart phone. Also, the electronic device 200 may include an earphone or a headset device including an audio output device that is configured as a stereo system and can output in two or more directions.
  • the processor 210 is a configuration capable of performing an operation or data processing related to control and/or communication of each component of the electronic device 200 , and includes the configuration of the processor 120 of FIG. 1 and / or may include at least some of the functions.
  • the processor 210 is functionally and operatively with internal components of the electronic device 200 including the sensor 220 , the communication module 230 , the audio output device 240 , and the memory 250 . (operatively) and/or electrically (electrically) connected.
  • the sensor 220 may detect the position and direction of the electronic device 200 .
  • the location and orientation of the electronic device may mean the location and orientation direction of a user of the electronic device.
  • the sensor 220 may include a geomagnetic sensor, a gyro sensor, and/or an acceleration sensor.
  • the processor 210 may update and detect the location of the electronic device 200 that is changed in real time through the earth magnetic field sensor.
  • the processor 210 may update and sense the direction of the electronic device 200 that is changed in real time through the gyro sensor and the acceleration sensor.
  • the processor 210 determines the position and direction of an external device (eg, the electronic device 102 or the electronic device 104 of FIG. 1 ) with respect to the position and direction of the electronic device 200 detected through the sensor 220 . can do. For example, the processor 210 calculates the location and direction of an external device connected to a call based on the location and direction of the electronic device 200 , and reflects the changed location and direction to localize a sound image (sound image localization). ) can be determined.
  • the sensor 220 may include at least some of the configuration and/or functions of the sensor module 176 of FIG. 1 .
  • the communication module 230 may support a short-distance communication connection with an external device. For example, when the electronic device 200 and the external device are located at a distance sufficient to form a short-range communication connection, mutual communication connection may be possible through the communication module 230 .
  • the communication module 230 may receive data for localization of a sound image from a call-connected external device from a base station (not shown). For example, the base station may receive data regarding the location and direction of the external device by establishing a call connection with the external device, and may receive the data from the base station.
  • the communication module 230 according to various embodiments of the present disclosure may include at least some of the configuration and/or functions of the communication module 190 of FIG. 1 .
  • the audio output device 240 may be a stereo type sound output device included in the electronic device 200 .
  • the audio output device 240 may be included with a left side and a right side divided.
  • the audio output device 240 may include at least some of the configuration and/or functions of the audio output module 155 of FIG. 1 .
  • the memory 250 is functionally, operationally and/or electrically connected to the processor 210 , and may store various instructions that may be executed by the processor 210 . Such instructions may include various control commands including arithmetic and logical operations, data movement, and input/output that can be recognized by the processor 210 .
  • the memory 250 according to various embodiments of the present disclosure may include at least some of the configuration and/or functions of the memory 130 of FIG. 1 .
  • FIG. 3 is an operation flowchart of a method of outputting a voice according to localization of a sound image, according to various embodiments of the present disclosure
  • a call connection between the electronic device and the external device may be made.
  • an external device eg, the electronic device 101 of FIG. 1 , or the electronic device 200 of FIG. 2
  • an electronic device eg, the electronic device 101 of FIG. 1 or the electronic device 200 of FIG. 2
  • a call connection may mean that a call is made with each other.
  • a call connection between the electronic device and an external device may mean a communication connection between VR devices located in a short distance. If a plurality of users are connected through communication and devices for recognizing the location and direction of mutual sound are utilized, any device may be used, and a connection for a video conference may be included in this.
  • operation 320 may be to receive voice data transmitted from an external device connected to a call.
  • the electronic device may be a call connection or a short-distance communication connection with one or more external devices.
  • one or more voice data transmitted from one or more external devices may be received by the electronic device.
  • Voice data may be included in an audio signal that is transmitted and/or received, which may be transmitted and/or received through a communication module (eg, the communication module 190 of FIG. 1 , or the communication module 230 of FIG. 2 ). have.
  • operation 330 may be to confirm the direction and location of the electronic device.
  • the direction and location of the electronic device may be identified based on data sensed through a sensor (eg, the sensor module 176 of FIG. 1 or the sensor 220 of FIG. 2 ) included in the electronic device.
  • the sensor may include a geomagnetic sensor, a gyro sensor, or an acceleration sensor, and the data sensed from the sensor is transmitted by a processor (eg, the processor 120 of FIG. 1 or the processor 210 of FIG. 2 ). can be confirmed.
  • the processor may identify the location and direction of the electronic device based on the sensed data.
  • identifying the direction of the electronic device from the sensed data may mean the direction the user of the electronic device is facing.
  • the direction in which the user of the electronic device is facing may include a direction in which the user's face is facing or a direction in which the user is looking.
  • determining the location and direction of the user of the electronic device may include determining the location and direction through left and right discrimination of the audio output device. For example, in order to output a three-dimensional sound, the position and direction of the electronic device may be determined according to the arrangement of the left and right sides of the audio output device.
  • operation 340 may identify the direction and location of the external device with respect to the electronic device.
  • Data regarding the real-time location and direction of the external device may be transmitted to the electronic device connected to the call, and this may be included in information received through the base station.
  • the direction of the external device or the direction of the user of the external device may include a direction that the user of the external device is facing, a direction that the face of the user of the external device is facing, or a direction that the user of the external device is looking at.
  • Data regarding the real-time location and direction of the external device may be sensed using a sensor included in the external device, and the sensed data may be transmitted to the electronic device connected to the call via the base station.
  • the processor of the electronic device may determine the relative position and direction of the external device based on the position and direction of the electronic device.
  • operation 350 may determine a localization of a sound image of voice data received from an external device.
  • the external device may be a device that is connected to the electronic device by phone call or short-distance communication, and there may be at least one external device.
  • the number of received voice data may be equal to or less than the number of external devices. For example, the fact that voice data and the number of external devices may not match may correspond to a situation in which the user of the external device does not speak.
  • operation 360 may output a sound according to sound image localization of voice data received from a call-connected external device.
  • the sound image may mean an image of a sound generated through two or more speakers (eg, an audio output device including a plurality of speakers).
  • a virtual image may be formed as if the sound is transmitted from the center of the plurality of speakers.
  • Sound image localization may refer to identifying a direction or distance of a sound source.
  • operation 360 it may correspond to outputting sound by determining the direction or distance of the sound source based on the user of the electronic device. This may correspond to the output of voice data of the user of the external device according to the relative positioning of the sound image of the user of the external device with respect to the user of the electronic device.
  • operation 370 may identify a change in the direction and location of the external device with respect to the electronic device. Whether the relative position and direction between the electronic device and the external device is changed may be checked according to an arbitrary period, and accordingly, operations 340 to 370 may be repeatedly performed. For example, a change in sound image localization from an external device based on the user of the electronic device may be specified and detected in a time unit of several seconds to less than a second unit according to an arbitrary period (eg, real-time detection), limited thereto. it's not going to be
  • 4A to 4D are exemplary views of a sound image output change of an electronic device user in response to a sound image localization change of an external device.
  • a change in the sound image localization, a change in the sound image localization, or a change in the relative position and direction of the user of the external device with respect to the user of the electronic device may have similar and/or identical meanings. This is because a user who possesses an electronic device capable of outputting a sound of a stereo system (eg, the electronic device 101 of FIG. 1 or the electronic device 200 of FIG. 2 ) receives the user's voice data (eg, an audio signal) of the external device. Voice data that may be included) may mean a change in the location and direction of receiving.
  • a user 410 (eg, user A) of an electronic device and a user 420 (eg, user B) of an external device transmit voice data to each other at a spaced apart location and/or shows receiving.
  • a vertex corresponding to the intersection of the equilateral sides may represent a nose portion of the user of the electronic device.
  • two vertices that do not meet on the equilateral side may represent both ears of a user of the electronic device and left and right sides of a stereo sound system of the electronic device.
  • the orientation direction of the user 410 of the electronic device is changed.
  • the orientation direction of the user 410 of the electronic device is changed to the direction that the user 420 of the external device faces, which may be detected by a sensor of the electronic device.
  • the user 410 of the electronic device and the user 420 of the external device may be through a call connection or communication connection at a location spaced apart from each other to transmit and/or receive voice data.
  • voice data is exchanged at a spaced apart location, in a mono system, a sound image is formed at a certain location (eg, formed in the front), so it may be difficult to determine the actual location and direction of the other person.
  • An electronic device capable of outputting sound from a stereo system can output three-dimensional sound, so that if the location and direction of a user of an external device connected through a call or communication is identified, voice data may be output from the actual location and direction.
  • the sound image localization of the user 420 of the external device is shown based on the location and direction of the user 410 of the electronic device.
  • the left and right sides 411 and 412 of the sound output device of the electronic device may correspond to both ears of the user of the electronic device.
  • the illustration 415 of the user's pointed portion of the electronic device may represent the user's nose, and the user 410 of the electronic device may be facing in the direction of 0 degrees in the figure shown in FIG. 4B .
  • the direction of voice data that can be received from the user of the external device is shown in an arbitrary shape 413 in FIG. 4B .
  • This arbitrary shape 413 may mean localization of a sound image of the user 420 of the external device with respect to the user 410 of the electronic device.
  • the localization of the sound image of the user 420 of the external device may correspond to a direction of 30 degrees with respect to the user 410 of the electronic device.
  • the orientation direction of the user 410 of the electronic device is changed to the direction of looking at the user 420 of the external device.
  • This can be derived from the fact that the nose portion of the user 410 of the electronic device is changed in the direction of the user 420 of the external device in FIG. 4C , and the direction of the arrow and the nose portion from the user of the electronic device to the user of the external device It can also be seen from the coincidence of directions.
  • the sound image localization of the user 420 of the external device is shown based on the location and direction of the user 410 of the electronic device.
  • the left and right sides 411 and 412 of the sound output device of the electronic device may correspond to both ears of the user of the electronic device.
  • the illustration 415 of the user's pointed portion of the electronic device may represent the user's nose, and the user 410 of the electronic device may be facing in the direction of 0 degrees in the figure shown in FIG. 4D .
  • FIG. 4A even though the orientation direction of the user 410 of the electronic device is changed in FIG. 4C , the reason that the user 410 of the electronic device faces the 0 degree direction in FIG.
  • FIG. 4D may be because the reference of the coordinate system is used as the user of the electronic device. According to the location and direction of the user 420 of the external device in FIG. 4C , the direction of voice data that can be received from the user of the external device is shown in an arbitrary shape 414 in FIG. 4D .
  • This arbitrary shape 414 may mean localization of a sound image of the user 420 of the external device with respect to the user 410 of the electronic device. Comparing FIGS. 4B and 4D , it can be confirmed that the localization of the sound image of the user 420 of the external device with respect to the user 410 of the electronic device is changed in the 0 degree direction.
  • Such a change may be due to a change in the orientation direction of the user 410 of the electronic device toward the user 420 of the external device.
  • the sound image localization of the user 420 of the external device may be changed to correspond to the 0 degree direction with respect to the user 410 of the electronic device.
  • FIG. 5 is an operation flowchart of a voice output method according to an embodiment in which a call connection between multiple users is made.
  • operation 510 includes an electronic device (eg, the electronic device 101 of FIG. 1 , or the electronic device 200 of FIG. 2 ) and an external device (eg, the electronic device 101 of FIG. 1 , or FIG. 2 , it may be to check a call connection between the electronic devices 200), and in particular, to check whether a call is connected to a plurality of external devices.
  • an electronic device eg, the electronic device 101 of FIG. 1 , or the electronic device 200 of FIG. 2
  • an external device eg, the electronic device 101 of FIG. 1 , or FIG. 2 , it may be to check a call connection between the electronic devices 200
  • an external device eg, the electronic device 101 of FIG. 1 , or FIG. 2 , it may be to check a call connection between the electronic devices 200
  • a plurality of external devices e.g., the frequency band of the voice data received by the electronic device may not be divided and allocated. This is because, if there is one connected external device, there is also one voice data, so there
  • an unnecessary operation may be omitted by determining whether a call connection or a communication connection is made between multiple users. According to an embodiment, when a call connection or communication connection is made between the electronic device user and a single external device user (No in operation 510), operations 520 to 540 may not be performed.
  • operation 520 allocates frequency bands according to individual external devices to at least n external devices (eg, a plurality of external devices connected to the electronic device in a call) when a call is connected between multiple users.
  • the plurality of external devices may be referred to as a first external device, a second external device, and an n-th external device, and the value of n (eg, a positive integer) changes according to the number of external devices connected to the electronic device by a call or communication connection.
  • n eg, a positive integer
  • Allocating a frequency band according to an external device may be to distinguish voice data of users of the external device. For example, when voice data overlaps and is received during a conversation between multiple users, it may be difficult to distinguish voice data.
  • the frequency band may refer to a frequency band of voice data that can be received by the electronic device, and may be assigned by dividing the entire receivable frequency band.
  • a subject that allocates a frequency band to an external device through a call connection or communication connection with the electronic device may be at least one of an electronic device, a base station, and a server.
  • the electronic device operates as a master device and allocates the entire receivable frequency band to the individual external devices with a section.
  • the same and/or similar operation to that of the master device may be performed in a base station or server that confirms that the electronic device and the plurality of external devices are connected to each other by communication or communication.
  • the electronic device and the external device may be mutually changed, and the external device may be the same as and/or similar to the electronic device.
  • operation 530 may include receiving at least n pieces of voice data from individual external devices in response to frequency bands allocated according to a plurality of external devices (eg, n external devices).
  • voice data received from the first external device may mean first voice data
  • voice data received from the n-th external device may mean n-th voice data.
  • the nth external device may output voice data corresponding to the nth voice data
  • the nth band allocated to the nth external device may correspond to the frequency band allocated in operation 520 .
  • Receiving voice data according to the differentiated frequency band in the electronic device may be to distinguish voice data received from a plurality of external devices.
  • operation 540 may amplify voice data received for each frequency band and restore original voice data.
  • Voice data can be received by dividing the entire frequency band according to the number of connected external devices (eg, n) and assigning them to individual external devices.
  • the n-th voice data of the n-th external device eg, the n-th voice data of the user of the n-th external device
  • an allocated frequency band eg, n-th band
  • Operation 540 may be to restore the n-th voice data received corresponding to the n-th band for the entire frequency band.
  • the processor of the electronic device may restore original voice data by using bandwidth extension (BWE).
  • BWE bandwidth extension
  • restoring the original voice data may include restoring the voice data of the user of the external electronic device (eg, the n-th voice data of the user of the n-th external device) received by the electronic device through a call connection or a communication connection. it could be
  • operation 550 may output voice data according to sound image localization of an individual external device.
  • a plurality of external device users may be image localized according to the location and direction of each external device.
  • the localization of the sound image may be determined based on the location and direction of the user of the electronic device, and the same may be applied to other external devices and electronic devices based on the users of the individual external devices.
  • a sound image localization for reception of the n-th voice data of the n-th external device is checked, and the processor outputs the received n-th voice data through the audio output device for each confirmed sound image localization. can be set.
  • the n-th voice data output in this way may be sensed as being output from the location and direction of the user of the n-th external device based on the location and direction of the user of the electronic device.
  • FIG. 6 is an exemplary diagram for distinguishing and receiving voice data among multiple users, according to various embodiments of the present disclosure
  • the first voice data and the second voice data shown in FIG. 6 may correspond to voice data of users of the first external device and the second external device, respectively.
  • the first voice data may be voice data corresponding to frequency bands of 0 kHz to 1 kHz, 2 kHz to 3 kHz, and 4 kHz to 5 kHz allocated to the first external device.
  • the second voice data may be voice data corresponding to frequency bands of 1 kHz to 2 kHz, 3 kHz to 4 kHz, and 5 kHz to 6 kHz allocated to the second external device.
  • the received data may mean data that a user of an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 200 of FIG. 2 ) receives from each external device through a call connection or a communication connection. and may correspond to data obtained by adding up the first voice data and the second voice data.
  • the received data may be voice data corresponding to a frequency band (eg, 0 kHz to 6 kHz) that can be received by the electronic device.
  • a frequency band eg, 0 kHz to 6 kHz
  • the number of voice data of the external device that can be received by the electronic device is not limited to two, and up to n-th voice data may be received.
  • a frequency band receivable by the electronic device may be divided into n bands and allocated to n external devices, respectively.
  • the electronic device may receive n pieces of voice data output from each of the n external devices for each divided frequency band. Since the received n-th voice data includes only data corresponding to the divided frequency band, the electronic device may restore the n-th voice data by using frequency band amplification (BWE).
  • BWE frequency band amplification
  • the electronic device amplifies the first voice data corresponding to the divided frequency bands (eg, 0 kHz to 1 kHz, 2 kHz to 3 kHz, and 4 kHz to 5 kHz) allocated to the first external device to obtain the original first It can be restored to voice data.
  • the divided frequency bands eg, 0 kHz to 1 kHz, 2 kHz to 3 kHz, and 4 kHz to 5 kHz
  • the electronic device amplifies (frequency band) second voice data corresponding to the divided frequency bands (eg, 1 kHz to 2 kHz, 3 kHz to 4 kHz, and 5 kHz to 6 kHz) allocated to the second external device.
  • BWE may be used to restore the original second voice data.
  • the frequency band allocated to the n-th external device that is connected to the electronic device in a call or communication connection may not be limited to the frequency band described as an example in this document.
  • the frequency band that can be allocated to the n-th external device may be allocated by dividing an average audible frequency band of a user of the electronic device.
  • the average audible frequency band of the user of the electronic device may correspond to an average value of the audible frequency band according to age, may be set when the electronic device is initially provided, and a communication module (eg, the communication module 230 of FIG. 2 ) ) may be provided by updating information on a frequency band that can be allocated through, and may not be limited to the method.
  • the electronic device may check the localization of individual sound images of a plurality of external devices (eg, the electronic device 101 of FIG. 1 or the electronic device 200 of FIG. 2 ) through call connection or communication connection.
  • data regarding the location and direction of individual external devices may be received by the electronic device via a base station or a server.
  • the processor of the electronic device may check the received data to determine the localization of sound images of individual external devices based on the location and direction of the electronic device.
  • the n voice data of the n external device users may be set to be output for each confirmed sound image localization. When voice data is output from the actual position and direction of the external device, a vivid sense of presence may be delivered to the user of the electronic device.
  • a call may be made with a user of an external device located to the right of the user of the electronic device.
  • a sound image is localized to an external device and voice data of a user of the external device is received
  • the user of the electronic device may experience an effect such that voice data is output from the user's right side.
  • This embodiment is not limited to a call connection or communication connection with one external device user, and may be similarly applicable to a case in which voice data is received by being connected to a plurality of external devices.
  • rendering may mean changing from 2D to 3D.
  • the rendering of the sound source may be to change the sound heard on the plane to the sound heard in the 3D space.
  • it may correspond to voice data of a plurality of external devices connected to the electronic device.
  • voice data of a plurality of external device users may have a plurality of sound image localizations with respect to the electronic device user.
  • Outputting voice data to a user of the electronic device in response to localization of a sound image of individual external devices may correspond to rendering of the voice data.
  • the electronic device and the external device may be one-to-one call connection or communication connection.
  • the voice data of the user of the external device may be rendered as outputted from the confirmed sound image localization.
  • FIG. 7 is a block diagram illustrating a configuration of an audio output device for outputting a plurality of voice data of an electronic device.
  • the electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 200 of FIG. 2 ) is an audio output device capable of audio output (eg, the audio module 170 of FIG. 1 or the audio output device of FIG. 2 ) device 240).
  • the audio output device may be configured as a stereo system to output sound in a plurality of output directions.
  • the audio output device may include a receiver 711 , filters 712 and 722 , a sound image localization analyzer 717 , a transmitter 721 , a restoration unit 730 , and an output unit 740 , as shown in FIG. 1 . It may include at least one of the configuration and/or function of the audio module 170 .
  • the audio output device may include a speaker.
  • left and right speakers of a Bluetooth headset may correspond to audio output devices of a stereo system.
  • a stereo speaker of an electronic device eg, a smartphone
  • an audio output device e.g. a speaker
  • the receiver 711 may correspond to the sound receiver of the electronic device.
  • the receiver 711 may receive an audio signal including voice data from an external device.
  • the receiver 711 may receive data related to a sound reproduced by the electronic device.
  • the receiver 711 and the transmitter 721 illustrated in FIG. 7 may receive and/or transmit an audio signal (eg, an audio signal including voice data).
  • the receiver 711 and the transmitter 721 may include a communication module (eg, the communication module 190 of FIG. 1 or the communication module 230 of FIG. 2 ).
  • audio signals transmitted and/or received using the communication module may be collectively transmitted and/or received.
  • an audio signal transmitted and/or received using the communication module may be transmitted and/or received after being divided into frequency bands.
  • the audio signal transmitted from the electronic device may be transmitted through a communication module included in the transmitter 721 .
  • voice data eg, voice data included in an audio signal
  • audio signals received by the electronic device may be the same and/or similar.
  • audio signals of a plurality of external devices eg, a plurality of voice data included in the plurality of audio signals
  • the audio signals received through the communication module may be received after being assigned a frequency band.
  • individual voice data 713 and 714 may be separated through a filter 712 .
  • the communication modules of the receiving unit 711 and the transmitting unit 721 shown in FIG. 7 may be the same or may be different communication modules.
  • voice data of external device users received by the electronic device through the receiver 711 may be filtered through a filter 712 .
  • filtering may be performed through a filter 712 corresponding to the number of external devices that are connected to the electronic device by call connection or communication connection to transmit and/or receive voice data.
  • the number of filters 712 may exist as many as the number of external devices that may be connected to the electronic device by a call connection or a communication connection.
  • the first voice data of the first external device may be filtered through the first filter
  • the second voice data of the second external device may be filtered through the second filter
  • the nth voice data may be filtered through the nth filter.
  • the number of filters 712 of the electronic device may be greater than the number of external devices that may be connected to a call or communication.
  • the filter 712 may include a low pass filter (LPF), a high pass filter (HPF), or a band pass filter (BPF).
  • LPF low pass filter
  • HPF high pass filter
  • BPF band pass filter
  • a plurality of voice data 713 and 714 received from a plurality of external devices may be divided into voice data received from individual external devices.
  • the first voice data 713 that is the voice data of the user of the first external device to the nth voice data 714 that is the voice data of the user of the nth external device may be separated.
  • the separated plurality of voice data may be processed according to a head related transfer function (HRTF).
  • HRTF head related transfer function
  • the head transfer function may be generated as a three-dimensional function by generating the same sound in all directions and measuring the frequency response according to the direction.
  • HRTF1 715 to HRTFn 716 shown in FIG. 7 may correspond to functional blocks for processing a head transfer function that functions in response to n pieces of individual voice data.
  • a head transfer function suitable for a user of the electronic device may be processed to output a three-dimensional sound.
  • the sound image localization analyzer 717 functions within an audio output device or operates using a processor of an electronic device (eg, the processor 120 of FIG. 1 or the processor 210 of FIG. 2 ).
  • the sound image localization analyzer 717 is configured to localize individual sound images of a plurality of external devices (eg, a first external device, a second external device, or an n-th external device) connected to the electronic device (eg, a sound image localization of the first voice data).
  • a sound image localization of the second voice data, or a sound image localization of the n-th voice data may be analyzed. Referring to FIG.
  • the location of the sound image localization analyzer 717 is illustrated as being connected to the functional blocks 715 and 716 for processing the head transfer function, but may not be limited thereto.
  • the sound image localization analyzer 717 may be disposed between the receiver 711 and the filter 712 to analyze individual sound image localization of a plurality of external devices.
  • the sound image localization analyzer 717 analyzes the sound image localization of the voice data transmitted from a plurality of external devices, and provides it to the processor of the electronic device as data to be used to output the sound from the actual location and direction of users of the external device. can do.
  • the restoration unit 730 includes a plurality of (eg, n) voice data (eg, first voice data, second voice data, or n-th voice data) received from a plurality of external electronic devices. can be restored.
  • the restoration unit 730 may correspond to a functional block capable of processing frequency band amplification (BWE).
  • BWE frequency band amplification
  • the voice data restored by the restoration unit 730 may be the first voice data 713 to the n-th voice data 714 .
  • the voice data of the electronic device user transmitted through the transmitter 721 may not undergo a restoration operation of the restoration unit 730 .
  • a call connection or communication connection may be made between a user of the electronic device and a user of a single external device (eg, one user). In this case, the first to n-th voice data do not need to be discriminated, and since there is no individually allocated frequency band, the restoration unit 730 may not be used.
  • the output unit 740 illustrated in FIG. 7 may correspond to the sound output unit of the electronic device.
  • the sound output unit of the electronic device may be an output unit of a stereo system that enables three-dimensional sound output.
  • the audio output device of the stereo system may include a plurality of speakers and may output sound by distinguishing directions.
  • the output unit 740 may include a plurality of speakers that can be distinguished from left and right.
  • the output unit 740 may correspond to a sound output unit (eg, a speaker) of an electronic device including a smartphone.
  • the sound output unit may include at least two sound output units.
  • the output unit 740 may correspond to an output unit of a sound output device of an earphone or a headset.
  • Earphones and headsets have separate left and right sound output units, and depending on the user's ear that comes into contact with the device (eg, worn), a left speaker (eg, in contact with the user's left ear) or a right speaker (eg, the user's contact with Ui).
  • the transmitter 721 may be a functional block for transmitting voice data of an electronic device user to an external device user.
  • the transmitter 721 , the filter 722 , and the output unit 740 may perform a function for transmitting voice data from the electronic device to an external device through a call connection or communication connection.
  • the output unit 740 may correspond to a microphone of the electronic device.
  • FIG. 8 is a block diagram of an operation of restoring voice data by distinguishing and amplifying voice data of an electronic device according to various embodiments of the present disclosure
  • the receiver 711 receives a plurality of calls from or communication-connected external devices with an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 200 of FIG. 2 ). of voice data can be received.
  • the voice data from the n external devices received by the receiver 711 may include first voice data received from the first external device, second voice data received from the second external device, to nth voice data received from the n-th external device. It may include voice data.
  • the frequency allocator 810 may be a block capable of functioning in an audio output device.
  • the frequency allocator 810 may correspond to a function that can be processed by the processor of the electronic device (eg, the processor 120 of FIG. 1 or the processor 210 of FIG. 2 ).
  • the frequency allocator 810 may check the number of a plurality of external devices, and may divide the entire frequency band that the electronic device can receive according to the checked number.
  • the division of the frequency band may be division according to an arbitrary interval.
  • the division of a frequency band and allocating the frequency band to individual external devices may be performed through a processor in which the electronic device becomes a master device, a base station, or externally through a server.
  • voice data of the user of the external device may be transmitted according to the allocated frequency band, or already transmitted voice data may be received in response to the allocated frequency band.
  • a frequency band may be divided for n external devices.
  • a first band may be allocated to the first external device
  • a second band may be allocated to the second external device
  • an nth band may be allocated to an nth external device.
  • the first voice data corresponding to the first band to the n-th voice data 713 corresponding to the n-th band may include voice data only in the allocated frequency band.
  • voice data included in the divided frequency band may be amplified to restore original voice data.
  • the first voice data 713 corresponding to the first band may be restored to the original first voice data 821 through the BWE 731 .
  • the n-th voice data 713 corresponding to the n-th band may be restored to the original n-th voice data 822 through the BWE 732 .
  • the electronic device may be connected to a single external device by call connection or communication connection.
  • the frequency allocator 810, the BWEs 731 and 732, the n-th voice data 713 corresponding to the n-th band, and the restorations 821 and 822 of FIG. 8 are unnecessary.
  • classification of voice data may be meaningless.
  • a confirmation operation of localization of a sound image with respect to the connected external device may be performed. For example, it may be utilized to output voice data from the location and direction of an actual external device user by using the sound image localization with respect to the location and direction of the voice data of the other party during a call or communication.
  • transmission and/or reception of voice data may occur between multiple users.
  • a team for a VR survival game may be formed, and electronic devices of members of the team may be communicatively connected to transmit and/or receive voice data.
  • the discrimination of the voice data of individual members and localization of the sound image may be helpful in understanding the location and direction of the members.
  • voice data may be received according to the localization of a sound image of a user of a single external device connected to the user of the electronic device.
  • voice data is output from the actual location and direction of the user of the external device, it may be easier for the user of the electronic device to find the user of the external device in the crowd.
  • FIG. 9 is a block diagram illustrating voice data transmission of an electronic device according to various embodiments of the present disclosure.
  • an electronic device (eg, the electronic device 101 of FIG. 1 , or the electronic device 200 of FIG. 2 ) includes a plurality of external devices (eg, the electronic device 101 of FIG. 1 , or FIG. 2 ). of the electronic device 200) and a communication module (eg, the communication module 190 of FIG. 1 or the communication module 230 of FIG. 2 ) may be through a call connection or communication connection.
  • the electronic device and/or the external device may be configured to transmit voice data according to an allocated frequency band in transmission as well as reception of voice data. For example, a frequency band may be allocated according to the number of a plurality of external devices including the electronic device. In this case, if there are n external devices, n+1 frequency bands may be allocated.
  • a frequency band may be allocated to a plurality of external devices including an electronic device.
  • a first band may be allocated to the first external device to transmit and/or receive first voice data corresponding to the first band.
  • n+1 bands including the number of electronic devices are allocated, and the transmitted and/or received voice data can also correspond to n+1 pieces. have.
  • the n-th voice data 910 illustrated in FIG. 9 may be voice data transmitted from an n-th external device or may correspond to voice data transmitted from a user of the electronic device.
  • the user's voice data transmitted from the electronic device to the external devices may correspond to the n-th voice data.
  • the n-th voice data 910 may correspond to voice data of a user of the electronic device corresponding to a frequency band of 0 kHz to 6 kHz.
  • the n-th voice data 910 transmitted from the electronic device may be transmitted by being assigned a frequency band like voice data received from external devices.
  • a frequency band allocation 920 for each voice data may be performed, and a frequency band may be allocated corresponding to the total number of external devices including the electronic device.
  • the electronic device may be allocated an n-th band (eg, 0 kHz to 1 kHz, 2 kHz to 3 kHz, and 4 kHz to 5 kHz), and n-th voice data 930 corresponding to the allocated n-th band. can be transmitted to external devices through a call connection or communication connection.
  • n-th band eg, 0 kHz to 1 kHz, 2 kHz to 3 kHz, and 4 kHz to 5 kHz
  • the n-th voice data 930 corresponding to the n-th band may be transmitted to the electronic device and/or external devices through the transmitter 940 .
  • the transmitter 940 may function to transmit the n-th voice data 910 input through a microphone to the electronic device and/or external devices.
  • the electronic device and/or external devices are allocated an individual frequency band and configured to transmit and/or receive individual voice data corresponding to the allocated frequency band.
  • voice data transmitted and/or received according to a frequency band may be restored to original voice data by frequency band amplification (BWE).
  • BWE frequency band amplification
  • FIG. 10 is an exemplary diagram in which a server is used when a call is connected between multiple users, according to various embodiments of the present disclosure
  • an electronic device 1011 (eg, the electronic device 101 of FIG. 1 , or the electronic device 200 of FIG. 2 ) includes a plurality of external devices 1012 to 1019 (eg, the electronic device 200 of FIG. 1 ).
  • the electronic device 101 (or the electronic device 200 of FIG. 2 ) and a communication module may be through a call connection or communication connection.
  • the call connection or communication connection may be for transmission and/or reception of voice data between users of the electronic device and a plurality of external devices.
  • the devices of 1011 to 1019 may transmit and/or receive voice data between multiple users through execution of contents of a group call, video conference, and VR/AR conference.
  • one device becomes the master device and can set transmission and/or reception of voice data.
  • the processor of the electronic device may check transmit and/or receive frequency bands according to specifications of all devices (eg, 1011 to 1019 ).
  • the processor of the electronic device 1011 may divide the identified frequency band according to the number of call-connected devices and allocate them to individual devices.
  • the server 1020 may check a call connection between a plurality of users and divide the transmit and/or receive frequency bands according to specifications of all devices (eg, 1011 to 1019).
  • the server may divide a frequency band according to the total number of devices and allocate it to individual devices.
  • the base station may be set to perform a function of an electronic device or a server. Allocating a frequency band to individual devices may be to enable discrimination of individual voice data.
  • voice data of all devices may be transmitted and/or received according to a frequency band allocated from the electronic device, server, or base station. For example, when mutual voice data is transmitted and/or received in a frequency band allocated to an individual device, users of the individual device may distinguish which device (eg, 1011 to 1019) is the user's voice data.
  • the differentiated voice data may be output from the receiving device according to the location and direction of the user of the individual device. For example, based on the user of the electronic device 1011 , voice data of users of the external device (eg, 1012 to 1019 ) may be set to be output from the positions and directions of individual users.
  • the processor of the electronic device 1011 may identify the relative positions and directions of individual external devices (eg, 1012 to 1019 ) with respect to the position and direction of the electronic device. This may be referred to as position and orientation with respect to voice data of individual external devices, or sound image localization of individual external devices.
  • allocation of a frequency band to an individual device through a call connection or a communication connection between multiple users may be performed using a push-to-talk (PTT) method.
  • PTT push-to-talk
  • UI user interface
  • a visual object eg, button
  • This may not always be displayed when a call connection is made, but may be a visual object (eg, a button) that is displayed only when transmission and/or reception of voice data between multiple users is made.
  • a frequency band may be allocated in response to an input to the visual object (eg, a button) of a user who wants to transmit voice data among users of the devices 1011 to 1019 .
  • Allocating a frequency in the PTT method may be because, when the entire frequency band is divided for all devices, loss of voice data may be large.
  • voice data transmission by the PTT method may be simultaneously performed. For example, it may correspond to a case where there are a plurality of users who want to transmit voice data.
  • the master device eg, one device among devices of multiple users, a server, or a base station
  • a frequency band capable of transmitting and/or receiving of all devices (eg, 1011 to 1019) connected through a call or communication may be divided and allocated according to the number of connected devices. For example, when a group call connection is made, the frequency band is divided using the master device, and the divided frequency band for transmission and/or reception of voice data is set to be allocated to individual devices (eg, 1011 to 1019) can be
  • a frequency band for transmission and/or reception of voice data of devices may be allocated according to an audio signal received from the master device.
  • the electronic device 1011 becomes a master device and performs a group call, it may be set to check a plurality of voice data received by the electronic device and allocate a frequency band in response to the confirmed voice data.
  • the number of allocated frequency bands is not always the same and may be adaptively changed with respect to the number of received voice data.
  • the electronic device and the external device may be set to exchange data regarding a location and direction between each other through a call connection or a communication connection.
  • the user of the electronic device 1011 may receive data regarding the positions and directions of external devices (eg, 1012 to 1019 ) from a base station or a server.
  • the processor of an external device eg, 1012 to 1019) other than the electronic device may be able to check the relative positions and directions of individual devices in the same or similar manner to the electronic device 1011 .
  • Confirmation of the relative positions and directions of communication-connected devices may be utilized to determine an output direction of voice data.
  • the plurality of voice data may be controlled to be output from the sound image localization of the plurality of voice data.
  • FIG. 11 is a flowchart illustrating an operation of a method of outputting a voice according to relative positioning of a sound image of an external device connected to a call, according to various embodiments of the present disclosure
  • a call connection between the electronic device and the external device may be made.
  • an external device eg, the electronic device 101 of FIG. 1 , or the electronic device 200 of FIG. 2
  • the electronic device 200 may mean that a call is made with each other.
  • the call connection between the electronic device and the external device may mean a communication connection between a VR device located in a short distance or a connection for a video call.
  • operation 1120 may include receiving an audio signal transmitted from an external device connected to a call.
  • the electronic device may establish a call connection or a short-distance communication connection with an external device.
  • the audio signal transmitted from the external device may be received by the electronic device.
  • the audio signal may include voice data, and may be transmitted and/or received through a communication module (eg, the communication module 190 of FIG. 1 or the communication module 230 of FIG. 2 ).
  • operation 1130 may identify the location and direction of the electronic device.
  • the position and direction of the electronic device may be identified based on data sensed through a sensor (eg, the sensor module 176 of FIG. 1 and the sensor 220 of FIG. 2 ) included in the electronic device.
  • the sensor may include a geomagnetic sensor, a gyro sensor, or an acceleration sensor, and the data sensed from the sensor is transmitted by a processor (eg, the processor 120 of FIG. 1 or the processor 210 of FIG. 2 ). can be confirmed.
  • the processor may identify the location and direction of the electronic device based on the sensed data.
  • identifying the direction of the electronic device from the sensed data may mean the direction the user of the electronic device is facing.
  • the direction the user of the electronic device is facing may include a direction the user's face is facing (eg, 414 in FIG. 4B or 414 in FIG. 4D ) or a direction in which the user is looking.
  • determining the location and direction of the user of the electronic device may include determining the location and direction through left and right discrimination of the audio output device. For example, in order to output a three-dimensional sound, the position and direction of the electronic device may be determined according to the arrangement of the left and right sides of the audio output device.
  • operation 1140 may be to confirm the relative position and direction of the external device with respect to the electronic device.
  • Data regarding the real-time location and direction of the external device may be transmitted to the electronic device connected to the call, and this may be included in information received through the base station.
  • the direction of the external device or the direction of the user of the external device may include a direction that the user of the external device is facing, a direction that the face of the user of the external device is facing, or a direction that the user of the external device is looking at.
  • Data regarding the real-time location and direction of the external device may be sensed using a sensor included in the external device, and the sensed data may be transmitted to the electronic device connected to the call via the base station.
  • the processor of the electronic device may determine the relative position and direction of the external device based on the position and direction of the electronic device.
  • operation 1150 may determine a localization of a sound image of voice data received from an external device.
  • the external device may be a device that is connected to the electronic device by a call connection or a short-distance communication connection.
  • operation 1160 may output a sound according to a sound image localization of voice data received from a call-connected external device.
  • the sound image may mean an image of a sound generated through two or more speakers (eg, an audio output device including a plurality of speakers).
  • a virtual image may be formed as if the sound is transmitted from the center of the plurality of speakers.
  • Sound image localization may refer to identifying a direction or distance of a sound source.
  • operation 1160 it may correspond to outputting sound by determining the direction or distance of the sound source based on the user of the electronic device. This may correspond to the output of voice data of the user of the external device according to the relative positioning of the sound image of the user of the external device with respect to the user of the electronic device.
  • An electronic device includes a communication module, an audio output device, a processor operatively coupled to the communication module and the audio output device, and a memory operatively coupled to the processor, the memory comprising: When the processor makes a call connection with the first external device, the processor receives an audio signal including first voice data output from the first external device through the communication module, and receives the first external device for the electronic device check the direction and location of the device, determine a sound image localization of the first voice data in correspondence to the direction and location of the first external device with respect to the electronic device, and determine the sound image localization according to the determined sound image localization Instructions for outputting the first voice data through the audio output device may be stored.
  • the instructions are output from the first external device through the communication module when the processor makes a call connection with the first external device and the second external device when executed Receive an audio signal including first voice data and second voice data output from the second external device, separate the first voice data and the second voice data from the received audio signal, and the electronic device check the direction and location of the second external device with respect to to determine the localization of the sound image of the second voice data.
  • the processor when the instructions are executed, the processor amplifies the separated first voice data and the separated second voice data to obtain original first voice data and It can be set to restore the original second voice data.
  • the processor when the instructions are executed, corresponds to a floor acquisition signal received from the call-connected first external device or the second external device, A frequency domain may be allocated, and a frequency domain of the first voice data or the second voice data may be set differently.
  • the processor checks the number of external devices connected to the call, and divides the frequency band of the received audio signal in response to the checked number and the first voice data and the second voice data may be separately received for each of the divided frequency bands.
  • the processor when the instructions are executed, the processor confirms reception of the first voice data or the second voice data from the received audio signal, and the confirmed first voice A frequency band of an output audio signal of the first external device or the second external device may be set corresponding to the data or the second voice data.
  • a first audio signal including the first voice data and a second audio signal including the second voice data are received from a server, and the first audio signal is received.
  • the signal and the second audio signal may be configured to be received according to a frequency domain allocated from the server.
  • the electronic device further includes a sensor, wherein, when the instructions are executed, the processor detects a direction and a position of the electronic device through the sensor in response to a movement of a user of the electronic device can be set to
  • the senor includes an earth magnetic field sensor, an acceleration sensor, and/or a gyro sensor, and the instructions, when executed, cause the processor to control the electronic device through the earth magnetic field sensor.
  • sense a direction and sense a direction of the first external device with respect to the electronic device through the acceleration sensor and the gyro sensor, further based on a movement of the electronic device and the identified direction and position of the first external device Accordingly, the sound image localization of the first voice data may be determined.
  • the processor determines left and right output directions of the audio output device, and based on the determined output directions, the By adjusting the output of the audio output device, the first voice data may be set to be output from the sound image localization of the first voice data.
  • a method for outputting a sound of an electronic device includes receiving an audio signal including first voice data output from the first external device through a communication module through a call connection with a first external device, the electronic device checking the direction and location of the first external device with respect to the electronic device, and determining a sound image localization of the first voice data in response to the direction and location of the first external device with respect to the electronic device , outputting the first voice data through an audio output device according to the determined sound image localization.
  • the first voice output from the first external device through the communication module receiving an audio signal including data and second voice data output from the second external device; separating the first voice data and the second voice data from the received audio signal;
  • the method may further include determining a direction and a location of the second external device, and determining a localization of a sound image of the second voice data in response to the direction and location of the second external device.
  • the original first voice data and the original second voice data are amplified by amplifying the separated first voice data and the separated second voice data It may further include an operation of restoring to .
  • the operation of checking the number of external devices connected to the call, the operation of dividing a frequency band of the received audio signal according to the number of the call-connected external devices, and the divided frequency may further include the operation of separately receiving the first voice data and the second voice data for each band.
  • the operation of confirming reception of the first voice data or the second voice data from the received audio signal, and the checked first voice data or the second voice data may further include allocating a frequency band of an output audio signal of the first external device or the second external device in response to voice data.
  • the sound output method of an electronic device when the call is connected, receiving a first audio signal including the first voice data and a second audio signal including the second voice data from a server and receiving the first audio signal and the second audio signal according to a frequency domain allocated from the server.
  • the method for outputting sound of an electronic device may include detecting a direction and a position of the electronic device by using a sensor in response to a movement of a user of the electronic device.
  • the detecting may include detecting a direction of the electronic device using a geomagnetic sensor of the electronic device, using an acceleration sensor and/or a gyro sensor of the electronic device. detecting a direction of the first external device with respect to the electronic device using the It may include an action to determine.
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • first, second, or first or second may be used simply to distinguish the element from other elements in question, and may refer to elements in other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • one or more instructions stored in a storage medium may be implemented as software (eg, the program 140) including
  • a processor eg, processor 120
  • a device eg, electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not include a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play StoreTM) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly between smartphones (eg: smartphones) and online.
  • a part of the computer program product may be temporarily stored or temporarily generated in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component (eg, module or program) of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. have.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Telephone Function (AREA)

Abstract

본 개시의 다양한 실시예에 따른 전자 장치는 통신 모듈, 오디오 출력 장치, 상기 통신 모듈 및 상기 오디오 출력 장치와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결되는 메모리를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가 제1외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하고, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하며, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하고, 상기 결정된 음상 정위에 따라 상기 제1 음성 데이터를 상기 오디오 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.

Description

음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치
본 개시의 다양한 실시예들은 음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치에 관한 것이다.
사운드 데이터는 수신되는 방향이나 위치를 반영하여 입체적으로 출력될 수 있다. 예를 들어, 사운드 데이터를 전송하는 외부 장치와 수신하는 전자 장치 간 상대적 위치 및 방향을 감지하게 된다면 전자 장치의 사용자는 외부 장치의 실제 위치 및 방향으로부터 사운드가 출력되는 것과 같은 경험을 할 수 있다.
전자 장치의 사용자가 외부 장치로부터 수신하게 되는 사운드의 음상 정위에 따른 출력은, 다수의 사용자가 연결되어 이용될 수 있는 다수 사용자 간 통화 연결, VR(virtual reality), 화상 회의에서 실제 사용자들의 위치 및 방향으로부터 음성 데이터가 제공되도록 할 수 있다.
스마트폰으로 대표되는 휴대용 단말기, 블루투스 이어폰, 헤드셋이하 '전자 장치')은 기존의 모노(mono) 시스템의 사운드 출력 장치에서 벗어나 스테레오(stereo) 시스템의 사운드 출력 장치를 포함할 수 있다. 예를 들어, VR 서바이벌 게임을 수행할 수 있는 전자 장치의 경우, 스테레오 시스템의 사운드 출력이 이루어진다면 실제 사용자들의 위치 및 방향 파악이 용이해질 수 있다.
다수 사용자 간 음성 대화가 있을 시, 실제 사용자의 위치가 아닌 임의의 위치로부터 음성이 수신되는 경우 현장감이 떨어지고 컨텐츠에 대한 집중력이 분산될 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치는 통신 모듈, 오디오 출력 장치, 상기 통신 모듈 및 상기 오디오 출력 장치와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결되는 메모리를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가 제1외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하고, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하며, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하고, 상기 결정된 음상 정위에 따라 상기 제1 음성 데이터를 상기 오디오 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
본 개시의 다양한 실시예에 따른 전자 장치의 사운드 출력 방법은 제1외부 장치와 통화 연결되어, 통신 모듈을 통해 상기 제1외부 장치로부터 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하는 동작, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하는 동작, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하는 동작, 상기 결정된 음상 정위에 따라 제1음성 데이터를 오디오 출력 장치를 통해 출력하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따르면, 전자 장치의 스테레오 사운드 출력을 통해 사용자 간 실제 위치 및 방향을 판단할 수 있다. 이렇게 판단되는 음상의 정위로부터 실제 음성이 출력되는 것과 같은 효과를 제공할 수 있다.
다수 사용자 간 이용할 수 있는 컨텐츠의 실행 시, 실제 음상의 정위와 변경되는 정위를 반영하여 현장감이 반영되는 경험을 사용자에게 제공할 수 있다.
도 1은 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예들에 따른, 전자 장치의 구성요소에 관한 블록도이다.
도 3은 다양한 실시예들에 따른, 음상 정위에 따른 음성 출력 방법의 동작 흐름도이다.
도 4a 내지 도 4d는 외부 장치의 음상 정위 변화에 대응한 전자 장치 사용자의 음상 출력 변경의 예시도이다.
도 5는 다수 사용자 간 통화 연결이 이루어지는 실시예에 따른, 음성 출력 방법의 동작 흐름도이다.
도 6은 다양한 실시예들에 따른, 다수 사용자 간 음성 데이터 구별 및 수신을 위한 예시도이다.
도 7은 전자 장치의 복수의 음성 데이터 출력을 위한 오디오 수신부 및 송신부의 구성에 관한 블록도이다.
도 8은 다양한 실시예들에 따른, 전자 장치의 음성 데이터 구별 및 증폭에 의한 음성 데이터 복원 동작에 대한 블록도이다.
도 9는 다양한 실시예들에 따른, 전자 장치의 음성 데이터 송신에 대한 블록도이다.
도 10은 다양한 실시예들에 따른, 다수 사용자 간 통화 연결 시 서버를 활용한 예시도이다.
도 11은 다양한 실시예들에 따른, 통화 연결된 외부 장치의 상대적 음상 정위에 따른 음성 출력 방법의 동작 흐름도이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는 다양한 실시예들에 따른, 전자 장치의 구성요소에 관한 블록도이다.
도 2를 참조하면, 전자 장치(200)(예: 도 1의 전자 장치(101))는 프로세서(210)(예: 도 1의 프로세서(120)), 센서(220)(예: 도 1의 센서 모듈(176)), 통신 모듈(230)(예: 도 1의 통신 모듈(190)), 오디오 출력 장치(240)(예: 도 1의 음향 출력 모듈(155)), 및/또는 메모리(250)(예: 도 1의 메모리(130))를 포함할 수 있으며, 도시된 구성 중 일부가 생략 또는 치환될 수 있다. 전자 장치(200)는 도 1의 전자 장치(101)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 스마트폰을 포함하는 휴대용 단말기일 수 있다. 또한, 전자 장치(200)는 스테레오(stereo) 시스템으로 구성되어 양 방향 이상의 출력이 가능한 오디오 출력 장치를 포함하는 이어폰, 또는 헤드셋의 장치를 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(210)는 전자 장치(200)의 각 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 수행할 수 있는 구성으로써, 도 1의 프로세서(120)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다. 프로세서(210)는 센서(220), 통신 모듈(230), 오디오 출력장치(240), 및 메모리(250)를 포함하는 전자 장치(200)의 내부 구성요소와 기능적으로(functionally), 작동적으로(operatively) 및/또는 전기적으로(electrically) 연결될 수 있다.
도 2를 참조하면, 센서(220)는 전자 장치(200)의 위치 및 방향을 감지할 수 있다. 예를 들어, 전자 장치의 위치 및 방향은 전자 장치 사용자의 위치 및 지향 방향을 의미할 수 있다. 센서(220)는 지자계 센서, 자이로 센서, 및/또는 가속도 센서를 포함할 수 있다. 전자 장치(200)의 사용자가 이동하게 되는 경우, 프로세서(210)는 지자계 센서를 통해 실시간으로 변경되는 전자 장치(200)의 위치를 업데이트하여 감지할 수 있다. 전자 장치(200)의 사용자가 이동하게 되는 경우, 프로세서(210)는 자이로 센서 및 가속도 센서를 통해 실시간으로 변경되는 전자 장치(200)의 방향을 업데이트하여 감지할 수 있다. 프로세서(210)는 센서(220)를 통해 감지하는 전자 장치(200)의 위치 및 방향에 대한 외부 장치(예: 도 1의 전자 장치(102) 또는 전자 장치(104))의 위치 및 방향을 판단할 수 있다. 예를 들어, 프로세서(210)는 통화 연결된 외부 장치의 위치 및 방향을 전자 장치(200)의 위치 및 방향을 기준으로 하여 연산하고, 변화되는 상호 간 위치 및 방향을 반영하여 음상 정위(sound image localization)를 결정할 수 있다. 다양한 실시예에 따른 센서(220)는 도 1의 센서 모듈(176)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따른 통신 모듈(230)은 외부 장치와 근거리 통신 연결을 지원할 수 있다. 예를 들어, 전자 장치(200)와 외부 장치가 근거리 통신 연결이 형성될 수 있는 정도의 거리에 위치한 경우 통신 모듈(230)을 통해 상호 간 통신 연결이 가능할 수 있다. 일 실시예에 따르면, 통신 모듈(230)은 통화 연결된 외부 장치로부터의 음상 정위를 위한 데이터를 기지국(미도시)으로부터 수신할 수 있다. 예를 들어, 외부 장치와 통화 연결이 되어 기지국이 외부 장치의 위치 및 방향에 관한 데이터를 수신하고, 상기 기지국으로부터 상기 데이터를 수신할 수 있다. 본 개시의 다양한 실시예에 따른 통신 모듈(230)은 도 1의 통신 모듈(190)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
도 2를 참조하면, 오디오 출력 장치(240)는 전자 장치(200)에 포함된 스테레오 타입의 음향 출력 장치일 수 있다. 예를 들어, 오디오 출력 장치(240)는 좌측(left) 및 우측(right)이 구별되어 포함될 수 있다. 오디오 출력 장치(240)는 도 1의 음향 출력 모듈(155)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 메모리(250)는 기능적으로, 작동적으로 및/또는 전기적으로 프로세서(210)와 연결되고, 프로세서(210)에서 수행될 수 있는 다양한 인스트럭션들(instructions)을 저장할 수 있다. 이와 같은 인스트럭션들은 프로세서(210)에 의해 인식될 수 있는 산술 및 논리 연산, 데이터 이동, 입출력을 포함하는 다양한 제어 명령을 포함할 수 있다. 본 개시의 다양한 실시예에 따른 메모리(250)는 도 1의 메모리(130)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
도 3은 다양한 실시예들에 따른, 음상 정위에 따른 음성 출력 방법의 동작 흐름도이다.
도 3을 참조하면, 동작 310은 전자 장치와 외부 장치가 통화 연결이 이루어지는 것일 수 있다. 예를 들어, 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))와 통화 연결되는 외부 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))는 1개 이상일 수 있으며, 여기서 통화 연결은 상호 간 통화가 이루어지는 것을 의미할 수 있다. 다른 실시예에 따르면, 전자 장치와 외부 장치 간 통화 연결은 근거리에 위치한 VR 기기들 간의 통신 연결을 의미할 수도 있다. 다수의 사용자들이 통신 연결되어 상호 간 음향의 위치 및 방향을 파악하기 위한 장치들이 활용되는 것이면 어느 것이든 해당할 수 있고, 화상 회의를 위한 연결도 이에 포함될 수 있다.
도 3을 참조하면, 동작 320은 통화 연결된 외부 장치로부터 전송되는 음성 데이터를 수신하는 것일 수 있다. 예를 들어, 전자 장치는 1개 이상의 외부 장치와 통화 연결 또는 근거리의 통신 연결이 될 수 있다. 이 때, 1개 이상의 외부 장치로부터 전송되는 1개 이상의 음성 데이터들은 전자 장치로 수신될 수 있다. 음성 데이터는 송신 및/또는 수신하는 오디오 신호에 포함될 수 있으며, 이는 통신 모듈(예: 도 1의 통신 모듈(190), 또는 도 2의 통신 모듈(230))을 통해 송신 및/또는 수신 가능할 수 있다.
도 3을 참조하면, 동작 330은 전자 장치의 방향 및 위치를 확인하는 것일 수 있다. 전자 장치의 방향 및 위치는 전자 장치에 포함된 센서(예: 도 1의 센서 모듈(176), 또는 도2의 센서(220))를 통해 감지한 데이터를 기초로 확인될 수 있다. 예를 들어, 센서는 지자계 센서, 자이로 센서, 또는 가속도 센서를 포함할 수 있고, 센서로부터 센싱한 데이터는 프로세서(예: 도 1의 프로세서(120), 또는 도 2의 프로세서(210))에서 확인될 수 있다. 프로세서는 상기 센싱 데이터를 기초로 하여 전자 장치의 위치 및 방향을 확인할 수 있다. 일 실시예에 따르면, 센싱 데이터로부터 전자 장치의 방향을 확인하는 것은 전자 장치의 사용자가 향하고 있는 방향을 의미할 수 있다. 이 때, 전자 장치의 사용자가 향하고 있는 방향은 사용자의 얼굴이 향하고 있는 방향 또는 사용자가 바라보고 있는 방향을 포함할 수 있다. 다른 실시예에 따르면, 전자 장치의 사용자의 위치 및 방향을 판단하는 것은 오디오 출력 장치의 좌우 구별을 통한 위치 및 방향의 판단을 포함할 수 있다. 예를 들어, 입체적 음향 출력을 위하여 오디오 출력 장치의 좌측 및 우측 배열에 따른 전자 장치의 위치 및 방향을 판단하는 것일 수 있다.
도 3을 참조하면, 동작 340은 전자 장치에 대한 외부 장치의 방향 및 위치를 확인하는 것일 수 있다. 외부 장치의 실시간 위치 및 방향에 관한 데이터는 통화 연결된 전자 장치로 전송될 수 있으며, 이는 기지국을 거쳐 수신되는 정보에 포함될 수 있다. 외부 장치의 방향 또는 외부 장치 사용자의 방향은, 외부 장치 사용자가 향하고 있는 방향, 외부 장치 사용자의 얼굴이 향하고 있는 방향, 또는 외부 장치 사용자가 바라보고 있는 방향을 포함할 수 있다. 외부 장치의 실시간 위치 및 방향에 관한 데이터는 외부 장치에 포함된 센서를 이용하여 센싱될 수 있으며, 센싱된 데이터가 기지국을 경유하여 통화 연결된 전자 장치로 전송될 수 있다. 전자 장치의 프로세서는 외부 장치의 위치 및 방향을 전자 장치의 위치 및 방향을 기준으로 하여 상대적인 위치 및 방향을 판단할 수 있다.
도 3을 참조하면, 동작 350은 외부 장치로부터 수신되는 음성 데이터의 음상 정위를 결정하는 것일 수 있다. 외부 장치는 전자 장치와 통화 연결 또는 근거리의 통신 연결되는 장치일 수 있으며, 적어도 1개 이상일 수 있다. 복수의 외부 장치와 통화 연결 또는 통신 연결되는 경우 수신되는 음성 데이터는 외부 장치의 수와 동일하거나 그보다 적을 수 있다. 예를 들어, 음성 데이터와 외부 장치의 수가 일치하지 않을 수 있는 것은 외부 장치 사용자가 발화하지 않는 상황에 해당할 수 있다.
도 3을 참조하면, 동작 360은 통화 연결된 외부 장치로부터 수신되는 음성 데이터의 음상 정위에 따른 사운드를 출력하는 것일 수 있다. 여기서 음상(sound image)은 두 개 이상의 스피커(예: 복수의 스피커를 포함하는 오디오 출력 장치)를 통해 생성되는 소리의 이미지를 의미할 수 있다. 예를 들어, 전자 장치의 사용자의 전면에 복수의 스피커를 동일한 거리 및 각도에 위치시킨 상태에서 음향을 재생시키면, 복수의 스피커의 중앙으로부터 음향이 전달되는 것과 같이 가상의 이미지가 맺힐 수 있다. 이와 같이, 실제로 스피커가 위치하지 않은 지점이 음원이 되어 소리가 전달되는 것처럼 느껴지는 이미지를 음상으로 지칭할 수 있다. 음상 정위(sound image localization)는 음원의 방향이나 거리를 식별하는 것을 지칭할 수 있다. 동작 360의 경우, 음원의 방향이나 거리를 전자 장치의 사용자를 기준으로 판단하여 사운드를 출력하는 것에 해당할 수 있다. 이는 전자 장치의 사용자에 대한 외부 장치의 사용자의 상대적 음상 정위에 따른 외부 장치의 사용자의 음성 데이터 출력에 대응할 수도 있다.
도 3을 참조하면, 동작 370은 전자 장치에 대한 외부 장치의 방향 및 위치의 변경을 확인하는 것일 수 있다. 전자 장치와 외부 장치 간 상대적 위치 및 방향의 변경 여부는 임의의 주기에 따라 확인될 수 있으며, 이에 따라 동작 340 내지 동작 370의 반복적 수행이 가능할 수 있다. 예를 들어, 전자 장치의 사용자를 기준으로 외부 장치로부터의 음상 정위의 변경은 임의의 주기(예: 실시간 감지)에 따라 수 초 내지 초 단위보다 적은 시간 단위로 지정되어 감지될 수 있으며, 이에 한정되는 것은 아니다.
도 4a 내지 도 4d는 외부 장치의 음상 정위 변화에 대응한 전자 장치 사용자의 음상 출력 변경의 예시도이다.
음상 정위의 변화, 음상 정위의 변경, 또는 전자 장치의 사용자에 대한 외부 장치 사용자의 상대적 위치 및 방향 변화는 유사 및/또는 동일한 의미를 가질 수 있다. 이는 스테레오 시스템의 음향 출력이 가능한 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))를 소지한 사용자가 외부 장치의 사용자의 음성 데이터(예: 오디오 신호에 포함될 수 있는 음성 데이터)를 수신하게 되는 위치 및 방향에 대한 변경을 의미할 수 있다.
도 4a 및 도 4c를 참조하면, 전자 장치의 사용자(410)(예: A 사용자) 및 외부 장치의 사용자(420)(예: B 사용자)가 이격된 위치에서 음성 데이터를 상호 간 송신 및/또는 수신 하는 것을 도시한다. 전자 장치의 사용자(410)를 나타내는 이등변 삼각형 모양의 표시에서, 등변의 교점에 해당하는 꼭지점은 전자 장치의 사용자의 코 부분을 나타낼 수 있다. 또한, 등변의 만나지 않는 두 개의 꼭지점은 전자 장치의 사용자의 양쪽 귀, 전자 장치의 스테레오 음향 시스템의 좌 및 우를 나타내는 것일 수 있다.
도 4a 및 도 4c를 참조하면, 전자 장치의 사용자(410)의 지향 방향이 변경된 것을 확인할 수 있다. 도 4c에서는 도 4a에서와는 다르게, 전자 장치의 사용자(410)의 지향 방향이 외부 장치의 사용자(420)를 바라보는 방향으로 변경되었으며, 이는 전자 장치의 센서를 통해 감지될 수 있다.
도 4a 내지 도 4d를 참조하면, 전자 장치의 사용자(410)와 외부 장치의 사용자(420)가 서로 이격된 위치에서 통화 연결 또는 통신 연결되어 음성 데이터를 송신 및/또는 수신하는 것일 수 있다. 이격된 위치에서 음성 데이터를 주고 받는 경우, 모노 시스템에서는 일정한 위치에 음상이 맺혀(예: 정면에 맺혀) 실제의 상대방의 위치 및 방향에 대한 판단이 힘들 수 있다. 스테레오 시스템의 음향 출력이 가능한 전자 장치에서는 입체적인 음향 출력이 가능하므로 통화 또는 통신 연결된 외부 장치 사용자의 위치 및 방향 파악이 된다면, 실제의 위치 및 방향으로부터 음성 데이터가 출력되도록 조절할 수 있다.
도 4b를 참조하면, 전자 장치의 사용자(410)의 위치 및 방향을 중심으로 한 외부 장치의 사용자(420)의 음상 정위를 도시한다. 전자 장치의 음향 출력 장치의 좌우(411, 412)는 전자 장치의 사용자의 양쪽 귀에 대응할 수 있다. 전자 장치의 사용자의 뾰족한 부분의 도시(415)는 사용자의 코를 나타낼 수 있으며, 도 4b에 도시된 그림에서 전자 장치의 사용자(410)는 0도의 방향을 향하고 있는 것일 수 있다. 도 4a에서의 외부 장치의 사용자(420)의 위치 및 방향에 따라 도4b에서는 외부 장치의 사용자로부터 수신될 수 있는 음성 데이터의 방향을 임의의 모양(413)으로 도시한다. 이 임의의 모양(413)은 전자 장치의 사용자(410)에 대한 외부 장치의 사용자(420)의 음상 정위를 의미할 수 있다. 여기서 외부 장치의 사용자(420)의 음상 정위는 전자 장치의 사용자(410)를 기준으로 30도 방향에 대응할 수 있다.
도 4a 및 도 4c를 참조하면, 전자 장치의 사용자(410)의 지향 방향이 외부 장치의 사용자(420)를 바라보는 방향으로 변경된 것을 확인할 수 있다. 이는 도4c에서 전자 장치의 사용자(410)의 코 부분이 외부 장치의 사용자(420)의 방향으로 변경된 것에서 도출할 수 있으며, 전자 장치의 사용자로부터 외부 장치의 사용자로 향해 있는 화살표와 코 부분의 지향 방향이 일치하는 것으로부터 마찬가지로 알 수 있다.
도 4d를 참조하면, 전자 장치의 사용자(410)의 위치 및 방향을 중심으로 한 외부 장치의 사용자(420)의 음상 정위를 도시한다. 전자 장치의 음향 출력 장치의 좌우(411, 412)는 전자 장치의 사용자의 양쪽 귀에 대응할 수 있다. 전자 장치의 사용자의 뾰족한 부분의 도시(415)는 사용자의 코를 나타낼 수 있으며, 도 4d에 도시된 그림에서 전자 장치의 사용자(410)는 0도의 방향을 향하고 있는 것일 수 있다. 도 4a와 달리 도 4c에서 전자 장치의 사용자(410)의 지향 방향이 변경되었음에도 도 4d에서 마찬가지로 0도 방향을 향하고 있는 것은, 좌표계의 기준을 전자 장치의 사용자로 삼았기 때문일 수 있다. 도 4c에서의 외부 장치의 사용자(420)의 위치 및 방향에 따라 도 4d에서는 외부 장치의 사용자로부터 수신될 수 있는 음성 데이터의 방향을 임의의 모양(414)으로 도시한다. 이 임의의 모양(414)은 전자 장치의 사용자(410)에 대한 외부 장치의 사용자(420)의 음상 정위를 의미할 수 있다. 도 4b 및 도 4d를 비교하면, 전자 장치의 사용자(410)를 기준으로 한 외부 장치의 사용자(420)의 음상 정위는 0도 방향으로 변경되었음을 확인할 수 있다. 이와 같은 변화는 전자 장치의 사용자(410)의 지향 방향이 외부 장치의 사용자(420)를 향하는 방향으로 변경되었기 때문일 수 있다. 여기서 외부 장치의 사용자(420)의 음상 정위는 전자 장치의 사용자(410)를 기준으로 0도 방향에 대응하는 것으로 변경된 것일 수 있다.
도 5는 다수 사용자 간 통화 연결이 이루어지는 실시예에 따른, 음성 출력 방법의 동작 흐름도이다.
도 5를 참조하면, 동작 510은 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))와 외부 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200)) 간 통화 연결을 확인하고, 특히 복수의 외부 장치들과 통화 연결된 것인지 확인하는 것일 수 있다. 단수의 외부 장치와 통화 연결 또는 통신 연결되어 음성 데이터를 송신 및/또는 수신하게 되는 경우, 전자 장치가 수신하는 음성 데이터의 주파수 대역을 분할하여 할당하지 않을 수 있다. 연결된 외부 장치가 1개이면 음성 데이터 또한 1개이므로 구별이 필요한 음성 데이터가 존재하지 않기 때문이다. 동작 510은 다수 사용자 간 통화 연결 또는 통신 연결인지 확인하여 불필요한 동작을 생략할 수 있다. 일 실시예에 따르면, 전자 장치 사용자와 단수의 외부 장치 사용자 간 통화 연결 또는 통신 연결이 이루어지는 경우(동작 510의 '아니오'), 동작 520 내지 동작 540을 수행하지 않을 수 있다.
도 5를 참조하면, 동작 520은 다수 사용자 간 통화 연결 시, 적어도 n개의 외부 장치들(예: 전자 장치와 통화 연결되는 복수의 외부 장치들)에 대해, 개별 외부 장치에 따라 주파수 대역을 할당하는 것일 수 있다. 복수의 외부 장치는 제1외부 장치, 제2외부 장치, 제n외부 장치로 지칭될 수 있으며 전자 장치와 통화 연결 또는 통신 연결된 외부 장치의 수에 따라 n의 값(예: 양의 정수)은 변경될 수 있다. 외부 장치에 따라 주파수 대역을 할당하는 것은 외부 장치 사용자들의 음성 데이터를 구별하기 위함일 수 있다. 예를 들어, 다수 사용자 간 대화 시 음성 데이터가 중첩되어 수신되는 경우 음성 데이터의 구별이 힘들 수 있다. 주파수 대역은 전자 장치에서 수신할 수 있는 음성 데이터의 주파수 대역을 지칭할 수 있으며, 수신 가능한 전체의 주파수 대역을 분할하여 할당하는 것일 수 있다.
다양한 실시예에 따르면, 전자 장치와 통화 연결 또는 통신 연결된 외부 장치에 주파수 대역을 할당하는 주체는 전자 장치, 기지국, 및 서버 중 적어도 하나일 수 있다. 일 실시예에 따르면, 전자 장치가 마스터 장치(master device)로 동작하여, 수신 가능한 전체 주파수 대역을 구간을 두어 개별 외부 장치에 할당하는 것일 수 있다. 다른 실시예에 따르면, 전자 장치와 복수의 외부 장치 간 통화 연결 또는 통신 연결된 것을 확인한 기지국 또는 서버에서 마스터 장치와 동일 및/또는 유사한 동작을 수행할 수도 있다. 여기서 전자 장치와 외부 장치는 상호 간 변경될 수 있으며, 외부 장치는 전자 장치와 동일 및/또는 유사한 장치일 수 있다.
도 5를 참조하면, 동작 530은 복수의 외부 장치(예: n개의 외부 장치들)에 따라 할당된 주파수 대역에 대응하여 개별 외부 장치로부터 적어도 n개의 음성 데이터를 수신하는 것일 수 있다. 예를 들어, 제1 외부 장치로부터 수신되는 음성 데이터는 제1 음성 데이터, 제n 외부 장치로부터 수신되는 음성 데이터는 제n 음성 데이터를 의미할 수 있다. 제n 외부 장치는 제n 음성 데이터에 대응하는 음성 데이터를 출력하는 것일 수 있고, 제n 외부 장치에 할당되는 제n 대역은 동작 520에서 할당된 주파수 대역에 대응할 수 있다. 전자 장치에서 구별된 주파수 대역에 따라 음성 데이터를 수신하는 것은 복수의 외부 장치로부터 수신되는 음성 데이터를 구별하기 위함일 수 있다.
도 5를 참조하면, 동작 540은 주파수 대역 별로 수신되는 음성 데이터를 증폭하여 본래의 음성 데이터로 복원하는 것일 수 있다. 전체 주파수 대역을 연결된 외부 장치의 개수(예: n개)에 따라 분할하여, 개별 외부 장치에 할당하여 음성 데이터를 수신할 수 있다. 이 경우, 제n 외부 장치의 제n 음성 데이터(예: 제n 외부 장치의 사용자의 제n 음성 데이터)가 본래의 음성 데이터의 주파수 대역과 달리 할당된 주파수 대역(예: 제n 대역)에서만 수신될 수 있다. 동작 540은 제n 대역에 대응하여 수신되는 제n 음성 데이터를 전체의 주파수 대역에 대하여 복원하는 것일 수 있다. 이 때, 전자 장치의 프로세서는 주파수 대역 증폭(bandwidth extension, BWE)을 활용하여 본래(original)의 음성 데이터로 복원할 수 있다. 예를 들어, 본래의 음성 데이터로 복원하는 것은 통화 연결 또는 통신 연결에 의해 전자 장치에 수신되는 외부 전자 장치의 사용자의 음성 데이터(예: 제n 외부 장치의 사용자의 제n 음성 데이터)로 복원하는 것일 수 있다.
도 5를 참조하면, 동작 550은 개별 외부 장치의 음상 정위에 따라 음성 데이터를 출력하는 것일 수 있다. 복수의 외부 장치 사용자들은 개별 외부 장치의 위치 및 방향에 따라 음상 정위될 수 있다. 이 때, 전자 장치의 사용자의 위치 및 방향을 기준으로 음상 정위가 판단될 수 있으며, 개별 외부 장치의 사용자들을 기준으로 다른 외부 장치 및 전자 장치에 대해서도 마찬가지일 수 있다. 전자 장치의 사용자를 기준으로 할 때, 제n 외부 장치의 제n 음성 데이터의 수신을 위한 음상 정위를 확인하고, 프로세서는 수신되는 제n음성 데이터를 확인된 음상 정위 별로 오디오 출력 장치를 통해 출력하도록 설정할 수 있다. 이렇게 출력되는 제n 음성 데이터는 전자 장치의 사용자의 위치 및 방향을 기준으로 제n 외부 장치 사용자의 위치 및 방향으로부터 출력되는 것처럼 감지될 수 있다.
도 6은 다양한 실시예들에 따른, 다수 사용자 간 음성 데이터 구별 및 수신을 위한 예시도이다.
도 6에 도시된 제1 음성 데이터, 제2 음성 데이터는 각각 제1 외부 장치, 제2 외부 장치 사용자들의 음성 데이터에 대응할 수 있다. 예를 들어, 제1 음성 데이터는 제1 외부 장치에 할당된 0 kHz 내지 1kHz, 2kHz 내지 3kHz, 및 4kHz 내지 5kHz의 주파수 대역에 대응되는 음성 데이터일 수 있다. 제2 음성 데이터는 제2 외부 장치에 할당된 1 kHz 내지 2kHz, 3kHz 내지 4kHz, 및 5kHz 내지 6kHz의 주파수 대역에 대응되는 음성 데이터일 수 있다. 여기서 수신 데이터는 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))의 사용자가 통화 연결 또는 통신 연결에 의해 각각의 외부 장치로부터 수신하게 되는 데이터를 의미할 수 있으며, 제1 음성 데이터 및 제2 음성 데이터를 합산한 데이터에 대응할 수 있다.
일 실시예에 따르면, 수신 데이터는 전자 장치에서 수신할 수 있는 주파수 대역(예: 0kHz 내지 6kHz)에 대응되는 음성 데이터일 수 있다.
전자 장치에서 수신할 수 있는 외부 장치의 음성 데이터는 2개로 제한되는 것은 아니며 제n음성 데이터까지 수신 가능할 수 있다.
전자 장치에서 수신 가능한 주파수 대역을 n개의 대역으로 분할하여 n개의 외부 장치에 각각 할당할 수 있다. 전자 장치는 n개의 외부 장치에서 각각 출력되는 n개의 음성 데이터를 분할한 주파수 대역 별로 수신할 수 있다. 수신된 제n음성 데이터는 분할된 주파수 대역에 해당하는 데이터만 있기에, 전자 장치는 주파수 대역 증폭(BWE)을 활용하여 제n음성 데이터를 복원할 수 있다.
예를 들어, 전자 장치는 제1 외부 장치에 할당된, 분할된 주파수 대역(예: 0 kHz 내지 1kHz, 2kHz 내지 3kHz, 및 4kHz 내지 5kHz)에 대응되는 제1 음성 데이터를 증폭하여 본래의 제1 음성 데이터로 복원할 수 있다.
다른 실시예에 따르면, 전자 장치는 제2 외부 장치에 할당된, 분할된 주파수 대역(예: 1 kHz 내지 2kHz, 3kHz 내지 4kHz, 및 5kHz 내지 6kHz)에 대응되는 제2 음성 데이터를 주파수 대역 증폭(BWE)을 활용하여 본래의 제2 음성 데이터로 복원할 수 있다.
다양한 실시예에 따르면, 전자 장치와 통화 연결 또는 통신 연결되는 제n 외부 장치에 할당되는 주파수 대역은 본 문서에 예시로 기재한 주파수 대역에 한정되는 것은 아닐 수 있다. 예를 들어, 제n 외부 장치에 할당될 수 있는 주파수 대역은 전자 장치의 사용자의 평균적인 가청 주파수 대역을 나누어 할당되는 것일 수 있다. 전자 장치 사용자의 평균적인 가청 주파수 대역은 연령에 따른 가청 주파수 대역의 평균적인 값에 대응될 수도 있으며, 전자 장치의 최초 제공 시 설정될 수 있고, 통신 모듈(예: 도 2의 통신 모듈(230))을 통해 할당될 수 있는 주파수 대역에 관한 정보를 업데이트하여 제공될 수도 있으며, 방식에 제한되지 않을 수 있다.
전자 장치는 통화 연결 또는 통신 연결된 복수의 외부 장치들(예: 도 1의 전자 장치(101), 또는 도2의 전자 장치(200))의 개별 음상 정위를 확인할 수 있다. 이 때, 개별 외부 장치들의 위치 및 방향에 관한 데이터는 기지국, 또는 서버를 경유하여 전자 장치로 수신될 수 있다. 전자 장치의 프로세서는 상기 수신된 데이터를 확인하여 전자 장치의 위치 및 방향을 기준으로 하여 개별 외부 장치들의 음상 정위를 확인할 수 있다. 이 때, n개의 외부 장치 사용자들의 n개의 음성 데이터는 확인된 음상 정위 별로 출력되도록 설정될 수 있다. 실제의 외부 장치의 위치 및 방향으로부터 음성 데이터가 출력되면 전자 장치의 사용자에게 생생한 현장감의 전달이 가능할 수 있다. 예를 들어, 전자 장치의 사용자를 기준으로 우측에 위치한 외부 장치의 사용자와 통화가 이루어질 수 있다. 외부 장치에 대한 음상 정위가 이루어지고, 외부 장치 사용자의 음성 데이터를 수신하면, 전자 장치의 사용자는 자신의 우측으로부터 음성 데이터가 출력되는 것과 같은 효과를 경험할 수 있다. 이러한 실시예는 1명의 외부 장치 사용자와 통화 연결 또는 통신 연결되는 것에만 해당하는 것은 아니며, 복수의 외부 장치와 연결되어 음성 데이터를 수신하는 경우에도 마찬가지로 적용 가능할 수 있다.
제n 음성 데이터의 복원 이후 제n 음성 데이터에 관한 렌더링(rendering)이 이루어질 수 있다. 여기서 렌더링은 2차원에서 3차원으로 변화시키는 것을 의미할 수 있다. 음원의 렌더링은 평면 상에서 들려오는 음향에 대한 것을 3차원 공간에서 들려오는 것으로 변화시키는 것일 수 있다. 다양한 실시예에 따르면, 전자 장치와 연결되는 복수의 외부 장치들의 음성 데이터에 해당할 수 있다. 예를 들어, 복수의 외부 장치 사용자들의 음성 데이터는 전자 장치 사용자를 기준으로 하여 복수의 음상 정위를 가질 수 있다. 개별 외부 장치들의 음상 정위에 대응하여 음성 데이터를 전자 장치 사용자에게 출력하는 것이 음성 데이터의 렌더링에 대응할 수 있다. 다른 실시예에 따르면, 전자 장치 및 외부 장치는 1대1 로 통화 연결 또는 통신 연결될 수 있다. 여기서도 외부 장치 사용자의 음성 데이터는 확인된 음상 정위로부터 출력되는 것과 같이 렌더링이 될 수 있다.
도 7은 전자 장치의 복수의 음성 데이터 출력을 위한 오디오 출력 장치의 구성에 관한 블록도이다.
전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))는 오디오 출력이 가능한 오디오 출력 장치(예: 도 1의 오디오 모듈(170), 또는 도 2의 오디오 출력 장치(240))를 포함할 수 있다. 오디오 출력 장치는 스테레오 시스템으로 구성되어 복수의 출력 방향으로 음향을 출력시킬 수 있다. 오디오 출력 장치는 수신부(711), 필터(712, 722), 음상 정위 분석부(717), 송신부(721), 복원부(730), 및 출력부(740)를 포함할 수 있으며, 도 1의 오디오 모듈(170)의 구성 및/또는 기능 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 오디오 출력 장치는 스피커를 포함할 수 있다. 예를 들어, 블루투스 헤드셋의 좌우 스피커는 스테레오 시스템의 오디오 출력 장치에 해당할 수 있다. 다른 실시예에 따르면, 전자 장치(예: 스마트폰)의 스테레오 스피커는 오디오 출력 장치에 해당할 수 있다.
도 7을 참조하면, 수신부(711)는 전자 장치의 음향 수신부에 대응할 수 있다. 수신부(711)는 외부 장치로부터의 음성 데이터를 포함한 오디오 신호를 수신할 수 있다. 예를 들어, 수신부(711)는 전자 장치에서 재생되는 음향에 관한 데이터를 수신할 수 있다.
도 7에 도시된 수신부(711) 및 송신부(721)는 오디오 신호(예: 음성 데이터를 포함하는 오디오 신호)를 수신 및/또는 송신할 수 있다. 예를 들어, 수신부(711) 및 송신부(721)는 통신 모듈(예: 도 1의 통신 모듈(190), 또는 도 2의 통신 모듈(230))을 포함할 수 있다. 일 실시에에 따르면, 통신 모듈을 이용해 송신 및/또는 수신되는 오디오 신호는 일괄하여 송신 및/또는 수신될 수 있다. 다른 실시예에 따르면, 통신 모듈을 이용해 송신 및/또는 수신되는 오디오 신호는 주파수 대역이 할당되어 구분되어 송신 및/또는 수신될 수 있다.
일 실시예에 따르면, 전자 장치에서 송신되는 오디오 신호는 송신부(721)에 포함된 통신 모듈을 통해 송신될 수 있다. 이 때, 복수의 외부 장치와 통화 연결된 경우라면 전자 장치에 할당된 주파수에 대응하여 음성 데이터(예: 오디오 신호에 포함된 음성 데이터)를 송신할 수 있다. 다른 실시예에 따르면, 전자 장치에서 수신하게 되는 오디오 신호들에 대해서도 동일 및/또는 유사할 수 있다.
일 실시예에 따르면, 수신부(711)의 통신 모듈을 통해 수신되는 복수의 외부 장치들의 오디오 신호들(예: 복수의 오디오 신호들에 포함된 복수의 음성 데이터들)은 일괄하여 수신될 수 있다. 다른 실시예에 따르면, 통신 모듈을 통해 수신되는 오디오 신호들은 주파수 대역이 할당되어 구분되어 수신될 수 있다. 도 7에 도시된 것처럼 필터(712)를 통해 개별 음성 데이터(713, 714)가 분리될 수 있다. 도 7에 도시된 수신부(711) 및 송신부(721)의 통신 모듈은 동일할 수도 있으며 별개의 다른 통신 모듈일 수도 있다.
도 7을 참조하면, 수신부(711)를 거쳐 전자 장치에 수신되는 외부 장치 사용자들의 음성 데이터는 필터(712)를 거쳐 필터링 될 수 있다. 예를 들어, 전자 장치와 통화 연결 또는 통신 연결되어 음성 데이터를 송신 및/또는 수신하는 외부 장치의 개수에 대응되는 필터(712)를 거쳐 필터링 될 수 있다. 필터(712)는 전자 장치와 통화 연결 또는 통신 연결이 될 수 있는 외부 장치의 개수 만큼 존재할 수 있다. 일 실시예에 따르면, 제1 외부 장치의 제1 음성 데이터는 제1 필터, 제2 외부 장치의 제2 음성 데이터는 제2 필터, 제n 음성 데이터는 제n 필터를 거쳐 필터링 될 수 있다. 다른 실시예에 따르면, 전자 장치의 필터(712)는 통화 연결 또는 통신 연결이 될 수 있는 외부 장치의 개수 보다 많은 개수로 존재할 수 있다. 필터(712)는 저대역 필터(low pass filter, LPF), 고대역 필터(high pass filter, HPF), 또는 대역 통과 필터(band pass filter, BPF)를 포함할 수 있다.
도 7을 참조하면, 복수의 외부 장치(예: n개의 외부 장치)로부터 수신되는 복수의 음성 데이터(713, 714)는 개별 외부 장치로부터 수신되는 음성 데이터들로 분리될 수 있다. 예를 들어, 제1 외부 장치 사용자의 음성 데이터인 제1 음성 데이터(713) 내지 제n 외부 장치 사용자의 음성 데이터인 제n 음성 데이터(714)까지 분리될 수 있다.
분리된 복수의 음성 데이터들은, 머리전달함수(head related transfer function, HRTF)에 따라 처리될 수 있다. 머리전달함수는 동일한 음향을 전방위에서 발생시켜 방향에 따른 주파수 반응을 측정하여 3차원의 함수로 생성한 것일 수 있다. 도 7에 도시된 HRTF1(715) 내지 HRTFn(716)은 n개의 개별 음성 데이터에 대응하여 기능하는 머리전달함수 처리를 위한 기능 블록에 해당할 수 있다. 복수의 외부 장치들로부터 수신되는 복수의 음성 데이터들(예: 713, 714)에 대하여 전자 장치의 사용자에게 부합하는 머리전달함수를 처리하여 입체적 음향을 출력시킬 수 있다.
도 7을 참조하면, 음상 정위 분석부(717)는 오디오 출력 장치 내에서 기능하거나 전자 장치의 프로세서(예: 도 1의 프로세서(120), 또는 도 2의 프로세서(210))를 이용해 동작하는 것일 수 있다. 음상 정위 분석부(717)는 전자 장치와 연결된 복수의 외부 장치들(예: 제1 외부 장치, 제2 외부 장치, 또는 제n 외부 장치)의 개별 음상 정위(예: 제1 음성 데이터의 음상 정위, 제2 음성 데이터의 음상 정위, 또는 제n 음성 데이터의 음상 정위)를 분석할 수 있다. 도 7을 참조하면, 음상 정위 분석부(717)의 위치는 머리전달함수를 처리하는 기능 블록들(715, 716)과 연결된 것으로 도시되었으나 이에 한정되는 것은 아닐 수 있다. 예를 들어, 음상 정위 분석부(717)는 복수의 외부 장치들의 개별 음상 정위를 분석하기 위하여 수신부(711)와 필터(712)의 사이에 배치될 수 있다. 음상 정위 분석부(717)는 복수의 외부 장치들에서 전송되는 음성 데이터들의 음상에 관한 정위를 분석하여, 전자 장치의 프로세서에, 실제 외부 장치 사용자들의 위치 및 방향으로부터 음향이 출력되는데 활용할 데이터로 제공할 수 있다.
도 7을 참조하면, 복원부(730)는 복수의 외부 전자 장치들로부터 수신된 복수(예: n개)의 음성 데이터(예: 제1 음성 데이터, 제2 음성 데이터, 또는 제n 음성 데이터)를 복원할 수 있다. 복원부(730)는 주파수 대역 증폭(BWE)을 처리할 수 있는 기능 블록에 해당할 수 있다. 예를 들어, 복원부(730)에서 복원되는 음성 데이터는 제1 음성 데이터(713) 내지 제n 음성 데이터(714)일 수 있다.
일 실시예에 따르면, 송신부(721)를 통해 송신되는 전자 장치 사용자의 음성 데이터는 복원부(730)의 복원 동작을 거치지 않을 수 있다. 다른 실시예에 따르면, 전자 장치 사용자와 단수의 외부 장치(예: 1개) 사용자 간 통화 연결 또는 통신 연결이 이루어질 수 있다. 이 때, 제1 음성 데이터 내지 제n 음성 데이터는 구별될 필요성이 없으며 개별로 할당되는 주파수 대역이 없기 때문에 복원부(730)를 거치지 않을 수 있다.
도 7에 도시된 출력부(740)는 전자 장치의 음향 출력부에 대응할 수 있다. 예를 들어, 전자 장치의 음향 출력부는 입체적 음향 출력을 가능하게 하는 스테레오 시스템의 출력부일 수 있다. 스테레오 시스템의 오디오 출력 장치는 복수의 스피커를 포함하여 방향을 구분하여 음향 출력이 가능할 수 있다. 출력부(740)는 좌우가 구별될 수 있는 복수의 스피커를 포함할 수 있다. 일 실시예에 따르면, 출력부(740)는 스마트폰을 포함하는 전자 장치의 음향 출력부(예: 스피커)에 대응할 수 있다. 여기서 음향 출력부는 최소 2군데의 음향 출력 부분을 포함할 수 있다. 다른 실시예에 따르면, 출력부(740)는 이어폰, 헤드셋의 음향 출력 기기의 출력부에 대응할 수 있다. 이어폰, 헤드셋의 기기에는 좌우가 구별되는 음향 출력부가 존재하며, 해당 기기와 접촉(예: 착용)하게 되는 사용자의 귀에 따라 좌측 스피커(예: 사용자의 좌이와 접촉) 또는 우측 스피커(예: 사용자의 우이와 접촉)로 명명될 수 있다.
도 7을 참조하면, 송신부(721)는 전자 장치 사용자의 음성 데이터를 외부 장치 사용자에게 전송하기 위한 기능 블록일 수 있다. 예를 들어, 송신부(721), 필터(722), 및 출력부(740)는 전자 장치로부터 통화 연결 또는 통신 연결된 외부 장치로 음성 데이터를 전송하기 위한 기능을 수행할 수 있다. 출력부(740)는 전자 장치의 마이크에 대응할 수도 있다.
도 8은 다양한 실시예들에 따른, 전자 장치의 음성 데이터 구별 및 증폭에 의한 음성 데이터 복원 동작에 대한 블록도이다.
도 7 및 도 8을 참조하면, 수신부(711)는 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))와 통화 연결 또는 통신 연결된 복수의 외부 장치로부터 복수의 음성 데이터를 수신할 수 있다. 수신부(711)에 수신되는 n개의 외부 장치로부터의 음성 데이터는 제1 외부 장치로부터 수신되는 제1 음성 데이터, 제2 외부 장치로부터 수신되는 제2 음성 데이터, 내지 제n 외부 장치로부터 수신되는 제n 음성 데이터를 포함할 수 있다.
도 8을 참조하면, 주파수 할당부(810)는 오디오 출력 장치에서 기능할 수 있는 블록일 수 있다. 일 실시예에 따르면, 주파수 할당부(810)는 전자 장치의 프로세서(예: 도 1의 프로세서(120), 또는 도 2의 프로세서(210))에서 처리할 수 있는 기능에 해당할 수 있다. 주파수 할당부(810)는 복수의 외부 장치의 개수를 확인하여, 상기 확인된 개수에 따라 전자 장치가 수신할 수 있는 전체의 주파수 대역을 분할할 수 있다. 여기서 주파수 대역을 분할하는 것은 임의의 간격에 따른 분할일 수 있다. 주파수 대역을 분할하여 개별 외부 장치에 할당하는 것은 전자 장치가 마스터 장치가 되어 프로세서를 통해 이루어지거나, 기지국에서 이루어지거나, 또는 서버를 통하여 외부에서 이루어질 수도 있다. 주파수 대역이 분할되어 개별 외부 장치에 할당되면, 외부 장치 사용자의 음성 데이터는 할당된 주파수 대역에 따라 전송되거나, 이미 전송된 음성 데이터를 할당된 주파수 대역에 대응하여 수신하게 되는 것일 수 있다.
도 8을 참조하면, 주파수 대역이 n개의 외부 장치에 대하여 분할될 수 있다. 예를 들어, 제1 외부 장치에는 제1 대역, 제2 외부 장치에는 제2 대역, 제n 외부 장치에는 제n 대역이 할당될 수 있다. 제1 대역에 대응한 제1 음성 데이터 내지 제n 대역에 대응한 제n 음성 데이터(713)는 할당된 주파수 대역에서만 음성 데이터를 포함할 수 있다. 주파수 대역 증폭(BWE)(731 또는 732)을 이용하면, 분할된 주파수 대역에 포함된 음성 데이터를 증폭하여 본래의 음성 데이터로 복원시킬 수 있다. 일 실시예에 따르면, 제1 대역에 대응한 제1 음성 데이터(713)는 BWE(731)를 통해 본래의 제1 음성 데이터(821)로 복원될 수 있다. 다른 실시예에 따르면, 제n 대역에 대응한 제n 음성 데이터(713)는 BWE(732)를 통해 본래의 제n 음성 데이터(822)로 복원될 수 있다.
다양한 실시예에 따르면, 전자 장치는 단일의 외부 장치와 통화 연결 또는 통신 연결될 수 있다. 1대1의 음성 통화가 이루어지면, 도 8의 주파수 할당부(810), BWE(731, 732), 제n 대역에 대응한 제n 음성 데이터(713) 및 복원(821, 822)은 불필요할 수 있다. 외부 장치가 1개만 존재하고 통화 연결되면, 음성 데이터의 구분이 무의미할 수 있다. 일 실시예에 따르면, 단일의 외부 장치와 통화 연결 또는 통신 연결되는 경우, 연결된 외부 장치에 대한 음상 정위의 확인 동작은 이루어질 수 있다. 예를 들어, 통화 또는 통신 중인 상대방의 음성 데이터의 위치 및 방향에 관한 음상 정위를 이용하여 실제 외부 장치 사용자의 위치 및 방향으로부터 음성 데이터가 출력이 되도록 하는데 활용될 수 있다.
다양한 실시예에 따르면, 음성 데이터의 송신 및/또는 수신은 다수 사용자 간에 이루어질 수 있다. 예를 들어, VR 서바이벌 게임을 위한 팀이 구성되어, 팀의 구성원의 전자 장치들간에 통신 연결되어 음성 데이터의 송신 및/또는 수신이 가능할 수 있다. 이 때, 개별 구성원들의 음성 데이터의 구별 및 음상 정위는 구성원들의 위치 및 방향의 파악에 도움이 될 수 있다. 다른 실시예에 따르면, 군중 속의 외부 장치 사용자의 음상 정위 파악이 가능할 수 있다. 예를 들어, 전자 장치 사용자와 통화 연결된 단일의 외부 장치 사용자의 음상 정위에 따라 음성 데이터를 수신할 수 있다. 이 경우, 전자 장치 사용자는 다수의 사람들 속에서 통화 연결된 외부 장치 사용자의 위치 및 방향을 식별하기 힘들 수 있다. 실제 외부 장치 사용자의 위치 및 방향으로부터 음성 데이터가 출력된다면, 전자 장치 사용자는 군중 속에서 외부 장치 사용자를 찾는데 용이할 수 있다.
도 9는 다양한 실시예들에 따른, 전자 장치의 음성 데이터 송신에 대한 블록도이다.
도 9를 참조하면, 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))는 복수의 외부 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))와 통신 모듈(예: 도 1의 통신 모듈(190) 또는 도 2의 통신 모듈(230))을 통해 통화 연결 또는 통신 연결될 수 있다. 전자 장치 및/또는 외부 장치는 음성 데이터의 수신뿐 아니라 송신에서도 할당된 주파수 대역에 따라 음성 데이터를 송신하도록 설정될 수 있다. 예를 들어, 전자 장치를 포함하여 복수의 외부 장치들의 개수에 따라 주파수 대역을 할당할 수 있다. 이 경우, n개의 외부 장치라면 n+1개의 주파수 대역으로 할당될 수 있다.
다양한 실시예에 따르면, 전자 장치를 포함한 복수의 외부 장치들에 주파수 대역이 할당될 수 있다. 예를 들어, 제1 외부 장치에 제1 대역이 할당되어 제1 대역에 대응하는 제1 음성 데이터가 송신 및/또는 수신될 수 있다. 이 때, n개의 외부 장치와 전자 장치가 통화 연결 또는 통신 연결되는 경우, 전자 장치의 개수까지 포함하여 n+1개의 대역이 할당되고 송신 및/또는 수신되는 음성 데이터 또한 n+1개에 대응할 수 있다.
도 9를 참조하면, 전자 장치로부터 전송되는 음성 데이터에 관한 예시에 해당할 수 있다. 도 9에 도시된 제n 음성 데이터(910)는 제n 외부 장치에서 전송되는 음성 데이터일 수 있고, 전자 장치 사용자로부터 전송되는 음성 데이터에 해당할 수도 있다. 일 실시예에 따르면, 전자 장치에서 외부 장치들로 전송되는 사용자의 음성 데이터가 제n 음성 데이터에 해당할 수 있다. 예를 들어, 제n 음성 데이터(910)는 0kHz 내지 6kHz의 주파수 대역에 대응되는 전자 장치의 사용자의 음성 데이터에 해당할 수 있다. 이 경우, 전자 장치에서 전송되는 제n 음성 데이터(910)도 외부 장치들에서 수신되는 음성 데이터들과 마찬가지로 주파수 대역이 할당되어 전송될 수 있다. 예를 들어, 음성 데이터 별 주파수 대역 할당(920)이 이루어질 수 있고, 전자 장치를 포함한 외부 장치들 전체의 개수에 대응하여 주파수 대역이 할당될 수 있다.
일 실시예에 따르면, 전자 장치는 제n 대역(예: 0 kHz 내지 1kHz, 2kHz 내지 3kHz, 및 4kHz 내지 5kHz)을 할당 받을 수 있고, 할당된 제n 대역에 대응한 제n 음성 데이터(930)를 통화 연결 또는 통신 연결된 외부 장치들로 전송할 수 있다.
다양한 실시예에 따르면, 제n 대역에 대응한 제n 음성 데이터(930)는 송신부(940)를 통해 전자 장치 및/또는 외부 장치들로 전송될 수 있다. 예를 들어, 송신부(940)는 마이크를 통해 입력되는 제n 음성 데이터(910)를 전자 장치 및/또는 외부 장치들로 전송하도록 기능하는 것일 수 있다. 일 실시예에 따르면, 전자 장치 및/또는 외부 장치들은 음성 데이터의 송신 및/또는 수신에 있어서, 개별 주파수 대역을 할당 받아 할당된 주파수 대역에 대응하여 개별 음성 데이터를 송신 및/또는 수신하도록 설정될 수 있다. 다른 실시예에 따르면, 주파수 대역에 따라 송신 및/또는 수신되는 음성 데이터들은 주파수 대역 증폭(BWE)에 의하여 본래의 음성 데이터들로 복원될 수 있다.
도 10은 다양한 실시예들에 따른, 다수 사용자 간 통화 연결 시 서버를 활용한 예시도이다.
도 10을 참조하면, 전자 장치(1011) (예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))는 복수의 외부 장치들(1012 내지 1019) (예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))과 통신 모듈(예: 도 1의 통신 모듈(190) 또는 도 2의 통신 모듈(230))을 통해 통화 연결 또는 통신 연결될 수 있다. 여기서 통화 연결 또는 통신 연결되는 것은 전자 장치 및 복수의 외부 장치들의 사용자들 간 음성 데이터의 송신 및/또는 수신을 위한 것일 수 있다. 예를 들어, 1011 내지 1019의 장치들은 그룹 통화, 화상 회의, VR/AR 회의의 컨텐츠의 실행을 통해 다수 사용자 간 음성 데이터의 송신 및/또는 수신이 이루어질 수 있다.
일 실시예에 따르면, 다수 사용자의 기기(예: 1011 내지 1019)가 통화 연결 또는 통신 연결되는 경우, 1대의 기기(예: 1011)가 마스터 장치가 되어 음성 데이터의 송신 및/또는 수신을 설정할 수 있다. 예를 들어, 전자 장치(1011)가 마스터 장치가 되는 경우에는 전자 장치의 프로세서에서 전체 기기(예: 1011 내지 1019)의 스펙(specification)에 따른 송신 및/또는 수신 가능한 주파수 대역을 확인할 수 있다. 전자 장치(1011)의 프로세서는 확인한 주파수 대역을 통화 연결된 기기의 개수에 따라 분할하여 개별 기기에 할당할 수 있다. 다른 실시예에 따르면, 서버(1020)는 다수 사용자 간 통화 연결을 확인하여 전체 기기(예: 1011 내지 1019)의 스펙에 따른 송신 및/또는 수신 가능한 주파수 대역을 분할할 수 있다. 예를 들어, 서버는 전체 기기의 개수에 따라 주파수 대역을 분할하여 개별 기기에 할당할 수 있다. 다른 실시예에 따르면, 기지국이 전자 장치 또는 서버의 기능을 수행하도록 설정할 수도 있다. 주파수 대역을 개별 기기에 할당하는 것은 개별 음성 데이터의 구별이 가능하도록 하기 위함일 수 있다.
일 실시예에 따르면, 전자 장치, 서버, 또는 기지국으로부터 할당된 주파수 대역에 따라 전체 기기(예: 1011 내지 1019)의 음성 데이터가 송신 및/또는 수신될 수 있다. 예를 들어, 개별 기기에 할당된 주파수 대역에서 상호 간 음성 데이터를 송신 및/또는 수신하게 되면, 개별 기기의 사용자들은 어떤 기기(예: 1011 내지 1019)의 사용자의 음성 데이터인지 구별할 수 있다. 다른 실시예에 따르면, 구별된 음성 데이터는 개별 기기의 사용자의 위치 및 방향에 따라 수신되는 기기에서 출력될 수 있다. 예를 들어, 전자 장치(1011)의 사용자를 기준으로, 외부 장치(예: 1012 내지 1019)의 사용자들의 음성 데이터가 개별 사용자들의 위치 및 방향으로부터 출력되도록 설정될 수 있다. 이 경우, 전자 장치(1011)의 프로세서는 전자 장치의 위치 및 방향을 기준으로 한 개별 외부 장치(예: 1012 내지 1019)의 상대적 위치 및 방향을 확인할 수 있다. 이는 개별 외부 장치들의 음성 데이터에 관한 위치 및 방향, 또는 개별 외부 장치들의 음상 정위로 지칭될 수 있다.
일 실시예에 따르면, 다수 사용자 간 통화 연결 또는 통신 연결로 주파수 대역이 개별 기기에 할당되는 것은 PTT(push-to-talk) 방식에 의할 수 있다. 예를 들어, 통화 연결 또는 통신 연결된 기기들(예: 1011 내지 1019)의 디스플레이에 '발언권 획득', '말하기'와 같은 시각적 객체(예: 버튼)를 포함하는 사용자 인터페이스(user interface, UI)가 제공될 수 있다. 이는 통화 연결이 이루어지는 경우 항상 표시되는 것은 아니고, 다수의 사용자 간 음성 데이터의 송신 및/또는 수신이 이루어지는 경우에만 표시되는 시각적 객체(예: 버튼)일 수 있다. 기기들(1011 내지 1019)의 사용자들 중 음성 데이터를 전송하기를 원하는 사용자의 상기 시각적 객체(예: 버튼)에 대한 입력에 대응하여 주파수 대역이 할당될 수 있다. PTT 방식으로 주파수를 할당하는 것은 전체 주파수 대역을 모든 기기에 대해 분할 시, 음성 데이터의 손실이 클 수 있기 때문일 수 있다. 다른 실시예에 따르면, PTT 방식에 의한 음성 데이터 전송이 동시에 이루어질 수도 있다. 예를 들어, 음성 데이터를 전송하기를 원하는 사용자가 복수인 경우에 해당할 수 있다. 이 경우, 마스터 장치(예: 다수 사용자의 기기 중 1개의 장치, 서버, 또는 기지국)에서 음성 데이터 전송을 원하는 사용자들의 입력의 개수에 따라 주파수 대역을 분할하여 할당할 수 있다.
다양한 실시예에 따르면, 통화 연결 또는 통신 연결된 전체 기기(예: 1011 내지 1019)의 송신 및/또는 수신 가능한 주파수 대역은 연결된 기기의 개수에 따라 분할되어 할당될 수 있다. 예를 들어, 그룹 통화 연결이 이루어지게 되면 마스터 장치를 이용하여 주파수 대역을 분할하고, 음성 데이터의 송신 및/또는 수신을 위한 분할된 주파수 대역을 개별 기기(예: 1011 내지 1019)에 할당하도록 설정될 수 있다.
일 실시예에 따르면, 통화 연결 또는 통신 연결된 기기들(예: 1011 내지 1019)의 음성 데이터 송신 및/또는 수신을 위한 주파수 대역은 마스터 장치에서 수신되는 오디오 신호에 따라 할당될 수 있다. 예를 들어, 전자 장치(1011)가 마스터 장치가 되어 그룹 통화를 수행하게 되면, 전자 장치로 수신되는 복수의 음성 데이터를 확인하고, 확인된 음성 데이터에 대응하여 주파수 대역을 할당하도록 설정될 수 있다. 이 경우, 주파수 대역이 할당되는 개수는 항상 동일하지 않으며 수신되는 음성 데이터의 개수에 대하여 적응적으로 변경될 수 있다.
다양한 실시예에 따르면, 전자 장치 및 외부 장치는 통화 연결 또는 통신 연결로 상호 간 위치 및 방향에 관한 데이터를 주고 받을 수 있도록 설정될 수 있다. 예를 들어, 전자 장치(1011)의 사용자는 외부 장치(예: 1012 내지 1019)의 위치 및 방향에 관한 데이터를 기지국 또는 서버로부터 수신할 수 있다. 이 경우, 전자 장치의 프로세서를 통해 전자 장치(1011)에 대한 외부 장치(예: 1012 내지 1019)의 상대적인 위치 및 방향에 대한 확인이 가능할 수 있다. 다른 실시예에 따르면, 전자 장치 외의 외부 장치(예: 1012 내지 1019)의 프로세서는 상기 전자 장치(1011)와 동일 또는 유사하게 개별 기기들의 상대적인 위치 및 방향에 대한 확인이 가능할 수 있다. 통화 연결 또는 통신 연결된 기기들(예: 1011 내지 1019)의 상호 간 상대적인 위치 및 방향의 확인은 음성 데이터의 출력 방향을 결정하는 데 활용될 수 있다. 예를 들어, 상호 간 상대적 위치 및 방향이 확인되면 복수의 음성 데이터의 음상 정위로부터 복수의 음성 데이터가 출력될 수 있도록 제어될 수 있다.
도 11은 다양한 실시예들에 따른, 통화 연결된 외부 장치의 상대적 음상 정위에 따른 음성 출력 방법의 동작 흐름도이다.
도 11을 참조하면, 동작 1110은 전자 장치와 외부 장치가 통화 연결이 이루어지는 것일 수 있다. 예를 들어, 전자 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))와 통화 연결되는 외부 장치(예: 도 1의 전자 장치(101), 또는 도 2의 전자 장치(200))는 상호 간 통화가 이루어지는 것을 의미할 수 있다. 다른 실시예에 따르면, 전자 장치와 외부 장치 간 통화 연결은 근거리에 위치한 VR 기기 간의 통신 연결을 의미할 수도 있고, 화상 통화를 위한 연결을 의미할 수도 있다.
도 11을 참조하면, 동작 1120은 통화 연결된 외부 장치로부터 전송되는 오디오 신호를 수신하는 것일 수 있다. 예를 들어, 전자 장치는 외부 장치와 통화 연결 또는 근거리의 통신 연결이 이루어질 수 있다. 이 때, 외부 장치로부터 전송되는 오디오 신호는 전자 장치로 수신될 수 있다. 오디오 신호는 음성 데이터를 포함할 수 있으며, 통신 모듈(예: 도 1의 통신 모듈(190), 또는 도 2의 통신 모듈(230))을 통해 송신 및/또는 수신 가능할 수 있다.
도 11을 참조하면, 동작 1130은 전자 장치의 위치 및 방향을 확인하는 것일 수 있다. 전자 장치의 위치 및 방향은 전자 장치에 포함된 센서(예: 도 1의 센서 모듈(176), 도 2의 센서(220))를 통해 감지한 데이터를 기초로 확인될 수 있다. 예를 들어, 센서는 지자계 센서, 자이로 센서, 또는 가속도 센서를 포함할 수 있고, 센서로부터 센싱한 데이터는 프로세서(예: 도 1의 프로세서(120), 또는 도 2의 프로세서(210))에서 확인될 수 있다. 프로세서는 상기 센싱 데이터를 기초로 하여 전자 장치의 위치 및 방향을 확인할 수 있다. 일 실시예에 따르면, 센싱 데이터로부터 전자 장치의 방향을 확인하는 것은 전자 장치의 사용자가 향하고 있는 방향을 의미할 수 있다. 이 때, 전자 장치의 사용자가 향하고 있는 방향은 사용자의 얼굴이 향하고 있는 방향(예: 도 4b의 414, 또는 도 4d의 414) 또는 사용자가 바라보고 있는 방향을 포함할 수 있다. 다른 실시예에 따르면, 전자 장치의 사용자의 위치 및 방향을 판단하는 것은 오디오 출력 장치의 좌우 구별을 통한 위치 및 방향의 판단을 포함할 수 있다. 예를 들어, 입체적 음향 출력을 위하여 오디오 출력 장치의 좌측 및 우측 배열에 따른 전자 장치의 위치 및 방향을 판단하는 것일 수 있다.
도 11을 참조하면, 동작 1140은 전자 장치에 대한 외부 장치의 상대적 위치 및 방향을 확인하는 것일 수 있다. 외부 장치의 실시간 위치 및 방향에 관한 데이터는 통화 연결된 전자 장치로 전송될 수 있으며, 이는 기지국을 거쳐 수신되는 정보에 포함될 수 있다. 외부 장치의 방향 또는 외부 장치 사용자의 방향은, 외부 장치 사용자가 향하고 있는 방향, 외부 장치 사용자의 얼굴이 향하고 있는 방향, 또는 외부 장치 사용자가 바라보고 있는 방향을 포함할 수 있다. 외부 장치의 실시간 위치 및 방향에 관한 데이터는 외부 장치에 포함된 센서를 이용하여 센싱될 수 있으며, 센싱된 데이터가 기지국을 경유하여 통화 연결된 전자 장치로 전송될 수 있다. 전자 장치의 프로세서는 외부 장치의 위치 및 방향을 전자 장치의 위치 및 방향을 기준으로 하여 상대적인 위치 및 방향을 판단할 수 있다.
도 11을 참조하면, 동작 1150은 외부 장치로부터 수신되는 음성 데이터의 음상 정위를 결정하는 것일 수 있다. 외부 장치는 전자 장치와 통화 연결 또는 근거리의 통신 연결되는 장치일 수 있다.
도 11을 참조하면, 동작 1160은 통화 연결된 외부 장치로부터 수신되는 음성 데이터의 음상 정위에 따른 사운드를 출력하는 것일 수 있다. 여기서 음상(sound image)은 두 개 이상의 스피커(예: 복수의 스피커를 포함하는 오디오 출력 장치)를 통해 생성되는 소리의 이미지를 의미할 수 있다. 예를 들어, 전자 장치의 사용자의 전면에 복수의 스피커를 동일한 거리 및 각도에 위치시킨 상태에서 음향을 재생시키면, 복수의 스피커의 중앙으로부터 음향이 전달되는 것과 같이 가상의 이미지가 맺힐 수 있다. 이와 같이, 실제로 스피커가 위치하지 않은 지점이 음원이 되어 소리가 전달되는 것처럼 느껴지는 이미지를 음상으로 지칭할 수 있다. 음상 정위(sound image localization)는 음원의 방향이나 거리를 식별하는 것을 지칭할 수 있다. 동작 1160의 경우, 음원의 방향이나 거리를 전자 장치의 사용자를 기준으로 판단하여 사운드를 출력하는 것에 해당할 수 있다. 이는 전자 장치의 사용자에 대한 외부 장치의 사용자의 상대적 음상 정위에 따른 외부 장치의 사용자의 음성 데이터 출력에 대응할 수도 있다.
다양한 실시예에 따른 전자 장치는 통신 모듈, 오디오 출력 장치, 상기 통신 모듈 및 상기 오디오 출력 장치와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결되는 메모리를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가 제1외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하고, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하며, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하고, 상기 결정된 음상 정위에 따라 상기 제1 음성 데이터를 상기 오디오 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 제1외부 장치 및 제2외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 상기 제1음성 데이터 및 상기 제2 외부 장치에서 출력되는 제2 음성 데이터를 포함하는 오디오 신호를 수신하고, 상기 수신되는 오디오 신호로부터 상기 제1음성 데이터 및 상기 제2음성 데이터를 분리하고, 상기 전자 장치에 대한 상기 제2외부 장치의 방향 및 위치를 확인하며, 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위를 결정하고, 상기 제2외부 장치의 방향 및 위치에 대응하여 상기 제2음성 데이터의 음상 정위를 결정하도록 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 분리된 제1음성 데이터 및 상기 분리된 제2음성 데이터를 증폭하여 본래의(original) 상기 제1 음성 데이터 및 본래의 상기 제2 음성 데이터로 복원하도록 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 통화 연결된 제1외부 장치 또는 제2외부 장치로부터 수신한 발언권 획득의 신호에 대응하여, 상기 수신되는 오디오 신호의 주파수 영역을 할당하고, 상기 제1음성 데이터 또는 상기 제2음성 데이터의 주파수 영역을 상이하게 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 통화 연결된 외부 장치들의 개수를 확인하고, 상기 확인된 개수에 대응하여, 상기 수신되는 오디오 신호의 주파수 대역을 분할하며, 상기 분할된 주파수 대역 별로 상기 제1음성 데이터 및 상기 제2음성 데이터를 구분하여 수신하도록 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 수신되는 오디오 신호로부터 상기 제1음성 데이터 또는 상기 제2음성 데이터의 수신을 확인하고, 확인된 상기 제1음성 데이터 또는 상기 제2음성 데이터에 대응하여, 상기 제1외부 장치 또는 상기 제2외부 장치의 출력 오디오 신호 주파수 대역을 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 통화 연결 시, 서버로부터 상기 제1음성 데이터를 포함하는 제1오디오 신호 및 상기 제2음성 데이터를 포함하는 제2오디오 신호를 수신하고, 상기 제1오디오 신호 및 상기 제2오디오 신호는 상기 서버로부터 할당된 주파수 영역에 따라 수신하도록 설정될 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 센서를 더 포함하고, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 전자 장치 사용자의 이동에 대응하여, 상기 센서를 통해 상기 전자 장치의 방향 및 위치를 감지하도록 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 센서는 지자계 센서, 가속도 센서, 및/또는 자이로 센서를 포함하며, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 지자계 센서를 통해 상기 전자 장치의 방향을 감지하고, 상기 가속도 센서 및 상기 자이로 센서를 통해 상기 전자 장치에 대한 상기 제1외부 장치의 방향을 감지하며, 상기 전자 장치의 이동 및 상기 확인된 제1외부 장치의 방향 및 위치에 더 기초하여, 상기 제1음성 데이터의 음상 정위를 결정하도록 설정할 수 있다.
다양한 실시예에 따른 전자 장치에 있어서, 상기 인스트럭션들은, 실행 시에, 상기 프로세서가 상기 오디오 출력 장치의 좌측(left) 및 우측(right) 출력 방향을 판단하고, 상기 판단된 출력 방향에 기초하여 상기 오디오 출력 장치의 출력을 조절하여, 상기 제1음성 데이터가 상기 제1음성 데이터의 음상 정위로부터 출력되도록 설정할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법은 제1외부 장치와 통화 연결되어, 통신 모듈을 통해 상기 제1외부 장치로부터 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하는 동작, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하는 동작, 상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하는 동작, 상기 결정된 음상 정위에 따라 제1음성 데이터를 오디오 출력 장치를 통해 출력하는 동작을 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 전자 장치가 상기 제1외부 장치 및 제2외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 상기 제1음성 데이터 및 상기 제2외부 장치에서 출력되는 제2음성 데이터를 포함하는 오디오 신호를 수신하는 동작, 상기 수신되는 오디오 신호로부터 제1음성 데이터 및 상기 제2음성 데이터를 분리하는 동작, 상기 전자 장치에 대한 상기 제2외부 장치의 방향 및 위치를 확인하는 동작, 및 상기 제2외부 장치의 방향 및 위치에 대응하여 상기 제2음성 데이터의 음상 정위를 결정하는 동작을 더 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 분리된 제1음성 데이터 및 상기 분리된 제2음성 데이터를 증폭하여 본래의(original) 상기 제1음성 데이터 및 본래의 상기 제2음성 데이터로 복원하는 동작을 더 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 통화 연결된 제1외부 장치 또는 제2외부 장치로부터 수신한 발언권 획득의 신호에 대응하여, 상기 수신되는 오디오 신호의 주파수 영역을 할당하는 동작, 및 상기 제1음성 데이터 또는 상기 제2음성 데이터의 주파수 영역을 상이하게 할당하는 동작을 더 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 통화 연결된 외부 장치들의 개수를 확인하는 동작, 상기 확인된 개수에 따라 상기 수신되는 오디오 신호의 주파수 대역을 분할하는 동작, 및 상기 분할된 주파수 대역 별로 상기 제1음성 데이터 및 상기 제2음성 데이터를 구분하여 수신하는 동작을 더 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 수신되는 오디오 신호로부터 상기 제1음성 데이터 또는 상기 제2음성 데이터의 수신을 확인하는 동작, 및 확인된 상기 제1음성 데이터 또는 상기 제2음성 데이터에 대응하여, 상기 제1외부 장치 또는 상기 제2외부 장치의 출력 오디오 신호 주파수 대역을 할당하는 동작을 더 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 통화 연결 시, 서버로부터 상기 제1음성 데이터를 포함하는 제1오디오 신호 및 상기 제2음성 데이터를 포함하는 제2오디오 신호를 수신하는 동작, 및 상기 제1오디오 신호 및 상기 제2오디오 신호를 상기 서버로부터 할당된 주파수 영역에 따라 수신하는 동작을 더 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 전자 장치 사용자의 이동에 대응하여, 센서를 이용해 상기 전자 장치의 방향 및 위치를 감지하는 동작을 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 감지하는 동작은 상기 전자 장치의 지자계 센서를 이용해 상기 전자 장치의 방향을 감지하는 동작, 상기 전자 장치의 가속도 센서 및/또는 자이로 센서를 이용해 상기 전자 장치에 대한 상기 제1외부 장치의 방향을 감지하는 동작, 및 상기 전자 장치의 이동 및 상기 확인된 제1외부 장치의 방향 및 위치에 더 기초하여, 상기 제1음성 데이터의 음상 정위를 결정하는 동작을 포함할 수 있다.
다양한 실시예에 따른 전자 장치의 사운드 출력 방법에 있어서, 상기 오디오 출력 장치의 좌측(left) 및 우측(rifgt) 출력 방향을 판단하는 동작, 및 상기 판단된 출력 방향에 기초하여 상기 오디오 출력 장치의 출력을 조절하여, 상기 제1음성 데이터를 상기 제1음성 데이터의 음상 정위로부터 출력하는 동작을 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    통신 모듈;
    오디오 출력 장치;
    상기 통신 모듈 및 상기 오디오 출력 장치와 작동적으로 연결되는 프로세서; 및
    상기 프로세서와 작동적으로 연결되는 메모리를 포함하고,
    상기 메모리는, 실행 시에, 상기 프로세서가
    제1외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하고,
    상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하며,
    상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하고,
    상기 결정된 음상 정위에 따라 상기 제1 음성 데이터를 상기 오디오 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장하는, 전자 장치.
  2. 제1항에 있어서,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 제1외부 장치 및 제2외부 장치와 통화 연결 시,
    상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 상기 제1음성 데이터 및 상기 제2 외부 장치에서 출력되는 제2 음성 데이터를 포함하는 오디오 신호를 수신하고, 상기 수신되는 오디오 신호로부터 상기 제1음성 데이터 및 상기 제2음성 데이터를 분리하고,
    상기 전자 장치에 대한 상기 제2외부 장치의 방향 및 위치를 확인하며,
    상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위를 결정하고,
    상기 제2외부 장치의 방향 및 위치에 대응하여 상기 제2음성 데이터의 음상 정위를 결정하도록 설정하는, 전자 장치.
  3. 제2항에 있어서,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 분리된 제1음성 데이터 및 상기 분리된 제2음성 데이터를 증폭하여 본래의(original) 상기 제1 음성 데이터 및 본래의 상기 제2 음성 데이터로 복원하도록 설정하는, 전자 장치.
  4. 제2항에 있어서,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 통화 연결된 제1외부 장치 또는 제2외부 장치로부터 수신한 발언권 획득의 신호에 대응하여, 상기 수신되는 오디오 신호의 주파수 영역을 할당하고,
    상기 제1음성 데이터 또는 상기 제2음성 데이터의 주파수 영역을 상이하게 설정하는, 전자 장치.
  5. 제2항에 있어서,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 통화 연결된 외부 장치들의 개수를 확인하고,
    상기 확인된 개수에 대응하여, 상기 수신되는 오디오 신호의 주파수 대역을 분할하며,
    상기 분할된 주파수 대역 별로 상기 제1음성 데이터 및 상기 제2음성 데이터를 구분하여 수신하도록 설정하는, 전자 장치.
  6. 제2항에 있어서,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 수신되는 오디오 신호로부터 상기 제1음성 데이터 또는 상기 제2음성 데이터의 수신을 확인하고,
    확인된 상기 제1음성 데이터 또는 상기 제2음성 데이터에 대응하여, 상기 제1외부 장치 또는 상기 제2외부 장치의 출력 오디오 신호 주파수 대역을 설정하는, 전자 장치.
  7. 제2항에 있어서,
    상기 통화 연결 시, 서버로부터 상기 제1음성 데이터를 포함하는 제1오디오 신호 및 상기 제2음성 데이터를 포함하는 제2오디오 신호를 수신하고,
    상기 제1오디오 신호 및 상기 제2오디오 신호는 상기 서버로부터 할당된 주파수 영역에 따라 수신하도록 설정된 전자 장치.
  8. 제1항에 있어서,
    센서를 더 포함하고,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 전자 장치 사용자의 이동에 대응하여, 상기 센서를 통해 상기 전자 장치의 방향 및 위치를 감지하도록 설정하는, 전자 장치.
  9. 제8항에 있어서,
    상기 센서는 지자계 센서, 가속도 센서, 및/또는 자이로 센서를 포함하며,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 지자계 센서를 통해 상기 전자 장치의 방향을 감지하고,
    상기 가속도 센서 및 상기 자이로 센서를 통해 상기 전자 장치에 대한 상기 제1외부 장치의 방향을 감지하며,
    상기 전자 장치의 이동 및 상기 확인된 제1외부 장치의 방향 및 위치에 더 기초하여, 상기 제1음성 데이터의 음상 정위를 결정하도록 설정하는, 전자 장치.
  10. 제1항에 있어서,
    상기 인스트럭션들은, 실행 시에, 상기 프로세서가
    상기 오디오 출력 장치의 좌측(left) 및 우측(right) 출력 방향을 판단하고,
    상기 판단된 출력 방향에 기초하여 상기 오디오 출력 장치의 출력을 조절하여, 상기 제1음성 데이터가 상기 제1음성 데이터의 음상 정위로부터 출력되도록 설정하는, 전자 장치.
  11. 전자 장치의 사운드 출력 방법에 있어서,
    제1외부 장치와 통화 연결되어, 통신 모듈을 통해 상기 제1외부 장치로부터 출력되는 제1음성 데이터를 포함하는 오디오 신호를 수신하는 동작;
    상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치를 확인하는 동작;
    상기 전자 장치에 대한 상기 제1외부 장치의 방향 및 위치에 대응하여 상기 제1음성 데이터의 음상 정위(sound image localization)를 결정하는 동작;
    상기 결정된 음상 정위에 따라 제1음성 데이터를 오디오 출력 장치를 통해 출력하는 동작을 포함하는 사운드 출력 방법.
  12. 제11항에 있어서,
    상기 전자 장치가 상기 제1외부 장치 및 제2외부 장치와 통화 연결 시, 상기 통신 모듈을 통해 상기 제1외부 장치에서 출력되는 상기 제1음성 데이터 및 상기 제2외부 장치에서 출력되는 제2음성 데이터를 포함하는 오디오 신호를 수신하는 동작;
    상기 수신되는 오디오 신호로부터 제1음성 데이터 및 상기 제2음성 데이터를 분리하는 동작;
    상기 전자 장치에 대한 상기 제2외부 장치의 방향 및 위치를 확인하는 동작; 및
    상기 제2외부 장치의 방향 및 위치에 대응하여 상기 제2음성 데이터의 음상 정위를 결정하는 동작을 더 포함하는 사운드 출력 방법.
  13. 제12항에 있어서,
    상기 분리된 제1음성 데이터 및 상기 분리된 제2음성 데이터를 증폭하여 본래의(original) 상기 제1음성 데이터 및 본래의 상기 제2음성 데이터로 복원하는 동작을 더 포함하는 사운드 출력 방법.
  14. 제12항에 있어서,
    상기 통화 연결된 제1외부 장치 또는 제2외부 장치로부터 수신한 발언권 획득의 신호에 대응하여, 상기 수신되는 오디오 신호의 주파수 영역을 할당하는 동작; 및
    상기 제1음성 데이터 또는 상기 제2음성 데이터의 주파수 영역을 상이하게 할당하는 동작을 더 포함하는 사운드 출력 방법.
  15. 제12항에 있어서,
    상기 통화 연결된 외부 장치들의 개수를 확인하는 동작;
    상기 확인된 개수에 따라 상기 수신되는 오디오 신호의 주파수 대역을 분할하는 동작; 및
    상기 분할된 주파수 대역 별로 상기 제1음성 데이터 및 상기 제2음성 데이터를 구분하여 수신하는 동작을 더 포함하는 사운드 출력 방법.
PCT/KR2021/007028 2020-07-21 2021-06-04 음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치 WO2022019476A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2020-0090262 2020-07-21
KR1020200090262A KR20220011401A (ko) 2020-07-21 2020-07-21 음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치

Publications (1)

Publication Number Publication Date
WO2022019476A1 true WO2022019476A1 (ko) 2022-01-27

Family

ID=79728848

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2021/007028 WO2022019476A1 (ko) 2020-07-21 2021-06-04 음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치

Country Status (2)

Country Link
KR (1) KR20220011401A (ko)
WO (1) WO2022019476A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160094349A (ko) * 2015-01-30 2016-08-09 가우디오디오랩 주식회사 바이노럴 렌더링을 위한 오디오 신호 처리 장치 및 방법
KR20170053484A (ko) * 2015-11-06 2017-05-16 삼성전자주식회사 신호 처리 방법 및 이를 지원하는 전자 장치
US20170325045A1 (en) * 2016-05-04 2017-11-09 Gaudio Lab, Inc. Apparatus and method for processing audio signal to perform binaural rendering
KR20190059642A (ko) * 2017-11-23 2019-05-31 구본희 귀 개방형 헤드폰을 이용한 다채널 사운드 구현 장치 및 그 방법
WO2020032363A1 (ko) * 2018-08-09 2020-02-13 삼성전자 주식회사 외부 전자 장치와의 거리에 기반하여 스피커의 출력 세기를 조정하기 위한 방법 및 전자 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160094349A (ko) * 2015-01-30 2016-08-09 가우디오디오랩 주식회사 바이노럴 렌더링을 위한 오디오 신호 처리 장치 및 방법
KR20170053484A (ko) * 2015-11-06 2017-05-16 삼성전자주식회사 신호 처리 방법 및 이를 지원하는 전자 장치
US20170325045A1 (en) * 2016-05-04 2017-11-09 Gaudio Lab, Inc. Apparatus and method for processing audio signal to perform binaural rendering
KR20190059642A (ko) * 2017-11-23 2019-05-31 구본희 귀 개방형 헤드폰을 이용한 다채널 사운드 구현 장치 및 그 방법
WO2020032363A1 (ko) * 2018-08-09 2020-02-13 삼성전자 주식회사 외부 전자 장치와의 거리에 기반하여 스피커의 출력 세기를 조정하기 위한 방법 및 전자 장치

Also Published As

Publication number Publication date
KR20220011401A (ko) 2022-01-28

Similar Documents

Publication Publication Date Title
WO2022154546A1 (ko) 자동 음량 제어를 수행하는 웨어러블 장치
WO2022030882A1 (ko) 오디오 데이터를 처리하는 전자 장치와 이의 동작 방법
WO2021132852A1 (ko) 오디오 데이터의 출력 방법 및 이를 지원하는 전자 장치
WO2020262835A1 (ko) 전자 장치 및 이를 이용한 오디오 신호를 처리하기 위한 음향 장치를 결정하는 방법
WO2022005248A1 (ko) 주변 오디오 신호의 감지 방법 및 전자 장치
WO2022019476A1 (ko) 음상 정위에 따른 음성 출력 방법 및 이를 이용한 장치
WO2022154440A1 (ko) 오디오 데이터를 처리하는 전자 장치 및 그 동작 방법
WO2022177299A1 (ko) 통화 기능의 제어 방법 및 이를 지원하는 전자 장치
WO2021172893A1 (ko) 에코 캔슬링을 위한 방법 및 그 장치
WO2021162337A1 (ko) 음질 개선 방법 및 이어 웨어러블 장치
WO2022186599A1 (ko) 오디오 신호에 방향성을 적용하는 전자 장치 및 그 방법
WO2023080401A1 (ko) 이어폰을 이용한 전자 장치의 사운드 레코딩 방법 및 장치
WO2022060035A1 (ko) 복수의 사용자들과 통화 수행 중 사용자 음성을 처리하는 전자 장치 및 그 작동 방법
WO2022154394A1 (ko) 내부 노이즈를 줄이는 전자 장치 및 이의 동작 방법
WO2022154492A1 (ko) 영상을 촬영하기 위한 전자 장치, 방법 및 비 일시적 저장 매체
WO2024063456A1 (ko) 음향 신호를 출력하기 위한 전자 장치, 방법 및 비 일시적 저장 매체
WO2023085642A1 (ko) 동작 제어 방법 및 그 전자 장치
WO2022191494A1 (ko) 화상 회의를 제공하는 전자 장치 및 그 방법
WO2022114648A1 (ko) 배경 화면을 설정하기 위한 전자 장치 및 그의 동작 방법
WO2024058472A1 (ko) 어플리케이션에 대한 정보를 외부 디스플레이를 통해 제공하는 웨어러블 장치 및 상기 웨어러블 장치의 제어 방법
WO2024090888A1 (ko) 스피커 모듈 및 이를 포함하는 전자 장치
WO2022154321A1 (ko) 잡음 환경에 따라서 통신 연결을 전환하는 전자 장치 및 그 제어 방법
WO2022216077A1 (ko) 무선 이어폰 장치 및 그 제어 방법
WO2022203456A1 (ko) 음성 신호 처리를 위한 전자 장치 및 방법
WO2022092609A1 (ko) 오디오 데이터 처리 방법 및 그 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21845214

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 21845214

Country of ref document: EP

Kind code of ref document: A1