WO2022030771A1 - 전자 장치 및 그의 오디오 데이터를 출력하는 방법 - Google Patents
전자 장치 및 그의 오디오 데이터를 출력하는 방법 Download PDFInfo
- Publication number
- WO2022030771A1 WO2022030771A1 PCT/KR2021/008671 KR2021008671W WO2022030771A1 WO 2022030771 A1 WO2022030771 A1 WO 2022030771A1 KR 2021008671 W KR2021008671 W KR 2021008671W WO 2022030771 A1 WO2022030771 A1 WO 2022030771A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- audio data
- sound output
- format
- audio
- mixing
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 55
- 230000015654 memory Effects 0.000 claims abstract description 48
- 230000004044 response Effects 0.000 claims abstract description 15
- 230000005236 sound signal Effects 0.000 claims description 100
- 238000002156 mixing Methods 0.000 claims description 93
- 238000004891 communication Methods 0.000 claims description 66
- 238000005070 sampling Methods 0.000 claims description 51
- 238000006243 chemical reaction Methods 0.000 claims description 42
- 238000012805 post-processing Methods 0.000 claims description 33
- 238000010586 diagram Methods 0.000 description 14
- 238000012545 processing Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 10
- 230000008859 change Effects 0.000 description 9
- 238000013528 artificial neural network Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 230000003190 augmentative effect Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 230000004043 responsiveness Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003155 kinesthetic effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
- G11B20/10—Digital recording or reproducing
- G11B20/10527—Audio or video recording; Data buffering arrangements
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/54—Controlling the output signals based on the game progress involving acoustic signals, e.g. for simulating revolutions per minute [RPM] dependent engine sounds in a driving game or reverberation against a virtual wall
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S7/00—Indicating arrangements; Control arrangements, e.g. balance control
- H04S7/30—Control circuits for electronic adaptation of the sound field
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/008—Multichannel audio signal coding or decoding using interchannel correlation to reduce redundancy, e.g. joint-stereo, intensity-coding or matrixing
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/16—Vocoder architecture
- G10L19/167—Audio streaming, i.e. formatting and decoding of an encoded audio signal representation into a data stream for transmission or storage purposes
-
- G—PHYSICS
- G11—INFORMATION STORAGE
- G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
- G11B20/00—Signal processing not specific to the method of recording or reproducing; Circuits therefor
- G11B20/10—Digital recording or reproducing
- G11B20/12—Formatting, e.g. arrangement of data block or words on the record carriers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
- H04R5/02—Spatial or constructional arrangements of loudspeakers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R5/00—Stereophonic arrangements
- H04R5/04—Circuit arrangements, e.g. for selective connection of amplifier inputs/outputs to loudspeakers, for loudspeaker detection, or for adaptation of settings to personal preferences or hearing impairments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S3/00—Systems employing more than two channels, e.g. quadraphonic
- H04S3/008—Systems employing more than two channels, e.g. quadraphonic in which the audio signals are in digital form, i.e. employing more than two discrete digital channels
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/80—Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
- G10L19/04—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis using predictive techniques
- G10L19/16—Vocoder architecture
- G10L19/173—Transcoding, i.e. converting between two coded representations avoiding cascaded coding-decoding
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
- H04R2420/00—Details of connection covered by H04R, not provided for in its groups
- H04R2420/07—Applications of wireless loudspeakers or wireless microphones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04S—STEREOPHONIC SYSTEMS
- H04S2400/00—Details of stereophonic systems covered by H04S but not provided for in its groups
- H04S2400/01—Multi-channel, i.e. more than two input channels, sound reproduction with two speakers wherein the multi-channel information is substantially preserved
Definitions
- Various embodiments of the present disclosure relate to an electronic device and a method for outputting audio data thereof.
- Electronic devices may support output of an audio signal (or audio data) having various formats (or resolutions).
- the format of the audio signal is the sampling frequency (eg 44.1 Khz, 48 Khz, 96 Khz, 192 Khz, or 384 Khz), the number of quantization bits (eg 8-bit, 16-bit, 24-bit, or 32-bit) and/or the channel number (eg, 2 channels, 4 channels, 5.1 channels, 7.1 channels, or 8 channels).
- the electronic device may output a game-related sound source using a first format (eg, 48 Khz, 16 bit, 2 channels), and may output an MP3 (eg, 44.1 Khz, 16 bit, 2 channel) MP3 (eg, 44.1 Khz, 16 bit, 2 channel) format mpeg-1 audio layer-3) sound source can be output, and UHQA (ultra high quality audio) sound source can be output using a third format (eg 192 Khz, 32 bit, 2 channels).
- a first format eg, 48 Khz, 16 bit, 2 channels
- MP3 eg, 44.1 Khz, 16 bit, 2 channel
- MP3 eg, 44.1 Khz, 16 bit, 2 channel
- UHQA ultra high quality audio
- the electronic device When the electronic device outputs audio data having different formats (eg, sampling rate and/or number of bits), the electronic device mixes audio data having different formats, and uses the mixed audio data to output the audio data to a sound output module (eg, a Bluetooth audio device). ) to a format supported by it (eg, converting the sampling rate and/or number of bits). For example, when the electronic device mixes audio data having different formats, the electronic device performs mixing after first converting the sampling rate of other audio data based on the highest sampling rate (hereinafter, referred to as the reference sampling rate). In addition, the mixed audio data may be secondarily converted into a format supported by the sound output module.
- a sound output module eg, a Bluetooth audio device.
- the electronic device performs mixing after first converting the sampling rate of other audio data based on the highest sampling rate (hereinafter, referred to as the reference sampling rate).
- the mixed audio data may be secondarily converted into a format supported by the sound output module.
- output of an audio signal may be delayed due to a plurality of conversion operations (eg, a time until reproduced through an audio output module is delayed). For example, although an audio signal having the same format as that of the sound output module can be output through the sound output module without a separate conversion operation, the electronic device first converts it to the reference sampling rate and converts it into the format of the sound output module As an audio signal is output after secondary conversion, an output delay may occur. When an application that values real-time responsiveness, such as a game, is used, the delay in outputting the audio signal may cause inconvenience to the user.
- a wireless sound output device eg, a Bluetooth device
- interest in a method for reducing an output delay of an audio signal when using a wireless sound output device has recently increased.
- Various embodiments of the present disclosure may provide an electronic device capable of reducing an output delay of an audio signal and a method of outputting audio data thereof.
- the electronic device may receive, for example, at least one of at least one first audio data having a specified format or at least one second audio data having a format different from the specified format.
- an audio module outputting to at least one of a plurality of sound output devices; a processor operatively coupled to the audio module; and a memory operatively coupled to the processor, wherein the memory, when executed, causes the processor to convert at least one of the at least one first audio data or the at least one second audio data into the designated format.
- first sound output device In response to being set to output through a first sound output device that outputs audio data of converts to the specified format, mixes the audio data converted into the specified format and the at least one first audio data (hereinafter, second mixing), and post-processing the second mixed audio data and transmitting the post-processed audio data to the audio module to be output through the first sound output device.
- second mixing mixes the audio data converted into the specified format and the at least one first audio data
- a method of outputting audio data of an electronic device includes, for example, at least one first audio data having a specified format or at least one second audio data having a format different from the specified format.
- Mixing hereinafter, first mixing
- first mixing of the at least one second audio data in response to being set to output at least one of the at least one second audio data through a first sound output device that outputs audio data of the specified format ; converting the first mixed audio data into the specified format; mixing (hereinafter, second mixing) the audio data converted into the specified format and the at least one first audio data; post-processing the second mixed audio data; and outputting the post-processed audio data through the first sound output device.
- a non-transitory computer-readable recording medium for example, when executed by at least one processor, the at least one processor: In response to being configured to output at least one of one audio data or at least one second audio data having a format different from the designated format through a first sound output device outputting audio data of the designated format, the at least one mixing (hereinafter, first mixing) the second audio data of at least one for mixing data (hereinafter, second mixing), post-processing the second mixed audio data, and outputting the post-processed audio data through the first sound output device You can store instructions.
- the electronic device may reduce an output delay of an audio signal.
- the electronic device may provide real-time responsiveness to audio output to improve user satisfaction and/or reliability of the electronic device.
- FIG. 1 is a block diagram of an electronic device in a network environment, according to an embodiment of the present invention.
- FIG. 2 is a block diagram illustrating a configuration of an electronic device according to another embodiment of the present invention.
- 3A is a diagram illustrating the configuration of an audio signal processor when outputting audio data through a Bluetooth device according to an embodiment of the present invention.
- 3B is a diagram illustrating a configuration of an audio signal processor when audio data is output through a built-in speaker according to an embodiment of the present invention.
- 3C is a diagram illustrating the configuration of an audio signal processor when outputting audio data through a Bluetooth device and a built-in speaker according to an embodiment of the present invention.
- 4A is a diagram illustrating a configuration of an audio signal processor when audio data is output through an external speaker according to an embodiment of the present invention.
- 4B is a diagram illustrating the configuration of an audio signal processor when outputting audio data through an external speaker and a built-in speaker according to an embodiment of the present invention.
- FIG. 5 is a flowchart illustrating a method of outputting audio data through an external sound output device of an electronic device according to an embodiment of the present invention.
- FIG. 6 is a flowchart illustrating a method of outputting audio data through an internal sound output device of an electronic device according to an embodiment of the present invention.
- FIG. 7 is a flowchart illustrating a method of outputting audio data through an external sound output device and an internal sound output device of an electronic device according to an embodiment of the present invention.
- FIG. 1 is a block diagram of an electronic device in a network environment, according to an embodiment of the present invention.
- an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
- a first network 198 eg, a short-range wireless communication network
- a second network 199 e.g., a second network 199 . It may communicate with the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
- the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 may be included.
- at least one of these components eg, the connection terminal 178
- may be omitted or one or more other components may be added to the electronic device 101 .
- some of these components are integrated into one component (eg, display module 160 ). can be
- the processor 120 for example, executes software (eg, the program 140) to execute at least one other component (eg, hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be stored in the volatile memory 132 , and may process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
- software eg, the program 140
- the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
- the volatile memory 132 may be stored in the volatile memory 132 , and may process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
- the processor 120 is the main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
- the main processor 121 e.g, a central processing unit or an application processor
- a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
- NPU neural processing unit
- an image signal processor e.g., a sensor hub processor, or a communication processor.
- the main processor 121 e.g, a central processing unit or an application processor
- a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
- NPU neural processing unit
- an image signal processor e.g., a sensor hub processor, or a communication processor.
- the main processor 121 e.g, a central processing unit or an application processor
- a secondary processor 123
- the auxiliary processor 123 is, for example, on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
- the co-processor 123 eg, an image signal processor or a communication processor
- may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190. have.
- the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
- Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which artificial intelligence is performed, or may be performed through a separate server (eg, the server 108).
- the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
- the artificial intelligence model may include a plurality of artificial neural network layers.
- Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
- the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
- the memory 130 may store various data used by at least one component of the electronic device 101 (eg, the processor 120 or the sensor module 176 ).
- the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
- the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
- the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
- the input module 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
- the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
- the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
- the sound output module 155 may include, for example, a speaker or a receiver.
- the speaker can be used for general purposes such as multimedia playback or recording playback.
- the receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
- the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
- the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
- the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
- the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 , or an external electronic device (eg, a sound output module 155 ) connected directly or wirelessly with the electronic device 101 . A sound may be output through the electronic device 102 (eg, a speaker or headphones).
- an external electronic device eg, a sound output module 155
- a sound may be output through the electronic device 102 (eg, a speaker or headphones).
- the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
- the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
- the interface 177 may support one or more designated protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
- the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
- HDMI high definition multimedia interface
- USB universal serial bus
- SD card interface Secure Digital Card
- the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
- the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
- the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
- the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
- the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
- the power management module 188 may manage power supplied to the electronic device 101 .
- the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
- PMIC power management integrated circuit
- the battery 189 may supply power to at least one component of the electronic device 101 .
- battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
- the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
- the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
- the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a LAN (local area network) communication module, or a power line communication module).
- GNSS global navigation satellite system
- a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
- a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
- a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
- a telecommunication network
- the wireless communication module 192 uses the subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
- the electronic device 101 may be identified or authenticated.
- the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
- NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
- eMBB enhanced mobile broadband
- mMTC massive machine type communications
- URLLC ultra-reliable and low-latency
- the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
- a high frequency band eg, mmWave band
- the wireless communication module 192 includes various technologies for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
- the wireless communication module 192 may support various requirements specified in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
- the wireless communication module 192 may include a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less).
- a peak data rate eg, 20 Gbps or more
- loss coverage eg, 164 dB or less
- U-plane latency for realizing URLLC
- the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
- the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
- the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
- other components eg, a radio frequency integrated circuit (RFIC)
- RFIC radio frequency integrated circuit
- the antenna module 197 may form a mmWave antenna module.
- the mmWave antenna module comprises a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, bottom side) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
- peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
- GPIO general purpose input and output
- SPI serial peripheral interface
- MIPI mobile industry processor interface
- the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
- Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
- all or a part of operations executed in the electronic device 101 may be executed in one or more external electronic devices 102 , 104 , or 108 .
- the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
- one or more external electronic devices may be requested to perform at least a part of the function or the service.
- One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
- the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
- cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
- the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
- the external electronic device 104 may include an Internet of things (IoT) device.
- Server 108 may be an intelligent server using machine learning and/or neural networks.
- the external electronic device 104 or the server 108 may be included in the second network 199 .
- the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
- FIG. 2 is a block diagram illustrating a configuration of an electronic device according to another embodiment of the present invention.
- an electronic device 201 (eg, the electronic device 101 ) according to another embodiment of the present invention includes a processor 220 (eg, the processor 120 of FIG. 1 ) and an audio module 270 . (eg, the audio module 170 of FIG. 1 ), a memory 230 (eg, the memory 130 of FIG. 1 ), an internal sound output device 255 (eg, the sound output module 155 of FIG. 1 ); It may include an interface module 277 (eg, the interface 177 of FIG. 1 ), and a Bluetooth communication module 290 (eg, the wireless communication module 192 of FIG. 1 ).
- a processor 220 eg, the processor 120 of FIG. 1
- an audio module 270 eg, the audio module 170 of FIG. 1
- a memory 230 eg, the memory 130 of FIG. 1
- an internal sound output device 255 eg, the sound output module 155 of FIG. 1
- It may include an interface module 277 (eg, the interface 177 of FIG. 1
- the processor 220 (eg, an application processor) includes the main processor 221 (eg, the main processor 121 of FIG. 1 ) and the audio signal processor 223 (eg, the application processor of FIG. 1 ). and a coprocessor 123).
- the main processor 221 (eg, the main processor 121 of FIG. 1 ) is an application (eg, an operating system: OS) 21-1 (eg, an application that reproduces a system-related sound source) ), a music playback application 21-2, a video playback application 21-3 and/or a game application 21-N), an audio framework 221a, and an audio hardware abstraction layer (audio HAL) )) (eg, program 140) including 221b into a designated address area of memory (eg, memory 130 of FIG. 1 or volatile memory 132 of FIG. 1) to be executed can
- the audio signal processor 223 (eg, the auxiliary processor 123 of FIG. 1 ) includes a program (eg, a program) including a modulation module 223a, a processing module 23b, and an audio interface 223c. 140) may be executed by loading it into a designated address area of a memory (eg, the memory 130 of FIG. 1 or the volatile memory 132 of FIG. 1).
- the audio stream data generated (or loaded) in a memory space (not shown) of the main processor 221 by the main processor 221 is transmitted according to a direct memory access (DMA) method (
- DMA direct memory access
- the audio stream data is an audio signal through various communication methods (eg, a shared memory inter-processor communication (IPC) method) using a shared memory allocated to the memories 130 and 132 . It may be transferred (eg, copied) to a memory space (not shown) of the processor 223 and transferred.
- IPC shared memory inter-processor communication
- the main processor 221 may include applications (eg, the system 21-1, a music playback application 21-2, a video playback application 21-3, and/or a game application 21-N). )), at least one audio data output requested by at least one may be transmitted to the audio signal processor 223 .
- the main processor 221 may transmit the requested at least one audio data to the audio signal processor 223 through the audio framework 221a and the audio hardware abstraction layer 221b.
- the audio framework 221a may select a sound output device to output audio data.
- the audio framework 221a may convert audio data to be output into audio stream data.
- the audio hardware abstraction layer 221b may receive information on the sound output device selected by the audio framework 221a and control the selected sound output device.
- the audio hardware abstraction layer 221b provides audio data based on information about the audio data (eg, sampling rate, number of bits, number of channels, size of the audio stream), requirements of the application, and/or information about the selected sound output device. can control the output of
- the main processor 221 may divide it by format (or size) and transmit it to the audio signal processor 223 .
- the format of the audio data may include the sampling frequency (eg 44.1 Khz, 48 Khz, 96 Khz, 192 Khz, or 384 Khz) and the number of quantization bits (eg 8-bit, 16-bit, 24-bit, or 32-bit). have.
- the format of the audio signal may further include the number of channels (eg, 2 channels, 4 channels, 5.1 channels, 7.1 channels, or 8 channels).
- the main processor 221 may classify audio data according to an application requirement and transmit it to the audio signal processor 223 .
- the application may transmit information indicating a requirement (eg, low delay, large capacity) for audio data.
- the main processor 221 may classify audio data according to a requirement and transmit it to the audio signal processor 223 .
- the main processor 221 may classify audio data based on a format of the audio data and an application requirement and transmit it to the audio signal processor 223 .
- a format of the audio data and an application requirement
- the main processor 221 may classify audio data based on a format of the audio data and an application requirement and transmit it to the audio signal processor 223 .
- it will be described using an example of classifying audio data according to a format.
- the main processor 221 transmits audio data in a first format (eg, UHQA) to the first node 223a-1 of the audio signal processor 223, and in a second format (eg, mp3). ) to the second node 223a-2, and audio data in a third format (eg, deep) (eg, 48khz, audio data included in a 24-bit video) to the third node 223a-3 , and audio data in an N-th format (eg, low latency) can be transmitted to the N-th node 223a-N.
- a first format eg, UHQA
- a second format eg, mp3
- audio data in a third format eg, deep
- an N-th format eg, low latency
- the audio data in the N-th format is audio data requiring low latency, and is in a specified format (eg, : 48khz, 16bit)
- Audio data of the N-th format may include, for example, touch sound-related audio data, notification sound-related audio data, game-related audio data, virtual reality-related audio data, or augmented reality (augmented reality).
- reality augmented reality
- the main processor 221 classifies audio data generated (output is requested) by the game application into low-delay audio data, and It may transmit to the N-th node 223a-N.
- the first node 223a-1 to the N-th node 223a-N may be a modulation module (eg, a pulse code modulation (PCM) module).
- the first node 223a-1 to the N-th node 223a-N may include a buffer for transmitting audio stream data.
- the first node 223a-1 has a large size so that it can process high-quality (or high-resolution) audio stream data
- the second node 223a-2 has a large size so that it can process medium-quality audio stream data.
- the third node 223a-3 can process audio stream data of a long time, and has a large size to be strong against buffer underrun, and the Nth node 223a-N has a short It may have a small size so that audio stream data can be processed quickly.
- the N-th node 236a-N may support a limited format (eg, 48Khz 16-bit).
- the main processor 221 controls to output audio data through at least one of a plurality of sound output devices (eg, a built-in speaker, a receiver, a wired ear set, a wired speaker, a Bluetooth ear set, or a Bluetooth speaker).
- a plurality of sound output devices eg, a built-in speaker, a receiver, a wired ear set, a wired speaker, a Bluetooth ear set, or a Bluetooth speaker.
- the main processor 221 may control the audio signal processor 223 to set internal components of the audio signal processor 223 differently according to the type of the sound output device set (or determined) to output audio data.
- the main processor 221 may include a plurality of internal components included in the audio signal processor 223 (eg, at least one node, at least Setting information defining how to connect (or configure) at least some of one mixing module, at least one conversion module, at least one post-processing module, and/or at least one audio interface) is transmitted to the audio signal processor 223 by
- the audio signal processor 223 may be set to process audio data according to the setting information.
- the setting information may be stored in a memory (not shown) included in the processor 220 or the main processor 221 or in the memory 230 .
- the audio signal processor 223 may process (eg, modulate, mix, convert, post-process) the audio data received from the main processor 221 , and then transmit it to the audio module 270 .
- the audio signal processor 223 processes audio data received through the plurality of nodes 223a-1 to 223a-N through the processing module 223b, and processes the processed audio data through an audio interface.
- Interface: AIF may be transmitted to the audio module 270 through at least one of the 223c-1, 223c-2, 223c-3, and 223c-N.
- the processed audio data may be transmitted to the audio module 270 through the first audio interface 223c-1, and , when it is set to output audio data to the receiver 252 , the processed audio data may be transmitted to the audio module 270 through the second audio interface 223c - 2 , and the audio data may be output to the external device 253 .
- the processed audio data may be transmitted to the audio module 270 through the third audio interface 223c-3, and the audio data may be output to the Bluetooth device 254 (eg, a Bluetooth ear set or a Bluetooth speaker).
- the processed audio data may be transmitted to the audio module 270 through the N-th audio interface 223c-N.
- the audio signal processor 223 converts (eg, a sampling rate) at least one audio data having the same format as that of the audio output device among audio data to be output under the control of the main processor 221 . and/or conversion of the number of bits) may adaptively set internal configurations of the processing module 223b to reduce operation. A detailed description thereof will be described later with reference to FIGS. 3A to 4C .
- the audio module 270 processes the audio data transmitted from the audio signal processor 223 to the internal sound output device 255 (eg, the built-in speaker 251 , the receiver 252 , or an external sound device). It can transmit to the output device 260 (eg, the external device 253, the Bluetooth device 254).
- the external device 253 is wired (eg, USB (USB)) through the electronic device 201 and the interface module 277. (a universal serial bus) or an ear jack) may include a speaker or earphone.
- the Bluetooth device 254 may be wirelessly connected to the electronic device 201 through the Bluetooth communication module 290 .
- the audio module 270 converts digital audio data into an analog signal when it is set to output audio data to the internal sound output device 255 (eg, the built-in speaker 251 or the receiver 252). and/or amplified and transmitted to the internal sound output device 255 .
- the audio module 270 when the audio module 270 is set to output audio data to an external sound output device 260 (eg, an external device 253, a Bluetooth device 254 (eg, a Bluetooth ear set or a Bluetooth speaker)), digital Audio data may be transmitted to the external sound output device 260 through the interface module 277 or the Bluetooth communication module 290 .
- the audio module 270 may be included in the sound output device 255 .
- the memory 230 is operatively connected to the processor 220, and when executed, the processor 220 adaptively outputs the audio data based on the determined sound output device to output the audio data. You can store instructions to control.
- 3A is a diagram illustrating the configuration of an audio signal processor when outputting audio data through a Bluetooth device according to an embodiment of the present invention.
- the electronic device 201 transmits audio data automatically or according to a user's request when connecting a Bluetooth device (eg, a Bluetooth ear set, a Bluetooth headset, or a Bluetooth speaker) via Bluetooth. It can be set to output to the device.
- a Bluetooth device eg, a Bluetooth ear set, a Bluetooth headset, or a Bluetooth speaker
- the audio signal processor 223 when it is set to output audio data through the Bluetooth device, the audio signal processor 223 configures a plurality of modules as shown in FIG. 3A based on the setting information received from the main processor 221 .
- the main processor 221 (or the processor 220) may set the audio signal processor 223 to have a configuration as shown in Fig. 3A based on the setting information.
- the setting information outputs audio data.
- a plurality of internal components included in the audio signal processor 223 eg, at least one node, at least one mixing module, at least one conversion module, at least How to connect (or configure) at least some of one post-processing module and/or at least one audio interface).
- the audio signal processor 223 configured as shown in FIG. 3A may receive at least one piece of first audio data and at least one piece of second audio data.
- the at least one first audio data may include game-related audio data (hereinafter, 1-1 audio data) received through the N-th node 223a-N and/or the N+M-th node ( 223a-N+M) may include touch sound and/or notification sound related audio data (hereinafter, 1-2 audio data) received through the first node 223a.
- UHQA audio data (hereinafter, 2-1 audio data) received through -1), mp3 audio data received through the second node 223a-2 (hereinafter, 2-2 audio data), and/or Deep audio data received through the third node 223a - 3 (hereinafter, referred to as second - 3 audio data) may be included.
- the at least one first audio data may have a specified format (eg, a format supported by a Bluetooth device (eg, 48Khz 16-bit)), and the at least one second audio data may have a format different from the specified format (eg, 384kHz). 32 bits, 44.1 kHz 16 bits, or 192 kHz 24 bits).
- the first audio data may be audio data requiring low latency.
- Audio data requiring low delay may include, for example, touch sound-related audio data, notification sound-related audio data, game-related audio data, virtual reality-related audio data, and augmented reality-related audio data. .
- the audio signal processor 223 may convert and/or mix at least one second audio data. For example, when the plurality of second audio data have different formats, the audio signal processor 223 checks each of the sampling rates and/or the number of bits of the plurality of second audio data, and the highest sampling rate (eg, 384 Khz) and/or the number of bits (eg, 32 bits) is determined (selected) as a reference format, and a plurality of The second audio data may be converted to have a reference format, and the audio data converted to the reference format may be mixed through the first mixing module 23 - 4 .
- the audio signal processor 223 checks each of the sampling rates and/or the number of bits of the plurality of second audio data, and the highest sampling rate (eg, 384 Khz) and/or the number of bits (eg, 32 bits) is determined (selected) as a reference format, and a plurality of The second audio data may be converted to have a reference format, and the audio data converted to the reference format may be mixed through the first mixing module 23
- the first to third nodes 223a-1, 223a-2, and 223a-3 may be connected to the first to third transformation modules 23-1, 23-2, and 23-3, respectively, and ,
- the first to third conversion modules 23 - 1 , 23 - 2 , and 23 - 3 may be connected to the first mixing module 23 - 4 .
- the first to third conversion modules 23-1, 23-2, and 23-3 may include a sample rate converter (SRC).
- the first mixing module 23 - 4 may be a hardware module or a software module.
- the audio signal processor 223 omits a conversion operation to a reference format when a plurality of second audio data have the same format, and uses the first mixing module 23-4 to You can mix audio data. According to another embodiment, when one piece of first audio data is received, the audio signal processor 223 may omit conversion and mixing.
- the audio signal processor 223 converts the audio data mixed through the first mixing module 23-4 into a format (eg, 48Khz 16 bits) specified through the fourth conversion module 23-5. can be converted
- the audio signal processor 223 may convert the audio data converted into the format specified by the fourth conversion module 23-5 and at least one first audio data having the specified format to the second mixing module ( You can mix through 23-6).
- the second mixing module 23 - 6 may be a hardware module or a software module.
- the audio signal processor 223 may post-process the audio data mixed through the second mixing module 23-6 through the post-processing module 23-7.
- the post-processing module 23 - 7 may include an advanced audio distribution profile (A2DP) encoder according to an audio profile of Bluetooth.
- A2DP advanced audio distribution profile
- the audio signal processor 223 may transmit the post-processed audio data to the audio module 270 through the N-th audio interface 223c-N.
- Components included in the audio signal processor 223 may be a hardware module or a software module.
- the above-described electronic device can transmit first audio data having the same format as a format supported by the sound output device (eg, a Bluetooth device) to the sound output device without going through a conversion module.
- the output latency can be improved.
- the electronic device according to an embodiment of the present invention when configured to output audio data through the Bluetooth device, it has the same format as the Bluetooth device, and game-related audio data and/or touch sound requiring low latency.
- Output latency for related audio data can be improved.
- the electronic device according to an embodiment of the present invention may improve latency of about 60 ms by not undergoing first-order conversion and second-order conversion unlike in the related art.
- 3B is a diagram illustrating a configuration of an audio signal processor when audio data is output through a built-in speaker according to an embodiment of the present invention.
- the electronic device 201 responds to a user's request when an external sound output device is not connected or even when an external sound output device is connected, and provides audio data through a built-in speaker. can be set to output.
- the audio signal processor 223 may configure a plurality of modules as shown in FIG. 3B based on the setting information received from the main processor 221 . have.
- the main processor 221 (or the processor 220) may set the audio signal processor 223 to have the configuration shown in FIG. 3B based on the setting information.
- the audio signal processor 223 is configured to mix at least one first audio data received through the N-th nodes 223a-N to N+M nodes 223a-N+M to the second mixing module. It is possible to mix through (23-6) and convert to a reference format through the fifth conversion module (23-8).
- the audio signal processor 223 converts at least one second audio data received through the first node 223a-1 to the third node 223a-3 to the first conversion module 23-1. ) to the third conversion module 23-3, respectively, may be converted into a reference format.
- the audio signal processor 223 may convert the second audio data converted into the reference format and the audio data converted into the reference format through the fifth conversion module 23-8 with the first mixing module 23 You can mix through -4).
- the audio signal processor 223 converts the audio data mixed through the first mixing module 23-4 to a format (eg, 48 kHz) supported by the built-in speaker through the sixth conversion module 23-9. 24 bits), and may be post-processed through the post-processing module 23-7.
- the post-processing module 23 - 7 may include a filter for improving sound quality by attenuating noise or echo, and/or an interpolation module.
- the audio signal processor 223 may transmit the post-processed audio data to the audio module 270 through the first audio interface 223c - 1 .
- 3C is a diagram illustrating the configuration of an audio signal processor when outputting audio data through a Bluetooth device and a built-in speaker according to an embodiment of the present invention.
- the electronic device 201 when the Bluetooth device is connected, transmits all audio data or some specified audio data (eg, call reception sound and text reception sound) to the Bluetooth device and the built-in speaker. It can be set to output through .
- some specified audio data eg, call reception sound and text reception sound
- the audio signal processor 223 when it is set to output audio data through the Bluetooth device and the built-in speaker, the audio signal processor 223 configures a plurality of modules as shown in FIG. 3C based on the setting information received from the main processor 221 . configurable. According to an embodiment, the main processor 221 (or the processor 220) may set the audio signal processor 223 to have the configuration shown in FIG. 3C based on the setting information.
- the audio signal processor 223 when the audio signal processor 223 is configured to output audio data through the Bluetooth device and the built-in speaker, through the N-th nodes 223a-N to N+M nodes 223a-N+M
- the received at least one first audio data may be mixed through the second mixing module 23 - 6 and converted into a reference format through the fifth conversion module 23 - 8 .
- the audio signal processor 223 converts at least one second audio data received through the first node 223a-1 to the third node 223a-3 to the first conversion module 23-1. ) to the third conversion module 23-3, respectively, may be converted into a reference format.
- the audio signal processor 223 includes the audio data converted into the reference format through the first conversion module 23-1 to the third conversion module 23-3 and the fifth conversion module 23
- the audio data converted into the reference format through -8) may be mixed through the first mixing module 23-4.
- the audio signal processor 223 converts the audio data mixed through the first mixing module 23-4 to a format (eg, 48 kHz) supported by the built-in speaker through the sixth conversion module 23-9. 24 bit) and post-processing through the post-processing module 23-7a to output through the built-in speaker.
- a format eg, 48 kHz
- the audio signal processor 223 converts the audio data mixed through the first mixing module 23-4 to a format (eg, 48 kHz) supported by the Bluetooth device through the seventh conversion module 23-10. 16-bit) and post-processing through the post-processing module 23-7b to output it through a Bluetooth device.
- a format eg, 48 kHz
- the audio signal processor 223 converts the audio data mixed through the first mixing module 23-4 to a format (eg, 48 kHz) supported by the Bluetooth device through the seventh conversion module 23-10. 16-bit) and post-processing through the post-processing module 23-7b to output it through a Bluetooth device.
- FIG. 4A is a diagram illustrating the configuration of an audio signal processor when audio data is output through an external device according to an embodiment of the present invention
- FIG. 4B is an external device and a built-in speaker according to an embodiment of the present invention. It is a diagram showing the configuration of an audio signal processor when audio data is output through the
- the electronic device transmits audio data through an external device 253 (eg, a speaker or earphone) connected via a wire (eg, USB or an ear jack).
- an external device 253 eg, a speaker or earphone
- the external device 253 provides audio in the same format (eg, 48 Khz 16 bits) as audio data requiring low latency (eg, game-related audio data, virtual reality-related audio data, and augmented reality-related audio data). output can be supported.
- each of a plurality of second audio data is converted into a reference format.
- converting hereinafter, first reference format audio data
- mixing the first reference format audio data and then converting to a specified format mixing the converted audio data and at least one first audio data having a specified format
- the mixed audio data may be post-processed and transmitted to the external device 253 .
- the audio signal processor of FIG. 4A is similar to the audio signal processor of FIG. 3A , except that it outputs audio data to the external device 253 instead of the Bluetooth device, and thus a detailed description thereof will be omitted.
- the electronic device eg. an audio signal processor
- the electronic device may operate in the same manner as in FIG. 3B . Accordingly, a detailed description thereof will be omitted.
- the electronic device eg, an audio signal processor
- the electronic device eg, an audio signal processor
- a plurality of second audio Converting data into a reference format hereinafter, first reference format audio data
- mixing a plurality of first audio data hereinafter, first mixing data
- first mixed data converting the first mixed data into a reference format
- second mixed audio data After the first standard format audio data
- the first standard format audio data and the second standard format audio data are mixed (hereinafter, second mixed audio data)
- the built-in speaker 251 supports the second mixed audio data It is converted into a format (eg 48 Khz 24 bit) and post-processed and transmitted to the built-in speaker 251, and the second mixed audio data is converted to a format supported by the external device 253 (eg 48 Khz 16 bit), and After processing, it may be transmitted to the external device 253 .
- the audio signal processor of FIG. 4B is similar to the audio signal processor of FIG.
- FIG. 5 is a flowchart 500 illustrating a method of outputting audio data through an external sound output device of an electronic device according to an embodiment of the present invention.
- a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 , the electronic device 201 of FIG. 2 ) according to an embodiment of the present invention
- the processor 220 of FIG. 2 transmits at least one first audio data having a designated format and/or at least one second audio data having a format different from the designated format to the first sound output device ( Alternatively, it may be checked whether it is set to output through an external sound output device (eg, an external device 253 (eg, a wired earphone or USB speaker) or a Bluetooth device 254 ).
- an external sound output device eg, an external device 253 (eg, a wired earphone or USB speaker) or a Bluetooth device 254 .
- the processor may check which sound output device among a plurality of sound output devices is set to output audio data.
- the specified format may be a format supported by the first sound output device.
- the processor eg, the main processor 221
- the processor is connected to the first sound output device by wire (eg, the external device 253 is connected) or wirelessly (eg, the Bluetooth device 254 ). is connected), it may be set to output audio data through the first sound output device.
- the processor may proceed to operation 601 of FIG. 6 to be described later.
- the processor eg, the audio signal processor 223 converts at least one second audio data in operation 503 (hereinafter, first transformation) and mixing (hereinafter, first mixing) may be performed.
- first transformation converts at least one second audio data in operation 503
- mixing hereinafter, first mixing
- the processor checks the formats of the plurality of second audio data, respectively, determines the highest sampling rate and the number of bits as the reference format, and Each format may be converted into a reference format (first conversion).
- the first conversion may be omitted for audio data having a reference format among a plurality of second audio data.
- the first conversion may be omitted and only the first mixing may be performed.
- the second audio data is one, the first transformation and the first mixing may be omitted.
- the processor may convert the format of the first mixed audio data into the specified format (second conversion) in operation 505 .
- the processor eg, the audio signal processor 223
- the processor may post-process (eg, encode, filter, and/or amplify) the second mixed audio data in operation 509 .
- the processor may encode the second mixed audio data when the first sound output device is a Bluetooth device, and filter and amplify the second mixed audio data when the first sound output device is an external speaker to improve sound quality can do it
- the processor may output post-processed audio data through the first sound output device in operation 511 .
- the processor transmits the post-processed audio data to an audio module (eg, the audio module 270) through an audio interface corresponding to the first sound output device so that the post-processed audio data is transmitted to the first sound output device. It can be output through
- the processor may determine whether a change in the sound output device is detected in operation 513 .
- the processor may determine whether the connection of the first sound output device is disconnected or whether audio data is requested by the user to be output through the built-in speaker while the first sound output device is connected.
- the processor eg, the main processor 221
- the processor may maintain operation 513 .
- the processor eg, the main processor 221
- the processor may return to operation 501 .
- FIG. 6 is a flowchart 600 illustrating a method of outputting audio data through an internal sound output device of an electronic device according to an embodiment of the present invention.
- a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 , the electronic device 201 of FIG. 2 ) according to an embodiment of the present invention
- the processor 220 of FIG. 2 transmits at least one first audio data having a designated format and/or at least one second audio data having a format different from the designated format to a second sound output device ( Alternatively, you can check if it is set to output through an internal audio output device (eg built-in speaker).
- the processor eg, the main processor 221
- the processor may check which sound output device among a plurality of sound output devices is set to output audio data.
- the specified format may be a format supported by the first sound output device.
- the processor eg, the main processor 221
- the processor may be configured to output audio data through the second sound output device when an external sound output device is not connected.
- the processor may be configured to output audio data through the second sound output device according to a user's request, even when an external sound output device is connected.
- the processor may proceed to operation 701 of FIG. 7 to be described later.
- the processor eg, the audio signal processor 223 converts at least one second audio data in operation 603 (hereinafter, the third transformation) can be performed. For example, when a plurality of second audio data is received, the processor checks the formats of the plurality of second audio data, respectively, determines the highest sampling rate and the number of bits as the reference format, and Each format can be converted to a reference format.
- the third conversion may be omitted for audio data having a reference format among a plurality of second audio data.
- the third conversion is omitted, and the same format or the format of the second audio data is the reference format.
- the processor may mix (third mixing) at least one piece of first audio data in operation 605 .
- operation 605 may be omitted.
- the processor may convert the format of the third mixed audio data into a specified format (hereinafter, referred to as a fourth conversion) in operation 607 .
- the processor may mix the third converted audio data and the fourth converted audio data (hereinafter, referred to as fourth mixing) in operation 609 .
- the processor may convert the fourth mixed audio data into a format supported by the second sound output device (fifth conversion) in operation 611 .
- the processor may post-process the fifth converted audio data in operation 613 .
- the processor may filter and amplify the fifth converted audio data to improve sound quality.
- the processor may output post-processed audio data through the second sound output device in operation 615 .
- the processor transmits the post-processed audio data to an audio module (eg, the audio module 270) through an audio interface corresponding to the second sound output device, so that the post-processed audio data is transmitted to the second sound output device. It can be output through .
- the processor may determine whether a change in the sound output device is detected in operation 617 .
- the processor may determine whether the first sound output device is connected.
- the processor eg, the main processor 221
- the processor may maintain operation 617 .
- the processor eg, the main processor 221
- the processor may return to operation 501 of FIG. 5 .
- FIG. 7 is a flowchart 700 illustrating a method of outputting audio data through an external sound output device and an internal sound output device of an electronic device according to an embodiment of the present invention.
- a processor eg, the processor 120 of FIG. 1 of an electronic device (eg, the electronic device 101 of FIG. 1 , the electronic device 201 of FIG. 2 ) according to an embodiment of the present invention
- the processor 220 of FIG. 2 transmits at least one first audio data having a designated format and/or at least one second audio data having a format different from the designated format to the first sound output device ( It may be set to output through an external sound output device (eg, a Bluetooth device or an external speaker) and a second sound output device (internal sound output device) (eg, a built-in speaker).
- an external sound output device eg, a Bluetooth device or an external speaker
- a second sound output device internal sound output device
- the processor when the first sound output device is connected, the processor (eg, the main processor 221 ) transmits specified audio data (eg, a ringtone, an alarm sound (text reception tone, push message reception tone)) to the first and second audio output devices. 2 It can be set to output through a sound output device.
- specified audio data eg, a ringtone, an alarm sound (text reception tone, push message reception tone)
- operations 703 to 715 of FIG. 7 are similar to operations 603 to 615 of FIG. 6 , and thus a detailed description thereof will be omitted.
- the processor may convert the fourth mixed audio data into a format supported by the first sound output device (sixth conversion) in operation 717 .
- the processor may post-process the sixth converted audio data in operation 719 .
- the processor may encode the sixth transformed audio data.
- the processor may output post-processed audio data through the first sound output device in operation 721 .
- the processor transmits the post-processed audio data to an audio module (eg, the audio module 270) through an audio interface corresponding to the first sound output device, so that the post-processed audio data is transmitted to the first sound output device. It can be output through .
- the processor may determine whether a change in the sound output device is detected in operation 723 .
- the processor may determine whether the connection of the first sound output device is released or whether audio data is output through the second sound output device by the user.
- the processor eg, the main processor 221
- the processor may maintain operation 723 .
- the processor eg, the main processor 221
- the processor may return to operation 501 of FIG. 5 .
- the audio signal processor 223 may be included in the audio modules 170 and 270 or may be included in a separate configuration.
- the electronic device includes at least one first audio data having a specified format or at least one second audio data having a format different from the specified format.
- An audio module eg, an audio module
- that outputs at least one of the audio data to at least one of a plurality of sound output devices eg, the built-in speaker 251, the receiver 252, the external device 253, and the Bluetooth device 254) (170, 270)
- a processor eg, a processor 120, 220
- a memory eg, a memory 130 , 230 ) operatively coupled to the processor, wherein the memory, when executed, causes the processor to:
- the at least one mixing hereinafter, first mixing
- the second audio data of data is mixed
- the processor may include a main processor (eg, main processors 121 and 221 ) and an audio signal processor (eg, auxiliary processor 123 and audio signal processor 223 ).
- the main processor transmits audio data of various formats to be output through the first sound output device to the audio signal processor, and the audio signal processor is configured to format at least a portion of audio data of various formats received from the main processor. At least one of conversion, mixing, or post-processing may be performed and transmitted to the audio module.
- the instruction for converting the first mixed audio data into the specified format may include an instruction for converting the sampling rate of the first mixed audio data into the sampling rate of the specified format.
- the instruction for first mixing the at least one piece of second audio data may be omitted when there is only one piece of the at least one piece of second audio data.
- each of the plurality of second audio data checks a sampling rate, and the highest sampling rate is a reference sampling rate, and after converting a sampling rate of second audio data having a sampling rate different from the reference sampling rate among the plurality of second audio data into the reference sampling rate, the plurality of second audio data It may include an instruction to perform the first mixing for the .
- the at least one first audio data may be audio data requiring low latency.
- the first sound output device may be a wireless sound output device (eg, the Bluetooth device 254 ) connected to the electronic device through short-range wireless communication or a wired sound output device (eg, a wired sound output device connected via wired communication). : an external device 253) may be included.
- a wireless sound output device eg, the Bluetooth device 254
- a wired sound output device eg, a wired sound output device connected via wired communication.
- an external device 253 may be included.
- the short-range wireless communication may include Bluetooth communication
- the post-processing may include encoding
- the processor transmits at least one of the at least one first audio data or the at least one second audio data to a second sound output device (eg, a built-in speaker ( 251)), the at least one first audio data is mixed (hereinafter, referred to as third mixing), the third mixed audio data is converted into a reference format, and the at least one converting second audio data into the reference format, mixing the audio data converted into the reference format (hereinafter, fourth mixing), post-processing the fourth mixed audio data, and the post-processed audio data It may further store instructions for transmitting to the audio module and outputting it through the second sound output device.
- a second sound output device eg, a built-in speaker ( 251)
- third mixing the third mixed audio data is converted into a reference format
- the at least one converting second audio data into the reference format
- mixing the audio data converted into the reference format hereinafter, fourth mixing
- post-processing the fourth mixed audio data post-processed audio data It may further store instructions for transmitting to the audio module and outputting
- the memory when executed, causes the processor to convert the fourth mixed audio data before performing the post-processing if the reference format is different from a format supported by the second sound output device. Instructions for converting to a format supported by the second sound output device may be further stored.
- the memory when executed, causes the processor to transmit at least one of the at least one first audio data and the at least one second audio data to the first sound output device and the second sound
- the at least one first audio data is mixed (hereinafter, referred to as fifth mixing), the fifth mixed audio data is converted into a reference format, and the at least one first audio data is mixed.
- a method of outputting audio data of an electronic device includes at least one first audio data having a specified format or a format different from the specified format.
- a first sound output device eg, external device 253, Bluetooth device 254 that outputs audio data of the specified format
- mixing hereinafter, first mixing
- mixing hereinafter, second mixing
- post-processing the second mixed audio data
- outputting the post-processed audio data through the first sound output device.
- the converting of the first mixed audio data into the specified format may include converting the sampling rate of the first mixed audio data into the sampling rate of the specified format.
- the first mixing of the at least one second audio data may include omitting the first mixing operation when the at least one second audio data is one; Alternatively, when there is a plurality of the at least one second audio data, the sampling rate of each of the plurality of second audio data is checked, the highest sampling rate is determined as a reference sampling rate, and among the plurality of second audio data, the highest sampling rate is determined.
- the method may include converting a sampling rate of second audio data having a sampling rate different from the reference sampling rate into the reference sampling rate and then performing the first mixing on the plurality of second audio data.
- the at least one first audio data may include audio data requiring low latency.
- the first sound output device may be a wireless sound output device (eg, the Bluetooth device 254 ) connected to the electronic device through short-range wireless communication or a wired sound output device (eg, a wired sound output device connected via wired communication). : an external device 253) may be included.
- a wireless sound output device eg, the Bluetooth device 254
- a wired sound output device eg, a wired sound output device connected via wired communication.
- an external device 253 may be included.
- the short-range wireless communication may include Bluetooth communication
- the post-processing may include encoding the second mixed audio data
- the method is configured to output at least one of the at least one first audio data or the at least one second audio data through a second sound output device (eg, a built-in speaker 251) in response, mixing (third mixing) the at least one first audio data; converting the third mixed audio data into a reference format; converting the at least one second audio data into the reference format; mixing (hereinafter, fourth mixing) the audio data converted into the reference format; post-processing the fourth mixed audio data; and outputting the post-processed audio data through the second sound output device.
- a second sound output device eg, a built-in speaker 251
- the method includes: the second sound output device supports the fourth mixed audio data before performing the post-processing It may further include an operation of converting to a format.
- the method is configured to output at least one of the at least one first audio data and the at least one second audio data through the first sound output device and the second sound output device.
- mixing hereinafter, fifth mixing
- the at least one first audio data converting the fifth mixed audio data into a reference format
- converting the at least one second audio data into the reference format
- mixing hereinafter, sixth mixing
- converting the sixth mixed audio data into a format supported by the first sound output device, encoding the converted audio data, and outputting the encoded audio data through the first sound output device
- the at least one processor When the non-transitory computer-readable recording medium according to various embodiments of the present disclosure is executed by at least one processor (eg, the processors 120 and 220 ), the at least one processor: a specified format A first sound output device (eg, an external device 253) that outputs at least one of at least one first audio data having ), in response to being set to output through the Bluetooth device 254)), mixing (hereinafter, first mixing) the at least one second audio data, and combining the first mixed audio data with the converting to a specified format, mixing the audio data converted into the specified format and the at least one first audio data (hereinafter, second mixing), and post-processing the second mixed audio data; and at least one instruction for outputting the post-processed audio data through the first sound output device.
- a specified format A first sound output device eg, an external device 253 that outputs at least one of at least one first audio data having ), in response to being set to output through the Bluetooth device 254)
- mixing hereinafter, first mixing
- the electronic device may have various types of devices.
- the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
- a portable communication device eg, a smart phone
- a computer device e.g., a smart phone
- a portable multimedia device e.g., a portable medical device
- a camera e.g., a portable medical device
- a camera e.g., a portable medical device
- a camera e.g., a portable medical device
- a wearable device e.g., a smart bracelet
- a home appliance device e.g., a home appliance
- first”, “second”, or “first” or “second” may simply be used to distinguish the component from other such components, and refer to the component in another aspect (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
- module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logic block, component, or circuit.
- a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
- the module may be implemented in the form of an application-specific integrated circuit (ASIC).
- ASIC application-specific integrated circuit
- a storage medium eg, an internal memory 136 , an external memory 138 , and a memory 230 readable by a machine (eg, the electronic devices 101 and 201 ).
- a machine eg, the electronic devices 101 and 201 .
- a processor eg, processor 120, processor 220
- a device eg, electronic device 101, 201
- the one or more instructions may include code generated by a compiler or code executable by an interpreter.
- the device-readable storage medium may be provided in the form of a non-transitory storage medium.
- 'non-transitory' only means that the storage medium is a tangible device and does not include a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
- a signal eg, electromagnetic wave
- the method according to various embodiments disclosed in this document may be provided in a computer program product (computer program product).
- Computer program products may be traded between sellers and buyers as commodities.
- the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or via an application store (eg Play Store TM ) or on two user devices ( It can be distributed online (eg download or upload), directly between smartphones (eg smartphones).
- a part of the computer program product may be temporarily stored or temporarily generated in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
- each component eg, a module or a program of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. have.
- one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
- a plurality of components eg, a module or a program
- the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
- operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. or one or more other operations may be added.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Circuit For Audible Band Transducer (AREA)
Abstract
본 발명의 다양한 실시 예들은 전자 장치 및 그의 오디오 데이터를 출력하는 방법에 관한 것으로, 상기 전자 장치는 지정된 포맷(format)을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 다수의 음향 출력 장치 중 적어도 하나로 출력하는 오디오 모듈; 프로세서; 및 메모리를 포함하고, 상기 메모리는, 실행되었을 때, 상기 프로세서가, 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(이하, 제1 믹싱)하고, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하고, 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하고, 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하고, 및 상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제1 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들을 저장할 수 있다. 그 밖의 다양한 실시 예들이 가능하다.
Description
본 발명의 다양한 실시 예들은 전자 장치 및 그의 오디오 데이터를 출력하는 방법에 관한 것이다.
전자 장치들(예: 이동 단말, 스마트 폰, 또는 착용형(wearable) 단말)은 다양한 포맷(format)(또는 해상도(resolution))을 가지는 오디오 신호(또는 오디오 데이터)의 출력을 지원할 수 있다. 오디오 신호의 포맷은 샘플링 주파수(예: 44.1 Khz, 48 Khz, 96 Khz, 192 Khz, 또는 384 Khz), 양자화 비트 수(예: 8비트, 16 비트, 24 비트, 또는 32 비트) 및/또는 채널 수(예: 2채널, 4채널, 5.1 채널, 7.1 채널, 또는 8 채널)를 포함할 수 있다.
전자 장치는 제1 포맷(예: 48 Khz, 16 비트, 2채널)을 이용하여 게임 관련 음원을 출력할 수 있고, 제2 포맷(예: 44.1 Khz, 16비트, 2채널)을 이용하여 MP3(mpeg-1 audio layer-3) 음원을 출력할 수 있고, 제3 포맷(예: 192 Khz, 32 비트, 2채널)을 이용하여 UHQA(ultra high quality audio) 음원을 출력할 수 있다.
전자 장치는 서로 상이한 포맷(예: 샘플링 레이트 및/또는 비트 수)을 가지는 오디오 데이터들을 출력할 때, 상이한 포맷을 가지는 오디오 데이터들을 믹싱하고, 믹싱된 오디오 데이터들을 음향 출력 모듈(예: 블루투스 오디오 장치)이 지원하는 포맷으로 변환(예: 샘플링 레이트 및/또는 비트 수를 변환)할 수 있다. 예를 들어, 상기 전자 장치는 서로 상이한 포맷을 가지는 오디오 데이터들을 믹싱할 때, 가장 높은 샘플링 레이트(이하, 기준 샘플링 레이트)를 기준으로 다른 오디오 데이터의 샘플링 레이트를 1차 변환한 후, 믹싱을 수행하고, 믹싱된 오디오 데이터를 음향 출력 모듈이 지원하는 포맷으로 2차 변환할 수 있다.
전자 장치는 다수의 변환 동작들로 인하여 오디오 신호의 출력이 지연(예: 음향 출력 모듈을 통해 재생될 때까지의 시간이 지연(latency))될 수 있다. 예를 들어, 음향 출력 모듈과 동일한 포맷을 가지는 오디오 신호는 별도의 변환 동작없이 음향 출력 모듈을 통해 출력할 수 있음에도 불구하고, 전자 장치는 기준 샘플링 레이트로 1차 변환하고, 음향 출력 모듈의 포맷으로 2차 변환한 후 오디오 신호를 출력함에 따라 출력 지연이 발생할 수 있다. 게임과 같이 실시간 반응성을 중요 시 하는 어플리케이션을 이용하는 경우 상기 오디오 신호의 출력 지연은 사용자에게 불편함을 야기할 수 있다.
또한, 무선 음향 출력 장치(예: 블루투스 장치)의 이용이 증가함에 따라, 최근에는 무선 음향 출력 장치의 이용 시 오디오 신호의 출력 지연을 감소시킬 수 있는 방안에 대한 관심이 증가하고 있다.
본 발명의 다양한 실시 예들은 오디오 신호의 출력 지연을 감소시킬 수 있는 전자 장치 및 그의 오디오 데이터를 출력하는 방법을 제공할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치는, 예를 들면, 지정된 포맷(format)을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 다수의 음향 출력 장치 중 적어도 하나로 출력하는 오디오 모듈; 상기 오디오 모듈과 작동적(operatively)으로 연결되는 프로세서; 및 상기 프로세서와 작동적으로 연결되는 메모리를 포함하고, 상기 메모리는, 실행되었을 때, 상기 프로세서가, 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하고, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하고, 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하고, 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하고, 및 상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제1 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치의 오디오 데이터를 출력하는 방법은, 예를 들면, 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하는 동작; 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 동작; 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하는 동작; 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하는 동작; 및 상기 후처리된 오디오 데이터를 상기 제1 음향 출력 장치를 통해 출력하는 동작을 포함할 수 있다.
본 발명의 다양한 실시 예에 따른 비일시적(non-transitory) 컴퓨터 판독 가능한 기록 매체는, 예를 들면, 적어도 하나의 프로세서에 의하여 실행될 때에, 상기 적어도 하나의 프로세서가: 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하고, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하고, 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하고, 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하고, 및 상기 후처리된 오디오 데이터를 상기 제1 음향 출력 장치를 통해 출력하도록 하는 적어도 하나의 인스트럭션들을 저장할 수 있다.
본 발명의 다양한 실시 예들에 따른 전자 장치는 오디오 신호의 출력 지연을 감소시킬 수 있다. 또한, 본 발명의 다양한 실시 예들에 따른 전자 장치는 오디오 출력에 대한 실시간 반응성을 제공하여 전자 장치에 대한 사용자의 만족도 및/또는 신뢰도를 향상시킬 수 있다.
도 1은 본 발명의 한 실시 예에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 본 발명의 다른 실시 예에 따른 전자 장치의 구성을 도시한 블록도이다.
도 3a는 본 발명의 한 실시 예에 따른 블루투스 장치를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 3b는 본 발명의 한 실시 예에 따른 내장 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 3c는 본 발명의 한 실시 예에 따른 블루투스 장치 및 내장 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 4a는 본 발명의 한 실시 예에 따른 외부 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 4b는 본 발명의 한 실시 예에 따른 외부 스피커 및 내장 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 5는 본 발명의 한 실시 예에 따른 전자 장치의 외부 음향 출력 장치를 통해 오디오 데이터를 출력하는 방법을 설명하는 흐름도이다.
도 6은 본 발명의 한 실시 예에 따른 전자 장치의 내부 음향 출력 장치를 통해 오디오 데이터를 출력하는 방법을 설명하는 흐름도이다.
도 7은 본 발명의 한 실시 예에 따른 전자 장치의 외부 음향 출력 장치 및 내부 음향 출력 장치를 통해 오디오 데이터를 출력하는 방법을 설명하는 흐름도이다.
이하, 첨부된 도면을 참조하여 본 발명의 다양한 실시 예들을 설명한다. 본 문서는 특정 실시 예들이 도면에 예시되고 관련된 상세한 설명이 기재되어 있으나, 이는 본 발명의 다양한 실시 예들을 특정한 형태로 한정하려는 것이 아니다. 예를 들어, 본 발명의 실시 예들은 다양하게 변경될 수 있다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다.
도 1은 본 발명의 한 실시 예에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성 요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성 요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성 요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성 요소(예: 하드웨어 또는 소프트웨어 구성 요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성 요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성 요소들 중 적어도 하나의 구성 요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성 요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성 요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성 요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는 본 발명의 다른 실시 예에 따른 전자 장치의 구성을 도시한 블록도이다.
도 2를 참조하면, 본 발명의 다른 실시 예에 따른 전자 장치(201)(예: 전자 장치(101))는 프로세서(220)(예: 도 1의 프로세서(120)), 오디오 모듈(270)(예: 도 1의 오디오 모듈(170)), 메모리(230)(예: 도 1의 메모리(130)), 내부 음향 출력 장치(255)(예: 도 1의 음향 출력 모듈(155)), 인터페이스 모듈(277)(예: 도 1의 인터페이스(177)), 및 블루투스 통신 모듈(290)(예: 도 1의 무선 통신 모듈(192))을 포함할 수 있다.
한 실시 예에 따르면, 프로세서(220)(예: 어플리케이션 프로세서(application processor)는 메인 프로세서(221)(예: 도 1의 메인 프로세서(121)) 및 오디오 시그널 프로세서(223)(예: 도 1의 보조 프로세서(123))를 포함할 수 있다.
한 실시 예에 따르면, 메인 프로세서(221)(예: 도 1의 메인 프로세서(121))는 어플리케이션(예: 시스템(operating system: OS)(21-1)(예: 시스템 관련 음원을 재생하는 어플리케이션), 음악 재생 어플리케이션(21-2), 동영상 재생 어플리케이션(21-3) 및/또는 게임 어플리케이션(21-N)), 오디오 프레임 워크(221a) 및 오디오 하드웨어 추상화 계층(audio HAL(audio hardware abstraction layer))(221b)을 포함하는 프로그램(예: 프로그램(140))을 메모리(예: 도 1의 메모리(130) 또는 도 1의 휘발성 메모리(132))의 지정된 주소 영역에 로드하여(load) 실행할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)(예: 도 1의 보조 프로세서(123))는 변조 모듈(223a), 처리 모듈(23b), 오디오 인터페이스(223c)를 포함하는 프로그램(예: 프로그램(140))을 메모리(예: 도 1의 메모리(130) 또는 도 1의 휘발성 메모리(132))의 지정된 주소 영역에 로드하여(load) 실행할 수 있다.
다양한 실시예에 따르면, 메인 프로세서(221)에 의해 메인 프로세서(221)의 메모리 영역(memory space)(미도시)에 생성(또는 로드)된 오디오 스트림 데이터는 DMA(direct memory access) 방식에 따라(예를 들어, 프로세서(220)에 포함된 DMA 컨트롤러(controller)(미도시)의 제어에 따라), 오디오 시그널 프로세서(223)의 메모리 영역(memory space)(미도시)으로 이동(예: 복사)될 수 있다. 다른 예로, 오디오 스트림 데이터는, 메모리(130, 132)에 할당된 공유 영역(Shared memory)을 이용하는 다양한 통신 방식(예: 공유 영역(Shared memory) IPC(inter-processor communication) 방식)을 통해 오디오 시그널 프로세서(223)의 메모리 영역(memory space)(미도시)으로 이동(예: 복사)되어 전달될 수 있다.
한 실시 예에 따르면, 메인 프로세서(221)는 어플리케이션들(예: 시스템(21-1), 음악 재생 어플리케이션(21-2), 동영상 재생 어플리케이션(21-3) 및/또는 게임 어플리케이션(21-N)) 중 적어도 하나에 의해 출력 요청된 적어도 하나의 오디오 데이터를 오디오 시그널 프로세서(223)로 전송할 수 있다. 예를 들어, 메인 프로세서(221)는 오디오 프레임 워크(221a) 및 오디오 하드웨어 추상화 계층(221b)을 통해 오디오 시그널 프로세서(223)로 상기 요청된 적어도 하나의 오디오 데이터를 전송할 수 있다. 상기 오디오 프레임워크(221a)는 오디오 데이터를 출력할 음향 출력 장치를 선택할 수 있다. 오디오 프레임워크(221a)는 출력할 오디오 데이터를 오디오 스트림(audio stream) 데이터로 변환할 수 있다. 상기 오디오 하드웨어 추상화 계층(221b)은 오디오 프레임워크(221a)에 의해 선택된 음향 출력 장치에 대한 정보를 수신하고, 선택된 음향 출력 장치를 제어할 수 있다. 오디오 하드웨어 추상화 계층(221b)은 오디오 데이터의 정보(예: 샘플링 레이트, 비트 수, 채널의 수, 오디오 스트림의 크기), 어플리케이션의 요구 사항 및/또는 선택된 음향 출력 장치에 대한 정보에 기반하여 오디오 데이터의 출력을 제어할 수 있다.
한 실시 예에 따르면, 메인 프로세서(221)는 적어도 하나의 오디오 데이터(또는 오디오 스트림 데이터)를 전송할 때, 포맷(또는 크기)별로 구분하여 오디오 시그널 프로세서(223)로 전송할 수 있다. 오디오 데이터의 포맷은 샘플링 주파수(예: 44.1 Khz, 48 Khz, 96 Khz, 192 Khz, 또는 384 Khz) 및 양자화 비트 수(예: 8비트, 16 비트, 24 비트, 또는 32 비트)를 포함할 수 있다. 어떤 실시 예에 따르면, 오디오 신호의 포맷은 채널 수(예: 2채널, 4채널, 5.1 채널, 7.1 채널, 또는 8 채널)를 더 포함할 수 있다.
어떤 실시 예에 따르면, 메인 프로세서(221)는 어플리케이션의 요구 사항에 따라 오디오 데이터를 구분하여 오디오 시그널 프로세서(223)로 전송할 수 있다. 예를 들어, 어플리케이션은 오디오 데이터의 전송 시 오디오 데이터에 대한 요구 사항(예: 저 지연, 대용량)을 나타내는 정보를 함께 전송할 수 있다. 메인 프로세서(221)는 요구 사항에 따라 오디오 데이터를 구분하여 오디오 시그널 프로세서(223)로 전송할 수 있다.
어떤 실시 예에 따르면, 메인 프로세서(221)는 오디오 데이터의 포맷 및 어플리케이션의 요구 사항에 기반하여 오디오 데이터를 구분하여 오디오 시그널 프로세서(223)로 전송할 수 있다. 이하에서는 설명의 편의를 위해 포맷에 따라 오디오 데이터를 구분하는 것을 예로 하여 설명하기로 한다.
한 실시 예에 따르면, 메인 프로세서(221)는 제1 포맷(예: UHQA)의 오디오 데이터를 오디오 시그널 프로세서(223)의 제1 노드(223a-1)로 전송하고, 제2 포맷(예: mp3)의 오디오 데이터를 제2 노드(223a-2)로 전송하고, 제3 포맷(예: deep)의 오디오 데이터(예: 48khz, 24bit의 동영상에 포함된 오디오 데이터를 제3 노드(223a-3)로 전송하고, 제N 포맷(예: low latency)의 오디오 데이터를 제N 노드(223a-N)로 전송할 수 있다. 제N 포맷의 오디오 데이터는 저 지연을 요구하는 오디오 데이터로, 지정된 포맷(예: 48khz, 16bit)를 가질 수 있다. 제N 포맷의 오디오 데이터는, 예를 들어, 터치음 관련 오디오 데이터, 알림음 관련 오디오 데이터, 게임 관련 오디오 데이터, 가상 현실 관련 오디오 데이터, 또는 증강 현실(augmented reality) 관련 오디오 데이터를 포함할 수 있다. 예를 들어, 메인 프로세서(221)는 게임 어플리케이션에 의해 생성(출력이 요청)된 오디오 데이터를 저 지연 오디오 데이터로 구분하고, 오디오 시그널 프로세서(223)의 제N 노드(223a-N)로 전송할 수 있다.
한 실시 예에 따르면, 상기 제1 노드(223a-1) 내지 제N 노드(223a-N)는 변조 모듈(예: 펄스 부호 변조(pulse code modulation: PCM) 모듈)일 수 있다. 제1 노드(223a-1) 내지 제N 노드(223a-N)는 오디오 스트림 데이터의 전달을 위한 버퍼(buffer)를 포함할 수 있다. 제1 노드(223a-1)는 고 품질(또는 고 해상도)의 오디오 스트림 데이터를 처리할 수 있도록 큰 크기를 가지고, 제2 노드(223a-2)는 중간 품질의 오디오 스트림 데이터를 처리할 수 있도록 중간 크기를 가지고, 제3 노드(223a-3)는 긴 시간의 오디오 스트림 데이터를 처리할 수 있으며, 버퍼 언더런(buffer underrun)에 강하도록 큰 크기를 가지며, 제N 노드(223a-N)는 짧은 오디오 스트림 데이터를 빠르게 처리할 수 있도록 작은 크기를 가질 수 있다. 제N 노드(236a-N)는 제한적인 포맷(예: 48Khz 16비트)을 지원할 수 있다.
한 실시 예에 따른 메인 프로세서(221)는 다수의 음향 출력 장치들(예: 내장 스피커, 리시버, 유선 이어 셋, 유선 스피커, 블루투스 이어셋 또는 블루투스 스피커) 중 적어도 하나를 통해 오디오 데이터를 출력하도록 제어할 수 있다. 메인 프로세서(221)는 오디오 데이터를 출력하도록 설정(또는 결정)된 음향 출력 장치의 타입에 따라 오디오 시그널 프로세서(223)의 내부 구성들을 다르게 설정하도록 오디오 시그널 프로세서(223)를 제어할 수 있다. 예를 들어, 메인 프로세서(221)는 오디오 데이터를 출력하도록 결정(선택)된 음향 출력 장치의 타입에 따라 오디오 시그널 프로세서(223)에 포함된 다수의 내부 구성들(예: 적어도 하나의 노드, 적어도 하나의 믹싱 모듈, 적어도 하나의 변환 모듈, 적어도 하나의 후처리 모듈 및/또는 적어도 하나의 오디오 인터페이스) 중 적어도 일부를 어떻게 연결(또는 구성)할지를 정의한 설정 정보를 오디오 시그널 프로세서(223)로 전송하여 오디오 시그널 프로세서(223)가 설정 정보에 따라 오디오 데이터를 처리하도록 설정할 수 있다. 상기 설정 정보는 프로세서(220) 또는 메인 프로세서(221)에 포함된 메모리(미도시) 또는 메모리(230)에 저장될 수 있다. 상기 다수의 처리 모듈들의 구성 예들에 대한 상세한 설명은 도 3a 내지 도 4c를 참조하여 설명하기로 한다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 메인 프로세서(221)로부터 전송 받은 오디오 데이터를 처리(예: 변조, 믹싱, 변환, 후처리)한 후 오디오 모듈(270)로 전송할 수 있다. 예를 들어, 오디오 시그널 프로세서(223)는 다수의 노드들(223a-1 내지 223a-N)을 통해 수신된 오디오 데이터를 처리 모듈(223b)을 통해 처리하고, 처리된 오디오 데이터를 오디오 인터페이스(audio interface: AIF)들(223c-1, 223c-2, 223c-3, 223c-N) 중 적어도 하나를 통해 오디오 모듈(270)로 전송할 수 있다. 예를 들어, 오디오 시그널 프로세서(223)는 오디오 데이터를 내장 스피커(251)로 출력하도록 설정된 경우 상기 처리된 오디오 데이터를 제1 오디오 인터페이스(223c-1)를 통해 오디오 모듈(270)로 전송할 수 있고, 오디오 데이터를 리시버(252)로 출력하도록 설정된 경우 상기 처리된 오디오 데이터를 제2 오디오 인터페이스(223c-2)를 통해 오디오 모듈(270)로 전송할 수 있고, 오디오 데이터를 외부 장치(253)로 출력하도록 설정된 경우 상기 처리된 오디오 데이터를 제3 오디오 인터페이스(223c-3)를 통해 오디오 모듈(270)로 전송할 수 있고, 오디오 데이터를 블루투스 장치(254)(예: 블루투스 이어 셋 또는 블루투스 스피커)로 출력하도록 설정된 경우 상기 처리된 오디오 데이터를 제N 오디오 인터페이스(223c-N)를 통해 오디오 모듈(270)로 전송할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는, 메인 프로세서(221)의 제어 하에, 출력할 오디오 데이터들 중 음향 출력 장치와 동일한 포맷을 가지는 적어도 하나의 오디오 데이터에 대한 변환(예: 샘플링 레이트 및/또는 비트 수의 변환) 동작을 감소시키도록 처리 모듈(223b)의 내부 구성들을 적응적으로(adaptively) 설정할 수 있다. 이에 대한 상세한 설명은 도 3a 내지 도 4c를 참조하여 후술하기로 한다.
한 실시 예에 따르면, 오디오 모듈(270)은 오디오 시그널 프로세서(223)로부터 전송 받은 오디오 데이터를 처리하여 내부 음향 출력 장치(255)(예: 내장 스피커(251), 리시버(252), 또는 외부 음향 출력 장치(260)(예: 외부 장치(253), 블루투스 장치(254))로 전송할 수 있다. 외부 장치(253)는 전자 장치(201)와 인터페이스 모듈(277)을 통해 유선(예: USB(universal serial bus) 또는 이어잭)으로 연결되는 스피커 또는 이어폰을 포함할 수 있다. 블루투스 장치(254)는 블루투스 통신 모듈(290)을 통해 전자 장치(201)와 무선으로 연결될 수 있다.
한 실시 예에 따르면, 오디오 모듈(270)은 내부 음향 출력 장치(255)(예: 내장 스피커(251), 또는 리시버(252))로 오디오 데이터를 출력하도록 설정된 경우 디지털 오디오 데이터를 아날로그 신호로 변환 및/또는 증폭하여 내부 음향 출력 장치(255)로 전송할 수 있다. 다른 예로, 오디오 모듈(270)은 외부 음향 출력 장치(260)(예: 외부 장치(253), 블루투스 장치(254)(예: 블루투스 이어 셋 또는 블루투스 스피커))로 오디오 데이터를 출력하도록 설정된 경우 디지털 오디오 데이터를 인터페이스 모듈(277) 또는 블루투스 통신 모듈(290)을 통해 외부 음향 출력 장치(260)로 전송할 수 있다.
한 실시 예에 따르면, 오디오 모듈(270)은 음향 출력 장치(255)에 포함될 수 있다.
한 실시 예에 따르면, 메모리(230)는 프로세서(220)와 작동적으로 연결되며, 실행 시 프로세서(220)가 오디오 데이터를 출력하도록 결정된 음향 출력 장치에 기반하여, 오디오 데이터의 출력을 적응적으로 제어하도록 하는 인스트럭션들을 저장할 수 있다.
도 3a는 본 발명의 한 실시 예에 따른 블루투스 장치를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 3a를 참조하면, 본 발명의 한 실시 예에 따른 전자 장치(201)는 블루투스 장치(예: 블루투스 이어 셋, 블루투스 헤드 셋, 블루투스 스피커)의 연결 시 자동 또는 사용자의 요청에 따라 오디오 데이터들을 블루투스 장치로 출력하도록 설정될 수 있다.
한 실시 예에 따르면, 블루투스 장치를 통해 오디오 데이터를 출력하도록 설정된 경우 오디오 시그널 프로세서(223)는, 상기 메인 프로세서(221)로부터 수신되는 설정 정보에 기반하여, 다수의 모듈들을 도 3a와 같이 구성할 수 있다. 어떤 실시 예에 따르면, 메인 프로세서(221)(또는 프로세서(220)는 설정 정보에 기초하여 도 3a와 같은 구성을 가지도록 오디오 시그널 프로세서(223)를 설정할 수 있다. 상기 설정 정보는 오디오 데이터를 출력하도록 결정(선택)된 음향 출력 장치의 타입에 기초하여, 오디오 시그널 프로세서(223)에 포함된 다수의 내부 구성들(예: 적어도 하나의 노드, 적어도 하나의 믹싱 모듈, 적어도 하나의 변환 모듈, 적어도 하나의 후처리 모듈 및/또는 적어도 하나의 오디오 인터페이스) 중 적어도 일부를 어떻게 연결(또는 구성)할지를 정의할 수 있다.
상기 도 3a와 같이 구성된 오디오 시그널 프로세서(223)는 적어도 하나의 제1 오디오 데이터 및 적어도 하나의 제2 오디오 데이터를 수신할 수 있다. 이에 한정되지는 않지만, 상기 적어도 하나의 제1 오디오 데이터는 제N 노드(223a-N)를 통해 수신되는 게임 관련 오디오 데이터(이하, 제1-1 오디오 데이터) 및/또는 제N+M 노드(223a-N+M)를 통해 수신되는 터치음 및/또는 알림음 관련 오디오 데이터(이하, 제1-2 오디오 데이터)를 포함할 수 있고, 상기 적어도 하나의 제2 오디오 데이터는 제1 노드(223a-1)를 통해 수신되는 UHQA 오디오 데이터(이하, 제2-1 오디오 데이터), 제2 노드(223a-2)를 통해 수신되는 mp3 오디오 데이터(이하, 제2-2 오디오 데이터), 및/또는 제3 노드(223a-3)를 통해 수신되는 deep 오디오 데이터(이하, 제2-3 오디오 데이터)를 포함할 수 있다. 상기 적어도 하나의 제1 오디오 데이터는 지정된 포맷(예: 블루투스 장치가 지원하는 포맷(예: 48Khz 16 비트)을 가질 수 있고, 상기 적어도 하나의 제2 오디오 데이터는 지정된 포맷과 다른 포맷(예: 384kHz 32비트, 44.1kHz 16비트, 또는 192kHz 24비트)을 가질 수 있다.
한 실시 예에 따르면, 제1 오디오 데이터는 저 지연(low latency)을 요구하는 오디오 데이터일 수 있다. 저 지연을 요구하는 오디오 데이터는, 예를 들어, 터치음 관련 오디오 데이터, 알림음 관련 오디오 데이터, 게임 관련 오디오 데이터, 가상 현실 관련 오디오 데이터, 증강 현실(augmented reality) 관련 오디오 데이터를 포함할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 적어도 하나의 제2 오디오 데이터를 변환 및/또는 믹싱할 수 있다. 예를 들어, 오디오 시그널 프로세서(223)는 다수의 제2 오디오 데이터가 서로 다른 포맷을 가지는 경우 다수의 제2 오디오 데이터의 샘플링 레이트 및/또는 비트 수를 각각 확인하고, 가장 높은 샘플링 레이트(예: 384 Khz) 및/또는 비트 수(예: 32 비트)를 기준 포맷으로 결정(선택)하고, 제1 변환 모듈 내지 제3 변환 모듈(23-1, 23-2, 23-3)을 통해 다수의 제2 오디오 데이터들이 기준 포맷을 가지도록 변환하고, 제1 믹싱 모듈(23-4)을 통해 기준 포맷으로 변환된 오디오 데이터들을 믹싱할 수 있다. 이를 위하여, 제1 내지 제3 노드(223a-1, 223a-2, 223a-3)는 제1 변환 모듈 내지 제3 변환 모듈(23-1, 23-2, 23-3)과 각각 연결될 수 있고, 제1 변환 모듈 내지 제3 변환 모듈(23-1, 23-2, 23-3)은 제1 믹싱 모듈(23-4)과 연결될 수 있다. 제1 변환 모듈 내지 제3 변환 모듈(23-1, 23-2, 23-3)은 샘플 레이트 변환기(sample rate convert: SRC)를 포함할 수 있다. 제1 믹싱 모듈(23-4)은 하드웨어 모듈 또는 소프트웨어 모듈일 수 있다.
어떤 실시 예에 따르면, 오디오 시그널 프로세서(223)는 다수의 제2 오디오 데이터가 동일한 포맷을 가지는 경우 기준 포맷으로의 변환 동작을 생략하고, 제1 믹싱 모듈(23-4)을 통해 다수의 제2 오디오 데이터를 믹싱할 수 있다. 다른 실시 예에 따르면, 하나의 제1 오디오 데이터가 수신된 경우 오디오 시그널 프로세서(223)는 변환 및 믹싱을 생략할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제1 믹싱 모듈(23-4)을 통해 믹싱된 오디오 데이터를 제4 변환 모듈(23-5)을 통해 지정된 포맷(예: 48Khz 16 비트)으로 변환할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 상기 제4 변환 모듈(23-5)을 통해 지정된 포맷으로 변환된 오디오 데이터 및 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터를 제2 믹싱 모듈(23-6)을 통해 믹싱할 수 있다. 제2 믹싱 모듈(23-6)은 하드웨어 모듈 또는 소프트웨어 모듈일 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제2 믹싱 모듈(23-6)을 통해 믹싱된 오디오 데이터를 후처리 모듈(23-7)을 통해 후처리(post processing)할 수 있다. 상기 후처리 모듈(23-7)은 블루투스의 오디오 프로파일에 따른 A2DP(advanced audio distribution profile) 인코더를 포함할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 후처리된 오디오 데이터를 제N 오디오 인터페이스(223c-N)를 통해 오디오 모듈(270)로 전송할 수 있다.
오디오 시그널 프로세서(223)에 포함된 구성들(제1 노드((223a-1) 내지 제N+M 노드(223a-N+M), 제1 변환 모듈(23-1) 내지 제4 변환 모듈(23-4), 후처리 모듈(23-7))은 하드웨어 모듈 또는 소프트웨어 모듈일 수 있다.
상술한 본 발명의 한 실시 예에 따른 전자 장치는 음향 출력 장치(예: 블루투스 장치)가 지원하는 포맷과 동일한 포맷을 가지는 제1 오디오 데이터들이 변환 모듈을 거치지 않고 음향 출력 장치로 전송될 수 있는 바, 출력 레이턴시를 개선할 수 있다. 예를 들어, 본 발명의 한 실시 예에 따른 전자 장치는 블루투스 장치를 통해 오디오 데이터를 출력하도록 설정되었을 때, 블루투스 장치와 동일한 포맷을 가지며, 로우 레이턴시를 요하는 게임 관련 오디오 데이터 및/또는 터치음 관련 오디오 데이터에 대한 출력 레이턴시를 개선할 수 있다. 본 발명의 한 실시 예에 따른 전자 장치는 종래와 달리 제1 차 변환 및 제2 차 변환을 거치지 않아 약 60 ms의 레이턴시를 개선할 수 있다.
도 3b는 본 발명의 한 실시 예에 따른 내장 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 3b를 참조하면, 본 발명의 한 실시 예에 따른 전자 장치(201)는 외부 음향 출력 장치가 연결되지 않은 경우 또는 외부 음향 출력 장치가 연결되었더라도 사용자의 요청에 대응하여, 내장 스피커를 통해 오디오 데이터를 출력하도록 설정될 수 있다.
한 실시 예에 따르면, 내장 스피커를 통해 오디오 데이터를 출력하도록 설정된 경우 오디오 시그널 프로세서(223)는 상기 메인 프로세서(221)로부터 수신되는 설정 정보에 기반하여, 다수의 모듈들을 도 3b와 같이 구성할 수 있다. 어떤 실시 예에 따르면, 메인 프로세서(221)(또는 프로세서(220)는 설정 정보에 기초하여 도 3b와 같은 구성을 가지도록 오디오 시그널 프로세서(223)를 설정할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제N 노드(223a-N) 내지 제N+M 노드(223a-N+M)를 통해 수신되는 적어도 하나의 제1 오디오 데이터를 제2 믹싱 모듈(23-6)을 통해 믹싱하고, 제5 변환 모듈(23-8)을 통해 기준 포맷으로 변환할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제1 노드(223a-1) 내지 제3 노드(223a-3)를 통해 수신되는 적어도 하나의 제2 오디오 데이터를 제1 변환 모듈(23-1) 내지 제3 변환 모듈(23-3)을 통해 기준 포맷으로 각각 변환할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 상기 기준 포맷으로 변환된 제2 오디오 데이터들 및 제5 변환 모듈(23-8)을 통해 기준 포맷으로 변환된 오디오 데이터를 제1 믹싱 모듈(23-4)을 통해 믹싱할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제1 믹싱 모듈(23-4)을 통해 믹싱된 오디오 데이터를 제6 변환 모듈(23-9)을 통해 내장 스피커가 지원하는 포맷(예: 48kHz 24비트)으로 변환하고, 후처리 모듈(23-7)을 통해 후처리(post processing)할 수 있다. 상기 후처리 모듈(23-7)은 노이즈 또는 에코를 감쇄하여 음질을 향상시키는 필터, 및/또는 보간(interpolation) 모듈을 포함할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 후처리된 오디오 데이터를 제1 오디오 인터페이스(223c-1)를 통해 오디오 모듈(270)로 전송할 수 있다.
도 3c는 본 발명의 한 실시 예에 따른 블루투스 장치 및 내장 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 3c를 참조하면, 본 발명의 한 실시 예에 따른 전자 장치(201)는 블루투스 장치가 연결되었을 때, 모든 오디오 데이터 또는 지정된 일부 오디오 데이터(예: 통화 수신음, 문자 수신음)를 블루투스 장치 및 내장 스피커를 통해 출력하도록 설정될 수 있다.
한 실시 예에 따르면, 블루투스 장치 및 내장 스피커를 통해 오디오 데이터를 출력하도록 설정된 경우 오디오 시그널 프로세서(223)는 상기 메인 프로세서(221)로부터 수신되는 설정 정보에 기반하여, 다수의 모듈들을 도 3c와 같이 구성할 수 있다. 어떤 실시 예에 따르면, 메인 프로세서(221)(또는 프로세서(220)는 설정 정보에 기초하여 도 3c와 같은 구성을 가지도록 오디오 시그널 프로세서(223)를 설정할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 블루투스 장치 및 내장 스피커를 통해 오디오 데이터를 출력하도록 설정된 경우 제N 노드(223a-N) 내지 제N+M 노드(223a-N+M)를 통해 수신되는 적어도 하나의 제1 오디오 데이터를 제2 믹싱 모듈(23-6)을 통해 믹싱하고, 제5 변환 모듈(23-8)을 통해 기준 포맷으로 변환할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제1 노드(223a-1) 내지 제3 노드(223a-3)를 통해 수신되는 적어도 하나의 제2 오디오 데이터를 제1 변환 모듈(23-1) 내지 제3 변환 모듈(23-3)을 통해 기준 포맷으로 각각 변환할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 상기 제1 변환 모듈(23-1) 내지 제3 변환 모듈(23-3)을 통해 기준 포맷으로 변환된 오디오 데이터들 및 제5 변환 모듈(23-8)을 통해 기준 포맷으로 변환된 오디오 데이터를 제1 믹싱 모듈(23-4)을 통해 믹싱할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제1 믹싱 모듈(23-4)을 통해 믹싱된 오디오 데이터를 제6 변환 모듈(23-9)을 통해 내장 스피커가 지원하는 포맷(예: 48kHz 24비트)으로 변환하고, 후처리 모듈(23-7a)을 통해 후처리(post processing)하여 내장 스피커를 통해 출력되도록 할 수 있다.
한 실시 예에 따르면, 오디오 시그널 프로세서(223)는 제1 믹싱 모듈(23-4)을 통해 믹싱된 오디오 데이터를 제7 변환 모듈(23-10)을 통해 블루투스 장치가 지원하는 포맷(예: 48kHz 16비트)으로 변환하고, 후처리 모듈(23-7b)을 통해 후처리(post processing)하여 블루투스 장치를 통해 출력되도록 할 수 있다.
도 4a는 본 발명의 한 실시 예에 따른 외부 장치를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이고, 도 4b는 본 발명의 한 실시 예에 따른 외부 장치 및 내장 스피커를 통해 오디오 데이터를 출력할 때의 오디오 시그널 프로세서의 구성을 도시한 도면이다.
도 4a 및 도 4b를 참조하면, 본 발명의 한 실시 예에 따른 전자 장치는 유선(예: USB, 또는 이어잭)으로 연결된 외부 장치(253)(예: 스피커, 또는 이어폰)를 통해 오디오 데이터를 출력할 수 있다. 외부 장치(253)는 로우 레이턴시를 요하는 오디오 데이터(예: 게임 관련 오디오 데이터, 가상 현실 관련 오디오 데이터, 증강 현실(augmented reality) 관련 오디오 데이터)와 동일한 포맷(예: 48 Khz 16 비트)의 오디오 출력을 지원할 수 있다.
한 실시 예에 따르면, 전자 장치(예: 오디오 시그널 프로세서)는 외부 장치(253)를 통해 오디오 데이터를 출력하도록 설정된 경우, 도 4a에 도시된 바와 같이, 다수의 제2 오디오 데이터들을 기준 포맷으로 각각 변환(이하, 제1 기준 포맷 오디오 데이터들)하고, 제1 기준 포맷 오디오 데이터들을 믹싱한 후 지정된 포맷으로 변환하고, 변환된 오디오 데이터 및 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터를 믹싱하고, 믹싱된 오디오 데이터를 후처리하여 외부 장치(253)로 전송할 수 있다. 여기서, 도 4a의 오디오 시그널 프로세서는 블루투스 장치를 대신하여 외부 장치(253)로 오디오 데이터를 출력한다는 점을 제외하고는, 도 3a의 오디오 시그널 프로세서와 유사한 바, 상세한 설명을 생략하기로 한다.
한 실시 예에 따르면, 전자 장치(예: 오디오 시그널 프로세서)는 내장 스피커(251)를 통해 오디오 데이터를 출력하도록 설정된 경우 도 3b와 동일하게 동작할 수 있다. 이에 상세한 설명은 생략하기로 한다.
한 실시 예에 따르면, 전자 장치(예: 오디오 시그널 프로세서)는 내장 스피커(251) 및 외부 장치(253)를 통해 오디오 데이터를 출력하도록 설정된 경우, 도 4b에 도시된 바와 같이, 다수의 제2 오디오 데이터들을 기준 포맷으로 각각 변환(이하, 제1 기준 포맷 오디오 데이터들)하고, 다수의 제1 오디오 데이터를 믹싱(이하, 제1 믹싱 데이터)하고, 제1 믹싱 데이터를 기준 포맷으로 변환(이하, 제1 기준 포맷 오디오 데이터)한 후 제1 기준 포맷 오디오 데이터들 및 제2 기준 포맷 오디오데이터를 믹싱(이하, 제2 믹싱 오디오 데이터)하고, 제2 믹싱 오디오 데이터를 내장 스피커(251)가 지원하는 포맷(예: 48 Khz 24 비트)으로 변환하고 후처리하여 내장 스피커(251)로 전송하며, 제2 믹싱 오디오 데이터를 외부 장치(253)가 지원하는 포맷(예: 48 Khz 16 비트)으로 변환하고 후처리하여 외부 장치(253)로 전송할 수 있다. 여기서, 도 4b의 오디오 시그널 프로세서는 블루투스 장치를 대신하여 외부 장치(253)로 오디오 데이터를 출력한다는 점을 제외하고는, 도 3c의 오디오 시그널 프로세서와 유사한 바, 상세한 설명을 생략하기로 한다.
도 5는 본 발명의 한 실시 예에 따른 전자 장치의 외부 음향 출력 장치를 통해 오디오 데이터를 출력하는 방법을 설명하는 흐름도(500)이다.
도 5를 참조하면, 본 발명의 한 실시 예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(201))의 프로세서(예: 도 1의 프로세서(120), 도 2의 프로세서(220))는, 501 동작에서, 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 및/또는 상기 지정된 포맷과 상이한 포맷을 가지는 적어도 하나의 제2 오디오 데이터를 제1 음향 출력 장치(또는 외부 음향 출력 장치)(예: 외부 장치(253)(예: 유선 이어폰 또는 USB 스피커), 블루투스 장치(254))를 통해 출력하도록 설정되어 있는지 확인할 수 있다. 예를 들어, 프로세서(예: 메인 프로세서(221))는 오디오 데이터의 출력이 요청되는 경우 다수의 음향 출력 장치들 중 어느 음향 출력 장치를 통해 오디오 데이터가 출력되도록 설정되어 있는지 확인할 수 있다. 상기 지정된 포맷은 제1 음향 출력 장치가 지원하는 포맷일 수 있다. 일 실시 예에 따르면, 상기 프로세서(예: 메인 프로세서(221))는 제1 음향 출력 장치가 유선으로 연결(예: 외부 장치(253)가 연결) 또는 무선으로 연결(예: 블루투스 장치(254)가 연결)되는 경우 제1 음향 출력 장치를 통해 오디오 데이터를 출력하도록 설정될 수 있다.
상기 501 동작의 확인 결과, 제1 음향 출력 장치를 통해 오디오 데이터를 출력하도록 설정되지 않은 경우 프로세서는 후술하는 도 6의 601 동작으로 진행할 수 있다. 반면에, 상기 501 동작의 확인 결과, 제1 음향 출력 장치를 통해 오디오 데이터를 출력하도록 설정된 경우 프로세서(예: 오디오 시그널 프로세서(223))는, 503 동작에서, 적어도 하나의 제2 오디오 데이터를 변환(이하, 제1 변환) 및 믹싱(이하, 제1 믹싱)할 수 있다. 예를 들어, 프로세서는 다수의 제2 오디오 데이터가 수신된 경우 다수의 제2 오디오 데이터들의 포맷을 각각 확인하고, 가장 높은 샘플링 레이트 및 비트 수를 기준 포맷으로 결정하고, 다수의 제2 오디오 데이터의 포맷을 기준 포맷으로 각각 변환(제1 변환)할 수 있다. 일 실시 예에 따르면, 다수의 제2 오디오 데이터들 중 기준 포맷을 가지는 오디오 데이터는 제1 변환이 생략될 수 있다. 다른 예로, 다수의 제2 오디오 데이터가 동일한 포맷을 가지는 경우 상기 제1 변환은 생략되고, 제1 믹싱만을 수행할 수 있다. 다른 예로, 제2 오디오 데이터가 하나인 경우 제1 변환 및 제1 믹싱은 생략될 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 505 동작에서, 제1 믹싱된 오디오 데이터의 포맷을 상기 지정된 포맷으로 변환(제2 변환)할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 507 동작에서, 제2 변환된 오디오 데이터 및 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 509 동작에서, 제2 믹싱된 오디오 데이터를 후처리(예: 인코딩, 필터링 및/또는 증폭)할 수 있다. 예를 들어, 프로세서는 제1 음향 출력 장치가 블루투스 장치인 경우 제2 믹싱 오디오 데이터를 인코딩할 수 있고, 제1 음향 출력 장치가 외부 스피커인 경우 제2 믹싱 오디오 데이터를 필터링 및 증폭하여 음질을 향상시킬 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 511 동작에서, 후처리된 오디오 데이터를 제1 음향 출력 장치를 통해 출력할 수 있다. 예를 들어, 프로세서는 후처리된 오디오 데이터를 제1 음향 출력 장치에 대응하는 오디오 인터페이스를 통해 오디오 모듈(예: 오디오 모듈(270))로 전송하여 후처리된 오디오 데이터가 제1 음향 출력 장치를 통해 출력되도록 할 수 있다.
한 실시 예에 따르면, 프로세서(예: 메인 프로세서(221))는, 513 동작에서, 음향 출력 장치의 변경이 감지되는지 확인할 수 있다. 예를 들어, 프로세서는 제1 음향 출력 장치의 연결이 해제되는지 또는 제1 음향 출력 장치가 연결된 상태에서 사용자에 의해 오디오 데이터가 내장 스피커를 통해 출력되도록 요청되는지 확인할 수 있다.
상기 513 동작의 확인 결과 음향 출력 장치의 변경이 감지되지 않는 경우 프로세서(예: 메인 프로세서(221))는 513 동작을 유지할 수 있다. 반면에, 상기 513 동작의 확인 결과 음향 출력 장치의 변경이 감지되는 경우 프로세서(예: 메인 프로세서(221))는 501 동작으로 복귀할 수 있다.
도 6은 본 발명의 한 실시 예에 따른 전자 장치의 내부 음향 출력 장치를 통해 오디오 데이터를 출력하는 방법을 설명하는 흐름도(600)이다.
도 6을 참조하면, 본 발명의 한 실시 예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(201))의 프로세서(예: 도 1의 프로세서(120), 도 2의 프로세서(220))는, 601 동작에서, 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 및/또는 상기 지정된 포맷과 상이한 포맷을 가지는 적어도 하나의 제2 오디오 데이터를 제2 음향 출력 장치(또는 내부 음향 출력 장치)(예: 내장 스피커)를 통해 출력하도록 설정되어 있는지 확인할 수 있다. 예를 들어, 프로세서(예: 메인 프로세서(221))는 오디오 데이터의 출력이 요청되는 경우 다수의 음향 출력 장치들 중 어느 음향 출력 장치를 통해 오디오 데이터가 출력되도록 설정되어 있는지 확인할 수 있다. 상기 지정된 포맷은 제1 음향 출력 장치가 지원하는 포맷일 수 있다. 일 실시 예에 따르면, 상기 프로세서(예: 메인 프로세서(221))는 외부 음향 출력 장치가 연결되지 않은 경우 제2 음향 출력 장치를 통해 오디오 데이터를 출력하도록 설정될 수 있다. 일 실시 예에 따르면, 프로세서는 외부 음향 출력 장치가 연결되었더라도, 사용자의 요청에 따라 오디오 데이터를 제2 음향 출력 장치를 통해 출력하도록 설정될 수 있다.
상기 601 동작의 확인 결과, 제2 음향 출력 장치를 통해 오디오 데이터를 출력하도록 설정되지 않은 경우 프로세서는 후술하는 도 7의 701 동작으로 진행할 수 있다. 반면에, 상기 601 동작의 확인 결과, 제2 음향 출력 장치를 통해 오디오 데이터를 출력하도록 설정된 경우 프로세서(예: 오디오 시그널 프로세서(223))는, 603 동작에서, 적어도 하나의 제2 오디오 데이터를 변환(이하, 제3 변환)할 수 있다. 예를 들어, 프로세서는 다수의 제2 오디오 데이터가 수신된 경우 다수의 제2 오디오 데이터들의 포맷을 각각 확인하고, 가장 높은 샘플링 레이트 및 비트 수를 기준 포맷으로 결정하고, 다수의 제2 오디오 데이터의 포맷을 기준 포맷으로 각각 변환할 수 있다. 일 실시 예에 따르면, 다수의 제2 오디오 데이터들 중 기준 포맷을 가지는 오디오 데이터는 상기 제3 변환이 생략될 수 있다. 다른 예로, 다수의 제2 오디오 데이터가 동일한 포맷을 가지거나, 하나의 제2 오디오 데이터가 수신되는 경우 상기 제3 변환은 생략되고, 상기 동일한 포맷 또는 하나의 제2 오디오 데이터의 포맷이 기준 포맷이 될 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 605 동작에서, 적어도 하나의 제1 오디오 데이터를 믹싱(제3 믹싱)할 수 있다. 어떤 실시 예에 따르면, 제1 오디오 데이터가 하나인 경우 605 동작은 생략될 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 607 동작에서, 제3 믹싱된 오디오 데이터의 포맷을 지정된 포맷으로 변환(이하, 제4 변환)할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 609 동작에서, 제3 변환된 오디오 데이터 및 제4 변환된 오디오 데이터를 믹싱(이하, 제4 믹싱)할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 611 동작에서, 제4 믹싱된 오디오 데이터를 제2 음향 출력 장치가 지원하는 포맷으로 변환(제5 변환)할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 613 동작에서, 제5 변환된 오디오 데이터를 후처리할 수 있다. 예를 들어, 프로세서는 제5 변환된 오디오 데이터를 필터링 및 증폭하여 음질을 향상시킬 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 615 동작에서, 후처리된 오디오 데이터를 제2 음향 출력 장치를 통해 출력할 수 있다. 예를 들어, 프로세서는 후처리된 오디오 데이터를 제2 음향 출력 장치에 대응하는 오디오 인터페이스를 통해 오디오 모듈(예: 오디오 모듈(270))로 전송하여, 후처리된 오디오 데이터가 제2 음향 출력 장치를 통해 출력되도록 할 수 있다.
한 실시 예에 따르면, 프로세서(예: 메인 프로세서(221))는, 617 동작에서, 음향 출력 장치의 변경이 감지되는지 확인할 수 있다. 예를 들어, 프로세서는 제1 음향 출력 장치의 연결되는지 확인할 수 있다.
상기 617 동작의 확인 결과 음향 출력 장치의 변경이 감지되지 않는 경우 프로세서(예: 메인 프로세서(221))는 617 동작을 유지할 수 있다. 반면에, 상기 617 동작의 확인 결과 음향 출력 장치의 변경이 감지되는 경우 프로세서(예: 메인 프로세서(221))는 도 5의 501 동작으로 복귀할 수 있다.
도 7은 본 발명의 한 실시 예에 따른 전자 장치의 외부 음향 출력 장치 및 내부 음향 출력 장치를 통해 오디오 데이터를 출력하는 방법을 설명하는 흐름도(700)이다.
도 7을 참조하면, 본 발명의 한 실시 예에 따른 전자 장치(예: 도 1의 전자 장치(101), 도 2의 전자 장치(201))의 프로세서(예: 도 1의 프로세서(120), 도 2의 프로세서(220))는, 701 동작에서, 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 및/또는 상기 지정된 포맷과 상이한 포맷을 가지는 적어도 하나의 제2 오디오 데이터를 제1 음향 출력 장치(외부 음향 출력 장치)(예: 블루투스 장치 또는 외부 스피커) 및 제2 음향 출력 장치(내부 음향 출력 장치)(예: 내장 스피커)를 통해 출력하도록 설정될 수 있다. 일 실시 예에 따르면, 상기 프로세서(예: 메인 프로세서(221))는 제1 음향 출력 장치가 연결된 경우 지정된 오디오 데이터(예: 벨소리, 알람음(문자 수신음, 푸쉬 메시지 수신음))를 제1 및 제2 음향 출력 장치를 통해 출력하도록 설정할 수 있다.
한 실시 예에 따르면, 도 7의 703 동작 내지 715 동작은 도 6의 603 동작 내지 615 동작과 유사한 바, 상세한 설명을 생략하기로 한다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 717 동작에서, 제4 믹싱된 오디오 데이터를 제1 음향 출력 장치가 지원하는 포맷으로 변환(제6 변환)할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 719 동작에서, 제6 변환된 오디오 데이터를 후처리할 수 있다. 예를 들어, 프로세서는 제6 변환된 오디오 데이터를 인코딩할 수 있다.
한 실시 예에 따르면, 프로세서(예: 오디오 시그널 프로세서(223))는, 721 동작에서, 후처리된 오디오 데이터를 제1 음향 출력 장치를 통해 출력할 수 있다. 예를 들어, 프로세서는 후처리된 오디오 데이터를 제1 음향 출력 장치에 대응하는 오디오 인터페이스를 통해 오디오 모듈(예: 오디오 모듈(270))로 전송하여, 후처리된 오디오 데이터가 제1 음향 출력 장치를 통해 출력되도록 할 수 있다.
한 실시 예에 따르면, 프로세서(예: 메인 프로세서(221))는, 723 동작에서, 음향 출력 장치의 변경이 감지되는지 확인할 수 있다. 예를 들어, 프로세서는 제1 음향 출력 장치의 연결이 해제되거나, 사용자에 의해 제2 음향 출력 장치를 통해 오디오 데이터가 출력되도록 설정되는지 확인할 수 있다.
상기 723 동작의 확인 결과 음향 출력 장치의 변경이 감지되지 않는 경우 프로세서(예: 메인 프로세서(221))는 723 동작을 유지할 수 있다. 반면에, 상기 723 동작의 확인 결과 음향 출력 장치의 변경이 감지되는 경우 프로세서(예: 메인 프로세서(221))는 도 5의 501 동작으로 복귀할 수 있다.
한편, 이상에서는 오디오 시그널 프로세서(223)가 프로세서(120, 220)에 포함된 것으로 설명하였지만, 오디오 시그널 프로세서(223)는 오디오 모듈(170, 270)에 포함되거나, 별도의 구성으로 포함될 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치(예: 전자 장치(101, 201))는, 지정된 포맷(format)을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 다수의 음향 출력 장치(예: 내장 스피커(251), 리시버(252), 외부 장치(253), 블루투스 장치(254)) 중 적어도 하나로 출력하는 오디오 모듈(예: 오디오 모듈(170, 270)); 상기 오디오 모듈과 작동적(operatively)으로 연결되는 프로세서(예: 프로세서(120, 220)); 및 상기 프로세서와 작동적으로 연결되는 메모리(예: 메모리(130, 230))를 포함하고, 상기 메모리는, 실행되었을 때, 상기 프로세서가, 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치(예: 외부 장치(253), 블루투스 장치(254)))를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하고, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하고, 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하고, 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하고, 및 상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제1 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는 메인 프로세서(예: 메인 프로세서(121, 221)) 및 오디오 시그널 프로세서(예: 보조 프로세서(123), 오디오 시그널 프로세서(223))를 포함할 수 있다. 상기 메인 프로세서는 상기 제1 음향 출력 장치를 통해 출력할 다양한 포맷의 오디오 데이터를 상기 오디오 시그널 프로세서로 전송하고, 상기 오디오 시그널 프로세서는 상기 메인 프로세서로부터 수신되는 다양한 포맷의 오디오 데이터의 적어도 일부에 대한 포맷 변환, 믹싱 또는 후처리 중 적어도 하나를 수행하여 상기 오디오 모듈로 전송할 수 있다.
다양한 실시 예에 따르면, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 인스트럭션은 상기 제1 믹싱된 오디오 데이터의 샘플링 레이트를 상기 지정된 포맷의 샘플링 레이트로 변환하는 인스트럭션을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 제2 오디오 데이터를 제1 믹싱하는 인스트럭션은 상기 적어도 하나의 제2 오디오 데이터가 하나인 경우 생략될 수 있다. 다른 예로, 상기 적어도 하나의 제2 오디오 데이터를 제1 믹싱하는 인스트럭션은 상기 적어도 하나의 제2 오디오 데이터가 다수인 경우 상기 다수의 제2 오디오 데이터들 각각의 샘플링 레이트를 확인하고, 가장 높은 샘플링 레이트를 기준 샘플링 레이트로 결정하고, 상기 다수의 제2 오디오 데이터들 중 상기 기준 샘플링 레이트와 다른 샘플링 레이트를 가지는 제2 오디오 데이터의 샘플링 레이트를 상기 기준 샘플링 레이트로 변환한 후 상기 다수의 제2 오디오 데이터들에 대해 상기 제1 믹싱을 수행하도록 하는 인스트럭션을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 제1 오디오 데이터는 저 지연(low latency)을 요구하는 오디오 데이터일 수 있다.
다양한 실시 예에 따르면, 상기 제1 음향 출력 장치는 상기 전자 장치와 근거리 무선 통신을 통해 연결되는 무선 음향 출력 장치(예: 블루투스 장치(254)) 또는 유선 통신을 통해 연결되는 유선 음향 출력 장치(예: 외부 장치(253))를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 근거리 무선 통신은 블루투스 통신을 포함하고, 상기 후처리는 인코딩을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행되었을 때, 상기 프로세서가, 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 제2 음향 출력 장치(예: 내장 스피커(251))를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제3 믹싱)하고, 상기 제3 믹싱된 오디오 데이터를 기준 포맷으로 변환하고, 상기 적어도 하나의 제2 오디오 데이터를 상기 기준 포맷으로 변환하고, 상기 기준 포맷으로 변환된 오디오 데이터들을 믹싱(이하, 제4 믹싱)하고, 상기 제4 믹싱된 오디오 데이터를 후처리하고, 및 상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제2 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행되었을 때, 상기 프로세서가, 상기 기준 포맷이 상기 제2 음향 출력 장치가 지원하는 포맷과 상이한 경우 상기 후처리를 수행하기 전에 상기 제4 믹싱된 오디오 데이터를 상기 제2 음향 출력 장치가 지원하는 포맷으로 변환하는 인스트럭션들을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행되었을 때, 상기 프로세서가, 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 제1 음향 출력 장치 및 상기 제2 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제5 믹싱)하고, 상기 제5 믹싱된 오디오 데이터를 기준 포맷으로 변환하고, 상기 적어도 하나의 제2 오디오 데이터를 상기 기준 포맷으로 변환하고, 상기 기준 포맷으로 변환된 오디오 데이터들을 믹싱(이하, 제6 믹싱)하고, 상기 제6 믹싱된 오디오 데이터를 상기 제1 음향 출력 장치가 지원하는 포맷으로 변환한 후 인코딩하고, 상기 인코딩된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제1 음향 출력 장치를 통해 출력하도록 하고, 및 상기 제6 믹싱된 오디오 데이터를 상기 제2 음향 출력 장치가 지원하는 포맷으로 변환한 후 후처리하고, 상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제2 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들을 더 저장할 수 있다.
본 발명의 다양한 실시 예에 따른 전자 장치(예: 전자 장치(101, 201))의 오디오 데이터를 출력하는 방법은, 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치(예: 외부 장치(253), 블루투스 장치(254)))를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하는 동작; 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 동작; 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하는 동작; 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하는 동작; 및 상기 후처리된 오디오 데이터를 상기 제1 음향 출력 장치를 통해 출력하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 동작은 상기 제1 믹싱된 오디오 데이터의 샘플링 레이트를 상기 지정된 포맷의 샘플링 레이트로 변환하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 제2 오디오 데이터를 제1 믹싱하는 동작은 상기 적어도 하나의 제2 오디오 데이터가 하나인 경우 상기 제1 믹싱하는 동작을 생략하는 동작; 또는 상기 적어도 하나의 제2 오디오 데이터가 다수인 경우 상기 다수의 제2 오디오 데이터들 각각의 샘플링 레이트를 확인하고, 가장 높은 샘플링 레이트를 기준 샘플링 레이트로 결정하고, 상기 다수의 제2 오디오 데이터들 중 상기 기준 샘플링 레이트와 다른 샘플링 레이트를 가지는 제2 오디오 데이터의 샘플링 레이트를 상기 기준 샘플링 레이트로 변환한 후 상기 다수의 제2 오디오 데이터들에 대해 상기 제1 믹싱을 수행하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 제1 오디오 데이터는 저 지연(low latency)을 요구하는 오디오 데이터를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 음향 출력 장치는 상기 전자 장치와 근거리 무선 통신을 통해 연결되는 무선 음향 출력 장치(예: 블루투스 장치(254)) 또는 유선 통신을 통해 연결되는 유선 음향 출력 장치(예: 외부 장치(253))를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 근거리 무선 통신은 블루투스 통신을 포함하고, 상기 후처리하는 동작은 상기 제2 믹싱된 오디오 데이터를 인코딩하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 방법은 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 제2 음향 출력 장치(예: 내장 스피커(251))를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제1 오디오 데이터를 믹싱(제3 믹싱)하는 동작; 상기 제3 믹싱된 오디오 데이터를 기준 포맷으로 변환하는 동작; 상기 적어도 하나의 제2 오디오 데이터를 상기 기준 포맷으로 변환하는 동작; 상기 기준 포맷으로 변환된 오디오 데이터들을 믹싱(이하, 제4 믹싱)하는 동작; 상기 제4 믹싱된 오디오 데이터를 후처리하는 동작; 및 상기 후처리된 오디오 데이터를 상기 제2 음향 출력 장치를 통해 출력하는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 방법은 상기 기준 포맷이 상기 제2 음향 출력 장치가 지원하는 포맷과 상이한 경우 상기 후처리를 수행하기 전에 상기 제4 믹싱된 오디오 데이터를 상기 제2 음향 출력 장치가 지원하는 포맷으로 변환하는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 방법은 상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 제1 음향 출력 장치 및 상기 제2 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제5 믹싱)하는 동작; 상기 제5 믹싱된 오디오 데이터를 기준 포맷으로 변환하 는 동작; 상기 적어도 하나의 제2 오디오 데이터를 상기 기준 포맷으로 변환하는 동작; 상기 기준 포맷으로 변환된 오디오 데이터들을 믹싱(이하, 제6 믹싱)하는 동작; 상기 제6 믹싱된 오디오 데이터를 상기 제1 음향 출력 장치가 지원하는 포맷으로 변환한 후 인코딩하고, 상기 인코딩된 오디오 데이터를 상기 제1 음향 출력 장치를 통해 출력하는 동작; 및 상기 제6 믹싱된 오디오 데이터를 상기 제2 음향 출력 장치가 지원하는 포맷으로 변환한 후 후처리하고, 상기 후처리된 오디오 데이터를 상기 제2 음향 출력 장치를 통해 출력하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시 예에 따른 비일시적(non-transitory) 컴퓨터 판독 가능한 기록 매체는, 적어도 하나의 프로세서(예: 프로세서(120, 220))에 의하여 실행될 때에, 상기 적어도 하나의 프로세서가: 지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치(예: 외부 장치(253), 블루투스 장치(254)))를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하고, 상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하고, 상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하고, 상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하고, 및 상기 후처리된 오디오 데이터를 상기 제1 음향 출력 장치를 통해 출력하도록 하는 적어도 하나의 인스트럭션들을 저장할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성 요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성 요소를 다른 해당 구성 요소와 구분하기 위해 사용될 수 있으며, 해당 구성 요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성 요소가 다른(예: 제 2) 구성 요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성 요소가 상기 다른 구성 요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성 요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101, 201)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138), 메모리(230))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101, 201))의 프로세서(예: 프로세서(120), 프로세서(220))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성 요소들의 각각의 구성 요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성 요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성 요소들 중 하나 이상의 구성 요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성 요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성 요소들(예: 모듈 또는 프로그램)은 하나의 구성 요소로 통합될 수 있다. 이런 경우, 통합된 구성 요소는 상기 복수의 구성 요소들 각각의 구성 요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성 요소들 중 해당 구성 요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
Claims (15)
- 전자 장치에 있어서,지정된 포맷(format)을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 다수의 음향 출력 장치 중 적어도 하나로 출력하는 오디오 모듈;상기 오디오 모듈과 작동적(operatively)으로 연결되는 프로세서; 및상기 프로세서와 작동적으로 연결되는 메모리를 포함하고, 상기 메모리는, 실행되었을 때, 상기 프로세서가,상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하고,상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하고,상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하고,상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하고, 및상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제1 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들(instructions)을 저장하는 전자 장치.
- 제 1 항에 있어서,상기 프로세서는 메인 프로세서 및 오디오 시그널 프로세서를 포함하고,상기 메인 프로세서는 상기 제1 음향 출력 장치를 통해 출력할 다양한 포맷의 오디오 데이터를 상기 오디오 시그널 프로세서로 전송하고,상기 오디오 시그널 프로세서는 상기 메인 프로세서로부터 수신되는 다양한 포맷의 오디오 데이터의 적어도 일부에 대한 포맷 변환, 믹싱 또는 후처리 중 적어도 하나를 수행하여 상기 오디오 모듈로 전송하는 전자 장치.
- 제 1 항에 있어서,상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 인스트럭션은상기 제1 믹싱된 오디오 데이터의 샘플링 레이트를 상기 지정된 포맷의 샘플링 레이트로 변환하는 인스트럭션을 포함하는 전자 장치.
- 제 1 항에 있어서,상기 적어도 하나의 제2 오디오 데이터를 제1 믹싱하는 인스트럭션은상기 적어도 하나의 제2 오디오 데이터가 하나인 경우 생략되고, 또는상기 적어도 하나의 제2 오디오 데이터가 다수인 경우 상기 다수의 제2 오디오 데이터들 각각의 샘플링 레이트를 확인하고, 가장 높은 샘플링 레이트를 기준 샘플링 레이트로 결정하고, 상기 다수의 제2 오디오 데이터들 중 상기 기준 샘플링 레이트와 다른 샘플링 레이트를 가지는 제2 오디오 데이터의 샘플링 레이트를 상기 기준 샘플링 레이트로 변환한 후 상기 다수의 제2 오디오 데이터들에 대해 상기 제1 믹싱을 수행하도록 하는 인스트럭션을 포함하는 전자 장치.
- 제 1 항에 있어서,상기 적어도 하나의 제1 오디오 데이터는 저 지연(low latency)을 요구하는 오디오 데이터인 전자 장치.
- 제 1 항에 있어서,상기 제1 음향 출력 장치는 상기 전자 장치와 근거리 무선 통신을 통해 연결되는 무선 음향 출력 장치 또는 유선 통신을 통해 연결되는 유선 음향 출력 장치를 포함하는 전자 장치.
- 제 6 항에 있어서,상기 근거리 무선 통신은 블루투스 통신을 포함하고, 상기 후처리는 인코딩을 포함하는 전자 장치.
- 제 1 항에 있어서,상기 메모리는, 실행되었을 때, 상기 프로세서가,상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 제2 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제3 믹싱)하고,상기 제3 믹싱된 오디오 데이터를 기준 포맷으로 변환하고,상기 적어도 하나의 제2 오디오 데이터를 상기 기준 포맷으로 변환하고,상기 기준 포맷으로 변환된 오디오 데이터들을 믹싱(이하, 제4 믹싱)하고,상기 제4 믹싱된 오디오 데이터를 후처리하고,상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제2 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들을 더 저장하는 전자 장치.
- 제 8 항에 있어서,상기 메모리는, 실행되었을 때, 상기 프로세서가,상기 기준 포맷이 상기 제2 음향 출력 장치가 지원하는 포맷과 상이한 경우 상기 후처리를 수행하기 전에 상기 제4 믹싱된 오디오 데이터를 상기 제2 음향 출력 장치가 지원하는 포맷으로 변환하는 인스트럭션들을 더 저장하는 전자 장치.
- 제 1 항에 있어서,상기 메모리는, 실행되었을 때, 상기 프로세서가,상기 적어도 하나의 제1 오디오 데이터 또는 상기 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 제1 음향 출력 장치 및 상기 제2 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제5 믹싱)하고,상기 제5 믹싱된 오디오 데이터를 기준 포맷으로 변환하고,상기 적어도 하나의 제2 오디오 데이터를 상기 기준 포맷으로 변환하고,상기 기준 포맷으로 변환된 오디오 데이터들을 믹싱(이하, 제6 믹싱)하고,상기 제6 믹싱된 오디오 데이터를 상기 제1 음향 출력 장치가 지원하는 포맷으로 변환한 후 인코딩하고, 상기 인코딩된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제1 음향 출력 장치를 통해 출력하도록 하고, 및상기 제6 믹싱된 오디오 데이터를 상기 제2 음향 출력 장치가 지원하는 포맷으로 변환한 후 후처리하고, 상기 후처리된 오디오 데이터를 상기 오디오 모듈로 전송하여 상기 제2 음향 출력 장치를 통해 출력하도록 하는 인스트럭션들을 더 저장하는 전자 장치.
- 전자 장치의 오디오 데이터를 출력하는 방법에 있어서,지정된 포맷을 가지는 적어도 하나의 제1 오디오 데이터 또는 상기 지정된 포맷과 다른 포맷을 가지는 적어도 하나의 제2 오디오 데이터 중 적어도 하나를 상기 지정된 포맷의 오디오 데이터를 출력하는 제1 음향 출력 장치를 통해 출력하도록 설정되는 것에 대응하여, 상기 적어도 하나의 제2 오디오 데이터를 믹싱(mixing)(이하, 제1 믹싱)하는 동작;상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 동작;상기 지정된 포맷으로 변환된 오디오 데이터 및 상기 적어도 하나의 제1 오디오 데이터를 믹싱(이하, 제2 믹싱)하는 동작;상기 제2 믹싱된 오디오 데이터를 후처리(post processing)하는 동작; 및상기 후처리된 오디오 데이터를 상기 제1 음향 출력 장치를 통해 출력하는 동작을 포함하는 방법.
- 제 11 항에 있어서,상기 제1 믹싱된 오디오 데이터를 상기 지정된 포맷으로 변환하는 동작은상기 제1 믹싱된 오디오 데이터의 샘플링 레이트를 상기 지정된 포맷의 샘플링 레이트로 변환하는 동작을 포함하는 방법.
- 제 11 항에 있어서,상기 적어도 하나의 제2 오디오 데이터를 제1 믹싱하는 동작은상기 적어도 하나의 제2 오디오 데이터가 하나인 경우 상기 제1 믹싱하는 동작을 생략하는 동작; 또는상기 적어도 하나의 제2 오디오 데이터가 다수인 경우 상기 다수의 제2 오디오 데이터들 각각의 샘플링 레이트를 확인하고, 가장 높은 샘플링 레이트를 기준 샘플링 레이트로 결정하고, 상기 다수의 제2 오디오 데이터들 중 상기 기준 샘플링 레이트와 다른 샘플링 레이트를 가지는 제2 오디오 데이터의 샘플링 레이트를 상기 기준 샘플링 레이트로 변환한 후 상기 다수의 제2 오디오 데이터들에 대해 상기 제1 믹싱을 수행하는 동작을 포함하는 방법.
- 제 11 항에 있어서,상기 적어도 하나의 제1 오디오 데이터는 저 지연(low latency)을 요구하는 오디오 데이터를 포함하는 방법.
- 제 11 항에 있어서,상기 제1 음향 출력 장치는 상기 전자 장치와 근거리 무선 통신을 통해 연결되는 무선 음향 출력 장치 또는 유선 통신을 통해 연결되는 유선 음향 출력 장치를 포함하는 방법.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP21854150.6A EP4184508A4 (en) | 2020-08-04 | 2021-07-07 | ELECTRONIC DEVICE AND ASSOCIATED METHOD FOR OUTPUTTING AUDIO DATA |
US18/105,074 US20230188919A1 (en) | 2020-08-04 | 2023-02-02 | Electronic device and method thereof for outputting audio data |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR10-2020-0097455 | 2020-08-04 | ||
KR1020200097455A KR20220017221A (ko) | 2020-08-04 | 2020-08-04 | 전자 장치 및 그의 오디오 데이터를 출력하는 방법 |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
US18/105,074 Continuation US20230188919A1 (en) | 2020-08-04 | 2023-02-02 | Electronic device and method thereof for outputting audio data |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2022030771A1 true WO2022030771A1 (ko) | 2022-02-10 |
Family
ID=80117355
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/KR2021/008671 WO2022030771A1 (ko) | 2020-08-04 | 2021-07-07 | 전자 장치 및 그의 오디오 데이터를 출력하는 방법 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20230188919A1 (ko) |
EP (1) | EP4184508A4 (ko) |
KR (1) | KR20220017221A (ko) |
WO (1) | WO2022030771A1 (ko) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024147370A1 (ko) * | 2023-01-02 | 2024-07-11 | 엘지전자 주식회사 | 디스플레이 장치 및 그의 오디오 신호 처리 방법 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3961185B2 (ja) * | 1999-03-22 | 2007-08-22 | メディアテック インコーポレイテッド | 複数のオーディオ・ストリームをマージするためのシステムおよび方法 |
JP4882783B2 (ja) * | 2007-02-15 | 2012-02-22 | ヤマハ株式会社 | 電子音楽装置用インタフェース装置 |
KR101221919B1 (ko) * | 2008-03-03 | 2013-01-15 | 연세대학교 산학협력단 | 오디오 신호 처리 방법 및 장치 |
US20140358262A1 (en) * | 2013-05-29 | 2014-12-04 | Microsoft | Multiple concurrent audio modes |
WO2020076708A1 (en) * | 2018-10-08 | 2020-04-16 | Dolby Laboratories Licensing Corporation | Transforming audio signals captured in different formats into a reduced number of formats for simplifying encoding and decoding operations |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7134960B1 (en) * | 2000-08-23 | 2006-11-14 | Nintendo Co., Ltd. | External interfaces for a 3D graphics system |
-
2020
- 2020-08-04 KR KR1020200097455A patent/KR20220017221A/ko not_active Application Discontinuation
-
2021
- 2021-07-07 EP EP21854150.6A patent/EP4184508A4/en active Pending
- 2021-07-07 WO PCT/KR2021/008671 patent/WO2022030771A1/ko unknown
-
2023
- 2023-02-02 US US18/105,074 patent/US20230188919A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3961185B2 (ja) * | 1999-03-22 | 2007-08-22 | メディアテック インコーポレイテッド | 複数のオーディオ・ストリームをマージするためのシステムおよび方法 |
JP4882783B2 (ja) * | 2007-02-15 | 2012-02-22 | ヤマハ株式会社 | 電子音楽装置用インタフェース装置 |
KR101221919B1 (ko) * | 2008-03-03 | 2013-01-15 | 연세대학교 산학협력단 | 오디오 신호 처리 방법 및 장치 |
US20140358262A1 (en) * | 2013-05-29 | 2014-12-04 | Microsoft | Multiple concurrent audio modes |
WO2020076708A1 (en) * | 2018-10-08 | 2020-04-16 | Dolby Laboratories Licensing Corporation | Transforming audio signals captured in different formats into a reduced number of formats for simplifying encoding and decoding operations |
Non-Patent Citations (1)
Title |
---|
See also references of EP4184508A4 * |
Also Published As
Publication number | Publication date |
---|---|
EP4184508A1 (en) | 2023-05-24 |
EP4184508A4 (en) | 2023-12-27 |
KR20220017221A (ko) | 2022-02-11 |
US20230188919A1 (en) | 2023-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022060041A1 (ko) | 콘텐트를 생성하기 위한 폴더블 전자 장치 및 그의 동작 방법 | |
WO2021235856A1 (ko) | 멀티미디어 콘텐츠를 제공하는 방법 및 그 전자 장치 | |
WO2022098190A1 (ko) | 전자 장치 및 복수의 오디오 출력 장치와의 연결에 따른 오디오 출력 모드 설정 방법 | |
WO2022080634A1 (ko) | 인공 신경망 학습 방법 및 이를 지원하는 전자 장치 | |
WO2022030890A1 (ko) | 다중 윈도우 이미지 캡쳐 방법 및 이를 위한 전자 장치 | |
WO2022030771A1 (ko) | 전자 장치 및 그의 오디오 데이터를 출력하는 방법 | |
WO2022030750A1 (ko) | 음성 데이터 처리 방법 및 이를 지원하는 전자 장치 | |
WO2023277572A1 (ko) | 오디오 데이터에 오디오 효과의 중복 적용을 방지하는 방법 및 이를 지원하는 전자 장치 | |
WO2022086272A1 (ko) | 사용자 인터페이스를 제공하는 전자 장치 및 그 방법 | |
WO2021221440A1 (ko) | 음질 향상 방법 및 그 장치 | |
WO2022065707A1 (ko) | 외부 전자 장치와의 직접 통신을 위한 전자 장치 및 그의 동작 방법 | |
WO2021172893A1 (ko) | 에코 캔슬링을 위한 방법 및 그 장치 | |
WO2022092609A1 (ko) | 오디오 데이터 처리 방법 및 그 장치 | |
WO2022025375A1 (ko) | 오디오의 채널의 수를 변환하는 전자 장치 및 전자 장치의 동작 방법 | |
WO2023287023A1 (ko) | 음향 신호를 생성하는 전자 장치 및 방법 | |
WO2022203179A1 (ko) | 오디오 데이터 처리 방법 및 이를 지원하는 전자 장치 | |
WO2024123104A1 (ko) | 전자 장치 및 전자 장치에서 오디오 데이터 출력 방법 | |
WO2022114648A1 (ko) | 배경 화면을 설정하기 위한 전자 장치 및 그의 동작 방법 | |
WO2022149706A1 (ko) | 오디오 데이터 처리 방법 및 이를 지원하는 전자 장치 | |
WO2023158268A1 (ko) | 외부 소음에 기반한 마이크 및 센서 제어 방법 및 전자 장치 | |
WO2024080597A1 (ko) | 오디오 비트스트림을 적응적으로 처리하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 | |
WO2022164023A1 (ko) | 오디오 데이터를 처리하는 방법 및 이를 지원하는 전자 장치 | |
WO2022098004A1 (ko) | 통신 연결을 통하여 데이터를 전송하는 전자 장치와 이의 동작 방법 | |
WO2023075153A1 (ko) | 통신 모듈을 식별하기 위한 구성 핀을 이용하여 안테나 장치를 제어하는 전자 장치 및 방법 | |
WO2022177183A1 (ko) | 오디오 데이터 처리 방법 및 이를 지원하는 전자 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 21854150 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2021854150 Country of ref document: EP Effective date: 20230216 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |