WO2023018163A1 - 컨텐츠 데이터를 기록하는 전자 장치 및 그 방법 - Google Patents

컨텐츠 데이터를 기록하는 전자 장치 및 그 방법 Download PDF

Info

Publication number
WO2023018163A1
WO2023018163A1 PCT/KR2022/011817 KR2022011817W WO2023018163A1 WO 2023018163 A1 WO2023018163 A1 WO 2023018163A1 KR 2022011817 W KR2022011817 W KR 2022011817W WO 2023018163 A1 WO2023018163 A1 WO 2023018163A1
Authority
WO
WIPO (PCT)
Prior art keywords
work command
time
audio
command
electronic device
Prior art date
Application number
PCT/KR2022/011817
Other languages
English (en)
French (fr)
Inventor
최재영
김상헌
문병혁
우진혁
임은지
권방현
정인형
임연욱
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to EP22856160.1A priority Critical patent/EP4344220A1/en
Priority to US17/887,178 priority patent/US20230050178A1/en
Publication of WO2023018163A1 publication Critical patent/WO2023018163A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302—Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307—Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/0017—Lossless audio signal coding; Perfect reconstruction of coded audio signal by transmission of coding error
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/04—Time compression or expansion
    • G10L21/055—Time compression or expansion for synchronising with other signals, e.g. video signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/85—Assembly of content; Generation of multimedia applications
    • H04N21/854—Content authoring
    • H04N21/8547—Content authoring involving timestamps for synchronizing content

Definitions

  • an electronic device for recording content data for example, an electronic device for synchronizing audio and video when content data is recorded.
  • electronic devices provide a function of recording or recording various video and audio data displayed on a display in real time.
  • the electronic device may be connected to a content server or other electronic device using a communication technology, stream content from the connected server or other device, and record or record the content reproduced in real time while playing on the electronic device.
  • audio information When content reproduced by an electronic device is recorded, audio information may be lost and thus audio and video may not be synchronized.
  • Various embodiments disclosed in this document are to provide a method and an electronic device for synchronizing audio and video when content reproduced in an electronic device is recorded.
  • An electronic device includes a display outputting image data of content according to application execution, a sound output module outputting audio data of the content, and adaptively connected to the display and the sound output module. And a processor, wherein the processor checks a schedule for receiving work commands in order at designated time intervals to encode audio segments sequentially input to an audio buffer with a designated size from the audio data, and according to the schedule Based on at least one of a work command reception state and the audio buffer state, a calling time of the work command may be adjusted and the audio segment corresponding to the work command received at the adjusted paging time may be encoded.
  • a method of an electronic device receives work commands sequentially at specified time intervals in order to encode audio segments sequentially input to an audio buffer in a specified size from audio data of content according to application execution.
  • An operation of checking a schedule for performing the task, an operation of checking at least one of a work command reception state according to the schedule and the audio buffer state, and the operation based on at least one of the work command reception state according to the schedule and the audio buffer state It may include an operation of adjusting the calling timing of the command.
  • audio encoding when content reproduced by an electronic device is recorded, audio encoding may be performed according to an absolute time, so that audio and video may be synchronized.
  • an operation call time point for audio encoding is adjusted so that audio encoding can be performed according to an absolute time even in case of audio loss or operation call delay, thereby synchronizing audio and video. can match
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments.
  • FIG. 2 is a block diagram illustrating a program according to various embodiments.
  • FIG 3 illustrates an example of recording content in an electronic device according to various embodiments.
  • FIG. 4 illustrates a hierarchical architecture of an electronic device according to various embodiments.
  • FIG. 5 is a flowchart illustrating an example of an operation of an electronic device according to various embodiments.
  • FIG. 6 is a diagram for explaining an audio encoding operation of an electronic device according to various embodiments.
  • FIG. 7 is a flowchart illustrating an example of an operation of an electronic device according to various embodiments.
  • 8A to 8D are diagrams for explaining an example of an operation of an electronic device according to various embodiments.
  • 9A and 9B are diagrams for explaining an example of an operation of an electronic device according to various embodiments.
  • FIGS 10 and 11 are diagrams for explaining examples of user interfaces according to the operation of an electronic device according to various embodiments.
  • FIG. 12 is a diagram illustrating examples of electronic devices of various form factors to which various embodiments are applied.
  • FIG. 13 is a diagram for explaining an example to which an operation of an electronic device according to various embodiments is applied.
  • FIG. 14A to 14C are views for explaining an example to which an operation of an electronic device according to various embodiments is applied.
  • 15A and 15B are views for explaining an example to which an operation of an electronic device according to various embodiments is applied.
  • 16A to 16C are views for explaining an example to which an operation of an electronic device according to various embodiments is applied.
  • FIG. 1 is a block diagram of an electronic device 101 within a network environment 100, according to various embodiments.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or through a second network 199. It may communicate with at least one of the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to one embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • the server 108 e.g, a long-distance wireless communication network
  • the electronic device 101 includes a processor 120, a memory 130, an input module 150, an audio output module 155, a display module 160, an audio module 170, a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or the antenna module 197 may be included.
  • at least one of these components eg, the connection terminal 178) may be omitted or one or more other components may be added.
  • some of these components eg, sensor module 176, camera module 180, or antenna module 197) are integrated into a single component (eg, display module 160). It can be.
  • the processor 120 for example, executes software (eg, the program 140) to cause at least one other component (eg, hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or calculations. According to one embodiment, as at least part of data processing or operation, the processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 .
  • software eg, the program 140
  • the processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 .
  • the processor 120 may include a main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor).
  • a main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor.
  • NPU neural network processing unit
  • the secondary processor 123 may be implemented separately from or as part of the main processor 121 .
  • the secondary processor 123 may, for example, take the place of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, running an application). ) state, together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 123 eg, image signal processor or communication processor
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • AI models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself where the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning or reinforcement learning, but in the above example Not limited.
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the foregoing, but is not limited to the foregoing examples.
  • the artificial intelligence model may include, in addition or alternatively, software structures in addition to hardware structures.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, program 140) and commands related thereto.
  • the memory 130 may include volatile memory 132 or non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used by a component (eg, the processor 120) of the electronic device 101 from the outside of the electronic device 101 (eg, a user).
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output sound signals to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • a receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 160 may visually provide information to the outside of the electronic device 101 (eg, a user).
  • the display module 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display module 160 may include a touch sensor set to detect a touch or a pressure sensor set to measure the intensity of force generated by the touch.
  • the audio module 170 may convert sound into an electrical signal or vice versa. According to one embodiment, the audio module 170 acquires sound through the input module 150, the sound output module 155, or an external electronic device connected directly or wirelessly to the electronic device 101 (eg: Sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the audio module 170 acquires sound through the input module 150, the sound output module 155, or an external electronic device connected directly or wirelessly to the electronic device 101 (eg: Sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a bio sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 177 may support one or more designated protocols that may be used to directly or wirelessly connect the electronic device 101 to an external electronic device (eg, the electronic device 102).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card interface
  • audio interface audio interface
  • connection terminal 178 may include a connector through which the electronic device 101 may be physically connected to an external electronic device (eg, the electronic device 102).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert electrical signals into mechanical stimuli (eg, vibration or motion) or electrical stimuli that a user may perceive through tactile or kinesthetic senses.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to one embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as at least part of a power management integrated circuit (PMIC), for example.
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). Establishment and communication through the established communication channel may be supported.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : a local area network (LAN) communication module or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : a local area network (LAN) communication module or a power line communication module.
  • a corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, a LAN or a WAN).
  • a telecommunications network such as a computer network (eg, a LAN or a WAN).
  • These various types of communication modules may be integrated as one component (eg, a single chip) or implemented as a plurality of separate components (eg, multiple chips).
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199.
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, NR access technology (new radio access technology).
  • NR access technologies include high-speed transmission of high-capacity data (enhanced mobile broadband (eMBB)), minimization of terminal power and access of multiple terminals (massive machine type communications (mMTC)), or high reliability and low latency (ultra-reliable and low latency (URLLC)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low latency
  • -latency communications can be supported.
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • the wireless communication module 192 uses various technologies for securing performance in a high frequency band, such as beamforming, massive multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. Technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna may be supported.
  • the wireless communication module 192 may support various requirements defined for the electronic device 101, an external electronic device (eg, the electronic device 104), or a network system (eg, the second network 199).
  • the wireless communication module 192 is a peak data rate for eMBB realization (eg, 20 Gbps or more), a loss coverage for mMTC realization (eg, 164 dB or less), or a U-plane latency for URLLC realization (eg, Example: downlink (DL) and uplink (UL) each of 0.5 ms or less, or round trip 1 ms or less) may be supported.
  • eMBB peak data rate for eMBB realization
  • a loss coverage for mMTC realization eg, 164 dB or less
  • U-plane latency for URLLC realization eg, Example: downlink (DL) and uplink (UL) each of 0.5 ms or less, or round trip 1 ms or less
  • the antenna module 197 may transmit or receive signals or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is selected from the plurality of antennas by the communication module 190, for example. can be chosen A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC) may be additionally formed as a part of the antenna module 197 in addition to the radiator.
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first surface (eg, a lower surface) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, array antennas) disposed on or adjacent to a second surface (eg, a top surface or a side surface) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or part of operations executed in the electronic device 101 may be executed in one or more external electronic devices among the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 when the electronic device 101 needs to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device 101 instead of executing the function or service by itself.
  • one or more external electronic devices may be requested to perform the function or at least part of the service.
  • One or more external electronic devices receiving the request may execute at least a part of the requested function or service or an additional function or service related to the request, and deliver the execution result to the electronic device 101 .
  • the electronic device 101 may provide the result as at least part of a response to the request as it is or additionally processed.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an internet of things (IoT) device.
  • Server 108 may be an intelligent server using machine learning and/or neural networks. According to one embodiment, the external electronic device 104 or server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to intelligent services (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology. .
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • first, second, or first or secondary may simply be used to distinguish a given component from other corresponding components, and may be used to refer to a given component in another aspect (eg, importance or order) is not limited.
  • a (e.g., first) component is said to be “coupled” or “connected” to another (e.g., second) component, with or without the terms “functionally” or “communicatively.”
  • the certain component may be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logical blocks, parts, or circuits.
  • a module may be an integrally constructed component or a minimal unit of components or a portion thereof that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • a storage medium eg, internal memory 136 or external memory 138
  • a machine eg, electronic device 101
  • a processor eg, the processor 120
  • a device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • the storage medium is a tangible device and does not contain a signal (e.g. electromagnetic wave), and this term refers to the case where data is stored semi-permanently in the storage medium. It does not discriminate when it is temporarily stored.
  • a signal e.g. electromagnetic wave
  • the method according to various embodiments disclosed in this document may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • a computer program product is distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play StoreTM) or on two user devices (e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • a device-readable storage medium e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • at least part of the computer program product may be temporarily stored or temporarily created in a device-readable storage medium such as a manufacturer's server, an application store server, or a relay server's memory.
  • each component (eg, module or program) of the above-described components may include a single object or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. there is.
  • one or more components or operations among the aforementioned corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg modules or programs
  • the integrated component may perform one or more functions of each of the plurality of components identically or similarly to those performed by a corresponding component of the plurality of components prior to the integration. .
  • the actions performed by a module, program, or other component are executed sequentially, in parallel, iteratively, or heuristically, or one or more of the actions are executed in a different order, or omitted. or one or more other actions may be added.
  • FIG. 2 is a block diagram illustrating a program according to various embodiments.
  • FIG. 2 is a block diagram 200 illustrating a program 140 according to various embodiments.
  • the program 140 includes an operating system 142, middleware 144, or an application 146 executable in the operating system 142 for controlling one or more resources of the electronic device 101.
  • the operating system 142 may include, for example, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, or BadaTM.
  • At least some of the programs 140 are, for example, preloaded in the electronic device 101 at the time of manufacture, or when used by a user, an external electronic device (eg, the electronic device 102 or 104), or a server ( 108)) can be downloaded or updated.
  • the operating system 142 may control management (eg, allocation or reclamation) of one or more system resources (eg, process, memory, or power) of the electronic device 101 .
  • Operating system 142 may additionally or alternatively include other hardware devices of electronic device 101 , such as input device 150 , sound output device 155 , display device 160 , audio module 170 . , sensor module 176, interface 177, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196, or It may include one or more driver programs for driving the antenna module 197.
  • the middleware 144 may provide various functions to the application 146 so that the function or information provided from one or more resources of the electronic device 101 may be used by the application 146 .
  • the middleware 144 includes, for example, the application manager 201, the window manager 203, the multimedia manager 205, the resource manager 207, the power manager 209, the database manager 211, and the package manager 213. ), connectivity manager 215, notification manager 217, location manager 219, graphics manager 221, security manager 223, call manager 225, or voice recognition manager 227. can
  • the application manager 201 may manage the life cycle of the application 146 , for example.
  • the window manager 203 may manage one or more GUI resources used in a screen, for example.
  • the multimedia manager 205 identifies, for example, one or more formats necessary for reproducing media files, and encodes or decodes a corresponding media file among the media files using a codec suitable for the selected format. can be done
  • the resource manager 207 may manage a source code of the application 146 or a memory space of the memory 130 .
  • the power manager 209 may manage, for example, the capacity, temperature, or power of the battery 189, and determine or provide related information necessary for the operation of the electronic device 101 by using corresponding information among them. . According to an embodiment, the power manager 209 may interwork with a basic input/output system (BIOS) (not shown) of the electronic device 101 .
  • BIOS basic input/output system
  • the database manager 211 may create, search, or change a database to be used by the application 146, for example.
  • the package manager 213 may manage installation or update of applications distributed in the form of package files, for example.
  • the connectivity manager 215 may manage, for example, a wireless connection or a direct connection between the electronic device 101 and an external electronic device.
  • the notification manager 217 may provide a function for notifying a user of occurrence of a designated event (eg, an incoming call, message, or alarm), for example.
  • the location manager 219 may manage location information of the electronic device 101, for example.
  • the graphic manager 221 may manage, for example, one or more graphic effects to be provided to a user or a user interface related thereto.
  • Security manager 223 may provide system security or user authentication, for example.
  • the telephony manager 225 may manage, for example, a voice call function or a video call function provided by the electronic device 101 .
  • the voice recognition manager 227 transmits, for example, the user's voice data to the server 108, and at least partially based on the voice data, a command corresponding to a function to be performed in the electronic device 101; Alternatively, text data converted at least partially based on the voice data may be received from the server 108 .
  • the middleware 244 may dynamically delete some existing components or add new components.
  • at least part of the middleware 144 may be included as part of the operating system 142 or may be implemented as separate software different from the operating system 142 .
  • the application 146 includes, for example, a home 251, a dialer 253, an SMS/MMS 255, an instant message (IM) 257, a browser 259, a camera 261, and an alarm 263. , Contacts (265), Voice Recognition (267), Email (269), Calendar (271), Media Player (273), Albums (275), Watch (277), Health (279) (e.g. exercise or blood sugar) measurement of biometric information) or environmental information 281 (eg, measurement of atmospheric pressure, humidity, or temperature information). According to an embodiment, the application 146 may further include an information exchange application (not shown) capable of supporting information exchange between the electronic device 101 and an external electronic device.
  • an information exchange application not shown
  • the information exchange application may include, for example, a notification relay application configured to transmit designated information (eg, a call, message, or alarm) to an external electronic device, or a device management application configured to manage the external electronic device.
  • the notification relay application for example, transmits notification information corresponding to a designated event (eg, mail reception) generated in another application (eg, the email application 269) of the electronic device 101 to an external electronic device.
  • the notification relay application may receive notification information from an external electronic device and provide the notification information to the user of the electronic device 101 .
  • the device management application is, for example, a power source (eg, turn-on or turn-on) of an external electronic device that communicates with the electronic device 101 or some component thereof (eg, the display device 160 or the camera module 180). -Off) or functions (eg, brightness, resolution, or focus of the display device 160 or the camera module 180) may be controlled.
  • the device management application may additionally or alternatively support installation, deletion, or update of an application operating in an external electronic device.
  • FIG. 3 illustrates an example of recording content in an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments.
  • the electronic device 101 may reproduce various contents.
  • the electronic device 101 may play a video.
  • a video may be streamed from another electronic device (eg, server 108 or electronic device 102 or 104 of FIG. 1 ).
  • the electronic device 101 may provide a screen recording function.
  • the screen recording function all contents currently being reproduced in the electronic device 101 can be recorded.
  • Contents recorded according to the screen recording function may include, but are not limited to, passwords, payment information, images, messages, voices, media audio, microphone audio, and/or silence, and the electronic device 101 displays and/or It may include various information provided through audio input and output.
  • a video played in the electronic device 101 may be recorded according to a screen recording function.
  • the video being played can be recorded by selecting the record button 301 using, for example, a menu provided according to the screen recording function, and selecting the stop button 302. By doing so, the recording of the video can be stopped.
  • audio data is encoded and timestamps are generated based on an absolute time standard even when a job call for recording reproduced content is delayed or audio information is partially lost due to various processes performed in the electronic device 101. As this is performed, audio and video may be synchronized.
  • audio data can be sequentially encoded according to an absolute time standard. By determining the time of calling the task and adjusting the encoding time, the synchronization of audio and video can be matched.
  • FIG. 4 illustrates a hierarchical architecture of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments.
  • an electronic device 101 may include software 401 and hardware 402 .
  • Software 401 eg, program 140 of FIG. 1
  • the software 401 may be loaded from non-volatile memory 134 into volatile memory 132 and executed by processor 120 .
  • the software 401 may include an application layer 410 , a framework 420 , a hardware abstraction layer (HAL) 430 , and/or a kernel 440 .
  • Hardware 402 may include a sensor controller (eg, sensor control circuit) 450 , a display driver IC (integrated circuit) (DDI) 460 , and/or an audio controller (eg, audio control circuit) 470 .
  • the application layer 410 (eg, the application 146 of FIG. 1 or 2) includes at least one application 411 (eg, the first application 411a) and the second application 411b executable by the processor 120. ), the third application 411c) and/or the system UI 412.
  • the type of at least one application 411 is not limited and may be diverse, such as an internet browser, a video application, and/or a game.
  • at least one application 411 may include a playback application or a screen recording application.
  • the system user interface (UI) 412 refers to an application constituting several graphic user interface (GUI) screens implemented in the electronic device 101, such as a notification bar and/or a quick view. can do.
  • GUI graphic user interface
  • the framework 420 (eg, the middleware 144 of FIG. 1 or 2 ) is configured to allow functions or information provided from one or more resources of the electronic device 101 to be used by at least one application 411 . Functions may be provided through at least one application 411 .
  • the framework 420 includes an activity manager 421, a window manager 422, a view system 423, a sensor manager 424, an audio service manager 425, or an audio recording manager (ARM; audio recording manager) (426).
  • the activity manager 421 may control the life cycle and activity of the application layer 410 .
  • the window manager 422 may manage one or more GUI resources used in the screen.
  • a view system 423 may be a set of extensible views used to create a user interface of the application 411 .
  • the sensor manager 424 may provide data generated by a sensor (eg, the sensor module 176 of FIG. 1 ) to the application 411 so that the application 411 can use it.
  • the audio service manager 425 may identify one or more formats necessary for reproducing audio files, and encode or decode the audio file using a codec suitable for the selected format among them.
  • the audio recording manager 426 may support a function of recording content reproduced in the electronic device 101 when a screen recording application is executed and the screen recording function is performed.
  • the audio recording manager 426 checks a task schedule for encoding audio data according to the execution of the screen recording application, and checks the read task of a task call based on the schedule. Audio data may be encoded in association with the audio service manager 425 .
  • the audio recording manager 426 checks whether a work call is received and/or the order of the received work calls based on the work schedule, and outputs the work call on time or at an adjusted time point to perform audio encoding.
  • a function of the audio service manager 425 may be supported.
  • the audio recording manager 426 may check whether an audio segment to be recorded is received in an audio buffer through the audio service manager 425 .
  • the audio buffer may be included in, for example, processor 120 or memory 130 of FIG. 1 .
  • the audio framework 427 may receive an audio segment to be recorded and store it in an audio buffer.
  • the audio recording framework 428 may enable audio segments stored in audio buffers to be encoded according to the order in which they are stored.
  • the audio recording manager 426 confirms the reception of a work call and the reception of an audio segment based on a schedule, and outputs a work call at a time determined based on the schedule to encode the audio segment to be recorded. ) function can be supported.
  • some functions eg, a job call according to a schedule for audio encoding
  • HAL 430 may mean an abstracted layer between hardware 402 and software 401 .
  • the HAL 430 may include an input dispatcher 433 or an event hub 431 that provides an interface standardizing events generated by sensors.
  • the input dispatcher 433 may perform a function of determining which application to provide the generated event to.
  • HAL 430 may include a surface flinger 432 .
  • the surface plunger 432 performs a function of providing an execution screen to be displayed on a display among execution screens generated by an application, and when a display configuration is changed, the application 411 handles a change in resolution and density according to the changed display configuration. can be requested to
  • the kernel 440 may include various drivers for driving various hardware included in the electronic device.
  • the kernel 440 includes a sensor driver 441 for driving a sensor controller 450 configured to control a sensor, a display driver 442 for driving a DDI 460 configured to control a display panel, and /or may include an audio driver 443 for driving an audio controller 470 configured to control an audio output device through a wireless communication circuit (eg, the wireless communication module 192 of FIG. 1 ).
  • an electronic device eg, the electronic device 101 of FIG. 1
  • includes a display eg, the display module 160 of FIG. 1
  • An audio output module eg, the audio output module 155 of FIG. 1
  • a processor eg, the processor 120 of FIG.
  • the processor checks a schedule for receiving work commands (read task, RT) sequentially at designated time intervals to encode audio segments sequentially input to an audio buffer with a designated size from the audio data, Based on at least one of a work command reception state according to the schedule and the audio buffer state, a time point of calling the work command is adjusted and the audio segment corresponding to the work command received at the adjusted time point of call is encoded.
  • RT is an example of commands received by the processor for various tasks, and RT is described as an example, but task commands may include other types of task commands and are not limited to RT.
  • the processor is configured to generate a timestamp of the audio segment encoded in correspondence with an absolute time reference according to a sequence of the work commands output at designated time intervals according to the schedule for encoding the audio data. can be set
  • the processor checks whether the audio segment exists in the audio buffer at the time of receiving the work command, and until the time of receiving the next work command scheduled after the work command, the time of calling the work command. It may be configured to attempt to receive the audio segment from the audio buffer by calling the operation command at the adjusted time point by adjusting the .
  • the audio segment when the audio segment is not received at the adjusted time point, it may be configured to repeatedly attempt to receive the audio segment according to the call of the work command until the time point at which the next work command is received.
  • the processor when the work command is received based on the schedule, checks whether a previous work command scheduled before the work command is on standby, and if the previous work command is on standby, the previous work command It may be set to wait by adjusting the calling time of the operation command after the calling time.
  • the processor when the previous work command is called and executed while waiting for the work command, to adjust the calling time of the work command at a time interval shorter than the specified time interval from the time of execution of the previous task can be set
  • the processor adjusts the invocation time of the next work command to after the reception time of the work command, when the reception time of the next work command according to the schedule arrives at the adjusted calling time of the work command. can be set to
  • FIG. 5 is a flowchart illustrating an example of an operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments.
  • the processor eg, processor 120 of FIG. 1
  • loads and executes a program eg, program 140 of FIG. 1 or 2 .
  • a screen recording function for content played in the electronic device 101 may be performed.
  • an audio data stream received for encoding audio data according to the execution of a screen recording function for content is divided into segments (hereinafter referred to as audio segments) of a specified size and sequentially input to an audio buffer. there is.
  • the audio buffer may be implemented with a constant size (eg, a size capable of storing 6 audio segments) in consideration of encoding efficiency and/or resource efficiency. Audio segments stored in the audio buffer may be output from the audio buffer and encoded in response to job calls that are sequentially output. Task scheduling, including the generation order and interval of task calls, is pre-specified based on various conditions for performing a screen recording function, such as characteristics of resources, content and/or audio data of the electronic device 101. can be determined
  • the processor 120 of the electronic device 101 may check task scheduling according to the screen recording function in operation 501 .
  • job calls for encoding audio segments input to the audio buffer are periodically made so that audio segments received according to the screen recording function can be sequentially encoded in a specified time period (eg, 10 ms). It can be created and read in order.
  • a job call for encoding an audio segment may not be generated and received at a designated time for any reason.
  • a screen recording function may not receive a task call at a specified time.
  • a task call may not be generated and received at a designated time due to delay in processing due to other processes in the electronic device 101 .
  • a job call may not be output and executed even though it is generated and received at a designated time due to being pushed out of priority by another job call according to a job schedule.
  • the processor 120 of the electronic device 101 may check whether an audio segment exists by receiving a read task (RT) and/or checking an audio buffer in operation 503 .
  • RT read task
  • the audio data stream is not terminated and audio segments input in order are set to be temporarily stored in the audio buffer, but in various situations, the audio segments are not received on time and the audio segments stored in the audio buffer may not exist.
  • the processor 120 of the electronic device 101 may determine a time point of outputting the task call based on a task call received according to a task call schedule and/or whether an audio segment exists in an audio buffer. . For example, when a job call is received on time but there is no audio segment in the audio buffer, the processor 120 may adjust an output time so that the received job call is output at a time point after a time point specified by a schedule. For example, if a job call was received on time, but there is a previous job call waiting to be received, it is possible to adjust the output time of the job call to a point in time after waiting until the previously received job call is output.
  • a job call is not received on time and is delayed, and then the corresponding job call is received, check whether the previously received job call is waiting, and after delaying or waiting until the previously received job call is output.
  • FIG. 6 is a diagram for explaining an audio encoding operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments.
  • the processor eg, processor 120 of FIG. 1
  • loads and executes a program eg, program 140 of FIG. 1 or 2 .
  • a screen recording function for content played in the electronic device 101 may be performed.
  • the read task module 610 may include, for example, a processor (e.g., processor 120 of FIG. 1) and/or an audio recording manager (e.g., audio recording manager 426 of FIG. 4). ) can perform the function of
  • the task receiving module 610 may be set to generate a task command (read task, RT) at a specified time interval, for example, every Nms, and call the task according to a specified schedule.
  • a task command read task, RT
  • the processor 120 may calculate a time stamp of each audio segment according to the number of calls of work commands.
  • the time stamp may be generated corresponding to the number of work commands called and the size of the audio segment, regardless of an absolute time reference, for example, whether or not an audio segment exists.
  • the work commands are called at a first time point 601 according to the schedule and a second work command RT2 at a second time point 602 according to the schedule, respectively, in the calling order. It can be called and received at time intervals (Nms) according to the work schedule.
  • An audio segment may be encoded according to each task received, and a time stamp may be assigned to the encoded audio segment as described above.
  • FIG. 7 is a flowchart illustrating an example of an operation of an electronic device according to various embodiments.
  • the processor eg, processor 120 of FIG. 1
  • loads and executes a program eg, program 140 of FIG. 1 or 2 .
  • a screen recording function for content played in the electronic device 101 may be performed.
  • an audio data stream received for encoding audio data according to the execution of a screen recording function for content is divided into segments (hereinafter referred to as audio segments) of a specified size and sequentially input to an audio buffer. there is.
  • the audio buffer may be implemented with a constant size (eg, a size capable of storing 6 audio segments) in consideration of encoding efficiency and/or resource efficiency. Audio segments stored in the audio buffer may be output from the audio buffer and encoded in response to job calls that are sequentially output. Task scheduling, including the generation order and interval of task calls, is pre-specified based on various conditions for performing a screen recording function, such as characteristics of resources, content and/or audio data of the electronic device 101. can be determined
  • the processor 120 of the electronic device 101 may check task scheduling according to the screen recording function in operation 701 .
  • a task call for encoding audio segments input to an audio buffer so that audio segments received according to the screen recording function can be sequentially encoded in a specified time period (eg Nms) ( task call) may be periodically generated and read in order.
  • the processor 120 of the electronic device 101 may check whether a work command is received according to a work schedule according to a screen recording function in operation 703 .
  • a work command for encoding an audio segment may not be generated and received at a designated time for any reason.
  • a screen recording function may not be able to receive a work order at a specified time.
  • a work order may not be generated at the designated time because it is pushed by other work orders according to the schedule.
  • the processor 120 may try to receive the work command while waiting for the work command in operation 705 . For example, while waiting for a work command, calling a work command may be attempted multiple times at specified time intervals.
  • the processor 120 when a work command according to the schedule is received (operation 703 - 'YES'), the processor 120 has a work command prior to the work command received in operation 707, that is, a higher priority work command exists. you can check if it does. For example, when a work command is received in a designated time period according to a schedule, a work command received prior to the corresponding work command may not be output and not executed, and may exist as it is.
  • the processor 120 may cause the work command received in operation 709 to wait for a certain period of time. .
  • the processor 120 may check whether the previous work command call has been output in operation 710, and proceeds to operation 707 to output the previous work command call. and if the previous work command does not exist (operation 707 - 'NO'), operation 711 may be performed.
  • the processor 120 checks the audio buffer in operation 711 to have an audio segment. you can check if it does. For example, the audio data stream is not terminated and audio segments input in order are set to be temporarily stored in the audio buffer, but in various situations, the audio segments are not received on time and the audio segments stored in the audio buffer may not exist. .
  • the processor 120 proceeds to operation 715 to determine whether a specified time has elapsed, and if the specified time has not elapsed (operation 715). 715 - 'NO') In operation 717, audio reception may be waited.
  • the specified time to wait for audio reception may be set such that the wait ends before the next work call is received according to the work schedule, for example.
  • the designated time may be a time (eg, ⁇ ) smaller than the work command invocation time period (eg, Nms).
  • the operation of waiting for reception of an audio segment for a specified time (operation 717) and the operation of checking an audio buffer according to a call to a work command (operation 711) may be repeated a plurality of times, and the waiting time for each repetition may be the same or may be set differently.
  • the accumulated waiting time depends on the work schedule. It may be set that the next work command call is stopped before the scheduled time, and operation 719 of increasing the work command call sequence for the next work command call is performed.
  • the processor 120 may proceed to operation 713 to output the audio segment from the audio buffer to be encoded.
  • An audio segment output from the audio buffer and encoded according to the output of the received work command call may be given a time stamp corresponding to the accumulated number of received work command calls, rather than a time stamp according to the lapse of time according to the work schedule. there is. For example, a timestamp assigned to a header of a packet generated according to encoding of an audio segment may be recorded.
  • 8A to 8D are diagrams for explaining an example of an operation of an electronic device according to various embodiments.
  • the processor eg, processor 120 of FIG. 1
  • loads and executes a program eg, program 140 of FIG. 1 or 2 .
  • a screen recording function for content played in the electronic device 101 may be performed.
  • the read task module 610 may include, for example, a processor (e.g., processor 120 of FIG. 1) and/or an audio recording manager (e.g., audio recording manager 426 of FIG. 4). ) can perform the function of
  • the processor 120 generates a read task (RT) at a specified time interval, for example, every Nms according to a specified schedule by the receiving task module 610, reads an audio segment from an audio buffer, and encodes the audio segment. It can be set to call an action that does.
  • RT read task
  • the second work command RT2 is not received at the scheduled second time point 1N or 802. can
  • the processor 120 waits for the second task command (RT2) for a specified time as the second task command (RT2) is not received at the scheduled second time point (1N, 802), and adjusts The called task may be received by calling the second task command RT2 at the second time point 802-1.
  • the third task command RT3 according to the schedule is received at the third point in time 803, the order and time interval Nms according to the task schedule are normalized, and the task can be periodically called and received.
  • the processor 120 when work commands are delayed, the processor 120 adjusts a designated cycle so that at least some of the work commands are received at a faster cycle. For example, if the processor 120 receives the second task command RT2 after the first task command RT1 is called, at the second time point (time N+ ⁇ ) that is delayed and adjusted by ⁇ time from the scheduled time point, , The third task command RT3 can be received after an adjusted time interval (N- ⁇ ) from the second time point (time point N+ ⁇ ) so that it can be received at the scheduled time point (time point 2N).
  • the processor 120 adjusts the reception call time of the delayed tasks differently from the schedule, so that the tasks are received in order and the corresponding audio segments are encoded in order. there is. Accordingly, the received task call order may be maintained and the accumulated number of task calls may be maintained, and a time stamp may be assigned according to an absolute time standard based thereon.
  • the second work command RT2 is not received at the scheduled time point RT2 or 812 and the third task command RT2 is not received at the scheduled time point RT2 or 812 .
  • the work command (RT3) may also not be received at the scheduled time (RT3, 813).
  • the processor 120 waits for the second task command (RT2) for a specified time as the second task command (RT2) is not received at the scheduled time, and nevertheless, after the third task command If (RT3) is not received at a designated time point, a situation in which both the second work command RT2 and the third work command RT3 are on standby may occur.
  • the processor 120 may wait for the second task command RT2 after the first task command time point 811 and before the third task command RT3, and the second task command RT2 If it is called and received at the second time point (2N+ ⁇ ms after the first time point 811) 812-1, the time point at which the fourth work command RT4 is scheduled from the adjusted second time point 812-1.
  • the calling time point 813-1 of the third work command RT3 can be adjusted within ⁇ 1 time after the second time point 812-1, for example, so that the third work command RT3 can be received before (814). there is.
  • the call for the third work command RT3 is performed within N- ⁇ time shorter than the previously scheduled work command reception interval Nms.
  • a call to the 4 work command (RT4) can be performed.
  • the processor 120 adjusts a designated cycle so that at least some of the work commands are received at a faster cycle. For example, after the first task command RT1 is called, the processor 120 delays the second task command RT2 by N+ ⁇ time and adjusts the second time point (2N+ ⁇ time point) from the scheduled time point. can be received. In addition, the processor 120 adjusts the second time point (2N) of the second task command (RT2) when not only the second task command (RT2) but also the third task command (RT3) is not received at the scheduled time (time point 2N). It can be received at the third time point (2N+ ⁇ + ⁇ 1) adjusted at a short time interval ( ⁇ 1) after the time point + ⁇ .
  • the fourth work command RT4 is adjusted at a short time interval ((N- ⁇ - ⁇ 1) or ⁇ 2) from the third time point (N+ ⁇ time point) so that it can be received at the scheduled time (3N time point). It can be called to be received at 4 time points (3N).
  • the processor 120 adjusts reception call times of delayed tasks differently from the schedule so that tasks are received in order and corresponding audio segments are encoded in order. there is. Accordingly, the received task call order may be maintained and the accumulated number of task calls may be maintained, and a time stamp may be assigned according to an absolute time standard based thereon.
  • the second task command RT2 is not called at the scheduled time point 822, and the third task The command RT3 may not be called at the scheduled time 823 and the fourth task command RT4 may not be called at the scheduled time 824 .
  • the processor 120 may cause the processor 120 to wait for the second task command RT2 for a specified period of time. Nevertheless, since the third work command (RT3) and the fourth work command (RT4) are also not received at the designated time, the second work command (RT2), the third work command (RT3) and the fourth work command ( RT4) may all be delayed.
  • the processor 120 may wait for the second task command RT2 after the first task command RT1 is received 821 and before the third task command RT3. If (RT2) is called and received at the second time point (3N+ ⁇ ms after the first time point 821) 822-1, the fifth work command (scheduled after the adjusted second time point 822-1) The calling time point 823-1 of the third work command RT3 and the third work command RT3 so that the third work command RT3 and the fourth work command RT4 can be called before the fifth time point 825 scheduled for RT5. 4 The calling time point 824-1 of the work command RT4 can be adjusted.
  • the calling time point 823-1 of the third work command RT3 may be adjusted to the time of ⁇ 1 time elapsed after the second time point 822-1, and the calling time point 824-1 of the fourth task command RT4. 1) may be adjusted to the ⁇ 2 time point after the third time point 823-1. Accordingly, a call for the third work command RT3 is made within N- ⁇ time shorter than the existing scheduled work command interval (Nms) after the second time point 822-1 at which the second work command RT2 is executed. It may be performed at the time point 823-1, the call for the fourth work command RT4 may be performed at the fourth time point 824-1, and then the fifth work command RT5 is the fourth work command. It may be performed at the originally scheduled time point 825 after an ⁇ 3 time interval shorter than the scheduled time period (N ms) from the call time point 824-1 of (RT4).
  • the processor 120 when work commands are delayed, the processor 120 adjusts a scheduled time point and a scheduled cycle so that at least some of the later work commands are received at a faster cycle.
  • the second task command RT2 is not called at the scheduled time point 832, and the third task The command RT3 may not be called at the scheduled time 833 and the fourth task command RT4 may not be called at the scheduled time 834 .
  • the processor 120 may wait for the second task command RT2 for a specified period of time. Nevertheless, since the third work command (RT3) and the fourth work command (RT4) are also not received at the designated time, the second work command (RT2), the third work command (RT3) and the fourth work command ( RT4) may all be delayed and wait.
  • the processor 120 the second work command (832-1) at the second time point adjusted after the first work command time point 831 (after 3N + ⁇ ms from the first time point 831).
  • the third task command RT3 is issued at the third time point 833-1, which is the minimum task call time period after the adjusted second time point 832-1, for example, the ⁇ 1 time elapsed time point. can be called.
  • the call time of the fourth task command RT4 may be adjusted so as to be called at the minimum task call time period, for example, at the fourth time point 834 - 1 , which is the point at which ⁇ 2 time has elapsed.
  • the processor 120 may check whether a work command prior to the fifth task command RT5, that is, a higher priority task command is on standby. The processor 120 may confirm that the fifth work command RT5 has been received, but the previous work command, the fourth work command RT4, is waiting, delays the calling time of the fifth work command RT5, and waits. there is.
  • the processor 120 may adjust the waiting fifth task command RT5 to the time point 835-1 when ⁇ 3 time elapses after the calling time point 834-1 of the fourth task command RT4, , and then the calling time point 836 of the sixth work command RT6 may be adjusted to the time point of ⁇ 4 time elapsed after the fifth time point 835-1. Accordingly, after the fifth time point 835-1 at which the fifth work command RT5 was executed, ⁇ 4 time shorter than the previously scheduled work command interval Nms, the time when the call for the sixth work command RT6 was originally scheduled (5N) (836).
  • the processor 120 when work commands are delayed, the processor 120 adjusts a scheduled time point and a scheduled cycle so that at least some of the later work commands are received at a faster cycle.
  • 9A and 9B are diagrams for explaining an example of an operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments.
  • the processor eg, processor 120 of FIG. 1
  • loads and executes a program eg, program 140 of FIG. 1 or 2 .
  • a screen recording function for content played in the electronic device 101 may be performed.
  • the read task module 610 may include, for example, a processor (e.g., processor 120 of FIG. 1) and/or an audio recording manager (e.g., audio recording manager 426 of FIG. 4). ) can perform the function of
  • the processor 120 generates a read task (RT) at a specified time interval, for example, every Nms according to a specified schedule by the receiving task module 610, reads an audio segment from an audio buffer, and encodes the audio segment. It can be set to call an action that does.
  • RT read task
  • the audio segment may not exist in the audio buffer.
  • audio information may be lost due to lack of hardware and/or software resources of the electronic device 101, failure of data input/output, and/or execution of multiple programs such as applications running in the background.
  • the processor 120 when the second task command RT2 is received but the audio buffer is empty, the processor 120 responds to the second task command RT2 until the next task (third task command RT3) is received. You can try calling the following operation.
  • the processor 120 sets the specified time ⁇ according to the second task command RT2. During this process, it is possible to repeatedly attempt to output an audio segment from an audio buffer one or more times (902-1, 902-2, ..., 902-m) by repeatedly calling it up to a specified number of times (m).
  • the processor 120 may perform an output task call for an audio buffer according to the second task command RT2 until before the time point 2N when the third task command RT3 is scheduled.
  • the processor 120 when an audio segment is input to the audio buffer before the reception point 903 of the third task command RT3, the processor 120 performs an output task for the audio buffer according to the second task command RT2. to encode the audio segment.
  • the job according to the second work command RT2 scheduled at the second time point 902 is performed at the adjusted time point, and then the audio segment according to the third task command RT3 scheduled at the third time point 903
  • work commands are performed in order, and an absolute time reference time stamp according to the cumulative call number of work commands may be given to an encoded audio segment corresponding to each work command.
  • the time of the work command is adjusted and the audio buffer is checked again at the adjusted time point for the audio segment whose input is delayed. Encoding can be attempted to reduce audio data loss.
  • the processor 120 when the second task command RT2 is received but the audio buffer is empty, the processor 120 responds to the second task command RT2 until the next task (third task command RT3) is received. You can try calling the following operation.
  • the processor 120 determines the specified time ⁇ according to the second task command RT2. By repeatedly calling up to a specified number of times (m) during the process, outputting an audio segment from an audio buffer may be repeated at least once (912-1, 912-2, ..., 912-m).
  • the processor 120 may perform an output task call for an audio buffer according to the second task command RT2 until before the time when the third task command RT3 is scheduled.
  • the processor 120 outputs the audio buffer according to the second task command RT2 if no audio segment is input to the audio buffer before the reception point 913 of the third task command RT3. this may not be possible.
  • the processor 120 may increase the number of task commands or the task calling sequence by 1 and call the third task command RT3. Accordingly, even when the encoded audio segment does not exist because the task according to the second task command RT2 scheduled at the second time point 912 is not performed, the third task command scheduled at the third time point 913
  • the time stamp for audio segment encoding according to (RT3) may be set to 2N according to the number of accumulated calls, for example, with a time interval (Nms) and a working order according to an absolute time reference.
  • the audio segment is not input even though the audio buffer is checked again at the adjusted time point by adjusting the time point of the work command according to the delay of the audio input, the next task command is performed at the scheduled time point, and the audio encoding is performed.
  • the audio Skipping can be prevented and/or reduced.
  • the number of calls is increased and accumulated after tasks that have not been performed differently from the schedule, and a timestamp is given to the encoded audio segment according to the accumulated number of calls.
  • FIG. 10 and 11 illustrate examples of a user interface displayed on a display (eg, the display module 160 of FIG. 1 ) according to an operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments.
  • a display eg, the display module 160 of FIG. 1
  • an electronic device eg, the electronic device 101 of FIG. 1
  • a processor eg, the processor 120 of FIG. 1
  • the electronic device 101 may display a user interface on the display 160 as an application is executed.
  • the electronic device 101 may provide a screen recorder function execution menu 1001 on various menu screens for performing a screen recording function according to various embodiments, for example, a quick panel.
  • content reproduced in the electronic device 101 may be recorded according to selection of a screen recording function menu.
  • a screen recording function may be performed as the screen recorder function execution menu 1001 is selected.
  • screen recording of content currently being played through the electronic device 101 is performed by waiting while a program for performing the corresponding function is loaded or by selecting a skip countdown menu 1002. function can be initiated.
  • various editing menus including a menu button 1003 capable of stopping the screen recording function may be provided on the display 160 while content played on the electronic device 101 is being recorded according to the screen recording function.
  • the processor 120 of the electronic device 101 may perform a user interface display operation on the display 160 as the application is executed.
  • the electronic device 101 may provide a screen recorder function execution menu 1101 on various menu screens for performing a screen recording function according to various embodiments, for example, a quick panel.
  • the electronic device 101 may provide a detailed setting menu 1102 according to a screen recording function.
  • a detailed setting menu 1102 may be popped up and displayed by a long touch on the function execution menu 1101 .
  • the detailed setting menu 1102 may provide settings for various sound sources recorded according to the screen recording function and/or setting menus for sound volume.
  • content reproduced in the electronic device 101 may be recorded according to selection of a screen recording function menu.
  • a screen recording function may be performed as the screen recorder function execution menu 1101 is selected.
  • screen recording of content currently being played through the electronic device 101 is performed by waiting while a program for performing the corresponding function is loaded or by selecting a skip countdown menu 1103. function can be initiated.
  • a menu button 1104 for stopping the screen recording function may be provided on the display 160 while content reproduced in the electronic device 101 is being recorded according to the screen recording function.
  • FIG. 12 is a diagram illustrating examples of electronic devices (eg, the electronic device 101 of FIG. 1 ) of various form factors to which various embodiments are applied.
  • an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments may be implemented in various forms of form factors.
  • the electronic device 101 includes a slideable electronic device 1210, a rollable electronic device 1220, a first foldable electronic device 1230, a bar-shaped electronic device 1240, and a second foldable electronic device 1230.
  • At least one of the electronic devices 1250 may be included.
  • the first foldable electronic device 1230 may include at least two hinge structures (not shown), and the second foldable electronic device 1250 may include one hinge structure (not shown).
  • the first foldable electronic device 1230 or the second foldable electronic device 1250 is equipped with a foldable (or bendable) display (eg, a flexible display), and can be folded or unfolded based on a hinge structure.
  • a foldable (or bendable) display eg, a flexible display
  • the electronic device 101 may be implemented as the electronic devices 1210, 1220, 1230, 1240, and/or 1250 of various form factors as described above, and various embodiments may include two or more electronic devices. It can also be applied to a screen recording function of a plurality of contents played through one or more displays of electronic devices having a display.
  • a screen recording function according to various embodiments includes a screen recording function for content played through each of a plurality of displays and/or a screen recording function for each of a plurality of content played through multiple screens of one display. can be applied to
  • a screen recording function for content played on at least one of the form factor and/or a plurality of displays of the electronic device 101 is not limited thereto.
  • FIG. 13 is a diagram for explaining an example to which an operation of an electronic device according to various embodiments is applied.
  • the upper figure shows a comparative embodiment, and may show an example in which encoding is performed according to a schedule for audio segments 1302 that are input thereafter when loss 1301 of at least one audio segment occurs. .
  • the audio segment 1302 is multiplexed (muxed) with the video encoding data according to the time stamp according to the audio encoding sequence, and thus audio and video may not be synchronized.
  • the lower figure shows that even if at least one audio segment is lost 1311, encoding is performed on audio segments 1312 that are subsequently input according to the adjusted work schedule and according to the adjusted absolute time standard.
  • An example of various embodiments of generating and recording a time stamp may be illustrated.
  • the number of tasks may be accumulated even for lost audio segments 1310 according to video encoding data and a timestamp based on an absolute time standard adjusted for audio segments at the time of performing multiplexing (mux).
  • the encoded audio segment 1312 is multiplexed (muxed) with the video encoding data according to an absolute time reference so that the audio and video are synchronized.
  • 14A to 14C are diagrams for explaining an example in which an operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments is applied compared to a comparative embodiment.
  • 15A and 15B are views for explaining an example in which an operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments is applied compared to a comparative embodiment.
  • 16A to 16C are views for explaining an example in which an operation of an electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments is applied compared to a comparative embodiment.
  • the processor eg, processor 120 of FIG. 1
  • loads and executes a program eg, program 140 of FIG. 1 or 2 .
  • a screen recording function for content played in the electronic device 101 may be performed.
  • An audio read module 1410 (eg, receive operation module 610 in FIG. 6 ) may include, for example, a processor (eg, processor 120 in FIG. 1 ) and/or audio recording. It can perform the function of a manager (eg, the audio recording manager 426 of FIG. 4).
  • the processor 120 generates an audio segment from the audio buffer 1400 by generating a read task (RT) at a specified time interval, for example, every Nms, according to a specified schedule by the audio receiving module 1410. It can be set to call an operation to read and encode.
  • RT read task
  • an audio data stream received for encoding audio data according to the execution of a screen recording function for content is divided into segments (hereinafter referred to as audio segments) of a specified size and sequentially stored in the audio buffer 1400. can be entered.
  • the audio buffer 1400 may be implemented with a predetermined size (eg, a size capable of storing 6 audio segments) in consideration of encoding efficiency and/or resource efficiency. Audio segments stored in the audio buffer 1400 may be output from the audio buffer 1400 and encoded in response to job calls that are sequentially output. Task scheduling, including the generation order and interval of task calls, is pre-specified based on various conditions for performing a screen recording function, such as characteristics of resources, content and/or audio data of the electronic device 101. can be determined
  • the first work command 1 is at the first time point 0 according to the schedule
  • the second work command 2 is at the second time point according to the schedule ( 1N ms)
  • the third work command (3) at the third time point (2N ms) according to the schedule
  • the fourth work command (4) at the fourth time point (3N ms) according to the schedule.
  • It can be called and received at a time interval (N ms) according to
  • an audio segment input to the audio buffer may be encoded respectively.
  • audio and video may be synchronized when multiplexing (mux) is performed with recorded video encoding data.
  • a first work command (1) is at a first time point (0) according to the schedule
  • a second work command (2) is at a second time point according to the schedule.
  • an audio segment input to the audio buffer may be delayed and encoded in the fourth task command 4 . As the audio segment is not lost despite the delay of the fourth operation command 4, audio and video may be synchronized during reproduction of the recorded content.
  • a first task command 1 is executed in the order in which task commands are called at a first time point 0 according to a schedule, and a second task After command (2) is received at the second time point (1N ms) according to the schedule and the third work command (3) is received at the third time point (2N ms) according to the schedule, the fourth work command (4) is received according to the schedule. It can be received at the fourth time point 3N+ ⁇ by calling the fourth work command 4 with a delay from the time point 3N ms. Thereafter, the fifth work command 5 may be called and received at the scheduled fifth time point 4N.
  • an encoding work command for an audio segment input to the audio buffer may be received and performed at a scheduled time. Therefore, despite the delay of the fourth work command 4, the audio segment is not lost, and since there is no delay of the work command thereafter, audio and video can be synchronized during reproduction of the recorded content.
  • the first work command 1 is at the first time point 0 according to the schedule
  • the second work command 2 is at the second time point according to the schedule ( 1N ms)
  • the third work command 3 is received and executed at the third time point 2N according to the schedule
  • the fourth work command 4 is slightly delayed and called at the fourth time point 3N+ ⁇ ms.
  • the fifth work command (5) is sequentially performed at the fifth point in time (4N + ⁇ ms) after the period according to the schedule
  • the sixth work command (6) is received at a time interval (N ms) according to the work schedule ) or more (3N + ⁇ ms) may be delayed and received.
  • the input to the audio buffer 1500 between the fifth task command 5 and the sixth task command 6 is performed.
  • a number of audio segments may be lost, and accordingly, not only is audio data lost, but in the sixth operation instruction 6, the audio segments currently in the audio buffer 1500 are encoded and a time stamp is assigned to the encoded audio segments.
  • multiplexing multiplexing
  • audio and video cannot be synchronized, and there may be a situation in which there are no corresponding audio segments 18, 19, and 20 in the second half of the video. .
  • the third work command (3) is received and executed at the third time point (2N) according to the schedule
  • the fourth work command (4) is slightly delayed to the fourth time point (3N+ ⁇ ).
  • the fifth work command (5) is received and executed in order at the fifth time point (4N ms) according to the schedule
  • the sixth work command (6) is received at a time interval according to the work schedule ( N ms) or longer (3N + ⁇ ms) may be delayed and received.
  • the sixth operation command 6 may be delayed for a specified time (3N+ ⁇ ms) and called and received at an adjusted time point, and a corresponding audio segment 6 may be encoded.
  • the seventh work command 7 is adjusted according to the adjusted period (eg, ⁇ 1) of the period specified according to the schedule
  • the eighth work command 8 is the adjusted period of less than the specified period according to the schedule ( Example:
  • the ninth work command 9 is called at the time adjusted according to the adjusted cycle (eg, ⁇ 3) below the cycle specified according to the schedule, and responds according to each work command
  • the audio segments that do may be encoded respectively.
  • work commands may be called without delay, and accordingly, corresponding audio segments may be encoded.
  • an operation command may be called at an adjusted time so that an audio segment input to the audio buffer 1500 is not lost.
  • the called and received work command is called at the adjusted time point, sequentially outputs and encodes the audio segments existing in the audio buffer 1500, and encodes the time stamp according to the absolute time standard according to the accumulated number of work commands. segment can be assigned.
  • audio and video when audio is not lost during audio recording and is multiplexed with recorded video data, audio and video may be synchronized according to an absolute time reference.
  • the third work command 3 is received and executed at the third time point 2N according to the schedule
  • the fourth work command 4 is slightly delayed and called at the fourth time point 3N+ ⁇ ms.
  • the sixth work command 6 after the fifth work command 5 is delayed and received for a time (N+ ⁇ ms) equal to or longer than the time interval (N ms) according to the work schedule, and the ninth work command 9 is ( N+ ⁇ ms) time delay, and the tenth operation command 10 may be delayed (N+ ⁇ ms) time.
  • the input to the audio buffer 1600 between the fifth task command 5 and the sixth task command 6 is performed.
  • a number of audio segments may be lost, and a number of audio segments may also be lost between the eighth operation command 8 and the ninth operation command 9 .
  • an overflow occurs in the audio buffer 1600, and audio segments may be lost at once while the audio buffer 1600 is restored.
  • time stamps were assigned according to the order of the encoded audio segments without consideration for lost audio segments or work commands that could not be called according to the schedule.
  • a first work command 1 at a first time point 0 according to the schedule, and a second work command 2 according to the schedule At 2 time points (1N ms), a third task command (3) is received and executed at a third time point (2N) according to the schedule, and the fourth task command (4) is slightly delayed to the fourth time point (3N+ ⁇ ms).
  • the fifth work command (5) is received and executed in order at the fifth time point (4N ms) according to the schedule
  • the sixth work command (6) is received at a time interval (N ms) according to the work schedule ms) or longer (3N+ ⁇ ms) may be delayed and received.
  • the sixth operation command 6 may be delayed for a specified time (3N+ ⁇ ms) and called and received at an adjusted time point, and a corresponding audio segment 6 may be encoded.
  • the seventh work command (7) is adjusted according to the adjusted cycle (eg, ⁇ 1) of the designated cycle or less according to the schedule
  • the eighth work command (8) is the adjusted cycle (eg, ⁇ 2) of the designated cycle or less according to the schedule.
  • the ninth work command 9 is at the time adjusted according to the adjusted cycle (eg, ⁇ 3) below the specified cycle
  • the tenth work command 10 is the adjusted cycle below the designated cycle (e.g., ⁇ 4), respectively called, corresponding audio segments may be encoded according to respective operation commands.
  • the eleventh work command 11 may be called at a scheduled time point without delay of the work command, and accordingly, respective corresponding audio segments may be encoded.
  • the twelfth operation command 12 may be called and received at an adjusted time after being delayed for a time (N+ ⁇ ms) after the 11th operation command 11 is received, and the corresponding audio segment 12 can be encoded.
  • the thirteenth work command 13 may be called and received at an adjusted time after being delayed for a time (N+ ⁇ ms) after the twelfth work command 12 is received, and the corresponding audio segment 13 may be encoded. there is.
  • the 14th work command 14 to the 20th work command 20 may be frequently called and performed at the time adjusted according to the adjusted period of less than the period designated according to the schedule, less than the scheduled work command period.
  • an operation command may be called at an adjusted time so that an audio segment input to the audio buffer 1600 is not lost.
  • the called and received work command is called at the adjusted time point, sequentially outputs and encodes the audio segments existing in the audio buffer 1600, and encodes the time stamp according to the absolute time standard according to the accumulated number of work commands. segment can be assigned.
  • an overflow of an audio buffer may be prevented and/or reduced by variously adjusting a timing of calling an operation command when recording audio, and thus, loss of audio data may be prevented and/or reduced.
  • audio and video when audio is not lost during audio recording and is multiplexed with recorded video data, audio and video may be synchronized according to an absolute time standard.
  • the fifth task is sequentially performed according to the schedule of the work command. Receipt of command (5) is significantly delayed so that it can be called and executed at the fifth time point (7N+ ⁇ ms).
  • the sixth work command 6 to the twelfth work command 12 is frequently called and performed at the time adjusted according to the cycle adjusted below the scheduled work cycle, and in the 13th work command 13, recording was not performed because the audio segment did not exist, but the 14th work command 14 From , the encoding of the audio segment can be normally performed, and a time stamp based on an absolute criterion obtained by sequentially accumulating work commands according to a schedule can be assigned.
  • loss of audio data may be reduced, and even when audio data is lost, encoded audio segments A time stamp according to an absolute standard can be assigned to , so that audio and video can be synchronized according to an absolute time standard when multiplexed (muxed) with recorded video data.
  • a method of an electronic device encodes audio segments sequentially input to an audio buffer with a specified size from audio data of content according to application execution for a specified time.
  • An operation of checking a schedule for receiving work commands in order at intervals, an operation of checking at least one of a work command reception state according to the schedule and the audio buffer state, and a work command reception state according to the schedule and the audio buffer state It may include an operation of adjusting the calling time of the operation command based on at least one of the above.
  • the method may further include encoding the audio segment corresponding to the work command received at the time of the adjusted call.
  • an operation of generating a timestamp of the correspondingly encoded audio segment based on an absolute time reference according to an order of the work commands output at designated time intervals according to the schedule for encoding the audio data is further included. can do.
  • the method may further include generating a packet including the encoded audio segment and including the time stamp in a header of the packet.
  • the checking operation checks whether the audio segment exists in the audio buffer at the time of receiving the work command, and the adjusting operation until the time of receiving the next work command scheduled after the work command,
  • the calling time of the work command may be adjusted so that the work command is called at the adjusted time point.
  • reception of the audio segment according to the calling of the work command may be repeatedly attempted until the time point at which the next work command is received.
  • the method when the work command is received based on the schedule, the method further includes checking whether a previous work command scheduled before the work command is on standby, and the adjustment operation includes the operation of waiting for the previous work command. If in progress, the calling time of the work command after the time of calling the previous work command may be adjusted and waited.
  • the adjusting operation adjusts the calling time of the work command at a time interval shorter than the specified time interval from the execution time of the previous task. can make it
  • the calling time of the next work command may be adjusted after the reception time of the work command.

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Quality & Reliability (AREA)
  • Computer Security & Cryptography (AREA)
  • Telephone Function (AREA)

Abstract

본 문서에 개시된 다양한 실시예에 따른 전자 장치는, 어플리케이션 실행에 따라 컨텐츠의 이미지 데이터를 출력하는 디스플레이, 상기 컨텐츠의 오디오 데이터를 출력하는 음향 출력 모듈 및 상기 디스플레이 및 상기 음향 출력 모듈과 적응적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하고, 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여, 상기 작업 명령의 호출 시점을 조정하고 상기 조정된 호출 시점에 수신된 상기 작업 명령에 대응하는 상기 오디오 세그먼트를 인코딩하도록 설정될 수 있다.

Description

컨텐츠 데이터를 기록하는 전자 장치 및 그 방법
본 문서에 개시된 다양한 실시예들은, 컨텐츠 데이터를 기록하는 전자 장치에 관한 것으로, 예를 들어 컨텐츠 데이터 기록시 오디오와 비디오의 싱크를 맞추기 위한 전자 장치에 관한 것이다.
기술의 발달과 함께 전자 장치를 이용하여 재생되는 컨텐츠를 기록하고자 하는 니즈가 증가하고 있다. 예를 들면 전자 장치는 디스플레이에 표시되는 다양한 비디오 및 오디오 데이터를 실시간으로 녹화 또는 기록할 수 있는 기능을 제공하고 있다. 예를 들면 전자 장치는 통신 기술을 이용하여 컨텐츠 서버 또는 다른 전자 장치와 연결될 수 있으며, 연결된 서버 또는 다른 장치로부터 컨텐츠를 스트리밍하여 전자 장치에서 재생하면서 실시간으로 재생되는 컨텐츠를 녹화 또는 기록할 수 있다.
전자 장치에서 재생되는 컨텐츠를 기록하는 경우 오디오 정보가 손실되어 오디오와 비디오의 싱크가 맞지 않는 경우가 발생할 수 있다.
본 문서에 개시된 다양한 실시예들은 전자 장치에서 재생되는 컨텐츠를 기록하는 경우 오디오와 비디오의 싱크를 맞추기 위한 방법 및 그 전자 장치를 제공하기 위한 것이다.
본 개시에서 이루고자 하는 기술적 과제는 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 문서에 개시된 다양한 실시 예에 따른 전자 장치는, 어플리케이션 실행에 따라 컨텐츠의 이미지 데이터를 출력하는 디스플레이, 상기 컨텐츠의 오디오 데이터를 출력하는 음향 출력 모듈 및 상기 디스플레이 및 상기 음향 출력 모듈과 적응적으로 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하고, 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여, 상기 작업 명령의 호출 시점을 조정하고 상기 조정된 호출 시점에 수신된 상기 작업 명령에 대응하는 상기 오디오 세그먼트를 인코딩하도록 설정될 수 있다.
본 문서에 개시된 다양한 실시 예에 따른 전자 장치의 방법은, 어플리케이션 실행에 따라 컨텐츠의 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하는 동작, 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나를 확인하는 동작 및 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여 상기 작업 명령의 호출 시점을 조정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 전자 장치에서 재생되는 컨텐츠를 기록하는 경우 절대 시간에 따라 오디오 인코딩이 수행될 수 있도록 하여 오디오와 비디오의 싱크를 맞출 수 있다.
다양한 실시예에 따르면 전자 장치에서 재생되는 컨텐츠를 기록하는 경우 오디오 인코딩을 위한 작업 호출 시점을 조정하여 오디오 손실 또는 작업 호출 딜레이 시에도 절대 시간에 따라 오디오 인코딩이 수행될 수 있도록 하여 오디오와 비디오의 싱크를 맞출 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도면의 설명과 관련하여, 동일 또는 유사한 구성 요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예에 따른 프로그램을 예시하는 블록도이다.
도 3은 다양한 실시예에 따른 전자 장치에서 컨텐츠를 기록하는 예를 도시한다.
도 4는 다양한 실시예에 따른 전자 장치의 계층적인 구조(architecture)를 도시한다.
도 5는 다양한 실시예에 따른 전자 장치의 동작의 일 예를 설명하기 위한 흐름도이다.
도 6은 다양한 실시예에 따른 전자 장치의 오디오 인코딩 동작을 설명하기 위한 도면이다.
도 7은 다양한 실시예에 따른 전자 장치의 동작의 일 예를 설명하기 위한 흐름도이다.
도 8a 내지 도 8d는 다양한 실시예에 따른 전자 장치의 동작의 일 예를 설명하기 위한 도면들이다.
도 9a 및 도 9b는 다양한 실시예에 따른 전자 장치의 동작의 일 예를 설명하기 위한 도면들이다.
도 10 및 도 11은 다양한 실시예에 따른 전자 장치의 동작에 따른 사용자 인터페이스의 일 예들을 설명하기 위한 도면들이다.
도 12는 다양한 실시예가 적용되는 다양한 폼팩터의 전자 장치들의 예들을 도시한 도면이다.
도 13은 다양한 실시예에 따른 전자 장치의 동작이 적용되는 일 예를 설명하기 위한 도면이다.
도 14a 내지 도 14c는 다양한 실시예에 따른 전자 장치의 동작이 적용되는 일 예를 설명하기 위한 도면이다.
도 15a 및 15b는 다양한 실시예에 따른 전자 장치의 동작이 적용되는 일 예를 설명하기 위한 도면이다.
도 16a 내지 16c는 다양한 실시예에 따른 전자 장치의 동작이 적용되는 일 예를 설명하기 위한 도면이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다. .
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는 다양한 실시예에 따른 프로그램을 예시하는 블록도이다.
도 2는, 다양한 실시예들에 따른 프로그램(140)을 예시하는 블록도(200)이다.
일 실시예에 따르면, 프로그램(140)은 전자 장치(101)의 하나 이상의 리소스들을 제어하기 위한 운영 체제(142), 미들웨어(144), 또는 상기 운영 체제(142)에서 실행 가능한 어플리케이션(146)을 포함할 수 있다. 운영 체제(142)는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 프로그램(140) 중 적어도 일부 프로그램은, 예를 들면, 제조 시에 전자 장치(101)에 프리로드되거나, 또는 사용자에 의해 사용 시 외부 전자 장치(예: 전자 장치(102 또는 104), 또는 서버(108))로부터 다운로드되거나 갱신될 수 있다.
운영 체제(142)는 전자 장치(101)의 하나 이상의 시스템 리소스들(예: 프로세스, 메모리, 또는 전원)의 관리(예: 할당 또는 회수)를 제어할 수 있다. 운영 체제(142)는, 추가적으로 또는 대체적으로, 전자 장치(101)의 다른 하드웨어 디바이스, 예를 들면, 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 구동하기 위한 하나 이상의 드라이버 프로그램들을 포함할 수 있다.
미들웨어(144)는 전자 장치(101)의 하나 이상의 리소스들로부터 제공되는 기능 또는 정보가 어플리케이션(146)에 의해 사용될 수 있도록 다양한 기능들을 어플리케이션(146)으로 제공할 수 있다. 미들웨어(144)는, 예를 들면, 어플리케이션 매니저(201), 윈도우 매니저(203), 멀티미디어 매니저(205), 리소스 매니저(207), 파워 매니저(209), 데이터베이스 매니저(211), 패키지 매니저(213), 커넥티비티 매니저(215), 노티피케이션 매니저(217), 로케이션 매니저(219), 그래픽 매니저(221), 시큐리티 매니저(223), 통화 매니저(225), 또는 음성 인식 매니저(227)를 포함할 수 있다.
어플리케이션 매니저(201)는, 예를 들면, 어플리케이션(146)의 생명 주기를 관리할 수 있다. 윈도우 매니저(203)는, 예를 들면, 화면에서 사용되는 하나 이상의 GUI 자원들을 관리할 수 있다. 멀티미디어 매니저(205)는, 예를 들면, 미디어 파일들의 재생에 필요한 하나 이상의 포맷들을 파악하고, 그 중 선택된 해당하는 포맷에 맞는 코덱을 이용하여 상기 미디어 파일들 중 해당하는 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(207)는, 예를 들면, 어플리케이션(146)의 소스 코드 또는 메모리(130)의 메모리의 공간을 관리할 수 있다. 파워 매니저(209)는, 예를 들면, 배터리(189)의 용량, 온도 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치(101)의 동작에 필요한 관련 정보를 결정 또는 제공할 수 있다. 일 실시예에 따르면, 파워 매니저(209)는 전자 장치(101)의 바이오스(BIOS: basic input/output system)(미도시)와 연동할 수 있다.
데이터베이스 매니저(211)는, 예를 들면, 어플리케이션(146)에 의해 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(213)는, 예를 들면, 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다. 커넥티비티 매니저(215)는, 예를 들면, 전자 장치(101)와 외부 전자 장치 간의 무선 연결 또는 직접 연결을 관리할 수 있다. 노티피케이션 매니저(217)는, 예를 들면, 지정된 이벤트(예: 착신 통화, 메시지, 또는 알람)의 발생을 사용자에게 알리기 위한 기능을 제공할 수 있다. 로케이션 매니저(219)는, 예를 들면, 전자 장치(101)의 위치 정보를 관리할 수 있다. 그래픽 매니저(221)는, 예를 들면, 사용자에게 제공될 하나 이상의 그래픽 효과들 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다.
시큐리티 매니저(223)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 통화(telephony) 매니저(225)는, 예를 들면, 전자 장치(101)에 의해 제공되는 음성 통화 기능 또는 영상 통화 기능을 관리할 수 있다. 음성 인식 매니저(227)는, 예를 들면, 사용자의 음성 데이터를 서버(108)로 전송하고, 그 음성 데이터에 적어도 일부 기반하여 전자 장치(101)에서 수행될 기능에 대응하는 명령어(command), 또는 그 음성 데이터에 적어도 일부 기반하여 변환된 문자 데이터를 서버(108)로부터 수신할 수 있다. 일 실시예에 따르면, 미들웨어(244)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. 일 실시예에 따르면, 미들웨어(144)의 적어도 일부는 운영 체제(142)의 일부로 포함되거나, 또는 운영 체제(142)와는 다른 별도의 소프트웨어로 구현될 수 있다.
어플리케이션(146)은, 예를 들면, 홈(251), 다이얼러(253), SMS/MMS(255), IM(instant message)(257), 브라우저(259), 카메라(261), 알람(263), 컨택트(265), 음성 인식(267), 이메일(269), 달력(271), 미디어 플레이어(273), 앨범(275), 와치(277), 헬스(279)(예: 운동량 또는 혈당과 같은 생체 정보를 측정), 또는 환경 정보(281)(예: 기압, 습도, 또는 온도 정보 측정) 어플리케이션을 포함할 수 있다. 일 실시예에 따르면, 어플리케이션(146)은 전자 장치(101)와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션(미도시)을 더 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치로 지정된 정보(예: 통화, 메시지, 또는 알람)를 전달하도록 설정된 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하도록 설정된 장치 관리 어플리케이션을 포함할 수 있다. 노티피케이션 릴레이 어플리케이션은, 예를 들면, 전자 장치(101)의 다른 어플리케이션(예: 이메일 어플리케이션(269))에서 발생된 지정된 이벤트(예: 메일 수신)에 대응하는 알림 정보를 외부 전자 장치로 전달할 수 있다. 추가적으로 또는 대체적으로, 노티피케이션 릴레이 어플리케이션은 외부 전자 장치로부터 알림 정보를 수신하여 전자 장치(101)의 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치(101)와 통신하는 외부 전자 장치 또는 그 일부 구성 요소(예: 표시 장치(160) 또는 카메라 모듈(180))의 전원(예: 턴-온 또는 턴-오프) 또는 기능(예: 표시 장치(160) 또는 카메라 모듈(180)의 밝기, 해상도, 또는 포커스)을 제어할 수 있다. 장치 관리 어플리케이션은, 추가적으로 또는 대체적으로, 외부 전자 장치에서 동작하는 어플리케이션의 설치, 삭제, 또는 갱신을 지원할 수 있다.
도 3은 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))에서 컨텐츠를 기록하는 예를 도시한다.
다양한 실시예에 따른 전자 장치(101)는 다양한 컨텐츠를 재생할 수 있다. 예를 들면 전자 장치(101)는 동영상을 재생할 수 있다. 예를 들면 동영상은 다른 전자 장치(예: 도 1의 서버(108) 또는 전자 장치(102 또는 104))로부터 스트리밍될 수 있다.
다양한 실시예에 따르면 전자 장치(101)는 화면 녹화 기능을 제공할 수 있다. 예를 들면 화면 녹화 기능에 따르면 현재 전자 장치(101)에서 재생되는 모든 컨텐츠를 기록할 수 있다. 화면 녹화 기능에 따라 기록되는 컨텐츠로는 비밀번호, 결제 정보, 이미지, 메시지, 음성, 미디어 오디오, 마이크 오디오, 및/또는 무음을 포함할 수 있으며 이에 한정되지 않고 전자 장치(101)가 디스플레이 및/또는 오디오 입출력을 통해 제공하는 다양한 정보들을 포함할 수 있다.
도 3을 참조하면, 화면 녹화 기능에 따라 전자 장치(101)에서 재생되는 동영상을 기록할 수 있다. 전자 장치(101)에서 동영상이 재생 중인 경우 예를 들면 화면 녹화 기능에 따라 제공되는 메뉴를 이용하여 녹화 버튼(301)을 선택함에 따라 재생되는 동영상을 기록할 수 있으며, 정지 버튼(302)을 선택함에 따라 동영상의 기록을 정지할 수 있다.
일 실시예에 따르면 전자 장치(101)에서 수행되는 다양한 프로세스의 영향으로 재생되는 컨텐츠의 기록을 위한 작업 호출이 딜레이되거나 오디오 정보가 일부 손실되는 경우에도 절대 시간 기준에 따른 오디오 데이터 인코딩 및 타임 스탬프 생성이 수행됨에 따라 오디오와 비디오의 싱크를 맞추도록 할 수 있다.
일 실시예에 따르면 전자 장치(101)에서 수행되는 다양한 프로세스에 의해 작업이 딜레이되거나 기록이 일시 정지되었다가 다시 시작하는 경우와 같이 다양한 문제 상황에서도, 절대 시간 기준에 따라 오디오 데이터가 순차로 인코딩될 수 있도록 작업 호출 시점을 결정하여 인코딩 시점을 조정함에 따라 오디오와 비디오의 싱크가 맞도록 할 수 있다.
도 4는 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 계층적인 구조(hierarchical architecture)를 도시한다.
도 4를 설명함에 있어서 도 2와 중복되는 구성 요소에 대한 설명은 생략 또는 간략히 기재된다. 도 4를 참조하면, 전자 장치(101)는 소프트웨어(401)와 하드웨어(402)를 포함할 수 있다. 소프트웨어(401)(예: 도 1의 프로그램(140))는 비휘발성 메모리(134)에서 휘발성 메모리(132)로 로드되어 프로세서(120)에 의해 실행될 수 있다. 소프트웨어(401)는 어플리케이션 계층(410), 프레임워크(420), 하드웨어 추상화 계층(HAL; hardware abstraction layer)(430), 및/또는 커널(kernel)(440)을 포함할 수 있다. 하드웨어(402)는 센서 컨트롤러(예: 센서 제어 회로)(450), DDI(display driver IC(integrated circuit))(460), 및/또는 오디오 컨트롤러(예: 오디오 제어 회로)(470)를 포함할 수 있다.
어플리케이션 계층(410)(예: 도 1 또는 도 2의 어플리케이션(146))은 프로세서(120)에 의해 실행 가능한 적어도 하나의 어플리케이션(411)(예: 제1어플리케이션(411a), 제2어플리케이션(411b), 제3어플리케이션(411c)) 및/또는 시스템 UI(412)를 포함할 수 있다. 적어도 하나의 어플리케이션(411)은 인터넷 브라우저, 비디오 어플리케이션, 및/또는 게임과 같이 그 종류가 제한되지 않고 다양할 수 있다. 예를 들어, 적어도 하나의 어플리케이션(411)은 재생 어플리케이션 또는 화면 녹화 어플리케이션을 포함할 수 있다. 시스템 UI(user interface)(412)는 알림 바(notification bar), 및/또는 퀵 메뉴(quick view)와 같이 전자 장치(101)에서 구현되는 여러 GUI(graphic user interface) 화면을 구성하는 어플리케이션을 의미할 수 있다.
프레임워크(420)(예: 도 1 또는 도 2의 미들웨어(144))는 전자 장치(101)의 하나 이상의 리소스들로부터 제공되는 기능 또는 정보가 적어도 하나의 어플리케이션(411)에 의해 사용될 수 있도록 다양한 기능들을 적어도 하나의 어플리케이션(411)으로 제공할 수 있다. 프레임워크(420)는, 액티비티 매니저(421), 윈도우 매니저(422), 뷰 시스템(view system)(423), 센서 매니저(424), 오디오 서비스 매니저(425), 또는 오디오 기록 매니저(ARM; audio recording manager)(426)를 포함할 수 있다.
액티비티 매니저(421)는 어플리케이션 계층(410)의 생명 주기와 액티비티(activity)를 제어할 수 있다. 윈도우 매니저(422)는 화면에서 사용되는 하나 이상의 GUI 자원들을 관리할 수 있다. 뷰 시스템(view system)(423)은 어플리케이션(411)의 사용자 인터페이스를 생성하기 위해 사용되는 확장 가능한 뷰들의 집합일 수 있다. 센서 매니저(424)는 센서(예: 도 1의 센서 모듈(176))에서 생성된 데이터를 어플리케이션(411)에서 사용 가능하도록 어플리케이션(411)에 제공할 수 있다. 오디오 서비스 매니저(425)는 오디오 파일들의 재생에 필요한 하나 이상의 포맷들을 파악하고, 그 중에서 선택된 포맷에 맞는 코덱을 이용하여 오디오 파일을 인코딩하거나 디코딩할 수 있다.
오디오 기록 매니저(426)는, 화면 녹화 어플리케이션이 실행되어 화면 녹화 기능이 수행됨에 따라, 전자 장치(101)에서 재생되는 컨텐츠를 기록하는 기능을 지원할 수 있다. 일 실시예에서, 오디오 기록 매니저(426)는 화면 녹화 어플리케이션의 실행에 따라 오디오 데이터의 인코딩을 위한 작업 스케줄을 확인하고, 스케줄에 기초하여 작업 호출(task call)의 수신(read task)을 확인하고 오디오 서비스 매니저(425)와 연동하여 오디오 데이터를 인코딩하도록 할 수 있다. 예를 들면 오디오 기록 매니저(426)는, 작업 스케줄에 기초하여 작업 호출의 수신 여부 및/또는 수신된 작업 호출들의 순서를 확인하고, 정시 또는 조정된 시점에 작업 호출을 출력하여 오디오 인코딩을 수행하도록 오디오 서비스 매니저(425)의 기능을 지원할 수 있다. 예를 들면 오디오 기록 매니저(426)는, 오디오 서비스 매니저(425)를 통해 기록 대상 오디오 세그먼트가 오디오 버퍼에 수신되었는지 확인할 수 있다. 오디오 버퍼는 예를 들면 도 1의 프로세서(120) 또는 메모리(130)에 포함될 수 있다. 오디오 프레임워크(427)는 기록 대상 오디오 세그먼트를 수신하여 오디오 버퍼에 저장되도록 할 수 있다. 오디오 기록 프레임워크(428)는 오디오 버퍼에 저장된 오디오 세그먼트가 저장된 순서에 따라 인코딩될 수 있도록 할 수 있다. 예를 들면 오디오 기록 매니저(426)는 스케줄에 기초하여 작업 호출 수신 및 오디오 세그먼트의 수신을 확인하고, 이에 기초하여 결정된 시점에 작업 호출을 출력하여 기록 대상 오디오 세그먼트를 인코딩하도록 오디오 기록 프레임워크(428)의 기능을 지원할 수 있다. 오디오 기록 매니저(426)에서 일부 기능(예: 오디오 인코딩을 위한 스케줄에 따른 작업 호출)은 어플리케이션(411)으로부터 수신될 수 있다.
HAL(430)은 하드웨어(402)와 소프트웨어(401) 사이의 추상화된 계층을 의미할 수 있다. HAL(430)은 입력 디스패처(input dispatcher)(433) 또는 센서에서 발생하는 이벤트를 표준화하는 인터페이스를 제공하는 이벤트 허브(431)를 포함할 수 있다. 입력 디스패처(433)는 발생한 이벤트를 어떠한 어플리케이션으로 제공할지 결정하는 기능을 수행할 수 있다. HAL(430)은 서피스 플린저(surface flinger)(432)를 포함할 수 있다. 서피스 플린저(432)는 어플리케이션에서 생성된 실행 화면 중 디스플레이에 표시할 실행 화면을 제공하는 기능을 수행하고, 디스플레이 구성 변경 시, 변경된 디스플레이 구성에 따라 해상도 및 밀집도의 변경을 처리하도록 어플리케이션(411)에 요청할 수 있다.
커널(440)(예: 도 1 또는 도 2의 운영체제(142))는 전자 장치에 포함된 다양한 하드웨어를 구동하기 위한 다양한 드라이버를 포함할 수 있다. 예를 들어, 커널(440)은 센서를 제어하도록 구성된 센서 컨트롤러(450)를 구동하기 위한 센서 드라이버(441), 디스플레이 패널을 제어하도록 구성된 DDI(460)를 구동하기 위한 디스플레이 드라이버(442), 및/또는 무선 통신 회로(예: 도 1의 무선 통신 모듈(192))를 통해 오디오 출력 장치를 제어하도록 구성된 오디오 컨트롤러(470)를 구동하기 위한 오디오 드라이버(443)를 포함할 수 있다.
일 실시예에 따르면 전자 장치(예: 도 1의 전자 장치(101))는, 어플리케이션 실행에 따라 컨텐츠의 이미지 데이터를 출력하는 디스플레이(예: 도 1의 디스플레이 모듈(160)), 상기 컨텐츠의 오디오 데이터를 출력하는 회로를 포함하는 음향 출력 모듈(예: 도 1의 음향 출력 모듈(155)) 및 상기 디스플레이 및 상기 음향 출력 모듈과 적응적으로 연결된 프로세서(예: 도 1의 프로세서(120))를 포함하고, 상기 프로세서는, 상기 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령(read task, RT)을 수신하기 위한 스케줄을 확인하고, 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여, 상기 작업 명령의 호출 시점을 조정하고 상기 조정된 호출 시점에 수신된 상기 작업 명령에 대응하는 상기 오디오 세그먼트를 인코딩하도록 설정될 수 있다. 여기서, RT는 다양한 작업을 위해 프로세서로 수신되는 명령의 일 예로서, RT를 예로 들어 설명하나 작업 명령은 다른 유형의 작업 명령을 포함할 수 있으며 RT에 한정되지 않는다.
일 실시예에 따르면 상기 프로세서는, 상기 오디오 데이터를 인코딩하기 위한 상기 스케줄에 따라 지정된 시간 간격으로 출력되는 상기 작업 명령의 순서에 따른 절대 시간 기준으로 대응하여 인코딩된 상기 오디오 세그먼트의 타임 스탬프를 생성하도록 설정 될 수 있다.
일 실시예에 따르면 상기 프로세서는, 상기 작업 명령 수신 시점에 상기 오디오 버퍼에 상기 오디오 세그먼트가 존재하는지 확인하고, 상기 작업 명령 이후에 스케줄된 다음번 작업 명령의 수신 시점 이전까지, 상기 작업 명령의 호출 시점을 조정하여 상기 조정된 시점에 상기 작업 명령을 호출하여 상기 오디오 버퍼로부터 상기 오디오 세그먼트의 수신을 시도하도록 설정 될 수 있다.
일 실시예에 따르면 상기 조정된 시점에 상기 오디오 세그먼트가 수신되지 않은 경우, 상기 다음번 작업 명령의 수신 시점 이전까지 상기 작업 명령의 호출에 따른 상기 오디오 세그먼트의 수신을 반복적으로 시도하도록 설정 될 수 있다.
일 실시예에 따르면 상기 프로세서는, 상기 스케줄에 기초하여 상기 작업 명령이 수신된 경우, 상기 작업 명령 이전에 스케줄된 이전 작업 명령이 대기 중인지 확인하고, 상기 이전 작업 명령이 대기 중인 경우 상기 이전 작업 명령 호출 시점 이후로 상기 작업 명령의 호출 시점을 조정하여 대기하도록 설정 될 수 있다.
일 실시예에 따르면 상기 프로세서는, 상기 작업 명령의 대기 중 상기 이전 작업 명령이 호출되어 수행되면, 상기 이전 작업의 수행 시점으로부터 상기 지정된 시간 간격 보다 짧은 시간 간격으로 상기 작업 명령의 호출 시점을 조정하도록 설정 될 수 있다.
일 실시예에 따르면 상기 프로세서는, 상기 작업 명령의 상기 조정된 호출 시점에 상기 스케줄에 따른 다음번 작업 명령의 수신 시점이 도래하면, 상기 다음번 작업 명령의 호출 시점을 상기 작업 명령의 수신 시점 이후로 조정하도록 설정될 수 있다.
도 5는 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 동작의 일 예를 설명하기 위한 흐름도이다.
일 실시예에 따르면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 프로그램(예: 도 1 또는 도 2의 프로그램(140))이 로딩되어 실행됨에 따라 예를 들면 도 4에 구현된 바와 같은 계층적인 구조(hierarchical architecture)에 기초하여, 전자 장치(101)에서 재생되는 컨텐츠에 대한 화면 녹화 기능이 수행되도록 할 수 있다.
일 실시예에 따르면 컨텐츠에 대한 화면 녹화 기능의 수행에 따라 오디오 데이터의 인코딩을 위해 수신되는 오디오 데이터 스트림은 지정된 크기의 분절(이하, 오디오 세그먼트로 칭함)로 분리되어 순서대로 오디오 버퍼에 입력될 수 있다.
일 실시예에 따르면 오디오 버퍼는 인코딩의 효율 및/또는 자원 효율을 고려하여 일정한 크기(예: 6개의 오디오 세그먼트를 저장할 수 있는 크기)로 구현될 수 있다. 오디오 버퍼에 저장된 오디오 세그먼트는, 순서대로 출력되는 작업 호출에 대응하여 오디오 버퍼로부터 출력되어 인코딩될 수 있다. 작업 호출의 생성 순서와 간격을 포함하는 작업 스케줄(task scheduling)은 전자 장치(101)의 리소스, 컨텐츠 및/또는 오디오 데이터의 특징과 같은 화면 녹화 기능을 수행하기 위한 다양한 조건에 기초하여 미리 지정되어 결정될 수 있다.
일 실시예에 따르면 전자 장치(101)의 프로세서(120)는 동작 501에서 화면 녹화 기능에 따른 작업 스케줄(task scheduling)을 확인할 수 있다. 예를 들면 작업 스케줄에 따르면, 화면 녹화 기능에 따라 수신되는 오디오 세그먼트가 지정된 시간 주기(예: 10ms)로 순차로 인코딩될 수 있도록, 오디오 버퍼에 입력되는 오디오 세그먼트에 대한 인코딩을 위한 작업 호출이 주기적으로 순서대로 생성되어 수신(read)될 수 있다.
일 실시예에 따르면 화면 녹화 기능에 따른 스케줄에도 불구하고 오디오 세그먼트에 대한 인코딩을 위한 작업 호출이 어떤 이유로든 지정된 시간에 생성되어 수신되지 않을 수 있다. 예를 들면 화면 녹화 기능에서 작업 호출을 지정된 시간에 수신하지 못할 수 있다. 예를 들면 작업 호출이 전자 장치(101) 내의 다른 프로세스들로 인해 처리가 지연되어 지정된 시간에 생성되어 수신되지 않는 경우가 발생할 수 있다. 예를 들면 작업 호출이 작업 스케줄에 따른 다른 작업 호출에 의해 우선 순위에서 밀려 지정된 시간에 생성되어 수신되었음에도 불구하고 출력되어 실행되지 못할 수 있다.
일 실시예에 따르면 전자 장치(101)의 프로세서(120)는 동작 503에서 작업 명령(read task, RT)을 수신 및/또는 오디오 버퍼를 확인하여 오디오 세그먼트가 존재하는지 확인할 수 있다. 예를 들면 오디오 데이터 스트림이 종료되지 않아 순서대로 입력된 오디오 세그먼트가 오디오 버퍼에 일시 저장되도록 설정되어 있으나, 다양한 상황에서 오디오 세그먼트가 정시에 수신되지 않아 오디오 버퍼에 저장된 오디오 세그먼트가 존재하지 않을 수 있다.
일 실시예에 따르면 전자 장치(101)의 프로세서(120)는 동작 505에서 작업 호출 스케줄에 따른 작업 호출 수신 및/또는 오디오 버퍼에 오디오 세그먼트의 존재 여부에 기초하여 작업 호출의 출력 시점을 결정할 수 있다. 예를 들면 작업 호출이 정시에 수신되었으나 오디오 버퍼에 오디오 세그먼트가 없는 경우, 프로세서(120)는 수신된 작업 호출이 스케줄에 의해 지정된 시점 이후의 시점에 출력되도록 출력 시점을 조정할 수 있다. 예를 들면 작업 호출이 정시에 수신되었으나 수신되어 대기 중인 이전 작업 호출이 있는지 확인하여, 이전에 수신된 작업 호출이 출력될 때까지 대기한 이후 시점으로 작업 호출의 출력 시점을 조정할 수 있다. 예를 들면 작업 호출이 정시에 수신되지 않고 지연된 후 해당 작업 호출이 수신되면, 그 이전에 수신된 작업 호출이 대기하고 있는지 확인하여, 이전에 수신된 작업 호출이 출력될 때까지 지연 또는 대기한 이후 시점으로 작업 호출의 출력 시점을 조정할 수 있다. 예를 들면 작업 호출이 정시에 수신되지 않는 경우가 누적되고 이후 복수의 작업 호출이 수신됨에 따라 복수의 작업 호출이 지체되면, 각 작업 호출 시점 간의 시간 간격을 줄여, 작업 호출들이 순서대로 보다 빈번하게 출력되도록 각 작업 호출들의 출력 시점을 조정할 수 있다.
도 6은 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 오디오 인코딩 동작을 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 프로그램(예: 도 1 또는 도 2의 프로그램(140))이 로딩되어 실행됨에 따라 예를 들면 도 4에 구현된 바와 같은 계층적인 구조(hierarchical architecture)에 기초하여, 전자 장치(101)에서 재생되는 컨텐츠에 대한 화면 녹화 기능이 수행되도록 할 수 있다.
일 실시예에 따른 수신 작업 모듈(read task module)(610)은 예를 들면 프로세서(예: 도 1의 프로세서(120)) 및/또는 오디오 기록 매니저(예: 도 4의 오디오 기록 매니저(426))의 기능을 수행할 수 있다.
일 실시예에 따르면 작업 수신 모듈(610)은 지정된 스케줄에 따라 지정된 시간 간격, 예를 들면 Nms 마다 작업 명령(read task, RT)을 생성하여 작업을 호출하도록 설정될 수 있다.
일 실시예에 따르면 프로세서(120)는 작업 명령의 호출 개수에 따라 각 오디오 세그먼트의 타임 스탬프(time stamp)를 계산 할 수 있다. 예를 들면 타임 스탬프는 누적된 호출 개수 또는 호출의 순서에 대해 호출 간의 시간 간격(예: Nms)을 곱한 값 (예: timestamp = call 개수 * Nms)일 수 있다. 따라서 타임 스탬프가 절대 시간 기준 예를 들면 오디오 세그먼트 존재 여부와 무관하게 작업 명령이 호출된 개수 및 오디오 세그먼트의 크기에 대응하여 생성될 수 있다.
도 6을 참조하면, 작업 명령은 호출 순서대로 제1 작업 명령(RT1)이 스케줄에 따른 제1 시점(601)에, 제2 작업 명령(RT2)이 스케줄에 따른 제2 시점(602)에 각각 작업 스케줄에 따른 시간 간격(Nms)으로 호출되어 수신될 수 있다. 수신된 각 작업에 따라 오디오 세그먼트가 인코딩되고, 인코딩된 오디오 세그먼트에 대해 타임 스탬프가 상술한 바와 같이 부여될 수 있다.
도 7은 다양한 실시예에 따른 전자 장치의 동작의 일 예를 설명하기 위한 흐름도이다.
일 실시예에 따르면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 프로그램(예: 도 1 또는 도 2의 프로그램(140))이 로딩되어 실행됨에 따라 예를 들면 도 4에 구현된 바와 같은 계층적인 구조(hierarchical architecture)에 기초하여, 전자 장치(101)에서 재생되는 컨텐츠에 대한 화면 녹화 기능이 수행되도록 할 수 있다.
일 실시예에 따르면 컨텐츠에 대한 화면 녹화 기능의 수행에 따라 오디오 데이터의 인코딩을 위해 수신되는 오디오 데이터 스트림은 지정된 크기의 분절(이하, 오디오 세그먼트로 칭함)로 분리되어 순서대로 오디오 버퍼에 입력될 수 있다.
일 실시예에 따르면 오디오 버퍼는 인코딩의 효율 및/또는 자원 효율을 고려하여 일정한 크기(예: 6개의 오디오 세그먼트를 저장할 수 있는 크기)로 구현될 수 있다. 오디오 버퍼에 저장된 오디오 세그먼트는, 순서대로 출력되는 작업 호출에 대응하여 오디오 버퍼로부터 출력되어 인코딩될 수 있다. 작업 호출의 생성 순서와 간격을 포함하는 작업 스케줄(task scheduling)은 전자 장치(101)의 리소스, 컨텐츠 및/또는 오디오 데이터의 특징과 같은 화면 녹화 기능을 수행하기 위한 다양한 조건에 기초하여 미리 지정되어 결정될 수 있다.
일 실시예에 따르면 전자 장치(101)의 프로세서(120)는 동작 701에서 화면 녹화 기능에 따른 작업 스케줄(task scheduling)을 확인할 수 있다. 예를 들면 작업 호출 스케줄에 따르면, 화면 녹화 기능에 따라 수신되는 오디오 세그먼트가 지정된 시간 주기(예: Nms)로 순차로 인코딩될 수 있도록, 오디오 버퍼에 입력되는 오디오 세그먼트에 대한 인코딩을 위한 작업 호출(task call)이 주기적으로 순서대로 생성되어 수신(read)될 수 있다.
일 실시예에 따르면 전자 장치(101)의 프로세서(120)는 동작 703에서 화면 녹화 기능에 따른 작업 스케줄에 따라 작업 명령이 수신되는지 확인할 수 있다.
일 실시예에 따르면 화면 녹화 기능에 따른 작업 스케줄에도 불구하고 오디오 세그먼트에 대한 인코딩을 위한 작업 명령이 어떤 이유로든 지정된 시간에 생성되어 수신되지 않을 수 있다. 예를 들면 화면 녹화 기능에서 작업 명령을 지정된 시간에 수신하지 못할 수 있다. 예를 들면 작업 명령이 전자 장치(101) 내의 다른 프로세스들로 인해 처리가 지연되어 지정된 시간에 생성되어 수신되지 않는 경우가 발생할 수 있다. 예를 들면 작업 명령이 스케줄에 따른 다른 작업 명령에 의해 밀려 지정된 시간에 생성되지 못할 수 있다.
일 실시예에 따르면 프로세서(120)는 작업 명령이 작업 스케줄에 따라 지정된 시간에 수신되지 않는 경우(동작 703 - 'NO') 동작 705에서 작업 명령에 대기하면서 작업 명령 수신을 시도하도록 할 수 있다. 예를 들면 작업 명령에 대기하는 동안, 작업 명령 호출을 지정된 시간 간격으로 복수회 시도할 수 있다.
일 실시예에 따르면 스케줄에 따른 작업 명령이 수신된 경우(동작 703 - 'YES') 프로세서(120)는 동작 707에서 수신된 작업 명령의 이전 작업 명령, 즉 보다 상위인 우선 순위의 작업 명령이 존재하는지 확인할 수 있다. 예를 들면 스케줄에 따라 지정된 시간 주기에 작업 명령이 수신된 경우 해당 작업 명령 이전에 수신된 작업 명령이 출력되어 수행되지 못하고 그대로 존재하는 경우가 발생할 수 있다.
일 실시예에 따르면, 스케줄에 따른 작업 명령이 수신되었으나 이전 작업 명령이 존재하는 경우(동작 707 - 'YES'), 프로세서(120)는 동작 709에서 수신된 작업 명령을 일정 시간 대기하도록 할 수 있다.
일 실시예에 따르면 프로세서(120)는 동작 709에 따른 수신된 작업 명령의 대기 시간이 경과하면, 동작 710에서 이전 작업 명령 호출이 출력되었는지 확인할 수 있으며, 동작 707로 진행하여 이전 작업 명령 호출이 출력되어 이전 작업 명령이 존재하지 않으면(동작 707 - 'NO'), 동작 711로 진행할 수 있다.
일 실시예에 따르면 스케줄에 따른 작업 명령이 수신되고 이전에 수신된 작업 명령이 존재하지 않으면(동작 707 - 'NO'), 프로세서(120)는 동작 711에서, 오디오 버퍼를 확인하여 오디오 세그먼트가 존재하는지 확인할 수 있다. 예를 들면 오디오 데이터 스트림이 종료되지 않아 순서대로 입력된 오디오 세그먼트가 오디오 버퍼에 일시 저장되도록 설정되어 있으나, 다양한 상황에서 오디오 세그먼트가 정시에 수신되지 않아 오디오 버퍼에 저장된 오디오 세그먼트가 존재하지 않을 수 있다.
일 실시예에 따르면 오디오 버퍼에 오디오 세그먼트가 존재하지 않으면(동작 711 - 'NO'), 프로세서(120)는 동작 715로 진행하여 지정된 시간이 경과하였는지 확인하고, 지정된 시간이 경과하지 않았으면(동작 715 - 'NO') 동작 717에서 오디오 수신을 대기할 수 있다. 오디오 수신을 대기할 수 있는 지정된 시간은 예를 들면 작업 스케줄에 따라 다음번 작업 호출이 수신되는 시점 이전에 대기가 종료될 수 있도록 설정될 수 있다.
일 실시예에 따르면 지정된 시간 동안 오디오 세그먼트 수신을 대기하였음에도 불구하고, 오디오 버퍼가 비어있고 지정된 시간이 경과한 경우(동작 715 - 'YES'), 다음번 작업 명령을 위해 동작 719로 진행하여 작업 명령 순서를 증가시키고 동작 703으로 회귀할 수 있다. 이 경우 지정된 시간은 작업 명령 호출 시간 주기(예: Nms) 보다 작은 시간(예: α)이 될 수 있다.
일 실시예에 따르면, 지정된 시간 동안 오디오 세그먼트 수신 대기 동작(동작 717) 및 작업 명령 호출에 따른 오디오 버퍼의 확인 동작(동작 711)은 복수회 반복될 수 있으며, 각 반복에 따른 대기 시간은 동일하거나 상이하게 설정될 수 있다.
일 실시예에 따르면, 지정된 시간 동안 오디오 세그먼트 수신 대기 동작(동작 717) 및 작업 명령 호출에 따른 오디오 버퍼의 확인 동작(동작 711)은 복수회 반복되는 경우에도 누적된 대기 시간은, 작업 스케줄에 따라 다음번 작업 명령 호출이 예정된 시점 이전에 중단되고, 다음번 작업 명령 호출을 위해 작업 명령 호출 순서를 증가시키는 동작 719가 수행되도록 설정될 수 있다.
일 실시예에 따르면 오디오 버퍼에 오디오 세그먼트가 존재하면(동작 711 - 'YES'), 프로세서(120)는 동작 713으로 진행하여 오디오 버퍼로부터 오디오 세그먼트를 출력하여 인코딩되도록 할 수 있다. 수신된 작업 명령 호출의 출력에 따라 오디오 버퍼로부터 출력되어 인코딩된 오디오 세그먼트에는, 작업 스케줄에 따른 시간 경과에 따른 타임 스탬프가 아닌 수신된 작업 명령 호출의 누적된 개수에 대응하는 타임 스탬프가 부여될 수 있다. 예를 들면 오디오 세그먼트의 인코딩에 따라 생성된 패킷의 헤더에 부여된 타임 스탬프가 기록될 수 있다.
도 8a 내지 도 8d는 다양한 실시예에 따른 전자 장치의 동작의 일 예를 설명하기 위한 도면들이다.
일 실시예에 따르면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 프로그램(예: 도 1 또는 도 2의 프로그램(140))이 로딩되어 실행됨에 따라 예를 들면 도 4에 구현된 바와 같은 계층적인 구조(hierarchical architecture)에 기초하여, 전자 장치(101)에서 재생되는 컨텐츠에 대한 화면 녹화 기능이 수행되도록 할 수 있다.
일 실시예에 따른 수신 작업 모듈(read task module)(610)은 예를 들면 프로세서(예: 도 1의 프로세서(120)) 및/또는 오디오 기록 매니저(예: 도 4의 오디오 기록 매니저(426))의 기능을 수행할 수 있다.
일 실시예에 따르면 프로세서(120)는 수신 작업 모듈(610)이 지정된 스케줄에 따라 지정된 시간 간격, 예를 들면 Nms 마다 작업 명령(read task, RT)을 생성하여 오디오 버퍼로부터 오디오 세그먼트를 독출하여 인코딩하는 작업을 호출하도록 설정될 수 있다.
도 8a를 참조하면, 제1 작업 명령(RT1)이 스케줄에 따라 제1 시점(801)에 수신된 이후, 제2 작업 명령(RT2)이 스케줄된 제2 시점(1N, 802)에 수신되지 않을 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 스케줄된 제2 시점(1N, 802)에 수신되지 않음에 따라 지정된 시간 동안 제2 작업 명령(RT2)을 대기하여, 조정된 제2 시점(802-1)에 제2 작업 명령(RT2)을 호출하여 호출된 작업을 수신할 수 있다. 이후 제3 시점(803)에 스케줄에 따른 제3 작업 명령(RT3)이 수신됨에 따라 작업 스케줄에 따른 순서와 시간 간격(Nms)이 정상화되어 작업이 주기적으로 호출되어 수신될 수 있다.
일 실시예에 따르면 프로세서(120)는 작업 명령들이 지연되는 경우 이후 작업 명령의 적어도일부는 지정된 주기를 조정하여 보다 빠른 주기로 수신되도록 할 수 있다. 예를 들면 프로세서(120)는 제1 작업 명령(RT1)이 호출된 이후, 제2 작업 명령(RT2)이 스케줄된 시점보다 α 시간 지연되어 조정된 제2 시점(N+α 시점)에 수신되면, 제3 작업 명령(RT3)은 스케줄된 시간(2N 시점)에 수신될 수 있도록 제2 시점(N+α 시점)으로부터 조정된 시간 간격(N-α) 이후 수신되도록 할 수 있다.
일 실시예에 따르면 일부 작업 명령이 지연됨에도 불구하고, 프로세서(120)는 스케줄과 다르게 지연된 작업의 수신 호출 시점을 조정함으로써, 작업이 순서대로 수신되어 이에 대응하는 오디오 세그먼트가 순서대로 인코딩되도록 할 수 있다. 따라서, 수신된 작업 호출 순서가 유지되어 누적된 작업 호출 개수가 유지될 수 있으며, 이에 기초한 절대 시간 기준에 따라 타임 스탬프가 부여될 수 있다.
도 8b를 참조하면, 제1 작업 명령(RT1)이 스케줄에 따라 제1 시점(811)에 수신된 이후, 제2 작업 명령(RT2)이 스케줄된 시점(RT2, 812)에 수신되지 않고 제3 작업 명령(RT3)도 스케줄된 시점(RT3, 813)에 수신되지 않을 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 스케줄된 시점에 수신되지 않음에 따라 지정된 시간 동안 제2 작업 명령(RT2)을 대기하고, 그럼에도 불구하고, 이후 제3 작업 명령(RT3) 또한 지정된 시점에 수신되지 않음에 따라 제2 작업 명령(RT2)과 제3 작업 명령(RT3)이 모두 대기하는 상황이 발생할 수 있다.
일 실시예에 따르면 프로세서(120)는, 제1 작업 명령 시점(811) 이후 제3 작업 명령(RT3) 이전까지 제2 작업 명령(RT2)을 대기할 수 있으며, 제2 작업 명령(RT2)이 제2 시점(제1 시점(811)으로부터 2N+α ms 이후) (812-1)에 호출되어 수신되면, 조정된 제2 시점(812-1)으로부터 제4 작업 명령(RT4)이 스케줄된 시점(814) 이전에 제3 작업 명령(RT3)이 수신될 수 있도록 제3 작업 명령(RT3)의 호출 시점(813-1)을 예를 들면 제2 시점(812-1) 이후 α1 시간 이내로 조정할 수 있다. 이에 따라 제2 작업 명령(RT2)이 수신된 제2 시점(812-1) 이후 기존 스케줄된 작업 명령 수신 간격(Nms) 보다 짧은 N- α 시간 내에 제3 작업 명령(RT3)에 대한 호출과 제4 작업 명령(RT4)에 대한 호출이 수행될 수 있다.
일 실시예에 따르면 프로세서(120)는 작업 명령들이 지연되는 경우 이후 작업 명령의 적어도 일부는 지정된 주기를 조정하여 보다 빠른 주기로 수신되도록 할 수 있다. 예를 들면 프로세서(120)는 제1 작업 명령(RT1)이 호출된 이후, 제2 작업 명령(RT2)이 스케줄된 시점보다 N+α 시간 지연되어 조정된 제2 시점(2N+α 시점)에 수신되도록 할 수 있다. 또한 프로세서(120)는 제2 작업 명령(RT2)뿐만 아니라 제3 작업 명령(RT3) 또한 스케줄된 시간(2N 시점)에 수신되지 않은 경우 제2 작업 명령(RT2)의 조정된 제2 시점(2N+α 시점) 이후 짧은 시간 간격(α1)으로 조정된 제3 시점(2N+α+α1)에 수신되도록 할 수 있다. 또한, 제4 작업 명령(RT4)은 스케줄된 시간(3N 시점)에 수신될 수 있도록 제3 시점(N+α 시점)으로부터 짧은 시간 간격((N-α-α1) 또는 α2)으로 조정된 제4 시점(3N)에 수신되도록 호출될 수 있다.
일 실시예에 따르면 프로세서(120)는 일부 작업 명령이 지연됨에도 불구하고, 스케줄과 다르게 지연된 작업의 수신 호출 시점을 조정함으로써, 작업이 순서대로 수신되어 이에 대응하는 오디오 세그먼트가 순서대로 인코딩되도록 할 수 있다. 따라서, 수신된 작업 호출 순서가 유지되어 누적된 작업 호출 개수가 유지될 수 있으며, 이에 기초한 절대 시간 기준에 따라 타임 스탬프가 부여될 수 있다.
도 8c를 참조하면, 제1 작업 명령(RT1)이 스케줄에 따라 제1 시점(821)에 수신된 이후, 제2 작업 명령(RT2)이 스케줄된 시점(822)에 호출되지 않고, 제3 작업 명령(RT3)이 스케줄된 시점(823)에 호출되지 않고, 제4 작업 명령(RT4)이 스케줄된 시점(824)에 호출되지 않을 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 스케줄된 시점(822)에 수신되지 않음에 따라 지정된 시간 동안 제2 작업 명령(RT2)을 대기하도록 할 수 있다. 그럼에도 불구하고, 이후 제3 작업 명령(RT3) 및 제4 작업 명령(RT4) 또한 지정된 시점에 수신되지 않음에 따라 제2 작업 명령(RT2)과 제3 작업 명령(RT3) 및 제4 작업 명령(RT4)이 모두 지연되는 상황이 발생할 수 있다.
일 실시예에 따르면 프로세서(120)는, 제1 작업 명령(RT1) 수신 시점(821) 이후 제3 작업 명령(RT3) 이전까지 제2 작업 명령(RT2)을 대기할 수 있으며, 제2 작업 명령(RT2)이 제2 시점(제1 시점(821)으로부터 3N+α ms 이후) (822-1)에 호출되어 수신되면, 조정된 제2 시점(822-1) 이후 스케줄된 제5 작업 명령(RT5)의 스케줄된 제5 시점(825) 이전에 제3 작업 명령(RT3) 및 제4 작업 명령(RT4)이 호출될 수 있도록 제3 작업 명령(RT3)의 호출 시점(823-1) 및 제4 작업 명령(RT4)의 호출 시점(824-1)을 조정할 수 있다. 예를 들면 제3 작업 명령(RT3)의 호출 시점(823-1)은 제2 시점(822-1) 이후 α1 시간 경과 시점으로 조정될 수 있으며, 제4 작업 명령(RT4)의 호출 시점(824-1)은 제3 시점(823-1) 이후 α2 시간 경과 시점으로 조정될 수 있다. 이에 따라 제2 작업 명령(RT2)이 수행된 제2 시점(822-1) 이후 기존 스케줄된 작업 명령 간격(Nms) 보다 짧은 N-α 시간 내에 제3 작업 명령(RT3)에 대한 호출이 제3 시점(823-1)에 수행될 수 있고, 제4 작업 명령(RT4)에 대한 호출이 제4 시점(824-1)에 수행될 수 있으며, 이후 제5 작업 명령(RT5)은 제4 작업 명령(RT4)의 호출 시점(824-1)으로부터 스케줄된 시간 주기(N ms) 보다 짧은 α3 시간 간격 이후에, 원래 스케줄된 시점(825)에 수행될 수 있다.
일 실시예에 따르면 프로세서(120)는 작업 명령들이 지연되는 경우 이후 작업 명령의 적어도 일부는 스케줄된 시점 및 스케줄된 주기를 조정하여 보다 빠른 주기로 수신되도록 할 수 있다.
도 8d를 참조하면, 제1 작업 명령(RT1)이 스케줄에 따라 제1 시점(831)에 수신된 이후, 제2 작업 명령(RT2)이 스케줄된 시점(832)에 호출되지 않고, 제3 작업 명령(RT3)이 스케줄된 시점(833)에 호출되지 않고, 제4 작업 명령(RT4)이 스케줄된 시점(834)에 호출되지 않을 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 스케줄된 시점에 수신되지 않음에 따라 지정된 시간 동안 제2 작업 명령(RT2)을 대기하도록 할 수 있다. 그럼에도 불구하고, 이후 제3 작업 명령(RT3) 및 제4 작업 명령(RT4) 또한 지정된 시점에 수신되지 않음에 따라 제2 작업 명령(RT2)과 제3 작업 명령(RT3) 및 제4 작업 명령(RT4)이 모두 지연되어 대기하는 상황이 발생할 수 있다.
일 실시예에 따르면 프로세서(120)는, 제1 작업 명령 시점(831) 이후 조정된 제2 시점(제1 시점(831)으로부터 3N+α ms 이후) (832-1)에 제2 작업 명령(RT2)이 호출되어 수신되면, 조정된 제2 시점(832-1) 이후 최소한의 작업 호출 시간 주기, 예를 들어 α1 시간 경과 시점인 제3 시점(833-1)에 제3 작업 명령(RT3)을 호출할 수 있다.
이후 제4 작업 명령(RT4)이 호출 시간을 조정하여 최소한의 작업 호출 시간 주기, 예를 들어 α2 시간 경과 시점인 제4 시점(834-1)에 호출되도록 시점을 조정할 수 있다.
일 실시예에 따르면 제4 작업 명령(RT4)의 조정된 호출 시점(834-1) 이전에, 스케줄에 따른 제5 작업 명령(RT5) 수신 시점(4N)이 되어 제5 작업 명령(RT5)이 호출될 수 있다. 이 경우 프로세서(120)는 제5 작업 명령(RT5) 이전의 작업 명령, 즉 보다 상위 우선 순위의 작업 명령이 대기 중인지 확인할 수 있다. 프로세서(120)는 제5 작업 명령(RT5)이 수신되었으나 이전의 작업 명령인 제4 작업 명령(RT4)이 대기 중인 것을 확인하고 제5 작업 명령(RT5)의 호출 시점을 지연하고 대기하도록 할 수 있다.
일 실시예에 따르면 프로세서(120)는 대기하는 제5 작업 명령(RT5)을, 제4 작업 명령(RT4)의 호출 시점(834-1) 이후 α3 시간 경과 시점(835-1)으로 조정할 수 있으며, 이후 제6 작업 명령(RT6)의 호출 시점(836)은 제5 시점(835-1) 이후 α4 시간 경과 시점으로 조정될 수 있다. 이에 따라 제5 작업 명령(RT5)이 수행된 제5 시점(835-1) 이후 기존 스케줄된 작업 명령 간격(Nms) 보다 짧은 α4 시간 이후 제6 작업 명령(RT6)에 대한 호출이 원래 스케줄된 시점(5N) (836)에 수행될 수 있다.
일 실시예에 따르면 프로세서(120)는 작업 명령들이 지연되는 경우 이후 작업 명령의 적어도 일부는 스케줄된 시점 및 스케줄된 주기를 조정하여 보다 빠른 주기로 수신되도록 할 수 있다.
도 9a 및 도 9b는 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 동작의 일 예를 설명하기 위한 도면들이다.
일 실시예에 따르면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 프로그램(예: 도 1 또는 도 2의 프로그램(140))이 로딩되어 실행됨에 따라 예를 들면 도 4에 구현된 바와 같은 계층적인 구조(hierarchical architecture)에 기초하여, 전자 장치(101)에서 재생되는 컨텐츠에 대한 화면 녹화 기능이 수행되도록 할 수 있다.
일 실시예에 따른 수신 작업 모듈(read task module)(610)은 예를 들면 프로세서(예: 도 1의 프로세서(120)) 및/또는 오디오 기록 매니저(예: 도 4의 오디오 기록 매니저(426))의 기능을 수행할 수 있다.
일 실시예에 따르면 프로세서(120)는 수신 작업 모듈(610)이 지정된 스케줄에 따라 지정된 시간 간격, 예를 들면 Nms 마다 작업 명령(read task, RT)을 생성하여 오디오 버퍼로부터 오디오 세그먼트를 독출하여 인코딩하는 작업을 호출하도록 설정될 수 있다.
도 9a를 참조하면, 제1 작업 명령(RT1)이 스케줄에 따라 제1 시점(901)에 수신되어 작업이 수행된 이후, 제2 작업 명령(RT2)이 스케줄된 시점(1N)에 수신되었음에도 불구하고 오디오 버퍼에 오디오 세그먼트가 존재하지 않을 수 있다. 예를 들면 오디오 정보가 전자 장치(101)의 하드웨어 및/또는 소프트웨어의 리소스 부족, 데이터 입출력의 장애 및/또는 백그라운드에서 실행되는 어플리케션과 같은 다수의 프로그램 실행에 따라 손실되는 경우가 발생할 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 수신되었으나 오디오 버퍼가 비어 있는 경우, 다음번 작업(제3 작업 명령(RT3)) 수신 시점 이전까지 제2 작업 명령(RT2)에 따른 작업 호출을 시도할 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 스케줄된 제2 시점(1N)에 수신되었으나 오디오 버퍼가 비어 있는 경우, 제2 작업 명령(RT2)에 따라 지정된 시간(α) 동안 지정된 횟수(m)까지 반복적으로 호출함으로써 오디오 버퍼로부터 오디오 세그먼트의 출력을 적어도 일회 이상 반복 시도(902-1, 902-2, …, 902-m)할 수 있다.
일 실시예에 따르면, 프로세서(120)는 제2 작업 명령(RT2)에 따른 오디오 버퍼에 대한 출력 작업 호출은 제3 작업 명령(RT3)이 스케줄된 시점(2N) 이전까지 수행할 수 있다.
일 실시예에 따르면 프로세서(120)는 제3 작업 명령(RT3)의 수신 시점(903) 이전에 오디오 버퍼에 오디오 세그먼트가 입력되면, 제2 작업 명령(RT2)에 따른 오디오 버퍼에 대한 출력 작업을 수행하여 오디오 세그먼트를 인코딩하도록 할 수 있다.
이에 따라, 제2 시점(902)에 스케줄된 제2 작업 명령(RT2)에 따른 작업이 조정된 시점에 수행되고 이후 제3 시점(903)에 스케줄된 제3 작업 명령(RT3)에 따른 오디오 세그먼트 인코딩이 수행됨으로써 작업 명령들이 순서대로 수행되고 각각의 작업 명령들에 대응하여 인코딩된 오디오 세그먼트에 대해 작업 명령의 누적 호출 개수에 따른 절대 시간 기준 타임 스탬프가 부여될 수 있다.
일 실시예에 따르면 작업 명령이 지연되지 않는 경우에도 오디오 버퍼의 상태에 따라 오디오 세그먼트가 존재하지 않는 경우, 작업 명령 시점을 조정하여 조정된 시점에 오디오 버퍼를 재차 확인하여 입력이 늦어진 오디오 세그먼트에 대한 인코딩을 시도하도록 할 수 있어 오디오 데이터의 손실을 감소시킬 수 있다.
도 9b를 참조하면, 제1 작업 명령(RT1)이 스케줄에 따라 제1 시점(911)에 수신되어 작업이 수행된 이후, 제2 작업 명령(RT2)이 스케줄된 시점(1N)에 수신되었음에도 불구하고 오디오 버퍼에 오디오 세그먼트가 존재하지 않을 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 수신되었으나 오디오 버퍼가 비어 있는 경우, 다음번 작업(제3 작업 명령(RT3)) 수신 시점 이전까지 제2 작업 명령(RT2)에 따른 작업 호출을 시도할 수 있다.
일 실시예에 따르면 프로세서(120)는 제2 작업 명령(RT2)이 스케줄된 제2 시점(1N)에 수신되었으나 오디오 버퍼가 비어 있는 경우, 제2 작업 명령(RT2)에 따라 지정된 시간(β) 동안 지정된 횟수(m)까지 반복적으로 호출함으로써 오디오 버퍼로부터 오디오 세그먼트의 출력을 적어도 일회 이상 반복 시도(912-1, 912-2, …, 912-m)할 수 있다.
일 실시예에 따르면, 프로세서(120)는 제2 작업 명령(RT2)에 따른 오디오 버퍼에 대한 출력 작업 호출은 제3 작업 명령(RT3)이 스케줄된 시점 이전까지 수행할 수 있다.
일 실시예에 따르면 프로세서(120)는 제3 작업 명령(RT3)의 수신 시점(913) 이전까지 오디오 버퍼에 오디오 세그먼트가 입력되지 않으면, 제2 작업 명령(RT2)에 따른 오디오 버퍼에 대한 출력 작업이 수행되지 못할 수 있다. 이 경우 프로세서(120)는 작업 명령 횟수 또는 작업 호출 순서를 1만큼 증가시키고 제3 작업 명령(RT3)을 호출할 수 있다. 이에 따라, 제2 시점(912)에 스케줄된 제2 작업 명령(RT2)에 따른 작업이 수행되지 못하여 인코딩된 오디오 세그먼트가 존재하지 않는 경우에도, 제3 시점(913)에 스케줄된 제3 작업 명령(RT3)에 따른 오디오 세그먼트 인코딩에 대한 타임 스탬프는, 절대 시간 기준에 따른 작업 순서와 시간 간격(Nms)으로 예를 들어 누적된 호출의 개수에 따른 2N으로 설정될 수 있다.
일 실시예에 따르면 오디오 입력의 지연에 따라 작업 명령 시점을 조정하여 조정된 시점에 오디오 버퍼를 재차 확인하였음에도 불구하고 오디오 세그먼트가 입력되지 않은 경우, 다음번 작업 명령을 스케줄된 시점에 수행하고, 오디오 인코딩이 수행되지 않은 작업 명령에 대해서도 작업 명령의 호출 개수를 누적하는 방식으로, 다음번 작업 명령에 따른 오디오 인코딩에 대한 타임 스탬프에 작업 명령의 호출 개수를 증가시켜 절대 시간 기준에 따라 타임 스탬프를 부여함으로써 오디오 스킵을 방지 및/또는 줄일 수 있다.
일 실시예에 따르면 일부 작업 명령에 대한 오디오 인코딩이 미수행됨에도 불구하고, 스케줄과 다르게 미수행된 작업 이후 호출 개수를 증가시켜 누적하고 누적된 호출 개수에 따라 인코딩된 오디오 세그먼트에 타임 스탬프를 부여하도록 함으로써 오디오 스킵을 방지 및/또는 줄일 수 있다.
도 10 및 도 11은 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 동작에 따른 디스플레이(예: 도 1의 디스플레이 모듈(160))에 표시된 사용자 인터페이스의 일 예들을 설명하기 위한 도면들이다.
도 10을 참조하면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 어플리케이션이 실행됨에 따라 디스플레이(160)에 사용자 인터페이스 표시 동작을 수행할 수 있다.
전자 장치(101)는 사용자 인터페이스로서 다양한 실시예에 따른 화면 녹화 기능을 수행하기 위한 다양한 메뉴 화면, 예를 들면 퀵 패널에 스크린 리코더(screen recorder) 기능 실행 메뉴(1001)를 제공할 수 있다.
일 실시예에 따르면 화면 녹화 기능 메뉴의 선택에 따라 전자 장치(101)에서 재생되는 컨텐츠에 대한 기록이 수행될 수 있다. 예를 들면 스크린 리코더 기능 실행 메뉴(1001)가 선택됨에 따라 화면 녹화 기능이 수행될 수 있다. 예를 들면 화면 녹화 기능이 수행되면 해당 기능을 수행하기 위한 프로그램을 로딩하는 동안 대기하거나 즉시 실행(skip countdown) 메뉴(1002)를 선택함으로써 현재 전자 장치(101)를 통해 재생 중인 컨텐츠에 대한 화면 녹화 기능이 시작되도록 할 수 있다.
일 실시예에 따르면 화면 녹화 기능에 따라 전자 장치(101)에서 재생되는 컨텐츠가 기록되는 동안 디스플레이(160)에는 화면 녹화 기능을 정지할 수 있는 메뉴 버튼(1003)을 포함하는 다양한 편집 메뉴가 제공될 수 있다.
도 11을 참조하면, 전자 장치(101)의 프로세서(120)는 어플리케이션이 실행됨에 따라 디스플레이(160)에 사용자 인터페이스 표시 동작을 수행할 수 있다.
전자 장치(101)는 사용자 인터페이스로서 다양한 실시예에 따른 화면 녹화 기능을 수행하기 위한 다양한 메뉴 화면, 예를 들면 퀵 패널에 스크린 리코더(screen recorder) 기능 실행 메뉴(1101)를 제공할 수 있다.
일 실시예에 따르면 전자 장치(101)는 화면 녹화 기능에 따른 세부 설정 메뉴(1102)를 제공할 수 있다. 예를 들면 기능 실행 메뉴(1101)에 대한 롱 터치에 의해 세부 설정 메뉴(1102)가 팝업되어 표시될 수 있다. 예를 들면 세부 설정 메뉴(1102)는 화면 녹화 기능에 따라 기록되는 다양한 음원에 대한 설정 및/또는 음향 크기의 설정 메뉴를 제공할 수 있다.
일 실시예에 따르면 화면 녹화 기능 메뉴의 선택에 따라 전자 장치(101)에서 재생되는 컨텐츠에 대한 기록이 수행될 수 있다. 예를 들면 스크린 리코더 기능 실행 메뉴(1101)가 선택됨에 따라 화면 녹화 기능이 수행될 수 있다. 예를 들면 화면 녹화 기능이 수행되면 해당 기능을 수행하기 위한 프로그램을 로딩하는 동안 대기하거나 즉시 실행(skip countdown) 메뉴(1103)를 선택함으로써 현재 전자 장치(101)를 통해 재생 중인 컨텐츠에 대한 화면 녹화 기능이 시작되도록 할 수 있다.
일 실시예에 따르면 화면 녹화 기능에 따라 전자 장치(101)에서 재생되는 컨텐츠가 기록되는 동안 디스플레이(160)에는 화면 녹화 기능을 정지할 수 있는 메뉴 버튼(1104)이 제공될 수 있다.
도 12는 다양한 실시예가 적용되는 다양한 폼팩터의 전자 장치(예: 도 1의 전자 장치(101))의 예들을 도시한 도면이다.
도 12를 참조하면, 다양한 실시예들에 따른 전자 장치(예: 도 1의 전자 장치(101))는 다양한 형태의 폼 팩터로 구현될 수 있다. 예를 들어, 전자 장치(101)는 슬라이더블 전자 장치(1210), 롤러블 전자 장치(1220), 제1 폴더블 전자 장치(1230), 바 형태의 전자 장치(1240), 및 제2 폴더블 전자 장치(1250) 중 적어도 하나를 포함할 수 있다. 제1 폴더블 전자 장치(1230)는 적어도 두 개의 힌지 구조(미도시)를 포함하고, 제2 폴더블 전자 장치(1250)는 하나의 힌지 구조(미도시)를 포함할 수 있다. 제1 폴더블 전자 장치(1230) 또는 제2 폴더블 전자 장치(1250)는 접히는(또는 휘어지는) 디스플레이(예: 플렉서블 디스플레이(flexible display))를 탑재하고, 힌지 구조에 기반하여 접어서 사용하거나 펼쳐서 사용할 수 있다.
본 발명의 다양한 실시예들에 따른 전자 장치(101)는 상술한 바와 같은 다양한 폼팩터의 전자 장치들(1210, 1220, 1230, 1240 및/또는 1250)로 구현될 수 있으며, 다양한 실시예들은 둘 이상의 디스플레이를 구비하는 전자 장치들의 하나 이상의 디스플레이를 통해 각각 재생되는 복수의 컨텐츠의 화면 녹화 기능에도 적용될 수 있다. 예를 들면 다양한 실시예들에 따른 화면 녹화 기능은 복수의 디스플레이 각각을 통해 재생되는 컨텐츠에 대한 화면 녹화 기능 및/또는 하나의 디스플레이의 멀티 화면을 통해 재생되는 복수의 컨텐츠에 대한 각각의 화면 녹화 기능에 적용될 수 있다.
다양한 실시예들에 따른 전자 장치(101)의 폼팩터 및/또는 복수의 디스플레이 중 적어도 하나에서 재생되는 컨텐츠에 대한 화면 녹화 기능은 이에 한정되지 않는다.
도 13은 다양한 실시예에 따른 전자 장치의 동작이 적용되는 일 예를 설명하기 위한 도면이다.
도 13에서, 상측 도면은 비교 실시예를 나타내며, 적어도 하나 이상의 오디오 세그먼트의 손실(1301)이 발생하면 이후 입력되는 오디오 세그먼트들(1302)에 대한 스케줄에 따른 인코딩을 수행한 예를 도시할 수 있다. 이 경우 기록된 컨텐츠에 대한 재생시, 오디오 인코딩 순서에 따른 타임 스탬프에 따라 오디오 세그먼트(1302)가 비디오 인코딩 데이터와 멀티플렉싱(mux)이 수행됨에 따라 오디오와 비디오의 싱크가 맞지 않을 수 있다.
다양한 실시예에 따르면 하측 도면은, 적어도 하나 이상의 오디오 세그먼트의 손실(1311)이 발생하더라도 이후 입력되는 오디오 세그먼트들(1312)에 대해 조정된 작업 스케줄에 따른 인코딩을 수행하고 조정된 절대 시간 기준에 따라 타임 스탬프를 생성하여 기록하는 다양한 실시예의 일 예를 도시할 수 있다. 이 경우 비디오 인코딩 데이터와 멀티플렉싱(mux) 수행 시점에 오디오 세그먼트의 조정된 절대 시간 기준에 따른 타임 스탬프에 따라 손실된 오디오 세그먼트(1310)에 대해서도 작업 개수가 누적되도록 할 수 있다. 기록된 컨텐츠에 대한 재생시, 인코딩된 오디오 세그먼트(1312)는 절대 시간 기준에 따라 비디오 인코딩 데이터와 멀티플렉싱(mux)이 수행됨에 따라 오디오와 비디오의 싱크가 맞도록 할 수 있다.
도 14a 내지 도 14c는 비교 실시예와 비교하여 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 동작이 적용되는 예를 설명하기 위한 도면이다. 도 15a 및 도 15b는 비교 실시예와 비교하여 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 동작이 적용되는 예를 설명하기 위한 도면이다. 도 16a 내지 도 16c는 비교 실시예와 비교하여 다양한 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))의 동작이 적용되는 예를 설명하기 위한 도면이다.
일 실시예에 따르면, 전자 장치(101)의 프로세서(예: 도 1의 프로세서(120))는 프로그램(예: 도 1 또는 도 2의 프로그램(140))이 로딩되어 실행됨에 따라 예를 들면 도 4에 구현된 바와 같은 계층적인 구조(hierarchical architecture)에 기초하여, 전자 장치(101)에서 재생되는 컨텐츠에 대한 화면 녹화 기능이 수행되도록 할 수 있다.
일 실시예에 따른 오디오 수신 모듈(audio read module)(1410)(예: 도 6의 수신 작업 모듈(610))은 예를 들면 프로세서(예: 도 1의 프로세서(120)) 및/또는 오디오 기록 매니저(예: 도 4의 오디오 기록 매니저(426))의 기능을 수행할 수 있다.
일 실시예에 따르면 프로세서(120)는 오디오 수신 모듈(1410)이 지정된 스케줄에 따라 지정된 시간 간격, 예를 들면 Nms 마다 작업 명령(read task, RT)을 생성하여 오디오 버퍼(1400)로부터 오디오 세그먼트를 독출하여 인코딩하는 작업을 호출하도록 설정될 수 있다.
일 실시예에 따르면 컨텐츠에 대한 화면 녹화 기능의 수행에 따라 오디오 데이터의 인코딩을 위해 수신되는 오디오 데이터 스트림은 지정된 크기의 분절(이하, 오디오 세그먼트로 칭함)로 분리되어 순서대로 오디오 버퍼(1400)에 입력될 수 있다.
일 실시예에 따르면 오디오 버퍼(1400)는 인코딩의 효율 및/또는 자원 효율을 고려하여 일정한 크기(예: 6개의 오디오 세그먼트를 저장할 수 있는 크기)로 구현될 수 있다. 오디오 버퍼(1400)에 저장된 오디오 세그먼트는, 순서대로 출력되는 작업 호출에 대응하여 오디오 버퍼(1400)로부터 출력되어 인코딩될 수 있다. 작업 호출의 생성 순서와 간격을 포함하는 작업 스케줄(task scheduling)은 전자 장치(101)의 리소스, 컨텐츠 및/또는 오디오 데이터의 특징과 같은 화면 녹화 기능을 수행하기 위한 다양한 조건에 기초하여 미리 지정되어 결정될 수 있다.
도 14a의 비교 실시예에 따르면, 작업 명령의 호출 순서대로, 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에, 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N ms)에, 제4 작업 명령(4)이 스케줄에 따른 제4 시점(3N ms)에 각각 순서대로 작업 스케줄에 따른 시간 간격(N ms)으로 호출되어 수신될 수 있다. 수신된 각 작업에 대응하여, 오디오 버퍼에 입력된 오디오 세그먼트가 각각 인코딩될 수 있다. 작업 스케줄에 따라 지연 없이 작업 명령이 수신되고 오디오 세그먼트가 지연 없이 오디오 버퍼에 입력됨에 따라, 기록된 비디오 인코딩 데이터와 멀티플렉싱(mux) 수행시 오디오와 비디오의 싱크를 맞출 수 있다.
도 14b를 참조하면, 비교 실시예에 따라 작업 명령의 호출 순서대로 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에 그리고 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N ms)에 수신된 이후, 제4 작업 명령(4)이 스케줄에 따른 시점(3N ms)으로부터 지연된 제4 시점(3N+α)에 수신되고, 이후 제5 작업 명령(5)이 제4 시점으로부터 스케줄된 시간 주기가 경과한 제5 시점(4N+α)에 각각 순서대로 호출되어 수신될 수 있다. 수신된 각 작업에 대응하여, 오디오 버퍼에 입력된 오디오 세그먼트가 제4 작업 명령(4)에서 지연되어 인코딩될 수 있다. 제4 작업 명령(4)의 지연에도 불구하고 오디오 세그먼트는 손실되지 않음에 따라 기록된 컨텐츠에 대한 재생시 오디오와 비디오의 싱크가 맞을 수 있다.
다양한 실시예에 따른 전자 장치(101)의 화면 녹화 기능이 적용된 도 14c를 참조하면, 작업 명령의 호출 순서대로 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에 그리고 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N ms)에 수신된 이후 제4 작업 명령(4)이 스케줄에 따른 시점(3N ms)으로부터 지연되어 제4 작업 명령(4)을 호출함으로써 제4 시점(3N+α)에 수신될 수 있다. 이후 제5 작업 명령(5)은 스케줄된 제5 시점(4N)에 호출되어 수신될 수 있다. 이에 따라, 제5 작업 명령(5)부터 이후로 오디오 버퍼에 입력된 오디오 세그먼트에 대한 인코딩 작업 명령이 스케줄된 시간에 수신되어 수행될 수 있다. 따라서, 제4 작업 명령(4)의 지연에도 불구하고 오디오 세그먼트는 손실되지 않았으며 이후 작업 명령 지연도 없음에 따라 기록된 컨텐츠에 대한 재생시 오디오와 비디오의 싱크를 맞출 수 있다.
도 15a의 비교 실시예에 따르면, 작업 명령의 호출 순서대로, 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에, 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N)에 수신되어 수행되고, 제4 작업 명령(4)이 다소 지연되어 제4 시점(3N+α ms)에 호출에 따라 수신되고 제5 작업 명령(5)이 스케줄에 따른 주기 이후 제5 시점(4N+α ms)에 각각 순서대로 수행되고, 제6 작업 명령(6)이 작업 스케줄에 따른 시간 간격(N ms) 이상의 시간(3N+β ms) 동안 지연되어 수신될 수 있다.
수신된 각 작업에 대응하여, 오디오 버퍼(1500)에 입력된 오디오 세그먼트가 각각 인코딩되는 과정에서, 제5 작업 명령(5) 이후 제6 작업 명령(6) 사이에 오디오 버퍼(1500)에 입력된 다수의 오디오 세그먼트가 손실될 수 있으며, 이에 따라 오디오 데이터가 손실되었을 뿐만 아니라, 제6 작업 명령(6)에서는 현재 오디오 버퍼(1500)에 존재하는 오디오 세그먼트를 인코딩하고 타임 스탬프를 인코딩된 오디오 세그먼트에 대응하여 부여함에 따라, 기록된 비디오 인코딩 데이터와 멀티플렉싱(mux) 수행시 오디오와 비디오의 싱크를 맞출 수 없으며, 비디오의 후반부에는 대응하는 오디오 세그먼트(18, 19, 20)들이 없는 상황이 발생할 수 있다.
도 15b를 참조하면, 다양한 실시예에 따른 작업 명령의 스케줄에 따라 순서대로, 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에, 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N)에 수신되어 수행되고, 제4 작업 명령(4)이 다소 지연되어 제4 시점(3N+α ms)에 호출에 따라 수신되고 제5 작업 명령(5)이 스케줄에 따른 제5 시점(4N ms)에 각각 순서대로 수신되어 수행되고, 제6 작업 명령(6)이 작업 스케줄에 따른 시간 간격(N ms) 이상의 시간(3N+β ms) 동안 지연되어 수신될 수 있다.
다양한 실시예에 따르면 제6 작업 명령(6)은 지정된 시간(3N+β ms) 동안 지연되어 조정된 시점에 호출되어 수신될 수 있으며 대응하는 오디오 세그먼트(6)이 인코딩될 수 있다. 이후 제7 작업 명령(7)은 스케줄에 따라 지정된 주기 이하의 조정된 주기(예: β1)에 따라 조정된 시점에, 제8 작업 명령(8)은 스케줄에 따라 지정된 주기 이하의 조정된 주기(예: β2)에 따라 조정된 시점에, 제9 작업 명령(9)은 스케줄에 따라 지정된 주기 이하의 조정된 주기(예: β3)에 따라 조정된 시점에 각각 호출되어 각각의 작업 명령에 따라 대응하는 오디오 세그먼트가 각각 인코딩될 수 있다. 이후, 제10 작업 명령(10)부터는 작업 명령이 지연되지 않고 호출될 수 있으며 이에 따라 각각 대응하는 오디오 세그먼트가 인코딩될 수 있다.
다양한 실시예에 따르면 오디오 버퍼(1500)에 입력된 오디오 세그먼트가 손실되지 않도록 조정된 시점에 작업 명령을 호출할 수 있다. 호출되어 수신된 작업 명령은 조정된 시점에 호출되어 오디오 버퍼(1500)에 존재하는 오디오 세그먼트를 순차로 출력하여 인코딩하고, 작업 명령의 누적된 개수에 따라 절대 시간 기준에 따른 타임 스탬프를 인코딩된 오디오 세그먼트에 부여할 수 있다.
다양한 실시예에 따르면 오디오 기록시 오디오가 손실되지 않고, 기록된 비디오 데이터와 멀티플렉싱(mux)될 때 절대 시간 기준에 따라 오디오와 비디오의 싱크를 맞출 수 있다.
도 16a의 비교 실시예에 따르면, 작업 명령의 호출 순서대로, 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에, 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N)에 수신되어 수행되고, 제4 작업 명령(4)이 다소 지연되어 제4 시점(3N+α ms)에 호출에 따라 수신될 수 있다. 이후 제5 작업 명령(5) 이후 제6 작업 명령(6)이 작업 스케줄에 따른 시간 간격(N ms) 이상의 시간(N+β ms) 동안 지연되어 수신되고, 제9 작업 명령(9)은 (N+γ ms) 시간 지연되고, 제10 작업 명령(10)은 (N+δ ms) 시간 지연될 수 있다.
수신된 각 작업에 대응하여, 오디오 버퍼(1600)에 입력된 오디오 세그먼트가 각각 인코딩되는 과정에서, 제5 작업 명령(5) 이후 제6 작업 명령(6) 사이에 오디오 버퍼(1600)에 입력된 다수의 오디오 세그먼트가 손실될 수 있으며, 제8 작업 명령(8)과 제9 작업 명령(9) 사이에도 다수의 오디오 세그먼트가 손실될 수 있다. 또한 제9 작업 명령(9)과 제10 작업 명령(10) 사이에는 오디오 버퍼(1600)에 오버 플로우가 발생하여 오디오 버퍼(1600)가 복구되는 과정에서 오디오 세그먼트가 한꺼번에 손실될 수 있다. 이에 따라 상당히 많은 오디오 데이터가 손실되었을 뿐만 아니라, 손실된 오디오 세그먼트에 대한 고려 또는 스케줄에 따라 호출되지 못한 작업 명령들에 대한 고려 없이 인코딩된 오디오 세그먼트들의 순서에 따라 타임 스탬프가 부여됨에 따라, 기록된 비디오 인코딩 데이터와 멀티플렉싱(mux) 수행시 오디오와 비디오의 싱크를 맞출 수 없으며, 비디오의 후반부에는 대응하는 오디오 세그먼트들이 없어 무음이 되는 상황이 발생할 수 있다.
도 16b를 참조하면 다양한 실시예에 따르면 작업 명령의 스케줄에 따라 순서대로, 제1 작업 명령(1)이 스케줄에 따른 제1 시점(0)에, 제2 작업 명령(2)이 스케줄에 따른 제2 시점(1N ms)에, 제3 작업 명령(3)이 스케줄에 따른 제3 시점(2N)에 수신되어 수행되고, 제4 작업 명령(4)이 다소 지연되어 제4 시점(3N+α ms)에 호출에 따라 수신되고 제5 작업 명령(5)이 스케줄에 따른 제5 시점(4N ms)에 각각 순서대로 수신되어 수행되고, 제6 작업 명령(6)이 작업 스케줄에 따른 시간 간격(N ms) 이상의 시간(3N+β ms) 동안 지연되어 수신될 수 있다.
다양한 실시예에 따르면 제6 작업 명령(6)은 지정된 시간(3N+β ms) 동안 지연되어 조정된 시점에 호출되어 수신될 수 있으며 대응하는 오디오 세그먼트(6)가 인코딩될 수 있다. 이후 제7 작업 명령(7)은 스케줄에 따라 지정된 주기 이하의 조정된 주기(예: β1)에 따라 조정된 시점에, 제8 작업 명령(8)은 지정된 주기 이하의 조정된 주기(예: β2)에 따라 조정된 시점에, 제9 작업 명령(9)은 지정된 주기 이하의 조정된 주기(예: β3)에 따라 조정된 시점에, 제10 작업 명령(10)은 지정된 주기 이하의 조정된 주기(예: β4)에 따라 조정된 시점에, 각각 호출되어 각각의 작업 명령에 따라 대응하는 오디오 세그먼트가 각각 인코딩될 수 있다. 이후, 제11 작업 명령(11)은 작업 명령이 지연되지 않고 스케줄된 시점에 호출될 수 있으며 이에 따라 각각 대응하는 오디오 세그먼트가 인코딩될 수 있다.
다양한 실시예에 따르면 제12 작업 명령(12)은 제11 작업 명령(11) 수신 시점 이후 시간(N+γ ms) 동안 지연되어 조정된 시점에 호출되어 수신될 수 있으며 대응하는 오디오 세그먼트(12)이 인코딩될 수 있다. 이후 제13 작업 명령(13)은 제12 작업 명령(12) 수신 시점 이후 시간(N+δ ms) 동안 지연되어 조정된 시점에 호출되어 수신될 수 있으며 대응하는 오디오 세그먼트(13)이 인코딩될 수 있다. 이후 제14 작업 명령(14) 내지 제20 작업 명령(20)은 스케줄에 따라 지정된 주기 이하의 조정된 주기에 따라 조정된 시점에, 스케줄된 작업 명령 주기 이하로 빈번하게 호출되어 수행될 수 있다.
다양한 실시예에 따르면 오디오 버퍼(1600)에 입력된 오디오 세그먼트가 손실되지 않도록 조정된 시점에 작업 명령을 호출할 수 있다. 호출되어 수신된 작업 명령은 조정된 시점에 호출되어 오디오 버퍼(1600)에 존재하는 오디오 세그먼트를 순차로 출력하여 인코딩하고, 작업 명령의 누적된 개수에 따라 절대 시간 기준에 따른 타임 스탬프를 인코딩된 오디오 세그먼트에 부여할 수 있다.
다양한 실시예에 따르면 오디오 기록시 작업 명령 호출 시점을 다양하게 조정함에 따라 오디오 버퍼의 오버 플로우를 방지 및/또는 줄일 수 있으며 이에 따라 오디오 데이터의 손실을 방지 및/또는 줄일 수 있다.
다양한 실시예에 따르면 오디오 기록시 오디오가 손실되지 않고, 기록된 비디오 데이터와 멀티플렉싱(mux)될 때 절대 시간 기준에 따라 오디오와 비디오의 싱크를 맞출 수 있다.
도 16c를 참조하면 다양한 실시예에 따르면 작업 명령의 스케줄에 따라 순서대로, 제1 작업 명령(1)부터 제4 작업 명령(4)까지 스케줄에 따른 시점에 각각 호출되어 수행된 이후, 제5 작업 명령(5)의 수신이 상당히 지연되어 제5 시점(7N+α ms)에 호출되어 수행될 수 있다. 이 경우 제5 작업 명령(5) 수신이 지나치게 지연됨에 따라 오디오 버퍼(1600)의 오버 플로우가 발생하고 일부 데이터 손실이 발생하였음에도 불구하고, 이후 제6 작업 명령(6)부터 제12 작업 명령(12)을 스케줄된 작업 주기 이하로 조정된 주기에 따라 조정된 시점에 빈번하게 호출하여 수행하고, 제13 작업 명령(13)에서는 오디오 세그먼트가 존재하지 않아 기록이 수행되지 않았으나 제14 작업 명령(14)부터는 오디오 세그먼트에 대한 인코딩을 정상적으로 수행할 수 있으며, 스케줄에 따른 작업 명령들을 순서대로 누적한 절대 기준에 따른 타임 스탬프를 부여할 수 있다.
다양한 실시예에 따르면 전자 장치(101)의 하드웨어 또는 소프트웨어 문제로 작업 명령의 수신이 지나치게 지연되는 경우에도, 오디오 데이터의 손실을 감소시킬 수 있으며, 설사 오디오 데이터가 손실된 경우에도 인코딩된 오디오 세그먼트들에 대해 절대 기준에 따른 타임 스탬프를 부여할 수 있어, 기록된 비디오 데이터와 멀티플렉싱(mux)될 때 절대 시간 기준에 따라 오디오와 비디오의 싱크를 맞출 수 있다.
일 실시예에 따르면 전자 장치(예: 도 1의 전자 장치(101))의 방법은, 어플리케이션 실행에 따라 컨텐츠의 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하는 동작, 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나를 확인하는 동작 및 상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여 상기 작업 명령의 호출 시점을 조정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면 상기 조정된 호출 시점에 수신된 상기 작업 명령에 대응하는 상기 오디오 세그먼트를 인코딩하는 동작을 더 포함 할 수 있다.
다양한 실시예에 따르면 상기 오디오 데이터를 인코딩하기 위한 상기 스케줄에 따라 지정된 시간 간격으로 출력되는 상기 작업 명령의 순서에 따른 절대 시간 기준으로 대응하여 인코딩된 상기 오디오 세그먼트의 타임 스탬프를 생성하는 동작을 더 포함 할 수 있다.
다양한 실시예에 따르면 상기 인코딩된 오디오 세그먼트를 포함하는 패킷을 생성하고, 상기 타임 스탬프는 상기 패킷의 헤더에 포함시키는 동작을 더 포함 할 수 있다.
다양한 실시예에 따르면 상기 확인 동작은, 상기 작업 명령 수신 시점에 상기 오디오 버퍼에 상기 오디오 세그먼트가 존재하는지 확인하고, 상기 조정 동작은, 상기 작업 명령 이후에 스케줄된 다음번 작업 명령의 수신 시점 이전까지, 상기 작업 명령의 호출 시점을 조정하여 상기 조정된 시점에 상기 작업 명령을 호출하도록 할 수 있다.
다양한 실시예에 따르면 상기 조정된 시점에 상기 오디오 세그먼트가 수신되지 않은 경우, 상기 다음번 작업 명령의 수신 시점 이전까지 상기 작업 명령의 호출에 따른 상기 오디오 세그먼트의 수신을 반복적으로 시도하도록 할 수 있다.
다양한 실시예에 따르면 상기 스케줄에 기초하여 상기 작업 명령이 수신된 경우, 상기 작업 명령 이전에 스케줄된 이전 작업 명령이 대기 중인지 확인하는 동작을 더 포함하고, 상기 조정 동작은, 상기 이전 작업 명령이 대기 중인 경우 상기 이전 작업 명령 호출 시점 이후로 상기 작업 명령의 호출 시점을 조정하여 대기하도록 할 수 있다.
다양한 실시예에 따르면 상기 작업 명령의 대기 중 상기 이전 작업 명령이 호출되어 수행되면, 상기 조정 동작은, 상기 이전 작업의 수행 시점으로부터 상기 지정된 시간 간격 보다 짧은 시간 간격으로 상기 작업 명령의 호출 시점을 조정하도록 할 수 있다.
다양한 실시예에 따르면 상기 작업 명령의 상기 조정된 호출 시점에 상기 스케줄에 따른 다음번 작업 명령의 수신 시점이 도래하는지 확인하는 동작을 더 포함하고, 상기 작업 명령의 상기 조정된 호출 시점에 상기 스케줄에 따른 다음번 작업 명령의 수신 시점이 도래하면, 상기 다음번 작업 명령의 호출 시점을 상기 작업 명령의 수신 시점 이후로 조정할 수 있다.
본 문서에 개시된 실시 예들은 기술 내용을 쉽게 설명하고 이해를 돕기 위한 예로서 제시한 것일 뿐이며, 본 문서에 개시된 기술의 범위를 한정하고자 하는 것은 아니다. 따라서 본 문서에 개시된 기술의 범위는 여기에 개시된 실시 예들 이외에도 본 문서에 개시된 다양한 실시 예의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태를 포함되는 것으로 해석되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    어플리케이션 실행에 따라 컨텐츠의 이미지 데이터를 출력하는 디스플레이;
    상기 컨텐츠의 오디오 데이터를 출력하는 음향 출력 모듈; 및
    상기 디스플레이 및 상기 음향 출력 모듈과 적응적으로 연결된 프로세서를 포함하고,
    상기 프로세서는,
    상기 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하고,
    상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여, 상기 작업 명령의 호출 시점을 조정하고 상기 조정된 호출 시점에 수신된 상기 작업 명령에 대응하는 상기 오디오 세그먼트를 인코딩하도록 설정된
    전자 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 오디오 데이터를 인코딩하기 위한 상기 스케줄에 따라 지정된 시간 간격으로 출력되는 상기 작업 명령의 순서에 따른 절대 시간 기준으로 대응하여 인코딩된 상기 오디오 세그먼트의 타임 스탬프를 생성하도록 설정된 전자 장치.
  3. 제1항에 있어서,
    상기 프로세서는, 상기 작업 명령 수신 시점에 상기 오디오 버퍼에 상기 오디오 세그먼트가 존재하는지 확인하고,
    상기 작업 명령 이후에 스케줄된 다음번 작업 명령의 수신 시점 이전까지, 상기 작업 명령의 호출 시점을 조정하여 상기 조정된 시점에 상기 작업 명령을 호출하여 상기 오디오 버퍼로부터 상기 오디오 세그먼트의 수신을 시도하도록 설정된 전자 장치.
  4. 제3항에 있어서,
    상기 조정된 시점에 상기 오디오 세그먼트가 수신되지 않은 경우, 상기 다음번 작업 명령의 수신 시점 이전까지 상기 작업 명령의 호출에 따른 상기 오디오 세그먼트의 수신을 반복적으로 시도하도록 설정된 전자 장치.
  5. 제1항에 있어서,
    상기 프로세서는,
    상기 스케줄에 기초하여 상기 작업 명령이 수신된 경우, 상기 작업 명령 이전에 스케줄된 이전 작업 명령이 대기 중인지 확인하고, 상기 이전 작업 명령이 대기 중인 경우 상기 이전 작업 명령 호출 시점 이후로 상기 작업 명령의 호출 시점을 조정하여 대기하도록 설정된 전자 장치.
  6. 제4항에 있어서,
    상기 프로세서는,
    상기 작업 명령의 대기 중 상기 이전 작업 명령이 호출되어 수행되면, 상기 이전 작업의 수행 시점으로부터 상기 지정된 시간 간격 보다 짧은 시간 간격으로 상기 작업 명령의 호출 시점을 조정하도록 설정된 전자 장치.
  7. 제1항에 있어서,
    상기 프로세서는, 상기 작업 명령의 상기 조정된 호출 시점에 상기 스케줄에 따른 다음번 작업 명령의 수신 시점이 도래하면, 상기 다음번 작업 명령의 호출 시점을 상기 작업 명령의 수신 시점 이후로 조정하도록 설정된 전자 장치.
  8. 전자 장치의 방법에 있어서,
    어플리케이션 실행에 따라 컨텐츠의 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하는 동작;
    상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나를 확인하는 동작; 및
    상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여 상기 작업 명령의 호출 시점을 조정하는 동작;을 포함하는 방법.
  9. 제8항에 있어서,
    상기 오디오 데이터를 인코딩하기 위한 상기 스케줄에 따라 지정된 시간 간격으로 출력되는 상기 작업 명령의 순서에 따른 절대 시간 기준으로 대응하여 인코딩된 상기 오디오 세그먼트의 타임 스탬프를 생성하는 동작을 더 포함하는 방법.
  10. 제8항에 있어서,
    상기 확인 동작은, 상기 작업 명령 수신 시점에 상기 오디오 버퍼에 상기 오디오 세그먼트가 존재하는지 확인하고,
    상기 조정 동작은, 상기 작업 명령 이후에 스케줄된 다음번 작업 명령의 수신 시점 이전까지, 상기 작업 명령의 호출 시점을 조정하여 상기 조정된 시점에 상기 작업 명령을 호출하도록 하는 방법.
  11. 제10항에 있어서,
    상기 조정된 시점에 상기 오디오 세그먼트가 수신되지 않은 경우, 상기 다음번 작업 명령의 수신 시점 이전까지 상기 작업 명령의 호출에 따른 상기 오디오 세그먼트의 수신을 반복적으로 시도하도록 하는 방법.
  12. 제8항에 있어서,
    상기 스케줄에 기초하여 상기 작업 명령이 수신된 경우, 상기 작업 명령 이전에 스케줄된 이전 작업 명령이 대기 중인지 확인하는 동작을 더 포함하고,
    상기 조정 동작은, 상기 이전 작업 명령이 대기 중인 경우 상기 이전 작업 명령 호출 시점 이후로 상기 작업 명령의 호출 시점을 조정하여 대기하도록 하는 방법.
  13. 제12항에 있어서,
    상기 작업 명령의 대기 중 상기 이전 작업 명령이 호출되어 수행되면,
    상기 조정 동작은, 상기 이전 작업의 수행 시점으로부터 상기 지정된 시간 간격 보다 짧은 시간 간격으로 상기 작업 명령의 호출 시점을 조정하도록 하는 방법.
  14. 제8항에 있어서,
    상기 작업 명령의 상기 조정된 호출 시점에 상기 스케줄에 따른 다음번 작업 명령의 수신 시점이 도래하는지 확인하는 동작을 더 포함하고,
    상기 작업 명령의 상기 조정된 호출 시점에 상기 스케줄에 따른 다음번 작업 명령의 수신 시점이 도래하면, 상기 다음번 작업 명령의 호출 시점을 상기 작업 명령의 수신 시점 이후로 조정하는 방법.
  15. 컴퓨터로 읽을 수 있는 저장 매체에 있어서,
    어플리케이션 실행에 따라 컨텐츠의 오디오 데이터로부터 지정된 크기로 오디오 버퍼에 순차로 입력되는 오디오 세그먼트를 인코딩하기 위해 지정된 시간 간격으로 순서대로 작업 명령을 수신하기 위한 스케줄을 확인하는 동작;
    상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나를 확인하는 동작; 및
    상기 스케줄에 따른 작업 명령 수신 상황 및 상기 오디오 버퍼 상태 중 적어도 하나에 기초하여 상기 작업 명령의 호출 시점을 조정하는 동작;을 포함하는 방법을 실현시키기 위한 프로그램을 기록한 저장 매체.
PCT/KR2022/011817 2021-08-10 2022-08-09 컨텐츠 데이터를 기록하는 전자 장치 및 그 방법 WO2023018163A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP22856160.1A EP4344220A1 (en) 2021-08-10 2022-08-09 Electronic device for recording content data and method therefor
US17/887,178 US20230050178A1 (en) 2021-08-10 2022-08-12 Electronic device for recording contents data and method of the same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210105308A KR20230023306A (ko) 2021-08-10 2021-08-10 컨텐츠 데이터를 기록하는 전자 장치 및 그 방법
KR10-2021-0105308 2021-08-10

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/887,178 Continuation US20230050178A1 (en) 2021-08-10 2022-08-12 Electronic device for recording contents data and method of the same

Publications (1)

Publication Number Publication Date
WO2023018163A1 true WO2023018163A1 (ko) 2023-02-16

Family

ID=85200074

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/011817 WO2023018163A1 (ko) 2021-08-10 2022-08-09 컨텐츠 데이터를 기록하는 전자 장치 및 그 방법

Country Status (2)

Country Link
KR (1) KR20230023306A (ko)
WO (1) WO2023018163A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140091595A (ko) * 2011-12-15 2014-07-21 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 클립핑 아티팩트를 피하기 위한 장치, 방법 및 컴퓨터 프로그램
KR20170047297A (ko) * 2014-08-27 2017-05-04 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 은닉 향상을 위한 파라미터를 이용한 오디오 컨텐츠 인코더, 디코더 및 인코딩 및 디코딩 방법
KR20170060409A (ko) * 2015-11-24 2017-06-01 삼성전자주식회사 호스트 cpu 지원형 오디오 프로세싱 방법 및 이를 수행하는 컴퓨팅 시스템
KR20190063568A (ko) * 2017-11-30 2019-06-10 네이버 주식회사 분산 트랜스코딩의 시간 단축을 위한 최적화 방법 및 그 시스템
US20190342590A1 (en) * 2000-09-29 2019-11-07 Visible World, Llc System and Method for Seamless Switching Through Buffering

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190342590A1 (en) * 2000-09-29 2019-11-07 Visible World, Llc System and Method for Seamless Switching Through Buffering
KR20140091595A (ko) * 2011-12-15 2014-07-21 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 클립핑 아티팩트를 피하기 위한 장치, 방법 및 컴퓨터 프로그램
KR20170047297A (ko) * 2014-08-27 2017-05-04 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 은닉 향상을 위한 파라미터를 이용한 오디오 컨텐츠 인코더, 디코더 및 인코딩 및 디코딩 방법
KR20170060409A (ko) * 2015-11-24 2017-06-01 삼성전자주식회사 호스트 cpu 지원형 오디오 프로세싱 방법 및 이를 수행하는 컴퓨팅 시스템
KR20190063568A (ko) * 2017-11-30 2019-06-10 네이버 주식회사 분산 트랜스코딩의 시간 단축을 위한 최적화 방법 및 그 시스템

Also Published As

Publication number Publication date
KR20230023306A (ko) 2023-02-17

Similar Documents

Publication Publication Date Title
WO2020226332A1 (en) Electronic device and control method thereof
WO2022154286A1 (ko) 사용자 인터페이스를 제공하는 방법 및 그 전자 장치
WO2022154363A1 (ko) 오디오 데이터를 처리하기 위한 오디오 장치 및 그의 동작 방법
WO2022030882A1 (ko) 오디오 데이터를 처리하는 전자 장치와 이의 동작 방법
WO2023149647A1 (ko) 전자 장치 및 이의 동작 방법
WO2022030908A1 (ko) 전자 장치 및 이를 이용한 영상 데이터와 오디오 데이터 동기화 방법
WO2023018163A1 (ko) 컨텐츠 데이터를 기록하는 전자 장치 및 그 방법
WO2022154263A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022154264A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022103019A1 (ko) 전자 장치 및 전자 장치의 어플리케이션 실행 방법
WO2022119194A1 (ko) 전자 장치 및 이를 이용한 멀티 채널 오디오 출력 방법
WO2022030750A1 (ko) 음성 데이터 처리 방법 및 이를 지원하는 전자 장치
WO2022065788A1 (ko) Rcs 데이터를 수신 또는 전송하는 전자 장치 및 전자 장치의 동작 방법
WO2022177162A1 (ko) 어플리케이션의 모델 파일을 초기화하는 프로세서 및 이를 포함하는 전자 장치
WO2022025463A1 (ko) 외부 장치들이 출력하는 컨텐츠의 출력 시점을 동기화하는 전자 장치 및 전자 장치의 동작 방법
WO2022245173A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022245116A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022265209A1 (ko) Frc를 이용한 영상 통화를 수행하는 전자 장치 및 전자 장치의 동작 방법
WO2022215859A1 (ko) 캡쳐 기능을 수행하는 전자 장치 및 전자 장치의 동작 방법
WO2023158136A1 (ko) 메모리 제어 방법 및 상기 방법을 수행하는 전자 장치
WO2023003167A1 (ko) 링크의 매체 동기화를 수행하는 전자 장치 및 전자 장치의 동작 방법
WO2023027288A1 (ko) 영상 통화를 수행하는 동안 복수의 이미지 스트림을 전송하는 전자 장치 및 전자 장치의 동작 방법
WO2021246765A1 (ko) 레코딩을 위한 전자 장치 및 그 동작 방법
WO2022075743A1 (ko) 무선 통신 연결을 통하여 패킷을 전송하는 전자 장치와 이의 동작 방법
WO2024029688A1 (ko) 무선 환경 내에서의 오디오 스트리밍을 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22856160

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 2022856160

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2022856160

Country of ref document: EP

Effective date: 20231222

NENP Non-entry into the national phase

Ref country code: DE