WO2022191400A1 - 반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치 - Google Patents

반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치 Download PDF

Info

Publication number
WO2022191400A1
WO2022191400A1 PCT/KR2022/000356 KR2022000356W WO2022191400A1 WO 2022191400 A1 WO2022191400 A1 WO 2022191400A1 KR 2022000356 W KR2022000356 W KR 2022000356W WO 2022191400 A1 WO2022191400 A1 WO 2022191400A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
touch input
sensor
processor
state
Prior art date
Application number
PCT/KR2022/000356
Other languages
English (en)
French (fr)
Inventor
정관진
조대현
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP22767297.9A priority Critical patent/EP4280038A4/en
Publication of WO2022191400A1 publication Critical patent/WO2022191400A1/ko
Priority to US18/359,433 priority patent/US20230367429A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0425Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means using a single imaging device like a video camera for tracking the absolute position of a single or a plurality of objects with respect to an imaged reference surface, e.g. video camera imaging a display or a projection screen, a table or a wall surface, on which a computer generated image is displayed or projected
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1694Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3215Monitoring of peripheral devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3231Monitoring the presence, absence or movement of users
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/325Power saving in peripheral device
    • G06F1/3262Power saving in digitizer or tablet
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/325Power saving in peripheral device
    • G06F1/3265Power saving in display device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03547Touch pads, in which fingers can move on a surface
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • G06F3/04186Touch location disambiguation

Definitions

  • Various embodiments relate to an electronic device for determining the reactivity of the electronic device.
  • An embodiment may provide an electronic device that determines a level of responsiveness to a touch input.
  • an electronic device includes a sensor unit including one or more sensors, a display module including a touch sensor, and at least one processor for controlling the electronic device, wherein the processor includes the touch sensor.
  • detects a touch input through the user interface and when the touch input is sensed, determines whether the touch input is valid based on state information generated through the one or more sensors, and when the touch input is determined to be valid, the state information and determine a target level of responsiveness to the touch input from among a plurality of levels based on at least one of application information on an application executed by the electronic device, and control the electronic device based on the target level .
  • the method for controlling an electronic device performed by an electronic device includes an operation of detecting a touch input through a touch sensor, and when the touch input is sensed, based on state information generated through one or more sensors, the Determining whether the touch input is valid, and when it is determined that the touch input is valid, the touch input is applied to the touch input among a plurality of levels based on at least one of the state information and application information for an application executed by the electronic device
  • the method may include determining a target level of responsiveness to and controlling the electronic device based on the target level.
  • an electronic device for determining a level of responsiveness to a touch input may be provided.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is a block diagram illustrating a program according to various embodiments.
  • FIG. 3 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 4 is a flowchart illustrating a method of controlling an electronic device based on a determined level of reactivity according to various embodiments of the present disclosure
  • FIG. 5 is a flowchart of a method of determining whether a touch input is valid according to various embodiments of the present disclosure
  • FIG. 6 is a flowchart of a method of determining whether a touch input is valid based on whether a display screen is updated, according to various embodiments of the present disclosure
  • FIG. 7 is a flowchart of a method of determining a target level based on a current state of an electronic device according to various embodiments of the present disclosure
  • FIG. 8 is a flowchart of a method of determining whether a touch input is valid based on whether a user's eye is included in an image according to various embodiments of the present disclosure
  • FIG. 9 is a flowchart of a method of re-determining a responsiveness level based on a speed at which a display screen is updated according to various embodiments of the present disclosure
  • FIG. 1 is a block diagram of an electronic device in a network environment according to various embodiments of the present disclosure
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments of the present disclosure.
  • the electronic device 101 communicates with the electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with at least one of the electronic device 104 and the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • the server 108 e.g, a long-distance wireless communication network
  • the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 .
  • at least one of these components eg, the connection terminal 178
  • some of these components are integrated into one component (eg, display module 160 ). can be
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or operations. According to an embodiment, as at least part of data processing or operation, the processor 120 stores a command or data received from another component (eg, the sensor module 176 or the communication module 190 ) into the volatile memory 132 . may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 stores a command or data received from another component (eg, the sensor module 176 or the communication module 190 ) into the volatile memory 132 .
  • the processor 120 stores a command or data received from another component (eg, the sensor module 176 or the communication module 190 ) into the volatile memory 132 .
  • the processor 120 is a main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • a main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the secondary processor 123 may, for example, act on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 123 eg, image signal processor or communication processor
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to an embodiment, the receiver may be implemented separately from or as a part of the speaker.
  • the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 , or an external electronic device (eg, a sound output module 155 ) connected directly or wirelessly with the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the electronic device 102 may output a sound.
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a telecommunication network
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 uses various techniques for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 192 may support various requirements defined in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
  • the wireless communication module 192 includes a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: Downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less) can be supported.
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, bottom side) of the printed circuit board and capable of supporting a specified high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or part of the operations executed by the electronic device 101 may be executed by one or more external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of things (IoT) device.
  • the server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or the server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • the electronic device may be a device of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a laptop, a desktop, a tablet, or a portable multimedia device
  • portable medical device e.g., a portable medical device
  • camera e.g., a camera
  • a wearable device e.g., a smart watch
  • a home appliance device e.g., a smart bracelet
  • first”, “second”, or “first” or “second” may simply be used to distinguish the component from other such components, and refer to those components in other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of the present document may include a unit implemented in hardware, software, or firmware, for example, and interchangeably with terms such as logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • one or more instructions stored in a storage medium may be implemented as software (eg, the program 140) including
  • the processor eg, the processor 120
  • the device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided by being included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play StoreTM) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a portion of the computer program product may be temporarily stored or temporarily created in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component (eg, module or program) of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, omitted, or , or one or more other operations may be added.
  • FIG. 2 is a block diagram illustrating a program according to various embodiments.
  • the program 140 described above with reference to FIG. 1 is executed in the operating system 142 , the middleware 144 , or the operating system 142 for controlling one or more resources of the electronic device 101 . It may include an executable application 146 .
  • Operating system 142 may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • At least some of the programs 140 are, for example, preloaded into the electronic device 101 at the time of manufacture, or an external electronic device (eg, the electronic device 102 or 104 of FIG. 1 ) when used by a user; Alternatively, it may be downloaded or updated from the server 108).
  • the operating system 142 may control management (eg, allocation or retrieval) of one or more system resources (eg, a process, memory, or power) of the electronic device 101 .
  • the operating system 142 may additionally or alternatively include other hardware devices of the electronic device 101 , for example, the input module 150 , the sound output module 155 , the display module 160 , and the audio module 170 . , sensor module 176 , interface 177 , haptic module 179 , camera module 180 , power management module 188 , battery 189 , communication module 190 , subscriber identification module 196 , or It may include one or more driver programs for driving the antenna module 197 .
  • the middleware 144 may provide various functions to the application 146 so that functions or information provided from one or more resources of the electronic device 101 may be used by the application 146 .
  • the middleware 144 includes, for example, an application manager 201 , a window manager 203 , a multimedia manager 205 , a resource manager 207 , a power manager 209 , a database manager 211 , and a package manager 213 . ), connectivity manager 215 , notification manager 217 , location manager 219 , graphics manager 221 , security manager 223 , call manager 225 , voice recognition manager 227 or responsive control manager (228).
  • the application manager 201 may manage the life cycle of the application 146 , for example.
  • the window manager 203 may manage one or more GUI resources used in the screen, for example.
  • the multimedia manager 205 for example, identifies one or more formats required for playback of media files, and encodes or decodes a corresponding media file among the media files using a codec suitable for the selected format. can be done
  • the resource manager 207 may manage the space of the source code of the application 146 or the memory of the memory 130 , for example.
  • the power manager 209 may, for example, manage the capacity, temperature, or power of the battery 189 , and determine or provide related information required for the operation of the electronic device 101 by using the corresponding information. . According to an embodiment, the power manager 209 may interwork with a basic input/output system (BIOS) (not shown) of the electronic device 101 .
  • BIOS basic input/output system
  • the database manager 211 may create, retrieve, or change a database to be used by the application 146 , for example.
  • the package manager 213 may manage installation or update of an application distributed in the form of a package file, for example.
  • the connectivity manager 215 may manage, for example, a wireless connection or a direct connection between the electronic device 101 and an external electronic device.
  • the notification manager 217 may provide, for example, a function for notifying the user of the occurrence of a specified event (eg, an incoming call, a message, or an alarm).
  • a specified event eg, an incoming call, a message, or an alarm.
  • the location manager 219 may manage location information of the electronic device 101 , for example.
  • the graphic manager 221 may manage, for example, one or more graphic effects to be provided to a user or a user interface related thereto.
  • the graphic manager 221 may include SurfaceFlinger.
  • Security manager 223 may provide, for example, system security or user authentication.
  • the telephony manager 225 may manage, for example, a voice call function or a video call function provided by the electronic device 101 .
  • the voice recognition manager 227 transmits the user's voice data to the server 108, and based at least in part on the voice data, a command corresponding to a function to be performed in the electronic device 101;
  • the converted text data may be received from the server 108 based at least in part on the voice data.
  • the responsive control manager 228 receives, for example, a sensor value of the corresponding sensor from one or more sensors of the sensor module 176 of the electronic device 101 , and based on the sensor value, It is possible to generate state information indicating a state, determine whether a touch input is valid based on the state information, and determine a responsiveness level for controlling the electronic device 101 according to whether the touch input is valid.
  • the middleware 144 may dynamically delete some existing components or add new components. According to an embodiment, at least a portion of the middleware 144 may be included as a part of the operating system 142 or implemented as software separate from the operating system 142 .
  • Application 146 includes, for example, home 251 , dialer 253 , SMS/MMS 255 , instant message (IM) 257 , browser 259 , camera 261 , alarm 263 . , contacts 265, voice recognition 267, email 269, calendar 271, media player 273, album 275, watch 277, health 279 (such as exercise or blood sugar) measuring biometric information), or environmental information 281 (eg, measuring atmospheric pressure, humidity, or temperature information).
  • the application 146 may further include an information exchange application (not shown) capable of supporting information exchange between the electronic device 101 and an external electronic device.
  • the information exchange application may include, for example, a notification relay application configured to transmit specified information (eg, call, message, or alarm) to an external electronic device, or a device management application configured to manage the external electronic device.
  • the notification relay application for example, transmits notification information corresponding to a specified event (eg, mail reception) generated in another application (eg, the email application 269 ) of the electronic device 101 to the external electronic device.
  • the notification relay application may receive notification information from the external electronic device and provide it to the user of the electronic device 101 .
  • the device management application is, for example, a power source (eg, turn-on or turn-off) of an external electronic device that communicates with the electronic device 101 or some components thereof (eg, a display module or a camera module of the external electronic device). ) or a function (eg brightness, resolution, or focus).
  • the device management application may additionally or alternatively support installation, deletion, or update of an application operating in an external electronic device.
  • FIG. 3 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • an electronic device 300 (eg, the electronic device 101 of FIG. 1 ) according to an example includes a processor 310 (eg, the processor 120 of FIG. 1 ), a memory 320 (eg, the electronic device 101 of FIG. 1 ). : may include a memory 130 of FIG. 1 ), a display module 330 (eg, the display module 160 of FIG. 1 ), and a sensor unit 340 (eg, the sensor module 176 of FIG. 1 ). .
  • the processor 310 is the main processor 121 (eg, central processing unit or application processor) or a secondary processor 123 (eg, graphic central processing unit (GPU), neural network processing that can be operated independently or together with it) a neural processing unit (NPU), an image signal processor (ISP), a digital signal processor (DSP), a sensor hub processor, or a communication processor).
  • the main processor 121 eg, central processing unit or application processor
  • a secondary processor 123 eg, graphic central processing unit (GPU), neural network processing that can be operated independently or together with it
  • a neural processing unit NPU
  • ISP image signal processor
  • DSP digital signal processor
  • a sensor hub processor e.g., a sensor hub processor, or a communication processor.
  • the auxiliary processor may use less power than the main processor or may be set to specialize in a specified function.
  • the coprocessor may be implemented separately from or as part of the main processor.
  • the memory 320 may store various data used by at least one component (eg, the processor 310 ) of the electronic device 300 .
  • the data may include, for example, input data or output data for software (eg, the program 140 of FIG. 1 ) and instructions related thereto.
  • a program (eg, the program 140 of FIG. 1 ) may be stored as software in the memory 320 , for example, an operating system (eg, the operating system 142 of FIG. 1 ), middleware (( For example, the middleware 144 of FIG. 1 ) or an application (eg, the application 146 of FIG. 1 ) may be included.
  • an operating system eg, the operating system 142 of FIG. 1
  • middleware e.g, the middleware 144 of FIG. 1
  • an application eg, the application 146 of FIG. 1
  • one or more applications may be stored or installed in the memory 320 by the user of the electronic device 300 .
  • the applications installed in the electronic device 300 may include a game application and a camera application, are not limited to the described embodiment, and may include applications for various purposes.
  • the display module 330 may visually provide information to the outside of the electronic device 300 through a display screen. For example, when information to be provided is changed (or updated), the display screen may also be changed.
  • the display module 330 may include a touch sensor 332 configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the sensor unit 340 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR sensor, a biometric sensor, a temperature sensor, a humidity sensor, or an illuminance sensor. It may include at least one.
  • Each sensor of the sensor unit 340 may generate a sensor value by sensing the environment of the electronic device 300 . Sensor values generated by the sensors may constitute state information.
  • the electronic device 300 may receive a touch input from the user through the touch sensor 332 and provide a result generated by processing the touch input to the user through the display screen.
  • hardware (or system) resources of the electronic device 300 may be used, and when the hardware resources are used, the power of the battery (eg, the battery 189 of FIG. 1 ) of the electronic device 300 ). This can be reduced.
  • a touch unintended by the user may be input to the electronic device 300 in a state in which the user does not actually use the electronic device 300 .
  • the electronic device 300 uses a hardware resource even for a touch input unintended by a user, unwanted battery discharge may occur. Whether the touch input is valid is determined in order to prevent unwanted power consumption of the battery, and if the touch input is invalid, the touch input may not be processed.
  • a level of responsiveness of the electronic device 300 to a touch input may be determined according to a current state of the electronic device 300 , and the electronic device 300 may process the touch input based on the determined level.
  • the determined level of responsiveness may be one of a high performance mode, a mid performance mode, a low performance mode, and a sustain performance mode. How intensively the hardware resource of the electronic device 300 is used for each performance mode may be allocated in advance. For example, an operation clock of the processor 310 may be allocated to a high performance mode higher than other performance modes.
  • a method of determining a level of responsiveness to a touch input and controlling the electronic device 300 based on the determined level of responsiveness will be described in detail below with reference to FIGS. 4 to 9 .
  • the electronic device 300 includes at least one sensor unit 340 including one or more sensors, a display module 330 including a touch sensor 332 , and at least one controlling the electronic device 300 .
  • the electronic device 300 may be a mobile communication terminal.
  • FIG. 4 is a flowchart illustrating a method of controlling an electronic device based on a determined level of reactivity according to various embodiments of the present disclosure
  • the following operations 410 to 450 may be performed by an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ).
  • the processor of the electronic device detects a user's touch input through a touch sensor (eg, the touch sensor 330 of FIG. 3 ). can do.
  • the processor may sense a touch input by receiving a touch event from a touch sensor.
  • the processor determines that the touch input is valid based on state information generated through one or more sensors (eg, the sensors of the sensor module 176 of FIG. 1 or the sensors of the sensor unit 340 of FIG. 3 ). You can decide whether or not
  • the touch input may be generated by the user's actual input intention, and differently, the touch input may be generated by an accidental touch even though the user's intention is not.
  • the processor may first determine the current state of the electronic device based on the state information to determine whether the touch input is validly generated.
  • the current state of the electronic device may include a state of the electronic device itself and a state of a user who uses the electronic device.
  • the current state of the electronic device itself may include an active state, an inactive state, a state in a pocket, a state located in a dark place, and a state located in a theater.
  • the user's state may include a sitting state, a lying state, a walking state, a running state, and a driving state.
  • a method of determining whether a touch input is valid based on a current state of the electronic device will be described in detail below with reference to FIGS. 5 and 6 .
  • the processor 300 may determine whether the touch input is valid based on touch inputs received earlier than the touch input. For example, even when it is determined that the touch input is invalid based on the current state, when the touch inputs are continuously sensed, the touch input may be finally determined as valid.
  • operation 430 below may be performed, and if it is determined that the touch input is valid, operation 440 below may be performed.
  • the processor may invalidate the sensed touch input.
  • the processor may not use hardware resources for processing the touch input.
  • the processor may determine a target level of responsiveness to a touch input from among a plurality of preset levels based on at least one of state information and application information on an application executed by the electronic device.
  • the preset plurality of levels may include a high performance mode, a medium performance mode, a low performance mode, and a sustained performance mode, and is not limited to the described embodiment.
  • the processor may determine a target level of responsiveness to a touch input based on the state information.
  • the target level may be determined to correspond to the current state of the electronic device determined based on the state information.
  • a method of determining the target level based on the current state of the electronic device will be described in detail with reference to FIG. 7 .
  • the processor may determine a target level of reactivity based on the application information. For example, a high level of responsiveness for applications (eg game applications) that require high data throughput (or performance that needs to quickly output a result screen in response to user input (eg, high FPS (frame per second))) This is determined, and a low responsiveness level may be determined for an application that can be executed even with a low data throughput.
  • applications eg game applications
  • performance that needs to quickly output a result screen in response to user input eg, high FPS (frame per second)
  • the processor may determine the target level of reactivity in consideration of both the current state of the electronic device and application information. For example, a level having a higher responsiveness among a first level determined for the current state and a second level determined for application information may be determined as the target level so that the user does not feel inconvenience in using the electronic device. For example, even if the electronic device provides high responsiveness, in a situation in which the user may not feel the responsiveness (eg, running state), the first level determined for the current state and the second level determined for the application information are lower than the A level having reactivity may be determined as a target level.
  • the processor may control the electronic device based on the target level.
  • the processor may control the electronic device by adjusting the usage of hardware resources of the electronic device to correspond to the target level.
  • the hardware resources may include a CPU, GPU, NPU, ISP, DSP, bus or battery. Current consumed by the electronic device may be controlled by adjusting the usage of hardware resources.
  • some cores allocated to a target level among the plurality of cores may be used to process a task for controlling the electronic device. For example, when the target level corresponds to the high performance mode, it may be controlled such that a high performance core among a plurality of cores is used. For example, when the target level corresponds to the low performance mode, a core operating with low power among a plurality of cores may be controlled to be used.
  • the processor 310 may control the electronic device 300 by adjusting the usage of hardware resources of the electronic device 300 to correspond to the target level.
  • FIG. 5 is a flowchart of a method of determining whether a touch input is valid according to various embodiments of the present disclosure
  • operation 420 described above with reference to FIG. 4 may include operations 510 to 540 below.
  • Operations 510 to 540 may be performed by an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ).
  • the processor of the electronic device eg, the processor 120 of FIG. 1 or the processor 310 of FIG. 3 ) performs a sensor unit (eg, the sensor module 176 of FIG. 1 or the sensor unit 340 of FIG. 3 ) ) may determine the current state of the electronic device based on state information received from one or more sensors.
  • a sensor unit eg, the sensor module 176 of FIG. 1 or the sensor unit 340 of FIG. 3
  • the sensor unit may include at least one of an acceleration sensor and a gyro sensor
  • the state information may include at least one of a sensor value of the acceleration sensor and a sensor value of the gyro sensor.
  • the processor may determine the current state of the electronic device based on state information including the sensor value of the acceleration sensor and the sensor value of the gyro sensor.
  • the current state determined based on the state information may represent a state of a user using the electronic device as the first current state.
  • the first current state may be a walking state, a running state, a sitting state, a lying state, or a driving state.
  • the sensor unit may further include at least one of a proximity sensor and an illuminance sensor
  • the state information may further include at least one of a sensor value of the proximity sensor and a sensor value of the illuminance sensor.
  • the processor may determine the current state of the electronic device based on state information including the sensor value of the proximity sensor and the sensor value of the illuminance sensor.
  • the current state determined based on the state information may represent a state of the electronic device itself as the second current state.
  • the second current state may be an active state, an inactive state, a state located in a bright place, a state in a pocket, a state located in a dark place, or a state located in a theater.
  • the processor may determine a final current state based on the determined first current state and the second current state. For example, a state capable of reflecting both the first current state and the second current state may be determined as the current state.
  • operation 510 is illustrated through FIG. 5 as being performed after operation 410 is performed, operation 510 is not necessarily performed after operation 410 is performed, and according to an embodiment, operation 410 is performed before operation 410 is performed. It may be performed before, or may be performed independently and in parallel with operation 410 .
  • the processor may determine whether the current state corresponds to a preset first state.
  • the preset first state may be a state in which it is difficult for a user to input a touch or a state in which it is logically impossible.
  • the processor may determine that the touch input is invalid.
  • the processor may determine that the touch input is valid.
  • the sensor unit 340 includes at least one of an acceleration sensor and a gyro sensor
  • the state information includes at least one of a sensor value of the acceleration sensor and a sensor value of the gyro sensor
  • the processor 310 includes The current state of the electronic device 300 may be determined based on the state information, and when the current state corresponds to a preset first state, it may be determined that the touch input is invalid.
  • the sensor unit 340 may further include at least one of a proximity sensor and an illuminance sensor, and the state information may further include at least one of a sensor value of the proximity sensor and a sensor value of the illuminance sensor.
  • FIG. 6 is a flowchart of a method of determining whether a touch input is valid based on whether a display screen is updated, according to various embodiments of the present disclosure
  • operation 420 described above with reference to FIGS. 4 and 5 may further include operations 610 and 620 below.
  • the following operations 610 to 620 may be performed by an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ).
  • operation 610 may be performed.
  • the processor of the electronic device receives a touch input to the display module (eg, the display module 160 of FIG. 1 , the display of FIG. 3 ) It may be determined whether the display screen of the module 330) is updated. For example, the processor may determine whether the display screen is updated by receiving an event indicating whether the display screen has been updated from the graphic manager (eg, the graphic manager 221 of FIG. 2 ).
  • the user may input a touch with the intention of updating the progress of the application being executed on the electronic device, but on the contrary, the user may also touch the electronic device without a special intention.
  • the user may touch an area of the display that is not related to the progress of the application.
  • the area of the display that is not related to the progress of the application may be an area where a user interface (UI) does not appear.
  • UI user interface
  • operation 540 of FIG. 5 may be performed, and if it is determined that the display screen is not updated, operation 530 of FIG. 5 may be performed.
  • the processor 310 determines whether the display screen of the display module 330 is updated by a touch input, and the display screen is updated. If not, it may be determined that the touch input is invalid.
  • FIG. 7 is a flowchart of a method of determining a target level based on a current state of an electronic device according to various embodiments of the present disclosure
  • operation 440 described above with reference to FIG. 4 may further include operations 710 to 730 below.
  • the following operations 710 to 730 may be performed by an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ).
  • Operation 710 may be performed when it is determined that the touch input is valid.
  • the processor of the electronic device may determine whether the current state of the electronic device corresponds to a preset second state. For example, a plurality of second states are preset, and it may be determined whether the current state of the electronic device corresponds to any one of the plurality of second states.
  • the preset second state may be a state corresponding to a combination of the first current state and the second current state described above with reference to FIG. 5 .
  • the second state may be a state in which the user is sitting (the first current state) and is located in a bright place (the second current state).
  • the second state may be a state in which the user is walking (the first current state) and is located in a dark place (the second current state).
  • the preset second state may be a state corresponding to the first current state or the second current state described above with reference to FIG. 5 , and is not limited to the described embodiment.
  • the current state may further include whether high performance is required for the execution of the application.
  • operation 720 may be performed, and if the current state does not correspond to the second state, operation 730 may be performed.
  • the processor may determine a target level corresponding to the second state. For example, a level corresponding to the second state may be preset.
  • the second state and The associated level may be determined as the target level for the current state.
  • operation 730 when the current state of the electronic device does not correspond to the preset second state, the processor may determine a target level corresponding to the current state. Operation 730 may be an operation for handling an exception when the current state of the electronic device does not correspond to a plurality of preset second states.
  • the processor may determine the target level based on at least one of a first current state and a second current state of the current state of the electronic device. For example, a higher level among a level associated with the first current state and a level associated with the second current state may be determined as the target level.
  • the processor may determine the target level based on the application information. For example, when high performance is required to execute an application, the target level may be determined as a level corresponding to the high performance mode.
  • the processor 310 may determine a target level corresponding to the second state from among a plurality of levels.
  • FIG. 8 is a flowchart of a method of determining whether a touch input is valid based on whether a user's eye is included in an image according to various embodiments of the present disclosure
  • operation 420 described above with reference to FIGS. 4 and 5 may further include operations 810 and 820 below.
  • the following operations 810 to 820 may be performed by an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ).
  • the following operations 810 and 820 may be further performed. It may be performed when it is determined that the current state corresponds to the first state in operation 520 .
  • the processor of the electronic device receives an image based on the camera sensor (eg, the camera module 180 of FIG. 1) of the electronic device. can create The image may be used to confirm whether the user of the electronic device intentionally inputs a touch.
  • the processor may determine whether the user's eyes are included in the image.
  • a meaning that the user's eyes are included in the image may be interpreted as a touch input while the user gazes at the electronic device.
  • operation 540 of FIG. 5 may be performed, and if the user's eyes are not included in the image, operation 530 of FIG. 5 may be performed.
  • operations 810 and 820 since performing operations 810 and 820 uses additional hardware resources of the electronic device, functions according to operations 810 and 820 may be limitedly used. For example, operations 810 and 820 may be performed only when use of the above function is permitted by the user.
  • the electronic device 300 further includes a camera sensor, the processor 310 determines a current state of the electronic device based on the state information, and the current state corresponds to a preset first state. In the case of generating an image based on the camera sensor, determining whether the user's eyes are included in the image, and determining that the touch input is valid if the user's eyes are included in the image.
  • FIG. 9 is a flowchart of a method of re-determining a responsiveness level based on a speed at which a display screen is updated according to various embodiments of the present disclosure
  • operations 910 to 950 below may be further performed.
  • Operations 910 to 950 may be performed by an electronic device (eg, the electronic device 101 of FIG. 1 or the electronic device 300 of FIG. 3 ).
  • the processor of the electronic device may determine the speed at which the display screen is updated while the electronic device is controlled to the target level.
  • the processor may determine the speed at which the display screen is updated by receiving an event indicating that the display screen is updated from the graphic manager (eg, the graphic manager 221 of FIG. 2 ).
  • the speed at which the display screen is updated may be FPS.
  • the update speed of the display screen may vary according to the complexity of the view in the display screen, the complexity of the graphic object, the blur setting, or the set resolution. For example, the more complex the view, the more complex the graphic object, or the higher the setting resolution, the lower the update rate of the display screen may be.
  • the processor may determine whether the update rate is equal to or greater than a preset target rate.
  • the target speed may be preset according to a basic set speed for the electronic device or a set speed for a running application. When a plurality of set speeds are identified, the highest set speed may be determined as the target speed.
  • operation 930 may be performed, and if the update rate is less than the preset target rate, operation 940 may be performed.
  • the processor may maintain the target level when the update rate is equal to or greater than the preset target rate. That the update rate is equal to or greater than the preset target rate may mean that the current target level for controlling the electronic device is an appropriate control level.
  • the processor may maintain the current first level or adjust the target level to a second level lower than the first level. For example, when a difference (eg, a margin) between the update rate and the target rate is greater than a preset threshold, the target level may be adjusted to a second level lower than the first level.
  • a difference eg, a margin
  • the processor may determine a higher level than the current target level as the new target level. That the update rate is less than the preset target rate may mean that the current target level for controlling the electronic device is an inappropriate control level. If the control level is not appropriate, the user may feel uncomfortable using the electronic device. The control level of the electronic device may be increased to prevent user inconvenience.
  • the processor may control the electronic device to the determined target level.
  • the description of operation 950 may be similarly applied to the description of operation 450 described above with reference to FIG. 4 .
  • operations 910 to 950 may be repeatedly performed until a new command or a new touch input is received.
  • the processor 310 determines the speed at which the display screen of the display module 330 is updated while the electronic device 300 is controlled to the target level, and the speed at which the display screen 330 is updated is determined.
  • the electronic device 300 may be controlled at a level higher than the target level.
  • the target speed may be associated with an application being executed by the electronic device 300 to update the display screen.
  • the embodiments described above may be implemented by a hardware component, a software component, and/or a combination of a hardware component and a software component.
  • the devices, methods and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate array (FPGA). ), a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions, may be implemented using a general purpose computer or special purpose computer.
  • the processing device may execute an operating system (OS) and a software application running on the operating system.
  • the processing device may also access, store, manipulate, process, and generate data in response to execution of the software.
  • OS operating system
  • the processing device may also access, store, manipulate, process, and generate data in response to execution of the software.
  • the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that may include For example, the processing device may include a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as parallel processors.
  • the software may comprise a computer program, code, instructions, or a combination of one or more thereof, which configures a processing device to operate as desired or is independently or collectively processed You can command the device.
  • the software and/or data may be any kind of machine, component, physical device, virtual equipment, computer storage medium or device, to be interpreted by or to provide instructions or data to the processing device. , or may be permanently or temporarily embody in a transmitted signal wave.
  • the software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored in a computer-readable recording medium.
  • the method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium.
  • the computer readable medium may include program instructions, data files, data structures, etc. alone or in combination, and the program instructions recorded on the medium are specially designed and configured for the embodiment, or are known and available to those skilled in the art of computer software.
  • the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks.
  • - includes magneto-optical media, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like.
  • Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.
  • the hardware device described above may be configured to operate as one or a plurality of software modules to perform the operations of the embodiments, and vice versa.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Multimedia (AREA)
  • Telephone Function (AREA)
  • Measurement Of Current Or Voltage (AREA)
  • Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

일 실시예에 따른 전자 장치는, 하나 이상의 센서들을 포함하는 센서부, 터치 센서를 포함하는 디스플레이 모듈, 및 전자 장치를 제어하는 적어도 하나의 프로세서를 포함하고, 프로세서는, 터치 센서를 통해 터치 입력을 감지하고, 터치 입력이 감지된 경우 하나 이상의 센서들을 통해 생성된 상태 정보에 기초하여 터치 입력이 유효한지 여부를 결정하고, 터치 입력이 유효한 것으로 결정된 경우 상태 정보 및 전자 장치에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 복수의 레벨들 중 터치 입력에 대한 반응성의 타겟 레벨을 결정하고, 타겟 레벨에 기초하여 전자 장치를 제어할 수 있다. 그 외에도 다양한 실시예들이 가능할 수 있다.

Description

반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치
관련 출원들에 대한 참조
본 출원은 2021년 3월 10일에 출원된 한국특허출원 제10-2021-0031337호의 우선권을 주장한다.
다양한 실시 예들은 전자 장치의 반응성을 결정하기 위한 전자 장치에 관한 것이다.
모바일 단말의 터치 반응성을 향상하기 위해 시스템 자원을 사용하는 경우 잘못된 터치 입력과 같은 터치에 대한 반응성이 요구되지 않는 상황에서도 터치 동작이 발생했을 때 모바일 단말의 시스템 자원들이 사용됨으로써 발열 및 배터리 방전 이슈가 발생할 수 있다.
일 실시예는 터치 입력에 대한 반응성의 레벨을 결정하는 전자 장치를 제공할 수 있다.
다만, 기술적 과제는 상술한 기술적 과제들로 한정되는 것은 아니며, 또 다른 기술적 과제들이 존재할 수 있다.
다양한 실시 예들에 따른, 전자 장치는, 하나 이상의 센서들을 포함하는 센서부, 터치 센서를 포함하는 디스플레이 모듈, 및 상기 전자 장치를 제어하는 적어도 하나의 프로세서를 포함하고, 상기 프로세서는, 상기 터치 센서를 통해 터치 입력을 감지하고, 상기 터치 입력이 감지된 경우 상기 하나 이상의 센서들을 통해 생성된 상태 정보에 기초하여 상기 터치 입력이 유효한지 여부를 결정하고, 상기 터치 입력이 유효한 것으로 결정된 경우 상기 상태 정보 및 상기 전자 장치에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 복수의 레벨들 중 상기 터치 입력에 대한 반응성의 타겟 레벨을 결정하고, 상기 타겟 레벨에 기초하여 상기 전자 장치를 제어할 수 있다.
다양한 실시 예들에 따른, 전자 장치에 의해 수행되는, 전자 장치 제어 방법은, 터치 센서를 통해 터치 입력을 감지하는 동작, 상기 터치 입력이 감지된 경우 하나 이상의 센서들을 통해 생성된 상태 정보에 기초하여 상기 터치 입력이 유효한지 여부를 결정하는 동작, 상기 터치 입력이 유효한 것으로 결정된 경우 상기 상태 정보 및 상기 전자 장치에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 복수의 레벨들 중 상기 터치 입력에 대한 반응성의 타겟 레벨을 결정하는 동작, 및 상기 타겟 레벨에 기초하여 상기 전자 장치를 제어하는 동작을 포함할 수 있다.
다양한 실시 예들에 따르면, 터치 입력에 대한 반응성의 레벨을 결정하는 전자 장치가 제공될 수 있다.
도 1은 다양한 실시 예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시 예들에 따른 프로그램을 예시하는 블록도이다.
도 3은 다양한 실시 예들에 따른 전자 장치의 블록도이다.
도 4는 다양한 실시 예들에 따른 결정된 반응성의 레벨에 기초하여 전자 장치를 제어하는 방법을 설명하기 위한 흐름도이다.
도 5는 다양한 실시 예들에 따른 터치 입력이 유효한지 여부를 결정하는 방법의 흐름도이다.
도 6는 다양한 실시 예들에 따른 디스플레이 화면이 갱신되는지 여부에 기초하여 터치 입력이 유효한지 여부를 결정하는 방법의 흐름도이다.
도 7은 다양한 실시 예들에 따른 전자 장치의 현재 상태에 기초하여 타겟 레벨을 결정하는 방법의 흐름도이다.
도 8은 다양한 실시 예들에 따른 이미지 내에 사용자의 눈이 포함되는지 여부에 기초하여 터치 입력이 유효한지 여부를 결정하는 방법의 흐름도이다.
도 9는 다양한 실시 예들에 따른 디스플레이 화면이 갱신되는 속도에 기초하여 반응성에 대한 레벨을 재결정하는 방법의 흐름도이다.
이하, 본 기재의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 기재를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 기재의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
도 1은 다양한 실시 예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 1은, 다양한 실시 예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시 예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시 예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시 예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시 예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시 예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시 예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시 예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시 예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는 다양한 실시 예에 따른 프로그램을 예시하는 블록도이다.
일 실시 예에 따르면, 도 1을 참조하여 전술된 프로그램(140)은 전자 장치(101)의 하나 이상의 리소스들을 제어하기 위한 운영 체제(142), 미들웨어(144), 또는 상기 운영 체제(142)에서 실행 가능한 어플리케이션(146)을 포함할 수 있다. 운영 체제(142)는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 프로그램(140) 중 적어도 일부 프로그램은, 예를 들면, 제조 시에 전자 장치(101)에 프리로드되거나, 또는 사용자에 의해 사용 시 외부 전자 장치(예: 도 1의 전자 장치(102 또는 104), 또는 서버(108))로부터 다운로드되거나 갱신될 수 있다.
운영 체제(142)는 전자 장치(101)의 하나 이상의 시스템 리소스들(예: 프로세스, 메모리, 또는 전원)의 관리(예: 할당 또는 회수)를 제어할 수 있다. 운영 체제(142)는, 추가적으로 또는 대체적으로, 전자 장치(101)의 다른 하드웨어 디바이스, 예를 들면, 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 구동하기 위한 하나 이상의 드라이버 프로그램들을 포함할 수 있다.
미들웨어(144)는 전자 장치(101)의 하나 이상의 리소스들로부터 제공되는 기능 또는 정보가 어플리케이션(146)에 의해 사용될 수 있도록 다양한 기능들을 어플리케이션(146)으로 제공할 수 있다. 미들웨어(144)는, 예를 들면, 어플리케이션 매니저(201), 윈도우 매니저(203), 멀티미디어 매니저(205), 리소스 매니저(207), 파워 매니저(209), 데이터베이스 매니저(211), 패키지 매니저(213), 커넥티비티 매니저(215), 노티피케이션 매니저(217), 로케이션 매니저(219), 그래픽 매니저(221), 시큐리티 매니저(223), 통화 매니저(225), 음성 인식 매니저(227) 또는 반응성 제어 매니저(228)를 포함할 수 있다.
어플리케이션 매니저(201)는, 예를 들면, 어플리케이션(146)의 생명 주기를 관리할 수 있다.
윈도우 매니저(203)는, 예를 들면, 화면에서 사용되는 하나 이상의 GUI 자원들을 관리할 수 있다.
멀티미디어 매니저(205)는, 예를 들면, 미디어 파일들의 재생에 필요한 하나 이상의 포맷들을 파악하고, 그 중 선택된 해당하는 포맷에 맞는 코덱을 이용하여 상기 미디어 파일들 중 해당하는 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다.
리소스 매니저(207)는, 예를 들면, 어플리케이션(146)의 소스 코드 또는 메모리(130)의 메모리의 공간을 관리할 수 있다.
파워 매니저(209)는, 예를 들면, 배터리(189)의 용량, 온도 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치(101)의 동작에 필요한 관련 정보를 결정 또는 제공할 수 있다. 일 실시 예에 따르면, 파워 매니저(209)는 전자 장치(101)의 바이오스(BIOS: basic input/output system)(미도시)와 연동할 수 있다.
데이터베이스 매니저(211)는, 예를 들면, 어플리케이션(146)에 의해 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다.
패키지 매니저(213)는, 예를 들면, 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(215)는, 예를 들면, 전자 장치(101)와 외부 전자 장치 간의 무선 연결 또는 직접 연결을 관리할 수 있다.
노티피케이션 매니저(217)는, 예를 들면, 지정된 이벤트(예: 착신 통화, 메시지, 또는 알람)의 발생을 사용자에게 알리기 위한 기능을 제공할 수 있다.
로케이션 매니저(219)는, 예를 들면, 전자 장치(101)의 위치 정보를 관리할 수 있다.
그래픽 매니저(221)는, 예를 들면, 사용자에게 제공될 하나 이상의 그래픽 효과들 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 예를 들면, 그래픽 매니저(221)는 SurfaceFlinger를 포함할 수 있다.
시큐리티 매니저(223)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다.
통화(telephony) 매니저(225)는, 예를 들면, 전자 장치(101)에 의해 제공되는 음성 통화 기능 또는 영상 통화 기능을 관리할 수 있다.
음성 인식 매니저(227)는, 예를 들면, 사용자의 음성 데이터를 서버(108)로 전송하고, 그 음성 데이터에 적어도 일부 기반하여 전자 장치(101)에서 수행될 기능에 대응하는 명령어(command), 또는 그 음성 데이터에 적어도 일부 기반하여 변환된 문자 데이터를 서버(108)로부터 수신할 수 있다.
반응성 제어 매니저(228)은, 예를 들면, 전자 장치(101)의 센서 모듈(176)의 하나 이상의 센서들로부터 해당 센서의 센서 값을 수신하고, 센서 값에 기초하여 전자 장치(101)의 현재 상태를 나타내는 상태 정보를 생성하고, 상태 정보에 기초하여 터치 입력이 유효한지 여부를 결정하고, 터치 입력의 유효 여부에 따라 전자 장치(101)를 제어하기 위한 반응성 레벨을 결정할 수 있다.
일 실시 예에 따르면, 미들웨어(144)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. 일 실시 예에 따르면, 미들웨어(144)의 적어도 일부는 운영 체제(142)의 일부로 포함되거나, 또는 운영 체제(142)와는 다른 별도의 소프트웨어로 구현될 수 있다.
어플리케이션(146)은, 예를 들면, 홈(251), 다이얼러(253), SMS/MMS(255), IM(instant message)(257), 브라우저(259), 카메라(261), 알람(263), 컨택트(265), 음성 인식(267), 이메일(269), 달력(271), 미디어 플레이어(273), 앨범(275), 와치(277), 헬스(279)(예: 운동량 또는 혈당과 같은 생체 정보를 측정), 또는 환경 정보(281)(예: 기압, 습도, 또는 온도 정보 측정) 어플리케이션을 포함할 수 있다. 일 실시 예에 따르면, 어플리케이션(146)은 전자 장치(101)와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션(미도시)을 더 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치로 지정된 정보 (예: 통화, 메시지, 또는 알람)를 전달하도록 설정된 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하도록 설정된 장치 관리 어플리케이션을 포함할 수 있다. 노티피케이션 릴레이 어플리케이션은, 예를 들면, 전자 장치(101)의 다른 어플리케이션(예: 이메일 어플리케이션(269))에서 발생된 지정된 이벤트(예: 메일 수신)에 대응하는 알림 정보를 외부 전자 장치로 전달할 수 있다. 추가적으로 또는 대체적으로, 노티피케이션 릴레이 어플리케이션은 외부 전자 장치로부터 알림 정보를 수신하여 전자 장치(101)의 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치(101)와 통신하는 외부 전자 장치 또는 그 일부 구성 요소(예: 외부 전자장치의 디스플레이 모듈 또는 카메라 모듈)의 전원(예: 턴-온 또는 턴-오프) 또는 기능(예: 밝기, 해상도, 또는 포커스)을 제어할 수 있다. 장치 관리 어플리케이션은, 추가적으로 또는 대체적으로, 외부 전자 장치에서 동작하는 어플리케이션의 설치, 삭제, 또는 갱신을 지원할 수 있다.
도 3은 다양한 실시 예들에 따른 전자 장치의 블록도이다.
도 3을 참조하면, 일 예에 따른 전자 장치(300)(예: 도 1의 전자 장치(101))는 프로세서(310)(예: 도 1의 프로세서(120)), 메모리(320)(예: 도 1의 메모리(130)), 디스플레이 모듈(330)(예: 도 1의 디스플레이 모듈(160)) 및 센서부(340)(예: 도 1의 센서 모듈(176))를 포함할 수 있다.
프로세서(310)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치(GPU: graphic central processing unit), 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서(ISP: image signal processor), 디지털 신호 프로세서(DSP: digital signal processor), 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 프로세서(310)가 메인 프로세서 및 보조 프로세서를 포함하는 경우, 보조 프로세서는 메인 프로세서 보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서는 메인 프로세서와 별개로, 또는 그 일부로서 구현될 수 있다.
메모리(320)는, 전자 장치(300)의 적어도 하나의 구성요소(예: 프로세서(310))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 도 1의 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다.
프로그램(예: 도 1의 프로그램(140))은 메모리(320)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(예를 들어, 도 1의 운영 체제(142)), 미들 웨어((예를 들어, 도 1의 미들 웨어(144)) 또는 어플리케이션(예를 들어, 도 1의 어플리케이션(146))을 포함할 수 있다.
일 측면에 따르면, 전자 장치(300)의 사용자에 의해 메모리(320)에는 하나 이상의 어플리케이션들이 저장 또는 설치될 수 있다. 예를 들어, 전자 장치(300)에 설치되는 어플리케이션은 게임 어플리케이션 및 카메라 어플리케이션을 포함할 수 있고, 기재된 실시예로 한정되지 않으며, 다양한 목적을 위한 어플리케이션들을 포함할 수 있다.
디스플레이 모듈(330)은 전자 장치(300)의 외부로 정보를 디스플레이 화면을 통해 시각적으로 제공할 수 있다. 예를 들어, 제공될 정보가 변경(또는, 업데이트)되는 경우 디스플레이 화면도 함께 변경될 수 있다. 일 실시 예에 따르면, 디스플레이 모듈(330)은 터치를 감지하도록 설정된 터치 센서(332), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
센서부(340)는 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서 중 적어도 하나를 포함할 수 있다. 센서부(340)의 각 센서는 전자 장치(300)의 환경을 센싱함으로써 센서 값을 생성할 수 있다. 센서들에 의해 생성된 센서 값들이 상태 정보를 구성할 수 있다.
전자 장치(300)는 터치 센서(332)를 통해 사용자로부터 터치 입력을 수신하고, 터치 입력을 처리함으로써 생성된 결과를 사용자에게 디스플레이 화면을 통해 제공할 수 있다. 터치 입력을 처리하기 위해서는 전자 장치(300)의 하드웨어(또는, 시스템) 자원이 사용될 수 있고, 하드웨어 자원이 사용된 경우 전자 장치(300)의 배터리(예: 도 1의 배터리(189))의 전력이 감소될 수 있다.
일 측면에 따르면, 사용자가 실제로 전자 장치(300)를 사용하지 않는 상태에서 사용자가 의도하지 않은 터치가 전자 장치(300)로 입력될 수 있다. 사용자가 의도하지 않은 터치 입력에 대해서도 전자 장치(300)가 하드웨어 자원을 사용하는 경우 원하지 않는 배터리의 방전이 발생할 수 있다. 사용자가 원하지 않는 배터리의 전력 소모를 방지하기 위해 터치 입력이 유효한지 여부가 결정되고, 터치 입력이 유효하지 않은 경우 터치 입력이 처리되지 않을 수 있다.
일 측면에 따르면, 전자 장치(300)의 현재 상태에 따라 터치 입력에 대한 전자 장치(300)의 반응성의 레벨이 결정되고, 결정된 레벨에 기초하여 전자 장치(300)가 터치 입력을 처리할 수 있다. 예를 들어, 결정된 반응성의 레벨은 고 성능 모드(high performance mode), 중간 성능 모드(mid performance mode), 저 성능 모드(low performance mode) 및 지속 성능 모드(sustain performance mode) 중 하나일 수 있다. 각 성능 모드에 대해 전자 장치(300)의 하드웨어 자원이 얼마나 집중적으로 사용되는지가 미리 할당될 수 있다. 예를 들어, 다른 성능 모드들 보다 고 성능 모드에 프로세서(310)의 동작 클록이 높게 할당될 수 있다. 전자 장치(300)의 현재 상태에 기초하여 터치 입력에 대한 반응성의 레벨을 결정함으로써 전자 장치(300)의 하드웨어 자원이 효율적으로 사용될 수 있다.
아래에서 도 4 내지 도 9를 참조하여 터치 입력에 대한 반응성의 레벨을 결정하고, 결정된 반응성의 레벨에 기초하여 전자 장치(300)를 제어하는 방법이 상세하게 설명된다.
일 실시 예에 따른, 전자 장치(300)는 하나 이상의 센서들을 포함하는 센서부(340), 터치 센서(332)를 포함하는 디스플레이 모듈(330), 및 전자 장치(300)를 제어하는 적어도 하나의 프로세서(310)를 포함하고, 프로세서(310)는 터치 센서(332)를 통해 터치 입력을 감지하고, 터치 입력이 감지된 경우 하나 이상의 센서들을 통해 생성된 상태 정보에 기초하여 터치 입력이 유효한지 여부를 결정하고, 터치 입력이 유효한 것으로 결정된 경우 상태 정보 및 전자 장치(300)에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 복수의 레벨들 중 터치 입력에 대한 반응성의 타겟 레벨을 결정하고, 타겟 레벨에 기초하여 전자 장치(300)를 제어할 수 있다.
일 실시 예에 따른, 전자 장치(300)는 이동 통신 단말일 수 있다.
도 4는 다양한 실시 예들에 따른 결정된 반응성의 레벨에 기초하여 전자 장치를 제어하는 방법을 설명하기 위한 흐름도이다.
아래의 동작들 410 내지 450은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))에 의해 수행될 수 있다.
동작 410에서, 전자 장치의 프로세서(예: 도 1의 프로세서(120) 또는 도 3의 프로세서(310))는 터치 센서(예: 도 3의 터치 센서(330))를 통해 사용자의 터치 입력을 감지할 수 있다. 예를 들어, 프로세서는 터치 센서로부터 터치 이벤트를 수신함으로써 터치 입력을 감지할 수 있다.
동작 420에서, 프로세서는 하나 이상의 센서들(예: 도 1의 센서 모듈(176)의 센서들 또는 도 3의 센서부(340)의 센서들)을 통해 생성된 상태 정보에 기초하여 터치 입력이 유효한지 여부를 결정할 수 있다.
일 측면에 따르면, 터치 입력은 사용자의 실제 입력 의도에 의해 발생할 수 있고, 이와는 다르게 사용자가 의도하지 않았음에도 우연한 터치에 의해 발생할 수 있다. 프로세서는 터치 입력이 유효하게 발생한 것인지를 결정하기 위해 상태 정보에 기초하여 전자 장치의 현재 상태를 먼저 결정할 수 있다. 예를 들어, 전자 장치의 현재 상태는 전자 장치 자체에 대한 상태 및 전자 장치를 사용하는 사용자의 상태를 포함할 수 있다. 예를 들어, 전자 장치 자체에 대한 현재 상태는 액티브 상태, 인액티브 상태, 주머니 안에 있는 상태, 어두운 곳에 위치한 상태, 극장 안에 위치한 상태를 포함할 수 있다. 예를 들어, 사용자의 상태는 앉아 있는 상태, 누워있는 상태, 걷는 상태, 달리는 상태, 운전 상태를 포함할 수 있다.
아래에서 도 5 및 도 6을 참조하여 전자 장치의 현재 상태에 기초하여 터치 입력이 유효한지 여부를 결정하는 방법이 상세히 설명된다.
일 실시 예에 따르면, 프로세서(300)는 상기의 터치 입력 보다 이전에 수신된 터치 입력들에 더 기초하여 터치 입력이 유효한지 여부를 결정할 수 있다. 예를 들어, 현재 상태에 기초하여 터치 입력이 유효하지 않은 것으로 결정된 경우에도, 터치 입력들이 지속적으로 감지되는 경우 최종적으로 터치 입력이 유효한 것으로 결정될 수 있다.
터치 입력이 유효하지 않은 것으로 결정된 경우 아래의 동작 430이 수행되고, 터치 입력이 유효한 것으로 결정된 경우 아래의 동작 440이 수행될 수 있다.
동작 430에서, 프로세서는 감지한 터치 입력을 무효화할 수 있다. 터치 입력이 무효화된 경우, 프로세서는 터치 입력을 처리하기 위한 하드웨어 자원을 사용하지 않을 수 있다.
동작 440에서, 프로세서는 상태 정보 및 전자 장치에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 미리 설정된 복수의 레벨들 중 터치 입력에 대한 반응성의 타겟 레벨을 결정할 수 있다. 예를 들어, 미리 설정된 복수의 레벨들은 고 성능 모드, 중간 성능 모드, 저 성능 모드 및 지속 성능 모드를 포함할 수 있고, 기재된 실시예로 한정되지 않는다.
일 측면에 따르면, 프로세서는 상태 정보에 기초하여 터치 입력에 대한 반응성의 타겟 레벨을 결정할 수 있다. 예를 들어, 상태 정보에 기초하여 결정된 전자 장치의 현재 상태에 대응하도록 타겟 레벨이 결정될 수 있다. 아래에서, 도 7을 참조하여 전자 장치의 현재 상태에 기초하여 타겟 레벨을 결정하는 방법에 대해 상세히 설명된다.
일 측면에 따르면, 프로세서는 어플리케이션 정보에 기초하여 반응성의 타겟 레벨을 결정할 수 있다. 예를 들어, 높은 데이터 처리량(또는, 사용자 입력에 대응하는 결과 화면을 빠르게 출력해야하는 성능(예: 높은 FPS(frame per second)))이 요구되는 어플리케이션(예: 게임 어플리케이션)에 대해서는 높은 반응성의 레벨이 결정되고, 낮은 데이터 처리량으로도 실행이 가능한 어플리케이션에 대해서는 낮은 반응성의 레벨이 결정될 수 있다.
일 측면에 따르면, 프로세서는 전자 장치의 현재 상태 및 어플리케이션 정보를 모두 고려하여 반응성의 타겟 레벨을 결정할 수 있다. 예를 들어, 사용자가 전자 장치의 사용에 불편함을 느끼지 않도록 현재 상태에 대해 결정된 제1 레벨 및 어플리케이션 정보에 대해 결정된 제2 레벨 중 보다 높은 반응성을 갖는 레벨이 타겟 레벨로 결정될 수 있다. 예를 들어, 전자 장치가 높은 반응성을 제공하더라도 사용자가 그 반응성을 체감하지 못할 수 있는 상황(예: 달리는 상태)에서는 현재 상태에 대해 결정된 제1 레벨 및 어플리케이션 정보에 대해 결정된 제2 레벨 중 보다 낮은 반응성을 갖는 레벨이 타겟 레벨로 결정될 수 있다.
동작 450에서, 프로세서는 타겟 레벨에 기초하여 전자 장치를 제어할 수 있다. 예를 들어, 프로세서는 타겟 레벨에 대응하도록 전자 장치의 하드웨어 자원들의 사용량을 조정함으로써 전자 장치를 제어할 수 있다. 예를 들어, 하드웨어 자원들은 CPU, GPU, NPU, ISP, DSP, 버스(bus) 또는 배터리를 포함할 수 있다. 하드웨어 자원들의 사용량이 조정됨으로써 전자 장치가 소모하는 전류가 제어될 수 있다.
일 측면에 따르면, 프로세서의 복수의 코어들을 포함하는 경우, 복수의 코어들 중 타겟 레벨에 대해 할당된 일부의 코어들이 전자 장치를 제어하기 위한 태스크를 처리하도록 사용될 수 있다. 예를 들어, 타겟 레벨이 고 성능 모드에 대응하는 경우, 복수의 코어들 중 고 성능의 코어가 사용되도록 제어될 수 있다. 예를 들어, 타겟 레벨이 저 성능 모드에 대응하는 경우, 복수의 코어들 중 저전력으로 동작하는 코어가 사용되도록 제어될 수 있다.
일 실시 예에 따르면, 프로세서(310)는 타겟 레벨에 대응하도록 전자 장치(300)의 하드웨어 자원들의 사용량을 조정함으로써 전자 장치(300)를 제어할 수 있다.
도 5는 다양한 실시 예들에 따른 터치 입력이 유효한지 여부를 결정하는 방법의 흐름도이다.
일 실시 예에 따르면, 도 4를 참조하여 전술된 동작 420은 아래의 동작 510 내지 540을 포함할 수 있다. 동작들 510 내지 동작 540은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))에 의해 수행될 수 있다.
동작 510에서, 전자 장치의 프로세서(예: 도 1의 프로세서(120) 또는 도 3의 프로세서(310))는 센서부(예: 도 1의 센서 모듈(176) 또는 도 3의 센서부(340))의 하나 이상의 센서들로부터 수신한 상태 정보에 기초하여 전자 장치의 현재 상태를 결정할 수 있다.
일 측면에 따르면, 센서부는 가속도 센서 및 자이로 센서 중 하나 이상을 포함하고, 상태 정보는 가속도 센서의 센서 값 및 자이로 센서의 센서 값 중 하나 이상을 포함할 수 있다. 프로세서는 가속도 센서의 센서 값 및 자이로 센서의 센서 값을 포함하는 상태 정보에 기초하여 전자 장치의 현재 상태를 결정할 수 있다. 예를 들어, 상기의 상태 정보에 기초하여 결정되는 현재 상태는 제1 현재 상태로서 전자 장치를 사용하는 사용자의 상태를 나타낼 수 있다. 제1 현재 상태는 걷는 상태, 달리는 상태, 앉아 있는 상태, 누워있는 상태 또는 운전 상태일 수 있다.
일 측면에 따르면, 센서부는 근접 센서 및 조도 센서 중 하나 이상을 더 포함하고, 상태 정보는 근접 센서의 센서 값 및 조도 센서의 센서 값 중 하나 이상을 더 포함할 수 있다. 프로세서는 근접 센서의 센서 값 및 조도 센서의 센서 값을 포함하는 상태 정보에 기초하여 전자 장치의 현재 상태를 결정할 수 있다. 예를 들어, 상기의 상태 정보에 기초하여 결정되는 현재 상태는 제2 현재 상태로서 전자 장치 자체에 대한 상태를 나타낼 수 있다. 제2 현재 상태는 액티브 상태, 인액티브 상태, 밝은 곳에 위치한 상태, 주머니 안에 있는 상태, 어두운 곳에 위치한 상태 또는 극장 안에 위치한 상태일 수 있다.
일 측면에 따르면, 프로세서는 결정된 제1 현재 상태 및 제2 현재 상태에 기초하여 최종적인 현재 상태를 결정할 수 있다. 예를 들어, 제1 현재 상태 및 제2 현재 상태를 모두 반영할 수 있는 상태가 현재 상태로 결정될 수 있다.
일 측면에 따르면, 동작 510은 동작 410이 수행된 후에 수행되는 것으로 도 5를 통해 도시되었으나, 동작 510은 동작 410이 수행된 후에 반드시 수행되야하는 것은 아니고, 실시예에 따라, 동작 410이 수행되기 전에 수행되거나, 또는 동작 410과는 독립적이고 병렬적으로 수행될 수 있다.
동작 520에서, 프로세서는 현재 상태가 미리 설정된 제1 상태에 대응하는지 여부를 결정할 수 있다. 예를 들어, 미리 설정된 제1 상태는 사용자가 터치를 입력하기에 어려운 상태 또는 논리적으로 불가능한 상태일 수 있다.
동작 530에서, 프로세서는 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 터치 입력이 유효하지 않은 것으로 결정할 수 있다.
동작 540에서, 프로세서는 현재 상태가 미리 설정된 제1 상태에 대응하지 않는 경우 터치 입력이 유효한 것으로 결정할 수 있다.
일 실시 예에 따르면, 센서부(340)는 가속도 센서 및 자이로 센서 중 하나 이상을 포함하고, 상태 정보는 가속도 센서의 센서 값 및 자이로 센서의 센서 값 중 하나 이상을 포함하고, 프로세서(310)는 상태 정보에 기초하여 전자 장치(300)의 현재 상태를 결정하고, 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 터치 입력이 유효하지 않은 것으로 결정할 수 있다.
일 실시 예에 따르면, 센서부(340)는 근접 센서 및 조도 센서 중 하나 이상을 더 포함하고, 상태 정보는 근접 센서의 센서 값 및 조도 센서의 센서 값 중 하나 이상을 더 포함할 수 있다.
도 6는 다양한 실시 예들에 따른 디스플레이 화면이 갱신되는지 여부에 기초하여 터치 입력이 유효한지 여부를 결정하는 방법의 흐름도이다.
일 실시 예에 따르면, 도 4 및 도 5를 참조하여 전술된 동작 420은 아래의 동작 610 및 620을 더 포함할 수 있다. 아래의 동작들 610 내지 620은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))에 의해 수행될 수 있다. 도 5의 동작 520에서 현재 상태가 제1 상태에 대응하는 것으로 결정된 경우, 동작 610이 수행될 수 있다.
동작 610에서, 전자 장치의 프로세서(예: 도 1의 프로세서(120) 또는 도 3의 프로세서(310))는 터치 입력에 의해 디스플레이 모듈(예: 도 1의 디스플레이 모듈(160), 도 3의 디스플레이 모듈(330))의 디스플레이 화면이 갱신되는지 여부를 결정할 수 있다. 예를 들어, 프로세서는 그래픽 매니저(예: 도 2의 그래픽 매니저(221))로부터 디스플레이 화면이 갱신되었는지를 나타내는 이벤트를 수신함으로써 디스플레이 화면이 갱신되는지 여부를 결정할 수 있다.
일 측면에 따르면, 사용자는 전자 장치에서 실행 중인 어플리케이션의 진행 상황을 갱신하기 위한 의도로 터치를 입력할 수 있으나, 이와는 반대로 특별한 의도 없이 전자 장치를 터치할 수도 있다. 예를 들어, 사용자는 어플리케이션의 진행과는 관계없는 디스플레이의 영역을 터치할 수 있다. 예를 들어, 어플리케이션의 진행과는 관계없는 디스플레이의 영역은 UI(user interface)이 나타나지 않는 영역일 수 있다. 사용자가 UI를 터치한 경우, 어플리케이션의 진행 상황이 갱신되므로 디스플레이 화면이 갱신될 수 있고, 사용자가 UI가 없는 영역을 터치한 경우 어플리케이션의 진행 상황이 갱신되지 않으므로 디스플레이 화면이 갱신되지 않을 수 있다.
디스플레이 화면이 갱신된 것으로 결정된 경우 도 5의 동작 540이 수행될 수 있고, 디스플레이 화면이 갱신되지 않은 것으로 결정된 경우 도 5의 동작 530이 수행될 수 있다.
일 실시예에 따르면, 프로세서(310)는, 현재 상태가 미리 설정된 제1 상태에 대응하지 않는 경우, 터치 입력에 의해 디스플레이 모듈(330)의 디스플레이 화면이 갱신되는지 여부를 결정하고, 디스플레이 화면이 갱신되는지 않은 경우 터치 입력이 유효하지 않은 것으로 결정할 수 있다.
도 7은 다양한 실시 예들에 따른 전자 장치의 현재 상태에 기초하여 타겟 레벨을 결정하는 방법의 흐름도이다.
일 실시 예에 따르면, 도 4를 참조하여 전술된 동작 440은 아래의 동작 710 내지 동작 730을 더 포함할 수 있다. 아래의 동작들 710 내지 730은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))에 의해 수행될 수 있다. 동작 710은 터치 입력이 유효한 것으로 결정된 경우에 수행될 수 있다.
동작 710에서, 전자 장치의 프로세서(예: 도 1의 프로세서(120) 또는 도 3의 프로세서(310))는 전자 장치의 현재 상태가 미리 설정된 제2 상태에 대응하는지 여부를 결정할 수 있다. 예를 들어, 복수의 제2 상태들이 미리 설정되어 있고, 전자 장치의 현재 상태가 복수의 제2 상태들 중 어느 하나에 대응하는지 여부를 결정할 수 있다.
일 측면에 따르면, 미리 설정된 제2 상태는 도 5를 참조하여 전술된 제1 현재 상태 및 제2 현재 상태의 조합에 대응하는 상태일 수 있다. 예를 들어, 제2 상태는 사용자가 앉아 있고(제1 현재 상태), 밝은 곳에 위치한 상태(제2 현재 상태)일 수 있다. 다른 예로, 제2 상태는 사용자가 걷고 있고(제1 현재 상태), 어두운 곳에 위치한 상태(제2 현재 상태)일 수 있다.
일 측면에 따르면, 미리 설정된 제2 상태는 도 5를 참조하여 전술된 제1 현재 상태 또는 제2 현재 상태에 대응하는 상태일 수 있고, 기재된 실시예로 한정되지 않는다.
일 측면에 따르면, 현재 상태는 어플리케이션의 실행을 위해 고 성능이 요구되는 상태인지 여부를 더 포함할 수 있다.
전자 장치의 현재 상태가 미리 설정된 제2 상태에 대응하는 경우 동작 720이 수행되고, 현재 상태가 제2 상태에 대응하지 않는 경우 동작 730이 수행될 수 있다.
동작 720에서, 프로세서는 제2 상태에 대응하는 타겟 레벨을 결정할 수 있다. 예를 들어, 제2 상태에 대응하는 레벨이 미리 설정되어 있을 수 있다.
일 측면에 따르면, 현재 상태가 사용자가 앉아 있고(제1 현재 상태), 밝은 곳에 위치한 상태(제2 현재 상태)이고, 현재 상태에 대응하는 제2 상태가 미리 설정되어 있는 경우, 제2 상태와 연관된 레벨이 현재 상태에 대한 타겟 레벨로 결정될 수 있다.
동작 730에서, 프로세서는 전자 장치의 현재 상태가 미리 설정된 제2 상태에 대응하지 않는 경우 현재 상태에 대응하는 타겟 레벨을 결정할 수 있다. 동작 730은 전자 장치의 현재 상태가 미리 설정된 복수의 제2 상태들에 대응하지 않는 경우 예외를 처리하기 위한 동작일 수 있다.
일 측면에 따르면, 프로세서는 전자 장치의 현재 상태의 제1 현재 상태 및 제2 현재 상태 중 적어도 하나에 기초하여 타겟 레벨을 결정할 수 있다. 예를 들어, 제1 현재 상태와 연관된 레벨 및 제2 현재 상태와 연관된 레벨 중 보다 높은 레벨이 타겟 레벨로 결정될 수 있다.
일 측면에 따르면, 프로세서는 어플리케이션 정보에 기초하여 타겟 레벨을 결정할 수 있다. 예를 들어, 어플리케이션의 실행을 위해 고 성능이 요구되는 경우 고 성능 모드에 대응하는 레벨로 타겟 레벨이 결정될 수 있다.
일 실시 예에 따르면, 프로세서(310)는, 터치 입력이 유효한 것으로 결정되고, 현재 상태가 미리 설정된 제2 상태에 대응하는 경우 복수의 레벨들 중 제2 상태에 대응하는 타겟 레벨을 결정할 수 있다.
도 8은 다양한 실시 예들에 따른 이미지 내에 사용자의 눈이 포함되는지 여부에 기초하여 터치 입력이 유효한지 여부를 결정하는 방법의 흐름도이다.
일 실시 예에 따르면, 도 4 및 도 5를 참조하여 전술된 동작 420은 아래의 동작 810 및 820을 더 포함할 수 있다. 아래의 동작들 810 내지 820은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))에 의해 수행될 수 있다. 도 5를 참조하여 전술된 동작 520이 수행된 후 아래의 동작 810 및 820이 더 수행될 수 있다. 동작 520에서 현재 상태가 제1 상태에 대응하는 것으로 결정된 경우에 수행될 수 있다.
동작 810에서, 전자 장치의 프로세서(예: 도 1의 프로세서(120) 또는 도 3의 프로세서(310))는 전자 장치의 카메라 센서(예: 도 1의 카메라 모듈(180))에 기초하여 이미지를 생성할 수 있다. 이미지는 전자 장치의 사용자가 의도를 가지고 터치를 입력하였는지를 확인하기 위해 사용될 수 있다.
동작 820에서, 프로세서는 이미지 내에 사용자의 눈이 포함되는지 여부를 결정할 수 있다. 이미지 내에 사용자의 눈이 포함된 것의 의미는 사용자가 전자 장치를 주시하는 상태에서 터치가 입력된 것이라고 해석될 수 있다.
이미지 내에 사용자의 눈이 포함된 경우 도 5의 동작 540이 수행될 수 있고, 이미지 내에 사용자의 눈이 포함되지 않은 경우 도 5의 동작 530이 수행될 수 있다.
일 측면에 따르면, 동작 810 및 동작 820의 수행은 전자 장치의 추가의 하드웨어 자원을 사용하므로 동작 810 및 동작 820에 따른 기능은 제한적으로 사용될 수 있다. 예를 들어, 사용자에게 의해 상기의 기능의 사용이 허용된 경우에만 동작 810 및 동작 820이 수행될 수 있다.
일 실시 예에 따르면, 전자 장치(300)는 카메라 센서를 더 포함하고, 프로세서(310)는, 상태 정보에 기초하여 전자 장치의 현재 상태를 결정하고, 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 카메라 센서에 기초하여 이미지를 생성하고, 이미지 내에 사용자의 눈이 포함되는지 여부를 결정하고, 이미지 내에 사용자의 눈이 포함되는 경우 터치 입력이 유효한 것으로 결정할 수 이싿.
도 9는 다양한 실시 예들에 따른 디스플레이 화면이 갱신되는 속도에 기초하여 반응성에 대한 레벨을 재결정하는 방법의 흐름도이다.
일 실시 예에 따르면, 도 4를 참조하여 전술된 동작 450이 수행된 후, 아래의 동작 910 내지 동작 950이 더 수행될 수 있다. 동작들 910 내지 동작 950은 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(300))에 의해 수행될 수 있다.
동작 910에서, 전자 장치의 프로세서(예: 도 1의 프로세서(120) 또는 도 3의 프로세서(310))는 타겟 레벨로 전자 장치가 제어되는 동안 디스플레이 화면이 갱신되는 속도를 결정할 수 있다. 예를 들어, 프로세서는 그래픽 매니저(예: 도 2의 그래픽 매니저(221))로부터 디스플레이 화면이 갱신되었음을 나타내는 이벤트를 수신함으로써 디스플레이 화면이 갱신되는 속도를 결정할 수 있다. 예를 들어, 디스플레이 화면이 갱신되는 속도는 FPS일 수 있다.
일 측면에 따르면, 디스플레이 화면 내의 뷰(view)의 복잡성, 그래픽 객체의 복잡성, 블러(blur) 설정 또는 설정 해상도에 따라 디스플레이 화면의 갱신 속도가 달라질 수 있다. 예를 들어, 뷰가 복잡할수록, 그래픽 객체가 복잡할수록, 또는 설정 해상도가 높을수록 디스플레이 화면의 갱신 속도가 낮아질 수 있다.
동작 920에서, 프로세서는 갱신 속도가 미리 설정된 목표 속도 이상인지 여부를 결정할 수 있다. 예를 들어, 목표 속도는 전자 장치에 대한 기본 설정 속도 또는 실행 중인 어플리케이션에 대한 설정 속도에 따라 미리 설정될 수 있다. 복수의 설정 속도들이 식별되는 경우, 가장 높은 설정 속도가 목표 속도로 결정될 수 있다.
갱신 속도가 미리 설정된 목표 속도 이상인 경우 동작 930이 수행되고, 갱신 속도가 미리 설정된 목표 속도 미만인 경우 동작 940이 수행될 수 있다.
동작 930에서, 프로세서는 갱신 속도가 미리 설정된 목표 속도 이상인 경우 타겟 레벨을 유지할 수 있다. 갱신 속도가 미리 설정된 목표 속도 이상인 것의 의미는 전자 장치를 제어하는 현재의 타겟 레벨이 적절한 제어 레벨인 것을 의미할 수 있다.
일 측면에 따르면, 갱신 속도가 미리 설정된 목표 속도 이상인 경우, 프로세서는 현재의 제1 레벨을 유지하거나, 제1 레벨 보다 낮은 제2 레벨로 타겟 레벨을 조정할 수 있다. 예를 들어, 갱신 속도와 목표 속도 간의 차이(예: 마진(margin))가 미리 설정된 임계치 보다 큰 경우 제1 레벨 보다 낮은 제2 레벨로 타겟 레벨이 조정될 수 있다.
동작 940에서, 프로세서는 갱신 속도가 미리 설정된 목표 속도 미만인 경우 현재의 타겟 레벨 보다 높은 레벨을 새로운 타겟 레벨로 결정할 수 있다. 갱신 속도가 미리 설정된 목표 속도 미만인 것의 의미는 전자 장치를 제어하는 현재의 타겟 레벨이 적절하지 않은 제어 레벨인 것을 의미할 수 있다. 제어 레벨이 적절하지 않은 경우 사용자는 전자 장치의 사용에 불편함을 느낄 수 있다. 사용자의 불편함을 방지하지 위해 전자 장치의 제어 레벨이 상승할 수 있다.
동작 950에서, 프로세서는 결정된 타겟 레벨로 전자 장치를 제어할 수 있다. 동작 950에 대한 설명은 도 4를 참조하여 전술된 동작 450에 대한 설명이 유사하게 적용될 수 있다.
일 측면에 따르면, 새로운 명령 또는 새로운 터치 입력이 수신되기 전까지, 동작 910 내지 동작 950이 반복적으로 수행될 수 있다.
일 실시 예에 따르면, 프로세서(310)는, 타겟 레벨로 전자 장치(300)가 제어되는 동안 디스플레이 모듈(330)의 디스플레이 화면이 갱신되는 속도를 결정하고, 디스플레이 화면(330)이 갱신되는 속도가 미리 설정된 목표 속도 미만인 경우 타겟 레벨 보다 높은 레벨로 전자 장치(300)를 제어할 수 있다.
일 실시 예에 따르면, 목표 속도는 디스플레이 화면을 갱신하기 위해 전자 장치(300)에 의해 실행 중인 어플리케이션과 연관될 수 있다.
이상에서 설명된 실시 예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시 예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 컨트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시 예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있으며 매체에 기록되는 프로그램 명령은 실시 예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
위에서 설명한 하드웨어 장치는 실시 예의 동작을 수행하기 위해 하나 또는 복수의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시 예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 이를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시 예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (15)

  1. 전자 장치에 있어서,
    하나 이상의 센서들을 포함하는 센서부;
    터치 센서를 포함하는 디스플레이 모듈; 및
    상기 전자 장치를 제어하는 적어도 하나의 프로세서
    를 포함하고,
    상기 프로세서는,
    상기 터치 센서를 통해 터치 입력을 감지하고,
    상기 터치 입력이 감지된 경우 상기 하나 이상의 센서들을 통해 생성된 상태 정보에 기초하여 상기 터치 입력이 유효한지 여부를 결정하고,
    상기 터치 입력이 유효한 것으로 결정된 경우 상기 상태 정보 및 상기 전자 장치에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 복수의 레벨들 중 상기 터치 입력에 대한 반응성의 타겟 레벨을 결정하고,
    상기 타겟 레벨에 기초하여 상기 전자 장치를 제어하는,
    전자 장치.
  2. 제1항에 있어서,
    상기 센서부는 가속도 센서 및 자이로 센서 중 하나 이상을 포함하고,
    상기 상태 정보는 상기 가속도 센서의 센서 값 및 상기 자이로 센서의 센서 값 중 하나 이상을 포함하고,
    상기 프로세서는,
    상기 상태 정보에 기초하여 상기 전자 장치의 현재 상태를 결정하고,
    상기 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 상기 터치 입력이 유효하지 않은 것으로 결정하는,
    전자 장치.
  3. 제2항에 있어서,
    상기 프로세서는,
    상기 터치 입력이 유효한 것으로 결정되고, 상기 현재 상태가 미리 설정된 제2 상태에 대응하는 경우 상기 복수의 레벨들 중 상기 제2 상태에 대응하는 상기 타겟 레벨을 결정하는,
    전자 장치.
  4. 제2항에 있어서,
    상기 센서부는 근접 센서 및 조도 센서 중 하나 이상을 더 포함하고,
    상기 상태 정보는 상기 근접 센서의 센서 값 및 상기 조도 센서의 센서 값 중 하나 이상을 더 포함하는,
    전자 장치.
  5. 제2항에 있어서,
    상기 프로세서는,
    상기 현재 상태가 상기 미리 설정된 제1 상태에 대응하지 않는 경우, 상기 터치 입력에 의해 상기 디스플레이 모듈의 디스플레이 화면이 갱신되는지 여부를 결정하고,
    상기 디스플레이 화면이 갱신되는지 않은 경우 상기 터치 입력이 유효하지 않은 것으로 결정하고,
    전자 장치.
  6. 제1항에 있어서,
    카메라 센서
    를 더 포함하고,
    상기 프로세서는,
    상기 상태 정보에 기초하여 상기 전자 장치의 현재 상태를 결정하고,
    상기 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 상기 카메라 센서에 기초하여 이미지를 생성하고,
    상기 이미지 내에 사용자의 눈이 포함되는지 여부를 결정하고,
    상기 이미지 내에 상기 사용자의 눈이 포함되는 경우 상기 터치 입력이 유효한 것으로 결정하는,
    전자 장치.
  7. 제1항에 있어서,
    상기 프로세서는,
    상기 터치 입력 보다 이전에 수신된 터치 입력들에 더 기초하여 상기 터치 입력이 유효한지 여부를 결정하고,
    전자 장치.
  8. 제1항에 있어서,
    상기 프로세서는,
    상기 타겟 레벨로 상기 전자 장치가 제어되는 동안 상기 디스플레이 모듈의 디스플레이 화면이 갱신되는 속도를 결정하고,
    상기 디스플레이 화면이 갱신되는 속도가 미리 설정된 목표 속도 미만인 경우 상기 타겟 레벨 보다 높은 레벨로 상기 전자 장치를 제어하는,
    전자 장치.
  9. 제8항에 있어서,
    상기 목표 속도는 상기 디스플레이 화면을 갱신하기 위해 상기 전자 장치에 의해 실행 중인 어플리케이션과 연관되는,
    전자 장치.
  10. 제1항에 있어서,
    상기 프로세서는,
    상기 타겟 레벨에 대응하도록 상기 전자 장치의 하드웨어 자원들의 사용량을 조정함으로써 상기 전자 장치를 제어하는,
    전자 장치.
  11. 제1항에 있어서,
    상기 전자 장치는,
    이동 통신 단말인,
    전자 장치.
  12. 전자 장치에 의해 수행되는, 전자 장치 제어 방법은,
    터치 센서를 통해 터치 입력을 감지하는 동작;
    상기 터치 입력이 감지된 경우 하나 이상의 센서들을 통해 생성된 상태 정보에 기초하여 상기 터치 입력이 유효한지 여부를 결정하는 동작;
    상기 터치 입력이 유효한 것으로 결정된 경우 상기 상태 정보 및 상기 전자 장치에 의해 실행되는 어플리케이션에 대한 어플리케이션 정보 중 적어도 하나에 기초하여 복수의 레벨들 중 상기 터치 입력에 대한 반응성의 타겟 레벨을 결정하는 동작; 및
    상기 타겟 레벨에 기초하여 상기 전자 장치를 제어하는 동작
    을 포함하는,
    전자 장치 제어 방법.
  13. 제12항에 있어서,
    상기 상태 정보는 가속도 센서의 센서 값 및 자이로 센서의 센서 값 중 하나 이상을 포함하고,
    상기 터치 입력이 유효한지 여부를 결정하는 동작은,
    상기 상태 정보에 기초하여 상기 전자 장치의 현재 상태를 결정하는 동작; 및
    상기 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 상기 터치 입력이 유효하지 않은 것으로 결정하는 동작
    을 포함하는,
    전자 장치 제어 방법.
  14. 제12항에 있어서,
    상기 터치 입력이 유효한지 여부를 결정하는 동작은,
    상기 상태 정보에 기초하여 상기 전자 장치의 현재 상태를 결정하는 동작;
    상기 현재 상태가 미리 설정된 제1 상태에 대응하는 경우 카메라 센서에 기초하여 이미지를 생성하는 동작;
    상기 이미지 내에 사용자의 눈이 포함되는지 여부를 결정하는 동작;
    상기 이미지 내에 상기 사용자의 눈이 포함되는 경우 상기 터치 입력이 유효한 것으로 결정하는 동작;
    상기 이미지 내에 상기 사용자의 눈이 포함된 경우 상기 터치 입력이 유효한 것으로 결정하는 동작
    을 포함하는,
    전자 장치 제어 방법.
  15. 제12항의 방법을 수행하는 프로그램을 수록한 컴퓨터 판독 가능 기록 매체.
PCT/KR2022/000356 2021-03-10 2022-01-10 반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치 WO2022191400A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP22767297.9A EP4280038A4 (en) 2021-03-10 2022-01-10 PROCESSOR FOR DETERMINING A LEVEL OF RESPONSIVENESS AND ELECTRONIC DEVICE COMPRISING IT
US18/359,433 US20230367429A1 (en) 2021-03-10 2023-07-26 Processor for determining level of responsiveness and electronic device comprising same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210031337A KR20220126959A (ko) 2021-03-10 2021-03-10 반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치
KR10-2021-0031337 2021-03-10

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/359,433 Continuation US20230367429A1 (en) 2021-03-10 2023-07-26 Processor for determining level of responsiveness and electronic device comprising same

Publications (1)

Publication Number Publication Date
WO2022191400A1 true WO2022191400A1 (ko) 2022-09-15

Family

ID=83226881

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/000356 WO2022191400A1 (ko) 2021-03-10 2022-01-10 반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치

Country Status (4)

Country Link
US (1) US20230367429A1 (ko)
EP (1) EP4280038A4 (ko)
KR (1) KR20220126959A (ko)
WO (1) WO2022191400A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050061167A (ko) * 2003-12-18 2005-06-22 엘지전자 주식회사 스마트디스플레이의 터치 샘플링 비율 조절 장치와 방법
JP2010257012A (ja) * 2009-04-22 2010-11-11 Panasonic Corp 情報端末装置および入力制御方法
JP2013211028A (ja) * 2013-05-13 2013-10-10 Nec Casio Mobile Communications Ltd 携帯端末装置及びプログラム
KR20150022202A (ko) * 2013-08-22 2015-03-04 삼성전자주식회사 전자장치 및 전자장치의 터치 반응성 제어방법
KR20190064637A (ko) * 2016-11-03 2019-06-10 후아웨이 테크놀러지 컴퍼니 리미티드 거짓 터치 방지 방법 및 단말

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7792544B2 (en) * 2007-05-25 2010-09-07 Motorola, Inc. Method and apparatus for disabling the user interface of electronic devices
WO2010127175A2 (en) * 2009-04-30 2010-11-04 Synaptics Incorporated Control circuitry and method
EP2527955B1 (en) * 2011-05-25 2017-12-20 BlackBerry Limited Proximity detection between a mobile device and a related object
US9411442B2 (en) * 2011-06-29 2016-08-09 Google Technology Holdings LLC Electronic device having managed input components

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050061167A (ko) * 2003-12-18 2005-06-22 엘지전자 주식회사 스마트디스플레이의 터치 샘플링 비율 조절 장치와 방법
JP2010257012A (ja) * 2009-04-22 2010-11-11 Panasonic Corp 情報端末装置および入力制御方法
JP2013211028A (ja) * 2013-05-13 2013-10-10 Nec Casio Mobile Communications Ltd 携帯端末装置及びプログラム
KR20150022202A (ko) * 2013-08-22 2015-03-04 삼성전자주식회사 전자장치 및 전자장치의 터치 반응성 제어방법
KR20190064637A (ko) * 2016-11-03 2019-06-10 후아웨이 테크놀러지 컴퍼니 리미티드 거짓 터치 방지 방법 및 단말

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4280038A4 *

Also Published As

Publication number Publication date
US20230367429A1 (en) 2023-11-16
KR20220126959A (ko) 2022-09-19
EP4280038A1 (en) 2023-11-22
EP4280038A4 (en) 2024-06-12

Similar Documents

Publication Publication Date Title
WO2022030890A1 (ko) 다중 윈도우 이미지 캡쳐 방법 및 이를 위한 전자 장치
WO2022154286A1 (ko) 사용자 인터페이스를 제공하는 방법 및 그 전자 장치
WO2022154264A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022177162A1 (ko) 어플리케이션의 모델 파일을 초기화하는 프로세서 및 이를 포함하는 전자 장치
WO2022103019A1 (ko) 전자 장치 및 전자 장치의 어플리케이션 실행 방법
WO2022154263A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022211307A1 (ko) 올웨이즈 온 디스플레이 컨텐트를 표시를 지원하는 전자 장치 및 이의 제어 방법
WO2022065845A1 (ko) 입력 데이터 처리 방법 및 이를 지원하는 전자 장치
WO2022245116A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022085926A1 (ko) 전자 장치 및 서버를 포함하는 시스템, 및 그 시스템을 이용한 컨텐츠 추천 방법
WO2022191400A1 (ko) 반응성의 레벨을 결정하는 프로세서 및 이를 포함하는 전자 장치
WO2022080683A1 (ko) 무선 오디오 출력 장치의 연결 제어 방법 및 장치
WO2021177640A1 (ko) 외부 전자 장치의 어플리케이션을 제어하는 방법 및 이를 지원하는 전자 장치
WO2022154389A1 (ko) 전자 장치 및 전자 장치에서 사용자 활동 기반 발열 제어 방법
WO2024196145A1 (ko) 에지 라이팅 효과 표시 방법 및 그 전자 장치
WO2022220574A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022030800A1 (ko) 사용자 입력을 검출하기 위한 전자 장치 및 그의 동작 방법
WO2023090663A1 (ko) 콘텐츠 재생 장치 제어 방법 및 상기 방법을 수행하는 전자 장치
WO2022225350A1 (ko) 플렉서블 디스플레이 제어 방법 및 이를 지원하는 전자 장치
WO2024162683A1 (ko) 전자 장치 및 이를 이용한 홈 화면 표시 방법
WO2022025375A1 (ko) 오디오의 채널의 수를 변환하는 전자 장치 및 전자 장치의 동작 방법
WO2024191052A1 (ko) 절전 기능에 관한 사용자 인터페이스를 제공하기 위한 전자 장치 및 그 동작 방법
WO2023003233A1 (ko) 전자 장치 및 그의 동작 방법
WO2022119084A1 (ko) 확장 가능한 디스플레이를 포함하는 전자 장치 및 이의 동작 방법
WO2024135877A1 (ko) 복수의 시각적 객체들 중 시각적 객체를 식별하기 위한 전자 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22767297

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022767297

Country of ref document: EP

Effective date: 20230816

NENP Non-entry into the national phase

Ref country code: DE