WO2018131932A1 - 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법 - Google Patents

전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법 Download PDF

Info

Publication number
WO2018131932A1
WO2018131932A1 PCT/KR2018/000618 KR2018000618W WO2018131932A1 WO 2018131932 A1 WO2018131932 A1 WO 2018131932A1 KR 2018000618 W KR2018000618 W KR 2018000618W WO 2018131932 A1 WO2018131932 A1 WO 2018131932A1
Authority
WO
WIPO (PCT)
Prior art keywords
sensor
electronic device
touch screen
processor
user interface
Prior art date
Application number
PCT/KR2018/000618
Other languages
English (en)
French (fr)
Inventor
박재형
이해창
이해동
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/476,699 priority Critical patent/US20190324640A1/en
Publication of WO2018131932A1 publication Critical patent/WO2018131932A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1626—Constructional details or arrangements for portable computers with a single-body enclosure integrating a flat display, e.g. Personal Digital Assistants [PDAs]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1637—Details related to the display arrangement, including those related to the mounting of the display in the housing
    • G06F1/1643—Details related to the display arrangement, including those related to the mounting of the display in the housing the display being associated to a digitizer, e.g. laptops that can be used as penpads
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/169—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated pointing device, e.g. trackball in the palm rest area, mini-joystick integrated between keyboard keys, touch pads or touch stripes
    • G06F1/1692—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated pointing device, e.g. trackball in the palm rest area, mini-joystick integrated between keyboard keys, touch pads or touch stripes the I/O peripheral being a secondary touch screen used as control interface, e.g. virtual buttons or sliders
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416—Control or interface arrangements specially adapted for digitisers
    • G06F3/0418—Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/17—Image acquisition using hand-held instruments
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/12—Fingerprints or palmprints
    • G06V40/13—Sensors therefor
    • G06V40/1306—Sensors therefor non-optical, e.g. ultrasonic or capacitive sensing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20—Movements or behaviour, e.g. gesture recognition
    • G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/033—Indexing scheme relating to G06F3/033
    • G06F2203/0338—Fingerprint track pad, i.e. fingerprint sensor used as pointing device tracking the fingertip image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041—Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04106—Multi-sensing digitiser, i.e. digitiser using at least two different sensing technologies simultaneously or alternatively, e.g. for detecting pen and finger, for saving power or for improving position detection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04803—Split screen, i.e. subdividing the display area or the window area into separate subareas
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/044—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by capacitive means

Definitions

  • Various embodiments of the present disclosure relate to an electronic device and a method for providing a user interface according to a usage environment of the electronic device.
  • the mobile device provides a user interface using a touch sensor.
  • the touch sensor may be implemented in a variety of ways, the most commonly used capacitive touch sensor is widely used in the sense that the response speed is fast, it can detect multi-touch (multi-touch).
  • an electronic device and a method for providing a user interface using a sensor other than the capacitive touch sensor may be provided.
  • Various embodiments may provide an electronic device and a method thereof for providing a user interface according to a usage environment of the electronic device.
  • An electronic device may include a touch screen; A sensor formed on at least a portion of the touch screen; And a processor, wherein the processor is configured to display a user interface corresponding to the content on the touch screen to be controllable through the touch screen; And when it is determined that at least a portion of the touch screen is under water through the touch screen, the user interface may be displayed through at least a portion of the touch screen to be controlled by the sensor. .
  • a non-transitory recording medium having stored thereon instructions for executing an electronic device control method, wherein the instructions are configured to cause the at least one processor to perform at least one operation when executed by at least one processor.
  • the at least one operation may include displaying a user interface corresponding to content on a touch screen to be controlled through the touch screen; And when it is determined through the touch screen that at least a portion of the touch screen is located under water, at least a portion of the touch screen to control the user interface through a sensor formed in at least a portion of the touch screen. It may include an operation of displaying through some areas.
  • the electronic device when the electronic device is located underwater, the electronic device may be controlled by using a user interface corresponding to a sensor other than the touch sensor.
  • FIG. 1 illustrates a network environment including an electronic device according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIGS. 4A and 4B illustrate configuration diagrams of an electronic device according to various embodiments of the present disclosure.
  • 5A, 5B, and 5C are exemplary diagrams for describing a method of determining whether an electronic device is located in water through a first sensor according to various embodiments of the present disclosure.
  • FIG. 6 is a diagram illustrating a structure of a touch screen according to various embodiments of the present disclosure.
  • FIG. 7A and 7B illustrate exemplary diagrams for describing an active area of a display, according to various embodiments of the present disclosure.
  • 8A, 8B, and 8C illustrate example views of a first region of a sensor according to various embodiments.
  • 9A, 9B, 9C, 9D, 9E, and 9F are exemplary views illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • 10A, 10B, 10C, and 10D illustrate example views of a first region according to various embodiments.
  • 11A and 11B illustrate exemplary diagrams of a first user interface and a second user interface according to various embodiments of the present disclosure.
  • 12A and 12B are flowcharts illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a flowchart illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • FIG. 14 is a flowchart illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • any (eg first) component is said to be “connected (functionally or communicatively)” or “connected” to another (eg second) component
  • the other component is said other It may be directly connected to the component or may be connected through another component (for example, the third component).
  • the expression “device configured to” may mean that the device “can” together with other devices or components.
  • processor configured (or configured to) perform A, B, and C may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general purpose processor (eg, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may be, for example, a smartphone, a tablet PC, a mobile phone, a video phone, an e-book reader, a desktop PC, a laptop PC, a netbook computer, a workstation, a server, a PDA, a PMP ( portable multimedia player), an MP3 player, a medical device, a camera, or a wearable device.
  • Wearable devices may be accessory (e.g. watches, rings, bracelets, anklets, necklaces, eyeglasses, contact lenses, or head-mounted-devices (HMDs), textiles or clothing integrated (e.g.
  • the electronic device may be, for example, a television, a digital video disk (DVD) player, or audio.
  • Refrigerator, air conditioner, cleaner, oven, microwave, washing machine, air purifier, set-top box, home automation control panel, security control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game consoles (for example: Xbox TM, PlayStation TM), may include electronic dictionary, at least one of the electronic key, a camcorder, or a digital photo frame.
  • the electronic device may include various medical devices (eg, various portable medical measuring devices (such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Computed tomography (CT), cameras or ultrasounds), navigation devices, global navigation satellite systems (GNSS), event data recorders (EDRs), flight data recorders (FDRs), automotive infotainment devices, ship electronics (E.g.
  • various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters
  • MRA magnetic resonance angiography
  • MRI magnetic resonance imaging
  • CT Computed tomography
  • GNSS global navigation satellite systems
  • EDRs event data recorders
  • FDRs flight data recorders
  • automotive infotainment devices ship electronics
  • an electronic device may be a piece of furniture, a building / structure or a car, an electronic board, an electronic signature receiving device, a projector, or various measurement devices (eg, water, electricity, Gas, or a radio wave measuring instrument).
  • the electronic device may be flexible or a combination of two or more of the aforementioned various devices.
  • An electronic device according to an embodiment of the present disclosure is not limited to the above-described devices.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, a communication interface 170, and a sensor module 180. According to an embodiment of the present disclosure, the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include circuitry that connects the components 110-180 to each other and transfers communication (eg, control messages or data) between the components.
  • the processor 120 may include one or more of a central processing unit, an application processor, or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the processor 120 displays a user interface corresponding to the content on the touch screen (eg, the display 160) to be controlled through the touch screen, and at least a portion of the touch screen is underwater through the touch screen. If it is confirmed that the electronic device is located under the water, the user interface may be displayed through at least a portion of the touch screen to be controlled by the sensor.
  • the content may include at least one of an execution screen, a playback screen, a reading screen, a preview screen, and the like related to at least one application or application, music, video, camera, document, and the like.
  • the user interface may include a graphic object including at least one of an execution or shortcut icon, a controller, a scroll, a menu, etc. corresponding to the content.
  • the user interface may include a graphic object including an executable or shortcut icon corresponding to at least one application, or a graphic including at least one of an icon constituting (or included in a screen), a controller, scrolling, a menu, and the like. It can contain an object.
  • the processor 120 provides a first user interface corresponding to a first sensor (eg, a capacitive touch sensor) of the sensor module 180, and uses the first sensor to display the electronic device 101. (Or a touch screen) determines whether at least a portion of the electronic device 101 is located in the water, and if it is determined that at least a portion of the electronic device 101 is located in the water, the second sensor (eg, a fingerprint sensor or an optical sensor) of the sensor module 180 A corresponding second user interface may be provided.
  • the first user interface may be one of a graphic object or an application including an execution or shortcut icon corresponding to at least one application, an execution screen, a playback screen, a viewing screen, a preview screen, etc.
  • the second user interface may include at least one of a graphic object or an application including an execution or shortcut icon corresponding to some of at least one application, an execution screen, a playback screen, a reading screen, a preview screen, etc. related to a music, a video, a camera, a document, and the like It may include a graphic object including some of the controller, scroll, menu, etc. corresponding to one.
  • Some of the at least one application may be an application that can be used underwater.
  • the processor 120 analyzes a fingerprint image of the detected fingerprint to determine an input form or direction of a finger, and touches and drags the detected fingerprint based on the determined input form or direction. It may be determined as a first input such as a swipe or pinch in-out. The processor 120 may perform a function corresponding to the determined first input.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • Program 140 may be, for example, kernel 141, middleware 143, application programming interface (API) 145, application program (or “application”) 147 and / or location providing module 149. And the like. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system.
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Prioritize and process the one or more work requests.
  • the API 145 is an interface for the application 147 to control functions provided by the kernel 141 or the middleware 143.
  • the API 145 may include at least the following: file control, window control, image processing, or character control. It can contain one interface or function (eg command).
  • the input / output interface 150 may transmit, for example, a command or data input from a user or another external device to other component (s) of the electronic device 101, or other components of the electronic device 101 ( Commands or data received from the device) can be output to the user or other external device.
  • the location providing module 149 may collect location information of the electronic device 101, process the collected location information into location data corresponding to a specific accuracy, and provide the location information.
  • the location providing module 149 may collect location information, process the collected location information into location data corresponding to a specific accuracy, and provide the location information to at least one application.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, or a microelectromechanical system (MEMS) display, or an electronic paper display. It may include.
  • the display 160 may display, for example, various types of content (eg, text, images, videos, icons, and / or symbols, etc.) to the user.
  • the display 160 may include a touch screen. For example, a touch, a gesture, a proximity, a drag, and a swipe using an electronic pen or a part of a user's body may be used. It may receive a swipe or hovering input.
  • the communication interface 170 may establish communication between, for example, the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • the wireless communication may be, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), wireless broadband (WiBro), or global network (GSM).
  • LTE Long Term Evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal mobile telecommunications system
  • WiBro wireless broadband
  • GSM global network
  • the wireless communication includes, for example, wireless fidelity (WiFi), Bluetooth, Bluetooth low power (BLE), Zigbee, near field communication (NFC), magnetic secure transmission, and radio. It may include at least one of a frequency (RF) or a body area network (BAN).
  • RF frequency
  • BAN body area network
  • the wireless communication may include a GNSS.
  • the GNSS may be, for example, a Global Positioning System (GPS), a Global Navigation Satellite System (Glonass), a Beidou Navigation Satellite System (hereinafter referred to as "Beidou”), or a Galileo, the European global satellite-based navigation system.
  • GPS Global Positioning System
  • Glonass Global Navigation Satellite System
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system.
  • Wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a standard standard232 (RS-232), a power line communication, a plain old telephone service (POTS), and the like.
  • the network 162 may comprise a telecommunications network, for example at least one of a computer network (eg, LAN or WAN), the Internet, or a telephone network.
  • the sensor module 180 includes a first sensor (eg, a touch sensor) and a second sensor (eg, a fingerprint sensor or an optical sensor), through which the first input (eg, touch, drag, swipe, A pinch in / out may be detected, and a second input (for example, a fingerprint) may be detected through the second sensor.
  • a first sensor eg, a touch sensor
  • a second sensor eg, a fingerprint sensor or an optical sensor
  • Each of the first and second external electronic devices 102 and 104 may be a device that is the same as or different from the electronic device 101.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 when the electronic device 101 needs to perform a function or service automatically or by request, the electronic device 101 may instead or additionally execute the function or service by itself. At least some associated functions may be requested to another device (eg, the electronic device 102 or 104 or the server 106). The other electronic device (for example, the electronic devices 102 and 104 or the server 106) may execute the requested function or the additional function and transmit the result to the electronic device 101. The electronic device 101 may process the received result as it is or additionally to provide the requested function or service. To this end, for example, cloud computing, distributed computing, or client-server computing technology may be used.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 2.
  • the electronic device 201 may include one or more processors (eg, an AP) 210, a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, and a display ( 260, an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, an indicator 297, and a motor 298.
  • processors eg, an AP
  • the electronic device 201 may include one or more processors (eg, an AP) 210, a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, and a display ( 260, an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, an indicator 297, and a motor 298.
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into the volatile memory, and store the result data in the nonvolatile memory.
  • the processor 210 displays a user interface corresponding to the content on the touch screen (eg, the touch panel 252) to be controlled through the touch screen, and at least a portion of the touch screen is touched through the touch screen.
  • the user interface may be displayed through at least a portion of the touch screen so that the user interface can be controlled by the sensor.
  • the processor 210 may provide a first user interface corresponding to the touch panel 252, and at least a portion of the electronic device 201 (or the touch screen) may be underwater using the touch panel 252. If it is determined that the electronic device 201 is located in the water, the second user interface corresponding to the biometric sensor 240I may be provided. For example, when a fingerprint is detected through the biometric sensor 240I, the processor 210 analyzes a fingerprint image of the detected fingerprint to determine an input form or direction of a finger, and based on the determined input form or direction. The fingerprint can be determined by user input such as touch, drag, swipe, or pinch in and out. The processor 120 may perform a function corresponding to the determined user input.
  • the communication module 220 may include, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227, an NFC module 228, and an RF module 229. have.
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network.
  • the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, a SIM card) 224.
  • a subscriber identification module eg, a SIM card
  • the cellular module 221 may perform at least some of the functions that the processor 210 may provide.
  • the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), or at least one antenna.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module.
  • Subscriber identification module 224 may include, for example, a card or embedded SIM that includes a subscriber identification module, and may include unique identification information (eg, integrated circuit card identifier (ICCID)) or subscriber information (eg, IMSI). (international mobile subscriber identity)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may include, for example, volatile memory (for example, DRAM, SRAM, or SDRAM), nonvolatile memory (for example, one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM).
  • the flash memory may include at least one of a flash memory, a hard drive, or a solid state drive (SSD)
  • the external memory 234 may be a flash drive, for example, a compact flash (CF) or a secure digital (SD). ), Micro-SD, Mini-SD, extreme digital (xD), multi-media card (MMC), memory stick, etc.
  • the external memory 234 may be functionally connected to the electronic device 201 through various interfaces. Or physically connected.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • sensor module 240 may include, for example, an e-nose sensor, an electromyography (EMG) sensor, an electrocardiogram (EEG) sensor, an electrocardiogram (ECG) sensor, Infrared (IR) sensors, iris sensors and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240 as part of or separately from the processor 210, while the processor 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate recognition sheet.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, hologram device 264, projector 266, and / or control circuitry to control them.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured with the touch panel 252 and one or more modules.
  • the panel 262 may include a pressure sensor (or force sensor) capable of measuring the strength of pressure with respect to a user's touch.
  • the pressure sensor may be integrally implemented with the touch panel 252 or one or more sensors separate from the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the interface 270 may include, for example, an HDMI 272, a USB 274, an optical interface 276, or a D-subminiature 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may include, for example, a mobile high-definition link (MHL) interface, an SD card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. have.
  • MHL mobile high-definition link
  • MMC Secure Digital Card
  • IrDA infrared data association
  • the audio module 280 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 145 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LED or xenon lamp, etc.
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger IC, or a battery or a fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable cell and / or a solar cell.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert electrical signals into mechanical vibrations, and may generate vibrations or haptic effects.
  • the electronic device 201 may be, for example, a mobile TV supporting device capable of processing media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM . : GPU).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM . : GPU mediaFlo TM .
  • Each of the components described in this document may be composed of one or more components, and the name of the corresponding component may vary according to the type of electronic device.
  • the electronic device (for example, the electronic device 201) may include some components, omit additional components, or combine some of the components to form a single object. It is possible to perform the same function of the previous corresponding
  • the program module 310 may include an operating system and / or various applications running on the operating system for controlling resources related to the electronic device (eg, the electronic device 101).
  • the application program 147 may be included.
  • the operating system may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • the program module 310 may include the kernel 320 (eg, the kernel 141), the middleware 330 (eg, the middleware 143), and the API 360 (eg, the API 145).
  • An application 370 eg, an application program 147) and / or a location providing module 380.
  • At least a part of the program module 310 may be preloaded on an electronic device or may be an external electronic device. (For example, the electronic devices 102 and 104, the server 106, and the like).
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to use limited system resources inside the electronic device.
  • the middleware 330 may include a runtime library 335, an application manager 341, a window manager 342, a multimedia manager 343, a resource manager 344, a power manager 345, and a database manager ( 346, a package manager 347, a connectivity manager 348, a notification manager 349, a location manager 350, a graphic manager 351, or a security manager 352.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or arithmetic function processing.
  • the application manager 341 may manage, for example, the life cycle of the application 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may identify a format necessary for playing the media files, and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 344 may manage space of source code or memory of the application 370.
  • the power manager 345 may manage, for example, the capacity or power of the battery and provide power information necessary for the operation of the electronic device.
  • the power manager 345 may interwork with a basic input / output system (BIOS).
  • the database manager 346 may create, retrieve, or change a database to be used, for example, in the application 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connectivity manager 348 may manage, for example, a wireless connection.
  • the notification manager 349 may provide the user with events such as, for example, an arrival message, an appointment, a proximity notification, and the like.
  • the location manager 350 may manage location information of the electronic device, for example.
  • the graphic manager 351 may manage, for example, graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide system security or user authentication, for example.
  • the middleware 330 may include a telephony manager for managing a voice or video call function of the electronic device or a middleware module capable of forming a combination of functions of the above-described components. .
  • the middleware 330 may provide a module specialized for each type of OS.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 is, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (IM) 374, a browser 375, a camera 376, an alarm 377. , Contacts 378, voice dials 379, emails 380, calendars 381, media players 382, albums 383, watches 384, health care (e.g., measures exercise or blood sugar) Or an application for providing environmental information (eg, barometric pressure, humidity, or temperature information).
  • the application 370 may include an information exchange application capable of supporting information exchange between the electronic device and the external electronic device.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may deliver notification information generated by another application of the electronic device to the external electronic device, or receive notification information from the external electronic device and provide the notification information to the user.
  • the device management application may be, for example, the ability of an external electronic device to communicate with the electronic device (e.g. turn-on / turn-off of the external electronic device itself (or some component) or the brightness (or resolution) of the display). Control), or install, delete, or update an application running on the external electronic device.
  • the application 370 may include an application (eg, a health care application of a mobile medical device) designated according to an attribute of the external electronic device. According to an embodiment of the present disclosure, the application 370 may include an application received from an external electronic device.
  • an application eg, a health care application of a mobile medical device designated according to an attribute of the external electronic device.
  • the application 370 may include an application received from an external electronic device.
  • At least a portion of the program module 310 may be implemented (eg, executed) in software, firmware, hardware (eg, the processor 210), or a combination of at least two or more thereof, and a module for performing one or more functions; It can include a program, routine, instruction set, or process.
  • FIGS. 4A and 4B illustrate configuration diagrams of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 400 may include a processor 410 (eg, the processor 120 or the processor 210) and the touch screen 420. (E.g., display 160 or touch panel 252), memory 430 (e.g., memory 130 or memory 230), and sensor 440 (e.g., sensor module 180 or sensor module 240 )).
  • a processor 410 e.g., the processor 120 or the processor 210
  • the touch screen 420 e.g., display 160 or touch panel 252
  • memory 430 e.g., memory 130 or memory 230
  • sensor 440 e.g., sensor module 180 or sensor module 240
  • the processor 410 displays a user interface corresponding to the content on the touch screen 420 so as to be controllable through the touch screen 420, and the touch screen 420 of the touch screen 420.
  • the user interface may be displayed through at least a portion of the touch screen 420 to be controlled through the sensor 440.
  • the content may include at least one of an execution screen, a playback screen, a reading screen, a preview screen, and the like related to at least one application or application, music, video, camera, document, and the like.
  • the user interface may include a graphic object including an execution or shortcut icon corresponding to at least one application, or a graphic object including at least one of a controller, scroll, menu, etc. constituting a screen (or included in a screen). have.
  • the processor 410 may determine whether at least a portion of the electronic device 400 (or the touch screen 420) is under water so that at least a portion of the electronic device 400 is located underwater. If determined to be, the user interface for controlling the content displayed on the touch screen 420 may be displayed in an area corresponding to the sensor 440. When a fingerprint input is detected in an area corresponding to the sensor 440, the processor 410 analyzes the fingerprint input and determines that the input is a touch, two touch, drag, swipe, pinch in, or the like. At least one function may be performed correspondingly.
  • the processor 410 may determine whether the electronic device 400 is underwater by using a touch sensor (or panel) included in the touch screen 420. For example, when a touch input is detected in the entire area that can be detected by the touch sensor or in a region of a threshold size or more, the processor 410 may determine that the electronic device 400 is located underwater.
  • a touch sensor or panel
  • the processor 410 when a fingerprint is detected, the processor 410 analyzes a fingerprint image of the detected fingerprint to determine an input form or direction of a finger, and touches the detected fingerprint according to the determined input form or direction. It can be determined by input such as two-touch, drag, swipe, pinch in and out.
  • the touch screen 420 includes a touch sensor (or panel), and detects an input such as touch, drag, long press, swipe, or pinch in and out through an area that the touch sensor can detect. Can be.
  • the touch screen 420 may display content.
  • the touch screen 420 may execute or play an execution screen related to at least one application or application, music, video, camera, document, etc. that can be used underwater.
  • a second user interface corresponding to at least one of a screen, a reading screen, and a preview screen may be displayed.
  • the second user interface may include graphical objects that include some of the executable or shortcut icons corresponding to the at least one application or some of the icons, controllers, scrolls, menus, etc. that make up the screen (or are included on the screen). It may include.
  • the memory 430 may store information for providing a user interface corresponding to content that can be used underwater.
  • the memory 430 may have a secure area secured from external access in hardware or software, and may store the biometric template in the secure area.
  • the biometric template may be used for user authentication using biometric information.
  • the sensor 440 may detect an input (for example, a fingerprint) in an area corresponding to the sensor 440.
  • the sensor 440 may include at least one of an optical fingerprint sensor, an ultrasonic fingerprint sensor, and an optical sensor.
  • sensor 440 captures a fingerprint image using light emitted from a light source (eg, touch screen 420) and captures the fingerprint image. You can print
  • the sensor 440 may output an ultrasonic wave and detect a fingerprint by using a path difference of ultrasonic waves reflected from a finger surface (eg, a valley or a floor of the fingerprint).
  • the sensor 440 may include a low resolution image sensor, and may detect the shape or movement of a fingerprint by using the sensor 440.
  • the electronic device 400 may include a processor 410, a touch screen 420, and a memory 430.
  • the processor 410 may include a first processor 411 and a second processor 412.
  • the processor 410 may operate in a normal mode and determine whether a first input is detected in a first area corresponding to the first sensor 422.
  • the normal mode may be an operation mode in which the electronic device 400 provides a first user interface corresponding to the first sensor 422, and detects a user input using the first sensor 422.
  • the first user interface may include at least one application or graphic object corresponding to at least one of an execution screen, a playback screen, a reading screen, a preview screen, and the like related to at least one application or application, music, video, camera, document, and the like.
  • the first area is an area where the first sensor 422 can detect the first input, and an active area (or display area) of the display 421 (eg, an area for displaying a user interface). May correspond to at least a portion of).
  • the first input may include touch, proximity, drag, swipe, pinch in and out, or hover using an electronic pen or a user's body part.
  • the processor 410 may perform an operation corresponding to the detected first input. For example, the processor 410 may detect a touch input on at least a portion of the first area corresponding to the first application execution icon (or the location of the icon) through the first sensor 422. The execution screen for the first application corresponding to the application execution icon may be displayed on the display 421.
  • the processor 410 displays a first application execution screen on the display 421.
  • the first user interface corresponding to the content may include a graphic object corresponding to an execution screen related to the first application.
  • the processor 410 may deactivate the first sensor 422 and activate the second sensor 423.
  • the processor 410 may display a second user interface corresponding to the content related to the second area of the second sensor 423 on the display 421.
  • the second user interface corresponding to the content may include at least a portion of the rearranged graphic objects corresponding to the first application execution screen.
  • the processor 410 may determine whether at least a portion of the electronic device 400 (or the touch screen 420) is underwater by using the first sensor 422. According to various embodiments of the present disclosure, the processor 410 may determine whether the electronic device is underwater by using various methods in addition to the first sensor 420. The method is not limited to the exemplary embodiment, and may be implemented using various methods for determining whether the electronic device 400 is located underwater.
  • the processor 410 may determine that the electronic device 400 is located underwater.
  • the processor 410 may further include a humidity sensor (eg, a capacitive humidity sensor), and when the capacitance value of the humidity sensor rises above the preset value due to the adsorption force of the water molecules, the electronic device 400 may be used. ) May be determined to be underwater.
  • a humidity sensor eg, a capacitive humidity sensor
  • the processor 410 when it is determined that the electronic device 400 is underwater, deactivates the first sensor 422 and activates the second sensor 423 to activate the activated second sensor 423.
  • the second user interface may be configured to include at least a portion of the first user interface.
  • the second user interface may include at least some of a graphic object including at least one of an execution or shortcut icon corresponding to the content, a controller, scrolling, a menu, etc., or a graphic object corresponding to the content available in water, or It may include at least a portion of the rearranged graphic object.
  • the processor 410 may rearrange at least a portion of the graphic object corresponding to the content related to the second area of the second sensor 423.
  • the processor 410 when it is determined that the electronic device 400 is located in the water, the processor 410 enters the underwater mode to activate the second sensor 423, and then to the second area of the second sensor 423.
  • the second user interface corresponding to the related content may be displayed on the display 421.
  • the underwater mode is an operation mode in which the electronic device 400 provides at least one function that can be used underwater.
  • the processor 410 may provide a second user interface related to the second sensor 423.
  • the second input may be sensed using the second sensor 423.
  • the second area is an area capable of detecting a second input (eg, a user input) by the second sensor 423, and may include one or more areas, and may correspond to at least a portion of the first area.
  • the second region may be implemented to match the size of the first region or to include at least a portion of the second region in at least a portion of the first region.
  • the processor 410 may display, on the display 421, a second user interface corresponding to content that can be used underwater in relation to the second area.
  • the second user interface may include an execution icon corresponding to at least one application.
  • the processor 410 may display the first application execution screen on the display 421.
  • the processor 410 may perform at least one function related to the first application.
  • the processor 410 analyzes the detected fingerprint and touches, two-touches, drags, swipes, pinches outs, etc. It can be judged by the same input.
  • the processor 410 may acquire a plurality of fingerprint images of the detected fingerprint and generate an image obtained by accumulating the acquired fingerprint images in chronological order.
  • the processor 410 analyzes the generated cumulative image to determine an input form or direction of a finger, and based on the determined input form or direction, touch, two-touch, drag, swipe, pinch-out, or the like. Can be judged by input.
  • the processor 410 may periodically activate the first sensor 422 in the underwater mode to determine whether at least a portion of the electronic device 400 is underwater. If at least a portion of the electronic device 400 is located underwater, the processor 410 may deactivate the first sensor 422 and continuously maintain the underwater mode. If at least a portion of the electronic device 400 is not located underwater, the processor 410 deactivates the second sensor 423 and enters a normal mode for sensing the first input using the activated first sensor 422. It can be done (or changed).
  • the processor 410 may not use the detected fingerprint if the fingerprint is detected at a time shorter than the first time specified in the second area. You can ignore it by judging it as an input.
  • the processor 410 may change characteristic information (eg, size, position, or shape) of the second area of the second sensor 423 in the underwater mode. For example, the processor 410 may set a sensing area, such as a long rectangle, a long rectangle, or a lattice, as the second area of the second sensor 423. Alternatively, the processor 410 may activate one sensing region among the plurality of sensing regions and set the activated sensing region as the second region of the second sensor 423 by deactivating the other sensing region. .
  • a sensing area such as a long rectangle, a long rectangle, or a lattice
  • the processor 410 may change the resolution of the second area of the second sensor 423 in the underwater mode. For example, the processor 410 may activate only some of the plurality of sensing pixels provided in the second sensor 423. The processor 410 may divide the plurality of sensing pixels into four units of two horizontally two vertically, and activate or deactivate the plurality of sensing pixels in order. Since the resolution of the fingerprint image for the detected fingerprint is reduced to 1/4 through some of the activated sensing pixels, the fingerprint image can be processed at a higher speed.
  • the processor 410 may change the image processing method of the second sensor 423 in the underwater mode. Since the processor 410 does not need to extract feature information (eg, curvature, feature points, etc.) of the detected fingerprint, the processor 410 reduces the amount of information such as the resolution, contrast, etc. of the fingerprint image for the detected fingerprint. By removing, you can process the fingerprint image more quickly. For example, the processor 410 may change the color information or the gray scale information of the fingerprint image to black and white (BW) information to perform the processing on the fingerprint image more quickly. Alternatively, the processor 410 may convert the fingerprint image into other information. For example, the processor 410 may calculate a center point for the entire area of the fingerprint image and change the fingerprint image to coordinates for the calculated center point.
  • feature information eg, curvature, feature points, etc.
  • the processor 410 may change the image capture speed of the second sensor 423 in the underwater mode.
  • the processor 410 may set a faster speed of capturing a fingerprint image by the second sensor 423 in order to quickly detect an input form (or gesture) or a direction of a finger. For example, when the speed of capturing a fingerprint image by the second sensor 423 is 5 frames / sec by default, the processor 410 may increase the capture speed of the second sensor 423 by 20 in the underwater mode. Can be changed to frames / sec. As described above, as the capture speed of the second sensor 423 is increased, the movement of the finger may be quickly captured.
  • the processor 410 may change an image capture frequency of the second sensor 423 in the underwater mode.
  • the second sensor 423 eg, a fingerprint sensor or an optical sensor
  • the processor 410 may periodically transmit a trigger signal for activation to the second sensor 423 such that the second sensor 423 is continuously activated even after completing capturing the fingerprint image in the underwater mode.
  • the processor 410 may store a second user interface corresponding to the content related to the second area of the second sensor 423 in the memory 430 or download it through a server (or a cloud). have.
  • the first processor 411 may control overall operations of the electronic device 400.
  • the second processor 412 may include a low power processor or a sensor hub, and the touch screen 420 may be independent of the first processor 411 when the electronic device 400 is in the sleep mode. Can be controlled.
  • the sleep mode operates and / or supplies only a minimum of components (eg, the second processor 412 and the first sensor 422 or the second sensor 423) included in the electronic device 400.
  • the remaining components may be in an inoperative mode of operation (or no power).
  • the second processor 412 may include a first input detected through the first sensor 422 (eg, a touch input) or a second input detected through the second sensor 423 (eg, a touch input). : Fingerprint input, etc.).
  • the first or second processors 411 and 412 may perform at least some of the same operations as the processor 410 described with reference to FIG. 4A. For example, the first or second processors 411 and 412 determine whether at least a portion of the electronic device 400 is underwater by using the first sensor 422, and at least a portion of the electronic device 400 may be located. If it is determined to be underwater, the second user interface corresponding to the second sensor 423 may be displayed on the touch screen 420.
  • the touch screen 420 may include a display 421, a first sensor 422, and a second sensor 423.
  • the display 421 may display a first user interface and a second user interface corresponding to the content.
  • the first user interface may include an execution icon corresponding to at least one application or a menu or an icon on a first application execution screen that executes a specific application.
  • the menu or icon may correspond to at least one function related to the first application.
  • the second user interface may include an execution icon corresponding to an application that can be used underwater among a plurality of applications, or may include a menu or an icon corresponding to some of at least one function on a specific application execution screen.
  • the display 421 includes a plurality of pixels and is configured to control at least some of the plurality of pixels to provide display information (eg, a display driver circuit (DDI)). 421-1.
  • the display driving module 421-1 may drive (or activate) the display 421 according to the first input sensed by the first sensor 422 or the second input sensed by the second sensor 423. .
  • the first sensor 422 may include at least one sensor that detects a first input such as a touch, a gesture, a proximity, a drag, a swipe, a pinch in or a hover using an electronic pen or a user's body part. It may include.
  • the first sensor 422 may include a capacitive sensor.
  • the second sensor 423 may include at least one sensor that detects (or obtains) a second input such as biometric information such as a fingerprint.
  • the second sensor 423 may include an optical sensor and an ultrasonic sensor.
  • the second sensor 423 may capture a fingerprint image by using light output from the display 421 as a light source, and output the captured fingerprint image.
  • the second sensor 423 when it is determined that at least a part of the electronic device 400 is underwater, the second sensor 423 may be activated by the processor 410.
  • the second sensor 423 may detect one fingerprint or a plurality of fingerprints through the second area, and may output fingerprint images of one detected fingerprint or fingerprint images of the detected plurality of fingerprints.
  • the underwater mode may be an operation mode for performing functions that the electronic device 400 can use underwater.
  • the first sensor 422 and the second sensor 423 may perform at least some of the same operations as the touch sensor and the sensor 440 described with reference to FIG. 4A.
  • the first sensor 422 may detect the first input in the first area
  • the second sensor 423 may detect the second input in the second area.
  • the first sensor 422 or the second sensor 423 uses the light output from the display 421 as a light source to generate biometric information ( For example, a fingerprint image or an iris image) may be acquired (or captured).
  • biometric information For example, a fingerprint image or an iris image
  • the memory 430 may store information for providing a first user interface corresponding to content related to the first sensor 422 in a normal mode.
  • the memory 430 may store information for providing a second user interface corresponding to the content related to the second sensor 423 in the underwater mode.
  • the memory 430 may store information (eg, a bio template) as a result of performing processing such as feature point extraction, transformation, or encryption from biometric information such as a fingerprint or an iris.
  • the memory 430 may perform at least some of the same operations as the memory 430 described with reference to FIG. 4A.
  • the memory 430 may include a first area for storing information used to provide a user interface, and a second area (for example, a security area) for storing biometric information (eg, a biometric template) for user authentication. It may include.
  • the electronic device 400 may include a touch screen 420; A sensor 440 formed on at least a portion of the touch screen 420; And a processor 410, wherein the processor 410 displays a user interface corresponding to the content on the touch screen 420 so as to be controllable through the touch screen 420; And when it is determined that at least a portion of the touch screen 420 is located under water through the touch screen 420, the touch screen may be controlled to control the user interface through the sensor 440.
  • the display may be displayed through at least a portion of the area 420.
  • 5A, 5B, and 5C are exemplary diagrams for describing a method of determining whether an electronic device is located in water through a first sensor according to various embodiments of the present disclosure.
  • the first sensor 422 may be configured of 15 horizontal ⁇ 27 vertical capacitive sensors (for example, 405 in total) as shown in FIGS. 5A, 5B, and 5C.
  • Such sensors typically have a low capacitance (e.g., capacitance value) between -3 and 6 farads (F).
  • the number of such sensors is an exemplary value and can be implemented in various numbers.
  • the first sensor 422 when a change in raw capacitance of a threshold value or more is detected (or measured) in a specific area 500, the first sensor 422 sends a detection signal (or a measurement signal) to the processor 410. I can deliver it.
  • the processor 410 may determine that a first input (eg, a normal touch input) is detected in a specific area 500 based on the received detection signal (or measurement signal). For example, when the area of a specific area 500 touched (or touched) by the user's finger 501 is 10 phi, the first sensor 422 may measure a low capacitance of about 258 parats.
  • a low capacitance of about 194 parats may be measured.
  • the processor 410 may determine that the first input is detected in the specific region 500. have.
  • the first sensor 422 detects (or measures) a change in low capacitance above a threshold in the entire area 510 of the first sensor 422 or an area 520 of a predetermined size or more. If so, the detection signal (or measurement signal) may be transmitted to the processor 410.
  • the processor 410 may determine that a second input (eg, abnormal touch input) is detected in the entire area 510 or an area 520 of a predetermined size or more based on the received detection signal (or measurement signal). have. For example, when the electronic device 400 is located in the water, the first sensor 422 may measure a low capacitance of about 258 parats or more in the entire area 510 or a region 520 of a predetermined size or more.
  • the processor 410 may measure the low capacitance. It may be determined that the second input is detected in the specific area 500.
  • FIG. 6 is a diagram illustrating a structure of a touch screen according to various embodiments of the present disclosure.
  • the touch screen 600 may include a first sensor 630 and a second sensor 680 in at least a portion of the touch screen 600. have.
  • the touch screen 600 may include a glass 610, a first sensor 630, a display 640, a second sensor 680, or a PCB 690.
  • the glass 610 may be adhered to the first sensor 630 or the display 640 through an adhesive 620.
  • the touch screen 600 may further include structures 650-1 and 650-2 for securing a mounting space of the second sensor 680.
  • the structures 650-1 and 650-2 may form at least part of a sealing structure for protecting the second sensor 680.
  • the first sensor 630 and the second sensor 680 may be a partial region (eg, one region or a plurality of regions) of the display 640 or an entire region (eg, display) of the display 640. Active area 640).
  • the first sensor 630 may be formed on a separate layer on one side of the display 640, and the second sensor 680 may be formed on the other side (eg, back) of the display 640. .
  • the display 640 may include a second sensor 680 (or an upper surface) (eg, at least a portion of a surface on which the pixels 641 to 643 of the display 640 are formed).
  • the third sensor module 644 may be formed.
  • the second sensor 680 (or the third sensor module 644) may include either an optical sensor or an ultrasonic sensor.
  • the first sensor 630 and the second sensor 680 may include an optical sensor (for example, an optical image sensor), an ultrasonic sensor (for example, an ultrasonic transmission / reception module), and a capacitive sensor (for example, an electrostatic transmission / reception electrode). Pattern).
  • the first sensor 630 may be formed of a capacitive electrode pattern
  • the second sensor 680 may be formed of at least one of an optical image sensor and an ultrasonic wave transceiver module.
  • the optical image sensor may output light (eg, visible light, infrared light, or ultraviolet light) emitted from a light source (eg, a display 640 or an infrared LED) and detect light reflected from a user's fingerprint. Can be.
  • the first sensor 630 may be formed between the adhesive layer 620 and the display 640 or between the window glass 610 and the adhesive layer 620.
  • the first sensor 630 may be formed of a transparent electrode to increase the transmittance of light output from the display 640.
  • elastic bodies 670-1 and 670-between the second sensor 680 and the display 640 may be used to prevent a shock between the second sensor 680 and the display 640 or to prevent foreign substances from entering. 2) (eg sponge or rubber) may be formed.
  • the first sensor 630 and the second sensor 680 may be printed on the surface of the cover glass provided on the display 640 or disposed through etching.
  • Can may be. (E.g. in / on-cover glass structure)
  • the first sensor 630 and the second sensor 680 may be disposed on the display 640. (E.g. over-display structure)
  • the first sensor 630 and the second sensor 680 may be disposed under the display 640.
  • the display 640 E.g., under-display structure
  • the first sensor 630 and the second sensor 680 may be formed inside the pixels of the display 640 or between one pixel and another pixel. It may also be arranged in a black matrix (BM) region. (E.g. in-display structure)
  • the capacitive sensor uses a method in which a first area (eg, a floor) on which a finger surface touches an electrode and a second area (eg, a bone) on which a finger surface does not touch an electrode are not detected. Fingerprint can be detected.
  • the optical sensor may capture a finger surface by using a photosensitive diode and obtain a fingerprint image from the captured image.
  • the ultrasonic sensor may generate and output ultrasonic waves using a piezo method, and detect a fingerprint by using a path difference of ultrasonic waves reflected from the surface of a finger. These sensors may detect a fingerprint using various methods, and may not be limited as described in the embodiment.
  • FIG. 7A and 7B illustrate exemplary diagrams for describing an active area of a display, according to various embodiments of the present disclosure.
  • the display 421 may include an activation area 700 for displaying a first user interface.
  • the activation area 700 may correspond to the overall size of the display 421.
  • the display 421 may have a first region of the first sensor 422 or a second region of the second sensor 423 corresponding to at least a portion of the region 701 of the activation region 700.
  • the first sensor 422 or the second sensor 423 may be located at least partially corresponding to the region 401.
  • the first oath module 422 or the second sensor 423 may be located above or below the one surface of the display 421 or may be formed in the BM region between the pixels.
  • the display 421 may form the activation area 710 to include the first area or the second area.
  • a first sensor 422 or a second sensor 423 may be formed in at least a partial region 701 of the display 421.
  • the display 421 is as large as the size including the first area or the second area.
  • the size of the activation area 710 may be extended to the top 720 and the bottom 721 of the.
  • 8A, 8B, and 8C illustrate example views of a second region of a second sensor according to various embodiments.
  • the second sensor 423 may include a second area 800 corresponding to a partial area of the touch screen 420 of the electronic device 400.
  • the second sensor 423 may include the second area 800 corresponding to the first position.
  • the second sensor 423 may correspond to a plurality of areas of the touch screen 420 (eg, the first area 810 and the second area 811). It can be provided.
  • the second sensor 423 may be configured to correspond to each of the positions (and sizes) of the plurality of partial regions. Second regions 810 and 811 of FIG.
  • the second sensor 423 may include a second area 820 corresponding to the entire area of the touch screen 420.
  • the second sensor 423 has a size corresponding to the entire area of the touch screen 420. ) May be provided.
  • the second area 820 may be provided as a second size corresponding to or larger than the first size formed in the second sensor 423.
  • the second sensor 423 may include a second area 820 having various sizes according to the amount of power used by the second sensor 423.
  • 9A, 9B, 9C, 9D, 9E, and 9F are exemplary views illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • the processor 410 may provide a first user interface corresponding to content related to the activation area 910 of the first sensor 422 in a normal mode.
  • the first user interface includes applications A, B, C,... It may include execution icons for each of S and T.
  • the execution icons 905 may be execution icons for applications that can be used even in the underwater mode.
  • the processor 410 enters the underwater mode and executes icons 900 for applications that can be used in the underwater mode. , 901, 902, 903, 904, and 905 and selection icons 906, 907, and 908 for selecting respective application execution icons.
  • the processor 410 may arrange the selection icons 906, 907, and 908 corresponding to the second area 910 of the second sensor 423.
  • the processor 410 When a plurality of fingerprints are detected through the second area 910 of the second sensor 423 while the execution icon 901 of the application C is selected, the processor 410 accumulates images of the detected fingerprints in chronological order. A cumulative image can be generated. The processor 410 may analyze the generated cumulative image to determine an input form or direction of a finger. For example, if the cumulative image is analyzed to correspond to a trajectory moved from the first direction 920 to the second direction 921, the processor 410 may swipe input (or detect) the detected fingerprint images based on the input direction. Drag input), and the execution icon 902 of the application D may be selected according to the swipe input (or drag input).
  • the processor 410 may execute an execution screen of the application D corresponding to the execution icon 902 of the selected application D. May be displayed on the touch screen 420.
  • the processor 410 provides a first user interface corresponding to the first sensor 422 in the normal mode, and the electronic device 400 through the first sensor 422. If it is determined that at least a portion of the underwater is in the water can enter (or switch) to the underwater mode. In the underwater mode, the processor 410 may provide a second user interface corresponding to the second area 910 of the second sensor 423.
  • the second user interface includes launch icons 900, 901, 902, 903, 904, 905 for applications A, C, D, E, H, and T that can be used in underwater mode. can do.
  • the processor 410 may determine an input form of a finger based on the detected image of the fingerprint. For example, if it is determined that the fingerprint image corresponds to a general fingerprint form (eg, a fingerprint form of a pre-stored user), the processor 410 may determine the detected fingerprint as a touch input based on the determined input form. . The processor 410 may display an execution screen for the application T corresponding to the execution icon 905 of the application T on the touch screen 420 according to the determined touch input.
  • a general fingerprint form eg, a fingerprint form of a pre-stored user
  • 10A, 10B, 10C, and 10D illustrate exemplary views of a second region in accordance with various embodiments.
  • the second sensor 423 activates a plurality of sensing pixels corresponding to the entire area of the second area 1000 and through the plurality of sensing pixels of the activated second area 1000.
  • the input can be detected.
  • the second sensor 423 activates a plurality of sensing pixels corresponding to the first region 1010 and the second region 1011 of the second region, and deactivates the sensing pixels corresponding to the remaining regions. can do.
  • the second sensor 423 obtains a first fingerprint image through the activated sensing pixels of the first area 1010, and acquires a second fingerprint image through the activated sensing pixels of the second area 1011. Can be obtained.
  • the processor 410 may determine directions of the finger (eg, moving from the first direction 920 to the second direction 921) based on the obtained first fingerprint image and the second fingerprint image.
  • the first fingerprint image and the second fingerprint image acquired based on the determined input form or direction may be determined as a swipe input or a pinch in-out input.
  • the second sensor 423 may divide the second area into vertically long rectangular areas, and sequentially deactivate or activate at least some areas of the sensing pixels corresponding to the separated areas. Can be.
  • the second sensor 423 activates the first region 1020, the second region 1021, the third region 1022, the fourth region 1023, and the fifth region 1024, and the remaining separated regions.
  • the sensing pixels corresponding to the memory cells may be deactivated.
  • the second sensor 423 obtains a first fingerprint image through the activated sense pixels of the first area 1020, and acquires a second fingerprint image through the activated sense pixels of the second area 1021.
  • the processor 410 may move from the directions of the finger (eg, the first direction 920 to the second direction 921) based on the acquired first, second, third, fourth, and fifth fingerprint images. Movement), and the detected first, second, third, fourth, and fifth fingerprint images may be determined as a swipe input, a pinch in-out input, or the like.
  • the second sensor 423 may divide the second area into horizontally long rectangular areas, and sequentially activate or deactivate at least some areas of the sensing pixels corresponding to the separated areas. Can be.
  • the second sensor 423 may activate the first region 1030, the second region 1031, and the third region 1032, and deactivate the sensing pixels corresponding to the remaining separated regions.
  • the second sensor 423 obtains a first fingerprint image through the activated sense pixels of the first area 1030, and acquires a second fingerprint image through the activated sense pixels of the second area 1031.
  • the third fingerprint image may be obtained through the activated sensing pixels of the third region 1032.
  • the processor 410 may determine directions of a finger (eg, moving from the first direction 920 to the second direction 921) based on the acquired first, second, and third fingerprint images.
  • the detected first, second, and third fingerprint images may be determined as a swipe input, a pinch in-out input, or the like based on the determined input form or direction.
  • the processor 410 may perform an operation faster by using the reduced fingerprint image.
  • 11A and 11B illustrate exemplary diagrams of a first user interface and a second user interface according to various embodiments of the present disclosure.
  • the processor 410 detects the first input of the first sensor 422 when the first input for selecting the execution icon corresponding to the camera application is detected through the first sensor 422.
  • the camera application execution screen may be displayed corresponding to one area.
  • the first area may correspond to the entire area of the touch screen 420.
  • icons 1110 related to at least one function of the camera application in the normal mode may be located at the bottom of the camera application execution screen.
  • the processor 410 switches to the underwater mode, and corresponds to at least one function of the camera application corresponding to the second area 1100.
  • Related icons 1110 may be displayed.
  • the processor 410 may move icons 1110 related to at least one function of the camera application to the position corresponding to the second area 1100 in the underwater mode.
  • 12A and 12B are flowcharts illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • operations 1200 to 1203 of FIG. 12A and operations 1210 to 1212 of FIG. 12B may correspond to an electronic device 101, 102, 104, 201, 400, a server 106, a processor 120, 210, or 410.
  • the program module 310 may be executed.
  • the electronic device 400 may display a user interface corresponding to content on the touch screen 420.
  • the electronic device 400 determines whether at least a portion of the touch screen 420 is underwater and determines that at least a portion of the touch screen 420 is underwater. If it is determined that at least a portion of the touch screen 420 is not in the water, operation 1203 may be performed.
  • the electronic device 400 eg, the processor 410) may detect at least a portion of the touch screen 420 underwater when a touch input is detected in the entire area of the touch screen 420 or an area larger than or equal to a threshold size. It can be judged that.
  • the electronic device 400 may display the user interface through at least a portion of the touch screen 420 so as to be controlled by the sensor 440.
  • the electronic device 400 eg, the processor 410 may display an execution icon related to at least one application that can be used underwater.
  • the electronic device 400 may perform a general operation.
  • the general operation may include a case in which the electronic device 400 operates in the normal mode.
  • the electronic device 400 may display a first user interface corresponding to the first sensor 422.
  • the first user interface may include a graphic object corresponding to content (eg, at least one application or an application execution screen) on the touch screen 420.
  • the electronic device 400 determines whether at least a portion of the electronic device 400 is underwater and determines that at least a portion of the electronic device 400 is underwater. If it is determined that at least a part of the electronic device 400 is located in the water, the first user interface corresponding to the first sensor 422 may be displayed in operation 1210.
  • the electronic device 400 may display a second user interface corresponding to the second sensor 423.
  • the second user interface may include a graphic object corresponding to a portion of the content on the touch screen 420.
  • the processor 410 may be used in an electronic device 400 including a touch screen 420, a sensor 440 formed on at least a portion of the touch screen 420, and a processor 410. Displaying a user interface corresponding to content on the touch screen 420 so as to be controllable through the touch screen 420; And when it is determined that at least a portion of the touch screen 420 is located under water through the touch screen 420, the touch screen may be controlled to control the user interface through the sensor 440. It may include an operation of displaying through at least a portion of the region 420.
  • FIG. 13 is a flowchart illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • operations 1300 to 1306 may be performed through any one of the electronic devices 101, 102, 104, 201, and 400, the server 106, the processor 120, 210, or 410, and the program module 310. Can be executed.
  • the electronic device 400 may activate the first sensor 422.
  • the electronic device 400 may detect the first input using the first sensor 422 in the normal mode.
  • the electronic device 400 eg, the processor 410) activates the second sensor 423 according to a request for fingerprint authentication, performs fingerprint authentication using the activated second sensor 423, and then prints the fingerprint.
  • the second sensor 423 may be deactivated. This may be optionally performed and may keep the second sensor 423 in an active state.
  • the electronic device 400 may provide a first user interface corresponding to the first sensor 422.
  • the electronic device 400 determines whether at least a portion of the electronic device 400 is underwater, and if it is determined that at least a portion of the electronic device 400 is underwater, operation 1303 If it is determined that at least a portion of the electronic device 400 is not in the water, operation 1306 may perform a general operation (or may operate in a normal mode).
  • the electronic device 400 may deactivate the first sensor 422. According to various embodiments of the present disclosure, operation 1303 may be selectively performed.
  • the electronic device 400 may activate the second sensor 423.
  • the electronic device 400 eg, the processor 410 may enter (or change) the underwater mode.
  • the electronic device 400 may provide a second user interface corresponding to the second sensor 423.
  • the second user interface may include an execution / shortcut icon corresponding to at least one application that can be used in the underwater mode among the plurality of applications or an icon included in an application execution screen, a controller, a scroll, a menu, and the like. have.
  • FIG. 14 is a flowchart illustrating a method for providing a user interface according to a location of an electronic device according to various embodiments of the present disclosure.
  • operations 1400 to 1405 may be performed through any one of the electronic devices 101, 102, 104, 201, and 400, the server 106, the processor 120, 210, or 410, and the program module 310. Can be executed.
  • the electronic device 400 may provide a first user interface corresponding to the first sensor 422.
  • the electronic device 400 eg, the processor 410 may operate in a normal mode.
  • the electronic device 400 determines whether at least a portion of the electronic device 400 is underwater, and if it is determined that at least a portion of the electronic device 400 is underwater, operation 1402 If it is determined that at least a part of the electronic device 400 is underwater, the first user interface corresponding to the first sensor 422 may be provided in operation 1400.
  • the electronic device 400 may provide a second user interface corresponding to the second sensor 423.
  • the electronic device 400 determines whether an input is detected through the second sensor 423, and if it is determined that the input is detected through the second sensor 423, the operation 1404 is performed. If it is determined that an input is detected through the second sensor 423, it may be determined whether an input is detected through the second sensor 423 in operation 1400.
  • the input can be one fingerprint or a plurality of fingerprints.
  • the electronic device 400 determines whether the detected input is valid, and performs the operation 1405 when the detected input is valid.
  • the electronic device 400 determines whether the detected input is valid.
  • it may be determined whether an input is detected. For example, the electronic device 400 (for example, the processor 410) may determine that the fingerprint is invalid when the fingerprint is detected for a shorter time than the designated first time. If a fingerprint is detected for more than a first time, the electronic device 400 (eg, the processor 410) may determine the detected fingerprint as a valid input.
  • the electronic device 400 may perform a function of the electronic device 400 corresponding to the sensed input.
  • the electronic device when at least a portion of the electronic device is located underwater, the electronic device may be controlled using a user interface corresponding to a sensor other than the touch sensor.
  • module includes a unit composed of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic blocks, components, or circuits.
  • the module may be an integrally formed part or a minimum unit or part of performing one or more functions.
  • Modules may be implemented mechanically or electronically, for example, application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or known or future developments that perform certain operations. It can include a programmable logic device.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) according to various embodiments may be stored in a computer-readable storage medium (eg, memory 130) in the form of a program module. It can be implemented as.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magnetic-optical media (e.g. floppy disks), internal memory, etc.
  • Instructions may include code generated by a compiler or code executable by an interpreter Modules or program modules according to various embodiments may include at least one or more of the above-described components. According to various embodiments of the present disclosure, operations performed by a module, a program module, or another component may be executed sequentially, in parallel, repeatedly, or heuristically, or at least in some cases. Some operations may be executed in a different order, omitted, or other operations may be added.

Abstract

본 발명은 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법을 제공한다. 다양한 실시 예에 따른 전자 장치는, 터치 스크린; 상기 터치 스크린의 적어도 일부 영역에 형성된 센서; 및 프로세서를 포함하고, 상기 프로세서는, 상기 터치 스크린 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린을 통해 제어 가능하도록 표시하고; 및 상기 터치 스크린을 통해 상기 터치 스크린의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 센서를 통해 제어 가능하도록 상기 터치 스크린의 적어도 일부 영역을 통해 표시할 수 있다. 또한 다른 실시 예들이 가능하다.

Description

전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
본 발명의 다양한 실시 예는 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법에 관한 것이다.
현재 스마트 폰과 같은 모바일 장치는 생활의 필수품이 되어가고 있으며, 이러한 장치는 개인적 데이터를 모두 포함하기 때문에 사용자의 인증이 중요시되고 있다. 이와 같이, 모바일 장치의 성능 및 인식 기술이 발전함에 따라 사용자 인증을 위한 생체 인증 기술이 적용되고 있으며, 다양한 생체 인식 기술 중에서 가장 보편적으로 지문 인식이 사용되고 있다. 이러한 지문 인식 기반의 인증은 매우 적고 인식 성능도 뛰어나다는 이점이 있다.
또한, 모바일 장치는 터치 센서를 이용한 사용자 인터페이스를 제공하고 있다. 일반적으로, 터치 센서는 다양한 방식으로 구현될 수 있는데, 그 중 가장 보편적으로 사용되는 정전식 터치 센서는 반응 속도가 빠르고, 멀티 터치(multi touch)를 감지할 수 있다는 이점에 있어서 널리 이용되고 있다.
다양한 실시 예에서는 전자 장치가 수중에 위치하는 경우 정전식 터치 센서 이외의 다른 센서를 이용하여 사용자 인터페이스를 제공하기 위한 전자 장치 및 그 방법을 제공할 수 있다.
다양한 실시 예에서는 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하기 위한 전자 장치 및 그 방법을 제공할 수 있다.
다양한 실시 예에 따른 전자 장치는, 터치 스크린; 상기 터치 스크린의 적어도 일부 영역에 형성된 센서; 및 프로세서를 포함하고, 상기 프로세서는, 상기 터치 스크린 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린을 통해 제어 가능하도록 표시하고; 및 상기 터치 스크린을 통해 상기 터치 스크린의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 센서를 통해 제어 가능하도록 상기 터치 스크린의 적어도 일부 영역을 통해 표시할 수 있다.
다양한 실시 예에 따르면, 전자 장치 제어 방법을 실행하기 위한 명령어들이 저장된 비 일시적 기록 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 터치 스크린 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린을 통해 제어 가능하도록 표시하는 동작; 및 상기 터치 스크린을 통해 상기 터치 스크린의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 터치 스크린의 적어도 일부 영역에 형성된 센서를 통해 제어 가능하도록 상기 터치 스크린의 적어도 일부 영역을 통해 표시하는 동작 을 포함할 수 있다.
다양한 실시 예에 따르면 본 발명은 전자 장치가 수중에 위치하는 경우 터치 센서 이외의 다른 센서에 대응하는 사용자 인터페이스를 이용하여 전자 장치를 제어할 수 있다.
도 1은 다양한 실시 예에 따른, 전자 장치를 포함하는 네트워크 환경을 도시한다.
도 2는 다양한 실시 예에 따른 전자 장치의 블록도를 도시한다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도를 도시한다.
도 4a 및 도 4b는 다양한 실시 예에 따른 전자 장치의 구성도들을 도시한다.
도 5a, 도 5b 및 도 5c는 다양한 실시 예에 따라 제1 센서를 통해서 전자 장치가 수중에 위치하는지를 판단하는 방법을 설명하기 위한 예시도들을 도시한다.
도 6는 다양한 실시 예에 따라 터치 스크린에 대한 구조를 나타내는 도면을 도시한다.
도 7a 및 도 7b는 다양한 실시 예에 따라 디스플레이의 활성화 영역을 설명하기 위한 예시도들을 도시한다.
도 8a, 도 8b 및 도 8c는 다양한 실시 예에 따라 센서의 제1 영역에 대한 예시도들을 도시한다.
도 9a, 도 9b, 도 9c, 도 9d, 도 9e 및 도 9f는 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 설명하는 예시도들을 도시한다.
도 10a, 도 10b, 도 10c 및 도 10d는 다양한 실시 예에 따라 제1 영역의 예시도들을 도시한다.
도 11a 및 도 11b는 다양한 실시 예에 따라 제1 사용자 인터페이스 및 제2 사용자 인터페이스에 대한 예시도들을 도시한다.
도 12a 및 도 12b는 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 나타내는 흐름도들을 도시한다.
도 13은 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 나타내는 흐름도를 도시한다.
도 14는 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 나타내는 흐름도를 도시한다.
이하, 본 문서의 다양한 실시 예들이 첨부된 도면을 참조하여 기재된다. 실시 예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나" 또는 "A/B" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제1," "제2," "첫째," 또는 "둘째, "등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시 예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시 예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시 예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 통신 인터페이스(170) 및 센서 모듈(180)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는 구성요소들(110-180)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
한 실시 예에 따르면, 프로세서(120)는 터치 스크린(예: 디스플레이(160)) 상의 콘텐트에 대응하는 사용자 인터페이스를 터치 스크린을 통해 제어 가능하도록 표시하고, 터치 스크린을 통해 터치 스크린의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우 사용자 인터페이스를 센서를 통해서 제어 가능하도록 터치 스크린의 적어도 일부 영역을 통해 표시할 수 있다. 상기 콘텐트는 적어도 하나의 어플리케이션 또는 어플리케이션, 음악, 동영상, 카메라, 문서 등에 관련된 실행 화면, 재생 화면, 열람 화면, 프리뷰 화면 등 중 적어도 하나를 포함할 수 있다. 상기 사용자 인터페이스는 콘텐트에 대응하는 실행 또는 단축 아이콘(icon), 컨트롤러(controller), 스크롤(scroll), 메뉴(menu) 등 중 적어도 하나를 포함하는 그래픽 객체를 포함할 수 있다. 예를 들어, 사용자 인터페이스는 적어도 하나의 어플리케이션에 대응하는 실행 또는 단축 아이콘을 포함하는 그래픽 객체 또는 화면을 구성하는(또는 화면에 포함된) 아이콘, 컨트롤러, 스크롤, 메뉴 등 중 적어도 하나를 포함하는 그래픽 객체를 포함할 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 센서 모듈(180)의 제1 센서(예: 정전식 터치 센서)에 대응하는 제1 사용자 인터페이스를 제공하고, 제1 센서를 이용하여 전자 장치(101)(또는 터치 스크린)의 적어도 일부가 수중에 위치하는지를 판단하여 전자 장치(101)의 적어도 일부가 수중에 위치하는 것으로 판단되면 센서 모듈(180)의 제2 센서(예: 지문 센서 또는 광 센서)에 대응하는 제2 사용자 인터페이스를 제공할 수 있다. 예를 들어, 제1 사용자 인터페이스는 적어도 하나의 어플리케이션에 대응하는 실행 또는 단축 아이콘을 포함하는 그래픽 객체 또는 어플리케이션, 음악, 동영상, 카메라, 문서 등에 관련된 실행 화면, 재생 화면, 열람 화면, 프리뷰 화면 등 중 적어도 하나에 대응하는 컨트롤러, 스크롤, 메뉴 등을 포함하는 그래픽 객체를 포함할 수 있다. 상기 제2 사용자 인터페이스는 적어도 하나의 어플리케이션 중 일부에 대응하는 실행 또는 단축 아이콘을 포함하는 그래픽 객체 또는 어플리케이션, 음악, 동영상, 카메라, 문서 등에 관련된 실행 화면, 재생 화면, 열람 화면, 프리뷰 화면 등 중 적어도 하나에 대응하는 컨트롤러, 스크롤, 메뉴 등 중 일부를 포함하는 그래픽 객체를 포함할 수 있다. 상기 적어도 하나의 어플리케이션 중 일부는 수중에서 사용할 수 있는 어플리케이션일 수 있다.
제2 센서를 통해서 지문이 감지되면 프로세서(120)는 감지된 지문에 대한 지문 이미지를 분석하여 손가락의 입력 형태 또는 방향을 판단하고, 판단된 입력 형태 또는 방향에 기반하여 감지된 지문을 터치, 드래그, 스와이프 또는 핀치 인아웃 등과 같은 제1 입력으로 판단할 수 있다. 상기 프로세서(120)는 판단된 제1 입력에 대응하는 기능을 수행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다.
한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 어플리케이션 프로그램(또는 "어플리케이션")(147) 및/또는 위치 제공 모듈(149) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
한 실시 예에 따르면, 위치 제공 모듈(149)은 전자 장치(101)의 위치 정보를 수집하고, 수집된 위치 정보를 특정 정확도에 대응하는 위치 데이터로 가공하여 제공할 수 있다. 예를 들어, 위치 제공 모듈(149)은 위치 정보를 수집하고, 수집된 위치 정보를 특정 정확도에 대응하는 위치 데이터로 가공하여 적어도 하나의 어플리케이션으로 제공할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 다양한 실시 예에 따르면, 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치(touch), 제스처, 근접, 드래그(drag), 스와이프(swipe) 또는 호버링(hovering) 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제1 외부 전자 장치(102), 제2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시 예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한 실시 예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
센서 모듈(180)은 제1 센서(예: 터치 센서) 및 제2 센서(예: 지문 센서 또는 광 센서)를 포함하는데, 제1 센서를 통해서 제1 입력(예: 터치, 드래그, 스와이프, 핀치 인아웃(pinch in/out) 등)을 감지하고, 제2 센서를 통해서 제2 입력(예: 지문 등)을 감지할 수 있다.
제1 및 제2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다.
다양한 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다.
한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 2에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298)를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip)로 구현될 수 있다.
한 실시 예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
한 실시 예에 따르면, 프로세서(210)는 터치 스크린(예: 터치 패널(252)) 상의 콘텐트에 대응하는 사용자 인터페이스를 터치 스크린을 통해 제어 가능하도록 표시하고, 터치 스크린을 통해 터치 스크린의 적어도 일부가 수중에 위치하는 것으로 확인되는 경우 사용자 인터페이스를 센서를 통해서 제어 가능하도록 터치 스크린의 적어도 일부 영역을 통해 표시할 수 있다.
다양한 실시 예에 따르면, 프로세서(210)는 터치 패널(252)에 대응하는 제1 사용자 인터페이스를 제공하고, 터치 패널(252)을 이용하여 전자 장치(201)(또는 터치 스크린)의 적어도 일부가 수중에 위치하는지를 판단하여 전자 장치(201)의 적어도 일부가 수중에 위치하는 것으로 판단되면 생체 센서(240I)에 대응하는 제2 사용자 인터페이스를 제공할 수 있다. 예를 들어, 생체 센서(240I)를 통해서 지문이 감지되면 프로세서(210)는 감지된 지문에 대한 지문 이미지를 분석하여 손가락의 입력 형태 또는 방향을 판단하고, 판단된 입력 형태 또는 방향에 기반하여 감지된 지문을 터치, 드래그, 스와이프 또는 핀치 인아웃 등과 같은 사용자 입력으로 판단할 수 있다. 상기 프로세서(120)는 판단된 사용자 입력에 대응하는 기능을 수행할 수 있다.
통신 모듈(220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)을 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 적어도 하나의 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시 예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다. 한 실시 예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제및/또는 운영 체제상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 어플리케이션(370)(예: 어플리케이션 프로그램(147)) 및/또는 위치 제공 모듈(380)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시 예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시 예에 따르면, 미들웨어(330)는 운영 체제의 종류별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다.
프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
도 4a 및 도 4b는 다양한 실시 예에 따른 전자 장치의 구성도들을 도시한다.
도 4a를 참조하면, 전자 장치(400)(예: 전자 장치(101) 또는 전자 장치(201))는 프로세서(410)(예: 프로세서(120) 또는 프로세서(210)), 터치 스크린(420)(예: 디스플레이(160) 또는 터치 패널(252)), 메모리(430)(예: 메모리(130) 또는 메모리(230)) 및 센서(440)(예: 센서 모듈(180) 또는 센서 모듈(240))를 포함할 수 있다.
한 실시 예에 따르면, 프로세서(410)는 터치 스크린(420) 상의 콘텐트에 대응하는 사용자 인터페이스를 터치 스크린(420)을 통해 제어 가능하도록 표시하고, 터치 스크린(420)을 통해 터치 스크린(420)의 적어도 일부가 수중에 위치하는 것으로 확인되는 경우 사용자 인터페이스를 센서(440)를 통해서 제어 가능하도록 터치 스크린(420)의 적어도 일부 영역을 통해 표시할 수 있다. 예를 들어, 콘텐트는 적어도 하나의 어플리케이션 또는 어플리케이션, 음악, 동영상, 카메라, 문서 등 에 관련된 실행 화면, 재생 화면, 열람 화면, 프리뷰 화면 등 중 적어도 하나를 포함할 수 있다. 상기 사용자 인터페이스는 적어도 하나의 어플리케이션에 대응하는 실행 또는 단축 아이콘을 포함하는 그래픽 객체 또는 화면을 구성하는(또는 화면에 포함된) 컨트롤러, 스크롤, 메뉴 등 중 적어도 하나를 포함하는 그래픽 객체를 포함할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 전자 장치(400)(또는 터치 스크린(420))의 적어도 일부가 수중(under water)에 위치하는지를 판단하여 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 터치 스크린(420) 상에 표시된 콘텐트를 제어하기 위한 사용자 인터페이스를 센서(440)에 대응하는 영역에 표시할 수 있다. 센서(440)에 대응하는 영역에 지문 입력이 감지되면 프로세서(410)는 지문 입력을 분석하여 터치, 투터치(two touch), 드래그, 스와이프, 핀치 인아웃 등과 같은 입력으로 판단하고, 판단된 입력에 대응하여 적어도 하나의 기능을 수행할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 터치 스크린(420)에 포함된 터치 센서(또는 패널)를 이용하여 전자 장치(400)가 수중에 위치하는지를 판단할 수 있다. 예를 들어, 터치 센서가 감지할 수 있는 전체 영역 또는 임계 크기 이상의 영역에서 터치 입력이 감지되면 프로세서(410)는 전자 장치(400)가 수중에 위치하는 것으로 판단할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 지문이 감지되면 감지된 지문에 대한 지문 이미지를 분석하여 손가락의 입력 형태 또는 방향 등을 판단하고, 판단된 입력 형태 또는 방향에 따라 감지된 지문을 터치, 투터치, 드래그, 스와이프, 핀치 인아웃 등과 같은 입력으로 판단할 수 있다.
한 실시 예에 따르면, 터치 스크린(420)은 터치 센서(또는 패널)를 포함하고, 터치 센서가 감지할 수 있는 영역을 통해서 터치, 드래그, 롱 프레스, 스와이프 또는 핀치 인아웃 등과 같은 입력을 감지할 수 있다. 상기 터치 스크린(420)은 콘텐트를 표시할 수 있다.
다양한 실시 예에 따르면, 전자 장치(400)가 수중에 위치하는 것으로 판단되면 터치 스크린(420)은 수중에서 사용할 수 있는 적어도 하나의 어플리케이션 또는 어플리케이션, 음악, 동영상, 카메라, 문서 등에 관련된 실행 화면, 재생 화면, 열람 화면, 프리뷰 화면 등 중 적어도 하나에 대응하는 제2 사용자 인터페이스를 표시할 수 있다. 예를 들어, 제2 사용자 인터페이스는 적어도 하나의 어플리케이션에 대응하는 실행 또는 단축 아이콘 중 일부 또는 화면을 구성하는(또는 화면에 포함된) 아이콘, 컨트롤러, 스크롤, 메뉴 등 중 일부를 포함하는 그래픽 객체를 포함할 수 있다.
한 실시 예에 따르면, 메모리(430)는 수중에서 사용할 수 있는 콘텐트에 대응하는 사용자 인터페이스를 제공하기 위한 정보를 저장할 수 있다. 예를 들어, 메모리(430)는 하드웨어적으로 또는 소프트웨어적으로 외부의 접근으로부터 안전한 보안 영역을 구비하고, 보안 영역에 생체 템플릿을 저장할 수도 있다. 상기 생체 템플릿은 생체 정보를 이용한 사용자 인증을 위해 사용될 수 있다.
한 실시 예에 따르면, 센서(440)는 센서(440)에 대응하는 영역에 입력(예: 지문)을 감지할 수 있다. 상기 센서(440)는 광학식 지문 센서 초음파식 지문 센서 및 광 센서 중 적어도 하나를 포함할 수 있다. 예를 들어, 센서(440)가 광학식 지문 센서인 경우, 센서(440)는 지문을 광원(예: 터치 스크린(420))으로부터 방출되는 빛을 이용하여 지문 이미지를 캡쳐하고, 캡쳐된 지문 이미지를 출력할 수 있다. 상기 센서(440)가 초음파식 지문 센서인 경우, 센서(440)는 초음파를 출력하고, 손가락 표면(예: 지문의 골, 마루)에서 반사된 초음파의 경로차를 이용하여 지문을 감지할 수 있다. 상기 센서(440)가 광 센서인 경우, 센서(440)는 저해상도의 이미지 센서를 포함하고, 이를 이용하여 지문의 형체 또는 움직임을 감지할 수 있다.
도 4b를 참조하면, 전자 장치(400)는 프로세서(410), 터치 스크린(420) 및 메모리(430)를 포함할 수 있다. 상기 프로세서(410)는 제1 프로세서(411) 및 제2 프로세서(412)를 포함할 수 있다.
한 실시 예에 따르면, 프로세서(410)는 일반모드로 동작하고, 제1 센서(422)에 대응하는 제1 영역에 제1 입력이 감지되는지를 판단할 수 있다. 예를 들어, 일반 모드는 전자 장치(400)가 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 제공하고, 제1 센서(422)를 이용하여 사용자 입력을 감지하기 위한 동작 모드일 수 있다. 상기 제1 사용자 인터페이스는 적어도 하나의 어플리케이션 또는 어플리케이션, 음악, 동영상, 카메라, 문서 등에 관련된 실행 화면, 재생 화면, 열람 화면, 프리뷰 화면 등 중 적어도 하나에 대응하는 그래픽 객체를 포함할 수 있다. 상기 제1 영역은 제1 센서(422)에서 제1 입력을 감지할 수 있는 영역으로, 디스플레이(421)의 활성화 영역(active area)(또는 표시 영역)(예: 사용자 인터페이스를 표시할 수 있는 영역)의 적어도 일부에 대응할 수 있다. 또한, 제1 입력은 전자 펜 또는 사용자의 신체 일부를 이용한 터치, 근접, 드래그, 스와이프, 핀치 인아웃(pinch in and out) 또는 호버링 등을 포함할 수 있다.
제1 센서(422)를 통해서 제1 영역의 적어도 일부에 제1 입력이 감지되면 프로세서(410)는 감지된 제1 입력에 대응하는 동작을 수행할 수 있다. 예를 들어, 프로세서(410)는 제1 센서(422)를 통해서 제1 어플리케이션 실행 아이콘(또는 아이콘의 위치)에 대응하는 제1 영역의 적어도 일부에 터치 입력이 감지되면 프로세서(410)는 제1 어플리케이션 실행 아이콘에 대응하는 제1 어플리케이션에 대한 실행 화면을 디스플레이(421)에 표시할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 제1 센서(422)를 통해서 콘텐트에 대응하는 제1 사용자 인터페이스를 어플리케이션을 실행하기 위한 터치 입력이 수신되면 제1 어플리케이션 실행 화면을 디스플레이(421)에 표시할 수 있다. 예를 들어, 콘텐트에 대응하는 제1 사용자 인터페이스는 제1 어플리케이션에 관련된 실행 화면에 대응하는 그래픽 객체를 포함할 수 있다.
제1 센서(422)를 통해서 전자 장치(400)가 수중에 위치하는 것으로 판단되면 프로세서(410)는 제1 센서(422)를 비활성화하고, 제2 센서(423)를 활성화할 수 있다. 상기 프로세서(410)는 제2 센서(423)의 제2 영역에 관련된 콘텐트에 대응하는 제2 사용자 인터페이스를 디스플레이(421)에 표시할 수 있다. 예를 들어, 콘텐트에 대응하는 제2 사용자 인터페이스는 제1 어플리케이션 실행 화면에 대응하여 재배열된 그래픽 객체의 적어도 일부를 포함할 수 있다.
한 실시 예에 따르면, 프로세서(410)는 제1 센서(422)를 통해서 전자 장치(400)(또는 터치 스크린(420))의 적어도 일부가 수중에 위치하는지를 판단할 수 있다. 다양한 실시 예에 따르면, 프로세서(410)는 제1 센서(420) 이외에 다양한 방법을 이용하여 전자 장치가 수중에 위치하는지를 판단할 수 있다. 이러한 방법은 실시 예에 한정되지 않으며, 전자 장치(400)가 수중에 위치하는지를 판단하기 위한 다양한 방법을 이용하여 구현될 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 무선 주파수 신호의 감쇄가 발생하면 전자 장치(400)가 수중에 위치하는 것으로 판단할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 습도 센서(예: 정전 용량식 습도 센서)를 더 구비하고, 물 분자의 흡착력으로 인해 습도 센서의 정전 용량 값이 기 설정된 값보다 상승하면 전자 장치(400)가 수중에 위치하는 것으로 판단할 수도 있다.
한 실시 예에 따르면, 프로세서(410)는 전자 장치(400)가 수중에 위치하는 것으로 판단되면 제1 센서(422)를 비활성화하고, 제2 센서(423)를 활성화하여 활성화된 제2 센서(423)에 대응하는 제2 사용자 인터페이스를 디스플레이(421)에 표시할 수 있다. 상기 제2 사용자 인터페이스는 제1 사용자 인터페이스의 적어도 일부를 포함하도록 구성될 수 있다. 예를 들어, 제2 사용자 인터페이스는 콘텐트에 대응하는 실행 또는 단축 아이콘, 컨트롤러, 스크롤, 메뉴 등 중 적어도 하나를 포함하는 그래픽 객체 중 적어도 일부, 또는 수중에서 사용할 수 있는 콘텐트에 대응하는 그래픽 객체, 또는 재배열된 그래픽 객체의 적어도 일부를 포함할 수 있다. 상기 프로세서(410)는 제2 센서(423)의 제2 영역에 관련된 콘텐트에 대응하는 그래픽 객체의 적어도 일부를 재배열할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 전자 장치(400)가 수중에 위치하는 것으로 판단되면 수중 모드로 진입하여 제2 센서(423)를 활성화하고, 제2 센서(423)의 제2 영역에 관련된 콘텐트에 대응하는 제2 사용자 인터페이스를 디스플레이(421)에 표시할 수 있다. 예를 들어, 수중 모드는 전자 장치(400)가 수중에서 사용할 수 있는 적어도 하나의 기능을 제공하는 동작 모드로, 수중 모드에서 프로세서(410)는 제2 센서(423)에 관련된 제2 사용자 인터페이스를 제공하고, 제2 센서(423)를 이용하여 제2 입력을 감지할 수 있다. 상기 제2 영역은 제2 센서(423)에서 제2 입력(예: 사용자 입력)을 감지할 수 있는 영역으로, 하나 이상의 영역들을 포함할 수 있고, 제1 영역의 적어도 일부에 대응할 수 있다. 상기 제2 영역은 제1 영역의 크기와 일치하거나 제2 영역의 적어도 일부가 제1 영역의 적어도 일부에 포함되도록 구현될 수도 있다.
다양한 실시 예에 따르면, 프로세서(410)는 제2 영역에 관련하여 수중에서 사용할 수 있는 콘텐트에 대응하는 제2 사용자 인터페이스를 디스플레이(421)에 표시할 수 있다. 상기 제2 사용자 인터페이스는 적어도 하나의 어플리케이션에 대응하는 실행 아이콘을 포함할 수 있다.
제2 영역을 통해서 적어도 하나의 어플리케이션 아이콘 중 제1 어플리케이션 실행 아이콘에 대한 제2 입력이 감지되면 프로세서(410)는 제1 어플리케이션 실행 화면을 디스플레이(421)에 표시할 수 있다. 제1 어플리케이션 실행 화면 상의 적어도 하나의 기능에 대응하는 객체(예: 메뉴 또는 아이콘 등)에 대한 제2 입력이 감지되면 프로세서(410)는 제1 어플리케이션에 관련된 적어도 하나의 기능을 수행할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 제2 영역을 통해서 제2 입력(예: 지문)이 감지(또는 입력)되면 감지된 지문을 분석하여 터치, 투터치, 드래그, 스와이프, 핀치 인아웃 등과 같은 입력으로 판단할 수 있다. 예를 들어, 프로세서(410)는 감지된 지문에 대한 복수의 지문 이미지들을 획득하고, 획득된 지문 이미지들을 시간 순으로 누적한 이미지를 생성할 수 있다. 상기 프로세서(410)는 생성된 누적 이미지를 분석하여 손가락의 입력 형태 또는 방향을 판단하고, 판단된 입력 형태 또는 방향에 기반하여 감지된 지문을 터치, 투터치, 드래그, 스와이프, 핀치 인아웃 등과 같은 입력으로 판단할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 수중 모드에서 주기적으로 제1 센서(422)를 활성화하여 전자 장치(400)의 적어도 일부가 수중에 위치하는지를 판단할 수 있다. 전자 장치(400)의 적어도 일부가 수중에 위치하면 프로세서(410)는 제1 센서(422)를 비활성화하고, 수중 모드를 계속적으로 유지할 수 있다. 전자 장치(400)의 적어도 일부가 수중에 위치하지 않으면 프로세서(410)는 제2 센서(423)를 비활성화하고, 활성화된 제1 센서(422)를 이용하여 제1 입력을 감지하기 위한 일반 모드를 수행(또는 변경)할 수 있다.
다양한 실시 예에 따르면, 물 속에서의 사용자 동작은 물 밖에서의 사용자 동작보다 느리기 때문에, 프로세서(410)는 제2 영역에서 지정된 제1 시간보다 짧은 시간에 지문이 감지되면 감지된 지문을 유효하지 않은 입력으로 판단하여 이를 무시할 수도 있다.
다양한 실시 예에 따르면, 프로세서(410)는 수중 모드에서 제2 센서(423)의 제2 영역에 대한 특성 정보(예: 크기, 위치 또는 형상 등)를 변경할 수 있다. 예를 들어, 프로세서(410)는 가로가 긴 직사각형, 세로가 긴 직사각형 또는 격자형 등의 감지 영역을 제2 센서(423)의 제2 영역으로 설정할 수 있다. 또는, 프로세서(410)는 복수의 감지 영역들 중 하나의 감지 영역을 활성화하고, 다른 하나의 감지 영역을 비활성화하여 활성화된 하나의 감지 영역을 제2 센서(423)의 제2 영역으로 설정할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 수중 모드에서 제2 센서(423)의 제2 영역에 대한 해상도를 변경할 수 있다. 예를 들어, 프로세서(410)는 제2 센서(423)에 구비된 복수의 감지 픽셀들 중 일부만 활성화할 수 있다. 상기 프로세서(410)는 복수의 감지 픽셀들을 가로 2개 × 세로 2개의 총 4개의 단위로 분할하고, 분할된 4개의 단위의 감지 픽셀들마다 순서대로 활성화 또는 비활성화할 수 있다. 이와 같이 활성화된 일부 감지 픽셀들을 통해서 감지된 지문에 대한 지문 이미지의 해상도를 1/4로 축소할 수 있기 때문에, 지문 이미지가 좀 더 빠른 속도로 처리될 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 수중 모드에서 제2 센서(423)의 이미지 처리 방식을 변경할 수 있다. 상기 프로세서(410)는 감지된 지문의 특징 정보(예: 굴곡, 특징점 등)를 추출할 필요가 없기 때문에, 감지된 지문에 대한 지문 이미지의 해상도, 콘트라스트(contrast) 등과 같은 정보의 양을 줄이거나 제거하여 지문 이미지에 대한 처리를 좀 더 빠르게 수행할 수 있다. 예를 들어, 프로세서(410)는 지문 이미지의 색상 정보 또는 그레이 스케일(gray scale) 정보를 BW(black and white) 정보로 변경하여 지문 이미지에 대한 처리를 좀 더 빠르게 수행할 수 있다. 또는, 프로세서(410)는 지문 이미지를 다른 정보로 변환할 수도 있다. 예를 들어, 프로세서(410)는 지문 이미지의 전체 면적에 대한 중심점을 산출하고, 지문 이미지를 산출된 중심점에 대한 좌표로 변경할 수도 있다.
다양한 실시 예에 따르면, 프로세서(410)는 수중 모드에서 제2 센서(423)의 이미지 캡쳐 속도를 변경할 수 있다. 상기 프로세서(410)는 손가락의 입력 형태(또는 제스처) 또는 방향 등을 빠르게 감지하기 위해서 제2 센서(423)에서 지문 이미지를 캡쳐하는 속도를 좀 더 빠르게 설정할 수 있다. 예를 들어, 제2 센서(423)에서 지문 이미지를 캡쳐하는 속도가 기본으로 5 프레임/초(frame/sec) 인 경우 프로세서(410)는 수중 모드에서 제2 센서(423)의 캡쳐 속도를 20 프레임/초로 변경할 수 있다. 이와 같이, 제2 센서(423)의 캡쳐 속도를 높일수록 손가락의 움직임을 빠르게 포착할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 수중 모드에서 제2 센서(423)의 이미지 캡쳐 빈도수를 변경할 수 있다. 일반적으로, 제2 센서(423)(예: 지문 센서 또는 광 센서)는 지문 등록 또는 지문 인증 시 지문 센서를 활성화하기 위한 트리거 신호가 수신되면 지문 등록 또는 지문 인증을 수행하고, 지문 등록 또는 지문 인증이 완료되면 비활성화될 수 있다. 상기 프로세서(410)는 수중 모드에서 지문 이미지에 대한 캡쳐를 완료한 후에도 제2 센서(423)가 계속적으로 활성화되도록 활성화를 위한 트리거 신호를 주기적으로 제2 센서(423)로 전달할 수 있다.
다양한 실시 예에 따르면, 프로세서(410)는 제2 센서(423)의 제2 영역에 관련된 콘텐트에 대응하는 제2 사용자 인터페이스를 메모리(430)에 저장하거나, 서버(또는 클라우드)를 통해서 다운로드할 수 있다.
다양한 실시 예에 따르면, 제1 프로세서(411)는 전자 장치(400)의 전반적인 동작을 제어할 수 있다.
다양한 실시 예에 따르면, 제2 프로세서(412)는 저전력 프로세서 또는 센서 허브(sensor hub)를 포함하고, 전자 장치(400)가 슬립 모드인 경우 제1 프로세서(411)와 독립적으로 터치 스크린(420)을 제어할 수 있다. 상기 슬립 모드는 전자 장치(400)에 구비된 최소한의 구성 요소들(예: 제2 프로세서(412) 및 제1 센서(422) 또는 제2 센서(423))만 동작하고(또는 전력을 공급하고), 나머지 구성 요소들은 동작하지 않은(또는 전력이 공급되지 않는) 동작 모드일 수 있다. 예를 들어, 슬립 모드에서 제2 프로세서(412)는 제1 센서(422)를 통해서 감지된 제1 입력(예: 터치 입력 등) 또는 제2 센서(423)를 통해서 감지된 제2 입력(예: 지문 입력 등)을 처리하는 동작을 수행할 수 있다.
다양한 실시 예에 따르면, 제1 또는 제2 프로세서(411, 412)는 도 4a에서 설명한 프로세서(410)와 적어도 일부의 동일한 동작을 수행할 수 있다. 예를 들어, 제1 또는 제2 프로세서(411, 412)는 제1 센서(422)를 이용하여 전자 장치(400)의 적어도 일부가 수중에 위치하는지를 판단하고, 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 제2 센서(423)에 대응하는 제2 사용자 인터페이스를 터치 스크린(420) 상에 표시할 수 있다.
한 실시 예에 따르면, 터치 스크린(420)은 디스플레이(421), 제1 센서(422) 및 제2 센서(423)를 포함할 수 있다.
한 실시 예에 따르면, 디스플레이(421)는 콘텐트에 대응하는 제1 사용자 인터페이스 및 제2 사용자 인터페이스를 표시할 수 있다. 예를 들어, 상기 제1 사용자 인터페이스는 적어도 하나의 어플리케이션에 대응하는 실행 아이콘을 포함하거나 특정 어플리케이션을 실행한 제1 어플리케이션 실행 화면상의 메뉴 또는 아이콘 등을 포함할 수 있다. 상기 메뉴 또는 아이콘은 제1 어플리케이션에 관련된 적어도 하나의 기능에 대응할 수 있다. 상기 제2 사용자 인터페이스는 복수의 어플리케이션들 중 수중에서 사용할 수 있는 어플리케이션에 대응하는 실행 아이콘을 포함하거나 특정 어플리케이션 실행 화면 상의 적어도 하나의 기능 중 일부에 대응하는 메뉴 또는 아이콘을 포함할 수 있다.
다양한 실시 예에 따르면, 디스플레이(421)는 복수의 픽셀들을 포함하고, 복수의 픽셀들의 적어도 일부를 제어하여 표시 정보를 제공하도록 설정된 디스플레이 구동 모듈(예: 디스플레이 드라이버 회로(display driver IC, DDI))(421-1)을 포함할 수 있다. 상기 디스플레이 구동 모듈(421-1)은 제1 센서(422)에서 감지된 제1 입력 또는 제2 센서(423)에서 감지된 제2 입력에 따라 디스플레이(421)를 구동(또는 활성화)할 수 있다.
한 실시 예에 따르면, 제1 센서(422)는 전자 펜 또는 사용자의 신체 일부를 이용한 터치, 제스처, 근접, 드래그, 스와이프, 핀치 인아웃 또는 호버링 등과 같은 제1 입력을 감지하는 적어도 하나의 센서를 포함할 수 있다. 예를 들어, 제1 센서(422)는 정전식 센서 등을 포함할 수 있다.
한 실시 예에 따르면, 제2 센서(423)는 지문 등의 생체 정보와 같은 제2 입력을 감지(또는 획득)하는 적어도 하나의 센서를 포함할 수 있다. 예를 들어, 제2 센서(423)는 광학식 센서 및 초음파식 센서 등을 포함할 수 있다. 상기 제2 센서(423)이 광학식 센서인 경우, 제2 센서(423)는 디스플레이(421)에서 출력되는 빛을 광원으로 이용하여 지문 이미지를 캡쳐하고, 캡쳐된 지문 이미지를 출력할 수 있다.
다양한 실시 예에 따르면, 제2 센서(423)는 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 프로세서(410)에 의해서 활성화될 수 있다. 상기 제2 센서(423)는 제2 영역을 통해서 하나의 지문 또는 복수의 지문들을 감지하고, 감지된 하나의 지문에 대한 지문 이미지 또는 감지된 복수의 지문들에 대한 지문 이미지들을 출력할 수 있다. 예를 들어, 수중 모드는 전자 장치(400)가 수중에서 사용할 수 있는 기능들을 수행하기 위한 동작 모드일 수 있다.
다양한 실시 예에 따르면, 제1 센서(422) 및 제2 센서(423)는 도 4a에서 설명한 터치 센서 및 센서(440)와 적어도 일부의 동일한 동작을 수행할 수 있다. 예를 들어, 제1 센서(422)는 제1 영역에서 제1 입력을 감지하고, 제2 센서(423)는 제2 영역에서 제2 입력을 감지할 수 있다. 제1 입력 또는 제2 입력에 따라 디스플레이(421)가 구동(또는 활성화)되면 제1 센서(422) 또는 제2 센서(423)는 디스플레이(421)에서 출력되는 빛을 광원으로 이용하여 생체 정보(예: 지문 이미지 또는 홍채 이미지 등)를 획득(또는 캡쳐)할 수 있다.
한 실시 예에 따르면, 메모리(430)는 일반 모드에서 제1 센서(422)에 관련된 콘텐트에 대응하는 제1 사용자 인터페이스를 제공하기 위한 정보를 저장할 수 있다. 상기 메모리(430)는 수중 모드에서 제2 센서(423)에 관련된 콘텐트에 대응하는 제2 사용자 인터페이스를 제공하기 위한 정보를 저장할 수 있다. 또한, 메모리(430)는 지문, 홍채 등과 같은 생체 정보로부터 특징점 추출, 변형 또는 암호화 등의 처리를 수행한 결과 정보(예: 생체 템플릿(template)를 저장할 수 있다.
다양한 실시 예에 따르면, 메모리(430)는 도 4a에서 설명한 메모리(430)와 적어도 일부의 동일한 동작을 수행할 수 있다. 예를 들어, 메모리(430)는 사용자 인터페이스를 제공하기 위해서 사용되는 정보를 저장하는 제1 영역과, 사용자 인증을 위한 생체 정보(예: 생체 템플릿)를 저장하는 제2 영역(예: 보안 영역)을 포함할 수 있다.
다양한 실시 예에 따르면, 전자 장치(400)는, 터치 스크린(420); 상기 터치 스크린(420)의 적어도 일부 영역에 형성된 센서(440); 및 프로세서(410)를 포함하고, 상기 프로세서(410)는, 상기 터치 스크린(420) 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린(420)을 통해 제어 가능하도록 표시하고; 및 상기 터치 스크린(420)을 통해 상기 터치 스크린(420)의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 센서(440)를 통해 제어 가능하도록 상기 터치 스크린(420)의 적어도 일부 영역을 통해 표시할 수 있다.
도 5a, 도 5b 및 도 5c는 다양한 실시 예에 따라 제1 센서를 통해서 전자 장치가 수중에 위치하는지를 판단하는 방법을 설명하기 위한 예시도들을 도시한다.
다양한 실시 예에 따르면, 제1 센서(422)는 도 5a, 도 5b 및 도 5c와 같이 가로 15 개 × 세로 27 개의 정전식 센서들(예: 총 405개)로 구성될 수 있다. 이러한 센서들은 일반적으로 -3 ~ 6 패럿(F) 사이의 로우 캐패시턴스(예: 정전 용량 값)를 가질 수 있다. 이러한 센서들의 개수는 예시적인 값이며, 다양한 개수로 구현될 수 있다.
도 5a를 참조하면, 제1 센서(422)는 특정 영역(500)에서 임계 값 이상의 로우 캐패시턴스(raw capacitance)의 변화가 감지(또는 측정)되면 감지 신호(또는 측정 신호)를 프로세서(410)로 전달할 수 있다. 상기 프로세서(410)는 수신된 감지 신호(또는 측정 신호)에 기반하여 특정 영역(500)에 제1 입력(예: 정상적인 터치 입력)이 감지되는 것으로 판단할 수 있다. 예를 들어, 사용자의 손가락(501)에 의해서 접촉된(또는 터치된) 특정 영역(500)의 면적이 10파이(phi)인 경우 제1 센서(422)는 약 258 패럿의 로우 캐패시턴스를 측정할 수 있고, 사용자의 손가락(501)에 의해서 접촉된 특정 영역(500)의 면적이 4파이인 경우 약 194 패럿의 로우 캐패시턴스를 측정할 수 있다. 다양한 실시 예에 따르면, 제1 센서(422)를 통해서 특정 영역(500)에서 약 258 패럿의 로우 캐패시턴스가 측정되면 프로세서(410)는 특정 영역(500)에 제1 입력이 감지된 것으로 판단할 수 있다.
도 5b 및 도 5c를 참조하면, 제1 센서(422)는 제1 센서(422)의 전체 영역(510) 또는 미리 설정된 크기 이상의 영역(520)에서 임계값 이상의 로우 캐패시턴스의 변화가 감지(또는 측정)되면 감지 신호(또는 측정 신호)를 프로세서(410)로 전달할 수 있다. 상기 프로세서(410)는 수신된 감지 신호(또는 측정 신호)에 기반하여 전체 영역(510) 또는 미리 설정된 크기 이상의 영역(520)에 제2 입력(예: 비정상적인 터치 입력)이 감지되는 것으로 판단할 수 있다. 예를 들어, 전자 장치(400)가 수중에 위치하는 경우 제1 센서(422)는 전체 영역(510) 또는 미리 설정된 크기 이상의 영역(520)에서 약 258 패럿 이상의 로우 캐패시턴스를 측정할 수 있다. 다양한 실시 예에 따르면, 제1 센서(422)를 통해서 제1 센서(422)의 전체 영역(510) 또는 미리 설정된 크기 이상의 영역(520)에서 약 258 패럿 이상의 로우 캐패시턴스가 측정되면 프로세서(410)는 특정 영역(500)에 제2 입력이 감지되는 것으로 판단할 수 있다.
도 6는 다양한 실시 예에 따라 터치 스크린에 대한 구조를 나타내는 도면을 도시한다.
도 6에 따르면, 터치 스크린(600)(예: 도 4의 터치 스크린(420))은 터치 스크린(600)의 적어도 일부 영역에 제1 센서(630) 및 제2 센서(680)를 포함할 수 있다.
한 실시 예에 따르면, 터치 스크린(600)은 글라스(610), 제1 센서(630), 디스플레이(640), 제2 센서(680) 또는 PCB(690)를 포함할 수 있다. 상기 글라스(610)는 접착제(620)를 통해 제1 센서(630) 또는 디스플레이(640)와 접착될 수 있다. 상기 터치 스크린(600)은 제2 센서(680)의 실장 공간을 확보하기 위한 구조물들(650-1 및 650-2)을 더 포함할 수 있다. 상기 구조물들(650-1, 및 650-2)은 제2 센서(680)를 보호하기 위한 실링 구조의 적어도 일부를 형성할 수 있다.
한 실시 예에 따르면, 제1 센서(630) 및 제2 센서(680)는 디스플레이(640)의 일부 영역(예: 하나의 영역 또는 복수의 영역) 또는 디스플레이(640)의 전체 영역(예: 디스플레이(640)의 활성화 영역)에 형성될 수 있다. 예를 들어, 제1 센서(630)는 디스플레이(640)의 일면 위의 별도의 층에 형성되고, 제2 센서(680)는 디스플레이(640)의 다른 면(예: 배면)에 형성될 수 있다.
한 실시 예에 따르면, 디스플레이(640)는 일면(예: 상면(예: 디스플레이(640)의 픽셀들(641 내지 643)이 형성된 면의 적어도 일부 영역 등))에 제2 센서(680)(또는 제3 센서 모듈(644))를 형성할 수도 있다. 예를 들어, 제2 센서(680)(또는 제3 센서 모듈(644))는 광학식 센서 또는 초음파식 센서 중 어느 하나를 포함할 수 있다.
한 실시 예에 따르면, 제1 센서(630) 및 제2 센서(680)는 광학식 센서(예: 광학식 이미지 센서), 초음파식 센서(예: 초음파식 송수신 모듈) 및 정전식 센서(예: 정전식 송수신 전극 패턴) 중 적어도 하나를 포함할 수 있다. 예를 들어, 제1 센서(630)는 정전식 송수신 전극 패턴으로 형성되고, 제2 센서(680)는 광학식 이미지 센서 및 초음파식 송수신 모듈 중 적어도 하나로 형성될 수 있다. 상기 광학식 이미지 센서는 광원(예: 디스플레이(640) 또는 적외선 엘이디(IR LED))으로부터 방출되는 빛(예: 가시 광선, 적외선, 또는 자외선)을 출력하고, 사용자의 지문에서 반사된 빛을 감지할 수 있다.
다양한 실시 예에 따르면, 제1 센서(630)는 접착층(620)과 디스플레이(640)의 사이 또는 윈도우 글라스(610)과 접착층(620)의 사이에 형성될 수 있다. 예를 들어, 제1 센서(630)는 디스플레이(640)에서 출력되는 빛의 투과율을 높이기 위해 투명한 전극으로 형성될 수 있다.
다양한 실시 예에 따르면, 제2 센서(680) 및 디스플레이(640)의 사이에는 제2 센서(680) 및 디스플레이(640) 간의 충격 완화 또는 이물질 유입을 방지하기 위한 탄성체들(670-1, 670-2)(예: 스폰지 또는 고무 등)이 형성될 수 있다.
다양한 실시 예에 따르면, 제1 센서(630) 및 제2 센서(680)(또는 제3 센서 모듈(644))는 디스플레이(640) 위에 구비된 커버 글라스의 표면에 프린팅되거나 식각에 기반하여 통해서 배치될 수 있다. (예: 인/온 커버 글래스(in/on-cover glass) 구조)
다양한 실시 예에 따르면, 제1 센서(630) 및 제2 센서(680)(또는 제3 센서 모듈(644))는 디스플레이(640) 위에 배치될 수 있다. (예: 오버 디스플레이(over-display) 구조)
다양한 실시 예에 따르면, 제1 센서(630) 및 제2 센서(680)(또는 제3 센서 모듈(644))는 디스플레이(640) 아래에 배치될 수도 있다. (예: 언더 디스플레이(under-display) 구조)
다양한 실시 예에 따르면, 제1 센서(630) 및 제2 센서(680)(또는 제3 센서 모듈(644))는 디스플레이(640)의 픽셀들 내부 또는 하나의 픽셀과 다른 하나의 픽셀 사이의 블랙 매트릭스(black matrix, BM) 영역에 배치될 수도 있다. (예: 인 디스플레이(in-display) 구조)
다양한 실시 예에 따르면, 정전식 센서는 손가락 표면이 전극이 닿는 제1 영역(예: 마루)이 감지되고, 손가락 표면이 전극에 닿지 않는 제2 영역(예: 골)이 감지되지 않는 방법을 이용하여 지문을 감지할 수 있다. 상기 광학식 센서는 감광 다이오드를 이용하여 손가락 표면을 캡쳐하고, 캡쳐된 이미지로부터 지문 이미지를 획득할 수 있다. 상기 초음파식 센서는 피에조(piezo) 방식을 이용하여 초음파를 생성하여 출력하고, 손가락 표면에서 반사된 초음파의 경로차를 이용하여 지문을 감지할 수 있다. 이러한 센서들은 다양한 방식을 이용하여 지문을 감지할 수 있으며, 실시 예에서 설명한 바와 같이 한정되지 않을 수 있다.
도 7a 및 도 7b는 다양한 실시 예에 따라 디스플레이의 활성화 영역을 설명하기 위한 예시도들을 도시한다.
도 7a를 참조하면, 디스플레이(421)는 제1 사용자 인터페이스를 표시하기 위한 활성화 영역(700)을 포함할 수 있다. 예를 들어, 활성화 영역(700)은 디스플레이(421)의 전체 크기에 대응할 수 있다. 상기 디스플레이(421)는 활성화 영역(700)의 적어도 일부 영역(701)에 대응하여 제1 센서(422)의 제1 영역 또는 제2 센서(423)의 제2 영역이 형성될 수 있다. 상기 제1 센서(422) 또는 제2 센서(423)는 적어도 일부 영역(401)에 대응하여 위치할 수 있다. 예를 들어, 제1 선서 모듈(422) 또는 제2 센서(423)는 디스플레이(421)의 일면의 위 또는 배면의 아래에 위치하거나 픽셀들 사이의 BM 영역에 형성될 수 있다.
도 7b를 참조하면, 디스플레이(421)는 제1 영역 또는 제2 영역을 포함하도록 활성화 영역(710)을 형성할 수 있다. 예를 들어, 디스플레이(421)는 디스플레이(421)의 적어도 일부 영역(701)에 제1 센서(422) 또는 제2 센서(423)가 형성될 수 있다. 이러한 경우, 활성화 영역(710)의 적어도 일부 영역(701)에 제1 영역 또는 제2 영역이 포함되기 때문에, 디스플레이(421)는 제1 영역 또는 제2 영역이 포함된 크기만큼 전자 장치(400)의 상단(720) 및 하단(721)으로 활성화 영역(710)의 크기를 확장할 수도 있다.
도 8a, 도 8b 및 도 8c는 다양한 실시 예에 따라 제2 센서의 제2 영역에 대한 예시도들을 도시한다.
도 8a를 참조하면, 제2 센서(423)는 전자 장치(400)의 터치 스크린(420)의 일부 영역에 대응하여 제2 영역(800)을 구비할 수 있다. 예를 들어, 제2 센서(423)이 터치 스크린(420)의 제1 위치에 형성된 경우 제2 센서(423)는 제1 위치에 대응하여 제2 영역(800)을 구비할 수 있다.
도 8b를 참조하면, 제2 센서(423)는 터치 스크린(420)의 복수의 영역들에 대응하여 복수의 제2 영역들(예: 제1 영역(810), 제2 영역(811))을 구비할 수 있다. 예를 들어, 제2 센서(423)가 터치 스크린(420)의 복수의 일부 영역들 각각에 형성되는 경우, 제2 센서(423)는 복수의 일부 영역들의 위치(및 크기) 각각에 대응하여 복수의 제2 영역들(810, 811)을 구비할 수 있다.
도 8c를 참조하면, 제2 센서(423)는 터치 스크린(420)의 전체 영역에 대응하여 제2 영역(820)을 구비할 수 있다. 예를 들어, 제2 센서(423)가 터치 스크린(420)의 전체 영역에 형성되는 경우, 제2 센서(423)는 터치 스크린(420)의 전체 영역에 대응하는 크기를 가지는 제2 영역(820)을 구비할 수 있다.
다양한 실시 예에 따르면, 제2 영역(820)은 제2 센서(423)에 형성된 제1 크기에 대응하거나 제1 크기보다 큰 제2 크기로 구비될 수도 있다. 예를 들어, 제2 센서(423)는 제2 센서(423)에서 사용하는 전력의 크기에 따라 다양한 크기의 제2 영역(820)을 구비할 수 있다.
도 9a, 도 9b, 도 9c, 도 9d, 도 9e 및 도 9f는 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 설명하는 예시도들을 도시한다.
도 9a, 도 9b 및 도 9c를 참조하면, 프로세서(410)는 일반 모드에서 제1 센서(422)의 활성화 영역(910)에 관련된 콘텐트에 대응하는 제1 사용자 인터페이스를 제공할 수 있다. 상기 제1 사용자 인터페이스는 어플리케이션 A, B, C, … S, T 각각에 대한 실행 아이콘들을 포함할 수 있다. 이 중 어플리케이션 A의 실행 아이콘 (900), 어플리케이션 C의 실행 아이콘(901), 어플리케이션 D의 실행 아이콘(902), 어플리케이션 E의 실행 아이콘(903), 어플리케이션 H의 실행 아이콘(904) 및 어플리케이션 T의 실행 아이콘(905)은 수중 모드에서도 사용할 수 있는 어플리케이션들에 대한 실행 아이콘들일 수 있다.
제1 센서(422)를 통해서 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 프로세서(410)는 수중 모드로 진입하고, 수중 모드에서 사용할 수 있는 어플리케이션들에 대한 실행 아이콘들(900, 901, 902, 903, 904, 905) 및 각 어플리케이션들 실행 아이콘들을 선택하기 위한 선택 아이콘들(906, 907, 908)을 포함하는 제2 사용자 인터페이스를 제공할 수 있다. 예를 들어, 프로세서(410)는 제2 센서(423)의 제2 영역(910)에 대응하여 선택 아이콘들(906, 907, 908)을 배열할 수 있다.
어플리케이션 C의 실행 아이콘(901)이 선택된 상태에서 제2 센서(423)의 제2 영역(910)을 통해서 복수의 지문들이 감지되면 프로세서(410)는 감지된 지문들에 대한 이미지들을 시간순으로 누적한 누적 이미지를 생성할 수 있다. 상기 프로세서(410)는 생성된 누적 이미지를 분석하여 손가락의 입력 형태 또는 방향을 결정할 수 있다. 예를 들어, 누적 이미지가 제1 방향(920)에서 제2 방향(921)으로 이동한 궤적에 대응하는 것으로 분석되면 프로세서(410)는 입력 방향에 기반하여 감지된 지문 이미지들을 스와이프 입력(또는 드래그 입력)으로 판단하고, 스와이프 입력(또는 드래그 입력)에 따라 어플리케이션 D의 실행 아이콘(902)을 선택할 수 있다.
어플리케이션 실행 기능에 관련된 제1 아이콘(906)에 대응하는 제2 영역(910)의 적어도 일부분에 지문이 감지되면 프로세서(410)는 선택된 어플리케이션 D의 실행 아이콘(902)에 대응하는 어플리케이션 D의 실행 화면을 터치 스크린(420) 상에 표시할 수 있다.
도 9d, 도 9e 및 도 9f를 참조하면, 프로세서(410)는 일반 모드에서 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 제공하고, 제1 센서(422)를 통해서 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 수중 모드로 진입(또는 전환)할 수 있다. 수중 모드에서 프로세서(410)는 제2 센서(423)의 제2 영역(910)에 대응하는 제2 사용자 인터페이스를 제공할 수 있다. 예를 들어, 제2 사용자 인터페이스는 수중 모드에서 사용할 수 있는 어플리케이션들(A, C, D, E, H 및 T)에 대한 실행 아이콘들(900, 901, 902, 903, 904, 905)을 포함할 수 있다.
어플리케이션 T의 실행 아이콘(905)에 대응하여 제2 영역(910)의 적어도 일부분에 지문이 감지되면 프로세서(410)는 감지된 지문의 이미지에 기반하여 손가락의 입력 형태를 판단할 수 있다. 예를 들어, 지문 이미지가 일반적인 지문 형태(예: 미리 저장된 사용자의 지문 형태)에 대응하는 것으로 판단되면 프로세서(410)는 판단된 입력 형태에 기반하여 상기 감지된 지문을 터치 입력으로 판단할 수 있다. 상기 프로세서(410)는 판단된 터치 입력에 따라 어플리케이션 T의 실행 아이콘(905)에 대응하는 어플리케이션 T에 대한 실행 화면을 터치 스크린(420) 상에 표시할 수 있다.
도 10a, 도 10b, 도 10c 및 도 10d는 다양한 실시 예에 따라 제2 영역의 예시도들을 도시한다.
도 10a를 참조하면, 제2 센서(423)는 제2 영역(1000)의 전체 영역에 대응하는 복수의 감지 픽셀들을 활성화하고, 활성화된 제2 영역(1000)의 복수의 감지 픽셀들을 통해서 제2 입력을 감지할 수 있다.
도 10b를 참조하면, 제2 센서(423)는 제2 영역의 제1 영역(1010) 및 제2 영역(1011)에 대응하는 복수의 감지 픽셀들을 활성화하고, 나머지 영역에 대응하는 감지 픽셀들을 비활성화할 수 있다. 예를 들어, 제2 센서(423)는 제1 영역(1010)의 활성화된 감지 픽셀들을 통해서 제1 지문 이미지를 획득하고, 제2 영역(1011)의 활성화된 감지 픽셀들을 통해서 제2 지문 이미지를 획득할 수 있다. 다양한 실시 예에 따르면, 프로세서(410)는 획득된 제1 지문 이미지와 제2 지문 이미지에 기반하여 손가락의 방향들(예: 제1 방향(920)에서 제2 방향(921)으로 이동)을 결정하고, 결정된 입력 형태 또는 방향에 기반하여 획득된 제1 지문 이미지와 제2 지문 이미지를 스와이프 입력, 핀치 인아웃 입력 등으로 판단할 수 있다.
도 10c를 참조하면, 제2 센서(423)는 제2 영역을 세로 방향으로 긴 직사각형의 영역들로 분리하고, 분리된 영역들에 대응하는 감지 픽셀들 중 적어도 일부 영역들을 순서대로 비활성화 또는 활성화할 수 있다. 상기 제2 센서(423)는 제1 영역(1020), 제2 영역(1021), 제3 영역(1022), 제4 영역(1023) 및 제5 영역(1024)을 활성화하고, 나머지 분리된 영역들에 대응하는 감지 픽셀들을 비활성화할 수 있다. 예를 들어, 제2 센서(423)는 제1 영역(1020)의 활성화된 감지 픽셀들을 통해서 제1 지문 이미지를 획득하고, 제2 영역(1021)의 활성화된 감지 픽셀들을 통해서 제2 지문 이미지를 획득하고, 제3 영역(1022)의 활성화된 감지 픽셀들을 통해서 제3 지문 이미지를 획득하고, 제4 영역(1023)의 활성화된 감지 픽셀들을 통해서 제4 지문 이미지를 획득하고, 제5 영역(1024)의 활성화된 감지 픽셀들을 통해서 제5 지문 이미지를 획득할 수 있다. 다양한 실시 예에 따르면, 프로세서(410)는 획득된 제1, 2, 3, 4, 5 지문 이미지들에 기반하여 손가락의 방향들(예: 제1 방향(920)에서 제2 방향(921)으로 이동)을 결정하고, 결정된 입력 형태 또는 방향에 기반하여 감지된 제1, 2, 3, 4, 5 지문 이미지들을 스와이프 입력, 핀치 인아웃 입력 등으로 판단할 수 있다.
도 10d를 참조하면, 제2 센서(423)는 제2 영역을 가로 방향으로 긴 직사각형의 영역들로 분리하고, 분리된 영역들에 대응하는 감지 픽셀들 중 적어도 일부 영역들을 순서대로 활성화 또는 비활성화할 수 있다. 상기 제2 센서(423)는 제1 영역(1030), 제2 영역(1031) 및 제3 영역(1032)을 활성화하고, 나머지 분리된 영역들에 대응하는 감지 픽셀들을 비활성화할 수 있다. 예를 들어, 제2 센서(423)는 제1 영역(1030)의 활성화된 감지 픽셀들을 통해서 제1 지문 이미지를 획득하고, 제2 영역(1031)의 활성화된 감지 픽셀들을 통해서 제2 지문 이미지를 획득하고, 제3 영역(1032)의 활성화된 감지 픽셀들을 통해서 제3 지문 이미지를 획득할 수 있다. 다양한 실시 예에 따르면, 프로세서(410)는 획득된 제1, 2, 3 지문 이미지들에 기반하여 손가락의 방향들(예: 제1 방향(920)에서 제2 방향(921)으로 이동)을 결정하고, 결정된 입력 형태 또는 방향에 기반하여 감지된 제1, 2, 3 지문 이미지들을 스와이프 입력, 핀치 인아웃 입력 등으로 판단할 수 있다.
이와 같이 활성화된 일부 감지 픽셀들을 통해서 감지된 지문에 대한 지문 이미지의 해상도를 축소할 수 있기 때문에, 프로세서(410)는 해상도가 축소된 지문 이미지를 이용하여 좀 더 빠르게 동작을 수행할 수 있다.
도 11a 및 도 11b는 다양한 실시 예에 따라 제1 사용자 인터페이스 및 제2 사용자 인터페이스에 대한 예시도들을 도시한다.
도 11a 및 도 11b를 참조하면, 일반 모드에서 프로세서(410)는 제1 센서(422)를 통해서 카메라 어플리케이션에 대응하는 실행 아이콘을 선택하기 위한 제1 입력이 감지되면 제1 센서(422)의 제1 영역에 대응하여 카메라 어플리케이션 실행 화면을 표시할 수 있다. 상기 제1 영역은 터치 스크린(420)의 전체 영역에 대응할 수 있다. 예를 들어, 일반모드에서 카메라 어플리케이션의 적어도 하나의 기능에 관련된 아이콘들(1110)은 카메라 어플리케이션 실행 화면의 하단에 위치할 수 있다.
상기 프로세서(410)는 제1 센서(422)를 통해서 전자 장치(400)가 수중에 위치하는 것으로 판단되면 수중 모드로 전환하고, 제2 영역(1100)에 대응하여 카메라 어플리케이션의 적어도 하나의 기능에 관련된 아이콘들(1110)을 표시할 수 있다. 예를 들어, 프로세서(410)는 수중 모드에서 카메라 어플리케이션의 적어도 하나의 기능에 관련된 아이콘들(1110)을 제2 영역(1100)에 대응하는 위치에 이동할 수 있다.
도 12a 및 도 12b는 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 나타내는 흐름도들을 도시한다.
다양한 실시 예에 따르면, 도 12a의 동작 1200 내지 동작 1203 및 도 12b의 동작 1210 내지 동작 1212는 전자 장치(101, 102, 104, 201, 400), 서버(106), 프로세서(120, 210 또는 410) 및 프로그램 모듈(310) 중 어느 하나를 통해서 실행될 수 있다.
도 12a를 참조하면, 동작 1200에서 전자 장치(400)(예: 프로세서(410))는 터치 스크린(420) 상의 콘텐트에 대응하는 사용자 인터페이스를 표시할 수 있다.
동작 1201에서 전자 장치(400)(예: 프로세서(410))는 터치 스크린(420)의 적어도 일부가 수중에 위치하는지를 판단하여 터치 스크린(420)의 적어도 일부가 수중에 위치하는 것으로 판단되면 동작 1202를 수행하고, 터치 스크린(420)의 적어도 일부가 수중에 위치하지 않는 것으로 판단되면 동작 1203을 수행할 수 있다. 예를 들어, 전자 장치(400)(예: 프로세서(410))는 터치 스크린(420)의 전체 영역 또는 임계 크기 이상의 영역에서 터치 입력이 감지되면 터치 스크린(420)의 적어도 일부가 수중에 위치하는 것으로 판단할 수 있다.
동작 1202에서 전자 장치(400)(예: 프로세서(410))는 센서(440)를 통해서 제어 가능하도록 사용자 인터페이스를 터치 스크린(420)의 적어도 일부 영역을 통해 표시할 수 있다. 예를 들어, 전자 장치(400)(예: 프로세서(410))는 수중에서 사용할 수 있는 적어도 하나의 어플리케이션에 관련된 실행 아이콘을 표시할 수 있다.
동작 1203에서 전자 장치(400)(예: 프로세서(410))는 일반적인 동작을 수행할 수 있다. 예를 들어, 일반적인 동작은 전자 장치(400)가 일반 모드로 동작하는 경우를 포함할 수 있다.
도 12b를 참조하면, 동작 1210에서 전자 장치(400)(예: 프로세서(410))는 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 표시할 수 있다. 예를 들어, 제1 사용자 인터페이스는 터치 스크린(420) 상의 콘텐트(예: 적어도 하나의 어플리케이션 또는 어플리케이션 실행 화면 등)에 대응하는 그래픽 객체를 포함할 수 있다.
동작 1211에서 전자 장치(400)(예: 프로세서(410))는 전자 장치(400)의 적어도 일부가 수중에 위치하는지 판단하여 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 동작 1212를 수행하고, 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되지 않으면 동작 1210에서 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 표시할 수 있다.
동작 1212에서 전자 장치(400)(예: 프로세서(410))는 제2 센서(423)에 대응하는 제2 사용자 인터페이스를 표시할 수 있다. 예를 들어, 제2 사용자 인터페이스는 터치 스크린(420) 상의 콘텐트의 일부에 대응하는 그래픽 객체를 포함할 수 있다.
다양한 실시 예에 따르면, 터치 스크린(420), 상기 터치 스크린(420)의 적어도 일부 영역에 형성된 센서(440) 및 프로세서(410)를 포함하는 전자 장치(400)에서, 상기 프로세서(410)를 이용하여, 상기 터치 스크린(420) 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린(420)을 통해 제어 가능하도록 표시하는 동작; 및 상기 터치 스크린(420)을 통해 상기 터치 스크린(420)의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 센서(440)를 통해 제어 가능하도록 상기 터치 스크린(420)의 적어도 일부 영역을 통해 표시하는 동작을 포함할 수 있다.
도 13은 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 나타내는 흐름도를 도시한다.
다양한 실시 예에 따르면, 동작 1300 내지 동작 1306은 전자 장치(101, 102, 104, 201, 400), 서버(106), 프로세서(120, 210 또는 410) 및 프로그램 모듈(310) 중 어느 하나를 통해서 실행될 수 있다.
도 13을 참조하면, 동작 1300에서 전자 장치(400)(예: 프로세서(410))는 제1 센서(422)를 활성화할 수 있다. 예를 들어, 전자 장치(400)(예: 프로세서(410))는 일반 모드에서 제1 센서(422)를 이용하여 제1 입력을 감지할 수 있다. 상기 전자 장치(400)(예: 프로세서(410))는 지문 인증을 위한 요청에 따라 제2 센서(423)를 활성화하고, 활성화된 제2 센서(423)를 이용하여 지문 인증을 수행한 후 지문 인증이 완료되면 제2 센서(423)를 비활성화할 수 있다. 이는 선택적으로 수행되며, 제2 센서(423)를 활성화 상태로 유지할 수도 있다.
동작 1301에서 전자 장치(400)(예: 프로세서(410))는 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 제공할 수 있다.
동작 1302에서 전자 장치(400)(예: 프로세서(410))는 전자 장치(400)의 적어도 일부가 수중에 위치하는지를 판단하여 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 동작 1303을 수행하고, 전자 장치(400)의 적어도 일부가 수중에 위치하지 않는 것으로 판단되면 동작 1306을 수행하여 일반적인 동작을 수행할 수 있다(또는 일반 모드로 동작할 수 있다).
동작 1303에서 전자 장치(400)(예: 프로세서(410))는 제1 센서(422)를 비활성화할 수 있다. 다양한 실시 예에 따르면, 동작 1303은 선택적으로 수행될 수 있다.
동작 1304에서 전자 장치(400)(예: 프로세서(410))는 제2 센서(423)를 활성화할 수 있다. 예를 들어, 전자 장치(400)(예: 프로세서(410))는 수중 모드로 진입(또는 변경)할 수 있다.
동작 1305에서 전자 장치(400)(예: 프로세서(410))는 제2 센서(423)에 대응하는 제2 사용자 인터페이스를 제공할 수 있다. 예를 들어, 제2 사용자 인터페이스는 복수의 어플리케이션들 중 수중 모드에서 사용할 수 있는 적어도 하나의 어플리케이션에 대응하는 실행/단축 아이콘 또는 어플리케이션 실행 화면에 포함된 아이콘, 컨트롤러, 스크롤, 메뉴 등을 포함할 수 있다.
도 14는 다양한 실시 예에 따라 전자 장치의 위치에 따라 사용자 인터페이스를 제공하기 위한 방법을 나타내는 흐름도를 도시한다.
다양한 실시 예에 따르면, 동작 1400 내지 동작 1405는 전자 장치(101, 102, 104, 201, 400), 서버(106), 프로세서(120, 210 또는 410) 및 프로그램 모듈(310) 중 어느 하나를 통해서 실행될 수 있다.
도 14를 참조하면, 동작 1400에서 전자 장치(400)(예: 프로세서(410))는 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 제공할 수 있다. 예를 들어, 전자 장치(400)(예: 프로세서(410))는 일반 모드로 동작할 수 있다.
동작 1401에서 전자 장치(400)(예: 프로세서(410))는 전자 장치(400)의 적어도 일부가 수중에 위치하는지를 판단하여 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되면 동작 1402를 수행하고, 전자 장치(400)의 적어도 일부가 수중에 위치하는 것으로 판단되지 않으면 동작 1400에서 제1 센서(422)에 대응하는 제1 사용자 인터페이스를 제공할 수 있다.
동작 1402에서 전자 장치(400)(예: 프로세서(410))는 제2 센서(423)에 대응하는 제2 사용자 인터페이스를 제공할 수 있다.
동작 1403에서 전자 장치(400)(예: 프로세서(410))는 제2 센서(423)를 통해서 입력이 감지되는지를 판단하여 제2 센서(423)를 통해서 입력이 감지되는 것으로 판단되면 동작 1404를 수행하고, 제2 센서(423)를 통해서 입력이 감지되는 것으로 판단되지 않으면 동작 1400에서 제2 센서(423)를 통해서 입력이 감지되는지를 판단할 수 있다. 예를 들어, 입력은 하나의 지문 또는 복수의 지문들일 수 있다.
동작 1404에서 전자 장치(400)(예: 프로세서(410))는 감지된 입력이 유효한지를 판단하여 감지된 입력이 유효하면 동작 1405를 수행하고, 감지된 입력이 유효하지 않으면 동작 1400에서 제2 센서(423)를 통해서 입력이 감지되는지를 판단할 수 있다. 예를 들어, 전자 장치(400)(예: 프로세서(410))는 지정된 제1 시간 보다 짧은 시간 동안 지문이 감지되면 유효하지 않은 입력으로 판단할 수 있다. 제1 시간 이상 동안 지문이 감지되면 전자 장치(400)(예: 프로세서(410))는 감지된 지문을 유효한 입력으로 판단할 수 있다.
동작 1405에서 전자 장치(400)(예: 프로세서(410))는 감지된 입력에 대응하는 전자 장치(400)의 기능을 수행할 수 있다.
다양한 실시 예에 따르면, 본 발명은 전자 장치의 적어도 일부가 수중에 위치하는 경우 터치 센서 이외의 다른 센서에 대응하는 사용자 인터페이스를 이용하여 전자 장치를 제어할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims (15)

  1. 터치 스크린;
    상기 터치 스크린의 적어도 일부 영역에 형성된 센서; 및
    프로세서를 포함하고, 상기 프로세서는,
    상기 터치 스크린 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린을 통해 제어 가능하도록 표시하고; 및
    상기 터치 스크린을 통해 상기 터치 스크린의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 센서를 통해 제어 가능하도록 상기 터치 스크린의 적어도 일부 영역을 통해 표시하도록 설정된 전자장치.
  2. 제1항에 있어서, 상기 프로세서는,
    상기 터치 스크린을 이용하여 상기 전자 장치의 적어도 일부가 상기 수중에 위치하는지를 판단하도록 설정된 전자 장치.
  3. 제2항에 있어서, 상기 프로세서는,
    상기 터치 스크린에 대응하는 영역 중 임계 넓이 이상의 영역에서 임계 값 이상의 정전 용량 값을 가지는 제1 입력이 감지되면 상기 전자 장치가 상기 수중에 위치하는 것으로 판단하도록 설정된 전자 장치.
  4. 제1항에 있어서, 상기 센서에 대응하는 영역의 크기는,
    상기 터치 스크린에 대응하는 영역의 크기보다 작게 설정된 전자 장치.
  5. 제1항에 있어서, 상기 센서에 대응하는 영역은,
    상기 터치 스크린에 대응하는 영역의 적어도 일부에 대응하도록 설정된 전자 장치.
  6. 제1항에 있어서, 상기 사용자 인터페이스는,
    상기 콘텐트의 적어도 일부에 대응하는 그래픽 객체를 포함하도록 설정된 전자 장치.
  7. 제1항에 있어서, 상기 프로세서는,
    상기 적어도 일부 영역에 제2 입력이 감지되면 상기 감지된 제2 입력에 대응하는 기능을 수행하도록 설정된 전자 장치.
  8. 제1항에 있어서, 상기 터치 스크린은,
    정전식 터치 센서를 포함하도록 설정된 전자 장치.
  9. 제1항에 있어서, 상기 센서는,
    지문 센서 또는 광 센서를 포함하도록 설정된 전자 장치.
  10. 제9항에 있어서, 상기 지문 센서는,
    광학식 센서 및 초음파식 센서 중 적어도 하나를 포함하도록 설정된 전자 장치.
  11. 전자 장치 제어 방법을 실행하기 위한 명령어들이 저장된 비 일시적 기록 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은,
    터치 스크린 상의 콘텐트에 대응하는 사용자 인터페이스를 상기 터치 스크린을 통해 제어 가능하도록 표시하는 동작; 및
    상기 터치 스크린을 통해 상기 터치 스크린의 적어도 일부가 수중(under water)에 위치하는 것으로 확인되는 경우, 상기 사용자 인터페이스를 상기 터치 스크린의 적어도 일부 영역에 형성된 센서를 통해 제어 가능하도록 상기 터치 스크린의 적어도 일부 영역을 통해 표시하는 동작을 포함하는 방법을 수행하는 프로그램이 기록된 비 일시적 기록 매체.
  12. 제11항에 있어서, 상기 전자 장치가 수중에 위치하는지를 판단하는 동작은,
    상기 터치 스크린을 이용하여 상기 전자 장치의 적어도 일부가 수중에 위치하는지를 판단하는 동작을 포함하는 비 일시적 기록 매체.
  13. 제12항에 있어서,
    상기 터치 스크린에 대응하는 영역 중 임계 넓이 이상의 영역에서 임계 값 이상의 정전 용량 값을 가지는 제1 입력이 감지되면 상기 전자 장치의 적어도 일부가 상기 수중에 위치하는 것으로 판단하는 동작을 포함하는 비 일시적 기록 매체.
  14. 제11항에 있어서, 상기 센서에 대응하는 영역의 크기는,
    상기 터치 스크린에 대응하는 영역의 크기보다 작게 설정된 비 일시적 기록 매체.
  15. 제14항에 있어서, 상기 센서에 대응하는 영역은,
    상기 터치 스크린에 대응하는 영역에 대한 적어도 일부에 대응하도록 설정된 비 일시적 기록 매체.
PCT/KR2018/000618 2017-01-13 2018-01-12 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법 WO2018131932A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/476,699 US20190324640A1 (en) 2017-01-13 2018-01-12 Electronic device for providing user interface according to electronic device usage environment and method therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020170006435A KR20180083764A (ko) 2017-01-13 2017-01-13 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
KR10-2017-0006435 2017-01-13

Publications (1)

Publication Number Publication Date
WO2018131932A1 true WO2018131932A1 (ko) 2018-07-19

Family

ID=62840104

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/000618 WO2018131932A1 (ko) 2017-01-13 2018-01-12 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법

Country Status (3)

Country Link
US (1) US20190324640A1 (ko)
KR (1) KR20180083764A (ko)
WO (1) WO2018131932A1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2732848C1 (ru) * 2019-08-30 2020-09-23 Евгений Борисович Александров Устройство ввода и отображения информации для использования под водой
WO2020197441A1 (ru) * 2019-03-28 2020-10-01 Евгений Борисович АЛЕКСАНДРОВ Устройство ввода и отображения информации для использования под водой (варианты)
WO2021045837A1 (en) * 2019-09-04 2021-03-11 Qualcomm Incorporated Control of a user device under wet conditions

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108664177B (zh) * 2017-03-29 2021-11-12 上海耕岩智能科技有限公司 一种基于指纹识别开启应用的方法和装置
US10969941B2 (en) * 2018-09-28 2021-04-06 Apple Inc. Underwater user interface
KR20200100918A (ko) * 2019-02-19 2020-08-27 삼성전자주식회사 카메라를 이용하는 어플리케이션을 통해 다양한 기능을 제공하는 전자 장치 및 그의 동작 방법
US20230343130A1 (en) * 2019-09-24 2023-10-26 Obsidian Sensors, Inc. In-display fingerprint sensing system
US20230401886A1 (en) * 2022-06-09 2023-12-14 Qualcomm Incorporated Touch sensing in non-capacitive touch modes

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012027701A (ja) * 2010-07-23 2012-02-09 Sony Corp ユーザインターフェース装置およびユーザインターフェース方法
JP2013258478A (ja) * 2012-06-11 2013-12-26 Nec Casio Mobile Communications Ltd 携帯電子機器、入力操作制御方法およびプログラム
US20160156837A1 (en) * 2013-12-24 2016-06-02 Sony Corporation Alternative camera function control
JP2016122990A (ja) * 2014-12-25 2016-07-07 京セラ株式会社 携帯端末、制御プログラムおよび制御方法
JP2016212758A (ja) * 2015-05-12 2016-12-15 京セラ株式会社 電子機器、制御方法及び制御プログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012027701A (ja) * 2010-07-23 2012-02-09 Sony Corp ユーザインターフェース装置およびユーザインターフェース方法
JP2013258478A (ja) * 2012-06-11 2013-12-26 Nec Casio Mobile Communications Ltd 携帯電子機器、入力操作制御方法およびプログラム
US20160156837A1 (en) * 2013-12-24 2016-06-02 Sony Corporation Alternative camera function control
JP2016122990A (ja) * 2014-12-25 2016-07-07 京セラ株式会社 携帯端末、制御プログラムおよび制御方法
JP2016212758A (ja) * 2015-05-12 2016-12-15 京セラ株式会社 電子機器、制御方法及び制御プログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020197441A1 (ru) * 2019-03-28 2020-10-01 Евгений Борисович АЛЕКСАНДРОВ Устройство ввода и отображения информации для использования под водой (варианты)
RU2732848C1 (ru) * 2019-08-30 2020-09-23 Евгений Борисович Александров Устройство ввода и отображения информации для использования под водой
WO2021045837A1 (en) * 2019-09-04 2021-03-11 Qualcomm Incorporated Control of a user device under wet conditions
US11394819B2 (en) 2019-09-04 2022-07-19 Qualcomm Incorporated Control of a user device under wet conditions
US11695865B2 (en) 2019-09-04 2023-07-04 Qualcomm Incorporated Control of a user device under wet conditions

Also Published As

Publication number Publication date
US20190324640A1 (en) 2019-10-24
KR20180083764A (ko) 2018-07-23

Similar Documents

Publication Publication Date Title
WO2018131932A1 (ko) 전자 장치의 사용 환경에 따른 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
WO2018186580A1 (ko) 디스플레이로 영상 데이터가 전송되지 않는 구간에 생체 정보를 획득하기 위한 방법 및 전자 장치
WO2018143673A1 (ko) 전자 장치 및 전자 장치의 지문 인식 방법
WO2018056576A1 (en) Apparatus and method for receiving fingerprint information through guide
WO2017179905A1 (ko) 플렉서블 디바이스 및 그 동작 방법
WO2017061762A1 (ko) 복수의 디스플레이를 구비한 전자장치 및 그 제어 방법
WO2018026202A1 (ko) 펜과 관련된 정보를 판단하는 터치 감지 장치 및 그 제어 방법과 펜
WO2018080023A1 (ko) 전자 장치 및 그의 동작을 제어하는 방법
WO2017142195A1 (ko) 전자 장치 및 그 어플리케이션 전환 및 정렬 방법
WO2018155928A1 (ko) 복수의 생체 센서를 이용하여 인증을 수행하기 위한 전자 장치 및 그의 동작 방법
WO2018155851A1 (ko) 디스플레이에 통합된 생체 센서를 포함하는 전자장치
WO2018143643A1 (ko) 전자장치 및 이를 사용하여 디스플레이에 연동된 생체 센서의 제어 방법
WO2018128509A1 (en) Electronic device and method for sensing fingerprints
WO2016209004A1 (ko) 전자 장치의 터치 센싱 모듈 제어 방법 및 전자 장치, 전자 장치에 구비된 터치 센싱 모듈의 동작 방법 및 터치 센싱 모듈
WO2016093419A1 (ko) 시선 캘리브레이션 방법 및 그 전자 장치
WO2018143566A1 (ko) 지문 입력을 위한 그래픽 오브젝트를 표시하는 방법 및 전자 장치
WO2017131401A1 (ko) 전자 장치 및 전자 장치의 사용자 인터페이스 제어 방법
WO2018048212A1 (en) Method for protecting personal information and electronic device thereof
WO2017026821A1 (ko) 전자 장치 및 전자 장치의 입력 방법
WO2018021726A1 (ko) 카메라 모듈의 활성화를 제어하기 위한 전자 장치 및 방법
WO2017175962A1 (ko) 화면을 표시하는 전자 장치 및 그 제어 방법
WO2016163826A1 (en) Method and apparatus for operating sensor of electronic device
WO2018128460A1 (ko) 화면을 표시하기 위한 방법 및 그 전자 장치
WO2018199432A1 (ko) 객체에 대응하는 콘텐트를 출력하기 위한 방법 및 그 전자 장치
WO2018016722A2 (ko) 압력 입력을 이용한 사용자 인터페이스 제공 방법 및 이를 구현한 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18738494

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18738494

Country of ref document: EP

Kind code of ref document: A1