WO2017209560A1 - 화면 출력 방법 및 이를 지원하는 전자 장치 - Google Patents

화면 출력 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
WO2017209560A1
WO2017209560A1 PCT/KR2017/005782 KR2017005782W WO2017209560A1 WO 2017209560 A1 WO2017209560 A1 WO 2017209560A1 KR 2017005782 W KR2017005782 W KR 2017005782W WO 2017209560 A1 WO2017209560 A1 WO 2017209560A1
Authority
WO
WIPO (PCT)
Prior art keywords
electronic device
image
display
processor
output
Prior art date
Application number
PCT/KR2017/005782
Other languages
English (en)
French (fr)
Inventor
신정우
이지영
고정원
김국환
김다훤
김동균
김영미
김영성
박명수
박정식
여정희
윤혜미
이경준
이현율
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to EP17807053.8A priority Critical patent/EP3457268B1/en
Priority to US16/306,763 priority patent/US10990196B2/en
Publication of WO2017209560A1 publication Critical patent/WO2017209560A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/40—Analysis of texture
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/97—Determining parameters from multiple pictures
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10004—Still image; Photographic image

Definitions

  • Various embodiments of the present disclosure relate to a method of outputting content through a screen in an electronic device and an electronic device supporting the same.
  • Electronic devices such as smartphones and tablet PCs may perform various functions such as wireless data communication, video playback, and Internet search.
  • the electronic device may output various screens according to the operation. For example, the electronic device may output a home screen, a lock screen, an application execution screen, and the like.
  • the electronic device operates in such a manner that a home screen, a lock screen, a screen off state, etc. do not change in response to a surrounding environment, and a screen set by a user or a screen set by the electronic device is output.
  • the electronic device may not provide a user with various user experiences according to a surrounding situation.
  • an electronic device may include a camera module capable of capturing an image, a sensor module capable of recognizing a signal relating to an electronic device or an external object, a first display and a second display capable of outputting content, and a memory. And a processor electrically connected to the camera module, the first display, the second display, and the memory, wherein the processor determines whether the electronic device enters a first state and, when entering the first state, The camera module may photograph a source image and generate a first output image output to the first display or a second output image output to the second display based on the source image.
  • a screen output method and an electronic device supporting the same recognize a surrounding environment by using a camera module or a sensor module, and automatically display an image that is the same as or similar to the surrounding color or pattern. Can be output to
  • a screen output method and an electronic device supporting the same may provide an emotional user experience by outputting a background screen, a pop-up screen, etc. to various screens that match the surrounding environment.
  • FIG. 1 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 2 is a flowchart illustrating a screen display method using a camera module according to various embodiments of the present disclosure.
  • FIG. 3 is a screen example illustrating a screen output method according to various embodiments of the present disclosure.
  • FIG. 4 illustrates an example of a screen using a source image as a background image of a first display according to various embodiments of the present disclosure.
  • FIG. 5 is a flowchart illustrating a method of recognizing a plurality of states of an electronic device and outputting a screen according to various embodiments of the present disclosure.
  • FIG. 6 is an exemplary diagram of extracting from a plurality of states according to various embodiments of the present disclosure.
  • FIG. 7 is a diagram illustrating an example of applying a feature point extracted from a source image according to various embodiments of the present disclosure.
  • FIG. 8 is a flowchart illustrating a screen output method using an internal image according to various embodiments of the present disclosure.
  • FIG. 9 is a flowchart illustrating a screen output method using an external image according to various embodiments of the present disclosure.
  • FIG. 10 illustrates an example of applying a second output image to a second display according to various embodiments of the present disclosure.
  • 11A and 11B are diagrams illustrating a dynamic change of first and second output images according to various embodiments of the present disclosure.
  • FIG. 12 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the expression “device configured to” may mean that the device “can” together with other devices or components.
  • processor configured (or configured to) perform A, B, and C may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general purpose processor (eg, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may be, for example, a smartphone, a tablet PC, a mobile phone, a video phone, an e-book reader, a desktop PC, a laptop PC, a netbook computer, a workstation, a server, a PDA, a PMP ( portable multimedia player), an MP3 player, a medical device, a camera, or a wearable device.
  • Wearable devices may be accessory (e.g. watches, rings, bracelets, anklets, necklaces, eyeglasses, contact lenses, or head-mounted-devices (HMDs), textiles or clothing integrated (e.g.
  • the electronic device may be, for example, a television, a digital video disk player, audio , Refrigerator, air conditioner, cleaner, oven, microwave, washing machine, air purifier, set-top box, home automation control panel, security control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game consoles (for example: Xbox TM, PlayStation TM), may include electronic dictionary, at least one of the electronic key, a camcorder, or a digital photo frame.
  • a body attachment type eg, a skin pad or a tattoo
  • bio implantable circuit e.g., the electronic device may be, for example, a television, a digital video disk player, audio , Refrigerator, air conditioner, cleaner, oven, microwave, washing machine, air purifier, set-top box, home automation control panel, security control panel, media box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game consoles (for example: Xbox TM, PlayStation TM), may
  • the electronic device may include various medical devices (eg, various portable medical measuring devices (such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Computed tomography (CT), cameras or ultrasounds), navigation devices, global navigation satellite systems (GNSS), event data recorders (EDRs), flight data recorders (FDRs), automotive infotainment devices, ship electronics (E.g.
  • various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure monitors, or body temperature meters
  • MRA magnetic resonance angiography
  • MRI magnetic resonance imaging
  • CT Computed tomography
  • GNSS global navigation satellite systems
  • EDRs event data recorders
  • FDRs flight data recorders
  • automotive infotainment devices ship electronics
  • an electronic device may be a piece of furniture, a building / structure or a car, an electronic board, an electronic signature receiving device, a projector, or various measurement devices (eg, water, electricity, Gas, or a radio wave measuring instrument).
  • the electronic device may be flexible or a combination of two or more of the aforementioned various devices.
  • Electronic devices according to embodiments of the present disclosure are not limited to the above-described devices.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication interface 170. According to an embodiment of the present disclosure, the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include circuitry that connects the components 110-170 to each other and transfers communication (eg, control messages or data) between the components.
  • the processor 120 may include one or more of a central processing unit, an application processor, or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the processor 120 may recognize a change around the electronic device 101 by using the camera module 180 or the sensor module 190.
  • the processor 120 may change the content output through the display 160 based on the recognized information.
  • the processor 120 may capture an image of the bottom surface on which the electronic device 101 is placed.
  • the processor 120 may extract a representative color or a representative pattern from the image of the bottom surface, and change the background image output from the display 160 to be the same as a feature point (eg, color or pattern) of the bottom surface. Additional information regarding a screen output method of changing content based on a change in environment around the electronic device 101 may be provided through FIGS. 2 through 11.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may include, for example, a kernel 141, middleware 143, an application programming interface (API) 145, an application program (or “application”) 147, or the like.
  • kernel 141, middleware 143, or API 145 may be referred to as an operating system.
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Prioritize and process the one or more work requests.
  • the API 145 is an interface for the application 147 to control functions provided by the kernel 141 or the middleware 143.
  • the API 145 may include at least the following: file control, window control, image processing, or character control. It can contain one interface or function (eg command).
  • the input / output interface 150 may transmit, for example, a command or data input from a user or another external device to other component (s) of the electronic device 101, or other components of the electronic device 101 ( Commands or data received from the device) can be output to the user or other external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, or a microelectromechanical system (MEMS) display, or an electronic paper display. It may include.
  • the display 160 may display, for example, various types of content (eg, text, images, videos, icons, and / or symbols, etc.) to the user.
  • the display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the display 160 may include a first display 161 and a second display 162.
  • the first display 161 may be a main display disposed on a first surface of the electronic device 101
  • the second display 162 may be a sub display disposed on a surface different from the first surface. It may be an edge display, a side display, or a rear display.
  • the first display 161 and the second display 162 may be set to output different contents.
  • the first display 161 may play a video
  • the second display 162 may play a button (eg, pause playback, fast forward, rewind, etc.) controlling the video of the electronic device 101. I can display it.
  • the first display 161 and the second display 162 may output an image associated with a source image collected through the camera module 180.
  • the first display 161 may output a first image obtained by processing the source image using the first filter
  • the second display 162 may process the source image using the second filter.
  • One second image can be output. Additional information regarding the output method of the first display 161 and the second display 162 may be provided through FIGS. 2 to 11.
  • the first display 161 and the second display 162 may be implemented in different areas on one display panel.
  • the first display 161 may be a front area of the electronic device 101
  • the second display 162 may be an edge area or a side area of the electronic device 101.
  • the first display 161 and the second display 162 may be implemented on the display panel.
  • the first display 161 may be implemented through the front display panel of the electronic device 101
  • the second display 162 may be implemented through the rear display panel of the electronic device 101.
  • the present invention is not limited thereto.
  • the present invention can be applied to various types of electronic devices including a plurality of displays.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • the wireless communication may be, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), wireless broadband (WiBro), or global network (GSM).
  • LTE Long Term Evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal mobile telecommunications system
  • WiBro wireless broadband
  • GSM global network
  • the wireless communication may include, for example, wireless fidelity (WiFi), Bluetooth, Bluetooth low power (BLE), Zigbee, near field communication (NFC), magnetic secure transmission, and radio. It may include at least one of a frequency (RF) or a body area network (BAN).
  • GNSS GNSS.
  • the GNSS may be, for example, a Global Positioning System (GPS), a Global Navigation Satellite System (Glonass), a Beidou Navigation Satellite System (hereinafter referred to as “Beidou”) or Galileo, the European global satellite-based navigation system.
  • GPS Global Positioning System
  • Glonass Global Navigation Satellite System
  • Beidou Beidou Navigation Satellite System
  • Wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a standard standard232 (RS-232), a power line communication, a plain old telephone service (POTS), and the like.
  • the network 162 may comprise a telecommunications network, for example at least one of a computer network (eg, LAN or WAN), the Internet, or a telephone network.
  • the camera module 180 may photograph the periphery of the electronic device 101.
  • the captured image may be used to change the output method of the content output through the display 160.
  • the camera module 180 may include an optical lens.
  • the camera module 180 may capture an image using a viewing angle between 180 degrees and 220 degrees.
  • the camera module 180 may be plural.
  • the camera module 180 may include a front camera disposed on the front surface of the electronic device 101 (the surface on which the display 160 is disposed) and a rear surface of the electronic device 101 (the surface on which the display 160 is disposed). On the opposite side).
  • the sensor module 190 may collect information about the electronic device 101 or a state around the electronic device 101.
  • the sensor module 190 may include a gyro sensor and an acceleration sensor, and may recognize a speed change, an acceleration change, and the like of the electronic device 101.
  • the sensor module 190 may recognize a distance between the surrounding object and the electronic device 101 by using an IR sensor or an HRM sensor.
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101. According to various embodiments of the present disclosure, all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106). According to this, when the electronic device 101 needs to perform a function or service automatically or by request, the electronic device 101 may instead execute or execute the function or service by itself, or at least some function associated therewith.
  • the other electronic device may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 101.
  • the electronic device 101 may provide the requested function or service by processing the received result as it is or additionally.
  • Cloud computing distributed computing, or client-server computing technology may be used.
  • FIG. 2 is a flowchart illustrating a screen display method using a camera module according to various embodiments of the present disclosure.
  • the processor 120 may determine whether the electronic device 101 enters a first state.
  • the first state may be a state in which the electronic device 101 stops without any movement.
  • the processor 120 may determine whether the electronic device 101 is stopped based on the measured value of the sensor module 190 (eg, a gyro sensor or an acceleration sensor).
  • the first state may be a state of moving at a speed in a specified range.
  • the first state may be a state in which the electronic device 101 moves to a state in which the electronic device 101 is seated in a vehicle.
  • the user may be in a state where the user lays down the electronic device 101 on the floor (for example, a desk or the ground).
  • the electronic device 101 may recognize the first state through the sensor module 190.
  • the first state is a stationary state, but is not limited thereto.
  • the first state may be variously determined by a user or by a setting of the electronic device 101 itself.
  • the processor 120 may photograph the source image using the camera module 180. According to an embodiment of the present disclosure, when the electronic device 101 enters the first state without an additional user input, the processor 120 may automatically execute the camera module 180 to capture a source image.
  • the source image may include an image of an object around the electronic device 101.
  • the processor 120 may acquire a source image by photographing a bottom surface (eg, a desk, a table, etc.) on which the electronic device 101 is placed, using a rear camera of the electronic device 101.
  • the processor 120 captures an external object (eg, a user's face, a ceiling, a sky, etc.) disposed on the front of the electronic device 101 using the front camera of the electronic device 101 to capture a source image.
  • an external object eg, a user's face, a ceiling, a sky, etc.
  • the processor 120 may collect the source image through continuous shooting. At least some of the plurality of continuously photographed images may be determined as source images. For example, the processor 120 may determine an image having high sharpness as a source image among a plurality of images. In another example, the processor 120 may determine a source image by combining a plurality of images.
  • the processor 120 may image the source image to extract feature points (eg, representative colors and representative patterns). For example, the processor 120 may extract the representative color and the representative pattern in the central region of the source image through filtering.
  • feature points eg, representative colors and representative patterns.
  • the processor 120 may photograph a source image using a preset filter.
  • the processor 120 may generate a source image composed of a specific color or pattern through a filter. In this case, the processor 120 may shorten the time for extracting feature points of the source image through image processing.
  • the processor 120 may change the content output to the first display 161 and the second display 162 based on the source image.
  • the processor 120 may generate a first output image output to the first display 161 or a second output image 162 output to the second display based on the source image.
  • the processor 120 may apply the first output image to the first display 161 and the second output image to the second display 162.
  • the processor 120 may output the first image obtained by processing the source image using the first filter to the first display 161, and the first image processed by the source image using the second filter. 2 images may be output to the second display 162.
  • the processor 120 may change a background image of the home screen, the lock screen, and the like displayed on the first display 161 by using the extracted representative color, and immediately display the second display 162. You can change the color of the shortcut icon.
  • the processor 120 applies a pattern extracted from a source image to a background image of a home screen, a lock screen, an AOD screen, etc. displayed on the first display 161, and then applies the pattern extracted from the source image to the second display 162.
  • the displayed button can be changed to the extracted pattern.
  • the processor 120 may include at least a portion of the content output on the first display 161 and the second display 162 in the same pattern and color of the bottom surface on which the electronic device 101 is placed. Similar). In this way, the electronic device 101 may provide an interactive user interface in which contents on the screen change in response to the surrounding environment.
  • the processor 120 may change an output image (hereinafter, referred to as an output image) based on information collected by the sensor module 190.
  • the output image may be generated based on the representative color of the source image, and the output image may be output by changing the brightness of the output image based on the value recognized by the illuminance sensor.
  • the processor 120 may periodically measure the brightness of the surroundings using the illuminance sensor and change the brightness of the output image according to the measured value.
  • the processor 120 may store the generated output image as a separate file.
  • the output image may be stored in the memory 160 and used in the album app.
  • the user can share the generated output image to SNS or use it as a background image.
  • the processor 120 may output the content displayed on the first display 161 and the second display 162 in combination with the color or pattern of the source image. For example, when the background image of the lock screen of the first display 161 is changed to the first color, which is a representative color of the source image, the processor 120 may remove text or icons such as date information, time information, and weather information.
  • the second color which is a complementary color to one color, may be displayed to be changed to be easily seen by the user's eyes.
  • 3 is a screen example illustrating a screen output method according to various embodiments of the present disclosure. 3 illustrates an example in which the electronic device 101 is stopped on the bottom surface, but is not limited thereto.
  • the electronic device 101 may be in a stationary state in which it does not move while being placed on the bottom surface 310 (eg, a desk, a table, etc.).
  • the bottom surface 310 may have an original color or pattern.
  • the first display 161a may display content that is not related to the bottom surface 310 (eg, a home screen or a lock). A screen, an app execution screen, an AOD screen, etc.) or a state in which there is no separate output (eg, a screen off state).
  • the first display 161a may be in a state of outputting a background image set by a user or a background image set by the electronic device 101.
  • the second display 162a may also output a content (eg, an app execution icon, a shortcut icon, a touch button, etc.) irrelevant to the bottom surface 310 or may be in a state in which there is no separate output (eg, a screen off state).
  • a content eg, an app execution icon, a shortcut icon, a touch button, etc.
  • the processor 120 may photograph the bottom surface 310 using the camera module 180 when the electronic device 101 maintains a stationary state for a predetermined time (for example, 0.5 second).
  • a predetermined time for example, 0.5 second.
  • the processor 120 may use a rear camera (not shown, a camera mounted on a surface opposite to a surface on which the first display 161a is mounted), and the bottom surface 310 on which the electronic device 101 is placed. Can be taken to obtain a source image.
  • the processor 120 may photograph the source image by operating the flash.
  • the processor 120 may extract a feature point (for example, a representative color or a pattern) from the source image and generate an output image based on the extracted feature point.
  • the processor 120 may not output the source image captured on the first display 161a in real time.
  • the first display 161a may continuously maintain an existing state (eg, a state in which a home screen is displayed, a screen off state, and a lock screen state). The user may not be aware or may not be interested in the process in which the source image is taken.
  • the processor 120 may collect the source image through continuous shooting.
  • the processor 120 may increase accuracy of representative color extraction and pattern extraction by using the plurality of images using the plurality of images.
  • the processor 120 may capture a source image by using the front camera 180a.
  • the front camera 180a may photograph an external object (eg, a user's face, a ceiling, a sky, etc.) disposed on the front of the electronic device 101 and use it as a source image.
  • an external object eg, a user's face, a ceiling, a sky, etc.
  • the first output image generated using the source image may be output to the first display 161b.
  • a color or a pattern identical to (or similar to) a color or a pattern included in the bottom surface 310 may be displayed on the first display 161b.
  • the second output image generated using the source image may be output to the second display 162b.
  • the color or pattern that is the same as (or similar to) the color or pattern included in the bottom surface 310 may be displayed on the second display 162b.
  • the electronic device 101 may provide a user experience in which the first display 161b and the second display 162b are automatically changed to match the surrounding environment.
  • the processor 120 may output not only the background image but also other contents displayed on the first display 161c or the second display 162c in combination with the color or pattern of the source image. .
  • the processor 120 may change an output method of text or an icon output on the first display 161c or the second display 162b in consideration of the color or pattern of the bottom surface 310.
  • the color of the text or icon may be output in a color (for example, complementary color) that contrasts with the background color, or the text or icon may be output to have the same pattern as the background pattern.
  • 4 illustrates an example of a screen using a source image as a background image of a first display according to various embodiments of the present disclosure. 4 is illustrative and is not limited thereto.
  • the processor 120 may change the background image 410 of the home screen by using feature points extracted from the source image (eg, representative color, representative pattern, etc.).
  • the processor 120 may output the background image 410 of the home screen in the same form or matched with the desk or table on which the electronic device 101 is placed. have.
  • the processor 120 may increase the visibility by changing the color of the text or icon displayed on the home screen to a color contrasted with the color of the changed background image 410.
  • the processor 120 may change the background image 420 of the lock screen using a feature point (eg, representative color, representative pattern, etc.) extracted from the source image.
  • the processor 120 may increase the visibility by outputting a notification display, a weather display, etc. displayed on the lock screen in a color or pattern that contrasts with the color of the background image 420.
  • the processor 120 may change the background image 430 of the pop-up window or the notification window by using feature points extracted from the source image (eg, representative color, representative pattern, etc.).
  • the processor 120 may extract a color or pattern of the desk or table while the screen is off.
  • a pop-up window or a notification window is output according to the execution of an application inside the electronic device 101 (for example, receiving a message, receiving a call, or a schedule notification)
  • the processor 120 may have a background that is the same as the color or pattern of the desk or table.
  • a popup window or a notification window may be output.
  • FIG. 5 is a flowchart illustrating a method of recognizing a plurality of states of an electronic device and outputting a screen according to various embodiments of the present disclosure.
  • the processor 120 may determine whether the electronic device 101 is in a first state by using the sensor module 180.
  • the first state may be a state in which the electronic device 101 moves below a specified speed or below a specified acceleration, or a state in which a distance to an external object is within a preset range.
  • the processor 120 may determine the electronic device 101 based on at least one of a moving speed of the electronic device 101 and a distance between the electronic device 101 and an external object measured by the sensor module 190. May determine whether to enter the first state.
  • the processor 120 may measure the moving speed of the electronic device 101 measured using a gyro sensor or an acceleration sensor to be equal to or less than a first threshold value (eg, 10 cm / s), and may use an IR sensor (or HRM sensor).
  • a first threshold value eg, 10 cm / s
  • HRM sensor e.g., HRM sensor
  • the processor 120 may acquire a source image by capturing the periphery (eg, bottom) of the electronic device 101 using the camera module 180 in the first state.
  • the captured source image may be temporarily stored in a buffer and may not be confirmed in the album app.
  • the source image may not be displayed on the display 150 in real time, and the user may not recognize or be interested in photographing the source image.
  • the processor 120 may image the source image to extract a feature point (eg, representative color, representative pattern). For example, the processor 120 may extract the representative color and the representative pattern in the central region of the source image through filtering.
  • a feature point eg, representative color, representative pattern
  • the processor 120 may generate a first output image and a second output image based on the extracted feature points.
  • the first output image may be an image to be output through the first display 161
  • the second output image may be an image to be output through the second display 162.
  • the first output image can have the same color or pattern as the desk or table on which the electronic device 101 is placed
  • the second output image can have the same color or pattern as the desk or table or the touch button. It may be an image.
  • the first output image and the second output image may have the same pattern as the desk or table on which the electronic device 101 is placed and have a color (for example, complementary color) that contrasts with the color of the desk or table. have.
  • the processor 120 may store the generated output image in the graphic RAM of the display driving circuit.
  • the processor 120 may determine whether the electronic device 101 is in the second state.
  • the second state may be a state in which the electronic device 101 stops without any movement.
  • the processor 120 may determine whether the electronic device 101 is stopped based on the measured value of the sensor module 190 (eg, a gyro sensor or an acceleration sensor).
  • the processor 120 may apply the first output image to the first display 161 and the second output image to the second display 162 in the second state.
  • a background image such as a home screen or a lock screen of the first display 161 may be changed to an output image that is the same as (or similar to) a color or pattern of the surroundings.
  • An icon, a touch button, and the like of the second display 162 may be changed to an output image that is the same as (or similar to) the color or pattern of the surrounding.
  • the processor 120 may periodically recognize a change in the surrounding situation using a camera module, a sensor module, or the like in the second state.
  • the processor 120 may update the first output image or the second output image.
  • 6 is an exemplary diagram of extracting from a plurality of states according to various embodiments of the present disclosure. 6 is illustrative and is not limited thereto.
  • the processor 120 determines whether the electronic device 101 enters the first state.
  • the first state may be a state in which the electronic device 101 moves below a designated speed or a distance from the table 610 is within a preset range (for example, 20 cm).
  • the processor 120 may photograph the surrounding environment (eg, the bottom surface of the table 610) by using the camera module 180 (eg, a rear camera).
  • the camera module 180 eg, a rear camera
  • the processor 120 may image the source image to extract feature points (eg, representative colors and representative patterns). The processor 120 may generate a first output image and a second output image based on the extracted feature points.
  • feature points eg, representative colors and representative patterns
  • the processor 120 may calculate an RGB average value of all pixels constituting the source image, or calculate an RGB average value of some selected areas of the source image (for example, pixels within a range from a center point of the source image). Can be. In another example, the processor 120 may sample pixels constituting the source image to calculate an RGB average value.
  • the processor 120 may determine whether to enter the second state.
  • the second state may be a state in which the electronic device 101 stops without any movement.
  • the processor 120 may determine whether the electronic device 101 is stopped based on the measured value of the sensor module 190 (eg, a gyro sensor or an acceleration sensor).
  • the processor 120 may determine the electronic device 101. Can be determined as having entered a stationary state.
  • the processor 120 may apply the first output image and the second output image to the first display 161 and the second display 162.
  • the display 160 may output an image of a color or pattern that is the same as (or similar to) a color or pattern of the table 610.
  • 7 is a diagram illustrating an example of applying a feature point extracted from a source image according to various embodiments of the present disclosure. 7 is illustrative and is not limited thereto.
  • the first display 161 may output the same pattern as the bottom surface 710. .
  • the processor 160 may photograph the bottom surface 710 before or after the electronic device 101 is placed on the bottom surface 710 by using the rear camera.
  • the processor 160 may process the photographed image to extract a camouflage pattern and color.
  • the processor 160 may change the background image of the lock screen or always on (AOD) screen displayed on the first display 161 based on the extracted pattern and color.
  • the processor 160 processes the source image differently from the first output image output to the first display 161 to generate a second output image to be output to the second display 162. can do.
  • the processor 160 extends the source image in the lateral direction so that when the user looks at the electronic device 101 from the front, the camouflage pattern is output on the first display 161.
  • the second output image may be generated to be continuous with the first output image.
  • the generated second output image may be output through the second display 162.
  • the processor 120 may retake the source image to update the first output image and the second output image.
  • the processor 120 uses the camera module 180 to retrieve the source image again. You can shoot.
  • the processor 120 may change the first output image and the second output image by using the updated source image.
  • the processor 120 may update the output image by using the source image stored in the buffer before the movement. For example, when the moving range of the electronic device recognized by the sensor module (eg, a gyro sensor or an acceleration sensor) is within 5 cm, the processor 120 moves the source image stored in the buffer by a corresponding distance to move the feature point again. Can be extracted. The processor may generate and output the first output image and the second output image using the newly extracted feature points.
  • the sensor module eg, a gyro sensor or an acceleration sensor
  • FIG. 8 is a flowchart illustrating a screen output method using an internal image according to various embodiments of the present disclosure.
  • the processor 120 may display a source image in a first state (eg, a stop state, a state below a specified speed, a state disposed within a specified distance from a floor surface, etc.) in an electronic device 101. You can shoot.
  • a first state eg, a stop state, a state below a specified speed, a state disposed within a specified distance from a floor surface, etc.
  • the processor 120 may extract a feature point from the source image.
  • the processor 120 may extract the representative color and the representative pattern of the source image through filtering.
  • the processor 120 may compare the feature point of the image previously stored in the internal memory of the electronic device 101 based on the extracted feature point.
  • the processor 120 may store in advance information about a feature point (eg, representative color, representative pattern) for an image (eg, an image stored in an album app) (hereinafter, an internal image) stored in the memory 130.
  • the processor 120 may compare the feature point for the source image and the feature point for the internal image.
  • the processor 120 may determine a matching internal image based on the comparison. For example, the processor 120 may determine an internal image having the highest coincidence rate and the feature point with respect to the source image or having a coincidence ratio equal to or greater than a specified value.
  • the processor 120 may change the content displayed on the first display 161 and the second display 162 based on the source image or the determined internal image. For example, the processor 120 may combine the source image and the determined internal image and output the background image of the first display 161 and the second display 162. In another example, the processor 120 may partially change the determined internal image or extract a partial region and output the background image of the first display 161 and the second display 162.
  • FIG. 9 is a flowchart illustrating a screen output method using an external image according to various embodiments of the present disclosure.
  • operations of operations 910 and 920 may be the same as or similar to operations of operations 810 to 830 of FIG. 8.
  • the processor 120 may request an external image that matches the external device (eg, the server 106 of FIG. 1).
  • the processor 120 may transmit information about the extracted feature point to an external device and request to transmit a matched image.
  • the processor 120 may receive an external image with matching feature points from the external device.
  • the processor 120 may change the content displayed on the first display 161 and the second display 162 based on the source image or the received external image. For example, the processor 120 may combine the source image and the received external image and output the background image of the first display 161 and the second display 162. For another example, the processor 120 may partially change the received external image or extract a partial region and output the background image of the first display 161 and the second display 162.
  • 10 illustrates an example of applying a second output image to a second display according to various embodiments of the present disclosure.
  • 10 exemplarily illustrates a case in which the second display 162 is a left or right area of the electronic device 101, but is not limited thereto.
  • the processor 120 may change the second displays 162a and 162b to be the same as the surrounding color or pattern while the first display 161 is in the screen off state. For example, when the electronic device 101 is in a stationary state, the processor 120 may photograph surrounding lights using the front camera. The processor 120 may output a pattern similar to the illumination to the second displays 162a and 162b.
  • the image output to the second displays 162a and 162b may be changed in real time in response to sounds generated from the surroundings. For example, when there is an object generating sound on the left side of the electronic device 101, the image change of the second display 162a may be greater than the image change of the second display 162b.
  • the processor 120 may change the second displays 162a and 162b to be the same as the surrounding color or pattern while another image is output to the first display 161. For example, when the electronic device 101 is in a stopped state, the processor 120 outputs a video playback screen on the first display 161 and captures the image on the second display 162a or 162b using the front camera. The surrounding image may be output.
  • the processor 120 may output only one region according to a specified condition among the second displays 162a and 162b. For example, when there is an object that generates sound on the left side of the electronic device 101, the processor 120 outputs an image of the same pattern around the second display 162a, and the second display 162b. You can prevent the output of a separate image.
  • 11A and 11B are diagrams illustrating a dynamic change of first and second output images according to various embodiments of the present disclosure.
  • the first and second output images may be updated based on information collected through the camera module 180 or the sensor module 190.
  • 11 exemplarily illustrates a case in which an output image is updated based on a sound collected through a surrounding microphone, but is not limited thereto.
  • the brightness of the output image may be changed according to the brightness of the surroundings measured using the illumination sensor.
  • the processor 120 may output the first display 161 and the second displays 162a and 162b in the same or similar colors or patterns as the bottom surface 1110.
  • the processor 120 may recognize a direction of sound through a microphone when there is a first object that generates sound on the left side of the electronic device 101.
  • the processor 120 may output additional patterns that change in real time according to a pattern of sound generated from the first object in the left regions of the second display 162a and the first display 161.
  • the processor 120 may recognize the direction of the sound through a microphone.
  • the processor 120 may output additional patterns that change in real time according to a pattern of sound generated from the second object in the right regions of the second display 162b and the first display 161.
  • FIG. 12 is a block diagram of an electronic device 1201 according to various embodiments of the present disclosure.
  • the electronic device 1201 may include, for example, all or part of the electronic device 101 shown in FIG. 1.
  • the electronic device 1201 may include one or more processors (eg, an AP) 1212, a communication module 1220, a subscriber identification module 1224, a memory 1230, a sensor module 1240, an input device 1250, and a display. 1260, an interface 1270, an audio module 1280, a camera module 1291, a power management module 1295, a battery 1296, an indicator 1297, and a motor 1298.
  • the 1210 may operate an operating system or an application program to control a plurality of hardware or software components connected to the processor 1210, and may perform various data processing and operations.
  • the processor 1210 may further include a graphic processing unit (GPU) and / or an image signal processor. 1210 may include at least some of the components shown in FIG. 12 (eg, cellular module 1221). The processor 1210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into volatile memory, and store the resulting data in the nonvolatile memory. have.
  • a graphic processing unit GPU
  • an image signal processor may include at least some of the components shown in FIG. 12 (eg, cellular module 1221).
  • the processor 1210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into volatile memory, and store the resulting data in the nonvolatile memory. have.
  • the communication module 1220 may include, for example, a cellular module 1221, a WiFi module 1223, a Bluetooth module 1225, a GNSS module 1227, an NFC module 1228, and an RF module 1229. have.
  • the cellular module 1221 may provide, for example, a voice call, a video call, a text service, an internet service, or the like through a communication network.
  • the cellular module 1221 may perform identification and authentication of the electronic device 1201 in a communication network by using a subscriber identification module (eg, a SIM card) 1224.
  • a subscriber identification module eg, a SIM card
  • the cellular module 1221 may perform at least some of the functions that the processor 1210 may provide.
  • the cellular module 1221 may include a communication processor (CP).
  • CP communication processor
  • at least some (eg, two or more) of the cellular module 1221, the WiFi module 1223, the Bluetooth module 1225, the GNSS module 1227, or the NFC module 1228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 1229 may transmit / receive, for example, a communication signal (eg, an RF signal).
  • the RF module 1229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 1221, the WiFi module 1223, the Bluetooth module 1225, the GNSS module 1227, or the NFC module 1228 may transmit and receive an RF signal through a separate RF module.
  • Subscriber identification module 1224 may include, for example, a card or embedded SIM that includes a subscriber identification module, and may include unique identification information (eg, integrated circuit card identifier (ICCID)) or subscriber information (eg, IMSI). (international mobile subscriber identity)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 1230 may include, for example, an internal memory 1232 or an external memory 1234.
  • the internal memory 1232 may be, for example, volatile memory (for example, DRAM, SRAM, or SDRAM), nonvolatile memory (for example, one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM). It may include at least one of a flash memory, a hard drive, or a solid state drive (SSD)
  • the external memory 1234 may be a flash drive, for example, compact flash (CF), secure digital (SD). ), Micro-SD, Mini-SD, extreme digital (xD), multi-media card (MMC), memory stick, etc.
  • the external memory 1234 may be functionally connected with the electronic device 1201 through various interfaces. Or physically connected.
  • the sensor module 1240 may, for example, measure a physical quantity or detect an operation state of the electronic device 1201, and convert the measured or detected information into an electrical signal.
  • the sensor module 1240 is, for example, the gesture sensor 1240A, the gyro sensor 1240B, the barometric pressure sensor 1240C, the magnetic sensor 1240D, the acceleration sensor 1240E, the grip sensor 1240F, and the proximity sensor ( 1240G), color sensor (1240H) (e.g. red, green, blue) sensor, biometric sensor (1240I), temperature / humidity sensor (1240J), light sensor (1240K), or UV (ultra violet) ) May include at least one of the sensors 1240M.
  • the gesture sensor 1240A the gyro sensor 1240B, the barometric pressure sensor 1240C, the magnetic sensor 1240D, the acceleration sensor 1240E, the grip sensor 1240F, and the proximity sensor ( 1240G), color sensor (1240H) (e.g. red, green, blue) sensor, biometric sensor (1240I
  • sensor module 1240 may include, for example, an e-nose sensor, an electromyography (EMG) sensor, an electrocardiogram (EEG) sensor, an electrocardiogram (ECG) sensor, Infrared (IR) sensors, iris sensors and / or fingerprint sensors.
  • the sensor module 1240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 1201 further includes a processor configured to control the sensor module 1240 as part of or separately from the processor 1210, while the processor 1210 is in a sleep state. The sensor module 1240 may be controlled.
  • the input device 1250 may include, for example, a touch panel 1252, a (digital) pen sensor 1254, a key 1256, or an ultrasonic input device 1258.
  • the touch panel 1252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 1252 may further include a control circuit.
  • the touch panel 1252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 1254 may be, for example, part of a touch panel or may include a separate recognition sheet.
  • the key 1256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 1258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 1288) and check data corresponding to the detected ultrasonic waves.
  • Display 1260 may include panel 1262, hologram device 1264, projector 1266, and / or control circuitry to control them.
  • the panel 1262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 1262 may be configured with the touch panel 1252 and one or more modules.
  • the panel 1262 may include a pressure sensor (or force sensor) capable of measuring the intensity of pressure with respect to a user's touch.
  • the pressure sensor may be integrated with the touch panel 1252, or may be implemented with one or more sensors separate from the touch panel 1252.
  • the hologram device 1264 may show a stereoscopic image in the air by using interference of light.
  • the projector 1266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 1201.
  • the interface 1270 may include, for example, an HDMI 1272, a USB 1756, an optical interface 1276, or a D-subminiature 1278.
  • the interface 1270 may be included in, for example, the communication interface 170 illustrated in FIG. 1. Additionally or alternatively, interface 1270 may include, for example, a mobile high-definition link (MHL) interface, an SD card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. have.
  • MHL mobile high-definition link
  • MMC Secure Digital Cellularity
  • IrDA infrared data association
  • the audio module 1280 may bilaterally convert, for example, a sound and an electrical signal. At least some components of the audio module 1280 may be included in, for example, the input / output interface 145 illustrated in FIG. 1.
  • the audio module 1280 may process sound information input or output through, for example, a speaker 1282, a receiver 1284, an earphone 1286, a microphone 1288, or the like.
  • the camera module 1291 may be, for example, a device capable of capturing still images and moving images. According to an embodiment, the camera module 1291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • ISP image signal processor
  • the power management module 1295 may manage power of the electronic device 1201, for example.
  • the power management module 1295 may include a power management integrated circuit (PMIC), a charger IC, or a battery or a fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 1296, the voltage, the current, or the temperature during charging.
  • the battery 1296 may include, for example, a rechargeable cell and / or a solar cell.
  • the indicator 1297 may display a specific state of the electronic device 1201 or a portion thereof (for example, the processor 1210), for example, a booting state, a message state, or a charging state.
  • the motor 1298 may convert electrical signals into mechanical vibrations, and may generate vibrations or haptic effects.
  • the electronic device 1201 may be, for example, a mobile TV support device capable of processing media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM . : GPU).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM . : GPU mediaFlo TM .
  • Each of the components described in this document may be composed of one or more components, and the name of the corresponding component may vary according to the type of electronic device.
  • the electronic device eg, the electronic device 1201) may include some components, omit additional components, or combine some of the components to form a single object. It is possible to perform the same function of the previous corresponding
  • the program module 1310 may include an operating system and / or various applications running on the operating system for controlling resources related to the electronic device (eg, the electronic device 101).
  • the application program 147 may be included.
  • the operating system may include, for example, Android TM , iOS TM , Windows TM , Symbian TM , Tizen TM , or Bada TM .
  • the program module 1310 may include a kernel 1320 (eg, kernel 141), middleware 1330 (eg, middleware 143), and an API 1360 (eg, API 145).
  • At least a portion of the program module 1310 may be preloaded on an electronic device, or may be an external electronic device (eg, an electronic device (eg, 102, 104, server 106, etc.).
  • the kernel 1320 may include, for example, a system resource manager 1321 and / or a device driver 1323.
  • the system resource manager 1321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 1321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 1323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • the middleware 1330 may provide various functions through the API 1360, for example, to provide functions commonly required by the application 1370 or to allow the application 1370 to use limited system resources inside the electronic device.
  • the middleware 1330 may include a runtime library 1335, an application manager 1342, a window manager 1342, a multimedia manager 1143, a resource manager 1344, a power manager 1345, and a database manager ( 1346, a package manager 1347, a connection manager 1348, a notification manager 1149, a location manager 1350, a graphic manager 1351, or a security manager 1352.
  • the runtime library 1335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 1370 is running.
  • the runtime library 1335 may perform input / output management, memory management, or arithmetic function processing.
  • the application manager 1341 may manage, for example, the life cycle of the application 1370.
  • the window manager 1342 may manage GUI resources used on the screen.
  • the multimedia manager 1343 may identify a format necessary for playing the media files, and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 1344 may manage space of source code or memory of the application 1370.
  • the power manager 1345 may manage, for example, the capacity or power of the battery and provide power information necessary for the operation of the electronic device.
  • the power manager 1345 may interwork with a basic input / output system (BIOS).
  • the database manager 1346 may create, retrieve, or change a database to be used, for example, by the application 1370.
  • the package manager 1347 may manage installation or update of an application distributed in the form of a package file.
  • the connectivity manager 1348 may manage wireless connections, for example.
  • the notification manager 1349 may provide an event to the user, for example, an arrival message, an appointment, a proximity notification, and the like.
  • the location manager 1350 may manage location information of the electronic device, for example.
  • the graphic manager 1351 may manage, for example, a graphic effect to be provided to the user or a user interface related thereto.
  • the security manager 1352 may provide system security or user authentication, for example.
  • the middleware 1330 may include a telephony manager for managing a voice or video call function of the electronic device or a middleware module capable of forming a combination of functions of the above-described components. .
  • the middleware 1330 may provide a module specialized for each type of OS.
  • the middleware 1330 may dynamically delete some of the existing components or add new components.
  • the API 1360 is, for example, a set of API programming functions and may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 1370 may be, for example, a home 1372, a dialer 1372, an SMS / MMS 1373, an instant message (IM) 1374, a browser 1375, a camera 1376, and an alarm 1377. , Contacts 1378, voice dials 1379, email 1380, calendars 1381, media player 1382, albums 1383, watches 1384, health care (e.g., to measure exercise or blood sugar, etc.) Or an application for providing environmental information (eg, barometric pressure, humidity, or temperature information). According to an embodiment of the present disclosure, the application 1370 may include an information exchange application capable of supporting information exchange between the electronic device and the external electronic device.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may deliver notification information generated by another application of the electronic device to the external electronic device, or receive notification information from the external electronic device and provide the notification information to the user.
  • the device management application may be, for example, the ability of an external electronic device to communicate with the electronic device (e.g. turn-on / turn-off of the external electronic device itself (or some component) or the brightness (or resolution) of the display). Control), or install, delete, or update an application running on the external electronic device.
  • the application 1370 may include an application (eg, a health care application of a mobile medical device) designated according to an attribute of the external electronic device.
  • the application 1370 may include an application received from an external electronic device.
  • At least a portion of the program module 1310 may be implemented (eg, executed) in software, firmware, hardware (eg, the processor 120), or a combination of at least two of them, and a module for performing one or more functions; It can include a program, routine, instruction set, or process.
  • an electronic device may include a camera module capable of capturing an image, a sensor module capable of recognizing a signal relating to an electronic device or an external object, a first display and a second display capable of outputting content, a memory, and the camera. And a processor electrically connected to the module, the first display, the second display, and the memory, wherein the processor determines whether the electronic device enters a first state, and enters the camera module when the first state is entered.
  • the image may be taken using the source image, and a first output image output to the first display or a second output image output to the second display may be generated based on the source image.
  • the processor may determine that the electronic device is stopped based on the information collected through the sensor module as the first state. In another embodiment, the processor may determine the stopped state of the electronic device based on the measured value of the gyro sensor or the acceleration sensor.
  • the processor may generate the first output image and the second output image based on a color or a pattern extracted from the source image.
  • the processor may extract the color or the pattern in the central region of the source image.
  • the processor may extract the color or the pattern from all pixels or sampled pixels of the source image.
  • the processor may determine the first state based on at least one of a moving speed of the electronic device and a distance between the electronic device and an external object measured by the sensor module.
  • the processor may determine a state in which the moving speed is less than or equal to a first threshold and the distance is less than or equal to a second threshold as the first state.
  • the processor may apply the first output image to the first display and apply the second output image to the second display.
  • the processor may determine a state in which the electronic device is stopped based on the information collected through the sensor module, as the second state.
  • the processor may photograph the source image by applying a preset filter.
  • the processor may photograph a plurality of images when the electronic device enters the first state, and determine at least a portion of the plurality of images as the source image.
  • the processor searches an image stored in the memory based on the feature point extracted from the source image to determine a matching internal image, and based on the source image and the determined internal image, the first output image and The second output image may be generated.
  • the processor requests an external image matched to an external device based on the feature point extracted from the source image, and the first output image and the second output image based on the source image and the external image. Can be generated.
  • the first output image and the second output image may be generated based on the feature points extracted from the source image, and the first output image and the second output image may be stored in the memory.
  • a screen output method may be performed by an electronic device, checking whether the electronic device enters a first state, photographing a source image using a camera module when entering the first state, and And generating a first output image output to the first display and a second output image output to the second display based on the source image.
  • the operation of confirming whether the electronic device enters a first state may include determining the stopped state of the electronic device as the first state based on information collected through the sensor module. have.
  • the operation of checking whether the electronic device enters a first state is based on at least one of a moving speed of the electronic device and a distance between the electronic device and an external object measured through a sensor module. 1 may include determining the state.
  • the screen output method may further include applying the first output image and the second output image to the first display and the second display when the electronic device enters a second state. It may include.
  • the applying of the first output image and the second output image may include determining the stopped state of the electronic device as the second state based on the information collected through the sensor module.
  • module includes a unit composed of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic blocks, components, or circuits.
  • the module may be an integrally formed part or a minimum unit or part of performing one or more functions.
  • Modules may be implemented mechanically or electronically, for example, application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or known or future developments that perform certain operations. It can include a programmable logic device.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) according to various embodiments may be stored in a computer-readable storage medium (eg, memory 130) in the form of a program module. It can be implemented as.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magnetic-optical media (e.g. floppy disks), internal memory, etc.
  • Instructions may include code generated by a compiler or code executable by an interpreter Modules or program modules according to various embodiments may include at least one or more of the above-described components. According to various embodiments of the present disclosure, operations performed by a module, a program module, or another component may be executed sequentially, in parallel, repeatedly, or heuristically, or at least in some cases. Some operations may be executed in a different order, omitted, or other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Apparatuses And Processes For Manufacturing Resistors (AREA)
  • Input Circuits Of Receivers And Coupling Of Receivers And Audio Equipment (AREA)
  • Electric Double-Layer Capacitors Or The Like (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

본 발명의 다양한 실시 예에 따른 전자 장치는 이미지를 촬영할 수 있는 카메라 모듈, 전자 장치 또는 외부 객체에 관한 신호를 인식할 수 있는 센서 모듈, 컨텐츠를 출력할 수 있는 제1 디스플레이 및 제2 디스플레이, 메모리 및 상기 카메라 모듈, 상기 제1 디스플레이, 제2 디스플레이 및 상기 메모리와 전기적으로 연결되는 프로세서를 포함하고, 상기 프로세서는 상기 전자 장치가 제1 상태에 진입하는지를 확인하고, 상기 제1 상태에 진입하면 상기 카메라 모듈을 이용하여 소스 이미지를 촬영하고, 상기 소스 이미지를 기반으로 상기 제1 디스플레이에 출력되는 제1 출력 이미지, 또는 상기 제2 디스플레이에 출력되는 제2 출력 이미지를 생성할 수 있다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

화면 출력 방법 및 이를 지원하는 전자 장치
본 문서의 다양한 실시 예는 전자 장치에서 화면을 통해 컨텐츠를 출력하는 방법 및 이를 지원하는 전자 장치에 관한 것이다.
스마트폰, 태블릿 PC 등과 같은 전자 장치는 무선 데이터 통신, 동영상 재생, 인터넷 검색 등 다양한 기능을 수행할 수 있다. 전자 장치는 동작에 따라 다양한 화면을 출력할 수 있다. 예를 들어, 전자 장치는 홈 화면, 잠금 화면, 어플리케이션 실행 화면 등을 출력할 수 있다.
종래 기술에 따른 전자 장치는 주변의 환경에 대응하여 홈 화면, 잠금 화면, 스크린 오프 상태 등이 변경되지 않고, 사용자가 설정한 화면 또는 전자 장치에서 기본 설정된 화면이 출력되는 방식으로 동작한다. 상기 전자 장치는 사용자에게 주변의 변화하는 상황에 따른 다양한 사용자 경험을 제공할 수 없다.
본 발명의 다양한 실시 예에 따른 전자 장치는 이미지를 촬영할 수 있는 카메라 모듈, 전자 장치 또는 외부 객체에 관한 신호를 인식할 수 있는 센서 모듈, 컨텐츠를 출력할 수 있는 제1 디스플레이 및 제2 디스플레이, 메모리 및 상기 카메라 모듈, 상기 제1 디스플레이, 제2 디스플레이 및 상기 메모리와 전기적으로 연결되는 프로세서를 포함하고, 상기 프로세서는 상기 전자 장치가 제1 상태에 진입하는지를 확인하고, 상기 제1 상태에 진입하면 상기 카메라 모듈을 이용하여 소스 이미지를 촬영하고, 상기 소스 이미지를 기반으로 상기 제1 디스플레이에 출력되는 제1 출력 이미지, 또는 상기 제2 디스플레이에 출력되는 제2 출력 이미지를 생성할 수 있다.
본 발명의 다양한 실시 예에 따른 화면 출력 방법 및 이를 지원하는 전자 장치는 카메라 모듈 또는 센서 모듈을 이용하여 주변의 환경을 인식하고, 자동으로 주변의 색 또는 무늬와 동일 또는 유사한 이미지를 복수의 디스플레이들에 출력할 수 있다.
본 발명의 다양한 실시 예에 따른 화면 출력 방법 및 이를 지원하는 전자 장치는 배경 화면, 팝업 화면 등이 주변 환경과 어울리는 다양한 화면으로 출력되어 감성적인 사용자 경험을 제공할 수 있다.
도 1은 다양한 실시 예에 따른 전자 장치의 블럭도를 도시한다.
도 2는 다양한 실시 예에 따른 카메라 모듈을 이용한 화면 표시 방법을 설명하는 순서도이다.
도 3은 다양한 실시 예에 따른 화면 출력 방법을 설명하는 화면 예시도이다.
도 4는 다양한 실시 예에 따른 소스 이미지를 제1 디스플레이의 배경 이미지로 활용하는 화면 예시도이다.
도 5는 다양한 실시 예에 따른 전자 장치의 복수의 상태들을 인식하여 화면을 출력하는 방법을 설명하는 순서도이다.
도 6은 다양한 실시 예에 따른 복수의 상태들에서 추출하는 예시도이다.
도 7은 다양한 실시 예에 따른 소스 이미지에서 추출된 특징점을 적용하는 화면 예시도이다.
도 8은 다양한 실시 예에 따른 내부 이미지를 이용하는 화면 출력 방법을 설명하는 순서도이다.
도 9는 다양한 실시 예에 따른 외부 이미지를 이용하는 화면 출력 방법을 설명하는 순서도이다.
도 10는 다양한 실시 예에 따른 제2 디스플레이에 제2 출력 이미지를 적용한 예시도이다.
도 11은 다양한 실시 예에 따른 제1 및 제2 출력 이미지의 동적 변화를 설명하는 화면 예시도 이다.
도 12는 다양한 실시 예에 따른 전자 장치의 블록도를 나타낸다.
도 13은 다양한 실시 예에 따른 프로그램 모듈의 블록도를 나타낸다.
이하, 본 문서의 다양한 실시 예들이 첨부된 도면을 참조하여 기재된다. 실시 예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시 예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시 예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시 예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다.
프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 카메라 모듈(180) 또는 센서 모듈(190)을 이용하여, 전자 장치(101) 주변의 변화를 인식할 수 있다. 프로세서(120)는 인식된 정보를 기반으로 디스플레이(160)을 통해 출력되는 컨텐츠를 변경할 수 있다. 예를 들어, 프로세서(120)는 전자 장치(101)이 놓여 있는 바닥면의 이미지를 촬영할 수 있다. 프로세서(120)는 바닥면의 이미지에서 대표 색상 또는 대표 무늬 등을 추출하여, 디스플레이(160)에서 출력되는 배경 이미지를 바닥면의 특징점(예: 색상 또는 무늬)과 동일하도록 변경할 수 있다. 프로세서(120)가 전자 장치(101) 주변의 환경 변화를 기반으로 컨텐츠를 변경하는 화면 출력 방법에 관한 추가 정보는 도 2 내지 도 11을 통해 제공될 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다.
한 실시 예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
다양한 실시 예에 따르면, 디스플레이(160)는 제1 디스플레이(161) 및 제2 디스플레이(162)를 포함할 수 있다. 예를 들어, 제1 디스플레이(161)는 전자 장치(101)의 제1 면에 배치되는 메인 디스플레이일 수 있고, 제2 디스플레이(162)는 상기 제1 면과 다른 면에 배치되는 서브 디스플레이(예: 엣지 디스플레이, 측면 디스플레이, 또는 후면 디스플레이 등)일 수 있다.
다양한 실시 예에 따르면, 제1 디스플레이(161) 및 제2 디스플레이(162)는 서로 다른 컨텐츠를 출력하도록 설정될 수 있다. 예를 들어, 제1 디스플레이(161)는 동영상을 재생할 수 있고, 제2 디스플레이(162)는 전자 장치(101)의 동영상을 제어하는 버튼(예: 재생 일시정지, 빨리 감기, 뒤로 감기 등)을 표시할 수 있다.
다양한 실시 예에 따르면, 제1 디스플레이(161) 및 제2 디스플레이(162)는 카메라 모듈(180)을 통해 수집된 소스 이미지와 연관된 이미지를 출력할 수 있다. 예를 들어, 제1 디스플레이(161)는 소스 이미지를 제1 필터를 이용하여 이미지 처리한 제1 이미지를 출력할 수 있고, 제2 디스플레이(162)는 소스 이미지를 제2 필터를 이용하여 이미지 처리한 제2 이미지를 출력할 수 있다. 제1 디스플레이(161) 및 제2 디스플레이(162)의 출력 방법에 관한 추가 정보는 도2 내지 도 11을 통해 제공될 수 있다. 일 실시 예에 따르면, 제1 디스플레이(161) 및 제2 디스플레이(162)는 하나의 디스플레이 패널 상의 서로 다른 영역으로 구현될 수 있다. 예를 들어, 제1 디스플레이(161)는 전자 장치(101)의 전면 영역일 수 있고, 제2 디스플레이(162)는 전자 장치(101)의 엣지 영역 또는 측면 영역일 수 있다. 다른 일 실시 예에 따르면, 제1 디스플레이(161) 및 제2 디스플레이(162)는 서로 디스플레이 패널 상에 구현될 수 있다. 예를 들어, 제1 디스플레이(161)는 전자 장치(101)의 전면 디스플레이 패널을 통해 구현되고, 제2 디스플레이(162)는 전자 장치(101)의 후면 디스플레이 패널을 통해 구현될 수 있다.
이하에서는, 제1 디스플레이(161)가 전자 장치(101)의 전면 영역이고, 제2 디스플레이(162)가 전자 장치(101)의 엣지 영역인 경우를 중심으로 논의하지만, 이에 한정되는 것은 아니다. 복수의 디스플레이들을 포함하는 다양한 형태의 전자 장치에 적용될 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시 예에 따르면, 무선 통신은, 예를 들면, WiFi(wireless fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시 예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 “Beidou”) 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, “GPS”는 “GNSS”와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
카메라 모듈(180)은 전자 장치(101)의 주변을 촬영할 수 있다. 촬영된 이미지는 디스플레이(160)를 통해 출력되는 컨텐츠의 출력 방식을 변경하는데 이용될 수 있다. 다양한 실시 예에서, 카메라 모듈(180)은 광학 렌즈를 포함할 수 있다. 예를 들어, 광학 렌즈를 이용하는 경우, 카메라 모듈(180)은 180도에서 220도 사이의 시야각을 이용하여 이미지를 촬영할 수 있다.
다양한 실시 예에서, 카메라 모듈(180)은 복수개일 수 있다. 예를 들어, 카메라 모듈(180)는 전자 장치(101)의 전면(디스플레이(160)가 배치되는 면)에 배치되는 전면 카메라 및 전자 장치(101)의 후면(디스플레이(160)가 배치되는 면의 반대면)에 배치되는 후면 카메라를 포함할 수 있다.
센서 모듈(190)은 전자 장치(101) 또는 전자 장치(101) 주변의 상태 에 관한 정보를 수집할 수 있다. 예를 들어, 센서 모듈(190)은 자이로 센서, 가속도 센서를 포함할 수 있고, 전자 장치(101)의 속도 변화, 가속도 변화 등을 인식할 수 있다. 다른 예를 들어, 센서 모듈(190)은 IR 센서, HRM 센서 등을 이용하여, 주변의 객체와 전자 장치(101) 사이의 거리를 인식할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시 예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시 예에 따른 카메라 모듈을 이용한 화면 표시 방법을 설명하는 순서도이다.
도 2를 참조하면, 동작 210에서, 프로세서(120)는 전자 장치(101)가 제1 상태에 진입하는지를 확인할 수 있다. 일 실시 예에서, 상기 제1 상태는 전자 장치(101)가 별도의 움직임 없이 정지한 상태일 수 있다. 프로세서(120)는 센서 모듈(190)(예: 자이로 센서 또는 가속도 센서 등)의 측정값을 기반으로 전자 장치(101)이 정지된 상태인지를 결정할 수 있다. 다른 일 실시 예에서, 상기 제1 상태는 지정된 범위의 속도로 이동 중인 상태일 수 있다. 예를 들어, 상기 제1 상태는 전자 장치(101)가 자동차에 안착된 상태로 이동하는 상태일 수 있다. 또 다른 일 실시 예에서, 사용자가 전자 장치(101)를 바닥(예: 책상 또는 지면 등)에 내려놓고 있는 상태일 수 있다. 전자 장치(101)는 센서 모듈(190)을 통해, 상기 제1 상태를 인식할 수 있다.
이하에서는 상기 제1 상태가 정지 상태인 경우를 중심으로 논의하지만, 이에 한정되는 것은 아니다. 상기 제1 상태는 사용자에 의해 또는, 전자 장치(101) 자체의 설정에 의해 다양하게 결정될 수 있다.
동작 220에서, 프로세서(120)는 전자 장치(101)가 제1 상태에 진입하는 경우, 카메라 모듈(180)을 이용하여 소스 이미지를 촬영할 수 있다. 일 실시 예에서, 프로세서(120)는 별도의 사용자 입력 없이, 전자 장치(101)가 제1 상태에 진입하면, 카메라 모듈(180)을 자동으로 실행하여 소스 이미지를 촬영할 수 있다. 상기 소스 이미지는 전자 장치(101) 주변의 객체에 대한 이미지를 포함할 수 있다.
예를 들어, 프로세서(120)는 전자 장치(101)의 후면 카메라를 이용하여, 전자 장치(101)이 놓여 있는 바닥면(예: 책상, 탁자 등)을 촬영하여 소스 이미지를 획득할 수 있다. 다른 예를 들어, 프로세서(120)는 전자 장치(101)의 전면 카메라를 이용하여, 전자 장치(101)의 전면에 배치되는 외부 객체(예: 사용자 얼굴, 천장, 하늘 등)을 촬영하여 소스 이미지로 활용할 수도 있다.
다양한 실시 예에서, 프로세서(120)는 연속 촬영을 통해 소스 이미지를 수집할 수 있다. 연속 촬영된 복수의 이미지들 중 적어도 일부는 소스 이미지로 결정될 수 있다. 예를 들어, 프로세서(120)는 복수의 이미지들 중 선명도가 높은 이미지를 소스 이미지로 결정할 수 있다. 다른 예를 들어, 프로세서(120)는 복수의 이미지들을 조합하여 소스 이미지를 결정할 수 있다.
다양한 실시 예에서, 프로세서(120)는 소스 이미지를 이미지 프로세싱하여, 특징점(예: 대표 색, 대표 무늬)을 추출할 수 있다. 예를 들어, 프로세서(120)는 필터링을 통해 소스 이미지의 중심 영역에서 대표 색, 대표 무늬를 추출할 수 있다.
다양한 실시 예에서, 프로세서(120)는 미리 설정된 필터를 이용하여 소스 이미지를 촬영할 수 있다. 프로세서(120)는 필터를 통해 특정 색상 또는 무늬로 구성된 소스 이미지를 생성할 수 있다. 이 경우, 프로세서(120)는 이미지 프로세싱을 통해 소스 이미지의 특징점을 추출하는 시간을 단축할 수 있다.
동작 230에서, 프로세서(120)는 상기 소스 이미지를 기반으로 제1 디스플레이(161) 및 제2 디스플레이(162))에 출력되는 컨텐츠를 변경할 수 있다. 프로세서(120)는 소스 이미지를 기반으로 제1 디스플레이(161)에 출력되는 제1 출력 이미지, 또는 제2 디스플레이에 출력되는 제2 출력 이미지(162)를 생성할 수 있다. 프로세서(120)는 제1 출력 이미지를 제1 디스플레이(161)에 적용하고, 제2 출력 이미지를 제2 디스플레이(162)에 적용할 수 있다.
예를 들어, 프로세서(120)는 소스 이미지를 제1 필터를 이용하여 이미지 처리한 제1 이미지를 제1 디스플레이(161)에 출력할 수 있고, 소스 이미지를 제2 필터를 이용하여 이미지 처리한 제2 이미지를 제2 디스플레이(162)에 출력할 수 있다. 다른 예를 들어, 프로세서(120)는 추출된 대표 색상을 이용하여, 제1 디스플레이(161)에 표시되는 홈 화면, 잠금 화면 등의 배경 이미지를 변경하고, 제2 디스플레이(162)에 표시되는 바로 가기 아이콘의 색상을 변경할 수 있다.
또 다른 실시 예에서, 프로세서(120)는 소스 이미지에서 추출된 무늬를 제1 디스플레이(161)에 표시되는 홈 화면, 잠금 화면, AOD 화면 등의 배경 이미지에 적용하고, 제2 디스플레이(162)에 표시되는 버튼을 추출된 무늬로 변경할 수 있다.
다양한 실시 예에서, 프로세서(120)는 제1 디스플레이(161) 및 제2 디스플레이(162)에 출력되는 컨텐츠의 적어도 일부가 전자 장치(101)가 놓여 있는 바닥면의 무늬 및 색상과 모두 동일(또는 유사)하도록 출력할 수 있다. 이를 통해, 전자 장치(101)는 주변 환경과 대응하여 화면 상의 컨텐츠가 변경되는 인터액티브(interactive)한 사용자 경험(user interface)를 제공할 수 있다.
다양한 실시 예에서, 프로세서(120)는 센서 모듈(190)을 통해 수집된 정보를 기반으로 출력되는 이미지(이하, 출력 이미지)를 변경할 수 있다. 예를 들어, 소스 이미지의 대표 색을 기반으로 출력 이미지를 생성하고, 조도 센서를 통해 인식된 값을 기반으로 출력 이미지의 밝기를 변경하여 출력할 수 있다. 프로세서(120)는 조도 센서를 이용하여 주기적으로 주변의 밝기를 측정하고, 측정값에 따라 출력 이미지의 밝기를 변경할 수 있다.
다양한 실시 예에서, 프로세서(120)는 생성된 출력 이미지를 별도의 파일로 저장할 수 있다. 출력 이미지는 메모리(160)에 저장되어 앨범 앱 등에서 이용될 수 있다. 사용자는 생성된 출력 이미지를 SNS에 공유하거나, 배경 이미지로 활용할 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 제1 디스플레이(161) 및 제2 디스플레이(162)에 표시되는 컨텐츠를 소스 이미지의 색상 또는 무늬와 결합하여 출력할 수 있다. 예를 들어, 제1 디스플레이(161)의 잠금 화면의 바탕 이미지가 소스 이미지의 대표색인 제1 색으로 변경되는 경우, 프로세서(120)는 날짜 정보, 시간 정보, 날씨 정보 등의 텍스트 또는 아이콘은 제1 색에 대한 보색인 제2 색으로 표시하여, 사용자의 눈에 잘 보이도록 변경할 수 있다.
도 3은 다양한 실시 예에 따른 화면 출력 방법을 설명하는 화면 예시도이다. 도 3에서는 전자 장치(101)가 바닥면에 정지된 상태인 경우를 예시적으로 도시하였으나, 이에 한정되는 것은 아니다.
도 3을 참조하면, 제1 화면(301)에서, 전자 장치(101)는 바닥면(310)(예: 책상, 테이블 등)에 놓여 움직이지 않는 정지 상태일 수 있다. 바닥면(310)은 본래의 색 또는 무늬를 가지고 있을 수 있다.
전자 장치(101)가 바닥면(310)에 놓이기 전 상태 또는 바닥면(310)에 놓인 직후 상태에서, 제1 디스플레이(161a)는 바닥면(310)과 무관한 컨텐츠(예: 홈 화면, 잠금 화면, 앱 실행 화면, AOD 화면 등)를 출력하거나 별도 출력이 없는 상태(예: 스크린 오프 상태)일 수 있다. 예를 들어, 제1 디스플레이(161a)는 사용자가 설정한 배경 이미지 또는 전자 장치(101)에서 기본 설정된 배경 이미지를 출력하는 상태일 수 있다.
제2 디스플레이(162a)도 바닥면(310)과 무관한 컨텐츠(예: 앱 실행 아이콘, 바로 가기 아이콘, 터치 버튼 등)을 출력하거나 별도 출력이 없는 상태(예: 스크린 오프 상태)일 수 있다.
프로세서(120)는 전자 장치(101)가 지정된 시간(예: 0.5초) 동안 정지 상태가 유지되는 경우, 카메라 모듈(180)을 이용하여 바닥면(310)을 촬영할 수 있다. 예를 들어, 프로세서(120)는 후면 카메라(미도시, 제1 디스플레이(161a)가 장착된 면의 반대면에 장착된 카메라)를 이용하여, 전자 장치(101)가 놓여 있는 바닥면(310)을 촬영하여 소스 이미지를 획득할 수 있다.
다양한 실시 예에서, 프로세서(120)는 카메라 렌즈를 통해 유입되는 외부 빛이 부족한 것으로 판단되는 경우, 플래시를 작동시켜 소스 이미지를 촬영할 수 있다. 프로세서(120)는 소스 이미지로부터 특징점(예: 대표 색상 또는 무늬)을 추출하고, 추출된 특징점을 기반으로 출력 이미지를 생성할 수 있다.
다양한 실시 예에서, 프로세서(120)는 일반적인 사진 촬영과 달리, 제1 디스플레이(161a)에 촬영된 소스 이미지를 실시간으로 출력하지 않을 수 있다. 소스 이미지가 촬영되는 과정에서, 제1 디스플레이(161a)는 기존 상태(예: 홈 화면이 표시되는 상태, 화면 꺼짐 상태, 잠금 화면 상태)를 계속적으로 유지할 수 있다. 사용자는 소스 이미지가 촬영되는 과정을 인식하지 못하거나 관심을 갖지 않을 수 있다.
다양한 실시 예에서, 프로세서(120)는 연속 촬영을 통해 소스 이미지를 수집할 수 있다. 프로세서(120)는 복수의 이미지들을 복수의 이미지들을 이용하여, 대표색 추출, 무늬 추출의 정확성을 높일 수 있다.
다양한 실시 예에 따르면, 프로세서(120)는 전면 카메라(180a)를 이용하여 소스 이미지를 촬영될 수 있다. 이 경우, 전면 카메라(180a)는 전자 장치(101)의 전면에 배치되는 외부 객체(예: 사용자 얼굴, 천장, 하늘 등)을 촬영하여 소스 이미지로 활용할 수 있다.
제2 화면(302)에서, 소스 이미지를 이용하여 생성된 제1 출력 이미지는 제1 디스플레이(161b)에 출력될 수 있다. 외부에서 사용자가 전자 장치(101)를 바라보는 경우, 바닥면(310)에 포함된 색상 또는 무늬와 동일(또는 유사)한 색상 또는 무늬가 제1 디스플레이(161b)에 표시될 수 있다.
소스 이미지를 이용하여 생성된 제2 출력 이미지는 제2 디스플레이(162b)에 출력될 수 있다. 바닥면(310)에 포함된 색상 또는 무늬와 동일(또는 유사)한 색상 또는 무늬가 제2 디스플레이(162b)에 표시될 수 있다.
전자 장치(101)는 제1 디스플레이(161b) 및 제2 디스플레이(162b)가 주변 환경과 어울리게 자동으로 변경되는 사용자 경험을 제공할 수 있다.
제 3 화면(303)에서, 프로세서(120)는 배경 이미지뿐만 아니라, 제1 디스플레이(161c) 또는 제2 디스플레이(162c)에 표시되는 다른 컨텐츠를 소스 이미지의 색상 또는 무늬와 결합하여 출력할 수 있다. 프로세서(120)는 바닥면(310)의 색상 또는 무늬를 고려하여, 제1 디스플레이(161c) 또는 제2 디스플레이(162b)에 출력되는 텍스트 또는 아이콘의 출력 방식을 변경할 수 있다. 예를 들어, 텍스트 또는 아이콘의 색상이 배경 색과 대조되는 색(예: 보색)으로 출력되거나, 텍스트 또는 아이콘이 배경 무늬와 동일한 무늬를 가지도록 출력될 수 있다.
도 4는 다양한 실시 예에 따른 소스 이미지를 제1 디스플레이의 배경 이미지로 활용하는 화면 예시도이다. 도 4는 예시적인 것으로 이에 한정되는 것은 아니다.
도 4를 참조하면, 화면(401)에서, 프로세서(120)는 소스 이미지에서 추출한 특징점(예: 대표색, 대표 무늬 등)을 이용하여 홈 화면의 배경 이미지(410)를 변경할 수 있다. 사용자가 전자 장치를 책상, 테이블 등의 위에 내려놓는 경우, 프로세서(120)는 홈 화면의 배경 이미지(410)를 전자 장치(101)가 놓여 있는 책상, 테이블 등과 동일한 형태 또는 어울리는 형태로 출력할 수 있다. 다양한 실시 예에서, 프로세서(120)는 홈 화면에 표시되는 텍스트 또는 아이콘의 색상을 변경된 배경 이미지(410)의 색상과 대조되는 색상으로 변경하여, 시인성을 높일 수 있다.
화면(402)에서, 프로세서(120)는 소스 이미지에서 추출한 특징점(예: 대표색, 대표 무늬 등)을 이용하여 잠금 화면의 배경 이미지(420)를 변경할 수 있다. 프로세서(120)는 잠금 화면에 표시되는 알림 표시, 날씨 표시 등을(421) 배경 이미지(420)의 색상과 대조되는 색상 또는 무늬로 출력하여, 시인성을 높일 수 있다.
화면(403)에서, 프로세서(120)는 소스 이미지에서 추출한 특징점(예: 대표색, 대표 무늬 등)을 이용하여 팝업창 또는 알림창의 배경 이미지(430)를 변경할 수 있다. 사용자가 전자 장치를 책상, 테이블 등의 위에 내려놓는 경우, 프로세서(120)는 스크린 오프 상태에서, 책상 또는 테이블의 색상 또는 무늬를 추출할 수 있다. 전자 장치(101)의 내부의 어플리케이션의 실행에 따라 팝업창 또는 알림창이 출력되는 경우(예: 메시지 수신, 전화 수신, 또는 일정 알림 등), 프로세서(120)는 책상 또는 테이블의 색상 또는 무늬와 동일한 배경을 가지는 팝업창 또는 알림창을 출력할 수 있다.
도 5는 다양한 실시 예에 따른 전자 장치의 복수의 상태들을 인식하여 화면을 출력하는 방법을 설명하는 순서도이다.
도 5를 참조하면, 동작 510에서, 프로세서(120)는 센서 모듈(180)을 이용하여, 전자 장치(101)가 제1 상태인지를 확인할 수 있다. 일 실시 예에서, 상기 제1 상태는 전자 장치(101)가 지정된 속도 이하 또는 지정된 가속도 이하로 움직이는 상태, 또는 외부 객체와의 거리가 미리 설정된 범위 이내인 상태일 수 있다.
다양한 실시 예에서, 프로세서(120)는 센서 모듈(190)을 통해 측정된 전자 장치(101)의 이동 속도 또는 전자 장치(101)와 외부 객체 사이의 거리 중 적어도 하나를 기반으로 전자 장치(101)가 제1 상태에 진입하는지를 결정할 수 있다. 예를 들어, 프로세서(120)는 자이로 센서 또는 가속도 센서를 이용하여 측정된 전자 장치(101)의 이동 속도가 제1 문턱값(예: 10cm/s) 이하이고, IR 센서(또는 HRM 센서)를 이용하여 측정된 전자 장치(101)와 외부 객체(예: 테이블) 사이의 거리가 제2 문턱값(예: 20cm) 이하인 경우, 전자 장치(101)가 제1 상태에 진입한 것으로 결정할 수 있다.
동작 520에서, 프로세서(120)는 제1 상태에서, 카메라 모듈(180)을 이용하여 전자 장치(101) 주변(예: 바닥면)을 촬영하여 소스 이미지를 획득할 수 있다. 다양한 실시 예에서, 촬영된 소스 이미지는 버퍼에 임시로 저장될 수 있고, 앨범 앱 등에서 확인되지 않을 수 있다. 또한, 소스 이미지는 디스플레이(150)에 실시간으로 표시되지 않을 수 있고, 사용자는 소스 이미지의 촬영을 인식하지 못하거나 관심을 갖지 않을 수 있다.
동작 530에서, 프로세서(120)는 소스 이미지를 이미지 프로세싱하여, 특징점(예: 대표 색, 대표 무늬)을 추출할 수 있다. 예를 들어, 프로세서(120)는 필터링을 통해 소스 이미지의 중심 영역에서 대표 색, 대표 무늬를 추출할 수 있다.
동작 540에서, 프로세서(120)는 추출된 특징점을 기반으로 제1 출력 이미지 및 제2 출력 이미지를 생성할 수 있다. 제1 출력 이미지는 제1 디스플레이(161)를 통해 출력될 이미지일 수 있고, 제2 출력 이미지는 제2 디스플레이(162)를 통해 출력될 이미지일 수 있다. 예를 들어, 제1 출력 이미지는 전자 장치(101)가 놓여 있는 책상 또는 테이블과 동일한 색상 또는 무늬를 가질 수 있고, 제2 출력 이미지는 책상 또는 테이블과 동일한 색상 또는 무늬를 가지는 아이콘 이미지 또는 터치 버튼 이미지일 수 있다. 다른 예를 들어, 제1 출력 이미지 및 제2 출력 이미지는 전자 장치(101)가 놓여 있는 책상 또는 테이블과 동일한 무늬를 가지고, 책상 또는 테이블의 색상과는 대조되는 색(예: 보색)을 가질 수 있다.
다양한 실시 예에서, 프로세서(120)는 생성된 출력 이미지를 디스플레이 구동 회로의 그래픽 램에 저장할 수 있다.
동작 550에서, 프로세서(120)는 전자 장치(101)가 제2 상태인지를 확인할 수 있다. 일 실시 예에서, 상기 제2 상태는 전자 장치(101)가 별도의 움직임 없이 정지한 상태일 수 있다. 프로세서(120)는 센서 모듈(190)(예: 자이로 센서 또는 가속도 센서 등)의 측정값을 기반으로 전자 장치(101)이 정지된 상태인지를 결정할 수 있다.
동작 560에서, 프로세서(120)는 제2 상태에서, 제1 출력 이미지를 제1 디스플레이(161)에 적용하고, 제2 출력 이미지를 제2 디스플레이(162)에 적용할 수 있다. 예를 들어, 제1 디스플레이(161)의 홈 화면, 잠금 화면 등의 배경 이미지가 주변의 색상 또는 무늬와 동일(또는 유사)한 출력 이미지로 변경될 수 있다. 제2 디스플레이(162)의 아이콘, 터치 버튼 등이 주변의 색상 또는 무늬와 동일(또는 유사)한 출력 이미지로 변경될 수 있다.
다양한 실시 예에 따르며, 프로세서(120)는 제2 상태에서 카메라 모듈, 센서 모듈 등을 이용하여 주변의 상황 변화를 주기적으로 인식할 수 있다. 프로세서(120)는 전자 장치(101) 주변의 색상 또는 무늬가 변경되는 경우, 제1 출력 이미지 또는 제2 출력 이미지를 업데이트할 수 있다.
도 6은 다양한 실시 예에 따른 복수의 상태들에서 추출하는 예시도이다. 도 6은 예시적인 것으로 이에 한정되는 것은 아니다.
도 6을 참조하면, 제1 동작(601)에서, 사용자가 전자 장치(101)를 테이블(610)에 내려놓고 있는 경우, 프로세서(120)는 전자 장치(101)가 제1 상태로 진입하는지를 확인할 수 있다. 예를 들어, 상기 제1 상태는 전자 장치(101)가 지정된 속도 이하로 이동하거나, 테이블(610)과의 거리가 미리 설정된 범위(예: 20cm) 이내인 상태일 수 있다.
프로세서(120)는 제1 상태에 진입하는 경우, 카메라 모듈(180)(예: 후면 카메라)를 이용하여 주변 환경(예: 테이블(610)의 바닥면)을 촬영할 수 있다.
프로세서(120)는 소스 이미지를 이미지 프로세싱하여, 특징점(예: 대표 색, 대표 무늬)을 추출할 수 있다. 프로세서(120)는 추출된 특징점을 기반으로 제1 출력 이미지 및 제2 출력 이미지를 생성할 수 있다.
예를 들어, 프로세서(120)는 소스 이미지를 구성하는 전체 픽셀의 RGB 평균값을 산출하거나, 소스 이미지에서 선택된 일부 영역(예: 소스 이미지의 중심점에서 일정 범위 이내의 픽셀들)의 RGB 평균값을 산출 할 수 있다. 다른 예를 들어, 프로세서(120)는 소스 이미지를 구성하는 픽셀들을 샘플링하여, RGB 평균값을 산출할 수도 있다.
제2 동작(602)에서, 프로세서(120)는 제2 상태에 진입하는지를 확인할 수 있다. 상기 제2 상태는 전자 장치(101)가 별도의 움직임 없이 정지한 상태일 수 있다. 프로세서(120)는 센서 모듈(190)(예: 자이로 센서 또는 가속도 센서 등)의 측정값을 기반으로 전자 장치(101)이 정지된 상태인지를 결정할 수 있다.
예를 들어, 프로세서(120)는 가속도 센서의 X값, Y값, Z값이 변하지 않고, Z값이 9.0 이상 유지되고는 상태가 1초 이상 지속되는 경우, 프로세서(120)은 전자 장치(101)가 정지 상태에 진입한 것으로 결정할 수 있다.
제3 동작(603)에서, 프로세서(120)는 제1 출력 이미지 및 제2 출력 이미지를 제1 디스플레이(161) 및 제2 디스플레이(162)에 적용할 수 있다. 디스플레이(160)은 테이블(610)의 색상 또는 무늬와 동일(또는 유사)한 색상 또는 무늬의 이미지를 출력할 수 있다.
도 7은 다양한 실시 예에 따른 소스 이미지에서 추출된 특징점을 적용하는 화면 예시도이다. 도 7은 예시적인 것으로 이에 한정되는 것은 아니다.
도 7을 참조하면, 전자 장치(101)가 놓인 바닥면(710)이 카모플라쥬(camouflage) 무늬를 가지는 경우, 제1 디스플레이(161)는 바닥면(710)과 동일한 무늬를 출력할 수 있다. 프로세서(160)는 후면 카메라를 이용하여, 전자 장치(101)가 바닥면(710)에 놓이기 전 또는 놓인 후에 바닥면(710)을 촬영할 수 있다. 프로세서(160)는 촬영된 이미지를 처리하여, 카모플라쥬(camouflage) 무늬 및 색상을 추출할 수 있다. 프로세서(160)는 추출된 무늬 및 색상을 기반으로 제1 디스플레이(161)에 표시되는 잠금 화면 또는 올웨이즈온(always on; AOD) 화면의 배경 이미지를 변경할 수 있다.
다양한 실시 예에 따르면, 프로세서(160)는 제1 디스플레이(161)에 출력되는 제1 출력 이미지와 다른 방식으로 소스 이미지를 이미지 처리하여, 제2 디스플레이(162)에 출력될 제2 출력 이미지를 생성할 수 있다. 예를 들어, 프로세서(160)는 소스 이미지를 측면 방향으로 확장하여, 사용자가 정면에서 전자 장치(101)을 바라보는 경우, 카모플라쥬(camouflage) 무늬가 제1 디스플레이(161)에 출력되는 제1 출력 이미지와 연속되도록 제2 출력 이미지를 생성할 수 있다. 생성된 제2 출력 이미지는 제2 디스플레이(162)를 통해 출력될 수 있다.
일 실시 예에 따르면, 프로세서(120)는 전자 장치(101)가 바닥면(710)위에서 위치가 변경되는 경우, 소스 이미지를 다시 촬영하여 제1 출력 이미지 및 제2 출력 이미지를 업데이트 할 수 있다. 프로세서(120)는 센서 모듈(예: 자이로 센서 또는 가속도 센서)를 통해 전자 장치(101)이 수평 방향으로 이동하고, 다시 정지 상태가 유지되는 경우, 카메라 모듈(180)을 이용하여 다시 소스 이미지를 촬영할 수 있다. 프로세서(120)는 업데이트된 소스 이미지를 이용하여 제1 출력 이미지 및 제2 출력 이미지를 변경할 수 있다.
다른 일 실시 예에 따르면, 프로세서(120)는 전자 장치(101)의 이동이 지정된 범위 이내인 경우, 이동 전에 버퍼에 저장된 소스 이미지를 이용하여, 출력 이미지를 업데이트 할 수 있다. 예를 들어, 프로세서(120)는 센서 모듈(예: 자이로 센서 또는 가속도 센서)를 통해 인식한 전자 장치의 이동 범위가 5cm 이내인 경우, 버퍼에 저장된 소스 이미지를 대응하는 거리만큼 이동하여 특징점을 다시 추출할 수 있다. 프로세서는 새로 추출된 특징점을 이용하여 제1 출력 이미지 및 제2 출력 이미지를 생성하고 출력할 수 있다.
도 8은 다양한 실시 예에 따른 내부 이미지를 이용하는 화면 출력 방법을 설명하는 순서도이다.
도 8을 참조하면, 동작 810에서, 프로세서(120)는 전자 장치(101)가 제1 상태(예: 정지 상태, 지정된 속도 이하 상태, 바닥면과 지정된 거리 이내에 배치된 상태 등)에서 소스 이미지를 촬영할 수 있다.
동작 820에서, 프로세서(120)는 소스 이미지로부터 특징점을 추출할 수 있다. 프로세서(120)는 필터링을 통해 소스 이미지의 대표 색, 대표 무늬를 추출할 수 있다.
동작 830에서, 프로세서(120)는 추출된 특징점을 기반으로 전자 장치(101)의 내부 메모리에 미리 저장된 이미지의 특징점과 비교할 수 있다.
프로세서(120)는 메모리(130)에 저장된 이미지(예: 앨범 앱에 저장된 이미지)(이하, 내부 이미지)에 대한 특징점(예: 대표 색상, 대표 무늬)에 관한 정보를 미리 저장할 수 있다. 프로세서(120)는 소스 이미지에 대한 특징점과 내부 이미지에 대한 특징점을 비교할 수 있다.
동작 840에서, 프로세서(120)는 상기 비교를 기반으로 매칭되는 내부 이미지를 결정할 수 있다. 예를 들어, 프로세서(120)는 소스 이미지에 대한 특징점과 일치율이 가장 높거나, 지정된 값 이상의 일치 비율을 가지는 내부 이미지를 결정할 수 있다.
동작 850에서, 프로세서(120)는 소스 이미지 또는 결정된 내부 이미지를 기반으로 제1 디스플레이(161) 및 제2 디스플레이(162)에 표시되는 컨텐츠를 변경할 수 있다. 예를 들어, 프로세서(120)는 소스 이미지와 결정된 내부 이미지를 결합하여 제1 디스플레이(161) 및 제2 디스플레이(162)의 배경 이미지로 출력할 수 있다. 다른 예를 들어, 프로세서(120)는 결정된 내부 이미지를 일부 변경하거나 일부 영역을 추출하여, 제1 디스플레이(161) 및 제2 디스플레이(162)의 배경 이미지로 출력할 수 있다
도 9는 다양한 실시 예에 따른 외부 이미지를 이용하는 화면 출력 방법을 설명하는 순서도이다.
도 9를 참조하면, 동작 910 및 920의 동작은 도 8에서의 동작 810 내지 830의 동작과 동일 또는 유사할 수 있다.
동작 930에서, 프로세서(120)는 외부 장치(예: 도1 의 서버(106))에 매칭되는 외부 이미지를 요청할 수 있다. 프로세서(120)는 추출된 특징점에 관한 정보를 외부 장치에 전송하고 매칭되는 이미지를 송신할 것을 요청할 수 있다.
동작 940에서, 프로세서(120)는 외부 장치로부터 특징점이 매칭되는 외부 이미지를 수신할 수 있다.
동작 950에서, 프로세서(120)는 소스 이미지 또는 수신한 외부 이미지를 기반으로 제1 디스플레이(161) 및 제2 디스플레이(162)에 표시되는 컨텐츠를 변경할 수 있다. 예를 들어, 프로세서(120)는 소스 이미지와 수신한 외부 이미지를 결합하여 제1 디스플레이(161) 및 제2 디스플레이(162)의 배경 이미지로 출력할 수 있다. 다른 예를 들어, 프로세서(120)는 수신한 외부 이미지를 일부 변경하거나 일부 영역을 추출하여, 제1 디스플레이(161) 및 제2 디스플레이(162)의 배경 이미지로 출력할 수 있다
도 10는 다양한 실시 예에 따른 제2 디스플레이에 제2 출력 이미지를 적용한 예시도이다. 도 10은 제2 디스플레이(162)가 전자 장치(101)의 좌측 또는 우측 영역인 경우를 예시적으로 도시하였으나, 이에 한정되는 것은 아니다.
도 10을 참조하면, 화면(1001)에서, 프로세서(120)는 제1 디스플레이(161)가 스크린 오프 상태에서, 제2 디스플레이(162a, 162b)를 주변의 색상 또는 무늬와 동일하도록 변경할 수 있다. 예를 들어, 프로세서(120)는 전자 장치(101)이 정지 상태인 경우, 전면 카메라를 이용하여 주변의 조명을 촬영할 수 있다. 프로세서(120)는 해당 조명과 유사한 형태의 무늬를 제2 디스플레이(162a, 162b)에 출력할 수 있다.
다양한 실시 예에서, 제2 디스플레이(162a, 162b)에 출력되는 이미지는 주변에서 발생하는 소리에 반응하여 실시간으로 변경될 수 있다. 예를 들어, 전자 장치(101)의 좌측에 소리를 발생시키는 물체가 있는 경우, 제2 디스플레이(162a)의 이미지 변화가 제2 디스플레이(162b)의 이미지 변화 보다 클 수 있다.
화면(1002)에서, 프로세서(120)는 제1 디스플레이(161)에는 다른 이미지가 출력되는 상태에서, 제2 디스플레이(162a, 162b)를 주변의 색상 또는 무늬와 동일하도록 변경할 수 있다. 예를 들어, 프로세서(120)는 전자 장치(101)이 정지 상태인 경우, 제1 디스플레이(161)에는 비디오 재생 화면이 출력되고, 제2 디스플레이(162a, 162b)에는 전면 카메라를 이용하여 촬영된 주변의 이미지가 출력될 수 있다.
화면(1003)에서, 프로세서(120)는 제2 디스플레이(162a, 162b) 중 지정된 조건에 따라 하나의 영역만 출력되도록 할 수 있다. 예를 들어, 프로세서(120)는 전자 장치(101)의 좌측에 소리를 발생시키는 물체가 있는 경우, 제2 디스플레이(162a)에는 주변의 동일한 무늬의 이미지가 출력되도록 하고, 제2 디스플레이(162b)에는 별도의 이미지가 출력되지 않도록 할 수 있다.
도 11은 다양한 실시 예에 따른 제1 및 제2 출력 이미지의 동적 변화를 설명하는 화면 예시도 이다.
도 11을 참조하면, 프로세서(120)는 주변 환경(예: 바닥면(1110))의 변화에 대응하여 제1 디스플레이(161) 및 제2 디스플레이(162a, 162b)에 출력되는 이미지가 변경된 이후, 카메라 모듈(180) 또는 센서 모듈(190)을 통해 수집된 정보를 기반으로 제1 및 제2 출력 이미지를 업데이트할 수 있다. 도 11에서는 주변의 마이크를 통해 수집된 소리를 기반으로 출력 이미지가 업데이트 되는 경우를 예시적으로 도시하였으나, 이에 한정되는 것은 아니다. 예를 들어, 조도 센서를 이용하여 측정된 주변의 밝기에 따라 출력 이미지의 밝기가 변경될 수 있다.
화면(1101)에서, 프로세서(120)는 제1 디스플레이(161) 및 제2 디스플레이(162a, 162b)를 바닥면(1110)과 동일 또는 유사한 색상 또는 무늬로 출력할 수 있다.
화면(1102)에서, 프로세서(120)는 전자 장치(101)의 좌측에 소리를 발생시키는 제1 물체가 있는 경우, 마이크를 통해 소리의 방향을 인식할 수 있다. 프로세서(120)는 제2 디스플레이(162a)와 제1 디스플레이(161)의 의 좌측 영역에 제1 물체에서 발생하는 소리의 패턴에 따라 실시간으로 변화하는 추가적인 무늬를 출력할 수 있다.
화면(1103)에서, 프로세서(120)는 전자 장치(101)의 우측에 소리를 발생시키는 제2 물체가 있는 경우, 마이크를 통해 소리의 방향을 인식할 수 있다. 프로세서(120)는 제2 디스플레이(162b)와 제1 디스플레이(161)의 의 우측 영역에 제2 물체에서 발생하는 소리의 패턴에 따라 실시간으로 변화하는 추가적인 무늬를 출력할 수 있다.
도 12는 다양한 실시 예에 따른 전자 장치(1201)의 블록도이다.
전자 장치(1201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(1201)는 하나 이상의 프로세서(예: AP)(1212), 통신 모듈(1220), (가입자 식별 모듈(1224), 메모리(1230), 센서 모듈(1240), 입력 장치(1250), 디스플레이(1260), 인터페이스(1270), 오디오 모듈(1280), 카메라 모듈(1291), 전력 관리 모듈(1295), 배터리(1296), 인디케이터(1297), 및 모터(1298)를 포함할 수 있다. 프로세서(1210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(1210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(1210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(1210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(1210)는 도 12에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(1221))를 포함할 수도 있다. 프로세서(1210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(1220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(1220)은, 예를 들면, 셀룰러 모듈(1221), WiFi 모듈(1223), 블루투스 모듈(1225), GNSS 모듈(1227), NFC 모듈(1228) 및 RF 모듈(1229)를 포함할 수 있다. 셀룰러 모듈(1221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1221)은 가입자 식별 모듈(예: SIM 카드)(1224)을 이용하여 통신 네트워크 내에서 전자 장치(1201)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1221)은 프로세서(1210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(1221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(1221), WiFi 모듈(1223), 블루투스 모듈(1225), GNSS 모듈(1227) 또는 NFC 모듈(1228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(1229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(1229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(1221), WiFi 모듈(1223), 블루투스 모듈(1225), GNSS 모듈(1227) 또는 NFC 모듈(1228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(1224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(1230)(예: 메모리(130))는, 예를 들면, 내장 메모리(1232) 또는 외장 메모리(1234)를 포함할 수 있다. 내장 메모리(1232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(1234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(1234)는 다양한 인터페이스를 통하여 전자 장치(1201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(1240)은, 예를 들면, 물리량을 계측하거나 전자 장치(1201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(1240)은, 예를 들면, 제스처 센서(1240A), 자이로 센서(1240B), 기압 센서(1240C), 마그네틱 센서(1240D), 가속도 센서(1240E), 그립 센서(1240F), 근접 센서(1240G), 컬러(color) 센서(1240H)(예: RGB(red, green, blue) 센서), 생체 센서(1240I), 온/습도 센서(1240J), 조도 센서(1240K), 또는 UV(ultra violet) 센서(1240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(1240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(1240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1201)는 프로세서(1210)의 일부로서 또는 별도로, 센서 모듈(1240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(1210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(1240)을 제어할 수 있다.
입력 장치(1250)는, 예를 들면, 터치 패널(1252), (디지털) 펜 센서(1254), 키(1256), 또는 초음파 입력 장치(1258)를 포함할 수 있다. 터치 패널(1252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(1252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(1252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(1254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(1256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(1258)는 마이크(예: 마이크(1288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(1260)(예: 디스플레이(160))는 패널(1262), 홀로그램 장치(1264), 프로젝터(1266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(1262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(1262)은 터치 패널(1252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시 예에 따르면, 패널(1262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(1252)과 일체형으로 구현되거나, 또는 터치 패널(1252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(1264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(1266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(1201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(1270)는, 예를 들면, HDMI(1272), USB(1274), 광 인터페이스(optical interface)(1276), 또는 D-sub(D-subminiature)(1278)를 포함할 수 있다. 인터페이스(1270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(1270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(1280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(1280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(1280)은, 예를 들면, 스피커(1282), 리시버(1284), 이어폰(1286), 또는 마이크(1288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(1291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(1295)은, 예를 들면, 전자 장치(1201)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(1295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(1296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(1296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(1297)는 전자 장치(1201) 또는 그 일부(예: 프로세서(1210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(1298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(1201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치(예: 전자 장치(1201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 13은 다양한 실시 예에 따른 프로그램 모듈의 블록도이다. 한 실시 예에 따르면, 프로그램 모듈(1310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 13을 참조하면, 프로그램 모듈(1310)은 커널(1320)(예: 커널(141)), 미들웨어(1330)(예: 미들웨어(143)), (API(1360)(예: API(145)), 및/또는 어플리케이션(1370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(1310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(1320)은, 예를 들면, 시스템 리소스 매니저(1321) 및/또는 디바이스 드라이버(1323)를 포함할 수 있다. 시스템 리소스 매니저(1321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(1321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(1323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(1330)는, 예를 들면, 어플리케이션(1370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(1370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(1360)를 통해 다양한 기능들을 어플리케이션(1370)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(1330) 는 런타임 라이브러리(1335), 어플리케이션 매니저(1341), 윈도우 매니저(1342), 멀티미디어 매니저(1343), 리소스 매니저(1344), 파워 매니저(1345), 데이터베이스 매니저(1346), 패키지 매니저(1347), 연결 매니저(1348), 통지 매니저(1349), 위치 매니저(1350), 그래픽 매니저(1351), 또는 보안 매니저(1352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(1335)는, 예를 들면, 어플리케이션(1370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(1335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(1341)는, 예를 들면, 어플리케이션(1370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(1342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(1343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(1344)는 어플리케이션(1370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(1345)는, 예를 들면, 배터리의 용량 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보를 제공할 수 있다. 한 실시 예에 따르면, 파워 매니저(1345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(1346)는, 예를 들면, 어플리케이션(1370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(1347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(1348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(1349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(1350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(1351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(1352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(1330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시 예에 따르면, 미들웨어(1330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(1330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(1360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(1370)은, 예를 들면, 홈(1371), 다이얼러(1372), SMS/MMS(1373), IM(instant message)(1374), 브라우저(1375), 카메라(1376), 알람(1377), 컨택트(1378), 음성 다이얼(1379), 이메일(1380), 달력(1381), 미디어 플레이어(1382), 앨범(1383), 와치(1384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(1370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시 예에 따르면, 어플리케이션(1370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(1370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(1310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(120)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
다양한 실시 예에 따른 전자 장치는 이미지를 촬영할 수 있는 카메라 모듈, 전자 장치 또는 외부 객체에 관한 신호를 인식할 수 있는 센서 모듈, 컨텐츠를 출력할 수 있는 제1 디스플레이 및 제2 디스플레이, 메모리 및 상기 카메라 모듈, 상기 제1 디스플레이, 제2 디스플레이 및 상기 메모리와 전기적으로 연결되는 프로세서를 포함하고, 상기 프로세서는 상기 전자 장치가 제1 상태에 진입하는지를 확인하고, 상기 제1 상태에 진입하면 상기 카메라 모듈을 이용하여 소스 이미지를 촬영하고, 상기 소스 이미지를 기반으로 상기 제1 디스플레이에 출력되는 제1 출력 이미지, 또는 상기 제2 디스플레이에 출력되는 제2 출력 이미지를 생성할 수 있다.
일 실시 예에서, 상기 프로세서는 상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제1 상태로 결정할 수 있다. 다른 일 실시 예에서, 상기 프로세서는 자이로 센서 또는 가속도 센서의 측정값을 기반으로 상기 전자 장치의 정지된 상태를 결정할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는 상기 소스 이미지에서 추출된 색상 또는 무늬를 기반으로 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 생성할 수 있다. 상기 프로세서는 상기 소스 이미지의 중심 영역에서 상기 색상 또는 상기 무늬를 추출할 수 있다. 상기 프로세서는 상기 소스 이미지의 전체 픽셀 또는 샘플링된 픽셀에서 상기 색상 또는 상기 무늬를 추출할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는 상기 센서 모듈을 통해 측정된 상기 전자 장치의 이동 속도 또는 상기 전자 장치와 외부 객체 사이의 거리 중 적어도 하나를 기반으로 상기 제1 상태를 결정할 수 있다. 상기 프로세서는 상기 이동 속도가 제1 문턱값 이하이고, 상기 거리가 제2 문턱값 이하인 상태를 상기 제1 상태로 결정할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는 상기 전자 장치가 제2 상태에 진입하면, 상기 제1 출력 이미지를 상기 제1 디스플레이에 적용하고, 상기 제2 출력 이미지를 상기 제2 디스플레이에 적용할 수 있다. 상기 프로세서는 상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제2상태로 결정할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는 미리 설정된 필터를 적용하여 상기 소스 이미지를 촬영할 수 있다. 상기 프로세서는 상기 전자 장치가 상기 제1 상태에 진입하면 복수의 이미지들을 촬영하고, 복수의 이미지들 중 적어도 일부를 상기 소스 이미지로 결정할 수 있다.
일 실시 예에서, 상기 프로세서는 상기 소스 이미지에서 추출한 특징점을 기반으로 상기 메모리에 저장된 이미지를 검색하여 매칭되는 내부 이미지를 결정하고, 상기 소스 이미지 및 상기 결정된 내부 이미지를 기반으로 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 생성할 수 있다. 다른 일 실시 예에서, 상기 프로세서는 상기 소스 이미지에서 추출한 특징점을 기반으로 외부 장치에 매칭되는 외부 이미지를 요청하고, 상기 소스 이미지 및 상기 외부 이미지를 기반으로 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 생성할 수 있다.
다양한 실시 예에 따르면, 상기 소스 이미지에서 추출한 특징점을 기반으로 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 생성하고, 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 상기 메모리에 저장할 수 있다.
다양한 실시 예에 따른 화면 출력 방법은 전자 장치에서 수행되고, 상기 전자 장치가 제1 상태에 진입하는지를 확인하는 동작, 상기 제1 상태에 진입하면 카메라 모듈을 이용하여 소스 이미지를 촬영하는 동작 및, 상기 소스 이미지를 기반으로 제1 디스플레이에 출력되는 제1 출력 이미지 및 제2 디스플레이에 출력되는 제2 출력 이미지를 생성하는 동작을 포함할 수 있다.
일 실시 예에서, 상기 전자 장치가 제1 상태에 진입하는지를 확인하는 동작은 상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제1 상태로 결정하는 동작을 포함할 수 있다. 다른 일 실시 예에서, 상기 전자 장치가 제1 상태에 진입하는지를 확인하는 동작은 센서 모듈을 통해 측정된 상기 전자 장치의 이동 속도 또는 상기 전자 장치와 외부 객체 사이의 거리 중 적어도 하나를 기반으로 상기 제1 상태를 결정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 화면 출력 방법은 상기 전자 장치가 제2 상태에 진입하면, 상기 제1 디스플레이 및 상기 제2 디스플레이에 각각 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 적용하는 동작을 더 포함할 수 있다. 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 적용하는 동작은 상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제2상태로 결정하는 동작을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예: 메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    이미지를 촬영할 수 있는 카메라 모듈;
    전자 장치 또는 외부 객체에 관한 신호를 인식할 수 있는 센서 모듈;
    컨텐츠를 출력할 수 있는 제1 디스플레이 및 제2 디스플레이;
    메모리; 및
    상기 카메라 모듈, 상기 제1 디스플레이, 제2 디스플레이 및 상기 메모리와 전기적으로 연결되는 프로세서;를 포함하고,
    상기 프로세서는
    상기 전자 장치가 제1 상태에 진입하는지를 확인하고,
    상기 제1 상태에 진입하면 상기 카메라 모듈을 이용하여 소스 이미지를 촬영하고,
    상기 소스 이미지를 기반으로 상기 제1 디스플레이에 출력되는 제1 출력 이미지 또는 상기 제2 디스플레이에 출력되는 제2 출력 이미지를 생성하는 전자 장치.
  2. 제1항에 있어서, 상기 프로세서는
    상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제1 상태로 결정하는 전자 장치.
  3. 제2항에 있어서, 상기 프로세서는
    자이로 센서 또는 가속도 센서의 측정값을 기반으로 상기 전자 장치의 정지된 상태를 결정하는 전자 장치.
  4. 제1항에 있어서, 상기 프로세서는
    상기 소스 이미지에서 추출된 색상 또는 무늬를 기반으로 상기 제1 출력 이미지또는 상기 제2 출력 이미지를 생성하는 전자 장치.
  5. 제1항에 있어서, 상기 프로세서는
    상기 센서 모듈을 통해 측정된 상기 전자 장치의 이동 속도 또는 상기 전자 장치와 외부 객체 사이의 거리 중 적어도 하나를 기반으로 상기 제1 상태를 결정하는 전자 장치.
  6. 제7항에 있어서, 상기 프로세서는
    상기 전자 장치가 제2 상태에 진입하면, 상기 제1 출력 이미지를 상기 제1 디스플레이에 적용하고, 상기 제2 출력 이미지를 상기 제2 디스플레이에 적용하는 전자 장치.
  7. 제6항에 있어서, 상기 프로세서는
    상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제2상태로 결정하는 전자 장치.
  8. 제1항에 있어서, 상기 프로세서는
    미리 설정된 필터를 적용하여 상기 소스 이미지를 촬영하는 전자 장치.
  9. 제1항에 있어서, 상기 프로세서는
    상기 소스 이미지에서 추출한 특징점을 기반으로 상기 메모리에 저장된 이미지를 검색하여 매칭되는 내부 이미지를 결정하고, 상기 소스 이미지 및 상기 결정된 내부 이미지를 기반으로 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 생성하는 전자 장치.
  10. 제1항에 있어서, 상기 프로세서는
    상기 소스 이미지에서 추출한 특징점을 기반으로 외부 장치에 매칭되는 외부 이미지를 요청하고, 상기 소스 이미지 및 상기 외부 이미지를 기반으로 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 생성하는 전자 장치.
  11. 전자 장치에서 수행되는 화면 출력 방법에 있어서,
    상기 전자 장치가 제1 상태에 진입하는지를 확인하는 동작;
    상기 제1 상태에 진입하면 카메라 모듈을 이용하여 소스 이미지를 촬영하는 동작; 및,
    상기 소스 이미지를 기반으로 제1 디스플레이에 출력되는 제1 출력 이미지 및 제2 디스플레이에 출력되는 제2 출력 이미지를 생성하는 동작;을 포함하는 방법.
  12. 제11항에 있어서, 상기 전자 장치가 제1 상태에 진입하는지를 확인하는 동작은
    상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제1 상태로 결정하는 동작;을 포함하는 방법.
  13. 제11항에 있어서, 상기 전자 장치가 제1 상태에 진입하는지를 확인하는 동작은
    센서 모듈을 통해 측정된 상기 전자 장치의 이동 속도 또는 상기 전자 장치와 외부 객체 사이의 거리 중 적어도 하나를 기반으로 상기 제1 상태를 결정하는 동작;을 포함하는 방법.
  14. 제13항에 있어서,
    상기 전자 장치가 제2 상태에 진입하면, 상기 제1 디스플레이 및 상기 제2 디스플레이에 각각 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 적용하는 동작;을 더 포함하는 방법.
  15. 제14항에 있어서, 상기 제1 출력 이미지 및 상기 제2 출력 이미지를 적용하는 동작은
    상기 센서 모듈을 통해 수집된 정보를 기반으로 상기 전자 장치가 정지된 상태를 상기 제2상태로 결정하는 동작;을 포함하는 방법.
PCT/KR2017/005782 2016-06-02 2017-06-02 화면 출력 방법 및 이를 지원하는 전자 장치 WO2017209560A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP17807053.8A EP3457268B1 (en) 2016-06-02 2017-06-02 Screen output method and electronic device supporting same
US16/306,763 US10990196B2 (en) 2016-06-02 2017-06-02 Screen output method and electronic device supporting same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2016-0069091 2016-06-02
KR1020160069091A KR102620138B1 (ko) 2016-06-02 2016-06-02 화면 출력 방법 및 이를 지원하는 전자 장치

Publications (1)

Publication Number Publication Date
WO2017209560A1 true WO2017209560A1 (ko) 2017-12-07

Family

ID=60477682

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/005782 WO2017209560A1 (ko) 2016-06-02 2017-06-02 화면 출력 방법 및 이를 지원하는 전자 장치

Country Status (4)

Country Link
US (1) US10990196B2 (ko)
EP (1) EP3457268B1 (ko)
KR (1) KR102620138B1 (ko)
WO (1) WO2017209560A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110514181A (zh) * 2018-05-22 2019-11-29 杭州萤石软件有限公司 一种电子设备定位方法和装置

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11003345B2 (en) 2016-05-16 2021-05-11 Google Llc Control-article-based control of a user interface
KR20190081561A (ko) * 2017-12-29 2019-07-09 삼성전자주식회사 전자 장치 및 그 제어 방법
KR20190101832A (ko) * 2018-02-23 2019-09-02 삼성전자주식회사 전자 장치 및 아바타 기반의 커스텀 객체 운용 방법
KR102604170B1 (ko) 2018-09-27 2023-11-20 삼성전자주식회사 전자 장치 및 그 제어 방법
CN109189544B (zh) * 2018-10-17 2021-09-17 三星电子（中国）研发中心 用于生成表盘的方法和装置
CN113924568A (zh) 2019-06-26 2022-01-11 谷歌有限责任公司 基于雷达的认证状态反馈
KR20210153695A (ko) 2019-07-26 2021-12-17 구글 엘엘씨 Imu 및 레이더를 통한 인증 관리
KR20220005081A (ko) 2019-07-26 2022-01-12 구글 엘엘씨 Imu 및 레이더를 기반으로 한 상태 감소
US11868537B2 (en) 2019-07-26 2024-01-09 Google Llc Robust radar-based gesture-recognition by user equipment
US11385722B2 (en) 2019-07-26 2022-07-12 Google Llc Robust radar-based gesture-recognition by user equipment
US11467672B2 (en) 2019-08-30 2022-10-11 Google Llc Context-sensitive control of radar-based gesture-recognition
KR102479012B1 (ko) 2019-08-30 2022-12-20 구글 엘엘씨 일시정지된 레이더 제스처에 대한 시각적 표시자
KR102416386B1 (ko) * 2019-08-30 2022-07-05 구글 엘엘씨 다중 입력 모드에 대한 입력 모드 통지
CN112753005B (zh) 2019-08-30 2024-03-01 谷歌有限责任公司 移动设备的输入方法
US11868596B2 (en) * 2021-07-28 2024-01-09 Capital One Services, Llc Color-based system for generating notifications
CN114356264B (zh) * 2021-12-30 2023-12-05 威创集团股份有限公司 一种信号生成方法、装置、设备及可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110148916A1 (en) * 2003-03-03 2011-06-23 Aol Inc. Modifying avatar behavior based on user action or mood
KR20130124111A (ko) * 2012-05-04 2013-11-13 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US20140035893A1 (en) * 2012-07-31 2014-02-06 Warren Jackson Color adjustment based on object positioned near display surface
KR20150017258A (ko) * 2013-08-06 2015-02-16 엘지전자 주식회사 이동 단말기 및 이의 제어방법
US20150279115A1 (en) * 2014-03-31 2015-10-01 Meural Inc. System and method for output display generation based on ambient conditions

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7689649B2 (en) 2002-05-31 2010-03-30 Aol Inc. Rendering destination instant messaging personalization items before communicating with destination
US7779076B2 (en) 2002-05-31 2010-08-17 Aol Inc. Instant messaging personalization
US20030225848A1 (en) 2002-05-31 2003-12-04 Brian Heikes Remote instant messaging personalization items
US20030225847A1 (en) 2002-05-31 2003-12-04 Brian Heikes Sending instant messaging personalization items
US7685237B1 (en) 2002-05-31 2010-03-23 Aol Inc. Multiple personalities in chat communications
US8037150B2 (en) 2002-11-21 2011-10-11 Aol Inc. System and methods for providing multiple personas in a communications environment
US7636755B2 (en) 2002-11-21 2009-12-22 Aol Llc Multiple avatar personalities
AU2003291041A1 (en) 2002-11-21 2004-06-18 America Online, Inc. Multiple personalities
US20070113181A1 (en) 2003-03-03 2007-05-17 Blattner Patrick D Using avatars to communicate real-time information
US20070168863A1 (en) 2003-03-03 2007-07-19 Aol Llc Interacting avatars in an instant messaging communication session
US20040179039A1 (en) 2003-03-03 2004-09-16 Blattner Patrick D. Using avatars to communicate
US7913176B1 (en) 2003-03-03 2011-03-22 Aol Inc. Applying access controls to communications with avatars
EP1513330A1 (en) 2003-09-08 2005-03-09 Sony Ericsson Mobile Communications AB Device with graphics dependent on the environment and method therefor
JP4218830B2 (ja) 2003-11-18 2009-02-04 ソニー・エリクソン・モバイルコミュニケーションズ株式会社 携帯型情報装置
US7280096B2 (en) * 2004-03-23 2007-10-09 Fujitsu Limited Motion sensor engagement for a handheld device
JP4885170B2 (ja) 2008-06-27 2012-02-29 京セラ株式会社 携帯電話機
KR101101127B1 (ko) * 2009-07-28 2011-12-30 이화여자대학교 산학협력단 플렉시블 디스플레이 패널을 이용한 실시간 환경 색 감응형 위장 스마트웨어
US20170352188A1 (en) * 2011-03-24 2017-12-07 Pantomime Corporation Support Based 3D Navigation
US8947627B2 (en) 2011-10-14 2015-02-03 Apple Inc. Electronic devices having displays with openings
US20140228073A1 (en) * 2013-02-14 2014-08-14 Lsi Corporation Automatic presentation of an image from a camera responsive to detection of a particular type of movement of a user device
US9806219B2 (en) 2013-02-14 2017-10-31 Apple Inc. Displays with camera window openings
US9462175B2 (en) * 2013-11-18 2016-10-04 Heekwan Kim Digital annotation-based visual recognition book pronunciation system and related method of operation
JP6065887B2 (ja) 2014-07-28 2017-01-25 コニカミノルタ株式会社 管理システム、画像処理装置、およびプロトコル分担プログラム
KR102395171B1 (ko) * 2015-04-27 2022-05-06 삼성전자주식회사 사용자 인터페이스 표시 방법 및 그 전자 장치
KR102427822B1 (ko) * 2015-08-12 2022-08-01 삼성전자주식회사 위치 정보 제공 방법 및 장치

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110148916A1 (en) * 2003-03-03 2011-06-23 Aol Inc. Modifying avatar behavior based on user action or mood
KR20130124111A (ko) * 2012-05-04 2013-11-13 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US20140035893A1 (en) * 2012-07-31 2014-02-06 Warren Jackson Color adjustment based on object positioned near display surface
KR20150017258A (ko) * 2013-08-06 2015-02-16 엘지전자 주식회사 이동 단말기 및 이의 제어방법
US20150279115A1 (en) * 2014-03-31 2015-10-01 Meural Inc. System and method for output display generation based on ambient conditions

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3457268A4 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110514181A (zh) * 2018-05-22 2019-11-29 杭州萤石软件有限公司 一种电子设备定位方法和装置

Also Published As

Publication number Publication date
KR102620138B1 (ko) 2024-01-03
US10990196B2 (en) 2021-04-27
EP3457268A1 (en) 2019-03-20
KR20170136920A (ko) 2017-12-12
EP3457268A4 (en) 2019-06-19
EP3457268B1 (en) 2020-08-05
US20190129520A1 (en) 2019-05-02

Similar Documents

Publication Publication Date Title
WO2017209560A1 (ko) 화면 출력 방법 및 이를 지원하는 전자 장치
WO2017209528A1 (en) Electronic apparatus and operating method thereof
WO2018093060A1 (ko) 전자 장치 및 상기 전자 장치를 제어하는 방법
WO2017188577A1 (ko) 배터리의 충전을 제어하기 위한 방법 및 그 전자 장치
WO2018128389A1 (en) Electronic device and method for displaying history of executed application thereof
WO2017142182A1 (ko) 이미지 처리 방법 및 이를 지원하는 전자 장치
WO2018174648A1 (ko) 전자 장치 및 이를 이용한 카메라 촬영 환경 및 장면에 따른 영상 처리 방법
WO2018147588A1 (ko) 전자 장치
WO2018074898A1 (ko) 송신 전력을 제어하기 위한 전자장치 및 방법
WO2018139752A1 (ko) 복수의 카메라를 제어하는 방법 및 전자 장치
WO2018106064A1 (ko) 무인비행체를 제어하는 전자 장치 및 그 제어 방법
WO2017116052A1 (ko) 컨텐트 인식 장치 및 그 동작 방법
WO2018155928A1 (ko) 복수의 생체 센서를 이용하여 인증을 수행하기 위한 전자 장치 및 그의 동작 방법
WO2017171248A1 (ko) 이미지를 처리하기 위한 전자 장치 및 방법
WO2017175962A1 (ko) 화면을 표시하는 전자 장치 및 그 제어 방법
WO2018021726A1 (ko) 카메라 모듈의 활성화를 제어하기 위한 전자 장치 및 방법
WO2017146482A1 (ko) 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
WO2018084649A1 (ko) 눈을 촬영하여 정보를 획득하는 방법 및 장치
WO2017111313A1 (ko) 웹푸시를 이용한 푸시 서비스 제공 방법 및 이를 지원하는 전자 장치
WO2018131841A1 (ko) 전자장치 및 이를 활용한 액츄에이터 제어 방법
WO2018021723A1 (ko) 이미지의 유사도에 기초하여 이미지들을 연속적으로 표시하는 방법 및 장치
WO2017082554A1 (ko) 액세서리 장치를 감지하는 전자장치 및 그의 동작 방법
WO2018131852A1 (ko) 영상 통화를 수행하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록매체
WO2017126767A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2018169304A2 (ko) 도어락 장치 및 도어락 장치의 제어 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17807053

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2017807053

Country of ref document: EP

Effective date: 20181211