WO2022220408A1 - 전자 장치 및 외부 장치를 이용한 화면 재구성 방법 - Google Patents

전자 장치 및 외부 장치를 이용한 화면 재구성 방법 Download PDF

Info

Publication number
WO2022220408A1
WO2022220408A1 PCT/KR2022/003389 KR2022003389W WO2022220408A1 WO 2022220408 A1 WO2022220408 A1 WO 2022220408A1 KR 2022003389 W KR2022003389 W KR 2022003389W WO 2022220408 A1 WO2022220408 A1 WO 2022220408A1
Authority
WO
WIPO (PCT)
Prior art keywords
external device
item
electronic device
view
processor
Prior art date
Application number
PCT/KR2022/003389
Other languages
English (en)
French (fr)
Inventor
강민구
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2022220408A1 publication Critical patent/WO2022220408A1/ko
Priority to US18/485,687 priority Critical patent/US20240118857A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1454—Digital output to display device ; Cooperation and interconnection of the display device with other functional units involving copying of the display data of a local workstation or window to a remote workstation or window so that an actual copy of the data is displayed simultaneously on two or more displays, e.g. teledisplay
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00—Aspects of interface with display user
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00—Aspects of data communication
    • G09G2370/16—Use of wireless transmission of display information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W76/00—Connection management
    • H04W76/10—Connection setup

Definitions

  • This document relates to an electronic device, and for example, to a method of reconfiguring a screen displayed on a display of the electronic device using an external device.
  • the electronic device may transmit a file and play a video by utilizing various applications, and may share content to an external device.
  • a user may execute various applications in the electronic device, and a user interface for user convenience is provided for each application.
  • a user interface suitable for a display of a smart phone, a tablet PC, a smart watch, or a desktop personal computer may be provided.
  • a conventional electronic device may display information on a larger screen using an electronic device having a surrounding screen, or the connected electronic devices may execute different applications to simultaneously perform several tasks.
  • the application cannot directly control and interact with the screen of the nearby electronic device, the application cannot actively configure the user interface by using the surrounding electronic device.
  • the purpose of the various embodiments of the present document is to provide a method in which the application can directly control the screen of the external device to reconfigure the screen when the electronic device reconfigures the screen of the application using the screen of the external device as described above. have.
  • An electronic device includes a display, a communication module, a memory, and a processor operatively connected to the display, the communication module, and the memory, and the processor is configured to be external using the communication module.
  • the view data for transmission may be transmitted by generating view data of the external device and establishing a communication connection with the external device.
  • An electronic device includes a display, a communication module, a memory, and a processor operatively connected to the display, the communication module, and the memory, wherein the processor receives view event information from an external device Received, modifying view data based on the received view event information, changing the modified view data into view data for transmission, and transmitting the modified view data to the external device.
  • a method of using an external device display of an electronic device includes an operation of establishing a communication connection with an external device using a communication module to obtain device information of the external device, and based on the device information, in the electronic device Determining at least one item to be transmitted to the communication-connected external device from among the items displayed in the running application, generating view data of the external device including information on the determined item, and view data for transmission may include an operation of transmitting to the external device.
  • a user may reconfigure an application execution screen by utilizing a display of an external device.
  • the application may recognize an external device existing in the vicinity and transmit a part of the execution screen through a communication connection to actively utilize the screen of the external device.
  • the application execution screen can be reconfigured according to the user's intention, it is possible to provide a customized screen for each user for each application.
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to various embodiments of the present disclosure
  • FIG. 2 is a diagram illustrating screen reconstruction of an electronic device using an external device according to various embodiments of the present disclosure
  • FIG. 3 is a diagram illustrating screen reconstruction for each type of external device according to various embodiments of the present disclosure
  • FIG. 4 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • 5A and 5B are diagrams illustrating a screen for determining an item to be transmitted to an external device according to various embodiments of the present disclosure
  • 6A and 6B are diagrams illustrating an existing view layout, an extended view layout, and a modified view layout according to various embodiments of the present disclosure
  • FIG. 7 is a diagram illustrating a case in which a visual effect is added to an item that can be transmitted to an external device on an application execution screen according to various embodiments of the present disclosure
  • FIG. 8 is a diagram illustrating a view tree structure for storing view data according to various embodiments of the present disclosure
  • FIG. 9 is a diagram illustrating a menu indicating an external device capable of connecting to an extended view according to various embodiments of the present disclosure.
  • FIG. 10 is a diagram illustrating a pop-up message for requesting acceptance of an extended view connection to an external device according to various embodiments of the present disclosure
  • FIG. 11 is a flowchart illustrating a method of reconfiguring an application execution screen using an external device according to various embodiments of the present disclosure
  • FIG. 12 is a flowchart of a method of generating view data based on a user input according to various embodiments of the present disclosure
  • FIG. 13 is a flowchart of a method of reconfiguring a screen through wireless communication connection with an external device according to various embodiments of the present disclosure
  • FIG. 14 is a flowchart of an operation of generating and transmitting view event information for transmission to an external device according to various embodiments of the present disclosure
  • FIG. 15 is a flowchart of an operation of generating and displaying an extended view layout in an external device based on view data according to various embodiments of the present disclosure
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100, according to various embodiments.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with at least one of the electronic device 104 and the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199
  • the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 .
  • at least one of these components eg, the connection terminal 178
  • some of these components are integrated into one component (eg, display module 160 ). can be
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • the processor 120 is the main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • the main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor.
  • the main processor 121 e.g, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a
  • the secondary processor 123 may, for example, act on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190 ). have.
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 , or an external electronic device (eg, a sound output module 155 ) connected directly or wirelessly with the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the electronic device 102 may output a sound.
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a telecommunication network
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 uses various techniques for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 192 may support various requirements defined in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
  • the wireless communication module 192 may include a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: Downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less) can be supported.
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module comprises a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, bottom side) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or a part of operations executed in the electronic device 101 may be executed in one or more external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of things (IoT) device.
  • the server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or the server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • first, second, or first or second may simply be used to distinguish an element from other elements in question, and may refer elements to other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document include one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101).
  • a storage medium eg, internal memory 136 or external memory 138
  • the processor eg, the processor 120
  • the device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term is used in cases where data is semi-permanently stored in the storage medium and It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided as included in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or via an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly or online between smartphones (eg: smartphones).
  • a portion of the computer program product may be temporarily stored or temporarily generated in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a memory of a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. have.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. , or one or more other operations may be added.
  • FIG. 2 is a diagram illustrating screen reconstruction of an electronic device using an external device according to various embodiments of the present disclosure
  • the processor may display an application execution screen on the display of the electronic device 200 . At least one item may be displayed on the application execution screen, and a predetermined function may be performed based on a user input. For example, when executing a drawing application, the electronic device 200 may execute a drawing function based on a user input.
  • the drawing application execution screen may include at least one of a canvas and a brush tool window.
  • the processor may configure an existing view layout by arranging each item according to an application setting or a user setting. The processor displays the existing view layout on the display, and the user can use the application on the existing view layout.
  • the processor may transmit a part of the application execution screen to the external device 210 .
  • the processor may determine an item to be transmitted to the external device 210 according to an application setting, and generate view data based on the determined item.
  • the processor may determine an item to be transmitted to the external device 210 based on a user input. For example, in the above example, when the user wants to transmit the brush tool window to the external device 210, the processor may determine to transmit the corresponding item to the external device 210 based on the user input and generate view data. have.
  • the processor may store the view data in a tree structure.
  • the processor may generate a view layout based on the generated view data.
  • the processor may generate an extended view layout to be displayed on the external device 210 .
  • the processor may determine an item to be transmitted to the external device 210 based on at least one of an application setting and a user setting, and determine how to arrange the item to generate the extended view layout.
  • the processor may generate a modified view layout to be displayed on the electronic device 200 .
  • the processor may generate view data including information on the extended view layout, transmit it to the external device 210 , and configure the display of the electronic device 220 according to the modified view layout.
  • the processor may convert view data generated to transmit view data to the external device 210 into view data for transmission.
  • the processor may transmit the view data for transmission to the external device 210 .
  • the processor may determine the external device 210 to which the extended view is connectable according to a filter condition for each item.
  • the filter condition may include at least one of a device type, a screen size, whether only devices of the same account are supported, whether a pen is supported, and operating system information.
  • the processor may determine an external device that satisfies a filter condition among external devices capable of communication connection as the external device 210 capable of connecting to the extended view.
  • the processor may establish a wireless communication connection (eg, Bluetooth (BT), Bluetooth low energy (BLE)) with at least one external device 210 .
  • the processor may perform a wireless communication scan when at least one of entering a view selection mode, logging into an account, and changing a state of the electronic device 200 occurs.
  • a scan filter eg, BLE MAC address, service ID, manufacturing ID
  • the processor may stop scanning when a desired external device 210 is found.
  • the processor may search for the external device 210 that meets the filter condition through data broadcasting (eg, BLE advertisement).
  • the processor may transmit a BLE advertisement packet containing information on filter conditions.
  • the BLE packet may include at least one of service ID, manufacturing ID, account information, device status information, network status information, device type, screen size, pen support, and operating system information.
  • the processor establishes a wireless communication connection (eg, BT, BLE, Wifi, Wifi P2P, Mobile Network, secure source layer (SSL)) with the external device 210 by performing a wireless communication scan and data broadcasting can do.
  • the external device 210 and the electronic device 200 may transmit/receive data using a BLE packet.
  • data may be transmitted/received using the existing communication connection without the need to establish a new communication connection.
  • the processor may display the external device 210 determined as an external device that can be connected to an extended view on one side of the display.
  • the processor may provide at least one of a graphic object indicating extended view connectable external devices and a list of connectable external devices.
  • the processor may determine the external device 210 to establish the extended view connection based on a user input for at least one of the graphic object and the list.
  • the processor may determine whether account information of the electronic device 200 and the external device 210 match. When the account information of the electronic device 200 and the external device 210 match, the processor may establish an extended view connection between the corresponding external device 210 and the electronic device 200 without a separate process. When the account information of the electronic device 200 and the external device 210 do not match, the processor may display a pop-up message requesting acceptance of the extended view connection on the display. The processor may determine whether to establish an extended view connection with the external device 210 based on a user input for the pop-up message.
  • the external device 210 may generate view event information based on a user input.
  • the external device 210 may receive it and generate view event information.
  • the view event information may include at least one operation of a user's touch input, drag, and press with respect to a button.
  • the external device 210 may transmit the generated view event information to the electronic device 220 .
  • the processor may reconfigure view data to be transmitted to the external device 210 into view data for transmission.
  • at least a portion of data included in the view data may be unnecessary or incompatible data on the operating system or platform of the external device 210 .
  • the processor may remove the attribute, or may change the attribute to another similar attribute value if the attribute is incompatible.
  • the processor may modify view data based on the received view event information.
  • the processor may determine whether the view data transmitted to the external device 210 needs to be modified based on the view event information.
  • the processor may modify view data when a change is required in the extended view layout displayed on the external device 210 and the modified view layout displayed on the electronic device 220 .
  • the processor may retransmit the modified view data to the external device 210 .
  • the processor may convert the modified view data into view data for transmission in order to transmit it to the external device 210 .
  • the processor may transmit control data to the external device 210 .
  • the control data may include setting information for at least one of a notification sound, vibration, screen on/off, and screen lock.
  • the processor may generate control data for the corresponding information and transmit the generated control data to the external device 210 .
  • FIG. 3 is a diagram illustrating screen reconstruction for each type of external device according to various embodiments of the present disclosure
  • the processor may establish extended view connections with a plurality of external devices.
  • the processor may check the item attribute value of the application and generate view data for each type of external device.
  • the processor may generate first-view data for the smartphone 302 and second-view data for the tablet 312 .
  • the types of items included in the first view data and the second view data may be different.
  • the processor may determine whether to generate view data including which item according to each external device based on at least one of an application setting and a user setting.
  • the processor may transmit view data for a screen mirroring the execution screen of the electronic device 300 to the external device 302 .
  • the processor may generate an extended view layout identical to the existing view layout and transmit it to the smartphone 302 .
  • the processor may transmit only a part of the execution screen of the electronic device 310 to the external device 312 .
  • the processor may transmit view data for the image screen excluding the manipulation menu to the external device 312 in order to view it on a larger screen.
  • the view data for the operation menu may include view data including a play button, a pause button, a fast forward button, and a back button.
  • FIG. 4 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 400 may include a display 420 , a communication module 430 , a processor 410 , and a memory 440 , and in various embodiments, some of the illustrated components are omitted. Or it may be substituted.
  • the electronic device 400 may further include at least some of the configuration and/or functions of the electronic device 101 of FIG. 1 . At least some of the respective components of the illustrated (or not illustrated) electronic device 400 may be operatively, functionally, and/or electrically connected.
  • the display 420 may display various images under the control of the processor 410 .
  • the display 420 may be implemented as any one of a liquid crystal display (LCD), a light-emitting diode (LED) display, or an organic light-emitting diode (OLED) display. and is not limited thereto.
  • the display 420 may be formed as a touch screen that senses a touch and/or proximity touch (or hovering) input using a user's body part (eg, a finger) or an input device (eg, a stylus pen).
  • the display 420 may include at least some of the configuration and/or functions of the display module 160 of FIG. 1 .
  • the display 420 may be flexible, and may be implemented as a foldable display or a rollable display.
  • the communication module 430 may communicate with an external device through a wireless network under the control of the processor 410 .
  • the communication module 430 is hardware and software for transmitting and receiving data from a cellular network (eg, a long term evolution (LTE) network, a 5G network, a new radio (NR) network) and a local area network (eg, Wi-Fi, bluetooth) It may contain modules.
  • the communication module 430 may include at least some of the configuration and/or functions of the communication module 190 of FIG. 1 .
  • the memory 440 includes a volatile memory (eg, the volatile memory 132 of FIG. 1 ) and a non-volatile memory (eg, the non-volatile memory 134 of FIG. 1 ) to temporarily store various data. Or you can store it permanently.
  • the memory 440 may include at least some of the configuration and/or functions of the memory 130 of FIG. 1 , and may store the program 140 of FIG. 1 .
  • the memory 440 may store various instructions that may be executed by the processor 410 .
  • Such instructions may include control commands such as arithmetic and logical operations, data movement, input/output, and the like, which may be recognized by the processor 410 .
  • the processor 410 is operatively with each component of the electronic device 400 (eg, the display 420 , the communication module 430 , the processor 410 , and the memory 440 ). ), functionally, and/or electrically connected, may be a configuration capable of performing operations or data processing related to control and/or communication of respective components.
  • the processor 410 may include at least some of the configuration and/or functions of the processor 120 of FIG. 1 .
  • the processor 410 can implement on the electronic device 400 .
  • Operations of the processor 410 to be described later may be performed by loading instructions stored in the memory 440 .
  • the processor 410 may determine an item to be transmitted to the external device on the application execution screen.
  • an item to be transmitted to an external device may be set on an application.
  • a game application developer may set an item that can be transmitted to an external device in a resource file when creating an application.
  • the processor 410 may check the resource file of the application and determine an item determined in the resource file as an item to be transmitted to the external device.
  • the resource file may be created in the form of a markup language (eg, xml), and filter conditions including at least one of device type, screen size, my account device only, and pen support.
  • the processor may directly edit the file text based on user input or visually place and edit the view item using a platform development tool.
  • a platform development tool For example, an example of a resource file in which the device type is set to a smart phone and visibility is set to optional is shown in Table 1 below.
  • the processor 410 may configure an existing view layout, an extended view layout, and a modified view layout based on the determined item.
  • the existing view layout may be an execution screen of the current application.
  • the extended view layout may be a layout in which items to be transmitted to an external device are arranged among items of the existing view layout.
  • the modified view layout may be a screen for executing an application in the electronic device 400 after an item is transmitted to an external device. For example, the first item, the second item, the third item, and the fourth item are included in the existing view layout, and the user transmits the first item and the second item to an external device, but the second item is transmitted to the electronic device ( 400) may also decide to indicate.
  • the first item and the second item may be included in the extended view layout
  • the first item, the second item, and the third item may be included in the modified view layout.
  • the layout arrangement of each item may be set for each application or set by the user.
  • the processor 410 may generate view data based on the determined item.
  • the view data may include an attribute value for each item.
  • the attribute value may include at least one of whether to include an extended view layout for each item, whether to include a modified view layout for each item, filter conditions, and account information.
  • the processor 410 may generate view data for each external device.
  • the first view data for the smart watch, the second view data for the tablet PC, and the third view data for the smartphone may be generated according to the attribute value of each item included in the existing view layout.
  • View data transmitted may vary according to an external device through which the processor 410 performs a communication connection.
  • the processor 410 may switch to the view selection mode based on a user input.
  • the processor 410 may determine an item to be transmitted to the external device based on a user input in the view selection mode.
  • the processor 410 may display a menu for switching to the view selection mode on the display 420 .
  • the processor 410 may switch the running application to the view selection mode based on the user input.
  • the processor 410 may insert a visual effect into at least one area including an item transmittable to an external device in the view selection mode. That is, an outline of an area including an item that can be transmitted to an external device may be displayed as a border, or a color of an item that can be transmitted to an external device may be displayed differently. For example, if the first item and the second item can be transmitted to the external device on the application execution screen, the processor 410 may set the border on the outline of the area including the first item and the outline of the area including the second item. Each effect may be inserted, or a border effect may be inserted into the outline of an area including both the first item and the second item.
  • the processor 410 may display at least one of an existing view layout, an extended view layout, a modified view layout, and an image of an external device on the display 420 in the view selection mode.
  • the processor 410 may vertically (or horizontally) arrange at least one of an existing view layout, an extended view layout, a modified view layout, and an image of an external device in the view selection mode.
  • the processor 410 may determine at least one selected item based on a user input as an item to be transmitted to the external device. According to an embodiment, the processor 410 may provide a selection completion menu on one side of the display 420 in the view selection mode. For example, if the user decides to transmit the first item included in the existing view layout to the external device, the first item may be included in the extended view layout and the first item may be removed in the modified view layout. The processor 410 may determine to transmit the first item to the external device based on a user input (eg, touch, click) for the selection completion menu. According to an embodiment, the processor 410 may provide a split bar through which a user can enlarge a desired layout.
  • a user input eg, touch, click
  • the split bar when the existing view layout and the extended view layout are arranged vertically, the split bar may be arranged in the middle between the existing view layout and the extended view layout.
  • the size of the layout disposed above the split bar may be reduced, and conversely, the layout disposed below the split bar may be enlarged.
  • the processor 410 may determine which of the extended view layout and the modified view layout to include each item based on the number of touches of the user on each item. For example, the processor 410 selects an item to be displayed in the extended view layout when the user touches the item once, and selects it as an item to be displayed in both the extended view layout and the modified view layout when the user touches it twice, If you touch 3 times, you can decide to deselect the item. That is, when the user touches the first item once, the second item 2 times, and the third item 3 times among the items included in the existing view layout, the processor 410 displays the first item and the second item in the extended view layout. The 2nd item, the 2nd item and the 3rd item can be displayed in the edit view layout.
  • the processor 410 may search for device information of at least one external device.
  • the device information may include at least one of a device type of an external device, account information, hardware information, operating system information, and state information.
  • the processor may determine whether to search for an external device. For example, when logging in with the same account information on an external device, the processor may search for the corresponding external device.
  • the processor configures a scan filter (eg, BLE MAC address, service ID, manufacturer ID) to search only a desired external device or service.
  • the processor 410 may search for a plurality of external devices, obtain device information of each external device, and store it in the memory 440 .
  • the processor 410 may select an external device that can be connected to an extended view based on device information and filter conditions acquired from the external device.
  • the filter condition may include at least one of a device type, a screen size, whether only devices of the same account are supported, whether a pen is supported, and operating system information.
  • the first application may have a filter condition that supports only a tablet PC, a screen of 10 inches or larger, and the same account.
  • the processor 410 may select an external device that satisfies a corresponding filter condition from among the external devices.
  • the processor 410 may display an external device that meets the filter condition on the display 420 .
  • the processor 410 may receive information on the filter condition from a plurality of external devices and determine at least one external device that meets the filter condition.
  • the processor 410 may display at least one external device that meets the filter condition on the display 420 as at least one of a graphic object (icon) and a selection menu. For example, if the external device that meets the filter condition is a smart watch or tablet, a graphic object indicating the smart watch and tablet is displayed on the display 420, or a phrase indicating an external device (eg, smart watch, tablet PC) ) can be displayed.
  • a graphic object indicating the smart watch and tablet
  • a phrase indicating an external device eg, smart watch, tablet PC
  • the processor 410 may transmit an extended view connection request to an external device based on a user input. For example, the processor may transmit an extended view connection request to an external device corresponding to a graphic object touched by a user among graphic objects displayed on the display 420 .
  • the processor 410 may establish an extended view connection with an external device.
  • the electronic device 400 may connect the extended view with the external device through at least one of a wireless network, a wired network, and a wireless display connection standard.
  • the electronic device 400 may connect an external device with an extended view in a Miracast method.
  • the processor 410 may transmit view data for transmission to an external device.
  • the processor 410 may convert the generated view data into view data for transmission so that the generated view data can be transmitted to an external device by utilizing the established extended view connection.
  • the view data for transmission may include information for configuring an extended view layout in an external device.
  • the external device may receive the view data for transmission and configure the extended view layout.
  • the processor 410 may receive view event information from an external device.
  • the external device may generate view event information for it. For example, when the user touches a pause button among at least one button included in the extended view layout of the image playback application, the external device may generate view event information by recognizing a user input for the pause button. .
  • the external device may transmit view event information to the electronic device 400 using the extended view connection.
  • the processor 410 may receive the view event information and determine which operation to perform based on the received view event information. In this case, the operation performed by the processor may be the same operation as when an event input to the external device occurs in the electronic device. That is, the processor may determine to perform an operation of temporarily pausing an image being executed in the external device.
  • the processor 410 may modify the view data based on the view event information and retransmit the view data to an external device.
  • the processor 410 may also modify the extended view layout displayed on the external device and the modified view layout displayed on the electronic device 400 based on the view event information. For example, when the user touches an image pause button displayed on the external device, the processor 410 may receive corresponding event information from the external device and pause image playback. The processor 410 may modify the view data to change the play icon displayed on the external device to the pause icon, and transmit it to the external device. The external device may receive it and change the icon displayed on the display 420 of the external device.
  • the processor 410 may transmit control data including setting information for at least one of a notification sound, vibration, screen on/off, and screen lock to the external device. That is, the setting of the external device may be changed based on a user input to the display 420 of the electronic device 400 . For example, when the user activates the screen lock function in the electronic device 400 , the processor 410 may transmit information on the activation of the screen lock function to the external device. The external device may receive this and activate the screen lock function.
  • 5A and 5B are diagrams illustrating a screen for determining an item to be transmitted to an external device according to various embodiments of the present disclosure
  • an existing view layout 510 may be displayed on a screen for determining an item to be transmitted to an external device.
  • the extended view layout 530 may be displayed together with being included in the image of the external device expressed based on the information of the external device.
  • the processor eg, the processor 410 of FIG. 4
  • the existing view layout 510 is placed at the top (bottom), the modified view layout 520 and the extended view layout 530 are placed at the bottom (top), and a split bar 513 is placed between them. areas can be separated.
  • the user may adjust the size of each layout by touching and dragging the split bar 513 . For example, when the user touches the split bar 513 and drags it upward, the size of the existing view layout 510 may be reduced, and the sizes of the modified view layout 520 and the extended view layout 530 may be expanded.
  • a selection completion menu 511 may be provided together on the item determination screen. When the user selects all items to be transmitted to the external device and touches the selection completion menu 511, the item to be transmitted to the external device is confirmed, and the processor may generate view data for the corresponding items and create a view layout based thereon. have.
  • the extended view layout 530 may be displayed together in an image of an external device connected to the extended view. That is, the processor may actually provide a preview image of the extended view layout 530 displayed on the external device.
  • the processor may determine an item to be transmitted to the external device based on the user input. According to an embodiment, as soon as the user touches an item included in the existing view layout 510 , the processor displays the item touched by the user in the extended view layout 530 and displays the screen to be changed in the modified view layout. can According to another embodiment, the processor may separately display (eg, color, shade) the item selected by the user and display the selected item on the extended view layout 530 by touching a selection completion button.
  • the processor may determine which of the modified view layout 520 and the extended view layout 530 to be displayed according to the number of touches of the user on each item. For example, the processor may determine to display only the expanded view layout 530 when the user touches the first item only once, and to display the modified view layout 520 when the user touches the first item twice. The processor may initialize the display of the first item when the user touches the first item three times. That is, it can be displayed to be included only in the existing view layout 510 .
  • the processor may transmit a part of the application screen to the extended view connected smart watch.
  • the user may decide to transmit the first item and the second item in the application to the smart watch, and may touch the first item once and touch the second item twice.
  • the processor displays the first item in the first color and the second item in the second color in the existing view layout 510 , and displays the first item and the second item in the extended view layout 530 displayed at the bottom of the split bar 513 .
  • the item may be displayed, and the first item may not be displayed in the edit view layout 520 .
  • FIGS. 6A and 6B are diagrams illustrating an existing view layout 600 , an extended view layout 610 , and a modified view layout 620 according to various embodiments of the present disclosure.
  • the processor eg, the processor 410 of FIG. 4 . combines each item (eg, button view, image view, text view) included in the existing view layout 600 to form an extended view layout 610 ) and a modified view layout 620 .
  • the processor may determine that an item set to be transmitted to an external device in the application is included in the extended view layout 610 .
  • the processor may determine which layout each item belongs to by checking on the application, or may determine based on a user input.
  • the processor may determine which of the extended view layout 610 and the modified view layout 620 to be included according to the number of touches of the user on each item. For example, it may be determined to be included in the expanded view layout 610 when touched once, included in the expanded view layout 610 and modified view layout 620 when touched twice, and the selection is initialized when touched 3 times.
  • the processor may include only the button view and the text view in the extended view layout 610 and leave only the image view in the modified view layout 620 as shown in FIG. 6A .
  • the processor includes a button view and a text view in the expanded view layout 610, and an image view and text view in the modified view layout 620 as shown in FIG. 6B It can contain views.
  • FIG. 7 is a diagram illustrating a case in which a visual effect is added to an item that can be transmitted to an external device on an application execution screen according to various embodiments of the present disclosure
  • a processor may add a visual effect to an item that can be transmitted to an external device.
  • the processor may display a border surrounding an outline of an item included in the extended view layout.
  • the processor may indicate an item that can be transmitted to an external device by painting a different color or adding a shadow to an area including the item.
  • the play button and volume control button 702 positioned above and below the image and the status bar 704 indicating the play time may be transmitted to an external device.
  • the processor may display an outline of the area including the corresponding item to indicate that the user can transmit it to the external device.
  • the processor may determine at least a portion of items that can be transmitted to an external device based on a user input and generate an extended view layout. For example, when the user touches some of the items displayed as the border area, the processor may determine to include the corresponding item in the expanded view layout. According to an embodiment, whether to include each item in the extended view layout and the modified view layout may vary according to the number of touches of the user. For example, if the user touches the status bar 704 twice and touches the play button and volume control button 702 only once, the processor displays the status bar 704 in the expanded view layout and the edit view layout. All are included, and the play button and volume control button 702 may be determined to be included only in the expanded view layout.
  • the processor may receive a user input for an item that can be transmitted to an external device and convert it into a floating form.
  • the user may transmit the extended view connection request by moving the item changed in the floating form to one side of the display (eg, the display 420 of FIG. 4 ).
  • the processor may convert the corresponding item into a floating form.
  • the processor may switch to the view selection mode in order to transmit the item to the external device.
  • the processor may determine the item to be transmitted to the external device based on the user's selection of other items included in the existing view layout.
  • FIG. 8 is a diagram illustrating a view tree structure 800 for storing view data according to various embodiments.
  • the processor may store view data in the form of the view tree structure 800 .
  • the UI has a view tree structure 800 in which each node is connected to a parent node and a child node relationship.
  • a root note is located at the top, and according to an embodiment, each node may include information about an ID, a parent node, a child node, and a screen view.
  • the next node of each node may mean a child node or a sibling node.
  • the processor may store data about the view in each node. For example, view data for the first view may be stored in the root node, and view data for the second view and view data for the third view may be stored in child nodes of the root node.
  • view data for transmission generated from view data may also be configured by maintaining the view tree structure 800 in the same manner, so that each node may include information about an ID, a parent node, a child node, and a screen view.
  • each node may include information on the execution screen of the application, and may include information on which items are included in the execution screen.
  • FIG. 9 is a diagram illustrating a menu indicating an external device capable of connecting to an extended view according to various embodiments of the present disclosure.
  • the processor may display an external device to which the extended view layout is to be transmitted on one side of the display 900 (eg, the display 420 of FIG. 4 ).
  • the external device displayed on the display 900 may be an external device that satisfies the filter condition of the electronic device.
  • the processor may provide a menu 902 indicating a list of external devices, and may provide a graphic object 912 (eg, an icon) indicating a connectable external device.
  • the processor may determine an external device to establish an extended view connection with the electronic device based on a user input for the list menu 902 or the graphic object 912 .
  • the processor may provide the list menu 902 including the tablet and the smart watch on the display 900 .
  • each external device may be arranged vertically or horizontally.
  • the external devices in the list menu 902 may be arranged according to at least one of the order of communication connection with the processor first, the order of distance from the electronic device, the order of the largest screen size, and the order frequently used by the user.
  • the processor may determine a position at which the list menu 902 is to be displayed in the display 900 and may generate the list menu 902 in a floating form to move the position based on a user's input.
  • the processor may determine an external device to perform extended view connection based on a user input for each item in the list menu 902 .
  • the processor may display a graphic object 912 (icon) indicating the tablet and the smartwatch.
  • the graphic object 912 may be arranged left and right, or it may be arranged vertically.
  • the processor may determine an external device to establish an extended view connection based on a user input for each icon 912 .
  • FIG. 10 is a diagram illustrating a pop-up message requesting acceptance of an extended view connection with an external device according to various embodiments of the present disclosure
  • the processor displays a pop-up message 1010 to the electronic device 1000 when the external device requests an extended view connection (eg, the display of FIG. 4 ). 420)) can be indicated.
  • the processor may display a pop-up message 1010 on one side of the display, and the pop-up message 1010 includes a phrase requesting to accept the extended view connection (eg, do you want to accept the extended view connection of the application to Samsung's device?); It may include a cancel button and an OK button.
  • the processor may display the banner 1020 together with the pop-up message 1010 on the display.
  • the banner 1020 may include a phrase requesting to accept the extended view connection (eg, 'Do you want to accept the extended view connection of the application?') and a confirmation button 1022 .
  • the processor may receive the account information, and only the external device that is the same account as the electronic device 1000 may accept the extended view connection request. For example, when receiving the extended view connection request from the electronic device 1000 logged in with the first account, the processor may not allow the extended view connection request of the external device logged in with the second account .
  • the processor may display a pop-up message 1010 for requesting connection acceptance only for an extended view connection request of an external device having different account information. If the user accepts the extended view connection request in the pop-up message 1010 , the processor may establish an extended view connection with the external device.
  • the processor may not display the pop-up message 1010 requesting acceptance to the external device of the same account.
  • the processor may display a pop-up message 1010 requesting acceptance for external devices of different accounts. For example, when an external device logged in with the same first account transmits an extended view connection request to the electronic device 1000 logged in with the first account, the processor does not go through a separate process between the external device and the electronic device An extended view connection of 1000 may be established.
  • An electronic device includes a display, a communication module, a memory, and a processor operatively connected to the display, the communication module, and the memory, and the processor is configured to be external using the communication module.
  • the view data for transmission may be transmitted by generating view data of the external device and establishing a communication connection with the external device.
  • the processor may generate a view layout in which the at least one item is reconstructed based on the view data.
  • the processor may determine at least one item set on the application among the items as the item to be transmitted to the external device.
  • the processor may determine at least one item selected according to a user input among the items as an item to be transmitted to the external device.
  • the processor may switch to a view selection mode based on a user input, and display at least one of an existing view layout, an extended view layout, and a modified view layout on the display in the view selection mode.
  • the processor may include the item in at least one of an extended view layout and a modified view layout according to the number of times the user touches the item.
  • the view data may include at least one of whether to include an extended view layout for each item, whether to include a modified view layout for each item, filter conditions, and account information.
  • the filter condition may include at least one of a device type, a screen size, whether only devices of the same account are supported, whether a pen is supported, and operating system information.
  • the processor determines whether the external device satisfies the filter condition, and when the external device satisfies the filter condition, among a graphic object indicating the external device on the display and a selection menu, At least one may be indicated.
  • the processor may communicate with the external device using at least one of a wireless network, a wired network, and a wireless display connection standard.
  • the processor may insert a visual effect into at least one area including an item to be transmitted to the external device.
  • the device information includes operating system information of the external device
  • the processor generates view data for transmission by changing at least one attribute value in the view data based on the operating system information. can do.
  • An electronic device includes a display, a communication module, a memory, and a processor operatively connected to the display, the communication module, and the memory, wherein the processor receives view event information from an external device Received, modifying view data based on the received view event information, changing the modified view data into view data for transmission, and transmitting the modified view data to the external device.
  • the processor may transmit setting information regarding at least one of a notification sound, vibration, screen on/off, and screen lock to the external device.
  • FIG. 11 is a flowchart illustrating a method of reconfiguring an application execution screen using an external device according to various embodiments of the present disclosure
  • the electronic device may determine an item to be transmitted to an external device.
  • the electronic device may determine whether an item to be transmitted to the external device is determined on the application. That is, the electronic device may determine whether an item to be transmitted to the external device is set in the application, and if determined, may determine to transmit the corresponding item to the external device.
  • the electronic device may determine the item based on a user input.
  • the electronic device may provide a selection completion menu on one side of the display in the view selection mode.
  • the electronic device may insert a visual effect into at least one area including an item transmittable to an external device in the view selection mode. That is, an outline of an area including an item that can be transmitted to an external device may be displayed as a border, or a color of an item that can be transmitted to an external device may be displayed differently.
  • the electronic device may determine to transmit the first item to the external device based on a user input (eg, touch, click) for the selection completion menu.
  • the electronic device may provide a split bar for enlarging a layout desired by the user. For example, when the existing view layout and the extended view layout are arranged vertically, the split bar may be arranged in the middle between the existing view layout and the extended view layout. When the user touches the split bar and drags it upward, the size of the layout disposed above the split bar may be reduced, and conversely, the layout disposed below the split bar may be enlarged.
  • the electronic device may determine in which of the extended view layout and the modified view layout each item is to be included based on the number of touches of the user on each item.
  • the electronic device may generate view data based on the determined item.
  • the view data may include an attribute value for each item.
  • the attribute value may include at least one of whether to include an extended view layout for each item, whether to include a modified view layout for each item, filter conditions, and account information.
  • the electronic device may generate view data for each external device.
  • the electronic device may check device information of the external device.
  • the device information may include at least one of a device type of an external device, account information, hardware information, operating system information, and state information.
  • the electronic device may receive device information transmitted from a plurality of external devices and store the received device information in a memory.
  • the electronic device may determine whether the external device satisfies a filter condition.
  • the filter condition may include at least one of a device type, a screen size, whether only devices of the same account are supported, whether a pen is supported, and operating system information.
  • the first application may have a filter condition that supports only a tablet PC, a screen of 10 inches or larger, and the same account.
  • the electronic device may select an external device that satisfies a corresponding filter condition from among surrounding external devices.
  • the electronic device may display an icon or a list of external devices that can be connected to the extended view on the display.
  • the electronic device may receive information on the filter condition from a plurality of external devices and determine at least one external device that meets the filter condition.
  • the electronic device may display at least one external device that meets the filter condition on the display as at least one of a graphic object (icon) and a selection menu. For example, if the external device that meets the filter condition is a smart watch or tablet, a graphic object indicating the smart watch and tablet is displayed on the display, or a phrase indicating the external device (eg smart watch, tablet PC) is displayed. can do.
  • the electronic device may connect an external device and an extended view based on a user input.
  • the electronic device may connect the extended view with the external device through at least one of a wireless network, a wired network, and a wireless display connection standard.
  • the electronic device may connect an external device with an extended view through a Miracast method.
  • the electronic device may transmit view data to an external device connected to the extended view.
  • the electronic device may convert the generated view data into view data for transmission so that it can be transmitted to an external device by utilizing the established extended view connection.
  • the view data for transmission may include information for configuring an extended view layout in an external device.
  • the external device may receive the view data for transmission and configure the extended view layout.
  • the electronic device may receive view event information from an external device.
  • the external device may generate view event information for it. For example, when the user touches a pause button among at least one button included in the extended view layout of the image playback application, the external device may generate view event information by recognizing a user input for the pause button. .
  • the external device may transmit view event information to the electronic device using the extended view connection.
  • the electronic device may receive the view event information and determine what operation to perform based on the received view event information. In this case, the operation performed by the electronic device may be the same operation as when an event occurring in the external device occurs in the electronic device.
  • the electronic device may modify the view data based on the view event information and retransmit the view data to the external device.
  • the electronic device may also modify the extended view layout displayed on the external device and the modified view layout displayed on the electronic device based on the view event information. For example, when the user touches an image pause button displayed on the external device, the electronic device may receive corresponding event information from the external device and pause image playback. The electronic device may modify the view data to change the play icon displayed on the external device to the pause icon, and transmit it to the external device. The external device may receive this and change the icon displayed on the display of the external device.
  • the electronic device may transmit control data including setting information on at least one of a notification sound, vibration, screen on/off, and screen lock to the external device. That is, the setting of the external device may be changed based on a user input to the display of the electronic device. For example, when the user activates the screen lock function in the electronic device, the electronic device may transmit information on the activation of the screen lock function to the external device. The external device may receive this and activate the screen lock function.
  • FIG. 12 is a flowchart of a method of generating view data based on a user input according to various embodiments of the present disclosure
  • the electronic device may display the existing view layout, the extended view layout, and the modified view layout on the display when entering the view selection mode.
  • the electronic device may enter the view selection mode based on the user's input.
  • the electronic device may generate a layout based on the generated view data.
  • the electronic device displays the existing view layout at the top and at least one of the modified view layout and the extended view layout at the bottom, and a split bar (eg, split bar 513 in FIG. 5 ) therebetween ) to distinguish them.
  • the electronic device may also display the extended view layout in the image of the external device.
  • the modified view layout initially displayed may be the same as the existing view layout.
  • the electronic device may move the split bar based on the user's input and adjust the size of the layout.
  • the electronic device may determine which item to display in the modified view layout and the extended view layout according to the number of input by the user for each item.
  • 12 is a flowchart of a method of determining which items to display in a modified view layout and an extended view layout according to a change in the number of touches of a user on each item.
  • the electronic device may detect a user input for an item.
  • the electronic device changes the background color of the item to the first color based on the user's selection for each item, adds the corresponding item to the extended view layout, and the corresponding item in the modified view layout Items can be removed.
  • the electronic device may display the first item in an extended view layout within the image of the external device.
  • the electronic device may detect a user input for an item.
  • the electronic device may change the background color of the corresponding item to the second color, and additionally display the corresponding item in the edit view layout have.
  • the electronic device may change the background color of the first item to the second color in the existing view layout and additionally display the first item in the modified view layout .
  • the electronic device may display the first item in the extended view layout under the split bar and display the first item again in the modified view layout.
  • the electronic device may detect a user input for an item.
  • the electronic device may remove the background color of the item from the existing view layout and remove it from the extended view layout.
  • the electronic device may remove the first item from the extended view layout and remove the background color of the first item from the existing view layout. That is, if an item is touched three times, it can be decided to return to the initial state for the corresponding item.
  • the electronic device may determine a modified view layout and an extended view layout based on a user input for each item.
  • the electronic device when the user touches the first item thereafter, the electronic device may perform the same operation as when the first touch is made. That is, the operation of the electronic device with respect to the 4th, 5th, and 6th touches with respect to the first item may be the operations of the electronic device with respect to the 1st, 2nd, and 3rd touches, respectively.
  • the electronic device may determine whether the selection is complete.
  • the electronic device may provide a selection completion menu on one side of the display in the view selection mode.
  • the electronic device may end layout configuration based on a user input to the selection completion menu. Until the user touches the selection menu, the item touched once is displayed only in the expanded view layout, the item touched twice is displayed in the expanded view layout and the edit view layout, and the item touched three times or never touched Can only be displayed in edit view layouts.
  • the electronic device may end the view selection mode based on a user input to the selection completion menu.
  • the electronic device may finish configuring the extended view layout and the modified view layout while exiting the view selection mode, and may generate view data to be transmitted to an external device.
  • the electronic device may display a modified view layout on the display.
  • the electronic device may display the modified view layout after transmitting the extended view layout to the external device.
  • the electronic device may transmit the extended view layout to an external device.
  • the electronic device may generate view data including information on the extended view layout, configure the view data for transmission, and transmit it using a wireless communication connection with an external device.
  • FIG. 13 is a flowchart of a method of reconfiguring a screen through wireless communication connection with an external device according to various embodiments of the present disclosure
  • the electronic device may perform a wireless communication scan when at least one of entering a view selection mode, logging in an account, and changing a state of the electronic device occurs.
  • scan filters eg, BLE MAC address, service ID, manufacturing ID
  • the electronic device may search for an external device that meets the filter condition through data broadcasting (eg, BLE advertisement).
  • the BLE packet may include at least one of service ID, manufacturing ID, account information, device status information, network status information, device type, screen size, pen support, and operating system information.
  • the electronic device and the external device may efficiently use the battery by adjusting the scan range in consideration of the current state of the device, such as screen on/off and the remaining battery level.
  • the electronic device may stop scanning when a desired external device is found.
  • the electronic device may transmit an extended view connection request to the searched external device.
  • the electronic device may transmit an extended view connection request to an external device corresponding to a graphic object touched by the user on the display.
  • the electronic device uses a wireless communication connection (eg, BT, BLE, Wi-fi, Wi-fi P2P, Mobile Network, secure source layer (SSL)) to view an extended view with an external device connection can be established.
  • the electronic device may transmit and receive data between the external device and the electronic device using a BLE packet.
  • data may be transmitted/received using the existing communication connection without the need to establish a new communication connection.
  • the external device may execute the extended view application in operation 1310 .
  • the external device may communicate with the electronic device using the extended view application and display the extended view layout.
  • the electronic device may determine an external device capable of connecting to an extended view according to a filter condition for each item.
  • the filter condition may include at least one of a device type, a screen size, whether only devices of the same account are supported, whether a pen is supported, and operating system information.
  • the electronic device may determine an external device that satisfies a filter condition among external devices capable of communication connection as an external device capable of connecting to an extended view.
  • the electronic device may display the external device determined as the extended view connectable external device on one side of the display.
  • the electronic device may provide at least one of a graphic object indicating extended view connectable external devices and a list of connectable external devices.
  • the processor may determine an external device to establish an extended view connection based on a user input for at least one of the graphic object and the list.
  • the electronic device may determine whether account information of the electronic device and the external device match.
  • the electronic device may establish an extended view connection between the corresponding external device and the electronic device without a separate process.
  • the electronic device may display a pop-up message requesting acceptance of the extended view connection on the display.
  • the electronic device may determine whether to establish an extended view connection with the external device based on a user input for the pop-up message.
  • the electronic device may transmit the generated view data to an external device. After determining the external device to be connected to the extended view, the electronic device may display the extended view layout by transmitting the generated view data to the external device while displaying the modified view layout on the display.
  • the electronic device may reconfigure view data to be transmitted to an external device into view data for transmission.
  • at least a part of data included in the view data may be unnecessary or incompatible data on the operating system or platform of the external device.
  • the electronic device may remove the attribute, or may change the attribute to another similar attribute value if the attribute is incompatible.
  • the external device may receive the view data for transmission, and change an attribute value that is not supported or incompatible by the external device among the received view data into a similar attribute value.
  • the external device may configure the view layout by changing an incompatible attribute value among view data to a similar attribute value.
  • the external device may display an extended view layout according to the received view data.
  • the external device may generate view event information.
  • the electronic device may receive view event information from an external device.
  • the external device may generate view event information based on the user input.
  • the view event information may include at least one operation of a user's touch input, drag, and press with respect to a button.
  • the external device may reconfigure the generated view event information into view event information for transmission and transmit it to the electronic device. For example, when the operating systems of the external device and the electronic device are different, the external device may generate view event information for transmission by changing at least some attribute values of the view event information into attribute values compatible with the electronic device.
  • the electronic device may process a view event that has occurred based on the received view event information. For example, when there is a user input for the first item in the external device, the electronic device may process the view event information so that the first item performs a predetermined function. According to an embodiment, the electronic device may receive a view event from an external device, and change an attribute value that is not supported or incompatible by the electronic device among the received view events into a similar attribute value.
  • the electronic device may transmit the changed view data to the external device.
  • the external device may reconfigure the extended view layout and display the reconfigured extended view layout in operation 1340 .
  • the electronic device may transmit control data to an external device.
  • the control data may include setting information for at least one of a notification sound, vibration, screen on/off, and screen lock.
  • the electronic device may generate control data for the corresponding information and transmit the generated control data to an external device.
  • FIG. 14 is a flowchart of a method of generating and transmitting view event information for transmission to an external device according to various embodiments of the present disclosure.
  • the electronic device may determine whether generation of view data for transmission is complete. According to an embodiment, the electronic device may generate view data for transmission with respect to view data stored in each node of the view tree structure. The electronic device may start generating view data for transmission from the root note of the view tree structure. After generation of view data for transmission is completed for all nodes of the view tree structure, the electronic device may transmit the view data in the tree structure form to an external device.
  • the electronic device may inquire the next node view of the view tree structure. If the generation of view data for transmission is not completed, view data for the next node can be converted into view data for transmission.
  • the electronic device may create an item and fill an attribute value.
  • the electronic device may create an item to be included in each node of the tree structure, and fill an attribute value according to the item.
  • the electronic device may determine whether an attribute value that is not supported by the external device or is incompatible exists. For example, an attribute value supported by the electronic device may not be supported by the external device due to a difference in operating systems between the electronic device and the external device.
  • the electronic device may identify the external device and the operating system of the electronic device based on the received device information of the external device, and determine whether an attribute value that is not supported or incompatible with the external device exists.
  • the corresponding attribute value may be removed or replaced with a compatible similar attribute value.
  • the electronic device may substitute an attribute value supported by the external device to display the extended view layout in the external device, or may substitute similar attribute values even if they are not the same.
  • the electronic device may transmit view data for transmission to an external device.
  • the electronic device may transmit the generated view data for transmission to an external device.
  • the external device may display the extended view layout based on the received view data.
  • FIG. 15 is a flowchart of an operation of generating and displaying an extended view layout in an external device based on view data according to various embodiments of the present disclosure
  • the external device may configure an extended view layout according to the operating system for all views.
  • incompatible attribute values may exist according to a difference between the operating systems of the electronic device and the external device.
  • the external device may configure the extended view layout by replacing incompatible attribute values with other compatible attribute values.
  • the external device may inquire the next node view of the view tree structure.
  • An external device can create an extended view layout for all views in the view tree structure. If you configure the extended view layout for the node, you can move to the next node and perform the same operation.
  • the next node of the corresponding node may be a child node or a sibling node.
  • the external device may generate an item supported by the operating system according to the device type.
  • the operating system of the electronic device and the operating system of the external device may be different. Since an item supported by the electronic device and an item supported by the external device may be different, the external device may generate an item supported by the operating system according to the device type.
  • the external device may fill the attribute value of the view for each tree node.
  • An external device may configure an extended view layout by inputting a view attribute value for each created item.
  • the external device may determine whether an attribute value that is not supported or incompatible with the operating system of the external device exists. For example, when the operating systems of the electronic device and the external device are different, attribute values supported by the electronic device but not supported by the external device may exist. Since the external device must be able to support all attribute values in order to display the extended view layout, it can be determined whether there are attribute values that are not supported or incompatible with the operating system of the external device.
  • the corresponding attribute value may be removed or replaced with a compatible similar attribute value.
  • the external device may display the extended view layout in the extended view layout.
  • the external device may receive a feedback on the view event information through a communication connection with the electronic device to modify the extended view layout.
  • a method of using an external device display of an electronic device includes an operation of establishing a communication connection with an external device using a communication module to obtain device information of the external device, and based on the device information, in the electronic device Determining at least one item to be transmitted to the communication-connected external device from among the items displayed in the running application, generating view data of the external device including information on the determined item, and view data for transmission may include an operation of transmitting to the external device.
  • the determining of the item to be transmitted to the external device may include determining at least one item set on the application among the items as the item to be transmitted to the external device.
  • the determining of the item to be transmitted to the external device may include determining at least one item selected according to a user input from among the items as the item to be transmitted to the external device.
  • the determining of the item to be transmitted to the external device includes an operation of switching to a view selection mode based on a user input, and at least one of an existing view layout, an extended view layout, and a modified view layout in the view selection mode. may include an operation of displaying on the display.
  • the operation of determining the item to be transmitted to the external device may include an operation of including the item in at least one of an extended view layout and a modified view layout according to the number of touches of the user on the item.
  • the operation of transmitting the view data for transmission to the external device includes an operation of receiving view event information from an external device, an operation of modifying view data based on the received view event information, and a modified view.
  • the method may further include converting data into view data for transmission and transmitting the view data for transmission to the external device.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

다양한 실시예에 따른 전자 장치는, 디스플레이, 통신 모듈, 메모리, 및 상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 통신 모듈을 이용하여 외부 장치의 기기 정보를 획득하고, 상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 외부 장치로 전송할 적어도 하나의 아이템을 결정하고, 상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하고, 상기 외부 장치와 통신 연결을 수립하여 전송용 뷰 데이터를 전송할 수 있다.

Description

전자 장치 및 외부 장치를 이용한 화면 재구성 방법
본 문서는 전자 장치에 관한 것이며, 예를 들어 외부 장치를 이용하여 전자 장치의 디스플레이에 표시되는 화면을 재구성하는 방법에 관한 것이다.
최근 전자 장치는 하드웨어/프로세서 기술의 발달로 다양한 기능들을 탑재할 수 있다. 예를 들어, 전자 장치는 다양한 어플리케이션을 활용하여 파일을 전송하고 동영상을 재생할 수 있으며, 컨텐츠를 외부 장치에 공유할 수 있다.
사용자는 전자 장치에서 다양한 어플리케이션을 실행할 수 있으며, 각 어플리케이션마다 사용자의 편의를 위한 유저 인터페이스를 제공하고 있다. 예를 들어, 스마트 폰(smart phone), 태블릿 PC(tablet PC), 스마트 워치(smart watch), 데스크 탑 PC(Desk top personal computer)의 디스플레이에 맞는 유저 인터페이스를 제공할 수 있다.
종래의 전자 장치는 주변의 화면을 가진 전자 장치를 이용하여 더 큰 화면으로 정보를 표시하거나 연결된 전자 장치들이 서로 다른 어플리케이션을 실행하여 여러 작업을 동시에 수행할 수 있다. 그러나, 어플리케이션이 주변의 전자 장치의 화면을 직접 제어하고 상호작용할 수 없기에 어플리케이션이 능동적으로 주변 전자 장치를 활용하여 유저 인터페이스를 구성할 수는 없었다.
본 문서의 다양한 실시예들은 상기와 같이 전자 장치가 외부 장치의 화면을 이용하여 어플리케이션 화면을 재구성할 경우, 어플리케이션이 외부 장치의 화면을 직접 제어하여 화면을 재구성할 수 있는 방법을 제공함에 그 목적이 있다.
다양한 실시예에 따른 전자 장치는, 디스플레이, 통신 모듈, 메모리, 및 상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 통신 모듈을 이용하여 외부 장치의 기기 정보를 획득하고, 상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 외부 장치로 전송할 적어도 하나의 아이템을 결정하고, 상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하고, 상기 외부 장치와 통신 연결을 수립하여 전송용 뷰 데이터를 전송할 수 있다.
다양한 실시예에 따른 전자 장치는, 디스플레이, 통신 모듈, 메모리, 및 상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 외부 장치로부터 뷰 이벤트 정보를 수신하고, 수신한 뷰 이벤트 정보에 기반하여 뷰 데이터를 수정하고, 상기 수정한 뷰 데이터를 전송용 뷰 데이터로 변경하여 상기 외부 장치로 전송할 수 있다.
다양한 실시예에 따른 전자 장치의 외부 장치 디스플레이 활용 방법은, 통신 모듈을 이용하여 외부 장치와 통신 연결을 수립하여 상기 외부 장치의 기기 정보를 획득하는 동작, 상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 통신 연결된 외부 장치로 전송할 적어도 하나의 아이템을 결정하는 동작, 상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하는 동작, 및 전송용 뷰 데이터를 상기 외부 장치로 전송하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 본 발명을 이용하여 사용자는 외부 장치의 디스플레이를 활용하여 어플리케이션 실행 화면을 재구성할 수 있다. 어플리케이션이 주변에 존재하는 외부 장치를 인식하고 통신 연결을 통해 실행 화면의 일부를 전송하여 외부 장치의 화면을 능동적으로 활용할 수 있다.
또한, 사용자의 의도에 따라서 어플리케이션 실행 화면을 재구성할 수 있으므로, 각 어플리케이션에 대해서 사용자 별 맞춤 화면을 제공할 수 있다.
그 외에 본 발명의 다양한 실시예들로 인하여 얻을 수 있거나 예측되는 효과에 대해서는 본 발명의 실시예에 대한 상세한 설명에서 직접적으로 또는 암시적으로 개시하도록 한다. 예컨대, 본 발명의 다양한 실시예들에 따라 예측되는 다양한 효과에 대해서는 후술될 상세한 설명 내에서 개시될 것이다.
도 1은 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예에 따른 외부 장치를 활용한 전자 장치의 화면 재구성을 도시한 도면이다.
도 3은 다양한 실시예에 따른 외부 장치의 종류 별 화면 재구성을 도시한 도면이다.
도 4는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 5a 및 도 5b는 다양한 실시예에 따른 외부 장치로 전송할 아이템을 결정하는 화면을 도시한 도면이다.
도 6a 및 도 6b는 다양한 실시예에 따른 기존 뷰 레이아웃, 확장 뷰 레이아웃, 수정 뷰 레이아웃을 도시한 도면이다.
도 7은 다양한 실시예에 따른 어플리케이션 실행 화면에서 외부 장치로 전송 가능한 아이템에 시각 효과를 넣은 것을 도시한 도면이다.
도 8은 다양한 실시예에 따른 뷰 데이터를 저장하는 뷰 트리 구조를 나타낸 도면이다.
도 9는 다양한 실시예에 따른 확장 뷰 연결 가능한 외부 장치를 나타내는 메뉴를 도시한 도면이다.
도 10은 다양한 실시예에 따른 외부 장치에 확장 뷰 연결에 대한 수락을 요청하는 팝업 메시지를 도시한 도면이다.
도 11은 다양한 실시예에 따른 외부 장치를 이용하여 어플리케이션 실행 화면을 재구성하는 방법에 대한 순서도이다.
도 12는 다양한 실시예에 따른 사용자 입력에 기초하여 뷰 데이터를 생성하는 방법에 대한 순서도이다.
도 13은 다양한 실시예에 따른 외부 장치와 무선 통신 연결하여 화면을 재구성하는 방법에 대한 순서도이다.
도 14는 다양한 실시예에 따른 전송용 뷰 이벤트 정보를 생성하여 외부 장치로 전송하는 동작에 대한 순서도이다.
도 15는 다양한 실시예에 따른 뷰 데이터에 기초하여 외부 장치에서 확장 뷰 레이아웃을 생성하고 표시하는 동작에 대한 순서도이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는 다양한 실시예에 따른 외부 장치를 활용한 전자 장치의 화면 재구성을 도시한 도면이다.
다양한 실시예에 따르면, 프로세서는 어플리케이션 실행 화면을 전자 장치(200)의 디스플레이에 나타낼 수 있다. 어플리케이션 실행 화면에는 적어도 하나의 아이템이 표시될 수 있으며, 사용자 입력에 기초하여 정해진 기능을 수행할 수 있다. 예를 들어, 드로잉 어플리케이션을 실행하는 경우, 사용자 입력에 기초하여 전자 장치(200)는 드로잉 기능을 실행할 수 있다. 드로잉 어플리케이션 실행 화면은 켄버스 및 브러쉬 도구 창 중 적어도 하나를 포함할 수 있다. 프로세서는 어플리케이션 상의 설정 혹은 사용자 설정에 따라서 각 아이템을 배치하여 기존 뷰 레이아웃을 구성할 수 있다. 프로세서는 기존 뷰 레이아웃을 디스플레이에 표시하고, 사용자는 기존 뷰 레이아웃 상에서 어플리케이션을 사용할 수 있다.
다양한 실시예에 따르면, 프로세서는 어플리케이션 실행 화면의 일부를 외부 장치(210)로 전송할 수 있다. 일 실시예에 따르면, 프로세서는 어플리케이션의 설정에 따라 외부 장치(210)로 전송할 아이템을 결정하고, 결정한 아이템에 기초하여 뷰 데이터를 생성할 수 있다. 다른 실시예에 따르면, 프로세서는 사용자 입력에 기초하여 외부 장치(210)로 전송할 아이템을 결정할 수 있다. 예를 들어, 상기 예에서 사용자가 브러쉬 도구 창을 외부 장치(210)로 전송하고자 하는 경우, 프로세서는 사용자 입력에 기초하여 해당 아이템을 외부 장치(210)로 전송할 것으로 결정하고 뷰 데이터를 생성할 수 있다. 일 실시예에 따르면, 프로세서는 뷰 데이터를 트리 구조로 저장할 수 있다.
다양한 실시예에 따르면, 프로세서는 생성한 뷰 데이터에 기초하여 뷰 레이아웃을 생성할 수 있다. 일 실시예에 따르면, 프로세서는 외부 장치(210)에 표시될 확장 뷰 레이아웃을 생성할 수 있다. 프로세서는 어플리케이션의 설정 및 사용자의 설정 중 적어도 하나에 기초하여 외부 장치(210)로 전송할 아이템을 결정하고, 해당 아이템을 어떤 식으로 배치할 것인지 결정하여 확장 뷰 레이아웃을 생성할 수 있다. 일 실시예에 따르면, 프로세서는 전자 장치(200)에 표시될 수정 뷰 레이아웃을 생성할 수 있다. 프로세서는 확장 뷰 레이아웃에 대한 정보를 포함하는 뷰 데이터를 생성하여 외부 장치(210)로 전송하고, 수정 뷰 레이아웃에 따라 전자 장치(220)의 디스플레이를 구성할 수 있다. 일 실시예에 따르면, 프로세서는 외부 장치(210)로 뷰 데이터를 전송하기 위하여 생성한 뷰 데이터를 전송용 뷰 데이터로 변환할 수 있다. 프로세서는 전송용 뷰 데이터를 외부 장치(210)로 전송할 수 있다.
다양한 실시예에 따르면, 프로세서는 아이템 별 필터 조건에 따라 확장 뷰 연결 가능한 외부 장치(210)를 결정할 수 있다. 필터 조건은 디바이스 종류, 화면 크기, 동일 계정 기기만 지원 여부, 펜 지원 여부 및 운영체제 정보 중 적어도 하나를 포함할 수 있다. 프로세서는 통신 연결 가능한 외부 장치 중 필터 조건을 만족하는 외부 장치를 확장 뷰 연결 가능한 외부 장치(210)로 결정할 수 있다.
다양한 실시에에 따르면, 프로세서는 적어도 하나의 외부 장치(210)와 무선 통신 연결(예: Bluetooth(BT), Bluetooth low energy(BLE))을 수립할 수 있다. 일 실시에에 따르면, 프로세서는 뷰 선택 모드에 진입하거나, 계정 로그인, 전자 장치(200)의 상태 변화 중 적어도 하나가 발생한 경우 무선 통신 스캔을 수행할 수 있다. 무선 통신 스캔을 이용하여 스캔 필터(예:BLE MAC address, 서비스ID, 제조ID)를 구성하여 원하는 조건에 맞는 외부 장치(210)만 검색할 수 있다. 전자 장치(200)와 외부 장치(210)는 스크린 온오프, 배터리 잔량 등의 현 장치의 상태를 고려하여 스캔 범위를 조절하는 방식으로 배터리를 효율적으로 사용할 수 있다. 일 실시예에 따르면, 프로세서는 원하는 외부 장치(210)를 발견한 경우 스캔을 중지할 수 있다.
다양한 실시예에 따르면, 프로세서는 데이터 브로드캐스팅(예: BLE advertisement)을 통하여 필터 조건에 맞는 외부 장치(210)를 검색할 수 있다. 일 실시예에 따르면, 프로세서는 필터 조건에 대한 정보를 담은 BLE 패킷(BLE advertisement packet)을 전송할 수 있다. BLE 패킷은 서비스ID, 제조ID, 계정 정보, 기기 상태 정보, 네트워크 상태 정보, 디바이스 타입, 화면 크기, 펜 지원 여부, 운영체제 정보 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 프로세서는 무선 통신 스캔 및 데이터 브로드캐스팅를 수행하여 외부 장치(210)와 무선 통신 연결(예: BT, BLE, Wifi, Wifi P2P, Mobile Network, secure source layer(SSL))을 수립할 수 있다. 외부 장치(210)와 전자 장치(200)는 BLE 패킷을 이용하여 데이터를 송수신할 수 있다. 일 실시예에 따르면, 다른 목적을 위해서 이미 무선 통신 연결이 수립된 경우, 새로 통신 연결을 맺을 필요 없이 기존의 통신 연결을 이용하여 데이터를 송수신할 수 있다.
다양한 실시예에 따르면, 프로세서는 확장 뷰 연결 가능한 외부 장치로 결정된 외부 장치(210)를 디스플레이의 일 측에 표시할 수 있다. 일 실시예에 따르면, 프로세서는 확장 뷰 연결 가능한 외부 장치들을 지시하는 그래픽 객체 및 연결 가능한 외부 장치들의 목록 중 적어도 하나를 제공할 수 있다. 프로세서는 그래픽 객체 및 목록 중 적어도 하나에 대한 사용자 입력에 기초하여 확장 뷰 연결을 수립할 외부 장치(210)를 결정할 수 있다.
다양한 실시예에 따르면, 프로세서는 전자 장치(200)와 외부 장치(210)의 계정 정보가 일치하는지 판단할 수 있다. 전자 장치(200)와 외부 장치(210)의 계정 정보가 일치하는 경우, 프로세서는 별도의 과정 없이 해당 외부 장치(210)와 전자 장치(200)의 확장 뷰 연결을 수립할 수 있다. 전자 장치(200)와 외부 장치(210)의 계정 정보가 일치하지 않는 경우, 프로세서는 확장 뷰 연결 수락을 요청하는 팝업 메시지를 디스플레이에 표시할 수 있다. 프로세서는 팝업 메시지에 대한 사용자 입력에 기초하여 외부 장치(210)와 확장 뷰 연결을 수립할지 여부를 결정할 수 있다.
다양한 실시예에 따르면, 외부 장치(210)는 사용자 입력에 기초하여 뷰 이벤트 정보를 생성할 수 있다. 사용자가 외부 장치(210)로 전송한 아이템에 터치 입력하는 경우, 외부 장치(210)는 이를 수신하고 뷰 이벤트 정보를 생성할 수 있다. 예를 들면, 뷰 이벤트 정보는 버튼에 대한 사용자의 터치 입력, 드래그, 프래스 중 적어도 하나의 동작을 포함할 수 있다. 일 실시예에 따르면, 외부 장치(210)는 생성한 뷰 이벤트 정보를 전자 장치(220)로 전송할 수 있다.
다양한 실시예에 따르면, 프로세서는 외부 장치(210)로 전송할 뷰 데이터를 전송용 뷰 데이터로 재구성할 수 있다. 일 실시예에 따르면, 뷰 데이터에 포함된 데이터의 적어도 일부는 외부 장치(210)의 운영체제나 플랫폼 상 불필요하거나 호환이 불가능한 데이터일 수 있다. 프로세서는 외부 장치(210)의 운영체제에서 불필요한 속성인 경우 해당 속성을 제거하거나, 호환이 불가능한 속성인 경우 유사한 다른 속성 값으로 변경할 수 있다.
다양한 실시예에 따르면, 프로세서는 수신한 뷰 이벤트 정보에 기초하여 뷰 데이터를 수정할 수 있다. 일 실시예에 따르면, 프로세서는 뷰 이벤트 정보에 기초하여 외부 장치(210)에 전송한 뷰 데이터에 수정이 필요한지 여부를 결정할 수 있다. 프로세서는 외부 장치(210)에 표시되는 확장 뷰 레이아웃 및 전자 장치(220)에 표시되는 수정 뷰 레이아웃에 변경이 필요한 경우 뷰 데이터를 수정할 수 있다. 프로세서는 수정한 뷰 데이터를 외부 장치(210)로 재전송할 수 있다. 일 실시예에 따르면, 프로세서는 수정한 뷰 데이터를 외부 장치(210)로 전송하기 위하여 전송용 뷰 데이터로 변환할 수 있다.
다양한 실시예에 따르면, 프로세서는 외부 장치(210)로 컨트롤 데이터를 전송할 수 있다. 일 실시예에 따르면, 컨트롤 데이터는 알림음, 진동, 화면 온오프 및 화면 잠금 중 적어도 하나에 대한 설정 정보를 포함할 수 있다. 사용자가 전자 장치(220)에서 컨트롤 데이터에 대한 설정을 변경한 경우, 프로세서는 해당 정보에 대한 컨트롤 데이터를 생성하여 외부 장치(210)로 전송할 수 있다.
도 3은 다양한 실시예에 따른 외부 장치의 종류 별 화면 재구성을 도시한 도면이다.
도 3을 참조하면, 프로세서는 복수의 외부 장치와 확장 뷰 연결을 수립할 수 있다. 프로세서는 어플리케이션의 아이템 속성값을 확인하고 외부 장치 종류 별로 뷰 데이터를 생성할 수 있다. 예를 들어, 프로세서는 스마트폰(302)에 대한 제1뷰 데이터, 태블릿(312)에 대한 제2뷰 데이터를 생성할 수 있다. 제1뷰 데이터 및 제2뷰 데이터에 포함된 아이템의 종류는 다를 수 있다. 프로세서가 각 외부 장치에 따라 어느 아이템을 포함한 뷰 데이터를 생성할 것인지는 어플리케이션 상의 설정 및 사용자의 설정 중 적어도 하나에 기반하여 결정할 수 있다.
다양한 실시예에 따르면, 프로세서는 전자 장치(300)의 실행 화면을 미러링한 화면에 대한 뷰 데이터를 외부 장치(302)로 전송할 수 있다. 예를 들어, 전자 장치(300) 상에서 표시한 파일을 스마트폰(302)에 전송하여 공유하는 경우, 프로세서는 기존 뷰 레이아웃과 동일한 확장 뷰 레이아웃을 생성하여 스마트폰(302)에 전송할 수 있다.
다양한 실시예에 따르면, 프로세서는 전자 장치(310)의 실행 화면 중 일부만을 외부 장치(312)로 전송할 수 있다. 예를 들어, 전자 장치(310)에서 동영상이 재생되고 있는 경우, 프로세서는 더 큰 화면으로 보기 위해 조작 메뉴를 제외한 영상 화면에 대한 뷰 데이터를 외부 장치(312)로 전송할 수 있다. 조작 메뉴에 대한 뷰 데이터는 재생 버튼, 일시정지 버튼, 빨리감기 버튼 및 뒤로가기 버튼을 포함하는 뷰 데이터를 포함할 수 있다.
도 4는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 4를 참조 하면, 전자 장치(400)는 디스플레이(420), 통신 모듈(430), 프로세서(410) 및 메모리(440)를 포함할 수 있으며, 다양한 실시예에서, 도시된 구성 중 일부가 생략 또는 치환 될 수도 있다. 전자 장치(400)는 도 1의 전자 장치(101)의 구성 및/또는 기능 중 적어도 일부를 더 포함할 수 있다. 도시된(또는 도시되지 않은) 전자 장치(400)의 각 구성 중 적어도 일부는 상호 작동적으로(operatively), 기능적으로(functionally) 및/또는 전기적으로 (electrically) 연결될 수 있다.
다양한 실시예에 따르면, 디스플레이(420)는 프로세서(410)의 제어에 따라 다양한 영상을 표시할 수 있다. 디스플레이(420)는 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 또는 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이 중 어느 하나로 구현될 수 있으며, 이에 한정되지는 않는다. 디스플레이(420)는 사용자의 신체 일부(예: 손가락) 또는 입력 장치(예: 스타일러스 펜)를 이용한 터치 및/또는 근접 터치(또는 호버링) 입력을 감지하는 터치 스크린으로 형성될 수 있다. 디스플레이(420)는 도 1의 디스플레이 모듈(160)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 디스플레이(420)는 적어도 일부가 플렉서블(flexible) 할 수 있으며, 폴더블(foldable) 디스플레이, 또는 롤러블(rollable) 디스플레이로 구현될 수도 있다.
다양한 실시예에 따르면, 통신 모듈(430)은 프로세서(410)의 제어에 따라 무선 네트워크를 통해 외부 장치와 통신할 수 있다. 통신 모듈(430)은 셀룰러 네트워크(예: LTE(long term evolution) 네트워크, 5G 네트워크, NR(new radio) 네트워크) 및 근거리 네트워크(예: Wi-Fi, bluetooth)로부터 데이터를 송수신 하기 위한 하드웨어 및 소프트웨어 모듈들을 포함할 수 있다. 통신 모듈(430)은 도 1의 통신 모듈(190)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 메모리(440)는 휘발성 메모리(예: 도 1의 휘발성 메모리(132)) 및 비휘발성 메모리(예: 도 1의 비휘발성 메모리(134))를 포함하여, 다양한 데이터들을 일시적 또는 영구적으로 저장할 수 있다. 메모리(440)는 도 1의 메모리(130)의 구성 및/또는 기능 중 적어도 일부를 포함하고, 도 1의 프로그램(140)을 저장할 수 있다.
다양한 실시예에 따르면, 메모리(440)는 프로세서(410)에서 수행될 수 있는 다양한 인스트럭션(instruction)들을 저장할 수 있다. 이와 같은 인스트럭션들은 프로세서(410)에 의해 인식될 수 있는 산술 및 논리 연산, 데이터 이동, 입출력 등과 같은 제어 명령을 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 전자 장치(400) 각 구성요소들(예: 디스플레이(420), 통신 모듈(430), 프로세서(410) 및 메모리(440))과 작동적으로(operatively), 기능적으로(functionally), 및/또는 전기적으로(electrically) 연결되어, 각 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 수행할 수 있는 구성일 수 있다. 프로세서(410)는 도 1의 프로세서(120)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(410)가 전자 장치(400) 상에서 구현할 수 있는 연산 및 데이터 처리 기능에는 한정됨이 없을 것이나, 이하에서는 외부 장치를 이용하여 전자 장치(400)의 어플리케이션 실행 화면을 재구성하기 위한 다양한 실시예에 대해 설명하기로 한다. 후술할 프로세서(410)의 동작들은 메모리(440)에 저장된 인스트럭션들을 로딩(loading)함으로써 수행될 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 어플리케이션 실행 화면에서 외부 장치로 전송할 아이템을 결정할 수 있다. 일 실시예에 따르면, 외부 장치로 전송될 아이템은 어플리케이션 상에서 설정될 수 있다. 예를 들어, 게임 어플리케이션 개발자는 어플리케이션 제작 시 리소스 파일에 외부 장치로 전송할 수 있는 아이템을 설정할 수 있다. 프로세서(410)는 어플리케이션의 리소스 파일을 확인하고, 리소스 파일에서 정해진 아이템을 외부 장치로 전송할 아이템으로 결정할 수 있다.
다양한 실시예에 따르면, 리소스 파일은 마크업 언어 형태(예: xml)로 생성될 수 있으며, 기기 타입, 화면 크기, 내 계정 기기만 지원하는지 여부 및 펜 지원 여부 중 적어도 하나를 포함하는 필터 조건을 포함할 수 있다. 일 실시예에 따르면, 프로세서는 사용자 입력에 기초하여 직접 파일 텍스트를 편집하거나 플랫폼 개발도구를 사용하여 시각적으로 뷰 아이템을 배치 및 편집할 수 있다. 예를 들어, 기기 타입을 스마트폰(smart phone)으로 설정하고, visibility를 optional하게 설정한 리소스 파일의 예시는 아래의 표 1과 같다.
안드로이드 어플리케이션 View Layout File
<LinearLayout xmlns:android="http://schemas.android.com/apk/res/android" android:orientation="vertical" android:layout_width="match_parent"
android:layout_height="wrap_content"
android:background="#A700D48D"
android:extensionView="true"
android:extensionView_deviceType="phone"
android:extensionView_visibility="optional">

<TextView
android:id="@+id/device_id"
android:layout_width="match_parent"
android:layout_height="20dp"
android:text="device id : bluetooth address"/>
<TextView
android:id="@+id/device_info"
android:layout_width="match_parent"
android:layout_height="wrap_content"
android: text="device name : contact name"/>
다양한 실시예에 따르면, 프로세서(410)는 결정한 아이템에 기초하여 기존 뷰 레이아웃, 확장 뷰 레이아웃, 수정 뷰 레이아웃을 구성할 수 있다. 기존 뷰 레이아웃은 현재 어플리케이션의 실행 화면일 수 있다. 확장 뷰 레이아웃은 기존 뷰 레이아웃의 아이템 중에서, 외부 장치로 전송할 아이템을 배치한 레이아웃일 수 있다. 수정 뷰 레이아웃은 외부 장치로 아이템을 전송하고 난 이후, 전자 장치(400)에서 어플리케이션을 실행하는 화면일 수 있다. 예를 들어, 기존 뷰 레이아웃에 제1아이템, 제2아이템, 제3아이템 및 제4아이템이 포함되어 있고 사용자가 제1아이템 및 제2아이템을 외부 장치로 전송하되, 제2아이템은 전자 장치(400)에서도 표시하기로 결정할 수 있다. 이 경우 확장 뷰 레이아웃에는 제1아이템 및 제2아이템이 포함되며, 수정 뷰 레이아웃에는 제1아이템, 제2아이템 및 제3아이템이 포함될 수 있다. 각 아이템의 레이아웃 상 배치는 어플리케이션 별로 설정되어 있을 수도 있고, 사용자가 설정할 수도 있다.다양한 실시예에 따르면, 프로세서(410)는 결정한 아이템에 기초하여 뷰 데이터를 생성할 수 있다. 일 실시예에 따르면, 뷰 데이터는 각 아이템에 대한 속성값을 포함할 수 있다. 속성값에는 아이템 별 확장 뷰 레이아웃 포함 여부, 아이템 별 수정 뷰 레이아웃 포함 여부, 필터 조건 및 계정 정보 중 적어도 하나가 포함될 수 있다. 일 실시예에 따르면, 프로세서(410)는 외부 장치별 뷰 데이터를 생성할 수 있다. 예를 들어, 기존 뷰 레이아웃에 포함된 각 아이템의 속성값에 따라 스마트 워치에 대한 제1뷰 데이터, 태블릿 PC에 대한 제2뷰 데이터, 스마트폰에 대한 제3뷰 데이터를 생성할 수 있다. 프로세서(410)가 통신 연결을 수행하는 외부 장치에 따라 전송되는 뷰 데이터가 달라질 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 사용자 입력에 기초하여 뷰 선택 모드로 전환할 수 있다. 일 실시예에 따르면, 프로세서(410)는 뷰 선택 모드에서 사용자의 입력에 기초하여 외부 장치로 전송할 아이템을 결정할 수 있다. 프로세서(410)는 뷰 선택 모드로 전환할 수 있는 메뉴를 디스플레이(420)에 표시할 수 있다. 프로세서(410)는 사용자 입력에 기초하여 실행 중인 어플리케이션을 뷰 선택 모드로 전환할 수 있다.
일 실시예에 따르면, 프로세서(410)는 뷰 선택 모드에서 외부 장치로 전송 가능한 아이템을 포함하는 적어도 하나의 영역에 시각 효과를 삽입할 수 있다. 즉, 외부 장치로 전송할 수 있는 아이템을 포함하는 영역의 윤곽을 테두리로 표시하거나, 또는 외부 장치로 전송할 수 있는 아이템의 색깔을 다르게 표시할 수 있다. 예를 들어, 어플리케이션 실행 화면에서 제1아이템 및 제2아이템이 외부 장치로 전송할 수 있는 경우, 프로세서(410)는 제1아이템을 포함하는 영역의 윤곽 및 제2아이템을 포함하는 영역의 윤곽에 테두리 효과를 각각 삽입하거나, 또는 제1아이템 및 제2아이템을 모두 포함하는 영역의 윤곽에 테두리 효과를 삽입할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 뷰 선택 모드에서 기존 뷰 레이아웃, 확장 뷰 레이아웃, 수정 뷰 레이아웃, 및 외부 장치의 이미지 중 적어도 하나를 디스플레이(420)에 표시할 수 있다. 일 실시예에 따르면, 프로세서(410)는 뷰 선택 모드에서 기존 뷰 레이아웃, 확장 뷰 레이아웃, 수정 뷰 레이아웃 및 외부 장치의 이미지 중 적어도 하나를 상하(혹은 좌우)로 배치할 수 있다.
다른 실시예에 따르면, 프로세서(410)는 사용자 입력에 기초하여 선택된 적어도 하나의 아이템을 외부 장치로 전송할 아이템으로 결정할 수 있다. 일 실시예에 따르면, 프로세서(410)는 뷰 선택 모드에서 디스플레이(420)의 일 측에 선택 완료 메뉴를 제공할 수 있다. 예를 들어, 사용자가 기존 뷰 레이아웃에 포함된 제1아이템을 외부 장치로 전송하기로 결정하면 확장 뷰 레이아웃에는 제1아이템이 포함되며, 수정 뷰 레이아웃에서는 제1아이템이 제거될 수 있다. 프로세서(410)는 선택 완료 메뉴에 대한 사용자 입력(예: 터치, 클릭)에 기초하여 제1아이템을 외부 장치로 전송하기로 결정할 수 있다. 일 실시예에 따르면, 프로세서(410)는 사용자가 원하는 레이아웃을 확대할 수 있는 스플릿 바(split bar)를 제공할 수 있다. 예를 들어, 기존 뷰 레이아웃 및 확장 뷰 레이아웃이 상하로 배치된 경우, 스플릿 바는 기존 뷰 레이아웃과 확장 뷰 레이아웃의 중간에 배치될 수 있다. 사용자가 스플릿 바를 터치하고 위로 드래그할 경우, 스플릿 바의 위에 배치된 레이아웃의 크기가 줄어들고, 반대로 스플릿 바의 아래에 위치한 레이아웃이 확대될 수 있다.
일 실시예에 따르면, 프로세서(410)는 각 아이템에 대한 사용자의 터치 횟수에 기초하여 각 아이템을 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 어느 곳에 포함할 지 결정할 수 있다. 예를 들어, 프로세서(410)는 사용자가 아이템을 1번 터치하는 경우 확장 뷰 레이아웃에 표시할 아이템으로 선택하고, 2번 터치하는 경우 확장 뷰 레이아웃 및 수정 뷰 레이아웃에 모두 표시할 아이템으로 선택하고, 3번 터치하는 경우 해당 아이템에 대한 선택을 취소하는 것으로 결정할 수 있다. 즉, 사용자가 기존 뷰 레이아웃에 포함된 아이템 중에서 제1아이템은 1번, 제2아이템은 2번, 제3아이템은 3번 터치한 경우, 프로세서(410)는 확장 뷰 레이아웃에는 제1아이템 및 제2아이템, 수정 뷰 레이아웃에는 제2아이템 및 제3아이템을 표시할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 적어도 하나의 외부 장치의 기기 정보를 검색할 수 있다. 기기 정보는 외부 장치의 디바이스 종류, 계정 정보, 하드웨어 정보, 운영체제 정보 및 상태 정보 중 적어도 하나를 포함할 수 있다. 일 실시예에 따르면, 프로세서는 외부 장치의 검색할지 여부를 판단할 수 있다. 예를 들어, 외부 장치에서 동일한 계정 정보로 로그인한 경우 프로세서는 해당 외부 장치를 검색할 수 있다. 일 실시예에 따르면, 프로세서는 외부 장치를 검색할 때 스캔 필터(예: BLE MAC address, 서비스 ID, 제조사 ID)를 구성하여 원하는 외부 장치 또는 서비스만 검색할 수 있다. 프로세서(410)는 복수의 외부 장치를 검색하고, 각 외부 장치의 기기 정보를 획득하여 메모리(440)에 저장할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 외부 장치로부터 획득한 기기 정보 및 필터 조건에 기초하여 확장 뷰 연결 가능한 외부 장치를 선택할 수 있다. 일 실시예에 따르면, 필터 조건은 디바이스 종류, 화면 크기, 동일 계정 기기만 지원 여부, 펜 지원 여부 및 운영체제 정보 중 적어도 하나를 포함할 수 있다. 예를 들어, 제1어플리케이션은 태블릿 PC, 10인치 이상의 화면, 및 동일 계정만 지원하는 필터 조건을 가질 수 있다. 프로세서(410)는 주변의 외부 장치들 중에서 해당 필터 조건을 만족하는 외부 장치를 선택할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 필터 조건에 부합하는 외부 장치를 디스플레이(420)에 표시할 수 있다. 프로세서(410)는 필터 조건에 대한 정보를 복수의 외부 장치들로부터 수신하고, 필터 조건에 부합하는 적어도 하나의 외부 장치를 결정할 수 있다. 프로세서(410)는 필터 조건에 맞는 적어도 하나의 외부장치를 그래픽 객체(아이콘) 및 선택 메뉴 중 적어도 하나로 디스플레이(420)에 표시할 수 있다. 예를 들어, 필터 조건에 맞는 외부 장치가 스마트 워치, 태블릿인 경우, 스마트 워치 및 태블릿을 지시하는 그래픽 객체를 디스플레이(420)에 표시하거나, 외부 장치를 지시하는 문구(예: smart watch, tablet PC)를 표시할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 사용자 입력에 기초하여 외부 장치로 확장 뷰 연결 요청을 전송할 수 있다. 예를 들어, 프로세서는 디스플레이(420)에 표시된 그래픽 객체 중 사용자가 터치한 그래픽 객체에 대응하는 외부 장치로 확장 뷰 연결 요청을 전송할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 외부 장치와 확장 뷰 연결을 수립할 수 있다. 일 실시예에 따르면, 전자 장치(400)는 무선 네트워크, 유선 네트워크 및 무선 디스플레이 연결 표준 중 적어도 하나의 방식으로 외부 장치와 확장 뷰 연결할 수 있다. 예를 들어, 전자 장치(400)는 외부 장치와 미라캐스트 방식으로 확장 뷰 연결할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 전송용 뷰 데이터를 외부 장치로 전송할 수 있다. 프로세서(410)는 수립한 확장 뷰 연결을 활용하여, 생성한 뷰 데이터를 외부 장치로 전송할 수 있도록 전송용 뷰 데이터로 변환할 수 있다. 전송용 뷰 데이터는 외부 장치에서 확장 뷰 레이아웃을 구성하기 위한 정보를 포함할 수 있다. 외부 장치는 전송용 뷰 데이터를 수신하고 확장 뷰 레이아웃을 구성할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 외부 장치에서 뷰 이벤트 정보를 수신할 수 있다. 외부 장치에 대한 사용자의 입력이 발생한 경우, 외부 장치는 이에 대한 뷰 이벤트 정보를 생성할 수 있다. 예를 들어, 영상 재생 어플리케이션의 확장 뷰 레이아웃에 포함된 적어도 하나의 버튼 중에서 사용자가 일시 정지 버튼을 터치한 경우, 외부 장치는 일시 정지 버튼에 대한 사용자 입력을 인식하여 뷰 이벤트 정보를 생성할 수 있다. 외부 장치는 확장 뷰 연결을 사용하여 뷰 이벤트 정보를 전자 장치(400)로 전송할 수 있다. 프로세서(410)는 뷰 이벤트 정보를 수신하고, 수신한 뷰 이벤트 정보에 기초하여 어떤 동작을 수행할 지 결정할 수 있다. 이 때 프로세서가 수행하는 동작은 외부 장치에 입력된 이벤트가 전자 장치에서 발생한 경우와 동일한 동작일 수 있다. 즉, 프로세서는 외부 장치에서 실행 중인 영상을 일시 정지하는 동작을 수행하기로 결정할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 뷰 이벤트 정보에 기초하여 뷰 데이터를 수정하고 외부 장치로 재전송할 수 있다. 일 실시예에 따르면, 프로세서(410)는 뷰 이벤트 정보에 기초하여 외부 장치에 표시되는 확장 뷰 레이아웃 및 전자 장치(400)에 표시되는 수정 뷰 레이아웃도 수정할 수 있다. 예를 들어, 사용자가 외부 장치에 표시된 영상 일시 정지 버튼을 터치한 경우, 프로세서(410)는 외부 장치로부터 해당 이벤트 정보를 수신하고 영상 재생을 일시 정지할 수 있다. 프로세서(410)는 외부 장치에 표시된 재생 아이콘을 일시 정지 아이콘으로 변경하도록 뷰 데이터를 수정하고, 이를 외부 장치로 전송할 수 있다. 외부 장치는 이를 수신하여 외부 장치의 디스플레이(420)에 표시된 아이콘을 변경할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 알림음, 진동, 화면 온오프 및 화면 잠금 중 적어도 하나에 대한 설정 정보를 포함하는 컨트롤 데이터를 상기 외부 장치로 전송할 수 있다. 즉, 전자 장치(400)의 디스플레이(420)에 대한 사용자 입력에 기초하여 외부 장치의 설정을 변경할 수 있다. 예를 들어, 사용자가 전자 장치(400)에서 화면 잠금 기능을 활성화한 경우, 프로세서(410)는 화면 잠금 기능 활성화에 대한 정보를 외부 장치로 전송할 수 있다. 외부 장치는 이를 수신하고 화면 잠금 기능을 활성화할 수 있다.
도 5a 및 도 5b는 다양한 실시예에 따른 외부 장치로 전송할 아이템을 결정하는 화면을 도시한 도면이다.
도 5a를 참조하면, 외부 장치로 전송할 아이템을 결정하는 화면에는 기존 뷰 레이아웃(510), 수정 뷰 레이아웃(520), 확장 뷰 레이아웃(530), 및 스플릿 바(513) 중 적어도 하나를 표시할 수 있다. 일 실시예에 따르면, 확장 뷰 레이아웃(530)은 외부 장치의 정보에 기초하여 표현된 외부 장치의 이미지 내에 포함되어 함께 표시될 수도 있다. 일 실시예에 따르면, 프로세서(예: 도 4의 프로세서(410))는 아이템 결정 화면을 표시할 때 기존 뷰 레이아웃(510)을 스플릿 바(513)로 분리된 영역에 별도 표시할 수 있다. 즉, 기존 뷰 레이아웃(510)을 상단(하단)에 배치하고, 수정 뷰 레이아웃(520) 및 확장 뷰 레이아웃(530)을 하단(상단)에 배치하고, 그 사이에 스플릿 바(513)를 위치시켜 영역을 분리할 수 있다. 일 실시예에 따르면, 사용자는 스플릿 바(513)를 터치 및 드래그하여 각 레이아웃의 크기를 조절할 수 있다. 예를 들어, 사용자가 스플릿 바(513)를 터치하고 위로 드래그한 경우 기존 뷰 레이아웃(510)의 크기는 줄어들고, 수정 뷰 레이아웃(520)과 확장 뷰 레이아웃(530)의 크기는 확장될 수 있다. 일 실시예에 따르면, 아이템 결정 화면에는 선택 완료 메뉴(511)가 함께 제공될 수 있다. 사용자가 외부 장치로 전송할 아이템을 모두 선택하고 선택 완료 메뉴(511)를 터치하면 외부 장치로 전송할 아이템이 확정되며, 프로세서는 해당 아이템들에 대한 뷰 데이터를 생성하고 이에 기초하여 뷰 레이아웃을 생성할 수 있다.
도 5b를 참조하면, 확장 뷰 레이아웃(530)은 확장 뷰 연결된 외부 장치의 이미지 내에 함께 표시될 수 있다. 즉, 프로세서는 실제로 외부 장치에 표시된 확장 뷰 레이아웃(530)의 프리뷰 이미지를 제공할 수 있다. 프로세서는 사용자 입력에 기초하여 외부 장치로 전송할 아이템을 결정할 수 있다. 일 실시예에 따르면, 프로세서는 사용자가 기존 뷰 레이아웃(510)에 포함된 아이템을 터치하는 즉시 확장 뷰 레이아웃(530)에 사용자가 터치한 아이템을 표시하고, 수정 뷰 레이아웃에 변경될 화면을 표시할 수 있다. 다른 실시예에 따르면, 프로세서는 사용자가 선택한 아이템을 별도 표시(예: 색깔, 음영)하고 선택 완료 버튼을 터치하면 확장 뷰 레이아웃(530)에 표시할 수 있다.
다양한 실시예에 따르면, 프로세서는 각 아이템에 대한 사용자의 터치 횟수에 따라서 수정 뷰 레이아웃(520) 및 확장 뷰 레이아웃(530) 중 어디에 표시할 것인지 결정할 수 있다. 예를 들어, 프로세서는 사용자가 제1아이템을 한 번만 터치하는 경우 확장 뷰 레이아웃(530)에만 표시하고, 두 번 터치하는 경우에 수정 뷰 레이아웃(520)에도 표시되도록 결정할 수 있다. 프로세서는 사용자가 제1아이템을 세 번 터치하는 경우 제1아이템 표시를 초기화할 수 있다. 즉, 기존 뷰 레이아웃(510)에만 포함되도록 표시할 수 있다.
예를 들어, 프로세서는 어플리케이션 화면의 일부를 확장 뷰 연결된 스마트 워치로 전송할 수 있다. 사용자는 어플리케이션 내의 제1아이템 및 제2아이템을 스마트 워치로 전송하기로 결정하고, 제1아이템을 한 번 터치하고, 제2아이템을 두 번 터치할 수 있다. 프로세서는 기존 뷰 레이아웃(510)에서 제1아이템을 제1색으로, 제2아이템을 제2색으로 표시하고, 스플릿 바(513) 하단에 나타난 확장 뷰 레이아웃(530)에 제1아이템 및 제2아이템을 표시하고, 수정 뷰 레이아웃(520)에서 제1아이템을 표시하지 않을 수 있다.
도 6a 및 도 6b는 다양한 실시예에 따른 기존 뷰 레이아웃(600), 확장 뷰 레이아웃(610), 수정 뷰 레이아웃(620)을 도시한 도면이다.
도 6a를 참조하면, 프로세서(예: 도 4의 프로세서(410))는 기존 뷰 레이아웃(600)에 포함된 각 아이템(예: button view, image view, text view)을 조합하여 확장 뷰 레이아웃(610) 및 수정 뷰 레이아웃(620)을 생성할 수 있다. 일 실시예에 따르면, 프로세서는 어플리케이션 상에서 외부 장치로 전송하도록 설정된 아이템이 확장 뷰 레이아웃(610)에 포함되는 것으로 결정할 수 있다.
도 6b를 참조하면, 기존 뷰 레이아웃(600)의 아이템 중 적어도 일부는 확장 뷰 레이아웃(610) 및 수정 뷰 레이아웃(620)에 모두 포함될 수 있다. 각 아이템이 어떤 레이아웃에 속할지는 프로세서가 어플리케이션 상에서 확인하여 결정할 수도 있고, 사용자 입력에 기초하여 결정할 수도 있다.
일 실시예에 따르면, 프로세서는 각 아이템에 대한 사용자의 터치 횟수에 따라 확장 뷰 레이아웃(610) 및 수정 뷰 레이아웃(620) 중 어디에 포함시킬 것인지 결정할 수 있다. 예를 들어, 1번 터치 하면 확장 뷰 레이아웃(610)에 포함, 2번 터치하면 확장 뷰 레이아웃(610) 및 수정 뷰 레이아웃(620)에 포함, 3번 터치하면 선택이 초기화되도록 결정할 수 있다. 사용자가 버튼 뷰와 텍스트 뷰를 한 번씩만 터치하면 프로세서는 도 6a와 같이 확장 뷰 레이아웃(610)에는 버튼 뷰와 텍스트 뷰만 포함하고 수정 뷰 레이아웃(620)에는 이미지 뷰만 남길 수 있다. 사용자가 버튼 뷰는 한 번씩, 텍스트 뷰는 두 번씩 터치한 경우, 프로세서는 도 6b와 같이 확장 뷰 레이아웃(610)에는 버튼 뷰와 텍스트 뷰를 포함하고, 수정 뷰 레이아웃(620)에는 이미지 뷰와 텍스트 뷰를 포함할 수 있다.
도 7은 다양한 실시예에 따른 어플리케이션 실행 화면에서 외부 장치로 전송 가능한 아이템에 시각 효과를 넣은 것을 도시한 도면이다.
도 7을 참조하면, 프로세서(예: 도 4의 프로세서(410))는 외부 장치로 전송할 수 있는 아이템에 시각 효과를 넣을 수 있다. 일 실시예에 따르면, 프로세서는 확장 뷰 레이아웃에 포함되어 있는 아이템의 윤곽을 둘러싸는 테두리를 표시할 수 있다. 프로세서는 아이템을 포함하는 영역에 다른 색을 칠하거나, 음영을 추가하여 외부 장치로 전송할 수 있는 아이템이라고 표시할 수 있다.
예를 들어, 사용자가 동영상을 재생하고 있는 경우, 영상 위아래에 위치하는 재생 버튼 및 음량조절 버튼(702)과 재생 시간을 표시하는 상태표시줄(704)을 외부 장치로 전송할 수 있다. 프로세서는 해당 아이템을 포함하는 영역의 윤곽을 테두리 표시하여, 사용자가 이를 외부 장치로 전송할 수 있음을 표시할 수 있다.
다양한 실시예에 따르면, 프로세서는 외부 장치로 전송이 가능한 아이템 중 적어도 일부를 사용자 입력에 기초하여 결정하고, 확장 뷰 레이아웃을 생성할 수 있다. 예를 들어, 사용자가 테두리 영역으로 표시된 아이템 중 일부를 터치하는 경우, 프로세서는 해당 아이템을 확장 뷰 레이아웃에 포함시키는 것으로 결정할 수 있다. 일 실시예에 따르면, 각 아이템을 확장 뷰 레이아웃 및 수정 뷰 레이아웃에 포함시킬지 여부는 사용자의 터치 횟수에 따라 달라질 수 있다. 예를 들어, 사용자가 상태 표시줄(704)은 두 번 터치하고 재생 버튼 및 음량조절 버튼(702)은 한 번만 터치하는 경우, 프로세서는 상태 표시줄(704)은 확장 뷰 레이아웃 및 수정 뷰 레이아웃에 모두 포함시키고, 재생 버튼 및 음량조절 버튼(702)은 확장 뷰 레이아웃에만 포함하도록 결정할 수 있다.
다양한 실시예에 따르면, 프로세서는 외부 장치로 전송 가능한 아이템에 대한 사용자 입력을 수신하여 플로팅 형태로 변환할 수 있다. 일 실시예에 따르면, 사용자는 플로팅 형태로 변한 아이템을 디스플레이(예: 도 4의 디스플레이(420))의 일 측으로 이동시켜 확장 뷰 연결 요청을 전송할 수 있다. 예를 들어, 사용자가 외부 장치로 전송하고자 하는 아이템을 롱 프래스(long press)하면, 프로세서는 해당 아이템을 플로팅 형태로 변환할 수 있다. 이후, 사용자가 플로팅 형태의 아이템을 디스플레이 우측 가장자리로 이동시키면, 프로세서는 외부 장치로 해당 아이템을 전송하기 위하여 뷰 선택 모드로 전환할 수 있다. 프로세서는 뷰 선택 모드로 전환 후 기존 뷰 레이아웃이 포함하는 다른 아이템에 대한 사용자의 선택에 기초하여 외부 장치로 전송할 아이템을 결정할 수 있다.
도 8은 다양한 실시예에 따른 뷰 데이터를 저장하는 뷰 트리 구조(800)를 나타낸 도면이다.
다양한 실시예에 따르면, 프로세서(예: 도 4의 프로세서(410))는 뷰 데이터를 뷰 트리 구조(800) 형태로 저장할 수 있다. 도 8을 참조하면, 일반적으로 UI는 각 노드는 부모 노드와 자식 노드 관계로 이어져 있는 뷰 트리 구조(800)로 되어 있다. 가장 위에는 루트 노트가 위치하고, 일 실시예에 따르면, 각 노드는 아이디, 부모 노드, 자식 노드 및 화면 뷰에 대한 정보를 포함할 수 있다. 일 실시예에 따르면, 각 노드의 다음 노드는 자식 노드 또는 형제 노드를 의미할 수 있다.
다양한 실시예에 따르면, 프로세서는 각 노드에 뷰에 대한 데이터를 저장할 수 있다. 예를 들어, 제1뷰에 대한 뷰 데이터가 루트 노드에 저장되고, 제2뷰에 대한 뷰 데이터 및 제3뷰에 대한 뷰 데이터가 루트 노드의 자식 노드들에 저장될 수 있다.
다양한 실시예에 따르면, 뷰 데이터로부터 생성된 전송용 뷰 데이터도 동일하게 뷰 트리 구조(800)를 유지하여 구성하여 각 노드마다 아이디, 부모 노드, 자식 노드 및 화면 뷰에 대한 정보를 포함할 수 있다. 일 실시예에 따르면, 각 노드는 어플리케이션의 실행 화면에 대한 정보를 포함하며, 실행 화면에 어떤 아이템이 포함되는지에 대한 정보를 포함할 수 있다.
도 9는 다양한 실시예에 따른 확장 뷰 연결 가능한 외부 장치를 나타내는 메뉴를 도시한 도면이다.
도 9를 참조하면, 프로세서(예: 도 4의 프로세서(410))는 확장 뷰 레이아웃을 전송할 외부 장치를 디스플레이(900)(예: 도 4의 디스플레이(420))의 일 측에 표시할 수 있다. 디스플레이(900)에 표시되는 외부 장치는 전자 장치의 필터 조건을 만족하는 외부 장치일 수 있다. 일 실시예에 따르면, 프로세서는 외부 장치의 목록을 나타내는 메뉴(902)를 제공할 수 있고, 연결 가능한 외부 장치를 지시하는 그래픽 객체(912)(예: 아이콘)를 제공할 수도 있다. 프로세서는 목록 메뉴(902) 혹은 그래픽 객체(912)에 대한 사용자 입력에 기초하여 전자 장치와 확장 뷰 연결을 수립할 외부 장치를 결정할 수 있다.
예를 들어, 태블릿, 스마트워치가 필터 조건을 만족시키는 외부 장치인 경우, 프로세서는 디스플레이(900)에 태블릿 및 스마트워치로 이루어진 목록 메뉴(902)를 제공할 수 있다. 목록 메뉴(902)에서 각 외부 장치들은 상하로 배치될 수도 있고, 좌우로 배치될 수도 있다. 일 실시예에 따르면, 목록 메뉴(902) 내의 외부 장치들은 프로세서와 먼저 통신 연결된 순서, 전자 장치와 거리가 가까운 순서, 화면 크기가 큰 순서, 및 사용자가 자주 사용하는 순서 중 적어도 하나에 따라서 배열될 수 있다. 프로세서는 목록 메뉴(902)가 디스플레이(900) 내에 표시될 위치를 결정할 수 있으며, 목록 메뉴(902)가 플로팅 형태로 사용자의 입력에 기초하여 위치를 이동하도록 생성할 수도 있다. 프로세서는 목록 메뉴(902) 내의 각 항목에 대한 사용자 입력에 기초하여 확장 뷰 연결을 수행할 외부 장치를 결정할 수 있다.
다른 실시예에 따르면, 프로세서는 태블릿과 스마트워치를 지시하는 그래픽 객체(912)(아이콘)를 표시할 수도 있다. 그래픽 객체(912)는 좌우로 배치될 수도 있고, 상하로 배치될 수도 있다. 프로세서는 각 아이콘(912)에 대한 사용자 입력에 기초하여 확장 뷰 연결을 수립할 외부 장치를 결정할 수 있다.
도 10은 다양한 실시예에 따른 외부 장치와 확장 뷰 연결 수락을 요청하는 팝업 메시지를 도시한 도면이다.
도 10을 참조하면, 프로세서(예: 도 4의 프로세서(410))는 전자 장치(1000)에 외부 장치가 확장 뷰 연결을 요청하는 경우 팝업 메시지(1010)를 디스플레이(예: 도 4의 디스플레이(420))에 표시할 수 있다. 프로세서는 디스플레이의 일 측에 팝업 메시지(1010)를 표시할 수 있으며, 팝업 메시지(1010)는 확장 뷰 연결 수락을 요청하는 문구(예: Samsung의 기기에 어플리케이션의 확장 뷰 연결을 수락하시겠습니까?), 취소 버튼 및 확인 버튼을 포함할 수 있다. 일 실시예에 따르면, 프로세서는 팝업 메시지(1010)와 함께 배너(1020)를 디스플레이에 표시할 수 있다. 배너(1020)에는 확장 뷰 연결 수락 요청하는 문구(예: '어플리케이션의 확장 뷰 연결을 수락하시겠습니까?') 및 확인 버튼(1022)이 포함될 수 있다.
일 실시예에 따르면, 프로세서는 계정 정보를 수신하고, 전자 장치(1000)와 동일한 계정인 외부 장치만 확장 뷰 연결 요청을 수락할 수 있다. 예를 들어, 제1계정으로 로그인(log in) 되어 있는 전자 장치(1000)에서 확장 뷰 연결 요청을 받을 때, 프로세서는 제2계정으로 로그인 된 외부 장치의 확장 뷰 연결 요청을 허락하지 않을 수 있다. 다른 실시예에 따르면, 프로세서는 계정 정보가 다른 외부 장치의 확장 뷰 연결 요청에 대해서만 연결 수락을 요청하는 팝업 메시지(1010)를 표시할 수 있다. 사용자가 팝업 메시지(1010)에서 확장 뷰 연결 요청을 수락하면, 프로세서는 외부 장치와 확장 뷰 연결을 수립할 수 있다.
다른 실시예에 따르면, 프로세서는 동일한 계정의 외부 장치에 대해서는 수락을 요청하는 팝업 메시지(1010)를 표시하지 않을 수 있다. 일 실시예에 따르면, 프로세서는 동일하지 않은 계정의 외부 장치에 대해서는 수락을 요청하는 팝업 메시지(1010)를 표시할 수 있다. 예를 들어, 제1계정으로 로그인 되어 있는 전자 장치(1000)에 동일한 제1계정으로 로그인 되어 있는 외부 장치가 확장 뷰 연결 요청을 전송한 경우, 프로세서는 별도의 과정을 거치지 않고 외부 장치와 전자 장치(1000)의 확장 뷰 연결을 수립할 수 있다.
다양한 실시예에 따른 전자 장치는, 디스플레이, 통신 모듈, 메모리, 및 상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 상기 통신 모듈을 이용하여 외부 장치의 기기 정보를 획득하고, 상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 외부 장치로 전송할 적어도 하나의 아이템을 결정하고, 상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하고, 상기 외부 장치와 통신 연결을 수립하여 전송용 뷰 데이터를 전송할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 적어도 하나의 아이템을 상기 뷰 데이터에 기초하여 재구성한 뷰 레이아웃을 생성할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 아이템 중 상기 어플리케이션 상에서 설정된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 아이템 중 사용자 입력에 따라 선택된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 사용자 입력에 기초하여 뷰 선택 모드로 전환하고, 상기 뷰 선택 모드에서 기존 뷰 레이아웃, 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 적어도 하나를 상기 디스플레이에 표시할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 아이템에 대한 사용자의 터치 횟수에 따라서 상기 아이템을 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 적어도 하나에 포함할 수 있다.
다양한 실시예에 따르면, 상기 뷰 데이터는 아이템 별 확장 뷰 레이아웃 포함 여부, 아이템 별 수정 뷰 레이아웃 포함 여부, 필터 조건 및 계정 정보 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 필터 조건은 디바이스 종류, 화면 크기, 동일 계정 기기만 지원 여부, 펜 지원 여부 및 운영체제 정보 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 외부 장치가 상기 필터 조건을 만족하는지 판단하고, 상기 외부 장치가 상기 필터 조건을 만족하는 경우, 상기 디스플레이에 상기 외부 장치를 지시하는 그래픽 객체 및 선택 메뉴 중 적어도 하나를 표시할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 무선 네트워크, 유선 네트워크 및 무선 디스플레이 연결 표준 중 적어도 하나의 방법을 사용하여 상기 외부 장치와 통신 연결할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 외부 장치로 전송할 아이템을 포함하는 적어도 하나의 영역에 시각 효과를 삽입할 수 있다.
다양한 실시예에 따르면, 상기 기기 정보는 상기 외부 장치의 운영 체제 정보를 포함하고, 상기 프로세서는, 상기 운영 체제 정보에 기초하여 상기 뷰 데이터에서 적어도 하나의 속성값을 변경하여 전송용 뷰 데이터를 생성할 수 있다.
다양한 실시예에 따른 전자 장치는, 디스플레이, 통신 모듈, 메모리, 및 상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고, 상기 프로세서는, 외부 장치로부터 뷰 이벤트 정보를 수신하고, 수신한 뷰 이벤트 정보에 기반하여 뷰 데이터를 수정하고, 상기 수정한 뷰 데이터를 전송용 뷰 데이터로 변경하여 상기 외부 장치로 전송할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 알림음, 진동, 화면 온오프 및 화면 잠금 중 적어도 하나에 대한 설정 정보를 상기 외부 장치로 전송할 수 있다.
도 11은 다양한 실시예에 따른 외부 장치를 이용하여 어플리케이션 실행 화면을 재구성하는 방법에 대한 순서도이다.
도 11을 참조하면, 전자 장치는 외부 장치로 전송할 아이템을 결정할 수 있다. 일 실시예에 따르면, 동작 1100에서, 전자 장치는 외부 장치로 전송할 아이템이 어플리케이션 상에서 결정되어 있는지 판단할 수 있다. 즉, 전자 장치는 외부 장치로 전송할 아이템이 어플리케이션 상에서 설정되어 있는지 확인하고, 결정되어 있는 경우 해당 아이템을 외부 장치로 전송하기로 결정할 수 있다.
다양한 실시예에 따르면, 동작 1102에서, 어플리케이션 상에서 외부 장치로 전송할 아이템이 결정되지 않은 경우 전자 장치는 사용자 입력에 기초하여 아이템을 결정할 수 있다. 일 실시예에 따르면, 전자 장치는 뷰 선택 모드에서 디스플레이의 일 측에 선택 완료 메뉴를 제공할 수 있다. 일 실시예에 따르면, 전자 장치는 뷰 선택 모드에서 외부 장치로 전송 가능한 아이템을 포함하는 적어도 하나의 영역에 시각 효과를 삽입할 수 있다. 즉, 외부 장치로 전송할 수 있는 아이템을 포함하는 영역의 윤곽을 테두리로 표시하거나, 또는 외부 장치로 전송할 수 있는 아이템의 색깔을 다르게 표시할 수 있다.
다양한 실시예에 따르면, 전자 장치는 선택 완료 메뉴에 대한 사용자 입력(예: 터치, 클릭)에 기초하여 제1아이템을 외부 장치로 전송하기로 결정할 수 있다. 일 실시예에 따르면, 전자 장치는 사용자가 원하는 레이아웃을 확대할 수 있는 스플릿 바(split bar)를 제공할 수 있다. 예를 들어, 기존 뷰 레이아웃 및 확장 뷰 레이아웃이 상하로 배치된 경우, 스플릿 바는 기존 뷰 레이아웃과 확장 뷰 레이아웃의 중간에 배치될 수 있다. 사용자가 스플릿 바를 터치하고 위로 드래그할 경우, 스플릿 바의 위에 배치된 레이아웃의 크기가 줄어들고, 반대로 스플릿 바의 아래에 위치한 레이아웃이 확대될 수 있다. 일 실시예에 따르면, 전자 장치는 각 아이템에 대한 사용자의 터치 횟수에 기초하여 각 아이템을 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 어느 곳에 포함할 지 결정할 수 있다.
다양한 실시예에 따르면, 전자 장치는 결정한 아이템에 기초하여 뷰 데이터를 생성할 수 있다. 일 실시예에 따르면, 뷰 데이터는 각 아이템에 대한 속성값을 포함할 수 있다. 속성값에는 아이템 별 확장 뷰 레이아웃 포함 여부, 아이템 별 수정 뷰 레이아웃 포함 여부, 필터 조건 및 계정 정보 중 적어도 하나가 포함될 수 있다. 일 실시예에 따르면, 전자 장치는 외부 장치별 뷰 데이터를 생성할 수 있다.
다양한 실시예에 따르면, 동작 1104에서, 전자 장치는 외부 장치의 기기 정보를 확인할 수 있다. 기기 정보는 외부 장치의 디바이스 종류, 계정 정보, 하드웨어 정보, 운영체제 정보 및 상태 정보 중 적어도 하나를 포함할 수 있다. 전자 장치는 복수의 외부 장치가 전송하는 기기 정보를 수신하여 메모리에 저장할 수 있다.
다양한 실시예에 따르면, 동작 1110에서, 전자 장치는 외부 장치가 필터 조건을 만족하는지 판단할 수 있다. 일 실시예에 따르면, 필터 조건은 디바이스 종류, 화면 크기, 동일 계정 기기만 지원 여부, 펜 지원 여부 및 운영체제 정보 중 적어도 하나를 포함할 수 있다. 예를 들어, 제1어플리케이션은 태블릿 PC, 10인치 이상의 화면, 및 동일 계정만 지원하는 필터 조건을 가질 수 있다. 전자 장치는 주변의 외부 장치들 중에서 해당 필터 조건을 만족하는 외부 장치를 선택할 수 있다.
다양한 실시예에 따르면, 동작 1112에서, 전자 장치는 디스플레이에 확장 뷰 연결 가능한 외부 장치의 아이콘 또는 목록을 표시할 수 있다. 전자 장치는 필터 조건에 대한 정보를 복수의 외부 장치들로부터 수신하고, 필터 조건에 부합하는 적어도 하나의 외부 장치를 결정할 수 있다. 전자 장치는 필터 조건에 맞는 적어도 하나의 외부장치를 그래픽 객체(아이콘) 및 선택 메뉴 중 적어도 하나로 디스플레이에 표시할 수 있다. 예를 들어, 필터 조건에 맞는 외부 장치가 스마트 워치, 태블릿인 경우, 스마트 워치 및 태블릿을 지시하는 그래픽 객체를 디스플레이에 표시하거나, 외부 장치를 지시하는 문구(예: smart watch, tablet PC)를 표시할 수 있다.
다양한 실시예에 따르면, 동작 1114에서, 전자 장치는 사용자 입력에 기초하여 외부 장치와 확장 뷰를 연결할 수 있다. 일 실시예에 따르면, 전자 장치는 무선 네트워크, 유선 네트워크 및 무선 디스플레이 연결 표준 중 적어도 하나의 방식으로 외부 장치와 확장 뷰 연결할 수 있다. 예를 들어, 전자 장치는 외부 장치와 미라캐스트 방식으로 확장 뷰 연결할 수 있다.
다양한 실시예에 따르면, 동작 1116에서, 전자 장치는 확장 뷰 연결된 외부 장치로 뷰 데이터를 전송할 수 있다. 전자 장치는 수립한 확장 뷰 연결을 활용하여, 생성한 뷰 데이터를 외부 장치로 전송할 수 있도록 전송용 뷰 데이터로 변환할 수 있다. 전송용 뷰 데이터는 외부 장치에서 확장 뷰 레이아웃을 구성하기 위한 정보를 포함할 수 있다. 외부 장치는 전송용 뷰 데이터를 수신하고 확장 뷰 레이아웃을 구성할 수 있다.
다양한 실시예에 따르면, 전자 장치는 외부 장치에서 뷰 이벤트 정보를 수신할 수 있다. 외부 장치에 대한 사용자의 입력이 발생한 경우, 외부 장치는 이에 대한 뷰 이벤트 정보를 생성할 수 있다. 예를 들어, 영상 재생 어플리케이션의 확장 뷰 레이아웃에 포함된 적어도 하나의 버튼 중에서 사용자가 일시 정지 버튼을 터치한 경우, 외부 장치는 일시 정지 버튼에 대한 사용자 입력을 인식하여 뷰 이벤트 정보를 생성할 수 있다. 외부 장치는 확장 뷰 연결을 사용하여 뷰 이벤트 정보를 전자 장치로 전송할 수 있다. 전자 장치는 뷰 이벤트 정보를 수신하고, 수신한 뷰 이벤트 정보에 기초하여 어떤 동작을 수행할지 결정할 수 있다. 이 때 전자 장치가 수행하는 동작은 외부 장치에 발생한 이벤트가 전자 장치에서 발생한 경우와 동일한 동작일 수 있다.
다양한 실시예에 따르면, 전자 장치는 뷰 이벤트 정보에 기초하여 뷰 데이터를 수정하고 외부 장치로 재전송할 수 있다. 일 실시예에 따르면, 전자 장치는 뷰 이벤트 정보에 기초하여 외부 장치에 표시되는 확장 뷰 레이아웃 및 전자 장치에 표시되는 수정 뷰 레이아웃도 수정할 수 있다. 예를 들어, 사용자가 외부 장치에 표시된 영상 일시 정지 버튼을 터치한 경우, 전자 장치는 외부 장치로부터 해당 이벤트 정보를 수신하고 영상 재생을 일시 정지할 수 있다. 전자 장치는 외부 장치에 표시된 재생 아이콘을 일시 정지 아이콘으로 변경하도록 뷰 데이터를 수정하고, 이를 외부 장치로 전송할 수 있다. 외부 장치는 이를 수신하여 외부 장치의 디스플레이에 표시된 아이콘을 변경할 수 있다.
다양한 실시예에 따르면, 전자 장치는 알림음, 진동, 화면 온오프 및 화면 잠금 중 적어도 하나에 대한 설정 정보를 포함하는 컨트롤 데이터를 상기 외부 장치로 전송할 수 있다. 즉, 전자 장치의 디스플레이에 대한 사용자 입력에 기초하여 외부 장치의 설정을 변경할 수 있다. 예를 들어, 사용자가 전자 장치에서 화면 잠금 기능을 활성화한 경우, 전자 장치는 화면 잠금 기능 활성화에 대한 정보를 외부 장치로 전송할 수 있다. 외부 장치는 이를 수신하고 화면 잠금 기능을 활성화할 수 있다.
도 12는 다양한 실시예에 따른 사용자 입력에 기초하여 뷰 데이터를 생성하는 방법에 대한 순서도이다.
다양한 실시예에 따르면, 동작 1201에서, 전자 장치는 뷰 선택 모드 진입 시 디스플레이에 기존 뷰 레이아웃, 확장 뷰 레이아웃 및 수정 뷰 레이아웃을 표시할 수 있다. 전자 장치는 사용자의 입력에 기초하여 뷰 선택 모드로 진입할 수 있다. 전자 장치는 생성한 뷰 데이터에 기초하여 레이아웃을 생성할 수 있다. 일 실시예에 따르면, 전자 장치는 상단에는 기존 뷰 레이아웃을 표시하고, 하단에는 수정 뷰 레이아웃 및 확장 뷰 레이아웃 중 적어도 하나를 표시하고, 그 사이에 스플릿 바(예: 도 5의 스플릿 바(513))를 표시하여 구분할 수 있다. 일 실시예에 따르면, 전자 장치는 외부 장치의 이미지 내에 확장 뷰 레이아웃을 함께 표시할 수도 있다. 일 실시예에 따르면, 최초로 표시되는 수정 뷰 레이아웃은 기존 뷰 레이아웃과 동일할 수 있다. 전자 장치는 사용자의 입력에 기초하여 스플릿 바를 이동하며 레이아웃의 크기를 조절할 수 있다. 전자 장치는 각 아이템에 대한 사용자의 입력 횟수에 따라 수정 뷰 레이아웃 및 확장 뷰 레이아웃에 어떤 아이템을 표시할 것인지 결정할 수 있다. 도 12는 각 아이템에 대한 사용자의 터치 횟수가 달라짐에 따라 수정 뷰 레이아웃 및 확장 뷰 레이아웃에 어떤 아이템을 표시할 것인지 결정하는 방법에 대한 순서도이다.
다양한 실시예에 따르면, 동작 1200에서, 전자 장치는 아이템에 대한 사용자 입력을 감지할 수 있다. 사용자 입력이 감지된 경우, 동작 1212에서, 전자 장치는 각 아이템에 대한 사용자의 선택에 기초하여 아이템 배경색을 제1색으로 변경하고, 확장 뷰 레이아웃에 해당 아이템을 추가하고, 및 수정 뷰 레이아웃에서 해당 아이템을 제거할 수 있다. 예를 들어, 사용자가 제1아이템을 터치한 경우, 기존 뷰 레이아웃에서 제1아이템의 배경색이 제1색으로 변경되고, 수정 뷰 레이아웃에서는 제1아이템이 제거되고, 및 확장 뷰 레이아웃에는 제1아이템이 표시될 수 있다. 일 실시예에 따르면, 스플릿 바 하단에 외부 장치의 이미지가 표시되는 경우, 전자 장치는 외부 장치의 이미지 내의 확장 뷰 레이아웃에 제1아이템을 표시할 수 있다.
다양한 실시예에 따르면, 동작 1220에서, 전자 장치는 아이템에 대한 사용자 입력을 감지할 수 있다. 사용자 입력이 감지된 경우, 동작 1222에서, 전자 장치는 각 아이템을 사용자가 한 번 더 터치하는 경우 해당 아이템의 배경색을 제2색으로 변경하고, 및 수정 뷰 레이아웃에 해당 아이템을 추가로 표시할 수 있다. 예를 들어, 사용자가 제1아이템을 한 번 더 터치한 경우, 전자 장치는 기존 뷰 레이아웃 에서 제1아이템의 배경색을 제2색으로 변경하고, 제1아이템을 수정 뷰 레이아웃에 추가적으로 표시할 수 있다. 일 실시예에 따르면, 전자 장치는 스플릿 바 하단의 확장 뷰 레이아웃에 제1아이템을 표시하고, 수정 뷰 레이아웃에도 제1아이템을 다시 표시할 수 있다.
다양한 실시예에 따르면, 동작 1230에서, 전자 장치는 아이템에 대한 사용자 입력을 감지할 수 있다. 사용자 입력이 감지된 경우, 동작 1232에서, 전자 장치는 각 아이템을 사용자가 한 번 더 터치하는 경우 기존 뷰 레이아웃에서 아이템의 배경색을 제거하고, 확장 뷰 레이아웃에서 제거할 수 있다. 예를 들어, 사용자가 제1아이템을 한 번 더 터치하는 경우, 전자 장치는 확장 뷰 레이아웃에서 제1아이템을 제거하고, 기존 뷰 레이아웃에서 제1아이템의 배경색을 제거할 수 있다. 즉, 한 아이템을 세 번 터치하면 해당 아이템에 대해서는 최초의 상태로 돌아오도록 결정할 수 있다. 전자 장치는 각 아이템에 대한 사용자의 입력에 기초하여 수정 뷰 레이아웃 및 확장 뷰 레이아웃을 결정할 수 있다. 일 실시예에 따르면, 이후 사용자가 제1아이템을 터치하는 경우 전자 장치는 첫 번째 터치를 한 경우와 같은 동작을 수행할 수 있다. 즉, 제1아이템에 대한 4, 5, 6번째 터치에 대한 전자 장치의 동작은 각각 1, 2, 3번째 터치에 대한 전자 장치의 동작일 수 있다.
다양한 실시예에 따르면, 동작 1240에서, 전자 장치는 사용자가 더 이상 아이템을 선택하지 않는 경우 선택 완료 여부를 판단할 수 있다. 일 실시예에 따르면, 전자 장치는 뷰 선택 모드에서 디스플레이의 일 측에 선택 완료 메뉴를 제공할 수도 있다. 전자 장치는 선택 완료 메뉴에 대한 사용자 입력에 기초하여 레이아웃 구성을 종료할 수 있다. 사용자가 선택 완료 메뉴를 터치하기 전까지 한 번 터치한 아이템은 확장 뷰 레이아웃에만 표시되고, 두 번 터치한 아이템은 확장 뷰 레이아웃 및 수정 뷰 레이아웃에 표시되고, 세 번 터치하거나 한 번도 터치하지 않은 아이템은 수정 뷰 레이아웃에만 표시될 수 있다.
다양한 실시예에 따르면, 동작 1242에서, 전자 장치는 선택 완료 메뉴에 대한 사용자 입력에 기초하여 뷰 선택 모드를 종료할 수 있다. 전자 장치는 뷰 선택 모드를 종료하면서 확장 뷰 레이아웃 및 수정 뷰 레이아웃에 대한 구성을 마치고, 외부 장치로 전송할 수 있도록 뷰 데이터를 생성할 수 있다.
다양한 실시예에 따르면, 동작 1244에서, 전자 장치는 디스플레이에 수정 뷰 레이아웃을 표시할 수 있다. 일 실시예에 따르면, 전자 장치는 외부 장치로 확장 뷰 레이아웃을 전송한 뒤에 수정 뷰 레이아웃을 표시할 수도 있다.
다양한 실시예에 따르면, 동작 1246에서, 전자 장치는 외부 장치로 확장 뷰 레이아웃을 전송할 수 있다. 일 실시예에 따르면, 전자 장치는 확장 뷰 레이아웃에 대한 정보가 포함된 뷰 데이터를 생성하고, 전송용 뷰 데이터를 구성하여 외부 장치와의 무선 통신 연결을 이용하여 전송할 수 있다.
도 13은 다양한 실시예에 따른 외부 장치와 무선 통신 연결하여 화면을 재구성하는 방법에 대한 순서도이다.
다양한 실시예에 따르면, 동작 1302에서, 전자 장치는 뷰 선택 모드에 진입하거나, 계정 로그인, 전자 장치의 상태 변화 중 적어도 하나가 발생한 경우 무선 통신 스캔을 수행할 수 있다. 무선 통신 스캔을 이용하여 스캔 필터(예:BLE MAC address, 서비스ID, 제조ID)를 구성하여 원하는 조건에 맞는 외부 장치만 검색할 수 있다. 일 실시예에 따르면, 전자 장치는 데이터 브로드캐스팅(예: BLE advertisement)을 통하여 필터 조건에 맞는 외부 장치를 검색할 수도 있다. BLE 패킷은 서비스ID, 제조ID, 계정 정보, 기기 상태 정보, 네트워크 상태 정보, 디바이스 타입, 화면 크기, 펜 지원 여부, 운영체제 정보 중 적어도 하나를 포함할 수 있다. 전자 장치와 외부 장치는 스크린 온오프, 배터리 잔량 등의 현 장치의 상태를 고려하여 스캔 범위를 조절하는 방식으로 배터리를 효율적으로 사용할 수 있다. 일 실시예에 따르면, 전자 장치는 원하는 외부 장치를 발견한 경우 스캔을 중지할 수 있다.
다양한 실시예에 따르면, 동작 1304에서, 전자 장치는 검색한 외부 장치로 확장 뷰 연결 요청을 전송할 수 있다. 예를 들어, 전자 장치는 사용자가 디스플레이 상에서 터치한 그래픽 객체에 대응하는 외부 장치로 확장 뷰 연결 요청을 전송할 수 있다.
다양한 실시예에 따르면, 동작 1306에서, 전자 장치는 무선 통신 연결(예: BT, BLE, Wi-fi, Wi-fi P2P, Mobile Network, secure source layer(SSL))을 이용하여 외부 장치와 확장 뷰 연결을 수립할 수 있다. 전자 장치는 외부 장치와 전자 장치는 BLE 패킷을 이용하여 데이터를 송수신할 수 있다. 일 실시예에 따르면, 다른 목적을 위해서 이미 무선 통신 연결이 수립된 경우, 새로 통신 연결을 맺을 필요 없이 기존의 통신 연결을 이용하여 데이터를 송수신할 수 있다. 외부 장치에서는, 동작 1310에서, 확장 뷰 어플리케이션을 실행할 수 있다. 외부 장치는 확장 뷰 어플리케이션을 이용하여 전자 장치와 통신하고 확장 뷰 레이아웃을 표시할 수 있다.
일 실시예에 따르면, 전자 장치는 아이템 별 필터 조건에 따라 확장 뷰 연결 가능한 외부 장치를 결정할 수 있다. 필터 조건은 디바이스 종류, 화면 크기, 동일 계정 기기만 지원 여부, 펜 지원 여부 및 운영체제 정보 중 적어도 하나를 포함할 수 있다. 전자 장치는 통신 연결 가능한 외부 장치 중 필터 조건을 만족하는 외부 장치를 확장 뷰 연결 가능한 외부 장치로 결정할 수 있다.
다양한 실시예에 따르면, 전자 장치는 확장 뷰 연결 가능한 외부 장치로 결정된 외부 장치를 디스플레이의 일 측에 표시할 수 있다. 일 실시예에 따르면, 전자 장치는 확장 뷰 연결 가능한 외부 장치들을 지시하는 그래픽 객체 및 연결 가능한 외부 장치들의 목록 중 적어도 하나를 제공할 수 있다. 프로세서는 그래픽 객체 및 목록 중 적어도 하나에 대한 사용자 입력에 기초하여 확장 뷰 연결을 수립할 외부 장치를 결정할 수 있다.
다양한 실시예에 따르면, 전자 장치는 전자 장치와 외부 장치의 계정 정보가 일치하는지 판단할 수 있다. 전자 장치와 외부 장치의 계정 정보가 일치하는 경우, 전자 장치는 별도의 과정 없이 해당 외부 장치와 전자 장치의 확장 뷰 연결을 수립할 수 있다. 전자 장치와 외부 장치의 계정 정보가 일치하지 않는 경우, 전자 장치는 확장 뷰 연결 수락을 요청하는 팝업 메시지를 디스플레이에 표시할 수 있다. 전자 장치는 팝업 메시지에 대한 사용자 입력에 기초하여 외부 장치와 확장 뷰 연결을 수립할지 여부를 결정할 수 있다.
다양한 실시예에 따르면, 동작 1312에서, 전자 장치는 생성한 뷰 데이터를 외부 장치로 전송할 수 있다. 확장 뷰 연결할 외부 장치를 결정하고 나면, 전자 장치는 디스플레이에 수정 뷰 레이아웃을 표시하면서, 생성한 뷰 데이터를 외부 장치로 전송하여 확장 뷰 레이아웃을 표시할 수 있다.
다양한 실시예에 따르면, 전자 장치는 외부 장치로 전송할 뷰 데이터를 전송용 뷰 데이터로 재구성할 수 있다. 일 실시예에 따르면, 뷰 데이터에 포함된 데이터의 적어도 일부는 외부 장치의 운영체제나 플랫폼 상 불필요하거나 호환이 불가능한 데이터일 수 있다. 전자 장치는 외부 장치의 운영체제에서 불필요한 속성인 경우 해당 속성을 제거하거나, 호환이 불가능한 속성인 경우 유사한 다른 속성 값으로 변경할 수 있다.
다양한 실시예에 따르면, 외부 장치는 전송용 뷰 데이터를 수신하고, 수신한 뷰 데이터 중에서 외부 장치에서 지원하지 않거나 호환되지 않는 속성값을 유사한 속성값으로 변경할 수 있다. 외부 장치와 전자 장치의 운영 체제가 다른 경우, 전자 장치에서 적용할 수 있는 속성값을 외부 장치에 적용할 수 없는 경우가 발생할 수 있다. 이 경우 외부 장치는 뷰 데이터 중에서 호환되지 않는 속성값을 유사한 속성값으로 변경하여 뷰 레이아웃을 구성할 수 있다.
다양한 실시예에 따르면, 동작 1314에서, 외부 장치는 수신한 뷰 데이터에 따른 확장 뷰 레이아웃을 표시할 수 있다. 외부 장치에 대한 사용자 입력이 있는 경우, 동작 1320에서, 외부 장치는 뷰 이벤트 정보를 생성할 수 있다.
다양한 실시예에 따르면, 동작 1322에서, 전자 장치는 외부 장치로부터 뷰 이벤트 정보를 수신할 수 있다. 일 실시예에 따르면, 외부 장치에 대한 사용자 입력이 발생하는 경우, 외부 장치는 사용자 입력에 기초하여 뷰 이벤트 정보를 생성할 수 있다. 사용자가 외부 장치로 전송한 아이템에 터치 입력하는 경우, 외부 장치는 이를 수신하고 뷰 이벤트 정보를 생성할 수 있다. 예를 들면, 뷰 이벤트 정보는 버튼에 대한 사용자의 터치 입력, 드래그, 프래스 중 적어도 하나의 동작을 포함할 수 있다. 일 실시예에 따르면, 외부 장치는 생성한 뷰 이벤트 정보를 전송용 뷰 이벤트 정보로 재구성하여 전자 장치로 전송할 수 있다. 예를 들어, 외부 장치와 전자 장치의 운영 체제가 다른 경우, 외부 장치는 뷰 이벤트 정보의 적어도 일부 속성값을 전자 장치에서 호환 가능한 속성값으로 변경하여 전송용 뷰 이벤트 정보를 생성할 수 있다.
다양한 실시예에 따르면, 동작 1330에서, 전자 장치는 수신한 뷰 이벤트 정보에 기초하여 발생한 뷰 이벤트를 처리할 수 있다. 예를 들어, 외부 장치에서 제1아이템에 대한 사용자 입력이 있는 경우, 전자 장치는 제1아이템이 정해진 기능을 수행하도록 뷰 이벤트 정보를 처리할 수 있다. 일 실시예에 따르면 전자 장치는 외부 장치로부터 뷰 이벤트를 수신하고, 수신한 뷰 이벤트 중 전자 장치에서 지원하지 않거나 호환되지 않는 속성값을 유사한 속성값으로 변경할 수 있다.
다양한 실시예에 따르면, 동작 1332에서, 전자 장치는 정해진 이벤트 기능을 처리한 결과 확장 뷰 영역의 뷰 데이터 정보가 바뀌는 경우 변경된 뷰 데이터를 외부 장치로 전송 할 수 있다. 외부 장치는, 동작 1340에서, 확장 뷰 레이아웃을 재구성하고, 재구성한 확장 뷰 레이아웃을 표시할 수 있다.
다양한 실시예에 따르면, 전자 장치는 외부 장치로 컨트롤 데이터를 전송할 수 있다. 일 실시예에 따르면, 컨트롤 데이터는 알림음, 진동, 화면 온오프 및 화면 잠금 중 적어도 하나에 대한 설정 정보를 포함할 수 있다. 사용자가 전자 장치에서 컨트롤 데이터에 대한 설정을 변경한 경우, 전자 장치는 해당 정보에 대한 컨트롤 데이터를 생성하여 외부 장치로 전송할 수 있다.
도 14는 다양한 실시예에 따른 전송용 뷰 이벤트 정보를 생성하여 외부 장치로 전송하는 방법에 대한 순서도이다.
다양한 실시예에 따르면, 동작 1410에서, 전자 장치는 전송용 뷰 데이터 생성이 완료되었는지 판단할 수 있다. 일 실시예에 따르면, 전자 장치는 뷰 트리 구조의 각 노드에 저장되어 있는 뷰 데이터에 대하여 전송용 뷰 데이터를 생성할 수 있다. 전자 장치는 뷰 트리 구조의 루트 노트부터 전송용 뷰 데이터 생성을 시작할 수 있다. 뷰 트리 구조의 모든 노드에 대해서 전송용 뷰 데이터 생성이 완료된 이후 전자 장치는 트리 구조 형태의 뷰 데이터를 외부 장치로 전송할 수 있다.
다양한 실시예에 따르면, 동작 1412에서, 전자 장치는 뷰 트리 구조의 다음 노드 뷰를 조회할 수 있다. 전송용 뷰 데이터 생성이 완료되지 않았다면, 다음 노드에 대한 뷰 데이터를 전송용 뷰 데이터로 전환할 수 있다.
다양한 실시예에 따르면, 동작 1414에서, 전자 장치는 아이템을 생성하고 속성값을 채울 수 있다. 일 실시예에 따르면, 전자 장치는 트리 구조의 각 노드에 포함될 아이템을 생성하고, 아이템에 따른 속성값을 채울 수 있다.
다양한 실시예에 따르면, 동작 1420에서, 전자 장치는 외부 장치에서 지원하지 않거나 호환되지 않는 속성값이 존재하는지 여부를 판단할 수 있다. 예를 들어, 전자 장치와 외부 장치의 운영 체제 상 차이로 인하여 전자 장치에서 지원하는 속성값이 외부 장치에서는 지원되지 않을 수 있다. 전자 장치는 수신한 외부 장치의 기기 정보에 기초하여 외부 장치와 전자 장치의 운영체제를 파악하고, 외부 장치에서 지원하지 않거나 호환되지 않는 속성값이 존재하는지 판단할 수 있다.
다양한 실시예에 따르면, 동작 1422에서, 전자 장치는 외부 장치에서 지원하지 않거나 호환되지 않는 속성값이 존재하는 경우, 해당 속성값을 제거하거나 호환되는 유사한 속성값으로 치환할 수 있다. 전자 장치는 외부 장치에서 확장 뷰 레이아웃을 표시할 수 있도록 외부 장치에서 지원하는 속성값으로 치환하거나, 동일하지 않더라도 유사한 속성값으로 치환할 수 있다.
다양한 실시예에 따르면, 동작 1430에서, 전자 장치는 전송용 뷰 데이터를 외부 장치로 전송할 수 있다. 일 실시예에 따르면, 전자 장치가 트리 구조의 모든 노드에 대하여 전송용 뷰 데이터를 생성 완료한 경우, 생성한 전송용 뷰 데이터를 외부 장치로 전송할 수 있다. 외부 장치는 수신한 뷰 데이터에 기반하여 확장 뷰 레이아웃을 표시할 수 있다.
도 15는 다양한 실시예에 따른 뷰 데이터에 기초하여 외부 장치에서 확장 뷰 레이아웃을 생성하고 표시하는 동작에 대한 순서도이다.
다양한 실시예에 따르면, 동작 1510에서, 외부 장치는 모든 뷰에 대해 운영 체제에 따른 확장 뷰 레이아웃을 구성할 수 있다. 일 실시예에 따르면, 전자 장치와 외부 장치의 운영 체제의 차이에 따른 호환되지 않는 속성값이 존재할 수 있다. 외부 장치는 호환되지 않는 속성값을 호환되는 다른 속성값으로 치환하여 확장 뷰 레이아웃을 구성할 수 있다.
다양한 실시예에 따르면, 동작 1512에서, 외부 장치는 뷰 트리 구조의 다음 노드 뷰를 조회할 수 있다. 외부 장치는 뷰 트리 구조의 모든 뷰에 대하여 확장 뷰 레이아웃을 작성할 수 있다. 해당 노드에 대한 확장 뷰 레이아웃을 구성한 경우, 다음 노드로 넘어가서 같은 동작을 수행할 수 있다. 해당 노드의 다음 노드는 자식 노드 혹은 형제 노드일 수 있다.
다양한 실시예에 따르면, 동작 1514에서, 외부 장치는 디바이스 종류에 따라 운영 체제에서 지원하는 아이템을 생성할 수 있다. 일 실시예에 따르면, 전자 장치의 운영체제와 외부 장치의 운영체제가 다를 수 있다. 전자 장치에서 지원하는 아이템과 외부 장치에서 지원하는 아이템이 다를 수 있으므로, 외부 장치는 디바이스 종류에 따라서 운영 체제에서 지원하는 아이템을 생성할 수 있다.
다양한 실시예에 따르면, 동작 1516에서, 외부 장치는 트리 노드마다 뷰의 속성값을 채울 수 있다. 외부 장치는 생성한 아이템마다 뷰의 속성값을 입력하여 확장 뷰 레이아웃을 구성할 수 있다.
다양한 실시예에 따르면, 동작 1520에서, 외부 장치는 외부 장치의 운영 체제에서 지원하지 않거나 호환되지 않는 속성값이 존재하는지 판단할 수 있다. 예를 들어, 전자 장치와 외부 장치의 운영 체제가 다른 경우에는 전자 장치에서는 지원하지만 외부 장치에서는 지원하지 않는 속성값이 존재할 수 있다. 외부 장치가 확장 뷰 레이아웃을 표시하기 위해서는 모든 속성값을 지원할 수 있어야 하므로, 외부 장치의 운영 체제에서 지원하지 않거나 호환되지 않는 속성값이 존재하는지 여부를 판단할 수 있다.
다양한 실시예에 따르면, 동작 1522에서, 외부 장치는 외부 장치에서 지원하지 않거나 호환되지 않는 속성값이 존재하는 경우, 해당 속성값을 제거하거나 호환되는 유사한 속성값으로 치환할 수 있다.
다양한 실시예에 따르면, 동작 1530에서, 모든 뷰에 대해 운영 체제에 따른 확장 뷰 레이아웃 구성을 완료한 경우, 외부 장치는 확장 뷰 레이아웃에 표시할 수 있다. 일 실시예에 따르면, 외부 장치는 뷰 이벤트 발생 시 전자 장치와의 통신 연결을 통하여 뷰 이벤트 정보에 대한 피드백을 수신하여 확장 뷰 레이아웃을 수정할 수 있다.
다양한 실시예에 따른 전자 장치의 외부 장치 디스플레이 활용 방법은, 통신 모듈을 이용하여 외부 장치와 통신 연결을 수립하여 상기 외부 장치의 기기 정보를 획득하는 동작, 상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 통신 연결된 외부 장치로 전송할 적어도 하나의 아이템을 결정하는 동작, 상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하는 동작, 및 전송용 뷰 데이터를 상기 외부 장치로 전송하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 외부 장치로 전송할 아이템을 결정하는 동작은, 상기 아이템 중 상기 어플리케이션 상에서 설정된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 외부 장치로 전송할 아이템을 결정하는 동작은, 상기 아이템 중 사용자 입력에 따라 선택된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 외부 장치로 전송할 아이템을 결정하는 동작은, 사용자 입력에 기초하여 뷰 선택 모드로 전환하는 동작, 상기 뷰 선택 모드에서 기존 뷰 레이아웃, 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 적어도 하나를 상기 디스플레이에 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 외부 장치로 전송할 아이템을 결정하는 동작은, 아이템에 대한 사용자의 터치 횟수에 따라서 상기 아이템을 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 적어도 하나에 포함하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 전송용 뷰 데이터를 상기 외부 장치로 전송하는 동작은, 외부 장치로부터 뷰 이벤트 정보를 수신하는 동작, 수신한 뷰 이벤트 정보에 기반하여 뷰 데이터를 수정하는 동작, 수정한 뷰 데이터를 전송용 뷰 데이터로 전환하는 동작, 상기 전송용 뷰 데이터를 상기 외부 장치로 전송하는 동작을 더 포함할 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    통신 모듈;
    메모리; 및
    상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고,
    상기 프로세서는,
    상기 통신 모듈을 이용하여 외부 장치의 기기 정보를 획득하고,
    상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 외부 장치로 전송할 적어도 하나의 아이템을 결정하고,
    상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하고,
    상기 외부 장치와 통신 연결을 수립하여 전송용 뷰 데이터를 전송하도록 설정된 전자 장치.
  2. 제 1항에 있어서,
    상기 프로세서는,
    상기 적어도 하나의 아이템을 상기 뷰 데이터에 기초하여 재구성한 뷰 레이아웃을 생성하도록 설정된 전자 장치.
  3. 제 1항에 있어서,
    상기 프로세서는,
    상기 아이템 중 상기 어플리케이션 상에서 설정된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정하도록 설정된 전자 장치.
  4. 제 1항에 있어서,
    상기 프로세서는,
    상기 아이템 중 사용자 입력에 따라 선택된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정하도록 설정된 전자 장치.
  5. 제 4항에 있어서,
    상기 프로세서는,
    사용자 입력에 기초하여 뷰 선택 모드로 전환하고,
    상기 뷰 선택 모드에서 기존 뷰 레이아웃, 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 적어도 하나를 상기 디스플레이에 표시하도록 설정된 전자 장치.
  6. 제 4항에 있어서,
    상기 프로세서는,
    아이템에 대한 사용자의 터치 횟수에 따라서 상기 아이템을 확장 뷰 레이아웃 및 수정 뷰 레이아웃 중 적어도 하나에 포함하도록 설정된 전자 장치.
  7. 제 1항에 있어서,
    상기 뷰 데이터는 아이템 별 확장 뷰 레이아웃 포함 여부, 아이템 별 수정 뷰 레이아웃 포함 여부, 필터 조건 및 계정 정보 중 적어도 하나를 포함하는 전자 장치.
  8. 제 7항에 있어서,
    상기 필터 조건은
    디바이스 종류, 화면 크기, 동일 계정 기기만 지원 여부, 펜 지원 여부 및 운영체제 정보 중 적어도 하나를 포함하는 전자 장치.
  9. 제 8항에 있어서,
    상기 프로세서는,
    상기 외부 장치가 상기 필터 조건을 만족하는지 판단하고,
    상기 외부 장치가 상기 필터 조건을 만족하는 경우, 상기 디스플레이에 상기 외부 장치를 지시하는 그래픽 객체 및 선택 메뉴 중 적어도 하나를 표시하도록 설정된 전자 장치.
  10. 제 1항에 있어서,
    상기 기기 정보는 상기 외부 장치의 운영 체제 정보를 포함하고,
    상기 프로세서는,
    상기 운영 체제 정보에 기초하여 상기 뷰 데이터에서 적어도 하나의 속성값을 변경하여 전송용 뷰 데이터를 생성하도록 설정된 전자 장치.
  11. 전자 장치에 있어서,
    디스플레이;
    통신 모듈;
    메모리; 및
    상기 디스플레이, 상기 통신 모듈 및 상기 메모리와 작동적으로(operatively) 연결된 프로세서를 포함하고,
    상기 프로세서는,
    외부 장치로부터 뷰 이벤트 정보를 수신하고,
    수신한 뷰 이벤트 정보에 기반하여 뷰 데이터를 수정하고,
    상기 수정한 뷰 데이터를 전송용 뷰 데이터로 변경하여 상기 외부 장치로 전송하는 전자 장치.
  12. 제 11항에 있어서,
    상기 프로세서는,
    알림음, 진동, 화면 온오프 및 화면 잠금 중 적어도 하나에 대한 설정 정보를 상기 외부 장치로 전송하는 전자 장치.
  13. 전자 장치의 외부 장치 디스플레이 활용 방법에 있어서,
    통신 모듈을 이용하여 외부 장치와 통신 연결을 수립하여 상기 외부 장치의 기기 정보를 획득하는 동작,
    상기 기기 정보에 기초하여, 상기 전자 장치에서 실행 중인 어플리케이션에 표시되는 아이템 중에서 상기 통신 연결된 외부 장치로 전송할 적어도 하나의 아이템을 결정하는 동작,
    상기 결정한 아이템에 대한 정보를 포함하는, 상기 외부 장치의 뷰 데이터를 생성하는 동작, 및
    전송용 뷰 데이터를 상기 외부 장치로 전송하는 동작을 포함하는 방법.
  14. 제 13항에 있어서,
    상기 외부 장치로 전송할 아이템을 결정하는 동작은,
    상기 아이템 중 상기 어플리케이션 상에서 설정된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정하는 동작을 포함하는 방법.
  15. 제 13항에 있어서,
    상기 외부 장치로 전송할 아이템을 결정하는 동작은,
    상기 아이템 중 사용자 입력에 따라 선택된 적어도 하나의 아이템을 상기 외부 장치로 전송할 아이템으로 결정하는 동작을 포함하는 방법.
PCT/KR2022/003389 2021-04-14 2022-03-10 전자 장치 및 외부 장치를 이용한 화면 재구성 방법 WO2022220408A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/485,687 US20240118857A1 (en) 2021-04-14 2023-10-12 Electronic device, and method for reconstructing screen using external device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210048646A KR20220142198A (ko) 2021-04-14 2021-04-14 전자 장치 및 외부 장치를 이용한 화면 재구성 방법
KR10-2021-0048646 2021-04-14

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/485,687 Continuation US20240118857A1 (en) 2021-04-14 2023-10-12 Electronic device, and method for reconstructing screen using external device

Publications (1)

Publication Number Publication Date
WO2022220408A1 true WO2022220408A1 (ko) 2022-10-20

Family

ID=83640437

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/003389 WO2022220408A1 (ko) 2021-04-14 2022-03-10 전자 장치 및 외부 장치를 이용한 화면 재구성 방법

Country Status (3)

Country Link
US (1) US20240118857A1 (ko)
KR (1) KR20220142198A (ko)
WO (1) WO2022220408A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150026773A (ko) * 2013-08-29 2015-03-11 삼성전자주식회사 사용자 단말 장치, 사용자 단말 장치 제어 방법 및 확장 디스플레이 시스템
KR20150038883A (ko) * 2013-10-01 2015-04-09 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
KR20150072766A (ko) * 2013-12-20 2015-06-30 경북대학교 산학협력단 원격 제어 시스템, 원격 제어 장치 및 그 방법
KR20150087733A (ko) * 2014-01-22 2015-07-30 엘지전자 주식회사 이동 단말기 및 이동 단말기를 이용한 외부의 전자 기기의 원격 제어 방법
US20160080475A1 (en) * 2014-09-12 2016-03-17 Microsoft Corporation Cross Device Application Discovery And Control

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150026773A (ko) * 2013-08-29 2015-03-11 삼성전자주식회사 사용자 단말 장치, 사용자 단말 장치 제어 방법 및 확장 디스플레이 시스템
KR20150038883A (ko) * 2013-10-01 2015-04-09 엘지전자 주식회사 휴대 단말기 및 그 제어 방법
KR20150072766A (ko) * 2013-12-20 2015-06-30 경북대학교 산학협력단 원격 제어 시스템, 원격 제어 장치 및 그 방법
KR20150087733A (ko) * 2014-01-22 2015-07-30 엘지전자 주식회사 이동 단말기 및 이동 단말기를 이용한 외부의 전자 기기의 원격 제어 방법
US20160080475A1 (en) * 2014-09-12 2016-03-17 Microsoft Corporation Cross Device Application Discovery And Control

Also Published As

Publication number Publication date
US20240118857A1 (en) 2024-04-11
KR20220142198A (ko) 2022-10-21

Similar Documents

Publication Publication Date Title
WO2022030990A1 (ko) 복수의 디스플레이를 통해 다양한 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
WO2022055255A1 (ko) 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
WO2022030890A1 (ko) 다중 윈도우 이미지 캡쳐 방법 및 이를 위한 전자 장치
WO2023018158A1 (ko) 멀티 윈도우를 지원하는 전자 장치 및 이의 제어 방법
WO2022030955A1 (ko) 홈 화면을 복원하는 방법 및 이를 적용한 전자 장치
WO2022154423A1 (ko) 전자 장치 및 전자 장치에서 스타일러스 펜의 입력을 처리하는 방법
WO2022220408A1 (ko) 전자 장치 및 외부 장치를 이용한 화면 재구성 방법
WO2022092718A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022086068A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022025400A1 (ko) 전자 펜과 연동된 화면 분할 제공 방법 및 이를 이용한 폴더블 전자 장치
WO2022240000A1 (ko) 슬라이딩 가능한 전자 장치 및 그 동작 방법
WO2022086033A1 (ko) 전자 장치 및 통화 중 사용자 인터페이스 제공 방법
WO2024135877A1 (ko) 복수의 시각적 객체들 중 시각적 객체를 식별하기 위한 전자 장치 및 방법
WO2023054897A1 (ko) 영상 통화를 수행하는 전자 장치 및 방법
WO2024080680A1 (ko) 상황 특정 설정을 위한 사용자 인터페이스를 표시하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2023277368A1 (ko) 서로 다른 주파수 대역들을 이용하여 데이터를 중계하는 방법 및 이를 수행하는 전자 장치
WO2022225160A1 (ko) 전자 장치 및 전자 장치에서 텍스트와 연동된 객체를 배치하기 위한 방법
WO2024076008A1 (ko) 파일을 공유하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2023204418A1 (ko) 롤러블 디스플레이의 표시 영역 변경에 기반하여 터치 입력 또는 호버링 입력을 표시하기 위한 전자 장치 및 방법
WO2022211307A1 (ko) 올웨이즈 온 디스플레이 컨텐트를 표시를 지원하는 전자 장치 및 이의 제어 방법
WO2022086219A1 (ko) 어플리케이션의 실행 화면을 제공하는 전자 장치, 그 동작 방법 및 저장 매체
WO2023018230A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2023149782A1 (ko) 햅틱 기능을 제공하기 위한 전자 장치 및 그 방법
WO2024019258A1 (ko) 외부 전자 장치로 송신되는 신호를 제어하는 전자 장치 및 방법
WO2022080698A1 (ko) 플렉서블 디스플레이를 이용하여 화면을 제공하는 방법 및 이를 지원하는 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22788265

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22788265

Country of ref document: EP

Kind code of ref document: A1