WO2024085550A1 - 가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 - Google Patents

가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 Download PDF

Info

Publication number
WO2024085550A1
WO2024085550A1 PCT/KR2023/015887 KR2023015887W WO2024085550A1 WO 2024085550 A1 WO2024085550 A1 WO 2024085550A1 KR 2023015887 W KR2023015887 W KR 2023015887W WO 2024085550 A1 WO2024085550 A1 WO 2024085550A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
electronic device
virtual
processor
virtual device
Prior art date
Application number
PCT/KR2023/015887
Other languages
English (en)
French (fr)
Inventor
홍민호
송가진
신세정
신호선
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020220157820A external-priority patent/KR20240053488A/ko
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to EP23855872.0A priority Critical patent/EP4379534A1/en
Priority to US18/543,729 priority patent/US20240127562A1/en
Publication of WO2024085550A1 publication Critical patent/WO2024085550A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/80—Services using short range communication, e.g. near-field communication [NFC], radio-frequency identification [RFID] or low energy communication

Definitions

  • the present disclosure relates to an electronic device, a method, and a non-transitory computer readable storage medium for controlling the display of a virtual device.
  • AR displays information generated by a computer in conjunction with a real object in the real-world or a visual object corresponding to the real object.
  • Electronic devices that provide augmented reality (MR) services, mixed reality (MR), or extended reality (XR) services are being developed.
  • the electronic device may be a wearable device that can be worn by a user.
  • the electronic device may be AR glasses or a VST (video see-through or visual see-through) device.
  • the electronic device may include a microphone.
  • the electronic device may include a communication circuit.
  • the electronic device may include a processor.
  • the processor displays an indication through a display of a virtual device registered using a software application for controlling another device through the electronic device, based on recognition of a voice signal acquired through the microphone. Can be configured to identify voice commands.
  • the processor may be configured to identify whether a mixed reality (MR) device for displaying the virtual device is worn, based on the voice command.
  • the processor in response to identifying that the MR device is worn, is configured to display the virtual device, based on device information registered using the software application in association with the virtual device, of the virtual device displayed through the MR device. It may be configured to obtain an image to be displayed on a display.
  • the processor may be configured to transmit a signal for displaying the image on the display of the virtual device displayed through the MR device to the MR device through the communication circuit.
  • a method is provided.
  • the method may be implemented within an electronic device that includes a microphone and communication circuitry.
  • the method represents an indication through a display of a virtual device registered using a software application for controlling another device through the electronic device, based on recognition of a voice signal acquired through the microphone. It may include an operation to identify a voice command.
  • the method may include an operation of identifying whether a mixed reality (MR) device for displaying the virtual device is worn based on the voice command.
  • the method may, in response to identifying that the MR device is worn, identify the virtual device displayed through the MR device based on device information registered using the software application in association with the virtual device. It may include an operation of acquiring an image to be displayed on the display.
  • the method may include transmitting a signal for displaying information about the image on the display of the virtual device displayed through the MR device to the MR device through the communication circuit.
  • a non-transitory computer readable storage medium may store one or more programs.
  • the one or more programs when executed by a processor of an electronic device including a microphone and a communication circuit, are software applications for controlling another device through the electronic device based on recognition of a voice signal obtained through the microphone.
  • the one or more programs may include instructions that, when executed by the processor, cause the electronic device to identify, based on the voice command, whether a mixed reality (MR) device for displaying the virtual device is worn.
  • MR mixed reality
  • the one or more programs when executed by the processor, in response to identifying that the MR device is worn, associate with the virtual device and, based on device information registered using the software application, configure the MR device to and instructions that cause the electronic device to acquire an image to be displayed on the display of the virtual device displayed through.
  • the one or more programs when executed by the processor, cause the electronic device to transmit a signal for displaying the image on the display of the virtual device displayed through the MR device to the MR device through the communication circuit. May contain instructions that cause device operation.
  • FIG 1 illustrates an example of an environment including example electronic devices and mixed reality (MR) devices.
  • MR mixed reality
  • FIG. 2 is a simplified block diagram of an example electronic device.
  • FIG. 3 is a flow diagram illustrating an example method of registering a virtual device.
  • FIG. 4A illustrates an example method of registering a virtual device using a software application to control another device.
  • Figure 4b shows an example of a user interface that includes visual objects corresponding to virtual devices registered using a software application for controlling other devices.
  • FIG. 5 is a flow diagram illustrating an example method of displaying an image through a display of a virtual device.
  • FIG. 6 is a flow diagram illustrating an example method of identifying voice commands based on display location.
  • FIG. 7 is a flowchart illustrating an example method of obtaining an image to be displayed through a display of a virtual device based on information obtained from another electronic device.
  • FIG. 8 is a flow diagram illustrating an example method for identifying voice commands based on the location of an electronic device, the location of another electronic device, and the location of a virtual device.
  • FIG. 9 is a flowchart illustrating an example method of acquiring an image based on device information of a virtual device transmitted to an external electronic device.
  • FIG. 10 is a flowchart illustrating an example method of identifying a voice command based on the orientation of the display of a virtual device and the orientation of the display of another electronic device.
  • 11 is a flow diagram illustrating an example method of controlling a virtual device located within a virtual space.
  • FIG. 12 is a flow diagram illustrating an example method of registering another virtual device based on another voice command.
  • FIG. 13 shows an example of functional components executed by a processor of an MR device.
  • FIG. 14 is a block diagram of an electronic device in a network environment according to various embodiments.
  • FIG 1 illustrates an example of an environment including example electronic devices and mixed reality (MR) devices.
  • MR mixed reality
  • the environment 100 includes an electronic device 101, an MR device 102 (or an extended reality (XR) device 102), another electronic device 103, and an external electronic device 104.
  • an electronic device 101 an electronic device 101
  • an MR device 102 or an extended reality (XR) device 102
  • another electronic device 103 or an external electronic device 104.
  • XR extended reality
  • the electronic device 101 may store a software application for controlling or managing another device through the electronic device 101.
  • the electronic device 101 uses the software application to connect a real device (real device or physical device) such as the MR device 102 and another electronic device 103 and a virtual device related to the MR device 102.
  • the electronic device 101 may control the other device by executing the software application based on user input received for the user interface of the software application.
  • the software application may be used to register the other device based on the user input received while the user interface is displayed.
  • the software application may be used to change the state of the other device based on the user input received while the user interface is displayed.
  • the user input may include a touch input to the user interface displayed on the display of the electronic device 101 and a voice signal acquired through a microphone of the electronic device 101 while the user interface is displayed.
  • the audio signal may be recognized for functions provided through the software application while the user interface is in focus.
  • the user interface when the user interface is focused, it may indicate that a pointer (or cursor) is positioned with respect to the user interface.
  • the user interface being focused may indicate that the user interface is in a state capable of receiving input (or user input).
  • the MR device 102 may include a device for providing an augmented reality (AR) service, mixed reality (MR), or extended reality (XR) service.
  • the MR device 102 may include a display for providing an AR service, an MR service, or an XR service.
  • the display of the MR device 102 may be transparent.
  • the display of the MR device 102 may be opaque.
  • the MR device 102 may display, on the display of the MR device 102, a real environment surrounding the MR device 102 or an image representing the real environment, together with a virtual object, such as: AR services, MR services, or XR services can be provided.
  • a virtual object such as: AR services, MR services, or XR services
  • the MR device 102 may display the virtual object on the real environment shown through the display of the MR device 102.
  • the MR device 102 is a VST device
  • the MR device 102 may display the virtual object on the image acquired through the camera of the MR device 102.
  • the virtual object may be recognized by a user wearing the MR device 102 as a real object existing in a real environment.
  • the virtual object may include a virtual device 105.
  • virtual device 105 may include a display.
  • the virtual device 105 may display an image on the display of the virtual device 105, like a physical device including a display.
  • the MR device 102 displays the virtual device 105
  • the MR device 102 can display the image on the display of the virtual device 105.
  • the image may be displayed on the display of the virtual device 105 based on data received by the MR device 102 over the connection 112 from the electronic device 101 .
  • the connection 112 between the electronic device 101 and the MR device 102 may directly connect the electronic device 101 to the MR device 102 and/or connect the electronic device 101 to the MR device 102.
  • the image may be displayed on the display of the virtual device 105 based on data received by the MR device 102 via connection 123 from another electronic device 103.
  • the connection 123 between the MR device 102 and the other electronic device 103 may include directly connecting the MR device 102 with the other electronic device 103 and/or connecting the MR device 102
  • It may include connecting with another electronic device 103 through at least one intermediate node.
  • the image may be generated based on data received by the MR device 102 via the electronic device 101 from another electronic device 103 using connection 112 and connection 113, to create a virtual device. It can be displayed on the display at 105.
  • connection 113 between the electronic device 101 and another electronic device 103 may include directly connecting the electronic device 101 to the other electronic device 103 and/or connecting the electronic device 101 to the other electronic device 103. It may include connecting with another electronic device 103 through at least one intermediate node.
  • the software application may be used for the display of the image on the display of virtual device 105.
  • user input for the display of the image on the display of virtual device 105 may be received via the software application.
  • the software application may be executed by the electronic device 101, the MR device 102, and/or another electronic device 103.
  • another electronic device 103 may be a device that provides data for displaying an image on the display of the virtual device 105.
  • the software application may be used to provide the data.
  • user input for providing the data may be received through the software application.
  • the software application may be executed by the electronic device 101, the MR device 102, and/or another electronic device 103.
  • the external electronic device 104 manages or controls the electronic device 101, the MR device 102, and/or other electronic devices 103 within the external electronic device 104 using the software application. It may include a device that provides services to do so, and may be a server.
  • the external electronic device 104 may include an electronic device 101, an MR device 102, and/or another electronic device for displaying an image on the display of the virtual device 105 through the software application. At least some of the operations of 103) can be supported. For example, at least some of the above support may be implemented via connection 114, connection 124, and/or connection 134.
  • connection 114 between the electronic device 101 and the external electronic device 104 may directly connect the electronic device 101 to the external electronic device 104 and/or connect the electronic device 101 to the external electronic device 104. It may include connecting to the external electronic device 104 through at least one intermediate node.
  • connection 124 between the MR device 102 and the external electronic device 104 may connect the MR device 102 directly to the external electronic device 104 and/or connect the MR device 102 to the external electronic device 104. It may include connecting to the external electronic device 104 through at least one intermediate node. However, it is not limited to this.
  • the descriptions below are presented on the display of the MR device 102 via the electronic device 101, the MR device 102, other electronic devices 103, and/or external electronic devices 104 within the environment 100.
  • Various example operations for displaying an image on the display of the virtual device 105 may be provided.
  • the electronic device may be the electronic device 101 of FIG. 1 .
  • the electronic device 101 includes a processor 210 (e.g., including processing circuitry), a display 220, a microphone 230, a communication circuit 240, and a memory 250. can do.
  • the processor 210 may include various processing circuits including at least a portion of the processor 1420 of FIG. 14 .
  • the display 220 may include at least a portion of the display module 1460 of FIG. 14 .
  • the microphone 230 may include at least a portion of the input module 1450 of FIG. 14.
  • the communication circuit 240 may include at least a portion of the communication module 1490 of FIG. 14 (or at least a portion of the wireless communication module 1492).
  • the memory 250 may include at least a portion of the memory 1430 of FIG. 14 .
  • the processor 210 may be operably or operatively coupled with each of the display 220, microphone 230, communication circuit 240, and memory 250.
  • the processor 210 is operatively coupled to each of the display 220, the microphone 230, the communication circuit 240, and the memory 250, meaning that the processor 210 directly connects the display 220, It may indicate that it is connected to the microphone 230, the communication circuit 240, and the memory 250, respectively.
  • the processor 210 being operatively coupled with each of the display 220, the microphone 230, the communication circuit 240, and the memory 250 means that the processor 210 can It can be indicated that the display 220, microphone 230, communication circuit 240, and memory 250 are connected to each other through the components.
  • the processor 210 is operatively coupled to the display 220, the microphone 230, the communication circuit 240, and the memory 250, respectively. This may indicate that each of 240 and memory 250 operates based on instructions executed by the processor 210.
  • the processor 210 is operatively coupled to the display 220, the microphone 230, the communication circuit 240, and the memory 250, respectively. It may indicate that each of 240 and memory 250 is controlled by the processor 210. However, it is not limited to this.
  • processor 210 may be configured to execute at least some of the operations illustrated below.
  • components shown in FIG. 2 may be included within MR device 102.
  • At least some of the operations of the electronic device 101 include when the MR device 102 displays an image through the display of the virtual device 105 without assistance from the electronic device 101. , can be replaced by the operations of the MR device 102.
  • operations of the electronic device 101 and the MR device 102 that are executed based on communication between the electronic device 101 and the MR device 102 may be omitted.
  • the operations of the electronic device 101 that are executed based on communication between the electronic device 101 and the other electronic device 103 are executed based on the communication between the MR device 102 and the other electronic device 103. It can be replaced by the operations of the MR device 102.
  • the operations of the electronic device 101 that are executed based on communication between the electronic device 101 and the external electronic device 104 are executed based on the communication between the MR device 102 and the external electronic device 104. It can be replaced by the operations of the MR device 102.
  • FIG. 3 is a flow diagram illustrating an example method of registering a virtual device.
  • the method may be executed by the electronic device 101 of FIG. 1, the electronic device 101 of FIG. 2, or the processor 210 of FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • the processor 210 may execute a software application for managing or controlling another device through the electronic device 101.
  • the software application may be executed in a foreground state that displays the user interface of the software application on a display (eg, display 220 in FIG. 2).
  • the software application may be executed in a background state in which the user interface is not displayed on the display 220.
  • the state of the software application may be changed from the foreground state to the background state, or from the background state to the foreground state.
  • the processor 210 may register a virtual device (eg, virtual device 105 in FIG. 1) using the software application.
  • the virtual device 105 may be a device included in a virtual space or a space for MR.
  • the virtual device 105 may be displayed on the display of an MR device (eg, MR device 102 in FIG. 1) accessible to the virtual space or the space for the MR.
  • the registration of the virtual device 105 may be performed on the condition that a device (eg, the MR device 102 in FIG. 1) accessible to the virtual space or the space for the MR is registered.
  • a device eg, the MR device 102 in FIG.
  • the processor 210 provides device information of the virtual device 105 and the location of the virtual device 105.
  • Information can be registered.
  • the information about the device information and the location of the virtual device 105 may be generated based on touch input received through the user interface while registering the virtual device 105 using the software application. It may be input or may be input based on a voice signal acquired through the microphone 230.
  • the virtual device 105 which is registered using the software application in conjunction with the device information and the information about the location of the virtual device 105, can be illustrated through FIG. 4A.
  • FIG. 4A illustrates an example method of registering a virtual device using a software application to control another device.
  • a processor may display a user interface 410 of the software application, such as a status 400.
  • the user interface 410 may include an executable object 411 for registering a virtual device (eg, virtual device 105 in FIG. 1) using the software application.
  • the processor 210 may receive a touch input 412 for the executable object 411 .
  • the processor 210 may identify whether an MR device (eg, the MR device 102 of FIG. 1 ) is worn in response to the touch input 412 .
  • the processor 210 may identify whether the MR device 102 is worn based on a signal indicating the state of the MR device 102 received from the MR device 102 .
  • the signal may include information indicating movement of the MR device 102 or a change in the movement, obtained through a sensor of the MR device 102.
  • the signal may be information obtained through a sensor of the MR device 102, indicating whether the MR device 102 is adjacent to an external object (e.g., a part of the user's body (e.g., head)) or It may include information indicating the distance between the MR device 102 and the external object.
  • processor 210 may identify that MR device 102 is worn or identify that MR device 102 is not worn, based on the signal.
  • the processor 210 may request the signal from the MR device 102 under the condition that the signal indicating the state of the MR device 102 is not received from the MR device 102.
  • MR device 102 may receive the request for the signal.
  • the MR device 102 may obtain the signal based on data acquired through the sensor of the MR device 102.
  • the MR device 102 may transmit the signal to an electronic device (eg, the electronic device 101 of FIG. 1).
  • Processor 210 may, based on the signal received from MR device 102, identify that MR device 102 is worn or identify that MR device 102 is not worn.
  • processor 210 may transmit a signal for registration of virtual device 105 to MR device 102 in response to identifying that MR device 102 is worn.
  • the signal for registration may be transmitted to identify device information and location of the virtual device 105 using the MR device 102.
  • the MR device 102 may receive the signal for registration from the electronic device 101.
  • the MR device 102 may, in response to the signal for registration, such as state 420, display a visual object 430 representing the virtual device 105 to be registered via the software application to the MR device. (102) It can be displayed together with the surrounding environment, or it can be displayed on an image representing the environment around the MR device 102.
  • visual object 430 may respond to user input identified by MR device 102 (e.g., gaze input, gesture input through movement of a controller connected to MR device 102, and/or voice input). Based on this, it can be moved.
  • the size of the visual object 430 may be determined by user input identified by the MR device 102 (e.g., gaze input, gesture input through movement of a controller connected to the MR device 102, and/or voice input). ), may be changed.
  • the shape of visual object 430 may be determined by user input identified by MR device 102 (e.g., gaze input, gesture input through movement of a controller coupled with MR device 102, and/or voice input). ), may be changed.
  • MR device 102 increases the size of visual object 430 and user input 440 indicating movement of visual object 430 into area 435.
  • the user input 445 indicated may be received.
  • MR device 102 may change state 420 to state 450 based on user input 440 and user input 445 .
  • MR device 102 displays visual object 430 at a location identified based on user input 440 and having a size identified based on user input 445. can do.
  • the MR device 102 may receive device information of the MR device 102 and a user input indicating determining the location of the MR device 102 (e.g., gaze input, Gesture input through movement of a controller connected to the MR device 102 and/or voice input) may be received.
  • a user input indicating determining the location of the MR device 102 e.g., gaze input, Gesture input through movement of a controller connected to the MR device 102 and/or voice input
  • the MR device 102 in response to the user input, provides first information indicating the location of the visual object 430 as the location of the virtual device 105 and the size of the visual object 430 to the virtual device ( Second information represented by the size of 105) can be obtained.
  • the MR device 102 may transmit the first information and the second information to the electronic device 101.
  • the processor 210 may receive the first information and the second information from the MR device 102.
  • the processor 210 may register the virtual device 105 based at least in part on receiving the first information and the second information. For example, the processor 210 may transmit information for registering the virtual device 105 to an external electronic device (eg, the external electronic device 104 of FIG. 1). For example, the virtual device 105 may be registered in the external electronic device 104 based on the above information. For example, the virtual device 105 registered in the external electronic device 104 may be linked to the location of the virtual device 105 and device information of the virtual device 105.
  • an external electronic device eg, the external electronic device 104 of FIG. 1
  • the virtual device 105 may be registered in the external electronic device 104 based on the above information.
  • the virtual device 105 registered in the external electronic device 104 may be linked to the location of the virtual device 105 and device information of the virtual device 105.
  • the processor 210 may identify authority for access to the virtual device 105 after registration of the virtual device 105 is completed or after the first information and the second information are received. .
  • the processor 210 indicates that access to the virtual device 105 is authorized through another user account (e.g., a family member's user account) that is distinct from the user account used within the electronic device 101.
  • the software application may be used to associate the virtual device 105 with information about the other user accounts.
  • the processor 210 may transmit a signal indicating that the other user account will be linked to the virtual device 105 to the external electronic device 104.
  • the processor 210 may display an executable object corresponding to the virtual device 105 within the user interface 410.
  • the executable object within user interface 410 can be illustrated through FIG. 4B.
  • Figure 4b shows an example of a user interface that includes visual objects corresponding to virtual devices registered using a software application for controlling other devices.
  • the user interface 410 may include executable objects 470 .
  • the executable objects 470 may include an executable object 465 corresponding to the virtual device 105 .
  • the executable objects 470 include an executable object 466 corresponding to another electronic device 103 that is a real device, an executable object 467 corresponding to a real device, and an executable object 467 corresponding to another virtual device. It may include an executable object 468 that does the following:
  • executable objects 470 may be categorized.
  • executable objects 470 may be categorized based on location, as shown in FIG. 4B.
  • executable object 465 and executable object 466 indicate that virtual device 105 and other electronic devices 103 are located within a master room
  • the executable object 467 and the executable object 468 indicate that the real device corresponding to the executable object 467 and the other virtual device corresponding to the executable object 468 are located in the living room. It can be expressed.
  • each of the executable objects 470 may include a quick access element for controlling a device corresponding to each of the executable objects 470.
  • executable object 465 may include quick access element 471.
  • the processor 210 in response to a touch input on each of the different areas of the executable objects 470 that are distinct from the area of the quick access element, touches each of the executable objects 470.
  • a user interface 410 including a plurality of executable objects for controlling or managing a corresponding device may be displayed.
  • the processor 210 may control each of the executable objects 470 based on a function corresponding to the quick access element in response to a touch input on the area of the quick access element. there is.
  • processor 210 in response to identifying that MR device 102 is not worn, sends a notification to inform or guide wearing MR device 102.
  • an alarm may be provided.
  • the notification or alarm may be provided from the electronic device 101 or the MR device 102.
  • the notification or alarm is displayed through the display 220, output through the speaker of the electronic device 101, or vibrated. It may be output through an actuator of the electronic device 101.
  • the notification or the alarm may be output through a speaker of the MR device 102.
  • processor 210 may register virtual device 105 based on user input received via user interface 410 in response to identifying that MR device 102 is not worn. there is.
  • the registration of the virtual device 105 with the electronic device 101 may be at least partially different from the registration of the virtual device 105 with the MR device 102.
  • the processor 210 identifies a user input for inputting text (or character) indicating the device information and the location of the virtual device 105 through the user interface 410, The virtual device 105 can be registered.
  • information on a physical device may be used for the registration of the virtual device 105.
  • the processor 210 may identify a user input for inputting information about a physical device having a type corresponding to the type of the virtual device 105, thereby converting the device information of the virtual device 105 into the physical device. Can be identified based on the above information.
  • Processor 210 may register virtual device 105 based on the identification.
  • the electronic device 101 may register the virtual device 105 displayed on the display of the MR device 102 using the software application. For example, the registration of the virtual device 105 initiated from the electronic device 101 may be partially processed by the MR device 102. For example, the electronic device 101 registers the virtual device 105 based on the user experience that can be provided through the MR device 102 and the user experience that can be provided through the electronic device 101. , it can be run.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • the processor 210 of FIG. 2 through the electronic device 101, based on recognition of a voice signal acquired through a microphone (e.g., the microphone 230 of FIG. 2).
  • a voice command indicating an indication through a display of a registered virtual device may be identified using the software application to control another device.
  • the voice command may directly (or explicitly) indicate, or indirectly (or implicitly), that a display is to be performed on the display of virtual device 105. It may be possible. Identifying the voice command based on the recognition of the voice signal will be illustrated through FIGS. 6, 7, 8, and 10.
  • the processor 210 may identify whether an MR device for displaying the virtual device 105 (eg, the MR device 102 in FIG. 1) is worn based on the voice command.
  • the processor 210 may, in response to the voice command, It is possible to identify whether the MR device 102 is worn.
  • the processor 210 receives a signal indicating the state of the MR device 102 from the MR device 102 connected to the electronic device 101 through a communication circuit (e.g., the communication circuit 240 of FIG. 2). can receive.
  • the processor 210 may identify whether the MR device 102 is worn based on the signal.
  • the signal representing the state of the MR device 102 may be obtained through a sensor (e.g., an acceleration sensor and/or a gyro sensor) of the MR device 102. ) (and/or posture) may include information indicating.
  • the signal indicative of the state of the MR device 102 may be obtained through a sensor of the MR device 102 (e.g., a proximity sensor and/or a UWB communication circuit) between the MR device 102 and an external object. It may include information indicating the distance between objects or information indicating whether the external object is adjacent to the MR device 102.
  • a sensor of the MR device 102 e.g., a proximity sensor and/or a UWB communication circuit
  • processor 210 may execute operation 505 based on identifying that MR device 102 is worn and execute operation 509 based on identifying that MR device 102 is not worn. You can.
  • the processor 210 on the condition that the MR device 102 is worn, in conjunction with the virtual device 105, based on device information registered using the software application, MR device 102 An image to be displayed on the display of the virtual device 105 can be obtained.
  • processor 210 may execute operation 505 based on the device information to obtain a suitable image for the display of virtual device 105.
  • the device information may be received from an external electronic device (eg, the external electronic device 104 of FIG. 1).
  • the processor 210 may request the external electronic device 104 to transmit the device information of the virtual device 105 in response to identifying that the MR device 102 is worn.
  • the external electronic device 104 may transmit the device information to the electronic device 101 in response to the request.
  • the electronic device 101 may acquire the image based on the device information.
  • the device information may be stored in association with the virtual device 105 within the electronic device 101.
  • processor 210 may obtain device information by identifying information associated with virtual device 105 in response to identifying that MR device 102 is worn.
  • the processor 210 may acquire the image based on the device information.
  • the device information registered in association with the virtual device 105 through the description of FIGS. 3 to 4B may include data about the size of the display of the virtual device 105 and/or information about the size of the display of the virtual device 105. It may include data about the aspect ratio of the display.
  • the processor 210 sends a signal to the MR device 102 via the communication circuit 240 to display the image on the display of the virtual device 105 displayed through the MR device 102.
  • the signal may cause the MR device 102 to display the image on the display of a virtual device 105 that is displayed via the display of the MR device 102.
  • the virtual device 105 located within the virtual space provided through the MR device 102 or the space for the MR may display the image on the display of the virtual device 105.
  • the display may be controlled by the MR device 102 based on the signal.
  • the image may include a static image, a dynamic image, a software application execution screen, a wall paper, and a lock screen.
  • the processor 210 may provide a notification to notify the user to wear the MR device 102 under conditions in which the MR device 102 is not worn.
  • the notification may be provided through components of the electronic device 101.
  • the notification may be displayed through a display (eg, display 220 of FIG. 2) of the electronic device 101.
  • the notification may be output through the speaker of the electronic device 101.
  • the notification may be output as vibration through an actuator of the electronic device 101.
  • it is not limited to this.
  • the notification may be provided through a component of the MR device 102.
  • the notification may be output through the speaker of the MR device 102.
  • it is not limited to this.
  • the electronic device 101 extracts the voice command representing the virtual device 105 from the voice signal received through a microphone (e.g., microphone 230 in FIG. 2), and uses the extracted voice
  • the state of the MR device 102 may be identified to control the virtual device 105 based on commands.
  • the electronic device 101 controls the virtual device 105 through the MR device 102 based on identifying that the MR device 102 is available for control of the virtual device 105. To do this, it can communicate with the MR device 102.
  • the electronic device 101 may add a service provided through the MR device 102 to the service provided through the electronic device 101.
  • the electronic device 101 may provide enhanced services or an enhanced user experience.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • Operations 601 and 603 of FIG. 6 may be included within operation 501 of FIG. 5 . However, it is not limited to this. For example, operations 601 and 603 may be independent from operation 501 of FIG. 5 .
  • the processor 210 of FIG. 2 identifies a display position based on the recognition of the voice signal obtained through a microphone (e.g., microphone 230 of FIG. 2). You can. For example, the processor 210 may acquire the voice signal corresponding to “display in the living room” through the microphone 230. For example, the processor 210 may identify the display location indicated by the voice signal as “home room” based on the recognition of the voice signal.
  • a microphone e.g., microphone 230 of FIG. 2
  • the processor 210 may acquire the voice signal corresponding to “display in the living room” through the microphone 230.
  • the processor 210 may identify the display location indicated by the voice signal as “home room” based on the recognition of the voice signal.
  • the processor 210 identifies that the display location corresponds to the location of a virtual device 105 registered using the software application in association with a virtual device (e.g., virtual device 105 of FIG. 1). Based on this, the voice command can be identified. For example, the processor 210 may identify the location of each device registered using the software application based on the display location. For example, the processor 210 may, as a result of the identification, identify that a location of the virtual device 105 corresponds to the display location, thereby allowing the processor 210 to extract the audio signal from at least a portion of the speech signal to the display of the virtual device 105. The voice command indicating the indication can be identified.
  • the electronic device 101 uses the location associated with each of the devices registered using the software application to transmit the voice signal even if the voice signal does not include a portion representing the virtual device 105. At least a portion of the signal may be identified as the voice command indicating the display on the virtual device 105.
  • FIG. 7 is a flowchart illustrating an example method of obtaining an image to be displayed through a display of a virtual device based on information obtained from another electronic device.
  • the method may be executed by the electronic device 101 of FIG. 1, the electronic device 101 of FIG. 2, or the processor 210 of FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • At least a portion of operations 701 to 709 of FIG. 7 may be related to at least a portion of operation 501 of FIG. 5, operation 503 of FIG. 5, operation 505 of FIG. 5, operation 601 of FIG. 6, and operation 603 of FIG. 6. there is.
  • the processor 210 of FIG. 2 generates a virtual device (e.g., a virtual device) based on the recognition of the voice signal obtained through a microphone (e.g., the microphone 230 of FIG. 2). to identify the voice command further indicating that data for the image to be displayed on the display of the virtual device 105 in FIG. 1 is obtained from another electronic device (e.g., the other electronic device 103 in FIG. 1) You can.
  • a virtual device e.g., a virtual device
  • the processor 210 may acquire the voice signal corresponding to “Display the screen of the living room TV in the master bedroom” through the microphone 230. For example, based on the recognition of the voice signal, the processor 210 may transmit the data for the image to be displayed on the display of the virtual device 105 to another electronic device 103 corresponding to a “living room TV”. ) can be identified as being obtained from.
  • the processor 210 may identify that an MR device (e.g., MR device 102 of FIG. 1) is worn. For example, processor 210 may identify whether MR device 102 is worn in response to identifying the voice command, at operation 701 . For example, processor 210 may identify that MR device 102 is worn based on a signal received from MR device 102 .
  • an MR device e.g., MR device 102 of FIG. 1
  • processor 210 may identify whether MR device 102 is worn in response to identifying the voice command, at operation 701 .
  • processor 210 may identify that MR device 102 is worn based on a signal received from MR device 102 .
  • processor 210 in response to identifying that MR device 102 is worn, transmits the data to another electronic device 103 via communication circuitry 240 based on the identified voice command. , you can request it. For example, the processor 210 may transmit the request based on information for accessing another electronic device 103 registered using the software application. Another electronic device 103 may receive the request.
  • the processor 210 may receive the data for the image from another electronic device 103.
  • the processor 210 may obtain the image to be displayed on the display of the virtual device 105 based on the data and the device information of the virtual device 105.
  • the image may correspond to another image displayed through the display of another electronic device 103.
  • an image displayed on the display of another electronic device 103 may be mirrored on the display of the virtual device 105.
  • the image may be a mirror image of the other image.
  • the content expressed by the image may be substantially the same as the content expressed by the other image.
  • the arrangement of visual objects in the image may be the same or different from the arrangement of visual objects in the other image.
  • the size of the display of the virtual device 105 is different from the size of the display of the other electronic device 103, or the aspect ratio of the display of the virtual device 105 is different from that of the display of the electronic device 103. If the aspect ratio is different, the placement of visual objects within the image may be different from the placement of visual objects within the other image. However, it is not limited to this.
  • the image may be an image extended from another image displayed through the display of another electronic device 103.
  • the image and the other image may provide a single screen.
  • the image may represent a part of the single screen, and the other image may represent another part of the single screen.
  • the electronic device 101 acquires or converts an image provided from another electronic device 103 and sends the image to the MR device 102 for display on the display of the virtual device 105.
  • the electronic device 101 may display an image from another electronic device 103 on the display of the virtual device 105 displayed through the MR device 102.
  • the electronic device 101 may transmit a service provided through another electronic device 103 to the MR device 102 using the software application.
  • the electronic device 101 may provide a service that expands the capabilities of the other electronic devices 103.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • Operations 801 to 805 of FIG. 8 may be included in operation 501 of FIG. 5 . However, it is not limited to this. For example, operations 801 to 805 may be independent from operation 501 of FIG. 5 .
  • the processor 210 of Figure 2 based on the recognition of the voice signal acquired through a microphone (e.g., the microphone 230 of Figure 2), determines that the voice signal is the It can be identified that it represents a display through the display of another electronic device 103 registered using a software application and a display through the display of a virtual device (eg, the virtual device 105 in FIG. 1). For example, the processor 210 may obtain the voice signal corresponding to “Play TV” through the microphone 230. For example, the processor 210 may identify “TV” indicated by the voice signal based on the “recognition” of the voice signal using the software application.
  • a microphone e.g., the microphone 230 of Figure 2
  • the processor 210 may obtain the voice signal corresponding to “Play TV” through the microphone 230.
  • the processor 210 may identify “TV” indicated by the voice signal based on the “recognition” of the voice signal using the software application.
  • the processor 210 By identifying that the TV registered using the software application is another electronic device (e.g., another electronic device 103 in FIG. 1) and a virtual device 105, the voice signal is transmitted to the other electronic device 103. It can be identified that it represents the display through the display and the display through the display of the virtual device 105.
  • the processor 210 may identify that the location of the electronic device 101 corresponds to the location of the virtual device 105 among the locations of other electronic devices 103 and the location of the virtual device 105. For example, in response to the identification, the processor 210 may identify the location of the electronic device 101 using a communication circuit (eg, the communication circuit 240 of FIG. 2). For example, in response to the identification, the processor 210 may identify the location of another electronic device 103 registered using the software application. For example, in response to the identification, the processor 210 may identify the location of the virtual device 105 registered using the software application. For example, the processor 210 identifies that the location of the electronic device 101 corresponds to the location of the virtual device 105 among the locations of other electronic devices 103 and the location of the virtual device 105. can do.
  • a communication circuit eg, the communication circuit 240 of FIG. 2
  • the processor 210 may identify the location of another electronic device 103 registered using the software application.
  • the processor 210 may identify the location of the virtual device 105 registered using the
  • processor 210 indicates the indication through the display of virtual device 105 based on identifying that the location of electronic device 101 corresponds to the location of virtual device 105.
  • the voice command can be identified. For example, when the user's intention is to receive a service at his or her location, the probability that information about the location of the service is included in the voice signal from the user may be reduced, so the processor 210 determines that the location is a virtual device. Based on identifying that it corresponds to the location of 105, the voice command can be identified.
  • the electronic device 101 uses the location associated with each of the devices registered using the software application to transmit the voice signal even if the voice signal does not include a portion representing the virtual device 105. At least a portion of the signal may be identified as the voice command indicating the display on the virtual device 105.
  • FIG. 9 is a flowchart illustrating an example method of acquiring an image based on device information of a virtual device transmitted to an external electronic device.
  • the method may be executed by the electronic device 101 of FIG. 1, the electronic device 101 of FIG. 2, or the processor 210 of FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • At least a portion of operations 901 to 911 of FIG. 9 may be related to at least a portion of operations 501, 503, and 505 of FIG. 5.
  • the processor 210 of FIG. 2 may execute a display on the display (e.g., the display 220 of FIG. 2) of the electronic device 101 based on the first data.
  • a display on the display e.g., the display 220 of FIG. 2
  • the first data may be data for displaying the other image.
  • the first data may be received from an external electronic device (e.g., a server providing a streaming service) through a communication circuit (e.g., the communication circuit 240 of FIG. 2).
  • the processor 210 may acquire a voice signal through a microphone (eg, microphone 230 in FIG. 2) while the other image is displayed on the display 220.
  • a microphone eg, microphone 230 in FIG. 2
  • processor 210 may identify a voice command representing a display on the display of a virtual device (e.g., virtual device 105 of FIG. 1) based on recognition of the voice signal.
  • a virtual device e.g., virtual device 105 of FIG. 1
  • operation 905 may correspond to operation 501 of FIG. 5 .
  • processor 210 may identify that an MR device (e.g., MR device 102 of FIG. 1) is worn, in response to the identification of the voice command.
  • operation 907 may correspond to a portion of operation 503 in FIG. 5 .
  • processor 210 in response to identifying that MR device 102 is worn, transmits virtual device 105 to the external electronic device via communication circuitry (e.g., communication circuitry 240 of FIG. 2).
  • device information can be transmitted.
  • the processor 210 may transmit the device information to provide content provided from the external electronic device on the display of the virtual device 105.
  • the processor 210 may transmit the device information so that the external electronic device sets an image to be displayed on the display of the virtual device 105.
  • the virtual device 105 may not be recognized or identified by the external electronic device.
  • the virtual device 105 may be transparent to the external electronic device.
  • the processor 210 may transmit identification information of the virtual device 105 to the external electronic device along with the device information so that the external electronic device can recognize or identify the virtual device 105. there is.
  • the processor 210 may acquire the image by receiving second data obtained based on the device information from the external electronic device through the communication circuit 240.
  • the image may correspond to the other image.
  • content provided through the image may correspond to content provided through the other image.
  • the arrangement of visual objects in the image may be the same or different from the arrangement of visual objects in the other image.
  • the visual object in the image Their arrangement may be different from the arrangement of visual objects in the other images. However, it is not limited to this.
  • the electronic device 101 can display content from the external electronic device connected to the electronic device 101 on the display of the virtual device 105.
  • the electronic device 101 configures the image to be displayed on the display of the virtual device 105 by requesting the external electronic device to configure the image to be displayed on the display of the virtual device 105.
  • the amount of resources consumed to acquire them can be reduced.
  • the resources may represent operations performed on the image to be displayed on the display of virtual device 105. However, it is not limited to this.
  • FIG. 10 is a flowchart illustrating an example method of identifying a voice command based on the orientation of the display of a virtual device and the orientation of the display of another electronic device.
  • the method may be executed by the electronic device 101 of FIG. 1, the electronic device 101 of FIG. 2, or the processor 210 of FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • At least a portion of operations 1001 to 1007 of FIG. 10 may be included in operation 501 of FIG. 5 . However, it is not limited to this. For example, operations 1001 to 1007 may be independent from operation 501 of FIG. 5 .
  • the processor 210 of FIG. 2 transmits a voice signal acquired through a microphone (e.g., the microphone 230 of FIG. 2) to another electronic device (e.g., another electronic device of FIG. 1). It can be identified that it represents a display through a display of (103)) and a display through a display of a virtual device (e.g., virtual device 105 in FIG. 1).
  • the other electronic device 103 may be a physical device registered using the software application.
  • the voice signal may correspond to “Play TV.”
  • the processor 210 selects another electronic device 103, which is a device including a display, and a virtual device among the devices registered through the software application.
  • Device 105 may be identified.
  • processor 210 may identify, based on the identification, that the audio signal represents the display through the display of another electronic device 103 and the display through the display of a virtual device 105. can do.
  • the processor 210 may identify that the location of the other electronic device 103 and the location of the virtual device 105 are included in one area. For example, the processor 210 may identify the location of another electronic device 103 registered using the software application in conjunction with the other electronic device 103. For example, the processor 210 may identify the location of the registered virtual device 105 using the software application in conjunction with the virtual device 105. For example, the processor 210 may identify that the location of the other electronic device 103 and the location of the virtual device 105 are located within one area (eg, “home room”).
  • one area eg, “home room”.
  • the processor 210 may identify the direction of the display of the other electronic device 103 and the direction of the display of the virtual device 105. For example, if other electronic devices 103 and virtual devices 105 are within a single area, a device corresponding to user intent can be identified among the other electronic devices 103 and virtual devices 105 based on location. Since it indicates none, the processor 210 can identify the direction of the display of the other electronic device 103 and the direction of the display of the virtual device 105. For example, the processor 210 may determine the location of the other electronic device 103 based on the location of the other electronic device 103 within the single area and the location of the virtual device 105 within the single area. The orientation of the display and the orientation of the display of the virtual device 105 may be identified.
  • the processor 210 displays a display on the display of a virtual device 105 based on the orientation of the display of the other electronic device 103 and the orientation of the display of the virtual device 105.
  • the voice command indicated can be identified.
  • the processor 210 may identify the location of the electronic device 101 within the single area using a communication circuit (eg, the communication circuit 240 of FIG. 2).
  • processor 210 may, based on the location of electronic device 101, the orientation of the display of another electronic device 103, the orientation of the display of virtual device 105, generate the voice command. can be identified.
  • the processor 210 may, based on the location of the electronic device 101, the orientation of the display of another electronic device 103, the orientation of the display of the virtual device 105, The voice command can be identified by identifying that 101 is located in front of the display of the virtual device 105 among the display of the other electronic device 103 and the display of the virtual device 105.
  • Figure 10 shows an example of identifying one device based on the direction of the display when the voice signal indicates two or more devices, but this is for convenience of explanation.
  • the electronic device 101 may identify one device among two or more devices based on the orientation of the display as well as various other criteria.
  • the processor 210 may generate device information of the other electronic device 103 and the device of the virtual device 105 based on identifying the other electronic device 103 and the virtual device 105 from the voice signal. Information can be identified.
  • the processor 210 identifies the size of the display of another electronic device 103 from the device information of the other electronic device 103, and identifies the size of the display of the virtual device 105 from the device information of the virtual device 105. ) can identify the size of the display. For example, the processor 210 may compare the size of the display of the virtual device 105 with the size of the display of another electronic device 103 . For example, the processor 210 may, based on the size of the display of the virtual device 105 being larger than the size of the display of another electronic device 103, The voice command indicating the indication can be identified. However, it is not limited to this.
  • the processor 210 identifies the resolution of the display of another electronic device 103 from the device information of the other electronic device 103, and identifies the resolution of the display of the virtual device 105 from the device information of the virtual device 105. ) can identify the resolution of the display. For example, the processor 210 may compare the resolution of the display of the other electronic device 103 with the resolution of the display of the virtual device 105 . For example, the processor 210 may, based on the resolution of the display of the virtual device 105 being higher than the resolution of the display of the other electronic device 103, The voice command indicating the indication can be identified. However, it is not limited to this.
  • the processor 210 identifies the mobility of another electronic device 103 from the device information of the other electronic device 103 and the mobility of the virtual device 105 from the device information of the virtual device 105. can be identified.
  • processor 210 may further identify movement of electronic device 101 based on identifying other electronic devices 103 and virtual devices 105 .
  • the movement may be identified through a sensor of the electronic device 101.
  • the processor 210 may identify the mobility of the virtual device 105 as being higher than the mobility of another electronic device 103 and, based on identifying that the electronic device 101 is moving,
  • the voice command may be identified as indicating the indication via the display of device 105.
  • the electronic device 101 even if the voice signal received through the microphone 230 does not explicitly indicate the virtual device 105, the device information of the other electronic device 103 and the virtual device 105 Based on the device information of , at least part of the voice signal may be identified as the voice command indicating the display through the display of the virtual device 105.
  • FIG. 11 is a flow diagram illustrating an example method of controlling a virtual device located within a virtual space.
  • the method may be executed by the electronic device 101 of FIG. 1, the electronic device 101 of FIG. 2, or the processor 210 of FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • the processor 210 of FIG. 2 uses the software application to access the MR device 102 while the connection with the MR device (e.g., the MR device 102 of FIG. 1) is released.
  • Other images to be displayed may be identified through the display of a virtual device (e.g., virtual device 105 in FIG. 1) located within a possible virtual space.
  • the virtual space may be a space that is distinct from the space for MR.
  • the virtual space is maintained and activated even if the virtual space is not accessed using the MR device 102, unlike the space for the MR that is activated when accessed using the MR device 102. It could be a space where
  • the other image may be provided to the software application from another software application that is distinct from the software application.
  • the other software application may be a software application for managing images acquired through a camera of the electronic device 101 or received in the electronic device 101.
  • the other software application may be a software application for managing or displaying a web page including the other image.
  • it is not limited to this.
  • the processor 210 transmits data for displaying the other image on the display of the virtual device 105 while the connection with the MR device 102 is disconnected, through communication circuitry (e.g., of FIG. 2 ). It can be transmitted to an external electronic device that provides the virtual space through the communication circuit 240).
  • operation 1103 may be executed using the software application.
  • the processor 210 may use the software to set an image displayed through the display of the virtual device 105 in the virtual space, even if the virtual space is not accessed using the MR device 102.
  • the data can be transmitted using an application.
  • the electronic device 101 includes a virtual device 105 located in a virtual space accessible through the MR device 102 among the electronic device 101 and the MR device 102, and the MR device ( 102), control is possible while the connection is disconnected.
  • the electronic device 101 can expand the usability of the virtual space by providing such services.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • the processor 210 of FIG. 2 based on recognition of another voice signal acquired through a microphone (e.g., microphone 230 of FIG. 2), registers a virtual device (e.g., : Different voice commands indicating indications at different locations that are distinct from the locations of a plurality of devices including the virtual device 105 of FIG. 1 can be identified.
  • the processor 210 may acquire the voice signal corresponding to “displaying an image in the kitchen” through the microphone 230.
  • the processor 210 may identify a device located in the “kitchen,” which is the location indicated by the voice signal, among devices registered using the software application.
  • processor 210 may identify the other voice command based on the identification.
  • processor 210 displays a user interface of the software application for registering another virtual device, distinct from virtual device 105, located at the other location, based on the other voice command. You can.
  • virtual devices can be located without location restrictions, so the processor 210 can display the user interface for registering the other virtual devices.
  • the user interface may include text or visual objects to guide registration of the other virtual device.
  • registration of the other virtual device may be provided more simply than the registration of the virtual device 105 illustrated through FIGS. 3 to 4B.
  • the registration of the other virtual device may be performed using device information of the virtual device 105 registered using the software application before the other virtual device is registered. However, it is not limited to this.
  • the electronic device 101 can guide registration of available virtual devices regardless of location, based on recognition of the voice signal. For example, the electronic device 101 may provide an enhanced user experience through the guidance.
  • FIG. 13 shows an example of functional components executed by a processor of an MR device.
  • a processor of an MR device may receive and identify user input using the input interface 1310.
  • the user input may include gaze input, gesture input through a controller, and/or voice input.
  • the processor of the MR device 102 may use the input interface 1310 (eg, various circuits) to execute a function corresponding to the user input.
  • Modules described below with reference to FIG. 13 may include, for example, various processing circuits and/or executable program instructions.
  • the processor of the MR device 102 may recognize the user input using the voice recognition module 1320.
  • the processor of the MR device 102 may provide information about the identified user input to the voice recognition module 1320 through the input interface 1310.
  • the processor of the MR device 102 may recognize the user input by executing natural language interpretation of the user input using the voice recognition module 1320.
  • the processor of the MR device 102 may control another device through the MR device 102 using the software application 1330, which is the software application illustrated above.
  • the processor of the MR device 102 may register the virtual device 105 and another electronic device 103 using a software application 1330.
  • the processor of the MR device 102 may set an image (or content) to be displayed through the virtual device 105 and another electronic device 103 using a software application 1330.
  • the software application 1330 may be executed based on information obtained from the external electronic device 104.
  • the processor of the MR device 102 can control the image displayed on the display of the MR device 102 and the sound output through the speaker of the MR device 102 using the output interface 1350.
  • the output interface 1350 may include a display controller 1360 (e.g., various circuits), a rendering module 1370, and a sound controller 1380 (e.g., various circuits).
  • the processor of the MR device 102 uses the display controller 1360 to display an image acquired from another device (e.g., the electronic device 101 and/or the other electronic device 103) into a virtual device ( 105) can be decoded.
  • the processor of the MR device 102 provides a virtual device 105 to another device (e.g., the electronic device 101 and/or the other electronic device 103) using the display controller 1360. ) can encode the image displayed on the display.
  • another device e.g., the electronic device 101 and/or the other electronic device 103
  • the display controller 1360 can encode the image displayed on the display.
  • the processor of the MR device 102 may use the rendering module 1370 to render an image in a space or virtual space for MR.
  • the processor of the MR device 102 may render an image obtained from the display controller 1360 using the rendering module 1370.
  • the processor of the MR device 102 may use the sound controller 1380 to control sound output while the image is displayed.
  • the sound controller 1380 may perform encoding and/or decoding for the sound.
  • FIG. 14 is a block diagram of an electronic device 1401 in a network environment 1400, according to various embodiments.
  • the electronic device 1401 communicates with the electronic device 1402 through a first network 1498 (e.g., a short-range wireless communication network) or a second network 1499. It is possible to communicate with at least one of the electronic device 1404 or the server 1408 through (e.g., a long-distance wireless communication network). According to one embodiment, the electronic device 1401 may communicate with the electronic device 1404 through the server 1408.
  • a first network 1498 e.g., a short-range wireless communication network
  • a second network 1499 e.g., a second network 1499.
  • the electronic device 1401 may communicate with the electronic device 1404 through the server 1408.
  • the electronic device 1401 includes a processor 1420, a memory 1430, an input module 1450, an audio output module 1455, a display module 1460, an audio module 1470, and a sensor module ( 1476), interface (1477), connection terminal (1478), haptic module (1479), camera module (1480), power management module (1488), battery (1489), communication module (1490), subscriber identification module (1496) , or may include an antenna module 1497.
  • at least one of these components eg, the connection terminal 1478
  • some of these components e.g., sensor module 1476, camera module 1480, or antenna module 1497) are integrated into one component (e.g., display module 1460). It can be.
  • the processor 1420 executes software (e.g., program 1440) to operate at least one other component (e.g., hardware or software component) of the electronic device 1401 connected to the processor 1420. It can be controlled and various data processing or calculations can be performed. According to one embodiment, as at least part of the data processing or computation, the processor 1420 stores instructions or data received from another component (e.g., the sensor module 1476 or the communication module 1490) in the volatile memory 1432. The commands or data stored in the volatile memory 1432 can be processed, and the resulting data can be stored in the non-volatile memory 1434.
  • software e.g., program 1440
  • the processor 1420 stores instructions or data received from another component (e.g., the sensor module 1476 or the communication module 1490) in the volatile memory 1432.
  • the commands or data stored in the volatile memory 1432 can be processed, and the resulting data can be stored in the non-volatile memory 1434.
  • the processor 1420 may include a main processor 1421 (e.g., a central processing unit or an application processor) or an auxiliary processor 1423 that can operate independently or together (e.g., a graphics processing unit, a neural network processing unit ( It may include a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • a main processor 1421 e.g., a central processing unit or an application processor
  • auxiliary processor 1423 e.g., a graphics processing unit, a neural network processing unit ( It may include a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor.
  • the electronic device 1401 includes a main processor 1421 and a auxiliary processor 1423
  • the auxiliary processor 1423 may be set to use lower power than the main processor 1421 or be specialized for a designated function. You can.
  • the auxiliary processor 1423 may be implemented separately from the main processor 1421 or as part of it.
  • the auxiliary processor 1423 may, for example, act on behalf of the main processor 1421 while the main processor 1421 is in an inactive (e.g., sleep) state, or while the main processor 1421 is in an active (e.g., application execution) state. ), together with the main processor 1421, at least one of the components of the electronic device 1401 (e.g., the display module 1460, the sensor module 1476, or the communication module 1490) At least some of the functions or states related to can be controlled.
  • co-processor 1423 e.g., image signal processor or communication processor
  • may be implemented as part of another functionally related component e.g., camera module 1480 or communication module 1490. there is.
  • the auxiliary processor 1423 may include a hardware structure specialized for processing artificial intelligence models.
  • Artificial intelligence models can be created through machine learning. For example, such learning may be performed in the electronic device 1401 itself on which the artificial intelligence model is performed, or may be performed through a separate server (e.g., server 1408).
  • Learning algorithms may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but It is not limited.
  • An artificial intelligence model may include multiple artificial neural network layers.
  • Artificial neural networks include deep neural network (DNN), convolutional neural network (CNN), recurrent neural network (RNN), restricted boltzmann machine (RBM), belief deep network (DBN), bidirectional recurrent deep neural network (BRDNN), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the examples described above.
  • artificial intelligence models may additionally or alternatively include software structures.
  • the memory 1430 may store various data used by at least one component (eg, the processor 1420 or the sensor module 1476) of the electronic device 1401. Data may include, for example, input data or output data for software (e.g., program 1440) and instructions related thereto.
  • Memory 1430 may include volatile memory 1432 or non-volatile memory 1434.
  • the program 1440 may be stored as software in the memory 1430 and may include, for example, an operating system 1442, middleware 1444, or an application 1446.
  • the input module 1450 may receive commands or data to be used in a component of the electronic device 1401 (e.g., the processor 1420) from outside the electronic device 1401 (e.g., a user).
  • the input module 1450 may include, for example, a microphone, mouse, keyboard, keys (eg, buttons), or digital pen (eg, stylus pen).
  • the sound output module 1455 may output sound signals to the outside of the electronic device 1401.
  • the sound output module 1455 may include, for example, a speaker or receiver. Speakers can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 1460 can visually provide information to the outside of the electronic device 1401 (eg, a user).
  • the display module 1460 may include, for example, a display, a hologram device, or a projector, and a control circuit for controlling the device.
  • the display module 1460 may include a touch sensor configured to detect a touch, or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the audio module 1470 can convert sound into an electrical signal or, conversely, convert an electrical signal into sound. According to one embodiment, the audio module 1470 acquires sound through the input module 1450, the sound output module 1455, or an external electronic device (e.g., directly or wirelessly connected to the electronic device 1401). Sound may be output through an electronic device 1402 (e.g., speaker or headphone).
  • an electronic device 1402 e.g., speaker or headphone
  • the sensor module 1476 detects the operating state (e.g., power or temperature) of the electronic device 1401 or the external environmental state (e.g., user state) and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 1476 includes, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 1477 may support one or more designated protocols that can be used to connect the electronic device 1401 directly or wirelessly with an external electronic device (eg, the electronic device 1402).
  • the interface 1477 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • connection terminal 1478 may include a connector through which the electronic device 1401 can be physically connected to an external electronic device (eg, the electronic device 1402).
  • the connection terminal 1478 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 1479 can convert electrical signals into mechanical stimulation (e.g., vibration or movement) or electrical stimulation that the user can perceive through tactile or kinesthetic senses.
  • the haptic module 1479 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 1480 can capture still images and moving images.
  • the camera module 1480 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 1488 can manage power supplied to the electronic device 1401. According to one embodiment, the power management module 1488 may be implemented as at least a part of, for example, a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 1489 may supply power to at least one component of the electronic device 1401.
  • the battery 1489 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 1490 provides a direct (e.g., wired) communication channel or a wireless communication channel between the electronic device 1401 and an external electronic device (e.g., the electronic device 1402, the electronic device 1404, or the server 1408). It can support establishment and communication through established communication channels.
  • the communication module 1490 operates independently of the processor 1420 (e.g., an application processor) and may include one or more communication processors that support direct (e.g., wired) communication or wireless communication.
  • the communication module 1490 may be a wireless communication module 1492 (e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 1494 (e.g., : LAN (local area network) communication module, or power line communication module) may be included.
  • a wireless communication module 1492 e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • a wired communication module 1494 e.g., : LAN (local area network) communication module, or power line communication module
  • the corresponding communication module is a first network 1498 (e.g., a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 1499 (e.g., legacy It may communicate with an external electronic device 1404 through a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network
  • the wireless communication module 1492 uses subscriber information (e.g., International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 1496 to communicate within a communication network, such as the first network 1498 or the second network 1499.
  • subscriber information e.g., International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the wireless communication module 1492 may support 5G networks after 4G networks and next-generation communication technologies, for example, NR access technology (new radio access technology).
  • NR access technology provides high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low latency). -latency communications)) can be supported.
  • the wireless communication module 1492 may support high frequency bands (e.g., mmWave bands), for example, to achieve high data rates.
  • the wireless communication module 1492 uses various technologies to secure performance in high frequency bands, such as beamforming, massive MIMO (multiple-input and multiple-output), and full-dimensional multiplexing. It can support technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna.
  • the wireless communication module 1492 may support various requirements specified in the electronic device 1401, an external electronic device (e.g., electronic device 1404), or a network system (e.g., second network 1499).
  • the wireless communication module 1492 supports peak data rate (e.g., 20 Gbps or more) for realizing eMBB, loss coverage (e.g., 164 dB or less) for realizing mmTC, or U-plane latency (e.g., 164 dB or less) for realizing URLLC.
  • peak data rate e.g., 20 Gbps or more
  • loss coverage e.g., 164 dB or less
  • U-plane latency e.g., 164 dB or less
  • the antenna module 1497 may transmit or receive signals or power to or from the outside (e.g., an external electronic device).
  • the antenna module 1497 may include an antenna including a radiator made of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 1497 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for the communication method used in the communication network, such as the first network 1498 or the second network 1499, is connected to the plurality of antennas by, for example, the communication module 1490. can be selected. Signals or power may be transmitted or received between the communication module 1490 and an external electronic device through the selected at least one antenna.
  • other components eg, radio frequency integrated circuit (RFIC) may be additionally formed as part of the antenna module 1497.
  • RFIC radio frequency integrated circuit
  • antenna module 1497 may form a mmWave antenna module.
  • a mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (e.g., bottom side) of the printed circuit board and capable of supporting a designated high-frequency band (e.g., mmWave band); And a plurality of antennas (e.g., array antennas) disposed on or adjacent to the second side (e.g., top or side) of the printed circuit board and capable of transmitting or receiving signals in the designated high frequency band. can do.
  • a mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (e.g., bottom side) of the printed circuit board and capable of supporting a designated high-frequency band (e.g., mmWave band); And a plurality of antennas (e.g., array antennas) disposed on or adjacent to the second side (e.g., top or side) of
  • peripheral devices e.g., bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 1401 and the external electronic device 1404 through the server 1408 connected to the second network 1499.
  • Each of the external electronic devices 1402 or 1404 may be of the same or different type as the electronic device 1401.
  • all or part of the operations performed in the electronic device 1401 may be executed in one or more of the external electronic devices 1402, 1404, or 1408.
  • the electronic device 1401 may perform the function or service instead of executing the function or service on its own.
  • one or more external electronic devices may be requested to perform at least part of the function or service.
  • One or more external electronic devices that have received the request may execute at least part of the requested function or service, or an additional function or service related to the request, and transmit the result of the execution to the electronic device 1401.
  • the electronic device 1401 may process the result as is or additionally and provide it as at least part of a response to the request.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology can be used.
  • the electronic device 1401 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 1404 may include an Internet of Things (IoT) device.
  • Server 1408 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 1404 or server 1408 may be included in the second network 1499.
  • the electronic device 1401 may be applied to intelligent services (e.g., smart home, smart city, smart car, or healthcare) based on 5G communication technology and IoT-related technology.
  • the electronic device 101 may include a microphone 230, a communication circuit 240, and a processor 210.
  • the processor 210 uses a software application to control another device through the electronic device 101, based on recognition of the voice signal acquired through the microphone 230. It may be configured to identify a voice command indicating an indication through the display of a registered virtual device (105).
  • the processor 210 may be configured to identify whether a mixed reality (MR) device 102 for displaying the virtual device 105 is worn based on the voice command. .
  • MR mixed reality
  • the processor 210 in response to identifying that the MR device 102 is worn, the processor 210, in conjunction with the virtual device 105, registers device information using the software application.
  • the processor 210 may be configured to obtain an image to be displayed on the display of the virtual device 105 displayed through the MR device 102.
  • the processor 210 sends a signal for displaying the image on the display of the virtual device 105 displayed through the MR device 102, through the communication circuit 240. It may be configured to transmit to the MR device 102.
  • the processor 210 in response to identifying that the MR device 102 is not worn, provides a notification to inform that the MR device 102 is to be worn, It can be configured.
  • the processor 210 may be configured to identify a display position based on the recognition of the voice signal. According to one embodiment, the processor 210 is based on identifying that the display location corresponds to the location of the virtual device 105 registered using the software application in association with the virtual device 105. , and may be configured to identify the voice command.
  • the processor 210 further determines that data for the image is obtained from another electronic device 103 registered using the software application, based on the recognition of the voice signal. It may be configured to identify the voice command it represents. According to one embodiment, the processor 210, in response to identifying that the MR device 102 is worn, sends the data to the other electronic device 103 via the communication circuit 240. It may be configured to make a request based on a voice command. According to one embodiment, the processor 210 may be configured to receive the data from the other electronic device 103 through the communication circuit 240. According to one embodiment, the processor 210 may be configured to acquire the image based on the data and the device information.
  • the image may correspond to another image displayed through the display of the other electronic device 103.
  • the image may be an image extended from another image displayed through the display of the other electronic device 103.
  • the processor 210 displays the voice signal on the display of another electronic device 103 registered using the software application and displays the voice signal on the virtual device. It may be configured to identify that it represents an indication through the display at 105. According to one embodiment, the processor 210 registers the location of the electronic device 101 identified through the communication circuit 240 using the software application in conjunction with the other electronic device 103. Identifying that the location of the virtual device 105 corresponds to the location of the other electronic device 103 and the location of the virtual device 105 registered using the software application in conjunction with the virtual device 105. Based on this, it may be configured to identify the voice command.
  • the electronic device 101 may further include a display 220.
  • the processor 210 obtains information while executing a display on the display of the electronic device 101 based on first data received from an external electronic device through the communication circuit 240. Based on the recognition of the voice signal, it may be configured to identify the voice command.
  • the processor 210 may be configured to transmit the device information to the external electronic device through the communication circuit 240 in response to identifying that the MR device 102 is worn. there is.
  • the processor 210 may be configured to acquire the image by receiving second data obtained based on the device information from the external electronic device through the communication circuit 240. there is.
  • the processor 210 displays the voice signal on the display of another electronic device 103 registered using the software application and displays the voice signal on the virtual device. It may be configured to identify that it represents an indication through the display at 105. According to one embodiment, the processor 210, in connection with the other electronic device 103, determines the location of the other electronic device 103 registered using the software application and the virtual device 105. It may be configured to identify that the location of the virtual device 105 registered using the software application is included in one area.
  • the processor 210 based on identifying that the location of the other electronic device 103 and the location of the virtual device 105 are included in the area, the other electronic device ( to identify the direction of the display of the other electronic device 103 based on the location of the virtual device 103) and to identify the direction of the display of the virtual device 105 based on the location of the virtual device 105 It can be configured.
  • the processor 210 is configured to identify the voice command based on the orientation of the display of the other electronic device 103 and the orientation of the display of the virtual device 105, It can be configured.
  • the processor 210 receives a signal indicating the status of the MR device 102 from the MR device 102 connected to the electronic device 101 through the communication circuit 240. It can be configured to do so. According to one embodiment, the processor 210 may be configured to identify whether the MR device 102 is worn based on the received signal.
  • the signal representing the state of the MR device 102 may include information obtained through a sensor of the MR device 102, indicating movement of the MR device 102. there is.
  • the signal representing the state of the MR device 102 is information obtained through a sensor of the MR device 102, indicating the distance between the MR device 102 and an external object. may include.
  • the processor 210 while disconnected from the MR device 102, uses the software application to
  • the virtual device 105 may be configured to identify another image to be displayed through the display.
  • the processor 210 while the connection with the MR device 102 is disconnected, sends data for displaying the different image on the display of the MR device to the communication circuit 240. It may be configured to transmit to an external electronic device that provides the virtual space.
  • the processor 210 based on recognition of another voice signal acquired through the microphone 230, registers a plurality of devices including the virtual device 105 through the software application. It may be configured to identify different voice commands that indicate indications at different locations distinct from the locations of the devices. According to one embodiment, the processor 210 configures the user interface of the software application to register another virtual device 105 located at another location, based on the other voice command, to configure the electronic device 101 ) may be configured to display on the display.
  • the processor 210 may be configured to obtain device information of the other virtual device through the user interface. According to one embodiment, the processor 210 may be configured to register the device information and the other virtual device associated with the other location using the software application.
  • Electronic devices may be of various types.
  • Electronic devices may include, for example, portable communication devices (e.g., smartphones), computer devices, portable multimedia devices, portable medical devices, cameras, wearable devices, or home appliances.
  • Electronic devices according to embodiments of this document are not limited to the above-described devices.
  • first, second, or first or second may be used simply to distinguish one component from another, and to refer to those components in other respects (e.g., importance or order) is not limited.
  • One (e.g., first) component is said to be “coupled” or “connected” to another (e.g., second) component, with or without the terms “functionally” or “communicatively.”
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as logic, logic block, component, or circuit, for example. It can be used as A module may be an integrated part or a minimum unit of the parts or a part thereof that performs one or more functions. For example, according to one embodiment, the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document are one or more instructions stored in a storage medium (e.g., built-in memory 1436 or external memory 1438) that can be read by a machine (e.g., electronic device 1401). It may be implemented as software (e.g., program 1440) including these.
  • a processor e.g., processor 1420
  • a device e.g., electronic device 1401
  • the one or more instructions may include code generated by a compiler or code that can be executed by an interpreter.
  • a storage medium that can be read by a device may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain signals (e.g. electromagnetic waves). This term refers to cases where data is stored semi-permanently in the storage medium. There is no distinction between temporary storage cases.
  • Computer program products are commodities and can be traded between sellers and buyers.
  • the computer program product may be distributed in the form of a machine-readable storage medium (e.g. compact disc read only memory (CD-ROM)) or through an application store (e.g. Play StoreTM) or on two user devices (e.g. It can be distributed (e.g. downloaded or uploaded) directly between smart phones) or online.
  • a machine-readable storage medium e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices e.g. It can be distributed (e.g. downloaded or uploaded) directly between smart phones) or online.
  • at least a portion of the computer program product may be at least temporarily stored or temporarily created in a machine-readable storage medium, such as the memory of a manufacturer's server, an application store's server, or a relay server.
  • each component (e.g., module or program) of the above-described components may include a single or plural entity, and some of the plurality of entities may be separately placed in other components. there is.
  • one or more of the components or operations described above may be omitted, or one or more other components or operations may be added.
  • multiple components eg, modules or programs
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component of the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component may be executed sequentially, in parallel, iteratively, or heuristically, or one or more of the operations may be executed in a different order, or omitted. Alternatively, one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

전자 장치(electronic device)가 마이크로폰을 포함하고, 통신 회로를 포함하고, 프로세서를 포함할 수 있다. 상기 프로세서는, 상기 마이크로폰을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하도록 구성될 수 있고, 상기 음성 명령에 기반하여, 상기 가상 장치를 표시하도록 구성된 MR(mixed reality) 장치가 착용되었는지 여부를 식별하도록 구성될 수 있고, 상기 MR 장치가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에 표시될 이미지를 획득하도록 구성될 수 있다. 상기 프로세서는, 상기 이미지를 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로를 통해 상기 MR 장치에게 송신하도록, 구성될 수 있다.

Description

가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
본 개시는, 가상 장치(virtual device)의 디스플레이의 제어를 위한 전자 장치(electronic device), 방법, 및 비일시적 컴퓨터 판독가능 저장 매체(non-transitory computer readable storage medium)에 관한 것이다.
강화된(enhanced) 사용자 경험(user experience)을 제공하기 위해, 실제 세계(real-world) 내에 있는 실물 객체 또는 상기 실물 객체에 대응하는 시각적 객체와 연계로 컴퓨터에 의해 생성된 정보를 표시하는 AR(augmented reality) 서비스, MR(mixed reality), 또는 XR(extended reality) 서비스를 제공하는 전자 장치가 개발되고 있다. 상기 전자 장치는, 사용자에 의해 착용될 수 있는 웨어러블 장치일 수 있다. 예를 들면, 상기 전자 장치는, AR 글래스 또는 VST(video see-through 또는 visual see-through) 장치일 수 있다.
전자 장치(electronic device)가 제공된다. 상기 전자 장치는, 마이크로폰을 포함할 수 있다. 상기 전자 장치는, 통신 회로를 포함할 수 있다. 상기 전자 장치는, 프로세서를 포함할 수 있다. 상기 프로세서는, 상기 마이크로폰을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하도록 구성될 수 있다. 상기 프로세서는, 상기 음성 명령에 기반하여, 상기 가상 장치를 표시하기 위한 MR(mixed reality) 장치가 착용되었는지 여부를 식별하도록 구성될 수 있다. 상기 프로세서는, 상기 MR 장치가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에 표시될 이미지를 획득하도록 구성될 수 있다. 상기 프로세서는, 상기 이미지를 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로를 통해 상기 MR 장치에게 송신하도록, 구성될 수 있다.
방법이 제공된다. 상기 방법은, 마이크로폰 및 통신 회로를 포함하는 전자 장치 내에서 실행될 수 있다. 상기 방법은, 상기 마이크로폰을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 음성 명령에 기반하여, 상기 가상 장치를 표시하기 위한 MR(mixed reality) 장치가 착용되었는지 여부를 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 MR 장치가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에 표시될 이미지를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 이미지에 대한 정보를 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로를 통해 상기 MR 장치에게 송신하는 동작을 포함할 수 있다.
비일시적 컴퓨터 판독가능 저장 매체(non-transitory computer readable storage medium)가 제공된다. 상기 비일시적 컴퓨터 판독가능 저장 매체는, 하나 이상의 프로그램들을 저장할 수 있다. 상기 하나 이상의 프로그램들은, 마이크로폰 및 통신 회로를 포함하는 전자 장치의 프로세서에 의해 실행될 시, 상기 마이크로폰을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하도록 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다. 상기 하나 이상의 프로그램들은, 상기 프로세서에 의해 실행될 시, 상기 음성 명령에 기반하여, 상기 가상 장치를 표시하기 위한 MR(mixed reality) 장치가 착용되었는지 여부를 식별하도록 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다. 상기 하나 이상의 프로그램들은, 상기 프로세서에 의해 실행될 시, 상기 MR 장치가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에 표시될 이미지를 획득하도록 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다. 상기 하나 이상의 프로그램들은, 상기 프로세서에 의해 실행될 시, 상기 이미지를 상기 MR 장치를 통해 표시되는 상기 가상 장치의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로를 통해 상기 MR 장치에게 송신하도록, 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다.
본 개시의 어떤 실시예들의 상기 및 다른 측면들, 특징들, 및 이점들은, 첨부 도면들과 함께 취해진 아래의 설명들로부터 더욱 명백해질 것이다.
도 1은 예시적인 전자 장치 및 MR(mixed reality) 장치를 포함하는 환경의 예를 도시한다.
도 2는 예시적인 전자 장치의 간소화된 블록도이다.
도 3은 가상 장치를 등록하는 예시적인 방법을 도시하는 흐름도이다.
도 4a는 다른 장치를 제어하기 위한 소프트웨어 어플리케이션을 이용하여 가상 장치를 등록하는 예시적인 방법을 도시한다.
도 4b는 다른 장치를 제어하기 위한 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치에 대응하는 시각적 객체를 포함하는 사용자 인터페이스의 예를 도시한다.
도 5는 가상 장치의 디스플레이를 통해 이미지를 표시하는 예시적인 방법을 도시하는 흐름도이다.
도 6은 표시 위치에 기반하여 음성 명령을 식별하는 예시적인 방법을 도시하는 흐름도이다.
도 7은 다른 전자 장치로부터 획득된 정보에 기반하여 가상 장치의 디스플레이를 통해 표시될 이미지를 획득하는 예시적인 방법을 도시하는 흐름도이다.
도 8은 전자 장치의 위치, 다른 전자 장치의 위치, 및 가상 장치의 위치에 기반하여 음성 명령을 식별하는 예시적인 방법을 도시하는 흐름도이다.
도 9는 외부 전자 장치에게 송신된 가상 장치의 장치 정보에 기반하여 이미지를 획득하는 예시적인 방법을 도시하는 흐름도이다.
도 10은 다른 전자 장치의 디스플레이의 방향 및 가상 장치의 디스플레이의 방향에 기반하여 음성 명령을 식별하는 예시적인 방법을 도시하는 흐름도이다.
도 11은 가상 공간 내에 위치된 가상 장치를 제어하는 예시적인 방법을 도시하는 흐름도이다.
도 12는 다른 음성 명령에 기반하여 다른 가상 장치를 등록하는 예시적인 방법을 도시하는 흐름도이다.
도 13은 MR 장치의 프로세서에 의해 실행되는 기능적 구성요소들의 예를 도시한다.
도 14는 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
이하에서는 도면을 참조하여 본 개시의 실시예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 도면의 설명과 관련하여, 동일하거나 유사한 구성요소에 대해서는 동일하거나 유사한 참조 부호가 사용될 수 있다. 또한, 도면 및 관련된 설명에서는, 잘 알려진 기능 및 구성에 대한 설명이 명확성과 간결성을 위해 생략될 수 있다.
도 1은 예시적인 전자 장치 및 MR(mixed reality) 장치를 포함하는 환경의 예를 도시한다.
도 1을 참조하면, 환경(100)은, 전자 장치(101), MR 장치(102)(또는 XR(extended reality) 장치(102)), 다른 전자 장치(103), 및 외부 전자 장치(104)를 포함할 수 있다.
예를 들면, 전자 장치(101)는, 전자 장치(101)를 통해 다른 장치를 제어하거나 관리하기 위한, 소프트웨어 어플리케이션을 저장할 수 있다. 예를 들면, 전자 장치(101)는, 상기 소프트웨어 어플리케이션을 이용하여, MR 장치(102) 및 다른 전자 장치(103)와 같은 실물 장치(real device 또는 physical device)와 MR 장치(102)와 관련된 가상 장치를 제어하거나 관리할 수 있다. 예를 들면, 전자 장치(101)는, 상기 소프트웨어 어플리케이션의 사용자 인터페이스에 대하여 수신되는 사용자 입력에 기반하여, 상기 소프트웨어 어플리케이션을 실행함으로써, 상기 다른 장치를 제어할 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 상기 사용자 인터페이스가 표시되는 동안 수신되는 상기 사용자 입력에 기반하여 상기 다른 장치를 등록하기 위해 이용될 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 상기 사용자 인터페이스가 표시되는 동안 수신되는 상기 사용자 입력에 기반하여 상기 다른 장치의 상태를 변경하기 위해 이용될 수 있다. 예를 들면, 상기 사용자 입력은, 전자 장치(101)의 디스플레이 상에서 표시되는 상기 사용자 인터페이스에 대한 터치 입력 및 상기 사용자 인터페이스가 표시되는 동안 전자 장치(101)의 마이크로폰을 통해 획득되는 음성 신호를 포함할 수 있다. 예를 들면, 상기 음성 신호는, 상기 사용자 인터페이스가 포커스되는 동안, 상기 소프트웨어 어플리케이션을 통해 제공되는 기능들에 대하여 인식될 수 있다. 예를 들면, 상기 사용자 인터페이스가 포커스됨은, 상기 사용자 인터페이스에 대하여 포인터(또는 커서)가 위치됨을 나타낼 수 있다. 예를 들면, 상기 사용자 인터페이스가 포커스됨은, 상기 사용자 인터페이스가 입력(또는 사용자 입력)을 수신할 수 있는 상태 내에 있음을 나타낼 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, MR 장치(102)는, AR(augmented reality) 서비스, MR(mixed reality), 또는 XR(extended reality) 서비스를 제공하기 위한 장치를 포함할 수 있다. 예를 들면, MR 장치(102)는, AR 서비스, MR 서비스, 또는 XR 서비스를 제공하기 위한 디스플레이를 포함할 수 있다. 예를 들어, MR 장치(102)가 AR 글래스인 경우, MR 장치(102)의 상기 디스플레이는, 투명할 수 있다. 예를 들어, MR 장치(102)가 VST(video see-through 또는 visual see-through) 장치인 경우, MR 장치(102)의 상기 디스플레이는, 불투명할 수 있다.
예를 들면, MR 장치(102)는, MR 장치(102)의 상기 디스플레이 상에서, 가상 객체와 함께, MR 장치(102) 주변의 실제(real) 환경 또는 상기 실제 환경을 표현하는 이미지를 표시함으로써, AR 서비스, MR 서비스, 또는 XR 서비스를 제공할 수 있다. 예를 들어, MR 장치(102)가 AR 글래스인 경우, MR 장치(102)는, MR 장치(102)의 상기 디스플레이를 통해 보여지는 상기 실제 환경 상에서 상기 가상 객체를 표시할 수 있다. 예를 들어, MR 장치(102)가 VST 장치인 경우, MR 장치(102)는, MR 장치(102)의 카메라를 통해 획득된 상기 이미지 상에서 상기 가상 객체를 표시할 수 있다. 예를 들면, 상기 가상 객체는, MR 장치(102)를 착용한 사용자에게, 실제 환경 내에 존재하는 실물 객체와 같이 인식될 수 있다. 예를 들면, 상기 가상 객체는, 가상(virtual) 장치(105)를 포함할 수 있다. 예를 들면, 가상 장치(105)는, 디스플레이를 포함할 수 있다. 예를 들면, 가상 장치(105)는, 디스플레이를 포함하는 실물 장치와 같이, 가상 장치(105)의 상기 디스플레이 상에서 이미지를 표시할 수 있다. 예를 들면, MR 장치(102)는, 가상 장치(105)를 표시하기 때문에, MR 장치(102)는, 가상 장치(105)의 상기 디스플레이 상에서 상기 이미지를 표시할 수 있다. 예를 들면, 상기 이미지는, 전자 장치(101)로부터 연결(112)을 통해 MR 장치(102)에 수신되는 데이터에 기반하여, 가상 장치(105)의 상기 디스플레이 상에서 표시될 수 있다. 예를 들면, 전자 장치(101)와 MR 장치(102) 사이의 연결(112)은, 전자 장치(101)를 MR 장치(102)와 직접적으로(directly) 연결하는 것 및/또는 전자 장치(101)를 적어도 하나의 중간 노드를 통해 MR 장치(102)와 연결하는 것을 포함할 수 있다. 예를 들면, 상기 이미지는, 다른 전자 장치(103)로부터 연결(123)을 통해 MR 장치(102)에 수신되는 데이터에 기반하여, 가상 장치(105)의 상기 디스플레이 상에서 표시될 수 있다. 예를 들면, MR 장치(102)와 다른 전자 장치(103) 사이의 연결(123)은, MR 장치(102)를 다른 전자 장치(103)와 직접적으로 연결하는 것 및/또는 MR 장치(102)를 적어도 하나의 중간 노드를 통해 다른 전자 장치(103)와 연결하는 것을 포함할 수 있다. 예를 들면, 상기 이미지는, 연결(112) 및 연결(113)을 이용하여, 다른 전자 장치(103)로부터 전자 장치(101)를 통해 MR 장치(102)에 수신되는 데이터에 기반하여, 가상 장치(105)의 상기 디스플레이 상에서 표시될 수 있다. 예를 들면, 전자 장치(101)와 다른 전자 장치(103) 사이의 연결(113)은, 전자 장치(101)를 다른 전자 장치(103)와 직접적으로 연결하는 것 및/또는 전자 장치(101)를 적어도 하나의 중간 노드를 통해 다른 전자 장치(103)와 연결하는 것을 포함할 수 있다.
예를 들면, 상기 소프트웨어 어플리케이션은, 가상 장치(105)의 상기 디스플레이 상에서의 상기 이미지의 상기 표시를 위해, 이용될 수 있다. 예를 들면, 가상 장치(105)의 상기 디스플레이 상에서의 상기 이미지의 상기 표시를 위한 사용자 입력은, 상기 소프트웨어 어플리케이션을 통해 수신될 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 전자 장치(101), MR 장치(102), 및/또는 다른 전자 장치(103)에 의해 실행될 수 있다.
예를 들면, 다른 전자 장치(103)는, 가상 장치(105)의 상기 디스플레이 상에서 이미지를 표시하기 위한 데이터를 제공하는 장치일 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 상기 데이터를 제공하기 위해 이용될 수 있다. 예를 들면, 상기 데이터를 제공하기 위한 사용자 입력은, 상기 소프트웨어 어플리케이션을 통해 수신될 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 전자 장치(101), MR 장치(102), 및/또는 다른 전자 장치(103)에 의해 실행될 수 있다.
예를 들면, 외부 전자 장치(104)는, 상기 소프트웨어 어플리케이션을 이용하여 외부 전자 장치(104) 내에 전자 장치(101), MR 장치(102), 및/또는 다른 전자 장치(103)를 관리하거나 제어하기 위한 서비스를 제공하는 장치를 포함할 수 있고, 서버(server)일 수 있다. 예를 들면, 외부 전자 장치(104)는, 상기 소프트웨어 어플리케이션을 통해 가상 장치(105)의 상기 디스플레이 상에서 이미지를 표시하기 위한 전자 장치(101), MR 장치(102), 및/또는 다른 전자 장치(103)의 동작들의 적어도 일부를 지원할 수 있다. 예를 들면, 상기 지원의 적어도 일부는, 연결(114), 연결(124), 및/또는 연결(134)을 통해, 실행될 수 있다. 예를 들면, 전자 장치(101)와 외부 전자 장치(104) 사이의 연결(114)은, 전자 장치(101)를 외부 전자 장치(104)와 직접적으로 연결하는 것 및/또는 전자 장치(101)를 적어도 하나의 중간 노드를 통해 외부 전자 장치(104)와 연결하는 것을 포함할 수 있다. 예를 들면, MR 장치(102)와 외부 전자 장치(104) 사이의 연결(124)은, MR 장치(102)를 외부 전자 장치(104)와 직접적으로 연결하는 것 및/또는 MR 장치(102)를 적어도 하나의 중간 노드를 통해 외부 전자 장치(104)와 연결하는 것을 포함할 수 있다. 하지만, 이에 제한되지 않는다.
아래의 설명들은, 환경(100) 내의 전자 장치(101), MR 장치(102), 다른 전자 장치(103), 및/또는 외부 전자 장치(104)를 통해 MR 장치(102)의 상기 디스플레이 상에서 표시되는 가상 장치(105)의 상기 디스플레이 상에서 이미지를 표시하기 위한 다양한 예시 동작들을 제공할 수 있다.
도 2는 예시적인 전자 장치의 간소화된 블록도이다. 상기 전자 장치는 도 1의 전자 장치(101)일 수 있다.
도 2를 참조하면, 전자 장치(101)는, 프로세서(210) (예: 프로세싱 회로를 포함함), 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250)를 포함할 수 있다.
예를 들면, 프로세서(210)는, 도 14의 프로세서(1420)의 적어도 일부를 포함하는 다양한 프로세싱 회로를 포함할 수 있다. 예를 들면, 디스플레이(220)는, 도 14의 디스플레이 모듈(1460)의 적어도 일부를 포함할 수 있다. 예를 들면, 마이크로폰(230)은, 도 14의 입력 모듈(1450)의 적어도 일부를 포함할 수 있다. 예를 들면, 통신 회로(240)는, 도 14의 통신 모듈(1490)의 적어도 일부(또는 무선 통신 모듈(1492)의 적어도 일부)를 포함할 수 있다. 예를 들면, 메모리(250)는, 도 14의 메모리(1430)의 적어도 일부를 포함할 수 있다.
예를 들면, 프로세서(210)는, 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 작동적으로(operably 또는 operatively) 결합될(coupled with) 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 작동적으로 결합됨은, 프로세서(210)가 직접적으로 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 연결됨을 나타낼 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 작동적으로 결합됨은, 프로세서(210)가 전자 장치(101)의 다른 구성요소를 통해 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 연결됨을 나타낼 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 작동적으로 결합됨은, 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각이 프로세서(210)에 의해 실행된 인스트럭션들에 기반하여 동작함을 나타낼 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각과 작동적으로 결합됨은, 디스플레이(220), 마이크로폰(230), 통신 회로(240), 및 메모리(250) 각각이 프로세서(210)에 의해 제어됨을 나타낼 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 아래에서 예시될 동작들의 적어도 일부를 실행하도록 구성될 수 있다.
예를 들면, 도 2 내에서 도시된 구성요소들은, MR 장치(102) 내에 포함될 수도 있다.
아래의 예시들에서, 전자 장치(101)의 동작들의 적어도 일부는, MR 장치(102)가 전자 장치(101)의 보조(assistance) 없이 가상 장치(105)의 상기 디스플레이를 통해 이미지를 표시하는 경우, MR 장치(102)의 동작들로 대체될 수 있다. 이러한 경우, 전자 장치(101)와 MR 장치(102) 사이의 통신에 기반하여 실행되는 전자 장치(101) 및 MR 장치(102)의 동작들은 생략될 수 있다. 이러한 경우, 전자 장치(101)와 다른 전자 장치(103) 사이의 통신에 기반하여 실행되는 전자 장치(101)의 동작들은 MR 장치(102)와 다른 전자 장치(103) 사이의 통신에 기반하여 실행되는 MR 장치(102)의 동작들로 대체될 수 있다. 이러한 경우, 전자 장치(101)와 외부 전자 장치(104) 사이의 통신에 기반하여 실행되는 전자 장치(101)의 동작들은 MR 장치(102)와 외부 전자 장치(104) 사이의 통신에 기반하여 실행되는 MR 장치(102)의 동작들로 대체될 수 있다.
도 3은 가상 장치를 등록하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 3을 참조하면, 동작 301에서, 프로세서(210)는, 전자 장치(101)를 통해 다른 장치를 관리하거나 제어하기 위한 소프트웨어 어플리케이션을 실행할 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 상기 소프트웨어 어플리케이션의 사용자 인터페이스를 디스플레이(예: 도 2의 디스플레이(220)) 상에서 표시하는 포어그라운드(foreground) 상태 내에서 실행될 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션은, 상기 사용자 인터페이스가 디스플레이(220) 상에서 표시되지 않는 백그라운드(background) 상태 내에서 실행될 수 있다. 예를 들면, 상기 소프트웨어 어플리케이션의 상태는, 상기 포어그라운드 상태로부터 상기 백그라운드 상태로 변경되거나, 상기 백그라운드 상태로부터 상기 포어그라운드 상태로 변경될 수 있다.
동작 303에서, 프로세서(210)는, 상기 소프트웨어 어플리케이션을 이용하여 가상 장치(예: 도 1의 가상 장치(105))를 등록할 수 있다. 예를 들면, 가상 장치(105)는, 가상 공간 또는 MR을 위한 공간 내에 포함되는 장치일 수 있다. 예를 들면, 가상 장치(105)는, 상기 가상 공간 또는 상기 MR을 위한 상기 공간에 접근가능한(accessible) MR 장치(예: 도 1의 MR 장치(102))의 상기 디스플레이 상에서 표시될 수 있다. 예를 들면, 가상 장치(105)의 상기 등록은, 상기 가상 공간 또는 상기 MR을 위한 상기 공간에 접근가능한 장치(예: 도 1의 MR 장치(102))가 등록된 조건 상에서, 실행될 수도 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 상기 소프트웨어 어플리케이션을 이용하여 등록되는 가상 장치(105)와 연계로(as associated with), 가상 장치(105)의 장치 정보 및 가상 장치(105)의 위치에 대한 정보를 등록할 수 있다. 예를 들면, 상기 장치 정보 및 가상 장치(105)의 상기 위치에 대한 상기 정보는, 상기 소프트웨어 어플리케이션을 이용하여 가상 장치(105)를 등록하는 동안, 상기 사용자 인터페이스를 통해 수신되는 터치 입력에 기반하여 입력되거나, 마이크로폰(230)을 통해 획득되는 음성 신호에 기반하여 입력될 수 있다.
상기 장치 정보 및 가상 장치(105)의 상기 위치에 대한 상기 정보와 연계로, 상기 소프트웨어 어플리케이션을 이용하여, 등록되는, 가상 장치(105)는, 도 4a를 통해 예시될 수 있다.
도 4a는 다른 장치를 제어하기 위한 소프트웨어 어플리케이션을 이용하여 가상 장치를 등록하는 예시적인 방법을 도시한다.
도 4a를 참조하면, 프로세서(예: 도 2의 프로세서(210))는, 상태(400)와 같이, 상기 소프트웨어 어플리케이션의 사용자 인터페이스(410)를 표시할 수 있다. 예를 들면, 사용자 인터페이스(410)는, 가상 장치(예: 도 1의 가상 장치(105))를 상기 소프트웨어 어플리케이션을 이용하여 등록하기 위한 실행가능한 객체(411)를 포함할 수 있다. 예를 들면, 프로세서(210)는 실행가능한 객체(411)에 대한 터치 입력(412)을 수신할 수 있다. 예를 들면, 프로세서(210)는, 터치 입력(412)에 응답하여, MR 장치(예: 도 1의 MR 장치(102))가 착용되었는지 여부를 식별할 수 있다.
예를 들면, 프로세서(210)는, MR 장치(102)로부터 수신된 MR 장치(102)의 상태를 나타내는 신호에 기반하여, MR 장치(102)가 착용되었는지 여부를 식별할 수 있다. 예를 들면, 상기 신호는, MR 장치(102)의 센서를 통해 획득된, MR 장치(102)의 움직임 또는 상기 움직임의 변경을 나타내는 정보를 포함할 수 있다. 예를 들면, 상기 신호는, MR 장치(102)의 센서를 통해 획득된, MR 장치(102)가 외부 객체(예: 사용자의 신체의 일부(예: 머리))에 인접한지 여부를 나타내는 정보 또는 MR 장치(102)와 상기 외부 객체 사이의 거리를 나타내는 정보를 포함할 수 있다. 예를 들면, 프로세서(210)는, 상기 신호에 기반하여, MR 장치(102)가 착용됨을 식별하거나 MR 장치(102)가 착용되지 않음을 식별할 수 있다.
예를 들면, 프로세서(210)는, MR 장치(102)의 상기 상태를 나타내는 상기 신호가 MR 장치(102)로부터 수신되지 않은 조건 상에서, MR 장치(102)에게 상기 신호를 요청할 수 있다. 예를 들면, MR 장치(102)는, 상기 신호의 상기 요청을 수신할 수 있다. MR 장치(102)는, 상기 요청에 응답하여, MR 장치(102)의 센서를 통해 획득되는 데이터에 기반하여, 상기 신호를 획득할 수 있다. MR 장치(102)는, 상기 신호를 전자 장치(예: 도 1의 전자 장치(101))에게 송신할 수 있다. 프로세서(210)는, MR 장치(102)로부터 수신된 상기 신호에 기반하여, MR 장치(102)가 착용됨을 식별하거나 MR 장치(102)가 착용되지 않음을 식별할 수 있다.
예를 들면, 프로세서(210)는, MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 가상 장치(105)의 등록을 위한 신호를 MR 장치(102)에게 송신할 수 있다. 예를 들면, 상기 등록을 위한 상기 신호는, 가상 장치(105)의 장치 정보 및 위치를 MR 장치(102)를 이용하여 식별하기 위해 송신될 수 있다. 예를 들면, MR 장치(102)는, 전자 장치(101)로부터 상기 등록을 위한 상기 신호를 수신할 수 있다.
예를 들면, MR 장치(102)는, 상태(420)와 같이, 상기 등록을 위한 상기 신호에 응답하여, 상기 소프트웨어 어플리케이션을 통해 등록될 가상 장치(105)를 나타내는 시각적 객체(430)를 MR 장치(102) 주변의 환경과 함께 표시하거나, MR 장치(102) 주변의 상기 환경을 표현하는 이미지 상에서 표시할 수 있다. 예를 들면, 시각적 객체(430)는, MR 장치(102)에 의해 식별되는 사용자 입력(예: 시선 입력, MR 장치(102)와 연결된 컨트롤러의 움직임을 통한 제스쳐 입력, 및/또는 음성 입력)에 기반하여, 이동될 수 있다. 예를 들면, 시각적 객체(430)의 사이즈는, MR 장치(102)에 의해 식별되는 사용자 입력(예: 시선 입력, MR 장치(102)와 연결된 컨트롤러의 움직임을 통한 제스쳐 입력, 및/또는 음성 입력)에 기반하여, 변경될 수 있다. 예를 들면, 시각적 객체(430)의 형상은, MR 장치(102)에 의해 식별되는 사용자 입력(예: 시선 입력, MR 장치(102)와 연결된 컨트롤러의 움직임을 통한 제스쳐 입력, 및/또는 음성 입력)에 기반하여, 변경될 수 있다.
예를 들면, 상태(420) 내에서, MR 장치(102)는, 시각적 객체(430)를 영역(435)으로 이동함을 나타내는 사용자 입력(440) 및 시각적 객체(430)의 사이즈를 증가시킴을 나타내는 사용자 입력(445)을 수신할 수 있다. 예를 들면, MR 장치(102)는, 사용자 입력(440) 및 사용자 입력(445)에 기반하여, 상태(420)를 상태(450)로 변경할 수 있다.
예를 들면, 상태(450) 내에서, MR 장치(102)는, 사용자 입력(440)에 기반하여 식별된 위치에서 사용자 입력(445)에 기반하여 식별된 사이즈를 가지는 시각적 객체(430)를 표시할 수 있다. 예를 들면, MR 장치(102)는, 시각적 객체(430)가 표시되는 동안, MR 장치(102)의 장치 정보 및 MR 장치(102)의 위치를 확정함을 나타내는 사용자 입력(예: 시선 입력, MR 장치(102)와 연결된 컨트롤러의 움직임을 통한 제스쳐 입력, 및/또는 음성 입력)을 수신할 수 있다. 예를 들면, MR 장치(102)는, 상기 사용자 입력에 응답하여, 시각적 객체(430)의 위치를 가상 장치(105)의 위치로 나타내는 제1 정보 및 시각적 객체(430)의 사이즈를 가상 장치(105)의 사이즈로 나타내는 제2 정보를 획득할 수 있다. 예를 들면, MR 장치(102)는, 상기 제1 정보 및 상기 제2 정보를 전자 장치(101)에게 송신할 수 있다. 예를 들면, 프로세서(210)는, MR 장치(102)로부터 상기 제1 정보 및 상기 제2 정보를 수신할 수 있다.
예를 들면, 프로세서(210)는, 상기 제1 정보 및 상기 제2 정보를 수신하는 것에 적어도 일부 기반하여, 가상 장치(105)를 등록할 수 있다. 예를 들면, 프로세서(210)는, 가상 장치(105)를 등록하기 위한 정보를 외부 전자 장치(예: 도 1의 외부 전자 장치(104))에게 송신할 수 있다. 예를 들면, 가상 장치(105)는, 상기 정보에 기반하여 외부 전자 장치(104) 내에 등록될 수 있다. 예를 들면, 외부 전자 장치(104) 내에 등록된 가상 장치(105)는, 가상 장치(105)의 위치 및 가상 장치(105)의 장치 정보와 연계될 수 있다.
예를 들면, 프로세서(210)는, 가상 장치(105)의 등록이 완료된 후 또는 상기 제1 정보 및 상기 제2 정보가 수신된 후, 가상 장치(105)로의 접근을 위한 권한을 식별할 수 있다. 예를 들면, 프로세서(210)는, 전자 장치(101) 내에서 이용되는 사용자 계정과 구별되는 다른 사용자 계정(예: 가족 구성원의 사용자 계정)을 통한 가상 장치(105)로의 접근을 인가함을 나타내는 사용자 입력에 기반하여, 상기 소프트웨어 어플리케이션을 이용하여 가상 장치(105)를 상기 다른 사용자 계정에 대한 정보와 연계할 수 있다. 예를 들면, 프로세서(210)는, 상기 다른 사용자 계정을 가상 장치(105)와 연계할 것을 나타내는 신호를 외부 전자 장치(104)에게 송신할 수 있다.
예를 들면, 프로세서(210)는, 가상 장치(105)의 등록이 완료된 후, 가상 장치(105)에 대응하는 실행가능한 객체를 사용자 인터페이스(410) 내에서 표시할 수 있다. 사용자 인터페이스(410) 내의 상기 실행가능한 객체는, 도 4b를 통해 예시될 수 있다.
도 4b는 다른 장치를 제어하기 위한 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치에 대응하는 시각적 객체를 포함하는 사용자 인터페이스의 예를 도시한다.
도 4b를 참조하면, 상태(460)와 같이, 사용자 인터페이스(410)는, 실행가능한 객체들(470)을 포함할 수 있다. 예를 들면, 실행가능한 객체들(470)은, 가상 장치(105)에 대응하는 실행가능한 객체(465)를 포함할 수 있다. 예를 들면, 실행가능한 객체들(470)은, 실물 장치인 다른 전자 장치(103)에 대응하는 실행가능한 객체(466), 실물 장치에 대응하는 실행가능한 객체(467), 및 다른 가상 장치에 대응하는 실행가능한 객체(468)를 포함할 수 있다. 예를 들면, 사용자 인터페이스(410) 내에서, 실행가능한 객체들(470)은, 카테고리화될 수 있다. 예를 들면, 실행가능한 객체들(470)은, 도 4b의 도시와 같이, 위치에 기반하여 카테고리화될 수 있다. 예를 들면, 사용자 인터페이스(410) 내에서, 실행가능한 객체(465) 및 실행가능한 객체(466)는, 안방(master room) 내에 가상 장치(105) 및 다른 전자 장치(103)가 위치됨을 나타내고, 실행가능한 객체(467) 및 실행가능한 객체(468)는, 거실(living room) 내에 실행가능한 객체(467)에 대응하는 상기 실물 장치 및 실행가능한 객체(468)에 대응하는 상기 다른 가상 장치가 위치됨을 나타낼 수 있다.
예를 들면, 실행가능한 객체들(470) 각각은, 실행가능한 객체들(470) 각각에 대응하는 장치를 제어하기 위한 퀵 액세스 요소(quick access element)를 포함할 수 있다. 예를 들면, 실행가능한 객체(465)는, 퀵 액세스 요소(471)를 포함할 수 있다. 도 4b 내에서 도시되지 않았으나, 프로세서(210)는, 상기 퀵 액세스 요소의 영역과 구별되는 실행가능한 객체들(470) 각각의 다른 영역 상의 터치 입력에 응답하여, 실행가능한 객체들(470) 각각에 대응하는 장치를 제어하거나 관리하기 위한 복수의 실행가능한 객체들을 포함하는 사용자 인터페이스(410)를 표시할 수 있다. 도 4b 내에서 도시되지 않았으나, 프로세서(210)는, 상기 퀵 액세스 요소의 영역 상의 터치 입력에 응답하여, 실행가능한 객체들(470) 각각을 상기 퀵 액세스 요소에 대응하는 기능에 기반하여 제어할 수 있다.
다시 도 4a를 참조하면, 프로세서(210)는, MR 장치(102)가 착용되지 않음을 식별하는 것에 응답하여, MR 장치(102)를 착용할 것을 알리거나(inform) 가이드하기(guide) 위한 알림 또는 알람을 제공할 수 있다. 예를 들면, 상기 알림 또는 상기 알람은, 전자 장치(101)로부터 제공될 수도 있고, MR 장치(102)로부터 제공될 수도 있다. 예를 들면, 상기 알림 또는 상기 알람이 전자 장치(101)로부터 제공되는 경우, 상기 알림 또는 상기 알람은, 디스플레이(220)를 통해 표시되거나, 전자 장치(101)의 스피커를 통해 출력되거나, 진동으로 전자 장치(101)의 액츄에이터(actuator)를 통해 출력될 수 있다. 예를 들면, 상기 알림 또는 상기 알람이 MR 장치(102)로부터 제공되는 경우, 상기 알림 또는 상기 알람은, MR 장치(102)의 스피커를 통해 출력될 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, MR 장치(102)가 착용되지 않음을 식별하는 것에 응답하여, 사용자 인터페이스(410)를 통해 수신되는 사용자 입력에 기반하여, 가상 장치(105)를 등록할 수 있다. 예를 들면, 전자 장치(101)를 통한 가상 장치(105)의 상기 등록은, MR 장치(102)를 통한 가상 장치(105)의 상기 등록과 적어도 부분적으로 다를 수 있다.
도 4a 내에서 도시되지 않았으나, 프로세서(210)는, 가상 장치(105)의 상기 장치 정보 및 상기 위치를 나타내는 텍스트(또는 캐릭터)를 사용자 인터페이스(410)를 통해 입력하기 위한 사용자 입력을 식별함으로써, 가상 장치(105)를 등록할 수 있다.
예를 들면, 실물 장치의 정보(예: 실물 제품의 정보)가 가상 장치(105)의 상기 등록을 위해, 이용될 수 있다. 예를 들면, 프로세서(210)는, 가상 장치(105)의 유형에 대응하는 유형을 가지는 실물 장치에 대한 정보를 입력하기 위한 사용자 입력을 식별함으로써, 가상 장치(105)의 장치 정보를 상기 실물 장치에 대한 상기 정보에 기반하여 식별할 수 있다. 프로세서(210)는, 상기 식별에 기반하여, 가상 장치(105)를 등록할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 상기 소프트웨어 어플리케이션을 이용하여 MR 장치(102)의 상기 디스플레이 상에서 표시되는 가상 장치(105)를 등록할 수 있다. 예를 들면, 전자 장치(101)로부터 개시된 가상 장치(105)의 상기 등록은, MR 장치(102)에 의해 부분적으로 처리될 수 있다. 예를 들면, 전자 장치(101)는, 가상 장치(105)의 등록을, MR 장치(102)를 통해 제공할 수 있는 사용자 경험 및 전자 장치(101)를 통해 제공할 수 있는 사용자 경험에 기반하여, 실행할 수 있다.
도 5는 가상 장치의 디스플레이를 통해 이미지를 표시하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 5를 참조하면, 동작 501에서, 도 2의 프로세서(210)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 음성 신호의 인식에 기반하여, 전자 장치(101)를 통해 다른 장치를 제어하기 위한, 상기 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(예: 도 1의 가상 장치(105))의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별할 수 있다. 예를 들면, 상기 음성 명령은, 가상 장치(105)의 상기 디스플레이를 통해 표시를 실행함을 직접적으로(또는 명시적으로(explicitly)) 나타낼 수도 있고, 간접적으로(또는 묵시적으로(implicitly)) 나타낼 수도 있다. 상기 음성 신호의 상기 인식에 기반하여 상기 음성 명령을 식별하는 것은, 도 6, 도 7, 도 8, 및 도 10을 통해 예시될 것이다.
동작 503에서, 프로세서(210)는, 상기 음성 명령에 기반하여, 가상 장치(105)를 표시하기 위한 MR 장치(예: 도 1의 MR 장치(102))가 착용되었는지 여부를 식별할 수 있다.
예를 들면, 상기 음성 명령은 MR 장치(102)를 통해 표시가능한(displayable) 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내기 때문에, 프로세서(210)는, 상기 음성 명령에 응답하여, MR 장치(102)가 착용되었는지 여부를 식별할 수 있다.
예를 들면, 프로세서(210)는, 전자 장치(101)와 연결된 MR 장치(102)로부터 통신 회로(예: 도 2의 통신 회로(240))를 통해, MR 장치(102)의 상태를 나타내는 신호를 수신할 수 있다. 예를 들면, 프로세서(210)는, 상기 신호에 기반하여, MR 장치(102)가 착용되었는지 여부를 식별할 수 있다. 예를 들면, MR 장치(102)의 상기 상태를 나타내는 상기 신호는, MR 장치(102)의 센서(예: 가속도 센서 및/또는 자이로 센서)를 통해 획득된, MR 장치(102)의 움직임(movement)(및/또는 자세(posture))을 나타내는, 정보를 포함할 수 있다. 예를 들면, MR 장치(102)의 상기 상태를 나타내는 상기 신호는, MR 장치(102)의 센서(예: 근접 센서 및/또는 UWB 통신 회로)를 통해 획득된, MR 장치(102)와 외부 객체 사이의 거리를 나타내는 정보 또는 상기 외부 객체가 MR 장치(102)에 인접한지 여부를 나타내는 정보를 포함할 수 있다.
예를 들면, 프로세서(210)는, MR 장치(102)가 착용됨을 식별하는 것에 기반하여, 동작 505를 실행하고, MR 장치(102)가 착용되지 않음을 식별하는 것에 기반하여, 동작 509를 실행할 수 있다.
동작 505에서, 프로세서(210)는, MR 장치(102)가 착용된 조건 상에서, 가상 장치(105)와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, MR 장치(102)를 통해 표시되는 가상 장치(105)의 상기 디스플레이 상에 표시될 이미지를 획득할 수 있다. 예를 들면, 프로세서(210)는, 가상 장치(105)의 상기 디스플레이를 위해 적합한 이미지를 획득하기 위해, 상기 장치 정보에 기반하여 동작 505를 실행할 수 있다.
예를 들면, 상기 장치 정보는, 외부 전자 장치(예: 도 1의 외부 전자 장치(104))로부터 수신될 수 있다. 예를 들면, 프로세서(210)는, MR 장치(102)가 착용됨을 식별하는 것에 응답하여 외부 전자 장치(104)에게 가상 장치(105)의 상기 장치 정보를 송신할 것을 요청할 수 있다. 외부 전자 장치(104)는, 상기 요청에 응답하여 상기 장치 정보를 전자 장치(101)에게 송신할 수 있다. 전자 장치(101)는, 상기 장치 정보에 기반하여 상기 이미지를 획득할 수 있다.
예를 들면, 상기 장치 정보는, 전자 장치(101) 내에 가상 장치(105)와 연계로 저장될 수 있다. 예를 들면, 프로세서(210)는, MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 가상 장치(105)와 연계된 정보를 식별함으로써, 상기 장치 정보를 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 장치 정보에 기반하여 상기 이미지를 획득할 수 있다.
예를 들면, 도 3 내지 도 4b의 설명을 통해 가상 장치(105)와 연계로 등록된 상기 장치 정보는, 가상 장치(105)의 상기 디스플레이의 사이즈에 대한 데이터 및/또는 가상 장치(105)의 상기 디스플레이의 종횡비에 대한 데이터를 포함할 수 있다.
동작 507에서, 프로세서(210)는, 상기 이미지를 MR 장치(102)를 통해 표시되는 가상 장치(105)의 상기 디스플레이 상에서 표시하기 위한 신호를, 통신 회로(240)를 통해 MR 장치(102)에게 송신할 수 있다. 예를 들면, 상기 신호는, MR 장치(102)의 상기 디스플레이를 통해 표시되는 가상 장치(105)의 상기 디스플레이 상에서 상기 이미지를 표시하도록 MR 장치(102)를 야기할 수 있다. 예를 들면, MR 장치(102)를 통해 제공되는 상기 가상 공간 또는 상기 MR을 위한 상기 공간 내에 위치된 가상 장치(105)는, 가상 장치(105)의 디스플레이 상에서, 상기 이미지를 표시할 수 있다. 예를 들면, 상기 표시는, 상기 신호에 기반하여, MR 장치(102)에게 제어될 수 있다.
예를 들면, 상기 이미지는, 정적 이미지, 동적 이미지, 소프트웨어 어플리케이션의 실행 화면, 월 페이퍼, 및 잠금 화면을 포함할 수 있다.
동작 509에서, 프로세서(210)는, MR 장치(102)가 착용되지 않은 조건 상에서, MR 장치(102)를 착용할 것을 알리기 위한 알림을 제공할 수 있다.
예를 들면, 상기 알림은, 전자 장치(101)의 구성요소를 통해 제공될 수 있다. 예를 들면, 상기 알림은, 전자 장치(101)의 디스플레이(예: 도 2의 디스플레이(220))를 통해 표시될 수 있다. 예를 들면, 상기 알림은, 전자 장치(101)의 스피커를 통해 출력될 수 있다. 예를 들면, 상기 알림은, 전자 장치(101)의 엑츄에이터를 통해 진동으로 출력될 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 알림은, MR 장치(102)의 구성요소를 통해 제공될 수 있다. 예를 들면, 상기 알림은, MR 장치(102)의 스피커를 통해 출력될 수 있다. 하지만, 이에 제한되지 않는다.
상술한 바와 같이, 전자 장치(101)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 수신된 상기 음성 신호로부터 가상 장치(105)를 나타내는 상기 음성 명령을 추출하고, 상기 추출된 음성 명령에 기반하여 가상 장치(105)를 제어하기 위해 MR 장치(102)의 상태를 식별할 수 있다. 예를 들면, 전자 장치(101)는, MR 장치(102)가 가상 장치(105)의 제어를 위해 이용가능한 상태임을 식별하는 것에 기반하여, 가상 장치(105)를 MR 장치(102)를 통해 제어하기 위해 MR 장치(102)와 통신할 수 있다. 예를 들면, 전자 장치(101)는, 이러한 통신에 기반하여, 전자 장치(101)를 통해 제공되는 서비스에 MR 장치(102)를 통해 제공되는 서비스를 부가할 수 있다. 예를 들면, 전자 장치(101)는, 강화된 서비스 또는 강화된 사용자 경험을 제공할 수 있다.
도 6은 표시 위치에 기반하여 음성 명령을 식별하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 6의 동작 601 및 동작 603은, 도 5의 동작 501 내에 포함될 수 있다. 하지만, 이에 제한되지 않는다. 예를 들면, 동작 601 및 동작 603은, 도 5의 동작 501과 독립적일 수 있다.
도 6을 참조하면, 동작 601에서, 도 2의 프로세서(210)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 상기 음성 신호의 상기 인식에 기반하여, 표시 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, "안방에서 표시"에 대응하는 상기 음성 신호를 마이크로폰(230)을 통해 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호의 상기 인식에 기반하여, 상기 음성 신호에 의해 나타내어지는 상기 표시 위치를 "안방"으로 식별할 수 있다.
동작 603에서, 프로세서(210)는, 상기 표시 위치가 가상 장치(예: 도 1의 가상 장치(105))와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(105)의 위치에 대응함을 식별하는 것에 기반하여, 상기 음성 명령을 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 표시 위치에 기반하여, 상기 소프트웨어 어플리케이션을 이용하여 등록된 장치들 각각의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별의 결과로, 가상 장치(105)의 위치가 상기 표시 위치에 대응함을 식별함으로써, 상기 음성 신호의 적어도 일부로부터 가상 장치(105)의 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령을 식별할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 상기 소프트웨어 어플리케이션을 이용하여 등록된 장치들 각각과 연계된 위치를 이용하여, 상기 음성 신호가 가상 장치(105)를 나타내는 부분을 포함하지 않더라도, 상기 음성 신호의 적어도 일부를 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령으로 식별할 수 있다.
도 7은 다른 전자 장치로부터 획득된 정보에 기반하여 가상 장치의 디스플레이를 통해 표시될 이미지를 획득하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 7의 동작 701 내지 동작 709의 적어도 일부는, 도 5의 동작 501, 도 5의 동작 503, 도 5의 동작 505, 도 6의 동작 601, 및 도 6의 동작 603의 적어도 일부와 관련될 수 있다.
도 7을 참조하면, 동작 701에서, 도 2의 프로세서(210)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 상기 음성 신호의 상기 인식에 기반하여, 가상 장치(예: 도 1의 가상 장치(105))의 상기 디스플레이 상에서 표시될 이미지를 위한 데이터가 다른 전자 장치(예: 도 1의 다른 전자 장치(103))로부터 획득됨을 더(further) 나타내는 상기 음성 명령을 식별할 수 있다.
예를 들면, 프로세서(210)는, "거실 TV의 화면을 안방에서 표시해줘"에 대응하는 상기 음성 신호를 마이크로폰(230)을 통해 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호의 상기 인식에 기반하여, 가상 장치(105)의 상기 디스플레이 상에서 표시될 상기 이미지를 위한 상기 데이터를 "거실 TV"에 대응하는 다른 전자 장치(103)로부터 획득함을 식별할 수 있다.
동작 703에서, 프로세서(210)는, MR 장치(예: 도 1의 MR 장치(102))가 착용됨을 식별할 수 있다. 예를 들면, 프로세서(210)는, 동작 701에서, 상기 음성 명령을 식별하는 것에 응답하여, MR 장치(102)가 착용되었는지 여부를 식별할 수 있다. 예를 들면, 프로세서(210)는, MR 장치(102)로부터 수신된 신호에 기반하여, MR 장치(102)가 착용됨을 식별할 수 있다.
동작 705에서, 프로세서(210)는, MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 통신 회로(240)를 통해 다른 전자 장치(103)에게 상기 데이터를, 상기 식별된 음성 명령에 기반하여, 요청할 수 있다. 예를 들면, 프로세서(210)는, 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)에 접속하기 위한 정보에 기반하여, 상기 요청을 송신할 수 있다. 다른 전자 장치(103)는, 상기 요청을 수신할 수 있다.
동작 707에서, 프로세서(210)는, 다른 전자 장치(103)로부터, 상기 이미지를 위한 상기 데이터를 수신할 수 있다.
동작 709에서, 프로세서(210)는, 상기 데이터 및 가상 장치(105)의 상기 장치 정보에 기반하여, 가상 장치(105)의 디스플레이 상에서 표시될 상기 이미지를 획득할 수 있다.
예를 들면, 상기 이미지는, 다른 전자 장치(103)의 디스플레이를 통해 표시되는 다른 이미지에 대응할 수 있다. 예를 들면, 다른 전자 장치(103)의 상기 디스플레이 상에서 표시되는 이미지는, 가상 장치(105)의 상기 디스플레이 상에서 미러링될 수 있다. 예를 들면, 상기 이미지는, 상기 다른 이미지에 대한 미러링 이미지일 수 있다. 예를 들면, 상기 이미지에 의해 표현되는 콘텐트(content)는, 상기 다른 이미지에 의해 표현되는 콘텐트와 실질적으로 동일할 수 있다. 예를 들면, 상기 이미지 내의 시각적 객체들의 배치는, 상기 다른 이미지 내의 시각적 객체들의 배치와 동일할 수도 있고, 다를 수도 있다. 예를 들어, 가상 장치(105)의 상기 디스플레이의 사이즈가 다른 전자 장치(103)의 상기 디스플레이의 사이즈와 다르거나 가상 장치(105)의 상기 디스플레이의 종횡비가 다른 전자 장치(103)의 상기 디스플레이의 종횡비와 다른 경우, 상기 이미지 내의 시각적 객체들의 배치는, 상기 다른 이미지 내의 시각적 객체들의 배치와 다를 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 이미지는, 다른 전자 장치(103)의 디스플레이를 통해 표시되는 다른 이미지로부터 연장된 이미지일 수 있다. 예를 들면, 상기 이미지 및 상기 다른 이미지는, 단일 화면을 제공할 수 있다. 예를 들면, 상기 이미지는, 상기 단일 화면의 일부를 표현하고(represent), 상기 다른 이미지는, 상기 단일 화면의 다른 일부를 표현할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 다른 전자 장치(103)로부터 제공되는 이미지를 획득하거나 변환하고, 상기 이미지를 가상 장치(105)의 상기 디스플레이 상에서의 표시를 위해 MR 장치(102)에게 제공할 수 있다. 예를 들면, 전자 장치(101)는, 이러한 동작들을 통해, MR 장치(102)를 통해 표시되는 가상 장치(105)의 상기 디스플레이 상에서 다른 전자 장치(103)로부터의 이미지를 표시할 수 있다. 예를 들면, 전자 장치(101)는, 상기 소프트웨어 어플리케이션을 이용하여, 다른 전자 장치(103)를 통해 제공되는 서비스를 MR 장치(102)로 전달할 수 있다. 예를 들면, MR 장치(102)의 능력은 다른 전자 장치(103)의 능력과 다르기 때문에, 전자 장치(101)는, 다른 전자 장치(103)의 능력을 확장하는 서비스를 제공할 수 있다.
도 8은 전자 장치의 위치, 다른 전자 장치의 위치, 및 가상 장치의 위치에 기반하여 음성 명령을 식별하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 8의 동작 801 내지 동작 805는, 도 5의 동작 501 내에 포함될 수 있다. 하지만, 이에 제한되지 않는다. 예를 들면, 동작 801 내지 동작 805는, 도 5의 동작 501과 독립적일 수 있다.
도 8을 참조하면, 동작 801에서, 도 2의 프로세서(210)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 상기 음성 신호의 상기 인식에 기반하여, 상기 음성 신호가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 디스플레이를 통한 표시 및 가상 장치(예: 도 1의 가상 장치(105))의 상기 디스플레이를 통한 표시를 나타냄을 식별할 수 있다. 예를 들면, 프로세서(210)는, "TV 틀어줘"에 대응하는 상기 음성 신호를 마이크로폰(230)을 통해 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호의 상기 인식"에 기반하여 상기 음성 신호에 의해 나타내어진 "TV"를 상기 소프트웨어 어플리케이션을 이용하여 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 소프트웨어 어플리케이션을 이용하여 등록된 TV가 다른 전자 장치(예: 도 1의 다른 전자 장치(103)) 및 가상 장치(105)임을 식별함으로써, 상기 음성 신호가 다른 전자 장치(103)의 상기 디스플레이를 통한 표시 및 가상 장치(105)의 상기 디스플레이를 통한 표시를 나타냄을 식별할 수 있다.
동작 803에서, 프로세서(210)는, 전자 장치(101)의 위치가 다른 전자 장치(103)의 위치 및 가상 장치(105)의 위치 중 가상 장치(105)의 위치에 대응함을 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 응답하여, 통신 회로(예: 도 2의 통신 회로(240))를 이용하여 전자 장치(101)의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 응답하여, 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 응답하여, 상기 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(105)의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 전자 장치(101)의 상기 위치가 다른 전자 장치(103)의 상기 위치 및 가상 장치(105)의 상기 위치 중 가상 장치(105)의 상기 위치에 대응함을 식별할 수 있다.
동작 805에서, 프로세서(210)는, 전자 장치(101)의 상기 위치가 가상 장치(105)의 상기 위치에 대응함을 식별하는 것에 기반하여, 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령을 식별할 수 있다. 예를 들면, 사용자 의도가 자신의 위치에서 서비스를 받는 것일 시 상기 서비스의 위치에 대한 정보가 사용자로부터의 음성 신호 내에 포함될 확률은 감소될 수 있기 때문에, 프로세서(210)는, 상기 위치가 가상 장치(105)의 상기 위치에 대응함을 식별하는 것에 기반하여, 상기 음성 명령을 식별할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 상기 소프트웨어 어플리케이션을 이용하여 등록된 장치들 각각과 연계된 위치를 이용하여, 상기 음성 신호가 가상 장치(105)를 나타내는 부분을 포함하지 않더라도, 상기 음성 신호의 적어도 일부를 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령으로 식별할 수 있다.
도 9는 외부 전자 장치에게 송신된 가상 장치의 장치 정보에 기반하여 이미지를 획득하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 9의 동작 901 내지 동작 911의 적어도 일부는, 도 5의 동작 501, 동작 503, 및 동작 505의 적어도 일부와 관련될 수 있다.
도 9를 참조하면, 동작 901에서, 도 2의 프로세서(210)는, 제1 데이터에 기반하여, 전자 장치(101)의 디스플레이(예: 도 2의 디스플레이(220)) 상에서의 표시를 실행할 수 있다. 예를 들면, 동작 911에서 획득될 이미지에 대응하는 다른 이미지를 디스플레이(220) 상에서 표시할 수 있다. 예를 들면, 상기 제1 데이터는, 상기 다른 이미지를 표시하기 위한 데이터일 수 있다. 예를 들면, 상기 제1 데이터는, 외부 전자 장치(예: 스트리밍 서비스를 제공하는 서버)로부터 통신 회로(예: 도 2의 통신 회로(240))를 통해 수신될 수 있다.
동작 903에서, 프로세서(210)는, 상기 다른 이미지가 디스플레이(220) 상에서 표시되는 동안, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 음성 신호를 획득할 수 있다.
동작 905에서, 프로세서(210)는, 상기 음성 신호의 인식에 기반하여, 가상 장치(예: 도 1의 가상 장치(105))의 상기 디스플레이 상에서의 표시를 나타내는 음성 명령을 식별할 수 있다. 예를 들면, 동작 905는, 도 5의 동작 501에 대응할 수 있다.
동작 907에서, 프로세서(210)는, 상기 음성 명령의 상기 식별에 응답하여, MR 장치(예: 도 1의 MR 장치(102))가 착용됨을 식별할 수 있다. 예를 들면, 동작 907은, 도 5의 동작 503의 일부에 대응할 수 있다.
동작 909에서, 프로세서(210)는, MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 통신 회로(예: 도 2의 통신 회로(240))를 통해 상기 외부 전자 장치에게 가상 장치(105)의 장치 정보를 송신할 수 있다. 예를 들면, 프로세서(210)는, 가상 장치(105)의 상기 디스플레이 상에서 상기 외부 전자 장치로부터 제공되는 콘텐트를 제공하기 위해, 상기 장치 정보를 송신할 수 있다. 예를 들면, 프로세서(210)는, 상기 외부 전자 장치가 가상 장치(105)의 상기 디스플레이 상에서 표시될 이미지를 설정하도록, 상기 장치 정보를 송신할 수 있다.
예를 들면, 가상 장치(105)는, 상기 외부 전자 장치에게 인식되거나 식별되지 않을 수 있다. 예를 들면, 가상 장치(105)는, 상기 외부 전자 장치에게 투명할(transparent) 수 있다. 하지만, 이에 제한되지 않는다. 예를 들면, 프로세서(210)는, 상기 외부 전자 장치가 가상 장치(105)를 인식하거나 식별할 수 있도록, 가상 장치(105)의 식별 정보를 상기 장치 정보와 함께 상기 외부 전자 장치에게 송신할 수도 있다.
동작 911에서, 프로세서(210)는, 상기 외부 전자 장치로부터 통신 회로(240)를 통해 상기 장치 정보에 기반하여 획득된 제2 데이터를 수신함으로써 상기 이미지를 획득할 수 있다. 예를 들면, 상기 이미지는, 상기 다른 이미지에 대응할 수 있다. 예를 들면, 상기 이미지를 통해 제공되는 콘텐트는, 상기 다른 이미지를 통해 제공되는 콘텐트에 대응할 수 있다. 예를 들면, 상기 이미지 내의 시각적 객체들의 배치는, 상기 다른 이미지 내의 시각적 객체들의 배치와 동일할 수도 있고, 다를 수도 있다. 예를 들어, 가상 장치(105)의 상기 디스플레이의 사이즈가 디스플레이(220)의 사이즈와 다르거나 가상 장치(105)의 상기 디스플레이의 종횡비가 디스플레이(220)의 종횡비와 다른 경우, 상기 이미지 내의 시각적 객체들의 배치는, 상기 다른 이미지 내의 시각적 객체들의 배치와 다를 수 있다. 하지만, 이에 제한되지 않는다.
상술한 바와 같이, 전자 장치(101)는, 전자 장치(101)와 연결된 상기 외부 전자 장치로부터의 콘텐트를 가상 장치(105)의 상기 디스플레이 상에서 표시할 수 있다. 예를 들면, 전자 장치(101)는, 상기 외부 전자 장치에게 가상 장치(105)의 상기 디스플레이 상에서 표시될 이미지의 구성(configuration)을 요청함으로써, 가상 장치(105)의 상기 디스플레이 상에서 표시될 이미지를 획득하기 위해 소비되는 자원들의 양을 감소시킬 수 있다. 예를 들면, 상기 자원들은, 가상 장치(105)의 상기 디스플레이 상에서 표시될 상기 이미지를 위해 실행되는 연산들을 나타낼 수 있다. 하지만, 이에 제한되지 않는다.
도 10은 다른 전자 장치의 디스플레이의 방향 및 가상 장치의 디스플레이의 방향에 기반하여 음성 명령을 식별하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 10의 동작 1001 내지 동작 1007의 적어도 일부는, 도 5의 동작 501 내에 포함될 수 있다. 하지만, 이에 제한되지 않는다. 예를 들면, 동작 1001 내지 동작 1007은, 도 5의 동작 501과 독립적일 수 있다.
도 10을 참조하면, 동작 1001에서, 도 2의 프로세서(210)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 음성 신호가 다른 전자 장치(예: 도 1의 다른 전자 장치(103))의 디스플레이를 통한 표시 및 가상 장치(예: 도 1의 가상 장치(105))의 디스플레이를 통한 표시를 나타냄을 식별할 수 있다. 예를 들면, 다른 전자 장치(103)는, 상기 소프트웨어 어플리케이션을 이용하여 등록된 실물 장치일 수 있다. 예를 들면, 상기 음성 신호는 "TV 틀어줘"에 대응할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호가 "TV"를 나타냄을 식별하는 것에 기반하여, 상기 소프트웨어 어플리케이션을 통해 등록된 장치들 중 디스플레이를 포함하는 장치인 다른 전자 장치(103) 및 가상 장치(105)를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 기반하여, 상기 음성 신호가 다른 전자 장치(103)의 상기 디스플레이를 통한 상기 표시 및 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타냄을 식별할 수 있다.
동작 1003에서, 프로세서(210)는, 다른 전자 장치(103)의 위치 및 가상 장치(105)의 위치가 하나의 영역 내에 포함됨을 식별할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(105)의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 위치 및 가상 장치(105)의 상기 위치가 하나의 영역(예: "안방") 내에 위치됨을 식별할 수 있다.
동작 1005에서, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 방향 및 가상 장치(105)의 상기 디스플레이의 방향을 식별할 수 있다. 예를 들면, 다른 전자 장치(103) 및 가상 장치(105)가 단일 영역 내에 있음은, 사용자 의도에 대응하는 장치를 위치에 기반하여 다른 전자 장치(103) 및 가상 장치(105) 중에서 식별할 수 없음을 나타내기 때문에, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 방향 및 가상 장치(105)의 상기 디스플레이의 방향을 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 단일 영역 내에서의 다른 전자 장치(103)의 위치 및 상기 단일 영역 내에서의 가상 장치(105)의 위치에 기반하여, 다른 전자 장치(103)의 상기 디스플레이의 상기 방향 및 가상 장치(105)의 상기 디스플레이의 상기 방향을 식별할 수 있다.
동작 1007에서, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 상기 방향 및 가상 장치(105)의 상기 디스플레이의 상기 방향에 기반하여, 가상 장치(105)의 상기 디스플레이 상에서의 표시를 나타내는 상기 음성 명령을 식별할 수 있다. 예를 들면, 프로세서(210)는, 통신 회로(예: 도 2의 통신 회로(240))를 이용하여, 상기 단일 영역 내에서의 전자 장치(101)의 위치를 식별할 수 있다. 예를 들면, 프로세서(210)는, 전자 장치(101)의 상기 위치, 다른 전자 장치(103)의 상기 디스플레이의 상기 방향, 가상 장치(105)의 상기 디스플레이의 상기 방향에 기반하여, 상기 음성 명령을 식별할 수 있다. 예를 들면, 프로세서(210)는, 전자 장치(101)의 상기 위치, 다른 전자 장치(103)의 상기 디스플레이의 상기 방향, 가상 장치(105)의 상기 디스플레이의 상기 방향에 기반하여, 전자 장치(101)가 다른 전자 장치(103)의 상기 디스플레이 및 가상 장치(105)의 상기 디스플레이 중 가상 장치(105)의 상기 디스플레이의 정면에 위치됨을 식별함으로써, 상기 음성 명령을 식별할 수 있다.
도 10은, 상기 음성 신호가 둘 이상의 장치들을 나타낼 시, 디스플레이의 방향에 기반하여 하나의 장치를 식별하는 예를 도시하고 있으나, 이는 설명의 편의를 위한 것이다. 전자 장치(101)는, 디스플레이의 방향 뿐 아니라 다양한 다른 기준에 기반하여 둘 이상의 장치들 중에서 하나의 장치를 식별할 수 있다.
예를 들면, 프로세서(210)는, 상기 음성 신호로부터 다른 전자 장치(103) 및 가상 장치(105)를 식별하는 것에 기반하여, 다른 전자 장치(103)의 장치 정보 및 가상 장치(105)의 장치 정보를 식별할 수 있다.
예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 장치 정보로부터 다른 전자 장치(103)의 상기 디스플레이의 사이즈를 식별하고, 가상 장치(105)의 상기 장치 정보로부터 가상 장치(105)의 상기 디스플레이의 사이즈를 식별할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 상기 사이즈 및 가상 장치(105)의 상기 디스플레이의 상기 사이즈를 비교할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 상기 사이즈보다 큰 가상 장치(105)의 상기 디스플레이의 상기 사이즈에 기반하여, 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령을 식별할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 장치 정보로부터 다른 전자 장치(103)의 상기 디스플레이의 해상도를 식별하고, 가상 장치(105)의 상기 장치 정보로부터 가상 장치(105)의 상기 디스플레이의 해상도를 식별할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 상기 해상도 및 가상 장치(105)의 상기 디스플레이의 상기 해상도를 비교할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 디스플레이의 상기 해상도보다 높은 가상 장치(105)의 상기 디스플레이의 상기 해상도에 기반하여, 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령을 식별할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 장치 정보로부터 다른 전자 장치(103)의 이동성을 식별하고, 가상 장치(105)의 상기 장치 정보로부터 가상 장치(105)의 이동성을 식별할 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103) 및 가상 장치(105)를 식별하는 것에 기반하여, 전자 장치(101)의 움직임을 더 식별할 수 있다. 예를 들면, 상기 움직임은, 전자 장치(101)의 센서를 통해 식별될 수 있다. 예를 들면, 프로세서(210)는, 다른 전자 장치(103)의 상기 이동성보다 높은 가상 장치(105)의 상기 이동성을 식별하고, 전자 장치(101)가 이동되고 있음을 식별하는 것에 기반하여, 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령을 식별할 수 있다. 하지만, 이에 제한되지 않는다.
상술한 바와 같이, 전자 장치(101)는, 마이크로폰(230)을 통해 수신되는 음성 신호가 가상 장치(105)를 명시적으로 나타내지 않더라도, 다른 전자 장치(103)의 장치 정보 및 가상 장치(105)의 장치 정보에 기반하여, 상기 음성 신호의 적어도 일부를 가상 장치(105)의 상기 디스플레이를 통한 상기 표시를 나타내는 상기 음성 명령으로 식별할 수 있다.
도 11은 가상 공간 내에 위치된 가상 장치를 제어하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
동작 1101에서, 도 2의 프로세서(210)는, MR 장치(예: 도 1의 MR 장치(102))와의 연결이 해제되는 동안, 상기 소프트웨어 어플리케이션을 이용하여, MR 장치(102)를 이용하여 접근 가능한 가상 공간 내에 위치된 가상 장치(예: 도 1의 가상 장치(105))의 디스플레이를 통해 표시될 다른 이미지를 식별할 수 있다.
예를 들면, 상기 가상 공간은, MR을 위한 공간과 구별되는 공간일 수 있다. 예를 들면, 상기 가상 공간은, MR 장치(102)를 이용하여 접근할 시 활성화되는 상기 MR을 위한 상기 공간과 달리, MR 장치(102)를 이용하여 상기 가상 공간에 접근하지 않더라도, 유지되고 활성화되는 공간일 수 있다.
예를 들면, 상기 다른 이미지는, 상기 소프트웨어 어플리케이션과 구별되는 다른 소프트웨어 어플리케이션으로부터 상기 소프트웨어 어플리케이션으로 제공될 수 있다. 예를 들면, 상기 다른 소프트웨어 어플리케이션은, 전자 장치(101)의 카메라를 통해 획득되거나 전자 장치(101)에 수신된 이미지를 관리하기 위한 소프트웨어 어플리케이션일 수 있다. 예를 들면, 상기 다른 소프트웨어 어플리케이션은, 상기 다른 이미지를 포함하는 웹페이지를 관리하거나 표시하기 위한 소프트웨어 어플리케이션일 수 있다. 하지만, 이에 제한되지 않는다.
동작 1103에서, 프로세서(210)는, MR 장치(102)와의 상기 연결이 해제되는 동안, 상기 다른 이미지를 가상 장치(105)의 상기 디스플레이 상에서 표시하기 위한 데이터를, 통신 회로(예: 도 2의 통신 회로(240))를 통해 상기 가상 공간을 제공하는 외부 전자 장치에게 송신할 수 있다. 예를 들면, 동작 1103은, 상기 소프트웨어 어플리케이션을 이용하여 실행될 수 있다. 예를 들면, 프로세서(210)는, MR 장치(102)를 이용하여 상기 가상 공간에 접근하지 않더라도, 상기 가상 공간 내의 가상 장치(105)의 상기 디스플레이를 통해 표시되는 이미지를 설정하기 위해, 상기 소프트웨어 어플리케이션을 이용하여 상기 데이터를 송신할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 전자 장치(101) 및 MR 장치(102) 중 MR 장치(102)를 통해 접근할 수 있는 가상 공간 내에 위치된 가상 장치(105)를, MR 장치(102)와의 연결이 해제되는 동안, 제어할 수 있다. 전자 장치(101)는, 이러한 서비스를 제공함으로써, 상기 가상 공간의 이용성을 확장할 수 있다.
도 12는 다른 음성 명령에 기반하여 다른 가상 장치를 등록하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 1의 전자 장치(101), 도 2의 전자 장치(101), 또는 도 2의 프로세서(210)에 의해 실행될 수 있다. 이하 예시적 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
동작 1201에서, 도 2의 프로세서(210)는, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 다른 음성 신호의 인식에 기반하여, 상기 소프트웨어 어플리케이션을 통해 등록된, 가상 장치(예: 도 1의 가상 장치(105))를 포함하는 복수의 장치들의 위치들과 구별되는 다른 위치에서의 표시를 나타내는 다른 음성 명령을 식별할 수 있다. 예를 들면, 프로세서(210)는, "주방에서 이미지를 표시"에 대응하는 상기 음성 신호를 마이크로폰(230)을 통해 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호에 의해 나타내어진 위치인 "주방"에 위치된 장치를 상기 소프트웨어 어플리케이션을 이용하여 등록된 장치들 중에서 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 기반하여, 상기 다른 음성 명령을 식별할 수 있다.
동작 1203에서, 프로세서(210)는, 상기 다른 음성 명령에 기반하여, 상기 다른 위치에서 위치된, 가상 장치(105)와 구별되는, 다른 가상 장치를 등록하기 위한 상기 소프트웨어 어플리케이션의 사용자 인터페이스를 표시할 수 있다. 예를 들면, 실물 장치와 달리 가상 장치는, 장소의 제약 없이 위치될 수 있기 때문에, 프로세서(210)는, 상기 다른 가상 장치를 등록하기 위한 상기 사용자 인터페이스를 표시할 수 있다. 예를 들면, 상기 사용자 인터페이스는, 상기 다른 가상 장치의 등록을 가이드하기 위한 텍스트 또는 시각적 객체를 포함할 수 있다. 예를 들면, 상기 다른 가상 장치의 등록은, 도 3 내지 도 4b를 통해 예시된 가상 장치(105)의 상기 등록보다, 간단하게(simply) 제공될 수 있다. 예를 들면, 상기 다른 가상 장치의 상기 등록은, 상기 다른 가상 장치가 등록되기 전 상기 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(105)의 장치 정보를 이용하여 실행될 수 있다. 하지만, 이에 제한되지 않는다.
상술한 바와 같이, 전자 장치(101)는, 상기 음성 신호의 인식에 기반하여, 장소에 관계없이 이용가능한 가상 장치의 등록을 가이드할 수 있다. 예를 들면, 전자 장치(101)는, 상기 가이드(guidance)를 통해, 강화된 사용자 경험을 제공할 수 있다.
도 13은 MR 장치의 프로세서에 의해 실행되는 기능적 구성요소들의 예를 도시한다.
도 13을 참조하면, MR 장치(예: 도 1의 MR 장치(102))의 프로세서는, 입력 인터페이스(1310)를 이용하여, 사용자 입력을 수신하고, 식별할 수 있다. 예를 들면, 상기 사용자 입력은, 시선 입력, 컨트롤러를 통한 제스쳐 입력, 및/또는 음성 입력을 포함할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 입력 인터페이스(1310)(예: 다양한 회로)를 이용하여, 상기 사용자 입력에 대응하는 기능을 실행할 수 있다. 도 13을 참조하여 아래에서 설명되는 모듈들은, 예를 들면, 다양한 처리 회로 및/또는 실행가능한 프로그램 인스트럭션들을 포함할 수 있다.
예를 들면, MR 장치(102)의 상기 프로세서는, 상기 사용자 입력이 상기 음성 입력일 시, 음성 인식 모듈(1320)을 이용하여 상기 사용자 입력을 인식할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 입력 인터페이스(1310)를 통해 식별된 상기 사용자 입력에 대한 정보를 음성 인식 모듈(1320)에게 제공할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 음성 인식 모듈(1320)을 이용하여 상기 사용자 입력에 대한 자연어 해석을 실행함으로써, 상기 사용자 입력을 인식할 수 있다.
예를 들면, MR 장치(102)의 상기 프로세서는, 위 예시된 상기 소프트웨어 어플리케이션인 소프트웨어 어플리케이션(1330)을 이용하여, MR 장치(102)를 통해 다른 장치를 제어할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 소프트웨어 어플리케이션(1330)을 이용하여, 가상 장치(105) 및 다른 전자 장치(103)를 등록할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 소프트웨어 어플리케이션(1330)을 이용하여, 가상 장치(105) 및 다른 전자 장치(103)를 통해 표시될 이미지(또는 콘텐트)를 설정할 수 있다. 예를 들면, 소프트웨어 어플리케이션(1330)은, 외부 전자 장치(104)로부터 획득된 정보에 기반하여, 실행될 수 있다.
예를 들면, MR 장치(102)의 상기 프로세서는, 출력 인터페이스(1350)를 이용하여 MR 장치(102)의 디스플레이 상에서 표시되는 이미지 및 MR 장치(102)의 스피커를 통해 출력되는 사운드를 제어할 수 있다. 예를 들면, 출력 인터페이스(1350)는, 표시 컨트롤러(1360)(예: 다양한 회로들), 랜더링 모듈(1370), 및 사운드 컨트롤러(1380)(예: 다양한 회로들)를 포함할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 표시 컨트롤러(1360)를 이용하여 다른 장치(예: 전자 장치(101) 및/또는 다른 전자 장치(103))로부터 획득된 이미지를 가상 장치(105)를 위해 디코딩할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 표시 컨트롤러(1360)를 이용하여 다른 장치(예: 전자 장치(101) 및/또는 다른 전자 장치(103))에게 제공되는, 가상 장치(105)의 디스플레이 상에서 표시되는 이미지를 인코딩할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, MR 장치(102)의 상기 프로세서는, 랜더링 모듈(1370)을 이용하여, MR을 위한 공간 또는 가상 공간 상에 이미지를 랜더링할 수 있다. 예를 들면, MR 장치(102)의 상기 프로세서는, 표시 컨트롤러(1360)로부터 획득된 이미지를 랜더링 모듈(1370)을 이용하여 랜더링할 수 있다.
예를 들면, MR 장치(102)의 상기 프로세서는, 사운드 컨트롤러(1380)를 이용하여, 상기 이미지가 표시되는 동안 출력되는 사운드를 제어할 수 있다. 예를 들면, 사운드 컨트롤러(1380)는, 상기 사운드를 위한 인코딩 및/또는 디코딩을 실행할 수 있다.
도 14은, 다양한 실시예들에 따른, 네트워크 환경(1400) 내의 전자 장치(1401)의 블록도이다. 도 14을 참조하면, 네트워크 환경(1400)에서 전자 장치(1401)는 제 1 네트워크(1498)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1402)와 통신하거나, 또는 제 2 네트워크(1499)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1404) 또는 서버(1408) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1401)는 서버(1408)를 통하여 전자 장치(1404)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1401)는 프로세서(1420), 메모리(1430), 입력 모듈(1450), 음향 출력 모듈(1455), 디스플레이 모듈(1460), 오디오 모듈(1470), 센서 모듈(1476), 인터페이스(1477), 연결 단자(1478), 햅틱 모듈(1479), 카메라 모듈(1480), 전력 관리 모듈(1488), 배터리(1489), 통신 모듈(1490), 가입자 식별 모듈(1496), 또는 안테나 모듈(1497)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(1401)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(1478))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(1476), 카메라 모듈(1480), 또는 안테나 모듈(1497))은 하나의 구성요소(예: 디스플레이 모듈(1460))로 통합될 수 있다.
프로세서(1420)는, 예를 들면, 소프트웨어(예: 프로그램(1440))를 실행하여 프로세서(1420)에 연결된 전자 장치(1401)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1420)는 다른 구성요소(예: 센서 모듈(1476) 또는 통신 모듈(1490))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1432)에 저장하고, 휘발성 메모리(1432)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(1434)에 저장할 수 있다. 일실시예에 따르면, 프로세서(1420)는 메인 프로세서(1421)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1423)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(1401)가 메인 프로세서(1421) 및 보조 프로세서(1423)를 포함하는 경우, 보조 프로세서(1423)는 메인 프로세서(1421)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1423)는 메인 프로세서(1421)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(1423)는, 예를 들면, 메인 프로세서(1421)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1421)를 대신하여, 또는 메인 프로세서(1421)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1421)와 함께, 전자 장치(1401)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(1460), 센서 모듈(1476), 또는 통신 모듈(1490))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(1423)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(1480) 또는 통신 모듈(1490))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(1423)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(1401) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(1408))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(1430)는, 전자 장치(1401)의 적어도 하나의 구성요소(예: 프로세서(1420) 또는 센서 모듈(1476))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1440)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1430)는, 휘발성 메모리(1432) 또는 비휘발성 메모리(1434)를 포함할 수 있다.
프로그램(1440)은 메모리(1430)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(1442), 미들 웨어(1444) 또는 어플리케이션(1446)을 포함할 수 있다.
입력 모듈(1450)은, 전자 장치(1401)의 구성요소(예: 프로세서(1420))에 사용될 명령 또는 데이터를 전자 장치(1401)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(1450)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(1455)은 음향 신호를 전자 장치(1401)의 외부로 출력할 수 있다. 음향 출력 모듈(1455)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(1460)은 전자 장치(1401)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(1460)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(1460)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(1470)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(1470)은, 입력 모듈(1450)을 통해 소리를 획득하거나, 음향 출력 모듈(1455), 또는 전자 장치(1401)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1402))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(1476)은 전자 장치(1401)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(1476)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(1477)는 전자 장치(1401)가 외부 전자 장치(예: 전자 장치(1402))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(1477)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(1478)는, 그를 통해서 전자 장치(1401)가 외부 전자 장치(예: 전자 장치(1402))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(1478)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(1479)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(1479)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(1480)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(1480)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(1488)은 전자 장치(1401)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(1488)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(1489)는 전자 장치(1401)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(1489)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(1490)은 전자 장치(1401)와 외부 전자 장치(예: 전자 장치(1402), 전자 장치(1404), 또는 서버(1408)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1490)은 프로세서(1420)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(1490)은 무선 통신 모듈(1492)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1494)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(1498)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(1499)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(1404)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(1492)은 가입자 식별 모듈(1496)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(1498) 또는 제 2 네트워크(1499)와 같은 통신 네트워크 내에서 전자 장치(1401)를 확인 또는 인증할 수 있다.
무선 통신 모듈(1492)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(1492)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(1492)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(1492)은 전자 장치(1401), 외부 전자 장치(예: 전자 장치(1404)) 또는 네트워크 시스템(예: 제 2 네트워크(1499))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(1492)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(1497)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(1497)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(1497)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(1498) 또는 제 2 네트워크(1499)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(1490)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(1490)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(1497)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(1497)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(1499)에 연결된 서버(1408)를 통해서 전자 장치(1401)와 외부의 전자 장치(1404)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(1402, 또는 1404) 각각은 전자 장치(1401)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(1401)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(1402, 1404, 또는 1408) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(1401)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(1401)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(1401)로 전달할 수 있다. 전자 장치(1401)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(1401)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(1404)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(1408)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(1404) 또는 서버(1408)는 제 2 네트워크(1499) 내에 포함될 수 있다. 전자 장치(1401)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
상술한 바와 같은, 전자 장치(electronic device)(101)는, 마이크로폰(230)과, 통신 회로(240)와, 프로세서(210)를 포함할 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 마이크로폰(230)을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치(101)를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)(105)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 명령에 기반하여, 상기 가상 장치(105)를 표시하기 위한 MR(mixed reality) 장치(102)가 착용되었는지 여부를 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치(105)와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치(102)를 통해 표시되는 상기 가상 장치(105)의 상기 디스플레이 상에 표시될 이미지를 획득하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 이미지를 상기 MR 장치(102)를 통해 표시되는 상기 가상 장치(105)의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로(240)를 통해 상기 MR 장치(102)에게 송신하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 MR 장치(102)가 착용되지 않음을 식별하는 것에 응답하여, 상기 MR 장치(102)를 착용할 것을 알리기(inform) 위한 알림을 제공하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 신호의 상기 인식에 기반하여, 표시 위치를 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 표시 위치가 상기 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 가상 장치(105)의 위치에 대응함을 식별하는 것에 기반하여, 상기 음성 명령을 식별하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 신호의 상기 인식에 기반하여, 상기 이미지를 위한 데이터가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)로부터 획득됨을 더(further) 나타내는 상기 음성 명령을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 통신 회로(240)를 통해 상기 다른 전자 장치(103)에게, 상기 데이터를, 상기 음성 명령에 기반하여, 요청하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 다른 전자 장치(103)로부터 상기 통신 회로(240)를 통해, 상기 데이터를 수신하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 데이터 및 상기 장치 정보에 기반하여 상기 이미지를 획득하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 이미지는, 상기 다른 전자 장치(103)의 디스플레이를 통해 표시되는 다른(another) 이미지에 대응할 수 있다.
일 실시예에 따르면, 상기 이미지는, 상기 다른 전자 장치(103)의 디스플레이를 통해 표시되는 다른 이미지로부터 연장된 이미지일 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 신호의 상기 인식에 기반하여, 상기 음성 신호가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 디스플레이를 통한 표시 및 상기 가상 장치(105)의 상기 디스플레이를 통한 표시를 나타냄을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 통신 회로(240)를 통해 식별된 상기 전자 장치(101)의 위치가 상기 다른 전자 장치(103)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 다른 전자 장치(103)의 위치 및 상기 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 가상 장치(105)의 위치 중 상기 가상 장치(105)의 상기 위치에 대응함을 식별하는 것에 기반하여, 상기 음성 명령을 식별하도록, 구성될 수 있다.
상기 전자 장치(101)는, 디스플레이(220)를 더 포함할 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 외부 전자 장치로부터 상기 통신 회로(240)를 통해 수신된 제1 데이터에 기반하여 상기 전자 장치(101)의 상기 디스플레이 상에서의 표시를 실행하는 동안 획득된 상기 음성 신호의 상기 인식에 기반하여, 상기 음성 명령을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 통신 회로(240)를 통해 상기 외부 전자 장치에게 상기 장치 정보를 송신하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 외부 전자 장치로부터 상기 통신 회로(240)를 통해, 상기 장치 정보에 기반하여 획득된 제2 데이터를 수신함으로써 상기 이미지를 획득하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 신호의 상기 인식에 기반하여, 상기 음성 신호가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 디스플레이를 통한 표시 및 상기 가상 장치(105)의 상기 디스플레이를 통한 표시를 나타냄을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 다른 전자 장치(103)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 다른 전자 장치(103)의 위치 및 상기 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 가상 장치(105)의 위치가 하나의 영역 내에 포함됨을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 다른 전자 장치(103)의 상기 위치 및 상기 가상 장치(105)의 상기 위치가 상기 영역 내에 포함됨을 식별하는 것에 기반하여, 상기 다른 전자 장치(103)의 상기 위치에 기반하여 상기 다른 전자 장치(103)의 상기 디스플레이의 방향을 식별하고, 상기 가상 장치(105)의 상기 위치에 기반하여 상기 가상 장치(105)의 상기 디스플레이의 방향을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 다른 전자 장치(103)의 상기 디스플레이의 상기 방향 및 상기 가상 장치(105)의 상기 디스플레이의 상기 방향에 기반하여, 상기 음성 명령을 식별하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 전자 장치(101)와 연결된 상기 MR 장치(102)로부터 상기 통신 회로(240)를 통해, 상기 MR 장치(102)의 상태를 나타내는 신호를 수신하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 수신된 신호에 기반하여, 상기 MR 장치(102)가 착용되었는지 여부를 식별하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 MR 장치(102)의 상기 상태를 나타내는 상기 신호는, 상기 MR 장치(102)의 센서를 통해 획득된, 상기 MR 장치(102)의 움직임을 나타내는, 정보를 포함할 수 있다.
일 실시예에 따르면, 상기 MR 장치(102)의 상기 상태를 나타내는 상기 신호는, 상기 MR 장치(102)의 센서를 통해 획득된, 상기 MR 장치(102)와 외부 객체 사이의 거리를 나타내는, 정보를 포함할 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 MR 장치(102)와의 연결이 해제되는 동안, 상기 소프트웨어 어플리케이션을 이용하여, 상기 MR 장치(102)를 이용하여 접근가능한 가상 공간 내에 위치된 상기 가상 장치(105)의 상기 디스플레이를 통해 표시될 다른(another) 이미지를 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 MR 장치(102)와의 상기 연결이 해제되는 동안, 상기 다른 이미지를 상기 가장 장치의 상기 디스플레이 상에서 표시하기 위한 데이터를, 상기 통신 회로(240)를 통해 상기 가상 공간을 제공하는 외부 전자 장치에게 송신하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 마이크로폰(230)을 통해 획득된 다른 음성 신호의 인식에 기반하여, 상기 소프트웨어 어플리케이션을 통해 등록된, 상기 가상 장치(105)를 포함하는 복수의 장치들의 위치들과 구별되는 다른 위치에서의 표시를 나타내는 다른 음성 명령을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 다른 음성 명령에 기반하여, 상기 다른 위치에서 위치된 다른 가상 장치(105)를 등록하기 위한 상기 소프트웨어 어플리케이션의 사용자 인터페이스를, 상기 전자 장치(101)의 상기 디스플레이 상에서 표시하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 사용자 인터페이스를 통해, 상기 다른 가상 장치의 장치 정보를 획득하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 장치 정보 및 상기 다른 위치와 연계된 상기 다른 가상 장치를, 상기 소프트웨어 어플리케이션을 이용하여, 등록하도록, 구성될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(1401)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(1436) 또는 외장 메모리(1438))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(1440))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(1401))의 프로세서(예: 프로세서(1420))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치(electronic device)(101)에 있어서,
    마이크로폰(230);
    통신 회로(240); 및
    프로세서(210)를 포함하고,
    상기 프로세서(210)는,
    상기 마이크로폰(230)을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치(101)를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)(105)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하고,
    상기 음성 명령에 기반하여, 상기 가상 장치(105)를 표시하기 위한 MR(mixed reality) 장치(102)가 착용되었는지 여부를 식별하고,
    상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치(105)와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치(102)를 통해 표시되는 상기 가상 장치(105)의 상기 디스플레이 상에 표시될 이미지를 획득하고,
    상기 이미지를 상기 MR 장치(102)를 통해 표시되는 상기 가상 장치(105)의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로(240)를 통해 상기 MR 장치(102)에게 송신하도록, 구성되는,
    전자 장치.
  2. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 MR 장치(102)가 착용되지 않음을 식별하는 것에 응답하여, 상기 MR 장치(102)를 착용할 것을 알리기(inform) 위한 알림을 제공하도록, 구성되는,
    전자 장치.
  3. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 음성 신호의 상기 인식에 기반하여, 표시 위치를 식별하고,
    상기 표시 위치가 상기 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 가상 장치(105)의 위치에 대응함을 식별하는 것에 기반하여, 상기 음성 명령을 식별하도록, 구성되는,
    전자 장치.
  4. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 음성 신호의 상기 인식에 기반하여, 상기 이미지를 위한 데이터가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)로부터 획득됨을 더(further) 나타내는 상기 음성 명령을 식별하고,
    상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 통신 회로(240)를 통해 상기 다른 전자 장치(103)에게, 상기 데이터를, 상기 음성 명령에 기반하여, 요청하고,
    상기 다른 전자 장치(103)로부터 상기 통신 회로(240)를 통해, 상기 데이터를 수신하고,
    상기 데이터 및 상기 장치 정보에 기반하여 상기 이미지를 획득하도록, 구성되는,
    전자 장치.
  5. 청구항 4에 있어서, 상기 이미지는,
    상기 다른 전자 장치(103)의 디스플레이를 통해 표시되는 다른(another) 이미지에 대응하는,
    전자 장치.
  6. 청구항 4에 있어서, 상기 이미지는,
    상기 다른 전자 장치(103)의 디스플레이를 통해 표시되는 다른 이미지로부터 연장된 이미지인,
    전자 장치.
  7. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 음성 신호의 상기 인식에 기반하여, 상기 음성 신호가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 디스플레이를 통한 표시 및 상기 가상 장치(105)의 상기 디스플레이를 통한 표시를 나타냄을 식별하고,
    상기 통신 회로(240)를 통해 식별된 상기 전자 장치(101)의 위치가 상기 다른 전자 장치(103)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 다른 전자 장치(103)의 위치 및 상기 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 가상 장치(105)의 위치 중 상기 가상 장치(105)의 상기 위치에 대응함을 식별하는 것에 기반하여, 상기 음성 명령을 식별하도록, 구성되는,
    전자 장치.
  8. 청구항 1에 있어서,
    디스플레이(220)를 더 포함하고,
    상기 프로세서(210)는,
    외부 전자 장치로부터 상기 통신 회로(240)를 통해 수신된 제1 데이터에 기반하여 상기 전자 장치(101)의 상기 디스플레이(220) 상에서의 표시를 실행하는 동안 획득된 상기 음성 신호의 상기 인식에 기반하여, 상기 음성 명령을 식별하고,
    상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 통신 회로(240)를 통해 상기 외부 전자 장치에게 상기 장치 정보를 송신하고,
    상기 외부 전자 장치로부터 상기 통신 회로(240)를 통해, 상기 장치 정보에 기반하여 획득된 제2 데이터를 수신함으로써 상기 이미지를 획득하도록, 구성되는,
    전자 장치.
  9. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 음성 신호의 상기 인식에 기반하여, 상기 음성 신호가 상기 소프트웨어 어플리케이션을 이용하여 등록된 다른 전자 장치(103)의 디스플레이를 통한 표시 및 상기 가상 장치(105)의 상기 디스플레이를 통한 표시를 나타냄을 식별하고,
    상기 다른 전자 장치(103)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 다른 전자 장치(103)의 위치 및 상기 가상 장치(105)와 연계로 상기 소프트웨어 어플리케이션을 이용하여 등록된 상기 가상 장치(105)의 위치가 하나의 영역 내에 포함됨을 식별하고,
    상기 다른 전자 장치(103)의 상기 위치 및 상기 가상 장치(105)의 상기 위치가 상기 영역 내에 포함됨을 식별하는 것에 기반하여, 상기 다른 전자 장치(103)의 상기 위치에 기반하여 상기 다른 전자 장치(103)의 상기 디스플레이의 방향을 식별하고, 상기 가상 장치(105)의 상기 위치에 기반하여 상기 가상 장치(105)의 상기 디스플레이의 방향을 식별하고,
    상기 다른 전자 장치(103)의 상기 디스플레이의 상기 방향 및 상기 가상 장치(105)의 상기 디스플레이의 상기 방향에 기반하여, 상기 음성 명령을 식별하도록, 구성되는,
    전자 장치.
  10. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 전자 장치(101)와 연결된 상기 MR 장치(102)로부터 상기 통신 회로(240)를 통해, 상기 MR 장치(102)의 상태를 나타내는 신호를 수신하고,
    상기 수신된 신호에 기반하여, 상기 MR 장치(102)가 착용되었는지 여부를 식별하도록, 구성되는,
    전자 장치.
  11. 청구항 10에 있어서, 상기 MR 장치(102)의 상기 상태를 나타내는 상기 신호는,
    상기 MR 장치(102)의 센서를 통해 획득된, 상기 MR 장치(102)의 움직임을 나타내는, 정보를 포함하는,
    전자 장치.
  12. 청구항 10에 있어서, 상기 MR 장치(102)의 상기 상태를 나타내는 상기 신호는,
    상기 MR 장치(102)의 센서를 통해 획득된, 상기 MR 장치(102)와 외부 객체 사이의 거리를 나타내는, 정보를 포함하는,
    전자 장치.
  13. 청구항 1에 있어서, 상기 프로세서(210)는,
    상기 MR 장치(102)와의 연결이 해제되는 동안, 상기 소프트웨어 어플리케이션을 이용하여, 상기 MR 장치(102)를 이용하여 접근가능한 가상 공간 내에 위치된 상기 가상 장치(105)의 상기 디스플레이를 통해 표시될 다른(another) 이미지를 식별하고,
    상기 MR 장치(102)와의 상기 연결이 해제되는 동안, 상기 다른 이미지를 상기 가장 장치의 상기 디스플레이 상에서 표시하기 위한 데이터를, 상기 통신 회로(240)를 통해 상기 가상 공간을 제공하는 외부 전자 장치에게 송신하도록, 더(further) 구성되는,
    전자 장치.
  14. 청구항 1에 있어서,
    디스플레이(220)를 더 포함하고,
    상기 프로세서(210)는,
    상기 마이크로폰(230)을 통해 획득된 다른 음성 신호의 인식에 기반하여, 상기 소프트웨어 어플리케이션을 통해 등록된, 상기 가상 장치(105)를 포함하는 복수의 장치들의 위치들과 구별되는 다른 위치에서의 표시를 나타내는 다른 음성 명령을 식별하고,
    상기 다른 음성 명령에 기반하여, 상기 다른 위치에서 위치된 다른 가상 장치(105)를 등록하기 위한 상기 소프트웨어 어플리케이션의 사용자 인터페이스를, 상기 전자 장치(101)의 상기 디스플레이(220) 상에서 표시하도록, 더 구성되는,
    전자 장치.
  15. 마이크로폰(230) 및 통신 회로(240)를 포함하는 전자 장치(101) 내에서 실행되는 방법에 있어서,
    상기 마이크로폰(230)을 통해 획득된 음성 신호의 인식에 기반하여, 상기 전자 장치(101)를 통해 다른 장치를 제어하기 위한, 소프트웨어 어플리케이션을 이용하여 등록된 가상 장치(virtual device)(105)의 디스플레이를 통한 표시를 나타내는 음성 명령을 식별하는 동작과,
    상기 음성 명령에 기반하여, 상기 가상 장치(105)를 표시하기 위한 MR(mixed reality) 장치가 착용되었는지 여부를 식별하는 동작과,
    상기 MR 장치(102)가 착용됨을 식별하는 것에 응답하여, 상기 가상 장치(105)와 연계로, 상기 소프트웨어 어플리케이션을 이용하여 등록된, 장치 정보에 기반하여, 상기 MR 장치(102)를 통해 표시되는 상기 가상 장치(105)의 상기 디스플레이 상에 표시될 이미지를 획득하는 동작과,
    상기 이미지에 대한 정보를 상기 MR 장치(102)를 통해 표시되는 상기 가상 장치(105)의 상기 디스플레이 상에서 표시하기 위한 신호를, 상기 통신 회로(240)를 통해 상기 MR 장치(102)에게 송신하는 동작을 포함하는,
    방법.
PCT/KR2023/015887 2022-10-17 2023-10-13 가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 WO2024085550A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP23855872.0A EP4379534A1 (en) 2022-10-17 2023-10-13 Electronic device for controlling display of virtual device, method therefor, and non-transitory computer-readable storage medium therefor
US18/543,729 US20240127562A1 (en) 2022-10-17 2023-12-18 Electronic device, method, and non-transitory computer readable storage medium for control of display of virtual device

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20220133621 2022-10-17
KR10-2022-0133621 2022-10-17
KR1020220157820A KR20240053488A (ko) 2022-10-17 2022-11-22 가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
KR10-2022-0157820 2022-11-22

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/543,729 Continuation US20240127562A1 (en) 2022-10-17 2023-12-18 Electronic device, method, and non-transitory computer readable storage medium for control of display of virtual device

Publications (1)

Publication Number Publication Date
WO2024085550A1 true WO2024085550A1 (ko) 2024-04-25

Family

ID=90361411

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2023/015887 WO2024085550A1 (ko) 2022-10-17 2023-10-13 가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Country Status (1)

Country Link
WO (1) WO2024085550A1 (ko)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160379417A1 (en) * 2011-12-06 2016-12-29 Microsoft Technology Licensing, Llc Augmented reality virtual monitor
KR20170051013A (ko) * 2015-11-02 2017-05-11 엘지전자 주식회사 테더링 형 hmd 및 그 hmd의 제어 방법
KR20190102151A (ko) * 2019-08-13 2019-09-03 엘지전자 주식회사 사용자에게 정보를 제공하는 인공 지능 서버 및 그 방법
JP2019197554A (ja) * 2019-06-13 2019-11-14 株式会社コロプラ コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160379417A1 (en) * 2011-12-06 2016-12-29 Microsoft Technology Licensing, Llc Augmented reality virtual monitor
KR20170051013A (ko) * 2015-11-02 2017-05-11 엘지전자 주식회사 테더링 형 hmd 및 그 hmd의 제어 방법
JP2019197554A (ja) * 2019-06-13 2019-11-14 株式会社コロプラ コンテンツ視聴のための装置および方法、並びにコンテンツ視聴動作をコンピュータに制御させるコンピュータ・プログラム
KR20190102151A (ko) * 2019-08-13 2019-09-03 엘지전자 주식회사 사용자에게 정보를 제공하는 인공 지능 서버 및 그 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
VATAVU RADU-DANIEL; SAEGHE PEJMAN; CHAMBEL TERESA; VINAYAGAMOORTHY VINOBA; URSU MARIAN F: "Conceptualizing Augmented Reality Television for the Living Room", PROCEEDINGS OF THE THE INTERNATIONAL CONFERENCE ON ENGINEERING & MIS 2015, ICEMIS '15, ACM PRESS, NEW YORK, NEW YORK, USA, 17 June 2020 (2020-06-17) - 26 September 2015 (2015-09-26), New York, New York, USA, pages 1 - 12, XP059170456, ISBN: 978-1-4503-3418-1, DOI: 10.1145/3391614.3393660 *

Similar Documents

Publication Publication Date Title
WO2020130691A1 (en) Electronic device and method for providing information thereof
WO2021206415A1 (en) Electronic device for communicating in augmented reality and method thereof
WO2022131549A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022019636A1 (ko) 가상 사용자 인터랙션을 수행하기 위한 방법 및 그 장치
WO2023022567A1 (ko) 폴더블 전자 장치 및 디지털 홀 센서를 이용한 폴더블 전자 장치의 제어 방법
WO2022154440A1 (ko) 오디오 데이터를 처리하는 전자 장치 및 그 동작 방법
WO2024085550A1 (ko) 가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024029740A1 (ko) 입력 장치를 이용하여 드로잉 데이터를 출력하는 방법 및 장치
WO2024063380A1 (ko) 플렉서블 디스플레이에 표시되는 화면을 제어하기 위한 전자 장치 및 방법
WO2024058458A1 (ko) 웹페이지를 적응적으로 표시하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024080680A1 (ko) 상황 특정 설정을 위한 사용자 인터페이스를 표시하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2023054897A1 (ko) 영상 통화를 수행하는 전자 장치 및 방법
WO2024043519A1 (ko) 복수의 디스플레이들을 제어하는 방법 및 이를 지원하는 전자 장치
WO2024080709A1 (ko) 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2023249243A1 (ko) 외부 객체의 접촉에 따른 지정된 기능을 실행하는 전자 장치 및 방법
WO2023149782A1 (ko) 햅틱 기능을 제공하기 위한 전자 장치 및 그 방법
WO2024101950A1 (ko) 가상 오브젝트를 표시하는 전자 장치 및 이의 제어 방법
WO2022181949A1 (ko) Ar/vr 환경을 제공하는 전자 장치 및 그 운용 방법
WO2024076008A1 (ko) 파일을 공유하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024080553A1 (ko) 전자 장치 및 그 동작 방법
WO2024025194A1 (ko) 알림과 관련된 동작을 수행하기 위한 방법 및 이를 지원하는 전자 장치
WO2023054948A1 (ko) 가변 디스플레이를 포함하는 전자 장치 및 그의 동작 방법
WO2023128208A1 (ko) 사용자의 머리에 장착 가능한 전자 장치 및 상기 전자 장치에서 생체 정보를 이용한 기능을 제공하는 방법
WO2022114885A1 (ko) 스타일러스를 이용한 전자 장치의 제어 방법 및 그 방법을 이용하여 스타일러스로부터 입력을 받는 전자 장치
WO2022211307A1 (ko) 올웨이즈 온 디스플레이 컨텐트를 표시를 지원하는 전자 장치 및 이의 제어 방법

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2023855872

Country of ref document: EP

Effective date: 20240301