WO2024080709A1 - 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 - Google Patents

음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 Download PDF

Info

Publication number
WO2024080709A1
WO2024080709A1 PCT/KR2023/015549 KR2023015549W WO2024080709A1 WO 2024080709 A1 WO2024080709 A1 WO 2024080709A1 KR 2023015549 W KR2023015549 W KR 2023015549W WO 2024080709 A1 WO2024080709 A1 WO 2024080709A1
Authority
WO
WIPO (PCT)
Prior art keywords
executable
executable object
microphone
processor
voice command
Prior art date
Application number
PCT/KR2023/015549
Other languages
English (en)
French (fr)
Inventor
현경학
김경태
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020220146561A external-priority patent/KR20240052578A/ko
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Publication of WO2024080709A1 publication Critical patent/WO2024080709A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; DEAF-AID SETS; PUBLIC ADDRESS SYSTEMS
    • H04R9/00—Transducers of moving-coil, moving-strip, or moving-wire type
    • H04R9/08—Microphones

Definitions

  • the descriptions below relate to an electronic device, method, and non-transitory computer-readable storage medium for controlling an executable object based on a voice signal.
  • An electronic device can display a screen.
  • the screen may include executable objects.
  • each of the executable objects may be used to execute a function in response to user input.
  • the user input may be identified based on a touch input having a point of contact on each of the executable objects, an input received through a controller connected to the electronic device, or an image acquired through an image sensor of the electronic device. It may be a gesture input.
  • the electronic device may include a microphone.
  • the electronic device may include a display.
  • the electronic device may include a processor.
  • the processor may be configured to display, through the display, a screen including a plurality of executable objects.
  • the processor activates the microphone for the executable object based on a focused executable object among the plurality of executable objects, and activates the microphone to receive input for the focused executable object. It may be configured to display, through the display, at least one visual object indicating that The processor may be configured to identify whether a voice signal obtained through the microphone while the at least one visual object is displayed corresponds to a voice command assigned to the executable object.
  • the processor may be configured to execute a function of the executable object associated with the voice command based on the voice signal corresponding to the voice command.
  • a method is provided.
  • the method can be implemented within an electronic device that includes a microphone and a display.
  • the method may include displaying, through the display, a screen including a plurality of executable objects.
  • the method based on a focused executable object among the plurality of executable objects, activates the microphone for the executable object, and activates the microphone to receive input for the focused executable object. It may include an operation of displaying at least one visual object indicating that the display is done through the display.
  • the method may include identifying whether a voice signal obtained through the microphone while the at least one visual object is displayed corresponds to a voice command assigned to the executable object.
  • the method may include executing a function of the executable object associated with the voice command based on the voice signal corresponding to the voice command.
  • a non-transitory computer-readable storage medium may store one or more programs.
  • the one or more programs when executed by a processor of the electronic device including a microphone and a display, cause the electronic device to display, via the display, a screen including a plurality of executable objects. It can include instructions that do.
  • the one or more programs when executed by the processor, activate the microphone for the executable object based on a focused executable object among the plurality of executable objects, and activate the microphone for the executable object on which the microphone is focused. and instructions that cause the electronic device to display, through the display, at least one visual object indicating activation to receive input for an object.
  • the one or more programs when executed by the processor, are configured to identify whether a voice signal obtained through the microphone while the at least one visual object is displayed corresponds to a voice command assigned to the executable object. May contain instructions that cause device operation.
  • the one or more programs include instructions that, when executed by the processor, cause the electronic device to execute a function of the executable object associated with the voice command, based on the voice signal corresponding to the voice command. can do.
  • FIG. 1 illustrates an example of an environment containing an example electronic device.
  • FIG. 2 is a simplified block diagram of an example electronic device.
  • FIG. 3 is a flow diagram illustrating an example method of executing a function associated with a voice command assigned to an executable object based on a voice signal.
  • FIG. 4 shows an example of at least one visual object indicating that a microphone is activated to receive input for an executable object.
  • 5A, 5B, 5C, and 5D show examples of voice commands assigned to executable objects.
  • FIG. 6 is a flow diagram illustrating an example method of displaying at least one visual object using a timer.
  • FIG. 7 is a flow diagram illustrating an example method of executing functions associated with different voice commands assigned to different executable objects based on voice signals.
  • FIG. 8 shows an example of at least one visual object indicating that a microphone is activated to receive input for another executable object.
  • 9 and 10 illustrate examples of functional components executed by a processor of an example electronic device.
  • FIG. 11 is a block diagram of an electronic device in a network environment according to various embodiments.
  • FIG. 1 illustrates an example of an environment containing an example electronic device.
  • the environment 100 may include an electronic device 101 .
  • the electronic device 101 may be the electronic device 101-1 or the electronic device 101-2.
  • the electronic device 101-1 may be a multifunction electronic device or portable device, such as a smartphone, tablet, or laptop computer. .
  • the electronic device 101-1 may acquire a voice signal through the microphone of the electronic device 101-1.
  • the voice signal is transmitted from the user 150 to execute one of a plurality of functions each executed through a plurality of voice commands defined within the electronic device 101-1. It can be caused.
  • the electronic device 101-1 may compare the voice signal with each of the plurality of voice commands to identify the function intended by the user 150.
  • the electronic device 101-1 responds to the voice signal, Other functions distinct from the above functions intended by the user 150 may be executed. Since the other functions are functions not intended by the user 150, execution of the other functions may cause inconvenience.
  • the electronic device 101-2 may be a device on the body of the user 150, such as augmented reality (AR) glass, a video see-through (VST) device, or a head mount device. It may be a wearable device worn over some body.
  • the electronic device 101-2 may display the screen 110 through the display of the electronic device 101-2.
  • the screen 110 may be displayed together with an external object 115 shown through the display.
  • the electronic device 101-2 is a VST device
  • the screen 110 includes a visual object 116 corresponding to an external object 115 obtained through a camera of the electronic device 101-2, and can be displayed together.
  • the electronic device 101-2 unlike the electronic device 101-1, cannot receive a touch input contacted on the display, the electronic device 101-2 is an electronic device ( Information (e.g., gesture information) received through the controller 130 connected to 101-2) may be identified as a user input for the executable object 120 in the screen 110. For example, because the user input does not contact the executable object 120, executing the function of the executable object 120 through the user input may cause inconvenience.
  • the electronic device 101-2 may acquire a voice signal through the microphone of the electronic device 101-2.
  • the voice signal is transmitted from the user 150 to execute one of a plurality of functions each executed through a plurality of voice commands defined within the electronic device 101-2. It can be caused.
  • the electronic device 101-2 may compare the voice signal with each of the plurality of voice commands to identify the function intended by the user 150. For example, when the number of the plurality of voice commands is very large or some of the plurality of voice commands are similar to other parts of the plurality of voice commands, the electronic device 101-2 responds to the voice signal, Other functions distinct from the above functions intended by the user 150 may be executed. Since the other functions are functions not intended by the user 150, execution of the other functions may cause inconvenience.
  • the electronic device 101 may include components to reduce this inconvenience.
  • the above components can be illustrated through FIG. 2.
  • FIG. 2 is a simplified block diagram of an example electronic device.
  • the electronic device 101 may include a processor 210, a display 220, a microphone 230, and a memory 240.
  • the processor 210 may include at least a portion of the processor 1120 of FIG. 11 .
  • the display 220 may include at least a portion of the display module 1160 of FIG. 11 .
  • the display 220 may include a transparent display.
  • the microphone 230 may include at least a portion of the input module 1150 of FIG. 11 .
  • the memory 240 may include at least a portion of the memory 1130 of FIG. 11 .
  • the processor 210 may be operably or operatively coupled with each of the display 220, microphone 230, and memory 240.
  • the processor 210 is operatively coupled to each of the display 220, the microphone 230, and the memory 240, meaning that the processor 210 directly connects the display 220, the microphone 230, and the memory 240. It may indicate that it is connected to each memory 240.
  • the processor 210 is operatively coupled with each of the display 220, the microphone 230, and the memory 240, meaning that the processor 210 is configured to display ( 220), microphone 230, and memory 240, respectively.
  • processor 210 is operatively coupled with each of display 220, microphone 230, and memory 240, meaning that each of display 220, microphone 230, and memory 240 is a processor. It can indicate that it operates based on instructions executed by 210.
  • processor 210 is operatively coupled with each of display 220, microphone 230, and memory 240, meaning that each of display 220, microphone 230, and memory 240 is a processor. It can be indicated that it is controlled by (210). However, it is not limited to this.
  • processor 210 may be configured to perform the operations illustrated below.
  • FIG. 3 is a flow diagram illustrating an example method of executing a function associated with a voice command assigned to an executable object based on a voice signal.
  • the method may be executed by processor 210, shown in FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • the processor 210 may display a screen through the display 220.
  • the screen may include a plurality of executable objects.
  • the screen may be an execution screen of a software application (eg, application 1146 in FIG. 11).
  • the screen may be wallpaper.
  • the screen may be a lock screen.
  • each of the plurality of executable objects may be configured to execute a function in response to user input.
  • the plurality of executable objects may be used to provide functions for one (a) software application.
  • some of the plurality of executable objects and other portions of the plurality of executable objects may be used to provide functions for different software applications.
  • some of the plurality of executable objects are used to provide at least one functionality for a first software application, and other portions of the plurality of executable objects are used to provide at least one functionality for a second software application. It can be used to provide.
  • each of the plurality of executable objects may be referred to as a user interface component.
  • the properties of the user input received to execute the corresponding function through some of the plurality of executable objects may be the properties of the user input received to execute the corresponding function through another part of the plurality of executable objects. It may be different from the properties.
  • the part of the plurality of executable objects is set to execute a corresponding function in response to a tap input
  • the other part of the plurality of executable objects is configured to execute the corresponding function in response to a drag input.
  • the plurality of executable objects will be illustrated through FIG. 4.
  • the processor 210 activates a microphone (e.g., microphone 230 in FIG. 2) based on a focused executable object among the plurality of executable objects and displays at least one visual signal. Objects can be displayed.
  • a microphone e.g., microphone 230 in FIG. 2
  • the executable object when the executable object is focused among the plurality of executable objects, it may indicate that the executable object is selected (or identified) among the plurality of executable objects. For example, when the executable object is focused among the plurality of executable objects, it may indicate that a cursor (or pointer) is located on the executable object among the plurality of executable objects. . For example, if the information for displaying the screen indicates that the cursor is located at the executable object in response to display of the screen, the executable object responds to displaying the screen based on the information. So, it can be focused. For example, when the cursor moved according to user input is located on the executable object, the executable object may be focused.
  • the user input may be a touch input, a gesture input, or a gaze input.
  • the executable object when the executable object is focused among the plurality of executable objects, it may indicate a state of waiting to execute the function of the executable object identified (or selected) among the plurality of executable objects.
  • focus of the executable object may be indicated through a visual object (eg, a pointer or cursor) located on or around the executable object.
  • the visual object may be distinguished from another visual object displayed in connection with user input.
  • the microphone 230 may be activated for a focused executable object among the plurality of executable objects.
  • the microphone 230 may perform an input to the executable object through a controller (e.g., the controller 130 of FIG. 1) connected to the electronic device 101, a touch input to the executable object, and the execution. It may be activated to receive for the executable object a voice input that is distinguished from a gaze input for the executable object and a gesture input for the executable object.
  • microphone 230 may be activated in response to identifying that the executable object is focused.
  • microphone 230 being activated for the executable object may indicate that microphone 230 is activated in response to the focus of the executable object.
  • the voice signal obtained through the microphone 230 is processed to identify or recognize whether the voice signal is a voice input for the executable object. It can indicate that However, it is not limited to this.
  • the at least one visual object may indicate that the microphone 230 is activated to receive input for the executable object among the plurality of executable objects.
  • the at least one visual object may include a visual object displayed as associated with the executable object.
  • the executable object associated with the visual object may be visually highlighted with respect to at least one other executable object among the plurality of executable objects.
  • the executable object may be visually emphasized relative to the at least one other executable object through the visual object displayed along the periphery of the executable object.
  • the at least one visual object may include another visual object that is distinct from the visual object.
  • the other visual object may indicate that the microphone is activated.
  • the at least one visual object may include the visual object and/or the other visual object.
  • the other visual object may be spaced apart from the visual object.
  • the visual object and the other visual object may be illustrated through FIG. 4 .
  • FIG. 4 shows an example of at least one visual object indicating that a microphone is activated to receive input for an executable object.
  • a processor may display a screen 400 .
  • screen 400 may at least partially overlap background 405 .
  • the background 405 may be the real-world environment around the electronic device 101, as viewed through the display 220.
  • the background 405 may be an image representing the real environment acquired through a camera of the electronic device 101.
  • the background 405 may be wallpaper (wall paper).
  • the screen 400 may include a plurality of executable objects 410.
  • the executable object 410-1 among the plurality of executable objects 410 may be identified or focused.
  • the executable object 410-1 may be focused based on a pointer (or cursor) 415 moved onto the executable object 410-1 based on gaze input or gesture input.
  • the executable object 410-1 may be focused based on a cursor positioned on the executable object 410-1 in response to the display of the screen 400.
  • the processor 210 may display at least one visual object 420 in response to focus (or identification) of the executable object 410-1.
  • at least one visual object 420 may include a visual object 421 and another visual object 422.
  • the visual object 421 may indicate that the executable object 410-1 is focused among the plurality of executable objects 410.
  • visual object 421 may indicate that microphone 230 is activated to receive input for executable object 410-1.
  • the executable object 410-1 associated with the visual object 421 may be visually emphasized (relative to) at least one other executable object among the plurality of executable objects 410. can be visually highlighted.
  • the visual object 421 may be displayed along the periphery of the executable object 410-1.
  • another visual object 422 may indicate that microphone 230 is activated.
  • another visual object 422 may indicate that microphone 230 is activated to receive input for executable object 410-1.
  • another visual object 422 displayed along with the visual object 421 may indicate that the microphone 230 is activated to receive input for the executable object 410-1.
  • the other visual object 422 has a color that corresponds to the color (or representative color) of the executable object 410-1, so that the microphone 230 can identify the executable object 410-1. Can indicate that it is activated to receive input. However, it is not limited to this.
  • At least one visual object 420 may be at least partially replaced.
  • the visual object 421 may be replaced with a layer 450 that is at least partially overlaid on the executable object 410-1.
  • layer 450 may be translucent so that executable object 410-1 is visible.
  • visual object 421 may be replaced by a visual effect 460 representing the edge of a shiny executable object 410-1.
  • the sparkle provided through visual effect 460 may be moved along the edge at a predetermined speed.
  • visual object 422 or at least one visual object 420 including visual object 421 and visual object 422 may be a visual object floated or overlaid on executable object 410-1. It can be replaced with (470).
  • visual object 470 may blink for emphasis. However, it is not limited to this.
  • processor 210 determines whether a voice signal obtained through microphone 230 while the at least one visual object is displayed corresponds to a voice command assigned to the executable object. can be identified. For example, the processor 210 may acquire the voice signal through the microphone 230 while the at least one visual object is displayed. For example, processor 210, in response to obtaining the voice signal, may recognize the voice signal for comparison with the voice command. For example, the processor 210 may recognize the voice signal by identifying whether at least one keyword of the voice command is included in the voice signal. However, it is not limited to this.
  • the processor 210 may convert the voice signal into text and identify whether the converted text corresponds to the voice command assigned to the executable object.
  • the voice command may be predetermined or predefined within the electronic device 101 before the voice signal is obtained.
  • the electronic device 101 may store information for each of the plurality of executable objects.
  • processor 210 may identify information for the executable object from the stored information in response to identifying that the voice signal is obtained via the microphone 230.
  • the processor 210 may obtain the voice command from the identified information.
  • the processor 210 may identify whether the voice signal corresponds to the voice command by comparing the voice signal with the obtained voice command.
  • the information may be set in a compatible, extensible or flexible format.
  • the information may be set in JSON (javascript object notation) format.
  • JSON Javascript object notation
  • the information set in JSON format can be set so that a software application developer as well as a system provider can add, modify, or adjust voice commands assigned to the executable object or functions associated with the voice command.
  • the information set in JSON format is for an executable object for inputting date and time
  • the information set in JSON format may be displayed as shown in Table 1 below.
  • Table 1 The portion of Table 1 under the heading “developer defined” may be for software application developers.
  • the information set in JSON format is for an executable object for an outgoing call through a contact list
  • the information set in JSON format is shown in Table 2 below. It can happen.
  • the processor may, through the information represented in Table 2, respond to a user input indicating selection of an executable object corresponding to “Aleen” in the contact list.
  • an outgoing call may be made to another electronic device (e.g., “Aleen’s” electronic device).
  • the processor 210 may use the identified information. Since the voice command obtained from and the voice signal are compared, the probability that the voice signal is recognized differently from the user's intention may be relatively low.
  • the electronic device 101 can enhance the quality of voice recognition service. For example, the amount of resources consumed to compare the voice signal with the voice command obtained from the identified information may be determined by comparing the voice signal with each of all voice commands available within the electronic device 101. Since the amount of resources consumed is less, the electronic device 101 can enhance resource efficiency for the voice recognition service.
  • the processor 210 executes operation 307 on the condition that the voice signal corresponds to the voice command (operation 305 - yes), and on the condition that the voice signal is distinct from the voice command (operation 305 - No), operation 309 can be executed.
  • the processor 210 may execute the function of the executable object associated with the voice command based on the voice signal corresponding to the voice command.
  • the information for the executable object may include data about the function associated with the voice command.
  • the processor 210 may execute the function based on the data. The data will be illustrated in more detail through the description of FIGS. 9 and 10.
  • the function of the executable object associated with the voice command may be implemented in various ways.
  • the voice command and the functions of the executable object associated with the voice command can be illustrated through FIGS. 5A to 5D.
  • Figures 5A-5D show examples of voice commands assigned to executable objects.
  • the focused executable object may be one of the executable objects 510.
  • a voice command assigned to each of the executable objects 510 may be defined as text (or a word) included in each of the executable objects 510 .
  • the voice command assigned to the executable object 510-1 may be “Favorites,” which is text included in the executable object 510-1.
  • the function associated with the voice command may be to display a list of web pages included in favorites.
  • a processor eg, processor 210 in FIG. 2 may display the list in response to the voice signal corresponding to “favorites.” However, it is not limited to this.
  • the voice command assigned to the executable object 510-2 may be “translator,” which is text contained within the executable object 510-2.
  • the function associated with the voice command may be to display a web page in which the first language in the web page has been translated into the second language.
  • processor 210 may, in response to the voice signal corresponding to “translator,” execute the translation and display the web page translated into the second language.
  • it is not limited to this.
  • the focused executable object may be the executable object 511.
  • a voice command assigned to the executable object 511 may indicate a visual element 512 included within the executable object 511 .
  • the voice command assigned to executable object 511 may be “go back,” which indicates the shape of visual element 512 contained within executable object 511 .
  • the function associated with the voice command may be to display the previous screen.
  • the processor 210 may display the previous screen in response to the voice signal corresponding to “go back.” However, it is not limited to this.
  • the focused executable object may be the executable object 513.
  • a voice command assigned to the executable object 513 may indicate a type of input received for the executable object 513 or a function provided through the executable object 513.
  • the voice command assigned to the executable object 513 may be “long press” indicating the type of input and/or “display list of items” indicating the function.
  • the function associated with the voice command may be to display a list 514 of the items.
  • processor 210 may display list 514 in response to the audio signal corresponding to “long press” or “display list of items.” However, it is not limited to this.
  • the focused executable object may be an executable object 515 that is a text input portion or a text input field.
  • a voice command assigned to executable object 515 may indicate activation or deactivation of another function (or means) used to provide the functionality of executable object 515.
  • the voice command assigned to executable object 515 may be “dictate,” “stop dictation,” “keyboard,” “show keyboard,” and/or “stop showing keyboard.” there is.
  • the function associated with the voice command is to obtain another voice signal corresponding to the text to be input into the text input portion through a microphone (e.g., microphone 230 in FIG.
  • This may include displaying a virtual keyboard, stopping input of text into the text input portion, or stopping displaying the virtual keyboard.
  • the processor 210 may display the virtual keyboard in response to the voice signal corresponding to “keyboard.” However, it is not limited to this.
  • the focused executable object may be executable object 516.
  • voice commands assigned to executable object 516 may be provided based on movement, direction of movement, or movement of executable object 516 or visual element 517 within executable object 516.
  • function can be expressed.
  • the voice command assigned to executable object 516 may be “left,” “right,” “low,” “high,” “loud,” and/or “small.”
  • the function associated with the voice command may be to change the volume of audio provided through the electronic device 101.
  • processor 210 may move visual element 517 within executable object 516 to the left and decrease the volume in response to the audio signal corresponding to “smaller.”
  • the focused executable object may be executable object 518.
  • a voice command assigned to executable object 518 may indicate where executable object 518 or visual element 519 within executable object 518 is to be moved.
  • the voice commands assigned to executable object 518 are “Level 1”, “Level 2”, “Level 3”, “Level 4”, “Level 5”, “Level 6”, “Level 7", and "level 8".
  • the function associated with the voice command may be to provide information at a level corresponding to the location.
  • processor 210 may, in response to the audio signal corresponding to “level 3,” move visual element 519 within executable object 518 to a position corresponding to “level 3,” and Information can be provided in 3.
  • the focused executable object may be the executable object 520.
  • a voice command assigned to the executable object 520 may indicate one item among a plurality of items selectable through the executable object 520.
  • the voice command assigned to the executable object 520 may be “1”, “2”, ..., and “31” (or “30”).
  • the function associated with the voice command may be providing the item.
  • processor 210 may display item “24” within executable object 520 in response to the speech signal corresponding to “24.”
  • the voice signal may include content about at least one other executable object 521 associated with the executable object 520.
  • the processor 210 transmits the voice signal to at least one other executable object 521 under the condition that the focused executable object 520 among the plurality of executable objects is associated with at least one other executable object 521. It can be recognized for comparison with the voice command assigned to the executable object 521. For example, processor 210 may, in response to the speech signal corresponding to “December 24, 2020,” identify at least one other executable object 521 associated with executable object 520; , an executable object 520 providing the item “24” and at least one other executable object 521 providing the item “December 2020” may be displayed.
  • the voice command assigned to each of the executable object 515, executable object 516, executable object 518, and executable object 520 is a template ID (identifier) (e.g. TEXTBOX , VOLCONTROL, LEVELBAR, DATESETTING).
  • the voice command may be assigned or set based on the template ID.
  • the processor 210 may provide a function corresponding to the voice command by recognizing the voice signal for the template ID. As a non-limiting example, if the speech signal obtained while executable object 516 is focused is “low,” processor 210 may determine that “low” is recognized from the speech signal. It can be identified that it is a voice command.
  • the focused executable object may be an executable object 522.
  • a voice command assigned to the executable object 522 may indicate the type of input received for movement of the executable object 522 or a function provided according to the movement of the executable object 522.
  • the voice command assigned to executable object 522 may be “scroll,” “scroll input,” “scroll up,” and/or “scroll down” to indicate the type or function of the input.
  • the function associated with the voice command may be scrolling content associated with executable object 522.
  • processor 210 may, in response to the audio signal corresponding to “scroll,” “scroll input,” “scroll up,” or “scroll down,” scroll the content to change the portion of the content. Other portions of the content may be displayed.
  • the focused executable object may be the executable object 523.
  • a voice command assigned to the executable object 523 moves focus from the executable object 523 to other executable objects adjacent to the executable object 523 (e.g., the executable object 524 and the executable object 523 It can indicate changing to an object 525).
  • the voice command assigned to executable object 523 may be “move cursor,” “cursor up,” and/or “cursor down.”
  • the function associated with the voice command may be to change the focus from the executable object 523 to another executable object (e.g., executable object 524 and executable object 525). there is.
  • processor 210 may, in response to the spoken signal corresponding to “cursor move,” “cursor up,” and/or “cursor down,” shift the focus to the other executable object (e.g., It can be changed to an object 524 or an executable object 525).
  • the other executable object e.g., It can be changed to an object 524 or an executable object 525.
  • the focused executable object may be executable object 526.
  • a voice command assigned to the executable object 526 may include selecting one of the visual elements 527 within the executable object 526 or selecting one of the visual elements 527 within the executable object 526. It may indicate selecting content.
  • the voice command assigned to executable object 526 may be “page 1,” “page 2,” “page 3,” “previous page,” and/or “next page.”
  • the function linked to the voice command may be to display content changed according to the selection.
  • the processor 210 may display content 530 changed from content 529 in response to the voice signal corresponding to “next page” or “page 3.”
  • the focused executable object may be the executable object 531.
  • a voice command assigned to the executable object 531 may indicate a change in the representation, size, state, or posture of the executable object 531.
  • the voice command assigned to the executable object 531 may be “Rotate X degrees counterclockwise” (X is a real number between 0 and 360), “Small”, or “Large.”
  • the function associated with the voice command may be to change the expression, size, state, or posture of the executable object 531.
  • the processor 210 may change the posture of the executable object 531, such as state 532, in response to the voice signal corresponding to “rotate X degrees counterclockwise.”
  • the processor 210 may end recognizing the voice signal based on the voice signal that is distinct from the voice command. For example, processor 210 may process the voice signal based on identifying that the voice signal is different from the voice command based on a comparison between the voice signal and the voice command executed in accordance with operation 305. can be stopped. For example, processor 210 may, based on the identification, refrain from performing a comparison between the voice signal and each of the remaining voice commands among all voice commands available within electronic device 101. from) can be bypassed. For example, after terminating the recognition of the audio signal, the processor 210 obtains another audio signal following the audio signal through the microphone 230 while the at least one visual object is displayed. You can determine whether it works or not.
  • the electronic device 101 may receive the input of the executable object as a voice input. For example, the electronic device 101 may enhance the convenience of inputting to the executable object through the reception of the voice input. For example, the electronic device 101 may display the at least one visual object indicating that an input for the executable object can be received through the microphone 230. For example, because the at least one visual object guides that the executable object is controllable through the voice input, the electronic device 101 may display the at least one visual object through the display. , can provide an enhanced user experience.
  • the electronic device 101 may: The accuracy of feedback can be enhanced through voice input. For example, since the voice input received via microphone 230 while the at least one visual object is displayed is identified with respect to the voice command assigned to the executable object, the electronic device 101 may: Feedback on the voice input can be provided through the amount of operations performed.
  • FIG. 6 is a flow diagram illustrating an example method of displaying at least one visual object using a timer.
  • the method may be executed by processor 210, shown in FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • Operations 601 to 607 of FIG. 6 may be included in the operations illustrated through the description of FIGS. 3 to 5 or may be related to the operations illustrated through the description of FIGS. 3 to 5 .
  • processor 210 in response to displaying the at least one visual object, activates a microphone (e.g., microphone 230 in Figure 2) for the executable object; , you can run a timer.
  • the timer may be triggered to identify the time at which the microphone 230 is activated and the time at which the at least one visual object is displayed. For example, not receiving an audio signal through microphone 230 for a certain period of time from the display of the at least one visual object may indicate the user's intention not to perform the function of the executable object. Because it can display, processor 210 can start the timer in response to the display of the at least one visual object.
  • processor 210 may identify whether the timer expires. For example, processor 210 may execute operation 605 while the timer is running (act 603 - no) and, in response to expiration of the timer (act 603 - yes), execute operation 607.
  • the processor 210 identifies whether the voice signal obtained through the microphone 230 corresponds to the voice command and displays the display of the at least one visual object. It can be maintained. For example, the identification may correspond to at least a portion of operation 305 of FIG. 3 .
  • maintaining the display of the at least one visual object may indicate that the at least one visual object is displayed while the timer is running.
  • the representation of the at least one visual object may change.
  • the color of the at least one visual object may change from a first color to a second color.
  • the shape of the at least one visual object may change from a first shape to a second shape.
  • the size of the at least one visual object may change from a first size to a second size.
  • the timer may be stopped, at least temporarily, while the voice signal is acquired.
  • the timer may be restarted in response to completing acquisition of the voice signal.
  • the timer may be restarted in response to identifying that the voice signal is distinct from the voice command.
  • a stop of the timer may be maintained based on identifying that the voice signal corresponds to the voice command.
  • processor 210 may deactivate microphone 230 and cease display of the at least one visual object in response to the expiration of the timer. For example, the fact that the voice signal corresponding to the voice command is not acquired until the timer expires indicates that the activation of the microphone 230 and the display of the at least one visual object are different from the user's intent. Because of the bet, processor 210 may execute operation 607.
  • the electronic device 101 can reduce the power consumed for the activation of the microphone 230 through the timer. For example, because the electronic device 101 stops displaying the at least one visual object upon expiration of the timer, the electronic device 101 uses the timer to decrease the executable object. The visual quality of the at least one other executable object may be enhanced.
  • FIG. 7 is a flow diagram illustrating an example method of executing functions associated with different voice commands assigned to different executable objects based on voice signals.
  • the method may be executed by processor 210, shown in FIG. 2.
  • each operation may be performed sequentially, but is not necessarily performed sequentially. For example, the order of each operation may be changed, and at least two operations may be performed in parallel.
  • Operations 701 to 711 of FIG. 7 may be related to operations illustrated through the description of FIGS. 3 to 5 .
  • the processor 210 may display the at least one visual object associated with the executable object.
  • operation 701 may correspond to operation 303 in FIG. 3 .
  • the processor 210 may identify that another executable object among the plurality of executable objects in the screen is focused.
  • the change of focus from the executable object to the other executable object may be performed in response to a gaze input or a gesture input.
  • the change may include changing the focus from executable object 523 to executable object 524 (or executable object 525) in Figure 5C, at least one of the at least one associated with the executable object. It may be executed in response to the audio signal obtained through a microphone (eg, microphone 230 in FIG. 2) while one visual object is displayed.
  • a microphone eg, microphone 230 in FIG. 2
  • processor 210 may, in response to the identification, display the at least one visual object associated with the other executable object. For example, processor 210 may, in response to the identification, change the location of the at least one visual object or move the at least one visual object to determine the at least one visual object associated with the other executable object. Objects can be displayed.
  • processor 210 may, in response to the identification, activate microphone 230 for the other executable object, and cause microphone 230 to activate the microphone 230 for the other executable object among the plurality of executable objects.
  • the at least one visual object indicating that it is activated to receive input may be displayed.
  • the display of the at least one visual object associated with the other executable object can be illustrated through FIG. 8 .
  • FIG. 8 shows an example of at least one visual object indicating that a microphone is activated to receive input for another executable object.
  • a processor may move the visual object 421 in response to the focus of the other executable object.
  • processor 210 may cause visual emphasis to be displayed along the edges of other executable objects 410 - 2 , depending on the movement of visual object 421 .
  • the visual object 421 may indicate that another executable object 410 - 2 is focused among the plurality of executable objects 410 .
  • visual object 421 may indicate that a microphone (e.g., microphone 230 in FIG. 2) is activated to receive input for another executable object 410-2.
  • other executable objects 410-2 associated with the visual object 421 may be visually highlighted.
  • the color of at least one visual object 420 may change in response to the focus of another executable object 410-2.
  • the color of another visual object 422 may be the color (or representative color) of the executable object 410-1 to indicate that the microphone 230 is activated for another executable object 410-2. ) may be changed to the color (or representative color) of another executable object 410-2.
  • the position of the other visual object 422 may be maintained, unlike the visual object 421 which is moved according to the change of focus to the other executable object 410-2. However, it is not limited to this.
  • the processor 210 causes the audio signal obtained through the microphone 230 to be transmitted to the other executable while the at least one visual object associated with the other executable object is displayed. It is possible to identify whether it corresponds to another voice command assigned to a possible object. For example, the different voice commands may be distinguished from the voice command assigned to the executable object.
  • the processor 210 executes operation 709 on the condition that the voice signal obtained in operation 707 corresponds to the other voice command (operation 707 - yes), and the voice signal obtained in operation 707 is Operation 711 can be performed under a condition that is distinct from the other voice commands (operation 707 - No).
  • the processor 210 may execute the function of the other executable object associated with the other voice command based on the voice signal corresponding to the other voice command.
  • the processor 210 may end recognition of the voice signal based on the voice signal being distinguished from other voice commands.
  • the electronic device 101 visually determines the object to which the input received through the microphone 230 will be applied (e.g., the other executable object) by moving the at least one visual object according to the movement of focus. It can be emphasized.
  • FIG. 9 and 10 illustrate examples of functional components executed by a processor of an example electronic device.
  • the functional components may be executed by processor 210 shown in FIG. 2.
  • the processor 210 may identify that the executable object 910-1 among the executable objects 910 in the screen 900 is focused. For example, processor 210 may, in response to the identification, use input handler 920 to activate a microphone (e.g., microphone 230 of FIG. 2) and use the input handler 920 to activate the microphone 230 of FIG. You can run a timer. For example, the processor 210 may acquire a voice signal through the microphone 230 while the timer is running. For example, the processor 210 may provide the voice signal to the voice command filter 930 using the input handler 920.
  • a microphone e.g., microphone 230 of FIG. 2
  • the processor 210 may acquire a voice signal through the microphone 230 while the timer is running.
  • the processor 210 may provide the voice signal to the voice command filter 930 using the input handler 920.
  • the processor 210 uses the voice command filter 930 to extract information for the executable object 910-1 from information for the executable objects 910 stored in the database 940. It can be obtained.
  • the processor 210 uses the voice command filter 930 to map to the executable object 910-1 based on the information for the executable object 910-1.
  • Voice commands can be identified.
  • the processor 210 may compare the voice signal with the voice command using the voice command filter 930.
  • the processor 210 uses the voice command filter 930 to send data indicating that the voice signal corresponds to the voice command based on the voice signal corresponding to the voice command to the action manager 950. ) can be provided to.
  • the processor 210 may use the action manager 950 to execute the function of the executable object 910-1 linked to the voice command in response to the data.
  • the processor 210 may use the voice command filter 930 to terminate recognition of the voice signal based on the voice signal that is distinct from the voice command.
  • the electronic device 101 may store information for each of the executable objects 1010 included in the screen.
  • the information may include a set of data.
  • the set includes graphical data representing the shape of each of the executable objects 1010, voice command data representing a voice command assigned to each of the executable objects 1010, and execution associated with the voice command.
  • Each of the possible objects 1010 may include metadata indicating the function.
  • information for the executable object 1010-1 among the executable objects 1010 may include a set of data 1020-1.
  • set 1020-1 may include first graphical data, first voice command data, and first metadata.
  • information for the executable object 1010-2 among the executable objects 1010 may include a set of data 1020-2.
  • set 1020-2 may include second graphical data, second voice command data, and second meta data.
  • information for the executable object 1010-N among the executable objects 1010 may include a set of data 1020-N.
  • set 1020-N may include Nth graphical data, Nth voice command data, and Nth metadata.
  • the processor responds to focus of the executable object 1010-1 among the executable objects 1010 and uses the input handler 1030 to select the microphone.
  • the processor 210 may obtain the first voice command data and the first metadata from the set 1020-1 using the input handler 1030.
  • the first voice command data and the first metadata may be provided to the loader 1040.
  • the processor 210 may acquire a voice signal through the microphone 230 while the timer is running. For example, in response to the acquisition, the processor 210 may provide the audio signal to a loader 1040 using an input handler 1030. For example, the processor 210 may provide the voice signal and the first voice command data to the voice recognition engine 1050 using the loader 1040. The processor 210 may provide the first metadata to the action manager 1070 using the input handler 1030. However, it is not limited to this.
  • the processor 210 may recognize the voice signal with respect to the first voice command data using the voice recognition engine 1050.
  • the processor 210 operates the speech recognition engine 1050 based on information obtained from the model 1060 (e.g., a model trained through ML (machine learning)) connected to the speech recognition engine 1050.
  • the processor 210 may identify whether the voice signal corresponds to the first voice command data using the model 1060 for automatic speech recognition (ASR).
  • ASR automatic speech recognition
  • ASR automatic speech recognition
  • data indicating that the processor 210 executes a function based on the first metadata using the voice recognition engine 1050, based on the voice signal corresponding to the first voice command data. can be provided to the action manager 1070.
  • the processor 210 may use the action manager 1070 to execute the function of the executable object 1010-1 linked to the first voice command data based on the data.
  • the processor 210 performs a function based on the first metadata using the voice recognition engine 1050 or the input handler 1030, based on the voice signal different from the first voice command data. Data indicating refraining from execution may be provided to the action manager 1070, or recognition of the voice signal may be stopped.
  • FIG. 11 is a block diagram of an electronic device 1101 in a network environment 1100, according to various embodiments.
  • the electronic device 1101 communicates with the electronic device 1102 through a first network 1198 (e.g., a short-range wireless communication network) or a second network 1199. It is possible to communicate with at least one of the electronic device 1104 or the server 1108 through (e.g., a long-distance wireless communication network).
  • the electronic device 1101 may communicate with the electronic device 1104 through the server 1108.
  • the electronic device 1101 includes a processor 1120, a memory 1130, an input module 1150, an audio output module 1155, a display module 1160, an audio module 1170, and a sensor module ( 1176), interface 1177, connection terminal 1178, haptic module 1179, camera module 1180, power management module 1188, battery 1189, communication module 1190, subscriber identification module 1196. , or may include an antenna module 1197.
  • at least one of these components eg, the connection terminal 1178) may be omitted, or one or more other components may be added to the electronic device 1101.
  • some of these components e.g., sensor module 1176, camera module 1180, or antenna module 1197) are integrated into one component (e.g., display module 1160). It can be.
  • the processor 1120 executes software (e.g., program 1140) to operate at least one other component (e.g., hardware or software component) of the electronic device 1101 connected to the processor 1120. It can be controlled and various data processing or operations can be performed. According to one embodiment, as at least part of data processing or computation, the processor 1120 stores commands or data received from another component (e.g., sensor module 1176 or communication module 1190) in volatile memory 1132. The commands or data stored in the volatile memory 1132 can be processed, and the resulting data can be stored in the non-volatile memory 1134.
  • software e.g., program 1140
  • the processor 1120 stores commands or data received from another component (e.g., sensor module 1176 or communication module 1190) in volatile memory 1132.
  • the commands or data stored in the volatile memory 1132 can be processed, and the resulting data can be stored in the non-volatile memory 1134.
  • the processor 1120 may include a main processor 1121 (e.g., a central processing unit or an application processor) or an auxiliary processor 1123 that can operate independently or together (e.g., a graphics processing unit, a neural network processing unit ( It may include a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • a main processor 1121 e.g., a central processing unit or an application processor
  • auxiliary processor 1123 e.g., a graphics processing unit, a neural network processing unit ( It may include a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor.
  • the electronic device 1101 includes a main processor 1121 and a auxiliary processor 1123
  • the auxiliary processor 1123 may be set to use lower power than the main processor 1121 or be specialized for a designated function. You can.
  • the auxiliary processor 1123 may be implemented separately from the main processor 1121 or as part of it.
  • the auxiliary processor 1123 may, for example, act on behalf of the main processor 1121 while the main processor 1121 is in an inactive (e.g., sleep) state, or while the main processor 1121 is in an active (e.g., application execution) state. ), together with the main processor 1121, at least one of the components of the electronic device 1101 (e.g., the display module 1160, the sensor module 1176, or the communication module 1190) At least some of the functions or states related to can be controlled.
  • coprocessor 1123 e.g., image signal processor or communication processor
  • may be implemented as part of another functionally related component e.g., camera module 1180 or communication module 1190. there is.
  • the auxiliary processor 1123 may include a hardware structure specialized for processing artificial intelligence models.
  • Artificial intelligence models can be created through machine learning. This learning may be performed, for example, in the electronic device 1101 itself on which the artificial intelligence model is performed, or may be performed through a separate server (e.g., server 1108). Learning algorithms may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but It is not limited.
  • An artificial intelligence model may include multiple artificial neural network layers.
  • Artificial neural networks include deep neural network (DNN), convolutional neural network (CNN), recurrent neural network (RNN), restricted boltzmann machine (RBM), belief deep network (DBN), bidirectional recurrent deep neural network (BRDNN), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the examples described above.
  • artificial intelligence models may additionally or alternatively include software structures.
  • the memory 1130 may store various data used by at least one component (eg, the processor 1120 or the sensor module 1176) of the electronic device 1101. Data may include, for example, input data or output data for software (e.g., program 1140) and instructions related thereto.
  • Memory 1130 may include volatile memory 1132 or non-volatile memory 1134.
  • the program 1140 may be stored as software in the memory 1130 and may include, for example, an operating system 1142, middleware 1144, or application 1146.
  • the input module 1150 may receive commands or data to be used in a component of the electronic device 1101 (e.g., the processor 1120) from outside the electronic device 1101 (e.g., a user).
  • the input module 1150 may include, for example, a microphone, mouse, keyboard, keys (eg, buttons), or digital pen (eg, stylus pen).
  • the sound output module 1155 may output sound signals to the outside of the electronic device 1101.
  • the sound output module 1155 may include, for example, a speaker or a receiver. Speakers can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 1160 can visually provide information to the outside of the electronic device 1101 (eg, a user).
  • the display module 1160 may include, for example, a display, a hologram device, or a projector, and a control circuit for controlling the device.
  • the display module 1160 may include a touch sensor configured to detect a touch, or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the audio module 1170 can convert sound into an electrical signal or, conversely, convert an electrical signal into sound. According to one embodiment, the audio module 1170 acquires sound through the input module 1150, the sound output module 1155, or an external electronic device (e.g., directly or wirelessly connected to the electronic device 1101). Sound may be output through an electronic device 1102 (e.g., speaker or headphone).
  • an electronic device 1102 e.g., speaker or headphone
  • the sensor module 1176 detects the operating state (e.g., power or temperature) of the electronic device 1101 or the external environmental state (e.g., user state) and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 1176 includes, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 1177 may support one or more designated protocols that can be used to connect the electronic device 1101 directly or wirelessly with an external electronic device (eg, the electronic device 1102).
  • the interface 1177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • connection terminal 1178 may include a connector through which the electronic device 1101 can be physically connected to an external electronic device (eg, the electronic device 1102).
  • the connection terminal 1178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 1179 can convert electrical signals into mechanical stimulation (e.g., vibration or movement) or electrical stimulation that the user can perceive through tactile or kinesthetic senses.
  • the haptic module 1179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 1180 can capture still images and videos. According to one embodiment, the camera module 1180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 1188 can manage power supplied to the electronic device 1101. According to one embodiment, the power management module 1188 may be implemented as at least a part of, for example, a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 1189 may supply power to at least one component of the electronic device 1101.
  • the battery 1189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • Communication module 1190 provides a direct (e.g., wired) communication channel or wireless communication channel between the electronic device 1101 and an external electronic device (e.g., electronic device 1102, electronic device 1104, or server 1108). It can support establishment and communication through established communication channels. Communication module 1190 operates independently of processor 1120 (e.g., an application processor) and may include one or more communication processors that support direct (e.g., wired) communication or wireless communication.
  • processor 1120 e.g., an application processor
  • the communication module 1190 may be a wireless communication module 1192 (e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 1194 (e.g., : LAN (local area network) communication module, or power line communication module) may be included.
  • a wireless communication module 1192 e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 1194 e.g., : LAN (local area network) communication module, or power line communication module
  • the corresponding communication module is a first network 1198 (e.g., a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 1199 (e.g., legacy It may communicate with an external electronic device 1104 through a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (e.g., LAN or WAN).
  • a telecommunication network such as a cellular network, a 5G network, a next-generation communication network
  • the wireless communication module 1192 uses subscriber information (e.g., International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 1196 within a communication network such as the first network 1198 or the second network 1199.
  • subscriber information e.g., International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the wireless communication module 1192 may support 5G networks and next-generation communication technologies after 4G networks, for example, new radio access technology (NR access technology).
  • NR access technology provides high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low latency). -latency communications)) can be supported.
  • NR access technology provides high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low latency). -latency communications)) can be supported.
  • the wireless communication module 1192 may support high frequency bands (e.g., mmWave bands), for example, to achieve high data rates.
  • the wireless communication module 1192 uses various technologies to secure performance in high frequency bands, for example, beamforming, massive array multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. It can support technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna.
  • the wireless communication module 1192 may support various requirements specified in the electronic device 1101, an external electronic device (e.g., electronic device 1104), or a network system (e.g., second network 1199).
  • the wireless communication module 1192 supports peak data rate (e.g., 20 Gbps or more) for realizing eMBB, loss coverage (e.g., 164 dB or less) for realizing mmTC, or U-plane latency (e.g., 164 dB or less) for realizing URLLC.
  • peak data rate e.g., 20 Gbps or more
  • loss coverage e.g., 164 dB or less
  • U-plane latency e.g., 164 dB or less
  • the antenna module 1197 may transmit or receive signals or power to or from the outside (e.g., an external electronic device).
  • the antenna module 1197 may include an antenna including a radiator made of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 1197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for the communication method used in the communication network, such as the first network 1198 or the second network 1199, is connected to the plurality of antennas by, for example, the communication module 1190. can be selected. Signals or power may be transmitted or received between the communication module 1190 and an external electronic device through the selected at least one antenna.
  • other components eg, radio frequency integrated circuit (RFIC) may be additionally formed as part of the antenna module 1197.
  • RFIC radio frequency integrated circuit
  • antenna module 1197 may form a mmWave antenna module.
  • a mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (e.g., bottom side) of the printed circuit board and capable of supporting a designated high frequency band (e.g., mmWave band), And a plurality of antennas (e.g., array antennas) disposed on or adjacent to the second side (e.g., top or side) of the printed circuit board and capable of transmitting or receiving signals in the designated high frequency band. can do.
  • a mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first side (e.g., bottom side) of the printed circuit board and capable of supporting a designated high frequency band (e.g., mmWave band), And a plurality of antennas (e.g., array antennas) disposed on or adjacent to the second side (e.g., top or side) of the printed
  • peripheral devices e.g., bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 1101 and the external electronic device 1104 through the server 1108 connected to the second network 1199.
  • Each of the external electronic devices 1102 or 1104 may be of the same or different type as the electronic device 1101.
  • all or part of the operations performed in the electronic device 1101 may be executed in one or more of the external electronic devices 1102, 1104, or 1108.
  • the electronic device 1101 needs to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device 1101 does not execute the function or service on its own.
  • one or more external electronic devices may be requested to perform at least part of the function or service.
  • One or more external electronic devices that have received the request may execute at least part of the requested function or service, or an additional function or service related to the request, and transmit the result of the execution to the electronic device 1101.
  • the electronic device 1101 may process the result as is or additionally and provide it as at least part of a response to the request.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology can be used.
  • the electronic device 1101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 1104 may include an Internet of Things (IoT) device.
  • Server 1108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 1104 or server 1108 may be included in the second network 1199.
  • the electronic device 1101 may be applied to intelligent services (e.g., smart home, smart city, smart car, or healthcare) based on 5G communication technology and IoT-related technology.
  • the electronic device 101 may include a microphone 230, a display 220, and a processor 210.
  • the processor 210 may be configured to display a screen including a plurality of executable objects through the display 220.
  • the processor 210 activates the microphone 230 for the executable object based on the focused executable object among the plurality of executable objects, and activates the microphone 230 It may be configured to display, through the display 220, at least one visual object 420 indicating that one of the plurality of executable objects is activated to receive input for the executable object. there is.
  • the processor 210 determines whether a voice signal acquired through the microphone 230 while the at least one visual object 420 is displayed corresponds to a voice command assigned to the executable object. It can be configured to identify whether or not. According to one embodiment, the processor 210 may be configured to execute the function of the executable object associated with the voice command based on the voice signal corresponding to the voice command.
  • the at least one visual object 420 may include a visual object 421 displayed as associated with the executable object.
  • the executable object associated with the visual object 421 may be visually emphasized with respect to at least one other executable object among the plurality of executable objects.
  • the at least one visual object 420 may include another visual object 422 that is distinct from the visual object 421.
  • the other visual object 422 may indicate that the microphone 230 is activated.
  • the visual object 421 may be displayed along the edge of the executable object.
  • the other visual object 422 may be spaced apart from the visual object 421.
  • the processor 210 is configured to obtain the voice command from information for the executable object in response to the voice signal obtained while the at least one visual object 420 is displayed. It can be. According to one embodiment, the processor 210 may be configured to identify whether the voice signal corresponds to the voice command by comparing the voice signal with the voice command.
  • the information may include data about the function associated with the voice command.
  • the processor 210 in response to displaying the at least one visual object 420, activates the microphone 230 for the executable object and runs a timer. ), can be configured. According to one embodiment, while the timer is running, the processor 210 identifies whether the voice signal obtained through the microphone 230 corresponds to the voice command, and selects the at least one visual object. It may be configured to maintain the above indication at 420. According to one embodiment, the processor 210 may be configured to deactivate the microphone 230 and stop displaying the at least one visual object 420 in response to expiration of the timer.
  • the timer may be stopped, at least temporarily, while the voice signal is acquired. According to one embodiment, the timer may be restarted in response to completing acquisition of the voice signal.
  • the processor 210 may be configured to terminate recognition of the voice signal based on the voice signal that is distinct from the voice command.
  • the processor 210 may be configured to identify that another executable object among the plurality of executable objects is focused. According to one embodiment, the processor 210, in response to the identification, activates the microphone 230 for the other executable object, and configures the microphone 230 to activate the microphone 230 for the other executable object. It may be configured to display, through the display 220, the at least one visual object 420 indicating that it is activated to receive input for another executable object. According to one embodiment, the processor 210 may activate the microphone 230 while the at least one visual object 420 is displayed indicating that the microphone 230 is activated to receive the input for the other executable object.
  • the processor 210 may be configured to identify whether the voice signal acquired through 230 corresponds to another voice command that is assigned to the other executable object and is distinct from the voice command.
  • the processor 210 may be configured to execute the function of the other executable object associated with the other voice command, based on the voice signal corresponding to the other voice command.
  • the voice signal may be recognized for comparison with the voice command.
  • the electronic device 101 may be augmented reality (AR) glass.
  • the screen may be displayed together with an external object shown through the display 220.
  • the electronic device 101 may be a video see-through (VST) device.
  • the screen may be displayed along with an image of the environment around the electronic device 101 obtained through a camera of the electronic device 101.
  • the executable object may be focused based on a pointer on the executable object.
  • the executable object may be focused in response to the display on the screen.
  • the electronic device may include a microphone, a display, at least one memory storing at least one instruction, and at least one processor.
  • the processor displays a screen including a plurality of executable objects on the display, activates a microphone based on a selected executable object among the plurality of executable objects, and activates the microphone.
  • At least one visual object indicating that the selected executable object is activated to receive input corresponding to the selected executable object, wherein the at least one visual object is configured to visually highlight other executable objects among the plurality of executable objects.
  • a non-transitory computer-readable storage medium can have instructions that, when executed by the at least one processor, can cause the at least one processor to execute a method for controlling an electronic device.
  • the method includes displaying a screen including a plurality of executable objects through a display of the electronic device, and based on an executable object selected from among the plurality of executable objects, At least one visual object activating a microphone of the electronic device and indicating that the microphone is activated to receive input corresponding to the selected executable object (the at least one visual object is one of another executable objects among the plurality of executable objects) configured to visually emphasize objects) through the display, and based on displaying the at least one visual object and activating the microphone, driving a timer, and running the timer.
  • the microphone may include an operation of executing a function of the executable object related to the voice command based on the command.
  • Electronic devices may be of various types.
  • Electronic devices may include, for example, portable communication devices (e.g., smartphones), computer devices, portable multimedia devices, portable medical devices, cameras, wearable devices, or home appliances.
  • Electronic devices according to embodiments of this document are not limited to the above-described devices.
  • first, second, or first or second may be used simply to distinguish one component from another, and to refer to those components in other respects (e.g., importance or order) is not limited.
  • One (e.g., first) component is said to be “coupled” or “connected” to another (e.g., second) component, with or without the terms “functionally” or “communicatively.” Where mentioned, it means that any of the components can be connected to the other components directly (e.g. wired), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as logic, logic block, component, or circuit, for example. It can be used as A module may be an integrated part or a minimum unit of the parts or a part thereof that performs one or more functions. For example, according to one embodiment, the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document are one or more instructions stored in a storage medium (e.g., built-in memory 1136 or external memory 1138) that can be read by a machine (e.g., electronic device 1101). It may be implemented as software (e.g., program 1140) including these.
  • a processor e.g., processor 1120 of a device (e.g., electronic device 1101) may call at least one command among one or more commands stored from a storage medium and execute it. This allows the device to be operated to perform at least one function according to the at least one instruction called.
  • the one or more instructions may include code generated by a compiler or code that can be executed by an interpreter.
  • a storage medium that can be read by a device may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain signals (e.g. electromagnetic waves). This term refers to cases where data is stored semi-permanently in the storage medium. There is no distinction between temporary storage cases.
  • Computer program products are commodities and can be traded between sellers and buyers.
  • the computer program product may be distributed in the form of a machine-readable storage medium (e.g. compact disc read only memory (CD-ROM)) or through an application store (e.g. Play StoreTM) or on two user devices (e.g. It can be distributed (e.g. downloaded or uploaded) directly between smart phones) or online.
  • a machine-readable storage medium e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices e.g. It can be distributed (e.g. downloaded or uploaded) directly between smart phones) or online.
  • at least a portion of the computer program product may be at least temporarily stored or temporarily created in a machine-readable storage medium, such as the memory of a manufacturer's server, an application store's server, or a relay server.
  • each component (e.g., module or program) of the above-described components may include a single or plural entity, and some of the plurality of entities may be separately placed in other components. there is.
  • one or more of the components or operations described above may be omitted, or one or more other components or operations may be added.
  • multiple components eg, modules or programs
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component of the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component may be executed sequentially, in parallel, iteratively, or heuristically, or one or more of the operations may be executed in a different order, or omitted. Alternatively, one or more other operations may be added.

Abstract

전자 장치(electronic device)는 마이크로폰을 포함할 수 있고, 디스플레이를 포함할 수 있고, 프로세서를 포함할 수 있다. 상기 프로세서는, 복수의 실행가능한 객체들(executable objects)을 포함하는 화면을, 상기 디스플레이를 통해, 표시하도록 구성될 수 있고, 상기 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체에 기반하여, 상기 마이크로폰을 상기 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰이 상기 복수의 실행가능한 객체들 중 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(visual object)를, 상기 디스플레이를 통해, 표시하도록 구성될 수 있고, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 마이크로폰을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별하도록 구성될 수 있고, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행하도록, 구성될 수 있다.

Description

음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
아래의 설명들은, 음성 신호(voice signal)에 기반하여 실행가능한 객체(executable object)를 제어하는 전자 장치(electronic device), 방법, 및 비일시적 컴퓨터 판독가능 저장 매체에 관한 것이다.
전자 장치는, 화면을 표시할 수 있다. 예를 들면, 상기 화면은 실행가능한 객체들을 포함할 수 있다. 예를 들면, 상기 실행가능한 객체들 각각은, 사용자 입력에 응답하여 기능을 실행하기 위해 이용될 수 있다. 예를 들면, 상기 사용자 입력은, 상기 실행가능한 객체들 각각 상에서 접촉점을 가지는 터치 입력, 상기 전자 장치와 연결된 컨트롤러를 통해 수신되는 입력, 또는 상기 전자 장치의 이미지 센서를 통해 획득된 이미지에 기반하여 식별된 제스쳐 입력일 수 있다.
전자 장치(electronic device)가 제공된다. 상기 전자 장치는, 마이크로폰을 포함할 수 있다. 상기 전자 장치는, 디스플레이를 포함할 수 있다. 상기 전자 장치는, 프로세서를 포함할 수 있다. 상기 프로세서는, 복수의 실행가능한 객체들(executable objects)을 포함하는 화면을, 상기 디스플레이를 통해, 표시하도록 구성될 수 있다. 상기 프로세서는, 상기 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체에 기반하여, 상기 마이크로폰을 상기 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰이 포커스된 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(visual object)를, 상기 디스플레이를 통해, 표시하도록 구성될 수 있다. 상기 프로세서는, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 마이크로폰을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별하도록 구성될 수 있다. 상기 프로세서는, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행하도록, 구성될 수 있다.
방법이 제공된다. 상기 방법은, 마이크로폰 및 디스플레이를 포함하는 전자 장치 내에서 실행될 수 있다. 상기 방법은, 복수의 실행가능한 객체들(executable objects)을 포함하는 화면을, 상기 디스플레이를 통해, 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체에 기반하여, 상기 마이크로폰을 상기 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰이 포커스된 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(visual object)를, 상기 디스플레이를 통해, 표시하는 동작을 포함할 수 있다. 상기 방법은, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 마이크로폰을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행하는 동작을 포함할 수 있다.
비일시적 컴퓨터 판독가능 저장 매체가 제공된다. 상기 비일시적 컴퓨터 판독가능 저장 매체는, 하나 이상의 프로그램들을 저장할 수 있다. 상기 하나 이상의 프로그램들은, 마이크로폰 및 디스플레이를 포함하는 전자 장치의 프로세서에 의해 실행될 시, 복수의 실행가능한 객체들(executable objects)을 포함하는 화면을, 상기 디스플레이를 통해, 표시하도록, 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다. 상기 하나 이상의 프로그램들은, 상기 프로세서에 의해 실행될 시, 상기 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체에 기반하여, 상기 마이크로폰을 상기 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰이 포커스된 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(visual object)를, 상기 디스플레이를 통해, 표시하도록 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다. 상기 하나 이상의 프로그램들은, 상기 프로세서에 의해 실행될 시, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 마이크로폰을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별하도록 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다. 상기 하나 이상의 프로그램들은, 상기 프로세서에 의해 실행될 시, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행하도록 상기 전자 장치를 야기하는 인스트럭션들을 포함할 수 있다.
도 1은 예시적인 전자 장치를 포함하는 환경의 예를 도시한다.
도 2는 예시적인 전자 장치의 간소화된 블록도이다.
도 3은 음성 신호에 기반하여 실행가능한 객체에 할당된 음성 명령과 연계된 기능을 실행하는 예시적인 방법을 도시하는 흐름도이다.
도 4는 마이크로폰이 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체의 예를 도시한다.
도 5a, 도 5b, 도 5c, 및 도 5d는 실행가능한 객체에 할당된 음성 명령의 예를 도시한다.
도 6은 타이머를 이용하여 적어도 하나의 시각적 객체를 표시하는 예시적인 방법을 도시하는 흐름도이다.
도 7은 음성 신호에 기반하여 다른 실행가능한 객체에 할당된 다른 음성 명령과 연계된 기능을 실행하는 예시적인 방법을 도시하는 흐름도이다.
도 8은 마이크로폰이 다른 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체의 예를 도시한다.
도 9 및 10은, 예시적인 전자 장치의 프로세서에 의해 실행되는 기능적 구성요소들의 예를 도시한다.
도 11은 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
이하에서는 도면을 참조하여 본 개시의 실시예에 대하여 본 개시가 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 개시는 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 도면의 설명과 관련하여, 동일하거나 유사한 구성요소에 대해서는 동일하거나 유사한 참조 부호가 사용될 수 있다. 또한, 도면 및 관련된 설명에서는, 잘 알려진 기능 및 구성에 대한 설명이 명확성과 간결성을 위해 생략될 수 있다.
도 1은 예시적인 전자 장치를 포함하는 환경의 예를 도시한다.
도 1을 참조하면, 환경(100)은, 전자 장치(101)를 포함할 수 있다.
예를 들면, 전자 장치(101)는, 전자 장치(101-1) 또는 전자 장치(101-2)일 수 있다.
예를 들면, 전자 장치(101-1)는, 스마트폰(smartphone), 테블릿(tablet), 또는 랩탑 컴퓨터(laptop computer)와 같은, 다기능(multifunction) 전자 장치 또는 포터블(portable) 장치일 수 있다. 예를 들면, 전자 장치(101-1)는, 전자 장치(101-1)의 마이크로폰을 통해 음성 신호를 획득할 수 있다. 예를 들면, 상기 음성 신호는, 전자 장치(101-1) 내에서 정의된 복수의 음성 명령들을 통해 각각 실행되는 복수의 기능들 중 하나의(an) 기능을 실행하기 위해, 사용자(150)로부터 야기될 수 있다. 예를 들면, 전자 장치(101-1)는 사용자(150)에 의해 의도된 기능을 식별하기 위해, 상기 음성 신호를 상기 복수의 음성 명령들 각각과 비교할 수 있다. 예를 들어, 상기 복수의 음성 명령들의 수가 매우 많거나 상기 복수의 음성 명령들의 일부가 상기 복수의 음성 명령들의 다른 일부와 유사한 경우, 전자 장치(101-1)는, 상기 음성 신호에 응답하여, 사용자(150)에 의해 의도된 상기 기능과 구별되는 다른 기능을 실행할 수 있다. 상기 다른 기능은 사용자(150)에 의해 의도되지 않은 기능이기 때문에, 상기 다른 기능의 실행은 불편함을 야기할 수 있다.
예를 들면, 전자 장치(101-2)는, AR(augmented reality) 글래스(glass), VST(video see-through) 장치, 또는 헤드 마운트(head mount) 장치와 같은, 사용자(150)의 신체의 일부 상에 착용되는 웨어러블 장치일 수 있다. 예를 들면, 전자 장치(101-2)는, 전자 장치(101-2)의 디스플레이를 통해 화면(110)을 표시할 수 있다. 예를 들어, 전자 장치(101-2)가 상기 AR 글래스인 경우, 화면(110)은, 상기 디스플레이를 통해 보여지는 외부 객체(115)와 함께 표시될 수 있다. 예를 들어, 전자 장치(101-2)가 VST 장치인 경우, 화면(110)은, 전자 장치(101-2)의 카메라를 통해 획득된 외부 객체(115)에 대응하는 시각적 객체(116)와 함께 표시될 수 있다. 예를 들면, 전자 장치(101-2)는, 전자 장치(101-1)와 달리, 상기 디스플레이 상에 접촉되는 터치 입력을 수신할 수 없기 때문에, 전자 장치(101-2)는, 전자 장치(101-2)와 연결된 컨트롤러(130)를 통해 수신된 정보(예: 제스쳐(gesture) 정보)를 화면(110) 내의 실행가능한 객체(120)에 대한 사용자 입력으로 식별할 수 있다. 예를 들면, 상기 사용자 입력은, 실행가능한 객체(120)와 접촉되지 않기 때문에, 상기 사용자 입력을 통해 실행가능한 객체(120)의 기능을 실행하는 것은 불편함을 야기할 수 있다. 다른 예를 들면, 전자 장치(101-2)는, 전자 장치(101-2)의 마이크로폰을 통해 음성 신호를 획득할 수 있다. 예를 들면, 상기 음성 신호는, 전자 장치(101-2) 내에서 정의된 복수의 음성 명령들을 통해 각각 실행되는 복수의 기능들 중 하나의(an) 기능을 실행하기 위해, 사용자(150)로부터 야기될 수 있다. 예를 들면, 전자 장치(101-2)는 사용자(150)에 의해 의도된 기능을 식별하기 위해, 상기 음성 신호를 상기 복수의 음성 명령들 각각과 비교할 수 있다. 예를 들어, 상기 복수의 음성 명령들의 수가 매우 많거나 상기 복수의 음성 명령들의 일부가 상기 복수의 음성 명령들의 다른 일부와 유사한 경우, 전자 장치(101-2)는, 상기 음성 신호에 응답하여, 사용자(150)에 의해 의도된 상기 기능과 구별되는 다른 기능을 실행할 수 있다. 상기 다른 기능은 사용자(150)에 의해 의도되지 않은 기능이기 때문에, 상기 다른 기능의 실행은 불편함을 야기할 수 있다.
아래에서 예시될 전자 장치(101)는, 이러한 불편함을 감소시키기 위한 구성요소들을 포함할 수 있다. 상기 구성요소들은, 도 2를 통해 예시될 수 있다.
도 2는 예시적인 전자 장치의 간소화된 블록도이다.
도 2를 참조하면, 전자 장치(101)는, 프로세서(210), 디스플레이(220), 마이크로폰(230), 및 메모리(240)를 포함할 수 있다.
예를 들면, 프로세서(210)는, 도 11의 프로세서(1120)의 적어도 일부를 포함할 수 있다. 예를 들면, 디스플레이(220)는, 도 11의 디스플레이 모듈(1160)의 적어도 일부를 포함할 수 있다. 예를 들면, 디스플레이(220)는, 전자 장치(101)가 AR 글래스인 경우, 투명한 디스플레이를 포함할 수 있다. 예를 들면, 마이크로폰(230)은, 도 11의 입력 모듈(1150)의 적어도 일부를 포함할 수 있다. 예를 들면, 메모리(240)는, 도 11의 메모리(1130)의 적어도 일부를 포함할 수 있다.
예를 들면, 프로세서(210)는, 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 작동적으로(operably 또는 operatively) 결합될(coupled with) 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 작동적으로 결합됨은, 프로세서(210)가 직접적으로 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 연결됨을 나타낼 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 작동적으로 결합됨은, 프로세서(210)가 전자 장치(101)의 다른 구성요소를 통해 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 연결됨을 나타낼 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 작동적으로 결합됨은, 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각이 프로세서(210)에 의해 실행된 인스트럭션들에 기반하여 동작함을 나타낼 수 있다. 예를 들면, 프로세서(210)가 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각과 작동적으로 결합됨은, 디스플레이(220), 마이크로폰(230), 및 메모리(240) 각각이 프로세서(210)에 의해 제어됨을 나타낼 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 아래에서 예시될 동작들을 실행하도록 구성될 수 있다.
도 3은 음성 신호에 기반하여 실행가능한 객체에 할당된 음성 명령과 연계된 기능을 실행하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 2 내에서 도시된 프로세서(210)에 의해 실행될 수 있다. 이하 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 3을 참조하면, 동작 301에서, 프로세서(210)는, 디스플레이(220)를 통해 화면을 표시할 수 있다. 예를 들면, 상기 화면은, 복수의 실행가능한 객체들을 포함할 수 있다. 예를 들면, 상기 화면은, 소프트웨어 어플리케이션(예: 도 11의 어플리케이션(1146))의 실행 화면일 수 있다. 예를 들면, 상기 화면은, 월페이퍼일 수 있다. 예를 들면, 상기 화면은, 잠금 화면일 수 있다. 하지만, 이에 제한되지 않는다. 예를 들면, 상기 복수의 실행가능한 객체들 각각은, 사용자 입력에 응답하여 기능을 실행하도록 설정될 수 있다. 예를 들면, 상기 복수의 실행가능한 객체들은 하나의(a) 소프트웨어 어플리케이션에 대한 기능들을 제공하기 위해 이용될 수 있다. 예를 들면, 상기 복수의 실행가능한 객체들의 일부 및 상기 복수의 실행가능한 객체들의 다른 일부는 서로 다른 소프트웨어 어플리케이션들에 대한 기능들을 제공하기 위해 이용될 수 있다. 예를 들면, 상기 복수의 실행가능한 객체들의 일부는 제1 소프트웨어 어플리케이션에 대한 적어도 하나의 기능을 제공하기 위해 이용되고, 상기 복수의 실행가능한 객체들의 다른 일부는 제2 소프트웨어 어플리케이션에 대한 적어도 하나의 기능을 제공하기 위해 이용될 수 있다. 예를 들면, 상기 복수의 실행가능한 객체들 각각은, 사용자 인터페이스 구성요소(component)로 참조될 수 있다. 예를 들면, 상기 복수의 실행가능한 객체들의 일부를 통해 해당 기능을 실행하기 위해 수신되는 사용자 입력의 속성은, 상기 복수의 실행가능한 객체들의 다른 일부를 통해 해당 기능을 실행하기 위해 수신되는 사용자 입력의 속성과 다를 수 있다. 예를 들면, 상기 복수의 실행가능한 객체들의 상기 일부는, 탭 입력에 응답하여 해당 기능을 실행하도록 설정되고, 상기 복수의 실행가능한 객체들의 상기 다른 일부는, 드래그 입력에 응답하여 해당 기능을 실행하도록 설정될 수 있다. 상기 복수의 실행가능한 객체들은, 도 4를 통해 예시될 것이다.
동작 303에서, 프로세서(210)는, 상기 복수의 실행가능한 객체들 중 포커스된(focused) 실행가능한 객체에 기반하여, 마이크로폰(예: 도 2의 마이크로폰(230))을 활성화하고, 적어도 하나의 시각적 객체를 표시할 수 있다.
예를 들면, 상기 실행가능한 객체가 상기 복수의 실행가능한 객체들 중 포커스됨은, 상기 실행가능한 객체가 상기 복수의 실행가능한 객체들 중 선택됨(또는 식별됨)을 나타낼 수 있다. 예를 들면, 상기 실행가능한 객체가 상기 복수의 실행가능한 객체들 중 포커스됨은, 커서(cursor)(또는 포인터(pointer))가 상기 복수의 실행가능한 객체들 중 상기 실행가능한 객체에 위치됨을 나타낼 수 있다. 예를 들어, 상기 화면을 표시하기 위한 정보가 상기 화면의 표시에 응답하여 상기 커서가 상기 실행가능한 객체에 위치됨을 나타내는 경우, 상기 실행가능한 객체는, 상기 정보에 기반하여 상기 화면을 표시하는 것에 응답하여, 포커스될 수 있다. 예를 들어, 사용자 입력에 따라 이동된 상기 커서가 상기 실행가능한 객체에 위치되는 경우, 상기 실행가능한 객체는 포커스될 수 있다. 예를 들면, 상기 사용자 입력은, 터치 입력, 제스쳐 입력, 또는 시선(gaze) 입력일 수 있다. 하지만, 이에 제한되지 않는다. 예를 들면, 상기 실행가능한 객체가 상기 복수의 실행가능한 객체들 중 포커스됨은, 상기 복수의 실행가능한 객체들 중 식별된(또는 선택된) 상기 실행가능한 객체의 기능을 실행하는 것을 대기하는 상태를 나타낼 수 있다. 예를 들면, 상기 실행가능한 객체가 포커스됨은, 상기 실행가능한 객체 상 또는 상기 실행가능한 객체 주변에 위치되는 시각적 객체(예: 포인터 또는 커서)를 통해 나타내어질 수 있다. 예를 들면, 상기 시각적 객체는, 사용자 입력과 관련하여 표시되는 다른(another) 시각적 객체와 구별될 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 마이크로폰(230)은, 상기 복수의 실행가능한 객체들 중 포커스된 상기 실행가능한 객체를 위해 활성화될 수 있다. 예를 들면, 마이크로폰(230)은, 전자 장치(101)와 연결된 컨트롤러(예: 도 1의 컨트롤러(130))를 통한 상기 실행가능한 객체에 대한 입력, 상기 실행가능한 객체에 대한 터치 입력, 상기 실행가능한 객체에 대한 시선(gaze) 입력, 및 상기 실행가능한 객체에 대한 제스쳐(gesture) 입력과 구별되는 음성 입력을 상기 실행가능한 객체에 대하여 수신하기 위해 활성화될 수 있다. 예를 들면, 마이크로폰(230)은, 상기 실행가능한 객체가 포커스됨을 식별하는 것에 응답하여, 활성화될 수 있다. 예를 들면, 마이크로폰(230)이 상기 실행가능한 객체를 위해 활성화됨은, 마이크로폰(230)이 상기 실행가능한 객체의 상기 포커스에 응답하여 활성화됨을 나타낼 수 있다. 예를 들면, 마이크로폰(230)이 상기 실행가능한 객체를 위해 활성화됨은, 마이크로폰(230)을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 대한 음성 입력인지 여부를 식별하거나 인식하기 위해 상기 음성 신호를 처리함을 나타낼 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 적어도 하나의 시각적 객체는, 마이크로폰(230)이 상기 복수의 실행가능한 객체들 중 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타낼 수 있다.
예를 들면, 상기 적어도 하나의 시각적 객체는, 상기 실행가능한 객체와 연계로(as associated with) 표시되는 시각적 객체를 포함할 수 있다. 예를 들면, 상기 시각적 객체와 연계된 상기 실행가능한 객체는, 상기 복수의 실행가능한 객체들 중 적어도 하나의 다른 실행가능한 객체에 대하여 시각적으로 강조될(visually highlighted) 수 있다. 예를 들면, 상기 실행가능한 객체는, 상기 실행가능한 객체의 가장자리(periphery)를 따라(along) 표시되는 상기 시각적 객체를 통해, 상기 적어도 하나의 다른 실행가능한 객체에 대하여 시각적으로 강조될 수 있다.
예를 들면, 상기 적어도 하나의 시각적 객체는, 상기 시각적 객체와 구별되는 다른(another) 시각적 객체를 포함할 수 있다. 예를 들면, 상기 다른 시각적 객체는, 상기 마이크로폰이 활성화됨을 나타낼 수 있다. 예를 들면, 상기 적어도 하나의 시각적 객체는, 상기 시각적 객체 및/또는 상기 다른 시각적 객체를 포함할 수 있다. 예를 들어, 상기 적어도 하나의 시각적 객체가 상기 시각적 객체 및 상기 다른 시각적 객체 모두를 포함할 시, 상기 다른 시각적 객체는, 상기 시각적 객체로부터 이격될 수 있다.
상기 시각적 객체 및 상기 다른 시각적 객체는, 도 4를 통해 예시될 수 있다.
도 4는 마이크로폰이 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체의 예를 도시한다.
도 4를 참조하면, 프로세서(예: 도 2의 프로세서(210))는, 화면(400)을 표시할 수 있다. 예를 들면, 화면(400)은, 배경(405) 상에 적어도 부분적으로 중첩될 수 있다. 예를 들어, 전자 장치(101)가 AR 글래스인 경우, 배경(405)은, 디스플레이(220)를 통해 보여지는, 전자 장치(101) 주변의 실물 환경일 수 있다. 예를 들어, 전자 장치(101)가 VST 장치인 경우, 배경(405)은, 전자 장치(101)의 카메라를 통해 획득된, 상기 실물 환경을 표현하는 이미지일 수 있다. 예를 들어, 전자 장치(101)가 스마트폰, 테블릿, 또는 랩탑 컴퓨터인 경우, 배경(405)은, 월페이퍼(wall paper)일 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 화면(400)은, 복수의 실행가능한 객체들(410)을 포함할 수 있다. 예를 들면, 복수의 실행가능한 객체들(410) 중 실행가능한 객체(410-1)는 식별되거나 포커스될 수 있다. 예를 들면, 실행가능한 객체(410-1)는, 시선 입력 또는 제스쳐 입력에 기반하여 실행가능한 객체(410-1) 상으로 이동된 포인터(또는 커서)(415)에 기반하여, 포커스될 수 있다. 예를 들면, 실행가능한 객체(410-1)는, 화면(400)의 표시에 응답하여 실행가능한 객체(410-1) 상에 위치된 커서에 기반하여, 포커스될 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 실행가능한 객체(410-1)의 포커스(또는 식별)에 응답하여, 적어도 하나의 시각적 객체(420)를 표시할 수 있다. 예를 들면, 적어도 하나의 시각적 객체(420)는, 시각적 객체(421) 및 다른 시각적 객체(422)를 포함할 수 있다.
예를 들면, 시각적 객체(421)는, 실행가능한 객체(410-1)가 복수의 실행가능한 객체들(410) 중에서 포커스됨을 나타낼 수 있다. 예를 들면, 시각적 객체(421)는, 마이크로폰(230)이 실행가능한 객체(410-1)에 대한 입력을 수신하기 위해 활성화됨을 나타낼 수 있다. 예를 들면, 시각적 객체(421)와 연계된 실행가능한 객체(410-1)는, 복수의 실행가능한 객체들(410) 중 적어도 하나의 다른 실행가능한 객체에 대하여(relative to) 시각적으로 강조될(visually highlighted) 수 있다. 예를 들면, 시각적 객체(421)는, 실행가능한 객체(410-1)의 가장자리(periphery)를 따라(along) 표시될 수 있다.
예를 들면, 다른 시각적 객체(422)는, 마이크로폰(230)이 활성화됨을 나타낼 수 있다. 예를 들면, 다른 시각적 객체(422)는, 마이크로폰(230)이 실행가능한 객체(410-1)에 대한 입력을 수신하기 위해 활성화됨을 나타낼 수 있다. 예를 들면, 시각적 객체(421)와 함께 표시되는 다른 시각적 객체(422)는, 마이크로폰(230)이 실행가능한 객체(410-1)에 대한 입력을 수신하기 위해 활성화됨을 나타낼 수 있다. 예를 들면, 다른 시각적 객체(422)는, 실행가능한 객체(410-1)의 색상(또는 대표 색상)에 대응하는 색상을 가짐으로써, 마이크로폰(230)이 실행가능한 객체(410-1)에 대한 입력을 수신하기 위해 활성화됨을 나타낼 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 적어도 하나의 시각적 객체(420)는 적어도 부분적으로 대체될 수 있다. 예를 들면, 시각적 객체(421)는, 실행가능한 객체(410-1) 상에 적어도 부분적으로 중첩된 레이어(450)로 대체될 수 있다. 예를 들면, 레이어(450)는, 실행가능한 객체(410-1)가 보여지도록, 반투명할 수 있다. 예를 들면, 시각적 객체(421)는, 반짝이는 실행가능한 객체(410-1)의 상기 가장자리를 표현하는 시각적 효과(460)으로 대체될 수 있다. 예를 들면, 시각적 효과(460)를 통해 제공되는 상기 반짝임은, 미리 결정된 속도로 상기 가장자리를 따라 이동될 수 있다. 예를 들면, 시각적 객체(422) 또는 시각적 객체(421) 및 시각적 객체(422)를 포함하는 적어도 하나의 시각적 객체(420)는, 실행가능한 객체(410-1) 상에 플로팅되거나 중첩된 시각적 객체(470)로 대체될 수 있다. 예를 들면, 시각적 객체(470)는, 강조를 위해 깜박거릴 수 있다. 하지만, 이에 제한되지 않는다.
다시 도 3을 참조하면, 동작 305에서, 프로세서(210)는, 상기 적어도 하나의 시각적 객체가 표시되는 동안 마이크로폰(230)을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 음성 신호를 마이크로폰(230)을 통해 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호를 획득하는 것에 응답하여, 상기 음성 신호를 상기 음성 명령과의 비교를 위해 인식할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 명령의 적어도 하나의 키워드(keyword)가 상기 음성 신호 내에 포함되는지 여부를 식별함으로써, 상기 음성 신호를 인식할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 상기 음성 신호를 텍스트로 변환하고, 상기 변환된 텍스트가 상기 실행가능한 객체에 할당된 상기 음성 명령에 대응하는지 여부를 식별할 수 있다. 예를 들면, 상기 음성 명령은, 상기 음성 신호가 획득되기 전, 전자 장치(101) 내에서 미리 결정되거나 미리 정의될 수 있다. 예를 들면, 전자 장치(101)는, 상기 복수의 실행가능한 객체들 각각을 위한 정보를 저장할 수 있다. 예를 들면, 프로세서(210)는, 상기 마이크로폰(230)을 통해 상기 음성 신호를 획득함을 식별하는 것에 응답하여, 상기 저장된 정보로부터 상기 실행가능한 객체를 위한 정보를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별된 정보로부터 상기 음성 명령을 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호를 상기 획득된 음성 명령과 비교함으로써, 상기 음성 신호가 상기 음성 명령에 대응하는지 여부를 식별할 수 있다.
상기 정보는, 호환가능하거나 확장가능하거나 플렉서블한 포맷으로 설정될 수 있다. 예를 들면, 상기 정보는, JSON(javascript object notation) 포맷으로 설정될 수 있다. 예를 들면, JSON 포맷으로 설정된 상기 정보는, 시스템 제공자 뿐 아니라 소프트웨어 어플리케이션 개발자가 상기 실행가능한 객체에 할당된 음성 명령 또는 상기 음성 명령과 연계된 기능을 추가하거나 수정하거나 조정할 수 있도록, 설정될 수 있다. 예를 들어, JSON 포맷으로 설정된 상기 정보가, 날짜 및 시간을 입력하기 위한 실행가능한 객체를 위한 것인 경우, JSON 포맷으로 설정된 상기 정보는 아래의 표 1과 같이 나타내어질 수 있다.
Figure PCTKR2023015549-appb-img-000001
표제(the heading) "developer defined" 아래의 표 1의 부분은, 소프트웨어 어플리케이션 개발자를 위한 부분일 수 있다.
예를 들어, JSON 포맷으로 설정된 상기 정보가 연락 목록(contact list)을 통한 발신 전화(outgoing call)를 위한 실행가능한 객체를 위한 것인 경우, JSON 포맷으로 설정된 상기 정보는 아래의 표 2와 같이 나타내어질 수 있다.
Figure PCTKR2023015549-appb-img-000002
예를 들면, 프로세서(예: 도 2의 프로세서(210))는, 표 2와 같이 표현되는 상기 정보를 통해, 상기 연락 목록 내의 "Aleen"에 대응하는 실행가능한 객체를 선택함을 나타내는 사용자 입력에 응답하여, 다른 전자 장치(예: "Aleen"의 전자 장치)에게 발신 전화를 실행할 수 있다.
상기 정보는, 도 9 및 도 10의 설명을 통해 추가적으로 예시될 것이다.
예를 들면, 프로세서(210)는, 전자 장치(101) 내에서 이용가능한 모든 음성 명령들 각각과 상기 적어도 하나의 시각적 객체가 표시되는 동안 획득된 상기 음성 신호를 비교하는 것 대신, 상기 식별된 정보로부터 획득된 상기 음성 명령과 상기 음성 신호를 비교하기 때문에, 상기 음성 신호가 사용자 의도와 다르게 인식될 확률은 상대적으로 낮아질 수 있다. 예를 들면, 전자 장치(101)는, 음성 인식(voice recognition) 서비스의 품질을 강화할 수 있다. 예를 들면, 상기 식별된 정보로부터 획득된 상기 음성 명령과 상기 음성 신호를 비교하기 위해 소비되는 자원들의 양은, 전자 장치(101) 내에서 이용가능한 모든 음성 명령들 각각과 상기 음성 신호를 비교하기 위해 소비되는 자원들의 양보다 적기 때문에, 전자 장치(101)는, 음성 인식 서비스를 위한 자원 효율성을 강화할 수 있다.
예를 들면, 프로세서(210)는, 상기 음성 신호가 상기 음성 명령에 대응하는 조건(동작 305 - 예) 상에서, 동작 307을 실행하고, 상기 음성 신호가 상기 음성 명령과 구별되는 조건(동작 305 - 아니오) 상에서, 동작 309를 실행할 수 있다.
동작 307에서, 프로세서(210)는, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행할 수 있다. 예를 들면, 상기 실행가능한 객체를 위한 상기 정보는, 상기 음성 명령과 연계된 상기 기능에 대한 데이터를 포함할 수 있다. 예를 들면, 프로세서(210)는, 상기 데이터에 기반하여, 상기 기능을 실행할 수 있다. 상기 데이터는, 도 9 및 도 10의 설명을 통해 보다 상세히 예시될 것이다.
예를 들면, 상기 음성 명령과 연계된 상기 실행가능한 객체의 상기 기능은, 다양하게 구현될 수 있다. 상기 음성 명령 및 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능은, 도 5a 내지 도 5d를 통해 예시될 수 있다.
도 5a 내지 5d는 실행가능한 객체에 할당된 음성 명령의 예를 도시한다.
도 5a를 참조하면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체들(510) 중 하나의 실행가능한 객체일 수 있다. 예를 들면, 실행가능한 객체들(510) 각각에 할당된 음성 명령은, 실행가능한 객체들(510) 각각 내에 포함된 텍스트(또는 단어)로 정의될 수 있다. 예를 들면, 실행가능한 객체(510-1)에 할당된 상기 음성 명령은, 실행가능한 객체(510-1) 내에 포함된 텍스트인 "즐겨찾기"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 즐겨찾기 내에 포함된 웹페이지들의 목록을 표시하는 것일 수 있다. 예를 들면, 프로세서(예: 도 2의 프로세서(210))는, "즐겨찾기"에 대응하는 상기 음성 신호에 응답하여, 상기 목록을 표시할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 실행가능한 객체(510-2)에 할당된 상기 음성 명령은, 실행가능한 객체(510-2) 내에 포함된 텍스트인 "번역기"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 웹페이지 내의 제1 언어를 제2 언어로 번역한 웹페이지를 표시하는 것일 수 있다. 예를 들면, 프로세서(210)는, "번역기"에 대응하는 상기 음성 신호에 응답하여, 상기 번역을 실행하고, 상기 제2 언어로 번역된 상기 웹페이지를 표시할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(511)일 수 있다. 예를 들면, 실행가능한 객체(511)에 할당된 음성 명령은, 실행가능한 객체(511) 내에 포함된 시각적 요소(512)를 나타낼 수 있다. 예를 들면, 실행가능한 객체(511)에 할당된 상기 음성 명령은, 실행가능한 객체(511) 내에 포함된 시각적 요소(512)의 형상을 나타내는 "뒤로 가기"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 이전의 화면을 표시하는 것일 수 있다. 예를 들면, 프로세서(210)는, "뒤로 가기"에 대응하는 상기 음성 신호에 응답하여, 상기 이전 화면을 표시할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(513)일 수 있다. 예를 들면, 실행가능한 객체(513)에 할당된 음성 명령은, 실행가능한 객체(513)에 대하여 수신되는 입력의 유형 또는 실행가능한 객체(513)를 통해 제공되는 기능을 나타낼 수 있다. 예를 들면, 실행가능한 객체(513)에 할당된 상기 음성 명령은, 상기 입력의 유형을 나타내는 "롱 프레스" 및/또는 상기 기능을 나타내는 "아이템들의 목록을 표시"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 상기 아이템들의 목록(514)을 표시하는 것일 수 있다. 예를 들면, 프로세서(210)는, "롱 프레스" 또는 "아이템들의 목록을 표시"에 대응하는 상기 음성 신호에 응답하여, 목록(514)을 표시할 수 있다. 하지만, 이에 제한되지 않는다.
도 5b를 참조하면, 상기 포커스된 실행가능한 객체는, 텍스트 입력 부분(text input portion) 또는 텍스트 입력 필드(text input field)인 실행가능한 객체(515)일 수 있다. 예를 들면, 실행가능한 객체(515)에 할당된 음성 명령은, 실행가능한 객체(515)의 기능을 제공하기 위해 이용되는 다른 기능(또는 수단(means))의 활성화 또는 비활성화를 나타낼 수 있다. 예를 들면, 실행가능한 객체(515)에 할당된 상기 음성 명령은, "받아쓰기", "받아쓰기 중단", "키보드", "키보드를 표시", 및/또는 "키보드를 표시하는 것을 중단"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 상기 텍스트 입력 부분에 입력될 텍스트에 대응하는 다른(another) 음성 신호를 획득하는 것, 가상 키보드를 표시하는 것, 상기 텍스트 입력 부분으로의 텍스트의 입력을 중단하는 것, 상기 가상 키보드를 표시하는 것을 중단하는 것일 수 있다. 예를 들면, 프로세서(210)는, "키보드"에 대응하는 상기 음성 신호에 응답하여, 상기 가상 키보드를 표시할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(516)일 수 있다. 예를 들면, 실행가능한 객체(516)에 할당된 음성 명령은, 실행가능한 객체(516) 또는 실행가능한 객체(516) 내의 시각적 요소(517)의 이동, 상기 이동의 방향, 또는 상기 이동에 따라 제공되는 기능을 나타낼 수 있다. 예를 들면, 실행가능한 객체(516)에 할당된 상기 음성 명령은, "왼쪽", "오른쪽", "낮게", "높게", "크게" 및/또는 "작게"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 전자 장치(101)를 통해 제공되는 오디오의 볼륨을 변경하는 것일 수 있다. 예를 들면, 프로세서(210)는, "작게"에 대응하는 상기 음성 신호에 응답하여, 실행가능한 객체(516) 내의 시각적 요소(517)를 왼쪽으로 이동하고, 상기 볼륨을 감소시킬 수 있다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(518)일 수 있다. 예를 들면, 실행가능한 객체(518)에 할당된 음성 명령은, 실행가능한 객체(518) 또는 실행가능한 객체(518) 내의 시각적 요소(519)가 이동될 위치를 나타낼 수 있다. 예를 들면, 실행가능한 객체(518)에 할당된 상기 음성 명령은, "레벨 1", "레벨 2", "레벨 3", "레벨 4", "레벨 5", "레벨 6", "레벨 7", 및 "레벨 8"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 상기 위치에 대응하는 레벨로 정보를 제공하는 것일 수 있다. 예를 들면, 프로세서(210)는, "레벨 3"에 대응하는 상기 음성 신호에 응답하여, 실행가능한 객체(518) 내의 시각적 요소(519)를 "레벨 3"에 대응하는 위치로 이동하고, 레벨 3로 정보를 제공할 수 있다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(520)일 수 있다. 예를 들면, 실행가능한 객체(520)에 할당된 음성 명령은, 실행가능한 객체(520)를 통해 선택가능한 복수의 아이템들 중 하나의 아이템을 나타낼 수 있다. 예를 들면, 실행가능한 객체(520)에 할당된 상기 음성 명령은, "1", "2", ... , 및 "31"(또는 "30")일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 상기 아이템을 제공하는 것일 수 있다. 예를 들면, 프로세서(210)는, "24"에 대응하는 상기 음성 신호에 응답하여, 실행가능한 객체(520) 내에서 아이템 "24"를 표시할 수 있다. 예를 들면, 상기 음성 신호는, 실행가능한 객체(520)와 연계되는 적어도 하나의 다른 실행가능한 객체(521)에 대한 내용(content)을 포함할 수 있다. 예를 들면, 프로세서(210)는, 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체(520)가 적어도 하나의 다른 실행가능한 객체(521)와 연계된 조건 상에서, 상기 음성 신호를 적어도 하나의 다른 실행가능한 객체(521)에 할당된 음성 명령과의 비교를 위해 인식할 수 있다. 예를 들면, 프로세서(210)는, "2020년 12월 24일"에 대응하는 상기 음성 신호에 응답하여, 실행가능한 객체(520)와 연계된 적어도 하나의 다른 실행가능한 객체(521)를 식별하고, 아이템 "24"를 제공하는 실행가능한 객체(520) 및 아이템 "2020년 12월"을 제공하는 적어도 하나의 다른 실행가능한 객체(521)를 표시할 수 있다.
예를 들면, 실행가능한 객체(515), 실행가능한 객체(516), 실행가능한 객체(518), 및 실행가능한 객체(520) 각각에 할당되는 상기 음성 명령은, 템플릿 ID(identifier)(예: TEXTBOX, VOLCONTROL, LEVELBAR, DATESETTING)에 대응할 수 있다. 예를 들면, 상기 음성 명령은, 상기 템플릿 ID에 기반하여 할당되거나 설정될 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호를 상기 템플릿 ID에 대하여 인식함으로써, 상기 음성 명령에 대응하는 기능을 제공할 수 있다. 제한되지 않는 예로(as a non-limiting example), 실행가능한 객체(516)가 포커스되는 동안 획득된 음성 신호가 "낮게"인 경우, 프로세서(210)는, 상기 음성 신호로부터 인식된 "낮게"가 상기 음성 명령임을 식별할 수 있다.
도 5c를 참조하면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(522)일 수 있다. 예를 들면, 실행가능한 객체(522)에 할당된 음성 명령은, 실행가능한 객체(522)의 이동을 위해 수신되는 입력의 유형 또는 실행가능한 객체(522)의 이동에 따라 제공되는 기능을 나타낼 수 있다. 예를 들면, 실행가능한 객체(522)에 할당된 상기 음성 명령은, 상기 입력의 상기 유형 또는 상기 기능을 나타내는 "스크롤", "스크롤 입력", "스크롤 업", 및/또는 "스크롤 다운"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 실행가능한 객체(522)와 관련된 콘텐트를 스크롤하는 것일 수 있다. 예를 들면, 프로세서(210)는, "스크롤", "스크롤 입력", "스크롤 업", 또는 "스크롤 다운"에 대응하는 상기 음성 신호에 응답하여, 상기 콘텐트를 스크롤함으로써 상기 콘텐트의 일부로부터 변경된 상기 콘텐트의 다른 일부를 표시할 수 있다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(523)일 수 있다. 예를 들면, 실행가능한 객체(523)에 할당된 음성 명령은, 포커스를 실행가능한 객체(523)로부터 실행가능한 객체(523)에 인접한 다른 실행가능한 객체(예: 실행가능한 객체(524) 및 실행가능한 객체(525))로 변경하는 것을 나타낼 수 있다. 예를 들면, 실행가능한 객체(523)에 할당된 상기 음성 명령은, "커서 이동", "커서 업", 및/또는 "커서 다운"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 상기 포커스를 실행가능한 객체(523)로부터 다른 실행가능한 객체(예: 실행가능한 객체(524) 및 실행가능한 객체(525))로 변경하는 것일 수 있다. 예를 들면, 프로세서(210)는, "커서 이동", "커서 업", 및/또는 "커서 다운"에 대응하는 상기 음성 신호에 응답하여, 상기 포커스를 상기 다른 실행가능한 객체(예: 실행가능한 객체(524) 또는 실행가능한 객체(525))로 변경할 수 있다.
예를 들면, 상기 포커스된 실행가능한 객체는, 실행가능한 객체(526)일 수 있다. 예를 들면, 실행가능한 객체(526)에 할당된 음성 명령은, 실행가능한 객체(526) 내의 시각적 요소들(527) 중 하나의 시각적 요소를 선택하는 것 또는 시각적 요소들(527) 각각에 대응하는 콘텐트를 선택하는 것을 나타낼 수 있다. 예를 들면, 실행가능한 객체(526)에 할당된 상기 음성 명령은, "페이지 1", "페이지 2", "페이지 3", "이전 페이지", 및/또는 "이후 페이지"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 상기 선택에 따라 변경된 콘텐트를 표시하는 것일 수 있다. 예를 들면, 프로세서(210)는, "다음 페이지" 또는 "페이지 3"에 대응하는 상기 음성 신호에 응답하여, 콘텐트(529)로부터 변경된 콘텐트(530)를 표시할 수 있다.
예를 들면, 상기 포커스된 실행가능한 객체는, 도 5d를 참조하면, 실행가능한 객체(531)일 수 있다. 예를 들면, 실행가능한 객체(531)에 할당된 음성 명령은, 실행가능한 객체(531)의 표현(representation), 사이즈, 상태, 또는 자세의 변경을 나타낼 수 있다. 예를 들면, 실행가능한 객체(531)에 할당된 상기 음성 명령은, "X도 반시계방향 회전"(X는 0 이상 360 이하의 실수), "작게", 또는 "크게"일 수 있다. 예를 들면, 상기 음성 명령과 연계된 상기 기능은, 실행가능한 객체(531)의 표현, 사이즈, 상태, 또는 자세를 변경하는 것일 수 있다. 예를 들면, 프로세서(210)는, "X도 반시계방향 회전"에 대응하는 상기 음성 신호에 응답하여, 실행가능한 객체(531)의 자세를 상태(532)와 같이 변경할 수 있다.
다시 도 3을 참조하면, 동작 309에서, 프로세서(210)는, 상기 음성 명령과 구별되는 상기 음성 신호에 기반하여, 상기 음성 신호를 인식하는 것을 종료할 수 있다. 예를 들면, 프로세서(210)는, 동작 305에 따라 실행된 상기 음성 신호와 상기 음성 명령 사이의 비교에 기반하여 상기 음성 신호가 상기 음성 명령과 다름을 식별하는 것에 기반하여, 상기 음성 신호의 처리를 중단할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 기반하여, 상기 음성 신호와 전자 장치(101) 내에서 이용가능한 모든 음성 명령들 중 남은 음성 명령들 각각 사이의 비교를 실행하는 것을 삼가하거나(refrain from) 우회할(bypass) 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호의 상기 인식을 종료한 후 상기 적어도 하나의 시각적 객체가 표시되는 동안, 마이크로폰(230)을 통해 상기 음성 신호 다음의 다른(another) 음성 신호가 획득되는지 여부를 식별할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 상기 실행가능한 객체가 상기 화면 내의 상기 복수의 실행가능한 객체들 중에서 포커스될 시, 상기 실행가능한 객체의 입력을 음성 입력으로 수신할 수 있다. 예를 들면, 전자 장치(101)는, 상기 음성 입력의 상기 수신을 통해, 상기 실행가능한 객체에 대한 입력의 편의성을 강화할 수 있다. 예를 들면, 전자 장치(101)는, 상기 실행가능한 객체에 대한 입력을 마이크로폰(230)을 통해 수신할 수 있음을 나타내는 상기 적어도 하나의 시각적 객체를 표시할 수 있다. 예를 들면, 상기 적어도 하나의 시각적 객체는, 상기 음성 입력을 통해 상기 실행가능한 객체를 제어가능함(controllable)을 가이드하기 때문에, 전자 장치(101)는, 상기 적어도 하나의 시각적 객체의 상기 표시를 통해, 강화된 사용자 경험을 제공할 수 있다. 예를 들면, 상기 적어도 하나의 시각적 객체가 표시되는 동안 마이크로폰(230)을 통해 수신되는 상기 음성 입력은, 상기 실행가능한 객체에 할당된 음성 명령에 대하여 식별되기 때문에, 전자 장치(101)는, 상기 음성 입력을 통한 피드백의 정확성을 강화할 수 있다. 예를 들면, 상기 적어도 하나의 시각적 객체가 표시되는 동안 마이크로폰(230)을 통해 수신되는 상기 음성 입력은, 상기 실행가능한 객체에 할당된 음성 명령에 대하여 식별되기 때문에, 전자 장치(101)는, 감소된 연산들의 양을 통해 상기 음성 입력에 대한 피드백을 제공할 수 있다.
도 6은 타이머를 이용하여 적어도 하나의 시각적 객체를 표시하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 2 내에서 도시된 프로세서(210)에 의해 실행될 수 있다. 이하 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 6의 동작 601 내지 동작 607은, 도 3 내지 도 5의 설명을 통해 예시된 동작들 내에 포함되거나 도 3 내지 도 5의 설명을 통해 예시된 동작들과 관련될 수 있다.
도 6을 참조하면, 동작 601에서, 프로세서(210)는, 상기 적어도 하나의 시각적 객체를 표시하는 것에 응답하여, 마이크로폰(예: 도 2의 마이크로폰(230))을 상기 실행가능한 객체를 위해 활성화하고, 타이머(timer)를 작동할(run) 수 있다. 예를 들면, 상기 타이머는, 마이크로폰(230)이 활성화되는 시간 및 상기 적어도 하나의 시각적 객체가 표시되는 시간을 식별하기 위해, 작동될 수 있다. 예를 들어, 상기 적어도 하나의 시각적 객체의 상기 표시로부터 일정(certain) 시간이 경과되는 동안 음성 신호가 마이크로폰(230)을 통해 수신되지 않음은, 상기 실행가능한 객체의 기능을 실행하지 않는 사용자 의도를 나타낼 수 있기 때문에, 프로세서(210)는, 상기 적어도 하나의 시각적 객체의 상기 표시에 응답하여, 상기 타이머를 작동할 수 있다.
동작 603에서, 프로세서(210)는, 상기 타이머가 만료되는지 여부를 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 타이머가 작동되는 동안(동작 603 - 아니오), 동작 605를 실행하고, 상기 타이머의 만료(동작 603 - 예)에 응답하여, 동작 607을 실행할 수 있다.
동작 605에서, 프로세서(210)는, 상기 타이머가 작동되는 동안, 마이크로폰(230)을 통해 획득되는 상기 음성 신호가 상기 음성 명령에 대응하는지 여부를 식별하고, 상기 적어도 하나의 시각적 객체의 상기 표시를 유지할 수 있다. 예를 들면, 상기 식별은, 도 3의 동작 305의 적어도 일부에 대응할 수 있다. 예를 들면, 상기 적어도 하나의 시각적 객체의 상기 표시를 유지함은, 상기 적어도 하나의 시각적 객체가 상기 타이머가 작동되는 동안 표시됨을 나타낼 수 있다. 예를 들어, 상기 타이머가 작동되는 동안, 상기 적어도 하나의 시각적 객체의 표현(representation)은 변경될 수 있다. 예를 들어, 상기 타이머가 작동되는 동안, 상기 적어도 하나의 시각적 객체의 색상은 제1 색상으로부터 제2 색상으로 변경될 수 있다. 예를 들면, 상기 타이머가 작동되는 동안, 상기 적어도 하나의 시각적 객체의 형상은 제1 형상으로부터 제2 형상으로 변경될 수 있다. 예를 들면, 상기 타이머가 작동되는 동안, 상기 적어도 하나의 시각적 객체의 사이즈는, 제1 사이즈로부터 제2 사이즈로 변경될 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 상기 타이머는, 상기 음성 신호가 획득되는 동안 적어도 일시적으로(at least temporarily) 중단될(stopped) 수 있다. 예를 들면, 상기 타이머는, 상기 음성 신호를 획득하는 것을 완료하는 것에 응답하여, 재개될(restarted) 수 있다. 예를 들면, 상기 타이머는, 상기 음성 신호가 상기 음성 명령과 구별됨을 식별하는 것에 응답하여, 재개될 수 있다. 예를 들면, 상기 타이머의 중단(stop)은, 상기 음성 신호가 상기 음성 명령에 대응함을 식별하는 것에 기반하여, 유지될 수 있다.
동작 607에서, 프로세서(210)는, 상기 타이머의 상기 만료에 응답하여, 마이크로폰(230)을 비활성화하고, 상기 적어도 하나의 시각적 객체의 표시를 중단할 수 있다. 예를 들면, 상기 음성 명령에 대응하는 상기 음성 신호가 상기 타이머가 만료될 때까지 획득되지 않음은, 마이크로폰(230)의 상기 활성화 및 상기 적어도 하나의 시각적 객체의 상기 표시가 사용자 의도와 다름을 나타내기 때문에, 프로세서(210)는, 동작 607을 실행할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 상기 타이머를 통해, 마이크로폰(230)의 상기 활성화를 위해 소비되는 전력을 감소시킬 수 있다. 예를 들면, 전자 장치(101)는, 상기 타이머의 만료에 따라 상기 적어도 하나의 시각적 객체의 표시를 중단하기 때문에, 전자 장치(101)는, 상기 타이머를 이용하여, 상기 실행가능한 객체에 대하여 감소된 상기 적어도 하나의 다른 실행가능한 객체의 시각적 품질(visual quality)을 강화할 수 있다.
도 7은 음성 신호에 기반하여 다른 실행가능한 객체에 할당된 다른 음성 명령과 연계된 기능을 실행하는 예시적인 방법을 도시하는 흐름도이다. 상기 방법은, 도 2 내에서 도시된 프로세서(210)에 의해 실행될 수 있다. 이하 실시예에서 각 동작들은 순차적으로 수행될 수도 있으나, 반드시 순차적으로 수행되는 것은 아니다. 예를 들어, 각 동작들의 순서가 변경될 수도 있으며, 적어도 두 동작들이 병렬적으로 수행될 수도 있다.
도 7의 동작 701 내지 동작 711은, 도 3 내지 도 5의 설명을 통해 예시된 동작들과 관련될 수 있다.
도 7을 참조하면, 동작 701에서, 프로세서(210)는, 상기 실행가능한 객체와 연계된 상기 적어도 하나의 시각적 객체를 표시할 수 있다. 예를 들면, 동작 701은, 도 3의 동작 303에 대응할 수 있다.
동작 703에서, 프로세서(210)는, 상기 화면 내의 상기 복수의 실행가능한 객체들 중 다른(another) 실행가능한 객체가 포커스됨을 식별할 수 있다. 예를 들면, 상기 실행가능한 객체로부터 상기 다른 실행가능한 객체로의 상기 포커스의 변경은, 시선 입력 또는 제스쳐 입력에 응답하여 실행될 수 있다. 예를 들면, 상기 변경은, 도 5c의 실행가능한 객체(523)로부터 실행가능한 객체(524)(또는 실행가능한 객체(525))로의 상기 포커스의 변경과 같이, 상기 실행가능한 객체와 연계된 상기 적어도 하나의 시각적 객체가 표시되는 동안 마이크로폰(예: 도 2의 마이크로폰(230))을 통해 획득된 상기 음성 신호에 응답하여 실행될 수 있다. 하지만, 이에 제한되지 않는다.
동작 705에서, 프로세서(210)는, 상기 식별에 응답하여, 상기 다른 실행가능한 객체와 연계된 상기 적어도 하나의 시각적 객체를 표시할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 응답하여, 상기 적어도 하나의 시각적 객체의 위치를 변경하거나 상기 적어도 하나의 시각적 객체를 이동함으로써, 상기 다른 실행가능한 객체와 연계된 상기 적어도 하나의 시각적 객체를 표시할 수 있다.
예를 들면, 프로세서(210)는, 상기 식별에 응답하여, 마이크로폰(230)을 상기 다른 실행가능한 객체를 위해 활성화하고, 마이크로폰(230)이 상기 복수의 실행가능한 객체들 중 상기 다른 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 상기 적어도 하나의 시각적 객체를 표시할 수 있다. 상기 다른 실행가능한 객체와 연계된 상기 적어도 하나의 시각적 객체의 표시는, 도 8을 통해 예시될 수 있다.
도 8은 마이크로폰이 다른 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체의 예를 도시한다.
도 8을 참조하면, 프로세서(예: 도 2의 프로세서(210))는, 상기 다른 실행가능한 객체의 포커스에 응답하여, 시각적 객체(421)를 이동할 수 있다. 예를 들면, 프로세서(210)는, 시각적 객체(421)의 상기 이동에 따라, 다른 실행가능한 객체(410-2)의 가장자리를 따라 표시되도록 시각적 강조를 야기할 수 있다. 예를 들면, 시각적 객체(421)는, 다른 실행가능한 객체(410-2)가 복수의 실행가능한 객체들(410) 중에서 포커스됨을 나타낼 수 있다. 예를 들면, 시각적 객체(421)는, 마이크로폰(예: 도 2의 마이크로폰(230))이 다른 실행가능한 객체(410-2)에 대한 입력을 수신하기 위해 활성화됨을 나타낼 수 있다. 예를 들면, 시각적 객체(421)와 연계된 다른 실행가능한 객체(410-2)는, 시각적으로 강조될 수 있다.
예를 들면, 적어도 하나의 시각적 객체(420)의 색상은, 다른 실행가능한 객체(410-2)의 상기 포커스에 응답하여, 변경될 수 있다. 예를 들면, 다른 시각적 객체(422)의 색상은, 다른 실행가능한 객체(410-2)를 위해 마이크로폰(230)이 활성화됨을 나타내기 위해, 실행가능한 객체(410-1)의 색상(또는 대표 색상)으로부터 다른 실행가능한 객체(410-2)의 색상(또는 대표 색상)으로 변경될 수 있다. 예를 들면, 다른 시각적 객체(422)의 위치는, 다른 실행가능한 객체(410-2)로의 상기 포커스의 변경에 따라 이동되는 시각적 객체(421)와 달리, 유지될 수 있다. 하지만, 이에 제한되지 않는다.
다시 도 7을 참조하면, 동작 707에서, 프로세서(210)는, 상기 다른 실행가능한 객체와 연계된 상기 적어도 하나의 시각적 객체가 표시되는 동안 마이크로폰(230)을 통해 획득되는 음성 신호가, 상기 다른 실행가능한 객체에 할당된 다른(another) 음성 명령에 대응하는지 여부를 식별할 수 있다. 예를 들면, 상기 다른 음성 명령은, 상기 실행가능한 객체에 할당된 상기 음성 명령과 구별될 수 있다. 예를 들면, 프로세서(210)는, 동작 707에서 획득된 상기 음성 신호가 상기 다른 음성 명령에 대응하는 조건(동작 707 - 예) 상에서, 동작 709를 실행하고, 동작 707에서 획득된 상기 음성 신호가 상기 다른 음성 명령과 구별되는 조건(동작 707 - 아니오) 상에서, 동작 711을 실행할 수 있다.
동작 709에서, 프로세서(210)는, 상기 다른 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 다른 음성 명령과 연계된 상기 다른 실행가능한 객체의 기능을 실행할 수 있다.
동작 711에서, 프로세서(210)는, 상기 다른 음성 명령과 구별되는 상기 음성 신호에 기반하여, 상기 음성 신호의 인식을 종료할 수 있다.
상술한 바와 같이, 전자 장치(101)는, 포커스의 이동에 따라 상기 적어도 하나의 시각적 객체를 이동함으로써, 마이크로폰(230)을 통해 수신되는 입력이 적용될 대상(예: 상기 다른 실행가능한 객체)을 시각적으로 강조할 수 있다.
도 9 및 10은, 예시적인 전자 장치의 프로세서에 의해 실행되는 기능적 구성요소들의 예를 도시한다. 상기 기능적 구성요소들은, 도 2 내에서 도시된 프로세서(210)에 의해 실행될 수 있다.
도 9를 참조하면, 프로세서(210)는, 화면(900) 내의 실행가능한 객체들(910) 중 실행가능한 객체(910-1)가 포커스됨을 식별할 수 있다. 예를 들면, 프로세서(210)는, 상기 식별에 응답하여, 입력 핸들러(920)를 이용하여, 마이크로폰(예: 도 2의 마이크로폰(230))을 활성화하고, 도 6의 설명을 통해 예시된 상기 타이머를 작동할 수 있다. 예를 들면, 프로세서(210)는, 상기 타이머가 작동되는 동안 마이크로폰(230)을 통해 음성 신호를 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 음성 신호를 입력 핸들러(920)를 이용하여 음성 명령 필터(930)에게 제공할 수 있다. 예를 들면, 프로세서(210)는, 음성 명령 필터(930)를 이용하여, 데이터베이스(940) 내에 저장된, 실행가능한 객체들(910)을 위한 정보로부터 실행가능한 객체(910-1)를 위한 정보를 획득할 수 있다. 예를 들면, 프로세서(210)는, 음성 명령 필터(930)를 이용하여, 실행가능한 객체(910-1)를 위한 상기 정보에 기반하여, 실행가능한 객체(910-1)에 맵핑된(mapped to) 음성 명령을 식별할 수 있다. 예를 들면, 프로세서(210)는, 음성 명령 필터(930)를 이용하여, 상기 음성 신호를 상기 음성 명령과 비교할 수 있다.
예를 들면, 프로세서(210)는, 음성 명령 필터(930)를 이용하여, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 신호가 상기 음성 명령에 대응함을 나타내는 데이터를 액션 매니저(950)에게 제공할 수 있다. 예를 들면, 프로세서(210)는, 액션 매니저(950)를 이용하여, 상기 데이터에 응답하여, 상기 음성 명령에 링크된(linked to) 실행가능한 객체(910-1)의 기능을 실행할 수 있다.
예를 들면, 프로세서(210)는, 음성 명령 필터(930)를 이용하여, 상기 음성 명령과 구별되는 상기 음성 신호에 기반하여, 상기 음성 신호의 인식을 종료할 수 있다.
도 10을 참조하면, 전자 장치(101)는, 화면 내에 포함된 실행가능한 객체들(1010) 각각을 위한 정보를 저장할 수 있다. 예를 들면, 상기 정보는, 데이터의 세트를 포함할 수 있다. 상기 세트는, 실행가능한 객체들(1010) 각각의 형상을 나타내는 그래픽적(graphical) 데이터, 실행가능한 객체들(1010) 각각에 할당된 음성 명령을 나타내는 음성 명령 데이터, 및 상기 음성 명령과 연계된 실행가능한 객체들(1010) 각각의 기능을 나타내는 메타 데이터를 포함할 수 있다. 예를 들면, 실행가능한 객체들(1010) 중 실행가능한 객체(1010-1)를 위한 정보는, 데이터의 세트(1020-1)를 포함할 수 있다. 예를 들면, 세트(1020-1)는, 제1 그래픽적 데이터, 제1 음성 명령 데이터, 및 제1 메타 데이터를 포함할 수 있다. 예를 들면, 실행가능한 객체들(1010) 중 실행가능한 객체(1010-2)를 위한 정보는, 데이터의 세트(1020-2)를 포함할 수 있다. 예를 들면, 세트(1020-2)는, 제2 그래픽적 데이터, 제2 음성 명령 데이터, 및 제2 메타 데이터를 포함할 수 있다. 예를 들면, 실행가능한 객체들(1010) 중 실행가능한 객체(1010-N)를 위한 정보는, 데이터의 세트(1020-N)를 포함할 수 있다. 예를 들면, 세트(1020-N)는, 제N 그래픽적 데이터, 제N 음성 명령 데이터, 및 제N 메타 데이터를 포함할 수 있다.
예를 들면, 프로세서(예: 도 2의 프로세서(210))는, 실행가능한 객체들(1010) 중 실행가능한 객체(1010-1)의 포커스에 응답하여, 입력 핸들러(1030)를 이용하여, 마이크로폰(예: 도 2의 마이크로폰(230))을 활성화하고, 도 6의 설명을 통해 예시된 상기 타이머를 작동할 수 있다. 예를 들면, 프로세서(210)는, 상기 포커스에 응답하여, 입력 핸들러(1030)를 이용하여, 세트(1020-1)로부터 상기 제1 음성 명령 데이터 및 상기 제1 메타 데이터를 획득할 수 있다. 예를 들면, 상기 제1 음성 명령 데이터 및 상기 제1 메타 데이터는, 로더(1040)에게 제공될 수 있다.
예를 들면, 프로세서(210)는, 상기 타이머가 작동되는 동안 마이크로폰(230)을 통해 음성 신호를 획득할 수 있다. 예를 들면, 프로세서(210)는, 상기 획득에 응답하여, 입력 핸들러(1030)를 이용하여, 상기 음성 신호를 로더(loader)(1040)에게 제공할 수 있다. 예를 들면, 프로세서(210)는, 로더(1040)를 이용하여 음성 인식 엔진(1050)에게 상기 음성 신호 및 상기 제1 음성 명령 데이터를 제공할 수 있다. 프로세서(210)는, 입력 핸들러(1030)를 이용하여 상기 제1 메타 데이터를 액션 매니저(1070)에게 제공할 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 음성 인식 엔진(1050)을 이용하여, 상기 음성 신호를 상기 제1 음성 명령 데이터에 대하여 인식할 수 있다. 예를 들면, 프로세서(210)는, 음성 인식 엔진(1050)과 연결된 모델(1060)(예: ML(machine learning을 통해 트레이닝된 모델)로부터 획득된 정보에 기반하여, 음성 인식 엔진(1050)을 이용하여 상기 음성 신호가 상기 제1 음성 명령 데이터에 대응하는지 여부를 식별할 수 있다. 예를 들면, 프로세서(210)는, ASR(automatic speech recognition)를 위한 모델(1060)을 이용하여 상기 음성 신호를 텍스트로 변환하고, 상기 텍스트를 상기 제1 음성 명령 데이터를 비교할 수 있다. 예를 들면, 상기 비교는, 정확한 매칭 알고리즘(exact matching algorithm) 및/또는 레벤슈타인 거리 알고리즘(Levenshtein distance algorithm)을 통해 실행될 수 있다. 하지만, 이에 제한되지 않는다.
예를 들면, 프로세서(210)는, 상기 제1 음성 명령 데이터에 대응하는 상기 음성 신호에 기반하여, 음성 인식 엔진(1050)을 이용하여 상기 제1 메타 데이터에 기반하여 기능을 실행함을 나타내는 데이터를 액션 매니저(1070)에게 제공할 수 있다. 예를 들면, 프로세서(210)는, 액션 매니저(1070)를 이용하여, 상기 데이터에 기반하여, 상기 제1 음성 명령 데이터에 링크된 실행가능한 객체(1010-1)의 기능을 실행할 수 있다.
예를 들면, 프로세서(210)는, 상기 제1 음성 명령 데이터와 다른 상기 음성 신호에 기반하여, 음성 인식 엔진(1050) 또는 입력 핸들러(1030)를 이용하여 상기 제1 메타 데이터에 기반하여 기능을 실행하는 것을 삼가함을 나타내는 데이터를 액션 매니저(1070)에게 제공하거나, 상기 음성 신호의 인식을 중단할 수 있다.
도 11은, 다양한 실시예들에 따른, 네트워크 환경(1100) 내의 전자 장치(1101)의 블록도이다. 도 11을 참조하면, 네트워크 환경(1100)에서 전자 장치(1101)는 제 1 네트워크(1198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1102)와 통신하거나, 또는 제 2 네트워크(1199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1104) 또는 서버(1108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1101)는 서버(1108)를 통하여 전자 장치(1104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(1101)는 프로세서(1120), 메모리(1130), 입력 모듈(1150), 음향 출력 모듈(1155), 디스플레이 모듈(1160), 오디오 모듈(1170), 센서 모듈(1176), 인터페이스(1177), 연결 단자(1178), 햅틱 모듈(1179), 카메라 모듈(1180), 전력 관리 모듈(1188), 배터리(1189), 통신 모듈(1190), 가입자 식별 모듈(1196), 또는 안테나 모듈(1197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(1101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(1178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(1176), 카메라 모듈(1180), 또는 안테나 모듈(1197))은 하나의 구성요소(예: 디스플레이 모듈(1160))로 통합될 수 있다.
프로세서(1120)는, 예를 들면, 소프트웨어(예: 프로그램(1140))를 실행하여 프로세서(1120)에 연결된 전자 장치(1101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1120)는 다른 구성요소(예: 센서 모듈(1176) 또는 통신 모듈(1190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1132)에 저장하고, 휘발성 메모리(1132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(1134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(1120)는 메인 프로세서(1121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(1101)가 메인 프로세서(1121) 및 보조 프로세서(1123)를 포함하는 경우, 보조 프로세서(1123)는 메인 프로세서(1121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1123)는 메인 프로세서(1121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(1123)는, 예를 들면, 메인 프로세서(1121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1121)를 대신하여, 또는 메인 프로세서(1121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1121)와 함께, 전자 장치(1101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(1160), 센서 모듈(1176), 또는 통신 모듈(1190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(1123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(1180) 또는 통신 모듈(1190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(1123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(1101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(1108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(1130)는, 전자 장치(1101)의 적어도 하나의 구성요소(예: 프로세서(1120) 또는 센서 모듈(1176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1130)는, 휘발성 메모리(1132) 또는 비휘발성 메모리(1134)를 포함할 수 있다.
프로그램(1140)은 메모리(1130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(1142), 미들 웨어(1144) 또는 어플리케이션(1146)을 포함할 수 있다.
입력 모듈(1150)은, 전자 장치(1101)의 구성요소(예: 프로세서(1120))에 사용될 명령 또는 데이터를 전자 장치(1101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(1150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(1155)은 음향 신호를 전자 장치(1101)의 외부로 출력할 수 있다. 음향 출력 모듈(1155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(1160)은 전자 장치(1101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(1160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(1160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(1170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(1170)은, 입력 모듈(1150)을 통해 소리를 획득하거나, 음향 출력 모듈(1155), 또는 전자 장치(1101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(1176)은 전자 장치(1101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(1176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(1177)는 전자 장치(1101)가 외부 전자 장치(예: 전자 장치(1102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(1177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(1178)는, 그를 통해서 전자 장치(1101)가 외부 전자 장치(예: 전자 장치(1102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(1178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(1179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(1179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(1180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(1180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(1188)은 전자 장치(1101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(1188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(1189)는 전자 장치(1101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(1189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(1190)은 전자 장치(1101)와 외부 전자 장치(예: 전자 장치(1102), 전자 장치(1104), 또는 서버(1108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1190)은 프로세서(1120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(1190)은 무선 통신 모듈(1192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(1198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(1199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(1104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(1192)은 가입자 식별 모듈(1196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(1198) 또는 제 2 네트워크(1199)와 같은 통신 네트워크 내에서 전자 장치(1101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(1192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(1192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(1192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(1192)은 전자 장치(1101), 외부 전자 장치(예: 전자 장치(1104)) 또는 네트워크 시스템(예: 제 2 네트워크(1199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(1192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(1197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(1197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(1197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(1198) 또는 제 2 네트워크(1199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(1190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(1190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(1197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(1197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(1199)에 연결된 서버(1108)를 통해서 전자 장치(1101)와 외부의 전자 장치(1104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(1102, 또는 1104) 각각은 전자 장치(1101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(1101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(1102, 1104, 또는 1108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(1101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(1101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(1101)로 전달할 수 있다. 전자 장치(1101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(1101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(1104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(1108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(1104) 또는 서버(1108)는 제 2 네트워크(1199) 내에 포함될 수 있다. 전자 장치(1101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
상술한 바와 같은, 전자 장치(electronic device)(101)는, 마이크로폰(230)과, 디스플레이(220)와, 프로세서(210)를 포함할 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 복수의 실행가능한 객체들(executable objects)을 포함하는 화면을, 상기 디스플레이(220)를 통해, 표시하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체에 기반하여, 상기 마이크로폰(230)을 상기 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰(230)이 상기 복수의 실행가능한 객체들 중 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(visual object)(420)를, 상기 디스플레이(220)를 통해, 표시하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 적어도 하나의 시각적 객체(420)가 표시되는 동안 상기 마이크로폰(230)을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 시각적 객체(420)는, 상기 실행가능한 객체와 연계로(as associated with) 표시되는 시각적 객체(421)를 포함할 수 있다. 일 실시예에 따르면, 상기 시각적 객체(421)와 연계된 상기 실행가능한 객체는, 상기 복수의 실행가능한 객체들 중 적어도 하나의 다른 실행가능한 객체에 대하여 시각적으로(visually) 강조될 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 시각적 객체(420)는, 상기 시각적 객체(421)와 구별되는 다른(another) 시각적 객체(422)를 포함할 수 있다. 일 실시예에 따르면, 상기 다른 시각적 객체(422)는, 상기 마이크로폰(230)이 활성화됨을 나타낼 수 있다.
일 실시예에 따르면, 상기 시각적 객체(421)는, 상기 실행가능한 객체의 가장자리를 따라(along) 표시될 수 있다. 일 실시예에 따르면, 상기 다른 시각적 객체(422)는, 상기 시각적 객체(421)로부터 이격될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 적어도 하나의 시각적 객체(420)가 표시되는 동안 획득되는 상기 음성 신호에 응답하여, 상기 실행가능한 객체를 위한 정보로부터 상기 음성 명령을 획득하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 신호를 상기 음성 명령과 비교함으로써, 상기 음성 신호가 상기 음성 명령에 대응하는지 여부를 식별하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 정보는, 상기 음성 명령과 연계된 상기 기능에 대한 데이터를 포함할 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 적어도 하나의 시각적 객체(420)를 표시하는 것에 응답하여, 상기 마이크로폰(230)을 상기 실행가능한 객체를 위해 활성화하고, 타이머를 작동하도록(run), 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 타이머가 작동되는 동안, 상기 마이크로폰(230)을 통해 획득되는 상기 음성 신호가 상기 음성 명령에 대응하는지 여부를 식별하고, 상기 적어도 하나의 시각적 객체(420)의 상기 표시를 유지하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 타이머의 만료에 응답하여, 상기 마이크로폰(230)을 비활성화하고, 상기 적어도 하나의 시각적 객체(420)의 상기 표시를 중단하도록 구성될 수 있다.
일 실시예에 따르면, 상기 타이머는, 상기 음성 신호가 획득되는 동안 적어도 일시적으로 중단될 수 있다. 일 실시예에 따르면, 상기 타이머는, 상기 음성 신호를 획득하는 것을 완료하는 것에 응답하여, 재개될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 음성 명령과 구별되는 상기 음성 신호에 기반하여, 상기 음성 신호를 인식하는 것을 종료하도록(terminate), 구성될 수 있다.
일 실시예에 따르면, 상기 프로세서(210)는, 상기 복수의 실행가능한 객체들 중 다른(another) 실행가능한 객체가 포커스됨을 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 식별에 응답하여, 상기 마이크로폰(230)을 상기 다른 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰(230)이 상기 복수의 실행가능한 객체들 중 상기 다른 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 상기 적어도 하나의 시각적 객체(420)를, 상기 디스플레이(220)를 통해, 표시하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 마이크로폰(230)이 상기 다른 실행가능한 객체에 대한 상기 입력을 수신하기 위해 활성화됨을 나타내는 상기 적어도 하나의 시각적 객체(420)가 표시되는 동안 상기 마이크로폰(230)을 통해 획득되는 음성 신호가, 상기 다른 실행가능한 객체에 할당되고, 상기 음성 명령과 구별되는, 다른(another) 음성 명령에 대응하는지 여부를 식별하도록 구성될 수 있다. 일 실시예에 따르면, 상기 프로세서(210)는, 상기 다른 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 다른 음성 명령과 연계된 상기 다른 실행가능한 객체의 기능을 실행하도록, 구성될 수 있다.
일 실시예에 따르면, 상기 음성 신호는, 상기 음성 명령과의 비교를 위해 인식될 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는, AR(augmented reality) 글래스(glass)일 수 있다. 일 실시예에 따르면, 상기 화면은, 상기 디스플레이(220)를 통해 보여지는 외부 객체와 함께 표시될 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는, VST(video see-through) 장치일 수 있다. 일 실시예에 따르면, 상기 화면은, 상기 전자 장치(101)의 카메라를 통해 획득되는 상기 전자 장치(101) 주변의 환경에 대한 이미지와 함께, 표시될 수 있다.
일 실시예에 따르면, 상기 실행가능한 객체는, 상기 실행가능한 객체 상의 포인터(pointer)에 기반하여, 포커스될 수 있다.
일 실시예에 따르면, 상기 실행가능한 객체는, 상기 화면의 상기 표시에 응답하여 포커스될 수 있다.
상술한 바와 같은, 전자 장치는, 마이크로폰과, 디스플레이와, 적어도 하나의 인스트럭션들을 저장하는 적어도 하나의 메모리와, 적어도 하나의 프로세서를 포함할 수 있다. 일 실시예에 따르면, 상기 프로세서는, 복수의 실행가능한 객체들을 포함하는 화면을, 상기 디스플레이를 통해 표시하고, 상기 복수의 실행가능한 객체들 중 선택된 실행가능한 객체에 기반하여, 마이크로폰을 활성화하고 상기 마이크로폰이 상기 선택된 실행가능한 객체에 대응하는 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(상기 적어도 하나의 시각적 객체는 상기 복수의 실행가능한 객체들 중 다른 실행가능한 객체들에 대하여 시각적으로 강조하도록 구성됨)를 상기 디스플레이를 통해 표시하고, 상기 적어도 하나의 시각적 객체를 표시하고 상기 마이크로폰을 활성화하는 것에 기반하여, 타이머를 구동하고, 상기 타이머가 구동하는 동안, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 마이크로폰을 통해 획득된 음성 신호가 음성 명령에 대응하는지 여부를 식별하고, 상기 적어도 하나의 시각적 객체의 상기 표시를 유지하고, 상기 타이머의 만료 및 상기 음성 신호가 상기 음성 명령과 구별됨을 식별하는 것에 기반하여, 상기 마이크로폰을 비활성화하고 상기 적어도 하나의 시각적 객체의 상기 표시를 중단하고, 상기 획득된 음성 신호가 상기 음성 명령에 대응함을 식별하는 것에 기반하여, 상기 음성 명령과 관련된 상기 실행가능한 객체의 기능을 실행하도록 구성될 수 있다.
상술한 바와 같은, 비일시적 컴퓨터 판독가능 저장 매체는 인스트럭션들을 가질 수 있는데, 상기 인스트럭션들은, 적어도 하나의 프로세서에 의해 실행될 시 전자 장치를 제어하기 위한 방법을 실행하도록 상기 적어도 하나의 프로세서를 야기할 수 있다. 일 실시예에 따르면, 상기 방법은, 복수의 실행가능한 객체들을 포함하는 화면을, 상기 전자 장치의 디스플레이를 통해 표시하는 동작과, 상기 복수의 실행가능한 객체들 중 선택된 실행가능한 객체에 기반하여, 상기 전자 장치의 마이크로폰을 활성화하고 상기 마이크로폰이 상기 선택된 실행가능한 객체에 대응하는 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(상기 적어도 하나의 시각적 객체는 상기 복수의 실행가능한 객체들 중 다른 실행가능한 객체들에 대하여 시각적으로 강조하도록 구성됨)를 상기 디스플레이를 통해 표시하는 동작과, 상기 적어도 하나의 시각적 객체를 표시하고 상기 마이크로폰을 활성화하는 것에 기반하여, 타이머를 구동하는 동작과, 상기 타이머가 구동하는 동안, 상기 적어도 하나의 시각적 객체가 표시되는 동안 상기 마이크로폰을 통해 획득된 음성 신호가 음성 명령에 대응하는지 여부를 식별하고, 상기 적어도 하나의 시각적 객체의 상기 표시를 유지하는 동작과, 상기 타이머의 만료 및 상기 음성 신호가 상기 음성 명령과 구별됨을 식별하는 것에 기반하여, 상기 마이크로폰을 비활성화하고 상기 적어도 하나의 시각적 객체의 상기 표시를 중단하는 동작과, 상기 획득된 음성 신호가 상기 음성 명령에 대응함을 식별하는 것에 기반하여, 상기 음성 명령과 관련된 상기 실행가능한 객체의 기능을 실행하는 동작을 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(1101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(1136) 또는 외장 메모리(1138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(1140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(1101))의 프로세서(예: 프로세서(1120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치(electronic device)(101)에 있어서,
    마이크로폰(230);
    디스플레이(220); 및
    프로세서(210)를 포함하고,
    상기 프로세서(210)는,
    복수의 실행가능한 객체들(executable objects)을 포함하는 화면을, 상기 디스플레이(220)를 통해, 표시하고,
    상기 복수의 실행가능한 객체들 중 포커스된 실행가능한 객체에 기반하여, 상기 마이크로폰(230)을 활성화하고, 상기 마이크로폰(230)이 상기 복수의 실행가능한 객체들 중 상기 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 적어도 하나의 시각적 객체(visual object)(420)를, 상기 디스플레이(220)를 통해, 표시하고,
    상기 적어도 하나의 시각적 객체(420)가 표시되는 동안 상기 마이크로폰(230)을 통해 획득되는 음성 신호가 상기 실행가능한 객체에 할당된 음성 명령에 대응하는지 여부를 식별하고,
    상기 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 음성 명령과 연계된 상기 실행가능한 객체의 기능을 실행하도록, 구성되는,
    전자 장치.
  2. 청구항 1에 있어서, 상기 적어도 하나의 시각적 객체(420)는,
    상기 실행가능한 객체와 연계로(as associated with) 표시되는 시각적 객체(421)를 포함하고,
    상기 시각적 객체(421)와 연계된 상기 실행가능한 객체는,
    상기 복수의 실행가능한 객체들 중 적어도 하나의 다른 실행가능한 객체에 대하여 시각적으로(visually) 강조되는(highlighted),
    전자 장치.
  3. 청구항 1 내지 2 중 어느 하나에 있어서, 상기 적어도 하나의 시각적 객체(420)는,
    상기 시각적 객체(421)와 구별되는 다른(another) 시각적 객체(422)를 포함하고,
    상기 다른 시각적 객체(422)는,
    상기 마이크로폰(230)이 활성화됨을 나타내는,
    전자 장치.
  4. 청구항 1 내지 3 중 어느 하나에 있어서, 상기 시각적 객체(421)는,
    상기 실행가능한 객체의 가장자리를 따라(along) 표시되고,
    상기 다른 시각적 객체(422)는,
    상기 시각적 객체(421)로부터 이격되는,
    전자 장치.
  5. 청구항 1 내지 4 중 어느 하나에 있어서, 상기 프로세서(210)는,
    상기 적어도 하나의 시각적 객체(420)가 표시되는 동안 획득되는 상기 음성 신호에 응답하여, 상기 실행가능한 객체를 위한 정보로부터 상기 음성 명령을 획득하고,
    상기 음성 신호를 상기 음성 명령과 비교함으로써, 상기 음성 신호가 상기 음성 명령에 대응하는지 여부를 식별하도록, 구성되는,
    전자 장치.
  6. 청구항 1 내지 5 중 어느 하나에 있어서, 상기 정보는,
    상기 음성 명령과 연계된 상기 기능에 대한 데이터를 포함하는,
    전자 장치.
  7. 청구항 1 내지 6 중 어느 하나에 있어서, 상기 프로세서(210)는,
    상기 적어도 하나의 시각적 객체(420)를 표시하는 것에 응답하여, 상기 마이크로폰(230)을 상기 실행가능한 객체를 위해 활성화하고, 타이머를 작동하고(run),
    상기 타이머가 작동되는 동안, 상기 마이크로폰(230)을 통해 획득되는 상기 음성 신호가 상기 음성 명령에 대응하는지 여부를 식별하고, 상기 적어도 하나의 시각적 객체(420)의 상기 표시를 유지하고,
    상기 타이머의 만료에 응답하여, 상기 마이크로폰(230)을 비활성화하고, 상기 적어도 하나의 시각적 객체(420)의 상기 표시를 중단하도록 구성되는,
    전자 장치.
  8. 청구항 1 내지 7 중 어느 하나에 있어서, 상기 타이머는,
    상기 음성 신호가 획득되는 동안 적어도 일시적으로 중단되고(stopped),
    상기 음성 신호를 획득하는 것을 완료하는 것에 응답하여, 재개되는(restarted),
    전자 장치.
  9. 청구항 1 내지 8 중 어느 하나에 있어서, 상기 프로세서(210)는,
    상기 음성 명령과 구별되는 상기 음성 신호에 기반하여, 상기 음성 신호를 인식하는 것을 종료하도록(terminate), 더 구성되는,
    전자 장치.
  10. 청구항 1 내지 9 중 어느 하나에 있어서, 상기 프로세서(210)는,
    상기 복수의 실행가능한 객체들 중 다른(another) 실행가능한 객체가 포커스됨을 식별하고,
    상기 식별에 응답하여, 상기 마이크로폰(230)을 상기 다른 실행가능한 객체를 위해 활성화하고, 상기 마이크로폰(230)이 상기 복수의 실행가능한 객체들 중 상기 다른 실행가능한 객체에 대한 입력을 수신하기 위해 활성화됨을 나타내는 상기 적어도 하나의 시각적 객체(420)를, 상기 디스플레이(220)를 통해, 표시하고,
    상기 마이크로폰(230)이 상기 다른 실행가능한 객체에 대한 상기 입력을 수신하기 위해 활성화됨을 나타내는 상기 적어도 하나의 시각적 객체(420)가 표시되는 동안 상기 마이크로폰(230)을 통해 획득되는 음성 신호가, 상기 다른 실행가능한 객체에 할당되고, 상기 음성 명령과 구별되는, 다른(another) 음성 명령에 대응하는지 여부를 식별하고,
    상기 다른 음성 명령에 대응하는 상기 음성 신호에 기반하여, 상기 다른 음성 명령과 연계된 상기 다른 실행가능한 객체의 기능을 실행하도록, 구성되는,
    전자 장치.
  11. 청구항 1 내지 10 중 어느 하나에 있어서, 상기 음성 신호는,
    상기 음성 명령과의 비교를 위해 인식되는,
    전자 장치.
  12. 청구항 1 내지 11 중 어느 하나에 있어서, 상기 전자 장치(101)는,
    AR(augmented reality) 글래스(glass)이고,
    상기 화면은,
    상기 디스플레이(220)를 통해 보여지는 외부 객체와 함께 표시되는,
    전자 장치.
  13. 청구항 1 내지 11 중 어느 하나에 있어서, 상기 전자 장치(101)는,
    VST(video see-through) 장치이고,
    상기 화면은,
    상기 전자 장치(101)의 카메라를 통해 획득되는 상기 전자 장치(101) 주변의 환경에 대한 이미지와 함께, 표시되는,
    전자 장치.
  14. 청구항 1 내지 13 중 어느 하나에 있어서, 상기 실행가능한 객체는,
    상기 실행가능한 객체 상의 포인터(pointer)에 기반하여, 포커스되는,
    전자 장치.
  15. 청구항 1 내지 14 중 어느 하나에 있어서, 상기 실행가능한 객체는,
    상기 화면의 상기 표시에 응답하여 포커스되는,
    전자 장치.
PCT/KR2023/015549 2022-10-14 2023-10-10 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 WO2024080709A1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2022-0132513 2022-10-13
KR20220132513 2022-10-14
KR10-2022-0146561 2022-11-03
KR1020220146561A KR20240052578A (ko) 2022-10-14 2022-11-04 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/538,632 Continuation US20240135929A1 (en) 2022-10-13 2023-12-13 Electronic device, method, and non-transitory computer readable storage medium controlling executable object based on voice signal

Publications (1)

Publication Number Publication Date
WO2024080709A1 true WO2024080709A1 (ko) 2024-04-18

Family

ID=90669871

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2023/015549 WO2024080709A1 (ko) 2022-10-14 2023-10-10 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체

Country Status (1)

Country Link
WO (1) WO2024080709A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160001465A (ko) * 2014-06-27 2016-01-06 엘지전자 주식회사 글래스 타입 단말기 및 이의 제어방법
US20170061694A1 (en) * 2015-09-02 2017-03-02 Riccardo Giraldi Augmented reality control of computing device
KR20170120523A (ko) * 2016-04-21 2017-10-31 주식회사 비주얼캠프 표시 장치와 이를 이용한 입력 처리 방법 및 시스템
KR20180071092A (ko) * 2016-12-19 2018-06-27 삼성전자주식회사 사용자의 시선 및 입력에 기반하여 제어되는 전자 장치, 모바일 전자 장치 및 디스플레이 장치
KR20180138017A (ko) * 2017-06-20 2018-12-28 삼성전자주식회사 음성 인식을 위한 전자 장치 및 시스템

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160001465A (ko) * 2014-06-27 2016-01-06 엘지전자 주식회사 글래스 타입 단말기 및 이의 제어방법
US20170061694A1 (en) * 2015-09-02 2017-03-02 Riccardo Giraldi Augmented reality control of computing device
KR20170120523A (ko) * 2016-04-21 2017-10-31 주식회사 비주얼캠프 표시 장치와 이를 이용한 입력 처리 방법 및 시스템
KR20180071092A (ko) * 2016-12-19 2018-06-27 삼성전자주식회사 사용자의 시선 및 입력에 기반하여 제어되는 전자 장치, 모바일 전자 장치 및 디스플레이 장치
KR20180138017A (ko) * 2017-06-20 2018-12-28 삼성전자주식회사 음성 인식을 위한 전자 장치 및 시스템

Similar Documents

Publication Publication Date Title
WO2021075786A1 (en) Electronic device and method of processing pop-up window using multi-window thereof
WO2023277380A1 (ko) 입력 필드를 기반으로 사용자 인터페이스를 구성하는 방법 및 전자 장치
WO2022211271A1 (ko) 학습 기반의 필기 입력을 처리하는 전자 장치, 그 동작 방법 및 저장매체
WO2022030933A1 (ko) 전자 장치 및 그의 필기 입력을 처리하는 방법
WO2022196939A1 (ko) 대체 컨텐츠를 제공하는 전자 장치 및 그의 동작 방법
WO2022086272A1 (ko) 사용자 인터페이스를 제공하는 전자 장치 및 그 방법
WO2024080709A1 (ko) 음성 신호에 기반하여 실행가능한 객체를 제어하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2022191395A1 (ko) 사용자 명령을 처리하는 장치 및 그 동작 방법
WO2022030890A1 (ko) 다중 윈도우 이미지 캡쳐 방법 및 이를 위한 전자 장치
WO2022014836A1 (ko) 가상 객체들의 밝기를 다르게 표시하는 방법 및 장치
WO2024080680A1 (ko) 상황 특정 설정을 위한 사용자 인터페이스를 표시하는 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024085550A1 (ko) 가상 장치의 디스플레이의 제어를 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2024063346A1 (ko) 텍스트를 표시하기 위한 전자 장치 및 그 방법
WO2023018086A1 (ko) 외부 장치의 자동 완성 텍스트를 동기화하는 전자 장치 및 방법
WO2024063342A1 (ko) 잠금 화면을 표시하는 전자 장치 및 그 동작 방법
WO2024063368A1 (ko) 터치 입력을 제어하기 위한 전자 장치 및 방법
WO2024029740A1 (ko) 입력 장치를 이용하여 드로잉 데이터를 출력하는 방법 및 장치
WO2022025505A1 (ko) 데이터 이동 서비스를 제공하는 전자 장치 및 그 방법
WO2022030824A1 (ko) 오디오 재생 및 화면 표시 방법 및 그 장치
WO2023214675A1 (ko) 터치 입력을 처리하기 위한 전자 장치 및 방법
WO2024058597A1 (ko) 전자 장치 및 사용자 발화 처리 방법
WO2022124659A1 (ko) 사용자 입력을 처리하는 전자 장치 및 방법
WO2022169275A1 (ko) 복수의 키들을 포함하는 전자 장치 및 그 동작 방법
WO2022119416A1 (ko) 전자 펜을 이용하는 전자 장치 및 그 방법
WO2023106830A1 (ko) 한 손 조작 모드를 지원하는 전자 장치 및 전자 장치의 동작 방법