WO2017146482A1 - 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법 - Google Patents

음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
WO2017146482A1
WO2017146482A1 PCT/KR2017/001994 KR2017001994W WO2017146482A1 WO 2017146482 A1 WO2017146482 A1 WO 2017146482A1 KR 2017001994 W KR2017001994 W KR 2017001994W WO 2017146482 A1 WO2017146482 A1 WO 2017146482A1
Authority
WO
WIPO (PCT)
Prior art keywords
text
content
electronic device
processor
instruction
Prior art date
Application number
PCT/KR2017/001994
Other languages
English (en)
French (fr)
Inventor
김광윤
장원남
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/079,708 priority Critical patent/US10542144B2/en
Publication of WO2017146482A1 publication Critical patent/WO2017146482A1/ko
Priority to US16/696,459 priority patent/US11218592B2/en
Priority to US17/540,108 priority patent/US11838445B2/en
Priority to US18/528,013 priority patent/US20240106932A1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M3/00—Automatic or semi-automatic exchanges
    • H04M3/42—Systems providing special services or facilities to subscribers
    • H04M3/487—Arrangements for providing information services, e.g. recorded voice services or time announcements
    • H04M3/493—Interactive information services, e.g. directory enquiries ; Arrangements therefor, e.g. interactive voice response [IVR] systems or voice portals
    • H04M3/4938—Interactive information services, e.g. directory enquiries ; Arrangements therefor, e.g. interactive voice response [IVR] systems or voice portals comprising a voice browser which renders and interprets, e.g. VoiceXML
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/3332—Query translation
    • G06F16/3334—Selection or weighting of terms from queries, including natural language queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/957—Browsing optimisation, e.g. caching or content distillation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04817—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance using icons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/28—Constructional details of speech recognition systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72445—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality for supporting Internet browser applications

Definitions

  • Various embodiments of the present disclosure relate to an electronic device providing a voice control function and a method of operating the same.
  • a user interface is a technology that provides temporary or continuous access to communication between a user and an object, system, device, or program.
  • Such a voice recognition control technique may be implemented by an application or a service developer registering a command to be used for voice control in advance, and defining a voice recognition result and an action according thereto.
  • An electronic device to which the voice recognition control technology is applied may provide a function or operation corresponding to a voice command.
  • control by a pre-built voice command is possible, but in the case of document-type content such as a web page, there is a problem that it is difficult to construct data by linking a voice command and a function operation in advance. .
  • an instruction text is assigned to an object that cannot be selected by speech recognition by analyzing a resource of content including a web page displayed on an electronic device and a standardized document such as a GUI toolkit (FEL-EDJE, etc.).
  • a GUI toolkit FEL-EDJE, etc.
  • an electronic device may include: a display; And a processor, the processor further comprising: obtaining content that includes at least one object; Distinguish the at least one object within the content; Display instruction text in correspondence with a non-text object of the at least one object; And when a voice command corresponding to the instruction text is input, select the non-text object corresponding to the instruction text.
  • a method of operating an electronic device may include: acquiring content including at least one object; Distinguishing the at least one object within the content; Displaying instruction text in correspondence with a non-text object of the at least one object; And when the voice command corresponding to the instruction text is input, selecting the non-text object corresponding to the instruction text.
  • a computer recording medium executed by at least one processor and storing computer readable instructions the instructions may include: obtaining content including at least one object; Distinguishing the at least one object within the content; Displaying instruction text in correspondence with a non-text object of the at least one object; And when a voice command corresponding to the instruction text is input, selecting the non-text object corresponding to the instruction text.
  • FIG. 1 is a block diagram illustrating an electronic device 101 in a network environment 100 in various embodiments.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG. 4 is a block diagram illustrating a configuration of an electronic device according to various embodiments of the present disclosure.
  • FIG. 5 is a flowchart illustrating a method of displaying a content page of an electronic device according to various embodiments of the present disclosure.
  • 6A and 6B are exemplary diagrams for describing a method of displaying a content page of an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 is a flowchart illustrating a voice recognition control method of an electronic device according to various embodiments of the present disclosure.
  • 8A and 8B are exemplary diagrams for describing a voice recognition control method of an electronic device according to various embodiments of the present disclosure.
  • FIG. 9 is a flowchart illustrating a voice recognition control and a method of displaying a content page of an electronic device according to various embodiments of the present disclosure.
  • FIGS. 10A and 10B are exemplary diagrams for describing a voice recognition control and a method of displaying a content page of an electronic device according to various embodiments of the present disclosure.
  • expressions such as “A or B,” “at least one of A or / and B,” or “one or more of A or / and B,” and the like may include all possible combinations of items listed together.
  • “A or B,” “at least one of A and B,” or “at least one of A or B” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” and the like may modify various components, regardless of order and / or importance, and may form a component. It is used to distinguish it from other components and does not limit the components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • no other component e.g., a third component
  • the expression “configured to” as used in this document is, for example, “having the capacity to” depending on the context, for example, “suitable for,” “. It may be used interchangeably with “designed to,” “adapted to,” “made to,” or “capable of.”
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or set up) to perform A, B, and C” may execute a dedicated processor (eg, an embedded processor) to perform the operation, or one or more software programs stored in a memory device. By doing so, it may mean a general-purpose processor (for example, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, and an e-book reader.
  • wearable devices may be accessory (eg, watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-devices (HMDs)), textiles, or clothing one-pieces (eg, it may include at least one of an electronic garment, a body attachment type (eg, a skin pad or a tattoo), or a living implantable type (eg, an implantable circuit).
  • HMDs head-mounted-devices
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, vacuum cleaners, ovens, microwaves, washing machines, air purifiers, set-top boxes, home automation controls Panel (home automation control panel), security control panel, TV box (e.g. Samsung HomeSync TM, Apple TV TM, or Google TV TM), game console (e.g. Xbox TM, PlayStation TM), electronic dictionary It may include at least one of an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • audio refrigerators
  • air conditioners vacuum cleaners
  • ovens ovens
  • microwaves washing machines
  • air purifiers set-top boxes
  • home automation controls Panel home automation control panel
  • security control panel TV box
  • TV box e.g. Samsung HomeSync TM, Apple TV TM, or Google TV TM
  • game console e.g. Xbox TM, PlayStation TM
  • electronic dictionary It may include at least one of an electronic key
  • the electronic device may include a variety of medical devices (e.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as CT (computed tomography), imaging equipment, or ultrasound; ) Devices, ship's electronic equipment (e.g. ship's navigational devices, gyro compasses, etc.), avionics, security devices, vehicle head units, industrial or home robots, automatic teller's machines (financial institutions) Point of sales, point of sales, or Internet of things (e.g. light bulbs, sensors, electricity or gas meters, sprinkler devices, fire alarms, thermostats, street lights, Of the emitter (toaster), exercise equipment, hot water tank, a heater, boiler, etc.) may include at least one.
  • medical devices e.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (
  • an electronic device may be a piece of furniture or a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be a combination of one or more of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • a device eg, an artificial intelligence electronic device
  • FIG. 1 is a block diagram illustrating an electronic device 101 in a network environment 100 in various embodiments.
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication interface 170. In some embodiments, the electronic device 101 may omit at least one of the above components or additionally include other components.
  • the bus 110 may include, for example, circuits connecting the components to each other and transferring communication (eg, control messages and / or data) between the components.
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may be, for example, a kernel 141, middleware 143, an application programming interface (API) 145, and / or an application program 147 (or “application”), or the like. It may include. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system (OS).
  • OS operating system
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may perform a relay role so that the API 145 or the application program 147 may communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 in at least one of the application programs 147. Can be given priority.
  • the middleware 143 may perform the scheduling or load balancing of the one or more work requests by processing the one or more work requests according to the priority given to the at least one.
  • the API 145 is, for example, an interface for the application 147 to control a function provided by the kernel 141 or the middleware 143, for example, file control, window control, image processing, or text. It may include at least one interface or function (eg, a command) for control.
  • the input / output interface 150 may serve as, for example, an interface capable of transferring a command or data input from a user or another external device to other component (s) of the electronic device 101.
  • the input / output interface 150 may output commands or data received from other component (s) of the electronic device 101 to a user or another external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, or Microelectromechanical systems (MEMS) displays, or electronic paper displays.
  • the display 160 may display, for example, various contents (eg, text, images, videos, icons, symbols, etc.) to the user.
  • the display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • Wireless communication is, for example, a cellular communication protocol, for example, long-term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), UMTS (universal).
  • LTE long-term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal
  • WBro mobile telecommunication system
  • WiBro wireless broadband
  • GSM global system for mobile communications
  • wireless communication may include, for example, near field communication 164.
  • the short range communication 164 may include, for example, at least one of wireless fidelity (WiFi), Bluetooth, near field communication (NFC), global navigation satellite system (GNSS), and the like.
  • WiFi wireless fidelity
  • NFC near field communication
  • GNSS global navigation satellite system
  • GNSS may be used according to the area of use or bandwidth, for example, global positioning system (GPS), global navigation satellite system (Glonass), Beidou Navigation Satellite System (hereinafter referred to as "Beidou”) or Galileo, the European global satellite-based navigation system. It may include at least one of.
  • GPS global positioning system
  • Glonass global navigation satellite system
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system. It may include at least one of.
  • GPS global positioning system
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system. It may include at least one of.
  • the wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard 232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 162 may include a telecommunications network, for example, at least one of
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • server 106 may comprise a group of one or more servers.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 when the electronic device 101 needs to perform a function or service automatically or by request, the electronic device 101 instead of or in addition to executing the function or the service by itself, At least some functions associated with the request may be requested to another device (eg, the electronic device 102 or 104 or the server 106).
  • the other electronic device may execute the requested function or the additional function and transmit the result to the electronic device 101.
  • the electronic device 101 may process the received result as it is or additionally to provide the requested function or service.
  • cloud computing, distributed computing, or client-server computing technology may be used.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an application processor (AP) 210), a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, and an input device 250. ), A display 260, an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, an indicator 297, and a motor 298. have.
  • AP application processor
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into volatile memory, and store various data in the nonvolatile memory. have.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication interface 170 of FIG. 1.
  • the communication module 220 may be, for example, a cellular module 221, a WiFi module 223, a BT module 225, a GNSS module 227, an NFC module 228, and a radio frequency (RF) module 229. It may include.
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment of the present disclosure, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, the SIM card 224). According to an embodiment, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment, the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • Each of the WiFi module 223, the BT module 225, the GNSS module 227, or the NFC module 228 may include, for example, a processor for processing data transmitted and received through a corresponding module.
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the BT module 225, the GNSS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the BT module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module. Can be.
  • Subscriber identification module 224 may include, for example, a card that includes a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity (IMSI)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, non-volatile memory).
  • volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • non-volatile memory eg, non-volatile memory.
  • SSD solid state drive
  • the external memory 234 may be a flash drive, for example, compact flash (CF), secure digital (SD), micro secure digital (Micro-SD), mini secure digital (Mini-SD), or extreme (xD). It may further include a digital, or a memory stick (memory stick).
  • the external memory 234 may be functionally and / or physically connected to the electronic device 201 through various interfaces.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • the sensor module 240 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor. And infrared (IR) sensors, iris sensors, and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240, as part of or separately from the AP 210, while the AP 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may be, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device ( 258).
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may check data by detecting sound waves with a microphone (for example, the microphone 288) in the electronic device 201 through an input tool for generating an ultrasonic signal.
  • Display 260 may include panel 262, hologram device 264, or projector 266.
  • the panel 262 may include a configuration that is the same as or similar to that of the display 160 of FIG. 1.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured as a single module with the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the display 260 may further include a control circuit for controlling the panel 262, the hologram device 264, or the projector 266.
  • the interface 270 may be, for example, a high-definition multimedia interface (HDMI) 272, a universal serial bus (USB) 274, an optical interface 276, or a D-subminiature ) 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. It may include.
  • MHL mobile high-definition link
  • SD secure digital
  • MMC multi-media card
  • IrDA infrared data association
  • the audio module 280 may bilaterally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 150 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LED or xenon lamp
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibrations, and may generate a vibration or haptic effect.
  • the electronic device 201 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing device for supporting mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM.
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM mediaFlo TM
  • Each of the components described in this document may be composed of one or more components, and the name of the corresponding component may vary according to the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form a single entity, and thus may perform the same functions of the corresponding components before being combined.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • the program module 310 (eg, the program 140) is an operating system (OS) and / or operation that controls resources related to the electronic device (eg, the electronic device 101). It may include various applications (for example, an application program 147) running on the system.
  • the operating system may be, for example, android, ios, windows, symbian, tizen, bada, or the like.
  • the program module 310 may include a kernel 320, middleware 330, an application programming interface (API) 360, and / or an application 370. At least a part of the program module 310 may be preloaded on the electronic device, or may be downloaded from an external electronic device (eg, the electronic devices 102 and 104, or a server (eg, the server 106).
  • API application programming interface
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver. .
  • IPC inter-process communication
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to efficiently use limited system resources inside the electronic device. Functions may be provided to the application 370.
  • the middleware 330 eg, the middleware 143 may include a runtime library 335, an application manager 341, a window manager 342, and a multimedia manager. 343, resource manager 344, power manager 345, database manager 346, package manager 347, connectivity manager (348), a notification manager (349), a location manager (350), a graphic manager (351), or a security manager (352) can do.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 341 may manage, for example, a life cycle of at least one of the applications 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may grasp formats required for playing various media files and perform encoding or decoding of media files using a codec suitable for the format.
  • the resource manager 344 may manage resources such as source code, memory, or storage space of at least one of the applications 370.
  • the power manager 345 may operate together with a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device.
  • the database manager 346 may generate, search for, or change a database to be used by at least one of the applications 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 348 may manage, for example, a wireless connection such as WiFi or Bluetooth. Notification manager 349 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 350 may manage location information of the electronic device.
  • the graphic manager 351 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide various security functions required for system security or user authentication. According to an embodiment of the present disclosure, when the electronic device (for example, the electronic device 101) includes a telephone function, the middleware 330 further includes a telephone manager for managing a voice or video call function of the electronic device. can do.
  • the middleware 330 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 330 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 (eg, API 145) is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 may be, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (374), a browser 375, a camera ( 376, alarm 377, contact 378, voice dial 379, email 380, calendar 381, media player 382, album 383, or clock 384, health one or more applications that can provide functions such as care (eg, to measure exercise or blood glucose), or provide environmental information (eg, to provide barometric pressure, humidity, or temperature information).
  • care eg, to measure exercise or blood glucose
  • environmental information eg, to provide barometric pressure, humidity, or temperature information
  • the application 370 may be an application that supports information exchange between an electronic device (eg, the electronic device 101) and an external electronic device (eg, the electronic devices 102 and 104).
  • the "information exchange application” may be included.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application). , 104)). Also, the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • another application of the electronic device eg, an SMS / MMS application, an email application, a health care application, or an environmental information application. , 104)
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may, for example, turn at least one function of an external electronic device (eg, the electronic devices 102 and 104) in communication with the electronic device (eg, turn on the external electronic device itself (or some component part). Adjust the brightness (or resolution) of the on / turn-off or display; manage applications (e.g., install, delete, Or update).
  • an external electronic device eg, the electronic devices 102 and 104
  • manage applications e.g., install, delete, Or update).
  • the application 370 may include an application (eg, a health care application of a mobile medical device, etc.) designated according to an attribute of an external electronic device (eg, the electronic devices 102 and 104).
  • the application 370 may include an application received from an external electronic device (for example, the server 106 or the electronic devices 102 and 104).
  • the application 370 may include a preloaded application or a third party application downloadable from a server.
  • the names of the components of the program module 310 according to the illustrated embodiment may vary depending on the type of operating system.
  • At least part of the program module 310 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a portion of the program module 310 may be implemented (for example, executed) by, for example, a processor (eg, the processor 120. At least a portion of the program module 310 may perform one or more functions. It may include, for example, a module, a program, a routine, sets of instructions, or a process for performing.
  • module may refer to a unit that includes one or a combination of two or more of hardware, software, or firmware.
  • a “module” may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” is one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGA field-programmable gate arrays
  • programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • At least a portion of an apparatus (e.g., modules or functions thereof) or method (e.g., operations) may be, for example, computer-readable storage media in the form of a program module. It can be implemented as a command stored in.
  • a processor e.g, the processor 120
  • the one or more processors may perform a function corresponding to the instruction.
  • the computer-readable storage medium may be, for example, the memory 130.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical media (e.g. compact disc read only memory), DVD ( digital versatile discs, magneto-optical media (e.g. floptical disks), hardware devices (e.g. read only memory, random access memory (RAM), or flash memory)
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be various. It can be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
  • Modules or program modules according to various embodiments may include at least one or more of the above components, some may be omitted, or further include other components. Operations performed by modules, program modules, or other components in accordance with various embodiments may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added.
  • the embodiments disclosed in the present specification are presented for the purpose of describing and understanding the disclosed technical contents, and do not limit the scope of the techniques described in the present document. Accordingly, the scope of this document should be construed as including all changes or various embodiments based on the technical spirit of this document.
  • FIG. 4 is a block diagram illustrating a configuration of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 401 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1, and may include a processor 410, It may include a memory 430, a microphone 450, a display 460, and a communication interface 470.
  • the processor 410 may be the processor 120 illustrated in FIG. 1.
  • the processor 410 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 410 processes at least some of information obtained from other components of the electronic device 401 (eg, the memory 430, the microphone 450, the display 450, the communication interface 470, and the like). This can be provided to the user in various ways.
  • the processor 410 may control all components of the electronic device 401.
  • the processor 410 may receive content including at least one object.
  • the content may include at least one standardized document of a hyper text markup language (HTML), an extensible markup language (XML), or a GUI toolkit (EFL-EDJE, etc.).
  • the processor 410 may analyze a resource of the received content. For example, the processor 410 may classify at least one object according to a type of tag by analyzing a standardized document included in the content.
  • the at least one object may include at least one of a content title, an image title, a text icon, an image icon, text content, image content, link content, and an input area displayed as a content page.
  • the processor 410 may determine whether the at least one object is related to text.
  • the processor 410 may determine that the object is a text object. Alternatively, the processor 410 may determine that the object is a non-text object if the object does not include text such as an image icon, image content, or an input area.
  • the processor 410 may assign instruction text to the non-text object.
  • the instruction text may enable non-text objects to be identified by the user's speech recognition.
  • the processor 410 may configure the content page so that the instruction text is located corresponding to the object.
  • the processor 410 may edit the standardized document of the content so that the instruction text may be represented on the content page displayed on the display.
  • the instruction text can be displayed in the form of a tooltip.
  • the processor 410 may control to display the configured content page on the display 460.
  • the processor 410 may receive a voice signal from the microphone 450 and recognize the received voice signal. For example, the processor 410 may convert the voice signal from the microphone 450 into text, and recognize the converted text. The processor 410 may determine whether the text corresponding to the recognized voice is related to at least one object in the content page. The processor 410 may select the related object when the text corresponding to the recognized voice is related to the at least one object. For example, the processor 410 may determine whether there is a text object including all or at least a portion of the text corresponding to the recognized voice in a content page, and if the text object includes the text corresponding to the recognized voice, If so, the text object may be selected as an object related to a voice signal.
  • the processor 410 determines whether there is instruction text including all or at least a portion of text corresponding to the recognized voice in a content page, and if there is instruction text including text corresponding to the recognized voice, A non-text object corresponding to the instruction text may be selected as the object related to the voice signal.
  • the processor 410 may execute an operation matching the corresponding object. For example, the processor 410 may access content corresponding to the object if the related object is any one of a content title, an image title, a text icon, an image icon, text content, image content, and link content.
  • the processor 410 may support voice input according to the selection of the corresponding input area.
  • the processor 410 may assign index text to the plurality of related objects.
  • the index text may enable the plurality of objects to be identified by the user's speech recognition.
  • the processor 410 may configure the content page such that the index text is located corresponding to each object.
  • the processor 410 may edit the standardized document of the content so that the index text may be represented on the content page displayed on the display.
  • the index text can be displayed in the form of a tooltip.
  • the processor 410 may control to display the configured content page on the display 460.
  • the processor 410 may enable the user to input a voice signal including other non-overlapping text when the text corresponding to the recognized voice is related to the plurality of objects in the content page.
  • "Cancel" instruction text for canceling a voice signal associated with an object of may be displayed in the form of a tooltip on a content page displayed on the display.
  • the processor 410 may assign instruction text to an object related to the other text language.
  • the processor 410 may control to display the display text on the display 460 by configuring a content page so that the instruction text is located corresponding to the object related to the other text language.
  • the memory 430 may be the memory 130 illustrated in FIG. 1.
  • the memory 430 may store commands or data related to at least one other component of the electronic device 401.
  • the memory 430 may store input / output signals or data corresponding to the operations of the processor 410, the microphone 450, the display 460, and the communication interface 470 under the control of the processor 410.
  • the microphone 450 may be part of the input / output interface 150 illustrated in FIG. 1.
  • the microphone 450 may acquire voice or audio.
  • the microphone 450 may be always turned on according to an operation, or may be turned on according to an input or a condition.
  • the display 460 may be the display 160 illustrated in FIG. 1.
  • the display 460 may display a content page configured by the processor 410.
  • the communication interface 470 may be the communication interface 170 illustrated in FIG. 1.
  • the communication interface 470 may communicate data by connecting a communication session with an external electronic device.
  • the communication interface 470 may receive content from an external electronic device.
  • an electronic device may include a display and a processor, wherein the processor acquires content including at least one object, distinguishes the at least one object within the content,
  • the instruction text may be displayed in correspondence with a non-text object among the at least one object, and when a voice command corresponding to the instruction text is input, the non-text object corresponding to the instruction text may be selected.
  • a processor may be configured to analyze a resource of the content, distinguish the at least one object in the content based on the analysis result, and determine whether a non-text object of the at least one object is included. If so, the instruction text may be assigned to the non-text object, and a content page may be configured to be displayed on the display such that the instruction text is positioned corresponding to the non-text object.
  • the content may include at least one standardized document of Hyper Text Markup Language (HTML), Extensible Markup Language (XML), or GUI Toolkit (EFL-EDJE).
  • HTML Hyper Text Markup Language
  • XML Extensible Markup Language
  • ETL-EDJE GUI Toolkit
  • the at least one object may include at least one of a content title, an image title, a text icon, an image icon, text content, image content, link content, or an input area displayed as the content page. have.
  • the instruction text may be displayed in the form of a tool tip.
  • a microphone may be provided to receive a voice signal of a user, and the processor may recognize a voice signal from the microphone, and at least a text corresponding to the recognized voice may be included in the content page.
  • the method may be configured to determine whether the object is related to one object and to select the related object when the text is related to the at least one object.
  • the processor may be configured to execute an operation matching the selected object.
  • the processor may be configured to support voice input when the selected object is an input area.
  • the processor may assign index text to the plurality of related objects and set the index text.
  • the content page may be configured to be positioned to correspond to the plurality of related objects and displayed on the display.
  • the processor may assign instruction text to an object related to the other text language and instruct the instruction text.
  • the content page may be configured to be displayed on the display in such a manner that the content page is positioned to correspond to an object related to the other text language.
  • FIG. 5 is a flowchart illustrating a method of displaying a content page of an electronic device according to various embodiments of the present disclosure
  • FIGS. 6A and 6B illustrate a method of displaying a content page of an electronic device according to various embodiments of the present disclosure. It is an exemplary diagram for explaining.
  • FIGS. 5, 6A, and 6B a method of displaying a content page of an electronic device according to various embodiments of the present disclosure will be described with reference to FIGS. 5, 6A, and 6B.
  • the electronic device may receive content from an external electronic device.
  • the electronic device eg, the processor 410 may receive content stored in the memory 430.
  • the content may include at least one standardized document of a hyper text markup language (HTML), an extensible markup language (XML), or a GUI toolkit (EFL-EDJE).
  • HTML hyper text markup language
  • XML extensible markup language
  • ETL-EDJE GUI toolkit
  • the electronic device may analyze a resource of the content.
  • the electronic device may analyze at least one object according to the type of tag by analyzing the standardized document included in the content.
  • the at least one object may include at least one of a content title, an image title, a text icon, an image icon, text content, image content, link content, and an input area displayed as a content page.
  • the electronic device may determine whether there is a non-text object among the at least one object based on a resource analysis result of the content. For example, if the object is an object including text, such as a content title, an image title, a text icon, text content, link content, and the like, the electronic device may determine that the object is a text object. Alternatively, if the object does not include text, such as an image icon, image content, or an input area, the electronic device may determine that the object is a non-text object.
  • the electronic device may assign instruction text to the non-text object.
  • the instruction text may enable non-text objects to be identified by the user's speech recognition.
  • the electronic device may configure a content page such that the instruction text is located corresponding to the corresponding object.
  • the electronic device may edit the standardized document of the content so that the instruction text can be expressed on the content page displayed on the display.
  • the instruction text may be displayed in the form of a tool tip.
  • the electronic device eg. the processor 410 may display the configured content page on the display.
  • a method of displaying a content page of an electronic device may provide a content page screen 610a as illustrated in FIG. 6A.
  • the content page screen 610a may be a web page that provides a search function.
  • the electronic device analyzes the standardized document resources constituting the web page and provides a link object 620 for providing an access path to the web page according to the type of tag, an input area object 630 for providing an input area, and a virtual keyboard. It may be divided into an input tool object 640 providing a voice search object 650 providing a voice input function.
  • the link object 620, the input area object 630, the input tool object 640, and the voice search object 650 are objects that do not include text, and instruction text (eg, 1, 2, 3, 4) can be given.
  • instruction text eg, 1, 2, 3, 4
  • the content page screen 610a illustrated in FIG. 6A may include instruction text (at position corresponding to the link object 620, the input area object 630, the input tool object 640, and the voice search object 650).
  • Example: 1, 2, 3, 4) can be displayed in tooltip form.
  • a content page screen 610b may be provided.
  • the content page screen 610b may be a web page that provides a search result.
  • the electronic device analyzes the standardized document resources constituting the web page, and provides a text object 680 for providing a search result title and brief information in text form according to the type of tag, and an image object 670 for providing image content.
  • the text object 680 is an object related to text and may not be assigned instruction text.
  • the image object 670 is an object that does not include text, and may give instruction text (eg, 1, 2, 3, 4, 5) to each object.
  • instruction text eg, 1, 2, 3, 4, 5 may be displayed in the form of a tool tip at a position corresponding to each image object 670 on the content page screen 610b illustrated in FIG. 6B. .
  • FIGS. 8A and 8B illustrate a voice recognition control method of an electronic device according to various embodiments of the present disclosure. It is an illustration.
  • the electronic device may receive a voice signal from the microphone 450.
  • the electronic device receives a content including at least one object, and when an application (eg, a web browser) displaying the received content as a content page is executed, the electronic device provides a voice recognition control function to receive a voice signal. can do.
  • an application eg, a web browser
  • the voice recognition control function may be provided to receive a voice signal.
  • the electronic device may analyze a resource of the received content and display a content page on which a instruction text is assigned to a non-text object on a display.
  • the electronic device may recognize the received voice signal. For example, the electronic device may convert a voice signal from the microphone into text and recognize the converted text.
  • the electronic device may determine whether text corresponding to the recognized voice is related to the object in the content page.
  • the electronic device may select the related object when the text corresponding to the recognized voice is related to the object in the content page.
  • the electronic device may execute an operation matching the selected object. For example, if the related object is a text object such as a content title, the electronic device may access content corresponding to the text object. Or, if the related object is an image object providing image content, the electronic device may provide image content corresponding to the image object. Alternatively, if the related object is an input area object, the electronic device may support voice input according to the selection of the corresponding input area.
  • the voice recognition control method of the electronic device may provide a content page screen 810a as illustrated in FIG. 8A.
  • the content page screen 810a may be a web page that provides a search result.
  • the electronic device may receive a voice signal from the microphone 450 and recognize the received voice signal.
  • the electronic device may determine whether the text corresponding to the recognized voice is related to at least one object in the content page. For example, if the text corresponding to the recognized voice is “edge”, the content page screen 810a illustrated in FIG. 8A may display 881 a selection of an object related to the “edge”.
  • the electronic device may execute an operation of accessing the content of the object at the same time as selecting the object related to the "edge”.
  • a content page screen 810b may be provided.
  • the content page screen 810b may be a web page that provides a search result.
  • the electronic device may receive a voice signal from the microphone 450 and recognize the received voice signal.
  • the electronic device may determine whether the text corresponding to the recognized voice is related to the instruction text (eg, 1, 2, 3, 4, 5 shown in FIG. 6B) in the content page. For example, if the text corresponding to the recognized voice is the number "5", the content page screen 810b illustrated in FIG. 8B displays (871) a selection of an object corresponding to the instruction text associated with the "5". Can be.
  • the electronic device may execute an operation of providing an image content of the object at the same time as selecting the object corresponding to the instruction text associated with "5".
  • FIGS. 10A and 10B illustrate voice recognition of an electronic device according to various embodiments of the present disclosure. It is an exemplary view for explaining a method of displaying a control and a content page.
  • FIGS. 9, 10A, and 10B a method of displaying a voice recognition control and a content page of an electronic device according to various embodiments of the present disclosure will be described with reference to FIGS. 9, 10A, and 10B.
  • the electronic device may receive a voice signal from the microphone 450.
  • the electronic device receives a content including at least one object, and when an application (eg, a web browser) displaying the received content as a content page is executed, the electronic device provides a voice recognition control function to receive a voice signal. can do.
  • an application eg, a web browser
  • the voice recognition control function may be provided to receive a voice signal.
  • the electronic device may analyze a resource of the received content and display a content page on which a instruction text is assigned to a non-text object on a display.
  • the electronic device may recognize the received voice signal. For example, the electronic device may convert a voice signal from the microphone into text and recognize the converted text.
  • the electronic device may determine whether the text corresponding to the recognized voice is related to the object in the content page.
  • the electronic device may determine whether text corresponding to the recognized voice is related to the plurality of objects in the content page.
  • the electronic device may select the related object.
  • the electronic device eg. the processor 410 may execute an operation matching the selected object.
  • the electronic device may assign the index text to the plurality of related objects.
  • the index text may enable the plurality of objects to be identified by the user's speech recognition.
  • the electronic device may configure a content page such that the index text is located corresponding to each object.
  • the electronic device may edit the standardized document of the content so that the index text may be displayed on the content page displayed on the display.
  • the index text can be displayed in the form of a tooltip.
  • the electronic device eg. the processor 410 may display the configured content page on the display.
  • the voice recognition control and the method of displaying the content page of the electronic device may provide the content page screen 1010a as illustrated in FIG. 10A.
  • the content page screen 1010a may be a web page that provides a search result.
  • the electronic device may receive a voice signal from the microphone 450 and recognize the received voice signal.
  • the electronic device may determine whether text corresponding to the recognized voice is related to a plurality of objects in the content page. For example, if the text corresponding to the recognized voice is “galaxy”, the content page screen 1010a illustrated in FIG. 10A may display 1090 a selection of a plurality of objects related to the “galaxy”.
  • the content page screen 1010b includes index texts (eg, 1, 2, 3, 4, 5, 6, and 7) on the plurality of objects 1090 related to the "galaxy".
  • the index text eg, 1, 2, 3, 4, 5, 6, 7) may be displayed in the form of a tool tip at a position corresponding to each object.
  • the content page screen 1010b allows a user to input a voice signal including other non-overlapping text so as to cancel a voice signal related to the plurality of objects 1090.
  • the "cancel" instruction text 1095 may be displayed in the form of a tooltip on the content page displayed on the display.
  • a method of operating an electronic device may include: acquiring content including at least one object; Distinguishing the at least one object within the content; Displaying instruction text in correspondence with a non-text object of the at least one object; And when the voice command corresponding to the instruction text is input, selecting the non-text object corresponding to the instruction text.
  • the method may further include analyzing a resource of the content; Distinguishing the at least one object within the content based on the analysis result; Assigning the instruction text to the non-text object when there is a non-text object among the at least one object; And constructing and displaying a content page so that the instruction text is located corresponding to the non-text object.
  • the content may include at least one standardized document of a hyper text markup language (HTML), an extensible markup language (XML), or a GUI toolkit (EFL-EDJE).
  • HTML hyper text markup language
  • XML extensible markup language
  • ETL-EDJE GUI toolkit
  • the at least one object may include at least one of a content title, an image title, a text icon, an image icon, text content, image content, link content, or an input area displayed as the content page. have.
  • the instruction text may be displayed in the form of a tool tip.
  • the method may further include an operation of executing an operation matching the selected object.
  • the method may further include supporting voice input.
  • the text corresponding to the recognized voice when the text corresponding to the recognized voice relates to a plurality of objects in the content page, assigning index text to the plurality of related objects; And constructing and displaying a content page such that the index text is located corresponding to the related plurality of objects.
  • an instruction text is assigned to an object related to the other text language; And constructing and displaying a content page so that the instruction text is located corresponding to the object related to the other text language.
  • a computer recording medium executed by at least one processor and storing computer readable instructions the instructions may include: obtaining content including at least one object; Distinguishing the at least one object within the content; Displaying instruction text in correspondence with a non-text object of the at least one object; And when a voice command corresponding to the instruction text is input, selecting the non-text object corresponding to the instruction text.

Abstract

본 발명은 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법에 관한 것이다. 이러한 발명은, 전자 장치에 있어서, 디스플레이; 및 프로세서를 포함하고, 상기 프로세서는: 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하고; 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하며; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트(non-text object)에 인스트럭션 텍스트를 대응시켜 표시하며; 및 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하도록 설정될 수 있다. 이외에도 다양한 다른 실시예들이 가능하다.

Description

음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
본 발명의 다양한 실시예들은 음성 제어 기능을 제공하는 전자 장치 및 그 동작 방법에 관한 것이다.
사용자 인터페이스(user interface)는 사용자와 사물, 시스템, 장치, 또는 프로그램 등 사이의 의사소통이 가능하도록 일시적 또는 지속적인 접근을 제공하는 기술이다.
최근에는 사용자 인터페이스로서, 사용자가 발화한 음성을 이용하여 전자 장치를 제어할 수 있도록 하는 음성 인식 제어 기술이 연구되고 있다. 이러한 음성 인식 제어 기술은 사전에 어플리케이션이나 서비스 개발자가 음성 제어에 사용될 명령어를 등록하고, 음성 인식된 결과와 그에 따른 액션을 미리 정의하여 구현될 수 있다.
음성 인식 제어 기술이 적용되는 전자 장치는 음성 명령에 대응하는 기능이나 동작을 제공할 수 있다. 그러나 종래의 음성 인식 제어 기술은 사전에 구축된 음성 명령에 의한 제어는 가능하였으나, 웹 페이지와 같은 문서 형태의 컨텐트의 경우, 사전에 음성 명령과 기능 동작을 연계하여 데이터를 구축하기 어려운 문제점이 있었다.
본 발명의 다양한 실시예는 전자 장치에 표시된 웹 페이지와 GUI Toolkit(FEL-EDJE 등)과 같은 표준화 문서를 일부 포함하여 구성된 컨텐트의 리소스를 분석하여 음성 인식으로 선택할 수 없는 오브젝트에 인스트럭션 텍스트를 부여하여 표시함으로써, 컨텐트의 특정 오브젝트를 음성 인식으로 선택하고 실행할 수 있도록 하는 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법을 제공할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치에 있어서, 디스플레이; 및 프로세서를 포함하고, 상기 프로세서는: 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하고; 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하며; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트(non-text object)에 인스트럭션 텍스트를 대응시켜 표시하며; 및 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치의 동작 방법에 있어서, 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하는 동작; 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하는 동작; 및 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 적어도 하나의 프로세서에 의해 실행되며, 컴퓨터로 읽을 수 있는 명령어가 저장된 컴퓨터 기록 매체에 있어서, 상기 명령어는, 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하는 동작; 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하는 동작; 및 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하는 동작을 수행하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따르면, 웹 페이지나 GUI Toolkit(FEL-EDJE 등)과 같은 표준화 문서를 일부 포함하여 구성된 컨텐트의 리소스를 분석하여 음성 인식으로 선택할 수 없는 오브젝트에 인스트럭션 텍스트를 부여하여 표시함으로써, 별도의 입력 수단 없이 음성 인식만으로 특정 오브젝트를 선택하고 실행할 수 있도록 하는 음성 인식 제어를 제공할 수 있다.
도 1은 다양한 실시예에서의 네트워크 환경(100) 내의 전자 장치(101)를 도시한 블록도이다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 다양한 실시예에 따른 전자 장치의 구성을 도시한 블록도이다.
도 5는 본 발명의 다양한 실시예에 따른 전자 장치의 컨텐트 페이지를 표시하는 방법을 설명하기 위한 흐름도이다.
도 6a 및 도 6b는 본 발명의 다양한 실시예에 따른 전자 장치의 컨텐트 페이지를 표시하는 방법을 설명하기 위한 예시도이다.
도 7은 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어 방법을 설명하기 위한 흐름도이다.
도 8a 및 도 8b는 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어 방법을 설명하기 위한 예시도이다.
도 9는 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어와 컨텐트 페이지를 표시하는 방법을 설명하기 위한 흐름도이다.
도 10a 및 도 10b는 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어와 컨텐트 페이지를 표시하는 방법을 설명하기 위한 예시도이다.
이하, 본 문서의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," " A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1," "제 2," "첫째," 또는 "둘째," 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미를 가지는 것으로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자북 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부된 도면을 참조하여 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 다양한 실시예에서의 네트워크 환경(100) 내의 전자 장치(101)를 도시한 블록도이다.
도 1을 참조하면, 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160) 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 상기 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 상기 구성요소들을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(central processing unit (CPU)), 어플리케이션 프로세서(application processor (AP)), 또는 커뮤니케이션 프로세서(communication processor (CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)은, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(147)(또는 "어플리케이션") 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중계 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나어플리케이션에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)를 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunication system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(global positioning system), Glonass(global navigation satellite system), Beidou Navigation Satellite System(이하, "Beidou") 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard 232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 상기 기능 또는 상기 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 상기 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 상기 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298)를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), BT 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF(radio frequency) 모듈(229)을 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드(224))을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈(223), BT 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), BT 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), BT 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 AP(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 상기 AP(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(touch panel)(252), (디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 초음파 신호를 발생하는 입력 도구를 통해, 전자 장치(201)에서 마이크(예: 마이크(288))로 음파를 감지하여 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(150)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래쉬(flash)(예: LED 또는 xenon lamp)를 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 혹은 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFlo™) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(operation system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(예: 서버 106 등)로부터 다운로드(download) 가능하다.
커널(320)(예: 도 1의 커널(141))은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)(예: 미들웨어(143))는 런타임 라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(344)는 상기 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS 373, IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 제공할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 상기 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 전자 장치(102, 104))의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 서버 106 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(120)에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다.
예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 상기 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고, 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 실시예를 포함하는 것으로 해석되어야 한다.
도 4는 본 발명의 다양한 실시예에 따른 전자 장치의 구성을 도시한 블록도이다.
도 4를 참조하면, 본 발명의 다양한 실시예에 따른 전자 장치(401)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있으며, 프로세서(410), 메모리(430), 마이크(450), 디스플레이(460) 및 통신 인터페이스(470)를 포함할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는, 도 1에 도시된 프로세서(120)일 수 있다. 프로세서(410)는 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(410)는 전자 장치(401)의 다른 구성 요소들(예: 메모리(430), 마이크(450), 디스플레이(450), 통신 인터페이스(470) 등)로부터 획득된 정보 중 적어도 일부를 처리하고, 이를 다양한 방법으로 사용자에게 제공할 수 있다. 본 발명의 다양한 실시예에 따르면, 프로세서(410)는 전자 장치(401)의 모든 구성요소들을 제어할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 적어도 하나의 오브젝트를 포함하는 컨텐트를 수신할 수 있다. 상기 컨텐트는 HTML(hyper text markup language), XML(extensible markup language) 또는 GUI Toolkit(EFL-EDJE 등) 중 적어도 하나의 표준화 문서를 포함할 수 있다. 프로세서(410)는 상기 수신된 컨텐트의 리소스를 분석할 수 있다. 예를 들어, 프로세서(410)는 상기 컨텐트에 포함된 표준화 문서를 분석하여 태그(tag)의 종류에 따라 적어도 하나의 오브젝트를 구분할 수 있다. 상기 적어도 하나의 오브젝트는 컨텐트 페이지로 표시되는 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 이미지 아이콘, 텍스트 컨텐트, 이미지 컨텐트, 링크 컨텐트, 입력 영역 중 적어도 하나를 포함할 수 있다. 또한, 프로세서(410)는 상기 적어도 하나의 오브젝트가 텍스트에 관련되는지를 판단할 수 있다. 예를 들어, 프로세서(410)는 오브젝트가 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 텍스트 컨텐트, 링크 컨텐트 등과 같이 텍스트를 포함하는 오브젝트이면, 해당 오브젝트를 텍스트 오브젝트인 것으로 판단할 수 있다. 또는, 프로세서(410)는 오브젝트가 이미지 아이콘, 이미지 컨텐트, 입력 영역 등과 같이 텍스트를 포함하지 않은 오브젝트이면, 해당 오브젝트를 비-텍스트 오브젝트인 것으로 판단할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 텍스트에 관련되지 않은 비-텍스트 오브젝트가 있는 경우, 상기 비-텍스트 오브젝트에 인스트럭션 텍스트를 부여할 수 있다. 인스트럭션 텍스트는 비-텍스트 오브젝트를 사용자의 음성 인식으로 식별할 수 있도록 할 수 있다. 또한, 프로세서(410)는 인스트럭션 텍스트가 해당 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성할 수 있다. 프로세서(410)는 상기 컨텐트의 표준화 문서를 편집하여 인스트럭션 텍스트를 디스플레이에 표시되는 컨텐트 페이지에 표현될 수 있도록 할 수 있다. 인스트럭션 텍스트는 툴팁 형태로 표시될 수 있다. 또한, 프로세서(410)는 구성된 컨텐트 페이지를 디스플레이(460)에 표시하도록 제어할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 마이크(450)로부터의 음성 신호를 수신하고, 수신된 음성 신호를 음성 인식할 수 있다. 예를 들어, 프로세서(410)는 마이크(450)로부터의 음성 신호를 텍스트로 변환할 수 있고, 변환된 텍스트를 인식할 수 있다. 프로세서(410)는 인식된 음성에 대응하는 텍스트가 컨텐트 페이지 내의 적어도 하나의 오브젝트에 관련되는지를 판단할 수 있다. 프로세서(410)는 인식된 음성에 대응하는 텍스트가 상기 적어도 하나의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택할 수 있다. 예를 들어, 프로세서(410)는 컨텐트 페이지 내에서 상기 인식된 음성에 대응하는 텍스트를 전체 또는 적어도 일부 포함하는 텍스트 오브젝트가 있는지를 판단하고, 상기 인식된 음성에 대응하는 텍스트를 포함하는 텍스트 오브젝트가 있으면, 해당 텍스트 오브젝트를 음성 신호에 관련된 오브젝트로 선택할 수 있다. 또는, 프로세서(410)는 컨텐트 페이지 내에서 상기 인식된 음성에 대응하는 텍스트를 전체 또는 적어도 일부 포함하는 인스트럭션 텍스트가 있는지를 판단하고, 상기 인식된 음성에 대응하는 텍스트를 포함하는 인스트럭션 텍스트가 있으면, 해당 인스트럭션 텍스트에 대응하는 비-텍스트 오브젝트를 음성 신호에 관련된 오브젝트로 선택할 수 있다. 또한, 프로세서(410)는 관련된 오브젝트가 선택되면, 해당 오브젝트에 매칭되는 동작을 실행할 수 있다. 예를 들어, 프로세서(410)는 상기 관련된 오브젝트가 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 이미지 아이콘, 텍스트 컨텐트, 이미지 컨텐트, 링크 컨텐트 중 어느 하나이면, 해당 오브젝트에 대응하는 컨텐트에 접근할 수 있다. 또는, 프로세서(410)는 상기 관련된 오브젝트가 입력 영역이면, 해당 입력 영역의 선택에 따라 음성 입력을 지원할 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는 경우, 상기 관련된 복수의 오브젝트에 인덱스 텍스트를 부여할 수 있다. 인덱스 텍스트는 복수의 오브젝트를 사용자의 음성 인식으로 식별할 수 있도록 할 수 있다. 또한, 프로세서(410)는 인덱스 텍스트가 각각의 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성할 수 있다. 프로세서(410)는 상기 컨텐트의 표준화 문서를 편집하여 인덱스 텍스트를 디스플레이에 표시되는 컨텐트 페이지에 표현될 수 있도록 할 수 있다. 인덱스 텍스트는 툴팁 형태로 표시될 수 있다. 또한, 프로세서(410)는 구성된 컨텐트 페이지를 디스플레이(460)에 표시하도록 제어할 수 있다. 다양한 실시예에서, 프로세서(410)는 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는 경우, 사용자가 중복되지 않은 다른 텍스트를 포함하는 음성 신호를 입력할 수 있도록, 상기 복수의 오브젝트에 관련된 음성 신호를 취소하도록 하는 "취소" 인스트럭션 텍스트를 디스플레이에 표시되는 컨텐트 페이지에 툴팁 형태로 표시될 수 있다.
다양한 실시예에 따르면, 프로세서(410)는 인식된 음성에 대응하는 텍스트 언어와 다른 텍스트 언어에 관련된 오브젝트가 있는 경우, 상기 다른 텍스트 언어에 관련된 오브젝트에 인스트럭션 텍스트를 부여할 수 있다. 또한, 프로세서(410)는 인스트럭션 텍스트를 상기 다른 텍스트 언어에 관련된 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이(460)에 표시하도록 제어할 수 있다.
다양한 실시예에 따르면, 메모리(430)는, 도 1에 도시된 메모리(130)일 수 있다. 메모리(430)는 전자 장치(401)의 적어도 하나의 다른 구성요소에 관련된 명령 또는 데이터를 저장할 수 있다. 메모리(430)는 프로세서(410)의 제어에 따라 프로세서(410), 마이크(450), 디스플레이(460) 및 통신 인터페이스(470)의 동작에 대응되게 입/출력되는 신호 또는 데이터를 저장할 수 있다.
다양한 실시예에 따르면, 마이크(450)는, 도 1에 도시된 입출력 인터페이스(150)의 일부일 수 있다. 마이크(450)는 음성 또는 오디오를 획득할 수 있다. 마이크(450)는 동작에 따라 항상 턴-온 될 수 있고, 입력 또는 조건에 따라 턴-온 될 수도 있다.
다양한 실시예에 따르면, 디스플레이(460)는, 도 1에 도시된 디스플레이(160)일 수 있다. 디스플레이(460)는 프로세서(410)에 의해 구성된 컨텐트 페이지를 표시할 수 있다.
다양한 실시예에 따르면, 통신 인터페이스(470)는, 도 1에 도시된 통신 인터페이스(170)일 수 있다. 통신 인터페이스(470)는 외부 전자 장치와 통신 세션을 연결하여 데이터를 통신할 수 있다. 통신 인터페이스(470)는 외부 전자 장치로부터 컨텐트를 수신할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치에 있어서, 디스플레이 및 프로세서를 포함하고, 상기 프로세서는, 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하고, 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하며, 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하며, 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따르면, 프로세서는, 상기 컨텐트의 리소스를 분석하고, 상기 분석 결과를 기반으로 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하고, 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트가 있는 경우, 상기 비-텍스트 오브젝트에 상기 인스트럭션 텍스트를 부여하고, 상기 인스트럭션 텍스트를 상기 비-텍스트 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이에 표시하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 컨텐트는 HTML(Hyper Text Markup Language), XML(Extensible Markup Language) 또는 GUI Toolkit(EFL-EDJE) 중 적어도 하나의 표준화 문서를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 적어도 하나의 오브젝트는 상기 컨텐트 페이지로 표시된 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 이미지 아이콘, 텍스트 컨텐트, 이미지 컨텐트, 링크 컨텐트 또는 입력 영역 중 적어도 하나를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 인스트럭션 텍스트는 툴팁 형태로 표시될 수 있다.
본 발명의 다양한 실시예에 따르면, 사용자의 음성 신호를 수신하는 마이크를 포함하며, 상기 프로세서는, 상기 마이크로부터의 음성 신호를 음성 인식하고, 상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 적어도 하나의 오브젝트에 관련되는지를 판단하고, 상기 텍스트가 상기 적어도 하나의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택하도록 설정될 수 있다. 또는 상기 프로세서는 상기 선택된 오브젝트에 매칭되는 동작을 실행하도록 설정될 수 있다. 또는 상기 프로세서는 상기 선택된 오브젝트가 입력 영역인 경우, 음성 입력을 지원하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 프로세서는, 상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는 경우, 상기 관련된 복수의 오브젝트에 인덱스 텍스트를 부여하고, 상기 인덱스 텍스트를 상기 관련된 복수의 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이에 표시하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 프로세서는, 상기 인식된 음성에 대응하는 텍스트 언어와 다른 텍스트 언어에 관련된 오브젝트가 있는 경우, 상기 다른 텍스트 언어에 관련된 오브젝트에 인스트럭션 텍스트를 부여하고, 상기 인스트럭션 텍스트를 상기 다른 텍스트 언어에 관련된 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이에 표시하도록 설정될 수 있다.
도 5는 본 발명의 다양한 실시예에 따른 전자 장치의 컨텐트 페이지를 표시하는 방법을 설명하기 위한 흐름도이고, 도 6a 및 도 6b는 본 발명의 다양한 실시예에 따른 전자 장치의 컨텐트 페이지를 표시하는 방법을 설명하기 위한 예시도이다.
이하, 도 5, 도 6a 및 도 6b를 참조하여 본 발명의 다양한 실시예에 따른 전자 장치의 컨텐트 페이지를 표시하는 방법을 설명하면 다음과 같다.
501 동작에서, 전자 장치(예: 통신 인터페이스(470))는 외부 전자 장치로부터 컨텐트를 수신할 수 있다. 또는, 전자 장치(예: 프로세서(410))는 메모리(430))에 저장된 컨텐트를 수신할 수 있다. 상기 컨텐트는 HTML(hyper text markup language), XML(extensible markup language) 또는 GUI Toolkit(EFL-EDJE) 중 적어도 하나의 표준화 문서를 포함할 수 있다.
502 동작에서, 전자 장치(예: 프로세서(410))는 상기 컨텐트의 리소스를 분석할 수 있다. 예를 들어, 전자 장치는 상기 컨텐트에 포함된 표준화 문서를 분석하여 태그(tag)의 종류에 따라 적어도 하나의 오브젝트를 구분할 수 있다. 상기 적어도 하나의 오브젝트는 컨텐트 페이지로 표시되는 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 이미지 아이콘, 텍스트 컨텐트, 이미지 컨텐트, 링크 컨텐트, 입력 영역 중 적어도 하나를 포함할 수 있다.
503 동작에서, 전자 장치(예: 프로세서(410))는 상기 컨텐트의 리소스 분석 결과를 기반으로 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트가 있는지를 판단할 수 있다. 예를 들어, 전자 장치는 오브젝트가 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 텍스트 컨텐트, 링크 컨텐트 등과 같이 텍스트를 포함하는 오브젝트이면, 해당 오브젝트를 텍스트 오브젝트인 것으로 판단할 수 있다. 또는, 전자 장치는 오브젝트가 이미지 아이콘, 이미지 콘텐트, 입력 영역 등과 같이 텍스트를 포함하지 않는 오브젝트이면, 해당 오브젝트를 비-텍스트 오브젝트인 것으로 판단할 수 있다.
504 동작에서, 전자 장치(예: 프로세서(410))는 비-텍스트 오브젝트가 있는 경우, 상기 비-텍스트 오브젝트에 인스트럭션 텍스트를 부여할 수 있다. 인스트럭션 텍스트는 비-텍스트 오브젝트를 사용자의 음성 인식으로 식별할 수 있도록 할 수 있다.
505 동작에서, 전자 장치(예: 프로세서(410))는 상기 인스트럭션 텍스트가 해당 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성할 수 있다. 예를 들어, 전자 장치는 상기 컨텐트의 표준화 문서를 편집하여 인스트럭션 텍스트를 디스플레이에 표시되는 컨텐트 페이지에 표현될 수 있도록 할 수 있다. 또한, 인스트럭션 텍스트는 툴팁 형태로 표시될 수 있다.
506 동작에서, 전자 장치(예: 프로세서(410))는 상기 구성된 컨텐트 페이지를 디스플레이에 표시할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 컨텐트 페이지를 표시하는 방법은, 도 6a에 도시된 바와 같이, 컨텐트 페이지 화면(610a)을 제공할 수 있다. 컨텐트 페이지 화면(610a)은 검색 기능을 제공하는 웹 페이지일 수 있다. 전자 장치는 웹 페이지를 구성하는 표준화 문서 리소스를 분석하여 태그(tag)의 종류에 따라 웹 페이지로 접근 경로를 제공하는 링크 오브젝트(620), 입력 영역을 제공하는 입력 영역 오브젝트(630), 가상 키보드를 제공하는 입력 도구 오브젝트(640) 및 음성 입력 기능을 제공하는 음성 검색 오브젝트(650)로 구분할 수 있다. 상기 링크 오브젝트(620), 입력 영역 오브젝트(630), 입력 도구 오브젝트(640) 및 음성 검색 오브젝트(650)는 텍스트를 포함하지 않은 오브젝트이며, 각 오브젝트에 인스트럭션 텍스트(예: 1, 2, 3, 4)를 부여할 수 있다. 예를 들어, 도 6a에 도시된 컨텐트 페이지 화면(610a)에는 링크 오브젝트(620), 입력 영역 오브젝트(630), 입력 도구 오브젝트(640), 음성 검색 오브젝트(650)에 대응하는 위치에 인스트럭션 텍스트(예: 1, 2, 3, 4)가 툴팁 형태로 표시될 수 있다.
또는, 도 6b에 도시된 바와 같이, 컨텐트 페이지 화면(610b)를 제공할 수 있다. 컨텐트 페이지 화면(610b)은 검색 결과를 제공하는 웹 페이지일 수 있다. 전자 장치는 웹 페이지를 구성하는 표준화 문서 리소스를 분석하여 태그(tag)의 종류에 따라 검색 결과 타이틀과 간략 정보를 텍스트 형태로 제공하는 텍스트 오브젝트(680)와 이미지 컨텐트를 제공하는 이미지 오브젝트(670)로 구분할 수 있다. 상기 텍스트 오브젝트(680)는 텍스트에 관련된 오브젝트이며, 인스트럭션 텍스트를 부여하지 않을 수 있다. 또한, 이미지 오브젝트(670)는 텍스트를 포함하지 않은 오브젝트이며, 각 오브젝트에 인스트럭션 텍스트(예: 1, 2, 3, 4, 5)를 부여할 수 있다. 예를 들어, 도 6b에 도시된 컨텐트 페이지 화면(610b)에는 각 이미지 오브젝트(670)에 대응하는 위치에 인스트럭션 텍스트(예: 1, 2, 3, 4, 5)가 툴팁 형태로 표시될 수 있다.
도 7은 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어 방법을 설명하기 위한 흐름도이고, 도 8a 및 도 8b는 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어 방법을 설명하기 위한 예시도이다.
이하, 도 7, 도 8a 및 도 8b를 참조하여 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어 방법을 설명하면 다음과 같다.
701 동작에서, 전자 장치(예: 프로세서(410))는 마이크(450)로부터의 음성 신호를 수신할 수 있다. 예를 들어, 전자 장치는 적어도 하나의 오브젝트를 포함하는 컨텐트를 수신하고, 수신된 컨텐트를 컨텐트 페이지로 표시하는 어플리케이션(예: 웹 브라우져)이 실행되면, 음성 인식 제어 기능을 제공하여 음성 신호를 수신할 수 있다. 또는, 전자 장치는 전자 장치는 적어도 하나의 오브젝트를 포함하는 컨텐트를 수신하고, 수신된 컨텐트를 컨텐트 페이지로 표시하는 어플리케이션(예: 웹 브라우저)이 실행되고, 사용자에 의해 음성 인식 제어 기능이 요청되면, 사용자 요청의 응답으로 음성 인식 제어 기능을 제공하여 음성 신호를 수신할 수도 있다. 다양한 실시예에서, 전자 장치는 상기 음성 인식 제어 기능이 제공되면, 상기 수신된 컨텐트의 리소스를 분석하여 비-텍스트 오브젝트에 인스트럭션 텍스트가 부여된 컨텐트 페이지를 디스플레이에 표시할 수 있다.
702 동작에서, 전자 장치(예: 프로세서(410))는 수신된 음성 신호를 음성 인식할 수 있다. 예를 들어, 전자 장치는 마이크로부터의 음성 신호를 텍스트로 변환할 수 있고, 변환된 텍스트를 인식할 수 있다.
703 동작에서, 전자 장치(예: 프로세서(410))는 인식된 음성에 대응하는 텍스트가 컨텐트 페이지 내의 오브젝트에 관련되는지를 판단할 수 있다.
704 동작에서, 전자 장치(예: 프로세서(410))는 인식된 음성에 대응하는 텍스트가 컨텐트 페이지 내의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택할 수 있다.
705 동작에서, 전자 장치(예: 프로세서(410))는 선택된 오브젝트에 매칭되는 동작을 실행할 수 있다. 예를 들어, 전자 장치는 상기 관련된 오브젝트가 컨텐트 타이틀과 같은 텍스트 오브젝트이면, 해당 텍스트 오브젝트에 대응하는 컨텐트에 접근할 수 있다. 또는, 전자 장치는 상기 관련된 오브젝트가 이미지 컨텐트를 제공하는 이미지 오브젝트이면, 해당 이미지 오브젝트에 대응하는 이미지 컨텐트를 제공할 수 있다. 또는, 전자 장치는 상기 관련된 오브젝트가 입력 영역 오브젝트이면, 해당 입력 영역의 선택에 따라 음성 입력을 지원할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어 방법은, 도 8a에 도시된 바와 같이, 컨텐트 페이지 화면(810a)을 제공할 수 있다. 컨텐트 페이지 화면(810a)은 검색 결과를 제공하는 웹 페이지일 수 있다. 전자 장치는 마이크(450)로부터의 음성 신호를 수신하고, 수신된 음성 신호를 음성 인식할 수 있다. 그리고 전자 장치는 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 적어도 하나의 오브젝트에 관련되는지를 판단할 수 있다. 예를 들어, 도 8a에 도시된 컨텐트 페이지 화면(810a)에는 인식된 음성에 대응하는 텍스트가 "엣지"이면, 상기 "엣지"와 관련된 오브젝트의 선택을 표시(881)할 수 있다. 또한, 전자 장치는 "엣지"와 관련된 오브젝트의 선택과 동시에 해당 오브젝트의 컨텐트로 접근하는 동작을 실행할 수 있다.
또는, 도 8b에 도시된 바와 같이, 컨텐트 페이지 화면(810b)를 제공할 수 있다. 컨텐트 페이지 화면(810b)은 검색 결과를 제공하는 웹 페이지일 수 있다. 전자 장치는 마이크(450)로부터의 음성 신호를 수신하고, 수신된 음성 신호를 음성 인식할 수 있다. 그리고 전자 장치는 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 인스트럭션 텍스트(예: 도 6b에 도시된 1, 2, 3, 4, 5)에 관련되는지를 판단할 수 있다. 예를 들어, 도 8b에 도시된 컨텐트 페이지 화면(810b)에는 인식된 음성에 대응하는 텍스트가 숫자 "5"이면, 상기 "5"와 관련된 인스트럭션 텍스트에 대응하는 오브젝트의 선택을 표시(871)할 수 있다. 또한, 전자 장치는 "5"와 관련된 인스트럭션 텍스트에 대응하는 오브젝트의 선택과 동시에 해당 오브젝트의 이미지 컨텐트를 제공하는 동작을 실행할 수 있다.
도 9는 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어와 컨텐트 페이지를 표시하는 방법을 설명하기 위한 흐름도이고, 도 10a 및 도 10b는 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어와 컨텐트 페이지를 표시하는 방법을 설명하기 위한 예시도이다.
이하, 도 9, 도 10a 및 도 10b를 참조하여 본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어와 컨텐트 페이지를 표시하는 방법을 설명하면 다음과 같다.
901 동작에서, 전자 장치(예: 프로세서(410))는 마이크(450)로부터의 음성 신호를 수신할 수 있다. 예를 들어, 전자 장치는 적어도 하나의 오브젝트를 포함하는 컨텐트를 수신하고, 수신된 컨텐트를 컨텐트 페이지로 표시하는 어플리케이션(예: 웹 브라우져)이 실행되면, 음성 인식 제어 기능을 제공하여 음성 신호를 수신할 수 있다. 또는, 전자 장치는 전자 장치는 적어도 하나의 오브젝트를 포함하는 컨텐트를 수신하고, 수신된 컨텐트를 컨텐트 페이지로 표시하는 어플리케이션(예: 웹 브라우저)이 실행되고, 사용자에 의해 음성 인식 제어 기능이 요청되면, 사용자 요청의 응답으로 음성 인식 제어 기능을 제공하여 음성 신호를 수신할 수도 있다. 다양한 실시예에서, 전자 장치는 상기 음성 인식 제어 기능이 제공되면, 상기 수신된 컨텐트의 리소스를 분석하여 비-텍스트 오브젝트에 인스트럭션 텍스트가 부여된 컨텐트 페이지를 디스플레이에 표시할 수 있다.
902 동작에서, 전자 장치(예: 프로세서(410))는 수신된 음성 신호를 음성 인식할 수 있다. 예를 들어, 전자 장치는 마이크로부터의 음성 신호를 텍스트로 변환할 수 있고, 변환된 텍스트를 인식할 수 있다.
903 동작에서, 전자 장치(예: 프로세서(410))는 인식된 음성에 대응하는 텍스트가 컨텐트 페이지 내의 오브젝트에 관련되는지를 판단할 수 있다.
904 동작에서, 전자 장치(예: 프로세서(410))는 인식된 음성에 대응하는 텍스트가 컨텐트 페이지 내에 복수의 오브젝트에 관련되는지를 판단할 수 있다.
905 동작에서, 전자 장치(예: 프로세서(410))는 인식된 음성에 대응하는 텍스트가 하나의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택할 수 있다.
906 동작에서, 전자 장치(예: 프로세서(410))는 선택된 오브젝트에 매칭되는 동작을 실행할 수 있다.
907 동작에서, 전자 장치(예: 프로세서(410))는 인식된 음성에 대응하는 텍스트가 복수의 오브젝트에 관련되는 경우, 상기 관련된 복수의 오브젝트에 인덱스 텍스트를 부여할 수 있다. 인덱스 텍스트는 복수의 오브젝트를 사용자의 음성 인식으로 식별할 수 있도록 할 수 있다.
908 동작에서, 전자 장치(예: 프로세서(410))는 상기 인덱스 텍스트가 각각의 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성할 수 있다. 예를 들어, 전자 장치는 상기 컨텐트의 표준화 문서를 편집하여 인덱스 텍스트를 디스플레이에 표시되는 컨텐트 페이지에 표현될 수 있도록 할 수 있다. 인덱스 텍스트는 툴팁 형태로 표시될 수 있다.
909 동작에서, 전자 장치(예: 프로세서(410))는 상기 구성된 컨텐트 페이지를 디스플레이에 표시할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 음성 인식 제어와 컨텐트 페이지를 표시하는 방법은, 도 10a에 도시된 바와 같이, 컨텐트 페이지 화면(1010a)을 제공할 수 있다. 컨텐트 페이지 화면(1010a)은 검색 결과를 제공하는 웹 페이지일 수 있다. 전자 장치는 마이크(450)로부터의 음성 신호를 수신하고, 수신된 음성 신호를 음성 인식할 수 있다. 그리고 전자 장치는 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는지를 판단할 수 있다. 예를 들어, 도 10a에 도시된 컨텐트 페이지 화면(1010a)에는 인식된 음성에 대응하는 텍스트가 "galaxy"이면, 상기 "galaxy"와 관련된 복수의 오브젝트의 선택을 표시(1090)할 수 있다.
그리고 도 10b에 도시된 바와 같이, 컨텐트 페이지 화면(1010b)에는 상기 "galaxy"와 관련된 복수의 오브젝트(1090)에 각각 인덱스 텍스트(예: 1, 2, 3, 4, 5, 6, 7)를 부여할 수 있고, 각 오브젝트에 대응하는 위치에 인덱스 텍스트(예: 1, 2, 3, 4, 5, 6, 7)가 툴팁 형태로 표시될 수 있다.
또한, 도 10b에 도시된 바와 같이, 컨텐트 페이지 화면(1010b)에는 사용자가 중복되지 않은 다른 텍스트를 포함하는 음성 신호를 입력할 수 있도록, 상기 복수의 오브젝트(1090)에 관련된 음성 신호를 취소하도록 하는 "취소" 인스트럭션 텍스트(1095)를 디스플레이에 표시되는 컨텐트 페이지에 툴팁 형태로 표시될 수 있다.
또한, 도 10b에 도시된 바와 같이, 전자 장치는 인식된 음성에 대응하는 텍스트 언어(예: 영문)와 다른 텍스트 언어(예: 한글)에 관련된 오브젝트가 있는 경우, 상기 오브젝트에 대해서는 선택되지 않으며, 이런 경우, 상기 다른 텍스트 언어에 관련된 오브젝트에 새로운 인스트럭션 텍스트를 부여할 수 있다.
본 발명의 다양한 실시예에 따르면, 전자 장치의 동작 방법에 있어서, 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하는 동작; 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하는 동작; 및 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 컨텐트의 리소스를 분석하는 동작; 상기 분석 결과를 기반으로 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트가 있는 경우, 상기 비-텍스트 오브젝트에 상기 인스트럭션 텍스트를 부여하는 동작; 및 상기 인스트럭션 텍스트를 상기 비-텍스트 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 표시하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 컨텐트는 HTML(hyper text markup language), XML(extensible markup language) 또는 GUI Toolkit(EFL-EDJE) 중 적어도 하나의 표준화 문서를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 적어도 하나의 오브젝트는 상기 컨텐트 페이지로 표시된 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 이미지 아이콘, 텍스트 컨텐트, 이미지 컨텐트, 링크 컨텐트 또는 입력 영역 중 적어도 하나를 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 인스트럭션 텍스트는 툴팁 형태로 표시될 수 있다.
본 발명의 다양한 실시예에 따르면, 사용자의 음성 신호를 수신하는 동작; 상기 수신된 음성 신호를 음성 인식하는 동작; 상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 적어도 하나의 오브젝트에 관련되는지를 판단하는 동작; 및 상기 텍스트가 상기 적어도 하나의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택하는 동작을 더 포함할 수 있다. 또는 상기 선택된 오브젝트에 매칭되는 동작을 실행하는 동작을 더 포함할 수 있다. 또는 상기 선택된 오브젝트가 입력 영역인 경우, 음성 입력을 지원하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는 경우, 상기 관련된 복수의 오브젝트에 인덱스 텍스트를 부여하는 동작; 및 상기 인덱스 텍스트를 상기 관련된 복수의 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 표시하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 상기 인식된 음성에 대응하는 텍스트 언어와 다른 텍스트 언어에 관련된 오브젝트가 있는 경우, 상기 다른 텍스트 언어에 관련된 오브젝트에 인스트럭션 텍스트를 부여하는 동작; 및 상기 인스트럭션 텍스트를 상기 다른 텍스트 언어에 관련된 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 표시하는 동작을 더 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 적어도 하나의 프로세서에 의해 실행되며, 컴퓨터로 읽을 수 있는 명령어가 저장된 컴퓨터 기록 매체에 있어서, 상기 명령어는, 적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하는 동작; 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작; 상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하는 동작; 및 상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하는 동작을 수행하도록 설정될 수 있다.
그리고 본 명세서와 도면에 개시된 본 발명의 실시예들은 본 발명의 기술 내용을 쉽게 설명하고 본 개시의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 따라서 본 발명의 범위는 여기에 개시된 실시예들 이외에도 본 발명의 기술적 사상을 바탕으로 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.
본 발명의 다양한 실시예에 따르면, 웹 페이지나 GUI Toolkit(FEL-EDJE 등)과 같은 표준화 문서를 일부 포함하여 구성된 컨텐트의 리소스를 분석하여 음성 인식으로 선택할 수 없는 오브젝트에 인스트럭션 텍스트를 부여하여 표시함으로써, 별도의 입력 수단 없이 음성 인식만으로 특정 오브젝트를 선택하고 실행할 수 있도록 하는 음성 인식 제어를 제공할 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이; 및
    프로세서를 포함하고, 상기 프로세서는:
    적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하고;
    상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하며;
    상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하며; 및
    상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하도록 설정된 전자 장치.
  2. 제1항에 있어서,
    프로세서는,
    상기 컨텐트의 리소스를 분석하고,
    상기 분석 결과를 기반으로 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하고,
    상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트가 있는 경우, 상기 비-텍스트 오브젝트에 상기 인스트럭션 텍스트를 부여하고,
    상기 인스트럭션 텍스트를 상기 비-텍스트 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이에 표시하도록 설정된 전자 장치.
  3. 제1항에 있어서,
    상기 컨텐트는, HTML(hyper text markup language), XML(extensible markup language) 또는 GUI Toolkit 중 적어도 하나의 표준화 문서를 포함하는 전자 장치.
  4. 제1항에 있어서,
    상기 적어도 하나의 오브젝트는,
    상기 컨텐트 페이지로 표시된 컨텐트 타이틀, 이미지 타이틀, 텍스트 아이콘, 이미지 아이콘, 텍스트 컨텐트, 이미지 컨텐트, 링크 컨텐트 또는 입력 영역 중 적어도 하나를 포함하는 전자 장치.
  5. 제1항에 있어서,
    상기 인스트럭션 텍스트는 툴팁 형태로 표시되는 전자 장치.
  6. 제1항에 있어서,
    사용자의 음성 신호를 수신하는 마이크를 포함하며,
    상기 프로세서는,
    상기 마이크로부터의 음성 신호를 음성 인식하고,
    상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 적어도 하나의 오브젝트에 관련되는지를 판단하고,
    상기 텍스트가 상기 적어도 하나의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택하도록 설정된 전자 장치.
  7. 제6항에 있어서,
    상기 프로세서는,
    상기 선택된 오브젝트에 매칭되는 동작을 실행하도록 설정된 전자 장치.
  8. 제6항에 있어서,
    상기 프로세서는,
    상기 선택된 오브젝트가 입력 영역인 경우, 음성 입력을 지원하도록 설정된 전자 장치.
  9. 제6항에 있어서,
    상기 프로세서는,
    상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는 경우, 상기 관련된 복수의 오브젝트에 인덱스 텍스트를 부여하고,
    상기 인덱스 텍스트를 상기 관련된 복수의 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이에 표시하도록 설정된 전자 장치.
  10. 제6항에 있어서,
    상기 프로세서는,
    상기 인식된 음성에 대응하는 텍스트 언어와 다른 텍스트 언어에 관련된 오브젝트가 있는 경우, 상기 다른 텍스트 언어에 관련된 오브젝트에 인스트럭션 텍스트를 부여하고,
    상기 인스트럭션 텍스트를 상기 다른 텍스트 언어에 관련된 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 상기 디스플레이에 표시하도록 설정된 전자 장치.
  11. 전자 장치의 동작 방법에 있어서,
    적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하는 동작;
    상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작;
    상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하는 동작; 및
    상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하는 동작을 포함하는 방법.
  12. 제11항에 있어서,
    상기 컨텐트의 리소스를 분석하는 동작;
    상기 분석 결과를 기반으로 상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작;
    상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트가 있는 경우, 상기 비-텍스트 오브젝트에 상기 인스트럭션 텍스트를 부여하는 동작; 및
    상기 인스트럭션 텍스트를 상기 비-텍스트 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 표시하는 동작을 더 포함하는 방법.
  13. 제11항에 있어서,
    사용자의 음성 신호를 수신하는 동작;
    상기 수신된 음성 신호를 음성 인식하는 동작;
    상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 적어도 하나의 오브젝트에 관련되는지를 판단하는 동작; 및
    상기 텍스트가 상기 적어도 하나의 오브젝트에 관련되는 경우, 상기 관련된 오브젝트를 선택하는 동작을 더 포함하는 방법.
  14. 제13항에 있어서,
    상기 인식된 음성에 대응하는 텍스트가 상기 컨텐트 페이지 내의 복수의 오브젝트에 관련되는 경우, 상기 관련된 복수의 오브젝트에 인덱스 텍스트를 부여하는 동작; 및
    상기 인덱스 텍스트를 상기 관련된 복수의 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 표시하는 동작을 더 포함하고,
    상기 인식된 음성에 대응하는 텍스트 언어와 다른 텍스트 언어에 관련된 오브젝트가 있는 경우, 상기 다른 텍스트 언어에 관련된 오브젝트에 인스트럭션 텍스트를 부여하는 동작; 및
    상기 인스트럭션 텍스트를 상기 다른 텍스트 언어에 관련된 오브젝트에 대응하여 위치하도록 컨텐트 페이지를 구성하여 표시하는 동작을 더 포함하는 방법.
  15. 적어도 하나의 프로세서에 의해 실행되며, 컴퓨터로 읽을 수 있는 명령어가 저장된 컴퓨터 기록 매체에 있어서,
    상기 명령어는,
    적어도 하나의 오브젝트를 포함하는 컨텐트를 획득하는 동작;
    상기 컨텐트 내에서 상기 적어도 하나의 오브젝트를 구별하는 동작;
    상기 적어도 하나의 오브젝트 중 비-텍스트 오브젝트에 인스트럭션 텍스트를 대응시켜 표시하는 동작; 및
    상기 인스트럭션 텍스트에 대응되는 음성 명령이 입력되면, 상기 인스트럭션 텍스트에 대응되는 상기 비-텍스트 오브젝트를 선택하는 동작을 수행하도록 설정된 컴퓨터 기록 매체.
PCT/KR2017/001994 2016-02-25 2017-02-23 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법 WO2017146482A1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
US16/079,708 US10542144B2 (en) 2016-02-25 2017-02-23 Electronic apparatus for providing voice recognition control and operating method therefor
US16/696,459 US11218592B2 (en) 2016-02-25 2019-11-26 Electronic apparatus for providing voice recognition control and operating method therefor
US17/540,108 US11838445B2 (en) 2016-02-25 2021-12-01 Electronic apparatus for providing voice recognition control and operating method therefor
US18/528,013 US20240106932A1 (en) 2016-02-25 2023-12-04 Electronic apparatus for providing voice recognition control and operating method therefor

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2016-0022722 2016-02-25
KR1020160022722A KR20170100309A (ko) 2016-02-25 2016-02-25 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법

Related Child Applications (2)

Application Number Title Priority Date Filing Date
US16/079,708 A-371-Of-International US10542144B2 (en) 2016-02-25 2017-02-23 Electronic apparatus for providing voice recognition control and operating method therefor
US16/696,459 Continuation US11218592B2 (en) 2016-02-25 2019-11-26 Electronic apparatus for providing voice recognition control and operating method therefor

Publications (1)

Publication Number Publication Date
WO2017146482A1 true WO2017146482A1 (ko) 2017-08-31

Family

ID=59685385

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/001994 WO2017146482A1 (ko) 2016-02-25 2017-02-23 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법

Country Status (3)

Country Link
US (4) US10542144B2 (ko)
KR (1) KR20170100309A (ko)
WO (1) WO2017146482A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020112933A (ja) * 2019-01-09 2020-07-27 キヤノン株式会社 情報処理システム、情報処理装置、制御方法、プログラム

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170100309A (ko) 2016-02-25 2017-09-04 삼성전자주식회사 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
KR20200043902A (ko) 2018-10-18 2020-04-28 삼성전자주식회사 전자 장치 및 전자 장치의 제어 방법
WO2020080753A1 (ko) * 2018-10-18 2020-04-23 삼성전자주식회사 전자 장치 및 전자 장치의 제어 방법
US11122081B2 (en) 2019-02-21 2021-09-14 Bank Of America Corporation Preventing unauthorized access to information resources by deploying and utilizing multi-path data relay systems and sectional transmission techniques

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130082339A (ko) * 2012-01-11 2013-07-19 삼성전자주식회사 음성 인식을 사용하여 사용자 기능을 수행하는 방법 및 장치
KR20140089861A (ko) * 2013-01-07 2014-07-16 삼성전자주식회사 디스플레이 장치 및 그의 제어 방법
US20150040012A1 (en) * 2013-07-31 2015-02-05 Google Inc. Visual confirmation for a recognized voice-initiated action
KR20150027163A (ko) * 2012-05-30 2015-03-11 코핀 코포레이션 개선된 가상 디스플레이 기능을 가진 헤드-착용 컴퓨터
KR20150125472A (ko) * 2014-04-30 2015-11-09 삼성전자주식회사 음성 명령 제공 방법 및 장치

Family Cites Families (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3705220B2 (ja) 2002-02-05 2005-10-12 日産自動車株式会社 ナビゲーション装置、画像表示方法及び画像表示プログラム
US8958848B2 (en) * 2008-04-08 2015-02-17 Lg Electronics Inc. Mobile terminal and menu control method thereof
KR101545582B1 (ko) 2008-10-29 2015-08-19 엘지전자 주식회사 단말기 및 그 제어 방법
KR102339297B1 (ko) * 2008-11-10 2021-12-14 구글 엘엘씨 멀티센서 음성 검출
US20150161217A1 (en) * 2010-04-26 2015-06-11 Google Inc. Related images
US8359020B2 (en) * 2010-08-06 2013-01-22 Google Inc. Automatically monitoring for voice input based on context
US10013976B2 (en) 2010-09-20 2018-07-03 Kopin Corporation Context sensitive overlays in voice controlled headset computer displays
US9377862B2 (en) * 2010-09-20 2016-06-28 Kopin Corporation Searchlight navigation using headtracker to reveal hidden or extra document data
US10409851B2 (en) * 2011-01-31 2019-09-10 Microsoft Technology Licensing, Llc Gesture-based search
US8849791B1 (en) * 2011-06-29 2014-09-30 Amazon Technologies, Inc. Assisted shopping
WO2013012107A1 (ko) * 2011-07-19 2013-01-24 엘지전자 주식회사 전자 기기 및 그 제어 방법
US9836177B2 (en) * 2011-12-30 2017-12-05 Next IT Innovation Labs, LLC Providing variable responses in a virtual-assistant environment
US20130297352A1 (en) * 2012-02-17 2013-11-07 Tom Noe Mobile application for automobile services
US8558790B2 (en) * 2012-03-04 2013-10-15 Lg Electronics Inc. Portable device and control method thereof
US9536049B2 (en) * 2012-09-07 2017-01-03 Next It Corporation Conversational virtual healthcare assistant
KR102049977B1 (ko) * 2012-12-31 2019-11-28 엘지전자 주식회사 이동 단말기
CA2898048C (en) * 2013-01-11 2022-05-10 Teknision Inc. Method and system for configuring selection of contextual dashboards
KR20140100315A (ko) * 2013-02-06 2014-08-14 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
US9785652B2 (en) * 2015-04-30 2017-10-10 Michael Flynn Method and system for enhancing search results
US10739951B2 (en) * 2013-09-06 2020-08-11 Knowledge Initiatives LLC Interactive user interfaces for electronic textbook implementations
KR102158315B1 (ko) * 2013-10-14 2020-09-21 삼성전자주식회사 음성 제어를 수행하는 디스플레이 장치 및 그 음성 제어 방법
KR102209519B1 (ko) 2014-01-27 2021-01-29 삼성전자주식회사 음성 제어를 수행하는 디스플레이 장치 및 그 음성 제어 방법
US9836192B2 (en) * 2014-02-25 2017-12-05 Evan Glenn Katsuranis Identifying and displaying overlay markers for voice command user interface
US9430186B2 (en) * 2014-03-17 2016-08-30 Google Inc Visual indication of a recognized voice-initiated action
US20150278355A1 (en) * 2014-03-28 2015-10-01 Microsoft Corporation Temporal context aware query entity intent
US9881089B2 (en) * 2014-04-28 2018-01-30 Verizon New Jersey Inc. Pop-up search box
EP2947635B1 (en) * 2014-05-21 2018-12-19 Samsung Electronics Co., Ltd. Display apparatus, remote control apparatus, system and controlling method thereof
US20180356961A1 (en) * 2014-06-09 2018-12-13 Google Inc. Low-friction, instant, private, personalized video sharing widget
WO2016017978A1 (en) * 2014-07-31 2016-02-04 Samsung Electronics Co., Ltd. Device and method for performing functions
US9401000B2 (en) * 2014-08-27 2016-07-26 Google Inc. Protecting content on a mobile device from mining
US9880716B2 (en) * 2014-09-03 2018-01-30 Verizon Patent And Licensing Inc. User-selectable quasi-permanent partial overlap of user interface display
KR102232583B1 (ko) * 2015-01-08 2021-03-26 삼성전자주식회사 전자장치 및 전자장치의 웹 재현 방법
US20160217109A1 (en) * 2015-01-27 2016-07-28 Speak Page, LLC Navigable web page audio content
KR102072788B1 (ko) * 2015-04-30 2020-03-12 삼성전자주식회사 휴대 장치 및 휴대 장치의 콘텐트 화면 변경방법
US9948980B2 (en) * 2015-07-20 2018-04-17 Google Llc Synchronizing audio content to audio and video devices
US9934782B2 (en) * 2015-09-22 2018-04-03 Meshrose Ltd. Automatic performance of user interaction operations on a computing device
US20170102832A1 (en) * 2015-10-08 2017-04-13 Mastercard International Incorporated Systems and Methods for Displaying Content, Based on Selections of Unlinked Objects
US10845950B2 (en) * 2015-12-17 2020-11-24 Microsoft Technology Licensing, Llc Web browser extension
KR20170100309A (ko) 2016-02-25 2017-09-04 삼성전자주식회사 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
US20180136904A1 (en) * 2016-11-16 2018-05-17 Samsung Electronics Co., Ltd. Electronic device and method for controlling electronic device using speech recognition
EP3401797A1 (en) * 2017-05-12 2018-11-14 Samsung Electronics Co., Ltd. Speech navigation for multilingual web pages

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130082339A (ko) * 2012-01-11 2013-07-19 삼성전자주식회사 음성 인식을 사용하여 사용자 기능을 수행하는 방법 및 장치
KR20150027163A (ko) * 2012-05-30 2015-03-11 코핀 코포레이션 개선된 가상 디스플레이 기능을 가진 헤드-착용 컴퓨터
KR20140089861A (ko) * 2013-01-07 2014-07-16 삼성전자주식회사 디스플레이 장치 및 그의 제어 방법
US20150040012A1 (en) * 2013-07-31 2015-02-05 Google Inc. Visual confirmation for a recognized voice-initiated action
KR20150125472A (ko) * 2014-04-30 2015-11-09 삼성전자주식회사 음성 명령 제공 방법 및 장치

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020112933A (ja) * 2019-01-09 2020-07-27 キヤノン株式会社 情報処理システム、情報処理装置、制御方法、プログラム
JP7286321B2 (ja) 2019-01-09 2023-06-05 キヤノン株式会社 情報処理システム、情報処理装置、制御方法、プログラム

Also Published As

Publication number Publication date
US20190052753A1 (en) 2019-02-14
US11218592B2 (en) 2022-01-04
US20240106932A1 (en) 2024-03-28
US20220094787A1 (en) 2022-03-24
US10542144B2 (en) 2020-01-21
KR20170100309A (ko) 2017-09-04
US11838445B2 (en) 2023-12-05
US20200099785A1 (en) 2020-03-26

Similar Documents

Publication Publication Date Title
WO2017135599A1 (ko) 외부 전자 장치를 제어하기 위한 방법 및 전자 장치
WO2017179905A1 (ko) 플렉서블 디바이스 및 그 동작 방법
WO2016133326A1 (en) Method and apparatus for managing module use of multi-user based device
WO2018128389A1 (en) Electronic device and method for displaying history of executed application thereof
WO2017116052A1 (ko) 컨텐트 인식 장치 및 그 동작 방법
WO2017142195A1 (ko) 전자 장치 및 그 어플리케이션 전환 및 정렬 방법
WO2017146482A1 (ko) 음성 인식 제어를 제공하는 전자 장치 및 그 동작 방법
WO2018117560A1 (ko) 사용자의 시선 및 입력에 기반하여 제어되는 전자 장치, 모바일 전자 장치 및 디스플레이 장치
WO2016209004A1 (ko) 전자 장치의 터치 센싱 모듈 제어 방법 및 전자 장치, 전자 장치에 구비된 터치 센싱 모듈의 동작 방법 및 터치 센싱 모듈
WO2017073941A1 (ko) 제스처 감지 방법 및 이를 지원하는 전자 장치
WO2018034416A1 (ko) 전자 장치 및 전자 장치의 이미지 표시 방법
WO2017095113A1 (ko) 번역 서비스를 제공하는 방법 및 이를 위한 전자 장치
WO2018066840A1 (ko) 케이스 장치를 구비한 전자 장치
WO2017111313A1 (ko) 웹푸시를 이용한 푸시 서비스 제공 방법 및 이를 지원하는 전자 장치
WO2017126767A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2018155905A1 (ko) 식별 정보 관리 방법 및 이를 지원하는 전자 장치
WO2018124775A1 (ko) 외부 장치를 연결하는 방법 및 이를 지원하는 전자 장치
WO2017135764A1 (ko) 애플리케이션을 상호 연동하는 전자 장치 및 이를 위한 방법
WO2018088864A1 (en) Method for providing object information and electronic device thereof
WO2017183930A1 (ko) 전자 장치 및 그 제어 방법
WO2018128320A1 (ko) 전자 장치 및 그의 음성을 이용한 통신 연결 방법
WO2018131910A1 (en) Electronic device and method for creating shortcut to web page in electronic device
WO2018131831A1 (ko) 프로세스의 권한 상승을 검출하는 전자 장치 및 저장 매체
WO2017099392A1 (ko) 전자 장치 및 전자 장치의 디스플레이 방법
WO2017164669A1 (ko) 결제 정보를 제공하는 전자 장치 및 방법

Legal Events

Date Code Title Description
NENP Non-entry into the national phase

Ref country code: DE

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17756820

Country of ref document: EP

Kind code of ref document: A1

122 Ep: pct application non-entry in european phase

Ref document number: 17756820

Country of ref document: EP

Kind code of ref document: A1