WO2018151486A1 - 전자 장치 및 전자 장치의 메시지 데이터 출력 방법 - Google Patents

전자 장치 및 전자 장치의 메시지 데이터 출력 방법 Download PDF

Info

Publication number
WO2018151486A1
WO2018151486A1 PCT/KR2018/001840 KR2018001840W WO2018151486A1 WO 2018151486 A1 WO2018151486 A1 WO 2018151486A1 KR 2018001840 W KR2018001840 W KR 2018001840W WO 2018151486 A1 WO2018151486 A1 WO 2018151486A1
Authority
WO
WIPO (PCT)
Prior art keywords
text data
data
electronic device
display
processor
Prior art date
Application number
PCT/KR2018/001840
Other languages
English (en)
French (fr)
Inventor
박노준
박준형
이효중
이태희
김건수
김한집
전용준
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to US16/482,908 priority Critical patent/US11244679B2/en
Publication of WO2018151486A1 publication Critical patent/WO2018151486A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72436—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for text messaging, e.g. short messaging services [SMS] or e-mails
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/06—Message adaptation to terminal or network requirements
    • H04L51/066—Format adaptation, e.g. format conversion or compression
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/28—Constructional details of speech recognition systems
    • G10L15/30—Distributed recognition, e.g. in client-server systems, for mobile phones or network applications
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04—Real-time or near real-time messaging, e.g. instant messaging [IM]
    • H04L51/046—Interoperability with other network applications or services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/725—Cordless telephones
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/34—Microprocessors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/36—Memories
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/06—Details of telephonic subscriber devices including a wireless LAN interface
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/22—Details of telephonic subscriber devices including a touch pad, a touch sensor or a touch detector
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2250/00—Details of telephonic subscriber devices
    • H04M2250/74—Details of telephonic subscriber devices with voice recognition means

Definitions

  • the present embodiment relates to an electronic device and, for example, to a method of outputting text-based message data by the electronic device.
  • portable terminal devices (hereinafter referred to as electronic devices) can implement various applications beyond the conventional call function.
  • text-based message applications are the most widely used technology in mobile communication-based electronic devices.
  • Speech recognition technology is a technology that recognizes the user's voice and converts it into text.
  • One of the scenarios in which a voice recognition technology is used may be, for example, speech to text (STT) that performs text message input based on voice recognition to be transmitted to a counterpart through a message application. That is, the user may transmit a text message to the counterpart through a simpler voice recognition function when typing is difficult by hand, such as while driving or working.
  • STT speech to text
  • the user of the receiving electronic device which is the other party of the message application, sees the text message of the same type regardless of whether the calling message uses the keyboard or the voice recognition method.
  • the output in outputting a message on a display in an electronic device, the output may be output based on a method of inputting a message in a calling electronic device.
  • an electronic device may include a display including a touch screen; A voice input device for collecting voice and generating voice data; Communication circuits; A processor electrically connected to the display, the voice input device and the communication circuit; And a memory electrically connected to the processor, wherein the memory, when executed, receives the first text data input through the touch screen and / or the voice data input through the voice input device. And message data including second text data converted from the first text data and / or the voice data and attribute information related to a type of an input method of the first text data and / or the second text data. And instructions for causing the communication circuit to transmit the message data to an external electronic device.
  • an electronic device may include a display; Communication circuits; A processor electrically connected to the display and the communication circuitry; And a memory electrically connected to the processor, wherein, when executed, the processor acquires message data received through the communication circuit, confirms attribute information included in the message data, and As a result of the check, when the text data included in the message data is the first text data input from the touch screen of the external electronic device, the display causes the first text data to be displayed for the first time and included in the message data. If the text data is the second text data converted from the voice data, the display may include an instruction to display the second text data for a second time different from the first time.
  • a message data output method of an electronic device may include receiving message data generated by an external electronic device; Confirming attribute information included in the message data; If the text data included in the message data is first text data input from a touch screen of the external electronic device, displaying the first text data for a first time; And when the text data included in the message data is second text data converted from voice data, displaying the second text data for a second time different from the first time.
  • the calling electronic device classifies and transmits a message type according to the type of the input method, and the receiving electronic device differentiates the output of the message based on the type of the input method. This has the effect of enabling the use of speech recognition-based text messages.
  • FIG. 1 illustrates an electronic device in a network environment in various embodiments.
  • FIG. 2 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • FIG. 4 is a diagram illustrating an electronic device and a service server device according to various embodiments of the present disclosure.
  • FIG. 5 illustrates a voice recognition engine of an electronic device according to various embodiments of the present disclosure.
  • FIG. 6 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 is an example of a message input screen of an electronic device according to various embodiments of the present disclosure.
  • 9 is an example of a message data transmission method according to various embodiments.
  • FIG. 10 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • 11 to 14 are examples of message screens displayed on an electronic device according to various embodiments of the present disclosure.
  • 15 is a flowchart illustrating a message generating method of an originating electronic device according to various embodiments of the present disclosure.
  • 16 is a flowchart illustrating a message output method of a receiving side electronic device according to various embodiments of the present disclosure.
  • the expression “device configured to” may mean that the device “can” together with other devices or components.
  • processor configured (or configured to) perform A, B, and C may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general purpose processor (eg, a CPU or an application processor) capable of performing the corresponding operations.
  • An electronic device may be, for example, a smartphone, a tablet PC, a mobile phone, a video phone, an e-book reader, a desktop PC, a laptop PC, a netbook computer, a workstation, a server, a PDA, a PMP. It may include at least one of a portable multimedia player, an MP3 player, a medical device, a camera, or a wearable device. Wearable devices may be accessory (e.g. watches, rings, bracelets, anklets, necklaces, eyeglasses, contact lenses, or head-mounted-devices (HMDs), textiles or clothing integrated (e.g.
  • HMDs head-mounted-devices
  • an electronic device may comprise, for example, a television, a digital video disk (DVD) player, Audio, Refrigerator, Air Conditioner, Cleaner, Oven, Microwave, Washing Machine, Air Purifier, Set Top Box, Home Automation Control Panel, Security Control Panel, Media Box (e.g. Samsung HomeSyncTM, Apple TVTM, or Google TVTM), Game Console (Eg, XboxTM, PlayStationTM), an electronic dictionary, an electronic key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include a variety of medical devices (e.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Computed tomography (CT), cameras or ultrasounds), navigation devices, global navigation satellite systems (GNSS), event data recorders (EDRs), flight data recorders (FDRs), automotive infotainment devices, ship electronics (E.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Computed tomography (CT), cameras or ultrasounds), navigation devices, global navigation satellite systems (GNSS), event data recorders (EDRs), flight data recorders (FDRs), automotive infotainment devices, ship electronics (E.g.
  • various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters
  • MRA magnetic resonance angiography
  • an electronic device may be a part of a furniture, building / structure or automobile, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, water, electricity, Gas, or a radio wave measuring instrument).
  • the electronic device may be flexible or a combination of two or more of the aforementioned various devices.
  • Electronic devices according to embodiments of the present disclosure are not limited to the above-described devices.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication interface 170.
  • the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include circuitry that connects the components 110-170 to each other and transfers communication (eg, control messages or data) between the components.
  • the processor 120 may include one or more of a central processing unit, an application processor, or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may include, for example, a kernel 141, middleware 143, an application programming interface (API) 145, an application program (or “application”) 147, or the like.
  • API application programming interface
  • application or “application”
  • At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system.
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Prioritize and process the one or more work requests.
  • the API 145 is an interface for the application 147 to control functions provided by the kernel 141 or the middleware 143.
  • the API 145 may include at least the following: file control, window control, image processing, or character control. It can contain one interface or function (eg command).
  • the input / output interface 150 may transmit, for example, a command or data input from a user or another external device to other component (s) of the electronic device 101, or other components of the electronic device 101 ( Commands or data received from the device) can be output to the user or other external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light emitting diode (LED) display, an organic light emitting diode (OLED) display, or a microelectromechanical system (MEMS) display, or an electronic paper display. It may include.
  • the display 160 may display, for example, various types of content (eg, text, images, videos, icons, and / or symbols, etc.) to the user.
  • the display 160 may include a touch screen and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • the wireless communication may be, for example, LTE, LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), universal mobile telecommunications system (UMTS), wireless broadband (WiBro), or global network (GSM).
  • LTE Long Term Evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • UMTS universal mobile telecommunications system
  • WiBro wireless broadband
  • GSM global network
  • the wireless communication may be performed using, for example, wireless fidelity (WiFi), light fidelity (LiFi), Bluetooth, Bluetooth low power (BLE), Zigbee, as illustrated by element 164 of FIG. It may include at least one of near field communication (NFC), magnetic secure transmission (Magnetic Secure Transmission), radio frequency (RF), or body area network (BAN).
  • the wireless communication may include GNSS.
  • the GNSS may be, for example, a Global Positioning System (GPS), a Global Navigation Satellite System (Glonass), a Beidou Navigation Satellite System (hereinafter referred to as “Beidou”) or Galileo, the European global satellite-based navigation system.
  • GPS Global Positioning System
  • Glonass Global Navigation Satellite System
  • Beidou Beidou Navigation Satellite System
  • Wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a standard standard232 (RS-232), a power line communication, a plain old telephone service (POTS), and the like.
  • the network 162 may comprise a telecommunications network, for example at least one of a computer network (eg, LAN or WAN), the Internet, or a telephone network.
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101. According to various embodiments of the present disclosure, all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106). According to this, when the electronic device 101 needs to perform a function or service automatically or by request, the electronic device 101 may instead execute or execute the function or service by itself, or at least some function associated therewith.
  • the other electronic device may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 101.
  • the electronic device 101 may provide the requested function or service by processing the received result as it is or additionally.
  • Cloud computing distributed computing, or client-server computing techniques can be used.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an AP) 210, a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, an input device 250, and a display. 260, an interface 270, an audio module 280, a camera module 291, a power management module 295, a battery 296, an indicator 297, and a motor 298.
  • the 210 may control a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor. 210 may include at least some of the components shown in FIG. 2 (eg, cellular module 221). The processor 210 other components: processing by loading the command or data received from at least one (e.g., non-volatile memory) in the volatile memory) and can store the result data into the nonvolatile memory.
  • a graphic processing unit GPU
  • an image signal processor may include at least some of the components shown in FIG. 2 (eg, cellular module 221).
  • the processor 210 other components: processing by loading the command or data received from at least one (e.g., non-volatile memory) in the volatile memory) and can store the result data into the nonvolatile memory.
  • the communication module 220 may include, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227, an NFC module 228, and an RF module 229. have.
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network.
  • the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, a SIM card) 224.
  • the cellular module 221 may perform at least some of the functions that the processor 210 may provide.
  • the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • At least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module.
  • Subscriber identification module 224 may include, for example, a card or embedded SIM that includes a subscriber identification module, and may include unique identification information (eg, integrated circuit card identifier (ICCID)) or subscriber information (eg, IMSI). (international mobile subscriber identity)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may include, for example, volatile memory (for example, DRAM, SRAM, or SDRAM), nonvolatile memory (for example, one time programmable ROM (OTPROM), PROM, EPROM, EEPROM, mask ROM, flash ROM).
  • the flash memory may include at least one of a flash memory, a hard drive, or a solid state drive (SSD)
  • the external memory 234 may be a flash drive, for example, a compact flash (CF) or a secure digital (SD). ), Micro-SD, Mini-SD, extreme digital (xD), multi-media card (MMC), memory stick, etc.
  • the external memory 234 may be functionally connected to the electronic device 201 through various interfaces. Or physically connected.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • sensor module 240 may include, for example, an e-nose sensor, an electromyography (EMG) sensor, an electrocardiogram (EEG) sensor, an electrocardiogram (ECG) sensor, Infrared (IR) sensors, iris sensors and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240 as part of or separately from the processor 210, while the processor 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may include, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device 258.
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate recognition sheet.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, hologram device 264, projector 266, and / or control circuitry to control them.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured with the touch panel 252 and one or more modules.
  • panel 262 may include a pressure sensor (or force sensor) capable of measuring the strength of the pressure on the user's touch.
  • the pressure sensor may be integrally implemented with the touch panel 252 or one or more sensors separate from the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the interface 270 may include, for example, an HDMI 272, a USB 274, an optical interface 276, or a D-subminiature 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may include, for example, a mobile high-definition link (MHL) interface, an SD card / multi-media card (MMC) interface, or an infrared data association (IrDA) compliant interface. have.
  • MHL mobile high-definition link
  • MMC Secure Digital Card
  • IrDA infrared data association
  • the audio module 280 may bidirectionally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 145 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images. According to one embodiment, the camera module 291 is one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger IC, or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable cell and / or a solar cell.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert electrical signals into mechanical vibrations, and may generate vibrations or haptic effects.
  • the electronic device 201 may be, for example, a mobile TV supporting device capable of processing media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFloTM. GPU).
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • GPU mediaFloTM.
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device eg, the electronic device 201) may include some components, omit additional components, or combine some of the components to form a single entity. It is possible to perform the same function of the previous corresponding components.
  • the program module 310 may include an operating system and / or various applications running on the operating system for controlling resources related to the electronic device (eg, the electronic device 101).
  • the application program 147 may be included.
  • the operating system may include, for example, Android TM, iOS TM, Windows TM, Symbian TM, Tizen TM, or Bada TM.
  • the program module 310 may include the kernel 320 (eg, the kernel 141), the middleware 330 (eg, the middleware 143), and the API 360 (eg, the API 145).
  • At least a portion of the program module 310 may be preloaded on the electronic device or may be an external electronic device (eg, an electronic device ( 102, 104, server 106, etc.).
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver.
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to use limited system resources inside the electronic device.
  • the middleware 330 may include a runtime library 335, an application manager 341, a window manager 342, a multimedia manager 343, a resource manager 344, a power manager 345, and a database manager ( 346, a package manager 347, a connectivity manager 348, a notification manager 349, a location manager 350, a graphic manager 351, or a security manager 352.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or arithmetic function processing.
  • the application manager 341 may manage, for example, the life cycle of the application 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may identify a format necessary for playing the media files, and may encode or decode the media file using a codec suitable for the format.
  • the resource manager 344 may manage space of source code or memory of the application 370.
  • the power manager 345 may manage, for example, the capacity, temperature, or power of the battery, and may determine or provide power information necessary for the operation of the electronic device using the corresponding information. According to an embodiment of the present disclosure, the power manager 345 may interwork with a basic input / output system (BIOS).
  • BIOS basic input / output system
  • the database manager 346 may create, retrieve, or change a database to be used, for example, in the application 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connectivity manager 348 may manage, for example, a wireless connection.
  • the notification manager 349 may provide the user with events such as, for example, an arrival message, an appointment, a proximity notification, and the like.
  • the location manager 350 may manage location information of the electronic device, for example.
  • the graphic manager 351 may manage, for example, graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide system security or user authentication, for example.
  • the middleware 330 may include a telephony manager for managing a voice or video call function of the electronic device or a middleware module capable of forming a combination of functions of the above-described components. .
  • the middleware 330 may provide a module specialized for each type of operating system.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 is, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (IM) 374, a browser 375, a camera 376, an alarm 377. , Contacts 378, voice dials 379, emails 380, calendars 381, media players 382, albums 383, watches 384, health care (e.g., measures exercise or blood sugar, etc.) Or an application for providing environmental information (eg, barometric pressure, humidity, or temperature information).
  • the application 370 may include an information exchange application capable of supporting information exchange between the electronic device and the external electronic device.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to the external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may deliver notification information generated by another application of the electronic device to the external electronic device, or receive notification information from the external electronic device and provide the notification information to the user.
  • the device management application may be, for example, the ability of an external electronic device to communicate with the electronic device (e.g. turn-on / turn-off of the external electronic device itself (or some component) or the brightness (or resolution) of the display). Control), or install, delete, or update an application running on the external electronic device.
  • the application 370 may include an application (eg, a health care application of a mobile medical device) designated according to an attribute of the external electronic device.
  • the application 370 may include an application received from an external electronic device.
  • At least a portion of the program module 310 may be implemented (eg, executed) in software, firmware, hardware (eg, the processor 210), or a combination of at least two or more thereof, and a module for performing one or more functions; It can include a program, routine, instruction set, or process.
  • module includes a unit composed of hardware, software, or firmware, and may be used interchangeably with terms such as logic, logic blocks, components, or circuits.
  • the module may be an integrally formed part or a minimum unit or part of performing one or more functions.
  • Modules may be implemented mechanically or electronically, for example, application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or known or future developments that perform certain operations. It can include a programmable logic device.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (eg, modules or functions thereof) or method (eg, operations) according to various embodiments may be stored on a computer-readable storage medium (eg, memory 130) in the form of a program module. It can be implemented as.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical recording media (e.g. CD-ROM, DVD, magnetic-optical media (e.g. floppy disks), internal memory, etc.
  • Instructions may include code generated by a compiler or code executable by an interpreter Modules or program modules according to various embodiments may include at least one or more of the above-described components. In some embodiments, operations performed by a module, a program module, or another component may be executed sequentially, in parallel, repeatedly, or heuristically, or at least, or may include other components. Some operations may be executed in a different order, omitted, or other operations may be added.
  • FIG. 4 is a diagram illustrating an electronic device and a message service server according to various embodiments of the present disclosure.
  • the electronic device may be implemented as a known portable electronic device such as a smart phone or a tablet PC.
  • a first electronic device 410 or an originating electronic device
  • a second electronic device 420 Or a receiving side electronic device.
  • the external electronic device mentioned in the description of the first electronic device 410 refers to the second electronic device 420
  • the external electronic device mentioned in the description of the second electronic device 420 is referred to. It may refer to one electronic device 410.
  • the first electronic device 410 may be the electronic device 101 of FIG. 1.
  • the second electronic device 420 may be the external electronic devices 102 and 104 of FIG. 1.
  • the service server device 430 may be the server 106 of FIG. 1.
  • the first electronic device 410 and the second electronic device 420 may be the same type or may be other types of electronic devices.
  • the message applications installed on the first electronic device 410 and the second electronic device 420 may also be the same kind or different kinds.
  • first electronic device 410 and the second electronic device 420 will be described later with reference to FIG. 6 (the first electronic device 600) and FIG. 10 (the second electronic device 1000). It will be described in more detail through.
  • the first electronic device 410 and the second electronic device 420 may transmit / receive message data using wired / wireless communication, and the message data transmitted from the first electronic device 410. May be transmitted to the service server device 430 and transmitted from the service server device 430 to the second electronic device 420.
  • the first electronic device 410 and the second electronic device 420 may transmit message data in a peer-to-peer manner by wire / wireless communication, in which case the service server device 430 ) May be omitted.
  • the service server device 430 may be a server device that provides a message service such as a short message service (SMS), an instant message, an e-mail, or a social network service (SNS).
  • SMS short message service
  • SNS social network service
  • the text message generated and transmitted by the first electronic device 410 is text data input by a user of the first electronic device 410 using a keyboard displayed on a touch screen, or a voice of a user of the first electronic device 410.
  • the data may be text data converted by the speech recognition engine.
  • the former will be referred to as first text data and the latter as second text data.
  • the first electronic device 410 receives the first text data and / or the voice data input through the voice input device, the second text data converted from the first text data and / or the voice data, and the first text data. And / or message data including attribute information related to the type of the input method of the second text data, may be generated and transmitted to the second electronic device 420 (or the service server device 430).
  • the second electronic device 420 receives the message data from the first electronic device 410 (or the service server device 430), checks attribute information included in the message data, and checks the text included in the message data.
  • the data is the first text data input from the touch screen of the external electronic device
  • the text data included in the message data is the second text data converted from the voice data
  • the second text data may be displayed for a second time different from the first time.
  • FIG. 5 illustrates a voice recognition engine of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 500 (for example, the first electronic device 410 of FIG. 4) obtains the second text data converted from the voice data of the user.
  • 5 shows three examples of a method of obtaining the second text data.
  • the electronic device 500 may include a speech recognition engine 510.
  • the speech recognition engine 510 may be a software module operated by a processor (for example, the application processor 210 of FIG. 2) or provided as separate hardware.
  • the electronic device 500 transmits voice data input from a user to an external voice recognition server 520 through a network (for example, the network 1652 of FIG. 1), and transmits the voice recognition server ( 520 may obtain the second text data from the voice data and provide it to the electronic device 500.
  • a network for example, the network 1652 of FIG. 1
  • voice data of a user is acquired on a hub device 530 connected to the electronic device 500 by wire or wirelessly
  • second text data is obtained from the voice data, and provided to the electronic device 500.
  • the hub device 530 acquires voice data of a user and provides it to the electronic device 500, and the voice recognition engine 510 of the electronic device 500 receives from the hub device 530.
  • Second text data may be obtained from one voice data.
  • the hub device 530 provides the acquired voice data and the address (eg, an IP address) of the electronic device 500 to the voice recognition server 520, and the voice recognition server 520. ) May obtain the second text data from the voice data and provide it to the electronic device 500.
  • the hub device 530 may also provide the acquired voice data to the electronic device 500.
  • the electronic device 500 may obtain second text data from the voice data using at least one method of the illustrated embodiments. For example, when the input voice data of the user is relatively short, the electronic device 500 obtains the second text data using the voice recognition engine 510 provided in the electronic device 500, and when the data amount of the voice data is large. As more processing is required, voice data may be transmitted to the voice recognition server 520 and second text data may be received from the voice recognition server 520.
  • the speech recognition engine 510, the speech recognition server 520, and the hub device 530 may obtain text data from the speech data through, for example, feature extraction, pattern matching, and language processing. The description will be omitted.
  • FIG. 6 is a block diagram of an electronic device 600 according to various embodiments.
  • the electronic device 600 includes a processor 610, a memory 620, a display 630, a voice input device 640, and a communication circuit 650. Even if some of them are omitted or substituted, it will not be difficult to implement various embodiments of the present invention. Also, the electronic device 600 may include at least some of the configurations and / or functions of the electronic device 101 of FIG. 1 and / or the electronic device 201 of FIG. 2. In FIG. 6, a description will be given of technical features when the electronic device 600 operates as the first electronic device 410 of FIG. 4, that is, an electronic device that generates and transmits message data.
  • the display 630 displays an image, and includes a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) OLED)) displays, micro electro mechanical systems (MEMS) displays, or electronic paper displays, but is not limited thereto.
  • Display 630 may include at least some of the configuration and / or functionality of display 160 of FIG. 1 and / or display 260 of FIG. 2.
  • the communication circuit 650 is configured to transmit and receive data with various external electronic devices (for example, the second electronic device 420 of FIG. 4), and the communication interface 170 of FIG. And / or include at least some of the configuration and / or functionality of the communication module 220 of FIG. 2.
  • the voice input device 640 may collect a voice of a user and convert the voice of the user into voice data, which is digital data.
  • the electronic device 600 may include a microphone (eg, the microphone 288 of FIG. 2) in a portion of a housing (not shown), or may be used by a user provided with a microphone provided in a wired / wireless earphone. You can pick up your voice.
  • the voice input device 640 may be provided outside the electronic device 600.
  • the voice input device 640 may obtain voice data through a hub device (eg, the hub device 530 of FIG. 5) connected to the electronic device 600 by wire or wirelessly.
  • the electronic device 600 receives the voice data obtained by the hub device through the communication circuit 650 or receives the second text data converted from the voice data by the hub device through the communication circuit 650. You may.
  • the processor 610 may be configured to perform operations or data processing related to control and / or communication of each component of the electronic device 600.
  • the processor 120 and / or of FIG. It may include at least some of the configuration and / or function of the application processor 210 of FIG.
  • the processor 610 may be electrically connected to internal components of the electronic device 600 such as the display 630, the communication circuit 650, and the memory 620.
  • the memory 620 is for temporarily or permanently storing unrestricted digital data, and may include at least one of the configurations of the memory 130 of FIG. 1 and / or the memory 230 of FIG. 2.
  • the memory 620 may include a volatile memory and a nonvolatile memory.
  • Nonvolatile memory includes one time programmable ROM (OTPROM), programmable ROM (PROM), erasable and programmable ROM (EPROM), electrically erasable and programmable ROM (EEPROM), mask ROM, flash ROM, flash memory (e.g., NAND flash or NOR). flash, etc.), a hard drive, or a solid state drive (SSD), where volatile memory is dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM). It may include at least one of.
  • OTPROM one time programmable ROM
  • PROM programmable ROM
  • EPROM erasable and programmable ROM
  • EEPROM electrically erasable and programm
  • the memory 620 may store various instructions that may be performed by the processor 610. Such instructions may include control instructions such as arithmetic and logical operations, data movement, input / output, and the like, which may be recognized by the processor 610, and may be defined on a framework stored in the memory 620. In addition, the memory 620 may store at least some of the program module 310 of FIG. 3.
  • the computing and data processing functions that the processor 610 may implement in the electronic device 600 will not be limited.
  • a function of generating and transmitting a text message to an external electronic device will be described. It will be described in detail. Operations of the processor 610 to be described later may be performed by loading instructions stored in the memory 620 described above.
  • the electronic device 600 may store and execute a message application for exchanging text data with an external electronic device.
  • the message application may include a short message service (SMS), an instant message, an e-mail, There is no limit to the kind of social network service (SNS).
  • SMS short message service
  • SNS social network service
  • the processor 610 may display a text input window and a keyboard on the display 630 and generate first text data according to a touch input on the keyboard.
  • the message application may switch from the keyboard input mode to the voice input mode according to a predetermined touch input.
  • the voice input device 640 may be activated to obtain voice data of the user.
  • the processor 610 may execute a message application when a voice registered by a user and / or registered by default is received, that is, through a voice calling function.
  • the processor 610 may convert the obtained voice data into second text data using at least one of the embodiments described above with reference to FIG. 5.
  • the processor 610 is related to the type of input method of the first text data and / or the second text data and the first text data and / or the second text data.
  • Message data including attribute information may be generated.
  • the type of the input method may be classified into a first attribute and a second attribute.
  • the first attribute may include first text data, that is, text in which text data is generated by a touch input on a keyboard.
  • the second attribute may be assigned to the data, and the second attribute may be assigned to the text data converted and generated by the speech recognition engine from the second text data, that is, the voice data.
  • the attribute information may further include display time information related to a time when the first text data and / or the second text data is displayed on the external electronic device.
  • the external electronic device may display the text data using the message application, in which case the external electronic device may refer to the attribute information.
  • Check the attributes of the received text data display the first text data for a first time when the text data is the first text data having the first attribute, and display the first text data for the first time;
  • the second electronic device may display the second text data for a second time, for example, when the first electronic device does not request to delete the first text data (for example, the first time is infinite).
  • the two-text data may be automatically deleted after a predetermined time (for example, the second time) has elapsed.
  • the processor 610 may extract feature information of the voice data.
  • the feature information of the voice data may include at least one of volume, tone, speed, and intonation of the voice data.
  • the processor 610 may generate the message data by including the extracted feature information in the attribute information.
  • the external electronic device may apply various visual and / or audio effects to the second text data by using the characteristic information of the voice data.
  • the processor 610 may transmit voice data together with the message data to the external electronic device. Accordingly, the external electronic device may reproduce the voice data at least partially or simultaneously with the display of the message data.
  • the processor 610 may generate emotion information of a talker from voice data and transmit attribute information including the emotion information to an external electronic device.
  • the electronic device 600 may install and execute various types of message applications (for example, a text message or an email application), and the processor may execute a specific application (for example, s- capable of text input and voice input). user input from a secretary application such as voice).
  • the processor may select an application to transmit the message data according to the type of data input from the user (eg, text and voice). For example, when voice data is input from a user, the processor 610 may transmit voice data and / or second text data converted from voice data to a message application (eg, a messenger application) capable of transmitting voice data. .
  • the processor 610 may transmit the text data to a message application (eg, a text / email application) capable of transmitting the text data.
  • the processor 610 may include a type of an application installed in the counterpart electronic device that receives the second text data or a communication state of the electronic device 600 (eg, data communication). Message data using the selected application.
  • the counterpart electronic device receiving the message data outputs text or voice data included in the message data using the corresponding application, and if the application is not specified on the header information, the corresponding message data is output.
  • the text or voice data may be output using any one application that can be processed.
  • FIG. 7 is an example of a message input screen of an electronic device according to various embodiments of the present disclosure.
  • FIG. 7 may be an example of a screen displayed on the display (display 610 of FIG. 6) of the electronic device 700 when the message application is executed.
  • the message application may include a text input window 710 and / or a voice input window 720.
  • a keyboard may be displayed at the bottom while the text input window 710 is displayed, and selected text may be displayed on the text input window 710 according to a touch input on the keyboard.
  • the voice input window 720 may be displayed and the voice input device 620 of FIG. 6 may be activated to generate voice data of the user according to input of a predetermined icon or other event on the message application.
  • the voice data may be converted into text data by a voice recognition engine (or a hub device or a voice recognition server) and displayed on the text input window 710.
  • a processor may generate attribute information related to the first text data and / or the second text data.
  • the attribute information may be generated as metadata defining attributes of the first text data and / or the second text data and included in the message data together with the first text data and / or the second text data.
  • the attribute information includes a message type 810, a message type 820, an input type, feature information 830, and time information 840. It includes, at least some of which may be omitted.
  • the message type 810 may include information about a type of data included in the message data, for example, a type of text data, voice data, and the like.
  • the type 820 of the input method may be divided into a first attribute or a second attribute according to a method of inputting text data.
  • the first attribute may include first touch data, that is, text input on a keyboard.
  • the second attribute may be assigned to text data generated by the voice recognition engine from the second text data, that is, the voice data.
  • the feature information 830 may include feature information 830 of voice data, which is a basis for generating second text data, when the text data is second text data having a second attribute. Therefore, the feature information 830 may be omitted when the text data is first text data having a first attribute.
  • the feature information 830 may include, for example, at least one of a volume, tone, speed, and intonation of voice data.
  • the time information 840 may include an input time and an end time of text data (or voice data).
  • the end time is information related to the time for displaying the corresponding text data in the external electronic device that has received the message data, and the external electronic device may display the text data only during the end time of the attribute information and then delete the text data.
  • 9A is an example of a message data transmission method according to various embodiments.
  • the first electronic device 910, the second electronic device 920, and the service server device 930 illustrated in FIG. 9A are respectively the first electronic device 410, the second electronic device 420, and the service server of FIG. 4.
  • Device 430. 9A illustrates the operation of each device in chronological order, but various embodiments of the present invention need not necessarily be performed in the order shown.
  • Operations 951 to 953 relate to an operation of generating and displaying first text data based on touch input.
  • the first electronic device 910 may execute a message application and receive a touch input for text on the keyboard of the message application (951). According to an embodiment, the first electronic device 910 may transmit message data including the first text data and attribute information of the first text data to the second electronic device 920 (952). In this case, the message data may be transmitted to the service server device 930 through a network and transmitted from the service server device 930 to the second electronic device 920.
  • the second electronic device 920 may extract first text data from the received message data and display the first text data on the display (953).
  • Operations 961 to 964 relate to generating and displaying second text data based on voice input.
  • operations 961 to 964 are shown to be performed after operations 951 to 953, but the present disclosure is not limited thereto, and operations 961 to 964 may be performed first or only operations 961 to 964 may be performed.
  • Operations 951 to 953 for transmitting and displaying first text data based on an input, and operations 961 to 964 for transmitting and displaying second text data based on a voice input are individual operations. Can be performed independently of each other.
  • the first electronic device 910 may generate voice data by collecting the voice of the user (961).
  • the first electronic device 910 may generate second text data by converting voice data into text (962).
  • An embodiment of generating second text data from voice data has been described with reference to FIG. 5.
  • the first electronic device 910 may transmit message data including second text data and attribute information of the second text data to the second electronic device 920 (963).
  • the message data may be transmitted to the service server device 930 through a network and transmitted from the service server device 930 to the second electronic device 920.
  • the attribute information of the second text data may include attribute information including at least one of volume, tone, speed, and intonation of the voice data.
  • the attribute information may further include display time information associated with a time when the second text data is displayed on the second electronic device 920.
  • the second electronic device 920 receives message data from the first electronic device 910 (or service server device 930), extracts second text data from the received message data, and displays the second text data. Can be displayed on (964).
  • Operations 971 to 980 may be operations performed after the second electronic device 920 displays the second text data 964.
  • the second electronic device 920 may display the second text data for a second time and delete the display of the second text data after the second time has elapsed.
  • An event that triggers deletion of the second text data may be generated by at least one of operations 971, 972, and 973. That is, the operations 971, 972, and 973 do not necessarily all occur, and even if only some of them occur, the second electronic device 920 may delete the second text data.
  • the second electronic device 920 displays the display of the second text data. Can be removed
  • the first electronic device 910 may transmit a deletion request to the second electronic device 920.
  • the service server device 930 may transmit a deletion request to the second electronic device 920.
  • the second electronic device 920 may provide information related to the display time of the first electronic device 910 and / or the service server device.
  • the first electronic device 910 and / or the service server device 930 receive the information related to the display time and request a deletion from the second electronic device 920 when the second time elapses. Can be transmitted.
  • the attribute information of the message data may include display time information related to a second time of displaying the second text data.
  • the second electronic device 920 may remove the display of the second text data by referring to the second time of the display time information after displaying the second text data.
  • the second electronic device 920 may remove the display of the second text data on the display and delete the second text data stored in the memory.
  • the second electronic device 920 may select whether to delete the second text data.
  • the menu can be displayed.
  • the user selects delete through the pop-up menu
  • the second text data may be deleted on the displayed screen, and the second text data may be deleted on the memory.
  • the display can be maintained as before.
  • the second electronic device 920 displaying the message data may delete the second text data generated based on the voice data for a predetermined time (for example, 5 seconds or 10 seconds) and then delete the second text data.
  • the user of the second electronic device 920 may automatically delete the text data after a predetermined time, regardless of whether or not the text data is confirmed.
  • the voice conversation has a property of disappearing immediately unless a voice is recorded, and according to the above operation, the voice conversation can be applied to a text message communication.
  • 9B illustrates a message data transmission method according to an embodiment.
  • the first electronic device 910 may collect voice of a user and generate voice data.
  • the first electronic device 910 may transmit the generated voice data to the voice recognition server provided with the voice recognition engine through the network (992).
  • the voice recognition server may convert the received voice recognition data into text to generate second text data (993), and transmit the generated second text data to the first electronic device 910 (994).
  • the first electronic device 910 may transmit message data including the second text data and attribute information of the second text data to the second electronic device 920 (995).
  • the message data may be transmitted to the service server device 930 through a network and transmitted from the service server device 930 to the second electronic device 920.
  • the second electronic device 920 receives message data from the first electronic device 910 (or service server device 930), extracts second text data from the received message data, and displays the second text data. Can be displayed on (996).
  • the second electronic device may delete the display of the second text data (998).
  • the second electronic device 920 may remove the display of the second text data on the display and delete the second text data stored in the memory.
  • FIG. 10 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • the electronic device 1000 includes a processor 1010, a memory 1020, a display 1030, a sound output device 1040, and a communication circuit 1050. Even if some of them are omitted or substituted, it will not be difficult to implement various embodiments of the present invention.
  • FIG. 10 technical features of the electronic device 1000 when the electronic device 1000 operates as a second electronic device (for example, 420 of FIG. 4), that is, an electronic device that receives and outputs message data will be described. The technical features described in 6 will be omitted below.
  • the communication circuit 1050 may receive message data from a first electronic device (eg, 410 of FIG. 4) (or a service server device).
  • the received message data may be stored in the memory 1020 and provided to a message application executed by the processor 1010.
  • the processor 1010 may acquire message data received through the communication circuit 1050 and check attribute information included in the message data.
  • the attribute information is generated as meta data defining attributes of the first text data and / or the second text data, and thus the first text data and / or the second text data. Together can be included in the message data.
  • the attribute information may include a message type, an input type, feature information, and time information, and at least some of them may be omitted.
  • the processor 1010 may check the type of text data included in the message data based on the identified attribute information. For example, the processor 1010 may check whether the text data included in the message data is first text data input from a touch screen of an external electronic device or second text data converted from voice data.
  • the attribute information may include information on the type of the input method of the text data, and may be defined as a first attribute when input from the touch screen, and may be defined as a second attribute when converted from voice data. .
  • the processor 1010 may control the display 1030 to display the first text data for the first time.
  • the first time may be infinite, and in this case, the first text data may be confirmed in the message application without being deleted unless a separate deletion event occurs.
  • the processor 1010 may control the display 1030 to display the second text data for a second time different from the first time.
  • the second time may be a shorter time (eg, 5 seconds or 10 seconds) sufficient to be recognized by the user as a time shorter than the first time.
  • the processor 1010 may display the second text data for a second time and then remove the display of the second text data.
  • the processor 1010 may remove the display of the second text data on the display 1030 and delete the second text data stored in the memory 1020.
  • the electronic device 1000 may delete the second text data.
  • a pop-up menu for selecting whether or not may be displayed on at least a portion of the display 1030.
  • the second text data may be deleted on the displayed screen, and the second text data may be deleted on the memory.
  • the display may be maintained as before.
  • the display of the second text data is performed. Can be removed.
  • the deletion request information may be transmitted from the external electronic device or the service server device 430 of FIG. 4.
  • the attribute information includes display time information related to a first time of displaying first text data and a second time of displaying second text data, and the processor 1010 may refer to display time information.
  • the processor 1010 may display the text data so that the user can distinguish the input method of the text data.
  • the processor 1010 may display a different visual effect than displaying the first text data.
  • the other visual effect may include at least one of displaying an additional icon, changing the font of the text, and changing the visual effect of the text input window. This will be described in more detail with reference to FIG. 12.
  • the attribute information of the message data includes feature information of the voice data that is the basis of the second text data
  • the feature information may include, for example, at least one of volume, tone, speed, and intonation of the voice data. It may include.
  • the processor 1010 may extract feature information from the attribute information, and when displaying the second text data on the display 1030, reflect the feature information to display a visual effect on the display of the second text data.
  • the visual effect may include determining a font of the second text data or displaying an icon corresponding to the feature information. This will be described in more detail with reference to FIG. 13.
  • the processor 1010 may generate sound data from the second text data according to a predetermined input detection. For example, when displaying the second text data, an icon for generating sound data may be displayed around the second text data. When generating sound data from the second text data, the processor 1010 may determine an auditory effect of the sound data based on the feature information.
  • the auditory effect may include at least one of volume, tone, speed, and intonation of the sound data.
  • 11 to 14 illustrate various embodiments of a message screen displayed on an electronic device.
  • FIG. 11 illustrates an example of automatically deleting second text data after displaying it in an electronic device, according to an exemplary embodiment.
  • the electronic device 1100 may display text data on the message application screen.
  • “Hi” represents first text data 1120 input through a keyboard, and "Where are you?" Illustrates second text data 1125 converted from voice data.
  • the electronic device 1100 may display the received first text data 1120 and the second text data 1125, respectively.
  • the electronic device 1100 maintains the display of the first text data 1120 and the second text.
  • the display of data 1125 may be removed.
  • a separate text 1145 for notifying that the deleted message may be displayed on the chat window in which the second text data was displayed.
  • the electronic device 1100 may process the receiver to be automatically deleted after a specific time (second time) passes regardless of whether or not the receiver is confirmed. This reflects the fact that voice conversations have the property of disappearing as soon as they are spoken unless they are recorded, and according to the above-described operation, the voice conversations can also be applied to text message communication.
  • FIG. 12 relates to an embodiment of displaying first text data and second text data separately from each other.
  • the processor may display a different visual effect than displaying the first text data when the display displays the second text data.
  • various embodiments of the present disclosure may allow a receiver to easily distinguish between first text data input through a keyboard and second text data converted from voice data through classification of visual effects.
  • an icon 1245 for distinguishing the second text data 1240 is used. ) Can be displayed in the vicinity.
  • a font for example, size, color, thickness, font, line spacing, caption, etc.
  • a dialog window in which the second text data is displayed is provided.
  • the color, size, shadow, outline, etc. can be changed so that one text data is distinguished from the dialog window in which the text data is displayed.
  • first text data and the second text data may be visually distinguished.
  • FIG. 13 relates to an embodiment in which a visual effect of second text data is determined by reflecting feature information of voice data.
  • the processor when the processor (for example, the processor 1010 of FIG. 10) extracts the feature information from the attribute information and displays the second text data, the processor (eg, the processor 1010 of FIG. 10) reflects the feature information and reflects the second text data. It can be made to have a visual effect on the display of.
  • the user when a user inputs a message by voice, the user may speak a voice aloud to express an emotion or a situation. In this case, the user may change his or her emotion by changing the visual effect of the corresponding message displayed on the screen of the counterpart electronic device. It can provide an effect that can deliver.
  • the processor may control to enlarge the font and display it on the display (for example, the processor 1030 of FIG. 10) when the volume of “I love you” is higher than that of the second text message. (1345).
  • the processor may refer to the feature information to make the text data shake or shake. Can be controlled.
  • a user's emotion eg, alertness, anger, frustration, misery, boredom, tiredness, calmness, satisfaction, joy, happiness, joy, surprise, etc.
  • the processor may control to display the icon corresponding to the emotion together with the second text data with reference to the feature information.
  • FIG. 14 relates to an embodiment of generating and outputting second text data as sound data.
  • the processor may generate sound data from the second text data according to a predetermined input detection. As illustrated in FIG. 14, the processor may control to display an icon 1450 indicating that playback is possible by sound in the vicinity of the second text data 1445, and according to a touch input on the icon 1450. The processor may generate sound data from the second text data 1445.
  • the processor may determine an auditory effect of the sound data based on the feature information when generating the sound data from the second text data.
  • the auditory effect may include at least one of volume, tone, speed, and intonation of the sound data.
  • the feature information included in the attribute information of the message data may include at least one of volume, tone, speed, and intonation of the voice data.
  • the processor may extract feature information from the attribute information and generate sound data based on the feature information. For example, the volume of the sound data may be reflected to reflect the volume of the sound data, or the intonation of the sound data may be determined by reflecting the intonation of the voice data.
  • the message data transmitted from the first electronic device includes voice data
  • the processor may include a sound output device. It is possible to output the voice data received from the.
  • an icon for outputting the received voice data may be displayed, and the icon may be displayed separately from the icon 1450 of FIG. 14 for generating sound data from the second text data.
  • an electronic device may include a display including a touch screen; A voice input device for collecting voice and generating voice data; Communication circuits; A processor electrically connected to the display, the voice input device and the communication circuit; And a memory electrically connected to the processor, wherein the memory, when executed, receives the first text data input through the touch screen and / or the voice data input through the voice input device. And message data including second text data converted from the first text data and / or the voice data and attribute information related to a type of an input method of the first text data and / or the second text data. And instructions for causing the communication circuit to transmit the message data to an external electronic device.
  • the attribute information may be classified into a first attribute or a second attribute according to a type of an input method of text data included in the message data.
  • the processor may include attribute information including display time information related to a time when the first text data and / or the second text data is displayed on the external electronic device according to a type of the input method. Can be generated.
  • the processor may acquire feature information of voice data including at least one of a volume, tone, speed, and intonation of the voice data, and generate the attribute information including the extracted feature information. Can be.
  • the processor may transmit the voice data to an external voice recognition server through the communication circuit, and acquire the second text data and the feature information received from the voice recognition server.
  • an electronic device may include a display; Communication circuits; A processor electrically connected to the display and the communication circuitry; And a memory electrically connected to the processor, wherein, when executed, the processor acquires message data received through the communication circuit, confirms attribute information included in the message data, and As a result of the check, when the text data included in the message data is the first text data input from the touch screen of the external electronic device, the display causes the first text data to be displayed for the first time and included in the message data. If the text data is the second text data converted from the voice data, the display may include an instruction to display the second text data for a second time different from the first time.
  • the processor may remove the display of the second text data.
  • the processor when the communication circuit receives the deletion request information including the deletion request of the second text data while the second text data is displayed, the processor may display the display of the second text data. Can be removed.
  • the attribute information may include display time information related to a first time of displaying the first text data and a second time of displaying the second text data.
  • the processor may display a different visual effect than displaying the first text data.
  • the other visual effect may include at least one of displaying an additional icon, changing a font of text, and changing a visual effect of a text input window.
  • the attribute information of the message data may include feature information including at least one of a volume, a tone, a speed, and an intonation of the voice data that is the basis of the second text data.
  • feature information including at least one of a volume, a tone, a speed, and an intonation of the voice data that is the basis of the second text data.
  • the processor may reflect the feature information to determine a font of the second text data and / or to display an icon corresponding to the feature information.
  • the processor may generate sound data from the second text data according to a predetermined input detection, and determine the auditory effect of the sound data based on the feature information.
  • the auditory effect may include at least one of volume, tone, speed, and intonation of the sound data.
  • 15 is a flowchart illustrating a message generating method of an originating electronic device according to various embodiments of the present disclosure.
  • the illustrated method may be performed by the electronic device 600 (or the first electronic device) described above with reference to FIG. 6, and the description thereof will be omitted below.
  • the electronic device may receive an input of voice data from a voice input device (eg, 640 of FIG. 6).
  • a voice input device eg, 640 of FIG. 6
  • the processor of the electronic device may obtain second text data from voice data.
  • the processor of the electronic device eg, 610 of FIG. 6
  • the processor of the electronic device may obtain second text data from voice data.
  • Various embodiments of obtaining the second text data from the voice data have been described above with reference to FIG. 5.
  • the processor may generate message data including attribute information.
  • the attribute information may include at least some of a message type, an input method type, feature information, and time information.
  • the attribute information may be generated as meta data defining attributes of the second text data and included in the message data together with the second text data.
  • the processor may transmit the message data to an external electronic device (eg, the second electronic device 420 or the server device 430 of FIG. 4) through a communication circuit.
  • an external electronic device eg, the second electronic device 420 or the server device 430 of FIG. 4
  • 16 is a flowchart illustrating a message output method of a receiving side electronic device according to various embodiments of the present disclosure.
  • the illustrated method may be performed by the electronic device 1000 (or the second electronic device) described above with reference to FIG. 10, and the description thereof will be omitted below.
  • the electronic device may receive message data from an external electronic device (eg, the first electronic device 410 or the server device 430 of FIG. 4) through a communication circuit (eg, 1030 of FIG. 10). Can be.
  • an external electronic device eg, the first electronic device 410 or the server device 430 of FIG. 4
  • a communication circuit eg, 1030 of FIG. 10
  • the processor of the electronic device may check attribute information included in the received message data.
  • the processor may determine the text data included in the message data based on the identified attribute information. You can check the type. For example, the processor may determine whether the text data included in the message data is first text data input from a touch screen of an external electronic device or second text data converted from voice data.
  • the attribute information may include information on the type of the input method of the text data, and may be defined as a first attribute when input from the touch screen, and may be defined as a second attribute when converted from voice data. .
  • the processor may determine whether the text data is first text data, and in operation 1640, the processor may display the first text data for a first time.
  • the first time may be infinite.
  • the first text data is not deleted unless a separate deletion event occurs, and the first text data is stored on the message application or the memory (eg, the memory 1020 of FIG. 10). Can be maintained at.
  • the processor may determine whether the text data is second text data, and in operation 1660, display the second text data for a second time, and then, in operation 1670, the display may delete the display of the second text data.
  • the second time may be a shorter time (eg, 5 seconds or 10 seconds) sufficient to be recognized by the user as a time shorter than the first time.
  • the processor if the processor receives the deletion request information including the deletion request of the second text data from the external electronic device through the communication circuit while the second text data is displayed, the processor removes the display of the second text data. can do.
  • the attribute information includes display time information related to a first time of displaying the first text data and a second time of displaying the second text data, and the processor may refer to the display time information. It is possible to confirm whether the second time elapses after the display of the two-text data, and to delete the display of the second text data after the elapse of the second time.
  • the processor may delete the second text data when the number of times of displaying the second text data is more than a predetermined number (for example, three times).
  • a predetermined number for example, three times.
  • the attribute information included in the message data may include a viewable number.
  • a message data output method of an electronic device may include receiving message data generated by an external electronic device; Confirming attribute information included in the message data; If the text data included in the message data is first text data input from a touch screen of the external electronic device, displaying the first text data for a first time; And when the text data included in the message data is second text data converted from voice data, displaying the second text data for a second time different from the first time.
  • the method may further include removing the display of the second text data after displaying the second text data for the second time.
  • the displaying of the second text data may have a different visual effect than displaying the first text data.
  • the attribute information of the message data may include feature information including at least one of a volume, tone, speed, and intonation of the voice data that is the basis of the second text data, and the second text data.
  • the displaying of the information may include extracting the feature information from the attribute information; And reflecting the feature information to display a visual effect on the display of the second text data.
  • the method may further include generating and outputting sound data from the second text data according to a predetermined input detection, wherein generating and outputting the sound data is based on the feature information. And determining the auditory effect of the sound data.

Landscapes

  • Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Business, Economics & Management (AREA)
  • Business, Economics & Management (AREA)
  • Child & Adolescent Psychology (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychiatry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 다양한 실시예에 따른 전자 장치는, 디스플레이; 통신 회로; 상기 디스플레이 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및 상기 프로세서와 전기적으로 연결되는 메모리를 포함하며, 상기 메모리는, 실행 시에, 상기 프로세서가 상기 통신 회로를 통해 수신되는 메시지 데이터를 획득하고, 상기 메시지 데이터에 포함된 속성 정보를 확인하고, 상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 디스플레이가 상기 제1텍스트 데이터를 제1시간 동안 표시하도록 하고, 상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 디스플레이가 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하도록 하는 인스트럭션을 포함할 수 있다.

Description

전자 장치 및 전자 장치의 메시지 데이터 출력 방법
본 실시예는 전자 장치에 관한 것이며, 예를 들어, 전자 장치가 텍스트 기반의 메시지 데이터를 출력하는 방법에 관한 것이다.
이동통신 기술 및 프로세서 기술의 발달에 따라 휴대용 단말 장치(이하, 전자 장치)는 종래의 통화 기능에서 나아가 다양한 어플리케이션들을 구현할 수 있게 되었다. 그 중 텍스트 기반의 메시지 어플리케이션들은 이동통신 기반의 전자 장치에서 가장 넓게 활용되는 기술이다.
음성 인식 기술은 사용자의 음성을 인식하여 텍스트로 변환 하는 기술이다. 이러한 음성 인식 기술의 발전과 전자 장치를 보다 편하고 쉽게 사용하고 싶은 요구가 커짐에 따라, 전자 장치를 음성으로 제어하고 명령을 내리는 시나리오가 증가하고 있다.
음성 인식 기술이 활용되는 시나리오 중 하나로써, 메시지 어플리케이션을 통해 상대방에게 전송할 텍스트 메시지 입력을 음성 인식 기반으로 수행하는 STT(speech to text)를 예로 들 수 있다. 즉, 사용자는 운전 중, 작업 중과 같이 직접 손으로 타이핑(typing)이 힘든 경우 보다 간편한 음성 인식 기능을 통해 텍스트 메시지를 상대방에게 전송할 수 있다.
메시지 어플리케이션의 상대방인 수신 측 전자 장치의 사용자는 발신 측 전자 장치에서 텍스트 메시지를 키보드를 이용한 방식인지 또는 음성 인식을 이용한 방식인지 구분 없이, 동일한 형태의 텍스트 메시지를 보게 된다.
음성으로 메시지를 입력하여 보내는 경우, 주변의 노이즈, 음성 인식 엔진 성능의 한계 등의 요인으로 실제 사용자가 발화한 내용과 다른 내용으로 인식이 될 수 있다. 또한, 디스플레이를 구비하지 않는 전자 장치 상에서 음성으로 입력하는 경우, 전자 장치가 인식한 내용을 사용자가 확인할 수 없이 바로 상대방 전자 장치로 텍스트 메시지를 전송하게 되는 문제가 있다. 이러한 문제점들은 사용자가 텍스트 메시지 입력 시 음성 인식 기술을 적극적으로 사용하지 않게 되는 이유가 될 수 있다.
본 발명의 다양한 실시예들은 전자 장치에서 메시지를 디스플레이에 출력함에 있어, 발신 전자 장치에서 메시지를 입력한 방법에 기반하여 출력할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 터치 스크린을 포함하는 디스플레이; 음성을 수집하여, 음성 데이터를 생성하는 음성 입력 장치; 통신 회로; 상기 디스플레이, 상기 음성 입력 장치 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및 상기 프로세서와 전기적으로 연결되는 메모리를 포함하며, 상기 메모리는, 실행 시에, 상기 프로세서가 상기 터치 스크린을 통해 입력된 제1텍스트 데이터 및/또는 상기 음성 입력 장치를 통해 입력된 음성 데이터를 수신하고, 상기 제1텍스트 데이터 및/또는 상기 음성 데이터로부터 변환된 제2텍스트 데이터와, 상기 제1텍스트 데이터 및/또는 상기 제2텍스트 데이터의 입력 방법의 종류와 관련된 속성 정보를 포함하는 메시지 데이터를 생성하고, 상기 통신 회로가 상기 메시지 데이터를 외부 전자 장치로 전송하도록 하는 인스트럭션을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 디스플레이; 통신 회로; 상기 디스플레이 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및 상기 프로세서와 전기적으로 연결되는 메모리를 포함하며, 상기 메모리는, 실행 시에, 상기 프로세서가 상기 통신 회로를 통해 수신되는 메시지 데이터를 획득하고, 상기 메시지 데이터에 포함된 속성 정보를 확인하고, 상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 디스플레이가 상기 제1텍스트 데이터를 제1시간 동안 표시하도록 하고, 상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 디스플레이가 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하도록 하는 인스트럭션을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 메시지 데이터 출력 방법은, 외부 전자 장치에 의해 생성되는 메시지 데이터를 수신하는 동작; 상기 메시지 데이터에 포함된 속성 정보를 확인하는 동작; 상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 상기 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 제1텍스트 데이터를 제1시간 동안 표시하는 동작; 및 상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따르면, 발신 측 전자 장치에서는 입력 방법의 종류에 따라 메시지의 타입을 구분하여 전송하고, 수신 측 전자 장치에서는 입력 방법에 입력 방법의 종류에 기반하여 메시지의 출력을 차별화 함으로써, 음성 인식 기반의 텍스트 메시지의 사용을 활성화 할 수 있는 효과가 있다.
도 1은 다양한 실시예에서의 네트워크 환경 내의 전자 장치를 도시한 것이다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3 은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 다양한 실시예에 따른 전자 장치 및 서비스 서버 장치를 간략히 도시한 것이다.
도 5는 다양한 실시예에 따른 전자 장치의 음성 인식 엔진에 대해 도시한 것이다.
도 6은 다양한 실시예에 따른 전자 장치의 블록도이다.
도 7은 다양한 실시예에 따른 전자 장치의 메시지 입력 화면의 일 예이다.
도 8은 다양한 실시예에 따른 속성 정보의 일 예이다.
도 9는 다양한 실시예에 따른 메시지 데이터 전송 방법의 일 예이다.
도 10은 다양한 실시예에 따른 전자 장치의 블록도이다.
도 11 내지 14는 다양한 실시예에 따른 전자 장치 상에 표시되는 메시지 화면의 일 예들이다.
도 15는 다양한 실시예에 따른 발신 측 전자 장치의 메시지 생성 방법의 흐름도이다.
도 16은 다양한 실시예에 따른 수신 측 전자 장치의 메시지 출력 방법의 흐름도이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 기재된다. 실시예 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서, "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, 하드웨어적 또는 소프트웨어적으로 "~에 적합한," "~하는 능력을 가지는," "~하도록 변경된," "~하도록 만들어진," "~를 할 수 있는," 또는 "~하도록 설계된"과 상호 호환적으로(interchangeably) 사용될 수 있다. 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰, 태블릿 PC, 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑 PC, 랩탑 PC, 넷북 컴퓨터, 워크스테이션, 서버, PDA, PMP(portable multimedia player), MP3 플레이어, 의료기기, 카메라, 또는 웨어러블 장치 중 적어도 하나를 포함할 수 있다. 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드 또는 문신), 또는 생체 이식형 회로 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치는, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스, 홈 오토매이션 컨트롤 패널, 보안 컨트롤 패널, 미디어 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 드론(drone), 금융 기관의 ATM, 상점의 POS(point of sales), 또는 사물 인터넷 장치 (예: 전구, 각종 센서, 스프링클러 장치, 화재 경보기, 온도조절기, 가로등, 토스터, 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에 따르면, 전자 장치는 가구, 건물/구조물 또는 자동차의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터, 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 플렉서블하거나, 또는 전술한 다양한 장치들 중 둘 이상의 조합일 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다. 버스(110)는 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 또는 데이터)을 전달하는 회로를 포함할 수 있다. 프로세서(120)는, 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(API)(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템으로 지칭될 수 있다. 커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다. 또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여하고, 상기 하나 이상의 작업 요청들을 처리할 수 있다. API(145)는 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다. 입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달하거나, 또는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(LCD), 발광 다이오드(LED) 디스플레이, 유기 발광 다이오드(OLED) 디스플레이, 또는 마이크로 전자기계 시스템 (MEMS) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 및/또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다. 통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, LTE, LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용하는 셀룰러 통신을 포함할 수 있다. 한 실시예에 따르면, 무선 통신은, 예를 들면, 도1의 element 164로 예시된 바와 같이, WiFi(wireless fidelity), LiFi(light fidelity), 블루투스, 블루투스 저전력(BLE), 지그비(Zigbee), NFC(near field communication), 자력 시큐어 트랜스미션(Magnetic Secure Transmission), 라디오 프리퀀시(RF), 또는 보디 에어리어 네트워크(BAN) 중 적어도 하나를 포함할 수 있다. 한실시예에 따르면, 무선 통신은 GNSS를 포함할 수 있다. GNSS는, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 “Beidou”) 또는 Galileo, the European global satellite-based navigation system일 수 있다. 이하, 본 문서에서는, “GPS”는 “GNSS”와 상호 호환적으로 사용될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 전력선 통신, 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 텔레커뮤니케이션 네트워크, 예를 들면, 컴퓨터 네트워크(예: LAN 또는 WAN), 인터넷, 또는 텔레폰 네트워크 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP)(210), 통신 모듈(220), (가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다. 프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드)하여 처리하고, 결과 데이터를 비휘발성 메모리에 저장할 수 있다.
통신 모듈(220)(예: 통신 인터페이스(170))와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227), NFC 모듈(228) 및 RF 모듈(229)를 포함할 수 있다. 셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다. RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버, PAM(power amp module), 주파수 필터, LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다. 가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 또는 임베디드 SIM을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM, SRAM, 또는 SDRAM 등), 비휘발성 메모리(예: OTPROM(one time programmable ROM), PROM, EPROM, EEPROM, mask ROM, flash ROM, 플래시 메모리, 하드 드라이브, 또는 솔리드 스테이트 드라이브 (SSD) 중 적어도 하나를 포함할 수 있다. 외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱 등을 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(240)은, 예를 들면, 후각(e-nose) 센서, 일렉트로마이오그라피(EMG) 센서, 일렉트로엔씨팔로그램(EEG) 센서, 일렉트로카디오그램(ECG) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(252), (디지털) 펜 센서(254), 키(256), 또는 초음파 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다. (디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 프로젝터(266), 및/또는 이들을 제어하기 위한 제어 회로를 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게, 투명하게, 또는 착용할 수 있게 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나 이상의 모듈로 구성될 수 있다. 한 실시예에 따르면, 패널(262)은 사용자의 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서(또는 포스 센서)를 포함할 수 있다. 상기 압력 센서는 터치 패널(252)과 일체형으로 구현되거나, 또는 터치 패널(252)과는 별도의 하나 이상의 센서로 구현될 수 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 인터페이스(270)는, 예를 들면, HDMI(272), USB(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다. 카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, 이미지 시그널 프로세서(ISP), 또는 플래시(예: LED 또는 xenon lamp 등)를 포함할 수 있다. 전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC, 또는 배터리 또는 연료 게이지를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지 및/또는 태양 전지를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동, 또는 햅틱 효과 등을 발생시킬 수 있다. 전자 장치(201)는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있는 모바일 TV 지원 장치(예: GPU)를 포함할 수 있다. 본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치(예: 전자 장치(201))는 일부 구성요소가 생략되거나, 추가적인 구성요소를 더 포함하거나, 또는, 구성요소들 중 일부가 결합되어 하나의 개체로 구성되되, 결합 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, AndroidTM, iOSTM, WindowsTM, SymbianTM, TizenTM, 또는 BadaTM를 포함할 수 있다. 도 3을 참조하면, 프로그램 모듈(310)은 커널(320)(예: 커널(141)), 미들웨어(330)(예: 미들웨어(143)), (API(360)(예: API(145)), 및/또는 어플리케이션(370)(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드 가능하다.
커널(320)은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수를 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부를 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다. 미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330) 는 런타임 라이브러리(335), 어플리케이션 매니저(341), 윈도우 매니저(342), 멀티미디어 매니저(343), 리소스 매니저(344), 파워 매니저(345), 데이터베이스 매니저(346), 패키지 매니저(347), 커넥티비티 매니저(348), 노티피케이션 매니저(349), 로케이션 매니저(350), 그래픽 매니저(351), 또는 시큐리티 매니저(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수 처리를 수행할 수 있다. 어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370)의 생명 주기를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용되는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱을 이용하여 미디어 파일의 인코딩 또는 디코딩을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370)의 소스 코드 또는 메모리의 공간을 관리할 수 있다. 파워 매니저(345)는, 예를 들면, 배터리의 용량, 온도, 또는 전원을 관리하고, 이 중 해당 정보를 이용하여 전자 장치의 동작에 필요한 전력 정보를 결정 또는 제공할 수 있다. 한 실시예에 따르면, 파워 매니저(345)는 바이오스(BIOS: basic input/output system)와 연동할 수 있다. 데이터베이스 매니저(346)는, 예를 들면, 어플리케이션(370)에서 사용될 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 갱신을 관리할 수 있다.
커넥티비티 매니저(348)는, 예를 들면, 무선 연결을 관리할 수 있다. 노티피케이션 매니저(349)는, 예를 들면, 도착 메시지, 약속, 근접성 알림 등의 이벤트를 사용자에게 제공할 수 있다. 로케이션 매니저(350)는, 예를 들면, 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는, 예를 들면, 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는, 예를 들면, 시스템 보안 또는 사용자 인증을 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화(telephony) 매니저 또는 전술된 구성요소들의 기능들의 조합을 형성할 수 있는 하는 미들웨어 모듈을 포함할 수 있다. 한 실시예에 따르면, 미들웨어(330)는 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다. API(360)는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 와치(384), 헬스 케어(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보(예: 기압, 습도, 또는 온도 정보) 제공 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 전자 장치와 외부 전자 장치 사이의 정보 교환을 지원할 수 있는 정보 교환 어플리케이션을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 노티피케이션 릴레이 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리 어플리케이션을 포함할 수 있다. 예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션에서 발생된 알림 정보를 외부 전자 장치로 전달하거나, 또는 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다. 장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 또는 외부 전자 장치에서 동작하는 어플리케이션을 설치, 삭제, 또는 갱신할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치로부터 수신된 어플리케이션을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어(예: 프로세서(210)), 또는 이들 중 적어도 둘 이상의 조합으로 구현(예: 실행)될 수 있으며, 하나 이상의 기능을 수행하기 위한 모듈, 프로그램, 루틴, 명령어 세트 또는 프로세스를 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. "모듈"은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있으며, 예를 들면, 어떤 동작들을 수행하는, 알려졌거나 앞으로 개발될, ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays), 또는 프로그램 가능 논리 장치를 포함할 수 있다. 다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는 프로그램 모듈의 형태로 컴퓨터로 판독 가능한 저장 매체(예:메모리(130))에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(예: 자기테이프), 광기록 매체(예: CD-ROM, DVD, 자기-광 매체 (예: 플롭티컬 디스크), 내장 메모리 등을 포함할 수 있다. 명령어는 컴파일러에 의해 만들어지는 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른, 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
도 4는 다양한 실시예에 따른 전자 장치 및 메시지 서비스 서버를 간략히 도시한 것이다.
다양한 실시예에 따르면, 전자 장치는 스마트 폰, 태블릿 PC 등의 공지의 휴대용 전자 장치로 구현될 수 있다. 본 명세서 상에서 메시지 데이터를 생성 및 전송하는 전자 장치는 제1전자 장치(410)(또는 발신 측 전자 장치)로 칭하기로 하며, 메시지 데이터를 수신 및 표시하는 전자 장치는 제2전자 장치(420)(또는 수신 측 전자 장치)로 칭하기로 한다. 또한, 이하에서는 제1전자 장치(410)에 대한 설명 중에 언급되는 외부 전자 장치는 제2전자 장치(420)를 지칭하며, 제2전자 장치(420)에 대한 설명 중에 언급되는 외부 전자 장치는 제1전자 장치(410)를 지칭할 수 있다.
제1전자 장치(410)는 도 1의 전자 장치(101)일 수 있다. 제2전자 장치(420)는 도 1의 외부 전자 장치(102, 104)일 수 있다. 서비스 서버 장치(430)는 도 1의 서버(106)일 수 있다. 제1전자 장치(410) 및 제2전자 장치(420)는 동일한 종류일 수 있으며, 다른 종류의 전자 장치일 수도 있다. 또한, 제1전자 장치(410) 및 제2전자 장치(420) 상에 설치된 메시지 어플리케이션 역시 동일한 종류이거나, 다른 종류일 수도 있다.
제1전자 장치(410) 및 제2전자 장치(420)의 세부적인 하드웨어/소프트웨어 적 구성에 대해서는 이 후 도 6(제1전자 장치(600)) 및 도 10(제2전자 장치(1000))를 통해 보다 상세히 설명하기로 한다.
다양한 실시예에 따르면, 제1전자 장치(410) 및 제2전자 장치(420)는 유/무선 통신을 이용해 메시지 데이터를 발신/수신할 수 있으며, 제1전자 장치(410)에서 전송 된 메시지 데이터는 서비스 서버 장치(430)로 전송 되고 서비스 서버 장치(430)로부터 제2전자 장치(420)에 전송될 수 있다. 다른 실시예에 따르면, 제1전자 장치(410) 및 제2전자 장치(420)는 유/무선 통신에 의해 P2P(peer to peer) 방식으로 메시지 데이터를 전송할 수 있으며, 이 경우 서비스 서버 장치(430)는 생략될 수 있다.
서비스 서버 장치(430)는 SMS(short message service), 인스턴트 메시지(instant message), 이메일(E-mail), SNS(social network service) 등의 메시지 서비스를 제공하는 서버 장치일 수 있다.
제1전자 장치(410)에서 생성 및 전송 되는 텍스트 메시지는 제1전자 장치(410)의 사용자가 터치 스크린 상에 표시된 키보드를 이용해 입력한 텍스트 데이터 이거나, 제1전자 장치(410)의 사용자의 음성 데이터를 음성 인식 엔진에 의해 변환한 텍스트 데이터 일 수 있다. 이하에서는, 전자를 제1텍스트 데이터, 후자를 제2텍스트 데이터로 칭하기로 한다.
제1전자 장치(410)는 제1텍스트 데이터 및/또는 음성 입력 장치를 통해 입력된 음성 데이터를 수신하고, 제1텍스트 데이터 및/또는 음성 데이터로부터 변환된 제2텍스트 데이터와, 제1텍스트 데이터 및/또는 제2텍스트 데이터의 입력 방법의 종류와 관련된 속성 정보를 포함하는 메시지 데이터를 생성하여, 제2전자 장치(420)(또는 서비스 서버 장치(430))에 전송할 수 있다.
제2전자 장치(420)는 제1전자 장치(410)(또는 서비스 서버 장치(430))로부터 메시지 데이터를 수신하고, 메시지 데이터에 포함된 속성 정보를 확인하고, 확인 결과 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 제1텍스트 데이터를 제1시간 동안 표시하고, 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시할 수 있다.
도 5는 다양한 실시예에 따른 전자 장치의 음성 인식 엔진에 대해 도시한 것이다.
전자 장치(500)(예를 들어, 도 4의 제1전자 장치(410))가 사용자의 음성 데이터로부터 변환된 제2텍스트 데이터를 획득하는 방법에는 제한이 없다. 도 5는 상기 제2텍스트 데이터를 획득하는 방법의 3가지 예를 도시하고 있다.
일 실시예에 따르면, 전자 장치(500)는 음성 인식 엔진(510)을 포함할 수 있다. 음성 인식 엔진(510)은 소프트웨어 모듈로써 프로세서(예: 도 2의 어플리케이션 프로세서(210))에 의해 동작되거나, 별도의 하드웨어로 마련될 수 있다.
다른 일 실시예에 따르면, 전자 장치(500)는 사용자로부터 입력된 음성 데이터를 네트워크(예: 도 1의 네트워크(1652))를 통해 외부의 음성 인식 서버(520)로 전송하고, 음성 인식 서버(520)는 음성 데이터로부터 제2텍스트 데이터를 획득하여 전자 장치(500)에 제공할 수 있다.
다른 일 실시예에 따르면, 전자 장치(500)와 유선 또는 무선으로 연결된 허브 장치(530) 상에서 사용자의 음성 데이터를 획득하고, 음성 데이터로부터 제2텍스트 데이터를 획득하여 전자 장치(500)에 제공할 수 있다. 또 다른 일 실시예에 따르면, 허브 장치(530)는 사용자의 음성 데이터를 획득하여 전자 장치(500)로 제공하고, 전자 장치(500)의 음성 인식 엔진(510)은 허브 장치(530)로부터 수신한 음성 데이터로부터 제2텍스트 데이터를 획득할 수 있다. 또 다른 일 실시예에 따르면, 허브 장치(530)는 획득한 사용자의 음성 데이터 및 전자 장치(500)의 주소(예: IP address)를 음성 인식 서버(520)로 제공하고, 음성 인식 서버(520)는 음성 데이터로부터 제2텍스트 데이터를 획득하여 전자 장치(500)에 제공할 수 있다. 상기 실시예들에 있어서, 허브 장치(530)는 획득한 사용자의 음성 데이터도 전자 장치(500)에 제공할 수 있다.
전자 장치(500)는 예시된 실시예 중 적어도 하나의 방법을 사용하여 음성 데이터로부터 제2텍스트 데이터를 획득할 수 있다. 예를 들어, 전자 장치(500)는 입력된 사용자의 음성 데이터가 비교적 짧은 경우 전자 장치(500) 내에 마련된 음성 인식 엔진(510)을 이용해 제2텍스트 데이터를 획득하고, 음성 데이터의 데이터량이 큰 경우 보다 많은 처리를 필요로 하는 바 음성 인식 서버(520)에 음성 데이터를 전송하고 음성 인식 서버(520)로부터 제2텍스트 데이터를 수신할 수 있다.
음성 인식 엔진(510), 음성 인식 서버(520) 및 허브 장치(530)는 음성 데이터로부터 예를 들어, 특징 추출, 패턴 매칭, 언어 처리의 과정을 거쳐 텍스트 데이터를 획득 할 수 있으며, 이에 대해서는 자세한 설명은 생략하기로 한다.
도 6은 다양한 실시예에 따른 전자 장치(600)의 블록도이다.
도시된 바와 같이, 다양한 실시예에 따른 전자 장치(600)는 프로세서(610), 메모리(620), 디스플레이(630), 음성 입력 장치(640) 및 통신 회로(650)를 포함하며, 도시된 구성 중 일부가 생략 또는 치환되더라도 본 발명의 다양한 실시예를 구현함에는 지장이 없을 것이다. 또한, 전자 장치(600)는 도 1의 전자 장치(101) 및/또는 도 2의 전자 장치(201)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다. 도 6에서는 전자 장치(600)가 제1전자 장치(도 4의 410), 즉 메시지 데이터를 생성 및 전송하는 전자 장치로 동작하는 경우의 기술적 특징에 대해 설명하기로 한다.
다양한 실시예에 따르면, 디스플레이(630)는 영상을 표시하며, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(micro electro mechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이 중 어느 하나로 구현될 수 있으나, 이에 한정되지는 않는다. 디스플레이(630)는 도 1의 디스플레이(160) 및/또는 도 2의 디스플레이(260)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 통신 회로(650)는 다양한 외부 전자 장치(예를 들어, 도 4의 제2전자 장치(420))와 데이터를 송수신하기 위한 구성으로, 도 1의 통신 인터페이스(170) 및/또는 도 2의 통신 모듈(220)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다.
다양한 실시예에 따르면, 음성 입력 장치(640)는 사용자의 음성을 집음하고, 이를 디지털 데이터인 음성 데이터로 변환할 수 있다. 일 실시예에 따르면, 전자 장치(600)는 하우징(미도시)의 일부에 마이크(예를 들어, 도 2의 마이크(288))를 구비하거나, 유/무선으로 연결된 이어폰에 구비된 마이크로부터 사용자의 음성을 집음할 수 있다. 다른 일 실시예에 따르면, 음성 입력 장치(640)는 전자 장치(600)의 외부에 마련될 수 있다. 예를 들어, 음성 입력 장치(640)는 전자 장치(600)와 유선 또는 무선으로 연결된 허브 장치(예를 들어, 도 5의 허브 장치(530))를 통해 음성 데이터를 획득할 수 있다. 이 경우, 전자 장치(600)는 허브 장치에 의해 획득된 음성 데이터를 통신 회로(650)를 통해 수신하거나, 허브 장치에 의해 음성 데이터로부터 변환된 제2텍스트 데이터를 통신 회로(650)를 통해 수신할 수도 있다.
다양한 실시예에 따르면, 프로세서(610)는 전자 장치(600)의 각 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 수행할 수 있는 구성으로써, 도 1의 프로세서(120) 및/또는 도 2의 어플리케이션 프로세서(210)의 구성 및/또는 기능 중 적어도 일부를 포함할 수 있다. 프로세서(610)는 디스플레이(630), 통신 회로(650), 메모리(620) 등 전자 장치(600)의 내부 구성요소와 전기적으로 연결될 수 있다.
메모리(620)는 한정되지 않은 디지털 데이터들을 일시적 또는 영구적으로 저장하기 위한 것으로써, 도 1의 메모리(130) 및/또는 도 2의 메모리(230)의 구성 중 적어도 하나를 포함할 수 있다. 메모리(620)는 휘발성 메모리 및 비휘발성 메모리를 포함할 수 있다. 비휘발성 메모리는 OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있으며, 휘발성 메모리는 DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 중 적어도 하나를 포함할 수 있다.
메모리(620)는 프로세서(610)에서 수행될 수 있는 다양한 인스트럭션(instruction)들을 저장할 수 있다. 이와 같은 인스트럭션들은 프로세서(610)에 의해 인식될 수 있는 산술 및 논리 연산, 데이터 이동, 입출력 등의 제어 명령을 포함할 수 있으며, 메모리(620)에 저장된 프레임워크(framework) 상에서 정의될 수 있다. 또한, 메모리(620)는 도 3의 프로그램 모듈(310) 중 적어도 일부를 저장할 수 있다.
다양한 실시예에 따르면, 프로세서(610)가 전자 장치(600) 내에서 구현할 수 있는 연산 및 데이터 처리 기능에는 한정됨이 없을 것이나, 이하에서는, 텍스트 메시지를 생성 및 외부 전자 장치에 전송하는 기능에 대해 보다 상세히 설명하기로 한다. 후술할 프로세서(610)의 동작들은 앞서 설명한 메모리(620)에 저장된 인스트럭션들을 로딩(loading)함으로써 수행될 수 있다.
전자 장치(600)는 텍스트 데이터를 외부 전자 장치와 교환할 수 있는 메시지 어플리케이션을 저장 및 실행할 수 있으며, 메시지 어플리케이션은 SMS(short message service), 인스턴트 메시지(instant message), 이메일(E-mail), SNS(social network service) 등 그 종류에는 한정이 없다.
프로세서(610)는 메시지 어플리케이션이 실행 되면, 디스플레이(630) 상에 텍스트 입력 창 및 키보드를 표시하고, 키보드 상의 터치 입력에 따라 제1텍스트 데이터를 생성할 수 있다. 또한, 메시지 어플리케이션에서 소정의 터치 입력에 따라 키보드 입력 모드에서 음성 입력 모드로 전환될 수 있으며, 이 경우 음성 입력 장치(640)가 활성화 되어 사용자의 음성 데이터를 획득할 수 있다. 다른 일 실시예에 따르면, 프로세서(610)는 사용자에 의해 등록된 및/또는 디폴트로 등록된 음성이 수신되는 경우, 즉 음성 호출 기능을 통해 메시지 어플리케이션을 실행할 수 있다.
프로세서(610)는 앞서 도 5를 통해 설명한 실시예들 중 적어도 하나를 사용하여, 획득된 음성 데이터를 제2텍스트 데이터로 변환할 수 있다.
프로세서(610)는 제1텍스트 데이터 및/또는 제2텍스트 데이터가 생성되면, 제1텍스트 데이터 및/또는 제2텍스트 데이터 및 제1텍스트 데이터 및/또는 제2텍스트 데이터의 입력 방법의 종류와 관련된 속성 정보를 포함하는 메시지 데이터를 생성할 수 있다. 일 실시예에 따르면, 입력 방법의 종류는 제1속성 및 제2속성으로 구분될 수 있으며, 예를 들어, 제1속성은 제1텍스트 데이터, 즉 텍스트 데이터가 키보드 상의 터치 입력에 의해 생성된 텍스트 데이터에 할당되고, 제2속성은 제2텍스트 데이터, 즉 음성 데이터로부터 음성 인식 엔진에 의해 변환되어 생성된 텍스트 데이터에 할당될 수 있다.
일 실시예에 따르면, 속성 정보는 제1텍스트 데이터 및/또는 제2텍스트 데이터가 외부 전자 장치 상에서 표시되는 시간과 관련된 표시 시간 정보를 더 포함할 수 있다. 메시지 데이터가 외부 전자 장치(또는 제2전자 장치(도 4의 420)에 전송 되면, 외부 전자 장치는 메시지 어플리케이션을 이용하여 텍스트 데이터를 표시할 수 있다. 이 경우, 외부 전자 장치는 속성 정보를 참고 하여, 수신된 텍스트 데이터의 속성을 확인하고, 텍스트 데이터가 제1속성을 갖는 제1텍스트 데이터인 경우 제1시간 동안 상기 제1텍스트 데이터를 표시하고, 제2속성을 갖는 제2텍스트 데이터인 경우 제2시간 동안 상기 제2텍스트 데이터를 표시할 수 있다. 예를 들어, 외부 전자 장치는 제1텍스트 데이터는 삭제 요청이 없는 경우 표시가 유지되고(예를 들어, 제1시간은 무한대), 제2텍스트 데이터는 소정 시간(예를 들어, 제2시간)이 경과된 후 자동적으로 삭제될 수 있다.
일 실시예에 따르면, 프로세서(610)는 음성 데이터가 입력된 경우, 음성 데이터의 특징 정보를 추출할 수 있다. 여기서, 음성 데이터의 특징 정보는 음성 데이터의 음량(volume), 톤(tone), 속도(speed), 억양(intonation) 중 적어도 하나를 포함할 수 있다. 프로세서(610)는 추출된 특징 정보를 속성 정보에 포함하여 메시지 데이터를 생성할 수 있다. 후술하는 바와 같이, 외부 전자 장치는 음성 데이터의 특징 정보를 이용하여 제2텍스트 데이터에 대해 다양한 시각적 및/또는 청각적 효과를 부여할 수 있다.
일 실시예에 따르면, 프로세서(610)는 음성 데이터를 메시지 데이터와 함께 외부 전자 장치로 전송하도록 할 수 있다. 이에 따라, 외부 전자 장치는 메시지 데이터의 표시와 적어도 일부 동시 또는 별개로 음성 데이터를 재생할 수 있다.
일 실시예에 따르면, 프로세서(610)는 음성 데이터로부터 발화자의 감정 정보를 생성하고, 상기 감정 정보를 포함하는 속성 정보를 외부 전자 장치로 전송하도록 할 수 있다.
일 실시예에 따르면, 전자 장치(600)는 다양한 종류의 메시지 어플리케이션(예: 문자 메시지, 이메일 어플리케이션 등)을 설치 및 실행할 수 있으며, 프로세서는 텍스트 입력과 음성 입력이 가능한 특정 어플리케이션(예: s-voice와 같은 비서 어플리케이션)로부터 사용자의 입력을 수신할 수 있다. 프로세서는 사용자로부터 입력되는 데이터의 종류(예: 텍스트, 음성)에 따라 메시지 데이터를 전송할 어플리케이션을 선택할 수 있다. 예를 들어, 사용자로부터 음성 데이터가 입력되는 경우 프로세서(610)는 음성 데이터의 전송이 가능한 메시지 어플리케이션(예: 메신저 어플리케이션)으로 음성 데이터 및/또는 음성 데이터로부터 변환된 제2텍스트 데이터를 전송할 수 있다. 또한, 텍스트 데이터가 입력되는 경우 프로세서(610)는 텍스트 데이터의 전송이 가능한 메시지 어플리케이션(예: 문자/이메일 어플리케이션)으로 텍스트 데이터를 전송할 수 있다.
일 실시예에 따르면, 프로세서(610)는 제2텍스트 데이터를 전송함에 있어, 제2텍스트 데이터를 수신하는 상대방 전자 장치에 설치 된 어플리케이션의 종류 또는 전자 장치(600)의 통신 상태(예: 데이터 통신 상태 등)에 기반하여 선택된 어플리케이션을 이용해 메시지 데이터를 전송할 수 있다. 메시지 데이터를 수신하는 상대방 전자 장치는 특정 어플리케이션을 통해 메시지 데이터가 전송되는 경우 해당 어플리케이션을 이용해 메시지 데이터에 포함된 텍스트 또는 음성 데이터를 출력하고, 헤더 정보 상에 어플리케이션이 특정되지 않은 경우 해당 메시지 데이터를 처리 가능한 어느 하나의 어플리케이션을 이용하여 텍스트 또는 음성 데이터를 출력할 수 있다.
도 7은 다양한 실시예에 따른 전자 장치의 메시지 입력 화면의 일 예이다.
도 7은 메시지 어플리케이션의 실행 시 전자 장치(700)의 디스플레이(도 6의 디스플레이(610))에 표시된 화면의 일 예일 수 있다.
도시된 바와 같이, 메시지 어플리케이션은 텍스트 입력창(710) 및/또는 음성 입력창(720)을 포함할 수 있다. 도시되지는 않으나, 텍스트 입력창(710)이 표시된 상태에서 하단에 키보드가 표시될 수 있으며, 키보드 상의 터치 입력에 따라 선택된 텍스트가 텍스트 입력창(710)에 표시될 수 있다.
또한, 메시지 어플리케이션 상의 소정의 아이콘의 입력 또는 기타 이벤트의 발생에 따라 음성 입력창(720)이 표시되고 음성 입력 장치(도 6의 620)가 활성화되어 사용자의 음성 데이터를 생성할 수 있다. 음성 인식 엔진(또는 허브 장치, 음성 인식 서버)에 의해 음성 데이터는 텍스트 데이터로 변환 되어 텍스트 입력창(710)에 표시될 수 있다.
도 7은 메시지 어플리케이션 화면의 일 예에 불과하며, 다양한 형태가 가능하다.
도 8은 다양한 실시예에 따른 속성 정보의 일 예이다.
다양한 실시예에 따르면, 프로세서(예를 들어, 도 6의 프로세서(640))는 제1텍스트 데이터 및/또는 제2텍스트 데이터와 관련된 속성 정보를 생성할 수 있다. 속성 정보는 제1텍스트 데이터 및/또는 제2텍스트 데이터의 속성을 정의한 메타 데이터로 생성되어 제1텍스트 데이터 및/또는 제2텍스트 데이터와 함께 메시지 데이터에 포함될 수 있다.
도시된 바와 같이, 속성 정보는 메시지의 종류(810)(message type), 입력 방법의 종류(820)(input type), 특징 정보(830)(feature information) 및 시간 정보(840)(time information)를 포함하며, 이 중 적어도 일부는 생략될 수도 있다.
메시지의 종류(810)는 메시지 데이터에 포함된 데이터의 종류, 예를 들어, 텍스트 데이터, 음성 데이터 등의 종류에 대한 정보를 포함할 수 있다.
입력 방법의 종류(820)는 텍스트 데이터를 입력하는 방법에 따라 제1속성 또는 제2속성으로 구분될 수 있으며, 예를 들어, 제1속성은 제1텍스트 데이터, 즉 텍스트 데이터가 키보드 상의 터치 입력에 의해 생성된 텍스트 데이터에 할당되고, 제2속성은 제2텍스트 데이터, 즉 음성 데이터로부터 음성 인식 엔진에 의해 변환되어 생성된 텍스트 데이터에 할당될 수 있다.
특징 정보(830)는 텍스트 데이터가 제2속성을 갖는 제2텍스트 데이터인 경우, 제2텍스트 데이터 생성의 기초가 되는 음성 데이터의 특징 정보(830)를 포함할 수 있다. 따라서, 특징 정보(830)는 텍스트 데이터가 제1속성을 갖는 제1텍스트 데이터인 경우 생략될 수 있다. 특징 정보(830)는, 예를 들어, 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함할 수 있다.
시간 정보(840)는 텍스트 데이터(또는 음성 데이터)의 입력 시간 및 종료 시간을 포함할 수 있다. 여기서, 종료 시간은 메시지 데이터를 수신한 외부 전자 장치에서 해당 텍스트 데이터를 표시하는 시간에 관련된 정보로써, 외부 전자 장치는 속성 정보의 종료 시간 동안만 텍스트 데이터를 표시한 후 삭제할 수 있다.
도 9a는 다양한 실시예에 따른 메시지 데이터 전송 방법의 일 예이다.
도 9a에 도시된 제1전자 장치(910), 제2전자 장치(920) 및 서비스 서버 장치(930)는 각각 도 4의 제1전자 장치(410), 제2전자 장치(420) 및 서비스 서버 장치(430)일 수 있다. 도 9a는 시간 순서에 따른 각 장치의 동작을 설명한 것이나, 반드시 본 발명의 다양한 실시예들이 도시된 순서에 따라 수행될 필요는 없다.
동작 951 내지 953은 터치 입력 기반의 제1텍스트 데이터를 생성 및 표시하는 동작에 관한 것이다.
제1전자 장치(910)는 메시지 어플리케이션을 실행하고, 메시지 어플리케이션의 키보드 상에서 텍스트에 대한 터치 입력을 수신할 수 있다(951). 일 실시예에 따르면, 제1전자 장치(910)는 제1텍스트 데이터 및 제1텍스트 데이터의 속성 정보를 포함하는 메시지 데이터를 제2전자 장치(920)로 전송할 수 있다(952). 이 경우, 메시지 데이터는 네트워크를 통해 서비스 서버 장치(930)로 전송되고, 서비스 서버 장치(930)로부터 제2전자 장치(920)에 전송될 수 있다.
제2전자 장치(920)는 수신한 메시지 데이터에서 제1텍스트 데이터를 추출하고, 제1텍스트 데이터를 디스플레이 상에 표시할 수 있다(953).
동작 961 내지 964는 음성 입력 기반의 제2텍스트 데이터를 생성 및 표시하는 동작에 관한 것이다. 도 9a에서는 동작 961 내지 964이 동작 951 내지 953의 이후에 수행되는 것으로 도시되어 있으나, 이에 한정되지 않으며 동작 961 내지 964이 먼저 수행되거나, 동작 961 내지 964만이 수행될 수도 있다.. 다시 말하면, 텍스트 입력에 기반하여 제1텍스트 데이터를 전송 및 표시하는 951 내지 953의 동작과, 음성 입력에 기반하여 제2텍스트 데이터를 전송 및 표시하는 961 내지 964의 동작은 개별적인 동작으로써, 사용자의 입력 방식에 따라 서로 독립하여 수행될 수 있다.
제1전자 장치(910)는 사용자의 음성을 집음하여 음성 데이터를 생성할 수 있다(961). 제1전자 장치(910)는 음성 데이터를 텍스트로 변환하여 제2텍스트 데이터를 생성할 수 있다(962). 음성 데이터로부터 제2텍스트 데이터를 생성하는 실시예는 앞서 도 5를 통해 설명한 바 있다.
일 실시예에 따르면, 제1전자 장치(910)는 제2텍스트 데이터 및 제2텍스트 데이터의 속성 정보를 포함하는 메시지 데이터를 제2전자 장치(920)로 전송할 수 있다(963). 이 경우, 메시지 데이터는 네트워크를 통해 서비스 서버 장치(930)로 전송되고, 서비스 서버 장치(930)로부터 제2전자 장치(920)에 전송될 수 있다. 일 실시예에 따르면, 제2텍스트 데이터의 속성 정보는 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 속성 정보를 포함할 수 있다. 또한, 속성 정보는 제2텍스트 데이터가 제2전자 장치(920) 상에서 표시되는 시간과 관련된 표시 시간 정보를 더 포함할 수도 있다.
제2전자 장치(920)는 제1전자 장치(910)(또는 서비스 서버 장치(930))로부터 메시지 데이터를 수신하고, 수신한 메시지 데이터로부터 제2텍스트 데이터를 추출하고, 제2텍스트 데이터를 디스플레이 상에 표시할 수 있다(964).
동작 971 내지 980은 제2전자 장치(920)가 제2텍스트 데이터를 표시(964)한 이후에 수행되는 동작일 수 있다.
다양한 실시예에 따르면, 제2전자 장치(920)는 제2텍스트 데이터를 제2시간 동안 표시하고, 제2시간이 경과된 후 제2텍스트 데이터의 표시를 삭제할 수 있다. 제2텍스트 데이터의 삭제를 트리거 하는 이벤트는 동작 971, 972, 973 중 적어도 하나에 의해 발생할 수 있다. 즉, 동작 971, 972, 973은 반드시 모두 일어날 필요는 없고, 이 중 일부만 발생하더라도 제2전자 장치(920)는 제2텍스트 데이터를 삭제할 수 있다.
일 실시예에 따르면, 제2전자 장치(920)는 제2텍스트 데이터가 표시되는 동안 통신 회로가 제2텍스트 데이터의 삭제 요청을 포함하는 삭제 요청 정보를 수신하는 경우, 제2텍스트 데이터의 표시를 제거할 수 있다. 예를 들어, 동작 971과 같이 제1전자 장치(910)는 메시지 데이터를 전송한 이후 제2시간이 경과 되면 제2전자 장치(920)에 삭제 요청을 전송할 수 있다. 또한, 동작 972와 같이 서비스 서버 장치(930)가 제2전자 장치(920)에 메시지 데이터를 전송한 이후 제2시간이 경과 되면 제2전자 장치(920)에 삭제 요청을 전송할 수 있다. 다른 일 실시예에 따르면, 제2전자 장치(920)가 제2텍스트 데이터를 표시하는 경우 제2전자 장치(920)는 표시 시간과 관련된 정보를 제1전자 장치(910) 및/또는 서비스 서버 장치(930)로 전송하고, 제1전자 장치(910) 및/또는 서비스 서버 장치(930)는 상기 표시 시간과 관련된 정보를 수신하고 제2시간이 경과 되는 경우 제2전자 장치(920)에 삭제 요청을 전송할 수 있다.
다른 일 실시예에 따르면, 메시지 데이터의 속성 정보는 제2텍스트 데이터를 표시하는 제2시간에 관련된 표시 시간 정보를 포함할 수 있다. 이 경우, 동작 973과 같이 제2전자 장치(920)는 제2텍스트 데이터를 표시한 후 표시 시간 정보의 제2시간을 참고 하여, 제2텍스트 데이터의 표시를 제거할 수 있다. 일 실시예에 따르면, 제2전자 장치(920)는 디스플레이 상에서 제2텍스트 데이터의 표시를 제거하고, 메모리에 저장된 제2텍스트 데이터를 삭제할 수 있다.
다른 일 실시예에 따르면, 제2전자 장치(920)는 상기 동작 971, 972, 973 등 제2텍스트 데이터의 삭제를 트리거 하는 이벤트가 발생하는 경우, 제2텍스트 데이터의 삭제 여부를 선택할 수 있는 팝업 메뉴를 표시할 수 있다. 이 경우, 상기 팝업 메뉴를 통해 사용자가 삭제를 선택하면 표시된 화면 상에서 제2텍스트 데이터를 삭제하고, 메모리 상에서 제2텍스트 데이터를 삭제할 수 있다. 이와 달리, 사용자가 삭제 취소를 선택하면 기존과 같이 표시를 유지할 수 있다.
다양한 실시예에 따르면, 메시지 데이터를 표시하는 제2전자 장치(920)는 음성 데이터에 기반하여 생성된 제2텍스트 데이터는 소정 시간(예를 들어, 5초 또는 10초)동안만 표시한 후 삭제할 수 있으며, 제2전자 장치(920)의 사용자가 텍스트 데이터를 확인 후 또는 확인 여부와 상관 없이 소정 시간이 지나면 자동으로 삭제되도록 처리할 수 있다.
음성 대화는 녹음을 하지 않는 이상 말하는 즉시 사라지는 속성을 가지며, 상기와 같은 동작에 따라 텍스트 메시지 통신에도 음성 대화의 속성을 적용할 수 있는 효과가 있다.
도 9b는 일 실시예에 따른 메시지 데이터 전송 방법을 도시한 것이다.
이하에서는 앞서도 9a를 통해 설명한 바 있는 기술적 특징에 대해서는 그 설명을 생략하며, 사용자가 음성 입력을 통해 메시지 데이터를 생성하는 경우에 대해서 설명하기로 한다.
제1전자 장치(910)는 사용자의 음성을 집음하여 음성 데이터를 생성할 수 있다(991). 제1전자 장치(910)는 생성된 음성 데이터를 네트워크를 통해 음성 인식 엔진이 마련된 음성 인식 서버에 음성 데이터를 전송할 수 있다(992).
음성 인식 서버는 수신한 음성 인식 데이터를 텍스트로 변환하여 제2텍스트 데이터를 생성하고(993), 생성된 제2텍스트 데이터를 제1전자 장치(910)로 전송할 수 있다(994).
제1전자 장치(910)는 제2텍스트 데이터 및 제2텍스트 데이터의 속성 정보를 포함하는 메시지 데이터를 제2전자 장치(920)로 전송할 수 있다(995). 이 경우, 메시지 데이터는 네트워크를 통해 서비스 서버 장치(930)로 전송되고, 서비스 서버 장치(930)로부터 제2전자 장치(920)에 전송될 수 있다.
제2전자 장치(920)는 제1전자 장치(910)(또는 서비스 서버 장치(930))로부터 메시지 데이터를 수신하고, 수신한 메시지 데이터로부터 제2텍스트 데이터를 추출하고, 제2텍스트 데이터를 디스플레이 상에 표시할 수 있다(996).
제2텍스트 데이터의 삭제를 트리거 하는 이벤트(예: 도 9a의 971 내지 973)가 발생하는 경우(997), 제2전자 장치는 제2텍스트 데이터의 표시를 삭제할 수 있다(998). 이 경우, 제2전자 장치(920)는 디스플레이 상에서 제2텍스트 데이터의 표시를 제거하고, 메모리에 저장된 제2텍스트 데이터를 삭제할 수 있다.
도 10은 다양한 실시예에 따른 전자 장치의 블록도이다.
도시된 바와 같이, 다양한 실시예에 따른 전자 장치(1000)는 프로세서(1010), 메모리(1020), 디스플레이(1030), 사운드 출력 장치(1040) 및 통신 회로(1050)를 포함하며, 도시된 구성 중 일부가 생략 또는 치환되더라도 본 발명의 다양한 실시예를 구현함에는 지장이 없을 것이다. 도 10에서는 전자 장치(1000)가 제2전자 장치(예를 들어, 도 4의 420), 즉 메시지 데이터를 수신 및 출력하는 전자 장치로 동작하는 경우의 기술적 특징에 대해 설명하기로 하며, 앞서 도 6에서 설명한 바 있는 기술적 특징에 대해서는 이하에서 그 설명을 생략하기로 한다.
통신 회로(1050)는 제1전자 장치(예를 들어, 도 4의 410)(또는 서비스 서버 장치)로부터 메시지 데이터를 수신할 수 있다. 수신된 메시지 데이터는 메모리(1020)에 저장되고, 프로세서(1010)에 의해 실행 되는 메시지 어플리케이션에 제공될 수 있다.
프로세서(1010)는 통신 회로(1050)를 통해 수신한 메시지 데이터를 획득하고, 메시지 데이터에 포함된 속성 정보를 확인할 수 있다. 앞서 도 8을 통해 설명한 바와 같이, 일 실시예에 따르면, 속성 정보는 제1텍스트 데이터 및/또는 제2텍스트 데이터의 속성을 정의한 메타 데이터로 생성되어 제1텍스트 데이터 및/또는 제2텍스트 데이터와 함께 메시지 데이터에 포함될 수 있다. 속성 정보는 메시지의 종류(message type), 입력 방법의 종류(input type), 특징 정보(feature information) 및 시간 정보(time information)를 포함할 수 있으며, 이 중 적어도 일부는 생략될 수도 있다.
프로세서(1010)는 확인된 속성 정보에 기초하여 메시지 데이터에 포함된 텍스트 데이터의 종류를 확인할 수 있다. 예를 들어, 프로세서(1010)는 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인지 또는 음성 데이터로부터 변환된 제2텍스트 데이터인지 확인할 수 있다. 일 실시예에 따르면, 속성 정보는 텍스트 데이터의 입력 방법의 종류에 대한 정보를 포함하며, 터치 스크린으로부터 입력된 경우 제1속성으로 정의되고, 음성 데이터로부터 변환된 경우 제2속성으로 정의될 수 있다.
프로세서(1010)는 속성 정보의 확인 결과, 메시지 데이터에 포함된 텍스트 데이터가 제1텍스트 데이터인 경우, 디스플레이(1030)가 제1텍스트 데이터를 제1시간 동안 표시하도록 제어할 수 있다. 일 실시예에 따르면, 제1시간은 무한대일 수 있으며, 이 경우 제1텍스트 데이터는 별도의 삭제 이벤트가 발생하지 않는 이상 삭제되지 않고 메시지 어플리케이션에서 확인할 수 있다.
프로세서(1010)는 속성 정보의 확인 결과, 메시지 데이터에 포함된 텍스트 데이터가 제2텍스트 데이터인 경우, 디스플레이(1030)가 제2텍스트 데이터를 제1시간과 다른 제2시간 동안 표시하도록 제어할 수 있다. 일 실시예에 따르면, 제2시간은 제1시간보다 짧은 시간으로써 사용자가 인지하기에 충분한 정도의 짧은 시간(예를 들어, 5초 또는 10초)일 수 있다. 프로세서(1010)는 제2텍스트 데이터를 제2시간 동안 표시한 후, 제2텍스트 데이터의 표시를 제거할 수 있다. 일 실시예에 따르면, 프로세서(1010)는 디스플레이(1030) 상에서 제2텍스트 데이터의 표시를 제거하고, 메모리(1020)에 저장된 제2텍스트 데이터를 삭제할 수 있다.
다른 일 실시예에 따르면, 전자 장치(1000)는 예를 들어 도 9를 참조하여 상기 동작 971, 972, 973 등 제2텍스트 데이터의 삭제를 트리거 하는 이벤트가 발생하는 경우, 제2텍스트 데이터의 삭제 여부를 선택할 수 있는 팝업 메뉴를 디스플레이(1030)의 적어도 일부분에 표시할 수 있다. 이 경우, 상기 팝업 메뉴를 통해 사용자로부터 삭제에 대한 입력을 수신하면 표시된 화면 상에서 제2텍스트 데이터를 삭제하고, 메모리 상에서 제2텍스트 데이터를 삭제할 수 있다. 이와 달리, 사용자로부터 삭제 취소에 대한 입력을 수신하면 기존과 같이 표시를 유지할 수 있다.
일 실시예에 따르면, 프로세서(1010)는 제2텍스트 데이터가 표시되는 동안 통신 회로(1050)를 통해 제2텍스트 데이터의 삭제 요청을 포함하는 삭제 요청 정보를 수신하는 경우, 제2텍스트 데이터의 표시를 제거할 수 있다. 이 경우, 삭제 요청 정보는 외부 전자 장치 또는 서비스 서버 장치(도 4의 430)로부터 전송될 수 있다. 다른 일 실시예에 따르면, 속성 정보는 제1텍스트 데이터를 표시하는 제1시간 및 제2텍스트 데이터를 표시하는 제2시간에 관련된 표시 시간 정보를 포함하며, 프로세서(1010)는 표시 시간 정보를 참고 하여, 제2텍스트 데이터의 표시 후 제2시간이 경과하는 지 확인하고, 제2시간의 경과 후 제2텍스트 데이터의 표시를 삭제할 수 있다. 프로세서(1010)가 표시된 제2텍스트 데이터의 삭제를 트리거 하는 이벤트는 앞서 도 9a 및 도 9b를 통해 다양한 실시예들로 설명한 바 있다.
다양한 실시예에 따르면, 프로세서(1010)는 제1텍스트 데이터와 제2텍스트 데이터를 표시하는 경우 사용자가 텍스트 데이터의 입력 방법을 구분할 수 있도록 표시할 수 있다. 일 실시예에 따르면, 프로세서(1010)는 디스플레이(1030)가 제2텍스트 데이터를 표시하는 경우, 제1텍스트 데이터를 표시하는 것과 다른 시각적 효과를 나타내도록 할 수 있다. 여기서, 다른 시각적 효과는 추가 아이콘의 표시, 텍스트의 폰트의 변경, 텍스트 입력창의 시각적 효과의 변경 중 적어도 하나를 포함할 수 있다. 이에 대해서는 도 12를 통해 보다 상세히 설명하기로 한다.
다양한 실시예에 따르면, 메시지 데이터의 속성 정보는 제2텍스트 데이터의 기초가 되는 음성 데이터의 특징 정보를 포함하며, 특징 정보는 예를 들어, 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함할 수 있다. 프로세서(1010)는, 속성 정보로부터 특징 정보를 추출하고, 제2텍스트 데이터를 디스플레이(1030)에 표시하는 경우, 상기 특징 정보를 반영하여 제2텍스트 데이터의 표시에 시각적 효과를 나타내도록 할 수 있다. 여기서, 시각적 효과는 제2텍스트 데이터의 폰트를 결정하거나, 특징 정보에 대응되는 아이콘을 표시하는 것을 예로 들 수 있다. 이에 대해서는, 도 13을 통해 보다 상세히 설명하기로 한다.
다양한 실시예에 따르면, 프로세서(1010)는 소정의 입력 감지에 따라, 제2텍스트 데이터로부터 사운드 데이터를 생성할 수 있다. 예를 들어, 제2텍스트 데이터의 표시 시 사운드 데이터 생성을 위한 아이콘을 제2텍스트 데이터의 주변에 표시할 수 있다. 프로세서(1010)는 제2텍스트 데이터로부터 사운드 데이터를 생성하는 경우 특징 정보에 기초하여 사운드 데이터의 청각적 효과를 결정할 수 있다. 여기서, 청각적 효과는 사운드 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함할 수 있다.
도 11 내지 14는 전자 장치 상에 표시되는 메시지 화면의 다양한 실시예들을 표시한 것이다.
도 11은 일 실시예에 따른, 전자 장치에서 제2텍스트 데이터를 표시한 후 자동으로 삭제하는 실시예를 도시하고 있다.
전자 장치(1100)는 메시지 데이터가 수신되면 메시지 어플리케이션 화면 상에 텍스트 데이터를 표시할 수 있다. 도 11에서 “Hi”는 키보드로 입력된 제1텍스트 데이터(1120)이며, “Where are you?”는 음성 데이터로부터 변환된 제2텍스트 데이터(1125)를 예시한 것이다. 좌측에 도시된 바와 같이, 전자 장치(1100)는 수신된 제1텍스트 데이터(1120) 및 제2텍스트 데이터(1125)를 각각 표시할 수 있다.
이 후, 제2시간(예를 들어, 5초 또는 10초)이 경과 하면, 우측에 도시된 바와 같이, 전자 장치(1100)는 제1텍스트 데이터(1120)의 표시는 유지 하고, 제2텍스트 데이터(1125)의 표시를 제거할 수 있다. 이 경우, 삭제된 메시지임을 알리기 위한 별도의 텍스트(1145)가 제2텍스트 데이터가 표시되었던 대화창에 표시될 수도 있다.
메시지를 텍스트로 입력해서 보내면, 일반적으로 수신자가 의도적으로 삭제를 해야 해당 메시지가 삭제된다. 하지만, 다양한 실시예에 따른 전자 장치(1100)는 음성 입력 메시지인 경우 수신자가 확인 후 또는 확인 여부와 상관 없이 특정 시간(제2시간)이 지나면 자동으로 삭제되도록 처리할 수 있다. 이는 음성 대화는 녹음을 하지 않는 이상 말하는 즉시 사라지는 속성을 가지며, 상기와 같은 동작에 따라 텍스트 메시지 통신에도 음성 대화의 속성을 적용할 수 있는 효과가 있음을 반영한 것이다.
도 12는 제1텍스트 데이터 및 제2텍스트 데이터를 서로 구분되게 표시하는 일 실시예에 관한 것이다.
일 실시예에 따르면, 프로세서(예를 들어, 도 10의 프로세서(1010))는 디스플레이가 제2텍스트 데이터를 표시하는 경우, 제1텍스트 데이터를 표시하는 것과 다른 시각적 효과를 나타내도록 할 수 있다.
예를 들어, 모바일 전자 장치로 이메일을 보내는 경우, “나의 갤럭시에서 보냄”과 같은 일종의 서명을 메일 하단에 붙일 수 있는 데, 상대방 입장에서는 모바일 전자 장치에서 작성된 메시지이므로 PC에서 보낸 메시지와 비교하여 내용이 간단하거나 오타가 있을 수 있음을 염두에 두고 그 내용을 확인할 수 있다. 다만, 메시지 어플리케이션의 경우 비교적 짧고 간단한 메시지를 교환하는 방식이므로 이와 같은 서명을 붙이는 것은 적절하지 않다. 따라서, 본 발명의 다양한 실시예들은 시각적 효과의 구분을 통해 키보드로 입력된 제1텍스트 데이터와 음성 데이터로부터 변환된 제2텍스트 데이터를 수신자가 쉽게 구분할 수 있도록 할 수 있다.
도 12에 도시된 바와 같이 키보드로 입력된 제1텍스트 데이터(1220)와 달리, 음성 데이터로부터 변환된 제2텍스트 데이터(1240)의 경우 이를 구분하기 위한 아이콘(1245)을 제2텍스트 데이터(1240)의 부근에 표시할 수 있다.
다른 실시예로써, 제2텍스트 데이터의 경우 폰트(예를 들어, 크기, 색상, 굵기, 글자체, 줄간격, 캡션 등)를 제1텍스트 데이터와 달리하거나, 제2텍스트 데이터가 표시되는 대화창을 제1텍스트 데이터가 표시되는 대화창과 구분되도록 컬러, 크기, 음영, 윤곽 등을 달리할 수 있다.
상기 실시예들 이외에도, 제1텍스트 데이터와 제2텍스트 데이터가 시각적으로 구분될 수 있는 다양한 방식이 사용될 수 있다.
도 13은 음성 데이터의 특징 정보를 반영하여 제2텍스트 데이터의 시각적 효과를 결정하는 일 실시예에 관한 것이다.
일 실시예에 따르면, 프로세서(예를 들어, 도 10의 프로세서(1010))는, 속성 정보로부터 특징 정보를 추출하고, 제2텍스트 데이터를 표시하는 경우, 상기 특징 정보를 반영하여 제2텍스트 데이터의 표시에 시각적 효과를 나타내도록 할 수 있다.
예를 들어, 사용자는 메시지를 음성으로 입력할 때, 감정이나 상황을 표현하기 위해 목소리를 크게 말할 수 있는데, 그런 경우 상대방 전자 장치의 화면에 표시되는 해당 메시지의 시각적 효과를 달리 함으로써, 자신의 감정을 전달할 수 있는 효과를 제공할 수 있다.
도시된 바와 같이, 프로세서는 제2텍스트 메시지 중 보다 음량이 높은 “I love you”의 경우, 그 폰트를 확대하여 디스플레이(예를 들어, 도 10의 프로세서(1030))에 표시하도록 제어할 수 있다(1345). 다른 일 실시예에 따르면, 발신 측 전자 장치의 사용자가 떨리는 목소리로 음성을 발화 하는 경우, 특징 정보에 이와 같은 정보가 저장되며, 프로세서는 특징 정보를 참고 하여 해당 텍스트 데이터가 흔들리거나 떨리는 듯한 효과를 주도록 제어할 수 있다.
일 실시예에 따르면, 감정 인식 기술을 이용하여, 발신 측 전자 장치의 사용자의 감정(예를 들어, 경계, 분노, 좌절, 비참함, 지루함, 피곤함, 침착, 만족, 기쁨, 행복, 즐거움, 놀람 등)을 확인하여 특징 정보에 반영할 수 있으며, 프로세서는 특징 정보를 참고 하여 해당 감정에 대응하는 아이콘을 제2텍스트 데이터와 함께 표시하도록 제어할 수 있다.
상기 실시예들 이외에도, 음성 데이터의 특징을 반영하여 결정할 수 있는 다양한 시각적 효과들이 사용될 수 있다.
도 14는 제2텍스트 데이터를 사운드 데이터로 생성하여 출력하는 일 실시예에 관한 것이다.
다양한 실시예에 따르면, 프로세서(예를 들어, 도 10의 프로세서(1010))는 소정의 입력 감지에 따라, 제2텍스트 데이터로부터 사운드 데이터를 생성할 수 있다. 도 14에 도시된 바와 같이, 프로세서는 제2텍스트 데이터(1445)의 부근에 사운드로 재생이 가능함을 알리는 아이콘(1450)이 표시되도록 제어할 수 있으며, 해당 아이콘(1450)에 대한 터치 입력에 따라 프로세서는 제2텍스트 데이터(1445)로부터 사운드 데이터를 생성할 수 있다.
프로세서는 제2텍스트 데이터로부터 사운드 데이터를 생성하는 경우 특징 정보에 기초하여 사운드 데이터의 청각적 효과를 결정할 수 있다. 여기서, 청각적 효과는 사운드 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 메시지 데이터의 속성 정보에 포함된 특징 정보는 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함할 수 있다. 프로세서는 속성 정보로부터 특징 정보를 추출하고 특징 정보에 기초하여 사운드 데이터를 생성할 수 있다. 예를 들어, 음성 데이터의 음량을 반영하여 사운드 데이터의 음량을 반영하거나, 음성 데이터의 억양을 반영하여 사운드 데이터의 억양을 결정할 수 있다.
다른 일 실시예에 따르면, 제1전자(예: 도 4의 전자 장치(410) 또는 서버(430)) 장치로부터 전송된 메시지 데이터는 음성 데이터를 포함하며, 프로세서는 사운드 출력 장치가 제1전자 장치로부터 수신된 음성 데이터를 출력하도록 할 수 있다. 이 경우, 수신된 음성 데이터를 출력하도록 하는 아이콘을 표시할 수 있으며, 상기 아이콘은 제2텍스트 데이터로부터 사운드 데이터를 생성하기 위한 도 14의 아이콘(1450)과는 구별되게 표시될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 터치 스크린을 포함하는 디스플레이; 음성을 수집하여, 음성 데이터를 생성하는 음성 입력 장치; 통신 회로; 상기 디스플레이, 상기 음성 입력 장치 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및 상기 프로세서와 전기적으로 연결되는 메모리를 포함하며, 상기 메모리는, 실행 시에, 상기 프로세서가 상기 터치 스크린을 통해 입력된 제1텍스트 데이터 및/또는 상기 음성 입력 장치를 통해 입력된 음성 데이터를 수신하고, 상기 제1텍스트 데이터 및/또는 상기 음성 데이터로부터 변환된 제2텍스트 데이터와, 상기 제1텍스트 데이터 및/또는 상기 제2텍스트 데이터의 입력 방법의 종류와 관련된 속성 정보를 포함하는 메시지 데이터를 생성하고, 상기 통신 회로가 상기 메시지 데이터를 외부 전자 장치로 전송하도록 하는 인스트럭션을 포함할 수 있다.
다양한 실시예에 따르면, 상기 속성 정보는, 상기 메시지 데이터에 포함된 텍스트 데이터의 입력 방법의 종류에 따라 제1속성 또는 제2속성으로 구분될 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 입력 방법의 종류에 따라, 상기 제1텍스트 데이터 및/또는 상기 제2텍스트 데이터가 상기 외부 전자 장치 상에서 표시되는 시간과 관련된 표시 시간 정보를 포함하는 속성 정보를 생성할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 음성 데이터의 특징 정보를 획득하고, 상기 추출된 특징 정보를 포함하는 상기 속성 정보를 생성할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 통신 회로를 통해 상기 음성 데이터를 외부의 음성 인식 서버로 전송하고, 상기 음성 인식 서버로부터 수신된 상기 제2텍스트 데이터 및 상기 특징 정보를 획득할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 디스플레이; 통신 회로; 상기 디스플레이 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및 상기 프로세서와 전기적으로 연결되는 메모리를 포함하며, 상기 메모리는, 실행 시에, 상기 프로세서가 상기 통신 회로를 통해 수신되는 메시지 데이터를 획득하고, 상기 메시지 데이터에 포함된 속성 정보를 확인하고, 상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 디스플레이가 상기 제1텍스트 데이터를 제1시간 동안 표시하도록 하고, 상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 디스플레이가 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하도록 하는 인스트럭션을 포함할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 제2텍스트 데이터를 상기 제2시간 동안 표시한 후, 상기 제2텍스트 데이터의 표시를 제거하도록 할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 제2텍스트 데이터가 표시되는 동안 상기 통신 회로가 상기 제2텍스트 데이터의 삭제 요청을 포함하는 삭제 요청 정보를 수신하는 경우, 상기 제2텍스트 데이터의 표시를 제거하도록 할 수 있다.
다양한 실시예에 따르면, 상기 속성 정보는, 상기 제1텍스트 데이터를 표시하는 제1시간 및 상기 제2텍스트 데이터를 표시하는 제2시간에 관련된 표시 시간 정보를 포함할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 디스플레이가 상기 제2텍스트 데이터를 표시하는 경우, 상기 제1텍스트 데이터를 표시하는 것과 다른 시각적 효과를 나타내도록 할 수 있다.
다양한 실시예에 따르면, 상기 다른 시각적 효과는, 추가 아이콘의 표시, 텍스트의 폰트의 변경, 텍스트 입력창의 시각적 효과의 변경 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 상기 메시지 데이터의 속성 정보는, 상기 제2텍스트 데이터의 기초가 되는 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 특징 정보를 포함하고, 상기 프로세서는, 상기 속성 정보로부터 상기 특징 정보를 추출하고, 상기 제2텍스트 데이터를 표시하는 경우, 상기 특징 정보를 반영하여 상기 제2텍스트 데이터의 표시에 시각적 효과를 나타내도록 할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 상기 특징 정보를 반영하여, 상기 제2텍스트 데이터의 폰트를 결정 및/또는 상기 특징 정보에 대응되는 아이콘을 표시하도록 할 수 있다.
다양한 실시예에 따르면, 상기 프로세서는, 소정의 입력 감지에 따라, 상기 제2텍스트 데이터로부터 사운드 데이터를 생성하되, 상기 특징 정보에 기초하여 상기 사운드 데이터의 청각적 효과를 결정할 수 있다.
다양한 실시예에 따르면, 상기 청각적 효과는, 상기 사운드 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함할 수 있다.
도 15는 다양한 실시예에 따른 발신 측 전자 장치의 메시지 생성 방법의 흐름도이다.
도시된 방법은 앞서 도 6을 통해 설명한 전자 장치(600)(또는 제1전자 장치)에 의해 수행될 수 있으며, 앞서 설명한 바 있는 기술적 특징에 대해서는 이하에서 그 설명을 생략하기로 한다.
동작 1510에서, 전자 장치는 음성 입력 장치(예를 들어, 도 6의 640)로부터 음성 데이터의 입력을 수신할 수 있다.
동작 1520에서, 전자 장치의 프로세서(예를 들어, 도 6의 610)는 음성 데이터로부터 제2텍스트 데이터를 획득할 수 있다. 음성 데이터로부터 제2텍스트 데이터를 획득하는 다양한 실시예들에 대해서는 앞서 도 5를 통해 설명한 바 있다.
동작 1530에서, 프로세서는 속성 정보를 포함하는 메시지 데이터를 생성할 수 있다. 여기서, 속성 정보는 도 8을 통해 설명한 바와 같이, 메시지의 종류, 입력 방법의 종류, 특징 정보 및 시간 정보 중 적어도 일부를 포함할 수 있다. 속성 정보는 제2텍스트 데이터의 속성을 정의한 메타 데이터로 생성되어 제2텍스트 데이터와 함께 메시지 데이터에 포함될 수 있다.
동작 1540에서, 프로세서는 통신 회로를 통해 메시지 데이터를 외부 전자 장치(예: 도 4의 제2 전자 장치(420) 또는 서버 장치(430))로 전송할 수 있다.
도 16은 다양한 실시예에 따른 수신 측 전자 장치의 메시지 출력 방법의 흐름도이다.
도시된 방법은 앞서 도 10을 통해 설명한 전자 장치(1000)(또는 제2전자 장치)에 의해 수행될 수 있으며, 앞서 설명한 바 있는 기술적 특징에 대해서는 이하에서 그 설명을 생략하기로 한다.
동작 1610에서, 전자 장치는 통신 회로(예를 들어, 도 10의 1030)를 통해 외부 전자 장치(예: 도 4의 제1 전자 장치(410) 또는 서버 장치(430))로부터 메시지 데이터를 수신할 수 있다.
동작 1620에서, 전자 장치의 프로세서(예를 들어, 도 10의 1010)는 수신된 메시지 데이터에 포함된 속성 정보를 확인할 수 있다, 프로세서는 확인된 속성 정보에 기초하여 메시지 데이터에 포함된 텍스트 데이터의 종류를 확인할 수 있다. 예를 들어, 프로세서는 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인지 또는 음성 데이터로부터 변환된 제2텍스트 데이터인지 확인할 수 있다. 일 실시예에 따르면, 속성 정보는 텍스트 데이터의 입력 방법의 종류에 대한 정보를 포함하며, 터치 스크린으로부터 입력된 경우 제1속성으로 정의되고, 음성 데이터로부터 변환된 경우 제2속성으로 정의될 수 있다.
동작 1630에서, 프로세서는 텍스트 데이터가 제1텍스트 데이터 인지확인하고, 동작 1640에서, 제1텍스트 데이터를 제1시간 동안 표시할 수 있다. 일 실시예에 따르면, 제1시간은 무한대일 수 있으며, 이 경우 제1텍스트 데이터는 별도의 삭제 이벤트가 발생하지 않는 이상 삭제되지 않고 메시지 어플리케이션 또는 메모리(예: 도 10의 메모리(1020)) 상에 유지될 수 있다.
동작 1650에서, 프로세서는 텍스트 데이터가 제2텍스트 데이터 인지 확인하고, 동작 1660에서, 제2텍스트 데이터를 제2시간 동안 표시한 후, 동작 1670에서, 제2텍스트 데이터의 표시를 삭제할 수 있다.
일 실시예에 따르면, 제2시간은 제1시간보다 짧은 시간으로써 사용자가 인지하기에 충분한 정도의 짧은 시간(예를 들어, 5초 또는 10초)일 수 있다.
일 실시예에 따르면, 프로세서는 제2텍스트 데이터가 표시되는 동안 통신 회로를 통해 외부 전자 장치로부터 제2텍스트 데이터의 삭제 요청을 포함하는 삭제 요청 정보를 수신하는 경우, 제2텍스트 데이터의 표시를 제거할 수 있다. 다른 일 실시예에 따르면, 속성 정보는 제1텍스트 데이터를 표시하는 제1시간 및 제2텍스트 데이터를 표시하는 제2시간에 관련된 표시 시간 정보를 포함하며, 프로세서는 표시 시간 정보를 참고 하여, 제2텍스트 데이터의 표시 후 제2시간이 경과하는 지 확인하고, 제2시간의 경과 후 제2텍스트 데이터의 표시를 삭제할 수 있다.
일 실시예에 따르면, 프로세서는 제2텍스트 데이터가 표시되는 횟수가 일정 횟수(예: 3회) 이상인 경우 제2텍스트 데이터의 삭제를 수행할 수 있다. 예를 들어, 메시지 데이터에 포함된 속성 정보는 열람 가능 횟수를 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치의 메시지 데이터 출력 방법은, 외부 전자 장치에 의해 생성되는 메시지 데이터를 수신하는 동작; 상기 메시지 데이터에 포함된 속성 정보를 확인하는 동작; 상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 상기 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 제1텍스트 데이터를 제1시간 동안 표시하는 동작; 및 상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 상기 제2텍스트 데이터를 상기 제2시간 동안 표시한 후, 상기 제2텍스트 데이터의 표시를 제거하는 동작을 더 포함할 수 있다.
다양한 실시예에 따르면, 상기 제2텍스트 데이터를 표시하는 동작은, 상기 제1텍스트 데이터를 표시하는 것과 다른 시각적 효과를 나타내도록 할 수 있다.
다양한 실시예에 따르면, 상기 메시지 데이터의 속성 정보는, 상기 제2텍스트 데이터의 기초가 되는 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 특징 정보를 포함하고, 상기 제2텍스트 데이터를 표시하는 동작은, 상기 속성 정보로부터 상기 특징 정보를 추출하는 동작; 및 상기 특징 정보를 반영하여 상기 제2텍스트 데이터의 표시에 시각적 효과를 나타내도록 하는 동작을 포함할 수 있다.
다양한 실시예에 따르면, 소정의 입력 감지에 따라, 상기 제2텍스트 데이터로부터 사운드 데이터를 생성 및 출력하는 동작을 더 포함하며, 상기 사운드 데이터를 생성 및 출력 하는 동작은, 상기 특징 정보에 기초하여 상기 사운드 데이터의 청각적 효과를 결정하는 동작을 포함할 수 있다.

Claims (20)

  1. 전자 장치에 있어서,
    터치 스크린을 포함하는 디스플레이;
    음성을 수집하여, 음성 데이터를 생성하는 음성 입력 장치;
    통신 회로;
    상기 디스플레이, 상기 음성 입력 장치 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및
    상기 프로세서와 전기적으로 연결되는 메모리를 포함하며,
    상기 메모리는, 실행 시에, 상기 프로세서가
    상기 터치 스크린을 통해 입력된 제1텍스트 데이터 및/또는 상기 음성 입력 장치를 통해 입력된 음성 데이터를 수신하고,
    상기 제1텍스트 데이터 및/또는 상기 음성 데이터로부터 변환된 제2텍스트 데이터와, 상기 제1텍스트 데이터 및/또는 상기 제2텍스트 데이터의 입력 방법의 종류와 관련된 속성 정보를 포함하는 메시지 데이터를 생성하고,
    상기 통신 회로가 상기 메시지 데이터를 외부 전자 장치로 전송하도록 하는 인스트럭션을 포함하는 전자 장치.
  2. 제 1항에 있어서,
    상기 속성 정보는,
    상기 메시지 데이터에 포함된 텍스트 데이터의 입력 방법의 종류에 따라 제1속성 또는 제2속성으로 구분되는 전자 장치.
  3. 제 2항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,
    상기 입력 방법의 종류에 따라, 상기 제1텍스트 데이터 및/또는 상기 제2텍스트 데이터가 상기 외부 전자 장치 상에서 표시되는 시간과 관련된 표시 시간 정보를 포함하는 속성 정보를 생성하도록 하는 전자 장치.
  4. 제 1항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,
    상기 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 음성 데이터의 특징 정보를 획득하고,
    상기 추출된 특징 정보를 포함하는 상기 속성 정보를 생성하도록 하는 전자 장치.
  5. 제 4항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,
    상기 통신 회로를 통해 상기 음성 데이터를 외부의 음성 인식 서버로 전송하고,
    상기 음성 인식 서버로부터 수신된 상기 제2텍스트 데이터 및 상기 특징 정보를 획득하도록 하는 전자 장치.
  6. 전자 장치에 있어서,
    디스플레이;
    통신 회로;
    상기 디스플레이 및 상기 통신 회로와 전기적으로 연결되는 프로세서; 및
    상기 프로세서와 전기적으로 연결되는 메모리를 포함하며,
    상기 메모리는, 실행 시에, 상기 프로세서가
    상기 통신 회로를 통해 수신되는 메시지 데이터를 획득하고,
    상기 메시지 데이터에 포함된 속성 정보를 확인하고,
    상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 디스플레이가 상기 제1텍스트 데이터를 제1시간 동안 표시하도록 하고,
    상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 디스플레이가 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하도록 하는 인스트럭션을 포함하는 전자 장치.
  7. 제 6항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,상기 제2텍스트 데이터를 상기 제2시간 동안 표시한 후, 상기 제2텍스트 데이터의 표시를 제거하도록 하는 전자 장치.
  8. 제 6항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,
    상기 제2텍스트 데이터가 표시되는 동안 상기 통신 회로가 상기 제2텍스트 데이터의 삭제 요청을 포함하는 삭제 요청 정보를 수신하는 경우, 상기 제2텍스트 데이터의 표시를 제거하도록 하는 전자 장치.
  9. 제 6항에 있어서,
    상기 속성 정보는,
    상기 제1텍스트 데이터를 표시하는 제1시간 및 상기 제2텍스트 데이터를 표시하는 제2시간에 관련된 표시 시간 정보를 포함하는 전자 장치.
  10. 제 6항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,상기 디스플레이가 상기 제2텍스트 데이터를 표시하는 경우, 상기 제1텍스트 데이터를 표시하는 것과 다른 시각적 효과를 나타내도록 하는 전자 장치.
  11. 제 10항에 있어서,
    상기 다른 시각적 효과는,
    추가 아이콘의 표시, 텍스트의 폰트의 변경, 텍스트 입력창의 시각적 효과의 변경 중 적어도 하나를 포함하는 전자 장치.
  12. 제 6항에 있어서,
    상기 메시지 데이터의 속성 정보는, 상기 제2텍스트 데이터의 기초가 되는 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 특징 정보를 포함하고,
    상기 인스트럭션은, 상기 프로세서가,상기 속성 정보로부터 상기 특징 정보를 추출하고, 상기 제2텍스트 데이터를 표시하는 경우, 상기 특징 정보를 반영하여 상기 제2텍스트 데이터의 표시에 시각적 효과를 나타내도록 하는 전자 장치.
  13. 제 12항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,
    상기 특징 정보를 반영하여, 상기 제2텍스트 데이터의 폰트를 결정 및/또는 상기 특징 정보에 대응되는 아이콘을 표시하도록 하는 전자 장치.
  14. 제 12항에 있어서,
    상기 인스트럭션은, 상기 프로세서가,
    소정의 입력 감지에 따라, 상기 제2텍스트 데이터로부터 사운드 데이터를 생성하되, 상기 특징 정보에 기초하여 상기 사운드 데이터의 청각적 효과를 결정하는 전자 장치.
  15. 제 14항에 있어서,
    상기 청각적 효과는,
    상기 사운드 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 전자 장치.
  16. 전자 장치의 메시지 데이터 출력 방법에 있어서,
    외부 전자 장치에 의해 생성되는 메시지 데이터를 수신하는 동작;
    상기 메시지 데이터에 포함된 속성 정보를 확인하는 동작;
    상기 확인 결과, 상기 메시지 데이터에 포함된 텍스트 데이터가 상기 외부 전자 장치의 터치 스크린으로부터 입력된 제1텍스트 데이터인 경우, 상기 제1텍스트 데이터를 제1시간 동안 표시하는 동작; 및
    상기 메시지 데이터에 포함된 텍스트 데이터가 음성 데이터로부터 변환된 제2텍스트 데이터인 경우, 상기 제2텍스트 데이터를 상기 제1시간과 다른 제2시간 동안 표시하는 동작을 포함하는 방법.
  17. 제 16항에 있어서,
    상기 제2텍스트 데이터를 상기 제2시간 동안 표시한 후, 상기 제2텍스트 데이터의 표시를 제거하는 동작을 더 포함하는 방법.
  18. 제 16항에 있어서,
    상기 제2텍스트 데이터를 표시하는 동작은,
    상기 제1텍스트 데이터를 표시하는 것과 다른 시각적 효과를 나타내도록 하는 방법.
  19. 제 16항에 있어서,
    상기 메시지 데이터의 속성 정보는, 상기 제2텍스트 데이터의 기초가 되는 음성 데이터의 음량, 톤, 속도, 억양 중 적어도 하나를 포함하는 특징 정보를 포함하고,
    상기 제2텍스트 데이터를 표시하는 동작은,
    상기 속성 정보로부터 상기 특징 정보를 추출하는 동작; 및
    상기 특징 정보를 반영하여 상기 제2텍스트 데이터의 표시에 시각적 효과를 나타내도록 하는 동작을 포함하는 방법.
  20. 제 16항에 있어서,
    소정의 입력 감지에 따라, 상기 제2텍스트 데이터로부터 사운드 데이터를 생성 및 출력하는 동작을 더 포함하며,
    상기 사운드 데이터를 생성 및 출력 하는 동작은, 상기 특징 정보에 기초하여 상기 사운드 데이터의 청각적 효과를 결정하는 동작을 포함하는 방법.
PCT/KR2018/001840 2017-02-14 2018-02-12 전자 장치 및 전자 장치의 메시지 데이터 출력 방법 WO2018151486A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/482,908 US11244679B2 (en) 2017-02-14 2018-02-12 Electronic device, and message data output method of electronic device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2017-0020506 2017-02-15
KR1020170020506A KR102665972B1 (ko) 2017-02-15 2017-02-15 전자 장치 및 전자 장치의 메시지 데이터 출력 방법

Publications (1)

Publication Number Publication Date
WO2018151486A1 true WO2018151486A1 (ko) 2018-08-23

Family

ID=63169578

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2018/001840 WO2018151486A1 (ko) 2017-02-14 2018-02-12 전자 장치 및 전자 장치의 메시지 데이터 출력 방법

Country Status (2)

Country Link
KR (1) KR102665972B1 (ko)
WO (1) WO2018151486A1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102616156B1 (ko) * 2019-01-30 2023-12-21 삼성전자주식회사 컨텐츠를 생성하기 위한 전자 장치
CN112786036B (zh) * 2019-11-04 2023-08-08 海信视像科技股份有限公司 显示设备与内容显示方法
KR102421982B1 (ko) * 2020-10-12 2022-07-18 심유종 인공지능 기반의 음성 합성 시스템 및 그것을 이용한 군집음성 제공 방법

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20060122092A (ko) * 2005-05-25 2006-11-30 주식회사 팬택 음성/텍스트 변환 서비스를 제공하는 통신 단말기 및 상기통신 단말기의 동작 방법과, 상기 통신 단말기와 연동하는음성/텍스트 변환 서비스 제공 서버
US20070207785A1 (en) * 2003-07-14 2007-09-06 Saurav Chatterjee Integration of enterprise voicemail in mobile systems
US20110092190A1 (en) * 2005-10-26 2011-04-21 Research In Motion Limited Methods And Apparatus For Reliable Voicemail Message Deletion Alerts At Mobile Communication Devices
KR20160113309A (ko) * 2014-04-28 2016-09-28 페이스북, 인크. 통신 스레드 내에서 메시지의 작성
KR20160141595A (ko) * 2015-06-01 2016-12-09 삼성전자주식회사 메시지를 출력하는 전자 장치 및 그 제어 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101363866B1 (ko) * 2013-03-13 2014-02-20 에스케이플래닛 주식회사 음성 메시지 생성 방법, 이를 위한 장치 및 시스템
KR102104385B1 (ko) * 2013-10-04 2020-04-24 삼성전자주식회사 인스턴트 메시지 송수신 시스템, 단말 장치 및 그 제어 방법
KR20160087172A (ko) * 2015-01-13 2016-07-21 엘지전자 주식회사 이동단말기 및 그 제어방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070207785A1 (en) * 2003-07-14 2007-09-06 Saurav Chatterjee Integration of enterprise voicemail in mobile systems
KR20060122092A (ko) * 2005-05-25 2006-11-30 주식회사 팬택 음성/텍스트 변환 서비스를 제공하는 통신 단말기 및 상기통신 단말기의 동작 방법과, 상기 통신 단말기와 연동하는음성/텍스트 변환 서비스 제공 서버
US20110092190A1 (en) * 2005-10-26 2011-04-21 Research In Motion Limited Methods And Apparatus For Reliable Voicemail Message Deletion Alerts At Mobile Communication Devices
KR20160113309A (ko) * 2014-04-28 2016-09-28 페이스북, 인크. 통신 스레드 내에서 메시지의 작성
KR20160141595A (ko) * 2015-06-01 2016-12-09 삼성전자주식회사 메시지를 출력하는 전자 장치 및 그 제어 방법

Also Published As

Publication number Publication date
KR20180094331A (ko) 2018-08-23
KR102665972B1 (ko) 2024-05-20

Similar Documents

Publication Publication Date Title
WO2018135743A1 (ko) 발화 완료 감지 방법 및 이를 구현한 전자 장치
WO2018117376A1 (ko) 컨텐츠 운용 방법 및 이를 구현한 전자 장치
WO2018043998A1 (ko) 전자 장치 및 그 제어 방법
WO2017069595A1 (en) Electronic device and method for executing function using speech recognition thereof
WO2018169365A1 (en) Electronic device for controlling audio output and operation method thereof
WO2018038385A2 (ko) 음성 인식 방법 및 이를 수행하는 전자 장치
WO2019164140A1 (en) System for processing user utterance and controlling method thereof
WO2016195362A1 (en) Electronic device for outputting message and method for controlling the same
WO2018080023A1 (ko) 전자 장치 및 그의 동작을 제어하는 방법
WO2017052113A1 (ko) 전자 장치 및 촬영 방법
WO2019199030A1 (ko) 사용자 발화를 처리하는 시스템 및 그 시스템의 제어 방법
WO2017131469A1 (ko) 어플리케이션을 제어하는 전자 장치와 이의 동작 방법
WO2016039596A1 (en) Method and apparatus for generating preview data
WO2018217066A1 (ko) 생체 정보를 측정하는 전자 장치와 이의 동작 방법
WO2015167236A1 (en) Electronic device and method for providing emergency video call service
WO2017131401A1 (ko) 전자 장치 및 전자 장치의 사용자 인터페이스 제어 방법
WO2017026644A1 (en) Method and device for generating video content
WO2017052216A1 (en) Method for providing events corresponding to touch attributes and electronic device thereof
WO2018048130A1 (ko) 컨텐츠 재생 방법 및 이를 지원하는 전자 장치
WO2018048217A1 (en) Electronic apparatus and operating method thereof
WO2017111313A1 (ko) 웹푸시를 이용한 푸시 서비스 제공 방법 및 이를 지원하는 전자 장치
WO2018203620A1 (ko) 사용자 발화를 처리하는 전자
WO2017090907A1 (ko) 전자 장치의 상태에 따른 음성 신호 처리 방법 및 그 전자 장치
WO2018151486A1 (ko) 전자 장치 및 전자 장치의 메시지 데이터 출력 방법
WO2015199430A1 (en) Method and apparatus for managing data

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 18754739

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 18754739

Country of ref document: EP

Kind code of ref document: A1