KR20170054919A - 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법 - Google Patents

응답 메시지를 추천하는 사용자 단말 장치 및 그 방법 Download PDF

Info

Publication number
KR20170054919A
KR20170054919A KR1020150157681A KR20150157681A KR20170054919A KR 20170054919 A KR20170054919 A KR 20170054919A KR 1020150157681 A KR1020150157681 A KR 1020150157681A KR 20150157681 A KR20150157681 A KR 20150157681A KR 20170054919 A KR20170054919 A KR 20170054919A
Authority
KR
South Korea
Prior art keywords
multimedia message
type
message
processor
response list
Prior art date
Application number
KR1020150157681A
Other languages
English (en)
Other versions
KR102393928B1 (ko
Inventor
김유나
김덕호
박규태
신준범
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020150157681A priority Critical patent/KR102393928B1/ko
Priority to PCT/KR2016/008719 priority patent/WO2017082519A1/ko
Priority to CN201680065412.0A priority patent/CN108353103B/zh
Priority to US15/771,814 priority patent/US10721194B2/en
Priority to EP16864445.8A priority patent/EP3352438B1/en
Publication of KR20170054919A publication Critical patent/KR20170054919A/ko
Application granted granted Critical
Publication of KR102393928B1 publication Critical patent/KR102393928B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/10—Multimedia information
    • H04M1/72547—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02—Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023—Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02—Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023—Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233—Character input methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02—Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023—Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233—Character input methods
    • G06F3/0236—Character input methods using selection techniques to select from displayed items
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G10L15/1815—Semantic context, e.g. disambiguation of the recognition hypotheses based on word meaning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/02—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail using automatic reactions or user delegation, e.g. automatic replies or chatbot-generated messages
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/535—Tracking the activity of the user
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
    • H04M1/72439—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724—User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M2201/00—Electronic components, circuits, software, systems or apparatus used in telephone systems
    • H04M2201/42—Graphical user interfaces

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

사용자 단말 장치가 개시된다. 본 사용자 단말 장치는 타 전자 장치와 통신을 수행하여 메시지를 수신하는 통신부, 수신된 메시지를 디스플레이하는 디스플레이 및 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하도록 디스플레이를 제어하는 프로세서를 포함한다. 이에 따라, 사용자 단말 장치를 이용하는 사용자의 편의성이 향상된다.

Description

응답 메시지를 추천하는 사용자 단말 장치 및 그 방법 { USER TERMINAL APPARATUS FOR RECOMMANDING A REPLY MESSAGE AND METHOD THEREOF }
본 발명은 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법에 대한 것으로, 더욱 상세하게는 멀티미디어 메시지를 수신하여 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법에 대한 것이다.
전자 기술의 발달에 힘입어 다양한 유형의 전자 제품들이 개발 및 보급되고 있으며, 각종 통신 기능이 구비된 전자 장치들 간에 메시지가 전송되고 있다. 최근에는 수신된 메시지에 대응되는 추천 응답을 제공하는 기능도 제공되고 있다. 다만, 수신된 메시지의 종류에 따라 추천 응답을 제공하지 못하는 경우도 있었다.
도 1a 및 도 1b는 종래의 기술을 설명하기 위한 도면이다.
도 1a는 텍스트 메시지를 수신한 경우의 추천 응답을 나타낸다. 전자 장치는 자연어 처리 기술을 이용하여 상대방이 보낸 텍스트 메시지에 대응되는 추천 응답을 제공한다. 자연어 처리 기술이란, 인간이 의사 소통을 위해 사용하는 언어를 컴퓨터가 이해할 수 있도록 처리하는 기술 또는 컴퓨터에 의해 처리된 정보를 인간이 의사 소통하는 언어로 표현하는 기술을 의미할 수 있다.
도 1b는 이미지를 포함하는 메시지를 수신한 경우를 나타낸다. 종래에는 텍스트 분석만이 가능하여 이미지와 같은 멀티미디어를 포함하는 메시지에 대한 추천 응답을 제공할 수 없었다.
따라서, 멀티미디어 메시지를 수신한 경우에도 추천 응답을 제공할 수 있는 방법에 대한 필요성이 대두되었다.
본 발명은 상술한 필요성에 따른 것으로, 본 발명의 목적은 수신된 멀티미디어 메시지에 대응되는 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법을 제공함에 있다.
이상과 같은 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 사용자 단말 장치는 타 전자 장치와 통신을 수행하여 메시지를 수신하는 통신부, 상기 수신된 메시지를 디스플레이하는 디스플레이 및 상기 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 상기 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하도록 상기 디스플레이를 제어하는 프로세서를 포함한다.
또한, 상기 프로세서는 상기 멀티미디어 메시지를 분석하여 상기 컨텐츠 타입의 세부 정보를 추출하고, 상기 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 프로세서는 상기 멀티미디어 메시지가 수신되기 전 상기 타 전자 장치의 사용자와의 메시지 내용에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
또한, 상기 프로세서는 상기 컨텐츠 타입 및 상기 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 프로세서는 상기 사용자 단말 장치에서 활성화된 기능, 상기 사용자 단말 장치에 구비된 적어도 하나의 센서에 의한 감지 결과, 상기 사용자 단말 장치에 등록된 스케줄 및 상기 사용자 단말 장치의 사용 행태 패턴 중 적어도 하나에 기초하여 상기 사용자의 컨텍스트를 결정할 수 있다.
또한, 상기 프로세서는 상기 사용자 단말 장치의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 상기 멀티미디어 메시지의 타입에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 프로세서는 상기 멀티미디어 메시지에 제1 타입의 컨텐츠 및 상기 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 상기 제1 타입 및 상기 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
또한, 상기 컨텐츠의 타입 및 대응되는 상기 추천 응답 리스트가 매핑된 매핑 정보를 저장하는 스토리지를 더 포함하고, 상기 프로세서는 상기 멀티미디어 메시지가 수신되면 상기 스토리지에 저장된 상기 매핑 정보에 기초하여 상기 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 프로세서는 상기 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 상기 매핑 정보를 업데이트할 수 있다.
또한, 상기 프로세서는 상기 추천 응답 리스트에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이할 수 있다.
한편, 본 발명의 일 실시 예에 따르면, 사용자 단말 장치의 응답 메시지 추천 방법은 타 전자 장치와 통신을 수행하여 메시지를 수신하는 단계, 상기 수신된 메시지를 디스플레이하는 단계 및 상기 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 상기 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하는 단계를 포함한다.
또한, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 멀티미디어 메시지를 분석하여 상기 컨텐츠 타입의 세부 정보를 추출하는 단계 및 상기 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이하는 단계를 포함할 수 있다.
여기서, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 추천 응답 리스트를 실시간으로 생성하거나 매핑 테이블을 검색하여 생성할 수 있다.
또한, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 멀티미디어 메시지를 분석하여 상기 컨텐츠 타입의 세부 정보를 추출하고, 상기 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 멀티미디어 메시지가 수신되기 전 상기 타 전자 장치의 사용자와의 메시지 내용에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
또한, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 컨텐츠 타입 및 상기 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 사용자 단말 장치에서 활성화된 기능, 상기 사용자 단말 장치에 구비된 적어도 하나의 센서에 의한 감지 결과, 상기 사용자 단말 장치에 등록된 스케줄, 상기 사용자 단말 장치의 사용 행태 패턴 중 적어도 하나에 기초하여 상기 사용자의 컨텍스트를 결정하는 단계를 더 포함할 수 있다.
또한, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 사용자 단말 장치의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 상기 멀티미디어 메시지의 타입에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 멀티미디어 메시지에 제1 타입의 컨텐츠 및 상기 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 상기 제1 타입 및 상기 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
또한, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 멀티미디어 메시지가 수신되면, 상기 컨텐츠의 타입 및 대응되는 상기 추천 응답 리스트가 매핑된 매핑 정보에 기초하여 상기 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 상기 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 상기 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 상기 매핑 정보를 업데이트하는 단계를 더 포함할 수 있다.
또한, 상기 추천 응답 리스트를 디스플레이하는 단계는 상기 추천 응답 리스트에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이할 수 있다.
이상과 같은 본 발명의 다양한 실시 예에 따르면, 사용자 단말 장치는 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 제공하여, 멀티미디어 메시지를 수신한 경우에도 사용자가 용이하게 응답 메시지를 전송할 수 있다.
도 1a 및 도 1b는 종래의 기술을 설명하기 위한 도면이다.
도 2a 및 도 2b는 본 발명의 일 실시 예에 따른 사용자 단말 장치의 구성을 나타내는 블럭도이다.
도 3a 내지 도 3c는 추천 응답 리스트를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다.
도 4a 및 도 4b는 컨텐츠 타입의 세부 정보에 대응되는 추천 응답 리스트를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시 예에 따른 멀티미디어 메시지가 수신되기 전의 메시지 내용을 고려하여 추천 응답 리스트를 제공하는 방법을 설명하기 위한 도면이다.
도 6a 및 도 6b는 사용자의 컨텍스트에 기초하여 대응되는 추천 응답 리스트를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다.
도 7a 및 도 7b는 사용자 정보에 기초하여 추천 응답 리스트를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시 예에 따른 복수의 타입의 컨텐츠가 포함된 멀티미디어 메시지가 수신된 경우를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시 예에 따른 컨텐츠의 타입 및 대응되는 추천 응답 리스트가 매핑된 매핑 정보를 설명하기 위한 도면이다.
도 10a 및 도 10b는 추천 응답을 전송 또는 편집하기 위한 GUI를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다.
도 11은 본 발명의 다른 실시 예에 따른 서버 장치가 메시지를 분석하고, 추천 응답 리스트를 제공하는 방법을 설명하기 위한 도면이다.
도 12는 본 발명의 일 실시 예에 따른 사용자 단말 장치의 응답 메시지 추천 방법을 설명하기 위한 흐름도이다.
도 13은 본 발명의 일 실시 예에 따른 사용자 단말 장치의 응답 메시지 추천 방법을 구체적으로 설명하기 위한 흐름도이다.
이하, 본 발명의 다양한 실시 예에 대해서, 첨부된 도면을 참조하여 설명한다. 본 명세서에 기재된 내용은, 본 발명의 범위를 특정한 실시 형태로 한정하려는 것이 아니며, 실시 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
또한, 본 명세서에서 사용된 "제1," "제2," 등의 표현들은 다양한 구성요소들을, 순서나 중요도에 상관없이, 각 구성요소들을 서로 구분하기 위해 사용된다. 따라서, 이러한 표현에 의해 해당 구성요소들의 순서나 중요도가 한정되는 것은 아니다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
또한, 본 명세서에서 하나의 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 기능적 또는 통신적으로(operatively or communicatively) 연결(coupled)되어 있다거나, 접속되어(connected to) 있다고 언급하는 것은, 각 구성요소들이 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 간접적으로 연결되는 경우까지 모두 포함할 수 있다는 것으로 이해되어야 한다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 어떤 구성요소와 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 명세서(disclosure)에서 사용된 용어들은, 임의의 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 또한, 본 명세서에서는 설명의 편의상 단수 표현을 사용할 수도 있으나, 이는 문맥상 명백하게 다르게 뜻하지 않는 한, 복수 표현까지 포함하는 의미로 해석될 수 있다. 또한, 본 명세서에서 사용되는 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 명세서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 명세서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 명세서에서 정의된 용어일지라도 본 명세서의 실시 예들을 배제하도록 해석될 수 없다.
이하에서, 첨부된 도면을 이용하여 본 발명의 다양한 실시 예들에 대하여 구체적으로 설명한다.
도 2a 및 도 2b는 본 발명의 일 실시 예에 따른 사용자 단말 장치(100)의 구성을 나타내는 블럭도이다. 사용자 단말 장치(100)는 다양한 전자 장치가 될 수 있다. 예를 들어, 디지털 카메라, MP3 플레이어, PMP, 스마트폰, 셀룰러폰, 스마트 안경, 태블릿 PC, 스마트 워치 등 다양한 장치로 구현 가능하다.
사용자 단말 장치(100)는 타 전자 장치로부터 메시지를 수신하여 디스플레이할 수 있다. 그리고, 사용자 단말 장치(100)는 수신된 메시지에 대응되는 추천 응답 리스트를 디스플레이할 수 있다. 사용자 단말 장치(100)는 추천 응답 리스트에서 선택된 추천 응답 또는 사용자가 작성한 메시지를 타 전자 장치로 전송할 수 있다.
도 2a에 따르면, 사용자 단말 장치(100)는 통신부(110), 디스플레이(120) 및 프로세서(130)를 포함한다.
통신부(110)는 타 전자 장치와 통신을 수행할 수 있다.
구체적으로, 통신부(110)는 타 전자 장치로부터 메시지를 수신하거나 타 전자 장치로 메시지를 전송할 수 있다. 타 전자 장치로부터 수신되거나 타 전자 장치로 전송되는 메시지는 텍스트 뿐만 아니라, 이미지, 사운드 및 동영상 중 적어도 하나를 포함할 수 있다.
통신부(110)는 타 전자 장치와 단방향 통신 또는 양방향 통신을 수행할 수 있다. 단방향 통신을 수행하는 경우, 통신부(110)는 타 전자 장치로부터 신호를 수신할 수 있다. 양방향 통신을 수행하는 경우, 통신부(110)는 타 전자 장치로부터 신호를 수신할 수도 있고, 타 전자 장치로 신호를 송신할 수도 있다.
디스플레이(120)는 프로세서(130)의 제어에 의해 수신된 메시지 또는 전송할 메시지를 디스플레이할 수 있다. 예를 들어, 디스플레이(120)는 타 전자 장치로부터 수신된 메시지에 포함된 텍스트 및 이미지를 디스플레이할 수 있다. 또한, 디스플레이(120)는 수신된 메시지에 대응되는 추천 응답 리스트를 디스플레이할 수도 있다. 다만, 이에 한정되는 것은 아니며, 디스플레이(120)는 메시지와는 무관한 동영상 등을 디스플레이할 수도 있다.
그리고, 디스플레이(120)는 LCD(Liquid Crystal Display Panel), OLED(Organic Light Emitting Diodes) 등으로 구현될 수 있으나, 이에 한정되는 것은 아니다. 또한, 디스플레이(120)는 경우에 따라 플렉서블 디스플레이, 투명 디스플레이 등으로 구현되는 것도 가능하다.
프로세서(130)는 수신된 메시지를 분석하여 컨텐츠가 포함되어 있는지 판단할 수 있다. 예를 들어, 프로세서(130)는 컨텐츠에 포함되어 있는 태그 정보를 이용하여 수신된 메시지에 컨텐츠가 포함되어 있다고 판단할 수 있다. 또는, 프로세서(130)는 컨텐츠의 용량 정보에 기초하여 수신된 메시지에 컨텐츠가 포함되어 있는지 판단할 수 있다. 다만, 이에 한정되는 것은 아니며, 프로세서(130)가 컨텐츠가 포함되어 있는지를 판단하는 방법에는 제한이 없다.
프로세서(130)는 수신된 메시지가 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하도록 디스플레이(120)를 제어할 수 있다. 예를 들어, 프로세서(130)는 수신된 메시지에 사진이 포함되어 있으면, 사진을 분석하여 "무슨 사진이야?", “바다 놀러 갔어?”, “제주도네.” 등의 추천 응답 리스트를 디스플레이할 수 있다.
프로세서(130)는 멀티미디어 메시지를 분석하여 컨텐츠 타입의 세부 정보를 추출할 수 있다. 예를 들어, 프로세서(130)는 멀티미디어 메시지가 이미지를 포함하는 경우, 픽셀 간의 색상, 대비 및 명암 정보 중 적어도 하나를 비교하여 윤곽을 추출하고, 추출된 윤곽에 기초하여 어떠한 오브젝트가 이미지 내에 포함되어 있는지 판단할 수 있다. 프로세서(130)는 이미지 내에 포함되어 있는 오브젝트에 기초하여 인물 이미지, 음식 이미지 및 풍경 이미지 등 세부 정보를 추출할 수 있다.
또는, 프로세서(130)는 이미지 내의 색상 정보만을 분석하여 이미지의 세부 정보를 추출할 수도 있다. 예를 들어, 프로세서(130)는 이미지 내에 살색 계통의 색상이 많이 포함되어 있는 경우, 인물 이미지로 판단할 수 있다. 또는, 프로세서(130)는 이미지 내에 녹색 계통의 색상이 많이 포함되어 있는 경우, 풍경 이미지로 판단할 수 있다.
프로세서(130)는 멀티미디어 메시지가 사운드를 포함하는 경우, 사운드에 포함된 태그 정보를 이용하여 사운드의 세부 정보를 추출할 수 있다. 예를 들어, 프로세서(130)는 사운드에 포함되어 있는 태그 정보에 기초하여 사운드가 특정 가수의 음원인 것을 판단할 수 있다. 또는, 프로세서(130)는 사운드 자체를 분석하여 사람의 목소리, 동물의 울음소리, 음악 및 기계음 등의 여부를 판단할 수도 있다.
프로세서(130)는 멀티미디어 메시지가 동영상을 포함하는 경우, 동영상에 포함된 태그 정보를 이용하여 동영상의 세부 정보를 추출할 수 있다. 예를 들어, 프로세서(130)는 동영상에 포함되어 있는 태그 정보에 기초하여 동영상이 영화 중 하나인 것을 판단할 수 있다.
또는, 프로세서(130)는 동영상에 포함되어 있는 사운드를 분석하여 세부 정보를 추출할 수도 있다. 예를 들어, 프로세서(130)는 동영상에 포함되어 있는 사운드가 대부분 음악인 경우, 동영상을 뮤직 비디오라고 판단할 수 있다.
또는, 프로세서(130)는 동영상의 프레임을 분석하여 세부 정보를 추출할 수도 있다. 예를 들어, 프로세서(130)는 동영상의 프레임의 하단에 텍스트가 인식되면, 동영상을 영화라고 판단할 수 있다.
또는, 프로세서(130)는 동영상의 재생 시간에 기초하여 세부 정보를 판단할 수도 있다. 예를 들어, 프로세서(130)는 동영상의 재생 시간이 약 5분 정도면 뮤직 비디오로 판단하고, 재생 시간이 약 한 시간 정도면 드라마로 판단하고, 재생 시간이 약 두 시간 정도면 영화로 판단할 수 있다.
즉, 이상과 같이 프로세서(130)는 컨텐츠에 대한 메타 데이터, 이미지나 동영상으로부터 인식된 오브젝트의 내용에 기초하여 세부 정보를 추출할 수 있다. 프로세서(130)는 컨텐츠에 대한 메타 데이터로 노래 제목, 가수 이름, 배우 이름 등을 미리 구축된 데이터 베이스로부터 검출할 수 있다. 또는, 프로세서(130)는 이미지나 동영상으로부터 인식된 오브젝트로 동물, 건물 이름, 해변, 음식 등을 검출할 수 있다.
프로세서(130)는 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이할 수 있다. 예를 들어, 프로세서(130)는 수신된 메시지에 포함된 사진을 분석하여, 인물 사진이라고 판단되면 "누구 사진이야?", 특정 인물을 인식한 경우에는 “수지 이쁘네.” 등의 추천 응답 리스트를 디스플레이할 수 있다. 사용자 단말 장치(100)는 추천 응답 리스트를 저장하고 있을 수도 있고, 서버 장치로부터 수신할 수도 있다.
한편, 프로세서(130)는 멀티미디어 메시지가 수신되기 전 타 전자 장치의 사용자와의 메시지 내용에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트를 디스플레이할 수 있다. 다만, 프로세서(130)는 멀티미디어 메시지가 수신되기 전으로부터 기설정된 시간 동안의 메시지 내용만을 고려할 수도 있다.
또는, 프로세서(130)는 컨텐츠 타입 및 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
여기서, 프로세서(130)는, 사용자 단말 장치(100)에서 활성화된 기능, 사용자 단말 장치(100)에 구비된 적어도 하나의 센서에 의한 감지 결과, 사용자 단말 장치(100)에 등록된 스케줄 및 사용자 단말 장치의 사용 행태 패턴 중 적어도 하나에 기초하여 사용자의 컨텍스트를 결정할 수 있다.
프로세서(130)는 사용자 단말 장치의 사용 패턴을 분석하여 사용 행태 패턴을 생성할 수 있다. 예를 들어, 프로세서(130)는 저녁 8시부터 10시까지 동영상 재생 어플리케이션이 실행되는 사용 행태가 일정 시점 반복되는 경우, 이러한 정보를 사용 행태 패턴으로 생성할 수 있다.
한편, 프로세서(130)는 사용자 단말 장치(100)의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 멀티미디어 메시지의 타입에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 프로세서(130)는 멀티미디어 메시지에 제1 타입의 컨텐츠 및 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 제1 타입 및 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
또한, 사용자 단말 장치(100)는 컨텐츠의 타입 및 대응되는 추천 응답 리스트가 매핑된 매핑 정보를 저장하는 스토리지를 더 포함하고, 프로세서(130)는 멀티미디어 메시지가 수신되면 스토리지에 저장된 매핑 정보에 기초하여 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
여기서, 프로세서(130)는 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 매핑 정보를 업데이트할 수 있다.
또는, 프로세서(130)는 스토리지에 저장된 매핑 정보를 이용하지 않고, 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 추천 응답 리스트를 실시간으로 자동 생성하여 디스플레이할 수도 있다. 예를 들어, 프로세서(130)는 컨텐츠의 타입 뿐만 아니라 컨텐츠 세부 정보, 사용자 단말 장치에서 활성화된 기능, 센서에 의한 감지 결과, 스케줄 정보, 사용자 정보, 대화 흐름 및 사용 행태 패턴 중 적어도 하나를 고려하여 컨텐츠 타입에 대응되는 추천 응답 리스트를 실시간으로 자동 생성할 수도 있다.
한편, 프로세서(130)는 추천 응답 리스트에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이할 수 있다.
도 2b는 사용자 단말 장치(100)의 세부 구성의 일 예를 나타내는 블럭도이다. 도 2b에 따르면, 사용자 단말 장치(100)는 통신부(110), 디스플레이(120), 프로세서(130), 사용자 인터페이스부(140), 스토리지(150), 오디오 처리부(160), 비디오 처리부(170), 스피커(180), 버튼(181), 카메라(182), 마이크(183)를 포함한다. 도 2b에 도시된 구성요소들 중 도 2a에 도시된 구성요소와 중복되는 부분에 대해서는 자세한 설명을 생략하도록 한다.
프로세서(130)는 스토리지(150)에 저장된 각종 프로그램을 이용하여 사용자 단말 장치(100)의 동작을 전반적으로 제어한다.
구체적으로, 프로세서(130)는 RAM(131), ROM(132), 메인 CPU(133), 그래픽 처리부(134), 제1 내지 n 인터페이스(135-1 ~ 135-n), 버스(136)를 포함한다.
RAM(131), ROM(132), 메인 CPU(133), 그래픽 처리부(134), 제1 내지 n 인터페이스(135-1 ~ 135-n) 등은 버스(136)를 통해 서로 연결될 수 있다.
제1 내지 n 인터페이스(135-1 내지 135-n)는 상술한 각종 구성요소들과 연결된다. 인터페이스들 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다.
메인 CPU(133)는 스토리지(150)에 액세스하여, 스토리지(150)에 저장된 O/S를 이용하여 부팅을 수행한다. 그리고, 스토리지(150)에 저장된 각종 프로그램 등을 이용하여 다양한 동작을 수행한다.
ROM(132)에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴온 명령이 입력되어 전원이 공급되면, 메인 CPU(133)는 ROM(132)에 저장된 명령어에 따라 스토리지(150)에 저장된 O/S를 RAM(131)에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU(133)는 스토리지(150)에 저장된 각종 어플리케이션 프로그램을 RAM(131)에 복사하고, RAM(131)에 복사된 어플리케이션 프로그램을 실행시켜 각종 동작을 수행한다.
그래픽 처리부(134)는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 연산부(미도시)는 수신된 제어 명령에 기초하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산한다. 렌더링부(미도시)는 연산부(미도시)에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성한다. 렌더링부(미도시)에서 생성된 화면은 디스플레이(110)의 디스플레이 영역 내에 표시된다.
한편, 상술한 프로세서(130)의 동작은 스토리지(150)에 저장된 프로그램에 의해 이루어질 수 있다.
스토리지(150)는 사용자 단말 장치(100)를 구동시키기 위한 O/S(Operating System) 소프트웨어 모듈, 메시지 분석 모듈, 이미지 분석 모듈, 사운드 분석 모듈, 동영상 분석 모듈 및 추천 응답 리스트 생성 모듈 등과 같이 다양한 데이터를 저장한다.
이 경우 프로세서(130)는 스토리지(150)에 저장된 정보에 기초하여 수신된 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
사용자 인터페이스부(140)는 다양한 사용자 인터랙션(interaction)을 수신한다. 사용자 단말 장치(100)가 터치 기반의 휴대 단말로 구현되는 경우 사용자 인터페이스부(140)는 터치패드와 상호 레이어 구조를 이루는 터치 스크린 형태로 구현될 수도 있다. 이 경우, 사용자 인터페이스부(140)는 상술한 디스플레이(110)로 사용될 수 있게 된다.
터치 센서(미도시)는 정전식 또는 감압식으로 구현될 수 있다. 정전식 터치 센서는 디스플레이 표면에 코팅된 유전체를 이용하여, 사용자의 신체 일부가 디스플레이 표면에 터치되었을 때 사용자의 인체로 여기되는 미세 전기를 감지하여 터치 좌표를 산출하는 방식의 센서를 의미한다. 감압식 터치 센서는 사용자 단말 장치(100)에 내장된 두 개의 전극 판을 포함하여, 사용자가 터치하였을 경우, 터치된 지점의 상하 판이 접촉되어 전류가 흐르게 되는 것을 감지하여 터치 좌표를 산출하는 방식의 터치 센서를 의미한다. 그 밖에 적외선 감지 방식, 표면 초음파 전도 방식, 적분식 장력측정 방식, 피에조 효과 방식 등이 터치 인터렉션을 감지하는데 이용될 수 있다.
오디오 처리부(160)는 오디오 데이터에 대한 처리를 수행하는 구성요소이다. 오디오 처리부(160)에서는 오디오 데이터에 대한 디코딩이나 증폭, 노이즈 필터링 등과 같은 다양한 처리가 수행될 수 있다.
비디오 처리부(170)는 비디오 데이터에 대한 처리를 수행하는 구성요소이다. 비디오 처리부(170)에서는 비디오 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
스피커(180)는 오디오 처리부(160)에서 처리된 각종 오디오 데이터 뿐만 아니라 각종 알림 음이나 음성 메시지 등을 출력하는 구성요소이다.
버튼(181)은 사용자 단말 장치(100)의 본체 외관의 전면부나 측면부, 배면부 등의 임의의 영역에 형성된 기계적 버튼, 터치 패드, 휠 등과 같은 다양한 유형의 버튼이 될 수 있다.
카메라(182)는 사용자의 제어에 따라 정지 영상 또는 동영상을 촬상하기 위한 구성이다. 카메라(182)는 전면 카메라, 후면 카메라와 같이 복수 개로 구현될 수 있다.
마이크(183)는 사용자 음성이나 기타 소리를 입력받아 오디오 데이터로 변환하기 위한 구성이다.
이하에서는 본 발명의 이해를 돕기 위한 기본 구성과 다양한 실시 예에 대하여 설명한다.
도 3a 내지 도 3c는 추천 응답 리스트(1000)를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다. 프로세서(130)는 수신된 메시지를 분석하여 이미지(10), 사운드(20) 및 동영상(30) 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트(1000)를 디스플레이하도록 디스플레이(120)를 제어할 수 있다.
도 3a는 수신된 메시지에 포함된 컨텐츠의 타입이 이미지(10)인 경우의 추천 응답 리스트(1000)를 나타낸다. 예를 들어, 프로세서(130)는 수신된 메시지를 분석하여 이미지(10)를 포함하는 멀티미디어 메시지라고 판단되면, 이미지(10)에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 추천 응답 리스트(1000)에는 "사진 잘 나왔다.", "네가 직접 찍은 거야?", "무슨 그림이야?"와 같은 메시지가 포함될 수 있다.
도 3b는 수신된 메시지에 포함된 컨텐츠의 타입이 사운드(20)인 경우의 추천 응답 리스트(1000)를 나타낸다. 예를 들어, 프로세서(130)는 수신된 메시지를 분석하여 사운드(20)를 포함하는 멀티미디어 메시지라고 판단되면, 사운드(20)에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 추천 응답 리스트(1000)에는 "노래 좋다.", "잘 때 들으면 좋겠다.", "직접 녹음 한 거야?"와 같은 메시지가 포함될 수 있다. 도 3b에는 사운드(20)를 나타내는 음표가 도시되었으나, 이에 한정되는 것은 아니다. 예를 들어, 수신된 메시지에 포함된 사운드(20)가 mp3 파일이고, mp3 파일에 포함된 태그 정보에 기초하여 대응되는 이미지를 디스플레이할 수도 있다.
프로세서(130)는 수신된 메시지에 포함된 컨텐츠의 타입이 사운드(20)인 경우, 도 3b에 도시된 음표를 터치하는 사용자의 입력에 따라 사운드(20)를 재생할 수 있다. 또는, 프로세서(130)는 사운드(20)의 수신이 완료되면 사용자의 입력이 없더라도 사운드(20)를 재생할 수도 있다.
도 3c는 수신된 메시지에 포함된 컨텐츠의 타입이 동영상(30)인 경우의 추천 응답 리스트(1000)를 나타낸다. 예를 들어, 프로세서(130)는 수신된 메시지를 분석하여 동영상(30)을 포함하는 멀티미디어 메시지라고 판단되면, 동영상(30)에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 추천 응답 리스트(1000)에는 "재밌게 잘 볼게.", "무슨 영상이야?", "누가 찍은 거야?"와 같은 메시지가 포함될 수 있다. 도 3c에는 동영상(30)을 나타내는 대표 썸 네일과 재생을 위한 GUI가 도시되었으나, 이에 한정되는 것은 아니다. 예를 들어, 프로세서(130)는 재생을 위한 GUI만을 디스플레이할 수도 있다. 또는, 프로세서(130)는 동영상(30)의 태그 정보에 대응되는 이미지를 외부 장치로부터 수신하여 디스플레이할 수도 있다.
프로세서(130)는 수신된 메시지에 포함된 컨텐츠의 타입이 동영상(30)인 경우, 도 3c에 도시된 재생을 위한 GUI를 터치하는 사용자의 입력에 따라 동영상(30)을 재생할 수 있다. 또는, 프로세서(130)는 동영상(30)의 수신이 완료되면 사용자의 입력이 없더라도 동영상을 재생할 수도 있다.
도 3a 내지 도 3c에서, 이미지(10), 사운드(20) 및 동영상(30) 중 어느 하나를 포함하는 멀티미디어 메시지가 수신되면, 해당 컨텐츠를 자동으로 수신하는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 프로세서(130)는 메시지에 포함된 텍스트를 먼저 수신하고, 이미지(10), 사운드(20) 및 동영상(30) 중 어느 하나가 메시지에 포함되어 있음을 사용자에게 알릴 수 있다. 프로세서(130)는 사용자가 해당 컨텐츠를 수신하고자 하는 사용자 입력이 있으면, 해당 컨텐츠를 수신하여 사용자에게 제공할 수 있다.
도 4a 및 도 4b는 컨텐츠 타입의 세부 정보에 대응되는 추천 응답 리스트를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다. 프로세서(130)는 멀티미디어 메시지를 분석하여 컨텐츠 타입의 세부 정보를 추출하고, 추출된 세부 정보에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다.
도 4a는 이미지(10)의 세부 정보에 대응되는 추천 응답 리스트(1000)를 나타낸다. 예를 들어, 프로세서(130)는 이미지(10)의 세부 정보로서 인물이 포함되어 있음을 추출할 수 있다. 그리고, 프로세서(130)는 인물 이미지에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 추천 응답 리스트(1000)에는 "예쁘게 잘 나왔는데~", "내가 아는 사람이야?", "연예인 A네. 요즘 잘 나가더라."와 같은 메시지가 포함될 수 있다. 도 3a와 비교하여, 프로세서(130)는 추출된 정보에 기초하여 좀 더 구체적인 추천 응답 리스트(1000)를 제공할 수 있다.
도 4a에서는 이미지(10)의 세부 정보로 인물 이미지인 것으로 도시되어 있으나, 이에 한정되지 않는다. 예를 들어, 프로세서(130)는 이미지(10)의 세부 정보로 음식 이미지, 풍경 이미지 및 동물 이미지 등을 추출할 수 있다.
프로세서(130)는 이미지(10)로부터 세부 정보를 추출하는 방법으로 다양한 방법을 이용할 수 있다. 예를 들어, 프로세서(130)는 이미지 자체를 분석하여 이미지에 포함된 대상을 판단할 수 있다. 또는, 프로세서(130)는 이미지 파일에 포함되어 있는 태그 정보 등을 이용하여 세부 정보를 추출할 수도 있다.
도 4b는 이미지(10) 자체에 포함된 텍스트 정보에 대응되는 추천 응답 리스트(1000)를 나타낸다. 예를 들어, 프로세서(130)는 이미지(10)를 분석하여 이미지(10) 내에 "HAPPY BIRTHDAY"라는 텍스트를 추출할 수 있다. 프로세서(130)는 추출된 텍스트 정보에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 추천 응답 리스트(1000)에는 "고마워~", "어떻게 알았어?", "생일 선물은 뭐야?"와 같은 메시지가 포함될 수 있다.
또는, 프로세서(130)는 텍스트 정보는 고려하지 않고, 컨텐츠의 타입 및 세부 속성에 기초하여 추천 응답 리스트(1000)를 디스플레이할 수도 있다. 예를 들어, 프로세서(130)는 이미지(10)를 분석하여 케익 모형을 추출하고, 그로부터 추천 응답 리스트(1000)를 디스플레이할 수도 있다.
또는, 프로세서(130)는 컨텐츠의 타입 및 텍스트 정보를 모두 고려하여 추천 응답 리스트(1000)를 디스플레이할 수도 있다. 예를 들어, 도 4b의 경우, 프로세서(130)는 "고마워~ 생일 케익 이쁘네~"와 같은 추천 응답 리스트(1000)를 디스플레이할 수도 있다.
도 4a 및 도 4b에서는 이미지(10)에 한정하여 설명하였으나, 사운드(20) 및 동영상(30)에 대하여도 동일한 방법이 적용될 수 있다. 예를 들어, 프로세서(130)는 사운드(20)의 세부 정보로 사람 소리, 동물 소리, 음악 및 기계음 등을 추출할 수 있다. 또는, 프로세서(130)는 동영상(30)의 세부 정보로 뮤직 비디오, 영화, 애니메이션 및 trailer 등을 추출할 수 있다.
프로세서(130)는 사운드(20) 또는 동영상(30) 그 자체를 분석하여 세부 정보를 추출할 수도 있으나, 사운드(20) 또는 동영상(30)의 태그 정보를 이용하여 세부 정보를 추출할 수도 있다.
프로세서(130)는 사운드(20)에 포함된 사람의 발화로부터 텍스트를 추출하여 세부 정보로 이용할 수도 있다. 또는, 프로세서(130)는 동영상(30)의 각 프레임 이미지에 포함된 텍스트 또는 동영상(30)의 음성에 포함된 사람의 발화로부터 텍스트를 추출하여 세부 정보로 이용할 수도 있다.
도 5는 본 발명의 일 실시 예에 따른 멀티미디어 메시지가 수신되기 전의 메시지 내용을 고려하여 추천 응답 리스트(1000)를 제공하는 방법을 설명하기 위한 도면이다.
도 5에 따르면, 프로세서(130)는 멀티미디어 메시지가 수신되기 전 타 전자 장치의 사용자와의 메시지 내용에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 예를 들어, 프로세서(130)는 멀티미디어 메시지를 수신하기 전 사용자가 "어제 찍은 사진 보내줘."와 같은 메시지를 보낸 것을 고려할 수 있다. 프로세서(130)는 수신된 메시지에 이미지(10)가 포함되어 있으면, 사용자가 송신한 메시지에 기초하여 "고마워.", "잘 나왔네.", "다음에 또 찍자."와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다.
프로세서(130)는 사용자가 송신한 메시지를 분석하여, "사진"이란 단어로부터 이미지의 수신을 예상할 수 있다. 만약, 프로세서(130)는 멀티미디어 메시지에 사운드(20) 또는 동영상(30)이 포함되어 있으면, "잘못 보낸 거 같은데~"와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다.
프로세서(130)는 멀티미디어 메시지가 수신되기 전의 기설정된 시간 동안의 메시지 내용에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 예를 들어, 프로세서(130)는 멀티미디어 메시지가 수신되기 한 시간 전 동안의 메시지 내용만을 기초로 하여 멀티머디어 메시지에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 기설정된 시간은 사용자에 의해 설정될 수도 있다.
도 6a 및 도 6b는 사용자의 컨텍스트에 기초하여 대응되는 추천 응답 리스트(1000)를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다. 프로세서(130)는 컨텐츠 타입 및 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다.
프로세서(130)는 사용자 단말 장치(100)에서 활성화된 기능, 사용자 단말 장치(100)에 구비된 적어도 하나의 센서에 의한 감지 결과, 사용자 단말 장치(100)에 등록된 스케줄 및 사용자 단말 장치의 사용 행태 패턴 중 적어도 하나에 기초하여 사용자의 컨텍스트를 결정할 수 있다. 예를 들어, 프로세서(130)는 사용자 단말 장치(100)의 GPS 기능이 활성화되어 있는 경우, 사용자가 운전 중인 것으로 판단할 수 있다. 또는, 프로세서(130)는 조도 센서를 이용하여 사용자 단말 장치(100)의 주변을 어둡다고 감지한 경우, 사용자가 영화관에 있다고 판단할 수 있다.
또는, 프로세서(130)는 사용자 단말 장치(100)에 등록된 스케줄에 기초하여, 사용자가 회의 중인 것으로 판단할 수도 있다.
또는, 프로세서(130)는 사용자 단말 장치(100)가 평상 시 이용되는 사용 행태 패턴에 기초하여 사용자의 컨텍스트를 결정할 수도 있다. 예를 들어, 프로세서(130)는 아침 7시부터 8시까지 한 시간 동안 뉴스 어플리케이션이 실행되는 사용 행태 정보로부터 사용자가 독서 중인 것으로 판단할 수도 있다.
사용자 단말 장치(100)에서 활성화된 기능, 사용자 단말 장치(100)에 구비된 적어도 하나의 센서에 의한 감지 결과 및 사용자 단말 장치(100)에 등록된 스케줄 중 적어도 하나와 그에 대응되는 사용자의 컨텍스트는 사용자가 직접 설정할 수도 있다. 예를 들어, 사용자는 블루투스 기능이 활성화되어 있는 경우에는 음악을 듣는 것으로 사용자의 컨텍스트를 설정해둘 수 있다. 또는, 사용자는 사용자 단말 장치(100)의 주변이 어둡다고 감지되면 수면 중인 것으로 사용자의 컨텍스트를 설정해둘 수 있다.
도 6a는 사용자가 운전 중에 이미지(10)를 포함하는 멀티미디어 메시지를 수신한 경우를 나타낸다. 프로세서(130)는 멀티미디어 메시지를 수신한 시점에 GPS 기능이 활성화되어 있어, 사용자의 컨텍스트를 사용자가 운전 중인 것으로 판단할 수 있다. 프로세서(130)는 사용자가 운전 중이고 멀티미디어 메시지에 이미지(10)가 포함되어 있으면, 사용자의 시선을 분산시키지 않기 위해 "멋지네. 운전 중인데 멈추면 자세히 보고 싶네.", "지금 운전 중이야. 이따 전화할게."와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다. 다만, 이에 한정되는 것은 아니며, 프로세서(130)는 사용자가 운전 중이더라도 멀티미디어 메시지에 사운드(20)가 포함되어 있으면, 사용자의 컨텍스트를 고려하지 않고 추천 응답 리스트(1000)를 디스플레이할 수도 있다. 사운드(20)는 사용자의 시선을 분산시키지 않기 때문이다.
도 6b는 사용자가 회의 중에 사운드(20)를 포함하는 멀티미디어 메시지를 수신한 경우를 나타낸다. 프로세서(130)는 멀티미디어 메시지를 수신한 시점의 사용자 단말 장치(100)에 등록된 스케줄 정보에 기초하여, 사용자의 컨텍스트를 사용자가 회의 중인 것으로 판단할 수 있다. 프로세서(130)는 사용자가 회의 중이고 멀티미디어 메시지에 사운드(20)가 포함되어 있으면, 사용자의 회의를 방해하지 않기 위해 "회의 끝나고 들을게.", "지금은 회의 중입니다."와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다. 다만, 이에 한정되는 것은 아니며, 프로세서(130)는 사용자가 회의 중이더라도 멀티미디어 메시지에 이미지(10)가 포함되어 있으면, 사용자의 컨텍스트를 고려하지 않고 추천 응답 리스트(1000)를 디스플레이할 수도 있다. 이미지(10)는 사용자의 회의를 방해하지 않기 때문이다.
또는, 프로세서(130)는 사용자의 컨텍스트를 고려하지 않을 수도 있다. 예를 들어, 프로세서(130)는 멀티미디어 메시지를 수신한 시점에서 사용자가 집에서 쉬고 있는 경우라면, 사용자의 컨텍스트를 고려하지 않고 컨텐츠 타입만을 고려하여 추천 응답 리스트(1000)를 디스플레이할 수 있다. 또는, 프로세서(130)는 사용자의 컨텍스트가 판단되지 않는 경우, 컨텐츠 타입만을 고려하여 추천 응답 리스트(1000)를 디스플레이할 수 있다.
도 7a 및 도 7b는 사용자 정보에 기초하여 추천 응답 리스트를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다. 프로세서(130)는 사용자 단말 장치(100)의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 멀티미디어 메시지의 타입에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다.
도 7a는 여성 사용자가 이미지(10)를 포함하는 멀티미디어 메시지를 수신한 경우를 나타낸다. 프로세서(130)는 멀티미디어 메시지를 분석하여 컨텐츠의 타입이 이미지(10)이고 세부 정보로 인물 이미지인 것을 추출할 수 있다. 프로세서(130)는 사용자 단말 장치(100)에 저장되어 있는 사용자 정보로부터 사용자가 여성인 것을 추출할 수 있고, 사용자 정보에 기초하여 "머리 어디서 했어?", "삔 얼마야?"와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다.
프로세서(130)는 사용자 단말 장치(100)에 저장되어 있는 사용자 정보를 이용할 수도 있으나, 외부 전자 장치로부터 사용자 정보를 수신할 수도 있다. 예를 들어, 프로세서(130)는 사용자 단말 장치(100)가 가입되어 있는 통신사로부터 사용자의 정보를 수신할 수도 있다. 또는, 프로세서(130)는 사용자 단말 장치(100)에서 이용된 SNS 등의 서버로부터 사용자의 정보를 수신할 수도 있다.
도 7b는 남성 사용자가 이미지(10)를 포함하는 멀티미디어 메시지를 수신한 경우를 나타낸다. 프로세서(130)는 멀티미디어 메시지를 분석하여 컨텐츠의 타입이 이미지(10)이고 세부 정보로 인물 이미지인 것을 추출할 수 있다. 프로세서(130)는 사용자 단말 장치(100)에 저장되어 있는 사용자 정보로부터 사용자가 남성인 것을 판단할 수 있고, 사용자 정보에 기초하여 "소개시켜줘.", "결혼했어?"와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다.
이상에서 프로세서(130)는 성별을 사용자의 정보로서 고려하는 것으로 설명하였으나, 프로세서(130)는 사용자의 성별, 학교, 직업, 키, 몸무게, 연봉 및 관심사 등을 사용자 정보로서 고려할 수도 있다.
또한, 프로세서(130)는 사용자의 정보 뿐만 아니라 메시지를 송수신하는 타 전자 장치의 사용자의 정보도 고려하여 추천 응답 리스트(1000)를 디스플레이할 수도 있다. 예를 들어, 반지 이미지를 포함하는 메시지가 수신된 경우, 프로세서(130)는 타 전자 장치의 사용자가 단순히 친구인 경우에는 "와이프한테 사주려고?"와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다. 또는, 프로세서(130)는 타 전자 장치의 사용자가 와이프인 경우에는 "사줄까?"와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있으나, 단순히 이성 친구인 경우에는 "사고 싶어?", "남편한테 사달라고 해"와 같은 추천 응답 리스트(1000)를 디스플레이할 수도 있다.
도 8은 본 발명의 일 실시 예에 따른 복수의 타입의 컨텐츠가 포함된 멀티미디어 메시지가 수신된 경우를 설명하기 위한 도면이다.
도 8에 따르면, 프로세서(130)는 멀티미디어 메시지에 제1 타입의 컨텐츠 및 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 제1 타입 및 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 예를 들어, 프로세서(130)는 멀티미디어 메시지에 이미지(10)와 동영상(30)이 포함된 경우, 이미지(10)에 대응되는 "이야~ 맛있겠다.", 동영상(30)에 대응되는 "이 영화 개봉했어?"와 같은 추천 응답 리스트(1000)를 디스플레이할 수 있다. 또는, 프로세서(130)는 이미지(10) 및 동영상(30) 모두를 고려하여 "영화에서 캡쳐한 이미지야?"와 같은 추천 응답 리스트(1000)를 디스플레이할 수도 있다.
도 8에서는 복수의 타입의 컨텐츠가 각각 다른 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 프로세서(130)는 멀티미디어 메시지에 제1 타입의 컨텐츠가 복수 개 포함된 경우, 제1 타입에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 예를 들어, 프로세서(130)는 복수의 이미지(10)가 포함된 멀티미디어 메시지가 수신된 경우, 이미지(10)에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수 있다. 또는, 프로세서(130)는 복수의 이미지(10) 각각의 세부 정보를 추출하여 복수의 세부 정보 중 적어도 하나에 대응되는 추천 응답 리스트(1000)를 디스플레이할 수도 있다.
도 9는 본 발명의 일 실시 예에 따른 컨텐츠의 타입 및 대응되는 추천 응답 리스트(1000)가 매핑된 매핑 정보를 설명하기 위한 도면이다.
도 9에 따르면, 사용자 단말 장치(100)는 컨텐츠의 타입 및 대응되는 추천 응답 리스트가 매핑된 매핑 정보를 저장하는 스토리지(150)를 더 포함할 수 있고, 프로세서(130)는 멀티미디어 메시지가 수신되면 스토리지(150)에 저장된 매핑 정보에 기초하여 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 추천 응답 리스트를 디스플레이할 수 있다. 예를 들어, 컨텐츠의 타입은 이미지(10), 사운드(20), 비디오(30)의 대분류로 구분될 수 있다. 그리고, 각각의 컨텐츠 타입은 세부 정보들로 구성된 중분류로 구분될 수 있다. 예를 들어, 이미지(10)에 대한 세부 정보는 음식 이미지, 인물 이미지 등일 수 있다. 각각의 세부 정보에는 대응되는 추천 응답들이 포함되어 있을 수 있다. 예를 들어, 음식 이미지에는 "맛있겠다.", "음식점이 어디야?". " 직접 만든 거야?"와 같은 추천 응답이 포함되어 있을 수 있다.
한편, 도면에 도시하진 않았으나, 상술한 실시 예들에 대한 구체적인 카테고리가 구분되어 있을 수도 있다. 예를 들어, 음식 이미지에 대응되는 추천 응답들은 사용자의 정보, 사용자의 컨텍스트 등에 따라 세부적으로 구분될 수 있다.
프로세서(130)는 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 매핑 정보를 업데이트할 수 있다. 예를 들어, 프로세서(130)는 추천 응답 리스트(1000)에 포함된 추천 응답과는 다른 메시지가 작성되어 전송된 경우, 해당 메시지를 저장해둘 수 있다.
프로세서(130)는 추천 응답 리스트(1000)를 생성하며 분류했던 컨텐츠의 타입 등을 고려하여 스토리지(150)에 저장될 위치를 결정하고, 전송된 메시지를 업데이트할 수 있다. 예를 들어, 프로세서(130)는 컨텐츠의 타입 및 세부 정보로서 음식 이미지를 추출하고 그에 대응되는 추천 응답 리스트를 디스플레이한 경우, 사용자가 별도로 작성한 메시지를 음식 이미지에 대응되는 추천 응답으로 저장할 수 있다.
도 10a 및 도 10b는 추천 응답을 전송 또는 편집하기 위한 GUI를 디스플레이하는 방법의 일 예를 설명하기 위한 도면이다. 프로세서(130)는 추천 응답 리스트(1000)에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이할 수 있다.
도 10a는 추천 응답을 전송하기 위한 제1 GUI(1010-1, 1010-2) 및 추천 응답을 편집하기 위한 제2 GUI(1020-1, 1020-2)를 나타낸다. 예를 들어, 프로세서(130)는 제1 GUI(1010-1)를 터치하는 사용자 입력이 있는 경우, 추천 응답 리스트(1000)의 "맛있겠다."를 전송할 수 있다. 또는, 프로세서(130)는 제2 GUI(1020-1)를 터치하는 사용자 입력이 있는 경우, 추천 응답 리스트(1000)의 "맛있겠다."를 편집할 수 있는 UI를 디스플레이할 수 있다. 이 경우, 프로세서(130)는 "맛있겠다."를 UI에 포함시켜 디스플레이할 수 있다.
도 10b는 추천 응답을 전송 및 편집하기 위한 다른 실시 예를 나타낸다. 예를 들어, 프로세서(130)는 추천 응답 리스트(1000)의 "맛있겠다."를 터치하는 사용자 입력이 있는 경우, "맛있겠다."를 전송할 수 있다. 추천 응답을 편집하는 방법은 도 10a와 동일하므로 생략한다.
도 10a 및 도 10b에는 추천 응답 자체를 터치하거나 별도의 GUI를 터치하는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 프로세서(130)는 추천 응답을 숏 터치하는 경우 추천 응답을 전송하고, 추천 응답을 롱 터치하는 경우 추천 응답을 편집할 수도 있다. 또는, 프로세서(130)는 추천 응답을 터치하는 경우 추천 응답을 전송하고, 추천 응답을 터치 앤 드래그하여 메시지를 입력하는 창으로 가져오는 경우 추천 응답을 편집할 수도 있다.
이상에서는 사용자 단말 장치(100)가 메시지를 분석하고, 대응되는 추천 응답 리스트(1000)를 디스플레이하는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 사용자 단말 장치(100)는 메시지를 서버 장치로 전송하고, 서버 장치에서 생성된 추천 응답 리스트(1000)를 수신하여 디스플레이할 수도 있다. 이에 대해서는 도 11에서 설명한다.
도 11은 본 발명의 다른 실시 예에 따른 서버 장치(200)가 메시지를 분석하고, 추천 응답 리스트(1000)를 제공하는 방법을 설명하기 위한 도면이다.
서버 장치(200)는 수신 메시지 형태 분류기(210), 자연어 분석기(220), 멀티미디어 컨텐츠 분석기(230), 대화 관리자(240), 응답 메시지 생성기(250), 언어 모델 DB(260), 멀티미디어 분류 모델 DB(270) 및 멀티미디어 Meta DB(280)를 포함한다.
수신 메시지 형태 분류기(210)는 수신한 메시지를 분석하여 텍스트는 자연어 분석기(220)로 전달하고, 텍스트를 제외한 나머지 데이터는 멀티미디어 컨텐츠 분석기(230)로 전달할 수 있다.
자연어 분석기(220)는 종래의 텍스트 메시지 분석 모듈과 동일하며, 언어 모델 DB(260)를 활용하여 형태소, 구문, 의미 등을 분석할 수 있다. 자연어 분석기(220)는 분석 결과를 대화 관리자(240)로 전달할 수 있다.
멀티미디어 컨텐츠 분석기(230)는 멀티미디어 분류 모델 DB(270)를 활용하여 컨텐츠의 타입, 세부 정보 등을 추출하고, 멀티미디어 Meta DB(280)를 활용하여 컨텐츠의 부가 정보를 추출, 분석할 수 있다. 멀티미디어 컨텐츠 분석기(230)는 추출, 분석된 결과를 대화 관리자(240)로 전달할 수 있다.
대화 관리자(240)는 자연어 분석기(220) 또는 멀티미디어 컨텐츠 분석기(230)로부터 전달받은 데이터를 기초로 하여 현재 대화 상태를 판단할 수 있습니다. 대화 관리자(240)는 현재 대화 상태를 기반으로 예측되는 응답 형태를 추론할 수 있다. 대화 관리자는(240)는 대화 상태 및 응답 형태를 응답 메시지 생성기(250)로 전달할 수 있다. 대화 상태는 대화 세션 내 문맥, 수신한 멀티미디어 컨텐츠의 분석 결과가 모두 포함될 수 있다.
응답 메시지 생성기(250)는 언어 모델 DB(260)를 활용하여 현재 대화 상태와 응답 형태에 대응되는 추천 응답을 생성할 수 있다. 응답 메시지 생성기(250)는 생성된 추천 응답을 사용자 단말 장치(100)로 전송할 수 있다.
도 11에서는 서버 장치(200)에서 컨텐츠를 분석하고 추천 응답을 생성하는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 서버 장치(200)는 각각 컨텐츠를 분석하는 분석 서버 및 추천 응답을 생성하는 응답 생성 서버로 구분될 수도 있다.
도 12는 본 발명의 일 실시 예에 따른 사용자 단말 장치의 응답 메시지 추천 방법을 설명하기 위한 흐름도이다.
먼저, 사용자 단말 장치는 타 전자 장치와 통신을 수행하여 메시지를 수신한다(S1210). 그리고, 수신된 메시지를 디스플레이한다(S1220). 그리고, 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이한다(S1230).
또한, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 멀티미디어 메시지를 분석하여 컨텐츠 타입의 세부 정보를 추출하는 단계 및 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이하는 단계를 포함할 수 있다.
그리고, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 멀티미디어 메시지가 수신되기 전 타 전자 장치의 사용자와의 메시지 내용에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
또한, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 컨텐츠 타입 및 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 멀티미디어 메시지에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 사용자 단말 장치에서 활성화된 기능, 사용자 단말 장치에 구비된 적어도 하나의 센서에 의한 감지 결과, 사용자 단말 장치에 등록된 스케줄, 및 사용자 단말 장치의 사용 행태 패턴 중 적어도 하나에 기초하여 사용자의 컨텍스트를 결정하는 단계를 더 포함할 수 있다.
또한, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 사용자 단말 장치의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 멀티미디어 메시지의 타입에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 멀티미디어 메시지에 제1 타입의 컨텐츠 및 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 제1 타입 및 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
또한, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 멀티미디어 메시지가 수신되면, 컨텐츠의 타입 및 대응되는 추천 응답 리스트가 매핑된 매핑 정보에 기초하여 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 추천 응답 리스트를 디스플레이할 수 있다.
그리고, 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 매핑 정보를 업데이트하는 단계를 더 포함할 수 있다.
또한, 추천 응답 리스트를 디스플레이하는 단계(S1230)는 추천 응답 리스트에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이할 수 있다.
도 13은 본 발명의 일 실시 예에 따른 사용자 단말 장치의 응답 메시지 추천 방법을 구체적으로 설명하기 위한 흐름도이다.
먼저, 사용자 단말 장치는 타 전자 장치와 통신을 수행하여 메시지를 수신한다(S1310). 그리고, 메시지의 컨텐츠 타입을 분석한다(S1320). 컨텐츠의 타입을 분석하여 멀티미디어 메시지인지 판단한다(S1330). 멀티미디어 메시지는 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 메시지일 수 있다. 또는, 멀티미디어 메시지는 이미지, 사운드 및 동영상 중 하나일 수 있다.
사용자 단말 장치는 수신된 메시지가 멀티미디어 메시지가 아니라고 판단되면, 아무런 동작을 수행하지 않을 수 있다. 예를 들어, 사용자 단말 장치는 수신된 메시지가 텍스트 메시지인 경우, 아무런 동작을 수행하지 않을 수 있다. 다만, 텍스트 메시지에 대한 추천 응답 리스트를 제공할 수도 있고, 이는 일반적인 기술이므로 생략한다.
사용자 단말 장치는 수신된 메시지가 멀티미디어 메시지라고 판단되면, 컨텐츠 타입의 세부 정보를 추출한다(S1340). 예를 들어, 이미지가 포함된 메시지라면, 사용자 단말 장치는 컨텐츠 타입의 세부 정보로 풍경 이미지, 인물 이미지, 음식 이미지 등을 결정할 수 있다.
그리고, 사용자 단말 장치는 컨텐츠의 타입, 컨텐츠 타입의 세부 정보에 기초하여 실시간으로 추천 응답 리스트를 생성하거나 매핑 테이블을 검색하여 추천 응답 리스트를 생성할 수 있다(S1350). 특히, 사용자 단말 장치는 타 전자 장치의 사용자와의 이전 대화 내용 또는 어법, 사용자의 현재 컨텍스트, 사용자 단말 장치에 구비된 센서에 의해 감지될 결과, 사용자 단말 장치에서 분석된 사용 행태 패턴 및 사용자의 연령대 및 성별 등의 사용자 정보 중 적어도 하나에 기초하여 추천 응답 리스트를 생성할 수 있다.
그리고, 사용자 단말 장치는 추천 응답 리스트를 디스플레이한다(S1360).
이상과 같은 본 발명의 다양한 실시 예에 따르면, 사용자 단말 장치는 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 제공하여, 멀티미디어 메시지를 수신한 경우에도 사용자가 용이하게 응답 메시지를 전송할 수 있다.
한편, 상술한 본 발명의 다양한 실시 예들에 따른 사용자 단말 장치의 응답 메시지 추천 방법은 컴퓨터에서 실행 가능한 프로그램 코드로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장된 상태로 프로세서에 의해 실행되도록 각 서버 또는 기기들에 제공될 수 있다.
일 예로, 타 전자 장치와 통신을 수행하여 메시지를 수신하는 단계, 수신된 메시지를 디스플레이하는 단계 및 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하는 단계를 순차적으로 수행하는 프로그램이 저장된 비일시적 판독 가능 매체(non-transitory computer readable medium)가 제공될 수 있다.
비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100 : 사용자 단말 장치 110 : 통신부
120 : 디스플레이 130 : 프로세서
140 : 사용자 인터페이스부 150 : 스토리지
160 : 오디오 처리부 170 : 비디오 처리부
180 : 스피커 181 : 버튼
182 : 카메라 183 : 마이크

Claims (20)

  1. 사용자 단말 장치에 있어서,
    타 전자 장치와 통신을 수행하여 메시지를 수신하는 통신부;
    상기 수신된 메시지를 디스플레이하는 디스플레이; 및
    상기 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 상기 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하도록 상기 디스플레이를 제어하는 프로세서;를 포함하는 사용자 단말 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 멀티미디어 메시지를 분석하여 상기 컨텐츠 타입의 세부 정보를 추출하고, 상기 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  3. 제1항에 있어서,
    상기 프로세서는,
    상기 멀티미디어 메시지가 수신되기 전 상기 타 전자 장치의 사용자와의 메시지 내용에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  4. 제1항에 있어서,
    상기 프로세서는,
    상기 컨텐츠 타입 및 상기 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  5. 제4항에 있어서,
    상기 프로세서는,
    상기 사용자 단말 장치에서 활성화된 기능, 상기 사용자 단말 장치에 구비된 적어도 하나의 센서에 의한 감지 결과, 상기 사용자 단말 장치에 등록된 스케줄 및 상기 사용자 단말 장치에서의 사용 행태 패턴 중 적어도 하나에 기초하여 상기 사용자의 컨텍스트를 결정하는 것을 특징으로 하는 사용자 단말 장치.
  6. 제1항에 있어서,
    상기 프로세서는,
    상기 사용자 단말 장치의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 상기 멀티미디어 메시지의 타입에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  7. 제1항에 있어서,
    상기 프로세서는,
    상기 멀티미디어 메시지에 제1 타입의 컨텐츠 및 상기 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 상기 제1 타입 및 상기 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  8. 제1항에 있어서,
    상기 컨텐츠의 타입 및 대응되는 상기 추천 응답 리스트가 매핑된 매핑 정보를 저장하는 스토리지;를 더 포함하고,
    상기 프로세서는,
    상기 멀티미디어 메시지가 수신되면 상기 스토리지에 저장된 상기 매핑 정보에 기초하여 상기 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  9. 제8항에 있어서,
    상기 프로세서는,
    상기 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 상기 매핑 정보를 업데이트하는 것을 특징으로 하는 사용자 단말 장치.
  10. 제1항에 있어서,
    상기 프로세서는,
    상기 추천 응답 리스트에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이하는 것을 특징으로 하는 사용자 단말 장치.
  11. 사용자 단말 장치의 응답 메시지 추천 방법에 있어서,
    타 전자 장치와 통신을 수행하여 메시지를 수신하는 단계;
    상기 수신된 메시지를 디스플레이하는 단계; 및
    상기 수신된 메시지를 분석하여 이미지, 사운드 및 동영상 중 적어도 하나를 포함하는 멀티미디어 메시지라고 판단되면, 상기 멀티미디어 메시지에 포함된 컨텐츠의 타입에 대응되는 추천 응답 리스트를 디스플레이하는 단계;를 포함하는 응답 메시지 추천 방법.
  12. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 멀티미디어 메시지를 분석하여 상기 컨텐츠 타입의 세부 정보를 추출하는 단계; 및
    상기 추출된 세부 정보에 대응되는 추천 응답 리스트를 디스플레이하는 단계;를 포함하는 응답 메시지 추천 방법.
  13. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 멀티미디어 메시지가 수신되기 전 상기 타 전자 장치의 사용자와의 메시지 내용에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 응답 메시지 추천 방법.
  14. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 컨텐츠 타입 및 상기 멀티미디어 메시지가 수신된 시점의 사용자의 컨텍스트 중 적어도 하나에 기초하여 상기 멀티미디어 메시지에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 응답 메시지 추천 방법.
  15. 제14항에 있어서,
    상기 사용자 단말 장치에서 활성화된 기능, 상기 사용자 단말 장치에 구비된 적어도 하나의 센서에 의한 감지 결과, 상기 사용자 단말 장치에 등록된 스케줄 및 상기 사용자 단말 장치에서의 사용 행태 패턴 중 적어도 하나에 기초하여 상기 사용자의 컨텍스트를 결정하는 단계;를 더 포함하는 것을 특징으로 하는 응답 메시지 추천 방법.
  16. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 사용자 단말 장치의 사용자의 연령대 및 성별 중 적어도 하나에 기초하여 상기 멀티미디어 메시지의 타입에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 응답 메시지 추천 방법.
  17. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 멀티미디어 메시지에 제1 타입의 컨텐츠 및 상기 제1 타입과는 다른 제2 타입의 컨텐츠가 포함된 경우, 상기 제1 타입 및 상기 제2 타입 중 적어도 하나에 대응되는 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 응답 메시지 추천 방법.
  18. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 멀티미디어 메시지가 수신되면, 상기 컨텐츠의 타입 및 대응되는 상기 추천 응답 리스트가 매핑된 매핑 정보에 기초하여 상기 멀티미디어 메시지에 포함된 컨텐츠 타입에 대응되는 상기 추천 응답 리스트를 디스플레이하는 것을 특징으로 하는 응답 메시지 추천 방법.
  19. 제18항에 있어서,
    상기 멀티미디어 메시지에 대한 사용자의 응답을 컨텐츠 타입 별로 저장하여 상기 매핑 정보를 업데이트하는 단계;를 더 포함하는 것을 특징으로 하는 응답 메시지 추천 방법.
  20. 제11항에 있어서,
    상기 추천 응답 리스트를 디스플레이하는 단계는,
    상기 추천 응답 리스트에 포함된 적어도 하나의 응답 각각을 전송하기 위한 제1 GUI 및 적어도 하나의 응답 각각을 편집하기 위한 제2 GUI 중 적어도 하나를 디스플레이하는 것을 특징으로 하는 응답 메시지 추천 방법.
KR1020150157681A 2015-11-10 2015-11-10 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법 KR102393928B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020150157681A KR102393928B1 (ko) 2015-11-10 2015-11-10 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법
PCT/KR2016/008719 WO2017082519A1 (ko) 2015-11-10 2016-08-09 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법
CN201680065412.0A CN108353103B (zh) 2015-11-10 2016-08-09 用于推荐响应消息的用户终端设备及其方法
US15/771,814 US10721194B2 (en) 2015-11-10 2016-08-09 User terminal device for recommending response to a multimedia message based on age or gender, and method therefor
EP16864445.8A EP3352438B1 (en) 2015-11-10 2016-08-09 User terminal device for recommending response message and method therefor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020150157681A KR102393928B1 (ko) 2015-11-10 2015-11-10 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20170054919A true KR20170054919A (ko) 2017-05-18
KR102393928B1 KR102393928B1 (ko) 2022-05-04

Family

ID=58695630

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020150157681A KR102393928B1 (ko) 2015-11-10 2015-11-10 응답 메시지를 추천하는 사용자 단말 장치 및 그 방법

Country Status (5)

Country Link
US (1) US10721194B2 (ko)
EP (1) EP3352438B1 (ko)
KR (1) KR102393928B1 (ko)
CN (1) CN108353103B (ko)
WO (1) WO2017082519A1 (ko)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102174346B1 (ko) 2015-12-21 2020-11-04 구글 엘엘씨 메시징 애플리케이션들을 위한 자동적인 제안들 및 다른 콘텐츠
CN108781175B (zh) 2015-12-21 2021-09-21 谷歌有限责任公司 用于消息交换题绪的自动建议的方法、介质及系统
US10387461B2 (en) 2016-08-16 2019-08-20 Google Llc Techniques for suggesting electronic messages based on user activity and other context
US20180081500A1 (en) * 2016-09-19 2018-03-22 Facebook, Inc. Systems and methods for content engagement
US10015124B2 (en) * 2016-09-20 2018-07-03 Google Llc Automatic response suggestions based on images received in messaging applications
CN109952572B (zh) * 2016-09-20 2023-11-24 谷歌有限责任公司 基于消息贴纸的建议响应
WO2018057536A1 (en) 2016-09-20 2018-03-29 Google Llc Bot requesting permission for accessing data
US10416846B2 (en) 2016-11-12 2019-09-17 Google Llc Determining graphical element(s) for inclusion in an electronic communication
CN108075959B (zh) * 2016-11-14 2021-03-12 腾讯科技（深圳）有限公司 一种会话消息处理方法和装置
WO2018135841A1 (en) * 2017-01-17 2018-07-26 Samsung Electronics Co., Ltd. Message generation method and wearable electronic device for supporting the same
TWI754694B (zh) * 2017-03-21 2022-02-11 香港商阿里巴巴集團服務有限公司 通訊方法及裝置
US10860854B2 (en) 2017-05-16 2020-12-08 Google Llc Suggested actions for images
US10404636B2 (en) 2017-06-15 2019-09-03 Google Llc Embedded programs and interfaces for chat conversations
US10348658B2 (en) 2017-06-15 2019-07-09 Google Llc Suggested items for use with embedded applications in chat conversations
US10680978B2 (en) * 2017-10-23 2020-06-09 Microsoft Technology Licensing, Llc Generating recommended responses based on historical message data
US10891526B2 (en) 2017-12-22 2021-01-12 Google Llc Functional image archiving
KR20200121064A (ko) * 2019-04-15 2020-10-23 라인플러스 주식회사 이벤트 메시지를 관리하기 위한 방법, 시스템, 및 비-일시적인 컴퓨터 판독가능한 기록 매체
WO2020226650A1 (en) * 2019-05-09 2020-11-12 Google Llc Automated assistant suggestions for third-party vehicle computing devices with restricted architecture
CN110929151A (zh) * 2019-11-20 2020-03-27 咪咕文化科技有限公司 用户推荐方法、电子设备和存储介质
US11924153B2 (en) * 2020-12-31 2024-03-05 Snap Inc. Messaging user interface element with reminders
WO2022232127A1 (en) * 2021-04-30 2022-11-03 Dathomir Laboratories Llc Text suggestion based on environmental context
WO2023079537A1 (en) * 2021-11-08 2023-05-11 Tobii Dynavox Ab Methods of input and interaction with an augmentative and alternative communications (aac) device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1070602A (ja) * 1996-08-28 1998-03-10 Casio Comput Co Ltd 通信端末
US20070070979A1 (en) * 2005-09-23 2007-03-29 Airwide Solutions, Inc. Context-sensitive multimedia message service response

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20050020911A (ko) 2003-08-23 2005-03-04 엠씨오 주식회사 지능형 멀티미디어메시지 서비스 시스템 및 방법
KR20070059459A (ko) 2005-12-06 2007-06-12 삼성전자주식회사 멀티미디어 메시징 자동 응답 서비스 방법 및 시스템
FR2910143B1 (fr) 2006-12-19 2009-04-03 Eastman Kodak Co Procede pour predire automatiquement des mots dans un texte associe a un message multimedia
US8078978B2 (en) 2007-10-19 2011-12-13 Google Inc. Method and system for predicting text
KR100989233B1 (ko) 2008-12-30 2010-10-20 주식회사 케이티 통신 단말에서의 메시지 작성창 제공 방법 및 이를 위한 통신 단말
KR101134597B1 (ko) 2009-09-03 2012-04-09 한국과학기술원 멀티미디어 컨텐츠와 메타데이터를 분리하여 저장하는 웹스토리지 서비스 제공방법 및 장치
KR101612788B1 (ko) * 2009-11-05 2016-04-18 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR20110092124A (ko) 2010-02-08 2011-08-17 (주)아이디미디어 휴대전화 단문 문자메시지 서비스 및 멀티미디어 메시지 서비스에 대한 자동응답 문자메시지 발송 서비스 및 그 방법
EP2381265B1 (en) 2010-04-20 2013-09-11 STMicroelectronics Srl System for performing the test of digital circuits
US9317835B2 (en) * 2011-03-08 2016-04-19 Bank Of America Corporation Populating budgets and/or wish lists using real-time video image analysis
US9858343B2 (en) 2011-03-31 2018-01-02 Microsoft Technology Licensing Llc Personalization of queries, conversations, and searches
JP6087899B2 (ja) * 2011-03-31 2017-03-01 マイクロソフト テクノロジー ライセンシング，エルエルシー 会話ダイアログ学習および会話ダイアログ訂正
US9760566B2 (en) * 2011-03-31 2017-09-12 Microsoft Technology Licensing, Llc Augmented conversational understanding agent to identify conversation context between two humans and taking an agent action thereof
US8589407B2 (en) 2011-06-17 2013-11-19 Google Inc. Automated generation of suggestions for personalized reactions in a social network
US8972323B2 (en) 2012-06-14 2015-03-03 Microsoft Technology Licensing, Llc String prediction
US9195645B2 (en) 2012-07-30 2015-11-24 Microsoft Technology Licensing, Llc Generating string predictions using contexts
CN103079008B (zh) * 2013-01-07 2015-05-27 播思通讯技术（北京）有限公司 根据短信内容自动生成回复建议的方法和系统
KR20140133337A (ko) * 2013-05-10 2014-11-19 삼성전자주식회사 음식의 조리 정보를 제공하는 시스템 및 방법
US8996639B1 (en) * 2013-10-15 2015-03-31 Google Inc. Predictive responses to incoming communications
KR20150055448A (ko) * 2013-11-13 2015-05-21 엘지전자 주식회사 이동 단말기 및 그것의 제어방법
KR101491843B1 (ko) * 2013-11-13 2015-02-11 네이버 주식회사 대화 기반 검색 도우미 시스템 및 그 방법

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1070602A (ja) * 1996-08-28 1998-03-10 Casio Comput Co Ltd 通信端末
US20070070979A1 (en) * 2005-09-23 2007-03-29 Airwide Solutions, Inc. Context-sensitive multimedia message service response

Also Published As

Publication number Publication date
EP3352438B1 (en) 2019-06-05
US10721194B2 (en) 2020-07-21
KR102393928B1 (ko) 2022-05-04
WO2017082519A1 (ko) 2017-05-18
CN108353103A (zh) 2018-07-31
EP3352438A4 (en) 2018-10-24
EP3352438A1 (en) 2018-07-25
US20180309706A1 (en) 2018-10-25
CN108353103B (zh) 2022-04-05

Similar Documents

Publication Publication Date Title
CN108353103B (zh) 用于推荐响应消息的用户终端设备及其方法
US11863837B2 (en) Notification of augmented reality content on an electronic device
US20200257415A1 (en) Identifying applications on which content is available
KR102054633B1 (ko) 주변 장치들과 무선 페어링하고 주변 장치들에 관한 상태 정보를 디스플레이하기 위한 디바이스들, 방법들, 및 그래픽 사용자 인터페이스들
CN106502638B (zh) 用于提供视听反馈的设备、方法和图形用户界面
CN105009062B (zh) 浏览被显示为瓦块的电子消息
US10642574B2 (en) Device, method, and graphical user interface for outputting captions
US20200183499A1 (en) Apparatus, system, and method for transferring data from a terminal to an electromyography (emg) device
KR20230006421A (ko) 디스플레이 장치 및 그 제어 방법
EP3335410B1 (en) Electronic apparatus and notification displaying method for electronic apparatus
JP6253639B2 (ja) コンテンツのオートネーミング遂行方法及びその装置、並びに記録媒体
US11671696B2 (en) User interfaces for managing visual content in media
US20220391603A1 (en) Content translation user interfaces
KR20160065670A (ko) 컨텐트를 제공하는 방법 및 디바이스
US12001642B2 (en) User interfaces for managing visual content in media
US20230164296A1 (en) Systems and methods for managing captions
CN114845152B (zh) 播放控件的显示方法、装置、电子设备及存储介质
CN110109730A (zh) 用于提供视听反馈的设备、方法和图形用户界面
AU2017330785A1 (en) Electronic apparatus and controlling method thereof
US20220248101A1 (en) User interfaces for indicating and/or controlling content item playback formats
KR20160108103A (ko) 사용자 단말 장치, 디지털 사이니지 장치 및 그 제어 방법들
US20170220317A1 (en) Electronic apparatus and control program of electronic apparatus
US11650867B2 (en) Providing access to related content in media presentations
US20230396854A1 (en) Multilingual captions
US20230118567A1 (en) Camera user interface with recording space management

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)