KR102546510B1 - 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치 - Google Patents

복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
KR102546510B1
KR102546510B1 KR1020180032444A KR20180032444A KR102546510B1 KR 102546510 B1 KR102546510 B1 KR 102546510B1 KR 1020180032444 A KR1020180032444 A KR 1020180032444A KR 20180032444 A KR20180032444 A KR 20180032444A KR 102546510 B1 KR102546510 B1 KR 102546510B1
Authority
KR
South Korea
Prior art keywords
content
data
input
electronic device
processor
Prior art date
Application number
KR1020180032444A
Other languages
English (en)
Other versions
KR20190110690A (ko
Inventor
최윤정
송이슬
김나혜
김희운
조민경
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020180032444A priority Critical patent/KR102546510B1/ko
Priority to EP19164398.0A priority patent/EP3547107B1/en
Priority to US16/360,175 priority patent/US10853024B2/en
Publication of KR20190110690A publication Critical patent/KR20190110690A/ko
Application granted granted Critical
Publication of KR102546510B1 publication Critical patent/KR102546510B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/60—Information retrieval; Database structures therefor; File system structures therefor of audio data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545—Pens or stylus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847—Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485—Scrolling or panning
    • G06F3/04855—Interaction with scrollbars
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/16—Speech classification or search using artificial neural networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048—Indexing scheme relating to G06F3/048
    • G06F2203/04803—Split screen, i.e. subdividing the display area or the window area into separate subareas

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 일 실시 예는, 마이크, 터치스크린 디스플레이, 프로세서, 및 메모리를 포함하고, 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 마이크를 통하여 입력되는 음성의 리코딩을 지원하는 제1 인터페이스 및 사용자의 정보 입력을 지원하는 제2 인터페이스를 포함하는 어플리케이션의 실행 화면을 출력하고, 상기 제1 인터페이스를 기반으로 리코딩된 제1 시점의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑하여 저장하고, 지정된 정보에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 검색하기 위한 사용자 입력을 수신하고, 상기 사용자 입력에 대응하여 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 수집하고, 상기 수집된 적어도 하나의 음성 데이터를 텍스트 데이터로 변환하고, 상기 변환된 텍스트 데이터를 출력하도록 하는 인스트럭션들(instructions)을 저장하는 전자 장치를 개시한다. 이 외에도 명세서를 통하여 파악되는 다양한 실시 예가 가능하다.

Description

복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치{Method for providing information mapped between plurality inputs and electronic device supporting the same}
본 문서에서 개시되는 다양한 실시 예들은, 복수의 입력 간에 매핑된 정보 제공 기술과 관련된다.
근래의 전자 장치는 사용자와의 인터렉션(interaction)을 지향하기 위한 일환으로 다양한 입력 방식을 지원하고 있다. 예를 들어, 전자 장치는 SIP(software input panel) 자판 또는 스타일러스 펜(stylus pen) 등을 이용한 입력 방식을 비롯하여, 사용자 발화에 따른 음성 기반의 입력 방식을 지원할 수 있다. 또는, 전자 장치는 상술된 입력 방식들을 복합적으로 운용하는 멀티모달 인터페이스(multimodal interface) 입력 방식을 지원할 수 있다.
전자 장치는 특정 이벤트에 관계되는 정보의 기록과 관련하여, 사용자로부터 멀티모달 인터페이스 입력을 수신할 수 있다. 예를 들어, 전자 장치는 상기 이벤트와 관계된 음성 입력을 수신하여 리코딩(recording)하고, 동시에 상기 음성과 유관의 정보를 포함하는 콘텐츠 입력(예: 텍스트 입력 등)을 수신하여 저장할 수 있다. 이 때, 전자 장치는 동일한 이벤트에 기인되는 리코딩 데이터와 콘텐츠 데이터를 개별적으로 처리하는 바, 상기 동일한 이벤트에 대한 정보들(예: 리코딩 정보 및 콘텐츠 정보)을 복합적으로 확인하고자 하는 사용자 니즈(needs)를 충족시키지 못하거나, 편의를 제공하지 못할 수 있다.
본 문서에서 개시되는 다양한 실시 예들은, 멀티모달 인터페이스 입력에 따른 데이터들을 지정된 기준에 따라 매핑(mapping)하여 연계적으로 제공할 수 있는, 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치를 제공할 수 있다.
일 실시 예에 따른 전자 장치는, 적어도 하나의 마이크, 터치스크린 디스플레이, 상기 적어도 하나의 마이크 및 상기 터치스크린 디스플레이와 전기적으로 연결되는 적어도 하나의 프로세서, 및 상기 적어도 하나의 프로세서와 전기적으로 연결되는 메모리를 포함할 수 있다.
일 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 터치스크린 디스플레이를 통하여 상기 적어도 하나의 마이크를 통하여 입력되는 음성의 리코딩(recording)을 지원하는 제1 인터페이스 및 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스를 포함하는 지정된 어플리케이션의 실행 화면을 출력하고, 상기 메모리에 상기 제1 인터페이스를 기반으로 리코딩된 제1 시점(time)의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑(mapping)하여 저장하고, 지정된 콘텐츠에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 검색하기 위한 사용자 입력을 수신하고, 상기 사용자 입력에 대응하여 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 수집하고, 상기 수집된 적어도 하나의 음성 데이터를 텍스트 데이터로 변환하고, 상기 터치스크린 디스플레이를 통하여 상기 변환된 텍스트 데이터를 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
일 실시 예에 따른 전자 장치의 복수의 입력 간에 매핑된(mapped) 정보 제공 방법은, 상기 전자 장치에 입력되는 음성의 리코딩(recording)을 지원하는 제1 인터페이스 및 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스를 포함하는 지정된 어플리케이션의 실행 화면을 출력하는 동작, 상기 제1 인터페이스를 기반으로 리코딩된 제1 시점(time)의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑(mapping)하여 저장하는 동작, 지정된 콘텐츠에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 검색하기 위한 사용자 입력을 수신하는 동작, 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 수집하는 동작, 상기 수집된 적어도 하나의 음성 데이터를 텍스트 데이터로 변환하는 동작, 및 상기 변환된 텍스트 데이터를 출력하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 동일한 이벤트에 관계되는 리코딩 데이터 및 콘텐츠 데이터(예: 텍스트 데이터 등)를 지정된 기준에 따라 매핑(mapping))시킴으로써, 상호 매핑된 데이터들에 관계되는 정보들을 복합적으로 제공할 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 운용 일례를 도시한 도면이다.
도 2는 일 실시 예에 따른 전자 장치의 구성을 도시한 도면이다.
도 3a는 일 실시 예에 따른 전자 장치의 제1 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 3b는 일 실시 예에 따른 전자 장치의 제2 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 3c는 일 실시 예에 따른 전자 장치의 제3 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 3d는 일 실시 예에 따른 전자 장치의 리코딩 재생에 대응하는 그래픽 효과 표시 형태를 도시한 도면이다.
도 4는 일 실시 예에 따른 전자 장치의 제4 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 5는 다른 실시 예에 따른 전자 장치의 제4 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 6은 일 실시 예에 따른 전자 장치의 제5 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 7a는 일 실시 예에 따른 전자 장치의 제6 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 7b는 일 실시 예에 따른 전자 장치의 제7 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 7c는 일 실시 예에 따른 전자 장치의 제7 사용자 입력 처리와 관계되는 특정 정보 등록 형태를 도시한 도면이다.
도 8은 일 실시 예에 따른 전자 장치의 복수의 입력 간에 매핑된 정보 제공 방법을 도시한 도면이다.
도 9는 일 실시 예에 따른 네트워크 환경 내의 전자 장치를 도시한 도면이다.
도면의 설명과 관련하여, 동일 또는 대응되는 구성요소에 대해서는 동일한 참조 번호가 부여될 수 있다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크톱 PC (desktop PC), 랩탑 PC(laptop PC), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라, 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면 웨어러블 장치는 엑세서리 형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체 형(예: 전자 의복), 신체 부착 형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식 형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD 플레이어(Digital Video Disk player), 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSync™, 애플TV™, 또는 구글 TV™), 게임 콘솔(예: Xbox™, PlayStation™), 전자 사전, 전자 키, 캠코더, 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시 예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 내비게이션(navigation) 장치, 위성 항법 시스템(GNSS(Global Navigation Satellite System)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시 예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 운용 일례를 도시한 도면이다.
도 1을 참조하면, 전자 장치(100)는 사용자 제어에 대응하여 지정된 입력 인터페이스 기반의 사용자 필기 입력을 지원하는 어플리케이션(예: 노트 어플리케이션)을 실행하고, 상기 어플리케이션의 실행 화면(133)을 출력할 수 있다. 일 실시 예에서, 상기 입력 인터페이스는 전자 장치(100)의 화면 일 영역으로 출력되는 SIP(software input panel) 자판(30) 또는 전자 장치(100)에 탑재된 스타일러스 펜(40)(stylus pen) 중 적어도 하나를 포함할 수 있다. 이와 관련하여, 상기 어플리케이션의 실행 화면(133)에는 상기 사용자 필기 입력을 지원하는 입력 인터페이스를 지정(또는, 사용자 필기 입력 방식을 설정)하기 위한 적어도 하나의 메뉴 탭(tap)(134 및/또는 136)이 제공될 수 있다. 예를 들어, 제1 메뉴 탭(134)에 사용자 입력(예: 터치)이 인가되는 경우, 전자 장치(100)는 SIP 자판(30)을 출력할 수 있으며, 사용자는 상기 SIP 자판(30)을 이용한 텍스트 입력을 수행할 수 있다. 또는, 제2 메뉴 탭(136)에 사용자 입력(예: 터치)이 인가되는 경우, 전자 장치(100)는 상기 스타일러스 펜(40)의 신호를 검출할 수 있으며, 사용자는 스타일러스 펜(40)을 이용한 핸드라이팅(handwriting) 입력을 수행할 수 있다. 상술에 따르면, 사용자 필기 입력은 상기 SIP 자판(30) 또는 스타일러스 펜(40)을 기반으로 하는 텍스트 입력 또는 마킹 입력(예: 비문법적 별표, 밑줄, 물결 또는 체크 등)을 포괄하는 의미로 이해될 수 있으며, 이하에서 상기 사용자 필기 입력은 콘텐츠 입력으로 명명될 수 있다.
일 실시 예에서, 상기 어플리케이션의 실행 화면(133)은 전자 장치(100)에 탑재된 리코딩(recording) 기능을 운용하기 위한 제1 인터페이스(10)를 포함할 수 있다. 전자 장치(100)는 상기 제1 인터페이스(10)에 대한 사용자 제어에 대응하여, 상기 전자 장치(100)의 운용 환경에서 발생하는 음성(또는, 전자 장치(100)가 수신하는 음성)을 리코딩하여 저장하거나, 저장된 리코딩 데이터를 출력시킬 수 있다. 또한, 상기 어플리케이션의 실행 화면(133)은 임의의 정보 기입을 위한 제2 인터페이스(20)를 포함할 수 있다. 전자 장치(100)는 상기 정보 기입과 관련한 사용자의 콘텐츠 입력을 수신하여 제2 인터페이스(20)의 적어도 일 영역으로 표시할 수 있다. 일 실시 예에 따르면, 상기 제2 인터페이스(20)는 입력되는 콘텐츠의 양, 크기 또는 위치 등에 따라 상하 또는 좌우 방향의 스크롤 형태로 확장될 수 있다.
일 실시 예에서, 전자 장치(100)는 제1 인터페이스(10)에 대한 사용자 제어에 대응하여 수신되는 음성 입력을 리코딩하는 동시에, 사용자의 콘텐츠 입력을 수신하여 제2 인터페이스(20) 상에 표시할 수 있다. 예를 들어, 전자 장치(100)는 동일한 이벤트(예: 강의 등)에 관계되는 음성 입력 및 콘텐츠 입력을 수신하여 리코딩 또는 화면 표시를 수행할 수 있다. 이 동작에서, 전자 장치(100)는 상기 리코딩되는 데이터 및 입력되는 콘텐츠 데이터를 동일 시점(time) 기준으로 매핑하여 저장할 수 있다. 예를 들어, 전자 장치(100)는 동일한 시점에 리코딩된 데이터 및 입력된 콘텐츠 데이터를 상호 매핑하여 데이터베이스로 저장하거나, 인덱스(index) 형태로 저장할 수 있다.
일 실시 예에서, 전자 장치(100)는 제1 인터페이스(10) 또는 제2 인터페이스(20)에 인가되는 사용자 입력에 응답하여, 상기 사용자 입력으로부터 요청 또는 선택되는 제1 데이터에 매핑된 제2 데이터를 시각적 또는 청각적으로 제공할 수 있다. 예를 들어, 전자 장치(100)는 제1 인터페이스(10)에 대한 사용자 제어로부터 제1 시점에 리코딩된 데이터가 요청되는 경우, 상기 제1 시점의 리코딩 데이터 요청에 응답하는 동시에, 상기 데이터베이스 또는 인텍스를 참조하여 상기 제1 시점의 리코딩 데이터와 매핑된(또는, 제1 시점에 입력된) 콘텐츠 데이터를 시각적으로 명시할 수 있다. 유사하게, 전자 장치(100)는 제2 인터페이스(20)에 대한 사용자 제어로부터 제2 시점에 입력된 콘텐츠가 선택되는 경우, 상기 제2 시점의 콘텐츠 선택에 응답하는 동시에, 상기 제2 시점의 콘텐츠 데이터와 매핑된(또는, 제2 시점에 리코딩된) 리코딩 데이터를 시각적 또는 청각적으로 제공할 수 있다. 이하에서는, 동일 시점(time)에 생성 또는 입력되는 데이터들(예: 리코딩 데이터 및 콘텐츠 데이터)의 매핑을 기반으로 사용자 입력에 응답하여 정보를 제공하는 다양한 실시 예 및 이를 구현하는 전자 장치(100) 구성요소들의 기능 동작에 대하여 살펴보기로 한다.
도 2는 일 실시 예에 따른 전자 장치의 구성을 도시한 도면이다.
도 2를 참조하면, 전자 장치(100)는 통신 회로(110), 입출력 장치(120), 메모리(130), 디스플레이(140) 또는 프로세서(150) 중 적어도 하나를 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치(100)는 상술한 구성요소들 중 적어도 하나를 생략하거나, 다른 구성요소를 추가적으로 포함할 수 있다. 예를 들어, 전자 장치(100)는 상기 구성요소들로 전력을 공급하는 전원 공급 장치(예: 배터리), 전자 장치(100) 주변 영역에 대한 영상(예: still image 또는 video 등) 촬영을 지원하는 카메라 장치(예: 전방 카메라 및/또는 후방 카메라) 또는 전자 장치(100) 운용 환경에 대한 각종 정보를 센싱하는 센서 장치(예: 근접 센서, 조도 센서, 가속도 센서, 지문 인식 센서 또는 홍채 인식 센서 등) 등을 더 포함할 수 있다. 또는, 전자 장치(100)는 후술되는 도 9를 통하여 언급될 전자 장치(901)의 구성요소들을 더 포함할 수 있다. 이하 설명되는 전자 장치(100) 구성요소들의 기능 동작 중 적어도 일부는 메모리(130)에 저장된 적어도 하나의 명령어를 기반으로 하는 프로세서(150)의 제어 하에 구현되는 것으로 이해될 수 있다.
상기 통신 회로(110)는 전자 장치(100)와 적어도 하나의 외부 장치(200) 간의 통신을 지원할 수 있다. 예를 들어, 통신 회로(110)는 상기 적어도 하나의 외부 장치(200)와 규정된 프로토콜(protocol)에 따른 네트워크(300)를 구축하고, 유선 통신 또는 무선 통신을 기반으로 네트워크(300)에 접속함으로써, 상기 적어도 하나의 외부 장치(300)로 신호 또는 데이터를 전송하거나, 상기 적어도 하나의 외부 장치(300)로부터 신호 또는 데이터를 수신할 수 있다. 다양한 실시 예에 따르면, 상기 적어도 하나의 외부 장치(300)는 전자 장치(100)와 동종의 장치(예: 모바일 장치 등) 또는 이종의 장치(예: 서버 등)를 포함할 수 있다.
상기 입출력 장치(120)는 전술된 음성 입력 또는 콘텐츠 입력을 수신 또는 지원할 수 있다. 예를 들어, 입출력 장치(120)는 전자 장치(100)의 일 영역으로 탑재되거나, 전자 장치(100) 상에서 출력되거나, 또는 전자 장치(100)에 연결되는 적어도 하나의 마이크, SIP 자판(도 1의 30), 키보드, 마우스, 터치 패드 또는 스타일러스 펜(도 1의 40) 등을 포함할 수 있으며, 상기 음성 입력 또는 콘텐츠 입력에 따른 신호 또는 데이터를 수신하거나, 전자 장치(100)로 전달할 수 있다. 또는, 입출력 장치(120)는 전자 장치(100)의 일 영역으로 탑재되는 적어도 하나의 스피커를 포함할 수 있으며, 전자 장치(100)에서 생성되거나, 적어도 하나의 외부 장치(200)로부터 수신하는 음성 신호 또는 데이터를 상기 전자 장치(100)의 외부로 출력할 수 있다. 일 실시 예에서, 입출력 장치(120)의 적어도 일부(예: 적어도 하나의 마이크 등)는 항시 활성화 상태(예: always on)로 제어되거나, 전술된 제1 인터페이스(도 1의 10)에 사용자 입력(예: 터치)이 인가되는 경우 트리거(trigger)되어 활성화될 수 있다. 일 실시 예에서, 입출력 장치(120)는 상기 마이크를 통하여 입력되는 음성 신호 또는 데이터를 리코딩(recording)하는 리코딩 모듈을 포함할 수 있다.
상기 메모리(130)는 전자 장치(100) 운용과 관계되는 적어도 하나의 신호 또는 데이터를 저장하거나, 전자 장치(100) 구성요소들의 기능 동작과 관계되는 적어도 하나의 명령어를 저장할 수 있다. 예를 들어, 메모리(130)는 상기 입출력 장치(120)를 기반으로 입력되는 음성 데이터, 콘텐츠 데이터 또는 상기 음성에 대한 리코딩 데이터를 저장할 수 있다. 일 실시 예에서, 메모리(130)는 상기 리코딩 데이터 또는 콘텐츠 데이터의 저장과 관련하여, 프로세서(150)의 제어 하에 매핑되는 특정 시점(time)의 리코딩 데이터 및 콘텐츠 데이터를 데이터베이스 또는 인덱스 형태로 저장할 수 있다. 이 동작에서, 프로세서(150)는 상기 매핑된 특정 시점의 리코딩 데이터 및 콘텐츠 데이터에 대한 식별 정보로써, 상기 특정 시점 정보를 데이터베이스 또는 인덱스에 포함시킬 수 있다. 일 실시 예에서, 메모리(130)는 전자 장치(100) 제조 시 프리로드(preloaded) 형태로 탑재되거나, 온라인 마켓(예: 앱 스토어(app store))으로부터 서드 파티(third party) 형태로 다운로드 받는 적어도 하나의 어플리케이션(131)을 저장할 수 있다. 일 실시 예에 따르면, 상기 적어도 하나의 어플리케이션(131)은 상기 입출력 장치(120)(예: 리코딩 모듈 등)의 기능 동작(예: 입력되는 음성 데이터에 대한 리코딩) 제어 또는 사용자의 정보 기입(예: 콘텐츠 입력) 중 적어도 하나를 지원하는 어플리케이션(예: 노트 어플리케이션)을 포함할 수 있다.
상기 디스플레이(140)는 각종 화면을 출력할 수 있다. 예를 들어, 디스플레이(140)는 사용자 제어 또는 지정된 스케줄링 정보에 대응하여 전자 장치(100)의 운용 화면(예: 홈 화면 또는 어플리케이션(131)의 실행 화면(도 1의 133) 등)을 출력할 수 있다. 또는, 디스플레이(140)는 상기 전자 장치(100)의 운용 화면 상에 사용자 입력(예: 콘텐츠 입력)에 따른 텍스트 또는 마킹(예: 비문법적 별표, 밑줄, 물결 또는 체크 등)을 표시할 수 있다. 다양한 실시 예에서, 디스플레이(140)는 디스플레이 패널, 커버 글라스 및 터치 패널(또는, 터치 센서)을 포함하는 터치스크린 디스플레이로 구현될 수 있다. 상기 디스플레이 패널은 지정된 구동 신호에 기초하여 관련 화면을 출력할 수 있다. 이와 관련하여, 디스플레이(140)는 상기 디스플레이 패널로 구동 신호를 전달하는 디스플레이 구동 회로를 포함할 수 있다. 상기 디스플레이 구동 회로는 디스플레이 패널과 전기적으로 연결되어, 프로세서(150)로부터 수신한 콘텐츠 정보에 대응하는 구동 신호를 지정된 프레임률(frame rate)로 상기 디스플레이 패널에 전달할 수 있다. 상기 커버 글라스는 디스플레이 패널의 상부로 배치되어 상기 디스플레이 패널의 화면 출력에 따른 광을 투과시킬 수 있다. 또한, 상기 커버 글라스의 적어도 일 영역에는 사용자 신체(예: 손가락) 또는 스타일러스 펜(도 1의 40)에 의한 사용자 입력(예: 터치, 드래그, 프레스 또는 호버링 등)이 인가될 수 있다. 상기 터치 패널은 사용자 입력(예: 터치, 드래그, 프레스 또는 호버링 등)에 따른 신호를 검출(예: 정전식 검출, 감압식 검출, 적외선 방식 검출 또는 초음파 방식 검출 등)하여 전기적 신호로 출력하고, 상기 전기적 신호에 대한 정보를 터치 컨트롤러(예: 터치 IC) 또는 프로세서(150)로 전달할 수 있다.
상기 프로세서(150)는 중앙처리장치(central processing unit), 어플리케이션 프로세서(application processor) 또는 커뮤니케이션 프로세서(communication processor) 중 적어도 하나로 구현되어, 상술된 전자 장치(100)의 구성요소(예: 통신 회로(110), 입출력 장치(120), 메모리(130) 또는 디스플레이(140) 등)를 제어할 수 있다. 예를 들어, 프로세서(150)는 적어도 하나의 구성요소와 전기적 또는 기능적으로 연결되어, 구성요소로 기능 동작과 관계되는 적어도 하나의 명령어를 전달하거나, 각종 연산 또는 데이터 처리 등을 수행할 수 있다. 일 실시 예에서, 프로세서(150)는 지정된 어플리케이션(예: 노트 어플리케이션)의 실행을 기반으로 생성 또는 입력되는 복수의 데이터(예: 음성 입력의 리코딩에 따른 리코딩 데이터 및 콘텐츠 입력에 따른 콘텐츠 데이터)를 지정된 기준(예: 생성 또는 입력 시점(time))에 기초하여 매핑시킬 수 있다. 일 실시 예에서, 프로세서(150)는 상기 매핑된 데이터들을 참조하여, 상기 어플리케이션의 실행 화면 또는 설정 화면 상에 인가되는 사용자 입력에 응답할 수 있다. 예를 들어, 프로세서(150)는 특정 데이터를 요청 또는 선택하는 사용자 입력에 대응하여, 상기 요청 또는 선택을 처리하는 동시에, 상기 특정 데이터와 매핑된 데이터를 시각적으로 명시하거나, 청각적으로 제공할 수 있다. 이와 관련한 프로세서(150)의 다양한 기능 동작에 대해서는 이하 참조되는 도면들을 통하여 설명하기로 한다.
도 3a, 도 3b 및 도 3c는 일 실시 예에 따른 전자 장치의 다양한 사용자 입력에 대한 응답 형태를 도시한 도면이고, 도 3d는 일 실시 예에 따른 전자 장치의 리코딩 재생에 대응하는 그래픽 효과 표시 형태를 도시한 도면이다.
도 3a, 도 3b, 도 3c 또는 도 3d에서, 전자 장치(100)의 프로세서(도 2의 150)는 지정된 어플리케이션(예: 노트 어플리케이션)의 실행을 통하여 생성 또는 입력된 특정 이벤트의 리코딩 데이터 및 콘텐츠 데이터의 매핑을 수행한 상태에서, 상기 어플리케이션에 대한 사용자 제어에 따라 상기 리코딩 데이터의 재생 지원 및 상기 콘텐츠 데이터를 표시하는 어플리케이션의 실행 화면(135)을 출력할 수 있다. 이하의 다른 도면에서 참조되는 상기 어플리케이션의 실행 화면(135)은 상술한 바와 동일한 유형으로 출력될 수 있으며, 이에 대한 중복적인 기재는 생략될 수 있다.
도 3a를 참조하면, 전자 장치(100)의 프로세서(150)는 소정 시간 범위 동안 리코딩된 리코딩 데이터의 출력(또는, 재생)을 지원하는 제1 인터페이스(10) 및 상기 소정 시간 범위 동안 사용자로부터 입력된 콘텐츠(예: 텍스트 또는 마킹(비문법적 별표, 밑줄, 물결 또는 체크 등))를 표시하는 제2 인터페이스(20)를 포함하는 어플리케이션의 실행 화면(135)을 출력할 수 있다. 일 실시 예에서, 프로세서(150)는 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 특정 콘텐츠를 선택하는 제1 사용자 입력(예: 터치)을 수신할 수 있다. 이 경우, 프로세서(150)는 상기 제1 사용자 입력이 인가된 적어도 하나의 스트로크(stroke)를 식별하고, 식별된 적어도 하나의 스트로크를 포함하는 단위, 구 또는 형태소의 콘텐츠(예: 복수의 스트로크로 구성된 텍스트(천지창조))에 지정된 그래픽 효과(예: 지정된 색상 표시 또는 점멸 표시 등)를 부여할 수 있다. 또는, 프로세서(150)는 상기 제1 사용자 입력이 인가된 콘텐츠(예: 단일의 스트로크(stroke)로 구성된 마킹)에 상기 지정된 그래픽 효과를 부여할 수 있다.
일 실시 예에서, 프로세서(150)는 상기 제1 사용자 입력에 따른 콘텐츠에 상기 지정된 그래픽 효과를 부여하는 동작에서, 메모리(도 2의 130) 상의 데이터베이스 또는 인덱스를 참조하여 상기 그래픽 효과가 부여된 콘텐츠와 매핑된 리코딩 데이터를 식별할 수 있다. 예를 들어, 프로세서(150)는 상기 그래픽 효과가 부여된 콘텐츠의 최초 스트로크 입력 시점과 동일한 시점으로 리코딩된 리코딩 데이터를 식별할 수 있다. 일 실시 예에서, 프로세서(150)는 제1 인터페이스(10)의 일 영역으로 식별된 리코딩 데이터의 재생 지점을 명시할 수 있다. 이와 관련하여, 상기 제1 인터페이스(10)는 상기 소정 시간 동안 리코딩된 리코딩 데이터의 재생 상태를 나타내는 상태 바(bar)를 포함할 수 있으며, 프로세서(150)는 상기 상태 바 상에서 식별된 리코딩 데이터의 재생 지점(예: 00:02:47)에 이동 바(11)를 위치시킬 수 있다. 일 실시 예에 따르면, 제1 인터페이스(10)는 상기 소정 시간 동안 리코딩된 리코딩 데이터의 재생 또는 재생 정지를 제어하기 위한 적어도 하나의 객체를 포함할 수 있다. 프로세서(150)는 상기 식별된 리코딩 데이터의 재생 지점(예: 00:02:47)에 이동 바(11)가 위치된 상태에서 재생 객체에 사용자 입력(예: 터치)이 인가되는 경우, 입출력 장치(도 2의 120)(예: 스피커)를 제어하여 상기 식별된 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다.
도 3b를 참조하면, 프로세서(150)는 제1 인터페이스(10)에 포함된 이동 바(11)의 위치를 제어하는 제2 사용자 입력(예: 드래그)을 수신할 수 있다. 이 경우, 프로세서(150)는 메모리(130)의 데이터베이스 또는 인덱스틀 참조하여, 상기 제2 사용자 입력에 따라 이동 바(11)가 위치하는 지점(예: 00:02:47)에 대응하는 리코딩 데이터를 식별할 수 있다. 프로세서(150)는 식별된 리코딩 데이터와 매핑된(또는, 식별된 리코딩 데이터가 리코딩된 시점(time)과 동일 시점으로 입력된) 콘텐츠 데이터를 식별하고, 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 상기 식별된 콘텐츠 데이터에 해당하는 콘텐츠(21)에 상기 지정된 그래픽 효과를 부여할 수 있다. 프로세서(150)는 제1 인터페이스(10)에 포함된 재생 객체에 사용자 입력(예: 터치)이 인가되는 경우, 상기 이동 바(11)가 위치한 재생 지점(예: 00:02:47)에 대응하는 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다.
도 3c를 참조하면, 제1 인터페이스(10)에 포함되는 상기 상태 바의 주변 영역에는, 특정 재생 지점의 리코딩 데이터와 매핑된 콘텐츠 데이터에 관계되는 섬네일(thumbnail) 객체(13)가 표시될 수 있다. 일 실시 예에서, 적어도 하나의 섬네일 객체(13) 중 어느 하나에 제3 사용자 입력(예: 터치)이 인가되는 경우, 프로세서(150)는 상기 상태 바 상에서 상기 제3 사용자 입력이 인가된 섬네일 객체(13)의 위치에 대응하는 재생 지점(예: 00:57:13)으로 이동 바(11)를 위치시킬 수 있다. 또한, 프로세서(150)는 상기 제3 사용자 입력이 인가된 섬네일 객체(13)에 대응하는(또는, 선택된 섬네일 객체(13)의 위치에 대응하는 재생 지점(예: 00:57:13)의 리코딩 데이터와 매핑된) 콘텐츠 데이터를 식별하고, 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 상기 식별된 콘텐츠 데이터에 해당하는 콘텐츠(22)에 상기 지정된 그래픽 효과를 부여할 수 있다. 프로세서(150)는 제1 인터페이스(10)에 포함된 재생 객체에 사용자 입력(예: 터치)이 인가되는 경우, 상기 이동 바(11)가 위치한 재생 지점(예: 00:57:13)에 대응하는 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다.
도 3d를 참조하면, 프로세서(150)는 전술된 제1 사용자 입력(예: 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 특정 콘텐츠를 선택하는 터치)에 따라 제1 인터페이스(10)에 포함된 이동 바(11)가 상기 제1 사용자 입력과 관계되는 콘텐츠 데이터에 매핑된 리코딩 데이터의 재생 지점(예: 00:02:47)으로 이동된 상태에서, 상기 제1 인터페이스(10) 상의 재생 객체(15)에 인가되는 사용자 입력(예: 터치)을 수신할 수 있다. 이 경우, 프로세서(150)는 상기 이동 바(11)가 위치한 재생 지점(예: 00:02:47)에 대응하는 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다. 이 동작에서, 프로세서(150)는 메모리(130) 상의 데이터베이스 또는 인덱스를 참조하여 상기 음성 출력의 경과에 따라 이동 바(11)가 이동하는 지점에 해당하는 리코딩 데이터 및 매핑된 콘텐츠 데이터를 식별할 수 있다. 예를 들어, 프로세서(150)는 상기 음성 출력의 경과에 따라 이동 바(11)가 제1 재생 지점(00:02:47)으로부터 제2 재생 지점(00:02:49)로 이동하는 경우, 상기 제2 재생 지점(00:02:49)에 해당하는 리코딩 데이터와 매핑된 콘텐츠 데이터를 식별할 수 있다. 프로세서(150)는 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 상기 식별된 콘텐츠 데이터에 해당하는 제1 콘텐츠(23a)에 지정된 그래픽 효과를 부여할 수 있다. 상기 제1 콘텐츠(23a)에 그래픽 효과를 부여한 후, 프로세서(150)는 상술과 유사하게 음성 출력 경과에 따른 이동 바(11)의 위치 이동에 따라, 제3 재생 지점(00:02:51)에 대응하는 제2 콘텐츠(23b) 및 제4 재생 지점(00:02:53)에 대응하는 제3 콘텐츠(23c)에 순차적으로 지정된 그래픽 효과를 부여할 수 있다. 다양한 실시 예에 따르면, 상술된 음성 출력의 경과에 따라 상기 콘텐츠들(23a, 23b 및 23c)에 순차적으로 그래픽 효과를 부여하는 구성은, 도 3b 또는 도 3c에서 이동 바(11)가 위치한 재생 지점의 리코딩 데이터를 기점으로 하는 음성 출력 시에도 동일 또는 유사하게 적용될 수 있다.
도 4 및 도 5는 다양한 실시 예에 따른 전자 장치의 제4 사용자 입력에 대한 응답 형태를 도시한 도면이고, 도 6은 일 실시 예에 따른 전자 장치의 제5 사용자 입력에 대한 응답 형태를 도시한 도면이다.
도 4를 참조하면, 전자 장치(100)의 프로세서(도 2의 150)는 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 특정 콘텐츠(예: 천지창조)를 선택하는 제4 사용자 입력(예: 더블 터치)을 수신할 수 있다. 이 경우, 프로세서(150)는 전술된 제1 사용자 입력(예: 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 특정 콘텐츠를 선택하는 터치)에 대한 응답과 유사하게, 제1 인터페이스(10)에 포함된 이동 바(11)를 상기 제4 사용자 입력과 관계되는 콘텐츠 데이터에 매핑된 리코딩 데이터의 재생 지점(예: 00:02:47)으로 위치시킬 수 있다. 또한, 프로세서(150)는 메모리(도 2의 130) 상의 데이터베이스 또는 인덱스를 참조하여, 상기 제4 사용자 입력과 관계되는 콘텐츠 데이터에 매핑된 리코딩 데이터(예: 재생 지점 00:02:47에 해당하는 리코딩 데이터)로부터 지정된 시간(예: 20초) 이전에 리코딩된 리코딩 데이터(예: 재생 지점 00:02:27에 해당하는 리코딩 데이터)를 식별할 수 있다. 프로세서(150)는 식별된 리코딩 데이터를 텍스트 형태로 변환하고, 상기 변환된 텍스트(51)를 포함하는 제3 인터페이스(50)를 출력할 수 있다. 일 실시 예에서, 프로세서(150)는 상기 제3 인터페이스(50)의 일 영역으로 인가되는 사용자 입력(예: 터치)에 대응하여 상기 텍스트(51)로 변환되기 이전의 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다.
도 5를 참조하면, 프로세서(150)는 전자 장치(100)에 탑재된 리코딩 기능을 운용하기 위한 제1 인터페이스(100) 및 임의의 정보 기입을 위한 제2 인터페이스(미도시)(예: 도 1의 20)를 포함하는 어플리케이션(예: 노트 어플리케이션)의 실행 화면(133)을 출력할 수 있다. 일 실시 예에서, 프로세서(150)는 상기 실행 화면(133)의 일 영역으로 제공되는 제3 메뉴 탭(137)(예: 더보기 메뉴 탭)을 이용하여 지정된 파일(예: PDF 파일, 이메일 파일 또는 메시지 파일 등)을 임폴트(import)하는 사용자 입력을 수신할 수 있다. 이 경우, 프로세서(150)는 상기 실행 화면(133)에 포함된 제2 인터페이스(미도시)의 상부 레이어로 상기 파일의 실행에 따른 제4 인터페이스(60)를 출력할 수 있다. 일 실시 예에 따르면, 상기 제4 인터페이스는 상기 파일이 포함하는 정보에 따른 적어도 하나의 콘텐츠(예: 텍스트 또는 이미지 등)를 포함할 수 있다.
일 실시 예에서, 프로세서(150)는 상기 제1 인터페이스(10)에 대한 사용자 제어에 대응하여 마이크를 통해 수신되는 음성 입력을 리코딩하는 동시에, 사용자의 콘텐츠 입력을 수신하여 상기 제4 인터페이스(60) 상에 표시할 수 있다. 일 실시 예에 따르면, 도 5를 통하여 설명되는 실시 예에서, 상기 사용자의 콘텐츠 입력은 비문법적 별표, 밑줄, 물결 또는 체크 등을 포함하는 마킹(marking) 입력으로 이해될 수 있다. 프로세서(150)는 상기 리코딩된 리코딩 데이터 및 입력된 콘텐츠 데이터를 동일 시점(time) 기준으로 매핑하여 데이터베이스 또는 인덱스 형태로 저장할 수 있다.
일 실시 예에서, 프로세서(150)는 상기 제4 인터페이스(60)에 표시된 적어도 하나의 마킹 콘텐츠 중 특정 마킹 콘텐츠(예: 물결 마킹)를 선택하는 제4 사용자 입력(예: 더블 터치)를 수신할 수 있다. 프로세서(150)는 상기 제4 사용자 입력 수신에 응답하여, 상기 데이터베이스 또는 인덱스를 참조로 상기 제4 사용자 입력과 관계되는 마킹 콘텐츠 데이터와 매핑된 리코딩 데이터(예: 00:11:07 시점에 리코딩된 리코딩 데이터)로부터 지정된 시간(예: 20초) 이전에 리코딩된 리코딩 데이터(예: 00:10:47 시점에 리코딩된 리코딩 데이터)를 식별할 수 있다. 프로세서(150)는 식별된 리코딩 데이터를 텍스트 형태로 변환하고, 상기 변환된 텍스트(71)를 포함하는 제5 인터페이스(70)를 출력할 수 있다. 일 실시 예에서, 프로세서(150)는 재생 객체(15)에 인가되는 사용자 입력(예: 터치) 또는 상기 제5 인터페이스(70)의 일 영역으로 인가되는 사용자 입력(예: 터치)에 대응하여 상기 텍스트(71)로 변환되기 이전의 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다.
도 6을 참조하면, 프로세서(150)는 제1 인터페이스(10)에 포함된 이동 바(11)의 위치를 제어하는 제5 사용자 입력(예: 드래그)을 수신할 수 있다. 일 실시 예에서, 상기 제5 사용자 입력은 이동 바(11)를 현재 위치로부터 이전 시점(time)의 특정 재생 지점(예: 00:57:13)으로 복귀시키는 입력으로 이해될 수 있다. 프로세서(150)는 상기 제5 사용자 입력에 대응하여, 메모리(130)의 데이터베이스 또는 인덱스를 참조로 상기 특정 재생 지점(예: 00:57:13)에 해당하는 리코딩 데이터와 매핑된(또는, 리코딩 데이터가 리코딩된 시점과 동일 시점으로 입력된) 콘텐츠 데이터를 식별할 수 있다. 프로세서(150)는 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 상기 식별된 콘텐츠 데이터에 해당하는 콘텐츠(22)에 지정된 그래픽 효과를 부여할 수 있다.
일 실시 예에서, 프로세서(150)는 상기 특정 재생 지점(예: 00:57:13)으로부터의 신규한 리코딩을 제어하는 사용자 입력(예: 제1 인터페이스(10)에 포함된 재생 객체에 대한 지정된 시간 이상의 롱 프레스 등)을 수신할 수 있다. 예를 들어, 프로세서(150)는 상기 특정 재생 지점(예: 00:57:13)을 기점으로, 전자 장치(100)가 수신하는 음성 입력에 대하여 오버라이트(overwrite) 방식의 리코딩을 제어하기 위한 사용자 입력을 수신할 수 있다. 또한, 프로세서(150)는 상기 음성 입력을 신규하게 리코딩하는 동시에, 사용자의 신규한 콘텐츠 입력을 수신하여 제2 인터페이스(20)에 표시할 수 있다. 이 경우, 프로세서(150)는 메모리(130)의 데이터베이스 또는 인덱스를 참조하여, 상기 특정 재생 지점(예: 00:57:13)에 해당하는 제1 시점과 상기 신규한 콘텐츠 입력을 수신하는 제2 시점 사이에 해당하는 제3 시점에 입력된 적어도 하나의 콘텐츠 데이터를 식별할 수 있다. 프로세서(150)는 제2 인터페이스(20)에 표시된 적어도 하나의 콘텐츠 중 상기 제3 시점에 입력된 적어도 하나의 콘텐츠 데이터에 해당하는 콘텐츠(25)에 지정된 그래픽 효과(예: 블러(blur) 등)를 부여할 수 있다. 다시 말해, 프로세서(150)는 상기 제1 시점 이전에 표시된 콘텐츠(24) 및 상기 제2 시점 이후에 표시된 콘텐츠(26)를 제외하고, 상기 제3 시점에 표시된 콘텐츠(25)에 국한적으로 상기 지정된 그래픽 효과를 부여할 수 있다. 또한, 프로세서(150)는 상기 데이터베이스 또는 인덱스 상에서 상기 제3 시점에 입력된 콘텐츠 데이터 및 상기 제3 시점에 리코딩된 리코딩 데이터 간의 매핑을 해제할 수 있다.
도 7a 및 도 7b는 일 실시 예에 따른 전자 장치의 또 다른 다양한 사용자 입력에 대한 응답 형태를 도시한 도면이고, 도 7c는 일 실시 예에 따른 전자 장치의 제7 사용자 입력 처리와 관계되는 특정 정보 등록 형태를 도시한 도면이다.
도 7a를 참조하면, 전술된 어플리케이션(예: 노트 어플리케이션)의 실행 화면은 상기 어플리케이션의 설정 화면(138)을 포함할 수 있다. 일 실시 예에서, 전자 장치(100) 사용자는 상기 설정 화면(138)을 통하여 기 리코딩된 적어도 하나의 리코딩 데이터 중 일부의 리코딩 데이터(또는, 상기 일부의 리코딩 데이터에 매핑된 콘텐츠 데이터)에 대한 검색을 수행할 수 있다. 이와 관련하여, 상기 설정 화면(138)은 상기 일부의 리코딩 데이터를 검색하기 위한 검색어의 등록을 지원할 수 있다. 일 실시 예에 따르면, 상기 검색어는 검색하고자 하는 상기 일부의 리코딩 데이터와 매핑된 콘텐츠 데이터에 해당하는 콘텐츠(예: 단어, 구 또는 형태소 형태의 텍스트, 또는 비문법적 마킹(별표, 밑줄, 물결 또는 체크 등))로 이해될 수 있다. 사용자는 예컨대, 상기 설정 화면(138)의 일 영역으로 제공되는 제4 메뉴 탭(90)에 입력(예: 터치)을 인가하여 적어도 하나의 검색어를 등록할 수 있다. 프로세서(150)는 사용자로부터 등록되는 적어도 하나의 검색어(80)를 설정 화면(138)의 일 영역에 리스트 형태로 표시하고, 사용자는 상기 적어도 하나의 검색어(80) 중 검색하고자 하는 리코딩 데이터(또는, 리코딩 데이터에 매핑된 콘텐츠 데이터)에 대응하는 검색어(예: 중요)를 선택할 수 있다. 이 경우, 프로세서(150)는 메모리(도 2의 130) 상의 데이터베이스 또는 인덱스를 참조하여, 상기 검색어(예: 중요)를 포함하는 콘텐츠 데이터와 매핑된(또는, 검색어를 포함하는 콘텐츠 데이터가 입력된 시점에 리코딩된) 적어도 하나의 리코딩 데이터를 식별 또는 수집할 수 있다. 프로세서(150)는 상기 식별 또는 수집된 적어도 하나의 리코딩 데이터를 텍스트 데이터로 변환하고, 다른 설정 화면(138a)으로의 전환을 통하여 상기 변환된 적어도 하나의 텍스트 데이터(81)를 리스트 형태로 표시할 수 있다.
도 7b를 참조하면, 상기 리스트 형태로 표시되는 적어도 하나의 텍스트 데이터(81) 중 어느 하나에 사용자 입력(예: 터치)이 인가되는 경우, 프로세서(150)는 상기 데이터베이스 또는 인덱스를 참조하여 해당 텍스트 데이터로 변환되기 이전의 리코딩 데이터에 매핑된 콘텐츠 데이터를 식별할 수 있다. 프로세서(150)는 상기 다른 설정 화면(138a)을 어플리케이션의 실행 화면(135)으로 전환하고, 상기 실행 화면(135) 상에 표시된 적어도 하나의 콘텐츠 중 상기 식별된 콘텐츠 데이터에 해당하는 콘텐츠(25)를 포커싱할 수 있다. 또한, 프로세서(150)는 상기 실행 화면(135)에 포함된 제1 인터페이스(10) 내의 이동 바(11)를 상기 식별된 콘텐츠 데이터와 매핑된 리코딩 데이터의 재생 지점(예: 00:57:13)으로 위치시킬 수 있다. 일 실시 예에서, 상기 제1 인터페이스(10) 내의 재생 객체에 사용자 입력(예: 터치)이 인가되면, 프로세서(150)는 상기 재생 지점(예: 00:57:13)에 해당하는 리코딩 데이터를 기점으로 하는 음성을 출력할 수 있다.
도 7c를 참조하면, 프로세서(150)는 상기 어플리케이션의 설정 화면(138) 일 영역으로 상기 검색어로써 비문법적 마킹(예: 별표, 밑줄, 물결 또는 체크 등)의 등록을 지원하는 제5 메뉴 탭(95)를 제공할 수 있다. 일 실시 예에서, 상기 제5 메뉴 탭(95)에 사용자 입력(예: 터치)이 인가되는 경우, 프로세서(150)는 상기 설정 화면(138)을 또 다른 설정 화면(138a)로 전환할 수 있다. 상기 또 다른 설정 화면(138a)은 예컨대, 스타일러스 펜(도 1의 40)을 기반으로 상기 마킹에 해당하는 콘텐츠 입력을 인가 받을 수 있는 제6 인터페이스(97)를 포함할 수 있다. 일 실시 예에서, 상기 제6 인터페이스(97)에 인가되는 콘텐츠 입력에 따른 검색어는, 상술과 유사하게 어플리케이션의 설정 화면(138) 일 영역에 리스트 형태로 표시될 수 있다.
전술된 다양한 실시 예에 따른 전자 장치는, 적어도 하나의 마이크, 터치스크린 디스플레이, 상기 적어도 하나의 마이크 및 상기 터치스크린 디스플레이와 전기적으로 연결되는 적어도 하나의 프로세서, 및 상기 적어도 하나의 프로세서와 전기적으로 연결되는 메모리를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 터치스크린 디스플레이를 통하여, 상기 적어도 하나의 마이크를 통하여 입력되는 음성의 리코딩(recording)을 지원하는 제1 인터페이스 및 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스를 포함하는 지정된 어플리케이션의 실행 화면을 출력하고, 상기 메모리에 상기 제1 인터페이스를 기반으로 리코딩된 제1 시점(time)의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑(mapping)하여 저장하고, 지정된 콘텐츠에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 검색하기 위한 사용자 입력을 수신하고, 상기 사용자 입력에 대응하여 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 수집하고, 상기 수집된 적어도 하나의 음성 데이터를 텍스트 데이터로 변환하고, 상기 터치스크린 디스플레이를 통하여, 상기 변환된 텍스트 데이터를 출력하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제1 인터페이스의 일 영역으로 리코딩된 음성 데이터의 재생 상태를 나타내는 상태 바(bar) 또는 상기 상태 바 상에서 상기 리코딩된 음성 데이터의 재생 지점을 나타내는 이동 바 중 적어도 하나를 표시하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 적어도 하나의 콘텐츠 중 제1 콘텐츠를 선택하는 지정된 제1 사용자 입력에 대응하여 상기 제1 콘텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 지정된 제1 사용자 입력에 대응하여, 상기 상태 바 상에서 상기 이동 바를 상기 제1 콘텐츠에 관계되는 제1 콘텐츠 데이터와 매핑된 제1 음성 데이터의 재생 지점에 위치시키도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제1 음성 데이터의 재생 지점을 기점으로 하는 음성을 출력하고, 상기 제1 음성 데이터 이후 시점으로 리코딩된 적어도 하나의 제2 음성 데이터 각각에 매핑된 제2 콘텐츠 데이터를 식별하고, 상기 제2 콘텐츠 데이터에 관계되는 적어도 하나의 제2 콘텐츠에 상기 음성 출력 경과에 대응하는 순차로 상기 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 이동 바의 위치를 제어하는 지정된 제2 사용자 입력에 대응하여 상기 이동 바의 위치에 대응하는 제3 음성 데이터에 매핑된 제3 콘텐츠 데이터를 식별하고, 상기 적어도 하나의 콘텐츠 중 상기 제3 콘텐츠 데이터와 관계되는 제3 콘텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 상태 바의 주변 영역으로 상기 리코딩된 음성 데이터와 매핑된 콘텐츠 데이터를 나타내는 적어도 하나의 섬네일(thumbnail)을 표시하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 적어도 하나의 섬네일 중 제1 섬네일을 선택하는 지정된 제3 사용자 입력에 대응하여 상기 적어도 하나의 콘텐츠 중 상기 제1 섬네일과 관계되는 제4 콘텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 적어도 하나의 콘텐츠 중 제5 콘텐츠를 선택하는 지정된 제4 사용자 입력에 대응하여 상기 제5 콘텐츠와 관계되는 제4 콘텐츠 데이터에 매핑된 리코딩 데이터로부터 지정된 시간 이전에 리코딩된 제4 음성 데이터를 식별하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제4 음성 데이터를 텍스트 데이터로 변환하고, 상기 어플리케이션의 실행 화면 일 영역으로 상기 변환된 텍스트 데이터를 포함하는 제3 인터페이스를 출력하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제1 인터페이스의 일 영역으로 리코딩된 음성 데이터의 재생을 제어하는 제1 객체를 표시하고, 상기 제1 객체에 인가되는 지정된 제5 사용자 입력에 대응하여 상기 제4 음성 데이터의 재생 지점을 기점으로 하는 음성을 출력하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 디스플레이를 통하여 출력되는 SIP(software input panel) 자판 또는 상기 전자 장치의 일 영역으로 탑재되는 스타일러스 펜(stylus pen) 중 적어도 하나를 이용하여 입력되는 텍스트 또는 비문법적 마킹(marking) 중 적어도 하나를 포함하는 상기 사용자의 콘텐츠 입력을 수신하고, 상기 제2 인터페이스의 일 영역으로 상기 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 이동 바를 이전 시점의 재생 지점으로 복귀시켜 상기 이전 시점으로부터의 신규한 리코딩을 제어하는 지정된 제6 사용자 입력에 대응하여, 상기 신규하게 리코딩되는 제5 음성 데이터 및 상기 제5 음성 데이터와 동일 시점으로 입력되는 제5 콘텐츠 데이터를 매핑하여 저장하도록 하는 인스트럭션을 더 저장할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가, 상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 이전 시점과 상기 제5 콘텐츠 데이터가 입력되는 시점 사이의 시점에 입력된 적어도 하나의 제6 콘텐츠 데이터를 식별하고, 상기 적어도 하나의 콘텐츠 중 상기 제6 콘텐츠 데이터에 해당하는 제6 콘텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장할 수 있다.
도 8은 일 실시 예에 따른 전자 장치의 복수의 입력 간에 매핑된 정보 제공 방법을 도시한 도면이다. 도 8을 통하여 설명되는 동작들은 메모리(도 2의 130)에 저장될 수 있는 적어도 하나의 인스트럭션을 기반으로 하는 프로세서(도 2의 150)의 제어 하에 구현될 수 있다.
동작 801에서, 전자 장치(도 2의 100)의 프로세서(150)는 사용자 제어에 대응하여 지정된 어플리케이션(예: 노트 어플리케이션)을 실행하고, 상기 어플리케이션의 제1 실행 화면을 출력할 수 있다. 일 실시 예에서, 상기 제1 실행 화면은 전자 장치(100)에 탑재된 리코딩(recording) 기능을 운용하기 위한 제1 인터페이스 또는 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스 중 적어도 하나를 포함할 수 있다.
동작 803에서, 프로세서(150)는 상기 제1 실행 화면을 통하여 제1 시점에 리코딩되는 음성 데이터 및 상기 제1 시점에 입력되는 콘텐츠 데이터를 매핑하여 저장할 수 있다. 이와 관련하여, 프로세서(150)는 상기 제1 인터페이스에 대한 사용자 제어에 대응하여 전자 장치(100)가 수신하는 음성 입력을 리코딩하고, 동시에 사용자의 콘텐츠 입력을 수신하여 상기 제2 인터페이스에 표시할 수 있다. 이 동작에서, 프로세서(150)는 는 상기 리코딩되는 음성 데이터 및 입력되는 콘텐츠 데이터를 동일 시점(time) 기준으로 매핑하여 데이터베이스 또는 인덱스 형태로 저장할 수 있다.
동작 805에서, 프로세서(150)는 리코딩된 적어도 하나의 음성 데이터 중 특정 음성 데이터를 검색하기 위한 사용자 입력을 수신할 수 있다. 이와 관련하여, 프로세서(150)는 사용자 제어에 대응하여 상기 어플리케이션의 제2 실행 화면(예: 어플리케이션의 설정 화면)을 출력(또는, 제1 실행 화면으로부터 제2 실행 화면으로 전환)하고, 상기 제2 실행 화면의 일 영역으로 사용자로부터 등록되는 적어도 하나의 검색어를 표시할 수 있다. 일 실시 예에서, 상기 검색어는 검색하고자 하는 음성 데이터와 매핑된 콘텐츠 데이터에 해당하는 콘텐츠(예: 단어, 구 또는 형태소 형태의 텍스트, 또는 비문법적 마킹(별표, 밑줄, 물결 또는 체크 등))로 이해될 수 있다. 사용자는 상기 표시된 적어도 하나의 검색어 중 검색하고자 하는 음성 데이터에 대응하는 검색어를 선택하는 사용자 입력을 수행할 수 있다.
동작 807에서, 프로세서(150)는 상기 사용자 입력에 대응하는 음성 데이터를 수집할 수 있다. 예를 들어, 프로세서(150)는 상기 데이터베이스 또는 인덱스를 참조하여 상기 사용자 입력으로부터 선택된 검색어를 포함하는 콘텐츠 데이터를 식별하고, 식별된 콘텐츠 데이터와 매핑된 적어도 하나의 음성 데이터를 수집할 수 있다.
동작 809에서, 프로세서(150)는 수집된 적어도 하나의 음성 데이터를 텍스트 형태로 출력할 수 있다. 이와 관련하여, 프로세서(150)는 상기 수집된 적어도 하나의 음성 데이터를 텍스트 데이터로 변환할 수 있다. 일 실시 예에서, 프로세서(150)는 상기 어플리케이션의 제2 실행 화면을 제3 실행 화면(예: 어플리케이션의 다른 설정 화면)으로 전환하고, 상기 제3 실행 화면의 일 영역에 상기 변환된 텍스트 데이터를 리스트 형태로 출력할 수 있다.
일 실시 예에 따르면, 상기 리스트 형태로 표시되는 적어도 하나의 텍스트 데이터 중 어느 하나가 사용자로부터 선택되는 경우, 프로세서(150)는 상기 데이터베이스 또는 인덱스를 참조하여 해당 텍스트 데이터로 변환되기 이전의 음성 데이터에 매핑된 콘텐츠 데이터를 식별할 수 있다. 프로세서(150)는 상기 제3 실행 화면을 어플리케이션의 제1 실행 화면으로 전환하고, 상기 제1 실행 화면에 표시된 적어도 하나의 콘텐츠 중 상기 식별된 콘텐츠 데이터에 해당하는 콘텐츠를 포커싱할 수 있다
전술된 다양한 실시 예에 따른 전자 장치의 복수의 입력 간에 매핑된(mapped) 정보 제공 방법은, 상기 전자 장치에 입력되는 음성의 리코딩(recording)을 지원하는 제1 인터페이스 및 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스를 포함하는 지정된 어플리케이션의 제1 실행 화면을 출력하는 동작, 상기 제1 인터페이스를 기반으로 리코딩된 제1 시점(time)의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑(mapping)하여 저장하는 동작, 지정된 콘텐츠에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 검색하기 위한 사용자 입력을 수신하는 동작, 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 수집하는 동작, 상기 수집된 적어도 하나의 음성 데이터를 텍스트 데이터로 변환하는 동작, 및 상기 변환된 텍스트 데이터를 출력하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 정보 제공 방법은, 상기 검색어 등록을 지원하는 상기 지정된 어플리케이션의 제2 실행 화면을 출력하는 동작 및 상기 제2 실행 화면의 일 영역으로 상기 검색어 등록과 관계된 메뉴를 제공하는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 검색어 등록과 관계된 메뉴를 제공하는 동작은, 상기 메뉴를 통한 사용자 제어에 따라 등록되는 적어도 하나의 검색어를 상기 제2 실행 화면의 일 영역으로 표시하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 사용자 입력을 수신하는 동작은, 상기 제2 실행 화면의 일 영역으로 표시되는 적어도 하나의 검색어 중 어느 하나를 선택하는 사용자 입력을 수신하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 변환된 텍스트 데이터를 출력하는 동작은, 출력된 적어도 하나의 텍스트 데이터 중 어느 하나를 선택하는 사용자 입력을 수신하는 동작 및 상기 어느 하나의 텍스트 데이터를 선택하는 사용자 입력에 대응하여 상기 제2 실행 화면을 상기 제1 실행 화면으로 전환하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 실행 화면으로 전환하는 동작은, 상기 제1 실행 화면에 포함된 상기 제2 인터페이스의 일 영역으로 사용자로부터 입력된 콘텐츠 데이터에 해당하는 적어도 하나의 콘텐츠를 표시하는 동작 및 상기 적어도 하나의 콘텐츠 중 상기 선택된 텍스트 데이터에 대응하는 콘텐츠를 포커싱하는 동작을 포함할 수 있다.
도 9은 일 실시 예에 따른 네트워크 환경 내의 전자 장치를 도시한 도면이다.
도 9을 참조하면, 네트워크 환경(900)에서 전자 장치(901)는 제1 네트워크(998)(예: 근거리 무선 통신)를 통하여 전자 장치(902)와 통신하거나, 또는 제2 네트워크(999)(예: 원거리 무선 통신)를 통하여 전자 장치(904) 또는 서버(908)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(901)는 서버(908)를 통하여 전자 장치(904)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(901)는 프로세서(920), 메모리(930), 입력 장치(950), 음향 출력 장치(955), 표시 장치(960), 오디오 모듈(970), 센서 모듈(976), 인터페이스(977), 햅틱 모듈(979), 카메라 모듈(980), 전력 관리 모듈(988), 배터리(989), 통신 모듈(990), 가입자 식별 모듈(996), 및 안테나 모듈(997)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(901)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(960) 또는 카메라 모듈(980))가 생략되거나 다른 구성 요소가 추가될 수 있다. 어떤 실시 예에서는, 예를 들면, 표시 장치(960)(예: 디스플레이)에 임베디드된 센서 모듈(976)(예: 지문 센서, 홍채 센서, 또는 조도 센서)의 경우와 같이, 일부의 구성요소들이 통합되어 구현될 수 있다.
프로세서(920)는, 예를 들면, 소프트웨어(예: 프로그램(940))를 구동하여 프로세서(920)에 연결된 전자 장치(901)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 및 연산을 수행할 수 있다. 프로세서(920)는 다른 구성요소(예: 센서 모듈(976) 또는 통신 모듈(990))로부터 수신된 명령 또는 데이터를 휘발성 메모리(932)에 로드하여 처리하고, 결과 데이터를 비휘발성 메모리(934)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(920)는 메인 프로세서(921)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 운영되고, 추가적으로 또는 대체적으로, 메인 프로세서(921)보다 저전력을 사용하거나, 또는 지정된 기능에 특화된 보조 프로세서(923)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 여기서, 보조 프로세서(923)는 메인 프로세서(921)와 별개로 또는 임베디드되어 운영될 수 있다.
이런 경우, 보조 프로세서(923)는, 예를 들면, 메인 프로세서(921)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(921)를 대신하여, 또는 메인 프로세서(921)가 액티브(예: 어플리케이션 수행) 상태에 있는 동안 메인 프로세서(921)와 함께, 전자 장치(901)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(960), 센서 모듈(976), 또는 통신 모듈(990))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(923)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(980) 또는 통신 모듈(990))의 일부 구성 요소로서 구현될 수 있다. 메모리(930)는, 전자 장치(901)의 적어도 하나의 구성요소(예: 프로세서(920) 또는 센서모듈(976))에 의해 사용되는 다양한 데이터, 예를 들어, 소프트웨어(예: 프로그램(940)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 저장할 수 있다. 메모리(930)는, 휘발성 메모리(932) 또는 비휘발성 메모리(934)를 포함할 수 있다.
프로그램(940)은 메모리(930)에 저장되는 소프트웨어로서, 예를 들면, 운영 체제(942), 미들 웨어(944) 또는 어플리케이션(946)을 포함할 수 있다.
입력 장치(950)는, 전자 장치(901)의 구성요소(예: 프로세서(920))에 사용될 명령 또는 데이터를 전자 장치(901)의 외부(예: 사용자)로부터 수신하기 위한 장치로서, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(955)는 음향 신호를 전자 장치(901)의 외부로 출력하기 위한 장치로서, 예를 들면, 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용되는 스피커와 전화 수신 전용으로 사용되는 리시버를 포함할 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 일체 또는 별도로 형성될 수 있다.
표시 장치(960)는 전자 장치(901)의 사용자에게 정보를 시각적으로 제공하기 위한 장치로서, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 표시 장치(960)는 터치 회로(touch circuitry) 또는 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서를 포함할 수 있다.
오디오 모듈(970)은 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(970)은, 입력 장치(950)를 통해 소리를 획득하거나, 음향 출력 장치(955), 또는 전자 장치(901)와 유선 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(902)(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(976)은 전자 장치(901)의 내부의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 센서 모듈(976)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(977)는 외부 전자 장치(예: 전자 장치(902))와 유선 또는 무선으로 연결할 수 있는 지정된 프로토콜을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(977)는 HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(978)는 전자 장치(901)와 외부 전자 장치(예: 전자 장치(902))를 물리적으로 연결시킬 수 있는 커넥터, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(979)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 햅틱 모듈(979)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(980)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(980)은 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서, 또는 플래시를 포함할 수 있다.
전력 관리 모듈(988)은 전자 장치(901)에 공급되는 전력을 관리하기 위한 모듈로서, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구성될 수 있다.
배터리(989)는 전자 장치(901)의 적어도 하나의 구성 요소에 전력을 공급하기 위한 장치로서, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(990)은 전자 장치(901)와 외부 전자 장치(예: 전자 장치(902), 전자 장치(904), 또는 서버(908))간의 유선 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(990)은 프로세서(920)(예: 어플리케이션 프로세서)와 독립적으로 운영되는, 유선 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(990)은 무선 통신 모듈(992)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(994)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함하고, 그 중 해당하는 통신 모듈을 이용하여 제1 네트워크(998)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(999)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 상술한 여러 종류의 통신 모듈(990)은 하나의 칩으로 구현되거나 또는 각각 별도의 칩으로 구현될 수 있다.
일 실시 예에 따르면, 무선 통신 모듈(992)은 가입자 식별 모듈(996)에 저장된 사용자 정보를 이용하여 통신 네트워크 내에서 전자 장치(901)를 구별 및 인증할 수 있다.
안테나 모듈(997)은 신호 또는 전력을 외부로 송신하거나 외부로부터 수신하기 위한 하나 이상의 안테나들을 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(990)(예: 무선 통신 모듈(992))은 통신 방식에 적합한 안테나를 통하여 신호를 외부 전자 장치로 송신하거나, 외부 전자 장치로부터 수신할 수 있다.
상기 구성요소들 중 일부 구성요소들은 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input/output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되어 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제2 네트워크(999)에 연결된 서버(908)를 통해서 전자 장치(901)와 외부의 전자 장치(904)간에 송신 또는 수신될 수 있다. 전자 장치(902, 904) 각각은 전자 장치(901)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(901)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 전자 장치에서 실행될 수 있다. 일 실시 예에 따르면, 전자 장치(901)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(901)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 전자 장치에게 요청할 수 있다. 상기 요청을 수신한 외부 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(901)로 전달할 수 있다. 전자 장치(901)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에 개시된 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시 예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(936) 또는 외장 메모리(938))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(940))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 전자 장치(예: 전자 장치(901))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(920))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어 하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시 예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
본 문서에 개시된 실시 예는, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 발명의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 발명의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.

Claims (20)

  1. 전자 장치에 있어서,
    적어도 하나의 마이크;
    터치스크린 디스플레이;
    상기 적어도 하나의 마이크 및 상기 터치스크린 디스플레이와 전기적으로 연결되는 적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서와 전기적으로 연결되는 메모리;를 포함하고,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 터치스크린 디스플레이를 통하여, 상기 적어도 하나의 마이크를 통하여 입력되는 음성의 리코딩(recording)을 지원하는 제1 인터페이스 및 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스를 포함하는 지정된 어플리케이션의 실행 화면을 출력하고,
    상기 메모리에, 상기 제1 인터페이스를 기반으로 리코딩된 제1 시점(time)의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑(mapping)하여 저장하고,
    지정된 콘텐츠에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 제1 음성 데이터를 검색하기 위한 제1 사용자 입력을 수신하고,
    상기 제1 사용자 입력에 대응하여 상기 지정된 콘텐츠 데이터에 매핑된 제1 음성 데이터를 선택하고,
    상기 제1 음성 데이터를 텍스트 데이터로 변환하고,
    상기 터치스크린 디스플레이를 통하여, 상기 변환된 텍스트 데이터를 출력하고,
    상태 바(bar) 상에 상기 제1 음성 데이터의 재생 시점에 대응하는 시점을 나타내는 이동 바를 출력하고,
    상기 이동 바를 통하여 제2 시점으로부터 오버라이트(overwrite) 방식의 리코딩을 위한 제2 사용자 입력을 수신하고,
    상기 제2 사용자 입력에 응답하여, 상기 적어도 하나의 마이크를 이용하여 수신된 신규 음성으로 상기 제2 시점에 대응하는 제2 음성 데이터를 오버라이트 하도록 하는 인스트럭션들(instructions)을 저장하는, 전자 장치.
  2. 제1항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제1 인터페이스의 일 영역으로 리코딩된 음성 데이터의 재생 상태를 나타내는 상기 상태 바(bar) 및 상기 상태 바 상에서 상기 리코딩된 음성 데이터의 재생 지점을 나타내는 상기 이동 바를 표시하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  3. 제2항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 적어도 하나의 콘텐츠 중 제1 콘텐츠를 선택하는 제3 사용자 입력에 대응하여 상기 제1 콘텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  4. 제3항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제3 사용자 입력에 대응하여, 상기 상태 바 상에서 상기 이동 바를 상기 제1 콘텐츠에 관계되는 제1 콘텐츠 데이터와 매핑된 상기 제1 음성 데이터의 재생 지점에 위치시키도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  5. 제4항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제1 음성 데이터의 재생 지점을 기점으로 하는 음성을 출력한 뒤, 상기 제1 음성 데이터에 후속 시점에 리코딩된 상기 제2 음성 데이터에 매핑된 제2 콘텐츠 데이터를 식별하고, 상기 제2 콘텐츠의 텍스트들에 상기 제2 음성 데이터의 음성 출력 경과에 대응하는 순차로 상기 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  6. 삭제
  7. 제2항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 상태 바의 주변 영역으로 상기 리코딩된 음성 데이터와 매핑된 콘텐츠 데이터를 나타내는 적어도 하나의 섬네일(thumbnail)을 표시하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  8. 제7항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 적어도 하나의 섬네일 중 제1 섬네일을 선택하는 제3 사용자 입력에 대응하여 상기 적어도 하나의 콘텐츠 중 상기 제1 섬네일과 관계되는 제4 콘텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  9. 제1항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제2 인터페이스의 일 영역으로 상기 사용자의 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하고, 상기 적어도 하나의 콘텐츠 중 제5 콘텐츠를 선택하는 제4 사용자 입력에 대응하여 상기 제5 콘텐츠와 매핑된 리코딩 데이터로부터 지정된 시간 이전에 리코딩된 제4 음성 데이터를 식별하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  10. 제9항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제4 음성 데이터를 텍스트 데이터로 변환하고, 상기 어플리케이션의 실행 화면 일 영역으로 상기 변환된 텍스트 데이터를 포함하는 제3 인터페이스를 출력하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  11. 제10항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 제1 인터페이스의 일 영역으로 리코딩된 음성 데이터의 재생을 제어하는 제1 객체를 표시하고, 상기 제1 객체에 인가되는 제5 사용자 입력에 대응하여 상기 제4 음성 데이터의 재생 지점을 기점으로 하는 음성을 출력하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  12. 제1항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 디스플레이를 통하여 출력되는 SIP(software input panel) 자판 또는 상기 전자 장치의 일 영역으로 탑재되는 스타일러스 펜(stylus pen) 중 적어도 하나를 이용하여 입력되는 텍스트 또는 비문법적 마킹(marking) 중 적어도 하나를 포함하는 상기 사용자의 콘텐츠 입력을 수신하고, 상기 제2 인터페이스의 일 영역으로 상기 콘텐츠 입력에 따른 적어도 하나의 콘텐츠를 표시하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  13. 제2항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 신규 음성을 수신하는 동안, 상기 제2 인터페이스를 통하여 신규 컨텐츠 입력을 수신하고, 상기 신규 음성 입력과 상기 신규 컨텐츠 입력을 매핑하여 상기 제2 시점으로 저장하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  14. 제13항에 있어서,
    상기 메모리는, 실행 시에, 상기 적어도 하나의 프로세서가,
    상기 신규 컨텐츠 입력에 대응하는 신규 컨텐츠에 지정된 그래픽 효과를 부여하도록 하는 인스트럭션을 더 저장하는, 전자 장치.
  15. 전자 장치의 복수의 입력 간에 매핑된(mapped) 정보 제공 방법에 있어서,
    상기 전자 장치에 입력되는 음성의 리코딩(recording)을 지원하는 제1 인터페이스 및 사용자의 콘텐츠 입력을 지원하는 제2 인터페이스를 포함하는 지정된 어플리케이션의 제1 실행 화면을 출력하는 동작;
    상기 제1 인터페이스를 기반으로 리코딩된 제1 시점(time)의 음성 데이터 및 상기 제2 인터페이스를 기반으로 입력된 상기 제1 시점의 콘텐츠 데이터를 매핑(mapping)하여 저장하는 동작;
    지정된 콘텐츠에 대한 검색어를 기반으로 상기 지정된 콘텐츠 데이터에 매핑된 적어도 하나의 음성 데이터를 검색하기 위한 제1 사용자 입력을 수신하는 동작;
    상기 지정된 콘텐츠 데이터에 매핑된 제1 음성 데이터를 선택하는 동작;
    상기 제1 음성 데이터를 텍스트 데이터로 변환하는 동작;
    상기 변환된 텍스트 데이터를 출력하는 동작;
    상태 바(bar) 상에 상기 제1 음성 데이터의 재생 시점에 대응하는 시점을 나타내는 이동 바를 출력하는 동작;
    상기 이동 바를 통하여 제2 시점으로부터 오버라이트(overwrite) 방식의 리코딩을 위한 제2 사용자 입력을 수신하는 동작; 및
    상기 제2 사용자 입력에 응답하여, 상기 적어도 하나의 마이크를 이용하여 수신된 신규 음성으로 상기 제2 시점에 대응하는 제2 음성 데이터를 오버라이트 하는 동작을 포함하는, 정보 제공 방법.
  16. 제15항에 있어서,
    상기 검색어 등록을 지원하는 상기 지정된 어플리케이션의 제2 실행 화면을 출력하는 동작; 및
    상기 제2 실행 화면의 일 영역으로 상기 검색어 등록과 관계된 메뉴를 제공하는 동작;을 더 포함하는, 정보 제공 방법.
  17. 제16항에 있어서,
    상기 검색어 등록과 관계된 메뉴를 제공하는 동작은,
    상기 메뉴를 통한 사용자 제어에 따라 등록되는 적어도 하나의 검색어를 상기 제2 실행 화면의 일 영역으로 표시하는 동작;을 포함하는, 정보 제공 방법.
  18. 제17항에 있어서,
    상기 제1 사용자 입력을 수신하는 동작은,
    상기 제2 실행 화면의 일 영역으로 표시되는 적어도 하나의 검색어 중 어느 하나를 선택하는 사용자 입력을 수신하는 동작;을 포함하는, 정보 제공 방법.
  19. 제18항에 있어서,
    상기 변환된 텍스트 데이터를 출력하는 동작은,
    출력된 적어도 하나의 텍스트 데이터 중 어느 하나를 선택하는 제3 사용자 입력을 수신하는 동작; 및
    상기 어느 하나의 텍스트 데이터를 선택하는 제3 사용자 입력에 대응하여 상기 제2 실행 화면을 상기 제1 실행 화면으로 전환하는 동작;을 포함하는, 정보 제공 방법.
  20. 제19항에 있어서,
    상기 제1 실행 화면으로 전환하는 동작은,
    상기 제1 실행 화면에 포함된 상기 제2 인터페이스의 일 영역으로 사용자로부터 입력된 콘텐츠 데이터에 해당하는 적어도 하나의 콘텐츠를 표시하는 동작; 및
    상기 적어도 하나의 콘텐츠 중 상기 선택된 텍스트 데이터에 대응하는 콘텐츠를 포커싱하는 동작;을 포함하는, 정보 제공 방법.
KR1020180032444A 2018-03-21 2018-03-21 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치 KR102546510B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020180032444A KR102546510B1 (ko) 2018-03-21 2018-03-21 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치
EP19164398.0A EP3547107B1 (en) 2018-03-21 2019-03-21 Method for providing information mapped between a plurality of inputs and electronic device for supporting the same
US16/360,175 US10853024B2 (en) 2018-03-21 2019-03-21 Method for providing information mapped between a plurality of inputs and electronic device for supporting the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180032444A KR102546510B1 (ko) 2018-03-21 2018-03-21 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치

Publications (2)

Publication Number Publication Date
KR20190110690A KR20190110690A (ko) 2019-10-01
KR102546510B1 true KR102546510B1 (ko) 2023-06-23

Family

ID=65904203

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180032444A KR102546510B1 (ko) 2018-03-21 2018-03-21 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치

Country Status (3)

Country Link
US (1) US10853024B2 (ko)
EP (1) EP3547107B1 (ko)
KR (1) KR102546510B1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11423073B2 (en) * 2018-11-16 2022-08-23 Microsoft Technology Licensing, Llc System and management of semantic indicators during document presentations
CN111858277B (zh) * 2020-07-07 2024-02-27 广州三星通信技术研究有限公司 用于电子终端的录屏方法和录屏装置
CN112637407A (zh) * 2020-12-22 2021-04-09 维沃移动通信有限公司 语音输入方法、装置及电子设备
CN113050812B (zh) * 2021-03-30 2023-11-21 联想(北京)有限公司 一种控制方法、电子笔及电子设备
CN114115674B (zh) * 2022-01-26 2022-07-22 荣耀终端有限公司 录音和文档内容的定位方法、电子设备及存储介质

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017109759A1 (en) * 2015-12-23 2017-06-29 Booktrack Holdings Limited System and method for the creation and playback of soundtrack-enhanced audiobooks

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101939253B1 (ko) * 2012-05-21 2019-01-16 엘지전자 주식회사 음성 녹음 중에 탐색을 용이하게 하는 방법 및 이를 구현한 전자기기
KR101632174B1 (ko) 2012-05-22 2016-06-21 주식회사 성우모바일 교육매체 제작방법 및 교육매체 시스템
KR102065045B1 (ko) * 2013-03-15 2020-01-10 엘지전자 주식회사 이동 단말기 및 그것의 제어 방법
KR102337157B1 (ko) * 2014-11-05 2021-12-08 삼성전자주식회사 전자 칠판 장치 및 그 제어 방법
KR20160133781A (ko) * 2015-05-13 2016-11-23 엘지전자 주식회사 이동단말기 및 그 제어방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017109759A1 (en) * 2015-12-23 2017-06-29 Booktrack Holdings Limited System and method for the creation and playback of soundtrack-enhanced audiobooks

Also Published As

Publication number Publication date
KR20190110690A (ko) 2019-10-01
US20190294408A1 (en) 2019-09-26
EP3547107B1 (en) 2023-04-26
US10853024B2 (en) 2020-12-01
EP3547107A1 (en) 2019-10-02

Similar Documents

Publication Publication Date Title
KR102546510B1 (ko) 복수의 입력 간에 매핑된 정보 제공 방법 및 이를 지원하는 전자 장치
KR102442179B1 (ko) 웨어러블 장치를 통하여 햅틱 피드백을 제공하는 전자 장치 및 그 방법
US10289376B2 (en) Method for displaying virtual object in plural electronic devices and electronic device supporting the method
KR102537543B1 (ko) 지능형 전자 장치 및 그 동작 방법
EP3396666A1 (en) Electronic device for providing speech recognition service and method thereof
KR102412523B1 (ko) 음성 인식 서비스 운용 방법, 이를 지원하는 전자 장치 및 서버
KR102525108B1 (ko) 음성 인식 서비스 운용 방법 및 이를 지원하는 전자 장치
KR102423065B1 (ko) 전자 장치 및 전자 장치의 제어 방법
KR20190111557A (ko) 사용자 입력 지원 방법 및 이를 지원하는 전자 장치
KR102356889B1 (ko) 음성 인식을 수행하는 방법 및 이를 사용하는 전자 장치
KR102504308B1 (ko) 디스플레이의 밝기를 제어하는 방법, 전자 장치 및 컴퓨터 판독가능 기록매체
KR20160031851A (ko) 정보 제공 방법 및 그 전자 장치
KR20160051411A (ko) 외부의 물체를 제어하는 전자 장치 및 그 방법
KR102579895B1 (ko) 전자장치, 이를 활용한 적외선 센서 기반의 심장 박동 수 측정 방법
US20200202114A1 (en) Electronic device for tracking user activity and method of operating the same
CN108073281A (zh) 提供内容的方法和及其电子设备
KR102516345B1 (ko) 데이터 변조 판단 방법 및 이를 지원하는 전자 장치
CN108141474B (zh) 与外部设备共享内容的电子设备及其用于共享内容的方法
KR102690524B1 (ko) 사용자 입력에 대응하는 섬네일을 출력하는 전자 장치 및 방법
US11710173B2 (en) Electronic device for performing payment and operation method therefor
KR102495008B1 (ko) 영상 편집 지원 방법 및 이를 지원하는 전자 장치
KR102568550B1 (ko) 필기 입력을 이용하여 어플리케이션을 실행하는 전자 장치 및 그 제어 방법
KR102353919B1 (ko) 터치의 압력에 응답하여 지정된 동작을 수행하는 전자 장치 및 방법
KR20220032343A (ko) 전자 장치 및 전자 장치에서 인 에어 제스처를 처리하는 방법
KR20190101813A (ko) 호스트 어플리케이션과 어시스턴트 어플리케이션 사이의 연동 방법 및 이를 지원하는 전자 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant