WO2021256614A1 - 화자가 표지된 텍스트 생성 방법 - Google Patents

화자가 표지된 텍스트 생성 방법 Download PDF

Info

Publication number
WO2021256614A1
WO2021256614A1 PCT/KR2020/012416 KR2020012416W WO2021256614A1 WO 2021256614 A1 WO2021256614 A1 WO 2021256614A1 KR 2020012416 W KR2020012416 W KR 2020012416W WO 2021256614 A1 WO2021256614 A1 WO 2021256614A1
Authority
WO
WIPO (PCT)
Prior art keywords
speaker
text
interface
texts
voice data
Prior art date
Application number
PCT/KR2020/012416
Other languages
English (en)
French (fr)
Inventor
원정상
김희연
임희관
최문희
남승민
유태준
최홍섭
Original Assignee
주식회사 마인즈랩
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 마인즈랩 filed Critical 주식회사 마인즈랩
Priority to EP20800774.0A priority Critical patent/EP3951775A4/en
Priority to US17/405,722 priority patent/US20210390958A1/en
Publication of WO2021256614A1 publication Critical patent/WO2021256614A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04842—Selection of displayed objects or displayed text elements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/166—Editing, e.g. inserting or deleting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/166—Editing, e.g. inserting or deleting
    • G06F40/169—Annotation, e.g. comment data or footnotes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification
    • G10L17/02—Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L12/00—Data switching networks
    • H04L12/02—Details
    • H04L12/16—Arrangements for providing special services to substations
    • H04L12/18—Arrangements for providing special services to substations for broadcast or conference, e.g. multicast
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/14—Systems for two-way working
    • H04N7/15—Conference systems

Definitions

  • the present invention relates to a method of generating a speaker-marked text from voice data including the voices of at least two or more speakers.
  • Speech recognition technology refers to a series of processes in which an information processing device understands human voice and converts it into data that the information processing device can process.
  • the speech recognition technology When the speech recognition technology is applied to an apparatus for converting human speech into text, the speech recognition result is generally provided to the user in the form of text.
  • Another object of the present invention is to provide the user with the marked text by the speaker in a form that the user can review or modify more conveniently.
  • Another object of the present invention is to allow the user to easily change the speaker determined by the information processing device.
  • Another object of the present invention is to systematically manage text data generated from a plurality of voice data.
  • Another object of the present invention is to generate text data not only from voice data acquired in real time, but also from previously acquired and stored voice data or image data.
  • a method for generating a speaker-marked text from voice data including voices of at least two or more speakers comprising: generating a first text by converting the voice data into text; determining a speaker of each of one or more second texts obtained by dividing the first text into a predetermined unit; and providing an editing interface displaying the one or more second texts and respective speakers.
  • the determining of the speaker of each of the second texts may include determining the speaker of each of the one or more second texts based on voice characteristics of voice data corresponding to each of the one or more second texts.
  • the determining of the speaker of each of the second texts may include each of the one or more second texts based on content of each of the one or more second texts and content of a second text preceding or following each of the one or more second texts. may include; determining the speaker of
  • the editing interface lists and displays the speakers identified in the step of determining the speaker, a speaker name input interface for inputting or selecting the speaker names of the listed speakers, and the one or more second texts and the one or more second texts are displayed in correspondence with the speaker names It may include a text display interface that
  • the editing interface further includes a voice data information display interface for displaying information on the voice data, wherein the voice data information display interface includes a title of the voice data, a location of acquiring the voice data, and a time at which the voice data is acquired and an interface for displaying each of the speaker names of at least two or more speakers whose voice is included in the voice data, and for correcting or inputting displayed items.
  • the voice data information display interface includes a title of the voice data, a location of acquiring the voice data, and a time at which the voice data is acquired and an interface for displaying each of the speaker names of at least two or more speakers whose voice is included in the voice data, and for correcting or inputting displayed items.
  • the speaker name input interface provides at least one candidate speaker name for each of the identified speakers, determines the selected candidate speaker name as the speaker name of the corresponding speaker, and the at least one candidate speaker name is the voice data information display interface It may be at least a part of the speaker name input in .
  • the text display interface displays the one or more second texts in correspondence with the speaker names with reference to the speaker names determined in the speaker name input interface. Accordingly, one or more candidate speaker names may be additionally provided, and the one or more candidate speaker names may be at least a part of speaker names input to the voice data information display interface.
  • the text display interface may list and display the one or more second texts according to a predetermined condition.
  • the predetermined condition is a condition for displaying the one or more second texts separately according to the change of the speaker
  • the text display interface displays the one or more second texts by arranging them according to the passage of time
  • the second text before and after the time when the speaker is changed may be displayed according to different display methods.
  • the predetermined condition is a condition of displaying only a second text marked by a selected speaker from among the one or more second texts, and the text display interface displays the one or more second texts by arranging them over time and displaying the selected text.
  • the second text marked by the speaker may be displayed in the first display method, and the second text marked by the remaining speakers may be displayed in the second display method.
  • the editing interface may include a navigator interface displaying a text block map in which objects corresponding to at least one second text are arranged according to time.
  • the navigator interface may display consecutive second texts of the same speaker as one entity and display entities of different speakers in different display formats.
  • the second text corresponding to the selected object may be displayed on the text display interface displaying the one or more second texts in correspondence with the speaker's name.
  • a method for generating text marked by a speaker from voice data including voices of at least two or more speakers comprising: providing text data including one or more second texts edited in the editing interface; step; may further include.
  • the speaker may provide the marked text to the user in a form that the user can review or modify more conveniently.
  • text data generated from a plurality of voice data can be systematically managed.
  • FIG. 1 is a diagram schematically illustrating the configuration of a system for generating a speaker marked text according to an embodiment of the present invention.
  • FIG. 2 is a diagram schematically illustrating the configuration of the text generating apparatus 110 provided in the server 100 according to an embodiment of the present invention.
  • FIG 3 is a diagram illustrating a screen 400 on which a text management interface is displayed on the user terminal 200 according to an embodiment of the present invention.
  • FIG. 4 is a diagram illustrating a screen 500 displayed when the present user inputs an "real-time recording" object in the menu interface 410 of FIG. 3 .
  • FIG. 5 is a diagram illustrating a screen 600 on which a text data browsing interface is displayed.
  • FIG. 6 is a diagram illustrating a screen 700 on which an editing interface is displayed according to an embodiment of the present invention.
  • FIG. 7 is a diagram illustrating a screen 800 on which a navigator interface 810 is displayed according to an embodiment of the present invention.
  • FIG. 8 is a flowchart illustrating a method for generating a speaker-marked text performed by the controller 112 of the text generating apparatus 110 according to an embodiment of the present invention.
  • a method for generating a speaker-marked text from voice data including voices of at least two or more speakers comprising: generating a first text by converting the voice data into text; determining a speaker of each of one or more second texts obtained by dividing the first text into a predetermined unit; and providing an editing interface displaying the one or more second texts and respective speakers.
  • FIG. 1 is a diagram schematically illustrating the configuration of a system for generating a speaker marked text according to an embodiment of the present invention.
  • the speaker-marked text generating system may generate speaker-marked text from voice data including voices of at least two or more speakers.
  • the speaker-labeled text generation system according to an embodiment of the present invention may generate speaker-labeled text from voice data acquired in real time, or speaker-labeled text from image data or audio data provided by a user. can also create
  • the text generating system in which such a speaker is marked may include a server 100 , a user terminal 200 , and a communication network 300 .
  • 'voice data' including the voices of at least two or more speakers may mean data in which the voices of at least two or more speakers are recorded.
  • voice data may refer to data recorded in a meeting between multiple speakers, or may refer to data recorded or recorded of a speech or presentation of a specific person.
  • the 'text marked by the speaker' may mean a text including information about the speaker.
  • the voice data is data recorded from a conversation between two speakers
  • the speaker-marked text generated therefrom is a text written in time-series of the conversations of the two speakers. It may mean a text in which information is recorded.
  • the user terminal 200 may refer to various types of information processing apparatuses that mediate the user and the server 100 to use various services provided by the server 100 .
  • the user terminal 200 may receive an interface for inputting voice data from the server 100 and provide it to the user, obtain the user's input therefor, and transmit it to the server 100 .
  • Such a terminal 200 may mean portable terminals 201 , 202 , and 203 , as shown in FIG. 1 , or may mean a computer 204 .
  • the form of such a terminal is exemplary and the spirit of the present invention is not limited thereto, and a means for providing content to a user and accommodating a user's input therefor may correspond to the terminal 200 of the present invention. have.
  • the terminal 200 may include a display means for displaying content, etc. in order to perform the above-described function, and an input means for obtaining a user's input for the content.
  • the input means and the display means may be configured in various ways.
  • the input means may include, but is not limited to, a keyboard, a mouse, a trackball, a microphone, a button, a touch panel, and the like.
  • the user may be singular or plural. Accordingly, the user terminal 200 may be plural or singular. 1 shows that the user terminal 200 is singular, this is for convenience of description and the spirit of the present invention is not limited thereto.
  • the user terminal 200 may be singular.
  • the user terminal of the first user may acquire voice data in real time and transmit it to the server 100 .
  • the server 100 may generate a speaker-marked text based on the voice data received from the user terminal of the first user.
  • voice data is acquired in real time
  • all three user terminals may acquire voice data in real time and transmit it to the server 100 .
  • the server 100 may generate a speaker-marked text by using the voice data received from the three user terminals.
  • the server 100 may determine the speaker of the individual text by comparing the volume of the individual speaker's voice in the voice data received from the three user terminals.
  • the communication network 300 may provide a path through which data can be transmitted/received between each component of the system.
  • a communication network 300 is, for example, a wired network such as LANs (Local Area Networks), WANs (Wide Area Networks), MANs (Metropolitan Area Networks), ISDNs (Integrated Service Digital Networks), wireless LANs, CDMA, Bluetooth, satellite It may cover a wireless network such as communication, but the scope of the present invention is not limited thereto.
  • the server 100 may generate a speaker-marked text from the voice data received from the user terminal 200 .
  • FIG. 2 is a diagram schematically illustrating the configuration of the text generating apparatus 110 provided in the server 100 according to an embodiment of the present invention.
  • the text generating apparatus 110 may include a communication unit 111 , a control unit 112 , and a memory 113 . Also, although not shown in the drawings, the text generating apparatus 110 according to the present embodiment may further include an input/output unit, a program storage unit, and the like.
  • the communication unit 111 may be a device including hardware and software necessary for the text generating device 110 to transmit and receive signals such as a control signal or a data signal through a wired/wireless connection with another network device such as the terminal 200 .
  • the controller 112 may include any type of device capable of processing data, such as a processor.
  • the 'processor' may refer to a data processing device embedded in hardware having a physically structured circuit to perform a function expressed as, for example, a code or a command included in a program.
  • a microprocessor a central processing unit (CPU), a processor core, a multiprocessor, an application-specific integrated (ASIC) Circuit
  • a processing device such as a field programmable gate array (FPGA) may be included, but the scope of the present invention is not limited thereto.
  • the memory 113 performs a function of temporarily or permanently storing data processed by the text generating device 110 .
  • the memory may include a magnetic storage medium or a flash storage medium, but the scope of the present invention is not limited thereto.
  • the memory 113 may temporarily and/or permanently store parameters and/or weights constituting the learned artificial neural network.
  • FIG 3 is a diagram illustrating a screen 400 on which a text management interface is displayed on the user terminal 200 according to an embodiment of the present invention.
  • the text management interface may include a menu interface 410 and a display interface 420 in which detailed items according to the selected menu are provided.
  • the user may perform an input on the object 411 in the menu interface 410 to display the status of previously created text data on the display interface 420 as shown in FIG. 3 .
  • a sequence number the name of the text data, the location of the voice data generation, the creator, the date and time of writing, whether the writing of the text data is completed, an object for downloading the text data, etc. may be included.
  • the above-mentioned items are exemplary and the spirit of the present invention is not limited thereto, and any item representing information about text data may be used without limitation as the status of individual text data.
  • the user may input the object 412 in the menu interface 410 so that the controller 112 generates text data from the voice data.
  • the user may perform an input to the "real-time recording" object to generate text data from voice data acquired in real time.
  • text data may be generated from image data acquired in real time or previously acquired and stored by performing an input to the "creation of video meeting minutes" object.
  • text data may be generated from voice data acquired in real time or previously acquired and stored by performing an input to the “voice meeting minutes” object.
  • FIG. 4 is a diagram illustrating a screen 500 displayed when a user inputs an "real-time recording" object in the menu interface 410 of FIG. 3 .
  • the controller 112 may cause the voice data information acquisition interface 510 to be displayed on the display interface 420 in real time.
  • the voice data information acquisition interface 510 is for acquiring information about the acquired voice, and may include, for example, an interface for inputting each of items related to a meeting.
  • the user may input the participant's name into the interface 511 for inputting the meeting participant so that the controller 112 may use it to determine the speaker's name identified from the voice data. A detailed description thereof will be given later.
  • the control unit 112 may generate the first text by converting voice data into text in response to obtaining (or receiving) the user's text generation request (S810).
  • the controller 112 may generate the first text in real time.
  • the controller 112 may accumulate and store at least a portion of the voice data transmitted in real time, and generate the first text from the accumulated voice data.
  • controller 112 may receive the audio data in the form of an image file or an audio file from the user terminal 200 and generate the first text from the received file.
  • the controller 112 receives a plurality of voice data including the same content (ie, acquired at different locations in the same time in the same space), and uses at least one of the received voice data to You can also create text.
  • the controller 112 may generate the first text with reference to a user substitution dictionary input by the user in advance. For example, a user may generate a user substitution dictionary by inputting a "user substitution dictionary" object in the menu interface 410 of FIG. 3 .
  • the user may pre-input a user substitution dictionary for the purpose of matching terms in the generation of text data. For example, if the user wants to modify all texts such as “machine learning”, “deep learning”, and “machine learning” to “artificial intelligence”, the user can pre-enter each word to be modified to "artificial intelligence”.
  • the controller 112 may generate one or more second texts from the first text generated in step S810 and determine a speaker of each of the one or more generated second texts (S820).
  • the controller 112 may generate one or more second texts from the first text generated in step S810.
  • the controller 112 may generate the second text by dividing the first text into a predetermined unit.
  • the predetermined unit may be, for example, a sentence unit.
  • such units are exemplary and the spirit of the present invention is not limited thereto.
  • the controller 112 may determine a speaker of each of the one or more generated second texts.
  • the controller 112 may determine the speaker of each of the one or more second texts based on voice characteristics of voice data corresponding to each of the one or more second texts. For example, the controller 112 determines and extracts a voice data section corresponding to a specific second text from the entire voice data, and determines the speaker of the second text by checking characteristics of a voice included in the extracted voice data section can
  • the controller 112 may determine the speaker of the second text using the learned artificial neural network.
  • the artificial neural network may be a neural network trained to output the identification information of the speaker of the input specific section voice data according to the input of the entire voice data and the specific section voice data.
  • the artificial neural network may be a neural network trained to output the similarity between each of the sample voices of the plurality of speakers and the voice data of the specific section according to the input of the sample speech of the plurality of speakers and the speech data of the specific section.
  • the control unit 112 controls each of the one or more second texts based on the content of each of the one or more second texts and the content of the second text preceding or following each of the one or more second texts. You can also decide on the speaker.
  • the controller 112 may determine the speaker of the specific second text as a 'reporter'.
  • a method is exemplary and the spirit of the present invention is not limited thereto.
  • the controller 112 may determine the speaker of each of the one or more second texts in consideration of both the voice characteristics of the voice data and the content of the second text.
  • the control unit 112 When the user selects an item 421 for any one text data from the status of text data displayed on the display interface 420 of FIG. 3 , the control unit 112 according to an embodiment of the present invention reads the selected text data. It is possible to provide a text data viewing interface for checking in detail.
  • FIG. 5 is a diagram illustrating a screen 600 on which a text data browsing interface is displayed.
  • the text data viewing interface may include an interface 610 for reproducing voice data used to generate the corresponding text data, and a text providing interface 620 for displaying one or more second texts and respective speakers.
  • control unit 112 may update and provide content displayed on the interface 620 according to a user's manipulation of the interface 610 .
  • the controller 112 automatically displays the interface 620 so that the part corresponding to the part currently being played in the voice data is displayed on the interface 620 . It can be displayed by scrolling.
  • the controller 112 may display the second text corresponding to the part currently being reproduced in the voice data in a different display method from the remaining second text.
  • the controller 112 may provide an interface for matching the speaker identified from the voice data with the speaker name input by the user.
  • the control unit 112 when the user inputs the edit button 630, the control unit 112 according to an embodiment of the present invention provides an interface for matching the speaker identified from the voice data with the speaker name input by the user.
  • the controller 112 may provide an editing interface that displays one or more second texts generated in step S820 and respective speakers. (S830)
  • FIG. 6 is a diagram illustrating a screen 700 on which an editing interface is displayed according to an embodiment of the present invention.
  • the editing interface may include a voice data information display interface 710 , an interface 720 for controlling reproduction of voice data, a speaker name input interface 730 , and a text display interface 740 . .
  • the voice data information display interface 710 is for displaying information related to voice data, for example, the title of the voice data, the location where the voice data was acquired, the time at which the voice data was acquired, and the voice data. It may include an interface for displaying each of the speaker names of at least two or more speakers including voice, and for correcting or inputting displayed items.
  • the interface 720 for controlling the reproduction of voice data according to an embodiment of the present invention is configured to start, stop, or move to a specific location to reproduce the voice data according to a user's manipulation. can be one
  • the speaker name input interface 730 may be an interface for listing and displaying speakers identified from voice data, and inputting or selecting the speaker names of the listed speakers.
  • the text display interface 740 may be an interface for displaying one or more second texts in correspondence with a speaker name.
  • the speaker name input interface 730 provides at least one candidate speaker name for each speaker identified from the voice data, and determines the candidate speaker name selected by the user as the speaker name of the corresponding speaker.
  • the speaker when the speaker is 'identified' from the voice data, it means that the same voice among a plurality of voices included in the voice data is identified by the same identification code (eg, "ID_1"), and the speaker name is determined. it may not be
  • the controller 112 when there are four speakers identified from the voice data, the controller 112 according to an embodiment of the present invention displays that four speakers have been recognized as shown in FIG. 6 and selects a speaker name for each speaker. interface can be provided.
  • control unit 112 may display identification information 731-1 for the first speaker on the interface 730 and provide a drop-down menu 731-2 for selecting the speaker name.
  • the speaker names provided in the drop-down menu 731 - 2 may include at least some of the speaker names input to the voice data information display interface 710 .
  • the user listens to voice data or refers to the content of the second text displayed on the text display interface 740 and selects any one of the speaker names from among the speaker names provided in the drop-down menu 731-2. You can choose your own name appropriately.
  • the control unit 112 displays one or more second texts in correspondence with the determined speaker names on the text display interface 740 as each speaker name is determined in the speaker name input interface 730 . can do.
  • the controller 112 may provide the speaker name displayed for each of the one or more second texts in a modifiable form.
  • the controller 112 provides the speaker name for the second text 741 in the form of a drop-down box 741-1, and easily changes to any one speaker name among one or more candidate speaker names according to a user's correction input. can make it
  • control unit 112 may provide a text editing window 741-2 for the second text 741 to quickly correct errors in the second text.
  • the present invention automatically generates a speaker-marked text from voice data including the voices of a plurality of speakers, and allows errors that may occur due to the automatic generation to be easily corrected.
  • the control unit 112 displays one or more second texts in correspondence with the determined speaker name on the text display interface 740 by listing and displaying one or more second texts according to a predetermined condition. can do.
  • the predetermined condition may be, for example, a condition in which the display method of one or more second texts is displayed separately according to a change of a speaker.
  • the controller 112 may display one or more second texts in a row according to the passage of time, but display the second texts before and after the time when the speaker is changed according to different display methods.
  • the 'display method' may be a concept encompassing various items related to display, such as display size, display shape, display position, display color, and whether or not to emphasize.
  • the controller 112 may change and display the arrangement position of the second text whenever a speaker is changed. For example, whenever a speaker is changed, the second text may be displayed by changing the alignment position from left alignment to right alignment or vice versa.
  • the predetermined condition may be a condition for displaying only the second text marked by the selected speaker among one or more second texts.
  • the control unit 112 displays one or more second texts in a row according to the passage of time, but displays the second text marked by the selected speaker in the first display method (eg, in the first size), and the rest The second text marked by the speaker may be displayed in a second display method (eg, displayed in a second size smaller than the first size).
  • the controller 112 may provide a navigator interface in which a text block map in which at least one second text and corresponding entities are arranged over time is displayed.
  • FIG. 7 is a diagram illustrating a screen 800 on which a navigator interface 810 is displayed according to an embodiment of the present invention.
  • the navigator interface 810 may be provided in the form of a pop-up window or an overlay on various screens.
  • the interfaces 710 , 720 , 730 , and 740 shown in FIG. 6 may be displayed in the area 820 , and the navigator interface 810 may be provided in an overlay form according to a scroll input to the interface 740 .
  • the objects displayed on the navigator interface 810 may be objects corresponding to one or more second texts.
  • the entity 811 may be an entity corresponding to 27 consecutive second texts for the speaker 1 .
  • the controller 112 in displaying the text block map on the navigator interface 810, displays the continuous second text of the same speaker as one entity, and Objects can be displayed in different display formats.
  • control unit 112 displays one or more second texts corresponding to the selected object on the text display interface 740 along with the speaker name according to the selection of any one of the objects on the text block map. can be displayed
  • the controller 112 may display the object by adjusting the size of the object in proportion to the number of second text corresponding to each object. In other words, the controller 112 may display larger objects corresponding to more second text.
  • the controller 112 may display a portion being displayed on the text display interface 740 as an indicator 812 on the navigator interface 810 .
  • the present invention allows a user to easily review the generated second text, and in particular, to review the second text in block units, thereby improving the convenience of review.
  • the controller 112 may provide text data including one or more second texts edited in the editing interface provided in step S830 to the user (S840).
  • the controller 112 may provide text data in the same format as the interface 620 shown in FIG. 5 , or may provide text data according to a text data file download request in FIG. 3 .
  • these methods are exemplary and the spirit of the present invention is not limited thereto.
  • the controller 112 may provide an interface (or button) ( 640 in FIG. 5 ) for transmitting the generated text data to the third service.
  • the user may perform a notarization procedure for the generated text data by performing an input to the interface 640 , or may share the generated text data with a third party.
  • the embodiment according to the present invention described above may be implemented in the form of a computer program that can be executed through various components on a computer, and such a computer program may be recorded in a computer-readable medium.
  • the medium may be to store a program executable by a computer. Examples of the medium include a hard disk, a magnetic medium such as a floppy disk and a magnetic tape, an optical recording medium such as CD-ROM and DVD, a magneto-optical medium such as a floppy disk, and those configured to store program instructions, including ROM, RAM, flash memory, and the like.
  • the computer program may be specially designed and configured for the present invention, or may be known and used by those skilled in the computer software field.
  • Examples of the computer program may include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like.
  • connection or connection members of lines between the components shown in the drawings illustratively represent functional connections and/or physical or circuit connections, and in an actual device, various functional connections, physical connections that are replaceable or additional may be referred to as connections, or circuit connections.
  • connection or circuit connections unless there is a specific reference such as "essential” or "importantly", it may not be a necessary component for the application of the present invention.

Abstract

본 발명의 일 실시예에 따른 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하는 방법은, 상기 음성 데이터를 텍스트로 변환하여 제1 텍스트를 생성하는 단계; 상기 제1 텍스트를 소정의 단위로 구분한 하나 이상의 제2 텍스트 각각의 화자를 결정하는 단계; 및 상기 하나 이상의 제2 텍스트와 각각의 화자를 표시하는 편집 인터페이스를 제공하는 단계;를 포함할 수 있다.

Description

화자가 표지된 텍스트 생성 방법
본 발명은 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하는 방법에 관한 것이다.
IT 기술의 발달에 따라 최근 많은 분야에서 음성 인식 기술이 적용되고 있다. 음성 인식 기술은 정보처리장치가 인간의 음성을 이해하여 정보처리장치가 처리할 수 있는 데이터로 변환하는 일련의 과정을 의미한다.
음성 인식 기술이 인간의 음성을 텍스트로 변환하는 장치에 적용될 경우에는 일반적으로 음성 인식 결과는 텍스트의 형태로 사용자에게 제공된다.
그러나 종래 기술에 따를 경우, 복수 화자의 목소리가 구분됨이 없이 모두 텍스트로만 변환되기에, 사용자가 텍스트로 변환된 일련의 문자열을 소정의 단위로 구분하고, 구분된 단위 문자열의 화자를 개별적으로 입력해야 하는 불편함이 있었다.
본 발명의 상술한 문제점을 해결하기 위한 것으로, 사용자의 개입 없이 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하고자 한다.
또한 본 발명은 화자가 표지된 텍스트를 사용자가 보다 편리하게 검토하거나 수정할 수 있는 형태로 사용자에게 제공하고자 한다.
또한 본 발명은 정보처리장치에 의해 결정된 화자를 사용자가 손쉽게 변경할 수 있도록 하고자 한다.
또한 본 발명은 복수의 음성 데이터로부터 생성된 텍스트 데이터를 체계적으로 관리할 수 있도록 하고자 한다.
또한 본 발명은 실시간으로 획득되는 음성 데이터뿐만 아니라, 미리 획득되어 저장된 음성 데이터나 영상 데이터로부터 텍스트 데이터를 생성할 수 있도록 하고자 한다.
본 발명의 일 실시예에 따른 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하는 방법은, 상기 음성 데이터를 텍스트로 변환하여 제1 텍스트를 생성하는 단계; 상기 제1 텍스트를 소정의 단위로 구분한 하나 이상의 제2 텍스트 각각의 화자를 결정하는 단계; 및 상기 하나 이상의 제2 텍스트와 각각의 화자를 표시하는 편집 인터페이스를 제공하는 단계;를 포함할 수 있다.
상기 제2 텍스트 각각의 화자를 결정하는 단계는 상기 하나 이상의 제2 텍스트 각각에 대응되는 음성 데이터의 음성 특성에 기초하여 상기 하나 이상의 제2 텍스트 각각의 화자를 결정하는 단계;를 포함할 수 있다.
상기 제2 텍스트 각각의 화자를 결정하는 단계는 상기 하나 이상의 제2 텍스트의 각각의 내용 및 상기 하나 이상의 제2 텍스트 각각에 선행하거나 후행하는 제2 텍스트의 내용에 기초하여 상기 하나 이상의 제2 텍스트 각각의 화자를 결정하는 단계;를 포함할 수 있다.
상기 편집 인터페이스는 상기 화자를 결정하는 단계에서 식별된 화자를 나열하여 표시하고, 나열된 화자의 화자명을 입력하거나 선택하기 위한 화자명 입력 인터페이스 및 상기 하나 이상의 제2 텍스트와 상기 화자명을 대응시켜 표시하는 텍스트 표시 인터페이스를 포함할 수 있다.
상기 편집 인터페이스는 상기 음성 데이터에 대한 정보를 표시하는 음성 데이터 정보 표시 인터페이스를 더 포함하고, 상기 음성 데이터 정보 표시 인터페이스는 상기 음성 데이터의 제목, 상기 음성 데이터의 획득 장소, 상기 음성 데이터가 획득된 시간 및 상기 음성 데이터에 음성이 포함된 적어도 둘 이상의 화자의 화자명 각각을 표시하고, 표시된 항목들을 수정하거나 입력하기 위한 인터페이스를 포함할 수 있다.
상기 화자명 입력 인터페이스는 상기 식별된 화자 각각에 대한 적어도 하나의 후보 화자명을 제공하고, 선택된 후보 화자명을 해당 화자의 화자명으로 결정하고, 상기 적어도 하나의 후보 화자명은 상기 음성 데이터 정보 표시 인터페이스에 입력된 화자명 중 적어도 일부일 수 있다.
상기 텍스트 표시 인터페이스는 상기 화자명 입력 인터페이스에서 결정된 화자명을 참조하여 상기 하나 이상의 제2 텍스트와 상기 화자명을 대응시켜 표시하되, 상기 하나 이상의 제2 텍스트 각각에 대해 표시된 화자명에 대한 수정 입력에 따라 하나 이상의 후보 화자명을 추가로 제공하고, 상기 하나 이상의 후보 화자명은 상기 음성 데이터 정보 표시 인터페이스에 입력된 화자명 중 적어도 일부일 수 있다.
상기 텍스트 표시 인터페이스는 소정의 조건에 따라 상기 하나 이상의 제2 텍스트를 나열하여 표시할 수 있다.
이때 상기 소정의 조건은 화자의 변경에 따라 상기 하나 이상의 제2 텍스트의 표시 방식을 구분하여 표시하는 조건이고, 상기 텍스트 표시 인터페이스는 상기 하나 이상의 제2 텍스트를 시간의 흐름에 따라 나열하여 표시하되, 화자가 변경되는 시점 전후의 제2 텍스트를 서로 상이한 표시 방식에 따라 표시할 수 있다.
상기 소정의 조건은 상기 하나 이상의 제2 텍스트 중 선택된 화자로 표지된 제2 텍스트 만을 표시하는 조건이고, 상기 텍스트 표시 인터페이스는 상기 하나 이상의 제2 텍스트를 시간의 흐름에 따라 나열하여 표시하되, 상기 선택된 화자로 표지된 제2 텍스트를 제1 표시 방식으로 표시하고, 나머지 화자로 표지된 제2 텍스트를 제2 표시 방식으로 표시할 수 있다.
상기 편집 인터페이스는 적어도 하나의 제2 텍스트와 대응되는 개체들이 시간의 흐름에 따라 배열된 텍스트 블록 맵이 표시되는 네비게이터 인터페이스를 포함할 수 있다.
상기 네비게이터 인터페이스는 상기 텍스트 블록 맵을 표시함에 있어서, 동일한 화자의 연속되는 제2 텍스트를 하나의 개체로써 표시하고, 서로 다른 화자의 개체를 서로 다른 표시 형식으로 표시할 수 있다.
하나 이상의 제2 텍스트와 화자명을 대응시켜 표시하는 텍스트 표시 인터페이스에는 상기 텍스트 블록 맵 상의 상기 개체들 중 어느 하나의 개체의 선택에 따라 상기 선택된 개체와 대응되는 제2 텍스트가 표시될 수 있다.
본 발명의 일 실시예에 따른 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하는 방법은, 상기 편집 인터페이스에서 편집된 하나 이상의 제2 텍스트를 포함하는 텍스트 데이터를 제공하는 단계;를 더 포함할 수 있다.
본 발명에 따르면 사용자의 개입 없이 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성할 수 있다.
또한 화자가 표지된 텍스트를 사용자가 보다 편리하게 검토하거나 수정할 수 있는 형태로 사용자에게 제공할 수 있다.
또한 정보처리장치에 의해 결정된 화자를 사용자가 손쉽게 변경할 수 있도록 할 수 있다.
또한 복수의 음성 데이터로부터 생성된 텍스트 데이터를 체계적으로 관리할 수 있도록 한다.
또한 실시간으로 획득되는 음성 데이터뿐만 아니라, 미리 획득되어 저장된 음성 데이터나 영상 데이터로부터 텍스트 데이터를 생성할 수 있도록 한다.
도 1은 본 발명의 일 실시예에 따른 화자가 표지된 텍스트 생성 시스템의 구성을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 서버(100)에 구비되는 텍스트 생성 장치(110)의 구성을 개략적으로 도시한 도면이다.
도 3은 본 발명의 일 실시예에 따른 사용자 단말(200)에 텍스트 관리 인터페이스가 표시된 화면(400)을 도시한 도면이다.
도 4는 본 사용자가 도 3의 메뉴 인터페이스(410)에서 "실시간 녹음" 개체에 대한 입력을 수행하였을 경우 표시되는 화면(500)을 도시한 도면이다.
도 5는 텍스트 데이터 열람 인터페이스가 표시된 화면(600)을 도시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 편집 인터페이스가 표시된 화면(700)을 도시한 도면이다.
도 7은 본 발명의 일 실시예에 따른 네비게이터 인터페이스(810)가 표시된 화면(800)을 도시한 도면이다.
도 8은 본 발명의 일 실시예에 따른 텍스트 생성 장치(110)의 제어부(112)에 의해 수행되는 화자가 표지된 텍스트 생성 방법을 설명하기 위한 흐름도이다.
본 발명의 일 실시예에 따른 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하는 방법은, 상기 음성 데이터를 텍스트로 변환하여 제1 텍스트를 생성하는 단계; 상기 제1 텍스트를 소정의 단위로 구분한 하나 이상의 제2 텍스트 각각의 화자를 결정하는 단계; 및 상기 하나 이상의 제2 텍스트와 각각의 화자를 표시하는 편집 인터페이스를 제공하는 단계;를 포함할 수 있다.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 본 발명의 효과 및 특징, 그리고 그것들을 달성하는 방법은 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 하며, 도면을 참조하여 설명할 때 동일하거나 대응하는 구성 요소는 동일한 도면부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
이하의 실시예에서, 제1, 제2 등의 용어는 한정적인 의미가 아니라 하나의 구성 요소를 다른 구성 요소와 구별하는 목적으로 사용되었다. 이하의 실시예에서, 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 이하의 실시예에서, 포함하다 또는 가지다 등의 용어는 명세서상에 기재된 특징, 또는 구성요소가 존재함을 의미하는 것이고, 하나 이상의 다른 특징들 또는 구성요소가 부가될 가능성을 미리 배제하는 것은 아니다. 도면에서는 설명의 편의를 위하여 구성 요소들이 그 크기가 과장 또는 축소될 수 있다. 예컨대, 도면에서 나타난 각 구성의 크기 및 형태는 설명의 편의를 위해 임의로 나타내었으므로, 본 발명이 반드시 도시된 바에 한정되지 않는다.
도 1은 본 발명의 일 실시예에 따른 화자가 표지된 텍스트 생성 시스템의 구성을 개략적으로 도시한 도면이다.
본 발명의 일 실시예에 따른 화자가 표지된 텍스트 생성 시스템은 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성할 수 있다. 가령 본 발명의 일 실시예에 따른 화자가 표지된 텍스트 생성 시스템은 실시간으로 획득되는 음성 데이터로부터 화자가 표지된 텍스트를 생성할 수도 있고, 사용자가 제공한 영상 데이터 또는 음성 데이터로부터 화자가 표지된 텍스트를 생성할 수도 있다.
이와 같은 화자가 표지된 텍스트 생성 시스템은 도 1에 도시된 바와 같이 서버(100), 사용자 단말(200) 및 통신망(300)을 포함할 수 있다.
본 발명에서 적어도 둘 이상의 화자의 음성을 포함하는 '음성 데이터'는 적어도 둘 이상의 화자의 목소리가 녹음된 데이터를 의미할 수 있다. 가령 이와 같은 음성 데이터는 다화자 간의 회의를 녹음한 데이터를 의미할 수도 있고, 특정 인물의 연설, 발표 등을 녹화하거나 녹음한 데이터를 의미할 수도 있다.
한편 본 발명에서 '화자가 표지된 텍스트'는 화자에 대한 정보를 포함하는 텍스트를 의미할 수 있다. 가령 음성 데이터가 두 명의 화자 간의 대화를 녹음한 데이터인 경우, 이로부터 생성되는 화자가 표지된 텍스트는 두 명의 화자의 대화 내용을 시계열적으로 작성한 텍스트로, 각 문장 별로 또는 소정의 단위로 화자에 대한 정보가 기록된 텍스트를 의미할 수 있다.
본 발명의 일 실시예에 따른 사용자 단말(200)은 서버(100)에 의해 제공되는 다양한 서비스를 이용할 수 있도록 사용자와 서버(100)를 매개하는 다양한 형태의 정보처리 장치를 의미할 수 있다. 가령 사용자 단말(200)은 서버(100)로부터 음성 데이터를 입력하기 위한 인터페이스를 수신하여 사용자에게 제공하고, 그에 대한 사용자의 입력을 획득하여 서버(100)로 전송할 수 있다.
이와 같은 단말(200)은 가령 도 1에 도시된 바와 같이 휴대용 단말(201, 202, 203)을 의미할 수도 있고, 컴퓨터(204)를 의미할 수도 있다. 다만 이와 같은 단말의 형태는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니며, 사용자에게 콘텐츠를 제공하고 그에 대한 사용자의 입력을 수용할 수 있는 수단은 본 발명의 단말(200)에 해당할 수 있다.
본 발명의 일 실시예에 따른 단말(200)은 상술한 기능을 수행하기 위해 콘텐츠 등을 표시하기 위한 표시수단, 이러한 콘텐츠에 대한 사용자의 입력을 획득하기 위한 입력수단을 구비할 수 있다. 이 때 입력수단 및 표시수단은 다양하게 구성될 수 있다. 가령 입력수단은 키보드, 마우스, 트랙볼, 마이크, 버튼, 터치패널 등을 포함할 수 있으나 이에 한정되지 않는다.
본 발명의 일 실시예에서 사용자는 단수일 수도 있고 복수일 수도 있다. 따라서 사용자 단말(200)도 복수일 수도 있고 단수일 수도 있다. 도 1에는 사용자 단말(200)이 단수인 것으로 도시되었으나, 이는 설명의 편의를 위한 것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
음성 데이터가 실시간으로 획득되는 실시예에서 사용자 단말(200)은 단수일 수 있다. 가령 3명이 회의에 참석하여 대화를 하고 있는 상황에서 첫 번째 사용자의 사용자 단말은 실시간으로 음성 데이터를 획득하여 서버(100)로 전송할 수 있다. 서버(100)는 첫 번째 사용자의 사용자 단말로부터 수신된 음성 데이터에 기초하여 화자가 표지된 텍스트를 생성할 수 있다.
음성 데이터가 실시간으로 획득되는 실시예에서 사용자 단말(200)은 복수일 수도 있다. 가령 전술한 예시에서와 마찬가지로 3명이 회의에 참석하여 대화를 하고 있는 상황에서, 세 명의 사용자 단말 모두가 실시간으로 음성 데이터를 획득하여 서버(100)로 전송할 수 있다. 이러한 경우 서버(100)는 세 개의 사용자 단말로부터 수신된 음성 데이터를 이용하여 화자가 표지된 텍스트를 생성할 수도 있다. 이때 서버(100)는 세 개의 사용자 단말로부터 수신된 음성 데이터 내에서 개별 화자의 음성의 음량을 비교하여 개별 텍스트의 화자를 결정할 수도 있다.
본 발명의 일 실시예에 따른 통신망(300)은 시스템의 각 구성 간에 데이터가 송수신 될 수 있는 경로를 제공할 수 있다. 이와 같은 통신망(300)은 가령 LANs(Local Area Networks), WANs(Wide Area Networks), MANs(Metropolitan Area Networks), ISDNs(Integrated Service Digital Networks) 등의 유선 네트워크나, 무선 LANs, CDMA, 블루투스, 위성 통신 등의 무선 네트워크를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 서버(100)는 사용자 단말(200)로부터 수신된 음성 데이터로부터 화자가 표지된 텍스트를 생성할 수 있다.
도 2는 본 발명의 일 실시예에 따른 서버(100)에 구비되는 텍스트 생성 장치(110)의 구성을 개략적으로 도시한 도면이다.
도 2를 참조하면, 본 발명의 일 실시예에 따른 텍스트 생성 장치(110)는 통신부(111), 제어부(112) 및 메모리(113)를 포함할 수 있다. 또한 도면에는 도시되지 않았으나, 본 실시예에 따른 텍스트 생성 장치(110)는 입/출력부, 프로그램 저장부 등을 더 포함할 수 있다.
통신부(111)는 텍스트 생성 장치(110)가 단말(200)과 같은 다른 네트워크 장치와 유무선 연결을 통해 제어 신호 또는 데이터 신호와 같은 신호를 송수신하기 위해 필요한 하드웨어 및 소프트웨어를 포함하는 장치일 수 있다.
제어부(112)는 프로세서(Processor)와 같이 데이터를 처리할 수 있는 모든 종류의 장치를 포함할 수 있다. 여기서, '프로세서(Processor)'는 예를 들어 프로그램 내에 포함된 코드 또는 명령으로 표현된 기능을 수행하기 위해 물리적으로 구조화된 회로를 갖는, 하드웨어에 내장된 데이터 처리 장치를 의미할 수 있다. 이와 같이 하드웨어에 내장된 데이터 처리 장치의 일 예로써, 마이크로프로세서(Microprocessor), 중앙처리장치(Central Processing Unit: CPU), 프로세서 코어(Processor Core), 멀티프로세서(Multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array) 등의 처리 장치를 망라할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다.
메모리(113)는 텍스트 생성 장치(110)가 처리하는 데이터를 일시적 또는 영구적으로 저장하는 기능을 수행한다. 메모리는 자기 저장 매체(Magnetic Storage Media) 또는 플래시 저장 매체(Flash Storage Media)를 포함할 수 있으나, 본 발명의 범위가 이에 한정되는 것은 아니다. 가령 메모리(113)는 학습된 인공 신경망을 구성하는 파라미터 및/또는 가중치들을 일시적 및/또는 영구적으로 저장할 수 있다.
이하에서는 도 3 내지 도 7에 도시된 예시적인 화면(400, 500, 600, 700, 800)과 도 8에 도시된 흐름도를 함께 참조하여 텍스트 생성 장치(110)의 제어부(112)에 의해 수행되는 화자가 표지된 텍스트 생성 방법을 설명한다.
도 3은 본 발명의 일 실시예에 따른 사용자 단말(200)에 텍스트 관리 인터페이스가 표시된 화면(400)을 도시한 도면이다.
도 3을 참조하면, 텍스트 관리 인터페이스는 메뉴 인터페이스(410) 및 선택된 메뉴에 따른 세부 항목이 제공되는 표시 인터페이스(420)를 포함할 수 있다.
사용자는 메뉴 인터페이스(410)에서 개체(411)에 대한 입력을 수행하여 도 3에 도시된 바와 같이 표시 인터페이스(420)에 기 생성된 텍스트 데이터들의 현황이 표시되도록 할 수 있다. 이때 개별 텍스트 데이터의 현황으로써, 순번, 텍스트 데이터의 명칭, 음성 데이터의 생성 위치, 작성자, 작성 일시, 텍스트 데이터의 작성 완료 여부 및 텍스트 데이터의 다운로드를 위한 개체 등이 포함될 수 있다. 다만 상술한 항목들은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니며, 텍스트 데이터에 관한 정보를 나타내는 항목이면 개별 텍스트 데이터의 현황으로써 제한 없이 사용될 수 있다.
한편 사용자는 메뉴 인터페이스(410)에서 개체(412)에 대한 입력을 수행하여 제어부(112)가 음성 데이터로부터 텍스트 데이터를 생성하도록 할 수 있다.
가령 사용자는 "실시간 녹음" 개체에 대한 입력을 수행하여 실시간으로 획득되는 음성 데이터로부터 텍스트 데이터가 생성되도록 할 수 있다.
또한 "동영상 회의록 작성" 개체에 대한 입력을 수행하여 실시간으로 획득되거나 또는 미리 획득되어 저장된 영상 데이터로부터 텍스트 데이터가 생성되도록 할 수도 있다.
물론 "음성 회의록 작성" 개체에 대한 입력을 수행하여 실시간으로 획득되거나 또는 미리 획득되어 저장된 음성 데이터로부터 텍스트 데이터가 생성되도록 할 수도 있다.
도 4는 사용자가 도 3의 메뉴 인터페이스(410)에서 "실시간 녹음" 개체에 대한 입력을 수행하였을 경우 표시되는 화면(500)을 도시한 도면이다.
사용자의 "실시간 녹음"개체에 대한 입력에 따라, 제어부(112)는 실시간으로 음성 데이터 정보 획득 인터페이스(510)가 표시 인터페이스(420)에 표시되도록 할 수 있다. 이때 음성 데이터 정보 획득 인터페이스(510)는 획득되는 음성에 대한 정보를 획득하기 위한 것으로, 예를 들어 회의와 관련된 항목들 각각의 입력을 위한 인터페이스를 포함할 수 있다.
사용자는 회의 참석자를 입력하기 위한 인터페이스(511)에 참석자명을 입력하여 이후 제어부(112)가 음성 데이터로부터 식별된 화자의 명칭을 결정하는데 사용하도록 할 수 있다. 이에 대한 상세한 설명은 후술한다.
본 발명의 일 실시예에 따른 제어부(112)는 사용자의 텍스트 생성 요청을 획득(또는 수신)함에 따라 음성 데이터를 텍스트로 변환하여 제1 텍스트를 생성할 수 있다.(S810)
가령 사용자 단말(200)로부터 실시간으로 녹음되고 있는 음성 데이터가 수신되는 경우, 제어부(112)는 실시간으로 제1 텍스트를 생성할 수 있다. 선택적 실시예에서, 제어부(112)는 실시간으로 전송되는 음성 데이터의 적어도 일부를 누적하여 저장하고, 누적하여 저장된 음성 데이터로부터 제1 텍스트를 생성할 수도 있다.
물론 제어부(112)는 영상 파일 또는 음성 파일 형태로 음성 데이터를 사용자 단말(200)로부터 수신하여, 수신된 파일로부터 제1 텍스트를 생성할 수도 있다.
선택적 실시예에서, 제어부(112)는 동일한 내용을 포함하는(즉 동일한 공간의 동일한 시간대에서 서로 다른 위치에서 획득된) 복수개의 음성 데이터를 수신하고, 수신된 음성 데이터 중 적어도 하나를 이용하여 제1 텍스트를 생성할 수도 있다.
선택적 실시예에서, 제어부(112)는 제1 텍스트를 생성함에 있어서 사용자가 미리 입력한 사용자 치환 사전을 참조하여 제1 텍스트를 생성할 수 있다. 가령 사용자는 도 3의 메뉴 인터페이스(410)에서 "사용자 치환 사전" 개체에 대한 입력을 수행하여 사용자 치환 사전을 생성할 수 있다.
사용자는 텍스트 데이터의 생성에 있어서 용어의 일치 등의 목적을 위해서 사용자 치환 사전을 미리 입력해 놓을 수 있다. 가령 사용자는 "머신러닝", "딥러닝", "기계학습"과 같은 텍스트를 모두 "인공지능"으로 수정하고자 하는 경우, 각 단어를 "인공지능"으로 수정할 것을 미리 입력해 놓을 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 단계 S810에서 생성된 제1 텍스트로부터 하나 이상의 제2 텍스트를 생성하고, 생성된 하나 이상의 제2 텍스트 각각의 화자를 결정할 수 있다.(S820)
먼저 본 발명의 일 실시예에 따른 제어부(112)는 단계 S810에서 생성된 제1 텍스트로부터 하나 이상의 제2 텍스트를 생성할 수 있다. 가령 제어부(112)는 제1 텍스트를 소정의 단위로 구분하여 제2 텍스트를 생성할 수 있다. 이때 소정의 단위는 예를 들어 문장 단위일 수 있다. 다만 이와 같은 단위는 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 제어부(112)는 생성된 하나 이상의 제2 텍스트 각각의 화자를 결정할 수 있다.
가령 제어부(112)는 하나 이상의 제2 텍스트 각각에 대응되는 음성 데이터의 음성 특성에 기초하여 하나 이상의 제2 텍스트 각각의 화자를 결정할 수 있다. 예를 들어 제어부(112)는 전체 음성 데이터에서 특정 제2 텍스트에 대응되는 음성 데이터 구간을 결정하여 추출하고, 추출된 음성 데이터 구간에 포함된 음성의 특성을 확인하여 해당 제2 텍스트의 화자를 결정할 수 있다.
본 발명의 선택적 실시예에서, 제어부(112)는 학습된 인공 신경망을 이용하여 제2 텍스트의 화자를 결정할 수 있다. 이때 인공 신경망은 전체 음성 데이터 및 특정 구간 음성 데이터의 입력에 따라 입력된 특정 구간 음성 데이터의 화자의 식별 정보를 출력하도록 학습된 신경망일 수 있다.
본 발명의 다른 선택적 실시예에서, 인공 신경망은 복수 화자의 샘플 음성과 특정 구간의 음성 데이터의 입력에 따라, 복수 화자의 샘플 음성 각각과 특정 구간의 음성 데이터의 유사도를 출력하도록 학습된 신경망일 수도 있다.
다만 상술한 화자 결정 방법은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 또 다른 선택적 실시예에 따른 제어부(112)는 하나 이상의 제2 텍스트 각각의 내용 및 하나 이상의 제2 텍스트 각각에 선행하거나 후행하는 제2 텍스트의 내용에 기초하여 하나 이상의 제2 텍스트 각각의 화자를 결정할 수도 있다.
가령 특정 제2 텍스트에 선행하는 제2 텍스트가 "다음 기자분 질문 부탁 드립니다"인 경우, 제어부(112)는 해당 특정 제2 텍스트의 화자를 '기자'로 결정할 수 있다. 다만 이와 같은 방식은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 또 다른 선택적 실시예에 따른 제어부(112)는 음성 데이터의 음성 특성 및 제2 텍스트의 내용을 모두 고려하여 하나 이상의 제2 텍스트 각각의 화자를 결정할 수도 있다.
본 발명의 일 실시예에 따른 제어부(112)는 사용자가 도 3의 표시 인터페이스(420)에 표시된 텍스트 데이터의 현황에서 어느 하나의 텍스트 데이터에 대한 항목(421)을 선택한 경우, 선택된 텍스트 데이터를 보다 상세히 확인할 수 있도록 하는 텍스트 데이터 열람 인터페이스를 제공할 수 있다.
도 5는 텍스트 데이터 열람 인터페이스가 표시된 화면(600)을 도시한 도면이다.
도 5를 참조하면, 텍스트 데이터 열람 인터페이스는 해당 텍스트 데이터 생성에 사용된 음성 데이터를 재생하기 위한 인터페이스(610)와 하나 이상의 제2 텍스트와 각각의 화자를 표시하는 텍스트 제공 인터페이스(620)를 포함할 수 있다.
본 발명의 일 실시예에서, 제어부(112)는 인터페이스(610)에 대한 사용자의 조작에 따라 인터페이스(620)에 표시되는 내용을 갱신하여 제공할 수 있다. 가령 사용자가 인터페이스(610)에서 재생 버튼에 대한 입력을 수행한 경우, 제어부(112)는 음성 데이터에서 현재 재생되고 있는 부분에 대응되는 부분이 인터페이스(620)에 표시되도록 인터페이스(620)를 자동으로 스크롤 하여 표시할 수 있다.
선택적 실시예에서, 제어부(112)는 음성 데이터에서 현재 재생되고 있는 부분에 대응되는 제2 텍스트를 나머지 제2 텍스트와 다른 표시 방식으로 표시되도록 할 수도 있다.
한편 텍스트 제공 인터페이스(620)에는 제2 텍스트와 화자가 대응되어 표시될 수 있다. 이와 같이 제2 텍스트와 화자를 대응시켜 표시하기 위해, 본 발명의 일 실시예에 따른 제어부(112)는 음성 데이터로부터 식별된 화자와 사용자가 입력한 화자명을 대응시키기 위한 인터페이스를 제공할 수 있다. 가령 본 발명의 일 실시예에 따른 제어부(112)는 사용자가 편집 버튼(630)에 대한 입력을 수행한 경우, 음성 데이터로부터 식별된 화자와 사용자가 입력한 화자명을 대응시키기 위한 인터페이스를 제공할 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 단계 S820에서 생성된 하나 이상의 제2 텍스트와 각각의 화자를 표시하는 편집 인터페이스를 제공할 수 있다.(S830)
도 6은 본 발명의 일 실시예에 따른 편집 인터페이스가 표시된 화면(700)을 도시한 도면이다.
도 6을 참조하면, 편집 인터페이스는 음성 데이터 정보 표시 인터페이스(710), 음성 데이터의 재생을 제어하기 위한 인터페이스(720), 화자명 입력 인터페이스(730) 및 텍스트 표시 인터페이스(740)를 포함할 수 있다.
본 발명의 일 실시예에 따른 음성 데이터 정보 표시 인터페이스(710)는 음성 데이터와 관련된 정보를 표시하기 위한 것으로, 가령 음성 데이터의 제목, 음성 데이터의 획득 장소, 음성 데이터가 획득된 시간 및 음성 데이터에 음성이 포함된 적어도 둘 이상의 화자의 화자명 각각을 표시하고, 표시된 항목들을 수정하거나 입력하기 위한 인터페이스를 포함할 수 있다.
본 발명의 일 실시예에 따른 음성 데이터의 재생을 제어하기 위한 인터페이스(720)는 사용자의 조작에 따라 음성 데이터의 재생을 시작하거나, 재생을 멈추거나 또는 특정 위치로 이동하여 음성 데이터를 재생하기 위한 것 일 수 있다.
본 발명의 일 실시예에 따른 화자명 입력 인터페이스(730)는 음성 데이터로부터 식별된 화자를 나열하여 표시하고, 나열된 화자의 화자명을 입력하거나 선택하는 인터페이스 일 수 있다.
본 발명의 일 실시예에 따른 텍스트 표시 인터페이스(740)는 하나 이상의 제2 텍스트와 화자명을 대응시켜 표시하는 인터페이스 일 수 있다.
본 발명의 일 실시예에 따른 화자명 입력 인터페이스(730)는 음성 데이터로부터 식별된 화자 각각에 대한 적어도 하나의 후보 화자명을 제공하고, 사용자에 의해 선택된 후보 화자명을 해당 화자의 화자명으로 결정할 수 있다.
이때 음성 데이터로부터 화자가 '식별'되는 것은, 음성 데이터에 포함된 복수의 음성들 중 동일한 음성이 동일한 식별부호(예를 들어 "ID_1")로 식별 되는 것을 의미할 뿐, 화자명이 결정된 것을 의미하는 것은 아닐 수 있다.
가령 본 발명의 일 실시예에 따른 제어부(112)는 음성 데이터로부터 식별된 화자가 4명인 경우, 도 6에 도시된 바와 같이 4명의 화자가 인식되었음을 표시하고, 개별 화자에 대한 화자명을 선택하기 위한 인터페이스를 제공할 수 있다.
예를 들어 제어부(112)는 첫 번째 화자에 대해서 인터페이스(730)상에 해당 화자의 식별정보(731-1)를 표시하고, 화자명을 선택하기 위한 드롭다운 메뉴(731-2)를 제공할 수 있다. 이때 드롭다운 메뉴(731-2)에서 제공되는 화자명들은 음성 데이터 정보 표시 인터페이스(710)에 입력된 화자명 중 적어도 일부 화자명을 포함할 수 있다.
사용자는 음성 데이터의 청취하거나 또는 텍스트 표시 인터페이스(740)에 표시되는 제2 텍스트의 내용을 참조하여 드롭다운 메뉴(731-2)에 제공되는 화자명들 중 어느 하나의 화자명으로 개별 화자의 화자명을 적절히 선택할 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 화자명 입력 인터페이스(730)에서 각 화자 별 화자명이 결정됨에 따라, 텍스트 표시 인터페이스(740)에 하나 이상의 제2 텍스트와 결정된 화자명을 대응시켜 표시할 수 있다.
이때 제어부(112)는 하나 이상의 제2 텍스트 각각에 대해 표시된 화자명을 수정 가능한 형태로 제공할 수 있다. 가령 제어부(112)는 제2 텍스트(741)에 대한 화자명을 드롭다운 박스(741-1) 형식으로 제공하여, 사용자의 수정 입력에 따라 하나 이상의 후보 화자명 중 어느 하나의 화자명으로 손쉽게 변경하도록 할 수 있다.
또한 본 발명의 일 실시예에 따른 제어부(112)는 제2 텍스트(741)에 대한 텍스트 편집창(741-2)을 제공하여, 제2 텍스트 상의 오기 등을 빠르게 수정하도록 할 수 있다.
이와 같이 본 발명은 복수의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 자동으로 생성하되, 자동으로 생성됨으로 인해 발생될 수 있는 오류를 손쉽게 수정할 수 있도록 한다.
본 발명의 일 실시예에 따른 제어부(112)는 텍스트 표시 인터페이스(740)에 하나 이상의 제2 텍스트와 결정된 화자명을 대응시켜 표시함에 있어서, 소정의 조건에 따라 하나 이상의 제2 텍스트를 나열하여 표시할 수 있다.
이때 소정의 조건은 가령 화자의 변경에 따라 하나 이상의 제2 텍스트의 표시 방식을 구분하여 표시하는 조건일 수 있다. 이러한 경우 제어부(112)는 하나 이상의 제2 텍스트를 시간의 흐름에 따라 나열하여 표시하되, 화자가 변경되는 시점 전후의 제2 텍스트를 서로 상이한 표시 방식에 따라 표시할 수 있다.
여기서 '표시 방식'은 표시 크기, 표시 모양, 표시 위치, 표시 색상 및 강조 여부 등 표시에 관한 다양한 항목을 포괄하는 개념일 수 있다. 가령 제어부(112)는 화자가 변경될 때 마다 제2 텍스트의 정렬 위치를 변경하여 표시할 수 있다. 예를 들어 화자가 변경될 때 마다 제2 텍스트를 좌측 정렬에서 우측 정렬로 또는 그 반대로 정렬 위치를 변경하여 표시할 수 있다.
한편 소정의 조건은 하나 이상의 제2 텍스트 중 선택된 화자로 표지된 제2 텍스트 만을 표시하는 조건일 수도 있다. 이러한 경우 제어부(112)는 하나 이상의 제2 텍스트를 시간의 흐름에 따라 나열하여 표시하되, 선택된 화자로 표지된 제2 텍스트를 제1 표시 방식(예를 제1 크기로 표시)으로 표시하고, 나머지 화자로 표지된 제2 텍스트를 제2 표시 방식(예를 들어 제1 크기보다 작은 제2 크기로 표시)으로 표시할 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 적어도 하나의 제2 텍스트와 대응되는 개체들이 시간의 흐름에 따라 배열된 텍스트 블록 맵이 표시되는 네비게이터 인터페이스를 제공할 수 있다.
도 7은 본 발명의 일 실시예에 따른 네비게이터 인터페이스(810)가 표시된 화면(800)을 도시한 도면이다.
본 발명의 일 실시예에서, 네비게이터 인터페이스(810)는 다양한 화면에서 팝업 윈도우 또는 오버레이 형식으로 제공될 수 있다. 가령 영역(820)에는 도 6에 표시된 인터페이스들(710, 720, 730, 740)이 표시되고, 인터페이스(740)에 대한 스크롤 입력에 따라 네비게이터 인터페이스(810)가 오버레이 형식으로 제공될 수 있다.
한편 네비게이터 인터페이스(810)상에 표시되는 개체들은 하나 이상의 제2 텍스트와 대응되는 개체일 수 있다. 가령 개체(811)는 화자 1에 대한 27개의 연속하는 제2 텍스트에 대응되는 개체일 수 있다.
이와 같이 본 발명의 일 실시예에 따른 제어부(112)는 네비게이터 인터페이스(810)상에 텍스트 블록 맵을 표시함에 있어서, 동일한 화자의 연속되는 제2 텍스트를 하나의 개체로써 표시하고, 서로 다른 화자의 개체를 서로 다른 표시 형식으로 표시할 수 있다.
또한 본 발명의 일 실시예에 따른 제어부(112)는 텍스트 블록 맵 상의 개체들 중 어느 하나의 개체의 선택에 따라 텍스트 표시 인터페이스(740)에 선택된 개체와 대응되는 하나 이상의 제2 텍스트를 화자명과 함께 표시할 수 있다.
선택적 실시예에서, 제어부(112)는 네비게이터 인터페이스(810)상에 개체를 표시함에 있어서, 각 개체에 대응되는 제2 텍스트의 수에 비례하여 개체의 크기를 조절하여 표시할 수 있다. 바꾸어말하면 제어부(112)는 더 많은 제2 텍스트에 대응되는 개체일수록 더 크게 표시할 수 있다.
또 다른 선택적 실시예에서, 제어부(112)는 텍스트 표시 인터페이스(740)에 표시되고 있는 부분을 네비게이터 인터페이스(810)상에 인디케이터(812)로 표시할 수도 있다.
이로써 본 발명은 사용자가 생성된 제2 텍스트를 쉽게 검토할 수 있도록 하며, 특히 블록 단위로 제2 텍스트를 검토할 수 있도록 하여 검토의 편의성을 향상시킬 수 있다.
본 발명의 일 실시예에 따른 제어부(112)는 단계 S830에서 제공된 편집 인터페이스에서 편집된 하나 이상의 제2 텍스트를 포함하는 텍스트 데이터를 사용자에 제공할 수 있다.(S840)
가령 제어부(112)는 도 5에 도시된 인터페이스(620)와 같은 형식으로 텍스트 데이터를 제공할 수도 있고, 도 3에서 텍스트 데이터 파일 다운로드 요청에 따라 텍스트 데이터를 제공할 수도 있다. 다만 이와 같은 방식들은 예시적인것으로 본 발명의 사상이 이에 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 제어부(112)는 생성된 텍스트 데이터를 제3 서비스로 전송하기 위한 인터페이스(또는 버튼)(도 5의 640)을 제공할 수 있다. 가령 사용자는 인터페이스(640)에 대한 입력을 수행함으로써 생성된 텍스트 데이터에 대한 공증 절차를 진행할 수도 있고, 생성된 텍스트 데이터를 제3 자에게 공유할 수도 있다.
이상 설명된 본 발명에 따른 실시예는 컴퓨터 상에서 다양한 구성요소를 통하여 실행될 수 있는 컴퓨터 프로그램의 형태로 구현될 수 있으며, 이와 같은 컴퓨터 프로그램은 컴퓨터로 판독 가능한 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 저장하는 것일 수 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다.
한편, 상기 컴퓨터 프로그램은 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수 있다. 컴퓨터 프로그램의 예에는, 컴파일러에 의하여 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용하여 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함될 수 있다.
본 발명에서 설명하는 특정 실행들은 일 실시 예들로서, 어떠한 방법으로도 본 발명의 범위를 한정하는 것은 아니다. 명세서의 간결함을 위하여, 종래 전자적인 구성들, 제어 시스템들, 소프트웨어, 상기 시스템들의 다른 기능적인 측면들의 기재는 생략될 수 있다. 또한, 도면에 도시된 구성 요소들 간의 선들의 연결 또는 연결 부재들은 기능적인 연결 및/또는 물리적 또는 회로적 연결들을 예시적으로 나타낸 것으로서, 실제 장치에서는 대체 가능하거나 추가의 다양한 기능적인 연결, 물리적인 연결, 또는 회로 연결들로서 나타내어질 수 있다. 또한, "필수적인", "중요하게" 등과 같이 구체적인 언급이 없다면 본 발명의 적용을 위하여 반드시 필요한 구성 요소가 아닐 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등한 또는 이로부터 등가적으로 변경된 모든 범위는 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (11)

  1. 적어도 둘 이상의 화자의 음성을 포함하는 음성 데이터로부터 화자가 표지된 텍스트를 생성하는 방법에 있어서,
    상기 음성 데이터를 텍스트로 변환하여 제1 텍스트를 생성하는 단계;
    상기 제1 텍스트를 소정의 단위로 구분한 하나 이상의 제2 텍스트 각각의 화자를 결정하는 단계; 및
    상기 하나 이상의 제2 텍스트와 각각의 화자를 표시하는 편집 인터페이스를 제공하는 단계;를 포함하는, 화자가 표지된 텍스트 생성 방법.
  2. 청구항 1에 있어서
    상기 편집 인터페이스는
    상기 화자를 결정하는 단계에서 식별된 화자를 나열하여 표시하고, 나열된 화자의 화자명을 입력하거나 선택하기 위한 화자명 입력 인터페이스 및
    상기 하나 이상의 제2 텍스트와 상기 화자명을 대응시켜 표시하는 텍스트 표시 인터페이스를 포함하는, 화자가 표지된 텍스트 생성 방법.
  3. 청구항 2에 있어서
    상기 편집 인터페이스는
    상기 음성 데이터에 대한 정보를 표시하는 음성 데이터 정보 표시 인터페이스를 더 포함하고,
    상기 음성 데이터 정보 표시 인터페이스는
    상기 음성 데이터의 제목, 상기 음성 데이터의 획득 장소, 상기 음성 데이터가 획득된 시간 및 상기 음성 데이터에 음성이 포함된 적어도 둘 이상의 화자의 화자명 각각을 표시하고, 표시된 항목들을 수정하거나 입력하기 위한 인터페이스를 포함하는, 화자가 표지된 텍스트 생성 방법.
  4. 청구항 3에 있어서
    상기 화자명 입력 인터페이스는
    상기 식별된 화자 각각에 대한 적어도 하나의 후보 화자명을 제공하고, 선택된 후보 화자명을 해당 화자의 화자명으로 결정하고,
    상기 적어도 하나의 후보 화자명은 상기 음성 데이터 정보 표시 인터페이스에 입력된 화자명 중 적어도 일부인, 화자가 표지된 텍스트 생성 방법.
  5. 청구항 4에 있어서
    상기 텍스트 표시 인터페이스는
    상기 화자명 입력 인터페이스에서 결정된 화자명을 참조하여 상기 하나 이상의 제2 텍스트와 상기 화자명을 대응시켜 표시하되, 상기 하나 이상의 제2 텍스트 각각에 대해 표시된 화자명에 대한 수정 입력에 따라 하나 이상의 후보 화자명을 추가로 제공하고,
    상기 하나 이상의 후보 화자명은 상기 음성 데이터 정보 표시 인터페이스에 입력된 화자명 중 적어도 일부인, 화자가 표지된 텍스트 생성 방법.
  6. 청구항 2에 있어서
    상기 텍스트 표시 인터페이스는
    소정의 조건에 따라 상기 하나 이상의 제2 텍스트를 나열하여 표시하는, 화자가 표지된 텍스트 생성 방법.
  7. 청구항 6에 있어서
    상기 소정의 조건은
    화자의 변경에 따라 상기 하나 이상의 제2 텍스트의 표시 방식을 구분하여 표시하는 조건이고,
    상기 텍스트 표시 인터페이스는
    상기 하나 이상의 제2 텍스트를 시간의 흐름에 따라 나열하여 표시하되, 화자가 변경되는 시점 전후의 제2 텍스트를 서로 상이한 표시 방식에 따라 표시하는, 화자가 표지된 텍스트 생성 방법.
  8. 청구항 6에 있어서
    상기 소정의 조건은
    상기 하나 이상의 제2 텍스트 중 선택된 화자로 표지된 제2 텍스트 만을 표시하는 조건이고,
    상기 텍스트 표시 인터페이스는
    상기 하나 이상의 제2 텍스트를 시간의 흐름에 따라 나열하여 표시하되, 상기 선택된 화자로 표지된 제2 텍스트를 제1 표시 방식으로 표시하고, 나머지 화자로 표지된 제2 텍스트를 제2 표시 방식으로 표시하는, 화자가 표지된 텍스트 생성 방법.
  9. 청구항 1에 있어서
    상기 편집 인터페이스는
    적어도 하나의 제2 텍스트와 대응되는 개체들이 시간의 흐름에 따라 배열된 텍스트 블록 맵이 표시되는 네비게이터 인터페이스를 포함하는, 화자가 표지된 텍스트 생성 방법.
  10. 청구항 9에 있어서
    상기 네비게이터 인터페이스는
    상기 텍스트 블록 맵을 표시함에 있어서, 동일한 화자의 연속되는 제2 텍스트를 하나의 개체로써 표시하고, 서로 다른 화자의 개체를 서로 다른 표시 형식으로 표시하는, 화자가 표지된 텍스트 생성 방법.
  11. 청구항 9에 있어서
    하나 이상의 제2 텍스트와 화자명을 대응시켜 표시하는 텍스트 표시 인터페이스에는 상기 텍스트 블록 맵 상의 상기 개체들 중 어느 하나의 개체의 선택에 따라 상기 선택된 개체와 대응되는 제2 텍스트가 표시되는, 화자가 표지된 텍스트 생성 방법.
PCT/KR2020/012416 2020-06-16 2020-09-15 화자가 표지된 텍스트 생성 방법 WO2021256614A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP20800774.0A EP3951775A4 (en) 2020-06-16 2020-09-15 PROCEDURE FOR GENERATION OF SPEAKER MARKED TEXT
US17/405,722 US20210390958A1 (en) 2020-06-16 2021-08-18 Method of generating speaker-labeled text

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020200073155A KR102377038B1 (ko) 2020-06-16 2020-06-16 화자가 표지된 텍스트 생성 방법
KR10-2020-0073155 2020-06-16

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/405,722 Continuation US20210390958A1 (en) 2020-06-16 2021-08-18 Method of generating speaker-labeled text

Publications (1)

Publication Number Publication Date
WO2021256614A1 true WO2021256614A1 (ko) 2021-12-23

Family

ID=79176183

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/012416 WO2021256614A1 (ko) 2020-06-16 2020-09-15 화자가 표지된 텍스트 생성 방법

Country Status (2)

Country Link
KR (2) KR102377038B1 (ko)
WO (1) WO2021256614A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000352995A (ja) * 1999-06-14 2000-12-19 Canon Inc 会議音声処理方法および記録装置、情報記憶媒体
US20130103399A1 (en) * 2011-10-21 2013-04-25 Research In Motion Limited Determining and conveying contextual information for real time text
KR20150024188A (ko) * 2013-08-26 2015-03-06 삼성전자주식회사 음성 데이터에 대응하는 문자 데이터를 변경하는 방법 및 이를 위한 전자 장치
KR20190143116A (ko) * 2018-06-20 2019-12-30 주식회사 샤우터 대화 자동 저장 장치 및 방법
KR20200011198A (ko) * 2018-07-24 2020-02-03 주식회사 리턴제로 대화형 메시지 구현 방법, 장치 및 프로그램

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101977072B1 (ko) * 2012-05-07 2019-05-10 엘지전자 주식회사 음성 파일과 관련된 텍스트의 표시 방법 및 이를 구현한 전자기기

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000352995A (ja) * 1999-06-14 2000-12-19 Canon Inc 会議音声処理方法および記録装置、情報記憶媒体
US20130103399A1 (en) * 2011-10-21 2013-04-25 Research In Motion Limited Determining and conveying contextual information for real time text
KR20150024188A (ko) * 2013-08-26 2015-03-06 삼성전자주식회사 음성 데이터에 대응하는 문자 데이터를 변경하는 방법 및 이를 위한 전자 장치
KR20190143116A (ko) * 2018-06-20 2019-12-30 주식회사 샤우터 대화 자동 저장 장치 및 방법
KR20200011198A (ko) * 2018-07-24 2020-02-03 주식회사 리턴제로 대화형 메시지 구현 방법, 장치 및 프로그램

Also Published As

Publication number Publication date
KR20210155866A (ko) 2021-12-24
KR20220040445A (ko) 2022-03-30
KR102377038B1 (ko) 2022-03-23

Similar Documents

Publication Publication Date Title
WO2018070780A1 (en) Electronic device and method for controlling the same
WO2020139058A1 (en) Cross-device voiceprint recognition
WO2013081282A1 (en) System and method for recommending application by using keyword
WO2019112342A1 (en) Voice recognition apparatus and operation method thereof cross-reference to related application
WO2017071453A1 (zh) 一种语音识别的方法及装置
EP3871403A1 (en) Apparatus for vision and language-assisted smartphone task automation and method thereof
WO2014200223A1 (ko) 외국어 동영상 컨텐츠를 이용한 대화형 외국어 학습 방법 및 그것을 위한 장치
WO2021002649A1 (ko) 개별 화자 별 음성 생성 방법 및 컴퓨터 프로그램
WO2021251539A1 (ko) 인공신경망을 이용한 대화형 메시지 구현 방법 및 그 장치
WO2016195219A1 (en) Display device and method of controlling the same
WO2020159140A1 (ko) 전자 장치 및 이의 제어 방법
WO2021256614A1 (ko) 화자가 표지된 텍스트 생성 방법
WO2021167220A1 (ko) 내용 기반 동영상 목차 자동생성 방법 및 시스템
WO2020113850A1 (zh) 电核系统实现方法、系统及可读存储介质
WO2020091431A1 (ko) 그래픽 객체를 이용한 자막 생성 시스템
WO2013154296A1 (ko) 발명의 명칭 문자열을 발음 단위로 분할하는 방법, 이를 이용하는 문자열의 어조 표현 방법 및 문자열의 어조를 표현하는 동영상 데이터가 저장된 저장매체
WO2022239988A1 (ko) 댄스 매칭 방법 및 시스템
WO2013065948A1 (ko) 게임 이벤트 효과 제작 장치 및 방법
KR20220089367A (ko) 회의록 작성 시스템
WO2020226270A1 (ko) 커스텀 이모티콘을 생성하고 전송하는 장치 및 방법
WO2013065912A1 (ko) 화면 출력을 제어하는 방법, 단말기 및 기록매체
WO2018016760A1 (ko) 전자 장치 및 그의 제어 방법
WO2021107308A1 (ko) 전자 장치 및 이의 제어 방법
WO2021149884A1 (ko) 키네틱 타이포그래피가 적용된 자막에 대한 편집방법 및 그 전자장치
WO2020171337A1 (ko) 기억력 증강 장치, 기억력 증강 방법, 및 컴퓨터 판독 가능한 기록 매체

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2020800774

Country of ref document: EP

Effective date: 20201112

NENP Non-entry into the national phase

Ref country code: DE