WO2022105229A1 - 一种输入方法、装置和用于输入的装置 - Google Patents

一种输入方法、装置和用于输入的装置 Download PDF

Info

Publication number
WO2022105229A1
WO2022105229A1 PCT/CN2021/102186 CN2021102186W WO2022105229A1 WO 2022105229 A1 WO2022105229 A1 WO 2022105229A1 CN 2021102186 W CN2021102186 W CN 2021102186W WO 2022105229 A1 WO2022105229 A1 WO 2022105229A1
Authority
WO
WIPO (PCT)
Prior art keywords
sentence
rewriting
sample
style
model
Prior art date
Application number
PCT/CN2021/102186
Other languages
English (en)
French (fr)
Inventor
姚波怀
崔欣
Original Assignee
北京搜狗科技发展有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 北京搜狗科技发展有限公司 filed Critical 北京搜狗科技发展有限公司
Publication of WO2022105229A1 publication Critical patent/WO2022105229A1/zh
Priority to US18/107,906 priority Critical patent/US20230196001A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/166Editing, e.g. inserting or deleting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/12Use of codes for handling textual entities
    • G06F40/151Transformation
    • G06F40/16Automatic learning of transformation rules, e.g. from examples
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/253Grammatical analysis; Style critique
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/40Processing or translation of natural language
    • G06F40/55Rule-based translation
    • G06F40/56Natural language generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods

Abstract

本申请实施例公开了一种输入方法、装置和用于输入的装置。该方法的实施例包括:获取用户输入的第一语句;将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句;显示所述第二语句。本申请实施例能够提高语句改写功能的泛化性和改写后的语句的通顺性。

Description

一种输入方法、装置和用于输入的装置
本申请要求在2020年11月20日提交中国专利局、申请号为202011315387.1、发明名称为“一种输入方法、装置和用于输入的装置”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。
技术领域
本申请实施例涉及计算机技术领域,具体涉及一种输入方法、装置和用于输入的装置。
背景技术
随着计算机技术的发展,输入法应用的功能越来越丰富。例如,用户借助输入法应用进行语句输入时,可自动将用户输入的语句或者其中的词汇进行改写,以符合某种风格。
现有技术中,通常采用基于规则的方式实现语句改写功能。例如,可通过拼接的方式将用户输入的语句与语句库中的某一语句进行拼接,实现语句改写,如将用户输入的语句“哈哈哈”对应改写为“哈哈哈,我自己都笑出声”。或者,通过替换词汇的方式将用户输入的语句中的某些词汇替换为另一些词汇,实现语句改写,如将“我”替换为“偶”等。现有的基于规则的语句改写方式通常只能在用户输入的内容为高频语句时触发改写功能,因而泛化性较差,同时,所生成的语句表达通常较为生硬,语句通顺性较低。
发明内容
本申请实施例提出了一种输入方法、装置和用于输入的装置,以解决现有技术中基于规则的方式进行语句修改所导致的泛化性较差、语句通顺性较低的技术问题。
第一方面,本申请实施例提供了一种输入方法,该方法包括:获取用户输入的第一语句;将第一语句输入至预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句;显示第二语句。
第二方面,本申请实施例提供了一种输入装置,该装置包括:获取单元,配置为获取用户输入的第一语句;输入单元,配置为将第一语句 输入至预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句;显示单元,配置为显示第二语句。
第三方面,本申请实施例提供了一种用于输入的装置,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且所述程序被一个或者一个以上处理器执行时,实现前述方法的步骤。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时实现如上述第一方面所描述的方法。
本申请实施例提供的输入方法、装置和用于输入的装置,通过获取用户输入的第一语句,并将该第一语句输入至通过深度学方式预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句,从而显示第一语句,以便于用户选择。由于采用改写模型进行语句改写,因而将任一语句输入至改写模型,均能够得到相应的改写后的语句,此过程不受语句的使用频率的限制,提高了语句改写功能的泛化性。同时,改写模型通过深度学习方式训练得到,相较于基于规则的语句改写方式,能够使所生成的语句更接近于真实语料,提升了改写后的语句的通顺性。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1是根据本申请的输入方法的一个实施例的步骤流程图;
图2是根据本申请的输入方法的又一个实施例的步骤流程图;
图3是根据本申请的输入方法的又一个实施例的步骤流程图;
图4是根据本申请的输入装置的一个实施例的结构示意图;
图5是根据本申请的一种用于输入的装置的结构示意图;
图6是根据本申请的一些实施例中服务端的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发 明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
请参考图1,其示出了根据本申请的输入方法的一个实施例的步骤流程100。上述输入方法可运行于各种电子设备,上述电子设备包括但不限于:服务器、智能手机、平板电脑、电子书阅读器、MP3(动态影像专家压缩标准音频层面3,Moving Picture Experts Group Audio Layer III)播放器、MP4(动态影像专家压缩标准音频层面4,Moving Picture Experts Group Audio Layer IV)播放器、膝上型便携计算机、车载电脑、台式计算机、机顶盒、智能电视机、可穿戴设备等等。
本申请实施例中所提到的输入法应用是一种实现文字输入的软件。也可称为输入法编辑器(Input Method Editor)、输入法软件、输入法平台、输入法框架或输入法系统等。用户可以使用输入法应用便利地将需要的字符或者字符串输入电子设备。输入法是为将各种符号输入到如计算机、手机等电子设备而采用的编码方法。例如,除了支持常见的中文输入法(比如拼音输入法、五笔输入法、注音输入法、语音输入法、手写输入法等)以外,还可以支持其他语种的输入法(比如英文输入法、日文平假名输入法、韩文输入法等)。输入方式可以包括但不限于编码输入方式、语音输入方式等。在此不对输入法的语言种类和输入方式做任何限定。
本实施例中的输入方法,可以包括以下步骤:
步骤101,获取用户输入的第一语句。
在本实施例中,输入方法的执行主体(如上述电子设备)可以安装有各种类型的客户端应用,例如输入法应用、即时通信应用、购物类应用、搜索类应用、邮箱客户端、社交平台软件等。上述执行主体可以实时获取用户通过输入法应用输入的第一语句。其中,第一语句可以指用户当前正在编辑但尚未发送的语句。作为示例,在本地用户通过某一即时通信应用与对端用户进行即时通讯的场景中,第一语句可以是本地用户当前正在编辑但尚未发送给对端用户的即时通讯消息。
在本实施例中,输入法应用可以配置有改写功能。改写功能支持将 用户输入的第一语句改写为另一语句,从而能够为用户提供更为丰富的可选语句。
步骤102,将第一语句输入至预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句。
在本实施例中,上述执行主体可以获取用户输入的第一语句,并将该第一语句输入至预先训练的改写模型,得到与该第一语句具有相同语义且具有不同风格的第二语句。其中,语句的风格可以预先进行划分,且划分方式不作限定。例如,可划分为文艺风格、白话风格、幽默风格、正式风格、二次元风格、或段子风格等。
在本实施例中,改写模型可以用于将输入至其中的第一语句改写为语义相同但风格不同的另一语句,即,可用于表征具有相同语义且具有不同风格的语句的对应关系。改写模型可以通过深度学习方式预先训练得到。深度学习(Deep Learning,DL)是一种机器学习的一个研究方向。深度学习能够学习样本数据的内在规律和表示层次,学习过程中获得的信息对诸如文字,图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力,能够识别文字、图像和声音等数据。由此,通过深度学习方式训练得到的改写模型,能够学习到将语句改写为另一语句的规律,从而实现语句改写功能。
在一种场景中,改写模型可以部署于上述执行主体本地,如输入法应用的数据包中。此时,上述执行主体可以直接将第一语句输入至该改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句。
在另一种场景中,改写模型可以部署于服务端,如输入法服务端。输入法服务端是用于对输入法应用提供支持的服务端。上述执行主体可以通过向服务端发送请求的方式,向服务端发送第一语句。服务端获取到该请求中所携带的第一语句后,即可将第一语句输入至改写模型,得到改写模型输出的第二语句。服务端在获得到第二语句后,即可将第二语句返回至上述执行主体。
在本实施例的一些可选的实现方式中,上述执行主体可以实时检测改写功能是否触发,并在检测到改写功能触发时,将第一语句输入至预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第 二语句。实践中,改写功能可以由用户触发,也可以自动触发。
作为示例,输入法界面中可以显示有含键盘区域和各种功能按键等,如语音输入功能按键、小程序功能按键、搜索功能按键、表情输入功能按键、改写功能按键等。当用户触发(如点击)改写功能按键后,即可触发输入法应用的改写功能。上述改写功能按键可以以各种样式显示,本实施例对改写功能按键的样式不作限定。
作为又一示例,用户可以通过在输入法应用中进行内容输入,来触发改写功能。如用户通过编码输入方式或者语音输入方式输入了目标内容,如“语句改写”等内容时,可以触发改写功能。
作为再一示例,可以通过对用户相关信息进行实时分析,在某些预设触发条件满足时自动触发改写功能。用户相关信息可以包括但不限于以下至少一项:用户画像(如可包括年龄、性别、职业、地域等)、上下文信息、输入场景、用户的个人偏好、用户在输入过程中的历史行为数据等。例如,当用户相关信息指示用户习惯于在当前输入场景中手动触发改写功能时,可进行改写功能的自动触发。
作为再一示例,可以在用户输入过程中检测用户是否具有改写需求。在检测到用户具有改写需求时,触发改写功能。
需要说明的是,改写功能的触发方式不限于上述示例,此处不再一一赘述。
在本实施例的一些可选的实现方式中,改写模型通过如下子步骤S11至子步骤S12训练得到:
子步骤S11,获取样本集。
样本集中可以包含大量的样本。每一个样本可以是一个二元组。二元组中包括第一样本语句和第二样本语句。每个二元组中的第一样本语句和上述第二样本语句可具有相同语义且具有不同风格。例如,第一样本语句为常规的语句,如白话语句“在我心里谁都不如你”。第二样本语句可以为文艺风格,如“春水初生,春林初盛,春风十里,不如你”。
实践中,第一样本语句和第二样本语句可以通过各种语料提取方式提取得到。在进行语料提取时,可根据特征词、场景、用户特征等进行语料挖掘。而后,可将挖掘的语料进行去重、过滤等处理,得到样本语 句,同时对一些风格的样本语句添加风格标注。
子步骤S12,基于样本集中的样本训练得到改写模型。
在一些示例中,可以使用各种深度神经网络作为初始模型,利用深度学习方式和样本集对该初始模型进行训练,得到改写模型。作为示例,上述深度神经网络可以包括但不限于LSTM(Long Short-Term Memory,长短期记忆网络)、RNN(Recurrent Neural Network,循环神经网络)、具有编码器(Encoder)和解码器(Decoder)结构的模型等。
实践中,可针对不同风格训练不同的改写模型,使每一个改写模型能够将语句改写为一种风格。也可以仅训练一个改写模型,使之能够支持将语句改写为不同风格。具体地,可采用深度学习方式(如有监督学习方式)对初始模型进行训练,得到改写模型。具体地,可从样本集中选取一些二元组,将二元组中的其中一个样本语句作为初始模型的输入,将另一样本语句作为初始模型的输出,对初始模型进行训练,得到改写模型。
在另一些示例中,上述执行主体还可以利用预训练模型得到改写模型。作为示例,上述预训练模型可以包括但不限于BERT(Bidirectional Encoder Representations from Transformer,基于transformer结构的双向编码器表征)模型、ERNIE(Enhanced Language Representation with Informative Entities,知识增强语义表示模型)、XLNet(一种基于BERT模型优化后的模型)等。上述执行主体可以对上述预训练模型进行再训练,如进行微调(fine-tuning),得到改写模型。
步骤103,显示第二语句。
在本实施例中,上述执行主体可以在得到第二语句后,可以在输入法应用的显示界面中显示第二语句。此处对第二语句的显示方式和显示位置不作限定。例如,可显示于输入法应用的显示界面中的任意位置,也可以以浮动窗口的形式显示于当前输入界面中的任意位置。
在本实施例的一些可选的实现方式中,在显示上述第二语句之后,若检测到用户触发第二语句,可以将第一语句替换为第二语句。此外,还可以上屏或发送上述第二语句。从而可提高用户的输入效率。
本申请的上述实施例提供的方法,通过获取用户输入的第一语句, 并将该第一语句输入至通过深度学方式预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句,从而显示第一语句,以便于用户选择。由于采用改写模型进行语句改写,因而将任一语句输入至改写模型,均能够得到相应的改写后的语句,此过程不受语句的使用频率的限制,提高了语句改写功能的泛化性。同时,改写模型通过深度学习方式训练得到,相较于基于规则的语句改写方式,能够使所生成的语句更接近于真实语料,提升了改写后的语句的通顺性。
进一步参考图2,其示出了输入方法的又一个实施例的流程200。该输入方法的流程200,包括以下步骤:
步骤201,获取用户输入的第一语句。
本实施例中的步骤201可参见图1对应实施例的步骤101,此处不再赘述。
步骤202,在检测到改写功能触发时,确定第一语句的目标风格。
在本实施例中,输入方法的执行主体在检测到改写功能触发时,可以确定用户输入的第一语句的目标风格。其中,目标风格可以指待改写的风格。
在一些示例中,当用户手动触发改写功能并选中风格标签时,可将用户选中的风格标签所对应的风格作为目标风格。
在另一些示例中,当用户未选择风格标签时,或者,当自动触发改写功能时,可按照如下步骤确定目标风格:
首先,获取用户相关信息。用户相关信息可包括但不限于以下至少一项:用户画像、用户行为数据、历史输入内容、用户行为数据等。
而后,从用户相关信息中提取特征信息。特征信息可以是用于表征用户特征的信息,可采用向量等形式表示。向量的每一维度可对应用户相关信息中的一项内容。
最后,基于特征信息确定目标风格。此处,由于不同用户具有不同的特征,且不同的用户具有不同的偏好,因而通过用户的特征信息,对应出用户的偏好,从而确定出目标风格。实践中,可采用风格预测模型确定出目标风格。上述风格预测模型可以用于表征用户的特征信息与目 标风格的对应关系。例如,风格预测模型可以是用于表征用户特征与偏好的风格的对应关系表,也可以是采用机器学习方式预先训练得到的预测模型等。
步骤203,从多个改写模型中,选取用于将语句改写为目标风格的目标改写模型,并将第一语句输入至目标改写模型,得到所语句改写模型输出的第二语句。
在本实施例中,可预先训练得到多个改写模型。不同改写模型用于将语句改写为不同风格。上述执行主体可以从上述多个改写模型中,选取用于将语句改写为目标风格的目标改写模型,并将第一语句输入至上述目标改写模型,得到语句改写模型输出的第二语句。此处的第二语句具有目标风格,且与第一语句具有相同语义。
在本实施例中,改写模型可以基于样本集,利用深度学习方式训练得到。上述样本集中的样本为二元组,二元组包括第一样本语句和第二样本语句。每一个二元组中的第一样本语句和第二样本语句可具有相同语义且具有不同风格。
在本实施例中,二元组中的第二样本语句带有风格标签,用于指示语句的风格。不同的风格可对应不同的风格标签。风格标签可以由一个或多个字符构成,且该字符可以包括但不限于字母、数字、符号等。改写模型可以通过如下步骤训练得到:
第一步,按照第二样本语句的风格标签,将样本集划分为多个子样本集。
此处,每一个子样本集用于训练一种改写模型,通过不同子样本集训练的改写模型用于将语句改写为不同风格。例如,语句的风格被预先划分为文艺风格、幽默风格、正式风格、二次元风格和段子风格。此时,风格标签可分为以下五种:文艺风格标签、幽默风格标签、正式风格标签、二次元风格标签和段子风格标签。上述执行主体可将带有相同风格标签的第二样本语句所属的二元组划分为同一个集合中,从而得到五个子样本集合。五个子样本集合分别用于训练五种对应不同风格的改写模型。
第二步,基于上述多个子样本集训练得到多个改写模型。
此处,对于每一个子样本集,将该子样本集中的第一样本语句作为输入,将该子样本集中的第二样本语句作为输出,利用深度学习方式训练得到改写模型。所得到的改写模型可用于将语句改写为该子样本集对应的风格标签所指示的风格。由此,不同的改写模型可用于将语句改写成不同风格。
此处,可以使用各种深度神经网络作为初始模型,利用深度学习方式和各子样本集对该初始模型进行训练,得到不同子样本集对应的改写模型。也可以首先获取预训练模型,通过对该预训练模型进行微调,得到不同子样本集对应的改写模型。
在训练过程中,可以逐一地将子样本集中的第一样本语句输入至初始模型或预训练模型,得到初始模型或预训练模型输出的语句。而后,可以基于输出的语句与第一样本语句对应的第二样本语句,确定损失值。上述损失值可以用于表征所输出的语句与第二样本语句的差异。损失值越大,则差异越大。上述损失值可以基于欧氏距离等确定。之后,可以利用该损失值,更新初始模型或预训练模型的参数。由此,每输入一个第一样本语句,可以基于该第一样本语句对应的第二样本语句,对初始模型或预训练模型的参数进行一次更新。
实践中,可以通过多种方式确定是否训练完成。例如,当初始模型或预训练模型输出的语句与相应的第二样本语句的相似度达到预设值时(例如95%)时,可以确定训练完成。作为又一示例,若初始模型或预训练模型的训练次数等于预设次数时,可以确定训练完成。此处,当确定训练完成,即可将训练后的初始模型或预训练模型确定为改写模型。
由此,基于不同的子样本集,可训练得到不同的改写模型,不同的改写模型可用于将语句改写成不同风格。在模型应用阶段,若需对某一语句进行改写,则可针对需要改写的风格,选择对应的改写模型进行改写操作。从而可以在具有不同风格的改写需求时,灵活选取不同的改写模型进行语句改写,提高了语句改写的灵活性和风格的多样性。
步骤204,显示第二语句。
本实施例中的步骤204可参见图1对应实施例的步骤103,此处不再赘述。
从图2中可以看出,与图1对应的实施例相比,本申请的上述实施例提供的方法,通过预先训练多个改写模型,使不同的改写模型能够改写及输出不同风格的语句。在需进行第一语句改写时,确定出所需改写的目标风格,并将用户输入的第一语句输入至能够输出目标风格的语句的目标改写模型中,得到与第一语句语义相同且风格为目标风格的第二语句,从而可以在具有不同风格的改写需求的情况下,灵活选取不同的改写模型进行语句改写,提高了语句改写的灵活性和风格的多样性。
进一步参考图3,其示出了输入方法的又一个实施例的流程300。该输入方法的流程300,包括以下步骤:
步骤301,获取用户输入的第一语句。
本实施例中的步骤301可参见图1对应实施例的步骤101,此处不再赘述。
步骤302,在检测到改写功能触发时,确定第一语句的目标风格。
在本实施例中,输入方法的执行主体在检测到改写功能触发时,可以确定用户输入的第一语句的目标风格。其中,目标风格可以指待改写的风格。
在一些示例中,当用户手动触发改写功能,并选中风格标签时,可将用户选中的风格标签所对应的风格作为目标风格。
在另一些示例中,当用户未选择风格标签时,或者,当自动触发改写功能时,可按照如下步骤确定目标风格:
首先,获取用户相关信息。用户相关信息可包括但不限于以下至少一项:用户画像、用户行为数据、历史输入内容、用户行为数据等。
而后,可以从用户相关信息中提取特征信息。特征信息可以是用于表征用户特征的信息,可采用向量等形式表示。向量的每一维度可对应用户相关信息中的一项内容。
最后,可以基于特征信息确定目标风格。此处,由于不同用户具有不同的特征,同时具有不同的偏好,因而通过用户的特征信息,对应出用户的偏好,从而确定出目标风格。实践中,可采用风格预测模型确定出目标风格。上述风格预测模型可以用于表征用户的特征信息与目标风 格的对应关系。例如,风格预测模型可以是对应关系表,也可以是采用机器学习方式预先训练得到的预测模型等。
步骤303,将目标风格对应的风格标签和第一语句输入至预先训练的改写模型,得到语句改写模型输出的第二语句。
在本实施例中,可预先训练得到改写模型。该改写模型可支持将语句改写为不同风格。上述执行主体可以将目标风格对应的风格标签和第一语句输入至预先训练的改写模型,得到上述语句改写模型输出的第二语句。此处的第二语句具有目标风格,且与第一语句具有相同语义。
在本实施例中,改写模型可以基于样本集,利用深度学习方式训练得到。上述样本集中的样本为二元组,二元组包括第一样本语句和第二样本语句。每一个二元组中的第一样本语句和第二样本语句可具有相同语义且具有不同风格。
上述二元组中的第二样本语句带有风格标签,用于指示语句的风格。不同的风格可对应不同的风格标签。风格标签可以由一个或多个字符构成,且该字符可以包括但不限于字母、数字、符号等。上述执行主体可以将二元组中的第一样本语句和第二样本语句的风格标签作为输入,将二元组中的第二样本语句作为输出,利用深度学习方式训练得到改写模型。所得到的改写模型可用于将语句改写为不同风格。
此处,可以使用各种深度神经网络作为初始模型,利用深度学习方式和样本集中的样本对该初始模型进行训练,得到改写模型。也可以首先获取预训练模型,通过对该预训练模型进行微调,得到改写模型。
在训练过程中,可以逐一地将样本集中的第一样本语句及第二样本语句的风格标签输入至初始模型或预训练模型,得到初始模型或预训练模型输出的语句。而后,可以基于输出的语句与第二样本语句,确定损失值。上述损失值可以用于表征所输出的语句与第二样本语句的差异。损失值越大,则差异越大。上述损失值可以基于欧氏距离等确定。之后,可以利用该损失值,更新初始模型或预训练模型的参数。由此,每输入一个第一样本语句及风格标签,可以基于第二样本语句,对初始模型或预训练模型的参数进行一次更新。
实践中,可以通过多种方式确定是否训练完成。作为示例,当初始 模型或预训练模型输出的语句与相应的第二样本语句的相似度达到预设值时(例如95%)时,可以确定训练完成。作为又一示例,若初始模型或预训练模型的训练次数等于预设次数时,可以确定训练完成。此处,当确定训练完成,即可将训练后的初始模型或预训练模型确定为改写模型。
由此,在模型应用阶段,若需对某一语句进行改写,则可将所需改写的语句和期望风格的风格标注输入至改写模型,从而将原始语句改写为所期望风格的语句。通过一个改写模型能够实现多种风格的语句的改写,在提高了语句改写的灵活性和风格的多样性的同时,节省了存储空间。
步骤304,显示第二语句。
本实施例中的步骤304可参见图1对应实施例的步骤103,此处不再赘述。
从图3中可以看出,与图1对应的实施例相比,本申请的上述实施例提供的方法,通过预先训练支持输出不同风格语句的改写模型,在需进行第一语句改写时,将该第一语句和所需改写的目标风格的风格标识输入至该改写模型中,得到与第一语句语义相同且风格为目标风格的第二语句,从而可以通过一个改写模型实现多种风格的语句的改写,在提高了语句改写的灵活性和风格的多样性的同时,节省了存储空间。
进一步参考图4,作为对上述各图所示方法的实现,本申请提供了一种输入装置的一个实施例,该装置实施例与图1所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,本实施例的输入装置400包括:获取单元401,配置为获取用户输入的第一语句;输入单元402,配置为在检测到改写功能触发时,将上述第一语句输入至预先训练的改写模型,得到与上述第一语句具有相同语义且具有不同风格的第二语句;显示单元403,配置为显示上述第二语句。
在本实施例的一些可选的实现方式中,所述改写模型通过如下步骤训练得到:获取样本集,其中,所述样本集中的样本为二元组,所述二 元组包括第一样本语句和第二样本语句,所述第一样本语句和所述第二样本具有相同语义且具有不同风格;基于所述样本集中的样本训练得到改写模型。
在本实施例的一些可选的实现方式中,所述二元组中的第二样本语句带有风格标签;以及,所述基于所述样本集中的样本训练得到改写模型,包括:按照第二样本语句的风格标签,将所述样本集划分为多个子样本集;基于所述多个子样本集中的样本训练得到多个改写模型,不同改写模型用于将语句改写为不同风格。
在本实施例的一些可选的实现方式中,所述二元组中的第二样本语句带有风格标签;以及,所述基于所述样本集中的样本训练得到改写模型,包括:将样本中的第二样本语句的风格标签以及第一样本语句作为输入,将样本中的第二样本语句作为输出,利用深度学习方式训练得到改写模型。
在本实施例的一些可选的实现方式中,所述利用深度学习方式训练得到改写模型,包括:获取预训练模型;对所述预训练模型进行再训练,得到改写模型。
在本实施例的一些可选的实现方式中,所述输入单元402,进一步配置为:在检测到改写功能触发时,确定所述第一语句的目标风格;从所述多个改写模型中,选取用于将语句改写为所述目标风格的目标改写模型,并将所述第一语句输入至所述目标改写模型,得到具有所述目标风格的第二语句。
在本实施例的一些可选的实现方式中,所述输入单元402,进一步配置为:在检测到改写功能触发时,确定所述第一语句的目标风格;将所述目标风格对应的风格标签和所述第一语句输入至所述改写模型,得到具有所述目标风格的第二语句。
在本实施例的一些可选的实现方式中,所述输入单元402,进一步配置为:将用户选定的风格标签所指示的风格确定为所述第一语句的目标风格;或者,获取用户相关信息,从所述用户相关信息中提取特征信息,并基于所述特征信息,确定所述第一语句的目标风格。
在本实施例的一些可选的实现方式中,所述输入单元402,进一步配 置为:在检测到改写功能触发时,将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句;其中,所述改写功能的触发方式包括用户触发方式和自动触发方式;所述用户触发方式包括以下至少一项:触发改写功能按键、输入目标内容;所述自动触发方式包括以下至少一项:检测到用户具有改写需求、检测到满足预设触发条件。
在本实施例的一些可选的实现方式中,所述装置还包括:替换单元,配置为在检测到用户触发所述第二语句时,将所述第一语句替换为所述第二语句。
本申请的上述实施例提供的装置,通过获取用户输入的第一语句,并将该第一语句输入至通过深度学方式预先训练的改写模型,得到与第一语句具有相同语义且具有不同风格的第二语句,从而显示第一语句,以便于用户选择。由于采用改写模型进行语句改写,因而将任一语句输入至改写模型,均能够得到相应的改写后的语句,此过程不受语句的频率限制,提高了语句改写功能的泛化性。同时,改写模型通过深度学习方式训练得到,相较于基于规则的语句改写方式,能够使所生成的语句更接近于真实语料,提升了改写后的语句的通顺性。
图5是根据一示例性实施例示出的用于输入的装置500的框图,该装置500可以为智能终端或者服务端。例如,装置500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,装置500可以包括以下一个或多个组件:处理组件502,存储器504,电源组件506,多媒体组件508,音频组件510,输入/输出(I/O)的接口512,传感器组件514,以及通信组件516。
处理组件502通常控制装置500的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理元件502可以包括一个或多个处理器520来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件502可以包括一个或多个模块,便于处理组件502和其他组件之间的交互。例如,处理组件502可以包括多媒体模块,以方便多媒体组件508和处理组件502之间的交互。
存储器504被配置为存储各种类型的数据以支持在装置500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件506为装置500的各种组件提供电力。电源组件506可以包括电源管理系统,一个或多个电源,及其他与为装置500生成、管理和分配电力相关联的组件。
多媒体组件508包括在上述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。上述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与上述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件508包括一个前置摄像头和/或后置摄像头。当设备500处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件510被配置为输出和/或输入音频信号。例如,音频组件510包括一个麦克风(MIC),当装置500处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中,音频组件510还包括一个扬声器,用于输出音频信号。
I/O接口512为处理组件502和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件514包括一个或多个传感器,用于为装置500提供各个方面的状态评估。例如,传感器组件514可以检测到设备500的打开/关 闭状态,组件的相对定位,例如上述组件为装置500的显示器和小键盘,传感器组件514还可以检测装置500或装置500一个组件的位置改变,用户与装置500接触的存在或不存在,装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件514还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件516经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,上述通信组件516还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器504,上述指令可由装置500的处理器520执行以完成上述方法。例如,上述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图6是本申请的一些实施例中服务端的结构示意图。该服务端600可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上中央处理器(central processing units,CPU)622(例如,一个或一个以上处理器)和存储器632,一个或一个以上存储应用程序642或数据644的存储介质630(例如一个或一个以上海量存储设备)。其中,存储器632和存储介质630可以是短暂存储或持久存储。存储在存储介质630的程 序可以包括一个或一个以上模块(图示没标出),每个模块可以包括对服务端中的一系列指令操作。更进一步地,中央处理器622可以设置为与存储介质630通信,在服务端600上执行存储介质630中的一系列指令操作。
服务端600还可以包括一个或一个以上电源626,一个或一个以上有线或无线网络接口650,一个或一个以上输入输出接口658,一个或一个以上键盘656,和/或,一个或一个以上操作系统641,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM等等。
一种非临时性计算机可读存储介质,当上述存储介质中的指令由装置(智能终端或者服务端)的处理器执行时,使得装置能够执行一种输入方法,上述方法包括:获取用户输入的第一语句;将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句;显示所述第二语句。
本领域技术人员在考虑说明书及实践这里公开的申请后,将容易想到本申请的其它实施方案。本申请旨在涵盖本申请的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本申请的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本申请的真正范围和精神由下面的权利要求指出。
应当理解的是,本申请并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求来限制。
以上上述仅为本申请的较佳实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。
以上对本申请实施例所提供的一种输入方法、装置和一种用于输入的装置进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。

Claims (15)

  1. 一种输入方法,其特征在于,所述方法包括:
    获取用户输入的第一语句;
    将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句;
    显示所述第二语句。
  2. 根据权利要求1所述的方法,其特征在于,所述改写模型通过如下步骤训练得到:
    获取样本集,其中,所述样本集中的样本为二元组,所述二元组包括第一样本语句和第二样本语句,所述第一样本语句和所述第二样本具有相同语义且具有不同风格;
    基于所述样本集中的样本训练得到改写模型。
  3. 根据权利要求2所述的方法,其特征在于,所述二元组中的第二样本语句带有风格标签;以及,
    所述基于所述样本集中的样本训练得到改写模型,包括:
    按照第二样本语句的风格标签,将所述样本集划分为多个子样本集;
    基于所述多个子样本集中的样本训练得到多个改写模型,不同改写模型用于将语句改写为不同风格。
  4. 根据权利要求2所述的方法,其特征在于,所述二元组中的第二样本语句带有风格标签;以及,
    所述基于所述样本集中的样本训练得到改写模型,包括:
    将样本中的第二样本语句的风格标签以及第一样本语句作为输入,将样本中的第二样本语句作为输出,利用深度学习方式训练得到改写模型。
  5. 根据权利要求3或4所述的方法,其特征在于,所述利用深度学习方式训练得到改写模型,包括:
    获取预训练模型;
    对所述预训练模型进行再训练,得到改写模型。
  6. 根据权利要求3所述的方法,其特征在于,所述将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句,包括:
    在检测到改写功能触发时,确定所述第一语句的目标风格;
    从所述多个改写模型中,选取用于将语句改写为所述目标风格的目标改写模型,并将所述第一语句输入至所述目标改写模型,得到具有所述目标风格的第二语句。
  7. 根据权利要求4所述的方法,其特征在于,所述将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句,包括:
    在检测到改写功能触发时,确定所述第一语句的目标风格;
    将所述目标风格对应的风格标签和所述第一语句输入至所述改写模型,得到具有所述目标风格的第二语句。
  8. 根据权利要求6或7所述的方法,其特征在于,所述确定所述第一语句的目标风格,包括:
    将用户选定的风格标签所指示的风格确定为所述第一语句的目标风格;或者,
    获取用户相关信息,从所述用户相关信息中提取特征信息,并基于所述特征信息,确定所述第一语句的目标风格。
  9. 根据权利要求1所述的方法,其特征在于,所述将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句,包括:
    在检测到改写功能触发时,将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句;
    其中,所述改写功能的触发方式包括用户触发方式和自动触发方式;所述用户触发方式包括以下至少一项:触发改写功能按键、输入目标内容;所述自动触发方式包括以下至少一项:检测到用户具有改写需求、检测到满足预设触发条件。
  10. 根据权利要求1所述的方法,其特征在于,在所述显示所述第 二语句之后,所述方法还包括:
    在检测到用户触发所述第二语句时,将所述第一语句替换为所述第二语句。
  11. 一种输入装置,其特征在于,所述装置包括:
    获取单元,配置为获取用户输入的第一语句;
    输入单元,配置为将所述第一语句输入至预先训练的改写模型,得到与所述第一语句具有相同语义且具有不同风格的第二语句;
    显示单元,配置为显示所述第二语句。
  12. 根据权利要求11所述的装置,其特征在于,所述改写模型通过如下步骤训练得到:
    获取样本集,其中,所述样本集中的样本为二元组,所述二元组包括第一样本语句和第二样本语句,所述第一样本语句和所述第二样本具有相同语义且具有不同风格;
    基于所述样本集中的样本训练得到改写模型。
  13. 根据权利要求12所述的装置,其特征在于,所述二元组中的第二样本语句带有风格标签;以及,
    所述基于所述样本集中的样本训练得到改写模型,包括:
    按照第二样本语句的风格标签,将所述样本集划分为多个子样本集;
    基于所述多个子样本集中的样本训练得到多个改写模型,不同改写模型用于将语句改写为不同风格。
  14. 一种用于输入的装置,其特征在于,包括有存储器,以及一个或者一个以上的程序,其中一个或者一个以上程序存储于存储器中,且所述程序被一个或者一个以上处理器执行时,实现权利要求1至10中任一所述方法的步骤。
  15. 一种计算机可读介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-10中任一所述的方法。
PCT/CN2021/102186 2020-11-20 2021-06-24 一种输入方法、装置和用于输入的装置 WO2022105229A1 (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/107,906 US20230196001A1 (en) 2020-11-20 2023-02-09 Sentence conversion techniques

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN202011315387.1A CN114519339A (zh) 2020-11-20 2020-11-20 一种输入方法、装置和用于输入的装置
CN202011315387.1 2020-11-20

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/107,906 Continuation US20230196001A1 (en) 2020-11-20 2023-02-09 Sentence conversion techniques

Publications (1)

Publication Number Publication Date
WO2022105229A1 true WO2022105229A1 (zh) 2022-05-27

Family

ID=81594512

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/CN2021/102186 WO2022105229A1 (zh) 2020-11-20 2021-06-24 一种输入方法、装置和用于输入的装置

Country Status (3)

Country Link
US (1) US20230196001A1 (zh)
CN (1) CN114519339A (zh)
WO (1) WO2022105229A1 (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109635253A (zh) * 2018-11-13 2019-04-16 平安科技(深圳)有限公司 文本风格转换方法、装置及存储介质、计算机设备
CN110457661A (zh) * 2019-08-16 2019-11-15 腾讯科技(深圳)有限公司 自然语言生成方法、装置、设备及存储介质
CN110688834A (zh) * 2019-08-22 2020-01-14 阿里巴巴集团控股有限公司 基于深度学习模型进行智能文稿风格改写的方法和设备
CN111414733A (zh) * 2020-03-18 2020-07-14 联想(北京)有限公司 一种数据处理方法、装置及电子设备
US20200250375A1 (en) * 2017-11-14 2020-08-06 Adobe Inc. Predicting style breaches within textual content

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20200250375A1 (en) * 2017-11-14 2020-08-06 Adobe Inc. Predicting style breaches within textual content
CN109635253A (zh) * 2018-11-13 2019-04-16 平安科技(深圳)有限公司 文本风格转换方法、装置及存储介质、计算机设备
CN110457661A (zh) * 2019-08-16 2019-11-15 腾讯科技(深圳)有限公司 自然语言生成方法、装置、设备及存储介质
CN110688834A (zh) * 2019-08-22 2020-01-14 阿里巴巴集团控股有限公司 基于深度学习模型进行智能文稿风格改写的方法和设备
CN111414733A (zh) * 2020-03-18 2020-07-14 联想(北京)有限公司 一种数据处理方法、装置及电子设备

Also Published As

Publication number Publication date
US20230196001A1 (en) 2023-06-22
CN114519339A (zh) 2022-05-20

Similar Documents

Publication Publication Date Title
CN109961791B (zh) 一种语音信息处理方法、装置及电子设备
US20210407495A1 (en) Method, apparatus, electronic device and storage medium for semantic recognition
CN111128183B (zh) 语音识别方法、装置和介质
CN107564526B (zh) 处理方法、装置和机器可读介质
US20170140254A1 (en) Method and device for adding font
CN112037756A (zh) 语音处理方法、装置和介质
CN111797262A (zh) 诗词生成方法、装置、电子设备和存储介质
CN109977390B (zh) 一种生成文本的方法及装置
CN112036174A (zh) 一种标点标注方法及装置
CN112948565A (zh) 人机对话方法、装置、电子设备及存储介质
WO2022105229A1 (zh) 一种输入方法、装置和用于输入的装置
CN110648657A (zh) 一种语言模型训练方法、构建方法和装置
CN112837668B (zh) 一种语音处理方法、装置和用于处理语音的装置
CN113326706A (zh) 一种跨语言检索方法、装置和电子设备
CN110929122B (zh) 一种数据处理方法、装置和用于数据处理的装置
CN113515618A (zh) 语音处理方法、装置和介质
CN108983992B (zh) 一种具有标点符号的候选项展示方法和装置
CN108241438B (zh) 一种输入方法、装置和用于输入的装置
CN107977089B (zh) 一种输入方法和装置、一种用于输入的装置
CN110765338A (zh) 一种数据处理方法、装置和用于数据处理的装置
CN110716653B (zh) 一种联想源确定方法和装置
CN111178086B (zh) 数据处理方法、装置和介质
US20230267282A1 (en) Poetry generation
CN109388328B (zh) 一种输入方法、装置和介质
CN115454259A (zh) 一种输入方法、装置和用于输入的装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21893383

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205A DATED 220823)

122 Ep: pct application non-entry in european phase

Ref document number: 21893383

Country of ref document: EP

Kind code of ref document: A1