CN113743053B - 字母向量计算方法、系统、存储介质及电子设备 - Google Patents

字母向量计算方法、系统、存储介质及电子设备 Download PDF

Info

Publication number
CN113743053B
CN113743053B CN202110942877.2A CN202110942877A CN113743053B CN 113743053 B CN113743053 B CN 113743053B CN 202110942877 A CN202110942877 A CN 202110942877A CN 113743053 B CN113743053 B CN 113743053B
Authority
CN
China
Prior art keywords
chinese
vector
character
letter
pinyin
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110942877.2A
Other languages
English (en)
Other versions
CN113743053A (zh
Inventor
梁吉光
黄艳香
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Minglue Artificial Intelligence Group Co Ltd
Original Assignee
Shanghai Minglue Artificial Intelligence Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Minglue Artificial Intelligence Group Co Ltd filed Critical Shanghai Minglue Artificial Intelligence Group Co Ltd
Priority to CN202110942877.2A priority Critical patent/CN113743053B/zh
Publication of CN113743053A publication Critical patent/CN113743053A/zh
Application granted granted Critical
Publication of CN113743053B publication Critical patent/CN113743053B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/12Use of codes for handling textual entities
    • G06F40/126Character encoding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/237Lexical tools
    • G06F40/242Dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Document Processing Apparatus (AREA)

Abstract

本申请公开了一种字母向量计算方法、系统、存储介质及电子设备,方法包括:获取字典步骤:提取预训练中文字向量模型中的汉字并形成字典;获取二元组步骤:遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串;还原步骤:将所述汉字的拼音还原为尖团音并拆分为字母字符串;计算步骤:计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;获取字母向量步骤:根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量。本发明丰富了只基于字或词粒度的向量表示。

Description

字母向量计算方法、系统、存储介质及电子设备
技术领域
本发明属于字母向量计算领域,具体涉及一种字母向量计算方法、系统、存储介质及电子设备。
背景技术
近年来,词嵌入(wordembedding)在自然语言处理领域多项任务中取得了瞩目的成绩,也吸引了众多研究人员的关注。在中文词嵌入中,研究人员大多只关注字和词维度的embedding,而对汉语拼音字母的关注比较少。汉语拼音是对汉字读音的注解,也是一种汉字语义的体现。
现有技术中词嵌入基于字或词做embedding,很少考虑读音,更没有融合尖团音做汉语拼音字母embedding的相关研究了。
发明内容
本申请实施例提供了一种字母向量计算方法、系统、存储介质及电子设备,以至少解决现有的字母向量计算方法没有融合尖团音做汉语拼音字母embedding的相关研究的问题。
本发明提供了一种字母向量计算方法,其中,包括:
获取字典步骤:提取预训练中文字向量模型中的汉字并形成字典;
获取二元组步骤:遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串,根据所述汉字和所述字母串构建二元组;
还原步骤:将所述汉字的拼音还原为尖团音并拆分为字母字符串;
计算步骤:根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;
获取字母向量步骤:根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量。
上述字母向量计算方法,其中,所述获取字典步骤包括:
模型获取步骤:获取预训练中文字向量模型,所述预训练中文字向量模型为N维向量字向量模型;
提取步骤:提取所述N维向量字向量模型中的汉字形成字典。
上述字母向量计算方法,其中,所述计算步骤包括:
倒排步骤:根据所述汉字与所述汉字对应的还原尖团音之后的汉语拼音构成的所述字母串,对所述汉字和所述字母串进行倒排;
向量计算步骤:根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串、倒排结果以及向量计算公式计算所述字符串中每个汉语拼音字母的在所述汉字中所分得的向量。
上述字母向量计算方法,其中,所述获取二元组步骤包括:
如果所述汉字是多音字则所述汉字可以拆分为多个由汉语拼音字母构成的所述字母串。
本发明还提供了一种字母向量计算系统,其中,包括:
获取字典模块,所述获取字典模块提取预训练中文字向量模型中的汉字并形成字典;
获取二元组模块,所述获取二元组模块遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串,根据所述汉字和所述字母串构建二元组;
还原模块,所述还原模块将所述汉字的拼音还原为尖团音并拆分为字母字符串;
计算模块,所述计算模块根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;
获取字母向量模块,所述获取字母向量模块根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量。
上述字母向量计算系统,其中,所述获取字典模块包括:
模型获取单元,所述模型获取单元获取预训练中文字向量模型,所述预训练中文字向量模型为N维向量字向量模型;
提取单元,所述提取单元提取所述N维向量字向量模型中的汉字形成字典。
上述字母向量计算系统,其中,所述计算模块包括:
倒排单元,所述倒排单元根据所述汉字与所述汉字对应的还原尖团音之后的汉语拼音构成的所述字母串,对所述汉字和所述字母串进行倒排;
向量计算单元,所述向量计算单元根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串、倒排结果以及向量计算公式计算所述字符串中每个汉语拼音字母的在所述汉字中所分得的向量。
上述字母向量计算系统,其中,所述获取二元组模块包括:
如果所述汉字是多音字则所述汉字可以拆分为多个由汉语拼音字母构成的所述字母串。
一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其中,所述处理器执行所述计算机程序时实现如上述任一所述的字母向量计算方法。
一种存储介质,其上存储有计算机程序,其中,该程序被处理器执行时实现如上述任一所述的字母向量计算方法。
本发明的有益效果在于:
本发明属于深度学习技术中的自然语言处理领域。本公开提供了一种融合尖团音的汉语拼音向量计算方法与装置,主要考虑了汉字在发音方面的语义关系,丰富了只基于字或词粒度的向量表示。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。
在附图中:
图1是本发明的字母向量计算方法的流程图;
图2是本发明的分步骤S1的流程图;
图3是本发明的分步骤S4的流程图;
图4是本发明的字母向量计算系统的结构示意图;
图5是根据本发明实施例的电子设备的框架图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行描述和说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。基于本申请提供的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
显而易见地,下面描述中的附图仅仅是本申请的一些示例或实施例,对于本领域的普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图将本申请应用于其他类似情景。此外,还可以理解的是,虽然这种开发过程中所作出的努力可能是复杂并且冗长的,然而对于与本申请公开的内容相关的本领域的普通技术人员而言,在本申请揭露的技术内容的基础上进行的一些设计,制造或者生产等变更只是常规的技术手段,不应当理解为本申请公开的内容不充分。
在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是,本申请所描述的实施例在不冲突的情况下,可以与其它实施例相结合。
除非另作定义,本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制,可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形,意图在于覆盖不排他的包含;例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可以还包括没有列出的步骤或单元,或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电气的连接,不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象,不代表针对对象的特定排序。
下面结合附图所示的各实施方式对本发明进行详细说明,但应当说明的是,这些实施方式并非对本发明的限制,本领域普通技术人员根据这些实施方式所作的功能、方法、或者结构上的等效变换或替代,均属于本发明的保护范围之内。
在详细阐述本发明各个实施例之前,对本发明的核心发明思想予以概述,并通过下述若干实施例予以详细阐述。
实施例一:
请参照图1,图1是字母向量计算方法的流程图。如图1所示,本发明的字母向量计算方法包括:
获取字典步骤S1:提取预训练中文字向量模型中的汉字并形成字典;
获取二元组步骤S2:遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串,根据所述汉字和所述字母串构建二元组;
还原步骤S3:将所述汉字的拼音还原为尖团音并拆分为字母字符串;
计算步骤S4:根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;
获取字母向量步骤S5:根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量。
请参照图2,图2是获取字典步骤S1的流程图。如图2所示,所述获取字典步骤S1包括:
模型获取步骤S11:获取预训练中文字向量模型,所述预训练中文字向量模型为N维向量字向量模型;
提取步骤S12:提取所述N维向量字向量模型中的汉字形成字典。
请参照图3,图3是计算步骤S4的流程图。如图3所示,所述计算步骤S4包括:
倒排步骤S41:根据所述汉字与所述汉字对应的还原尖团音之后的汉语拼音构成的所述字母串,对所述汉字和所述字母串进行倒排;
向量计算步骤S42:根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串、倒排结果以及向量计算公式计算所述字符串中每个汉语拼音字母的在所述汉字中所分得的向量。
其中,所述获取二元组步骤包括:
如果所述汉字是多音字则所述汉字可以拆分为多个由汉语拼音字母构成的所述字母串。
具体地说,本发明的具体步骤如下:
S1:读取预训练中文字向量模型并以<汉字,字向量>的形式进行存储,其中字向量为N维向量字向量模型记为Model。
S2:从所述步骤S1中得到的预训练中文字向量模型Model中,提取出所有的汉字,并形成字典Dic<汉字>。
S3:遍历所述步骤S2中得到的字典Dic中的汉字,找出其中的尖团字。
具体地,所谓尖团字是指发音为尖团音的汉字。尖团音是尖音和团音的总称。尖音指汉语拼音z、c、s声母拼i、ü或i、ü起头的韵母,团音指汉语拼音j、q、x声母拼i、ü或i、ü起头的韵母。如把“将、千、先”读作ziāng、ciān、siān,把“姜、牵、掀”读作jiāng、qiān、xiān。
S4:获取汉字的拼音,并将汉字的拼音拆分为由汉语拼音构成的字母串,并构成二元组Tuple<汉字,{汉语拼音构成的字母串}>。
S5:还原尖团音拼音。对于尖团字,需要将汉字拼音还原为尖团音并拆分为字母字符串。如将“先”的拼音还原为“sian”,并且表示为二元组<先,{{s,i,a,n}}>。
进一步地,在所述步骤S4中,如果汉字是多音字,则采用一对多的策略。一个汉字可以对应多个拼音,即一个多音字可以拆分为多个由汉语拼音构成的字母串。
进一步地,为方便描述,以汉字“省”为例进行示范性描述。“省”为多音字,有三个读音,分别为“sheng”(三声)、和“xing”(三声)。
进一步地,省音“xing”(三声)时是一个尖字,因此需要将“xing”还原为尖音“sing”。
进一步地,汉字“省”的汉语拼音可拆分为汉语拼音构成的字符串{{s,h,e,n,g},{s,i,n,g}}。进一步地,得到二元组<省,{s,h,e,n,g},{s,i,n,g}>。
S6:根据所述步骤S4和所述步骤S5中得到的汉字与其对应的还原尖团音之后的汉语拼音构成的字母串,倒排表示汉语拼音字母和汉字,即构建<汉语拼音,{汉语拼音所构成的汉字1,汉语拼音所构成的汉字,...}>。
进一步地,为方便描述,现假设S1中的预训练中文字向量模型中只有四个汉字,分别为“省”、“明”、“说”和“你”。
进一步地,根据所述步骤S2和所述步骤S3可得到<省,{s,h,e,n,g},{s,i,n,g}>、<明,{{m,i,n,g}}>、<说,{{s,h,u,o},{s,h,u,i},{y,u,e}}>和<你,{n,i}>。
进一步地,根据所述步骤S4和所述步骤S5可得到汉语拼音与汉字的倒排如下:
<e,{省(音sheng),说}>
<g,{省(音sheng),省(音sing),明}>
<h,{省(音sheng),说(音shuo),说(音shui)}>
<i,{省(音sing),明,说(音shui)},你>
<m,{明}>
<n,{省(音sheng),省(音sing),你}>
<o,{说(音shuo)}>
<s,{省(音sheng),省(音sing),说(音shuo),说(音shui)}>
<u,{说(音shuo),说(音shui),说(音yue)}>
<y,{说(音yue)}>
S7:根据所述步骤S6得到的汉字与其对应的还原尖团音之后的汉语拼音字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音的在该汉字中所分得的向量,计算方法为字向量除以汉字所对应的汉语拼音的个数,计算公式如下所示:
其中,wj为汉字,Ci为汉字wj所对应的还原尖团音之后的汉语拼音中的汉语拼音字母,Vwj表示汉字wj的字向量,p(Wj)表示汉字wj所对应的还原尖团音之后的汉语拼音中的汉语拼音字母个数。
进一步地,为方便描述现举例示范:根据所述步骤S7中计算汉语拼音字符串中每个汉语拼音的在该汉字中所分得的向量的方法,可以得到汉语拼音’s’在汉字“省”(音sheng)、汉字“省”(音sing)、汉字“说”(音shuo)和汉字“说”(音shui)中所分得的向量如下所示:
S8:根据所述步骤S7计算得到的汉语拼音字符串中每个汉语拼音的在该汉字中所分得的向量,计算汉语拼音的向量,计算方法如下所示:
其中,g(Ci)指的是汉语拼音包含汉语拼音Ci的汉字的集合,|g(Ci)|指的是汉语拼音包含汉语拼音Ci的汉字的个数。
进一步地,汉语拼音’s’的向量计算方法如下所示:
实施例二:
请参照图4,图4是本发明的字母向量计算系统的结构示意图。如图4所示本发明的一种字母向量计算系统,其中,包括:
获取字典模块11,所述获取字典模块提取预训练中文字向量模型中的汉字并形成字典;
获取二元组模块12,所述获取二元组模块遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串,根据所述汉字和所述字母串构建二元组;
还原模块13,所述还原模块将所述汉字的拼音还原为尖团音并拆分为字母字符串;
计算模块14,所述计算模块根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;
获取字母向量模块15,所述获取字母向量模块根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量。
其中,所述获取字典模块11包括:
模型获取单元111,所述模型获取单元获取预训练中文字向量模型,所述预训练中文字向量模型为N维向量字向量模型;
提取单元112,所述提取单元提取所述N维向量字向量模型中的汉字形成字典。
其中,所述计算模块14包括:
倒排单元141,所述倒排单元根据所述汉字与所述汉字对应的还原尖团音之后的汉语拼音构成的所述字母串,对所述汉字和所述字母串进行倒排;
向量计算单元142,所述向量计算单元根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串、倒排结果以及向量计算公式计算所述字符串中每个汉语拼音字母的在所述汉字中所分得的向量。
其中,所述获取二元组模块12包括:
如果所述汉字是多音字则所述汉字可以拆分为多个由汉语拼音字母构成的所述字母串。
实施例三:
结合图5所示,本实施例揭示了一种电子设备的一种具体实施方式。电子设备可以包括处理器81以及存储有计算机程序指令的存储器82。
具体地,上述处理器81可以包括中央处理器(CPU),或者特定集成电路(Application Specific Integrated Circuit,简称为ASIC),或者可以被配置成实施本申请实施例的一个或多个集成电路。
其中,存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器82可包括硬盘驱动器(Hard Disk Drive,简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive,简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus,简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器82可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器82可在数据处理装置的内部或外部。在特定实施例中,存储器82是非易失性(Non-Volatile)存储器。在特定实施例中,存储器82包括只读存储器(Read-Only Memory,简称为ROM)和随机存取存储器(RandomAccess Memory,简称为RAM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory,简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory,简称为EPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory,简称为EEPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory,简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下,该RAM可以是静态随机存取存储器(Static Random-Access Memory,简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory,简称为DRAM),其中,DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory,简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory,简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory,简称SDRAM)等。
存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件,以及处理器81所执行的可能的计算机程序指令。
处理器81通过读取并执行存储器82中存储的计算机程序指令,以实现上述实施例中的任意一种字母向量计算方法。
在其中一些实施例中,电子设备还可包括通信接口83和总线80。其中,如图5所示,处理器81、存储器82、通信接口83通过总线80连接并完成相互间的通信。
通信接口83用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信端口83还可以实现与其他部件例如:外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
总线80包括硬件、软件或两者,将电子设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一:数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制,总线80可包括图形加速接口(Accelerated Graphics Port,简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture,简称为EISA)总线、前端总线(FrontSide Bus,简称为FSB)、超传输(Hyper Transport,简称为HT)互连、工业标准架构(Industry Standard Architecture,简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count,简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture,简称为MCA)总线、外围组件互连(Peripheral Component Interconnect,简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment,简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus,简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线,但本申请考虑任何合适的总线或互连。
该电子设备可以基于字母向量计算,从而实现结合图1-图3描述的方法。
另外,结合上述实施例中字母向量计算方法,本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种字母向量计算方法。
以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
综上所述,基于本发明的有益效果在于,本公开提供了一种融合尖团音的汉语拼音向量计算方法与装置,主要考虑了汉字在发音方面的语义关系,丰富了只基于字或词粒度的向量表示。
以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明保护范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本发明的保护范围应以所附权利要求的保护范围为准。

Claims (8)

1.一种字母向量计算方法,其特征在于,包括:
获取字典步骤:提取预训练中文字向量模型中的汉字并形成字典;
获取二元组步骤:遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串,根据所述汉字和所述字母串构建二元组;
还原步骤:将所述汉字的拼音还原为尖团音并拆分为字母字符串;
计算步骤:根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;
获取字母向量步骤:根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量;
其中,所述计算步骤包括:
倒排步骤:根据所述汉字与所述汉字对应的还原尖团音之后的汉语拼音构成的所述字母串,对所述汉字和所述字母串进行倒排;
向量计算步骤:根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串、倒排结果以及向量计算公式计算所述字符串中每个汉语拼音字母的在所述汉字中所分得的向量。
2.如权利要求1所述的字母向量计算方法,其特征在于,所述获取字典步骤包括:
模型获取步骤:获取预训练中文字向量模型,所述预训练中文字向量模型为N维向量字向量模型;
提取步骤:提取所述N维向量字向量模型中的汉字形成字典。
3.如权利要求1所述的字母向量计算方法,其特征在于,所述获取二元组步骤包括:
如果所述汉字是多音字则所述汉字可以拆分为多个由汉语拼音字母构成的所述字母串。
4.一种字母向量计算系统,其特征在于,包括:
获取字典模块,所述获取字典模块提取预训练中文字向量模型中的汉字并形成字典;
获取二元组模块,所述获取二元组模块遍历所述字典中的汉字,获取所述汉字中的尖团字,并将所述汉字的拼音拆分构成字母串,根据所述汉字和所述字母串构建二元组;
还原模块,所述还原模块将所述汉字的拼音还原为尖团音并拆分为字母字符串;
计算模块,所述计算模块根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串,计算还原尖团音之后的汉语拼音字符串中每个汉语拼音在所述汉字中所分得的向量;
获取字母向量模块,所述获取字母向量模块根据还原尖团音之后的所述汉语拼音字符串中每个所述汉语拼音字母在所述汉字中所分得的所述向量,计算获取汉字拼音字母向量;
其中,所述计算模块包括:
倒排单元,所述倒排单元根据所述汉字与所述汉字对应的还原尖团音之后的汉语拼音构成的所述字母串,对所述汉字和所述字母串进行倒排;
向量计算单元,所述向量计算单元根据所述汉字与所述汉字对应的还原尖团音之后的所述字母字符串、倒排结果以及向量计算公式计算所述字符串中每个汉语拼音字母的在所述汉字中所分得的向量。
5.如权利要求4所述的字母向量计算系统,其特征在于,所述获取字典模块包括:
模型获取单元,所述模型获取单元获取预训练中文字向量模型,所述预训练中文字向量模型为N维向量字向量模型;
提取单元,所述提取单元提取所述N维向量字向量模型中的汉字形成字典。
6.如权利要求5所述的字母向量计算系统,其特征在于,所述获取二元组模块包括:
如果所述汉字是多音字则所述汉字可以拆分为多个由汉语拼音字母构成的所述字母串。
7.一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至3中任一项所述的字母向量计算方法。
8.一种存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1至3中任一项所述的字母向量计算方法。
CN202110942877.2A 2021-08-17 2021-08-17 字母向量计算方法、系统、存储介质及电子设备 Active CN113743053B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110942877.2A CN113743053B (zh) 2021-08-17 2021-08-17 字母向量计算方法、系统、存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110942877.2A CN113743053B (zh) 2021-08-17 2021-08-17 字母向量计算方法、系统、存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN113743053A CN113743053A (zh) 2021-12-03
CN113743053B true CN113743053B (zh) 2024-03-12

Family

ID=78731490

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110942877.2A Active CN113743053B (zh) 2021-08-17 2021-08-17 字母向量计算方法、系统、存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN113743053B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114398888B (zh) * 2022-01-07 2024-06-18 北京明略软件系统有限公司 生成声母韵母向量的方法、装置、电子设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1357821A (zh) * 2000-12-15 2002-07-10 丽台科技股份有限公司 拼音语音输入的方法
CN108874765A (zh) * 2017-05-15 2018-11-23 阿里巴巴集团控股有限公司 词向量处理方法及装置
CN109739370A (zh) * 2019-01-10 2019-05-10 北京帝派智能科技有限公司 一种语言模型训练方法、汉语拼音输入方法及装置
CN110096715A (zh) * 2019-05-06 2019-08-06 北京理工大学 一种融合发音特征汉语-越南语统计机器翻译方法
CN111476036A (zh) * 2020-04-10 2020-07-31 电子科技大学 一种基于中文单词特征子串的词嵌入学习方法
CN112331180A (zh) * 2020-11-03 2021-02-05 北京猿力未来科技有限公司 一种口语评测方法及装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1357821A (zh) * 2000-12-15 2002-07-10 丽台科技股份有限公司 拼音语音输入的方法
CN108874765A (zh) * 2017-05-15 2018-11-23 阿里巴巴集团控股有限公司 词向量处理方法及装置
CN109739370A (zh) * 2019-01-10 2019-05-10 北京帝派智能科技有限公司 一种语言模型训练方法、汉语拼音输入方法及装置
CN110096715A (zh) * 2019-05-06 2019-08-06 北京理工大学 一种融合发音特征汉语-越南语统计机器翻译方法
CN111476036A (zh) * 2020-04-10 2020-07-31 电子科技大学 一种基于中文单词特征子串的词嵌入学习方法
CN112331180A (zh) * 2020-11-03 2021-02-05 北京猿力未来科技有限公司 一种口语评测方法及装置

Also Published As

Publication number Publication date
CN113743053A (zh) 2021-12-03

Similar Documents

Publication Publication Date Title
US10586533B2 (en) Method and device for recognizing speech based on Chinese-English mixed dictionary
CN108510983B (zh) 用于序列标注的自动单元选择和目标分解的系统和方法
CN111738251B (zh) 一种融合语言模型的光学字符识别方法、装置和电子设备
CN113811946A (zh) 数字序列的端到端自动语音识别
US10224023B2 (en) Speech recognition system and method thereof, vocabulary establishing method and computer program product
CN104143331A (zh) 一种添加标点的方法和系统
CN113255331B (zh) 文本纠错方法、装置及存储介质
CN112016271A (zh) 语言风格转换模型的训练方法、文本处理方法以及装置
CN112397051B (zh) 语音识别方法、装置及终端设备
CN110264997A (zh) 语音断句的方法、装置和存储介质
CN109145946B (zh) 一种智能图像识别和描述方法
CN113743053B (zh) 字母向量计算方法、系统、存储介质及电子设备
KR102615290B1 (ko) 발음 사전 학습 방법 및 장치
CN112489634A (zh) 语言的声学模型训练方法、装置、电子设备及计算机介质
CN112232070A (zh) 自然语言处理模型构建方法、系统、电子设备及存储介质
US20190155902A1 (en) Information generation method, information processing device, and word extraction method
Ito et al. End-to-end speech recognition for languages with ideographic characters
CN111401069A (zh) 会话文本的意图识别方法、意图识别装置及终端
CN112507718B (zh) 一种跨语种实体标注方法、装置、设备及存储介质
CN116129883A (zh) 语音识别方法、装置、计算机设备及存储介质
CN114170997A (zh) 发音技巧检测方法、装置、存储介质及电子设备
CN113743054A (zh) 字母向量学习方法、系统、存储介质及电子设备
CN113255334A (zh) 一种计算字向量方法、系统、电子设备及存储介质
CN113869057A (zh) 文本数据增强方法、系统和计算机设备和存储介质
CN112966510A (zh) 一种基于albert的武器装备实体抽取方法、系统及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant