CN110298026A - 场景描述词的筛选方法和装置 - Google Patents

场景描述词的筛选方法和装置 Download PDF

Info

Publication number
CN110298026A
CN110298026A CN201810239717.XA CN201810239717A CN110298026A CN 110298026 A CN110298026 A CN 110298026A CN 201810239717 A CN201810239717 A CN 201810239717A CN 110298026 A CN110298026 A CN 110298026A
Authority
CN
China
Prior art keywords
word
words
merging
scene description
modularity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810239717.XA
Other languages
English (en)
Other versions
CN110298026B (zh
Inventor
孙智
陈海勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Original Assignee
Beijing Jingdong Century Trading Co Ltd
Beijing Jingdong Shangke Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jingdong Century Trading Co Ltd, Beijing Jingdong Shangke Information Technology Co Ltd filed Critical Beijing Jingdong Century Trading Co Ltd
Priority to CN201810239717.XA priority Critical patent/CN110298026B/zh
Publication of CN110298026A publication Critical patent/CN110298026A/zh
Application granted granted Critical
Publication of CN110298026B publication Critical patent/CN110298026B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种场景描述词的筛选方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：将多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。该实施方式能够自动检测原有的场景描述词中的噪声词并将之去除。

Description

场景描述词的筛选方法和装置
技术领域
本发明涉及计算机技术领域，尤其涉及一种场景描述词的筛选方法和装置。
背景技术
随着计算机技术的快速发展，用户与服务方的交互越来越频繁。对于服务方而言，需要为每一用户进行画像以描述其特征，以便为其提供个性化服务。场景描述即是用户画像的组成部分，其用于显示用户当前所处的、与服务方相关的具体交互状态，一般通过分析用户近期的历史交互数据获得。
例如：某用户最近在服务方平台多次浏览了家具、床等页面，又购买了电视机、洗衣机和电冰箱，则可认为该用户的场景为“新居装修”，该场景的描述词可为“家具、床、电视机、洗衣机、电冰箱”。
实际应用中，用户的场景描述词一般利用无监督算法统计用户行为获得，其中往往含有与用户真实场景相关性较弱或无关的噪声词。现有技术中，一般通过人工核对及标注的方式去除上述噪声词。可以理解，这种方式效率较低且成本较高。
发明内容
有鉴于此，本发明实施例提供一种场景描述词的筛选方法和装置，能够自动检测原有的场景描述词中的噪声词并将之去除。
为实现上述目的，根据本发明的一个方面，提供了一种场景描述词的筛选方法。
本发明实施例的场景描述词的筛选方法用于对同一用户的多个场景描述词进行筛选，其包括：将所述多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。
可选地，所述每次合并均以使合并后的词语集合具有最大模块度的方式进行，具体包括：在进行每次合并之前，确定当前的词语集合在进行该次合并时所有的理论合并方式、以及以每一种理论合并方式进行合并形成的词语集合的模块度；选取所述模块度最大的理论合并方式进行该次合并。
可选地，所述从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量具体包括：将所述至少一次合并中的每一次合并产生的模块度增量从小到大排列，形成增量序列；将所述增量序列中的第S个模块度增量作为目标增量；其中，S为模块度增量总数与预设比例的乘积的取整值。
可选地，所述利用所述目标集合确定所述多个场景描述词中的噪声词，具体包括：将单元素目标集合中的场景描述词确定为噪声词。
可选地，所述模块度根据以下公式确定：
其中：Q为当前的词语集合的模块度，xi、xj为两个不同的场景描述词的词向量，i、j均为词向量序号，sim(xi,xj)为xi、xj的相似度；当xi、xj对应的场景描述词属于当前的同一词语集合时，δ(xi,xj)＝1；当xi、xj对应的场景描述词不属于当前的同一词语集合时，δ(xi,xj)＝0。
可选地，所述相似度根据以下公式确定：
其中，k为xi的维度序号，n为xi的维度总数，xik为xi在第k维度的分量，xjk为xj在第k维度的分量。
可选地，所述词向量是将多条用户浏览数据经分词与词类标注之后输入词向量计算工具获得的；其中，每一用户浏览数据由一个用户在一次浏览过程中依次浏览的产品标题组成，所述词类包括：产品词、修饰词及品牌词。
可选地，所述多个场景描述词均为产品词。
为实现上述目的，根据本发明的另一方面，提供了一种场景描述词的筛选装置。
本发明实施例的场景描述词的筛选装置，用于对同一用户的多个场景描述词进行筛选；可包括：合并模块，用于将所述多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；噪声词确定模块，用于从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。
可选地，所述合并模块可进一步用于：在进行每次合并之前，确定当前的词语集合在进行该次合并时所有的理论合并方式、以及以每一种理论合并方式进行合并形成的词语集合的模块度；选取所述模块度最大的理论合并方式进行该次合并。
可选地，所述噪声词确定模块进一步用于：将所述至少一次合并中的每一次合并产生的模块度增量从小到大排列，形成增量序列；将所述增量序列中的第S个模块度增量作为目标增量；其中，S为模块度增量总数与预设比例的乘积的取整值。
可选地，所述噪声词确定模块可进一步用于：将单元素目标集合中的场景描述词确定为噪声词。
可选地，所述模块度根据以下公式确定：
其中：Q为当前的词语集合的模块度，xi、xj为两个不同的场景描述词的词向量，i、j均为词向量序号，sim(xi,xj)为xi、xj的相似度；当xi、xj对应的场景描述词属于当前的同一词语集合时，δ(xi,xj)＝1；当xi、xj对应的场景描述词不属于当前的同一词语集合时，δ(xi,xj)＝0。
可选地，所述相似度根据以下公式确定：
其中，k为xi的维度序号，n为xi的维度总数，xik为xi在第k维度的分量，xjk为xj在第k维度的分量。
可选地，所述词向量是将多条用户浏览数据经分词与词类标注之后输入词向量计算工具获得的；其中，每一用户浏览数据由一个用户在一次浏览过程中依次浏览的产品标题组成，所述词类包括：产品词、修饰词及品牌词。
可选地，所述多个场景描述词均为产品词。
为实现上述目的，根据本发明的又一方面，提供了一种电子设备。
本发明的一种电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明所提供的场景描述词的筛选方法。
为实现上述目的，根据本发明的再一方面，提供了一种计算机可读存储介质。
本发明的一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明所提供的场景描述词的筛选方法。
根据本发明的技术方案，上述发明中的一个实施例具有如下优点或有益效果：通过基于原有的场景描述词进行集合合并、从合并过程中的各模块度增量中确定目标增量、利用目标增量确定目标集合、以及将目标集合中的单元素集合中的场景描述词判断为噪声词并将之去除，实现了噪声描述词的自动检测与过滤，提高了用户所处场景描述的准确性，减少了人工核对与人工标注的成本。此外，在本发明实施例中，目标增量一般不选取最大的模块度增量，而是选取较之略小的模块度增量，这样可在保证场景描述词聚类效果的前提下提供多种品类的场景描述词，从而提高场景描述的全面性。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是根据本发明实施例的场景描述词的筛选方法的主要步骤示意图；
图2是根据本发明实施例的场景描述词的筛选装置的主要组成部分示意图；
图3是根据本发明实施例可以应用于其中的示例性系统架构图；
图4是用来实现本发明实施例的场景描述词的筛选方法的电子设备的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本发明实施例的技术方案通过基于原有的场景描述词进行集合合并、从合并过程中的各模块度增量中确定目标增量、利用目标增量确定目标集合、以及将目标集合中的单元素集合中的场景描述词判断为噪声词并将之去除，实现了噪声描述词的自动检测与过滤，提高了用户所处场景描述的准确性，减少了人工核对与人工标注的成本。此外，在本发明实施例中，目标增量一般不选取最大的模块度增量，而是选取较之略小的模块度增量，这样可在保证场景描述词聚类效果的前提下提供多种品类的场景描述词，从而提高场景描述的全面性。
需要指出的是，在不冲突的情况下，本发明的实施例以及实施例中的技术特征可以相互结合。
图1是根据本发明实施例的场景描述词的筛选方法的主要步骤示意图。
如图1所示，本发明实施例的场景描述词的筛选方法可通过以下步骤具体执行：
步骤S101：将多个场景描述词中的每一场景描述词作为一个词语集合，对上述词语集合进行至少一次合并得到一个词语集合。
在本发明实施例中，上述多个场景描述词对应于同一用户，其一般为能够清楚地描述用户场景的产品词。特别地，本文中集合的合并特指两个集合合并为一个集合的过程。
具体地，在本步骤中，可对多个场景描述词形成的多个词语集合进行至少一次合并，最终形成一个词语集合。其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行。也就是说，在进行每次合并之前，首先确定当前的词语集合在进行该次合并时所有的理论合并方式以及以每一种理论合并方式进行合并形成的词语集合的模块度，之后选取模块度最大的理论合并方式进行该次合并。
实际应用中，模块度是一种衡量集合划分效果的指标。较佳地，在本发明实施例中，模块度可使用以下公式计算：
在上述公式中：Q为当前的词语集合的模块度，xi、xj为两个不同的场景描述词的词向量，i、j均为词向量序号，sim(xi,xj)为xi、xj的相似度；当xi、xj对应的场景描述词属于当前的同一词语集合时，δ(xi,xj)＝1；当xi、xj对应的场景描述词不属于当前的同一词语集合时，δ(xi,xj)＝0。
作为一个优选方案，场景描述词的词向量之间的相似度可利用以下公式计算：
其中，k为xi的维度序号，n为xi的维度总数，xik为xi在第k维度的分量，xjk为xj在第k维度的分量。
可以理解的是，上述相似度也可以是基于词向量计算的余弦相似度，由于余弦相似度的计算是已知技术，此处不再赘述。
较佳地，在本发明实施例中，可根据以下步骤获取场景描述词的词向量：
1.获取多条用户浏览数据。具体地，每一用户浏览数据由一个用户在一次浏览过程(如在一次登录服务方网站之后浏览多个页面的过程)中依次浏览的产品标题组成。其中，产品标题指的是服务方平台显示的、处于标题位置的文本。
例如：某用户在一次浏览过程中依次浏览了三个产品，三者的标题依次为：“联想(Lenovo)拯救者r720-15.6英寸游戏笔记本电脑”、“华硕(Asus)-顽石四代fl5700up-15.6英寸笔记本电脑”、“联想(Lenovo)小新潮5000-15.6英寸笔记本电脑”，则由三者组成的用户浏览数据为“联想(Lenovo)拯救者r720-15.6英寸游戏笔记本电脑华硕(Asus)-顽石四代fl5700up-15.6英寸笔记本电脑联想(Lenovo)小新潮5000-15.6英寸笔记本电脑”
2.将用户浏览数据进行分词与词类标注。其中，在计算词向量之前分词可提高后续计算效率，词类标注可将分词后的每一词语标记为产品词(可用P表示)、修饰词(可用T表示)、品牌词(可用B表示)等，用于在计算词向量时针对特定词类进行过滤。
例如：将上例中的用户浏览数据进行分词与词类标注，可得到如下数据：“联想-B,(-O,Lenovo-B,)-O,拯救者-B,r720-M,-O,15.6英寸-D,游戏-O,笔记本电脑-P，华硕-BT,(-O,Asus-B,)-O,-O,顽石-B,四代-O,fl5700up-M,-O,15.6英寸-D,笔记本电脑-P，联想-B,(-O,Lenovo-B,)-O,小-O,新潮-B,5000-D,-O,15.6英寸-D,笔记本电脑-P”，其中，词语与其词类之间以连字符相连，O、M、D为产品词、修饰词、品牌词之外的其它词类；有的词语会对应于多个词类，如华硕-BT表示词类标注算法将“华硕”标注为品牌词及修饰词。
可以理解的是，分词与词类标注也可以通过针对大量产品标题数据的分析预先获得，计算词向量时只需查询即可，这样可提高词向量计算效率。
3.将经过分词与词类标注的用户浏览数据输入词向量计算工具(如word2vec)，获得用户浏览数据中每一词语的词向量。
步骤S102：从至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生目标增量之前的词语集合确定为目标集合，利用目标集合确定多个场景描述词中的噪声词。
具体应用中，可执行以下步骤检测噪声词：
1.确定每一场景描述词形成的词语集合经过至少一次合并最终形成一个词语集合的过程中、每一次合并后的模块度。
例如：某用户的场景描述词有N个，其可经N-1次合并(每次合并均以使合并后的词语集合具有最大模块度的方式进行)得到一个词语集合，则第一次合并、第二次合并、第三次合并……第N-1次合并后词语集合的模块度分别为：Q1、Q2、Q3……Qn-1
2.确定每一次合并产生的模块度增量。
具体地，某次合并产生的模块度增量为合并后与合并前模块度的差值。
例如：在上例中，第二次合并、第三次合并……第N-1次合并产生的模块度增量分别为：ΔQ2(等于Q2-Q1)、ΔQ3(等于Q3-Q2)……ΔQn-1(等于Qn-1-Qn-2)。
3.根据预设策略从上述模块度增量中确定目标增量。
在本发明实施例中，目标增量在数值上略小于最大的模块度增量，其可根据如下预设策略确定：将每一次合并产生的模块度增量从小到大排列形成增量序列，将增量序列中的第S个模块度增量作为目标增量；其中，S为模块度增量总数与预设比例的乘积的下取整值。可以理解，实际应用中可根据业务环境将S取值为模块度增量总数与预设比例的乘积的上取整值。
例如：若各模块度增量为[0.3,0.5,0.2,0.1]，可首先对其排序形成增量序列[0.1,0.2,0.3,0.5]，若预设比例为0.8，则S为模块度增量总数4与0.8乘积的下取整值3，于是目标增量为0.3。
4.将产生目标增量之前的词语集合确定为目标集合。
在本步骤中，目标增量的产生与相应合并动作的发生是同时进行的，因此产生目标增量之前即发生目标增量对应的合并之前。例如：在上例中，目标增量0.3(其对应于上例中的ΔQ2)对应的合并为第二次合并，则将发生第二次合并之前(即产生ΔQ2之前或发生第一次合并之后)的所有词语集合确定为目标集合。
5.将单元素目标集合中的场景描述词确定为噪声词。
可以理解的是，对于用户浏览较少的产品，其相应的场景描述词往往较少或者没有，因此在集合合并的过程中易归属于单元素集合。因此，可将单元素集合中的场景描述词确定为噪声词去除。
以上步骤的原理是：一般来说，最大的模块度增量对应的词语集合具有相对最优的集合划分效果，其可使相似度较高的场景描述词处于同一集合，使相似度较低的场景描述词处于不同集合。但是，由于此状态的词语集合划分太过严格，可能使用户多次浏览但相似词较少的场景描述词归属于单元素集合进而被去除，因此，需要将数值略低于最大模块度增量的某增量确定为目标增量。实际应用中，可将预设比例设置为略小于1以实现上述目的。通过上述设置，可在不影响集合划分效果的前提下避免将潜在的较优的场景描述词去除，并提供多种品类的场景描述词。
经过上述步骤，本发明可识别并去除原有的场景描述词中的噪声词，从而实现场景的重建。
例如：某用户原有的场景描述词为：
“相机、TF卡、单反、手机、内存卡、微单、摄像头、摄像机、数码相机、平板电脑”，
经过以上步骤形成如下目标集合：
{TF卡、内存卡}
{相机、单反、微单、数码相机}
{手机}
{摄像头}
{摄像机}
{平板电脑}
可将其中的手机、摄像头、摄像机、平板电脑确定为噪声词去除，则剩余的产品描述词“TF卡、内存卡、相机、单反、微单、数码相机”更接近于真实的场景，其可实现用户所在场景的重建。
根据本发明实施例的技术方案，通过基于原有的场景描述词进行集合合并、从合并过程中的各模块度增量中确定目标增量、利用目标增量确定目标集合、以及将目标集合中的单元素集合中的场景描述词判断为噪声词并将之去除，实现了噪声描述词的自动检测与过滤，提高了用户所处场景描述的准确性，减少了人工核对与人工标注的成本。此外，在本发明实施例中，目标增量一般不选取最大的模块度增量，而是选取较之略小的模块度增量，这样可在保证场景描述词聚类效果的前提下提供多种品类的场景描述词，从而提高场景描述的全面性。
图2是本发明实施例的场景描述词的筛选装置的主要组成部分示意图。
如图2所示，本发明实施例的场景描述词的筛选装置200用于对同一用户的多个场景描述词进行筛选，其可包括合并模块201与噪声词确定模块202。其中：
合并模块201可用于将所述多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；
噪声词确定模块202可用于从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。
在本发明实施例中，所述合并模块201可进一步用于：在进行每次合并之前，确定当前的词语集合在进行该次合并时所有的理论合并方式、以及以每一种理论合并方式进行合并形成的词语集合的模块度；选取所述模块度最大的理论合并方式进行该次合并。
具体应用中，所述噪声词确定模块202可进一步用于：将所述至少一次合并中的每一次合并产生的模块度增量从小到大排列，形成增量序列；将所述增量序列中的第S个模块度增量作为目标增量；其中，S为模块度增量总数与预设比例的乘积的取整值。
实际应用中，所述噪声词确定模块202可进一步用于：将单元素目标集合中的场景描述词确定为噪声词。
较佳地，所述模块度根据以下公式确定：
其中：Q为当前的词语集合的模块度，xi、xj为两个不同的场景描述词的词向量，i、j均为词向量序号，sim(xi,xj)为xi、xj的相似度；当xi、xj对应的场景描述词属于当前的同一词语集合时，δ(xi,xj)＝1；当xi、xj对应的场景描述词不属于当前的同一词语集合时，δ(xi,xj)＝0。
作为一个优选方案，所述相似度根据以下公式确定：
其中，k为xi的维度序号，n为xi的维度总数，xik为xi在第k维度的分量，xjk为xj在第k维度的分量。
此外，在本发明实施例中，所述词向量是将多条用户浏览数据经分词与词类标注之后输入词向量计算工具获得的；其中，每一用户浏览数据由一个用户在一次浏览过程中依次浏览的产品标题组成，所述词类包括：产品词、修饰词及品牌词；所述多个场景描述词均为产品词。
在本发明实施例的技术方案中，通过基于原有的场景描述词进行集合合并、从合并过程中的各模块度增量中确定目标增量、利用目标增量确定目标集合、以及将目标集合中的单元素集合中的场景描述词判断为噪声词并将之去除，实现了噪声描述词的自动检测与过滤，提高了用户所处场景描述的准确性，减少了人工核对与人工标注的成本。此外，在本发明实施例中，目标增量一般不选取最大的模块度增量，而是选取较之略小的模块度增量，这样可在保证场景描述词聚类效果的前提下提供多种品类的场景描述词，从而提高场景描述的全面性。
图3示出了可以应用本发明实施例的场景描述词的筛选方法或场景描述词的筛选装置的示例性系统架构300。
如图3所示，系统架构300可以包括终端设备301、302、303，网络304和服务器305(此架构仅仅是示例，具体架构中包含的组件可以根据申请具体情况调整)。网络304用以在终端设备301、302、303和服务器305之间提供通信链路的介质。网络304可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备301、302、303通过网络304与服务器305交互，以接收或发送消息等。终端设备301、302、303上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备301、302、303可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器305可以是提供各种服务的服务器，例如对用户利用终端设备301、302、303所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理，并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是，本发明实施例所提供的场景描述词的筛选方法一般由服务器305执行，相应地，场景描述词的筛选装置一般设置于服务器305中。
应该理解，图3中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
本发明还提供了一种电子设备。本发明实施例的电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明所提供的场景描述词的筛选方法。
下面参考图4，其示出了适于用来实现本发明实施例的电子设备的计算机系统400的结构示意图。图4示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示，计算机系统400包括中央处理单元(CPU)401，其可以根据存储在只读存储器(ROM)402中的程序或者从存储部分408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM403中，还存储有计算机系统400操作所需的各种程序和数据。CPU401、ROM 402以及RAM 403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
以下部件连接至I/O接口405：包括键盘、鼠标等的输入部分406；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分407；包括硬盘等的存储部分408；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分409。通信部分409经由诸如因特网的网络执行通信处理。驱动器410也根据需要连接至I/O接口405。可拆卸介质411，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器410上，以便从其上读出的计算机程序根据需要被安装入存储部分408。
特别地，根据本发明公开的实施例，上文的主要步骤图描述的过程可以被实现为计算机软件程序。例如，本发明实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行主要步骤图所示的方法的程序代码。在上述实施例中，该计算机程序可以通过通信部分409从网络上被下载和安装，和/或从可拆卸介质411被安装。在该计算机程序被中央处理单元401执行时，执行本发明的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。在本发明中，计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这根据所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括合并模块和噪声词确定模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，合并模块还可以被描述为“向噪声词确定模块提供至少一次合并的合并过程的模块”。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中的。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该设备执行时，使得该设备执行的步骤包括：将多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。
根据本发明实施例的技术方案，通过基于原有的场景描述词进行集合合并、从合并过程中的各模块度增量中确定目标增量、利用目标增量确定目标集合、以及将目标集合中的单元素集合中的场景描述词判断为噪声词并将之去除，实现了噪声描述词的自动检测与过滤，提高了用户所处场景描述的准确性，减少了人工核对与人工标注的成本。此外，在本发明实施例中，目标增量一般不选取最大的模块度增量，而是选取较之略小的模块度增量，这样可在保证场景描述词聚类效果的前提下提供多种品类的场景描述词，从而提高场景描述的全面性。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (18)

1.一种场景描述词的筛选方法，用于对同一用户的多个场景描述词进行筛选；其特征在于，包括：
将所述多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；
从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。
2.根据权利要求1所述的方法，其特征在于，所述每次合并均以使合并后的词语集合具有最大模块度的方式进行，具体包括：
在进行每次合并之前，确定当前的词语集合在进行该次合并时所有的理论合并方式、以及以每一种理论合并方式进行合并形成的词语集合的模块度；
选取所述模块度最大的理论合并方式进行该次合并。
3.根据权利要求1所述的方法，其特征在于，所述从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量具体包括：
将所述至少一次合并中的每一次合并产生的模块度增量从小到大排列，形成增量序列；
将所述增量序列中的第S个模块度增量作为目标增量；其中，S为模块度增量总数与预设比例的乘积的取整值。
4.根据权利要求1所述的方法，其特征在于，所述利用所述目标集合确定所述多个场景描述词中的噪声词，具体包括：
将单元素目标集合中的场景描述词确定为噪声词。
5.根据权利要求1所述的方法，其特征在于，所述模块度根据以下公式确定：
其中：Q为当前的词语集合的模块度，xi、xj为两个不同的场景描述词的词向量，i、j均为词向量序号，sim(xi,xj)为xi、xj的相似度；当xi、xj对应的场景描述词属于当前的同一词语集合时，δ(xi,xj)＝1；当xi、xj对应的场景描述词不属于当前的同一词语集合时，δ(xi,xj)＝0。
6.根据权利要求5所述的方法，其特征在于，所述相似度根据以下公式确定：
其中，k为xi的维度序号，n为xi的维度总数，xik为xi在第k维度的分量，xjk为xj在第k维度的分量。
7.根据权利要求5所述的方法，其特征在于，
所述词向量是将多条用户浏览数据经分词与词类标注之后输入词向量计算工具获得的；
其中，每一用户浏览数据由一个用户在一次浏览过程中依次浏览的产品标题组成，所述词类包括：产品词、修饰词及品牌词。
8.根据权利要求1-7任一所述的方法，其特征在于，所述多个场景描述词均为产品词。
9.一种场景描述词的筛选装置，用于对同一用户的多个场景描述词进行筛选；其特征在于，包括：
合并模块，用于将所述多个场景描述词中的每一场景描述词作为一个词语集合，对所述词语集合进行至少一次合并得到一个词语集合；其中，每次合并均以使合并后的词语集合具有最大模块度的方式进行；
噪声词确定模块，用于从所述至少一次合并中的每一次合并产生的模块度增量中确定目标增量；将在对所述词语集合进行至少一次合并得到一个词语集合的过程中、产生所述目标增量之前的词语集合确定为目标集合，利用所述目标集合确定所述多个场景描述词中的噪声词。
10.根据权利要求9所述的装置，其特征在于，所述合并模块进一步用于：
在进行每次合并之前，确定当前的词语集合在进行该次合并时所有的理论合并方式、以及以每一种理论合并方式进行合并形成的词语集合的模块度；选取所述模块度最大的理论合并方式进行该次合并。
11.根据权利要求9所述的装置，其特征在于，所述噪声词确定模块进一步用于：
将所述至少一次合并中的每一次合并产生的模块度增量从小到大排列，形成增量序列；将所述增量序列中的第S个模块度增量作为目标增量；其中，S为模块度增量总数与预设比例的乘积的取整值。
12.根据权利要求9所述的装置，其特征在于，所述噪声词确定模块进一步用于：
将单元素目标集合中的场景描述词确定为噪声词。
13.根据权利要求9所述的装置，其特征在于，所述模块度根据以下公式确定：
其中：Q为当前的词语集合的模块度，xi、xj为两个不同的场景描述词的词向量，i、j均为词向量序号，sim(xi,xj)为xi、xj的相似度；当xi、xj对应的场景描述词属于当前的同一词语集合时，δ(xi,xj)＝1；当xi、xj对应的场景描述词不属于当前的同一词语集合时，δ(xi,xj)＝0。
14.根据权利要求13所述的装置，其特征在于，所述相似度根据以下公式确定：
其中，k为xi的维度序号，n为xi的维度总数，xik为xi在第k维度的分量，xjk为xj在第k维度的分量。
15.根据权利要求13所述的装置，其特征在于，
所述词向量是将多条用户浏览数据经分词与词类标注之后输入词向量计算工具获得的；
其中，每一用户浏览数据由一个用户在一次浏览过程中依次浏览的产品标题组成，所述词类包括：产品词、修饰词及品牌词。
16.根据权利要求9-15任一所述的装置，其特征在于，所述多个场景描述词均为产品词。
17.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
18.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-8中任一所述的方法。
CN201810239717.XA 2018-03-22 2018-03-22 场景描述词的筛选方法和装置 Active CN110298026B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810239717.XA CN110298026B (zh) 2018-03-22 2018-03-22 场景描述词的筛选方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810239717.XA CN110298026B (zh) 2018-03-22 2018-03-22 场景描述词的筛选方法和装置

Publications (2)

Publication Number Publication Date
CN110298026A true CN110298026A (zh) 2019-10-01
CN110298026B CN110298026B (zh) 2024-04-16

Family

ID=68025668

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810239717.XA Active CN110298026B (zh) 2018-03-22 2018-03-22 场景描述词的筛选方法和装置

Country Status (1)

Country Link
CN (1) CN110298026B (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104537028A (zh) * 2014-12-19 2015-04-22 百度在线网络技术（北京）有限公司 一种网页信息处理方法及装置
CN104679769A (zh) * 2013-11-29 2015-06-03 国际商业机器公司 对产品的使用场景进行分类的方法及装置
CN106055604A (zh) * 2016-05-25 2016-10-26 南京大学 基于词网络进行特征扩展的短文本主题模型挖掘方法
US20170026705A1 (en) * 2015-07-24 2017-01-26 Nuance Communications, Inc. System and method for natural language driven search and discovery in large data sources
CN107145516A (zh) * 2017-04-07 2017-09-08 北京捷通华声科技股份有限公司 一种文本聚类方法及系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104679769A (zh) * 2013-11-29 2015-06-03 国际商业机器公司 对产品的使用场景进行分类的方法及装置
CN104537028A (zh) * 2014-12-19 2015-04-22 百度在线网络技术（北京）有限公司 一种网页信息处理方法及装置
US20170026705A1 (en) * 2015-07-24 2017-01-26 Nuance Communications, Inc. System and method for natural language driven search and discovery in large data sources
CN106055604A (zh) * 2016-05-25 2016-10-26 南京大学 基于词网络进行特征扩展的短文本主题模型挖掘方法
CN107145516A (zh) * 2017-04-07 2017-09-08 北京捷通华声科技股份有限公司 一种文本聚类方法及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张硕望;欧阳纯萍;阳小华;刘永彬;刘志明;: "融合《知网》和搜索引擎的词汇语义相似度计算", 计算机应用, no. 04 *

Also Published As

Publication number Publication date
CN110298026B (zh) 2024-04-16

Similar Documents

Publication Publication Date Title
CN104573054B (zh) 一种信息推送方法和设备
CN108228906B (zh) 用于生成信息的方法和装置
CN107679119A (zh) 生成品牌衍生词的方法和装置
CN110111167A (zh) 一种确定推荐对象的方法和装置
CN106503274A (zh) 一种数据整合与搜索方法及服务器
CN109901987A (zh) 一种生成测试数据的方法和装置
CN105630767A (zh) 一种文本相似性的比较方法以及装置
CN107169077A (zh) 用于推送信息的方法和装置
CN106951495A (zh) 用于呈现信息的方法和装置
CN107977678A (zh) 用于输出信息的方法和装置
CN109862100A (zh) 用于推送信息的方法和装置
CN108073708A (zh) 信息输出方法和装置
CN109784352A (zh) 一种评估分类模型的方法和装置
CN110321447A (zh) 重复图像的确定方法、装置、电子设备及存储介质
CN110516033A (zh) 一种计算用户偏好的方法和装置
CN109446520B (zh) 用于构建知识库的数据聚类方法及装置
CN109933691A (zh) 用于内容检索的方法、装置、设备和存储介质
CN110096501A (zh) 基于标签的数据搜索方法、装置、介质及电子设备
CN109446324A (zh) 样本数据的处理方法、装置、存储介质及电子设备
CN108959294A (zh) 一种访问搜索引擎的方法和装置
CN105446971B (zh) 一种信息显示方法和装置
CN110298026A (zh) 场景描述词的筛选方法和装置
CN115563942A (zh) 一种合同生成方法、装置、电子设备及计算机可读介质
CN106446696A (zh) 一种信息处理方法及电子设备
CN109993592A (zh) 信息推送方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant