CN107977347A - 一种题目去重方法和计算设备 - Google Patents

Abstract

本发明公开了一种题目去重方法，适于对初始题组中的多道题目进行去重处理，在计算设备中执行，该方法包括：分别对初始题组中的多道题目进行预处理操作，得到第一题组；分别计算第一题组中各题目的哈希值，并对具有同一哈希值的多道题目进行去重处理，得到第二题组；分别计算第二题组中各题目的simhash值，以及各题目的simhash值与其他题目的simhash值之间的相似度；对于第二题组中的每道题目，按照相似度降序排序的方法提取预定数目个相近题目，得到第三题组；以及分别统计各题目与其各相近题目之间的字符差异，并根据差异内容对所述第三题组进行去重处理，得到目标题组。本发明公开了对应的计算设备。

Description

一种题目去重方法和计算设备

技术领域

本发明涉及电子教学领域，尤其涉及一种题目去重方法和计算设备。

背景技术

随着计算机和互联网技术的发展，中小学教育，乃至大学教育中的练习和考试题目均实现了电子化存储，并可上传到网络上供学生使用，其中每个题目都会涉及特定知识点且具有特定难度。随着时间的推移，题库的题目会越来越多，而为用户呈现题目时可能会出现一些非常相似的题目，此时需要对题目进行去重处理。而作为一道完整的题目，其涉及到上下文语义、标点和数字等多种因素，去重效果可能并不好。因此需要一种能够更精确的对题目进行去重的方法，以提高用户体验。

发明内容

鉴于上述问题，本发明提出了一种题目去重方法和计算设备，以力图解决或者至少解决上面存在的问题。

根据本发明的一个方面，提供一种题目去重方法，适于对初始题组中的多道题目进行去重处理，在计算设备中执行，该方法包括：分别对初始题组中的多道题目进行预处理操作，得到第一题组；分别计算第一题组中各题目的哈希值，并对具有同一哈希值的多道题目进行去重处理，得到第二题组；分别计算第二题组中各题目的simhash值，以及各题目的simhash值与其他题目的simhash值之间的相似度；对于第二题组中的每道题目，按照相似度降序排序的方法提取预定数目个相近题目，得到第三题组；以及分别统计各题目与其各相近题目之间的字符差异，并根据差异内容对所述第三题组进行去重处理，得到目标题组。

可选地，在根据本发明的题目去重方法中，第二题组中各题目的simhash值的计算方法包括以下步骤：分别对第二题组中各题目进行分词处理，并确定每个分词的权重；分别计算各题目中每个分词的哈希值，并结合其分词权重对各哈希值进行加权处理，得到各题目中每个分词的哈希序列串；以及对于每道题目，将其所有分词的哈希序列串中位于同一序列位的数值累加，并对各累加值进行二进制转换，得到各题目的simhash值。

可选地，在根据本发明的题目去重方法中，相似度适于以海明距离、欧式距离或余弦相似度表示。

可选地，在根据本发明的题目去重方法中，对具有同一哈希值的多道题目进行去重处理的步骤包括：记录首次出现的哈希值及该哈希值所对应的题目编号；以及遍历第一题组中的各题目，当有其他题目的哈希值与已记录的哈希值相同时，则对该相同哈希值的题目进行优先级比较，并保留其中优先级最高的一道题目。

可选地，在根据本发明的题目去重方法中，计算设备中维护有差异词表，该差异词表包括各词语的同义词和各表述的同义表述，根据差异内容对所述第三题组进行去重处理的步骤包括：对于数学学科内两道simhash值相近的题目，判断其差异内容是否包含数字类差异，若是则不进行去重处理，反之则进行去重处理；对于其他学科内两道simhash值相近的题目，结合该差异词表判断其差异内容是否为同义词或同义表述，若是则进行去重处理，反之则不进行去重处理。

可选地，在根据本发明的题目去重方法中，预处理操作包括以下操作中的一种或多种：去掉网页标记、将中文字符统一转换为英文字符、将各种类型的空格转换为英文空格、将各种字符统一至同一编码、去掉停用词、去掉字符集外的乱码字符。

可选地，在根据本发明的题目去重方法中，计算设备中维护有映射关系表和停用词表，其中，映射关系表包括不同字符或符号的替换内容，各题目的空格和字符转换操作适于结合该映射关系表进行；去掉停用词的步骤包括：对各题目进行分词处理，并将分词后属于停用词表的词汇去除。

可选地，在根据本发明的题目去重方法中，各分词的权重适于根据TF-IDF方法确定，预定数目为10个。

根据本发明的又一个方面，提供一种计算设备，包括：至少一个处理器；和存储有程序指令的存储器，其中，该程序指令被配置为适于由所述至少一个处理器执行，程序指令包括用于执行如上所述的题目去重方法的指令。

根据本发明的又一个方面，提供一种存储有程序指令的可读存储介质，当该程序指令被计算设备读取并执行时，使得该计算设备执行如上所述的题目去重方法。

根据本发明的技术方案，首先对生成的初始题组进行空格、字符归一等预处理，再对预处理后的题组进行严格的哈希去重，保证每个相同题目只保留一题。之后，采用simhash算法将题目转换为文本二进制向量，并根据各题目之间的simhash的相似度选出与每道题目最相似的前10道题目。最后，判断这些相似题目之间的文字差异，并结合其所属学科来对这些企图进行去重处理，从而得到最终的目标题组。本发明通过哈希去重、simhash和相似度计算方法联用来进行去重处理，可有效降低题目的重复率。

附图说明

为了实现上述以及相关目的，本文结合下面的描述和附图来描述某些说明性方面，这些方面指示了可以实践本文所公开的原理的各种方式，并且所有方面及其等效方面旨在落入所要求保护的主题的范围内。通过结合附图阅读下面的详细描述，本公开的上述以及其它目的、特征和优势将变得更加明显。遍及本公开，相同的附图标记通常指代相同的部件或元素。

图1示出了根据本发明一个实施例的计算设备100的结构框图；以及

图2示出了根据本发明一个实施例的题目去重方法200的流程图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

图1是示例计算设备100的框图。在基本的配置102中，计算设备100典型地包括系统存储器106和一个或者多个处理器104。存储器总线108可以用于在处理器104和系统存储器106之间的通信。

取决于期望的配置，处理器104可以是任何类型的处理，包括但不限于：微处理器(μP)、微控制器(μC)、数字信息处理器(DSP)或者它们的任何组合。处理器104可以包括诸如一级高速缓存110和二级高速缓存112之类的一个或者多个级别的高速缓存、处理器核心114和寄存器116。示例的处理器核心114可以包括运算逻辑单元(ALU)、浮点数单元(FPU)、数字信号处理核心(DSP核心)或者它们的任何组合。示例的存储器控制器118可以与处理器104一起使用，或者在一些实现中，存储器控制器118可以是处理器104的一个内部部分。

取决于期望的配置，系统存储器106可以是任意类型的存储器，包括但不限于：易失性存储器(诸如RAM)、非易失性存储器(诸如ROM、闪存等)或者它们的任何组合。系统存储器106可以包括操作系统120、一个或者多个应用122以及程序数据124。在一些实施方式中，应用122可以布置为在操作系统上利用程序数据124进行操作。程序数据124包括指令，在根据本发明的计算设备100中，程序数据124包含用于执行题目去重方法200的指令。

计算设备100还可以包括有助于从各种接口设备(例如，输出设备142、外设接口144和通信设备146)到基本配置102经由总线/接口控制器130的通信的接口总线140。示例的输出设备142包括图形处理单元148和音频处理单元150。它们可以被配置为有助于经由一个或者多个A/V端口152与诸如显示器或者扬声器之类的各种外部设备进行通信。示例外设接口144可以包括串行接口控制器154和并行接口控制器156，它们可以被配置为有助于经由一个或者多个I/O端口158和诸如输入设备(例如，键盘、鼠标、笔、语音输入设备、触摸输入设备)或者其他外设(例如打印机、扫描仪等)之类的外部设备进行通信。示例的通信设备146可以包括网络控制器160，其可以被布置为便于经由一个或者多个通信端口164与一个或者多个其他计算设备162通过网络通信链路的通信。

网络通信链路可以是通信介质的一个示例。通信介质通常可以体现为在诸如载波或者其他传输机制之类的调制数据信号中的计算机可读指令、数据结构、程序模块，并且可以包括任何信息递送介质。“调制数据信号”可以这样的信号，它的数据集中的一个或者多个或者它的改变可以在信号中编码信息的方式进行。作为非限制性的示例，通信介质可以包括诸如有线网络或者专线网络之类的有线介质，以及诸如声音、射频(RF)、微波、红外(IR)或者其它无线介质在内的各种无线介质。这里使用的术语计算机可读介质可以包括存储介质和通信介质二者。

计算设备100可以实现为服务器，例如文件服务器、数据库服务器、应用程序服务器和WEB服务器等，也可以实现为小尺寸便携(或者移动)电子设备的一部分，这些电子设备可以是诸如蜂窝电话、个人数字助理(PDA)、个人媒体播放器设备、无线网络浏览设备、个人头戴设备、应用专用设备、或者可以包括上面任何功能的混合设备。计算设备100还可以实现为包括桌面计算机和笔记本计算机配置的个人计算机。在一些实施例中，计算设备100被配置为执行根据本发明的题目去重方法200。

图2示出了根据本发明一个实施例的题目去重方法200，适于对初始题组中的多道题目进行去重处理，可以在计算设备中执行，如在计算设备100中执行。如图2所示，该方法始于步骤S210。

在步骤S210，分别对初始题组中的多道题目进行预处理操作，得到第一题组。其中，预处理操作可以包括以下操作中的一种或多种：去掉网页标记、将中文字符统一转换为英文字符、将各种类型的空格转换为英文空格、将各种字符统一至同一编码(如UTF-8编码)、去掉停用词、去掉字符集外的乱码字符。这几种操作并无时间先后顺序，本领域技术人员可以根据需要设定其具体执行步骤。

对于去掉网页标记，例如数据库中存储的题目为以下字符串：

<div class＝"Afanti_Physics"><p>如图A-1所示，两同心圆环a和b处于同一平面内<p><div>

将其去除网页标记后变为如下纯文本：如图A-1所示，两同心圆环a和b处于同一平面内。

对于空格、字符归一，例如题目中可能存在字符“⁴”，“⁹”等字符，要将其归一化到“4”，“9”；同理，将标点符号例如“【】”转化为“[]”。

通常，计算设备运行程序后会发现各种没有特殊字符和部分标点符号覆盖到的情况，此时可以将这些情况加入到需要拆解的例子中，并通过不断拆解各种例子来建立映射关系表，该映射关系表中包括不同字符或符号的替换内容，而初始题组中各题目的空格和字符转换操作适于结合该映射关系表进行。部分映射关系示例如下：

上述预处理操作中还包括去掉无用信息，如去掉网页信息、停用词和字符集外的乱码字符。

对于去掉网页信息，其主要是匹配网页中配对标签关系，并将配对的标签信息去除。例如，对于以下字符串：<div class＝"Afanti_Physics"><p>如图A-1所示，两同心圆环a和b处于同一平面内<p></div>，先找到一个<div>标签，其之后肯定对应另一个</div>标签，那么去掉网页信息后就会同时去除两个标签，其主要是基于配对的原则；同理可对<p></p>标签进行处理。

对于去掉字符集外乱码，每个字符都有其各自的编码，因此在已将有效信息统一到同一字符集下的前提下，可以判断是否在计算设备所使用的字符集中。这里的字符编码可以使用UTF-8编码，该编码中汉字和英文都有一定的编码范围的，超出该范围即可认为是乱码或者其他字符，而在用户答题时候可能就会有这些字符的进入，需要将其排除在外。例如太阳符号或太极符号这两个字符就不在编码范围，因此在预处理过程中需要直接去掉。

对于去掉停用词，计算设备可以维护一个不影响题目表达的停用词表，例如“了”、“我”、“也”、“自己”等停用词。其中去掉停用词的步骤可以包括：对各题目进行分词处理，并将分词后属于停用词表的词汇去除。这里的分词处理操作可以作为预处理过程的最后一步进行，也可以在预处理过程中任意环节进行，如可以在去掉网页标记后进行，可以在空格、字符归一后进行，也可以在去掉乱码字符后，本发明对此不作限制。

随后，在步骤S220中，分别计算第一题组中各题目的哈希值，并对具有同一哈希值的多道题目进行去重处理，得到第二题组。

其中，哈希值的计算方法可以现有常规方法，本发明对此不作限制。例如，以下为某题目预处理后的文本：

下面关于O2和CO2叙述,主要涉及物理性质()A.O2能为可燃物助燃B.O2能供给呼吸C.干冰能用于人工降雨D.光合作用中CO2作原料

其用于计算严格哈希去重时的文本为：

下面关于O2和CO2叙述主要涉及物理性质AO2能为可燃物助燃BO2能供给呼吸C干冰能用于人工降雨D光合作用中CO2作原料

根据该文本计算出的哈希值为：f687cb2bbd7526b1ef2a15f95e88d3d8

当计算得到第一题组中每个题目的哈希值后，即可对第一题组进行去重处理。具体地，可以采取如下方法对具有同一哈希值的多道题目进行去重处理：记录首次出现的哈希值及该哈希值所对应的题目编号；以及遍历第一题组中的各题目，当有其他题目的哈希值与已记录的哈希值相同时，则对该相同哈希值的题目进行优先级比较，并保留其中优先级最高的一道题目，这样可保证具有相同哈希值的题目只有一道题目保留。这里的优先级比较即是从这多道相同题目中选出优先级最高的一道，其可以以预处理前的文本为参考，如对比该题目所对应的初始文本的语言描述；当然也可以选择其他参考标准，本发明对此不作限制。

随后，在步骤S230中，分别计算第二题组中各题目的simhash值，以及各题目的simhash值与其他题目的simhash值之间的相似度。

具体地，可以采取如下计算第二题组中各题目的simhash值：分别对第二题组中各题目进行分词处理，并确定每个分词的权重；分别计算各题目中每个分词的哈希值，并结合其分词权重对各哈希值进行加权处理，得到各题目中每个分词的哈希序列串；以及对于每道题目，将其所有分词的哈希序列串中位于同一序列位的数值累加，并将各累加值进行二进制转换，得到各题目的simhash值。其中，可以根据从题目文本中得到的词频信息，对每个词赋予一个权重，具体可采用TF-IDF(term frequency–inverse document frequency)方法确定，其中数字的权重是人为规定的一个较高权重。

例如，将句子“地球45亿岁”分词为“地球”、“45”和“亿岁”三个词语。其中，“地球”的哈希值为10001010，权重2；“45”的哈希值为01010101，权重3，“亿岁”的哈希值为11010101，权重2，哈希字符串中的字节为1为正数权重，字节为0为负数权重。将地球分词的哈希值的每个字节进行加权处理，得到下表中的前三行内容；将各分词的同字节处的数值累加，得到下表中的第四行内容。之后，将第四行的合计内容进行二进制转换，合计中的正数转换为1，合计中的负数转换为0，得到最后一行内容，则该句子所对应的simhash值为11010101。

随后，在步骤S240中，对于第二题组中的每道题目，按照相似度降序排序的方法提取预定数目个相近题目，得到第三题组。也就是对距离相近的题目进行排序，顺序比较接近的代表题目比较相似，之后可对这些题目进行针对性的检验。其中，预定数目例如可以为10个，当然可以采取其他数值，本发明对此不作限制。这样每道题目都有与其最相似的10道题目，这些题目共同组成第三题组。

其中，相似度可以采用现有的任意相似度计算方法，如海明距离、欧式距离或余弦相似度表示。以海明距离为例，假设A＝10101010，B＝11110000则计算A xor B(A与B做异或操作)＝01011010，而海明距离就是A xor B结果中数值为1的个数，即4，也就是A和B之间的海明距离为4。当然，计算特征向量之间距离的方法还有欧氏距离，假设两个向量分别为C＝(1，2，3)，D＝(2，3，4)，则C和D之间的

随后，在步骤S250中，分别统计各题目与其各相近题目之间的字符差异，并根据差异内容对第三题组进行去重处理，得到目标题组。

具体地，计算设备中可以维护一个可以作为去重依据的差异词表，该差异词表包括各词语的同义词和各表述的同义表述，如“举例说明”和“请举例说明”是同义表述，“如下图所示”和“如图”也是同义表述。这样就可以根据如下方法对第三题组进行去重处理：对于数学学科内两道simhash值相近的题目，判断其差异内容是否包含数字类差异，若是则不进行去重处理，反之则进行去重处理。对于其他学科内两道simhash值相近的题目，结合该差异词表判断其差异内容是否为同义词或同义表述，若是则进行去重处理，反之则不进行去重处理。也就是数学学科主要区分数字与中文就可以，其他学科则要区分是否为同义词或是对题目的描述差异。

例如，若有以下两道相似题目：

题目1):小明有10个梨子，每天吃1个，可以吃多少天？

题目2):小明有10个梨子，每天吃2个，可以吃多少天呢？

那么查找这两个题目纯文本的差异，可以发现题目1)比题目2)多了“1”这个字符，少了“2”和“呢”这两个字符，则差异可以记为：加“1”减“2”减“呢”，而这两道属于数学题，其中差异内容含有数字，因此不作去重处理。

通常，不作去重处理是指两道题都保留，而进行去重处理则要去掉其中一道题目，其中去掉属于10道题目中的相似题目，或者去掉题目优先级更高的题目，本发明对此不作限制。例如，第1题有10道相似题目，这10道相似题目中包括第3题，之后需要分别将第1题与这10道相似题目分别作差异分析。若发现第1题和第3题无差异，则需进行去重处理，即去掉其中一道题目，此时可以将作为相似题目的第3题去掉，也可以去掉优先级交较低的那道题目。另外，在选取相似题目时可能会出现重复选取，如第1题选取的10道相似题目中有第3题，而第3题选取的10道相似题目中也有第1题，此时可按各自规则分别对两组进行判定，也可只选取其中一组进行判定，本发明对此不作限制。

根据本发明的技术方案，采用哈希去重、simhash和海明算法等多种去重方法联用来判断相似性并对题目去重，从而有效降低题目的重复率，提高试题推荐的针对性以及提高用户体验。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下被实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员应当理解在本文所公开的示例中的设备的模块或单元或组件可以布置在如该实施例中所描述的设备中，或者可替换地可以定位在与该示例中的设备不同的一个或多个设备中。前述示例中的模块可以组合为一个模块或者此外可以分成多个子模块。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

这里描述的各种技术可结合硬件或软件，或者它们的组合一起实现。从而，本发明的方法和设备，或者本发明的方法和设备的某些方面或部分可采取嵌入有形媒介，例如软盘、CD-ROM、硬盘驱动器或者其它任意机器可读的存储介质中的程序代码(即指令)的形式，其中当程序被载入诸如计算机之类的机器，并被所述机器执行时，所述机器变成实践本发明的设备。

在程序代码在可编程计算机上执行的情况下，计算设备一般包括处理器、处理器可读的存储介质(包括易失性和非易失性存储器和/或存储元件)，至少一个输入装置，和至少一个输出装置。其中，存储器被配置用于存储程序代码；处理器被配置用于根据该存储器中存储的所述程序代码中的指令，执行本发明的题目去重方法。

此外，所述实施例中的一些在此被描述成可以由计算机系统的处理器或者由执行所述功能的其它装置实施的方法或方法元素的组合。因此，具有用于实施所述方法或方法元素的必要指令的处理器形成用于实施该方法或方法元素的装置。此外，装置实施例的在此所述的元素是如下装置的例子：该装置用于实施由为了实施该发明的目的的元素所执行的功能。

如在此所使用的那样，除非另行规定，使用序数词“第一”、“第二”、“第三”等等来描述普通对象仅仅表示涉及类似对象的不同实例，并且并不意图暗示这样被描述的对象必须具有时间上、空间上、排序方面或者以任意其它方式的给定顺序。

尽管根据有限数量的实施例描述了本发明，但是受益于上面的描述，本技术领域内的技术人员明白，在由此描述的本发明的范围内，可以设想其它实施例。此外，应当注意，本说明书中使用的语言主要是为了可读性和教导的目的而选择的，而不是为了解释或者限定本发明的主题而选择的。因此，在不偏离所附权利要求书的范围和精神的情况下，对本技术领域的普通技术人员来说许多修改和变更都是显而易见的。对于本发明的范围，对本发明所做的公开是说明性的，而非限制性的，本发明的范围由所附权利要求书限定。

Claims (10)

1.一种题目去重方法，适于对初始题组中的多道题目进行去重处理，在计算设备中执行，该方法包括：

分别对初始题组中的多道题目进行预处理操作，得到第一题组；

分别计算第一题组中各题目的哈希值，并对具有同一哈希值的多道题目进行去重处理，得到第二题组；

分别计算第二题组中各题目的simhash值，以及各题目的simhash值与其他题目的simhash值之间的相似度；

对于第二题组中的每道题目，按照相似度降序排序的方法提取预定数目个相近题目，得到第三题组；以及

分别统计各题目与其各相近题目之间的字符差异，并根据差异内容对所述第三题组进行去重处理，得到目标题组。

2.如权利要求1所述的题目去重方法，其中，所述第二题组中各题目的simhash值的计算方法包括以下步骤：

分别对第二题组中各题目进行分词处理，并确定每个分词的权重；

分别计算各题目中每个分词的哈希值，并结合其分词权重对各哈希值进行加权处理，得到各题目中每个分词的哈希序列串；以及

对于每道题目，将其所有分词的哈希序列串中位于同一序列位的数值累加，并对各累加值进行二进制转换，得到各题目的simhash值。

3.如权利要求1所述的题目去重方法，其中，所述相似度适于以海明距离、欧式距离或余弦相似度表示。

4.如权利要求1所述的题目去重方法，其中，所述对具有同一哈希值的多道题目进行去重处理的步骤包括：

记录首次出现的哈希值及该哈希值所对应的题目编号；以及

遍历第一题组中的各题目，当有其他题目的哈希值与已记录的哈希值相同时，则对该相同哈希值的题目进行优先级比较，并保留其中优先级最高的一道题目。

5.如权利要求1所述的题目去重方法，其中，所述计算设备中维护有差异词表，该差异词表包括各词语的同义词和各表述的同义表述，所述根据差异内容对所述第三题组进行去重处理的步骤包括：

对于数学学科内两道simhash值相近的题目，判断其差异内容是否包含数字类差异，若是则不进行去重处理，反之则进行去重处理；以及

对于其他学科内两道simhash值相近的题目，结合该差异词表判断其差异内容是否为同义词或同义表述，若是则进行去重处理，反之则不进行去重处理。

6.如权利要求1所述的题目去重方法，其中，所述预处理操作包括以下操作中的一种或多种：

去掉网页标记、将中文字符统一转换为英文字符、将各种类型的空格转换为英文空格、将各种字符统一至同一编码、去掉停用词、去掉字符集外的乱码字符。

7.如权利要求6所述的题目去重方法，其中，所述计算设备中维护有映射关系表和停用词表，其中，

所述映射关系表包括不同字符或符号的替换内容，各题目的空格和字符转换操作适于结合该映射关系表进行；

所述去掉停用词的步骤包括：对各题目进行分词处理，并将分词后属于停用词表的词汇去除。

8.如权利要求1或2所述的方法，其中，各分词的权重适于根据TF-IDF方法确定，所述预定数目为10个。

9.一种计算设备，包括：

至少一个处理器；和

存储有程序指令的存储器，其中，所述程序指令被配置为适于由所述至少一个处理器执行，所述程序指令包括用于执行如权利要求1-8中任一项所述的方法的指令。

10.一种存储有程序指令的可读存储介质，当所述程序指令被计算设备读取并执行时，使得所述计算设备执行如权利要求1-8中任一项所述的方法。