CN105095367A - 一种客户端数据的采集方法和装置 - Google Patents

Abstract

本发明实施例提供了一种客户端数据的采集方法和装置，该方法包括：接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；对所述第一数据计算第一特征值；查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；当查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；当所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则拒绝写入所述第一数据；若否，则写入所述第一数据，以覆盖所述第二数据。本发明实施例对数据解析量级进行压缩，大大提高了字符串的校验效率。

Description

一种客户端数据的采集方法和装置

技术领域

本发明涉及计算机处理的技术领域，特别是涉及一种客户端数据的采集方法和一种客户端数据的采集装置。

背景技术

随着网络科技的快速发展，越来越多的企业将产品以第三方应用程序(Application，App)的方式移植至各种操作平台上，例如即时通讯工具、电子邮箱、浏览器等等。

应用程序的开发者通常通过采集与第三方应用程序相关的数据进行分析，进一步改进第三方应用程序的设计，以增强用户体验。

在很多情况中，当用户打开应用或进行一些操作时，会进行一些数据的上报，上传信息的频率是比较高的。

若用户未对终端进行调整，如增加应用程序、升级操作系统等等，则可能上报了大量的重复信息，可能会出现在很短的时间内进行多条相同数据的上报情况，使得数据库频繁读取，造成服务器压力过大、解析服务异常等不可控情况，甚至宕机。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的一种客户端数据的采集方法和相应的一种客户端数据的采集装置。

依据本发明的一个方面，提供了一种客户端数据的采集方法，包括：

接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

对所述第一数据计算第一特征值；

查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

当查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

当所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则拒绝写入所述第一数据；若否，则写入所述第一数据，以覆盖所述第二数据。

可选地，所述对所述第一数据计算第一特征值的步骤包括：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。

可选地，所述对所述第一数据计算第一特征值的步骤包括：

当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

将与所述跳跃值的字符的散列值累加，获得第一特征值。

可选地，所述按照所述第一字符串长度计算跳跃值的步骤包括：

将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。

可选地，与所述跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为所述跳跃值整数倍的字符。

可选地，该方法还包括：

当未查找到特征信息时，写入所述第一数据；

将所述第一特征值和所述第一字符串长度设置为特征信息。

可选地，该方法还包括：

当所述第一字符串长度与所述第二字符串长度不相等时，写入所述第一数据。

可选地，该方法还包括：

将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

根据本发明的另一方面，提供了一种客户端数据的采集装置，包括：

数据上传请求接收模块，适于接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

第一特征值计算模块，适于对所述第一数据计算第一特征值；

特征信息查找模块，适于查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

字符串长度判断模块，适于在查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

特征值判断模块，适于在所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则调用拒绝模块，若否，则调用第一写模块；

拒绝模块，适于拒绝写入所述第一数据

第一写模块，适于写入所述第一数据，以覆盖所述第二数据。

可选地，所述第一特征值计算模块还适于：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。

可选地，所述第一特征值计算模块还适于：

当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

将与所述跳跃值的字符的散列值累加，获得第一特征值。

可选地，所述第一特征值计算模块还适于：

将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。

可选地，与所述跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为所述跳跃值整数倍的字符。

可选地，该装置还包括：

第二写模块，适于在未查找到特征信息时，写入所述第一数据；

特征信息设置模块，适于将所述第一特征值和所述第一字符串长度设置为特征信息。

可选地，该装置还包括：

第三写模块，适于在所述第一字符串长度与所述第二字符串长度不相等时，写入所述第一数据。

可选地，该装置还包括：

特征信息覆盖模块，适于将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

在本发明实施例中，通过二重校验机制对字符串进行判重，在字符串长度的基础上拼接特征值，首先校验字符串长度是否相同，当字符串长度相同时，第一数据与第二数据可能相同，也可能不相同，因此，再次校验特征值是否相同，若特征值相同，则可以表示第一数据与第二数据相同，若特征值不同，则可以表示第一数据与第二数据不相同，先解析简单的字符串长度，再解析复杂的特征值，对数据解析量级进行压缩，大大提高了字符串的校验效率。

本发明实施例在第一数据与第二数据相同时，拒绝写入第一数据，大大减少了数据库的读写操作，减少了服务器的压力，保证服务器的正常运行。

本发明实施例计算散列值的基础上加上跳跃值的逻辑，通过牺牲少部分的碰撞率来保证运算的效率，既保证了数据解析的实时性又保证了解析操作的运行稳定性。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1示出了根据本发明一个实施例的一种客户端数据的采集方法实施例1的步骤流程图；

图2示出了根据本发明一个实施例的一种用户session系统的架构图；

图3示出了根据本发明一个实施例的一种散列值的计算示例图；

图4示出了根据本发明一个实施例的一种客户端数据的采集方法实施例2的步骤流程图；以及

图5示出了根据本发明一个实施例的一种客户端数据的采集装置实施例的结构框图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

参照图1，示出了根据本发明一个实施例的一种客户端数据的采集方法实施例1的步骤流程图，具体可以包括如下步骤：

步骤101，接收客户端发送的数据上传请求；

如图2所示，用户session系统是一个独立的后台异步系统，对外提供业务实体，如游戏等等。

在用户session系统中的表现层(PreseentationLayer)面向用户，其表征为APP(Application，应用程序)，如浏览器、即时通讯工具、游戏应用等等。

在用户session系统中的对外业务层(BusinessLayer)提供AppServerAPI(应用服务接口)，用户可以在APP中登录，通过在APP的操作，调用用户session系统的AppServerAPI，发送数据上传请求，该上传请求中可以包括标识信息、长度为第一字符串长度的第一数据，请求上传第一数据，例如，安装的应用名称、版本号、渠道号、账号信息等等。

其中，标识信息可以包括用户标识(如用户账号)、终端标识(如IMEI码)，用于标识用户、终端。

在用户session系统中的服务层(ServiceLayer)提供CommonService(公共服务)，当接收到来自AppServerAPI的处理请求时，则可以进行相应的处理。

步骤102，对所述第一数据计算第一特征值；

第一特征值可以为表示第一数据特征的数据，可以通过多种的加密方式计算获得。

在本发明的一种可选实施例中，步骤102可以包括如下子步骤：

子步骤S11，当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

子步骤S12，将每个字符的散列值累加，获得第一特征值。

当上报的第一数据小于或等于预设的长度阈值(如16位)时，第一数据中的字符的重复率较高，可以对每一位字符进行运算取散列值，即在本发明实施例中，跳跃值为1。

在具体实现中，可以采用time33计算散列值，即对第一数据中的每个字符，迭代的乘以33。

time33的原型为:hash(i)＝hash(i-1)*33+str[i]。

例如，对于第一数据“abcdefghizklmnop”，第一字符串长度为16位，与预设的长度阈值16相等，进行散列值计算时，保持跳跃值为1，对每一个字符乘以33后进行累加，获得第一特征值。

在本发明的另一种可选实施例中，步骤102可以包括如下子步骤：

子步骤S21，当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

当上报的第一数据大于预设的长度阈值(如16位)时，第一数据中的字符的重复率较低，可以按照跳跃值选取部分字符进行运算取散列值。

在一个示例中，可以将第一字符串长度除以预设的值获得的余数设置为跳跃值。

子步骤S22，对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

子步骤S23，将与所述跳跃值的字符的散列值累加，获得第一特征值。

其中，与跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为跳跃值的字符。

在具体实现中，可以采用time33计算散列值，如图3所示，在内存上遍历寻址对值向左移5位加上自身，然后继续寻址并重复上一步计算进行累加直至遍历结束，获得第一特征。

例如，对于第一数据“abcdefghizklmnopqrstuvwxyz”，第一字符串长度为26位，大于预设的长度阈值16，对第一字符串长度为26位除以预设的值8，得出整数3，作为跳跃值。

即对第0、3、6、9、12、15、18、21、24位的字符进行乘以33累加得到第一特征值。

需要说明的是，本发明实施例在time33等方式计算散列值的基础上加上了取8位等跳跃值的逻辑，主要因为面向的业务场景是用户上传不定长字符串的快速判重，判断用户当前上传的数据和已存储的数据比对，对散列值计算的碰撞率要求不高，当出现用户频繁上传相同数据或上传非常规量级的字符串长度也可以快速进行判重，所以通过牺牲少部分的碰撞率来保证运算的效率，既保证了数据解析的实时性又保证了解析操作的运行稳定性。

此外，当第一字符串长度大于16位等预设的长度阈值时，取8位等预设的值计算跳跃值，可以防止短字符串的高碰撞率。

步骤103，查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；当查找到特征信息时，执行步骤104；

如图2所示，在用户session系统中，可以通过数据访问层(DatabaseLayer)访问用户中心(UserCenterSDK)，在用户中心存储了与用户相关的信息，若基于该APP在先已经上传了第二数据生成特征信息，则可以存储在该用户中心处。

其中，该特征信息可以包括第二特征值、第二字符串长度。

步骤104，判断所述第一字符串长度与所述第二字符串长度是否相等；当所述第一字符串长度与所述字符串长度相等时，执行步骤105；

步骤105，判断所述第一特征值与所述第二特征值是否相同；若是，则执行步骤106；若否，则执行步骤107；

在本发明实施例中，通过二重校验机制对字符串进行判重，在字符串长度的基础上拼接特征值，首先校验字符串长度是否相同，当字符串长度相同时，第一数据与第二数据可能相同，也可能不相同，因此，再次校验特征值是否相同，若特征值相同，则可以表示第一数据与第二数据相同，若特征值不同，则可以表示第一数据与第二数据不相同，先解析简单的字符串长度，再解析复杂的特征值，对数据解析量级进行压缩，大大提高了字符串的校验效率。

步骤106，拒绝写入所述第一数据；

步骤107，写入所述第一数据，以覆盖所述第二数据。

本发明实施例在第一数据与第二数据相同时，拒绝写入第一数据，大大减少了数据库的读写操作，减少了服务器的压力，保证服务器的正常运行。

当第一数据与第二数据不相同时，则写入第一数据，覆盖第二数据。

如图2所示，在用户session系统中，可以异步调用(Async)任务队列(EventQueue)，向任务队列(EventQueue)推送一个事件任务。

部署不同服务器的守护进程可以定时从任务队列中获取事件任务，由事件中介(EevntMediator)根据第一数据的数据类型(DataType)，调用守护进程的子线程(EventProcess)执行不同的操作，对不同的数据类型存储在不同的位置，如与APP相关的信息可以存储在APPInfo(应用信息)数据库中，与用户相关的信息可以存储在User(用户信息)数据库中。

参照图4，示出了根据本发明一个实施例的一种客户端数据的采集方法实施例2的步骤流程图，具体可以包括如下步骤：

步骤401，接收客户端发送的数据上传请求；

其中，上传请求中可以包括标识信息、长度为第一字符串长度的第一数据；

步骤402，对所述第一数据计算第一特征值；

步骤403，查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；当未查找到特征信息时，执行步骤404，当查找到特征信息时，执行步骤406；

其中，特征信息包括第二特征值、第二字符串长度；

步骤404，写入所述第一数据；

步骤405，将所述第一特征值和所述第一字符串长度设置为特征信息；

当为查找到特征信息时，可以表示在先APP并未上传过数据，当前的第一数据为首次上传，并不存在重复的情形，因此，可以直接写入第一数据，将第一特征值和第一字符串长度设置为初始的特征信息，用于以后上传的数据的判重。

进一步而言，特征信息可以以INT编码存储于Redis数据库中，多个相同的INT数值会指向同一块内存区域，通过Redis数据库的共享内存机制节约服务器资源，同时支持高并发读写，配合二重校验机制可以实现快速判重上报数据的需求。

步骤406，判断所述第一字符串长度与所述字符串长度是否相等；当所述第一字符串长度与所述第二字符串长度相等时，执行步骤407；当所述第一字符串长度与所述第二字符串长度不相等时，执行步骤411；

步骤407，判断所述第一特征值与所述第二特征值是否相同；若是，则执行步骤408，若否，则执行步骤410；

步骤408，拒绝写入所述第一数据；

步骤409，写入所述第一数据，以覆盖所述第二数据；

步骤410，将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

若写入第一数据，则相应地，可以将第一特征值和第一字符串长度覆盖原有的特征信息，作为新的特征信息，用于以后上传的数据的判重。

步骤411，写入所述第一数据；

步骤412，将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

若第一字符串长度与第二字符串长度不相等，则可以表示第一数据与第二数据不相同，可以直接写入第一数据，将第一特征值和第一字符串长度覆盖原有的特征信息，作为新的特征信息，用于以后上传的数据的判重。

APP上传的数据中一般存在大量、重复的数据，如果简单从用户存储的数据取出后和当前的数据进行判重，这样数据库的读取容易造成数据解析的瓶颈。

本发明实施例是通过对用户存储的数据进行特征值计算，通过二重校验机制对字符串进行判重与新上传的数据进行判重，对于长度为1000的字符串，应用MD5(Message-DigestAlgorithm5，信息摘要算法5)等传统方式每秒的计算量是18万次左右，相同情况下，应用本发明实施例每秒可以计算5000万次以上，大大提高了判重的效率。

对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。

参照图5，示出了根据本发明一个实施例的一种客户端数据的采集装置实施例的结构框图，具体可以包括如下模块：

数据上传请求接收模块501，适于接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

第一特征值计算模块502，适于对所述第一数据计算第一特征值；

特征信息查找模块503，适于查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

字符串长度判断模块504，适于在查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

特征值判断模块505，适于在所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则调用拒绝模块506，若否，则调用第一写模块507；

拒绝模块506，适于拒绝写入所述第一数据

第一写模块507，适于写入所述第一数据，以覆盖所述第二数据。

在本发明的一种可选实施例中，所述第一特征值计算模块502还可以适于：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。

在本发明的一种可选实施例中，所述第一特征值计算模块502还可以适于：

当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

将与所述跳跃值的字符的散列值累加，获得第一特征值。

在本发明的一种可选实施例中，所述第一特征值计算模块502还可以适于：

将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。

在本发明实施例的一种可选示例中，与所述跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为所述跳跃值整数倍的字符。

在本发明的一种可选实施例中，该装置还可以包括如下模块：

第二写模块，适于在未查找到特征信息时，写入所述第一数据；

特征信息设置模块，适于将所述第一特征值和所述第一字符串长度设置为特征信息。

在本发明的一种可选实施例中，该装置还可以包括如下模块：

第三写模块，适于在所述第一字符串长度与所述第二字符串长度不相等时，写入所述第一数据。

在本发明的一种可选实施例中，该装置还可以包括如下模块：

特征信息覆盖模块，适于将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的客户端数据的采集设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

本发明实施例公开了A1、一种客户端数据的采集方法，包括：

接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

对所述第一数据计算第一特征值；

查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

当查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

当所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则拒绝写入所述第一数据；若否，则写入所述第一数据，以覆盖所述第二数据。

A2、如A1所述的方法，所述对所述第一数据计算第一特征值的步骤包括：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。

A3、如A1或A2所述的方法，所述对所述第一数据计算第一特征值的步骤包括：

当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

将与所述跳跃值的字符的散列值累加，获得第一特征值。

A4、如A3所述的方法，所述按照所述第一字符串长度计算跳跃值的步骤包括：

将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。

A5、如A3所述的方法，与所述跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为所述跳跃值整数倍的字符。

A6、如A1或A2或A4或A5所述的方法，还包括：

当未查找到特征信息时，写入所述第一数据；

将所述第一特征值和所述第一字符串长度设置为特征信息。

A7、如A1所述的方法，还包括：

当所述第一字符串长度与所述第二字符串长度不相等时，写入所述第一数据。

A8、如A1或A7所述的方法，还包括：

将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

本发明实施例还公开了B9、一种客户端数据的采集装置，包括：

数据上传请求接收模块，适于接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

第一特征值计算模块，适于对所述第一数据计算第一特征值；

特征信息查找模块，适于查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

字符串长度判断模块，适于在查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

特征值判断模块，适于在所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则调用拒绝模块，若否，则调用第一写模块；

拒绝模块，适于拒绝写入所述第一数据

第一写模块，适于写入所述第一数据，以覆盖所述第二数据。

B10、如B9所述的装置，所述第一特征值计算模块还适于：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。

B11、如B9或B10所述的装置，所述第一特征值计算模块还适于：

当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

将与所述跳跃值的字符的散列值累加，获得第一特征值。

B12、如B11所述的方法，所述第一特征值计算模块还适于：

将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。

B13、如B11所述的装置，与所述跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为所述跳跃值整数倍的字符。

B14、如B9或B10或B12或B13所述的装置，还包括：

第二写模块，适于在未查找到特征信息时，写入所述第一数据；

特征信息设置模块，适于将所述第一特征值和所述第一字符串长度设置为特征信息。

B15、如B9所述的装置，还包括：

第三写模块，适于在所述第一字符串长度与所述第二字符串长度不相等时，写入所述第一数据。

B16、如B9或B15所述的装置，还包括：

特征信息覆盖模块，适于将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

Claims (10)

1.一种客户端数据的采集方法，包括：

接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

对所述第一数据计算第一特征值；

查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

当查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

当所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则拒绝写入所述第一数据；若否，则写入所述第一数据，以覆盖所述第二数据。

2.如权利要求1所述的方法，其特征在于，所述对所述第一数据计算第一特征值的步骤包括：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。

3.如权利要求1或2所述的方法，其特征在于，所述对所述第一数据计算第一特征值的步骤包括：

当所述第一字符串长度大于预设的长度阈值时，按照所述第一字符串长度计算跳跃值；

对所述第一数据中、与所述跳跃值匹配的字符计算散列值；

将与所述跳跃值的字符的散列值累加，获得第一特征值。

4.如权利要求3所述的方法，其特征在于，所述按照所述第一字符串长度计算跳跃值的步骤包括：

将所述第一字符串长度除以预设的值获得的余数设置为跳跃值。

5.如权利要求3所述的方法，其特征在于，与所述跳跃值匹配的字符为，从第0位字符开始、位置的偏移量为所述跳跃值整数倍的字符。

6.如权利要求1或2或4或5所述的方法，其特征在于，还包括：

当未查找到特征信息时，写入所述第一数据；

将所述第一特征值和所述第一字符串长度设置为特征信息。

7.如权利要求1所述的方法，其特征在于，还包括：

当所述第一字符串长度与所述第二字符串长度不相等时，写入所述第一数据。

8.如权利要求1或7所述的方法，其特征在于，还包括：

将所述第一特征值和所述第一字符串长度覆盖所述特征信息。

9.一种客户端数据的采集装置，包括：

数据上传请求接收模块，适于接收客户端发送的数据上传请求；所述上传请求中包括标识信息、长度为第一字符串长度的第一数据；

第一特征值计算模块，适于对所述第一数据计算第一特征值；

特征信息查找模块，适于查找是否存储有，基于所述标识信息对应的第二数据生成的特征信息；所述特征信息包括第二特征值、第二字符串长度；

字符串长度判断模块，适于在查找到特征信息时，判断所述第一字符串长度与所述字符串长度是否相等；

特征值判断模块，适于在所述第一字符串长度与所述第二字符串长度相等时，判断所述第一特征值与所述第二特征值是否相同；若是，则调用拒绝模块，若否，则调用第一写模块；

拒绝模块，适于拒绝写入所述第一数据

第一写模块，适于写入所述第一数据，以覆盖所述第二数据。

10.如权利要求9所述的装置，其特征在于，所述第一特征值计算模块还适于：

当所述第一字符串长度小于或等于预设的长度阈值时，对所述第一数据中的每个字符计算散列值；

将每个字符的散列值累加，获得第一特征值。