CN113472893B - 数据处理方法、装置、计算设备及计算机存储介质 - Google Patents

Abstract

本发明公开了一种数据处理方法、装置、计算设备及计算机存储介质。其中，该方法包括：若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接；利用空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据的处理结果返回给服务端，通过释放至少部分已被客户端占用的第二长连接，能够提高第二长连接的吞吐量，能够较好地利用客户端数据处理期间的空闲时间，提升了第二长连接的使用效率，从而无需增加新的第二长连接数量，降低了成本。

Description

数据处理方法、装置、计算设备及计算机存储介质

技术领域

本发明涉及通信技术领域，具体涉及一种数据处理方法、装置、计算设备及计算机存储介质。

背景技术

目前语音转文本翻译服务主要使用的是长连接，即客户端-服务端，服务端-数据处理服务器之间的连接均为长连接，且两个长连接的数量是一致，用户在发起同传请求后，会分别占用一条客户端-服务端以及服务端-数据处理服务器之间的长连接。

现有技术方案中，服务端-数据处理服务器之间长连接的数量有限，当客户端-服务端之间使用的长连接在瞬时并发数高于服务端-数据处理服务器之间长连接的连接数限制的时候，会出现用户无法使用语音转文本翻译服务的情况，而服务端-数据处理服务器之间长连接的数量的成本又过于高昂，因此需要一种方案来优化这部分长连接的使用效率。

发明内容

鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的数据处理方法、装置、计算设备及计算机存储介质。

根据本发明实施例的一个方面，提供了一种数据处理方法，包括：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接；其中，第一长连接，为客户端与服务端之间的长连接；第二长连接，为服务端与数据处理服务器之间的长连接；

利用空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据的处理结果返回给服务端。

根据本发明实施例的另一方面，提供了一种数据处理装置，包括：

释放模块，适于若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接；其中，第一长连接，为客户端与服务端之间的长连接；第二长连接，为服务端与数据处理服务器之间的长连接；

处理模块，适于利用空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据的处理结果返回给服务端。

根据本发明实施例的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，处理器、存储器和通信接口通过通信总线完成相互间的通信；

存储器用于存放至少一可执行指令，可执行指令使处理器执行上述数据处理方法对应的操作。

根据本发明实施例的再一方面，提供了一种计算机存储介质，存储介质中存储有至少一可执行指令，可执行指令使处理器执行如上述数据处理方法对应的操作。

根据本发明上述实施例提供的方案，通过释放至少部分已被客户端占用的第二长连接，能够提高第二长连接的吞吐量，能够较好地利用客户端数据处理期间的空闲时间，提升了第二长连接的使用效率，从而无需增加新的第二长连接数量，降低了成本。

上述说明仅是本发明实施例技术方案的概述，为了能够更清楚了解本发明实施例的技术手段，而可依照说明书的内容予以实施，并且为了让本发明实施例的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明实施例的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明实施例的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1A示出了本发明实施例提供的数据处理方法流程图；

图1B示出了第二模式时服务端处理语音数据的示意图；

图1C示出了第三模式时服务端处理语音数据的示意图；

图1D为模式切换示意图；

图2示出了本发明实施例提供的数据处理装置的结构示意图；

图3示出了本发明实施例提供的计算设备的结构示意图。

具体实施方式

下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。

图1A示出了本发明实施例提供的数据处理方法的流程图。如图1A所示，该方法包括以下步骤：

步骤S101，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接。

本实施例提供的数据处理方法具体由服务端执行，服务端主要是对客户端请求中的待处理数据进行处理，具体用于如下场景：客户端请求中的待处理数据需要经服务端转发给数据处理服务器进行处理，也就是说，服务端起到中间桥梁的作用，在进行数据处理时，客户端与服务端之间建立的长连接称为第一长连接，服务端与数据处理服务器之间建立的长连接称为第二长连接。

每个客户端发起请求后，都会占用一条第一长连接，并发的客户端请求指多个客户端同时发起请求，为了能够有效利用第二长连接的吞吐量，同时避免出现由于瞬时并发的客户端请求过多导致部分客户端请求中的待处理数据未能被处理的情况，本实施例对服务端与数据处理服务器之间的第二长连接进行动态管理，具体地，统计并发的客户端请求分别占用的各第一长连接的总数量，例如，可以根据客户端标识来统计所占用的第一长连接的总数量，每个客户端具有唯一的客户端标识，能够实现客户端之间的区分，将并发的客户端请求分别占用的各第一长连接的总数量与第二长连接的最大额定数量进行比较，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，说明已经不足以使每个客户端都独占一条第二长连接，而为了能够保证正常处理客户端请求中的数据，有效利用空闲时间，需要释放至少部分已经被客户端占用的第二长连接，通过对至少部分已经被客户端占用的第二长连接进行释放，可以得到空闲的第二长连接，从而利用空闲的第二长连接来进行后续处理。

步骤S102，利用空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据的处理结果返回给服务端。

在得到空闲的第二长连接后，可以利用空闲的第二长连接做如下处理：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，其中，这里所指的至少部分客户端是未独占第二长连接的客户端，这些未独占第二长连接的客户端共享空闲的第二长连接，待处理数据是客户端在向服务端发送请求时所携带的数据，在将待处理数据发送至数据处理服务器之后，数据处理服务器将对进行相应的处理，空闲的第二长连接还会将数据处理服务器对待处理数据的处理结果返回给服务端。

在本发明一种可选实施方式中，方法还包括：对至少部分客户端请求中的待处理数据进行分割，以得到对应于至少部分客户端请求的各待处理数据片段；将各待处理数据片段存储至阻塞队列；

利用空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据的处理结果返回给客户端进一步包括：

调用消费线程从阻塞队列中获取待处理数据片段；利用空闲的第二长连接，执行：发送待处理数据片段至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据片段的处理结果返回给客户端。

具体地，为了提高待处理数据的处理效率，避免客户端长时间等待，也避免处理一些无效数据，需要对至少部分客户端请求中的待处理数据进行分割，以得到对应于至少部分客户端请求的各待处理数据片段，例如，可以利用端点检测算法来进行分割处理，当然还可以采用其它分割算法，这里不做具体限定。通过分割可以将待处理数据中无效的数据剔除掉。当然，在进行分割之前，还可以先判断待处理数据的数据大小是否大于或等于预设数据阈值，若小于，则表明待处理数据较小，可以不做分割处理，否则，进行分割处理。

在完成分割后，将各待处理数据片段存储至阻塞队列，阻塞队列用于存储所有分割后的待处理数据片段，然后，调用消费线程从阻塞队列中获取待处理数据片段，从空闲的第二长连接中选择一条第二长连接，利用所选择的第二长连接将待处理数据片段发送给数据处理服务器进行数据处理，以及将数据处理服务器对待处理数据片段的处理结果返回给客户端。

为了能够有效利用所释放的至少部分已经被客户端占用的第二长连接，在利用空闲的第二长连接执行将处理结果返回给客户端后，方法还包括：释放将处理结果返回给客户端的第二长连接。通过释放将处理结果返回给客户端的第二长连接，能够保证当其它客户端存在需要处理的数据时，能够及时利用释放的第二长连接将待处理数据发送给数据处理服务器。其中，为了便于对释放的第二长连接进行管理，可以将第二长连接释放至连接池中，连接池维护有各个被释放的第二长连接的使用状态，调用时，可以根据使用状态从连接池选择第二长连接。

需要说明的是，服务端在接收到客户端请求后，需要判断该客户端是否占用第二长连接，例如，可以根据该客户端的客户端标识查询标识表，若标识表中存在与该客户端标识相匹配的标识，则可以确定客户端占用第二长连接，可以利用第二长连接将待处理数据发送给数据处理服务器进行数据处理；若确定客户端未占用第二长连接，则对待处理数据进行分割，得到多个待处理数据片段。

在本发明一种可选实施方式中，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接，包括：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量且小于第二长连接的最大额定数量的预设比例，则释放第一预设数量客户端占用的第二长连接至连接池，保留第二预设数量客户端占用的第二长连接；

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量的预设比例，则释放所有客户端占用的第二长连接至连接池。

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则可以确定服务端与数据处理服务器之间第二长连接的数量已经不足以每个用户都使用第二长连接进行通信，为了能够使用户能够继续使用数据处理服务，需要对至少部分已经被客户端占用的第二长连接进行释放，具体释放多少已经被客户端占用的第二长连接，可以通过如下方法来确定：将并发的客户端请求分别占用的各第一长连接的总数量与第二长连接的最大额定数量的预设比例进行比较，例如，最大额定数量是100，预设比例为130％，第二长连接的最大额定数量的预设比例即为130，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量且小于第二长连接的最大额定数量的预设比例，则释放部分已经被客户端占用的第二长连接，例如，释放第一预设数量客户端占用的第二长连接至连接池，保留第二预设数量客户端占用的第二长连接；若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量的预设比例，则释放所有客户端占用的第二长连接至连接池。

可选地，保留第二预设数量客户端占用的第二长连接进一步包括：根据客户端使用第二长连接的时长信息及客户端信息对客户端进行排序处理；从排序结果中筛选第二预设数量的客户端，确定第二预设数量的客户端保留占用第二长连接。

第二长连接的最大额定数量是固定的，为了满足数据处理需求，是做如下处理：保留一部分客户端占用的第二长连接，释放部分已被客户端占用的第二长连接，让之前独自占用第二长连接的部分客户端不再独自占用第二长连接，具体可以依据客户端使用第二长连接的时长信息及客户端信息来选择释放哪些客户端占用的第二长连接，例如，统计各个客户端占用第二长连接的时长信息，获取各个客户端对应的客户端信息，例如，会员等级，根据时长信息及客户端信息来计算占用分值，根据计算得到的占用分值对客户端进行排序，例如，按照占用分值由低至高或者由高至低的顺序进行排序，从排序结果中选取占用分值较高的30％客户端，这些客户端所占用的第二长连接会被保留，这些客户端发送的待处理数据不会被分割，而是直接通过其所占用的第二长连接发送待处理数据给数据处理服务器，而占用分值低的70％客户端所占用的第二长连接会被释放，这些不再独自占用第二长连接的客户端将共享所释放的第二长连接，根据数据处理需求利用空闲的第二长连接进行数据处理。

其中，服务端可以记录保留占用第二长连接的客户端对应的客户端标识，例如，将客户端标识记录到标识表中，以便于后续判断是否与客户端请求中的待处理数据进行分隔处理。

在本发明一种可选实施方式中，方法还包括：若接收到客户端结束请求，判断第二长连接的最大额定数量与当前客户端占用的各第一长连接的总数量之间的差值是否大于或等于预设阈值；

若是，判断任一客户端是否存在未处理的待处理数据；

若不存在，则选择一空闲的第二长连接由该客户端独占。

具体地，当用户不需要再进行数据处理时，用户可以通过客户端发送结束请求，服务端在接收到客户端结束请求后，为了能够有效利用第二长连接，避免第二长连接频繁在释放和占用两种状态来回切换，且提高数据处理效率，服务端需要进一步进行确认，例如，统计当前客户端占用的各第一长连接的总数量，计算第二长连接的最大额定数量与当前客户端占用的各第一长连接的总数量之间的差值，判断差值是否小于或等于预设阈值，若是，还需要进一步判断任一客户端是否存在未处理的待处理数据；若不存在，则选择一空闲的第二长连接由该客户端独占。若差值小于预设阈值，则不做任何处理。

下面将结合具体实例进行说明，在该实例中将以待处理数据为语音数据为例进行说明，用户使用语音转文本的同传功能，：

同传功能是将用户实时说话的语音数据送至服务端，由服务端将语音数据发送至数据处理服务器，由数据处理服务器对语音数据进行转写得到语音文本，并将语音文本返回给用户。第一长连接为客户端与服务端之间的长连接；第二长连接为服务端与数据处理服务器之间的长连接。其中，客户端向用户提供有同传功能，例如，提供有同传按钮，用户点击同传按钮即可实时说话，即视为触发了客户端请求。

服务端使用连接池来管理服务端-数据处理服务器之间的第二长连接，连接池可以允许不同的线程使用同一个第二长连接，减少建立第二长连接的资源损耗。

为了便于后续描述，本实例根据并发的客户端请求分别占用的各第一长连接的总数量的大小，划分为三个模式：

第一模式，当并发的客户端请求分别占用的各第一长连接的总数量小于或等于第二长连接的最大额定数量时，服务端与数据处理服务器之间的第二长连接的数量足够客户端使用，所以这个时候所有的客户端请求都可以独自占用一条第二长连接。

第二模式，当并发的客户端请求分别占用的各第一长连接的总数量大于第二长连接的最大额定数量，但小于或等于第二长连接的最大额定数量的预设比例，比如，最大额定数量的130％时，这时服务端与数据处理服务器之间的第二长连接的数量已经不足以使每个客户端都独自使用一条第二长连接进行通信，此时需要切换至第二模式，保留已被客户端占用的30％的第二长连接数，这些第二长连接一直由相应的客户端独自占用，而剩余的70％已被客户端占用的第二长连接将会被释放，用于传送所有未独自占用一条第二长连接的客户端的语音数据，可以先对语音数据进行分割处理，分割处理的方法为，利用语音端点检测算法将其语音数据分割为多个语音片段，并分别将上述语言片段用剩余的70％的第二长连接进行同传处理(第二长连接一次只上传一个客户端的一个语音片段，上传完成并获取到语音文本后该线程会释放所占用的第二长连接，连接池可以重新调度该第二长连接给其他线程使用)。如图1B所示。当一条第二长连接被释放时，可以令未独自占用第二长连接中使用时间最长的客户端获取被释放的第二长连接，利用该第二长连接来处理客户端的语音数据。

第三模式，当并发的客户端请求分别占用的各第一长连接的总数量大于第二长连接的最大额定数量的预设比例，比如，最大额定数量的130％时，这时服务端的负载量已经比较大了，所有的客户端都不再独自占用一条第二长连接，而是将语音数据分割成多个语音片段，将语音片段进行同传。如图1C所示。需要说明的是，对语音数据进行分割是可选步骤。

当存在客户端请求时，如果并发的客户端请求分别占用的各第一长连接的总数量大于各个模式对应的阈值，会立即切换模式；当存在客户端结束请求时，如果并发的客户端请求分别占用的各第一长连接的总数量小于各个模式阈值-5，也立即切换模式。这里设置-5的意义是防止频繁的模式切换导致的性能损耗。当然还可以是其它数值，这里不做具体限定。模式切换如图1D所示。其中预设比例为130％，假设当前第一长连接总数量为R1，第二长连接的最大额定数量为R0。

第一模式→第二模式。当服务端接收到一个新的客户端请求时，如果此时为第一模式，且客户端与服务端之间的第一长连接数量大于服务端到数据处理服务器之间的第二长连接的最大额定数量但是不大于服务端到数据处理服务器之间的第二长连接的最大额定数量的130％，此时需要由第一模式切换为第二模式。具体流程为：保留连接池中优先级最高的30％的第二长连接(即占用该第二长连接的客户端继续使用该连接)，其余的第二长连接在数据处理服务器返回一个完整语音文本后会被释放(需要说明的是，第二长连接并没有被中断，仍然在连接池中)，已经释放第二长连接的客户端传输过来的语音数据会按照第二模式的流程进行处理。优先级根据客户端使用第二长连接的时长信息及客户端信息来进行判断，其中，客户端信息可以是客户端会员等级等，即优先保证长时间使用同传功能的客户端和会员等级高的客户端。

举例说明，假设服务端到数据处理服务器的第二长连接的最大额定数量是100条(R0＝100)，某个时间点上同时有UID＝1-100的100个客户端在使用同传服务(UID越小，优先级越高)，此时每个客户端都可以独占一条第二长连接，当前的模式为第一模式。此时，有一个UID＝101的新客户端发起了使用同传的请求，那么当服务端收到第101客户端请求后，因为R1＝101>R0，所以服务端需要由第一模式切换为第二模式。这时所进行的操作是，保留1-30客户端所占用的第二长连接不变(即1-30的客户端仍然独占一条长第二连接)，在释放31-100客户端所占用的第二长连接时会依次进行如下判断：当某个第二长连接返回一条完整的语音文本后，将该第二长连接释放(该第二长连接无法被某个客户端独占了)，交由连接池管理。新加入的客户端101和没有独占第二长连接的客户端31-100接下来发送到服务端的语音数据都会进行分割操作，并将分割后的语音片段以UID-片段的形式加入到阻塞队列中。同时，会有一个消费线程，如果连接池中存在空闲的连接，消费线程会尝试从阻塞队列中获取语音片段，并使用连接池中空闲的第二长连接将语音片段发送到数据处理服务器，数据处理服务器返回结果语音文本后，消费线程释放该第二连接。

第二模式→第一模式。当服务端收到一个客户端结束请求时，如果此时为第二模式，且客户端与服务端之间的第一长连接总数量小于服务端到数据处理服务器之间的第二长连接的最大额定数量-5，此时需要将第二模式切换为第一模式。当阻塞队列中没有某个客户端的语音片段时，该客户端获取连接池中的第二长连接(即客户端独占一条第二长连接)。当阻塞队列为空时，模式转换完成。

第二模式→第三模式。当服务端接收到一个客户端请求时，如果此时为第二模式，且客户端与服务端之间的第一长连接的总数量大于服务端到数据处理服务器的第二长连接的最大额定数量的130％，此时需要将第二模式切换为第三模式。流程为，连接池中被客户端独占的第二长连接在数据处理服务器返回一个完整语音文本后会被释放，原本占有该第二长连接的客户端传输过来的语音数据会按照第三模式的流程进行处理。

第三模式→第一模式。需要说明的是，第三模式不会回退到第二模式，因为切换模式会导致服务响应时间瞬时增加。举例说明，假设当某个客户端发送结束请求后，R0＝100，R1＝126，如果不回退到第二模式，还是第三模式时，非独占第二长连接的连接负荷比(当前并发数/非独占连接数)为126％，如果此时将第三模式切换为第二模式，非独占第二长连接的连接负荷比会提高到135％，会导致使用非独占第二长连接的客户端延迟增加。所以第三模式需要直接回退到第一模式，回退的流程和第二模式回退至第一模式相同。

举例，假设当前的共有100条服务端到数据处理服务器的第二长连接(R0＝100)，某个时间点上同时有UID＝1-96的96个客户端在使用同传服务，而服务端当前模式为第三模式，当服务端收到客户端96停止使用同传的请求时，需要将第三模式切换至第一模式。此时，消费线程每次从阻塞队列中消费一条语音片段后，都会进行如下判断：判断阻塞队列中是否存在该客户端对应的语音片段，如果阻塞队列中没有该客户端的语音片段，在该条语音片段处理完后，会从连接池中获取一条空闲的第二长连接由该客户端独占。

需要说明的是，上述第二模式和第三模式中对语音数据进行分割处理是可选地，也可以不做分割处理，直接将客户端的语音数据存储至阻塞队列。

可选地，当一个第二长连接被释放时，消费线程可以优先处理阻塞队列中曾经占用第二长连接时间最长的客户端对应的语音片段。

本发明上述实施例提供的方案，通过释放至少部分已被客户端占用的第二长连接，能够提高第二长连接的吞吐量，能够较好地利用客户端数据处理期间的空闲时间，提升了第二长连接的使用效率，从而无需增加新的第二长连接数量，降低了成本。

图2示出了本发明实施例提供的数据处理装置的结构示意图。如图2所示，该装置包括：释放模块201、处理模块202。

释放模块201，适于若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接；其中，第一长连接，为客户端与服务端之间的长连接；第二长连接，为服务端与数据处理服务器之间的长连接；

处理模块202，适于利用空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据的处理结果返回给服务端。

可选地，装置还包括：分割模块，适于对至少部分客户端请求中的待处理数据进行分割，以得到对应于至少部分客户端请求的各待处理数据片段；

阻塞队列，适于存储各待处理数据片段；

处理模块进一步适于：调用消费线程从阻塞队列中获取待处理数据片段；

利用空闲的第二长连接，执行：发送待处理数据片段至数据处理服务器进行处理，以及，将数据处理服务器对待处理数据片段的处理结果返回给客户端。

可选地，释放模块还适于：释放将处理结果返回给客户端的第二长连接。

可选地，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，释放模块适于：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量且小于第二长连接的最大额定数量的预设比例，则释放第一预设数量客户端占用的第二长连接至连接池，保留第二预设数量客户端占用的第二长连接。

可选地，释放模块进一步适于：根据客户端使用第二长连接的时长信息及客户端信息对客户端进行排序处理；

从排序结果中筛选第二预设数量的客户端，确定第二预设数量的客户端保留占用第二长连接。

可选地，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，释放模块适于：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量的预设比例，则释放所有客户端占用的第二长连接至连接池。

可选地，装置还包括：第一判断模块，适于若接收到客户端结束请求，判断第二长连接的最大额定数量与当前客户端占用的各第一长连接的总数量之间的差值是否大于或等于预设阈值；

第二判断模块，适于若大于或等于预设阈值，则判断任一客户端是否存在未处理的待处理数据；

选择模块，适于若不存在，则选择一空闲的第二长连接由该客户端独占。

本发明上述实施例提供的方案，通过释放至少部分已被客户端占用的第二长连接，能够提高第二长连接的吞吐量，能够较好地利用客户端数据处理期间的空闲时间，提升了第二长连接的使用效率，从而无需增加新的第二长连接数量，降低了成本。

本发明实施例提供了一种非易失性计算机存储介质，计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的数据处理方法。

图3示出了本发明实施例提供的计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。

如图3所示，该计算设备可以包括：处理器(processor)、通信接口(Communications Interface)、存储器(memory)、以及通信总线。

其中：处理器、通信接口、以及存储器通过通信总线完成相互间的通信。通信接口，用于与其它设备比如客户端或其它服务器等的网元通信。处理器，用于执行程序，具体可以执行上述用于计算设备的数据处理方法实施例中的相关步骤。

具体地，程序可以包括程序代码，该程序代码包括计算机操作指令。

处理器可能是中央处理器CPU，或者是特定集成电路ASIC(Application SpecificIntegrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。

存储器，用于存放程序。存储器可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。

程序具体可以用于使得处理器执行上述任意方法实施例中的数据处理方法。程序中各步骤的具体实现可以参见上述数据处理实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。

在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明实施例的内容，并且上面对特定语言所做的描述是为了披露本发明实施例的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本发明实施例并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明实施例要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些或者全部部件的一些或者全部功能。本发明实施例还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明实施例的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明实施例进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明实施例可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。

Claims (10)

1.一种数据处理方法，包括：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接；其中，所述第一长连接，为客户端与服务端之间的长连接；第二长连接，为所述服务端与数据处理服务器之间的长连接；

利用所述空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至所述数据处理服务器进行处理，以及，将所述数据处理服务器对所述待处理数据的处理结果返回给所述服务端。

2.根据权利要求1所述的方法，所述方法还包括：

对至少部分客户端请求中的待处理数据进行分割，以得到对应于所述至少部分客户端请求的各待处理数据片段；

将各待处理数据片段存储至阻塞队列；

所述利用所述空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至所述数据处理服务器进行处理，以及，将所述数据处理服务器对所述待处理数据的处理结果返回给所述客户端进一步包括：

调用消费线程从阻塞队列中获取待处理数据片段；

利用所述空闲的第二长连接，执行：发送所述待处理数据片段至所述数据处理服务器进行处理，以及，将所述数据处理服务器对所述待处理数据片段的处理结果返回给所述客户端。

3.根据权利要求1或2所述的方法，其中，利用所述空闲的第二长连接执行将处理结果返回给所述客户端后，所述方法还包括：

释放将所述处理结果返回给所述客户端的第二长连接。

4.根据权利要求1或2所述的方法，其中，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接，包括：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量且小于第二长连接的最大额定数量的预设比例，则释放第一预设数量客户端占用的第二长连接至连接池，保留第二预设数量客户端占用的第二长连接。

5.根据权利要求4所述的方法，其中，所述保留第二预设数量客户端占用的第二长连接进一步包括：

根据客户端使用第二长连接的时长信息及客户端信息对客户端进行排序处理；

从排序结果中筛选第二预设数量的客户端，确定第二预设数量的客户端保留占用第二长连接。

6.根据权利要求1或2所述的方法，其中，若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分第二长连接，以得到空闲的第二长连接进一步包括：

若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量的预设比例，则释放所有客户端占用的第二长连接至连接池。

7.根据权利要求1或2所述的方法，其中，所述方法还包括：

若接收到客户端结束请求，判断第二长连接的最大额定数量与当前客户端占用的各第一长连接的总数量之间的差值是否大于或等于预设阈值；

若是，判断任一客户端是否存在未处理的待处理数据；

若不存在，则选择一空闲的第二长连接由该客户端独占。

8.一种数据处理装置，包括：

释放模块，适于若并发的客户端请求分别占用的各第一长连接的总数量，大于第二长连接的最大额定数量，则释放至少部分已经被客户端占用的第二长连接，以得到空闲的第二长连接；其中，所述第一长连接，为客户端与服务端之间的长连接；第二长连接，为所述服务端与数据处理服务器之间的长连接；

处理模块，适于利用所述空闲的第二长连接，执行：发送至少部分客户端请求中的待处理数据至所述数据处理服务器进行处理，以及，将所述数据处理服务器对所述待处理数据的处理结果返回给所述服务端。

9.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；

所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-7中任一项所述的数据处理方法对应的操作。

10.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-7中任一项所述的数据处理方法对应的操作。