CN113783728A - 连接优化方法、装置、计算设备及计算机存储介质 - Google Patents

连接优化方法、装置、计算设备及计算机存储介质 Download PDF

Info

Publication number
CN113783728A
CN113783728A CN202111061344.XA CN202111061344A CN113783728A CN 113783728 A CN113783728 A CN 113783728A CN 202111061344 A CN202111061344 A CN 202111061344A CN 113783728 A CN113783728 A CN 113783728A
Authority
CN
China
Prior art keywords
connection
level
server
adjusting
rate
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111061344.XA
Other languages
English (en)
Inventor
田一博
蒋海滨
郭宝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Migu Cultural Technology Co Ltd
China Mobile Communications Group Co Ltd
MIGU Digital Media Co Ltd
Original Assignee
Migu Cultural Technology Co Ltd
China Mobile Communications Group Co Ltd
MIGU Digital Media Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Migu Cultural Technology Co Ltd, China Mobile Communications Group Co Ltd, MIGU Digital Media Co Ltd filed Critical Migu Cultural Technology Co Ltd
Priority to CN202111061344.XA priority Critical patent/CN113783728A/zh
Publication of CN113783728A publication Critical patent/CN113783728A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0803—Configuration setting
    • H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0803—Configuration setting
    • H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
    • H04L41/0826—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability for reduction of network costs
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08—Configuration management of networks or network elements
    • H04L41/0803—Configuration setting
    • H04L41/0823—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability
    • H04L41/0833—Configuration setting characterised by the purposes of a change of settings, e.g. optimising configuration for enhancing reliability for reduction of network energy consumption
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00—Reducing energy consumption in communication networks
    • Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本发明公开了一种连接优化方法、装置、计算设备及计算机存储介质。方法包括：确定客户端与服务端之间的连接的等级；连接的等级高低，与连接的连接闲置率大小相关联；在针对连接的等级调整条件发生时，调整连接的等级，以得到调整后的连接的等级；基于调整后的连接的等级，调整服务端分配给连接的资源。通过连接进行实时监控与动态管理，去除无效的请求，优化低效的请求，节省了客户端与服务端的带宽内存等资源，在现有资源下，给更多用户提供语音翻译服务。

Description

连接优化方法、装置、计算设备及计算机存储介质
技术领域
本发明涉及通信技术领域，具体涉及一种连接优化方法、装置、计算设备及计算机存储介质。
背景技术
目前语音翻译使用广泛，例如在某些特殊的会议中，需要中文和外语的互译功能来协助双方的沟通交流。在会议场景中，由于需要长时间的使用到语音翻译的功能，为了节省服务端与客户端建立连接断开连接时的时间及资源消耗，一般选择使用WebSocket长连接来进行语音翻译的内容传输。
WebSocket是一种在单个TCP连接上进行全双工通信的协议。客户端和服务端只需要完成一次握手，两者之间就直接可以创建持久性的连接，并进行双向数据传输。通过WebSocket连接的客户端可以实时不断的向服务端发送语音数据，服务端也能及时的向客户端推送音频翻译文本。
但每个WebSocket连接都会占用服务端一定的资源，服务端的总资源有限，当WebSocket连接达到一定数量后，无法建立连接新的连接。因此，需要一种方案来对连接进行优化。
发明内容
鉴于上述问题，提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的连接优化方法、装置、计算设备及计算机存储介质。
根据本发明实施例的一个方面，提供了一种连接优化方法，包括：
确定客户端与服务端之间的连接的等级；连接的等级高低，与连接的连接闲置率大小相关联；
在针对连接的等级调整条件发生时，调整连接的等级，以得到调整后的连接的等级；
基于调整后的连接的等级，调整服务端分配给连接的资源。
根据本发明实施例的另一方面，提供了一种连接优化装置，包括：
确定模块，适于确定客户端与服务端之间的连接的等级；连接的等级高低，与连接的连接闲置率大小相关联；
等级调整模块，适于在针对连接的等级调整条件发生时，调整连接的等级，以得到调整后的连接的等级；
资源调整模块，适于基于调整后的连接的等级，调整服务端分配给连接的资源。
根据本发明实施例的又一方面，提供了一种计算设备，包括：处理器、存储器、通信接口和通信总线，处理器、存储器和通信接口通过通信总线完成相互间的通信；
存储器用于存放至少一可执行指令，可执行指令使处理器执行上述连接优化方法对应的操作。
根据本发明实施例的再一方面，提供了一种计算机存储介质，存储介质中存储有至少一可执行指令，可执行指令使处理器执行如上述连接优化方法对应的操作。
根据本发明上述实施例提供的方案，能够对服务端所有的连接进行实时监控与动态管理，去除无效的请求，优化低效的请求，节省了客户端与服务端的带宽内存等资源，在现有的服务端资源下，能给更多的用户提供语音翻译服务，通过减少服务端不必要的资源消耗，给真正需要语音翻译服务的用户更好的服务体验。
上述说明仅是本发明实施例技术方案的概述，为了能够更清楚了解本发明实施例的技术手段，而可依照说明书的内容予以实施，并且为了让本发明实施例的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明实施例的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明实施例的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：
图1示出了本发明实施例提供的连接优化方法流程图；
图2示出了本发明另一个实施例提供的连接优化方法的流程图；
图3示出了本发明实施例提供的连接优化装置的结构示意图；
图4示出了本发明实施例提供的计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例，然而应当理解，可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本发明，并且能够将本发明的范围完整的传达给本领域的技术人员。
图1示出了本发明实施例提供的连接优化方法的流程图。如图1所示，该方法包括以下步骤：
步骤S101，确定客户端与服务端之间的连接的等级；连接的等级高低，与连接的连接闲置率大小相关联。
当用户想要使用语音翻译服务时，用户可以通过客户端发起连接请求，客户端与服务端之间会建立一条连接，为了实现连接优化，本步骤需要确定客户端与服务端之间的连接的等级，不同连接对应的等级不同，其中，连接的等级高低，与连接的连接闲置率大小相关联，连接闲置率反映了连接闲置程度。例如，连接的连接闲置率越高，连接的等级越低；连接的连接闲置率越低，连接的等级越高。
步骤S102，在针对连接的等级调整条件发生时，调整连接的等级，以得到调整后的连接的等级。
其中，连接的等级调整条件具体指对连接的等级进行调整所需要达到的条件，针对连接的等级调整条件可以包括：服务端的资源占用率大于或等于预设的资源占用率上限值；或，服务端的资源占用率小于预设的资源占用率下限值。其中，预设的资源占用率上限值可以用Fst表示，Fst的值为1000种空闲环境下，1分钟测试所得数值的平均值。预设的资源占用率下限值可以用Fsd表示，Fsd的值为1000种低负载环境下，1分钟测试所得数值的平均值。
服务端资源占用率反映了当前服务端资源占用情况，例如，可以根据服务端资源信息计算服务端资源占用率，服务端资源信息包括：线程CPU占用时间、服务端CPU负载、全量回收次数、新生代垃圾回收次数、全量回收耗费时长、新生代垃圾回收耗费时长、系统启动时长。
具体地，可以根据以下公式计算服务端资源占用率F：
F＝(线程CPU占用时间/CPU占用时间基准值)*a1+(服务端CPU负载)*b1+(全量回收次数/新生代垃圾回收次数)*c1+((全量回收耗费时长+新生代垃圾回收耗费时长)/系统启动时长)*d1
其中，a1+b1+c1+d1＝1，a1、b1、c1、d1可以根据服务端情况的不同而调整为不同的值；
全量回收(Full gc)具体指JVM在老年代空间不够使用，没法放入更多对象时，这时候执行GC对老年代进行垃圾回收，称为Full gc；
新生代垃圾回收(Young gc)具体指JVM在新生代的Eden区域满了之后就会触发垃圾回收，称为Young gc；
全量回收次数、新生代垃圾回收次数是服务端启动到当前时间的gc次数。
全量回收耗费时长、新生代垃圾回收耗费时长是服务端启动到当前时间gc所耗费的时长。公式中所涉及的时间单位都为秒。
在上述条件发生时，需要对连接的等级进行调整，以得到调整后的连接的等级。例如，连接的等级可以划分为0级、1级、2级、3级，0级对应着连接断开当然还可以是其它划分方式，例如，A级、B级、C级、D级，其中，A级最高，D级最低，D级对应着连接断开的情况，在进行等级调整时，可以将连接的等级由A级调整为C级，将连接的等级由C级调整为D级，这里仅是举例说明，不具有任何限定作用。
步骤S103，基于调整后的连接的等级，调整服务端分配给连接的资源。
在完成连接的等级调整后，可以基于调整后的连接的等级，调整服务端分配给连接的资源。不同等级的连接所能使用的服务端资源是不同的，连接的等级越高所能使用的服务端资源越多，例如，最高等级的连接能够正常使用服务端资源，随着连接的等级降低，连接所能使用的服务端资源也逐渐减少，比如，A级的连接能正常使用服务端资源，B级的连接则仅能使用正常服务端资源的50％，C级的连接则仅能使用正常服务端资源的10％。也就是说，对B级连接和C级连接所能使用的服务端资源进行了相应的限制，从而支持建立更多的连接。
在本发明一种可选实施方式中，连接用于传输同声传译的相关数据；相关数据，包括待翻译的音频数据和翻译结果中的至少一种；
因此，还可以通过如下方法来调整连接的等级：根据对于相关数据的无效传输的情况，调整连接的等级，以得到调整后的连接的等级；其中，相关数据的无效传输，包括：未传输有效的相关数据。
当相关数据包括待翻译的音频数据时，无效传输情况具体指连接传输一些无用语音(比如没人说话时候的背景音)、低效语音(比如断断续续的杂音)，或者连接未传输有效的待翻译的音频数据的情况；当相关数据包括翻译结果时，相关数据的无效传输的情况，包括下述至少一种：传输的翻译结果为非空的无意义字符串、传输的翻译结果为空的字符串。
相关数据的无效传输反映了连接的闲置情况，因此，根据对于相关数据的无效传输的情况来调整连接的等级，根据调整后的等级来指导分配给连接的服务端资源，实现服务端资源的合理分配，以支持建立更多的连接。
在本发明一种可选实施方式中，针对相关数据包括待翻译的音频数据的情况，可以通过如下方法来调整连接的等级：
统计连接在用于传输同声传译的相关数据后，未传输客户端发送的有效的待翻译的音频数据的统计时长；
根据统计时长及服务端的资源占用率，确定连接对应的连接闲置率；
根据连接闲置率调整连接的等级，以得到调整后的连接的等级。
在实际应用场景中，客户端可能处于暂停或者网络中断情况，当出现上述情况时，连接不能传输客户端发送的有效的待翻译的音频数据，为了对连接进行优化以节省服务端资源，这里需要统计连接在用于传输同声传译的相关数据后，未传输客户端发送的有效的待翻译的音频数据的统计时长，从这时开始计时，每过5秒钟计算一次连接闲置率，则所间隔的预设时段即为连接闲置率计算间隔时长，5秒，这里仅是举例说明不具有任何限定作用，根据统计时长、服务端资源占用率根据统计时长及服务端的资源占用率，确定连接对应的连接闲置率；具体地，可以利用如下公式来计算连接闲置率：S＝S1*W*F/F0，其中W＝统计时长/连接闲置率计算间隔时长，其中，连接闲置率计算间隔时长根据实际需要而设定，例如，设定连接闲置率计算间隔时长为5秒钟，时长单位为秒，F是服务端资源占用率，反映的是计算连接闲置率这一时刻，服务端资源占用情况；F0是基准服务端资源占用率，F0是1000次随机计算服务端资源占用率F值的平均数。S1是上一次连接闲置率。在确定了连接对应的连接闲置率后，可以根据连接闲置率调整连接的等级，以得到调整后的连接的等级。
在本发明一种可选实施方式中，相关数据，包括翻译结果；
相关数据的无效传输的情况，包括下述至少一种：传输的翻译结果为非空的无意义字符串、传输的翻译结果为空的字符串。
因此，根据对于相关数据的无效传输的情况，调整连接的等级，以得到调整后的连接的等级，包括：根据是否发生相关数据的无效传输的情况，和/或，是否连续发生相关数据的无效传输的情况，确定连接对应的连接闲置率；根据连接闲置率调整连接的等级，以得到调整后的连接的等级。
服务端接收客户端发送的音频数据，对音频数据进行正常的语音翻译处理流程，生成对应的翻译结果。在生成翻译结果后，服务端根据翻译结果，通过连接闲置率算法进行打分，判断该连接对是否在闲置，以及闲置的程度。当到达定时的时间间隔则对当前的所有连接的优先级进行打分，对连接进行分级处理，例如，分3级处理，分为ABC三级。
可选地，根据是否发生相关数据的无效传输的情况，和/或，是否连续发生相关数据的无效传输的情况，确定连接对应的连接闲置率，包括：
S0，对翻译结果进行分词处理，得到至少一个分词；
S1，将连接闲置基准分赋值给连接闲置率；
S2，从至少一个分词中选择一未曾被选择过的分词；
S3，若分词为空字符串，对连接闲置率进行第一加分处理，跳转S7；
S4，若分词为无意义字符串，则对连接闲置率进行减分处理，跳转S7；
S5，判断上一次选择的分词是否是无意义字符串，若是，则执行S6；若否，则执行S7；
S6，对连接闲置率进行第二加分处理，跳转S7；
S7，利用选择的分词覆盖上一次选择的分词；
S8，判断至少一个分词是否都被选择过；若是，则执行S9；若否，则跳转S2；
S9，确定连接对应的连接闲置率。
在得到翻译结果后，可以对翻译结果进行分词处理，得到至少一个分词，例如，可以基于字符串匹配的分词方法，基于理解的分词方法和基于统计的分词方法等对翻译结果进行分词处理。本领域技术人员能够根据需求进行选取，或是综合使用多种方法。
具体地，客户端发送的待翻译的音频数据可能包括了一些无用语音(比如没人说话时候的背景音)和/或低效语音(比如在整个连接过程中只有断断续续的杂音)，对这些语音数据进行翻译后，翻译结果中可能包含空字符串或者无意义的单字或单词，为了能够准确地确定连接的连接闲置率，需要将翻译结果与空字符串、无意义的单字或单词进行匹配，以对连接闲置率进行加分或减分处理。
例如，首先对翻译结果进行分词处理，得到至少一个分词，从至少一个分词中选择一未曾被选择过的分词，判断被选择的分词是否是空字符串，若是，则加上Se分，否则，再判断是否是无意义字符串，不是则减去Sf分，若是无意义字符串，则再根据上一次选择的分词进行判断，判断上一次选择的分词是否是无意义字符串，如果上一次选择的分词也是无意义字符串，则加上Sg分，重复执行上述步骤直至至少一个分词是否都被选择过，得到最终的连接闲置率。需要说明的是，在本实施例中预先建立了无意义字符串的字符库，在判断是否是无意义字符串时，将选择的分词与无意义字符串的字符库进行匹配，若无意义字符串的字符库中存在选择的分词，则说明选择的分词是无意义字符串，否则，不是无意义字符串。
可选地，对连接闲置率进行第一加分处理具体可以通过如下方法实现：
统计选择的分词连续为空字符串的第一统计次数；其中，第一统计次数是选择的分词连续为空字符串的次数，根据第一统计次数、服务端资源占用率计算得到第一加分值，例如，根据如下公式Se＝e0*ln(第一统计次数)*F/F0计算得到第一加分值Se；根据第一加分值，对连接闲置率进行第一加分处理。
可选地，对连接闲置分进行减分处理具体可以通过如下方法实现：
统计选择的分词不是无意义字符串的第二统计次数、选择的分词是空字符串的第三统计次数以及上一次选择的分词为无意义字符串的第四统计次数；根据第二统计次数、第三统计次数及第四统计次数计算得到减分值；例如，可以根据如下公式来计算减分值：Sf＝f0*(第三统计次数+第四统计次数)/(第二统计次数+第三统计次数+第四统计次数)，根据减分值，对连接闲置率进行减分处理。
可选地，对连接闲置分进行第二加分处理具体可以通过如下方法实现：
统计上一次选择的分词连续为无意义字符串的第五统计次数；其中，第五统计次数是本次选择的分词以及上一次选择的分词连续均为无意义字符串的次数，根据第五统计次数、服务端资源占用率计算得到第二加分值，例如，可以根据如下公式Sg＝g0*ln(第五统计次数)*F/F0计算得到第二加分值Sg，根据第二加分值，对连接闲置率进行第二加分处理。
其中，F是服务端资源占用率，F0是基准服务端资源占用率，e0,f0,g0是初始设定的三种情况分值的初始值。
在本发明一种可选实施方式，根据连接闲置率调整连接的等级，以得到调整后的连接的等级进一步可以通过如下方法实现：
将连接对应的连接闲置率与各等级对应的连接闲置率区间进行匹配，得到调整后的连接的等级。
具体地，预先设置各等级对应的连接闲置率区间，为了便于理解，这里以连接的等级划分为A、B、C、D等级为例进行说明，上述等级逐级降低。
A级：A级的优先级最高，通常情况下，新建的连接的初始等级都是A级，低于M分的连接被划分为A级。A级能正常使用服务端的资源。
B级：当连接闲置率小于T分并且大于或等于M分连接分为B级。B级只能使用该连接在A级情况下的50％的资源。
C级：当连接闲置率大于或等于T分时连接被分为C级。C级只能使用该连接在A级情况下10％的资源。
D级：当连接断开时，连接被分为D级。其中，T，M是设置的固定分值，M小于T。
具体地，在计算得到连接对应的连接闲置率后，可以通过将连接闲置率与T和M的值进行比较来确定连接对应的等级，当该连接的连接闲置率S大于或等于T时，该连接的等级被划分为C级，处于闲置可回收状态，当服务端需要选择部分闲置连接断开释放服务端资源时可以选择该连接，连接断开后，连接的等级由C级调整为D级；当该连接的连接闲置率S大于或等于M且小于T时，该连接的等级被划分为B级；当该连接的连接闲置率S小于M时，该连接的等级被划分为A级。
图2示出了本发明另一个实施例提供的连接优化方法的流程图。在本实施例中，连接的等级分为ABCD级，D级对应着连接断开，如图2所示，该方法包括以下步骤：
步骤S201，客户端发起连接请求，服务端接收请求并建立连接。建立连接后，在服务端维护的连接数据中增加该连接的数据，此时该连接等级为A级。
步骤S202，计算当前的服务端资源占用率F，判断服务端资源占用率F是否大于或等于预设的资源占用率上限值Fst。
可以根据以下公式计算服务端资源占用率F：
F＝(线程CPU占用时间/CPU占用时间基准值)*a1+(服务端CPU负载)*b1+(全量回收次数/新生代垃圾回收次数)*c1+((全量回收耗费时长+新生代垃圾回收耗费时长)/系统启动时长)*d1
其中，a1+b1+c1+d1＝1，a1、b1、c1、d1可以根据服务端情况的不同而调整为不同的值。
步骤S203，如果服务端资源占用率F大于或等于Fst时，判断是否有C级的连接。
这里判断是否有C级连接，即为判断是否有立即可以释放的空闲连接。
步骤S204，如果有C级的连接，则断开C级的连接，释放C级的连接所占用的服务端资源。
步骤S205，如果没有C级连接，则将A级的连接中连接闲置率较高的50％的连接的等级调整为B级。通过对部分连接进行降级处理，腾出服务端的部分资源。
若不存在C级的连接，为了能够腾出服务端的部分连接资源，则需要对部分连接进行降级处理，例如，把A级中连接闲置率较高的50％的连接划分为B级，实现了连接的等级降级，以动态调整服务端资源，从而腾出服务端的部分资源。需要说明的是，A级能正常使用服务端的资源；B级只能使用该连接在A级情况下的50％的资源；C级只能使用该连接在A级情况下10％的资源。因此，通过释放C级连接，或者将A级连接降为B级连接能够腾出服务端的部分资源。
步骤S206，如果服务端资源占用率F小于Fst，判断服务端资源占用率F是否小于Fsd。
步骤S207，如果服务端资源占用率F小于预设的资源占用率下限值Fsd，则判断是否存在B级的连接。
步骤S208，如果有B级的连接，则根据连接的闲置率从低到高开始依次把10％的连接由B级调整为A级，跳转执行步骤S206，直到服务端资源占用率F大于或等于Fsd或者B级的连接为空为止。
步骤S209，如果没有B级的连接，或者服务端资源占用率F大于或等于预设的资源占用率下限值Fsd，则接收连接，通知客户端发送音频数据。
本发明提供的方案，能够对服务端所有的连接进行实时监控与动态管理，去除无效的请求，优化低效的请求，节省了客户端与服务端的带宽内存等资源，在现有的服务端资源下，能给更多的用户提供语音翻译服务，通过减少服务端不必要的资源消耗，给真正需要语音翻译服务的用户更好的服务体验。
图3示出了本发明实施例提供的连接优化装置的结构示意图。如图3所示，该装置包括：确定模块301、等级调整模块302、资源调整模块303。
确定模块301，适于确定客户端与服务端之间的连接的等级；连接的等级高低，与连接的连接闲置率大小相关联；
等级调整模块302，适于在针对连接的等级调整条件发生时，调整连接的等级，以得到调整后的连接的等级；
资源调整模块303，适于基于调整后的连接的等级，调整服务端分配给连接的资源。
可选地，针对连接的等级调整条件包括：
服务端的资源占用率大于或等于预设的资源占用率上限值；或，
服务端的资源占用率小于预设的资源占用率下限值。
可选地，连接用于传输同声传译的相关数据；相关数据，包括待翻译的音频数据和翻译结果中的至少一种；
等级调整模块进一步适于：根据对于相关数据的无效传输的情况，调整连接的等级，以得到调整后的连接的等级；
相关数据的无效传输，包括：未传输有效的相关数据。
可选地，相关数据，包括待翻译的音频数据；
等级调整模块进一步适于：统计连接在用于传输同声传译的相关数据后，未传输客户端发送的有效的待翻译的音频数据的统计时长；
根据统计时长及服务端的资源占用率，确定连接对应的连接闲置率；
根据连接闲置率调整连接的等级，以得到调整后的连接的等级。
可选地，相关数据，包括翻译结果；
相关数据的无效传输的情况，包括下述至少一种：
传输的翻译结果为非空的无意义字符串；
传输的翻译结果为空的字符串。
可选地，等级调整模块进一步适于：根据是否发生相关数据的无效传输的情况，和/或，是否连续发生相关数据的无效传输的情况，确定连接对应的连接闲置率；
根据连接闲置率调整连接的等级，以得到调整后的连接的等级。
可选地，等级调整模块进一步适于：S0，对翻译结果进行分词处理，得到至少一个分词；
S1，将连接闲置基准分赋值给连接闲置率；
S2，从至少一个分词中选择一未曾被选择过的分词；
S3，若分词为空字符串，对连接闲置率进行第一加分处理，跳转S7；
S4，若分词为无意义字符串，则对连接闲置率进行减分处理，跳转S7；
S5，判断上一次选择的分词是否是无意义字符串，若是，则执行S6；若否，则执行S7；
S6，对连接闲置率进行第二加分处理，跳转S7；
S7，利用选择的分词覆盖上一次选择的分词；
S8，判断至少一个分词是否都被选择过；若是，则执行S9；若否，则跳转S2；
S9，确定连接对应的连接闲置率。
可选地，等级调整模块进一步适于：统计选择的分词连续为空字符串的第一统计次数；
根据第一统计次数、服务端资源占用率计算得到第一加分值；
根据第一加分值，对连接闲置率进行第一加分处理。
可选地，等级调整模块进一步适于：统计选择的分词不是无意义字符串的第二统计次数、选择的分词是空字符串的第三统计次数以及上一次选择的分词为无意义字符串的第四统计次数；
根据第二统计次数、第三统计次数及第四统计次数计算得到减分值；
根据减分值，对连接闲置分进行减分处理。
可选地，等级调整模块进一步适于：统计上一次选择的分词连续为无意义字符串的第五统计次数；
根据第五统计次数、服务端资源占用率计算得到第二加分值；
根据第二加分值，对连接闲置率进行第二加分处理。
本发明提供的方案，能够对服务端所有的连接进行实时监控与动态管理，去除无效的请求，优化低效的请求，节省了客户端与服务端的带宽内存等资源，在现有的服务端资源下，能给更多的用户提供语音翻译服务，通过减少服务端不必要的资源消耗，给真正需要语音翻译服务的用户更好的服务体验。
本发明实施例提供了一种非易失性计算机存储介质，计算机存储介质存储有至少一可执行指令，该计算机可执行指令可执行上述任意方法实施例中的连接优化方法。
图4示出了本发明实施例提供的计算设备的结构示意图，本发明具体实施例并不对计算设备的具体实现做限定。
如图4所示，该计算设备可以包括：处理器(processor)、通信接口(Communications Interface)、存储器(memory)、以及通信总线。
其中：处理器、通信接口、以及存储器通过通信总线完成相互间的通信。通信接口，用于与其它设备比如客户端或其它服务器等的网元通信。处理器，用于执行程序，具体可以执行上述用于计算设备的连接优化方法实施例中的相关步骤。
具体地，程序可以包括程序代码，该程序代码包括计算机操作指令。
处理器可能是中央处理器CPU，或者是特定集成电路ASIC(Application SpecificIntegrated Circuit)，或者是被配置成实施本发明实施例的一个或多个集成电路。计算设备包括的一个或多个处理器，可以是同一类型的处理器，如一个或多个CPU；也可以是不同类型的处理器，如一个或多个CPU以及一个或多个ASIC。
存储器，用于存放程序。存储器可能包含高速RAM存储器，也可能还包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。
程序具体可以用于使得处理器执行上述任意方法实施例中的连接优化方法。程序中各步骤的具体实现可以参见上述连接优化实施例中的相应步骤和单元中对应的描述，在此不赘述。所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的设备和模块的具体工作过程，可以参考前述方法实施例中的对应过程描述，在此不再赘述。
在此提供的算法或显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明实施例也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明实施例的内容，并且上面对特定语言所做的描述是为了披露本发明实施例的最佳实施方式。
在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。
类似地，应当理解，为了精简本发明实施例并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明实施例的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明实施例要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外，本领域的技术人员能够理解，尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的一些或者全部部件的一些或者全部功能。本发明实施例还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明实施例的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。
应该注意的是上述实施例对本发明实施例进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明实施例可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。上述实施例中的步骤，除有特殊说明外，不应理解为对执行顺序的限定。

Claims (13)

1.一种连接优化方法，包括：
确定客户端与服务端之间的连接的等级；所述连接的等级高低，与所述连接的连接闲置率大小相关联；
在针对所述连接的等级调整条件发生时，调整所述连接的等级，以得到调整后的所述连接的等级；
基于调整后的所述连接的等级，调整服务端分配给所述连接的资源。
2.根据权利要求1所述的方法，其中，针对所述连接的等级调整条件包括：
所述服务端的资源占用率大于或等于预设的资源占用率上限值；或，
所述服务端的资源占用率小于预设的资源占用率下限值。
3.根据权利要求1或2所述的方法，其特征在于，所述连接用于传输同声传译的相关数据；所述相关数据，包括待翻译的音频数据和翻译结果中的至少一种；
所述调整所述连接的等级，以得到调整后的所述连接的等级，包括：
根据对于所述相关数据的无效传输的情况，调整所述连接的等级，以得到调整后的所述连接的等级；
所述相关数据的无效传输，包括：未传输有效的所述相关数据。
4.根据权利要求3所述的方法，其中，所述相关数据，包括待翻译的音频数据；
根据对于所述相关数据的无效传输的情况，调整所述连接的等级，以得到调整后的所述连接的等级，包括：
统计所述连接在用于传输同声传译的所述相关数据后，未传输客户端发送的有效的所述待翻译的音频数据的统计时长；
根据所述统计时长及服务端的资源占用率，确定连接对应的连接闲置率；
根据所述连接闲置率调整所述连接的等级，以得到调整后的所述连接的等级。
5.根据权利要求3所述的方法，其中，所述相关数据，包括所述翻译结果；
所述相关数据的无效传输的情况，包括下述至少一种：
传输的所述翻译结果为非空的无意义字符串；
传输的所述翻译结果为空的字符串。
6.根据权利要求5所述的方法，其中，根据对于所述相关数据的无效传输的情况，调整所述连接的等级，以得到调整后的所述连接的等级，包括：
根据是否发生所述相关数据的无效传输的情况，和/或，是否连续发生所述相关数据的无效传输的情况，确定连接对应的连接闲置率；
根据所述连接闲置率调整所述连接的等级，以得到调整后的所述连接的等级。
7.根据权利要求6所述的方法，其中，所述根据是否发生所述相关数据的无效传输的情况，和/或，是否连续发生所述相关数据的无效传输的情况，确定连接对应的连接闲置率，包括：
S0，对所述翻译结果进行分词处理，得到至少一个分词；
S1，将连接闲置基准分赋值给连接闲置率；
S2，从所述至少一个分词中选择一未曾被选择过的分词；
S3，若分词为空字符串，对连接闲置率进行第一加分处理，跳转S7；
S4，若分词为无意义字符串，则对连接闲置率进行减分处理，跳转S7；
S5，判断上一次选择的分词是否是无意义字符串，若是，则执行S6；若否，则执行S7；
S6，对连接闲置率进行第二加分处理，跳转S7；
S7，利用选择的分词覆盖上一次选择的分词；
S8，判断至少一个分词是否都被选择过；若是，则执行S9；若否，则跳转S2；
S9，确定连接对应的连接闲置率。
8.根据权利要求7所述的方法，其中，所述对连接闲置率进行第一加分处理，包括：
统计选择的分词连续为空字符串的第一统计次数；
根据所述第一统计次数、服务端资源占用率计算得到第一加分值；
根据所述第一加分值，对连接闲置率进行第一加分处理。
9.根据权利要求7或8所述的方法，其中，所述对连接闲置率进行减分处理，包括：
统计选择的分词不是无意义字符串的第二统计次数、选择的分词是空字符串的第三统计次数以及上一次选择的分词为无意义字符串的第四统计次数；
根据所述第二统计次数、第三统计次数及第四统计次数计算得到减分值；
根据所述减分值，对连接闲置分进行减分处理。
10.根据权利要求7或8所述的方法，其中，所述对连接闲置率进行第二加分处理，包括：
统计上一次选择的分词连续为无意义字符串的第五统计次数；
根据所述第五统计次数、服务端资源占用率计算得到第二加分值；
根据所述第二加分值，对连接闲置率进行第二加分处理。
11.一种连接优化装置，包括：
确定模块，适于确定客户端与服务端之间的连接的等级；所述连接的等级高低，与所述连接的连接闲置率大小相关联；
等级调整模块，适于在针对所述连接的等级调整条件发生时，调整所述连接的等级，以得到调整后的所述连接的等级；
资源调整模块，适于基于调整后的所述连接的等级，调整服务端分配给所述连接的资源。
12.一种计算设备，包括：处理器、存储器、通信接口和通信总线，所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信；
所述存储器用于存放至少一可执行指令，所述可执行指令使所述处理器执行如权利要求1-10中任一项所述的连接优化方法对应的操作。
13.一种计算机存储介质，所述存储介质中存储有至少一可执行指令，所述可执行指令使处理器执行如权利要求1-10中任一项所述的连接优化方法对应的操作。
CN202111061344.XA 2021-09-10 2021-09-10 连接优化方法、装置、计算设备及计算机存储介质 Pending CN113783728A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111061344.XA CN113783728A (zh) 2021-09-10 2021-09-10 连接优化方法、装置、计算设备及计算机存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111061344.XA CN113783728A (zh) 2021-09-10 2021-09-10 连接优化方法、装置、计算设备及计算机存储介质

Publications (1)

Publication Number Publication Date
CN113783728A true CN113783728A (zh) 2021-12-10

Family

ID=78842331

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111061344.XA Pending CN113783728A (zh) 2021-09-10 2021-09-10 连接优化方法、装置、计算设备及计算机存储介质

Country Status (1)

Country Link
CN (1) CN113783728A (zh)

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102498715A (zh) * 2009-05-19 2012-06-13 宝美瑞思网络有限公司 带宽回收用受管理自适应比特率的方法、装置及计算机可读介质
CN102868759A (zh) * 2012-09-28 2013-01-09 方正国际软件有限公司 服务器控制浏览器界面数据刷新的系统及其方法
CN103139303A (zh) * 2013-02-07 2013-06-05 网易（杭州）网络有限公司 一种用于保持连接的心跳方法、装置及系统
CN105306386A (zh) * 2015-10-09 2016-02-03 天脉聚源（北京）教育科技有限公司 一种局域网中资源分配的方法和装置
CN105391758A (zh) * 2015-10-09 2016-03-09 天脉聚源（北京）教育科技有限公司 一种局域网中资源分配的方法和装置
US9935977B1 (en) * 2013-12-09 2018-04-03 Amazon Technologies, Inc. Content delivery employing multiple security levels
CN107888428A (zh) * 2017-12-04 2018-04-06 郑州云海信息技术有限公司 一种带宽调整方法、装置、设备及可读存储介质
WO2018090602A1 (zh) * 2016-11-18 2018-05-24 上海斐讯数据通信技术有限公司 一种长连接服务器保活报文控制方法及系统
CN110933756A (zh) * 2019-11-21 2020-03-27 中国联合网络通信集团有限公司 一种资源处理方法及装置
CN111030945A (zh) * 2019-12-06 2020-04-17 深信服科技股份有限公司 容灾方法、容灾网关、存储介质、装置以及系统
CN112311610A (zh) * 2020-12-25 2021-02-02 视联动力信息技术股份有限公司 一种非ip体系下实现qos保障的通信方法和装置

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102498715A (zh) * 2009-05-19 2012-06-13 宝美瑞思网络有限公司 带宽回收用受管理自适应比特率的方法、装置及计算机可读介质
CN102868759A (zh) * 2012-09-28 2013-01-09 方正国际软件有限公司 服务器控制浏览器界面数据刷新的系统及其方法
CN103139303A (zh) * 2013-02-07 2013-06-05 网易（杭州）网络有限公司 一种用于保持连接的心跳方法、装置及系统
US9935977B1 (en) * 2013-12-09 2018-04-03 Amazon Technologies, Inc. Content delivery employing multiple security levels
CN105306386A (zh) * 2015-10-09 2016-02-03 天脉聚源（北京）教育科技有限公司 一种局域网中资源分配的方法和装置
CN105391758A (zh) * 2015-10-09 2016-03-09 天脉聚源（北京）教育科技有限公司 一种局域网中资源分配的方法和装置
WO2018090602A1 (zh) * 2016-11-18 2018-05-24 上海斐讯数据通信技术有限公司 一种长连接服务器保活报文控制方法及系统
CN107888428A (zh) * 2017-12-04 2018-04-06 郑州云海信息技术有限公司 一种带宽调整方法、装置、设备及可读存储介质
CN110933756A (zh) * 2019-11-21 2020-03-27 中国联合网络通信集团有限公司 一种资源处理方法及装置
CN111030945A (zh) * 2019-12-06 2020-04-17 深信服科技股份有限公司 容灾方法、容灾网关、存储介质、装置以及系统
CN112311610A (zh) * 2020-12-25 2021-02-02 视联动力信息技术股份有限公司 一种非ip体系下实现qos保障的通信方法和装置

Similar Documents

Publication Publication Date Title
CN110808922B (zh) 一种消息处理方法、装置、存储介质及电子设备
US20070263821A1 (en) Method and apparatus for enhancing speaker selection
CN109982159A (zh) 在线播放流媒体的方法和终端
CN111755009A (zh) 语音服务方法、系统、电子设备及存储介质
CN112468841B (zh) 音频传输方法、装置、智能设备及计算机可读取存储介质
CN113132403A (zh) 用于内容分发网络的回源方法和装置
CN108337301A (zh) 应用程序的网络请求处理方法、装置、服务器及存储介质
CN111200606A (zh) 深度学习模型任务处理方法、系统、服务器及存储介质
CN107222316B (zh) 一种自适应房间人数的聊天室配置方法及聊天室系统
JP2020080059A (ja) 評価装置、評価方法および評価プログラム
CN111135586A (zh) 游戏匹配方法、游戏匹配装置、存储介质与电子设备
CN113472893B (zh) 数据处理方法、装置、计算设备及计算机存储介质
CN118071361A (zh) 延时分配客服的方法、装置、电子设备和计算机可读介质
CN117592685A (zh) 业务处理方法、装置、电子设备及存储介质
US9437205B2 (en) Method, application, and device for audio signal transmission
US12010197B2 (en) System, method and computer-readable medium for data accessing
CN113783728A (zh) 连接优化方法、装置、计算设备及计算机存储介质
CN111249747B (zh) 一种游戏中的信息处理方法及装置
CN114827281B (zh) 一种网络请求的发送及接收方法、系统及装置
WO2022105504A1 (zh) 函数服务的调度方法、系统、计算设备和存储介质
CN114416013A (zh) 数据发送方法、装置、电子设备及计算机可读存储介质
CN109947716A (zh) 一种文件存储方法、设备及计算机可读存储介质
CN115396486B (zh) 连接池处理方法、装置、存储介质及设备
CN113824689A (zh) 边缘计算网络、数据传输方法、装置、设备和存储介质
CN107465743B (zh) 一种处理请求的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination