CN112118275B - 过载处理方法、物联网平台及计算机可读存储介质 - Google Patents

过载处理方法、物联网平台及计算机可读存储介质 Download PDF

Info

Publication number
CN112118275B
CN112118275B CN201910538456.6A CN201910538456A CN112118275B CN 112118275 B CN112118275 B CN 112118275B CN 201910538456 A CN201910538456 A CN 201910538456A CN 112118275 B CN112118275 B CN 112118275B
Authority
CN
China
Prior art keywords
server
internet
things platform
platform
load balancer
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910538456.6A
Other languages
English (en)
Other versions
CN112118275A (zh
Inventor
马东辉
邢云天
满志远
张永新
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing CHJ Automotive Information Technology Co Ltd
Original Assignee
Beijing CHJ Automotive Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing CHJ Automotive Information Technology Co Ltd filed Critical Beijing CHJ Automotive Information Technology Co Ltd
Priority to CN201910538456.6A priority Critical patent/CN112118275B/zh
Publication of CN112118275A publication Critical patent/CN112118275A/zh
Application granted granted Critical
Publication of CN112118275B publication Critical patent/CN112118275B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0803Configuration setting
    • H04L41/0813Configuration setting characterised by the conditions triggering a change of settings
    • H04L41/0816Configuration setting characterised by the conditions triggering a change of settings the condition being an adaptation, e.g. in response to network events
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1001Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004Server selection for load balancing
    • H04L67/1008Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/104Peer-to-peer [P2P] networks
    • H04L67/1042Peer-to-peer [P2P] networks using topology management mechanisms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/104Peer-to-peer [P2P] networks
    • H04L67/1074Peer-to-peer [P2P] networks for supporting data block transmission mechanisms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/14Session management
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/50Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本公开的实施例提供一种过载处理方法、物联网平台及计算机可读存储介质。该方法应用于给车辆提供服务的物联网平台,该方法包括:在物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;其中,在进行扩容处理之前,物联网平台中的服务器的数量为N,在进行扩容处理之后,物联网平台中的服务器的数量为M,且N小于M。可见,通过对物联网平台的动态扩容,本公开的实施例能够较好地保证物联网平台的稳定性、灵活性以及服务质量,以避免带宽资源和服务器资源的浪费,从而降低成本。

Description

过载处理方法、物联网平台及计算机可读存储介质
技术领域
本公开的实施例涉及车辆工程技术领域,尤其涉及一种过载处理方法、物联网平台及计算机可读存储介质。
背景技术
随着车辆工程技术领域的迅速发展,车辆(例如纯电动汽车、混合电动汽车等)的使用越来越普遍,车辆已经成为人们日常生活中的重要交通工具。
在车辆卖出后,由物联网平台为车辆提供服务。一般而言,物联网平台所服务的车辆的数量是不确定的,且事先不能准确预知,为了保证对车辆的服务质量,目前仅仅只能预估车辆的销量,并据此确定物联网平台中的服务器的数量。这样,一旦需要物联网平台提供服务的车辆的数量急剧增加,物联网平台的服务质量会受到非常严重的影响。
发明内容
本公开的实施例提供一种过载处理方法、物联网平台及计算机可读存储介质,以解决现有技术中,需要物联网平台提供服务的车辆的数量急剧增加,导致物联网平台的服务质量受到非常严重的影响的问题。
第一方面,本公开的实施例提供一种过载处理方法,应用于给车辆提供服务的物联网平台,所述方法包括:
在所述物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;
其中,在进行扩容处理之前,所述物联网平台中的服务器的数量为N,在进行扩容处理之后,所述物联网平台中的服务器的数量为M,且N小于M。
在一些实施例中,所述物联网平台中还包括负载均衡器,所述负载均衡器中存储有服务器地址轮询列表,在进行扩容处理之前,所述服务器地址轮询列表中存储有所述物联网平台中的N台服务器的地址;
所述进行扩容处理,包括:
向所述服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽。
在一些实施例中,处于过载状态的服务器在接收到来自所述负载均衡器的连接请求的情况下,拒绝所述连接请求。
在一些实施例中,所述方法还包括:
获得所述物联网平台中的每台服务器的运行信息;其中,所述运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者;
根据每台服务器的运行信息,确定每台服务器是否处于过载状态。
在一些实施例中,所述根据每台服务器的运行信息,确定每台服务器是否处于过载状态,包括:
针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,所述根据每台服务器的运行信息,确定每台服务器是否处于过载状态,包括:
针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,所述方法还包括:
在所述物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
第二方面,本公开的实施例提供一种物联网平台,用于给车辆提供服务,包括:若干台服务器,以及资源管理平台,所述资源管理平台与各服务器连接;其中,
各服务器,用于提供数据服务;
所述资源管理平台,用于在所述物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;
其中,在进行扩容处理之前,所述物联网平台中的服务器的数量为N,在进行扩容处理之后,所述物联网平台中的服务器的数量为M,且N小于所述M。
在一些实施例中,所述物联网平台中还包括负载均衡器,所述负载均衡器与所述资源管理平台和各服务器连接,所述负载均衡器中存储有服务器地址轮询列表,在进行扩容处理之前,所述服务器地址轮询列表中存储有所述物联网平台中的N台服务器的地址;
所述资源管理平台,具体用于向所述服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽。
在一些实施例中,处于过载状态的服务器,还用于在接收到来自所述负载均衡器的连接请求的情况下,拒绝所述连接请求。
在一些实施例中,所述物联网平台中还包括监控平台,各服务器通过所述监控平台与所述资源管理平台连接;
所述监控平台,用于获得所述物联网平台中的每台服务器的运行信息,根据每台服务器的运行信息,确定每台服务器是否处于过载状态,并在所述物联网平台中的至少一台服务器处于过载状态的情况下,向所述资源管理平台发送扩容请求;
所述资源管理平台,具体用于响应所述扩容请求,以进行扩容处理;
其中,所述运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者。
在一些实施例中,所述监控平台,具体用于针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,所述监控平台,具体用于针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,所述监控平台,还用于在所述物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
第三方面,本公开的实施例提供一种物联网平台,用于给车辆提供服务,包括处理器,存储器,存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现上述过载处理方法的步骤。
第四方面,本公开的实施例提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述过载处理方法的步骤。
本公开的实施例中,在物联网平台中的至少一台服务器处于过载状态的情况下,可以进行扩容处理,以使物联网平台中的服务器数量增加,这时,物联网平台中新增的服务器能够分担一部分负载,从而能够减轻其他服务器承受的负载,使其他服务器逐渐恢复至正常运行状态,以避免其他服务器由于负载过重而崩溃。这样,在经过一段时间后,物联网平台中的所有服务器均能够正常为车辆提供数据服务,即使需要物联网平台提供服务的车辆的数量急剧增加,物联网平台也仅会短暂受到影响。可见,通过对物联网平台的动态扩容,本公开的实施例能够较好地保证物联网平台的稳定性、灵活性以及服务质量,以避免带宽资源和服务器资源的浪费,从而降低成本。
附图说明
图1是本公开的实施例提供的一种过载处理方法的流程图;
图2是本公开的实施例提供的一种物联网平台的结构示意图;
图3是本公开的实施例提供的另一种物联网平台的结构示意图。
具体实施方式
下面将结合本公开的实施例中的附图,对本公开的实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本公开一部分实施例,而不是全部的实施例。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获取的所有其他实施例,都属于本公开保护的范围。
下面首先对本公开的实施例提供的过载处理方法进行说明。
需要说明的是,本公开的实施例提供的过载处理方法应用于给车辆提供服务的物联网平台。可以理解的是,物联网通常指从端到云之间的通道,物联网对应的英文全称为Internets of Things,对应的英文简写为IoT,那么,物联网平台也可以称为IoT平台。
可以理解的是,车辆中可以包括电子控制单元(Electronic Control Unit,ECU),电子控制单元可以利用各种传感器、总线的数据采集与交换,判断车辆状态以及司机的意图,并通过执行器来操控车辆。
参见图1,图中示出了本公开的实施例提供的过载处理方法的流程图。如图1所示,该方法包括如下步骤:
步骤101,在物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;其中,在进行扩容处理之前,物联网平台中的服务器的数量为N,在进行扩容处理之后,物联网平台中的服务器的数量为M,且N小于M。
这里,N可以为1、2、3或者4,M可以为2、3、4或者5,当然,N和M的取值并不局限于此,只需保证N小于M即可,本公开的实施例对N和M的具体取值不做任何限定。
需要指出的是,本公开的实施例涉及的服务器均为能够给车辆提供数据服务的设备;服务器处于过载状态是指:服务器承受的负载超过了其所能够承受的限度。
需要说明的是,物联网平台中可以包括资源管理平台。在步骤101中,可以定时或者不定时地对物联网平台中已有的N台服务器进行状态监测,以确定物联网平台中是否存在处于过载状态的服务器。
如果确定结果为否,可以继续进行状态监测。
如果确定结果为是,资源管理平台可以进行扩容处理,即在已有的N台服务器的基础上,增加新的服务器,以使物联网平台中的服务器数量由N增加至M。
本公开的实施例中,在物联网平台中的至少一台服务器处于过载状态的情况下,可以进行扩容处理,以使物联网平台中的服务器数量增加,这时,物联网平台中新增的服务器能够分担一部分负载,从而能够减轻其他服务器承受的负载,使其他服务器逐渐恢复至正常运行状态,以避免其他服务器由于负载过重而崩溃。这样,在经过一段时间后,物联网平台中的所有服务器均能够正常为车辆提供数据服务,即使需要物联网平台提供服务的车辆的数量急剧增加,物联网平台也仅会短暂受到影响。可见,通过对物联网平台的动态扩容,本公开的实施例能够较好地保证物联网平台的稳定性、灵活性以及服务质量,以避免带宽资源和服务器资源的浪费,从而降低成本。
在一些实施例中,物联网平台中还包括负载均衡器,负载均衡器中存储有服务器地址轮询列表,在进行扩容处理之前,服务器地址轮询列表中存储有物联网平台中的N台服务器的地址。可以理解的是,负载均衡对应的英文全称为Load Balance,对应的英文简写为LB。
进行扩容处理,包括:
向服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽。
这里,服务器的地址可以为互联网协议地址(Internet Protocol Address,IP地址),IP地址能够对服务器进行有效地标识。
一般而言,负载均衡器位于物联网平台的入口处,负载均衡器能够首先接收到来自车辆的流量,负载均衡器存储服务器地址轮询列表的目的在于:负载均衡器可以依据服务器地址轮询列表,为来自车辆的流量分配用于对其进行处理的服务器。具体地,负载均衡器可以依据负载均衡算法,从服务器地址轮询列表中选择地址,并将来自车辆的流量路由至具有该地址的服务器处,以便于该流量被处理。
本公开的实施例中,在物联网平台中的至少一台服务器处于过载状态的情况下,资源管理平台可以调用负载均衡器的接口,以向服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽。这里,具有新的地址的服务器也可以称为新增服务器(例如图2中的服务器C),为新增服务器分配的带宽可以同时包括上行带宽和下行带宽。由于服务器地址轮询列表中地址的数量的增加,在进行流量的分配时,可供负载均衡器选择的服务器变多了,一部分负载可以由新增服务器分担。
可见,本公开的实施例中,通过向服务器地址轮询列表中添加地址,能够非常便捷地实现动态扩容。
在一些实施例中,处于过载状态的服务器在接收到来自负载均衡器的连接请求的情况下,拒绝连接请求。
需要说明的是,在负载均衡器接收到来自车辆的流量,且为其分配用于对其进行处理的服务器之后,负载均衡器可以向该服务器发送连接请求。
如果该服务器处于正常工作状态,该服务器可以同意该连接请求,此时,负载均衡器能够接收到来自该服务器的,用于同意连接的响应信息。那么,根据该响应信息,负载均衡器可以在自身与该服务器之间建立长连接通道(该通道可以认为是发出流量的车辆与该服务器之间的连接通道),例如建立传输控制协议(Transmission Control Protocol,TCP)连接通道,并将来自车辆的流量通过长连接通道路由至该服务器。可以理解的是,长连接能够避免频繁建立连接带来的性能损耗,提高传输效率。
如果该服务器处于过载状态,该服务器可以拒绝该连接请求,此时,负载均衡器能够接收到来自该服务器的,用于拒绝连接的响应信息。那么,根据该响应信息,负载均衡器可以不会进行长连接通道的建立,来自车辆的流量不会被路由至该服务器处,这样能够有效地避免该服务器的负载的进一步加重。另外,根据该响应信息,负载均衡器还可以向其他服务器发送连接请求,如果其他服务器同意连接,来自车辆的流量能够被路由至其他服务器处进行处理。
本公开的实施例中,处于过载状态的服务器可以在接收到来自负载均衡器的连接请求的情况下,拒绝连接请求,这样一方面能够避免处于过载状态的服务器的负载的进一步加重,另一方面能够使流量被路由至其他服务器处进行处理,例如路由至新增服务器处进行处理,从而能够实现新增服务器对一部分负载的分担。
需要指出的是,扩容处理的实现方式并不局限于上述实施例中的,向服务器地址轮询列表中添加地址的情况。例如,负载均衡器可以不改变服务器地址轮询列表,而是在特定区域单独存储新的地址,当已有的服务器均拒绝连接请求的情况下,负载均衡器可以直接向具有特定区域中的地址的服务器发送连接请求,这也是可行的。
在一些实施例中,该方法还包括:
获得物联网平台中的每台服务器的运行信息;其中,运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者;
根据每台服务器的运行信息,确定每台服务器是否处于过载状态。
下面对根据每台服务器的运行信息,确定每台服务器是否处于过载状态的具体实现形式进行举例介绍。
在一种实现形式中,根据每台服务器的运行信息,确定每台服务器是否处于过载状态,包括:
针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
这里,预设CPU使用率可以为50%、60%或者70%,预设内存使用率可以为60%、70%或者80%,预设连接数可以为7500、8000或者9000,预设带宽可以为10Mbps,当然,预设CPU使用率、预设内存使用率、预设连接数、预设带宽的取值并不局限于此,具体可以根据实际情况来确定,本公开的实施例对此不做任何限定。
这里,可以预先存储预设CPU使用率、预设内存使用率、预设连接数、预设带宽这四个预设数据。对于任一服务器,可以将其当前的CPU使用率与预设CPU使用率进行大小比较,将其当前的内存使用率与预设内存使用率进行大小比较,将其当前的已建立连接数与预设连接数进行大小比较,并将其当前的上行带宽与预设带宽进行比较。如果这四个比较结果中的至少一个为当前数据大于相应的预设数据,这说明当前存在以下至少一种情况:该服务器的CPU资源被大量占用,该服务器的内存被大量占用,该服务器正在为大量的车辆提供数据服务,那么,可以确定该服务器承受的负载过大。
容易看出,在这种实现形式中,能够便捷可靠地识别出处于过载状态的服务器。
在另一种实现形式中,根据每台服务器的运行信息,确定每台服务器是否处于过载状态,包括:
针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
这里,可以预先设置服务器与预设CPU使用率之间的对应关系(后续将其称为第一对应关系),服务器与预设内存使用率之间的对应关系(后续将其称为第二对应关系),服务器与预设连接数之间的对应关系(后续将其称为第三对应关系),以及服务器与预设带宽之间的对应关系(后续将其称为第四对应关系)。
针对任一服务器,可以根据第一对应关系,确定其对应的预设CPU使用率,并将其当前的CPU使用率与其对应的预设CPU使用率进行大小比较;可以根据第二对应关系,确定其对应的预设内存使用率,并将其当前的内存使用率与其对应的预设内存使用率进行大小比较;后续依此类推,在此不再赘述。根据比较结果,识别处于过载状态的服务器的方式参照上一实现形式中的说明即可,在此也不再赘述。
容易看出,在这种实现形式中,不同的服务器可以依据相应的预设数据进行识别,这样不仅能够便捷可靠地识别出处于过载状态的服务器,还能够兼顾各服务器的性能的差异性,从而能够较好地保证识别结果的可靠性。
可见,本公开的实施例中,依据服务器的运行信息,能够便捷可靠地识别出处于过载状态的服务器。
在一些实施例中,该方法还包括:
在物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
这里,过载告警信号包括但不限于文字告警信号、声音告警信号、灯光告警信号等。具体地,文字告警信号可以以邮件、短信或者彩信的形式,发送至物联网平台的负责人。
本公开的实施例中,通过过载告警信号的输出,能够及时通知负责人服务器过载的情况,以便于负责人了解物联网平台的运行情况。
下面结合图2,以一个具体的例子,对本公开的实施例的具体实施过程进行详细说明。
如图2所示,物联网平台中可以包括:资源管理平台23、负载均衡器25、监控平台27,以及两个服务器(即服务器A和服务器B);其中,负载均衡器25分别与服务器A和服务器B连接,负载均衡器25中存储有服务器地址轮询列表,服务器地址轮询列表当前仅存储有服务器A的地址IP1和服务器B的地址IP2。
假设按计划,服务器A和服务器B总共只能承载15000辆车辆,其中,服务器A和服务器B每一者均只能承载7500辆车辆,在当前需要物联网平台提供服务的车辆的数量为1万时,又新售出了1万辆车辆,且新售出的车辆均交到用户处进行使用,这时,会有5000辆车辆超出负载,监控平台27可以发现物联网平台入口处的负载均衡器25接收到的流量突然增加。监控平台27还可以根据服务器A和服务器B的CPU使用率、内存使用率、已建立连接数等,确定出服务器A和服务器B处于过载状态的情况,针对该情况,监控平台27可以发送过载告警信号给负责人,监控平台27还可以请求资源管理平台23进行扩容。
根据来自监控平台27的请求,资源管理平台23可以调用负载均衡器25的接口,以向服务器地址轮询列表中添加服务器C的地址IP3,资源管理平台23还可以为服务器C分配带宽。
之后,对于接收到的流量,负载均衡器25可以根据服务器地址轮询列表,轮询IP1、IP2、IP3。在具有IP1的服务器A,以及具有IP2的服务器B均处于过载状态的情况下,服务器A和服务器B均会拒绝负载均衡器25的连接请求,负载均衡器25最终可以在自身与服务器C之间建立长连接,并将流量路由至服务器C处。
可见,本公开的实施例能够充分地对物联网平台进行监控,利用限流和负载均衡的技术,做到随着车辆数量的增加,进行物联网平台的动态扩容,这样能够极大地增加物联网平台的稳定性、灵活性以及服务质量,以避免带宽资源和服务器资源的浪费,从而降低成本。
需要指出的是,本公开的实施例不仅可以适用于车辆的数量突然增加的情况,还可以适用于车辆的数量不变,但每一车辆每秒采集的信号报文的数量(其与具体业务相关)和/或信号报文的大小变化的情况。
下面对本公开的实施例提供的物联网平台进行说明。
参见图2,图中示出了本公开的实施例提供的物联网平台的结构示意图。如图2所示,物联网平台用于给车辆提供服务,物联网平台包括:若干台服务器,以及资源管理平台23,资源管理平台23与各服务器连接;其中,
各服务器,用于提供数据服务;
资源管理平台23,用于在物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;
其中,在进行扩容处理之前,物联网平台中的服务器的数量为N,在进行扩容处理之后,物联网平台中的服务器的数量为M,且N小于M。
在一些实施例中,物联网平台中还包括负载均衡器25,负载均衡器25与资源管理平台23和各服务器连接,负载均衡器25中存储有服务器地址轮询列表,在进行扩容处理之前,服务器地址轮询列表中存储有物联网平台中的N台服务器的地址;
资源管理平台23,具体用于向服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽。
在一些实施例中,处于过载状态的服务器,还用于在接收到来自负载均衡器25的连接请求的情况下,拒绝连接请求。
在一些实施例中,物联网平台中还包括监控平台27,各服务器通过监控平台27与资源管理平台23连接;
监控平台27,用于获得物联网平台中的每台服务器的运行信息,根据每台服务器的运行信息,确定每台服务器是否处于过载状态,并在物联网平台中的至少一台服务器处于过载状态的情况下,向资源管理平台23发送扩容请求;
资源管理平台23,具体用于响应扩容请求,以进行扩容处理;
其中,运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者。
在一些实施例中,监控平台27,具体用于针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,监控平台27,具体用于针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,监控平台27,还用于在物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
本公开的实施例中,在物联网平台中的至少一台服务器处于过载状态的情况下,资源管理平台23可以进行扩容处理,以使物联网平台中的服务器数量增加,这时,物联网平台中新增的服务器能够分担一部分负载,从而能够减轻其他服务器承受的负载,使其他服务器逐渐恢复至正常运行状态,以避免其他服务器由于负载过重而崩溃。这样,在经过一段时间后,物联网平台中的所有服务器均能够正常为车辆提供数据服务,即使需要物联网平台提供服务的车辆的数量急剧增加,物联网平台也仅会短暂受到影响。可见,通过对物联网平台的动态扩容,本公开的实施例能够较好地保证物联网平台的稳定性、灵活性以及服务质量,以避免带宽资源和服务器资源的浪费,从而降低成本。
参见图3,图中示出了本公开的实施例提供的物联网平台300的结构示意图。如图3所示,物联网平台300用于给车辆提供服务,物联网平台300包括:处理器301、收发机302、存储器303、用户接口304和总线接口。
处理器301,用于读取存储器303中的程序,执行下列过程:
在物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;
其中,在进行扩容处理之前,物联网平台中的服务器的数量为N,在进行扩容处理之后,物联网平台中的服务器的数量为M,且N小于M。
在图3中,总线架构可以包括任意数量的互联的总线和桥,具体由处理器301代表的一个或多个处理器和存储器303代表的存储器的各种电路链接在一起。总线架构还可以将诸如外围设备、稳压器和功率管理电路等之类的各种其他电路链接在一起,这些都是本领域所公知的,因此,本文不再对其进行进一步描述。总线接口提供接口。收发机302可以是多个元件,即包括发送机和接收机,提供用于在传输介质上与各种其他装置通信的单元。针对不同的用户设备,用户接口304还可以是能够外接内接需要设备的接口,连接的设备包括但不限于小键盘、显示器、扬声器、麦克风、操纵杆等。
处理器301负责管理总线架构和通常的处理,存储器303可以存储处理器301在执行操作时所使用的数据。
在一些实施例中,物联网平台中还包括负载均衡器,负载均衡器中存储有服务器地址轮询列表,在进行扩容处理之前,服务器地址轮询列表中存储有物联网平台中的N台服务器的地址;
处理器301,具体用于:
向服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽。
在一些实施例中,处于过载状态的服务器在接收到来自负载均衡器的连接请求的情况下,拒绝连接请求。
在一些实施例中,处理器301,还用于:
获得物联网平台中的每台服务器的运行信息;其中,运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者;
根据每台服务器的运行信息,确定每台服务器是否处于过载状态。
在一些实施例中,处理器301,具体用于:
针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,处理器301,具体用于:
针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
在一些实施例中,处理器301,还用于:
在物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
本公开的实施例中,在物联网平台中的至少一台服务器处于过载状态的情况下,可以进行扩容处理,以使物联网平台中的服务器数量增加,这时,物联网平台中新增的服务器能够分担一部分负载,从而能够减轻其他服务器承受的负载,使其他服务器逐渐恢复至正常运行状态,以避免其他服务器由于负载过重而崩溃。这样,在经过一段时间后,物联网平台中的所有服务器均能够正常为车辆提供数据服务,即使需要物联网平台提供服务的车辆的数量急剧增加,物联网平台也仅会短暂受到影响。可见,通过对物联网平台的动态扩容,本公开的实施例能够较好地保证物联网平台的稳定性、灵活性以及服务质量,以避免带宽资源和服务器资源的浪费,从而降低成本。
本公开的实施例还提供一种物联网平台,包括处理器301,存储器303,存储在存储器303上并可在所述处理器301上运行的计算机程序,该计算机程序被处理器301执行时实现上述过载处理方法实施例中的各个过程且能达到相同的技术效果,为避免重复,这里不再赘述。
本公开的实施例还提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器301执行时实现上述过载处理方法实施例中的各个过程,且能达到相同的技术效果,为避免重复,这里不再赘述。其中,所述的计算机可读存储介质,如只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random AccessMemory,简称RAM)、磁碟或者光盘等。
以上所述,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。

Claims (14)

1.一种过载处理方法,其特征在于,应用于给车辆提供服务的物联网平台,所述方法包括:
物联网平台中还包括负载均衡器,所述负载均衡器中存储有服务器地址轮询列表,在进行扩容处理之前,所述服务器地址轮询列表中存储有所述物联网平台中的N台服务器的地址;负载均衡器位于物联网平台的入口处,能够接收到来自车辆的流量,以及依据服务器地址轮询列表,为来自车辆的流量分配用于对其进行处理的服务器;
在所述物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理,包括:向所述服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽;
其中,在进行扩容处理之前,所述物联网平台中的服务器的数量为N,在进行扩容处理之后,所述物联网平台中的服务器的数量为M,且N小于M;
在负载均衡器接收到来自车辆的流量,且分配用于对所述车辆的流量进行处理的服务器之后,负载均衡器向该服务器发送连接请求;
如果所述服务器处于正常工作状态,则同意该连接请求,此时,负载均衡器能够接收到来自该服务器的用于同意连接的响应信息,负载均衡器根据该响应信息在自身与该服务器之间建立长连接通道,该长连接通道是发出流量的车辆与该服务器之间的连接通道,并将来自车辆的流量通过长连接通道路由至该服务器。
2.根据权利要求1所述的方法,其特征在于,处于过载状态的服务器在接收到来自所述负载均衡器的连接请求的情况下,拒绝所述连接请求。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获得所述物联网平台中的每台服务器的运行信息;其中,所述运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者;
根据每台服务器的运行信息,确定每台服务器是否处于过载状态。
4.根据权利要求3所述的方法,其特征在于,所述根据每台服务器的运行信息,确定每台服务器是否处于过载状态,包括:
针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
5.根据权利要求3所述的方法,其特征在于,所述根据每台服务器的运行信息,确定每台服务器是否处于过载状态,包括:
针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
7.一种物联网平台,其特征在于,用于给车辆提供服务,包括:若干台服务器,以及资源管理平台,所述资源管理平台与各服务器连接;其中,
所述物联网平台中还包括负载均衡器,所述负载均衡器与所述资源管理平台和各服务器连接,所述负载均衡器中存储有服务器地址轮询列表,在进行扩容处理之前,所述服务器地址轮询列表中存储有所述物联网平台中的N台服务器的地址;
各服务器,用于提供数据服务;
所述资源管理平台,用于在所述物联网平台中的至少一台服务器处于过载状态的情况下,进行扩容处理;
所述资源管理平台,具体用于向所述服务器地址轮询列表中添加新的地址,并为具有新的地址的服务器分配带宽;
其中,在进行扩容处理之前,所述物联网平台中的服务器的数量为N,在进行扩容处理之后,所述物联网平台中的服务器的数量为M,且N小于所述M;
在负载均衡器接收到来自车辆的流量,且分配用于对所述车辆的流量进行处理的服务器之后,负载均衡器向该服务器发送连接请求;
如果所述服务器处于正常工作状态,则同意该连接请求,此时,负载均衡器能够接收到来自该服务器的用于同意连接的响应信息,负载均衡器根据该响应信息在自身与该服务器之间建立长连接通道,该长连接通道是发出流量的车辆与该服务器之间的连接通道,并将来自车辆的流量通过长连接通道路由至该服务器。
8.根据权利要求7所述的物联网平台,其特征在于,处于过载状态的服务器,还用于在接收到来自所述负载均衡器的连接请求的情况下,拒绝所述连接请求。
9.根据权利要求7所述的物联网平台,其特征在于,所述物联网平台中还包括监控平台,各服务器通过所述监控平台与所述资源管理平台连接;
所述监控平台,用于获得所述物联网平台中的每台服务器的运行信息,根据每台服务器的运行信息,确定每台服务器是否处于过载状态,并在所述物联网平台中的至少一台服务器处于过载状态的情况下,向所述资源管理平台发送扩容请求;
所述资源管理平台,具体用于响应所述扩容请求,以进行扩容处理;
其中,所述运行信息包括中央处理器CPU使用率、内存使用率、已建立连接数、上行带宽中的至少一者。
10.根据权利要求9所述的物联网平台,其特征在于,所述监控平台,具体用于针对任一服务器,在其满足CPU使用率大于预设CPU使用率,内存使用率大于预设内存使用率,已建立连接数大于预设连接数,上行带宽大于预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
11.根据权利要求9所述的物联网平台,其特征在于,所述监控平台,具体用于针对任一服务器,在其满足CPU使用率大于其对应的预设CPU使用率,内存使用率大于其对应的预设内存使用率,已建立连接数大于其对应的预设连接数,上行带宽大于其对应的预设带宽这四个条件中的至少一者的情况下,确定其处于过载状态。
12.根据权利要求9所述的物联网平台,其特征在于,所述监控平台,还用于在所述物联网平台中的至少一台服务器处于过载状态的情况下,输出过载告警信号。
13.一种物联网平台,其特征在于,用于给车辆提供服务,包括处理器,存储器,存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的过载处理方法的步骤。
14.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的过载处理方法的步骤。
CN201910538456.6A 2019-06-20 2019-06-20 过载处理方法、物联网平台及计算机可读存储介质 Active CN112118275B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910538456.6A CN112118275B (zh) 2019-06-20 2019-06-20 过载处理方法、物联网平台及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910538456.6A CN112118275B (zh) 2019-06-20 2019-06-20 过载处理方法、物联网平台及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN112118275A CN112118275A (zh) 2020-12-22
CN112118275B true CN112118275B (zh) 2023-07-11

Family

ID=73796150

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910538456.6A Active CN112118275B (zh) 2019-06-20 2019-06-20 过载处理方法、物联网平台及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN112118275B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112994949A (zh) * 2021-04-02 2021-06-18 软通动力信息技术(集团)股份有限公司 一种专网连接方法、装置、设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104202420A (zh) * 2014-09-18 2014-12-10 广州中国科学院软件应用技术研究所 一种支持物联网中间件集群扩展的方法和装置
CN105162859A (zh) * 2015-08-20 2015-12-16 湖南亿谷科技发展股份有限公司 服务器动态扩容系统及方法
CN105869299A (zh) * 2016-04-18 2016-08-17 宁波轩悦行电动汽车服务有限公司 电脑终端获取车桩信息的系统及负载均衡方法及租车方法
WO2016155300A1 (zh) * 2015-03-27 2016-10-06 上海斐讯数据通信技术有限公司 无线终端设备的远程控制系统及远程控制方法
CN107438012A (zh) * 2016-05-27 2017-12-05 北京金山云网络技术有限公司 一种负载均衡服务转发方法、系统、均衡装置和宿主机
CN108366110A (zh) * 2018-02-05 2018-08-03 山东地主网络科技创新有限公司 一种网站数据交互系统及方法
CN108600344A (zh) * 2018-04-09 2018-09-28 杭州登虹科技有限公司 一种网络访问请求调度方法、装置和存储介质
CN108733493A (zh) * 2018-05-25 2018-11-02 北京车和家信息技术有限公司 资源利用率的计算方法、计算装置及计算机可读存储介质
CN109104377A (zh) * 2018-09-21 2018-12-28 深圳前海微众银行股份有限公司 长连接负载均衡方法、设备、系统及计算机可读存储介质
KR101913697B1 (ko) * 2017-11-22 2019-01-14 (주)아이엠알 Scale-Out과 Load Balancer 기능을 갖춘 LWM2M, CoAP, MQTT 국제 표준에 기반한 사물인터넷 플랫폼의 제어방법

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8510374B2 (en) * 2010-09-24 2013-08-13 Microsoft Corporation Polling protocol for automatic load limiting
US9071609B2 (en) * 2012-10-08 2015-06-30 Google Technology Holdings LLC Methods and apparatus for performing dynamic load balancing of processing resources
CN105516325A (zh) * 2015-12-18 2016-04-20 内蒙古农业大学 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段
CN107145393A (zh) * 2017-04-27 2017-09-08 努比亚技术有限公司 一种负载调整方法、设备及计算机可读存储介质
US10616168B2 (en) * 2017-11-07 2020-04-07 International Business Machines Corporation Dynamically changing message classification and priority based on IOT device publication

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104202420A (zh) * 2014-09-18 2014-12-10 广州中国科学院软件应用技术研究所 一种支持物联网中间件集群扩展的方法和装置
WO2016155300A1 (zh) * 2015-03-27 2016-10-06 上海斐讯数据通信技术有限公司 无线终端设备的远程控制系统及远程控制方法
CN105162859A (zh) * 2015-08-20 2015-12-16 湖南亿谷科技发展股份有限公司 服务器动态扩容系统及方法
CN105869299A (zh) * 2016-04-18 2016-08-17 宁波轩悦行电动汽车服务有限公司 电脑终端获取车桩信息的系统及负载均衡方法及租车方法
CN107438012A (zh) * 2016-05-27 2017-12-05 北京金山云网络技术有限公司 一种负载均衡服务转发方法、系统、均衡装置和宿主机
KR101913697B1 (ko) * 2017-11-22 2019-01-14 (주)아이엠알 Scale-Out과 Load Balancer 기능을 갖춘 LWM2M, CoAP, MQTT 국제 표준에 기반한 사물인터넷 플랫폼의 제어방법
CN108366110A (zh) * 2018-02-05 2018-08-03 山东地主网络科技创新有限公司 一种网站数据交互系统及方法
CN108600344A (zh) * 2018-04-09 2018-09-28 杭州登虹科技有限公司 一种网络访问请求调度方法、装置和存储介质
CN108733493A (zh) * 2018-05-25 2018-11-02 北京车和家信息技术有限公司 资源利用率的计算方法、计算装置及计算机可读存储介质
CN109104377A (zh) * 2018-09-21 2018-12-28 深圳前海微众银行股份有限公司 长连接负载均衡方法、设备、系统及计算机可读存储介质

Also Published As

Publication number Publication date
CN112118275A (zh) 2020-12-22

Similar Documents

Publication Publication Date Title
CN102404229B (zh) 负载均衡系统、装置及方法
CN108696428B (zh) 基于隧道技术的路由探测方法、路由节点和中心服务器
CN111787069A (zh) 业务接入请求的处理方法、装置、设备及计算机存储介质
CN109995839B (zh) 一种负载均衡方法、系统及负载均衡器
CN109672711B (zh) 一种基于反向代理服务器Nginx的http请求处理方法及系统
US20160196073A1 (en) Memory Module Access Method and Apparatus
CN112351083B (zh) 业务处理方法、网络业务系统
CN106713378B (zh) 实现多个应用服务器提供服务的方法和系统
CN113268351A (zh) 一种网关服务的负载均衡方法及装置
CN107689878A (zh) 基于命名调度的tcp长连接负载均衡系统
CN109769029B (zh) 基于用电信息采集系统的通信连接方法及终端设备
CN112118275B (zh) 过载处理方法、物联网平台及计算机可读存储介质
CN108235800B (zh) 一种网络故障探测方法、控制中心设备及计算机存储介质
CN111930710A (zh) 一种大数据内容分发的方法
CN106790354B (zh) 一种防数据拥堵的通信方法及其装置
CN109347743B (zh) 一种专线通信方法、计算机可读存储介质和终端设备
CN114500546B (zh) 基于负载均衡集群的通信消息发送方法、装置及设备
CN111163079A (zh) 设备上报数据分发与控制的系统、方法、存储介质及设备
CN111556043B (zh) 一种报文处理方法、装置、系统、设备及可读存储介质
JP2011091711A (ja) ノード及び送信フレーム振り分け方法並びにプログラム
CN112671914B (zh) 一种基于actor模型的物联网设备通讯方法和系统
CN104426704A (zh) 整合网络装置及其服务整合方法
CN112769960A (zh) 一种基于Nginx服务器的主动流量控制方法及系统
CN111541667A (zh) 一种系统间消息通信的方法、设备、存储介质
CN110955579A (zh) 一种基于Ambari的大数据平台的监测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant