发明内容
本发明提供一种服务限流响应方法、装置及计算机可读存储介质,其主要目的在于解决服务请求速率过大造成请求丢失和系统宕机的问题。
为实现上述目的,本发明提供的一种服务限流响应方法,包括:
根据所述时间戳计算所述服务请求的获取速率;
将所述获取速率与预设的响应速率进行比较,当所述获取速率小于或等于所述响应速率,将所述服务请求发送至后台服务中进行请求响应;
当所述获取速率大于所述响应速率,将所述服务请求转化为目标数据格式,得到格式归一化请求;
将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间;
按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应。
可选地,所述解析得到所述服务请求的时间戳,包括:
遍历并获取所述服务请求中的字段分隔符;
根据所述字段分隔符将所述服务请求进行字段拆分,得到多个拆分字段;
从所述多个拆分字段中提取时间戳字段;
利用解析器对所述时间戳字段进行解析,得到所述服务请求的时间戳。
可选地,所述根据所述时间戳计算所述服务请求的获取速率,包括:
连续选取所述服务请求中预设数量的服务请求;
确定第一个被选取的服务请求的时间戳为第一时间戳;
确定最后一个被选取的服务请求的时间戳为第二时间戳;
根据所述第一时间戳、所述第二时间戳和所述预设数量计算所述服务请求的获取速率。
可选地,所述将所述服务请求发送至后台服务中进行请求响应,包括:
提取所述服务请求中的请求头;
根据所述请求头将所述服务请求与后台服务进行匹配,得到目标后台服务;
将所述服务请求发送至所述目标后台服务中进行请求响应。
可选地,所述提取所述服务请求中的请求头,包括:
确定所述服务请求中的请求头数据类;
对所述请求头数据类进行反射操作,得到请求头方法;
根据所述请求头方法构建请求头提取语句;
执行所述请求头提取语句提取所述服务请求中的请求头。
可选地,所述根据所述请求头将所述服务请求与后台服务进行匹配,得到目标后台服务,包括:
解析所述请求头得到所述服务请求的目标ip字段;
将所述目标ip字段与后台服务的实际ip字段进行对比;
若所述目标ip字段与所述实际ip字段不一致,则确定所述后台服务与所述服务请求不匹配;
若所述目标ip字段与所述实际ip字段一致,则确定所述后台服务与所述服务请求匹配,确定所述后台服务为目标后台服务。
可选地,所述按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应,包括:
根据所述响应速率计算预设时长内所述后台服务所能响应的目标请求数量;
按照从前向后的顺序从所述延迟响应队列中获取所述目标请求数量的格式归一化请求;
将所述格式归一化请求发送至所述后台服务中进行请求响应。
为了解决上述问题,本发明还提供一种服务限流响应装置,所述装置包括:
请求获取模块,用于持续获取网络中的服务请求,解析得到所述服务请求的时间戳;
速率计算模块,用于根据所述时间戳计算所述服务请求的获取速率;
第一响应模块,用于将所述获取速率与预设的响应速率进行比较,当所述获取速率小于或等于所述响应速率,将所述服务请求发送至后台服务中进行请求响应;
格式归一化模块,用于当所述获取速率大于所述响应速率,将所述服务请求转化为目标数据格式,得到格式归一化请求;
请求缓存模块,用于将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间;
第二响应模块,用于按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述所述的服务限流响应方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述所述的服务限流响应方法。
本发明实施例通过持续获取网络中的服务请求,解析得到服务请求的时间戳,根据时间戳计算所述服务请求的获取速率,以实现后续根据不同的获取速率对服务请求进行限流,避免服务请求数量的突增导致的系统宕机;将获取速率与预设的响应速率进行比较,当获取速率小于或等于响应速率,将服务请求发送至后台服务中进行请求响应,当获取速率小于或等于响应速率,直接将服务请求发送至后台服务进行相应,避免服务请求的堆积,有利于提高服务请求的相应速率;当获取速率大于响应速率,将服务请求转化为目标数据格式后按照时间戳排列为延迟响应队列并存储至预先构建的缓存空间,将服务去请求转化为统一的目标数据格式有利于提高对服务请求进行存储的效率,将格式转化后的服务请求存储至缓存空间,可避免服务请求的丢失;按照响应速率从延迟响应队列中获取请求发送至后台服务中进行请求响应,可实现对服务请求的限流,避免由于请求数量的过多造成的系统宕机。因此本发明提出的服务限流响应方法、装置、电子设备及计算机可读存储介质,可以解决服务请求速率过大造成请求丢失和系统宕机的问题。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供一种服务限流响应方法。所述服务限流响应方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述服务限流响应方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
参照图1所示,为本发明一实施例提供的服务限流响应方法的流程示意图。在本实施例中,所述服务限流响应方法包括:
S1、持续获取网络中的服务请求,解析得到所述服务请求的时间戳。
本发明实施例中,所述服务请求包括网络中产生的任何需要后台服务进行响应的服务请求,例如,数据查询请求、数据下载请求、结果值返回请求等。
详细地,本发明实施例使用ASM增强字节码过滤器拦截以获取网络中的服务请求,所述ASM增强字节码过滤器是一款基于java字节码层面的代码分析工具,利用ASM增强字节码过滤器对网络中的服务请求进行拦截获取,可提高服务请求获取的成功率。
本发明实施例中,所述析得到所述服务请求的时间戳,包括:
遍历并获取所述服务请求中的字段分隔符;
根据所述字段分隔符将所述服务请求进行字段拆分,得到多个拆分字段;
从所述多个拆分字段中提取时间戳字段;
利用解析器对所述时间戳字段进行解析,得到所述服务请求的时间戳。
详细地,所述字段分隔符为所述服务请求中含有的用于标识服务请求中不同字段的符号,所述字段分隔符可由产生该服务请求的用户进行定义。
例如,存在服务请求“ab<cd<ef<gh”,其中,“<”为字段分隔符,则按照字段分隔符将符请求拆分为四个拆分字段“ab”、“cd”、“ef”和“gh”,当所述拆分字段中“gh”为时间戳字段时,利用解析器对拆分字段中“gh”进行解析,得到所述服务请求的时间戳。
具体地,所述解析器包括Chakra解析器、TraceMonkey解析器和Nitro解析器等。
S2、根据所述时间戳计算所述服务请求的获取速率。
本发明实施例中,所述根据所述时间戳计算所述服务请求的获取速率,包括:
连续选取所述服务请求中预设数量的服务请求;
确定第一个被选取的服务请求的时间戳为第一时间戳;
确定最后一个被选取的服务请求的时间戳为第二时间戳;
根据所述第一时间戳、所述第二时间戳和所述预设数量计算所述服务请求的获取速率。
例如,存在服务请求1、服务请求2、服务请求3…服务请求99、服务请求100,现需计算前50条服务请求的获取速率,则连续选取100条服务请求中前五十条服务请求:服务请求1、服务请求2、服务请求3…服务请求49、服务请求50;确定服务请求1的时间戳为第一时间戳,确定服务请求50的时间戳为第二时间戳,并根据第一时间戳、第二时间戳和预设数量计算所述服务请求的获取速率。
详细地,所述根据所述第一时间戳、所述第二时间戳和所述预设数量计算所述服务请求的获取速率,包括:
利用如下速率算法计算所述服务请求的获取速率:
其中,V为所述获取速率,T1为所述第一时间戳,T2为所述第一时间戳,N为所述预设数量。
S3、将所述获取速率与预设的响应速率进行比较,当所述获取速率小于或等于所述响应速率,将所述服务请求发送至后台服务中进行请求响应。
本发明实施例中,所述响应速率为预先设定的后台服务可进行的最大响应速率,即一定时间段内,后台服务可以响应的服务请求的数量,所述后台服务可以为多个。
详细地,本发明实施将获取速率和响应速率进行比较,当所述获取速率小于或等于所述响应速率,则说明后台服务可以同时对获取到的服务请求进行响应。
具体地,所述将所述服务请求发送至后台服务中进行请求响应,包括:
提取所述服务请求中的请求头;
根据所述请求头将所述服务请求与后台服务进行匹配,得到目标后台服务;
将所述服务请求发送至所述目标后台服务中进行请求响应。
本发明实施例中,可利用java中的反射技术提取所述服务请求中的请求头,所述反射技术是java中根据字符串获取数据类的方法,利用反射技术提取服务请求中的请求头,可提高获取请求头的效率。
详细地,所述提取所述服务请求中的请求头,包括:
确定所述服务请求中的请求头数据类;
对所述请求头数据类进行反射操作,得到请求头方法;
根据所述请求头方法构建请求头提取语句;
执行所述请求头提取语句提取所述服务请求中的请求头。
本发明实施例中,所述对所述请求头数据类进行反射操作,得到请求头方法,例如,利用如下java语句对所述请求头数据类进行反射操作:
String name="Hualing";Class c1=name。getClass();System。out。println(c1。getName());其中,"Hualing"为所述请求头数据类。
当对所述请求头数据类进行反射操作后,即可得到请求头方法。具体地,根据所述请求头方法构建请求头提取语句的具体方法例如,构建出如下请求头提取语句:Stringname=field。getName()。
进一步地,所述根据所述请求头将所述服务请求与后台服务进行匹配,得到目标后台服务,包括:
解析所述请求头得到所述服务请求的目标ip字段;
将所述目标ip字段与后台服务的实际ip字段进行对比;
若所述目标ip字段与所述实际ip字段不一致,则确定所述后台服务与所述服务请求不匹配;
若所述目标ip字段与所述实际ip字段一致,则确定所述后台服务与所述服务请求匹配,确定所述后台服务为目标后台服务。
详细地,本发明实施例中可利用解析器解析所述请求得到所述请求头中的ip字段,所述解析器包括CarakanC/C++,SquirrelFishC++和SquirrelFishExtremeC++等。
S4、当所述获取速率大于所述响应速率,将所述服务请求转化为目标数据格式,得到格式归一化请求。
本发明实施将获取速率和响应速率进行比较,当所述获取速率大于所述响应速率,这说明服务请求的数量过多,后台服务无法同时对获取到的服务请求进行响应。
详细地,所述将所述服务请求转化为目标数据格式,得到格式归一化请求,包括:
利用预设变量算法计算所述服务请求的数据格式与预设的目标格式之间的格式变量;
将所述服务请求的数据格式中增加所述格式变量,得到转化为目标格式的格式归一化请求。
优选地,所述利用预设变量算法计算所述服务请求的数据格式与预设的目标格式之间的格式变量,包括:
利用如下变量算法计算所述服务请求的数据格式与预设的目标格式之间的格式变量α′:
其中,α为所述目标格式,δ为所述服务请求的数据格式。
S5、将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间。
本发明实施例中,由于所述获取速率大于所述响应速率会导致后台服务无法同时对获取到的服务请求进行响应,因此,为了防止服务请求的丢失,本发明实施例将服务请求转化得到的格式归一化请求按照时间戳排列为延迟响应队列并存储至预先构建的缓存空间。
详细地,所述将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间,包括:
按照所述时间戳从前向后的顺序将所述格式归一化请求排列为延迟响应队列;
检测所述缓存空间的存储环境;
通过与所述存储环境对应的编译器编译得到所述缓存空间的数据传输指令;
执行所述数据传输指令将所述延迟响应队列缓存至所述缓存空间。
例如,存在格式归一化请求A、格式归一化请求B和格式归一化请求C,其中,格式归一化请求A的时间戳为10点20分,格式归一化请求B的时间戳为10点28分,格式归一化请求C的时间戳为10点18分,则按照时间戳从前向后的顺序将格式归一化请求A、格式归一化请求B和格式归一化请求C排列为:格式归一化请求C、格式归一化请求A、格式归一化请求B的延迟响应队列。
进一步地,所述存储环境由所述缓存空间所在的程序运行环境所决定,例如,缓存空间为java数据库,则存储环境为java环境。
利用与存储环境对应的编译器编译得到缓存空间的数据传输指令,可保证数据传输指令的可执行性。
S6、按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应。
本发明实施例中,所述按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应,包括:
根据所述响应速率计算预设时长内所述后台服务所能响应的目标请求数量;
按照从前向后的顺序从所述延迟响应队列中获取所述目标请求数量的格式归一化请求;
将所述格式归一化请求发送至所述后台服务中进行请求响应。
详细地,所述根据所述响应速率计算预设时长内所述后台服务所能响应的目标请求数量,包括:
利用如下数量算法计算预设时长内所述后台服务所能响应的目标请求数量:
Num=V*t
其中,Num为所述目标请求数量,V为所述响应速率,t为所述预设时长。
进一步地,本发明实施例按照从前向后的顺序从延迟响应队列中获取目标请求数量的格式归一化请求,并将获取的格式归一化请求发送至后台服务中进行请求响应,其中,将获取的格式归一化请求发送至后台服务中进行请求响应的步骤与步骤S3中将服务请求发送至后台服务中进行请求响应的步骤一致,在此不做赘述。
本发明实施例通过持续获取网络中的服务请求,解析得到服务请求的时间戳,根据时间戳计算所述服务请求的获取速率,以实现后续根据不同的获取速率对服务请求进行限流,避免服务请求数量的突增导致的系统宕机;将获取速率与预设的响应速率进行比较,当获取速率小于或等于响应速率,将服务请求发送至后台服务中进行请求响应,当获取速率小于或等于响应速率,直接将服务请求发送至后台服务进行相应,避免服务请求的堆积,有利于提高服务请求的相应速率;当获取速率大于响应速率,将服务请求转化为目标数据格式后按照时间戳排列为延迟响应队列并存储至预先构建的缓存空间,将服务去请求转化为统一的目标数据格式有利于提高对服务请求进行存储的效率,将格式转化后的服务请求存储至缓存空间,可避免服务请求的丢失;按照响应速率从延迟响应队列中获取请求发送至后台服务中进行请求响应,可实现对服务请求的限流,避免由于请求数量的过多造成的系统宕机。因此本发明提出的服务限流响应方法,可以解决服务请求速率过大造成请求丢失和系统宕机的问题。
如图2所示,是本发明一实施例提供的服务限流响应装置的功能模块图。
本发明所述服务限流响应装置100可以安装于电子设备中。根据实现的功能,所述服务限流响应装置100可以包括请求获取模块101、速率计算模块102、第一响应模块103、格式归一化模块104、请求缓存模块105和第二响应模块106。本发明所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述请求获取模块101,用于持续获取网络中的服务请求,解析得到所述服务请求的时间戳。
本发明实施例中,所述服务请求包括网络中产生的任何需要后台服务进行响应的服务请求,例如,数据查询请求、数据下载请求、结果值返回请求等。
详细地,本发明实施例使用ASM增强字节码过滤器拦截以获取网络中的服务请求,所述ASM增强字节码过滤器是一款基于java字节码层面的代码分析工具,利用ASM增强字节码过滤器对网络中的服务请求进行拦截获取,可提高服务请求获取的成功率。
本发明实施例中,所述请求获取模块101具体用于:
持续获取网络中的服务请求;
遍历并获取所述服务请求中的字段分隔符;
根据所述字段分隔符将所述服务请求进行字段拆分,得到多个拆分字段;
从所述多个拆分字段中提取时间戳字段;
利用解析器对所述时间戳字段进行解析,得到所述服务请求的时间戳。
详细地,所述字段分隔符为所述服务请求中含有的用于标识服务请求中不同字段的符号,所述字段分隔符可由产生该服务请求的用户进行定义。
例如,存在服务请求“ab<cd<ef<gh”,其中,“<”为字段分隔符,则按照字段分隔符将符请求拆分为四个拆分字段“ab”、“cd”、“ef”和“gh”,当所述拆分字段中“gh”为时间戳字段时,利用解析器对拆分字段中“gh”进行解析,得到所述服务请求的时间戳。
具体地,所述解析器包括Chakra解析器、TraceMonkey解析器和Nitro解析器等。
所述速率计算模块102,用于根据所述时间戳计算所述服务请求的获取速率。
本发明实施例中,所述速率计算模块102具体用于:
连续选取所述服务请求中预设数量的服务请求;
确定第一个被选取的服务请求的时间戳为第一时间戳;
确定最后一个被选取的服务请求的时间戳为第二时间戳;
根据所述第一时间戳、所述第二时间戳和所述预设数量计算所述服务请求的获取速率。
例如,存在服务请求1、服务请求2、服务请求3…服务请求99、服务请求100,现需计算前50条服务请求的获取速率,则连续选取100条服务请求中前五十条服务请求:服务请求1、服务请求2、服务请求3…服务请求49、服务请求50;确定服务请求1的时间戳为第一时间戳,确定服务请求50的时间戳为第二时间戳,并根据第一时间戳、第二时间戳和预设数量计算所述服务请求的获取速率。
详细地,所述根据所述第一时间戳、所述第二时间戳和所述预设数量计算所述服务请求的获取速率,包括:
利用如下速率算法计算所述服务请求的获取速率:
其中,V为所述获取速率,T1为所述第一时间戳,T2为所述第一时间戳,N为所述预设数量。
所述第一响应模块103,用于将所述获取速率与预设的响应速率进行比较,当所述获取速率小于或等于所述响应速率,将所述服务请求发送至后台服务中进行请求响应。
本发明实施例中,所述响应速率为预先设定的后台服务可进行的最大响应速率,即一定时间段内,后台服务可以响应的服务请求的数量,所述后台服务可以为多个。
详细地,本发明实施将获取速率和响应速率进行比较,当所述获取速率小于或等于所述响应速率,则说明后台服务可以同时对获取到的服务请求进行响应。
具体地,所述第一响应模块103具体用于:
将所述获取速率与预设的响应速率进行比较;当所述获取速率小于或等于所述响应速率,提取所述服务请求中的请求头;
根据所述请求头将所述服务请求与后台服务进行匹配,得到目标后台服务;
将所述服务请求发送至所述目标后台服务中进行请求响应。
本发明实施例中,可利用java中的反射技术提取所述服务请求中的请求头,所述反射技术是java中根据字符串获取数据类的方法,利用反射技术提取服务请求中的请求头,可提高获取请求头的效率。
详细地,所述提取所述服务请求中的请求头,包括:
确定所述服务请求中的请求头数据类;
对所述请求头数据类进行反射操作,得到请求头方法;
根据所述请求头方法构建请求头提取语句;
执行所述请求头提取语句提取所述服务请求中的请求头。
本发明实施例中,所述对所述请求头数据类进行反射操作,得到请求头方法,例如,利用如下java语句对所述请求头数据类进行反射操作:
String name="Hualing";Class c1=name。getClass();System。out。println(c1。getName());其中,"Hualing"为所述请求头数据类。
当对所述请求头数据类进行反射操作后,即可得到请求头方法。具体地,根据所述请求头方法构建请求头提取语句的具体方法例如,构建出如下请求头提取语句:Stringname=field。getName()。
进一步地,所述根据所述请求头将所述服务请求与后台服务进行匹配,得到目标后台服务,包括:
解析所述请求头得到所述服务请求的目标ip字段;
将所述目标ip字段与后台服务的实际ip字段进行对比;
若所述目标ip字段与所述实际ip字段不一致,则确定所述后台服务与所述服务请求不匹配;
若所述目标ip字段与所述实际ip字段一致,则确定所述后台服务与所述服务请求匹配,确定所述后台服务为目标后台服务。
详细地,本发明实施例中可利用解析器解析所述请求得到所述请求头中的ip字段,所述解析器包括CarakanC/C++,SquirrelFishC++和SquirrelFishExtremeC++等。
所述格式归一化模块104,用于当所述获取速率大于所述响应速率,将所述服务请求转化为目标数据格式,得到格式归一化请求。
本发明实施将获取速率和响应速率进行比较,当所述获取速率大于所述响应速率,这说明服务请求的数量过多,后台服务无法同时对获取到的服务请求进行响应。
详细地,所述格式归一化模块104具体用于:
利用预设变量算法计算所述服务请求的数据格式与预设的目标格式之间的格式变量;
将所述服务请求的数据格式中增加所述格式变量,得到转化为目标格式的格式归一化请求。
优选地,所述利用预设变量算法计算所述服务请求的数据格式与预设的目标格式之间的格式变量,包括:
利用如下变量算法计算所述服务请求的数据格式与预设的目标格式之间的格式变量α′:
其中,α为所述目标格式,δ为所述服务请求的数据格式。
所述请求缓存模块105,用于将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间。
本发明实施例中,由于所述获取速率大于所述响应速率会导致后台服务无法同时对获取到的服务请求进行响应,因此,为了防止服务请求的丢失,本发明实施例将服务请求转化得到的格式归一化请求按照时间戳排列为延迟响应队列并存储至预先构建的缓存空间。
详细地,所述请求缓存模块105具体用于:
按照所述时间戳从前向后的顺序将所述格式归一化请求排列为延迟响应队列;
检测所述缓存空间的存储环境;
通过与所述存储环境对应的编译器编译得到所述缓存空间的数据传输指令;
执行所述数据传输指令将所述延迟响应队列缓存至所述缓存空间。
例如,存在格式归一化请求A、格式归一化请求B和格式归一化请求C,其中,格式归一化请求A的时间戳为10点20分,格式归一化请求B的时间戳为10点28分,格式归一化请求C的时间戳为10点18分,则按照时间戳从前向后的顺序将格式归一化请求A、格式归一化请求B和格式归一化请求C排列为:格式归一化请求C、格式归一化请求A、格式归一化请求B的延迟响应队列。
进一步地,所述存储环境由所述缓存空间所在的程序运行环境所决定,例如,缓存空间为java数据库,则存储环境为java环境。
利用与存储环境对应的编译器编译得到缓存空间的数据传输指令,可保证数据传输指令的可执行性。
所述第二响应模块106,用于按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应。
本发明实施例中,所述第二响应模块106具体用于:
根据所述响应速率计算预设时长内所述后台服务所能响应的目标请求数量;
按照从前向后的顺序从所述延迟响应队列中获取所述目标请求数量的格式归一化请求;
将所述格式归一化请求发送至所述后台服务中进行请求响应。
详细地,所述根据所述响应速率计算预设时长内所述后台服务所能响应的目标请求数量,包括:
利用如下数量算法计算预设时长内所述后台服务所能响应的目标请求数量:
Num=V*t
其中,Num为所述目标请求数量,V为所述响应速率,t为所述预设时长。
进一步地,本发明实施例按照从前向后的顺序从延迟响应队列中获取目标请求数量的格式归一化请求,并将获取的格式归一化请求发送至后台服务中进行请求响应,其中,将获取的格式归一化请求发送至后台服务中进行请求响应的步骤与步骤S3中将服务请求发送至后台服务中进行请求响应的步骤一致,在此不做赘述。
本发明实施例通过持续获取网络中的服务请求,解析得到服务请求的时间戳,根据时间戳计算所述服务请求的获取速率,以实现后续根据不同的获取速率对服务请求进行限流,避免服务请求数量的突增导致的系统宕机;将获取速率与预设的响应速率进行比较,当获取速率小于或等于响应速率,将服务请求发送至后台服务中进行请求响应,当获取速率小于或等于响应速率,直接将服务请求发送至后台服务进行相应,避免服务请求的堆积,有利于提高服务请求的相应速率;当获取速率大于响应速率,将服务请求转化为目标数据格式后按照时间戳排列为延迟响应队列并存储至预先构建的缓存空间,将服务去请求转化为统一的目标数据格式有利于提高对服务请求进行存储的效率,将格式转化后的服务请求存储至缓存空间,可避免服务请求的丢失;按照响应速率从延迟响应队列中获取请求发送至后台服务中进行请求响应,可实现对服务请求的限流,避免由于请求数量的过多造成的系统宕机。因此本发明提出的服务限流响应装置,可以解决服务请求速率过大造成请求丢失和系统宕机的问题。
如图3所示,是本发明一实施例提供的实现服务限流响应方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如服务限流响应方法程序12。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如服务限流响应方法程序12的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如服务限流响应方法程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图3仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的服务限流响应方法程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
持续获取网络中的服务请求,解析得到所述服务请求的时间戳;
根据所述时间戳计算所述服务请求的获取速率;
将所述获取速率与预设的响应速率进行比较,当所述获取速率小于或等于所述响应速率,将所述服务请求发送至后台服务中进行请求响应;
当所述获取速率大于所述响应速率,将所述服务请求转化为目标数据格式,得到格式归一化请求;
将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间;
按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应。
具体地,所述处理器10对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的,也可以是非易失性的。例如,所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
本发明还提供一种计算机可读存储介质,所述可读存储介质存储有计算机程序,所述计算机程序在被电子设备的处理器所执行时,可以实现:
持续获取网络中的服务请求,解析得到所述服务请求的时间戳;
根据所述时间戳计算所述服务请求的获取速率;
将所述获取速率与预设的响应速率进行比较,当所述获取速率小于或等于所述响应速率,将所述服务请求发送至后台服务中进行请求响应;
当所述获取速率大于所述响应速率,将所述服务请求转化为目标数据格式,得到格式归一化请求;
将所述格式归一化请求按照所述时间戳排列为延迟响应队列并存储至预先构建的缓存空间;
按照所述响应速率从所述延迟响应队列中获取所述格式归一化请求,将所述格式归一化请求发送至后台服务中进行请求响应。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。