WO2025201455A1 - 基于端边云调度系统的数据处理 - Google Patents
基于端边云调度系统的数据处理Info
- Publication number
- WO2025201455A1 WO2025201455A1 PCT/CN2025/085354 CN2025085354W WO2025201455A1 WO 2025201455 A1 WO2025201455 A1 WO 2025201455A1 CN 2025085354 W CN2025085354 W CN 2025085354W WO 2025201455 A1 WO2025201455 A1 WO 2025201455A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- business processing
- edge server
- server side
- computing power
- processing requests
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
Definitions
- This document relates to the field of computer technology, and in particular to methods, devices, and equipment for data processing based on an edge-cloud scheduling system.
- Edge server computing power is limited, so intelligent scheduling is needed to address the dynamic deployment of computing power on both the terminal and edge server sides.
- the purpose of the embodiments of this specification is to provide a better computing power allocation solution between the terminal side and the edge server side to maintain a balance between computing power consumption, business value and technology, and improve the stability of the end-edge cloud scheduling system.
- An embodiment of the present specification provides a data processing method based on an end-edge cloud scheduling system, the method comprising: obtaining a first business processing request in the process of executing a target business; determining a computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request, the computing power allocation strategy being determined based on the computing power constraint conditions and/or business time consumption conditions on the edge server side, the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side; based on the computing power allocation strategy, determining a device side for processing the first business processing request, and processing the first business processing request based on the determined device side.
- An embodiment of the present specification provides a data processing device based on an end-edge cloud scheduling system, the device comprising: a request acquisition module, which acquires a first business processing request in the process of executing a target business; a computing power allocation module, which determines a computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request, wherein the computing power allocation strategy is determined based on the computing power constraint condition and/or business time consumption condition on the edge server side, the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side; the data processing module, based on the computing power allocation strategy, determines the device side for processing the first business processing request, and processes the first business processing request based on the determined device side.
- An embodiment of the present specification provides a data processing device based on an end-edge-cloud scheduling system, the data processing device based on the end-edge-cloud scheduling system including a processor and a memory arranged to store computer-executable instructions, wherein the executable instructions, when executed, cause the processor to: obtain a first business processing request in the process of executing a target business; determine a computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request, the computing power allocation strategy being determined based on the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, under the computing power constraint conditions and/or business time consumption conditions on the edge server side; based on the computing power allocation strategy, determine the device side that processes the first business processing request, and process the first business processing request based on the determined device side.
- An embodiment of this specification also provides a storage medium, which is used to store computer-executable instructions.
- the executable instructions When executed by a processor, they implement the following process: obtaining a first business processing request in the process of executing a target business; determining a computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request, wherein the computing power allocation strategy is determined based on the computing power constraint conditions and/or business time consumption conditions on the edge server side, the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side; based on the computing power allocation strategy, determining the device side that processes the first business processing request, and processing the first business processing request based on the determined device side.
- FIG1A and FIG1B are schematic diagrams showing the change in the number of 24-hour business processing requests on different days in this specification.
- FIG2 is a schematic diagram showing the time variation required for an edge server to process a business processing request in this specification.
- FIG3 is a schematic diagram showing the time variation required for a terminal side to process a service processing request in this specification.
- FIG4 is a schematic diagram of the present specification showing the time variation required for a device to process a business processing request divided into 30-60 periods.
- FIG7 is another embodiment of a data processing method based on an edge-cloud scheduling system in this specification.
- FIG9 is another embodiment of a data processing method based on an edge-cloud scheduling system in this specification.
- Figure 10 is a schematic diagram of the DAU fluctuations of a financial transaction program during special periods such as promotions and entry traffic control in this manual.
- FIG11 is another embodiment of a data processing method based on an edge-cloud scheduling system in this specification.
- FIG12 is another embodiment of a data processing device based on an edge-cloud scheduling system in this specification.
- FIG13 is an embodiment of a data processing device based on an edge-cloud scheduling system in this specification.
- the embodiments of this specification provide a mechanism for stabilizing the end-edge-cloud scheduling system.
- This mechanism addresses challenges such as poor performance on low-end devices, model size limitations on the terminal side, high cloud computing costs, and privacy compliance by building an intelligent engine for end-edge-cloud collaboration.
- Edge server computing power is limited, so intelligent scheduling is needed to address the dynamic deployment of computing power on both the terminal and edge server sides.
- the service focuses on the trusted release rate within a certain period of time (e.g., one day). Assuming there are n payment requests in a day and the trusted release rate of model A is 50%, then each service processing request contributes 0.5/n to the trusted release rate.
- the trusted release rate of the small model A on the terminal side small model, poor model performance, but low cost
- the trusted release rate of the large model on the edge server side large model, good model performance, but high cost
- the service processing requests handled by the small model A on the terminal side account for 30% of the total traffic, while the service processing requests handled by the large model on the edge server account for 70%. Accordingly, the total service value is: 0.3* ⁇ +0.7* ⁇ .
- FIGs 1A and 1B show the changes in the number of business processing requests (i.e., traffic) for 24 hours on different days. It can be seen that the daily change trend is almost the same, with two traffic peaks.
- different links have different time requirements for processing business processing requests.
- Figure 2 shows the time required for the edge server side to process business processing requests
- Figure 3 shows the time required for the terminal side to process business processing requests. It can be seen that the time required for the terminal side to process business processing requests is generally smaller. In addition, the time required for different devices to process requests is different.
- Figure 4 shows the time required for devices with a score of 30-60 to process business processing requests
- Figure 5 shows the time required for devices with a score of 70 or more to process business processing requests. It can be seen that the higher the device score, the shorter the time required for the device to process business processing requests and the lower the probability of timeout.
- variable constraints may include: Computing power constraints on the edge server: The edge server is a public resource node. If the edge server node is blocked or down due to a business processing request, serious network problems will occur, even affecting other businesses. Therefore, the amount of data sent to the edge server must be less than the amount of data the edge server can process per unit time, and the amount of data the edge server can process varies.
- Business time constraints Whether processing on the edge server or on the terminal side, there is a processing time, which cannot be infinite and must meet business requirements. Each business processing request has a quantifiable value. The value of business processing requests sent to the terminal and to the edge server is inconsistent. After the required traffic is offloaded, the sum of the business values must be maximized.
- the variable uncertainty factors corresponding to a single business processing request are relatively large.
- the time taken to process each business processing request is somewhat random.
- the time taken to execute a business processing request locally is related to the busyness of the terminal side. If the terminal side is currently slow and there are many processes started, resource preemption will occur, and the time taken will naturally be long.
- the above uncertain variables bring great difficulty to solving the problem; and when a priori distribution is introduced, the distribution will also be inaccurate, and it will not be able to cope with emergencies, such as traffic peaks in special circumstances such as promotions.
- the scheduling algorithm needs to be manually set.
- an embodiment of this specification provides a data processing method based on an end-edge cloud scheduling system.
- the execution subject of the method can be a terminal device or a server, etc., wherein the terminal device can be a mobile terminal device such as a mobile phone, a tablet computer, or a computer device such as a laptop or a desktop computer, or an IoT device (specifically such as a smart watch, a car-mounted device, etc.), etc., wherein the server can be an independent server, or a server cluster composed of multiple servers, etc.
- the server can be a background server for a financial business or an online shopping business, etc., or a background server for an application, etc.
- the execution subject is a server as an example for detailed description.
- the execution subject is a terminal device, please refer to the following server case processing, which will not be repeated here.
- the method can specifically include the following steps.
- the computing power constraint condition on the edge server side can be a condition that the amount of data sent to the edge server side is less than the amount of data that the edge server side can process per unit time (that is, the total computing power of the edge server side).
- the service time consumption condition can be a condition that needs to meet the preset requirements of the service.
- the computing power allocation strategy expression on the terminal side and the edge server side can be constructed as follows: max ⁇ i,j value ij *x ij (1)
- value ij represents the business value.
- historical data can be obtained, and the specific numerical values or data distribution in the historical data can be used to solve the above expression to obtain the computing power allocation strategy on the terminal side and the edge server side, thereby obtaining the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request.
- the numerical values of each parameter in the above expression can be determined through expert experience, and then the above expression can be solved to obtain the computing power allocation strategy on the terminal side and the edge server side, thereby obtaining the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request, etc.
- the above expression can also be solved in other ways to obtain the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request.
- the specific method can be set according to actual conditions and will not be repeated here.
- step S606 based on the computing power allocation strategy, the device side that processes the first business processing request is determined, and the first business processing request is processed based on the determined device side.
- the device side for processing the first business processing request can be determined based on the computing power allocation strategy. Then, the determined device side can be used to process the first business processing request. Specifically, for example, the determined device side can be used to obtain corresponding business data, or the determined device side can be used to perform risk prevention and control processing on a certain user or certain data, or the determined device side can be used to initiate preset identity recognition rules to perform identity recognition processing on the current user, etc.
- the specific setting can be based on actual conditions, and the embodiments of this specification do not limit this.
- An embodiment of the present specification provides a data processing method based on an end-edge cloud scheduling system.
- a computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be determined.
- the computing power allocation strategy is determined based on the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, under the computing power constraint condition and/or business time consumption condition on the edge server side.
- a device side for processing the first business processing request can be determined, and the first business processing request is processed based on the determined device side.
- the computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be intelligently allocated to the execution device (i.e., computing power) for the first business processing request, thereby maximizing business value and improving the stability of the end-edge cloud scheduling system.
- step S604. An optional processing method is provided below, as shown in FIG7 , which may specifically include the processing of the following steps S60402 to S60406.
- step S60402 prediction information of business processing requests received within a preset time period is generated based on a preset traffic prediction model.
- the preset time period is the time period after the generation time of the above prediction information, and the preset time period includes the acquisition time of the first business processing request.
- the traffic prediction model can be a model used to predict the business processing requests (i.e., traffic) received or generated at a certain moment or time period (i.e., time series data prediction).
- the traffic prediction model can be constructed through a neural network, or through a Transformer module, or through a specified algorithm (such as naive prediction method, simple average method, moving average method, weighted moving average algorithm, simple exponential smoothing method, Hall characteristic line trend method, Holt-Winters method, etc.) or a specified model (such as autoregressive model, moving average model, autoregressive moving average model, etc.), etc. It can be set specifically according to actual conditions, and the embodiments of this specification do not limit this.
- the algorithm can be optimized by variable estimation to make the results more robust and the effect better.
- the reception of business processing requests is random, which is consistent with the situation of the random arrival model.
- the random arrival model it can also be implemented through another model, namely the adversarial arrival model.
- the adversarial arrival model assumes that there is such an adversary: he knows the strategy of the algorithm and generates a poor data sequence based on it. The algorithm corresponding to the adversarial arrival model needs to try to obtain more benefits in the adversarial environment.
- the data distribution of received business processing requests will neither be as ideal as the random arrival model nor as bad as the adversarial arrival model. Instead, it is a subtle combination with a certain degree of randomness. However, there may be drift in the data distribution at different times.
- the randomness is reflected in the two variables in the above expression (1): the total number of business processing requests in a certain time period in the future, including the number of business processing requests for each device model and scenario; and the timeout rate of each scenario in a certain time period in the future.
- a traffic prediction model can be set to perform traffic prediction.
- a corresponding traffic prediction model can be constructed based on a preset algorithm, model, network or Transformer module.
- Historical data can be obtained as a training sample.
- the training sample and the preset loss function can be used to train the traffic prediction model to obtain a trained traffic prediction model.
- the trained traffic prediction model can be used to generate prediction information of the business processing requests received within a preset time period, that is, to generate time series data of the business processing requests within the preset time period.
- step S60404 based on the generated prediction information of the business processing requests received within the preset time period, the number of business processing requests processed by the terminal side and the number of business processing requests processed by the edge server side are determined.
- the time series data of the business processing requests in the prediction information of the business processing requests received within the preset time period can be statistically generated to determine the number of business processing requests processed on the terminal side and the number of business processing requests processed on the edge server side.
- step S60406 based on the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, the computing power constraint conditions and/or business time consumption conditions on the edge server side are used to determine the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request.
- the computing power constraint condition and/or the business time consumption condition on the edge server side can be referred to the expression in the aforementioned step S606, which will not be repeated here.
- the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side can be input into the above expression (1), and the above expression (1) is solved under the computing power constraint condition and/or the business time consumption condition on the edge server side.
- the final result is the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request.
- the above-mentioned traffic prediction model is also an autoregressive differential moving average ARIMA model.
- ARIMA model prediction information of business processing requests received within a preset time period can be generated.
- the preset time period is the time period after the generation time of the above-mentioned prediction information, and the preset time period includes the acquisition time of the first business processing request.
- step S60406 there are various specific processing methods for the above-mentioned step S60406.
- the following is another optional processing method, which may specifically include the following: based on the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, through a preset dual parameter, under the computing power constraint condition and/or business time consumption condition of the edge server side, determine the computing power allocation strategy of the terminal side and the edge server side corresponding to the first business processing request.
- the dual parameter is used to characterize the perceived speed of the data distribution of the business processing requests received within a preset time period in the prediction information.
- ⁇ represents the dual parameter
- l represents time
- ⁇ d represents the direction of the dual parameter update (or the update step size).
- step S604. An optional processing method is provided below, as shown in FIG9 , which may specifically include the processing of the following steps S60408 to S60412.
- step S60408 the data distribution of the business processing requests received within a preset time period is obtained.
- the daily DAU (Daily Active User) of some financial trading programs fluctuates significantly. From the perspective of algorithmic business performance, once the DAU fluctuates, the algorithm's estimation deviation will increase. Essentially, the online decision-making adopted is based on the assumption that business processing requests arrive randomly, that is, it is assumed that the data distribution from day to day is consistent. However, the above situation clearly does not meet the premise of the assumption that business processing requests arrive randomly, that is, it cannot be guaranteed that business processing requests arriving in the future will be consistent with the data population distribution in the training data.
- the data distribution for a specified time period (such as August 1st to October 31st, November 1st to November 11th, and November 12th to December 31st) can be pre-set based on historical data or expert experience.
- the data distribution for the preset time period (such as November 1st to November 11th) can be obtained, and the obtained data distribution can be used as the data distribution of business processing requests received during the preset time period.
- step S60410 based on the above data distribution, the number of business processing requests processed on the terminal side and the number of business processing requests processed on the edge server side are determined.
- the computing power allocation module 1202 includes: a prediction unit, which generates prediction information of business processing requests received within a preset time period based on a preset traffic prediction model, wherein the preset time period is a time period after the generation time of the prediction information, and the preset time period includes the acquisition time of the first business processing request; a first quantity determination unit, which determines the number of business processing requests processed on the terminal side and the number of business processing requests processed on the edge server side based on the generated prediction information of the business processing requests received within the preset time period; the first computing power allocation unit, which determines the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request under the computing power constraint condition and/or business time consumption condition of the edge server side based on the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side.
- a prediction unit which generates prediction information of business processing requests received within a
- the computing power allocation module 1202 includes: a data distribution acquisition unit, which acquires the data distribution of business processing requests received within a preset time period; a second quantity determination unit, which determines the number of business processing requests processed on the terminal side and the number of business processing requests processed on the edge server side based on the data distribution; the second computing power allocation unit, which determines the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request based on the number of business processing requests processed on the terminal side, the number of business processing requests processed on the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, under the computing power constraint condition and/or business time consumption condition on the edge server side.
- the data distribution acquisition unit acquires the data distribution of the business processing requests received within a preset time period based on an uncertainty optimization algorithm
- the uncertainty optimization algorithm includes a random programming algorithm and/or a robust optimization algorithm
- the random programming algorithm includes an optimization algorithm based on a chance-constrained programming model or an optimization algorithm based on a related chance-constrained programming model.
- the computing power allocation module 1202 includes: an information acquisition unit, which acquires information on changes in the number of business processing requests processed on the terminal side and the number of business processing requests processed on the edge server side over time; a third computing power allocation unit, which determines the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request based on the information on changes in the number of business processing requests processed on the terminal side and the number of business processing requests processed on the edge server side over time, and the information on changes in the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side over time, under the computing power constraint conditions and/or business time consumption conditions on the edge server side.
- the third computing power allocation unit constructs a first virtual queue and a second virtual queue for any edge server side
- the first virtual queue is a queue constructed based on computing power information for processing business processing requests on the edge server side, information on changes in the number of business processing requests processed by the terminal side over time, information on changes in the number of business processing requests processed by the edge server side over time, and total computing power information corresponding to the edge server side
- the second virtual queue is a queue constructed based on information on changes in the trusted release rate of business processing requests corresponding to the terminal side and the edge server side over time, information on changes in the number of business processing requests processed by the terminal side over time, information on changes in the number of business processing requests processed by the edge server side over time, and trusted release rate of business processing requests corresponding to the terminal side and the edge server side
- a computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request is determined.
- the third computing power allocation unit determines the computing power allocation strategy on the terminal side and the edge server side corresponding to the first business processing request based on the first virtual queue and the second virtual queue through a preset drift minimization plus penalty optimization algorithm.
- An embodiment of the present specification provides a data processing device based on an end-edge cloud scheduling system.
- a computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be determined.
- the computing power allocation strategy is determined based on the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, under the computing power constraint condition and/or business time condition on the edge server side.
- a device side for processing the first business processing request can be determined, and the first business processing request can be processed based on the determined device side.
- the computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be intelligently allocated to the execution device (i.e., computing power) for the first business processing request, thereby maximizing business value and improving the stability of the end-edge cloud scheduling system.
- the data processing device based on the end-edge-cloud scheduling system can provide a terminal device or server, etc. for the above-mentioned embodiment.
- the data processing device based on the edge-cloud scheduling system may vary greatly due to different configurations or performances, and may include one or more processors 1301 and memory 1302.
- the memory 1302 may store one or more applications or data.
- the memory 1302 may be a temporary storage or a persistent storage.
- the application stored in the memory 1302 may include one or more modules (not shown in the figure), each of which may include a series of computer-executable instructions for the data processing device based on the edge-cloud scheduling system.
- the processor 1301 may be configured to communicate with the memory 1302 to execute a series of computer-executable instructions in the memory 1302 on the data processing device based on the edge-cloud scheduling system.
- the data processing device based on the edge-cloud scheduling system may also include one or more power supplies 1303, one or more wired or wireless network interfaces 1304, one or more input and output interfaces 1305, and one or more keyboards 1306.
- a data processing device based on an end-edge cloud scheduling system includes a memory, and one or more programs, wherein one or more programs are stored in the memory, and one or more programs may include one or more modules, and each module may include a series of computer-executable instructions for the data processing device based on the end-edge cloud scheduling system, and is configured to be executed by one or more processors to include the following computer-executable instructions: obtaining a first business processing request in the process of executing a target business; determining a computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request, the computing power allocation strategy being determined based on the computing power constraint condition and/or business time condition of the edge server side, the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side; determining the device side for processing the first business processing request based on the computing power allocation strategy, and processing the first
- An embodiment of the present specification provides a data processing device based on an end-edge cloud scheduling system.
- a computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be determined.
- the computing power allocation strategy is determined based on the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, under the computing power constraint condition and/or business time condition on the edge server side.
- a device side for processing the first business processing request can be determined, and the first business processing request can be processed based on the determined device side.
- the computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be intelligently allocated to the execution device (i.e., computing power) for the first business processing request, thereby maximizing business value and improving the stability of the end-edge cloud scheduling system.
- one or more embodiments of the present specification also provide a storage medium for storing computer-executable instruction information.
- the storage medium may be a USB flash drive, an optical disk, a hard disk, etc.
- the computer-executable instruction information stored in the storage medium When the computer-executable instruction information stored in the storage medium is executed by the processor, it can implement the following process: obtaining a first business processing request in the process of executing the target business; determining the computing power allocation strategy of the terminal side and the edge server side corresponding to the first business processing request, the computing power allocation strategy is determined based on the computing power constraint conditions and/or business time consumption conditions of the edge server side, the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side; based on the computing power allocation strategy, determining the device side for processing the first business processing request, and processing the first business processing request based on the determined device side.
- An embodiment of the present specification provides a storage medium that obtains a first business processing request during the execution of a target business, and then determines a computing power allocation strategy for a terminal side and an edge server side corresponding to the first business processing request.
- the computing power allocation strategy is determined based on the number of business processing requests processed by the terminal side, the number of business processing requests processed by the edge server side, and the trusted release rate of the business processing requests corresponding to the terminal side and the edge server side, under the computing power constraint condition and/or business time condition on the edge server side.
- a device side for processing the first business processing request can be determined, and the first business processing request can be processed based on the determined device side.
- the computing power allocation strategy for the terminal side and the edge server side corresponding to the first business processing request can be intelligently allocated to the execution device (i.e., computing power) for the first business processing request, thereby maximizing business value and improving the stability of the end-edge cloud scheduling system.
- a programmable logic device (such as a field programmable gate array (FPGA)) is an integrated circuit whose logical function is determined by user programming of the device.
- HDL Hardware Description Language
- HDL Very-High-Speed Integrated Circuit Hardware Description Language
- ABEL Advanced Boolean Expression Language
- AHDL Altera Hardware Description Language
- HDCal Joint C12
- JHDL Java Hardware Description Language
- Lava Lava
- Lola MyHDL
- PALASM RHDL
- Verilog Verilog
- the controller can be implemented in any suitable manner.
- the controller can take the form of a microprocessor or processor and a computer-readable medium storing computer-readable program code (e.g., software or firmware) executable by the (micro)processor, logic gates, switches, an application-specific integrated circuit (ASIC), a programmable logic controller, and an embedded microcontroller.
- computer-readable program code e.g., software or firmware
- ASIC application-specific integrated circuit
- controllers include, but are not limited to, the following microcontrollers: ARC 625D, Atmel AT91SAM, Microchip PIC18F26K20, and Silicone Labs C8051F320.
- the memory controller can also be implemented as part of the control logic of the memory.
- the controller in addition to implementing the controller in pure computer-readable program code, can also be implemented in the form of logic gates, switches, an application-specific integrated circuit, a programmable logic controller, an embedded microcontroller, etc. by logically programming the method steps. Therefore, such a controller can be considered a hardware component, and the means for implementing the various functions included therein can also be considered as structures within the hardware component. Alternatively, the means for implementing the various functions can be considered both a software module implementing the method and a structure within the hardware component.
- a typical implementation device is a computer.
- the computer may be, for example, a personal computer, a laptop computer, a cellular phone, a camera phone, a smartphone, a personal digital assistant, a media player, a navigation device, an email device, a game console, a tablet computer, a wearable device, or a combination of any of these devices.
- one or more embodiments of this specification may be provided as methods, systems, or computer program products. Therefore, one or more embodiments of this specification may take the form of a complete hardware embodiment, a complete software embodiment, or an embodiment combining software and hardware. Furthermore, one or more embodiments of this specification may take the form of a computer program product implemented on one or more computer-usable storage media (including but not limited to magnetic disk storage, CD-ROM, optical storage, etc.) containing computer-usable program code.
- computer-usable storage media including but not limited to magnetic disk storage, CD-ROM, optical storage, etc.
- These computer program instructions can be provided to a processor of a general-purpose computer, a special-purpose computer, an embedded processor, or other programmable serial and parallel device to produce a machine, so that the instructions executed by the processor of the computer or other programmable serial and parallel device produce a device for implementing the functions specified in one or more processes in the flowchart and/or one or more boxes in the block diagram.
- These computer program instructions may also be stored in a computer-readable memory that can direct a computer or other programmable serial and parallel device to operate in a specific manner, so that the instructions stored in the computer-readable memory produce a product including an instruction device that implements the functions specified in one or more processes in the flowchart and/or one or more boxes in the block diagram.
- These computer program instructions may also be loaded onto a computer or other programmable fraud case serial and parallel device so that a series of operating steps are executed on the computer or other programmable device to produce a computer-implemented process, whereby the instructions executed on the computer or other programmable device provide steps for implementing the functions specified in one or more processes in the flowchart and/or one or more boxes in the block diagram.
- a computing device includes one or more processors (CPUs), input/output interfaces, network interfaces, and memory.
- processors CPUs
- input/output interfaces network interfaces
- memory volatile and non-volatile memory
- Memory may include non-permanent storage in a computer-readable medium, in the form of random access memory (RAM) and/or non-volatile memory, such as read-only memory (ROM) or flash RAM. Memory is an example of a computer-readable medium.
- RAM random access memory
- ROM read-only memory
- flash RAM flash random access memory
- Computer-readable media includes permanent and non-permanent, removable and non-removable media that can be implemented by any method or technology to store information.
- the information can be computer-readable instructions, data structures, program modules or other data.
- Examples of computer storage media include, but are not limited to, phase-change memory (PRAM), static random access memory (SRAM), dynamic random access memory (DRAM), other types of random access memory (RAM), read-only memory (ROM), electrically erasable programmable read-only memory (EEPROM), flash memory or other memory technology, compact disc read-only memory (CD-ROM), digital versatile disc (DVD) or other optical storage, magnetic cassettes, magnetic tape, magnetic disk storage or other magnetic storage devices or any other non-transmission media that can be used to store information that can be accessed by a computing device.
- computer-readable media does not include transitory computer-readable media (transitory media), such as modulated data signals and carrier waves.
- one or more embodiments of this specification may be provided as methods, systems, or computer program products.
- one or more embodiments of this specification may take the form of a fully hardware embodiment, a fully software embodiment, or an embodiment combining software and hardware.
- one or more embodiments of this specification may take the form of a computer program product implemented on one or more computer-usable storage media (including but not limited to magnetic disk storage, CD-ROM, optical storage, etc.) containing computer-usable program code.
- One or more embodiments of this specification may be described in the general context of computer-executable instructions executed by a computer, such as program modules.
- program modules include routines, programs, objects, components, data structures, and the like that perform specific tasks or implement specific abstract data types.
- One or more embodiments of this specification may also be practiced in distributed computing environments where tasks are performed by remote processing devices connected via a communications network.
- program modules may be located in local and remote computer storage media, including storage devices.
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Computer And Data Communications (AREA)
Abstract
本说明书实施例公开了一种基于端边云调度系统的数据处理方法、装置及设备。其中,所述方法包括:获取执行目标业务的过程中的第一业务处理请求,然后,可以确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定,最终,可以基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
Description
本文件涉及计算机技术领域,尤其涉及基于端边云调度系统的数据处理的方法、装置及设备。
面向未来算力的调度,对于低端设备性能体验差、终端侧的模型尺寸限制、云端算力成本高、隐私合规等方面的挑战,建设端-边-云协同的智能化引擎。而边缘服务器侧算力有限,因此,需要通过智能调度的方式,解决算力在终端侧和边缘服务器侧的动态部署问题。
用户隐私数据安全和其它金融支付场景在智能端不断取得业务效果,但是,毕竟手机等终端侧的资源的限制无法持续满足膨胀的业务需求,因此,在发挥终端侧优势的情况下,将“近端”的边缘服务器节点引入,形成端边的解决方案,但是,端和边如何耦合的更好,除了链路的搭建,更多的是如何进行算力的分配,因为终端侧和边缘服务器侧各有优势,终端侧上的本地性,处理更加便捷、更具优势,没有数据传输方面的消耗,边缘服务器侧上具备更大量的即时算力,能处理更加复杂的任务。如何根据任务的不同、即时算力的不同、设备的不同,甚至是业务的不同,更加发挥端边的优势,这样就离不开算力分配。为此,需要提供一种更优的终端侧与边缘服务器侧的算力分配方案,以保持算力消耗、业务价值和技术之间的平衡,提高端边云调度系统的稳定性。
本说明书实施例的目的是提供一种更优的终端侧与边缘服务器侧的算力分配方案,以保持算力消耗、业务价值和技术之间的平衡,提高端边云调度系统的稳定性。
为了实现上述技术方案,本说明书实施例是如下实现的。
本说明书实施例提供的一种基于端边云调度系统的数据处理方法,所述方法包括:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
本说明书实施例提供的一种基于端边云调度系统的数据处理装置,所述装置包括:请求获取模块,获取执行目标业务的过程中的第一业务处理请求;算力分配模块,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;数据处理模块,基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
本说明书实施例提供的一种基于端边云调度系统的数据处理设备,所述基于端边云调度系统的数据处理设备包括处理器以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
本说明书实施例还提供了一种存储介质,所述存储介质用于存储计算机可执行指令,所述可执行指令在被处理器执行时实现以下流程:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
为了更清楚地说明本说明书实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1A和图1B为本说明书一种不同天的24小时业务处理请求的数量变化示意图。
图2为本说明书一种边缘服务器侧处理业务处理请求所需要消耗的时间变化示意图。
图3为本说明书一种终端侧处理业务处理请求所需要消耗的时间变化示意图。
图4为本说明书一种展示了设备分为30-60分的设备处理业务处理请求所需要消耗的时间变化示意图。
图5为本说明书一种设备分为70分以上的设备处理业务处理请求所需要消耗的时间变化示意图。
图6为本说明书一种基于端边云调度系统的数据处理方法实施例。
图7为本说明书另一种基于端边云调度系统的数据处理方法实施例。
图8为本说明书一种接收到的业务处理请求的数据分布的示意图。
图9为本说明书又一种基于端边云调度系统的数据处理方法实施例。
图10为本说明书一种促销等特殊时期以及入口流量管控期间金融交易程序的DAU波动情况示意图。
图11为本说明书又一种基于端边云调度系统的数据处理方法实施例。
图12为本说明书另一种基于端边云调度系统的数据处理装置实施例。
图13为本说明书一种基于端边云调度系统的数据处理设备实施例。
本说明书实施例提供一种基于端边云调度系统的数据处理方法、装置及设备。
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书保护的范围。
本说明书实施例提供一种用于稳定端边云调度系统稳定性的机制,面向未来算力的调度,对于低端设备性能体验差、终端侧的模型尺寸限制、云端算力成本高、隐私合规等方面的挑战,建设端-边-云协同的智能化引擎。而边缘服务器侧算力有限,因此,需要通过智能调度的方式,解决算力在终端侧和边缘服务器侧的动态部署问题。
安全和其它金融支付场景在智能端不断取得业务效果,但是,毕竟手机等终端侧的资源的限制无法持续满足膨胀的业务需求,因此,在发挥终端侧优势的情况下,将“近端”的边缘服务器节点引入,形成端边的解决方案,但是,端和边如何耦合的更好,除了链路的搭建,更多的是如何进行算力的分配,因为终端侧和边缘服务器侧各有优势,终端侧上的本地性,处理更加便捷、更具优势,没有数据传输方面的消耗,边缘服务器侧上具备更大量的即时算力,能处理更加复杂的任务。如何根据任务的不同、即时算力的不同、设备的不同,甚至是业务的不同,更加发挥端边的优势,这样就离不开算力分配。
为了追求算力消耗、业务价值和技术之间的平衡,同时,考虑到不同设备、不同用户、不同的执行链路等,业务价值不一样;不同的执行链路,计算开销不一样;不同的执行链路,技术指标(包括消耗的时间、成功率等技术指标)不一样,因此,需要进行智能的算力分配。
以安全可信业务为例,为了实现最大化可信放行率,例如,业务关注一定时间内(如一天等)的可信放行率,假设一天内总共有n笔支付请求,A模型的可信放行率为50%,则每个业务处理请求对可信放行率的贡献为0.5/n。在实际应用中,终端侧上小模型A(模型小、模型效果差,但成本低)的可信放行率为α,边缘服务器侧上大模型(模型大,模型效果好,但成本高)的可信放行率为,一天内的总流量(即业务处理请求的总数量)为n,终端侧的小模型A处理的业务处理请求为总流量的30%,边缘服务器侧上大模型处理的业务处理请求为总流量的70%,相应的,总的业务价值:0.3*α+0.7*β。
不同时间的业务处理请求的量级不同,如图1A和图1B展示了不同天的24小时业务处理请求的数量(即流量)变化,可以得到每天的变化趋势几乎一致,其中存在两个流量峰值。此外,不同链路,在处理业务处理请求所需要消耗的时长不同,如图2展示了边缘服务器侧处理业务处理请求所需要消耗的时长,图3展示了终端侧处理业务处理请求所需要消耗的时长,可以得到终端侧处理业务处理请求所需要消耗的时长整体偏小。另外,不同设备处理请求所需要消耗的时长不同,如图4展示了设备分为30-60分的设备处理业务处理请求所需要消耗的时长,图5展示了设备分为70分以上的设备处理业务处理请求所需要消耗的时长,可以得到设备分越高,设备处理业务处理请求所需要消耗的时长越短,超时概率越小。
为了保证端边云调度系统的稳定性,需要基于已有的变量约束的条件下,尽可能最大化业务价值,其中,变量约束条件可以包括:边缘服务器侧的算力约束:边缘服务器侧是一个公共的资源节点,如果边缘服务器节点由于业务处理请求被阻塞或宕机,则会出现严重的网络问题,甚至影响其它业务,因此,发送到边缘服务器侧的数据量要小于边缘服务器侧单位时间能够处理的数据量,而边缘服务器侧能够处理的数据量是变化的;业务耗时约束:无论是在边缘服务器侧处理,还是在终端侧处理,都存在处理耗时,而该处理耗时不能无限大,需要满足业务的要求。每一次业务处理请求都会有一个可量化的价值,发送到终端侧和发送到边缘服务器侧的业务处理请求,对该业务处理请求的价值是不一致的,需要的流量卸载之后,业务价值之和需要最大。
在上述场景中,存在如下困难:单次的业务处理请求所对应的变量不确定因素比较大,例如,每次处理业务处理请求的耗时存在一定的随机性,具体如,本地执行的一次业务处理请求的时间,与终端侧的繁忙程度有关,如果终端侧当前比较卡顿,启动的进程比较多,就会出现资源抢占,自然耗时就长,再例如,发送到边缘服务器侧执行存在网络耗时,网络耗时也存在随机性,上述不确定的变量都给问题的求解带来了很大的难度;而引入一个先验分布,分布也会存在不准确的情况,而且,也无法应对突发情况,比如促销等特殊情况下的流量峰值,需要手动设置调度算法,另外,端边调度也会存在误差偏差,进而造成误差累积。为此,本说明书实施例提供一种可实施方案,通过端边云调度系统中的端边调度策略,对目标业务的业务处理请求进行调度处理,从而更高效、更快速的进行业务处理。具体处理可以参见下述实施例中的具体内容。
如图6所示,本说明书实施例提供一种基于端边云调度系统的数据处理方法,该方法的执行主体可以为终端设备或服务器等,其中的终端设备可以如手机、平板电脑等移动终端设备,还可以如笔记本电脑或台式电脑等计算机设备,或者,也可以为IoT设备(具体如智能手表、车载设备等)等,其中的服务器可以是独立的一个服务器,还可以是由多个服务器构成的服务器集群等,该服务器可以是如金融业务或网络购物业务等的后台服务器,也可以是某应用程序的后台服务器等。本实施例中以执行主体为服务器为例进行详细说明,对于执行主体为终端设备的情况,可以参见下述服务器的情况处理,在此不再赘述。该方法具体可以包括以下步骤。
在步骤S602中,获取执行目标业务的过程中的第一业务处理请求。
其中,目标业务可以是任意业务,本实施例中,目标业务可以是安全可信业务,具体如,支付业务、转账业务、购物业务等,具体可以根据实际情况设定,本说明书实施对此不做限定。第一业务处理请求可以是针对目标业务的业务处理请求,具体如,可以是指定业务数据获取的请求、身份识别请求、风险防控请求等,第一业务处理请求可以包括目标业务的标识、请求的内容等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
在实施中,当需要对某业务(即目标业务)进行处理时,可以获取相应的数据,例如,目标业务的标识和请求的内容等数据,可以基于获取的数据生成相应的业务处理请求(即第一业务处理请求),从而可以获取执行目标业务的过程中的第一业务处理请求。
上述是对目标业务进行处理时生成的第一业务处理请求,还可以是在执行目标业务中的某个时刻生成上述第一业务处理请求等,具体可以根据实际情况设定。
在步骤S604中,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该算力分配策略是在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定。
其中,终端侧和边缘服务器侧的算力分配策略可以是对于待处理的数据,调度终端侧和边缘服务器侧分别执行的策略,具体如,在某时间段内,终端侧以指定的第一概率、边缘服务器侧以指定的第二概率处理每一个待处理的数据,或者,针对待处理的数据,在当前终端侧和边缘服务器侧满足指定条件时,确定的处理设备等,具体可以根据实际情况设定,本说明书实施例对此不做限定。边缘服务器侧的算力约束条件可以是发送到边缘服务器侧的数据量要小于边缘服务器侧单位时间能够处理的数据量(即边缘服务器侧的算力总量)的条件。业务耗时条件可以是需要满足业务的预设要求的条件。
在实施中,为了构建端边的算力分配策略,需要满足相应的约束条件,本实施例中的约束条件可以包括边缘服务器侧的算力约束条件和/或业务耗时条件,基于上述内容,可以通过下述表达式表示边缘服务器侧的算力约束条件和/或业务耗时条件:
xij∈(0,1)
xij∈(0,1)
其中,i表示第i次业务处理请求,j表示在终端侧或边缘服务器侧执行,j=0表示在终端侧执行,j=1表示在边缘服务器侧执行,n表示一段时间段内的业务处理请求的总数量,costi,j=1表示在边缘服务器侧执行的算力开销,C表示边缘服务器侧的算力总量,timei,j表示脚本执行时间,L表示总耗时。xij=0表示终端侧处理的业务处理请求的数量与终端侧的算力总量的比值,xij=1表示边缘服务器侧处理的业务处理请求的数量与边缘服务器侧的算力总量的比值。
考虑到每一次业务处理请求都会有一个可量化的价值,发送到终端侧和发送到边缘服务器侧的业务处理请求,对该业务处理请求的价值是不一致的,需要的流量卸载之后,业务价值之和需要最大,基于此,可以构建终端侧和边缘服务器侧的算力分配策略表达式,如下:
max∑i,jvalueij*xij (1)
max∑i,jvalueij*xij (1)
其中,valueij表示业务价值。为了求解上述表达式以得到终端侧和边缘服务器侧的算力分配策略,可以获取历史数据,并可以使用历史数据中的具体数值或数据分布情况求解上述表达式,得到终端侧和边缘服务器侧的算力分配策略,从而得到第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,或者,也可以通过专家经验确定上述表达式中的各个参数的数值,进而求解上述表达式以得到终端侧和边缘服务器侧的算力分配策略,从而得到第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略等,此外,还可以通过其它方式求解上述表达式以得到第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,具体可以根据实际情况设定,在此不再赘述。
在步骤S606中,基于上述算力分配策略,确定处理第一业务处理请求的设备侧,并基于确定的设备侧对第一业务处理请求进行处理。
在实施中,通过上述方式确定第一业务处理请求对应的算力分配策略后,可以根据该算力分配策略确定处理第一业务处理请求的设备侧,然后,可以使用确定的设备侧对第一业务处理请求进行处理,具体如,可以使用确定的设备侧获取相应的业务数据,或者,可以使用确定的设备侧对某用户或某数据进行风险防控处理,或者,可以使用确定的设备侧启动预设的身份识别规则对当前的用户进行身份识别处理等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
本说明书实施例提供一种基于端边云调度系统的数据处理方法,通过获取执行目标业务的过程中的第一业务处理请求,然后,可以确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该算力分配策略是在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定,最终,可以基于该算力分配策略,确定处理第一业务处理请求的设备侧,并基于确定的设备侧对第一业务处理请求进行处理,这样,通过在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,从而可以为第一业务处理请求智能的分配执行的设备(即算力),保证业务价值的最大化,提高端边云调度系统的稳定性。
在实际应用中,上述步骤S604的具体处理方式多种多样,以下再提供一种可选的处理方式,如图7所示,具体可以包括以下步骤S60402~步骤S60406的处理。
在步骤S60402中,基于预设的流量预测模型生成预设时间段内接收到的业务处理请求的预测信息,该预设时间段为上述预测信息的生成时刻之后的时间段,该预设时间段内包括第一业务处理请求的获取时刻。
其中,流量预测模型可以是用于对某时刻或某时间段内的接收或产生的业务处理请求(即流量)进行预测(即时序数据预测)的模型,流量预测模型可以通过神经网络构建,也可以通过Transformer模块构建,还可以通过指定的算法(如朴素预测法、简单平均法、移动平均法、加权移动平均算法、简单指数平滑法、霍尔特性线趋势法、Holt-Winters法等)或指定的模型(如自回归模型、移动平均模型、自回归移动平均模型等)构建等,具体可以根据实际情况设定,本说明书实施例对此不做限定。
在实施中,可以使用足够的采样样本,得到较佳的结果,在线性规划问题大规模应用的同时,可以通过变量预估的方式去优化算法,使得结果更加鲁棒,效果更佳。在实际应用中,业务处理请求的接收是随机的,符合随机到达模型的情况。除了随机到达模型之外,还可以通过另一种模型来实现,即对抗性到达模型。对抗性到达模型会假定有这样一个对手:他知道算法的策略,并以此生成了较差的数据序列,而对抗性到达模型对应的算法需要在对抗环境下尽量获取更多的收益。而如图8所示,在实际的业务场景下,接收到的业务处理请求的数据分布既不会像随机到达模型一样理想,也不会像对抗性到达模型一样差,而是一种微妙的结合,有一定的随机性,但是在不同时刻可能会存在数据分布的漂移,其中的随机性体现在上述表达式(1)中的两个变量:未来某时间段的业务处理请求的总数量,包括各个设备机型、场景的业务处理请求的数量;未来某时间段中各个场景的超时率。
基于上述内容,为了求解上述表达式(1),需要知道未来每一时刻还有多少业务处理请求会被接收到,且需要知道上述业务处理请求每一时刻被接收的数据分布,为此,可以设置流量预测模型进行流量预测,可以基于预设算法、模型、网络或Transformer模块构建相应的流量预测模型,可以获取历史数据作为训练样本,可以使用该训练样本和预设的损失函数对流量预测模型进行模型训练,得到训练后的流量预测模型。然后,可以使用训练后的流量预测模型生成预设时间段内接收到的业务处理请求的预测信息,即生成预设时间段内业务处理请求的时序数据。
在步骤S60404中,基于生成的预设时间段内接收到的业务处理请求的预测信息,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量。
在实施中,可以统计生成的预设时间段内接收到的业务处理请求的预测信息中业务处理请求的时序数据,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量。
在步骤S60406中,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在边缘服务器侧的算力约束条件和/或业务耗时条件下,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实施中,边缘服务器侧的算力约束条件和/或业务耗时条件可以参见前述步骤S606中的表达式,在此不再赘述。通过上述方式得到终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量后,可以将终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率输入上述表达式(1)中,并在边缘服务器侧的算力约束条件和/或业务耗时条件下求解上述表达式(1),最终得到的结果即为第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实际应用中,上述流量预测模型还为自回归差分移动平均ARIMA模型,通过ARIMA模型,可以生成预设时间段内接收到的业务处理请求的预测信息,该预设时间段为上述预测信息的生成时刻之后的时间段,该预设时间段内包括第一业务处理请求的获取时刻。
在实际应用中,上述步骤S60406的具体处理方式多种多样,以下再提供一种可选的处理方式,具体可以包括以下内容:基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,通过预设的对偶参数,在边缘服务器侧的算力约束条件和/或业务耗时条件下,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该对偶参数用于表征该预测信息中预设时间段内接收到的业务处理请求的数据分布的感知速度。
在实施中,还可以通过降低预测周期的方式对接收到的业务处理请求的数据分布进行快速感知,而上述快速感知体现在上述表达式求解的对偶参数中,如果小时级别的时序数据是较迟缓的,则可以设置趋向于分钟级别,甚至实时更新,与此同时,对资源、系统链路鲁棒性等要求会急剧增加。最极限的预测周期是实时更新对偶参数,工程上对应于在线优化问题求解。其中,上述对偶参数可以参见下述表达式:
λl+1=max{0,λl-ηldl}
λl+1=max{0,λl-ηldl}
其中,λ表示对偶参数,l表示时间,ηd表示对偶参数更新的方向(或更新步长)。通过上述方式得到终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量后,可以将终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率输入上述表达式(1)中,并在边缘服务器侧的算力约束条件和/或业务耗时条件下,通过上述对偶参数求解上述表达式(1),最终得到的结果即为第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实际应用中,上述步骤S604的具体处理方式多种多样,以下再提供一种可选的处理方式,如图9所示,具体可以包括以下步骤S60408~步骤S60412的处理。
在步骤S60408中,获取预设时间段内接收到的业务处理请求的数据分布。
在实施中,如图10所示,在促销等特殊时期以及入口流量管控期间,一些金融交易程序每天的DAU(Daily Active User,日活跃用户数量)波动比较大,从算法业务效果来看,一旦DAU出现波动,算法的预估偏差会变大,从本质来说,采用的在线决策是基于业务处理请求随机到达的假设,即认为天与天之间的数据分布是一致的,但是上述的情况显然不满足业务处理请求随机到达假设的前提,即不能确定未来到达的业务处理请求是与训练用数据中的数据群体分布是一致的。为此,可以基于历史数据或专家经验预先设置指定时间段(如8月1日-10月31日、11月1日-11月11日、11月12日-12月31日)的数据分布,可以基于上述设置的数据分布,获取预设时间段(如11月1日-11月11日)的数据分布,可以将获取的数据分布作为预设时间段内接收到的业务处理请求的数据分布。
在步骤S60410中,基于上述数据分布,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量。
在实施中,可以分析并统计预设时间段内接收到的业务处理请求的数据分布,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量。
在步骤S60412中,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在边缘服务器侧的算力约束条件和/或业务耗时条件下,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实施中,边缘服务器侧的算力约束条件和/或业务耗时条件可以参见前述步骤S604中的表达式,在此不再赘述。通过上述方式得到终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量后,可以将终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率输入上述表达式(1)中,并在边缘服务器侧的算力约束条件和/或业务耗时条件下求解上述表达式(1),最终得到的结果即为第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实际应用中,上述步骤S60408的具体处理方式多种多样,以下再提供一种可选的处理方式,具体可以包括以下内容:基于不确定性优化算法获取预设时间段内接收到的业务处理请求的数据分布,不确定性优化算法包括随机规划算法和/或鲁棒优化算法,随机规划算法包括基于机会约束规划模型的优化算法或基于相关机会约束规划模型的优化算法。
在实施中,基于上述内容,由于不能确定未来到达的业务处理请求是与训练用数据中的数据群体分布是一致的,包括上述的DAU波动,这样的不确定性体现在两点:DAU的波动,导致对整体的流量估计发生了偏差;用上一个时间周期的数据来预估耗时率,也存在偏差。为此,可以采用不确定性优化算法保证上述表达式(1)的求解结果的鲁棒性,具体通过不确定性优化算法获取预设时间段内接收到的业务处理请求的数据分布的处理,可以根据不确定性优化算法的计算流程执行,在此不再赘述。
在实际应用中,上述步骤S604的具体处理方式多种多样,以下再提供一种可选的处理方式,如图11所示,具体可以包括以下步骤S60414和步骤S60416的处理。
在步骤S60414中,获取终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息。
在实施中,上述涉及的算法是从运筹优化的角度出发,最朴素的思想是在满足一定的条件下最大化业务价值,此外,也可以通过随机网络优化的角度求解上述表达式(1),而随机网络优化本质上是在网络系统稳定运行的情况下(时间t上),带来附加增益,该增益在随机网络优化里往往是数据整体传输效率等,基于上述内容,可以将上述表达式(1),以及相应的边缘服务器侧的算力约束条件和/或业务耗时条件进行调整,具体如下:
xij(t)∈[0,1]
xij(t)∈[0,1]
其中,t为一个时隙,T表示截止时间,valueij(t)表示时隙t的业务价值。xij=0(t)表示终端侧处理的业务处理请求的数量随时间的变化信息与终端侧的算力总量随时间的变化信息的比值,xij=1(t)表示下边缘服务器侧处理的业务处理请求的数量随时间的变化信息与边缘服务器侧的算力总量随时间的变化信息的比值。基于上述内容,边缘服务器侧的算力约束条件和业务耗时条件分别变为:在时间均值上,卸载到边缘服务器侧j的业务处理请求的两不超过其容量,即不发生拥塞;在时间均值上,卸载到边缘服务器侧j上的业务处理请求的时间不超过T。
为了求解上述表达式以得到终端侧和边缘服务器侧的算力分配策略,可以获取历史数据,并可以使用历史数据中的时序数据获取终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息,或者,也可以通过专家经验确定终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息,具体可以根据实际情况设定,在此不再赘述。
在步骤S60416中,基于终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息,在边缘服务器侧的算力约束条件和/或业务耗时条件下,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实施中,可以基于终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息求解上述表达式,得到终端侧和边缘服务器侧的算力分配策略,从而得到第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实际应用中,上述步骤S60416的具体处理方式多种多样,以下再提供一种可选的处理方式,具体可以包括以下步骤A2和步骤A4的处理。
在步骤A2中,针对任意边缘服务器侧,构建第一虚队列和第二虚队列,第一虚队列是基于在边缘服务器侧处理业务处理请求的算力信息、终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧对应总算力信息构建的队列,第二虚队列是基于终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息、终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息和终端侧和边缘服务器侧对应的业务处理请求的可信放行率构建的队列。
在实施中,可以构造两组虚队列,即第一虚队列Vl(t)和第二虚队列Qi(t),其中,Vl(t)和Qi(t)均大于0,如果Vl(t)和/或Qi(t)出现负数,则令其等于0,构造的两组虚队列可如下。
对于任意边缘服务器侧j:
在步骤A4中,基于第一虚队列和第二虚队列,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实施中,可以基于终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息,以及第一虚队列和第二虚队列求解上述表达式,得到终端侧和边缘服务器侧的算力分配策略,从而得到第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实际应用中,上述步骤A4的具体处理方式多种多样,以下再提供一种可选的处理方式,具体可以包括以下内容:基于第一虚队列和第二虚队列,通过预设的最小化漂移加惩罚优化算法确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
在实施中,求解上述优化问题基本等价于求解如下最小化漂移加惩罚Min-drift-plus-penlaty优化问题:
其中,P为超参数,可以根据实际情况设定其数值,根据最优解的必要条件
其中,
采用梯度下降,则有
可以基于第一虚队列和第二虚队列,以及上述各个表达式,通过预设的最小化漂移加惩罚优化算法求解上述表达式,得到终端侧和边缘服务器侧的算力分配策略,从而得到第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
本说明书实施例提供一种基于端边云调度系统的数据处理方法,通过获取执行目标业务的过程中的第一业务处理请求,然后,可以确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该算力分配策略是在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定,最终,可以基于该算力分配策略,确定处理第一业务处理请求的设备侧,并基于确定的设备侧对第一业务处理请求进行处理,这样,通过在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,从而可以为第一业务处理请求智能的分配执行的设备(即算力),保证业务价值的最大化,提高端边云调度系统的稳定性。
此外,针对端边云调度系统存在的变量不确定性情况,提出了三种解决方案:针对预估更准能解决的情况,采用准确的流量预测模型,降低表达式(1)的求解周期,使得流量预估更准确;针对能够掌握数据分布的情况,直接引入不确定优化,求解表达式(1);针对数据分布无法预测的情况,从网络稳定性的角度,转换为时间维度上的稳定性,并采用里亚普洛夫优化算法求解。
以上为本说明书实施例提供的基于端边云调度系统的数据处理方法,基于同样的思路,本说明书实施例还提供一种基于端边云调度系统的数据处理装置,如图12所示。
该基于端边云调度系统的数据处理装置包括:请求获取模块1201、算力分配模块1202和数据处理模块1203,其中:请求获取模块1201,获取执行目标业务的过程中的第一业务处理请求;算力分配模块1202,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;数据处理模块1203,基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
本说明书实施例中,所述算力分配模块1202,包括:预测单元,基于预设的流量预测模型生成预设时间段内接收到的业务处理请求的预测信息,所述预设时间段为所述预测信息的生成时刻之后的时间段,所述预设时间段内包括所述第一业务处理请求的获取时刻;第一数量确定单元,基于生成的预设时间段内接收到的业务处理请求的预测信息,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量;第一算力分配单元,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
本说明书实施例中,所述流量预测模型为ARIMA模型,所述第一算力分配单元,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,通过预设的对偶参数,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述对偶参数用于表征所述预测信息中预设时间段内接收到的业务处理请求的数据分布的感知速度。
本说明书实施例中,所述算力分配模块1202,包括:数据分布获取单元,获取预设时间段内接收到的业务处理请求的数据分布;第二数量确定单元,基于所述数据分布,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量;第二算力分配单元,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
本说明书实施例中,所述数据分布获取单元,基于不确定性优化算法获取预设时间段内接收到的业务处理请求的数据分布,所述不确定性优化算法包括随机规划算法和/或鲁棒优化算法,所述随机规划算法包括基于机会约束规划模型的优化算法或基于相关机会约束规划模型的优化算法。
本说明书实施例中,所述算力分配模块1202,包括:信息获取单元,获取终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息;第三算力分配单元,基于终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
本说明书实施例中,所述第三算力分配单元,针对任意边缘服务器侧,构建第一虚队列和第二虚队列,所述第一虚队列是基于在边缘服务器侧处理业务处理请求的算力信息、终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息和所述边缘服务器侧对应总算力信息构建的队列,所述第二虚队列是基于终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息、终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息和终端侧和边缘服务器侧对应的业务处理请求的可信放行率构建的队列;基于所述第一虚队列和所述第二虚队列,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
本说明书实施例中,所述第三算力分配单元,基于所述第一虚队列和所述第二虚队列,通过预设的最小化漂移加惩罚优化算法确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
本说明书实施例提供一种基于端边云调度系统的数据处理装置,通过获取执行目标业务的过程中的第一业务处理请求,然后,可以确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该算力分配策略是在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定,最终,可以基于该算力分配策略,确定处理第一业务处理请求的设备侧,并基于确定的设备侧对第一业务处理请求进行处理,这样,通过在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,从而可以为第一业务处理请求智能的分配执行的设备(即算力),保证业务价值的最大化,提高端边云调度系统的稳定性。
此外,针对端边云调度系统存在的变量不确定性情况,提出了三种解决方案:针对预估更准能解决的情况,采用准确的流量预测模型,降低表达式(1)的求解周期,使得流量预估更准确;针对能够掌握数据分布的情况,直接引入不确定优化,求解表达式(1);针对数据分布无法预测的情况,从网络稳定性的角度,转换为时间维度上的稳定性,并采用里亚普洛夫优化算法求解。
以上为本说明书实施例提供的基于端边云调度系统的数据处理装置,基于同样的思路,本说明书实施例还提供一种基于端边云调度系统的数据处理设备,如图13所示。
所述基于端边云调度系统的数据处理设备可以为上述实施例提供终端设备或服务器等。
基于端边云调度系统的数据处理设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器1301和存储器1302,存储器1302中可以存储有一个或一个以上存储应用程序或数据。其中,存储器1302可以是短暂存储或持久存储。存储在存储器1302的应用程序可以包括一个或一个以上模块(图示未示出),每个模块可以包括对基于端边云调度系统的数据处理设备中的一系列计算机可执行指令。更进一步地,处理器1301可以设置为与存储器1302通信,在基于端边云调度系统的数据处理设备上执行存储器1302中的一系列计算机可执行指令。基于端边云调度系统的数据处理设备还可以包括一个或一个以上电源1303,一个或一个以上有线或无线网络接口1304,一个或一个以上输入输出接口1305,一个或一个以上键盘1306。
具体在本实施例中,基于端边云调度系统的数据处理设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对基于端边云调度系统的数据处理设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于基于端边云调度系统的数据处理设备实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书实施例提供一种基于端边云调度系统的数据处理设备,通过获取执行目标业务的过程中的第一业务处理请求,然后,可以确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该算力分配策略是在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定,最终,可以基于该算力分配策略,确定处理第一业务处理请求的设备侧,并基于确定的设备侧对第一业务处理请求进行处理,这样,通过在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,从而可以为第一业务处理请求智能的分配执行的设备(即算力),保证业务价值的最大化,提高端边云调度系统的稳定性。
进一步地,基于上述图6到图11所示的方法,本说明书一个或多个实施例还提供了一种存储介质,用于存储计算机可执行指令信息,一种具体的实施例中,该存储介质可以为U盘、光盘、硬盘等,该存储介质存储的计算机可执行指令信息在被处理器执行时,能实现以下流程:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于上述一种存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本说明书实施例提供一种存储介质,通过获取执行目标业务的过程中的第一业务处理请求,然后,可以确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,该算力分配策略是在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定,最终,可以基于该算力分配策略,确定处理第一业务处理请求的设备侧,并基于确定的设备侧对第一业务处理请求进行处理,这样,通过在边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,确定第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,从而可以为第一业务处理请求智能的分配执行的设备(即算力),保证业务价值的最大化,提高端边云调度系统的稳定性。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable Gate Array,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware Description Language)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(Ruby Hardware Description Language)等,目前最普遍使用的是VHDL(Very-High-Speed Integrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本说明书的实施例可提供为方法、系统、或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书的实施例是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程欺诈案例的串并设备的处理器以产生一个机器,使得通过计算机或其他可编程欺诈案例的串并设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程欺诈案例的串并设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程欺诈案例的串并设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本说明书的实施例可提供为方法、系统或计算机程序产品。因此,本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书一个或多个实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已,并不用于限制本文件。对于本领域技术人员来说,本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本说明书的权利要求范围之内。
Claims (10)
- 一种基于端边云调度系统的数据处理方法,所述方法包括:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
- 根据权利要求1所述的方法,所述确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,包括:基于预设的流量预测模型生成预设时间段内接收到的业务处理请求的预测信息,所述预设时间段为所述预测信息的生成时刻之后的时间段,所述预设时间段内包括所述第一业务处理请求的获取时刻;基于生成的预设时间段内接收到的业务处理请求的预测信息,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量;基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
- 根据权利要求2所述的方法,所述流量预测模型为ARIMA模型,所述基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,包括:基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,通过预设的对偶参数,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述对偶参数用于表征所述预测信息中预设时间段内接收到的业务处理请求的数据分布的感知速度。
- 根据权利要求1所述的方法,所述确定所述业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,包括:获取预设时间段内接收到的业务处理请求的数据分布;基于所述数据分布,确定终端侧处理的业务处理请求的数量和边缘服务器侧处理的业务处理请求的数量;基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
- 根据权利要求4所述的方法,所述获取预设时间段内接收到的业务处理请求的数据分布,包括:基于不确定性优化算法获取预设时间段内接收到的业务处理请求的数据分布,所述不确定性优化算法包括随机规划算法和/或鲁棒优化算法,所述随机规划算法包括基于机会约束规划模型的优化算法或基于相关机会约束规划模型的优化算法。
- 根据权利要求1所述的方法,所述确定所述业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,包括:获取终端侧处理的业务处理请求的数量随时间的变化信息和边缘服务器侧处理的业务处理请求的数量随时间的变化信息;基于终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
- 根据权利要求6所述的方法,所述基于终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息,在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,包括:针对任意边缘服务器侧,构建第一虚队列和第二虚队列,所述第一虚队列是基于在边缘服务器侧处理业务处理请求的算力信息、终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息和所述边缘服务器侧对应总算力信息构建的队列,所述第二虚队列是基于终端侧和边缘服务器侧对应的业务处理请求的可信放行率随时间的变化信息、终端侧处理的业务处理请求的数量随时间的变化信息、边缘服务器侧处理的业务处理请求的数量随时间的变化信息和终端侧和边缘服务器侧对应的业务处理请求的可信放行率构建的队列;基于所述第一虚队列和所述第二虚队列,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
- 根据权利要求7所述的方法,所述基于所述第一虚队列和所述第二虚队列,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,包括:基于所述第一虚队列和所述第二虚队列,通过预设的最小化漂移加惩罚优化算法确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略。
- 一种基于端边云调度系统的数据处理装置,所述装置包括:请求获取模块,获取执行目标业务的过程中的第一业务处理请求;算力分配模块,确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;数据处理模块,基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
- 一种基于端边云调度系统的数据处理设备,所述基于端边云调度系统的数据处理设备包括:处理器;以及被安排成存储计算机可执行指令的存储器,所述可执行指令在被执行时使所述处理器:获取执行目标业务的过程中的第一业务处理请求;确定所述第一业务处理请求对应的终端侧和边缘服务器侧的算力分配策略,所述算力分配策略是在所述边缘服务器侧的算力约束条件和/或业务耗时条件下,基于终端侧处理的业务处理请求的数量、边缘服务器侧处理的业务处理请求的数量,以及终端侧和边缘服务器侧对应的业务处理请求的可信放行率确定;基于所述算力分配策略,确定处理所述第一业务处理请求的设备侧,并基于确定的设备侧对所述第一业务处理请求进行处理。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202410383782.5A CN118193218A (zh) | 2024-03-29 | 2024-03-29 | 一种基于端边云调度系统的数据处理方法、装置及设备 |
| CN202410383782.5 | 2024-03-29 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2025201455A1 true WO2025201455A1 (zh) | 2025-10-02 |
Family
ID=91414993
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/CN2025/085354 Pending WO2025201455A1 (zh) | 2024-03-29 | 2025-03-27 | 基于端边云调度系统的数据处理 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN118193218A (zh) |
| WO (1) | WO2025201455A1 (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120950269A (zh) * | 2025-10-20 | 2025-11-14 | 大连市大数据运营有限公司 | 基于深度学习的算力性能动态分配优化方法及系统 |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN118193218A (zh) * | 2024-03-29 | 2024-06-14 | 支付宝(杭州)信息技术有限公司 | 一种基于端边云调度系统的数据处理方法、装置及设备 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115118465A (zh) * | 2022-06-13 | 2022-09-27 | 北京寰宇天穹信息技术有限公司 | 一种基于可信标签的云边端协同零信任访问控制方法及系统 |
| CN115967990A (zh) * | 2022-12-23 | 2023-04-14 | 北京邮电大学 | 一种基于分类和预测的边端协同业务卸载方法 |
| WO2023116067A1 (zh) * | 2021-12-22 | 2023-06-29 | 安徽继远软件有限公司 | 面向5g云边端协同的电力业务分解方法及系统 |
| CN117201499A (zh) * | 2023-09-13 | 2023-12-08 | 支付宝(杭州)信息技术有限公司 | 一种资源分配方法、装置及设备 |
| CN117294715A (zh) * | 2023-09-21 | 2023-12-26 | 支付宝(杭州)信息技术有限公司 | 端边云调度优化方法、系统和装置 |
| CN118193218A (zh) * | 2024-03-29 | 2024-06-14 | 支付宝(杭州)信息技术有限公司 | 一种基于端边云调度系统的数据处理方法、装置及设备 |
-
2024
- 2024-03-29 CN CN202410383782.5A patent/CN118193218A/zh active Pending
-
2025
- 2025-03-27 WO PCT/CN2025/085354 patent/WO2025201455A1/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023116067A1 (zh) * | 2021-12-22 | 2023-06-29 | 安徽继远软件有限公司 | 面向5g云边端协同的电力业务分解方法及系统 |
| CN115118465A (zh) * | 2022-06-13 | 2022-09-27 | 北京寰宇天穹信息技术有限公司 | 一种基于可信标签的云边端协同零信任访问控制方法及系统 |
| CN115967990A (zh) * | 2022-12-23 | 2023-04-14 | 北京邮电大学 | 一种基于分类和预测的边端协同业务卸载方法 |
| CN117201499A (zh) * | 2023-09-13 | 2023-12-08 | 支付宝(杭州)信息技术有限公司 | 一种资源分配方法、装置及设备 |
| CN117294715A (zh) * | 2023-09-21 | 2023-12-26 | 支付宝(杭州)信息技术有限公司 | 端边云调度优化方法、系统和装置 |
| CN118193218A (zh) * | 2024-03-29 | 2024-06-14 | 支付宝(杭州)信息技术有限公司 | 一种基于端边云调度系统的数据处理方法、装置及设备 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN120950269A (zh) * | 2025-10-20 | 2025-11-14 | 大连市大数据运营有限公司 | 基于深度学习的算力性能动态分配优化方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN118193218A (zh) | 2024-06-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2025201455A1 (zh) | 基于端边云调度系统的数据处理 | |
| US20180121766A1 (en) | Enhanced human/machine workforce management using reinforcement learning | |
| JP2017050001A (ja) | 効果的なニューラルネットワークの配置に用いるシステム及び方法 | |
| CN112667400B (zh) | 边缘自治中心管控的边云资源调度方法、装置及系统 | |
| US11297161B1 (en) | Systems and methods for managing an automotive edge computing environment | |
| EP4177745A1 (en) | Resource scheduling method, electronic device, and storage medium | |
| CN104322088B (zh) | 基于网络和用户行为的时移的移动数据传输 | |
| CN111580974B (zh) | Gpu实例分配方法、装置、电子设备和计算机可读介质 | |
| CN109617829A (zh) | 一种业务请求数据的处理方法、装置及系统 | |
| CN114721829B (zh) | 一种协程栈资源配置方法、装置、设备和存储介质 | |
| CN116996941A (zh) | 基于配网云边端协同的算力卸载方法、装置及系统 | |
| CN110430142A (zh) | 用于控制流量的方法和装置 | |
| CN119149244A (zh) | 算力调度方法及装置 | |
| CN109981372A (zh) | 基于边缘计算的流式大数据处理方法及系统 | |
| CN115499882A (zh) | 边缘节点频谱与计算资源联合分配方法、装置和存储介质 | |
| CN116089046A (zh) | 基于软件定义算力网络的调度方法、装置、设备及介质 | |
| US12568401B2 (en) | Distributed network management system | |
| CN117651044B (zh) | 一种边缘计算任务调度方法及装置 | |
| KR102642396B1 (ko) | 제한된 gpu리소스를 사용한 딥러닝 추론 모델을 위한 배치 스케줄링 장치 | |
| CN118363755A (zh) | 算力调度方法、装置、计算机可读存储介质及电子设备 | |
| CN117608785A (zh) | 任务处理方法、装置、电子设备、介质和程序产品 | |
| CN114816703A (zh) | 一种任务处理方法、装置、设备及介质 | |
| CN117395249A (zh) | 一种边缘算力调度方法、装置及可读存储介质 | |
| CN116708569A (zh) | 一种数据传输方法、装置、计算机设备及存储介质 | |
| CN116701126A (zh) | pod容量控制方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 25779377 Country of ref document: EP Kind code of ref document: A1 |