KR102420495B1 - Low-latency cloud service providing device using deep learning-based data packet processing acceleration technology - Google Patents
Low-latency cloud service providing device using deep learning-based data packet processing acceleration technology Download PDFInfo
- Publication number
- KR102420495B1 KR102420495B1 KR1020200170995A KR20200170995A KR102420495B1 KR 102420495 B1 KR102420495 B1 KR 102420495B1 KR 1020200170995 A KR1020200170995 A KR 1020200170995A KR 20200170995 A KR20200170995 A KR 20200170995A KR 102420495 B1 KR102420495 B1 KR 102420495B1
- Authority
- KR
- South Korea
- Prior art keywords
- dpa
- packet
- adaptive
- path
- processing
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/02—Topology update or discovery
- H04L45/08—Learning-based routing, e.g. using neural networks or artificial intelligence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L45/00—Routing or path finding of packets in data switching networks
- H04L45/70—Routing based on monitoring results
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/28—Flow control; Congestion control in relation to timing considerations
- H04L47/283—Flow control; Congestion control in relation to timing considerations in response to processing delays, e.g. caused by jitter or round trip time [RTT]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/29—Flow control; Congestion control using a combination of thresholds
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L69/00—Network arrangements, protocols or services independent of the application payload and not provided for in the other groups of this subclass
- H04L69/10—Streamlined, light-weight or high-speed protocols, e.g. express transfer protocol [XTP] or byte stream
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computer Security & Cryptography (AREA)
- Medical Informatics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
입력 패킷을 딥러닝 알고리즘(RNN, LSTM)으로 처리하여 신속하게 DPA를 선택하도록 하여 동적이고 더욱 효과적인 저지연 루트를 제공함으로써 향상된 클라우드 서비스를 구현할 수 있도록 한 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치에 관한 것으로서, 입력 패킷을 딥러닝 알고리즘인 순환 신경망(RNN, Recurrent neural network)으로 처리하여 입력 패킷의 경로를 판별하고, 판별한 입력 패킷의 경로에 따라 적응적으로 DPA를 선택하고, 선택된 DPA를 이용하여 입력 패킷을 처리한 후, 처리된 패킷의 처리 성능을 검증하여 패킷 처리가 적정하면 처리 패킷을 출력하고, 패킷 처리가 적정하지 않으면 DPA 선택을 다시 하도록 하여 패킷 처리의 지연특성을 개선한다.Low latency using deep learning-based data packet processing acceleration technology that allows to implement advanced cloud services by providing a dynamic and more effective low-latency route by processing input packets with deep learning algorithms (RNN, LSTM) to quickly select DPA A delayed cloud service providing apparatus, which processes an input packet with a deep learning algorithm, a recurrent neural network (RNN), determines the path of the input packet, and adaptively selects the DPA according to the path of the determined input packet After processing the input packet using the selected DPA, the processing performance of the processed packet is verified. If the packet processing is appropriate, the processed packet is output. If the packet processing is not appropriate, the DPA is selected again to delay packet processing. improve characteristics.
Description
본 발명은 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치에 관한 것으로, 특히 입력 패킷을 딥러닝 알고리즘(RNN, LSTM)으로 처리하여 신속하게 DPA를 선택하도록 하여 동적이고 더욱 효과적인 저지연 루트를 제공함으로써 향상된 클라우드 서비스를 구현할 수 있도록 한 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치에 관한 것이다.The present invention relates to a low-latency cloud service providing apparatus using a deep learning-based data packet processing acceleration technology, and in particular, a dynamic and more effective It relates to a low-latency cloud service providing device using deep learning-based data packet processing acceleration technology that enables an improved cloud service to be implemented by providing a delay route.
이동 통신 트래픽량이 해마다 급속하게 증가함에 따라 기지국의 처리 용량이 증가하고, 셀의 소형화에 따라 필요한 기지국의 수도 증가하고 있다. 최근에는 무선 백홀 기술이 등장하고 있지만, 현재는 대용량 트래픽의 전송을 위해서 광케이블 기반의 전송 기술이 주로 활용되고 있다.As the amount of mobile communication traffic rapidly increases year by year, the processing capacity of the base station increases, and the number of necessary base stations increases along with the miniaturization of the cell. Although wireless backhaul technology has recently appeared, optical cable-based transmission technology is mainly used for transmission of large-capacity traffic.
광케이블 기반 백홀 망에 가격 경쟁력이 높은 수동형 광가입자망(PON: passive optical network) 기술을 적용하려는 시도가 있다. PON 기술에는 파장분할다중(WDM: Wavelength Division Multiplexing) 방식과 시간분할다중Attempts have been made to apply a passive optical network (PON) technology with high price competitiveness to an optical cable-based backhaul network. PON technology includes wavelength division multiplexing (WDM) and time division multiplexing.
(TDM: Time Division Multiplexing) 방식이 있다. TDM 방식은 가격 경쟁력이 높다는 장점이 있지만, 백홀 망에 적용할 경우 기지국과 무선집중국간 상향 패킷 전송시 지연 시간(latency)이 길어지는 문제가 있다. 반면, WDM 방식은 1:1 연결방식이므로 지연 시간이 짧고 고정 대역을 보장하는 장점이 있으나, 상대적으로 고가라는 점에서 문제가 있다.There is a (TDM: Time Division Multiplexing) method. The TDM method has the advantage of high price competitiveness, but when applied to a backhaul network, there is a problem in that the latency increases when transmitting uplink packets between the base station and the wireless concentrator. On the other hand, since the WDM method is a 1:1 connection method, it has advantages of short delay time and guaranteeing a fixed band, but has a problem in that it is relatively expensive.
한편, 차세대 이동통신 서비스는 실감형 서비스 등을 제공하기 위하여 저지연 서비스가 가능한 네트워크를 요구하고 있다. 가격 경쟁력을 바탕으로 TDM-PON 기술을 백본망에 적용할 수 있지만, TDM-PON 기술은 지연 시간이 길다는 단점이 있기 때문에 이를 통해 차세대 실감형 서비스 등을 제공하기 위해서는 지연 시간 단축 기술이 필요하다.Meanwhile, next-generation mobile communication services require a network capable of low-latency services in order to provide immersive services and the like. TDM-PON technology can be applied to the backbone network based on price competitiveness, but TDM-PON technology has the disadvantage of long delay time. .
네트워크 기능 가상화(NFV) 기술은 소프트웨어 정의, 네트워킹(SDN: Software Defined Networking) 기술과 함께 기존 하드웨어 중심의 네트워크 인프라를 소프트웨어 중심으로 진화시킬 수 있는 새로운 네트워크 기술로 각광받고 있다. 이미 상용화 초기 단계에 접어든 소프트웨어 정의 네트워킹 기술과는 달리 네트워크 기능 가상화(NFV) 기술은 ETSI NFV를 중심으로 한 기술 논의와 상위 문서작업에 많은 노력을 기울여 왔지만, NFV 기술이 상용화되기 위해서는 데이터 플레인 가속화 기술과의 융합이 필수적이라 볼 수 있다.Network function virtualization (NFV) technology, along with software defined networking (SDN) technology, is attracting attention as a new network technology that can evolve the existing hardware-centered network infrastructure into software-centered technology. Unlike software-defined networking technology, which is already in the early stages of commercialization, Network Functions Virtualization (NFV) technology has put a lot of effort into technical discussions and upper-level documents centered on ETSI NFV, but in order for NFV technology to be commercialized, it is necessary to accelerate the data plane. Convergence with technology is essential.
패킷처리에 있어 개선된 저지연 특성을 제공하기 위한 기술인 DPA(Deep Packet Repository) 기술로는 OVS(Open vSwitch) DPDK, SR-IOV(Singla Root - I/O Virtualization), TOE(TCP offload engine) 등이 있으나, 저지연 특성을 제공하기에는 한계가 있다.DPA (Deep Packet Repository) technology, which is a technology to provide improved low-latency characteristics in packet processing, includes OVS (Open vSwitch) DPDK, SR-IOV (Singla Root - I/O Virtualization), TOE (TCP offload engine), etc. However, there is a limit to providing low-delay characteristics.
즉, 패킷 처리 시 커널 계층을 디폴트로 사용함으로써 패킷 처리 지연 문제가 발생하고 있으며, East-West 또는 North-South 경로에 따라서 패킷처리 방법에 대한 보완책이 필요하다는 단점이 있다.That is, the packet processing delay problem occurs by using the kernel layer as a default for packet processing, and there is a disadvantage that a supplementary measure for the packet processing method is required according to the East-West or North-South route.
한편, 저지연 패킷 전송을 위해 종래에 제안된 기술이 하기의 <특허문헌 1> 에 개시되어 있다.On the other hand, the conventionally proposed technology for low-delay packet transmission is disclosed in the following <Patent Document 1>.
<특허문헌 1> 에 개시된 종래기술은 기지국이 관리하는 단말의 대역 할당 정보를 ONU가 미리 파악하여 PON 대역을 미리 할당받음으로써 상향 전송 지연 시간을 최소화할 수 있는 TDM-PON에서의 저지연 패킷 전송을 위한 ONU, 그의 동작 방법 및 ONU 제어 장치를 제공한다.The prior art disclosed in <Patent Document 1> is a low-delay packet transmission in TDM-PON, which can minimize the uplink transmission delay time by pre-allocating the PON band by the ONU identifying the band allocation information of the terminal managed by the base station in advance. An ONU, an operating method thereof, and an ONU control device are provided.
그러나 이러한 종래기술도 저지연 패킷 전송을 위한 하나의 대안은 되나, 패킷 흐름에 따라 동적이고 더욱 효과적인 저지연 루트를 제공하는 데에는 한계가 있다.However, this prior art is also an alternative for low-delay packet transmission, but there is a limit to providing a dynamic and more effective low-delay route according to the packet flow.
따라서 본 발명은 상기와 같은 일반적인 패킷 저지연 특성 제공을 위한 DPA기술의 한계 및 종래기술에서 발생하는 제반 문제점을 해결하기 위해서 제안된 것으로서, 입력 패킷을 딥러닝 알고리즘(RNN, LSTM)으로 처리하여 신속하게 DPA를 선택하도록 하여 동적이고 더욱 효과적인 저지연 루트를 제공함으로써 향상된 클라우드 서비스를 구현할 수 있도록 한 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치를 제공하는 데 그 목적이 있다.Therefore, the present invention has been proposed to solve the limitations of the DPA technology for providing the general packet low-latency characteristics as described above and various problems that occur in the prior art. The purpose of this is to provide a low-latency cloud service providing device using deep learning-based data packet processing acceleration technology that enables the realization of improved cloud services by providing a dynamic and more effective low-latency route by allowing people to choose DPA.
상기한 바와 같은 목적을 달성하기 위하여, 본 발명에 따른 "딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치"는,In order to achieve the above object, "a device for providing a low-latency cloud service using a deep learning-based data packet processing acceleration technology" according to the present invention,
입력 패킷을 딥러닝 알고리즘인 순환 신경망(RNN, Recurrent neural network)으로 처리하여 적응적으로 DPA를 선택하는 적응형 DPA 선택부; 상기 적응형 DPA 선택부에 의해 선택된 DPA를 이용하여 입력 패킷을 처리하는 적응형 DPA 처리부; 상기 적응형 DPA 처리부에서 처리된 패킷의 처리 성능을 검증하는 적응형 DPA 검증부를 포함하는 것을 특징으로 한다.an adaptive DPA selector for adaptively selecting a DPA by processing an input packet with a recurrent neural network (RNN), which is a deep learning algorithm; an adaptive DPA processing unit for processing an input packet using the DPA selected by the adaptive DPA selection unit; and an adaptive DPA verification unit that verifies processing performance of packets processed by the adaptive DPA processing unit.
상기에서 적응형 DPA 선택부는 입력 패킷을 순환 신경망으로 처리하여 패킷의 경로를 판별하고, 판별한 패킷의 경로가 East-West이면 DPA 방식으로 OVS-DPDK를 선택하고, 패킷의 경로가 North-South이면 DPA 방식으로 SR-IOV를 선택하고, 판별한 패킷의 경로가 East-West와 North-South 혼재 상태이면 DPA 방식으로 OVS-DPDK + SR-IOV를 선택하는 것을 특징으로 한다.In the above, the adaptive DPA selector processes the input packet as a cyclic neural network to determine the packet path, and if the determined packet path is East-West, selects the OVS-DPDK using the DPA method, and if the packet path is North-South, It is characterized in that SR-IOV is selected as the DPA method, and OVS-DPDK + SR-IOV is selected as the DPA method if the determined packet path is in a mixed state of East-West and North-South.
상기에서 적응형 DPA 검증부는 패킷 처리 성능이 적정한지를 검증하여, 패킷 처리 성능이 적정하면 처리된 패킷을 출력하고, 상기 패킷 처리 성능이 적정하지 않으면 상기 적응형 DPA 선택부에 DPA의 재선택을 요청하는 것을 특징으로 한다.In the above, the adaptive DPA verification unit verifies whether the packet processing performance is appropriate, outputs a processed packet if the packet processing performance is suitable, and requests the adaptive DPA selector to reselect the DPA if the packet processing performance is not appropriate. characterized in that
본 발명에 따르면 입력 패킷을 딥러닝 알고리즘인 순환 신경망으로 처리하여 입력 패킷의 경로를 신속하게 판별하고, 판별한 입력 패킷의 경로에 따라 최적화된 저지연 패킷처리 방식을 차등적으로 적용함으로써, 더욱 개선된 패킷 처리 방법을 제공할 수 있으며, 대용량 벌키 트래픽이 급증하는 시대에 효과적으로 대응처리할 수 있는 클라우드 서비스를 제공해주는 효과가 있다.According to the present invention, by processing the input packet with a deep learning algorithm, a recurrent neural network, to quickly determine the path of the input packet, and differentially apply the optimized low-delay packet processing method according to the path of the determined input packet, further improvement It can provide a packet processing method, and has the effect of providing a cloud service that can effectively deal with the era of rapid increase in large-capacity bulky traffic.
도 1은 본 발명에 따른 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치의 구성도,
도 2는 본 발명에서 패킷 경로가 East-west일 경우 OVS-DPDK를 DPA로 선택하는 예시도,
도 3은 본 발명에서 패킷 경로가 NORTH-SOUTH일 경우 SR-IOV를 DPA로 선택하는 예시도,
도 4는 본 발명에서 패킷 경로가 East-west와 NORTH-SOUTH가 혼재된 경우, DPDK+ SR-IOV를 DPA로 선택하는 예시 도이다.1 is a configuration diagram of a low-latency cloud service providing device using a deep learning-based data packet processing acceleration technology according to the present invention;
2 is an example of selecting OVS-DPDK as a DPA when a packet path is East-west in the present invention;
3 is an exemplary diagram of selecting SR-IOV as DPA when the packet path is NORTH-SOUTH in the present invention;
4 is an exemplary diagram in which DPDK+SR-IOV is selected as a DPA when East-west and NORTH-SOUTH are mixed in a packet path in the present invention.
이하 본 발명의 바람직한 실시 예에 따른 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, an apparatus for providing a low-latency cloud service using a deep learning-based data packet processing acceleration technology according to a preferred embodiment of the present invention will be described in detail with reference to the accompanying drawings.
이하에서 설명되는 본 발명에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 안 되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념으로 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다.The terms or words used in the present invention described below should not be construed as being limited to conventional or dictionary meanings, and the inventor may appropriately define the concept of terms in order to best describe his invention. It should be interpreted as meaning and concept consistent with the technical idea of the present invention based on the principle that it can be.
따라서 본 명세서에 기재된 실시 예와 도면에 도시된 구성은 본 발명의 바람직한 실시 예에 불과할 뿐이고, 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원 시점에서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.Therefore, the embodiments described in this specification and the configurations shown in the drawings are only preferred embodiments of the present invention, and do not represent all of the technical spirit of the present invention, so various equivalents and It should be understood that there may be variations.
도 1은 본 발명의 바람직한 실시 예에 따른 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치의 구성도로서, 적응형 DPA 선택부(10), 적응형 DPA 처리부(20) 및 적응형 DPA 검증부(30)를 포함한다.1 is a configuration diagram of a low-latency cloud service providing apparatus using a deep learning-based data packet processing acceleration technology according to a preferred embodiment of the present invention, an adaptive
적응형 DPA 선택부(10)는 입력 패킷을 순환 신경망(RNN, Recurrent neural network)인 딥러닝 알고리즘으로 처리하여 입력 패킷의 경로를 판별하고, 입력 패킷의 경로에 따라 적응적으로 DPA를 선택하는 역할을 한다.The
이러한 적응형 DPA 선택부(10)는 입력 패킷을 순환 신경망과 같은 딥러닝 기반 알고리즘을 처리하여 입력 패킷의 경로가 East-West이면 DPA 방식으로 OVS-DPDK를 선택하고, 입력 패킷의 경로가 North-South이면 DPA 방식으로 SR-IOV를 선택하고, 입력 패킷의 경로가 East-West와 North-South 혼재 상태이면 DPA 방식으로 OVS-DPDK + SR-IOV를 선택한다.The
적응형 DPA 처리부(20)는 상기 적응형 DPA 선택부(10)에 의해 선택된 DPA를 이용하여 입력 패킷을 처리하는 역할을 한다.The adaptive
적응형 DPA 검증부(30)는 상기 적응형 DPA 처리부(20)에서 처리된 패킷의 처리 성능을 검증하는 역할을 한다.The adaptive
이러한 적응형 DPA 검증부(30)는 패킷 처리 성능이 적정한지를 검증하여, 패킷 처리 성능이 적정하면 처리된 패킷을 출력하고, 상기 패킷 처리 성능이 적정하지 않으면 상기 적응형 DPA 선택부(10)에 DPA의 재선택을 요청한다.The adaptive
이와 같이 구성된 본 발명의 바람직한 실시 예에 따른 딥러닝 기반 데이터 패킷처리 가속화 기술을 이용한 저지연 클라우드 서비스제공장치의 동작을 구체적으로 설명하면 다음과 같다.The operation of the low-delay cloud service providing apparatus using the deep learning-based data packet processing acceleration technology according to a preferred embodiment of the present invention configured as above will be described in detail as follows.
먼저, 적응형 DPA 선택부(10)는 입력 패킷의 경로에 따라 적응적으로 DPA를 선택한다.First, the
예컨대, 입력 패킷을 딥러닝 알고리즘 중 순환 신경망(RNN, Recurrent neural network)으로 처리하여 입력 패킷의 경로를 판별하고, 입력 패킷의 경로에 따라 적응적으로 DPA를 선택한다.For example, an input packet is processed by a recurrent neural network (RNN) among deep learning algorithms to determine the path of the input packet, and a DPA is adaptively selected according to the path of the input packet.
여기서 순환 신경망은 현재 단계의 출력을 계산할 때, 이전 단계의 context를 이용하는 것을 의미한다. 이 방식은 현재 단계의 입력(패킷)이 다른 단계에 걸쳐서도 자신의 정보를 이용할 수 있도록 한 것이다. 상기 순환 신경망 대신에 LSTM(Long Shot Term Memory)을 이용할 수도 있다. Here, the recurrent neural network means using the context of the previous step when calculating the output of the current step. This method allows the input (packet) of the current stage to use its own information across other stages. A Long Shot Term Memory (LSTM) may be used instead of the recurrent neural network.
이러한 순환 신경망을 이용하여 입력 패킷의 경로를 판별하면, 입력 패킷의 경로 판별의 시간을 단축할 수 있으며, 이는 결과적으로 패킷을 고속으로 처리할 수 있는 요인으로 작용한다.If the path of the input packet is determined using such a recurrent neural network, the time for determining the path of the input packet can be shortened, which in turn acts as a factor for processing the packet at high speed.
예컨대, 도 2에 도시한 바와 같이, 순환 신경망으로 처리하여 입력 패킷의 경로를 판별하고, 판별한 입력 패킷의 경로가 East-West이면 DPA방식으로 OVS-DPDK를 선택한다.For example, as shown in FIG. 2 , the path of the input packet is determined by processing with a recurrent neural network, and if the path of the determined input packet is East-West, OVS-DPDK is selected as the DPA method.
트래픽이 서버 내에서 라우팅/전환되고 NIC로 이동하지 않는 경우 SR-IOV를 가져오는 이점은 없다. 오히려 SR-IOV는 병목 상태가 되어(트래픽 경로가 길어질 수 있고 NIC 리소스가 활용될 수 있음), DPDK를 사용하여 서너 배에서 트래픽을 라우팅하는 것이 저지연 특성을 개선할 수 있다.There is no benefit of getting SR-IOV if the traffic is routed/switched within the server and not going to the NIC. Rather, SR-IOV becomes a bottleneck (traffic paths can be lengthy and NIC resources can be utilized), so using DPDK to route traffic at three or four times can improve low latency characteristics.
다음으로, 판별한 입력 패킷의 경로가 North-South이면 DPA방식으로 SR-IOV를 선택한다.Next, if the path of the determined input packet is North-South, SR-IOV is selected by the DPA method.
예컨대, 도 3에 도시한 바와 같이, 트래픽이 NIC를 통과해야 하므로 DPDK 기반 OVS를 포함하고 병목 현상을 더 발생시킬 이유는 없다. SR-IOV는 여기서 훨씬 더 나은 방법이므로, 입력 패킷의 경로가 North-South이면 DPA방식으로 SR-IOV를 선택한다.For example, as shown in Figure 3, there is no reason to include a DPDK-based OVS and create more bottlenecks as traffic must go through the NIC. SR-IOV is a much better method here, so if the path of the input packet is North-South, DPA selects SR-IOV.
또한, 판별한 입력 패킷의 경로가 East-West와 North-South 혼재 상태이면 DPA 방식으로 OVS-DPDK + SR-IOV를 선택한다.In addition, if the path of the determined input packet is in a mixed state of East-West and North-South, OVS-DPDK + SR-IOV is selected as the DPA method.
즉, 도 4에 도시한 바와 같이, 이 경우에는 VNF의 일부로 DPDK와 더 결합할 수 있으므로 DPDK와 SR-IOV를 결합하여 활용하는 경우 더 좋은 성능을 발휘할 수 있게 된다.That is, as shown in FIG. 4 , in this case, since the DPDK can be further combined as part of the VNF, better performance can be exhibited when the DPDK and SR-IOV are combined and utilized.
따라서 입력 패킷의 경로가 East-West와 North-South 혼재 상태이면 DPA 방식으로 OVS-DPDK + SR-IOV를 선택한다.Therefore, if the path of the input packet is in a mixed state of East-West and North-South, OVS-DPDK + SR-IOV is selected as the DPA method.
다음으로, 적응형 DPA 처리부(20)는 상기 적응형 DPA 선택부(10)에 의해 선택된 DPA를 이용하여 입력 패킷을 처리한다.Next, the adaptive
입력 패킷의 처리가 이루어지면, 적응형 DPA 검증부(30)는 상기 적응형 DPA 처리부(20)에서 처리된 패킷의 처리 성능을 검증한다.When the input packet is processed, the adaptive
즉, 처리되는 패킷의 특성과 스루풋/지연시간/지터를 실시간으로 체크하고, 지정된 임계(THRESHOLD)값과 비교하여 임계값 이하인 경우, 패킷을 다시 적응형 DPA 선택부(10)로 피드백하여 DPA 선택 과정을 다시 수행하도록 한다.That is, the characteristics of the processed packet and the throughput/delay time/jitter are checked in real time, compared with a specified threshold value and, if the value is less than or equal to the threshold value, the packet is fed back to the
이와는 달리 패킷 처리 특성인 스루풋, 지연시간, 지터와 같은 3가지의 특성을 확인하여, 지정된 임계값보다 클 경우 패킷 처리 성능이 적정하다고 판단을 하고, 처리된 패킷을 출력한다.On the other hand, three characteristics such as throughput, delay time, and jitter, which are packet processing characteristics, are checked, and if it is greater than a specified threshold, it is determined that the packet processing performance is appropriate, and the processed packet is output.
여기서 임계값 설정은 적용 응용을 고려하여 운용자가 사전에 절절하게 선택하여 사용하는 것이 바람직하다.Here, it is preferable that the operator selects and uses the threshold value appropriately in advance in consideration of the applied application.
이상 본 발명자에 의해서 이루어진 발명을 상기 실시 예에 따라 구체적으로 설명하였지만, 본 발명은 상기 실시 예에 한정되는 것은 아니고 그 요지를 이탈하지 않는 범위에서 여러 가지로 변경 가능한 것은 이 기술분야에서 통상의 지식을 가진 자에게 자명하다.Although the invention made by the present inventor has been described in detail according to the above embodiments, the present invention is not limited to the above embodiments and it is common knowledge in the art that various changes can be made without departing from the gist of the present invention. self-evident to those who have
10: 적응형 DPA 선택부
20: 적응형 DPA 처리부
30: 적응형 DPA 검증부10: Adaptive DPA selector
20: Adaptive DPA processing unit
30: Adaptive DPA Verifier
Claims (4)
상기 적응형 DPA 선택부에 의해 선택된 DPA를 이용하여 입력 패킷을 처리하는 적응형 DPA 처리부; 및
상기 적응형 DPA 처리부에서 처리된 패킷의 처리 성능을 검증하는 적응형 DPA 검증부를 포함하고,
상기 적응형 DPA 선택부는 입력 패킷을 딥러닝 알고리즘인 순환 신경망(RNN, Recurrent neural network)으로 처리하여 입력 패킷의 경로를 판별하고, 판별한 입력 패킷의 경로가 East-West 이면 DPA 방식으로 OVS-DPDK를 선택하여 SR-IOV가 병목 상태가 되어 트래픽 경로가 길어지는 것을 방지하고, 판별한 입력 패킷의 경로가 North-South이면 DPA 방식으로 SR-IOV를 선택하고, 판별한 입력 패킷의 경로가 East-West와 North-South 혼재 상태이면 DPA 방식으로 OVS-DPDK + SR-IOV를 선택하며,
상기 적응형 DPA 검증부는 처리되는 패킷의 스루풋/지연시간/지터를 실시간으로 체크하고, 체크한 값과 패킷 특성별로 지정된 임계(THRESHOLD)값과 비교하여 임계값 이하인 경우, 패킷을 다시 적응형 DPA 선택부로 피드백하여 DPA 선택 과정을 다시 수행하도록 하고, 패킷 처리 특성인 스루풋, 지연시간, 지터의 실시간 체크 값이 상기 패킷 특성별로 지정된 임계값보다 클 경우 패킷 처리 성능이 적정하다고 판단하는 것을 특징으로 하는 적응형 데이터 계측 가속화 기술을 이용한 저지연 클라우드 서비스제공장치.
Adaptive DPA that processes input packets with a recurrent neural network (RNN), a deep learning algorithm, determines the path of the input packet, and adaptively selects a Deep Packet Repository (DPA) according to the path of the determined input packet. selection part;
an adaptive DPA processing unit that processes an input packet using the DPA selected by the adaptive DPA selection unit; and
and an adaptive DPA verification unit that verifies processing performance of packets processed by the adaptive DPA processing unit;
The adaptive DPA selector processes the input packet with a recurrent neural network (RNN), which is a deep learning algorithm, to determine the path of the input packet, and if the path of the determined input packet is East-West, OVS-DPDK to prevent SR-IOV from becoming a bottleneck and lengthening the traffic path, and if the determined input packet path is North-South, DPA selects SR-IOV, and the determined input packet path is East- If West and North-South are mixed, OVS-DPDK + SR-IOV is selected as the DPA method.
The adaptive DPA verification unit checks the throughput/delay time/jitter of the packet to be processed in real time, compares the checked value with a threshold value specified for each packet characteristic, and selects the packet again if the adaptive DPA is less than the threshold value Adaptation characterized in that the DPA selection process is performed again by feedback to the unit, and when the real-time check values of throughput, delay time, and jitter, which are packet processing characteristics, are greater than the threshold values specified for each packet characteristic, it is determined that the packet processing performance is appropriate. A low-latency cloud service providing device using type data measurement acceleration technology.
The method according to claim 1, wherein the adaptive DPA verification unit verifies whether the packet processing performance is appropriate, and outputs the processed packet if the packet processing performance is appropriate, and if the packet processing performance is not suitable, the adaptive DPA selector re-checks the DPA Low-latency cloud service providing device using adaptive data measurement acceleration technology, characterized in that it requests a selection.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200170995A KR102420495B1 (en) | 2020-12-09 | 2020-12-09 | Low-latency cloud service providing device using deep learning-based data packet processing acceleration technology |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200170995A KR102420495B1 (en) | 2020-12-09 | 2020-12-09 | Low-latency cloud service providing device using deep learning-based data packet processing acceleration technology |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20220081480A KR20220081480A (en) | 2022-06-16 |
| KR102420495B1 true KR102420495B1 (en) | 2022-07-14 |
Family
ID=82217667
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200170995A KR102420495B1 (en) | 2020-12-09 | 2020-12-09 | Low-latency cloud service providing device using deep learning-based data packet processing acceleration technology |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102420495B1 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20240025216A (en) | 2022-08-18 | 2024-02-27 | 주식회사 메타록 | System of electronic wallet on CUBE-METAVERSE with open protocol and operating mrthod thereof |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101927100B1 (en) * | 2016-10-17 | 2018-12-10 | 국민대학교산학협력단 | Method for analyzing risk element of network packet based on recruuent neural network and apparatus analyzing the same |
| KR20200046424A (en) * | 2018-10-24 | 2020-05-07 | 주식회사 케이티 | Host apparatus with improved configuration of virtual machines |
| KR102208877B1 (en) * | 2019-01-24 | 2021-01-28 | 고려대학교 산학협력단 | System for multipath packet scheduling method therefor |
-
2020
- 2020-12-09 KR KR1020200170995A patent/KR102420495B1/en active IP Right Grant
Also Published As
| Publication number | Publication date |
|---|---|
| KR20220081480A (en) | 2022-06-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20220124184A1 (en) | Service Process Control Method and Network Device | |
| US11711336B2 (en) | Utilizing service tagging for encrypted flow classification | |
| CN110022264B (en) | Method for controlling network congestion, access device and computer readable storage medium | |
| US10944646B2 (en) | Enabling multiple provider software defined network programming using blockchain distributed ledgers | |
| EP3574629B1 (en) | Load balancing of wireless subscriber packet processing over multiple packet processing cores | |
| JP5966092B2 (en) | Content-based overload protection | |
| Kikuchi et al. | Mobile edge computing based VM migration for QoS improvement | |
| CN109219974A (en) | Base station equipment, terminal device and QoS control method | |
| KR102420495B1 (en) | Low-latency cloud service providing device using deep learning-based data packet processing acceleration technology | |
| Lee et al. | Access point selection algorithm for providing optimal AP in SDN-based wireless network | |
| CN111327529A (en) | Service forwarding method and system | |
| CN110545230A (en) | method and device for forwarding VXLAN message | |
| KR102420481B1 (en) | The Apparatus of Providing Low Latency Cloud Service using Adaptive Data Plane Acceleration | |
| CN114338432A (en) | Method, device and equipment for transmitting message and computer readable storage medium | |
| US20220295230A1 (en) | Aggregation of application and systems for services for 6g or other next generation network | |
| US11463900B2 (en) | Systems and methods for application-anonymous rule authorization and enforcement in a wireless network | |
| CN114070795A (en) | Congestion threshold determination method, device, equipment and storage medium | |
| US20160127205A1 (en) | Link Cost Determination For Network Links | |
| EP3437267B1 (en) | Methods and apparatus for transmitting data | |
| US8169915B1 (en) | Method and apparatus for network load balancing using indirection RAM during classification | |
| US9942147B2 (en) | Method nodes and computer program for enabling of data traffic separation | |
| US10791161B2 (en) | Temporal transaction locality in a stateless environment | |
| CN117652133A (en) | Ingress gateway with data flow classification functionality | |
| US20230269188A1 (en) | Application request processing method, system, electronic device and storage medium | |
| US20220224989A1 (en) | Multiple Core Software Forwarding |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E701 | Decision to grant or registration of patent right |