KR101151306B1 - Method and switching apparatus to treat against suspected packet - Google Patents

Method and switching apparatus to treat against suspected packet Download PDF

Info

Publication number
KR101151306B1
KR101151306B1 KR1020100102454A KR20100102454A KR101151306B1 KR 101151306 B1 KR101151306 B1 KR 101151306B1 KR 1020100102454 A KR1020100102454 A KR 1020100102454A KR 20100102454 A KR20100102454 A KR 20100102454A KR 101151306 B1 KR101151306 B1 KR 101151306B1
Authority
KR
South Korea
Prior art keywords
packet
modulated
switching device
normal
modulating
Prior art date
Application number
KR1020100102454A
Other languages
Korean (ko)
Other versions
KR20120040935A (en
Inventor
김준모
나연묵
방성일
Original Assignee
단국대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 단국대학교 산학협력단 filed Critical 단국대학교 산학협력단
Priority to KR1020100102454A priority Critical patent/KR101151306B1/en
Publication of KR20120040935A publication Critical patent/KR20120040935A/en
Application granted granted Critical
Publication of KR101151306B1 publication Critical patent/KR101151306B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/14Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441Countermeasures against malicious traffic
    • H04L63/1466Active attacks involving interception, injection, modification, spoofing of data unit addresses, e.g. hijacking, packet injection or TCP sequence number attacks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/04Processing captured monitoring data, e.g. for logfile generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00Network architectures or network communication protocols for network security
    • H04L63/14Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1416Event detection, e.g. attack signature detection

Abstract

개시된 기술은 의심 패킷에 대한 대응 방법 및 스위칭 장치에 관한 것이다. 실시예들 중에서, 의심 패킷에 대한 대응 방법에 있어서, 스위칭 장치가 네트워크로부터 패킷을 수신하는 단계; 상기 스위칭 장치가 상기 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 패킷을 선택하는 단계; 상기 선택된 패킷의 실행 코드가 실행되지 않도록 상기 선택된 패킷을 변조하는 단계; 및 상기 스위칭 장치가 상기 변조된 패킷을 해당 패킷 주소로 송신하는 단계를 포함한다.The disclosed technique relates to a method and a switching device for responding to suspicious packets. Among the embodiments, a method of responding to a suspicious packet, the method comprising: receiving a packet from a network by a switching device; Monitoring the received packet by the switching device to select the corresponding packet if the same execution code is repeated; Modulating the selected packet such that the execution code of the selected packet is not executed; And sending, by the switching device, the modulated packet to a corresponding packet address.

Description

의심 패킷에 대한 대응 방법 및 스위칭 장치 {METHOD AND SWITCHING APPARATUS TO TREAT AGAINST SUSPECTED PACKET}Response method and switching device for suspicious packet {METHOD AND SWITCHING APPARATUS TO TREAT AGAINST SUSPECTED PACKET}

개시된 기술은 의심 패킷에 대한 대응 방법 및 스위칭 장치에 관한 것이다.The disclosed technique relates to a method and a switching device for responding to suspicious packets.

인터넷을 구성하는 각종 스위치에서 동일한 코드를 가진 패킷들이 대거 불특정 다수의 주소로 전송된다면, 보안상 문제를 일으킬 수 있으므로 동일한 코드를 가진 다수의 패킷들에 대해 적절히 대응할 필요가 있다. 하지만, 동일한 코드를 가진 다수의 패킷들이 DDOS(Distribute Denial of Service) 공격을 위한 것이라는 사실이 판정되기까지는 보안에 위배된다는 근거가 없으므로 함부로 대응할 수 없다. 동일한 코드를 가진 다수의 패킷들의 전송이 정상 트래픽일 가능성도 있기 때문이다. 하지만, 동일한 코드를 가진 다수의 패킷들의 전송이 악성행위에 해당하는 것이 확인될 때까지 기다리는 동안 걷잡을 수 없는 상황이 될 수도 있다. If packets with the same code are transmitted to a large number of unspecified addresses in various switches constituting the Internet, it may cause a security problem, and therefore, it is necessary to properly respond to a plurality of packets having the same code. However, until it is determined that a plurality of packets having the same code are for a Distributed Denial of Service (DDOS) attack, there is no basis for violating security, so it cannot be coped with. This is because transmission of multiple packets having the same code may be normal traffic. However, there may be a situation where the transmission of a plurality of packets with the same code cannot be caught while waiting for the malicious activity to be confirmed.

개시된 기술이 이루고자 하는 기술적 과제는, 악성 행위가 의심되는 패킷의 실행 코드에 변경을 가하여 실행 코드를 무력화하고, 나중에 악성 행위가 의심되는 패킷들이 정상 패킷으로 판별되면 변경된 패킷을 쉽게 복구할 수 있게 하는 데 있다.The technical problem to be solved by the disclosed technique is to make an executable code change by modifying the executable code of a packet suspected of malicious behavior, and to easily recover the changed packet if the packets suspected of malicious behavior are later identified as normal packets. There is.

또한, 개시된 기술이 이루고자 하는 기술적 과제는, 악성 행위가 의심되는 패킷에 대하여, 악성 행위가 확인되기 전에 보안 조치를 적용할 수 있게 하는 데 있다.In addition, the technical problem to be achieved by the disclosed technology is to be able to apply security measures to a packet suspected of malicious behavior before malicious behavior is confirmed.

상기의 기술적 과제를 이루기 위해 개시된 기술의 제 1 측면은, 의심 패킷에 대한 대응 방법에 있어서, 스위칭 장치가 네트워크로부터 패킷을 수신하는 단계; 상기 스위칭 장치가 상기 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 패킷을 선택하는 단계; 상기 선택된 패킷의 실행 코드가 실행되지 않도록 상기 선택된 패킷을 변조하는 단계; 및 상기 스위칭 장치가 상기 변조된 패킷을 해당 패킷 주소로 송신하는 단계를 포함한다.In order to achieve the above technical problem, a first aspect of the disclosed technique is provided. A method of responding to a suspicious packet, the method comprising: receiving a packet from a network by a switching device; Monitoring the received packet by the switching device to select the corresponding packet if the same execution code is repeated; Modulating the selected packet such that the execution code of the selected packet is not executed; And sending, by the switching device, the modulated packet to a corresponding packet address.

상기의 기술적 과제를 이루기 위해 개시된 기술의 제 2 측면은, 의심 패킷에 대한 스위칭 장치에 있어서, 패킷을 송신 및 수신하는 스위치; 상기 수신된 패킷을 모니터링하여 악성 행위 의심 패킷을 감지하는 패킷 감지부; 및 상기 감지된 패킷의 실행 코드가 실행되지 않도록 상기 감지된 패킷을 변조하는 패킷 변조부를 포함한다.A second aspect of the disclosed technology to achieve the above technical problem, the switching device for the suspicious packet, comprising: a switch for transmitting and receiving the packet; A packet detector configured to monitor the received packet to detect a malicious activity suspect packet; And a packet modulator for modulating the detected packet such that the execution code of the detected packet is not executed.

개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.The disclosed technique may have the following effects. It is to be understood, however, that the scope of the disclosed technology is not to be construed as limited thereby, as it is not meant to imply that a particular embodiment should include all of the following effects or only the following effects.

개시된 기술에 따르면, 악성 행위가 의심되는 패킷의 실행 코드에 대해 일부의 실행 코드에 변경을 가하는 방법으로 실행코드를 무력화할 수 있다. 또한, 의심 패킷이 나중에 정상 패킷으로 판별될 경우에는 변경된 패킷을 복구할 수 있다.According to the disclosed technology, it is possible to disable executable code by changing some executable code with respect to executable code of a packet suspected of malicious behavior. In addition, when the suspect packet is later determined to be a normal packet, the changed packet can be recovered.

또한, 개시된 기술에 따르면, 악성 행위가 의심되는 데이터의 흐름에 대하여, 네트워크를 관리하는 기관에서 자유로운 보안 정책 적용을 할 수 있고, 스위칭 장치로 연결된 디바이스, 컴퓨터 또는 서버의 기하급수적인 악성 행위의 감염을 방지할 수 있다.In addition, according to the disclosed technology, in response to the flow of data suspected of malicious behavior, an institution that manages a network can freely apply a security policy, and an infection of an exponential malicious behavior of a device, a computer, or a server connected to a switching device can be applied. Can be prevented.

도 1은 개시된 기술의 일 실시예에 따른 스위칭 장치를 나타내는 도면이다.
도 2는 개시된 기술의 일 실시예에 따른 의심 패킷에 대한 대응 방법을 나타내는 도면이다.
도 3은 개시된 기술의 일 실시예에 따른 의심 패킷에 대한 대응 방법을 나타내는 순서도이다.
도 4는 개시된 기술의 일 실시예에 따른 패킷의 원형 시프트를 나타내는 도면이다.
1 is a diagram illustrating a switching device according to an embodiment of the disclosed technology.
2 illustrates a method of responding to a suspicious packet according to an embodiment of the disclosed technology.
3 is a flowchart illustrating a method of responding to a suspicious packet according to an embodiment of the disclosed technology.
4 illustrates a circular shift of a packet according to an embodiment of the disclosed technique.

개시된 기술에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 개시된 기술의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 개시된 기술의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다.The description of the disclosed technique is merely an example for structural or functional explanation and the scope of the disclosed technology should not be construed as being limited by the embodiments described in the text. That is, the embodiments may be variously modified and may have various forms, and thus the scope of the disclosed technology should be understood to include equivalents capable of realizing the technical idea.

한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.Meanwhile, the meaning of the terms described in the present application should be understood as follows.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다" 또는 "가지다" 등의 용어는 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Singular expressions should be understood to include plural expressions unless the context clearly indicates otherwise, and terms such as "include" or "have" refer to features, numbers, steps, operations, components, parts, or parts thereof described. It is to be understood that the combination is intended to be present, but not to exclude in advance the possibility of the presence or addition of one or more other features or numbers, steps, operations, components, parts or combinations thereof.

각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않은 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.Each step may occur differently from the stated order unless the context clearly dictates the specific order. That is, each step may occur in the same order as specified, may be performed substantially simultaneously, or may be performed in the reverse order.

여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.
All terms used herein have the same meaning as commonly understood by one of ordinary skill in the art to which the disclosed technology belongs, unless otherwise defined. Generally, the terms defined in the dictionary used are to be interpreted to coincide with the meanings in the context of the related art, and should not be interpreted as having ideal or excessively formal meanings unless clearly defined in the present application.

도 1은 개시된 기술의 일 실시예에 따른 스위칭 장치를 나타내는 도면이다. 도 1 을 참조하면, 스위칭 장치(100)는 스위치(110), 패킷 감지부(120), 패킷 변조부(130), 패킷 판단부(140) 및 복원 정보 송신부(150)를 포함한다.1 is a diagram illustrating a switching device according to an embodiment of the disclosed technology. Referring to FIG. 1, the switching device 100 includes a switch 110, a packet detector 120, a packet modulator 130, a packet determiner 140, and a restoration information transmitter 150.

스위치(110)는 네트워크로부터 패킷을 수신하고, 해당 패킷 주소로 패킷을 송신한다. 스위치(110)는 수신된 패킷을 해당 패킷 주소로 송신한다. 그러나, 패킷 감지부(120)가 수신된 패킷을 악성 행위가 의심되는 패킷으로 감지한 경우에는, 패 킷 변조부(130)에서 패킷을 변조하고 스위치(110)는 수신된 패킷과 다른 변조된 패킷을 해당 패킷 주소로 송신한다.The switch 110 receives the packet from the network and transmits the packet to the packet address. The switch 110 transmits the received packet to the corresponding packet address. However, if the packet detector 120 detects the received packet as a packet suspected of malicious activity, the packet modulator 130 modulates the packet and the switch 110 modulates the packet different from the received packet. Is sent to the packet address.

패킷 감지부(120)는 스위칭 장치(100)가 네트워크로부터 수신된 패킷을 모니터링하여 악성 행위 의심 패킷을 감지한다. 악성 행위로 의심될 수 있는 패킷들을 스위치(100)를 통하여 송신할 경우에는 DDOS(Distribute Denial of Service) 공격과 같은 보안상 문제가 발생할 수 있기 때문이다. 일 실시예로서, 패킷 감지부(120)는 스위칭 장치(100)가 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 수신 패킷을 감지할 수 있다. DDOS 공격 패킷은 하나의 패킷에 악성 행위를 하는 짧은 실행코드를 포함하는 형태로서, 패킷 감지부(120)는 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 악성 행위의 의심 패킷으로 볼 수 있다.The packet detector 120 detects a malicious activity suspect packet by monitoring the packet received from the network by the switching device 100. This is because when a packet, which may be suspected of malicious behavior, is transmitted through the switch 100, a security problem such as a distributed denial of service (DDOS) attack may occur. As an exemplary embodiment, the packet detector 120 may monitor the received packet and detect the corresponding received packet if the same execution code is repeated. The DDOS attack packet includes a short executable code that performs malicious actions in one packet, and the packet detector 120 may monitor the received packet and view the packet as a suspicious packet of malicious behavior when the same executable code is repeated.

패킷 변조부(130)는 패킷 감지부(120)에서 악성 행위가 의심되는 패킷으로 감지된 패킷에 대하여 실행 코드가 실행되지 않도록 패킷을 변조한다. 패킷에 포함된 실행 코드 중 일부만이 변경되어도 패킷은 실행이 될 수 없기 때문이다. 패킷 변조부(130)는 악성 행위가 의심되는 패킷의 실행 코드 중 적어도 일부 실행 코드를 원형 시프트하는 방식으로 변조할 수 있다. 일 실시예로서, 실행 코드의 1 비트를 제 1 방향으로 시프트하는 방식으로 변조할 수 있다. 패킷의 실행 코드의 일부가 변경되어도 실행이 되지 않으므로, 실행 코드의 무력화를 위해서는 단순하게 1 비트를 시프트하여 실행이 되지 않게 할 수 있다. 다른 일 실시예로서, 실행 코드의 비트를 임의적으로 시프트하는 방식으로 변조하는 것이 가능하다. 임의적인 규칙을 적용하는 이유는 DDOS 공격 시간동안 해커가 무력화된 패킷을 바로 복원하지 못하게 하기 위함이다. 임의적인 규칙을 적용할 경우에는, 해커 입장에서 짧은 공격시간 내에 임의적인 규칙을 파악하여 복원하기 힘들 수 있다.The packet modulator 130 modulates the packet such that the executable code is not executed on the packet detected as a packet suspected of malicious activity by the packet detector 120. This is because even if only some of the executable code included in the packet is changed, the packet cannot be executed. The packet modulator 130 may modulate at least a part of the executable code of the packet suspected of malicious behavior in a circular shift mode. As an example, one bit of the executable code may be modulated in a shift direction in the first direction. Even if a part of the execution code of the packet is changed, the execution is not performed. Therefore, in order to disable the execution code, it is possible to simply shift one bit to prevent execution. As another example, it is possible to modulate in a manner that randomly shifts the bits of the executable code. The reason for applying arbitrary rules is to prevent hackers from immediately restoring incapacitated packets during DDOS attacks. In the case of applying arbitrary rules, it may be difficult for a hacker to identify and restore arbitrary rules within a short attack time.

패킷 판단부(140)는 스위칭 장치(100)가 해당 패킷 주소로 송신한 패킷이 정상 패킷인지 여부를 판단한다. 여기에서, 송신된 패킷은 패킷 감지부(120)가 악성 행위가 의심되는 패킷으로 감지하여 실행 코드의 일부가 변조되어 해당 패킷 주소로 송신된 패킷을 의미한다. 패킷 판단부(140)는 송신된 패킷이 정상 패킷인 것으로 판단한 경우에는 일부 실행 코드가 변조된 패킷을 복원하도록 판단할 수 있고, 송신된 패킷이 악성 패킷인 것으로 판단한 경우에는 변조된 패킷을 복원하지 않을 수 있다.The packet determination unit 140 determines whether the packet transmitted by the switching device 100 to the packet address is a normal packet. Herein, the transmitted packet refers to a packet that is detected by the packet detector 120 as a packet suspected of malicious activity and a part of the execution code is modulated and transmitted to the corresponding packet address. If it is determined that the transmitted packet is a normal packet, the packet determining unit 140 may determine to restore the modulated packet, and if it is determined that the transmitted packet is a malicious packet, the packet determining unit 140 does not restore the modulated packet. You may not.

복원 정보 송신부(150)는 스위칭 장치(100)가 해당 패킷 주소로 송신한 패킷을 패킷 판단부(140)가 정상 패킷으로 판단한 경우에, 정상 패킷으로 복원할 수 있는 정보를 해당 패킷 주소로 송신한다. 보다 상세하게는, 악성 행위가 의심되어 일부 실행 코드를 변조하여 송신한 패킷을 정상적으로 동작하게 하기 위하여 해당 패킷 주소의 컴퓨터가 복원할 수 있는 복원 정보를 송신한다. 일 실시예로서, 패킷 변조부(130)에서 실행 코드의 1 비트를 제 1 방향으로 시프트하는 방식으로 변조한 경우에는, 실행 코드의 1 비트를 제 1 방향과 반대되는 방향으로 시프트하는 복원 정보를 송신할 수 있다. 다른 일 실시예로서, 패킷 변조부(130)에서 실행 코드의 비트를 임의적으로 시프트하는 방식으로 변조한 경우에는, 임의적으로 시프트한 방식과 반대로 시프트하는 복원 정보를 송신할 수 있다.When the packet determining unit 140 determines that the packet transmitted by the switching device 100 to the packet address is a normal packet, the restoration information transmitter 150 transmits information that can be restored to the normal packet to the packet address. . In more detail, in order to perform normal operation of a packet transmitted by modulating some executable code due to suspected malicious behavior, restoration information that can be restored by the computer of the packet address is transmitted. As an embodiment, when the packet modulator 130 modulates one bit of the executable code in a first direction, restoration information for shifting one bit of the executable code in a direction opposite to the first direction is provided. I can send it. As another embodiment, when the packet modulator 130 modulates the bits of the execution code in a random shift method, the restoring information shifted in the reverse direction to the random shift method may be transmitted.

한편, 스위칭 장치(100)는 별도의 프로세서를 포함하며, 별도의 프로세서와 스위치(110)가 물리적으로 연결될 수 있다. 여기에서, 별도의 프로세서는 패킷 감지부(120), 패킷 변조부(130), 패킷 판단부(140) 및 복원 정보 송신부(150)를 포함할 수 있다. 별도의 소형 프로세서를 통하여 인터넷상의 네트워크 시스템에 부하가 적게 걸리도록 할 수 있다. 다만, 패킷 판단부(140)의 경우에는 별도의 프로세서에 포함되지 않고 외부에 존재할 수 있고, 사람이 직접 송신된 패킷이 정상 패킷인지 판단하는 것이 가능하다.On the other hand, the switching device 100 includes a separate processor, the separate processor and the switch 110 may be physically connected. Here, the separate processor may include a packet detector 120, a packet modulator 130, a packet determiner 140, and a restoration information transmitter 150. A separate small processor can be used to put less load on network systems on the Internet. However, in the case of the packet determination unit 140, the packet determination unit 140 may exist outside of a separate processor, and a person may directly determine whether a packet directly transmitted is a normal packet.

도 2는 개시된 기술의 일 실시예에 따른 의심 패킷에 대한 대응 방법을 나타내는 도면이다. 도 2를 참조하면, 스위칭 장치(100)는 네트워크로부터 악성 행위로 의심되는 패킷을 수신한다. 스위치(110)에서 수신된 패킷은 해당 패킷 주소로 송신된다. 패킷 감지부(120)는 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 패킷을 선택한다. 패킷 감지부(120)에서 악성 행위로 의심되는 패킷으로 판단한 경우에, 패킷 변조부(130)는 악성 행위로 의심되는 패킷을 패킷의 실행 코드의 적어도 일부를 변조하여 실행을 불가능하게 한다. 일 실시예로서, 선택된 패킷의 실행 코드 중 적어도 일부 실행 코드를 원형 시프트하는 방식으로 변조할 수 있다. 스위치(110)는 변조된 패킷을 해당 패킷 주소로 송신된다. 패킷을 변조하는 것은 일종의 보안 장치 역할을 하여 악성 행위가 의심되는 패킷이 해당 패킷 주소에서 실행되지 않게 할 수 있다. 패킷 판단부(140)는 변조된 패킷이 정상 패킷인지 판단한다. 변조되어 해당 패킷 주소로 송신된 패킷이 악성 행위가 의심되는 패킷인 경우에는 문제되지 않으나, 송신된 패킷이 정상 패킷인 경우에는 복원 정보 송신부(150)는 해당 패킷 주소의 컴퓨터로 복원 정보를 전송한다. 해당 패킷 주소의 컴퓨터는 복원 정보를 수신하고, 복원 정보를 통하여 변조된 패킷을 정상 패킷으로 복원하여 정상적인 실행이 가능하게 할 수 있다. 2 illustrates a method of responding to a suspicious packet according to an embodiment of the disclosed technology. Referring to FIG. 2, the switching device 100 receives a packet suspected of malicious behavior from a network. The packet received at the switch 110 is transmitted to the packet address. The packet detector 120 monitors the received packet and selects the packet when the same execution code is repeated. When the packet detector 120 determines that the packet is suspected to be malicious, the packet modulator 130 modulates at least a part of the executable code of the packet to disable execution of the packet suspected to be malicious. In one embodiment, at least some of the executable code of the selected packet may be modulated in a circular shift manner. The switch 110 transmits the modulated packet to the corresponding packet address. Tampering with packets can act as a kind of security device to prevent malicious suspect packets from running at their packet addresses. The packet determination unit 140 determines whether the modulated packet is a normal packet. This is not a problem when the packet transmitted to the corresponding packet address is tampered with is suspected to be malicious. However, when the transmitted packet is a normal packet, the restoration information transmitter 150 transmits the restoration information to the computer of the corresponding packet address. . The computer at the packet address may receive the restoration information, and restore the modulated packet to the normal packet through the restoration information to enable normal execution.

도 3은 개시된 기술의 일 실시예에 따른 의심 패킷에 대한 대응 방법을 나타내는 순서도이다. 도 3을 참조하면, 스위칭 장치(100)는 네트워크로부터 패킷을 수신한다(S210). 스위치(110)를 통하여 패킷을 수신하고, 수신되는 패킷에는 보안상 문제를 일으키지 않는 정상 패킷과 DDOS와 같은 보안상 문제를 일으킬 수 있는 악성 행위가 의심되는 패킷이 포함될 수 있다.3 is a flowchart illustrating a method of responding to a suspicious packet according to an embodiment of the disclosed technology. Referring to FIG. 3, the switching device 100 receives a packet from a network (S210). The packet is received through the switch 110, and the received packet may include a normal packet that does not cause a security problem, and a packet that suspects malicious behavior that may cause a security problem such as DDOS.

스위칭 장치(100)는 수신된 패킷을 모니터링하여 악성 행위가 의심되는 패킷을 선택한다(S220). 보다 상세하게는, 패킷 감지부(120)는 수신된 패킷들 중에서 실행 코드의 내용에 비추어 악성 행위가 의심되는 패킷을 선택할 수 있다. 악성 행위로 의심될 수 있는 패킷들을 스위치(100)를 통하여 송신할 경우에는 DDOS(Distribute Denial of Service) 공격과 같은 보안상 문제를 일으킬 수 있기 때문이다. 일 실시예로서, 패킷 감지부(120)는 스위칭 장치(100)가 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 수신 패킷을 악성 행위가 의심되는 패킷으로 선택할 수 있다. DDOS 공격 패킷은 하나의 패킷에 악성 행위를 하는 짧은 실행코드를 포함하는 형태이므로, 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 악성 행위의 의심 패킷으로 볼 수 있다. 여기에서, 악성 행위가 의심되는 패킷을 선택하는 단계는 스위치(110)와 물리적으로 연결될 수 있는 별도의 프로세서에서 이루어질 수 있다.The switching device 100 monitors the received packet and selects a packet suspected of malicious behavior (S220). In more detail, the packet detector 120 may select a packet suspected of malicious behavior in view of the contents of the executable code among the received packets. This is because transmission of packets that may be suspected of malicious behavior through the switch 100 may cause security problems such as a distributed denial of service (DDOS) attack. As an example, the packet detector 120 may monitor the received packet and select the corresponding received packet as a packet suspected of malicious activity if the same execution code is repeated. Since a DDOS attack packet includes a short executable code that performs malicious actions in one packet, the received packet can be monitored to be a suspicious packet of malicious behavior if the same executable code is repeated. Here, the step of selecting a packet suspected of malicious activity may be performed in a separate processor that may be physically connected to the switch 110.

스위칭 장치(100)는 선택된 패킷의 실행 코드가 실행되지 않도록 선택된 패킷을 변조한다(S230). 보다 상세하게는, 패킷 변조부(130)가 악성 행위가 의심되는 패킷으로 선택된 패킷의 실행 코드의 적어도 일부를 변조하여 실행되지 않도록 한다. 패킷에 포함된 실행 코드 중 일부가 변경되어도 패킷은 실행이 될 수 없고 일부를 변경하는 것이 컴퓨터 및 네트워크에 부하를 적게 발생시키기 때문이다. 패킷 변조부(130)는 악성 행위가 의심되는 패킷의 실행 코드 중 적어도 일부 실행 코드를 원형 시프트하는 방식으로 변조할 수 있다. 일 실시예로서, 실행 코드의 1 비트를 제 1 방향으로 시프트하는 방식으로 변조하는 것이 가능하다. 패킷의 실행 코드의 일부가 변경되어도 실행이 되지 않고, 이후에 정상 패킷으로 판단되어 복원될 경우에도 간단하게 복원할 수 있기 때문이다. 다른 일 실시예로서, 실행 코드의 비트를 임의적으로 시프트하는 방식으로 변조하는 것이 가능하다. 임의적인 규칙을 적용하는 이유는 DDOS 공격 시간동안 해커가 무력화된 패킷을 바로 복원하지 못하게 하기 위함이다. 임의적인 규칙을 적용할 경우에는, 해커 입장에서 짧은 공격시간 내에 임의적인 규칙을 파악하여 복원하기 힘들기 때문이다. 다른 일 실시예로서, 실행 코드의 적어도 일부를 인코딩(Encoding)하는 것도 가능하다. 실행 코드를 인코딩하는 것은 종래 기술로 구현이 가능하며 이 분야에 종사하는 자라면 충분히 이해할 수 있을 것이다. 여기에서, 패킷을 변조하는 단계는 스위치(110)와 물리적으로 연결될 수 있는 별도의 프로세서에서 이루어질 수 있다.The switching device 100 modulates the selected packet so that the execution code of the selected packet is not executed (S230). In more detail, the packet modulator 130 modulates at least a part of the executable code of the packet selected as a packet suspected of malicious activity so that the packet modulator 130 is not executed. This is because even if some of the executable code included in the packet is changed, the packet cannot be executed, and changing some of them causes less load on the computer and the network. The packet modulator 130 may modulate at least a part of the executable code of the packet suspected of malicious behavior in a circular shift mode. As an example, it is possible to modulate one bit of the executable code in a shift in the first direction. This is because, even if a part of the execution code of the packet is changed, the execution is not performed, and even if it is judged to be a normal packet and then restored, it can be simply restored. As another example, it is possible to modulate in a manner that randomly shifts the bits of the executable code. The reason for applying arbitrary rules is to prevent hackers from immediately restoring incapacitated packets during DDOS attacks. This is because, in the case of applying arbitrary rules, it is difficult for a hacker to grasp and restore arbitrary rules within a short attack time. As another example, it is also possible to encode at least a portion of the executable code. Encoding executable code can be implemented in the prior art and will be understood by those skilled in the art. Herein, the step of modulating the packet may be performed in a separate processor that may be physically connected to the switch 110.

스위칭 장치(100)는 변조된 패킷을 해당 패킷 주소로 송신한다(S240). 스위치(110)는 패킷을 송신하고 수신하는 역할을 하는 것으로서, 악성 행위가 의심되어 패킷 변조부(130)에서 변조된 패킷을 해당 패킷 주소로 송신할 수 있다. The switching device 100 transmits the modulated packet to the corresponding packet address (S240). The switch 110 serves to transmit and receive a packet, and may transmit a packet modulated by the packet modulator 130 to a corresponding packet address due to suspected malicious behavior.

스위칭 장치(100)는 변조된 패킷이 정상 패킷인지 판단한다(S250). 패킷 판단부(140)는 적어도 일부의 실행코드가 변조된 패킷이 정상 패킷인지 판단한다. 패킷 판단부(140)는 변조된 패킷이 정상 패킷이 아닌 것으로 판단된 경우에는 보안을 위하여 변조된 패킷을 정상 패킷으로 복원하지 않을 수 있다. 그러나, 패킷 판단부(140)가 변조된 패킷이 정상 패킷인 것으로 판단한 경우에는 변조된 패킷을 정상 패킷으로 복원할 수 있다. 여기에서, 정상 패킷인지 판단하는 단계는 스위치(110)와 물리적으로 연결될 수 있는 별도의 프로세서에서 이루어지거나 사람에 의해 직접 판단될 수 있다.The switching device 100 determines whether the modulated packet is a normal packet (S250). The packet determining unit 140 determines whether a packet in which at least some execution codes are modulated is a normal packet. If it is determined that the modulated packet is not a normal packet, the packet determiner 140 may not restore the modulated packet to the normal packet for security. However, when the packet determination unit 140 determines that the modulated packet is a normal packet, the packet determination unit 140 may restore the modulated packet to a normal packet. In this case, the determining of whether the packet is a normal packet may be performed by a separate processor that may be physically connected to the switch 110 or may be directly determined by a person.

변조된 패킷이 정상 패킷으로 판단된 경우에는, 스위칭 장치(100)는 해당 패킷 주소로 복원 정보를 송신한다(S260). 보다 상세하게는, 복원 정보 송신부(150)는 악성 행위가 의심되어 적어도 일부의 실행 코드를 변조하여 송신된 패킷을 정상적으로 동작하게 하기 위하여 해당 패킷 주소의 컴퓨터가 패킷을 복원하기 위한 복원 정보를 송신한다. 일 실시예로서, 패킷 변조부(130)에서 실행 코드의 1 비트를 제 1 방향으로 시프트하는 방식으로 변조한 경우에는, 실행 코드의 1 비트를 제 1 방향과 반대되는 방향으로 시프트하는 복원 정보를 송신할 수 있다. 다른 일 실시예로서, 패킷 변조부(130)에서 실행 코드의 비트를 임의적으로 시프트하는 방식으로 변조한 경우에는, 임의적으로 시프트한 방식과 반대로 시프트하는 복원 정보를 송신할 수 있다. 다른 일 실시예로서, 패킷 변조부(130)에서 실행 코드의 일부를 인코딩(Encoding)하는 방식으로 변조한 경우에는, 실행 코드의 적어도 일부를 디코딩(Decoding)하는 복원 정보를 송신하여 정상 패킷으로 복원하게 할 수 있다. 실행 코드를 디코딩하는 것은 종래 기술로 구현이 가능하며 이 분야에 종사하는 자라면 충분히 이해할 수 있을 것이다. 여기에서, 복원 정보를 송신하는 단계는 스위치(110)와 물리적으로 연결될 수 있는 별도의 프로세서에서 이루어질 수 있다.If it is determined that the modulated packet is a normal packet, the switching device 100 transmits restoration information to the corresponding packet address (S260). More specifically, the restoration information transmitter 150 transmits restoration information for restoring the packet by the computer at the packet address in order to operate a packet transmitted by modulating at least a part of execution code due to suspected malicious behavior. . As an embodiment, when the packet modulator 130 modulates one bit of the executable code in a first direction, restoration information for shifting one bit of the executable code in a direction opposite to the first direction is provided. I can send it. As another embodiment, when the packet modulator 130 modulates the bits of the execution code in a random shift method, the restoring information shifted in the reverse direction to the random shift method may be transmitted. As another embodiment, when the packet modulator 130 modulates a part of the executable code in a manner of encoding, the packet modulator 130 restores the normal packet by transmitting restoration information for decoding at least a part of the executable code. It can be done. Decoding the executable code can be implemented in the prior art and will be understood by those skilled in the art. Herein, the transmitting of the restoration information may be performed by a separate processor that may be physically connected to the switch 110.

변조된 패킷은 복원 정보를 이용하여 정상 패킷으로 복원된다(S270). 여기에서, 변조된 패킷을 정상 패킷으로 복원하는 단계는 변조된 패킷을 수신한 주소의 컴퓨터에서 이루어질 수 있다. 컴퓨터가 수신된 복원 정보를 이용하여 변조된 패킷을 정상 패킷으로 복원하는 경우에 패킷은 정상적으로 실행 가능할 것이다. The modulated packet is restored to a normal packet using the restoration information (S270). Here, the step of restoring the modulated packet to the normal packet may be performed at the computer of the address that received the modulated packet. If the computer restores the modulated packet to the normal packet using the received restoration information, the packet will be executable normally.

도 4는 개시된 기술의 일 실시예에 따른 패킷의 원형 시프트를 나타내는 도면이다. 도 4를 참조하면, 패킷 변조부(130)는 악성 행위가 의심되는 패킷을 1 비트씩 오른쪽으로 원형 시프트하여 변조할 수 있다. 따라서, 원래 '1011 1000 1111 0000'이었던 실행코드는 1 비트를 오른쪽으로 시프트하여 '0101 1100 0111 1000'으로 변조된다. 실행 코드가 무력화되기 위해서는, 패킷의 실행 코드 중 일부만 변경되어도 가능하므로, 1 비트를 시프트하여 실행 코드를 무력화할 수 있다. 여기에서, 실행코드는 워드 단위로 처리되고, 하나의 워드를 임의적인 규칙에 따라서 비트 단위로 시프트할 수 있다. 도 4에 나타난 변조된 패킷이 정상 패킷으로 판단된 경우에는, 복원 정보 송신부(150)는 변조된 패킷을 1 비트씩 왼쪽으로 원형 시프트하는 복원 정보를 해당 패킷 주소로 송신할 수 있다. 다른 일 실시예로서, 패킷 변조부(130)는 도 4에 나타난 의심 패킷을 2 비트씩 오른쪽으로 원형 시프트하여 변조할 수 있다. 도 4에 나타난 '1011 1000 1111 0000'을 2 비트를 오른쪽으로 시프트하여 '0010 1110 0011 1100'으로 변조할 수 있다. 여기에서, 변조된 패킷이 정상 패킷으로 판단된 경우에 복원 정보 송신부(150)는 변조된 패킷을 2비트씩 왼쪽으로 원형 시프트하는 복원 정보를 해당 패킷 주소로 송신할 수 있다. 한편, 악성 행위가 의심되는 패킷에 임의적인 규칙을 적용하여 패킷을 변조하는 것이 가능하다. DDOS 공격 시간동안 해커가 무력화된 패킷을 바로 복원하지 못하도록 예방하는 것으로서, 해커 입장에서 짧은 공격시간에 임의의 규칙을 파악하여 복원 방법을 알아내는 것이 힘들 수 있기 때문이다.
4 illustrates a circular shift of a packet according to an embodiment of the disclosed technique. Referring to FIG. 4, the packet modulator 130 may circularly shift and modulate a packet suspected of malicious behavior by one bit to the right. Therefore, the execution code, which was originally '1011 1000 1111 0000', is modulated to '0101 1100 0111 1000' by shifting one bit to the right. In order for the executable code to be disabled, only a part of the executable code of the packet may be changed, so that the executable code can be disabled by shifting one bit. Here, the executable code is processed in word units, and one word can be shifted bit by bit according to an arbitrary rule. When the modulated packet illustrated in FIG. 4 is determined to be a normal packet, the restoration information transmitter 150 may transmit restoration information for circularly shifting the modulated packet to the left by one bit to the corresponding packet address. As another embodiment, the packet modulator 130 may circularly shift the suspicious packet shown in FIG. 4 to the right by 2 bits to modulate the packet. The '1011 1000 1111 0000' shown in FIG. 4 may be modulated to '0010 1110 0011 1100' by shifting two bits to the right. Here, when it is determined that the modulated packet is a normal packet, the restoration information transmitter 150 may transmit restoration information for circularly shifting the modulated packet to the left by 2 bits to the corresponding packet address. On the other hand, it is possible to modulate the packet by applying an arbitrary rule to the packet suspected of malicious behavior. This is to prevent hackers from immediately restoring incapacitated packets during DDOS attack time, and it can be difficult for hackers to grasp arbitrary rules in short attack time and figure out how to recover.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
It will be apparent to those skilled in the art that various modifications and variations can be made in the present invention without departing from the spirit or scope of the present invention as defined by the following claims It can be understood that

100 : 스위칭 장치 110 : 스위치
120 : 패킷 감지부 130 : 패킷 변조부
140 : 패킷 판단부 150 : 복원 정보 송신부
100: switching device 110: switch
120: packet detection unit 130: packet modulation unit
140: packet determination unit 150: restoration information transmission unit

Claims (14)

스위칭 장치가 네트워크로부터 패킷을 수신하는 단계;
상기 스위칭 장치가 상기 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 패킷을 선택하는 단계;
상기 선택된 패킷의 실행 코드가 실행되지 않도록 상기 선택된 패킷을 변조하는 단계; 및
상기 스위칭 장치가 상기 변조된 패킷을 해당 패킷 주소로 송신하는 단계를 포함하되,
상기 변조하는 단계는 상기 선택된 패킷의 상기 실행 코드 중 적어도 일부 실행 코드를 원형 시프트하는 방식으로 변조하는 의심 패킷에 대한 대응 방법.
The switching device receiving a packet from a network;
Monitoring the received packet by the switching device to select the corresponding packet if the same execution code is repeated;
Modulating the selected packet such that the execution code of the selected packet is not executed; And
The switching device transmitting the modulated packet to a corresponding packet address;
And wherein said modulating comprises modulating at least some of said executable code of said selected packet in a circular shift manner.
제 1 항에 있어서,
상기 변조된 패킷이 정상 패킷인지 판단하는 단계를 더 포함하는 의심 패킷에 대한 대응 방법.
The method of claim 1,
And determining whether the modulated packet is a normal packet.
제 2 항에 있어서,
상기 스위칭 장치가 상기 해당 패킷 주소로 복원 정보를 송신하는 단계를 더 포함하는 의심 패킷에 대한 대응 방법.
The method of claim 2,
And sending the restoration information to the corresponding packet address by the switching device.
제 3 항에 있어서,
상기 판단하는 단계에서, 상기 변조된 패킷이 정상 패킷으로 판단된 경우에, 상기 변조된 패킷을 상기 복원 정보에 의해 복원하는 단계를 더 포함하는 의심 패킷에 대한 대응 방법.
The method of claim 3, wherein
And in the determining step, restoring the modulated packet by the restoration information when the modulated packet is determined to be a normal packet.
삭제delete 제 4 항에 있어서,
상기 복원하는 단계에서 상기 변조된 패킷의 상기 실행 코드 중 상기 적어도 일부 실행 코드를 상기 변조하는 단계에서 수행되는 상기 원형 시프트의 반대방향으로 원형 시프트하는 방식으로 복원하는 의심 패킷에 대한 대응 방법.
The method of claim 4, wherein
And restoring the suspect packet in a manner of performing a circular shift in a direction opposite to the circular shift performed in the modulating of the at least some execution code of the executable code of the modulated packet.
제 4 항에 있어서,
상기 변조된 패킷을 복원하는 단계는 상기 변조된 패킷을 수신한 주소의 컴퓨터에서 이루어지는 의심 패킷에 대한 대응 방법.
The method of claim 4, wherein
Restoring the modulated packet to a suspicious packet at the computer of the address that received the modulated packet.
패킷을 송신 및 수신하는 스위치;
상기 수신된 패킷을 모니터링하여 악성 행위 의심 패킷을 감지하는 패킷 감지부; 및
상기 감지된 패킷의 실행 코드가 실행되지 않도록 상기 감지된 패킷을 변조하는 패킷 변조부를 포함하되,
상기 패킷 변조부는 상기 감지된 패킷의 상기 실행 코드 중 적어도 일부 실행 코드를 원형 시프트하는 방식으로 변조하는 의심 패킷에 대한 스위칭 장치.
A switch for transmitting and receiving packets;
A packet detector configured to monitor the received packet to detect a malicious activity suspect packet; And
A packet modulator for modulating the detected packet such that the execution code of the detected packet is not executed;
And the packet modulator modulates at least some of the executable code of the detected packet in a circular shift mode.
제 8 항에 있어서,
상기 패킷 감지부는 상기 스위칭 장치가 상기 수신된 패킷을 모니터링하여 동일한 실행 코드가 반복되면 해당 수신 패킷을 감지하는 의심 패킷에 대한 스위칭 장치.
The method of claim 8,
And the packet detecting unit monitors the received packet and detects the received packet when the same execution code is repeated.
제 8 항에 있어서,
상기 변조된 패킷이 정상 패킷인지 판단하는 패킷 판단부를 더 포함하는 의심 패킷에 대한 스위칭 장치.
The method of claim 8,
And a packet determination unit for determining whether the modulated packet is a normal packet.
제 10 항에 있어서,
상기 스위칭 장치가 패킷 주소로 복원 정보를 송신하는 복원 정보 송신부를 더 포함하는 의심 패킷에 대한 스위칭 장치.
11. The method of claim 10,
And a restoration information transmitter for transmitting the restoration information to the packet address by the switching apparatus.
제 11 항에 있어서,
상기 변조된 패킷이 정상 패킷에 해당하는 경우에, 상기 변조된 패킷을 상기 복원 정보에 의해 복원하는 패킷 복원부를 더 포함하는 의심 패킷에 대한 스위칭 장치.
The method of claim 11,
And a packet recovery unit for restoring the modulated packet by the restoration information when the modulated packet corresponds to a normal packet.
삭제delete 제 12 항에 있어서,
상기 패킷 복원부는 상기 변조된 패킷의 상기 실행 코드 중 상기 적어도 일부 실행 코드를 상기 변조하는 단계에서 수행되는 상기 원형 시프트의 반대방향으로 원형 시프트하는 방식으로 복원하는 의심 패킷에 대한 스위칭 장치.

The method of claim 12,
And the packet recovery unit restores the suspect packet in a manner of performing a circular shift in a direction opposite to the circular shift performed in the modulating of at least some of the executable codes of the modulated packet.

KR1020100102454A 2010-10-20 2010-10-20 Method and switching apparatus to treat against suspected packet KR101151306B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100102454A KR101151306B1 (en) 2010-10-20 2010-10-20 Method and switching apparatus to treat against suspected packet

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100102454A KR101151306B1 (en) 2010-10-20 2010-10-20 Method and switching apparatus to treat against suspected packet

Publications (2)

Publication Number Publication Date
KR20120040935A KR20120040935A (en) 2012-04-30
KR101151306B1 true KR101151306B1 (en) 2012-06-08

Family

ID=46140669

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100102454A KR101151306B1 (en) 2010-10-20 2010-10-20 Method and switching apparatus to treat against suspected packet

Country Status (1)

Country Link
KR (1) KR101151306B1 (en)

Also Published As

Publication number Publication date
KR20120040935A (en) 2012-04-30

Similar Documents

Publication Publication Date Title
US9749011B2 (en) Physical unidirectional communication apparatus and method
US9853998B2 (en) Mitigation of computer network attacks
US10567427B2 (en) Unobtrusive and dynamic DDoS mitigation
US10097520B2 (en) Method and apparatus for causing delay in processing requests for internet resources received from client devices
US9596248B2 (en) Trojan detection method and device
CN109845227B (en) Method and system for network security
CA2887428C (en) A computer implemented system and method for secure path selection using network rating
US20170142072A1 (en) Safe security proxy
Gasior et al. Exploring covert channel in android platform
JP2019174426A (en) Abnormality detection device, abnormality detection method, and program
KR101063152B1 (en) One-way data transmission system and method
Zi et al. Implementing a passive network covert timing channel
US20170359432A1 (en) Method and apparatus for causing delay in processing requests for internet resources received from client devices
JP2007267151A (en) Apparatus, method and program for detecting abnormal traffic
KR101151306B1 (en) Method and switching apparatus to treat against suspected packet
CN110913019A (en) Security protection method and device for cloud service
US10616094B2 (en) Redirecting flow control packets
KR101375840B1 (en) Malicious code intrusion preventing system and method thereof
WO2015178002A1 (en) Information processing device, information processing system, and communication history analysis method
KR101717697B1 (en) Intrusion Tolerant System and Method Therefor in Virtualized Environment
Rodosek et al. Cyber security: challenges and application areas
CN110971680B (en) Communication method, device, system, electronic equipment and readable storage medium
KR101137828B1 (en) Method, system and computer-readable recording medium for defending against denial of service attack
CN114157441A (en) Request processing system, method, electronic device and storage medium
JP2005217692A (en) System for specifying penetration point

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20150417

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20160325

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20180411

Year of fee payment: 7

LAPS Lapse due to unpaid annual fee