KR20190006648A - Parking line detection method for automatic parking - Google Patents

Parking line detection method for automatic parking Download PDF

Info

Publication number
KR20190006648A
KR20190006648A KR1020170087580A KR20170087580A KR20190006648A KR 20190006648 A KR20190006648 A KR 20190006648A KR 1020170087580 A KR1020170087580 A KR 1020170087580A KR 20170087580 A KR20170087580 A KR 20170087580A KR 20190006648 A KR20190006648 A KR 20190006648A
Authority
KR
South Korea
Prior art keywords
parking line
vehicle
parking
detected
line
Prior art date
Application number
KR1020170087580A
Other languages
Korean (ko)
Other versions
KR101983448B1 (en
Inventor
선우명호
김석원
이민철
Original Assignee
한양대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한양대학교 산학협력단 filed Critical 한양대학교 산학협력단
Priority to KR1020170087580A priority Critical patent/KR101983448B1/en
Publication of KR20190006648A publication Critical patent/KR20190006648A/en
Application granted granted Critical
Publication of KR101983448B1 publication Critical patent/KR101983448B1/en

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • G06K9/3258
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/62Text, e.g. of license plates, overlay texts or captions on TV images
    • G06V20/63Scene text, e.g. street names
    • G06K2209/21
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/07Target detection

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

Disclosed is a parking line detection method for automatic parking capable of detecting a parking line precisely by predicting and restoring a parking line hidden by a vehicle and preventing misdetection of an obstacle around a parking line as the parking line. The parking line detection method for automatic parking includes the steps of: detecting a parking line marked on a road by using an image around a vehicle obtained from a camera equipped with the vehicle; and predicting the parking line in accordance with movement of the vehicle based on information of the vehicle movement and the detected parking line.

Description

자동 주차를 위한 주차선 검출 방법{PARKING LINE DETECTION METHOD FOR AUTOMATIC PARKING}TECHNICAL FIELD [0001] The present invention relates to a parking-line detecting method,

본 발명은 자동 주차를 위한 주차선 검출 방법에 관한 것으로서, 더욱 상세하게는 차량에 의해 가려지는 주차선을 예측 또는 복원하고, 주차선 주변의 장애물이 주차선으로 오검출되는 것을 방지하여 보다 정확하게 주차선을 검출할 수 있는 방법에 관한 것이다. The present invention relates to a parking line detection method for automatic parking, and more particularly, to a parking line detection method for automatically parking a car, more specifically, to predict or restore a parking line covered by a vehicle, To a method of detecting a line.

주차공간을 인식하기 위해서는 기본적으로 두 가지 기술이 요구된다. 비어있는 공간을 인식하는 것과 주차구획을 인식하는 것이다. 따라서 관련기술은 공간을 인식 방법과, 주차구획표시(parking slot marking)를 인식하는 방법으로 분류될 수 있다. Two techniques are basically required to recognize the parking space. Recognizing empty spaces and recognizing parking compartments. Therefore, the related art can be classified into a method of recognizing a space and a method of recognizing a parking slot marking.

공간인식 방법은 차량이 주차 가능한 비어있는 공간을 찾는 방법으로, 현재 상용화되어 있는 대부분의 주차보조 시스템(parking assistance system; PAS) 제품이 이 방법을 사용한다. 이 방법은 공간을 인식하는 센서에 따라 구분될 수 있으며, 사용되는 센서로는 초음파 센서가 가장 많이 사용된다. 그 외 라이다(LiDAR) 센서, 레이더 센서등도 사용되며, 최근에는 비전 기술에 기반한 공간인식기술 연구가 활발하게 진행되고 있다.The space recognition method is a method of finding an empty space in which a vehicle can be parked, and most parking assistance systems (PAS) products currently in commercial use use this method. This method can be classified according to the sensor that recognizes the space, and the ultrasonic sensor is the most used as the sensor used. LiDAR sensors and radar sensors are also used. Recently, research on space recognition technology based on vision technology has been actively conducted.

주차구획표시, 즉 주차선 인식 방법은 비전 기술을 이용하여 주차선을 검출하는 방법이다. 카메라로 취득된 영상에 Hough transform, Radon transform 등을 적용하여 주차선을 검출한다.A parking lot display, that is, a parking line recognition method, is a method of detecting a parking line using vision technology. A parking line is detected by applying a Hough transform, a Radon transform, etc. to the image acquired by the camera.

차량이 주차선 상에 위치하는 상황에서 비전 기반으로 주차선을 인식할 경우, 카메라로부터 찰영된 영상에 일부 주차선이 가려지기 때문에, 미검출되는 주차선이 발생할 수 있으며, 주차선 주변의 장애물이 존재할 경우, 장애물이 주차선으로 검출되는 등 오검출의 가능성이 있다.If a parking line is recognized on the basis of vision while the vehicle is located on a parking line, some parking lines may be hidden from the image captured by the camera, so that undetected parking lines may be generated, If it exists, there is a possibility of false detection such that an obstacle is detected as a parking line.

관련된 선행문헌으로 대한민국 공개특허 제2016-0123668호가 있다.Related Prior Art Korean Patent Publication No. 2016-0123668 is available.

본 발명은 차량에 의해 가려지는 주차선을 예측 또는 복원하여, 보다 정확하게 주차선을 검출할 수 있는 자동 주차를 위한 주차선 검출 방법을 제공하기 위한 것이다.The present invention is intended to provide a parking line detection method for automatic parking which can predict or restore a parking line covered by a vehicle and more accurately detect a parking line.

또한 본 발명은 주차선 주변의 장애물이 주차선으로 오검출되는 것을 방지할 수 있는 자동 주차를 위한 주차선 검출 방법을 제공하기 위한 것이다.It is another object of the present invention to provide a parking line detection method for automatic parking that can prevent an obstacle around a parking line from being erroneously detected as a parking line.

상기한 목적을 달성하기 위한 본 발명의 일 실시예에 따르면, 차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출하는 단계; 및 상기 차량의 움직임 정보 및 상기 검출된 주차선에 기반하여, 상기 차량의 이동에 따른 주차선을 예측하는 단계를 포함하는 자동 주차를 위한 주차선 검출 방법이 제공된다.According to an aspect of the present invention, there is provided a method of controlling a vehicle, comprising: detecting a parking line displayed on a road surface using a vehicle periphery image acquired from a camera mounted on the vehicle; And predicting a parking line according to the movement of the vehicle based on the motion information of the vehicle and the detected parking line.

또한 상기한 목적을 달성하기 위한 본 발명의 다른 실시예에 따르면, 차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출하는 단계; 및 상기 차량의 움직임 정보 및 상기 검출된 주차선에 기반하여, 상기 차량의 이동에 따라 미검출되는 주차선을 복원하는 단계를 포함하는 자동 주차를 위한 주차선 검출 방법이 제공된다.According to another aspect of the present invention, there is provided a method of driving a vehicle, comprising the steps of: detecting a parking line displayed on a road surface using a vehicle periphery image acquired from a camera mounted on the vehicle; And restoring a parking line not detected in accordance with the movement of the vehicle, based on the motion information of the vehicle and the detected parking line.

본 발명에 따르면, 차량이 주차선 상에 위치하지 않을 때 검출된 주차선과, 차량의 움직임을 이용하여, 차량의 이동에 따른 주차선을 예측함으로써, 차량에 의해 가려져 검출되기 어려운 주차선을 복원할 수 있다.According to the present invention, by estimating the parking line according to the movement of the vehicle by using the detected parking line and the movement of the vehicle when the vehicle is not located on the parking line, it is possible to restore the parking line, .

또한 본 발명에 따르면, 주차선 주변의 장애물이 주차선으로 오검출되는 것을 방지할 수 있다.Further, according to the present invention, it is possible to prevent an obstacle around the parking line from being erroneously detected as a parking line.

도 1은 본 발명의 일실시예에 따른 주차선 검출 장치를 설명하기 위한 도면이다.
도 2는 본 발명의 일실시예에 따른 주차선 검출 방법을 나타내는 흐름도이다.
도 3은 주차구역 부근에서의 차량의 움직임을 나타내는 도면이다.
도 4는 차량의 움직임에 따른 차량 주변 영상을 나타내는 도면이다.
도 5는 복원된 주차선을 나타내는 도면이다.
도 6은 본 발명의 다른 실시예에 따른 주차선 검출 방법을 나타내는 흐름도이다.
도 7 및 도 8은 본 발명에 따른 주차선 검출 결과를 설명하기 위한 도면이다.
1 is a view for explaining a parking line detecting apparatus according to an embodiment of the present invention.
2 is a flowchart showing a parking line detecting method according to an embodiment of the present invention.
3 is a view showing the movement of the vehicle in the vicinity of the parking area.
4 is a view showing a vehicle peripheral image according to the movement of the vehicle.
5 is a view showing a restored parking line.
6 is a flowchart showing a parking line detecting method according to another embodiment of the present invention.
7 and 8 are views for explaining a result of detecting a parking line according to the present invention.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다. While the invention is susceptible to various modifications and alternative forms, specific embodiments thereof are shown by way of example in the drawings and will herein be described in detail. It should be understood, however, that the invention is not intended to be limited to the particular embodiments, but includes all modifications, equivalents, and alternatives falling within the spirit and scope of the invention. Like reference numerals are used for like elements in describing each drawing.

자동 주차를 위해서는 노면에 표시된 주차선을 검출할 필요가 있으며, 이에 본 발명은, 자동 주차를 위한 주차선 검출 방법을 제안한다.In order to perform automatic parking, it is necessary to detect a parking line displayed on the road surface. Accordingly, the present invention proposes a parking line detecting method for automatic parking.

비전(vision) 기반으로 주차선을 검출할 경우, 차량이 주차선 상에 위치하면 차량에 장착된 카메라로부터 획득된 차량 주변 영상에서 주차선 일부가 차량에 의해 가려지기 때문에, 주차선 일부가 검출되기 어렵다. 이에 본 발명은, 차량이 주차선 상에 위치하지 않을 때 검출된 주차선과, 차량의 움직임을 이용하여, 차량의 이동에 따른 주차선을 예측한다. When a parking line is detected on the basis of vision, when a vehicle is positioned on a parking line, a part of the parking line is covered by the vehicle in the vicinity of the vehicle obtained from the camera mounted on the vehicle, it's difficult. Thus, the present invention predicts a parking line according to the movement of the vehicle by using the detected parking line and the movement of the vehicle when the vehicle is not located on the parking line.

주차 과정을 살펴보면, 차량이 주차선 외부에서 주차선 방향으로 이동하면서 차량 주변 영상에서 주차선 일부가 차량에 의해 가려지게 되는데, 가려지는 주차선은 차량의 움직임에 의해 결정된다. 또한 차량이 주차선 외부, 즉 주차선 상에 위치하지 않을 때는 차량 주변 영상에 주차선 일부가 차량에 의해 가려지지 않는다. 따라서, 차량이 주차선 상에 위치하지 않을 때 검출된 주차선과, 차량의 움직임을 이용하면, 차량의 이동에 의해 차량이 주차선 상에 위치하여 차량에 의해 가려진 주차선도 예측할 수 있다.In the parking process, a part of a parking line is obscured by a vehicle in a peripheral image of the vehicle as the vehicle moves from the outside of the parking line to the direction of the parking line, and the parking line to be blocked is determined by the movement of the vehicle. Also, when the vehicle is not located outside the parking line, that is, on the parking line, part of the parking line is not covered by the vehicle around the vehicle image. Therefore, by using the detected parking line and the movement of the vehicle when the vehicle is not located on the parking line, it is possible to predict the parking line which is located on the parking line by the movement of the vehicle and is covered by the vehicle.

또한 본 발명은 주차선 주변의 장애물이 주차선으로 오검출되는 것을 방지하기 위해, 주차선 검출 영상에서 장애물 성분을 제거한다. 노면에 표시된 주차선과 달리 트래픽 콘(traffic corn)과 같은 장애물은 부피를 가지고, 카메라의 촬영 위치에 따라 형상이 달라지기 때문에, 이러한 현상을 이용하여 장애물 성분을 제거할 수 있다.In addition, the present invention removes an obstacle component from a parking line detection image to prevent an obstacle around a parking line from being erroneously detected as a parking line. Unlike a parking line on a road surface, an obstacle such as a traffic corn is bulky and the shape varies depending on the photographing position of the camera. Therefore, an obstacle component can be removed using this phenomenon.

본 발명은 어라운드 뷰 모니터링 시스템(AVM) 카메라로부터 획득된 차량 주변 영상으로부터 주차선을 검출할 수 있으며, 이와 같이 검출된 주차선은 자동 주차 시스템에 이용될 수 있다.The present invention can detect a parking line from a vehicle periphery image obtained from an AVM camera, and the detected parking line can be used in an automatic parking system.

이하에서, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 보다 상세하게 설명한다.Hereinafter, embodiments according to the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일실시예에 따른 주차선 검출 장치를 설명하기 위한 도면이다.1 is a view for explaining a parking line detecting apparatus according to an embodiment of the present invention.

도 1을 참조하면 본 발명에 따른 주차선 검출 장치는 노면 표식 검출부(110) 및 후처리부(120)를 포함한다.Referring to FIG. 1, a parking line detecting apparatus according to the present invention includes a road mark detecting unit 110 and a post-processing unit 120.

노면 표식 검출부(110)는 차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출한다. 차량 주변 영상은 어라운드 뷰 모니터링 시스템에 의해 촬영된 주변 영상일 수 있다. 그리고 차량 주변 영상 속 주차선은 검출 대상으로서, 주차선 검출을 위해 비전 기반의 다양한 검출 알고리즘이 이용될 수 있다.The road surface mark detection unit 110 detects a parking line displayed on the road surface using the vehicle surroundings image obtained from the camera mounted on the vehicle. The vehicle surroundings image may be a surrounding image captured by the surround view monitoring system. A parking line in a peripheral image of the vehicle is a detection target, and various vision-based detection algorithms can be used for parking line detection.

후처리부(120)는 노면 표식 검출부(110)의 검출 결과를 후처리한다. 후처리부(120)는 미검출되는 주차선을 예측, 복원하거나, 주차선 검출 영상에서 장애물 성분을 제거할 수 있다. The post-processing unit (120) post-processes the detection result of the road surface mark detection unit (110). The post-processing unit 120 can predict and restore the undetected parking line or remove the obstacle component from the parking line detection image.

전술된 바와 같이, 차량이 주차선 상에 위치할 경우 주차선이 가려진 형태로 카메라에 의해 촬영되기 때문에, 가려진 주차선은 미검출될 수 있다. 후처리부(120)는 주차선이 가려지기 전에 검출된 주차선과, 차량의 움직임 정보를 이용하여 차량의 이동에 따른 주차선을 예측하거나 차량의 이동에 의해 미검출되는 주차선을 복원할 수 있다.As described above, when the vehicle is positioned on the parking line, the covered parking line can not be detected because the parking line is photographed by the camera in a hidden form. The post-processing unit 120 predicts the parking line according to the movement of the vehicle using the detected parking line and the motion information of the vehicle before the parking line is blocked, or restores the parking line that is not detected by the movement of the vehicle.

또한 차량 주변 영상에 포함된 장애물은 주차선과 함께 검출될 수 있으며, 따라서 주차선 검출 영상에 주차선과 함께 장애물 성분이 포함될 수 있다. 이러한 장애물은 노면에 표시된 주차선과 달리 부피를 가지며 따라서 서로 다른 지점에서 촬영된 차량 주변 영상에서 장애물의 형상은 달라진다. 후처리부(120)는 시간에 흐름에 따라 차량 주변 영상에서 형상이 변경되는 객체를 장애물로 판단하고, 장애물에 대응되는 검출 성분을 주차선 검출 영상에서 제거할 수 있다.Also, obstacles included in the surroundings of the vehicle can be detected along with the parking line, so that the parking line detection image may include the obstacle component along with the parking line. Such an obstacle has a volume different from the parking line shown on the road surface, and thus the shape of the obstacle is different in the surroundings of the vehicle photographed at different points. The post-processing unit 120 may determine that the object whose shape changes in the vehicle periphery image is an obstacle as time passes, and remove the detection component corresponding to the obstacle from the parking line detection image.

주차선 복원/예측 방법과 장애물 성분 제거 방법은 이하 도면에서 보다 상세히 설명하기로 한다. The parking line restoration / prediction method and the obstacle component removal method will be described in detail in the following drawings.

도 2는 본 발명의 일실시예에 따른 주차선 검출 방법을 나타내는 흐름도이다. 도 3은 주차구역 부근에서의 차량의 움직임을 나타내며, 도 4는 차량의 움직임에 따른 차량 주변 영상을 나타내는 도면이다. 도 5는 복원된 주차선을 나타내는 도면이다.2 is a flowchart showing a parking line detecting method according to an embodiment of the present invention. Fig. 3 shows the movement of the vehicle in the vicinity of the parking zone, and Fig. 4 shows the surroundings of the vehicle in accordance with the movement of the vehicle. 5 is a view showing a restored parking line.

본 발명에 따른 주차선 검출 방법은 프로세서를 포함하는 컴퓨팅 장치에서 수행될 수 있으며, 일실시예로서 차량의 ECU 또는 전술된 주차선 검출 장치에서 수행될 수 있다. 이하에서는 차량에 탑재된 주차선 검출 장치의 주차선 검출 방법이 일실시예로서 설명된다.The parking line detecting method according to the present invention can be performed in a computing device including a processor, and can be performed in an ECU of a vehicle or the above-described parking line detecting device as an embodiment. Hereinafter, a parking line detecting method of a parking line detecting apparatus mounted on a vehicle will be described as an embodiment.

본 발명에 따른 주차선 검출 장치는 차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출(S210)한다. 주차선 검출 장치는 주기적으로 차량 주변 영상을 획득하여 주차선을 검출할 수 있다.A parking line detecting apparatus according to the present invention detects a parking line displayed on a road surface using a vehicle peripheral image obtained from a camera mounted on the vehicle (S210). The parking line detecting device can periodically acquire a peripheral image of the vehicle to detect the parking line.

그리고 주차선 검출 장치는 차량의 움직임 정보 및 검출된 주차선에 기반하여, 차량의 이동에 따른 주차선을 예측(S220)한다. The parking line detecting device predicts a parking line according to the movement of the vehicle (S220) based on the motion information of the vehicle and the detected parking line.

단계 S220에서 주차선 검출 장치는 차량이 주차선과 이격된 상태에서 획득된 차량 주변 영상으로부터 검출된 주차선을 이용하여, 주차선을 예측하며, 예측된 주차선은 차량과 오버랩된, 즉 차량이 주차선 상에 위치하여 차량에 의해 가려진 주차선을 포함한다. 도 3 및 도 4를 이용하여 단계 S220을 보다 상세히 설명하기로 한다.In step S220, the parking line detecting device predicts the parking line using the parking line detected from the vehicle periphery image obtained when the vehicle is separated from the parking line, and the predicted parking line is overlapped with the vehicle, that is, And a parking line located on the line and covered by the vehicle. Step S220 will be described in more detail with reference to FIGS. 3 and 4. FIG.

도 3에서, 점선은 차량의 카메라에서 촬영된 차량 주변 영상의 크기를 나타내며, 크기가 동일해야 하나 이해의 편의를 위해 차량 A가 제1지점(310)에 위치할 경우의 차량 주변 영상(311)의 크기와 제2지점(320)에 위치할 경우의 차량 주변 영상(321)의 크기는 서로 다르게 표시되어 있다.3, the dotted line represents the size of the vehicle periphery image photographed by the camera of the vehicle and should be the same. However, for the convenience of understanding, the vehicle periphery image 311 when the vehicle A is located at the first point 310, And the size of the vehicle surroundings image 321 when the vehicle is located at the second point 320 are displayed differently from each other.

도 3에 도시된 바와 같이, 차량 A가 제1지점(310)에 위치할 경우, 도 4(a)에 도시된 바와 같이, 차량 주변 영상(311)에서 차량 A에 의해 가려지는 주차선이 없으므로, 차량 A에 의해 주차선이 미검출되지 않는다. 하지만, 차량 A가 직선 방향으로 후진하여 제2지점(320)에 위치하면, 도 4(b)에 도시된 바와 같이, 차량 주변 영상(321)에서 차량 A에 의해 가려지는 주차선이 발생하므로 차량 A에 의해 주차선이 미검출될 수 있다.As shown in Fig. 3, when the vehicle A is located at the first point 310, there is no parking line covered by the vehicle A in the vehicle periphery image 311, as shown in Fig. 4 (a) , The parking line is not detected by the vehicle A. However, when the vehicle A is moved backward in the linear direction and is located at the second point 320, as shown in Fig. 4 (b), a parking line blocked by the vehicle A is generated in the vehicle periphery image 321, A can not detect the parking line.

주차선 검출 장치는 도 4(a)의 차량 주변 영상(311)으로부터 검출된 주차선을 차량 A의 이동 방향에 따라 이동시켜, 차량 A가 제2지점(320)에 위치할 때 차량 A에 의해 가려지는 주차선을 예측할 수 있다. 도 3에서는 차량 A가 직선 방향으로 후진하였으므로, 주차선 검출 장치는 도 4(a)의 차량 주변 영상(311)으로부터 검출된 주차선을 후진 방향과 반대 방향으로 이동시킴으로써, 차량 A가 제2지점(320)에 위치할 때 차량 A에 의해 가려지는 주차선을 예측할 수 있다. The parking line detecting device moves the parking line detected from the vehicle periphery image 311 in Fig. 4 (a) in accordance with the moving direction of the vehicle A, and when the vehicle A is located at the second point 320, You can predict parking lines that are blocked. 3, the parking line detecting device moves the parking line detected from the vehicle periphery image 311 in Fig. 4 (a) in the direction opposite to the backward direction, so that the vehicle A is moved to the second point It is possible to predict the parking line covered by the vehicle A when it is located in the parking space 320.

도 4(b)의 차량 주변 영상(321)으로부터 검출된 주차선과 예측된 주차선을 결합하면, 주차선 검출 장치는 최종적으로 차량 A가 제2지점(320)에 위치할 때의 주차선 검출 영상을 도 5와 같이 얻을 수 있다. 또는 제1지점(310)에서 주차선 전체가 검출된다면, 주차선 검출 장치는 제2지점(320)에서 별도로 주차선을 검출하지 않고, 주차선 검출 장치가 탑재된 차량은, 예측된 주차선을 차량의 이동에 따라 지속적으로 이동시키면서, 자동 주차를 수행할 수 있다.When the parking line detected from the vehicle periphery image 321 of Fig. 4 (b) is combined with the predicted parking line, the parking line detecting device finally detects the parking line detection image Can be obtained as shown in FIG. Or if the entire parking line is detected at the first point 310, the parking line detecting device does not detect the parking line separately at the second point 320, and the vehicle on which the parking- It is possible to carry out the automatic parking while continuously moving in accordance with the movement of the vehicle.

일실시예로서, 차량의 움직임 정보는 차량에 탑재된 센서로부터 획득될 수 있으며, 예컨대 조향 센서로부터 차량의 이동 방향 정보가 얻어질 수 있으며 휠 센서로부터 차량의 이동 거리 정보가 얻어질 수 있다.In one embodiment, the vehicle motion information can be obtained from a sensor mounted on the vehicle, for example, the direction information of the vehicle's moving direction can be obtained from the steering sensor, and the moving distance information of the vehicle can be obtained from the wheel sensor.

결국, 본 발명에 따르면, 차량에 의해 가려져 검출되기 어려운 주차선이 검출될 수 있다.As a result, according to the present invention, a parking line that is hidden by the vehicle and is hard to be detected can be detected.

한편, 단계 S220에서 주차선 검출 장치는 시간에 흐름에 따라 차량 주변 영상에서 형상이 변경되는 장애물을, 예측된 주차선이 포함된 주차선 검출 영상에서 제거할 수 있다. On the other hand, in step S220, the parking-line detecting apparatus may remove an obstacle whose shape is changed in the vehicle periphery image from the parking-line-detected image including the predicted parking line as time elapses.

장애물은 주차선과 함께 검출될 수 있으며, 주차선 검출 영상에서 잡음 성분이다. 따라서 제거할 필요가 있으며, 주차선 검출 장치는 전술된 바와 같이, 차량 주변 영상에서 장애물의 형상이 바뀌는 현상을 이용하여 주차선 검출 영상에서 장애물 성분을 제거할 수 있다.The obstacle can be detected along with the parking line, and it is a noise component in the parking line detection image. Therefore, the parking line detecting device can remove the obstacle component from the parking line detecting image by using the phenomenon that the shape of the obstacle is changed in the peripheral image of the vehicle, as described above.

예를 들어, 차량 A의 우측에 트래픽 콘 장애물이 위치할 경우, 제1지점(310)에서의 차량 주변 영상(311)과 제2지점(320)에서의 차량 주변 영상(321)에서 트래픽 콘의 형상은 달라지게 된다. 따라서, 주차선 검출 장치는 이러한 트래픽 콘을 장애물로 인식할 수 있으며, 트래픽 콘이 주차선과 함께 검출된다면, 차량 주변 영상에서의 트래픽 콘의 위치와 주차선 검출 영상에서의 트래픽 콘의 위치가 대응되므로, 주차선 검출 영상에서 트래픽 콘 성분을 제거할 수 있다.For example, if the traffic cone obstacle is located on the right side of the vehicle A, the vehicle periphery image 311 at the first point 310 and the vehicle periphery image 321 at the second point 320 may have a traffic cone The shape changes. Therefore, if the traffic cone is recognized as an obstacle and the traffic cone is detected together with the parking line, the position of the traffic cone in the vehicle periphery image corresponds to the position of the traffic cone in the parking line detection image , It is possible to remove the traffic cone component from the parking line detection image.

또는 장애물의 형상이 달라짐에 따라서, 주차선 검출 영상에 포함되는 장애물 성분의 모양 또한 달라질 수 있다. 주차선 검출 장치는 주차선 검출 영상에 격자 필터를 적용하고, 형상이 달라지는 검출 성분을 장애물 성분으로 판단하여 장애물 선분을 주차선 검출 영상에서 제거할 수 있다.Or the shape of the obstacle varies, the shape of the obstacle component included in the parking line detection image may also be changed. The parking line detecting device can apply the lattice filter to the parking line detection image and remove the obstacle segment from the parking line detection image by judging the detection component whose shape is different as the obstacle component.

또한 본 발명에 따른 주차선 검출 장치는 오류 모델을 검출 또는 예측된 주차선에 대해 적용하여, 잡음 성분을 제거할 수 있다. 일반적으로 어라운드 뷰 모니터링 시스템 카메라는 차량에 부착되어 차량으로부터 멀리 떨어진 노면까지 촬영하기 때문에, 차량 주변 영상에 포함된 객체들은 차량으로부터 멀리 떨어질수록 왜곡될 수 있다.Further, the parking line detecting apparatus according to the present invention can apply a fault model to detected or predicted parking lines to remove noise components. In general, the surround view monitoring system camera is attached to the vehicle and photographs the road far away from the vehicle, so that the objects included in the surroundings of the vehicle can be distorted as they move away from the vehicle.

따라서, 본 발명에 따른 주차선 검출 장치는 차량으로부터 거리가 멀어질수록 검출 오류가 증가하는 오류 모델을 검출 또는 예측된 주차선에 대해 적용하여, 잡음 성분을 제거할 수 있다. 오류 모델은 차량에 장착된 카메라의 특성을 고려하여 미리 생성될 수 있으며, 주차선 검출 영상에서 오류 모델의 오류값이 임계값 이상인 검출 결과는 제거될 수 있다. 오류 모델은 주차선 검출 영상과 동일한 크기로 설계될 수 있으며, 주차선 검출 영상의 화소 단위로 검출 오류 값이 할당될 수 있다. 오류 모델은 일종의 필터로서, 동작한다.Therefore, the parking line detecting apparatus according to the present invention can remove the noise component by applying an error model that increases the detection error as the distance from the vehicle increases to the detected or predicted parking line. The error model can be generated in advance considering the characteristics of the camera mounted on the vehicle, and the detection result in which the error value of the error model is equal to or higher than the threshold value in the parking line detection image can be eliminated. The error model can be designed to have the same size as the parking line detection image, and a detection error value can be assigned to each pixel of the parking line detection image. The error model operates as a kind of filter.

도 6은 본 발명의 다른 실시예에 따른 주차선 검출 방법을 나타내는 흐름도이다.6 is a flowchart showing a parking line detecting method according to another embodiment of the present invention.

본 발명에 따른 주차선 검출 장치는 차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출(S610)한다.A parking line detecting apparatus according to the present invention detects a parking line displayed on a road surface using a vehicle peripheral image obtained from a camera mounted on the vehicle (S610).

그리고, 차량의 움직임 정보 및 검출된 주차선에 기반하여, 차량의 이동에 따라 미검출되는 주차선을 복원한다. 보다 구체적으로 제2지점에서 획득된 차량 주변 영상으로부터 미검출되는 주차선이 존재하는지 판단(S620)하고, 미검출되는 주차선이 존재하는 경우, 제1지점에서 획득된 차량 주변 영상으로부터 검출된 주차선 및 움직임 정보를 이용하여, 미검출되는 주차선을 복원(S630)한다.Then, based on the motion information of the vehicle and the detected parking line, the parking line not detected in accordance with the movement of the vehicle is restored. More specifically, it is determined whether there is a parking line that is not detected from the vehicle periphery image obtained at the second point (S620). If there is a parking line that is not detected, And restores the undetected parking line using line and motion information (S630).

주차선 검출 장치가 예를 들어, 제2지점에서 도 4(b)의 차량 주변 영상을 획득한 경우 주차선 검출 장치는 차량 주변 영상에서 미검출되는 주차선이 존재하는 것으로 판단할 수 있으므로, 차량이 주차선과 이격된 제1지점에서 획득한 차량 주변 영상 예를 들어, 도 4(a)의 차량 주변 영상으로부터 검출된 주차선을 이용하여 미검출되는 주차선을 복원할 수 있다. 이 때, 제1지점에서 제2지점 사이의 차량의 움직임에 따라서, 제1지점에서 검출된 주차선을 이동시켜, 미검출되는 주차선을 복원할 수 있다. 주차선 검출 장치는 도 4(b)의 차량 주변 영상으로부터 검출된 주차선에, 도 4(a)의 차량 주변 영상으로부터 검출된 주차선을 이동시켜 결합하여, 미검출되는 주차선을 복원할 수 있다. When the parking line detecting device acquires the vehicle periphery image of FIG. 4 (b) at the second point, for example, the parking line detecting device can determine that there is a parking line not detected in the peripheral image of the vehicle, It is possible to restore the parking line which is not detected by using the parking line detected from the vehicle periphery image of FIG. 4A, for example, the vehicle periphery image acquired at the first point spaced from the parking line. At this time, in accordance with the movement of the vehicle between the first point and the second point, the parking line detected at the first point can be moved to restore the undetected parking line. The parking line detecting device can move the parking line detected from the vehicle periphery image of FIG. 4 (a) to the parking line detected from the vehicle periphery image of FIG. 4 (b) have.

일반적으로 주차선은 연속된 직선으로 이루어지므로, 검출된 주차선이 끊어진 경우 주차선 검출 장치는 차량 주변 영상에서 미검출되는 주차선이 존재하는 것으로 판단할 수 있다.Generally, since the parking line is made of a continuous straight line, when the detected parking line is broken, the parking line detecting device can judge that there is a parking line which is not detected in the peripheral image of the vehicle.

한편, 본 발명에 따른 주차선 검출 장치는 도 2에서 설명된 바와 같이, 장애물 성분을 주차선 검출 영상에서 제거할 수 있다. 즉, 주차선 검출 장치는 시간에 흐름에 따라 차량 주변 영상에서 형상이 변경되는 장애물을, 복원된 주차선이 포함된 주차선 검출 영상에서 제거할 수 있다.On the other hand, the parking line detecting apparatus according to the present invention can remove the obstacle component from the parking line detecting image, as described with reference to FIG. That is, the parking line detecting apparatus can remove an obstacle whose shape changes from the surroundings of the vehicle as time passes, from the parking line detecting image including the restored parking line.

또한 본 발명에 따른 주차선 검출 장치는 도 2에서 설명된 바와 같이, 오류 모델을 적용할 수 있다. 즉, 주차선 검출 장치는 차량으로부터 거리가 멀어질수록 검출 오류가 증가하는 오류 모델을 검출 또는 복원된 주차선에 대해 적용하여, 잡음 성분을 제거할 수 있다.Also, the parking line detecting apparatus according to the present invention can apply an error model as described in FIG. That is, the parking line detecting apparatus can apply a faulty model in which the detection error increases as the distance from the vehicle increases to the detected or restored parking line, thereby removing noise components.

도 7 및 도 8은 본 발명에 따른 주차선 검출 결과를 설명하기 위한 도면이다. 도 7은 차량에 의해 가려진 주차선이 복원된 결과를 나타내며, 도 8은 장애물 성분이 제거된 결과를 나타낸다.7 and 8 are views for explaining a result of detecting a parking line according to the present invention. FIG. 7 shows the result of restoring the parking line obscured by the vehicle, and FIG. 8 shows the result of removing the obstacle component.

도 7(a)에 도시된 바와 같이, 차량이 주차선 상에 위치한 경우, 차량에 의해 주차선이 가려지기 때문에, 종래의 경우 도 7(b)와 같이 주차선이 검출되며 미검출된 주차선이 존재한다. 그러나 본 발명에 따르면 도 7(c)에 도시된 바와 같이, 차량에 의해 가려진 주차선이 모두 복원됨을 알 수 있다.As shown in Fig. 7 (a), when the vehicle is located on the parking line, since the parking line is covered by the vehicle, the parking line is detected as in Fig. 7 (b) Lt; / RTI > However, according to the present invention, as shown in FIG. 7 (c), it can be seen that all the parking lines covered by the vehicle are restored.

또한 도 8(a)에 도시된 바와 같이, 차량 주변 영상에 장애물(810)이 포함되는 경우, 도 8(b)와 같이 장애물 성분이 주차선과 함께 검출될 수 있는데, 본 발명에 따르면, 장애물 성분을 제거함으로써 도 8(c)와 같이 보다 정확한 주차선 검출 영상을 얻을 수 있다.8 (a), when the obstacle 810 is included in the vehicle periphery image, the obstacle component can be detected together with the parking line as shown in FIG. 8 (b). According to the present invention, A more accurate parking line detection image can be obtained as shown in Fig. 8 (c).

앞서 설명한 기술적 내용들은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예들을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 하드웨어 장치는 실시예들의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The above-described technical features may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer-readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the medium may be those specially designed and constructed for the embodiments or may be available to those skilled in the art of computer software. Examples of computer-readable media include magnetic media such as hard disks, floppy disks and magnetic tape; optical media such as CD-ROMs and DVDs; magnetic media such as floppy disks; Magneto-optical media, and hardware devices specifically configured to store and execute program instructions such as ROM, RAM, flash memory, and the like. Examples of program instructions include machine language code such as those produced by a compiler, as well as high-level language code that can be executed by a computer using an interpreter or the like. The hardware device may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.As described above, the present invention has been described with reference to particular embodiments, such as specific elements, and specific embodiments and drawings. However, it should be understood that the present invention is not limited to the above- And various modifications and changes may be made thereto by those skilled in the art to which the present invention pertains. Accordingly, the spirit of the present invention should not be construed as being limited to the embodiments described, and all of the equivalents or equivalents of the claims, as well as the following claims, belong to the scope of the present invention .

Claims (10)

차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출하는 단계; 및
상기 차량의 움직임 정보 및 상기 검출된 주차선에 기반하여, 상기 차량의 이동에 따른 주차선을 예측하는 단계
를 포함하는 자동 주차를 위한 주차선 검출 방법.
Detecting a parking line displayed on a road surface using a vehicle periphery image obtained from a camera mounted on the vehicle; And
Predicting a parking line according to the movement of the vehicle based on the motion information of the vehicle and the detected parking line
And a parking line detecting method for automatically parking the vehicle.
제 1항에 있어서,
상기 주차선을 예측하는 단계는
상기 차량이 상기 주차선과 이격된 상태에서 획득된 차량 주변 영상으로부터 검출된 주차선을 이용하여, 상기 주차선을 예측하는
자동 주차를 위한 주차선 검출 방법.
The method according to claim 1,
The step of predicting the parking line
The parking line is predicted using the parking line detected from the vehicle periphery image obtained while the vehicle is separated from the parking line
A parking line detection method for automatic parking.
제 2항에 있어서,
상기 예측된 주차선은
상기 차량과 오버랩된 주차선을 포함하는
자동 주차를 위한 주차선 검출 방법.
3. The method of claim 2,
The predicted parking line
And a parking line overlapped with the vehicle
A parking line detection method for automatic parking.
제 2항에 있어서,
상기 주차선을 예측하는 단계는
상기 차량의 움직임 정보에 따라 상기 검출된 주차선을 이동시켜, 상기 주차선을 예측하는
자동 주차를 위한 주차선 검출 방법.
3. The method of claim 2,
The step of predicting the parking line
Moves the detected parking line in accordance with the motion information of the vehicle and predicts the parking line
A parking line detection method for automatic parking.
제 1항에 있어서,
상기 주차선을 예측하는 단계는
시간에 흐름에 따라 상기 차량 주변 영상에서 형상이 변경되는 장애물을, 예측된 주차선이 포함된 주차선 검출 영상에서 제거하는
자동 주차를 위한 주차선 검출 방법.
The method according to claim 1,
The step of predicting the parking line
An obstacle whose shape is changed in the vehicle periphery image according to the flow of time is removed from the parking line detection image including the predicted parking line
A parking line detection method for automatic parking.
제 1항에 있어서,
상기 차량으로부터 거리가 멀어질수록 검출 오류가 증가하는 오류 모델을 상기 검출 또는 예측된 주차선에 대해 적용하여, 잡음 성분을 제거하는 단계
를 더 포함하는 자동 주차를 위한 주차선 검출 방법.
The method according to claim 1,
Applying an error model that increases the detection error as the distance from the vehicle increases to the detected or predicted parking line, and removing noise components
And detecting the parking line for automatic parking.
차량에 장착된 카메라로부터 획득된 차량 주변 영상을 이용하여, 노면에 표시된 주차선을 검출하는 단계; 및
상기 차량의 움직임 정보 및 상기 검출된 주차선에 기반하여, 상기 차량의 이동에 따라 미검출되는 주차선을 복원하는 단계
를 포함하는 자동 주차를 위한 주차선 검출 방법.
Detecting a parking line displayed on a road surface using a vehicle periphery image obtained from a camera mounted on the vehicle; And
Restoring a parking line that is not detected in accordance with the movement of the vehicle, based on the vehicle motion information and the detected parking line
And a parking line detecting method for automatically parking the vehicle.
제 7항에 있어서,
상기 주차선을 복원하는 단계는
제1지점에서 획득된 차량 주변 영상으로부터 상기 미검출되는 주차선이 존재하는지 판단하는 단계; 및
상기 미검출되는 주차선이 존재하는 경우, 제2지점에서 획득된 차량 주변 영상으로부터 검출된 주차선 및 상기 움직임 정보를 이용하여, 상기 미검출되는 주차선을 복원하는 단계를 포함하며,
상기 제2지점은, 상기 차량이 상기 주차선과 이격된 지점인
자동 주차를 위한 주차선 검출 방법.
8. The method of claim 7,
The step of restoring the parking line
Determining whether a non-detected parking line exists from a vehicle surroundings image obtained at a first point; And
And restoring the undetected parking line using the parking line and the motion information detected from the vehicle periphery image acquired at the second point when the parking line is not detected,
The second point is a point at which the vehicle is separated from the parking line
A parking line detection method for automatic parking.
제 8항에 있어서,
상기 주차선을 복원하는 단계는
상기 제2지점에서 상기 제1지점 사이의 차량의 움직임에 따라 상기 검출된 주차선을 이동시켜, 상기 미검출되는 주차선을 복원하는
자동 주차를 위한 주차선 검출 방법.
9. The method of claim 8,
The step of restoring the parking line
The detected parking line is moved in accordance with the movement of the vehicle between the second point and the first point to restore the undetected parking line
A parking line detection method for automatic parking.
제 7항에 있어서,
상기 주차선을 복원하는 단계는
시간에 흐름에 따라 상기 차량 주변 영상에서 형상이 변경되는 장애물을, 상기 복원된 주차선이 포함된 주차선 검출 영상에서 제거하는
자동 주차를 위한 주차선 검출 방법.
8. The method of claim 7,
The step of restoring the parking line
An obstacle whose shape is changed in the vehicle periphery image according to the flow of time is removed from the parking line detection image including the restored parking line
A parking line detection method for automatic parking.
KR1020170087580A 2017-07-11 2017-07-11 Parking line detection method for automatic parking KR101983448B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170087580A KR101983448B1 (en) 2017-07-11 2017-07-11 Parking line detection method for automatic parking

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170087580A KR101983448B1 (en) 2017-07-11 2017-07-11 Parking line detection method for automatic parking

Publications (2)

Publication Number Publication Date
KR20190006648A true KR20190006648A (en) 2019-01-21
KR101983448B1 KR101983448B1 (en) 2019-05-29

Family

ID=65277549

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170087580A KR101983448B1 (en) 2017-07-11 2017-07-11 Parking line detection method for automatic parking

Country Status (1)

Country Link
KR (1) KR101983448B1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009271513A (en) * 2008-04-30 2009-11-19 Samsung Electronics Co Ltd Robot and method of building map therefor
JP2014036326A (en) * 2012-08-08 2014-02-24 Honda Motor Co Ltd Bird's eye image display device
KR101470240B1 (en) * 2013-11-14 2014-12-08 현대자동차주식회사 Parking area detecting apparatus and method thereof

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009271513A (en) * 2008-04-30 2009-11-19 Samsung Electronics Co Ltd Robot and method of building map therefor
JP2014036326A (en) * 2012-08-08 2014-02-24 Honda Motor Co Ltd Bird's eye image display device
KR101470240B1 (en) * 2013-11-14 2014-12-08 현대자동차주식회사 Parking area detecting apparatus and method thereof

Also Published As

Publication number Publication date
KR101983448B1 (en) 2019-05-29

Similar Documents

Publication Publication Date Title
US10255812B2 (en) Method and apparatus for preventing collision between objects
US11620837B2 (en) Systems and methods for augmenting upright object detection
JP6416293B2 (en) Method of tracking a target vehicle approaching a car by a car camera system, a camera system, and a car
JP6005055B2 (en) Method for continuously calculating, inspecting and / or adapting a parking trajectory in a vehicle parking assist system, a computer program and a parking assist system
WO2015177643A2 (en) Systems and methods for braking a vehicle based on a detected object
JP2008123462A (en) Object detector
CN105128836A (en) Autonomous emergency braking system and method for recognizing pedestrian therein
CN103373349A (en) Apparatus and method avoiding collision with obstacles in automatic parking assistance system
US11498556B2 (en) Side collision risk estimation system for a vehicle
JP2013225295A5 (en)
JP2014157395A5 (en)
KR102082254B1 (en) a vehicle recognizing system
US20230034560A1 (en) Method for tracking a remote target vehicle in an area surrounding a motor vehicle by means of a collision detection device
KR101712399B1 (en) Obstacle display method of vehicle
WO2019065970A1 (en) Vehicle exterior recognition device
JP2022502642A (en) How to evaluate the effect of objects around the means of transportation on the driving operation of the means of transportation
JP6411933B2 (en) Vehicle state determination device
KR101628547B1 (en) Apparatus and Method for Checking of Driving Load
US10970870B2 (en) Object detection apparatus
KR101492366B1 (en) Car accident detection method and apparatus
EP3287940A1 (en) Intersection detection system for a vehicle
KR101983448B1 (en) Parking line detection method for automatic parking
JP4768499B2 (en) In-vehicle peripheral other vehicle detection device
JP2019015570A (en) Parking position information acquisition device and automatic parking controller
KR102671622B1 (en) Apparatus and method for parking space detection

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant