KR101966801B1 - Method for detecting obstacle around a roller - Google Patents
Method for detecting obstacle around a roller Download PDFInfo
- Publication number
- KR101966801B1 KR101966801B1 KR1020160094601A KR20160094601A KR101966801B1 KR 101966801 B1 KR101966801 B1 KR 101966801B1 KR 1020160094601 A KR1020160094601 A KR 1020160094601A KR 20160094601 A KR20160094601 A KR 20160094601A KR 101966801 B1 KR101966801 B1 KR 101966801B1
- Authority
- KR
- South Korea
- Prior art keywords
- roller
- obstacle
- time
- detected
- area
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 12
- 238000005056 compaction Methods 0.000 claims abstract description 28
- 238000001514 detection method Methods 0.000 claims description 10
- 238000003384 imaging method Methods 0.000 claims description 8
- 230000000694 effects Effects 0.000 abstract description 3
- 238000010276 construction Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 2
- 238000003708 edge detection Methods 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 1
- 239000002689 soil Substances 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
- B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
- B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
- B60R21/013—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over
- B60R21/0134—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting collisions, impending collisions or roll-over responsive to imminent contact with an obstacle, e.g. using radar systems
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/146—Display means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2520/00—Input parameters relating to overall vehicle dynamics
- B60W2520/10—Longitudinal speed
-
- B60W2550/10—
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2552/00—Input parameters relating to infrastructure
- B60W2552/50—Barriers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Y—INDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
- B60Y2300/00—Purposes or special features of road vehicle drive control systems
- B60Y2300/08—Predicting or avoiding probable or impending collision
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Y—INDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
- B60Y2400/00—Special features of vehicle units
- B60Y2400/92—Driver displays
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Mechanical Engineering (AREA)
- Transportation (AREA)
- Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Human Computer Interaction (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Investigation Of Foundation Soil And Reinforcement Of Foundation Soil By Compacting Or Drainage (AREA)
Abstract
본 발명은 롤러 주변의 장애물 감지 방법에 관한 것으로서, 일정 속도에 따라 전방 또는 후방으로 주행하는 지반 다짐 장비의 롤러 상부에 전방을 향하여 설치된 카메라를 통해 영상을 획득하는 단계와, 획득된 영상 내에 존재하는 장애물을 검출하는 단계와, 검출된 장애물의 위치가 상기 롤러의 전방 영역에 해당하는 제1구역과 상기 롤러의 측방 영역에 해당하는 제2구역 중 어느 구역에 속하는지를 결정하는 단계를 포함하는 것을 특징으로 한다.
이에 따라, 롤러의 주행 방향의 전방에 장애물이 감지되면 롤러의 주행을 정지하여 예상되는 충돌 사고를 미연에 방지할 수 있고, 롤러의 주행 방향과는 관계없으나 측방에 근접한 위치에 장애물이 감지되는 경우 작업자의 조작 화면에 경고 메시지를 표시하여 주행 시에 보다 주의를 갖고 운전할 수 있도록 하는 효과가 있다.The present invention relates to a method for detecting an obstacle around a roller, the method comprising: acquiring an image through a camera installed in a forward direction on an upper portion of a roller of ground compaction equipment traveling forward or rearward according to a predetermined speed; Detecting an obstacle and determining which of the zones the position of the detected obstacle belongs to a first zone corresponding to the front region of the roller and a second zone corresponding to the lateral region of the roller; It is done.
Accordingly, when an obstacle is detected in front of the driving direction of the roller, the driving of the roller may be stopped to prevent an unexpected collision, and when an obstacle is detected at a position close to the side regardless of the driving direction of the roller. By displaying a warning message on the operator's operation screen, there is an effect that can be driven with more attention when driving.
Description
본 발명은 지반 다짐용으로 사용되는 롤러를 이용한 작업 중에 상기 롤러의 전방 혹은 측방에 장애물이 위치하는 경우에 이를 자동으로 감지하여 알리기 위한 롤러 주변의 장애물 감지 방법에 관한 것이다.The present invention relates to an obstacle detection method around the roller for automatically detecting and informing when an obstacle is located in the front or side of the roller during the operation using the roller used for ground compaction.
일반적으로 롤러를 구비한 건설기계는 지반을 다지기 위한 작업이나 도로를 포장하기 위한 작업 등에 이용된다. 이러한 작업들은 대부분 공사 면적이 넓기 때문에 하나의 건설기계만을 이용하기보다는 복수 개의 건설기계를 이용하여 동시에 작업하는 경우가 많다.In general, a construction machine having a roller is used for work for compacting the ground or for paving a road. Since most of these works have a large construction area, they often work on a plurality of construction machines at the same time rather than using only one construction machine.
이러한 건설기계들은 전방 또는 후방으로 단순 주행하기만 하면 되므로, 작업자가 건설기계에 직접 탑승하여 운전하는 경우 외에도 원격지에 있는 작업자가 원격 조정 장치를 이용하여 건설기계의 주행을 조작하기도 한다.Since these construction machines need to simply drive forward or rearward, in addition to driving a driver directly on a construction machine, a remote worker may operate a construction machine by using a remote control device.
그러나, 롤러를 이용한 작업 환경의 특성상 많은 건설기계가 좁은 공간 안에서 한꺼번에 움직이기 때문에, 운전자의 시야 확보만으로는 주변에 있는 작업자와 건설기계들과의 충돌을 방지하기가 어렵고, 이를 위해 작업자가 세심한 주의를 기울이다 보면 작업에 소요되는 시간이 지체되어 원활한 작업 수행이 어려운 문제점이 있다.However, due to the nature of the work environment using rollers, many construction machines move at once in a narrow space. Therefore, it is difficult to prevent collisions between workers and construction machinery in the vicinity by securing the driver's vision. If you tilt the work time is delayed, there is a problem that it is difficult to perform smooth work.
본 발명은 상기의 문제점을 해결하기 위한 것으로, 롤러 주변에 있는 장애물을 자동으로 감지하여 작업자에게 알림으로써 원활하고 신속한 작업 수행이 가능하도록 하는 롤러 주변의 장애물 감지 방법을 제공하는 것을 목적으로 한다.The present invention is to solve the above problems, an object of the present invention is to provide a method for detecting obstacles around the rollers to automatically and automatically detect the obstacles around the rollers to notify the operator to perform smooth and quick work.
상기와 같은 목적을 달성하기 위하여 본 발명은 일정 속도에 따라 전방 또는 후방으로 주행하는 지반 다짐 장비의 롤러 상부에 전방 지면을 향하여 설치된 카메라를 통해 영상을 획득하는 제1 단계; 상기 제1 단계에서 획득된 영상에 포함된 영상프레임의 전체 평균 화소값과 상기 영상프레임으로부터 기설정된 크기로 분할된 적어도 하나 이상의 단위블록의 평균 화소값을 각각 비교한 결과에 기초하여 상기 획득된 영상 내에 존재하는 장애물을 검출하는 제2 단계; 상기 롤러의 전방 영역으로서 롤러의 현재 위치를 기준으로 한 상기 카메라의 촬상영역 내에서 상기 롤러의 양측 단부를 상기 롤러의 길이 방향에 대해 수직인 상하방향으로 연장한 제1 영역과, 상기 롤러의 측방 영역으로서 상기 롤러의 현재 위치를 기준으로 한 상기 카메라의 촬상영역 중 상기 제1 영역을 제외한 나머지 영역에 해당하는 제2 구역을 구분하고, 상기 제2 단계에서 검출된 장애물의 위치가 상기 제1 구역과 제2 구역 중 어느 구역에 속하는지 분석하는 제3 단계; 상기 검출된 장애물의 최하단 지점과 상기 롤러의 최상단 지점 간의 최단 거리와 기설정된 상기 지반 다짐 장비의 주행 속도에 기초하여 상기 롤러가 상기 검출된 장애물의 위치에 도달하는데 걸리는 예상 주행 시간을 계산하는 제4 단계; 상기 계산된 예상 주행 시간에 대한 정보를 포함하는 알림 메시지를 상기 지반 다짐 장비를 제어하는 기기의 화면에 표시하는 제5 단계; 상기 제3 단계에서 검출된 장애물의 위치가 상기 제1 구역에 속하는 경우, 상기 예상 주행 시간에서 기설정된 정지 동작 시간을 빼서 계산한 예상 도달 시간내에 상기 지반 다짐 장비의 주행을 정지하도록 하는 제1 제어신호를 생성하며, 상기 예상 도달 시간이 기설정된 임계시간 미만인 경우, 상기 지반 다짐 장비를 상기 임계시간 동안 후방으로 주행한 후 정지하도록 하는 제2제어신호를 생성하는 제6 단계; 상기 제3 단계에서 검출된 장애물의 위치가 상기 제2구역에 속하는 것으로 결정된 경우, 상기 예상 주행 시간 내에 상기 장애물이 측방에 근접한 위치에 있음을 알리는 경고 메시지를 상기 화면에 표시하는 제7 단계;를 포함하여 이루어지는 것을 특징으로 하는 롤러 주변의 장애물 감지 방법을 기술적 요지로 한다.In order to achieve the above object, the present invention includes a first step of acquiring an image through a camera installed toward the front ground on the roller upper portion of the ground compaction equipment traveling forward or backward at a predetermined speed; The obtained image based on a result of comparing the total average pixel value of the image frame included in the image obtained in the first step with the average pixel value of at least one unit block divided into a predetermined size from the image frame, respectively Detecting an obstacle present within the second step; A first region in which both end portions of the roller extend in an up-down direction perpendicular to the longitudinal direction of the roller in the imaging region of the camera based on the current position of the roller as the front region of the roller, and the side of the roller; A second zone corresponding to a remaining area other than the first area of the imaging area of the camera based on the current position of the roller as the area is divided, and the position of the obstacle detected in the second step is the first area. A third step of analyzing which of the and second zones belongs to; A fourth operation for calculating an expected travel time for the roller to reach the position of the detected obstacle based on the shortest distance between the lowest point of the detected obstacle and the highest point of the roller and a predetermined traveling speed of the ground compaction equipment. step; A fifth step of displaying a notification message including information on the calculated estimated driving time on a screen of a device controlling the ground compaction equipment; A first control for stopping the driving of the ground compaction equipment within the estimated arrival time calculated by subtracting a preset stop operation time from the estimated traveling time when the position of the obstacle detected in the third step belongs to the first zone; A sixth step of generating a signal and generating a second control signal for stopping the ground compaction equipment after driving backward for the threshold time when the estimated time of arrival is less than a predetermined threshold time; If it is determined that the position of the obstacle detected in the third step belongs to the second zone, displaying a warning message on the screen indicating that the obstacle is in a position close to the side within the estimated driving time; Technical object of the present invention is to provide a method for detecting an obstacle around a roller, the method including:
여기서, 상기 알림 메시지를 표시하는 제5 단계는, 상기 검출된 장애물의 위치를 상기 카메라에 의한 촬상 영역에 대응하는 부채꼴 형상의 영역 상에 점 형태로 표시하는 UI와, 상기 계산된 예상 주행 시간에 대한 정보를 포함하는 알림 메시지를 상기 화면에 함께 표시하는 것을 특징으로 하는 롤러 주변의 장애물 감지 방법으로 되는것이 바람직하다.Here, the fifth step of displaying the notification message may include a UI for displaying the position of the detected obstacle in the form of a dot on a fan-shaped area corresponding to the imaging area by the camera, and the calculated estimated travel time. Preferably, the obstacle detection method around the roller is characterized by displaying together a notification message including information on the screen.
삭제delete
삭제delete
삭제delete
삭제delete
삭제delete
본 발명에 따르면, 롤러의 주행 방향의 전방에 장애물이 감지되면 롤러의 주행을 정지하도록 제어하여 예상되는 충돌 사고를 미연에 방지할 수 있고, 롤러의 주행 방향과는 관계없으나 측방에 근접한 위치에 장애물이 감지되는 경우 작업자의 조작 화면에 경고 메시지를 표시해 줌으로써 주행 시에 보다 주의를 갖고 운전할 수 있도록 하는 효과가 있다.According to the present invention, when an obstacle is detected in front of the driving direction of the roller, the controller stops the driving of the roller to prevent an unexpected collision, and the obstacle is located at a position close to the side regardless of the driving direction of the roller. If the detection is detected by displaying a warning message on the operator's operation screen has the effect of being able to drive with more attention when driving.
도 1은 본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법을 개략적으로 나타내는 도면이고,
도 2는 본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법의 순서도이고,
도 3은 도 2의 지반 다짐 장비를 제어하는 기기의 화면에 장애물의 위치를 표시하는 UI와 알림 메시지를 표시한 상태를 나타낸 도면이다.1 is a view schematically showing a method for detecting an obstacle around a roller according to an embodiment of the present invention.
2 is a flow chart of the obstacle detection method around the roller according to an embodiment of the present invention,
FIG. 3 is a diagram illustrating a state in which a UI and a notification message are displayed on a screen of a device for controlling the ground compaction apparatus of FIG. 2.
이상과 같은 본 발명에 대한 해결하려는 과제, 과제의 해결수단, 발명의 효과를 포함한 구체적인 사항들은 다음에 기재할 실시예 및 도면에 포함되어 있다. 본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.Specific matters including the problem to be solved, the solution to the problem, and the effects of the present invention as described above are included in the following embodiments and the drawings. Advantages and features of the present invention and methods for achieving them will be apparent with reference to the embodiments described below in detail with the accompanying drawings. Like reference numerals refer to like elements throughout.
도 1은 본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법을 개략적으로 나타내는 도면이고, 도 2는 본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법의 순서도이고, 도 3은 도 2의 지반 다짐 장비를 제어하는 기기의 화면에 장애물의 위치를 표시하는 UI와 알림 메시지를 표시한 상태를 나타낸 도면이다.1 is a view schematically showing a method for detecting an obstacle around a roller according to an embodiment of the present invention, FIG. 2 is a flowchart of a method for detecting an obstacle around a roller according to an embodiment of the present invention, and FIG. 3 is FIG. A diagram showing a state of displaying a UI and a notification message to display the location of the obstacle on the screen of the device controlling the ground compaction equipment.
이하, 도면들을 참조하여 본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법에 대해 설명하도록 한다.Hereinafter, an obstacle detection method around a roller according to an embodiment of the present invention will be described with reference to the drawings.
본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법을 구현하기 위해선, 롤러(11)는 건설 현장의 지면을 평탄화하거나 하는 데 이용되는 지반 다짐 장비(10)에 구비되는 일반적인 롤러의 형태로 마련되고, 롤러(11)의 상부에는 카메라(20)가 설치된 상태일 수 있다.In order to implement the obstacle detection method around the roller according to an embodiment of the present invention, the
다만, 본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법은 지반 다짐 장비(10)에 구비되는 롤러(11)를 이용한 경우로만 한정하지 않으며, 도로 포장을 위한 건설 장비에 구비되는 롤러를 이용하는 경우에도 마찬가지로 적용 가능하다.However, the obstacle detection method around the roller according to an embodiment of the present invention is not limited to the case using the
본 발명의 일 실시예에 따른 롤러 주변의 장애물 감지 방법은 다음과 같은 단계에 따라 수행된다.Obstacle detection method around the roller according to an embodiment of the present invention is performed according to the following steps.
도 2와 함께 본 발명을 살펴보면 본 발명의 제1 단계(S100)는 일정 속도에 따라 전방 또는 후방으로 주행하는 지반 다짐 장비의 롤러 상부에 전방 지면을 향하여 설치된 카메라를 통해 영상을 획득하는 단계이다.
제1 단계에서, 일정 속도에 따라 전방 또는 후방으로 주행하는 지반 다짐 장비(10)의 롤러(11) 상부에 전방을 향하여 설치된 카메라(20)를 통해 영상을 획득한다.Referring to the present invention together with FIG. 2, the first step (S100) of the present invention is a step of acquiring an image through a camera installed toward the front ground on an upper roller of the ground compaction equipment traveling forward or rearward according to a predetermined speed.
In the first step, the image is acquired through the
이때, 카메라(20)는 전방 전 영역과 양측방 일부 영역을 촬상 가능한 범위의 촬상각을 가지는 것으로 마련될 수 있다.In this case, the
여기서, 제1구역(i)은 롤러(11)의 전방 영역으로서, 롤러(11)의 현재 위치를 기준으로 한 카메라(20)의 촬상영역 내에서 롤러(11)의 양측 단부를 롤러(11)의 길이 방향에 대해 수직인 상하방향으로 연장한 영역에 해당하고, 제2구역(ii)은 롤러(11)의 측방 영역으로서, 롤러(11)의 현재 위치를 기준으로 한 카메라(20)의 촬상영역 내에서 제1구역(i)에 해당하는 영역을 제외한 나머지 영역에 해당할 수 있다.Here, the first zone (i) is the front region of the
예컨대, 도 1을 참조하면, 카메라(11)에 의해 촬영되는 촬상영역은 전방 전 영역에 해당하는 제1구역(i)과 양측방 일부 영역에 해당하는 제2구역(ii)을 포함하게 된다.For example, referring to FIG. 1, the imaging region photographed by the
다음으로, 본 발명의 제2 단계(S200)는 상기 제1 단계에서 획득된 영상에 포함된 영상프레임의 전체 평균 화소값과 상기 영상프레임으로부터 기설정된 크기로 분할된 적어도 하나 이상의 단위블록의 평균 화소값을 각각 비교한 결과에 기초하여 상기 획득된 영상 내에 존재하는 장애물을 검출하는 단계이다.Next, the second step (S200) of the present invention is the total average pixel value of the image frame included in the image obtained in the first step and the average pixel of at least one unit block divided into a predetermined size from the image frame It is a step of detecting an obstacle present in the obtained image based on the result of comparing the values.
이때, 상기 화소값은 각 화소의 색조(Hue), 채도(Saturation) 및 명도(Value) 중 어느 하나에 대한 값일 수 있다.In this case, the pixel value may be a value for any one of Hue, Saturation, and Brightness of each pixel.
여기서, 상기 장애물을 검출하는 단계(S200)는, 상기 영상프레임의 전체 평균 화소값과 적어도 하나 이상의 단위블록 각각의 평균 화소값과의 차이값이 기설정된 임계값을 초과하는 경우 해당 단위블록을 장애물에 대응하는 영역으로 검출할 수 있다.In the detecting of the obstacle (S200), when the difference value between the total average pixel value of the image frame and the average pixel value of each of the at least one unit block exceeds a preset threshold, the obstacle is blocked by the corresponding unit block. It can be detected as an area corresponding to
이때, 상기 단위블록의 평균 화소값을 비교하기 위한 기준이 되는 값은 상기 영상프레임의 전체 평균 화소값만으로 한정되지 않으며, 제1구역(i)의 평균 화소값과 제1구역(i)에 속하는 단위블록의 평균 화소값을 비교하고, 제2구역(ii)의 평균 화소값과 제2구역(ii)에 속하는 단위블록의 평균 화소값을 비교할 수도 있다.In this case, the reference value for comparing the average pixel values of the unit blocks is not limited to the entire average pixel value of the image frame, but belongs to the average pixel value of the first region (i) and the first region (i). The average pixel value of the unit block may be compared, and the average pixel value of the second block ii may be compared with the average pixel value of the unit block belonging to the second zone ii.
이 경우, 상기 장애물을 검출하는 제2 단계(S200)는, 제1 단계(S100)에서 획득된 영상에 포함된 영상프레임에서 제1구역(i)과 제2구역(ii)에 각각 해당하는 영역에서의 평균 화소값을 각각 계산하고, 제1구역(i)과 제2구역(ii)에 해당하는 영역을 각각 기설정된 크기(가령, 10x10 픽셀(pixel))를 갖는 단위블록으로 분할한다. 이후, 제1구역(i)에 해당하는 영역에서 분할된 적어도 하나 이상의 단위블록 각각의 평균 화소값과 제1구역(i)에서의 평균 화소값을 비교하고, 제2구역(ii)에 해당하는 영역에서 분할된 적어도 하나 이상의 단위블록 각각의 평균 화소값과 제2구역(ii)에서의 평균 화소값을 비교하여, 그 차이가 기설정된 임계값 이상인 경우 해당 단위블록에 장애물이 존재하는 것으로 판단하게 되며, 장애물이 존재하는 것으로 판단된 단위블록들을 모두 포함한 영역을 검출함으로써 최종적으로 장애물에 대응하는 영역을 검출하게 된다.In this case, the second step (S200) of detecting the obstacle may include regions corresponding to the first zone (i) and the second zone (ii), respectively, in the image frame included in the image acquired in the first step (S100). The average pixel values in E are respectively calculated, and the areas corresponding to the first and second regions i and i are divided into unit blocks each having a predetermined size (for example, 10x10 pixels). Thereafter, the average pixel value of each of the at least one unit block divided in the region corresponding to the first region i is compared with the average pixel value in the first region i, and corresponding to the second region (ii). Comparing the average pixel value of each of the at least one unit block divided in the area with the average pixel value in the second zone (ii), if the difference is more than a predetermined threshold value, it is determined that there is an obstacle in the unit block. Then, the area corresponding to the obstacle is finally detected by detecting an area including all of the unit blocks determined to exist.
한편, 상기 장애물에 대응하는 영역은, 전술한 방법 이외에도, 라플라시안(Laplacian) 연산을 이용한 2차 미분과 같은 일반적인 에지 검출 알고리즘을 이용하여 장애물에 대한 윤곽선을 검출할 수도 있다. 이와 같은 에지 검출 알고리즘은 당업자에게는 자명한 사항이므로 별도의 설명은 생략하기로 한다.On the other hand, the area corresponding to the obstacle, in addition to the above-described method, it is also possible to detect the contour of the obstacle using a general edge detection algorithm such as a second derivative using a Laplacian operation. Since such edge detection algorithm is obvious to those skilled in the art, a separate description will be omitted.
다음으로, 본 발명의 제3 단계(S300)는 제2 단계(S200)에서 검출된 장애물의 위치가 롤러(11)의 전방 영역에 해당하는 제1구역(i)과 롤러(11)의 측방 영역에 해당하는 제2구역(ii) 중 어느 구역에 속하는지를 결정하는 단계이다.Next, in the third step S300 of the present invention, the first zone i and the lateral area of the
예컨대, 도 1에 도시된 바와 같이, 장애물 A, 장애물 B, 장애물 C가 위치하는 경우, 장애물 A와 장애물 C는 제1구역(i)에 속하는 것으로 결정하고, 장애물 B는 제2구역(ii)에 속하는 것으로 결정하게 된다.For example, as shown in FIG. 1, when obstacles A, B and C are located, it is determined that the obstacles A and C belong to the first zone i, and the obstacle B is the second zone ii. It is decided to belong to.
다음으로, 본 발명의 제4 단계(S400)는 상기 제2 단계(S200)단계에 검출된 장애물의 최하단 지점과 롤러(11)의 최상단 지점 간의 최단 거리와 기설정된 지반 다짐 장비(10)의 주행 속도에 기초하여 롤러(11)가 S200단계에 검출된 장애물의 위치에 도달하는데 걸리는 예상 주행 시간을 계산하는 단계이다.Next, the fourth step S400 of the present invention is the shortest distance between the lowest point of the obstacle detected in the second step S200 and the highest point of the
구체적으로, 상기 제4 단계(S400)는, 제2 단계(S200)에서 검출된 장애물의 최하단 지점에서 연장된 수평선과 롤러(11)의 최상단 지점과의 최단 거리를 계산한 후, 계산된 최단 거리와 기설정된 지반 다짐 장비(10)의 주행 속도를 이용하여 롤러(11)가 상기 검출된 장애물의 위치에 도달하는데 걸리는 예상 주행 시간을 계산할 수 있다.Specifically, the fourth step (S400), after calculating the shortest distance between the horizontal line extending from the lowest point of the obstacle detected in the second step (S200) and the top point of the
예컨대, 도 1을 참조하면, 장애물 A의 최하단 지점과 롤러(11)의 최상단 지점과의 최단 거리는 'S1'로 계산되고, 장애물 B 및 장애물 C의 최하단 지점과 롤러(11)의 최상단 지점과의 최단 거리는 'S2'로 계산될 수 있다.For example, referring to FIG. 1, the shortest distance between the lowest point of the obstacle A and the highest point of the
이때, 만일 지반 다짐 장비(10)의 기설정된 주행 속도가 'V'라고 한다면, 장애물 A의 예상 주행 시간은 'S1/V'로 계산되고, 장애물 B와 장애물 C의 예상 주행 시간은 'S2/V'로 계산될 수 있다. At this time, if the predetermined traveling speed of the
다음으로, 본 발명의 제5 단계(S500)는 상기 제4 단계(S400)에서 계산된 예상 주행 시간에 대한 정보를 포함하는 알림 메시지를 상기 지반 다짐 장비를 제어하는 기기의 화면에 표시하는 단계이다.Next, the fifth step (S500) of the present invention is a step of displaying a notification message including information on the estimated driving time calculated in the fourth step (S400) on the screen of the device for controlling the ground compaction equipment .
여기서, 상기 알림 메시지를 표시하는 제5 단계(S500)는, 상기 제2 단계(S200)에서 검출된 장애물의 위치를 카메라(11)에 의한 촬상 영역에 대응하는 부채꼴 형상의 영역 상에 점 형태로 표시하는 UI와, 상기 계산된 예상 주행 시간에 대한 정보를 포함하는 알림 메시지를 상기 화면에 함께 표시할 수 있다.Here, the fifth step (S500) of displaying the notification message, the position of the obstacle detected in the second step (S200) in the form of a dot on the fan-shaped area corresponding to the imaging area by the camera 11 A UI to display and a notification message including information on the calculated estimated driving time may be displayed together on the screen.
예컨대, 도 3를 참조하면, 지반 다짐 장비(10)를 제어하는 기기의 화면의 일측 영역을 표시하는 UI 표시부(110)에는 롤러(11)의 전방 또는 양측방 일부에 위치하는 장애물 A, 장애물 B, 및 장애물 C의 위치를 점 형태로 표시한 UI가 표시되고, 상기 화면의 타측 영역을 표시하는 메시지 표시부(120)에는 전술한 제4 단계(S400)에서 장애물 A, 장애물 B 및 장애물 C 각각에 대해 계산한 각각의 예상 주행 시간에 대한 정보가 표시될 수 있다.For example, referring to FIG. 3, the
다음으로, 본 발명의 제6 단계(S600)는 상기 제3 단계에서 검출된 장애물의 위치가 상기 제1구역에 속하는 것으로 판단된 경우, 상기 제4 단계(S400)에서 계산한 예상 주행 시간에서 기설정된 정지 동작 시간을 빼서 계산한 예상 도달 시간 내에 지반 다짐 장비(10)의 주행을 정지하도록 하는 제1제어신호를 생성시킨다.Next, in the sixth step S600 of the present invention, when it is determined that the position of the obstacle detected in the third step belongs to the first zone, the sixth step S600 is performed based on the estimated driving time calculated in the fourth step S400. The first control signal is generated to stop the driving of the
여기서, 상기 정지 동작 시간은, 작업자가 지반 다짐 장비(10)의 구동 정지 명령을 입력한 후 실제로 롤러(11)가 정지하는 데까지 소요되는 시간일 수 있다.In this case, the stop operation time may be a time required for the
예컨대, 만일 상기 예상 주행 시간이 '5초'이고 기설정된 정지 동작 시간이 '2초'라고 한다면, 상기 예상 주행 시간은 '3초'가 되므로, '3초' 이내에 제1제어신호를 생성되게 된다.For example, if the estimated driving time is '5 seconds' and the preset stop operation time is '2 seconds', the expected driving time is '3 seconds', so that the first control signal is generated within '3 seconds'. do.
본 발명의 제6 단계(S600)에서는 또한, 상기 제3 단계에서 검출된 장애물의 위치가 상기 제1구역에 속하는 것으로 판단된 경우, 상기 계산한 예상 도달 시간이 기설정된 임계시간 미만인 경우, 상기 지반 다짐 장비를 상기 임계시간 동안 후방으로 주행한 후 정지하도록 하는 제2제어신호를 생성시킨다.In the sixth step S600 of the present invention, when it is determined that the position of the obstacle detected in the third step belongs to the first zone, when the calculated estimated arrival time is less than a preset threshold time, the ground The second control signal is generated to cause the compaction equipment to run backward during the threshold time and stop.
이때, 상기 임계시간은 상기 제1제어신호를 생성하는 데에 소요되는 시간일 수 있다.In this case, the threshold time may be a time required to generate the first control signal.
예컨대, 상기 임계시간이 '1초'일 때, 만일 상기 예상 주행 시간이 '3초'이고 상기 정지 동작 시간이 '2.5초'인 경우, 상기 예상 주행 시간은 '0.5초'가 되어 상기 임계시간 미만이 되므로, 지반 다짐 장비(10)를 '1초' 동안 후방으로 주행한 후에 정지하도록 하는 제2제어신호를 생성하게 된다.For example, when the threshold time is '1 second', if the estimated driving time is '3 seconds' and the stop operation time is '2.5 seconds', the estimated driving time becomes '0.5 second' and thus the threshold time. Since it is less than, the
이는 장애물이 롤러와 매우 근접한 위치에 있어 정지 동작을 취하더라도 충돌을 예방할 수 없는 경우엔 정지 동작을 수행하기에 앞서 후방으로 롤러가 이동하도록 하여 최대한 장애물과의 충돌 발생을 예방하기 위한 것이다.This is to prevent the collision with the obstacle as much as possible by allowing the roller to move backwards before performing the stop operation when the obstacle cannot be prevented even when the obstacle is in close proximity to the roller.
다음으로, 본 발명의 제7 단계(S620)는 상기 제6 단계(S600)에 검출된 장애물의 위치가 제2구역에 속하는 것으로 결정된 경우, 상기 예상 주행 시간 내에 상기 장애물이 측방에서 근접한 위치에 있음을 알리는 경고 메시지를 상기 화면에 표시하는 단계이다.Next, in the seventh step S620 of the present invention, when it is determined that the position of the obstacle detected in the sixth step S600 belongs to the second zone, the obstacle is in a position proximate to the side within the estimated travel time. Displaying a warning message on the screen.
여기서, 상기 경고 메시지는 도 2에 도시된 메시지 표시부(120)에 팝업창 형태로 표시될 수 있다.Here, the warning message may be displayed in the form of a pop-up window on the
이에 따라, 본 발명에 의하면, 롤러의 주행 방향의 전방에 장애물이 감지되면 롤러의 주행을 정지하도록 제어하여 예상되는 충돌 사고를 미연에 방지할 수 있고, 롤러의 주행 방향과는 관계없으나 측방에 근접한 위치에 장애물이 감지되는 경우 작업자의 조작 화면에 경고 메시지를 표시해 줌으로써 주행 시에 보다 주의를 갖고 운전할 수 있도록 하는 효과가 있다.Accordingly, according to the present invention, when an obstacle is detected in front of the driving direction of the roller, the controller stops the driving of the roller to prevent an unexpected collision, and is close to the side regardless of the driving direction of the roller. When an obstacle is detected at the location, a warning message is displayed on the operator's operation screen, so that the driver can be driven with more caution when driving.
이상, 바람직한 실시예를 통하여 본 발명에 관하여 상세히 설명하였으나, 본 발명은 이에 한정되는 것은 아니며 특허청구범위 내에서 다양하게 실시될 수 있다.As mentioned above, the present invention has been described in detail through preferred embodiments, but the present invention is not limited thereto and may be variously implemented within the scope of the claims.
10: 지반 다짐 장비 11: 롤러
20: 카메라 110: UI 표시부
120: 메시지 표시부
S100 :제1 단계 S200 :제2 단계
S300 :제3 단계 S400 :제4 단계
S500 :제5 단계 S600, S700, S720, S740 :제6 단계
S600, S620 :제7 단계 10: Soil Compaction Equipment 11: Roller
20: camera 110: UI display
120: message display
S100: First step S200: Second step
S300: third step S400: fourth step
S500: 5th step S600, S700, S720, S740: 6th step
S600, S620: Seventh Step
Claims (7)
상기 제1 단계에서 획득된 영상에 포함된 영상프레임의 전체 평균 화소값과 상기 영상프레임으로부터 기설정된 크기로 분할된 적어도 하나 이상의 단위블록의 평균 화소값을 각각 비교한 결과에 기초하여 상기 획득된 영상 내에 존재하는 장애물을 검출하는 제2 단계;
상기 롤러의 전방 영역으로서 롤러의 현재 위치를 기준으로 한 상기 카메라의 촬상영역 내에서 상기 롤러의 양측 단부를 상기 롤러의 길이 방향에 대해 수직인 상하방향으로 연장한 제1 구역과, 상기 롤러의 측방 영역으로서 상기 롤러의 현재 위치를 기준으로 한 상기 카메라의 촬상영역 중 상기 제1 구역을 제외한 나머지 영역에 해당하는 제2 구역을 구분하고, 상기 제2 단계에서 검출된 장애물의 위치가 상기 제1 구역과 제2 구역 중 어느 구역에 속하는지 분석하는 제3 단계;
상기 검출된 장애물의 최하단 지점과 상기 롤러의 최상단 지점 간의 최단 거리와 기설정된 상기 지반 다짐 장비의 주행 속도에 기초하여 상기 롤러가 상기 검출된 장애물의 위치에 도달하는데 걸리는 예상 주행 시간을 계산하는 제4 단계;
상기 계산된 예상 주행 시간에 대한 정보를 포함하는 알림 메시지를 상기 지반 다짐 장비를 제어하는 기기의 화면에 표시하는 제5 단계;
상기 제3 단계에서 검출된 장애물의 위치가 상기 제1 구역에 속하는 경우, 상기 예상 주행 시간에서 기설정된 정지 동작 시간을 빼서 계산한 예상 도달 시간내에 상기 지반 다짐 장비의 주행을 정지하도록 하는 제1 제어신호를 생성하며,
상기 예상 도달 시간이 기설정된 임계시간 미만인 경우, 상기 지반 다짐 장비를 상기 임계시간 동안 후방으로 주행한 후 정지하도록 하는 제2제어신호를 생성하는 제6 단계;
상기 제3 단계에서 검출된 장애물의 위치가 상기 제2구역에 속하는 것으로 결정된 경우, 상기 예상 주행 시간 내에 상기 장애물이 측방에 근접한 위치에 있음을 알리는 경고 메시지를 상기 화면에 표시하는 제7 단계;
를 포함하여 이루어지는 것을 특징으로 하는 롤러 주변의 장애물 감지 방법.A first step of acquiring an image through a camera installed on the front surface of the roller of the ground compaction equipment traveling forward or backward at a predetermined speed;
The obtained image based on a result of comparing the total average pixel value of the image frame included in the image obtained in the first step with the average pixel value of at least one unit block divided into a predetermined size from the image frame, respectively Detecting an obstacle present within the second step;
A first region in which both end portions of the roller extend in an up-down direction perpendicular to the longitudinal direction of the roller in an image capturing region of the camera based on the current position of the roller as the front region of the roller, and the side of the roller; As the area, the second area corresponding to the remaining area except the first area of the imaging area of the camera based on the current position of the roller is divided, and the position of the obstacle detected in the second step is the first area. A third step of analyzing which of the and second zones belongs to;
A fourth operation for calculating an expected travel time for the roller to reach the position of the detected obstacle based on the shortest distance between the lowest point of the detected obstacle and the highest point of the roller and a predetermined traveling speed of the ground compaction equipment. step;
A fifth step of displaying a notification message including information on the calculated estimated driving time on a screen of a device controlling the ground compaction equipment;
A first control for stopping the driving of the ground compaction equipment within the estimated arrival time calculated by subtracting a preset stop operation time from the estimated traveling time when the position of the obstacle detected in the third step belongs to the first zone; Generate a signal,
A sixth step of generating a second control signal for stopping the ground compaction equipment after driving backward for the threshold time when the estimated time of arrival is less than a preset threshold time;
A seventh step of displaying, on the screen, a warning message indicating that the obstacle is in a position close to the side within the estimated driving time when it is determined that the position of the obstacle detected in the third step belongs to the second zone;
Obstacle detection method around the roller, characterized in that comprises a.
상기 알림 메시지를 표시하는 제5 단계는,
상기 검출된 장애물의 위치를 상기 카메라에 의한 촬상 영역에 대응하는 부채꼴 형상의 영역 상에 점 형태로 표시하는 UI와, 상기 계산된 예상 주행 시간에 대한 정보를 포함하는 알림 메시지를 상기 화면에 함께 표시하는 것을 특징으로 하는 롤러 주변의 장애물 감지 방법.The method of claim 1,
The fifth step of displaying the notification message,
The UI displaying a position of the detected obstacle in the form of a dot on a fan-shaped area corresponding to the image capturing area by the camera and a notification message including information on the calculated estimated driving time are displayed together on the screen. Obstacle detection method around the roller, characterized in that.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160094601A KR101966801B1 (en) | 2016-07-26 | 2016-07-26 | Method for detecting obstacle around a roller |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160094601A KR101966801B1 (en) | 2016-07-26 | 2016-07-26 | Method for detecting obstacle around a roller |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20180011976A KR20180011976A (en) | 2018-02-05 |
KR101966801B1 true KR101966801B1 (en) | 2019-08-13 |
Family
ID=61224855
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160094601A KR101966801B1 (en) | 2016-07-26 | 2016-07-26 | Method for detecting obstacle around a roller |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101966801B1 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007249324A (en) * | 2006-03-14 | 2007-09-27 | Honda Motor Co Ltd | Vehicle surroundings monitoring system and program, vehicle, and method for configuring vehicle surroundings system |
JP2014519612A (en) * | 2011-06-17 | 2014-08-14 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | Method and display device for displaying the running state of a vehicle, and computer program product corresponding thereto |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101178508B1 (en) | 2010-07-19 | 2012-09-07 | 포항공과대학교 산학협력단 | Vehicle Collision Alarm System and Method |
KR20130007243A (en) | 2011-06-30 | 2013-01-18 | (주)베라시스 | Method and system for warning forward collision using camera |
KR20140126047A (en) * | 2013-04-22 | 2014-10-30 | 신현국 | Safety apparatus for construction machinery |
JP5831530B2 (en) * | 2013-11-18 | 2015-12-09 | トヨタ自動車株式会社 | Vehicle control device |
-
2016
- 2016-07-26 KR KR1020160094601A patent/KR101966801B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007249324A (en) * | 2006-03-14 | 2007-09-27 | Honda Motor Co Ltd | Vehicle surroundings monitoring system and program, vehicle, and method for configuring vehicle surroundings system |
JP2014519612A (en) * | 2011-06-17 | 2014-08-14 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | Method and display device for displaying the running state of a vehicle, and computer program product corresponding thereto |
Also Published As
Publication number | Publication date |
---|---|
KR20180011976A (en) | 2018-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9690993B2 (en) | Method and device for analyzing trafficability | |
KR102449834B1 (en) | Perimeter monitoring system for working machines | |
EP2808455B1 (en) | Operational stability enhancing device for construction machinery | |
JP6267972B2 (en) | Work machine ambient monitoring device | |
JP5995899B2 (en) | Self-propelled industrial machine image processing device | |
JP6072064B2 (en) | Image processing apparatus for self-propelled industrial machine and image processing method for self-propelled industrial machine | |
JP5473870B2 (en) | Construction machine monitoring equipment | |
JP6029941B2 (en) | Image generator for paving machines | |
WO2015182455A1 (en) | Work state detection system of work vehicle, and work vehicle | |
JP6586322B2 (en) | Self-propelled construction machine and control method of self-propelled construction machine | |
US20150368881A1 (en) | Construction machine having a monitoring device | |
US10017112B2 (en) | Surroundings monitoring device of vehicle | |
JPH11222882A (en) | Dangerous zone monitoring device | |
JP5902990B2 (en) | Self-propelled industrial machine image processing device | |
US20110311102A1 (en) | Machine control system utilizing stereo disparity density | |
KR102004000B1 (en) | Apparatus for displaying work prosedure guide of construction equipment using head up display and method thereof | |
EP3779047A1 (en) | Road machine | |
DE112015006345T5 (en) | DISPLAY SYSTEM OF A WORKING MACHINE AND DISPLAY PROCESS OF A WORKING MACHINE | |
KR102003998B1 (en) | Apparatus and method for sensing obstacles of construction equipment | |
JP6947566B2 (en) | Image processing device and image processing method | |
US20160191886A1 (en) | Data reproducing apparatus | |
KR101966801B1 (en) | Method for detecting obstacle around a roller | |
WO2017150136A1 (en) | External interference removal device | |
JP7366702B2 (en) | Method for creating a composite distance image, method for creating an image for monitoring sediment sampling, and device for creating a composite distance image | |
CN113396257B (en) | Target position estimation device for construction machine |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E90F | Notification of reason for final refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |