KR20160052948A - 운전자 보조 장치 및 방법 - Google Patents

운전자 보조 장치 및 방법 Download PDF

Info

Publication number
KR20160052948A
KR20160052948A KR1020140148517A KR20140148517A KR20160052948A KR 20160052948 A KR20160052948 A KR 20160052948A KR 1020140148517 A KR1020140148517 A KR 1020140148517A KR 20140148517 A KR20140148517 A KR 20140148517A KR 20160052948 A KR20160052948 A KR 20160052948A
Authority
KR
South Korea
Prior art keywords
back plate
curvature
vehicle
unit
information
Prior art date
Application number
KR1020140148517A
Other languages
English (en)
Other versions
KR101655553B1 (ko
Inventor
최재섭
Original Assignee
현대자동차주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 현대자동차주식회사 filed Critical 현대자동차주식회사
Priority to KR1020140148517A priority Critical patent/KR101655553B1/ko
Priority to US14/690,435 priority patent/US9632176B2/en
Priority to CN201510229281.2A priority patent/CN106184218B/zh
Publication of KR20160052948A publication Critical patent/KR20160052948A/ko
Application granted granted Critical
Publication of KR101655553B1 publication Critical patent/KR101655553B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/04Systems determining presence of a target
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/06Road conditions
    • B60W40/072Curvature of the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/06Road conditions
    • B60W40/076Slope angle of the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/862Combination of radar systems with sonar systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867Combination of radar systems with cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408Radar; Laser, e.g. lidar
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/54Audio sensitive means, e.g. ultrasound
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle
    • B60W2556/50External transmission of data to or from the vehicle of positioning data, e.g. GPS [Global Positioning System] data

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Mathematical Physics (AREA)
  • Electromagnetism (AREA)
  • Human Computer Interaction (AREA)
  • Traffic Control Systems (AREA)

Abstract

본 발명은 운전자 보조 장치 및 방법에 관한 것으로, 본 발명에 따르면 차량의 등판로 진입을 감지하고, 상기 차량에 설치된 센서를 통해 상기 등판로에 대한 등판로 정보를 검출하며 상기 등판로 정보에 근거하여 상기 등판로가 곡선로인지를 확인하여 상기 등판로가 곡선로이면 상기 등판로의 곡률을 측정하고, 상기 곡률에 근거하여 차량의 주행을 지원한다.

Description

운전자 보조 장치 및 방법{DRIVER ASSISTANCE APPARATUS AND METHOD}
본 발명은 운전자 보조 장치 및 방법에 관한 것으로, 더욱 상세하게는 곡선 등판로 주행 시 등판로 폭 인식을 통해 등판로의 곡률을 추정하여 조향 궤적을 안내하는 운전자 보조 장치 및 방법에 관한 것이다.
일반적으로, 건물이나 주차건물 등에 주차하는 경우, 운전자는 회전 반경이 작고 좁은 나선형의 등판로(곡선 등판로)를 통과해야 한다. 이 경우 초보 운전자나 운전 능력이 미숙한 운전자는 차량 조향에 어려움을 느낄뿐만 아니라 회전 중 측면 연석에 휠(wheel)을 긁히거나 부딪혀 사고가 나는 사례가 많이 발생한다.
한편, 운전자 보조 장치는 운전자가 좀 더 편리하고 안전하게 주행할 수 있도록 주행 정보나 위험 경보를 주거나 적극적인 개입을 통해서 안전사고를 방지하는 것으로서, 차선이탈경보, 전후방 충돌경보 등 다양한 시스템이 개발되고 있다.
그러나, 종래에는 회전 반경이 작고 좁은 곡선 등판로를 주행하는 운전자를 보조하는 기술에 대한 개발이 미흡하다.
본 발명은 상기한 종래기술의 문제점을 해결하기 위하여 안출된 것으로, 곡선 등판로 주행 시 등판로 폭 인식을 통해 등판로의 곡률을 추정하여 조향 궤적을 안내하는 운전자 보조 장치 및 방법을 제공하는데 목적이 있다.
상기한 과제를 해결하기 위하여, 본 발명에 따른 운전자 보조 방법은 차량의 등판로 진입을 감지하는 단계와, 상기 차량에 설치된 센서를 통해 상기 등판로에 대한 등판로 정보를 검출하는 단계와, 상기 등판로 정보에 근거하여 상기 등판로가 곡선로인지를 확인하는 단계와, 상기 등판로가 곡선로이면 상기 등판로의 곡률을 측정하는 단계와, 상기 곡률에 근거하여 차량의 주행을 지원하는 단계를 포함하는 것을 특징으로 한다.
또한, 상기 등판로 진입 감지 단계는, 상기 차량의 절대 좌표와 지도데이터의 매칭을 통해 차량의 현재 위치를 확인하여 등판로 진입을 감지하는 것을 특징으로 한다.
또한, 상기 등판로 진입 감지 단계는, 카메라 및 초음파 센서를 통해 측정한 데이터를 토대로 차량의 주변 환경을 분석하여 상기 등판로 진입을 감지하는 것을 특징으로 한다.
또한, 상기 등판로 진입 감지 단계는, 건물 진입 알림 기능이 할당된 스위치의 입력을 감지하는 것을 특징으로 한다.
또한, 상기 등판로 정보 검출 단계는, 영상 센서, 초음파 센서, 레이다 센서에 의해 측정된 데이터들 중 하나 이상을 융합하여 상기 등판로 정보를 검출하는 것을 특징으로 한다.
또한, 상기 등판로 정보는, 등판로 폭, 등판로 타입, 경사도, 곡선로 여부를 포함하는 것을 특징으로 한다.
또한, 상기 등판로 타입은, 상기 등판로 폭의 변화에 따라 오르막 및 내리막 중 어느 하나로 결정되는 것을 특징으로 한다.
또한, 상기 경사도는, 영상 내 상기 등판로 경계선의 수렴 및 발산 정도를 산출하여 그 수렴 및 발산 정도에 따라 경사도를 추정하는 것을 특징으로 한다.
또한, 상기 곡률 측정 단계는, 상기 경사도에 기반하여 평면으로 변환하고 수렴/발산 정도를 반영하여 동일한 너비를 가지는 등판로로 변환한 후 변환한 등판로의 곡률을 검출하는 것을 특징으로 한다.
또한, 상기 주행 지원 단계는, 상기 곡률에 따라 조향 제어를 위한 가이드라인을 표시하는 것을 특징으로 한다.
본 발명에 따른 운전자 보조 장치는 차량의 위치를 확인하는 네비게이션부와, 상기 차량 주변의 영상을 촬영하는 영상 획득부와, 상기 차량 주변의 물체를 탐지하는 탐지부와, 상기 영상 획득부 및 상기 탐지부를 통해 획득한 정보에 근거하여 상기 차량이 주행하는 등판로의 곡률을 측정하는 곡률측정부와, 상기 네비게이션 및 상기 영상 획득부, 상기 탐지부에 의해 획득한 정보에 근거하여 상기 차량의 등판로 진입을 감지하면 상기 등판로에 대한 정보를 검출하고 그 등판로 정보를 이용하여 상기 등판로가 곡선로인지를 확인하며 상기 곡률측정부에 의해 측정된 곡률에 따라 상기 차량의 주행을 지원하는 제어부를 포함하는 것을 특징으로 한다.
또한, 상기 영상 획득부는, AVM(Around View Monitoring System) 및 광각카메라, 단안 카메라 중 어느 하나 이상으로 구현되는 것을 특징으로 한다.
또한, 상기 탐지부는, 초음파 센서 및 레이더 센서를 포함하는 것을 특징으로 한다.
또한, 상기 등판로 정보는, 등판로 폭, 등판로 타입, 경사도, 곡선로 여부를 포함하는 것을 특징으로 한다.
또한, 상기 제어부는, 상기 영상 획득부를 통해 획득한 영상에서 등판로 경계선을 검출하고 그 검출한 경계선 간의 직선거리를 상기 등판로 폭으로 검출하는 것을 특징으로 한다.
또한, 상기 제어부는, 영상 내 상기 등판로 경계선의 수렴 및 발산 정도를 산출하여 그 수렴 및 발산 정도에 따라 경사도를 추정하는 것을 특징으로 한다.
또한, 상기 제어부는, 상기 경사도에 기반하여 평면으로 변환하고 수렴/발산 정도를 반영하여 동일한 너비를 가지는 등판로로 변환한 후 변환한 등판로의 곡률을 검출하는 것을 특징으로 한다.
본 발명은 곡선 등판로 주행 시 차량에 장착된 각종 센서를 통해 등판로 폭을 인식하고 그 등판로 폭을 이용하여 곡선 등판로의 곡률을 추정하여 조향 궤적(가이드라인)을 안내하여 운전자의 조향 조작을 보조할 수 있다. 특히, 건물 및 주차건물 등에 주차하는 경우 초보자 또는 운전이 미숙한 운전자도 좁은 곡선 등판로를 보다 편리하고 안전하게 통과할 수 있게 한다.
또한, 본 발명은 내리막길의 경우 차량 전면에 의해 보이지 않는 부분에 대한 확인이 가능하며 운전자의 사각지역에 대한 시야 확보가 가능하게 한다.
또한, 본 발명에서 제안한 오르막 및 내리막 감지 방법은 실도로에도 적용할 수 있다.
도 1은 본 발명의 일 실시예에 따른 운전자 보조 장치의 블록구성도.
도 2는 본 발명과 관련된 차량 위치에 따른 전후방 영상 내 등판로 형상을 표시한 예시도.
도 3은 본 발명에 따른 경사도 검출 방법을 설명하기 위한 개념도.
도 4는 본 발명에 따른 경사도 반영한 곡률 보정을 도시한 예시도.
도 5는 본 발명과 관련된 곡률에 따른 가이드라인 표시한 화면.
도 6은 본 발명의 일 실시예에 따른 운전자 보조 방법을 도시한 흐름도.
이하, 본 발명의 실시예를 첨부한 도면들을 참조하여 상세하게 설명한다.
도 1은 본 발명의 일 실시예에 따른 운전자 보조 장치의 블록구성도를 도시하고, 도 2는 본 발명과 관련된 차량 위치에 따른 전후방 영상 내 등판로 형상을 표시한 예시도이며, 도 3은 본 발명에 따른 경사도 검출 방법을 설명하기 위한 개념도이고, 도 4는 본 발명에 따른 경사도 반영한 곡률 보정을 도시한 예시도이고, 도 5는 본 발명과 관련된 곡률에 따른 가이드라인 표시한 화면이다.
도 1에 도시된 바와 같이, 운전자 보조 장치는 네비게이션부(10), 영상 획득부(20), 탐지부(30), 곡률측정부(40), 표시부(50), 제어부(60)를 포함한다.
네비게이션부(10)는 GPS(Global Positioning System) 수신기(미도시)를 통해 차량의 절대 좌표를 획득하고, 그 절대 좌표를 메모리(미도시)에 저장된 지도데이터에 매칭하여 차량의 현재 위치를 확인한다.
영상 획득부(20)는 차량에 설치되어 차량 주변의 영상을 촬영한다. 이러한 영상 획득부(20)는 AVM(Around View Monitoring System), 광각카메라 및 단안 카메라 등으로 구현된다. 예컨대, 영상 획득부(20)는 제어부(60)의 제어에 따라 차량의 진행 방향 전방영상을 촬영한다.
탐지부(30)는 차량에 설치되어 차량 주변의 물체를 탐지한다. 이러한 탐지부(30)는 초음파 센서 및 레이다(radar) 센서를 포함한다.
곡률측정부(40)는 영상 획득부(20) 및 탐지부(30)를 통해 획득한 정보를 이용하여 등판로 곡률을 측정한다.
표시부(50)는 차량의 진행 방향 전방의 곡률 및 가이드 라인, 경보 등의 정보를 표시한다. 이때, 표시부(50)는 영상 획득부(20)를 통해 획득한 영상 위에 정보를 중첩하여 표시한다.
표시부(50)는 액정 디스플레이, 플렉시블 디스플레이, 투명 디스플레이, LED(light emitting display) 디스플레이, HUD(head-up display) 디스플레이 등으로 구현될 수 있다.
제어부(60)는 차량의 위치 정보 및 주변 환경 정보에 근거하여 차량의 등판로 진입여부를 확인한다. 즉, 제어부(60)는 네비게이션부(10), 영상 획득부(20), 탐지부(30)를 통해 획득한 정보에 근거하여 차량이 등판로에 진입하는지 여부를 확인한다.
차량의 등판로 진입 여부를 확인하는 방법에는 3가지가 있다.
첫째는, 네비게이션을 이용하여 차량 위치를 확인하므로 등판로 진입여부를 확인하는 것이다. 예컨대, 제어부(60)는 네비게이션부(10)를 통해 차량 위치를 확인하여 차량이 건물의 지하주차장 진입을 시도하는지를 감지하고, 차량이 지하주차장 진입을 시도하면 등판로 진입으로 인식한다.
둘째는 차량의 주변 환경을 분석하여 차량의 등판로 진입을 확인하는 것이다. 다시 말해서, 제어부(60)는 영상 획득부(20) 및 탐지부(30)와 같이 차량에 장착된 센서들을 이용하여 측정한 데이터에 근거하여 차량의 주변 환경을 분석하므로 차량의 등판로 진입을 확인한다. 예를 들어, 제어부(60)는 센서들을 통해 양측면 연석 또는 주차 통제 게이트 통과 또는 실내주차장 진입 시 경고음 등을 감지하면 등판로 진입으로 인식한다.
셋째는, 운전자 입력을 통해 등판로 진입 여부를 인식하는 것이다. 즉, 제어부(60)는 건물 진입 알림 기능이 할당된 스위치가 별도로 구비된 경우 그 스위치의 입력을 감지하면 등판로 진입으로 인식한다. 여기서, 스위치는 비상등 스위치 또는 전조등 스위치가 이용될 수도 있다.
제어부(60)는 등판로 진입을 감지하면 영상 획득부(20) 및 탐지부(30)를 통해 등판로 정보를 검출한다. 여기서, 등판로 정보는 등판로 폭, 등판로 타입(오르막, 내리막), 경사도, 곡선로 여부를 포함한다.
제어부(60)는 영상 획득부(20) 및 탐지부(30)를 통해 획득한 정보를 융합하여 현재 등판로 폭을 검출한다. 이때, 제어부(60)는 영상 획득부(20)에 의해 획득한 영상 내에서 연석, 중앙 분리대, 주행안내선 등을 등판로 경계선으로 검출하고, 그 검출한 경계선 간의 직선거리를 등판로 폭으로 구한다. 또는, 제어부(60)는 초음파 센서 또는 레이다를 통해 벽면 또는 장애물과 차량과의 거리를 측정하고, 그 측정한 거리 정보를 이용하여 등판로 폭을 산출한다.
제어부(60)는 영상 획득부(20)를 통해 획득한 영상 정보를 이용하여 등판로 타입을 확인한다. 이를 위해, 제어부(60)는 영상 정보로부터 직선 또는 곡선인 등판로 경계선(L1, L2)을 검출하고 초음파 센서의 측정값을 참조하여 등판로 폭(d)을 측정한다. 그리고, 제어부(60)는 도 2에 도시된 바와 같이 차량의 진행방향 전방 등판로 폭이 점점 넓어지면 오르막 시작 지점(P1) 또는 내리막 종료 지점(P4)으로 확인하고, 등판로 폭이 점점 좁아지면 내리막 시작 지점(P2) 또는 오르막 종료 지점(P3)으로 인식한다.
제어부(60)는 등판로 폭을 이용하여 등판로 경계선의 기울기를 산출하므로 경사도를 검출한다. 도 3을 참조하면, 제어부(60)는 경사로 산출을 위해 영상 획득부(20)를 통해 획득한 영상 내에서 주행로(등판로)의 좌우 경계선 L1 및 L2를 추출한다. 그리고, 제어부(60)는 좌우 경계선 L1 및 L2의 수렴/발산 정도를 다음 [수학식 1]을 이용하여 계산한다.
여기서, θ가 (-)인 경우 경계선은 수렴하는 방향이고, (+)인 경우 경계션은 발산하는 방향이다.
제어부(60)는 주행로가 직선로가 아닌 곡선로인 경우 도 3의 하단에 도시된 바와 같이 분할하여 각 분할영역별 경계선의 수렴 또는 발산 정도를 계산하여 평균값을 구한다. 여기서, 제어부(60)는 곡률값에 따라 분할 단계를 조정할 수 있다.
제어부(60)는 주행로의 수렴/발산 정도 θ와 경사도 Ø의 관계가 정의된 수식 또는 룩업테이블(lookup table)을 통해 좌우 경계선의 수렴/발산 정도 θ에 대응하는 경사도 Ø를 추정한다. 여기서, 경사도가 (-)인 경우는 내리막이고, (+)인 경우에는 오르막으로 값이 커질수록 경사도가 커진다.
제어부(60)는 차량이 진입한 등판로가 곡선로이면 앞서 인지한 오르막/내리막 여부와 경사도를 고려하여 곡률측정부(40)를 통해 등판로의 곡률을 측정한다. 즉, 제어부(60)는 경사도를 반영하여 도 4에 도시된 바와 같이 영상 내 등판로의 곡률을 보정한다.
제어부(60)는 곡률을 측정하기 위하여 영상 획득부(20)를 통해 획득한 영상을 경사도에 기반하여 평면으로 변환한다. 이때, 내리막길 및 오르막길이 평면으로 변환되더라도 수렴/발산 형태는 유지된다.
제어부(60)는 수렴/발산 정도를 반영하여 동일한 너비를 가지는 주행로(등판로)로 변환한다. 그리고, 제어부(60)는 그 변환한 주행로의 곡률을 검출(측정)한다.
제어부(60)는 측정한 곡률에 근거하여 차량의 주행을 지원한다. 예컨대, 제어부(60)는 운전자의 조향 조작을 유도하는 측정한 곡률에 기반한 가이드 라인을 도 4와 같이 표시부(50)에 표시한다.
또한, 제어부(60)는 측정한 곡률에 따라 조향장치(미도시)를 제어하여 차량의 조향을 자동으로 조절할 수 있다.
도 5는 본 발명의 일 실시예에 따른 운전자 보조 방법을 도시한 흐름도이다.
도 5를 참조하면, 운전자 보조 장치의 제어부(60)는 차량의 위치 정보 및 주변 환경 정보에 근거하여 차량의 등판로 진입을 감지한다(S11). 다시 말해서, 제어부(60)는 네비게이션부(10) 및 영상 획득부(20), 탐지부(30)를 통해 획득한 정보에 이용하여 차량의 등판로 진입 여부를 확인한다.
제어부(60)는 영상 획득부(20) 및 탐지부(30)를 통해 등판로에 대한 등판로 정보를 검출한다(S12). 여기서, 등판로 정보는 등판로 폭, 등판로 타입, 경사도, 곡선로 여부 등의 정보를 포함한다.
제어부(60)는 등판로 정보에 근거하여 등판로가 곡선로인지를 확인한다(S13). 예를 들어, 제어부(60)는 영상 획득부(20)를 통해 획득한 영상에서 등판로 경계선을 추출하고 그 추출한 경계선의 형상을 통해 등판로가 곡선로인지 직선로인지를 확인한다.
제어부(60)는 등판로가 곡선로이면 곡률측정부(40)를 통해 등판로의 곡률을 측정한다(S14).
제어부(60)는 측정한 곡률에 근거하여 차량의 주행을 지원한다(S15). 다시 말해서, 제어부(60)는 측정한 곡률에 근거하여 조향 궤적을 표시부(50)에 표시하여 운전자의 조향 조작을 안내한다.
이상에서, 본 발명의 실시예를 구성하는 모든 구성 요소들이 하나로 결합되거나 결합되어 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시예에 한정되는 것은 아니다. 즉, 본 발명의 목적 범위 안에서라면, 그 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다. 또한, 그 모든 구성요소들이 각각 하나의 독립적인 하드웨어로 구현될 수 있지만, 각 구성 요소들의 그 일부 또는 전부가 선택적으로 조합되어 하나 또는 복수 개의 하드웨어에서 조합된 일부 또는 전부의 기능을 수행하는 프로그램 모듈을 갖는 컴퓨터 프로그램으로서 구현될 수도 있다. 그 컴퓨터 프로그램을 구성하는 코드들 및 코드 세그먼트들은 본 발명의 기술 분야의 당업자에 의해 용이하게 추론될 수 있을 것이다. 이러한 컴퓨터 프로그램은 컴퓨터가 읽을 수 있는 저장매체(Computer Readable Media)에 저장되어 컴퓨터에 의하여 읽혀지고 실행됨으로써, 본 발명의 실시예를 구현할 수 있다. 컴퓨터 프로그램의 저장매체로서는 자기 기록매체, 광 기록매체, 캐리어 웨이브 매체 등이 포함될 수 있다.
또한, 이상에서 기재된 "포함하다", "구성하다" 또는 "가지다" 등의 용어는, 특별히 반대되는 기재가 없는 한, 해당 구성 요소가 내재될 수 있음을 의미하는 것이므로, 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것으로 해석되어야 한다. 기술적이거나 과학적인 용어를 포함한 모든 용어들은, 다르게 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 사전에 정의된 용어와 같이 일반적으로 사용되는 용어들은 관련 기술의 문맥 상의 의미와 일치하는 것으로 해석되어야 하며, 본 발명에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
10: 네비게이션부
20: 영상 획득부
30: 탐지부
40: 곡률측정부
50: 표시부
60: 제어부

Claims (17)

  1. 차량의 등판로 진입을 감지하는 단계와,
    상기 차량에 설치된 센서를 통해 상기 등판로에 대한 등판로 정보를 검출하는 단계와,
    상기 등판로 정보에 근거하여 상기 등판로가 곡선로인지를 확인하는 단계와,
    상기 등판로가 곡선로이면 상기 등판로의 곡률을 측정하는 단계와,
    상기 곡률에 근거하여 차량의 주행을 지원하는 단계를 포함하는 것을 특징으로 하는 운전자 보조 방법.
  2. 제1항에 있어서,
    상기 등판로 진입 감지 단계는,
    상기 차량의 절대 좌표와 지도데이터의 매칭을 통해 차량의 현재 위치를 확인하여 등판로 진입을 감지하는 것을 특징으로 하는 운전자 보조 방법.
  3. 제1항에 있어서,
    상기 등판로 진입 감지 단계는,
    카메라 및 초음파 센서를 통해 측정한 데이터를 토대로 차량의 주변 환경을 분석하여 상기 등판로 진입을 감지하는 것을 특징으로 하는 운전자 보조 방법.
  4. 제1항에 있어서,
    상기 등판로 진입 감지 단계는,
    건물 진입 알림 기능이 할당된 스위치의 입력을 감지하는 것을 특징으로 하는 운전자 보조 방법.
  5. 제1항에 있어서,
    상기 등판로 정보 검출 단계는,
    영상 센서, 초음파 센서, 레이다 센서에 의해 측정된 데이터들 중 하나 이상을 융합하여 상기 등판로 정보를 검출하는 것을 특징으로 하는 운전자 보조 방법.
  6. 제5항에 있어서,
    상기 등판로 정보는,
    등판로 폭, 등판로 타입, 경사도, 곡선로 여부를 포함하는 것을 특징으로 하는 운전자 보조 방법.
  7. 제6항에 있어서,
    상기 등판로 타입은,
    상기 등판로 폭의 변화에 따라 오르막 및 내리막 중 어느 하나로 결정되는 것을 특징으로 하는 운전자 보조 방법.
  8. 제6항에 있어서,
    상기 경사도는,
    영상 내 상기 등판로 경계선의 수렴 및 발산 정도를 산출하여 그 수렴 및 발산 정도에 따라 경사도를 추정하는 것을 특징으로 하는 운전자 보조 방법.
  9. 제8항에 있어서,
    상기 곡률 측정 단계는,
    상기 경사도에 기반하여 평면으로 변환하고 수렴/발산 정도를 반영하여 동일한 너비를 가지는 등판로로 변환한 후 변환한 등판로의 곡률을 검출하는 것을 특징으로 하는 운전자 보조 방법.
  10. 제1항에 있어서,
    상기 주행 지원 단계는,
    상기 곡률에 따라 조향 제어를 위한 가이드라인을 표시하는 것을 특징으로 하는 운전자 보조 방법.
  11. 차량의 위치를 확인하는 네비게이션부와,
    상기 차량 주변의 영상을 촬영하는 영상 획득부와,
    상기 차량 주변의 물체를 탐지하는 탐지부와,
    상기 영상 획득부 및 상기 탐지부를 통해 획득한 정보에 근거하여 상기 차량이 주행하는 등판로의 곡률을 측정하는 곡률측정부와,
    상기 네비게이션 및 상기 영상 획득부, 상기 탐지부에 의해 획득한 정보에 근거하여 상기 차량의 등판로 진입을 감지하면 상기 등판로에 대한 정보를 검출하고 그 등판로 정보를 이용하여 상기 등판로가 곡선로인지를 확인하며 상기 곡률측정부에 의해 측정된 곡률에 따라 상기 차량의 주행을 지원하는 제어부를 포함하는 것을 특징으로 하는 운전자 보조 장치.
  12. 제11항에 있어서,
    상기 영상 획득부는,
    AVM(Around View Monitoring System) 및 광각카메라, 단안 카메라 중 어느 하나 이상으로 구현되는 것을 특징으로 하는 운전자 보조 장치.
  13. 제11항에 있어서,
    상기 탐지부는,
    초음파 센서 및 레이더 센서를 포함하는 것을 특징으로 하는 운전자 보조 장치.
  14. 제11항에 있어서,
    상기 등판로 정보는,
    등판로 폭, 등판로 타입, 경사도, 곡선로 여부를 포함하는 것을 특징으로 하는 운전자 보조 장치.
  15. 제14항에 있어서,
    상기 제어부는,
    상기 영상 획득부를 통해 획득한 영상에서 등판로 경계선을 검출하고 그 검출한 경계선 간의 직선거리를 상기 등판로 폭으로 검출하는 것을 특징으로 하는 운전자 보조 장치.
  16. 제15항에 있어서,
    상기 제어부는,
    영상 내 상기 등판로 경계선의 수렴 및 발산 정도를 산출하여 그 수렴 및 발산 정도에 따라 경사도를 추정하는 것을 특징으로 하는 운전자 보조 장치.
  17. 제16항에 있어서,
    상기 제어부는,
    상기 경사도에 기반하여 평면으로 변환하고 수렴/발산 정도를 반영하여 동일한 너비를 가지는 등판로로 변환한 후 변환한 등판로의 곡률을 검출하는 것을 특징으로 하는 운전자 보조 장치.
KR1020140148517A 2014-10-29 2014-10-29 운전자 보조 장치 및 방법 KR101655553B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020140148517A KR101655553B1 (ko) 2014-10-29 2014-10-29 운전자 보조 장치 및 방법
US14/690,435 US9632176B2 (en) 2014-10-29 2015-04-19 Driver assistance apparatus and method
CN201510229281.2A CN106184218B (zh) 2014-10-29 2015-05-07 驾驶员辅助设备和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140148517A KR101655553B1 (ko) 2014-10-29 2014-10-29 운전자 보조 장치 및 방법

Publications (2)

Publication Number Publication Date
KR20160052948A true KR20160052948A (ko) 2016-05-13
KR101655553B1 KR101655553B1 (ko) 2016-09-08

Family

ID=55851746

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140148517A KR101655553B1 (ko) 2014-10-29 2014-10-29 운전자 보조 장치 및 방법

Country Status (3)

Country Link
US (1) US9632176B2 (ko)
KR (1) KR101655553B1 (ko)
CN (1) CN106184218B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112937557A (zh) * 2021-03-09 2021-06-11 东风汽车集团股份有限公司 一种基于曲率控制的代客泊车路径规划方法及系统
KR20210111730A (ko) * 2018-09-28 2021-09-13 한국전자기술연구원 전방 차선의 너비 정보를 이용한 도로의 곡률 및 기울어짐 추정 방법

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102016109850B4 (de) * 2016-05-30 2024-01-11 Valeo Schalter Und Sensoren Gmbh Verfahren zum Erkennen einer Neigung in einer Fahrbahn eines Kraftfahrzeugs, Fahrerassistenzsystem sowie Kraftfahrzeug
DE102016110461A1 (de) * 2016-06-07 2017-12-07 Connaught Electronics Ltd. Verfahren zum Erkennen einer Neigung in einer Fahrbahn für ein Kraftfahrzeug, Fahrerassistenzsystem sowie Kraftfahrzeug
KR102521655B1 (ko) * 2016-09-01 2023-04-13 삼성전자주식회사 자율 주행 방법 및 장치
JP2018159738A (ja) * 2017-03-22 2018-10-11 アイシン・エィ・ダブリュ株式会社 虚像表示装置
DE102017206245A1 (de) * 2017-04-11 2018-10-11 Conti Temic Microelectronic Gmbh Vorrichtung und verfahren zur detektion eines geländeverlaufs
JP6963490B2 (ja) * 2017-12-15 2021-11-10 株式会社デンソー 車両制御装置
US11719932B2 (en) * 2018-07-13 2023-08-08 Maxell, Ltd. Head-up display
US10525881B1 (en) * 2018-12-21 2020-01-07 Robert Bosch Gmbh Wheel orientation warning system
US11312416B2 (en) * 2019-01-30 2022-04-26 Toyota Motor Engineering & Manufacturing North America, Inc. Three-dimensional vehicle path guidelines
CN110525360B (zh) * 2019-08-26 2022-04-26 合创汽车科技有限公司 基于车载终端的辅助驾驶方法、装置、系统及存储介质
KR20210082966A (ko) * 2019-12-26 2021-07-06 현대자동차주식회사 차량 주행 제어 장치 및 방법
FR3117078A1 (fr) * 2020-12-07 2022-06-10 Psa Automobiles Sa Procédé et dispositif de changement de consigne d’accélération longitudinale d’un dispositif de changement de voie autonome d’un véhicule autonome.
CN113566834A (zh) * 2021-07-20 2021-10-29 广州小鹏汽车科技有限公司 定位方法、定位装置、车辆和存储介质
WO2023237287A1 (en) * 2022-06-08 2023-12-14 Zf Cv Systems Global Gmbh A driver assistance arrangement for a vehicle, in particular a utility vehicle, a vehicle, a driver assistance method for a vehicle, and a computer program

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008143263A (ja) * 2006-12-07 2008-06-26 Mazda Motor Corp 車両の走行制御装置
KR20100000835A (ko) * 2008-06-25 2010-01-06 현대자동차주식회사 운전자 보조 시스템
JP2011235695A (ja) * 2010-05-07 2011-11-24 Clarion Co Ltd 車載勾配推定装置、勾配推定方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6577334B1 (en) * 1998-02-18 2003-06-10 Kabushikikaisha Equos Research Vehicle control
DE19835937A1 (de) * 1998-08-08 2000-02-10 Wabco Gmbh Verfahren zur Regelung der Abstiegsgeschwindigkeit eines Gelände-Fahrzeugs
US6374173B1 (en) * 1999-05-28 2002-04-16 Freightliner Llc Terrain adaptive cruise control
DE10250719A1 (de) * 2002-10-31 2004-05-19 Robert Bosch Gmbh Verfahren und Vorrichtung zur Steuerung der Bremsanlage eines Kraftfahrzeugs
JP2005343299A (ja) 2004-06-02 2005-12-15 Pioneer Electronic Corp 情報表示装置、情報表示方法および情報表示プログラム
JP4541973B2 (ja) * 2005-06-09 2010-09-08 富士通テン株式会社 運転支援装置および運転支援方法
GB2431444B (en) * 2005-10-21 2011-04-13 Ford Global Tech Llc Brake control system
FR2914894B1 (fr) * 2007-04-12 2009-07-17 Peugeot Citroen Automobiles Sa Systeme d'aide a la conduite dans les pentes pour vehicule automobile
US8571731B2 (en) * 2009-07-29 2013-10-29 Searete Llc Hybrid vehicle qualification for preferential result
KR101077581B1 (ko) 2009-10-21 2011-10-31 나비스오토모티브시스템즈 주식회사 네비게이션 장치의 단계별 급커브 안내방법
KR101049901B1 (ko) 2009-11-27 2011-07-15 김영운 센서정보를 이용한 지능형 주행안전 예방 시스템 및 방법
WO2012129418A2 (en) * 2011-03-23 2012-09-27 Tk Holdings Inc. Driver assistance system
CN103057544A (zh) * 2011-10-20 2013-04-24 现代摩比斯株式会社 利用导航仪的汽车行驶调节装置及其方法
US9156469B2 (en) * 2012-05-04 2015-10-13 Ford Global Technologies, Llc Methods and systems for a driveline disconnect clutch
KR20140024771A (ko) 2012-08-21 2014-03-03 현대모비스 주식회사 도로 경사도에 대응하는 차간 거리 유지 시스템 및 그 제어 방법
JP6376429B2 (ja) * 2012-11-13 2018-08-22 株式会社リコー 対象地点到達検知装置、対象地点到達検知用プログラム、移動体機器制御システム及び移動体
US9126597B2 (en) * 2013-03-14 2015-09-08 Robert Bosch Gmbh Hill hold decay
KR101519199B1 (ko) * 2013-05-09 2015-05-11 현대자동차주식회사 도로의 노면 상태 감지시스템 및 방법
KR101484218B1 (ko) * 2013-06-07 2015-01-19 현대자동차 주식회사 차량 변속 제어 장치 및 방법
KR101509693B1 (ko) * 2013-06-12 2015-04-16 현대자동차 주식회사 운전자의 단기 운전 성향을 판단하는 장치 및 방법
KR101528518B1 (ko) * 2013-11-08 2015-06-12 현대자동차주식회사 차량 및 그 제어방법
KR20150059489A (ko) * 2013-11-22 2015-06-01 현대자동차주식회사 협로 검출 방법과 협로 검출 장치 및 협로 검출 시스템
KR20150061752A (ko) * 2013-11-28 2015-06-05 현대모비스 주식회사 차량 운행 보조 장치 및 그 장치에 의한 차량 운행 보조 기능의 자동 활성화 방법
KR101519287B1 (ko) * 2014-02-14 2015-05-11 현대자동차주식회사 차량 충돌 방지 장치 및 그 방법
KR101510050B1 (ko) * 2014-04-15 2015-04-07 현대자동차주식회사 차량 주행 제어 장치 및 방법
KR101551092B1 (ko) * 2014-05-15 2015-09-07 현대자동차주식회사 영상을 이용한 차량의 속도 제어 장치 및 그 방법
KR101610502B1 (ko) * 2014-09-02 2016-04-07 현대자동차주식회사 자율주행차량의 주행환경 인식장치 및 방법
KR101641490B1 (ko) * 2014-12-10 2016-07-21 엘지전자 주식회사 차량 운전 보조 장치 및 이를 구비한 차량

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008143263A (ja) * 2006-12-07 2008-06-26 Mazda Motor Corp 車両の走行制御装置
KR20100000835A (ko) * 2008-06-25 2010-01-06 현대자동차주식회사 운전자 보조 시스템
JP2011235695A (ja) * 2010-05-07 2011-11-24 Clarion Co Ltd 車載勾配推定装置、勾配推定方法

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210111730A (ko) * 2018-09-28 2021-09-13 한국전자기술연구원 전방 차선의 너비 정보를 이용한 도로의 곡률 및 기울어짐 추정 방법
CN112937557A (zh) * 2021-03-09 2021-06-11 东风汽车集团股份有限公司 一种基于曲率控制的代客泊车路径规划方法及系统

Also Published As

Publication number Publication date
US9632176B2 (en) 2017-04-25
CN106184218B (zh) 2019-05-10
KR101655553B1 (ko) 2016-09-08
CN106184218A (zh) 2016-12-07
US20160121888A1 (en) 2016-05-05

Similar Documents

Publication Publication Date Title
KR101655553B1 (ko) 운전자 보조 장치 및 방법
US11852498B2 (en) Lane marking localization
US9669829B2 (en) Travel lane marking recognition system
US11740093B2 (en) Lane marking localization and fusion
US9952058B2 (en) Driver visibility detection system and method for detecting driver visibility
CN103874931B (zh) 用于求取车辆的环境中的对象的位置的方法和设备
JP6103138B2 (ja) ドライバ支援システム
KR20080109871A (ko) 주차지원장치 및 주차지원방법
JP2005202678A (ja) 走行支援装置
KR20150059489A (ko) 협로 검출 방법과 협로 검출 장치 및 협로 검출 시스템
EP2981073B1 (en) Parking assistance system and parking assistance method
KR101986166B1 (ko) 차선 인식 장치 및 방법
US10632912B2 (en) Alarm device
JP2010257307A (ja) 運転支援システム
KR101588787B1 (ko) 전방차량의 횡방향 거리 결정 방법 및 이를 이용한 헤드 업 디스플레이 장치
JP2007133644A (ja) 歩行者認識装置
JP2011103058A (ja) 誤認識防止装置
JP2016118859A (ja) 情報表示装置、制御方法、プログラム、及び記憶媒体
JP2015191437A (ja) 運転支援装置
JP2007062434A (ja) 車両用警報装置
JP5024165B2 (ja) 視認物体推定装置
KR102250800B1 (ko) 노면 객체 인식 기반의 차로 검출 장치 및 방법
US20240059310A1 (en) Method for controlling drive-through and apparatus for controlling drive-through
US20230408264A1 (en) Lane marking localization and fusion
JP2011095977A (ja) 障害物認識装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20190827

Year of fee payment: 4