KR102649308B1 - 거리보정방법을 이용한 영상기반 전방충돌 경고방법 - Google Patents

거리보정방법을 이용한 영상기반 전방충돌 경고방법 Download PDF

Info

Publication number
KR102649308B1
KR102649308B1 KR1020210160936A KR20210160936A KR102649308B1 KR 102649308 B1 KR102649308 B1 KR 102649308B1 KR 1020210160936 A KR1020210160936 A KR 1020210160936A KR 20210160936 A KR20210160936 A KR 20210160936A KR 102649308 B1 KR102649308 B1 KR 102649308B1
Authority
KR
South Korea
Prior art keywords
value
distance
corrected
equation
image
Prior art date
Application number
KR1020210160936A
Other languages
English (en)
Other versions
KR20230074885A (ko
Inventor
김동규
Original Assignee
주식회사 디에이치오토아이
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 디에이치오토아이 filed Critical 주식회사 디에이치오토아이
Priority to KR1020210160936A priority Critical patent/KR102649308B1/ko
Publication of KR20230074885A publication Critical patent/KR20230074885A/ko
Application granted granted Critical
Publication of KR102649308B1 publication Critical patent/KR102649308B1/ko

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/08Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001Details of the control system
    • B60W2050/0043Signal treatments, identification of variables or parameters, parameter estimation or state estimation
    • B60W2050/0057Frequency analysis, spectral techniques or transforms
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/0075Automatic parameter input, automatic initialising or calibrating means
    • B60W2050/0083Setting, resetting, calibration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/14Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143Alarm means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)

Abstract

본 발명은 거리보정방법을 이용한 영상기반 전방충돌 경고방법에 관한 것으로, 객체를 검출하는 단계(S2), 트래커(tracker) 객체 정보를 계산하는 단계(S4), 및 거리보정 방법을 적용하는 단계(S6)를 포함하며, FCWS State Machine을 가동하는 단계(S8), 및 결과를 저장하고 위험레벨에 따른 경고 알림을 하는 단계(S10)를 더 포함하고, 상기 FCWS State Machine을 가동하는 단계는, TTC를 계산하는 단계(S22), 경계값을 비교하여 Up 또는 Downcount 하는 단계(S24), Count가 경계값 Threshold 이상인지 판단하는 단계(S26), Count가 경계값 Threshold 이상인 경우에는 상태 레벨을 변환하는 단계(S28), 및 Count가 경계값 Threshold 이상이 아닌 경우에는 객체가 더 있는지 판단하는 단계(S30)를 수행하는 것을 특징으로 한다.

Description

거리보정방법을 이용한 영상기반 전방충돌 경고방법{IMAGE-BASED FORWARD COLLISION WARNING METHOD USING DISTANCE CORRECTION MEHTOD}
본 발명은 거리보정방법을 이용한 영상기반 전방충돌 경고방법에 관한 것으로, 누적된거리 데이터들을 이용하여 과거거리값을 보정하고, 이를 통해 영상기반 거리정보의 정확도를 향상시킬 수 있고, 보정된 데이터를이용하여 충돌시간(TTC:Time to Collision)를 계산한 뒤 스테이트 머신(State Machine)을 이용함으로써 FCWS 정확도를 향상시킬 수 있는 거리보정방법을 이용한 영상기반 전방충돌 경고방법에 관한 것이다.
차량에서 전방영상 기반 객체검출 데이터를 누적시켜서 객체와의 거리, 방향,상대속도,충돌시간 등을 구하여 주행차량과 충돌 전 알림을 주는 기능을 가진 장치를 전방충돌 경고장치(FCWS:Forward Collision Warning System)라고 한다.
전방영상으로부터 객체와의 거리를 측정하기 위한 방법으로는, 스테레오 이미지 정합을 통해 깊이 영상을 구하거나, 객체의 폭이나 높이를 알고있다고 가정하고 핀 홀(pin hole) 카메라 모델에 적용하여 비례식으로 구하거나, 카메라 캘리브레이션을 통해 바닥과 붙어있고 바닥은 평평하다는 등의 조건을 걸어 스케일 팩터(scale factor)를 제한하여 구하는 방법 등이 있다.
모든 객체의 폭이나 높이를 알기 위해서는 객체에 대한 데이터베이스(DB)가 있어야 하고, 이를 분별할 수 있는 알고리즘이 필요하다. 일반적으로 모노카메라에서 모든 객체의 폭이나 높이를 알 수 없으므로 주로 카메라 캘리브레이션 방법을 이용한다. 카메라의 초점거리, 픽셀 크기등과 같은 내부 파라미터와, 장착 위치와 자세값을 가지는 외부 파라미터를 이용한다. 이 방법은 거리가 멀어질수록 차량의 흔들림에 의해 거리값이 심하게 변동되므로 거리값을 바로 사용하기가 어려워 칼만필터와 같은 방법을 이용하여 보정하여 사용한다.
[선행기술문헌]
대한민국 특허공개번호 제10-2019-0136781호(2019년12월10일 공개)(발명의 명칭 회전각속도를 이용한 전방차량 검출방법)
본 발명은 상기한 종래기술의 문제점을 해결하기 위해 안출된 것으로, 누적된거리 데이터들을 이용하여 과거거리값을 보정하고, 이를 통해 영상기반 거리정보의 정확도를 향상시킬 수 있고, 보정된 데이터를이용하여 충돌시간(TTC:Time to Collision)를 계산한 뒤 스테이트 머신(State Machine)을 이용함으로써 FCWS 정확도를 향상시킬 수 있는 거리보정방법을 이용한 영상기반 전방충돌 경고방법을 제공함에 있다.
상기한 바와 같은 목적을 달성하기 위한 본 발명의 바람직한 실시예에 따르면,
거리보정방법을 이용한 영상기반 전방충돌 경고방법은
객체를 검출하는 단계(S2),
트래커(tracker) 객체 정보를 계산하는 단계(S4), 및
거리보정 방법을 적용하는 단계(S6)를 포함하고,
nVt와 nTTC를 수학식 3과 수학식 4를 이용하여 계산하되, 보정된 과거 거리값는 현재 거리값 St와 과거 보정된값 사이의 미분인 속도 값을 이용하여 구하고, 이전 프레임의에서 속도
의 일부만 사용하여 보정하고, 보정비율 C를 사용하여 보정된 값과 보정되기 전 측정된 St를 가중치합을 하는 것을 특징으로 하고,
[수학식 3]

[수학식 4]

여기서,
n:new를 의미하며,측정된 값이 아니고 기존방식이 아닌 새로 계산되거나 보정된 값.
fps: 초당 프레임 수,여기에서는 30으로 사용
△t: 단위시간, 여기에서는 1초로 사용.
Vt를 라고 표기하고 보정된 거리값를 계산할 때 사용.
nVt: 보정된 거리값nS만 이용하여 얻은 속도값
C: 보정 비율, 0.99 값을 사용.
또한, 보정된 거리값 nS를 사용하여 새로운 nTTC를 구하되, nTTC는 nS의 값을 이용하여 계산한 nV를 사용하고, 여기에서 nV는 과거의 값을 이용하여 계산했지만, 현재 t로 당겨와서 사용하며,
nVt는 다음과 같은 수학식 5로 계산하고 수학식 6을 이용하여 nTTC도 계산하며, 여기에서 nS를 계산할 때 지연된 만큼 보정하는 것을 특징으로 하는 거리보정방법을 이용한 영상기반 전방충돌 경고방법.
[수학식 5]

[수학식 6]
또한,
FCWS State Machine을 가동하는 단계(S8), 및
결과를 저장하고 위험레벨에 따른 경고 알림을 하는 단계(S10)를 더 포함하고,
상기 FCWS State Machine을 가동하는 단계는,
TTC를 계산하는 단계(S22),
경계값을 비교하여 Up 또는 Downcount 하는 단계(S24),
Count가 경계값 Threshold 이상인지 판단하는 단계(S26),
Count가 경계값 Threshold 이상인 경우에는 상태 레벨을 변환하는 단계(S28), 및
Count가 경계값 Threshold 이상이 아닌 경우에는 객체가 더 있는지 판단하는 단계(S30)를 수행하는 것을 특징으로 한다.
또한, 상기 단계 S30에서 객체가 더 있는 경우에는 상기 단계 S22의 TTC를 계산하는 단계로 진행하고, 객체가 더 이상 있지 않은 경우에는 단계 S10의 위험레벨에 따른 경고 알림을 하는 단계로 진행되는 것을 특징으로 한다.
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
삭제
상기한 본 발명에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법에 의하면, 모종의 방법으로 누적된거리 데이터들을 이용하여 과거거리값을 보정하고, 이를 통해 영상기반 거리정보의 정확도를 향상시킬 수 있는 효과가 있다.
또한, 본 발명에 따르면, 보정된 데이터를이용하여 충돌시간(TTC:Time to Collision)를 계산한 뒤 스테이트 머신(State Machine)을 이용함으로써 FCWS 정확도를 향상시킬 수 있도록 하는 효과가 있다.
도 1은 본 발명의 바람직한 실시예에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법에서의 개략적인 동작 흐름도이다.
도 2는 본 발명의 바람직한 실시예에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법에서의 위험레벨 스테이터 머신을 나타낸 도면이다
도 3 및 도 4는 본 발명에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법의 실험예를 나타낸 그래프들이다.
도 5 내지 도 8은 본 발명에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법의 실제예를 나타낸 사진들이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 상세하게 설명하고자 한다.
그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가진 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 본 발명을 설명함에 있어 전체적인 이해를 용이하게 하기 위하여 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
이하, 본 발명의 바람직한 실시예에 대해 첨부도면을 참조하여 상세하게 설명한다.
도 1은 본 발명의 바람직한 실시예에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법에서의 개략적인 동작 흐름도이고, 도 2는 본 발명의 바람직한 실시예에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법에서의 위험레벨 스테이터 머신을 나타낸 도면이고, 도 3 및 도 4는 본 발명에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법의 실험예를 나타낸 그래프들이고, 도 5 내지 도 8은 본 발명에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법의 실제예를 나타낸 사진들이다.
거리값 보정방법
기존 거리값 계산방법
St: 시간이 t일 때, 카메라 캘리브레이션 방법으로 얻은 객체와의 거리
이 방법은 Vt의 값이 사실 라고 표기해야 맞다.Vt의 값이 현재와 과거값을 뺀 후 단위시간으로 나누었기 때문에 일 때 속도지만 미래의 값을 알 수 없기 때문에 일반적으로 과거의 값을 현재의 시간에 가져와서 사용한다. Vt의 특성상 거리값 S를 미분한 값이므로, S의 값이 흔들릴 때 더 크게 영향을 받는다. TTC를 계산할 때에도 미분값 Vt를 사용하기 때문에 누적값 및 보정이 필요하다.
제안하는 거리값 보정방법
n:new를 의미하며,측정된 값이 아니고 기존방식이 아닌 새로 계산되거나 보정된 값이다.
fps: 초당 프레임 수,여기에서는 30으로 사용
△t: 단위시간, 여기에서는 1초로 사용.
Vt를 라고 표기하고 보정된 거리값를 계산할 때 사용한다.
nVt: 보정된 거리값nS만 이용하여 얻은속도값
C: 보정 비율, 0.99 값을 사용. 이 값을 사용하여캘리브레이션으로 얻은 거리값에서 보정된 거리값으로 비율적으로 따라가게 만들어준다.
보정된 과거 거리값는 현재 거리값 St와 과거 보정된값 사이의 미분인 속도 값을 이용하여 구한다. 이전 프레임의에서 속도
의 일부만 사용하여 보정한다. 그리고, 보정비율 C를 사용하여 보정된 값과 보정되기 전 측정된 St를 가중치합을 한다. 이 이유는 보정된 nS 값이 누적되면서 실제 측정된 S값과 차이가 벌어지는 것을 막기 위하여 일정비율 S값을 따라가게 만든다.
보정된 거리값 nS를 사용하여 새로운 nTTC를 구한다. nTTC는 nS의 값을이용하여 계산한 nV를 사용한다. 여기에서 nV는 과거의 값을 이용하여 계산했지만, 현재 t로 당겨와서 사용한다. 그 이유는 이미 nS를 계산할 때 만큼의 시간지연이 발생하였고, 한번 더 미루게 되면 △t만큼의 시간지연이 발생하여 FCWS에서 반응이 느려질 수 있기 때문이다. nVt는 다음과 같은 수식으로 계산하고 이를 이용하여 nTTC도 계산한다. 여기에서 nS를 계산할 때 지연된 만큼 보정한다.
도 1은 본 발명에 따른 거리보정방법을 이용한 영상기반 전방충돌 경고방법의 흐름도로서,
객체를 검출하는 단계(S2),
트래커(tracker) 객체 정보를 계산하는 단계(S4),
거리보정 방법을 적용하는 단계(S6),
FCWS State Machine을 가동하는 단계(S8), 및
결과를 저장하고 위험레벨에 따른 경고 알림을 하는 단계(S10)를 포함한다.
상기 단계 S8, 즉 FCWS State Machine을 가동하는 단계는,
TTC를 계산하는 단계(S22),
경계값을 비교하여 Up 또는 Downcount 하는 단계(S24),
Count가 경계값 Threshold 이상인지 판단하는 단계(S26),
Count가 경계값 Threshold 이상인 경우에는 상태 레벨을 변환하는 단계(S28), 및
Count가 경계값 Threshold 이상이 아닌 경우에는 객체가 더 있는지 판단하는 단계(S30)를 수행하는 것을 특징으로 한다.
상기 단계 S30에서 객체가 더 있는 경우에는 상기 단계 S22로 진행하고, 객체가 더 이상 있지 않은 경우에는 단계 S10으로 진행된다.
도 1을 참조하여 좀 더 자세히 설명하면,
FCWS(100)에서는
전방 영상으로부터 객체가 검출되고 검출된 데이터를 객체 추적기로 분류 및 보정한다.
이후, 카메라 캘리브레이션 방법을 이용하여 거리데이터를 추출하고 본 발명에서 말한 거리정보를 보정하여 충돌시간까지 추출한다. 이를 이용하여 FCWS를 동작시킨다.
FCWS(100)는 State Machine(20)으로 구성되어 있으며, 충돌가능한 객체를 None, Normal, Caution, Warning 4단계로 구분한다. 각 단계를 오르거나 내리기 위해서는 Count 수를 채워야한다. UpCount와 DownCount가 있으며, 이 두 변수는 각각 동작한다. 상태가 수시로 스위칭되는 것을 막기 위하여 경계값의 양 옆으로 데드 존을 설정하였다. 예를 들면, 경계값이 3이고, 데드존의 거리가 0.1이면 2.9~3.1 사이의 값이 주어질 때에는 UpCount과 DownCount 모두 0으로 초기화 된다.
편의상, 상기 State Machine(20)은 TTC를 계산하는 TTC 계산부(22), 경계값비교하여 카운트하는 카운터부(24), 경계값을 비교하여 판단하는 경계값 판단부(26), 상태레벨을 변환하는 상태레벨 변환부(28) 및 객체를 판단하는 객체판단부(30)의 내부 구성을 가지는 것으로 가정한다. 단계 S22~S30은 상기와 같은 내부 블록 구성을 가진다는 가정하에 기능적 단계를 설명한 것이다. 유사하게, 단계 S4는 블럭구성도로서의 추적기(Tracker)를 구비한 것으로 가정한 상태에서 기능을 설명한 것이다. 본 발명의 FCWS(100)내에 객체검출, 객체정보계산, 거리보정방법 적용, State machine, 위험경고 알림을 담당하는 일종의 알고리듬 혹은 기능모듈이 구비된 것으로 가정한다.
TTC의 값이 작을수록 충돌시간이 적게 남은 것이므로, 위험레벨은 올라가기 때문에 UpCount가 증가하여 다음 위험레벨로 올라가게 된다. 상태가 변할 때 UpCount와 DownCount는 모두 0으로 초기화 한다. Count들이 가질 수 있는 숫자의 범위는 0~4로 설정하였다. Up또는 DownCount가 5개를 연속적으로 채우지 못할 경우에도 0으로 초기화한다. 5개로 설정한 이유는 초당 30 frame을 계산한다고 할 때, None부터 Warning단계까지 올라가기 위해서 최소 0.5초가 걸리도록 하였다.
상태 level을 설명하자면 None은 거리가 80M이상이어서 충돌가능성이 없는 객체이다. 80M 거리는 임의로 정한 거리이며, 전방에 멈춰있는 객체를 주행차량이 72 km/h로 주행 시 4초만에 닿을 수 있는 거리이지만, 전방 영상 기반 카메라 캘리브레이션 방법을 이용하여 거리를 구하면 80M 이상에서는 거리정확도가 많이 떨어지기 때문에 80M로 설정하였다. Normal 상태일 때 TTC 경계값은4.5초, Caution 상태일 때 경계값은 3초, Warning에서는 오직 DownCount만 활성화되고 경계값은 3초이다. None에서부터 Caution까지의 TTC 데드 존의 크기는 0.2로 설정하였다.
객체의 상태레벨이 Warning이 되면 운전자에게 충돌경고 메시지를 알려준다.
이 분야의 종래기술에서는 "거리값을 보정하여 사용한다" 또는 "칼만필터를 사용하여 보정한다"와 같이 뭉뚱그려 표현하였다. 본 발명에서도 객체 추적에 칼만필터를 사용한 거리값을“측정된 거리값”으로 표현하였지만, 이것 또한 여러가지 외부요인으로 인해 값이 많이 변동된다. 본 발명의 보정방법을 이용하여 변동폭이 적고, 실제에 가까운 형태의 정보로 거리값을 보정하여 FCWS에 적용시켜 사용할 수 있다.
도 3 및 도 4를 참조하면,
실험내용
평평하고 넓은 곳에서 전방 150M 이상에 목표차량을 정지상태로 둔다. 주행차량을 40km/h와 70km/h의 속도를 유지한 채 목표차량을 향해 주행한다.충돌하기 전 제동하거나 회피주행을 한다. 이렇게 촬영된 실험용 영상으로 영상기반 객체검출과 캘리브레이션 방법,칼만필터를 통한 객체 추적을 통해 얻은 거리값을 본 발명을 통해 보정하려고 한다.
도 3 및 도 4 에서 측정된 거리값은 주행차량이 목표차량을 향해 다가가면서 객체검출 결과를 이용하여 카메라 캘리브레이션 방법으로부터 측정된 거리값이다. 거리가 멀수록 오차가커지고 차량의 흔들림에 따라 거리값이 크게 변하고 부정확해진다. 그리고 본 발명을 적용하여 거리값을 보정할 경우 크게 흔들리던 거리값이 FCWS에서 사용하기에 적합한 형태의 데이터로 보정된다.
다음 그래프에서 거리값과 TTC를 동시에 표현하고 겹치지 않게 하기 위해 TTC의 부호를 -로 바꾸어서 사용하였다. 기존 방법과 비교하였을 때, 그래프의 변동폭이 감소하여 안정적인 거리값과TTC의 값이 FCWS에 사용하기에 용이한 형태로 보정되었다.
도 5 내지 도 8을 참조하면, KNCAP의 FCWS 시험 중 목표차량을 전방에 세워두고 주행차량으로 72km/h의 속도로 접근하여 TTC 2.1초 밑으로 떨어지기 전에 알림이 울려야 하는 시험을 한 결과의 일부이다. 데이터는 알람이 울린 시점의 주행차량의 속도,거리값, TTC를 나타낸다. 영상에서 전방으로 녹색박스내에 차량이 도시되어 있다.
KNCAP은 국토교통부에서 국내 자동차의 안전도를 평가하는 제도이다. 충돌테스트 등과 같은 물리적인 시험들과,FCWS와 같은 기능적인 시험들을 한다. FCWS기능을 테스트하기 위하여 공신력있는 KNCAP의 시험방법을 차용하는 것이다.
도 5 내지 도 8을 참고하면, 경고 알림 시점의 사진 4가지가 제시되었으며, 각각, 속도 74km/h, 속도 75km/h,속도 74km/h,속도 75km/h를 나타내며,
거리값(M)은 50,54,50,48을 나타내며,
TTC(s)는 2.43, 2.59, 2.43, 2.30을 나타낸다.
상기 설명한 바와 같이, 본 발명에 따르면, 모종의 방법으로 누적된거리 데이터들을 이용하여 과거거리값을 보정하고, 이를 통해 영상기반 거리정보의 정확도를 향상시킬 수 있는 효과가 있다.
또한, 본 발명에 따르면, 보정된 데이터를이용하여 충돌시간(TTC:Time to Collision)를 계산한 뒤 스테이트 머신(State Machine)을 이용함으로써 FCWS 정확도를 향상시킬 수 있도록 하는 효과가 있다.
다시한번 설명하면, 본 발명에 따르면, 거리값 보정방법을 이용하여 안정적인 거리값을 추출이 가능하며, TTC new의 계산도 단일 값으로 사용하기에는 무리가 있으므로, 스테이트 머신을 사용한 FCWS를 이용하여 안정적인 FCWS 결과를 도출할 수 있다.
이 분야의 종래기술은 차량의 각속도 정보를 이용하여 ROI를 옮기고 객체를 검출하여 TTC를 이용한 FCWS 방법이 있다. 즉, 종래기술에서는 TTC를 구할 때, 제어장치는 검출된 차량에 대해 거리 및 충돌예상시간(TTC)를 계산하게 된다. 충돌예상시간은 현재속도에서 이전속도를 차감하고 나서 시간으로 나눈 값으로 계산할 수 있다.
그러나, 본 발명에서는 이와 같은 방법으로 TTC 구현 시 값이 매우 흔들리는 것을 볼 수 있다. 이를 보완하기 위하여 거리보정값을 제안하였고, 그 결과 본 발명의 도3 및 도4의 TTC new가 안정적임을 보이며, TTC new를 이용한 스테이트 머신으로 FCWS결과도 개선하였다.
상기 도 1의 과정에서, 거리보정방법 부분은,
종래기술에서는 구간데이터를 이용하여 TTC를 구하고 TTC가 일정범위 아래로 떨어질 경우 알림을 제공하지만,
본 발명에서는 구간데이터를 이용하여 과거값 보정방법을 이용하여 거리값의 정확도를 올리고, 이를 이용하여 얻은 TTC 또한 기존의 방법 대비 흔들림도 적고 안정적인 것을 확인하였다.
FCWS 스테이트 머신 이용과정을 설명하면,
TTC만을 이용하여 울림을 제공할 시, 부정확한 거리로 인해 TTC값이 튀면서 FCWS 알림이 울리는 경우가 생길 수 있다. TTC new와 스테이트 머신을 이용하여 이를 보완한다. 갑자기 TTC가 튀어도 상태가 변하기 위해서는 TTC의 값이 역치를 넘어가는 부분이 지속되어야 하므로, 튀는 값을 잡아주는 효과가 있다.
본 발명에서는, 거리보정방법에 사용된 수식은 전체적으로 하나로써 동작하는 것을 단계별로 구분해 놓았다. 수식이 전개되는 과정은 구간 St-->Vt-0.5-->nSt-0.5-->nVt--> nTTC까지 구하는 것이 하나 과정이다.(상기 수학식들 참조).
Vt-0.5는 t-0.5시간 시점에서의 속도를 나타낸 것이며, 1초의 중간값을 취한 것이다. 이러한 과정은 nTTC(새로운 TTC)를 구하기 위한 전과정으로 임의적인 것이며 0.5라는 수치를 제한하는 것은 아니다.
이상에서와 같이 도면과 명세서에서 최적의 실시예가 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로, 본 기술 분야의 통상의 지식을 가진자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호범위는 첨부된 청구범위의 기술적 사상에 의해 정해져야 할 것이다.
20: 스테이트 머신
100: 전방충돌경고시스템(FCWS)

Claims (5)

  1. 객체를 검출하는 단계(S2),
    트래커(tracker) 객체 정보를 계산하는 단계(S4), 및
    거리보정 방법을 적용하는 단계(S6)를 포함하고,
    nVt와 nTTC를 수학식 3과 수학식 4를 이용하여 계산하되, 보정된 과거 거리값는 현재 거리값 St와 과거 보정된값 사이의 미분인 속도 값을 이용하여 구하고, 이전 프레임의에서 속도
    의 일부만 사용하여 보정하고, 보정비율 C를 사용하여 보정된 값과 보정되기 전 측정된 St를 가중치합을 하는 것을 특징으로 하고,
    [수학식 3]

    [수학식 4]

    여기서,
    n:new를 의미하며,측정된 값이 아니고 기존방식이 아닌 새로 계산되거나 보정된 값.
    fps: 초당 프레임 수,여기에서는 30으로 사용
    △t: 단위시간, 여기에서는 1초로 사용.
    Vt를 라고 표기하고 보정된 거리값를 계산할 때 사용.
    nVt: 보정된 거리값nS만 이용하여 얻은 속도값
    C: 보정 비율, 0.99 값을 사용.
    또한, 보정된 거리값 nS를 사용하여 새로운 nTTC를 구하되, nTTC는 nS의 값을 이용하여 계산한 nV를 사용하고, 여기에서 nV는 과거의 값을 이용하여 계산했지만, 현재 t로 당겨와서 사용하며,
    nVt는 다음과 같은 수학식 5로 계산하고 수학식 6을 이용하여 nTTC도 계산하며, 여기에서 nS를 계산할 때 지연된 만큼 보정하는 것을 특징으로 하는 거리보정방법을 이용한 영상기반 전방충돌 경고방법.
    [수학식 5]

    [수학식 6]
  2. 제 1 항에 있어서,
    FCWS State Machine을 가동하는 단계(S8), 및
    결과를 저장하고 위험레벨에 따른 경고 알림을 하는 단계(S10)를 더 포함하고,
    상기 FCWS State Machine을 가동하는 단계는,
    TTC를 계산하는 단계(S22),
    경계값을 비교하여 Up 또는 Downcount 하는 단계(S24),
    Count가 경계값 Threshold 이상인지 판단하는 단계(S26),
    Count가 경계값 Threshold 이상인 경우에는 상태 레벨을 변환하는 단계(S28), 및
    Count가 경계값 Threshold 이상이 아닌 경우에는 객체가 더 있는지 판단하는 단계(S30)를 수행하는 것을 특징으로 하는 거리보정방법을 이용한 영상기반 전방충돌 경고방법.
  3. 제 2 항에 있어서, 상기 단계 S30에서 객체가 더 있는 경우에는 상기 단계 S22의 TTC를 계산하는 단계로 진행하고, 객체가 더 이상 있지 않은 경우에는 단계 S10의 위험레벨에 따른 경고 알림을 하는 단계로 진행되는 것을 특징으로 하는 거리보정방법을 이용한 영상기반 전방충돌 경고방법.
  4. 삭제
  5. 삭제
KR1020210160936A 2021-11-22 2021-11-22 거리보정방법을 이용한 영상기반 전방충돌 경고방법 KR102649308B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210160936A KR102649308B1 (ko) 2021-11-22 2021-11-22 거리보정방법을 이용한 영상기반 전방충돌 경고방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210160936A KR102649308B1 (ko) 2021-11-22 2021-11-22 거리보정방법을 이용한 영상기반 전방충돌 경고방법

Publications (2)

Publication Number Publication Date
KR20230074885A KR20230074885A (ko) 2023-05-31
KR102649308B1 true KR102649308B1 (ko) 2024-03-19

Family

ID=86542984

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210160936A KR102649308B1 (ko) 2021-11-22 2021-11-22 거리보정방법을 이용한 영상기반 전방충돌 경고방법

Country Status (1)

Country Link
KR (1) KR102649308B1 (ko)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014080042A (ja) * 2012-10-12 2014-05-08 Denso Corp 車両用乗員属性判別装置
JP2015068641A (ja) 2013-09-26 2015-04-13 富士重工業株式会社 ステレオ画像処理装置
WO2017212929A1 (ja) * 2016-06-08 2017-12-14 ソニー株式会社 撮像制御装置および方法、並びに車両
JP2019158778A (ja) * 2018-03-16 2019-09-19 トヨタ自動車株式会社 衝突回避制御装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102303239B1 (ko) * 2015-01-20 2021-09-23 한국전자통신연구원 차량 충돌 방지 장치 및 차량 충돌 방지 방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014080042A (ja) * 2012-10-12 2014-05-08 Denso Corp 車両用乗員属性判別装置
JP2015068641A (ja) 2013-09-26 2015-04-13 富士重工業株式会社 ステレオ画像処理装置
WO2017212929A1 (ja) * 2016-06-08 2017-12-14 ソニー株式会社 撮像制御装置および方法、並びに車両
JP2019158778A (ja) * 2018-03-16 2019-09-19 トヨタ自動車株式会社 衝突回避制御装置

Also Published As

Publication number Publication date
KR20230074885A (ko) 2023-05-31

Similar Documents

Publication Publication Date Title
US9975550B2 (en) Movement trajectory predicting device and movement trajectory predicting method
CN109891262B (zh) 物体探测装置
JP4595833B2 (ja) 物体検出装置
KR102027771B1 (ko) 차량 속도 적응형 장애물 검출 장치 및 방법
JP4987573B2 (ja) 車外監視装置
JP4962581B2 (ja) 区画線検出装置
US8060307B2 (en) Vehicle driving assistance system
CN110287529B (zh) 测试方法、装置、设备以及存储介质
GB2541354A (en) Collision avoidance method, computer program product for said collision avoidance method and collision avoidance system
KR20170079096A (ko) 지능형 차량용 블랙박스
JP6936098B2 (ja) 対象物推定装置
JP2002022439A (ja) フェールセーフ機能を有する車外監視装置
KR101950175B1 (ko) 차선정보 추정 방법
KR20210037790A (ko) 자율 주행 장치 및 방법
Lim et al. Real-time forward collision warning system using nested Kalman filter for monocular camera
JP3301995B2 (ja) ステレオ式車外監視装置
US11332124B2 (en) Vehicular control system
JP7195200B2 (ja) 車載装置、車載システムおよび周辺監視方法
JP2002002427A (ja) 車両用制御装置
KR20200133856A (ko) 자율 주행 장치 및 방법
KR102649308B1 (ko) 거리보정방법을 이용한 영상기반 전방충돌 경고방법
JP2002027447A (ja) フェールセーフ機能を有する車外監視装置
KR102601170B1 (ko) 테일게이트 충돌 방지 시스템 및 방법
KR20170040933A (ko) 운전자 편의 장치 및 그의 타겟 추정 방법
US11667295B2 (en) Apparatus and method for recognizing object

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant