KR101460902B1

KR101460902B1 - 차량 주변의 도난 징후 감지를 위한 지능형 블랙박스 시스템 및 그 동작 방법

Info

Publication number: KR101460902B1
Application number: KR1020130077592A
Authority: KR
Inventors: 김준모; 곽종훈; 김영수
Original assignee: 한국과학기술원
Priority date: 2013-07-03
Filing date: 2013-07-03
Publication date: 2014-11-20

Abstract

본 발명의 실시에는 지능형 블랙박스 시스템과 그 동작 방법에 관한 것이다. 실시예에 따른 지능형 블랙박스 시스템에 있어서, 전방 영상을 촬영하는 외부 촬영부; 전방 영상에서 객체를 추출하고 객체의 움직임을 추적하여 이상 행위를 검출하는 이상 행위 검출부; 및 검출된 이상 행위에 대한 상황 정보를 경고 신호와 함께 기 등록되어 있는 사용자 단말로 전송하는 전송 모듈을 포함하는 지능형 블랙박스 시스템이 제공될 수 있다.

Description

차량 주변의 도난 징후 감지를 위한 지능형 블랙박스 시스템 및 그 동작 방법{INTELLIGENT BLACK BOX SYSTEMS AND METHODS FOR CAR THEFT SYMPTOMS SENSING}

본 발명의 실시에는 지능형 블랙박스 시스템과 그 동작 방법에 관한 것이다.

현재 차량 도난 경보음과 같은 도난 방지 장치가 차량에 부착되어 차량 도난을 방지하고 있지만, 최근 복제 열쇠 및 견인차를 이용한 방법과 같이 범죄 수법의 지능화로 인해 차량 도난 사고를 예방하는데 어려움이 있다. 특히, 차량 도난 사건의 경우 차량 도난 피해와 더불어 대포차 활용과 같은 2차 피해가 발생한다는 점에서 이를 예방하고 조속히 사건을 해결 하는 것은 매우 중요한 일이 아닐 수 없다.

또한, 현재 대부분의 차량에 블랙박스가 설치되어 있지만, 도난 사고를 예방하는 데에는 큰 역할을 하지 못하고 있으며, 사고 발생 시 범죄자에 의해 블랙박스가 훼손될 가능성이 높아, 이후 사건 증거 자료로 활용되기가 어려운 실정이다. 이와 더불어 일반적인 차량용 블랙박스의 경우 메모리 공간이 제한되어 있어 영상을 주기적으로 갱신하여 녹화하는 방식을 사용하므로, 실제 사고가 발생하기 전이나 사고 발생 후 증거 자료로 활용될 영상이 보존되지 못할 가능성이 높다.

기존의 연구로는 첫 번째, 차량 전방의 장애물 검출을 통하여 경고를 통해 운전자에게 장애물 여부를 알려주거나 차량 내부의 운전자 모니터링을 통해 졸음운전을 방지하는 기술이 제공되었으며, 두 번째, 차량에 장착된 충격센서를 이용하여 차량에 충격이 가해질 경우 경보음을 통해 외부에 이를 알려주는 기술이 제공되었다.

그러나 종래 기술의 경우 단순히 전방의 장애물이나 보행자의 존재 여부만 운전자에게 알려주기 때문에 사람의 특정 행위를 파악하기 어렵고, 운전자 모니터링의 경우 운전자의 동공인식을 통한 졸음운전 여부만을 감지하기 때문에 특정 사용자 인식은 수행하지 못한다. 또한, 충격 센서를 이용한 도난 방지 장치의 경우 복제 열쇠나 견인차 동원과 같은 범죄 수법의 지능화로 인해 제 역할을 하지 못하는 실정이다.

따라서, 차량 내외부의 도난 징후 검출을 통해 도난 징후가 발생했을 시 사용자에게 이를 알려 사고가 발생되기 전 미연에 방지하는 시스템이 요구된다.

본 발명의 실시예는 차량 전방을 기록하는 전방 카메라를 이용하여 주차 감시 모드에서 차량 주변을 배회, 관찰 또는 차량에 충격을 가하려는 행위와 같은 도난 징후를 검출하고 등록된 사용자 단말로(스마트기기, PC) 이를 알림으로써 차량 도난 사고를 미연에 방지하는 시스템 및 그 방법을 제공한다.

또한, 내부 카메라를 이용하여 주차 감시 모드에서 운전석의 탑승 사용자를 인식하여, 사용자가 차량에 등록된 사용자가 아닐 경우 이를 도난 징후로 판단하여 영상과 차량 GPS 위치 정보를 사용자 단말(스마트기기, PC)로 전송하여 이를 사용자에게 알리고 도난 사고 방지 및 사고 후 차량 추적이 용이하도록 하는 시스템 및 그 방법을 제공한다.

실시예에 따른 지능형 블랙박스 시스템에 있어서, 전방 영상을 촬영하는 외부 촬영부; 전방 영상에서 객체를 추출하고 객체의 움직임을 추적하여 이상 행위를 검출하는 이상 행위 검출부; 및 검출된 이상 행위에 대한 상황 정보를 경고 신호와 함께 기 등록되어 있는 사용자 단말로 전송하는 전송 모듈을 포함하는 지능형 블랙박스 시스템이 제공될 수 있다.

일측에 있어서, 이상 행위 검출부는, 전방 영상의 배경을 모델링하고 전방 영상에서 움직이는 객체를 추출하며 객체 별로 레이블(Label)을 부여하여 객체 영역을 정의하고 객체 영역 중 사람 영역을 검출하며, 사람 영역의 특징 정보를 추출하고, 특징 정보를 이용하여 동일 인물의 이동 패턴과 이동 시간을 포함하는 추적 정보를 생성할 수 있다.

또 다른 측면에 있어서, 이상 행위 검출부는, 이동 패턴이 미리 학습되어 있는 이상 행위 패턴과의 일치 정도가 기준 임계 값보다 높은 경우 객체의 움직임을 이상 행위로 판단할 수 있다.

또 다른 측면에 있어서, 이상 행위 검출부는, 사람 영역에서 윤곽(Contour) 성분을 추출하여 사람 영역의 무게 중심과의 거리가 국소 최대(Local Maximum)에 해당하는 위치와 무게 중심을 연결하여 골격 모델을 생성하며, 골격 모델의 이동 패턴이 미리 학습되어 있는 이상 행위 패턴과의 일치 정도가 기준 임계 값보다 높은 경우 이상 행위로 판단할 수 있다.

또 다른 측면에 있어서, 추적 정보는 검출된 사람 영역에 대해 프레임 간 모션 대응(Motion Correspondence)을 측정함으로써 검출할 수 있다.

또 다른 측면에 있어서, 사람 영역의 상기 특징 정보는, 사람 영역의 칼라 정보; 사람 영역의 체형 정보; 및 사람 영역의 키 정보 중 적어도 하나를 포함할 수 있다.

또 다른 측면에 있어서, 사람 영역의 칼라 정보는, 사람 영역은 상부 및 하부로 분할되는 경우, 상부의 상부 칼라 정보 및 하부의 하부 칼라 정보를 포함할 수 있다.

또 다른 측면에 있어서, 사람 영역의 체형 정보는, 사람 영역의 외곽선의 검출 후 ASM(Active Shape Model) 방법을 통해 모델링되어 추출될 수 있다.

지능형 블랙박스 시스템에 있어서, 차량의 내부 영상을 촬영하는 내부 촬영부; 내부 영상으로부터 기 등록된 사용자와 차량의 탑승자가 일치하지 않는 비일치 상황을 판단하는 사용자 인식부; 및 비일치 상황에 대한 상황 정보를 경고 신호와 함께 기 등록되어 있는 사용자 단말로 전송하는 전송 모듈을 포함하는 지능형 블랙박스 시스템이 제공될 수 있다.

또 다른 측면에 있어서, 사용자 인식부는 내부 영상에서 MCT(Modified Census Transform) 및 Adaboost 분류기를 통해 탑승자의 얼굴 영역을 검출하고, ASM(Active Shape Model)을 이용하여 얼굴 영역의 얼굴 특징 정보를 추출한 후, 탑승자의 얼굴 특징 정보를 기 등록된 사용자의 얼굴 특징 정보와 매칭함으로써 비일치 상황을 판단할 수 있다.

지능형 블랙박스 시스템에 있어서, 차량의 전방 영상을 통해 이상 행위를 탐지하는 외부 비전 모듈; 차량의 내부 영상을 통해 탑승자가 기 등록된 사용자와 일치하지 않는 비일치 상황을 판단하는 내부 비전 모듈; 및 탐지된 이상 행위 및 비일치 상황 중 적어도 하나의 상황에 대한 상황 정보를 경고 신호와 함께 기 등록되어 있는 사용자 단말로 전송하는 전송 모듈을 포함하는 지능형 블랙박스 시스템이 제공될 수 있다.

일측에 있어서, 전송 모듈은, 탐지된 이상 행위 및 비일치 상황 중 적어도 하나의 상황에 대한 전면 영상 및 내부 영상을 포함하는 영상 정보를 전송하는 영상 전송부; 및 탐지된 이상 행위 및 비일치 상황 중 적어도 하나의 상황이 발생한 위치 정보를 전송하는 위치 전송부를 포함할 수 있다.

본 발명의 실시예를 통해, 차량 도난 징후를 미리 감지하여 이를 사용자에게 알림으로써 차량 도난 사고가 발생하기 전에 미연에 사고를 방지할 수 있다.

또한, 도난 사고 발생 후 차량의 위치를 지속적으로 추적하고, 추가적으로 사용자 단말로 전송된 영상의 경우 차후 사건 증거 자료로 활용될 수 있다는 점에서 도난 사고 발생 후 조속히 범인을 검거하는 데 기여할 수 있다.

사고 발생 가능성이 높은 영상을 우선적으로 선별하여 저장할 수 있으므로, 블랙박스의 제한된 메모리를 효율적으로 사용할 수 있다.

도 1은 본 발명의 일실시예에 있어서, 지능형 블랙박스 시스템의 내부 구성을 설명하기 위한 블록도이다.
도 2는 본 발명의 일실시예에 있어서, 외부 비전 모듈을 통해 이상 행위를 검출하기 위해 사람 영역을 검출하기까지의 방법을 설명하기 위한 도면이다.
도 3은 본 발명의 일실시예에 있어서, 외부 비전 모듈을 통해 이상 행위를 검출하기 위해 사람 영역을 검출한 이후 동작을 설명하기 위한 도면이다.
도 4는 본 발명의 일실시예에 있어서, 무게 중심을 이용하여 사람의 골격 모델을 생성하여 이상 행위를 검출하는 방법을 설명하기 위한 도면이다.
도 5는 본 발명의 일실시예에 있어서, 내부 비전 모듈을 통해 탑승자의 얼굴을 기 등록된 사용자의 얼굴과 매칭하는 방법을 설명하기 위한 도면이다.
도 6은 본 발명의 일실시예에 있어서, 지능형 블랙박스 시스템의 동작을 설명하기 위한 흐름도이다.

이하, 지능형 블랙박스 시스템과 그 동작 방법에 대해서 첨부된 도면을 참조하여 자세히 설명하도록 한다.

본 발명의 실시예는 외부 및 내부 영상으로부터 차량 도난의 징후를 감지하여 사용자 단말을 통해 사용자에게 알리고, 이와 관련된 영상과 차량의 위치 정보 등의 상황 정보를 함께 전달하는 기술을 제안하고자 한다.

이에, 차량 도난 징후가 발생했을 때 이를 감지하여 도난 사고를 미연에 방지하고, 도난 사고가 발생했을 때 이를 빠르게 파악하여 도난 차량의 추적 정보와 사고 증거 자료를 제공하는데 용이하도록 한다.

실시예에 있어서, 차량용 블랙박스의 주차 감시모드에서 차량의 내부 및 외부를 촬영하는 카메라를 이용하여 제공될 수 있다.

도 1은 본 발명의 일실시예에 있어서, 지능형 블랙박스 시스템의 내부 구성을 설명하기 위한 블록도이다. 실시예에 따른 지능형 블랙박스 시스템(100)은 외부 비전 모듈(110), 내부 비전 모듈(120) 및 전송 모듈(130)을 포함하여 구성될 수 있다.

먼저, 외부 비전 모듈(110)은 차량에 설치된 전방 촬영 카메라를 이용하여 차량 전방에서 발생하는 도난 징후와 관련된 이상 행위를 탐지할 수 있다.

외부 비전 모듈(110)은 전방 영상을 촬영하는 외부 촬영부(111)과 전방 영상에서 객체를 추출하고 해당 객체의 움직임을 추적하여 이상 행위를 탐지하는 이상 행위 검출부(112)를 포함하여 구성될 수 있다.

외부 촬영부(111)는 블랙박스의 단안 카메라 등의 전방 촬영 카메라를 통해 실시간 촬영 영상을 수집하여 이상 행위 검출부(112)로 제공할 수 있으며, 이상 행위 검출부(112)는 전달된 전방 영상 내에서 객체를 추출하고 이 중 사람 영역을 찾아내어 해당 사람 영역의 이동 패턴 및 이동 시간에 대한 정보를 추적하여 이상 행위에 대해서 탐지할 수 있다.

도 2는 본 발명의 일실시예에 있어서, 외부 비전 모듈을 통해 이상 행위를 검출하기 위해, 전방 영상으로부터 사람 영역을 검출하기까지의 방법을 설명하기 위한 도면이다.

먼저, 전방 영역에 대한 입력 영상을 수신하여(210), 해당 영상에 대한 객체 영역을 추출할 수 있다(220). 이때, 객체 영역을 추출하기 위해서는 입력 영상에 GMM(Gaussian Mixture Modeling)을 이용하여 전방 영상에서 이동이 없는 부분에 대해서 배경으로 영상을 모델링하고, 적응형 배경 차분화(Adaptive Background Subtraction)를 이용하여 배경이 아닌 객체 영역, 예컨대 사람이나 자동차, 애완 동물 등의 움직이는 객체에 대해서 추출할 수 있다.

실시예에 있어서, 배경 영상은 영상의 배경 영역의 변화를 고려하기 위해 주기적으로 모델링될 수 있다. 예컨대, 주차장의 경우, 주차되어 있는 차량이 배경 영상으로 인식되어 있다가 출차된 이후에 배경을 다시 모델링함으로써 출차되어 빈 주차 공간에 대해서 배경 영상으로 인식될 수 있다.

추출한 객체 각각에 대해서 레이블(201)을 지정하는 객체 레이블링(Labeling) 단계를 거칠 수 있다(230). 이때, 8-연결 요소 방법(8-Connected Neighborhood)를 이용하여 각 객체에 대해서 레이블(201)이 부여될 수 있으며, 각 레이블은 영상 내에 존재하는 객체 영역을 특정한다.

이후, 레이블링된 객체 영역들에 한하여 특징을 추출하여 사람에 해당하는 영역을 검출할 수 있다(240). HOG(Histogram of Oriented Gradient), Haar-like, LBP(Local Binary Patter) 등에 해당하는 특징을 추출하며, SVM과 Adaboost와 같은 분류기를 통과시켜 객체 영역들 중 사람에 해당하는 객체 영역을 검출할 수 있다.

도 3은 본 발명의 일실시예에 있어서, 외부 비전 모듈을 통해 이상 행위를 검출하기 위해 사람 영역을 검출한 이후 동작을 설명하기 위한 도면이다.

도 2를 통해 사람 영역을 검출해냈다면, 사람 영역에 해당하는 모든 객체 영역에 대해서 특징 정보를 추출하고, 이를 저장할 수 있다(250). 특징 정보는 사람 영역의 상부 및 하부 각각에 대한 색(Color) 정보, 체형 정보, 키 정보 중 적어도 하나를 포함할 수 있다.

이에, 검출된 사람 영역으로부터 특징을 추출하기 위해, 사람 영역을 상부와 하부로 반으로 나누고, 상의와 하의 각각에 대한 옷 색깔 RGB 정보를 식별할 수 있으며, 외곽선을 추출하여 체형 정보를 검출하고, 카메라 보정(Calibration)을 이용하여 사람의 키 정보 등에 대해서 검출한 이후, 구비되는 데이터베이스에 의해서 저장될 수 있다.

사람 영역으로부터 추출하여 데이터베이스에 저장한 특징 정보를 이용하여 실시간 추출되는 사람 영역에 대해서 이전에 저장된 특징 정보를 매칭하여(260), 이전에 등장했던 사람 영역과 동일한지 판단하고, 동일할 경우에 대해서 이전에 저장된 정보에 누적하여 이동 패턴 및 이동 시간 등을 포함하는 추적 정보를 갱신할 수 있다.

이때, 옷 색깔에 대한 매칭은 전방 영상의 RGB 채널 별로 히스토그램 상관관계(Histogram Correlation)를 이용하며, 체형에 대한 매칭은 사람 영역의 외곽선(Edge)을 검출한 이후 ASM(Active Shape Model) 방법을 이용하여 체형을 특정 모양으로 모델링함으로써 수행할 수 있다.

이어서, 이동 패턴 및 이동 시간 중 적어도 하나를 포함하는 추적 정보를 추출할 수 있다(270). 전방 영상의 프레임 간, 사람 영역의 이동을 추적하기 위해 모션 정보 기반의 모션 대응(Motion Correspondence)을 측정함으로써 사람 영역을 추적할 수 있으며, 이동 패턴과 이동 시간을 포함하는 추적 정보를 추출할 수 있다.

이동 패턴은 사람 영역에서 무게 중심을 추출하여 무게 중심의 이동 패턴을 추출하며, 이동 시간의 해당 사람 영역이 영상에 나타나는 동안의 시간을 측정함으로써 생성할 수 있다.

추적 정보를 추출함으로써 차량 전방에서 발생하는 이상 행위를 검출할 수 있는데(280), 내부적으로 학습되어 있는 이상 행위에 대한 패턴, 예컨대 차량 전방 배회 횟수, 차량에 대한 관찰이나 차량에 충격을 가하려는 행위 등의 패턴과의 일치 정도를 측정함으로써 이상 행위를 검출할 수 있다.

실시예에 있어서, 배회 행위의 경우 사람 영역의 이동 패턴이 미리 저장되어 있는 배회 이동 패턴과 어느 정도 일치하는지 일치 정도를 실시간으로 측정할 수 있으며, 일치 정도가 기준 임계 값보다 높게 나타나면 해당 이동 패턴에 대해서 이상 행위로 판단할 수 있다. 또한, 동일 인물로 판단되는 사람 영역이 전방 영상에 존재하는 이동 시간이 일정 시간 이상으로 측정되면, 해당 움직임에 대해서 이상 행위로 판단할 수 있다. 예컨대, 일정 시간 동안 전방 영상 내에서 세 번 왕복으로 이동하는 이동 패턴을 감지하면 이상 행위로 감지하는 등의 경우를 들 수 있다.

도 4는 본 발명의 일실시예에 있어서, 차량을 관찰하거나 차량에 충격을 가하려는 이상 행위를 판단하는 방법에 대해 설명하기 위한 도면이다.

먼저, 사람 영역에서 윤곽(Contour) 성분을 추출하고, 유클리디언 거리 변환(Euclidean Distance Transform)을 이용하여 무게 중심으로 찍은 중앙 점에서 외곽 성분에 해당하는 모든 좌표와의 거리를 측정한다.

이때, 그림 (a)와 같이 중앙점으로부터 시작하여 연속적으로 측정된 거리 분포에서 국소 최대(Local Maximum)에 해당하는 위치를 검출할 수 있다. 검출된 위치는 보통 그림 (a)와 같이 사람의 머리, 양 팔 및 양 다리 부분에 대항하는 A 내지 E의 위치가 되며, 해당 위치들과 무게 중심을 연결하여 사람의 골격 모델을 생성할 수 있다. 그림 (b)는 국소 최대 부분들과 무게 중심과의 거리 값의 분포를 도시한 것이다.

생성된 골격 모델에서 특징 벡터는 무게 중심과 연결된 국소 최대 부분들의 위치(A 내지 E 점)와 거리 값이 되며, 추출된 특징 벡터를 양자화 과정을 거쳐 특정 사람의 행위를 나타내는 심볼 형태로 변환할 수 있다.

변환된 심볼은 HMM(Hidden Markov Model)을 이용하여 미리 지정한 행위들과의 일치 정도를 측정하여 입력 심볼과 가장 유사한 행위를 추출하고, 이상 행위 판단은 전방 영상의 한 프레임의 결과로 판단하기 어렵기 때문에, 일정 시간 동안의 이상 행위 결과가 지속적으로 나타나는지 감지하여, 나타날 경우에 대해서 해당 행위를 이상 행위로 최종 검출할 수 있다.

또한, 이상 행위로 판단된 경우 이상 행위 검출부(112)는 해당 이상 행위에 대한 경고 신호를 전송 모듈(130)로 전달할 수 있다.

이어서, 내부 비전 모듈(120)은 외부 비전 모듈(110)과는 독립적으로 구동될 수 있으며, 차량 내부의 영상을 촬영하기 위한 내부 촬영부(121) 및 차량 탑승자의 얼굴을 식별하여 기 등록된 사용자와 일치하는지 판단하는 사용자 인식부(122)를 포함하여 구성될 수 있다.

도 5는 본 발명의 일실시예에 있어서, 내부 비전 모듈(120)을 통해 기 등록된 사용자를 인식하는 방법을 설명하기 위한 도면이다. 내부 촬영부(121)는 차량 내부를 촬영하도록 구비된 카메라를 통해 운전석 탑승자를 중심으로 촬영되는 내부 영상을 촬영(510)하여 사용자 인식부(122)로 전달할 수 있다.

사용자 인식부(122)는 입력 영상으로부터 얼굴 영역을 검출할 수 있다(520). 기계학습 알고리즘을 이용하여 입력 영상에서 얼굴 크기의 윈도우를 생성하고 탐색하면서 윈도우 영역에 대해서 MCT(Modified Census Transform)를 통해 특징을 추출한 후, Adaboost 분류기를 통과시켜 영상에서 현재 운전석에 앉아있는 운전자의 얼굴 영역을 검출할 수 있다.

또한, 얼굴 영역으로부터 탑승자의 얼굴 특징 정보를 추출할 수 있다(530). 앞서, 검출된 얼굴 영역에 대해서 ASM(Active Shape Model)을 이용하여 얼굴의 특징 정보, 예컨대 얼굴의 형태, 눈, 코, 입의 위치, 얼굴의 크기 등에 대한 정보를 추출할 수 있다.

추출한 얼굴 특징 정보를 이용하여 미리 등록되어 있는 차량 사용자의 얼굴을 인식할 수 있다(540). 이때, 추출한 얼굴 특징 정보를 미리 등록되어 있는 차량 사용자의 얼굴에 대한 특징 정보에 매칭할 수 있으며, 탑승자의 얼굴이 차량 사용자의 얼굴과 동일 인물인지 판단할 수 있다. 만약, 동일 인물이 아닐 경우에 대해서 비일치 상황으로 정의하고 이를 도난 징후로 판단하여 경고 신호를 전송 모듈(130)로 전달할 수 있다.

본 발명의 일실시예에 있어서, 전송 모듈(130)은 도난 징후에 관련된 영상을 전송하는 영상 전송부(131)와 위치 정보를 전송하는 위치 전송부(132)를 포함하여 구성될 수 있다.

영상 전송부(131)에서는 내부 비전 모듈이나 외부 비전 모듈로부터 이상 행위 및 비일치 상황 중 어느 하나의 상황의 도난 징후 신호가 전달되면 시스템에 미리 등록되어 있는 사용자 단말로 이와 관련된 경고 신호와 함께 관련 영상을 전달할 수 있다. 여기서, 사용자 단말은 피쳐폰이나 스마트폰 등을 포함하는 휴대폰, 태블릿 PC 등의 단말에 해당할 수 있다.

실시예에 있어서, 이상 행위와 관련하여 외부 비전 모듈에서 전달되는 차량 전방 영상을, 예컨대 도난 징후 발생 이후의 영상을 기 등록되어 있는 사용자 단말로 전송할 수 있다. 또한, 비일치 상황에 대해서 내부 비전 모듈에서 전달되는 차량 내부 영상과 차량 전방 영상을 함께 사용자 단말로 전송할 수 있는데, 불일치 상황은 차량 도난에 관한 위험이 있기 때문에 이동 경로를 파악하기 위해 전방 영상을 함께 전송하는 실시예를 포함할 수 있는 것이다.

또한, 위치 전송부(132)는 이상 행위 및 비일치 상황 중 어느 하나의 상황의 도난 징후 신호가 전달되면 차량 내에 포함되는 내비게이션의 GPS나 블랙박스의 GPS 등을 이용하여 실시간 차량의 위치 정보를 사용자 단말로 전달함으로써 차량의 이동 경로 파악을 용이하도록 할 수 있다.

도 6은 본 발명의 일실시예에 있어서, 지능형 블랙박스 시스템의 동작 방법을 설명하기 위한 흐름도이다. 실시예에 따른 방법은 도 1 내지 도 5를 통해 설명한 지능형 블랙박스 시스템(100)을 통해 수행될 수 있다.

단계(610)에서 지능형 블랙박스 시스템은 차량의 전방 영상을 통해 이상 행위를 탐지할 수 있다.

블랙박스의 단안 카메라 등의 전방 촬영 카메라를 통해 실시간 촬영 영상을 수집하여 전방 영상 내에서 객체를 추출하고 이 중 사람 영역을 찾아내어 해당 사람 영역의 이동 패턴 및 이동 시간에 대한 정보를 추적하여 이상 행위에 대해서 탐지할 수 있다.

실시예에 있어서, 검출한 객체 영역 중 사람 영역에 대해서 이동 패턴이나 이동 시간에 대한 추적 정보를 추출함으로써 차량 전방에서 발생하는 이상 행위를 검출할 수 있는데, 내부적으로 학습되어 있는 이상 행위에 대한 패턴, 예컨대 차량 전방 배회 횟수, 차량에 대한 관찰이나 차량에 충격을 가하려는 행위 등의 패턴과의 일치 정도를 측정함으로써 이상 행위를 검출할 수 있다.

단계(620)에서 지능형 블랙박스 시스템은 차량의 내부 영상을 통해 탑승자가 기 등록된 사용자와 일치하지 않는 비일치 상황을 판단할 수 있다. 단계(620)는 단계(610)와는 독립적으로 수행될 수 있다.

이때, 입력되는 내부 영상으로부터 얼굴 영역을 검출할 수 있다. 기계학습 알고리즘을 이용하여 입력 영상에서 얼굴 크기의 윈도우를 생성하고 해당 영역에 대해서 내부 영상에서 현재 운전석에 앉아있는 운전자의 얼굴 영역을 검출할 수 있다.

또한, 얼굴 영역으로부터 탑승자의 얼굴 특징 정보를 추출할 수 있는데, 앞서 검출된 얼굴 영역에 대해서 ASM(Active Shape Model)을 이용하여 얼굴의 특징 정보, 예컨대 얼굴의 형태, 눈, 코, 입의 위치, 얼굴의 크기 등에 대한 정보를 추출할 수 있다.

추출한 얼굴 특징 정보를 이용하여 미리 등록되어 있는 차량 사용자의 얼굴을 인식할 수 있으며, 이때 동일 인물이 아닐 경우에 대해서 비일치 상황으로 정의하고 이를 도난 징후로 판단할 수 있다.

단계(630)에서 지능형 블랙박스 시스템은 탐지된 이상 행위 및 비일치 상황 중 적어도 하나의 상황에 대한 상황 정보를 경고 신호와 함께 기 등록된 사용자 단말로 전송할 수 있다.

실시예에 있어서, 이상 행위 및 비일치 상황 중 어느 하나의 상황의 도난 징후 신호가 전달되면 시스템에 미리 등록되어 있는 사용자 단말로 이와 관련된 경고 신호와 함께 관련 영상, 그리고 차량 내에 포함되는 내비게이션의 GPS나 블랙박스의 GPS 등을 이용하여 실시간 차량의 위치 정보를 전달할 수 있다. 여기서, 사용자 단말은 피쳐폰이나 스마트폰 등을 포함하는 휴대폰, 태블릿 PC 등의 단말에 해당할 수 있다.

또한, 도난 사고 발생 후 차량의 위치를 지속적으로 추적하고, 추가적으로 사용자 단말로 전송된 영상의 경우 차후 사건 증거 자료로 활용될 수 있다는 점에서 도난 사고 발생 후 조속히 범인을 검거하는 데 기여할 수 있으며, 이에 더불어 사고 발생 가능성이 높은 영상을 우선적으로 선별하여 저장할 수 있으므로, 블랙박스의 제한된 메모리를 효율적으로 사용할 수 있다.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

100: 지능형 블랙박스 시스템
110: 외부 비전 모듈
120: 내부 비전 모듈
130: 전송 모듈

Claims

지능형 블랙박스 시스템에 있어서,
전방 영상을 촬영하는 외부 촬영부;
상기 전방 영상에서 객체를 추출하고 상기 객체의 움직임을 추적하여 이상 행위를 검출하는 이상 행위 검출부; 및
상기 검출된 상기 이상 행위에 대한 상황 정보를 경고 신호와 함께 기 등록되어 있는 사용자 단말로 전송하는 전송 모듈
을 포함하고,
상기 이상 행위 검출부는,
상기 전방 영상의 배경을 모델링하고,
상기 전방 영상에서 움직이는 객체를 추출하며,
상기 객체 별로 레이블(Label)을 부여하여 객체 영역을 정의하고 상기 객체 영역 중 사람 영역을 검출하고,
상기 사람 영역의 특징 정보를 추출하고,
상기 특징 정보를 이용하여 동일 인물의 이동 패턴과 이동 시간을 포함하는 추적 정보를 생성하는,
지능형 블랙박스 시스템.
삭제
제1항에 있어서,
상기 이상 행위 검출부는,
상기 이동 패턴이 미리 학습되어 있는 이상 행위 패턴과의 일치 정도가 기준 임계 값보다 높은 경우 상기 객체의 움직임을 상기 이상 행위로 판단하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
제1항에 있어서,
상기 이상 행위 검출부는,
상기 사람 영역에서 윤곽(Contour) 성분을 추출하여 상기 사람 영역의 무게 중심과의 거리가 국소 최대(Local Maximum)에 해당하는 위치와 상기 무게 중심을 연결하여 골격 모델을 생성하며,
상기 골격 모델의 이동 패턴이 미리 학습되어 있는 이상 행위 패턴과의 일치 정도가 기준 임계 값보다 높은 경우 상기 이상 행위로 판단 하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
제1항에 있어서,
상기 추적 정보는 상기 검출된 사람 영역에 대해 프레임 간 모션 대응(Motion Correspondence)을 측정함으로써 검출하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
제1항에 있어서,
상기 사람 영역의 상기 특징 정보는,
상기 사람 영역의 칼라 정보;
상기 사람 영역의 체형 정보; 및
상기 사람 영역의 키 정보 중 적어도 하나를 포함하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
제6항에 있어서,
상기 사람 영역의 칼라 정보는,
상기 사람 영역은 상부 및 하부로 분할되는 경우, 상기 상부의 상부 칼라 정보 및 상기 하부의 하부 칼라 정보를 포함하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
제6항에 있어서,
상기 사람 영역의 체형 정보는,
상기 사람 영역의 외곽선의 검출 후 ASM(Active Shape Model) 방법을 통해 모델링되어 추출되는 것
을 특징으로 하는 지능형 블랙박스 시스템.
삭제
삭제
지능형 블랙박스 시스템에 있어서,
차량의 전방 영상을 통해 이상 행위를 탐지하는 외부 비전 모듈;
상기 차량의 내부 영상을 통해 탑승자가 기 등록된 사용자와 일치하지 않는 비일치 상황을 판단하는 내부 비전 모듈; 및
상기 탐지된 이상 행위 및 상기 비일치 상황 중 적어도 하나의 상황에 대한 상황 정보를 경고 신호와 함께 기 등록되어 있는 사용자 단말로 전송하는 전송 모듈
을 포함하고,
상기 외부 비전 모듈은,
상기 전방 영상을 촬영하는 외부 촬영부; 및
상기 전방 영상에서 객체를 추출하고 상기 객체의 움직임을 추적하여 상기 이상 행위를 탐지하는 이상 행위 검출부를 포함하며,
상기 이상 행위 검출부는,
상기 전방 영상의 배경을 모델링하고,
상기 전방 영상에서 움직이는 객체를 추출하며,
상기 객체 별로 레이블(Label)을 부여하여 객체 영역을 정의하고 상기 객체 영역 중 사람 영역을 검출하고,
상기 사람 영역의 특징 정보를 추출하고,
상기 특징 정보를 이용하여 동일 인물의 이동 패턴과 이동 시간을 포함하는 추적 정보를 생성하는,
지능형 블랙박스 시스템.
삭제
제11항에 있어서,
상기 내부 비전 모듈은,
상기 차량의 내부 영상을 촬영하는 내부 촬영부; 및
상기 내부 영상으로부터 상기 탑승자가 기 등록된 사용자와 일치하지 않는 비일치 상황을 판단하는 사용자 인식부를 포함하며,
상기 사용자 인식부는,
상기 내부 영상에서 MCT(Modified Census Transform) 및 Adaboost 분류기를 통해 상기 탑승자의 얼굴 영역을 검출하고,
ASM(Active Shape Model)을 이용하여 상기 얼굴 영역의 얼굴 특징 정보를 추출한 후,
상기 탑승자의 얼굴 특징 정보를 상기 기 등록된 사용자의 얼굴 특징 정보와 매칭함으로써 상기 비일치 상황을 판단하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
제11항에 있어서,
상기 전송 모듈은,
상기 탐지된 이상 행위 및 상기 비일치 상황 중 적어도 하나의 상황에 대한 상기 전방 영상 및 상기 내부 영상을 포함하는 영상 정보를 전송하는 영상 전송부; 및
상기 탐지된 이상 행위 및 상기 비일치 상황 중 적어도 하나의 상황이 발생한 위치 정보를 전송하는 위치 전송부를 포함하는 것
을 특징으로 하는 지능형 블랙박스 시스템.
지능형 블랙박스 시스템의 동작 방법에 있어서,
차량의 전방 영상을 통해 이상 행위를 탐지하는 단계;
상기 차량의 내부 영상을 통해 탑승자가 기 등록된 사용자와 일치하지 않는 비일치 상황을 판단하는 단계; 및
상기 탐지된 이상 행위 및 상기 비일치 상황 중 적어도 하나의 상황에 대한 상황 정보를 경고 신호와 함께 사용자 단말로 전송하는 단계
을 포함하고,
상기 차량의 전방 영상을 통해 이상 행위를 탐지하는 단계는,
상기 전방 영상을 촬영하는 단계; 및
상기 전방 영상에서 객체를 추출하고 상기 객체의 움직임을 추적하여 상기 이상 행위를 탐지하는 단계
를 포함하며,
상기 전방 영상에서 객체를 추출하고 상기 객체의 움직임을 추적하여 상기 이상 행위를 탐지하는 단계는,
상기 전방 영상의 배경을 모델링하고 상기 전방 영상에서 움직이는 객체를 추출하 상기 객체 별로 레이블(Label)을 부여하여 객체 영역을 정의하고 상기 객체 영역 중 사람 영역을 검출하는 단계; 및
상기 사람 영역의 특징 정보를 추출하고, 상기 특징 정보를 이용하여 동일 인물의 이동 패턴과 이동 시간을 포함하는 추적 정보를 생성하는 단계
를 포함하는 지능형 블랙박스 시스템 동작 방법.