KR101548639B1 - 감시 카메라 시스템의 객체 추적장치 및 그 방법 - Google Patents

Abstract

본 발명에 따른 감시 카메라 시스템의 객체 추적장치는, 영상 입력부를 통해 입력받은 압축된 영상들이 3차원 좌표계 영상들로 복원되면, 복원된 3차원 좌표계 영상에서 관심 객체의 특징점들을 추출하여 배경으로부터 분리해 내는 전처리부, 날씨 및 주변 조도 변화에 따른 노이즈를 제거하고, 영상자체의 상태 변화를 추적하여 그 보정치를 영상에 적용하는 객체 인지부, 센시티브 칼만필터를 적용하여 상기 관심 객체를 추적하는 필터부, 특정 구간의 교통량을 측정하거나 차량의 사고발생 원인을 분석하기 위해, 상기 관심 객체에 관한 추적 데이터를 영상 정합 시스템의 소정 영상 합성 절차에 따라 합성된 영상에 반영하는 제어부를 포함하여 구성된다.
본 발명은, 실시간 감시 시스템의 경우 움직이는 객체가 많지 않은 환경에서 객체의 움직임을 자동으로 감지하고 이를 추적함으로써 인간의 역할을 대신할 수 있는 컴퓨터 비전 시스템에 응용될 것으로 기대되며, 지능형 영상감지 시스템의 경우에는 객체의 움직임을 판단하고 이를 추적하여 실시간 돌발상황에 대응하는데 응용될 수 있을 것이다. 또한, 본 발명은 상기 관심 객체에 관한 추적 데이터를 정합된 영상에 반영하여, 상기 정합된 영상 공간 상에서 일어나는 상기 관심 객체의 운행 패턴(or 행동 패턴)을 분석할 수 있고, 교통관제뿐 아니라 전시장 또는 매장 내 이용자의 동선 파악을 통한 패턴 분석 등 다양한 분야에 확대하여 활용할 수 있다.

Description

감시 카메라 시스템의 객체 추적장치 및 그 방법{APPARATUS FOR TRACKING THE OBJECTS IN SURVEILLANCE CAMERA SYSTEM AND METHOD THEREOF}

본 발명은 감시 카메라 시스템에 관한 것으로, 특히, 감시 카메라 시스템의 객체 추적장치 및 그 방법에 관한 것이다.

일반적으로 감시 카메라 시스템은 특정 지역을 감시하기 위하여 다수의 카메라를 사용한다. 각각의 카메라로부터 획득된 영상은 개별적인 모니터에 출력되어 감시자는 그 개별적인 모니터를 이용하여 전체적인 지역을 감시하게 된다.

각각의 카메라는 모두 다양한 각도와 방향으로 설치되기 때문에 각각의 모니터에서 출력되는 영상을 관찰하여서는 실제 모니터에 나타나는 영상과 물리적으로 존재하는 영역 사이의 관계를 파악하기가 어렵다.

따라서 감시자는 모니터에 출력되는 영상만을 확인하는 것으로 감시하고자 하는 전체 영역에 대한 이미지를 쉽게 떠올릴 수 없기 때문에 전체 영역에 대한 감시가 쉽지 않을 뿐만 아니라 감시자 또한 쉽게 피로해진다.

또한 감시하는 특정 영역 안의 특정 이동체를 지속적으로 모니터링하고자 할 경우 감시하고자 하는 전체 영역에 대한 이미지를 쉽게 확인할 수 없기 때문에 특정 지역 안의 이동체를 지속적으로 모니터링하는데 상당한 어려움이 있다.

이러한, 문제점들을 해결하기 위해, 구간 별 설치된 카메라를 통해 이동체의 전체 구간 움직임을 쉽게 추척하고 모니터할 수 있는 영상합성 장치가 개발되었고, 한국공개특허 10-2013-0070329(이하, 선행기술)에 그 영상합성 장치에 관한 내용이 개시되어 있다.

그러나 이러한, 종래 영상합성 장치의 경우, 다수의 영상 이미지를 하나로 합성할 때 영상의 왜곡현상을 일으키며, 카메라가 확보할 수 있는 도로의 거리 및 비선형구간이 늘어날수록 발생되는 영상 왜곡의 정도는 더 커지는 문제점을 가지고 있었다.

또한, 종래 영상합성 기술은 차량의 움직임이나 식별에 관한 별도의 객체인지 및 추적 기술이 적용되지 않아, 관리자의 육안에 의존하여 영상합성 이미지 상의 차량 움직임을 판단하고 추적해야 하므로, 차량주행패턴의 정보를 정확하게 취득할 수 없고 데이터 분석 값에 편차가 크게 발생하는 등, 해결해야 할 과제와 문제점들을 안고 있다.

한국공개특허 제10-2013-0070329(발명의 명칭: 감시 카메라 시스템에서 영상을 합성하기 위한 장치 및 방법)

본 발명의 목적은, 다수의 카메라로부터 획득된 3차원 공간 평면의 영상을 미리 정의된 변환 행렬을 이용하여 2차원 공간 평면의 영상으로 변형하고, 그 변형된 영상들을 합성하여 하나의 합성 영상을 생성하도록 하는 감시 카메라 시스템의 영상합성 장치 및 그 방법을 제공하는데 있다.

본 발명의 다른 목적은, 다수의 카메라로부터 획득된 3차원 영상들로부터 일정한 개수의 특징점을 추출하는 감시 카메라 시스템의 영상합성 장치 및 그 방법을 제공하는데 있다.

본 발명의 또 다른 목적은, 상기 획득된 3차원 공간 평면의 영상에서 차량을 추출하고 추적하여, 차량의 추적 데이터를 상기 합성된 영상에 반영하는 감시 카메라 시스템의 객체 추적장치 및 그 방법을 제공하는데 있다.

본 발명의 부가적인 특성 및 이점들은 아래의 설명에 기재될 것이며, 부분적으로는 상기 설명에 의해 명백해지거나 본 발명의 실행을 통해 숙지될 것이다. 본 발명의 목표 및 다른 이점들은 특히 아래 기재된 설명 및 부가된 도면뿐만 아니라 청구항에서 지적한 구조에 의해 구현될 것이다.

본 발명은 다수의 카메라로부터 획득된 3차원 공간 평면의 영상을 미리 정의된 변환 행렬을 이용하여 2차원 공간 평면의 영상으로 변형하고 그 변형된 영상들을 합성하여 하나의 합성 영상을 생성함으로써, 카메라의 위치나 설치 각도에 관계없이 전체 영역에 대한 영상을 획득할 수 있는 효과가 있다.

또한, 본 발명은 카메라의 위치나 설치 각도에 관계없이 전체 영역에 대한 영상을 획득하기 때문에 감시자가 직관적으로 전체 영역을 감시할 수 있는 효과가 있다.

또한, 본 발명은 감시자가 직관적으로 전체 영역을 감시할 수 있기 때문에 전체 영역 안에서 움직이는 이동체를 쉽게 추척 및 모니터링할 수 있는 효과가 있다.

또한, 본 발명은, 실시간 감시 시스템의 경우 움직이는 객체가 많지 않은 환경에서 객체의 움직임을 자동으로 감지하고 이를 추적함으로써 인간의 역할을 대신할 수 있는 컴퓨터 비전 시스템에 응용될 것으로 기대되며, 지능형 영상감지 시스템의 경우에는 객체의 움직임을 판단하고 이를 추적하여 실시간 돌발상황에 대응하는데 응용될 수 있을 것이다.

또한, 본 발명은 상기 관심 객체에 관한 추적 데이터를 정합된 영상에 반영하여, 상기 정합된 영상 공간 상에서 일어나는 상기 관심 객체의 운행 패턴(or 행동 패턴)을 분석할 수 있고, 교통관제뿐 아니라 전시장 또는 매장 내 이용자의 동선 파악을 통한 패턴 분석 등 다양한 분야에 확대하여 활용할 수 있다.

도1은 본 발명의 일 실시예에 따른 감시 카메라 시스템을 나타내는 도면.
도2는 본 발명에 따른 감시 카메라 시스템의 블록 구성도.
도3은 2차원 평면으로 투영된 3차원 공간상의 점을 나타내는 도면.
도4는 본 발명의 일 실시예에 따른 영상의 변환을 설명하기 위한 도면.
도5는 본 발명의 일 실시예에 따른 영상의 합성을 설명하기 위한 도면.
도6은 본 발명의 일 실시예에 따른 영상을 합성하기 위한 방법을 나타내는 도면.
도7은 본 발명에 따른 객체 추적장치에 관한 블록 구성도.
도8은 본 발명에 따른 객체인지 및 추적 기능의 개요를 나타낸 도면.
도9는 도8의 각 기능별로 처리된 영상을 나타낸 예시도.
도10은 센서티브 칼만필터링 알고리즘을 나타낸 도면.

상기와 같은 목적을 달성하기 위하여, 본 발명에 따른 감시 카메라 시스템의 객체 추적장치는,

영상 입력부를 통해 입력받은 압축된 영상들이 3차원 좌표계 영상들로 복원되면, 복원된 3차원 좌표계 영상에서 관심 객체의 특징점들을 추출하여 배경으로부터 분리해 내는 전처리부, 날씨 및 주변 조도 변화에 따른 노이즈를 제거하고, 영상자체의 상태 변화를 추적하여 그 보정치를 영상에 적용하는 객체 인지부, 센시티브 칼만필터를 적용하여 상기 관심 객체를 추적하는 필터부, 특정 구간의 교통량을 측정하거나 차량의 사고발생 원인을 분석하기 위해, 상기 관심 객체에 관한 추적 데이터를 영상 정합 시스템의 소정 영상 합성 절차에 따라 합성된 영상에 반영하는 제어부를 포함하여 구성된다.

바람직하게, 상기 영상 정합 시스템은, 교량이나 터널을 감시하는 영역 내의 다수의 카메라로부터 압축된 영상을 입력받는 영상 입력부, 입력받은 상기 압축된 영상들을 3차원 좌표계 영상들로 복원하고 미리 정의된 변환 행렬을 이용하여 상기 복원된 3차원 좌표계 영상들을 2차원 좌표계 영상들로 각각 변형하는 영상 변형부, 상기 각각 변형된 영상들을 합성하여 하나의 합성영상을 생성하는 영상 합성부를 포함하여 구성되는 것을 특징으로 한다.

상기와 같은 목적을 달성하기 위하여, 본 발명에 따른 감시 카메라 시스템의 객체 추적방법은,

교량이나 터널을 감시하는 영역 내의 다수의 카메라로부터 압축된 영상을 입력받는 단계, 입력받은 상기 압축된 영상들을 3차원 좌표계 영상들로 복원하는 단계, 상기 복원된 3차원 좌표계 영상에서 관심 객체의 특징점들을 추출하여 배경으로부터 분리해 내는 단계, 날씨 및 주변 조도 변화에 따른 노이즈를 제거하고, 영상자체의 상태 변화를 추적하여 그 보정치를 영상에 적용하는 단계, 센시티브 칼만필터를 적용하여 상기 관심 객체를 추적하는 단계, 특정 구간의 교통량을 측정하거나 차량의 사고발생 원인을 분석하기 위해, 상기 관심 객체에 관한 추적 데이터를 영상 정합 시스템의 소정 영상 합성 절차에 따라 합성된 영상에 반영하는 단계를 포함하여 구성된다.

바람직하게, 상기 소정 영상합성 절차는, 상기 복원된 3차원 좌표계 영상들을 미리 정의된 변환 행렬을 이용하여 상기 복원된 3차원 좌표계 영상들을 2차원 좌표계 영상들로 각각 변형하는 단계,상기 변형된 상기 다수의 영상들을 합성하여 하나의 합성영상을 생성하는 단계를 포함하여 이루어지는 것을 특징으로 한다.

이하, 본 발명의 바람직한 실시 예를 도면을 참조하여 설명하면 다음과 같다.

우선 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략하기로 한다.

이하에서는, 본 발명의 실시예에 따른 감시 카메라 시스템의 객체 추적장치 및 그 방법을 첨부한 도 1 내지 도 10을 참조하여 설명한다. 본 발명에 따른 동작 및 작용을 이해하는데 필요한 부분을 중심으로 상세히 설명한다. 명세서 전체를 통하여 각 도면에서 제시된 동일한 참조 부호는 동일한 구성 요소를 나타낸다. 또한, 본 발명을 설명함에 있어 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그에 대한 상세한 설명은 생략하기로 한다.

본 발명은 다수의 카메라로부터 획득된 3차원 공간 평면의 영상을 미리 정의된 변환 행렬을 이용하여 2차원 공간 평면의 영상으로 변형하고 그 변형된 영상들을 합성하여 하나의 합성 영상을 생성하도록 하는 영상합성(혹은 영상정합) 기술을 구현하였고, 특히, 상기 획득된 3차원 공간 평면의 영상에서 차량을 추출하고 추적하여, 차량의 주행패턴 정보나 추적 데이터를 상기 생성된 합성 영상에 반영하고 응용함으로써, 실시간 교통상황 또는 돌발상황에 대응할 수 있는 감시 카메라 시스템의 객체 추적장치 및 그 방법을 구현하였다.

도 1은 본발명의 일 실시예에 따른 감시카메라 시스템을 나타내는 도면이다.

도 1에 도시한 바와 같이, 본 발명에 따른 감시 카메라 시스템은 감시 영역에 설치되는 다수의 카메라(100), 및 영상 합성 장치(200) 등을 포함하여 구성될 수 있다.

카메라(100)는 감시하고자 하는 전체 영역을 모두 관찰할 수 있도록 배치될 수 있다. 이때, 카메라(100)의 위치와 방향은 상관이 없는데, 감시하고자 하는 전체 영역을 모두 확보할 수 있는 영상을 획득할 수 있도록 배치되어야 한다.

카메라(100)는 획득된 영상을 압축하여 유선 또는 무선 네트워크를 통해 영상 합성 장치(200)로 전송할 수 있다.

영상 합성 장치(200)는 카메라로부터 입력받은 압축된 영상을 복원하고 그 복원된 영상을 미리 정의된 변환식 또는 변환 행렬을 이용하여 변형(wrapping)하고 그 변형된 영상들을 합성하여 하나의 합성 영상을 생성할 수 있다.

도2는 본 발명에 따른 감시 카메라 시스템의 블록 구성도이다.

도2에 도시한 바와 같이, 본 발명에 따른 감시 카메라 시스템은 영상 입력부(210), 영상 변형부(220), 영상 합성부(230), 영상 저장부(240), 및 객체 추적장치(300) 등을 포함하여 구성될 수 있다.

상기 영상 입력부(210)는 카메라로부터 압축된 영상을 유선 또는 무선으로 입력받을 수 있다.

상기 영상 변형부(220)는 압축된 영상을 복원하여 그 복원된 영상을 미리 정의된 변환 행렬을 이용하여 변형할 수 있는데, 여기서, 변환 행렬은 3차원 공간상의 좌표를 2차원 이미지상의 좌표로 변형하거나 2차원 이미지상의 좌표를 3차원 공간상의 좌표로 변형할 수 있다.

이러한 변환 행렬을 도 3 내지 도 5를 참조하여 구체적으로 설명하면 다음과 같다.

도 3은 2차원 평면으로 투영된 3차원 공간상의 점을 나타내는 도면이다.

도 3에 도시한 바와 같이, 3차원 공간상의 점(X,Y,Z)가 카메라를 통해 2차원 평면상의 점(x,y)로 투영될 수 있다고 가정하면, 이때의 3차원 공간상의 좌표 (X,Y,Z)와 2차원 평면상의 좌표(x,y) 사이의 관계는 다음의 [수학식 1]과 같이 나타낼 수 있다.

[수학식 1]

(x,y)는 카메라 센서 상의 좌표이므로 이것을 이미지의 픽셀 좌표로 변경하면 다음의 [수학식 2]와 같이 나타낼 수 있다.

[수학식 2]

여기서, (u,v)는 이미지 상의 좌표를 나타내고, (u₀,v₀)는 카메라 광축이 이미지에 투영되는 곳의 좌표를 나타낼 수 있다. 그리고 k_u, k_v는 x축과 y축 각각에 대하여 카메라 센서 상의 좌표와 이미지 좌표 사이의 비율을 나타낼 수 있다.

상기 [수학식 2]를 행렬로 표현하면 다음의 [수학식 3]과 같이 나타낼 수 있다.

[수학식 3]

3차원 공간상의 좌표는 회전과 이동이 이루어지므로 3차원 공간상의 회전과 이동을 고려하여 상기 [수학식 3]을 표현하면 다음의 [수학식 4]와 같이 나타낼 수 있다.

[수학식 4]

여기서, 회전은 회전 행렬

로 이루어지고, 이동은 이동 행렬

로 이루어진다.

3차원 회전 행렬 R은 3차원 공간상에서 x,y,z축에 대한 회전을 표현한 행렬로 만일 각 축에 대한 회전량을

(z축)

(y축),

(x축)이라 하면, 회전 행렬 R은 다음의 [수학식 5]와 같이 나타낼 수 있다.

[수학식 5]

상기 [수학식 5]에서 주간 행렬을 모두 곱하여 3차원 공간상의 좌표 (X,Y,Z)와 2차원 이미지 상의 좌표 (u,v) 사이의 관계를 정리하면 다음의 [수학식 6]과 같이 나타낼 수 있다.

[수학식 6]

상기 [수학식 6]에서 행렬 P는 카메라 내부 변수, f, k_u, k_v, u₀, v₀와 카메라의 회전과 이동에 관계된 변수

가 모두 포함되어 있는 행렬로, 3차원 물체가 2차원 평면상에 투영되어 변화한다면 임의의 형태로 변형되는 것이 아니라 상기 [수학식 6]에 의하여 형태의 변화가 제한받게 된다.

실제로 행렬 P를 계산하기 위하여 카메라 내부 변수와 외부 변수를 측정하는 것은 거의 불가능하기 때문에 실제 3차원 공간상의 좌표와 2차원 이미지상의 좌표를 측정하여 계산해야 한다. 이러한 3차원 공간상의 좌표와 2차원 이미지상의 좌표와의 관계식으로부터 다음의 [수학식 7]을 유도할 수 있다.

[수학식 7]

,

,

상기 [수학식 7]을 이용하면 3차원 공간상의 좌표와 이에 대응하는 2차원 이미지상의 좌표로부터 변환 행렬 P를 계산할 수 있다. 만일 3차원 공간상의 좌표가 동일한 평면위에 있다고 가정하면 다음의 [수학식 8]과 같이 단순화시킬 수 있다.

[수학식 8]

만일 3차원 공간상의 좌표가 동일한 평면 위에 존재하지 않는다면 3차원 공간 물체의 높이 정보까지 알아야만 영상을 합성할 수 있다. 하지만 감시카메라는 상당히 높은 곳에 설치되기 때문에 카메라에서 지면까지의 거리에 비하여 차량의 높이는 무시할 수 있기 때문에 [수학식 8]에서처럼 카메라로부터 들어오는 영상이 동일한 평면상에 존재한다고 가정하여도 무방할 수 있다.

3차원 공간상의 좌표가 동일 평면 위에 있다고 가정하면 행렬 P를 계산하기 위해서는 3차원 공간상의 점과 이에 대응되는 이미지상의 4점이 필요하다.

도4는 본 발명의 일 실시예에 따른 영상의 변환을 설명하기 위한 도면이다.

도4의 (a)에 도시한 바와 같이, 영상의 변환은 3x3 변환행렬 P를 이용하여 이루어진다. 즉, 도4의 (b)에 도시된 바와 같이 3차원 좌표계의 이미지에서 2차원 좌표계의 이미지로 변형되거나 2차원 좌표계의 이미지에서 3차원 좌표계의 이미지로 변형될 수 있다. 도4의 (b)는 실제 3차원 좌표계의 영상을 2차원 좌표계의 영상으로 변형한 예시도이다.

여기서, 카메라로부터 들어온 이미지(3차원 좌표계 영상들)에서 4점에 대한 좌표를 알고 있다면 이 4점으로부터 변환 행렬 P를 계산할 수 있고, 역으로 변환 행렬 P를 이용하면 카메라 이미지 상의 모든 점을 3차원 좌표계 이미지로 변환할 수 있다.

이때, 카메라 영상에서 최소한 4점의 좌표는 미리 알고 있다고 가정하는데, 이러한 4점의 좌표는 미리 정의된 표식점이거나 잘 알려진 랜드마크 등을 사용할 수 있다.

도4의 (b)에서는 실제 3차원 좌표계의 영상이 2차원 좌표계의 영상으로 변형되는 것을 보여주고 있다.

상기 영상 합성부(230)는 도5에 도시된 바와 같이, 변형된 영상들을 합성하여 하나의 합성 영상을 생성한다. 도5는 본 발명에 따른 영상합성을 설명하기 위한 예시도이다.

카메라가 2개일 경우 각각의 개별 카메라에 의해 촬영된 영상에 대한 변환 행렬 P를 계산하여 2차원 평면상으로 합성하게 된다.

영상을 합성하는 과정에서 영상과 영상이 겹쳐지는 부분이 발생할 수 있다. 이 부분을 얼마나 부드럽게 합성하는가는 합성된 영상의 질을 보장하게 된다. 겹쳐지는 부분에서 영상을 부드럽게 합성하는 것을 영상 블랜딩(image blending)이라고 한다.

이러한 블랜딩 기법에는 다양한 방법들이 존재하게 되는데, 예컨대, 두 영상의 평균값을 사용하는 방법과 각 영상으로부터의 거리에 따라 미리 설정된 가중치를 이용하는 방법 등이 있다. 물론, 본 발명은 반드시 이에 한정되지 않는다.

상기 영상 저장부(240)는 이렇게 생성된 합성 영상을 주기적으로 저장할 수 있다. 이렇게 저장된 합성 영상들은 필요에 따라 감시자 또는 관리자에게 제공될 수 있다.

상기 객체 추적장치(300)는 객체를 추출하는 영상처리 기법과 객체 추적을 위한 센시티브 칼만필터를 이용하여, 움직이는 차량을 실시간으로 인지하고 추적한다.

객체인식은 영상에서 원하는 특정 객체(물건, 사람..)만을 인지하여 추출하는 기술을 말하며 추출된 객체를 이용하여 추적 및 정보 분석에 이용할 수 있다.

객체인식/추출방법은 첫 번째, 배경영역과 객체를 분리하는 단계로 이진화와 차연산 등 영상처리 기법을 이용하여 배경영역(도로, 주변건물, 가로등, 가로수등)을 제거하고 두 번째, 노이즈 필터링 및 후처리 기법을 통해 객체(차량) 후보군을 추출한다.

객체추적방법은 첫 번째, 추출된 객체 후보군 중 차량의 크기와 실시간으로 획득 하는 영상을 분석하여 객체의 움직이는 방향 벡터를 계산하여 차량으로 분류하고 두 번째, 차량으로 분류된 객체를 추적하기 위해 선형역학계의 상태를 추적하는 재귀 필터로 성능이 증명된 센서티브 확장칼만 필터를 이용한다.

도6은 본 발명의 일 실시예에 따른 영상을 합성하기 위한 방법을 나타내는 도면이다.

도6에 도시한 바와 같이, 본 발명에 따른 영상을 합성하기 위한 장치(이하, 영상합성 장치라고 한다)는 카메라로부터 압축된 영상을 유선 또는 무선으로 입력받을 수 있다(S610).

다음으로, 영상합성 장치는 압축된 영상들을 복원하여(S620) 그 복원된 영상들을 미리 정의된 변환 행렬을 이용하여 각각 변형할 수 있다(S630). 즉, 영상 합성 장치는 복원된 3차원 좌표계의 영상을 2차원 좌표계의 영상으로 변형할 수 있다.

다음으로, 영상합성 장치는 변형된 영상들을 합성하여 하나의 합성 영상을 생성할 수 있다(S640). 이때, 영상 합성 장치는 영상들을 합성하는 과정에서 합성되는 영상들 간에 겹쳐지는 부분은 겹쳐지는 영상들의 평균값을 사용하여 하나로 합성할 수 있다. 그리고 합성 영상 장치는 영상들을 합성하는 과정에서 합성되는 영상들 간에 겹쳐지는 부분은 겹쳐지는 영상들 각각으로부터의 거리에 따라 미리 설정되는 가중치를 사용하여 하나로 합성할 수 있다.

도7은 본 발명에 따른 객체 추적장치에 관한 블록 구성도이다.

도7에 도시된 바와 같이, 본 발명에 따른 실시간 객체 추적장치는 영상 입력부(210), 영상 변형부(220)와, 전처리부(310), 객체 인지부(330), 필터부(350), 제어부(370)를 포함하여 구성된다.

상기 영상 변형부(220)가 상기 영상 입력부(210)를 통해 입력받은 압축 영상들을 3차원 좌표계 영상들로 복원하면, 상기 전처리부(310)는 상기 복원된 3차원 좌표계 영상(이하, '입력 영상'이라 한다)에서 관심 객체의 특징점들을 추출하여 관심 객체를 배경으로부터 분리해 낸다.

관심 객체와 배경을 분류하는 방법으로는 인접 영상끼리의 차영상법, N-time만큼 떨어진 이전 영상과의 차영상법, 배경과 차영상법 등의 다양한 차영상 기법들이 사용될 수 있다.

상기 인접 영상끼리의 차영상법은 구현이 가장 간단하고, 배경의 완만한 변화에 대해서 강인하므로 많이 사용된다. 그러나 관심 객체의 움직임이 없는 경우에는 객체를 대상 영역에서 분해할 수 없는 문제가 있다. 따라서, 관심 객체의 작은 움직임을 잡아내기 위해서는 차영상법을 바로 인접한 영상 대신 N단계 이전의 영상 프레임과 차영상을 적응적으로 이용하는 기법이 사용하게 된다.

상기 객체 인지부(330)는 노이즈 필터링 및 후처리 기법을 통해 날씨 및 주변 조도변화에 따른 노이즈를 제거하고, 영상 자체의 상태 변화를 추적하여 그 보정치를 영상에 적용한다.

상기 필터부(350)는 도10에 도시된 바와 같이, 센시티브 칼만필터를 적용하여 상기 관심 객체를 추적한다. 일반 칼만필터를 적용하는 경우, 관심 객체의 정지 상태가 일정 시간이상 지속되면 관심 객체의 배경화가 일어난다. 즉, 해당 관심 객체를 배경으로 인식하게 된다. 센시티브 칼만필터가 적용되면, 객체를 잡고 있는 시간을 늘리는 방식으로 이러한 배경화를 방지할 수 있다. 사실상, 배경화의 확률을 줄이는 것이다. 도10은 센서티브 칼만필터링 알고리즘을 나타낸 도면이다.

상기 제어부(370)는 특정 구간의 교통량을 측정하거나 차량의 사고발생 원인을 분석하기 위해, 상기 관심 객체에 관한 추적 데이터를 소정 영상 합성 절차에 따라 정합된 영상에 반영한다.

상기 관심 객체에 관한 추적 데이터가 본 발명의 정합된 영상에 반영되면, 상기 정합된 영상 공간 상에서 일어나는 상기 관심 객체의 운행 패턴(or 행동 패턴)을 분석할 수 있다. 또한, 교통관제뿐 아니라 전시장 또는 매장 내 이용자의 동선 파악을 통한 패턴 분석 등 다양한 분야에 확대하여 활용할 수 있다.

도8은 본 발명에 따른 객체인지 및 추적 기능의 개요를 나타낸 도면이고, 도9는 도8의 각 기능별로 처리된 영상을 나타낸 예시도이다.

상기 필터부(350)는 영역기반 추적, 외곽선 기반 추적, 특징점 기반 추적, 모델기반 추적 등의 물체추적 방법을 이용할 수 있다.

먼저, 상기 영역기반 추적은 상기 입력 영상을 여러 개의 영역으로 나누어 그 영역을 살펴보며 움직이는 물체를 찾아내는 방식이다.

상기 외곽선 기반 추적의 경우 상기 입력 영상에서 외곽선만 추출하여 찾고자 하는 물체의 형태를 찾아내는 방식이다.

상기 특징점 기반 추적은 추적하고자 하는 물체를 나타낼 수 있는 고유의 특징들을 나타내는 점들을 추출하여, 대상 물체를 추적하는 방식이다. 이때, 상기 고유의 특징들을 나타내는 점들로는 영상의 색상 값(혹은 색상 값의 변화량), 경계 값(혹은 경계 값의 변화량), 밝기 값(혹은 밝기 값의 변화량)등이 있다.

상기 모델 기반 추적은 찾고자 하는 물체의 형태에 따라 모델을 세우고, 상기 입력 영상을 이 모델에 맞추어 물체를 추적하는 방식이다.

상기 필터부(350)는 특정 객체의 상태를 예측한다. 일반적으로 물체 추적 분야에서, 추적하고자 하는 대상 물체의 위치를 그 상태로 설정하여 다음 프레임에서의 위치를 예측하고, 그 위치를 다시 측정하여 결과를 보정해 나가는 방법으로 사용된다.

본 발명에 따른 필터부(350)는 칼만 필터만 단독으로 이용하지 않고 다른 방법을 통해 영상 내에서 관심 객체의 위치를 발견한 후, 계속 관심 객체의 위치를 추적한다.

상기 필터부(350)는 객체의 상태를 나타내는 상태 벡터(state vector)와 객체의 상태를 측정하여 받아온 측정 벡터(measurement vector)의 반복적인 예측과 보정을 통하여 객체의 상태를 예측한다.

하기 [수학식 9]는 칼만 필터의 수학식을 나타낸 것이다.

[수학식 9]

여기서 상기 s는 상태 벡터이고, 상기 F는 상태 행렬이고, 상기 ω는 상태 노이즈이고, 상기 z는 측정 벡터이고, 상기 H는 측정행렬이고, 상기 υ는 측정 노이즈이다.

본 발명은 관심영역의 위치와 크기를 상태 벡터와 측정 벡터로 모델링한 후, 칼만 필터를 이용하여 이번 프레임을 위한 관심영역을 예측한다.

하기 [수학식 10]는 상태 벡터와 측정벡터를 나타낸 것이다.

[수학식 10]

여기서 상기

는 각각 관심 영역의 중심점의

좌표를 뜻하고, 상기

는 각각 관심영역의 넓이와 높이를 나타내고, 상기

은 각각 상기

값의 변화량을 나타내고 있다.

하기 [수학식 11]은 상태 행렬 F를 나타낸 것이다.

[수학식 11]

원칙적으로, 측정 행렬 H는 매 프레임 바뀌는 값이지만, 구현 상의 편의와 빠른 계산을 위해 단위행렬로 고정한다. 매 단계마다 측정 행렬을 알맞게 수정하는 것은 사실상 불가능하고, 측정 행렬의 경우 그 역행렬이 쓰이기 때문에 계산의 편이를 위해 실제적으로 구현할 때, 흔히 단위행렬로 고정하여 사용된다.

이후, 상기 필터부(350)는 칼만 필터를 이용하여 매 프레임마다 측정된 결과를 받아 다음 프레임을 위한 상태 벡터를 예측한다.

먼저, 예측 단계에서, 필터부(350)는 이전 프레임의 결과를 이용해 현재 프레임에서 필요한 선험적(A priori) 상태 벡터

와 그 공분산

을 구한다.

하기 [수학식 12]는 선험적(A priori) 상태 벡터와 그 공분산을 나타낸 것이다.

[수학식 12]

여기서 상기 Q는 처리 오차로 가우시안 정규분포를 따른다.

이전 프레임의 값을 이용하여 현재 프레임의 값을 예측하게 되면, 상기 필터부(350)는 다음 단계인 측정값을 갱신하는 단계를 수행한다.

상기 측정값을 갱신하는 단계에서, 필터부(350)는 먼저, 선험적 공분산

과 측정 벡터 H를 이용하여 칼만 게인 K를 구한다. 그리고, 이를 이용하여 이번 프레임의 후험적(aposteroiri) 상태 벡터와 그 공분산을 구한다.

[수학식 13]

여기서 상기 R은 이전, 예측 단계의 Q와 마찬가지로 가우시안 정규분포를 따르는 오차를 나타낸다.

이상의 두 가지 단계의 반복 수행을 통해, 본 발명은 지속적으로 다음 위치를 예측하고, 결과로 받은 영역의 측정값을 상기 예측된 값과 비교한 후 이를 보정하여 다음 프레임에서의 예측이 보다 정확하게 이루어질 수 있도록 한다.

본 발명은, 칼만 필터를 이용하여 다음 프레임에 대상 물체가 있을 위치를 예측함으로써 보다 작은 크기의 관심 영역을 설정할 수 있기 때문에, 보다 빠르게 객체인지 및 추적을 수행할 수 있다. 또한, 이상의 절차에 따라 추출한 특징점의 개수가 적은 경우나, 대상 물체의 충돌로 인한 특징점 개수 감소에도 예측된 영역에 물체가 있다고 판단하여, 지속적인 추적이 가능하다.

한편, 상술한 본 발명의 실시예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에 서 구현될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.

본 발명에 의한 감시 카메라 시스템에서 영상을 합성하기 위한 장치 및 그 방법이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.

본 발명은 도면에 도시된 실시 예(들)를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형이 이루어질 수 있으며, 상기 설명된 실시예(들)의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.

이상의 본 발명은 다수의 카메라로부터 획득된 3차원 공간 평면의 영상을 미리 정의된 변환 행렬을 이용하여 2차원 공간 평면의 영상으로 변형하고 그 변형된 영상들을 합성하여 하나의 합성 영상을 생성함으로써, 카메라의 위치나 설치 각도에 관계없이 전체 영역에 대한 영상을 획득할 수 있는 효과가 있다.

또한, 본 발명은 카메라의 위치나 설치 각도에 관계없이 전체 영역에 대한 영상을 획득하기 때문에 감시자가 직관적으로 전체 영역을 감시할 수 있는 효과가 있다.

또한, 본 발명은 감시자가 직관적으로 전체 영역을 감시할 수 있기 때문에 전체 영역 안에서 움직이는 이동체를 쉽게 추척 및 모니터링할 수 있는 효과가 있다.

또한, 본 발명은, 실시간 감시 시스템의 경우 움직이는 객체가 많지 않은 환경에서 객체의 움직임을 자동으로 감지하고 이를 추적함으로써 인간의 역할을 대신할 수 있는 컴퓨터 비전 시스템에 응용될 것으로 기대되며, 지능형 영상감지 시스템의 경우에는 객체의 움직임을 판단하고 이를 추적하여 실시간 돌발상황에 대응하는데 응용될 수 있을 것이다.

또한, 본 발명은 상기 관심 객체에 관한 추적 데이터를 정합된 영상에 반영하여, 상기 정합된 영상 공간 상에서 일어나는 상기 관심 객체의 운행 패턴(or 행동 패턴)을 분석할 수 있고, 교통관제뿐 아니라 전시장 또는 매장 내 이용자의 동선 파악을 통한 패턴 분석 등 다양한 분야에 확대하여 활용할 수 있다.

100 : 카메라
200 : 영상 합성 장치
210 : 영상 입력부
220 : 영상 변형부
230 : 영상 합성부
240 : 영상 저장부
300 : 객체 추적장치
310 : 전처리부
330 : 객체 인지부
350 : 필터부
370 : 제어부

Claims (12)

1. 교량이나 터널을 감시하는 영역 내의 다수의 카메라로부터 압축된 영상을 입력받는 영상 입력부(210),
   입력받은 상기 압축된 영상들을 3차원 좌표계 영상들로 복원하고 미리 정의된 변환 행렬을 이용하여 상기 복원된 3차원 좌표계 영상들을 2차원 좌표계 영상들로 각각 변형하는 영상 변형부(220),
   상기 각각 변형된 영상들을 합성하여 하나의 합성영상을 생성하는 영상 합성부(230),
   상기 영상 변형부(220)가 복원한 3차원 좌표계 영상에서 관심 객체의 특징점들을 추출하여 배경으로부터 분리해 내는 전처리부(310),
   날씨 및 주변 조도 변화에 따른 노이즈를 제거하고, 영상자체의 상태 변화를 추적하여 그 보정치를 영상에 적용하는 객체 인지부(330),
   센시티브 칼만필터를 적용하여 상기 관심 객체를 추적하는 필터부(350),
   특정 구간의 교통량을 측정하거나 차량의 사고발생 원인을 분석하기 위해, 상기 관심 객체에 관한 추적 데이터를 상기 영상 합성부(230)의 영상 합성 절차에 따라 합성된 영상에 반영하는 제어부(370)를 포함하여 구성되는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적장치.
   
2. 삭제
3. 제1항에 있어서, 상기 미리 정의된 변환 행렬은
   높이(z축)에 제로값('0')을 할당하는 3X3 행렬인 것을 특징으로 하는 감시 카메라 시스템의 객체 추적장치.
   
4. 제1 항에 있어서, 상기 영상 합성부(230)는,
   상기 영상들을 합성하는 과정에서 합성되는 상기 영상들 간에 겹쳐지는 부분은 미리 설정된 블랜딩 기법을 사용하여 하나로 합성하는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적장치.
   
5. 제4 항에 있어서, 상기 영상 합성부(230)는,
   상기 영상들을 합성하는 과정에서 합성되는 상기 영상들 간에 겹쳐지는 부분은 겹쳐지는 상기 영상들의 평균값을 사용하여 하나로 합성하는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적장치.
   
6. 제4 항에 있어서, 상기 영상 합성부(230)는,
   상기 영상들을 합성하는 과정에서 합성되는 상기 영상들 간에 겹쳐지는 부분은 겹쳐지는 상기 영상들 각각으로부터의 거리에 따라 미리 설정되는 가중치를 사용하여 하나로 합성하는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적장치.
   
7. 교량이나 터널을 감시하는 영역 내의 다수의 카메라로부터 압축된 영상을 입력받는 단계,
   입력받은 상기 압축된 영상들을 3차원 좌표계 영상들로 복원하는 단계,
   상기 복원된 3차원 좌표계 영상들을 미리 정의된 변환 행렬을 이용하여 상기 복원된 3차원 좌표계 영상들을 2차원 좌표계 영상들로 각각 변형하는 단계,
   상기 변형된 다수의 영상들을 합성하여 하나의 합성영상을 생성하는 단계,
   상기 복원된 3차원 좌표계 영상에서 관심 객체의 특징점들을 추출하여 배경으로부터 분리해 내는 단계,
   날씨 및 주변 조도 변화에 따른 노이즈를 제거하고, 영상자체의 상태 변화를 추적하여 그 보정치를 영상에 적용하는 단계,
   센시티브 칼만필터를 적용하여 상기 관심 객체를 추적하는 단계,
   특정 구간의 교통량을 측정하거나 차량의 사고발생 원인을 분석하기 위해, 상기 관심 객체에 관한 추적 데이터를 상기 생성된 합성된 영상에 반영하는 단계를 포함하여 구성되는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적방법.
   
8. 삭제
9. 제7항에 있어서, 상기 미리 정의된 변환 행렬은
   높이(z축)에 제로값('0')을 할당하는 3X3 행렬인 것을 특징으로 하는 감시 카메라 시스템의 객체 추적방법.
   
10. 제7항에 있어서, 상기 합성영상을 생성하는 단계는,
    상기 영상들을 합성하는 과정에서 합성되는 상기 영상들 간에 겹쳐지는 부분은 미리 설정된 블랜딩 기법을 사용하여 하나로 합성하는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적방법.
    
11. 제7항에 있어서, 상기 합성영상을 생성하는 단계는,
    상기 영상들을 합성하는 과정에서 합성되는 상기 영상들 간에 겹쳐지는 부분은 겹쳐지는 상기 영상들의 평균값을 사용하여 하나로 합성하는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적방법.
    
12. 제7항에 있어서, 상기 합성영상을 생성하는 단계는,
    상기 영상들을 합성하는 과정에서 합성되는 상기 영상들 간에 겹쳐지는 부분은 겹쳐지는 상기 영상들 각각으로부터의 거리에 따라 미리 설정되는 가중치를 사용하여 하나로 합성하는 것을 특징으로 하는 감시 카메라 시스템의 객체 추적방법.

Images