KR102587710B1 - 카메라 스트림용 마스크를 생성하기 위한 방법, 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체 - Google Patents

카메라 스트림용 마스크를 생성하기 위한 방법, 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체 Download PDF

Info

Publication number
KR102587710B1
KR102587710B1 KR1020227003367A KR20227003367A KR102587710B1 KR 102587710 B1 KR102587710 B1 KR 102587710B1 KR 1020227003367 A KR1020227003367 A KR 1020227003367A KR 20227003367 A KR20227003367 A KR 20227003367A KR 102587710 B1 KR102587710 B1 KR 102587710B1
Authority
KR
South Korea
Prior art keywords
image
edge
mask
images
pixel value
Prior art date
Application number
KR1020227003367A
Other languages
English (en)
Other versions
KR20220028066A (ko
Inventor
마티아스 르랑트
Original Assignee
에이아이모티브 케이에프티.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 에이아이모티브 케이에프티. filed Critical 에이아이모티브 케이에프티.
Publication of KR20220028066A publication Critical patent/KR20220028066A/ko
Application granted granted Critical
Publication of KR102587710B1 publication Critical patent/KR102587710B1/ko

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • G06T5/002
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30232Surveillance
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 연속 이미지를 갖는 카메라 스트림에 기반한 비정적 영역용 마스크(40)를 생성하기 위한 방법이고, 다음 단계 - 차이 이미지를 누적하여 누적 차이 이미지를 생성하는 단계(차이 이미지 각각은 카메라 스트림의 두 이미지를 서로 소거함으로써 얻음), - 에지 이미지를 누적하여 누적 에지 이미지를 생성하는 단계(에지 이미지 각각은 카메라 스트림의 개별 이미지에서 에지를 검출하여 얻음), - 누적 에지 이미지와 누적 차이 이미지를 조합하여 조합 이미지(30)를 생성하는 단계, - 조합 이미지(30)용 제1 임계치 픽셀 값을 정의하는 단계, 및 - 제1 임계치 픽셀 값에 대해 동일한 관계를 갖는, 조합 이미지(30)의 픽셀 값을 마스크(40)에 포함시켜 마스크(40)를 생성하는 단계를 포함한다. 본 발명은 또한 전술한 방법을 수행하기 위한 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체에 관한 것이다.

Description

카메라 스트림용 마스크를 생성하기 위한 방법, 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체
본 발명은 카메라 스트림의 비정적 영역용 마스크를 생성하기 위한 방법에 관한 것이다. 본 발명은 또한 상기 방법을 구현하기 위한 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체에 관한 것이다.
카메라 스트림의 몇몇 이미지를 프로세싱하는 단계는 이미지의 정적 그리고 동적 또는 변하는 부분 사이를 구별하기 위해 연속 이미지 또는 프레임을 소거하는 단계를 포함한다. 대부분의 응용예, 예를 들어 자율 차량과 연관된 응용예는 일반적으로 이미지의 정적 부분을 무시하도록 요구하여 동적 변화 부분의 더 빠르고 더 효과적인 프로세싱 결과를 얻는다.
이미지 소거 및 동적 임계치 설정을 사용하는 방법은 미국 특허 6,061,476에 개시되어 있다. 인쇄 회로 기판 상에 솔더 페이스트 도포 이전과 이후 이미지를 취한 다음, 도포된 페이스트를 조사하기 위해 이전 및 이후 이미지가 소거된다. 스칼라 임계치 대신에 동적 임계치에 의해 소거된 이미지의 전경 및 후경을 분리함으로써, 네가티브 및 포지티브 소거 이미지 모두를 추가로 프로세싱한다. 동적 임계치는 스칼라 임계치보다 더욱 정확히 전경을 검출할 수 있는 것으로 주장된다. 동적 임계치 설정은 포지티브 소거 이미지 및 네가티브 소거 이미지를 생성하고, 그 다음 이들 이미지는 병합되고 이진화된다. Sobel 에지 검출기에 의해 에지 검출이 이전 및 이후 이미지 상에 수행된 다음에 가짜 에지를 제거 하기 위해 진짜 피크 검출이 수행된다. 그 다음 최종 이미지가 이진화 맵에 의해 이진화된다. 페이스트에 대응하는 픽셀은 이진화 이전 및 이후 이미지를 소거함으로써 결정된다.
전술한 방법의 단점은 복잡한 에지 검출 알고리즘에 기인하는데, 실시간 신호 프로세싱에 적합하지 않다.
비디오 스트림으로부터 전경 객체 이미지를 추출하기 위한 방법이 미국 특허 제2011/0164823 A1호에 개시되어 있다. 상기 방법은 기준 후경 이미지와 프레임의 에지를 계산하여 이미지의 전경으로부터 후경을 분리하는 단계를 포함한다. 전경은 기준 후경 이미지와 프레임의 에지를 소거함으로써 전경이 추출된다. 상기 방법은 또한 이미지로부터 노이즈를 제거하기 위해 임계치 설정 단계를 포함할 수 있다. 상기 방법의 단점은, 소정의 응용예에 제공되기 어려울 수 있는 기준 후경 이미지를 요구하는 것이다. 예를 들어, 자율 또는 자가 운전 차량의 대쉬보드 카메라는 상기 방법에 요구되는 기준 후경 이미지를 가질 수 없다.
미국 특허 제2012/0014608 A1호에, 이미지 프로세싱용 장치 및 방법이 개시되어 있다. 이미지의 특징 분석에 기초하여 관심 영역(ROI)이 결정되고 ROI에 대해 마스크가 생성된다. 본 발명에 따라, ROI는 이미지의 에지를 검출하여 보다 정확히 구체화될 수 있는데, 그 이유는 상기 방법에 의해 검출되는 특징이, 에지 검출 알고리즘에 의해 추출될 수 있는 연속 에지를 갖기 때문이다. 상이한 방법에 의해 생성된 ROI 마스크는 합성되어 "최고 관심 영역"용 마스크를 생성한다. 그러나, 생성된 마스크에 의해 커버된 영역이 관심 특징에만 제한되는 것이 아니라, 생성된 마스크가 직사각형 형상을 가져서 그 주위의 일부를 또한 포함한다. 따라서, 전술한 방법은 단지 이미지의 관심 특징이 마스크의 일부라는 것을 보장하나, 마스크는 추가 이미지 부분을 포함할 수 있다. 이는 더 큰 데이타 저장을 필요로 하는 결과를 야기하고 이미지의 실시간 평가에 있어서 단점이다.
공지된 접근 방식을 고려하면, 카메라 스트림의 비정적 영역을 커버하는 마스크가 선행 기술 접근 방식보다 더 효과적인 방식으로 생성되어 카메라 스트림용 실시간 마스크 생성을 가능케 하는 방법에 대한 필요성이 있다.
본 발명의 목적은 비정적 카메라 스트림용 마스크를 생성하는 방법을 제공하며, 이는 상당히 가능한 정도로 선행 기술 접근 방식의 단점을 없앤다.
본 발명의 목적은 카메라 이미지의 비정적 영역의 식별을 가능하도록 선행 기술 접근 방식보다 더 효과적인 방식으로 마스크가 생성될 수 있는 방법을 제공하는 것이다. 이에 따라 본 발명의 목적은 실시간으로 마스크를 생성하여 무관심 영역을, 주로 카메라 스트림으로부터 정적 영역을 걸러낼 수 있는 신속한 마스크 생성 방법을 제공하는 것이다.
또한, 본 발명의 목적은, 본 발명에 따른 방법 단계를 하나 이상의 컴퓨터 상에 구현하기 위한 비일시적 컴퓨터 프로그램 제품, 및 상기 방법 단계를 하나 이상의 컴퓨터 상에 실행하기 위한 명령어를 포함한 비일시적 컴퓨터 판독 가능 매체를 제공하는 것이다.
본 발명의 목적은 청구범위 제1항에 따른 방법에 의해 달성될 수 있다. 본 발명의 바람직한 구현예는 종속항에 정의된다. 본 발명의 목적은 청구범위 제16항에 따른 비일시적 컴퓨터 프로그램 제품, 및 청구범위 제17항에 따른 비일시적 컴퓨터 판독 가능 매체에 의해 추가로 달성될 수 있다.
선행 기술 접근 방식과 비교하면 본 발명에 따른 방법의 주요 이점은 관심 영역만, 즉 카메라 이미지의 비정적 부분만 커버하는 마스크를 생성하는 것이다. 마스크의 크기와 형상은 관심 영역의 실제 영역과 형상에 대응하고, 따라서 다른 픽셀의 프로세싱은 없앨 수 있다. 이는 이미지의 추가 프로세싱에 대한 시간 및 리소스를 절약할 수 있다.
본 발명에 따른 방법의 다른 이점은, 상기 방법이 빛의 변화에 강하다는 것인데, 이미지가 동적 변화 부분과 에지가 항상 검출될 수 있기 때문이다. 따라서, 상기 방법은 어느 빛과 날씨 상태에서 사용될 수 있고 빛의 변화 또한 영향을 받지 않는다. 심지어 그림자가 이미지의 기본적인 정적 영역에 생겨도 마스크 생성에 영향을 주지 않는데, 마스크 생성이 이미지의 중간으로부터 시작되기 때문이고, 따라서 마스크 생성은 이들 영역에 도착하기 전에 벌써 끝날 것이고, 그 이유는 정적 및 비정적 영역의 경계선은 이들 영역보다 이미지의 중심에 항상 가깝기 때문이다.
에지 검출의 추가적인 단계는 정적 및 비정적 이미지 부분 사이의 보다 특징적인 에지를 제공하고 따라서 마스크 생성용 비정적 이미지 부분의 보다 빠르고 안전한 분리를 가능하게 하는 것으로 알려져 있다. 특징적인 에지의 제공은 또한, 레이마칭과 같은 단순한 알고리즘에 의해 마스크의 안전하고 정확한 생성을 가능하게 한다. 따라서, 추가적인 에지 검출 단계로 인해 연산 필요성이 커지는 것과 대조적으로 상기 방법의 전체적인 연산 필요성은 더욱 단순한 마스크 생성에 의해 감소될 수 있고, 동시에 생성된 마스크는 더욱 정확하다.
본 발명에 따른 방법은 실시간으로 마스크를 생성할 수 있고, 따라서 상기 방법은, 실시간 이미지 프로세싱과 또한 연산 리소스를 절약하기 위해 이미지로부터 정적 영역을 버리는 것이 특히 중요한 자율 또는 자가 운전 차량의 카메라에 의해 기록된 이미지에 대해 적용될 수 있다.
본 발명에 따른 방법에서는, 카메라 스트림으로부터 생기는 이미지 이외에 추가 정보 또는 입력이 요구되지 않는다.
본 발명의 바람직한 구현예는 다음 도면을 참조하는 예시에 의해 아래에서 설명된다. 도면 중,
도 1은 본 발명에 따라 누적 차이 이미지를 생성하는 방법의 일 구현예의 단계 흐름도이다.
도 2는 본 발명에 따라 누적 에지 이미지를 생성하는 방법의 일 구현예의 추가 단계 흐름도이다.
도 3은 본 발명에 따라 누적 차이 이미지와 누적 에지 이미지로부터 마스크를 생성하는 방법의 일 구현예의 또 다른 추가 단계 흐름도이다.
본 발명은 카메라 스트림의 비정적 영역용 마스크를 생성하기 위한 방법에 관한 것이다. 카메라 스트림은 카메라에 의해 제공되고, 연속 이미지(10), 바람직하게는 연속적인 이미지 시리즈(10)를 갖는다. 이미지(10)는 바람직하게는 소정의 주파수에서 기록된다. 카메라는 소형차 또는 다른 차량의 대쉬보드 또는 자가 운전 또는 자율 소형차 또는 다른 차량의 대쉬보드 상에 장착될 수 있다.
대쉬보드 카메라는 보통 차량 자체의 부분, 예를 들어 기록 이미지(10)의 정적 비변화 부분인 윈도우 프레임 또는 대쉬보드의 부분을 커버하는 시야를 갖는다. 이들 부분은 이미지(10)의 관심 부위 또는 영역이 아니어서, 카메라 스트림의 비정적 변화 부분을 포함한 부위 또는 영역용 마스크를 생성함으로써, 추가 프로세싱으로부터 이들을 배제하는 것이 유익하다.
카메라는 컬러(예, RGB) 이미지 또는 그레이스케일 이미지를 기록하도록 구성될 수 있어서, 카메라 스트림의 이미지(10)는 컬러 또는 그레이스케일 이미지일 수 있다.
본 발명에 따른 방법은 도 1 내지 3에 나타낸 대로 다음 단계를 포함한다:
- 차이 이미지(12)를 누적하여 누적 차이 이미지(14)를 생성하는 단계(차이 이미지(12) 각각은 카메라 스트림의 두 이미지(10)를 서로 소거함으로써 얻음),
- 에지 이미지(24)를 누적하여 누적 에지 이미지(26)를 생성하는 단계(에지 이미지(24) 각각은 카메라 스트림의 개별 이미지(10)에서 에지를 검출하여 얻음),
- 누적 에지 이미지(26)와 누적 차이 이미지(14)를 조합하여 조합 이미지(30)를 생성하는 단계,
- 조합 이미지(30)용 제1 임계치 픽셀 값을 정의하는 단계, 및
- 제1 임계치 픽셀 값과 동일한 관계를 갖는 조합 이미지(30)의 픽셀 값을 마스크(40)에 포함시켜 마스크(40)를 생성하는 단계.
본 발명의 구현예는 카메라 스트림의 이미지(10)를 얻는 단계를 포함한다. 카메라 스트림의 이미지(10)를 얻은 후, 도 1에 나타낸 대로 방법의 바람직한 구현예의 단계는 카메라 스트림으로부터 누적 차이 이미지(14)의 생성을 포함한다. 카메라 스트림은 연속 이미지(10)를 갖고, 여기서 연속 이미지(10)는, 하나 다음에 다른 하나를 바로 기록한 이미지(10) 또는 서로 일정 시간이 지난 다음에 기록한 이미지(10)(이들 사이에 추가 이미지(10)를 갖음)일 수 있다.
단계(S100)에서, 차이 이미지(12)는 두 연속 이미지(10)를 서로 소거하여 생성되되, 연속 이미지(10) 중 하나는 얻은 (바람직하게는 현재의) 이미지(10)이다. 바람직하게는, 후에 기록된 이미지(10)를 이전에 기록된 이미지(10)로부터 소거한다. 차이 이미지(12)는, 비정적 동적 변화 이미지 부분보다 정적 비변화 이미지 부분에 대해 더 낮은 값을 갖는다. 차이 이미지(12)는, 바람직하게는 연속 차이 이미지(12)는, 단계(S110)에서 합해져서 이미지의 정적 및 비정적 부분 사이의 차이를 개선한 누적 차이 이미지(14)를 생성한다. 본 방법의 바람직한 구현예에서, 이전 누적 차이 이미지(14)는, 예를 들어 상기 방법을 구현하는 이전 단계로부터 제공되며, 이전 누적 차이 이미지(들)(14)는 바람직하게는 컴퓨터에 저장되고, 누적 차이 이미지(14)는 이전 누적 차이 이미지(14)에 차이 이미지(12)를 합산함으로써 생성된다.
본 방법의 바람직한 일 구현예에서, 누적 차이 이미지(14)는, 제1 정규화 단계(S120)에서 각각의 픽셀 값을 누적 이미지의 수로 나누어 정규화한다. 따라서 이러한 선택적인 단계는 표준 컬러(R, G, B) 또는 그레이스케일 이미지의 픽셀 값을 갖는 정규화 누적 차이 이미지(16)를 생성한다. 따라서 단계(S120)의 제1 정규화는 한계치를 넘는 픽셀 값의 누적을 방지하고 오버플로우 같은 연산 문제를 피한다. 카메라가 컬러 이미지를 기록하는 경우에, 제1 정규화 단계(S120)는 각각의 컬러 채널에 대해 별도로, RGB 이미지의 경우 적색, 청색, 및 녹색 채널에 대해 취할 수 있다
카메라 스트림이 컬러 이미지로 구성된 경우에, 본 방법은 바람직하게는 컬러 이미지를 그레이스케일 이미지로 변환하기 위한 제1 변환 단계(S130)를 포함한다. 제1 변환 단계(S130)는, 소거 단계(S100) 이전, 소거 단계(S100)와 합산 단계(S110) 사이, 합산 단계(S110)와 제1 정규화 단계(S120) 사이, 또는 제1 정규화 단계(S120) 이후에 구현될 수 있다. 한편, 제1 변환 단계(S130)가 합산 단계(S110) 이전에 구현되는 경우에, 변환은 모든 이미지(10) 또는 모든 차이 이미지(12)에 대해 실행되어야 하고 높은 연산 필요성이 생긴다. 한편, 제1 변환 단계(S130)가 합산 단계(S110) 이후에 구현되는 경우에, 변환은 오직 하나의 이미지, 즉 누적 차이 이미지(14) 또는 정규화 누적 차이 이미지(16)에 영향을 받는다. 그러나, 제1 변환 단계(S130) 이전의 각 단계는 이미지의 모든 컬러 채널에 대해 구현되어야 한다. 제1 변환 단계(S130)는 최신 기술로 공지된 임의의 변환 방법 또는 알고리즘에 의해 구현될 수 있다.
도 1에 나타낸 방법의 바람직한 일 구현예에서, 제1 변환 단계(S130)는 정규화 누적 차이 이미지(16)에 대해 구현되고 정규화 그레이스케일 누적 차이 이미지(18)를 생성한다.
본 발명에 따라, 누적 차이 이미지(14), 또는 제1 정규화 단계(S120)를 구현하는 경우의 정규화 누적 차이 이미지(16), 또는 제1 변환 단계(S130)의 구현 경우의 그레이스케일 누적 차이 이미지(18)는, 도 3에 나타낸 발명에 따른 방법의 추가적인 단계에 의해 프로세싱된다.
도 1에 나타낸 단계 이외에, 카메라 스트림의 획득 이미지(10)는 카메라 스트림의 정적 영역의 에지를 검출하기 위해 에지 검출을 거친다. 카메라 이미지의 에지 검출의 가능한 단계는 도 2에 나타나 있다.
본 발명의 바람직한 일 구현예에서, 획득 이미지(10)는, 에지 검출 전에 원본 이미지를 부드럽게 하기 위해, 단계(S200)에서 블러 처리된다. 블러 처리에 대한 정확한 방법은 구현된 에지 검출 알고리즘에 피팅하기 위해 선택되어야 한다. 블러 처리 단계(S200)는, 박스 블러 처리 또는 이미지(10)의 히스토그램을 계산하는 것과 같이, 최신 기술에 공지된 블러 처리 방법 또는 알고리즘에 의해 구현될 수 있다. 본 발명의 바람직한 구현예에서, 블러 처리 단계(S200)는 커널을 갖는 가우시안 블러 처리에 의해 구현되고, 보다 바람직하게는 3x3 가우시안 커널 또는 3x3 이산 가우시안 커널을 사용하여 구현된다. 가우시안 블러 처리의 표준 편차는 커널 크기에 대해 계산되어야 한다. 블러 처리는 노이즈 감소를 위해 사용되는데, 왜냐하면 블러 처리에 의해 제거된 이들 에지는, 에지 검출하는 동안에 결함을 생성하므로 이들을 제거하면 에지 검출의 성능과 또한 마스크 생성 방법의 성능을 개선시키기 때문이다. 본 방법에서 찾은 에지는 이미지(10)의 정적 및 동적 영역의 에지 또는 경계선이고, 따라서 한편으로 블러 처리는 이들을 제거하지 않고 다른 한편으로 찾는 에지를 따라 보다 연속적인 라인을 생성한다. 블러 처리 단계(S200)는 원본 이미지(10)와 동일한 크기와 치수를 갖는 블러 처리 이미지(20)를 생성한다.
카메라가 컬러 이미지(10)를 기록하는 경우에, 컬러 이미지는 바람직하게는, 제2 변환 단계(S210)에서 그레이스케일 이미지로 변환된다. 제2 변환 단계(S210)는 블러 처리 단계(S200) 이전 및 이후에 구현될 수 있다. 본 발명의 바람직한 구현예에 따라, 제2 변환 단계(S210)는 그레이스케일 블러 처리 이미지(22)를 생성한다. 제2 변환 단계(S210)는 최신 기술로 공지된 임의의 변환 방법 또는 알고리즘에 의해 구현될 수 있다.
본 발명의 바람직한 일 구현예에서, 제2 변환 단계(S210)는 생략될 수 있고, 도 1에 나타낸 제1 변환 단계(S130)가 그레이스케일 이미지를 생성하는 이미지(10) 상에 바로 구현되는 경우에, 도 2의 블러 처리 단계(S200)는 그레이스케일 이미지 상에 구현될 수 있다. 이러한 구현예는, 또한 그레이스케일 블러 처리 이미지(22)를 생성한다.
단계(S220)에서, 에지 이미지(24)는 획득 이미지(10) 상에서 에지를 검출함으로써 생성된다. 이미지(10)가 블러 처리 단계(S200)에서 블러 처리되는 경우에, 에지 검출은 블러 처리 이미지(20) 상에 구현될 수 있다. 이미지(10) 또는 블러 처리 이미지(20)가 그레이스케일 이미지로 변환되는 경우에, 에지 검출은 또한 그레이스케일 블러 처리 이미지(22) 상에서 또한 구현될 수 있다. 에지 검출은 최신 기술로 공지된 임의의 에지 검출 알고리즘, 예를 들어 일차 에지 검출기, 예컨대 Canny 에지 검출기 및 그의 변형, Canny-Deriche 검출기, Sobel 연산자, Prewitt 연산자, Roberts 크로스 연산자 또는 Frei-Chen 연산자를 사용한 에지 검출기; 이미지 세기의 이계도 미분을 사용한 이차 에지 검출기, 예컨대 차이 에지 검출기(경사 방향으로 이계도 방향 미분의 제로 크로싱을 검출함), 알고리즘 또는 에지 검출기에 의해 구현될 수 있다
본 발명에 따라, 에지 검출은 바람직하게는 커널을 갖는 라플라시안 알고리즘에 의해 구현된다. 라플라시안 알고리즘의 이점은 다른 복잡한 알고리즘보다 더 빨리 에지를 찾고 게다가 더욱 작은 연산 능력을 요구한다.
라플라시안 알고리즘은 검출된 에지 주위에 음의 값 및 양의 값을 포함하고, 이들 값은 이동 객체의 에지에 대해 서로 상쇄되어서, 정적 에지가 매우 빠르게 된다. 상이한 크기의 라플라시안 커널이 사용될 수 있고, 커널이 커질수록 에지 검출은 더 늦어지나, 검출된 에지는 급격하게 변화하지 않으므로, 따라서 보다 작은 커널도 큰 커널과 유사하게 좋은 결과를 제공한다. 에지 검출 알고리즘은 3x3 라플라시안 커널을 사용하여 최적화되는 것으로 알려졌다. 에지 검출 단계(S220)는 이미지(10)의 동일한 크기를 갖는 연속 에지 이미지(24)를 생성한다.
누적 에지 이미지(26)는 에지 이미지(24), 바람직하게는 연속 에지 이미지(24)를 합산함으로써 단계(S230)에서 생성된다. 누적 에지 이미지(26)는 정적 에지에 대해 높은 값을 갖는다. 이미지의 다른 에지 및 다른 부분, 예를 들어 움직이는 객체의 에지나 동적으로 변하는 영역은, 정적 에지보다 낮은 값을 갖는다. 누적 에지 이미지(26)의 크기는 이미지(10)의 크기와 동일하다. 본 방법의 바람직한 구현예에서, 이전의 누적 에지 이미지(26)가, 예를 들어 본 방법을 구현하는 이전 단계로부터 제공되며, 이전의 누적 에지 이미지(26)는, 바람직하게는 컴퓨터에 저장되고, 누적 에지 이미지(26)는, 이전의 누적 에지 이미지(26)에 에지 이미지(24)를 합산함으로써 생성된다.
픽셀 값의 과도한 증가를 방지하기 위해, 에지 이미지(24)는, 이미지의 각 픽셀 값을 누적 이미지 개수로 나누어, 제2 정규화 단계(S240)에서 정규화될 수 있다. 이 제2 정규화 단계(S240)의 결과는 정규화 이미지, 바람직하게는 카메라 스트림으로부터의 임의의 이미지(10)에서와 동일한 범위의 값을 갖는 정규화 누적 에지 이미지(28)이다.
누적 에지 이미지(26) 또는 정규화 누적 에지 이미지(28)는, 카메라 스트림의 비정적 영역에 대한 마스크(40)를 생성하기 위해 도 3에 나타낸 단계에서 추가로 처리될 것이다.
카메라 스트림의 비정적 영역에 대한 마스크(40)를 생성하기 위한 후속 단계의 바람직한 구현예가 도 3에 나타나 있다. 방법은 도 1에 나타낸 차이 이미지, 예를 들어 누적 차이 이미지(14), 정규화 누적 차이 이미지(16), 또는 그레이스케일 누적 차이 이미지(18)를 계산하는 단계의 결과, 및 도 2에 나타낸 에지 검출 결과, 예를 들어 누적 에지 이미지(26) 또는 정규화 누적 에지 이미지(28)를 사용한다.
누적 차이 이미지(14) 및 누적 에지 이미지(26)는 카메라 스트림의 입력 이미지(10)와 동일한 크기를 갖는 히스토그램으로 해석될 수 있다. 이 해석은 정규화 누적 차이 이미지(16), 그레이스케일 누적 차이 이미지(18), 및 정규화 누적 에지 이미지(28)에도 적용 가능하다. 누적 차이의 히스토그램(누적 차이 이미지(14), 정규화 누적 차이 이미지(16) 또는 그레이스케일 누적 차이 이미지(18))은 정적 영역에 대해 낮은 값을 나타내는 경향이 있는데, 그 이유는, 이들 영역이 이미지에서 변하지 않은채 남아서 차이가 거의 0에 가깝기 때문이다. 누적 에지(누적 에지 이미지(26) 또는 정규화 누적 에지 이미지(28))의 히스토그램은 정적 에지에 대해 높은 값을 갖고 동적 변화 영역에 대해 낮은 값을 갖는다. 마스크를 생성하기 위해서, 지속적으로 변화하는 영역을 결정해야 한다. 이러한 이유로, 조합 단계(S300)에서 누적 에지의 히스토그램은 누적 차이의 히스토그램과 조합되어 정적 영역의 윤곽선을 강조한다. 조합 단계(S300)는 히스토그램의 조합에 의해 생성된 조합 이미지(30)를 생성하되, 히스토그램의 조합은 간단한 소거에 의해 구현될 수 있다. 강조 효과는, 히스토그램이 정규화되는 경우에, 즉 정규화 누적 에지 이미지(28)가 정규화 누적 차이 이미지(16)와 조합되는 경우에, 또는 바람직하게는 정규화 누적 에지 이미지(28)가 정규화 누적 차이 이미지(16)에서 소거되는 경우에, 더욱 두드러질 수 있다. 이 후자의 바람직한 구현예가 도 3에 나타나 있으며, 조합 단계(S300)에서 정규화 누적 차이 이미지(16)에서 정규화 누적 에지 이미지(28)가 소거되어 정적 영역의 윤곽선에 대해 관련 없는 낮은 값을 갖는 조합 이미지(30)가 생성된다.
에지 이미지(24)가 라플라시안 에지 검출 알고리즘에 의해 계산되는 방법의 구현예에서, 누적 에지 이미지(26)의 절대 값이 계산되어야 하는데, 그 이유는 라플라시안 에지 검출이, 음의 값 및 양의 값 값을 모두 포함하고 따라서 음의 값은 합산 역수 값으로 대체하여 제거해야 한다.
조합 단계(S300)의 결과는 관련 없는 값, 예를 들어 정적 영역의 윤곽선에 대한 소거의 경우에 관련 없는 낮은 값을 갖는 조합 이미지(30)이다. 조합 이미지(30)의 관련 없는 값을 구별하기 위해, 조합 이미지(30)에 대해 제1 임계치 픽셀 값이 정의된다.
마스크 생성 단계(S340)에서 조합 이미지(30)의 픽셀을 포함함으로써 마스크(40)를 생성하는데, 상기 픽셀은, 제1 임계치 픽셀 값에 대해 조합 이미지(30)의 중심 픽셀과 동일한 관계를 갖는다. 제1 임계치 픽셀 값에 대한 중심 픽셀의 픽셀 값의 관계와 관련하여, 중심 픽셀의 픽셀 값은, 제1 임계치 픽셀 값보다 초과, 이상, 미만, 또는 이하일 수 있다. 바람직하게는, 마스크(40)는, 제1 임계치 픽셀 값에 대해 중심 픽셀의 것과 동일한 관계를 갖고 조합 이미지(30) 내에서 연속 영역을 형성하는 조합 이미지(30)의 이들 픽셀만을 포함할 것이고, 따라서 제1 임계치 픽셀 값에 대해 중심 픽셀의 것과 동일한 관계를 갖는 추가 픽셀(예, 조합 이미지(30)의 주변부에 가까움)은 마스크(40)에 포함되지 않을 것이다. 중심 픽셀은 조합 이미지(30)의 기하학적 중심에 가깝거나 그 중심에 있는 임의의 픽셀일 수 있다.
본 발명에 따른 방법의 바람직한 구현예에서, 마스크(40)의 생성은 조합 이미지(30)의 임의의 중심 픽셀로부터 시작되고 조합 이미지(30)의 주변부를 향해 진행된다. 마스크(40)의 픽셀의 포함은, 제1 임계치 픽셀 값에 대해 조합 이미지(30)의 중심 픽셀의 것과 동일한 관계를 갖지 않는 픽셀에서 중지된다. 이것은, 마스크(40)에서 제1 임계치 픽셀 값에 대해 마스크(40)로부터 중심 픽셀의 것과 동일한 관계를 갖는 추가(랜덤) 픽셀을 자동으로 배제한다.
본 발명에 따른 방법은 도 3에 나타낸 바와 같은 추가적인 단계를 포함할 수 있다. 도 3에 나타낸 방법의 바람직한 구현예는 제1 임계치 설정 단계(S310)를 포함하며, 조합 단계(S300)가 소거에 의해 구현된 경우에 제1 임계치 픽셀 값은 바람직하게는 0에 가깝게 선택되는데, 마킹될 특징 및 영역이 이미지의 다른 부분과 비교하면 매우 낮은 값을 갖기 때문이다.
조합 이미지(30)가 정규화 이미지로부터 계산된 경우, 예를 들어 정규화 누적 에지 이미지(28)가 정규화 누적 차이 이미지(16) 또는 정규화 그레이스케일 누적 차이 이미지(18) 중 하나와 조합(또는 소거)되면, 조합 이미지(30)의 절대값은 바람직하게는 정규화로 인해 [0,1] 범위에 있지만, 정적 에지에 대응하는 값은 1보다 작을 수 있다. 누적 이미지의 수가 증가할수록, 정적 에지의 정규화 픽셀 값은 감소하고 점점 0에 가까워진다. 본 발명에 따른 방법의 바람직한 구현예에서, 극도로 낮은 값을 갖는 비정적 에지의 윤곽선을 마킹하기 위한 제1 임계치 픽셀 값은, 1보다 더 작은 적어도 크기가 되도록 선택되고, 예를 들어 제1 임계치 픽셀 값은 0.1보다 작을 수 있다. 최적의 결과를 위해, 제1 임계치 픽셀 값은 1보다 두 소수점 이상 작게 또는 보다 바람직하게는 1보다 세 소수점 이상 작게 설정되며, 예를 들어 제1 임계치 픽셀 값은 0.01 미만 또는 보다 바람직하게는 0.001 미만 또는 심지어 0.0001 미만으로 설정된다.
제1 임계치 설정 단계(S310)에서, 임계치 설정 이진화 이미지(32)는, 조합 이미지(30)를 임계치 설정하고 이진화함으로써 생성된다. 제1 임계치 픽셀 값보다 낮은 값을 갖는 픽셀은 제1 픽셀 값으로 설정되고, 제1 임계치 픽셀 값보다 높은 값을 갖는 픽셀은 제2 픽셀 값으로 설정되며, 여기서 제1 픽셀 값과 제2 픽셀 값은 서로 상이하다. 바람직하게는, 제1 픽셀 값은 최대 픽셀 값 또는 1이고, 제2 픽셀 값은 최소 픽셀 값 또는 0이다. 이러한 방식으로 제1 임계치 설정 단계(S310)는 조합 이미지(30)의 임계치 설정 및 이진화를 동시에 달성한다. 원본 이미지(10)의 정적 영역은, 동일한 픽셀 값(제2 픽셀 값)을 갖는 반면, 원본 이미지(10)의 비정적 부분은 상이한 픽셀 값(제1 픽셀 값)을 갖는다.
임계치 설정 이진화 이미지(32)는, 바람직하게는 히스토그램을 계산함으로써, 바람직하게는 임계치 설정 이진화 이미지(32)의 다른 배향을 갖는 둘 이상의 히스토그램을 계산함으로써, 더 바람직하게는 히스토그램 계산 단계(S320)에서 수평 및 수직 블러 처리에 대해 각각 수평 히스토그램(34) 및 수직 히스토그램(36)을 계산함으로써, 블러 처리된다. 히스토그램, 예를 들어 수평 히스토그램(34) 및 수직 히스토그램(36)은 카메라 스트림의 이미지(10)보다 작은 크기를 갖는다. 수평 히스토그램(34)과 수직 히스토그램(36)의 빈은, 바람직하게는 각각 이미지의 폭과 높이에 비례하여 설정되고, 빈의 크기는 블러 처리되거나 걸러질 이미지 특징부의 특징적 크기를 결정한다. 더 작은 빈은 더 작은 특징만 블러 처리하고 더 큰 빈은 이미지의 더 큰 구조를 걸러낼 수 있다. 바람직하게는 수평 히스토그램(34)의 빈은 수직 방향으로 1 픽셀의 수직 크기를 갖고, 수평 크기는 임계치 설정 이진화 이미지(32)의 수평 크기(폭)의 일부이고, 더 바람직하게는 빈의 수평 크기는 임계치 설정 이진화 이미지(32) 폭의 1/10 내지 1/100 범위이다. 수직 히스토그램(36)의 빈은 바람직하게는 1 픽셀의 수평 크기를 갖고, 수직 크기는 임계치 설정 이진화 이미지(32)의 수직 크기(높이)의 일부이고, 더 바람직하게는 빈의 수직 크기는 임계치 설정 이진화 이미지(32) 높이의 1/10 내지 1/100 범위이다. 바람직하게는 수평 히스토그램(34)의 빈의 수평 크기와 수직 히스토그램(36)의 빈의 수직 크기는, 임계치 설정 이진화 이미지(32)의 각각의 크기를 동일한 숫자로 나눔으로써 결정되고, 예를 들어 수평 히스토그램(34)의 빈의 수평 크기가 임계치 설정 이진화 이미지(32)의 수평 크기의 1/10인 경우에, 수직 히스토그램(36)의 빈의 수직 크기는 또한 임계치 설정 이진화 이미지(32)의 수직 크기의 1/10이기도 하다. 수평 히스토그램(34) 및 수직 히스토그램(36)의 각 빈에 대해, 빈과 동일한 크기의 가우시안 커널을 적용하고, 커널의 크기에 의해 가우시안 커널의 표준편차가 결정된다.
수평 히스토그램(34) 및 수직 히스토그램(36)의 계산은, 임계치 설정 이진화 이미지(32)의 약한 특징 또는 노이즈를 제거하기 위해, 임계치 설정 이진화 이미지(32)의 블러 처리를 구현한다. 수평 및 수직 블러 처리는 수평 히스토그램(34)과 수직 히스토그램(36)을 별도로 계산하여 구현하는 것이 바람직하다.
본 방법의 일 구현예에서, 단계(S320)에서 블러 처리(히스토그램의 계산)는 회전 방향으로, 바람직하게는 임계치 설정 이진화 이미지(32)의 측면에 대해 45° 및 -45° 각도를 갖는 방향으로 수행된다.
본 방법의 다른 구현예에서, 단계(S320)에서 블러 처리(히스토그램의 계산)는 수평 및 수직 방향 그리고 또한 회전 방향으로, 바람직하게는 임계치 설정 이진화 이미지(32)의 측면에 대해 45° 및 -45° 각도를 갖는 방향으로 수행된다.
본 방법은 바람직하게는, 히스토그램이 원본 이미지(10)의 크기로 늘리는 보충 단계를 포함한다. 수평 히스토그램(34) 및 수직 히스토그램(36)은 바람직하게는, 단순 합산에 의해 단계(S330)에서 함께 조합되어 원본 이미지(10)와 동일한 크기를 갖는 조합 히스토그램 이미지(38)를 생성한다.
본 발명에 따른 방법은 바람직하게는 추가적인 노이즈 감소를 위한 제2 임계치 설정 단계(도 3에 미도시)를 포함한다. 선택된 제2 임계치 픽셀 값에 따라, 에지 두께가 영향을 받을 수 있다. 제2 임계치 픽셀 값은 바람직하게는 조합 히스토그램 이미지(38)의 최대 픽셀 값에 기초하여 결정되며, 예를 들어 제2 임계치 픽셀 값은 조합 히스토그램 이미지(38)의 최대 픽셀 값의 절반 또는 그 부근으로 설정된다. 더 높은 제2 임계치 픽셀 값을 선택하면, 이미지의 더 많은 특징이 제거되고 또한 가장자리의 일부도 제거되어 일반적으로 에지가 가늘어진다. 더 낮은 제2 임계치 픽셀 값을 선택하면, 더 많은 나머지 특징과 더 두꺼운 에지가 있는 이미지가 생성된다. 바람직하게는, 이미지에서 방해가 되는 특징을 제거하는 것과 합리적으로 두꺼운 에지를 갖는 것 사이에서 타협이 이루어져야 한다. 최대 픽셀 값의 절반 값을 갖는 제2 임계치 픽셀 값은, 조합 히스토그램 이미지(38)의 방해 및 노이즈 유사 특징을 소거하고, 에지도 또한 최적의 두께를 갖는 것으로 밝혀졌다. 제2 임계치 설정 단계에서, 제1 임계치 설정 단계(S310)와 유사하게, 조합 히스토그램 이미지(38)는 다음과 같은 방식으로 이진화된다. 제2 임계치 픽셀 값 이상의 값을 갖는 픽셀은, 특정 값, 바람직하게는 최대 픽셀 값, 더 바람직하게는 1의 값으로 설정된다. 제2 임계치 픽셀 값보다 작은 값을 갖는 픽셀은, 최소 픽셀 값 또는 0으로 설정된다. 최종 이미지는, 정적 에지에 대해 최대 값과 이미지의 다른 부분에 대해 최소 값을 가지며, 이 이미지의 크기는 원본 이미지(10)와 동일하다.
도 3의 구현예에 따라, 마스크(40)는 다음과 같이 생성된다. 마스크(40)는, 이미지의 중심에서 시작하여 이미지의 주변부로 갈수록, 중심과 동일한 픽셀 값을 갖는 모든 픽셀을 포함한다. 픽셀을 포함하는 것은, 상이한 픽셀 값, 즉 이미지의 다른 픽셀 값을 갖는 픽셀에서 중지된다.
마스크 생성 단계(S340)의 시작 지점은 이미지 중심 주변부의 다른 픽셀일 수 있는데, 그 이유는 이미지의 중심 주변 영역이 정적 에지 픽셀을 갖지 않을 가능성이 가장 높기 때문이다.
본 방법의 일 구현예에서, 마스크(40)의 생성은 이미지 중심 주위의 다른 시작 지점에서 시작될 수 있으므로, 따라서 본 방법은 더 강력할 것이고 이미지의 가능한 남아 있는 결함 또는 특징은 마스크(40)의 생성을 방해하지 않을 것이다.
본 방법의 다른 구현예에서, 마스크 생성 단계(S340)는 이미지의 중심에서 시작하여 이미지의 주변부를 향하는 직선을 따라 레이마칭 알고리즘에 의해 구현된다. 레이마칭 알고리즘은, 각 방향 라인을 따라 더 길고 다양한 단계를 수행하고, 결과적으로 다른 알고리즘보다 더 빠르게 다른 픽셀 값을 찾는다. 이 구현예에서, 제1 픽셀 값에 대해 조합 이미지(30)의 중심 픽셀의 것과 동일한 관계를 갖지 않는 것들까지의 모든 픽셀이 마스크(40)에 포함된다.
추가 획득 이미지에 대해, 바람직하게는 카메라 스트림(40)의 각각의 신규 획득 이미지(10)에 대해, 마스크(40)는 전술한 본 방법의 하나 이상의 단계를 반복함으로써 재생성될 수 있다. 연속적으로 생성된 마스크(40)는, 기록 이미지(10)의 불확실성, 카메라 흔들림, 기타 이유로 인해 서로 상이할 수 있다. 그러나, 축적 이미지(10)의 수가 증가함에 따라, 마스크(40)는 점점 더 많은 실제 관심 영역, 즉 이미지의 동적 변화 부분을 커버할 것이며, 따라서 소정의 기간 후에 마스크(40)의 생성은 중지될 수 있고, 이는 신규 생성 마스크(40)는 서로 다르지 않고 기본적으로 동일한 영역과 동일한 픽셀을 커버할 것으로 예상되기 때문이다.
본 방법의 바람직한 구현예에서, 마스크(40)의 생성은, 안정적인 마스크(40)에 도달할 경우에 중지되어 시간 및 연산 리소스를 절약할 수 있다. 마스크 생성 중지는 중지 조건을 적용하여 수동으로 또는 자동으로 구현될 수 있다.
자동 중지의 경우에, 중지 조건이 충족되면 마스크(40)의 생성이 자동으로 중지된다. 마스크(40)의 생성이 일단 중지되면, 마지막으로 생성된 마스크(40)는 카메라 스트림의 추가적인 이미지(10)에 사용될 수 있다. 적용된 중지 조건은 생성 마스크(40)가 충분히 안정적인 것을 보장할 수 있다.
본 방법의 일 구현예에서 마스크(40)의 생성은, 소정 기간 후에 또는 소정 개수의 이미지(10)를 얻은 후에 자동으로 중지될 수 있다.
방법의 다른 구현예에서, 중지 조건은 소정의 한계 값에 관한 기능 함수를 평가함으로써 구현된다. 본 방법의 이 구현예는 각각의 생성된 마스크(40)에 대한 메트릭 값을 계산하는 단계, 메트릭 값의 기능 함수를 계산하는 단계, 및 기능 함수의 결과와 소정의 한계 값의 비교에 기초하여 마스크(40)의 생성을 중지하는 단계를 포함한다.
본 방법의 바람직한 구현예에서, 마스크(40)의 메트릭 값은 마스크(40)의 픽셀 카운트(마스크(40)에 포함된 픽셀의 총량)이고, 기능 함수는 연속 마스크(40)의 픽셀 카운트의 차이 그리고 소거된 픽셀 카운트의 소정의 개수를 평균화하는 단계를 포함한다. 기능 함수의 결과가 소정의 한계 값 미만이면, 중지 조건이 충족되고 마스크(40)의 생성이 중지된다. 따라서, 마스크(40)에 속하는 픽셀의 수가 크게 변하지 않을 만큼 마스크(40)가 충분히 안정되면 중지 조건에 도달한다.
평균화 외에도 추가 기능 함수를 중지 조건에 사용할 수도 있고, 예를 들어 기능 함수는 Kalman 필터, GH 필터(알파 베타 필터라고도 함) 등과 같은 적절한 필터링 방법이 포함할 수 있다. 중지 조건에서 평균화를 포함하는 본 방법의 장점은 충분히 신뢰할 수 있고 더 복잡한 필터링 방법보다 적은 연산 리소스를 필요로 하므로 실시간 마스크 생성에 적합하다.
카메라의 오정렬의 경우, 본 발명에 따른 방법은 마스크(40)가 실제 관심 영역을 확실히 커버하도록 확신하기 위해 다시 시작되어야 한다.
안전상의 이유로 마스크 생성 방법은, 카메라 스트림이 중지되었다가 다시 시작되는 경우에, 매번 다시 시작할 수 있다. 이러한 방식으로 가능한 카메라 오정렬 또는 기타 효과는, 신규 마스크(40)의 생성에 의해 수정될 수 있다.
일부 대쉬보드 카메라는, 어안 렌즈라는 초광각 렌즈가 있는 어안 카메라라고 지칭된다. 이러한 어안 렌즈는, 매우 넓은 화각을 구현하므로 자율 또는 자가 운전 차량 또는 기타 차량에 적용하기에 적합하다. 큰 화각으로 인해 카메라 이미지는 여백 영역, 예컨대 자동차나 다른 차량의 정적 부분을 기록하며,이들 여백 영역은 이미지의 바깥쪽 주위에 위치한다. 어안 카메라의 마스크에서 여백 영역을 배제하기 위해, 다음과 같은 보충 방법이 적용될 수 있다.
어안 카메라는 컬러 또는 그레이스케일 어안 이미지(10)를 기록할 수 있다.
연속 어안 이미지(10)는 제1 기록 어안 카메라 이미지로부터 바로 누적되며, 보다 바람직하게는 이미지(10)의 컬러 값이 누적되어 연속적으로 누적 어안 이미지를 생성한다. 누적 어안 이미지는 누적 이미지의 수만큼 정규화된다.
제3 임계치 픽셀 값은, 어안 이미지의 여백 영역이 어안 이미지의 주변부에서 연속적이지 않은 경우에 이미지 주변부의 픽셀값의 평균을 계산함으로써, 계산될 수 있다. 제3 임계치 픽셀 값의 이러한 계산은, 이 제3 임계치 픽셀 값이 픽셀 제거와 유지 사이의 균형을 유지하기 때문에, 누적 어안 이미지를 임계치 설정하는 데 유리한 것으로 밝혀졌다. 이 임계치 어안 이미지는 이미지의 특징을 포함하고, 어안 이미지의 여백 영역은 제외된다. 이 제3 임계치 설정은, 이미지의 이진화도 포함한 제1 임계치 설정 단계(S310)와 유사하게 구현된다.
임계치 어안 이미지는, 어안 마스크 생성 단계를 거칠 수 있지만, 전술한 마스크 생성 단계(S340)와 달리, 이 마스크는 이미지의 주변부 픽셀에서 시작하여 안쪽으로 가로질러 생성된다. 어안 마스크 생성 단계에서, 주변부 픽셀과 동일한 값을 갖는 픽셀은, 상이한 값을 갖는 제1 픽셀에 도달할 때까지 저장된다. 어안 이미지의 여백 영역을 둘러싸는 저장 픽셀 주위에 볼록한 껍질이 만들어진다. 생성 마스크는, 볼록한 껍질 외부에 픽셀을 포함한다.
생성 마스크가 안정화되면, 예를 들어 전술한 중지 조건 중 하나를 구현함으로써, 어안 이미지용 연속 마스크 시리즈의 생성이 중지될 수 있다.
본 발명은, 또한 프로그램이 컴퓨터에 의해 실행되는 경우에 컴퓨터로 하여금 본 발명에 따른 방법의 구현예를 수행시키는 명령어를 포함한 컴퓨터 프로그램 제품에 관한 것이다.
컴퓨터 프로그램 제품은 하나 이상의 컴퓨터에서 실행될 수 있다.
본 발명은, 또한 컴퓨터에 의해 실행되는 경우에 컴퓨터로 하여금 본 발명에 따른 방법의 구현예를 수행시키는 명령어를 포함한 컴퓨터 판독 가능 매체에 관한 것이다.
컴퓨터 판독 가능 매체는 단일 또는 더 많은 개별 부분을 포함할 수 있다.
물론, 본 발명은 상세하게 전술한 바람직한 구현예에 제한되지 않지만, 청구범위에 의해 결정된 보호 범주 내에서 추가 변형, 수정 및 개발이 가능하다. 또한, 임의의 종속항 조합에 의해 정의될 수 있는 모든 구현예는 본 발명에 속한다.
10 이미지
12 차이 이미지
14 누적 차이 이미지
16 (정규화) 누적 차이 이미지
18 (그레이스케일) 누적 차이 이미지
20 (블러 처리) 이미지
22 (그레이스케일 블러 처리) 이미지
24 에지 이미지
26 누적 에지 이미지
28 (정규화) 누적 에지 이미지
30 조합 이미지
32 임계치 설정 이진화 이미지
34 수평 히스토그램
36 수직 히스토그램
38 조합 히스토그램 이미지
40 마스크
S100 (소거) 단계
S110 (합산) 단계
S120 (제1 정규화) 단계
S130 (제1 변환) 단계
S200 (블러 처리) 단계
S210 (제2 변환) 단계
S220 (에지 검출) 단계
S230 (합산) 단계
S240 (제2 정규화) 단계
S300 (조합) 단계
S310 (제1 임계치 설정) 단계
S320 (히스토그램 계산) 단계
S320 (합산) 단계
S340 (마스크 생성) 단계

Claims (17)

  1. 연속 이미지(10)를 갖는 카메라 스트림에 기반한 비정적 영역용 마스크(40)를 생성하기 위한 방법으로서,
    - 차이 이미지(12)를 누적하여 누적 차이 이미지(14)를 생성하는 단계(차이 이미지(12) 각각은 카메라 스트림의 두 이미지(10)를 서로 소거함으로써 얻음),
    - 에지 이미지(24)를 누적하여 누적 에지 이미지(26)를 생성하는 단계(에지 이미지(24) 각각은 카메라 스트림의 개별 이미지(10)에서 에지를 검출하여 얻음),
    - 누적 에지 이미지(26)와 누적 차이 이미지(14)를 조합하여 조합 이미지(30)를 생성하는 단계,
    - 조합 이미지(30)용 제1 임계치 픽셀 값을 정의하는 단계, 및
    - 상기 제1 임계치 픽셀 값과 동일한 관계를 갖는, 조합 이미지(30)의 픽셀 값을 마스크(40)에 포함시켜 마스크(40)를 생성하는 단계를 포함하는 방법.
  2. 제1항에 있어서,
    - 카메라 스트림의 이미지(10)를 획득하는 단계,
    - 차이 이미지(12)를 생성하는 단계(차이 이미지(12)는 두 개의 연속 이미지(10)를 서로 소거함으로써 생성되고, 한 개는 획득한 이미지(10)임),
    - 이전 생성된 연속 차이 이미지(12)의 합으로 이루어진 이전 누적 차이 이미지(14)를 제공하고, 차이 이미지(12)를 이전 누적 차이 이미지(14)에 합산함으로써 누적 차이 이미지(14)를 생성하는 단계,
    획득한 이미지(10)에서 에지를 검출하므로써, 에지 이미지(24)를 생성하는 단계,
    - 연속적인 이전 생성 에지 이미지(24)의 합으로 이루어진 이전 누적 에지 이미지(26)를 제공하고, 에지 이미지(24)를 이전 누적 에지 이미지26)에 합산함으로써 누적 에지 이미지(26)를 생성하는 단계, 및
    - 마스크에 조합 이미지(30)의 픽셀을 포함함으로써, 마스크(40)를 생성하는 단계(상기 픽셀은 제1 임계치 픽셀 값에 대해 조합 이미지(30)의 중심 픽셀의 것과 동일한 관계를 가짐)를 포함하는 것을 특징으로 하는 방법.
  3. 제2항에 있어서, 조합 이미지(30)의 중심 픽셀에서 조합 이미지(30)의 주변부를 향해 진행하면서 마스크(40)의 생성을 시작하고, 상기 제1 임계치 픽셀 값에 대해 조합 이미지(30)의 중심 픽셀의 것과 동일한 관계를 갖지 않는 픽셀에서, 마스크(40)에 픽셀 포함을 중지시키는 것을 특징으로 하는 방법.
  4. 제1항에 있어서, 제1항의 단계를 반복하고 중지 조건이 실행되면 상기 마스크 생성을 중지시키는 것을 특징으로 하는 방법.
  5. 제4항에 있어서, 소정의 한계 값에 대해 기능 함수를 평가하는 것에 의해 상기 중지 조건을 점검하는 것을 특징으로 하고,
    생성 마스크(40) 각각에 대해 메트릭 값을 계산하는 단계,
    상기 메트릭 값의 기능 함수를 계산하는 단계, 및
    상기 소정의 한계 값과 상기 기능 함수의 결과에 기반하여 마스크(40)의 생성을 중지하는 단계를 포함하는 방법.
  6. 제5항에 있어서,
    - 상기 메트릭 값은 생성 마스크(40) 각각에 대한 픽셀 카운트이고,
    - 상기 기능 함수는
    - 연속 마스크(40)의 상기 픽셀 카운트 차이, 및
    - 소거 픽셀 카운트의 소정 개수의 평균치를 포함하고,
    - 상기 기능 함수의 결과가 상기 소정의 한계 값 미만인 경우에 마스크(40)의 생성을 중지하는 것을 특징으로 하는 방법.
  7. 제1항에 있어서, 상기 제1 임계치 픽셀 값을 정의한 이후에 추가적인 단계를 포함하는 것을 특징으로 하고, 상기 단계는, 상기 제1 임계치 픽셀 값보다 낮은 값을 갖는 픽셀을 제1 픽셀 값으로 설정하고 상기 제1 임계치 픽셀 값보다 높은 값을 갖는 픽셀을 제2 픽셀 값으로 설정하여(상기 제1 픽셀 값 및 상기 제2 픽셀 값은 서로 상이함), 조합 이미지(30)를 임계치 설정하고 이진화함으로써, 임계치 설정 이진화 이미지(32)를 생성하는 것을 포함하는 방법.
  8. 제7항에 있어서, 임계치 설정 이진화 이미지(32)를 생성한 이후에 추가적인 단계를 포함하는 것을 특징으로 하고, 상기 추가적인 단계는,
    - 임계치 설정 이진화 이미지(32)의 다른 배향을 갖는 둘 이상의 히스토그램을 평활 커널로 계산하는 것,
    - 히스토그램을 조합하여, 원본 이미지(10)보다 더 작은 크기를 갖는 조합 히스토그램 이미지(38)를 생성하는 것, 및
    - 조합 히스토그램 이미지(38)를 상기 카메라 스트림의 이미지(10) 크기로 늘리는 것을 포함하는 방법.
  9. 제8항에 있어서, 제2 임계치 픽셀 값을 사용하고, 상기 제2 임계치 픽셀 값보다 더 큰 값을 갖는 픽셀을 제1 픽셀 값 또는 제2 픽셀 값 중 하나로 설정하고, 상기 제2 임계치 픽셀 값보다 더 작은 값을 갖는 픽셀을 다른 하나의 픽셀 값으로 설정하여, 노이즈 감소를 위해 늘린 조합 히스토그램 이미지(38)에 제2 임계치 설정을 구현하는 것을 특징으로 하는 방법.
  10. 제9항에 있어서, 상기 제2 임계치 픽셀 값은 조합 히스토그램 이미지(38)의 최대 픽셀 값의 절반으로 설정되는 것을 특징으로 하는 방법.
  11. 제1항에 있어서, 정규화 누적 차이 이미지(16)를 누적 차이 이미지(14)로 사용하고, 정규화 누적 에지 이미지(28)를 누적 에지 이미지(26)로 사용하는 것을 특징으로 하되,
    - 누적된 차이 이미지(12)의 개수를 카운트하고 그리고 누적된 에지 이미지(24)의 개수를 카운트하며,
    - 누적 차이 이미지(14)를 누적된 차이 이미지(12)의 개수로 나누어, 정규화 누적 차이 이미지(16)를 생성하고,
    - 누적 에지 이미지(26)를 누적된 에지 이미지(24)의 개수로 나누어, 정규화 누적 에지 이미지(28)를 생성하는 방법.
  12. 제1항에 있어서, 누적 차이 이미지(14)로부터 누적 에지 이미지(26)를 소거하여, 조합 이미지(30)를 생성하는 것을 특징으로 하는 방법.
  13. 제1항에 있어서, 에지 검출 단계(S220)는 라플라시안 에지 검출 알고리즘에 의해 구현되는 것을 특징으로 하는 방법.
  14. 제13항에 있어서, 이미지(10)를 블러 처리하는 추가 단계를 포함하는 것을 특징으로 하되, 에지 검출 단계(S220) 이전에 블러 처리 가우시안 커널에 의해 블러 처리하는 방법.
  15. 제1항에 있어서, 마스크 생성 단계(S340)는 이미지(10)의 중심에서 시작하는 레이마칭 알고리즘에 의해 구현되는 것을 특징으로 하는 방법.
  16. 프로그램이 컴퓨터에 의해 실행되는 경우에 컴퓨터로 하여금 제1항 내지 제15항 중 어느 한 항의 방법을 수행시키는 명령어를 포함한 비일시적 컴퓨터 판독 가능 매체에 저장된 컴퓨터 프로그램.
  17. 컴퓨터에 의해 실행되는 경우에 컴퓨터로 하여금 제1항 내지 제15항 중 어느 한 항의 방법을 수행시키는 명령어를 포함한 비일시적 컴퓨터 판독 가능 매체.
KR1020227003367A 2019-07-17 2019-12-03 카메라 스트림용 마스크를 생성하기 위한 방법, 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체 KR102587710B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/513,802 US10497107B1 (en) 2019-07-17 2019-07-17 Method, computer program product and computer readable medium for generating a mask for a camera stream
US16/513,802 2019-07-17
PCT/HU2019/000039 WO2021009524A1 (en) 2019-07-17 2019-12-03 Method, computer program product and computer readable medium for generating a mask for a camera stream

Publications (2)

Publication Number Publication Date
KR20220028066A KR20220028066A (ko) 2022-03-08
KR102587710B1 true KR102587710B1 (ko) 2023-10-11

Family

ID=68695959

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020227003367A KR102587710B1 (ko) 2019-07-17 2019-12-03 카메라 스트림용 마스크를 생성하기 위한 방법, 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체

Country Status (6)

Country Link
US (1) US10497107B1 (ko)
EP (1) EP4000040A1 (ko)
JP (1) JP7449507B2 (ko)
KR (1) KR102587710B1 (ko)
CN (1) CN114127784A (ko)
WO (1) WO2021009524A1 (ko)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018232464A1 (en) * 2017-06-22 2018-12-27 Enpointe Fencing Pty Ltd CAPACITIVE COUPLING WITH NOT CONNECTED APPEARED PLATES FOR TOUCH DETECTION AND COMMUNICATION
JP7025073B1 (ja) * 2021-06-28 2022-02-24 株式会社SEtech 動き情報撮像装置
GB2618863A (en) * 2022-02-02 2023-11-22 Preqin Ltd System for and method of detecting changes
DE102022119751A1 (de) * 2022-08-05 2024-02-08 Connaught Electronics Ltd. Bestimmen eines Bereichs von Interesse aus Kamerabildern

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101471519B1 (ko) 2014-04-21 2014-12-24 엘아이지넥스원 주식회사 누적 차영상 레이블링을 이용한 이동체 검출 장치 및 방법

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6061476A (en) 1997-11-24 2000-05-09 Cognex Corporation Method and apparatus using image subtraction and dynamic thresholding
JP3232064B2 (ja) * 1999-05-24 2001-11-26 本田技研工業株式会社 カラー画像における対象領域抽出方法
US7545984B1 (en) * 2004-12-16 2009-06-09 Nvidia Corporation Quantifying graphics image difference
JP4729325B2 (ja) 2005-03-31 2011-07-20 能美防災株式会社 画像処理装置
ATE434342T1 (de) * 2006-08-22 2009-07-15 Konica Minolta Med & Graphic Röntgenbildverarbeitungssystem
US8218908B2 (en) * 2006-11-02 2012-07-10 Canon Kabushiki Kaisha Mixed content image compression with two edge data representations
KR101023207B1 (ko) 2007-09-05 2011-03-18 한국전자통신연구원 영상 객체 추출 장치 및 그 방법
KR100951254B1 (ko) * 2008-07-18 2010-04-02 삼성전기주식회사 이미지의 선명도 향상 장치
TWI504248B (zh) * 2008-10-27 2015-10-11 Realtek Semiconductor Corp 影像處理裝置及影像處理方法
JP5482341B2 (ja) * 2010-03-17 2014-05-07 株式会社リコー 画像処理装置、画像形成システムおよび画像形成方法
JP5569206B2 (ja) 2010-07-15 2014-08-13 ソニー株式会社 画像処理装置および方法
JP6117634B2 (ja) * 2012-07-03 2017-04-19 クラリオン株式会社 レンズ付着物検知装置、レンズ付着物検知方法、および、車両システム
JP6116291B2 (ja) * 2013-02-27 2017-04-19 オリンパス株式会社 画像処理装置、画像処理方法及び画像処理プログラム
US9584814B2 (en) * 2014-05-15 2017-02-28 Intel Corporation Content adaptive background foreground segmentation for video coding
KR101825687B1 (ko) * 2015-04-24 2018-02-05 한국전자통신연구원 차영상을 이용한 장애물 검출장치 및 그 방법
KR102118336B1 (ko) * 2016-05-20 2020-06-04 전자부품연구원 공간 행동 의미 분석 시스템 및 공간 행동 의미 분석 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101471519B1 (ko) 2014-04-21 2014-12-24 엘아이지넥스원 주식회사 누적 차영상 레이블링을 이용한 이동체 검출 장치 및 방법

Also Published As

Publication number Publication date
JP2022551366A (ja) 2022-12-09
KR20220028066A (ko) 2022-03-08
JP7449507B2 (ja) 2024-03-14
CN114127784A (zh) 2022-03-01
WO2021009524A1 (en) 2021-01-21
US10497107B1 (en) 2019-12-03
EP4000040A1 (en) 2022-05-25

Similar Documents

Publication Publication Date Title
KR102587710B1 (ko) 카메라 스트림용 마스크를 생성하기 위한 방법, 컴퓨터 프로그램 제품 및 컴퓨터 판독 가능 매체
CN111080661B (zh) 基于图像的直线检测方法、装置以及电子设备
WO2021109697A1 (zh) 字符分割方法、装置以及计算机可读存储介质
CN112465707B (zh) 红外图像条纹噪声的处理方法、装置、介质及电子设备
CN113344801A (zh) 一种应用于燃气计量设施环境下的图像增强方法、系统、终端及存储介质
CN109716355B (zh) 微粒边界识别
CN115187562A (zh) 涂胶缺陷检测方法及装置
CN112053302A (zh) 高光谱图像的去噪方法、装置及存储介质
CN110796654A (zh) 一种引导线检测方法、装置、设备、轮胎吊及介质
JP2018142828A (ja) 付着物検出装置および付着物検出方法
CN113628202A (zh) 一种确定方法、清洁机器人和计算机存储介质
WO2024016686A1 (zh) 角点检测的方法和装置
JP5822739B2 (ja) 画像処理装置、方法、及びプログラム
Jadhav et al. FPGA based object tracking system
CN112991251B (zh) 一种表面缺陷检测的方法、装置及设备
CN113313645A (zh) 图像处理方法、图像处理装置、终端及可读存储介质
CN114596210A (zh) 噪声估计方法、装置、终端设备及计算机可读存储介质
US20230274398A1 (en) Image processing apparatus for reducing influence of fine particle in an image, control method of same, and non-transitory computer-readable storage medium
CN113256482B (zh) 一种拍照背景虚化方法、移动终端及存储介质
CN112528741B (zh) 一种变电站压板的状态识别方法及装置
CN114004757A (zh) 去除工业图像中干扰的方法、系统、设备和存储介质
JPH0683959A (ja) 画像の領域分割方式
KR101310078B1 (ko) 영상의 경계선 검출 방법 및 장치
CN117710287A (zh) 物料检测方法、装置、电子设备及存储介质
CN111738973A (zh) 用于摄像模组质检的污点测试方法、装置、系统及存储介质

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant