KR100971148B1 - Parallel structure image processing apparatus and method for image matching with adjusting intensities - Google Patents

Parallel structure image processing apparatus and method for image matching with adjusting intensities Download PDF

Info

Publication number
KR100971148B1
KR100971148B1 KR1020080045572A KR20080045572A KR100971148B1 KR 100971148 B1 KR100971148 B1 KR 100971148B1 KR 1020080045572 A KR1020080045572 A KR 1020080045572A KR 20080045572 A KR20080045572 A KR 20080045572A KR 100971148 B1 KR100971148 B1 KR 100971148B1
Authority
KR
South Korea
Prior art keywords
image
image data
parallel
buffer
image processing
Prior art date
Application number
KR1020080045572A
Other languages
Korean (ko)
Other versions
KR20090119493A (en
Inventor
정홍
박성찬
나인태
Original Assignee
포항공과대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 포항공과대학교 산학협력단 filed Critical 포항공과대학교 산학협력단
Priority to KR1020080045572A priority Critical patent/KR100971148B1/en
Priority to PCT/KR2009/002579 priority patent/WO2009139596A2/en
Publication of KR20090119493A publication Critical patent/KR20090119493A/en
Application granted granted Critical
Publication of KR100971148B1 publication Critical patent/KR100971148B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/94Hardware or software architectures specially adapted for image or video understanding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/29Graphical models, e.g. Bayesian networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/422Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
    • G06V10/426Graphical representations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/84Arrangements for image or video recognition or understanding using pattern recognition or machine learning using probabilistic graphical models from image or video features, e.g. Markov models or Bayesian networks

Abstract

본 발명은 밝기 조절을 통한 영상 정합을 위한 병렬 구조의 영상 처리 장치 및 방법에 관한 것이다.

상기 목적을 달성하기 위한 본 발명의 일 측면에 의하면, 하나 이상의 영상 간의 정합(matching) 연산을 수행하는 병렬 구조의 영상 처리 장치에 있어서, 상기 하나 이상의 영상을 입력받아 영상 데이터를 획득하는 영상 획득부와 상기 획득한 영상 데이터를 임시 저장하는 영상 버퍼를 포함하는 영상 획득 블록; 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 처리부, 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 처리부 및 상기 정규화-분할된 영상 데이터가 임시 저장되는 윈도우 버퍼를 포함하는 전처리 블록; 및 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수(normalized cross-correlation)를 적용하여 데이터 코스트(data cost)를 계산하는 데이터 코스트 계산부, 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산부 및 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태로 추정하고 대응점의 변위 값을 출력하는 상태 추정부를 포함하는 영상 정합 블록을 제공한다.

본 발명에 의하면, 반복 연산의 횟수의 감소로 인한 메모리 절약 및 연산 시간 감축으로, 조명차로 인한 편중 현상이 존재하는 환경에서도 강인한 실시간 영상 정합 시스템의 구현이 가능한 효과가 있다.

Figure R1020080045572

밝기 조절, 영상 정합, 신뢰도 전달, 병렬 구조, 정규 교차 상관계수

The present invention relates to an image processing apparatus and method having a parallel structure for image registration through brightness control.

According to an aspect of the present invention for achieving the above object, in the image processing apparatus of a parallel structure performing a matching operation between one or more images, an image acquisition unit for receiving the one or more images to obtain image data And an image buffer for temporarily storing the obtained image data. A normalization processing unit for normalizing the acquired-buffered image data received from the image buffer, a division processing unit for dividing the normalized image data to a size of a window used in a system, and a window in which the normalized-divided image data is temporarily stored. A preprocessing block comprising a buffer; And a data cost calculator configured to calculate a data cost by applying a normalized cross-correlation to the normalized-split-buffered image data received from the window buffer. A hierarchical iterative operation unit performing a hierarchical iterative operation of the reliability transfer method and outputting a message value at the end of the iterative operation to each node, and collecting the message values for each node, so that the accumulated value is minimized. An image matching block including a state estimator for estimating a state and outputting a displacement value of a corresponding point is provided.

According to the present invention, it is possible to implement a robust real-time image registration system even in an environment in which a bias phenomenon due to an illumination difference exists due to memory saving and computation time reduction due to a decrease in the number of repetitive operations.

Figure R1020080045572

Brightness control, image matching, reliability transfer, parallel structure, normal cross correlation

Description

밝기 조절을 통한 영상 정합을 위한 병렬 구조의 영상 처리 장치 및 방법{Parallel structure image processing apparatus and method for image matching with adjusting intensities}Parallel structure image processing apparatus and method for image matching with adjusting intensities

본 발명은 밝기 조절을 통한 영상 정합을 위한 병렬 구조의 영상 처리 장치 및 방법에 관한 것이다. 구체적으로 본 발명은, 시간 혹은 공간상의 다수의 영상에 조명차가 존재할 때, 해당 부분에 대한 밝기(intensity)를 조절하여 신뢰성 있는 고속의 영상 정합(image matching)을 수행하는 병렬 구조의 영상 처리 장치 및 방법에 관한 것이다.The present invention relates to an image processing apparatus and method having a parallel structure for image registration through brightness control. In detail, the present invention provides an image processing apparatus having a parallel structure that performs reliable image matching at a high speed by adjusting an intensity of a corresponding part when an illumination difference exists in a plurality of images in time or space. It is about a method.

다수의 영상에 대해서 특정한 픽셀이나 영상 영역의 일치하는 부분을 탐색, 추정하는 종래의 방법은 크게 두 가지로 분류할 수 있다. 픽셀(pixel)이나 픽셀 윈도우(pixel window) 기반의 지엽적으로 제한된 정보만을 사용해 일치점을 찾아내는 지역 정합(local matching) 기법과 영상 전체의 정보를 취합하여 일치점을 추정하는 전역 정합(global matching) 기법이 그것이다.Conventional methods for searching for and estimating a matching portion of a specific pixel or image region for a plurality of images can be broadly classified into two types. Local matching technique that finds a match point using only limited information based on pixel or pixel window, and global matching technique that collects the information of the whole image and estimates the match point will be.

전역 정합 기법은 일반적으로 많은 계산량과 높은 시스템 복잡도라는 문제점 을 안고 있지만, 지역 정합 기법에 비해서 오차율이 월등히 낮으며, 가려짐(occlusion) 현상에 대하여 안정적인 결과를 보인다. 전역 정합 기법 중의 하나인 신뢰도 전달(Belief Propagation, BP) 기법은 히든 마르코프 모델(Hidden Markov Model, HMM) 을 기반으로 하는 그래프 구조상에서의 베이지안 추정(Baysian estimation) 기법중의 하나로써, 낮은 오차율과 반복적인 연산 구조를 특징으로 하는 전역 정합 기법이다. 신뢰도 전달 방법은 노드(node)와 이웃한 노드들을 연결하는 가지(branch) 로 구성된 그래프 상에서 이웃한 노드 간의 확률 메시지 교환을 반복적으로 수행하여 최소 확률 에너지를 가지는 숨겨진 상태(hidden state)를 추정해낸다.Global matching techniques generally suffer from high computational complexity and high system complexity, but have much lower error rates than local matching techniques and provide stable results against occlusion. Reliability propagation (BP), one of the global matching techniques, is one of Bayesian estimation techniques in graph structures based on the Hidden Markov Model (HMM). It is a global matching technique characterized by a phosphorus operation structure. The reliability transfer method estimates a hidden state having a minimum probability energy by repeatedly performing probability message exchange between neighboring nodes on a graph composed of branches connecting nodes and neighboring nodes.

신뢰도 전달을 기반으로 한 전역 정합 기법은 타 정합 기법에 비해 월등한 성능을 보여주지만, 매우 큰 메모리와 연산 복잡도로 인하여 실시간 처리가 어렵다. 이 문제를 해결하기 위해서 계층화 기법과 거리 변환 기법 등을 응용한 개선된 신뢰도 전달 기법이 제안되어 이를 기반으로 병렬 GPU(Graphics Processing Unit)를 이용한 실시간 시스템이 구현되기도 하였으나, 높은 클럭 주파수와 메모리 대역폭이 요구되어 연산의 병렬화가 제한됨으로 인해 처리 성능의 한계를 보였다. 최근에 제안된 더욱 개선된 반복 연산 방법인 고속 신뢰도 전달(Fast Belief Propagation, FBP) 기법은 기존의 신뢰도 전달 기법의 반복 연산구조를 개선하여 높은 메모리 대역폭과 메모리 용량문제를 해결함으로써, VLSI(Very Large Scale Integration) 구조를 사용하여 좀 더 높은 수준의 병렬화를 가능하게 하였다. 고속 신뢰도 전달 구조 및 방법을 기반으로 한 영상 정합 시스템은 기존의 신뢰도 전 달 기반의 시스템들에 비해서 현저하게 줄어든 메모리와 느린 클럭 주파수를 사용하면서도 월등한 영상 처리성능을 나타낸다.Global matching based on reliability transfer shows better performance than other matching, but it is difficult to process in real time due to very large memory and computational complexity. In order to solve this problem, an improved reliability transfer method using a layering method and a distance conversion method has been proposed and based on this, a real-time system using a parallel graphics processing unit (GPU) has been implemented. The processing performance was limited due to the limited parallelism of the operation. Fast Belief Propagation (FBP), a more advanced iterative computation method, has recently been developed to solve the problem of high memory bandwidth and memory capacity by improving the iterative computation structure of the existing reliability propagation technique. The Scale Integration (Scale Integration) structure allows for a higher level of parallelism. The image matching system based on the fast reliability transmission structure and method shows superior image processing performance while using a significantly reduced memory and a slower clock frequency than the conventional reliability delivery systems.

기존의 신뢰도 전달 기반의 영상 정합 시스템은 실내의 이상적인 조명 조건 하에서는 좋은 결과를 나타내지만, 반사광, 가려진 영역의 그림자, 균등하지 못한 카메라 설정, 조명과 카메라의 상대적 위치 등의 외부적 요인으로 인해서 특정한 영역에서 픽셀 밝기의 편중(bias) 현상이 나타날 경우 큰 오차가 발생한다. 이는 픽셀의 밝기차이를 절대치로 표현한 기존의 데이터 코스트(data cost)가 유사한 밝기 분포 형태를 가졌으나 특정 부분의 밝기가 편중되어 있는 부분의 유사성을 정확하게 판단하지 못하기 때문이다.Conventional image transfer systems based on reliability transfer show good results under ideal lighting conditions in the room, but due to external factors such as reflected light, shadows in hidden areas, uneven camera settings, and relative positions of lights and cameras, Large error occurs when the bias of pixel brightness occurs at. This is because the existing data cost expressing the difference in brightness of pixels has a similar brightness distribution form, but the similarity of the portion where the brightness of a specific portion is biased cannot be accurately determined.

따라서 다양한 조명 조건에 강인한 성능을 가진 신뢰도 전달 기반의 영상 정합 시스템을 구현하기 위해서는 편중 현상에 의한 조명 차이가 나타나는 부분의 밝기를 정규화 하여 편중 현상을 제거해 주는 방법이 필요하다. 이에, 신뢰도 전달을 기반으로 한 많은 방법들이 정규 교차 상관계수(Normalized Cross-Correlation, NCC)를 데이터 코스트에 적용하는 방법을 사용하여 좋은 결과를 얻을 수 있었다.Therefore, in order to realize a reliability matching-based image matching system with robust performance in various lighting conditions, a method of removing the bias phenomenon by normalizing the brightness of the part where the illumination difference is caused by the bias phenomenon is required. As a result, many methods based on reliability transfer have obtained good results by applying the normalized cross-correlation (NCC) to the data cost.

픽셀 윈도우를 기반으로 하는 상관계수(correlation)는 영상의 유사성을 측정하는 방법 중 하나로써, 한 영상과 비교 영상 내에 존재하는 픽셀 윈도우의 특징 벡터(feature vector)들 사이의 유클리드 거리(Euclidean distance)를 제곱한 값으로 표현된다. 상관계수를 사용한 방법은 다수의 픽셀을 비교함으로써 단일 픽셀 간 밝기 차의 절대치를 사용하는 방법에 비하여 좀 더 신뢰성 있는 결과를 얻을 수 있으나, 영상 밝기의 유사한 형태의 패턴의 일부 혹은 전체에 조명차로 인한 편중 현상이 있을 경우 잘 동작하지 않는다. 정규 교차 상관계수는 평균이 0인 특징 벡터를 정규화 하여 그 방향 벡터만을 추출하여 사용함으로써, 편중 현상이 정합 과정에 끼치는 영향을 최소화할 수 있다.Correlation based on the pixel window is a method of measuring the similarity of an image. The correlation coefficient between an image and feature vectors of a pixel window in a comparison image is determined. Expressed as the squared value. The method using the correlation coefficient is more reliable than the method of using the absolute value of the brightness difference between single pixels by comparing a plurality of pixels, but due to the difference in illumination of part or all of a similar pattern of image brightness It does not work well when there is a bias. The normal cross correlation coefficient can minimize the influence of biasing on the matching process by normalizing a feature vector having a mean of 0 and extracting only the direction vector.

그러나 정규 교차 상관계수 기반의 시스템은 O(n4)의 높은 연산 복잡도를 가지고 있으며, 많은 곱셈, 나눗셈 및 제곱근 연산을 요구하기 때문에 VLSI를 기반으로 하는 병렬 처리 시스템에 적합하지 않다.However, a system based on a normal cross correlation coefficient has a high computational complexity of O (n 4 ) and requires a lot of multiplication, division, and square root operations and thus is not suitable for a parallel processing system based on VLSI.

따라서, 다양한 환경에서 높은 신뢰도를 가진 결과를 필요로 하는 실시간 영상 정합 시스템을 구현하기 위해서는 병렬 처리에 적합한 구조를 가진 밝기 조절 방법이 필요하다.Therefore, in order to implement a real-time image matching system requiring high reliability in various environments, a brightness control method having a structure suitable for parallel processing is required.

상기 목적을 달성하기 위한 본 발명의 일 측면에 의하면, 하나 이상의 영상 간의 정합 연산을 수행하는 병렬 구조의 영상 처리 장치에 있어서, 상기 하나 이상의 영상을 입력받아 영상 데이터를 획득하는 영상 획득부와 상기 획득한 영상 데이터를 임시 저장하는 영상 버퍼를 포함하는 영상 획득 블록; 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 처리부, 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 처리부 및 상기 정규화-분할된 영상 데이터가 임시 저장되는 윈도우 버퍼를 포함하는 전처리 블록; 및 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수를 적용하여 데이터 코스트를 계산하는 데이터 코스트 계산부, 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산부 및 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태로 추정하고 대응점의 변위 값을 출력하는 상태 추정부를 포함하는 영상 정합 블록;을 제공한다.According to an aspect of the present invention for achieving the above object, in the image processing apparatus having a parallel structure for performing a matching operation between one or more images, the image acquisition unit and the acquisition to obtain the image data by receiving the one or more images; An image acquisition block including an image buffer for temporarily storing one image data; A normalization processing unit for normalizing the acquired-buffered image data received from the image buffer, a division processing unit for dividing the normalized image data to a size of a window used in a system, and a window in which the normalized-divided image data is temporarily stored. A preprocessing block comprising a buffer; And a data cost calculator configured to calculate a data cost by applying a normal cross-correlation coefficient to the normalized-split-buffered image data received from the window buffer, and perform the hierarchical iterative operation of the fast reliability transfer method by receiving the data cost. A hierarchical iterative operation unit which outputs the message value at the end of the iteration operation to each node and the message value are collected for each node, and the state in which the accumulated value is minimized is estimated as the hidden state of the corresponding node and the displacement value of the corresponding point is output. An image matching block including a state estimator is provided.

상기 목적을 달성하기 위한 본 발명의 다른 측면에 의하면, 하나 이상의 영상 간의 정합 연산을 수행하는 병렬 구조의 영상 처리 방법에 있어서, 영상 획득부가 다수의 카메라로부터 입력받은 상기 하나 이상의 영상으로부터 영상 데이터를 획득하는 영상 획득 단계; 영상 버퍼가 상기 획득한 영상 데이터를 임시 저장하는 획득 영상 저장 단계; 정규화 처리부가 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 단계; 분할 처리부가 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 단계; 윈도우 버퍼가 상기 정규화-분할된 영상 데이터를 임시 저장하는 분할 영상 저장 단계; 데이터 코스트 계산부가 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수를 적용하여 데이터 코스트를 계산하는 데이터 코스트 계산 단계; 계층적 반복 연산부가 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산 단계; 및 상태 추정부가 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태로 추정하고 대응점의 변위 값을 출력하는 상태 추정 단계; 를 제공한다.According to another aspect of the present invention for achieving the above object, in a parallel image processing method for performing a matching operation between one or more images, the image acquisition unit obtains the image data from the one or more images received from a plurality of cameras Obtaining an image; An acquired image storing step of temporarily storing the obtained image data by an image buffer; A normalization step of normalizing, by the normalization processing unit, the acquired-buffered image data received from the image buffer; A division step of dividing the normalized image data by the division processing unit according to a size of a window used in a system; A divided image storing step of temporarily storing the normalized-divided image data by a window buffer; A data cost calculation step of calculating a data cost by a data cost calculator applying a normal cross correlation coefficient to the normalized-split-buffered image data received from the window buffer; A hierarchical repetition operation step of receiving a data cost by the hierarchical repetition operation unit and performing a hierarchical repetition operation of a fast reliability transfer method to output a message value at the end of the repetition operation to each node; And a state estimating step of collecting, by the state estimator, the message value for each node, estimating a state in which the accumulated value is minimum as a hidden state of the corresponding node, and outputting a displacement value of the corresponding point. To provide.

본 발명에 의하면, 정규 교차 상관계수가 적용된 영상 정합 시스템에 고속 신뢰도 전달 방법의 계층적인 연산 구조를 사용함으로써 원거리의 정보가 빠르게 수렴된다. 이 때문에 기존의 신뢰도 전달 기반의 시스템에 비해 요구되는 반복 연산의 횟수가 크게 줄어들어, 메모리를 절약하고 연산 시간도 감축하는 효과가 있다.According to the present invention, far-field information is quickly converged by using a hierarchical operation structure of a fast reliability transfer method in an image matching system to which a normal cross correlation coefficient is applied. As a result, the number of repetitive operations required is significantly reduced compared to the existing system based on reliability transfer, which saves memory and reduces computation time.

또한 고속 신뢰도 전달 방법은 VLSI를 이용한 병렬화가 용이하므로, 조명차로 인한 편중 현상이 존재하는 환경에서도 안정적인 성능을 보여주는 강인한 실시간 영상 정합 시스템의 구현이 가능하다. In addition, since the high-speed reliability transfer method is easy to parallelize using VLSI, it is possible to implement a robust real-time image matching system that shows stable performance even in the presence of a bias due to a light difference.

이하 첨부된 도면을 참조하여 본 발명의 동작 원리를 상세히 설명한다. 하기에서 본 발명을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서, 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.Hereinafter, the operating principle of the present invention will be described in detail with reference to the accompanying drawings. In the following description of the present invention, if it is determined that a detailed description of a known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. In addition, terms to be described below are terms defined in consideration of functions in the present invention, which may vary according to intention or custom of a user or an operator. Therefore, the definition should be made based on the contents throughout the specification.

도 1은 전체 영상 처리 시스템(100)의 블록 구성도이다. 영상 처리 시스템(100)은 영상 획득 블록(101), 전처리 블록(102) 및 영상 정합 블록(103)의 직렬 연결 구조로 이루어진다. 영상 획득 블록(101)은 다수의 영상(105)을 입력받아, 하위 구성요소인 영상 획득부(110), 영상 버퍼(120)에서의 처리를 차례로 수행하여, 획득-버퍼링된 영상 데이터(125)를 전처리 블록(102)에 출력한다. 전처리 블 록(102)은 획득-버퍼링된 영상 데이터(125)를 입력받아, 하위 구성요소인 정규화 처리부(130), 분할 처리부(140), 윈도우 버퍼(150)에서의 처리를 차례로 수행하여, 정규화-분할-버퍼링된 영상 데이터(155)를 영상 정합 블록(103)에 출력한다. 영상 정합 블록(103)은 정규화-분할-버퍼링된 영상 데이터(155)를 입력받아, 하위 구성요소인 데이터 코스트 계산부(160), 계층적 반복연산부(170), 상태 추정부(180)에서의 처리를 차례로 수행하여, 대응점의 변위값(185)을 출력한다.1 is a block diagram of an entire image processing system 100. The image processing system 100 includes a series connection structure of an image acquisition block 101, a preprocessing block 102, and an image registration block 103. The image acquisition block 101 receives a plurality of images 105, sequentially processes the image acquisition unit 110 and the image buffer 120 as lower components, thereby obtaining and buffering the image data 125. Is output to the preprocessing block 102. The preprocessing block 102 receives the acquisition-buffered image data 125 and performs processing in the normalization processing unit 130, the division processing unit 140, and the window buffer 150, which are sub-components, in order, and normalizes them. The divided-buffered image data 155 is output to the image registration block 103. The image matching block 103 receives the normalized-divided-buffered image data 155 and outputs the sub-component data cost calculator 160, the hierarchical iterative operator 170, and the state estimator 180. The processing is carried out in sequence to output the displacement value 185 of the corresponding point.

영상 획득 블록(101)은 영상 획득부(110) 및 영상 버퍼(120)의 직렬 연결 구조로 이루어진다.The image acquisition block 101 has a serial connection structure between the image acquisition unit 110 and the image buffer 120.

영상 획득부(110)는 다수의 카메라에 의한 다수의 영상(105)으로부터 스트리밍 데이터나 비디오 파일 형태의 획득된 영상 데이터(115)를 추출하여 이를 영상 버퍼(120)로 전송하는 역할을 하게 되는데, 프레임 그래버(frame grabber) 나 비디오 디코더 등이 이에 해당한다. 2대 이상의 카메라를 사용하는 영상 정합 시스템의 경우 영상 획득부(110)에 추가로 카메라 트리거(trigger) 와 영상 전송의 동기화를 위한 부분이 필요하다. 입력되는 다수의 영상(105)은 동일한 해상도를 가진 다수 카메라에 의한 디지털 영상이며, 획득되는 원본 영상 및 비교 영상은 동일한 크기이다.The image acquirer 110 extracts the acquired image data 115 in the form of streaming data or video file from the plurality of images 105 by a plurality of cameras, and transmits the obtained image data 115 to the image buffer 120. A frame grabber or a video decoder corresponds to this. In the case of an image matching system using two or more cameras, a portion for synchronizing the camera trigger and the image transmission is necessary in addition to the image acquisition unit 110. The plurality of images 105 to be input are digital images by multiple cameras having the same resolution, and the obtained original image and the comparison image are the same size.

영상 버퍼(120)는 영상 획득부에서 연속적으로 전달되는 획득된 영상 데이터(115)를 순서대로 저장하고 사용자의 요구에 맞추어 이를 획득-버퍼링된 영상 데이터(125)로 출력하는 역할을 하는 링 버퍼(ring buffer) 구조의 메모리로서, 픽셀 윈도우 기반의 영상 처리에 필수적인 영상의 중간 저장소 역할을 하게 된다.The image buffer 120 sequentially stores the acquired image data 115 which is continuously transmitted from the image acquisition unit, and outputs the image data 115 as the acquisition-buffered image data 125 according to a user's request. ring buffer) memory, which acts as an intermediate storage for images essential for pixel window-based image processing.

전처리 블록(102)은 정규화 처리부(130), 분할 처리부(140), 윈도우 버퍼(150)의 직렬 연결 구조로 이루어진다.The preprocessing block 102 has a serial connection structure of the normalization processing unit 130, the division processing unit 140, and the window buffer 150.

도 2는 정규화 처리부(130)의 블록 구성도이다. 정규화 처리부(130)는 크게 편차 계산 모듈(240), L1 놈(L1 norm) 계산 모듈(250), 제산기(divider, 260)로 이루어진다.2 is a block diagram of the normalization processor 130. The normalization processor 130 includes a deviation calculation module 240, an L1 norm calculation module 250, and a divider 260.

편차 계산 모듈(240)은 스캔 라인 버퍼(210), 평균 계산 모듈(220), 감산기(230)로 이루어진다. 스캔 라인 버퍼(210)는 영상 획득 블록(101)으로부터 획득-버퍼링된 영상 데이터(125)를 입력받아, 영상의 스캔 라인 단위로 들어오는 스캔 영상 데이터 값(215)을 얻어 임시 저장하고, 이를 평균 계산 모듈(220) 및 감산기(230)로 출력한다. 평균 계산 모듈(220)은 스캔 라인 버퍼(210)로부터 픽셀 윈도우의 스캔 영상 데이터 값(215)을 입력받아, 그 평균(225)을 구하여, 이를 감산기(230)로 출력한다. 감산기(230)는 스캔 라인 버퍼(210)로부터 입력받은 스캔 영상 데이터 값(215)에서 평균 계산 모듈(220)로부터 입력받은 스캔 영상 데이터 값(215)의 평균(225)을 빼주어, 픽셀 값과 평균의 편차(235)를 L1 놈 계산 모듈(250) 및 제산기(divider, 260)로 출력한다. 이 작업은 편차(235), 즉 정규 교차 상관계수를 계산하는 데 사용되는 영상 데이터의 특징 벡터의 좌표 평균값을 0으로 만든다. 여기서 픽셀 윈도우 내의 픽셀 개수를 2의 지수가 되도록 지정하여 평균의 계산이 간단한 비트 이동을 통해서 가능해지도록 할 수 있는데, 이 경우 평균 계산 모듈(220)은 누산기(accumulator, 222) 및 이동 레지스터(shift register, 224)로 이루어진다. 누산기(222)는 스캔 라인 버퍼(210)로부터 입력받은 스캔 영상 데이터 값(215)을 모두 더하여 임시 저장하고, 픽셀 개수가 2의 지수이므로 이동 레지스터(224)는 누산기(222)로부터 입력받은 값을 비트 이동하는 것만으로 나눗셈 연산을 수행하게 되어, 연산 속도가 향상된다.The deviation calculation module 240 includes a scan line buffer 210, an average calculation module 220, and a subtractor 230. The scan line buffer 210 receives the acquired-buffered image data 125 from the image acquisition block 101, obtains and temporarily stores the scanned image data value 215 coming in units of scan lines of the image, and calculates the average thereof. Output to module 220 and subtractor 230. The average calculation module 220 receives the scan image data value 215 of the pixel window from the scan line buffer 210, obtains the average 225, and outputs the average 225 to the subtractor 230. The subtractor 230 subtracts the average 225 of the scan image data values 215 received from the average calculation module 220 from the scan image data values 215 received from the scan line buffer 210, thereby subtracting the average of the pixel values. The deviation 235 of the mean is output to the L1 norm calculation module 250 and the divider 260. This task makes the mean of the coordinates of the feature vector of the image data used to calculate the deviation 235, the normal cross correlation coefficient, to zero. In this case, the number of pixels in the pixel window can be specified to be an exponent of 2 so that the calculation of the average can be made through simple bit shift. In this case, the average calculation module 220 may accumulate the accumulator 222 and the shift register. , 224). The accumulator 222 temporarily adds all the scan image data values 215 received from the scan line buffer 210 and temporarily stores them. Since the number of pixels is an exponent of 2, the shift register 224 stores the value received from the accumulator 222. Divide operations are performed just by moving bits, which increases the computation speed.

L1 놈 계산 모듈(250)은 절대값 계산기(252) 및 가산기(254)로 이루어진다. L1 놈은 벡터의 크기를 나타내는 방법 중 하나로써, 시티 블록 거리(city block distance)라고도 하며, 벡터의 각 좌표값의 절대차의 합(Sum of Absolute Difference, SAD)으로 표현된다. 절대값 계산기(252)는 편차 계산모듈(240)로부터 평균이 0인 특징 벡터, 즉 픽셀 값과 평균의 편차(235)를 입력받아, 그 부호를 제거한 절대값(253)을 가산기(254)로 출력한다. 가산기(254)는 그 절대값(253)을 모두 더한 값인 특징 벡터의 L1 놈 값(255)을 제산기(260)로 출력한다. 유클리드 놈(Euclidean norm)이 아닌 L1 놈의 도입은 연산 시간과 논리 회로의 수를 크게 줄일 수 있게 한다.The L1 norm calculation module 250 consists of an absolute value calculator 252 and an adder 254. The L1 norm is a method of indicating the size of a vector, also called a city block distance, and is expressed as a sum of absolute difference (SAD) of each coordinate value of the vector. The absolute value calculator 252 receives a feature vector having a mean of 0, that is, a deviation 235 of the pixel value and the mean from the deviation calculating module 240, and adds the absolute value 253 from which the sign is removed to the adder 254. Output The adder 254 outputs the L1 norm value 255 of the feature vector, which is the sum of the absolute values 253, to the divider 260. The introduction of the L1 norm, rather than the Euclidean norm, can significantly reduce computation time and the number of logic circuits.

제산기(260)는 평균이 0인 특징 벡터, 즉 픽셀 값과 평균의 편차(235)를, 특징 벡터의 L1 놈 값(255)으로 나누어 준다. 이 과정을 통하여 특징 벡터는 방향 벡터로 바뀌어, 분할 처리부(140)로 출력되는 정규화된 영상 데이터(135)가 된다.The divider 260 divides the feature vector whose mean is 0, that is, the deviation 235 of the pixel value and the mean by the L1 norm value 255 of the feature vector. Through this process, the feature vector is converted into a direction vector to become normalized image data 135 output to the division processor 140.

분할 처리부(140)는 정규화 처리부(140)를 거친 픽셀 데이터인 정규화된 영상 데이터(135)를 시스템에서 사용하는 픽셀 윈도우의 크기에 맞게 분할하고 이를 윈도우 버퍼(150)에 출력한다.The division processor 140 divides the normalized image data 135, which is the pixel data passed through the normalization processor 140, according to the size of the pixel window used in the system, and outputs the normalized image data 135 to the window buffer 150.

윈도우 버퍼(150)는 분할 처리부(140)로부터 입력받은 분할된 픽셀 데이터인 정규화-분할된 영상 데이터(145)를 점진적으로 임시 저장하고, 이를 영상 정합 블 록(103)에 출력한다. 윈도우 버퍼(150)는 영상 정합 블록(103)이 병렬 구조로 구성될 경우의 데이터 코스트 동기화를 위하여, 병렬 구조가 될 수 있다.The window buffer 150 gradually stores the normalized-segmented image data 145, which is the divided pixel data received from the division processor 140, and outputs it to the image matching block 103. FIG. The window buffer 150 may have a parallel structure for data cost synchronization when the image matching block 103 has a parallel structure.

도 3은 병렬 구조의 윈도우 버퍼(150)의 블록 구성도이다. 윈도우 버퍼(150)는 총 N개의 버퍼(320)가 병렬 연결된 구조에, 각 버퍼(320)는 신뢰도 전달 시스템의 전체 상태 수와 같은 S개의 윈도우 메모리(310)들이 직렬 연결된 구조이며, 각 윈도우 메모리(310)는 단일 픽셀 윈도우 내의 전체 픽셀을 저장한다. 즉, 윈도우 버퍼(150)에는 깊이가 S인 N개의 버퍼(320)가 병렬 구조로 존재한다. 윈도우 버퍼(150)는 각 버퍼는 동일한 상태에 대해서 병렬로 동작하며, 윈도우 메모리(310)의 업데이트는 상태의 변화에 따라서 점진적으로 이루어진다.3 is a block diagram of a window buffer 150 in a parallel structure. The window buffer 150 has a structure in which a total of N buffers 320 are connected in parallel, and each buffer 320 has a structure in which S window memories 310 are connected in series, such as the total number of states of a reliability delivery system. 310 stores the entire pixel within a single pixel window. That is, the N buffers 320 having a depth S exist in the window buffer 150 in a parallel structure. Each of the window buffers 150 operates in parallel with respect to the same state, and the update of the window memory 310 is made gradually according to the change of state.

이러한 전처리 블록(102)의 구조는 VLSI 구조로 구현되는 병렬 연산 시스템에서 정규 교차 상관계수의 도입으로 유발될 수 있는 지나친 논리 회로의 낭비를 방지하고, 픽셀 윈도우의 정합을 보다 수월하게 한다.The structure of the preprocessing block 102 prevents excessive logic circuit waste that can be caused by the introduction of a regular cross correlation coefficient in a parallel computing system implemented with a VLSI structure, and makes pixel window matching easier.

영상 정합 블록(103)은 데이터 코스트 계산부(160), 계층적 반복 연산부(170), 상태 추정부(180)의 직렬 연결 구조로 이루어진다.The image matching block 103 has a series connection structure of the data cost calculator 160, the hierarchical repetition calculator 170, and the state estimator 180.

도 4는 데이터 코스트 계산부(160)의 블록 구성도이다. 데이터 코스트 계산부(160)는 연산기 모듈(410)이 총 N개 병렬 연결된 구조에, 각 연산기 모듈(410)로부터의 출력을 병렬로 입력받는 계층적 데이터 코스트 계산기(420), 데이터 코스트 메모리(430)가 직렬 연결된 구조로 이루어진다. 데이터 코스트 계산부(160)는 M개의 계층적 단계(hierarchical level)를 가진 그래프 상에서 1개의 연산 그룹에 해 당하며, 총 N = 2M-1 개의 연산기 모듈(410)이 병렬 연결된다.4 is a block diagram of the data cost calculator 160. The data cost calculator 160 includes a hierarchical data cost calculator 420 and a data cost memory 430 that receive outputs from the calculator modules 410 in parallel in a structure in which the operator modules 410 are connected in parallel. ) Is structured in series. The data cost calculator 160 corresponds to one operation group on a graph having M hierarchical levels, and a total of N = 2 M-1 operator modules 410 are connected in parallel.

연산기 모듈(410)은 절대차 계산기(412), 누산기(414), 이동 레지스터(416)의 직렬 연결 구조로 이루어진다. 절대차 계산기(412)는 정규화-분할-버퍼링된 영상 데이터(155)를 입력받아 원본 윈도우와 비교 윈도우의 모든 픽셀 값의 차의 절대값, 즉 절대차를 계산한다. 누산기(414)는 그 절대차를 더하여 임시 저장한다. 이동 레지스터(416)는 누산기(414)로부터 받은 입력을 비트 이동으로 1/2로 크기 변환한 값을 계층적 데이터 코스트 계산기(420)로 출력한다.The operator module 410 has a series connection structure of an absolute difference calculator 412, an accumulator 414, and a moving register 416. The absolute difference calculator 412 receives the normalized-split-buffered image data 155 and calculates an absolute value, that is, an absolute difference between all pixel values of the original window and the comparison window. The accumulator 414 adds the absolute difference and temporarily stores it. The shift register 416 outputs, to the hierarchical data cost calculator 420, a value obtained by converting the input received from the accumulator 414 into 1/2 in bit shift.

계층적 데이터 코스트 계산기(420)는 총 N개의 연산기 모듈(410)로부터의 출력을 병렬로 입력받아, 고속 신뢰도 전달 기법의 계층적인 연산을 통하여 얻은 데이터 코스트 값을 데이터 코스트 메모리(430)로 출력한다.The hierarchical data cost calculator 420 receives the outputs from the total N operator modules 410 in parallel and outputs the data cost values obtained through the hierarchical operation of the fast reliability transfer method to the data cost memory 430. .

데이터 코스트 메모리(430)는 계층적 데이터 코스트 계산기(420)로부터 입력 받은 데이터 코스트 값을 저장하고, 데이터 코스트(165)를 계층적 반복 연산부(170)로 출력한다.The data cost memory 430 stores the data cost value received from the hierarchical data cost calculator 420, and outputs the data cost 165 to the hierarchical iteration operation unit 170.

도 5는 계층적 반복 연산부(170)의 블록 구성도이다. 계층적 반복 연산부(170)는 병렬로 연결된 M개의 연산 그룹(510) 및 반복 연산 종료 여부 판단부(520)로 이루어진다. 각각의 연산 그룹(510)은 1개의 지역 버퍼(Local Buffer, 512) 및 1개의 병렬 연산단위(Processing Element, PE, 514) 및 1개의 층 버퍼(Layer Buffer, 516)로 이루어지며, 2차원 그래프 상의 1개의 노드에 대하여 고속 신뢰도 전달 기법의 계층적인 반복 연산이 적용된 메시지 계산 및 반복적인 메 시지 업데이트 작업을 수행한다.5 is a block diagram of the hierarchical iteration operation unit 170. The hierarchical iteration operation unit 170 includes M operation groups 510 connected in parallel and whether to determine whether to repeat the iteration operation 520. Each operation group 510 is composed of one local buffer (512), one parallel processing unit (PE, 514), and one layer buffer (516), and a two-dimensional graph. It performs the message calculation and the repetitive message update operation to which hierarchical repetition operation of fast reliability transfer method is applied to one node on the network.

연산 그룹(510)은 데이터 코스트(165), 이전 반복 단계에서의 메시지(515) 및 노드 간의 평탄비용 함수(smoothness cost function)를 사용하여 영상과 동일한 크기의 그래프의 노드에 메시지 값(517)을 출력한다. 층 버퍼(516)는 메시지 값(517)을 입력받아 임시 저장하고, 반복 연산 종료 여부 판단부(520)로 출력한다. 반복 연산 종료 여부 판단부(520)는 층 버퍼(516)가 업데이트(update)될 때마다 계층적 반복 연산을 종료할 지 판단하는데, 종료되지 않을 경우 이전 반복 단계에서의 메시지(515)가 연산 그룹(510)으로 전달되고, 종료될 경우 반복 연산 종료시의 메시지 값(175)이 상태 추정부(180)로 출력된다.The operation group 510 uses the data cost 165, the message 515 in the previous iteration step, and the smoothness cost function between the nodes to assign the message value 517 to the nodes of the graph of the same size as the image. Output The layer buffer 516 receives the message value 517 and temporarily stores the message value 517, and outputs the message to the determination unit 520. The repetition operation end determination unit 520 determines whether to terminate the hierarchical repetition operation whenever the layer buffer 516 is updated. If not, the message 515 in the previous repetition step is calculated. The message value 175 at the end of the repetitive operation is output to the state estimator 180 when it is finished.

도 6은 계층적 신뢰도 전달 기법의 계층적 그래프 구조의 일 실시예이다. 고속 신뢰도 전달 기법에서는 계층적 신뢰도 전달(Hierarchical BP) 방법을 사용하여 고정된 적은 수의 반복 연산으로도 수렴된 결과를 얻을 수 있게 하였다. 계층적 신뢰도 전달 기법은 주어진 크기의 그래프를 언더 샘플링(under sampling)하여 적은 수의 노드를 가지는 여러 단계의 상위 그래프를 만들고, 여기서 만들어진 영상 피라미드와 흡사한 그래프 피라미드에 대해서 상위 그래프에서 하위 그래프의 방향으로(Coarse-to-fine) 반복 연산을 해 나가는 기법이다. 도 6에서 상위 그래프(k+1)는 1단계 아래(k)의 그래프를 언더 샘플링하여 얻어낸 그래프이기 때문에 1/4배 적은 노드를 이용하여 하위 단계에 있는 그래프의 대략적인 정보를 표현할 수 있다.6 is an embodiment of a hierarchical graph structure of a hierarchical reliability transfer scheme. In the fast reliability transfer technique, hierarchical reliability transfer (Hierarchical BP) method is used to obtain converged results with a fixed number of iterative operations. The hierarchical reliability transfer technique undersamples a graph of a given size to produce a multilevel parent graph with fewer nodes, and the orientation of the child graph in the parent graph for the graph pyramid similar to the image pyramid created here. Coarse-to-fine iterative operation. In FIG. 6, since the upper graph k + 1 is a graph obtained by under-sampling the graph below the first stage (k), the approximate information of the graph in the lower stage may be represented by using 1/4 times fewer nodes.

도 7은 도 6의 그래프에서의 고속 신뢰도 전달의 일 실시예이다. 고속 신뢰도 전달 방법은 그래프 상에서의 반복 연산을 지역 버퍼와 층 버퍼 구조를 사용하 여 영상의 스캔라인 방향을 따라서 순차적으로 병렬 처리한다. 상위 그래프의 반복 연산이 모두 종료되면, 이를 토대로 계산된 각 상위 노드의 메시지 값은 해당하는 하위 그래프 상의 노드의 메시지를 초기화한다. 이는 상위 그래프 상에서 반복 연산을 통해서 얻은 정보를 응용하는 과정으로써, 고속으로 원거리에 있는 노드의 정보를 수합할 수 있도록 하여 반복 연산 횟수를 감소시킨다.7 is one embodiment of fast reliability delivery in the graph of FIG. In the fast reliability transfer method, iterative operations on a graph are sequentially processed in parallel along the scanline direction of an image using a local buffer and a layer buffer structure. When all the iterations of the upper graph are finished, the message value of each upper node calculated based on this initializes the message of the node on the corresponding lower graph. This is the process of applying the information obtained through the iterative operation on the upper graph, and it is possible to collect the information of the remote nodes at high speed to reduce the number of iterations.

상기한 계층적 그래프 구조의 특징에 의하면, 총 M개의 단계를 가진 계층적 그래프 구조에서 최상위 단계의 그래프의 1개의 노드는 2M-1 x 2M-1개의 최하위 노드의 정보를 포함하고 있다. 영상의 너비를 C라고 하고 C를 2M-1의 배수라고 가정하면, 최대로 필요한 병렬 프로세서의 개수는 C개이며, 최소로 필요한 병렬 프로세서의 개수는 C/2M-1개이다. 따라서 병렬 프로세서를 N = 2M-1개의 프로세서로 이루어진 C/2M-1개의 연산 그룹으로 나눌 수 있다. 이러한 병렬 구조의 윈도우 버퍼(150)가 도 3에, 병렬 구조의 데이터 코스트 계산부(160)가 도 4에 도시되어 있다.According to the above characteristic of the hierarchical graph structure, in the hierarchical graph structure having a total of M levels, one node of the graph of the highest level includes information of 2 M-1 × 2 M-1 lowest nodes. Assuming the width of the image is C and C is a multiple of 2 M-1 , the maximum number of parallel processors required is C and the minimum number of parallel processors required is C / 2 M-1 . Therefore, a parallel processor may be divided into C / 2 M-1 groups of operations consisting of N = 2 M-1 processors. The parallel window buffer 150 is shown in FIG. 3, and the parallel data cost calculator 160 is shown in FIG. 4.

상태 추정부(180)는 계층적 반복 연산부(170)로부터 입력받은 반복 연산 종료시의 메시지 값(175)을 노드 별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태(hidden state)로 추정하고, 그 대응점의 변위 값(185)을 출력한다.The state estimator 180 collects the message value 175 at the end of the iteration operation received from the hierarchical iteration operator 170 for each node, and displays a hidden state of the node in which the accumulated value is minimum. It estimates as and outputs the displacement value 185 of the corresponding point.

추정된 노드의 상태는 해당 좌표의 원본 영상의 픽셀과 그에 대응하는 비교 영상의 픽셀과 좌표 사이의 변위 값이며, 이 값이 영상과 동일한 크기의 2차원 배 열로 출력되는 것이다. 출력되는 대응점의 변위 값(185)는 배열의 각 이산 좌표(discrete coordinate)에 해당하는 것으로 입력된 기준 영상과 동일한 크기의 2차원 배열 구조로서, 기준 영상 내의 동일한 좌표에 있는 픽셀과 그에 해당하는 비교 영상내의 대응 픽셀 사이의 영상 좌표 차이를 의미한다.The estimated state of the node is a displacement value between pixels of the original image of the corresponding coordinates and pixels and coordinates of the corresponding comparison image, which are output in a two-dimensional array having the same size as the image. The output displacement value 185 of the corresponding point corresponds to each discrete coordinate of the array, and is a two-dimensional array structure of the same size as the input reference image, and the pixel at the same coordinate in the reference image and its comparison The difference in image coordinates between corresponding pixels in an image.

다음, 상술한 영상 처리 시스템(100)에 의한 영상 처리 방법(800)을 도 8에 도시된 순서도를 참조하면서 설명한다.Next, the image processing method 800 by the image processing system 100 described above will be described with reference to the flowchart shown in FIG. 8.

다수의 카메라로부터 다수의 영상(105)을 입력받은 영상 획득 블록(101)의 영상 획득부(110)는 다수의 영상(105)으로부터 영상 데이터(115)를 획득한 후(영상 획득 단계, S1), 이를 영상 획득 블록(101)의 영상 버퍼(120)에 임시로 저장한다(획득 영상 저장 단계, S2). 이때 획득된 영상 데이터(115)는 스트리밍 데이터나 비디오 파일 형태를 포함한다.The image acquisition unit 110 of the image acquisition block 101 receiving the plurality of images 105 from the plurality of cameras acquires the image data 115 from the plurality of images 105 (image acquisition step, S1). This is temporarily stored in the image buffer 120 of the image acquisition block 101 (acquisition image storage step, S2). At this time, the obtained image data 115 includes streaming data or a video file type.

전처리 블록(102)의 정규화 처리부(130)의 편차 계산 모듈(240)에서는, 스캔 라인 버퍼(210)로부터 스캔 영상 데이터 값(215)을 받아 평균 계산 모듈(220)이 평균(225)을 구하고 감산기(230)가 스캔 영상 데이터 값(215)과 그 평균(225)의 편차(235)를 출력한다. L1 놈 계산 모듈(250)에서는 절대값 계산기(252)가 편차(235)의 절대값(253)을 구하고 가산기(254)가 이것을 더하여 L1 놈 값(255)을 계산하며, 제산기(260)는 편차(235)를 L1 놈 값(255)으로 나누어 정규화된 영상 데이터(135)를 얻는다(정규화 단계, S3). 분할 처리부(140)는 정규화된 영상 데이터(135)를 시스템에서 사용하는 픽셀 윈도우의 크기에 맞게 분할하며(분할 단계, S4), 윈도우 버퍼(150)는 정규화-분할된 영상 데이터(145)를 임시 저장한다(분할 영상 저장 단 계, S5). 여기서 윈도우 버퍼(150)는 깊이가 S인 N개의 버퍼(320)의 병렬 구조가 될 수 있다.In the deviation calculation module 240 of the normalization processor 130 of the preprocessing block 102, the scan image buffer value 215 is received from the scan line buffer 210, and the average calculation module 220 obtains an average 225 and subtracts the subtractor. The 230 outputs the deviation 235 of the scan image data value 215 and its average 225. In the L1 norm calculation module 250, the absolute value calculator 252 calculates the absolute value 253 of the deviation 235 and the adder 254 adds it to calculate the L1 norm value 255, and the divider 260 The deviation 235 is divided by the L1 norm value 255 to obtain normalized image data 135 (normalization step, S3). The division processor 140 divides the normalized image data 135 in accordance with the size of the pixel window used in the system (dividing step S4), and the window buffer 150 temporarily stores the normalized-divided image data 145. Save (Split image storage step, S5). The window buffer 150 may be a parallel structure of N buffers 320 having a depth S.

영상 정합 블록(103)의 데이터 코스트 계산부(160)는 데이터 코스트(165)를 계산하는데(데이터 코스트 계산 단계, S6), 이 때 데이터 코스트 계산부(160)의 연산기 모듈(410)은 윈도우 버퍼(150)와 동일한 수의 병렬 구조가 될 수 있다.The data cost calculator 160 of the image matching block 103 calculates the data cost 165 (data cost calculation step S6), at which time the operator module 410 of the data cost calculator 160 performs a window buffer. There may be the same number of parallel structures as 150.

도 9는 계층적 반복 연산 단계(S7)의 순서도이다. 계층적 반복 연산 단계(S7)는 데이터 코스트 계산 단계(S6)에 이어지는 단계로, 데이터 코스트 계산 단계(S6)로부터 데이터 코스트(165)를 입력받아 처리한다. 연산 그룹(510)은 데이터 코스트(165), 이전 반복 단계에서의 메시지(515) 및 노드 간의 평탄비용 함수(smoothness cost function)를 사용하여 영상과 동일한 크기의 그래프의 노드에 메시지 값(517)을 출력한다(메시지 계산 단계, S7-1). 층 버퍼(516)는 메시지 값(517)을 입력받아 임시 저장하고, 반복 연산 종료 여부 판단부(520)로 출력한다(임시 저장 단계, S7-2). 반복 연산 종료 여부 판단부(520)는 층 버퍼(516)가 업데이트(update)될 때마다 계층적 반복 연산을 종료할 지 판단하는데, 종료되지 않을 경우 이전 반복 단계에서의 메시지(515)가 연산 그룹(510)으로 전달되고, 종료될 경우 반복 연산 종료시의 메시지 값(175)이 상태 추정부(180)로 출력된다(반복 연산 종료 여부 판단 단계, S7-3).9 is a flowchart of the hierarchical iterative operation step S7. The hierarchical iterative operation step S7 is a step subsequent to the data cost calculation step S6, and receives and processes the data cost 165 from the data cost calculation step S6. The operation group 510 uses the data cost 165, the message 515 in the previous iteration step, and the smoothness cost function between the nodes to assign the message value 517 to the nodes of the graph of the same size as the image. Output (message calculation step, S7-1). The layer buffer 516 receives the message value 517 and temporarily stores the message value 517, and outputs the result to the determination unit 520 whether the iterative operation ends (temporary storage step S7-2). The repetition operation end determination unit 520 determines whether to terminate the hierarchical repetition operation whenever the layer buffer 516 is updated. If not, the message 515 in the previous repetition step is calculated. In step 510, when it is terminated, the message value 175 at the end of the repetitive operation is output to the state estimator 180 (step of determining whether the repetitive operation ends, S7-3).

상태 추정부(180)는 상기 출력된 각 노드의 메시지 값을 노드 별로 취합하여 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태(hidden state)로 추정하며(상태 추정 단계, S8), 대응점의 변위 값(185)을 출력한다.The state estimator 180 collects the message values of the output nodes for each node and estimates the state in which the accumulated value becomes the minimum as a hidden state of the corresponding node (state estimation step S8). Outputs a displacement value of 185.

이상과 같이 본 발명의 이해를 위하여 그 실시예를 기술하였으나, 당업자라면 알 수 있듯이, 본 발명은 본 명세서에서 기술된 특정 실시예에 한정되는 것이 아니라, 본 발명의 범주를 벗어나지 않는 범위 내에서 다양하게 변형, 변경 및 대체될 수 있다. 따라서, 본 발명의 진정한 사상 및 범주에 속하는 모든 변형 및 변경을 특허청구범위에 의하여 모두 포괄하고자 한다.Although the embodiments have been described for the understanding of the present invention as described above, it will be understood by those skilled in the art, the present invention is not limited to the specific embodiments described herein, but variously without departing from the scope of the present invention. May be modified, changed and replaced. Therefore, it is intended that the present invention cover all modifications and variations that fall within the true spirit and scope of the present invention.

도 1은 전체 영상 처리 시스템(100)의 블록 구성도이다.1 is a block diagram of an entire image processing system 100.

도 2는 정규화 처리부(130)의 블록 구성도이다.2 is a block diagram of the normalization processor 130.

도 3은 윈도우 버퍼(150)의 블록 구성도이다.3 is a block diagram of the window buffer 150.

도 4는 데이터 코스트 계산부(160)의 블록 구성도이다.4 is a block diagram of the data cost calculator 160.

도 5는 계층적 반복 연산부(170)의 블록 구성도이다.5 is a block diagram of the hierarchical iteration operation unit 170.

도 6은 계층적 신뢰도 전달 기법의 계층적 그래프 구조의 일 실시예이다.6 is an embodiment of a hierarchical graph structure of a hierarchical reliability transfer scheme.

도 7은 도 6의 그래프에서의 고속 신뢰도 전달의 일 실시예이다.7 is one embodiment of fast reliability delivery in the graph of FIG.

도 8은 상기 시스템(100)에 의한 영상 처리 방법(600)의 순서도이다.8 is a flowchart of an image processing method 600 by the system 100.

도 9은 계층적 반복 연산 단계(S7)의 순서도이다.9 is a flowchart of the hierarchical iterative operation step S7.

Claims (29)

하나 이상의 영상 간의 정합(matching) 연산을 수행하는 병렬 구조의 영상 처리 장치에 있어서,An image processing apparatus having a parallel structure that performs a matching operation between one or more images, 상기 하나 이상의 영상을 입력받아 영상 데이터를 획득하는 영상 획득부와 상기 획득한 영상 데이터를 임시 저장하는 영상 버퍼를 포함하는 영상 획득 블록;An image acquisition block including an image acquisition unit configured to receive the at least one image and to obtain image data, and an image buffer to temporarily store the obtained image data; 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 처리부, 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 처리부 및 상기 정규화-분할된 영상 데이터가 임시 저장되는 윈도우 버퍼를 포함하는 전처리 블록; 및A normalization processing unit for normalizing the acquired-buffered image data received from the image buffer, a division processing unit for dividing the normalized image data to a size of a window used in a system, and a window in which the normalized-divided image data is temporarily stored. A preprocessing block comprising a buffer; And 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수(normalized cross-correlation)를 적용하여 데이터 코스트(data cost)를 계산하는 데이터 코스트 계산부, 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산부 및 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태(hidden state)로 추정하고 대응점의 변위 값을 출력하는 상태 추정부를 포함하는 영상 정합 블록;A data cost calculator configured to calculate a data cost by applying a normalized cross-correlation to normalized-segmented-buffered image data received from the window buffer; A hierarchical iterative operation unit performing a hierarchical iterative operation of the transfer method and outputting a message value at the end of the iteration operation to each node, and collecting the message values for each node, and a state in which the accumulated value is minimized is hidden. an image matching block including a state estimator for estimating a hidden state and outputting a displacement value of a corresponding point; 을 포함하는, 병렬 구조의 영상 처리 장치.Image processing apparatus having a parallel structure. 제 1항에 있어서,The method of claim 1, 상기 영상 획득부가 획득한 상기 영상 데이터는 스트리밍 데이터 또는 비디오 파일 형태 중 어느 하나인The image data obtained by the image acquisition unit is one of streaming data or a video file type. 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 1항에 있어서,The method of claim 1, 상기 영상 획득부는 프레임 그래버(frame grabber) 또는 비디오 디코더 중 어느 하나를 포함하는The image acquisition unit includes any one of a frame grabber or a video decoder. 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 3항에 있어서,The method of claim 3, wherein 상기 영상 획득부는 카메라 트리거(trigger) 및 영상 전송의 동기화부를 더 포함하는The image acquisition unit further includes a synchronization unit for camera trigger and image transmission. 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 1항에 있어서,The method of claim 1, 상기 영상 버퍼는 링 버퍼(ring buffer) 구조인The image buffer has a ring buffer structure 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 1항에 있어서, 상기 정규화 처리부는The method of claim 1, wherein the normalization processing unit 상기 영상 데이터에 대한 스캔 영상 데이터 값으로부터 상기 스캔 영상 데이터 값의 평균을 빼 주어, 그 편차를 상기 영상 데이터의 특징 벡터로 구하는 편차 계산 모듈;A deviation calculation module which subtracts an average of the scan image data values from the scan image data values for the image data and obtains the deviation as a feature vector of the image data; 상기 특징 벡터의 L1 놈(norm)을 계산하는 L1 놈 계산 모듈; 및An L1 norm calculation module for calculating an L1 norm of the feature vector; And 상기 특징 벡터를 상기 L1 놈으로 나누는 제산기;A divider dividing the feature vector by the L1 norm; 를 포함하는, 병렬 구조의 영상 처리 장치.Image processing apparatus of a parallel structure comprising a. 제 6항에 있어서, 상기 편차 계산 모듈은The method of claim 6, wherein the deviation calculation module 스캔 라인 단위로 들어오는 상기 스캔 영상 데이터의 값을 임시 저장하는 스캔 라인 버퍼;A scan line buffer configured to temporarily store a value of the scan image data received in units of scan lines; 상기 스캔 영상 데이터 값의 평균을 구하는 평균 계산 모듈; 및An average calculation module for calculating an average of the scanned image data values; And 상기 스캔 영상 데이터 값에서 상기 평균을 빼 주는 감산기;A subtractor for subtracting the average from the scan image data values; 를 포함하는, 병렬 구조의 영상 처리 장치.Image processing apparatus of a parallel structure comprising a. 제 7항에 있어서,The method of claim 7, wherein 상기 영상 데이터의 크기가 2의 지수이고,The size of the image data is an index of two, 상기 평균 계산모듈은The average calculation module 상기 스캔 영상 데이터 값을 일시 저장하는 누산기; 및An accumulator for temporarily storing the scanned image data value; And 상기 누산기의 출력을 비트 이동시켜 평균을 구하는 이동 레지스터(shift register);A shift register for bit-shifting the output of the accumulator to obtain an average; 를 포함하는, 병렬 구조의 영상 처리 장치.Image processing apparatus of a parallel structure comprising a. 제 6항에 있어서, 상기 L1 놈 계산 모듈은The method of claim 6, wherein the L1 norm calculation module 상기 편차 계산 모듈로부터 입력받은 편차의 절대값을 구하는 절대값 계산기; 및An absolute value calculator for calculating an absolute value of the deviation received from the deviation calculation module; And 상기 절대값을 더하는 가산기;An adder for adding the absolute value; 를 포함하는, 병렬 구조의 영상 처리 장치.Image processing apparatus of a parallel structure comprising a. 제 1항에 있어서,The method of claim 1, 상기 윈도우 버퍼는 병렬 윈도우 버퍼(parallel window buffer)이고,The window buffer is a parallel window buffer, 상기 데이터 코스트 계산부는 상기 병렬 윈도우 버퍼와 동일한 수의 병렬 연산기 모듈을 포함하는The data cost calculator includes the same number of parallel calculator modules as the parallel window buffer. 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 10항에 있어서, 상기 병렬 윈도우 버퍼는The method of claim 10, wherein the parallel window buffer 병렬로 연결된 하나 이상의 버퍼를 포함하고,Contains one or more buffers connected in parallel, 상기 버퍼는 직렬로 연결된 하나 이상의 윈도우 메모리를 포함하는The buffer includes one or more window memories connected in series. 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 1항에 있어서, 상기 계층적 반복 연산부는, 고속 신뢰도 전달 방법을 구현한 것으로서,The method of claim 1, wherein the hierarchical iteration operation unit implements a fast reliability transfer method. 병렬로 연결된 하나 이상의 연산 그룹 및 반복 연산 종료 여부 판단부를 포함하는At least one operation group connected in parallel and including a determination whether the end of the repeat operation 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 12항에 있어서, 상기 각각의 연산 그룹은,The method of claim 12, wherein each operation group, 지역 버퍼, 병렬 연산단위 및 층 버퍼를 포함하는Including local buffers, parallel units of operations, and layer buffers 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 1항에 있어서,The method of claim 1, 상기 영상 데이터의 형태는 윈도우 픽셀(pixel)인 것을 특징으로 하는The image data may be in the form of window pixels. 병렬 구조의 영상 처리 장치.Parallel image processing device. 제 1항 내지 제 14항 중 어느 한 항에 있어서,The method according to any one of claims 1 to 14, 상기 장치를 포함하는Including the device 영상 정합 시스템.Image registration system. 하나 이상의 영상 간의 정합 연산을 수행하는 병렬 구조의 영상 처리 방법에 있어서,In the parallel image processing method for performing a matching operation between one or more images, 영상 획득부가 다수의 카메라로부터 입력받은 상기 하나 이상의 영상으로부터 영상 데이터를 획득하는 영상 획득 단계;An image acquiring step of acquiring image data from the one or more images received by the image acquiring unit; 영상 버퍼가 상기 획득한 영상 데이터를 임시 저장하는 획득 영상 저장 단계;An acquired image storing step of temporarily storing the obtained image data by an image buffer; 정규화 처리부가 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 단계;A normalization step of normalizing, by the normalization processing unit, the acquired-buffered image data received from the image buffer; 분할 처리부가 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 단계;A division step of dividing the normalized image data by the division processing unit according to a size of a window used in a system; 윈도우 버퍼가 상기 정규화-분할된 영상 데이터를 임시 저장하는 분할 영상 저장 단계;A divided image storing step of temporarily storing the normalized-divided image data by a window buffer; 데이터 코스트 계산부가 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수를 적용하여 데이터 코스트를 계산하는 데이터 코스트 계산 단계;A data cost calculation step of calculating a data cost by a data cost calculator applying a normal cross correlation coefficient to the normalized-split-buffered image data received from the window buffer; 계층적 반복 연산부가 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산 단계; 및A hierarchical repetition operation step of receiving a data cost by the hierarchical repetition operation unit and performing a hierarchical repetition operation of a fast reliability transfer method to output a message value at the end of the repetition operation to each node; And 상태 추정부가 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태(hidden state)로 추정하고 대응점의 변위 값을 출력하는 상태 추정 단계;A state estimating step of a state estimator collecting the message values for each node, estimating a state in which the accumulated value is minimum as a hidden state of the corresponding node, and outputting a displacement value of a corresponding point; 를 포함하는, 병렬 구조의 영상 처리 방법.Including, the image processing method of a parallel structure. 제 16항에 있어서,The method of claim 16, 상기 영상 획득부가 획득한 상기 영상 데이터는 스트리밍 데이터 또는 비디오 파일 형태 중 어느 하나인The image data obtained by the image acquisition unit is one of streaming data or a video file type. 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 16항에 있어서,The method of claim 16, 상기 영상 획득부는 프레임 그래버(frame grabber) 또는 비디오 디코더 중 어느 하나를 포함하는The image acquisition unit includes any one of a frame grabber or a video decoder. 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 18항에 있어서,The method of claim 18, 상기 영상 획득부는 카메라 트리거(trigger) 및 영상 전송의 동기화부를 더 포함하는The image acquisition unit further includes a synchronization unit for camera trigger and image transmission. 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 16항에 있어서,The method of claim 16, 상기 영상 버퍼는 링 버퍼(ring buffer) 구조인The image buffer has a ring buffer structure 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 16항에 있어서, 상기 정규화 단계는17. The method of claim 16, wherein said normalizing step 상기 영상 데이터에 대한 스캔 영상 데이터 값으로부터 상기 스캔 영상 데이터 값의 평균을 빼 주어, 그 편차를 상기 영상 데이터의 특징 벡터로 구하는 편차 계산 단계;A deviation calculation step of subtracting an average of the scan image data values from the scan image data values for the image data and obtaining the deviation as a feature vector of the image data; 상기 특징 벡터의 L1 놈(norm)을 계산하는 L1 놈 계산 단계; 및An L1 norm calculating step of calculating an L1 norm of the feature vector; And 상기 특징 벡터를 상기 L1 놈으로 나누는 제산 단계;Dividing the feature vector by the L1 norm; 를 포함하는, 병렬 구조의 영상 처리 방법.Including, the image processing method of a parallel structure. 제 21항에 있어서, 상기 편차 계산 단계는The method of claim 21, wherein the step of calculating the deviation 스캔 라인 버퍼가 스캔 라인 단위로 들어오는 상기 스캔 영상 데이터의 값을 임시 저장하는 스캔 라인 버퍼링 단계;A scan line buffering step of temporarily storing a value of the scan image data in which scan line buffers are input in units of scan lines; 평균 계산 모듈이 상기 스캔 영상 데이터 값의 평균을 구하는 평균 계산 단계; 및An average calculating step of calculating, by the average calculating module, the average of the scanned image data values; And 감산기가 상기 스캔 영상 데이터 값에서 상기 평균을 빼 주는 감산 단계;A subtractor subtracting the average from the scan image data values; 를 포함하는, 병렬 구조의 영상 처리 방법.Including, the image processing method of a parallel structure. 제 22항에 있어서,23. The method of claim 22, 상기 영상 데이터의 크기가 2의 지수이고,The size of the image data is an index of two, 상기 평균 계산 단계는The average calculation step 누산기가 상기 스캔 영상 데이터 값을 일시 저장하는 단계; 및An accumulator temporarily storing the scanned image data value; And 이동 레지스터가 상기 누산기의 출력을 비트 이동시켜 평균을 구하는 단계;A shift register bit shifting the output of the accumulator to obtain an average; 를 포함하는, 병렬 구조의 영상 처리 방법.Including, the image processing method of a parallel structure. 제 21항에 있어서, 상기 L1 놈 계산 단계는22. The method of claim 21 wherein the L1 norm calculation step is 절대값 계산기가 상기 편차 계산 모듈로부터 입력받은 편차의 절대값을 구하는 절대값 계산 단계; 및An absolute value calculating step of obtaining, by an absolute value calculator, an absolute value of the deviation received from the deviation calculating module; And 가산기가 상기 절대값을 더하는 가산 단계;An adding step wherein an adder adds the absolute value; 를 포함하는, 병렬 구조의 영상 처리 방법.Including, the image processing method of a parallel structure. 제 16항에 있어서,The method of claim 16, 상기 윈도우 버퍼는 병렬 윈도우 버퍼(parallel window buffer)이고,The window buffer is a parallel window buffer, 상기 데이터 코스트 계산부는 상기 병렬 윈도우 버퍼와 동일한 수의 병렬 연산기 모듈을 포함하는 하는The data cost calculator includes the same number of parallel calculator modules as the parallel window buffer. 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 25항에 있어서, 상기 병렬 윈도우 버퍼는27. The system of claim 25, wherein the parallel window buffer is 병렬로 연결된 하나 이상의 버퍼를 포함하고,Contains one or more buffers connected in parallel, 상기 버퍼는 직렬로 연결된 하나 이상의 윈도우 메모리를 포함하는The buffer includes one or more window memories connected in series. 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 16항에 있어서,The method of claim 16, 상기 계층적 반복 연산 단계는, 고속 신뢰도 전달 방법을 사용한 것으로서,The hierarchical iterative operation step uses a fast reliability transfer method, 연산 그룹이 상기 데이터 코스트, 이전 반복 단계에서 전달되는 메시지 및 노드 간의 평탄비용함수를 사용하여 영상과 동일한 크기의 그래프의 노드에 메시지 값을 출력하는 메시지 계산 단계,A message calculation step in which a calculation group outputs a message value to a node of a graph having the same size as an image using the data cost, the message delivered in a previous repetition step, and a flat cost function between nodes, 층 버퍼에 상기 출력된 메시지 값이 임시 저장되는 버퍼링 단계,A buffering step of temporarily storing the output message value in a layer buffer; 반복 연산 종료 여부 판단부가 상기 층 버퍼가 업데이트 될 때마다 반복 연산 종료 여부를 판단하는 반복 연산 종료 여부 판단 단계;An iterative operation end determination step of determining whether or not the iterative operation ends when the layer buffer is updated; 를 포함하는, 병렬 구조의 영상 처리 방법.Including, the image processing method of a parallel structure. 제 27항에 있어서, 상기 메시지 계산 단계는28. The method of claim 27, wherein said message calculating step 상기 연산 그룹이 지역 버퍼, 병렬 연산단위 및 층 버퍼를 포함하는 구조를 사용하여, 영상의 스캔 라인 방향을 따라서 순차적으로 병렬 처리되는 것을 특징으로 하는The operation group may be sequentially processed in parallel along the scan line direction of the image by using a structure including a local buffer, a parallel operation unit, and a layer buffer. 병렬 구조의 영상 처리 방법.Image processing method of parallel structure. 제 16항 내지 제 28항 중 어느 한 항에 있어서,The method according to any one of claims 16 to 28, 상기 영상 데이터는 윈도우 픽셀(pixel)인The image data is a window pixel 병렬 구조의 영상 처리 방법.Image processing method of parallel structure.
KR1020080045572A 2008-05-16 2008-05-16 Parallel structure image processing apparatus and method for image matching with adjusting intensities KR100971148B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020080045572A KR100971148B1 (en) 2008-05-16 2008-05-16 Parallel structure image processing apparatus and method for image matching with adjusting intensities
PCT/KR2009/002579 WO2009139596A2 (en) 2008-05-16 2009-05-15 Parallel image processing apparatus and method for image matching using intensity adjustment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020080045572A KR100971148B1 (en) 2008-05-16 2008-05-16 Parallel structure image processing apparatus and method for image matching with adjusting intensities

Publications (2)

Publication Number Publication Date
KR20090119493A KR20090119493A (en) 2009-11-19
KR100971148B1 true KR100971148B1 (en) 2010-07-20

Family

ID=41319178

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020080045572A KR100971148B1 (en) 2008-05-16 2008-05-16 Parallel structure image processing apparatus and method for image matching with adjusting intensities

Country Status (2)

Country Link
KR (1) KR100971148B1 (en)
WO (1) WO2009139596A2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180067781A (en) 2016-12-12 2018-06-21 이에이트 주식회사 High resolution upscaling method of high quality image using parallel processing of divisional images
KR20190081162A (en) 2017-12-29 2019-07-09 이에이트 주식회사 Multi display system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101471646B1 (en) * 2012-08-21 2014-12-26 인하대학교 산학협력단 Parallel processing of 3D medical image registration by GP-GPU

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10304184A (en) 1997-05-02 1998-11-13 Fuji Xerox Co Ltd Image processor and image processing method
KR20000023923A (en) * 1999-10-14 2000-05-06 이칠기 Scale and Rotation Invariant Intelligent face detection
JP2001118062A (en) 1999-10-18 2001-04-27 Keio Gijuku Automatic dynamic range compressing method
JP2004145493A (en) 2002-10-23 2004-05-20 Hiroshima Industrial Promotion Organization Matching arithmetic circuit

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998003021A1 (en) * 1996-06-28 1998-01-22 Sri International Small vision module for real-time stereo and motion analysis
JP4526445B2 (en) * 2005-06-15 2010-08-18 オリンパス株式会社 Imaging device

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10304184A (en) 1997-05-02 1998-11-13 Fuji Xerox Co Ltd Image processor and image processing method
KR20000023923A (en) * 1999-10-14 2000-05-06 이칠기 Scale and Rotation Invariant Intelligent face detection
JP2001118062A (en) 1999-10-18 2001-04-27 Keio Gijuku Automatic dynamic range compressing method
JP2004145493A (en) 2002-10-23 2004-05-20 Hiroshima Industrial Promotion Organization Matching arithmetic circuit

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180067781A (en) 2016-12-12 2018-06-21 이에이트 주식회사 High resolution upscaling method of high quality image using parallel processing of divisional images
KR20190081162A (en) 2017-12-29 2019-07-09 이에이트 주식회사 Multi display system

Also Published As

Publication number Publication date
WO2009139596A2 (en) 2009-11-19
KR20090119493A (en) 2009-11-19
WO2009139596A3 (en) 2011-11-24

Similar Documents

Publication Publication Date Title
WO2022021912A1 (en) Low power consumption stereo matching system and method for obtaining depth information
US10621446B2 (en) Handling perspective magnification in optical flow processing
US8427524B2 (en) Message propagation-based stereo image matching system
KR102265315B1 (en) Method and apparatus for estimating image optical flow
CN113284251B (en) Cascade network three-dimensional reconstruction method and system with self-adaptive view angle
CN108871197B (en) Displacement field measuring method, device, equipment and storage medium for material surface
CN111914756A (en) Video data processing method and device
KR100971148B1 (en) Parallel structure image processing apparatus and method for image matching with adjusting intensities
CN112785636A (en) Multi-scale enhanced monocular depth estimation method
CN110992393B (en) Target motion tracking method based on vision
CN113793370B (en) Three-dimensional point cloud registration method and device, electronic equipment and readable medium
CN108507476B (en) Displacement field measuring method, device, equipment and storage medium for material surface
CN112734931B (en) Method and system for assisting point cloud target detection
KR100920227B1 (en) Belief propagation based fast systolic array apparatus and its method
KR100920229B1 (en) Fast systolic array system of a belief propagation and method for processing a message using the same
KR100795974B1 (en) Apparatus for realtime-generating a depth-map by processing streaming stereo images
Dong et al. Lightweight and edge-preserving speckle matching network for precise single-shot 3D shape measurement
CN107194334B (en) Video satellite image dense Stereo Matching method and system based on optical flow estimation
CN114155406A (en) Pose estimation method based on region-level feature fusion
KR101220003B1 (en) Generating method for disparity map
CN115170635A (en) High-speed and high-energy-efficiency binocular vision hardware accelerator and method based on image block level
KR20140125039A (en) A Parallel Hardware System for High-Performance Stereo Matching Calculation
KR102660946B1 (en) Dense depth extraction system and method using camera and lidar
Jin et al. Pipelined hardware architecture for high-speed optical flow estimation using fpga
CN109739651B (en) Three-dimensional matching hardware architecture with low resource consumption

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee