KR100971148B1 - Parallel structure image processing apparatus and method for image matching with adjusting intensities - Google Patents
Parallel structure image processing apparatus and method for image matching with adjusting intensities Download PDFInfo
- Publication number
- KR100971148B1 KR100971148B1 KR1020080045572A KR20080045572A KR100971148B1 KR 100971148 B1 KR100971148 B1 KR 100971148B1 KR 1020080045572 A KR1020080045572 A KR 1020080045572A KR 20080045572 A KR20080045572 A KR 20080045572A KR 100971148 B1 KR100971148 B1 KR 100971148B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- image data
- parallel
- buffer
- image processing
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/29—Graphical models, e.g. Bayesian networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/42—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
- G06V10/422—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
- G06V10/426—Graphical representations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/84—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using probabilistic graphical models from image or video features, e.g. Markov models or Bayesian networks
Abstract
본 발명은 밝기 조절을 통한 영상 정합을 위한 병렬 구조의 영상 처리 장치 및 방법에 관한 것이다.
상기 목적을 달성하기 위한 본 발명의 일 측면에 의하면, 하나 이상의 영상 간의 정합(matching) 연산을 수행하는 병렬 구조의 영상 처리 장치에 있어서, 상기 하나 이상의 영상을 입력받아 영상 데이터를 획득하는 영상 획득부와 상기 획득한 영상 데이터를 임시 저장하는 영상 버퍼를 포함하는 영상 획득 블록; 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 처리부, 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 처리부 및 상기 정규화-분할된 영상 데이터가 임시 저장되는 윈도우 버퍼를 포함하는 전처리 블록; 및 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수(normalized cross-correlation)를 적용하여 데이터 코스트(data cost)를 계산하는 데이터 코스트 계산부, 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산부 및 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태로 추정하고 대응점의 변위 값을 출력하는 상태 추정부를 포함하는 영상 정합 블록을 제공한다.
본 발명에 의하면, 반복 연산의 횟수의 감소로 인한 메모리 절약 및 연산 시간 감축으로, 조명차로 인한 편중 현상이 존재하는 환경에서도 강인한 실시간 영상 정합 시스템의 구현이 가능한 효과가 있다.
밝기 조절, 영상 정합, 신뢰도 전달, 병렬 구조, 정규 교차 상관계수
The present invention relates to an image processing apparatus and method having a parallel structure for image registration through brightness control.
According to an aspect of the present invention for achieving the above object, in the image processing apparatus of a parallel structure performing a matching operation between one or more images, an image acquisition unit for receiving the one or more images to obtain image data And an image buffer for temporarily storing the obtained image data. A normalization processing unit for normalizing the acquired-buffered image data received from the image buffer, a division processing unit for dividing the normalized image data to a size of a window used in a system, and a window in which the normalized-divided image data is temporarily stored. A preprocessing block comprising a buffer; And a data cost calculator configured to calculate a data cost by applying a normalized cross-correlation to the normalized-split-buffered image data received from the window buffer. A hierarchical iterative operation unit performing a hierarchical iterative operation of the reliability transfer method and outputting a message value at the end of the iterative operation to each node, and collecting the message values for each node, so that the accumulated value is minimized. An image matching block including a state estimator for estimating a state and outputting a displacement value of a corresponding point is provided.
According to the present invention, it is possible to implement a robust real-time image registration system even in an environment in which a bias phenomenon due to an illumination difference exists due to memory saving and computation time reduction due to a decrease in the number of repetitive operations.
Brightness control, image matching, reliability transfer, parallel structure, normal cross correlation
Description
본 발명은 밝기 조절을 통한 영상 정합을 위한 병렬 구조의 영상 처리 장치 및 방법에 관한 것이다. 구체적으로 본 발명은, 시간 혹은 공간상의 다수의 영상에 조명차가 존재할 때, 해당 부분에 대한 밝기(intensity)를 조절하여 신뢰성 있는 고속의 영상 정합(image matching)을 수행하는 병렬 구조의 영상 처리 장치 및 방법에 관한 것이다.The present invention relates to an image processing apparatus and method having a parallel structure for image registration through brightness control. In detail, the present invention provides an image processing apparatus having a parallel structure that performs reliable image matching at a high speed by adjusting an intensity of a corresponding part when an illumination difference exists in a plurality of images in time or space. It is about a method.
다수의 영상에 대해서 특정한 픽셀이나 영상 영역의 일치하는 부분을 탐색, 추정하는 종래의 방법은 크게 두 가지로 분류할 수 있다. 픽셀(pixel)이나 픽셀 윈도우(pixel window) 기반의 지엽적으로 제한된 정보만을 사용해 일치점을 찾아내는 지역 정합(local matching) 기법과 영상 전체의 정보를 취합하여 일치점을 추정하는 전역 정합(global matching) 기법이 그것이다.Conventional methods for searching for and estimating a matching portion of a specific pixel or image region for a plurality of images can be broadly classified into two types. Local matching technique that finds a match point using only limited information based on pixel or pixel window, and global matching technique that collects the information of the whole image and estimates the match point will be.
전역 정합 기법은 일반적으로 많은 계산량과 높은 시스템 복잡도라는 문제점 을 안고 있지만, 지역 정합 기법에 비해서 오차율이 월등히 낮으며, 가려짐(occlusion) 현상에 대하여 안정적인 결과를 보인다. 전역 정합 기법 중의 하나인 신뢰도 전달(Belief Propagation, BP) 기법은 히든 마르코프 모델(Hidden Markov Model, HMM) 을 기반으로 하는 그래프 구조상에서의 베이지안 추정(Baysian estimation) 기법중의 하나로써, 낮은 오차율과 반복적인 연산 구조를 특징으로 하는 전역 정합 기법이다. 신뢰도 전달 방법은 노드(node)와 이웃한 노드들을 연결하는 가지(branch) 로 구성된 그래프 상에서 이웃한 노드 간의 확률 메시지 교환을 반복적으로 수행하여 최소 확률 에너지를 가지는 숨겨진 상태(hidden state)를 추정해낸다.Global matching techniques generally suffer from high computational complexity and high system complexity, but have much lower error rates than local matching techniques and provide stable results against occlusion. Reliability propagation (BP), one of the global matching techniques, is one of Bayesian estimation techniques in graph structures based on the Hidden Markov Model (HMM). It is a global matching technique characterized by a phosphorus operation structure. The reliability transfer method estimates a hidden state having a minimum probability energy by repeatedly performing probability message exchange between neighboring nodes on a graph composed of branches connecting nodes and neighboring nodes.
신뢰도 전달을 기반으로 한 전역 정합 기법은 타 정합 기법에 비해 월등한 성능을 보여주지만, 매우 큰 메모리와 연산 복잡도로 인하여 실시간 처리가 어렵다. 이 문제를 해결하기 위해서 계층화 기법과 거리 변환 기법 등을 응용한 개선된 신뢰도 전달 기법이 제안되어 이를 기반으로 병렬 GPU(Graphics Processing Unit)를 이용한 실시간 시스템이 구현되기도 하였으나, 높은 클럭 주파수와 메모리 대역폭이 요구되어 연산의 병렬화가 제한됨으로 인해 처리 성능의 한계를 보였다. 최근에 제안된 더욱 개선된 반복 연산 방법인 고속 신뢰도 전달(Fast Belief Propagation, FBP) 기법은 기존의 신뢰도 전달 기법의 반복 연산구조를 개선하여 높은 메모리 대역폭과 메모리 용량문제를 해결함으로써, VLSI(Very Large Scale Integration) 구조를 사용하여 좀 더 높은 수준의 병렬화를 가능하게 하였다. 고속 신뢰도 전달 구조 및 방법을 기반으로 한 영상 정합 시스템은 기존의 신뢰도 전 달 기반의 시스템들에 비해서 현저하게 줄어든 메모리와 느린 클럭 주파수를 사용하면서도 월등한 영상 처리성능을 나타낸다.Global matching based on reliability transfer shows better performance than other matching, but it is difficult to process in real time due to very large memory and computational complexity. In order to solve this problem, an improved reliability transfer method using a layering method and a distance conversion method has been proposed and based on this, a real-time system using a parallel graphics processing unit (GPU) has been implemented. The processing performance was limited due to the limited parallelism of the operation. Fast Belief Propagation (FBP), a more advanced iterative computation method, has recently been developed to solve the problem of high memory bandwidth and memory capacity by improving the iterative computation structure of the existing reliability propagation technique. The Scale Integration (Scale Integration) structure allows for a higher level of parallelism. The image matching system based on the fast reliability transmission structure and method shows superior image processing performance while using a significantly reduced memory and a slower clock frequency than the conventional reliability delivery systems.
기존의 신뢰도 전달 기반의 영상 정합 시스템은 실내의 이상적인 조명 조건 하에서는 좋은 결과를 나타내지만, 반사광, 가려진 영역의 그림자, 균등하지 못한 카메라 설정, 조명과 카메라의 상대적 위치 등의 외부적 요인으로 인해서 특정한 영역에서 픽셀 밝기의 편중(bias) 현상이 나타날 경우 큰 오차가 발생한다. 이는 픽셀의 밝기차이를 절대치로 표현한 기존의 데이터 코스트(data cost)가 유사한 밝기 분포 형태를 가졌으나 특정 부분의 밝기가 편중되어 있는 부분의 유사성을 정확하게 판단하지 못하기 때문이다.Conventional image transfer systems based on reliability transfer show good results under ideal lighting conditions in the room, but due to external factors such as reflected light, shadows in hidden areas, uneven camera settings, and relative positions of lights and cameras, Large error occurs when the bias of pixel brightness occurs at. This is because the existing data cost expressing the difference in brightness of pixels has a similar brightness distribution form, but the similarity of the portion where the brightness of a specific portion is biased cannot be accurately determined.
따라서 다양한 조명 조건에 강인한 성능을 가진 신뢰도 전달 기반의 영상 정합 시스템을 구현하기 위해서는 편중 현상에 의한 조명 차이가 나타나는 부분의 밝기를 정규화 하여 편중 현상을 제거해 주는 방법이 필요하다. 이에, 신뢰도 전달을 기반으로 한 많은 방법들이 정규 교차 상관계수(Normalized Cross-Correlation, NCC)를 데이터 코스트에 적용하는 방법을 사용하여 좋은 결과를 얻을 수 있었다.Therefore, in order to realize a reliability matching-based image matching system with robust performance in various lighting conditions, a method of removing the bias phenomenon by normalizing the brightness of the part where the illumination difference is caused by the bias phenomenon is required. As a result, many methods based on reliability transfer have obtained good results by applying the normalized cross-correlation (NCC) to the data cost.
픽셀 윈도우를 기반으로 하는 상관계수(correlation)는 영상의 유사성을 측정하는 방법 중 하나로써, 한 영상과 비교 영상 내에 존재하는 픽셀 윈도우의 특징 벡터(feature vector)들 사이의 유클리드 거리(Euclidean distance)를 제곱한 값으로 표현된다. 상관계수를 사용한 방법은 다수의 픽셀을 비교함으로써 단일 픽셀 간 밝기 차의 절대치를 사용하는 방법에 비하여 좀 더 신뢰성 있는 결과를 얻을 수 있으나, 영상 밝기의 유사한 형태의 패턴의 일부 혹은 전체에 조명차로 인한 편중 현상이 있을 경우 잘 동작하지 않는다. 정규 교차 상관계수는 평균이 0인 특징 벡터를 정규화 하여 그 방향 벡터만을 추출하여 사용함으로써, 편중 현상이 정합 과정에 끼치는 영향을 최소화할 수 있다.Correlation based on the pixel window is a method of measuring the similarity of an image. The correlation coefficient between an image and feature vectors of a pixel window in a comparison image is determined. Expressed as the squared value. The method using the correlation coefficient is more reliable than the method of using the absolute value of the brightness difference between single pixels by comparing a plurality of pixels, but due to the difference in illumination of part or all of a similar pattern of image brightness It does not work well when there is a bias. The normal cross correlation coefficient can minimize the influence of biasing on the matching process by normalizing a feature vector having a mean of 0 and extracting only the direction vector.
그러나 정규 교차 상관계수 기반의 시스템은 O(n4)의 높은 연산 복잡도를 가지고 있으며, 많은 곱셈, 나눗셈 및 제곱근 연산을 요구하기 때문에 VLSI를 기반으로 하는 병렬 처리 시스템에 적합하지 않다.However, a system based on a normal cross correlation coefficient has a high computational complexity of O (n 4 ) and requires a lot of multiplication, division, and square root operations and thus is not suitable for a parallel processing system based on VLSI.
따라서, 다양한 환경에서 높은 신뢰도를 가진 결과를 필요로 하는 실시간 영상 정합 시스템을 구현하기 위해서는 병렬 처리에 적합한 구조를 가진 밝기 조절 방법이 필요하다.Therefore, in order to implement a real-time image matching system requiring high reliability in various environments, a brightness control method having a structure suitable for parallel processing is required.
상기 목적을 달성하기 위한 본 발명의 일 측면에 의하면, 하나 이상의 영상 간의 정합 연산을 수행하는 병렬 구조의 영상 처리 장치에 있어서, 상기 하나 이상의 영상을 입력받아 영상 데이터를 획득하는 영상 획득부와 상기 획득한 영상 데이터를 임시 저장하는 영상 버퍼를 포함하는 영상 획득 블록; 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 처리부, 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 처리부 및 상기 정규화-분할된 영상 데이터가 임시 저장되는 윈도우 버퍼를 포함하는 전처리 블록; 및 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수를 적용하여 데이터 코스트를 계산하는 데이터 코스트 계산부, 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산부 및 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태로 추정하고 대응점의 변위 값을 출력하는 상태 추정부를 포함하는 영상 정합 블록;을 제공한다.According to an aspect of the present invention for achieving the above object, in the image processing apparatus having a parallel structure for performing a matching operation between one or more images, the image acquisition unit and the acquisition to obtain the image data by receiving the one or more images; An image acquisition block including an image buffer for temporarily storing one image data; A normalization processing unit for normalizing the acquired-buffered image data received from the image buffer, a division processing unit for dividing the normalized image data to a size of a window used in a system, and a window in which the normalized-divided image data is temporarily stored. A preprocessing block comprising a buffer; And a data cost calculator configured to calculate a data cost by applying a normal cross-correlation coefficient to the normalized-split-buffered image data received from the window buffer, and perform the hierarchical iterative operation of the fast reliability transfer method by receiving the data cost. A hierarchical iterative operation unit which outputs the message value at the end of the iteration operation to each node and the message value are collected for each node, and the state in which the accumulated value is minimized is estimated as the hidden state of the corresponding node and the displacement value of the corresponding point is output. An image matching block including a state estimator is provided.
상기 목적을 달성하기 위한 본 발명의 다른 측면에 의하면, 하나 이상의 영상 간의 정합 연산을 수행하는 병렬 구조의 영상 처리 방법에 있어서, 영상 획득부가 다수의 카메라로부터 입력받은 상기 하나 이상의 영상으로부터 영상 데이터를 획득하는 영상 획득 단계; 영상 버퍼가 상기 획득한 영상 데이터를 임시 저장하는 획득 영상 저장 단계; 정규화 처리부가 상기 영상 버퍼로부터 입력받은 획득-버퍼링된 영상 데이터를 정규화하는 정규화 단계; 분할 처리부가 상기 정규화된 영상 데이터를 시스템에서 사용하는 윈도우의 크기에 맞게 분할하는 분할 단계; 윈도우 버퍼가 상기 정규화-분할된 영상 데이터를 임시 저장하는 분할 영상 저장 단계; 데이터 코스트 계산부가 상기 윈도우 버퍼로부터 입력받은 정규화-분할-버퍼링된 영상 데이터에 정규 교차 상관계수를 적용하여 데이터 코스트를 계산하는 데이터 코스트 계산 단계; 계층적 반복 연산부가 상기 데이터 코스트를 입력받아 고속 신뢰도 전달 방법의 계층적 반복 연산을 수행하여 각 노드에 반복 연산 종료시의 메시지 값을 출력하는 계층적 반복 연산 단계; 및 상태 추정부가 상기 메시지 값을 노드별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태로 추정하고 대응점의 변위 값을 출력하는 상태 추정 단계; 를 제공한다.According to another aspect of the present invention for achieving the above object, in a parallel image processing method for performing a matching operation between one or more images, the image acquisition unit obtains the image data from the one or more images received from a plurality of cameras Obtaining an image; An acquired image storing step of temporarily storing the obtained image data by an image buffer; A normalization step of normalizing, by the normalization processing unit, the acquired-buffered image data received from the image buffer; A division step of dividing the normalized image data by the division processing unit according to a size of a window used in a system; A divided image storing step of temporarily storing the normalized-divided image data by a window buffer; A data cost calculation step of calculating a data cost by a data cost calculator applying a normal cross correlation coefficient to the normalized-split-buffered image data received from the window buffer; A hierarchical repetition operation step of receiving a data cost by the hierarchical repetition operation unit and performing a hierarchical repetition operation of a fast reliability transfer method to output a message value at the end of the repetition operation to each node; And a state estimating step of collecting, by the state estimator, the message value for each node, estimating a state in which the accumulated value is minimum as a hidden state of the corresponding node, and outputting a displacement value of the corresponding point. To provide.
본 발명에 의하면, 정규 교차 상관계수가 적용된 영상 정합 시스템에 고속 신뢰도 전달 방법의 계층적인 연산 구조를 사용함으로써 원거리의 정보가 빠르게 수렴된다. 이 때문에 기존의 신뢰도 전달 기반의 시스템에 비해 요구되는 반복 연산의 횟수가 크게 줄어들어, 메모리를 절약하고 연산 시간도 감축하는 효과가 있다.According to the present invention, far-field information is quickly converged by using a hierarchical operation structure of a fast reliability transfer method in an image matching system to which a normal cross correlation coefficient is applied. As a result, the number of repetitive operations required is significantly reduced compared to the existing system based on reliability transfer, which saves memory and reduces computation time.
또한 고속 신뢰도 전달 방법은 VLSI를 이용한 병렬화가 용이하므로, 조명차로 인한 편중 현상이 존재하는 환경에서도 안정적인 성능을 보여주는 강인한 실시간 영상 정합 시스템의 구현이 가능하다. In addition, since the high-speed reliability transfer method is easy to parallelize using VLSI, it is possible to implement a robust real-time image matching system that shows stable performance even in the presence of a bias due to a light difference.
이하 첨부된 도면을 참조하여 본 발명의 동작 원리를 상세히 설명한다. 하기에서 본 발명을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고, 후술되는 용어들은 본 발명에서의 기능을 고려하여 정의된 용어들로서, 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.Hereinafter, the operating principle of the present invention will be described in detail with reference to the accompanying drawings. In the following description of the present invention, if it is determined that a detailed description of a known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. In addition, terms to be described below are terms defined in consideration of functions in the present invention, which may vary according to intention or custom of a user or an operator. Therefore, the definition should be made based on the contents throughout the specification.
도 1은 전체 영상 처리 시스템(100)의 블록 구성도이다. 영상 처리 시스템(100)은 영상 획득 블록(101), 전처리 블록(102) 및 영상 정합 블록(103)의 직렬 연결 구조로 이루어진다. 영상 획득 블록(101)은 다수의 영상(105)을 입력받아, 하위 구성요소인 영상 획득부(110), 영상 버퍼(120)에서의 처리를 차례로 수행하여, 획득-버퍼링된 영상 데이터(125)를 전처리 블록(102)에 출력한다. 전처리 블 록(102)은 획득-버퍼링된 영상 데이터(125)를 입력받아, 하위 구성요소인 정규화 처리부(130), 분할 처리부(140), 윈도우 버퍼(150)에서의 처리를 차례로 수행하여, 정규화-분할-버퍼링된 영상 데이터(155)를 영상 정합 블록(103)에 출력한다. 영상 정합 블록(103)은 정규화-분할-버퍼링된 영상 데이터(155)를 입력받아, 하위 구성요소인 데이터 코스트 계산부(160), 계층적 반복연산부(170), 상태 추정부(180)에서의 처리를 차례로 수행하여, 대응점의 변위값(185)을 출력한다.1 is a block diagram of an entire image processing system 100. The image processing system 100 includes a series connection structure of an
영상 획득 블록(101)은 영상 획득부(110) 및 영상 버퍼(120)의 직렬 연결 구조로 이루어진다.The
영상 획득부(110)는 다수의 카메라에 의한 다수의 영상(105)으로부터 스트리밍 데이터나 비디오 파일 형태의 획득된 영상 데이터(115)를 추출하여 이를 영상 버퍼(120)로 전송하는 역할을 하게 되는데, 프레임 그래버(frame grabber) 나 비디오 디코더 등이 이에 해당한다. 2대 이상의 카메라를 사용하는 영상 정합 시스템의 경우 영상 획득부(110)에 추가로 카메라 트리거(trigger) 와 영상 전송의 동기화를 위한 부분이 필요하다. 입력되는 다수의 영상(105)은 동일한 해상도를 가진 다수 카메라에 의한 디지털 영상이며, 획득되는 원본 영상 및 비교 영상은 동일한 크기이다.The image acquirer 110 extracts the acquired image data 115 in the form of streaming data or video file from the plurality of images 105 by a plurality of cameras, and transmits the obtained image data 115 to the
영상 버퍼(120)는 영상 획득부에서 연속적으로 전달되는 획득된 영상 데이터(115)를 순서대로 저장하고 사용자의 요구에 맞추어 이를 획득-버퍼링된 영상 데이터(125)로 출력하는 역할을 하는 링 버퍼(ring buffer) 구조의 메모리로서, 픽셀 윈도우 기반의 영상 처리에 필수적인 영상의 중간 저장소 역할을 하게 된다.The
전처리 블록(102)은 정규화 처리부(130), 분할 처리부(140), 윈도우 버퍼(150)의 직렬 연결 구조로 이루어진다.The preprocessing block 102 has a serial connection structure of the
도 2는 정규화 처리부(130)의 블록 구성도이다. 정규화 처리부(130)는 크게 편차 계산 모듈(240), L1 놈(L1 norm) 계산 모듈(250), 제산기(divider, 260)로 이루어진다.2 is a block diagram of the
편차 계산 모듈(240)은 스캔 라인 버퍼(210), 평균 계산 모듈(220), 감산기(230)로 이루어진다. 스캔 라인 버퍼(210)는 영상 획득 블록(101)으로부터 획득-버퍼링된 영상 데이터(125)를 입력받아, 영상의 스캔 라인 단위로 들어오는 스캔 영상 데이터 값(215)을 얻어 임시 저장하고, 이를 평균 계산 모듈(220) 및 감산기(230)로 출력한다. 평균 계산 모듈(220)은 스캔 라인 버퍼(210)로부터 픽셀 윈도우의 스캔 영상 데이터 값(215)을 입력받아, 그 평균(225)을 구하여, 이를 감산기(230)로 출력한다. 감산기(230)는 스캔 라인 버퍼(210)로부터 입력받은 스캔 영상 데이터 값(215)에서 평균 계산 모듈(220)로부터 입력받은 스캔 영상 데이터 값(215)의 평균(225)을 빼주어, 픽셀 값과 평균의 편차(235)를 L1 놈 계산 모듈(250) 및 제산기(divider, 260)로 출력한다. 이 작업은 편차(235), 즉 정규 교차 상관계수를 계산하는 데 사용되는 영상 데이터의 특징 벡터의 좌표 평균값을 0으로 만든다. 여기서 픽셀 윈도우 내의 픽셀 개수를 2의 지수가 되도록 지정하여 평균의 계산이 간단한 비트 이동을 통해서 가능해지도록 할 수 있는데, 이 경우 평균 계산 모듈(220)은 누산기(accumulator, 222) 및 이동 레지스터(shift register, 224)로 이루어진다. 누산기(222)는 스캔 라인 버퍼(210)로부터 입력받은 스캔 영상 데이터 값(215)을 모두 더하여 임시 저장하고, 픽셀 개수가 2의 지수이므로 이동 레지스터(224)는 누산기(222)로부터 입력받은 값을 비트 이동하는 것만으로 나눗셈 연산을 수행하게 되어, 연산 속도가 향상된다.The deviation calculation module 240 includes a scan line buffer 210, an
L1 놈 계산 모듈(250)은 절대값 계산기(252) 및 가산기(254)로 이루어진다. L1 놈은 벡터의 크기를 나타내는 방법 중 하나로써, 시티 블록 거리(city block distance)라고도 하며, 벡터의 각 좌표값의 절대차의 합(Sum of Absolute Difference, SAD)으로 표현된다. 절대값 계산기(252)는 편차 계산모듈(240)로부터 평균이 0인 특징 벡터, 즉 픽셀 값과 평균의 편차(235)를 입력받아, 그 부호를 제거한 절대값(253)을 가산기(254)로 출력한다. 가산기(254)는 그 절대값(253)을 모두 더한 값인 특징 벡터의 L1 놈 값(255)을 제산기(260)로 출력한다. 유클리드 놈(Euclidean norm)이 아닌 L1 놈의 도입은 연산 시간과 논리 회로의 수를 크게 줄일 수 있게 한다.The L1 norm calculation module 250 consists of an
제산기(260)는 평균이 0인 특징 벡터, 즉 픽셀 값과 평균의 편차(235)를, 특징 벡터의 L1 놈 값(255)으로 나누어 준다. 이 과정을 통하여 특징 벡터는 방향 벡터로 바뀌어, 분할 처리부(140)로 출력되는 정규화된 영상 데이터(135)가 된다.The divider 260 divides the feature vector whose mean is 0, that is, the deviation 235 of the pixel value and the mean by the L1 norm value 255 of the feature vector. Through this process, the feature vector is converted into a direction vector to become normalized image data 135 output to the
분할 처리부(140)는 정규화 처리부(140)를 거친 픽셀 데이터인 정규화된 영상 데이터(135)를 시스템에서 사용하는 픽셀 윈도우의 크기에 맞게 분할하고 이를 윈도우 버퍼(150)에 출력한다.The
윈도우 버퍼(150)는 분할 처리부(140)로부터 입력받은 분할된 픽셀 데이터인 정규화-분할된 영상 데이터(145)를 점진적으로 임시 저장하고, 이를 영상 정합 블 록(103)에 출력한다. 윈도우 버퍼(150)는 영상 정합 블록(103)이 병렬 구조로 구성될 경우의 데이터 코스트 동기화를 위하여, 병렬 구조가 될 수 있다.The
도 3은 병렬 구조의 윈도우 버퍼(150)의 블록 구성도이다. 윈도우 버퍼(150)는 총 N개의 버퍼(320)가 병렬 연결된 구조에, 각 버퍼(320)는 신뢰도 전달 시스템의 전체 상태 수와 같은 S개의 윈도우 메모리(310)들이 직렬 연결된 구조이며, 각 윈도우 메모리(310)는 단일 픽셀 윈도우 내의 전체 픽셀을 저장한다. 즉, 윈도우 버퍼(150)에는 깊이가 S인 N개의 버퍼(320)가 병렬 구조로 존재한다. 윈도우 버퍼(150)는 각 버퍼는 동일한 상태에 대해서 병렬로 동작하며, 윈도우 메모리(310)의 업데이트는 상태의 변화에 따라서 점진적으로 이루어진다.3 is a block diagram of a
이러한 전처리 블록(102)의 구조는 VLSI 구조로 구현되는 병렬 연산 시스템에서 정규 교차 상관계수의 도입으로 유발될 수 있는 지나친 논리 회로의 낭비를 방지하고, 픽셀 윈도우의 정합을 보다 수월하게 한다.The structure of the preprocessing block 102 prevents excessive logic circuit waste that can be caused by the introduction of a regular cross correlation coefficient in a parallel computing system implemented with a VLSI structure, and makes pixel window matching easier.
영상 정합 블록(103)은 데이터 코스트 계산부(160), 계층적 반복 연산부(170), 상태 추정부(180)의 직렬 연결 구조로 이루어진다.The image matching block 103 has a series connection structure of the
도 4는 데이터 코스트 계산부(160)의 블록 구성도이다. 데이터 코스트 계산부(160)는 연산기 모듈(410)이 총 N개 병렬 연결된 구조에, 각 연산기 모듈(410)로부터의 출력을 병렬로 입력받는 계층적 데이터 코스트 계산기(420), 데이터 코스트 메모리(430)가 직렬 연결된 구조로 이루어진다. 데이터 코스트 계산부(160)는 M개의 계층적 단계(hierarchical level)를 가진 그래프 상에서 1개의 연산 그룹에 해 당하며, 총 N = 2M-1 개의 연산기 모듈(410)이 병렬 연결된다.4 is a block diagram of the
연산기 모듈(410)은 절대차 계산기(412), 누산기(414), 이동 레지스터(416)의 직렬 연결 구조로 이루어진다. 절대차 계산기(412)는 정규화-분할-버퍼링된 영상 데이터(155)를 입력받아 원본 윈도우와 비교 윈도우의 모든 픽셀 값의 차의 절대값, 즉 절대차를 계산한다. 누산기(414)는 그 절대차를 더하여 임시 저장한다. 이동 레지스터(416)는 누산기(414)로부터 받은 입력을 비트 이동으로 1/2로 크기 변환한 값을 계층적 데이터 코스트 계산기(420)로 출력한다.The operator module 410 has a series connection structure of an
계층적 데이터 코스트 계산기(420)는 총 N개의 연산기 모듈(410)로부터의 출력을 병렬로 입력받아, 고속 신뢰도 전달 기법의 계층적인 연산을 통하여 얻은 데이터 코스트 값을 데이터 코스트 메모리(430)로 출력한다.The hierarchical
데이터 코스트 메모리(430)는 계층적 데이터 코스트 계산기(420)로부터 입력 받은 데이터 코스트 값을 저장하고, 데이터 코스트(165)를 계층적 반복 연산부(170)로 출력한다.The data cost
도 5는 계층적 반복 연산부(170)의 블록 구성도이다. 계층적 반복 연산부(170)는 병렬로 연결된 M개의 연산 그룹(510) 및 반복 연산 종료 여부 판단부(520)로 이루어진다. 각각의 연산 그룹(510)은 1개의 지역 버퍼(Local Buffer, 512) 및 1개의 병렬 연산단위(Processing Element, PE, 514) 및 1개의 층 버퍼(Layer Buffer, 516)로 이루어지며, 2차원 그래프 상의 1개의 노드에 대하여 고속 신뢰도 전달 기법의 계층적인 반복 연산이 적용된 메시지 계산 및 반복적인 메 시지 업데이트 작업을 수행한다.5 is a block diagram of the hierarchical
연산 그룹(510)은 데이터 코스트(165), 이전 반복 단계에서의 메시지(515) 및 노드 간의 평탄비용 함수(smoothness cost function)를 사용하여 영상과 동일한 크기의 그래프의 노드에 메시지 값(517)을 출력한다. 층 버퍼(516)는 메시지 값(517)을 입력받아 임시 저장하고, 반복 연산 종료 여부 판단부(520)로 출력한다. 반복 연산 종료 여부 판단부(520)는 층 버퍼(516)가 업데이트(update)될 때마다 계층적 반복 연산을 종료할 지 판단하는데, 종료되지 않을 경우 이전 반복 단계에서의 메시지(515)가 연산 그룹(510)으로 전달되고, 종료될 경우 반복 연산 종료시의 메시지 값(175)이 상태 추정부(180)로 출력된다.The operation group 510 uses the data cost 165, the message 515 in the previous iteration step, and the smoothness cost function between the nodes to assign the message value 517 to the nodes of the graph of the same size as the image. Output The layer buffer 516 receives the message value 517 and temporarily stores the message value 517, and outputs the message to the determination unit 520. The repetition operation end determination unit 520 determines whether to terminate the hierarchical repetition operation whenever the layer buffer 516 is updated. If not, the message 515 in the previous repetition step is calculated. The
도 6은 계층적 신뢰도 전달 기법의 계층적 그래프 구조의 일 실시예이다. 고속 신뢰도 전달 기법에서는 계층적 신뢰도 전달(Hierarchical BP) 방법을 사용하여 고정된 적은 수의 반복 연산으로도 수렴된 결과를 얻을 수 있게 하였다. 계층적 신뢰도 전달 기법은 주어진 크기의 그래프를 언더 샘플링(under sampling)하여 적은 수의 노드를 가지는 여러 단계의 상위 그래프를 만들고, 여기서 만들어진 영상 피라미드와 흡사한 그래프 피라미드에 대해서 상위 그래프에서 하위 그래프의 방향으로(Coarse-to-fine) 반복 연산을 해 나가는 기법이다. 도 6에서 상위 그래프(k+1)는 1단계 아래(k)의 그래프를 언더 샘플링하여 얻어낸 그래프이기 때문에 1/4배 적은 노드를 이용하여 하위 단계에 있는 그래프의 대략적인 정보를 표현할 수 있다.6 is an embodiment of a hierarchical graph structure of a hierarchical reliability transfer scheme. In the fast reliability transfer technique, hierarchical reliability transfer (Hierarchical BP) method is used to obtain converged results with a fixed number of iterative operations. The hierarchical reliability transfer technique undersamples a graph of a given size to produce a multilevel parent graph with fewer nodes, and the orientation of the child graph in the parent graph for the graph pyramid similar to the image pyramid created here. Coarse-to-fine iterative operation. In FIG. 6, since the upper graph k + 1 is a graph obtained by under-sampling the graph below the first stage (k), the approximate information of the graph in the lower stage may be represented by using 1/4 times fewer nodes.
도 7은 도 6의 그래프에서의 고속 신뢰도 전달의 일 실시예이다. 고속 신뢰도 전달 방법은 그래프 상에서의 반복 연산을 지역 버퍼와 층 버퍼 구조를 사용하 여 영상의 스캔라인 방향을 따라서 순차적으로 병렬 처리한다. 상위 그래프의 반복 연산이 모두 종료되면, 이를 토대로 계산된 각 상위 노드의 메시지 값은 해당하는 하위 그래프 상의 노드의 메시지를 초기화한다. 이는 상위 그래프 상에서 반복 연산을 통해서 얻은 정보를 응용하는 과정으로써, 고속으로 원거리에 있는 노드의 정보를 수합할 수 있도록 하여 반복 연산 횟수를 감소시킨다.7 is one embodiment of fast reliability delivery in the graph of FIG. In the fast reliability transfer method, iterative operations on a graph are sequentially processed in parallel along the scanline direction of an image using a local buffer and a layer buffer structure. When all the iterations of the upper graph are finished, the message value of each upper node calculated based on this initializes the message of the node on the corresponding lower graph. This is the process of applying the information obtained through the iterative operation on the upper graph, and it is possible to collect the information of the remote nodes at high speed to reduce the number of iterations.
상기한 계층적 그래프 구조의 특징에 의하면, 총 M개의 단계를 가진 계층적 그래프 구조에서 최상위 단계의 그래프의 1개의 노드는 2M-1 x 2M-1개의 최하위 노드의 정보를 포함하고 있다. 영상의 너비를 C라고 하고 C를 2M-1의 배수라고 가정하면, 최대로 필요한 병렬 프로세서의 개수는 C개이며, 최소로 필요한 병렬 프로세서의 개수는 C/2M-1개이다. 따라서 병렬 프로세서를 N = 2M-1개의 프로세서로 이루어진 C/2M-1개의 연산 그룹으로 나눌 수 있다. 이러한 병렬 구조의 윈도우 버퍼(150)가 도 3에, 병렬 구조의 데이터 코스트 계산부(160)가 도 4에 도시되어 있다.According to the above characteristic of the hierarchical graph structure, in the hierarchical graph structure having a total of M levels, one node of the graph of the highest level includes information of 2 M-1 × 2 M-1 lowest nodes. Assuming the width of the image is C and C is a multiple of 2 M-1 , the maximum number of parallel processors required is C and the minimum number of parallel processors required is C / 2 M-1 . Therefore, a parallel processor may be divided into C / 2 M-1 groups of operations consisting of N = 2 M-1 processors. The
상태 추정부(180)는 계층적 반복 연산부(170)로부터 입력받은 반복 연산 종료시의 메시지 값(175)을 노드 별로 취합하여, 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태(hidden state)로 추정하고, 그 대응점의 변위 값(185)을 출력한다.The state estimator 180 collects the
추정된 노드의 상태는 해당 좌표의 원본 영상의 픽셀과 그에 대응하는 비교 영상의 픽셀과 좌표 사이의 변위 값이며, 이 값이 영상과 동일한 크기의 2차원 배 열로 출력되는 것이다. 출력되는 대응점의 변위 값(185)는 배열의 각 이산 좌표(discrete coordinate)에 해당하는 것으로 입력된 기준 영상과 동일한 크기의 2차원 배열 구조로서, 기준 영상 내의 동일한 좌표에 있는 픽셀과 그에 해당하는 비교 영상내의 대응 픽셀 사이의 영상 좌표 차이를 의미한다.The estimated state of the node is a displacement value between pixels of the original image of the corresponding coordinates and pixels and coordinates of the corresponding comparison image, which are output in a two-dimensional array having the same size as the image. The output displacement value 185 of the corresponding point corresponds to each discrete coordinate of the array, and is a two-dimensional array structure of the same size as the input reference image, and the pixel at the same coordinate in the reference image and its comparison The difference in image coordinates between corresponding pixels in an image.
다음, 상술한 영상 처리 시스템(100)에 의한 영상 처리 방법(800)을 도 8에 도시된 순서도를 참조하면서 설명한다.Next, the image processing method 800 by the image processing system 100 described above will be described with reference to the flowchart shown in FIG. 8.
다수의 카메라로부터 다수의 영상(105)을 입력받은 영상 획득 블록(101)의 영상 획득부(110)는 다수의 영상(105)으로부터 영상 데이터(115)를 획득한 후(영상 획득 단계, S1), 이를 영상 획득 블록(101)의 영상 버퍼(120)에 임시로 저장한다(획득 영상 저장 단계, S2). 이때 획득된 영상 데이터(115)는 스트리밍 데이터나 비디오 파일 형태를 포함한다.The
전처리 블록(102)의 정규화 처리부(130)의 편차 계산 모듈(240)에서는, 스캔 라인 버퍼(210)로부터 스캔 영상 데이터 값(215)을 받아 평균 계산 모듈(220)이 평균(225)을 구하고 감산기(230)가 스캔 영상 데이터 값(215)과 그 평균(225)의 편차(235)를 출력한다. L1 놈 계산 모듈(250)에서는 절대값 계산기(252)가 편차(235)의 절대값(253)을 구하고 가산기(254)가 이것을 더하여 L1 놈 값(255)을 계산하며, 제산기(260)는 편차(235)를 L1 놈 값(255)으로 나누어 정규화된 영상 데이터(135)를 얻는다(정규화 단계, S3). 분할 처리부(140)는 정규화된 영상 데이터(135)를 시스템에서 사용하는 픽셀 윈도우의 크기에 맞게 분할하며(분할 단계, S4), 윈도우 버퍼(150)는 정규화-분할된 영상 데이터(145)를 임시 저장한다(분할 영상 저장 단 계, S5). 여기서 윈도우 버퍼(150)는 깊이가 S인 N개의 버퍼(320)의 병렬 구조가 될 수 있다.In the deviation calculation module 240 of the
영상 정합 블록(103)의 데이터 코스트 계산부(160)는 데이터 코스트(165)를 계산하는데(데이터 코스트 계산 단계, S6), 이 때 데이터 코스트 계산부(160)의 연산기 모듈(410)은 윈도우 버퍼(150)와 동일한 수의 병렬 구조가 될 수 있다.The
도 9는 계층적 반복 연산 단계(S7)의 순서도이다. 계층적 반복 연산 단계(S7)는 데이터 코스트 계산 단계(S6)에 이어지는 단계로, 데이터 코스트 계산 단계(S6)로부터 데이터 코스트(165)를 입력받아 처리한다. 연산 그룹(510)은 데이터 코스트(165), 이전 반복 단계에서의 메시지(515) 및 노드 간의 평탄비용 함수(smoothness cost function)를 사용하여 영상과 동일한 크기의 그래프의 노드에 메시지 값(517)을 출력한다(메시지 계산 단계, S7-1). 층 버퍼(516)는 메시지 값(517)을 입력받아 임시 저장하고, 반복 연산 종료 여부 판단부(520)로 출력한다(임시 저장 단계, S7-2). 반복 연산 종료 여부 판단부(520)는 층 버퍼(516)가 업데이트(update)될 때마다 계층적 반복 연산을 종료할 지 판단하는데, 종료되지 않을 경우 이전 반복 단계에서의 메시지(515)가 연산 그룹(510)으로 전달되고, 종료될 경우 반복 연산 종료시의 메시지 값(175)이 상태 추정부(180)로 출력된다(반복 연산 종료 여부 판단 단계, S7-3).9 is a flowchart of the hierarchical iterative operation step S7. The hierarchical iterative operation step S7 is a step subsequent to the data cost calculation step S6, and receives and processes the data cost 165 from the data cost calculation step S6. The operation group 510 uses the data cost 165, the message 515 in the previous iteration step, and the smoothness cost function between the nodes to assign the message value 517 to the nodes of the graph of the same size as the image. Output (message calculation step, S7-1). The layer buffer 516 receives the message value 517 and temporarily stores the message value 517, and outputs the result to the determination unit 520 whether the iterative operation ends (temporary storage step S7-2). The repetition operation end determination unit 520 determines whether to terminate the hierarchical repetition operation whenever the layer buffer 516 is updated. If not, the message 515 in the previous repetition step is calculated. In step 510, when it is terminated, the
상태 추정부(180)는 상기 출력된 각 노드의 메시지 값을 노드 별로 취합하여 누적된 값이 최소가 되는 상태를 해당 노드의 숨겨진 상태(hidden state)로 추정하며(상태 추정 단계, S8), 대응점의 변위 값(185)을 출력한다.The state estimator 180 collects the message values of the output nodes for each node and estimates the state in which the accumulated value becomes the minimum as a hidden state of the corresponding node (state estimation step S8). Outputs a displacement value of 185.
이상과 같이 본 발명의 이해를 위하여 그 실시예를 기술하였으나, 당업자라면 알 수 있듯이, 본 발명은 본 명세서에서 기술된 특정 실시예에 한정되는 것이 아니라, 본 발명의 범주를 벗어나지 않는 범위 내에서 다양하게 변형, 변경 및 대체될 수 있다. 따라서, 본 발명의 진정한 사상 및 범주에 속하는 모든 변형 및 변경을 특허청구범위에 의하여 모두 포괄하고자 한다.Although the embodiments have been described for the understanding of the present invention as described above, it will be understood by those skilled in the art, the present invention is not limited to the specific embodiments described herein, but variously without departing from the scope of the present invention. May be modified, changed and replaced. Therefore, it is intended that the present invention cover all modifications and variations that fall within the true spirit and scope of the present invention.
도 1은 전체 영상 처리 시스템(100)의 블록 구성도이다.1 is a block diagram of an entire image processing system 100.
도 2는 정규화 처리부(130)의 블록 구성도이다.2 is a block diagram of the
도 3은 윈도우 버퍼(150)의 블록 구성도이다.3 is a block diagram of the
도 4는 데이터 코스트 계산부(160)의 블록 구성도이다.4 is a block diagram of the
도 5는 계층적 반복 연산부(170)의 블록 구성도이다.5 is a block diagram of the hierarchical
도 6은 계층적 신뢰도 전달 기법의 계층적 그래프 구조의 일 실시예이다.6 is an embodiment of a hierarchical graph structure of a hierarchical reliability transfer scheme.
도 7은 도 6의 그래프에서의 고속 신뢰도 전달의 일 실시예이다.7 is one embodiment of fast reliability delivery in the graph of FIG.
도 8은 상기 시스템(100)에 의한 영상 처리 방법(600)의 순서도이다.8 is a flowchart of an image processing method 600 by the system 100.
도 9은 계층적 반복 연산 단계(S7)의 순서도이다.9 is a flowchart of the hierarchical iterative operation step S7.
Claims (29)
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020080045572A KR100971148B1 (en) | 2008-05-16 | 2008-05-16 | Parallel structure image processing apparatus and method for image matching with adjusting intensities |
PCT/KR2009/002579 WO2009139596A2 (en) | 2008-05-16 | 2009-05-15 | Parallel image processing apparatus and method for image matching using intensity adjustment |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020080045572A KR100971148B1 (en) | 2008-05-16 | 2008-05-16 | Parallel structure image processing apparatus and method for image matching with adjusting intensities |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20090119493A KR20090119493A (en) | 2009-11-19 |
KR100971148B1 true KR100971148B1 (en) | 2010-07-20 |
Family
ID=41319178
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020080045572A KR100971148B1 (en) | 2008-05-16 | 2008-05-16 | Parallel structure image processing apparatus and method for image matching with adjusting intensities |
Country Status (2)
Country | Link |
---|---|
KR (1) | KR100971148B1 (en) |
WO (1) | WO2009139596A2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180067781A (en) | 2016-12-12 | 2018-06-21 | 이에이트 주식회사 | High resolution upscaling method of high quality image using parallel processing of divisional images |
KR20190081162A (en) | 2017-12-29 | 2019-07-09 | 이에이트 주식회사 | Multi display system |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101471646B1 (en) * | 2012-08-21 | 2014-12-26 | 인하대학교 산학협력단 | Parallel processing of 3D medical image registration by GP-GPU |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10304184A (en) | 1997-05-02 | 1998-11-13 | Fuji Xerox Co Ltd | Image processor and image processing method |
KR20000023923A (en) * | 1999-10-14 | 2000-05-06 | 이칠기 | Scale and Rotation Invariant Intelligent face detection |
JP2001118062A (en) | 1999-10-18 | 2001-04-27 | Keio Gijuku | Automatic dynamic range compressing method |
JP2004145493A (en) | 2002-10-23 | 2004-05-20 | Hiroshima Industrial Promotion Organization | Matching arithmetic circuit |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1998003021A1 (en) * | 1996-06-28 | 1998-01-22 | Sri International | Small vision module for real-time stereo and motion analysis |
JP4526445B2 (en) * | 2005-06-15 | 2010-08-18 | オリンパス株式会社 | Imaging device |
-
2008
- 2008-05-16 KR KR1020080045572A patent/KR100971148B1/en not_active IP Right Cessation
-
2009
- 2009-05-15 WO PCT/KR2009/002579 patent/WO2009139596A2/en active Application Filing
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10304184A (en) | 1997-05-02 | 1998-11-13 | Fuji Xerox Co Ltd | Image processor and image processing method |
KR20000023923A (en) * | 1999-10-14 | 2000-05-06 | 이칠기 | Scale and Rotation Invariant Intelligent face detection |
JP2001118062A (en) | 1999-10-18 | 2001-04-27 | Keio Gijuku | Automatic dynamic range compressing method |
JP2004145493A (en) | 2002-10-23 | 2004-05-20 | Hiroshima Industrial Promotion Organization | Matching arithmetic circuit |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180067781A (en) | 2016-12-12 | 2018-06-21 | 이에이트 주식회사 | High resolution upscaling method of high quality image using parallel processing of divisional images |
KR20190081162A (en) | 2017-12-29 | 2019-07-09 | 이에이트 주식회사 | Multi display system |
Also Published As
Publication number | Publication date |
---|---|
WO2009139596A2 (en) | 2009-11-19 |
KR20090119493A (en) | 2009-11-19 |
WO2009139596A3 (en) | 2011-11-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022021912A1 (en) | Low power consumption stereo matching system and method for obtaining depth information | |
US10621446B2 (en) | Handling perspective magnification in optical flow processing | |
US8427524B2 (en) | Message propagation-based stereo image matching system | |
KR102265315B1 (en) | Method and apparatus for estimating image optical flow | |
CN113284251B (en) | Cascade network three-dimensional reconstruction method and system with self-adaptive view angle | |
CN108871197B (en) | Displacement field measuring method, device, equipment and storage medium for material surface | |
CN111914756A (en) | Video data processing method and device | |
KR100971148B1 (en) | Parallel structure image processing apparatus and method for image matching with adjusting intensities | |
CN112785636A (en) | Multi-scale enhanced monocular depth estimation method | |
CN110992393B (en) | Target motion tracking method based on vision | |
CN113793370B (en) | Three-dimensional point cloud registration method and device, electronic equipment and readable medium | |
CN108507476B (en) | Displacement field measuring method, device, equipment and storage medium for material surface | |
CN112734931B (en) | Method and system for assisting point cloud target detection | |
KR100920227B1 (en) | Belief propagation based fast systolic array apparatus and its method | |
KR100920229B1 (en) | Fast systolic array system of a belief propagation and method for processing a message using the same | |
KR100795974B1 (en) | Apparatus for realtime-generating a depth-map by processing streaming stereo images | |
Dong et al. | Lightweight and edge-preserving speckle matching network for precise single-shot 3D shape measurement | |
CN107194334B (en) | Video satellite image dense Stereo Matching method and system based on optical flow estimation | |
CN114155406A (en) | Pose estimation method based on region-level feature fusion | |
KR101220003B1 (en) | Generating method for disparity map | |
CN115170635A (en) | High-speed and high-energy-efficiency binocular vision hardware accelerator and method based on image block level | |
KR20140125039A (en) | A Parallel Hardware System for High-Performance Stereo Matching Calculation | |
KR102660946B1 (en) | Dense depth extraction system and method using camera and lidar | |
Jin et al. | Pipelined hardware architecture for high-speed optical flow estimation using fpga | |
CN109739651B (en) | Three-dimensional matching hardware architecture with low resource consumption |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
LAPS | Lapse due to unpaid annual fee |