KR20060065648A - System and method for image sensing and processing - Google Patents
System and method for image sensing and processing Download PDFInfo
- Publication number
- KR20060065648A KR20060065648A KR1020067001694A KR20067001694A KR20060065648A KR 20060065648 A KR20060065648 A KR 20060065648A KR 1020067001694 A KR1020067001694 A KR 1020067001694A KR 20067001694 A KR20067001694 A KR 20067001694A KR 20060065648 A KR20060065648 A KR 20060065648A
- Authority
- KR
- South Korea
- Prior art keywords
- signal
- sensor
- filter
- generate
- signals
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
Abstract
Description
정지 화상이나 비디오 영상을 위한 일련의 중요한 압축 표준은 이산 코사인 변환(DCT)를 사용한다. 예를 들어, 도 1에 정지 화상을 압축하기 위한 표준 JPEG 알고리즘이 도시되어 있다. 도시된 알고리즘에서, 화상은 픽셀 세기 값이 8x8 픽셀 블록으로 분할된다(예를 들어 블록(102)에 도시되어 있다). 8x8 블록(102)마다, 2차원 (2-D) DCT를 계산한다(단계 104). DCT 계수를 스케일링하고, 양자화하고, 절단하여(예를 들어 모서리를 둥글게 하여)(단계 106), 인간의 눈이 정확하게 인지하는데 있어서 가장 중요한 정보만을 보유한다. 예를 들어, 눈은 높은 공간 주파수에 비교적 집중되고 가장 큰 DCT 계수가 통상적으로 가장 나자은 공간 주파수를 나타내는 것이므로, 많은 고주파수 DCT 계수는 양자화 단계(106)에서 제로로 둥글게 될 수 있다. 그런 다음 양자화된 계수를 엔트로피 인코딩하면 - 통상적으로 호프만 인코딩을 사용한다 - 표시가 더욱 콤팩트하게 나타나고 비-제로 DCT 계수가 남게 된다(단계 108). 전술한 압축 방식은 예컨대 칼러 화상의 서로 다른 스펙트럼 성분에 개별적으로 적용될 수 있다(예컨대, RGB 화상의 적, 녹, 청 픽셀이나 화상의 휘도-색차값). DCT는 선형 동작이기 때문에 RGB 픽셀값의 모든 선형 조합에 개별적으로 적용될 수 있다.A series of important compression standards for still and video images use Discrete Cosine Transform (DCT). For example, a standard JPEG algorithm for compressing still images is shown in FIG. In the algorithm shown, the image is divided into 8x8 pixel blocks with pixel intensity values (e.g., shown at block 102). For every
2-D, NxN 포인트 DCT를 다음과 같이 정의한다.2-D, NxN point DCT is defined as follows.
여기서, A는 샘플링된 화상이고, n 및 m은 공간 샘플링 인덱스이고, k 및 l은 공간 주파수 인덱스이다. 몇몇 잘 알려진 알고리즘에 의해 50 또는 그 이상의 인자만큼 곱셈 횟수를 감소할 수 있는 있어도, 8x8 DCT의 계산은 (2x8x8)x(8x8)=8192의 곱셈 정도를 필요로 한다. 그럼에도 DCT의 계산은 통상적으로 화상 압축에 많은 계산을 필요로 한다. 또한, JPEG2000과 같은 몇몇 압축 기술은 DCT가 아닌 웨이브릿 표시(wavelet representation)를 사용하고 있지만, DCT 기반의 기술이 앞으로 폭넓게 사용될 것으로 기대된다.Where A is a sampled image, n and m are spatial sampling indexes, and k and l are spatial frequency indexes. Although some well-known algorithms can reduce the number of multiplications by 50 or more factors, the calculation of 8x8 DCT requires a multiplication degree of (2x8x8) x (8x8) = 8192. Nevertheless, the calculation of DCT typically requires a lot of computation for image compression. In addition, some compression techniques, such as JPEG2000, use wavelet representation rather than DCT, but DCT-based techniques are expected to be widely used in the future.
또한, 정지 화상 압축에 사용되고 있는 JPEG 표준 외에, 흔히 사용되고 있는 비디오 압축 표준은 Motion JPEG, MPEG(1, 2, 4) 및 H.26X와 같이 여러 가지가 있 지만 이러한 표준은 비디오 프레임 시퀀스의 프레임마다 DCT의 계산을 필요로 한다.In addition to the JPEG standards used for still image compression, there are several video compression standards that are commonly used, such as Motion JPEG, MPEG (1, 2, 4), and H.26X. Requires calculation of the DCT.
현재, 가장 상업적인 애플리케이션에 있어서는, 디지털화된 화상 데이터에 기초하여 DCT 계수를 유도하는 개별의 디지털 신호 처리 회로에 의해 화상 압축을 수행한다. 그렇지만, 종래의 DCT 알고리즘은 상당한 양의 계산력을 필요로 하고 대량의 전원을 소모하므로, 전원 유지가 중요한 장치에 있어서는 이러한 화상 처리 방법은 별로 호응을 끌지 못한다. 그러한 장치로서는 예컨대 모바일 카메라 폰, 디지털 카메라, 및 기계로 건강을 감시하는 무선 화상 센서를 들 수 있다.Currently, in the most commercial applications, image compression is performed by separate digital signal processing circuits that derive DCT coefficients based on digitized image data. However, since the conventional DCT algorithm requires a considerable amount of computational power and consumes a large amount of power, such an image processing method is not very favorable for an apparatus in which power maintenance is important. Such devices include, for example, mobile camera phones, digital cameras, and wireless image sensors that monitor health with a machine.
그러므로 본 발명의 목적은 계산 횟수, 특히 화상 데이터로부터 DCT 계수를 유도하는데 필요한 곱셈을 감축시키는 화상 감지 및 처리 시스템을 제공하는 것이다.It is therefore an object of the present invention to provide an image sensing and processing system which reduces the number of calculations, in particular the multiplication necessary to derive the DCT coefficients from the image data.
본 발명의 다른 목적은 DCT 계수의 유도에 의해 소모되는 전력량을 감소시키는 시스템을 제공하는 것이다.Another object of the present invention is to provide a system for reducing the amount of power consumed by the derivation of the DCT coefficients.
이러한 목적 및 다른 목적은 산술 푸리에 변환(AFT)을 사용하여 화상의 DCT 계수를 계산하는 시스템에 의해 달성된다. AFT 방법에 의해 덧셈을 수행함으로써 푸리에 변환의 계산이 주로 가능하게 된다. 하드웨어 구현에 있어서는, AFT의 계산 효율이 높을수록 회로의 복잡함, 크기 및 전력 소모를 절약할 수 있고 처리 속도를 향상시킨다. 규칙적인 간격의 센서 세트로부터의 신호를 보간함으로써 불규칙한 샘플링도 가능하지만, 불규칙한 간격의 센서를 사용하여 화상을 양호하게 샘플링할 수 있다. 본 발명의 AFT 기술, 특히 아날로그 수행 기술은 회로의 복잡성이나 전력 소모 면에서 매우 경제적이다.These and other objects are achieved by a system that calculates the DCT coefficients of an image using an Arithmetic Fourier Transform (AFT). By performing the addition by the AFT method, the Fourier transform can be mainly calculated. In hardware implementations, the higher the computational efficiency of the AFT, the less complexity, size, and power consumption of the circuit, and the faster the processing. Irregular sampling is also possible by interpolating signals from a set of sensors at regular intervals, but images can be well sampled using sensors at irregular intervals. The AFT technology of the present invention, in particular analog performance technology, is very economical in terms of circuit complexity and power consumption.
본 발명의 한 관점에 따르면, 제1 및 제2 센서 위치를 각각 가지는 제1 및 제2 센서를 적어도 포함하는 센서 어레이에 의해 인입 신호를 검출한다. 상기 제1 센서 위치는 도메인 변환의 기저 함수의 제1 극값의 위치에 가까이 있고, 상기 기저 함수는 상기 센서 어레이의 공간 좌표계에 따라 정의된 하나 이상의 공간 좌표를 갖는다. 상기 제2 센서 위치는 동일한 기저 함수나 다른 기저 함수의 제2 극값의 위치에 가까이 있다. 상기 시스템은, 제1 및 제2 센서로부터 신호들을 수신하고, 적어도 상기 제1 제2 센서로부터의 신호들의 가중된 합을 포함하는 필터링된 신호를 발생하는 적어도 하나의 필터를 포함한다. 하나의 센서로부터의 신호가 필터 출력을 포함할 수도 있는 특별한 경우도 본 발명에 포함된다.According to one aspect of the invention, the incoming signal is detected by a sensor array comprising at least first and second sensors having first and second sensor positions respectively. The first sensor position is close to the position of the first extreme value of the basis function of the domain transformation, and the basis function has one or more spatial coordinates defined according to the spatial coordinate system of the sensor array. The second sensor position is close to the position of the second extreme value of the same basis function or of another basis function. The system includes at least one filter that receives signals from the first and second sensors and generates a filtered signal that includes a weighted sum of at least the signals from the first second sensor. Also included in the present invention is a special case where a signal from one sensor may include a filter output.
본 발명의 추가의 관점에 따르면, 제1 및 제2 센서 위치를 각각 가지는 적어도 제1 및 제2 센서를 구비하는 복수의 센서를 포함하는 센서 어레이에 의해 인입 광이 검출된다. 상기 인입 광신호는 상기 제1 센서 위치에서 제1 값을 가지고 상기 제2 센서 위치에서 제2 값을 갖는다. 시스템은 상기 인입 광신호의 제1 및 제2 값을 각각 나타내는 신호들을, 상기 제1 및 제2 센서로부터 수신하는 보간 회로를 포함한다. 상기 보간 회로는 상기 제1 및 제2 센서로부터의 신호를 보간하여 보간된 신호를 발생한다. 상기 보간된 신호는 도메인 변환의 적어도 하나의 기저 함수의 제1 극값에 가까운 위치에서 상기 인입 광신호의 근사값을 나타내며, 상기 적어도 하나의 기저 함수는 상기 센서 어레이의 공간 좌표계에 따라 정의된 적어도 하나의 공간 좌표를 갖는다.According to a further aspect of the invention, incoming light is detected by a sensor array comprising a plurality of sensors having at least first and second sensors respectively having first and second sensor positions. The incoming optical signal has a first value at the first sensor position and a second value at the second sensor position. The system includes interpolation circuitry to receive, from the first and second sensors, signals indicative of first and second values of the incoming optical signal, respectively. The interpolation circuit interpolates the signals from the first and second sensors to generate an interpolated signal. The interpolated signal represents an approximation of the incoming optical signal at a position close to a first extreme value of at least one basis function of a domain transform, wherein the at least one basis function is defined by at least one defined according to a spatial coordinate system of the sensor array. Have spatial coordinates.
본 발명의 다른 목적, 특징 및 이점에 대해서는 본 발명의 구체적인 실시예를 보이는 첨부된 도면을 참조하여 이하의 상세한 설명으로부터 분명하게 될 것이다.Other objects, features and advantages of the present invention will become apparent from the following detailed description when read in conjunction with the accompanying drawings which show specific embodiments of the present invention.
도 1은 종래의 예시적인 화상 처리 과정을 나타내는 블록도이다.1 is a block diagram illustrating a conventional exemplary image processing process.
도 2는 본 발명에 따라 처리되는 데이터를 나타내는 도면이다.2 is a diagram illustrating data processed according to the present invention.
도 3은 본 발명에 따른 예시적인 화상 샘플링 공간 및 대응하는 도메인 변환 기저 함수를 나타내는 도면이다.3 is a diagram illustrating an exemplary picture sampling space and corresponding domain transform basis function in accordance with the present invention.
도 4는 본 발명에 따라 이미지를 감지하고 처리하는 예시적인 시스템 및 방법의 에러 특성을 나타내는 그래프이다.4 is a graph illustrating error characteristics of an exemplary system and method for sensing and processing images in accordance with the present invention.
도 5는 본 발명에 따른 예시적 화상 샘플링 공간을 나타내는 도면이다.5 is a diagram illustrating an exemplary image sampling space in accordance with the present invention.
도 6은 본 발명에 따라 이미지를 감지하고 처리하는 예시적인 시스템 및 방법의 에러 특성을 나타내는 그래프이다.6 is a graph illustrating error characteristics of an exemplary system and method for sensing and processing images in accordance with the present invention.
도 7은 본 발명에 따라 이미지를 감지하고 처리하는 다른 예시적인 시스템 및 방법의 에러 특성을 나타내는 그래프이다.7 is a graph illustrating error characteristics of another exemplary system and method for sensing and processing images in accordance with the present invention.
도 8은 본 발명에 따라 이미지를 감지하고 처리하는 또 다른 예시적인 시스템 및 방법의 에러 특성을 나타내는 그래프이다.8 is a graph illustrating error characteristics of another exemplary system and method for sensing and processing images in accordance with the present invention.
도 9는 본 발명에 따른 예시적인 화상 샘플링 공간을 나타내는 도면이다.9 is a diagram illustrating an exemplary image sampling space in accordance with the present invention.
도 10은 본 발명에 따른 예시적인 센서 어레이 및 필터 배열을 나타내는 도면이다.10 illustrates an exemplary sensor array and filter arrangement in accordance with the present invention.
도 11은 본 발명에 따른 예시적인 화상 감지 및 처리 과정을 나타내는 흐름도이다.11 is a flowchart illustrating an exemplary image detection and processing procedure in accordance with the present invention.
도 12는 본 11에 도시된 과정에서 사용되는 예시적인 신호 필터링 과정을 나타내는 흐름도이다.12 is a flowchart illustrating an exemplary signal filtering process used in the process illustrated in FIG.
도 13은 본 발명에 따른 예시적인 화상 감지 및 처리 과정을 나타내는 흐름도이다.13 is a flowchart illustrating an exemplary image detection and processing procedure in accordance with the present invention.
도 14는 본 13에 도시된 과정에서 사용되는 예시적인 신호 필터링 과정을 나타내는 흐름도이다.14 is a flowchart illustrating an exemplary signal filtering process used in the process illustrated in FIG. 13.
도 15는 본 발명에 따른 예시적인 센서 어레이 및 필터링 회로를 나타내는 도면이다.15 is a diagram illustrating an exemplary sensor array and filtering circuit in accordance with the present invention.
도 16은 본 발명에 따른 예시적인 화상 감지 및 처리 과정을 나타내는 흐름도이다.16 is a flowchart illustrating an exemplary image detection and processing procedure in accordance with the present invention.
도 17은 필터링된 신호 S(3, 12)를 발생하기 위해 클록 발생시에 의해 생성되는 예시적인 타이밍 시퀀스를 나타내는, 도 10과 관련된 시간선도이다.FIG. 17 is a timeline diagram associated with FIG. 10 illustrating an exemplary timing sequence generated by upon clock generation to generate filtered signal S (3, 12).
도 18은 본 발명에 따른 예시적인 센서 어레이 및 필터 배열을 나타내는 도면이다.18 illustrates an exemplary sensor array and filter arrangement in accordance with the present invention.
촬영되는 장면으로부터의 인입 광 패턴과 같은, 인입 화상 신호는 전하 결합 소자(CCD)와 같은 센서 어레이에 의해 샘플링된다. AFT 알고리즘의 효과를 높이는데 특히 적합한 공간 패턴에 따라 개개의 센서를 어레이 내에 배분한다. 2-D 센서 어레이를 위한 양호한 공간적 배분에 대해서는 1차원(1-D)의 경우를 먼저 상정하면 더 잘 이해할 수 있다. 예컨대, 8-포인트, 공간 또는 시간의 단위 간격(0 내지 1) 상의 1-D DCT와 동등한 1-D AFT를 찾기 위해서는, 12 불규칙한 공간 간격의 샘플을 사용할 수 있다. 양호한 샘플링 위치는 (0, 1/4, 2/7, 1/3, 2/5, 1/2, 4/7, 2/3, 3/4, 4/5, 6/7, 1)이다. 그러나 샘플링되는 전체 신호가 여러 개의 단위 간격을 포함하고 있다면, 간격마다의 첫 번째 및 최종 샘플을 모든 인접하는 단위 간격이 공유하게 된다는 점을 유념해야 한다. 수 이론에 있어서, k/j 형태의 분수(단, k=0, 1 ... N-1 및 j=1, 2, ... N)를 흔히 N차의 "파레이 분수(파레이 fraction)"이라 한다. 그러므로 대응하는 12-포인트 AFT에 기반한 8-포인트 DCT를 계산하기 위한 샘플의 양호한 세트를 제공하는, 전술한 샘플링 위치는, 2k/j(단, k-0,1 ...4 및 j=1,2 ...8)로서 정의된 8차의 파레이 분수의 짝수 서브세트에 대응한다.The incoming image signal, such as the incoming light pattern from the scene being photographed, is sampled by a sensor array such as a charge coupled device (CCD). Individual sensors are distributed within the array according to spatial patterns that are particularly suitable for enhancing the effectiveness of the AFT algorithm. A good spatial distribution for a 2-D sensor array can be better understood by first assuming a one-dimensional (1-D) case. For example, to find a 1-D AFT equivalent to a 1-D DCT on an 8-point, space or time unit interval (0 to 1), samples of 12 irregular space intervals may be used. Preferred sampling positions are (0, 1/4, 2/7, 1/3, 2/5, 1/2, 4/7, 2/3, 3/4, 4/5, 6/7, 1) . However, it should be noted that if the entire signal being sampled contains several unit intervals, all adjacent unit intervals will share the first and last sample of each interval. In number theory, k / j-type fractions (where k = 0, 1 ... N-1 and j = 1, 2, ... N) are often referred to as the Nth order "parlay fraction". This is called. Thus, the sampling position described above, which provides a good set of samples for calculating an 8-point DCT based on the corresponding 12-point AFT, is 2k / j (where k-0,1 ... 4 and j = 1). Corresponding to an even subset of the 8th order Parlay fractions defined as
전술한 신호 샘플을 뫼비우스 함수로 알려진 함수와 결합하여 사용함으로써 신호의 AFT를 계산할 수 있다. 뫼비우스 함수에 기반한 1-D AFT는 공지되어 있으며, 그 변환의 예로는, D.W. Tufts, G. Sadasiv, "Arithmetic fourier Transform and Adaptive Delta Modulation: a Symbiosis for High Speed Computation, "SPIE Vol. 880 High Speed Computing (1988)에서 찾아볼 수 있다. 1-D 뫼비우스 함수 μ1(n)은 다음과 같이 정의된다.The AFT of the signal can be calculated by using the above-described signal sample in combination with a function known as the Mobius function. 1-D AFTs based on Mobius functions are known and examples of the transformation include DW Tufts, G. Sadasiv, "Arithmetic fourier Transform and Adaptive Delta Modulation: a Symbiosis for High Speed Computation," SPIE Vol. 880 High Speed Computing (1988). The 1-D Mobius function μ 1 (n) is defined as
여기서, 수직 막대 표시는 m|n는 정수 n이 나머지 없이 정수 m으로 나누어지는 것을 의미한다. n이 서로 다른 소수들 s의 적으로 표현될 수 있는 경우, μ1(n)은 (-1)S이고, 그렇지 않은 경우에 값은 제로이다.Here, the vertical bar display indicates that m | n is an integer n divided by an integer m without a remainder. If n can be represented as an enemy of different prime numbers s, μ 1 (n) is (-1) S , otherwise the value is zero.
단위 간격 내에서는, 신호 A(t)가 하나의 주기에 따라 주기적인 것으로 가정한다. 또한 신호 A(t)가 N 고조파의 전체에 대역 제한되어 있는 것으로 가정하면, 그 AFT 계수는 다음과 같이 주어진다.Within a unit interval, it is assumed that signal A (t) is periodic with one period. Further, assuming that signal A (t) is band-limited over the entirety of N harmonics, the AFT coefficient is given as follows.
여기서 각각의 S(n, tref)는 간격 0 내지 1의 각각의 파레이 분수에 대응하는 위치에 분배되는 샘플 에 기초하여, 다음의 필터링 함수를 갖는 필터의 출 력을 나타낸다.Where each S (n, t ref ) is a sample distributed at a position corresponding to each parlay fraction of
각각의 필터 출력 S(n, tref)는 스케일 인자 1/n에 의해 곱해진 각각의 샘플 의 합이며, 여기서 tref는 임의의 기준 시간이다. tref는 단위 간격의 경우에는 양호하게 1과 동일하다. 각각의 AFT 계수는 뫼비우스 함수 μ1(m)에 의해 가중된, 선택된 필터들의 필터 출력의 합이다.Each filter output S (n, t ref ) is each sample multiplied by the
화상 또는 화상 부분(예컨대, 단위 서브 화상 또는 블록)과 같은 2-D 입력 신호를 처리하기 위해, AFT는 2-D 다음과 같이 정의된 뫼비우스 함수 μ2(n,m)을 사용하여 2차원으로 확장된다.To process 2-D input signals such as pictures or picture parts (e.g., unit sub-pictures or blocks), the AFT is 2-D in two dimensions using the Mobius function μ 2 (n, m) defined as 2-D Is expanded.
여기서 n 및 m은 양의 정수이고, μ1(n)은 수학식 2a, 2b, 2c에 정의된 1-D 뫼비우스 함수이다.Where n and m are positive integers and μ 1 (n) is the 1-D Mobius function defined in Equations 2a, 2b, 2c.
제로 평균 2-D 입력 신호 A(p,q)(여기서 p, q는 단위 범위(예컨대, 0 내지 1의 범위)에서의 연속적인 공간 좌표이다)의 2-D AFT의 식은 다음과 같은 2-D 푸리 에 급수에 의해 임의의 기준 포인트(pref, qref)와 관련해서 표현될 수 있다.The equation of the 2-D AFT of the zero mean 2-D input signal A (p, q), where p and q are continuous spatial coordinates in the unit range (e.g., 0 to 1), is expressed as It can be expressed in terms of arbitrary reference points (p ref , q ref ) by the D Fourier series.
여기서 (pref, qref)는 임의의 기준 위치이며, 양호하게는 단위 서브 화상에 대한 (1,1)이다.Where (p ref , q ref ) is any reference position, preferably (1,1) for the unit sub-picture.
신호 A(p, q)는 공간 차수 q 및 q 모두에서 N 고조파에 대역 제한된다 - 즉, N 보다 높은 푸리에 급수 계수는 제로와 같다. N2 필터를 갖는 필터 뱅크를 사용하여 화상 데이터를 처리하고, 각각의 필터는 다음과 같은 필터링 함수를 갖는다.Signal A (p, q) is band limited to N harmonics in both spatial order q and q-that is, the Fourier series coefficients higher than N are equal to zero. The image data is processed using a filter bank having N 2 filters, and each filter has the following filtering function.
여기서 n=1, 2, .... N이고 m = 1, 2, ....N이다. 수학식 (8)로부터, 상기 필터들에 의해 처리된 샘플들 의 공간 위치 가, 도 3과 관련해서 상세히 후술되는 바와 같이, 단위 화상 블록의 각각의 파레이 분수 및 에 의해, 기준 위치(pref,qref)와 관련해서 정의된다는 것을 알 수 있다.Where n = 1, 2, .... N and m = 1, 2, .... N. From equation (8), the samples processed by the filters Spatial location of As shown in detail below with respect to FIG. 3, the respective parlay fractions of the unit image blocks And It can be seen that by the reference position is defined in relation to the reference position (p ref , q ref ).
수학식 (8)의 신호 A(p, q)를 수학식 (6), (7)에서 주어진 푸리에 급수로 대체하면, 각각의 필터의 출력은 A(p,q)의 푸리에 급수 계수의 특별한 세트의 합과 동일하다는 것을 알 수 있다.Substituting the signal A (p, q) in equation (8) with the Fourier series given in equations (6) and (7), the output of each filter is a special set of Fourier series coefficients of A (p, q). It can be seen that it is equal to the sum of.
식 (9)의 유도는 본 명세서에 첨부된 부록 A에 나와 있다.Derivation of equation (9) is given in Appendix A attached to this specification.
신호가 대역 제한이다는 것에 가정 하에, 비-제로인 항 이상은 없으며, 여기서 는 x보다 작거나 같은 최대 정수를 나타낸다. 수학식 (9)가 주어지면, 2-D 푸리에 급수 계수에 대한 다음의 관계가 주어질 수 있다(이에 대한 증명은 첨부된 부록 B에 나와 있다).Assuming that the signal is band limited, non-zero No more than Denotes the largest integer less than or equal to x. Given Equation (9), the following relationship to the 2-D Fourier series coefficients can be given (the proof for this is given in the appendix B).
더욱이, DCT와 이산 푸리에 변환(DFT) 간의 유사한 관계 때문에, 2-D AFT 알 고리즘으로부터의 전술한 출력은 N×N의 균일하게 이격된 픽셀로 분할된 단위 부분-화상의 DCT 계수를 계산하기 위해 사용될 수 있다. 먼저, 화상 센서 어레이가 단위 영역 블록의 픽셀로 분할되며, 각각의 블록은 정의에 의해 1×1의 크기를 갖는다. 각각의 단위 영역 내부의 감광성 요소는 수학식 8에 정의된 필터에 적합한 샘플을 제공하기 위해 단위 블록 크기의 파레이 분수 세트에 기초한 지점에 위치된다. 필터의 출력을 계산하기 위해, 적합한 기준 지점(pref, qref)이 선택된다. 편리한 기준 지점은 pref=1과 qref=1이다(단위 영역의 모서리). 그 후, 수학식 8은 다음과 같이 된다:Moreover, because of the similar relationship between DCT and Discrete Fourier Transform (DFT), the above-described output from the 2-D AFT algorithm is used to calculate the DCT coefficients of the unit part-picture divided into N × N uniformly spaced pixels. Can be used. First, the image sensor array is divided into pixels of a unit area block, each block having a size of 1 × 1 by definition. The photosensitive elements inside each unit region are located at points based on a set of parlay fractions of unit block size to provide a sample suitable for the filter defined in Equation (8). To calculate the output of the filter, a suitable reference point (p ref , q ref ) is selected. Convenient reference points are p ref = 1 and q ref = 1 (the corner of the unit area). Then, Equation 8 becomes as follows:
여기서, n=1,2,...,N이고, m=1,2,...,N이다.Where n = 1,2, ..., N and m = 1,2, ..., N.
2-D AFT의 출력은 2-D 푸리에 급수 세트가 된다. 푸리에 급수로부터 DCT 계수를 구하기 위해, 확장된 화상 블록 X(p,q)는 도 2에 도시된 바와 같이 원본 화상 블록 A(p,q)을 그 화상 블록의 미러 화상만큼 양방향으로 확장함으로써 구해지며, 이것은 다음과 같이 된다:The output of the 2-D AFT is a 2-D Fourier series set. To obtain the DCT coefficients from the Fourier series, the expanded picture block X (p, q) is obtained by extending the original picture block A (p, q) in both directions by the mirror image of the picture block, as shown in FIG. , This becomes:
AFT가 원본 화상 블록 A(p,q)로부터가 아니라 확장된 화상 블록 X(p,q)로부터 계산된다면, 적합한 필터값은 다음과 같이 된다:If the AFT is calculated from the extended picture block X (p, q) and not from the original picture block A (p, q), then the appropriate filter value is as follows:
확장된 화상 블록 X(p,q)이 Nyquist 기준에 따른다면, 그 결과의 AFT 계수는 스케일 팩터 내의 DCT 계수에 동일하게 되며, 이 결과의 증거는 본 명세서에 첨부된 부록 C에 제공되어 있다. 한편, 확장된 화상이 Nyquist 기준을 충족하지 못한다면, 2-D AFT 계수는 2-D DCT 계수의 근사치에 불과하게 된다. 이 상황은 고주파 성분이 풍부한 화상에 대해 더욱 발생하기 쉽다. 그러나, 이 근사치를 에일리어싱 보정 기술을 이용하여 향상시키는 것이 가능하며, 이 기술은 보다 상세히 후술될 것이다.If the extended picture block X (p, q) conforms to the Nyquist criterion, the resulting AFT coefficients will be equal to the DCT coefficients in the scale factor, and evidence of this result is provided in Appendix C attached herein. On the other hand, if the expanded picture does not meet the Nyquist criterion, the 2-D AFT coefficient is only an approximation of the 2-D DCT coefficient. This situation is more likely to occur for an image rich in high frequency components. However, it is possible to improve this approximation using an aliasing correction technique, which technique will be described later in more detail.
어떠한 경우에, 수학식 12 및 13으로부터, 필터의 각각의 출력 S(n,m)은 다음과 같이 표현될 수 있다:In any case, from equations (12) and (13), each output S (n, m) of the filter can be expressed as follows:
여기서, n 및 m은 1 내지 N의 값을 취한다. 는 x보다 크거나 동일한 최소의 정수를 나타낸다.Where n and m take the value of 1 to N. Denotes the smallest integer greater than or equal to x.
수학식 14로부터, 반복되는 샘플 공간 내에 특정한 포인트가 존재한다는 것을 알 수 있다. 그 결과, DFT가 아닌 DCT를 계산함으로써, 2-D AFT에서의 독립 포인트의 수는 거의 1/2로 감소된다. 예컨대, 단위 부분-화상 내부의 8×8 포인트 DCT를 계산하기 위해, 단위 영역 당 12×12의 감광성 요소 세트가 사용된다. 단위 영역의 에지에 있는 요소는 인접한 부분-화상 간에 공유되며, 이로써 블록당의 포인트의 유효 개수를 11×11로 감소시킨다. 도 3에는 일례의 비균일한 샘플 공간(300)이 예시되어 있다. 예시된 예에서, 비균일하게 분포된 샘플 포인트(348)는 2-D AFT 계산을 위해 사용된다. 대응하는 유효 DCT 샘플 포인트(398)가 균일하게 분포된다.From Equation 14, it can be seen that a particular point exists in the repeated sample space. As a result, by calculating the DCT rather than the DFT, the number of independent points in the 2-D AFT is reduced by almost one half. For example, to calculate an 8x8 point DCT inside a unit part-image, a set of 12x12 photosensitive elements per unit area is used. Elements at the edge of the unit area are shared between adjacent sub-pictures, thereby reducing the effective number of points per block to 11 × 11. 3 illustrates an example
도 3에 예시된 바와 같이 샘플링된 화상과, 필터링 함수가 수학식 14에 따라 정의되는 필터를 이용하면, 2-D AFT 계수 xk , 1는 다음과 같이 계산될 수 있다:Using the sampled picture as illustrated in FIG. 3 and a filter whose filtering function is defined according to equation (14), the 2-D AFT coefficients x k , 1 can be calculated as follows:
여기서, E[A]는 화상의 평균값을 나타내고, xk , 1는 확장된 블록 화상 X의 2-D AFT 계수를 나타내며, xk , 0는 p-축을 따라 로우의 평균값의 1-D AFT를 계산함으로써 획득된 계수이며, x0,1은 q-축을 따라 컬럼의 평균값의 1-D AFT를 계산함으로써 획득된 계수이다. 이 DCT 계수는 다음과 같이 계산될 수 있다:Where E [A] represents the average value of the image, x k , 1 represents the 2-D AFT coefficient of the extended block image X, and x k , 0 represents the 1-D AFT of the average value of the rows along the p-axis. The coefficient obtained by the calculation, x 0,1 is the coefficient obtained by calculating the 1-D AFT of the mean value of the column along the q-axis. This DCT coefficient can be calculated as follows:
이상의 설명은 화상 부분의 DCT 계수를 계산하기 위해 2-D AFT를 사용하는 것은 전체 연산이 주로 가산 연산으로 수행될 수 있도록 하여 승산 연산을 거의 이용하지 않고서도 2-D AFT 과정을 매우 효율적으로 만들 수 있다는 것을 입증한다. 이러한 증가된 효율을 제공하는 요인은 도 3을 참조하여 추가로 이해될 수 있다. 도 3은 종래의 패턴으로 배열된 종래의 8×8 블록의 픽셀(398)의 영역에 대응하는 센서 어레이의 일례의 2-D 샘플 영역(300)을 도시하고 있다. 그러나, 본 발명에 따라, 예시된 영역(300)은 전술한 2-D AFT 기술과 사용하기 위해 어떤 바람직한 위치(348)를 갖는다. 바람직한 위치(348)는 수행되고 있는 변환의 기본 함수의 극대치(즉, 최대치)에 대응한다. 예컨대, 푸리에 변환의 기본 함수가 여러 가지의 상이한 주파수(시간 변화 신호의 경우에) 또는 파장(화상과 같은 공간 변화 신호의 경우에)의 사인 함수 및 코사인 함수라는 것은 널리 공지되어 있다. DCT와 같은 코사인 변환의 경우, 기본 함수는 수학식 1에 의해 제공된 바와 같이 다양한 주파수(시간 변화 신호의 경우) 또는 파장(공간 변화 신호의 경우)의 코사인 함수이다. 도 3에 예시된 일례의 샘플 영역(300)에서, 컬럼(331, 332, 333, 334, 335, 336, 337, 338, 339, 340, 341, 342)은 코사인 기본 함수(320, 321, 322, 323, 324, 325, 326, 327)의 각각의 최대치(301, 302, 303, 304, 305, 306, 307, 308, 309, 310, 311, 312)의 위치에 대응하며, 이들 기본 함수의 공간 좌표 q는 센서 어레이 또는 예시된 지역(300) 중의 하나의 공간 좌표계에 따라 정의된다. 특히, 예시된 예에서, 전술한 기본 함수(320, 321, 322, 323, 324, 325, 326, 327)의 공간 좌표 q는 예시된 지역(300)의 좌측 에지(컬럼 "331")를 기준으로 하는 센서 어레이의 수평 좌표와 동일하다. 마찬가지로, 바람직한 샘플 위치(348)의 로우(381, 382, 383, 384, 385, 386, 387, 388, 389, 390, 391, 392)은 코사인 기본 함수(370, 371, 372, 373, 374, 375, 376, 377)의 각각의 극대치(351, 352, 353, 354, 355, 356, 357, 358, 359, 360, 361, 362)에 대응하며, 이들 기본 함수는 q와 마찬가지로 센서 어레이 또는 예시된 지역(300) 중의 하나의 공간 좌표계에 따라 정의되는 수직 공간 좌표 p를 갖는다.The above explanation uses the 2-D AFT to calculate the DCT coefficients of the image part, allowing the entire operation to be performed primarily as an additive operation, making the 2-D AFT process very efficient with very little multiplication operation. Prove that you can. Factors that provide this increased efficiency can be further understood with reference to FIG. 3. 3 shows an example 2-
2-D AFT 계산은 선택된 샘플에 대해서만 사용하여, 각각의 선택된 샘플에 대해서는 관련된 기본 함수가 샘플의 위치에서 +1의 값을 갖는다. 이러한 샘플링 패턴은, 간략화 가정으로 하여금, AFT 계수 xk ,1을 계산할 때에 프리-스케일된 입력 센서 신호가 +1, 0 또는 -1의 계수에 의해 승산될 필요가 있도록 하며, 그에 따라 수학식 10에서는 2-D Mobius 함수 μ2(m,n)를 사용한다.The 2-D AFT calculation is used only for the selected sample, so for each selected sample the associated basic function has a value of +1 at the position of the sample. This sampling pattern allows the simplified assumption that the pre-scaled input sensor signal needs to be multiplied by a coefficient of +1, 0 or -1 when calculating the AFT coefficient x k , 1 , and according to
도 10은 센서 어레이(1034)의 일례의 부분(1004)을, 인입 신호(예컨대, 화상화되고 있는 장면으로부터 수신되는 광 패턴)를 검출하고 그 신호를 처리하여 수학식 14에서의 각각의 필터 출력 S(n,m)을 구하는 필터 장치(1022)와 함께 도시하고 있다. 센서 어레이부(1004)는 AFT 계산을 위한 바람직한 위치에 위치된 센서(1002)를 가지며, 이들 위치는 코너 픽셀(1028)에 관련한 수직 및 수평 거리를 갖도록 정의되며, 이 거리는 어레이부(1004)의 크기 1032에 의해 승산된 다양한 파레이 분수와 동일하다. 옵션으로, 이러한 필터링은 도 10에 예시된 바와 같은 아날로그 회로(1022) 또는 도 15에 예시되어 있는 같은 디지털 필터(1502)에 의해 수행될 수 있다. 어떠한 경우에도, 컬럼 선택 연산은 마이크로프로세서(1018)의 제어 하에서 컬럼 선택기(1036)에 의해 수행되는 것이 바람직하며, 각각의 필터 출력 S(n,m)은 RAM(1016) 등의 메모리 소자에 저장된다.10 detects an incoming signal (e.g., a light pattern received from a scene being imaged) and processes the signal to output the respective filter in equation (14). It shows with the
필터 출력 S(n,m)을 계산하기 위해 아날로그 필터(1022)가 사용되던 디지털 필터(1502)가 사용되던 지에 무관하게, 예시된 배열은 도 11에 도시된 일례의 과정을 따라 연산될 수 있다. 예시된 과정에서, 인입 신호, 예컨대 장면으로부터의 광 패턴은 센서 어레이(1004)에 의해 수신된다(단계 1102). 인입 신호는 어레이(1004)의 각각의 센서(1002)에 의해 검출되어 센서 신호를 발생하며(단계 1104), 이 신호는 아날로그 필터 장치(1022) 또는 디지털 필터 장치(1502)에 의해 수신된다(단계 1106). 각 세트의 센서 신호의 각각의 가중된 합이 구해져 각각의 필터링 된 신호를 생성한다(단계 1118). 예컨대, 센서 신호 세트의 가중된 합(예컨대, 로우(1024, 1026)과 컬럼(1044, 1046)의 교차 지점으로부터의 각각의 픽셀값(1028, 1029, 1030, 1031)의 가중된 합)이 필터(1022 또는 1052)에 의해 구해져, 필터링된 신호 S(2,3)를 생성한다(단계 1118).Regardless of whether the
아날로그 필터 장치(1022)의 경우, 단계 1108 및 1110에서 구해진 가중된 합은 도 2에 도시된 과정에 따라 발생될 수 있다. 도시된 필터링 과정(1108 또는 1110)에서, 각각의 센서로부터의 신호는 적합한 이득으로 증폭되어, 각각의 증폭된 신호를 생성한다(단계 1208). 예컨대, 로우 1024과 컬럼 1044에서의 제1 센서(1028)로부터의 신호는 제1 이득으로 증폭되어 제1 증폭 신호를 생성하며(단계 1202), 로우 1024과 컬럼 1046에서의 제2 센서(1029)로부터의 신호는 제2 이득으로 증폭되어 제2 증폭 신호를 생성하며(단계 1204), 나머지도 동등하게 이루어진다. 그 결과의 증폭 신호가 통합되어 필터링된 신호를 생성한다(단계 1206).For
도 17에 예시된 타이밍도를 참조하여 도 10에 도시된 아날로그 필터링 회로(1022)의 연산에 대해 설명한다. 먼저, 마이크로프로세서(1018)는 어느 필터가 계산될지를 결정한다. 즉, n과 m에 대한 값을 선택한다. m에 대한 값이 주어지면, 적합한 컬럼과 가 선택된다. 그리고나서, n에 대한 값이 주어지면, 적합한 및 가 선택된다. 필터 S(3,12)를 계산하기 위한 일례의 타이밍 사이클은 다음과 같다:The operation of the
1. n=3, m=12,1.n = 3, m = 12,
2. 여기서 i=1,2,4,5,6,7,12,2. Where i = 1,2,4,5,6,7,12,
3. 컬럼 0를 선택3.
4. 다른 4. Other
5. 챠지(charge)를 적분기(1010)에 전달, 5. transfer the charge to the
6. 컬럼 1/6을 선택6.
7. 다른 7. Other
8. 챠지를 적분기(1010)에 전달, 8. Pass the charge to the
9. 컬럼 1/3을 선택9.
10. 다른 10. Other
11. 챠지를 적분기(1010)에 전달, 11. Transfer charge to
12. 컬럼 1/2를 선택12.
13. 다른 13. Other
14. 챠지를 적분기(1010)에 전달, 14. Pass the charge to the
15. 컬럼 2/3을 선택15.
16. 다른 16. Other
17. 챠지를 적분기(1010)에 전달, 17. transfer the charge to the
18. 컬럼 5/6를 선택18.
19. 다른 19. Other
20. 챠지를 적분기(1010)에 전달, 20. Pass the charge to the
21. 적분기의 출력을 샘플링, 21. Sampling the output of the integrator,
22. , 여기서 i=1,2,3,4,5,6,722. , Where i = 1,2,3,4,5,6,7
23. 챠지를 적분기(1012)에 전달, 23. Pass the charge to
24. ADC(1014)를 이용하여 AD 변환을 수행하고, 디지털 값 S(3,2)를 RAM(1016)에 저장24. Perform AD
25. 적분기(1010) 및 증폭기(1012)를 리셋25.
각각의 필터 출력 S(m,n)이 구해진 후, 2-D AFT 계수가 구해진다(단계 1112). AFT 계수를 구하기 위해(단계 1112), 상기한 수학식 15a 내지 15d를 참조하여 설명된 바와 같은 Mobius 함수의 적합한 값을 이용하여 필터 출력이 가중되며 (단계 1114), 그 결과의 가중된 신호가 수학식 15a 내지 15d에 따라 가산/합산된다(단계 1116).After each filter output S (m, n) is obtained, a 2-D AFT coefficient is obtained (step 1112). To find the AFT coefficients (step 1112), the filter output is weighted using the appropriate value of the Mobius function as described with reference to equations 15a-15d above (step 1114), and the resulting weighted signal is Are added / summed according to equations 15a-15d (step 1116).
디지털 필터(1502)가 사용된다면, 도 15에 도시된 바와 같이, 어레이(1004) 내의 센서(1002)로부터의 각각의 신호가 증폭기(1006)에 의해 증폭되는 것이 바람직하며, 그 결과의 증폭된 신호가 디지털 필터(1502)에 의해 수신되어 처리된다는 점에 유의하기 바란다. 본 기술분야의 당업자라면 전술한 수학적 연산을 수행하기 위해 일반적인 기술을 가진 실시자에 의해 용이하게 프로그래밍될 수 있는 상업적으로 이용 가능하고 개별적으로 프로그래밍될 수 있는 특수 용도의 다수의 디지털 필터에 대하여 친숙할 것이다. 통상적인 화상 센서 시스템 내의 아날로그-디지털 변환기(ADC)(1014)의 해상도가 12비트 이하이기 때문에, 디지털 필터(1502)로서 사용하기 위해서는 16-비트 디지털 신호 프로세서가 적합하다.If
2-D AFT는 완전한 부분-화상의 평균 세기값("DC"값으로도 지칭됨)이 각각의 로우 및 컬럼에 대한 평균값과 마찬가지로 제로라는 가정을 기초로 한다. 로우, 컬럼 또는 전체 부분-화상에 대한 비-제로 DC 값이 존재한다면, 그 값은 적합한 필터 출력 S(n,m)을 조정하기 위한 계수값을 구하기 위해 사용되는 것이 바람직하다. 전체 부분-화상이 비-제로 평균 E[A]를 가질 때의 경우에 대한 적합한 보정량은 다음과 같다:The 2-D AFT is based on the assumption that the average intensity value (also referred to as the "DC" value) of the complete partial-picture is zero, as is the average value for each row and column. If there is a non-zero DC value for the row, column or the entire partial-picture, then that value is preferably used to find the coefficient value for adjusting the appropriate filter output S (n, m). Suitable correction amounts for the case where the entire partial-picture has a non-zero mean E [A] are as follows:
또한, 입력 신호가 로우 또는 컬럼의 임의의 것에서의 비-제로 평균값을 갖는다면(즉, Xk ,0 또는 X0 ,1가 비-제로이면) 보정량이 계산되어야 한다. 컬럼 또는 로우에서의 비-제로 평균값의 경우에, Xk ,1만을 보정하여도 충분하며, 여기서, k=1,2,...,N-1이고, l=1,2,...,N-1이다. 보정 수식은 다음과 같다:In addition, if the input signal has a non-zero mean value in any of the rows or columns (ie, if X k , 0 or X 0 , 1 is non-zero), the amount of correction must be calculated. In the case of non-zero mean values in a column or row, it is sufficient to calibrate only X k , 1 , where k = 1,2, ..., N-1, and l = 1,2, ... , N-1. The calibration formula is:
그 후, 보정 계수 Δ(k,l) 및 Δlocal(k,l)가 비보정된 2-D AFT 계수 xk ,1에 가산되어, 다음과 같이 보정된 2-D AFT 계수 Ac(k,l)를 구한다:Then, the correction coefficients Δ (k, l) and Δ local (k, l) are added to the uncorrected 2-D AFT coefficients x k , 1 , so that the corrected 2-D AFT coefficients A c (k , l)
도시된 예에서, 8×8 DCT 경우가 고려될 것이다. 전체 단위 영역 부분-화상의 각각의 평균값 및 산발적인 로우 및 컬럼의 각각의 평균값을 정확하게 결정할 필요는 없다. 오히려, 이들 평균값에 대한 추정치를 사용하는 것으로도 충분하다. 전체 부분-화상 A의 평균값 E[A]에 대해, 최소 평균-제곱 오차를 통해 가장 근접한 추정치가 최대 수의 포인트를 평균한필터 출력에 의해 제공된다. 일반적으로, N×N 경우에는 이것은 S(N,N)이다. 8×8 DCT의 경우에, 전체 부분-화상 A의 평균 E[A]의 최상의 추정치는 다음과 같다:In the example shown, an 8x8 DCT case will be considered. It is not necessary to accurately determine the mean value of each of the entire unit region partial-images and the mean value of each of the sporadic rows and columns. Rather, it is sufficient to use estimates of these mean values. For the mean value E [A] of the entire partial-picture A, the closest estimate via the least mean-square error is provided by the filter output averaging the maximum number of points. In general, in the case of N × N, this is S (N, N). In the case of 8x8 DCT, the best estimate of the average E [A] of the full partial-picture A is
8×8 DCT의 경우에 대해, 수학식 16a 및 16b에 기초한 각각의 2-D AFT 계수에 대한 그 결과의 전체적인 DC 보정값은 표 1에 제공되어 있다:For the 8 × 8 DCT case, the overall DC correction value of the result for each 2-D AFT coefficient based on Equations 16a and 16b is provided in Table 1:
비-제로 컬럼 평균 및/또는 로우 평균이 존재할 때의 각각의 2-D AFT 계수에 대한 보정값은 표 2에 제공되어 있다:The correction values for each 2-D AFT coefficient when there are non-zero column averages and / or row averages are provided in Table 2:
확장된 부분-화상 X 및 보정된 AFR 계수 Ac(k,l)의 2-D AFT 계수 xk ,l이 주어진다면, 부분-화상 A의 DCT 계수가 계산될 수 있다. 각각의 8×8 포인트 DCT 계수 DCT(k,l)와 그에 대응하는 보정된 2-D AFT 계수 Ac(k,l) 간의 관계는 표 3에 제공되어 있다:Given the extended partial-picture X and the 2-D AFT coefficient xk , l of the corrected AFR coefficient A c (k, l), the DCT coefficient of the partial-picture A can be calculated. The relationship between each 8x8 point DCT coefficient DCT (k, l) and its corresponding corrected 2-D AFT coefficient A c (k, l) is provided in Table 3:
샘플링 처리되는 화상 신호가 단위 공간 주파수의 정수 배에 해당하지 않은 높은 공간 주파수 성분을 갖는다면, AFT 알고리즘을 이용하여 산출된 DCT 계수에 소정의 오차가 생기는 앨리어싱(aliasing)이 발생할 수 있다. 예를 들어, 도 2에 도시된 바와 같이, 원래의 서브 화상(102)으로부터 유도된 확장된 서브 화상(202) 내에 서브 화상 경계(204)가 존재한다. 이들 각각의 경계에는, 픽셀 밝기의 첫 번째 파생 결과인 불연속 특성이 생길 수 있다. 이러한 불연속 특성은 입력 신호 주파수가 나이키스트 샘플링 주파수(Nyquist sampling frequency)의 절반에 근접하면서 증가하는 경향이 있다. 또한, 이러한 불연속 특성은 입력 신호의 위상이 π/2에 근접함에 따라 증가하는 경향이 있다. 실질적인 불연속 특성이 존재한다면, 확대된 서브 화상(202)은 나이키스트 주파수의 절반 이상인 주파수에서 상당한 푸리에 성분을 가질 것이다. 화상 신호 또는 그외 다른 신호의 언더샘플링에 기인하여 나이키스트 기준에 위배되는 경우, 고조파, 즉 나이키스트 기준을 위배하는 성분은 나이키스트 주파수의 절반 이하의 주파수에서 나타나도록 "폴드 백"(fold back)되는 것이 잘 알려져 있다. 도 2에 도시된 것과 같은 화상 확장에 의해서는, 입력 신호가 단위 기간의 8분의 1의 단계에서 균일하게 샘플링되는 경우, 앨리어싱 효과가 생기지 않는다. 그러나, 상기 설명한 바와 같이 파레이 분수에 기초한 위치를 갖는 샘플의 균일하지 않은 배치에 기인하여, AFT 알고리즘에 기초하여 산출된 DCT 계수에 앨리어싱 오차가 생길 수 있다. 균일하게 샘플링된 입력 신호값과 이 신호의 근사값 사이의 평균 제곱 오차는 AFT 알고리즘에 기초한 과정의 정확성을 나타낸다. 여기서, 근사값은 AFT 알고리즘에 기초한 DCT 계수의 역DCT를 취함으로써 산출된다. 오차의 양은 실질적인 고주파 성분을 갖는 화상 신호를 처리할 때는 중요한 것이 될 수 있다. 평균 제곱 오차의 주파수 함수로서의 예시적인 결과는 도 4에 예시되어 있으며, 도 4에는 상술한 AFT 기법에 의해 유도된 예시적인 DCT 계수의 역DCT를 취함으로써 얻어진 근사값 신호의 평균 제곱 오차를 주파수 함수로서 나타내고 있다. 예시된 결과는 이러한 오차가 고주파 성분에서 최대라는 것을 나타낸다. If the image signal to be sampled has a high spatial frequency component that does not correspond to an integer multiple of the unit spatial frequency, aliasing may occur in which a predetermined error occurs in the DCT coefficient calculated using the AFT algorithm. For example, as shown in FIG. 2, there is a
언더샘플링에 의해 생간 오차는 임의의 DC 보정이 적용되기 전의 필터 출력 S(n, m)의 정확성에 직접적인 영향을 미칠 뿐만 아니라, DC 보정 자체의 정확성에도 영향을 미친다. The live error by undersampling not only directly affects the accuracy of the filter output S (n, m) before any DC correction is applied, but also the accuracy of the DC correction itself.
화상의 평균값에 대한 개선된 추정값은 필터 S의 출력으로부터 얻을 수 있으며, 이 필터의 출력 S는 확장된 화상 X의 스펙트럼에서 제시된 것으로 예측할 수 없는 공간 주파수에서 취한 포인트 세트를 평균화한 것이다[파라라오(P.Paparao), 고시(A. Ghosh)에 의한 1990년 SPIE 제2권, Optical Information-Processing Systems and Architectures II의 "An Improved Arithmetic Fourier Transform Algorithm"). 상기 언급한 문헌의 결론에서 보는 바와 같이, 평균값을 계산하는데 이용되는 필터 S의 차수를 증가시키면, 평균값 추정치를 향상시킬 수 있다. 따라서, 평균 제곱 오차는 8 이상의 차수를 갖는 필터가 상기 언급한 8x8 DCT 경우에서의 평균값을 추정하는데 이용될 때는 감소하여야 한다. 광 감지 소자의 평균화된 밀도 및 개수는, 상위 차수의 필터가 사용될 때 증가하기 때문에, 제조 기술에 의해 제한되는 것과 같이, 실현 가능한 가장 높은 차수를 가진 필터를 선택하여야 한다. 특정의 제조 기술은 광 감지 소자들 간의 가장 짧은 거리를 제한하기 때문에, 실현 가능한 가장 높은 필터 차수를 제한하게 된다. 광 감지 소자의 개수를 크게 증가시키지 않기 위하여, 필터의 차수는 적어도 하나의 하위 차수에 의해 나누어질 수 있어야 한다. 필터의 차수가 하위 차수에 의해 나누어질 수 있다면, 하위 차수를 갖는 필터의 파레이 분수는 상위 차수를 갖는 필터와 관련된 파레이 분수의 서브세트에 정합되기 때문에, 추가적인 광 감지 소자의 개수가 실질적으로 증가하지 않게 된다. 통상적인 예가 필터 S(12, 12)이며, 여기서 12는 2, 3, 4, 6에 의해 나누어질 수 있다. 차수 12를 갖는 필터는 차수 8을 갖는 필터보다 더 많은 개수의 광 감지 소자를 필요로 하지 않는다. 그러나, 차수가 12인 필터의 경우, 광 감지 소자는 도 5에 도시된 바와 같이, 서브 화상의 소정 부분에서 더욱 밀접하게 채워지는 것이 바람직하다. 일반적으로, 차수가 N인 필터에서, 샘플 위치는 2j/N의 위치에 배치될 수 있으며, 여기서 j=0, 1, ... N/2이다. 추청된 평균 제곱 오차는 도 6에 도시되어 있으며, 여기서 차수가 12인 필터가 전역 및 국부 평균값을 추정하는데 이용된다. An improved estimate of the mean value of the picture can be obtained from the output of filter S, which output S is an average of a set of points taken at unpredictable spatial frequencies as presented in the spectrum of extended picture X. P. Paparao), 1990
선택적으로, 정확한 파레이 분수의 위치에 있는 광 감지 소자는 전역 및 국부 DC 값을 추정하는데 이용되는 상위 차수의 필터 계산을 위한 샘플 값을 얻는데 이용될 수 있다. 선택적으로 또는 추가하여, 샘플 값은 이하 상세히 개시하는 보간 방법을 이용하여 이웃하는 샘플의 보간 처리를 수행함으로써 얻어질 수 있다. 또한, 12 이상의 차수를 갖는 필터는 DC 값을 추정하는데 이용될 수 있다. 그러나, 상위 차수의 필터를 이용하는 것과 관련하여 상쇄가 있다. 즉, 이러한 필터는 광 감지 소자의 개수의 증가 및/또는 광 감지 소자들 사이의 간격의 감소를 수반할 수 있다. 또한, 필터의 차수를 12 이상으로 증가시키면, 통상적으로 중요한 추가적인 이득을 제공할 수 없다. 예를 들어, 도 7은 전역 및 국부 DC 값을 추정하기 위하여, 차수가 16 이상인 필터를 이용하는 시스템의 평균 제곱 오차를 나타낸다. 도 6과 도 7을 눈으로 비교하면, 오차가 두 가지 경우에서 대략 동일하다는 것을 알 수 있다. 따라서, 차수가 12인 필터는 샘플 포인트의 개수(또는 픽셀 밀도)와 전체적인 정확성 사이의 개선된 상쇄를 제공한다는 것이 명백하다. Optionally, a photosensitive device at the location of the correct Parlay fraction can be used to obtain sample values for higher order filter calculations used to estimate global and local DC values. Alternatively or in addition, sample values can be obtained by performing interpolation processing of neighboring samples using the interpolation method described in detail below. In addition, a filter with an order of 12 or more can be used to estimate the DC value. However, there is a tradeoff in using higher order filters. That is, such a filter may involve an increase in the number of photosensitive elements and / or a reduction in the spacing between the photosensitive elements. In addition, increasing the order of the filter to 12 or more typically does not provide significant additional gain. For example, FIG. 7 shows the mean squared error of a system using a filter of
비(非) DC 보정된 필터(DC 보정되지 않은 필터)에서의 앨리어싱 오차는, 제조 기술에서 충분히 밀집한 픽셀 분포를 허용하는 경우에, 센서 어레이에 픽셀을 추가함으로써 감소시킬 수 있다. 이러한 앨리어싱을 보정하기 위하여, 등가의 균일한 샘플링 주파수(즉, 8x8 DCT의 경우에 8 이상의 차수의 계수)보다 상위 차수인 AFT 계수가 하위 계수를 보정하기 위하여 이용될 수 있다. 상위 차수의 계수는, 추가의 파레이 분수 스페이스 센서(파레이-fraction-spaced sensors)로부터 직접 얻을 수 있거나, 이웃하는 픽셀로부터 보간되거나, 이하 상세히 개시하는 하위 차수의 계수의 분수로서 추정될 수 있다. Aliasing errors in non-DC corrected filters (non-DC corrected filters) can be reduced by adding pixels to the sensor array if the manufacturing technique allows for a sufficiently dense pixel distribution. To correct this aliasing, an AFT coefficient higher than the equivalent uniform sampling frequency (i.e., an order of 8 or higher in the case of 8x8 DCT) may be used to correct the lower coefficient. The higher order coefficients can be obtained directly from additional fraction-spaced sensors, interpolated from neighboring pixels, or estimated as fractions of the lower order coefficients described in detail below.
정확한 파레이 분수 위치에 픽셀을 추가함으로써, 상위 차수의 AFT 계수를 정확하게 계산할 수 있으며, 이것을 하위 차수의 AFT 계수를 보정하는데 이용할 수 있다. 예를 들면, M은 DCT 계수의 개수임, 파레이 분수 스페이스의 실현 가능한 가장 높은 차수는 N이다. 여기서, N은 M보다 작은데(N>M), M=8인 경우, N은 9, 10, 11, 12, ... 이다. 먼저, 전역 및 국부 DC 계수 Δ(k, l) 및 Δlocal(k, l)은 상기 설명한 바와 같이, 최상위 차수(N)를 이용하여 추정되며, 방정식 18a 및 18b에서 나타내는 바와 같이 보정되지 않은 AFT 계수 xk ,l에 추가된다. 이 결과로서의 보정되지 않은 DC AFT 계수 AC(k, l)는 앨리어싱 보정값을 결정하는데 이용된다. 여기서, k, l=0, 1, 2, ... N-1이다. By adding pixels at the exact parlay fractional position, the higher order AFT coefficients can be calculated accurately, which can be used to correct the lower order AFT coefficients. For example, M is the number of DCT coefficients, and the highest achievable order of the parlay fractional space is N. Here, N is smaller than M (N> M), and when M = 8, N is 9, 10, 11, 12, ... First, the global and local DC coefficients Δ ( k, l ) and Δ local ( k, l ) are estimated using the highest order N, as described above, and uncorrected AFT as shown in equations 18a and 18b. Is added to the coefficient x k , l . The uncorrected DC AFT coefficient A C (k, l) as a result is used to determine the aliasing correction value. Where k, l = 0, 1, 2, ... N-1.
방정식 20a~20d에서의 보정 공식은 M이 짝수(일반적인 경우)이며, 2M이 N보다 큰 경우에 타당하다. 앨리어싱이 보정된 2-D AFT 계수 ACC(k, l)은 상기 나열한 앨리어싱 보정값을 DC 보정한 AFT 값 AC(k, l)에 추가함으로써 계산될 수 있다. The correction formulas in equations 20a-20d are valid when M is even (typical) and 2M is greater than N. The aliased-corrected 2-D AFT coefficient A CC (k, l) can be calculated by adding the above-listed aliasing correction values to the DC-corrected AFT value A C (k, l).
도 8은 상위의 파레이 분수 샘플이 앨리어싱에 대해 보정하기 위해 사용되는 경우에서의 추정된 평균 제곱 오차를 나타낸다. 이 예시에서, 차수가 12인(즉, N=12) 파레이 분수 샘플 스페이스는 픽셀값을 제공하는데 이용되었으며, 차수가 12인 필터는 전역 및 국부 DC 값을 추정하는데 이용되었고, 상위 차수의 AFT 계수(차수가 8, 9, 10, 11인 계수)는 방정식 20a~20d와 관련하여 앞서 설명한 바와 같이 앨리어싱에 대해 보정하는데 이용되었다. 이 예에서, 추정된 최대의 평균 제곱 오차는 주파수(6.5, 6.5)에서의 값으로서, 0.0273이다. FIG. 8 shows the estimated mean square error when the upper parley fraction sample is used to correct for aliasing. In this example, an order 12 (ie, N = 12) parlay fractional sample space was used to provide pixel values, an
도 4 및 도 6-8에서, 추정된 평균 제곱 오차는, 입력 화상 X가 주파수 (f1/2, f2/2)를 가진 2-D 코사인에 해당하는 각각의 주파수 포인트 (f1, f2)에 대해 가정함으로써 유도되었다. 2-D AFT에 기초한 2-D DCT 계수는 입력으로서 계산되었으며, 역 2-D DCT는 화상 Y를 얻기 위하여 계산되었다. 화상 X와 화상 Y 사이의 평균 제곱 오차가 계산되어, 주파수 포인트 (f1, f2)에 할당된다. In Figures 4 and 6-8, the estimated mean square error, the input image X is the frequency (f 1/2, f 2 /2) 2-D cosine f 1, each frequency point (corresponding to f with Derived by making assumptions about 2 ). The 2-D DCT coefficients based on the 2-D AFT were calculated as input and the inverse 2-D DCT was calculated to obtain the image Y. The mean square error between image X and image Y is calculated and assigned to frequency points f 1 and f 2 .
AFT 계산에 이용되는 화상 샘플의 바람직한 개수는 파레이 분수 스페이스의 차수가 증가함에 따라 실질적으로 증가하는 경향이 있다. 예컨대, N=12인 경우, 단위 구간당 총 46개의 광 감지 소자가 사용된다. 이러한 픽셀 밀도를 가지는 화상 센서를 제조하는 것은, 상위 차수의 AFT 계수가 인접한 픽셀의 보간에 의해 바 람직하게 추정되는 경우에, 실용적이지 않고 비용이 많이 들 수 있다. 차수가 M, M+1, ... N-1인 필터에 대해 이용되는 파레이 샘플링 포인트는 이용 가능한 샘플의 세트로부터 또는 특정 필터, 바람직하게는 최상위 차수의 필터 N(상기 주어진 예에서는 차수가 12인 필터)에 의해 처리되는 샘플의 세트로부터 보간 처리될 수 있다. 어느 경우든, 예시된 보간 시스템에 대하여 이하 상세하게 설명한다. The preferred number of image samples used for AFT calculation tends to increase substantially as the order of the parlay fractional space increases. For example, when N = 12, a total of 46 photosensitive devices are used per unit section. Producing an image sensor having such a pixel density is not practical and expensive when the higher order AFT coefficient is preferably estimated by interpolation of adjacent pixels. The parlay sampling point used for filters of order M, M + 1, ... N-1 is determined from the set of available samples or a particular filter, preferably filter N of the highest order (
상위 차수의 2-D AFT 계수(차수가 8, 9, 10 및 11인 계수)를 계산하기 위한 추가 방법으로서, 상위 차수의 계수는 이웃하는 상위 차수의 분수로서 계산된다. 구체적으로 말해서, 하나 이상의 상위 차수의 계수는 정확한 파레이 샘플링 포인트를 이용하여 먼저 계산되고, 그 외의 상위 차수의 계수가 이들 정확한 값으로부터 다음과 같이 추정될 수 있다. 화상 A가 대역이 제한되어 있으며 나이키스트 주파수의 절반을 넘는 주파수 성분을 가지고 있지 않다고 가정하면, 각각의 이웃하는 상위 차수의 푸리에 급수 계수들 사이의 상관은 통상적으로 매우 높게 된다. 또한, 짝수의 푸리에 급수 계수(이 예에서는 계수가 8, 10, 12)가 서로 높게 상관되는 경향을 갖는다는 것을 나타내고, 마찬가지로 홀수 푸리에 급수 계수(이 예에서는 계수가 9, 11)가 서로 높게 상관되는 경향을 갖는다는 것을 시뮬레이션이 나타낸다. 이에 따라, 하나의 짝수인 상위 차수의 푸리에 계수를 알고 있는 경우, 다른 짝수인 상위 차수의 계수를 추정할 수 있게 된다. 마찬가지로, 하나의 홀수인 상위 차수의 푸리에 계수를 알고 있는 경우, 다른 홀수인 상위 차수의 계수를 추정할 수 있게 된다. 예를 들어, 차수가 7인 파레이 분수 스페이스와 차수가 12인 필터가 사용되는 경우, 차수가 9인 필터는 짝수인 상위 차수의 계수를 추정하는데 이 용될 수 있다. 이러한 추정(앨리어싱 보정을 위한 것임)에 대해 적합한 샘플 스페이스의 예가 도 9에 도시되어 있으며, 여기서 광 감지 소자의 위치는 파레이 분수 2j/n으로 정의되어 있다. 여기서, j=0, 1, 2, ... n-1이며, n=1, 2, 3, 4, 5, 6, 7, 9 및 12이다. As a further method for calculating the higher order 2-D AFT coefficients (coefficients of
또한, 단일의 시스템은, (a) 상위 차수의 파레이 분수 위치에서 센서를 추가하고, (b) 적절한 상위 차수의 위치에서 입력되는 신호의 값을 추정하기 위하여 기존의 센서로부터 값을 보간하는, 상기 언급한 기술을 조합할 수 있다. 예를 들어, 도 9에 도시된 바와 같이, 원하는 상위 차수의 픽셀 위치(906)가 하위 차수의 픽셀 위치(904)에 매우 근접한 경우, 및 하위 차수 위치(904)에 센서가 있는 경우에, 상위 차수의 위치(906)에 센서를 위치시키는 것이 아니라, 보간에 의해 상위 차수의 픽셀(906)에 대한 추정된 값을 계산하는 것이 바람직할 수 있다. 그러나, 원하는 상위 차수의 위치(910)가 가장 인접한 하위 차수의 픽셀(908, 912)로부터 멀리 이격되어 있는 경우, 상위 차수의 위치(910)에 있는 센서 어레이에 여분의 센서를 추가하는 것이 바람직할 수 있다. In addition, a single system may comprise (a) adding a sensor at a higher order parley fractional position, and (b) interpolating a value from an existing sensor to estimate the value of the signal input at the appropriate higher order position. The techniques mentioned can be combined. For example, as shown in FIG. 9, when the desired higher
도 16은 본 발명에 따라 화상 감지 및 처리를 위한 과정의 예를 개략적으로 나타낸다. 픽셀 값(1602)은 상기 식 14에 따라 필터 S(n, m)을 계산하도록 처리된다(단계 1604). 보정되지 않은 AFT 계수 xk ,l의 세트는 필터값 S(n, m)에 기초하여 계산된다(단계 1606). 전체 화상과 각각의 행렬이 논제로(non-zero) DC 성분을 갖는다면, 평균값 보정은 필요하지 않다(단계 1608). 따라서, AFT 계수 xk ,l는, 식 15e~15h에서 예시하는 바와 같이, DCT 계수(1618)를 유도하기 위해 파워가 정격화된다(단계 1616). 그러나, 평균값 보정이 적절하다면(단계 1608), 평균값 보정량이 계산되어(단계 1610), 보정된 계수 Ac(k,l)에 대한 AFT 계수 xk ,l을 보정하는데 이용된다(단계 1612). 앨리어싱 보정이 필요하지 않은 경우(단계 1614), 처리 과정은 단계 1616으로 진행된다. 그러나, 앨리어싱 보정이 적절하다면(단계 1614), 앨리어싱 보정이 상기 언급한 바와 같이 계산되고(단계 1620), 앨리어싱이 보정된 계수 ACC(k,l)을 유도하기 위한 DC 보정된 AFT 계수 Ac(k,l)를 추가로 보정하는데 이용된다(단계 1622). DCT 계수(1618)는 앨리어싱 보정된 AFT 계수 ACC(k,l)에 기초하여 계산된다(단계 1616). 16 schematically illustrates an example of a process for image sensing and processing in accordance with the present invention. The
상술한 바와 같이, 센서 어레이 내의 이웃하는 센서로부터 측정된 값의 보간은 센서의 위치에 인접한 픽셀의 값을 추정하는데 이용될 수 있다. 예를 들어, 도 3에 도시된 단위 영역(300)을 참조하면, 본 발명의 AFT 방법이 균일하게 이격된 위치(398)에 위치한 센서를 갖는 통상적인 센서 어레이에 이용될 수 있는 경우, 파레이 분수에 기초한 위치(348)에서의 화상의 값을 추정하기 위하여 보간법이 이용될 수 있다. 이러한 계산 방법이 도 15에 도시된 디지털 필터(1502) 등의 디지털 신호 처리기에 의해 수행된다면, 특정한 파레이 분수 위치(345)에서의 값의 계산은, 예컨대 가장 인접해 있으며 균일하게 이격된 위치(394, 395, 396, 397)에 위치한 센서에 의해 생성되는 각각의 값의 평균값을 계산함으로써 수행될 수 있다. As discussed above, interpolation of values measured from neighboring sensors in the sensor array can be used to estimate the value of a pixel adjacent to the sensor's location. For example, referring to the
도 13은 보간된 픽셀값을 이용하여 AFT 계술 유도하는 과정의 예를 나타낸 다. 예시된 처리 과정에서, 입력되는 화상 신호는 센서 어레이가 수신한다(단계 1302). 이 센서 어레이는, 예컨대 균일하게 분포된 공간 위치를 가진 센서를 포함하는 종래의 어레이가 될 수 있다. 입력되는 신호는 복수 개의 센서 신호를 생성하기 위해 어레이의 센서에 의해 검출된다(단계 1304). 이 센서 신호는, 예컨대 신호를 평균화함으로써 센서 신호를 보간하는(단계 1308) 보간 회로에 의해 수신되며(단계 1306), 이에 의하여 상술한 바와 같이 파레이 분수에 의해 정의되는 위치에서의 픽셀 값을 나타내는 보간된 신호 세트를 생성하게 된다. 보간된 신호는 도 10에 도시된 아날로그 필터(1022) 또는 도 15에 도시된 디지털 필터(1502) 등의 필터 장치에 의해 수신된다(단계 1310). 필터(1022 또는 1502)는 각각의 필터링 처리된 신호를 생성하기 위하여 각각의 보간된 신호 세트의 각각의 가중된 합을 유도한다(단계 1316). 예를 들어, 보간된 신호의 제1 세트의 가중된 합은 제1 필터링된 신호를 생성하도록 유도되며(단계 1312), 보간된 신호의 제2 세트의 가중된 합은 제2 필터링된 신호를 생성하도록 유도된다(단계 1314). 아날로그 필터 장치(1022)를 사용하는 경우, 단계 1312 및 1314에서 유도된 가중된 합은 도 14에 도시된 과정에 따라 작성될 수 있다. 예시된 필터링 과정(1312 또는 1314)에서, 특정의 행렬로부터 보간된 신호는 각각의 증폭된 신호를 생성하기 위하여 적절한 이득으로 증폭된다(단계 14080. 예를 들어, 보간된 제1 신호는 제1 이득으로 증폭되어 제1 증폭 신호를 생성하고(단계 1402), 보간된 제2 신호는 제2 이득으로 증폭되어 제2 증폭 신호를 생성한다(단계 1404). 이 결과로서의 증폭된 신호는 통합되어 필터링된 신호를 생성하게 된다(단계 1406). 13 shows an example of a process of deriving AFT algorithm using interpolated pixel values. In the illustrated process, the input image signal is received by the sensor array (step 1302). This sensor array can be, for example, a conventional array comprising sensors with uniformly distributed spatial positions. The input signal is detected by the sensors of the array to generate a plurality of sensor signals (step 1304). This sensor signal is received by an interpolation circuit that interpolates the sensor signal (step 1308), for example by averaging the signal (step 1306), thereby interpolating a pixel value at a position defined by the parlay fraction as described above. Will generate a set of signals. The interpolated signal is received by a filter device such as the
일단 각각의 필터 출력 S(m,n)이 유도되면, 2-D AFT 계수가 유도된다(단계 1112). AFT 계수를 유도하기 위하여(단계 1112), 필터 출력은 상기 식 15a~15d에 대하여 설명한 것과 같이 모비우스 함수의 적절한 값을 이용하여 가중처리되며(단계 1114), 그 결과인 가중처리된 신호가 식 15a~15d에 따라 가산된다(단계 1116). Once each filter output S (m, n) is derived, a 2-D AFT coefficient is derived (step 1112). To derive the AFT coefficients (step 1112), the filter output is weighted using the appropriate values of the Mobius function as described for equations 15a-15d above (step 1114), and the resulting weighted signal is It is added according to 15a-15d (step 1116).
계산 효율을 더 개선하는 것은 상기 언급한 보간을 수행하기 위하여 아날로그 회로를 이용하여 달성될 수 있다. 도 18은 추가의 픽셀(1808, 1810, 1812)[행(1814) 및 열(1816)의 픽셀]을 유도하기 위하여 센서 어레이부(1802)의 센서(1806)으로부터 픽셀 값을 보간하기 위한 예시적인 아날로그 보간 회로(1804)를 나타내며 본 발명에 따른 AFT 계산에 이용된다. 행(1814)의 픽셀(1808)을 보간하기 위하여, 행(1818, 1820)의 픽셀(1826)이 이용된다. 마찬가지로, 열(1816)의 픽셀(1810)을 보간하기 위하여, 열(1822, 1824)의 픽셀(1828)이 이용된다. 대상이 되는 픽셀은 그 이웃하는 픽셀로부터 반드시 등가의 거리만큼 이격되어 있을 필요는 없지만, 0.5%의 오차를 갖는 등가의 거리를 갖는 것으로 추정될 수 있다. 따라서, 각각의 보간된 픽셀 값은 2개의 이웃하는 픽셀 값의 평균값으로서 근사된다. 행(1814)과 열(1816)이 교차하는 위치에 픽셀(1812)이 있는 경우가 있다. 이 픽셀 값은 4개의 이웃하는 픽셀[교차점(1818, 1822), (1818, 1824), (1820, 1822), (1820, 1824)에서의 픽셀값(1830)]의 평균값으로서 보간될 수 있다. 대상이 되는 픽셀이 이웃하는 픽셀로부터 등가의 거리에 있다고 하면, 최대 개수의 샘플링 커패시터를 사용할 수 있다. Further improving the computational efficiency can be achieved using analog circuitry to perform the above-mentioned interpolation. 18 illustrates an example for interpolating pixel values from
보간 회로(1804)를 이용하여 필터 S(3, 12)를 계산하는 예시적인 타이밍 사 이클은 다음과 같다. An exemplary timing cycle for calculating filters S (3, 12) using
1. n=3, m=12,1.n = 3, m = 12,
2. Φ3 int=1, Φi int=0, 여기서, i=1,2,4,5,6,7,12,2.Φ 3 int = 1, Φ i int = 0, where i = 1,2,4,5,6,7,12,
3. 열 0을 선택3.
4. Φ2 s2=1, Φ8 s2=1, 그외 Φi sj=04.Φ 2 s2 = 1, Φ 8 s2 = 1, Φ i sj = 0
5. 차지(charge)를 적분기(1832)로 이전, Φt=1, Φi sj=05. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
6. 열 1/6을 선택6.
7. Φ1 sl=1, Φ8 sj=1, 그외 Φi sj=07.Φ 1 sl = 1, Φ 8 sj = 1, Φ i sj = 0
8. 차지를 적분기(1832)로 이전, Φt=1, Φi sj=08. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
9. 열 1/3 선택9.
10. Φ1 s1=1, Φ8 s1=1, 그외 Φi sj=010.Φ 1 s1 = 1, Φ 8 s1 = 1, Φ i sj = 0
11. 차지(charge)를 적분기(1832)로 이전, Φt=1, Φi sj=011. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
12. 열 1/2을 선택12.
13. Φ1 sl=1, Φ8 sj=1, 그외 Φi sj=013.Φ 1 sl = 1, Φ 8 sj = 1, Φ i sj = 0
14. 차지를 적분기(1832)로 이전, Φt=1, Φi sj=014. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
15. 열 2/3 선택15.
16. Φ1 s1=1, Φ8 s1=1, 그외 Φi sj=016.Φ 1 s1 = 1, Φ 8 s1 = 1, Φ i sj = 0
17. 차지(charge)를 적분기(1832)로 이전, Φt=1, Φi sj=017. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
18. 열 4/5을 선택-보간열18.
13. Φ1 s2=1, Φ8 s2=1, 그외 Φi sj=0, 열 4/5에서의 값은 이득 4가 아닌 이득 2로 샘플링되는 것에 주의13. Note that the values in Φ 1 s2 = 1, Φ 8 s2 = 1, Φ i sj = 0,
20. 차지를 적분기(1832)로 이전, Φt=1, Φi sj=020. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
21. 열 6/7 선택 - 보간열21.
22. Φ1 s2=1, Φ8 s2=1, 그외 Φi sj=0, 열 6/7에서의 값은 이득 4가 아닌 이득 2로 샘플링되는 것에 주의22. Note that the values in Φ 1 s2 = 1, Φ 8 s2 = 1, Φ i sj = 0,
23. 차지를 적분기(1832)로 이전, Φt=1, Φi sj=023. Transfer charge to integrator (1832), Φ t = 1, Φ i sj = 0
24. 적분기 출력을 샘플링, Φs3=124. Sampling integrator output, Φ s3 = 1
25. Φ12 amp=1, Φi amp=0, 여기서, i=1,2,4,5,6,725.Φ 12 amp = 1, Φ i amp = 0, where i = 1,2,4,5,6,7
26. 차지를 증폭기(1834)로 이전, Φs3=0, Φt3=126. Transfer charge to
27. ADC(1836)를 이용하여 AD 변환을 수행하고, 디지털 값 S(3, 12)를 RAM(1838)에 저장27. Perform AD
28. 적분기와 증폭기를 리셋28. Reset the integrator and amplifier
표 4는 본 발명의 AFT 방법을 포함하는, 1-D, 8-포인트 DCT를 계산하기 위한 여러 가지 방법의 계산 효율을 비교한 것을 나타낸다. 이 비교는 1-D DCT를 계산하기 위해 이용된 여러 가지 연산 종류의 각각의 개수들의 항으로 표현된다. Table 4 shows a comparison of the computational efficiencies of the various methods for calculating 1-D, 8-point DCT, including the AFT method of the present invention. This comparison is expressed in terms of the respective numbers of the various types of operations used to calculate the 1-D DCT.
표 4로부터 알 수 있는 바와 같이, 연산의 전체 개수와 관련하여, 본 발명의 AFT 방법은 1-D DCT를 계산하기 위한 가장 효율적인 종래의 방법보다 대략 3.4배 효율적이다. 또한, 2-D DCT에서의 전체 연산의 개수는 1-D DCT에서의 계산의 개수의 대략 제곱에 비례하기 때문에, 본 발명의 AFT 방법은 2-D DCT를 계산하기 위한 가장 효율적인 종래의 방법에 비해 대략 12배 정도 효율적이다. 또한, AFT 계산에서의 곱셈은 각각의 픽셀 강도(밝기)의 프리 스케일링을 정수 값만큼 포함하기 때문에, 이들 곱셈은 도 10에 도시된 필터(1022) 등의 아날로그 회로를 이용하여 용이하게 구현될 수 있다. 대부분의 디지털 곱셈을 효과적으로 제거함으로써, 이러한 아날로그 필터(1022)에 의해, 본 발명의 AFT 시스템은 가장 효과적인 종래의 시스템에 비해 계산을 73배 더 적게 이용하게 된다. As can be seen from Table 4, in terms of the total number of operations, the AFT method of the present invention is approximately 3.4 times more efficient than the most efficient conventional method for calculating 1-D DCT. Also, since the total number of operations in the 2-D DCT is proportional to approximately the square of the number of calculations in the 1-D DCT, the AFT method of the present invention is the most efficient conventional method for calculating the 2-D DCT. It is about 12 times more efficient. In addition, since the multiplication in the AFT calculation includes the prescaling of each pixel intensity (brightness) by an integer value, these multiplications can be easily implemented using an analog circuit such as the
본 발명을 특정의 예시된 실시예와 관련하여 설명하였지만, 첨부된 청구범위에 개시된 바와 같이 본 발명의 정신과 범위로부터 벗어남이 없이 개시된 실시예에 따라 다양한 변경 및 변형이 가능하다는 것을 알 수 있을 것이다. While the present invention has been described in connection with specific exemplary embodiments, it will be appreciated that various modifications and variations can be made in accordance with the disclosed embodiments without departing from the spirit and scope of the invention as set forth in the appended claims.
부록 AAppendix A
본 부록 A는 이하의 관계식을 증명한다.This Appendix A demonstrates the following relationship.
필터의 출력은 다음과 같다.The output of the filter is
그리고 화상 A의 푸리에 급수 전개는 수학식 (6) 및 수학식 (7)에 의해 주어지며 이것은 다음과 같이 다시 표현된다.And the Fourier series expansion of the image A is given by the equations (6) and (7), which is expressed again as follows.
그러므로 필터의 출력 공식(식 (A-2))는 다음과 같이 다시 표현될 수 있다.Therefore, the filter's output formula (Equation (A-2)) can be rewritten as
합 순서를 다시 배열하면, 식 (A-4)는 식 (A-5)와 같이 다시 표현될 수 있다.By rearranging the sum order, equation (A-4) can be represented again as equation (A-5).
관계식 (A-6)을 대입하면, 필터의 출력은 식 (A-7)과 같이 된다.Substituting the relation (A-6), the output of the filter is as shown in the formula (A-7).
부록 BAppendix B
본 부록은 다음의 관계식을 증명한다.This appendix demonstrates the following relationship.
크로네커 함수는 다음과 같이 정의된다.The Kronecker function is defined as
m 및 n의 값은 양의 정수이며 합산은 양의 정수를 정확하게 나누는 m/n, 모든 양의 정수 값에 대해 수행된다.The values of m and n are positive integers and the summation is performed on all positive integer values m / n, which correctly divides the positive integers.
식 (B-1)에서 상기 관계식을 증명하기 위해, 식 (B-3) 및 식 (9)를 사용하여 다음의 관계식을 유도할 수 있다.In order to prove the relationship in equation (B-1), equations (B-3) and (9) can be used to derive the following relationship.
부록 CAppendix C
2D DCT 및 2D AFT 계수 등가성2D DCT and 2D AFT Coefficient Equivalence
화상 X는 단위 영역 서브 화상 A(도 1에 도시된 바와 같이)의 확장판이다.Image X is an expanded version of the unit area sub image A (as shown in FIG. 1).
나이키스트 재구성 공식의 2차원 경우에 따르면, 계속적인 화상 X는 다음과 같이 그 샘플들에 의해 표현될 수 있다.According to the two-dimensional case of the Nyquist reconstruction formula, the continuous picture X can be represented by the samples as follows.
일반성을 손상시킴이 없이, 샘플링 주기 T는 양쪽 치수가 동일하고 1/8과 같다고 가정한다. 그 결과, 16x16 샘플이 존재한다. 화상 X는 주기 2x2 단위로 주기적인 것으로 가정한다. 그러므로, 식 (C-1)은 다음과 같이 표현될 수 있다.Without compromising generality, the sampling period T is assumed to be equal in both dimensions and equal to 1/8. As a result, there are 16x16 samples. It is assumed that the image X is periodic in units of 2x2 periods. Therefore, formula (C-1) can be expressed as follows.
역 푸리에 변환 및 포이슨 공식의 2중 형태를 사용하면 사인 함수의 합산이 식 (C-3)의 우측과 같다는 것을 알 수 있다.Using the dual form of the inverse Fourier transform and the Poisson formula, we can see that the sum of the sine functions is equal to the right side of equation (C-3).
식 (C-3)에 기초하여, 식 (C-2)를 다음과 같이 표현할 수 있다.Based on Formula (C-3), Formula (C-2) can be expressed as follows.
X(p, q)는 화상 A(p, q)의 확장판이기 때문에, 식 (C-5)에 표시된 바와 같이, 식 (C-4)는 식 (C-6)으로 다시 표현될 수 있다.Since X (p, q) is an extension of the image A (p, q), as shown in equation (C-5), equation (C-4) can be represented again by equation (C-6).
코사인 함수의 적항(product term)은 다음과 같다.The product term of the cosine function is
상기 적항을 식 (C-7)으로 대체하여 합산의 순서를 다시 배열하면, 식 (C-6)은 다음과 같이 된다.If the order of addition is rearranged by replacing the equator with the formula (C-7), the formula (C-6) becomes as follows.
식 (C-8)로부터 (n, m) 합산 항은 k 및 l의 부호에 의존하지 않는 것을 알 수 있다. 또한 식 (C-10)에 주어진 2차원 DCT의 정의에 따르면, 식 (C-8)는 다음과 같이 표현될 수 있다.It can be seen from the formula (C-8) that the (n, m) sum term does not depend on the signs of k and l. Also according to the definition of the two-dimensional DCT given in equation (C-10), equation (C-8) can be expressed as follows.
2차원 DCT의 정의는 다음과 같다.The definition of the two-dimensional DCT is as follows.
여기서here
식 (C-9)는 그러므로 다음과 같이 표현될 수 있다.Equation (C-9) can therefore be expressed as
또한, 확장된 화상 X(p, q)는 그 2차원 푸리에 급수에 의해 다음과 같이 나타낼 수 있다.Further, the expanded image X (p, q) can be represented as follows by the two-dimensional Fourier series.
여기서 xk ,l(k,l=1,2..8)는 확장된 화상 X의 2D AFT 계수이다. 식(C-12)의 제2 및 제3 항은 로컬 로우 및 컬럼 비-제로 평균값(local row and column non-zero mean values)의 존재로 인한 것이다. 제2 항의 안의 계수들은 로우-평균의 1D AFT로서 계산되며 제3 항의 안의 계수들은 컬럼-평균의 1D AFT로서 계산된다.Where x k , l (k, l = 1,2..8) are the 2D AFT coefficients of the extended image X. The second and third terms of equation (C-12) are due to the presence of local row and column non-zero mean values. The coefficients in the second term are calculated as the 1D AFT of the row-average and the coefficients in the third term are calculated as the 1D AFT of the column-average.
화상 X(t,τ)의 대표식 (C-11) 및 (C-12) 및 양 공식에서의 직교 코사인 함수를 대입하면, 2D AFT 및 DCT 계수는 각각의 DCT 계수에서 곱셈 상수 인자를 제외하고는 동일하다는 결론을 내릴 수 있다.Substituting the orthogonal cosine functions in the formulas (C-11) and (C-12) and the two formulas of the image X (t, τ), the 2D AFT and DCT coefficients are excluded from the multiplying constant factors in the respective DCT coefficients. We can conclude that is the same.
Claims (30)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020067001694A KR20060065648A (en) | 2006-01-24 | 2003-07-24 | System and method for image sensing and processing |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020067001694A KR20060065648A (en) | 2006-01-24 | 2003-07-24 | System and method for image sensing and processing |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20060065648A true KR20060065648A (en) | 2006-06-14 |
Family
ID=37160773
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020067001694A KR20060065648A (en) | 2006-01-24 | 2003-07-24 | System and method for image sensing and processing |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20060065648A (en) |
-
2003
- 2003-07-24 KR KR1020067001694A patent/KR20060065648A/en not_active Application Discontinuation
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP0826195B1 (en) | Image noise reduction system using a wiener variant filter in a pyramid image representation | |
US6408109B1 (en) | Apparatus and method for detecting and sub-pixel location of edges in a digital image | |
US5325449A (en) | Method for fusing images and apparatus therefor | |
US6285804B1 (en) | Resolution improvement from multiple images of a scene containing motion at fractional pixel values | |
EP2826022B1 (en) | A method and apparatus for motion estimation | |
KR100362038B1 (en) | Computationally Efficient Method for Estimating Burn Motion | |
US9275463B2 (en) | Stereo image processing device and stereo image processing method | |
CN102356631A (en) | Image processing device, signal processing device, and program | |
Narayanaperumal et al. | VLSI Implementations of Compressive Image Acquisition using Block Based Compression Algorithm. | |
US8711268B2 (en) | Methods and apparatuses for anti-shading correction with extended color correlated temperature dependency | |
JP2003150956A (en) | Method for spatial filtering digital image for noise elimination, noise estimation or digital image highlighting | |
US20090310872A1 (en) | Sparse integral image descriptors with application to motion analysis | |
KR20030020357A (en) | Method and apparatus for enhancing data resolution | |
WO2011101662A1 (en) | Method and system for generating enhanced images | |
US20110134291A1 (en) | Image-processing device for color image data and method for the image processing of color image data | |
CN107623844B (en) | Determination of color values of pixels at intermediate positions | |
KR20150029590A (en) | Method and associated apparatus for correcting color artifact of image | |
EP3411831A1 (en) | Adaptive bilateral (bl) filtering for computer vision | |
US5887084A (en) | Structuring a digital image into a DCT pyramid image representation | |
US7751642B1 (en) | Methods and devices for image processing, image capturing and image downscaling | |
US20080239155A1 (en) | Low Complexity Color De-noising Filter | |
EP1649406A1 (en) | System and method for image sensing and processing | |
CN108701353B (en) | Method and device for inhibiting false color of image | |
EP0826192A1 (en) | A system and method for sample rate conversion of an image using discrete cosine transforms | |
WO2008086037A2 (en) | Color filter array interpolation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
WITN | Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid |