KR0171146B1 - 특징점을 이용한 움직임 벡터 검출 장치 - Google Patents

특징점을 이용한 움직임 벡터 검출 장치 Download PDF

Info

Publication number
KR0171146B1
KR0171146B1 KR1019950005713A KR19950005713A KR0171146B1 KR 0171146 B1 KR0171146 B1 KR 0171146B1 KR 1019950005713 A KR1019950005713 A KR 1019950005713A KR 19950005713 A KR19950005713 A KR 19950005713A KR 0171146 B1 KR0171146 B1 KR 0171146B1
Authority
KR
South Korea
Prior art keywords
feature point
frame
rhombic
feature points
motion vector
Prior art date
Application number
KR1019950005713A
Other languages
English (en)
Other versions
KR960036750A (ko
Inventor
이민섭
Original Assignee
배순훈
대우전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 배순훈, 대우전자주식회사 filed Critical 배순훈
Priority to KR1019950005713A priority Critical patent/KR0171146B1/ko
Priority to US08/446,351 priority patent/US5581308A/en
Priority to EP19950107989 priority patent/EP0734178A3/en
Priority to CN95105516A priority patent/CN1131876A/zh
Priority to JP18208895A priority patent/JPH08265781A/ja
Publication of KR960036750A publication Critical patent/KR960036750A/ko
Application granted granted Critical
Publication of KR0171146B1 publication Critical patent/KR0171146B1/ko

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/537—Motion estimation other than block-based
    • H04N19/54—Motion estimation other than block-based using feature points or meshes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/14—Picture signal circuitry for video frequency region
    • H04N5/144—Movement detection
    • H04N5/145—Movement estimation

Abstract

본 발명은 특징점에 기초한 움직임 추정 방법을 이용하여 움직임 벡터를 검출하는 장치에 관한 것으로, 모든 특징점에 대한 초기 움직임 벡터를 검출하는 움직임 벡터 검출 장치와; 상기 특징점의 각각을 순차적으로 서브젝트 특징점로서 선택하여, 상기 각각의 서브젝트 특징점이 인접하는 네개의 특징점으로 둘러 싸여져서 마름모형 이전 프레임을 형성하는 특징점 레지스터와; 상기 제1세트의 초기 특징점들을 저장하는 움직임 벡터 저장 레지스터와; 상기 각각의 서브젝트 특징점에 대한 초기 움직임 벡터에 N개의 변위를 줌으로써 각각의 서브젝트 특징점에 대한 N개의 후보 움직임 벡터를 생성하는 움직임 벡터 변위 발생기와; 네개의 특징점의 초기 움직임 벡터와 상기 네개의 특징점에 의해 둘러 싸이는 서브젝트 특징점의 N개의 후보 움직임 벡터를 이용하여 마름모형 이전 프레임내에 포함된 화소들의 제2세트의 움직임 벡터를 검출하고, 예측된 마름모형 현재 프레임내 화소를 상기 제2세트의 움직임 벡터를 이용하여 생성하여 그의 화소값을 할당하는 움직임 보상기와; 마름모형 현재 프레임과 그에 대응하는 예측된 마름모형 현재 프레임 각각 간의 차를 계산하여 각각의 마름모형 이전 프레임마다 N개의 차의 합을 생성하는 감산기 및 가산기와; 최저 차를 수반하는 하나의 차의 합에 대응하는 하나의 움직임 벡터를 상기 N개의 후보 움직임 벡터로부터 선택하는 선택기를 포함한다.

Description

특징점을 이용한 움직임 벡터 검출 장치
제1도는 본 발명의 움직임 추정 장치를 이용하는 영상신호 부호화기의 블록도.
제2도는 제1도에 도시된 움직임 추정 장치의 상세 블록도.
제3도는 프레임내에서 특징점을 규정하는 예시적인 도면.
제4도는 특징점을 선택하는 정방형 그리드의 형태를 예시하는 도면.
제5도는 서브젝트 특징점으로부터 구성되는 마름모형 이전 프레임을 예시하는 도면.
제6도는 움직임 벡터에 의해 이동된 마름모형 현재 프레임을 예시하는 도면.
* 도면의 주요부분에 대한 부호의 설명
105 : 영상신호 부호화기 107 : 엔트로피 부호화기
122 : 움직임 예측 장치 126 : 움직임 추정 장치
210 : 특징점 선택기 212 : 특징점 움직임 벡터 검출 장치
218 : 움직임 벡터 변위 발생기 230 : 움직임 보상기
240 : 비교기 242 : 선택기
본 발명은 비디오 신호를 부호화하는 영상 처리 장치에 관한 것으로서, 특히 반복적인 정합 오차 비교를 통하여 비디오 신호의 현재 프레임과 그의 이전 프레임간의 특징점의 움직임 벡터를 검출하는 장치에 관한 것이다.
주지된 바와 같이, 디지탈 영상신호의 전송은 아나로그 신호보다 좋은 화질을 유지할 수 있다. 일련의 영상 프레임으로 구성된 영상신호가 디지탈 형태로 표현될 때, 특히 고품질 텔레비젼의 경우 상당한 양의 데이타가 전송되어야 한다. 그러나 종래의 전송 채널의 사용가능한 주파수 영역은 제한되어 있으므로, 많은 양의 디지탈 데이타를 전송하기 위해서는 전송되는 데이타를 압축하여 그 양을 줄일 필요가 있다. 다양한 압축 기법 중에서, 확률적 부호화 기법과 함께 시간적, 공간적 압축기법을 결합한 하이브리드 부호화(hybrid coding) 기법이 가장 효율적인 것으로 알려져 있다.
대부분의 하이브리드 부호화 기법은 움직임 보상 DPCM(차분 펄스 부호 변조), 2차원 DCT(이산 코사인 변환), DCT계수의 양자화, VLC(가변장부호화)등을 이용한다. 움직임보상 DPCM은 현재 프레임과 이전 프레임간의 물체의 움직임을 결정하고, 물체의 움직임에 따라 현재 프레임을 예측하여 현재 프레임과 예측된 현재 프레임간의 차이를 나타내는 차분신호를 만들어내는 방법이다. 이 방법은 예를 들어 Staffan Ericsson의 Fixed and Adaptive Predictors for Hybrid Predictive/Transform Coding, IEEE Transactions on Communication, COM-33, NO.12 (1985년, 12월), 또는 Ninomiy와 Ohtsuka의 A motion Compensated Interframe Coding Scheme for Television Pictures, IEEE Transactions on Communication, COM-30, NO.1 (1982년, 1월)에 기재되어 있다.
상술하면, 움직임보상 DPCM에서는 현재 프레임과 이전 프레임간에 추정된 물체의 움직임에 따라, 현재 프레임을 이전 프레임으로부터 예측한다. 추정된 움직임은 이전 프레임과 현재 프레임간의 변위를 나타내는 2차원 움직임 벡터로 나타낼 수 있다.
물체의 변위를 추정하는 데에는 여러가지 접근방법이 있다. 이들은 일반적으로 두개의 타입으로 분류되는데 하나는 블록단위 방법이고 또 하나는 화소단위 움직임 추정이다.
블록단위 움직임 추정에서는, 현재 프레임의 블록을 이전 프레임의 블록들과 비교하여 최적 정합블록을 결정한다. 이로부터, 전송되는 현재 프레임에 대해 블록 전체에 대한 프레임간 변위 벡터(프레임간에 블록이 이동한 정도)가 추정된다. 그러나, 블록단위 움직임 추정에서는 움직임 보상과정에서 블록경계에 블록킹 효과(blocking effect)가 발생할 수 있다.
한편, 화소단위 방법을 이용하면, 변위는 각각의 화소 전부에 대해 구하여진다. 이 방법은 화소값을 더 정확히 추정할 수 있고 스케일변화(예를들어, 영상면에 수직한 움직임인 주밍(zooming)도 쉽게 다룰 수 있다. 그러나 화소단위 방법에서는, 움직임 벡터가 모든 화소 각각에 대해 결정되기 때문에 사실상 모든 움직임 벡터를 수신기에 전송하는 것은 불가능하다.
그러므로, 선택된 한 세트의 화소, 즉, 특징점에 대한 움직임 벡터를 수신측에 전송하는데, 이러한 특징점은 인접 화소들을 대표할 수 있는 화소로서, 비특징점의 움직임 벡터는 그 특징점의 움직임 벡터로부터 복원될 수 있다. 기본적으로, 본 발명은 특징점을 이용하는 움직임 추정에 관한 것이다. 특징점에 기초한 움직임 추정을 채택하는 부호화기에 있어서, 먼저 이전 프레임내에 포함된 모든 화소로부터 다수의 특징점이 선택된다.
그다음, 선택된 각각의 특징점의 움직임 벡터가 결정되는데, 여기서 각각의 움직임 벡터는 이전 프레임내 하나의 특징점과 현재 프레임내에서 대응하는 정합접, 즉, 가장 유사한 화소간의 공간적 변위이다. 상세히 말해서, 특징점 각각에 대한 정합점은 현재 프레임내에서 해당 특징점의 위치를 둘러싸는 기설정 영역으로 규정되는 탐색 영역에서 탐색된다.
그러나, 상술한 바와 같은 특징점을 이용한 움직임 벡터의 추정에 있어서, 블록내의 모든 화소가 한 방향으로 이동하지 않는 경우에는 추정값이 올바르지 않아서 그 결과 부호화 효율이 감소한다는 단점을 갖는다.
그러므로, 본 발명의 목적은 특징점의 움직임 벡터를 정확하게 검출하는 장치를 제공하는 것이다.
본 발명의 일실시예에 따르면, 특징점에 기초한 움직임 추정 방법을 이용하여 비디오 신호의 현재 프레임과 그의 이전 프레임간의 움직임 벡터를 검출하는 장치로서, 상기 이전 프레임은 정방형 그리드를 구성하는 다수의 특징점을 가지며, 각각의 특징점은 그 프레임내 물체의 움직임을 나타낼 수 있는 화소점이 되는 상기 장치는, 상기 모든 특징점에 대한 초기 움직임 벡터를 검출하는 수단과, 상기 각각의 초기 움직임 벡터는 상기 특징점들중의 어느 하나와 상기 현재 프레임내 가장 유사한 화소의 공간적 변위를 나타내며; 상기 특징점의 각각을 순차적으로 서브젝트 특징점으로서 선택하는 수단과, 상기 각각의 서브젝트 특징점은 현재 서브젝트 특징점으로서 선택되지 않은 인접하는 네개의 특징점으로 둘러 싸여져서 마름모형 이전 프레임을 형성하며, 상기 마름모형 이전 프레임은 한 세트의 네개의 삼각형 영역을 가지며, 각각의 삼각형 영역은 하나의 서브젝트 특징점을 기준으로 하여 그 서브젝트 특징점과 그의 인접한 두개의 특징점을 연결하여 구성되며; 상기 제1세트의 초기 특징점들을 저장하는 수단과; 상기 각각의 서브젝트 특징점에 대한 초기 움직임 벡터 N개의 변위를 줌으로써 각각의 서브젝트 특징점에 대하여 N개의 후보 움직임 벡터를 생성하는 수단과; 각각의 마름모형 이전 프레임내에 포함된 화소들의 움직임 벡터를 그 마름모형 이전 프레임을 구성하는 네개의 특징점의 초기 움직임 벡터와 상기 네개의 특징점에 의해 둘러 싸이는 서브젝트 특징점의 N개의 후보 움직임 벡터를 사용하여 검출하여 각각의 마름모형 이전 프레임에 대하여 제2의 N세트의 움직임 벡터를 생성하는 수단과; 각각의 상기 마름모형 이전 프레임에 대하여 N개의 예측된 마름모형 현재 프레임을 상기 마름모형 이전 프레임에 대응하는 상기 제2세트의 움직임 벡터를 이용하여 생성하는 수단과, 상기 각각의 예측된 마름모형 현재 프레임내에 포함된 화소 각각의 값은 그 예측된 마름모형 현재 프레임에 대응하는 마름모형 이전 프레임내 화소들중의 하나의 값으로서 할당되며, 상기 마름모형 이전 프레임내 하나의 화소값은 상기 제2세트의 움직임 벡터에 의해 상기 마름모형 이전 프레임에 대응하는 마름모형 현재 프레임내 화소중의 하나에 대응하며; 각각의 마름모형 현재 프레임과 그에 대응하는 예측된 마름모형 현재 프레임 각각 간의 차를 계산하여 각각의 마름모형 이전 프레임마다 N개의 차의 합을 생성하는 수단과; N개의 차의 합마다 최저 차를 수반하는 하나의 차의 합을 선택하는 선택 신호를 생성하는 수단과; 상기 각각의 서브젝트 특징점에 대한 N개의 후보 움직임 벡터를 수신하여, 상기 각각의 선택 신호에 대응하는 하나의 움직임 벡터를 상기 N개의 후보 움직임 벡터마다 선택하는 수단을 포함한다.
이하, 본 발명은 첨부도면을 참조하여 다음과 같이 상세히 설명될 것이다.
제1도에는 본 발명에 따른 움직임 추정 장치(126)을 가진 영상신호 부호화 장치의 블록도가 도시되어 있다.
제1도에 도시된 바와 같이, 입력 디지탈 비디오 신호는 제1현재 프레임의 저장을 위한 제1프레임 메모리(100)와 움직임 추정 장치(126)로 공급된다. 움직임 추정 장치(126)에서는, 제1프레임 메모리(100)로부터 검색된 라인 L10 상의 현재 프레임과 제2프레임 메모리(124)로부터 라인 L12 상의 재구성된 이전 프레임신호를 처리하여 제1세트의 움직임 벡터를 추정하는데, 그 움직임 벡터의 각각은 이전 프레임의 특징점과 현재 프레임의 해당 탐색 영역에 포함된 최적 정합점간의 변위를 나타낸다. 움직임 추정 장치(126)의 상세한 것은 제2도를 참조하여 상세히 설명한다. 움직임 추정 장치(126)로부터 라인 L12 상에 제공되는 움직임 벡터는 움직임 예측 장치(122)와 엔트로피 부호화기(107)에 입력된다.
움직임 예측 장치(122)는 움직임 벡터에 응답하여 화소단위로 예측 신호를 결정하여 라인 L30을 통하여 감산기(102)와 가산기(115)에 제공한다.
움직임 예측 장치(122)로부터 예측 신호는 감산기(102)에서 현재 프레임 신호로부터 감산되고 그 결과 데이타, 즉, 차분화소값을 나타내는 에러신호는 영상신호 부호화기(105)로 입력되어, 이산 코사인변환(DCT)등과 양자화방법을 이용하여 일련의 양자화된 변환계수로 부호화된다. 이 이후에 양자화된 변환계수는 엔트로피 부호화기(107)와 영상신호 복호화기(113)로 전송된다.
엔트로피 부호화기(107)에서는 영상신호 부호화기(105)로부터의 양자화된 변환계수와 라인 L20을 통해 입력된 움직임 벡터가, 줄길이(run-length) 부호화와 가변길이 부호화의 결합등의 방법을 통해 부호화되어 전송된다. 한편, 영상신호 복호화기(113)는 영상신호 부호화기(105)로부터 입력된 양자화된 변환계수들을 역양자화와 역변환을 통해 복원된 차분 에러 신호로 변환된다.
영상신호 복호화기(113)로부터의 복원된 에러 신호와 움직임 예측블럭(126)으로부터 라인 L30을 통해 제공되는 예측된 현재 프레임 신호는 가산기(115)에서 합쳐져서 복원된 현재 프레임 신호가 되어 제2프레임 메모리(124)에 이전 프레임으로 저장된다.
제2도에는 제1도의 움직임 추정 장치(126)의 상세한 블록도가 도시되어 있다. 제2도에 도시된 바와 같이, 제1프레임 메모리(124)로부터의 라인 L12 상의 이전 프레임 신호는 특징점 선택기(210), 특징점 움직임 벡터 검출 장치(212)와 움직임 보상기(230)로 입력된다.
특징점 선택기(210)에서는 이전 프레임에 포함된 화소중 다수의 특징점이 선택된다. 각각의 특징점은 프레임내의 물체의 움직임을 대표할 수 있는 화소로 정의된다. 제3도를 참조하면, 예로, 10×7 화소의 예시적인 프레임이 도시되어 있다. 여기서 이동체가 그 프레임의 중앙을 중심으로 그 근처에 존재하고 이동체가 한 세트의 화소 즉, A로부터 I까지의 화소만으로 잘 표현될 수 있다면, 이 화소들이 이 프레임의 특징점이 된다.
본 발명의 바람직한 실시예에서는, 제3도에 도시된 정방형 그리드(grid)와 같은 형태의 그리드를 이용하는 그리드 기법을 이용하여 특징점이 결정된다. 제3도에 도시된 바와 같이, 특징점은 그리드의 노드에 위치한다. 상술한 그리드 기법은 육각 그리드 또는 모서리 검출 기법을 조합시킨 방법을 포함할 수도 있으며, 이때 그리드와 이동체의 모서리와의 교차점이 특징점으로 선택된다.
제2도를 다시 참조하면, 특징점 선택기(210)로부터의 선택된 특징점은 특징점 저장용 레지스터(216), 특징점 움직임 벡터 검출 장치(212)로 입력된다. 그리고 라인 L10 상의 현재 프레임 신호가 현재 프레임 특징점 움직임 벡터 검출 장치(212)와 감산기(232)로 제공된다.
특징점 움직임 벡터 검출 장치(212)에서는 선택된 특징점 각각에 대한 제1세트의 초기 움직임 벡터가 검출된다. 제1세트의 초기 움직임 벡터 각각은 이전 프레임의 특징점과 현재 프레임에서 가장 유사한 화소간의 변위이다.
화소단위로 움직임 벡터를 검출하는 프로세싱 알고리즘에는 여러가지가 있다. 본 발명의 바람직한 실시예에서는 블록매칭 알고리즘이 사용된다. 즉, 하나의 특징점이 특징점 선택기(210)로부터 수신될 때, 그 중앙에 하나의 특징점을 가지는 특징점 블록, 예를 들면, 5×5 화소의 이전 프레임 데이타를 제2메모리(124)(제1도에 도시됨)로부터 라인 L12를 통해 검색한다. 검색이후, 제1프레임 메모리(100)(제1도에 도시됨)으로부터 탐색 영역, 예를 들면, 10×10 화소의 프레임 데이타에 포함된 동일한 크기의 다수의 후보블록과 특징점 블록과의 유사도를 결정하여 특징점 블록에 대한 초기 움직임 벡터를 결정한다. 모든 특징점에 대해 초기 움직임 벡터를 검출한 후에는 제1세트의 초기 움직임 벡터는 움직임 벡터 저장 레지스터(214)로 제공된다.
한편, 특징점 저장 레지스터(216)에서는 각각의 특징점을 순차적으로 서브젝트(subject) 특징점으로 선택하여 서브젝트 특징점을 움직임 보상기(230)로 제공되는데, 제5도에 도시된 바와 같이, 선택된 서브젝트 특징점(30)은 서브젝트 특징점으로 현재 선택되지 않은 그의 인접한 네개의 특징점으로 둘러 싸여져서, 마름모형의 이전 프레임(10)을 형성하며, 이 마름모형 이전 프레임(10)은 한 세트 네개의 삼각형 영역(11,12,13,14)을 가지고 있으며, 각각의 삼각형 영역은 서브젝트 특징점(30)을 기준으로 하여 그 서브젝트 특징점과 인접한 두개의 특징점을 연결함으로써 구성되어 있다.
움직임 벡터 변위 발생기(214)에서는 각각의 서브젝트 특징점에 대한 초기 움직임 벡터에 대하여 기설정된 N개의 변위들을 가하여 각각의 서브젝트 특징점에 대하여 N개의 후보 움직임 벡터를 생성한다. 본 발명에 따르면, 상기 기설정 갯수 N은 해당 서브젝트 특징점에 대한 초기 움직임 벡터를 기준으로 수평 및 수직 벡터 방향으로 ±2를 포함함으로써, 총 스물다섯개 후보 움직임 벡터를 생성한다. N개의 후보 움직임 벡터의 각각은 초기 움직임 벡터와 함께 움직임 보상기(230)로 제공된다.
움직임 보상기(230)는 본 기술에서 잘 알려진 아핀 변환(affine transformation) 기법을 이용하여 예측된 현재 프레임을 생성한다. 예측된 현재 프레임을 생성하기 위하여, 먼저, 각각의 마름모형 이전 프레임내에 포함된 화소들에 대한 움직임 벡터를 그 각각의 마름모형 이전 프레임을 형성하는 네개의 특징점의 초기 움직임 벡터의 그의 네개의 특징점에 의해 둘려 싸여진 각각의 서브젝트 특징점에 대한 N개의 후보 움직임 벡터를 이용하여 검출하여 각각의 마름모형 이전 프레임에 대하여 제2의 N세트의 움직임 벡터를 생성한다. 상세히 말해서, 특징점에 대한 초기 움직임 벡터와 서브젝트 특징점에 대한 N개의 움직임 벡터에 의해 상기 특징점과 상기 서브젝트 특징점으로부터 이동된 각각의 마름모형 현재 프레임의 화소 위치를 나타내는 의사(quasi) 특징점들에 대한 움직임 벡터가 결정된다. 의사 특징점에 대한 움직임 벡터의 크기는 그에 대응하는 특징점에 대한 움직임 벡터의 크기와 동일하지만 방향은 반대이다.
제6도에는 의사 특징점의 생성을 예시적으로 도시하고 있는데, 전체의 현재 프레임내에 불규칙하게 분산된 인접한 의사 특징점들을 상호 연결함으로써 마름모형 이전 프레임에 대응하는 마름모형 현재 프레임(20)이 형성되며, 그 마름모형 현재 프레임은 네개의 삼각형(21,22,23,24)을 포함한다.
이렇게 의사 특징점에 대한 제2의 N세트의 움직임 벡터를 구한 후, 각각의 마름모형 현재 프레임내의 나머지 화소점인 비의사 특징점(non-quasi-feature point)들에 대한 움직임 벡터가 삼각형 영역 단위로 하기 표현된 아핀 변환에 의해 독립적으로 결정된다.
상기 식에서, (x,y)는 현재 프레임내 화소 움직임 벡터이고 (x',y')는 예측된 현재 프레임내의 대응하는 화소의 움직임 벡터이며, 여섯개의 a, b, c, d, e, f는 아핀 변환 계수이다. 아핀 변환 알고리즘에 따르면, 여섯개의 아핀 변환 계수는 상기 특징점 레지스터(216)로부터 제공되는 세개의 특징점 위치와 그에 대응하는 현재 프레임의 의사 특징점 위치를 상기 식에 적용함으로써 계산된다.
이와 같이, 아핀 맵핑은 삼각형 영역 단위로 독립적으로 적용되어 각각의 모든 삼각형 영역, 따라서 마름모형 영역내에 포함된 비의사 특징점의 움직임 벡터가 결정된다.
그다음에, 마름모형 이전 프레임들 각각에 대하여 N개의 예측된 마름모형 현재 프레임들이 상기 이전 프레임에 각기 대응하는 제2세트의 움직임 벡터들을 이용하여 생성되며, 각각의 예측된 마름모형 현재 프레임내에 포함된 각각의 화소의 값은 그 예측된 마름모형 현재 프레임에 대응하는 마름모형 이전 프레임내 화소중 하나의 값으로 할당되며, 상기 하나의 화소는 상기 마름모형 현재 프레임내 화소중의 하나에 대응한다.
예측된 마름모형 현재 프레임내 화소들의 값은 감산기(232)의 한 입력으로 제공되어 그에 대응하는 라인 L10 상의 마름모형 현재 프레임내 화소의 값으로부터 감산된다. 그 결과 데이타, 즉 그들간의 차분 데이타를 나타내는 에러 신호가 가산기(234)로 공급된다. 가산기(234)는 에러 신호를 예측된 마름모형 현재 프레임마다 누적시켜 각각의 마름모형 이전 프레임마다 N개의 에러 신호 합을 생성한다. 이렇게 생성된 N개의 에러 신호 합들은 각기 비교기(240)로 공급된다.
비교기(240)는 N개의 에러신호 합들을 서로 비교하여 최저 에러를 수반하는 하나의 에러 신호 합을 선택한다. 비교의 결과로써, 비교기(240)는 최저 에러신호 합을 나타내는 선택 신호를 발생한다. 멀티플렉서(242)는, 선택 신호에 응답하여 N개의 부호 움직임 벡터로부터 상기 선택신호에 대응하는 움직임 벡터를 그 특징점에 대한 최적한 움직임 벡터로 선택한다. 이렇게 선택된 움직임 벡터는 라인 L20을 통하여 제1도의 예측기(122)로 제공된다. 따라서, 블록 정합을 이용하여 검출한 각각의 특징점의 움직임 벡터에 대하여 최적한 도는 진정한 움직임 벡터를 형성할 수 있다.
이상과 같이, 본 발명의 특정 실시예에 대하여 기술되었지만, 본 기술분야에서 통상의 지식을 가진자에게는 다음의 특허청구범위에서 규정되는 본 발명의 범주를 벗어나지 않고도 본 발명을 여러가지로 변경하고 수정할 수도 있을 것이다.

Claims (1)

  1. 특징점에 기초한 움직임 추정 방법을 이용하여 비디오 신호의 현재 프레임과 그의 이전 프레임간의 움직임 벡터를 검출하는 장치로서, 상기 이전 프레임은 정방형 그리드를 구성하는 다수의 특징점을 가지며, 각각의 특징점은 그 프레임내 물체의 움직임을 나타낼 수 있는 화소점이 되는 상기 장치에 있어서, 상기 모든 특징점에 대한 초기 움직임 벡터를 검출하는 수단과, 상기 각각의 초기 움직임 벡터는 상기 특징점들중의 어느 하나와 상기 현재 프레임내 가장 유사한 화소의 공간적 변위를 나타내며; 상기 특징점의 각각을 순차적으로 서브젝트 특징점으로서 선택하는 수단과, 상기 각각의 서브젝트 특징점은 현재 서브젝트 특징점으로서 선택되지 않은 인접하는 네개의 특징점으로 둘러 싸여져서 마름모형 이전 프레임을 형성하며, 상기 마름모형 이전 프레임은 한 세트의 네개의 삼각형 영역을 가지며, 각각의 삼각형 영역은 하나의 서브젝트 특징점을 기준으로 하여 그 서브젝트 특징점과 그의 인접한 두개의 특징점을 연결하여 구성되며; 상기 제1세트의 초기 특징점들을 저장하는 수단과; 상기 각각의 서브젝트 특징점에 대한 초기 움직임 벡터 N개의 변위를 줌으로써 각각의 서브젝트 특징점에 대하여 N개의 후보 움직임 벡터를 생성하는 수단과; 각각의 마름모형 이전 프레임내에 포함된 화소들의 움직임 벡터를 그 마름모형 이전 프레임을 구성하는 네개의 특징점의 초기 움직임 벡터와 상기 네개의 특징점에 의해 둘러싸이는 서브젝트 특징점의 N개의 후보 움직임 벡터를 사용하여 검출하여 각각의 마름모형 이전 프레임에 대하여 제2의 N세트의 움직임 벡터를 생성하는 수단과; 각각의 상기 마름모형 이전 프레임에 대하여 N개의 예측된 마름모형 현재 프레임을 상기 마름모형 이전 프레임에 대응하는 상기 제2세트의 움직임 벡터를 이용하여 생성하는 수단과, 상기 각각의 예측된 마름모형 현재 프레임내에 포함된 화소 각각의 값은 그 예측된 마름모형 현재 프레임에 대응하는 마름모형 이전 프레임내 화소들중의 하나의 값으로서 할당되며, 상기 마름모형 이전 프레임내 하나의 화소값은 상기 제2세트의 움직임 벡터에 의해 상기 마름모형 이전 프레임에 대응하는 마름모형 현재 프레임내 화소중의 하나에 대응하며; 각각의 마름모형 현재 프레임과 그에 대응하는 예측된 마름모형 현재 프레임 각각 간의 차를 계산하여 각각의 마름모형 이전 프레임마다 N개의 차의 합을 생성하는 수단과; N개의 에러 신호 합마다 최저 차를 수반하는 하나의 차의 합을 선택하는 선택 신호를 생성하는 수단과; 상기 각각의 서브젝트 특징점마다 N개의 후보 움직임 벡터를 수신하여, 상기 각각의 선택 신호에 대응하는 하나의 움직임 벡터를 상기 N개의 후보 움직임 벡터마다 선택하는 수단을 포함하는 움직임 벡터 검출장치.
KR1019950005713A 1995-03-18 1995-03-18 특징점을 이용한 움직임 벡터 검출 장치 KR0171146B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1019950005713A KR0171146B1 (ko) 1995-03-18 1995-03-18 특징점을 이용한 움직임 벡터 검출 장치
US08/446,351 US5581308A (en) 1995-03-18 1995-05-22 Method and apparatus for determining true motion vectors for selected pixels
EP19950107989 EP0734178A3 (en) 1995-03-18 1995-05-24 Method and apparatus for determining true motion vectors for selected pixels
CN95105516A CN1131876A (zh) 1995-03-18 1995-06-02 用于确定所选象素的真运动矢量的方法和装置
JP18208895A JPH08265781A (ja) 1995-03-18 1995-06-26 動きベクトル特定方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1019950005713A KR0171146B1 (ko) 1995-03-18 1995-03-18 특징점을 이용한 움직임 벡터 검출 장치

Publications (2)

Publication Number Publication Date
KR960036750A KR960036750A (ko) 1996-10-28
KR0171146B1 true KR0171146B1 (ko) 1999-03-20

Family

ID=19410075

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1019950005713A KR0171146B1 (ko) 1995-03-18 1995-03-18 특징점을 이용한 움직임 벡터 검출 장치

Country Status (5)

Country Link
US (1) US5581308A (ko)
EP (1) EP0734178A3 (ko)
JP (1) JPH08265781A (ko)
KR (1) KR0171146B1 (ko)
CN (1) CN1131876A (ko)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100235343B1 (ko) * 1994-12-29 1999-12-15 전주범 영역분할 기법을 이용한 동영상신호 부호화기의 움직임 벡터 측정장치
KR0170932B1 (ko) * 1994-12-29 1999-03-20 배순훈 영상의 시각적, 기하학적 특성에 따른 고속 움직임 추정장치
KR0181029B1 (ko) * 1995-03-15 1999-05-01 배순훈 에지를 이용한 특징점 선정장치
KR0171120B1 (ko) * 1995-04-29 1999-03-20 배순훈 특징점 기반 움직임 보상을 이용한 비디오 신호 부호화에서의 움직임 영역 설정방법 및 장치
US5668608A (en) * 1995-07-26 1997-09-16 Daewoo Electronics Co., Ltd. Motion vector estimation method and apparatus for use in an image signal encoding system
JP2798120B2 (ja) * 1995-08-04 1998-09-17 日本電気株式会社 動き補償フレーム間予測方法及び動き補償フレーム間予測装置
KR100207390B1 (ko) * 1995-09-15 1999-07-15 전주범 계층적인 움직임 추정기법을 이용하는 음직임 벡터 검출방법
US5949919A (en) * 1995-10-05 1999-09-07 Microsoft Corporation Precompression extrapolation method
JP2000511366A (ja) * 1995-10-25 2000-08-29 サーノフ コーポレイション ４分割ツリーベースの可変ブロックサイズ動き推定装置および方法
KR100209793B1 (ko) * 1995-10-28 1999-07-15 전주범 특징점 기반 움직임 추정을 이용하여 비디오 신호를 부호화 및 복호화하는 장치
US5963272A (en) * 1995-10-31 1999-10-05 Sarnoff Corporation Method and apparatus for generating a reference image from an image sequence
US5838828A (en) * 1995-12-12 1998-11-17 Massachusetts Institute Of Technology Method and apparatus for motion estimation in a video signal
US5764283A (en) * 1995-12-29 1998-06-09 Lucent Technologies Inc. Method and apparatus for tracking moving objects in real time using contours of the objects and feature paths
US6181747B1 (en) * 1996-02-01 2001-01-30 Hughes Electronics Corporation Methods and systems for high compression rate encoding and decoding of quasi-stable objects in video and film
US5982438A (en) * 1996-03-22 1999-11-09 Microsoft Corporation Overlapped motion compensation for object coding
US6037988A (en) * 1996-03-22 2000-03-14 Microsoft Corp Method for generating sprites for object-based coding sytems using masks and rounding average
US5982909A (en) * 1996-04-23 1999-11-09 Eastman Kodak Company Method for region tracking in an image sequence using a two-dimensional mesh
JPH1098729A (ja) * 1996-09-20 1998-04-14 Hitachi Ltd フレーム間予測画像の合成方法
US5940129A (en) * 1996-12-06 1999-08-17 Hughes Electronics Corporation Methods and systems for super compression of prior known objects in video and film
US6400831B2 (en) 1998-04-02 2002-06-04 Microsoft Corporation Semantic video object segmentation and tracking
US6711278B1 (en) * 1998-09-10 2004-03-23 Microsoft Corporation Tracking semantic objects in vector image sequences
US6438254B1 (en) * 1999-03-17 2002-08-20 Matsushita Electric Industrial Co., Ltd. Motion vector detection method, motion vector detection apparatus, and data storage media
US7663695B2 (en) * 2000-05-05 2010-02-16 Stmicroelectronics S.R.L. Method and system for de-interlacing digital images, and computer program product therefor
EP1152621A1 (en) * 2000-05-05 2001-11-07 STMicroelectronics S.r.l. Motion estimation process and system.
US7327787B1 (en) * 2000-11-20 2008-02-05 Intel Corporation Method and apparatus for motion estimation
KR100857731B1 (ko) * 2001-02-21 2008-09-10 코닌클리케 필립스 일렉트로닉스 엔.브이. 움직임 추정을 용이하게 하는 방법 및 장치
JP2003199111A (ja) * 2001-12-27 2003-07-11 Matsushita Electric Ind Co Ltd 予測装置、符号化装置、逆予測装置、復号装置、及び、演算装置
US6983020B2 (en) * 2002-03-25 2006-01-03 Citrix Online Llc Method and apparatus for fast block motion detection
DE60312981D1 (de) * 2003-08-26 2007-05-16 St Microelectronics Srl Verfahren und System zum Aufheben des Zeilensprungverfahrens während der Darstellung von Videobildern
ATE499665T1 (de) * 2003-12-11 2011-03-15 Koninkl Philips Electronics Nv Elastische bildregistration
JP4311258B2 (ja) * 2004-04-02 2009-08-12 ソニー株式会社 係数データの生成装置および生成方法、係数種データの生成装置および生成方法、情報信号処理装置、並びにプログラムおよびそれを記録した記録媒体
US7616782B2 (en) * 2004-05-07 2009-11-10 Intelliview Technologies Inc. Mesh based frame processing and applications
US7589720B2 (en) * 2004-08-04 2009-09-15 Microsoft Corporation Mesh editing with gradient field manipulation and user interactive tools for object merging
TWI243600B (en) * 2004-09-17 2005-11-11 Primax Electronics Ltd Selected area comparison method with high-operational efficient
US8243805B2 (en) * 2006-11-14 2012-08-14 Microsoft Corporation Video completion by motion field transfer
KR101369224B1 (ko) * 2007-03-28 2014-03-05 삼성전자주식회사 움직임 보상 필터링을 이용한 영상 부호화, 복호화 방법 및장치
US8509552B1 (en) * 2009-03-09 2013-08-13 Marvell International Ltd. Digital image processing error concealment method

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5048112A (en) * 1990-04-25 1991-09-10 Hughes Aircraft Company Data decompression system and method
SE9002647L (sv) * 1990-08-15 1991-09-02 Televerket Metod foer roerelsekompensering och elastisk deformation i bildsekvenser
FR2670923A1 (fr) * 1990-12-21 1992-06-26 Philips Lab Electronique Dispositif de correlation.
US5453800A (en) * 1991-10-17 1995-09-26 Sony Corporation Apparatus for judging a hand movement of an image
JP3068304B2 (ja) * 1992-01-21 2000-07-24 日本電気株式会社 動画像符号化方式および復号化方式
JP2789967B2 (ja) * 1992-11-02 1998-08-27 松下電器産業株式会社 動きベクトル検出装置
FI97008C (fi) * 1993-06-02 1996-09-25 Nokia Oy Ab Menetelmä videokuvan ennustamiseksi käsittelyjärjestyksessä edellisen kuvan perusteella
US5398068A (en) * 1993-09-02 1995-03-14 Trustees Of Princeton University Method and apparatus for determining motion vectors for image sequences

Also Published As

Publication number Publication date
KR960036750A (ko) 1996-10-28
EP0734178A2 (en) 1996-09-25
US5581308A (en) 1996-12-03
EP0734178A3 (en) 1998-05-27
CN1131876A (zh) 1996-09-25
JPH08265781A (ja) 1996-10-11

Similar Documents

Publication Publication Date Title
KR0171146B1 (ko) 특징점을 이용한 움직임 벡터 검출 장치
KR0171118B1 (ko) 비디오신호 부호화 장치
KR0171154B1 (ko) 특징점 기반 움직임 추정을 이용하여 비디오 신호를 부호화하는 방법 및 장치
US5668608A (en) Motion vector estimation method and apparatus for use in an image signal encoding system
US5760846A (en) Apparatus for estimating motion vectors for feature points of a video signal
US5546129A (en) Method for encoding a video signal using feature point based motion estimation
US5689306A (en) Method and apparatus for encoding a video signal using pixel-by-pixel motion prediction
US5694487A (en) Method and apparatus for determining feature points
KR100209793B1 (ko) 특징점 기반 움직임 추정을 이용하여 비디오 신호를 부호화 및 복호화하는 장치
US5751362A (en) Apparatus for encoding a video signal using feature point based motion estimation
US5673339A (en) Method for encoding a video signal using feature point based motion estimation
US5638129A (en) Image processing apparatus using a pixel-by-pixel motion estimation based on feature points
US5627591A (en) Image processing system using a pixel-by-pixel motion estimation based on feature points
US5862261A (en) Current frame prediction method and apparatus for use in an image signal encoding system
US5731851A (en) Method for determining feature points based on hierarchical block searching technique
JP3681784B2 (ja) 映像信号符号化装置
US6020925A (en) Method and apparatus for encoding a video signal using pixel-by-pixel motion prediction
US5625417A (en) Image processing system using a feature point-based motion estimation
KR0174455B1 (ko) 화소단위 움직임예측을 이용하는 영상신호 부호화 방법 및 장치
KR0178228B1 (ko) 이미지 신호 복호화용 개선된 움직임 벡터 추정 방법 및 장치
KR0174956B1 (ko) 픽셀단위 움직임예측을 이용하는 영상신호 부호화 방법 및 장치
KR100207397B1 (ko) 영상 부호화 시스템의 움직임 예측장치 및 방법
EP0720381A1 (en) Method and apparatus for encoding a video signal using pixel-by-pixel motion prediction
KR0159374B1 (ko) 서치 그리드를 이용한 영상신호 부호화 장치
JPH08205176A (ja) 映像信号符号化装置及び映像信号符号化方法

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20120924

Year of fee payment: 15

FPAY Annual fee payment

Payment date: 20130926

Year of fee payment: 16

FPAY Annual fee payment

Payment date: 20140923

Year of fee payment: 17

EXPY Expiration of term