KR102465557B1 - 영상 처리 방법 및 이를 이용한 표시 장치 - Google Patents

영상 처리 방법 및 이를 이용한 표시 장치 Download PDF

Info

Publication number
KR102465557B1
KR102465557B1 KR1020170098132A KR20170098132A KR102465557B1 KR 102465557 B1 KR102465557 B1 KR 102465557B1 KR 1020170098132 A KR1020170098132 A KR 1020170098132A KR 20170098132 A KR20170098132 A KR 20170098132A KR 102465557 B1 KR102465557 B1 KR 102465557B1
Authority
KR
South Korea
Prior art keywords
motion vector
block
frame
image
representative
Prior art date
Application number
KR1020170098132A
Other languages
English (en)
Other versions
KR20190014381A (ko
Inventor
조성호
Original Assignee
엘지디스플레이 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지디스플레이 주식회사 filed Critical 엘지디스플레이 주식회사
Priority to KR1020170098132A priority Critical patent/KR102465557B1/ko
Publication of KR20190014381A publication Critical patent/KR20190014381A/ko
Application granted granted Critical
Publication of KR102465557B1 publication Critical patent/KR102465557B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/223Analysis of motion using block-matching

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)

Abstract

본 발명에 따른 영상 처리 방법은, 블록의 휘도 정보와 에지 방향 정보를 근거로 제1 이미지에 포함된 블록들을 하나 이상의 클러스터로 분류하고, 각 블록에 대해 제1 이미지에 시간적으로 인접하는 제2 이미지에서 차이 값이 최소가 되는 대응 블록을 찾아 대응 블록을 가리키는 1차 모션 벡터를 계산하고, 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하고, 각 블록에 대해, 대표 모션 벡터와 신용 값을 이용하여, 적어도 1차 모션 벡터와 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택할 수 있다. 따라서, 두 물체의 경계 부분에서 모션 벡터를 정확하게 추정하여 아티팩트가 발생하는 것을 줄이고 보간 이미지의 화질을 향상시킬 수 있게 된다.

Description

영상 처리 방법 및 이를 이용한 표시 장치{IMAGE PROCESSING METHOD AND DISPLAY DEVICE USING THE SAME}
본 발명은 영상 처리 방법 및 이를 이용한 표시 장치에 관한 것이다.
정보화 사회로 진행함에 따라 화상을 표시하기 위한 표시 장치에 대한 요구가 다양해지고 있으며, 근래에는 액정 표시 장치(LCD: Liquid Crystal Display), 유기 발광 다이오드 표시 장치(OLED: Organic Light Emitting Diode)와 같은 여러 평판 표시 장치가 널리 사용되고 있다.
표시 장치의 데이터 처리 능력이 향상되고, 높은 품질의 화면에 대한 사용자의 요구가 커지면서, 단위 시간에 표시하는 프레임의 개수를 높이는 프레임 레이트 업 변환 기술(Frame Rate Up Conversion)이 평면 표시 장치에 적용되고 있다. 이 기술은 이미지에 포함된 대상(또는 오브젝트)이 움직일 때 발생하는 블러(Blur)나 흔들림(Judder)를 제거하기 위해 입력되는 이미지 사이에 중간 이미지 또는 보간(Interpolation) 이미지를 생성하여 삽입하는 기술이다. 특히, 잔상이 남는 액정 표시 장치에 이 기술의 효용이 높다.
프레임 레이트를 높이기 위해서는, 연속되는 이미지 사이에 오브젝트의 움직임을 표현한 값, 즉 모션 벡터(Motion Vector: MV)를 추정(Motion Estimation: ME)하고 이를 보정하는(Motion Compensation: MC) 과정을 거쳐 보간 이미지를 생성한다.
이러한 모션 추정 과정에서는 같은 오브젝트가 차지하는 블록마다 같은 모션 벡터를 유지하는 것이 중요하다. 이를 위해서, 각 블록에 대해 후보 모션 벡터(Candidate MV)를 선정하고 이 중 최종 모션 벡터를 선택하는데, 최종 모션 벡터를 선택하는 과정에서 주변 블록의 모션 벡터를 이용하고 블록 사이 휘도 유사성을 비교한다. 즉, 비슷한 특성을 가지는 주변 블록의 모션 벡터를 후보 모션 벡터로 설정하여 모션 추정 과정을 진행한다.
또한, 모션 추정 과정에서 보간 이미지에 데이터를 채우지 못하는 블록, 즉 홀(Hole) 블록이 발생할 수 있고, 이러한 홀 블록을 채우기 위해서는 일반적으로 홀 주변 블록의 모션 벡터를 활용한다.
하지만, 후보 모션 벡터를 선정하기 위해 위, 아래, 양 옆의 주변 블록의 모션 벡터를 활용하는데, 주변 블록이 항상 같은 오브젝트에 해당할 수는 없다. 오브젝트가 블록에 걸쳐 있거나 옆 블록에 오브젝트의 경계가 위치하게 되면, 다른 오브젝트의 모션 벡터를 참조하게 되어 모션 벡터를 부정확하게 추정하게 되고, 최종 보간 이미지에서 아티팩트(Artifact)가 발생하여 영상 품질이 떨어지게 된다.
본 발명은 이러한 상황을 감안한 것으로, 본 발명의 목적은 프레임 레이트를 높이기 위해 보간 이미지를 생성할 때 모션 벡터를 정확하게 추정하는 영상 처리 방법 및 영상 처리 장치를 제공하는 데 있다.
본 발명의 일 실시예에 따른 영상 처리 방법은, 블록의 휘도 정보와 에지 방향 정보를 근거로 제1 이미지에 포함된 블록들을 하나 이상의 클러스터로 분류하는 단계; 각 블록에 대해 제1 이미지에 시간적으로 인접하는 제2 이미지에서 차이 값이 최소가 되는 대응 블록을 찾아 대응 블록을 가리키는 1차 모션 벡터를 계산하는 단계; 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하는 단계; 및 각 블록에 대해, 대표 모션 벡터와 신용 값을 이용하여, 적어도 1차 모션 벡터와 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택하는 단계를 포함하여 이루어지는 것을 특징으로 한다.
일 실시예에서, 휘도 정보는 전체 휘도 범위를 소정 개수로 나눈 구간 중 하나를 가리키고, 에지 방향 정보는 180도를 4등분한 것과 무방향 중 하나를 가리킬 수 있다.
일 실시예에서, 분류하는 단계는, 각 블록에 대해, 휘도 정보와 에지 방향 정보의 조합으로 가능한 클러스터 중에서, 해당 블록의 휘도와 에지 방향의 조합에 해당하는 클러스터로 분류할 수 있다.
일 실시예에서, 분류하는 단계는, 블록에 소벨 필터를 적용하여 블록 내 에지 방향을 구하고 그 중에서 빈도가 가장 높은 방향을 해당 블록의 에지 방향으로 선정할 수 있다.
일 실시예에서, 선택하는 단계는, 각 블록에 대해, 해당 블록에 추가된 각 후보 모션 벡터에 대해 해당 후보 모션 벡터와 이에 대응되는 대응 블록과의 차이 값 및 해당 블록이 속하는 클러스터의 대표 모션 벡터와 신용 값을 근거로 구한 페널티 값의 합을 구하고, 그 합이 가장 작은 후보 모션 벡터를 해당 블록에 대한 최종 모션 벡터로 선택할 수 있다.
일 실시예에서, 페널티 값은 후보 모션 벡터와 대표 모션 벡터의 차이 값에 신용 값을 곱하여 구한 값일 수 있다.
일 실시예에서, 구하는 단계는, 해당 클러스터에 포함되는 블록들에 대해 계산된 1차 모션 벡터들의 평균을 해당 클러스터에 대한 대표 모션 벡터로 계산하고, 1차 모션 벡터들의 편차에 반비례하는 값을 해당 클러스터에 대한 신용 값으로 계산할 수 있다.
일 실시예에서, 후보 모션 벡터는 해당 블록의 1차 모션 벡터와 해당 블록이 포함된 클러스터의 대표 모션 벡터를 포함하고, 글로벌 모션 벡터, 주변 블록의 모션 벡터, 제로 모션 벡터 및 1차 모션 벡터의 변형 모션 벡터 중 하나 이상을 더 포함할 수 있다.
일 실시예에서, 영상 처리 방법은 최종 모션 벡터를 이용하여, 제1 이미지와 제2 이미지 사이에 삽입될 중간 이미지를 생성하는 단계를 더 포함하여 이루어질 수 있다.
본 발명의 다른 실시예에 따른 영상 처리 장치는, 시간적으로 연속되는 제1 프레임과 제2 프레임으로부터 모션 벡터를 생성하기 위한 모션 추정부; 및 생성된 모션 벡터를 이용하여 제1 프레임과 제2 프레임 사이에 삽입될 중간 프레임의 이미지 데이터를 보정하기 위한 모션 보상부를 포함하여 구성되고, 모션 추정부는, 블록의 휘도 정보와 에지 방향 정보를 근거로 제1 이미지에 포함된 블록들을 하나 이상의 클러스터로 분류하기 위한 클러스터링부; 각 블록에 대해 제2 이미지에서 차이 값이 최소가 되는 대응 블록을 찾아 대응 블록을 가리키는 1차 모션 벡터를 계산하기 위한 1차 모션 벡터 선택부; 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하기 위한 대표 모션 벡터 생성부; 및 각 블록에 대해, 대표 모션 벡터와 신용 값을 이용하여, 적어도 1차 모션 벡터와 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택하기 위한 최종 모션 벡터 선택부를 포함하여 구성되는 것을 특징으로 한다.
본 발명의 또 다른 실시예에 다른 표시 장치는, 데이터 라인들과 게이트 라인들이 교차하고 매트릭스 형태로 형성되는 픽셀들을 포함하는 표시 패널; 입력되는 영상 데이터를 모션 추정과 모션 보상을 통해 보간 처리하기 위한 영상 처리부; 영상 처리부가 출력하는, 프레임 레이트가 2배가 되는 영상 데이터를 수신할 때, 제어 신호들을 동작 속도가 2배가 되도록 조절하기 위한 타이밍 컨트롤러; 타이밍 컨트롤러의 제어에 따라 타이밍 컨트롤러로부터 입력되는 영상 데이터를 데이터 전압으로 변환하여 데이터 라인들에 출력하기 위한 데이터 구동 회로; 및 타이밍 컨트롤러의 제어에 따라 데이터 전압에 동기되는 스캔 펄스를 생성하여 게이트 라인들에 순차적으로 공급하기 위한 게이트 구동 회로를 포함하여 구성되고, 영상 처리부는, 블록의 휘도 정보와 에지 방향 정보를 근거로 제1 이미지에 포함된 블록들을 하나 이상의 클러스터로 분류하고, 각 블록에 대해 제1 이미지에 시간적으로 인접하는 제2 이미지에서 차이 값이 최소가 되는 대응 블록을 찾아 대응 블록을 가리키는 1차 모션 벡터를 계산하고, 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하고, 각 블록에 대해, 대표 모션 벡터와 신용 값을 이용하여, 적어도 1차 모션 벡터와 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택하기 위한 모션 추정부; 및 생성된 최종 모션 벡터를 이용하여 제1 프레임과 제2 프레임 사이에 삽입될 중간 프레임의 이미지 데이터를 보정하기 위한 모션 보상부를 포함하여 구성되는 것을 특징으로 한다.
따라서, 두 물체의 경계 부분에서 모션 벡터를 정확하게 추정하여 아티팩트가 발생하는 것을 줄이고 보간 이미지의 화질을 향상시킬 수 있게 된다.
도 1은 연속하는 두 이미지로부터 모션을 추정하여 보간 이미지를 생성하는 모션 추정과 모션 보상 과정을 도시한 것이고,
도 2는 모션 추정 과정을 블록으로 도시한 것이고,
도 3a와 도 3b는 모션 추정에 따라 생성된 모션 벡터들 중에서 최종 모션 벡터를 선택하는 과정을 도시한 것이고,
도 4a와 도 4b는 보간 이미지에서 두 오브젝트의 경계에 아티팩트가 발생하는 예를 도시한 것이고,
도 5는 본 발명의 일 실시예에 따른 영상 처리 방법이 적용되는 표시 장치를 블록으로 도시한 것이고,
도 6a와 도 6b는 블록의 에지 방향과 휘도를 이용하여 프레임 내의 블록들을 클러스터링(Clustering) 하는 방법을 도시한 것이고,
도 7은 본 발명에 따른 영상 처리부의 구성을 블록으로 도시한 것이고,
도 8은 본 발명에 따른 모션 추정 방법에 대한 동작 흐름도를 도시한 것이고,
도 9a와 도 9b는 본 발명에 따라 모션 벡터를 추정하여 생성한 보간 이미지를 도시한 것이다.
이하 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예들을 상세히 설명한다. 명세서 전체에 걸쳐서 동일한 참조번호들은 실질적으로 동일한 구성 요소들을 의미한다. 이하의 설명에서, 본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우, 그 상세한 설명을 생략한다.
도 1은 연속하는 두 이미지로부터 모션을 추정하여 보간 이미지를 생성하는 모션 추정과 모션 보상 과정을 도시한 것이고, 도 2는 모션 추정 과정을 블록으로 도시한 것이고, 도 3a와 도 3b는 모션 추정에 따라 생성된 모션 벡터들 중에서 최종 모션 벡터를 선택하는 과정을 도시한 것이다.
모션 추정(ME)과 모션 보정(MC)은, 도 1에 도시한 것과 같이, 연속하는 두 이미지(또는 프레임)(Frame(n), Frame(n+1))를 비교하여 프레임 내 오브젝트의 모션 벡터를 추정하고, 추정된 모션 벡터를 이용하여 모션 벡터를 보상하여, 두 프레임 사이에 보간된 프레임(Frame(n+0.5))을 생성하는 것이다.
프레임 보간을 위해 모션 벡터를 얻는 과정에서, 앞/뒤 프레임(Frame(n), Frame(n+1))을 비교하여 두 프레임에 위치하는 같은 또는 유사한 오브젝트의 이동 값, 즉 모션 벡터를 얻고, 이를 중간 프레임(Frame(n+0/5))의 그리드(Grid)로 이동시켜(그리드 매핑(Grid Mapping) 또는 블록 매핑), 중간 프레임에서 블록 또는 그리드 단위로 모션 벡터를 생성한다. 여기서 블록은 4x4 또는 8x8 크기의 픽셀 모임일 수 있다.
중간 프레임(Frame(n+0/5))에 대해 생성한 모션 벡터를 근거로 이전 프레임(Frame(n))과 다음 프레임(Frame(n+1))을 각각 이용하여 2개의 중간 프레임을 생성하고, 이를 서로 비교하여 그 차이가 작게 되도록 중간 프레임(Frame(n+0.5))의 이미지 데이터를 보정하여 출력할 수 있다.
도 2는 이러한 모션 추정 과정을 구체적으로 설명하는데, 앞/뒤 프레임(Frame(n), Frame(n+1))이 입력되면, 앞 프레임 내의 각 블록에 대해 블록 단위로 뒤 프레임에서 유사한 블록을 찾는데, 모션 벡터를 구하려는 앞 프레임의 한 블록(또는 현재 블록)을 뒤 프레임 내 소정 서치 범위(Search Range) 내에서 픽셀 단위로 이동시킨 블록들과 비교하여, 대응되는 픽셀마다 휘도 차의 절대 값을 구하고 블록에 포함된 모든 픽셀마다 구한 차이의 절대 값의 합(Sum of Absolute Difference: SAD)을 계산한다(Block SAD Calculation).
뒤 프레임 내 서치 범위 내에서 픽셀 단위로 이동한 각 블록에 대한 SAD 값을 비교하여, 최소 값을 갖는 블록을 선택한다(Minimum SAD Cost Selection). 최소 값을 갖는 뒤 프레임의 블록이 앞 프레임의 현재 블록과 가장 유사한 블록이라고 할 수 있고, 현재 블록과 선택된 블록 사이의 위치 값을 기초로 현재 블록에 대한 1차 모션 벡터를 얻을 수 있다.
최소 SAD 선택 과정을 통해 추출한 1차 모션 벡터에, 최종 모션 벡터가 될 수 있는 후보 모션 벡터를 추가하는 과정을 거친다(Candidate MV Addition). 여러 방법이 가능하지만, 일반적으로 1차 모션 벡터, 주변 블록의 모션 벡터, 글로벌 모션 벡터(Global MV), 제로 벡터(Zero Vector) 등이 후보 모션 벡터로 추가될 수 있다. 글로벌 모션 벡터는 앞/뒤 프레임 데이터와 함께 주어질 수 있다.
이후, 후보 모션 벡터들의 타당성과 영상 특징을 이용하여 최종 모션 벡터를 선택한다(Final MV Selection). 최종 모션 벡터를 선택하는 여러 방법이 있는데, 블록 사이 유사도나 신뢰도 등을 통해 후보 모션 벡터 각각의 선택 확률을 계산할 수 있다. 선택 확률을 계산할 때 블록의 특성을 이용할 때 2가지 방법이 있는데, 하나는 주변 블록에 대한 모션 벡터의 선택 확률은 현재 블록과 주변 블록의 휘도 유사도로 판단하는 것이고 다른 하나는 bilateral filter(일명 블러 필터)를 이용하여 거리와 휘도 차이에 종속적으로 확률을 계산하는 것이다.
이러한 과정을 거쳐 앞 프레임에서 뒤 프레임으로 프레임 내 오브젝트의 이동을 가리키는 모션 벡터를 추정할 수 있고, 이는 포워드 모션 벡터(Forward Motion Vector)로 칭할 수 있다.
비슷한 방법으로, 뒤 프레임 내 각 블록에 대해 앞 프레임에서 유사한 블록을 찾아 모션 벡터를 추정할 수 있는데, 이는 백워드 모션 벡터(Backward Motion Vector)로 칭할 수 있다.
포워드 모션 벡터와 백워드 모션 벡터를 이용하여 앞 프레임과 뒤 프레임 사이에 삽입할 중간 프레임의 각 블록에 대한 모션 벡터를 생성할 수 있다. 즉, 앞뒤 프레임으로부터 각 블록에 대해 추정한 포워드 모션 벡터와 백워드 모션 벡터 중에서 중간 프레임의 같은 블록으로 안내하는 포워드 모션 벡터와 백워드 모션 벡터를 찾고 이를 근거로 중간 프레임의 각 블록에 대한 모션 벡터를 생성한다.
이때, 중간 프레임의 임의의 블록으로 안내하는 것으로 찾은 포워드 모션 벡터와 백워드 모션 벡터가 크기가 같고 방향이 같다면, 중간 프레임의 해당 블록에 대한 모션 벡터를 포워드 모션 벡터 또는 백워드 모션 벡터의 절반에 해당하는 모션 벡터로 정확하게 결정할 수 있다.
하지만, 포워드 모션 벡터와 백워드 모션 벡터의 절반에 해당하는 모션 벡터 중에서 중간 프레임의 한 블록으로 안내하는 포워드 모션 벡터와 백워드 모션 벡터가 크기가 서로 다르거나 방향이 정반대가 되지 않으면, 중간 프레임의 해당 블록에 대한 모션 벡터를 쉽게 결정할 수 없고, 소정의 방법으로 모션 벡터를 결정해야 한다.
또한, 포워드 모션 벡터와 백워드 모션 벡터의 절반에 해당하는 모션 벡터 중에서 중간 프레임의 한 블록으로 안내하는 모션 벡터가 없다면, 중간 프레임의 해당 블록은 홀(Hole)이 되어 해당 홀 블록에 대한 모션 벡터를 구할 수 없고, 이웃하는 주변 블록에 대해 추정된 모션 벡터를 이용할 수 밖에 없다.
또한, 앞 프레임 내의 서로 다른 블록에 대해서 추정한 둘 이상의 포워드 모션 벡터가 중간 프레임의 한 블록으로 안내하는 경우에도, 중간 프레임의 해당 블록에 대한 모션 벡터를 결정해야 한다. 도 3a에서 앞 프레임의 각 블록에 대해 모션 벡터를 추정하였는데, 추정된 2개의 모션 벡터가 중간 프레임의 같은 블록에 대응되므로, 도 3b와 같이 하나의 모션 벡터가 선택되고 다른 모션 벡터가 무시될 수 있다.
한편, 모션 추정 과정에서 후보 모션 벡터로 선정된 모션 벡터들 중에서 주변 블록의 모션 벡터가 매우 중요하다. 최소 SAD로 선정된 1차 모션 벡터가 항상 정확하다면 간단하고 좋겠지만, 실제 영상에서는 다양한 변수가 있고, 홀(Hole)이 발생하여 정답에 해당하는 모션 벡터가 없는 블록이 존재한다.
따라서, 공간적인 매끄러움(Spatial Smoothness)을 고려하여 주변 블록의 모션 벡터를 최대한 활용해야 하지만, 지금까지 주변 모션 벡터를 이용하는 방법에는 문제가 있다. 주변 블록이 항상 같은 오브젝트에 해당할 수는 없다. 위, 아래, 양 옆 블록의 모션 벡터를 이용하는 것이 일반적인 방법이지만, 오브젝트가 블록에 걸쳐 있거나 옆의 블록에 물체의 경계가 있으면 다른 오브젝트의 모션 벡터를 참조하게 되기 때문이다.
이러한 문제를 해결하면서 주변 모션 벡터 정보를 제대로 가져오기 위해서 선행되는 조건이 있는데, 주변 블록의 휘도가 현재 블록과 유사할 때에만 주변 모션 벡터 정보를 이용하는 것이다. 이 조건을 통해 동일 물체가 아닐 때는 주변 모션 벡터 정보를 이용하는 것을 제한하여 오류를 줄일 수 있다. 하지만, 이 방법 역시 오류가 발생하는 경우가 있다.
도 4a에서 붉은 색 네모 안에 아티팩트가 발생하는데, 벽면이 모두 같은 오브젝트로 같은 모션 벡터를 가져야 하지만, 벽면의 패턴 때문에 블록의 휘도 정보가 서로 다르다고 인식되어 주변의 모션 벡터를 가져오지 못하고 제각각 다른 모션 벡터를 선택하게 된다.
도 4b에서 붉은 색 네모 안에도 아티팩트가 발생하는데, 비행기와 배경 건물이 서로 다른 오브젝트이므로 서로 모션 벡터가 영향을 주지 않아야 하지만, 비행기와 배경 건물의 휘도 정보(Y값)가 같아서 모션 벡터가 서로 영향을 주어 최종적으로 잘못된 모션 벡터를 추정하게 된다.
이와 같은 문제점은 중간 이미지에서 아티팩트로 나타나고, 특히 동영상으로 확인할 때 관련 영역이 심각하게 떨리는 문제가 발생할 수 있다.
본 발명에서는, 모션 벡터를 결정하고자 하는 블록의 특성을 보다 세밀하게 정의하여 블록 사이에 서로 같은 오브젝트인지 정의하고, 이를 이용하여 모션 벡터가 공간적으로 매끄럽게 되도록 한다.
이를 위해, 본 발명에 따른 영상 처리 방법은, 블록의 휘도와 에지 방향 정보를 이용해 이미지에 포함된 각 블록을 소정 개수의 무리 또는 클러스터(Cluster)로 분류하고, 각 클러스터에 대한 대표 모션 벡터와 신용 값(Confidence)을 구하고, 구한 대표 모션 벡터를 해당 블록에 대한 후보 모션 벡터로 추가하고, 최종 모션 벡터를 선택할 때 클러스터에 대한 대표 모션 벡터와 신용 값(Confidence)을 이용할 수 있다.
즉, 같은 오브젝트일 확률이 높은 블록끼리 후보 모션 벡터를 공유하고 최종 모션 벡터도 비슷한 양상으로 선택되도록 하여, 최종 모션 벡터가 오브젝트에 따라 구분되고 같은 오브젝트끼리 통일성을 갖도록 선택되도록 할 수 있다.
도 5는 본 발명의 일 실시예에 따른 영상 처리 방법이 적용되는 표시 장치를 블록으로 도시한 것이다. 본 발명의 실시예에 따른 표시 장치는 표시 패널(10), 타이밍 컨트롤러(11), 데이터 구동 회로(12), 게이트 구동 회로(13) 및 영상 처리부(20)를 구비한다.
표시 패널(10)에는 데이터 라인들(14)과 게이트 라인들(15)이 교차하고 매트릭스 형태로 형성되는 픽셀들을 포함한다. 표시 패널(10)의 데이터 라인들과 게이트 라인들의 교차부에는 박막 트랜지스터(Thin Film Transistor: TFT)가 형성된다. 표시 패널(10)은, 액정 표시 소자(Liquid Crystal Display, LCD), 전계 방출 표시 소자(Field Emission Display, FED), 플라즈마 디스플레이 패널(Plasma Display Panel, PDP) 및 무기 전계 발광 소자와 유기 발광 다이오드 소자(Organic Light Emitting Diode, OLED)를 포함한 전계 발광 소자(Electroluminescence Device, EL), 전기 영동 표시 소자(Electrophoresis, EPD) 등의 평판 표시 소자로 구현될 수 있다. 표시 패널(10)이 액정 표시 소자의 표시 패널로 구현되는 경우, 백라이트 유닛이 필요하다. 백라이트 유닛은 직하형(direct type) 백라이트 유닛 또는 에지형(edge type) 백라이트 유닛으로 구현될 수 있다.
영상 처리부(20)는 입력되는 nHz, 예를 들어 30Hz의 영상 데이터(RGB(nHz))를 모션 추정과 모션 보정을 통해 보간 처리한다. 영상 처리부(20)는 보간 처리된 2nHz, 예를 들어 60Hz의 영상 데이터(RGB'(2nHz))를 타이밍 컨트롤러(11)로 출력한다. 영상 처리부(20)에 대한 자세한 설명은 도 6 내지 도 8을 결부하여 다음에 설명한다.
타이밍 컨트롤러(11)는 영상 처리부(20)로부터 출력되는 영상 데이터(RGB'(2nHz))를 데이터 구동 회로(12)에 공급한다. 타이밍 컨트롤러(11)는 호스트 시스템(도시하지 않음)으로부터 수직 동기 신호(Vsync), 수평 동기 신호(Hsync), 데이터 인에이블 신호(Data Enable, DE), 도트 클럭(CLK) 등의 타이밍 신호를 입력 받아 데이터 구동 회로(12)와 게이트 구동 회로(13)의 동작 타이밍을 제어하기 위한 제어 신호들을 생성한다. 제어 신호들은 게이트 구동 회로(13)의 동작 타이밍을 제어하기 위한 게이트 타이밍 제어 신호(GCS)와 데이터 구동 회로(12)의 동작 타이밍을 제어하기 위한 데이터 타이밍 제어 신호(DCS)를 포함한다.
타이밍 컨트롤러(11)는, 영상 처리부(20)로부터 프레임 레이트가 예를 들어 2배 높아진 영상 데이터가 입력될 때, 제어 신호들을 동작 속도가 2배가 되도록 조절하여 데이터 구동 회로(12)와 게이트 구동 회로(13)에 공급한다.
데이터 구동 회로(12)는 타이밍 컨트롤러(11)의 제어에 따라 영상 데이터(RGB'(2nHz))를 데이터 전압으로 변환하여 데이터 라인들(14)로 출력한다. 게이트 구동 회로(13)는 타이밍 컨트롤러(11)의 제어에 따라 데이터 전압에 동기되는 스캔 펄스를 게이트 라인들(15)에 순차적으로 공급한다.
게이트 구동 회로(13)는, 타이밍 컨트롤러(11)의 제어에 따라 데이터 전압에 동기되는 스캔 펄스를 표시 패널(10)의 게이트 라인들(15)에 순차적으로 공급한다. 게이트 구동 회로(13)는 쉬프트 레지스터, 쉬프트 레지스터의 출력 신호를 픽셀의 TFT 구동에 적합한 스윙 폭으로 변환하기 위한 레벨 쉬프터 및 출력 버퍼 등을 각각 포함하는 다수의 게이트 드라이브 집적 회로들로 구성될 수 있다. 또는, 게이트 구동 회로(13)는 GIP(Gate Drive IC in Panel) 방식으로 표시 패널(10)의 하부 기판에 직접 형성될 수도 있다. GIP 방식의 경우, 레벨 쉬프터는 PCB(Printed Circuit Board) 위에 실장되고, 쉬프트 레지스터는 표시 패널(10)의 하부 기판에 형성될 수 있다.
도 6a와 도 6b는 블록의 에지 방향과 휘도를 이용하여 프레임 내의 블록들을 클러스터링(Clustering) 하는 방법을 도시한 것이다.
본 발명에서는 같은 특성의 블록들을 같은 무리로 클러스터링 하기 위해, 블록의 휘도 정보와 에지 방향 정보를 이용한다.
블록의 에지 방향과 관련하여, 도 6a와 같이 180도를 45도 간격으로 크게 4개의 방향(수평, 45도, 수직, 135도)으로 나누고, 블록의 에지 방향을 구하고 4개 방향 중에서 대응되는 방향에 할당하는데, 블록의 에지 방향은 소벨 필터(Sobel Filter)를 블록에 적용하여 블록 내 에지 방향을 구하고 그 중에서 빈도가 가장 높은 방향을 해당 블록의 에지 방향으로 선정할 수 있다.
블록의 휘도와 관련하여, 블록 내 픽셀들의 평균 휘도(Y 값)를 소정 개수의 계급 중 하나에 할당하는데, 예를 들어 8 비트(0-255)의 휘도를 같은 간격으로 8등분 한 8개의 레벨 중 대응되는 하나의 레벨에 할당할 수 있다. 또는, 전체 휘도 범위에서 휘도 빈도가 높은 중간 휘도 범위를 좁은 간격으로 나누고 높은 휘도와 낮은 휘도 범위를 넓은 간격으로 나눌 수도 있다.
클러스터의 개수는 4개의 방향과 8개의 휘도 레벨을 조합하여 32개가 될 수 있지만, 에지 방향과 관련하여 블록이 같은 휘도의 픽셀만으로 구성되어 에지 방향이 없는 무방향(Smooth)인 경우가 있기 때문에, 5개 방향과 8개 휘도 레벨을 조합하여 40개의 클러스터가 가능하다. 따라서, 각 블록은 40개의 클러스터 중 하나로 분류될 수 있다.
도 7은 본 발명에 따른 영상 처리부의 구성을 블록으로 도시한 것이고, 도 8은 본 발명에 따른 모션 추정 방법에 대한 동작 흐름도를 도시한 것이다.
본 발명에 따른 영상 처리부(20)는, 연속되는 두 프레임(Frame(n), Frame(n+1))의 데이터와 글로벌 모션 벡터(Global MV)를 수신하여 모션 추정과 모션 보정을 통해 두 프레임의 중간에 삽입될 중간 프레임(Frame(n+0.5))을 생성하여 출력하는데, 모션 추정부(210)와 모션 보상부(220)를 포함하여 구성될 수 있다.
모션 추정부(210)는, 두 프레임(Frame(n), Frame(n+1))에 대해 모션을 추정하여 모션 벡터를 추정하고 이를 이용하여 중간 프레임에 대한 그리드 매핑 동작을 수행하여 중간 프레임의 각 블록에 대해 모션 벡터를 결정하는데, 모션 벡터를 추정하는 구성은 블록 클러스터링부(211), SAD 계산부(212), 최소 SAD 선택부(213), 클러스터 대표 모션 벡터 생성부(214), 최종 모션 벡터 선택부(215) 및 중간 프레임 모션 벡터 결정부(216)를 포함하여 구성될 수 있다.
모션 보상부(220)는, 중간 프레임에 대해 생성한 모션 벡터를 근거로 이전 프레임(Frame(n))과 다음 프레임(Frame(n+1))을 각각 이용하여 2개의 중간 프레임을 생성하고, 이를 서로 비교하여 그 차이가 작게 되도록 중간 프레임(Frame(n+0.5))의 이미지 데이터를 보정하여 출력할 수 있다.
모션 추정부(210)는, 두 프레임(Frame(n), Frame(n+1))과 글로벌 모션 벡터를 수신하여 중간 프레임의 모션 벡터를 생성하여 출력한다.
여기서, 글로벌 모션 벡터는 영상 센서가 흔들리거나 이동하는 경우 또는 영상 센서가 팬/틸트 기동하는 경우 두 프레임 사이에 발생하는 모션 벡터로, 프레임 내 오브젝트가 이동하여 두 프레임 사이에 발생하는 로컬 모션 벡터에 대비된다.
모션 추정부(210)는, 앞 프레임(Frame(n))에서 뒤 프레임(Frame(n+1))으로 모션을 추정하여 포워드 모션 벡터를 구하여 이를 근거로 중간 프레임(Frame(n+0.5))에 대한 모션 벡터를 구하거나, 뒤 프레임(Frame(n+1))에서 앞 프레임(Frame(n))으로 모션을 추정하여 백워드 모션 벡터를 구하여 이를 근거로 중간 프레임(Frame(n+0.5))에 대한 모션 벡터를 구하거나, 또는 포워드 모션 벡터와 백워드 모션 벡터를 모두 구하고 이를 근거로 중간 프레임에 대한 모션 벡터를 구할 수 있다. 이하에서는 간단하게 포워드 모션 벡터를 중심으로 설명한다.
블록 클러스터링부(211)는, 앞뒤 두 프레임(Frame(n), Frame(n+1))을 수신하여, 예를 들어 앞 프레임(Frame(n))의 각 블록에 대한 성질, 즉 각 블록의 휘도 정보와 에지 방향 정보를 계산하고, 이를 근거로 블록들을 소정 개수의 클러스터로 분류할 수 있다(도 8에서 Block Clustering).
도 6에 도시한 것과 같이, 각 블록은 8개 레벨의 휘도 및 4개의 방향과 무방향(Smooth)의 조합에 따라 40개의 클러스터 중 하나로 분류될 수 있다.
SAD 계산부(212)는, 앞 프레임의 각 블록에 대해서, SAD를 구하는데, 해당 블록을 뒤 프레임 내 소정 서치 범위 안에서 픽셀 단위로 이동시키면서 이동된 블록과 각각 비교하여, 대응되는 픽셀마다 휘도 차이의 절대 값을 구하고 블록에 포함된 모든 픽셀마다 구한 차이의 절대 값의 합을 계산할 수 있다(도 8에서 Block SAD Calculation).
SAD 계산부(212)는, 계산을 줄이기 위하여, 뒤 프레임에서의 서치 범위를, 해당 블록보다 앞서 계산한 이전 블록, 예를 들어 위쪽 블록과 왼쪽 블록과 관련된 뒤 프레임의 블록(SAD가 가장 작은 대응 블록) 주변으로 한정할 수 있다.
최소 SAD 선택부(213)는, SAD 계산부(212)가 뒤 프레임에서 블록을 픽셀 단위로 이동시키면서 계산한 SAD 중에서 가장 작은 값을 출력하는 블록을 선택하여, 이를 앞 프레임의 해당 블록이 이동한 블록으로 결정하고, 해당 블록에서 선택된 최소 SAD 블록으로의 이동량과 방향을 계산하여 해당 블록에 대한 1차 모션 벡터로 결정한다(도 8에서 Minimum SAD Cost Selection).
최소 SAD 선택부(213)가 앞 프레임 내의 모든 블록에 대해 1차 모션 벡터를 결정한 후, 클러스터 대표 모션 벡터 생성부(214)는, 같은 클러스터에 속하는 블록들의 1차 모션 벡터를 기초로, 예를 들어 1차 모션 벡터를 평균하여 해당 클러스터에 대한 대표 모션 벡터를 계산할 수 있다. 휘도와 에지 방향의 조합으로 최대 40개의 클러스터가 가능하지만, 해당 프레임에 포함된 블록이 속하는 클러스터에 대해서만 대표 모션 벡터를 구할 수 있다.
또한, 클러스터 대표 모션 벡터 생성부(214)는, 각 클러스터에 대해 해당 클러스터에 포함된 모션 벡터에 대한 신용 값(Confidence)을 구하는데, 클러스터에 대한 모션 벡터의 신용 값은 해당 클러스터에 포함된 블록에 대해 계산된 1차 모션 벡터의 편차, 예를 들어 표준 편차나 분산을 이용하여 계산될 수 있고, 구체적으로는 표준 편차에 반비례하는 값으로 결정될 수 있다.
즉, 표준 편차가 작으면 이는 해당 클러스터에 속하는 블록의 1차 모션 벡터들이 해당 클러스터의 대표 모션 벡터 부근에 밀집되어 있는 것을 의미한다. 따라서, 해당 클러스터에 포함된 블록들에 대해서는, 이러한 신용 값을 근거로 해당 블록에 대해 결정된 1차 모션 벡터를 해당 블록에 대한 최종 모션 벡터로 결정할 가능성을 높게 할 수 있다.
반대로, 표준 편차가 크면, 이는 해당 클러스터에 속하는 블록의 1차 모션 벡터들이 해당 클러스터의 대표 모션 벡터와 동떨어져 넓게 분포한다는 것을 의미한다. 따라서, 해당 클러스터에 포함된 블록들에 대해서는, 이러한 신용 값을 근거로 해당 블록에 대해 결정된 1차 모션 벡터를 해당 블록에 대한 최종 모션 벡터로 결정할 가능성을 낮게 할 수 있다.
이후, 최종 모션 벡터 선택부(215)는, 각 블록에 대한 최종 모션 벡터를 결정하는데, 먼저 해당 블록에 대한 후보 모션 벡터를 추가하고(Candidate MV Addition), 후보 모션 벡터 중에서 하나를 최종 모션 벡터로 선택한다(Final MV Selection).
후보 모션 벡터로는, 해당 블록에서 결정된 1차 모션 벡터, 주변 블록들의 모션 벡터들, 글로벌 모션 벡터, 제로(Zero) 모션 벡터 이외에, 해당 블록이 속하는 클러스터의 대표 모션 벡터가 추가될 수 있다. 클러스터링 결과 역시 100% 정확할 수 없기 때문에, 바로 선택되는 것이 아니라, 해당 블록의 여러 후보 모션 벡터 중 하나로 추가될 뿐이다.
또한, 후보 모션 벡터로, 1차 모션 벡터의 x 성분과 y 성분을 각각 소정 범위 내에서 변화시킨 모션 벡터를 추가할 수도 있다. 예를 들어 1차 모션 벡터가 (x, y)일 때 (x+1, y+1), (x+1, 0), (x+1, y-1), (x, y+1), (x, y-1), (x-1, y+1), (x-1, y), (x-1, y-1) 등 1차 모션 벡터와 유사한 변형 모션 벡터들도 후보 모션 벡터가 될 수 있다.
최종 모션 벡터 선택부(215)는, 후보 모션 벡터들 중에서 최종 모션 벡터를 선택할 때, 각 후보 모션 벡터에 대해서 SAD와 페널티(Penalty) 값을 계산하여, 가장 작은 값을 갖는 후보 모션 벡터를 최종 모션 벡터로 결정할 수 있다.
후보 모션 벡터에 대한 SAD는 해당 블록과 해당 후보 모션 벡터가 가리키는 대응 블록의 차이 값을 계산, 즉 해당 블록과 대응 블록을 픽셀 단위로 휘도 차이의 절대 값을 구하고 이를 모든 픽셀에 대해 더해 계산할 수 있다.
후보 모션 벡터에 대한 페널티 값은 해당 블록이 속하는 클러스터의 대표 모션 벡터와 해당 클러스터의 신용 값을 이용하여 설정할 수 있다. 즉, Penalty = ((후보 모션 벡터 클러스터 대표 모션 벡터) x (클러스터의 신뢰 값))으로 계산할 수 있고, 클러스터의 신뢰 값(Confidence)은 해당 클러스터에 속한 블록에 대한 모션 벡터들의 표준 편차에 반비례하는 값으로, 예를 들어 Confidence = 256/(표준 편차)로 계산할 수 있다.
이와 같이 패널티 값을 설정함으로써, 클러스터의 대표 모션 벡터와 유사한 모션 벡터들이 해당 블록에 대한 최종 모션 벡터로 선택될 확률을 높일 수 있는데, 예를 들어 여러 후보 모션 벡터 중에서 비슷한 선택 확률의 모션 벡터들이 있다면, 클러스터의 대표 모션 벡터와 가까운 모션 벡터가 선택될 수 있다.
도 8의 과정을 거쳐 앞 프레임의 모든 블록에 대한 포워드 모션 벡터, 즉 앞 프레임에서 뒤 프레임으로 오브젝트의 이동을 가리키는 모션 벡터를 추정할 수 있고, 중간 프레임 모션 벡터 결정부(216)가 이를 이용하여 중간 프레임의 각 블록에 대한 모션 벡터를 결정할 수 있다.
비슷하게, 도 8의 과정을 거쳐 뒤 프레임의 모든 블록에 대한 백워드 모션 벡터, 즉 뒤 프레임에서 앞 프레임으로 오브젝트의 이동을 가리키는 모션 벡터를 추정할 수 있고, 중간 프레임 모션 벡터 결정부(216)가 이를 이용하여 중간 프레임의 각 블록에 대한 모션 벡터를 결정할 수 있다.
중간 프레임 모션 벡터 결정부(216)는 포워드 모션 벡터와 백워드 모션 벡터를 모두 사용하여 중간 프레임의 각 블록에 대한 모션 벡터를 결정할 수도 있다.
도 9a와 도 9b는 본 발명에 따라 모션 벡터를 추정하여 생성한 보간 이미지를 도시한 것이다.
종래 방법에 의한 도 4a의 중간 프레임에서는, 같은 물체이지만 벽면에 형성된 패턴에 의한 휘도 차이 때문에 모션 벡터를 잘못 구하여, 벽면의 패턴이 일정하지 않게 생성되어 아티팩트가 발생하였지만, 도 9a에서는 벽면의 반복되는 패턴을 하나 또는 두 클러스터로 분류하고 각 블록이 속하는 클러스터를 결정하고 결정된 클러스터에 대한 대표 모션 벡터와 신뢰 값을 이용하여 정확한 모션 벡터를 추정하고 이에 따라 중간 이미지가 벽면의 패턴을 잘 반영하게 된다.
또한, 종래 방법에 의한 도 4b의 중간 프레임에서는, 비행기와 배경 건물의 휘도가 크게 차이 나지 않기 때문에 같은 물체로 인식하여 서로 모션 벡터의 추정에 영향을 주고, 그 결과 중간 프레임에 아티팩트가 발생한다. 하지만, 도 9b에서는, 비행기와 벽면을 각각 다른 클러스터로 선정하여 각 클러스터의 대표 모션 벡터를 이용하였기 때문에, 물체와 물체의 경계 부분에서 아티팩트가 개선되었다
이와 같이, 휘도와 에지와 같은 블록의 특성을 근거로 블록들을 다수 개의 클러스터로 분류하고 같은 특성의 블록을 묶고, 클러스터의 대표 모션 벡터와 해당 클러스터의 신뢰 값을 후보 모션 벡터를 추가하고 최적의 모션 벡터를 선택할 때 사용함으로써, 모션 벡터를 정확하게 추정할 수 있게 되고, 이에 따라 보간 이미지에서 아티팩트를 줄일 수 있게 된다.
이상 설명한 내용을 통해 당업자라면 본 발명의 기술 사상을 일탈하지 아니하는 범위에서 다양한 변경 및 수정이 가능함을 알 수 있을 것이다. 따라서, 본 발명의 기술적 범위는 명세서의 상세한 설명에 기재된 내용으로 한정되는 것이 아니라 특허 청구의 범위에 의해 정하여져야만 할 것이다.
10: 표시 패널 11: 타이밍 컨트롤러
12: 데이터 구동 회로 13: 게이트 구동 회로
14: 데이터 라인 15: 게이트 라인
20: 영상 처리부 210: 모션 추정부
211: 블록 클러스터링부 212: SAD 계산부
213: 최소 SAD 선택부 214: 클러스터 대표 모션 벡터 생성부
215: 최종 모션 벡터 선택부 216: 중간 프레임 모션 벡터 결정부
220: 모션 보상부

Claims (11)

  1. 블록의 휘도 정보와 에지 방향 정보를 근거로 제1 이미지에 포함된 블록들을 하나 이상의 클러스터로 분류하는 단계;
    각 블록에 대해 상기 제1 이미지에 시간적으로 인접하는 제2 이미지에서 차이 값이 최소가 되는 대응 블록을 찾아 상기 대응 블록을 가리키는 1차 모션 벡터를 계산하는 단계;
    상기 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하는 단계; 및
    각 블록에 대해, 상기 대표 모션 벡터와 신용 값을 이용하여, 적어도 상기 1차 모션 벡터와 상기 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택하는 단계를 포함하여 이루어지는 영상 처리 방법.
  2. 제1 항에 있어서,
    상기 휘도 정보는 전체 휘도 범위를 소정 개수로 나눈 구간 중 하나를 가리키고, 상기 에지 방향 정보는 180도를 4등분한 것과 무방향 중 하나를 가리키는 것을 특징으로 하는 영상 처리 방법.
  3. 제2 항에 있어서,
    상기 분류하는 단계는, 각 블록에 대해, 상기 휘도 정보와 에지 방향 정보의 조합으로 가능한 클러스터 중에서, 해당 블록의 휘도와 에지 방향의 조합에 해당하는 클러스터로 분류하는 것을 특징으로 하는 영상 처리 방법.
  4. 제2 항에 있어서,
    상기 분류하는 단계는, 상기 블록에 소벨 필터를 적용하여 블록 내 에지 방향을 구하고 그 중에서 빈도가 가장 높은 방향을 해당 블록의 에지 방향으로 선정하는 것을 특징으로 하는 영상 처리 방법.
  5. 제1 항에 있어서,
    상기 선택하는 단계는, 각 블록에 대해, 해당 블록에 추가된 각 후보 모션 벡터에 대해 해당 후보 모션 벡터와 이에 대응되는 대응 블록과의 차이 값 및 해당 블록이 속하는 클러스터의 대표 모션 벡터와 신용 값을 근거로 구한 페널티 값의 합을 구하고, 그 합이 가장 작은 후보 모션 벡터를 해당 블록에 대한 최종 모션 벡터로 선택하는 것을 특징으로 하는 영상 처리 방법.
  6. 제5 항에 있어서,
    상기 페널티 값은 상기 후보 모션 벡터와 대표 모션 벡터의 차이 값에 상기 신용 값을 곱하여 구한 값인 것을 특징으로 하는 영상 처리 방법.
  7. 제1 항에 있어서,
    상기 구하는 단계는, 해당 클러스터에 포함되는 블록들에 대해 계산된 1차 모션 벡터들의 평균을 해당 클러스터에 대한 대표 모션 벡터로 계산하고, 상기 1차 모션 벡터들의 편차에 반비례하는 값을 해당 클러스터에 대한 신용 값으로 계산하는 것을 특징으로 하는 영상 처리 방법.
  8. 제1 항에 있어서,
    상기 후보 모션 벡터는 해당 블록의 1차 모션 벡터와 해당 블록이 포함된 클러스터의 대표 모션 벡터를 포함하고, 글로벌 모션 벡터, 주변 블록의 모션 벡터, 제로 모션 벡터 및 상기 1차 모션 벡터의 변형 모션 벡터 중 하나 이상을 더 포함하는 것을 특징으로 하는 영상 처리 방법.
  9. 제1 항에 있어서,
    상기 최종 모션 벡터를 이용하여, 상기 제1 이미지와 제2 이미지 사이에 삽입될 중간 이미지를 생성하는 단계를 더 포함하여 이루어지는 것을 특징으로 하는 영상 처리 방법.
  10. 시간적으로 연속되는 제1 프레임과 제2 프레임으로부터 모션 벡터를 생성하기 위한 모션 추정부; 및
    상기 생성된 모션 벡터를 이용하여 상기 제1 프레임과 제2 프레임 사이에 삽입될 중간 프레임의 이미지 데이터를 보정하기 위한 모션 보상부를 포함하여 구성되고,
    상기 모션 추정부는,
    블록의 휘도 정보와 에지 방향 정보를 근거로 상기 제1 프레임에 포함된 블록들을 하나 이상의 클러스터로 분류하기 위한 클러스터링부;
    각 블록에 대해 상기 제2 프레임에서 차이 값이 최소가 되는 대응 블록을 찾아 상기 대응 블록을 가리키는 1차 모션 벡터를 계산하기 위한 1차 모션 벡터 선택부;
    상기 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하기 위한 대표 모션 벡터 생성부; 및
    각 블록에 대해, 상기 대표 모션 벡터와 신용 값을 이용하여, 적어도 상기 1차 모션 벡터와 상기 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택하기 위한 최종 모션 벡터 선택부를 포함하여 구성되는 것을 특징으로 하는 영상 처리 장치.
  11. 데이터 라인들과 게이트 라인들이 교차하고 매트릭스 형태로 형성되는 픽셀들을 포함하는 표시 패널;
    입력되는 영상 데이터를 모션 추정과 모션 보상을 통해 보간 처리하기 위한 영상 처리부;
    상기 영상 처리부가 출력하는, 프레임 레이트가 2배가 되는 영상 데이터를 수신할 때, 제어 신호들을 동작 속도가 2배가 되도록 조절하기 위한 타이밍 컨트롤러;
    상기 타이밍 컨트롤러의 제어에 따라 상기 타이밍 컨트롤러로부터 입력되는 영상 데이터를 데이터 전압으로 변환하여 데이터 라인들에 출력하기 위한 데이터 구동 회로; 및
    상기 타이밍 컨트롤러의 제어에 따라 상기 데이터 전압에 동기되는 스캔 펄스를 생성하여 상기 게이트 라인들에 순차적으로 공급하기 위한 게이트 구동 회로를 포함하여 구성되고,
    상기 영상 처리부는,
    블록의 휘도 정보와 에지 방향 정보를 근거로 제1 프레임에 포함된 블록들을 하나 이상의 클러스터로 분류하고, 각 블록에 대해 상기 제1 프레임에 시간적으로 인접하는 제2 프레임에서 차이 값이 최소가 되는 대응 블록을 찾아 상기 대응 블록을 가리키는 1차 모션 벡터를 계산하고, 상기 1차 모션 벡터들을 근거로, 적어도 하나 이상의 블록을 포함하는 각 클러스터에 대해 대표 모션 벡터와 신용 값을 구하고, 각 블록에 대해, 상기 대표 모션 벡터와 신용 값을 이용하여, 적어도 상기 1차 모션 벡터와 상기 대표 모션 벡터를 포함하는 후보 모션 벡터들 중에서 최종 모션 벡터를 선택하기 위한 모션 추정부; 및
    상기 생성된 최종 모션 벡터를 이용하여 상기 제1 프레임과 제2 프레임 사이에 삽입될 중간 프레임의 이미지 데이터를 보정하기 위한 모션 보상부를 포함하여 구성되는 것을 특징으로 하는 표시 장치.
KR1020170098132A 2017-08-02 2017-08-02 영상 처리 방법 및 이를 이용한 표시 장치 KR102465557B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170098132A KR102465557B1 (ko) 2017-08-02 2017-08-02 영상 처리 방법 및 이를 이용한 표시 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170098132A KR102465557B1 (ko) 2017-08-02 2017-08-02 영상 처리 방법 및 이를 이용한 표시 장치

Publications (2)

Publication Number Publication Date
KR20190014381A KR20190014381A (ko) 2019-02-12
KR102465557B1 true KR102465557B1 (ko) 2022-11-10

Family

ID=65369454

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170098132A KR102465557B1 (ko) 2017-08-02 2017-08-02 영상 처리 방법 및 이를 이용한 표시 장치

Country Status (1)

Country Link
KR (1) KR102465557B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102589845B1 (ko) * 2022-10-20 2023-10-17 주식회사 인피닉 수어 영상 번역 방법 및 이를 실행하기 위하여 기록매체에 기록된 컴퓨터 프로그램

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100106067A (ko) * 2009-03-23 2010-10-01 엘지디스플레이 주식회사 프레임 레이트 업 컨버젼 방법 및 장치
KR101094304B1 (ko) * 2010-02-23 2011-12-19 삼성모바일디스플레이주식회사 표시 장치 및 그의 영상 처리 방법
KR101214858B1 (ko) * 2011-04-13 2012-12-24 서강대학교산학협력단 클러스터링 기법을 이용한 이동물체 검출장치 및 방법
KR101939628B1 (ko) * 2012-05-30 2019-01-17 삼성전자주식회사 모션 검출 방법 및 모션 검출기
KR101977802B1 (ko) * 2012-10-10 2019-05-13 삼성전자주식회사 영상 시스템에서 움직임 추정 장치 및 방법

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
신윤정 등, 움직임벡터 군집화를 이용한 H.264/AVC에서 MPEG-2로의 비디오 트랜스코딩, 한국전자통신학회논문지 제5권 제1호.(2010.)

Also Published As

Publication number Publication date
KR20190014381A (ko) 2019-02-12

Similar Documents

Publication Publication Date Title
US9251749B2 (en) Liquid crystal display device with grey-scale voltage correction
US9401110B2 (en) Organic light emitting display and degradation compensation method thereof
KR102269893B1 (ko) 표시 장치 및 표시 장치의 구동 방법
US20080025403A1 (en) Interpolation frame generating method and interpolation frame forming apparatus
US10593261B2 (en) Display device and driving method thereof
KR20170036934A (ko) 화소 및 이를 포함하는 유기 발광 표시 장치
KR102624885B1 (ko) 유기 발광 표시 장치 및 그의 구동 방법
KR20140039524A (ko) 표시 장치의 구동 방법 및 표시 장치의 구동 장치
CN102124511B (zh) 图像信号处理装置、图像信号处理方法、图像显示装置、电视接收机、电子设备
US20130241968A1 (en) Signal processing device, liquid crystal device, electronic apparatus and signal processing method
JP7286367B2 (ja) 映像補正部
US8345070B2 (en) Apparatus and method for frame rate up conversion
KR102290687B1 (ko) 타이밍제어부, 이를 포함하는 유기발광표시장치 및 이의 열화보상방법
CN106461990A (zh) 液晶显示装置以及显示方法
KR102337829B1 (ko) 로고 검출 방법 및 이를 이용한 표시장치
KR20200088546A (ko) 잔상 보상부 및 이를 포함하는 표시 장치
US20100033634A1 (en) Display device
KR102465557B1 (ko) 영상 처리 방법 및 이를 이용한 표시 장치
CN108932934B (zh) 显示装置及显示装置的驱动方法
KR20130131162A (ko) 액정표시장치 및 이의 구동방법
KR20190017293A (ko) 영상 처리 방법 및 이를 이용한 표시 장치
KR20160046983A (ko) 소비 전력 제어 방법 및 장치와 이를 이용한 표시장치
KR102623360B1 (ko) 비디오 월 장치 및 그의 구동방법
KR102430577B1 (ko) 멀티비전 시스템 및 그 구동 방법
KR20180000037A (ko) 유기 발광 표시 장치의 데이터 보상 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant