KR100655846B1 - 손떨림 보정 장치 및 촬상 기기 - Google Patents

손떨림 보정 장치 및 촬상 기기 Download PDF

Info

Publication number
KR100655846B1
KR100655846B1 KR1020050079858A KR20050079858A KR100655846B1 KR 100655846 B1 KR100655846 B1 KR 100655846B1 KR 1020050079858 A KR1020050079858 A KR 1020050079858A KR 20050079858 A KR20050079858 A KR 20050079858A KR 100655846 B1 KR100655846 B1 KR 100655846B1
Authority
KR
South Korea
Prior art keywords
shake
correction
amount
state
attenuation
Prior art date
Application number
KR1020050079858A
Other languages
English (en)
Other versions
KR20060050795A (ko
Inventor
하루오 하따나까
Original Assignee
산요덴키가부시키가이샤
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 산요덴키가부시키가이샤 filed Critical 산요덴키가부시키가이샤
Publication of KR20060050795A publication Critical patent/KR20060050795A/ko
Application granted granted Critical
Publication of KR100655846B1 publication Critical patent/KR100655846B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6812Motion detection based on additional sensors, e.g. acceleration sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6815Motion detection by distinguishing pan or tilt from motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/683Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Control Of Position Or Direction (AREA)
  • Manipulator (AREA)

Abstract

화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 감쇠 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수산을 구비하고 있으며, 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있다.
흔들림량, 감쇠 중심, 움직임 검출 회로, 움직임 벡터, 고체 촬상 소자

Description

손떨림 보정 장치 및 촬상 기기{UNINTENTIONAL HAND MOVEMENT CANCELING DEVICE AND IMAGING APPARATUS}
도 1은 비디오 카메라의 전기적 구성을 도시하는 블록도.
도 2는 움직임 검출 회로의 전기적 구성을 도시하는 블록도.
도 3은 영상 에리어 내에 설정되는 복수의 움직임 벡터 검출 영역을 도시하는 모식도.
도 4는 도 3의 각 움직임 벡터 검출 영역 내의 소영역 내에 설정된 복수의 샘플링점과, 1개의 대표점을 도시하는 모식도.
도 5는 프레임 메모리와 트리밍 프레임과의 관계를 도시하는 모식도.
도 6은 비디오 카메라를 우측 방향으로 이동시켰을 때의 프레임 메모리와 트리밍 프레임과의 관계를 도시하는 모식도.
도 7은 적분 벡터와 트리밍 프레임과의 관계를 도시하는 모식도.
도 8은 손떨림 보정 범위를 설명하기 위한 모식도.
도 9는 손떨림 보정 범위를 초과한 경우의 처리를 설명하기 위한 모식도.
도 10은 1 프레임마다 행해지는 비디오 카메라(10)의 동작을 도시하는 플로우차트.
도 11은 도 10의 스텝 S11의 제1 상태 판정 처리의 수순을 도시하는 플로우 차트.
도 12는 도 10의 스텝 S13의 제2 상태 판정 처리의 수순을 도시하는 플로우차트.
도 13a, 도 13b 및 도 13c는, 종래 방법에서, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하고 나서 2프레임 경과하기까지의 적분 벡터 S0∼S2의 변화를 도시하는 모식도.
도 14a, 도 14b, 도 14c 및 도 14d는, 본 발명 방법에서, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하고 나서 3 프레임 경과하기까지의 적분 벡터 S0∼S3의 변화를 도시하는 모식도.
도 15는 비디오 카메라를 좌측 방향으로 팬한 후, 비디오 카메라를 고정하였을 때의 트리밍 프레임과 구도의 변화를 도시하는 모식도.
도 16은 종래 방법을 이용한 경우의, 도 15의 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 시점으로부터의 경과 시간(프레임 수)과 트리밍 프레임(구도)의 위치와의 관계를 도시하는 그래프.
도 17은 본 발명 방법을 이용한 경우의, 도 15의 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 시점으로부터의 경과 시간(프레임 수)과 트리밍 프레임(구도)의 위치와의 관계를 도시하는 그래프.
도 18a, 도 18b, 도 18c 및 도 18d는 비디오 카메라(10)의 실제의 상태가, 손떨림 상태→팬 상태→고정 상태와 같이 변화한 경우의, 프레임 수와 비디오 카메라(10)의 표시 화상(구도)의 이동량과의 관계를 도시하는 그래프.
도 19는 감쇠 계수 K에 의한 흔들림 주파수와 보정 잔류율의 관계를 도시하는 그래프.
<도면의 주요 부분에 대한 부호의 설명>
10 : 비디오 카메라
11 : 렌즈
12 ; 고체 촬상 소자
13 : 카메라 회로
14 : A/D
15 : 프레임 메모리
16 : 전자 줌 회로
21 : 메모리 제어 회로
18 : 움직임 검출 회로
20 : 마이크로컴퓨터
본 발명은, 예를 들면 비디오 카메라나 디지털 카메라에 탑재되는 손떨림 보정 장치 및 비디오 카메라나 디지털 카메라 등의 촬상 장치에 관한 것이다.
촬상 장치의 흔들림 성분을 검출하는 방법의 일례가, 1989년의 제20회 화상 광학 컨퍼런스에서 마쯔시따 전기 산업(주)으로부터 발표되었다. 이 방법은, 쇼와 61년(1986) 9월 6일부로 공개된 일본 특개소61-201581호〔H04N7/137〕 공보에 기재되어 있는 대표점 매칭법으로부터 얻어지는 움직임 벡터를 사용하여, 화상 정보로부터 촬상 장치의 흔들림 성분을 검출하는 것이다. 이 발표에서는, 화상 정보로부터 얻어지는 움직임 벡터에 기초하여 손떨림을 보정하는 방법에, 감쇠 계수를 도입하였다. 또한, 화면에 4개의 검출 영역을 배치하고 있어, 각 검출 영역마다 부분 움직임 벡터를 산출하고 있다.
여기서, 얻어진 부분 움직임 벡터에 기초하여 손떨림 보정하는 방법에 대하여 설명한다. 프레임간의 전체 움직임 벡터는, 앞서 설명한 4개의 부분 움직임 벡터의 평균 등이 이용된다. 전체 움직임 벡터를 Vn으로 하면 적분 벡터 Sn은 다음 수학식 1로 표시된다.
Figure 112005048318160-pat00001
상기 수학식 1에서, Sn는 현 프레임의 적분 벡터를, Sn-1은 전 프레임의 적분 벡터를, Vn은 전체 움직임 벡터를, K는 적분 벡터의 감쇠 계수를 각각 나타내고 있다. 적분 벡터의 감쇠 계수 K는 1보다 작은 소수이다.
이와 같이 하여 얻어진 적분 벡터 Sn을 사용하여, 화상의 트리밍 위치를 이동시킴으로써, 손떨림에 기초하는 화상의 떨림을 보정한다. 적분 벡터 Sn은, 도 7에 도시한 바와 같이 화상 메모리(프레임 메모리(15))의 중심 O로부터의 표시 영역 (트리밍 프레임(100))의 중심 Ot까지의 거리와 방향을 나타낸다.
감쇠 계수 K를 제어함으로써, 흔들림의 주파수에 대한 보정 잔류율(보정할 흔들림의 주파수 특성)과, 보정 범위를 확보하기 위해 화상 트리밍 위치를 화상 메모리의 중심으로 복귀시키는 속도(센터링 속도)를 변화시킬 수 있다. 보정 잔류율은, 보정 전의 흔들림의 진폭에 대한 보정 후의 흔들림의 진폭의 비율〔%〕인 것으로 정의된다.
도 19는 감쇠 계수 K에 따른 흔들림 주파수〔㎐〕와 보정 잔류율[%]의 관계를 도시하고 있다.
예를 들면, K=1.0인 경우에는, 검출한 움직임을 완전하게 보정하게 된다. K=0.90인 경우, 2〔㎐〕의 흔들림이 약 50%, 5〔㎐〕의 흔들림이 약 70% 보정되게 된다. 즉, 감쇠 계수 K를 작게 하면 할수록, 저주파수대의 흔들림에 대한 보정 정도가 약해지게 된다.
그런데, 감쇠 계수 K는, 보정할 흔들림의 주파수 특성과 센터링 속도를 제어하는 역할을 겸하고 있기 때문에, 각각 독립된 특성으로 설정할 수 없다. 예를 들면, 저주파수대의 흔들림을 보정하지 않도록 감쇠 계수 K를 작게 하면, 센터링 속도가 부차적으로 커지게 되어, 비디오 카메라의 움직임을 멈춰도 화상이 지연되어 움직이는 현상(지연 흔들림)이 현저하게 된다고 하는 문제가 있었다.
또한, 반대로, 저주파수대의 흔들림을 완전하게 보정하도록 감쇠 계수 K를 1로 하면, 센터링은 되지 않고, 보정 범위를 확보할 수 없게 된다고 하는 문제가 있 었다. 이 문제에의 대응예가, 일본 특개평7-23276호 공보에 제안되어 있다. 그 공보에서는, 팬·틸트 촬영 후에 지연 흔들림이 현저해지는 것에 주목하여, 팬·틸트 촬영 중에 움직임 벡터의 소정 비율분만큼, 화상의 트리밍 위치를 화상 메모리의 중심측으로 이동시키는 것이다. 그러나, 팬·틸트 촬영 중에는 움직임 벡터의 오검출이 다발하기 때문에, 팬·틸트 촬영 중의 조작성이 현저하게 저하된다고 하는 문제가 있었다.
본 발명의 목적은, 보정할 흔들림의 주파수 특성과 화상 트리밍 위치의 센터링 특성을 독립하여 원하는 설정으로 할 수 있어, 보다 양호하게 손떨림 보정할 수 있는, 손떨림 보정 장치 및 촬상 장치를 제공하는 것에 있다.
본 발명에 따른 제1 손떨림 보정 장치는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 흔들림량의 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과 흔들림량의 감쇠 중심이 변경 가능한 보정량을 생성하는 보정량 생성 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제2 손떨림 보정 장치는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하 여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단을 구비하고 있으며, 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 변경시키는 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제3 손떨림 보정 장치는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단, 상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단, 상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 보정 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 및 상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 보정 위치로 설정하는 수단을 구비하고 있으며, 제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키 는 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제4 손떨림 보정 장치는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단을 구비하고 있으며, 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제5 손떨림 보정 장치는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단, 상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단, 및 상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별 되어 있을 때에는, 화상 트리밍 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 화상 트리밍 위치로 설정하는 수단을 구비하고 있으며, 제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제1 촬상 기기는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 흔들림량의 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과 흔들림량의 감쇠 중심이 변경 가능한 보정량을 생성하는 보정량 생성 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제2 촬상 기기는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단을 구비하고 있으며, 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 변경시키는 수단을 구 비하고 있는 것을 특징으로 한다.
본 발명에 따른 제3 촬상 기기는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단, 상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단, 상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 보정 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 및 상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 보정 위치로 설정하는 수단을 구비하고 있으며, 제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제4 촬상 기기는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 및 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단을 구비하고 있으며, 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 한다.
본 발명에 따른 제5 촬상 기기는, 화상의 흔들림을 검출하는 흔들림 검출 수단, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단, 상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단, 및 상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 화상 트리밍 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 화상 트리밍 위치로 설정하는 수단을 구비하고 있 으며, 제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 한다.
<실시예>
이하, 도면을 참조하여, 본 발명의 실시예에 대하여 설명한다.
도 1은 비디오 카메라의 구성을 도시하고 있다.
비디오 카메라(10)는, 렌즈(11)로부터 입력되는 피사체(도시 생략)로부터의 광 신호를 전기 신호로 변환하는 CCD와 같은 고체 촬상 소자(12)를 포함하고 있다. 고체 촬상 수단(12)으로부터의 전기 신호는 카메라 회로(13)에 입력된다. 카메라 회로(13)는, 주지와 같이, 샘플 홀드 회로를 포함하고, 고체 촬상 소자(12)로부터의 전기 신호를 샘플 홀드한다. 샘플 홀드된 전기 신호의 레벨이 AGC에 의해 조정됨과 함께, 또한 동기 신호 부가 회로에 의해 동기 신호가 부가된다. 이와 같이 하여, 카메라 회로(13)는 고체 촬상 소자(12)로부터의 이미지 신호를 아날로드 비디오 신호로 변환한다.
카메라 회로(13)로부터 출력되는 아날로그 비디오 신호는, 또한, A/D 변환기(14)에 의해 디지털 비디오 신호로 변환된다. A/D 변환기(14)로부터 출력되는 디지털 비디오 신호는 움직임 검출 회로(흔들림 검출 수단)(18)에 공급됨과 동시에, 메모리 회로(21)에 의해, 프레임 메모리(15)에 기입된다.
도 2는 움직임 검출 회로(18)의 구성을 도시하고 있다.
움직임 검출 회로(18)는, 예를 들면 주지의 대표점 매칭법을 이용하여, 움직임 벡터를 검출한다. 대표점 매칭법의 개요에 대하여 설명한다. 도 3에 도시한 바와 같이 각 프레임의 영상 에리어 내에, 복수의 움직임 벡터 검출 영역 E1∼E4가 설정되어 있다. 각 움직임 벡터 검출 영역 E1∼E4의 크기는 동일하다. 또한, 각 움직임 벡터 검출 영역 E1∼E4는, 또한 복수의 소영역 e로 분할되어 있다. 이 예에서는, 각 움직임 벡터 검출 영역 E1∼E4는, 30개의 소영역 e로 분할되어 있다. 각 소영역 e는, 예를 들면 32화소×16행으로 구성된다. 그리고, 도 4에 도시한 바와 같이, 각 소영역 e 각각에, 복수의 샘플링점 S와, 하나의 대표점 R이 설정되어 있다.
현 프레임에서의 소영역 e 내의 각 샘플링점 S의 영상 신호 레벨(휘도 레벨)과, 전 프레임에서의 대응하는 소영역 e의 대표점 R의 영상 신호 레벨(휘도 레벨)과의 차(각 샘플링점에서의 상관값)가, 각 움직임 벡터 검출 영역 E1∼E4마다 구해진다. 그리고, 각 움직임 벡터 검출 영역 E1∼E4마다, 움직임 벡터 검출 영역 내의 모든 소영역 e 사이에서, 대표점 R에 대한 변위가 동일한 샘플링점 S끼리의 상관값이 누적 가산된다. 따라서, 각 움직임 벡터 검출 영역 E1∼E4마다, 하나의 소영역 e 내의 샘플링점 S의 수에 따른 수의 상관 누적값이 구해진다.
그리고, 각 움직임 벡터 검출 영역 E1∼E4 내에서, 상관 누적값이 최소로 되는 점의 대표점 R에 대한 변위, 즉, 상관성이 가장 높은 점의 변위가, 해당 움직임 벡터 검출 영역 E1∼E4의 움직임 벡터로서 추출된다.
움직임 검출 회로(18)는, A/D 변환기(14)로부터의 디지털 비디오 신호를 받는 입력단(31)을 포함하고, 이 입력단(31)으로부터 입력된 디지털 비디오 신호는 필터(32)를 통과하여 대표점 메모리(33) 및 감산 회로(34)에 공급된다. 필터(32)는, 일종의 디지털 로우 패스 필터로서, S/N비를 개선하고, 적은 대표점으로 충분한 검출 정밀도를 확보하기 위해 이용된다. 대표점 메모리(33)는, 도 3에 도시한 각 움직임 벡터 검출 영역 E1∼E4의 소영역 e마다, 대표점 R의 위치 데이터와 정밀도 데이터를 기억한다.
감산 회로(34)는, 각 움직임 벡터 검출 영역 E1∼E4의 소영역 e마다, 대표점 메모리(33)로부터 공급되는 전 프레임의 대표점의 휘도 데이터와 입력단(31)으로부터 공급되는 현 프레임의 샘플링점 S의 휘도 데이터를 감산하고, 그 절대값(각 샘플링점에서의 상관값)을 산출한다. 구한 각 샘플링점에서의 상관값을 누적 가산 회로(35)에 부여한다.
누적 가산 회로(35)는, 각 움직임 벡터 검출 영역 E1∼E4마다, 움직임 벡터 검출 영역 내의 모든 소영역간에서, 대표점 R에 대한 변위가 동일한 샘플링점끼리의 상관값을 누적 가산한다. 상관 누적값은 연산 회로(36)에 공급된다.
연산 회로(36)는, 각 움직임 벡터 검출 영역 E1∼E4마다, 상관 누적의 평균값을 구함과 함께, 상관 누적값이 최소로 되는 화소의 위치 데이터를 구한다. 이와 같이 하여, 각 움직임 벡터 검출 영역 E1∼E4마다 얻어진 상관 누적값의 평균값, 상관 누적값의 최소값 및 상관 누적값이 최소로 되는 화소의 위치 데이터가 출력단(37)으로부터 마이크로컴퓨터(20)(도 1 참조)에 공급된다.
마이크로컴퓨터(20)는, 연산 회로(36)으로부터 공급된 데이터에 기초하여, 화면 전체의 움직임 벡터(이하, 간단하게 "전체 움직임 벡터"라고 함)를 산출한다. 우선, 각 움직임 벡터 검출 영역 E1∼E4마다, 상관 누적값이 최소로 되는 화소의 위치 데이터에 기초하여, 상관 누적값이 최소로 되는 화상의 대표점에 대한 변위를 구하고, 그 변위를 해당 움직임 벡터 검출 영역 E1∼E4의 움직임 벡터(부분 움직임 벡터)로 한다. 또한, 부분 움직임 벡터의 검출 정밀도를 좋게 하기 위해, 상관 누적값이 최소로 되는 화소의 주위 4화소의 상관 누적값을 이용하여 내삽 보간함으로써, 상관 누적값이 최소로 되는 화소의 위치 데이터를 계산하도록 해도 된다.
마이크로컴퓨터(20)는, 상관 누적값의 평균값을 상관 누적값의 최소값으로 제산한 값이 일정의 임계값보다 큰지의 여부 및 상관 누적값의 평균값이 소정값 이상인지의 여부를 각 움직임 벡터 검출 영역 E1∼E4마다 판별하고, 각 움직임 벡터 검출 영역 E1∼E4마다 구해지는 부분 움직임 벡터를 신뢰할 수 있는지의 여부, 즉 각 움직임 벡터 검출 영역 E1∼E4가 유효 영역인지 무효 영역인지를 판별한다. 임의의 움직임 벡터 검출 영역에서, 상관 누적값의 평균값을 상관 누적값의 최소값으로 제산한 값이 일정의 임계값보다 크고, 또한 상관 누적값의 평균값이 소정값 이상이면, 그 움직임 벡터 검출 영역은 유효 영역으로 된다.
구체적으로는, 움직임 벡터 검출 영역인지 유효 영역인지의 여부는 이하와 같이 판단된다. 우선, 화면의 콘트라스트가 낮을 때에는, 휘도차가 작기 때문에, 상관 누적값이 작아진다. 예를 들면, 화면 전체가 흰색일 때에는 상관 누적값은 작아진다. 이러한 경우에는, 신뢰성이 없어지기 때문에, 상관 함수값의 평균값≥소정값일 때에 유효로 된다. 또한, 소정값은 실험에 의해 결정된다.
또한, 움직임 벡터 검출 영역 내에 움직이는 물체가 있을 때에는, 움직이는 물체가 차지하는 부분과 차지하지 않는 부분에서 상관 누적값이 서로 다르며, 또한 움직이는 물체가 차지하는 부분은 다양한 상관 누적값을 취하고, 그 상관 누적값은일반적으로 큰 값으로 된다(상관도는 낮다). 따라서, 움직임 벡터 검출 영역 내에 움직이는 물체가 있을 때에는, 상관 누적값의 최소값이 커질 가능성이 높고, 움직임 벡터 검출 영역에 대한 움직임 벡터(부분 움직임 벡터)를 오검출할 우려가 있다.
부분 움직임 벡터를 오검출하면, 전체 움직임 벡터를 오검출하게 된다. 그러나, 상관 누적값의 평균값이 클 때에는 상관 누적값의 최소값이 어느 정도 커도 신뢰할 수 있다. 한편, 상관 누적값의 평균값이 작을 때에는 상관 누적값의 최소값은 보다 적어지지 않으면 신뢰할 수 없다. 따라서, 구체적으로는, (상관 누적값의 평균값)/(상관 누적값의 최소값)>5이라는 조건을 만족시키는 움직임 벡터 검출 영역을 유효 영역으로 판단하고, 이 조건을 만족시키지 않는 움직임 벡터 검출 영역의 부분 움직임 벡터를 이용하지 않도록 하여, 오검출에 의한 폐해를 방지한다.
이러한 2개의 조건에 의해, 각 움직임 벡터 검출 영역이 유효 영역인지의 여부가 판단된다. 그리고, 유효 영역인 것으로 판별된 움직임 벡터 검출 영역의 부분 움직임 벡터의 평균을 구하고, 그것을 프레임간의 움직임량 즉 전체 움직임 벡터 Vn으로 한다. 전체 움직임 벡터 Vn은 프레임간의 움직임량과 그 방향을 나타낸다. 마이크로컴퓨터(20)는, 전체 움직임 벡터 Vn을 이용하여 적분 벡터 Sn을 구한다. 적분 벡터 Sn의 구하는 방법에 대해서는, 후술한다. 적분 벡터 Sn은, 프레임 메모리(15)의 중심으로부터의 표시 영역(트리밍 프레임)의 중심까지의 거리와 방향 을 나타낸다.
손떨림 보정에서는, 프레임 메모리(15) 내의 표시 영역의 위치(화상 트리밍 위치)를 변화시킴으로써 보정이 행해진다. 프레임 메모리(15)와 트리밍 프레임(100)의 관계를 도 5에 도시한다. 프레임 메모리(15) 내의 트리밍 프레임(100)으로 둘러싸인 영역이 촬상 화상으로서 표시된다. 트리밍 프레임(100)의 초기 위치는, 그 중심이 프레임 메모리(15)의 중심에 합치된 위치로 설정되어 있다. 그리고, 검출된 움직임 벡터에 따라, 그 위치를 이동시키게 된다. 예를 들면, 비디오 카메라를 우측으로 이동시켰을 때의 프레임 메모리(15)와 트리밍 프레임(100)의 관계를 도 6에 도시한다. 비디오 카메라를 우측으로 이동시키면, 피사체는 프레임 메모리 내의 좌측으로 이동한다. 여기서, 비디오 카메라의 움직임량만큼, 비디오 카메라의 움직임과 반대 방향으로 트리밍 프레임(100)을 이동함으로써, 표시되는 화상(구도)의 변화는 없어져, 손떨림이 캔슬된다.
도 7은 적분 벡터 S와 트리밍 프레임(100)의 관계를 도시하고 있다. 트리밍 프레임(100)의 위치는, 프레임 메모리(15)의 중심 O를 원점으로 한 XY 좌표계에서, 트리밍 프레임(100)의 중심의 좌표 Ot로 주어진다. 현 프레임의 적분 벡터를 S로 하면, 프레임 메모리(15)의 중심 O로부터, 적분 벡터 S로 나타내어지는 방향으로, 적분 벡터 S로 나타내어지는 거리만큼 이동한 점이, 트리밍 프레임(100)의 중심 Ot로 된다.
여기서, 손떨림 보정의 범위는, 도 8에 도시한 바와 같이, 트리밍 프레임(100)이, 프레임 메모리(15)의 단에 위치할 때까지의 범위로 된다. 즉, 적분 벡터 S의 수평 성분 Sh, 수직 성분 Sv의 범위는 각각, 도 8의 Sh-min∼Sh-max, Sv-min∼Sv-max로 된다.
도 9에 도시한 바와 같이 비디오 카메라가 크게 움직여, 적분 벡터 S의 수평 성분 Sh가 보정 범위의 한계값을 초과한 경우에는, 수평 성분 Sh가 Sh-min보다 작으면 수평 성분 Sh를 Sh-min(한계값)으로 하고, 수평 성분 Sh가 Sh-max보다 크면 수평 성분 Sh를 Sh-max(한계값)로 한다. 적분 벡터 S의 수직 성분 Sv가 보정 범위의 한계값을 초과한 경우에도 마찬가지로, 수직 성분 Sv가 Sv-min보다 작으면 수직 성분 Sv를 Sv-min(한계값)으로 하고, 수직 성분 Sv가 Sv-max보다 크면 수직 성분 Sv를 Sv-max(한계값)로 한다.
적분 벡터 Sn의 산출 방법은, 「손떨림 상태」인지, 「팬 또는 틸트 상태」인지에 따라 다르다. 이들 상태는, 마이크로컴퓨터(20)에 의해 판별된다. 「손떨림 상태」인지, 「팬 또는 틸트 상태」인지를 나타내는 데이터는, 마이크로컴퓨터(20)의 메모리(도시 생략)에 저장된다.
「손떨림 상태」에서는, 마이크로컴퓨터(20)는, 초점 거리 검출 회로(19)로부터 취득한 35㎜ 필름 환산의 렌즈 초점 거리 F와, 사전에 설정되어 있는 초점 거리의 최소값 Fmin 및 최대값 Fmax와, 사전에 설정되어 있는 적분 벡터의 감쇠 계수의 최소값 Kmin 및 최대값 Kmax를 이용하여, 다음 수학식 2에 따라, 적분 벡터의 감쇠 계수 K를 구한다.
Figure 112005048318160-pat00002
그리고, 다음 수학식 3에 기초하여, 현 프레임의 적분 벡터 Sn을 계산한다.
Figure 112005048318160-pat00003
상기 수학식 3에서, K는, 상기 수학식 2에 기초하여 산출된 적분 벡터의 감쇠 계수이다. Vn은, 전 프레임과 현 프레임 사이의 전체 움직임 벡터 Vn이다. Sn-1은, 전 프레임의 적분 벡터이다. C는, 감쇠 중심이다. 감소 중심 C의 초기값은 0이고, 상기 수학식 3에 의해 적분 벡터 Sn이 산출될 때마다, 다음 수학식 4에 기초하여 갱신된다.
Figure 112005048318160-pat00004
상기 수학식 4에서, Kc는, 사전에 설정된 감쇠 중심의 감쇠 계수이다.
「팬 또는 틸트 상태」에서는, 다음 수학식 5로 나타내는 바와 같이, 마이크로컴퓨터(20)는, 마이크로컴퓨터(20)의 메모리 상에 기억된 1개 전의 프레임의 적분 벡터 Sn-1을 현 프레임의 적분 벡터 Sn으로 한다. 즉, 손떨림 보정을 행하지 않는 것을 의미한다.
Figure 112005048318160-pat00005
「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 천이는, 이하 중 어느 하나의 천이 조건 (a), (b), (c)를 만족시킨 경우에 행해진다.
(a) 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제1 천이 조건 : 전체 움직임 벡터 Vn의 방향이 동일한 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수(연속 프레임 수)가 30 이상인 것
구체적으로는, 전체 움직임 벡터 Vn의 수직 성분의 방향(위 또는 아래)이 동일한 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수가 30 이상인 것 또는 전체 움직임 벡터 Vn의 수평 성분의 방향(좌 또는 우)이 동일한 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수가 30 이상인 것
(b) 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제2 천이 조건 : 적분 벡터 Sn이 보정 범위의 한계값 이상인 프레임이 연속하고 있으며, 그 연속 횟수(연속 프레임 수)가 10 이상인 것
구체적으로는, 적분 벡터 Sn의 수직 성분이 보정 범위의 한계값 이상인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것 또는 적분 벡터 Sn의 수평 성분이 보정 범위의 한계값 이상인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것
또한, 상술한 바와 같이, 적분 벡터 Sn의 수직 성분 SV가 보정 범위의 한계값을 초과한 경우에는, 수직 성분 Sv가 Sv-min보다 작으면 수직 성분 Sv가 Sv-min(한계값)으로 되고, 수직 성분 Sv가 Sv-max(한계값)보다 크면 수직 성분 Sv가 Sv-max로 된다. 또한, 적분 벡터 Sn의 수평 성분 Sh가 보정 범위의 한계값을 초과한 경우에는, 수평 성분 Sh가 Sh-min보다 작으면 수평 성분 Sh가 Sh-min(한계값)으로 되고, 수평 성분 Sh가 Sh-max보다 크면 수평 성분 Sh가 Sh-max(한계값)으로 된다.
(c) 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제3 천이 조건 : 전체 움직임 벡터 Vn의 방향이 동일한 방향인 프레임이 연속하고 있으며 또한 그 동일 방향으로 연속하는 전체 움직임 벡터 Vn의 적분값이 화각(트리밍 프레임의 화상 사이즈)의 20% 이상인 것
구체적으로는, 전체 움직임 벡터 Vn의 수직 성분의 방향(위 또는 아래)이 동일한 방향인 프레임이 연속하고 있으며 또한 그 동일 방향으로 연속하는 전체 움직임 벡터 Vn의 수직 성분의 적분값이 트리밍 프레임의 상하 폭의 20% 이상인지, 또는 전체 움직임 벡터 Vn의 수평 성분의 방향(좌 또는 우)이 동일한 방향인 프레임이 연속하고 있으며 또한 그 동일 방향으로 연속하는 전체 움직임 벡터 Vn의 수평 성분의 적분값이 트리밍 프레임의 좌우 폭의 20% 이상인 것
「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이는, 이하 중 어느 하나의 천이 조건 (a), (b)를 만족시킨 경우에 행해진다.
(a) 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 조건 : 전체 움직임 벡터 Vn이 0.5 화소 이상인 프레임이 연속하고 있으며 또한 그 연속 횟수(연속 프레임 수)가 10 이상인 것
구체적으로는, 전체 움직임 벡터 Vn의 수직 성분이 0.5 화소 이상인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것 또는 전체 움직임 벡터 Vn의 수평 성분이 0.5 화소 이하인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것
(b) 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 제2 천이 조건 : 전체 움직임 벡터 Vn의 방향이, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였을 때의 전체 움직임 벡터 Vn의 방향과 반대 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것
구체적으로는, 전체 움직임 벡터 Vn의 수직 성분의 방향이, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였을 때의 전체 움직임 벡터 Vn의 수직 성분의 방향과 반대 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것 또는 전체 움직임 벡터 Vn의 수평 성분의 방향이, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였을 때의 전체 움직임 벡터 Vn의 수평 성분의 방향과 반대 방향인 프레임이 연속하고 있으며 그 연속 횟수가 10 이상인 것
「팬 또는 틸트 상태」로부터 「손떨림 상태」로 상태가 천이하였을 때에, 마이크로컴퓨터(20)는, 그 때의 적분 벡터 Sn을 감쇠 중심 C로 설정한다. 즉, 마이크로컴퓨터(20)의 메모리 상의 감쇠 중심 C를, 그 때의 적분 벡터 Sn과 동일한 데이터로 갱신한다.
이 실시예에서는, 초점 거리의 38∼280㎜에 대하여, 적분 벡터의 감쇠 계수 K가 0.9∼0.95로 되도록 하였다. 또한, 감쇠 중심의 감쇠 계수 Kc를 0.98로 설정하였다. 적분 벡터의 감쇠 계수 K를 제어함으로써, 보정하는 손떨림의 주파수의 특성을 변화시킬 수 있다. 또한, 종래에는, 센터링 속도가 빠르고 구도의 변화가 컸던 팬 또는 틸트 조작 후에는, 감쇠 중심 C가 팬 또는 틸트 조작 종료 직후의 적분 벡터 Sn으로 설정되기 때문에, 적분 벡터의 감쇠 계수 K에 의한 급격한 센터링이 작용하지 않게 된다. 그 대신에, 감쇠 중심의 감쇠 계수 Kc(=0.98)에 의해 완만한 센터링이 행해져, 촬영자가 알아차리지 않게, 보정 범위가 유지되도록 된다.
이와 같이 하여 구해진 적분 벡터 Sn은 메모리 제어 회로(21)에 제공된다. 메모리 제어 회로(21)에서는, 제공된 적분 벡터 Sn에 기초하여 프레임 메모리(15)의 판독 개시 어드레스를 결정하고, 그 어드레스로부터 프레임 메모리(15)에 저장된 디지털 비디오 신호를 판독한다. 즉, 메모리 제어 회로(21)는, 마이크로컴퓨터(20)에 의해 산출된 적분 벡터 Sn에 기초하여, 프레임 메모리(15) 내의 트리밍 프레임(100)을 이동시킨다.
메모리 제어 회로(21)에 의해 프레임 메모리(15)로부터 판독된 디지털 비디오 신호는, 전자 줌 회로(16)로 보내어진다. 전자 줌 회로(16)는, 프레임 메모리(15)의 크기에 상당하는 비디오 신호를 얻기 위해, 프레임 메모리(15)로부터 판독된 디지털 비디오 신호에 기초하여 내삽 보간법을 이용하여 화상을 확대한다. 전자 줌 회로(16)로부터 출력되는 디지털 비디오 신호는, 출력 단자(17)에 보내어진다.
도 10은 1 프레임마다 행해지는 비디오 카메라(10)의 동작을 도시하고 있다.
Flag는, 「손떨림 상태」인지 「팬 또는 틸트 상태」인지를 기억하는 플래그로서 이용된다. Flag가 리세트(Flag=0)되어 있는 경우에는 상태가 「손떨림 상태」인 것을 나타내고, Flag가 세트(Flag=1)되어 있는 경우에는 상태가 「팬 또는 틸트 상태」인 것을 나타낸다.
우선, Flag를 리세트(Flag=0)한다(스텝 S1). 즉, 초기의 상태로 하여, 「손떨림 상태」가 설정된다.
각 움직임 벡터 검출 영역 E1∼E4마다, 상관 누적값이 최소로 되는 화소의 위치 데이터에 기초하여, 부분 움직임 벡터를 구한다(스텝 S2).
다음으로, 각 움직임 벡터 검출 영역 E1∼E4마다의 상관 누적값의 평균값 및 상관 누적값의 최소값에 기초하여, 각 움직임 벡터 검출 영역 E1∼E4가 유효 영역인지 무효 영역인지를 판별한다(스텝 S3). 그리고, 유효 영역이 존재하는지의 여부를 판별한다(스텝 S4).
유효 영역이 존재하는 경우에는, 유효 영역의 부분 움직임 벡터의 평균을 전체 움직임 벡터 Vn으로 한다(스텝 S5). 그리고, 스텝 S7로 진행한다. 유효 영역이 존재하지 않는 경우에는, 전체 움직임 벡터 Vn을 0으로 설정한다(스텝 S6). 그리고, 스텝 S7로 진행한다. 스텝 S7에서는, Flag=0인지의 여부를 판별한다. 즉, 「손떨림 상태」인지 「팬 또는 틸트 상태」인지의 여부를 판별한다.
Flag=0인 경우, 즉, 현재의 상태가 「손떨림 상태」인 경우에는, 초점 거리 검출 회로(19)로부터 35㎜ 필름 환산의 초점 거리를 취득하고, 상기 수학식 2에 기초하여, 감쇠 계수 K를 산출한다(스텝 S8). 산출된 K를 이용하여, 상기 수학식 3에 기초하여, 적분 벡터 Sn을 산출한다(스텝 S9). 이 후, 감쇠 중심 C를 상기 수학식 4에 기초하여 갱신한다(스텝 S10). 그리고, 제1 상태 판정 처리를 행한 후(스텝 S11), 스텝 S14로 진행한다. 제1 상태 판정 처리에 대해서는 후술한다.
상기 스텝 S7에서, Flag=1인 경우, 즉, 현재의 상태가 「팬 또는 틸트 상태」인 경우에는, 상기 수학식 5에 기초하여, 적분 벡터 Sn를 산출한다(스텝 S12). 그리고, 제2 상태 판정 처리를 행한 후(스텝 S13), 스텝 S14로 진행한다. 제2 상태 판정 처리에 대해서는 후술한다.
스텝 S14에서는, 상기 스텝 S9 또는 S12에서 산출된 적분 벡터 Sn에 기초하여, 트리밍 프레임의 위치를 산출한다. 그리고, 금회의 처리를 종료한다.
도 11은 도 10의 스텝 S11의 제1 상태 판정 처리의 수순을 도시하고 있다.
우선, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제1 천이 조건을 만족시키고 있는지의 여부를 판별한다(스텝 S21). 즉, 전체 움직임 벡터 Vn의 방향이 동일한 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수(연속 프레임 수)가 30 이상이라는 조건을 만족시키고 있는지의 여부를 판별한다. 상기 제1 천이 조건을 만족시키고 있는 경우에는, 「팬 또는 틸트 상태」인 것으로 판정하고, 즉, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였다고 판정하고, Flag를 세트(Flag=1)한다(스텝 S25). 그리고, 도 10의 스텝 S14로 이행한다.
상기 제1 천이 조건을 만족하고 있지 않은 경우에는, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제2 천이 조건을 만족하고 있는지의 여부를 판별한다(스텝 S22). 즉, 적분 벡터 Sn이 보정 범위의 한계값 이상인 프레임이 연속하고 있으며, 그 연속 횟수(연속 프레임 수)가 10 이상인 것이라는 조건을 만족시키고 있는지의 여부를 판별한다. 상기 제2 천이 조건을 만족하고 있는 경우에는, 「팬 또는 틸트 상태」인 것으로 판정하고, 즉, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였다고 판정하고, Flag를 세트(Flag=1)한다(스텝 S25). 그리고, 도 10의 스텝 S14로 이행한다.
상기 제2 천이 조건을 만족하고 있지 않은 경우에는, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제3 천이 조건을 만족하고 있는지의 여부를 판별한다(스텝 S23). 즉, 전체 움직임 벡터 Vn의 방향이 동일한 방향인 프레임이 연속하고 있으며 또한 그 동일 방향으로 연속하는 전체 움직임 벡터 Vn의 적분값이 화각(트리밍 프레임의 화상 사이즈)의 20% 이상인 것이라는 조건을 만족하고 있는지의 여부 를 판별한다. 상기 제3 천이 조건을 만족하고 있는 경우에는, 「팬 또는 틸트 상태」인 것으로 판정하고, 즉, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였다고 판정하고, Flag를 세트(Flag=1)한다(스텝 S25). 그리고, 도 10의 스텝 S14로 이행한다.
상기 제3 천이 조건을 만족하고 있지 않은 경우에는, 「손떨림 상태」인 것으로 판정하고, Flag를 리세트(Flag=0)한다(스텝 S24). 그리고, 도 10의 스텝 S14로 이행한다.
도 12는 도 10의 스텝 S12의 제2 상태 판정 처리의 수순을 도시하고 있다.
우선, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 제1 천이 조건을 만족하고 있는지의 여부를 판별한다(스텝 S31). 즉, 전체 움직임 벡터 Vn이 0.5 화소 이하인 프레임이 연속하고 있으며 또한 그 연속 횟수(연속 프레임 수)가 10 이상인 것이라는 조건을 만족시키고 있는지의 여부를 판별한다. 상기 제1 조건을 만족시키고 있는 경우에는, 「손떨림 상태」인 것으로 판정하고, 즉, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였다고 판정하고, 감쇠 중심 C를 현 프레임의 적분 벡터 Sn으로 설정한 후(스텝 S34), Flag를 리세트(Flag=0)한다(스텝 S35). 그리고, 도 10의 스텝 S14로 이행한다.
상기 제1 천이 조건을 만족하고 있지 않은 경우에는, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 제2 천이 조건을 만족하고 있는지의 여부를 판별한다(스텝 S32). 즉, 전체 움직임 벡터 Vn의 방향이, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였을 때의 전체 움직임 벡터 Vn의 방향과 반대 방향인 프레임이 연속하고 있으며 또한 그 연속 횟수가 10 이상인 것이라는 조건을 만족하고 있는지의 여부를 판별한다. 상기 제2 천이 조건을 만족하고 있는 경우에는, 「손떨림 상태」인 것으로 판정하고, 즉, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였다고 판정하고, 감쇠 중심 C를 현 프레임의 적분 벡터 Sn으로 설정한 후(스텝 S34), Flag를 리세트(Flag=0)한다(스텝 S35). 그리고, 도 10의 스텝 S14로 이행한다.
상기 제2 천이 조건을 만족하고 있지 않은 경우에는, 「팬 또는 틸트 상태」인 것으로 판정하고, Flag를 세트(Flag=1)한다(스텝 S33). 그리고, 도 10의 스텝 S14로 이행한다.
이와 같이 동작하는 비디오 카메라(10)에서는, 종래에서 팬 또는 틸트 조작 시에 스틱감이 현저해지는 광학 와이드측(줌 배율 소)에서는, 적분 벡터의 감쇠 계수 K가 작아진다. 이 때문에, 광학 와이드측에서는, 저주파수대의 흔들림의 보정 의 정도가 약해지기 때문에, 가령, 팬·틸트 상태의 검출에 실패한 경우라도, 팬·틸트 조작 개시 시의 비디오 카메라의 움직임의 어느 정도는 보정되지 않고 남아, 스틱감은 경감된다.
따라서, 종래에 비해, 광학 와이드측에서의 조작성이 향상되어(흔들거리는 움직임이 저감되어), 전체 줌 영역에서 양호한 조작성을 갖는 손떨림 보정이 가능하게 된다.
또한, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 상태가 천이하였을 때에는, 감쇠 중심 C가 현재의 화상 트리밍 위치로 이동하고, 그 후, 「손떨림 상태」에서 감쇠 중심 C가 프레임 메모리(15)의 중심으로 서서히 센터링되어 간다. 따라서, 종래와 같이 팬 또는 틸트 종료 후에 화상 트리밍 위치가 급격하게 센터링되어, 화상이 보기 어렵게 되는 등의 것을 해소할 수 있다. 또한,「팬 또는 틸트 상태」에서는, 손떨림 보정이 행해지지 않기 때문에, 팬 또는 틸트 시의 조작성에의 악영향은 없다.
이 점에 대하여 자세히 설명한다. 도 13a∼도 13c는, 상기 수학식 1에 기초하여 적분 벡터 Sn을 산출하는 종래 방법에서, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하고 나서 2프레임 경과하기까지의 적분 벡터 S0∼S2의 변화를 도시하고 있다.
도 13a에 도시한 바와 같이 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였을 때의 적분 벡터를 S0, 다음 프레임의 움직임 벡터를 V1, 그 다음 프레임의 움직임 벡터를 V2로 하면, 1 프레임 후의 적분 벡터 S1은, 도 13b에 도시한 바와 같이 S1=K·S0+V1로 된다. 마찬가지로, 2프레임 후의 적분 벡터 S2는, 도 13c에 도시한 바와 같이 S2=K·S1+V2로 된다.
도 14a∼도 14d는, 본 발명 방법에서, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하고 나서 3 프레임 경과하기까지의 적분 벡터 S0∼S3의 변화를 도시하고 있다.
도 14a에 도시한 바와 같이 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였을 때의 적분 벡터를 S0, 감쇠 중심 C를 C0, 다음 프레임의 움직임 벡터를 V1, 그 다음 프레임의 움직임 벡터를 V2, 그 다음 프레임의 움직임 벡터를 V3으로 하면, 1 프레임 후의 적분 벡터 S1은, 도 14b에 도시한 바와 같이, C0=S0이기 때문에, S1=K·(S0-S0)+V1+S0=V1+S0으로 된다.
다음으로, 2프레임 후의 적분 벡터 S2는, 도 14c에 도시한 바와 같이, S2=K·(S1-C1)+V2+C1로 된다. 여기서, C1은 C1=Kc·C0으로 구한 새로운 감쇠 중심이다. 마찬가지로, 3 프레임 후의 적분 벡터 S3은, 도 14d에 도시한 바와 같이, S3=K·(S2-C2)+V3+C2로 된다. 여기서, C2는 C2=Kc·C1로 구한 새로운 감쇠 중심이다.
종래 방법에서는, 도 13a∼도 13c에 도시한 바와 같이, 점 O를 중심으로 적분 벡터 Sn이 감쇠 계수 K로 감쇠되게 된다. 한편, 본 발명 방법에서는, 도 14a∼도 14d에 도시한 바와 같이, 점 Cn을 중심으로 점 Cn으로부터의 적분 벡터 (Sn-Cn)가 감쇠 계수 K로 감쇠되게 된다. 이것은, 종래 방법에서는, 개시 프레임을 기준으로 감쇠 계수 K로 손떨림 보정하는 데 대하여, 본 발명 방법에서는, 팬 또는 틸트 상태 종료 시의 프레임을 기준으로 감쇠 계수 K로 손떨림 보정하는 것을 의미한다.
따라서, 종래 방법에서는, 적분 벡터의 감쇠 계수 K를 작게 하면 작게 할수록, Sn이 직접 감쇠되며, 그 변화량 ΔSn은 커지게 되어, 구도의 변화가 눈에 띄지만, 본 발명 방법에서는, 적분 벡터의 감쇠 계수 K를 작게 해도, Sn-Cn의 감쇠 속도, 즉 Sn이 Cn에 근접하는 속도가 빨라질 뿐이며, Sn의 변화 속도 ΔSn은, 기본적으로 Cn의 변화 속도에 의존하고, 즉, Sn의 변화 속도 ΔSn은, 감쇠 중심의 감쇠 계수 Kc에 크게 의존하며, 적분 벡터의 감쇠 K에는 거의 의존하지 않는다. 따라서, 본 발명 방법에서는, 손떨림의 흔들림의 주파수 특성과는 독립적으로, Sn의 변화 속도, 즉, 트리밍 프레임(화소 트리밍 위치)의 센터링 속도를 원하는 값으로 조정 가능하게 된다.
도 15는, 비디오 카메라를 좌측 방향으로 팬한 후, 비디오 카메라를 고정하였을 때의 트리밍 프레임과 구도의 변화를 도시한다.
종래 방법에서는, 팬 조작의 초기에서는, 「손떨림 상태」인 것으로 판정하고 있기 때문에, 도 15에 (a)∼(b)로 나타낸 바와 같이, 카메라의 움직임에 따라, 트리밍 프레임(100)이 이동한다. 이 때, 손떨림 보정은, Sn=K·Sn-1+Vn에 기초하여 행해지기 때문에 구도는 거의 변화되지 않는다.
그리고, 도 15에 (b)로 도시한 바와 같이, 트리밍 프레임(100)이 프레임 메모리단에 도달하면, 도 15에 (c)로 도시한 바와 같이, 그 후의 프레임에서도 트리밍 프레임(100)은 프레임 메모리단에서 고정된다. 트리밍 프레임(100)이 프레임 메모리단에서 고정되면, 실질적으로, 손떨림 보정이 행해지지 않게 되기 때문에, 카메라의 이동량만큼 구도는 변화된다. 이 상태가 10회 연속하면, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였다고 판정되고, 트리밍 프레임(100)은 고정된 상태로 된다(Sn=Sn-1). 이 경우, 도 15에 (d)로 도시한 바와 같이, 카메라의 이동량만큼 구도는 변화된다.
이 후, 카메라가 고정되면, 구도의 변화는 없어져, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였다고 판정된다. Vn=0이기 때문에, 도 15에 (e)∼(f)로 도시한 바와 같이, Sn=K·Sn-1에 의해 트리밍 프레임(100)을 이동시키게 된다. 적분 벡터의 감쇠 계수 K를 0.9로 하고, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 시의 Sn을 64화소로 하면, 그 천이 속도 ΔSn은 6.4화소/프레임으로 된다.
상기 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 시점으로부터의 경과 시간(프레임 수)과 트리밍 프레임(구도)의 위치의 관계를 도 16에 도시한다. 예를 들면, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이한 후, 1초간(30프레임)의 구도 변화량은 58화소로 되어, 카메라가 멈춰 있음에도 구도가 크게 변화되므로, 부자연스러운 영상으로 된다.
한편, 본 발명 방법에서는, 팬 조작의 초기에서는, 「손떨림 상태」인 것으로 판정되어 있기 때문에, 도 15에 (a)∼(b)로 도시한 바와 같이, 카메라의 움직임에 따라, 트리밍 프레임(100)이 이동한다. 이 때, 감쇠 중심 C의 초기값은 0이기 때문에, 손떨림 보정이 종래와 같이, Sn=K·Sn-1+Vn에 기초하여 행해지기 때문에, 구도는 거의 변화되지 않는다.
그리고, 도 15에 (b)로 도시한 바와 같이, 트리밍 프레임(100)이 프레임 메모리단에 도달하면, 도 15에 (c)로 도시한 바와 같이, 그 후의 프레임에서도 트리밍 프레임(100)은 프레임 메모리단에서 고정된다. 트리밍 프레임(100)이 프레임 메모리단에서 고정되면, 실질적으로, 손떨림 보정이 행해지지 않게 되기 때문에, 카메라의 이동량만큼 구도는 변화된다. 이 상태가 10회 연속하면, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하였다고 판정되며, 트리밍 프레임(100)은 고정된 상태로 된다(Sn=Sn-1). 이 경우, 도 15에 (d)로 도시한 바와 같이, 카메라의 이동량만큼 구도는 변화된다.
그 후, 카메라가 고정되면, 구도의 변화는 없어져, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였다고 판정된다. Vn=0이기 때문에, 도 15에 (e')∼(f')로 도시한 바와 같이, Sn=K·(Sn-1-C)+C(단, C=Kc·C에 의해 갱신됨)에 기초하여, 트리밍 프레임(100)이 이동한다. 적분 벡터의 감쇠 계수 K를 0.9로 하고, 감쇠 중심의 감쇠 계수 Kc를 0.98로 하며, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 시의 Sn(=C)을 64화소로 하면, 그 천이 속도는, ΔSn=ΔC=1.28화소/프레임으로 된다.
상기 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 천이 시점으로부터의 경과 시간(프레임 수)과 트리밍 프레임(구도)의 위치의 관계를 도 17에 도시한다. 예를 들면, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이한 후, 1초간(30프레임)의 구도 변화량은 20화소로 되며, 카메라가 고정된 후, 구도가 서서히 변화되기 때문에, 종래 방법과 비교하여 위화감이 없는 영상으로 된다.
도 18a∼도 18d는, 비디오 카메라(10)의 실제의 상태가, 손떨림 상태→팬 상태→고정 상태와 같이 변화된 경우의, 프레임 수와 비디오 카메라(10)의 표시 화상(구도)의 이동량의 관계를 도시하고 있다.
도 18a는 손떨림 보정을 행하지 않는 경우의 구도의 이동량을 도시하고, 도 18b는 상기 수학식 1에 기초하여 적분 벡터 Sn을 산출하는 종래 기술에서, 감쇠 계수 K를 0.9로 하여 손떨림 보정을 행한 경우(제1 종래 기술이라고 함)의 구도의 이동량을 도시하고, 도 18c는 상기 수학식 1에 기초하여 적분 벡터 Sn을 산출하는 종래 기술에서, 감쇠 계수 K를 0.98로 하여 손떨림 보정을 행한 경우(제2 종래 기술이라고 함)의 구도의 이동량을 도시하고, 도 18d는 본 실시예에 의해 손떨림 보정을 행한 경우(편의상, 적분 벡터의 감쇠 계수 K를 0.9로 하고, 감쇠 중심의 감쇠 계수 Kc를 0.98로 한 경우)의 구도의 이동량을 도시한다.
기간 T1에 나타내는 바와 같이 실제의 상태가 손떨림 상태인 경우에는, 비디오 카메라(10)에서도 「손떨림 상태」인 것으로 판정되며, 종래 기술(도 18b, 도 18c) 및 본 실시예에서도 손떨림 보정이 행해진다.
그리고, 기간 T2에 도시한 바와 같이, 실제의 상태가 손떨림 상태로부터 팬 상태로 변화되면, 변화 후에 있어서도 처음에는 「손떨림 상태」로 판정되어 있기 때문에, 손떨림 보정이 행해지고 있지만, 그 후, 「손떨림 상태」로부터 「팬 또는 틸트 상태」로의 제1 천이 조건, 제2 천이 조건 또는 제3 천이 조건 중 어느 하나의 조건이 만족되어, 비디오 카메라(10)에 의한 판정 결과가 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이한다. 그 결과, 손떨림 보정이 행해지지 않게 되며, 보정 후의 구도의 움직임은, 손떨림 보정을 행하지 않은 경우와 동등하게 된다.
실제의 상태가 손떨림 상태로부터 팬 상태로 변화된 후부터, 비디오 카메라(10)에 의한 판정 결과가 「손떨림 상태」로부터 「팬 또는 틸트 상태」로 천이하기까지의 사이에서, 제2 종래 기술(도 18c)에서는 감쇠 계수 K가 크고, 저주파 성분의 흔들림까지 강하게 보정하기 때문에, 화면이 의도한 방향으로 움직이지 않는 현상(스틱 현상)이 현저하게 나타난다. 한편, 제1 종래 기술(도 18b) 및 본 실시예(도 18d)에서는, 감쇠 계수 K가 작고, 저주파 성분의 흔들림에 대한 보정의 정도가 약하기 때문에, 스틱 현상이 경감된다.
그리고, 기간 T3에 나타낸 바와 같이, 실제의 상태가 팬 상태로부터 고정 상태로 변화되면, 「팬 또는 틸트 상태」로부터 「손떨림 상태」로의 제1 천이 조건 또는 제2 천이 조건 중 어느 하나의 조건이 만족되며, 비디오 카메라(10)에 의한 판정 결과가 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이한다.
「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하면, 종래 기술에서는 적분 벡터의 감쇠 계수 K에 의해 화상 트리밍 위치가 센터링되어 가고, 본 실시예에서는, 주로 감쇠 중심 C의 감쇠 계수 Kc에 의해 화상 트리밍 위치가 센터링되어 간다. 제1 종래 기술(도 18b)에서는 적분 벡터의 감쇠 계수 K가 작기 때문에, 화 상 트리밍 위치의 센터링 속도가 빨라, 구도가 급격하게 변화된다. 한편, 제2 종래 기술(도 18c)에서는 적분 벡터의 감쇠 계수 K가 크고, 본 실시예(도 18d)에서는 감쇠 중심 C의 감쇠 계수 Kc가 크기 때문에, 화상 트리밍 위치의 센터링 속도가 느려, 구도가 완만하게 변화된다.
즉, 종래 기술에서는, 1개의 감쇠 계수 K가 보정할 흔들림의 주파수 특성과 센터링 속도를 겸하고 있었기 때문에, 팬 개시 시의 스틱감과 팬 종료 후의 센터링의 현저함을 모두 저감할 수 없었지만, 본 실시예의 비디오 카메라(10)에서는, 보정할 흔들림의 주파수 특성과 센터링 속도를 독립된 감쇠 계수로 조정할 수 있기 때문에, 팬 개시 시의 스틱감과 팬 종료 후의 센터링의 현저함을 모두 저감할 수 있있다.
또한, 움직임 벡터는, 대표점 매칭법을 이용하여 구하는 것 이외에, 예를 들면 각속도 센서를 이용하여 구해도 된다. 또한, 손떨림 보정은 화상 메모리의 트리밍 위치를 제어하는 것 이외에, 예를 들면, 렌즈 각도, 렌즈 위치 또는 수광 소자의 위치를 제어해도 된다.
또한, 상기 실시예에서는, 적분 벡터의 감쇠 계수 K를 줌 배율(초점 거리 F)에 따라 변화시키고 있지만, 적분 벡터의 감쇠 계수 K를 고정하도록 해도 된다.
또한, 상기 실시예에서는, 도 10의 스텝 S9에서 적분 벡터 Sn을 상기 수학식 3에 기초하여 산출한 후, 도 10의 스텝 S10에서 감쇠 중심 C를 상기 수학식 4에 기초하여 갱신하고 있지만, 감쇠 중심 C를 갱신하지 않도록 해도 된다. 즉, 도 10의 스텝 S10을 생략해도 된다. 이 경우에는, 감쇠 중심 C의 초기값은 0이지만, 도 12의 스텝 S34에 나타낸 바와 같이 「팬 또는 틸트 상태」로부터 「손떨림 상태」로 천이하였을 때에는, C=Sn으로 설정된다. 도 10의 스텝 S10을 생략한 경우에는, 화상 트리밍 위치는 감쇠 중심 C를 향하여 수속되어 간다.
본 발명에 따르면, 보정할 흔들림의 주파수 특성과 화상 트리밍 위치의 센터링 특성을 독립하여 원하는 설정으로 할 수 있어, 보다 양호하게 손떨림 보정 장치 및 촬상 장치를 제공할 수 있다.

Claims (10)

  1. 화상의 흔들림을 검출하는 흔들림 검출 수단, 및
    흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 흔들림량의 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과 흔들림량의 감쇠 중심이 변경 가능한 보정량을 생성하는 보정량 생성 수단
    을 구비하고 있는 것을 특징으로 하는 손떨림 보정 장치.
  2. 화상의 흔들림을 검출하는 흔들림 검출 수단, 및
    흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단
    을 구비하고 있으며,
    보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 변경시키는 수단을 구비하고 있는 것을 특징으로 하는 손떨림 보정 장 치.
  3. 화상의 흔들림을 검출하는 흔들림 검출 수단,
    촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단,
    상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단,
    상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 보정 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 및
    상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 보정 위치로 설정하는 수단
    을 구비하고 있으며,
    제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 하는 손떨림 보정 장치.
  4. 화상의 흔들림을 검출하는 흔들림 검출 수단, 및
    흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단
    을 구비하고 있으며,
    보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 하는 손떨림 보정 장치.
  5. 화상의 흔들림을 검출하는 흔들림 검출 수단,
    촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단,
    상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성 을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단,
    상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 화상 트리밍 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 및
    상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 화상 트리밍 위치로 설정하는 수단
    을 구비하고 있으며,
    제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 하는 손떨림 보정 장치.
  6. 화상의 흔들림을 검출하는 흔들림 검출 수단, 및
    흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 흔들림량의 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과 흔들림량의 감쇠 중심이 변경 가능한 보정량을 생성하는 보정량 생성 수단
    을 구비하고 있는 것을 특징으로 하는 촬상 기기.
  7. 화상의 흔들림을 검출하는 흔들림 검출 수단, 및
    흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단
    을 구비하고 있으며,
    보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 변경시키는 수단을 구비하고 있는 것을 특징으로 하는 촬상 기기.
  8. 화상의 흔들림을 검출하는 흔들림 검출 수단,
    촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단,
    상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성 을 제어하기 위한 흔들림량의 감쇠 계수와, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 보정 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 보정 위치를 보정 전의 초기 위치로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단,
    상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 보정 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 및
    상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 보정 위치로 설정하는 수단
    을 구비하고 있으며,
    제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 하는 촬상 기기.
  9. 화상의 흔들림을 검출하는 흔들림 검출 수단, 및
    흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔 류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 보정량 생성 수단
    을 구비하고 있으며,
    보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 하는 촬상 기기.
  10. 화상의 흔들림을 검출하는 흔들림 검출 수단,
    촬영자의 의도적인 카메라 운동에 의한 흔들림 상태와 손떨림 상태를 판별하는 상태 판별 수단,
    상태 판별 수단에 의해 손떨림 상태인 것으로 판별되어 있을 때에는, 흔들림 검출 수단에 의해 검출된 흔들림량과, 흔들림의 주파수에 대한 보정 잔류율의 특성을 제어하기 위한 흔들림량의 감쇠 계수와, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도를 제어하기 위한 감쇠 중심에 기초하여, 화상 트리밍 위치를 산출하기 위한 보정량으로서, 흔들림의 주파수에 대한 보정 잔류율의 특성과, 화상 트리밍 위치를 촬상 화상의 중심으로 이동시키는 센터링 속도가 변경 가능한 보정량을 생성하는 제1 보정량 생성 수단,
    상태 판별 수단에 의해 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태인 것으로 판별되어 있을 때에는, 화상 트리밍 위치를 산출하기 위한 보정량을, 1 프레임 전의 보정량으로 하는 제2 보정량 생성 수단, 및
    상태 판별 수단에 의해, 촬영자의 의도적인 카메라 운동에 의한 흔들림 상태 로부터 손떨림 상태로 변화된 것이 검출되었을 때에, 감쇠 중심을 그 때의 보정량에 대응하는 화상 트리밍 위치로 설정하는 수단
    을 구비하고 있으며,
    제1 보정량 생성 수단은, 사전에 설정된 감쇠 중심의 감쇠 계수에 기초하여, 감쇠 중심을 갱신시키는 수단을 구비하고 있는 것을 특징으로 하는 촬상 기기.
KR1020050079858A 2004-08-31 2005-08-30 손떨림 보정 장치 및 촬상 기기 KR100655846B1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JPJP-P-2004-00253417 2004-08-31
JP2004253417 2004-08-31
JPJP-P-2005-00227770 2005-08-05
JP2005227770A JP4404822B2 (ja) 2004-08-31 2005-08-05 手ぶれ補正装置および撮像機器

Publications (2)

Publication Number Publication Date
KR20060050795A KR20060050795A (ko) 2006-05-19
KR100655846B1 true KR100655846B1 (ko) 2006-12-11

Family

ID=35431341

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020050079858A KR100655846B1 (ko) 2004-08-31 2005-08-30 손떨림 보정 장치 및 촬상 기기

Country Status (6)

Country Link
US (2) US7623153B2 (ko)
EP (1) EP1631062A3 (ko)
JP (1) JP4404822B2 (ko)
KR (1) KR100655846B1 (ko)
CN (1) CN100568921C (ko)
TW (1) TWI279131B (ko)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8989516B2 (en) 2007-09-18 2015-03-24 Fotonation Limited Image processing method and apparatus
US8417055B2 (en) 2007-03-05 2013-04-09 DigitalOptics Corporation Europe Limited Image processing method and apparatus
US9160897B2 (en) 2007-06-14 2015-10-13 Fotonation Limited Fast motion estimation method
US7639889B2 (en) 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method of notifying users regarding motion artifacts based on image analysis
US8264576B2 (en) 2007-03-05 2012-09-11 DigitalOptics Corporation Europe Limited RGBW sensor array
US7639888B2 (en) 2004-11-10 2009-12-29 Fotonation Ireland Ltd. Method and apparatus for initiating subsequent exposures based on determination of motion blurring artifacts
TWI271998B (en) * 2005-09-21 2007-01-21 Inventec Appliances Corp Image processing method and apparatus thereof
EP1874043B1 (en) * 2006-02-20 2013-12-04 Panasonic Corporation Image pick up apparatus
JP4952891B2 (ja) * 2006-05-08 2012-06-13 カシオ計算機株式会社 動画撮影装置および動画撮影プログラム
IES20070229A2 (en) 2006-06-05 2007-10-03 Fotonation Vision Ltd Image acquisition method and apparatus
JP4201809B2 (ja) 2006-11-13 2008-12-24 三洋電機株式会社 手ぶれ補正装置及び方法並びに撮像装置
US7773118B2 (en) * 2007-03-25 2010-08-10 Fotonation Vision Limited Handheld article with movement discrimination
TWI367026B (en) * 2007-03-28 2012-06-21 Quanta Comp Inc Method and apparatus for image stabilization
JP2008270983A (ja) * 2007-04-17 2008-11-06 Sanyo Electric Co Ltd 手ぶれ補正装置及び手ぶれ補正方法
KR101392732B1 (ko) * 2007-08-20 2014-05-08 삼성전자주식회사 손떨림에 의한 움직임 추정 장치 및 방법, 그를 이용한영상 촬상 장치
JP2009069618A (ja) * 2007-09-14 2009-04-02 Canon Inc 撮像装置、制御プログラムおよび記録媒体
US7800652B2 (en) * 2007-12-12 2010-09-21 Cyberlink Corp. Reducing video shaking
KR100958369B1 (ko) * 2008-02-01 2010-05-17 유창산업기계(주) 손떨림 보정 기능이 구비된 영상촬영장치
JP4513871B2 (ja) * 2008-02-15 2010-07-28 ソニー株式会社 画像処理方法、画像処理プログラムおよび画像処理装置
JP5213493B2 (ja) * 2008-03-26 2013-06-19 三洋電機株式会社 動き検出装置
JP5268433B2 (ja) * 2008-06-02 2013-08-21 キヤノン株式会社 撮像装置、及び撮像装置の制御方法
JP5230398B2 (ja) * 2008-12-19 2013-07-10 キヤノン株式会社 撮像装置及びその制御方法
JP5448800B2 (ja) 2009-12-25 2014-03-19 キヤノン株式会社 撮像装置及びその制御手段
JP2011210179A (ja) * 2010-03-30 2011-10-20 Sony Corp 移動物体検出装置及び方法、並びにプログラム
JP5501119B2 (ja) * 2010-06-29 2014-05-21 キヤノン株式会社 撮像装置およびその制御方法
US9083845B2 (en) * 2010-12-23 2015-07-14 Samsung Electronics Co., Ltd. Global arming method for image processing pipeline
JP5699806B2 (ja) * 2011-05-27 2015-04-15 株式会社ニコン 撮像装置
US8890962B2 (en) * 2011-12-06 2014-11-18 Cisco Technology, Inc. Systems and methods for performing gyroscopic image stabilization
KR101657525B1 (ko) * 2012-01-11 2016-09-19 한화테크윈 주식회사 기준 영상 설정기와 설정 방법 및 이를 구비하는 영상 안정화 장치
US10142598B2 (en) * 2014-05-30 2018-11-27 Sony Corporation Wearable terminal device, photographing system, and photographing method
US9392174B2 (en) * 2014-12-11 2016-07-12 Facebook, Inc. Systems and methods for time-lapse selection subsequent to capturing media content
US20170085740A1 (en) * 2015-05-21 2017-03-23 InvenSense, Incorporated Systems and methods for storing images and sensor data
JP6564284B2 (ja) * 2015-09-04 2019-08-21 キヤノン株式会社 画像処理装置および画像処理方法
KR101891262B1 (ko) * 2016-11-29 2018-08-24 박병섭 휴대용 개인건강 관리장치
CN108881703B (zh) * 2017-05-09 2020-07-21 杭州海康威视数字技术股份有限公司 防抖控制方法和装置
US20190297265A1 (en) * 2018-03-21 2019-09-26 Sawah Innovations Inc. User-feedback video stabilization device and method
US10587807B2 (en) 2018-05-18 2020-03-10 Gopro, Inc. Systems and methods for stabilizing videos
US10750092B2 (en) 2018-09-19 2020-08-18 Gopro, Inc. Systems and methods for stabilizing videos
DE102022112743B4 (de) 2022-05-20 2024-02-01 Audi Aktiengesellschaft Verfahren zur Verbesserung der Qualität einer Audio- und/oder Videoaufzeichnung sowie Steuervorrichtung für ein mobiles Endgerät

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09261530A (ja) * 1996-03-19 1997-10-03 Toshiba Corp 映像記録装置
JP2002296633A (ja) 2001-03-30 2002-10-09 Ricoh Co Ltd 撮像装置およびその手ぶれ補正方法
JP2004056581A (ja) 2002-07-22 2004-02-19 Minolta Co Ltd 撮像装置およびセンタリング情報取得方法
JP2004241922A (ja) 2003-02-04 2004-08-26 Minolta Co Ltd 撮像装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61201581A (ja) 1985-03-04 1986-09-06 Toshiba Corp 動きベクトル検出装置
JP2563567B2 (ja) * 1989-03-20 1996-12-11 松下電器産業株式会社 揺れ補正装置
JPH04207481A (ja) * 1990-11-30 1992-07-29 Canon Inc 動き検出装置
JP2792768B2 (ja) 1991-09-25 1998-09-03 シャープ株式会社 撮像装置
JPH05103253A (ja) 1991-10-11 1993-04-23 Matsushita Electric Ind Co Ltd ビデオカメラ
US5371539A (en) * 1991-10-18 1994-12-06 Sanyo Electric Co., Ltd. Video camera with electronic picture stabilizer
US5748231A (en) * 1992-10-13 1998-05-05 Samsung Electronics Co., Ltd. Adaptive motion vector decision method and device for digital image stabilizer system
JP2940762B2 (ja) * 1993-06-28 1999-08-25 三洋電機株式会社 手振れ補正装置を有するビデオカメラ
DE69428838T2 (de) * 1993-06-29 2002-07-18 Sanyo Electric Co., Ltd. Videokamera mit elektronischer Bildstabilisierung und Erzeugung von Additionsdaten
JP2957851B2 (ja) 1993-06-29 1999-10-06 三洋電機株式会社 手振れ補正方法
JPH07123317A (ja) * 1993-10-21 1995-05-12 Canon Inc 防振機能付き撮影装置
JP3208264B2 (ja) 1994-11-24 2001-09-10 三洋電機株式会社 手振れ補正装置およびそれを用いたビデオカメラ
JP2902966B2 (ja) * 1994-12-16 1999-06-07 三洋電機株式会社 手振れ補正装置およびそれを用いたビデオカメラ
JP3538965B2 (ja) 1995-05-30 2004-06-14 ソニー株式会社 手振れ補正装置及び方法並びに手振れ補正処理装置及び方法
US5959666A (en) * 1995-05-30 1999-09-28 Sony Corporation Hand deviation correction apparatus and video camera
DE10348567A1 (de) * 2002-10-22 2004-05-13 Fuji Photo Optical Co. Ltd. Bildunschärfekorrektureinrichtung
JP4187704B2 (ja) * 2004-08-31 2008-11-26 三洋電機株式会社 手ぶれ補正装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09261530A (ja) * 1996-03-19 1997-10-03 Toshiba Corp 映像記録装置
JP2002296633A (ja) 2001-03-30 2002-10-09 Ricoh Co Ltd 撮像装置およびその手ぶれ補正方法
JP2004056581A (ja) 2002-07-22 2004-02-19 Minolta Co Ltd 撮像装置およびセンタリング情報取得方法
JP2004241922A (ja) 2003-02-04 2004-08-26 Minolta Co Ltd 撮像装置

Also Published As

Publication number Publication date
JP2006101485A (ja) 2006-04-13
JP4404822B2 (ja) 2010-01-27
US20090251547A1 (en) 2009-10-08
CN100568921C (zh) 2009-12-09
US7633525B2 (en) 2009-12-15
KR20060050795A (ko) 2006-05-19
EP1631062A2 (en) 2006-03-01
US20060044404A1 (en) 2006-03-02
CN1744668A (zh) 2006-03-08
US7623153B2 (en) 2009-11-24
EP1631062A3 (en) 2009-10-21
TW200618619A (en) 2006-06-01
TWI279131B (en) 2007-04-11

Similar Documents

Publication Publication Date Title
KR100655846B1 (ko) 손떨림 보정 장치 및 촬상 기기
KR100680096B1 (ko) 손 떨림 보정 장치
KR100319034B1 (ko) 손흔들림보정장치를가진비디오카메라
JP2940762B2 (ja) 手振れ補正装置を有するビデオカメラ
KR100312139B1 (ko) 비디오카메라및비디오신호재생장치
JP4958756B2 (ja) 撮像装置及びその制御方法及びプログラム
JP2902966B2 (ja) 手振れ補正装置およびそれを用いたビデオカメラ
US6396538B1 (en) Video camera with optical zoom mechanism and picture stabilizer
JP2957851B2 (ja) 手振れ補正方法
JP3342041B2 (ja) 撮像装置
JPH11266389A (ja) 撮像装置
JP2792767B2 (ja) 撮像装置
JPH11275431A (ja) 撮像装置
JPH0746456A (ja) 手振れ補正装置を有するビデオカメラ
JP3213492B2 (ja) 手振れ補正装置およびそれを用いたビデオカメラ
JPH07107367A (ja) 画像処理装置
JP3152574B2 (ja) 手振れ補正装置およびそれを用いたビデオカメラ
JP2925890B2 (ja) 手振れ補正装置を有するビデオカメラ
JP3510274B2 (ja) カメラ
JPH07115583A (ja) 手振れ補正装置を有するビデオカメラ
JPH07135598A (ja) ビデオカメラの手振れ補正方法
JPH07107366A (ja) 画像処理装置
JPH0622204A (ja) 撮像装置の防振装置
JPH10210350A (ja) ビデオカメラの手振れ補正装置及び方法
JP2000253322A (ja) 撮像装置

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20121119

Year of fee payment: 7

FPAY Annual fee payment

Payment date: 20131118

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20141120

Year of fee payment: 9

FPAY Annual fee payment

Payment date: 20151118

Year of fee payment: 10

FPAY Annual fee payment

Payment date: 20161123

Year of fee payment: 11

FPAY Annual fee payment

Payment date: 20171117

Year of fee payment: 12

FPAY Annual fee payment

Payment date: 20181115

Year of fee payment: 13