KR101111503B1 - 전방향 피티지 카메라 제어 장치 및 그 방법 - Google Patents

전방향 피티지 카메라 제어 장치 및 그 방법 Download PDF

Info

Publication number
KR101111503B1
KR101111503B1 KR1020100014216A KR20100014216A KR101111503B1 KR 101111503 B1 KR101111503 B1 KR 101111503B1 KR 1020100014216 A KR1020100014216 A KR 1020100014216A KR 20100014216 A KR20100014216 A KR 20100014216A KR 101111503 B1 KR101111503 B1 KR 101111503B1
Authority
KR
South Korea
Prior art keywords
tilt
pan
zoom
value
ptz camera
Prior art date
Application number
KR1020100014216A
Other languages
English (en)
Other versions
KR20110094664A (ko
Inventor
김유건
Original Assignee
(주)서광시스템
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)서광시스템 filed Critical (주)서광시스템
Priority to KR1020100014216A priority Critical patent/KR101111503B1/ko
Publication of KR20110094664A publication Critical patent/KR20110094664A/ko
Application granted granted Critical
Publication of KR101111503B1 publication Critical patent/KR101111503B1/ko

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/661Transmitting camera control signals through networks, e.g. control via the Internet
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2628Alteration of picture size, shape, position or orientation, e.g. zooming, rotation, rolling, perspective, translation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 감시 영역을 촬영하여 나온 2차원 아날로그 영상을 입력하는 PTZ 카메라, 상기 PTZ 카메라가 입력한 2차원 아날로그 영상을 디지털 영상으로 변환하고, 사용자가 지정한 임의의 영상 좌표를 입력하는 정보 수집부, 상기 정보 수집부에서 입력한 영상 좌표를 팬틸트 값으로 변환하고, 영상 좌표 상의 거리에 따라 줌 값을 산출하며, 산출한 줌 값에 대한 줌 에러를 고려해 상기 팬 틸트값을 보정하고, 줌 값에 대응되는 포커스 값을 산출하는 정보 처리부 및, 상기 정보 처리부에서 처리하여 나온 보정된 팬, 틸트 값, 줌 값 및 포커스 값으로 상기 PTZ카메라에 연결된 팬/틸트/줌/포커스 드라이버를 제어하는 제어부를 포함하여 이루어진 전방향 PTZ 카메라 제어 장치 및 그 방법에 관한 것으로, PTZ 카메라의 내부특성을 공식화하여 감시영역을 바꾸거나, PTZ카메라 위치 등이 변경(또는 이동)되더라도 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있다.

Description

전방향 피티지 카메라 제어 장치 및 그 방법{Apparatus for controlling Pan/Tilt/Zoom camera in omnidirectional and method for the same}
본 발명은 전방향(全方向) PTZ(Pan/Tilt/Zoom) 카메라 제어 장치 및 그 방법에 관한 것으로, 더욱 상세하게는 PTZ 카메라의 내부특성(예: 팬, 틸트와 카메라가 촬영한 영상의 매칭 관계 등)을 공식화하여 감시영역을 바꾸거나, PTZ카메라 위치 등이 변경(또는 이동)되더라도 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있도록 하는 전방향(全方向) PTZ 카메라 제어 장치 및 그 방법에 관한 것이다.
종래는 일정 방향의 영상이미지 좌표 상의 대상 물체를 촬영하기 위해, 각 좌표마다 팬(Pan), 틸트(Tilt), 줌(Zoom), 포커스(Focus) 샘플 값을 룩업 테이블에 저장하는 작업을 PTZ카메라가 설치된 장소마다 하였다. 그 결과, 일정 방향의 영상이미지 상에서만 상기 값들이 유효하기 때문에 감시영역을 바꿀 경우 룩업 테이블 생성 작업을 다시 해야 하며 전방향에 대해서 유효하지 못하는 문제점이 발생된다.
더불어, PTZ카메라 위치가 변경(또는 이동)된 경우에는 상기 팬(Pan), 틸트(Tilt), 줌(Zoom), 포커스(Focus) 값들이 정확하지 않아 대상물을 정확히 촬영할 수 없는 문제점이 초래된다.
본 발명은 상기한 문제점을 해결하기 위해 개발된 것으로, 원하는 대상물을 정확히 촬영할 수 있도록 하기 위한 특히, 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있도록 하기 위한 전방향(全方向) PTZ 카메라 제어 장치 및 그 방법을 제공하는데 목적이 있다.
이러한 목적을 달성하기 위한 본 발명에 따른 전방향 PTZ 카메라 제어 장치는,
감시 영역을 촬영하여 나온 2차원 아날로그 영상을 입력하는 PTZ 카메라, 상기 PTZ 카메라가 입력한 2차원 아날로그 영상을 디지털 영상으로 변환하고, 사용자가 지정한 임의의 영상 좌표를 입력하는 정보 수집부, 상기 정보 수집부에서 입력한 영상 좌표를 팬틸트 값으로 변환하고, 영상 좌표 상의 거리에 따라 줌 값을 산출하며, 산출한 줌 값에 대한 줌 에러를 고려해 상기 팬 틸트값을 보정하고, 줌 값에 대응되는 포커스 값을 산출하는 정보 처리부 및, 상기 정보 처리부에서 처리하여 나온 보정된 팬, 틸트 값, 줌 값 및 포커스 값으로 상기 PTZ카메라에 연결된 팬/틸트/줌/포커스 드라이버를 제어하는 제어부를 포함하여 이루어진 것을 특징으로 한다.
바람직하게, 상기 정보 처리부는 하기의 순서대로 영상좌표를 팬틸트 값으로 변환시키는 영상좌표-팬틸트 변환 모듈을 포함하여 이루어진 것을 특징으로 한다.
a) 상기 정보 수집부로부터 입력받은 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy)을 구하는 단계, b) 팬/틸트 각도당 이동거리(원호)와, 영상이미지 좌표 상으로 투영했을 때의 이동거리(dx, dy) 및, 이동거리에 대한 원호비율인 비례상수(Kx, Ky)를 하기의 수학식 1로 산출하는 단계,
[수학식 1]
원호 = 2×π×R×360/θx
이동거리(dx) = R × tanθx, 이동거리(dy) = R × tanθy
(여기서, R은 PTZ 카메라와 영상이미지 대상 사이 거리)
비례상수(Kx) = 원호/이동거리(dx), 비례상수(Ky) = 원호/이동거리(dy)
c) 상기 PTZ카메라의 팬틸트 각도당 회전분해능(PRPD, TRPD)을 하기 수학식 2로 구하는 단계,
[수학식 2]
PRPD(Pan Resolution per degree) = Pan 총 회전 스텝 수 / 팬 회전가능범위의 각도
TRPD(Tilt Resolution per degree) = Tilt 총 회전 스텝 수 / 틸트 회전가능범위의 각도
d) 상기 팬틸트 각도당 회전분해능(PRPD, TRPD)과, 상기 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy), 비례상수(Kx, Ky)를 하기의 수학식 3에 적용하여 실제 팬, 틸트 값을 산출하는 단계,
[수학식 3]
Pan = θx × PRPD × Kx
Tilt = θy × TRPD × Ky
e)상기 팬, 틸트 값을 미리 설정된 원근 투영 함수(f(pan) = Panpro, f(tilt) = Tiltpro)에 적용하여 PTZ 카메라가 감시영역을 바라보고 있을 때의 실제 프로젝션(projection) 시의 감시영역 좌표(Panpro, Tiltpro)로 변환하는 단계.
바람직하게, 상기 영상좌표-팬틸트 변환 모듈로부터 입력받은 틸트 값(실제 프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)으로 구한 PTZ 카메라와 대상 물체 사이 각과, PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한 다음, 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 원하는 줌 값(Zoom)을 얻는 거리-줌 변환모듈을 포함하여 이루어진 것을 특징으로 한다.
그리고, 상기 거리-줌 변환모듈로부터 입력받은 줌 값을 미리 설정된 팬, 틸트 에러 보정 함수((fpan(Zoom) = Pan보정)(ftilt(Zoom) = Tilt보정))에 각기 적용하여 줌 에러가 보정된 팬, 틸트 값(Pan보정)(Tilt보정)을 구하는 줌에러-팬틸트 보정 모듈을 포함하여 이루어진 것을 특징으로 한다.
바람직하게, 상기 거리-줌 변환 모듈로부터 입력받은 줌 값을 미리 설정된 줌-포커스 렌즈 특성 함수(f(Zoom) = Focus)에 적용하여 포커스 값(Focus)을 얻는 줌-포커스 변환 모듈을 포함하여 이루어진 것을 특징으로 한다.
상기 목적을 달성하기 위한 또 다른 본 발명에 따른 전방향 PTZ 카메라 제어 방법은,
사용자 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy)을 구하는 단계, 팬/틸트 각도당 이동거리(원호)와, 영상이미지 좌표 상으로 투영했을 때의 이동거리(dx, dy), 이동거리에 대한 원호비율인 비례상수(Kx, Ky)를 하기의 수학식 4로 산출하는 단계,
[수학식 4]
원호 = 2×π×R×360/θx
이동거리(dx) = R × tanθx, 이동거리(dy) = R × tanθy
(여기서, R은 PTZ 카메라와 영상이미지 대상 사이 거리)
비례상수(Kx) = 원호/이동거리(dx), 비례상수(Ky) = 원호/이동거리(dy)
상기 PTZ카메라의 팬틸트 각도당 회전분해능(PRPD, TRPD)을 하기 수학식 5로 구하는 단계,
[수학식 5]
PRPD(Pan Resolution per degree) = Pan 총 회전 스텝 수 / 팬 회전가능범위의 각도
TRPD(Tilt Resolution per degree) = Tilt 총 회전 스텝 수 / 틸트 회전가능범위의 각도
상기 팬틸트 각도당 회전분해능(PRPD, TRPD)과, 상기 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy), 비례상수(Kx, Ky)를 하기의 수학식 6에 적용하여 실제 팬, 틸트 값을 산출하는 단계,
[수학식 6]
Pan = θx × PRPD × Kx
Tilt = θy × TRPD × Ky
상기 팬, 틸트 값을 미리 설정된 원근 투영 함수(f(pan) = Panpro, f(tilt) = Tiltpro)에 적용하여 PTZ 카메라가 감시영역을 바라보고 있을 때의 실제 프로젝션(projection) 시의 감시영역 좌표(Panpro, Tiltpro)로 변환하는 단계 및,
상기 변환된 감시영역 좌표(Panpro, Tiltpro)로 팬/틸트/줌/포커스 드라이버의 팬/틸트 동작을 제어하는 단계를 포함하여 이루어진 것을 특징으로 한다.
바람직하게, 상기 틸트 값(실제 프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)으로 구한 PTZ 카메라와 대상 물체 사이 각과, PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한 다음, 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 원하는 줌 값(Zoom)을 얻는 단계 및, 상기 줌 값으로 팬/틸트/줌/포커스 드라이버의 줌 인 또는 아웃 동작을 제어하는 단계를 더 포함하여 이루어진 것을 특징으로 한다.
그리고, 상기 줌 값을 미리 설정된 팬, 틸트 에러 보정 함수((fpan(Zoom) = Pan보정)(ftilt(Zoom) = Tilt보정))에 각기 적용하여 줌 에러가 보정된 팬, 틸트 값(Pan보정)(Tilt보정)을 구하는 단계 및, 상기 보정된 팬, 틸트 값(Pan보정)(Tilt보정)으로 팬/틸트/줌/포커스 드라이버의 팬, 틸트 동작을 제어하는 단계를 포함하여 이루어진 것을 특징으로 한다.
바람직하게, 상기 줌 값을 미리 설정된 줌-포커스 렌즈 특성 함수(f(Zoom) = Focus)에 적용하여 포커스 값(Focus)을 얻는 단계 및, 상기 포커스 값(Focus)으로 팬/틸트/줌/포커스 드라이버의 포커싱 동작을 제어하는 단계를 포함하여 이루어진 것을 특징으로 한다.
본 발명은 PTZ 카메라의 내부특성(예: 팬, 틸트와 카메라가 촬영한 영상의 매칭 관계 등)을 공식화하여 단방향에 유효하지 않고 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있는 효과가 있다. 즉, 감시영역을 바꾸거나, PTZ카메라 위치 등이 변경(또는 이동)되더라도 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있는 효과가 있다.
도 1은 본 발명에 따른 전방향(全方向) PTZ 카메라 제어 장치를 도시한 블록구성도
도 2는 본 발명에 따른 PTZ 카메라의 사용 상태도
도 3은 본 발명에 따른 영상 좌표를 팬틸트 값으로 변환시키는 동작을 순서대로 도시한 도면
도 4a ~ 도 4c는 본 발명에 따른 영상 좌표를 팬틸트 값으로 변환시키는 동작을 순서대로 도식화한 도면
도 5a ~ 도 5b는 본 발명에 따른 줌에러-팬틸트 보정 모듈의 보정 동작을 설명하기 위한 도면
도 6은 본 발명에 따른 거리-줌 변환 모듈의 변환 동작을 설명하기 위한 도면
도 7은 본 발명에 따른 전방향 PTZ 카메라 제어 방법을 순서대로 도시한 플로우 챠트
이하, 첨부된 도면을 참조하여 본 발명을 설명한다.
다만, 이하에서 설명되는 실시예는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 발명을 쉽게 실시할 수 있을 정도로 상세하게 설명하기 위한 것에 불과하며, 이로 인해 본 발명의 보호범위가 한정되는 것을 의미하지는 않는다.
본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.
명세서 및 청구범위 전체에서, 어떤 부분이 어떤 구성 요소를 포함한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 포함할 수 있는 것을 의미한다.
도 1의 장치는 본 발명에 따른 전방향(全方向) PTZ 카메라 제어 장치를 도시한 블록구성도이다.
크게, PTZ 카메라(100), 정보 수집부(101), 정보 처리부(102), 제어부(103)로 이루어진 구조이다.
즉, 감시 영역을 촬영하여 나온 2차원 아날로그 영상을 입력하는 PTZ 카메라(100), PTZ 카메라(100)가 입력한 2차원 아날로그 영상을 디지털 영상으로 변환하고, 사용자가 지정한 임의의 영상 좌표를 입력받는 정보 수집부(101), 정보 수집부(101)에서 입력받은 영상 좌표를 팬틸트 값으로 변환하고, 영상 좌표 상의 거리에 따라 적절한 줌 값을 산출하며, 산출한 줌 값에 대한 줌 에러를 고려해 상기 팬 틸트값을 보정하고, 줌 값에 대응되는 포커스 값을 산출하는 정보 처리부(102), 정보 처리부(102)에서 처리하여 나온 보정된 팬, 틸트 값, 그리고, 줌 값 및 포커스 값으로 상기 PTZ카메라(100)에 연결된 팬/틸트/줌/포커스 드라이버(미도시)를 제어하는 제어부(103)로 이루어진다.
여기서, 정보 수집부(101)는 PTZ 카메라(100)와 연결되고 프레임 그래버(Frame grabber)를 내장한 것으로, PTZ 카메라(100)로부터 2차원 아날로그 영상을 입력받고, 입력받은 2차원 아날로그 영상 신호를 샘플당 정의된 비트로 디지털화하여 본 장치에서 처리할 수 있는 신호로 변환해 준다. 그리고, 사용자가 지정한 임의의 영상 좌표를 입력받아 정보 처리부(102)로 전달해준다.
정보 처리부(102)는 정보 수집부(101)와 제어부(103) 사이에 설치되고, 영상좌표-팬틸트 변환 모듈, 줌에러-팬틸트 보정 모듈, 거리-줌 변환 모듈, 줌-포커스 변환 모듈을 내장한 것으로, 영상좌표-팬틸트 변환 모듈이 정보 수집부(101)로부터 입력받은 영상 좌표를 팬틸트 값으로 변환하고, 거리-줌 변환 모듈이 영상 좌표 상의 거리에 따라 적절한 줌 값을 산출하며, 줌에러-팬틸트 보정 모듈로 상기 산출한 줌 값에 대한 줌 에러를 고려해 상기 팬 틸트값을 보정하고, 줌-포커스 변환 모듈을 통해 상기 줌 값에 대응되는 포커스 값을 산출하여 제어부(103)로 입력한다.
이하에서는 첨부된 도 2, 도 3, 도 4a ~ 도 4c, 도 5a ~ 도 5b, 도 6을 각기 참조하여 본 발명에 따른 전방향(全方向) PTZ 카메라 제어 장치의 구성을 좀 더 상세히 설명한다.
참고로, 본 장치의 구성과, 관련된 도면과의 관계는 표 1과 같다.
구성 관련 도면
PTZ 카메라 도 2
영상좌표-팬틸트 변환 모듈 도 3, 도 4a ~ 도 4c
줌에러-팬틸트 보정 모듈 도 5a ~ 도 5b
거리-줌 변환 모듈, 줌-포커스 변환 모듈 도 6
먼저, 도 2는 본 발명에 따른 PTZ 카메라와 그의 사용 상태를 도시한 도면이다.
PTZ 카메라는 감시 영역을 촬영하고, 촬영하여 나온 2차원 아날로그 영상을 정보 수집부로 입력하는 것으로, 대상이 되는 감시 영역을 촬영하기 위해 일정 높이에 설치되어 감시영역을 아래로 바라보게 설치된다. 그리고, 팬/틸트/줌/포커스 드라이버에 연결되어 제어부로부터 입력된 팬, 틸트 값, 그리고, 줌 값 및 포커스 값에 의해 팬, 틸트, 줌 인 또는 아웃, 포커싱된다.
도 3은 본 발명에 따른 영상좌표-팬틸트 변환 모듈의 영상 좌표를 팬틸트 값으로 변환시키는 동작을 순서대로 도시한 도면이고, 도 4a ~ 도 4c는 상기 변환 동작을 순서대로 도식화한 도면이다.
먼저, 본 발명에 따른 영상좌표의 팬틸트 값 변환 동작은 사용자가 지정한 임의의 영상좌표(xp, yp)를 입력받고, 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축(여기서는 Z축)과의 사이각(θx, θy)을 산출한다(도 4a)(S300~S301). 그런 다음, 팬틸트 각도당 이동거리(원호)와 영상이미지 좌표 상으로 투영했을 때의 이동거리(dx, dy) 그리고, 이동거리에 대한 원호비율인 비례상수(Kx, Ky)를 하기의 수학식 7로 산출한다(도 4b)(S302~S304).
[수학식 7]
① 원호 = 2×π×R×360/θx
② 이동거리(dx) = R × tanθx, 이동거리(dy) = R × tanθy
(여기서, R은 PTZ 카메라와 영상이미지 대상 사이 거리)
③ 비례상수(Kx) = 원호/이동거리(dx), 비례상수(Ky) = 원호/이동거리(dy)
다음, PTZ카메라의 팬틸트 각도당 회전분해능(PRPD, TRPD)을 하기 수학식 8로 구한다.
[수학식 8]
PRPD(Pan Resolution per degree) = Pan 총 회전 스텝 수 / 팬 회전가능범위의 각도
TRPD(Tilt Resolution per degree) = Tilt 총 회전 스텝 수 / 틸트 회전가능범위의 각도
이어, 상기 팬틸트 각도당 회전분해능(PRPD, TRPD)과, 상기 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy) 그리고, 비례상수(Kx, Ky)를 하기의 수학식 9에 적용하여 실제 팬, 틸트 값을 산출한다(S305).
[수학식 9]
Pan = θx × PRPD × Kx
Tilt = θy × TRPD × Ky
마지막으로, 상기 팬, 틸트 값을 미리 설정된 원근 투영 함수(f(pan) = Panpro, f(tilt) = Tiltpro)에 적용하여 PTZ 카메라가 감시영역을 바라보고 있을 때의 실제 프로젝션(projection) 시의 감시영역 좌표(Panpro, Tiltpro)로 변환한다(도 4c)(S306).
그렇게 하여, 영상좌표의 팬틸트 값 변환 동작을 완료한다.
도 5a ~ 도 5b는 본 발명에 따른 줌에러-팬틸트 보정 모듈의 보정 동작을 설명하기 위해 도시한 도면이다.
통상 PTZ 카메라는 자체 내부 특성으로 인해 줌 에러를 발생시키게 되는데, 예를 들면, 도 5a의 영상 좌표(x1, y1)로 줌(zoom) 시킬 경우 실제적으로는 PTZ카메라 자체의 줌 에러 특성으로 인해 도 5b와 같이 (x2, y2) 좌표로 줌이 된다. 그래서 본 발명에서는 다시 (x1, y1) 좌표로 줌인 될 수 있도록 보정을 해 주게 되는데, 구체적인 동작은 해당 PTZ 카메라의 틸트 값(실제 프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)으로 구한 PTZ 카메라와 대상 물체의 사이 각과, PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한 다음, 그 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 해당 줌 값(Zoom)을 구하고, 그 줌 값을 미리 설정된 팬, 틸트 에러 보정 함수((fpan(Zoom) = Pan보정)(ftilt(Zoom) = Tilt보정))에 각기 적용하여 보간법으로 줌 에러가 보정된 팬, 틸트 값(Pan보정)(Tilt보정)을 얻는다. 이렇게 얻어진 보정된 팬, 틸트 값은 최종적으로 제어부로 입력되어 제어부의 팬, 틸트 동작 제어시 사용된다.
도 6은 본 발명에 따른 거리-줌 변환 모듈의 변환 동작을 설명하기 위해 구비한 도면이다.
도 6과 같이, 본 발명은 영상이미지 좌표 상의 대상물체에 대한 일정 크기(scale)의 영상을 얻기 위해 좌표 상의 거리를 구하여 그 거리만큼 줌을 하게 되는데, 구체적으로는 해당 PTZ 카메라의 틸트 값(실제 프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)으로 구한 PTZ 카메라와 대상 물체 사이 각과, PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한 후, 그 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 원하는 줌 값(Zoom)을 얻게 된다. 예를 들어, 여기서는 거리가 d4 일 경우, Zoom4의 줌 값을 얻게 된다. 이렇게 얻어진 줌 값은 제어부로 입력되어 제어부에 의한 줌 렌즈의 인-아웃 동작 제어시 사용되거나, 줌-포커스 변환 모듈로 입력되어 포커스 값을 산출하는데 사용된다.
참고로, 상기 줌 값이 줌-포커스 모듈로 입력되면, 줌-포커스 모듈은 입력 줌 값을 미리 설정된 줌-포커스 렌즈 특성 함수(f(Zoom) = Focus)에 적용하여 포커스 값(Focus)을 얻는다. 상기 줌 렌즈 특성 함수와 줌-포커스 렌즈 특성 함수는 실험 데이터로서 보간법으로 도출할 수 있다.
마지막으로, 도 1 내지 도 6의 본 발명에 따른 전방향(全方向) PTZ 카메라 제어 장치의 동작을 첨부된 도 7을 참조하여 설명한다.
도 7은 본 발명에 따른 전방향 PTZ 카메라 제어 장치의 동작을 순서대로 도시한 플로우 챠트이다.
먼저, 본 발명은 PTZ 카메라가 해당 감시 영역을 촬영하여(S700) 2차원 아날로그 영상을 생성해 정보 수집부로 전달한다.
다음, 정보 수집부는 상기 2차원 아날로그 영상을 디지털 영상으로 변환하고, 사용자가 지정한 임의의 영상 좌표(xp, yp)를 입력받는다(S701~S702).
다음, 영상좌표-팬틸트 변환 모듈은 입력 영상 좌표(xp, yp)를 팬 틸트값으로 변환한다(S703).
그리고, 변환하여 나온 팬, 틸트 값을 줌에러-팬틸트 보정 모듈이 해당 PTZ 카메의 줌 에러 특성만큼 보정한다(S704).
그런 후, 보정하여 나온 팬, 틸트 값을 제어부로 입력한다.
한편, 거리-줌 변환모듈은 영상이미지 좌표 상의 대상 물체에 대한 일정 크기(scale)의 영상을 얻기 위해 좌표 상의 거리를 구한다(S705).
그런 후, 그 거리에 따른 일정 크기의 영상을 얻기 위해 줌 값을 구하여(S706) 제어부로 입력한다.
그리고, 줌-포커스 변환모듈은 거리-줌 변환모듈로부터 줌 값을 입력받는다.
그런 후, PTZ 카메라의 포커스를 줌 인/아웃에 따라 맞추어 주기 위해, 입력 줌 값에 따른 포커스 값을 산출하여(S707) 제어부로 입력한다.
그러면, 제어부는 줌 에러 특성만큼 보정하여 나온 팬 값과 틸트 값, 그리고, 줌 값 및 포커스 값으로 팬/틸트/줌/포커스 드라이버를 제어한다(S708).
그렇게 하여, 전방향으로 원하는 대상물을 정확히 촬영할 수 있게 된다.
상기 각 변환 동작은 구체적으로 다음과 같다.
① 영상좌표- 팬틸트 변환 동작
영상좌표-팬틸트 변환 모듈은 상기 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy)을 구한다.
이어, 팬틸트 각도당 이동거리(원호)와, 영상이미지 좌표 상으로 투영했을 때의 이동거리(dx, dy), 이동거리에 대한 원호비율인 비례상수(Kx, Ky)를 하기의 수학식 10로 산출한다.
[수학식 10]
원호 = 2×π×R×360/θx
이동거리(dx) = R × tanθx, 이동거리(dy) = R × tanθy
(여기서, R은 PTZ 카메라와 영상이미지 대상 사이 거리)
비례상수(Kx) = 원호/이동거리(dx), 비례상수(Ky) = 원호/이동거리(dy)
다음, PTZ카메라의 팬틸트 각도당 회전분해능(PRPD, TRPD)을 하기 수학식 11로 구한다.
[수학식 11]
PRPD(Pan Resolution per degree) = Pan 총 회전 스텝 수 / 팬 회전가능범위의 각도
TRPD(Tilt Resolution per degree) = Tilt 총 회전 스텝 수 / 틸트 회전가능범위의 각도
이어, 상기 팬틸트 각도당 회전분해능(PRPD, TRPD)과, 상기 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy), 비례상수(Kx, Ky)를 하기의 수학식 12에 적용하여 실제 팬, 틸트 값을 산출한다.
[수학식 12]
Pan = θx × PRPD × Kx
Tilt = θy × TRPD × Ky
마지막으로, 상기 팬, 틸트 값을 미리 설정된 원근 투영 함수(f(pan) = Panpro, f(tilt) = Tiltpro)에 적용하여 PTZ 카메라가 감시영역을 바라보고 있을 때의 실제 프로젝션(projection) 시의 감시영역 좌표(Panpro, Tiltpro)로 변환한다(도 4c). 그렇게 하여, 영상좌표의 팬틸트 값 변환 동작을 완료한다.
줌에러 보정 동작
먼저, 줌에러-팬틸트 보정 모듈이 거리-줌 변환모듈로부터 줌 값을 입력받는다.
그리고, 입력받은 줌 값을 미리 설정된 팬, 틸트 에러 보정 함수((fpan(Zoom) = Pan보정)(ftilt(Zoom) = Tilt보정))에 각기 적용하여 줌 에러가 보정된 팬, 틸트 값(Pan보정)(Tilt보정)을 얻는다.
③ 거리-줌 변환 동작
거리-줌 변환 모듈은 영상좌표-팬틸트 변환 모듈로부터 틸트 값(실제 프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)을 입력받는다.
다음, 입력받은 해당 PTZ 카메라의 틸트 값으로 PTZ 카메라와 대상 물체 사이 각을 구한다.
이어, 그 사이 각과 PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한다.
그런 후, 그 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 원하는 줌 값(Zoom)을 얻는다.
④ 줌- 포커스 변환 동작
줌-포커스 변환 모듈은 거리-줌 변환 모듈로부터 줌 값을 입력받는다.
그리고, 줌 값이 줌-포커스 변환 모듈로 입력되면, 입력 줌 값을 미리 설정된 줌-포커스 렌즈 특성 함수(f(Zoom) = Focus)에 적용하여 포커스 값(Focus)을 얻는다.
상기 줌 렌즈 특성 함수와 줌-포커스 렌즈 특성 함수는 실험 데이터로서 보간법으로 도출할 수 있다.
이와 같이, 본 발명은 PTZ 카메라의 내부특성(예: 팬, 틸트와 카메라가 촬영한 영상의 매칭 관계 등)을 파라미터로 공식화하여 단방향에 유효하지 않고 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있는 효과가 있다.
즉, 감시영역을 바꾸거나, PTZ카메라 위치가 변경(또는 이동)되더라도 전방향(全方向)에서 원하는 대상물을 정확히 촬영할 수 있다.
* 도면의 주요 부분에 대한 부호의 설명 *
100 : PTZ 카메라 101 : 정보 수집부
102 : 정보 처리부 103 : 제어부

Claims (9)

  1. 감시 영역을 촬영하여 나온 2차원 아날로그 영상을 입력하는 PTZ 카메라;
    상기 PTZ 카메라가 입력한 2차원 아날로그 영상을 디지털 영상으로 변환하고, 사용자가 지정한 임의의 영상 좌표를 입력하는 정보 수집부;
    상기 정보 수집부에서 입력한 영상 좌표를 팬틸트 값으로 변환하고, 영상 좌표 상의 거리에 따라 줌 값을 산출하며, 산출한 줌 값에 대한 줌 에러를 고려해 상기 팬 틸트값을 보정하고, 줌 값에 대응되는 포커스 값을 산출하는 정보 처리부; 및
    상기 정보 처리부에서 처리하여 나온 보정된 팬, 틸트 값, 줌 값 및 포커스 값으로 상기 PTZ카메라에 연결된 팬/틸트/줌/포커스 드라이버를 제어하는 제어부를 포함하여 이루어지고,
    상기 정보 처리부는
    하기의 순서대로 영상좌표를 팬틸트 값으로 변환시키는 영상좌표-팬틸트 변환 모듈을 포함하여 이루어진 전방향 PTZ 카메라 제어 장치.
    a) 상기 정보 수집부로부터 입력받은 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy)을 구하는 단계;
    b) 팬/틸트 각도당 이동거리(원호)와, 영상이미지 좌표 상으로 투영했을 때의 이동거리(dx, dy) 및, 이동거리에 대한 원호비율인 비례상수(Kx, Ky)를 하기의 수학식 13으로 산출하는 단계;
    [수학식 13]
    원호 = 2×π×R×360/θx
    이동거리(dx) = R × tanθx, 이동거리(dy) = R × tanθy
    (여기서, R은 PTZ 카메라와 영상이미지 대상 사이 거리)
    비례상수(Kx) = 원호/이동거리(dx), 비례상수(Ky) = 원호/이동거리(dy)
    c) 상기 PTZ카메라의 팬틸트 각도당 회전분해능(PRPD, TRPD)을 하기 수학식 14로 구하는 단계;
    [수학식 14]
    PRPD(Pan Resolution per degree) = Pan 총 회전 스텝 수 / 팬 회전가능범위의 각도
    TRPD(Tilt Resolution per degree) = Tilt 총 회전 스텝 수 / 틸트 회전가능범위의 각도
    d) 상기 팬틸트 각도당 회전분해능(PRPD, TRPD)과, 상기 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy), 비례상수(Kx, Ky)를 하기의 수학식 15에 적용하여 팬, 틸트 값을 산출하는 단계;
    [수학식 15]
    Pan = θx × PRPD × Kx
    Tilt = θy × TRPD × Ky
    e)상기 팬, 틸트 값을 미리 설정된 원근 투영 함수(f(pan) = Panpro, f(tilt) = Tiltpro)에 적용하여 PTZ 카메라가 감시영역을 바라보고 있을 때의 프로젝션(projection) 시의 감시영역 좌표(Panpro, Tiltpro)로 변환하는 단계.
  2. 삭제
  3. 제 1 항에 있어서,
    상기 영상좌표-팬틸트 변환 모듈로부터 입력받은 틸트 값(프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)으로 구한 PTZ 카메라와 대상 물체 사이 각과, PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한 다음, 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 원하는 줌 값(Zoom)을 얻는 거리-줌 변환모듈을 포함하여 이루어진 전방향 PTZ 카메라 제어 장치.
  4. 제 3 항에 있어서,
    상기 거리-줌 변환모듈로부터 입력받은 줌 값을 미리 설정된 팬, 틸트 에러 보정 함수((fpan(Zoom) = Pan보정)(ftilt(Zoom) = Tilt보정))에 각기 적용하여 줌 에러가 보정된 팬, 틸트 값(Pan보정)(Tilt보정)을 구하는 줌에러-팬틸트 보정 모듈을 포함하여 이루어진 전방향 PTZ 카메라 제어 장치.
  5. 제 3 항에 있어서,
    상기 거리-줌 변환 모듈로부터 입력받은 줌 값을 미리 설정된 줌-포커스 렌즈 특성 함수(f(Zoom) = Focus)에 적용하여 포커스 값(Focus)을 얻는 줌-포커스 변환 모듈을 포함하여 이루어진 전방향 PTZ 카메라 제어 장치.
  6. 사용자 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy)을 구하는 단계;
    팬/틸트 각도당 이동거리(원호)와, 영상이미지 좌표 상으로 투영했을 때의 이동거리(dx, dy), 이동거리에 대한 원호비율인 비례상수(Kx, Ky)를 하기의 수학식 16로 산출하는 단계;
    [수학식 16]
    원호 = 2×π×R×360/θx
    이동거리(dx) = R × tanθx, 이동거리(dy) = R × tanθy
    (여기서, R은 PTZ 카메라와 영상이미지 대상 사이 거리)
    비례상수(Kx) = 원호/이동거리(dx), 비례상수(Ky) = 원호/이동거리(dy)
    상기 PTZ카메라의 팬틸트 각도당 회전분해능(PRPD, TRPD)을 하기 수학식 17로 구하는 단계;
    [수학식 17]
    PRPD(Pan Resolution per degree) = Pan 총 회전 스텝 수 / 팬 회전가능범위의 각도
    TRPD(Tilt Resolution per degree) = Tilt 총 회전 스텝 수 / 틸트 회전가능범위의 각도
    상기 팬틸트 각도당 회전분해능(PRPD, TRPD)과, 상기 입력 영상좌표(xp, yp)와 PTZ 카메라 중심축과의 사이각(θx, θy), 비례상수(Kx, Ky)를 하기의 수학식 18에 적용하여 팬, 틸트 값을 산출하는 단계;
    [수학식 18]
    Pan = θx × PRPD × Kx
    Tilt = θy × TRPD × Ky
    상기 팬, 틸트 값을 미리 설정된 원근 투영 함수(f(pan) = Panpro, f(tilt) = Tiltpro)에 적용하여 PTZ 카메라가 감시영역을 바라보고 있을 때의 프로젝션(projection) 시의 감시영역 좌표(Panpro, Tiltpro)로 변환하는 단계; 및
    상기 변환된 감시영역 좌표(Panpro, Tiltpro)로 팬/틸트/줌/포커스 드라이버의 팬/틸트 동작을 제어하는 단계를 포함하여 이루어진 전방향 PTZ 카메라 제어 방법.
  7. 제 6 항에 있어서,
    상기 틸트 값(프로젝션(projection)으로 감시영역의 좌표로 변환이 완료된 틸트 값)으로 구한 PTZ 카메라와 대상 물체 사이 각과, PTZ 카메라의 높이를 삼각함수 공식에 적용하여 영상 이미지 좌표 상의 거리(d)를 구한 다음, 거리(d)를 입력 변수로 하여 미리 설정된 줌렌즈 특성 함수(f(d) = Zoom)에 적용하여 원하는 줌 값(Zoom)을 얻는 단계; 및
    상기 줌 값으로 팬/틸트/줌/포커스 드라이버의 줌 인 또는 아웃 동작을 제어하는 단계를 더 포함하여 이루어진 전방향 PTZ 카메라 제어 방법.
  8. 제 7 항에 있어서,
    상기 줌 값을 미리 설정된 팬, 틸트 에러 보정 함수((fpan(Zoom) = Pan보정)(ftilt(Zoom) = Tilt보정))에 각기 적용하여 줌 에러가 보정된 팬, 틸트 값(Pan보정)(Tilt보정)을 구하는 단계; 및
    상기 보정된 팬, 틸트 값(Pan보정)(Tilt보정)으로 팬/틸트/줌/포커스 드라이버의 팬, 틸트 동작을 제어하는 단계를 포함하여 이루어진 전방향 PTZ 카메라 제어 방법.
  9. 제 7 항에 있어서,
    상기 줌 값을 미리 설정된 줌-포커스 렌즈 특성 함수(f(Zoom) = Focus)에 적용하여 포커스 값(Focus)을 얻는 단계; 및
    상기 포커스 값(Focus)으로 팬/틸트/줌/포커스 드라이버의 포커싱 동작을 제어하는 단계를 포함하여 이루어진 전방향 PTZ 카메라 제어 방법.
KR1020100014216A 2010-02-17 2010-02-17 전방향 피티지 카메라 제어 장치 및 그 방법 KR101111503B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100014216A KR101111503B1 (ko) 2010-02-17 2010-02-17 전방향 피티지 카메라 제어 장치 및 그 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100014216A KR101111503B1 (ko) 2010-02-17 2010-02-17 전방향 피티지 카메라 제어 장치 및 그 방법

Publications (2)

Publication Number Publication Date
KR20110094664A KR20110094664A (ko) 2011-08-24
KR101111503B1 true KR101111503B1 (ko) 2012-02-22

Family

ID=44930635

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100014216A KR101111503B1 (ko) 2010-02-17 2010-02-17 전방향 피티지 카메라 제어 장치 및 그 방법

Country Status (1)

Country Link
KR (1) KR101111503B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10021311B2 (en) 2014-05-29 2018-07-10 Hanwha Techwin Co., Ltd. Camera control apparatus

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102074900B1 (ko) * 2019-04-16 2020-03-02 주식회사 디케이앤트 Ptz 카메라의 에어리어줌 정밀 제어 방법 및 서버
KR102074892B1 (ko) * 2019-04-16 2020-02-07 주식회사 디케이앤트 Cctv 카메라의 시야각을 이용한 ptz 정밀 제어 서버 및 방법
KR102193984B1 (ko) * 2019-05-31 2020-12-22 주식회사 아이디스 감시시스템, 그 시스템에서의 어안 카메라를 이용한 ptz 카메라 제어 방법
CN113573022B (zh) * 2021-07-27 2024-03-26 安徽云森物联网科技有限公司 一种基于毫米波雷达和ptz云台的目标自动跟踪方法
CN113542695B (zh) * 2021-07-27 2024-04-12 安徽云森物联网科技有限公司 一种全自动的物联网用区域监视系统
CN115190237B (zh) * 2022-06-20 2023-12-15 亮风台(上海)信息科技有限公司 一种确定承载设备的转动角度信息的方法与设备
KR102572906B1 (ko) * 2022-11-01 2023-08-31 주식회사 엔티에스 고도 보정 기능을 가지는 카메라 영상 객체 위치 추적 시스템 및 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020015637A (ko) * 2001-05-28 2002-02-28 최종욱 씨씨티브 카메라의 패닝, 틸팅, 주밍 변환에 따른검지영역 자동설정 시스템
KR20080009878A (ko) * 2006-07-25 2008-01-30 권현구 매뉴얼 포커스를 이용한 포커스 가변형 카메라 시스템
KR20080076846A (ko) * 2007-02-16 2008-08-20 엑시스 에이비 카메라용 영역 줌 기능을 제공
JP2008252331A (ja) * 2007-03-29 2008-10-16 Victor Co Of Japan Ltd デジタル監視システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20020015637A (ko) * 2001-05-28 2002-02-28 최종욱 씨씨티브 카메라의 패닝, 틸팅, 주밍 변환에 따른검지영역 자동설정 시스템
KR20080009878A (ko) * 2006-07-25 2008-01-30 권현구 매뉴얼 포커스를 이용한 포커스 가변형 카메라 시스템
KR20080076846A (ko) * 2007-02-16 2008-08-20 엑시스 에이비 카메라용 영역 줌 기능을 제공
JP2008252331A (ja) * 2007-03-29 2008-10-16 Victor Co Of Japan Ltd デジタル監視システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10021311B2 (en) 2014-05-29 2018-07-10 Hanwha Techwin Co., Ltd. Camera control apparatus

Also Published As

Publication number Publication date
KR20110094664A (ko) 2011-08-24

Similar Documents

Publication Publication Date Title
KR101111503B1 (ko) 전방향 피티지 카메라 제어 장치 및 그 방법
CN111147741B (zh) 基于对焦处理的防抖方法和装置、电子设备、存储介质
WO2021208371A1 (zh) 多摄变焦控制方法、装置、电子系统及存储介质
EP3389268B1 (en) Depth information acquisition method and apparatus, and image collection device
CN102148965B (zh) 多目标跟踪特写拍摄视频监控系统
JP2022528659A (ja) プロジェクタの台形補正方法、装置、システム及び読み取り可能な記憶媒体
TWI408486B (zh) 具動態校正的攝影機及其動態校正方法
CN101697105B (zh) 一种摄像式触摸检测定位方法及摄像式触摸检测系统
US8872944B2 (en) Method and system for image centering during zooming
CN107492080B (zh) 免定标便捷的单目镜头图像径向畸变矫正方法
WO2020063058A1 (zh) 一种多自由度可动视觉系统的标定方法
CN110779491A (zh) 一种水平面上目标测距的方法、装置、设备及存储介质
JP5183152B2 (ja) 画像処理装置
CN111614951B (zh) 一种一体化云台摄像机的光轴校准设备及方法
WO2022141324A1 (zh) 摄像头的硬件在环标定、靶点设置方法、系统及相关设备
JP2011030015A5 (ko)
US9300860B2 (en) Image-capturing apparatus
KR101452342B1 (ko) 감시카메라 유닛 및 그 구동방법
US20150281554A1 (en) Image-capturing apparatus
CN111696141B (zh) 一种三维全景扫描采集方法、设备及存储设备
JP5925109B2 (ja) 画像処理装置、その制御方法、および制御プログラム
CN107274447B (zh) 深度图像获取装置和深度图像获取方法
KR101020921B1 (ko) 회전형 카메라 제어방법
JPH09145368A (ja) ステレオ画像による物体の移動追跡方法
CN113840084A (zh) 一种基于球机ptz回传技术实现全景云台操控的方法

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20141223

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20151109

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20161206

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20171124

Year of fee payment: 7