KR101348855B1 - Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors - Google Patents

Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors Download PDF

Info

Publication number
KR101348855B1
KR101348855B1 KR1020120120897A KR20120120897A KR101348855B1 KR 101348855 B1 KR101348855 B1 KR 101348855B1 KR 1020120120897 A KR1020120120897 A KR 1020120120897A KR 20120120897 A KR20120120897 A KR 20120120897A KR 101348855 B1 KR101348855 B1 KR 101348855B1
Authority
KR
South Korea
Prior art keywords
image
frame
motion vector
information
unit
Prior art date
Application number
KR1020120120897A
Other languages
Korean (ko)
Inventor
조준동
서남석
허준회
이정후
김종학
Original Assignee
성균관대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 성균관대학교산학협력단 filed Critical 성균관대학교산학협력단
Priority to KR1020120120897A priority Critical patent/KR101348855B1/en
Application granted granted Critical
Publication of KR101348855B1 publication Critical patent/KR101348855B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

According to the present invention, a real-time image stabilization method for imaging system including an image sensor, and a motion sensor capable of generating pitch information and yaw information comprising angle values comprises the steps of: segmenting the entire area of an image into a quadrant and previously setting four or more unit search areas including at least one of the quadrant; receiving an image from the image sensor in every frame; receiving, from the motion sensor, a motion sensor signal including at least pitch information and yaw information in every frame; selecting one of four or more unit search areas as a reduced search area, based on unit motion vector consisting of the vertical components of the pitch information and the horizontal components of the yaw information, in every frame; operating motion vector in the selected reduced search area with respect to an image of a current frame and an image of a previous frame, in every frame; and displacing the image of the current frame in a reverse direction of the motion vector operated in every frame to create an image for which the motion of a camera is compensated. [Reference numerals] (AA) Start; (BB) End; (S31) Segment the entire area of an image into a quadrant and previously set four or more unit search areas including at least one of the quadrant; (S32) Receive image signals from an image sensor; (S33) Receive, from a motion sensor, a motion sensor signal including pitch information and yaw information; (S34) Synchronize the image signals with the pitch information and the yaw information; (S35) Select one of four or more unit search areas as a reduced search area, based on unit motion vector consisting of the vertical components of the pitch information and the horizontal components of the yaw information; (S36) Operate compensated motion vector in the selected reduced search area with respect to an image of a current frame and an image of a previous frame; (S37) Displace and rotate the image according to the operated compensated motion vector

Description

모션 센서를 이용한 탐색 영역을 감축하는 실시간 영상 안정화 방법, 장치 및 촬상 장치{METHOD, APPARATUS AND IMAGE CAPTURING SYSTEM FOR REAL-TIME IMAGE STABILIZATION WITH REDUCED SEARCH RANGE USING MOTION SENSORS}Real-time image stabilization method, apparatus, and imaging device for reducing search area using motion sensor TECHNICAL FIELD AND IMAGE CAPTURING SYSTEM FOR REAL-TIME IMAGE STABILIZATION WITH REDUCED SEARCH RANGE USING MOTION SENSORS}

본 발명은 영상 안정화 기술에 관한 것으로, 더욱 상세하게는, 모션 센서를 이용하는 실시간 영상 안정화 기술에 관한 것이다.The present invention relates to an image stabilization technology, and more particularly, to a real-time image stabilization technology using a motion sensor.

손에 들고 촬영하는 카메라는 셔터 스피드가 확보되지 않으면 손의 미세한 떨림에도 영향을 받기 때문에 손이 떨린 방향으로 흔들린 영상을 얻게 된다. 촬상 소자의 해상도가 높아지면서 미세한 손떨림도 영상의 품질에 영향을 미치는 민감한 요소가 되었고, 이러한 고급형 카메라에서 영상 안정화 기술은 광량이 확보되지 않은 환경에서 상대적으로 낮은 셔터 스피드로도 안정적인 영상을 얻을 수 있게 하였다.Cameras that you hold in your hand will be affected by the slightest shaking of your hand if the shutter speed is not secured. As the resolution of the image pickup device increases, fine camera shake becomes a sensitive factor that affects the quality of the image.In this high-end camera, the image stabilization technology enables to obtain a stable image even at a relatively low shutter speed in an environment where light quantity is not secured. It was.

그러나 이러한 고급형 카메라의 광학적 손떨림 방지 내지 영상 안정화 기술은 진동을 보상하기 위해 촬상 소자나 렌즈를 기계적으로 구동하는 방식이고, 특수한 구조와 높은 제조 비용을 요구하며, 전력 소모가 크기 때문에, 스마트폰의 카메라나 자동차용 감시 카메라 등에 쉽게 적용되기 어렵다.However, the optical image stabilization or image stabilization technology of such high-end cameras is a method of mechanically driving an imaging device or a lens to compensate for vibration, requires a special structure and high manufacturing cost, and consumes a lot of power. It is difficult to apply to surveillance cameras for cars.

디지털 영상 안정화 기술은 촬상 소자나 렌즈를 기계적으로 구동하는 대신에 카메라에 가해진 진동에 영향을 받은 영상 자체를 보정하는 방식으로서 촬상 소자나 렌즈에 부가되는 기계적인 구성이 없으므로 소형 또는 박형 카메라를 가지는 장치에도 적용될 수 있다. 하지만, 실시간 디지털 영상 안정화 기술은 연속하는 영상들을 실시간으로 영상 처리하여 피사체의 자체적인 움직임이 아닌 카메라에 가해진 진동에 따른 픽셀들의 모션 벡터를 연산해야 하기 때문에 해상도가 클 경우에는 적지 않은 양의 메모리, 대역폭 및 연산 능력을 요구한다.Digital image stabilization technology compensates for the image itself affected by the vibration applied to the camera instead of mechanically driving the image pickup device or lens, and has no mechanical configuration added to the image pickup device or lens. Applicable to However, the real-time digital image stabilization technology processes images in real time and calculates motion vectors of pixels according to vibrations applied to the camera rather than the subject's own movement. Requires bandwidth and computing power.

본 발명이 해결하고자 하는 과제는 모션 센서를 이용한 탐색 영역을 감축하는 실시간 영상 안정화 방법 및 장치를 제공하는 데에 있다.An object of the present invention is to provide a real-time image stabilization method and apparatus for reducing a search area using a motion sensor.

본 발명의 일 실시예에 따른 실시간 영상 안정화 방법은,Real time image stabilization method according to an embodiment of the present invention,

영상 센서와 각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서를 포함하는 촬상 시스템을 위한 실시간 영상 안정화 방법으로서,A real-time image stabilization method for an imaging system including an image sensor and a motion sensor capable of generating pitch information and yaw information having an angle value,

영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 미리 설정하는 단계;Dividing the entire area of the image into quadrants and presetting at least four unit search regions including at least one of the quadrants;

매 프레임마다 상기 영상 센서로부터 영상을 입력받는 단계;Receiving an image from the image sensor every frame;

매 프레임마다 상기 모션 센서로부터 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 입력받는 단계;Receiving a motion sensor signal including at least pitch information and yaw information from the motion sensor every frame;

매 프레임마다 상기 피치 정보의 수직 방향 성분과 상기 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여 상기 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하는 단계;Selecting one unit search area from among the at least four unit search areas as a reduced search area based on a unit motion vector including a vertical component of the pitch information and a horizontal component of the yaw information every frame;

매 프레임마다, 현재 프레임의 영상과 이전 프레임의 영상에 관하여, 상기 선택된 감축 탐색 영역에서 변위 성분 및 회전 성분을 포함하는 보정 모션 벡터를 연산하는 단계; 및For each frame, calculating a correction motion vector comprising displacement components and rotational components in the selected reduction search region, with respect to the image of the current frame and the image of the previous frame; And

매 프레임마다 상기 연산된 보정 모션 벡터의 변위 성분 및 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성하는 단계를 포함할 수 있다.The method may include generating an image stabilized correction image by displacing and rotating the image of the current frame according to the calculated displacement component and rotation component of the corrected motion vector every frame.

일 실시예에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 동일하게 설정될 수 있다.In at least one example embodiment, the at least four unit search areas may be set equal to each quadrant of the entire area of the image.

일 실시예에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 동일하게 설정될 수 있다.In at least one example embodiment, the at least four unit search areas may be set to be equal to each of the areas further included in each quadrant of the entire area of the image by a predetermined margin width at the boundary of the quadrant.

일 실시예에 있어서, 상기 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 결정될 수 있다.In one embodiment, the predetermined margin width may be determined from a value greater than 0% and less than 50% of the resolution of the entire area of the image.

일 실시예에 있어서, 상기 실시간 영상 안정화 방법은In one embodiment, the real-time image stabilization method

매 프레임마다 상기 영상 신호들과 상기 모션 센서 신호를 동기화하는 단계를 더 포함할 수 있다.The method may further include synchronizing the image signals and the motion sensor signal every frame.

일 실시예에 있어서, 상기 실시간 영상 안정화 방법은In one embodiment, the real-time image stabilization method

상기 연산된 보정 모션 벡터의 변위 성분 또는 회전 성분의 크기를 소정의 문턱값들에 비교하는 단계를 더 포함하며,Comparing the magnitudes of the calculated displacement components or rotational components of the corrected motion vector to predetermined thresholds,

만약 연산된 보정 모션 벡터의 각 성분들 중 하나의 크기가 소정의 문턱값들을 초과할 때에는 상기 연산된 보정 모션 벡터를 폐기하고, 그렇지 않을 때에는 보정 영상을 생성하는 단계로 진행할 수 있다.If the size of one of the components of the calculated corrected motion vector exceeds predetermined thresholds, the calculated corrected motion vector may be discarded, otherwise the process may proceed to generating a corrected image.

본 발명의 다른 측면에 따라 영상 센서와 각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서를 포함하는 촬상 시스템을 위한 실시간 영상 안정화 장치는,According to another aspect of the present invention, a real-time image stabilization apparatus for an imaging system including an image sensor and a motion sensor capable of generating pitch information and yaw information having angle values,

영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 사전에 설정해 두었다가, 매 프레임마다 입력되는 피치 정보의 수직 방향 성분과 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여, 상기 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하는 탐색 영역 감축부;A unit consisting of a vertical component of pitch information and a horizontal component of yaw information that are divided into quadrants and have at least four unit search regions including at least one of the quadrants set in advance, and input every frame A search region reduction unit selecting one unit search region from among the at least four unit search regions as a reduction search region based on a motion vector;

매 프레임마다, 현재 프레임의 영상과 이전 프레임의 영상에 관하여, 상기 선택된 감축 탐색 영역에서 변위 성분 및 회전 성분을 포함하는 보정 모션 벡터를 연산하는 모션 벡터 연산부; 및A motion vector calculator for calculating a corrected motion vector including a displacement component and a rotation component in the selected reduction search region for each image, with respect to an image of a current frame and an image of a previous frame; And

매 프레임마다 상기 연산된 보정 모션 벡터의 변위 성분 및 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성하는 모션 보상부를 포함할 수 있다.Each frame may include a motion compensator for generating an image stabilized correction image by displacing and rotating the image of the current frame according to the calculated displacement component and rotation component of the corrected motion vector.

일 실시예에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 동일하게 설정될 수 있다.In at least one example embodiment, the at least four unit search areas may be set equal to each quadrant of the entire area of the image.

일 실시예에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 동일하게 설정될 수 있다.In at least one example embodiment, the at least four unit search areas may be set to be equal to each of the areas further included in each quadrant of the entire area of the image by a predetermined margin width at the boundary of the quadrant.

일 실시예에 있어서, 상기 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 결정될 수 있다.In one embodiment, the predetermined margin width may be determined from a value greater than 0% and less than 50% of the resolution of the entire area of the image.

일 실시예에 있어서, 상기 실시간 영상 안정화 장치는In one embodiment, the real-time image stabilization device

매 프레임마다 상기 영상 센서로부터 입력되는 영상 및 매 프레임마다 상기 모션 센서로부터 입력되는 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 동기화하는 동기화부를 더 포함할 수 있다.The apparatus may further include a synchronizer configured to synchronize an image input from the image sensor every frame and a motion sensor signal including at least pitch information and yaw information input from the motion sensor every frame.

일 실시예에 있어서, 상기 모션 보상부는,In one embodiment, the motion compensation unit,

상기 연산된 보정 모션 벡터의 변위 성분 또는 회전 성분의 크기를 소정의 문턱값들에 비교하고, 만약 연산된 보정 모션 벡터의 각 성분들 중 하나의 크기가 소정의 문턱값들을 초과할 때에는 상기 연산된 보정 모션 벡터를 폐기하고, 그렇지 않을 때에는 보정 영상을 생성하도록 동작할 수 있다.The magnitude of the displacement component or rotational component of the calculated corrected motion vector is compared to predetermined thresholds, and if the magnitude of one of the components of the calculated corrected motion vector exceeds predetermined thresholds, Discard the corrected motion vector, otherwise generate a corrected image.

본 발명의 또 다른 측면에 따른 촬상 시스템은,An imaging system according to another aspect of the present invention,

영상 센서;Image sensor;

각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서; 및A motion sensor capable of generating pitch information and yaw information in angular values; And

매 프레임마다 상기 영상 센서로부터 영상 신호들을 입력받고 상기 모션 센서로부터 피치 정보 및 요 정보를 입력받으며, 영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 미리 설정하여 두었다가, 매 프레임마다 상기 피치 정보의 수직 방향 성분과 상기 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여 상기 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하며, 매 프레임마다 상기 선택된 감축 탐색 영역에서 현재 프레임의 영상 및 이전 프레임의 영상에 관하여 상기 선택된 감축 탐색 영역에서 변위 성분 및 회전 성분을 포함하는 보정 모션 벡터를 연산한 다음, 매 프레임마다 상기 연산된 보정 모션 벡터의 변위 성분 및 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성하는 실시간 영상 안정화 장치를 포함할 수 있다.Receives image signals from the image sensor every frame and pitch information and yaw information from the motion sensor, divides the entire area of the image into quadrants, and presets at least four unit search regions including at least one of the quadrants. In each frame, one unit search area is selected as the reduced search area based on a unit motion vector including a vertical component of the pitch information and a horizontal component of the yaw information. And a correction motion vector including a displacement component and a rotation component in the selected reduction search region with respect to an image of a current frame and an image of a previous frame in the selected reduction search region every frame, and then calculate the calculated motion frame every frame. Displacement component of the compensation motion vector, and Displacement and rotating the image of the current frame in accordance with the Ingredients to may include a real-time image stabilization apparatus for generating a corrected video image stabilization.

일 실시예에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 동일하게 설정될 수 있다.In at least one example embodiment, the at least four unit search areas may be set equal to each quadrant of the entire area of the image.

일 실시예에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 동일하게 설정될 수 있다.In at least one example embodiment, the at least four unit search areas may be set to be equal to each of the areas further included in each quadrant of the entire area of the image by a predetermined margin width at the boundary of the quadrant.

일 실시예에 있어서, 상기 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 결정될 수 있다.In one embodiment, the predetermined margin width may be determined from a value greater than 0% and less than 50% of the resolution of the entire area of the image.

일 실시예에 있어서, 상기 실시간 영상 안정화 장치는,In one embodiment, the real-time image stabilization device,

매 프레임마다 상기 영상 센서로부터 입력되는 영상 및 매 프레임마다 상기 모션 센서로부터 입력되는 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 동기화하도록 동작할 수 있다.It is operable to synchronize an image input from the image sensor every frame and a motion sensor signal including at least pitch information and yaw information input from the motion sensor every frame.

일 실시예에 있어서, 상기 실시간 영상 안정화 장치는,In one embodiment, the real-time image stabilization device,

상기 연산된 보정 모션 벡터의 변위 성분 또는 회전 성분의 크기를 소정의 문턱값들에 비교하고, 만약 연산된 보정 모션 벡터의 각 성분들 중 하나의 크기가 소정의 문턱값들을 초과할 때에는 상기 연산된 보정 모션 벡터를 폐기하고, 그렇지 않을 때에는 보정 영상을 생성하도록 동작할 수 있다.The magnitude of the displacement component or rotational component of the calculated corrected motion vector is compared to predetermined thresholds, and if the magnitude of one of the components of the calculated corrected motion vector exceeds predetermined thresholds, Discard the corrected motion vector, otherwise generate a corrected image.

본 발명의 실시간 영상 안정화 방법 및 장치에 따르면, 모션 센서를 이용하여 탐색 영역을 감축함으로써 연산 능력과 소비 전력을 절감하면서 영상 안정화를 실시간으로 수행할 수 있다.According to the real-time image stabilization method and apparatus of the present invention, image stabilization can be performed in real time while reducing computational power and power consumption by reducing the search area using a motion sensor.

도 1은 본 발명의 일 실시예에 따른 실시간 영상 안정화 방법에서, 카메라의 움직임과 탐색 영역의 감축 사이의 관계를 예시한 개념도이다.
도 2는 본 발명의 일 실시예에 따른 실시간 영상 안정화 방법에서, 카메라의 모션 센서에서 검출된 상하좌우의 움직임 성분과 감축 탐색 영역의 관계를 예시한 개념도이다.
도 3은 본 발명의 일 실시예에 따른 실시간 영상 안정화 방법을 예시한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 실시간 영상 안정화 장치 및 촬상 시스템을 예시한 블록도이다.
1 is a conceptual diagram illustrating a relationship between a camera movement and reduction of a search area in a real time image stabilization method according to an embodiment of the present invention.
2 is a conceptual diagram illustrating a relationship between up, down, left, and right motion components and a reduction search region detected by a motion sensor of a camera in a real-time image stabilization method according to an embodiment of the present invention.
3 is a flowchart illustrating a real-time image stabilization method according to an embodiment of the present invention.
4 is a block diagram illustrating a real-time image stabilization apparatus and an imaging system according to an embodiment of the present invention.

본문에 개시되어 있는 본 발명의 실시예들에 대해서, 특정한 구조적 내지 기능적 설명들은 단지 본 발명의 실시예를 설명하기 위한 목적으로 예시된 것으로, 본 발명의 실시예들은 다양한 형태로 실시될 수 있으며 본문에 설명된 실시예들에 한정되는 것으로 해석되어서는 아니 된다. For the embodiments of the invention disclosed herein, specific structural and functional descriptions are set forth for the purpose of describing an embodiment of the invention only, and it is to be understood that the embodiments of the invention may be practiced in various forms, The present invention should not be construed as limited to the embodiments described in Figs.

이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다. Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. The same reference numerals are used for the same constituent elements in the drawings and redundant explanations for the same constituent elements are omitted.

도 1은 본 발명의 일 실시예에 따른 실시간 영상 안정화 방법에서, 카메라의 움직임과 탐색 영역의 감축 사이의 관계를 예시한 개념도이다.1 is a conceptual diagram illustrating a relationship between a camera movement and reduction of a search area in a real time image stabilization method according to an embodiment of the present invention.

도 1을 참조하면, 사람의 손의 떨림이나 마운트의 흔들림과 같이 외부에서 가해지는 원치 않는 외력에 의한 카메라의 움직임은 상하 회전 성분인 피치(pitch), 좌우 회전 성분인 요(yaw), 제자리 회전 성분인 롤(roll)로 표현될 수 있다.Referring to FIG. 1, the movement of the camera due to an unwanted external force applied from the outside, such as the shaking of a human hand or the shaking of a mount, may include pitch as a vertical rotation component, yaw as a horizontal rotation component, and in-situ rotation. It can be expressed as a roll, which is a component.

카메라가 움직임에 따라 카메라의 시야각이 변하는데, 촬영되는 영상 내에서 피사체는 카메라의 움직임과 반대로 움직인다. 카메라가 움직이기 전에 촬영된 영상과 카메라가 움직인 후에 촬영된 영상을 비교하면, 두 영상들에서 공통되는 부분은 카메라가 움직이기 전의 영상에 비해 축소된다. 카메라의 움직임을 정확히 연산하기 위해서는 카메라가 움직이기 전과 움직인 후의 영상들 사이에서 모션 벡터를 연산하여야 하는데, 그러기 위해서는 두 영상들에서 동일하다고 판단되는 오브젝트에 관한 모션 벡터 연산이 필요하다.As the camera moves, the field of view of the camera changes, and the subject moves opposite to the camera movement in the captured image. When comparing the image taken before the camera moves with the image taken after the camera moves, the common part of the two images is reduced compared to the image before the camera moves. In order to accurately calculate the movement of the camera, a motion vector must be computed between the images before and after the camera moves. In order to do this, a motion vector calculation for an object determined to be the same in both images is required.

그러한 오브젝트는 카메라가 움직이기 전의 경우와 움직인 후의 경우에 공통되는 시야각 내에서 촬영될 것이므로, 모션 벡터의 연산은 실질적으로 카메라가 움직이기 전의 경우와 움직인 후의 경우에 공통되는 시야각에 해당하는 영역에서만 이루어져도 무방하다는 결론에 이를 수 있다.Since such objects will be photographed within a common viewing angle both before and after the camera moves, the computation of the motion vector is substantially the area corresponding to the common viewing angle before and after the camera moves. It can be concluded that it can be done only in.

하지만, 영상 안정화에 관련된 카메라의 움직임은 무의식적인 손떨림이나 마운트의 진동 정도의 수준이므로, 카메라의 움직임 전후에 공통되는 시야각에 해당하는 영역으로 모션 벡터 탐색 영역을 제한하더라도 큰 이점을 얻기는 어렵다. 오히려 프레임마다 진동의 정도가 달라 그때마다 카메라의 움직임 전후에 공통되는 시야각도 달라지고 모션 벡터 탐색 영역의 크기도 달라지면 연산이 비효율적일 수도 있다.However, since the movement of the camera related to image stabilization is the level of unconscious hand shake or vibration of the mount, even if the motion vector search region is limited to a region corresponding to a common viewing angle before and after the movement of the camera, it is difficult to obtain a great advantage. On the contrary, if the degree of vibration differs from frame to frame, the viewing angle common to before and after the movement of the camera changes, and the size of the motion vector search region also changes.

따라서, 좀더 적극적이고 고정적인 탐색 영역 감축 방안이 필요하다.Therefore, there is a need for a more aggressive and fixed search area reduction method.

도 2는 본 발명의 일 실시예에 따른 실시간 영상 안정화 방법에서, 카메라의 모션 센서에서 검출된 상하좌우의 움직임 성분과 감축 탐색 영역의 관계를 예시한 개념도이다.2 is a conceptual diagram illustrating a relationship between up, down, left, and right motion components and a reduction search region detected by a motion sensor of a camera in a real-time image stabilization method according to an embodiment of the present invention.

카메라에 장착 가능한 모션 센서는 피치, 요 및 롤 정보를 제공할 수 있는데, 각도 값으로 제공되는 피치, 요 및 롤 정보는 디지털 영상 안정화 방법에서 그대로 활용될 수 없다. 디지털 영상 안정화 방법은 카메라의 움직임으로 인한 영상의 2차원적 변위(translation)를 구하고 이를 기초로 카메라의 움직임에 의한 영향을 보정하는 방법인데, 피치, 요 및 롤 정보는 모두 회전각이므로, 피치, 요 및 롤 정보로부터 촬상면에서 피사체의 상하 또는 좌우 방향 변위를 구하기 위해서는 별도의 복잡한 연산이 필요하게 된다.The motion sensor mountable to the camera may provide pitch, yaw and roll information. The pitch, yaw and roll information provided as an angular value may not be utilized as it is in the digital image stabilization method. The digital image stabilization method is a method of obtaining a two-dimensional translation of an image due to camera movement and correcting the influence of the camera movement based on this. Since the pitch, yaw and roll information are all rotation angles, pitch, In order to obtain the vertical or horizontal displacement of the subject in the imaging surface from the yaw and roll information, a separate complicated calculation is required.

본 발명에서는 이렇게 피치, 요 및 롤 정보의 각도 값들을 가지고 복잡한 연산을 수행하는 대신에, 피치와 요 정보의 각도 값들의 부호에 의해 알 수 있는 피사체 움직임의 수직 및 수평 방향 성분들을 이용하여, 미리 정의된 작은 크기의 탐색 영역들 중 하나를 선택할 수 있다.In the present invention, instead of performing a complicated operation with the angle values of the pitch, yaw and roll information in this way, in advance using the vertical and horizontal components of the object motion as indicated by the sign of the angle values of the pitch and yaw information, One of the defined small search areas can be selected.

본 발명에서 카메라는 3차원 모션 센서를 장착하고 있으며, 카메라의 모션 센서는 피치, 요 및 롤 정보를 각도, 각속도 또는 각가속도 중 적어도 한가지 형태로 출력할 수 있다. 이때, 모션 센싱 원리 자체는 각가속도에 기초하여 수행되더라도, 최종적으로 피치, 요 및 롤 정보로 이용되기 위해서는 각도 값으로 변환되어야 한다.In the present invention, the camera is equipped with a three-dimensional motion sensor, the motion sensor of the camera may output the pitch, yaw and roll information in at least one form of angle, angular velocity or angular acceleration. At this time, although the motion sensing principle itself is performed based on the angular acceleration, it must be converted into an angular value in order to be finally used as pitch, yaw and roll information.

도 2를 참조하여 구체적으로 예시하면, 만약 카메라가 외란에 의해 좌측 아래쪽으로 급격히 움직이는 상황을 가정하면, 실제로는 정지한 상태인 피사체는 카메라의 움직임과 반대로, 카메라가 움직이기 전의 피사체 촬상 위치를 기준으로 할 때, 우측 상단으로 움직인 것처럼 촬상될 것이다. Specifically, referring to FIG. 2, assuming that the camera moves rapidly downward to the left due to disturbance, the subject in a stationary state is based on the subject photographing position before the camera moves, as opposed to the movement of the camera. When done, it will be captured as if it has moved to the upper right corner.

이때, 모션 센서가 생성하는 각도, 각속도 또는 각가속도 값들을 가지고 직접 모션 벡터를 구하는 대신에, 본 발명에서는 피치 정보와 요 정보로서 출력되는 각도 값에 따른 상하 또는 좌우의 방향 성분들만을 이용한다. 다만, 카메라의 모션 센서가 출력하는 피치, 요 및 롤 정보 중에서 롤 정보는 카메라의 움직임에 의한 영상의 2차원적 변위와 거의 무관하므로 무시될 수 있다.In this case, instead of obtaining a motion vector directly from the angle, angular velocity, or angular acceleration values generated by the motion sensor, the present invention uses only up, down, left, and right direction components according to the angle value output as pitch information and yaw information. However, among the pitch, yaw, and roll information output from the motion sensor of the camera, the roll information may be ignored because it is almost independent of the two-dimensional displacement of the image due to the movement of the camera.

다시 말해, 본 발명에서는 피치 정보로부터 피사체 움직임의 수직 방향 성분, 즉 상향인지 하향인지 여부를 식별하고, 요 정보로부터는 피사체 움직임의 수평 방향 성분, 즉 좌향인지 우향인지 여부를 식별하고, 각각 결정된 수직 및 수평 방향 성분을 가지고 단위 모션 벡터(u)를 결정한다.In other words, in the present invention, the pitch information identifies the vertical direction component of the subject movement, that is, whether it is upward or downward, and the yaw information identifies the horizontal direction component of the subject movement, that is, whether it is left or right, and each determined vertical And a horizontal motion component to determine the unit motion vector u.

카메라에 가해진 외란의 정도에 따라 피사체의 흔들림의 정도가 달라지지만, 카메라가 흔들리기 전의 영상(21)과 카메라가 흔들린 후의 영상(22) 사이에서 피사체의 오브젝트들(A, A')의 움직임은 단위 모션 벡터(u)와 동일한 방향성을 가진다.The degree of disturbance of the subject varies depending on the degree of disturbance applied to the camera, but the movement of the objects A and A 'of the subject between the image 21 before the camera shakes and the image 22 after the camera shakes. It has the same direction as the unit motion vector u.

이러한 단위 모션 벡터(u)는 우상향, 우하향, 좌상향 또는 좌하향의 네 가지 벡터가 가능하다. 이때, 극단적으로 각도 값이 0인 경우는 상향 또는 좌향으로 디폴트 분류할 수 있다.The unit motion vector u may be four vectors: right upward, right downward, left upward, or left downward. In this case, when the angle value is extremely 0, the default classification may be upward or leftward.

따라서, 카메라의 움직임에 의한 피사체의 모션 벡터의 크기를 연산하기에 앞서 모션 벡터의 방향성이 확실하게 결정되므로, 모션 벡터를 연산할 연산 영역 자체를 줄이더라도 정확도에 영향을 주지 않는다.Therefore, since the directionality of the motion vector is reliably determined before calculating the magnitude of the motion vector of the subject due to the movement of the camera, the reduction of the calculation region itself for calculating the motion vector does not affect the accuracy.

도 2에서, 카메라의 흔들림 전후의 영상들(21, 22)로부터 주요 피사체의 오브젝트들(A, A') 사이의 모션 벡터를 연산할 때에, 발명자는 흔들린 후의 피사체 오브젝트(A')와 흔들리기 전의 피사체 오브젝트(A)의 차이가 가장 잘 드러나는 우상 사분면(Q1) 만을 기초로 연산한 결과가 영상 전체를 기초로 연산한 결과와 큰 차이가 없을 것으로 예상하였다.In Fig. 2, when calculating the motion vector between the objects A and A 'of the main subject from the images 21 and 22 before and after the camera shake, the inventor shakes the subject object A' after shaking. It is expected that the result calculated on the basis of only the upper right quadrant Q1, in which the difference of the previous object object A is most apparent, will not be significantly different from the result calculated on the basis of the entire image.

다만, 움직임의 정도가 극단적으로 작을 경우에도 사분면(Q1 내지 Q4) 중의 하나에서 연산하면 정확도가 떨어질 수 있으므로, 각 사분면들(Q1 내지 Q4)의 경계에서 소정의 여유 폭, 예를 들어 전체 해상도의 10% 정도를 더 포함한 영역을 감축된 탐색 영역으로 설정할 수 있다.However, even when the degree of movement is extremely small, the accuracy may be lowered when the calculation is performed in one of the quadrants Q1 to Q4, so that a predetermined margin width, for example, the full resolution, is defined at the boundary of each quadrant Q1 to Q4. An area containing 10% or more may be set as a reduced search area.

이에 따라, 본 발명은 영상의 전체 영역에서 네 개의 단위 탐색 영역들을 미리 설정하고, 매 프레임마다, 네 개의 단위 탐색 영역들 중에서 카메라의 흔들림 전후의 영상들(21, 22)의 주요 피사체 오브젝트들(A, A') 사이의 모션 벡터를 연산하기에 적합한 하나의 단위 탐색 영역(23)을 감축된 탐색 영역으로 선택할 수 있다.Accordingly, the present invention presets four unit search areas in the entire area of the image, and every frame, among the four unit search areas, the main subject objects of the images 21 and 22 before and after the shaking of the camera ( One unit search region 23 suitable for calculating a motion vector between A and A 'may be selected as the reduced search region.

이때, 감축된 탐색 영역은 단위 모션 벡터(u)의 방향과 일치하는 단위 탐색 영역(23)으로 선택될 수 있다.In this case, the reduced search region may be selected as the unit search region 23 that matches the direction of the unit motion vector u.

만약, 단위 탐색 영역(23)이 사분면 중으로 하나로 설정되면 모션 벡터를 구하기 위한 연산량은 영상의 전체 영역을 기초로 모션 벡터를 구하는 경우에 비해 연산을 할 면적이 0.5*0.5=0.25로 감소하기 때문에 75% 만큼 줄어든다. 만약 단위 탐색 영역(23)이 사분면 중 하나와 해당 사분면에서 전체 해상도의 10%의 마진을 더 포함한 영역으로 설정된다면, 모션 벡터를 구하기 위한 연산량은 연산을 할 면적이 0.6*0.6=0.36으로 감소하기 때문에 64% 만큼 줄어든다.If the unit search area 23 is set to one of the quadrants, the calculation amount for calculating the motion vector is reduced to 0.5 * 0.5 = 0.25 compared with the case of obtaining the motion vector based on the entire area of the image. Reduced by% If the unit search area 23 is set to one of the quadrants and an area further including a margin of 10% of the full resolution in the quadrant, the calculation amount for calculating the motion vector is reduced to 0.6 * 0.6 = 0.36. This reduces by 64%.

이때, 마진의 폭은 해상도의 0% 초과 50% 미만의 값 사이에서 정확도와 속도 사이의 트레이드오프 관계에 따라 적절하게 선택될 수 있다.At this time, the width of the margin may be appropriately selected according to the trade-off relationship between accuracy and speed between values greater than 0% and less than 50% of the resolution.

도 3은 본 발명의 일 실시예에 따른 실시간 영상 안정화 방법을 예시한 순서도이다.3 is a flowchart illustrating a real-time image stabilization method according to an embodiment of the present invention.

도 3을 참조하면, 본 발명에 따른 실시간 영상 안정화 방법은 단계(S31)에서, 영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 미리 설정한다.Referring to FIG. 3, in step S31, the real-time image stabilization method divides the entire region of the image into quadrants and presets at least four unit search regions including at least one of the quadrants.

실시예에 따라, 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 같도록 설정될 수 있다.According to an embodiment, at least four unit search areas may be set to be equal to each quadrant of the entire area of the image.

다른 실시예에서는, 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 같도록 설정될 수 있다.In another embodiment, the at least four unit search regions may be set to be equal to each of the regions further included in each quadrant of the entire region of the image by a predetermined margin width at the boundary of the quadrant.

이때, 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 설계에 따라 선택될 수 있고, 바람직하게는 영상의 전체 영역 해상도의 10%일 수 있다.In this case, the predetermined margin width may be selected according to the design from a value greater than 0% and less than 50% of the full area resolution of the image, and preferably 10% of the full area resolution of the image.

단계(S32)에서, 매 프레임마다 영상 센서로부터 영상 신호들을 입력받고, 단계(S33)에서, 매 프레임마다 모션 센서로부터 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 입력받는다.In step S32, image signals are input from the image sensor every frame, and in step S33, a motion sensor signal including at least pitch information and yaw information is received from the motion sensor every frame.

단계(S34)에서, 매 프레임마다 영상 신호들과 피치 정보 및 요 정보를 동기화한다.In step S34, the image signals and the pitch information and the yaw information are synchronized every frame.

단계(S35)에서, 매 프레임마다 피치 정보의 수직 방향 성분과 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택한다.In step S35, one unit search area is selected from among at least four unit search areas as a reduced search area based on a unit motion vector including a vertical component of pitch information and a horizontal component of yaw information every frame. do.

단계(S36)에서, 매 프레임마다, 현재 프레임의 영상과 이전 프레임의 영상에 관하여, 선택된 감축 탐색 영역에서 변위 성분과 회전 성분을 포함한 보정 모션 벡터를 연산한다.In step S36, a correction motion vector including a displacement component and a rotation component in the selected reduction search region is calculated for each image of the current frame and the previous frame.

이때, 실시예에 따라서는, 단계(S36)에서 연산된 보정 모션 벡터의 각 성분 값들을 소정의 문턱값에 비교하여, 만약 연산된 보정 모션 벡터 성분의 크기가 소정의 문턱값을 초과하면, 그러한 모션 벡터는 카메라의 우발적인 진동에 따른 것이 아닌 촬영자의 의도적인 시야각 변경 또는 피사체 자체의 큰 움직임에 따른 것일 수 있으므로, 다음 단계(S37)의 보정 절차로 진행하지 않고 보정 모션 벡터 연산 결과를 폐기할 수도 있다.At this time, according to the embodiment, each component value of the corrected motion vector calculated in step S36 is compared to a predetermined threshold, and if the magnitude of the calculated corrected motion vector component exceeds the predetermined threshold, Since the motion vector may be due to the camera's intentional change of view angle or large movement of the subject itself, not due to the accidental vibration of the camera, the result of calculating the motion vector calculation may be discarded without proceeding to the correction procedure of the next step (S37). It may be.

단계(S37)에서, 매 프레임마다 연산된 보정 모션 벡터의 각 성분에 따라 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성한다.In step S37, the image is stabilized by displacing and rotating the image according to each component of the corrected motion vector calculated every frame.

도 4는 본 발명의 일 실시예에 따른 실시간 영상 안정화 장치 및 촬상 시스템을 예시한 블록도이다.4 is a block diagram illustrating a real-time image stabilization apparatus and an imaging system according to an embodiment of the present invention.

도 4를 참조하면, 촬상 시스템(40)은 실시간 영상 안정화 장치(41), 영상 센서(42), 모션 센서(43) 및 후처리부(44)를 포함할 수 있다.Referring to FIG. 4, the imaging system 40 may include a real time image stabilization device 41, an image sensor 42, a motion sensor 43, and a post processor 44.

실시간 영상 안정화 장치(41)는 영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 미리 설정하여 둔다.The real-time image stabilization apparatus 41 divides the entire area of the image into quadrants and presets at least four unit search regions including at least one of the quadrants.

또한 실시간 영상 안정화 장치(41)는 매 프레임마다 영상 센서(42)로부터 영상 신호를 입력받고, 모션 센서(43)로부터 적어도 피치 정보와 요 정보를 포함하는 모션 센서 신호를 입력받는다. In addition, the real-time image stabilization device 41 receives an image signal from the image sensor 42 every frame, and receives a motion sensor signal including at least pitch information and yaw information from the motion sensor 43.

이어서, 실시간 영상 안정화 장치(41)는 매 프레임마다 영상 신호들과 피치 정보 및 요 정보를 동기화하고, 매 프레임마다 피치 정보의 수직 방향 성분과 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하며, 매 프레임마다 선택된 감축 탐색 영역에서 현재 프레임의 영상과 이전 프레임의 영상에 관하여 변위 성분과 회전 성분을 포함하는 보정 모션 벡터를 연산한 다음, 매 프레임마다 연산된 보정 모션 벡터의 변위 성분과 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시킴으로써 보정 영상을 생성한다.Subsequently, the real-time image stabilization device 41 synchronizes the image signals with the pitch information and the yaw information every frame, and based on the unit motion vector composed of the vertical component of the pitch information and the horizontal component of the yaw information every frame. To select one unit search area from among at least four unit search areas as a reduction search area, and include a displacement component and a rotational component with respect to the image of the current frame and the image of the previous frame in the selected reduction search area every frame. After calculating the motion vector, a corrected image is generated by displacing and rotating the image of the current frame according to the displacement component and the rotation component of the corrected motion vector calculated every frame.

이를 위해, 실시간 영상 안정화 장치(41)는 동기화부(411), 버퍼(412), 탐색 영역 감축부(413), 모션 벡터 연산부(414) 및 모션 보상부(415)를 포함할 수 있다.To this end, the real-time image stabilization device 41 may include a synchronizer 411, a buffer 412, a search region reducer 413, a motion vector calculator 414, and a motion compensator 415.

동기화부(411)는 매 프레임마다 영상 센서로부터는 영상 신호들을, 모션 센서로부터는 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 입력받으며, 매 프레임마다 영상 신호들과 피치 정보 및 요 정보를 동기화한다.The synchronizer 411 receives image signals from an image sensor every frame and a motion sensor signal including at least pitch information and yaw information from a motion sensor, and receives image signals, pitch information, and yaw information every frame. Synchronize.

버퍼(412)는 움직임 보상을 위한 연산에 들어가기에 앞서, 동기화된 영상 신호들과 모션 센서 신호들을 버퍼링할 수 있다.The buffer 412 may buffer the synchronized image signals and the motion sensor signals prior to the operation for motion compensation.

탐색 영역 감축부(413)는 영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 사전에 설정해 두었다가, 매 프레임마다 동기화부(411)로부터 전달되는 피치 정보의 수직 방향 성분과 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여, 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택할 수 있다.The search area reducer 413 divides the entire area of the image into quadrants and sets at least four unit search areas including at least one of the quadrants in advance, and then, after each frame, the search area reducer 413 Based on the unit motion vector including the vertical component and the horizontal component of the yaw information, one unit search region among at least four unit search regions may be selected as the reduced search region.

이때, 실시예에 따라, 적어도 네 개의 단위 탐색 영역들은 네 개의 사분면의 각각으로 설정될 수 있다.In this case, according to an embodiment, at least four unit search regions may be set to each of four quadrants.

다른 실시예에서는, 적어도 네 개의 단위 탐색 영역들은 네 개의 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭이 더 포함되도록 설정될 수 있다.In another embodiment, the at least four unit search regions may be set such that each of the four quadrants further includes a predetermined margin width at the boundary of the quadrant.

이때, 소정의 마진 폭은 영상 해상도의 0 % 초과 50% 미만 값 중에서 설계에 따라 선택될 수 있다.In this case, the predetermined margin width may be selected according to the design from a value greater than 0% and less than 50% of the image resolution.

모션 벡터 연산부(414)는 현재 프레임의 영상과 이전 프레임의 영상에 관하여 영상의 전체 영역 대신에 탐색 영역 감축부(413)에서 선택된 감축 탐색 영역에서 변위 성분과 회전 성분을 포함하는 보정 모션 벡터를 연산한다.The motion vector calculator 414 calculates a correction motion vector including displacement components and rotation components in the reduced search region selected by the search region reducer 413 instead of the entire region of the image with respect to the image of the current frame and the previous frame. do.

모션 보상부(415)는 모션 벡터 연산부(414)에서 연산된 보정 모션 벡터의 변위 성분과 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 안정화된 보정 영상을 생성하고 출력한다.The motion compensator 415 generates and outputs a stabilized corrected image by displacing and rotating the image of the current frame according to the displacement component and the rotation component of the corrected motion vector calculated by the motion vector calculator 414.

후처리부(44)는 실시간 영상 안정화 장치(41)에서 출력된 안정화된 영상을 저장, 압축, 변환 내지 디스플레이할 수 있다.The post processor 44 may store, compress, convert, or display the stabilized image output from the real time image stabilization device 41.

이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명이 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이와 균등하거나 또는 등가적인 변형 모두는 본 발명 사상의 범주에 속한다 할 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but, on the contrary, Modification is possible. Accordingly, the spirit of the present invention should be understood only in accordance with the following claims, and all of the equivalent or equivalent variations will fall within the scope of the present invention.

또한, 본 발명에 따른 장치는 정보 처리 장치로 읽을 수 있는 기록매체에 정보 처리 장치가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 정보 처리 장치가 읽을 수 있는 기록매체는 정보 처리 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 기록매체의 예로는 ROM, RAM, 광학 디스크, 자기 테이프, 플로피 디스크, 하드 디스크, 비휘발성 메모리 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.Further, the apparatus according to the present invention can be embodied as a code that can be read by the information processing apparatus on a recording medium that can be read by the information processing apparatus. The recording medium readable by the information processing apparatus includes all kinds of recording apparatuses in which data that can be read by the information processing system is stored. Examples of the recording medium include a ROM, a RAM, an optical disk, a magnetic tape, a floppy disk, a hard disk, a nonvolatile memory, and the like, and a carrier wave (for example, transmission via the Internet).

40 촬상 시스템 41 실시간 영상 안정화 장치
411 동기화부 412 버퍼
413 탐색 영역 감축부 414 모션 벡터 연산부
415 모션 보상부 42 영상 센서
43 모션 센서 44 후처리부
40 Imaging System 41 Real-time Image Stabilizer
411 Synchronizer 412 Buffer
413 Navigation Area Reduction Unit 414 Motion Vector Computation Unit
415 Motion Compensator 42 Image Sensor
43 Motion Sensor 44 Post Processing Unit

Claims (19)

영상 센서와 각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서를 포함하는 촬상 시스템을 위한 실시간 영상 안정화 방법으로서,
영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 미리 설정하는 단계;
매 프레임마다 상기 영상 센서로부터 영상을 입력받는 단계;
매 프레임마다 상기 모션 센서로부터 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 입력받는 단계;
매 프레임마다 상기 피치 정보의 수직 방향 성분과 상기 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여 상기 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하는 단계;
매 프레임마다, 현재 프레임의 영상과 이전 프레임의 영상에 관하여, 상기 선택된 감축 탐색 영역에서 변위 성분 및 회전 성분을 포함하는 보정 모션 벡터를 연산하는 단계; 및
매 프레임마다 상기 연산된 보정 모션 벡터의 변위 성분 및 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성하는 단계를 포함하는 실시간 영상 안정화 방법.
A real-time image stabilization method for an imaging system including an image sensor and a motion sensor capable of generating pitch information and yaw information having an angle value,
Dividing the entire area of the image into quadrants and presetting at least four unit search regions including at least one of the quadrants;
Receiving an image from the image sensor every frame;
Receiving a motion sensor signal including at least pitch information and yaw information from the motion sensor every frame;
Selecting one unit search area from among the at least four unit search areas as a reduced search area based on a unit motion vector including a vertical component of the pitch information and a horizontal component of the yaw information every frame;
For each frame, calculating a correction motion vector comprising displacement components and rotational components in the selected reduction search region, with respect to the image of the current frame and the image of the previous frame; And
And displacing and rotating the image of the current frame according to the calculated displacement component and rotation component of the corrected motion vector every frame to generate an image stabilized corrected image.
청구항 1에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 동일하게 설정되는 것을 특징으로 하는 실시간 영상 안정화 방법.The method according to claim 1, wherein the at least four unit search areas are set equal to each quadrant of the entire area of the image. 청구항 1에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 동일하게 설정되는 것을 특징으로 하는 실시간 영상 안정화 방법.The real-time image of claim 1, wherein the at least four unit search regions are set to be equal to each of the regions further included in each quadrant of the entire region of the image by a predetermined margin width at the boundary of the quadrant. Stabilization method. 청구항 3에 있어서, 상기 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 결정되는 것을 특징으로 하는 실시간 영상 안정화 방법.4. The method of claim 3, wherein the predetermined margin width is determined from a value greater than 0% and less than 50% of the resolution of the entire area of the image. 청구항 1에 있어서,
매 프레임마다 상기 영상 신호들과 상기 모션 센서 신호를 동기화하는 단계를 더 포함하는 것을 특징으로 하는 실시간 영상 안정화 방법.
The method according to claim 1,
And synchronizing the video signals and the motion sensor signal every frame.
청구항 1에 있어서, 상기 연산된 보정 모션 벡터의 변위 성분 또는 회전 성분의 크기를 소정의 문턱값들에 비교하는 단계를 더 포함하며,
만약 연산된 보정 모션 벡터의 각 성분들 중 하나의 크기가 소정의 문턱값들을 초과할 때에는 상기 연산된 보정 모션 벡터를 폐기하고, 그렇지 않을 때에는 보정 영상을 생성하는 단계로 진행하는 것을 특징으로 하는 실시간 영상 안정화 방법.
The method of claim 1, further comprising comparing magnitudes of the calculated displacement component or rotational component of the corrected motion vector to predetermined thresholds,
If the magnitude of one of the components of the calculated corrected motion vector exceeds predetermined thresholds, the calculated corrected motion vector is discarded; otherwise, the process proceeds to generating a corrected image. Image stabilization method.
정보 처리 장치에서 청구항 1 내지 청구항 6 중 어느 한 청구항에 따른 영상 센서와 각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서를 포함하는 촬상 시스템을 위한 실시간 영상 안정화 방법을 구현할 수 있도록 정보 처리 장치에서 독출될 수 있는 프로그램이 수록된 기록 매체.Information for implementing a real-time image stabilization method for an imaging system including an image sensor according to any one of claims 1 to 6 in the information processing apparatus and a motion sensor capable of generating pitch information and yaw information having angle values. A recording medium containing a program that can be read by a processing device. 영상 센서와 각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서를 포함하는 촬상 시스템을 위한 실시간 영상 안정화 장치로서,
영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 사전에 설정해 두었다가, 매 프레임마다 입력되는 피치 정보의 수직 방향 성분과 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여, 상기 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하는 탐색 영역 감축부;
매 프레임마다, 현재 프레임의 영상과 이전 프레임의 영상에 관하여, 상기 선택된 감축 탐색 영역에서 변위 성분 및 회전 성분을 포함하는 보정 모션 벡터를 연산하는 모션 벡터 연산부; 및
매 프레임마다 상기 연산된 보정 모션 벡터의 변위 성분 및 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성하는 모션 보상부를 포함하는 실시간 영상 안정화 장치.
A real-time image stabilization apparatus for an imaging system including an image sensor and a motion sensor capable of generating pitch information and yaw information having an angle value,
A unit consisting of a vertical component of pitch information and a horizontal component of yaw information that are divided into quadrants and have at least four unit search regions including at least one of the quadrants set in advance, and input every frame A search region reduction unit selecting one unit search region from among the at least four unit search regions as a reduction search region based on a motion vector;
A motion vector calculator for calculating a corrected motion vector including a displacement component and a rotation component in the selected reduction search region for each image, with respect to an image of a current frame and an image of a previous frame; And
And a motion compensator for generating an image stabilized corrected image by displacing and rotating the image of the current frame according to the calculated displacement component and rotation component of the corrected motion vector every frame.
청구항 8에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 동일하게 설정되는 것을 특징으로 하는 실시간 영상 안정화 장치.The apparatus of claim 8, wherein the at least four unit search regions are set equal to each quadrant of the entire region of the image. 청구항 8에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 동일하게 설정되는 것을 특징으로 하는 실시간 영상 안정화 장치.The real-time image of claim 8, wherein the at least four unit search regions are set to be equal to each of the regions further included in each quadrant of the entire region of the image by a predetermined margin width at the boundary of the quadrant. Stabilization device. 청구항 10에 있어서, 상기 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 결정되는 것을 특징으로 하는 실시간 영상 안정화 장치.The apparatus of claim 10, wherein the predetermined margin width is determined from a value greater than 0% and less than 50% of the resolution of the entire area of the image. 청구항 8에 있어서,
매 프레임마다 상기 영상 센서로부터 입력되는 영상 및 매 프레임마다 상기 모션 센서로부터 입력되는 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 동기화하는 동기화부를 더 포함하는 것을 특징으로 하는 실시간 영상 안정화 장치.
The method according to claim 8,
And a synchronization unit for synchronizing an image input from the image sensor every frame and a motion sensor signal including at least pitch information and yaw information input from the motion sensor every frame.
청구항 8에 있어서, 상기 모션 보상부는,
상기 연산된 보정 모션 벡터의 변위 성분 또는 회전 성분의 크기를 소정의 문턱값들에 비교하고, 만약 연산된 보정 모션 벡터의 각 성분들 중 하나의 크기가 소정의 문턱값들을 초과할 때에는 상기 연산된 보정 모션 벡터를 폐기하고, 그렇지 않을 때에는 보정 영상을 생성하도록 동작하는 것을 특징으로 하는 실시간 영상 안정화 장치.
The method of claim 8, wherein the motion compensation unit,
The magnitude of the displacement component or rotational component of the calculated corrected motion vector is compared to predetermined thresholds, and if the magnitude of one of the components of the calculated corrected motion vector exceeds predetermined thresholds, Discarding the corrected motion vector, otherwise generating a corrected image.
영상 센서;
각도 값으로 된 피치 정보 및 요 정보를 생성할 수 있는 모션 센서; 및
매 프레임마다 상기 영상 센서로부터 영상 신호들을 입력받고 상기 모션 센서로부터 피치 정보 및 요 정보를 입력받으며, 영상의 전체 영역을 사분면으로 분할하고 사분면 중의 적어도 하나를 포함하는 적어도 네 개의 단위 탐색 영역들을 미리 설정하여 두었다가, 매 프레임마다 상기 피치 정보의 수직 방향 성분과 상기 요 정보의 수평 방향 성분으로 구성되는 단위 모션 벡터에 기초하여 상기 적어도 네 개의 단위 탐색 영역들 중에 하나의 단위 탐색 영역을 감축 탐색 영역으로 선택하며, 매 프레임마다 상기 선택된 감축 탐색 영역에서 현재 프레임의 영상 및 이전 프레임의 영상에 관하여 상기 선택된 감축 탐색 영역에서 변위 성분 및 회전 성분을 포함하는 보정 모션 벡터를 연산한 다음, 매 프레임마다 상기 연산된 보정 모션 벡터의 변위 성분 및 회전 성분에 따라 현재 프레임의 영상을 변위 및 회전시켜 영상 안정화된 보정 영상을 생성하는 실시간 영상 안정화 장치를 포함하는 것을 특징으로 하는 촬상 시스템.
Image sensor;
A motion sensor capable of generating pitch information and yaw information in angular values; And
Receives image signals from the image sensor every frame and pitch information and yaw information from the motion sensor, divides the entire area of the image into quadrants, and presets at least four unit search regions including at least one of the quadrants. In each frame, one unit search area is selected as the reduced search area based on a unit motion vector including a vertical component of the pitch information and a horizontal component of the yaw information. And a correction motion vector including a displacement component and a rotation component in the selected reduction search region with respect to an image of a current frame and an image of a previous frame in the selected reduction search region every frame, and then calculate the calculated motion frame every frame. Displacement component of the compensation motion vector, and By the displacement and rotating the image of the current frame according to the former components including real-time image stabilization apparatus for generating a corrected image stabilization video imaging system according to claim.
청구항 14에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면과 동일하게 설정되는 것을 특징으로 하는 촬상 시스템.The imaging system of claim 14, wherein the at least four unit search areas are set equal to each quadrant of the entire area of the image. 청구항 14에 있어서, 상기 적어도 네 개의 단위 탐색 영역들은 영상의 전체 영역의 각 사분면의 각각에 해당 사분면의 경계에서 소정의 마진 폭만큼 더 포함되는 영역들의 각각과 동일하게 설정되는 것을 특징으로 하는 촬상 시스템.15. The imaging system of claim 14, wherein the at least four unit search areas are set equal to each of the areas further included in each quadrant of the entire area of the image by a predetermined margin width at the boundary of the quadrant. . 청구항 16에 있어서, 상기 소정의 마진 폭은 영상의 전체 영역 해상도의 0 % 초과 50% 미만 값 중에서 결정되는 것을 특징으로 하는 촬상 시스템.17. The imaging system of claim 16, wherein the predetermined margin width is determined from a value greater than 0% and less than 50% of the full area resolution of the image. 청구항 14에 있어서, 상기 실시간 영상 안정화 장치는,
매 프레임마다 상기 영상 센서로부터 입력되는 영상 및 매 프레임마다 상기 모션 센서로부터 입력되는 적어도 피치 정보 및 요 정보를 포함하는 모션 센서 신호를 동기화하도록 동작하는 것을 특징으로 하는 촬상 시스템.
The apparatus of claim 14, wherein the real-time image stabilization device is
And a motion sensor signal including an image input from the image sensor every frame and at least pitch information and yaw information input from the motion sensor every frame.
청구항 14에 있어서, 상기 실시간 영상 안정화 장치는,
상기 연산된 보정 모션 벡터의 변위 성분 또는 회전 성분의 크기를 소정의 문턱값들에 비교하고, 만약 연산된 보정 모션 벡터의 각 성분들 중 하나의 크기가 소정의 문턱값들을 초과할 때에는 상기 연산된 보정 모션 벡터를 폐기하고, 그렇지 않을 때에는 보정 영상을 생성하도록 동작하는 것을 특징으로 하는 촬상 시스템.
The apparatus of claim 14, wherein the real-time image stabilization device is
The magnitude of the displacement component or rotational component of the calculated corrected motion vector is compared to predetermined thresholds, and if the magnitude of one of the components of the calculated corrected motion vector exceeds predetermined thresholds, Discarding the corrected motion vector, otherwise generating a corrected image.
KR1020120120897A 2012-10-30 2012-10-30 Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors KR101348855B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020120120897A KR101348855B1 (en) 2012-10-30 2012-10-30 Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020120120897A KR101348855B1 (en) 2012-10-30 2012-10-30 Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors

Publications (1)

Publication Number Publication Date
KR101348855B1 true KR101348855B1 (en) 2014-01-16

Family

ID=50144884

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020120120897A KR101348855B1 (en) 2012-10-30 2012-10-30 Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors

Country Status (1)

Country Link
KR (1) KR101348855B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10198824B2 (en) 2015-11-05 2019-02-05 Samsung Electronics Co., Ltd. Pose estimation method and apparatus

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009005025A1 (en) 2007-07-03 2009-01-08 Konica Minolta Holdings, Inc. Moving object detection device
KR20090019197A (en) * 2007-08-20 2009-02-25 삼성전자주식회사 Apparatus and method for estimating motion by hand trembling, and image pickup device using the same
JP4500875B2 (en) 2005-07-12 2010-07-14 エヌエックスピー ビー ヴィ Method and apparatus for removing motion blur effect

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4500875B2 (en) 2005-07-12 2010-07-14 エヌエックスピー ビー ヴィ Method and apparatus for removing motion blur effect
WO2009005025A1 (en) 2007-07-03 2009-01-08 Konica Minolta Holdings, Inc. Moving object detection device
KR20090019197A (en) * 2007-08-20 2009-02-25 삼성전자주식회사 Apparatus and method for estimating motion by hand trembling, and image pickup device using the same

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10198824B2 (en) 2015-11-05 2019-02-05 Samsung Electronics Co., Ltd. Pose estimation method and apparatus

Similar Documents

Publication Publication Date Title
EP2815569B1 (en) Video image stabilization
US9019387B2 (en) Imaging device and method of obtaining image
US8953053B2 (en) Image processing apparatus, image pickup apparatus, and image processing method
EP3449624B1 (en) Electronic image stabilization frequency estimator
KR100968974B1 (en) Apparatus for correcting motion by hand-shaking
CN106911889B (en) Image blur correction apparatus and tilt correction apparatus, and control methods thereof
JP6135848B2 (en) Imaging apparatus, image processing apparatus, and image processing method
JP2018189730A (en) Image tremor correction device and control method for the same, program therefor, and storage medium
US8508601B2 (en) Optical apparatus, image sensing device, and control methods thereof
CN110300263B (en) Gyroscope processing method and device, electronic equipment and computer readable storage medium
CN102572235A (en) Imaging device, image processing method and computer program
JP6128458B2 (en) Imaging apparatus and image processing method
KR20150120832A (en) Digital photographing System and Controlling method thereof
CN106303249B (en) Video anti-shake method and device
JP2014068336A (en) Imaging apparatus and image processing device
CN110177213B (en) Gyroscope parameter adjusting method and device, terminal and computer readable storage medium
KR102592745B1 (en) Posture estimating apparatus, posture estimating method and computer program stored in recording medium
JP6250446B2 (en) Image processing system, image processing apparatus, image processing method, and program
KR101348855B1 (en) Method, apparatus and image capturing system for real-time image stabilization with reduced search range using motion sensors
JP5393877B2 (en) Imaging device and integrated circuit
TW202044819A (en) Roll compensation and blur reduction in tightly synchronized optical image stabilization (ois)
US20220174217A1 (en) Image processing method and device, electronic device, and computer-readable storage medium
JP4064001B2 (en) camera
KR100498042B1 (en) Device and method capable of acquisition stbilization image
JP2015095670A (en) Imaging apparatus, control method thereof and control program

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160928

Year of fee payment: 4

LAPS Lapse due to unpaid annual fee