KR20150088166A - Method and device for processing image data - Google Patents

Method and device for processing image data Download PDF

Info

Publication number
KR20150088166A
KR20150088166A KR1020140067793A KR20140067793A KR20150088166A KR 20150088166 A KR20150088166 A KR 20150088166A KR 1020140067793 A KR1020140067793 A KR 1020140067793A KR 20140067793 A KR20140067793 A KR 20140067793A KR 20150088166 A KR20150088166 A KR 20150088166A
Authority
KR
South Korea
Prior art keywords
motion
determined
determining
importance
value
Prior art date
Application number
KR1020140067793A
Other languages
Korean (ko)
Other versions
KR101585059B1 (en
Inventor
곽영진
김창수
이세호
김대희
김진환
최광표
고영준
이철우
Original Assignee
삼성전자주식회사
고려대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사, 고려대학교 산학협력단 filed Critical 삼성전자주식회사
Publication of KR20150088166A publication Critical patent/KR20150088166A/en
Application granted granted Critical
Publication of KR101585059B1 publication Critical patent/KR101585059B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

A method for processing image data determines a movement contrast ratio of movement difference of an object and a background forming an image, determines movement size of the object, determines movement importance weight for compensating movement importance determined based on the movement size of the object and the movement contrast ratio, and determines movement importance of each block in an image by using at least one among the determined movement size of the object and the determined movement importance weight.

Description

영상 데이터 처리 방법 및 디바이스{Method and device for processing image data}[0001] The present invention relates to a method and a device for processing image data,

개시된 하나 이상의 실시 예는 영상 데이터를 처리하는 방법 및 영상 데이터를 처리하는 디바이스에 관한 것이다.One or more embodiments disclosed are directed to a method of processing image data and to a device that processes image data.

정보통신기술이 발달함에 따라 영상 데이터를 처리하는 기술이 개선됨에 따라 휴대 단말기를 통해 영상 데이터가 디스플레이되는 경우가 증가하고 있다.BACKGROUND ART As information communication technology has been developed, a technique for processing image data has been improved, so that image data is being displayed through a portable terminal.

그에 따라, 휴대 단말기 등을 통해 영상 데이터를 처리할 필요성이 증가하고 있으나, 휴대 단말기를 통해 영상 데이터가 디스플레이 되는 경우 화면의 크기에 제한이 있는 상태에서 영상 데이터가 디스플레이 될 수 있다.Accordingly, there is an increasing need to process image data through a portable terminal or the like. However, when image data is displayed through the portable terminal, the image data can be displayed in a state where the size of the image is limited.

따라서, 휴대 단말기의 성능이나 디스플레이의 한계로 인해서 휴대 단말기의 특성을 고려하여 영상 데이터를 처리할 필요가 있다.Therefore, it is necessary to process the image data in consideration of the characteristics of the portable terminal due to the performance of the portable terminal or the limitation of the display.

또한, 영상 데이터의 처리량이 증가함에 따라 영상 데이터를 전송 및 저장하기 위한 영상 데이터 압축 기술이 요구된다.Also, as the throughput of video data increases, a video data compression technique for transmitting and storing video data is required.

본 발명은 영상 데이터를 효율적으로 처리하는 방법을 제공할 수 있다.The present invention can provide a method of efficiently processing image data.

본 발명에 개시된 하나 이상의 실시 예에서 디바이스는 픽셀들을 소정의 기준에 따라 분류하여 분류된 그룹을 이용하여 영상 데이터를 처리하는 방법을 제공할 수 있다.In one or more embodiments disclosed in the present invention, a device may provide a method of classifying pixels according to a predetermined criterion and processing image data using the classified group.

다양한 실시 예에 따른 영상 데이터 처리 방법은 영상을 구성하는 배경과 객체의 움직임 차이에 대한 움직임 대조비를 결정하는 단계, 객체의 움직임 크기를 결정하는 단계, 움직임 대조비와 객체의 움직임 크기에 기초하여 결정된 움직임 중요도를 보정하기 위한 움직임 중요도 가중치를 결정하는 단계 및 결정된 움직임 대조비, 결정된 객체의 움직임 크기 및 결정된 움직임 중요도 가중치 중 적어도 하나를 이용하여 영상 내의 각 블록의 중요도를 결정하는 단계를 포함할 수 있다.A method of processing image data according to various embodiments includes determining a motion contrast ratio of a motion difference between a background and an object constituting an image, determining a motion size of the object, a motion determined based on a motion contrast ratio and a motion size of the object Determining a motion importance weight for correcting the importance, and determining importance of each block in the image using at least one of the determined motion contrast ratio, the determined motion magnitude of the object, and the determined motion importance weight.

도 1은 다양한 실시 예에 따른 영상 데이터 처리 방법 및 디바이스를 설명하기 위한 도면이다.
도 2는 다양한 실시 예에 따라 영상 내의 각 블록의 움직임 중요도를 결정하는 방법을 설명하기 위한 흐름도이다.
도 3은 다양한 실시 예에 따라 디바이스가 움직임 대조비를 결정하는 방법을 설명하기 위한 흐름도이다.
도 4는 다양한 실시 예에 따라 디바이스가 객체의 움직임 크기를 결정하는 방법을 설명하기 위한 흐름도이다.
도 5는 다양한 실시 예에 따라 디바이스가 전역 움직임 신뢰도를 결정하는 방법을 설명하기 위한 흐름도이다.
도 6은 다양한 실시 예에 따라 디바이스가 움직임 중요도 가중치를 결정하는 방법을 설명하기 위한 흐름도이다.
도 7은 다양한 실시 예에 따라 디바이스가 중요점을 검출하는 방법을 설명하기 위한 흐름도이다.
도 8은 다양한 실시 예에 따라 디바이스가 다중 스케일 방식을 이용하는 방법을 설명하기 위한 도면이다.
도 9는 다양한 실시 예에 따라 디바이스가 움직임 중요도를 결정하는 방법을 설명하기 위한 도면이다.
도 10은 다양한 실시 예에 따라 디바이스가 움직임 중요도 가중치를 이용하여 움직임 중요도를 보정하는 방법을 설명하기 위한 도면이다.
도 11은 다양한 실시 예에 따라 디바이스가 중요점을 결정하는 방법을 설명하기 위한 도면이다.
도 12는 다양한 실시 예에 따라 디바이스의 구성을 설명하기 위한 블록도이다.
1 is a diagram for explaining a video data processing method and a device according to various embodiments.
2 is a flowchart illustrating a method for determining motion importance of each block in an image according to various embodiments.
3 is a flow chart illustrating a method by which a device determines a contrast ratio according to various embodiments.
4 is a flow chart illustrating a method by which a device determines the magnitude of motion of an object in accordance with various embodiments.
5 is a flow chart illustrating a method by which a device determines global motion reliability in accordance with various embodiments.
6 is a flow chart illustrating a method for a device to determine a motion importance weight according to various embodiments.
7 is a flow chart illustrating a method by which a device detects critical points in accordance with various embodiments.
8 is a diagram illustrating a method in which a device uses a multi-scale scheme in accordance with various embodiments.
9 is a diagram illustrating a method by which a device determines motion importance according to various embodiments.
10 is a diagram for explaining a method in which a device corrects motion importance using motion importance weight according to various embodiments.
11 is a diagram illustrating a method by which a device determines an important point according to various embodiments.
12 is a block diagram for explaining the configuration of a device according to various embodiments.

이하 본 명세서에 기재된 본 발명의 다양한 실시 예들에서, '영상'은 정지 영상 뿐만 아니라 비디오와 같은 동영상을 포함하여 포괄적으로 지칭할 수 있다. In various embodiments of the present invention described herein, an 'image' can be generically referred to as a still image, as well as a moving image such as a video.

이하 도 1 내지 도 12를 참조하여, 다양한 실시 예에 따른 영상 데이터 처리 방법 및 디바이스가 개시된다.1 to 12, a method and a device for processing image data according to various embodiments are disclosed.

또한, 본 명세서에서 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.Furthermore, the singular forms "a", "an," and "the" include plural referents unless the context clearly dictates otherwise.

이하, 실시 예들을 첨부도면을 참조하여 상세히 설명하기로 하며, 첨부 도면을 참조하여 설명함에 있어, 동일하거나 대응하는 구성 요소는 동일한 도면번호를 부여하고 이에 대한 중복되는 설명은 생략할 수 있다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. Referring to the accompanying drawings, the same or corresponding elements are denoted by the same reference numerals, and redundant explanations thereof may be omitted.

도 1은 다양한 실시 예에 따른 영상 데이터 처리 방법 및 디바이스(110)를 설명하기 위한 도면이다.1 is a diagram for explaining a video data processing method and a device 110 according to various embodiments.

디바이스(110)는 영상 데이터(120)를 수신할 수 있다. 디바이스(110)는 수신한 영상 데이터(120)를 처리할 수 있다. The device 110 may receive the image data 120. The device 110 can process the received image data 120. [

디바이스(110)는 수신한 영상 데이터(120)를 처리하는 과정에서, 영상을 구성하는 배경과 객체의 움직임 차이에 대한 움직임 대조비, 객체의 움직임 크기, 움직임 대조비와 객체의 움직임 크기에 기초하여 결정된 움직임 중요도를 보정하기 위한 움직임 중요도 가중치를 결정할 수 있다. 또한, 디바이스(110)는 결정된 움직임 대조비, 결정된 객체의 움직임 크기 및 결정된 움직임 중요도 가중치 중 적어도 하나를 이용하여 영상 내의 각 블록의 움직임 중요도를 결정할 수 있다.In the process of processing the received image data 120, the device 110 determines a motion based on a motion contrast ratio, a motion size of an object, a motion contrast ratio and a motion size of an object, The motion importance weight for correcting the importance can be determined. In addition, the device 110 may determine the motion importance of each block in the image using at least one of the determined motion contrast ratio, the determined motion magnitude of the object, and the determined motion importance weight.

구체적인 사항은 후술한다.Specific details will be described later.

도 2는 다양한 실시 예에 따라 영상 내의 각 블록의 중요도를 결정하는 방법을 설명하기 위한 흐름도이다.Figure 2 is a flow chart illustrating a method for determining the importance of each block in an image according to various embodiments.

영상 내에는 복수개의 블록이 포함될 수 있다.A plurality of blocks may be included in the image.

단계 S210에서 디바이스(110)는 영상을 구성하는 배경과 객체의 움직임 차이에 대한 움직임 대조비를 결정할 수 있다.In step S210, the device 110 may determine a motion contrast ratio for a motion difference between a background and an object constituting an image.

움직임 대조비는 영상을 구성하는 배경과 객체의 움직임 차이에 대한 값을 의미할 수 있다.The motion contrast ratio may be a value for the motion difference between the background of the image and the object.

또는 움직임 대조비는 주변 영역과 현재 영역과의 움직임 차이를 나타낼 수 있다. 예를 들면, 움직임 대조비는 현재 블록과 현재 블록에 인접한 블록들과의 움직임 차이를 이용하여 결정될 수 있다.Alternatively, the motion contrast ratio may indicate a motion difference between the surrounding area and the current area. For example, the motion contrast ratio may be determined using the motion difference between the current block and blocks adjacent to the current block.

디바이스(110)는 현재 블록의 움직임과 현재 블록의 주변 블록들의 움직임 차이를 이용하여 움직임 대조비를 결정할 수 있다. 주변 블록은 현재 블록으로부터 소정의 거리 내에 위치한 블록을 의미할 수 있다.The device 110 can determine the motion contrast ratio using the motion of the current block and the motion difference between the neighboring blocks of the current block. The neighboring block may mean a block located within a predetermined distance from the current block.

예를 들면 디바이스(110)는 수학식(1)을 이용하여 움직임 대조비를 결정할 수 있다. Mi는 현재 블록의 움직임 대조비를 의미할 수 있다.For example, the device 110 may determine the motion contrast ratio using Equation (1). Mi may denote the motion contrast ratio of the current block.

[수학식(1)][Mathematical expression (1)]

Figure pat00001
Figure pat00001

bi는 i번째 블록을 의미할 수 있다. Vi는 bi의 움직임 벡터를 의미할 수 있다. ∥xi-xj∥^2 은 현재 블록과 이웃한 블록과의 중심 위치 차이를 의미할 수 있다. Ni는 bi 블록의 주변에 위치하는 블록의 집합을 의미할 수 있다. σb^2은 움직임 대조비의 민감도를 결정하는 파라미터를 의미할 수 있다.bi may refer to the i-th block. Vi can be a motion vector of bi. ∥xi-xj∥ ^ 2 can be the difference of the center position between the current block and the neighboring block. Ni may refer to a set of blocks located around bi block. σb ^ 2 may be a parameter that determines the sensitivity of the motion contrast ratio.

움직임 대조비는 다중 스케일 기법을 통해 보정될 수 있다. 다중 스케일 기법에 대해서는 도 8에서 후술한다.The motion contrast ratio can be corrected through a multi-scale technique. The multi-scale technique will be described later with reference to FIG.

보정된 움직임 대조비(

Figure pat00002
)는 움직임 중요도를 결정할 때 이용될 수 있다.The corrected motion contrast ratio (
Figure pat00002
) Can be used to determine the importance of movement.

예를 들면, 수학식 (2)에서와 같이 디바이스(110)는 전역 움직임 신뢰도(τ)에 움직임 크기(T)를 곱한 값에 보정된 움직임 대조비(

Figure pat00003
)를 더하여 움직임 중요도(Et)를 결정할 수 있다.For example, as in Equation (2), the device 110 may calculate a motion compensation ratio (i) corrected to a value obtained by multiplying the global motion reliability &
Figure pat00003
) Can be added to determine the motion importance (Et).

[수학식 (2)][Mathematical expression (2)]

Figure pat00004
Figure pat00004

전역 움직임 신뢰도(τ)를 결정하는 방법은 도 5에서 후술한다.A method for determining the global motion reliability [tau] will be described later in Fig.

단계 S220에서 디바이스(110)는 객체의 움직임 크기를 결정할 수 있다. 객체의 움직임 크기는 영상이 시간의 흐름에 따라 변할 때 객체의 시간당 이동 거리를 의미할 수 있다.In step S220, the device 110 may determine the motion size of the object. The motion size of an object can mean the moving distance of the object per hour when the image changes with time.

예를 들면, 디바이스(110)는 객체에 대응되는 블록들의 시간당 이동 거리에 대한 평균 값을 해당 객체의 움직임 크기로 결정할 수 있다. 또한, 객체는 영상에서 배경과 구별되는 대상을 의미할 수 있다. For example, the device 110 may determine an average value of movement distances of blocks corresponding to an object as a motion size of the object. In addition, an object may mean an object distinguished from a background in an image.

단계 S230에서 디바이스(110)는 단계 S210에서 결정된 움직임 대조비와 단계 S220에서 결정된 객체의 움직임 크기에 기초하여 결정된 움직임 중요도를 보정하기 위한 움직임 중요도 가중치를 결정할 수 있다.In step S230, the device 110 may determine a motion importance weight for correcting the motion importance determined based on the motion contrast ratio determined in step S210 and the motion size of the object determined in step S220.

디바이스(110)는 움직임 중요도 가중치를 이용하여 움직임 중요도를 보정할 수 있다.The device 110 may correct the motion importance using the motion importance weight.

디바이스(110)는 단계 S210에서 결정된 움직임 대조비와 단계 S220에서 결정된 객체의 움직임 크기에 기초하여 움직임 중요도(Et)를 결정할 수 있다.The device 110 may determine the motion importance Et based on the motion contrast ratio determined in step S210 and the motion magnitude of the object determined in step S220.

움직임 중요도 가중치는 움직임 중요도(Et)를 보정하기 위한 값을 의미할 수 있다.The motion importance weight may mean a value for correcting the motion importance (Et).

디바이스(110)는 결정된 움직임 중요도(Et)를 보정하기 위한 움직임 중요도 가중치(Q)를 결정할 수 있다.The device 110 may determine the motion importance weight Q for correcting the determined motion importance Et.

예를 들면, 수학식(3)에서와 같이 디바이스(110)는 움직임 중요도(Et)와 움직임 중요도 가중치(Q)를 곱하여 보정된 움직임 중요도(

Figure pat00005
)를 결정할 수 있다.For example, as in Equation (3), the device 110 multiplies the motion importance (Et) by the motion importance weight (Q)
Figure pat00005
Can be determined.

[수학식(3)](3)

Figure pat00006
Figure pat00006

Et(x, y)는 가로로 x번째, 세로로 y번째의 블록의 움직임 중요도를 의미할 수 있다.Et (x, y) can mean the motion importance of the x-th horizontal and y-th vertical blocks.

Q(x, y)는 가로로 x번째, 세로로 y번째의 블록의 움직임 중요도 가중치를 의미할 수 있다.Q (x, y) may mean the motion importance weight of the x-th horizontal and y-th vertical blocks.

디바이스(110)는 Et(x, y)와 Q(x, y)를 곱하여 보정된 움직임 중요도를 결정할 수 있다.The device 110 may determine the corrected motion importance by multiplying Et (x, y) by Q (x, y).

움직임 정보의 부정확성으로 인해 움직임 중요도의 정확도가 낮아질 수 있다. 움직임 정보의 부정확성은 텍스쳐가 없는 영역과 객체의 경계에서 발생할 수 있다. 따라서 디바이스(110)는 움직임 정보의 오류로 인해 발생하는 움직임 중요도의 잡음을 제거하기 위해 움직임 중요도 가중치를 이용할 수 있다.The accuracy of the motion importance may be lowered due to the inaccuracy of motion information. The inaccuracy of motion information can occur at the boundaries of objects and regions without textures. Accordingly, the device 110 may use the motion importance weight to remove the noise of the motion importance caused by the error of the motion information.

예를 들면 디바이스(110)는 각각의 블록에 대해서 움직임 중요도 가중치를 결정하고, 결정된 움직임 중요도 가중치를 각각의 블록의 움직임 중요도와 곱하여 움직임 중요도의 잡음을 제거할 수 있다. 디바이스(110)는 현재 블록을 움직임이 적은 현재 블록의 주변 블록들과 비교하여 움직임 중요도 가중치를 결정할 수 있다. 현재 블록이 현재 블록의 주변 블록들과 픽셀 값이 유사할수록 움직임 중요도 가중치는 낮을 수 있다. 또는 현재 블록이 움직임이 적은 현재 블록의 주변 블록들과 픽셀 값이 유사할수록 움직임 중요도 가중치가 낮을 수 있다.For example, the device 110 may determine a motion importance weight for each block and multiply the determined motion importance weight by the motion importance of each block to remove noise of motion importance. The device 110 may determine the motion importance weight by comparing the current block with neighboring blocks of the current block having less motion. As the current block is similar to the neighboring blocks of the current block, the importance weight of the motion may be lower. Or the motion importance weight may be lower as the pixel values of neighboring blocks of the current block in which the current block has less motion are similar to each other.

예를 들면, 디바이스(110)는 블록의 움직임 중요도 가중치를 수학식(4)를 이용하여 결정할 수 있다.For example, the device 110 may determine the motion importance weight of the block using Equation (4).

[수학식(4)](4)

Figure pat00007
Figure pat00007

Sc는 블록간의 픽셀 유사도, WT(j)는 bj의 움직임 크기에 대한 가중치를 의미할 수 있다. Wg는 bi와 bj 블록간의 거리에 따른 가중치를 의미할 수 있다.Sc is the pixel similarity between blocks, and WT (j) can be a weight for the motion size of bj. Wg can be a weight according to the distance between bi and bj blocks.

예를 들면, 디바이스(110)는 수학식(5) 내지 수학식(7)을 이용하여 Sc, WT, Wg를 결정할 수 있다.For example, the device 110 may determine Sc, WT, and Wg using equations (5) through (7).

[수학식(5)](5)

Figure pat00008
Figure pat00008

[수학식(6)][Expression (6)]

Figure pat00009
Figure pat00009

[수학식(7)](7)

Figure pat00010
Figure pat00010

WT(j)는 bj의 움직임 크기가 작을수록 큰 값을 가질 수 있다. 또한, Wg(i,j)는 bi, bj간의 블록간의 거리가 가까울수록 큰 값을 가질 수 있다.WT (j) can have a larger value as the motion size of bj is smaller. Also, Wg (i, j) can have a larger value as the distance between blocks bi and bj becomes closer.

단계 S240에서 디바이스(110)는 단계 S210에서 결정된 움직임 대조비, 단계 S220에서 결정된 객체의 움직임 크기 및 단계 S230에서 결정된 움직임 중요도 가중치 중 적어도 하나를 이용하여 영상 내의 각 블록의 움직임 중요도를 결정할 수 있다.In step S240, the device 110 may determine the motion importance of each block in the image using at least one of the motion contrast ratio determined in step S210, the motion magnitude of the object determined in step S220, and the motion importance weight determined in step S230.

예를 들면, 디바이스(110)는 단계 S210에서 결정된 움직임 대조비, 단계 S220에서 결정된 객체의 움직임 크기 및 단계 S230에서 결정된 움직임 중요도 가중치를 모두 이용하여 영상 내의 각 블록의 움직임 중요도를 결정할 수 있다. 디바이스(110)는 상술한 바 있는 수학식(3)을 이용하여 움직임 중요도(Et)와 움직임 중요도 가중치(Q)를 곱하여 보정된 움직임 중요도(

Figure pat00011
)를 결정할 수 있다. 그리고 본 실시 예에서, 디바이스(110)는 움직임 중요도(Et)는 상술한 수학식(2)를 이용하여 결정될 수 있다.For example, the device 110 may determine the motion importance of each block in the image using both the motion contrast ratio determined at step S210, the motion magnitude of the object determined at step S220, and the motion importance weight determined at step S230. The device 110 multiplies the motion importance Et by the motion importance weight Q using the above-described equation (3)
Figure pat00011
Can be determined. And, in the present embodiment, the device 110 can determine the motion importance (Et) using the above-described equation (2).

디바이스(110)는 영상을 압축할 때 중요 영역을 판별하여 중요 영역과 비중요 영역에 대해 차별적 압축을 시행할 수 있다. 중요 영역은 단계 S240에서 결정된 보정된 움직임 중요도가 소정의 기준 이상인 블록들이 영상에서 차지하는 영역을 의미할 수 있다.The device 110 may discriminate the important area when compressing the image and perform differential compression on the important area and the non-important area. The important area may be an area occupied by the blocks whose corrected motion importance is greater than or equal to a predetermined reference value determined in step S240.

디바이스(110)는 단계 S240에서 결정된 각 블록의 보정된 움직임 중요도에 기초하여 각 블록의 영상들에 대한 압축 방식을 결정할 수 있다. 중요도는 보정된 움직임 중요도를 포함할 수 있다.The device 110 may determine the compression scheme for the images of each block based on the corrected motion importance of each block determined in step S240. The importance may include the corrected motion importance.

디바이스(110)는 영상을 압축할 때 중요 영역을 결정하여 중요 영역과 비중요 영역에 대한 압축 파라미터를 차별화할 수 있다. 디바이스(110)는 중요 영역과 비중요 영역에 대한 압축 파라미터를 차별화 함으로써 압축 효율을 향상시킬 수 있다. 중요 영역은 중요도가 소정의 기준 이상인 블록들이 영상에서 차지하는 영역을 의미할 수 있다. 비중요 영역은 중요도가 소정의 기준 미만인 블록들이 영상에서 차지하는 영역을 의미할 수 있다.The device 110 may determine a critical region when compressing an image and differentiate compression parameters for the critical region and the non-critical region. The device 110 may improve compression efficiency by differentiating compression parameters for critical and non-critical areas. The important area may be an area occupied by the blocks whose importance is not less than a predetermined standard. The non-critical area may mean an area occupied by the blocks whose importance is less than a predetermined standard.

예를 들면, 디바이스(110)는 중요도가 소정의 기준 이상인 블록들에 대한 압축을 시행할 때 압축 속도보다는 정확도에 더 중점을 둔 압축 방식을 선택하고, 중요도가 소정의 기준 미만인 블록들에 대한 압축을 시행할 때 정확도보다는 압축 속도에 더 중점을 둔 압축 방식을 선택할 수 있다.For example, the device 110 selects a compression method that focuses more on the accuracy than the compression speed when compressing the blocks with a degree of importance greater than or equal to a predetermined reference, and compresses You can choose a compression method that is more focused on compression speed than accuracy.

또한, 디바이스(110)는 영상 내 중요점을 강조하여 표현할 수 있다. 영상 내 중요점을 강조하여 표현할 경우 영상의 품질이 향상될 수 있다.In addition, the device 110 can emphasize important points in the image. The quality of the image can be improved by emphasizing the important points in the image.

예를 들면, 디바이스(110)는 단계 S240에서 결정된 중요도가 소정의 기준 이상인 블록들은 소정 비율만큼 더 밝게 디스플레이 되도록 할 수 있다.For example, the device 110 may cause the blocks whose importance determined in step S240 to be greater than or equal to a predetermined reference to be displayed brighter by a predetermined ratio.

다른 예로, 디바이스(110)는 단계 S240에서 결정된 중요도가 소정의 기준 이상인 블록들은 소정의 방식으로 강조되어 디스플레이 되도록 할 수 있다.As another example, the device 110 may cause the blocks whose importance determined in step S240 to be higher than a predetermined reference level to be emphatically displayed in a predetermined manner.

도 2와 관련하여 상술된 실시 예들은 하나의 실시 예들에 불과한 것이고, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다.The embodiments described above with reference to FIG. 2 are merely one embodiment, and those skilled in the art will understand that the present invention may be embodied in various forms without departing from the essential characteristics of the present invention. It can be understood that it is possible.

도 3은 다양한 실시 예에 따라 디바이스(110)가 움직임 대조비를 결정하는 방법을 설명하기 위한 흐름도이다.FIG. 3 is a flow chart illustrating a method by which device 110 determines a motion contrast ratio according to various embodiments.

단계 S310에서 디바이스(110)는 현재 블록의 움직임 값을 결정할 수 있다.In step S310, the device 110 may determine the motion value of the current block.

예를 들면, 디바이스(110)는 현재 프레임에서 현재 블록의 위치와 다음 프레임에서 현재 블록에 대응되는 블록의 위치를 비교하여 시간의 변화 당 현재 블록의 이동 거리를 이용하여 현재 블록의 움직임 값을 결정할 수 있다.For example, the device 110 compares the position of the current block in the current frame with the position of the block corresponding to the current block in the next frame, and determines the motion value of the current block using the moving distance of the current block per time change .

단계 S320에서 디바이스(110)는 현재 블록의 주변에 위치한 주변 블록들의 움직임 값을 결정할 수 있다.In step S320, the device 110 may determine a motion value of neighboring blocks located around the current block.

예를 들면, 디바이스(110)는 상술한 바와 같은 움직임 값 결정 방법을 이용하여 현재 블록으로부터 소정의 거리 내에 위치한 블록들의 움직임 값들을 결정할 수 있다.For example, the device 110 may determine motion values of blocks located within a predetermined distance from the current block using the motion value determination method as described above.

단계 S330에서 디바이스(110)는 단계 S310에서 결정된 현재 블록의 움직임 값과 단계 S320에서 결정된 주변 블록들의 움직임 값의 차이를 이용하여 움직임 대조비를 결정할 수 있다.In step S330, the device 110 may determine the motion contrast ratio using the difference between the motion value of the current block determined in step S310 and the motion value of the neighboring blocks determined in step S320.

예를 들면, 움직임 대조비는 상술한 바와 같이 수학식(1)에 의해 계산될 수 있다. 또한, 움직임 대조비는 다중 스케일 기법을 통해 보정될 수 있다.For example, the motion contrast ratio can be calculated by the equation (1) as described above. In addition, the motion contrast ratio can be corrected through a multi-scale technique.

다른 예로, 움직임 대조비는 단계 S310에서 결정된 현재 블록의 움직임 값과 단계 S320에서 결정된 주변 블록들의 움직임 값들과의 차이값들의 합에 비례하도록 설정될 수 있다.As another example, the motion contrast ratio may be set to be proportional to the sum of the motion values of the current block determined in step S310 and the motion values of the neighboring blocks determined in step S320.

도 4는 다양한 실시 예에 따라 디바이스(110)가 객체의 움직임 크기를 결정하는 방법을 설명하기 위한 흐름도이다.4 is a flow chart illustrating a method by which device 110 determines the size of an object's motion in accordance with various embodiments.

단계 S410에서 디바이스(110)는 현재 블록의 움직임 값을 결정할 수 있다.In step S410, the device 110 may determine the motion value of the current block.

단계 S410은 단계 S310에 대응되므로 전체적인 설명을 간단히 하기 위해 상세한 설명을 생략한다.Since step S410 corresponds to step S310, a detailed description will be omitted for the sake of simplicity.

단계 S420에서 디바이스(110)는 영상의 전역적인 움직임에 대한 전역 움직임 값을 결정할 수 있다.In step S420, the device 110 may determine a global motion value for the global motion of the image.

전역적인 움직임은 영상의 전체적인 움직임을 의미할 수 있다. 예를 들면, 카메라가 이동하는 경우 카메라의 이동에 대응하는 움직임 값이 전역적인 움직임 값이 될 수 있다.The global motion can mean the overall motion of the image. For example, when the camera moves, the motion value corresponding to the movement of the camera can be a global motion value.

디바이스(110)는 전역적인 움직임을 결정할 수 있다. 예를 들면, 디바이스(110)는 영상을 구성하는 복수개의 블록들의 평균 움직임을 전역적인 움직임으로 결정할 수 있다. 다른 예로, 디바이스(110)는 움직임 히스토그램을 구성하고 히스토그램에서 가장 높은 빈도를 보이는 움직임을 전역 움직임으로 선택할 수 있다.Device 110 may determine a global motion. For example, the device 110 may determine an average motion of a plurality of blocks constituting an image as a global motion. As another example, device 110 may construct a motion histogram and select a motion that exhibits the highest frequency in the histogram as a global motion.

단계 S430에서 디바이스(110)는 단계 S410에서 결정된 현재 블록의 움직임 값으로부터 단계 S420에서 결정된 전역 움직임 값이 배제된 객체의 움직임 크기를 결정할 수 있다.In step S430, the device 110 may determine the motion size of the object excluding the global motion value determined in step S420 from the motion value of the current block determined in step S410.

예를 들면, 디바이스(110)는 단계 S410에서 결정된 현재 블록의 움직임 값에서 단계 S420에서 결정된 전역 움직임 값을 뺀 값을 현재 블록의 움직임 크기로 결정할 수 있다.For example, the device 110 may determine a value obtained by subtracting the global motion value determined in step S420 from the motion value of the current block determined in step S410 as the motion size of the current block.

다른 예로, 디바이스(110)는 단계 S410에서 결정된 현재 블록의 움직임 값에서 단계 S420에서 결정된 전역 움직임 값을 뺀 값을 현재 블록에 대응되는 객체의 움직임 크기로 결정할 수 있다.As another example, the device 110 may determine a value obtained by subtracting the global motion value determined in step S420 from the motion value of the current block determined in step S410 as the motion size of the object corresponding to the current block.

또 다른 예로, 디바이스(110)는 단계 S410에서 결정된 현재 블록의 움직임 값에서 단계 S420에서 결정된 전역 움직임 성분이 제거된 값을 현재 블록의 움직임 크기로 결정할 수 있다.As another example, the device 110 may determine a value obtained by removing the global motion component determined in step S420 from the motion value of the current block determined in step S410 as the motion size of the current block.

도 5는 다양한 실시 예에 따라 디바이스(110)가 전역 움직임 신뢰도를 결정하는 방법을 설명하기 위한 흐름도이다.FIG. 5 is a flow diagram illustrating a method for device 110 to determine global motion reliability in accordance with various embodiments.

도 4에서 상술한 현재 블록의 움직임 값으로부터 전역 움직임 값을 배제하는 방법의 일 실시 예로 움직임 신뢰도를 이용하는 방법이 있을 수 있다.In an embodiment of the method for excluding the global motion value from the motion value of the current block described in FIG. 4, there may be a method of using the motion reliability.

전역 움직임 신뢰도는 전역 움직임 값이 정확한 정도를 의미할 수 있다.Global motion reliability can mean the exact degree of global motion.

움직임 크기는 각 블록의 움직임의 절대적인 크기를 의미할 수 있다. 사용자가 카메라를 이용하여 동영상을 촬영할 경우 카메라의 움직임에 의하여 전역적인 움직임이 발생할 수 있다. 따라서 움직임의 절대적인 크기를 계산하기 위해 전역 움직임을 보상해야할 수 있다. 디바이스(110)는 움직임 히스토그램을 구성하고 히스토그램에서 가장 높은 빈도를 보이는 움직임을 전역 움직임으로 선택할 수 있다. 디바이스(110)는 선택된 움직임이 영상 내에 분포하는 비율이 높을수록 전역 움직임일 확률이 높다고 판단할 수 있다. 따라서 디바이스(110)는 전역 움직임으로 선택된 움직임 값의 히스토그램 내 비율을 전역 움직임 신뢰도(τ)로 정의할 수 있다. 디바이스(110)는 움직임 맵에서 전역 움직임을 제거하여 움직임 크기(T)를 계산할 수 있다.The motion size can mean the absolute size of the motion of each block. When a user shoots a video using a camera, global movement may occur due to the movement of the camera. Therefore, the global motion may have to be compensated to calculate the absolute magnitude of the motion. Device 110 may construct a motion histogram and select a motion that exhibits the highest frequency in the histogram as a global motion. The device 110 can determine that the higher the rate of the selected motion is distributed in the image, the higher the probability of the global motion. Accordingly, the device 110 can define the ratio of the selected motion value in the histogram as the global motion reliability ([tau]). The device 110 may calculate the motion magnitude T by removing the global motion in the motion map.

또한, 디바이스(110)는 움직임 대조비, 객체의 움직임 크기, 움직임 중요도 가중치 및 전역 움직임 신뢰도 중 적어도 하나를 이용하여 영상 내의 각 블록의 중요도를 결정할 수 있다.In addition, the device 110 may determine the importance of each block in the image using at least one of the motion contrast ratio, the motion magnitude of the object, the motion importance weight, and the global motion reliability.

또한, 디바이스(110)는 움직임 대조비, 객체의 움직임 크기, 움직임 중요도 가중치 및 전역 움직임 신뢰도를 이용하여 영상 내의 각 블록의 중요도를 결정할 수 있다.In addition, the device 110 may determine the importance of each block in the image using the motion contrast ratio, the motion magnitude of the object, the motion importance weight, and the global motion reliability.

도 5에서는 움직임 크기(T)를 계산할 때 이용될 수 있는 전역 움직임 신뢰도(τ)를 결정하는 방법에 대해 설명한다.Fig. 5 illustrates a method for determining the global motion reliability [tau] which can be used in calculating the motion magnitude T. [

단계 S510에서 디바이스(110)는 영상을 구성하는 블록들의 움직임 크기들을 결정할 수 있다.In step S510, the device 110 may determine the motion sizes of the blocks constituting the image.

디바이스(110)는 영상을 구성하는 블록들의 시간의 흐름에 따른 위치 변화량에 따라 영상을 구성하는 블록들의 움직임 크기들을 결정할 수 있다.The device 110 may determine the motion sizes of the blocks constituting the image according to the position variation amount of the blocks constituting the image with the passage of time.

단계 S520에서 디바이스(110)는 단계 S510에서 결정된 블록들의 움직임 크기들 중 최빈값을 전역 움직임 값으로 결정할 수 있다.In step S520, the device 110 may determine a mode among the motion sizes of the blocks determined in step S510 as a global motion value.

예를 들면, 디바이스(110)는 움직임 히스토그램을 구성하고 히스토그램에서 가장 높은 빈도를 보이는 움직임을 전역 움직임으로 선택할 수 있다.For example, the device 110 may construct a motion histogram and select a motion that exhibits the highest frequency in the histogram as a global motion.

다른 예로, 디바이스(110)는 영상을 구성하는 복수개의 블록들의 평균 움직임을 전역적인 움직임으로 결정할 수 있다.In another example, the device 110 may determine an average motion of a plurality of blocks constituting an image as a global motion.

단계 S530에서 디바이스(110)는 ‘단계 S510에서 결정된 블록들의 움직임 크기들’에 대한 ‘단계 S520에서 결정된 전역 움직임 값’의 비율에 대한 값인 전역 움직임 신뢰도를 결정할 수 있다.In step S530, the device 110 may determine global motion reliability, which is a value for a ratio of 'global motion value determined in step S520' to 'motion sizes of blocks determined in step S510'.

예를 들면, 디바이스(110)는 ‘단계 S510에서 결정된 블록들의 움직임 크기들’ 중 ‘단계 S520에서 결정된 전역 움직임 값’이 차지하는 비율에 대응하는 값인 전역 움직임 신뢰도를 결정할 수 있다.For example, the device 110 may determine the global motion reliability, which is a value corresponding to a ratio of 'the global motion value determined in step S520' among the motion magnitudes of the blocks determined in step S510 '.

다른 예로, 디바이스(110)는 ‘단계 S510에서 결정된 블록들의 움직임 크기들’ 중 ‘단계 S520에서 결정된 전역 움직임 값’이 차지하는 비율에 비례하는 값인 전역 움직임 신뢰도를 결정할 수 있다.As another example, the device 110 may determine the global motion reliability, which is a value proportional to the proportion of the motion magnitudes of the blocks determined in step S510 occupied by the global motion value determined in step S520.

도 6은 다양한 실시 예에 따라 디바이스(110)가 움직임 중요도 가중치를 결정하는 방법을 설명하기 위한 흐름도이다.FIG. 6 is a flow chart illustrating a method by which device 110 determines a motion importance weight according to various embodiments.

단계 S610에서 디바이스(110)는 현재 블록과 현재 블록의 주변에 위치한 주변 블록들간의 픽셀 유사도를 결정할 수 있다.In step S610, the device 110 may determine the pixel similarity between the current block and neighboring blocks located around the current block.

예를 들면, 디바이스(110)는 현재 블록으로부터 소정의 범위 내에 위치한 주변 블록들과 현재 블록간의 픽셀 유사도를 결정할 수 있다.For example, the device 110 may determine the pixel similarity between the current block and neighboring blocks located within a predetermined range from the current block.

예를 들면, 현재 블록과 현재 블록의 주변 블록들이 모두 동일한 픽셀값만으로 구성된 경우 픽셀 유사도는 1일 수 있다.For example, if the neighboring blocks of the current block and the current block are all composed of only the same pixel value, the pixel similarity may be 1.

다른 예로, 현재 블록의 픽셀은 흰색만으로 구성되고, 주변 블록의 픽셀은 검은색만으로 구성된 경우 픽셀 유사도는 0일 수 있다.As another example, if the pixel of the current block is composed of only white and the pixels of the neighboring block are composed of only black, the pixel similarity may be zero.

단계 S620에서 디바이스(110)는 주변 블록들의 움직임 크기에 대한 값인 주변 블록 움직임 가중치를 결정할 수 있다.In step S620, the device 110 may determine a neighboring block motion weight, which is a value for motion size of neighboring blocks.

예를 들면, 주변 블록 움직임 가중치는 주변 블록의 움직임 크기가 움직임 중요도 가중치에 영향을 끼치는 정도를 나타내는 값일 수 있다.For example, the neighboring block motion weighting may be a value indicating the extent to which the motion magnitude of the neighboring block affects the motion importance weights.

단계 S630에서 디바이스(110)는 현재 블록과 주변 블록들간의 거리에 대한 값인 블록간 거리 가중치를 결정할 수 있다.In step S630, the device 110 may determine an inter-block distance weight that is a value for a distance between the current block and neighboring blocks.

예를 들면, 디바이스(110)는 현재 블록과 주변 블록과의 거리가 클수록 블록간 거리 가중치가 낮도록 블록간 거리 가중치를 결정할 수 있다. For example, the device 110 may determine the inter-block distance weight so that the distance between the current block and the neighboring block becomes larger, the smaller the inter-block distance weight.

다른 예로, 디바이스(110)는 현재 블록과 주변 블록과의 거리가 소정의 거리에 근접할수록 블록간 거리 가중치가 높도록 블록간 거리 가중치를 결정할 수 있다.As another example, the device 110 may determine the block-to-block distance weight such that the distance between the current block and the neighboring block is closer to a predetermined distance, the higher the inter-block distance weight.

단계 S640에서 디바이스(110)는 단계 S610에서 결정된 픽셀 유사도, 단계 S620에서 결정된 주변 블록 움직임 가중치 및 단계 S630에서 결정된 블록간 거리 가중치 중 적어도 하나를 이용하여 움직임 중요도 가중치를 결정할 수 있다.In step S640, the device 110 may determine the motion importance weight using at least one of the pixel similarity determined in step S610, the neighboring block motion weight determined in step S620, and the inter-block distance weight determined in step S630.

예를 들면, 상술한 바와 같이 디바이스(110)는 수학식(4)를 이용하여 움직임 중요도 가중치를 결정할 수 있다. 구체적인 내용은 상술하였다.For example, as described above, the device 110 may determine the motion importance weight using equation (4). Details are described above.

다른 예로, 디바이스(110)는 픽셀 유사도에 비례하도록 움직임 중요도 가중치를 결정할 수 있다.As another example, the device 110 may determine the motion importance weight to be proportional to the pixel similarity.

도 7은 다양한 실시 예에 따라 디바이스(110)가 중요점을 검출하는 방법을 설명하기 위한 흐름도이다.FIG. 7 is a flow diagram illustrating how a device 110 detects critical points in accordance with various embodiments.

단계 S710에서 디바이스(110)는 입력 영상 데이터를 수신할 수 있다.In step S710, the device 110 may receive input image data.

단계 S720 내지 단계 S740에서 디바이스(110)는 움직임 중요도를 결정할 수 있다.In steps S720 through S740, the device 110 may determine the motion importance.

단계 S720에서 디바이스(110)는 영상을 구성하는 각각의 블록에 대해서 주변 블록과의 움직임 차이에 대한 움직임 대조비를 결정할 수 있다.In step S720, the device 110 may determine a motion contrast ratio for a motion difference with neighboring blocks for each block constituting an image.

단계 S730에서 디바이스(110)는 영상을 구성하는 각각의 블록의 움직임 크기를 결정할 수 있다.In step S730, the device 110 may determine the motion size of each block constituting the image.

단계 S740에서 디바이스(110)는 영상을 구성하는 각각의 블록의 움직임 크기의 정확도에 대한 움직임 신뢰도를 결정할 수 있다.In step S740, the device 110 may determine the motion reliability for the accuracy of motion size of each block constituting the image.

디바이스(110)는 단계 S720에서 결정한 움직임 대조비, 단계 S730에서 결정한 움직임 크기, 단계 S740에서 결정한 움직임 신뢰도를 이용하여 영상을 구성하는 각각의 블록에 대한 움직임 중요도를 결정할 수 있다.The device 110 can determine the motion importance for each block constituting the image using the motion contrast ratio determined in step S720, the motion magnitude determined in step S730, and the motion reliability determined in step S740.

단계 S750에서 디바이스(110)는 영상을 구성하는 각각의 블록 또는 픽셀에 대한 공간적 중요도를 결정할 수 있다.In step S750, the device 110 may determine spatial importance for each block or pixel that constitutes the image.

디바이스(110)는 수신한 영상 데이터(120)를 처리하는 과정에서 영상에 포함된 픽셀들에 대한 희귀도, 응집도 또는 중심 밀집도를 결정할 수 있다.The device 110 may determine the degree of rarity, cohesion, or central density of the pixels included in the image in the course of processing the received image data 120.

디바이스(110)는 수신한 영상 데이터(120)를 처리하는 과정에서 영상에 포함된 픽셀들을 하나 이상의 그룹으로 분류하여, 각각의 그룹들에 대한 희귀도, 응집도 또는 중심 밀집도를 결정할 수 있다. 디바이스(110)는 결정된 희귀도, 응집도 및 중심 밀집도 중 적어도 하나에 기초하여 각 그룹의 중요도를 결정할 수 있다.In processing the received image data 120, the device 110 may classify the pixels included in the image into one or more groups to determine the degree of rarity, cohesion, or central density for the respective groups. The device 110 may determine the importance of each group based on at least one of the determined degrees of rarity, cohesion and central density.

희귀도와 관련하여, 디바이스(110)는 픽셀 단위로 각 픽셀의 밝기값이 전체 영상에서 희소한 정도를 결정할 수 있다. 또는, 디바이스(110)는 픽셀 단위로 각 픽셀의 색상값이 전체 영상에서 희소한 정도를 결정할 수 있다.With respect to the rarity, the device 110 may determine, on a pixel-by-pixel basis, the degree to which the brightness value of each pixel is rare in the entire image. Alternatively, the device 110 may determine, on a pixel-by-pixel basis, the degree to which the color value of each pixel is rare in the entire image.

응집도와 관련하여, 디바이스(110)는 각 그룹의 픽셀들이 서로 가까운 정도인 각 그룹의 응집도를 결정할 수 있다.With regard to cohesion, the device 110 may determine the degree of cohesion of each group where the pixels of each group are close to each other.

중심 밀집도와 관련하여, 디바이스(110)는 각 그룹의 픽셀들이 영상의 중앙으로부터 가까운 정도인 각 그룹의 중심 밀집도를 결정할 수 있다.With respect to the central density, the device 110 may determine the central density of each group where the pixels of each group are close to the center of the image.

디바이스(110)는 결정된 희귀도, 응집도 및 중심 밀집도 중 적어도 하나에 기초하여 각 그룹의 중요도를 결정할 수 있다. 또한 디바이스(110)는 각 그룹의 중요도에 따라 영상을 구성하는 블록 또는 픽셀의 공간적 중요도를 결정할 수 있다.The device 110 may determine the importance of each group based on at least one of the determined degrees of rarity, cohesion and central density. The device 110 may also determine the spatial importance of a block or pixel that constitutes an image according to the importance of each group.

단계 S760에서 디바이스(110)는 영상 내의 블록 또는 픽셀들의 움직임 중요도 및 공간적 중요도를 이용하여 중요점을 검출할 수 있다.In step S760, the device 110 may detect an important point using motion importance and spatial importance of a block or pixels in an image.

예를 들면, 디바이스(110)는 영상 내의 블록 또는 픽셀들의 움직임 중요도 및 공간적 중요도를 곱한 값에 비례하도록 영상 내의 블록 또는 픽셀들에 중요도를 할당할 수 있다.For example, the device 110 may assign importance to a block or pixels in an image such that it is proportional to the motion importance and spatial importance of the block or pixels in the image.

도 8은 다양한 실시 예에 따라 디바이스(110)가 다중 스케일 방식을 이용하는 방법을 설명하기 위한 도면이다.FIG. 8 is a diagram illustrating a method in which a device 110 uses a multi-scale scheme in accordance with various embodiments.

디바이스(110)는 동영상의 움직임 정보를 추정할 수 있다. 예를 들면, 디바이스(110)는 동영상의 움직임 정보를 추정하기 위해서 계층적 블록 움직임 추정 기법을 이용할 수 있다. The device 110 may estimate the motion information of the moving image. For example, the device 110 may use a hierarchical block motion estimation technique to estimate motion information of a motion picture.

계층적 블록 움직임 추정 기법은 도 8에서 도시하는 바와 같이 입력 프레임을 피라미드 형태의 다중 스케일의 영상으로 구성하고 상위 단계에서의 움직임 추정값을 상속하여 더 빠르고 정확하게 움직임을 예측하는 기법이다.As shown in FIG. 8, the hierarchical block motion estimation scheme is a technique for quickly and accurately predicting motion by constructing an input frame as a pyramid-type multi-scale image and inheriting a motion estimation value at an upper level.

예를 들면, 디바이스(110)는 낮은 스케일에서 움직임이 있는 위치(810)를 결정할 수 있다.For example, the device 110 may determine a position 810 with motion at a low scale.

그리고 디바이스(110)는 스케일을 확대하여 움직임이 있는 위치(810)에 대응하는 부분(820)의 움직임을 분석할 수 있다.The device 110 may then scale the scale to analyze the motion of the portion 820 corresponding to the motion location 810.

그리고 디바이스(110)는 스케일을 한번 더 확대하여 분석되는 부분(820)에 대응되는 부분(830)의 움직임을 분석할 수 있다.The device 110 may further magnify the scale and analyze the motion of the portion 830 corresponding to the portion 820 analyzed.

도 9는 다양한 실시 예에 따라 디바이스(110)가 움직임 대조비, 움직임 크기, 움직임 중요도를 결정하는 방법을 설명하기 위한 도면이다.9 is a diagram illustrating a method by which device 110 determines a motion contrast ratio, a motion magnitude, and a motion importance according to various embodiments.

도 9A는 다양한 실시 예에 따라 디바이스(110)가 수신한 영상 데이터의 이미지이다.9A is an image of image data received by device 110 according to various embodiments.

도 9B는 다양한 실시 예에 따라 디바이스(110)가 수신한 영상 데이터로부터 움직임 대조비를 추출한 일 실시 예이다. 9B illustrates an embodiment in which a motion comparison ratio is extracted from image data received by the device 110 according to various embodiments.

디바이스(110)는 수신한 영상 데이터(120)를 이용하여 움직임 대조비를 추출할 수 있다. 디바이스(110)는 입력 영상(910)으로부터 움직임 대조비를 추출할 수 있다. 움직임 대조비 이미지(920)는 디바이스(110)에 의해 입력 영상(910)으로부터 추출될 수 있다.The device 110 can extract the motion contrast ratio using the received image data 120. [ The device 110 may extract the motion contrast ratio from the input image 910. The motion contrast ratio image 920 may be extracted from the input image 910 by the device 110.

도 9C는 다양한 실시 예에 따라 디바이스(110)가 수신한 영상 데이터로부터 움직임 크기를 추출한 일 실시 예이다. 9C illustrates an embodiment in which a motion size is extracted from image data received by the device 110 according to various embodiments.

디바이스(110)는 입력 영상(910)으로부터 움직임 크기 이미지(930)를 추출할 수 있다.The device 110 may extract the motion magnitude image 930 from the input image 910. [

도 9D는 다양한 실시 예에 따라 디바이스(110)가 수신한 영상 데이터로부터 움직임 중요도를 추출한 일 실시 예이다.9D is an embodiment in which motion importance is extracted from image data received by the device 110 according to various embodiments.

예를 들면, 디바이스(110)는 움직임 대조비 이미지(920) 및 움직임 크기 이미지(930)를 이용하여 움직임 중요도 이미지(940)를 추출할 수 있다.For example, device 110 may extract motion importance image 940 using motion balance ratio image 920 and motion magnitude image 930.

도 10은 다양한 실시 예에 따라 디바이스(110)가 움직임 중요도 가중치를 이용하여 움직임 중요도를 보정하는 방법을 설명하기 위한 도면이다.FIG. 10 is a diagram illustrating a method for the device 110 to correct motion importance using motion importance weights according to various embodiments.

도 10A는 다양한 실시 예에 따라 디바이스(110)가 영상 데이터로부터 움직임 중요도 가중치를 추출한 일 실시 예이다.10A is an embodiment in which the device 110 extracts motion importance weights from image data according to various embodiments.

예를 들면, 디바이스(110)는 입력 영상(910)으로부터 움직임 중요도 가중치 이미지(1010)를 추출할 수 있다.For example, the device 110 may extract the motion importance weighted image 1010 from the input image 910.

도 10B는 다양한 실시 예에 따라 디바이스(110)가 영상 데이터로부터 보정된 움직임 중요도 가중치를 추출한 일 실시 예이다.FIG. 10B is an embodiment in which the device 110 extracts a calibrated motion importance weight from image data according to various embodiments.

예를 들면, 디바이스(110)는 움직임 중요도 이미지(940)를 보정하여 보정된 움직임 중요도 이미지(1020)를 결정할 수 있다.For example, the device 110 may determine a motion importance image 1020 that has been calibrated by correcting the motion importance image 940.

다른 예로, 디바이스(110)는 움직임 중요도 이미지(940)와 움직임 중요도 가중치 이미지(1010)를 이용하여 보정된 움직임 중요도 이미지를 결정할 수 있다.In another example, the device 110 may determine a motion importance image that has been corrected using the motion importance image 940 and the motion importance weight image 1010.

도 11은 다양한 실시 예에 따라 디바이스(110)가 중요점을 결정하는 방법을 설명하기 위한 도면이다.FIG. 11 is a diagram illustrating a method by which device 110 determines importance points according to various embodiments.

도 11A는 다양한 실시 예에 따라 디바이스(110)가 영상 데이터로부터 공간적 중요도를 추출한 일 실시 예이다.11A is an embodiment in which the device 110 extracts spatial importance from image data according to various embodiments.

예를 들면, 디바이스(110)는 입력 영상(910)으로부터 공간적 중요도 이미지(1110)를 추출할 수 있다.For example, the device 110 may extract the spatial importance image 1110 from the input image 910.

도 11B는 다양한 실시 예에 따라 디바이스(110)가 영상 데이터로부터 중요점을 추출한 일 실시 예이다.11B is an embodiment in which the device 110 extracts important points from the image data according to various embodiments.

예를 들면, 디바이스(110)는 공간적 중요도 이미지(1110) 및 보정된 중요도 이미지(1020)를 이용하여 중요점을 추출할 수 있다.For example, the device 110 may extract critical points using the spatial importance image 1110 and the corrected importance image 1020. [

구체적으로, 중요점 추출 결과 이미지(1120)에는 중요도가 낮은 그룹의 픽셀들의 명암은 낮게 표시되고, 중요도가 높은 그룹의 픽셀들의 명암은 높게 표시된 것을 확인할 수 있다.Specifically, in the important point extraction result image 1120, the lightness and darkness of the pixels of the low importance group are displayed low, and the lightness and darkness of the pixels of the high importance group are displayed high.

도 12는 다양한 실시 예에 따라 디바이스(110)의 구성을 설명하기 위한 블록도이다.12 is a block diagram illustrating a configuration of a device 110 according to various embodiments.

디바이스(110)는 상술한 영상 데이터 처리 방법을 수행할 수 있는 장치로, 상술한 영상 데이터 처리 방법을 수행하기 위한 모든 실시 예의 구현이 가능하다.The device 110 is an apparatus capable of performing the image data processing method described above, and it is possible to implement all the embodiments for performing the image data processing method described above.

도 12에 도시된 바와 같이, 디바이스(110)는 움직임 대조비 결정부(1210), 움직임 크기 결정부(1220), 가중치 결정부(1230), 중요도 결정부(1240)를 포함할 수 있다. 그러나 도시된 구성요소보다 많은 구성요소에 의해 디바이스(110)가 구현될 수도 있고, 도시된 구성요소보다 적은 구성요소에 의해 디바이스(110)가 구현될 수도 있다.12, the device 110 may include a motion comparison ratio determination unit 1210, a motion size determination unit 1220, a weight determination unit 1230, and an importance determination unit 1240. However, the device 110 may be implemented by more components than the components shown, and the device 110 may be implemented by fewer components than the components shown.

이하 상기 구성요소들에 대해 차례로 살펴본다.Hereinafter, the components will be described in order.

움직임 대조비 결정부(1210)는 영상을 구성하는 배경과 객체의 움직임 차이에 대한 움직임 대조비를 결정할 수 있다.The motion contrast ratio determiner 1210 can determine a motion contrast ratio for a motion difference between a background and an object constituting an image.

움직임 대조비는 영상을 구성하는 배경과 객체의 움직임 차이에 대한 값을 의미할 수 있다.The motion contrast ratio may be a value for the motion difference between the background of the image and the object.

움직임 대조비 결정부(1210)는 현재 블록의 움직임과 현재 블록의 주변 블록들의 움직임 차이를 이용하여 움직임 대조비를 결정할 수 있다. 주변 블록은 현재 블록으로부터 소정의 거리 내에 위치한 블록을 의미할 수 있다.The motion contrast ratio determiner 1210 can determine the motion contrast ratio using motion of the current block and motion difference between neighboring blocks of the current block. The neighboring block may mean a block located within a predetermined distance from the current block.

예를 들면, 움직임 대조비 결정부(1210)는 상술한 수학식(1)을 이용하여 움직임 대조비를 결정할 수 있다. For example, the motion-contrast-ratio determining unit 1210 can determine the motion-contrast ratio using the above-described equation (1).

움직임 대조비는 다중 스케일 기법을 통해 보정될 수 있다. 다중 스케일 기법에 대해서는 도 8에서 상술하였다.The motion contrast ratio can be corrected through a multi-scale technique. Multi-scale techniques have been described above in FIG.

보정된 움직임 대조비(

Figure pat00012
)는 움직임 중요도를 결정할 때 이용될 수 있다.The corrected motion contrast ratio (
Figure pat00012
) Can be used to determine the importance of movement.

예를 들면, 수학식 (2)에서와 같이 디바이스(110)는 전역 움직임 신뢰도(τ)에 움직임 크기(T)를 곱한 값에 보정된 움직임 대조비(

Figure pat00013
)를 더하여 움직임 중요도(Et)를 결정할 수 있다.For example, as in Equation (2), the device 110 may calculate a motion compensation ratio (i) corrected to a value obtained by multiplying the global motion reliability &
Figure pat00013
) Can be added to determine the motion importance (Et).

전역 움직임 신뢰도(τ)를 결정하는 방법은 도 5에서 상술하였다.A method for determining the global motion reliability [tau] is described above in Fig.

움직임 크기 결정부(1220)는 영상을 구성하는 객체의 움직임 크기를 결정할 수 있다.The motion size determination unit 1220 may determine a motion size of an object constituting an image.

객체의 움직임 크기는 영상이 시간의 흐름에 따라 변할 때 객체의 시간당 이동 거리를 의미할 수 있다.The motion size of an object can mean the moving distance of the object per hour when the image changes with time.

예를 들면, 움직임 크기 결정부(1220)는 객체에 대응되는 블록들의 시간당 이동 거리에 대한 평균 값을 해당 객체의 움직임 크기로 결정할 수 있다. 또한, 객체는 영상에서 배경과 구별되는 대상을 의미할 수 있다. For example, the motion size determination unit 1220 may determine an average value of movement distances of blocks corresponding to an object as a motion size of the corresponding object. In addition, an object may mean an object distinguished from a background in an image.

가중치 결정부(1230)는 움직임 중요도 가중치를 결정할 수 있다. 디바이스(110)는 움직임 중요도 가중치를 이용하여 움직임 중요도를 보정할 수 있다. 움직임 중요도는 움직임 대조비와 객체의 움직임 크기에 기초하여 결정될 수 있다.The weight determining unit 1230 can determine the motion importance weight. The device 110 may correct the motion importance using the motion importance weight. The motion importance can be determined based on the motion contrast ratio and the motion size of the object.

디바이스(110)는 움직임 중요도 가중치를 이용하여 움직임 중요도를 보정할 수 있다.The device 110 may correct the motion importance using the motion importance weight.

디바이스(110)는 움직임 대조비와 객체의 움직임 크기에 기초하여 움직임 중요도(Et)를 결정할 수 있다.The device 110 may determine the motion importance Et based on the motion contrast ratio and the motion magnitude of the object.

움직임 중요도 가중치는 움직임 중요도(Et)를 보정하기 위한 값을 의미할 수 있다.The motion importance weight may mean a value for correcting the motion importance (Et).

가중치 결정부(1230) 는 결정된 움직임 중요도(Et)를 보정하기 위한 움직임 중요도 가중치(Q)를 결정할 수 있다.The weight determining unit 1230 may determine a motion importance weight Q for correcting the determined motion importance Et.

예를 들면, 상술한 수학식(3)에서와 같이 디바이스(110)는 움직임 중요도(Et)와 움직임 중요도 가중치(Q)를 곱하여 보정된 움직임 중요도(

Figure pat00014
)를 결정할 수 있다.For example, as in Equation (3) above, the device 110 multiplies the motion importance Et and the motion importance weight Q by the motion importance (Q)
Figure pat00014
Can be determined.

Et(x, y)는 가로로 x번째, 세로로 y번째의 블록의 움직임 중요도를 의미할 수 있다.Et (x, y) can mean the motion importance of the x-th horizontal and y-th vertical blocks.

Q(x, y)는 가로로 x번째, 세로로 y번째의 블록의 움직임 중요도 가중치를 의미할 수 있다.Q (x, y) may mean the motion importance weight of the x-th horizontal and y-th vertical blocks.

디바이스(110)는 Et(x, y)와 Q(x, y)를 곱하여 보정된 움직임 중요도를 결정할 수 있다.The device 110 may determine the corrected motion importance by multiplying Et (x, y) by Q (x, y).

움직임 정보의 부정확성으로 인해 움직임 중요도의 정확도가 낮아질 수 있다. 움직임 정보의 부정확성은 텍스쳐가 없는 영역과 객체의 경계에서 발생할 수 있다. 따라서 디바이스(110)는 움직임 정보의 오류로 인해 발생하는 움직임 중요도의 잡음을 제거하기 위해 움직임 중요도 가중치를 이용할 수 있다.The accuracy of the motion importance may be lowered due to the inaccuracy of motion information. The inaccuracy of motion information can occur at the boundaries of objects and regions without textures. Accordingly, the device 110 may use the motion importance weight to remove the noise of the motion importance caused by the error of the motion information.

예를 들면 디바이스(110)는 각각의 블록에 대해서 움직임 중요도 가중치를 결정하고, 결정된 움직임 중요도 가중치를 각각의 블록의 움직임 중요도와 곱하여 움직임 중요도의 잡음을 제거할 수 있다. 가중치 결정부(1230)는 현재 블록을 움직임이 적은 현재 블록의 주변 블록들과 비교하여 움직임 중요도 가중치를 결정할 수 있다. 현재 블록이 현재 블록의 주변 블록들과 픽셀 값이 유사할수록 움직임 중요도 가중치는 낮을 수 있다. 또는 현재 블록이 움직임이 적은 현재 블록의 주변 블록들과 픽셀 값이 유사할수록 움직임 중요도 가중치가 낮을 수 있다.For example, the device 110 may determine a motion importance weight for each block and multiply the determined motion importance weight by the motion importance of each block to remove noise of motion importance. The weight determining unit 1230 may determine the motion importance weight by comparing the current block with neighboring blocks of the current block having less motion. As the current block is similar to the neighboring blocks of the current block, the importance weight of the motion may be lower. Or the motion importance weight may be lower as the pixel values of neighboring blocks of the current block in which the current block has less motion are similar to each other.

예를 들면, 가중치 결정부(1230)는 블록의 움직임 중요도 가중치를 상술한 수학식(4)를 이용하여 결정할 수 있다.For example, the weight determining unit 1230 can determine the motion importance weight of the block using the above-described equation (4).

중요도 결정부(1240)는 움직임 대조비, 객체의 움직임 크기 및 움직임 중요도 가중치 중 적어도 하나를 이용하여 영상 내의 각 블록의 움직임 중요도를 결정할 수 있다.The importance determining unit 1240 can determine the importance of motion of each block in the image using at least one of a motion contrast ratio, an object motion size, and a motion importance weight.

또는, 중요도 결정부(1240)는 움직임 대조비, 객체의 움직임 크기 및 움직임 중요도 가중치 및 전역 움직임 신뢰도를 이용하여 영상 내의 각 블록의 움직임 중요도를 결정할 수 있다.Alternatively, the importance determining unit 1240 may determine the motion importance of each block in the image using the motion contrast ratio, the object motion size, the motion importance weight, and the global motion reliability.

예를 들면, 중요도 결정부(1240)는 움직임 대조비, 객체의 움직임 크기 및 움직임 중요도 가중치를 모두 이용하여 영상 내의 각 블록의 움직임 중요도를 결정할 수 있다. For example, the importance determining unit 1240 can determine the motion importance of each block in the image using both the motion contrast ratio, the motion magnitude of the object, and the motion importance weight.

예를 들면, 중요도 결정부(1240)는 상술한 바 있는 수학식(3)을 이용하여 움직임 중요도(Et)와 움직임 중요도 가중치(Q)를 곱하여 보정된 움직임 중요도(

Figure pat00015
)를 결정할 수 있다. 그리고 본 실시 예에서, 중요도 결정부(1240)는 움직임 중요도(Et)는 상술한 수학식(2)를 이용하여 결정할 수 있다.For example, the importance level determination unit 1240 multiplies the motion importance Et by the motion importance weight Q using the above-described equation (3)
Figure pat00015
Can be determined. In this embodiment, the importance degree determining unit 1240 can determine the motion importance Et using the above-described equation (2).

디바이스(110)는 영상을 압축할 때 중요 영역을 판별하여 중요 영역과 비중요 영역에 대해 차별적 압축을 시행할 수 있다. 중요 영역은 결정된 보정된 움직임 중요도가 소정의 기준 이상인 블록들이 영상에서 차지하는 영역을 의미할 수 있다.The device 110 may discriminate the important area when compressing the image and perform differential compression on the important area and the non-important area. The important area may refer to an area occupied by the blocks whose determined corrected motion importance is equal to or greater than a predetermined reference value.

디바이스(110)는 결정된 각 블록의 보정된 움직임 중요도에 기초하여 각 블록의 영상들에 대한 압축 방식을 결정할 수 있다. 중요도는 보정된 움직임 중요도를 포함할 수 있다.The device 110 may determine the compression scheme for the images of each block based on the determined motion importance of each determined block. The importance may include the corrected motion importance.

디바이스(110)는 영상을 압축할 때 중요 영역을 결정하여 중요 영역과 비중요 영역에 대한 압축 파라미터를 차별화할 수 있다. 디바이스(110)는 중요 영역과 비중요 영역에 대한 압축 파라미터를 차별화 함으로써 압축 효율을 향상시킬 수 있다. 중요 영역은 중요도가 소정의 기준 이상인 블록들이 영상에서 차지하는 영역을 의미할 수 있다. 비중요 영역은 중요도가 소정의 기준 미만인 블록들이 영상에서 차지하는 영역을 의미할 수 있다.The device 110 may determine a critical region when compressing an image and differentiate compression parameters for the critical region and the non-critical region. The device 110 may improve compression efficiency by differentiating compression parameters for critical and non-critical areas. The important area may be an area occupied by the blocks whose importance is not less than a predetermined standard. The non-critical area may mean an area occupied by the blocks whose importance is less than a predetermined standard.

예를 들면, 디바이스(110)는 중요도가 소정의 기준 이상인 블록들에 대한 압축을 시행할 때 압축 속도보다는 정확도에 더 중점을 둔 압축 방식을 선택하고, 중요도가 소정의 기준 미만인 블록들에 대한 압축을 시행할 때 정확도보다는 압축 속도에 더 중점을 둔 압축 방식을 선택할 수 있다.For example, the device 110 selects a compression method that focuses more on the accuracy than the compression speed when compressing the blocks with a degree of importance greater than or equal to a predetermined reference, and compresses You can choose a compression method that is more focused on compression speed than accuracy.

또한, 디바이스(110)는 영상 내 중요점을 강조하여 표현할 수 있다. 영상 내 중요점을 강조하여 표현할 경우 영상의 품질이 향상될 수 있다.In addition, the device 110 can emphasize important points in the image. The quality of the image can be improved by emphasizing the important points in the image.

예를 들면, 디바이스(110)는 단계 S240에서 결정된 중요도가 소정의 기준 이상인 블록들은 소정 비율만큼 더 밝게 디스플레이 되도록 할 수 있다.For example, the device 110 may cause the blocks whose importance determined in step S240 to be greater than or equal to a predetermined reference to be displayed brighter by a predetermined ratio.

다른 예로, 디바이스(110)는 단계 S240에서 결정된 중요도가 소정의 기준 이상인 블록들은 소정의 방식으로 강조되어 디스플레이 되도록 할 수 있다.As another example, the device 110 may cause the blocks whose importance determined in step S240 to be higher than a predetermined reference level to be emphatically displayed in a predetermined manner.

도 12와 관련하여 상술된 실시 예들은 하나의 실시 예들에 불과한 것이고, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다.The embodiments described above with reference to FIG. 12 are only one embodiment, and those skilled in the art will understand that the present invention may be embodied in various forms without departing from the essential characteristics of the present invention. It can be understood that it is possible.

이상에서 기재된 "포함하다", "구성하다" 또는 "가지다" 등의 용어는, 특별히 반대되는 기재가 없는 한, 해당 구성 요소가 내재될 수 있음을 의미하는 것이므로, 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것으로 해석되어야 한다. It is to be understood that the terms "comprises", "comprising", or "having" as used in the foregoing description mean that the constituent element can be implanted unless specifically stated to the contrary, But should be construed as further including other elements.

한편, 상술한 본 발명의 실시 예들은 컴퓨터에서 실행될 수 있는 프로그램으로 작성가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드디스크 등), 광학적 판독 매체(예를 들면, 시디롬, 디브이디 등)와 같은 저장매체를 포함한다.The above-described embodiments of the present invention can be embodied in a general-purpose digital computer that can be embodied as a program that can be executed in a computer and operates the program using a computer-readable recording medium. The computer-readable recording medium includes a storage medium such as a magnetic storage medium (e.g., ROM, floppy disk, hard disk, etc.), optical reading medium (e.g., CD ROM,

이제까지 본 발명에 대하여 그 바람직한 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자는 본 발명이 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시 예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 본 발명의 범위는 전술한 설명이 아니라 특허청구범위에 나타나 있으며, 그와 동등한 범위 내에 있는 모든 차이점은 본 발명에 포함된 것으로 해석되어야 할 것이다.The present invention has been described with reference to the preferred embodiments. It will be understood by those skilled in the art that various changes in form and details may be made therein without departing from the spirit and scope of the invention as defined by the appended claims. Therefore, the disclosed embodiments should be considered in an illustrative rather than a restrictive sense. The scope of the present invention is defined by the appended claims rather than by the foregoing description, and all differences within the scope of equivalents thereof should be construed as being included in the present invention.

Claims (15)

영상 데이터를 처리하는 방법에 있어서,
상기 영상을 구성하는 배경과 객체의 움직임 차이에 대한 움직임 대조비를 결정하는 단계;
상기 객체의 움직임 크기를 결정하는 단계;
상기 움직임 대조비와 상기 객체의 움직임 크기에 기초하여 결정된 움직임 중요도를 보정하기 위한 움직임 중요도 가중치를 결정하는 단계; 및
상기 결정된 움직임 대조비, 상기 결정된 객체의 움직임 크기 및 상기 결정된 움직임 중요도 가중치 중 적어도 하나를 이용하여 상기 영상 내의 각 블록의 움직임 중요도를 결정하는 단계를 포함하는 영상 데이터 처리 방법.
A method for processing image data,
Determining a motion contrast ratio for a motion difference between a background and an object constituting the image;
Determining a motion size of the object;
Determining a motion importance weight for correcting the motion importance determined based on the motion contrast ratio and the motion magnitude of the object; And
Determining motion importance of each block in the image using at least one of the determined motion contrast ratio, the motion magnitude of the determined object, and the determined motion importance weight.
제 1 항에 있어서,
상기 움직임 대조비를 결정하는 단계는
현재 블록의 움직임 값을 결정하는 단계;
상기 현재 블록의 주변에 위치한 주변 블록들의 움직임 값을 결정하는 단계; 및
상기 결정된 현재 블록의 움직임 값과 상기 결정된 주변 블록들의 움직임 값의 차이를 이용하여 상기 움직임 대조비를 결정하는 단계를 포함하는 영상 데이터 처리 방법.
The method according to claim 1,
The step of determining the motion contrast ratio
Determining a motion value of a current block;
Determining a motion value of neighboring blocks located around the current block; And
And determining the motion-contrast ratio using the difference between the motion value of the determined current block and the motion value of the determined neighboring blocks.
제 1 항에 있어서,
상기 객체의 움직임 크기를 결정하는 단계는
현재 블록의 움직임 값을 결정하는 단계;
상기 영상의 전역적인 움직임에 대한 전역 움직임 값을 결정하는 단계; 및
상기 결정된 현재 블록의 움직임 값으로부터 상기 결정된 전역 움직임 값이 배제된 상기 객체의 움직임 크기를 결정하는 단계를 포함하는 영상 데이터 처리 방법.
The method according to claim 1,
The step of determining the motion size of the object
Determining a motion value of a current block;
Determining a global motion value for a global motion of the image; And
And determining a motion size of the object excluding the determined global motion value from the motion value of the determined current block.
제 3 항에 있어서,
상기 전역 움직임 값을 결정하는 단계는
상기 영상을 구성하는 블록들의 움직임 크기들을 결정하는 단계; 및
상기 결정된 블록들의 움직임 크기들 중 최빈값을 상기 전역 움직임 값으로 결정하는 단계를 포함하는 영상 데이터 처리 방법.
The method of claim 3,
The step of determining the global motion value
Determining motion sizes of blocks constituting the image; And
And determining a mode among the motion sizes of the determined blocks as the global motion value.
제 3 항에 있어서,
상기 영상 내의 각 블록의 중요도를 결정하는 단계는
상기 결정된 전역 움직임 값이 정확한 정도에 대한 전역 움직임 신뢰도를 결정하는 단계; 및
상기 결정된 움직임 대조비, 상기 결정된 객체의 움직임 크기, 상기 결정된 움직임 중요도 가중치 및 상기 결정된 전역 움직임 신뢰도를 이용하여 상기 영상 내의 각 블록의 움직임 중요도를 결정하는 단계를 포함하는 영상 데이터 처리 방법.
The method of claim 3,
The step of determining the importance of each block in the image
Determining global motion confidence for the precise degree of the determined global motion value; And
Determining motion importance of each block in the image using the determined motion contrast ratio, the motion magnitude of the determined object, the determined motion importance weight, and the determined global motion reliability.
제 5 항에 있어서,
상기 전역 움직임 신뢰도를 결정하는 단계는
상기 영상을 구성하는 블록들의 움직임 크기들을 결정하는 단계;
상기 결정된 블록들의 움직임 크기들 중 최빈값을 상기 전역 움직임 값으로 결정하는 단계; 및
상기 결정된 블록들의 움직임 크기들에 대한 상기 전역 움직임 값의 비율에 대한 값인 상기 전역 움직임 신뢰도를 결정하는 단계를 포함하는 영상 데이터 처리 방법.
6. The method of claim 5,
The step of determining the global motion reliability
Determining motion sizes of blocks constituting the image;
Determining a mode among the motion sizes of the determined blocks as the global motion value; And
And determining the global motion reliability as a value for a ratio of the global motion values to the motion magnitudes of the determined blocks.
제 1 항에 있어서,
상기 움직임 중요도 가중치를 결정하는 단계는
현재 블록과 상기 현재 블록의 주변에 위치한 주변 블록들간의 픽셀 유사도를 결정하는 단계;
상기 주변 블록들의 움직임 크기에 대한 값인 주변 블록 움직임 가중치를 결정하는 단계;
상기 현재 블록과 상기 주변 블록들간의 거리에 대한 값인 블록간 거리 가중치를 결정하는 단계; 및
상기 결정된 픽셀 유사도, 상기 결정된 주변 블록 움직임 가중치 및 상기 결정된 블록간 거리 가중치 중 적어도 하나를 이용하여 상기 움직임 중요도 가중치를 결정하는 단계를 포함하는 영상 데이터 처리 방법.
The method according to claim 1,
The step of determining the motion importance weight
Determining a pixel similarity between a current block and neighboring blocks located around the current block;
Determining a neighboring block motion weight that is a value for a motion size of the neighboring blocks;
Determining a block-to-block distance weight that is a value for a distance between the current block and the neighboring blocks; And
Determining the motion significance weight using at least one of the determined pixel similarity, the determined neighboring block motion weight, and the determined inter-block distance weight.
영상 데이터를 처리하는 장치에 있어서,
상기 영상을 구성하는 배경과 객체의 움직임 차이에 대한 움직임 대조비를 결정하는 움직임 대조비 결정부;
상기 객체의 움직임 크기를 결정하는 움직임 크기 결정부;
상기 움직임 대조비와 상기 객체의 움직임 크기에 기초하여 결정된 움직임 중요도를 보정하기 위한 움직임 중요도 가중치를 결정하는 가중치 결정부; 및
상기 결정된 움직임 대조비, 상기 결정된 객체의 움직임 크기 및 상기 결정된 움직임 중요도 가중치 중 적어도 하나를 이용하여 상기 영상 내의 각 블록의 움직임 중요도를 결정하는 중요도 결정부를 포함하는 영상 데이터 처리 장치.
An apparatus for processing image data,
A motion contrast ratio determination unit for determining a motion contrast ratio for a motion difference between a background and an object constituting the image;
A motion size determination unit for determining a motion size of the object;
A weight determining unit for determining a motion importance weight for correcting the motion importance determined based on the motion contrast ratio and the motion magnitude of the object; And
And an importance determining unit for determining a motion importance of each block in the image by using at least one of the determined motion contrast ratio, the motion magnitude of the determined object, and the determined motion importance weight.
제 8 항에 있어서,
상기 움직임 대조비 결정부는
현재 블록의 움직임 값을 결정하고,
상기 현재 블록의 주변에 위치한 주변 블록들의 움직임 값을 결정하고,
상기 결정된 현재 블록의 움직임 값과 상기 결정된 주변 블록들의 움직임 값의 차이를 이용하여 상기 움직임 대조비를 결정하는 영상 데이터 처리 장치.
9. The method of claim 8,
The motion-to-
The motion value of the current block is determined,
Determining motion values of neighboring blocks located around the current block,
And determines the motion contrast ratio using the difference between the motion value of the determined current block and the motion value of the determined neighboring blocks.
제 8 항에 있어서,
상기 움직임 크기 결정부는
현재 블록의 움직임 값을 결정하고
상기 영상의 전역적인 움직임에 대한 전역 움직임 값을 결정하고
상기 결정된 현재 블록의 움직임 값으로부터 상기 결정된 전역 움직임 값이 배제된 상기 객체의 움직임 크기를 결정하는 영상 데이터 처리 장치.
9. The method of claim 8,
The motion size determination unit
The motion value of the current block is determined
A global motion value for the global motion of the image is determined
And determines a motion size of the object excluding the determined global motion value from the determined motion value of the current block.
제 10 항에 있어서,
상기 움직임 크기 결정부는
상기 영상을 구성하는 블록들의 움직임 크기들을 결정하고
상기 결정된 블록들의 움직임 크기들 중 최빈값을 상기 전역 움직임 값으로 결정하는 영상 데이터 처리 장치.
11. The method of claim 10,
The motion size determination unit
The motion magnitudes of the blocks constituting the image are determined
And determines a mode among the motion sizes of the determined blocks as the global motion value.
제 10 항에 있어서,
상기 중요도 결정부는
상기 결정된 전역 움직임 값이 정확한 정도에 대한 전역 움직임 신뢰도를 결정하고
상기 결정된 움직임 대조비, 상기 결정된 객체의 움직임 크기, 상기 결정된 움직임 중요도 가중치 및 상기 결정된 전역 움직임 신뢰도를 이용하여 상기 영상 내의 각 블록의 움직임 중요도를 결정하는 영상 데이터 처리 장치.
11. The method of claim 10,
The importance determining unit
The determined global motion value determines the global motion reliability for the correct degree
Wherein the motion importance of each block in the image is determined using the determined motion contrast ratio, the motion magnitude of the determined object, the determined motion importance weight, and the determined global motion reliability.
제 12 항에 있어서,
상기 중요도 결정부는
상기 영상을 구성하는 블록들의 움직임 크기들을 결정하고,
상기 결정된 블록들의 움직임 크기들 중 최빈값을 상기 전역 움직임 값으로 결정하고,
상기 결정된 블록들의 움직임 크기들에 대한 상기 전역 움직임 값의 비율에 대한 값인 상기 전역 움직임 신뢰도를 결정하는 영상 데이터 처리 장치.
13. The method of claim 12,
The importance determining unit
Determining motion sizes of blocks constituting the image,
Determining a mode among the motion sizes of the determined blocks as the global motion value,
And determines the global motion reliability as a value for a ratio of the global motion values to the motion magnitudes of the determined blocks.
제 8 항에 있어서,
상기 가중치 결정부는
현재 블록과 상기 현재 블록의 주변에 위치한 주변 블록들간의 픽셀 유사도를 결정하고
상기 주변 블록들의 움직임 크기에 대한 값인 주변 블록 움직임 가중치를 결정하고
상기 현재 블록과 상기 주변 블록들간의 거리에 대한 값인 블록간 거리 가중치를 결정하고
상기 결정된 픽셀 유사도, 상기 결정된 주변 블록 움직임 가중치 및 상기 결정된 블록간 거리 가중치 중 적어도 하나를 이용하여 상기 움직임 중요도 가중치를 결정하는 영상 데이터 처리 장치.
9. The method of claim 8,
The weight determining unit
The pixel similarity between the current block and neighboring blocks located around the current block is determined
A neighboring block motion weight value which is a value for the motion size of the neighboring blocks is determined
Block distance weights that are values for the distance between the current block and the neighboring blocks are determined
And determines the motion importance weight using at least one of the determined pixel similarity, the determined neighboring block motion weight, and the determined inter-block distance weight.
제 1 항 내지 제 7 항 중 어느 한 항의 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.A computer-readable recording medium storing a program for causing a computer to execute the method according to any one of claims 1 to 7.
KR1020140067793A 2014-01-23 2014-06-03 Method and device for processing image data KR101585059B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201461930548P 2014-01-23 2014-01-23
US61/930,548 2014-01-23

Publications (2)

Publication Number Publication Date
KR20150088166A true KR20150088166A (en) 2015-07-31
KR101585059B1 KR101585059B1 (en) 2016-01-13

Family

ID=53877282

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140067793A KR101585059B1 (en) 2014-01-23 2014-06-03 Method and device for processing image data

Country Status (1)

Country Link
KR (1) KR101585059B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180136720A (en) * 2017-06-15 2018-12-26 삼성전자주식회사 Image processing apparatus and method using multiple-channel feature map

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180136720A (en) * 2017-06-15 2018-12-26 삼성전자주식회사 Image processing apparatus and method using multiple-channel feature map

Also Published As

Publication number Publication date
KR101585059B1 (en) 2016-01-13

Similar Documents

Publication Publication Date Title
US10205896B2 (en) Automatic lens flare detection and correction for light-field images
RU2693906C2 (en) Rule-based analysis of video importance
JP4772839B2 (en) Image identification method and imaging apparatus
US9619708B2 (en) Method of detecting a main subject in an image
KR101747216B1 (en) Apparatus and method for extracting target, and the recording media storing the program for performing the said method
KR102094506B1 (en) Method for measuring changes of distance between the camera and the object using object tracking , Computer readable storage medium of recording the method and a device measuring changes of distance
US20130170742A1 (en) Image processing apparatus and image processing method
WO2005084036A1 (en) Motion vector detecting apparatus, motion vector detecting method, and computer program
JP5779089B2 (en) Edge detection apparatus, edge detection program, and edge detection method
CN110460838B (en) Lens switching detection method and device and computer equipment
KR101833943B1 (en) Method and system for extracting and searching highlight image
JP6511950B2 (en) Image processing apparatus, image processing method and program
KR101982258B1 (en) Method for detecting object and object detecting apparatus
JP5027201B2 (en) Telop character area detection method, telop character area detection device, and telop character area detection program
CN113888509A (en) Method, device and equipment for evaluating image definition and storage medium
CN111311584B (en) Video quality evaluation method and device, electronic equipment and readable medium
US10096116B2 (en) Method and apparatus for segmentation of 3D image data
KR101585059B1 (en) Method and device for processing image data
JP2011170890A (en) Face detecting method, face detection device, and program
JP2012231301A (en) Coefficient learning apparatus and method, image processing apparatus and method, program, and recording medium
CN116980549A (en) Video frame processing method, device, computer equipment and storage medium
CN112991419B (en) Parallax data generation method, parallax data generation device, computer equipment and storage medium
JP2014229092A (en) Image processing device, image processing method and program therefor
JP4758272B2 (en) Moving object tracking device and program
JP2023553914A (en) Apparatus and method for processing depth maps

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20200106

Year of fee payment: 5