KR101937163B1 - 방향 적응적 영상 보간 방법 및 그 전자 장치 - Google Patents
방향 적응적 영상 보간 방법 및 그 전자 장치 Download PDFInfo
- Publication number
- KR101937163B1 KR101937163B1 KR1020120074959A KR20120074959A KR101937163B1 KR 101937163 B1 KR101937163 B1 KR 101937163B1 KR 1020120074959 A KR1020120074959 A KR 1020120074959A KR 20120074959 A KR20120074959 A KR 20120074959A KR 101937163 B1 KR101937163 B1 KR 101937163B1
- Authority
- KR
- South Korea
- Prior art keywords
- pixel
- pixels
- directionality
- electronic device
- interpolated
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000003044 adaptive effect Effects 0.000 title description 14
- 230000006870 function Effects 0.000 claims description 34
- 230000015654 memory Effects 0.000 claims description 31
- 238000012937 correction Methods 0.000 abstract description 5
- 238000004891 communication Methods 0.000 description 10
- 238000009499 grossing Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 6
- 230000002093 peripheral effect Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20024—Filtering details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
본 발명은 영상 보간에 대한 것으로, 전자 장치의 동작은, 다수의 각도들 각각에 대응되는 다수의 필터들을 이용하여 픽셀들의 방향성을 추정하는 과정과, 인접한 픽셀들의 방향성을 이용하여 상기 픽셀들의 방향성을 보정하는 과정과, 인접한 픽셀들의 방향성 분포에 따라 방향성 추정의 오류 여부를 판단하는 과정과, 상기 방향성 추정의 오류가 존재하는 경우, 상기 방향성 추정의 오류를 정정하는 과정을 포함한다.
Description
본 발명은 전자 장치에서 영상 보간에 대한 것이다.
카메라의 줌(zoom) 기능은 기록되는 피사체와의 거리를 짧게 하는 기법을 뜻한다. 광학 렌즈에서의 줌은 촛점 거리를 직접 변경하는 방식을 이용하지만, 소형화, 경량화되고 있는 휴대폰과 같은 휴대용 전자 장치에서 사용하기에는 적합하지 아니하다. 따라서, 전자 장치의 경우, 카메라에서 입력받은 영상을 보간하여 영상의 해상도를 늘리는 디지털 줌(Digital zoom) 기술이 보다 적합하며, 이미 다양한 영상 보간 알고리듬(algorithm)이 휴대용(mobile) 카메라에 적용되어 상용화되고 있다.
휴대 장치에서 흔히 사용되는 알고리듬은 바이리니어(Bilinear) 기법, 바이큐빅(Bicubic) 기법과 같은 선형 조합을 이용한 고전적인 알고리듬이다. 하지만, 많은 연구의 결과로, 최근에는 신호 처리나 통신에서 많이 적용되어온 LSE(Least Square Estimation) 이론이나, 사람의 눈에 민감한 고주파 성분인 경계(edge) 부분에 대한 보간 성능이 뛰어난 방향적응적인 영상 보간 알고리듬 등이 개발되었다. 또한 웨이블릿(wavlet) 영상 잡음 제거 기법을 포함하는 POCS(Projection On Convex Set) 보간법 등 주파수 도메인에서의 영상 보간 방법들이 있다.
하지만, 하드웨어 성능의 한계로 인해, 상술한 기법들은 휴대용 전자 장치에 적용하기 어려움이 있다. 다시 말해, 계산량이나 메모리 요구량이 크지 않은 알고리듬을 사용할 수 밖에 없는 모바일 환경이라는 특수성으로 인하여, 휴대용 전자 장치는 최신 기술을 적용하기 힘든 문제점을 가진다. 따라서, 디지털 줌 사용 시, 경계(edge)에서의 계단 현상이나, 영상 확대 배율에 따라 블러(blur) 현상이 급격하게 증가하는 등의 문제점이 존재한다.
따라서, 본 발명의 일 실시 예는 디지털 줌의 성능 향상을 위한 장치 및 방법을 제공한다.
본 발명의 다른 실시 예는 디지털 줌 수행 시 경계(edge)에서의 계단 현상을 완화하기 위한 장치 및 방법을 제공한다.
본 발명의 또 다른 실시 예는 디지털 줌 수행 시 블러(blur) 현상을 완화하기 위한 장치 및 방법을 제공한다.
본 발명의 또 다른 실시 예는 디지털 줌 수행 시 픽셀(pixel)의 방향성을 고려하여 보간을 수행하기 위한 장치 및 방법을 제공한다.
상기 목적을 달성하기 위한 본 발명의 제1견지에 따르면, 전자 장치의 동작은, 다수의 각도들 각각에 대응되는 다수의 필터들을 이용하여 픽셀들의 방향성을 추정하는 과정과, 인접한 픽셀들의 방향성을 이용하여 상기 픽셀들의 방향성을 보정하는 과정과, 인접한 픽셀들의 방향성 분포에 따라 방향성 추정의 오류 여부를 판단하는 과정과, 상기 방향성 추정의 오류가 존재하는 경우, 상기 방향성 추정의 오류를 정정하는 과정을 포함한다.
상기 목적을 달성하기 위한 본 발명의 제2견지에 따르면, 전자 장치는, 프로세서에 의해 실행 가능한 적어도 하나의 소프트웨어 모듈을 저장하는 메모리부와, 상기 적어도 하나의 소프트웨어 모듈을 실행하는 상기 프로세서를 포함하며, 상기 적어도 하나의 소프트웨어 모듈은, 다수의 각도들 각각에 대응되는 다수의 필터들을 이용하여 픽셀들의 방향성을 추정하고, 인접한 픽셀들의 방향성을 이용하여 상기 픽셀들의 방향성을 보정하고, 인접한 픽셀들의 방향성 분포에 따라 방향성 추정의 오류 여부를 판단하고, 상기 방향성 추정의 오류가 존재하는 경우, 상기 방향성 추정의 오류를 정정하기 위한 적어도 하나의 명령어를 포함한다.
상기 목적을 달성하기 위한 본 발명의 제3견지에 따르면, 전자 장치는, 다수의 각도들 각각에 대응되는 다수의 필터들을 이용하여 픽셀들의 방향성을 추정하고, 인접한 픽셀들의 방향성을 이용하여 상기 픽셀들의 방향성을 보정하고, 인접한 픽셀들의 방향성 분포에 따라 방향성 추정의 오류 여부를 판단하고, 상기 방향성 추정의 오류가 존재하는 경우, 상기 방향성 추정의 오류를 정정하는 프로세서를 포함한다.
본 발명은 다양한 영상환경에서도 안정적으로 방향성을 추정하고, 추정된 방향성을 기반으로 영상을 보간하는 디지털 줌에 관한 것이다. 본 발명의 실시 예에 따른 알고리듬은 일반적인 4 방향 또는 8 방향이 아닌 0°내지 180°의 범위에서 세밀하게 경계의 방향을 추정함으로써, 방향적응적 영상 보간 알고리듬의 성능을 향상시킨다. 또한, 본 발명의 실시 예는 기존의 연산량이 많지 아니한 바이리니어(bilinear), 바이큐빅(bicubic) 기반의 보간 알고리듬을 수정한 경계 방향에 적응적인 보간 알고리듬을 제안함으로써, 하드웨어 성능상 제한이 있는 장치, 예를 들어, 휴대 장치에서도 적용될 수 있다. 이를 통해, 종래의 디지털 줌에서 발생하던 계단 현상이 크게 개선될 수 있으며, 줌 배율이 커짐에 따라 성능 개선의 효과가 커진다.
도 1은 본 발명의 실시 예에 따른 디지털 줌 기법을 개략적으로 도시하는 도면,
도 2는 본 발명의 실시 예에 따른 다양한 방향성을 갖는 조절 가능한(steerable) 필터들의 예를 도시하는 도면,
도 3은 본 발명의 실시 예에 따른 조절 가능한(steerable) 필터를 이용한 방향성 판별 알고리듬을 도시하는 도면,
도 4는 본 발명의 실시 예에 따른 방향성 판별 결과의 범위를 나타내는 도면,
도 5는 본 발명의 실시 예에 따른 방향성 스무딩 결과를 나타내는 도시하는 도면,
도 6은 본 발명의 실시 예에 따른 방향성 판별 결과에서 급격하게 변화하는 방향성의 예를 도시하는 도면,
도 7은 본 발명의 실시 예에 따른 방향성 오류가 없는 추정 결과의 예를 도시하는 도면,
도 8은 본 발명의 실시 예에 따른 방향적응적 영상 보간 알고리듬을 도시하는 도면,
도 9는 본 발명의 실시 예에 따른 전자 장치의 동작 절차를 도시하는 도면,
도 10은 본 발명의 실시 예에 따른 전자 장치의 블록 구성을 도시하는 도면,
도 2는 본 발명의 실시 예에 따른 다양한 방향성을 갖는 조절 가능한(steerable) 필터들의 예를 도시하는 도면,
도 3은 본 발명의 실시 예에 따른 조절 가능한(steerable) 필터를 이용한 방향성 판별 알고리듬을 도시하는 도면,
도 4는 본 발명의 실시 예에 따른 방향성 판별 결과의 범위를 나타내는 도면,
도 5는 본 발명의 실시 예에 따른 방향성 스무딩 결과를 나타내는 도시하는 도면,
도 6은 본 발명의 실시 예에 따른 방향성 판별 결과에서 급격하게 변화하는 방향성의 예를 도시하는 도면,
도 7은 본 발명의 실시 예에 따른 방향성 오류가 없는 추정 결과의 예를 도시하는 도면,
도 8은 본 발명의 실시 예에 따른 방향적응적 영상 보간 알고리듬을 도시하는 도면,
도 9는 본 발명의 실시 예에 따른 전자 장치의 동작 절차를 도시하는 도면,
도 10은 본 발명의 실시 예에 따른 전자 장치의 블록 구성을 도시하는 도면,
이하 본 발명의 바람직한 실시 예를 첨부된 도면의 참조와 함께 상세히 설명한다. 그리고, 본 발명을 설명함에 있어서, 관련된 공지기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단된 경우, 그 상세한 설명은 생략한다.
본 발명은 카메라 기능 중에서 영상을 확대하는 디지털 줌(Digital Zoom) 기능에 관한 내용이다. 이하 본 발명은 전자 장치에서 디지털 줌의 성능을 향상시키기 위한 기술, 특히, 계단 현상 및 블러(blur) 현상을 완화하기 위한 기술에 대해 설명한다.
본 발명에서, 상기 전자 장치는 휴대용 전자 장치(portable electronic device)일 수 있으며, 스마트폰(smart phone), 휴대용 단말기(portable terminal), 이동 전화(mobile phone), 이동 패드(mobile pad), 미디어 플레이어(media player), 태블릿 컴퓨터(tablet computer), 핸드헬드 컴퓨터(handheld computer) 또는 PDA(Personal Digital Assistant) 중 하나일 수 있다. 또한, 상기 전자 장치는 상술한 장치들 중 둘 이상의 기능들을 결합한 장치일 수 있다.
영상 보간 알고리듬 중에서 가장 일반적으로 많이 사용되는 바이리니어(Bilinear) 기법 및 바이큐빅(Bicubic) 기법은 간단하여, 연산량이 크지 않지만 경계(edge) 부분에서 심각한 열화를 보인다. 특히, 대각선의 경계에서 발생하는 계단 현상 문제는 확대 배율이 커질수록, 성능 열화가 심해진다. LSE(Least Square Error) 알고리듬의 경우 2차원 데이터인 영상에 효과적으로 적용함으로써, 경계 부분의 상당한 주관적인 화질의 향상을 가져온다. 그러나, 상기 LSE 알고리듬의 경우, 여전히 고주파 성분인 잡음 부분도 상당히 선명해 지는 단점이 있으며, 경계를 지나치게 강조하여 왜곡되는 현상도 존재한다. 주파수 도메인에서의 보간 알고리듬들은 계산량이 많고 메모리 요구량이 크다는 점에서 현실적으로 적용하기에 어려움이 따른다. 또한, 종래의 영상 보간 알고리듬들은 원영상과 질감이나 색감이 달라보이는 문제점이 발생하거나, 정수 배의 확대만이 가능하여 소수 배 디지털 줌이 불가능한 문제점들을 가지고 있다.
본 발명과 목적이 같은 방향적응적 영상 보간 알고리듬들은 영상의 밝기 값 비교와 같은 저차원의 방향성 추정을 이용하기 때문에 잡음이나 정확한 경계 방향성 추정이 어려운 문제점이 존재한다. 이에, 본 발명은 영상의 경계에서 방향성을 추정하고, 추정된 방향에 따라 영상 보간 알고리듬을 적응적으로 적용함으로써, 계단 현상이나 블러 현상을 완화하고자 한다.
도 1은 본 발명의 실시 예에 따른 디지털 줌 기법을 개략적으로 도시하고 있다. 상기 도 1에 도시된 바와 같이, 본 발명의 실시 예에 따른 디지털 줌은 크게 방향성 판별 단계(110) 및 방향적응적 영상 보간 단계(120)로 구성된다. 최초 영상이 입력되면, 상기 방향성 판별 단계(110)에서, 전자 장치는 픽셀별 경계의 방향성을 대략적으로 추정하고(112), 가중치를 이용한 스무딩(smoothing)을 통해 정확한 경계 각도를 추정한 후(114), 추정된 방향성의 오류(error) 유무를 판단함으로써 최종 방향성을 결정한다(116). 그리고, 상기 방향적응적 영상 보간 단계(120)에서, 전자 장치는 최종적으로 추정된 방향으로 적응적으로 영상을 보간한다. 이로 인해, 확대된 줌 영상이 출력된다. 이하 본 발명은 각 단계의 구체적인 과정을 상세히 설명한다.
먼저, 방향성 판별 단계는 다음과 같다.
카메라를 통해 입력된 영상의 방향성은 조절 가능한(steerable) 필터(filter)를 이용하여 판별된다. 전자 장치는 상기 조절 가능한(steerable) 필터에 의한 방향성을 스무딩(smoothing)함으로써 0°내지 180°의 범위 내의 상세한 각도로 경계(edge) 방향을 검출하며, 방향성 에러 수정을 통해 정확도를 높인다. 마지막으로, 상기 전자 장치는 줌 영상 크기로 방향성을 선형 보간함으로써, 방향적응적 영상 보간을 위한 경계의 방향성을 최종적으로 결정한다.
1)조절 가능한(steerable) 필터를 이용한 방향성 추정
방향성 판별을 위한 조절 가능한(steerable) 필터는 1차 미분된 2차원 가우시안 함수들의 선형 보간을 통해 구현되며, 2차원 가우시안(gaussian) 함수는 이하 <수학식 1>과 같이 표현된다.
상기 <수학식 1>에서, 상기 G()는 가우시안 함수를 의미한다.
회전 없이 x축 방향으로 1차 미분된 가우시안 함수와 90° 회전하여 미분된 가우시안 함수는 이하 <수학식 2>와 같다.
상기 <수학식 2>에서, 상기 G0는 회전 없이 x축 방향으로 1차 미분된 가우시안 함수, 상기 G90은 90° 회전하여 1차 미분된 가우시안 함수를 의미한다.
상기 <수학식 2>에 나타난 2개의 함수들을 기저 함수(basis function)들로 이용하면, 임의의 각도 θ 방향의 조절 가능한(steerable) 필터가 이하 <수학식 3>과 같이 얻어진다.
상기 <수학식 3>에서, Gθ는 각도 θ 방향의 조절 가능한(steerable) 필터, 상기 G0는 회전 없이 x축 방향으로 1차 미분된 가우시안 함수, 상기 G90은 90° 회전하여 1차 미분된 가우시안 함수를 의미한다.
입력 영상이 I라고 할 때, 가로 방향 및 세로 방향으로 필터링된 영상은 이하 <수학식 4>와 같이 표현될 수 있다.
상기 <수학식 4>에서, 상기 R0는 가로 방향으로 필터링된 영상, 상기 R90는 세로 방향으로 필터링된 영상, 상기 G0는 회전 없이 x축 방향으로 1차 미분된 가우시안 함수, 상기 G90은 90° 회전하여 1차 미분된 가우시안 함수를 의미한다.
상기 <수학식 3> 및 상기 <수학식 4>를 통해 임의의 각도를 갖는 영상에서의 값은 이하 <수학식 5>와 같이 계산된다.
상기 <수학식 5>에서, Rθ는 각도 θ 방향의 조절 가능한(steerable) 필터로 필터링된 영상, 상기 R0는 가로 방향으로 필터링된 영상, 상기 R90는 세로 방향으로 필터링된 영상을 의미한다.
본 발명의 실시에 있어서, 상술한 조절 가능한(steerable) 필터들은 미리 정의된 상태로 활용될 수 있다. 예를 들어, 본 발명의 실시 예에 따른 전자 장치는 0˚, 45˚, 90˚, 135˚ 각각의 각도를 가지는 4개의 필터들을 미리 정의하고, 방향성 추정 시 저장된 필터들을 이용할 수 있다. 반면, 본 발명의 다른 실시 예에 따라, 상기 전자 장치는 상황에 따라 최적화된 각도를 가지는 적어도 하나의 필터를 생성하고, 생성된 필터를 이용할 수 있다.
도 2는 본 발명의 실시 예에 따른 다양한 방향성을 갖는 조절 가능한(steerable) 필터들의 예를 도시하고 있다.
상기 도 2에 도시된 바와 같이, 상기 조절 가능한(steerable) 필터들은 메모리와 잡음(noise) 민감도를 고려하여 필터 크기는 5×5, 분산 σ는 1.0으로 파라미터를 선택하였다. 상기 도 2에서, (a)는 0°, (b)는 45°, (c)는 90°, (d)는 135°, (e)는 180°, (f)는 225°, (g)는 270°, (h)는 315°의 필터를 나타낸다. 경계의 방향성을 찾기 위해 0°, 45°, 90°, 135°의 각도를 갖는 4개의 필터들이 사용될 수 있다. 상기 도 2와 같은 필터들을 이용하면, 이하 도 3과 같은 과정을 통해 방향성이 판별될 수 있다.
도 3은 본 발명의 실시 예에 따른 조절 가능한(steerable) 필터를 이용한 방향성 판별 알고리듬을 도시하고 있다. 상기 도 3을 참고하면, 영상(310)이 입력되면, 전자 장치는 특정 픽셀을 중심으로 3×3 크기의 로컬 블록(local block)에 4개의 필터들 각각을 컨볼루션(convolution) 연산함으로써, 필터링(filtering)(320)을 수행한다. 이후, 상기 전자 장치는 비교(330) 과정을 통해 컨볼루션 결과 값이 가장 작은 각도를 판단하고, 가장 작은 각도를 해당 픽셀의 방향성으로 추정한다(340).
2)경계 방향 스무딩(Smoothing)
4개 방향의 조절 가능한(steerable) 필터들을 이용한 방향성 추정은 경계의 정확한 방향성을 찾기에 충분하지 아니할 수 있다. 다시 말해, 필터들을 이용한 추정의 결과는 각 필터가 나타내는 특정 각도들 중 하나로 제한된다. 또한, 잡음에 의해 잘못된 방향이 추정될 가능성도 있다. 따라서, 방향적응적 영상 보간에 문제점이 발생할 수 있다. 따라서, 본 발명의 실시 예는, 도 4에 도시된 바와 같이, 경계의 방향이 0° 내지 45°, 45° 내지 90°, 90° 내지 135°, 그리고 135° 내지 180° 중 어느 범위에 포함되는지를 판단하고, 판단된 범위의 기준이 되는 2개의 각도들에 대한 강도를 고려하여 보다 세밀하게 방향을 추정한다. 단, 정해진 4개 방향들에 대한 모든 필터링 값 Rθ가 기준값(threshold)보다 크면 해당 픽셀은 플랫(flat)한 영역으로 판단되고, 각 필터링 값 Rθ가 서로 차이가 없으면 잡음으로 간주된다. 이 경우, 전자 장치는 경계 추정을 수행하니 아니한다.
본 발명의 실시 예에 따른 전자 장치는 특정 픽셀의 추정된 경계 방향이 속한 범위의 기준이 되는 2개의 방향들에 대한 강도를 가중치로 적용하여, 0° 내지 180°의 모든 방향으로 방향성을 추정한다. 예를 들어, 상기 방향성은 하기 <수학식 6>과 같이 추정될 수 있다.
상기 <수학식 6>에서, 상기 θ*은 스무딩을 거친 세밀한 경계 방향, 상기 Rθ는 각도 θ 방향의 조절 가능한(steerable) 필터로 필터링된 영상, 상기 는 4개의 방향들 중 하나로 추정된 경계 방향을 의미한다.
도 5는 본 발명의 실시 예에 따른 방향성 스무딩 결과를 나타내는 도시하고 있다. 기존의 4방향과 제안된 방법을 이용한 방향성 추정 결과이다. 상기 도 5에서 (a)는 원영상, (b)는 4방향 추정에 의한 방향성 추정 결과, (c)는 상술한 스무딩을 거친 방향성 추정 결과를 나타낸다. 상기 (b) 및 상기 (c)에서, 추정된 각도는 음영의 정도로 표현되었다. 상기 (b) 및 상기 (c)를 비교하면, 상술한 스무딩을 거친 경우에 각도의 변화에 따라 점차적으로 변화하고 있음이 확인된다. 이를 통해, 본 발명은 더 정확한 방향성을 추정하여 영상 보간 시 발생하는 오차를 최소화할 수 있다.
3)방향성 오류 수정
방향성 추정의 또 다른 문제점은 서로 다른 경계들이 만나는 영역에서 잘못된 방향을 추정하는 것이다. 이로 인해, 본래 존재하지 아니하는 잡음이나 아티팩트(artifact)가 생성될 수 있다. 서로 다른 경계들이 만나는 영역은 방향성이 급격하게 변하는 특성을 가진다.
도 6은 본 발명의 실시 예에 따른 방향성 판별 결과에서 급격하게 변화하는 방향성의 예를 도시하고 있다. 상기 도 6의 예시와 같이, 3×3 크기의 블록(510) 내에서 3개 이상의 방향성들이 나타나는 경우, 또는, 방향이 일정하지 아니한 경우, 전자 장치는 서로 다른 경계들이 만나거나 또는 방향성을 잘못 찾은 것으로 판단하고, 방향성을 수정한다. 이로 인해, 픽셀들의 방향성이 일관성을 가지도록 수정된다. 예를 들어, 하기 <수학식 7>과 같은 조건을 만족하지 못하는 경우, 방향성 수정이 요구된다.
상기 <수학식 7>과 같은 조건을 만족하는 경우의 방향성 추정 결과는 이하 도 7에 도시된 바와 같다. 도 7은 본 발명의 실시 예에 따른 방향성 오류가 없는 추정 결과의 예를 도시하고 있다. 상기 도 7에서, (a)는 i,j 위치의 픽셀의 방향성이 0°인 경우, (b)는 i,j 위치의 픽셀의 방향성이 45°인 경우, (c)는 i,j 위치의 픽셀의 방향성이 90°인 경우, (d)는 i,j 위치의 픽셀의 방향성이 135°인 경우를 나타낸다. 즉, 상기 도 7과 같이, 3×3 크기의 블럭 내에서 중앙의 픽셀을 기준으로 일관성 있는 방향성이 추정된 경우, 오류가 없다고 판단된다. 다시 말해, 일정 크기의 블럭 내에서 중앙의 픽셀을 기준으로 상기 중앙의 픽셀의 방향성의 연장선 상에 있는 픽셀들이 동일한 방향성을 가지지 아니하면, 오류가 있다고 판단된다.
다음으로, 방향적응적 영상 보간 단계는 다음과 같다.
상기 방향적응적 영상 보간 단계에서, 전자 장치는 상술한 방향성 판별 단계에서 결정된 방향성을 이용하여 각각의 방향에 적응적으로 영상을 보간, 즉, 확대된 이미지에서 원래의 픽셀 외 다른 픽셀들의 값을 결정한다.
도 8은 본 발명의 실시 예에 따른 방향적응적 영상 보간 알고리듬을 도시하고 있다. 상기 도 8은 본래의 이미지 픽셀들(801 내지 804)로부터 보간될 픽셀(820)의 값을 결정하는 예시를 나타낸다. 상기 보간될 픽셀(820)은 확대된 이미지에서 원래의 픽셀 외 새로이 생성되는 픽셀, 즉, 확대 이미지에서 추가되는 픽셀을 의미한다. 상기 전자 장치는 보간될 픽셀(820)의 위치에 따라 본래의 픽셀(801)으로부터의 x 축 거리 t 및 y 축 거리 s를 알고 있으며, 경계의 방향의 각도 또한 알고 있다. 이에 따라, 상기 전자 장치는 보간될 픽셀(820)을 지나는 경계 방향의 각도만큼의 기울기 θ를 가지는 직선과 본래의 픽셀들(801, 802)를 연결한 x축과 평행한 선분 및 본래의 픽셀들(801, 803)를 연결한 y축과 평행한 선분의 교차점들에 임시 픽셀들(811, 812)을 설정하고, 상기 임시 픽셀들(811, 812)의 값을 결정한다. 예를 들어, 상기 임시 픽셀들(811, 812)의 값은 1차원 바이큐빅(bicubic) 알고리듬에 의해 결정될 수 있다. 이에 따라, 상기 보간될 픽셀(820)과 일직선 상에 위치하는 다수의 픽셀들의 값들이 얻어진다. 따라서, 상기 전자 장치는 상기 임시 픽셀들(811, 812)의 값들을 이용하여 최종적으로 보간될 픽셀(820)의 값을 결정한다. 예를 들어, 상기 최종적으로 보간될 픽셀(820)의 값은 선형적(linear) 보간에 의해 결정될 수 있다.
이하 본 발명은 상술한 바와 같이 방향성을 판별하고 영상을 보간하는 전자 장치의 동작 및 구성을 도면을 참고하여 상세히 설명한다.
도 9는 본 발명의 실시 예에 따른 전자 장치의 동작 절차를 도시하고 있다.
상기 도 9을 참고하면, 상기 전자 장치는 901단계에서 방향성 추정을 위한 적어도 하나의 필터들을 결정한다. 상기 필터들은 조절 가능한(steerable) 필터로서, 각 필터는 특정 각도의 방향에 대응된다. 예를 들어, 상기 필터들은 1차 미분된 2차원 가우시안 함수들의 선형 보간을 통해 구현되는 필터들일 수 있다. 예를 들어, 상기 필터는 상기 다수의 필터들은, 1차 미분된 2차원 가우시안 함수들, 대응되는 각도에 대한 사인(sine) 함수 값 및 코사인(cosine) 함수 값을 이용하여 결정된다. 본 발명의 실시 예에 따라, 상기 전자 장치는 미리 저장된 다수의 필터들을 로딩(loading)할 수 있다. 본 발명의 다른 실시 예에 따라, 상기 전자 장치는 특정 각도에 대응되는 필터들을 생성할 수 있다. 본 발명의 또 다른 실시 예에 따라, 상기 전자 장치는 미리 저장된 적어도 하나의 필터를 로딩하고, 추가적으로 특정 각도에 대응되는 적어도 하나의 필터를 생성할 수 있다. 예를 들어, 상기 필터는 상기 <수학식 1> 내지 상기 <수학식 3>과 같이 생성될 수 있다.
이어, 상기 전자 장치는 903단계로 진행하여 상기 필터들을 이용하여 픽셀별 방향성을 추정한다. 구체적으로, 상기 전자 장치는 방향성을 추정하려는 픽셀을 중심으로 필터 크기 만큼의 로컬 블록에 필터들 각각을 컨볼루션 연산한다. 다시 말해, 상기 전자 장치는 상기 로컬 블록 내의 픽셀 값들을 각 필터의 각 원소와 곱한 후, 곱셈 결과를 합산한다. 예를 들어, 필터 크기가 3×3인 경우, 상기 전자 장치는 3×3 크기의 로컬 블록 내의 9개 픽셀들 각각을 9개의 필터의 원소들 중 대응되는 위치의 원소와 곱하고, 9개의 곱셈 결과를 합산한다. 그리고, 상기 전자 장치는 최소의 컨볼루션 결과 값을 도출한 필터에 대응되는 방향을 해당 픽셀의 방향성으로 추정한다. 상술한 필터링 및 방향성 추정은 각 픽셀별로 반복된다.
상기 픽셀별 방향성을 추정한 후, 상기 전자 장치는 905단계로 진행하여 경계 방향 스무딩(smoothing)을 수행한다. 상기 경계 방향 스무딩은 상기 필터들을 통해 추정된 방향성을 보다 세밀한 각도로 보정하는 과정이다. 이를 위해, 상기 전자 장치는 상기 방향성 추정을 위해 사용된 필터들에 대응되는 각도를 기준으로 각 픽셀이 속한 범위를 판단하고, 상기 범위의 기준이 되는 2개의 방향에 대한 필터링 결과 값을 가중치로 적용하여, 해당 픽셀의 방향성을 보정한다. 예를 들어, 상기 전자 장치는 상기 <수학식 6>과 같이 방향성을 보정한다.
이어, 상기 전자 장치는 907단계로 진행하여 방향성 추정 오류를 검출하고, 오류를 수정한다. 상기 방향성 추정 오류는 이미지에서 서로 다른 경계들이 만나는 영역에서 주로 발생할 수 있다. 오류 검출을 위해, 상기 전자 장치는 일정 크기의 블록 내에서 정해진 개수 이상의 서로 다른 방향성들이 추정되었는지 판단한다. 즉, 상기 전자 장치는 인접한 픽셀들의 방향성 분포에 따라 방향성 추정의 오류 여부를 판단한다. 예를 들어, 3×3 크기의 블록 내에서 3개 이상의 서로 다른 방향성들이 나타나는 경우가 오류 상황으로 정의될 수 있다. 구체적으로, 상기 방향성 추정의 오류 여부는 상기 <수학식 7>과 같은 조건을 만족하는지 여부에 따라 판단될 수 있다. 즉, 일정 크기의 블럭 내에서 중앙의 픽셀을 기준으로 상기 중앙의 픽셀의 방향성의 연장선 상에 있는 픽셀들이 동일한 방향성을 가지지 아니하면, 상기 전자 장치는 오류 상황으로 판단한다. 방향성 추정 오류가 검출되면, 상기 전자 장치는 인접한 픽셀들의 방향성을 고려하여 해당 픽셀의 방향성을 수정한다. 즉, 상기 전자 장치는 일정 크기의 블럭 내에서 중앙의 픽셀을 기준으로 상기 중앙의 픽셀의 방향성의 연장선 상에 있는 픽셀들이 동일한 방향성을 가지도록 수정한다.
이로 인해, 픽셀들의 방향성이 일관성을 가지도록 수정된다.
이후, 상기 전자 장치는 909단계로 진행하여 각 픽셀의 방향성을 고려하여 임시 픽셀들을 설정한다. 상기 전자 장치는 확대 비율에 따라 보간될 픽셀의 위치를 계산한다. 그리고, 상기 전자 장치는 상기 보간될 픽셀을 지나며, 방향성의 각도만큼의 기울기를 가지는 직선을 결정하고, 상기 직선 및 본래의 픽셀들을 기준으로 정해지는 수평·수직 선분과의 교차점에 상기 임시 픽셀들을 설정한다. 이어, 상기 전자 장치는 본래의 픽셀들의 값을 이용하여 상기 임시 픽셀들의 값을 결정한다. 예를 들어, 상기 임시 픽셀들의 값은 1차원 바이큐빅(bicubic) 알고리듬에 의해 결정될 수 있다.
상기 임시 픽셀들을 결정한 후, 상기 전자 장치는 911단계로 진행하여 상기 임시 픽셀들을 이용하여 상기 보간될 픽셀의 값을 결정한다. 상기 보간될 픽셀은 상기 임시 픽셀들과 동일한 직선 상에 위치한다. 따라서, 상기 전자 장치는 상기 임시 픽셀들의 값에 대한 보간을 수행함으로써 상기 보간될 픽셀의 값을 결정할 수 있다. 예를 들어, 상기 보간될 픽셀의 값은 선형적(linear) 보간에 의해 결정될 수 있다.
도 10은 본 발명의 실시 예에 따른 전자 장치의 블록 구성을 도시하고 있다.
상기 전자 장치는 메모리(1010), 프로세서 유닛(processor unit)(1020), 입출력(IO : Input Output) 시스템(1040), 카메라 서브시스템(1030)을 포함한다. 상기 메모리(1010)는 다수 개로 구성될 수 있다.
상기 도 10에 도시된 상기 전자 장치의 구성요소들은 적어도 하나의 통신 버스(참조번호 미기재) 또는 스트림 선(참조번호 미기재)에 의해 결합될(coupled) 수 있다.
상기 메모리(1010)는 상기 메모리 인터페이스(1021)에 연결될 수 있다. 상기 메모리(1010)는 적어도 하나의 자기 디스크 저장 장치와 같은 고속 랜덤 액세스 메모리, 비휘발성 메모리, 적어도 하나의 광 저장 장치, 플래시 메모리(예 : NAND, NOR) 중 적어도 하나를 포함할 수 있다.
상기 메모리(1010)는 적어도 하나의 소프트웨어를 저장한다. 소프트웨어 구성요소는 운영 체제(operating system) 모듈(1011), 그래픽 모듈(1012), 사용자 인터페이스 모듈(1013), 카메라 모듈(1014), 적어도 하나의 애플리케이션 모듈(1015), 방향성추정 및 영상보간모듈(1016)을 포함한다. 상기 소프트웨어 구성요소인 모듈은 명령어들의 집합으로 표현할 수 있고, 상기 모듈은 '명령어 세트(instruction set)' 또는 '프로그램'으로 지칭될 수 있다. 본 발명의 실시 예에 따른 방법을 수행하는 명령어들은 포함하는 적어도 하나의 모듈들이 상기 메모리(1010)에 저장될 수 있다. 상기 메모리(1010)는 상술한 모듈들(1011 내지 816) 외에 추가적인 모듈을 포함할 수 있다. 또는, 본 발명의 다른 실시 예에 따라, 상술한 모듈들(1011 내지 816) 중 일부가 배제될 수 있다.
상기 운영 체제 모듈(1011)는 일반적인 시스템 작동(system operation)을 제어하는 적어도 하나의 소프트웨어 구성요소를 포함한다. 예를 들어, 상기 일반적인 시스템 작동의 제어는 메모리 관리 및 제어, 저장 하드웨어 제어 및 관리, 전력 제어 및 관리 등을 포함한다. 상기 운영 체제 모듈(1011)은 적어도 하나의 하드웨어 및 적어도 하나의 소프트웨어 구성요소 간 통신을 원활하게 하는 기능을 수행한다. 상기 그래픽 모듈(1012)은 상기 터치스크린(1043) 상에 그래픽을 제공하고 표시하기 위한 적어도 하나의 소프트웨어 구성요소를 포함한다. 여기서, 그래픽은 텍스트(text), 웹 페이지(web page), 아이콘(icon), 디지털 이미지(digital image), 비디오(video), 애니메이션(animation) 등을 포함하는 의미이다. 상기 사용자 인터페이스 모듈(1013)은 사용자 인터페이스에 관한 적어도 하나의 소프트웨어 구성요소를 포함한다. 상기 사용자 인터페이스에 관한 사항은 상기 사용자 인터페이스의 상태가 어떻게 변경되는지 또는 사용자 인터페이스 상태의 변경이 어떤 조건에서 이루어지는지 등에 대한 내용을 포함한다. 상기 카메라 모듈(1014)은 카메라 관련 프로세스 및 기능들을 수행하기 위한 적어도 하나의 소프트웨어 구성요소를 포함한다. 상기 애플리케이션 모듈(1015)은 적어도 하나의 응용 프로그램을 포함한다. 상기 방향성추정 및 영상보간 모듈(1016)은 본 발명의 실시 예에 따라 방향성을 추정하고, 확대된 이미지의 보간될 픽셀 값을 결정하는 적어도 하나의 명령어를 포함한다. 예를 들어, 상기 방향성추정 및 영상보간 모듈(1016)은 상기 도 9과 같은 절차를 수행하기 위한 적어도 하나의 명령어를 포함할 수 있다. 또한, 상기 메모리(1010)는 본 발명의 실시 예에 따른 방향성 추정을 위한 다수의 필터들을 저장할 수 있다.
상기 프로세서 유닛(1020)은 메모리 인터페이스(1021), 프로세서(1022) 및 주변장치 인터페이스(peripheral interface)(1023)를 포함할 수 있다. 상기 프로세서(1022)는 적어도 하나의 하드웨어 칩(chip)을 포함할 수 있다. 경우에 따라, 상기 프로세서 유닛(1020) 전체가 '프로세서'로 지칭될 수 있다. 상기 메모리 인터페이스(1021), 상기 프로세서(1022), 상기 주변장치 인터페이스(1023) 각각은 별개의 구성요소이거나, 또는, 적어도 하나의 집적화된 회로에 포함될 수 있다.
상기 프로세서(1022)는 소프트웨어 프로그램을 실행함으로써 상기 전자 장치가 상기 소프트웨어 프로그램에 대응하는 기능을 수행하게 하며, 음성 통신 및 데이터 통신을 위한 처리 및 제어를 수행한다. 또한, 상기 프로세서(1022)는 상기 메모리(1010)에 저장되어 있는 소프트웨어 모듈을 실행함으로써 해당 모듈에 대응하는 특정한 기능을 수행한다. 상기 소프트웨어 모듈은 '명령어 세트(instruction set)'이라 지칭될 수 있다. 즉, 상기 프로세서(1022)는 상기 메모리(1010)에 저장된 소프트웨어 모듈들과 연동하여 본 발명의 실시 예에 따른 방법을 수행한다. 상기 프로세서(1022)는 적어도 하나의 데이터 프로세서, 이미지 프로세서를 포함할 수 있다. 상기 데이터 프로세서, 상기 이미지 프로세서는 별도의 하드웨어로 구성될 수 있다. 또한, 상기 프로세서(1022)는 서로 다른 기능을 수행하는 다수의 프로세서들로 구성될 수 있다.
상기 주변 장치 인터페이스(1023)는 상기 전자 장치의 상기 입출력 서브시스템(1040) 및 적어도 하나의 주변 장치를 상기 프로세서(1021) 및 상기 메모리(1010)에 연결시킨다. 상기 메모리(1010)는 상기 메모리 인터페이스(1021)를 통해 연결될 수 있다. 즉, 상기 메모리 인터페이스(1021)는 상기 메모리(1010)에 접근하기 위한 인터페이스를 제공한다.
상기 카메라 서브시스템(1030)은 사진 촬영, 비디오 레코딩 등의 기능을 수행할 수 있다. 상기 카메라 서브시스템(1030)은 광 센서, 렌즈 등을 포함할 수 있다. 즉, 상기 카메라 서브시스템(1030)은 렌즈를 통해 입력되는 빛을 상기 광 센서로 인식하고, 상기 광 센서에서 인식된 이미지를 디지털 데이터화한다.
상기 입출력 서브시스템(1040)은 터치스크린 제어기(1041), 기타 입력 제어기(1042), 터치스크린(1043), 기타 입력/제어 장치(1044)를 포함할 수 있다.
상기 터치스크린 제어기(1041)는 상기 터치스크린(1043)에 결합될 수 있다. 상기 터치스크린(1043) 및 상기 터치스크린 제어기(1041)는, 이에 한정되지 아니하나, 상기 터치스크린(1043) 상에서의 적어도 하나의 접촉점을 결정하기 위한 용량성, 저항성, 적외선 및 표면 음향파 기술들 뿐만 아니라 기타 근접 센서 배열 또는 기타 요소들을 포함하는 멀티 터치(multi-touch) 감지 기술을 이용하여 접촉, 움직임, 상기 접촉 또는 상기 움직임의 중단을 검출할 수 있다.
상기 기타 입력 제어기(1042)는 상기 기타 입력/제어 장치(1044)에 결합될 수 있다. 상기 기타 입력/제어 장치(1044)에 적어도 하나의 볼륨(volumn) 제어를 위한 업/다운(up/down) 버튼이 포함될 수 있다. 또한, 상기 버튼은 푸시 버튼(push button) 또는 로커 버튼(rocker button), 로커(rocker) 스위치, 썸-휠(thumb-wheel), 다이얼(dial), 스틱(stick), 스타일러스(stylus)와 같은 포인터 장치 등의 형태를 가질 수 있다.
상기 터치스크린(1043)은 상기 전자 장치와 사용자 사이에 입력/출력 인터페이스를 제공한다. 즉, 상기 터치스크린(1043)은 사용자의 터치 입력을 상기 전자 장치에 전달한다. 또한, 상기 터치스크린(1043)은 상기 전자 장치로부터의 출력을 사용자에게 보여주는 매개체이다. 즉, 상기 터치스크린(1043)은 사용자에게 시각적 출력을 보여준다. 상기 시각적 출력(visual output)은 텍스트(text), 그래픽(graphic), 비디오(video), 이들의 조합의 형태로 표현된다.
상기 터치스크린(1043)을 위해 다양한 디스플레이 수단이 사용될 수 있다. 예를 들면, 이에 한정되지 아니하나, 상기 터치스크린(1043)은 LCD(liquid crystal display), LED(Light Emitting Diode), LPD(light emitting polymer display), OLED(Organic Light Emitting Diode), AMOLED(Active Matrix Organic Light Emitting Diode), FLED(Flexible LED) 중 적어도 하나를 포함할 수 있다.
상기 도 10에 도시되지 아니하였으나, 상기 전자 장치는 스피커 및 마이크로폰을 포함하는 오디오 서브시스템, 상기 전자 장치를 다른 전자 장치와 직접 연결하거나, 네트워크를 통해 다른 전자 장치와 간접적으로 연결하기 위한 물리적 연결 수단인 외부 포트, 가속도 센서, 자이로(gyro) 센서, 광(optical) 센서, 지자기 센서, 중력 센서(G-sensor), 온도 센서, 생체 센서, 위치 센서 중 적어도 하나를 포함하며, 외부 자극을 검출하는 센싱 서브시스템, 무선 통신을 위한 인터페이스를 제공하는 무선통신 서브시스템을 더 포함할 수 있다.
상기 도 10을 참고하여 설명한 본 발명의 실시 예에 따른 상기 전자 장치의 구성에서, 본 발명의 실시 예에 따른 방향성 판별 및 방향적응적 영상 보간은 상기 메모리(1010)에 저장된 방항성추정 및 영상보간 모듈(1016)의 실행에 의해 수행된다. 그러나, 본 발명의 다른 실시 예에 따라, 본 발명의 실시 예에 따른 방향성 판별 및 방향적응적 영상 보간은 하드웨어 구성요소로 구현될 수 있다. 예를 들어, 상기 도 9을 참고하여 설명한 바와 같은 방향성 판별 및 방향적응적 영상 보간은 상기 카메라 서브시스템(1030)에 연결된 별도의 프로세서에 의해 수행되거나, 또는, 상기 프로세서 유닛(1020) 내에 포함된 특정 프로세서에 의해 수행될 수 있다. 이 경우, 상기 별도의 프로세서 또는 상기 특정 프로세서는 ISP(Image Signal Processor)로 지칭될 수 있다.
본 발명의 청구항 및/또는 명세서에 기재된 실시 예들에 따른 방법들은 하드웨어, 소프트웨어, 또는 하드웨어와 소프트웨어의 조합의 형태로 구현될(implemented) 수 있다.
소프트웨어로 구현하는 경우, 하나 이상의 프로그램(소프트웨어 모듈)을 저장하는 컴퓨터 판독 가능 저장 매체가 제공될 수 있다. 컴퓨터 판독 가능 저장 매체에 저장되는 하나 이상의 프로그램은, 전자 장치(device) 내의 하나 이상의 프로세서에 의해 실행 가능하도록 구성된다(configured for execution). 하나 이상의 프로그램은, 전자 장치로 하여금, 본 발명의 청구항 및/또는 명세서에 기재된 실시 예들에 따른 방법들을 실행하게 하는 명령어(instructions)를 포함한다.
이러한 프로그램(소프트웨어 모듈, 소프트웨어)은 랜덤 액세스 메모리 (random access memory), 플래시(flash) 메모리를 포함하는 불휘발성(non-volatile) 메모리, 롬(ROM, Read Only Memory), 전기적 삭제가능 프로그램가능 롬(EEPROM, Electrically Erasable Programmable Read Only Memory), 자기 디스크 저장 장치(magnetic disc storage device), 컴팩트 디스크 롬(CD-ROM, Compact Disc-ROM), 디지털 다목적 디스크(DVDs, Digital Versatile Discs) 또는 다른 형태의 광학 저장 장치, 마그네틱 카세트(magnetic cassette)에 저장될 수 있다. 또는, 이들의 일부 또는 전부의 조합으로 구성된 메모리에 저장될 수 있다. 또한, 각각의 구성 메모리는 다수 개 포함될 수도 있다.
또한, 상기 프로그램은 인터넷(Internet), 인트라넷(Intranet), LAN(Local Area Network), WLAN(Wide LAN), 또는 SAN(Storage Area Network)과 같은 통신 네트워크, 또는 이들의 조합으로 구성된 통신 네트워크를 통하여 접근(access)할 수 있는 부착 가능한(attachable) 저장 장치(storage device)에 저장될 수 있다. 이러한 저장 장치는 외부 포트를 통하여 본 발명의 실시 예를 수행하는 장치에 접속할 수 있다. 또한, 통신 네트워크상의 별도의 저장장치가 본 발명의 실시 예를 수행하는 장치에 접속할 수도 있다.
한편 본 발명의 상세한 설명에서는 구체적인 실시 예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시 예에 국한되어 정해져서는 아니 되며 후술하는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 한다.
Claims (28)
- 전자 장치의 동작 방법에 있어서,
다수의 각도들 각각에 대응되는 다수의 필터들을 이용하여 픽셀들의 방향성들을 추정하는 과정과,
상기 픽셀들 중 어느 하나인 제 1 픽셀과 상기 제 1 픽셀에 인접하고 상기 제 1 픽셀의 제 1 방향성의 연장선 상에 배치되는 적어도 하나의 제 2 픽셀을 포함하는 블록에서, 상기 제 1 방향성과 상기 제 2 픽셀의 제 2 방향성이 상이하면, 상기 방향성들에 오류가 있다고 판단하는 과정과,
상기 방향성들을 정정하는 과정을 포함하는 방법.
- 제1항에 있어서,
상기 다수의 필터들은, 1차 미분된 2차원 가우시안 함수들, 대응되는 각도에 대한 사인(sine) 함수 값 및 코사인(cosine) 함수 값을 이용하여 결정되는 방법.
- 제1항에 있어서,
상기 방향성들을 추정하는 과정은,
상기 다수의 필터들에 대응되는 각도들을 기준으로, 상기 방향성들 각각에 대하여, 다수개의 각도 범위들 중에서 어느 하나를 판단하는 과정과,
상기 판단된 각도 범위의 기준이 되는 두 개의 각도들에 대한 가중치를 이용하여, 상기 방향성들을 각각 보정하는 과정을 포함하는 방법.
- 제1항에 있어서,
상기 블록 내에서 정해진 개수 이상의 서로 다른 방향성들이 추정되면, 상기 블록 내에서 상기 제 1 방향성과 제 2 방향성이 상이한지 여부를 판단하는 과정을 더 포함하는 방법.
- 삭제
- 제1항에 있어서,
상기 픽셀들 중에서, 보간될 픽셀의 방향성을 고려하여 임시 픽셀들을 설정하는 과정과,
상기 임시 픽셀들을 이용하여 상기 보간될 픽셀의 값을 결정하는 과정을 더 포함하는 것을 특징으로 하는 방법.
- 제6항에 있어서,
상기 임시 픽셀들을 설정하는 과정은,
상기 보간될 픽셀을 지나며 상기 보간될 픽셀의 방향성의 각도만큼의 기울기를 가지는 직선 및 본래의 픽셀들을 기준으로 정해지는 수평·수직 선분과의 교차점에 상기 임시 픽셀들을 설정하는 과정과,
상기 본래의 픽셀들의 값을 이용하여 상기 임시 픽셀들의 값을 결정하는 과정을 포함하는 방법.
- 제7항에 있어서,
상기 임시 픽셀들의 값은, 1차원 바이큐빅(bicubic) 알고리듬에 의해 결정되는 방법.
- 제7항에 있어서,
상기 보간될 픽셀의 값은, 선형적(linear) 보간에 의해 결정되는 방법.
- 적어도 하나의 소프트웨어 모듈을 저장하는 메모리부와,
상기 적어도 하나의 소프트웨어 모듈을 실행하는 프로세서를 포함하며,
상기 적어도 하나의 소프트웨어 모듈은,
다수의 각도들 각각에 대응되는 다수의 필터들을 이용하여 픽셀들의 방향성들을 추정하고,
상기 픽셀들 중 어느 하나인 제 1 픽셀과 상기 제 1 픽셀에 인접하고 상기 제 1 픽셀의 제 1 방향성의 연장선 상에 배치되는 적어도 하나의 제 2 픽셀을 포함하는 블록에서, 상기 제 1 방향성과 상기 제 2 픽셀의 제 2 방향성이 상이하면, 상기 방향성들에 오류가 있다고 판단하고,
상기 방향성들을 정정하기 위한 적어도 하나의 명령어를 포함하는 전자 장치.
- 제10항에 있어서,
상기 다수의 필터들은, 1차 미분된 2차원 가우시안 함수들, 대응되는 각도에 대한 사인(sine) 함수 값 및 코사인(cosine) 함수 값을 이용하여 결정되는 전자 장치.
- 제10항에 있어서,
상기 적어도 하나의 소프트웨어 모듈은,
상기 다수의 필터들에 대응되는 각도들을 기준으로, 상기 방향성들 각각에 대하여, 다수개의 각도 범위들 중에서 어느 하나를 판단하고,
상기 판단된 각도 범위의 기준이 되는 두 개의 각도들에 대한 가중치를 이용하여, 상기 방향성들을 각각 보정하는 적어도 하나의 명령어를 포함하는 전자 장치.
- 제10항에 있어서,
상기 블록 내에서 정해진 개수 이상의 서로 다른 방향성들이 추정되면, 상기 블록 내에서 상기 제 1 방향성과 제 2 방향성이 상이한지 여부를 판단하는 적어도 하나의 명령어를 포함하는 전자 장치.
- 삭제
- 제10항에 있어서,
상기 적어도 하나의 소프트웨어 모듈은,
상기 픽셀들 중에서, 보간될 픽셀의 방향성을 고려하여 임시 픽셀들을 설정하고, 상기 임시 픽셀들을 이용하여 상기 보간될 픽셀의 값을 결정하는 적어도 하나의 명령어를 더 포함하는 것을 특징으로 하는 전자 장치.
- 제15항에 있어서,
상기 적어도 하나의 소프트웨어 모듈은,
상기 보간될 픽셀을 지나며 상기 보간될 픽셀의 방향성의 각도만큼의 기울기를 가지는 직선 및 본래의 픽셀들을 기준으로 정해지는 수평·수직 선분과의 교차점에 상기 임시 픽셀들을 설정하고, 상기 본래의 픽셀들의 값을 이용하여 상기 임시 픽셀들의 값을 결정하는 적어도 하나의 명령어를 포함하는 전자 장치.
- 제16항에 있어서,
상기 임시 픽셀들의 값은, 1차원 바이큐빅(bicubic) 알고리듬에 의해 결정되는 전자 장치.
- 제16항에 있어서,
상기 보간될 픽셀의 값은, 선형적(linear) 보간에 의해 결정되는 전자 장치.
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
- 전자 장치에 의해 실행될 경우, 상기 장치로 하여금 제1항의 방법을 수행하도록 하는 명령어들을 포함하는 하나 이상의 프로그램을 저장한 컴퓨터 판독 가능 저장 매체.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020120074959A KR101937163B1 (ko) | 2012-07-10 | 2012-07-10 | 방향 적응적 영상 보간 방법 및 그 전자 장치 |
US13/930,410 US9235877B2 (en) | 2012-07-10 | 2013-06-28 | Method for directional adaptive image interpolation and an electronic device thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020120074959A KR101937163B1 (ko) | 2012-07-10 | 2012-07-10 | 방향 적응적 영상 보간 방법 및 그 전자 장치 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20140008041A KR20140008041A (ko) | 2014-01-21 |
KR101937163B1 true KR101937163B1 (ko) | 2019-04-09 |
Family
ID=49914048
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020120074959A KR101937163B1 (ko) | 2012-07-10 | 2012-07-10 | 방향 적응적 영상 보간 방법 및 그 전자 장치 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9235877B2 (ko) |
KR (1) | KR101937163B1 (ko) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104915923A (zh) * | 2014-03-11 | 2015-09-16 | 南京巨鲨显示科技有限公司 | 不同分辨率图像自适应缩放方法 |
CN105447815A (zh) * | 2014-06-16 | 2016-03-30 | 阿里巴巴集团控股有限公司 | 移动终端设备中图片的处理方法及装置 |
KR101716561B1 (ko) | 2015-01-27 | 2017-03-14 | 금오공과대학교 산학협력단 | 화소 삽입을 이용한 적응적 영상보간방법 |
WO2019009506A1 (ko) * | 2017-07-04 | 2019-01-10 | 엘지전자 주식회사 | 영상 코딩 시스템에서 인트라 예측에 따른 영상 디코딩 방법 및 장치 |
CN110210409B (zh) * | 2019-06-04 | 2021-04-20 | 南昌市微轲联信息技术有限公司 | 表格单据中表格框线检测方法及系统 |
KR20200140607A (ko) | 2019-06-07 | 2020-12-16 | 삼성전자주식회사 | 디스플레이를 포함하는 전자 장치 및 상기 전자 장치가 표시하는 영상을 보정하는 방법 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001111835A (ja) | 1999-10-05 | 2001-04-20 | Toshiba Corp | 画像処理装置およびx線診断装置 |
JP2011028640A (ja) * | 2009-07-28 | 2011-02-10 | Canon Inc | 解像度変換装置および解像度変換方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5115361B2 (ja) * | 2008-06-27 | 2013-01-09 | 富士通株式会社 | 画素補間装置、画素補間方法および画素補間プログラム |
KR100953328B1 (ko) | 2008-08-28 | 2010-04-20 | 한양대학교 산학협력단 | 에지 가중치 영상 보간 장치 및 방법 |
KR100986607B1 (ko) * | 2008-10-23 | 2010-10-11 | 중앙대학교 산학협력단 | 영상 보간 방법 및 그 방법이 기록된 컴퓨터로 읽을 수 있는 기록매체 |
-
2012
- 2012-07-10 KR KR1020120074959A patent/KR101937163B1/ko active IP Right Grant
-
2013
- 2013-06-28 US US13/930,410 patent/US9235877B2/en not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001111835A (ja) | 1999-10-05 | 2001-04-20 | Toshiba Corp | 画像処理装置およびx線診断装置 |
JP2011028640A (ja) * | 2009-07-28 | 2011-02-10 | Canon Inc | 解像度変換装置および解像度変換方法 |
Non-Patent Citations (1)
Title |
---|
W.T. Freeman ET AL:"The design and use of steerable filters", IEEE Transactions on Pattern Analysis and Machine Intelligence, Volume: 13, Issue: 9, Sept. 1991(1991.09.19.)* |
Also Published As
Publication number | Publication date |
---|---|
US20140016878A1 (en) | 2014-01-16 |
US9235877B2 (en) | 2016-01-12 |
KR20140008041A (ko) | 2014-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101937163B1 (ko) | 방향 적응적 영상 보간 방법 및 그 전자 장치 | |
US11481096B2 (en) | Gesture mapping for image filter input parameters | |
CN105989130B (zh) | 电子地图展示方法、装置及电子设备 | |
US20110202834A1 (en) | Visual motion feedback for user interface | |
EP2703977A2 (en) | Method and apparatus for controlling image display in an electronic device | |
US9443291B2 (en) | Methods for lens calibration and image restoration | |
JP6249652B2 (ja) | タッチ機能制御方法及びその電子装置 | |
JP2011129114A (ja) | 検出装置、検出方法、検出プログラム、および記録媒体 | |
EP3109749B1 (en) | Crop frame adjusting method, image processing device, and non-transitory computer readable storage medium | |
WO2013179560A1 (ja) | 画像処理装置および画像処理方法 | |
WO2017059734A1 (zh) | 一种图片缩放方法及电子设备 | |
CN111742558A (zh) | 电子设备、图像处理方法和计算机可读记录介质 | |
WO2014131276A1 (zh) | 一种网页显示方法及装置 | |
JP5154361B2 (ja) | 撮像装置及び撮像装置の制御方法 | |
WO2013089261A1 (ja) | 画像処理システム及び画像処理方法 | |
CN109325909B (zh) | 一种图像放大方法和图像放大装置 | |
KR101836238B1 (ko) | 다운 스케일링과 비용함수를 이용한 이미지 연결선 추정방법 | |
US20150281585A1 (en) | Apparatus Responsive To At Least Zoom-In User Input, A Method And A Computer Program | |
JP5804818B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
CN106354381A (zh) | 图像文件的处理方法及装置 | |
CN109085978B (zh) | 视图显示方法、存储介质及移动终端 | |
CN112073642A (zh) | 多摄像头设备的视频录制方法及装置、存储介质、终端 | |
JP2010263441A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US9781353B2 (en) | Image processing apparatus, electronic apparatus, and image processing method | |
JP2017204718A (ja) | 撮像装置およびそのズーム制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right |