WO2014014135A1 - 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체 - Google Patents

촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체 Download PDF

Info

Publication number
WO2014014135A1
WO2014014135A1 PCT/KR2012/005693 KR2012005693W WO2014014135A1 WO 2014014135 A1 WO2014014135 A1 WO 2014014135A1 KR 2012005693 W KR2012005693 W KR 2012005693W WO 2014014135 A1 WO2014014135 A1 WO 2014014135A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
refocusing
photographed image
distance information
output
Prior art date
Application number
PCT/KR2012/005693
Other languages
English (en)
French (fr)
Inventor
이지현
이강희
Original Assignee
인텔 코오퍼레이션
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 인텔 코오퍼레이션 filed Critical 인텔 코오퍼레이션
Priority to PCT/KR2012/005693 priority Critical patent/WO2014014135A1/ko
Priority to US13/976,355 priority patent/US9171357B2/en
Publication of WO2014014135A1 publication Critical patent/WO2014014135A1/ko

Links

Images

Classifications

    • G06T5/73
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/536Depth or shape recovery from perspective effects, e.g. by using vanishing points
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)

Abstract

본 발명은 거리 정보를 이용한 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다. 본 발명의 일 태양에 따르면, (a) 촬영된 이미지를 디스플레이부에 출력하는 단계, (b) 상기 출력된 촬영된 이미지에 대해 리포커싱 영역이 지정되었는지를 판단하는 단계, (c) 상기 리포커싱 영역이 지정된 경우, 상기 출력된 촬영된 이미지의 거리 정보를 계산하는 단계, (d) 상기 계산된 거리 정보에 기초하여 상기 지정된 리포커싱 영역에 대해서는 선명하게 처리하고 상기 지정된 리포커싱 영역 이외의 영역에 대해서는 흐릿하게 처리하여 리포커싱 이미지를 획득하는 단계, 및 (e) 상기 리포커싱된 이미지를 상기 디스플레이부에 출력하는 단계를 구비하는 리포커싱 방법이 제공된다. 본 발명에 따르면, 카메라를 이용하여 촬영된 이미지의 포커스가 맞지 않거나, 촬영된 이미지의 다른 영역을 포커싱하고자 하는 경우에, 촬영된 이미지의 리포커싱을 원하는 영역을 지정하여 리포커싱된 이미지를 발생할 수 있다.

Description

촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체
본 발명은 카메라와 같은 촬상 소자를 이용하여 촬영된 이미지의 포커스가 맞지 않거나, 이미 촬영된 이미지를 대상으로 해당 촬영된 이미지의 다른 영역 또는 다른 객체를 포커싱하고자 하는 경우에, 특정 영역을 지정하면, 촬영된 이미지의 거리 정보(depth map)를 획득하고, 거리 정보에 기초하여 특정 영역을 선명하게 하고, 특정 영역을 제외한 부분은 흐릿하게 하여 원하는대로 리포커싱 된 촬영 이미지를 획득할 수 있는 거리 정보를 이용한 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체에 관한 것이다.
휴대용 단말기가 소형 경박화됨에 따라 휴대의 편리성이 증가되어 휴대용 단말기의 수요가 점차 증가하고 있다. 이에 따라, 휴대용 단말기에 탑재되는 부가 기능도 다양화되고 있다.
특히, 부가 기능으로 제공되는 디지털 카메라 기능은 최근 들어 사용자들에게 필수 구성 요소로 인식됨에 따라 대부분의 휴대용 단말기에서 제공되고 있는 추세이다.
휴대용 단말기에 채용되는 디지털 카메라는 기본적으로 화면의 중심에 포커스가 맞춰져 있으나, 다른 위치로 포커스를 조정하는 것이 가능하다. 즉, 디지털 카메라에 의해서 객체를 촬영할 때 포커스를 다양하게 조절하여 촬영하는 것은 가능하다. 예를 들면, 아이폰 또는 아이패드 제품에서는 이 기능을 제공하고 있다.
그러나, 휴대용 단말기에 채용되는 디지털 카메라는 이미 촬영된 이미지의 포커스가 맞지 않는 경우 이미 촬영된 이미지의 다른 영역을 포커싱하여 원하는 이미지를 얻는 것은 불가능하다.
휴대폰 단말기에 대한 소비자의 요구가 다양해지고 있으며, 따라서, 촬영된 이미지의 선택된 영역을 리포커싱(refocusing)하여 원하는 이미지를 얻는 기술을 개발할 필요가 있게 되었다.
종래의 리포커싱 기술은 웹 사이트 주소 http://www.cs.columbia.edu/CAVE/projects/active_refocus/에 공개된 것으로, 이 사이트에는 Francesc Moreno-Noguer 외 2인에 의해서 “Active Refocusing of Images and Videos”라는 명칭으로 공개된 기술로, 이 기술은 점 패턴(dot pattern)을 얻기 위하여 하프-미러(half-mirror)를 사용하는 카메라와 함께 결합하여 위치되는 프로젝터(projector)를 사용하며, 돌출된 점들(dots)에 대응하는 거리들(depths) 및 칼라 세그멘테이션(color segmentation)이 거리 정보(depth map)를 계산하기 위하여 사용되고, 거리 정보가 점들이 제거된 후에 획득된 이미지를 리포커싱하기 위하여 사용된다.
그러나, 이 리포커싱 기술은 거리 정보를 계산하기 위하여 필요한 점 패턴(dot pattern)을 얻기 위하여 프로젝터(projector)를 사용해야 한다는 문제점이 있다.
따라서, 본 발명은 상술한 종래 기술의 문제점을 모두 해결하는 것을 목적으로 한다.
본 발명은 촬영된 이미지의 리포커싱을 원하는 영역이 설정되면, 촬영된 이미지의 거리 정보를 얻고, 거리 정보를 이용하여 설정된 영역의 이미지를 선명하게 하고 설정되지 않은 영역의 이미지는 흐릿하게 표현하여 리포커싱된 이미지를 발생할 수 있는 것을 다른 목적으로 한다.
상기한 바와 같은 본 발명의 목적을 달성하고, 후술하는 본 발명의 특징적인 효과를 실현하기 위한, 본 발명의 특징적인 구성은 하기와 같다.
본 발명의 일 태양에 따르면, a) 촬영된 이미지를 디스플레이부에 출력하는 단계; b) 상기 출력된 이미지에 대해서 리포커싱 영역이 지정되었는지 판단하는 단계; c) 상기 리포커싱 영역이 지정된 경우, 상기 출력된 이미지의 거리 정보를 계산하는 단계; d) 상기 계산된 거리 정보에 기초하여 상기 지정된 리포커싱 영역에 대해서는 해상도를 증가시키고, 상기 지정된 리포커싱 영역 이외의 영역에 대해서는 해상도를 감소시켜서 리포커싱 이미지를 획득하는 단계; 및 e) 상기 리포커싱된 이미지를 상기 디스플레이부에 출력하는 단계를 구비하는 리포커싱 방법이 제공된다.
본 발명의 다른 태양에 따르면, 객체를 촬영하여 촬영된 이미지를 생성하는 카메라; 상기 촬영된 이미지를 출력하고, 상기 출력된 이미지의 리포커싱 영역을 지정할 수 있는 디스플레이부; 상기 촬영된 이미지, 리포커싱된 이미지, 및 리포커싱 어플리케이션을 저장하는 저장부; 및 상기 리포커싱 어플리케이션을 실행하여 리포커싱 기능이 선택되고, 상기 촬영된 이미지가 선택되면, 상기 디스플레이부에 상기 촬영된 이미지를 출력하고, 상기 출력된 촬영된 이미지의 상기 리포커싱 영역이 지정되면, 상기 출력된 촬영된 이미지의 거리 정보를 계산하고, 상기 계산된 거리 정보에 기초하여 상기 지정된 리포커싱 영역에 대해서는 해상도를 증가시키고 상기 지정된 리포커싱 영역 이외의 영역에 대해서는 해상도를 감소시켜서 리포커싱 이미지를 획득하고, 상기 리포커싱된 이미지를 상기 디스플레이부에 출력하도록 제어하는 제어부를 구비하는 리포커싱 장치를 제공한다.
본 발명에 따르면, 카메라를 이용하여 촬영된 이미지의 포커스가 맞지 않거나 해당 촬영된 이미지의 다른 영역을 포커싱하고자 하는 경우에, 이미 촬영된 이미지의 영역을 지정하여 리포커싱된 이미지를 간편하게 생성할 수 있다.
도 1은 본 발명의 일 실시예에 따른 리포커싱 장치의 구성을 보이는 블록도.
도 2는 본 발명의 일 실시예에 따른 리포커싱 방법을 설명하기 위한 동작 흐름도.
도 3은 본 발명의 일 실시예에 따른, 촬영된 이미지로부터 거리 정보 이미지를 획득하는 방법을 설명하기 위한 동작 흐름도.
도 4 내지 7은 본 발명의 일 실시예에 따른, 촬영된 이미지 및 리포커싱 이미지를 보이는 예시도.
후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 본 발명의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 본 발명의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다.
이하, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 바람직한 실시예들에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.
도 1은 본 발명의 일 실시예에 따른 리포커싱 장치의 구성을 보이는 블록도이다. 리포커싱 장치(100)는 디스플레이부(10), 카메라(12), 저장부(14) 및 제어부(16)를 포함할 수 있다.
도 1에 나타낸 블록들 각각의 기능을 설명하면 다음과 같다.
디스플레이부(10)는 사용자가 화면을 터치함에 의해서 데이터를 입력할 수 있는 터치 센서가 부착될 수 있으며, 촬영된 이미지를 출력할 수 있고, 사용자에 의해서 출력된 기촬영된 이미지의 리포커싱을 원하는 영역이 터치 센서에 의해서 지정되면, 리포커싱된 이미지를 출력하는 기능을 수행할 수 있다.
카메라(12)는 객체를 촬영하여 촬영된 이미지를 생성할 수 있다.
저장부(14)는 촬영된 이미지 및 이와 관련된 리포커싱된 이미지를 저장할 수 있다. 추가적으로, 저장부(14)는 리포커싱 어플리케이션을 저장할 수 있다. 리포커싱 어플리케이션은 리포커싱 기능이외에 다른 이미지 편집 기능을 포함할 수 있다. 다른 편집 기능은 가령, 사진 자르기, 적목 현상 제거, 자동 고화질 켬 및 회전 기능 등을 포함할 수 있다.
제어부(16)는 촬영된 이미지 및 리포커싱된 이미지를 저장부(14)에 저장할 수 있고, 리포커싱 어플리케이션을 실행하고, 리포커싱 기능이 선택되고 촬영된 이미지가 선택되면 촬영된 이미지를 디스플레이부(10)에 출력하고, 출력된 촬영된 이미지의 리포커싱을 원하는 영역이 지정되면 리포커싱된 이미지를 생성하고 디스플레이부(10)에 리포커싱된 이미지를 출력하도록 제어할 수 있다.
도 2는 본 발명의 일 실시예에 따른 리포커싱 방법을 설명하기 위한 동작 흐름도이다. 일 실시예로서, 도 2의 동작은 도 1의 제어부(16)에 의해서 수행될 수 있다.
촬영된 이미지를 디스플레이부(10)에 출력한다(S210).
출력된 촬영된 이미지의 리포커싱 영역(또는 객체)이 지정되었는지를 판단한다(S220).
만일 리포커싱 영역이 지정되었으면, 출력된 촬영된 이미지의 거리 정보(depth map)을 계산한다(S230).
참고로, S230단계에서, depth map을 구하는 다양한 방법들이 소개되어 있으며, 본 발명에서는 어떠한 방법을 사용하여도 상관없다. 일 예로서, 2011년 IEEE International Conference on Consumer Electronics에 Kyuseo Han 외 1인에 의해서 “Geometric and Texture Cue Based Depth-map Estimation for 2D to 3D Image Conversion”이라는 명칭으로 공개된 논문에 자세하게 설명되어 있다. 또한, 다른 예로서, 2010년 IEEE에 Chao-Chung Cheng 외 2인에 의해서 “2D-to-3D Conversion System Using Edge Information”이라는 명칭으로 공개된 논문에도 자세하게 설명되어 있다.
계산된 거리 정보에 기초하여, 출력된 촬영된 이미지의 리포커싱 영역은 선명하게 해상도를 증가시키고, 다른 영역은 흐릿하게 해상도를 감소시켜서 리포커싱된 이미지를 획득한다(S240).
리포커싱 방법의 일 예로서, 웹 사이트 주소 http://www.cs.columbia.edu/CAVE/projects/active_refocus/에 공개된 리포커싱 기술을 이용할 수 있다. 이 사이트에는 Francesc Moreno-Noguer 외 2인에 의해서 “Active Refocusing of Images and Videos”라는 명칭으로 공개된 기술로, 이 기술은 dot pattern을 얻기 위하여 하프-미러(half-mirror)를 사용하는 카메라와 함께 결합하여 위치되는 프로젝터(projector)를 사용하며, 돌출된 점들에 대응하는 거리들 및 칼라 세그멘테이션(color segmentation)이 거리 정보(depth map)을 계산하기 위하여 사용되고, 거리 정보가 점들이 제거된 후에 획득된 이미지를 리포커싱하기 위하여 사용된다. 이 논문에 공개된 내용 중 리포커싱된 이미지를 획득하는 방법에 관련된 내용이 본 발명에 포함될 수 있다.
이 논문에 공개된 리포커싱된 이미지를 획득하는 방법은 거리 정보 dF를 가지는 영역 F(Foreground), 거리 정보 dG를 가지는 영역 G(Background), 거리 정보 dF 내지 dG사이를 가지는 영역 C(Boundary)의 이미지를 리포커싱하는 경우에, 거리 정보 dF를 영역 C내의 모든 점들(점 패턴에 의해서 얻어진 영역 C내의 모든 점들)에 할당한 첫번째 리포커싱된 이미지 RC∈F가 계산되고, 거리 정보 dG를 영역 C 내의 픽셀들에 할당함에 두번째 리포커싱된 이미지 RC∈G가 계산되고, 최종 리포커싱된 이미지는 R = RC∈F*A + RC∈G*(1-A)에 의해서 계산된다. 여기에서, A는 영역 F에 속할 각 픽셀들의 확률을 나타내는 알파 맵을 나타내며, 1은 A와 같은 크기를 가지는 1의 매트릭스를 나타내며, *는 element-wise multiplication을 나타낸다. 이 방법이 본 발명의 제130단계에서 사용될 수 있다.
리포커싱된 이미지를 디스플레이부(10)에 출력한다(S250). 추가적으로, 리포커싱된 이미지를 저장부(14)에 저장할 수 있다.
도 3은 본 발명의 일 실시예에 따른 촬영된 이미지로부터 거리 정보 이미지를 획득하는 방법을 설명하기 위한 동작 흐름도이다.
우선, 촬영된 이미지로부터 라인을 추출할 수 있다(S310). S310 단계에서, 촬영된 이미지에 가령 허프 변환(Hough transform)을 적용하여 라인들(lines), 가령, 경계선 또는 윤곽선을 추출할 수 있다. 허프 변환은 이미지에서 직선, 곡선, 원과 같은 일반적인 특징을 찾는데 이용될 수 있다. 기본적인 허프 변환의 방법에 의하면, 입력 샘플들을 이용하여 특징에 해당하는 일반적인 방정식을 만들고, 방정식 인수들의 축적 배열(히스토그램)을 생성할 수 있다. 축적 배열에서 가장 많이 축적된 인수는 영상에서 가장 많은 빈도로 출현하는 특징이 될 수 있다.
촬영된 이미지로부터 추출된 라인 특징들에 기초하여 소멸점(vanishing point)을 추정할 수 있다(S320). 소멸점은 3차원 소스(source)로부터 평행한 라인들이 2차원 이미지에서 수렴하는 점으로, 원근 기하학적 구조(perspective geometry)를 추출하여 거리를 감지(depth perception) 하는데 있어 중요한 역할을 할 수 있다.
촬영된 이미지에서 추정된 소멸점이 무한 거리, 가령 촬영된 이미지 내에서 가장 먼 거리를 가진다고 가정하고, 촬영된 이미지 내에서 소멸점으로부터 부드러운 거리 변화를 가진다는 가정하에 초기 거리 정보(initial depth map)를 발생할 수 있다(S330). 일 실시예로서, 부드러운 거리 변화를 가진다는 가정은 촬영된 이미지 안에서 소멸점이 가장 먼 거리를 가지고, 그 주변으로는 점차적으로 가까운 거리를 갖는다고 가정하는 것이다. 예를 들어, 소멸점의 거리값이 255라고 가정하면 주변으로 갈수록 거리값이 254, 253,…과 같이 점차적으로 작은 값(숫자가 작을수록 가까워짐)을 가지며, 이 거리값의 분포가 가우시안 분포를 따르도록 설정할 수 있다. 즉, 부드러운 거리 변화란 소멸점이 무한 거리를 가지며, 촬영된 이미지의 거리값 분포가 소멸점을 기준으로 가우시안 분포를 갖는 것을 의미한다.
S330 단계에서, 가우시안 분포(Gaussian distribytion)에 기초하여 추정된 소멸점을 기준으로 초기 거리 정보를 설정할 수 있다.
그래프 기반 세그멘테이션(graph-based segmentation)을 적용하여, 촬영된 이미지를 세분화할 수 있다(S340). 그래프 기반 세그멘테이션은 영상 테이터를 그래프화하여 세분화 하는 기법이다. 일반적인 그래프 기반 세그멘테이션 방법에는 Normalized cuts, typical cuts, min cuts(maximum flow) 등이 있으며, min cuts(maximum flow)이 주로 사용된다. 그래프화를 통하여 지역(pairwise)의 화소 유사성과 그룹의 특징을 모두 고려할 수 있기에 강력한 매커니즘을 제공할 수 있으며, 따라서 계산 효율성을 증대시킬 수 있다.
세분화된 이미지들 각각은 촬영된 이미지 내에서 대응되는 각각의 객체를 대표할 수 있다.
촬영된 이미지 내의 세분화된 이미지들에 초기 거리 정보 추정을 적용함에 의해서 거리 순서들(orders)을 할당할 수 있다(S350). 이에 따르면, 초기 거리 정보 추정에 기초한 거리 정보를 세분화된 이미지들 각각에 할당할 수 있다.
S350 단계를 수행함에 의해서 촬영된 이미지의 거리 정보를 획득할 수 있다.
도 4 내지 7은 본 발명의 일 실시예에 따른, 촬영된 이미지 및 리포커싱 이미지들을 나타내는 것이다.
도 4는 장기 판 위에 배열된 서양 장기의 촬영된 원본 이미지를 나타내며, 도 1의 제어부(16)에 의해서 리포커싱 어플리케이션이 실행되고, 리포커싱 기능이 선택되고, 도 4의 촬영된 이미지가 선택되면, 촬영된 이미지가 디스플레이부(10)에 출력될 수 있다. 이 상태에서, 도 4의 촬영된 이미지의 영역(①)의 객체가 지정되는 경우에, 제어부(16)는 촬영된 이미지의 거리 정보를 획득하고, 획득된 거리 정보에 기초하여 도4의 촬영된 이미지의 영역(①)의 객체의 이미지를 선명하게 해상도를 증가시키고, 나머지 영역의 이미지는 흐릿하게 해상도를 감소시켜서 도 5의 리포커싱된 이미지를 설정할 수 있다. 마찬가지 방법으로, 도 4의 촬영된 이미지의 영역(②)의 객체가 지정되는 경우에, 제어부(16)는 도 4의 촬영된 이미지의 영역(②)의 객체 이미지를 선명하게 해상도를 증가시키고, 나머지 영역의 이미지는 흐릿하게 해상도를 감소시켜서 도 6의 리포커싱된 이미지를 획득할 수 있다. 또한, 도 4의 촬영된 이미지의 영역(③)의 객체가 지정되는 경우에, 제어부(16)는 도 4의 촬영된 이미지의 영역(③)의 객체의 이미지를 선명하게 해상도를 증가시키고, 나머지 영역의 이미지는 흐릿하게 해상도를 증가시켜서 도 7의 리포커싱된 이미지를 획득할 수 있다.
이와 같은 방법에 의하면, 이미 촬영된 디지털 사진이라고 하더라도 사용자의 구미에 맞게 원하는 거리에 있는 피사체 부분에 대해 리포커싱을 수행할 수 있으므로, 사용자가 재촬영 등의 수고를 할 필요가 없이 간편하게 사용자가 만족할만한 디지털 사진을 생성하도록 도와줄 수 있다.
본 발명의 리포커싱 방법은 스마트 폰 또는 타블릿 PC에 적용되어, 카메라에 의해서 촬영된 이미지의 포커스를 다양하게 변경하여 리포커싱된 이미지를 발생할 수 있다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD 등과 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media) 및 ROM, RAM, 플래시 메모리 등과 같은, 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (13)

  1. 리포커싱 방법으로서,
    a) 촬영된 이미지를 디스플레이부에 출력하는 단계;
    b) 상기 출력된 이미지에 대해서 리포커싱 영역이 지정되었는지 판단하는 단계;
    c) 상기 리포커싱 영역이 지정된 경우, 상기 출력된 이미지의 거리 정보를 계산하는 단계;
    d) 상기 계산된 거리 정보에 기초하여 상기 지정된 리포커싱 영역에 대해서는 해상도를 증가시키고, 상기 지정된 리포커싱 영역 이외의 영역에 대해서는 해상도를 감소시켜서 리포커싱 이미지를 획득하는 단계; 및
    e) 상기 리포커싱된 이미지를 상기 디스플레이부에 출력하는 단계를 포함하는, 리포커싱 방법.
  2. 제1항에 있어서,
    상기 c) 단계는
    c1) 상기 출력된 촬영된 이미지로부터 라인들을 추출하는 단계;
    c2) 상기 추출된 라인들의 특징에 기초하여 소멸점을 추정하는 단계;
    c3) 상기 촬영된 이미지에서 추정된 소멸점이 무한 거리를 가진다고 가정하고, 촬영된 이미지 내에서 거리값이 상기 소멸점을 기준으로 가우시안 분포를 따르는 거리 변화의 가정하에 초기 거리 정보를 추정하는 단계; 및
    c4) 상기 촬영된 이미지를 세분화하고, 상기 세분화된 이미지들에 상기 추정된 초기 거리 정보를 적용함에 의해서 거리 순서들을 할당하여 상기 촬영된 이미지의 거리 정보를 획득하는 단계를 포함하는, 리포커싱 방법.
  3. 제2항에 있어서,
    상기 c1) 단계는
    허프 변환를 적용함에 의해서 상기 출력된 이미지로부터 라인들을 추출하는, 리포커싱 방법.
  4. 제2항에 있어서,
    상기 c3) 단계는
    상기 추정된 소멸 점을 평균으로 가지는 가우시안 분포(Gaussian distribution)에 기초하여 상기 초기 거리 정보를 추정하는, 리포커싱 방법.
  5. 제2항에 있어서,
    상기 c4) 단계는
    상기 촬영된 이미지의 영상 데이터를 그래프화 하여 세그멘테이션을 수행하는 그래프 기반 세그멘테이션을 이용하여 상기 촬영된 이미지를 세분화하는, 리포커싱 방법.
  6. 리포커싱 장치로서,
    객체를 촬영하여 촬영된 이미지를 생성하는 카메라;
    상기 촬영된 이미지를 출력하고, 상기 출력된 이미지의 리포커싱 영역을 지정할 수 있는 디스플레이부;
    상기 촬영된 이미지, 리포커싱된 이미지, 및 리포커싱 어플리케이션을 저장하는 저장부; 및
    상기 리포커싱 어플리케이션을 실행하여 리포커싱 기능이 선택되고, 상기 촬영된 이미지가 선택되면, 상기 디스플레이부에 상기 촬영된 이미지를 출력하고, 상기 출력된 촬영된 이미지의 상기 리포커싱 영역이 지정되면, 상기 출력된 촬영된 이미지의 거리 정보를 계산하고, 상기 계산된 거리 정보에 기초하여 상기 지정된 리포커싱 영역에 대해서는 해상도를 증가시키고 상기 지정된 리포커싱 영역 이외의 영역에 대해서는 해상도를 감소시켜서 리포커싱 이미지를 획득하고, 상기 리포커싱된 이미지를 상기 디스플레이부에 출력하도록 제어하는 제어부를 포함하는, 리포커싱 장치.
  7. 제6항에 있어서,
    상기 리포커싱 어플리케이션은
    사진 자르기, 적목 현상 제거, 자동 고화질 켬 및 회전 기능을 추가적으로 제공하는, 리포커싱 장치.
  8. 제7항에 있어서,
    상기 제어부는
    상기 출력된 이미지로부터 라인들을 추출하고, 극 공간에서 상기 추출된 라인들의 특징에 기초하여 소멸점을 추정하고, 상기 촬영된 이미지에서 추정된 소멸점이 무한 거리를 가진다고 가정하고, 상기 촬영된 이미지 내에서 거리값이 상기 소멸점을 기준으로 가우시안 분포를 따르는 거리 변화의 가정하에 초기 거리 정보를 추정하고, 상기 촬영된 이미지를 세분화하고, 상기 세분화된 이미지들에 상기 추정된 초기 거리 정보를 적용함에 의해서 거리 순서들을 할당하여 상기 촬영된 이미지의 거리 정보를 획득하는, 리포커싱 장치.
  9. 제8항에 있어서,
    상기 제어부는
    허프 변환을 적용함에 의해서 상기 출력된 이미지로부터 라인들을 추출하는, 리포커싱 장치.
  10. 제8항에 있어서,
    상기 제어부는
    상기 추정된 소멸점을 평균으로 가지는 가우시안 분포(Gaussian distribution)에 기초하여 상기 초기 거리 정보를 추정하는, 리포커싱 장치.
  11. 제8항에 있어서,
    상기 제어부는
    상기 촬영된 이미지의 영상 데이터를 그래프화 하여 세그멘테이션을 수행하는 그래프 기반 세그멘테이션을 이용하여 상기 촬영된 이미지를 세분화하는, 리포커싱 장치.
  12. 제6항에 있어서,
    상기 리포커싱 장치는
    스마트 폰 또는 타블릿 PC인 것을 특징으로 하는, 리포커싱 장치.
  13. 제1항 내지 제5항 중 어느 한 항에 따른 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체.
PCT/KR2012/005693 2012-07-17 2012-07-17 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체 WO2014014135A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
PCT/KR2012/005693 WO2014014135A1 (ko) 2012-07-17 2012-07-17 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체
US13/976,355 US9171357B2 (en) 2012-07-17 2012-08-17 Method, apparatus and computer-readable recording medium for refocusing photographed image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2012/005693 WO2014014135A1 (ko) 2012-07-17 2012-07-17 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체

Publications (1)

Publication Number Publication Date
WO2014014135A1 true WO2014014135A1 (ko) 2014-01-23

Family

ID=49948952

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2012/005693 WO2014014135A1 (ko) 2012-07-17 2012-07-17 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체

Country Status (2)

Country Link
US (1) US9171357B2 (ko)
WO (1) WO2014014135A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015187250A1 (en) * 2014-06-02 2015-12-10 Intel Corporation Image refocusing for camera arrays

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9774833B2 (en) * 2013-07-16 2017-09-26 Texas Instruments Incorporated Projector auto-focus correction with the aid of a camera
KR20230134159A (ko) * 2016-01-07 2023-09-20 매직 립, 인코포레이티드 깊이 평면들에 걸쳐 분포된 동일하지 않은 수의 컴포넌트 컬러 이미지들을 갖는 가상 및 증강 현실 시스템들 및 방법들
US10972714B2 (en) * 2018-02-15 2021-04-06 Canon Kabushiki Kaisha Image processing apparatus, image processing method and storage medium for storing program
JP7137313B2 (ja) * 2018-02-15 2022-09-14 キヤノン株式会社 出力装置、画像処理方法およびプログラム
CN117880630A (zh) * 2024-03-13 2024-04-12 杭州星犀科技有限公司 对焦深度获取方法、对焦深度获取系统及终端

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090098502A (ko) * 2008-03-14 2009-09-17 삼성디지털이미징 주식회사 디지털 영상 처리장치 및 그 제어방법
JP2009224982A (ja) * 2008-03-14 2009-10-01 Sony Corp 画像処理装置、画像処理プログラムおよび表示装置
JP2009251839A (ja) * 2008-04-04 2009-10-29 Hitachi Ltd 画像信号処理回路、画像表示装置、および画像信号処理方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040093432A1 (en) * 2002-11-07 2004-05-13 Eastman Kodak Company Method and system for conducting image processing from a mobile client device
US20070019883A1 (en) * 2005-07-19 2007-01-25 Wong Earl Q Method for creating a depth map for auto focus using an all-in-focus picture and two-dimensional scale space matching
US8131098B2 (en) * 2007-07-06 2012-03-06 Panasonic Corporation Image processing device, image processing method, image processing system, program, storage medium, and integrated circuit

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090098502A (ko) * 2008-03-14 2009-09-17 삼성디지털이미징 주식회사 디지털 영상 처리장치 및 그 제어방법
JP2009224982A (ja) * 2008-03-14 2009-10-01 Sony Corp 画像処理装置、画像処理プログラムおよび表示装置
JP2009251839A (ja) * 2008-04-04 2009-10-29 Hitachi Ltd 画像信号処理回路、画像表示装置、および画像信号処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
HAN, KYU SEO ET AL.: "Geometric and texture cue based depth-map estimation for 2D to 3D image conversion", IEEE INTERNATIONAL CONFERENCE ON CONSUMER ELECTRONICS, January 2011 (2011-01-01), pages 651 - 652, XP031921437, DOI: doi:10.1109/ICCE.2011.5722790 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015187250A1 (en) * 2014-06-02 2015-12-10 Intel Corporation Image refocusing for camera arrays
US9712720B2 (en) 2014-06-02 2017-07-18 Intel Corporation Image refocusing for camera arrays

Also Published As

Publication number Publication date
US9171357B2 (en) 2015-10-27
US20140098246A1 (en) 2014-04-10

Similar Documents

Publication Publication Date Title
EP3457683B1 (en) Dynamic generation of image of a scene based on removal of undesired object present in the scene
CN107409166B (zh) 摇摄镜头的自动生成
CA2704479C (en) System and method for depth map extraction using region-based filtering
JP4938093B2 (ja) 2d−to−3d変換のための2d画像の領域分類のシステム及び方法
EP2087466B1 (en) Generation of depth map for an image
WO2019105214A1 (zh) 图像虚化方法、装置、移动终端和存储介质
US8488896B2 (en) Image processing apparatus and image processing method
KR101662846B1 (ko) 아웃 포커싱 촬영에서 빛망울 효과를 생성하기 위한 장치 및 방법
JP5671533B2 (ja) 立体画像対における遠近感および視差の調整
CN109474780B (zh) 一种用于图像处理的方法和装置
WO2014014135A1 (ko) 촬영된 이미지의 리포커싱 방법, 장치, 및 컴퓨터 판독 가능한 기록 매체
JP6894725B2 (ja) 画像処理装置及びその制御方法、プログラム、記憶媒体
JP5779089B2 (ja) エッジ検出装置、エッジ検出プログラム、およびエッジ検出方法
CN105243371A (zh) 一种人脸美颜程度的检测方法、系统及拍摄终端
JP7032871B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
CN108234826B (zh) 图像处理方法及装置
CN111161136B (zh) 图像虚化方法、图像虚化装置、设备及存储装置
WO2015069063A1 (en) Method and system for creating a camera refocus effect
EP2930687B1 (en) Image segmentation using blur and color
CN112991419B (zh) 视差数据生成方法、装置、计算机设备及存储介质
CN111161299A (zh) 影像分割方法、计算机程序、存储介质及电子装置
JP2014085845A (ja) 動画処理装置、動画処理方法、プログラム、および集積回路
EP3211600B1 (en) Adaptive depth-guided non-photorealistic rendering method, corresponding computer program product, computer-readable carrier medium and device
CN114143442B (zh) 图像虚化方法、计算机设备、计算机可读存储介质
JP7341712B2 (ja) 画像処理装置、画像処理方法、撮像装置、およびプログラム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 13976355

Country of ref document: US

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 12881443

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 12881443

Country of ref document: EP

Kind code of ref document: A1