KR20140102900A - Apparatus and method for capturing image of mobile terminal - Google Patents
Apparatus and method for capturing image of mobile terminal Download PDFInfo
- Publication number
- KR20140102900A KR20140102900A KR1020130016394A KR20130016394A KR20140102900A KR 20140102900 A KR20140102900 A KR 20140102900A KR 1020130016394 A KR1020130016394 A KR 1020130016394A KR 20130016394 A KR20130016394 A KR 20130016394A KR 20140102900 A KR20140102900 A KR 20140102900A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- capturing
- electronic mask
- state
- lens
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/48—Increasing resolution by shifting the sensor relative to the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
Abstract
Description
본 발명은 휴대 단말기의 영상 캡쳐 장치 및 방법에 관한 것이다. 보다 구체적으로, 본 발명은 영상 캡쳐 시, 렌즈와 이미지 센서 사이에 위치하는 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드(light field) 이미지를 획득하고, 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득하는 휴대 단말기의 영상 캡쳐 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and method for capturing an image of a portable terminal. More particularly, the present invention relates to a method and apparatus for capturing an image by capturing an image while changing the state of an electronic mask located between the lens and the image sensor at the time of capturing an image to obtain a high-resolution image and a light field image, And acquires a depth map corresponding to the depth map of the portable terminal.
라이프 필드(light field) 이미지를 획득할 수 있는 카메라는 멀티 뷰 기능, 리포커싱 기능 등을 제공하지만, 해상력(resolving power)의 저하를 가져오는 문제가 있다. 이를 개선하기 위한 방법으로 어레이 렌즈를 장착하는 방법, 감쇠 패턴을 삽입하는 방법, 깊이 센서를 이용하는 방법 등이 있다.A camera capable of acquiring a light field image provides a multi-view function and a re-focusing function, but has a problem that degrades the resolving power. As a method for improving this, there are a method of mounting an array lens, a method of inserting a damping pattern, and a method of using a depth sensor.
어레이 렌즈를 장착하는 방법은 메인 렌즈와 피사체 사이에 대형의 어레이 렌즈를 장착하여 해상력 저하 문제를 개선하는 방법이다. 그러나, 이 방법은 기존의 카메라 광학계 외부에 추가적인 광학계가 추가되므로, 크기가 증가되고 정밀한 배열이 요구되는 단점이 있다.The method of mounting the array lens is a method of improving resolution degradation by mounting a large-sized array lens between the main lens and the subject. However, this method has the disadvantage that an additional optical system is added to the outside of the existing camera optical system, so that the size is increased and a precise arrangement is required.
감쇠 패턴을 삽입하는 방법은 렌즈와 이미지 센서 사이에 감쇠 패턴을 삽입하여 해상력 저하 문제를 개선하는 방법이다. 그러나, 이 방법은 감쇠 패턴의 주파수 및 형상이 렌즈와 이미지 센서 간의 광축상 위치에 따라 민감하게 결정되는 특성이 있으므로, 휴대 단말기 등과 같은 소형 광학계에서는 구현하기 어려운 단점이 있다.The method of inserting an attenuation pattern is a method of improving resolution degradation by inserting an attenuation pattern between the lens and the image sensor. However, this method is disadvantageous in that it is difficult to implement in a small optical system such as a portable terminal because the frequency and shape of the attenuation pattern are sensitive to the position on the optical axis between the lens and the image sensor.
깊이 센서를 이용하는 방법은 단안 카메라와 별도의 깊이 센서를 조합하여 해상력 저하 문제를 개선하는 방법이다. 그러나, 이 방법은 카메라에서 획득한 이미지와 깊이 센서에서 얻은 정보가 해상도 및 위치의 편차가 존재하므로, 이를 동기화하기 위한 추가적인 연산이 필요한 단점이 있다.The method of using the depth sensor is a method of improving resolution degradation by combining a monocular camera and a separate depth sensor. However, this method is disadvantageous in that additional computation is required to synchronize the image obtained by the camera and information obtained from the depth sensor because there is a variation in resolution and position.
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 영상 캡쳐 시, 렌즈와 이미지 센서 사이에 위치하는 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득하고, 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득하는 휴대 단말기의 영상 캡쳐 장치 및 방법을 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION The present invention has been conceived to solve the problems as described above, and it is an object of the present invention to provide an image processing apparatus and method that capture an image while changing the state of an electronic mask positioned between a lens and an image sensor, And acquiring a depth map corresponding to the high-resolution image from the image.
상기와 같은 문제점을 해결하기 위한 본 발명에 따른 휴대 단말기의 영상 캡쳐 장치는, 렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부; 및 상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드(light field) 이미지를 획득하고, 상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득하는 제어부;를 포함한다.According to an aspect of the present invention, there is provided an image capturing apparatus for a portable terminal, including: a camera unit including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor; And capturing an image while changing the state of the electronic mask when capturing an image through the camera unit to obtain a high-resolution image and a light field image, and extracting a depth map corresponding to the high- and a control unit for obtaining map data.
또한, 본 발명에 따른 휴대 단말기의 영상 캡쳐 방법은, 렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부를 통해 영상을 캡쳐하는 단계; 상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득하는 단계; 및 상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵을 획득하는 단계;를 포함한다.According to another aspect of the present invention, there is provided a method of capturing an image of a portable terminal, the method comprising: capturing an image through a camera unit including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor; Capturing an image while changing the state of the electronic mask when capturing an image through the camera unit to obtain a high-pixel image and a light-field image; And obtaining a depth map corresponding to the high-resolution image from the light field image.
본 발명에 따르면, 렌즈와 이미지 센서 사이에 위치하는 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득함으로써, 깊이 맵을 획득하기 위한 추가적인 센서를 구비하지 않아도 고화소 이미지에 대응되는 깊이 맵을 라이트 필드 이미지로부터 획득할 수 있다.According to the present invention, an image is captured while changing the state of an electronic mask located between a lens and an image sensor to acquire a high-pixel image and a light-field image, so that even if an additional sensor for acquiring a depth map is not provided, Can be obtained from the light field image.
또한, 렌즈와 이미지 센서로 이루어진 종래의 카메라 모듈의 크기 변경없이 렌즈와 이미지 센서 사이에 전자식 마스크를 추가하는 것으로 구현할 수 있어, 휴대 단말기 등의 전자기기에 쉽게 탑재할 수 있다.Further, the present invention can be implemented by adding an electronic mask between a lens and an image sensor without changing the size of a conventional camera module including a lens and an image sensor, and can be easily mounted on an electronic device such as a portable terminal.
또한, 고화소 이미지와 라이트 필드 이미지가 동일한 광학계에서 획득되므로, 라이트 필드 이미지로부터 획득된 깊이 맵과 고화소 이미지를 동기화하기 위한 추가 연산이 필요하지 않다.Also, since a high-resolution image and a light field image are acquired in the same optical system, no additional computation is required to synchronize the high-resolution image with the depth map obtained from the light field image.
도 1은 본 발명의 실시예에 따른 휴대 단말기(100)의 내부 구조를 설명하기 위한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 영상 캡쳐 과정을 설명하기 위한 순서도이다.
도 3은 도 2에 도시한 고화소 이미지 및 라이트 필드 이미지 획득 단계를 보다 구체적으로 설명하기 위한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 전자식 마스크의 상태 변경을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 핀홀 어레이 상태의 전자식 마스크를 설명하기 위한 도면이다.1 is a block diagram for explaining an internal structure of a
2 is a flowchart illustrating an image capturing process according to an embodiment of the present invention.
FIG. 3 is a flowchart for more specifically illustrating the steps of acquiring a high-pixel image and a light field image shown in FIG.
4 is a view for explaining a state change of an electronic mask according to an embodiment of the present invention.
5 is a view for explaining an electronic mask in a pinhole array state according to an embodiment of the present invention.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예들을 상세히 설명한다. 이때, 첨부된 도면에서 동일한 구성요소는 가능한 동일한 부호로 나타내고 있음에 유의해야 한다. 또한, 본 발명의 요지를 흐리게 할 수 있는 공지 기능 및 구성에 대한 상세한 설명은 생략할 것이다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. Note that, in the drawings, the same components are denoted by the same reference numerals as possible. Further, the detailed description of known functions and configurations that may obscure the gist of the present invention will be omitted.
도 1은 본 발명의 실시예에 따른 휴대 단말기(100)의 내부 구조를 설명하기 위한 블록도이다.1 is a block diagram for explaining an internal structure of a
도 1을 참조하면, 본 발명의 실시예에 따른 휴대 단말기(100)는 무선 통신부(110), 카메라부(120), 오디오 처리부(130), 터치 스크린부(140), 저장부(150) 및 제어부(160)를 포함할 수 있다.Referring to FIG. 1, a
무선 통신부(110)는 휴대 단말기(100)의 무선 통신을 위한 해당 데이터의 송수신 기능을 수행한다. 무선 통신부(110)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF수신기 등으로 구성될 수 있다. 또한, 무선 통신부(110)는 무선 채널을 통해 데이터를 수신하여 제어부(160)로 출력하고, 제어부(160)로부터 출력된 데이터를 무선 채널을 통해 전송할 수 있다.The
카메라부(120)는 비디오 신호를 입력받는 기능을 수행한다. 카메라부(120)는 렌즈(121)와 이미지 센서(123)를 구비하며, 화상 통화 모드 또는 촬영 모드에서 이미지 센서(123)에 의해 얻어지는 정지 영상, 동영상 등의 화상 프레임을 처리한다. 카메라부(120)에서 처리된 화상 프레임은 표시부(143)를 통해 출력될 수 있다. 또한, 카메라부(120)에서 처리된 화상 프레임은 저장부(150)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다.The
특히, 본 발명에 따른 카메라부(120)는 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)를 더 구비한다. 전자식 마스크(125)는 제어부(160)의 제어 신호에 따라 투명한 상태 또는 복수의 핀홀로 이루어진 핀홀 어레이 상태로 변경된다. 전자식 마스크(125)는 액정 패널(liquid crystal panel) 등을 통해 구현될 수 있다.In particular, the
투명한 상태의 전자식 마스크(125)에서는 렌즈(121)를 통해 들어오는 빛이 전자식 마스크(125)의 전체 영역에서 전부 투과된다. 반면, 핀홀 어레이 상태의 전자식 마스크(125)에서는 핀홀 영역은 핀홀을 통해 렌즈(121)를 통해 들어오는 빛을 투과시키지만, 핀홀 영역을 제외한 나머지 영역은 불투명한 상태가 되어 렌즈(121)를 통해 들어오는 빛을 투과시키지 않는다. 즉, 렌즈(121)를 통해 들어오는 빛 중에서 핀홀 영역으로 들어오는 빛만을 투과시킨다.In the transparent
카메라부(120)는 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수도 있다. 예컨대, 휴대 단말기(100)에서 표시부(143)가 배치된 면과 배치되지 않은 면 각각에 카메라부(110)가 구비될 수 있다.The
오디오 처리부(130)는 코덱(CODEC)으로 구성될 수 있으며, 코덱은 패킷 데이터 등을 처리하는 데이터 코덱과 음성 등의 오디오 신호를 처리하는 오디오 코덱으로 구성될 수 있다. 오디오 처리부(130)는 디지털 오디오 신호를 오디오 코덱을 통해 아날로그 오디오 신호로 변환하여 스피커(SPK)를 통해 재생하고, 마이크(MIC)로부터 입력되는 아날로그 오디오 신호를 오디오 코덱을 통해 디지털 오디오 신호로 변환한다.The
터치 스크린부(140)는 터치 센서부(141) 및 표시부(143)를 포함한다. 터치 센서부(141)와 표시부(143)는 상호 레이어 구조로 이루어져 있다. 터치 센서부(141)는 표시부(143)의 특정 부위에 가해진 압력 또는 특정 부위에서 발생하는 정전 용량 등의 변화를 전기적인 입력 신호로 변환한다. 이때, 터치 센서부(141)는 터치되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있다.The
즉, 터치 센서부(141)는 사용자의 터치 입력을 감지하고, 감지 신호를 생성하여 제어부(160)에 전달한다. 감지 신호는 사용자에 의해 터치된 좌표 정보를 포함할 수 있다. 사용자가 터치한 상태에서 이동(드래그)하면, 터치 센서부(141)는 이동 경로의 좌표 정보를 포함하는 감지 신호를 생성하여 제어부(160)에 전달한다.That is, the
터치 센서부(141)는 정전용량 방식(capacitive overlay), 저항막 방식(resistive oberlay), 표면 초음파 방식(surface acoustic wave), 적외선 방식(infrared beam) 등의 터치 감지 센서로 구성되거나, 압력 감지 센서(pressure sensor)로 구성될 수 있다. 이와 같은 센서들 이외에도 물체의 접촉 또는 압력을 감지할 수 있는 모든 종류의 센서 기기가 본 발명의 터치 센서부(141)로 구성될 수 있다.The
표시부(143)는 휴대 단말기(100)의 메뉴, 입력된 데이터, 기능 설정 정보 및 기타 다양한 정보를 사용자에게 시각적으로 제공한다. 표시부(143)는 휴대 단말기(100)의 부팅 화면, 대기 화면, 메뉴 화면, 통화 화면, 기타 어플리케이션 화면을 출력하는 기능을 수행한다.The
표시부(143)는 액정 디스플레이(LCD, Liquid Crystal Display), 유기 발광 다이오드(OLED, Organic Light Emitting Diode), 능동형 유기 발광 다이오드(AMOLED, Active Matrix Organic Light Emitting Diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등으로 형성될 수 있다.The
저장부(150)는 휴대 단말기(100)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 휴대 단말기(100)의 전반적인 동작을 제어하는 프로그램 및 휴대 단말기(100)를 부팅시키는 운영체제(OS, Operating System), 멀티미디어 콘텐츠 재생 등에 필요한 응용 프로그램, 휴대 단말기(100)의 기타 옵션 기능, 예컨대, 음성 대화 기능, 카메라 기능, 소리 재생 기능, 이미지 또는 동영상 재생 기능에 필요한 응용 프로그램 등을 저장할 수 있다. 데이터 영역은 휴대 단말기(100)의 사용에 따라 발생하는 데이터가 저장되는 영역으로서, 이미지, 동영상, 폰 북, 오디오 데이터 등을 저장할 수 있다.The
제어부(160)는 휴대 단말기(100)의 각 구성 요소에 대한 전반적인 동작을 제어한다. 제어부(160)는 카메라부(120)를 통해 영상 캡쳐 시, 전자식 마스크(125)의 상태를 변경하면서 영상을 캡쳐하여, 고화소 이미지와 라이트 필드(light field) 이미지를 획득한다. 그리고, 제어부(160)는 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득한다. 이를 위해, 본 발명의 실시예에 따른 제어부(160)는 영상 캡쳐 제어부(161)를 구비할 수 있다.The
그러면, 도 2를 참조하여 본 발명의 일 실시예에 따른 영상 캡쳐 과정에 대하여 설명한다.Hereinafter, an image capturing process according to an embodiment of the present invention will be described with reference to FIG.
도 2는 본 발명의 일 실시예에 따른 영상 캡쳐 과정을 설명하기 위한 순서도이다.2 is a flowchart illustrating an image capturing process according to an embodiment of the present invention.
도 2를 참조하면, 영상 캡쳐 모드에 진입하면(S210), 영상 캡쳐 제어부(161)는 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)의 상태를 변경하면서 영상을 캡쳐하여, 고화소 이미지와 라이트 필드 이미지를 획득한다(S230). 즉, 영상 캡쳐 제어부(161)는 전자식 마스크(125)를 투명한 상태와 핀홀 어레이 상태로 변경하면서 고화소 이미지와 라이트 필드 이미지를 획득할 수 있다.2, when the image capturing mode is entered (S210), the image capturing
그런 다음, 영상 캡쳐 제어부(161)는 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득한다(S250).Then, the image
여기서, 영상 캡쳐 제어부(161)는 Depth From Focus 방법을 이용하여 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다. 즉, 영상 캡쳐 제어부(161)는 라이트 필드 이미지로부터 초점 거리별로 리포커싱하여 리포커싱 이미지를 획득할 수 있다. 영상 캡쳐 제어부(161)는 초점 거리별 리포커싱 이미지 각각에서 에지(edge) 값이 높은 피사체를 검출할 수 있다. 영상 캡쳐 제어부(161)는 초점 거리별 리포커싱 이미지 각각에서 검출된 피사체의 초점 거리를 기반으로 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다.Here, the
또한, 영상 캡쳐 제어부(161)는 Depth From Disparity 방법을 이용하여 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다. 즉, 영상 캡쳐 제어부(161)는 라이트 필드 이미지로부터 시차 이미지를 획득할 수 있다. 영상 캡쳐 제어부(161)는 시차 이미지를 이용하여 피사체 별로 에지 값이 높은 지점의 시차 이미지 상의 위치를 획득할 수 있다. 영상 캡쳐 제어부(161)는 피사체 별로 획득된 시차 이미지 상의 위치를 기반으로 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다.In addition, the
그러면, 도 3 및 도 4를 참조하여 본 발명의 일 실시예에 따른 고화소 이미지와 라이트 필드 이미지 획득 단계에 대하여 보다 자세하게 설명한다.The steps of acquiring a high pixel image and a light field image according to an embodiment of the present invention will now be described in detail with reference to FIGS. 3 and 4. FIG.
도 3은 도 2에 도시한 고화소 이미지 및 라이트 필드 이미지 획득 단계를 보다 구체적으로 설명하기 위한 순서도이고, 도 4는 본 발명의 일 실시예에 따른 전자식 마스크의 상태 변경을 설명하기 위한 도면이다.FIG. 3 is a flowchart for explaining the step of acquiring a high-pixel image and a light-field image shown in FIG. 2 more specifically; FIG. 4 is a view for explaining a state change of an electronic mask according to an embodiment of the present invention;
도 3 및 도 4를 참조하면, 영상 캡쳐 제어부(161)는 전자식 마스크(125)를 투명한 상태로 변경하고(S231), 영상을 캡쳐하여 고화소 이미지를 획득한다(S233). 즉, 렌즈(121)를 통해 들어오는 빛이 전자식 마스크(125)의 전체 영역에서 전부 투과되어 이미지 센서(123)에 도달하고, 이미지 센서(121)를 통해 고화소 이미지를 획득할 수 있다.3 and 4, the image capturing
그런 다음, 영상 캡쳐 제어부(161)는 전자식 마스크(125)를 핀홀 어레이 상태로 변경하고(S235), 영상을 캡쳐하여 라이트 필드 이미지를 획득한다(S237). 즉, 렌즈(121)를 통해 들어오는 빛이 핀홀(PH) 영역에서만 투과되어 이미지 센서(123)에 도달하고, 이미지 센서(123)를 통해 라이트 필드 이미지를 획득할 수 있다. 이때, 영상 캡쳐 제어부(161)는 라이트 필드 이미지를 그레이 스케일(gray scale)된 흑백 이미지로 획득할 수 있다. 라이트 필드 이미지를 흑백 이미지로 획득하면, 색상에 의한 노이즈(noise), 보간(interpolation)에 의한 화질 저하 등을 방지할 수 있다. 또한, 영상 캡쳐 제어부(161)는 이미지 센서(123)의 이득(gain)을 높이고, 이미지 센서(123)를 통해 라이트 필드 이미지를 획득할 수 있다. 이미지 센서(123)의 이득을 증가시켜 핀홀(PH)에 의한 밝기 감소를 보상할 수 있다.Then, the image
한편, 본 발명은 전자식 마스크(125)를 투명한 상태로 변경하고 영상을 캡쳐하여 고화소 이미지를 획득한 후에, 전자식 마스크(125)를 핀홀 어레이 상태로 변경하고 영상을 캡쳐하여 라이트 필드 이미지를 획득하는 것으로 도 3에 도시하였다. 그러나, 본 발명은 이에 한정되지 않고 실시예에 따라 전자식 마스크(125)를 핀홀 어레이 상태로 변경하고 영상을 캡쳐하여 라이트 필드 이미지를 획득한 후에, 전자식 마스크(125)를 투명한 상태로 변경하고 영상을 캡쳐하여 고화소 이미지를 획득할 수도 있다.Meanwhile, in the present invention, after the
그러면, 도 5를 참조하여 본 발명의 일 실시예에 따른 핀홀 어레이 상태의 전자식 마스크에 대하여 보다 자세하게 설명한다.5, an electronic mask in a pinhole array state according to an embodiment of the present invention will be described in more detail.
도 5는 본 발명의 일 실시예에 따른 핀홀 어레이 상태의 전자식 마스크를 설명하기 위한 도면이다.5 is a view for explaining an electronic mask in a pinhole array state according to an embodiment of the present invention.
도 5를 참조하면, 이미지 센서(123)는 복수의 픽셀(PX)로 구성된다. 이미지 센서(123)를 구성하는 픽셀(PX)의 개수가 많아질수록 고화질의 이미지를 획득할 수 있다. 그리고, 마이크로 이미지(MI)는 3x3 크기를 가지며, 이에 따라 총 9개의 픽셀(PX)로 이루어진다. 즉, 이미지 센서(123)는 복수의 마이크로 이미지(MI)로 구성된다. 여기서, 마이크로 이미지(MI)의 크기는 라이트 필드 이미지로부터 획득되는 깊이 맵의 깊이 레벨을 기반으로 결정된다. 예컨대, 마이크로 이미지(MI)의 크기가 커질 수록 깊이 레벨이 높아져 보다 정밀한 깊이 맵을 획득할 수 있으나, 라이트 필드 이미지의 해상도는 낮아지게 된다. 한편, 본 발명에 따른 마이크로 이미지(MI)가 총 9개의 픽셀(PX)로 이루어진 것으로 도 5에 도시하였으나, 본 발명은 이에 한정되지 않고 실시예에 따라 마이크로 이미지(MI)의 크기는 커지거나 작아질 수 있다.Referring to FIG. 5, the
그리고, 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)가 핀홀 어레이 상태이면, 전자식 마스크(125)는 복수의 핀홀(PH)로 이루어진다. 여기서, 핀홀(PH)의 크기는 이미지 센서(123)를 구성하는 픽셀(PX)의 크기를 기반으로 결정된다. 예컨대, 핀홀(PH)의 크기는 픽셀(PX)의 크기와 비슷한 크기로 구성될 수 있다. 물론, 핀홀(PH)의 크기는 핀홀(PH)을 통해 투과되는 광량을 증가시키기 위해 픽셀(PX)의 크기보다 더 크게 구성될 수도 있다. 또한, 핀홀(PH)의 크기는 마이크로 이미지(MI)의 크기와 픽셀(PX)의 크기를 전부 고려하여 결정될 수도 있다. 예컨대, 마이크로 이미지(MI)가 3x3 크기로 이루어져 있으면, 필홀(PH)의 크기는 픽셀(PX)의 크기와 비슷하게 구성될 수 있다. 반면, 마이크로 이미지(MI)가 6x6 크기로 이루어져 있으면, 핀홀(PH)의 크기는 픽셀(PX) 크기의 약 두배 정도 크기로 구성될 수 있다.When the
그리고, 핀홀(PH)의 간격은 마이크로 이미지(MI)의 크기를 기반으로 결정된다. 예컨대, 도 5에 도시한 바와 같이, 핀홀(PH)의 개수는 마이크로 이미지(MI)의 개수와 동일하고, 각각의 핀홀(PH)은 마이크로 이미지(MI)의 가운데 부분에 위치하도록 구성될 수 있다.The interval of the pinhole PH is determined based on the size of the micro image MI. 5, the number of pinholes PH is equal to the number of micro-images MI, and each pinhole PH may be configured to be located in the middle portion of the micro-image MI .
이와 같이, 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득함으로써, 깊이 맵을 획득하기 위한 추가적인 센서를 구비하지 않아도 고화소 이미지에 대응되는 깊이 맵을 라이트 필드 이미지로부터 획득할 수 있다.As described above, by capturing an image while changing the state of the
또한, 렌즈(121)와 이미지 센서(123)로 이루어진 종래의 카메라 모듈의 크기 변경없이 렌즈(121)와 이미지 센서(123) 사이에 전자식 마스크(125)를 추가하는 것으로 구현할 수 있어, 휴대 단말기(100) 등의 전자기기에 쉽게 탑재할 수 있다.It is also possible to add an
또한, 고화소 이미지와 라이트 필드 이미지가 동일한 광학계에서 획득되므로, 라이트 필드 이미지로부터 획득된 깊이 맵과 고화소 이미지를 동기화하기 위한 추가 연산이 필요하지 않다.Also, since a high-resolution image and a light field image are acquired in the same optical system, no additional computation is required to synchronize the high-resolution image with the depth map obtained from the light field image.
한편, 본 발명의 실시예에 따른 제어부(160) 및 영상 캡쳐 제어부(161)가 별도의 블록으로 구성되고, 각 블록이 서로 상이한 기능을 수행하는 것으로 설명하였지만, 이는 설명상의 편의를 위한 것일 뿐, 반드시 이와 같이 각 기능이 구분되어 지는 것은 아니다. 예컨대, 영상 캡쳐 제어부(161)가 수행하는 특정 기능을 제어부(160) 자체가 수행할 수도 있다.Although the
본 명세서와 도면에 개시된 본 발명의 실시예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다.The embodiments of the present invention disclosed in the present specification and drawings are intended to be illustrative only and not intended to limit the scope of the present invention. It will be apparent to those skilled in the art that other modifications based on the technical idea of the present invention are possible in addition to the embodiments disclosed herein.
100 : 휴대 단말기
110 : 무선 통신부 120 : 카메라부,
130 : 오디오 처리부 140 : 터치 스크린부,
150 : 저장부 160 : 제어부,
161 : 영상 캡쳐 제어부100: portable terminal
110: wireless communication unit 120: camera unit,
130: audio processing unit 140: touch screen unit,
150: storage unit 160: control unit,
161: image capture control unit
Claims (10)
렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부; 및
상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드(light field) 이미지를 획득하고, 상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득하는 제어부;
를 포함하는 영상 캡쳐 장치.1. An image capturing device of a portable terminal,
A camera unit including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor; And
Capturing an image while changing the state of the electronic mask when capturing an image through the camera unit, acquiring a high-resolution image and a light field image, and extracting a depth map corresponding to the high- );
And an image capturing device.
상기 전자식 마스크를 투명한 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 고화소 이미지를 획득하며, 상기 전자식 마스크를 복수의 핀홀로 이루어진 핀홀 어레이 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 라이트 필드 이미지를 획득하는 영상 캡쳐 장치.2. The apparatus of claim 1,
Changing the state of the electronic mask to a transparent state, capturing an image through the camera unit to obtain the high-resolution image, changing the state of the electronic mask to a pinhole array state including a plurality of pinholes, capturing an image through the camera unit, An image capture device for acquiring an image.
상기 이미지 센서를 구성하는 픽셀의 크기를 기반으로 결정되는 영상 캡쳐 장치.3. The connector according to claim 2,
Wherein the image sensor is determined based on a size of a pixel constituting the image sensor.
상기 이미지 센서를 구성하는 픽셀로 이루어진 마이크로 이미지의 크기를 기반으로 결정되는 영상 캡쳐 장치.The method according to claim 2,
Wherein the image sensor is determined based on a size of a micro image including pixels constituting the image sensor.
상기 깊이 맵의 깊이 레벨을 기반으로 결정되는 영상 캡쳐 장치.The method of claim 4, wherein the size of the micro-
Wherein the depth map is determined based on a depth level of the depth map.
렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부를 통해 영상을 캡쳐하는 단계;
상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득하는 단계; 및
상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵을 획득하는 단계;
를 포함하는 영상 캡쳐 방법.A method of capturing an image of a portable terminal,
Capturing an image through a camera section including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor;
Capturing an image while changing the state of the electronic mask when capturing an image through the camera unit to obtain a high-pixel image and a light-field image; And
Obtaining a depth map corresponding to the high-resolution image from the light field image;
The method comprising the steps of:
상기 전자식 마스크를 투명한 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 고화소 이미지를 획득하는 단계; 및
상기 전자식 마스크를 복수의 핀홀로 이루어진 핀홀 어레이 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 라이트 필드 이미지를 획득하는 단계;를 포함하는 영상 캡쳐 방법.7. The method of claim 6,
Changing the electronic mask to a transparent state and capturing an image through the camera unit to obtain the high-resolution image; And
Changing the state of the electronic mask to a pinhole array comprising a plurality of pinholes, and capturing an image through the camera unit to obtain the light field image.
상기 이미지 센서를 구성하는 픽셀의 크기를 기반으로 결정되는 영상 캡쳐 방법.The method as claimed in claim 7,
And determining a size of a pixel included in the image sensor.
상기 이미지 센서를 구성하는 픽셀로 이루어진 마이크로 이미지의 크기를 기반으로 결정되는 영상 캡쳐 방법.The method according to claim 7,
And determining a size of a micro image including pixels constituting the image sensor.
상기 깊이 맵의 깊이 레벨을 기반으로 결정되는 영상 캡쳐 방법.10. The method of claim 9, wherein the size of the micro-
And determining a depth level of the depth map based on the depth level of the depth map.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020130016394A KR20140102900A (en) | 2013-02-15 | 2013-02-15 | Apparatus and method for capturing image of mobile terminal |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020130016394A KR20140102900A (en) | 2013-02-15 | 2013-02-15 | Apparatus and method for capturing image of mobile terminal |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20140102900A true KR20140102900A (en) | 2014-08-25 |
Family
ID=51747468
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020130016394A KR20140102900A (en) | 2013-02-15 | 2013-02-15 | Apparatus and method for capturing image of mobile terminal |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20140102900A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101594314B1 (en) | 2014-12-02 | 2016-02-16 | 주식회사 템퍼스 | 3D distance measuring system and 3D distance measuring method |
-
2013
- 2013-02-15 KR KR1020130016394A patent/KR20140102900A/en not_active Application Discontinuation
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101594314B1 (en) | 2014-12-02 | 2016-02-16 | 주식회사 템퍼스 | 3D distance measuring system and 3D distance measuring method |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102338576B1 (en) | Electronic device which stores depth information associating with image in accordance with Property of depth information acquired using image and the controlling method thereof | |
CN104919515A (en) | Apparatus and method for controlling display of mobile terminal | |
CN105827961A (en) | Mobile terminal and focusing method | |
CN106791339B (en) | Imaging system and control method thereof | |
US11750915B2 (en) | Mobile terminal | |
KR20190009104A (en) | Electronic Device for controlling lens focus and the controlling Method thereof | |
KR20190087215A (en) | Electronic device and methof to control auto focus of camera | |
KR102022892B1 (en) | Apparatus and method for processing image of mobile terminal comprising camera | |
KR20140142441A (en) | Shooting Method for Three-Dimensional Modeling And Electrical Device Thereof | |
CN107071277B (en) | Optical drawing shooting device and method and mobile terminal | |
CN110876014B (en) | Image processing method and device, electronic device and storage medium | |
KR102082365B1 (en) | Method for image processing and an electronic device thereof | |
EP3933502A1 (en) | Optical processing apparatus, camera module, electronic device and capturing method | |
CN107613210B (en) | Image display method and device, terminal and storage medium | |
JP2023501608A (en) | Electronics and focus method | |
KR102374428B1 (en) | Graphic sensor, mobile terminal and graphic shooting method | |
KR102285442B1 (en) | Camera module, processing method and apparatus, electronic device, recording medium | |
CN115359105B (en) | Depth-of-field extended image generation method, device and storage medium | |
KR20140102900A (en) | Apparatus and method for capturing image of mobile terminal | |
WO2021104262A1 (en) | Electronic device and focusing method | |
CN113452813B (en) | Image acquisition device, terminal device, method, processing device, and medium | |
CN112866555B (en) | Shooting method, shooting device, shooting equipment and storage medium | |
CN110971722B (en) | Image shooting method and device | |
CN110874829B (en) | Image processing method and device, electronic device and storage medium | |
KR102185710B1 (en) | Transparent display apparatus, group play system using transparent display apparatus and performance methods thereof |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
WITN | Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid |