KR20140102900A - Apparatus and method for capturing image of mobile terminal - Google Patents

Apparatus and method for capturing image of mobile terminal Download PDF

Info

Publication number
KR20140102900A
KR20140102900A KR1020130016394A KR20130016394A KR20140102900A KR 20140102900 A KR20140102900 A KR 20140102900A KR 1020130016394 A KR1020130016394 A KR 1020130016394A KR 20130016394 A KR20130016394 A KR 20130016394A KR 20140102900 A KR20140102900 A KR 20140102900A
Authority
KR
South Korea
Prior art keywords
image
capturing
electronic mask
state
lens
Prior art date
Application number
KR1020130016394A
Other languages
Korean (ko)
Inventor
이기혁
이경희
이소영
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020130016394A priority Critical patent/KR20140102900A/en
Publication of KR20140102900A publication Critical patent/KR20140102900A/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/48Increasing resolution by shifting the sensor relative to the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise

Abstract

The present invention relates to an apparatus and a method for capturing an image of a mobile terminal. The image capturing apparatus according to the present invention captures an image while changing the state of an electronic mask positioned between a lens and an image sensor to obtain high-resolution images and light-field images, and obtains a depth map corresponding to the high-resolution images from the light-field images.

Description

휴대 단말기의 영상 캡쳐 장치 및 방법{APPARATUS AND METHOD FOR CAPTURING IMAGE OF MOBILE TERMINAL}TECHNICAL FIELD [0001] The present invention relates to an apparatus and method for capturing an image of a mobile terminal,

본 발명은 휴대 단말기의 영상 캡쳐 장치 및 방법에 관한 것이다. 보다 구체적으로, 본 발명은 영상 캡쳐 시, 렌즈와 이미지 센서 사이에 위치하는 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드(light field) 이미지를 획득하고, 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득하는 휴대 단말기의 영상 캡쳐 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and method for capturing an image of a portable terminal. More particularly, the present invention relates to a method and apparatus for capturing an image by capturing an image while changing the state of an electronic mask located between the lens and the image sensor at the time of capturing an image to obtain a high-resolution image and a light field image, And acquires a depth map corresponding to the depth map of the portable terminal.

라이프 필드(light field) 이미지를 획득할 수 있는 카메라는 멀티 뷰 기능, 리포커싱 기능 등을 제공하지만, 해상력(resolving power)의 저하를 가져오는 문제가 있다. 이를 개선하기 위한 방법으로 어레이 렌즈를 장착하는 방법, 감쇠 패턴을 삽입하는 방법, 깊이 센서를 이용하는 방법 등이 있다.A camera capable of acquiring a light field image provides a multi-view function and a re-focusing function, but has a problem that degrades the resolving power. As a method for improving this, there are a method of mounting an array lens, a method of inserting a damping pattern, and a method of using a depth sensor.

어레이 렌즈를 장착하는 방법은 메인 렌즈와 피사체 사이에 대형의 어레이 렌즈를 장착하여 해상력 저하 문제를 개선하는 방법이다. 그러나, 이 방법은 기존의 카메라 광학계 외부에 추가적인 광학계가 추가되므로, 크기가 증가되고 정밀한 배열이 요구되는 단점이 있다.The method of mounting the array lens is a method of improving resolution degradation by mounting a large-sized array lens between the main lens and the subject. However, this method has the disadvantage that an additional optical system is added to the outside of the existing camera optical system, so that the size is increased and a precise arrangement is required.

감쇠 패턴을 삽입하는 방법은 렌즈와 이미지 센서 사이에 감쇠 패턴을 삽입하여 해상력 저하 문제를 개선하는 방법이다. 그러나, 이 방법은 감쇠 패턴의 주파수 및 형상이 렌즈와 이미지 센서 간의 광축상 위치에 따라 민감하게 결정되는 특성이 있으므로, 휴대 단말기 등과 같은 소형 광학계에서는 구현하기 어려운 단점이 있다.The method of inserting an attenuation pattern is a method of improving resolution degradation by inserting an attenuation pattern between the lens and the image sensor. However, this method is disadvantageous in that it is difficult to implement in a small optical system such as a portable terminal because the frequency and shape of the attenuation pattern are sensitive to the position on the optical axis between the lens and the image sensor.

깊이 센서를 이용하는 방법은 단안 카메라와 별도의 깊이 센서를 조합하여 해상력 저하 문제를 개선하는 방법이다. 그러나, 이 방법은 카메라에서 획득한 이미지와 깊이 센서에서 얻은 정보가 해상도 및 위치의 편차가 존재하므로, 이를 동기화하기 위한 추가적인 연산이 필요한 단점이 있다.The method of using the depth sensor is a method of improving resolution degradation by combining a monocular camera and a separate depth sensor. However, this method is disadvantageous in that additional computation is required to synchronize the image obtained by the camera and information obtained from the depth sensor because there is a variation in resolution and position.

본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로서, 영상 캡쳐 시, 렌즈와 이미지 센서 사이에 위치하는 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득하고, 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득하는 휴대 단말기의 영상 캡쳐 장치 및 방법을 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION The present invention has been conceived to solve the problems as described above, and it is an object of the present invention to provide an image processing apparatus and method that capture an image while changing the state of an electronic mask positioned between a lens and an image sensor, And acquiring a depth map corresponding to the high-resolution image from the image.

상기와 같은 문제점을 해결하기 위한 본 발명에 따른 휴대 단말기의 영상 캡쳐 장치는, 렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부; 및 상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드(light field) 이미지를 획득하고, 상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득하는 제어부;를 포함한다.According to an aspect of the present invention, there is provided an image capturing apparatus for a portable terminal, including: a camera unit including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor; And capturing an image while changing the state of the electronic mask when capturing an image through the camera unit to obtain a high-resolution image and a light field image, and extracting a depth map corresponding to the high- and a control unit for obtaining map data.

또한, 본 발명에 따른 휴대 단말기의 영상 캡쳐 방법은, 렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부를 통해 영상을 캡쳐하는 단계; 상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득하는 단계; 및 상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵을 획득하는 단계;를 포함한다.According to another aspect of the present invention, there is provided a method of capturing an image of a portable terminal, the method comprising: capturing an image through a camera unit including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor; Capturing an image while changing the state of the electronic mask when capturing an image through the camera unit to obtain a high-pixel image and a light-field image; And obtaining a depth map corresponding to the high-resolution image from the light field image.

본 발명에 따르면, 렌즈와 이미지 센서 사이에 위치하는 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득함으로써, 깊이 맵을 획득하기 위한 추가적인 센서를 구비하지 않아도 고화소 이미지에 대응되는 깊이 맵을 라이트 필드 이미지로부터 획득할 수 있다.According to the present invention, an image is captured while changing the state of an electronic mask located between a lens and an image sensor to acquire a high-pixel image and a light-field image, so that even if an additional sensor for acquiring a depth map is not provided, Can be obtained from the light field image.

또한, 렌즈와 이미지 센서로 이루어진 종래의 카메라 모듈의 크기 변경없이 렌즈와 이미지 센서 사이에 전자식 마스크를 추가하는 것으로 구현할 수 있어, 휴대 단말기 등의 전자기기에 쉽게 탑재할 수 있다.Further, the present invention can be implemented by adding an electronic mask between a lens and an image sensor without changing the size of a conventional camera module including a lens and an image sensor, and can be easily mounted on an electronic device such as a portable terminal.

또한, 고화소 이미지와 라이트 필드 이미지가 동일한 광학계에서 획득되므로, 라이트 필드 이미지로부터 획득된 깊이 맵과 고화소 이미지를 동기화하기 위한 추가 연산이 필요하지 않다.Also, since a high-resolution image and a light field image are acquired in the same optical system, no additional computation is required to synchronize the high-resolution image with the depth map obtained from the light field image.

도 1은 본 발명의 실시예에 따른 휴대 단말기(100)의 내부 구조를 설명하기 위한 블록도이다.
도 2는 본 발명의 일 실시예에 따른 영상 캡쳐 과정을 설명하기 위한 순서도이다.
도 3은 도 2에 도시한 고화소 이미지 및 라이트 필드 이미지 획득 단계를 보다 구체적으로 설명하기 위한 순서도이다.
도 4는 본 발명의 일 실시예에 따른 전자식 마스크의 상태 변경을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시예에 따른 핀홀 어레이 상태의 전자식 마스크를 설명하기 위한 도면이다.
1 is a block diagram for explaining an internal structure of a mobile terminal 100 according to an embodiment of the present invention.
2 is a flowchart illustrating an image capturing process according to an embodiment of the present invention.
FIG. 3 is a flowchart for more specifically illustrating the steps of acquiring a high-pixel image and a light field image shown in FIG.
4 is a view for explaining a state change of an electronic mask according to an embodiment of the present invention.
5 is a view for explaining an electronic mask in a pinhole array state according to an embodiment of the present invention.

이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예들을 상세히 설명한다. 이때, 첨부된 도면에서 동일한 구성요소는 가능한 동일한 부호로 나타내고 있음에 유의해야 한다. 또한, 본 발명의 요지를 흐리게 할 수 있는 공지 기능 및 구성에 대한 상세한 설명은 생략할 것이다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. Note that, in the drawings, the same components are denoted by the same reference numerals as possible. Further, the detailed description of known functions and configurations that may obscure the gist of the present invention will be omitted.

도 1은 본 발명의 실시예에 따른 휴대 단말기(100)의 내부 구조를 설명하기 위한 블록도이다.1 is a block diagram for explaining an internal structure of a mobile terminal 100 according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 실시예에 따른 휴대 단말기(100)는 무선 통신부(110), 카메라부(120), 오디오 처리부(130), 터치 스크린부(140), 저장부(150) 및 제어부(160)를 포함할 수 있다.Referring to FIG. 1, a portable terminal 100 according to an exemplary embodiment of the present invention includes a wireless communication unit 110, a camera unit 120, an audio processing unit 130, a touch screen unit 140, a storage unit 150, And may include a control unit 160.

무선 통신부(110)는 휴대 단말기(100)의 무선 통신을 위한 해당 데이터의 송수신 기능을 수행한다. 무선 통신부(110)는 송신되는 신호의 주파수를 상승 변환 및 증폭하는 RF송신기와, 수신되는 신호를 저 잡음 증폭하고 주파수를 하강 변환하는 RF수신기 등으로 구성될 수 있다. 또한, 무선 통신부(110)는 무선 채널을 통해 데이터를 수신하여 제어부(160)로 출력하고, 제어부(160)로부터 출력된 데이터를 무선 채널을 통해 전송할 수 있다.The wireless communication unit 110 performs a function of transmitting and receiving corresponding data for wireless communication of the portable terminal 100. The wireless communication unit 110 may include an RF transmitter for up-converting and amplifying the frequency of a transmitted signal, and an RF receiver for low-noise amplifying the received signal and down-converting the frequency of the received signal. The wireless communication unit 110 may receive data through a wireless channel, output the data to the control unit 160, and transmit the data output from the control unit 160 through a wireless channel.

카메라부(120)는 비디오 신호를 입력받는 기능을 수행한다. 카메라부(120)는 렌즈(121)와 이미지 센서(123)를 구비하며, 화상 통화 모드 또는 촬영 모드에서 이미지 센서(123)에 의해 얻어지는 정지 영상, 동영상 등의 화상 프레임을 처리한다. 카메라부(120)에서 처리된 화상 프레임은 표시부(143)를 통해 출력될 수 있다. 또한, 카메라부(120)에서 처리된 화상 프레임은 저장부(150)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다.The camera unit 120 receives a video signal. The camera unit 120 includes a lens 121 and an image sensor 123 and processes image frames such as still images and moving images obtained by the image sensor 123 in a video communication mode or a photographing mode. The image frame processed by the camera unit 120 can be outputted through the display unit 143. [ The image frame processed by the camera unit 120 may be stored in the storage unit 150 or may be transmitted to the outside through the wireless communication unit 110. [

특히, 본 발명에 따른 카메라부(120)는 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)를 더 구비한다. 전자식 마스크(125)는 제어부(160)의 제어 신호에 따라 투명한 상태 또는 복수의 핀홀로 이루어진 핀홀 어레이 상태로 변경된다. 전자식 마스크(125)는 액정 패널(liquid crystal panel) 등을 통해 구현될 수 있다.In particular, the camera unit 120 according to the present invention further includes an electronic mask 125 positioned between the lens 121 and the image sensor 123. The electronic mask 125 is changed to a transparent state or a pinhole array state including a plurality of pinholes in accordance with the control signal of the control unit 160. [ The electronic mask 125 may be implemented through a liquid crystal panel or the like.

투명한 상태의 전자식 마스크(125)에서는 렌즈(121)를 통해 들어오는 빛이 전자식 마스크(125)의 전체 영역에서 전부 투과된다. 반면, 핀홀 어레이 상태의 전자식 마스크(125)에서는 핀홀 영역은 핀홀을 통해 렌즈(121)를 통해 들어오는 빛을 투과시키지만, 핀홀 영역을 제외한 나머지 영역은 불투명한 상태가 되어 렌즈(121)를 통해 들어오는 빛을 투과시키지 않는다. 즉, 렌즈(121)를 통해 들어오는 빛 중에서 핀홀 영역으로 들어오는 빛만을 투과시킨다.In the transparent electronic mask 125, light entering through the lens 121 is entirely transmitted in the entire area of the electronic mask 125. On the other hand, in the electronic mask 125 in the pinhole array state, the pinhole region transmits light entering through the lens 121 through the pinhole, but the remaining region except for the pinhole region becomes opaque, . That is, only light that enters the pinhole region is transmitted through the lens 121.

카메라부(120)는 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수도 있다. 예컨대, 휴대 단말기(100)에서 표시부(143)가 배치된 면과 배치되지 않은 면 각각에 카메라부(110)가 구비될 수 있다.The camera unit 120 may include two or more cameras according to the configuration of the portable terminal 100. [ For example, the camera unit 110 may be provided on each of the surfaces of the portable terminal 100 that are not disposed with respect to the display unit 143.

오디오 처리부(130)는 코덱(CODEC)으로 구성될 수 있으며, 코덱은 패킷 데이터 등을 처리하는 데이터 코덱과 음성 등의 오디오 신호를 처리하는 오디오 코덱으로 구성될 수 있다. 오디오 처리부(130)는 디지털 오디오 신호를 오디오 코덱을 통해 아날로그 오디오 신호로 변환하여 스피커(SPK)를 통해 재생하고, 마이크(MIC)로부터 입력되는 아날로그 오디오 신호를 오디오 코덱을 통해 디지털 오디오 신호로 변환한다.The audio processing unit 130 may include a CODEC, and the CODEC may include a data codec for processing packet data and an audio CODEC for processing audio signals such as voice. The audio processing unit 130 converts the digital audio signal into an analog audio signal through an audio codec, reproduces the analog audio signal through the speaker SPK, and converts the analog audio signal input from the microphone MIC into a digital audio signal through an audio codec .

터치 스크린부(140)는 터치 센서부(141) 및 표시부(143)를 포함한다. 터치 센서부(141)와 표시부(143)는 상호 레이어 구조로 이루어져 있다. 터치 센서부(141)는 표시부(143)의 특정 부위에 가해진 압력 또는 특정 부위에서 발생하는 정전 용량 등의 변화를 전기적인 입력 신호로 변환한다. 이때, 터치 센서부(141)는 터치되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있다.The touch screen unit 140 includes a touch sensor unit 141 and a display unit 143. The touch sensor unit 141 and the display unit 143 have a mutual layer structure. The touch sensor unit 141 converts a change in a pressure applied to a specific portion of the display unit 143 or a capacitance generated at a specific portion into an electrical input signal. At this time, the touch sensor 141 can detect not only the position and area to be touched but also the pressure at the time of touch.

즉, 터치 센서부(141)는 사용자의 터치 입력을 감지하고, 감지 신호를 생성하여 제어부(160)에 전달한다. 감지 신호는 사용자에 의해 터치된 좌표 정보를 포함할 수 있다. 사용자가 터치한 상태에서 이동(드래그)하면, 터치 센서부(141)는 이동 경로의 좌표 정보를 포함하는 감지 신호를 생성하여 제어부(160)에 전달한다.That is, the touch sensor unit 141 senses the touch input of the user, generates a sensing signal, and transmits the sensing signal to the controller 160. The sensing signal may include coordinate information touched by the user. When the user moves (drag) in a state that the user touches the touch sensor 141, the touch sensor 141 generates a sensing signal including coordinate information of the movement path and transmits the sensing signal to the controller 160.

터치 센서부(141)는 정전용량 방식(capacitive overlay), 저항막 방식(resistive oberlay), 표면 초음파 방식(surface acoustic wave), 적외선 방식(infrared beam) 등의 터치 감지 센서로 구성되거나, 압력 감지 센서(pressure sensor)로 구성될 수 있다. 이와 같은 센서들 이외에도 물체의 접촉 또는 압력을 감지할 수 있는 모든 종류의 센서 기기가 본 발명의 터치 센서부(141)로 구성될 수 있다.The touch sensor unit 141 may be constituted by a touch sensing sensor such as a capacitive overlay, a resistive oberlay, a surface acoustic wave or an infrared beam, (pressure sensor). In addition to such sensors, any type of sensor device capable of sensing contact or pressure of an object may be configured with the touch sensor unit 141 of the present invention.

표시부(143)는 휴대 단말기(100)의 메뉴, 입력된 데이터, 기능 설정 정보 및 기타 다양한 정보를 사용자에게 시각적으로 제공한다. 표시부(143)는 휴대 단말기(100)의 부팅 화면, 대기 화면, 메뉴 화면, 통화 화면, 기타 어플리케이션 화면을 출력하는 기능을 수행한다.The display unit 143 visually provides menus, input data, function setting information, and various other information of the portable terminal 100 to the user. The display unit 143 functions to output a boot screen, a standby screen, a menu screen, a call screen, and other application screens of the portable terminal 100.

표시부(143)는 액정 디스플레이(LCD, Liquid Crystal Display), 유기 발광 다이오드(OLED, Organic Light Emitting Diode), 능동형 유기 발광 다이오드(AMOLED, Active Matrix Organic Light Emitting Diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 등으로 형성될 수 있다.The display unit 143 may be a liquid crystal display (LCD), an organic light emitting diode (OLED), an active matrix organic light emitting diode (AMOLED), a flexible display, Dimensional display (3D display) or the like.

저장부(150)는 휴대 단말기(100)의 동작에 필요한 프로그램 및 데이터를 저장하는 역할을 수행하며, 프로그램 영역과 데이터 영역으로 구분될 수 있다. 프로그램 영역은 휴대 단말기(100)의 전반적인 동작을 제어하는 프로그램 및 휴대 단말기(100)를 부팅시키는 운영체제(OS, Operating System), 멀티미디어 콘텐츠 재생 등에 필요한 응용 프로그램, 휴대 단말기(100)의 기타 옵션 기능, 예컨대, 음성 대화 기능, 카메라 기능, 소리 재생 기능, 이미지 또는 동영상 재생 기능에 필요한 응용 프로그램 등을 저장할 수 있다. 데이터 영역은 휴대 단말기(100)의 사용에 따라 발생하는 데이터가 저장되는 영역으로서, 이미지, 동영상, 폰 북, 오디오 데이터 등을 저장할 수 있다.The storage unit 150 stores programs and data necessary for the operation of the portable terminal 100, and can be divided into a program area and a data area. The program area includes a program for controlling the overall operation of the portable terminal 100, an operating system (OS) for booting the portable terminal 100, application programs necessary for reproducing multimedia contents, other optional functions of the portable terminal 100, For example, a voice conversation function, a camera function, a sound reproduction function, an application program necessary for an image or moving picture reproduction function, and the like can be stored. The data area is an area in which data generated according to use of the portable terminal 100 is stored, and can store images, moving pictures, phone books, audio data, and the like.

제어부(160)는 휴대 단말기(100)의 각 구성 요소에 대한 전반적인 동작을 제어한다. 제어부(160)는 카메라부(120)를 통해 영상 캡쳐 시, 전자식 마스크(125)의 상태를 변경하면서 영상을 캡쳐하여, 고화소 이미지와 라이트 필드(light field) 이미지를 획득한다. 그리고, 제어부(160)는 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득한다. 이를 위해, 본 발명의 실시예에 따른 제어부(160)는 영상 캡쳐 제어부(161)를 구비할 수 있다.The controller 160 controls overall operation of each component of the portable terminal 100. The control unit 160 captures an image while changing the state of the electronic mask 125 to capture a high-resolution image and a light field image at the time of capturing an image through the camera unit 120. Then, the control unit 160 acquires a depth map corresponding to the high-resolution image from the light field image. For this, the control unit 160 according to the embodiment of the present invention may include an image capture control unit 161.

그러면, 도 2를 참조하여 본 발명의 일 실시예에 따른 영상 캡쳐 과정에 대하여 설명한다.Hereinafter, an image capturing process according to an embodiment of the present invention will be described with reference to FIG.

도 2는 본 발명의 일 실시예에 따른 영상 캡쳐 과정을 설명하기 위한 순서도이다.2 is a flowchart illustrating an image capturing process according to an embodiment of the present invention.

도 2를 참조하면, 영상 캡쳐 모드에 진입하면(S210), 영상 캡쳐 제어부(161)는 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)의 상태를 변경하면서 영상을 캡쳐하여, 고화소 이미지와 라이트 필드 이미지를 획득한다(S230). 즉, 영상 캡쳐 제어부(161)는 전자식 마스크(125)를 투명한 상태와 핀홀 어레이 상태로 변경하면서 고화소 이미지와 라이트 필드 이미지를 획득할 수 있다.2, when the image capturing mode is entered (S210), the image capturing control unit 161 captures an image by changing the state of the electronic mask 125 located between the lens 121 and the image sensor 123, To obtain a high-pixel image and a light field image (S230). That is, the image capture control unit 161 can obtain a high-pixel image and a light-field image while changing the state of the electronic mask 125 to a transparent state and a pinhole array state.

그런 다음, 영상 캡쳐 제어부(161)는 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득한다(S250).Then, the image capture control unit 161 acquires a depth map corresponding to the high-resolution image from the light field image (S250).

여기서, 영상 캡쳐 제어부(161)는 Depth From Focus 방법을 이용하여 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다. 즉, 영상 캡쳐 제어부(161)는 라이트 필드 이미지로부터 초점 거리별로 리포커싱하여 리포커싱 이미지를 획득할 수 있다. 영상 캡쳐 제어부(161)는 초점 거리별 리포커싱 이미지 각각에서 에지(edge) 값이 높은 피사체를 검출할 수 있다. 영상 캡쳐 제어부(161)는 초점 거리별 리포커싱 이미지 각각에서 검출된 피사체의 초점 거리를 기반으로 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다.Here, the image capture controller 161 can acquire a depth map corresponding to a high-pixel image from the light field image using the Depth From Focus method. That is, the image capturing control unit 161 may obtain a re-focusing image by refocusing the light field image by the focal distance. The image capturing control unit 161 can detect a subject having a high edge value in each of the refocused images according to the focal distance. The image capture controller 161 may acquire a depth map corresponding to the high-resolution image based on the focal length of the subject detected in each of the re-focused images by the focal distance.

또한, 영상 캡쳐 제어부(161)는 Depth From Disparity 방법을 이용하여 라이트 필드 이미지로부터 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다. 즉, 영상 캡쳐 제어부(161)는 라이트 필드 이미지로부터 시차 이미지를 획득할 수 있다. 영상 캡쳐 제어부(161)는 시차 이미지를 이용하여 피사체 별로 에지 값이 높은 지점의 시차 이미지 상의 위치를 획득할 수 있다. 영상 캡쳐 제어부(161)는 피사체 별로 획득된 시차 이미지 상의 위치를 기반으로 고화소 이미지에 대응되는 깊이 맵을 획득할 수 있다.In addition, the image capture controller 161 can acquire a depth map corresponding to a high-resolution image from the light field image using the Depth From Disparity method. That is, the image capture controller 161 can acquire the parallax image from the light field image. The image capturing control unit 161 can acquire the position on the parallax image at the point where the edge value is high for each subject using the parallax image. The image capturing control unit 161 may acquire a depth map corresponding to the high-resolution image based on the position on the parallax image acquired for each subject.

그러면, 도 3 및 도 4를 참조하여 본 발명의 일 실시예에 따른 고화소 이미지와 라이트 필드 이미지 획득 단계에 대하여 보다 자세하게 설명한다.The steps of acquiring a high pixel image and a light field image according to an embodiment of the present invention will now be described in detail with reference to FIGS. 3 and 4. FIG.

도 3은 도 2에 도시한 고화소 이미지 및 라이트 필드 이미지 획득 단계를 보다 구체적으로 설명하기 위한 순서도이고, 도 4는 본 발명의 일 실시예에 따른 전자식 마스크의 상태 변경을 설명하기 위한 도면이다.FIG. 3 is a flowchart for explaining the step of acquiring a high-pixel image and a light-field image shown in FIG. 2 more specifically; FIG. 4 is a view for explaining a state change of an electronic mask according to an embodiment of the present invention;

도 3 및 도 4를 참조하면, 영상 캡쳐 제어부(161)는 전자식 마스크(125)를 투명한 상태로 변경하고(S231), 영상을 캡쳐하여 고화소 이미지를 획득한다(S233). 즉, 렌즈(121)를 통해 들어오는 빛이 전자식 마스크(125)의 전체 영역에서 전부 투과되어 이미지 센서(123)에 도달하고, 이미지 센서(121)를 통해 고화소 이미지를 획득할 수 있다.3 and 4, the image capturing control unit 161 changes the electronic mask 125 to a transparent state (S231), and captures an image to acquire a high-resolution image (S233). That is, light entering through the lens 121 is entirely transmitted through the entire area of the electronic mask 125 to reach the image sensor 123, and a high-resolution image can be obtained through the image sensor 121.

그런 다음, 영상 캡쳐 제어부(161)는 전자식 마스크(125)를 핀홀 어레이 상태로 변경하고(S235), 영상을 캡쳐하여 라이트 필드 이미지를 획득한다(S237). 즉, 렌즈(121)를 통해 들어오는 빛이 핀홀(PH) 영역에서만 투과되어 이미지 센서(123)에 도달하고, 이미지 센서(123)를 통해 라이트 필드 이미지를 획득할 수 있다. 이때, 영상 캡쳐 제어부(161)는 라이트 필드 이미지를 그레이 스케일(gray scale)된 흑백 이미지로 획득할 수 있다. 라이트 필드 이미지를 흑백 이미지로 획득하면, 색상에 의한 노이즈(noise), 보간(interpolation)에 의한 화질 저하 등을 방지할 수 있다. 또한, 영상 캡쳐 제어부(161)는 이미지 센서(123)의 이득(gain)을 높이고, 이미지 센서(123)를 통해 라이트 필드 이미지를 획득할 수 있다. 이미지 센서(123)의 이득을 증가시켜 핀홀(PH)에 의한 밝기 감소를 보상할 수 있다.Then, the image capture control unit 161 changes the state of the electronic mask 125 to the pinhole array state (S235), captures the image, and obtains the light field image (S237). That is, light entering through the lens 121 is transmitted only through the pinhole PH region, reaches the image sensor 123, and can acquire the light field image through the image sensor 123. At this time, the image capture controller 161 may acquire the light field image as a gray scale black and white image. If a light field image is acquired as a monochrome image, it is possible to prevent noise due to hue, deterioration in image quality due to interpolation, and the like. The image capturing control unit 161 may increase the gain of the image sensor 123 and acquire the light field image through the image sensor 123. The gain of the image sensor 123 can be increased to compensate for the brightness reduction caused by the pinhole PH.

한편, 본 발명은 전자식 마스크(125)를 투명한 상태로 변경하고 영상을 캡쳐하여 고화소 이미지를 획득한 후에, 전자식 마스크(125)를 핀홀 어레이 상태로 변경하고 영상을 캡쳐하여 라이트 필드 이미지를 획득하는 것으로 도 3에 도시하였다. 그러나, 본 발명은 이에 한정되지 않고 실시예에 따라 전자식 마스크(125)를 핀홀 어레이 상태로 변경하고 영상을 캡쳐하여 라이트 필드 이미지를 획득한 후에, 전자식 마스크(125)를 투명한 상태로 변경하고 영상을 캡쳐하여 고화소 이미지를 획득할 수도 있다.Meanwhile, in the present invention, after the electronic mask 125 is changed to a transparent state, an image is captured to obtain a high-resolution image, the electronic mask 125 is changed to a pinhole array state, and an image is captured to obtain a light field image 3 is shown. However, the present invention is not limited to this. However, the present invention is not limited to this, and the electronic mask 125 may be changed to a pinhole array state, an image may be captured to acquire a light field image, And capture a high-resolution image.

그러면, 도 5를 참조하여 본 발명의 일 실시예에 따른 핀홀 어레이 상태의 전자식 마스크에 대하여 보다 자세하게 설명한다.5, an electronic mask in a pinhole array state according to an embodiment of the present invention will be described in more detail.

도 5는 본 발명의 일 실시예에 따른 핀홀 어레이 상태의 전자식 마스크를 설명하기 위한 도면이다.5 is a view for explaining an electronic mask in a pinhole array state according to an embodiment of the present invention.

도 5를 참조하면, 이미지 센서(123)는 복수의 픽셀(PX)로 구성된다. 이미지 센서(123)를 구성하는 픽셀(PX)의 개수가 많아질수록 고화질의 이미지를 획득할 수 있다. 그리고, 마이크로 이미지(MI)는 3x3 크기를 가지며, 이에 따라 총 9개의 픽셀(PX)로 이루어진다. 즉, 이미지 센서(123)는 복수의 마이크로 이미지(MI)로 구성된다. 여기서, 마이크로 이미지(MI)의 크기는 라이트 필드 이미지로부터 획득되는 깊이 맵의 깊이 레벨을 기반으로 결정된다. 예컨대, 마이크로 이미지(MI)의 크기가 커질 수록 깊이 레벨이 높아져 보다 정밀한 깊이 맵을 획득할 수 있으나, 라이트 필드 이미지의 해상도는 낮아지게 된다. 한편, 본 발명에 따른 마이크로 이미지(MI)가 총 9개의 픽셀(PX)로 이루어진 것으로 도 5에 도시하였으나, 본 발명은 이에 한정되지 않고 실시예에 따라 마이크로 이미지(MI)의 크기는 커지거나 작아질 수 있다.Referring to FIG. 5, the image sensor 123 is composed of a plurality of pixels PX. As the number of pixels PX constituting the image sensor 123 increases, a high-quality image can be obtained. In addition, the micro image MI has a size of 3x3, and thus has a total of nine pixels PX. That is, the image sensor 123 is composed of a plurality of micro images (MI). Here, the size of the micro image (MI) is determined based on the depth level of the depth map obtained from the light field image. For example, as the size of the micro image MI increases, the depth level becomes higher, so that a more accurate depth map can be obtained, but the resolution of the light field image becomes lower. 5, the micro image MI according to the present invention is composed of nine pixels PX in total, but the present invention is not limited thereto. The micro image MI may have a larger or smaller size Can be.

그리고, 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)가 핀홀 어레이 상태이면, 전자식 마스크(125)는 복수의 핀홀(PH)로 이루어진다. 여기서, 핀홀(PH)의 크기는 이미지 센서(123)를 구성하는 픽셀(PX)의 크기를 기반으로 결정된다. 예컨대, 핀홀(PH)의 크기는 픽셀(PX)의 크기와 비슷한 크기로 구성될 수 있다. 물론, 핀홀(PH)의 크기는 핀홀(PH)을 통해 투과되는 광량을 증가시키기 위해 픽셀(PX)의 크기보다 더 크게 구성될 수도 있다. 또한, 핀홀(PH)의 크기는 마이크로 이미지(MI)의 크기와 픽셀(PX)의 크기를 전부 고려하여 결정될 수도 있다. 예컨대, 마이크로 이미지(MI)가 3x3 크기로 이루어져 있으면, 필홀(PH)의 크기는 픽셀(PX)의 크기와 비슷하게 구성될 수 있다. 반면, 마이크로 이미지(MI)가 6x6 크기로 이루어져 있으면, 핀홀(PH)의 크기는 픽셀(PX) 크기의 약 두배 정도 크기로 구성될 수 있다.When the electronic mask 125 positioned between the lens 121 and the image sensor 123 is in a pinhole array state, the electronic mask 125 is made up of a plurality of pinholes PH. Here, the size of the pinhole PH is determined based on the size of the pixel PX constituting the image sensor 123. For example, the size of the pinhole PH may be configured to have a size similar to that of the pixel PX. Of course, the size of the pinhole PH may be larger than the size of the pixel PX to increase the amount of light transmitted through the pinhole PH. Also, the size of the pinhole PH may be determined in consideration of the size of the micro image MI and the size of the pixel PX. For example, if the micro image MI has a size of 3x3, the size of the fill hole PH may be configured to be similar to the size of the pixel PX. On the other hand, if the micro image MI has a size of 6x6, the size of the pinhole PH may be about twice the size of the pixel PX.

그리고, 핀홀(PH)의 간격은 마이크로 이미지(MI)의 크기를 기반으로 결정된다. 예컨대, 도 5에 도시한 바와 같이, 핀홀(PH)의 개수는 마이크로 이미지(MI)의 개수와 동일하고, 각각의 핀홀(PH)은 마이크로 이미지(MI)의 가운데 부분에 위치하도록 구성될 수 있다.The interval of the pinhole PH is determined based on the size of the micro image MI. 5, the number of pinholes PH is equal to the number of micro-images MI, and each pinhole PH may be configured to be located in the middle portion of the micro-image MI .

이와 같이, 렌즈(121)와 이미지 센서(123) 사이에 위치하는 전자식 마스크(125)의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득함으로써, 깊이 맵을 획득하기 위한 추가적인 센서를 구비하지 않아도 고화소 이미지에 대응되는 깊이 맵을 라이트 필드 이미지로부터 획득할 수 있다.As described above, by capturing an image while changing the state of the electronic mask 125 located between the lens 121 and the image sensor 123 to acquire a high-resolution image and a light field image, an additional sensor The depth map corresponding to the high-pixel image can be obtained from the light field image even if the depth map is not provided.

또한, 렌즈(121)와 이미지 센서(123)로 이루어진 종래의 카메라 모듈의 크기 변경없이 렌즈(121)와 이미지 센서(123) 사이에 전자식 마스크(125)를 추가하는 것으로 구현할 수 있어, 휴대 단말기(100) 등의 전자기기에 쉽게 탑재할 수 있다.It is also possible to add an electronic mask 125 between the lens 121 and the image sensor 123 without changing the size of the conventional camera module including the lens 121 and the image sensor 123, 100) or the like.

또한, 고화소 이미지와 라이트 필드 이미지가 동일한 광학계에서 획득되므로, 라이트 필드 이미지로부터 획득된 깊이 맵과 고화소 이미지를 동기화하기 위한 추가 연산이 필요하지 않다.Also, since a high-resolution image and a light field image are acquired in the same optical system, no additional computation is required to synchronize the high-resolution image with the depth map obtained from the light field image.

한편, 본 발명의 실시예에 따른 제어부(160) 및 영상 캡쳐 제어부(161)가 별도의 블록으로 구성되고, 각 블록이 서로 상이한 기능을 수행하는 것으로 설명하였지만, 이는 설명상의 편의를 위한 것일 뿐, 반드시 이와 같이 각 기능이 구분되어 지는 것은 아니다. 예컨대, 영상 캡쳐 제어부(161)가 수행하는 특정 기능을 제어부(160) 자체가 수행할 수도 있다.Although the controller 160 and the image capture controller 161 according to the exemplary embodiment of the present invention are configured as separate blocks and each block performs a different function, The functions are not necessarily distinguished in this manner. For example, the control unit 160 may perform a specific function performed by the image capture control unit 161 itself.

본 명세서와 도면에 개시된 본 발명의 실시예들은 본 발명의 기술 내용을 쉽게 설명하고 본 발명의 이해를 돕기 위해 특정 예를 제시한 것일 뿐이며, 본 발명의 범위를 한정하고자 하는 것은 아니다. 여기에 개시된 실시예들 이외에도 본 발명의 기술적 사상에 바탕을 둔 다른 변형 예들이 실시 가능하다는 것은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 자명한 것이다.The embodiments of the present invention disclosed in the present specification and drawings are intended to be illustrative only and not intended to limit the scope of the present invention. It will be apparent to those skilled in the art that other modifications based on the technical idea of the present invention are possible in addition to the embodiments disclosed herein.

100 : 휴대 단말기
110 : 무선 통신부 120 : 카메라부,
130 : 오디오 처리부 140 : 터치 스크린부,
150 : 저장부 160 : 제어부,
161 : 영상 캡쳐 제어부
100: portable terminal
110: wireless communication unit 120: camera unit,
130: audio processing unit 140: touch screen unit,
150: storage unit 160: control unit,
161: image capture control unit

Claims (10)

휴대 단말기의 영상 캡쳐 장치로서,
렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부; 및
상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드(light field) 이미지를 획득하고, 상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵(depth map)을 획득하는 제어부;
를 포함하는 영상 캡쳐 장치.
1. An image capturing device of a portable terminal,
A camera unit including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor; And
Capturing an image while changing the state of the electronic mask when capturing an image through the camera unit, acquiring a high-resolution image and a light field image, and extracting a depth map corresponding to the high- );
And an image capturing device.
제1항에서, 상기 제어부는,
상기 전자식 마스크를 투명한 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 고화소 이미지를 획득하며, 상기 전자식 마스크를 복수의 핀홀로 이루어진 핀홀 어레이 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 라이트 필드 이미지를 획득하는 영상 캡쳐 장치.
2. The apparatus of claim 1,
Changing the state of the electronic mask to a transparent state, capturing an image through the camera unit to obtain the high-resolution image, changing the state of the electronic mask to a pinhole array state including a plurality of pinholes, capturing an image through the camera unit, An image capture device for acquiring an image.
제2항에서, 상기 핀홀의 크기는,
상기 이미지 센서를 구성하는 픽셀의 크기를 기반으로 결정되는 영상 캡쳐 장치.
3. The connector according to claim 2,
Wherein the image sensor is determined based on a size of a pixel constituting the image sensor.
제2항에서, 상기 핀홀의 간격은,
상기 이미지 센서를 구성하는 픽셀로 이루어진 마이크로 이미지의 크기를 기반으로 결정되는 영상 캡쳐 장치.
The method according to claim 2,
Wherein the image sensor is determined based on a size of a micro image including pixels constituting the image sensor.
제4항에서, 상기 마이크로 이미지의 크기는,
상기 깊이 맵의 깊이 레벨을 기반으로 결정되는 영상 캡쳐 장치.
The method of claim 4, wherein the size of the micro-
Wherein the depth map is determined based on a depth level of the depth map.
휴대 단말기의 영상 캡쳐 방법으로서,
렌즈, 이미지 센서 및 상기 렌즈와 상기 이미지 센서 사이에 위치하는 전자식 마스크를 포함하는 카메라부를 통해 영상을 캡쳐하는 단계;
상기 카메라부를 통해 영상 캡쳐 시, 상기 전자식 마스크의 상태를 변경하면서 영상을 캡쳐하여 고화소 이미지와 라이트 필드 이미지를 획득하는 단계; 및
상기 라이트 필드 이미지로부터 상기 고화소 이미지에 대응되는 깊이 맵을 획득하는 단계;
를 포함하는 영상 캡쳐 방법.
A method of capturing an image of a portable terminal,
Capturing an image through a camera section including a lens, an image sensor, and an electronic mask positioned between the lens and the image sensor;
Capturing an image while changing the state of the electronic mask when capturing an image through the camera unit to obtain a high-pixel image and a light-field image; And
Obtaining a depth map corresponding to the high-resolution image from the light field image;
The method comprising the steps of:
제6항에서, 상기 이미지 획득 단계는,
상기 전자식 마스크를 투명한 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 고화소 이미지를 획득하는 단계; 및
상기 전자식 마스크를 복수의 핀홀로 이루어진 핀홀 어레이 상태로 변경하고 상기 카메라부를 통해 영상을 캡쳐하여 상기 라이트 필드 이미지를 획득하는 단계;를 포함하는 영상 캡쳐 방법.
7. The method of claim 6,
Changing the electronic mask to a transparent state and capturing an image through the camera unit to obtain the high-resolution image; And
Changing the state of the electronic mask to a pinhole array comprising a plurality of pinholes, and capturing an image through the camera unit to obtain the light field image.
제7항에서, 상기 핀홀의 크기는,
상기 이미지 센서를 구성하는 픽셀의 크기를 기반으로 결정되는 영상 캡쳐 방법.
The method as claimed in claim 7,
And determining a size of a pixel included in the image sensor.
제7항에서, 상기 핀홀의 간격을,
상기 이미지 센서를 구성하는 픽셀로 이루어진 마이크로 이미지의 크기를 기반으로 결정되는 영상 캡쳐 방법.
The method according to claim 7,
And determining a size of a micro image including pixels constituting the image sensor.
제9항에서, 상기 마이크로 이미지의 크기는,
상기 깊이 맵의 깊이 레벨을 기반으로 결정되는 영상 캡쳐 방법.
10. The method of claim 9, wherein the size of the micro-
And determining a depth level of the depth map based on the depth level of the depth map.
KR1020130016394A 2013-02-15 2013-02-15 Apparatus and method for capturing image of mobile terminal KR20140102900A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020130016394A KR20140102900A (en) 2013-02-15 2013-02-15 Apparatus and method for capturing image of mobile terminal

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130016394A KR20140102900A (en) 2013-02-15 2013-02-15 Apparatus and method for capturing image of mobile terminal

Publications (1)

Publication Number Publication Date
KR20140102900A true KR20140102900A (en) 2014-08-25

Family

ID=51747468

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130016394A KR20140102900A (en) 2013-02-15 2013-02-15 Apparatus and method for capturing image of mobile terminal

Country Status (1)

Country Link
KR (1) KR20140102900A (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101594314B1 (en) 2014-12-02 2016-02-16 주식회사 템퍼스 3D distance measuring system and 3D distance measuring method

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101594314B1 (en) 2014-12-02 2016-02-16 주식회사 템퍼스 3D distance measuring system and 3D distance measuring method

Similar Documents

Publication Publication Date Title
KR102338576B1 (en) Electronic device which stores depth information associating with image in accordance with Property of depth information acquired using image and the controlling method thereof
CN104919515A (en) Apparatus and method for controlling display of mobile terminal
CN105827961A (en) Mobile terminal and focusing method
CN106791339B (en) Imaging system and control method thereof
US11750915B2 (en) Mobile terminal
KR20190009104A (en) Electronic Device for controlling lens focus and the controlling Method thereof
KR20190087215A (en) Electronic device and methof to control auto focus of camera
KR102022892B1 (en) Apparatus and method for processing image of mobile terminal comprising camera
KR20140142441A (en) Shooting Method for Three-Dimensional Modeling And Electrical Device Thereof
CN107071277B (en) Optical drawing shooting device and method and mobile terminal
CN110876014B (en) Image processing method and device, electronic device and storage medium
KR102082365B1 (en) Method for image processing and an electronic device thereof
EP3933502A1 (en) Optical processing apparatus, camera module, electronic device and capturing method
CN107613210B (en) Image display method and device, terminal and storage medium
JP2023501608A (en) Electronics and focus method
KR102374428B1 (en) Graphic sensor, mobile terminal and graphic shooting method
KR102285442B1 (en) Camera module, processing method and apparatus, electronic device, recording medium
CN115359105B (en) Depth-of-field extended image generation method, device and storage medium
KR20140102900A (en) Apparatus and method for capturing image of mobile terminal
WO2021104262A1 (en) Electronic device and focusing method
CN113452813B (en) Image acquisition device, terminal device, method, processing device, and medium
CN112866555B (en) Shooting method, shooting device, shooting equipment and storage medium
CN110971722B (en) Image shooting method and device
CN110874829B (en) Image processing method and device, electronic device and storage medium
KR102185710B1 (en) Transparent display apparatus, group play system using transparent display apparatus and performance methods thereof

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid