KR102385360B1 - 이미지 보정을 수행하는 전자 장치 및 그 동작 방법 - Google Patents

이미지 보정을 수행하는 전자 장치 및 그 동작 방법 Download PDF

Info

Publication number
KR102385360B1
KR102385360B1 KR1020170120537A KR20170120537A KR102385360B1 KR 102385360 B1 KR102385360 B1 KR 102385360B1 KR 1020170120537 A KR1020170120537 A KR 1020170120537A KR 20170120537 A KR20170120537 A KR 20170120537A KR 102385360 B1 KR102385360 B1 KR 102385360B1
Authority
KR
South Korea
Prior art keywords
image
camera
electronic device
image set
processor
Prior art date
Application number
KR1020170120537A
Other languages
English (en)
Other versions
KR20190032061A (ko
Inventor
주우현
김재호
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020170120537A priority Critical patent/KR102385360B1/ko
Priority to EP18195522.0A priority patent/EP3457680B1/en
Priority to CN201811093261.7A priority patent/CN109525774B/zh
Priority to US16/135,562 priority patent/US11128803B2/en
Publication of KR20190032061A publication Critical patent/KR20190032061A/ko
Application granted granted Critical
Publication of KR102385360B1 publication Critical patent/KR102385360B1/ko

Links

Images

Classifications

    • H04N5/23277—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682—Vibration or motion blur correction
    • H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
    • H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682—Vibration or motion blur correction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/001—Image restoration
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/58—Means for changing the camera field of view without moving the camera body, e.g. nutating or panning of optics or image sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681—Motion detection
    • H04N23/6811—Motion detection based on the image signal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681—Motion detection
    • H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682—Vibration or motion blur correction
    • H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682—Vibration or motion blur correction
    • H04N23/685—Vibration or motion blur correction performed by mechanical compensation
    • H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H04N23/951—Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • H04N5/2258—
    • H04N5/23254—

Abstract

전자 장치가 개시된다. 전자 장치는, 제 1 카메라, 상기 제 1 카메라와 다른 화각을 가지는 제 2 카메라, 및 프로세서를 포함하고, 상기 프로세서는, 상기 제 1 카메라를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 2 카메라를 이용하여 상기 외부 객체에 대한 제 2 이미지 셋을 획득하고, 상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라에 대응하는 움직임을 판단하고, 상기 제 1 카메라에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하고, 상기 제 1 카메라에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하고, 상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하도록 설정될 수 있다. 그 밖에 다양한 실시예가 제공될 수 있다.

Description

이미지 보정을 수행하는 전자 장치 및 그 동작 방법{ELECTRONIC DEVICE PERFORMING IMAGE CORRECTION AND OPERATION METHOD OF THEREOF}
본 발명의 다양한 실시예는, 복수의 카메라를 이용하여 이미지 보정을 수행하는 전자 장치 및 그 제어 방법에 관한 것이다.
디지털 카메라에서 흔들림 보정은 카메라 기기나 피사체가 흔들리더라도 획득된 이미지를 보정하여 촬영된 영상은 흔들림이 없도록 변환하는 기법을 말하며 최근 카메라를 포함한 전자 장치에서 널리 사용되고 있다. 흔들림 보정 방식은 광학식 흔들림 보정(OIS)과 전자식 흔들림 보정(DIS)이 있다. 전자식 흔들림 보정 방식은 전자 장치가 광학 요소가 아닌 디지털 프로세싱으로 흔들림을 경감하는 방식이며, 광학식 흔들림 보정 방식은 센서의 노광 시간을 줄이거나 렌즈 또는 센서를 이동시켜 광학적으로 흔들림을 경감시키는 방식을 통칭한다.
전자 장치가 단일 또는 복수의 센서 시스템에서 흔들림 보정을 수행하는 경우, 전자 장치는 단일 센서를 이용하여 획득한 이미지를 이용하여 전자식 흔들림 보정을 수행할 수 있다. 예를 들어, 전자 장치는 흔들림이 발생하여 이미지의 이동이 일어난 경우 단일 센서를 이용하여 획득된 이미지의 마진 영역 중 움직임이 발생한 부분을 제거하고 남은 부분을 보정된 이미지로 결정할 수 있다.
전자 장치가 단일 센서를 이용하여 디지털 방식의 흔들림 보정을 수행할 경우 단일 센서를 이용하여 획득된 원본 사이즈의 이미지의 일부 영역을 제거한 후 남은 영역을 다시 원본 사이즈로 확대시킴으로써 보정된 이미지를 생성할 수 있다. 그러나 이 경우 이미지의 화각이 줄어들고 보정된 이미지의 화질이 저하될 수 있어 단일 센서만을 이용한 이미지의 보정에는 한계가 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 광각센서와 망원 센서로 구성된 복수의 카메라를 탑재한 전자 장치에서 사용자가 망원 센서를 이용하여 촬영하는 경우, 광각 센서로 촬영한 영상을 이용하여 망원 센서로 촬영한 망원 이미지의 보정에 필요한 이미지 영역을 확보하여, 망원 센서 기준으로 화각 손실 또는 확대에 의한 화질 열화를 줄이고자 한다.
본 발명의 다양한 실시예에 따른 전자 장치는, 제 1 카메라, 상기 제 1 카메라와 다른 화각을 가지는 제 2 카메라, 및 프로세서를 포함하고, 상기 프로세서는, 상기 제 1 카메라를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 2 카메라를 이용하여 상기 외부 객체에 대한 제 2 이미지를 셋을 획득하고, 상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라에 대응하는 움직임을 판단하고, 상기 제 1 카메라에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하고, 상기 제 1 카메라에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하고, 상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치를 제어하는 방법은, 제 1 카메라를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 1 카메라와 다른 화각을 가지는 제 2 카메라를 이용하여 상기 외부 객체에 대한 제 2 이미지 셋을 획득하는 동작, 상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라에 대응하는 움직임을 판단하는 동작, 상기 제 1 카메라에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하는 동작, 및 상기 제 1 카메라에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하는 동작, 및 상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 제1 카메라, 상기 제 1 카메라와 다른 화각을 가지는 제 2 카메라, 및 프로세서를 포함하고, 상기 프로세서는, 상기 제 1 카메라를 이용하여 제 1 이미지를 획득하고, 및 상기 제 2 카메라를 이용하여 상기 제 2 이미지를 획득하고, 상기 제1 이미지에 대응하는 제1 영역 및 상기 제2 이미지에 대응하는 제2 영역을 포함하는 보정 이미지를 생성하도록 설정될 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 망원 센서 기준으로 화각이 손실되지 않는 영상을 획득할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 전자 장치가 보정된 이미지를 확대하지 않아도 되므로, 망원 센서를 이용하여 획득한 이미지의 화질 손실을 방지할 수 있다.
도 1은 본 발명의 다양한 실시예에 따른 전자 장치를 포함하는 네트워크 환경을 도시한다.
도 2는, 다양한 실시예들에 따른, 카메라 모듈의 블럭도이다.
도 3은 본 발명의 다양한 실시예에 따른 제1 카메라 및 제2 카메라에 대한 예시적인 도면이다.
도 4는 제1 카메라 및 제2 카메라의 화각에 대한 예시적인 도면이다.
도 5a 내지 도 5c는 본 발명의 다양한 실시예에 따른 전자 장치가 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 구성을 설명하기 위한 도면이다.
도 6a내지 도 6c는 본 발명의 다양한 실시예에 따른 전자 장치가 보상 영역을 설정하는 구성을 설명하기 위한 예시적인 도면이다.
도 7a 내지 도 7c는 본 발명의 다양한 실시예에 따른 전자 장치가 제1 카메라 및 제2 카메라를 이용하여 흔들림 보정을 수행하는 구성에 대한 예시적인 도면이다.
도 8a 내지 도 8c는 본 발명의 다양한 실시예에 따른 전자 장치가 흔들림이 보정된 망원 이미지를 생성하는 구성을 설명하기 위한 예시적인 블록도이다.
도 9a 내지 도 9b는 본 발명의 다양한 실시예에 따른 전자 장치에 흔들림이 없는 경우에 흔들림 보정을 수행하는 구성에 대한 예시적인 도면이다.
도 10a 및 도 10b는 본 발명의 다양한 실시예에 따른 전자 장치가 제2 카메라의 프레임 비율을 제어하여 흔들림 보정된 이미지를 생성하는 구성에 대한 도면이다.
도 11a 및 도 11b는 본 발명의 다양한 실시예에 따른 전자 장치가 뎁스 센서(depth sensor)를 이용하여 흔들림이 보정된 이미지를 생성하는 구성에 대한 도면이다.
도 12a 및 도 12b는 본 발명의 다양한 실시예에 따른 전자 장치가 이미지의 굴곡 처리를 수행하여 흔들림 보정된 이미지를 생성하는 구성에 대한 예시적인 도면이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블럭도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 및 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나 다른 구성 요소가 추가될 수 있다. 어떤 실시예에서는, 예를 들면, 표시 장치(160)(예: 디스플레이)에 임베디드된 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)의 경우와 같이, 일부의 구성요소들이 통합되어 구현될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 구동하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 및 연산을 수행할 수 있다. 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하여 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 운영되고, 추가적으로 또는 대체적으로, 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화된 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 여기서, 보조 프로세서(123)는 메인 프로세서(121)와 별개로 또는 임베디드되어 운영될 수 있다.
이런 경우, 보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 수행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부 구성 요소로서 구현될 수 있다. 메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 저장할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 저장되는 소프트웨어로서, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신하기 위한 장치로서, 예를 들면, 마이크, 마우스, 또는 키보드를 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력하기 위한 장치로서, 예를 들면, 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용되는 스피커와 전화 수신 전용으로 사용되는 리시버를 포함할 수 있다. 일실시예에 따르면, 리시버는 스피커와 일체 또는 별도로 형성될 수 있다.
표시 장치(160)는 전자 장치(101)의 사용자에게 정보를 시각적으로 제공하기 위한 장치로서, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(160)는 터치 회로(touch circuitry) 또는 터치에 대한 압력의 세기를 측정할 수 있는 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리와 전기 신호를 쌍방향으로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150) 를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 유선 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102)(예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 내부의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 외부 전자 장치(예: 전자 장치(102))와 유선 또는 무선으로 연결할 수 있는 지정된 프로토콜을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는 HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102))를 물리적으로 연결시킬 수 있는 커넥터, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈, 이미지 센서, 이미지 시그널 프로세서, 또는 플래시를 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리하기 위한 모듈로서, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구성될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성 요소에 전력을 공급하기 위한 장치로서, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 유선 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되는, 유선 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함하고, 그 중 해당하는 통신 모듈을 이용하여 제 1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 상술한 여러 종류의 통신 모듈(190)은 하나의 칩으로 구현되거나 또는 각각 별도의 칩으로 구현될 수 있다.
일실시예에 따르면, 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 사용자 정보를 이용하여 통신 네트워크 내에서 전자 장치(101)를 구별 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부로 송신하거나 외부로부터 수신하기 위한 하나 이상의 안테나들을 포함할 수 있다. 일시예에 따르면, 통신 모듈(190)(예: 무선 통신 모듈(192))은 통신 방식에 적합한 안테나를 통하여 신호를 외부 전자 장치로 송신하거나, 외부 전자 장치로부터 수신할 수 있다.
상기 구성요소들 중 일부 구성요소들은 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input/output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))를 통해 서로 연결되어 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 외부 전자 장치에서 실행될 수 있다. 일실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 외부 전자 장치에게 요청할 수 있다. 상기 요청을 수신한 외부 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는, 다양한 실시예들에 따른, 카메라 모듈(180)의 블럭도(200)이다. 도 2를 참조하면, 카메라 모듈(180)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)일 수 있다. 복수의 렌즈 어셈블리(210)들은 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 렌즈 어셈블리와 적어도 하나의 다른 렌즈 속성을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다. 플래쉬(220)는 피사체로부터 방출되는 빛을 강화하기 위하여 사용되는 광원을 방출할 수 있다. 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다.
이미지 센서(230)는 피사체로부터 렌즈 어셈블리(210) 를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서로 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향(예: 이미지 흔들림)을 적어도 일부 보상하기 위하여 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있으며, 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 상기 움직임을 감지할 수 있다.
메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 표시 장치(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 이미지 처리(예: 뎁스 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening))을 수행할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 표시 장치(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 전달될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 이미지들은 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 표시 장치(160)를 통해 표시될 수 있다.
일실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 둘 이상의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 적어도 하나의 카메라 모듈(180)은 광각 카메라 또는 전면 카메라이고, 적어도 하나의 다른 카메라 모듈은 망원 카메라 또는 후면 카메라일 수 있다. 혹은 적어도 둘 이상의 카메라 모듈이 전면 카메라이거나 적어도 둘 이상의 카메라 모듈이 후면 카메라 일 수 있다.
도 3은 본 발명의 다양한 실시예에 따른 제1 카메라 및 제2 카메라에 대한 예시적인 도면이다. 도 4는 제1 카메라 및 제2 카메라의 화각에 대한 예시적인 도면이다.
본 발명의 다양한 실시예에 따른 전자 장치(300)는, 제1 이미지 셋을 촬영하는 제 1 카메라(310), 상기 제 1 카메라(310)와 다른 화각을 가지며, 제2 이미지 셋을 촬영하는 제 2 카메라(320) 및 제1 카메라(310) 및 제2 카메라(320) 각각으로부터 획득한 제1 이미지 셋 및 제2 이미지 셋을 이용하여 외부 객체에 대한 흔들림 보정된 이미지를 생성하는 프로세서(예: 프로세서(120))를 포함할 수 있다. 일실시예에 따라, 제1 카메라(310)는 제2 카메라(320)보다 긴 초점 거리를 가질 수 있고, 더 좁은 화각을 가질 수 있다. 제2 카메라(320)는 제1 카메라(310)에 비해 더 넓은 범위의 촬영이 가능할 수 있으며, 제1 카메라(310)는 제2 카메라(320)에 비해 더 멀리 있는 외부 객체의 촬영이 가능할 수 있다. 도 4를 참고하면, 제1 카메라(410)는 도 3의 제1 카메라(310)와 같은 구성일 수 있으며, 제2 카메라(420)는 도 3의 제2 카메라(320)와 같은 구성일 수 있다. 제1 카메라(410)와 제2 카메라(420)는 동일한 방향을 향하여 동일한 방향에 대한 이미지를 촬영할 수 있고, 제1 카메라(410)의 화각(411)이 제2 카메라(420)의 화각(421)보다 더 좁은 화각을 가질 수 있다. 제1 카메라(410) 및 제2 카메라(420)를 이용하여 동일한 방향에 대한 이미지를 촬영하는 경우, 제2 카메라(420)는 제1 카메라(410)에 비해 더욱 넓은 화각을 갖는 이미지의 촬영이 가능하므로 제2 카메라(420)를 이용하여 획득되는 이미지는 제1 카메라(410)를 이용하여 획득되는 이미지를 모두 포함할 수 있으며, 제1 카메라(410)를 이용하여 획득되는 이미지에 포함되지 못한 범위의 이미지가 제2 카메라(420)를 통해 획득한 이미지에 포함될 수 있다. 도면에는 도시되지 않았지만, 제1 카메라(410)는 제2 카메라(420)와 동일한 화각을 가질 수 있다. 예를 들어, 전자 장치(400)는 복수의 제2 카메라(420)를 포함할 수 있다. 예를 들어, 프로세서(예: 도 1의 프로세서(120))가 제1 카메라(410)의 주변으로 4개의 제2 카메라(420) 또는 8개의 제2 카메라(420)를 배치하여 복수의 제2 카메라(420)로부터 획득한 이미지를 합성하면, 제1 카메라(410)보다 넓은 화각을 가지는 카메라를 이용하여 이미지를 획득하는 효과를 가질 수 있다. 아래의 도면에서 설명될 내용에서는 제1 카메라(410)에 비해 화각이 넓은 하나의 제2 카메라(420)를 기초로 하여 설명하지만, 상술한 바와 같이 제1 카메라(410)와 동일한 화각을 갖는 복수의 제2 카메라(420)를 이용하여 전자 장치의 흔들림 보정이 수행될 수도 있다.
도 5a 내지 도 5c는 본 발명의 다양한 실시예에 따른 전자 장치가 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 구성을 설명하기 위한 도면이다.
도 5a는 본 발명의 다양한 실시예에 따른 전자 장치(예: 프로세서(120))가 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 방법에 대한 흐름도이다. 동작 501에서 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라를 이용하여 외부 객체에 대한 제1 이미지 셋(set)을 획득할 수 있다. 예를 들어, 도 5b를 참조하면, 전자 장치(101)는 적어도 하나의 이미지 셋을 구성하는 이미지 프레임들을 획득할 수 있다. 예를 들어, 전자 장치(101)는 제1 카메라를 이용하여 이미지 프레임들을 연속적으로 촬영할 수 있다. 또는, 전자 장치(101)는 복수 개의 카메라를 가지는 다른 전자 장치가 촬영한 이미지 프레임들을 통신 모듈을 통하여 획득할 수 있다.
503 동작에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 전자 장치(101)의 움직임을 판단할 수 있다. 예를 들어, 전자 장치(101)에 연결된 제1 카메라(310)에 대응하는 움직임을 판단할 수 있다. 예를 들어, 전자 장치(101)는, 복수 개의 이미지 프레임 사이의 차이를 판단할 수 있으며, 판단된 차이에 기초하여 움직임을 판단할 수 있다. 예를 들어, 전자 장치(101)는, 제 3 이미지 프레임(413) 및 제 4 이미지 프레임(514) 사이의 차이를 판단할 수 있다. 전자 장치(101)는, 제 3 이미지 프레임(513) 내의 제 1 오브젝트의 위치와 제 4 이미지(514) 내의 제 1 오브젝트의 위치 사이의 거리(예: 픽셀 거리)에 기초하여, 움직임을 판단할 수 있다. 또는, 전자 장치(101)는 제3 이미지 프레임(513) 내에서 제1 오브젝트의 위치에 관련된 좌표 및 제4 이미지 프레임(514) 내의 제1 오브젝트의 위치에 관련된 좌표를 획득하고, 획득된 좌표 값의 차이에 기초하여 움직임을 판단할 수 있다. 전자 장치(101)가 움직임을 판단하는 동작은 전자 장치(101)가 제1 이미지 셋 및 제2 이미지 셋을 획득하는 시간 중 적어도 일부의 시간 동안 수행될 수 있으며, 상기 적어도 일부의 시간은 프로세서에 의해 미리 설정된 값을 가지거나, 사용자에 의해 설정된 값일 수 있다. 일실시예에 따라, 프로세서는 제1 카메라(310) 및 제2 카메라(320)에 전기적으로 연결된 이미지 센서 또는 프로세서에 전기적으로 연결된 센서로부터 측정된 센서 정보를 이용하여 전자 장치(101)의 움직임 정보를 획득할 수 있다. 프로세서는 획득된 움직임 정보에 기초하여 전자 장치(101)의 움직임을 판단할 수 있다.
505 동작에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라에 대응하는 움직임에 적어도 기반하여, 제1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성할 수 있다. 또는, 전자 장치(101)는 제1 이미지 셋을 이용하지 않고 제1 카메라에 전기적으로 연결된 센서로부터 수신한 센서 정보 및 전자 장치(101)에 연결되며 복수의 카메라를 포함하는 전자 장치로부터 수신한 이미지 셋에 포함된 일부 이미지 프레임들을 이용하여 보정 영역을 생성할 수 있다. 예를 들어, 전자 장치(101)는 동작 503에서 판단한 제1 카메라에 대응하는 움직임에 기초하여, 동작 507에서 획득할 보상 영역과 결합함으로써 외부 객체에 대한 흔들림이 보정된 이미지를 생성할 보정 영역을 생성할 수 있다. 예를 들어, 도 5c를 참고하면, 전자 장치는 제1 카메라에 대응하는 움직임이 발생한 제1 이미지 셋에 포함된 이미지 프레임(513)으로부터 보정 영역(533)을 생성할 수 있다. 전자 장치(101)는 제1 카메라에 대응하는 움직임 벡터(551) 방향에 기초하여, 움직임이 발생하기 전 이미지 프레임과 공통된 영역을 보정 영역(533)으로 결정할 수 있다.
507 동작에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라에 대응하는 움직임 또는 보정 영역에 적어도 기반하여, 제2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정할 수 있다. 전자 장치(101)는 제1 이미지 셋의 적어도 일부 이미지로부터 제거된 보정 영역을 제외한 나머지 부분에 대한 흔들림 보정을 수행하기 위한 보상 영역을 결정할 수 있다. 예를 들어, 프로세서는 제1 이미지 셋의 제3 이미지 프레임(513)에서 결정된 보정 영역에 기초하여 제2 이미지 셋의 제3 이미지 프레임(523)으로부터 보상 영역을 결정할 수 있다. 또는, 제1 이미지 셋의 제3 이미지 프레임(513)을 이용하지 않고 제1 카메라로부터 수신한 제1 카메라에 대응하는 움직임 정보에 기초하여 제2 이미지 셋의 제3 이미지 프레임(523) 내의 보상 영역을 결정할 수 있다. 예를 들어, 프로세서는 제1 카메라에 포함된 이미지 센서로부터 움직임 정보를 획득하여, 보상 영역을 결정할 수 있다. 도 5c의 예를 들면, 움직임이 발생하여 이동된 제1 이미지 셋의 이미지 프레임(518)의 흔들림을 보정하기 위해 제2 이미지 셋의 이미지 프레임(523)에서 보상 영역(543)을 결정할 수 있다. 예를 들면, 프로세서는 전자 장치(101)의 움직임이 발생한 방향의 벡터(551)에 대한 역벡터(552) 방향으로의 보상 영역(543)을 제2 이미지 셋의 이미지 프레임(523)으로부터 설정할 수 있다. 제2 카메라로부터 획득한 이미지는 제1 카메라로부터 획득한 이미지보다 화각이 넓기 때문에, 보상 영역(543)은 제2 카메라로부터 획득된 이미지에는 포함되지만, 제1 카메라로부터 획득된 이미지에는 포함되지 않을 수 있다.
일실시예에 따라, 보정 영역(533)은 보상 영역(543)보다 클 수 있다. 프로세서(120)는, 일정치 이상의 전자 장치(101)의 움직임이 발생한 것으로 판단한 경우, 흔들림 보정을 수행하지 않을 수 있다. 보상 영역(543)은 보정 영역(533)의 외곽에 결합될 수 있고, 전자 장치(101)에 일정 치 이하의 움직임이 발생한 경우에만 흔들림 보정을 수행하기 때문에, 보정 영역(533)은 보상 영역(543)보다 클 수 있다.
동작 509에서, 전자 장치(101) (예: 프로세서(120))는 제1 이미지 셋에 포함된 이미지 프레임에 대응하는 보정 영역 및 제2 이미지 셋에 포함된 이미지 프레임에 대응하는 보상 영역을 이용하여 외부 객체에 대한 흔들림이 보정된 이미지를 생성할 수 있다. 도 5b를 참고하면, 전자 장치(101)는 제1 이미지 셋의 제3 이미지 프레임(513)의 보정 영역 및 제2 이미지 셋의 제3 이미지 프레임(523)의 보상 영역을 이용하여 외부 객체에 대한 흔들림이 보정된 이미지를 생성할 수 있다. 도 5c를 참고하면, 전자 장치(101)는 제1 이미지 셋에 포함된 이미지 프레임(518)에서 결정된 보정 영역(533) 및 제2 이미지 셋에 포함된 이미지 프레임(523)에서 결정된 보상 영역(543)을 결합하여 하나의 이미지를 생성할 수 있다. 이 때, 보상 영역의 적어도 일부(543)는 상기 제 1 카메라로부터 획득된 이미지(518)에는 포함되지 않을 수 있다
도 6a는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))가 보상 영역을 설정하는 방법을 설명하기 위한 예시적인 흐름도이다. 도 6b는 보상 영역을 설정하는 전자 장치(예: 전자 장치(101))의 예시적인 블록도이다.
동작 601에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 전자 장치(101)에 기능적으로 연결된 센서로부터 획득된 움직임 정보 또는 제1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터 정보를 이용하여, 제1 카메라에 대응하는 움직임을 판단할 수 있다. 일실시예에 따른 전자 장치는, 외부 객체에 대한 움직임을 보정한 이미지를 생성하기 위한 프로세서(610), 제1 카메라에 전기적으로 연결되어 제1 이미지 셋에 포함된 이미지의 움직임에 대한 정보를 프로세서에 제공하는 제1 이미지 센서(611), 제2 카메라에 전기적으로 연결되어 제2 이미지 셋에 포함된 이미지의 움직임에 대한 정보를 프로세서에 제공하는 제2 이미지 센서(612), 및 전자 장치(101)의 움직임을 판단하는 센서(620)를 포함할 수 있다. 프로세서(610)는 도 1의 프로세서(120)와 동일한 구성일 수 있다. 센서(620)는 도 1의 센서 모듈(176)과 동일한 구성일 수 있으며, 전자 장치(101)의 움직임을 판단하는 모션 센서, 자이로 센서 등을 포함할 수 있다. 전자 장치의 프로세서(610)는 제1 이미지 센서(611)로부터 획득한 제1 이미지 셋의 일부 이미지들을 비교할 수 있다. 프로세서(610)는 전자 장치의 움직임에 대한 벡터 정보를 추출하여 전자 장치(101)의 움직임을 판단하거나, 센서(620)로부터 획득한 전자 장치의 움직임 정보를 이용하여 전자 장치의 움직임을 판단할 수 있다.
일실시예에 따라, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제2 카메라에 대응하는 움직임을 감지하고, 제1 카메라에 대응하는 움직임 및 제2 카메라에 대응하는 움직임을 이용하여 보상 영역을 결정할 수 있다. 도 6b를 참고하면, 프로세서(610)는 제1 카메라에 대응하는 움직임 정보 및 제2 카메라에 대응하는 움직임 정보를 이용하여 제2 이미지 셋의 일부 이미지로부터 보상 영역을 결정할 수 있다. 제2 카메라에 대응하는 움직임 정보, 제1 카메라에 대응하는 움직임과 동일하게 센서(620)로부터 획득한 전자 장치(101)의 움직임 정보 및 제2 이미지 센서(612)로부터 획득한 제2 이미지 셋의 일부 이미지들을 비교하여 움직임이 발생한 벡터 정보를 이용하여 획득될 수 있다.
동작 602에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 전자 장치(101)에 기능적으로 연결된 센서들로부터 획득된 움직임 방향의 반대 방향에 대한 움직임 정보 또는 상기 제1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터에 대한 역벡터 정보를 이용하여, 제2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정할 수 있다. 도 5c에서 설명한 바와 같이, 전자 장치(101)는 제2 이미지 셋에 포함된 이미지에 포함된 보상 영역을 센서(620)로부터 획득한 전자 장치의 움직임 방향의 반대 방향에 대한 움직임 정보 또는 제1 이미지 센서(611)에 의해 획득된 벡터의 역벡터에 기초하여 보상 영역을 결정할 수 있다. 프로세서(610)는, 제1 이미지 센서(611)로부터의 역벡터 정보, 제2 이미지 센서(612)로부터의 역벡터 정보, 및 센서(620)로부터의 움직임 방향과 반대되는 방향에 대한 벡터 정보 중 적어도 하나에 기초하여 보상 영역을 결정할 수 있다.
도 6c는 전자 장치(예: 전자 장치(101), 프로세서(120))가 제1 이미지 셋 및 제2 이미지 셋의 OIS처리 여부에 따라 보상 영역을 설정하는 방법을 설명하는 예시적인 흐름도이다.
동작 651에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 센서로부터 제1 이미지 셋을 획득하고, 제2 이미지 센서로부터 제2 이미지 셋을 획득할 수 있다. 제1 이미지 센서로부터 획득한 제1 이미지 셋의 이미지는 제2 이미지 센서로부터 획득한 제2 이미지 셋의 이미지보다 화각이 좁을 수 있다.
동작 652에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋 및 제2 이미지 셋의 획득 도중 다른 센서를 통해 전자 장치의 움직임을 획득할 수 있다. 도 6b를 참고하면, 프로세서(610)(예: 프로세서(120))는 제1 이미지 센서(611) 및 제2 이미지 센서(612)로부터 이미지 셋을 획득하는 도중, 제1 이미지 센서(611) 및 센서(620)를 이용하거나, 제1 이미지 센서(611), 제2 이미지 센서(612) 및 센서(620)를 이용하여 보상 영역을 결정하기 위한 움직임에 대한 정보를 획득할 수 있다.
동작 653에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 센서(611)로부터 획득된 이미지가 OIS(Optical Image Stabilization)처리된 이미지인지 확인할 수 있다. OIS란 영상 흔들림 방지 기술을 칭하며, 전자 장치가 불안정한 고정 장치에 의해 고정되어 있거나 사용자의 파지에 기인한 전자 장치의 움직임으로 인한 이미지의 흔들림을 방지 혹은 보정하는 기술을 의미할 수 있다. OIS 처리 기능은 제1 이미지 센서(611) 또는 제2 이미지 센서(612)에 탑재될 수 있으며, OIS 처리 기능의 탑재 여부에 따라 제1 이미지 센서(611) 또는 제2 이미지 센서(612)는 OIS 처리된 이미지 셋을 프로세서(610)에 전송할 수 있다. 만일 프로세서가 OIS 처리 기능이 탑재된 이미지 센서로부터 이미지 셋을 제공받은 경우, OIS 처리된 만큼의 움직임 정보를 보상 영역의 결정에 반영하지 않는 경우 보정 영역 및 보상 영역을 결합하더라도 원하는 이미지를 획득하지 못할 수 있다. 일실시예에 따라, 전자 장치는 제1 이미지 센서로부터 획득된 이미지 셋에 포함된 이미지 프레임 및 제2 이미지 센서로부터 획득된 이미지 셋에 포함된 이미지 프레임이 OIS처리된 이미지인지 판단할 수 있다. 예를 들어, 프로세서(610)는 제1 이미지 센서(611)만을 이용하여 이동된 이미지 프레임 간의 벡터 정보를 획득하거나, 제1 이미지 센서(611) 및 제2 이미지 센서(612)를 모두 이용하여 전자 장치의 움직임에 대한 벡터 정보를 획득할 수 있다.
동작 654에서, 전자 장치(예: 전자 장치(101), 프로세서(120))가 제1 이미지 센서로부터 획득된 이미지가 OIS처리된 이미지인 경우, 프로세서(610)는 제1 이미지 센서(611) 및 센서(620)로부터 획득한 전자 장치의 움직임 정보 및 OIS 처리 정보에 기초하여 보상 영역을 결정할 수 있다. 또는, 프로세서(610)는 제1 이미지 센서(611), 제2 이미지 센서(612), 및 센서(620)로부터 획득한 전자 장치의 움직임 정보, 제1 이미지 센서(611) 및 제2 이미지 센서(612) 각각으로부터 획득한 OIS 처리 정보에 기초하여 보상 영역을 결정할 수 있다. 동작 655에서, 제1 이미지 센서(611)로부터 획득된 이미지가 OIS처리가 되지 않은 것으로 판단된 경우, 프로세서(610)는 획득된 움직임 정보만을 이용하여 보상 영역을 결정할 수 있다. 프로세서(610)는 손떨림 등에 의해 발생한 움직임을 모두 반영하여 보정 영역을 결정하고, 결정된 보정 역역에 기초하여 보상 영역을 결정할 수 있다.
도 7a 내지 도 7c는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))가 제1 카메라 및 제2 카메라를 이용하여 흔들림 보정을 수행하는 구성에 대한 예시적인 도면이다.
도 7a는 제1 카메라 및 제2 카메라를 이용하여 획득한 이미지에 대한 예시적인 도면이다.
일실시예에 따른 전자 장치(예: 프로세서(120))는 제1 카메라로부터 제1 이미지 셋의 이미지(710)를 획득하고, 제2 카메라로부터 제2 이미지 셋의 이미지(720)를 획득할 수 있다. 제1 이미지 셋의 이미지(710)는 제2 이미지 셋의 이미지(720)에 비해 화각이 좁을 수 있고, 뎁스(depth)는 더 얕을 수 있다. 제2 이미지 셋의 이미지(720)에는 제1 이미지 셋의 이미지(710)에 포함되지 않은 영역이 포함될 수 있다. 제1 이미지 셋의 이미지(710)에 포함되지 않고, 제2 이미지 셋의 이미지(720)에 포함된 영역은 제1 이미지 셋의 이미지(710)가 움직이는 경우 보상 영역을 결정하기 위해 사용될 수 있다.
도 7b는 도 7a의 제1 이미지 셋의 이미지(710) 및 제2 이미지 셋의 이미지(720)에 움직임이 발생한 경우에 보정 영역 및 보상 영역을 결정하는 구성에 대한 예시적인 도면이다
본 발명의 다양한 실시예에 따라, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라에 대응하는 움직임 정보를 획득할 수 있다. 또는 전자 장치(101)는 제1 카메라에 대응하는 움직임 정보 및 제2 카메라에 대응하는 움직임 정보를 모두 획득할 수 있다. 예를 들어, 도 7b를 참조하면, 프로세서는 제1 이미지 셋의 이미지(710)의 흔들림 방향(741)을 판단하고, 흔들림 방향(741)과 반대 방향의 보정 방향(742)을 판단할 수 있다. 프로세서는, 제1 이미지 셋의 이미지(810)의 흔들림 방향(741)에 대응하는 벡터 정보에 기초하여 제1 이미지 셋의 이미지(710)로부터 보정 영역(730)을 결정할 수 있다. 보정 영역(730)의 결정은, 제1 이미지 셋의 이미지(710)의 흔들림 방향(741)에 대한 정보에 기초하여 결정될 수 있고, 제2 이미지 셋의 이미지(720)의 흔들림 방향에 대한 정보도 함께 이용하여 결정될 수 있다. 전자 장치(101)는, 제1 이미지 셋의 이미지(710) 중 보정 영역(730)을 제외한 영역(740)을 제거할 수 있다. 전자 장치(101)는, 제1 이미지 셋(710)의 보정 영역(730) 및 보정 방향(742)에 대응하는 벡터에 기초하여 제2 이미지 셋(720)에서 획득할 보상 영역에 해당하는 영역(750)을 설정할 수 있다. 전자 장치(101)는, 제2 이미지 셋의 이미지(720)에서 보정 영역(730)에 해당하는 영역에 기초하여, 보상 영역(760, 770)을 결정할 수 있다. 전자 장치(101)는 보상 영역(760, 770)을 블록 단위로 나누어 설정할 수 있으나, 이는 예시적인 것일 뿐 본 발명의 보상 영역(760, 770)을 결정하는 내용이 상술한 내용에 의해 제한되는 것은 아니다.
일실시예에 따라, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라에 연결된 제1 이미지 센서 또는 제2 카메라에 연결된 제2 이미지 센서를 이용하지 않고, 제1 이미지 셋의 이미지(710) 또는 제2 이미지 셋의 이미지(720) 내에 존재하는 오브젝트(711)의 위치에 기초하여 오브젝트(711)의 움직임을 보정함으로써 흔들림이 보정된 이미지를 생성할 수 있다. 예를 들면, 오브젝트(711)의 제1 이미지 셋의 이미지(710) 또는 제2 이미지 셋의 이미지(720)에서의 좌표 값에 기초하여 오브젝트의(711)의 움직임을 확인할 수 있다. 또는, 오브젝트(711)을 계속적으로 트래킹(tracking)함으로써 오브젝트(711)의 위치를 확인하고, 미리 설정된 시간 이전의 오브젝트(711)와의 위치와 비교하여 오브젝트의 움직임을 확인할 수 있다. 오브젝트(711)의 위치가 움직인 것이 확인되면, 프로세서는 움직인 위치 정보에 기초하여 제1 이미지 셋의 이미지(710)로부터 보정 영역(730)을 결정하고, 움직임 정보 및 보정 영역을 이용하여 제2 이미지 셋으로부터 보상 영역(760, 770)을 결정할 수 있다. 보정 영역 및 보상 영역을 결정하는 자세한 내용은 앞서 설명한 내용과 동일하므로 자세한 설명은 생략하기로 한다.
도 7c는 전자 장치(예: 전자 장치(101), 프로세서(120))가 보정 영역 및 보상 영역을 이용하여 흔들림이 보정된 이미지를 생성하는 구성에 대한 예시적인 도면이다. 도 7c를 참조하면, 일실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋의 이미지(710)에서 결정한 보정 영역(730) 및 제2 이미지 셋의 이미지(720)에서 결정한 보상 영역(760, 770)을 결합하여 흔들림이 보정된 이미지를 생성할 수 있다. 예를 들어, 전자 장치(101)는 보정 영역(730) 및 보상 영역(760, 770)을 블록 단위로 결합함으로써 흔들림이 보정된 이미지를 생성할 수 있다. 보정 영역(730)과 보상 영역(760, 770)은 각각 제1 카메라 및 제2 카메라에 의해 촬영된 것으로 뎁스 또는 굴곡이 상이할 수 있는데, 뎁스 또는 굴곡의 보정 처리에 대한 자세한 사항은 도 11a, 11b 및 도 12a, 12b에서 자세히 설명하기로 한다.
도 8a 내지 도 8c는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))가 제1 카메라 및 제2 카메라를 이용하여 흔들림 보정을 수행하는 구성에 대한 블록도이다.
도 8a를 참고하면, 일실시예에 따른 전자 장치(예: 전자 장치(101))는 제1 카메라(810), 제2 카메라(820), 및 프로세서(830)를 포함할 수 있다. 프로세서(830)은 도 1의 프로세서와 동일한 구성일 수 있다. 제1 카메라(810)로부터 획득되는 제1 이미지 셋은 망원 이미지의 셋일 수 있으며, 제2 카메라(820)로부터 획득되는 제2 이미지 셋은 광각 이미지의 셋일 수 있다. 프로세서(830)는 제1 카메라(810) 또는 제2 카메라(820)로부터 이미지를 획득할 수 있으며, 이미지들의 비교를 통해 움직임 정보를 생성할 수 있다. 프로세서(830)는 제1 카메라(810)만으로부터 움직임 정보를 획득하거나 제2 카메라(820)만으로부터 움직임 정보를 획득할 수도 있다.
도 8b 및 도 8c를 참고하면, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라(810), 제2 카메라(820), 및 프로세서(830)를 포함할 수 있으며, 프로세서(830)은 결합 모듈(831) 및 보정 모듈(832)을 포함할 수 있다. 결합 모듈(831), 보정 모듈(832)은, 예를 들어 논리 모듈일 수도 있으며, 이에 따라 결합 모듈(831), 보정 모듈(832)이 수행하는 동작은, 프로세서(830)(예: 프로세서(120))가 수행할 수 있다. 다른 실시예에서는, 결합 모듈(831), 보정 모듈(832) 중 적어도 하나가 프로세서(830) 내의 하드웨어로 구현될 수도 있다. 도 8b를 참고하면, 프로세서(830)의 결합 모듈(831)은 제1 카메라(810) 및 제2 카메라(820)로부터 이미지 셋을 획득하고, 제1 카메라(810) 및 제2 카메라(820) 중 적어도 하나로부터 움직임 정보를 수신할 수 있다. 결합 모듈(831)은 수신된 움직임 정보를 결합하여 전체적인 움직임 정보를 생성할 수 있으며, 생성된 움직임 정보를 보정 모듈(832)에 전송할 수 있다. 보정 모듈(832)은 결합 모듈(831)로부터 수신한 움직임 정보 및 제1 카메라 및 제2 카메라로부터 획득한 이미지 셋을 이용하여 흔들림이 보정된 이미지를 생성할 수 있다.
도 8c를 참고하면, 제1 카메라(810)는 프로세서(830) 내의 결합 모듈(831) 및 보정 모듈(832) 모두에 이미지 셋 및 움직임 정보를 전송할 수 있고, 제2 카메라(820)는 결합 모듈(831)에만 이미지 셋 및 움직임 정보를 전송할 수 있다. 결합 모듈(831)은 제1 카메라(810) 및 제2 카메라(820)로부터 획득한 움직임 정보를 결합하여 전체적인 움직임 정보를 생성하고, 보정 모듈(832)는 제1 카메라(810)로부터 수신한 움직임 정보 및 결합 모듈(831)로부터 수신한 움직임 정보에 기초하여 흔들림이 보정된 이미지를 생성할 수 있다.
*도 9a 및 도 9b는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))에 흔들림이 없는 경우에 흔들림 보정을 수행하는 구성에 대한 예시적인 도면이다.
동작 901에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋 및 제2 이미지 셋을 제1 카메라 및 제2 카메라 각각으로부터 획득할 수 있다. 예를 들어, 프로세서(예: 프로세서(120))는 제1 카메라 및 제2 카메라 각각으로부터 제1 이미지 셋의 이미지(910) 및 제2 이미지 셋의 이미지(920)를 획득할 수 있다. 제2 이미지 셋의 이미지(920)에는 제2 이미지 셋의 이미지(920)에는 포함되지만 제1 이미지 셋의 이미지(910)에는 포함되지 않는 영역(911)이 존재할 수 있고, 프로세서는 제2 이미지 셋의 이미지(920)에는 제2 이미지 셋의 이미지(920)에는 포함되나 제1 이미지 셋의 이미지(910)에는 포함되지 않는 영역(911)을 제1 이미지 셋의 이미지(910)에 대한 마진으로 설정할 수 있다. 예를 들어, 프로세서가 이미지 보정을 수행하기 전에 입력되는 이미지(921)는 제1 이미지 셋의 이미지(910)와 제2 이미지 셋의 이미지(920)가 겹쳐지는 형식으로 결합된 이미지일 수 있다.
동작 902에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 전자 장치(101)의 움직임이 임계치 이하인지 판단할 수 있다. 전자 장치(101)는 전자 장치에 결합된 센서(예: 센서 모듈(176))로부터 수신한 정보에 기초하여 전자 장치의 움직임이 있는지 여부를 확인할 수 있고, 전자 장치의 움직임이 임계치 이하인지 판단할 수 있다. 전자 장치(101)는, 전자 장치의 움직임이 감지되는 경우, OIS 등의 방식으로 보정이 가능한 범위 내에 있는지 여부에 따라 전자 장치의 움직임에 대한 임계치를 설정할 수 있다. 동작 903에서, 전자 장치(101)가 전자 장치의 움직임이 임계치 이상인 것으로 판단한 경우, 전자 장치(101)는 제1 이미지 셋의 이미지(910) 및 제2 이미지 셋의 이미지(920)를 모두 이용하여 흔들림이 보정된 이미지를 생성할 수 있다. 예를 들어, 전자 장치(101)는 제1 이미지 셋의 이미지(910)로부터 보정 영역을 결정하고, 보정 영역 및 움직임 정보에 기초하여 제2 이미지 셋의 이미지(920)로부터 보상 영역을 결정할 수 있다. 전자 장치(101)는 결정된 보정 영역 및 보상 영역을 결정하여 흔들림이 보정된 이미지를 생성할 수 있다. 흔들림이 보정된 이미지를 생성하는 구성에 대한 자세한 내용은 앞서 설명한 바 있으므로 생략하기로 한다.
동작 904에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 전자 장치의 움직임이 임계치 이하인 것으로 판단한 경우 제1 이미지 셋의 이미지(910)를 그대로 보정된 이미지로서 출력할 수 있다. 예를 들어, 도 9b를 참조하면, 프로세서는 제1 이미지 셋의 이미지(910)에는 포함되지 않는 마진 영역(911)을 제거하여, 제1 이미지 셋의 이미지(910, 931)를 보정된 이미지로 생성할 수 있다. 일실시예에 따라, 전자 장치(101)는 제1 카메라를 이용하여 획득한 제1 이미지 셋의 이미지에서 마진 영역을 따로 설정하지 않고, 제2 카메라를 이용하여 획득한 제2 이미지 셋의 이미지 중 일부를 마진 영역으로 설정함으로써, 전자 장치에 흔들림이 발생하지 않는 경우 이미지 보정을 수행하는데 있어 제1 이미지 셋의 이미지(910, 931)에서의 손실이 발생하지 않도록 할 수 있다.
도 10a 및 도 10b는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))가 제2 카메라의 프레임 비율을 제어하여 흔들림 보정된 이미지를 생성하는 구성에 대한 도면이다.
본 발명의 다양한 실시예에 따르면, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라로부터 획득한 망원 이미지와 제2 카메라로부터 획득한 광각이미지 간의 차이에 의해 발생하는 결함을 극복하기 위해 각 광학계에서 획득하는 프레임 비율(Frame Rate)을 조절할 수 있다. 프레임 비율은 단위 시간을 기준으로 제1 카메라 또는 제2 카메라에서 획득하는 이미지의 장(Frame) 수를 나타내며 프레임 비율이 높을수록 단위 시간에 더 많은 이미지를 획득하는 것을 의미할 수 있다. 전자 장치(101)는, 제1 카메라 및 제2 카메라 각각의 프레임 비율을 조절할 수 있다.
동작 1001에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라로부터 제1 이미지셋을 획득하고, 제2 카메라로부터 제2 이미지 셋을 획득할 수 있다. 제1 이미지 셋 및 제2 이미지 셋에 대한 자세한 사항은 앞서 설명한 바와 동일하므로 생략하기로 한다.
동작 1003에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋의 이미지들 내의 오브젝트가 이미지들 내의 화각 영역에 존재하는지 확인할 수 있다. 일실시예에 따라, 전자 장치(101)는 제 1 이미지 셋의 적어도 일부 이미지에 포함된 오브젝트의 이미지 내의 위치에 기초하여, 상기 외부 객체에 대한 제 1 이미지 셋에 포함된 이미지의 갯수 및 상기 외부 객체에 대한 제 2 이미지 셋에 포함된 이미지의 갯수를 결정할 수 있다. 일실시예에 따라, 프로세서(1030)는 프레임 비율 제어 모듈(1040), 결합 모듈(1050), 및 보정 모듈(1060)을 포함할 수 있다. 프레임 비율 제어 모듈(1040), 결합 모듈(1050) 및 보정 모듈(1060)은, 예를 들어 논리 모듈일 수도 있으며, 이에 따라 프레임 비율 제어 모듈(1040), 결합 모듈(1050) 및 보정 모듈(1060)이 수행하는 동작은, 프로세서(1030)(예: 프로세서(120))가 수행할 수 있다. 다른 실시예에서는, 프레임 비율 제어 모듈(1040), 결합 모듈(1050) 및 보정 모듈(1060) 중 적어도 하나가 프로세서(1030) 내의 하드웨어로 구현될 수도 있다. 프레임 비율 제어 모듈(1040)은 흔들림 보정의 기준이 되는 이미지 내의 오브젝트의 위치에 따라 제1 카메라(1010) 또는 제2 카메라(1020)의 프레임 비율을 조절할 수 있다.
동작 1003에서, 전자 장치(1105)(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋의 이미지 내의 오브젝트가 제1 이미지 셋의 이미지들의 화각 영역에 존재한다고 판단된 경우, 제2 카메라의 프레임 비율을 낮출 수 있다. 도 10a에서는 제1 이미지 셋 내의 오브젝트의 위치에 기초하여 프레임 비율을 조절하도록 하고 있으나, 제2 이미지 셋 내의 오브젝트의 위치도 함께 고려하여 프레임 비율을 조절할 수 있다. 예를 들어, 오브젝트가 제1 이미지 셋의 이미지의 화각 영역에 있는 경우, 오브젝트의 위치가 변경되더라도 제1 이미지 셋의 이미지를 벗어나 오브젝트에 심한 왜곡이 발생할 가능성이 낮아지므로, 상대적으로 제2 이미지 셋의 이미지를 촬영하는 제2 카메라(1020)의 필요성이 낮아질 수 있다. 프레임 비율 제어 모듈(1040)은 제1 카메라의 프레임 비율을 유지하며 제2 카메라의 프레임 비율을 낮춤으로써 전원이나 전자 장치의 다른 리소스를 효율적으로 사용할 수 있다. 여기서 프레임 비율은 클락(clock) 주파수, 카메라에 할당된 메모리 공간, 카메라에 할당되는 전원(power), 네트워크 데이타량, 압축률 등으로 대체 가능하며, 이미지 정보를 획득하기 위해 사용하는 다양한 자원(Resource)에 해당할 수 있다. 또는, 제2 이미지 셋의 이미지 영역에서 제1 카메라로 촬영한 제1 이미지 셋의 이미지 영역에 포함된 배경이나 오브젝트의 움직임에 대한 정보가 불필요한 경우에도, 프레임 비율 제어 모듈은 제2 카메라의 프레임 비율을 낮추어 전원이나 다른 리소스를 효율적으로 사용할 수 있다.
동작 1004에서, 제1 이미지 셋의 이미지 내의 오브젝트가 제1 이미지 셋의 이미지들의 화각 영역 내에 존재하지 않는다고 판단되는 경우, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제2 카메라의 프레임 비율을 높일 수 있다. 예를 들어, 오브젝트가 제1 이미지 셋의 이미지의 화각 영역과 제2 이미지 셋의 화각 영역에 걸쳐 있는 경우, 오브젝트의 움직임이 발생하게 되면 제1 이미지 셋을 벗어나 오브젝트에 심한 왜곡이 발생할 가능성이 높다고 판단되므로, 프레임 비율 제어 모듈(1040)은 제2 카메라(1020)의 프레임 비율을 높여 제1 카메라(1010)의 프레임 비율과 같거나 더 높게 설정할 수 있다.
도 11a 및 도 11b는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))가 뎁스 센서(depth sensor)를 이용하여 흔들림이 보정된 이미지를 생성하는 구성에 대한 도면이다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101) 는, 제1 카메라(1110), 제2 카메라(1120), 뎁스 센서(1130), 프로세서(1140)를 포함할 수 있으며, 프로세서(1140)는 블러 모듈(1150), 결합 모듈(1160), 보정 모듈(1170)을 포함할 수 있다. 블러 모듈(1150), 결합 모듈(1160), 보정 모듈(1170)은, 예를 들어 논리 모듈일 수도 있으며, 이에 따라 블러 모듈(1150), 결합 모듈(1160), 보정 모듈(1170)이 수행하는 동작은, 프로세서(1140)(예: 프로세서(120))가 수행할 수 있다. 다른 실시예에서는, 블러 모듈(1150), 결합 모듈(1160), 보정 모듈(1170) 중 적어도 하나가 프로세서(1140) 내의 하드웨어로 구현될 수도 있다.
동작 1101에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라(1110)로부터 제1 이미지 셋을 획득하고, 제2 카메라(1120)로부터 제2 이미지 셋을 획득할 수 있다. 제1 이미지 셋의 이미지와 제2 이미지 셋의 이미지는 뎁스 정보가 상이하거나 초점 거리가 상이하여 흐림 정도의 차이가 존재할 수 있다. 보정 모듈(1170)이 제1 이미지 셋의 이미지의 보정 영역과 제2 이미지 셋의 보상 영역을 그대로 합성할 경우 보정 영역과 보상 영역의 경계에서 심한 결함이 발생할 수 있다.
동작 1103에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제2 이미지 셋의 이미지의 적어도 일부 영역을 블러(blur)처리할 수 있다. 예를 들어, 제1 이미지 셋의 이미지의 보정 영역과 제2 이미지 셋의 이미지의 보상 영역의 자연스러운 합성을 위해 각각의 이미지의 적어도 일부 영역에 대한 블러 처리가 필요할 수 있다. 블러 모듈(1150)은 제2 카메라(1120)로부터 수신한 제2 이미지 셋 및 뎁스 센서(1130)로부터 수신된 뎁스 정보에 기초하여 제2 이미지 셋의 이미지의 각 영역에 탈초점(focus out) 처리를 수행함으로써 제2 이미지 셋의 이미지를 블러 처리할 수 있다. 또는, 도면에는 도시되지 않았으나, 블러 모듈(1150)은 획득된 이미지 셋의 이미지로부터 뎁스 맵(depth map)을 생성하는 모듈로부터 뎁스 정보를 수신할 수 있고, 수신된 뎁스 정보에 기초하여 제2 이미지 셋의 이미지의 각 영역에 탈초점(focus out) 처리를 수행할 수 있다.
동작 1105에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋 및 제2 이미지 셋을 이용하여 흔들림이 보정된 이미지를 생성할 수 있다. 결합 모듈(1160)은 제1 카메라(1110)로부터 수신한 움직임 정보 및 블러 처리 모듈(1150)을 통해 수신된 제2 카메라의 움직임 정보를 결합하여 전체적인 움직임 정보를 생성하고, 생성된 움직임 정보를 보정 모듈(1170)에 전송할 수 있다. 보정 모듈(1170)은 보정 모듈(1170)로부터 전송된 움직임 정보, 제1 카메라(1110)로부터 수신한 제1 이미지 셋의 이미지, 제2 카메라로부터 촬영되어 블러 모듈(1150)에 의해 블러 처리된 이미지를 이용하여 흔들림이 보정된 이미지를 생성할 수 있다.
도 12a 및 도 12b는 본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))가 이미지의 굴곡 처리를 수행하여 흔들림 보정된 이미지를 생성하는 구성에 대한 예시적인 도면이다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101), 프로세서(120))는, 제1 카메라(1210), 제2 카메라(1220), 프로세서(1230)를 포함할 수 있으며, 프로세서(1230)는 변형 모듈(1240), 결합 모듈(1250), 보정 모듈(1260)을 포함할 수 있다. 변형 모듈(1240), 결합 모듈(1250), 보정 모듈(1260)은, 예를 들어 논리 모듈일 수도 있으며, 이에 따라 변형 모듈(1240), 결합 모듈(1250), 보정 모듈(1260)이 수행하는 동작은, 프로세서(1230)(예: 프로세서(120))가 수행할 수 있다. 다른 실시예에서는, 변형 모듈(1240), 결합 모듈(1250), 보정 모듈(1260) 중 적어도 하나가 프로세서(1230) 내의 하드웨어로 구현될 수도 있다.
동작 1201에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 카메라로부터 제1 이미지 셋을 획득하고, 제2 카메라로부터 제2 이미지 셋을 획득할 수 있다. 제1 이미지 셋의 이미지는 제2 이미지 셋의 이미지에 비해 화각이 좁은 카메라를 이용하여 촬영된 것이므로, 제1 이미지 셋의 이미지와 제2 이미지 셋의 이미지는 굴곡이 상이할 수 있다.
동작 1203에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 제1 이미지 셋의 이미지들 및 제2 이미지 셋의 이미지들의 굴곡 처리를 수행할 수 있다. 일실시예에 따라, 변형 모듈(1240)은 제1 카메라(1210), 및 제2 카메라(1320)로부터 획득한 이미지 셋의 이미지의 굴곡을 변형할 수 있다. 예를 들어, 변형 모듈(1240)은 제1 이미지 셋의 이미지 또는 제2 이미지 셋의 이미지 중 어느 한 쪽의 이미지를 기준으로 굴곡을 변형할 수 있고, 특정 기준치 값으로 제1 이미지 셋의 이미지 및 제2 이미지 셋의 이미지의 굴곡을 변형할 수 있고, 변형된 제1 이미지 셋 및 제2 이미지 셋을 결합 모듈(1250)에 전송할 수 있다.
동작 1205에서, 전자 장치(예: 전자 장치(101), 프로세서(120))는 굴곡 처리된 제1 이미지 셋 및 제2 이미지 셋을 이용하여 흔들림 보정된 이미지를 생성할 수 있다. 결합 모듈(1250)은 제1 카메라(1210) 또는 제2 카메라(1220) 중 적어도 하나로부터 획득한 움직임 정보에 기초하여 전체적인 움직임 정보를 생성할 수 있고, 생성된 움직임 정보를 보정 모듈(1260)에 전송할 수 있다. 보정 모듈(1260)은 결합 모듈(1250)로부터 수신한 움직임 정보 및 제1 이미지 셋 및 제2 이미지 셋을 이용하여 흔들림 보정된 이미지를 생성할 수 있다. 흔들림 보정된 이미지를 생성하는 구성에 대해서는 상술한 내용과 동일하므로, 자세한 내용은 생략하기로 한다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101))는, 제 1 카메라(310), 상기 제 1 카메라(310)와 다른 화각을 가지는 제 2 카메라(320) 및 프로세서(120)를 포함하고, 상기 프로세서(120)는, 상기 제 1 카메라(310)를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 2 카메라(320)를 이용하여 상기 외부 객체에 대한 제 2 이미지를 셋을 획득하고, 상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라(310)에 대응하는 움직임을 판단하고, 상기 제 1카메라(310)에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하고, 상기 제 1 카메라(310)에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하고, 상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하도록 설정될 수 있다. 일실시예에 따라, 상기 보상 영역의 적어도 일부는 상기 제 1 카메라(310)로부터 획득된 이미지에는 포함되지 않을 수 있다. 일실시예에 따라, 상기 프로세서(120)는, 상기 제 2 카메라에 대응하는 움직임을 감지하고, 상기 제 2 카메라에 대응하는 움직임을 더 이용하여, 상기 보상 영역을 결정할 수 있다. 일실시예에 따라, 상기 프로세서(120)는, 상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터 정보를 이용하여, 상기 제 1 카메라(310)에 대응하는 움직임을 판단하도록 설정될 수 있다. 일실시예에 따라, 상기 프로세서(120)는, 상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 방향의 반대 방향에 대한 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터에 대한 역벡터 정보를 이용하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하도록 설정될 수 있다. 일실시예에 따라, 상기 프로세서(120)는, 상기 제 1 카메라에 대응하는 움직임의 크기에 적어도 기반하여, 상기 보정 영역의 크기를 결정하도록 설정될 수 있다. 일실시예에 따라, 상기 프로세서(120)는 상기 보정 영역 및 상기 보상 영역의 뎁스 정보를 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성할 수 있다. 일실시예에 따라, 상기 프로세서(120)는, 제 1 이미지 셋의 적어도 일부 이미지에 포함된 외부 객체의 이미지의 위치에 기초하여, 상기 외부 객체에 대한 제 1 이미지 셋(set)에 포함된 이미지의 갯수 및 상기 외부 객체에 대한 제 2 이미지 셋에 포함된 이미지의 갯수를 결정할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치(예: 전자 장치(101))를 제어하는 방법은, 제 1 카메라를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 1 카메라(310)와 다른 화각을 가지는 제 2 카메라(320)를 이용하여 상기 외부 객체에 대한 제 2 이미지 셋을 획득하는 동작, 상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라(310)에 대응하는 움직임을 판단하는 동작, 상기 제 1 카메라(310)에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하는 동작, 상기 제 1 카메라에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하는 동작, 및 상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 동작을 포함할 수 있다. 일실시예에 따라, 상기 보상 영역의 적어도 일부는 상기 제 1 카메라(310)로부터 획득된 이미지에는 포함되지 않을 수 있다. 일실시예에 따른 방법은, 상기 제 2 카메라(320)에 대응하는 움직임을 감지하는 동작, 및 상기 제 2 카메라(320)에 대응하는 움직임을 더 이용하여 상기 보상 영역을 결정하는 동작을 더 포함할 수 있다. 일실시예에 따른 방법은, 상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터 정보를 이용하여, 상기 제 1 카메라(310)에 대응하는 움직임을 판단하는 동작을 포함할 수 있다. 일실시예에 따른 방법은, 상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 방향의 반대 방향에 대한 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터에 대한 역벡터 정보를 이용하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하는 동작을 포함할 수 있다. 일실시예에 따른 방법은, 상기 제 1 카메라에 대응하는 움직임의 크기에 적어도 기반하여, 상기 보정 영역의 크기를 결정하는 동작을 포함할 수 있다. 일실시예에 따른 방법은, 상기 보정 영역 및 상기 보상 영역의 뎁스 정보를 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 동작을 포함할 수 있다.
본 발명의 다양한 실시예에 따른 전자 장치는, 제1 화각을 가지는 제 1 카메라(310), 제2 화각을 가지는 상기 제 1 카메라(310)와 다른 화각을 가지는 제 2 카메라(320), 및 프로세서(120)를 포함하고, 상기 프로세서(120)는, 상기 제 1 카메라(310)를 이용하여 제 1 이미지를 획득하고, 및 상기 제 2 카메라(320)를 이용하여 상기 제 2 이미지를 획득하고, 상기 제1 이미지에 대응하는 제1 영역 및 상기 제2 이미지에 대응하는 제2 영역을 포함하는 보정 이미지를 생성하도록 설정될 수 있다. 일실시예에 따라, 상기 프로세서는, 상기 제1 카메라에 대응하는 움직임에 적어도 기반하여 제1 영역 및 제2 영역을 결정하고, 상기 결정된 제1 영역 및 제2 영역을 이용하여 보정 이미지를 생성하도록 설정될 수 있다. 일실시예에 따라, 상기 프로세서는, 상기 제 2 영역에 상기 제 2 화각에 포함되지만 상기 제 1 화각에는 포함되지 않는 적어도 일부 영역이 포함되게 결정하도록 설정될 수 있다. 상기 프로세서는, 상기 제2 영역을 상기 제1 영역의 외곽의 적어도 일부에 결합하여 상기 보정 이미지를 상기 생성하도록 설정될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치 중 적어도 하나를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 컴퓨터)로 읽을 수 있는 저장 매체(machine-readable storage media)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 명령어를 포함하는 소프트웨어(예: 프로그램(140))로 구현될 수 있다. 기기는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시예들에 따른 전자 장치(예: 전자 장치(101))를 포함할 수 있다. 상기 명령이 프로세서(예: 프로세서(120))에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다.
일시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 온라인으로 배포될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따른 구성 요소(예: 모듈 또는 프로그램) 각각은 단수 또는 복수의 개체로 구성될 수 있으며, 전술한 해당 서브 구성 요소들 중 일부 서브 구성 요소가 생략되거나, 또는 다른 서브 구성 요소가 다양한 실시예에 더 포함될 수 있다. 대체적으로 또는 추가적으로, 일부 구성 요소들(예: 모듈 또는 프로그램)은 하나의 개체로 통합되어, 통합되기 이전의 각각의 해당 구성 요소에 의해 수행되는 기능을 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따른, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱하게 실행되거나, 적어도 일부 동작이 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.

Claims (20)

  1. 전자 장치에 있어서,
    제 1 카메라;
    상기 제 1 카메라와 다른 화각을 가지는 제 2 카메라; 및
    프로세서를 포함하고, 상기 프로세서는,
    상기 제 1 카메라를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 2 카메라를 이용하여 상기 외부 객체에 대한 제 2 이미지 셋을 획득하고,
    상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라에 대응하는 움직임을 판단하고,
    상기 제 1 카메라에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하고,
    상기 제 1 카메라에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하고,
    상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하도록 설정되고,
    상기 프로세서는, 상기 제 1 카메라에 대응하는 움직임을 판단하기 위하여, 상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터 정보를 이용하여, 상기 제 1 카메라에 대응하는 움직임을 판단하도록 설정된 전자 장치.
  2. 제 1 항에 있어서, 상기 프로세서는,
    상기 보상 영역의 적어도 일부는 상기 제 1 카메라로부터 획득된 이미지에는 포함되지 않는 전자 장치.
  3. 제1항에 있어서, 상기 프로세서는,
    상기 제 2 카메라에 대응하는 움직임을 감지하고, 및
    상기 제 2 카메라에 대응하는 움직임을 더 이용하여, 상기 보상 영역을 결정하도록 설정된 전자 장치.
  4. 삭제
  5. 제1항에 있어서, 상기 프로세서는,
    상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 방향의 반대 방향에 대한 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터에 대한 역벡터 정보를 이용하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하도록 설정된 전자 장치.
  6. 제 1 항에 있어서, 상기 프로세서는,
    상기 제 1 카메라에 대응하는 움직임의 크기가 임계치 이하인 경우, 상기 보정 영역을 상기 외부 객체에 대한 흔들림이 보정된 이미지로 결정하도록 설정된 전자 장치.
  7. 제1항에 있어서, 상기 프로세서는,
    상기 보정 영역 및 상기 보상 영역의 뎁스 정보를 이용하여, 상기 보상 영역의 적어도 일부의 번짐 정도를 조절하도록 설정된 전자 장치.
  8. 제1항에 있어서, 상기 프로세서는,
    제 1 이미지 셋의 적어도 일부 이미지에 포함된 오브젝트의 이미지 내의 위치에 기초하여, 상기 외부 객체에 대한 제 1 이미지 셋(set)에 대응하는 단위 시간 당 이미지 프레임의 수 및 상기 외부 객체에 대한 제 2 이미지 셋에 대응하는 단위 시간 당 이미지 프레임의 수를 결정하는 전자 장치.
  9. 전자 장치를 제어하는 방법에 있어서,
    제 1 카메라를 이용하여 외부 객체에 대한 제 1 이미지 셋(set)을 획득하고, 및 상기 제 1 카메라와 다른 화각을 가지는 제 2 카메라를 이용하여 상기 외부 객체에 대한 제 2 이미지 셋을 획득하는 동작;
    상기 제 1 이미지 셋 및 상기 제 2 이미지 셋을 획득하는 적어도 일부 시간 동안, 상기 제 1 카메라에 대응하는 움직임을 판단하는 동작;
    상기 제 1 카메라에 대응하는 움직임에 적어도 기반하여, 상기 제 1 이미지 셋의 적어도 일부 이미지를 이용하여 보정 영역을 생성하는 동작;
    상기 제 1 카메라에 대응하는 움직임 또는 상기 보정 영역에 적어도 기반하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하는 동작; 및
    상기 보정 영역 및 상기 보상 영역을 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 동작을 포함하고,
    상기 제 1 카메라에 대응하는 움직임을 판단하는 동작은, 상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터 정보를 이용하여, 상기 제 1 카메라에 대응하는 움직임을 판단하는 동작을 포함하는, 전자 장치를 제어하는 방법.
  10. 제9항에 있어서,
    상기 보상 영역의 적어도 일부는 상기 제 1 카메라로부터 획득된 이미지에는 포함되지 않는, 전자 장치를 제어하는 방법.
  11. 제9항에 있어서,
    상기 제 2 카메라에 대응하는 움직임을 감지하는 동작; 및
    상기 제 2 카메라에 대응하는 움직임을 더 이용하여 상기 보상 영역을 결정하는 동작을 더 포함하는, 전자 장치를 제어하는 방법.
  12. 삭제
  13. 제9항에 있어서,
    상기 전자 장치에 기능적으로 연결된 센서로부터 획득된 움직임 방향의 반대 방향에 대한 움직임 정보 또는 상기 제 1 이미지 셋의 적어도 일부 이미지들 사이의 비교에 기반한 벡터에 대한 역벡터 정보를 이용하여, 상기 제 2 이미지 셋의 적어도 일부 이미지에서 보상 영역을 결정하는 동작을 포함하는, 전자 장치를 제어하는 방법.
  14. 제9항에 있어서,
    상기 제 1 카메라에 대응하는 움직임의 크기에 적어도 기반하여, 상기 보정 영역의 크기를 결정하는 동작을 포함하는, 전자 장치를 제어하는 방법.
  15. 제9항에 있어서,
    상기 보정 영역 및 상기 보상 영역의 뎁스 정보를 이용하여, 상기 외부 객체에 대한 흔들림이 보정된 이미지를 생성하는 동작을 포함하는, 전자 장치를 제어하는 방법.
  16. 제9항에 있어서,
    제 1 이미지 셋의 적어도 일부 이미지에 포함된 오브젝트의 이미지 내의 위치에 기초하여, 상기 외부 객체에 대한 제 1 이미지 셋(set)에 대응하는 단위 시간 당 이미지 프레임의 수 및 상기 외부 객체에 대한 제 2 이미지 셋에 대응하는 단위 시간 당 이미지 프레임의 수를 결정하는 동작을 포함하는, 전자 장치를 제어하는 방법.
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
KR1020170120537A 2017-09-19 2017-09-19 이미지 보정을 수행하는 전자 장치 및 그 동작 방법 KR102385360B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020170120537A KR102385360B1 (ko) 2017-09-19 2017-09-19 이미지 보정을 수행하는 전자 장치 및 그 동작 방법
EP18195522.0A EP3457680B1 (en) 2017-09-19 2018-09-19 Electronic device for correcting image and method for operating the same
CN201811093261.7A CN109525774B (zh) 2017-09-19 2018-09-19 用于校正图像的电子装置及操作该电子装置的方法
US16/135,562 US11128803B2 (en) 2017-09-19 2018-09-19 Electronic device for correcting image and method for operating the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170120537A KR102385360B1 (ko) 2017-09-19 2017-09-19 이미지 보정을 수행하는 전자 장치 및 그 동작 방법

Publications (2)

Publication Number Publication Date
KR20190032061A KR20190032061A (ko) 2019-03-27
KR102385360B1 true KR102385360B1 (ko) 2022-04-12

Family

ID=65720888

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170120537A KR102385360B1 (ko) 2017-09-19 2017-09-19 이미지 보정을 수행하는 전자 장치 및 그 동작 방법

Country Status (4)

Country Link
US (1) US11128803B2 (ko)
EP (1) EP3457680B1 (ko)
KR (1) KR102385360B1 (ko)
CN (1) CN109525774B (ko)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3286915B1 (en) 2015-04-23 2021-12-08 Apple Inc. Digital viewfinder user interface for multiple cameras
US10009536B2 (en) 2016-06-12 2018-06-26 Apple Inc. Applying a simulated optical effect based on data received from multiple camera sensors
DK180859B1 (en) 2017-06-04 2022-05-23 Apple Inc USER INTERFACE CAMERA EFFECTS
US11112964B2 (en) 2018-02-09 2021-09-07 Apple Inc. Media capture lock affordance for graphical user interface
CN108337381B (zh) * 2018-03-14 2019-11-19 维沃移动通信有限公司 一种镜头控制方法及移动终端
US10375313B1 (en) 2018-05-07 2019-08-06 Apple Inc. Creative camera
US11722764B2 (en) 2018-05-07 2023-08-08 Apple Inc. Creative camera
DK201870623A1 (en) 2018-09-11 2020-04-15 Apple Inc. USER INTERFACES FOR SIMULATED DEPTH EFFECTS
US10674072B1 (en) 2019-05-06 2020-06-02 Apple Inc. User interfaces for capturing and managing visual media
US11770601B2 (en) 2019-05-06 2023-09-26 Apple Inc. User interfaces for capturing and managing visual media
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
US11321857B2 (en) 2018-09-28 2022-05-03 Apple Inc. Displaying and editing images with depth information
KR20200101180A (ko) * 2019-02-19 2020-08-27 삼성전자주식회사 이미지 안정화를 위한 전자 장치 및 그의 동작 방법
US11706521B2 (en) 2019-05-06 2023-07-18 Apple Inc. User interfaces for capturing and managing visual media
US20220292693A1 (en) * 2019-08-20 2022-09-15 Sony Interactive Entertainment Inc. Image processing device, image processing method, and program
US11054973B1 (en) 2020-06-01 2021-07-06 Apple Inc. User interfaces for managing media
US11212449B1 (en) 2020-09-25 2021-12-28 Apple Inc. User interfaces for media capture and management
US11778339B2 (en) 2021-04-30 2023-10-03 Apple Inc. User interfaces for altering visual media
US11539876B2 (en) 2021-04-30 2022-12-27 Apple Inc. User interfaces for altering visual media
CN117441185A (zh) 2021-06-03 2024-01-23 三星电子株式会社 用于校正图像的方法和电子设备
EP4135311A4 (en) * 2021-06-29 2023-05-03 Samsung Electronics Co., Ltd. METHOD OF IMAGE STABILIZATION AND ELECTRONIC DEVICE THEREFOR
KR20230116565A (ko) * 2022-01-28 2023-08-04 삼성전자주식회사 전자 장치 및 전자 장치의 제어 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090002501A1 (en) 2007-06-27 2009-01-01 Micron Technology, Inc. Image blur correction using a secondary camera
US20160080654A1 (en) 2014-09-12 2016-03-17 Altek Semiconductor Corporation Method of capturing images and image capturing device using the method
WO2016208849A1 (ko) 2015-06-23 2016-12-29 삼성전자 주식회사 디지털 촬영 장치 및 그 동작 방법

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7683962B2 (en) 2007-03-09 2010-03-23 Eastman Kodak Company Camera using multiple lenses and image sensors in a rangefinder configuration to provide a range map
WO2008114499A1 (ja) * 2007-03-20 2008-09-25 Panasonic Corporation 撮影装置および撮影方法
US8675091B2 (en) * 2008-12-15 2014-03-18 Nvidia Corporation Image data processing with multiple cameras
CN101616310B (zh) 2009-07-17 2011-05-11 清华大学 可变视角及分辨率的双目视觉系统目标图像稳定化方法
US8736697B2 (en) * 2011-03-25 2014-05-27 Apple Inc. Digital camera having burst image capture mode
KR101930235B1 (ko) * 2012-05-15 2018-12-18 삼성전자 주식회사 디지털 이미지 안정화 방법, 장치 및 시스템
KR102179731B1 (ko) * 2013-03-29 2020-11-17 소니 주식회사 촬상 장치, 고체 촬상 소자, 카메라 모듈, 전자 기기, 및 촬상 방법
WO2014199338A2 (en) 2013-06-13 2014-12-18 Corephotonics Ltd. Dual aperture zoom digital camera
US9066014B2 (en) * 2013-10-11 2015-06-23 Facebook, Inc. Applying video stabilization to a multimedia clip
KR102157675B1 (ko) 2014-07-25 2020-09-18 삼성전자주식회사 촬영 장치 및 그 촬영 방법
KR102462711B1 (ko) * 2016-01-08 2022-11-04 삼성전자주식회사 전자 장치의 센서 동작 방법 및 장치
US10298864B2 (en) * 2016-06-10 2019-05-21 Apple Inc. Mismatched foreign light detection and mitigation in the image fusion of a two-camera system
CN106060367B (zh) * 2016-07-29 2017-11-24 广东欧珀移动通信有限公司 双摄像头拍照控制方法、装置和拍摄装置
CN106331497B (zh) * 2016-08-31 2019-06-11 宇龙计算机通信科技(深圳)有限公司 一种图像处理方法及终端

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090002501A1 (en) 2007-06-27 2009-01-01 Micron Technology, Inc. Image blur correction using a secondary camera
US20160080654A1 (en) 2014-09-12 2016-03-17 Altek Semiconductor Corporation Method of capturing images and image capturing device using the method
WO2016208849A1 (ko) 2015-06-23 2016-12-29 삼성전자 주식회사 디지털 촬영 장치 및 그 동작 방법

Also Published As

Publication number Publication date
CN109525774A (zh) 2019-03-26
CN109525774B (zh) 2022-04-15
US11128803B2 (en) 2021-09-21
EP3457680B1 (en) 2020-07-22
EP3457680A1 (en) 2019-03-20
KR20190032061A (ko) 2019-03-27
US20190089906A1 (en) 2019-03-21

Similar Documents

Publication Publication Date Title
KR102385360B1 (ko) 이미지 보정을 수행하는 전자 장치 및 그 동작 방법
US11461910B2 (en) Electronic device for blurring image obtained by combining plural images based on depth information and method for driving the electronic device
CN109309796B (zh) 使用多个相机获取图像的电子装置和用其处理图像的方法
US11558553B2 (en) Electronic device for stabilizing image and method for operating same
KR102452564B1 (ko) 광학식 이미지 안정화 움직임을 추정하기 위한 장치 및 방법
KR102383134B1 (ko) 우선 순위에 기반하여 이미지를 처리하는 전자 장치 및 그 동작 방법
KR102318013B1 (ko) 복수의 이미지들을 합성하는 전자장치 및 방법
KR102386385B1 (ko) 전자 장치 및 전자 장치의 이미지 압축 방법
US11290641B2 (en) Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme
KR102382871B1 (ko) 렌즈의 포커스를 제어하기 위한 전자 장치 및 전자 장치 제어 방법
KR102452575B1 (ko) 광학식 이미지 안정화 움직임에 의한 이미지의 변화를 보상하기 위한 장치 및 방법
KR20200067027A (ko) 복수의 카메라들 또는 깊이 센서 중 적어도 하나를 이용하여 깊이 정보를 획득하는 전자 장치
KR102330264B1 (ko) 움직임 정보에 기반하여 동영상을 재생하기 위한 장치 및 그의 동작 방법
CN114846608A (zh) 包括图像传感器的电子设备及其操作方法
KR20200017185A (ko) 흐림 처리가 수행된 이미지에 노이즈 패턴을 반영하는 방법 및 장치
KR20190067438A (ko) 이미지를 제공하기 위한 방법 및 이를 지원하는 전자 장치
KR102418852B1 (ko) 이미지 표시를 제어하는 전자 장치 및 방법
KR102457462B1 (ko) 전자장치의 이미지 처리 장치 및 방법
KR20210087809A (ko) 이미지 센서를 포함하는 전자 장치 및 그의 동작 방법
KR20210092012A (ko) 이미지 보정을 수행하는 전자 장치 및 이미지를 보정하는 방법
KR102553150B1 (ko) 외부 전자 장치와 이미지를 처리하는 전자 장치 및 그 동작 방법

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant