KR20240035272A - 프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법 - Google Patents
프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법 Download PDFInfo
- Publication number
- KR20240035272A KR20240035272A KR1020220126198A KR20220126198A KR20240035272A KR 20240035272 A KR20240035272 A KR 20240035272A KR 1020220126198 A KR1020220126198 A KR 1020220126198A KR 20220126198 A KR20220126198 A KR 20220126198A KR 20240035272 A KR20240035272 A KR 20240035272A
- Authority
- KR
- South Korea
- Prior art keywords
- frames
- electronic device
- light source
- image
- processor
- Prior art date
Links
- 230000002194 synthesizing effect Effects 0.000 title claims abstract description 40
- 238000000034 method Methods 0.000 title claims description 58
- 230000033001 locomotion Effects 0.000 claims abstract description 94
- 230000000007 visual effect Effects 0.000 claims description 85
- 230000004044 response Effects 0.000 claims description 22
- 238000005070 sampling Methods 0.000 claims description 19
- 239000003086 colorant Substances 0.000 claims description 8
- 230000006870 function Effects 0.000 description 78
- 238000004891 communication Methods 0.000 description 47
- 230000015572 biosynthetic process Effects 0.000 description 44
- 238000003786 synthesis reaction Methods 0.000 description 44
- 238000012545 processing Methods 0.000 description 30
- 238000010586 diagram Methods 0.000 description 21
- 238000004458 analytical method Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 12
- 238000013528 artificial neural network Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 10
- 239000002131 composite material Substances 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 239000003381 stabilizer Substances 0.000 description 7
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 230000003111 delayed effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 239000000203 mixture Substances 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000001788 irregular Effects 0.000 description 3
- 230000000638 stimulation Effects 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000000712 assembly Effects 0.000 description 2
- 238000000429 assembly Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 238000007667 floating Methods 0.000 description 2
- 239000012530 fluid Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 229910044991 metal oxide Inorganic materials 0.000 description 2
- 150000004706 metal oxides Chemical class 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000000306 recurrent effect Effects 0.000 description 2
- 238000005096 rolling process Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 230000002457 bidirectional effect Effects 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 239000004020 conductor Substances 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000003155 kinesthetic effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/16—Image acquisition using multiple overlapping images; Image stitching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Studio Devices (AREA)
Abstract
일 실시예에 따른, 전자 장치(electronic device)의 프로세서는, 제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된 이미지를 획득하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하도록, 구성될 수 있다. 그 밖에 다양한 실시예가 가능하다.
Description
아래의 설명들은 프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법에 관한 것이다.
CSC(compact system camera)는, 조리개의 제어에 기반하여 이미지 센서, 및/또는 필름으로 송신되는 외부 광을 조절하여, 이미지의 캡쳐와 관련된 다양한 기능들을 지원할 수 있다. 상기 기능들은, 조리개를 상대적으로 긴 기간 동안 개방하여, 상기 기간 내에서 상기 CSC에 의해 캡쳐되는 객체의 궤적, 및/또는 흐름을 표현하는 기능(예, 슬로우 셔터(slow shutter) 기능)를 포함할 수 있다. 슬로우 셔터 기능에 기반하여 제어되는 상태 내에서, CSC는 이미지 센서의 정보를, 조리개가 지정된 기간 동안 개방된 이후의 일 시점(single moment)에서 획득할 수 있다.
일 실시예(an embodiment)에 따른, 전자 장치(an electronic device)는, 메모리, 및 프로세서를 포함할 수 있다. 상기 프로세서는, 제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된(represented) 이미지를 획득하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하도록, 구성될 수 있다.
일 실시예에 따른, 전자 장치의 방법은, 제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된 이미지를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하는 동작을 포함할 수 있다.
일 실시예에 따른, 전자 장치(electronic device)는, 메모리, 및 프로세서를 포함할 수 있다. 상기 프로세서는, 카메라에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나의 밝기를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 밝기를 이용하여 상기 프레임들로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 상기 프레임들에 의해 캡쳐된 상기 시각적 객체의 경로와 관련된 정보를 획득하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여 상기 프레임들을 합성하여, 상기 시각적 객체의 상기 경로가 표현된 이미지를 획득하도록, 구성될 수 있다.
일 실시예에 따른, 전자 장치의 방법은, 카메라에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나의 밝기를 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 밝기를 이용하여 상기 프레임들로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 상기 프레임들에 의해 캡쳐된 상기 시각적 객체의 경로와 관련된 정보를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 정보에 기반하여 상기 프레임들을 합성하여, 상기 시각적 객체의 상기 경로가 표현된 이미지를 획득하는 동작을 포함할 수 있다.
도 1은, 일 실시예에 따른, 전자 장치의 블록도이다.
도 2는, 일 실시예에 따른, 카메라 모듈을 예시하는 블록도이다.
도 3a 내지 도 3b는, 일 실시예에 따른, 전자 장치가 프레임들의 합성을 위한 입력을 수신하는 동작의 일 예를 도시한다.
도 4는, 일 실시예에 따른, 전자 장치의 블록도이다.
도 5는, 일 실시예에 따른, 전자 장치가 프레임들을 합성하기 위한 합성 모드를 선택하는 동작의 일 예를 도시한다.
도 6은, 일 실시예에 따른, 전자 장치가 프레임들 각각의 밝기들을 식별하는 동작의 일 예를 도시한다.
도 7은, 일 실시예에 따른, 전자 장치가 프레임들의 보간에 기반하여 프레임들을 합성하는 동작의 일 예를 도시한다.
도 8은, 일 실시예에 따른, 전자 장치가 프레임들의 샘플링에 기반하여 프레임들을 합성하는 동작의 일 예를 도시한다.
도 9는, 일 실시예에 따른, 전자 장치가 프레임들에 의해 캡쳐된 광원의 모션에 기반하여, 프레임들을 합성하는 동작의 일 예를 도시한다.
도 10a 내지 도 10b는, 일 실시예에 따른, 전자 장치가 프레임들을 합성하기 위한 예시적인 신호 흐름도들을 도시한다.
도 11은, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다.
도 12는, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다.
도 13은, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다.
도 2는, 일 실시예에 따른, 카메라 모듈을 예시하는 블록도이다.
도 3a 내지 도 3b는, 일 실시예에 따른, 전자 장치가 프레임들의 합성을 위한 입력을 수신하는 동작의 일 예를 도시한다.
도 4는, 일 실시예에 따른, 전자 장치의 블록도이다.
도 5는, 일 실시예에 따른, 전자 장치가 프레임들을 합성하기 위한 합성 모드를 선택하는 동작의 일 예를 도시한다.
도 6은, 일 실시예에 따른, 전자 장치가 프레임들 각각의 밝기들을 식별하는 동작의 일 예를 도시한다.
도 7은, 일 실시예에 따른, 전자 장치가 프레임들의 보간에 기반하여 프레임들을 합성하는 동작의 일 예를 도시한다.
도 8은, 일 실시예에 따른, 전자 장치가 프레임들의 샘플링에 기반하여 프레임들을 합성하는 동작의 일 예를 도시한다.
도 9는, 일 실시예에 따른, 전자 장치가 프레임들에 의해 캡쳐된 광원의 모션에 기반하여, 프레임들을 합성하는 동작의 일 예를 도시한다.
도 10a 내지 도 10b는, 일 실시예에 따른, 전자 장치가 프레임들을 합성하기 위한 예시적인 신호 흐름도들을 도시한다.
도 11은, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다.
도 12는, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다.
도 13은, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 설명된다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나 와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는, 다양한 실시예들에 따른, 카메라 모듈(180)을 예시하는 블럭도(200)이다. 도 2를 참조하면, 카메라 모듈(180)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일실시예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210) 를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 일실시예에 따르면, 이미지 스태빌라이저(240)은 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 디스플레이 모듈(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)이 프로세서(120)과 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(160)를 통해 표시될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어??)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 3a 내지 도 3b는, 일 실시예에 따른, 전자 장치(101)가 프레임들의 합성을 위한 입력을 수신하는 동작의 일 예를 도시한다. 도 3a 내지 도 3b는 도 1 내지 도 2의 전자 장치(101)의 일 예일 수 있다. 도 3a 내지 도 3b의 전자 장치(101)는, 사용자에 의해 소유되는(be owned by) 단말일 수 있다. 단말은, 예를 들어, 랩톱 및 데스크톱과 같은 개인용 컴퓨터(personal computer, PC), 스마트폰(smartphone), 스마트패드(smartpad), 및/또는 태블릿 PC를 포함할 수 있다. 실시예가 이에 제한되는 것은 아니며, 단말은, 스마트워치(smartwatch), 및/또는 HMD(head-mounted device)와 같은 스마트액세서리를 포함할 수 있다.
일 실시예에 따른, 전자 장치(101)는 슬로우 셔터 기능에 기반하여, 정지된(stationary) FoV(field-of-view)를 가지는 복수의 프레임들을 합성할 수 있다. 슬로우 셔터 기능은, 조리개가 개방된 시간 구간 내에서 연속적으로 움직이는(continuously moved) 외부 객체의 모션을 표현한, 단일의 이미지를 획득하는 기능을 의미할 수 있다. 일 실시예에 따른, 전자 장치(101)는 상기 시간 구간 미만의 주기를 따라 이산적으로(discretely) 획득된 복수의 프레임들에 기반하여, 슬로우 셔터 기능을 실행할 수 있다. 예를 들어, 전자 장치(101)는 슬로우 셔텨 기능에 기반하여, 상기 복수의 프레임들의 합성의 결과로써(as a result of), 단일의(single) 이미지를 획득할 수 있다. 상기 복수의 프레임들로부터 합성된 상기 이미지는, 상기 복수의 프레임들이 획득된 시간 구간 내에서 연속적으로 움직이는 적어도 하나의 외부 객체의 궤적을 포함할 수 있다.
일 실시예에 따른, 전자 장치(101)는 복수의 프레임들을 실시간으로(in real time) 합성하거나, 또는 복수의 프레임들에 대한 후처리(postprocess)에 기반하여, 슬로우 셔터 기능을 실행할 수 있다. 도 3a를 참고하면, 일 실시예에 따른, 전자 장치(101)가 카메라(350)로부터 획득된 복수의 프레임들을 실시간으로 합성하는 상태의 일 예가 도시된다. 도 3b를 참고하면, 일 실시예에 따른, 전자 장치(101)가, 전자 장치(101) 내에 기 저장된(pre-stored) 복수의 프레임들을 합성하는 상태의 일 예가 도시된다. 전자 장치(101) 내에 포함된 하드웨어의 예시적인 구조가, 도 4를 참고하여 설명된다.
도 3a를 참고하면, 일 실시예에 따른, 전자 장치(101)는, 지정된 주기를 따라 이미지 센서로부터 데이터를 출력하도록 구성된, 카메라(350)를 포함할 수 있다. 상기 데이터는, 롤링 셔터와 같이, 카메라(350) 내 컨트롤러(예, 도 2의 ISP(260))가 카메라(350) 내 이미지 센서들에 순차적으로(sequentially) 액세스하는 방식에 기반하여 획득될 수 있다. 상기 데이터가 획득되는 상기 방식은, 상술된 롤링 셔터에 제한되지 않으며, 글로벌 셔터를 포함할 수 있다. 카메라(350)와 관련된 상기 지정된 주기는, 프레임 율(frame rate)로 참조될 수 있다. 상기 지정된 주기는, 카메라(350) 내 이미지 센서들을 초기화하기 위하여, 카메라(350)에 의해 조절될 수 있다. 이미지 센서들의 초기화는, 프레임들 간 간섭을 줄이기 위하여 카메라(350)에 의해 수행될 수 있다. 카메라(350)는, 이미지 센서로부터 지정된 주기를 따라 획득된 상기 데이터에 기반하여, 상기 지정된 주기를 따라 상기 이미지 센서에 의해 캡쳐된 하나 이상의 프레임들을 출력할 수 있다. 전자 장치(101)는 상기 카메라(350)로부터 출력된 상기 복수의 프레임들에 기반하여, 슬로우 셔터 기능에 이용될 상기 복수의 프레임들을 획득할 수 있다.
도 3a를 참고하면, 전자 장치(101)는 카메라 어플리케이션과 같은 지정된 어플리케이션의 실행에 기반하여, 카메라(350)를 제어할 수 있다. 전자 장치(101)가 하우징의 제1 면(314-1) 상에 배치된 디스플레이(310), 및 상기 제1 면(314-1)과 반대되는(opposite to) 제2 면(314-2)을 포함하는 일 실시예에서, 복수의 카메라들(예, 제1 카메라(350-1) 내지 제3 카메라(350-3))이 상기 제2 면(314-2)을 통해 외부로 노출될 수 있다. 전자 장치(101)는 상기 지정된 어플리케이션의 실행에 기반하여, 제1 카메라(350-1) 내지 제3 카메라(350-3) 중 어느 하나를 활성화할 수 있다. 활성화된 카메라로부터 획득되는 프레임들의 적어도 일부분에 기반하여, 전자 장치(101)는 디스플레이(310) 내에 프리뷰 이미지(320)를 표시할 수 있다.
도 3a를 참고하면, 일 실시예에 따른, 전자 장치(101)가 카메라(350)를 제어하기 위한 지정된 어플리케이션에 기반하여 디스플레이(310) 내에 표시한, 화면의 일 예가 도시된다. 이하에서, 화면(screen)은 디스플레이의 적어도 일부분 내에서 표시되는 UI(user interface)를 의미할 수 있다. 화면은, 예를 들어, 안드로이드(android) 운영체제의 액티비티(activity)를 포함할 수 있다. 디스플레이(310) 내에 표시되는 프리뷰 이미지(320)와 함께, 전자 장치(101)는 카메라(350)와 관련된 지정된 입력(예, 촬영 입력(a shooting input))을 수신하기 위한 시각적 객체(324)를 표시할 수 있다. 시각적 객체(324)는, 셔터를 표현하기 위한 지정된 형태의 아이콘을 포함할 수 있다. 시각적 객체(324)를 터치(예, 탭(tap)) 및/또는 클릭하는 제스쳐에 기반하여, 전자 장치(101)는 촬영 입력을 수신할 수 있다. 촬영 입력은, 시각적 객체(324)와 관련된 상기 제스쳐에 제한되지 않으며, 전자 장치(101)의 하우징의 일부분을 통해 외부로 노출된 버튼(312)을 누르는 제스쳐를 포함할 수 있다. 상기 버튼(312)은, 카메라(350)를 제어하기 위한 지정된 어플리케이션이 실행되는 시간 구간과 상이한 다른 시간 구간에서, 상기 촬영 입력과 상이한 기능(예, 전자 장치(101)에 의해 출력되는 오디오 신호의 볼륨을 조절하는 기능)에 매핑될 수 있다.
도 3a를 참고하면, 전자 장치(101)는 디스플레이(310) 내에서 프리뷰 이미지(320)와 함께, 전자 장치(101) 내에 저장된 하나 이상의 이미지들, 및/또는 비디오들을 열람하기 위한 시각적 객체(322)를 표시할 수 있다. 시각적 객체(322)는, 전자 장치(101) 내에 저장된 하나 이상의 이미지들, 및/또는 비디오들 중에서 가장 최근에 저장된 일 이미지, 및/또는 일 비디오의 썸네일을 포함할 수 있다. 전자 장치(101)는 디스플레이(310)의 지정된 영역(340) 내에, 디스플레이(310) 내에 표시되는 화면, 및/또는 전자 장치(101)에 의해 실행되는 어플리케이션을 변경하기 위한 상이한 옵션들을 표시할 수 있다. 상기 지정된 영역(340)은 내비게이션 바로 참조될 수 있다.
도 3a를 참고하면, 일 실시예에 따른, 전자 장치(101)는 디스플레이(310) 내에, 카메라(350)를 제어하기 위한 상이한 기능들의 리스트(330)를 표시할 수 있다. 리스트(330)는, 촬영 입력(324)에 의해 전자 장치(101)에 저장될 멀티미디어 콘텐트의 타입과 관련될 수 있다. 예를 들어, 리스트(330) 내에서, "사진"과 같은 텍스트를 가지는 옵션은, 촬영 입력(324)에 기반하여, 단일의 이미지를 획득하기 위한 기능을 나타낼 수 있다. 예를 들어, 리스트(330) 내에서, "비디오"와 같은 텍스트를 가지는 옵션은, 촬영 입력(324)에 기반하여, 비디오를 획득하기 위한 기능을 나타낼 수 있다. 예를 들어, 리스트(330) 내에서, "슬로우 셔터"와 같은 텍스트를 가지는 옵션(332)은, 촬영 입력(324)에 기반하여 슬로우 셔터 기능을 실행하여, 복수의 프레임들이 합성된 이미지를 획득하기 위한 기능을 나타낼 수 있다. 실시예가 이에 제한되는 것은 아니며, 리스트(330) 내 "더 보기"와 같은 옵션에 기반하여, 전자 장치(101)는 상기 예시된 옵션들과 상이한 다른 옵션들을 더 표시할 수 있다.
도 3a를 참고하면, 일 실시예에 따른, 전자 장치(101)가 슬로우 셔터 기능을 선택함을 나타내는 입력을 수신한 예시적인 상태가 도시된다. 도 3a의 상기 예시적인 상태 내에서, 전자 장치(101)는 리스트(330) 내 옵션(332)을 강조할 수 있다. 옵션(332)을 강조하는 것은, 옵션(332)이 선택됨을 나타내기 위하여, 옵션(332)에 포함된 텍스트의 색상, 크기, 및/또는 경계 선을 조절하는 동작을 포함할 수 있다. 도 3a를 참고하면, 옵션(332)에 대응하는 지정된 형태의 도형이 표시되는 일 예가 도시되지만, 실시예가 이에 제한되는 것은 아니다.
일 실시예에 따른, 전자 장치(101)는 도 3a의 예시적인 상태 내에서, 시각적 객체(324)에 기반하는 촬영 입력의 수신에 응답하여, 슬로우 셔터 기능의 실행에 기반하여, 카메라(350)로부터 수신된 프레임들을 합성할 수 있다. 전자 장치(101)가 카메라(350)로부터, 이미지의 합성에 이용될 프레임들을 획득하는 시간 구간은, 촬영 입력을 수신한 직후의 시간 구간에 대응하거나, 또는 촬영 입력을 수신하기 이전의 다른 시간 구간에 대응할 수 있다. 예를 들어, 시각적 객체(324)를 선택한 시점부터 지정된 기간을 가지는 시간 구간 동안, 전자 장치(101)는 슬로우 셔터 기능에 기반하여 합성될 프레임들을 획득할 수 있다. 예를 들어, 시각적 객체(324)를 선택함을 나타내는 입력에 응답하여, 전자 장치(101)는 메모리 내에 형성된 버퍼 내에 저장된 프레임들을, 상기 슬로우 셔터 기능에 기반하여 합성될 프레임들로 선택할 수 있다. 상기 버퍼는, 큐와 같은 데이터 구조에 기반하여 현재 시점을 종료 시점(terminal moment)으로 가지는 지정된 기간의 시간 구간 내에서 카메라(350)로부터 수신된 프레임들을 저장하기 위하여, 메모리 내에 형성될 수 있다. 일 실시예에서, 프레임들이 합성된 이미지를 획득한 전자 장치(101)는 상기 획득된 이미지를 전자 장치(101)의 메모리 내에 저장할 수 있다. 상기 이미지를 상기 메모리 내에 저장하는 것에 응답하여, 전자 장치(101)는 시각적 객체(322) 내에 포함된 썸네일을, 상기 획득된 이미지를 표현하기 위한 다른 썸네일로 변경할 수 있다.
도 3b를 참고하면, 전자 장치(101)는 갤러리 어플리케이션과 같은 지정된 어플리케이션의 실행에 기반하여, 전자 장치(101) 내에 저장된 멀티미디어 콘텐트의 리스트를, 디스플레이(310) 내에 표시할 수 있다. 도 3b의 예시적인 상태를 참고하면, 전자 장치(101)는 디스플레이(310)의 표시 영역의 부분(360) 내에, 전자 장치(101)내에 저장된 멀티미디어 콘텐트(예, 이미지, 및/또는 비디오)를 표현하는 하나 이상의 썸네일들을 표시할 수 있다. 도 3a의 예시적인 상태와 유사하게, 전자 장치(101)는 디스플레이(310)의 지정된 영역(340) 내에, 디스플레이(310) 내에 표시되는 화면, 및/또는 전자 장치(101)에 의해 실행되는 어플리케이션을 변경하기 위한 상이한 옵션들을 표시할 수 있다.
도 3b를 참고하면, 전자 장치(101)는 부분(360)을 통해 표시되는 리스트 내에서, 일 비디오를 선택함을 나타내는 입력을 식별할 수 있다. 부분(360) 내에 표시되는, 일 썸네일(362)을 선택함을 나타내는 입력에 기반하여, 전자 장치(101)는 썸네일(362)에 대응하는 비디오를 재생하기 위한 화면(305)을 표시할 수 있다. 화면(305)의 영역(370)에 기반하여, 전자 장치(101)는 썸네일(362)에 대응하는 비디오를 재생할 수 있다. 일 실시예에 따른, 전자 장치(101)는 화면(305) 내에서 영역(370)을 통해 표시되는 비디오의 재생을 제어하기 위한 시각적 객체(378)(예, 재생 버튼)를 표시할 수 있다. 전자 장치(101)는 화면(305) 내에 표시되는 시각적 객체(372)에 기반하여, 화면(305)에 의해 표시되는 비디오의 적어도 일부분을 합성하기 위한 슬로우 셔터 기능을 실행할 수 있다. 예를 들어, 시각적 객체(372)를 선택함을 나타내는 입력에 응답하여, 전자 장치(101)는 비디오의 적어도 일부분을 선택하기 위한 시각적 객체(374)를 표시할 수 있다. 시각적 객체(374)는, 화면(305)에 의해 표시되는 비디오의 타임 라인을 포함할 수 있다.
도 3b를 참고하면, 시각적 객체(374) 상에 중첩되는 핸들들(376-1, 376-2)에 기반하여, 전자 장치(101)는 슬로우 셔터 기능의 실행에 기반하여 합성될 비디오 내 프레임들에 대응하는 시간 구간을 식별할 수 있다. 예를 들어, 핸들들(376-1, 376-2)에 의해 시각적 객체(374) 내에서 구분되는 일 시간 구간에 기반하여, 전자 장치(101)는 비디오 내 프레임들 중에서, 슬로우 셔터 기능의 실행에 기반하여 합성될 비디오 내 하나 이상의 프레임들을 식별할 수 있다. 핸들들(376-1, 376-2) 중 적어도 하나는 사용자에 의해 시각적 객체(374) 상에서 드래그될 수 있다. 전자 장치(101)는 핸들들(376-1, 376-2)에 의해 선택된 비디오 내 프레임들을 합성한 결과를 저장하기 위한 시각적 객체(382)를 표시할 수 있다. 시각적 객체(382)를 선택함을 나타내는 입력에 기반하여, 전자 장치(101)는 핸들들(376-1, 376-2)에 의해 구분되는 시간 구간 내 복수의 프레임들을 합성할 수 있다. 상기 프레임들이 시각적 객체(382)에 대한 상기 입력에 의해 합성됨에 따라, 상기 프레임들로부터 합성된 일 이미지가 전자 장치(101) 내에 저장될 수 있다. 전자 장치(101)내에 저장된 이미지는, 부분(360) 내에 썸네일의 형태로 표시될 수 있다. 전자 장치(101)는 시각적 객체(384)에 기반하여 슬로우 셔터 기능에 기반하는 프레임들의 합성을 취소하기 위한 입력을 수신할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치(101)는 슬로우 셔터 기능을 실행하기 위한 하나 이상의 어플리케이션들(예, 카메라 어플리케이션, 및/또는 갤러리 어플리케이션)을 실행할 수 있다. 전자 장치(101)는 슬로우 셔터 기능의 실행에 기반하여, 서로 이격된 상이한 시간 구간들에 기반하여 캡쳐된 프레임들을 합성하여, 조리개의 단일 개방에 기반하여 캡쳐된 단일의 이미지와 같은 이미지를 획득할 수 있다. 복수의 프레임들을 합성하기 위하여, 전자 장치(101)는 복수의 프레임들에 포함된 시각적 객체(예, 광원을 표현하는 시각적 객체)에 기반하여, 상기 복수의 프레임들을 합성하기 위한 합성 모드를 선택할 수 있다. 일 실시예에 따른, 전자 장치(101)가 상이한 합성 모드들 중에서, 복수의 프레임들에 포함된 시각적 객체에 기반하여 일 합성 모드를 선택하는 동작이 도 5 내지 도 6을 참고하여 설명된다. 전자 장치(101)가 슬로우 셔터 기능에 기반하여 실행하는, 상기 합성 모드들 각각이 도 7 내지 도 9, 및/또는 도 10a 내지 도 10b를 참고하여 설명된다. 예를 들어, 상기 합성 모드들은, 보간에 기반하여 추가적인 프레임을 획득하는지 여부, 데시메이션(decimation)에 기반하여 프레임들을 샘플링하는지 여부, 방향성 필터(directional filter)와 같이 슬로우 셔터 기능과 관련된 일 기능을 실행하는지 여부, 프레임들에 포함된 색상을 단순 결합하는지 여부, 및/또는 프레임들 각각에 대응하는 가중치들에 기반하여 프레임들을 합성하는지 여부에 의하여 구분될 수 있다.
이하에서는, 도 4를 참고하여, 일 실시예에 따른, 전자 장치(101) 내에 포함된 하나 이상의 하드웨어들의 예시적인 구조가 설명된다.
도 4는, 일 실시예에 따른, 전자 장치(101)의 블록도이다. 도 4의 전자 장치(101)는 도 1 내지 도 3의 전자 장치(101)를 포함할 수 있다. 도 4를 참고하면, 일 실시예에 따른, 전자 장치(101)는 프로세서(120), 메모리(130), 디스플레이(310), 또는 카메라(350) 중 적어도 하나를 포함할 수 있다. 프로세서(120), 메모리(130), 디스플레이(310), 및 카메라(350)는 통신 버스(a communication bus)(405)와 같은 전자 소자(electronical component)에 의해 서로 전기적으로 및/또는 작동적으로 연결될 수 있다(electronically and/or operably coupled with each other). 이하에서, 하드웨어들이 작동적으로 결합된 것은, 하드웨어들 중 제1 하드웨어에 의해 제2 하드웨어가 제어되도록, 하드웨어들 사이의 직접적인 연결, 또는 간접적인 연결이 유선으로, 또는 무선으로 수립된 것을 의미할 수 있다. 상이한 블록들에 기반하여 도시되었으나, 실시예가 이에 제한되는 것은 아니며, 도 4에 도시된 하드웨어 컴포넌트 중 일부분(예, 프로세서(120), 및 메모리(130)의 적어도 일부분)이 SoC(system on a chip)와 같이 단일 집적 회로(single integrated circuit)에 포함될 수 있다. 전자 장치(101)에 포함된 하드웨어 컴포넌트의 타입 및/또는 개수는 도 4에 도시된 바에 제한되지 않는다. 예를 들어, 전자 장치(101)는 도 4에 도시된 하드웨어 컴포넌트 중 일부만 포함할 수 있다.
일 실시예에 따른, 전자 장치(101)의 프로세서(120)는 하나 이상의 인스트럭션들에 기반하여 데이터를 처리하기 위한 회로를 포함할 수 있다. 데이터를 처리하기 위한 상기 회로는, 예를 들어, ALU(arithmetic and logic unit), FPU(floating point unit), FPGA(field programmable gate array), 및/또는 CPU(central processing unit)를 포함할 수 있다. 프로세서(120)의 개수는 하나 이상일 수 있다. 예를 들어, 프로세서(120)는, 듀얼 코어(dual core), 쿼드 코어(quad core), 또는 헥사 코어(hexa core)와 같은 멀티-코어 프로세서의 구조를 가질 수 있다. 도 4의 프로세서(120)는 도 1의 프로세서(120)를 포함할 수 있다.
일 실시예에 따른, 전자 장치(101)의 메모리(130)는 프로세서(120)에 입력 및/또는 출력되는 데이터 및/또는 인스트럭션을 저장하기 위한 회로를 포함할 수 있다. 메모리(130)는, 예를 들어, RAM(random-access memory)과 같은 휘발성 메모리(volatile memory), 및/또는 ROM(read-only memory)과 같은 비휘발성 메모리(non-volatile memory)를 포함할 수 있다. 휘발성 메모리는, 예를 들어, DRAM(dynamic RAM), SRAM(static RAM), Cache RAM, PSRAM (pseudo SRAM) 중 적어도 하나를 포함할 수 있다. 비휘발성 메모리는, 예를 들어, PROM(programmable ROM), EPROM (erasable PROM), EEPROM (electrically erasable PROM), 플래시 메모리, 하드디스크, 컴팩트 디스크, SSD(solid state drive), eMMC(embedded multi media card) 중 적어도 하나를 포함할 수 있다. 도 4의 메모리(130)는 도 1의 메모리(130)를 포함할 수 있다.
메모리(130) 내에서, 프로세서(120)가 데이터에 수행할 연산, 및/또는 동작을 나타내는 하나 이상의 인스트럭션들(또는 명령어들)이 저장될 수 있다. 하나 이상의 인스트럭션들의 집합은, 펌웨어, 운영 체제, 프로세스, 루틴, 서브-루틴 및/또는 어플리케이션으로 참조될 수 있다. 예를 들어, 전자 장치(101), 및/또는 프로세서(120)는, 운영체제, 펌웨어, 드라이버, 및/또는 어플리케이션 형태로 배포된 복수의 인스트럭션의 집합(set of a plurality of instructions)이 실행될 시에, 도 11 내지 도 13의 동작들 중 적어도 하나를 수행할 수 있다. 이하에서, 어플리케이션이 전자 장치(101)에 설치되었다는 것은, 어플리케이션의 형태로 제공된 하나 이상의 인스트럭션들이 전자 장치(101)의 메모리(130) 내에 저장된 것으로써, 상기 하나 이상의 어플리케이션들이 전자 장치(101)의 프로세서(120)에 의해 실행 가능한(executable) 포맷(예, 전자 장치(101)의 운영 체제에 의해 지정된 확장자를 가지는 파일)으로 저장된 것을 의미할 수 있다. 전자 장치(101) 내에 설치된 어플리케이션은, 도 3a의 예시적인 상태와 같이, 카메라(350)로부터 출력되는 프레임들을 합성하기 위한 일 어플리케이션을 포함할 수 있다. 전자 장치(101) 내에 설치된 어플리케이션은, 도 3b의 예시적인 상태와 같이, 전자 장치(101) 내에 저장된 비디오의 적어도 일부분에 대응하는 프레임들을 합성하기 위한 일 어플리케이션을 포함할 수 있다.
일 실시예에 따른, 전자 장치(101)의 디스플레이(310)는, 사용자에게 시각화된 정보(예를 들어, 도 3a 내지 도 3b를 참고하여 예시된 디스플레이(310) 내 화면들 중 적어도 하나)를 출력할 수 있다. 예를 들어, 디스플레이(310)는, 프로세서(120), 및/또는 GPU(graphic processing unit)과 같은 컨트롤러에 의해 제어되어, 사용자에게 시각화된 정보(visualized information)를 출력할 수 있다. 디스플레이(310)는 FPD(flat panel display), 및/또는 전자 종이(electronic paper)를 포함할 수 있다. 상기 FPD는 LCD(liquid crystal display), PDP(plasma display panel) 및/또는 하나 이상의 LED(light emitting diode)를 포함할 수 있다. 상기 LED는 OLED(organic LED)를 포함할 수 있다. 일 실시예에 따른 전자 장치(101)의 디스플레이(310)는, 디스플레이(310) 상의 외부 객체(예, 사용자의 손가락)를 탐지하기 위한 센서(예, TSP(touch sensor panel))를 포함할 수 있다. 예를 들어, TSP에 기반하여, 전자 장치(101)는 디스플레이(310)와 접촉하거나, 또는 디스플레이(310) 상을 부유하는(floating) 외부 객체를 탐지할 수 있다. 상기 외부 객체를 탐지하는 것에 응답하여, 전자 장치(101)는 디스플레이(310) 내에 표시되고 있는 시각적 객체들 중에서 상기 외부 객체의 디스플레이(310) 상에서의 위치에 대응하는 특정 시각적 객체와 관련된 기능을 실행할 수 있다. 도 4의 디스플레이(310)는 도 1의 디스플레이 모듈(160)을 포함할 수 있다.
일 실시예에 따른, 전자 장치(101)의 카메라(350)는, 빛의 색상 및/또는 밝기를 나타내는 전기 신호를 생성하는 광 센서(예, CCD(charged coupled device) 센서, CMOS(complementary metal oxide semiconductor) 센서)를 하나 이상 포함할 수 있다. 카메라(350)에 포함된 복수의 광 센서들은, 2차원 격자(2 dimensional array)의 형태로 배치될 수 있다. 카메라(350)는 복수의 광 센서들 각각의 전기 신호를 실질적으로 동시에 획득하여, 2차원 격자의 광 센서들에 도달한 빛에 대응하는 2차원 데이터(예, 프레임)를 생성할 수 있다. 예를 들어, 카메라(350)를 이용하여 캡쳐한 사진 데이터는 카메라(350)로부터 획득한 하나의 2차원 프레임 데이터를 의미할 수 있다. 예를 들어, 카메라(350)를 이용하여 캡쳐한 비디오 데이터는 카메라(350)로부터 획득한 복수의 2차원 프레임 데이터의 시퀀스(sequence)를 의미할 수 있다. 일 실시예에서, 카메라(350)는 카메라(350)의 외부로 광을 방출하는 플래시 라이트 및/또는 적외선 다이오드를 포함할 수 있다. 카메라(350)의 FoV는, 카메라(140)의 렌즈가 빛을 수신 가능한 화각(view angle)에 기반하여 형성되는 영역으로, 카메라(350)에서 생성된 이미지에 대응하는 외부 공간에 대응할 수 있다.
일 실시예에 따른, 전자 장치(101)의 프로세서(120)는, 제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력을 수신할 수 있다. 상기 입력은, 도 3a의 시각적 객체(324)에 기반하는 촬영 입력과 같이, 슬로우 셔터 기능이 선택된 상태 내에서 수신될 수 있다. 상기 입력은, 도 3b의 화면(305)에 기반하여 상술한 바와 같이, 전자 장치(101) 내에 저장된 비디오와 관련된 슬로우 셔터 기능을 실행하기 위한 입력을 포함할 수 있다. 전자 장치(101)가 상기 슬로우 셔터 기능을 실행하기 위한 입력에 기반하여, 상이한 프레임들을 합성하는 동작이 도 5를 참고하여 설명된다. 전자 장치(101)는 상기 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별할 수 있다. 상기 정보는, 상기 프레임들에 의해 포함된 피사체의 타입(예, 광원(light source)과 같은 지정된 타입), 및/또는 상기 피사체가 상기 프레임들 각각에서 캡쳐된 위치들을 포함할 수 있다. 일 실시예에 따른, 전자 장치(101)가 상기 프레임들에 대한 상기 정보를 식별하는 동작이 도 6을 참고하여 설명된다.
일 실시예에서, 전자 장치(101)의 프로세서(120)는, 상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원(light source)을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득할 수 있다. 전자 장치(101)는 프레임들로부터 하나 이상의 광원들을 식별하는 것에 기반하여, 하나 이상의 광원들이 상기 프레임들에 의해 캡쳐된 상기 하나 이상의 광원들의 경로들을 표현하기 위한 제1 지정된 합성 모드에 기반하여, 상기 프레임들을 합성할 수 있다. 상기 제1 지정된 합성 모드에 기반하여, 전자 장치(101)는, 상기 프레임들과, 보간(interpolation)에 기반하여 획득된 다른 프레임들을 합성할 수 있다. 예를 들어, 프레임들의 보간에 기반하여, 전자 장치(101)는 상기 프레임들이 캡쳐된 상이한 시점들 사이의 다른 시점의 상기 하나 이상의 광원들의 위치들이 나타내어진, 상기 다른 프레임들을 획득할 수 있다. 전자 장치(101)가 프레임들의 보간에 기반하여 상기 다른 프레임들을 획득하는 동작이, 도 7을 참고하여 설명된다. 전자 장치(101)가 적어도 하나의 광원을 식별한 상태 내에서, 상기 프레임들에 지정된 필터(예, 방향성 필터(directional filter))를 적용하는 동작이, 도 9를 참고하여 설명된다.
일 실시예에서, 전자 장치(101)의 프로세서(120)는, 상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지(an image)를 획득할 수 있다. 프레임들의 샘플링은, 데시메이션과 같이, 합성에 이용될 프레임들의 주기를 길게 만들기 위하여 수행될 수 있다. 전자 장치(101)가, 광원이 프레임들 내에 포함되지 않음을 식별한 상태 내에서, 상기 프레임들의 주기 보다 긴 다른 주기에 기반하여 샘플링된 하나 이상의 프레임들을 합성하는 동작이, 도 8을 참고하여 설명된다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치(101)는 슬로우 셔터 기능을 지원하기 위하여, 프레임들을 합성할 수 있다. 지정된 주기에 기반하여 이산적으로 획득된 프레임들을 합성하여, 전자 장치(101)는, 상기 프레임들이 캡쳐된 기간 동안 개방된 조리개를 이용하여 획득된 제1 이미지와 실질적으로 유사한 제2 이미지를 획득할 수 있다. 상기 제2 이미지에 기반하여, 전자 장치(101)는 상기 지정된 주기를 초과하는 장노출(long-exposure)을 지원할 수 있다. 이하에서는, 도 5를 참고하여, 일 실시예에 따른, 전자 장치(101)가 프레임들의 상태에 기반하여, 슬로우 셔터 기능과 관련된 상이한 합성 모드들 중 어느 하나를 선택하는 동작이 설명된다.
도 5는, 일 실시예에 따른, 전자 장치가 프레임들을 합성하기 위한 합성 모드를 선택하는 동작의 일 예를 도시한다. 도 5의 전자 장치는 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 도 5를 참고하면, 일 실시예에 따른, 전자 장치가 슬로우 셔터 기능의 실행에 기반하여, 프레임들의 상이한 그룹들(예, 제1 그룹(510) 내지 제3 그룹(530))에 대한 합성을 수행하는 동작이 설명된다. 제1 그룹(510) 내지 제3 그룹(530)에 포함된 프레임들은, 상이한 촬영 입력들에 기반하여 카메라(예, 도 4의 카메라(350))로부터 획득되거나, 상이한 비디오들에 포함될 수 있다.
일 실시예에 따른, 전자 장치는 프레임들에 대한 장면 분석에 기반하여, 슬로우 셔터 기능을 지원하기 위한 상이한 합성 모드들 중 어느 하나를 선택할 수 있다. 장면 분석은, 슬로우 셔터 기능에 의해 합성될 프레임들의 그룹(예, 제1 그룹(510) 내지 제3 그룹(530))에, 합성 모드의 선택을 위한 지정된 카테고리들 중 어느 하나를 할당하는(assign) 동작을 포함할 수 있다. 지정된 카테고리들은, 야간 장면을 분류하기 위한 제1 카테고리, 주간(daytime) 장면을 분류하기 위한 제2 카테고리를 포함할 수 있다. 도 5를 참고하면, 전자 장치는 제1 그룹(510)의 프레임들을, 야간 장면에 대응하는 상기 제1 카테고리로 분류한 것으로 가정한다. 전자 장치는 제2 그룹(520) 내지 제3 그룹(530)의 프레임들을, 주간 장면에 대응하는 상기 제2 카테고리로 분류한 것으로 가정한다. 슬로우 셔터 기능에 기반하여 프레임들을 합성하는 성능을 개선하기 위하여, 전자 장치는 장면 분석에 의해 프레임들의 그룹에 할당되는 카테고리에 기반하여, 상이한 합성 모드들 중에서 프레임들의 합성에 이용될 하나의 합성 모드를 선택할 수 있다.
야간 장면으로 분류된 제1 그룹(510)의 프레임들을 합성하는 상태 내에서, 전자 장치는, 적어도 하나의 광원의 모션이 제1 그룹(510)의 프레임들 내에 포함되었는지 여부를 식별할 수 있다. 적어도 하나의 광원의 모션이 제1 그룹(510)의 프레임들 내에 포함된 경우, 전자 장치는 제1 그룹(510)의 프레임들의 보간에 기반하여, 제1 그룹(510)의 프레임들로부터 하나 이상의 다른 프레임들을 획득할 수 있다. 전자 장치는 제1 그룹(510)의 프레임들, 및 상기 하나 이상의 다른 프레임들의 합성에 기반하여, 제1 그룹(510)의 프레임들에 대응하는 이미지(515)를 획득할 수 있다.
일 실시예에서, 제1 그룹(510)의 프레임들, 및 상기 하나 이상의 다른 프레임들은, 프레임들에 포함된 픽셀들에 대한 덧셈 연산에 기반하여 합성될 수 있다. 상기 덧셈 연산에 기반하여, 이미지(515)의 일 픽셀은, 프레임들 각각의 픽셀들의 파라미터들(예, RGB 색 공간에 기반하여 색상을 나타내기 위한, 적색, 청색, 및 녹색의 밝기)이 결합된 파라미터를 포함할 수 있다. 전자 장치는 이미지(515)를, 제1 그룹(510)의 프레임들에 대한 슬로우 셔터 기능을 적용한 결과로써, 메모리(예, 도 4의 메모리(130)) 내에 저장할 수 있다. 전자 장치가 제1 그룹(510)의 프레임들의 보간에 기반하여 획득된 상기 하나 이상의 다른 프레임들을, 상기 제1 그룹(510)의 프레임들에 합성하기 때문에, 이미지(515)는 제1 그룹(510)의 프레임들에 의해 캡쳐되지 않은, 상기 적어도 하나의 광원의 모션을 표현할 수 있다.
주간 장면으로 분류된 프레임들(예, 제2 그룹(520)의 프레임들, 및/또는 제3 그룹(530)의 프레임들)을 합성하는 상태 내에서, 전자 장치는, 상기 프레임들에 포함된 외부 객체의 모션에 기반하여, 상기 프레임들의 합성에 이용될 합성 모드를 선택할 수 있다. 유사하게, 야간 장면으로 분류되고, 어느 광원도 포함되지 않은, 프레임들을 합성하는 상태 내에서, 전자 장치는 상기 프레임들에 포함된 외부 객체의 모션에 기반하여, 상기 프레임들의 합성에 이용될 합성 모드를 결정할 수 있다. 도 5를 참고하면, 전자 장치는 제2 그룹(520)의 프레임들에 대한 장면 분석에 기반하여, 제2 그룹(520)의 프레임들이 파도와 같은 불규칙적인 모션(예, 유체의 흐름)을 포함함을, 식별할 수 있다. 제2 그룹(520)의 프레임들로부터 광원과 상이한 외부 객체(예, 파도)의 모션을 식별한 상태 내에서, 전자 장치는 제2 그룹(520)의 프레임들의 샘플링(예, 데시메이션)에 기반하여, 제2 그룹(520)의 N 개의 프레임들로부터, 상기 N 개 미만의 m 개의 프레임들을 샘플링할 수 있다.
전자 장치는 샘플링된 m 개의 프레임들을 합성하여, 제2 그룹(520)의 프레임들에 대응하는 이미지(525)를 획득할 수 있다. 전자 장치가 상기 m 개의 프레임들을 합성하는 것은, 평균 연산, 및/또는 가중합 연산에 기반하여, 수행될 수 있다. 평균 연산에 기반하여, 이미지(525) 내 일 픽셀은, 상기 m 개의 프레임들에 포함된 픽셀들의 파라미터들의 평균을 나타내는 파라미터를 가질 수 있다. 가중합 연산에 기반하여, 이미지(525) 내 일 픽셀은, 상기 m 개의 프레임들에 포함된 픽셀들의 파라미터들에, 상기 m 개의 프레임들 각각에 대응하는 가중치들이 결합된 파라미터를 가질 수 있다. 전자 장치는 이미지(525)를, 제2 그룹(520)의 프레임들을 합성한 결과로써, 전자 장치의 메모리 내에 저장할 수 있다.
도 5를 참고하면, 전자 장치는 제3 그룹(530)의 프레임들에 대한 장면 분석에 기반하여, 제3 그룹(530)의 프레임들이 어느 모션도 포함하지 않음을 식별할 수 있다. 어느 모션도 포함하지 않는 정적인 제3 그룹(530)의 프레임들을 합성하는 상태 내에서, 전자 장치는 보간에 기반하여 제3 그룹(530)의 프레임들을 합성할 수 있다. 전자 장치는 제3 그룹(530)의 프레임들로부터, 제3 그룹(530)의 프레임들이 캡쳐된 상이한 시점들 사이의 다른 시점들의 다른 프레임들을 획득할 수 있다. 전자 장치는 제3 그룹(530)의 프레임들, 및 상기 획득된 다른 프레임들을 합성하여, 제3 그룹(530)의 프레임들에 대한 이미지(535)를 획득할 수 있다. 전자 장치가 상기 제3 그룹(530)의 프레임들, 및 상기 다른 프레임들을 합성하는 것은, 제2 그룹(520)의 프레임들에 기반하여 상술된 상기 평균 연산, 및/또는 상기 가중합 연산에 기반하여, 수행될 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치는 프레임들에 대한 장면 분석에 기반하여, 슬로우 셔터 기능에 의해 지원되는 상이한 합성 모드들 중 어느 하나를 선택할 수 있다. 야간 장면으로 분류되고, 적어도 하나의 광원을 포함하는 프레임들(예, 제1 그룹(510)의 프레임들)을 합성하는 제1 상태 내에서, 전자 장치는 보간을 포함하는 전처리 동작에 기반하여, 상기 프레임들과 함께 합성될 추가적인(additional) 프레임들을 획득할 수 있다. 상기 제1 상태 내에서, 전자 장치는 상기 프레임들, 및 상기 추가적인 프레임들을, 덧셈 연산에 기반하여 합성될 수 있다. 상기 제1 상태와 상이하고, 광원과 상이한 외부 객체의 모션을 식별한 제2 상태 내에서, 전자 장치는 샘플링(예, 데시메이션)을 포함하는 전처리 동작에 기반하여, 상기 프레임들 중 일부분을 선택적으로 합성할 수 있다. 상기 제2 상태 내에서, 전자 장치는 상기 프레임들 중 일부분을 평균 연산, 및/또는 가중합 연산에 기반하여, 합성할 수 있다. 상기 제1 상태 내지 상기 제2 상태와 상이한 제3 상태(예, 프레임들이 어떤 모션도 포함하지 않은 상태) 내에서, 전자 장치는 보간에 기반하여, 상기 프레임들과 함께 합성될 추가적인 프레임들을 획득할 수 있다. 상기 제3 상태 내에서, 전자 장치는 상기 프레임들, 및 상기 추가적인 프레임들을, 평균 연산, 및/또는 가중합 연산에 기반하여, 합성할 수 있다.
이하에서, 슬로우 셔터 기능에 기반하여 프레임들을 합성하기 위한 제1 지정된 합성 모드는, 제1 그룹(510)의 프레임들을 합성하기 위하여 전자 장치가 수행하는 동작을 포함할 수 있다. 예를 들어, 제1 지정된 합성 모드는, 프레임들의 보간에 기반하여 추가적인 프레임들을 획득하는 동작, 상기 프레임들, 및 상기 추가적인 프레임들을 덧셈 연산에 기반하여 합성하는 동작을 포함할 수 있다. 이하에서, 슬로우 셔터 기능에 기반하여 프레임들을 합성하기 위한 제2 지정된 합성 모드는, 제2 그룹(520)의 프레임들을 합성하기 위하여 전자 장치가 수행하는 동작을 포함할 수 있다. 예를 들어, 제2 지정된 합성 모드는, N 개의 프레임들로부터 상기 N 개 미만의 M 개의 프레임들을 선택하는 동작, 상기 M 개의 프레임들을 평균 연산, 및/또는 가중합 연산에 기반하여 합성하는 동작을 포함할 수 있다. 이하에서, 슬로우 셔터 기능에 기반하여 프레임들을 합성하기 위한 제3 지정된 합성 모드는, 제3 그룹(530)의 프레임들을 합성하기 위하여 전자 장치가 수행하는 동작을 포함할 수 있다. 예를 들어, 제3 지정된 합성 모드는, 프레임들의 보간에 기반하여 추가적인 프레임들을 획득하는 동작, 상기 프레임들, 및 상기 추가적인 프레임들을 평균 연산, 및/또는 가중합 연산에 기반하여 합성하는 동작을 포함할 수 있다.
상술한 바와 같이, 전자 장치는, 상기 프레임들에 대한 이미지 처리(image processing)에 기반하여 합성 모드를 선택하기 위하여 프레임들에 대한 장면 분석을 수행할 수 있다. 상기 이미지 처리는, 뉴럴 네트워크와 같이, 생물학적 신경망을 시뮬레이션하기 위한 소프트웨어, 상기 소프트웨어를 실행하는 전자 장치 내 하드웨어(예, CPU, GPU, 및/또는 NPU(neural processing unit)를 포함하는 도 4의 프로세서(120)), 또는 이들의 조합에 기반하여 수행될 수 있다. 상기 이미지 처리는, 상기 프레임들 내에 형성되고, 지정된 사이즈를 가지는 영역들에 대응하는 상이한 파라미터들을 획득하는 동작을 포함할 수 있다. 전자 장치가 장면 분석을 이용하여 합성 모드를 선택하기 때문에, 전자 장치는 프레임들에 포함된 장면의 카테고리에 기반하여, 슬로우 셔터 기능의 목적에 대응하는 이미지를 적응적으로 합성할 수 있다.
이하에서는, 도 6을 참고하여, 일 실시예에 따른, 전자 장치가 프레임들에 대한 장면 분석을 수행하는 동작의 일 예가 설명된다.
도 6은, 일 실시예에 따른, 전자 장치가 프레임들 각각의 밝기들을 식별하는 동작의 일 예를 도시한다. 도 6의 전자 장치는 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 이하에서는, 프레임(610)을 포함하는 복수의 프레임들의 일 그룹에 기반하여, 전자 장치가 슬로우 셔터 기능을 실행하는 예시적인 동작이 설명된다.
일 실시예에 따른, 전자 장치는 프레임(610)을 포함하는 복수의 프레임들을, 슬로우 셔터 기능에 기반하여 합성하기 위한 요청에 응답하여, 프레임(610)의 밝기를 식별할 수 있다. 상기 요청은, 도 3a, 및/또는 도 3b를 참고하여 상술된 전자 장치(101), 및 사용자의 상호작용(interaction)을 포함할 수 있다. 전자 장치는 프레임(610)에 형성된 상이한 영역들에 기반하여, 프레임(610)의 밝기를 나타내는 정보를 획득할 수 있다. 비록, 상기 복수의 프레임들 중 일 프레임(610)의 밝기를 식별하는 전자 장치의 동작이 설명되지만, 실시예가 이에 제한되는 것은 아니다. 예를 들어, 전자 장치는 복수의 프레임들 중 적어도 일부분의 밝기를 식별할 수 있다. 밝기는, 픽셀들의 색상을 나타내기 위한 상이한 파라미터들(예, 적색, 청색, 및 녹색 각각의 세기)의 결합, 및/또는 평균을 나타낼 수 있다.
일 실시예에서, 전자 장치는 프레임들 중 적어도 하나의 밝기와 관련된 파라미터에 기반하여, 프레임들을 합성하기 위해 이용될 합성 모드를 선택할 수 있다. 상기 파라미터는, 상기 프레임들 중 적어도 하나의 밝기, 및/또는 색상의 대푯 값을 포함할 수 있다. 상기 대푯 값은, 상기 프레임들 중 적어도 하나(예, 프레임(610))에 포함된 픽셀들 각각의 밝기들, 및/또는 색상들의 평균 값, 최대 값, 최소 값, 차이, 편차, 또는 이들의 조합일 수 있다. 실시예가 이에 제한되는 것은 아니며, 상기 대푯 값은, 상기 프레임들의 그룹이 야간 장면에 대응하는지 여부를 식별하기 위하여, 상기 프레임들 중 적어도 하나에 포함된 픽셀들 중에서, 상대적으로 어두운 영역 내 픽셀들에 기반하여 결정될 수 있다. 상기 파라미터는, 상기 프레임들 중 적어도 하나를 캡쳐한 카메라의 상태(예, 셔터 스피드)를 포함할 수 있다.
도 6의 그래프(630)는, 전자 장치가 프레임(610)을 포함하는 복수의 프레임들 각각의 파라미터들의 일 예를 도시한다. 그래프(630)와 같이, 상기 그룹 내에 포함된 프레임들 전부에 대한 파라미터들을 식별한 경우, 전자 장치는 상기 파라미터들 중에서 최대값(M)에 기반하여, 지정된 카테고리들 중에서 상기 그룹을 분류할 수 있다. 전자 장치는 상기 그룹 내에서 지정된 수, 및/또는 지정된 시간 구간에 대응하는 적어도 하나의 프레임에 대응하는 적어도 하나의 파라미터에 기반하여, 지정된 카테고리들 중에서 상기 그룹을 분류할 수 있다. 예를 들어, 상기 파라미터들의 최대 값(M)이 지정된 임계치 이하임을 식별하거나, 또는 지정된 기간(예, 1/30 밀리세컨드)을 초과하는 기간에 대응하는 셔터 스피드에 기반하여 프레임들이 획득되었음을 식별한 경우, 전자 장치는 프레임들의 그룹을, 야간 장면과 관련된 제1 지정된 카테고리로 분류할 수 있다. 상기 제1 지정된 카테고리에 기반하여, 전자 장치는 상기 그룹을, 제1 지정된 합성 모드, 또는 제3 지정된 합성 모드에 기반하여 합성할 수 있다. 상기 예시 내에서, 상기 파라미터들의 최대 값(M)이 상기 지정된 임계치 이상임을 식별하거나, 또는 상기 지정된 기간 미만의 기간에 대응하는 셔터 스피드에 기반하여 프레임들이 획득되었음을 식별한 경우, 전자 장치는 프레임들의 그룹을 주간 장면과 관련된 제2 지정된 카테고리로 분류할 수 있다. 상기 제2 지정된 카테고리에 기반하여, 전자 장치는 상기 그룹을, 제2 지정된 합성 모드, 또는 제3 지정된 합성 모드에 기반하여 합성할 수 있다.
일 실시예에 따른, 전자 장치는 프레임(610) 내에 형성된 상이한 영역들(및/또는 블록들)에 기반하여, 프레임(610)의 밝기와 관련된 정보를 획득할 수 있다. 전자 장치는, 프레임(610)을 포함하는 프레임들의 그룹이 야간 장면과 관련된 상기 제1 지정된 상태로 분류되는 것에 기반하여, 가 상기 영역들에 기반하여 상기 정보를 획득할 수 있다. 상기 영역은, 프레임(610)에 포함된 픽셀들의 그룹으로 참조될 수 있다. 도 6을 참고하면, 프레임(610) 내에 형성된 20 개의 영역들이 도시된다. 영역의 사이즈는 프레임(610)의 사이즈에 비례하거나, 또는 지정된 값들로 설정될 수 있다. 도 6의 예시적인 영역들 각각의 너비(H)는, 프레임(610)의 너비의 1/4에 대응하고, 영역들 각각의 높이(V)는, 프레임(610)의 높이의 1/5에 대응할 수 있다. 도 6을 참고하면, 설명의 편의를 위하여, 영역들은, 프레임(610)의 너비에 평행한 수평 방향을 따라 할당된 알파벳들(예, A 내지 D), 및 프레임(610)의 높이에 평행한 수직 방향을 따라 할당된 숫자들(예, 1 내지 5)에 기반하여 참조될 수 있다. 예를 들어, 수직 방향을 따라 상기 알파벳들 중 C에 매칭되고, 수평 방향을 따라 상기 숫자들 중 3에 매칭되는 영역(620)은, C3 영역으로 참조될 수 있다.
도 6을 참고하면, 전자 장치는 프레임(610)을 구분하기 위한 영역들에 기반하여, 프레임(610)에 포함된 적어도 하나의 광원, 및/또는 상기 적어도 하나의 광원의 모션을 식별할 수 있다. 예를 들어, 프레임(610) 내 영역(620)에 포함된 적어도 하나의 광원을 식별하기 위하여, 전자 장치는 영역(620)의 밝기와 관련된 정보를 획득할 수 있다. 상기 정보는 영역(620)에 포함된 픽셀들의 밝기들의 대푯 값(예, 상기 밝기들의 평균 값, 최대 값, 최소 값, 및/또는 편차)을 포함할 수 있다. 상기 정보는 영역(620)의 픽셀들의 밝기들 사이의 편차를 포함할 수 있다. 상기 편차는, 상기 픽셀들 중에서 수평 방향 및/또는 수직 방향을 따라 인접한 두 픽셀들의 밝기들 사이의 차이를 포함할 수 있다. 예를 들어, 전자 장치는 영역(620)의 픽셀들의 밝기들에 대한 편미분 연산을 수행하여, 상기 밝기들 사이의 편차를 획득할 수 있다. 상기 정보에 포함된 상기 편차는, 영역(620) 내에서 광원이 캡쳐된 일부분, 및 상기 일부분과 상이한 다른 부분을 구분하기 위해 이용될 수 있다. 예를 들어, 상기 편차는 영역(620)의 픽셀들의 밝기들의 상기 대푯 값에 기반하여 광원을 식별하기 위한 신뢰도를 나타낼 수 있다.
일 실시예에 따른, 전자 장치는 영역(620)의 밝기와 관련된 정보에 기반하여, 적어도 하나의 광원이 영역(620) 내에 포함되었는지 여부를 식별할 수 있다. 영역(620)에 포함된 픽셀들의 밝기들의 대푯 값이 지정된 임계치를 초과하는 경우, 전자 장치는, 적어도 하나의 광원이 영역(620) 내에 포함된 것으로 결정할 수 있다. 일 실시예에서, 영역(620) 내에 포함된 픽셀들 중에서, 지정된 임계치를 초과하는 밝기를 가지는 픽셀들의 개수가 지정된 임계치를 초과하는 경우, 전자 장치는, 적어도 하나의 광원이 영역(620) 내에 포함된 것으로 결정할 수 있다. 영역(620)에 기반하여 상술된 동작과 유사하게, 전자 장치는 영역(620)과 구분되는 프레임(610) 내 다른 영역들로부터 적어도 하나의 광원을 식별할 수 있다. 도 6을 참고하면, 전자 장치는 프레임(610) 내 B4 영역, 및 C4 영역으로부터 적어도 하나의 광원을 식별할 수 있다. 예를 들어, 전자 장치는 프레임(610) 내 상기 B4 영역, 및 상기 C4 영역으로부터 광원을 표현하는 적어도 하나의 시각적 객체를 식별할 수 있다.
일 실시예에 따른, 전자 장치는 프레임(610)의 B4 영역, 및 C4 영역과 같이, 프레임들 각각에 형성된 영역들에 기반하여 광원에 대한 시각적 객체를 식별한 경우, 보간과 관련된 제1 지정된 합성 모드에 기반하여 프레임들을 합성할 수 있다. 프레임들을 합성하기 위하여, 전자 장치는 프레임(610), 및 프레임(610)과 인접한 다른 프레임을 비교하여, 상기 프레임들에 의해 캡쳐된 상기 적어도 하나의 광원의 모션을 식별할 수 있다. 전자 장치는 상기 프레임들 내에서 상기 적어도 하나의 광원의 위치가 변경되는 크기에 기반하여, 보간에 기반하여 프레임들로부터 추가적으로 획득할 다른 프레임들의 개수를 조절할 수 있다. 상기 프레임들 내에서 적어도 하나의 광원의 위치가 변경되지 않거나, 프레임들이 실질적으로 유사하여 어떤 모션도 포함하지 않는 경우, 전자 장치는 상기 제1 지정된 합성 모드와 상이한 다른 합성 모드(예, 제3 지정된 합성 모드)에 기반하여 프레임들을 합성할 수 있다.
전자 장치가 프레임(610)을 포함하는 프레임들의 그룹으로부터 광원을 식별하는 동작은, 도 6을 참고하여 상술된, 프레임(610) 내에 형성된 상이한 영역들(예, 영역(620))에 기반하는 이미지 처리에 제한되지 않는다. 일 실시예에 따른, 전자 장치는 프레임(610) 내에 포함된 피사체를 인식하도록 트레이닝된 뉴럴 네트워크에 기반하여, 프레임(610) 내에 포함된 피사체의 타입을 식별할 수 있다. 상기 뉴럴 네트워크에 기반하여, 광원과 관련된 지정된 타입의 피사체를 프레임(610)으로부터 식별하는 것에 응답하여, 전자 장치는 상기 그룹을 합성하기 위한 합성 모드를, 제1 지정된 합성 모드로 결정할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치는 슬로우 셔터 기능에 기반하여 프레임(610)을 포함하는 프레임들의 그룹을 합성하는 상태 내에서, 상기 그룹에 대한 장면 분석을 수행할 수 있다. 그래프(620)와 같이, 전자 장치는 상기 그룹 내에 포함된 프레임들에 포함된 픽셀들의 밝기들에 기반하여, 상기 그룹이 야간 장면과 관련된 지정된 카테고리로 분류되는지 여부를 식별할 수 있다. 상기 그룹이 상기 지정된 카테고리로 분류되는 경우, 전자 장치는 프레임들 내에 형성된 영역들에 기반하여, 상기 프레임들로부터 적어도 하나의 광원을 식별할 수 있다. 일 실시예에서, 프레임들의 그룹에 대하여 장면 분석을 수행한 결과, 및/또는 적어도 하나의 광원을 식별한 결과는, 상기 그룹과 관련된 메타 데이터 내에 저장될 수 있다. 예를 들어, 촬영 입력에 기반하여 상기 프레임들이 포함된 비디오를 획득한 전자 장치는, 상기 프레임들이 분류되는 카테고리, 및/또는 상기 프레임들이 광원과 관련된 시각적 객체를 포함하는지 여부를, 상기 비디오에 대응하는 메타 데이터 내에 저장할 수 있다. 전자 장치는 슬로우 셔터 기능에 기반하여 상기 비디오 내 상기 프레임들을 합성하는 상태 내에서, 상기 메타 데이터에 기반하여 상기 프레임들에 의해 캡쳐된 적어도 하나의 광원을 식별할 수 있다.
이하에서는, 도 7을 참고하여, 일 실시예에 따른, 전자 장치가 제1 합성 모드, 및/또는 제3 합성 모드에 공통으로 포함된 보간을 수행하는 동작의 일 예가 설명된다.
도 7은, 일 실시예에 따른, 전자 장치가 프레임들(710, 720)의 보간에 기반하여 프레임들(710, 720)을 합성하는 동작의 일 예를 도시한다. 도 7의 전자 장치는, 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 예를 들어, 전자 장치는 슬로우 셔터 기능에 기반하여 프레임들(710, 720)을 합성함을 나타내는 입력에 응답하여, 상기 프레임들(710, 720)에 대한 카테고리, 및/또는 상기 프레임들(710, 720)에 포함된 광원의 개수를 식별할 수 있다. 상기 프레임들(710, 720)이 야간 장면과 관련된 지정된 카테고리로 분류되거나, 및/또는 상기 프레임들(710, 720)이 하나 이상의 광원들을 식별한 경우, 전자 장치는 보간과 관련된 합성 모드(예, 제1 합성 모드, 및/또는 제3 합성 모드)에 기반하여, 상기 프레임들(710, 720)을 합성할 수 있다. 비록 두 개의 프레임들(710, 720)에 기반하는 전자 장치의 동작이 설명되지만, 전자 장치가 슬로우 셔터 기능에 기반하여 합성 가능한 프레임들의 개수는 도 7의 실시예에 제한되는 것은 아니다.
도 7을 참고하면, 프레임들(710, 720)이 캡쳐된 예시적인 시점들(ta, ta+p)이 시간 축에 기반하여 도시된다. 프레임(710)은, 전자 장치의 카메라(예, 도 3a의 카메라(350))에 기반하여 프레임(720) 보다 과거에 캡쳐될 수 있다. 일 실시예에 따른, 전자 장치는, 주기 p에 기반하여 이미지 센서로부터 데이터를 획득하는 상기 카메라를 이용하여, 프레임들(710, 720)을 획득할 수 있다. 상기 카메라의 프레임 율은, 주기 p의 역수(1/p)일 수 있다. 전자 장치는 프레임들(710, 720)의 카테고리가 야간 장면과 관련된 지정된 카테고리에 대응하는 경우, 프레임들(710, 720)의 보간에 기반하여 프레임들(710, 720)과 상이한 프레임들(721, 722, 723)을 획득할 수 있다. 상기 다른 프레임들(721, 722, 723)은, 실재하는 프레임으로부터 획득된 가상의 프레임의 관점에서, 가상 프레임으로 참조될 수 있다.
전자 장치는 주기 p 미만의 주기 i에 기반하여 프레임들(710, 720)에 대한 보간을 수행할 수 있다. 예를 들어, 프레임들(721, 722, 723)의 프레임 율(예, 1/i)은, 프레임들(710, 720)의 프레임 율(예, 1/p)보다 클 수 있다. 전자 장치는 프레임들(710, 720)에 의해 캡쳐된 광원의 모션에 기반하여, 프레임들(710, 720)의 보간과 관련된 상기 주기 i를 획득할 수 있다. 예를 들어, 프레임들(721, 722, 723)의 프레임 율은, 프레임들(710, 720)에 포함된 광원의 위치들 사이의 거리에 비례할 수 있다. 프레임들(710, 720)의 보간과 관련된 프레임 율(예, 1/i)는 보간 율(interpolation rate)로 참조될 수 있다. 도 7을 참고하면, 전자 장치가 프레임들(710, 720)의 프레임 율의 배수에 기반하여 프레임들의 보간 율(예, 1/i = 4/p)을 획득할 수 있다. 예를 들어, 상기 프레임 율이 30 fps(frame per second)인 경우, 상기 보간 율은 120 fps일 수 있다. 상기 프레임 율에 적용되는 상기 배수는, 전자 장치가 프레임들(710, 720)로부터 식별한 광원의 경로, 및/또는 이동 거리와 관련될 수 있다. 프레임들(710, 720)에 대한 보간에 기반하여, 전자 장치는 프레임들(710, 720)이 캡쳐된 제1 시점들(예, 시점 ta, 및 시점 ta+p) 사이의 하나 이상의 제2 시점들(예, 시점 ta+i, 시점 ta+2i, 및 시점 ta+3i)에 대응하는, 프레임들(721, 722, 723)을 획득할 수 있다. 예를 들어, 전자 장치는 프레임들(710, 720)에 의해 식별된 상기 제1 시점들에서의 상기 광원의 위치들에 기반하여, 상기 하나 이상의 제2 시점들에서의 광원의 위치들을 식별할 수 있다. 식별된 상기 위치들에 기반하여, 전자 장치는 프레임들(721, 722, 723)을 획득할 수 있다.
프레임들(710, 720)의 보간에 기반하여 가상 프레임(예, 프레임들(721, 722, 723))을 획득하는 일 실시예에서, 전자 장치는 상기 가상 프레임 내에서, 광원에 대응하는 특정 영역과 상이한 다른 영역을, 지정된 색상(예, 블랙)으로 설정(set)할 수 있다. 상기 지정된 색상은, 상기 지정된 색상이 할당된 픽셀이 프레임들의 합성에서 제외됨(excluded)을 나타낼 수 있다. 예를 들어, 프레임들(721, 722, 723)은, 프레임들(710, 720)에 의해 나타나는 정보 중에서, 프레임들(721, 722, 723)에 대응하는 시점들(ta+i, ta+2i, ta+3i) 각각의 광원의 위치들을 선택적으로 포함할 수 있다. 프레임들(721, 722, 723)이 상기 광원의 위치들을 선택적으로 포함하기 때문에, 프레임들(710, 720) 내에서 상기 광원과 상이한 외부 객체가, 프레임들(721, 722, 723) 내에 포함되지 않을 수 있다. 실시예가 이에 제한되는 것은 아니며, 프레임들(721, 722, 723)과 같은 가상 프레임은, 프레임들(710, 720) 내에서 상기 광원과 상이한 외부 객체를 포함할 수 있다.
프레임들(710, 720)의 보간에 기반하여 하나 이상의 가상 프레임들(예, 프레임들(721, 722, 723))을 획득한 전자 장치는, 상기 프레임들(710, 720), 및 상기 하나 이상의 가상 프레임들을 합성하여, 단일 이미지(730)를 획득할 수 있다. 프레임들(710, 720, 721, 722, 723)의 합성은, 프레임들(710, 720, 721, 722, 723)에 포함된 픽셀들의 밝기들, 및/또는 색상들을 나타내는 파라미터들의 덧셈 연산에 기반하여 수행될 수 있다. 프레임들(710, 720, 721, 722, 723)의 합성에 이용되는 연산은, 상기 덧셈 연산에 제한되지 않는다. 예를 들어, 상기 덧셈 연산에 기반하여 프레임들(710, 720, 721, 722, 723)을 합성하는 제1 지정된 합성 모드와 상이한 제3 지정된 합성 모드 내에서, 전자 장치는 프레임들(710, 720, 721, 722, 723)에 할당된 가중치들에 기반하는 가중합 연산, 및/또는 평균 연산에 기반하여, 프레임들(710, 720, 721, 722, 723)을 합성할 수 있다.
도 7을 참고하면, 프레임들(710, 720)의 보간에 기반하여 프레임들(710, 720)의 합성에 추가적인 프레임들(721, 722, 723)이 이용되기 때문에, 단일 이미지(730)는 프레임들(710, 720)에 포함된 광원의 위치들 사이의 다른 위치들에 기반하여, 상기 광원의 이동을 표현할 수 있다. 예를 들어, 프레임들(710, 720)로부터 적어도 하나의 광원을 식별하는 것에 기반하여, 전자 장치는, 상기 적어도 하나의 광원이 연속적으로(continuously) 이동된 경로가 표현된(represented) 상기 이미지(720)를 획득하기 위하여, 상기 프레임들(710, 720, 721, 722, 723)을 합성할 수 있다. 예를 들어, 이미지(720)에 기반하여, 전자 장치는 이산적으로 획득된 프레임들(710, 720)로부터 장노출에 기반하여 일 이미지를 캡쳐하는 것과 유사한 사용자 경험을 제공할 수 있다. 프레임들(710, 720)의 보간에 기반하여 획득된 상기 하나 이상의 가상 프레임들(예, 프레임들(721, 722, 723))을 이용하여, 카메라가 주기적인 리셋에 기반하여 이산적으로 프레임들을 출력함에도 불구하고, 전자 장치는 장노출에 기반하는 이미지(730)의 생성을 지원할 수 있다.
일 실시예에 따른, 전자 장치는 프레임들(710, 720)로부터 적어도 하나의 광원을 식별한 상태와 상이한 다른 상태 내에서, 프레임들(710, 720)의 샘플링에 기반하는 합성을 수행할 수 있다. 이하에서는, 도 8을 참고하여, 상기 다른 상태 내에서 프레임들을 합성하는 전자 장치의 예시적인 동작이 설명된다.
도 8은, 일 실시예에 따른, 전자 장치가 프레임들의 샘플링에 기반하여 프레임들을 합성하는 동작의 일 예를 도시한다. 도 8의 전자 장치는, 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 예를 들어, 전자 장치는 슬로우 셔터 기능에 기반하여 프레임들(810, 820, 830)을 합성함을 나타내는 입력에 응답하여, 상기 프레임들(810, 820, 830)에 대한 카테고리, 및/또는 상기 프레임들(810, 820, 830)에 포함된 광원의 개수를 식별할 수 있다. 상기 프레임들(810, 820, 830)이 야간 장면과 관련된 지정된 카테고리와 상이한 다른 카테고리(예, 주간 장면과 관련된 일 카테고리)로 분류되거나, 및/또는 상기 프레임들(810, 820, 830)로부터 어느 광원도 식별하지 못한 경우, 전자 장치는 샘플링과 관련된 합성 모드(예, 제2 합성 모드)에 기반하여, 프레임들(810, 820, 830)을 합성할 수 있다. 비록 세 개의 프레임들(810, 820, 830)에 기반하는 전자 장치의 동작이 설명되지만, 전자 장치가 슬로우 셔터 기능에 기반하여 합성 가능한 프레임들의 개수는 도 8의 실시예에 제한되는 것은 아니다.
도 8을 참고하면, 프레임들(810, 820, 830)이 캡쳐된 예시적인 시점들(ta, ta+p, ta+2p)이 시간축에 기반하여 도시된다. 전자 장치는 1/p의 프레임 율에 기반하여 제어되는 카메라에 기반하여, 프레임들(810, 820, 830)을 획득할 수 있다. 슬로우 셔터 기능에 기반하여 프레임들(810, 820, 830)을 합성함을 나타내는 입력에 기반하여, 전자 장치는 프레임들(810, 820, 830) 중 적어도 하나의 밝기와 관련된 정보를 획득할 수 있다. 상기 정보는, 도 6을 참고하여 상술한 바와 같이, 프레임들(810, 820, 830) 각각에 형성된 영역들에 기반하여, 획득될 수 있다. 전자 장치는 프레임들(810, 820, 830)로부터 광원을 식별한 상태와 상이한 다른 상태 내에서, 프레임들(810, 820, 830)이 캡쳐된 제1 주기(p) 보다 긴 제2 주기(2p)에 기반하여 프레임들(810, 820, 830)을 샘플링할 수 있다. 도 8을 참고하면, 상기 제2 주기(2p)에 기반하는 샘플링을 수행하여, 전자 장치는 프레임들(810, 820, 830) 중에서 프레임들(810, 830)을 선택할 수 있다. 전자 장치는 상기 제2 주기(2p)에 기반하여 샘플링된 프레임들을 합성하여, 상기 입력에 대응하는 이미지(850)를 획득할 수 있다.
전자 장치가 상기 제2 주기(2p)에 기반하여 프레임들(810, 820, 830) 중 적어도 하나를 샘플링하는 것은, 합성에 이용되는 프레임들의 개수의 감소의 관점에서(in terms of), 프레임 데시메이션으로 참조될 수 있다. 프레임 데시메이션에 기반하여, 전자 장치는 프레임들(810, 820, 830)의 합성에 이용되는 프레임 율을, 프레임들(810, 820, 830)의 프레임 율 미만으로 줄일 수 있다. 프레임들(810, 820, 830)이 캡쳐된 제1 주기(p)의 2 배인 제2 주기(2p)에 기반하는 프레임 데시메이션이 수행된 도 8의 일 실시예에서, 전자 장치는 프레임들(810, 820, 830)의 프레임 율의 절반의 프레임 율을 따라 합성된, 이미지(850)를 획득할 수 있다. 도 8을 참고하면, 프레임들(810, 820, 830)의 프레임 율에 기반하여 합성된, 이미지(840)가 도시된다. 프레임들(810, 820, 830)의 개수 미만의 프레임들(810, 830)이 이미지(850)의 합성에 이용되기 때문에, 전자 장치는 프레임들(810, 820, 830)을 합성하여 이미지(840)를 획득하기 위한 기간 보다 짧은 다른 기간에 기반하여, 이미지(850)를 획득할 수 있다. 예를 들어, 프레임 데시메이션에 기반하여, 전자 장치는 프레임들(810, 820, 830)을 합성하는 속도를 증가시키거나, 및/또는 연산량을 줄일 수 있다.
샘플링에 기반하여 프레임들(810, 820, 830)을 부분적으로 합성하는 일 실시예에서, 전자 장치는 상기 프레임들(810, 820, 830) 중에서 샘플링된 일부분(예, 프레임들(810, 830))을, 가중합 연산, 및/또는 평균 연산에 기반하여 합성할 수 있다. 상기 가중합 연산에 이용되는 가중치들(예, 프레임들(810, 830) 각각에 할당된 가중치들)은, 프레임들(810, 820, 830)에 의해 캡쳐된 피사체의 모션에 기반하여 조절될 수 있다. 상기 가중치들은, 상기 이미지(850)에 의해 표현되는 상기 피사체의 모션을 흐리게 만들기 위하여(for blurring), 전자 장치에 의해 조절될 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치는 프레임들(810, 820, 830)의 샘플링에 기반하여, 프레임들(810, 820, 830)이 캡쳐된 기간 내에서 프레임들(810, 820, 830) 내에 포함된 적어도 하나의 피사체의 모션을 표현하는 단일 이미지(850)를 획득할 수 있다. 상기 이미지(850)는, 프레임들(810, 820, 830) 내에서 상이한 위치들에 배치된 피사체의 모션을, 블러와 같은 시각적 효과에 기반하여 표현할 수 있다. 상기 샘플링에 기반하여, 전자 장치는 상대적으로 적은 연산량에 기반하여 프레임들(810, 820, 830) 중 적어도 하나를 상대적으로 빠르게 합성할 수 있다.
전자 장치가 프레임들(810, 820, 830)을 합성하는 동작은, 상술된 보간, 및/또는 프레임 데시메이션에 제한되지 않는다. 이하에서는 도 9를 참고하여, 전자 장치가 방향성 필터에 기반하여 프레임들을 합성하는 예시적인 동작이 설명된다.
도 9는, 일 실시예에 따른, 전자 장치가 프레임들(910, 920)에 의해 캡쳐된 광원의 모션에 기반하여, 프레임들(910, 920)을 합성하는 동작의 일 예를 도시한다. 도 9의 전자 장치는, 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 예를 들어, 전자 장치는 슬로우 셔터 기능에 기반하여 프레임들(910, 920)을 합성함을 나타내는 입력에 응답하여, 프레임들(910, 920)의 밝기와 관련된 정보를 획득할 수 있다. 상기 정보에 기반하여, 전자 장치는 프레임들(910, 920) 내에 포함된 하나 이상의 광원들의 위치들을 식별할 수 있다. 도 9를 참고하면, 상이한 시점들(ta, ta+p)에 캡쳐되고, 차량의 미등들(taillights)이 포함된 프레임들(910, 920)의 일 예가 도시된다. 전자 장치는 프레임들(910, 920)에 대한 장면 분석에 기반하여, 프레임들(910, 920)에 포함된 광원들(예, 차량의 미등들)을 식별할 수 있다. 예를 들어, 전자 장치는 프레임들(910, 920) 각각에 포함된 상기 광원들의 위치들을 식별할 수 있다.
프레임들(910, 920)로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 전자 장치는 프레임들(910, 920)에 의해 캡쳐된 시각적 객체의 경로와 관련된 정보를 획득할 수 있다. 예를 들어, 전자 장치는 프레임들(910, 920)을 비교하여, 프레임들(910, 920) 내에서 방향들(901, 902)을 따라 이동되는 두 광원들을 식별할 수 있다. 상기 정보는, 프레임들(910, 920)에 포함되고, 광원에 대응하는 적어도 하나의 시각적 객체에 적용될 방향성 필터를 나타낼 수 있다. 방향성 필터에 기반하여, 전자 장치는 프레임의 특정 부분의 색상을, 특정 방향을 따라 상기 특정 부분과 상이한 다른 부분으로 흐릿하게(blurry) 연장할 수 있다. 상기 정보는, 프레임들(910, 920) 각각에 적용될 방향성 필터의 위치, 및/또는 크기(예, 방향성 필터의 커널(kernel)의 크기)를 포함할 수 있다.
프레임들(910, 920)로부터 방향들(901, 902)을 따라 이동되는 두 광원들을 식별한 도 9의 일 실시예에서, 전자 장치는 프레임들(910, 920)에 의해 나타나는 상기 두 광원들의 모션에 기반하여, 프레임들(910, 920) 각각에 적용될 방향성 필터와 관련된 정보를 획득할 수 있다. 예를 들어, 프레임(910)에 적용될 방향성 필터는, 영역들(912, 914)에 대응하는 방향, 및/또는 커널 사이즈를 가지고, 영역들(912, 914)의 하단에 포함된 두 광원들을 영역들(912, 914) 각각에서 흐릿하게 연장하도록, 설정될 수 있다. 예를 들어, 프레임(920)에 적용될 방향성 필터는, 영역들(922, 924)에 대응하는 커널 사이즈를 가지고, 영역들(922, 924)의 상단에 포함된 두 광원들을 영역들(922, 924) 각각에서 흐릿하게 연장하도록, 설정될 수 있다. 커널 사이즈는, 프레임들(910, 920)의 비교에 기반하여 식별된 외부 객체의 모션(예, 상기 두 광원들의 모션)의 크기에 기반하여 조절될 수 있다. 예를 들어, 전자 장치는 표 1과 같이 상이한 임계치들, 및 상기 모션의 크기를 비교하여, 방향성 필터의 커널 사이즈를 조절할 수 있다.
모션 크기 | 방향성 필터의 커널 사이즈 | 보간 배수 |
0~Th1 | 3x3 | 2x |
Th1 ~ Th2 | 5x5 | 4x |
Th2 ~ Th3 | 7x7 | 8x |
Th3 ~ | 9x9, 11x11 | 8x |
표 1을 참고하면, 프레임으로부터 식별되는 모션의 크기가 증가됨에 따라, 상기 프레임에 적용되는 방향성 필터의 커널 사이즈가 점진적으로 증가될 수 있다. 표 1의 보간 배수는, 커널 사이즈에 대응하는 방향성 필터와 동일한 효과를 가지는 보간 배수를 의미할 수 있다. 예를 들어, 프레임들(910, 920)로부터 식별된 두 광원들의 모션의 크기가, 임계치(Th1) 내지 임계치(Th2) 사이의 크기를 가지는 경우, 전자 장치는 5 Х 5 크기의 커널 사이즈를 가지는 방향성 필터를, 프레임들(910, 920) 각각에 적용할 수 있다. 상기 예시의 방향설 필터가 적용된 프레임들(910, 920)로부터 합성된 이미지는, 프레임들(910, 920), 및 프레임들(910, 920)의 프레임 율의 4 배의 다른 프레임 율을 가지는 보간에 의해 획득된 다른 프레임들이 합성된 이미지와 실질적으로 유사할 수 있다.도 9를 참고하면, 일 실시예에 따른, 전자 장치가 프레임들(910, 920)에 방향성 필터를 적용하여 획득한, 단일 이미지(930)가 도시된다. 예를 들어, 전자 장치는 방향성 필터에 기반하여 변경된 프레임들(910, 920)을 합성하여, 이미지(930)를 획득할 수 있다. 상기 프레임들(910, 920)의 합성에 기반하여, 전자 장치는 프레임들(910, 920) 내에서 두 광원들에 대응하는 시각적 객체의 경로들이 표현된 이미지(930)를 획득할 수 있다. 이미지(930)에 기반하여, 전자 장치는 프레임들(910, 920)이 캡쳐된 시점들 사이에서 이동된 광원들의 경로를 표현할 수 있다. 예를 들어, 프레임들(910, 920)에 의해 이산적으로 캡쳐된 광원들 각각의 간격을, 전자 장치는 상기 방향성 필터에 기반하여 보상할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치는 방향성 필터에 의해 변경된 프레임들(910, 920), 및/또는 상기 변경된 프레임들(910, 920)의 보간에 기반하여, 프레임들(910, 920)에 포함된 광원들의 경로가 표현된 이미지(930)를 획득할 수 있다. 전자 장치가 상기 방향성 필터에 기반하여 슬로우 셔터 기능에 기반하는 프레임들(910, 920)의 합성을 수행하기 때문에, 전자 장치는 장노출에 기반하는 캡쳐와 유사한 시각적 효과가 적용된 이미지(930)를 획득할 수 있다. 예를 들어, 장노출을 지원하지 않는 카메라를 이용하여, 전자 장치는 상기 장노출과 유사한 효과가 적용된 이미지(930)를 획득할 수 있다.
이하에서는, 도 10a 내지 도 10b를 참고하여, 일 실시예에 따른, 전자 장치가 상이한 프레임들의 픽셀들을 결합하는 동작의 일 예가 설명된다.
도 10a 내지 도 10b는, 일 실시예에 따른, 전자 장치가 프레임들을 합성하기 위한 예시적인 신호 흐름도들(1010, 1020)을 도시한다. 도 10a 내지 도 10b의 전자 장치는, 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 전자 장치는 슬로우 셔터 기능과 관련된 보간, 및/또는 샘플링(예, 프레임 데시메이션)에 기반하여, 신호 흐름도들(1010, 1020) 중 어느 하나로 입력될 상기 프레임들을 획득할 수 있다. 도 10a의 신호 흐름도(1010)는, 전자 장치에 의해 수행되는, 프레임들의 가중합 연산을 나타낼 수 있다. 도 10b의 신호 흐름도(1020)는, 전자 장치에 의해 수행되는, 프레임들의 덧셈 연산을 나타낼 수 있다. 도 10a 내지 도 10b의 신호 흐름도들(1010, 1020)은, 전자 장치(101)의 프로세서(예, 도 4의 프로세서(120))에 의해 실행되는 어플리케이션에 기반하는, 프레임들의 합성 동작을 도시한다.
도 10a를 참고하면, 프레임들의 가중합 연산을 수행하는 상태 내에서, 전자 장치는 신호 흐름도(1010)에 기반하여 상기 프레임들을 순차적으로 합성할 수 있다. 예를 들어, 전자 장치는 특정 프레임에 포함된 픽셀의 색상을 나타내는 정보(1011)에, 상기 특정 프레임에 할당된 가중치(w1)를 적용할 수 있다. 전자 장치는, 가중치(w1)가 적용된 정보(1011)를, 가산기(adder)(1013)에 기반하여, 다른 정보와 결합하여, 정보(1012)를 획득할 수 있다. 상기 다른 정보는, 상기 가중치(w1)와 상이한 다른 가중치(예, 1-w1)가 적용되고, 딜레이 변환(1014)에 의해 딜레이된 정보(1012)를 포함할 수 있다. 신호 흐름도(1010)로 복수의 프레임들이 순차적으로 입력되는 상태 내에서, 딜레이 변환(1014)에 의해 딜레이된 정보(1012)는, 상기 특정 프레임이 입력되기 이전에 신호 흐름도(1010)로부터 출력된 정보(1012)를 나타낼 수 있다. 예를 들어, 딜레이 변환(1014)에 의해 딜레이된 정보(1012)는, 상기 특정 프레임이 입력되기 이전에 신호 흐름도(1010)에 의해 결합된 하나 이상의 다른 프레임들의 픽셀들의 가중합을 포함할 수 있다.
도 10b를 참고하면, 프레임들의 덧셈 연산을 수행하는 상태 내에서, 전자 장치는 신호 흐름도(1020)에 기반하여 상기 프레임들을 순차적으로 합성할 수 있다. 예를 들어, 전자 장치는 특정 프레임에 포함된 픽셀의 색상을 나타내는 정보(1021)를, 상기 픽셀이 광원에 대응하는지 여부를 나타내는 파라미터(s)에 기반하여 필터링할 수 있다. 상기 픽셀이 광원에 대응하는 경우, 전자 장치는, 상기 정보(1021)를, 가산기(1023)에 기반하여 다른 정보와 결합하여, 정보(1022)를 획득할 수 있다. 상기 다른 정보는, 신호 흐름도(1020)에 정보(1021)가 입력되기 이전에, 신호 흐름도(1020)로부터 출력되는 정보(1022)로써, 정보(1021)가 입력되는 시점에 딜레이 변환(1024)에 기반하여 가산기(1023)로 입력될 수 있다. 신호 흐름도(1020)에 기반하여, 상이한 프레임들에 포함되고, 광원을 표현하는 픽셀들의 색상들이 정보(1022) 내에 누적될 수 있다. 예를 들어, 정보(1022)는 상이한 프레임들 내에 포함된 픽셀들의 위치들, 및/또는 색상들이 결합된 단일 이미지(예, 도 5의 이미지(515))의 일 픽셀을 나타낼 수 있다.
도 11은, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다. 도 11의 전자 장치는 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 예를 들어, 도 11의 동작들 중 적어도 하나는 도 4의 전자 장치(101), 및/또는 도 4의 프로세서(120)에 의해 수행될 수 있다.
도 11을 참고하면, 동작(1110)내에서, 일 실시예에 따른, 전자 장치는 프레임들을 식별할 수 있다. 전자 장치는 슬로우 셔터 기능과 관련된 입력에 응답하여, 동작(1110)의 상기 프레임들을 식별할 수 있다. 상기 입력은, 도 3a를 참고하여 상술된 촬영 입력을 포함할 수 있다. 상기 촬영 입력에 응답하여, 전자 장치는 상기 촬영 입력과 관련된 시간 구간에 기반하여 카메라(예, 도 3a의 카메라(350))로부터 프레임들을 식별할 수 있다. 상기 시간 구간은, 상기 촬영 입력을 수신한 시점과 관련될 수 있다. 예를 들어, 상기 시간 구간의 시작 시점(beginning moment)은, 상기 촬영 입력을 수신한 상기 시점에 대응할 수 있다. 상기 슬로우 셔터 기능과 관련된 상기 입력은, 도 3b를 참고하여 상술된 입력(예, 시각적 객체(382)를 선택함을 나타내는 입력)을 포함할 수 있다. 상기 입력에 응답하여, 전자 장치는 비디오 내에서 사용자에 의해 선택된 시간 구간 내에 포함된 프레임들을 식별할 수 있다.
도 11을 참고하면, 동작(1115)내에서, 일 실시예에 따른, 전자 장치는 동작(1110)에 의해 식별된 프레임들이 안정화(stabilized) 되었는지 여부를 식별할 수 있다. 전자 장치가 카메라로부터 프레임들을 식별하는 경우, 전자 장치는 상기 카메라에 포함된 이미지 스태빌라이저(예, 도 2의 이미지 스태빌라이저(240))의 데이터에 기반하여, 상기 프레임들이 안정화되었는지 여부를 식별할 수 있다. 전자 장치가 비디오에 포함된 프레임들을 식별하는 경우, 전자 장치는 프레임들 내에 포함된 하나 이상의 피사체들의 모션에 기반하여, 상기 프레임들이 안정화되었는지 여부를 식별할 수 있다. 프레임들의 안정화는, 프레임들이 캡쳐되는 시점에서의 카메라의 진동, 및/또는 불규칙적인 모션과 관련될 수 있다. 예를 들어, 상기 카메라의 상기 진동이 지정된 크기 미만으로 식별된 경우, 전자 장치는 상기 프레임들이 안정화된 것으로 결정할 수 있다. 프레임들이 안정화되기 이전에(1115-아니오), 전자 장치는 동작(1110)을 다시 수행하여, 프레임들을 다시 식별할 수 있다. 예를 들어, 전자 장치가 카메라로부터 프레임들을 식별하는 경우, 전자 장치는 프레임들이 안정화될 때까지, 동작(1110)에 기반하는 프레임들의 식별을 반복적으로 수행할 수 있다.
프레임들이 안정화된 상태 내에서(1115-예), 동작(1120)내에서, 일 실시예에 따른, 전자 장치는 프레임들의 밝기들을 식별할 수 있다. 도 6의 그래프(630)와 같이, 전자 장치는 프레임들 각각의 밝기들의 대푯 값을 식별할 수 있다. 동작(1125)내에서, 일 실시예에 따른, 전자 장치는 동작(1120)에 기반하여 식별된 밝기들의 최대값이 지정된 밝기 이하인지 여부를 판단할 수 있다. 전자 장치는 프레임들 중 일부분의 밝기들에 기반하여, 상기 최대값을 획득할 수 있다. 상기 지정된 밝기는, 동작(1110)에 기반하여 식별된 프레임들을 야간 장면과 관련된 지정된 카테고리로 분류하기 위해 설정될 수 있다. 상기 지정된 밝기는, 상기 야간 장면과 관련된 상이한 프레임들에 기반하여 경험적으로(heuristic) 설정될 수 있다.
동작(1120)에 기반하여 식별된 밝기들의 최대 값이 지정된 밝기 이하인 상태 내에서(1120-예), 동작(1130)내에서, 일 실시예에 따른, 전자 장치는 프레임들 중 적어도 하나로부터 외부 객체의 모션을 식별할 수 있다. 동작(1120)에 기반하여 식별된 밝기들의 최대 값이 지정된 밝기 이하인 경우, 전자 장치는 동작(1110)의 프레임들을, 야간 장면과 관련된 지정된 카테고리로 분류할 수 있다. 상기 외부 객체는, 프레임들 중 적어도 하나에 포함된 피사체로 참조될 수 있다. 외부 객체의 모션은, 상이한 프레임들 내 시각적 객체의 이동에 기반하여, 식별될 수 있다.
프레임들 중 적어도 하나로부터 외부 객체의 모션을 식별하는 것에 기반하여(1130-예), 동작(1140)내에서, 일 실시예에 따른, 전자 장치는 외부 객체가 광원을 포함하는지 여부를 식별할 수 있다. 전자 장치는 프레임들 내에 형성된 영역들(예, 도 6의 영역(620))에 기반하여, 동작(1130)에 기반하여 식별된 외부 객체가 광원에 대응하는지 여부를 식별할 수 있다.
외부 객체가 광원을 포함함을 식별한 상태 내에서(1140-예), 동작(1145)내에서, 일 실시예에 따른, 전자 장치는 광원의 모션을 표현하기 위한 제1 지정된 합성 모드에 기반하여, 프레임들을 합성할 수 있다. 제1 지정된 합성 모드에 기반하여, 전자 장치는 동작(1110)의 프레임들과 상이한 하나 이상의 가상 프레임들을 획득할 수 있다. 전자 장치는 상기 하나 이상의 가상 프레임들, 및 동작(1110)의 프레임들을, 도 10b의 신호 흐름도(1020)에 기반하는 덧셈 연산에 기반하여 합성할 수 있다. 전자 장치는 상기 하나 이상의 가상 프레임들, 및 동작(1110)의 프레임들의 합성에 기반하여, 상기 광원의 경로가 표현된 단일 이미지(예, 도 7의 이미지(730))를 획득할 수 있다.
동작(1140)에 기반하여 외부 객체가 광원을 포함하지 않음을 식별한 상태 내에서(1140-아니오), 동작(1150)내에서, 일 실시예에 따른, 전자 장치는 프레임들의 샘플링과 관련된 제2 지정된 합성 모드에 기반하여, 프레임들을 합성할 수 있다. 제2 지정된 합성 모드에 기반하여, 전자 장치는 동작(1110)의 프레임들을 샘플링할 수 있다. 프레임들의 샘플링은, 동작(1130)에 기반하여 식별된 외부 객체의 모션에 기반하여 수행될 수 있다. 전자 장치는 샘플링된 프레임들을 합성하여, 상기 외부 객체의 모션이 표현된 단일 이미지(예, 도 8의 이미지(850))를 획득할 수 있다. 전자 장치는 샘플링된 프레임들을, 도 10a의 신호 흐름도(1010)에 기반하는 가중합 연산에 기반하여 합성할 수 있다.
동작(1125)에 기반하여 식별된 밝기들의 최대 값이 지정된 밝기를 초과함을 식별한 상태 내에서(1125-아니오), 동작(1155)내에서, 일 실시예에 따른, 전자 장치는 외부 객체가 광원을 포함하는지 여부를 판단할 수 있다. 동작(1120)에 기반하여 식별된 밝기들의 최대 값이 지정된 밝기를 초과하는 경우, 전자 장치는 동작(1110)의 프레임들을, 주간 장면과 관련된 지정된 카테고리로 분류할 수 있다. 외부 객체가 광원을 포함하는 경우(1155-예), 전자 장치는 동작(1145)의 제1 지정된 합성 모드에 기반하여, 프레임들을 합성할 수 있다.
동작(1155)에 기반하여 외부 객체가 광원을 포함하지 않음을 식별하거나(1155-아니오), 또는 동작(1130)에 기반하여 프레임들 중 적어도 하나로부터 외부 객체의 모션을 식별하지 않은 상태 내에서(1130-아니오), 전자 장치는 동작(1160)에 기반하여, 프레임들의 보간과 관련된 제3 지정된 합성 모드에 기반하여, 프레임들을 합성할 수 있다. 제3 지정된 합성 모드에 기반하여, 전자 장치는 동작(1110)의 프레임들과 상이한 하나 이상의 가상 프레임들을 획득할 수 있다. 전자 장치는 상기 하나 이상의 가상 프레임들, 및 동작(1110)의 프레임들을, 도 10a의 신호 흐름도(1010)에 기반하는 가중합 연산에 기반하여 합성할 수 있다.
도 12는, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다. 도 12의 전자 장치는 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 예를 들어, 도 12의 동작들 중 적어도 하나는 도 4의 전자 장치(101), 및/또는 도 4의 프로세서(120)에 의해 수행될 수 있다. 도 12의 동작들 중 적어도 하나는 도 11의 동작들 중 적어도 하나와 관련될 수 있다.
도 12를 참고하면, 동작(1210)내에서, 일 실시예에 따른, 전자 장치는 프레임들을 합성하기 위한 입력에 기반하여, 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별할 수 있다. 상기 정보는, 프레임들 각각에 형성된 영역들(예, 도 6의 영역(620))에 기반하여 상기 프레임들 각각에 포함된 픽셀들의 밝기들, 및/또는 색상들의 분포를 나타낼 수 있다. 프레임들을 합성하기 위한 입력은, 슬로우 셔터 기능에 기반하여 프레임들을 합성함을 나타내는 입력을 포함할 수 있다. 상기 정보는, 상기 프레임들에 대응하는 메타 데이터 내에 포함되거나, 또는 상기 입력에 기반하여 전자 장치에 의해 획득될 수 있다. 일 실시예에서, 상기 메타 데이터는, 상기 프레임들을 캡쳐한 카메라, 및/또는 상기 프레임들을 저장한 서버에 기반하여 획득될 수 있다.
도 12를 참고하면, 동작(1220)내에서, 일 실시예에 따른, 전자 장치는 동작(1210)의 정보에 기반하여, 프레임들 중 적어도 하나로부터 광원을 식별할 수 있다. 예를 들어, 전자 장치는, 광원이 프레임들 중 적어도 하나에 포함되었는지 여부를 식별할 수 있다. 상기 정보에 의해 나타나는 프레임들 각각의 영역들의 밝기의 최대 값에 기반하여, 전자 장치는 프레임들 내에 포함된 광원을 식별할 수 있다. 상기 정보에 포함된, 상기 영역들 각각에서의 밝기의 수평 방향, 및/또는 수직 방향의 편차에 기반하여, 전자 장치는 프레임들 내에 포함된 광원을 식별할 수 있다.
프레임들 중 적어도 하나로부터 광원을 식별하는 것에 기반하여(1220-예), 동작(1230)내에서, 일 실시예에 따른, 전자 장치는 식별된 광원의 모션에 기반하여 프레임들을 합성할 수 있다. 동작(1230)에 기반하여 프레임들을 합성하는 동작은, 도 11의 동작(1145)과 유사하게, 제1 지정된 합성 모드에 기반하여, 수행될 수 있다.
프레임들 중 적어도 하나로부터 광원을 식별한 상태와 상이한 다른 상태 내에서(1220-아니오), 동작(1240)내에서, 일 실시예에 따른, 전자 장치는 광원과 상이한 외부 객체의 모션을 식별할 수 있다. 예를 들어, 전자 장치는 동작(1210)의 정보에 기반하여, 프레임들로부터 광원과 상이한 외부 객체의 모션을 식별할 수 있다. 상기 모션은, 유체의 모션과 같이, 프레임들 내에 포함된 불규칙적인 모션을 포함할 수 있다.
프레임들 중 적어도 하나로부터 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여(1240-예), 동작(1250)내에서, 일 실시예에 따른, 전자 장치는 프레임들의 제1 주기 보다 긴 제2 주기에 기반하여 프레임들로부터 샘플링된 프레임들을 합성할 수 있다. 동작(1250)에 기반하여 프레임들을 샘플링하는 것은, 도 11의 동작(1150)과 유사하게, 제2 지정된 합성 모드에 기반하여, 수행될 수 있다. 예를 들어, 전자 장치가 도 12의 동작(1250)에 기반하여 샘플링된 프레임들을 합성하는 것은, 도 11의 동작(1150)과 유사하게 수행될 수 있다.
프레임들 중 적어도 하나로부터 광원과 상이한 외부 객체의 모션을 식별한 상태와 상이한 다른 상태 내에서(1240-아니오), 동작(1260)내에서, 일 실시예에 따른, 전자 장치는 프레임들의 보간에 기반하여, 프레임들을 합성할 수 있다. 전자 장치가 도 12의 동작(1260)에 기반하여 프레임들을 합성하는 것은, 도 11의 동작(1160)과 유사하게, 제3 지정된 합성 모드에 기반하여, 수행될 수 있다. 도 12를 참고하면, 프레임들로부터 광원을 식별하였는지 여부, 및/또는 프레임들로부터 상기 광원과 상이한 외부 객체의 모션을 식별하였는지 여부에 기반하여, 전자 장치는 상기 프레임들을 합성하기 위한 합성 모드를 선택할 수 있다.
도 13은, 일 실시예에 따른, 전자 장치에 의해 수행되는 동작을 설명하기 위한 흐름도의 일 예를 도시한다. 도 13의 전자 장치는 도 3a 내지 도 3b, 및/또는 도 4의 전자 장치(101)의 일 예일 수 있다. 예를 들어, 도 13의 동작들 중 적어도 하나는 도 4의 전자 장치(101), 및/또는 도 4의 프로세서(120)에 의해 수행될 수 있다. 도 13의 동작들 중 적어도 하나는 도 11 내지 도 12의 동작들 중 적어도 하나와 관련될 수 있다.
도 13을 참고하면, 동작(1310)내에서, 일 실시예에 따른, 전자 장치는 프레임들을 합성하기 위한 입력을 식별할 수 있다. 상기 입력은, 슬로우 셔터 기능에 기반하여 상기 프레임들을 합성함을 나타내는 입력을 포함할 수 있다.
동작(1310)의 입력에 응답하여, 동작(1320)내에서, 일 실시예에 따른, 전자 장치는 프레임들에 포함된 외부 객체의 타입, 및/또는 모션을 나타내는 정보를 획득할 수 있다. 전자 장치는, 외부 객체의 타입을, 광원을 구분하기 위한 상이한 타입들 중에서 선택할 수 있다. 전자 장치가 동작(1320)에 기반하여 획득하는 상기 정보는, 도 12의 동작(1210)에 기반하여 식별하는 정보를 포함할 수 있다.
도 13을 참고하면, 동작(1330)내에서, 일 실시예에 따른, 전자 장치는 획득된 정보에 기반하여, 합성 모드들 중 어느 하나를 선택할 수 있다. 전자 장치에 의해 선택되는 상기 합성 모드들은, 도 4를 참고하여 상술된 제1 지정된 합성 모드 내지 제3 지정된 합성 모드를 포함할 수 있다. 동작(1330)에 기반하여 합성 모드를 선택하는 동작은, 도 11의 동작들(1125, 1130, 1140, 1155), 및/또는 도 12의 동작들(1220, 1240)을 포함할 수 있다.
도 13을 참고하면, 동작(1340)내에서, 일 실시예에 따른, 전자 장치는 동작(1330)에 기반하여 선택된 합성 모드에 기반하여, 프레임들을 합성할 수 있다. 전자 장치가 동작(1340)에 기반하여 프레임들을 합성하는 동작은, 도 11의 동작들(1145, 1150, 1160), 도 12의 동작들(1230, 1250, 1260)을 포함할 수 있다. 동작(1340)의 프레임들의 합성에 기반하여, 전자 장치는 상기 프레임들 내에 포함된 모션을 표현하는 단일 이미지(예, 도 5의 이미지들(515, 525, 535), 도 7의 이미지(730), 도 8의 이미지(850), 및/또는 도 9의 이미지(930))를 획득할 수 있다.
상술한 바와 같이, 일 실시예에 따른, 전자 장치는, 슬로우 셔터 기능에 기반하여 프레임들을 합성할 수 있다. 예를 들어, 장노출과 관련된 기간 내에 포함된 상이한 시점들에서 획득된 프레임들로부터, 전자 장치는 단일 이미지를 획득할 수 있다. 전자 장치는, 상기 프레임들에 의해 캡쳐된 장면의 카테고리(예, 야간 장면과 관련된 지정된 카테고리), 상기 프레임들에 포함된 외부 객체의 타입(예, 광원), 및/또는 상기 외부 객체의 모션에 기반하여, 상기 프레임들을 합성하기 위한 합성 모드를, 복수의 지정된 합성 모드들(예, 제1 지정된 합성 모드 내지 제3 지정된 합성 모드) 중에서 선택할 수 있다. 상기 지정된 합성 모드들은, 프레임들에 의해 캡쳐된 장면의 속성(attribute)에 기반하여, 상기 프레임들로부터 장노출에 기반하는 단일 이미지를 효과적으로 획득하기 위한 합성 모드를 포함할 수 있다.
전자 장치가 이미지 센서로부터 프레임들을 반복적으로 획득하는 카메라를 포함하는 일 실시예에서, 상기 반복적으로 획득된 프레임들에 기반하여 슬로우 셔터 기능을 지원하기 위한 방안이 요구될 수 있다.
상술한 바와 같은, 일 실시예에 따른, 전자 장치(an electronic device)(예, 도 4의 전자 장치(101))는, 메모리(예, 도 4의 메모리(130)), 및 프로세서(예, 도 4의 메모리(120))를 포함할 수 있다. 상기 프로세서는, 제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된 이미지를 획득하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하도록, 구성될 수 있다. 전자 장치는, 프레임들의 합성에 기반하여, 프레임들에 포함된 적어도 하나의 광원의 경로가 표현된 이미지를 획득할 수 있다. 상기 적어도 하나의 광원의 경로를 획득하기 위해 수행되는 장노출과 독립적으로, 전자 장치는 상기 경로가 포함된 상기 이미지를 획득할 수 있다.
예를 들어, 상기 프로세서는, 상기 적어도 하나의 광원을 식별하는 것에 기반하여, 제1 프레임들인 상기 프레임들의 보간(interpolation)에 기반하여, 상기 제1 프레임들이 캡쳐된 제1 시점들 사이의 하나 이상의 제2 시점들에 대응하는, 하나 이상의 제2 프레임들을 획득하도록, 구성될 수 있다. 상기 프로세서는, 상기 제1 프레임들, 및 상기 하나 이상의 제2 프레임들을 합성하여, 상기 이미지를 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 정보에 기반하여 상기 제1 프레임들 내에서 상기 광원의 모션의 크기를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 제1 주기 보다 짧고, 상기 식별된 크기에 대응하는, 제3 주기에 기반하여 상기 하나 이상의 제2 프레임들을 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 정보에 기반하여 상기 프레임들 내에서 상기 적어도 하나의 광원이 이동된 방향을 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 식별된 방향을 가지는 방향성 필터(directional filter)가 적용된 상기 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원이 연속적으로(continuously) 이동된 경로가 표현된(represented) 상기 이미지를 획득하기 위하여, 상기 프레임들을 합성하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 프레임들 중 제1 프레임 내에 형성된 상이한 영역들에 기반하여, 상기 프레임들 중 제1 프레임에 포함된 픽셀들의 색상들의 차이들을 포함하는 상기 정보를 식별하도록, 구성될 수 있다.
예를 들어, 상기 전자 장치는, 카메라, 및 디스플레이를 더 포함할 수 있다. 상기 프로세서는, 상기 디스플레이 내에 촬영 입력(a shooting input)을 수신하기 위한 시각적 객체를 표시하도록, 구성될 수 있다. 상기 프로세서는, 상기 시각적 객체를 선택함을 나타내는 상기 입력에 응답하여, 상기 카메라를 제어하여 상기 프레임들을 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 메모리 내에 저장된 비디오의 적어도 일부분인 상기 프레임들을 합성하기 위한 상기 입력에 응답하여, 상기 비디오에 대응하는 메타 데이터로부터 상기 정보를 식별하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 메모리 내에 상기 획득된 이미지를 저장하도록, 구성될 수 있다.
상술한 바와 같은, 일 실시예에 따른, 전자 장치의 방법은, 카메라에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나의 밝기를 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 밝기를 이용하여 상기 프레임들로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 상기 프레임들에 의해 캡쳐된 상기 시각적 객체의 경로와 관련된 정보를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 정보에 기반하여 상기 프레임들을 합성하여, 상기 시각적 객체의 상기 경로가 표현된 이미지를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 식별하는 동작은, 상기 프레임들 각각에 형성된 영역들에 기반하여 상기 광원에 대응하는 상기 시각적 객체를 식별하는 동작을 포함할 수 있다.
예를 들어, 상기 정보를 획득하는 동작은, 상기 프레임들 중 제1 프레임에 포함된 상기 시각적 객체의 제1 위치, 및 상기 제1 프레임 이후의 제2 프레임에 포함된 상기 시각적 객체의 제2 위치에 기반하여, 상기 제1 프레임, 및 상기 제2 프레임 사이의 상기 시각적 객체의 제3 위치를 식별하는 동작을 포함할 수 있다. 상기 정보를 획득하는 동작은, 상기 식별된 제3 위치에 배치된 상기 시각적 객체를 포함하는 제3 프레임을 포함하는 상기 정보를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 이미지를 획득하는 동작은, 상기 프레임들, 및 상기 정보에 포함된 상기 제3 프레임을 합성하여, 상기 이미지를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 이미지를 획득하는 동작은, 상기 경로에 기반하는 방향성 필터에 기반하여, 상기 프레임들을 변경하는 동작을 포함할 수 있다. 상기 이미지를 획득하는 동작은, 상기 변경된 프레임들을 합성하여, 상기 이미지를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 방법은, 상기 밝기를 이용하여 상기 프레임들로부터 상기 광원에 대응하는 상기 시각적 객체를 식별한 상태와 다른 상태 내에서, 상기 프레임들이 캡쳐된 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들을 샘플링하는 동작을 포함할 수 있다. 상기 방법은, 상기 프레임들 중에서 상기 제2 주기에 기반하여 샘플링된 하나 이상의 프레임들을 합성하여, 상기 입력에 대응하는 다른 이미지를 획득하는 동작을 포함할 수 있다.
상술한 바와 같은, 일 실시예에 따른, 전자 장치의 방법은, 제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하는 동작을 포함할 수 있다. 상기 방법은, 상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된 이미지를 획득하는 동작을 포함할 수 있다. 상기 방법은, 상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은, 상기 적어도 하나의 광원에 기반하여, 제1 프레임들인 상기 프레임들의 보간(interpolation)에 기반하여, 상기 제1 프레임들이 캡쳐된 제1 시점들 사이의 하나 이상의 제2 시점들에 대응하는, 하나 이상의 제2 프레임들을 획득하는 동작을 포함할 수 있다. 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은, 상기 제1 프레임들, 및 상기 하나 이상의 제2 프레임들을 합성하여, 상기 이미지를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 하나 이상의 제2 프레임들을 획득하는 동작은, 상기 정보에 기반하여 상기 제1 프레임들 내에서 상기 광원의 모션의 크기를 식별하는 동작을 포함할 수 있다. 상기 하나 이상의 제2 프레임들을 획득하는 동작은, 상기 제1 주기 보다 짧고, 상기 식별된 크기에 대응하는, 제3 주기에 기반하여 상기 하나 이상의 제2 프레임들을 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은, 상기 정보에 기반하여 상기 프레임들 내에서 상기 적어도 하나의 광원이 이동된 방향을 식별하는 동작을 포함할 수 있다. 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은, 상기 식별된 방향을 가지는 방향성 필터(directional filter)가 적용된 상기 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하는 동작을 포함할 수 있다.
예를 들어, 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은, 상기 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원이 연속적으로(continuously) 이동된 경로가 표현된(represented) 상기 이미지를 획득하기 위하여, 상기 프레임들을 합성하는 동작을 포함할 수 있다.
상술한 바와 같은, 일 실시예에 따른, 전자 장치(electronic device)는, 메모리, 및 프로세서를 포함할 수 있다. 상기 프로세서는, 카메라에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나의 밝기를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 밝기를 이용하여 상기 프레임들로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 상기 프레임들에 의해 캡쳐된 상기 시각적 객체의 경로와 관련된 정보를 획득하도록, 구성될 수 있다. 상기 프로세서는, 상기 정보에 기반하여 상기 프레임들을 합성하여, 상기 시각적 객체의 상기 경로가 표현된 이미지를 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 프레임들 각각에 형성된 영역들에 기반하여 상기 광원에 대응하는 상기 시각적 객체를 식별하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 프레임들 중 제1 프레임에 포함된 상기 시각적 객체의 제1 위치, 및 상기 제1 프레임 이후의 제2 프레임에 포함된 상기 시각적 객체의 제2 위치에 기반하여, 상기 제1 프레임, 및 상기 제2 프레임 사이의 상기 시각적 객체의 제3 위치를 식별하도록, 구성될 수 있다. 상기 프로세서는, 상기 식별된 제3 위치에 배치된 상기 시각적 객체를 포함하는 제3 프레임을 포함하는 상기 정보를 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 프레임들, 및 상기 정보에 포함된 상기 제3 프레임을 합성하여, 상기 이미지를 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 경로에 기반하는 방향성 필터에 기반하여, 상기 프레임들을 변경하도록, 구성될 수 있다. 상기 프로세서는, 상기 변경된 프레임들을 합성하여, 상기 이미지를 획득하도록, 구성될 수 있다.
예를 들어, 상기 프로세서는, 상기 밝기를 이용하여 상기 프레임들로부터 상기 광원에 대응하는 상기 시각적 객체를 식별한 상태와 다른 상태 내에서, 상기 프레임들이 캡쳐된 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들을 샘플링하도록, 구성될 수 있다. 상기 프로세서는, 상기 프레임들 중에서 상기 제2 주기에 기반하여 샘플링된 하나 이상의 프레임들을 합성하여, 상기 입력에 대응하는 다른 이미지를 획득하도록, 구성될 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (26)
- 전자 장치(electronic device)(101)에 있어서,
메모리(130); 및
프로세서(120)를 포함하고,
상기 프로세서는,
제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하고;
상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원(light source)을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된(represented) 이미지를 획득하고; 및
상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지(an image)를 획득하도록, 구성된,
전자 장치. - 제1항에 있어서, 상기 프로세서는,
상기 적어도 하나의 광원을 식별하는 것에 기반하여, 제1 프레임들인 상기 프레임들의 보간(interpolation)에 기반하여, 상기 제1 프레임들이 캡쳐된 제1 시점들 사이의 하나 이상의 제2 시점들에 대응하는, 하나 이상의 제2 프레임들을 획득하고;
상기 제1 프레임들, 및 상기 하나 이상의 제2 프레임들을 합성하여, 상기 이미지를 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 정보에 기반하여 상기 제1 프레임들 내에서 상기 광원의 모션의 크기를 식별하고;
상기 제1 주기 보다 짧고, 상기 식별된 크기에 대응하는, 제3 주기에 기반하여 상기 하나 이상의 제2 프레임들을 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 정보에 기반하여 상기 프레임들 내에서 상기 적어도 하나의 광원이 이동된 방향을 식별하고;
상기 식별된 방향을 가지는 방향성 필터(directional filter)가 적용된 상기 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원이 연속적으로(continuously) 이동된 경로가 표현된(represented) 상기 이미지를 획득하기 위하여, 상기 프레임들을 합성하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 프레임들 중 제1 프레임 내에 형성된 상이한 영역들에 기반하여, 상기 프레임들 중 제1 프레임에 포함된 픽셀들의 색상들의 차이들을 포함하는 상기 정보를 식별하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서,
카메라; 및
디스플레이를 더 포함하고,
상기 프로세서는,
상기 디스플레이 내에 촬영 입력(a shooting input)을 수신하기 위한 시각적 객체를 표시하고;
상기 시각적 객체를 선택함을 나타내는 상기 입력에 응답하여, 상기 카메라를 제어하여 상기 프레임들을 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 메모리 내에 저장된 비디오의 적어도 일부분인 상기 프레임들을 합성하기 위한 상기 입력에 응답하여, 상기 비디오에 대응하는 메타 데이터로부터 상기 정보를 식별하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 메모리 내에 상기 획득된 이미지를 저장하도록, 구성된,
전자 장치. - 전자 장치의 방법에 있어서,
카메라에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나의 밝기를 식별하는 동작;
상기 밝기를 이용하여 상기 프레임들로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 상기 프레임들에 의해 캡쳐된 상기 시각적 객체의 경로와 관련된 정보를 획득하는 동작; 및
상기 정보에 기반하여 상기 프레임들을 합성하여, 상기 시각적 객체의 상기 경로가 표현된 이미지를 획득하는 동작을 포함하는,
방법. - 제10항에 있어서, 상기 식별하는 동작은,
상기 프레임들 각각에 형성된 영역들에 기반하여 상기 광원에 대응하는 상기 시각적 객체를 식별하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서, 상기 정보를 획득하는 동작은,
상기 프레임들 중 제1 프레임에 포함된 상기 시각적 객체의 제1 위치, 및 상기 제1 프레임 이후의 제2 프레임에 포함된 상기 시각적 객체의 제2 위치에 기반하여, 상기 제1 프레임, 및 상기 제2 프레임 사이의 상기 시각적 객체의 제3 위치를 식별하는 동작; 및
상기 식별된 제3 위치에 배치된 상기 시각적 객체를 포함하는 제3 프레임을 포함하는 상기 정보를 획득하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서, 상기 이미지를 획득하는 동작은,
상기 프레임들, 및 상기 정보에 포함된 상기 제3 프레임을 합성하여, 상기 이미지를 획득하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서, 상기 이미지를 획득하는 동작은,
상기 경로에 기반하는 방향성 필터에 기반하여, 상기 프레임들을 변경하는 동작; 및
상기 변경된 프레임들을 합성하여, 상기 이미지를 획득하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서,
상기 밝기를 이용하여 상기 프레임들로부터 상기 광원에 대응하는 상기 시각적 객체를 식별한 상태와 다른 상태 내에서, 상기 프레임들이 캡쳐된 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들을 샘플링하는 동작; 및
상기 프레임들 중에서 상기 제2 주기에 기반하여 샘플링된 하나 이상의 프레임들을 합성하여, 상기 입력에 대응하는 다른 이미지를 획득하는 동작을 더 포함하는,
방법. - 전자 장치의 방법에 있어서,
제1 주기에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나에 포함된 모션을 나타내는 정보를 식별하는 동작;
상기 정보에 기반하여, 상기 프레임들 중 적어도 하나로부터, 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원의 모션에 기반하여 상기 프레임들을 합성하여, 상기 프레임들 사이의 상기 적어도 하나의 광원의 모션이 표현된 이미지를 획득하는 동작; 및
상기 정보에 기반하여, 상기 광원과 상이한 외부 객체의 모션을 식별하는 것에 기반하여, 상기 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들로부터 샘플링된, 하나 이상의 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하는 동작을 포함하는,
방법. - 제16항에 있어서, 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은,
상기 적어도 하나의 광원에 기반하여, 제1 프레임들인 상기 프레임들의 보간(interpolation)에 기반하여, 상기 제1 프레임들이 캡쳐된 제1 시점들 사이의 하나 이상의 제2 시점들에 대응하는, 하나 이상의 제2 프레임들을 획득하는 동작; 및
상기 제1 프레임들, 및 상기 하나 이상의 제2 프레임들을 합성하여, 상기 이미지를 획득하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서, 상기 하나 이상의 제2 프레임들을 획득하는 동작은,
상기 정보에 기반하여 상기 제1 프레임들 내에서 상기 광원의 모션의 크기를 식별하는 동작; 및
상기 제1 주기 보다 짧고, 상기 식별된 크기에 대응하는, 제3 주기에 기반하여 상기 하나 이상의 제2 프레임들을 획득하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서, 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은,
상기 정보에 기반하여 상기 프레임들 내에서 상기 적어도 하나의 광원이 이동된 방향을 식별하는 동작; 및
상기 식별된 방향을 가지는 방향성 필터(directional filter)가 적용된 상기 프레임들을 합성하여, 상기 프레임들에 대한 이미지를 획득하는 동작을 포함하는,
방법. - 전술한 항들 중 어느 한 항에 있어서, 상기 적어도 하나의 광원에 기반하여 상기 이미지를 획득하는 동작은,
상기 적어도 하나의 광원을 식별하는 것에 기반하여, 상기 적어도 하나의 광원이 연속적으로(continuously) 이동된 경로가 표현된(represented) 상기 이미지를 획득하기 위하여, 상기 프레임들을 합성하는 동작을 포함하는,
방법. - 전자 장치(electronic device)에 있어서,
메모리; 및
프로세서를 포함하고, 상기 프로세서는,
카메라에 기반하여 획득된 프레임들을 합성하기 위한 입력에 기반하여, 상기 프레임들 중 적어도 하나의 밝기를 식별하고;
상기 밝기를 이용하여 상기 프레임들로부터 광원에 대응하는 시각적 객체를 식별하는 것에 기반하여, 상기 프레임들에 의해 캡쳐된 상기 시각적 객체의 경로와 관련된 정보를 획득하고; 및
상기 정보에 기반하여 상기 프레임들을 합성하여, 상기 시각적 객체의 상기 경로가 표현된 이미지를 획득하도록, 구성된,
전자 장치. - 제21항에 있어서, 상기 프로세서는,
상기 프레임들 각각에 형성된 영역들에 기반하여 상기 광원에 대응하는 상기 시각적 객체를 식별하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 프레임들 중 제1 프레임에 포함된 상기 시각적 객체의 제1 위치, 및 상기 제1 프레임 이후의 제2 프레임에 포함된 상기 시각적 객체의 제2 위치에 기반하여, 상기 제1 프레임, 및 상기 제2 프레임 사이의 상기 시각적 객체의 제3 위치를 식별하고; 및
상기 식별된 제3 위치에 배치된 상기 시각적 객체를 포함하는 제3 프레임을 포함하는 상기 정보를 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 프레임들, 및 상기 정보에 포함된 상기 제3 프레임을 합성하여, 상기 이미지를 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 경로에 기반하는 방향성 필터에 기반하여, 상기 프레임들을 변경하고; 및
상기 변경된 프레임들을 합성하여, 상기 이미지를 획득하도록, 구성된,
전자 장치. - 전술한 항들 중 어느 한 항에 있어서, 상기 프로세서는,
상기 밝기를 이용하여 상기 프레임들로부터 상기 광원에 대응하는 상기 시각적 객체를 식별한 상태와 다른 상태 내에서, 상기 프레임들이 캡쳐된 제1 주기 보다 긴 제2 주기에 기반하여 상기 프레임들을 샘플링하고; 및
상기 프레임들 중에서 상기 제2 주기에 기반하여 샘플링된 하나 이상의 프레임들을 합성하여, 상기 입력에 대응하는 다른 이미지를 획득하도록, 구성된,
전자 장치.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/KR2023/009666 WO2024053835A1 (ko) | 2022-09-08 | 2023-07-07 | 프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR20220114557 | 2022-09-08 | ||
KR1020220114557 | 2022-09-08 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20240035272A true KR20240035272A (ko) | 2024-03-15 |
Family
ID=90272863
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020220126198A KR20240035272A (ko) | 2022-09-08 | 2022-10-04 | 프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20240035272A (ko) |
-
2022
- 2022-10-04 KR KR1020220126198A patent/KR20240035272A/ko unknown
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109413399B (zh) | 使用深度图合成对象的装置及其方法 | |
EP4254938A1 (en) | Electronic device and operation method therefor | |
EP4171011A1 (en) | Method for providing image and electronic device supporting same | |
US20230239576A1 (en) | Method, apparatus, and storage medium for providing slow shutter | |
KR20220055230A (ko) | 복수의 카메라를 이용한 사진 촬영 방법 및 그 장치 | |
KR20220090158A (ko) | 관심 객체를 이용하여 비디오를 편집하는 전자 장치 및 그 동작 방법 | |
US20230388441A1 (en) | Electronic device and method for capturing image by using angle of view of camera module | |
US20230410268A1 (en) | Method for providing image, and electronic device supporting same | |
KR20240035272A (ko) | 프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법 | |
KR20220157735A (ko) | 전자 장치의 촬영 방법 및 그 전자 장치 | |
KR20220072529A (ko) | 광량을 획득하는 전자 장치 및 방법 | |
WO2024053835A1 (ko) | 프레임들의 합성에 기반하여 이미지를 획득하기 위한 전자 장치 및 그 방법 | |
US20230325980A1 (en) | Electronic device and image processing method thereof | |
US20220358776A1 (en) | Electronic device and operating method thereof | |
EP4319136A1 (en) | Image capturing method for electronic device, and electronic device therefor | |
KR20240068029A (ko) | 기계 학습 모델을 이용하여 영상을 획득하는 전자 장치 및 그 동작 방법 | |
KR20240140734A (ko) | 이미지를 처리하는 전자 장치 및 그 방법 | |
KR20230065034A (ko) | Hdr 이미지들을 촬영하는 전자 장치와 이의 동작 방법 | |
KR20240074601A (ko) | 복수의 카메라를 이용하여 코드 정보에 대응하는 시각적 객체를 식별하기 위한 전자 장치, 방법, 및 컴퓨터 판독 가능 저장 매체 | |
KR20240051782A (ko) | 카메라를 이용하여 영상을 획득하는 전자 장치 및 그 동작 방법 | |
KR20240120595A (ko) | 전자 장치 및 이를 이용한 이미지 촬영 방법 | |
KR20240120585A (ko) | 로우 이미지들을 블렌딩하는 방법 및 전자 장치 | |
KR20220153366A (ko) | 이미지 왜곡을 보정하는 방법 및 그 전자 장치 | |
KR20240073714A (ko) | 디지털 보케 이미지의 해상도를 높이기 위한 전자 장치 및 방법 | |
KR20240056362A (ko) | 카메라의 설정을 변경하기 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체 |