KR102576908B1 - 동적 파노라마 기능을 제공하는 방법 및 장치 - Google Patents

동적 파노라마 기능을 제공하는 방법 및 장치 Download PDF

Info

Publication number
KR102576908B1
KR102576908B1 KR1020160017863A KR20160017863A KR102576908B1 KR 102576908 B1 KR102576908 B1 KR 102576908B1 KR 1020160017863 A KR1020160017863 A KR 1020160017863A KR 20160017863 A KR20160017863 A KR 20160017863A KR 102576908 B1 KR102576908 B1 KR 102576908B1
Authority
KR
South Korea
Prior art keywords
panoramic
data
electronic device
dynamic
images
Prior art date
Application number
KR1020160017863A
Other languages
English (en)
Other versions
KR20170096459A (ko
Inventor
이시형
김재현
송인선
이후형
최지환
김기웅
서동준
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020160017863A priority Critical patent/KR102576908B1/ko
Priority to US15/431,210 priority patent/US10659684B2/en
Priority to PCT/KR2017/001567 priority patent/WO2017142278A1/en
Priority to EP17753439.3A priority patent/EP3363192A4/en
Priority to CN201710083611.0A priority patent/CN107087101B/zh
Publication of KR20170096459A publication Critical patent/KR20170096459A/ko
Application granted granted Critical
Publication of KR102576908B1 publication Critical patent/KR102576908B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • G—PHYSICS
    • G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B37/00—Panoramic or wide-screen photography; Photographing extended surfaces, e.g. for surveying; Photographing internal surfaces, e.g. of pipe
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/04—Synchronising
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10016—Video; Image sequence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681—Motion detection
    • H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0127—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level by changing the field or frame frequency of the incoming video signal, e.g. frame rate converter

Abstract

전자 장치가 개시된다. 상기 전자 장치는, 프로세서, 메모리, 촬영이 시작되면 복수의 이미지들을 연속적으로 획득하는 카메라 모듈, 및 상기 전자 장치의 움직임(motion)을 감지하는 센서를 포함하고, 상기 프로세서는 상기 복수의 이미지들 및 상기 촬영 중에 감지된 상기 전자 장치의 움직임에 기초하여 생성된 파노라마 이미지 데이터와 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일(a panorama content file)을 상기 메모리에 저장할 수 있다. 이 외에도 명세서를 통해 파악되는 다양한 실시 예가 가능하다.

Description

동적 파노라마 기능을 제공하는 방법 및 장치{Method and Apparatus for Providing Dynamic Panorama}
본 문서에서 개시되는 실시 예들은, 파노라마 촬영을 통해 획득된 이미지들을 이용하여 컨텐츠를 생성하고 소비하는 기술과 관련된다.
기존의 스마트폰이나 디지털 카메라 등에서 제공하는 파노라마 촬영 기능은, 파노라마 촬영을 통해 획득된 이미지들을 이용하여 하나의 파노라마 이미지(정지 영상)를 생성할 수 있다.
그러나 기존의 파노라마 이미지는, 파노라마 촬영 중에 움직이는 피사체가 있는 경우 파노라마 이미지가 잘못 정합되거나 하나의 피사체가 복수 개로 표현되어 이미지의 품질 또는 사용자 경험을 저해하였다.
본 문서에서 개시되는 실시 예들은, 전술한 문제 및 본 문서에서 제기되는 과제들을 해결하기 위한 동적 파노라마 기능의 제공 방법 및 동적 파노라마 기능을 제공하는 전자 장치를 제공할 수 있다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 프로세서, 메모리, 촬영이 시작되면 복수의 이미지들을 연속적으로 획득하는 카메라 모듈, 및 상기 전자 장치의 움직임(motion)을 감지하는 센서를 포함하고, 상기 프로세서는 상기 복수의 이미지들 및 상기 촬영 중에 감지된 상기 전자 장치의 움직임에 기초하여 생성된 파노라마 이미지 데이터와 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일(a panorama content file)을 상기 메모리에 저장할 수 있다.
본 문서에 개시되는 실시 예들에 따르면, 파노라마 촬영 시 파노라마 이미지(정지 영상) 외에 비디오로 재생 가능한 동적 파노라마를 제공할 수 있어서, 파노라마 촬영에 포함된 피사체의 움직임을 재생할 수 있다.
또한, 파노라마 이미지를 생성할 때 사용된 이미지와 분석 정보를, 동적 파노라마의 생성에 활용함으로써 파노라마 이미지(정적 파노라마)와 파노라마 비디오(동적 파노라마) 사이의 동기화가 가능하다.
또한, 파노라마 촬영 당시 획득된 오디오 데이터를 동적 파노라마와 동기화 하여 제공할 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 예시적인 구성을 나타낸다.
도 2는 일 실시 예에 따른 파노라마 이미지 데이터를 생성하는 과정을 나타낸다.
도 3은 일 실시 예에 따른 동적 파노라마 데이터를 생성하는 과정을 나타낸다.
도 4는 일 실시 예에 따른 파노라마 이미지 데이터와 동적 파노라마 데이터의 동기화 과정을 나타낸다.
도 5는 일 실시 예에 따른 파노라마 콘텐트 파일을 생성하는 전체적인 프로세스를 나타낸다.
도 6은 일 실시 예에 따른 파노라마 콘텐트 파일을 생성하는 세부 프로세스를 나타낸다.
도 7은 일 실시 예에 따른 파노라마 콘텐트 파일의 실행 화면을 나타낸다.
도 8은 다양한 실시 예에 따른 네트워크 환경 내의 전자 장치를 나타낸다.
도 9는 다양한 실시 예에 따른 전자 장치의 블록도를 나타낸다.
도 10은 다양한 실시 예에 따른 프로그램 모듈의 블록도를 나타낸다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제1 사용자 기기와 제2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성(또는 설정)된"은 하드웨어적으로 "특별히 설계된(specifically designed to)"것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성(또는 설정)된 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은 관련 기술의 문맥 상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시 예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시 예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 또는 디지털 카메라와 같이 파노라마 촬영 기능을 지원하는 전자 장치에 해당할 수 있다. 다양한 실시 예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시 예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시 예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치 (예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 예시적인 구성을 나타낸다.
도 1을 참조하면, 전자 장치(100)는 프로세서(110)를 포함할 수 있다. 프로세서(110)는 각종 연산을 처리하고 전자 장치(100)의 하드웨어/소프트웨어 구성 요소들을 제어하는 기능을 수행할 수 있다. 예를 들어, 프로세서(110)는 파노라마 이미지 생성 모듈(121), 동적 파노라마 생성 모듈(122), 및 최종 파일 생성 모듈(123)을 제어할 수 있다.
일 실시 예에서, 파노라마 이미지 생성 모듈(121), 동적 파노라마 생성 모듈(122), 및 최종 파일 생성 모듈(123) 중 일부 또는 전부는 소프트웨어 모듈로 구현될 수 있다. 예를 들어, 메모리(130)에는 파노라마 이미지 생성 모듈(121)과 최종 파일 생성 모듈(123)을 소프트웨어로서 구현하기 위한 명령어들(instructions)이 저장될 수 있다. 예를 들어, 프로세서(110)은 메모리(130)에 저장된 제1 명령어 세트를 프레임워크(framework)에 로드(load)하여 파노라마 이미지 생성 모듈(121)을 구현하고, 제2 명령어 세트를 로드하여 파노라마 이미지 생성 모듈(122)을 구현할 수 있다. 이 경우, 동적 파노라마 생성 모듈(122)는 하드웨어로 구현될 수 있다. 하드웨어로 구현되는 동적 파노라마 생성 모듈(122)은 동적 파노라마 생성 회로(circuit)로 참조될 수 있다.
메모리(130)에는 본 문서에 개시되는 다양한 실시 예를 구현하기 위한 명령어들과 어플리케이션, 파일(files)들이 저장될 수 있다. 예를 들어, 전술한 제1 명령어 세트, 제2 명령어 세트, 일 실시 예에 따른 파노라마 콘텐트 파일, 및 상기 파노라마 콘텐트 파일과 연관된 어플리케이션이 저장될 수 있다.
일 실시 예에서, 카메라(140)는 복수의 이미지들을 획득할 수 있다. 예를 들어, 전자 장치(100)의 디스플레이(170)에 디스플레이 된 사용자 인터페이스(user interface)에서 파노라마 이미지 획득을 위한 촬영 버튼 선택되거나, 사용자에 의해 촬영 시작을 위한 물리 키 또는 물리 버튼이 눌러지면, 전자 장치(100)는 카메라(140)를 통해 연속적으로 이미지들을 획득할 수 있다. 전자 장치(100)는 카메라(140)를 통해 파노라마 이미지 및 동적 파노라마 생성을 위한 적절한 개수의 이미지를 초 단위로 획득할 수 있다. 예를 들어, 전자 장치(100)는 초당 24장의 이미지 또는 초당 60장의 이미지를 획득할 수 있다. 전자 장치(100)는 상기 촬영 버튼이 다시 한 번 선택되는 것과 같은, 촬영 종료 입력에 반응하여 이미지 획득을 중단할 수 있다.
일 실시 예에서, 마이크(150)는 촬영이 진행되는 동안 전자 장치(100)의 주변에서 발생하는 오디오 데이터를 획득할 수 있다. 예를 들어, 사람의 음성이나 주변의 잡음 등이 오디오 데이터로서 획득될 수 있다. 또한 일 실시 예에서, 마이크(150)는 촬영을 시작하거나 종료하기 위한 사용자의 음성 명령을 인식할 수 있다. 예를 들어, 프로세서(110)는 파노라마 촬영을 위한 사용자 인터페이스가 디스플레이 된 상태에서 “시작(start)”이라는 음성 명령에 반응하여, “종료(stop)”라는 음성 명령이 인식될 때까지 카메라(140)가 복수의 이미지들을 획득하도록 할 수 있다. 다른 예시에서, 프로세서(110)는 전자 장치(100)의 디스플레이가 OFF 상태이거나 혹은 임의의 어플리케이션이 실행 중인 상태에서 “파노라마 시작(start panorama)”라는 음성 명령에 반응하여 카메라(140)가 복수의 이미지들을 획득하도록 할 수 있다.
일 실시 예에서, 모션 센서(160)는 촬영이 진행되는 동안 전자 장치(100)의 움직임을 감지하고, 움직임에 대한 정보를 획득할 수 있다. 모션 센서(160)는, 예를 들어 가속도 센서나 자이로 센서, 또는 이 둘의 조합에 해당할 수 있다. 일반적으로 파노라마 촬영은 스마트폰과 같은 전자 장치를 촬영이 시작된 상태에서 일정 방향(예: 오른쪽)으로 이동시키면서 이루어지고, 그에 따라서 모션 센서(160)는 전자 장치(100)가 이동한 방향과 거리, 이동하는 동안 발생한 상하 흔들림과 같은 전자 장치(100)의 움직임 정보를 획득할 수 있다. 또한, 프로세서(110)는 파노라마 촬영이 시작된 시점부터 모션 센서(160)에 의해 일정 방향으로 지정된 거리만큼 이동한 것이 감지되면, 파노라마 촬영을 종료시킬 수 있다. 상기 지정된 거리는 프로세서(110) 또는 파노라마 이미지 생성 모듈(121)이 처리할 수 있는 이미지 파일의 최대 크기에 따라서 다르게 정의될 수 있다. 이 외에도, 프로세서(110)는 파노라마 촬영 도중 전자 장치(100)의 이동 방향이 반대 방향으로 변경되거나, 혹은 전자 장치(100)의 상하 방향 움직임의 폭이 커서 추가적인 이미지 정합이 어렵다고 판단되는 경우, 파노라마 촬영을 종료시킬 수 있다. 여기서 상하 방향은 전자 장치(100)이 좌우 방향으로 움직이면서 파노라마 촬영을 하는 경우를 가정한 것이고, 보다 일반적으로 전자 장치(100)가 제1 방향으로 이동하면서 파노라마 촬영을 하는 중에 제1 방향에 수직한 제2 방향으로의 움직임이 지정된 범위를 벗어나는 경우, 프로세서(100)는 파노라마 촬영을 종료시킬 수 있다.
디스플레이(170)에는 일 실시 예에 따른 파노라마 이미지가 디스플레이 되거나, 일 실시 예에 따른 파노라마 비디오가 재생될 수 있다. 예를 들어, 프로세서(110)는 상기 파노라마 이미지에 대응하는 파노라마 이미지 데이터와 상기 파노라마 비디오에 대응하는 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일을 생성하고, 메모리(130)에 저장할 수 있다. 일 실시 예에서, 파노라마 콘텐트 파일과 연관된 어플리케이션, 예를 들어 갤러리 어플리케이션이나 사진 어플리케이션 등이 실행되면, 디스플레이(170)에는 일반적인 이미지들과 파노라마 이미지가 적절한 형태(예: 썸네일 등)로 출력될 수 있다. 사용자가 파노라마 이미지를 선택하면, 디스플레이(170)에는 파노라마 이미지가 출력될 수 있다. 이 경우, 디스플레이(170)에 파노라마 이미지와 함께 파노라마 이미지에 대응되는 동적 파노라마 데이터가 있음을 나타내는 항목(item)(예: 아이콘, 메뉴 등)이 함께 출력될 수 있다. 상기 항목이 선택되면, 프로세서(110)는 동적 파노라마 데이터에 기초하여 파노라마 비디오를 디스플레이(170)에 재생할 수 있다.
터치 센서(180)는 사용자로부터 터치 입력을 수신할 수 있다. 일 실시 예에서, 터치 센서(180)는 디스플레이(170)과 통합되어, 예를 들어 터치 스크린 패널(touch screen panel) 등으로 구현될 수 있다. 본 문서에서는 대부분의 사용자 조작이 터치 입력에 의한 것으로 가정하고 설명하지만, 터치 입력은 물리적인 키나 버튼과 같은 다른 입력 수단에 의한 사용자 입력으로 대체될 수 있다.
도 2는 일 실시 예에 따른 파노라마 이미지 데이터를 생성하는 과정을 나타낸다.
도 2를 참조하면, 파노라마 촬영이 시작된 후 제1 이미지(201)와 제2 이미지(202)가 연속적으로 획득될 수 있다. 제1 이미지(201)와 제2 이미지(202)는 동일한 해상도(예: width W x height H)를 가질 수 있다. 센서(예: 자이로 센서)에 의해 감지되는 전자 장치(100)의 촬영 모드(예: 가로 모드/세로 모드)에 따라 해상도의 폭과 높이 값이 서로 변경될 수 있다. 예를 들어, 카메라 모듈(140)이 가로 모드(landscape mode)에서 제1 이미지(201)가 1600 x 900의 해상도를 갖는다면, 카메라 모듈(140)이 세로 모드(portrait mode)인 경우에는 제1 이미지(201)가 900 x 1600의 해상도를 가질 수 있다. 도 2 및 도 3의 실시 예에서는 가로 모드의 촬영 상태에서 이미지가 획득되는 것처럼 도시되었으나, 세로 모드로 촬영된 경우에도 동일한 실시 예가 적용될 수 있다.
파노라마 촬영 중에 전자 장치(100)는 상하로 흔들릴 수 있다. 예를 들어, 제2 이미지(202)는 제1 이미지(201)보다 아래쪽으로 살짝 위치할 수 있다. 최초에 획득된 제1 이미지(201)에 의해 가상의 파노라마 영역(200)이 설정되기 때문에, 파노라마 영역(200)을 벗어나는 영역은 파노라마 이미지에서 제외된다. 예를 들어, 제2 이미지(202)의 하단으로부터 일정 영역이 제외된 이미지(212)가 파노라마 이미지 생성을 위해 사용될 수 있다. 또한 제2 이미지(202)에서 제외된 일정 영역에 대응하여, 파노라마 이미지에서 공백 부분이 생성되는 것을 방지하기 위해, 제1 이미지(201)의 상단으로부터 일정 영역이 제외된 이미지(211)가 파노라마 이미지 생성을 위해 사용될 수 있다.
도 2를 참조하여 설명한 동작은 파노라마 이미지 생성 모듈(121)에 의해 수행될 수 있다. 파노라마 이미지 생성 모듈(121)은 카메라(140)에 의해 연속적으로 획득되는 이미지들을 입력 이미지로 하여 파노라마 이미지 데이터를 생성하는 작업을 수행할 수 있다. 파노라마 이미지 데이터를 생성하는 작업은, 이전에 획득된 이미지와 현재 이미지를 붙여 나가는 작업(이미지 정합)에 해당할 수 있다. 파노라마 이미지 생성 모듈(121)은 카메라(140)에 의해 획득된 이미지들과 모션 센서(160)에 의해 감지된 움직임 정보에 기초하여 이미지 정합을 수행할 수 있다. 구체적으로, 파노라마 이미지 생성 모듈(121)은 제1 이미지(201)와 제2 이미지(202)의 픽셀 값 분석을 통해 각 이미지의 특징 점을 추출할 수 있다. 또한 파노라마 이미지 생성 모듈(121)은 모션 센서(160)에 의해 획득된 전자 장치(100)의 움직임 정보에 기초하여 전자 장치(100)의 위치를 추정할 수 있다. 특징 점에 변화가 있거나 전자 장치(100)의 위치가 변경된 것으로 판단된 경우, 파노라마 이미지 생성 모듈(121)은 이에 기초하여 제1 이미지(201)에 제2 이미지(202)를 정합할 수 있다. 파노라마 이미지 생성 모듈(121)은 파노라마 촬영이 진행되는 동안 이와 같은 정합 과정을 반복적으로 수행할 수 있다. 다시 말해서, 파노라마 이미지 생성 모듈(121)은 파노라마 촬영이 종료될 때까지 영상 처리 및 움직임 정보에 기초하여 이전까지 정합된 이미지에 현재 획득된 영상을 계속해서 정합해 나갈 수 있다.
파노라마 이미지 생성 모듈(121)은 이미지 정합이 진행되면 동적 파노라마 생성 모듈(122)로 동적 파노라마 데이터 생성을 위한 정보를 제공할 수 있다. 예를 들어, 이미지 정합에 사용된 이미지(211, 212) 및 다양한 분석 정보가 동적 파노라마 생성 모듈(122)로 제공될 수 있다. 동적 파노라마 데이터 생성을 위한 예시적인 과정을 도 3을 참조하여 설명한다.
도 3은 일 실시 예에 따른 동적 파노라마 데이터를 생성하는 과정을 나타낸다.
도 3을 참조하면, 제1 내지 제9 이미지(201, 202, 203, 204, 205, 206, 206, 208, 209)가 파노라마 이미지 데이터 및 동적 파노라마 데이터를 생성하기 위해 사용될 수 있다. 실제 파노라마 이미지 데이터 및/또는 동적 파노라마 데이터를 생성하기 위해서는 훨씬 많은 수의 이미지가 필요하지만, 도 3에서는 설명의 편의를 위해 도시된 9개의 이미지를 기준으로 설명한다. 예를 들어, 파노라마 촬영 중에 제1 복수의 이미지가 획득되고, 이 중에서 파노라마 이미지 데이터 생성에 사용될 제2 복수의 이미지들이 선택될 수 있다. 본 문서에서, 특별히 구분하여 설명한 경우를 제외하고, 복수의 이미지들이라 함은 제1 복수의 이미지들 중 파노라마 이미지 데이터 생성 및 동적 파노라마 데이터 생성에 사용되는 제2 복수의 이미지들을 의미할 수 있다.
동적 파노라마 생성 모듈(122)는 파노라마 이미지 생성 모듈(121)로부터 파노라마 이미지 생성에 사용된 이미지들(221, 222, 223, 224, 225, 226, 227, 228, 229) 또는 이미지들에 대한 정보를 제공받을 수 있다. 여기서 이미지들에 대한 정보라 함은, 카메라(140)에 의해 획득된 복수의 이미지들 중 파노라마 이미지 데이터 생성에 사용된 이미지 및 사용된 이미지의 편집 정보(예: 이미지 정합에 사용된 영역 등)를 포함할 수 있다.
동적 파노라마 생성 모듈(122)이 제공받는 이미지들은 파노라마 촬영이 진행되는 동안(또는 파노라마 이미지 생성 모듈(121)에서 이미지 정합이 진행되는 동안) 지속적으로 갱신될 수 있다. 예를 들어, 도 2에 도시된 상태에서 동적 파노라마 생성 모듈(122)는 이미지들(211, 212)을 제공받을 수 있다. 이 상태에서 파노라마 촬영이 계속 진행되는 경우, 예를 들어 제6 이미지(206)까지 이미지 정합이 진행되면, 동적 파노라마 생성 모듈(122)는 이미지들(211, 212)를 최종적으로 이미지들(221, 222)로 업데이트하고, 추가적으로 이미지들(223, 224, 225, 226)을 획득할 수 있다. 이 상태에서 제7 이미지 내지 제9 이미지(207, 208, 209)들이 획득되더라도, 파노라마 이미지 생성 모듈(121)이 이미지 정합을 수행할 때 파노라마 이미지의 높이(height)가 변동되지 않기 때문에 이미지들(221, 222, 223, 224, 225, 226)은 갱신되지 않을 수 있다. 그에 따라 동적 파노라마 생성 모듈(122)도 파노라마 이미지 생성 모듈(121)에서 정합에 사용된 이미지들(227, 228, 229)만 추가적으로 획득될 수 있다.
일 실시 예에서, 동적 파노라마 생성 모듈(122)는 파노라마 이미지 생성 모듈(121)에서 이미지 정합에 사용된 이미지(예: 이미지(221) 등)를 이용하여 동적 파노라마 데이터를 생성할 수 있다. 이 경우, 이미지들은 최종 결과물(파노라마 콘텐트 파일)의 용량을 감소시키기 위해 리사이징(resizing) 및/또는 인코딩(encoding) 될 수 있다. 예를 들어, 동적 파노라마 데이터는 일종의 인코딩된 동영상 데이터에 해당할 수 있다. 동적 파노라마 생성 모듈(122)은 이미지 정합에 사용된 이미지들을 mp4 파일 포맷으로 인코딩하고, 인코딩된 결과 데이터를 동적 파노라마 데이터로서 최종 파일 생성 모듈(123)로 제공할 수 있다.
다른 실시 예에서, 동적 파노라마 생성 모듈은 파노라마 이미지 생성 모듈(121)에서 이미지 정합에 사용한 입력 영상(input image)(예: 제1 이미지(201) 등) 및 이미지 정합에 사용된 분석 정보를 이용하여 동적 파노라마 데이터를 생성할 수 있다. 이 경우 분석 정보는 일종의 메타 데이터로서 별도로 메모리(130)에 저장되거나, 파노라마 콘텐트 파일의 일부 영역에 저장되어, 파노라마 비디오 재생 시에 사용될 수 있다. 여기서 파노라마 비디오라 함은, 동적 파노라마 데이터 기초하여 재생되는 동영상을 의미할 수 있다.
이와 같이, 일 실시 예에 따르면 파노라마 이미지 생성 모듈(121)에서 사용된 정보(예: 입력 이미지, 이미지 분석 정보, 전자 장치(100)의 움직임 정보)가 동적 파노라마 생성 모듈(121)에서 활용되기 때문에, 각각의 모듈에서 독립적으로 이미지/비디오 데이터를 생성하는 경우에 비하여 연산량이나 연산의 처리 시간이 감소될 수 있다. 동적 파노라마 생성 모듈(121)은 파노라마 이미지 생성 모듈(121)에서 산출된 결과 데이터를 이용하기 때문에, 파노라마 이미지 생성 모듈(121)을 제1 결과 영상 생성 모듈로, 동적 파노라마 생성 모듈을 제2 결과 영상 생성 모듈로 참조할 수 있다. 유사하게, 최종 파일 생성 모듈(123)은 제3 결과 영상 생성 모듈로 참조될 수 있다.
동적 파노라마 생성 모듈(122)는 이미지 정합에 사용된 이미지들(222, 223, 224, 225, 226, 227, 228, 229)을 이용하여 동적 파노라마 데이터를 생성할 수 있다. 예를 들어, 동적 파노라마 생성 모듈(122)는 상기 이미지들(221, 222, 223, 224, 225, 226, 227, 228, 229)과 파노라마 이미지 데이터 생성을 위해 사용된 분석 정보에 기초하여 파노라마 이미지 데이터와 시간적으로 및 공간적으로 동기화된 동적 파노라마 데이터를 생성할 수 있다. 동적 파노라마 데이터는 동영상 재생을 위한 프레임(frames)을 포함할 수 있다. 예를 들어, 동적 파노라마 데이터는 프레임(301, 302, 303, 304, 305, 306, 307, 308, 309)을 포함할 수 있다. 각각의 프레임(예: 프레임(301) 등)은 각각의 이미지들(예: 이미지(221) 등)과 동일하거나, 또는 비디오 재생에 적합하도록 적절하게 인코딩 될 수 있다.
일 실시 예에서, 동적 파노라마 생성 모듈(122)는 이미지 정합에 사용된 원본 이미지들(201, 202, 203, 204, 205, 206, 207, 208, 209)(또는 리사이징 된 원본 이미지들)을 이용하여 동적 파노라마 데이터를 생성할 수 있다. 예를 들어, 동적 파노라마 생성 모듈(122)는 파노라마 촬영 당시에 획득된 원본 이미지들을 동영상으로 인코딩하고, 이미지 정합에 사용된 이미지 분석 정보, 전자 장치(100)의 움직임 정보, 시간 정보 등을 메타 데이터로서 생성할 수 있다. 이 경우, 파노라마 콘텐트 파일에는 파노라마 이미지 데이터(예: 정합이 완료된 1장의 파노라마 이미지), 동적 파노라마 데이터(예: 인코딩된 동영상 데이터), 및 메타 데이터가 포함될 수 있다. 다른 실시 예에서, 메타 데이터는 파노라마 콘텐트 파일과 연계된 별도의 파일로 저장될 수도 있다.
도 4는 일 실시 예에 따른 파노라마 이미지 데이터와 동적 파노라마 데이터의 동기화 과정을 나타낸다.
도 4를 참조하면, 오디오 데이터는 파노라마 촬영 동안 마이크(150)에 의해 획득된 오디오 데이터에 해당할 수 있다. 입력 영상은 파노라마 촬영 동안 카메라(140)에 의해 연속적으로 획득되는 이미지들에 해당할 수 있다. 카메라(140)에 의해 획득되는 이미지들은 입력 영상으로서 파노라마 이미지 생성 모듈(121)로 제공될 수 있다. 파노라마 이미지 생성 모듈(121)은 제공된 이미지들 중에서 일부 이미지들을 파노라마 이미지 데이터 생성을 위해 사용할 수 있다. 예를 들어, 파노라마 이미지 생성 모듈(121)은 모션 센서(160)에 의해 감지된 전자 장치(100)의 움직임과 이전 입력 영상과 현재 입력 영상에서의 특징 점 변화에 기초하여, 전자 장치(100)가 일정 수준 이상 움직인 것으로 판단된 경우 또는 카메라(160)에 촬영되는 피사체가 일정 수준 이상 달라진 것으로 판단된 경우 해당하는 입력 영상을 파노라마 이미지 데이터를 생성하기 위한 영상으로 선택할 수 있다. 참고로 도 4에서는 초당 10장의 이미지가 획득되는 것으로 예시하였으나, 초당 획득되는 이미지의 수는 카메라 성능이나 전자 장치(100)의 설정 또는 사용자 설정 등에 의해 달라질 수 있다.
예를 들어, 전체 파노라마 촬영 시간 중 제1 시간 구간(410)에서는 전자 장치(100)가 파노라마 이미지 생성에 최적화된 이동 속도보다 상대적으로 느리게 움직였을 수 있다. 그에 따라, 파노라마 이미지 생성 모듈(121)은 제1 시간 구간(410)에서 획득된 6장의 이미지 중에서 3장을 파노라마 이미지 데이터 생성에 사용할 수 있다. 다시 말해서, 파노라마 이미지 생성 모듈(121)은 제1 시간 구간(410)에서 획득된 첫 번째 이미지를 기준으로, 전자 장치(100)의 움직임(예: 이동 거리)이 충분하지 않다고 판단된 시점에 획득된 두 번째 이미지는 이미지 정합에 사용하지 않고, 충분한 움직임이 발생한 시점에 획득된 세 번째 이미지를 이미지 정합에 사용할 수 있다.
또한, 전체 파노라마 촬영 시간 중 제2 시간 구간(420)에서는, 전자 장치(100)가 사실상 움직이지 않거나 매우 느리게 움직였을 수 있다. 그에 따라, 파노라마 이미지 생성 모듈(121)은 제2 시간 구간(420)에서 획득된 4장의 이미지 중에서 첫 번째 이미지만 파노라마 이미지 데이터 생성에 사용하고, 나머지 3장의 이미지는 파노라마 이미지 데이터 생성에 사용하지 않을 수 있다.
전체 파노라마 촬영 시간 중 제3 시간 구간(430)에서는, 전자 장치(100)가 적절한 속도로 움직였을 수 있다. 그에 따라, 파노라마 이미지 생성 모듈(121)은 입력 영상으로서 획득된 4장의 이미지들을 모두 파노라마 이미지 데이터 생성을 위해 사용할 수 있다.
파노라마 이미지 생성 모듈(121)은 입력 영상들 중 선택된 일부 영상들을 파노라마 이미지 데이터 생성을 위해 사용하면, 다시 말해서 선택된 일부 영상들로 이미지 정합을 진행하면, 이미지 정합에 사용된 입력 영상에 대한 정보와 이미지 정합에 사용된 분석 정보를 동적 파노라마 생성 모듈(122)로 제공할 수 있다. 예를 들어, 카메라 모듈에 의해 획득된 100장의 이미지들이 입력 영상으로서 파노라마 이미지 생성 모듈(121)로 제공되고, 파노라마 이미지 생성 모듈(121)은 100장의 이미지들 중 27장이 파노라마 이미지 데이터 생성을 위해 사용된 경우, 파노라마 이미지 생성 모듈(121)은 동적 파노라마 생성 모듈(122)로 27장의 이미지들에 대한 정보 및 사용된 분석 정보(예: 각 이미지의 특징 점 정보, 획득 시간 정보, 편집(crop) 정보, 전자 장치(100)의 움직임 정보 등)를 제공할 수 있다. 위 예시에서, 파노라마 이미지 생성 모듈(121)은 26번의 이미지 정합 과정(첫 번째 이미지에 대해 26장의 이미지를 추가로 붙이는(stitching) 일련의 작업)을 수행할 수 있고, 각각의 정합 과정마다 업데이트 된 이미지 정보 및 분석 정보를 동적 파노라마 생성 모듈(122)로 제공할 수 있다. 또한, 전술한 바와 같이 파노라마 이미지 생성 모듈(121)이 파노라마 이미지 데이터 생성을 위해 편집된(예: 상단 또는 하단 일부가 잘린(cropped)) 이미지를 동적 파노라마 생성 모듈(122)로 제공하는 경우, 편집 정보는 제공되지 않을 수 있다.
동적 파노라마 렌더링 주기는, 동적 파노라마 생성 모듈(122)에 의해 생성된 동적 파노라마 데이터가 재생될 때 동적 파노라마 데이터에 포함된 이미지들(프레임들)을 렌더링 하는 주기에 해당할 수 있다. 예를 들어, 동적 파노라마 데이터는, 프로세서(110)에 의해 재생될 때 파노라마 촬영 당시의 촬영 시간 및 전자 장치(100)의 움직임에 따라 재생되도록 렌더링 될 수 있다. 예를 들어, 동적 파노라마 데이터는 시간 구간 별로 다른 프레임 레이트(frame rate), 즉 가변 프레임 레이트로 렌더링 될 수 있다. 예를 들어, 제1 시간 구간(410)에서는 4fps(frame per second)로, 제2 시간 구간(420)에서는 2fps로, 제3 시간 구간(430)에서는 8fps로 렌더링 될 수 있다. 이 경우, 프로세서에 의해 파노라마 비디오가 재생되면, 재생 속도는 전 구간에서 1배속으로 동일하지만, 제1 시간 구간(410)에서는 0.5배속, 제2 시간 구간(420)에서는 0.25배속으로 재생되는 것처럼 느껴질 수 있다. 도 4를 참조하여 설명한 프레임 레이트의 수치는 설명의 편의를 위한 예시적인 것이며, 당업자에 의해 다양하게 변형될 수 있다.
다른 예를 들어, 동적 파노라마 데이터는 시간 구간 별로 일정한 프레임 레이트로 렌더링 되지만, 프로세서(110)에 의해 구간 별로 다르게 재생될 수 있다. 이 경우, 프로세서(110)는 파노라마 비디오의 재생 시에 분석 정보(예: 이미지 획득 시간 정보)를 참조할 수 있다. 예를 들어, 동적 파노라마의 렌더링에 의해 생성된 파노라마 비디오는, 제1 시간 구간(410) 동안 기준 속도(도 4의 예시에서는 초당 10프레임을 재생) 보다 2배 느리게 재생되고, 제2 시간 구간(420)에서는 사실상 정지해 있거나 마치 슬로우 모션처럼 매우 느리게 재생되고, 제3 시간 구간(430)에서는 기준 속도로 재생될 수 있다.
위 예시들에서, 실제 파노라마 촬영 당시에 전자 장치(100)의 디스플레이에 보여지던 영상과 유사하거나 동일한 느낌으로 파노라마 비디오가 재생될 수 있다. 또한 파노라마 비디오의 재생 시간과 마이크(150)를 통해 획득된 오디오 데이터의 재생 시간이 1:1로 동기화 됨에 따라, 파노라마 비디오 재생 시 오디오의 왜곡이 발생하지 않고 촬영 당시의 비디오와 오디오의 재현이 가능하다. 이와 같은 파노라마 비디오의 렌더링/재생은 본 문서에서 오디오 기준 렌더링/재생으로 참조될 수 있다.
그러나 다른 실시 예에서, 동적 파노라마 데이터는 일정한 프레임 레이트로 렌더링 되고, 파노라마 비디오는 일정한 속도로 재생될 수 있다. 동적 파노라마 데이터의 생성에 사용되는 이미지들은, 파노라마 이미지 데이터의 정합을 위해 사용된, 이전 이미지에 대하여 일정한 수준의 움직임이 발생된 이미지들이기 때문에, 전자 장치(100)의 디스플레이(170)에 보여지는 이미지의 변화 량이 일정할 수 있다. 즉, 전자 장치(100)는 전체 파노라마 이미지를 좌에서 우로, 또는 우에서 좌로 일정한 속도로 보여줄 수 있다. 이와 같은 파노라마 비디오의 렌더링/재생은 본 문서에서 비디오 기준 렌더링/재생으로 참조될 수 있다.
동적 파노라마 데이터가 비디오 기준으로 렌더링 될 때, 오디오 데이터가 복수의 이미지들의 획득 시점과 동기화됨에 따라, 구간 별로 오디오 데이터의 재생 속도가 달라질 수 있다. 예를 들어, 제2 시간 구간(420)에서 발생한 오디오 데이터는 제3 시간 구간(430)에서 획득된 오디오 데이터와 시간적으로 동일한 길이를 갖는데, 제2 시간 구간(420)에 해당하는 파노라마 비디오의 재생 시간은 제3 시간 구간(430)에 해당하는 파노라마 비디오의 재생 시간에 비하여 1/3밖에 되지 않는다. 따라서, 비디오 기준으로 동적 파노라마를 재생할 때 제2 시간 구간(420)의 오디오 데이터는 3배속으로 재생될 수 있다.
일 실시 예에서, 프로세서(110)는 동적 파노라마 데이터가 비디오 기준으로 렌더링 될 때, 또는 비디오 기준으로 재생될 때는 사용자 경험을 저해하지 않도록 하기 위해 오디오 데이터를 재생시키지 않을 수 있다. 다른 실시 예에서, 프로세서(110)는 오디오 데이터를 음성 구간과 무음 구간으로 구분하고, 음성 구간에서는 파노라마 비디오를 오디오 기준으로 재생(즉, 재생 속도의 변경)하고, 무음 구간에서는 비디오 기준으로 재생할 수 있다.
일 실시 예에서, 프로세서(110)는 동적 파노라마 데이터가 비디오 기준으로 렌더링 될 때, 움직이는 객체에 대응되는 오디오 데이터를 재생할 수 있다. 예를 들어, 사용자 A, 사용자 B, 사용자 C가 출연하는 연극이나 뮤지컬 공연을 파노라마 기능을 이용하여 촬영하면, 프로세서(110)는 각각의 사용자로부터 발생하는 발화(speech)의 방향을 인식할 수 있다. 예를 들어, 파노라마 촬영 중인 전자 장치(100)의 디스플레이(170)에 사용자 A가 보여질 때, 사용자 A와 사용자 B가 번갈아가며 대사를 하고 있는 중이라면, 전자 장치(100)는 사용자 A가 있는 방향으로부터 수집된 오디오 데이터와 화면에 보여지지 않는 사용자 B가 있는 방향으로부터 수집된 오디오 데이터를 구분할 수 있다. 예를 들어, 마이크(150)가 복수 개 있는 경우, 프로세서(110)는 각각의 마이크로부터 수집된 오디오 파형의 위상 차이 및 전자 장치(100)의 각종 센서(예: 가속도 센서, 지자기 센서, 자이로 센서 등)를 이용하여 판단된 전자 장치(100)의 촬영 방향에 기초하여, 오디오 데이터의 구간과 촬영 방향을 맵핑할 수 있다. 이제 프로세서(110)는 동적 파노라마 데이터를 재생할 때, 특정 방향이 보여지거나, 특정 방향에 해당하는 객체(예: 사용자 A)가 보여지면, 해당 객체(즉, 해당 방향)에 대응하는 오디오 데이터를 재생시키고, 다른 방향에 해당하는 객체(예: 사용자 B)가 보여지기 시작하면, 사용자 B의 방향에 대응하는 오디오 데이터를 재생시킬 수 있다.
이하에서는 도 5 및 도 6을 참조하여 파노라마 콘텐트 파일을 생성 및 저장하는 프로세스를 설명한다. 이하의 설명에서 전술한 내용과 동일 또는 유사하거나 대응되는 내용은 그 설명이 생략될 수 있다.
도 5는 일 실시 예에 따른 파노라마 콘텐트 파일을 생성하는 전체적인 프로세스를 나타낸다.
동작 501에서, 전자 장치(100)는 파노라마 촬영이 진행되는 동안 카메라(140)를 통해 복수의 이미지들을 획득할 수 있다. 여기서 복수의 이미지들이란, 전술한 제1 복수의 이미지들에 해당할 수 있다. 또한, 전자 장치(100)는 복수의 이미지들이 획득되는 동안 모션 센서(100)를 통해 전자 장치(100)의 움직임 정보를 획득할 수 있다. 이 외에도, 전자 장치(100)는 오디오 데이터를 더 획득할 수 있다. 획득된 복수의 이미지들, 움직임 정보, 및 오디오 데이터는 획득 시간을 기준으로 맵핑될 수 있다.
동작 503에서, 전자 장치(100)는 획득된 복수의 이미지들과 움직임 정보에 기초하여 파노라마 이미지 데이터를 생성할 수 있다. 예를 들어, 전자 장치(100)(또는 파노라마 이미지 생성 모듈(121))는 제1 복수의 이미지들 중에서 움직임 정보 및 각 이미지의 영상 분석 정보에 기초하여 이미지 정합에 사용될 제2 복수의 이미지들을 선택하고, 제2 복수의 이미지들을 이용하여 이미지 정합을 수행함으로써, 파노라마 이미지 데이터를 생성할 수 있다.
동작 505에서, 전자 장치(100)는 동작 503에서 사용된 데이터(예: 제2 복수의 이미지들) 및 분석 정보에 기초하여 동적 파노라마 데이터를 생성할 수 있다.
동작 507에서, 전자 장치(100)는 파노라마 이미지 데이터와 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일을 생성하고, 이를 전자 장치(100)의 저장 공간(예: 메모리(130))에 저장할 수 있다. 전술한 바와 같이, 분석 정보는 메타 데이터로서 상기 파노라마 콘텐트 파일과 별도로 저장될 수 있다. 메타 데이터가 별도로 저장되어 있는 경우, 전자 장치(100)는 동적 파노라마 데이터를 이용하여 파노라마 비디오를 렌더링 할 때, 동기화를 위해 메타 데이터를 참조할 수 있다. 본 문서에서 메타 데이터를 별도로 저장하는 경우의 실시 예는, 메타 데이터를 별도로 저장하지 않는 실시 예로 대체될 수 있다. 이하에서는 설명의 불필요한 중복을 배제하기 위해 메타 데이터를 별도로 저장하지 않는 실시 예를 기준으로 설명한다.
도 6은 일 실시 예에 따른 파노라마 콘텐트 파일을 생성하는 세부 프로세스를 나타낸다.
도 6을 참조하면, 동작 601에서, 파노라마 이미지 생성 모듈(121)은 파노라마 이미지 데이터를 생성하기 위한 데이터를 입력 받을 수 있다. 예를 들어, 카메라(140)에 의해 획득된 복수의 이미지들, 마이크(150)에 의해 획득된 오디오 데이터, 모션 센서(160)에 의해 획득된 전자 장치(100)의 움직임 정보, 및 각각의 이미지, 오디오 데이터, 움직임 정보와 연관된 시간 정보 등이 입력 데이터로서 파노라마 이미지 생성 모듈(121)로 제공될 수 있다.
동작 603에서, 파노라마 이미지 생성 모듈(121)은 입력 영상 및 전자 장치(100)의 움직임 정보를 분석할 수 있다. 동작 605에서, 파노라마 이미지 생성 모듈(121)은 분석 결과에 기초하여 이전에 정합에 의해 생성된 파노라마 이미지 데이터에 현재 입력 영상을 정합할 지 여부를 판단할 수 있다. 예를 들어, 파노라마 이미지 생성 모듈(121)은 분석 결과에 기초하여 전자 장치(100)의 움직임이 지정된 조건을 만족하는 것으로 판단되면, 이미지 정합을 수행할 것으로 결정할 수 있다.
이미지 정합이 수행되면, 파노라마 이미지 생성 모듈(121)은 파노라마 이미지 데이터를 갱신할 수 있다. 예를 들어, 도 3을 참조하면, 파노라마 이미지 생성 모듈(121)은 제3 이미지(203)를 제1 이미지(201)와 제2 이미지(202)가 정합되어 생성된 기존의 파노라마 이미지 데이터에 정합하면서, 제1 이미지(201)의 상단 일부와 제2 이미지의 상단 일부를 제3 이미지(203)을 기준으로 잘라낼 수 있다.
파노라마 이미지 생성 모듈(121)은 파노라마 이미지 데이터를 갱신하면, 그 정보를 동적 파노라마 생성 모듈(122)로 제공할 수 있다. 동적 파노라마 생성 모듈(122)는 새로 제공된 정보에 기초하여 기존의 동적 파노라마 데이터를 갱신할 수 있다.
이와 같은 이미지 정합 과정은 파노라마 촬영이 종료될 때까지 반복적으로 수행될 수 있다. 예를 들어, 동작 611에서, 촬영이 종료된 것으로 판단되면 도 5의 동작 503, 동작 505, 동작 507이 수행될 수 있다. 구체적으로, 촬영이 종료되면, 다시 말해서 마지막 입력 이미지에 대한 이미지 정합 과정이 완료되면, 파노라마 이미지 생성 모듈(121)은 최종적으로 파노라마 이미지 데이터를 생성할 수 있다. 또한 동적 파노라마 생성 모듈(122)은 파노라마 이미지 생성 모듈(121)로부터 최종적으로 제공된 정보에 기초하여 동적 파노라마 데이터를 생성할 수 있다. 또한, 최종 결과 생성 모듈(123)은 이 파노라마 이미지 데이터 및 동적 파노라마 데이터에 기초하여 파노라마 콘텐트 파일을 생성할 수 있다. 이 파노라마 콘텐트 파일은, 이미지 파일의 포맷(예: JPEG, PNG 등)을 가질 수 있으나, 파일의 추가 데이터 영역에 동영상 파일에 해당하는 데이터(예: mp4)를 부가적으로 포함할 수 있다. 예를 들어, 최종 결과 생성 모듈(123)은 이미지 파일의 헤더(header)나 푸터(footer) 또는 테일(tail) 부분에, 이미지 데이터 외에 추가 데이터가 있음을 나타내는 정보(예: 마커(marker))가 기록된 이미지 파일을 생성할 수 있다. 이 정보는 추가 데이터(즉, 동적 파라미터 데이터 및 파노라마 이미지 데이터 생성에 사용된 각종 부가(분석) 정보 등)의 존재 여부, 시작 위치, 종료 위치에 대한 정보를 포함할 수 있다.
전술한 설명에서, 파노라마 이미지 생성 모듈(121), 동적 파노라마 생성 모듈(122), 및 최종 결과 생성 모듈(123) 중 적어도 일부는 소프트웨어 모듈로 구현될 수 있고, 이 경우 소프트웨어 모듈에 의해 수행되는 동작은 프로세서(110)에 의해 수행되는 것으로 이해될 수 있다.
이하에서는 도 7을 참조하여 파노라마 콘텐트 파일을 소비하는 예시적인 방법을 설명한다.
도 7은 일 실시 예에 따른 파노라마 콘텐트 파일의 실행 화면을 나타낸다.
도 7을 참조하면, 제1 화면(710)과 같이 파노라마 콘텐트 파일은 파노라마 이미지를 기본으로 디스플레이 할 수 있다. 예를 들어, 어플리케이션을 통해 파노라마 콘텐트 파일이 실행되면, 프로세서(110)는 파노라마 콘텐트 파일 중 파노라마 이미지 데이터에 기초한 파노라마 이미지를 디스플레이(170)에 디스플레이 할 수 있다. 프로세서(110)는 제1 화면(710)에 파노라마 이미지가 디스플레이 되면, 파노라마 이미지 외에 제어 메뉴들(711)(예: 공유, 편집, 삭제 등) 및 상기 파노라마 콘텐트 파일 중 동적 파노라마 데이터에 대응하는 항목(701)을 표시할 수 있다.
항목(701)이 선택되면, 제2 화면(720)에서와 같이, 프로세서(110)는 동적 파노라마 데이터를 재생할 수 있다. 예를 들어, 프로세서(110)는 동적 파노라마 데이터에 기초하여 파노라마 비디오를 렌더링 하고, 렌더링된 파노라마 비디오를 디스플레이(170)에 재생할 수 있다. 프로세서(110)는 파노라마 비디오가 제1 시간 순서에 따라 렌더링 되도록 할 수 있다. 여기서 제1 시간 순서는 동적 파노라마 데이터에 포함된 이미지들의 획득 시간 순서에 해당할 수 있다. 프로세서(110)는 또한, 제1 시간 순서의 역순(즉, 제2 시간 순서)으로 파노라마 비디오가 렌더링 되도록 할 수 있다. 예를 들어, 사용자가 전자 장치(100)를 좌에서 우 방향으로 움직여가며 파노라마 촬영을 한 경우, 제1 시간 순서에 따라 렌더링 된 파노라마 비디오는 파노라마 이미지를 왼쪽 방향으로 이동시키면서 보여주는 효과를 가질 수 있다. 파노라마 비디오가 제2 시간 순서에 따라 렌더링 된 경우, 파노라마 비디오는 파노라마 이미지를 오른쪽 방향으로 이동시키면서 보여주는 효과를 가질 수 있다.
일 실시 예에서, 동적 파노라마 데이터는 인코딩된 비디오 데이터에 해당할 수 있다. 따라서, 프로세서(110)(또는 비디오 데이터에 대응하는 코덱(codec))는 비디오 데이터를 디코딩할 수 있다. 비디오 데이터가 파노라마 이미지와 동기화되어 있는 경우, 예를 들어 파노라마 이미지 생성을 위해 편집된 이미지들에 기초하여 비디오 데이터가 인코딩된 경우, 프로세서(110)는 디코딩된 프레임들을 디스플레이(170)에 렌더링 할 수 있다. 만약 비디오 데이터가 파노라마 이미지 생성에 사용된 원본 이미지들에 기초하여 인코딩된 경우, 프로세서는 디코딩된 프레임들을 메타 데이터(예: 이미지 분석 정보, 모션 정보, 시간 정보)에 기초하여 편집하여 화면에 렌더링 할 수 있다.
파노라마 비디오는 파노라마 이미지 생성에 사용된 복수의 이미지들에 기초하여 생성되기 때문에, 파노라마 촬영 중 움직이는 피사체(예: 사람, 동물, 자동차 등)가 있다 하더라도 피사체의 움직임을 왜곡 없이 재생할 수 있다. 따라서 사용자는, 파노라마 이미지 상에서 움직이는 피사체가 왜곡되어 표현되어 있더라도, 파노라마 비디오를 실행시켜서 피사체의 움직임을 확인할 수 있다.
파노라마 콘텐트 파일에 기초하여 디스플레이/재생되는 파노라마 이미지 및 파노라마 비디오는 동일한 가상의(virtual) FOV(field of view)를 가질 수 있다. 도 3을 참조하여 설명한 바와 같이, 파노라마 비디오 렌더링을 위한 동적 파노라마 데이터는 파노라마 이미지 데이터의 생성에 사용된 이미지 및 분석 정보를 이용하여 생성되므로, 파노라마 이미지의 해상도가 제1 높이 및 제1 너비를 가질 때, 파노라마 비디오에 의해 보여지는 가상의 FOV 역시 제1 높이 및 제1 너비를 가질 수 있다. 즉, 파노라마 비디오는, 프로세서(110)에 의해 재생될 때 마치 제1 높이 및 제1 너비에 대응되는 가상의 FOV를, 동일한 제1 높이 및 상기 제1 너비보다 좁은 제2 너비에 대응되는 FOV 단위로 일정 시간 동안 출력되도록 생성될 수 있다. 여기서 파노라마 이미지의 FOV는 전자 장치(100)의 카메라(140)의 FOV보다 훨씬 큰 값을 가지기 때문에 가상의 FOV이지만, 파노라마 비디오 재생 시 디스플레이(170)에 보여지는 이미지(frame)는 카메라(140)의 FOV와 동일하거나 인코딩에 의해 그보다 작은 범위를 갖는 실제 FOV에 해당할 수 있다.
파노라마 비디오의 재생은 다양한 방식으로 제어될 수 있다. 예를 들어, 제2 화면(720)에서 파노라마 비디오가 재생되던 중에, 임의의 영역에 대한 터치 입력(702)이 발생하면 제3 화면(730)과 같이 비디오 재생이 일시적으로 중단될 수 있다. 제3 화면(730)에서 다시 재생 아이콘(703)에 대한 터치 입력이 발생하거나, 혹은 임의의 영역에 대한 터치 입력이 다시 한번 발생하면, 파노라마 비디오가 다시 재생(resume)될 수 있다.
제2 화면(720)에서, 시간 순서에 따라 렌더링된 파노라마 비디오가 재생되고 있을 수 있다. 만약 카메라가 좌에서 우 방향으로 이동하는 것과 같이 비디오가 재생되고 있을 때, 반대 방향의 드래그 입력(704)이 발생하면 프로세서(110)는 파노라마 비디오를 반대 순서, 즉 시간의 역순으로 렌더링 할 수 있다. 이 경우, 제4 화면(740)에서와 같이 반대 방향, 즉 카메라가 우에서 좌로 이동하는 것과 같이 파노라마 비디오가 재생될 수 있다.
다른 실시 예에서, 파노라마 비디오의 재생 중에 전자 장치(100)를 지정된 방향으로 회전(tilt)시키는 것에 의해 렌더링 순서를 변경시킬 수 있다. 예를 들어, 전자 장치(100)이 수직 방향을 중심 축으로 하여 일정 각도 이상 시계 반대 방향으로 회전하는 움직임(706)이 모션 센서(160)에 의해 감지되면, 프로세서(110)는 파노라마 비디오를 제1 순서(예: 시간 순서)로 렌더링 하고, 시계 방향으로 회전하는 움직임(707)이 모션 센서(160)에 의해 감지되면, 프로세서(110)는 파노라마 비디오를 제1 순서와 반대인 제2 순서로 렌더링 할 수 있다.
이 외에도, 파노라마 비디오의 렌더링 순서를 변경시키는 이벤트는 다양하게 정의되어 있을 수 있다. 예를 들어, 제1 순서로 렌더링 된 파노라마 비디오의 마지막 프레임이 재생되면, 프로세서(110)는 제2 순서로 렌더링 된 파노라마 비디오를 디스플레이(170)에 재생할 수 있다. 이 경우, 사용자는 파노라마 이미지를 한쪽 방향(예: 좌에서 우)으로 감상한 후, 다시 반대 방향으로 감상하는 듯한 경험을 할 수 있다.
도 8은 다양한 실시 예에 따른 네트워크 환경 내의 전자 장치를 나타낸다.
도 8을 참조하면, 다양한 실시 예에서의 전자 장치(801), 제1 전자 장치(802), 제2 전자 장치(804) 또는 서버(806)가 네트워크(862) 또는 근거리 통신(864)을 통하여 서로 연결될 수 있다. 전자 장치(801)는 버스(810), 프로세서(820), 메모리(830), 입출력 인터페이스(850), 디스플레이(860), 및 통신 인터페이스(870)를 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(801)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
버스(810)는, 예를 들면, 구성요소들(810-870)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(820)는, 중앙처리장치(Central Processing Unit (CPU)), 어플리케이션 프로세서(Application Processor (AP)), 또는 커뮤니케이션 프로세서(Communication Processor (CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(820)는, 예를 들면, 전자 장치(801)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(830)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(830)는, 예를 들면, 전자 장치(801)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시 예에 따르면, 메모리(830)는 소프트웨어 및/또는 프로그램(840)을 저장할 수 있다. 프로그램(840)은, 예를 들면, 커널(841), 미들웨어(843), 어플리케이션 프로그래밍 인터페이스(Application Programming Interface (API))(845), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(847) 등을 포함할 수 있다. 커널(841), 미들웨어(843), 또는 API(845)의 적어도 일부는, 운영 시스템(Operating System (OS))으로 지칭될 수 있다.
커널(841)은, 예를 들면, 다른 프로그램들(예: 미들웨어(843), API(845), 또는 어플리케이션 프로그램(847))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(810), 프로세서(820), 또는 메모리(830) 등)을 제어 또는 관리할 수 있다. 또한, 커널(841)은 미들웨어(843), API(845), 또는 어플리케이션 프로그램(847)에서 전자 장치(801)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(843)는, 예를 들면, API(845) 또는 어플리케이션 프로그램(847)이 커널(841)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(843)는 어플리케이션 프로그램(847)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(843)는 어플리케이션 프로그램(847) 중 적어도 하나에 전자 장치(801)의 시스템 리소스(예: 버스(810), 프로세서(820), 또는 메모리(830) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(843)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(845)는, 예를 들면, 어플리케이션(847)이 커널(841) 또는 미들웨어(843)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(850)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(801)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(850)는 전자 장치(801)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(860)는, 예를 들면, 액정 디스플레이(Liquid Crystal Display (LCD)), 발광 다이오드(Light-Emitting Diode (LED)) 디스플레이, 유기 발광 다이오드(Organic LED (OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems, MEMS) 디스플레이, 또는 전자 종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(860)는, 예를 들면, 사용자에게 각종 컨텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(860)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링(hovering) 입력을 수신할 수 있다.
통신 인터페이스(870)는, 예를 들면, 전자 장치(801)와 외부 장치(예: 제1 전자 장치(802), 제2 전자 장치(804), 또는 서버(806)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(870)는 무선 통신 또는 유선 통신을 통해서 네트워크(862)에 연결되어 외부 장치(예: 제2 전자 장치(804) 또는 서버(806))와 통신할 수 있다.
무선 통신은, 예를 들면 셀룰러 통신 프로토콜로서, 예를 들면 LTE(Long-Term Evolution), LTE-A(LTE-Advanced), CDMA(Code Division Multiple Access), WCDMA(Wideband CDMA), UMTS(Universal Mobile Telecommunications System), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 중 적어도 하나를 사용할 수 있다. 또한 무선 통신은, 예를 들면, 근거리 통신(864)을 포함할 수 있다. 근거리 통신(864)는, 예를 들면, Wi-Fi(Wireless Fidelity), Bluetooth, NFC(Near Field Communication), MST(magnetic stripe transmission), 또는 GNSS 중 적어도 하나를 포함할 수 있다.
MST는 전자기 신호를 이용하여 전송 데이터에 따라 펄스를 생성하고, 상기 펄스는 자기장 신호를 발생시킬 수 있다. 전자 장치(801)는 상기 자기장 신호를 POS(point of sales)에 전송하고, POS는 MST 리더(MST reader)를 이용하여 상기 자기장 신호는 검출하고, 검출된 자기장 신호를 전기 신호로 변환함으로써 상기 데이터를 복원할 수 있다.
GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo(the European global satellite-based navigation system) 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard-232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(862)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제1 전자 장치(802) 및 제2 전자 장치(804) 각각은 전자 장치(801)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시 예에 따르면, 서버(806)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치(801)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 제1 전자 장치(802), 제2 전자 장치(804), 또는 서버(806))에서 실행될 수 있다. 한 실시 예에 따르면, 전자 장치(801)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(801)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 전자 장치(예: 제1 전자 장치(802), 제2 전자 장치(804), 또는 서버(806))에게 요청할 수 있다. 다른 전자 장치는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(801)로 전달할 수 있다. 전자 장치(801)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 9는 다양한 실시 예에 따른 전자 장치의 블록도를 나타낸다.
도 9를 참조하면, 전자 장치(901)는, 예를 들면, 도 8에 도시된 전자 장치(801)의 전체 또는 일부를 포함할 수 있다. 전자 장치(901)는 하나 이상의 프로세서(예: AP)(910), 통신 모듈(920), 가입자 식별 모듈(924), 메모리(930), 센서 모듈(940), 입력 장치(950), 디스플레이(960), 인터페이스(970), 오디오 모듈(980), 카메라 모듈(991), 전력 관리 모듈(995), 배터리(996), 인디케이터(997), 및 모터(998)를 포함할 수 있다.
프로세서(910)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(910)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(910)는, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시 예에 따르면, 프로세서(910)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(910)는 도 9에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(921))를 포함할 수도 있다. 프로세서(910)는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(920)은, 도 8의 통신 인터페이스(870)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(920)은, 예를 들면, 셀룰러 모듈(921), Wi-Fi 모듈(922), 블루투스 모듈(923), GNSS 모듈(924)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(925), MST 모듈(926), 및 RF(radio frequency) 모듈(927)을 포함할 수 있다.
셀룰러 모듈(921)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(921)은 가입자 식별 모듈(예: SIM 카드)(929)를 이용하여 통신 네트워크 내에서 전자 장치(901)의 구별 및 인증을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(921)은 프로세서(910)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시 예에 따르면, 셀룰러 모듈(921)은 커뮤니케이션 프로세서(CP)를 포함할 수 있다.
Wi-Fi 모듈(922), 블루투스 모듈(923), GNSS 모듈(924), NFC 모듈(925), 또는 MST 모듈(926) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시 예에 따르면, 셀룰러 모듈(921), Wi-Fi 모듈(922), 블루투스 모듈(923), GNSS 모듈(924), NFC 모듈(925), 또는 MST 모듈(926) 중 적어도 일부(예: 두 개 이상)는 하나의 IC(integrated chip) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(927)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(927)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시 예에 따르면, 셀룰러 모듈(921), Wi-Fi 모듈(922), 블루투스 모듈(923), GNSS 모듈(924), NFC 모듈(925), MST 모듈(926) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(929)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID (integrated circuit card identifier)) 또는 가입자 정보(예: IMSI (international mobile subscriber identity))를 포함할 수 있다.
메모리(930)(예: 메모리(830))는, 예를 들면, 내장 메모리(932) 또는 외장 메모리(934)를 포함할 수 있다. 내장 메모리(932)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비-휘발성(non-volatile) 메모리 (예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), 마스크(mask) ROM, 플래시(flash) ROM, 플래시 메모리(예: 낸드플래시(NAND flash) 또는 노아플래시(NOR flash) 등), 하드 드라이브, 또는 SSD(solid state drive) 중 적어도 하나를 포함할 수 있다.
외장 메모리(934)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD, Mini-SD, xD(extreme digital), MMC(MultiMediaCard), 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(934)는 다양한 인터페이스를 통하여 전자 장치(901)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
보안 모듈(936)은 메모리(930)보다 상대적으로 보안 레벨이 높은 저장 공간을 포함하는 모듈로써, 안전한 데이터 저장 및 보호된 실행 환경을 보장해주는 회로일 수 있다. 보안 모듈(936)은 별도의 회로로 구현될 수 있으며, 별도의 프로세서를 포함할 수 있다. 보안 모듈(936)은, 예를 들면, 탈착 가능한 스마트 칩, SD(secure digital) 카드 내에 존재하거나, 또는 전자 장치(901)의 고정 칩 내에 내장된 내장형 보안 요소(embedded secure element(eSE))를 포함할 수 있다. 또한, 보안 모듈(936)은 전자 장치(901)의 운영 체제(OS)와 다른 운영 체제로 구동될 수 있다. 예를 들면, 보안 모듈(936)은 JCOP(java card open platform) 운영 체제를 기반으로 동작할 수 있다.
센서 모듈(940)은, 예를 들면, 물리량을 계측하거나 전자 장치(901)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(940)은, 예를 들면, 제스처 센서(940A), 자이로 센서(940B), 기압 센서(940C), 마그네틱 센서(940D), 가속도 센서(940E), 그립 센서(940F), 근접 센서(940G), 컬러 센서(940H)(예: RGB 센서), 생체 센서(940I), 온/습도 센서(940J), 조도 센서(940K), 또는 UV(ultra violet) 센서(940M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로, 센서 모듈(940)은, 예를 들면, 후각 센서(E-nose sensor), EMG(electromyography) 센서, EEG(electroencephalogram) 센서, ECG(electrocardiogram) 센서, IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(940)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(901)는 프로세서(910)의 일부로서 또는 별도로, 센서 모듈(940)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(910)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(940)을 제어할 수 있다.
입력 장치(950)는, 예를 들면, 터치 패널(touch panel)(952), (디지털) 펜 센서(pen sensor)(954), 키(key)(956), 또는 초음파(ultrasonic) 입력 장치(958)를 포함할 수 있다. 터치 패널(952)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(952)은 제어 회로를 더 포함할 수도 있다. 터치 패널(952)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(954)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 시트(sheet)를 포함할 수 있다. 키(956)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(958)는 마이크(예: 마이크(988))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(960)(예: 디스플레이(860))는 패널(962), 홀로그램 장치(964), 또는 프로젝터(966)을 포함할 수 있다. 패널(962)은, 도 8의 디스플레이(860)과 동일 또는 유사한 구성을 포함할 수 있다. 패널(962)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(962)은 터치 패널(952)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(964)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(966)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(901)의 내부 또는 외부에 위치할 수 있다. 한 실시 예에 따르면, 디스플레이(960)는 패널(962), 홀로그램 장치(964), 또는 프로젝터(966)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(970)는, 예를 들면, HDMI(972), USB(974), 광 인터페이스(optical interface)(976), 또는 D-sub(D-subminiature)(978)을 포함할 수 있다. 인터페이스(970)는, 예를 들면, 도 8에 도시된 통신 인터페이스(870)에 포함될 수 있다. 추가적으로 또는 대체적으로, 인터페이스(970)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD 카드/MMC 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(980)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(980)의 적어도 일부 구성요소는, 예를 들면, 도 8에 도시된 입출력 인터페이스(850)에 포함될 수 있다. 오디오 모듈(980)은, 예를 들면, 스피커(982), 리시버(984), 이어폰(986), 또는 마이크(988) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(991)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시 예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 제논 램프(xenon lamp))를 포함할 수 있다.
전력 관리 모듈(995)은, 예를 들면, 전자 장치(901)의 전력을 관리할 수 있다. 한 실시 예에 따르면, 전력 관리 모듈(995)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(996)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(996)은, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(997)는 전자 장치(901) 혹은 그 일부(예: 프로세서(910))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(998)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(901)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(Digital Multimedia Broadcasting), DVB(Digital Video Broadcasting), 또는 미디어플로(MediaFLOTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성 요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시 예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시 예에 따른 전자 장치의 구성 요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성 요소들의 기능을 동일하게 수행할 수 있다.
도 10은 다양한 실시 예에 따른 프로그램 모듈의 블록도를 나타낸다.
한 실시 예에 따르면, 프로그램 모듈(1010)(예: 프로그램(840))은 전자 장치(예: 전자 장치(801))에 관련된 자원을 제어하는 운영 체제(OS) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(847))을 포함할 수 있다. 운영 체제는, 예를 들면, Android, iOS, Windows, Symbian, Tizen, 또는 Bada 등이 될 수 있다.
프로그램 모듈(1010)은 커널(1020), 미들웨어(1030), API(1060), 및/또는 어플리케이션(1070)을 포함할 수 있다. 프로그램 모듈(1010)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 제1 전자 장치(802), 제2 전자 장치(804), 서버(806) 등)로부터 다운로드 가능하다.
커널(1020)(예: 커널(841))은, 예를 들면, 시스템 리소스 매니저(1021) 또는 디바이스 드라이버(1023)를 포함할 수 있다. 시스템 리소스 매니저(1021)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시 예에 따르면, 시스템 리소스 매니저(1021)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(1023)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, Wi-Fi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(1030)는, 예를 들면, 어플리케이션(1070)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(1070)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(1060)을 통해 다양한 기능들을 어플리케이션(1070)으로 제공할 수 있다. 한 실시 예에 따르면, 미들웨어(1030)(예: 미들웨어(843))은 런타임 라이브러리(1035), 어플리케이션 매니저(application manager)(1041), 윈도우 매니저(window manager)(1042), 멀티미디어 매니저(multimedia manager)(1043), 리소스 매니저(resource manager)(1044), 파워 매니저(power manager)(1045), 데이터베이스 매니저(database manager)(1046), 패키지 매니저(package manager)(1047), 연결 매니저(connectivity manager)(1048), 통지 매니저(notification manager)(1049), 위치 매니저(location manager)(1050), 그래픽 매니저(graphic manager)(1051), 보안 매니저(security manager)(1052), 또는 결제 매니저(1054) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(1035)는, 예를 들면, 어플리케이션(1070)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(1035)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(1041)는, 예를 들면, 어플리케이션(1070) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(1042)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(1043)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(1044)는 어플리케이션(1070) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(1045)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(1046)은 어플리케이션(1070) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(1047)은 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(1048)은, 예를 들면, Wi-Fi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(1049)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(1050)은 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(1051)은 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(1052)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시 예에 따르면, 전자 장치(예: 전자 장치(801))가 전화 기능을 포함한 경우, 미들웨어(1030)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(1030)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(1030)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(1030)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(1060)(예: API(845))은, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(1070)(예: 어플리케이션 프로그램(847))은, 예를 들면, 홈(1071), 다이얼러(1072), SMS/MMS(1073), IM(instant message)(1074), 브라우저(1075), 카메라(1076), 알람(1077), 컨택트(1078), 음성 다이얼(1079), 이메일(1080), 달력(1081), 미디어 플레이어(1082), 앨범(1083), 또는 시계(1084), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시 예에 따르면, 어플리케이션(1070)은 전자 장치(예: 전자 장치(801))와 외부 전자 장치(예: 제1 전자 장치(802), 제2 전자 장치(804)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시 예에 따르면, 어플리케이션(1070)은 외부 전자 장치의 속성에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션)을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(1070)은 외부 전자 장치(예: 제1 전자 장치(802), 제2 전자 장치(804)), 및 서버(806)) 로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시 예에 따르면, 어플리케이션(1070)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시 예에 따른 프로그램 모듈(1010)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시 예에 따르면, 프로그램 모듈(1010)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(1010)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(910))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(1010)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시 예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(820))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(830)이 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM, DVD(Digital Versatile Disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM, RAM, 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시 예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시 예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시 예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.
그리고 본 문서에 개시된 실시 예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 발명의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 발명의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시 예를 포함하는 것으로 해석되어야 한다.

Claims (21)

  1. 전자 장치에 있어서,
    프로세서;
    메모리;
    디스플레이;
    촬영이 시작되면 복수의 이미지들을 연속적으로 획득하는 카메라 모듈; 및
    상기 전자 장치의 움직임(motion)을 감지하는 센서를 포함하고,
    상기 프로세서는, 상기 복수의 이미지들 및 상기 촬영 중에 감지된 상기 전자 장치의 움직임에 기초하여 생성된 파노라마 이미지 데이터와 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일(a panorama content file)을 상기 메모리에 저장하고,
    상기 동적 파노라마 데이터를 이용하여 제1 순서로 렌더링 된 파노라마 비디오를 상기 디스플레이에 재생하고,
    상기 파노라마 비디오의 재생 중에 상기 센서를 통해 상기 전자 장치가 지정된 방향으로 회전하는 움직임을 감지함에 응답하여, 상기 제1 순서의 반대인 제2 순서로 렌더링 된 파노라마 비디오를 상기 디스플레이에 재생하도록 설정되는, 전자 장치.
  2. 청구항 1에 있어서,
    상기 동적 파노라마 데이터는 상기 파노라마 이미지 데이터의 생성을 위해 사용된 이미지들 및 분석 정보에 기초하여 생성되는, 전자 장치.
  3. 청구항 1에 있어서,
    하드웨어로 구현되는 동적 파노라마 생성 모듈을 더 포함하고,
    상기 메모리는 파노라마 이미지 생성 모듈을 구현하기 위한 제1 명령어 세트 및 최종 파일 생성 모듈을 구현하기 위한 제2 명령어 세트를 포함하는, 전자 장치.
  4. 청구항 3에 있어서,
    상기 촬영이 진행되는 동안, 상기 파노라마 이미지 생성 모듈은 상기 파노라마 이미지 데이터를 생성하고 상기 파노라마 이미지 데이터의 생성을 위해 사용된 분석 정보를 상기 동적 파노라마 생성 모듈로 제공하도록 설정되고,
    상기 촬영이 진행되는 동안, 상기 동적 파노라마 생성 모듈은 상기 동적 파노라마 데이터를 생성하도록 설정되는, 전자 장치.
  5. 청구항 4에 있어서,
    상기 촬영이 종료되면, 상기 최종 파일 생성 모듈은 상기 파노라마 이미지 생성 모듈로부터 획득된 상기 파노라마 이미지 데이터 및 상기 동적 파노라마 생성 모듈로부터 획득된 상기 동적 파노라마 데이터에 기초하여 상기 파노라마 콘텐트 파일을 생성하도록 설정되는, 전자 장치.
  6. 청구항 1에 있어서,
    상기 파노라마 이미지 데이터는 제1 높이(height) 및 제1 너비(width)의 해상도를 갖도록 생성되고,
    상기 동적 파노라마 데이터는 상기 프로세서에 의해 재생될 때 상기 제1 높이 및 제1 너비에 대응되는 가상의 FOV(field of view)를 일정 시간 동안 출력되도록 생성되는, 전자 장치.
  7. 청구항 6에 있어서,
    상기 동적 파노라마 데이터는 상기 프로세서에 의해 재생될 때, 가변 프레임 레이트로 렌더링 되도록 설정되는, 전자 장치.
  8. 청구항 6에 있어서,
    상기 동적 파노라마 데이터는 상기 프로세서에 의해 재생될 때, 일정한 프레임 레이트로 렌더링 되도록 설정되는, 전자 장치.
  9. 청구항 2에 있어서,
    상기 촬영 중에 오디오 데이터를 획득하는 마이크를 더 포함하고,
    상기 동적 파노라마 데이터는 상기 복수의 이미지들, 상기 분석 정보, 및 상기 오디오 데이터에 기초하여 생성되는, 전자 장치.
  10. 청구항 9에 있어서,
    상기 동적 파노라마 데이터는, 각각의 상기 복수의 이미지 데이터들 각각의 획득 시점과 상기 오디오 데이터의 획득 시점이 동기화되도록 생성되는, 전자 장치.
  11. 청구항 1에 있어서,
    상기 메모리는 상기 파노라마 콘텐트 파일과 연관된 어플리케이션을 포함하고,
    상기 프로세서는 상기 어플리케이션에서 상기 파노라마 이미지 데이터가 디스플레이 되면, 상기 동적 파노라마 데이터에 대응하는 항목(item)을 표시하도록 설정되는, 전자 장치.
  12. 청구항 11에 있어서,
    상기 프로세서는 상기 항목이 선택되면, 상기 동적 파노라마 데이터를 재생하도록 설정되는, 전자 장치.
  13. 청구항 1에 있어서,
    상기 동적 파노라마 데이터는 상기 파노라마 이미지 데이터의 생성을 위해 사용된 이미지들이 인코딩 된 비디오 데이터를 포함하는, 전자 장치.
  14. 전자 장치에 있어서,
    메모리;
    디스플레이;
    촬영이 시작되면 복수의 이미지들을 연속적으로 획득하는 카메라 모듈; 및
    상기 전자 장치의 움직임(motion)을 감지하는 센서를 포함하고,
    상기 복수의 이미지들 및 상기 촬영 중에 감지된 상기 전자 장치의 움직임에 기초하여 파노라마 이미지 데이터를 생성하는 프로세서를 포함하고,
    상기 프로세서는, 상기 파노라마 이미지 데이터 및 상기 파노라마 이미지 데이터에 대응되는 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일, 및 상기 복수의 이미지들에 대한 정보 및 상기 파노라마 이미지 생성에 사용된 분석 정보를 포함하는 메타 데이터를 상기 메모리에 저장하고,
    상기 메타 데이터 및 상기 동적 파노라마 데이터를 이용하여 제1 순서로 렌더링 된 파노라마 비디오를 상기 디스플레이에 재생하고,
    상기 파노라마 비디오의 재생 중에 상기 센서를 통해 상기 전자 장치가 지정된 방향으로 회전하는 움직임을 감지함에 응답하여, 상기 제1 순서의 반대인 제2 순서로 렌더링 된 파노라마 비디오를 상기 디스플레이에 재생하도록 설정되는, 전자 장치.
  15. 청구항 14에 있어서,
    디스플레이를 더 포함하고,
    상기 프로세서는 상기 디스플레이에 상기 파노라마 이미지가 디스플레이 될 때 상기 동적 파노라마 데이터에 대응되는 항목(item)을 표시하도록 설정되는, 전자 장치.
  16. 청구항 15에 있어서,
    상기 프로세서는, 상기 항목이 선택되면 상기 메타 데이터 및 상기 동적 파노라마 데이터를 이용하여 렌더링 된 파노라마 비디오를 상기 디스플레이에 재생하도록 설정되는, 전자 장치.
  17. 삭제
  18. 청구항 14에 있어서,
    상기 프로세서는, 상기 제1 순서로 렌더링 된 파노라마 비디오를 재생 중에 미리 정의된 사용자 입력의 발생 또는 상기 센서에 의한 미리 정의된 모션의 감지 중 어느 하나에 응답하여, 상기 제2 순서로 렌더링 된 파노라마 비디오를 재생하도록 설정되는, 전자 장치.
  19. 청구항 14에 있어서,
    상기 프로세서는, 상기 제1 순서로 렌더링 된 파노라마 비디오의 마지막 프레임(frame)의 재생에 응답하여, 상기 제2 순서로 렌더링 된 파노라마 비디오를 재생하도록 설정되는, 전자 장치.
  20. 전자 장치의 파노라마 기능 운용 방법에 있어서,
    카메라 모듈을 통해 복수의 이미지를 획득하는 동작,
    상기 복수의 이미지들이 획득되는 동안 상기 전자 장치의 움직임을 감지하는 동작,
    상기 복수의 이미지들과 상기 움직임에 기초하여 파노라마 이미지 데이터를 생성하는 동작,
    상기 파노라마 이미지 데이터를 생성하기 위해 사용된 이미지들 및 분석 정보에 기초하여 동적 파노라마 데이터를 생성하는 동작,
    상기 파노라마 이미지 데이터 및 상기 동적 파노라마 데이터를 포함하는 파노라마 콘텐트 파일을 생성하는 동작,
    상기 동적 파노라마 데이터를 이용하여 제1 순서로 렌더링 된 파노라마 비디오를 디스플레이에 재생하는 동작, 및
    상기 파노라마 비디오의 재생 중에 센서를 통해 상기 전자 장치가 지정된 방향으로 회전하는 움직임을 감지함에 응답하여, 상기 제1 순서의 반대인 제2 순서로 렌더링 된 파노라마 비디오를 상기 디스플레이에 재생하는 동작을 포함하는, 방법.
  21. 청구항 20에 있어서,
    상기 파노라마 이미지 데이터를 생성하기 위해 사용된 이미지들에 대한 정보 및 상기 분석 정보를 별도의 메타 데이터로 저장하는 동작을 더 포함하는, 방법.
KR1020160017863A 2016-02-16 2016-02-16 동적 파노라마 기능을 제공하는 방법 및 장치 KR102576908B1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020160017863A KR102576908B1 (ko) 2016-02-16 2016-02-16 동적 파노라마 기능을 제공하는 방법 및 장치
US15/431,210 US10659684B2 (en) 2016-02-16 2017-02-13 Apparatus and method for providing dynamic panorama function
PCT/KR2017/001567 WO2017142278A1 (en) 2016-02-16 2017-02-13 Apparatus and method for providing dynamic panorama function
EP17753439.3A EP3363192A4 (en) 2016-02-16 2017-02-13 DEVICE AND METHOD FOR PROVIDING A DYNAMIC PANORAMIC FUNCTION
CN201710083611.0A CN107087101B (zh) 2016-02-16 2017-02-16 用于提供动态全景功能的装置和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160017863A KR102576908B1 (ko) 2016-02-16 2016-02-16 동적 파노라마 기능을 제공하는 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20170096459A KR20170096459A (ko) 2017-08-24
KR102576908B1 true KR102576908B1 (ko) 2023-09-12

Family

ID=59560447

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160017863A KR102576908B1 (ko) 2016-02-16 2016-02-16 동적 파노라마 기능을 제공하는 방법 및 장치

Country Status (5)

Country Link
US (1) US10659684B2 (ko)
EP (1) EP3363192A4 (ko)
KR (1) KR102576908B1 (ko)
CN (1) CN107087101B (ko)
WO (1) WO2017142278A1 (ko)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9026928B2 (en) * 2012-06-06 2015-05-05 Apple Inc. Graphical user interface layout
US20190121306A1 (en) 2017-10-19 2019-04-25 Ctrl-Labs Corporation Systems and methods for identifying biological structures associated with neuromuscular source signals
US20180234617A1 (en) * 2017-02-15 2018-08-16 John Przyborski Motion camera autofocus systems
TWI631848B (zh) * 2017-09-21 2018-08-01 欣普羅光電股份有限公司 全景動態影像同步系統及其方法
US11907423B2 (en) * 2019-11-25 2024-02-20 Meta Platforms Technologies, Llc Systems and methods for contextualized interactions with an environment
US11961494B1 (en) 2019-03-29 2024-04-16 Meta Platforms Technologies, Llc Electromagnetic interference reduction in extended reality environments
US11493993B2 (en) 2019-09-04 2022-11-08 Meta Platforms Technologies, Llc Systems, methods, and interfaces for performing inputs based on neuromuscular control
US11150730B1 (en) 2019-04-30 2021-10-19 Facebook Technologies, Llc Devices, systems, and methods for controlling computing devices via neuromuscular signals of users
US11481030B2 (en) 2019-03-29 2022-10-25 Meta Platforms Technologies, Llc Methods and apparatus for gesture detection and classification
CN108447018B (zh) * 2018-01-31 2022-04-12 苏州佳世达电通有限公司 产生超音波全景影像的方法及产生全景影像的超音波装置
JP7047095B2 (ja) 2018-02-27 2022-04-04 エルジー エレクトロニクス インコーポレイティド カメラレンズ情報を含む３６０°ビデオを送受信する方法及びその装置
KR20190110858A (ko) * 2018-03-21 2019-10-01 삼성전자주식회사 이미지 데이터 처리 방법 및 이를 위한 장치
CN112789577B (zh) 2018-09-20 2024-04-05 元平台技术有限公司 增强现实系统中的神经肌肉文本输入、书写和绘图
EP3651448B1 (en) * 2018-11-07 2023-06-28 Nokia Technologies Oy Panoramas
US11797087B2 (en) 2018-11-27 2023-10-24 Meta Platforms Technologies, Llc Methods and apparatus for autocalibration of a wearable electrode sensor system
AU2019440079B2 (en) * 2019-04-01 2023-01-05 Citrix Systems, Inc. Automatic image capture
CN111031233B (zh) * 2019-11-13 2021-01-15 安凯(广州)微电子技术有限公司 一种数字图像处理帧率控制方法及装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016015624A1 (en) * 2014-07-28 2016-02-04 Mediatek Inc. Portable device capable of generating panoramic file

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6356297B1 (en) * 1998-01-15 2002-03-12 International Business Machines Corporation Method and apparatus for displaying panoramas with streaming video
US6885392B1 (en) * 1999-12-31 2005-04-26 Stmicroelectronics, Inc. Perspective correction for preview area of panoramic digital camera
JP2005223519A (ja) * 2004-02-04 2005-08-18 Seiko Epson Corp 画像保存装置、画像保存方法および自動保存システム
WO2006048875A2 (en) * 2004-11-05 2006-05-11 Yissum Research Development Company Of The Hebrew University Of Jerusalem Method and system for spatio-temporal video warping
KR101336951B1 (ko) 2007-11-02 2013-12-04 삼성전자주식회사 휴대 단말기 및 그 파노라마 이미지 촬영 모드 수행 방법
JP4678404B2 (ja) * 2007-12-27 2011-04-27 ソニー株式会社 撮像装置、その制御方法およびプログラム
US20100265313A1 (en) * 2009-04-17 2010-10-21 Sony Corporation In-camera generation of high quality composite panoramic images
US20120019613A1 (en) * 2009-12-11 2012-01-26 Tessera Technologies Ireland Limited Dynamically Variable Stereo Base for (3D) Panorama Creation on Handheld Device
US8928579B2 (en) * 2010-02-22 2015-01-06 Andrew David Wilson Interacting with an omni-directionally projected display
JP2011250103A (ja) * 2010-05-26 2011-12-08 Canon Inc 再生装置
US9147260B2 (en) * 2010-12-20 2015-09-29 International Business Machines Corporation Detection and tracking of moving objects
EP2795919A4 (en) * 2011-12-23 2015-11-11 Nokia Technologies Oy ALIGNMENT OF VARIOUS VIEWS OF VIEWING VIDEOS
US8953012B2 (en) * 2012-02-13 2015-02-10 Raytheon Company Multi-plenoptic system with image stacking and method for wide field-of-regard high-resolution imaging
JP6056551B2 (ja) 2013-02-28 2017-01-11 株式会社ニコン 画像処理プログラムおよびデジタルカメラ
US10021295B1 (en) * 2013-06-03 2018-07-10 Amazon Technologies, Inc. Visual cues for managing image capture
CN103561209A (zh) * 2013-10-21 2014-02-05 广东明创软件科技有限公司 基于移动终端拍摄全景照片或视频的方法及其移动终端
KR20150059534A (ko) * 2013-11-22 2015-06-01 삼성전자주식회사 파노라마 영상 생성 방법, 상기 방법을 기록한 컴퓨터 판독 가능 저장매체 및 파노라마 영상 생성 장치.
KR102157295B1 (ko) * 2013-12-23 2020-09-17 삼성전자주식회사 이미지 처리 방법 및 그 전자 장치
US20150296139A1 (en) * 2014-04-11 2015-10-15 Timothy Onyenobi Mobile communication device multidirectional/wide angle camera lens system
CN105120155A (zh) * 2015-08-21 2015-12-02 小米科技有限责任公司 全景照片的生成方法及装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016015624A1 (en) * 2014-07-28 2016-02-04 Mediatek Inc. Portable device capable of generating panoramic file

Also Published As

Publication number Publication date
CN107087101A (zh) 2017-08-22
US20170237901A1 (en) 2017-08-17
CN107087101B (zh) 2021-02-26
KR20170096459A (ko) 2017-08-24
EP3363192A4 (en) 2019-03-20
US10659684B2 (en) 2020-05-19
EP3363192A1 (en) 2018-08-22
WO2017142278A1 (en) 2017-08-24

Similar Documents

Publication Publication Date Title
KR102576908B1 (ko) 동적 파노라마 기능을 제공하는 방법 및 장치
KR102444085B1 (ko) 휴대용 통신 장치 및 휴대용 통신 장치의 영상 표시 방법
CN110462572B (zh) 电子装置及其控制方法
KR102289837B1 (ko) 촬영 방법 및 전자 장치
KR102445699B1 (ko) 전자 장치 및 그의 동작 방법
KR102386398B1 (ko) 촬영 모드에 따라 이미지에 대한 표시자를 다르게 제공하는 방법 및 그 전자 장치
KR102622754B1 (ko) 이미지 합성 방법 및 이를 지원하는 전자 장치
KR102399049B1 (ko) 전자 장치 및 전자 장치의 이미지 처리 방법
KR102460906B1 (ko) 이미지 처리 방법 및 이를 지원하는 전자 장치
KR102620138B1 (ko) 화면 출력 방법 및 이를 지원하는 전자 장치
KR20160146281A (ko) 전자 장치 및 전자 장치에서 이미지 표시 방법
KR102399764B1 (ko) 전자 장치 및 촬영 방법
EP3131302B1 (en) Method and device for generating video content
KR20170097860A (ko) 디스플레이를 이용하여 이미지를 촬영하는 전자 장치 및 이미지 촬영 방법
KR102339798B1 (ko) 전자 장치의 음향 처리 방법 및 그 전자 장치
KR102584187B1 (ko) 이미지를 처리하기 위한 전자 장치 및 방법
KR102498815B1 (ko) 전자 장치 및 전자 장치의 비디오 편집 방법
KR102411281B1 (ko) 전자 장치 및 전자 장치의 이미지 파일 생성 방법
KR102424296B1 (ko) 복수의 영상들을 제공하기 위한 방법, 저장 매체 및 전자 장치
KR102252448B1 (ko) 제어 방법 및 그 방법을 처리하는 전자장치
KR102588524B1 (ko) 전자 장치 및 그의 동작 방법
KR20180006782A (ko) 영상의 초점을 제어하는 전자 장치와 이의 동작 방법
KR20160114434A (ko) 전자 장치 및 전자 장치의 이미지 촬영 방법
KR102423364B1 (ko) 영상을 제공하는 방법 및 이를 지원하는 전자 장치
KR102379898B1 (ko) 포커스에 대한 그래픽 인디케이터를 제공하는 전자 장치와 이의 동작 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant