WO2018124774A1 - 전자 장치 및 그 제어 방법 - Google Patents

전자 장치 및 그 제어 방법 Download PDF

Info

Publication number
WO2018124774A1
WO2018124774A1 PCT/KR2017/015646 KR2017015646W WO2018124774A1 WO 2018124774 A1 WO2018124774 A1 WO 2018124774A1 KR 2017015646 W KR2017015646 W KR 2017015646W WO 2018124774 A1 WO2018124774 A1 WO 2018124774A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
information
electronic device
photographing
external
Prior art date
Application number
PCT/KR2017/015646
Other languages
English (en)
French (fr)
Inventor
명진수
손경수
유재경
차동규
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2018124774A1 publication Critical patent/WO2018124774A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95—Computational photography systems, e.g. light-field imaging systems
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04M—TELEPHONIC COMMUNICATION
    • H04M1/00—Substation equipment, e.g. for use by subscribers
    • H04M1/02—Constructional features of telephone sets
    • H04M1/0202—Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/026—Details of the structure or mounting of specific components
    • H04M1/0264—Details of the structure or mounting of specific components for a camera module assembly
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation

Definitions

  • the present disclosure relates to an electronic device and a control method thereof.
  • a photographing apparatus capable of 360-degree photographing may photograph images of a plurality of different directions.
  • the photographing apparatus may generate one omni-directional image by stitching the photographed images after capturing images of a plurality of different directions, respectively.
  • the photographing apparatus may transmit the generated omnidirectional image to an electronic device capable of using the omnidirectional image, for example, a personal computer or a smartphone.
  • the electronic device connected to the photographing device may provide a virtual reality (VR) service using the received omnidirectional image.
  • the electronic device may be implemented as a head mounted display (HMD) or combined with the HMD, and may display a partial region of the omnidirectional image according to the user's gaze direction.
  • HMD head mounted display
  • External electronic devices for example, a photographing device capable of capturing a 360 degree screen
  • a portable electronic device such as a smartphone to provide omnidirectional video for a virtual reality service
  • a virtual reality service In order to provide a background image, it is used to take an omnidirectional image.
  • An electronic device such as a smart phone or a PC, which receives a captured image from an external photographing apparatus for photographing an omnidirectional image, processes an image by performing post-processing based on the captured image. The processed image is then reproduced for a virtual reality service or the like.
  • the existing omnidirectional image capture and output method lacks consideration for outputting the captured image from other electronic devices in real time Do.
  • the photographing apparatus for photographing the omnidirectional image may be installed on various moving objects such as a human body, a vehicle, an airplane, a drone, or the like, or the installation environment may be changed. . Accordingly, there is a need for a method of processing and displaying an image in which shaking occurs in real time.
  • an electronic device may provide a stable screen without shaking by displaying a picture on the electronic device by correcting an image acquired by the external electronic device in real time. Can be.
  • an electronic device when the image obtained by the external photographing device is corrected in real time and displayed on the electronic device, in the case of the omnidirectional image, Provide some view area you want, field of view (FOV) without shaking.
  • FOV field of view
  • an electronic device by omitting (stitching) the distortion of the photographing axis of the images acquired by the plurality of cameras in the external electronic device, the omnidirectional quality of the user is better.
  • a wide angle image such as an image may be provided.
  • An electronic device may include a display unit and a processor, and the processor may include a camera including image information photographed by an external photographing apparatus and information regarding a photographing posture of the external photographing apparatus. Acquires information, generates an image to be displayed on the electronic device using the obtained image information, corrects the generated image by using the acquired camera information, and displays the corrected image on the display unit Can be controlled.
  • a control method of an electronic device may include obtaining camera information including image information photographed by an external photographing device and information related to a photographing posture of the external photographing device, and obtaining the information. Generating an image to be displayed on the electronic device by using the corrected image information, correcting the generated image by using the acquired camera information, and displaying the corrected image. .
  • a stable screen without shaking may be provided to a user by correcting an image acquired by the external electronic device in real time and displaying the same on the electronic device.
  • a desired view area of the user that is, a field of view (FOV)
  • FOV field of view
  • FIG. 1 is a diagram illustrating an electronic device in a network environment according to various embodiments of the present disclosure.
  • FIG. 2 is a block diagram illustrating an electronic device according to various embodiments of the present disclosure.
  • FIG. 3 is a block diagram of a program module according to various embodiments of the present disclosure.
  • 4A and 4B illustrate conceptual diagrams for describing an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • FIG. 5 is a block diagram of an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • FIG. 6 is a diagram illustrating a data processing flow in an external photographing apparatus according to various embodiments of the present disclosure.
  • FIG. 7 is an exemplary diagram for describing an image generated by a merging and stitching function / operation of an image performed by an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • FIG. 8 is an exemplary diagram for describing a change in a pitch angle, a roll angle, and a yaw angle in an external photographing apparatus according to various embodiments of the present disclosure.
  • 9A and 9B are diagrams for describing a process of correcting an image by using unique photographing characteristic information of a plurality of cameras transmitted from an external photographing apparatus in an electronic device according to various embodiments of the present disclosure. .
  • FIGS. 10A and 10B are diagrams for describing images that may be displayed on an electronic device when the posture of the external photographing apparatus according to various embodiments of the present disclosure is changed.
  • 11A and 11B are exemplary diagrams for describing a display of a user view area among omnidirectional images that may be displayed in an electronic device according to various embodiments of the present disclosure.
  • FIG. 13 is a diagram illustrating a communication procedure between an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • FIG. 14 is a diagram illustrating an operation flow of an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • 15A and 15B are exemplary diagrams for describing a format of a file transmitted to an electronic device by an external photographing apparatus according to various embodiments of the present disclosure.
  • 16A and 16B are exemplary diagrams for describing a stream file format of video, audio, and camera information transmitted to an electronic device by an external photographing apparatus according to various embodiments of the present disclosure.
  • 17 is a diagram illustrating a control method of an electronic device according to various embodiments of the present disclosure.
  • expressions such as “have”, “may have”, “include”, or “may contain” include the presence of a corresponding feature (e.g., numerical, functional, operational, or component such as a component). Does not exclude the presence of additional features.
  • expressions such as “A or B”, “at least one of A or / and B”, or “one or more of A or / and B” may include all possible combinations of items listed together.
  • “A or B”, “at least one of A and B”, or “at least one of A or B” includes (1) at least one A, (2) at least one B, Or (3) both of cases including at least one A and at least one B.
  • first,” “second,” “first,” or “second,” as used herein may modify various components, regardless of order and / or importance, and may modify one component to another. It is used to distinguish a component and does not limit the components.
  • the first user device and the second user device may represent different user devices regardless of the order or importance.
  • the first component may be called a second component, and similarly, the second component may be renamed to the first component.
  • One component (such as a first component) is "(functionally or communicatively) coupled with / to" to another component (such as a second component) or " When referred to as “connected to”, it should be understood that any component may be directly connected to the other component or may be connected through another component (eg, a third component).
  • a component e.g., a first component
  • another component e.g., a second component
  • the expression “configured to” used in this document is, for example, “suitable for”, “having the capacity to” depending on the situation. It may be used interchangeably with “designed to”, “adapted to”, “made to”, or “capable of”.
  • the term “configured to” may not necessarily mean only “specifically designed to” in hardware. Instead, in some situations, the expression “device configured to” may mean that the device “can” along with other devices or components.
  • the phrase “processor configured (or configured to) perform A, B, and C” may be implemented by executing a dedicated processor (eg, an embedded processor) to perform its operation, or one or more software programs stored in a memory device. It may mean a general-purpose processor (eg, a CPU or an application processor) capable of performing corresponding operations.
  • An electronic device may include, for example, a smartphone, a tablet personal computer, a mobile phone, a video phone, and an e-book reader.
  • wearable devices may be accessory (eg, watches, rings, bracelets, anklets, necklaces, glasses, contact lenses, or head-mounted-devices (HMDs)), textiles, or clothing one-pieces (eg, it may include at least one of an electronic garment, a body attachment type (eg, a skin pad or a tattoo), or a living implantable type (eg, an implantable circuit).
  • HMDs head-mounted-devices
  • the electronic device may be a home appliance.
  • Home appliances are, for example, televisions, digital video disk (DVD) players, audio, refrigerators, air conditioners, vacuum cleaners, ovens, microwaves, washing machines, air cleaners, set-top boxes, home automation control panels ( home automation control panel, security control panel, TV box (e.g. Samsung HomeSync TM , Apple TV TM , or Google TV TM ), game console (e.g. Xbox TM , PlayStation TM ), electronic dictionary, electronic It may include at least one of a key, a camcorder, or an electronic picture frame.
  • DVD digital video disk
  • the electronic device may include a variety of medical devices (e.g., various portable medical measuring devices such as blood glucose meters, heart rate monitors, blood pressure meters, or body temperature meters), magnetic resonance angiography (MRA), magnetic resonance imaging (MRI), Such as computed tomography (CT), imaging or ultrasound), navigation devices, global navigation satellite system (GNSS), event data recorder (EDR), flight data recorder (FDR), automotive infotainment ) Devices, ship's electronic equipment (e.g. ship's navigational devices, gyro compasses, etc.), avionics, security devices, vehicle head units, industrial or home robots, automatic teller's machines (financial institutions) Point of sales, point of sales, or Internet of things (e.g. light bulbs, sensors, electricity or gas meters, sprinkler devices, fire alarms, thermostats, street lights, Of the emitter (toaster), exercise equipment, hot water tank, a heater, boiler, etc.) may include at least one.
  • medical devices e.g., various portable
  • an electronic device may be a piece of furniture or a building / structure, an electronic board, an electronic signature receiving device, a projector, or various measuring devices (eg, Water, electricity, gas, or radio wave measuring instrument).
  • the electronic device may be a combination of one or more of the aforementioned various devices.
  • An electronic device according to an embodiment may be a flexible electronic device.
  • the electronic device according to an embodiment of the present disclosure is not limited to the above-described devices, and may include a new electronic device according to technology development.
  • the term user may refer to a person who uses an electronic device or a device (eg, an artificial intelligence electronic device) that uses an electronic device.
  • a device eg, an artificial intelligence electronic device
  • the electronic device 101 may include a bus 110, a processor 120, a memory 130, an input / output interface 150, a display 160, and a communication interface 170.
  • the electronic device 101 may omit at least one of the components or additionally include other components.
  • the bus 110 may include, for example, circuitry that couples the components 120-170 to each other and delivers communication (eg, control messages and / or data) between the components.
  • the processor 120 may include one or more of a central processing unit (CPU), an application processor (AP), or a communication processor (CP).
  • the processor 120 may execute, for example, an operation or data processing related to control and / or communication of at least one other component of the electronic device 101.
  • the processor 120 acquires camera information including image information transmitted from another external electronic device (for example, the electronic device 102) and information related to a shooting posture at the time of capturing the image, and the obtained image information. And correct the image to be displayed on the electronic device by using the camera information, and control the display to display the corrected image on the display 160.
  • another external electronic device for example, the electronic device 102
  • information related to a shooting posture at the time of capturing the image and the obtained image information.
  • the processor 120 acquires camera information including image information transmitted from another external electronic device (for example, the electronic device 102) and information related to a shooting posture at the time of capturing the image, and the obtained image information. And correct the image to be displayed on the electronic device by using the camera information, and control the display to display the corrected image on the display 160.
  • the memory 130 may include volatile and / or nonvolatile memory.
  • the memory 130 may store, for example, commands or data related to at least one other element of the electronic device 101.
  • the memory 130 may store software and / or a program 140.
  • the program 140 may be, for example, a kernel 141, middleware 143, an application programming interface (API) 145, an application program (or an “application”) 147, or the like. It may include. At least a portion of kernel 141, middleware 143, or API 145 may be referred to as an operating system (OS).
  • OS operating system
  • the kernel 141 may be a system resource (eg, used to execute an action or function implemented in, for example, other programs (eg, middleware 143, API 145, or application program 147).
  • the bus 110, the processor 120, or the memory 130 may be controlled or managed.
  • the kernel 141 may provide an interface for controlling or managing system resources by accessing individual components of the electronic device 101 from the middleware 143, the API 145, or the application program 147. Can be.
  • the middleware 143 may serve as an intermediary for allowing the API 145 or the application program 147 to communicate with the kernel 141 to exchange data.
  • the middleware 143 may process one or more work requests received from the application program 147 according to priority.
  • the middleware 143 may use system resources (eg, the bus 110, the processor 120, or the memory 130, etc.) of the electronic device 101 for at least one of the application programs 147. Priority can be given.
  • the middleware 143 may perform the scheduling or load balancing of the one or more work requests by processing the one or more work requests according to the priority given to the at least one.
  • the API 145 is, for example, an interface for the application 147 to control a function provided by the kernel 141 or the middleware 143, for example, file control, window control, image processing, or text. It may include at least one interface or function (eg, a command) for control.
  • the input / output interface 150 may serve as, for example, an interface capable of transferring a command or data input from a user or another external device to other component (s) of the electronic device 101.
  • the input / output interface 150 may output commands or data received from other component (s) of the electronic device 101 to a user or another external device.
  • Display 160 may be, for example, a liquid crystal display (LCD), a light-emitting diode (LED) display, an organic light-emitting diode (OLED) display, or Micro-electro-mechanical systems (MEMS) displays, or electronic paper displays.
  • the display 160 may display, for example, various contents (eg, text, images, videos, icons, symbols, etc.) to the user.
  • the display 160 may include a touch screen, and may receive, for example, a touch, gesture, proximity, or hovering input using an electronic pen or a part of a user's body.
  • the communication interface 170 may establish communication between the electronic device 101 and an external device (eg, the first external electronic device 102, the second external electronic device 104, or the server 106). Can be.
  • the communication interface 170 may be connected to the network 162 through wireless or wired communication to communicate with an external device (eg, the second external electronic device 104 or the server 106).
  • Wireless communication is, for example, a cellular communication protocol, for example, long-term evolution (LTE), LTE Advance (LTE-A), code division multiple access (CDMA), wideband CDMA (WCDMA), UMTS (universal).
  • LTE long-term evolution
  • LTE-A LTE Advance
  • CDMA code division multiple access
  • WCDMA wideband CDMA
  • GSM global system for mobile communications
  • wireless communication may include, for example, near field communication 164.
  • the short range communication 164 may include, for example, at least one of wireless fidelity (WiFi), Bluetooth, near field communication (NFC), global navigation satellite system (GNSS), and the like.
  • GNSS may be, for example, among the Global Positioning System (GPS), the Global Navigation Satellite System (Glonass), the Beidou Navigation Satellite System (“Beidou”), or Galileo, the European global satellite-based navigation system. It may include at least one.
  • GPS Global Positioning System
  • Beidou Beidou Navigation Satellite System
  • Galileo the European global satellite-based navigation system. It may include at least one.
  • GPS Global Positioning System
  • the wired communication may include, for example, at least one of a universal serial bus (USB), a high definition multimedia interface (HDMI), a reduced standard232 (RS-232), a plain old telephone service (POTS), and the like.
  • the network 162 may include a telecommunications network, for example, at least one of a computer network (for example, a LAN or WAN), the Internet, and a telephone network.
  • Each of the first and second external electronic devices 102 and 104 may be a device of the same or different type as the electronic device 101.
  • server 106 may comprise a group of one or more servers.
  • all or part of operations executed in the electronic device 101 may be executed in another or a plurality of electronic devices (for example, the electronic devices 102 and 104 or the server 106).
  • the electronic device 101 may instead execute or execute the function or service by itself, or at least some function associated therewith.
  • the other electronic device may request the requested function or The additional function may be executed and the result may be transmitted to the electronic device 101.
  • the electronic device 101 may provide the requested function or service by processing the received result as it is or additionally.
  • Cloud computing distributed computing, or client-server computing techniques can be used.
  • the electronic device 201 may include, for example, all or part of the electronic device 101 illustrated in FIG. 1.
  • the electronic device 201 may include one or more processors (eg, an application processor (AP) 210), a communication module 220, a subscriber identification module 224, a memory 230, a sensor module 240, and an input device 250. ), Display 260, interface 270, audio module 280, camera module 291, power management module 295, battery 296, indicator 297, and motor 298. have.
  • AP application processor
  • the processor 210 may control, for example, a plurality of hardware or software components connected to the processor 210 by running an operating system or an application program, and may perform various data processing and operations.
  • the processor 210 may be implemented with, for example, a system on chip (SoC).
  • SoC system on chip
  • the processor 210 may further include a graphic processing unit (GPU) and / or an image signal processor.
  • the processor 210 may include at least some of the components illustrated in FIG. 2 (eg, the cellular module 221).
  • the processor 210 may load and process instructions or data received from at least one of other components (eg, nonvolatile memory) into volatile memory, and store various data in the nonvolatile memory. have.
  • the communication module 220 may have a configuration that is the same as or similar to that of the communication interface 170 of FIG. 1.
  • the communication module 220 may be, for example, a cellular module 221, a WiFi module 223, a Bluetooth module 225, a GNSS module 227 (eg, a GPS module, a Glonass module, a Beidou module, or a Galileo module). It may include an NFC module 228 and a radio frequency (RF) module 229.
  • RF radio frequency
  • the cellular module 221 may provide, for example, a voice call, a video call, a text service, or an internet service through a communication network. According to an embodiment, the cellular module 221 may perform identification and authentication of the electronic device 201 in a communication network by using a subscriber identification module (eg, a SIM card) 224. According to an embodiment, the cellular module 221 may perform at least some of the functions that the processor 210 may provide. According to an embodiment, the cellular module 221 may include a communication processor (CP).
  • CP communication processor
  • Each of the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may include, for example, a processor for processing data transmitted and received through the corresponding module.
  • at least some (eg, two or more) of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may be one integrated chip. (IC) or in an IC package.
  • the RF module 229 may transmit / receive a communication signal (for example, an RF signal), for example.
  • the RF module 229 may include, for example, a transceiver, a power amp module (PAM), a frequency filter, a low noise amplifier (LNA), an antenna, or the like.
  • PAM power amp module
  • LNA low noise amplifier
  • at least one of the cellular module 221, the WiFi module 223, the Bluetooth module 225, the GNSS module 227, or the NFC module 228 may transmit and receive an RF signal through a separate RF module. Can be.
  • Subscriber identification module 224 may include, for example, a card that includes a subscriber identification module and / or an embedded SIM, and may include unique identification information (eg, an integrated circuit card identifier (ICCID)) or It may include subscriber information (eg, international mobile subscriber identity (IMSI)).
  • ICCID integrated circuit card identifier
  • IMSI international mobile subscriber identity
  • the memory 230 may include, for example, an internal memory 232 or an external memory 234.
  • the internal memory 232 may be, for example, volatile memory (eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.), non-volatile memory (eg, non-volatile memory).
  • volatile memory eg, dynamic RAM (DRAM), static RAM (SRAM), or synchronous dynamic RAM (SDRAM), etc.
  • non-volatile memory eg, non-volatile memory.
  • SSD solid state drive
  • the external memory 234 may be a flash drive, for example, compact flash (CF), secure digital (SD), micro secure digital (Micro-SD), mini secure digital (Mini-SD), or extreme (xD). It may further include a digital, a multi-media card (MMC) or a memory stick (memory stick).
  • the external memory 234 may be functionally and / or physically connected to the electronic device 201 through various interfaces.
  • the sensor module 240 may measure, for example, a physical quantity or detect an operation state of the electronic device 201 and convert the measured or detected information into an electrical signal.
  • the sensor module 240 includes, for example, a gesture sensor 240A, a gyro sensor 240B, an air pressure sensor 240C, a magnetic sensor 240D, an acceleration sensor 240E, a grip sensor 240F, and a proximity sensor ( 240G), color sensor 240H (e.g., red (green, blue) sensor), biometric sensor 240I, temperature / humidity sensor 240J, illuminance sensor 240K, or UV (ultra violet) ) May include at least one of the sensors 240M.
  • the sensor module 240 may include, for example, an olfactory sensor, an electromyography sensor, an electroencephalogram sensor, an electrocardiogram sensor. And infrared (IR) sensors, iris sensors, and / or fingerprint sensors.
  • the sensor module 240 may further include a control circuit for controlling at least one or more sensors belonging therein.
  • the electronic device 201 further includes a processor configured to control the sensor module 240 as part of or separately from the processor 210, while the processor 210 is in a sleep state. The sensor module 240 may be controlled.
  • the input device 250 may be, for example, a touch panel 252, a (digital) pen sensor 254, a key 256, or an ultrasonic input device ( 258).
  • the touch panel 252 may use at least one of capacitive, resistive, infrared, or ultrasonic methods, for example.
  • the touch panel 252 may further include a control circuit.
  • the touch panel 252 may further include a tactile layer to provide a tactile response to the user.
  • the (digital) pen sensor 254 may be, for example, part of a touch panel or may include a separate sheet for recognition.
  • the key 256 may include, for example, a physical button, an optical key, or a keypad.
  • the ultrasonic input device 258 may detect ultrasonic waves generated by an input tool through a microphone (for example, the microphone 288) and check data corresponding to the detected ultrasonic waves.
  • Display 260 may include panel 262, hologram device 264, or projector 266.
  • the panel 262 may include a configuration that is the same as or similar to that of the display 160 of FIG. 1.
  • the panel 262 may be implemented to be, for example, flexible, transparent, or wearable.
  • the panel 262 may be configured as a single module with the touch panel 252.
  • the hologram 264 may show a stereoscopic image in the air by using interference of light.
  • the projector 266 may display an image by projecting light onto a screen.
  • the screen may be located inside or outside the electronic device 201.
  • the display 260 may further include a control circuit for controlling the panel 262, the hologram device 264, or the projector 266.
  • the interface 270 may be, for example, a high-definition multimedia interface (HDMI) 272, a universal serial bus (USB) 274, an optical interface 276, or a D-subminiature ) 278.
  • the interface 270 may be included in, for example, the communication interface 170 illustrated in FIG. 1.
  • interface 270 may be, for example, a mobile high-definition link (MHL) interface, a secure digital (SD) card / multi-media card (MMC) interface, or an IrDA (infrared). data association) may include a standard interface.
  • MHL mobile high-definition link
  • SD secure digital
  • MMC multi-media card
  • IrDA infrared
  • the audio module 280 may bilaterally convert, for example, a sound and an electrical signal. At least some components of the audio module 280 may be included in, for example, the input / output interface 145 illustrated in FIG. 1.
  • the audio module 280 may process sound information input or output through, for example, a speaker 282, a receiver 284, an earphone 286, a microphone 288, or the like.
  • the camera module 291 is, for example, a device capable of capturing still images and moving images.
  • the camera module 291 may include one or more image sensors (eg, a front sensor or a rear sensor), a lens, and an image signal processor (ISP). Or flash (eg, LED or xenon lamp, etc.).
  • image sensors eg, a front sensor or a rear sensor
  • ISP image signal processor
  • flash eg, LED or xenon lamp, etc.
  • the power management module 295 may manage power of the electronic device 201, for example.
  • the power management module 295 may include a power management integrated circuit (PMIC), a charger integrated circuit (ICC), or a battery or fuel gauge.
  • the PMIC may have a wired and / or wireless charging scheme.
  • the wireless charging method may include, for example, a magnetic resonance method, a magnetic induction method, an electromagnetic wave method, or the like, and may further include additional circuits for wireless charging, such as a coil loop, a resonance circuit, a rectifier, and the like. have.
  • the battery gauge may measure, for example, the remaining amount of the battery 296, the voltage, the current, or the temperature during charging.
  • the battery 296 may include, for example, a rechargeable battery and / or a solar battery.
  • the indicator 297 may display a specific state of the electronic device 201 or a part thereof (for example, the processor 210), for example, a booting state, a message state, or a charging state.
  • the motor 298 may convert an electrical signal into mechanical vibrations, and may generate a vibration or haptic effect.
  • the electronic device 201 may include a processing device (eg, a GPU) for supporting mobile TV.
  • the processing apparatus for supporting mobile TV may process media data according to a standard such as digital multimedia broadcasting (DMB), digital video broadcasting (DVB), or mediaFlo TM .
  • DMB digital multimedia broadcasting
  • DVD digital video broadcasting
  • mediaFlo TM mediaFlo TM
  • Each of the components described in this document may be composed of one or more components, and the names of the corresponding components may vary depending on the type of electronic device.
  • the electronic device may be configured to include at least one of the components described in this document, and some components may be omitted or further include additional components.
  • some of the components of the electronic device according to various embodiments of the present disclosure may be combined to form a single entity, and thus may perform the same functions of the corresponding components before being combined.
  • the program module 310 (eg, the program 140) is an operating system (or operating system) and / or operating a resource related to the electronic device (eg, the electronic device 101). It may include various applications (for example, an application program 147) running on the system.
  • the operating system may be, for example, android, ios, windows, symbian, tizen, bada, or the like.
  • the program module 310 may include a kernel 320, middleware 330, an application programming interface (API) 360, and / or an application 370. At least a part of the program module 310 may be preloaded on the electronic device or may be downloaded from an external electronic device (eg, the electronic devices 102 and 104, the server 106, etc.).
  • API application programming interface
  • the kernel 320 may include, for example, a system resource manager 321 and / or a device driver 323.
  • the system resource manager 321 may perform control, allocation, or retrieval of system resources.
  • the system resource manager 321 may include a process manager, a memory manager, or a file system manager.
  • the device driver 323 may include, for example, a display driver, a camera driver, a Bluetooth driver, a shared memory driver, a USB driver, a keypad driver, a WiFi driver, an audio driver, or an inter-process communication (IPC) driver. .
  • IPC inter-process communication
  • the middleware 330 may provide various functions through the API 360, for example, to provide functions commonly required by the application 370, or to allow the application 370 to efficiently use limited system resources inside the electronic device. Functions may be provided to the application 370.
  • the middleware 330 eg, the middleware 143 may include a runtime library 335, an application manager 341, a window manager 342, and a multimedia manager. 343, resource manager 344, power manager 345, database manager 346, package manager 347, connectivity manager (348), a notification manager (349), a location manager (350), a graphic manager (351), or a security manager (352) can do.
  • the runtime library 335 may include, for example, a library module that the compiler uses to add new functionality through the programming language while the application 370 is running.
  • the runtime library 335 may perform input / output management, memory management, or a function for an arithmetic function.
  • the application manager 341 may manage, for example, a life cycle of at least one of the applications 370.
  • the window manager 342 may manage GUI resources used on the screen.
  • the multimedia manager 343 may grasp formats required for playing various media files and perform encoding or decoding of media files using a codec suitable for the format.
  • the resource manager 344 may manage resources such as source code, memory, or storage space of at least one of the applications 370.
  • the power manager 345 may operate together with a basic input / output system (BIOS) to manage a battery or power, and provide power information necessary for the operation of the electronic device.
  • the database manager 346 may generate, search for, or change a database to be used by at least one of the applications 370.
  • the package manager 347 may manage installation or update of an application distributed in the form of a package file.
  • the connection manager 348 may manage, for example, a wireless connection such as WiFi or Bluetooth. Notification manager 349 may display or notify events such as arrival messages, appointments, proximity notifications, and the like in a manner that does not disturb the user.
  • the location manager 350 may manage location information of the electronic device.
  • the graphic manager 351 may manage graphic effects to be provided to the user or a user interface related thereto.
  • the security manager 352 may provide various security functions required for system security or user authentication. According to an embodiment of the present disclosure, when the electronic device (for example, the electronic device 101) includes a telephone function, the middleware 330 further includes a telephone manager for managing a voice or video call function of the electronic device. can do.
  • the middleware 330 may include a middleware module that forms a combination of various functions of the above-described components.
  • the middleware 330 may provide a module specialized for each type of OS in order to provide a differentiated function.
  • the middleware 330 may dynamically delete some of the existing components or add new components.
  • API 360 (eg, API 145) is, for example, a set of API programming functions, which may be provided in different configurations depending on the operating system. For example, in the case of Android or iOS, one API set may be provided for each platform, and in Tizen, two or more API sets may be provided for each platform.
  • the application 370 may be, for example, a home 371, a dialer 372, an SMS / MMS 373, an instant message (374), a browser 375, Camera 376, Alarm 377, Contact 378, Voice Dial 379, Email 380, Calendar 381, Media Player 382, Album 383, or Clock 384, Healthcare or one or more applications capable of performing functions such as health care (eg, measuring exercise amount or blood sugar) or providing environmental information (eg, providing barometric pressure, humidity, or temperature information).
  • health care eg, measuring exercise amount or blood sugar
  • environmental information eg, providing barometric pressure, humidity, or temperature information
  • the application 370 may be an application that supports information exchange between an electronic device (eg, the electronic device 101) and an external electronic device (eg, the electronic devices 102 and 104).
  • the "information exchange application” may be included.
  • the information exchange application may include, for example, a notification relay application for delivering specific information to an external electronic device, or a device management application for managing the external electronic device.
  • the notification delivery application may include notification information generated by another application of the electronic device (eg, an SMS / MMS application, an email application, a health care application, or an environmental information application). , 104)). Also, the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • another application of the electronic device eg, an SMS / MMS application, an email application, a health care application, or an environmental information application. , 104)
  • the notification delivery application may receive notification information from an external electronic device and provide the notification information to a user, for example.
  • the device management application may, for example, turn at least one function of an external electronic device (eg, the electronic devices 102 and 104) in communication with the electronic device (eg, turn on the external electronic device itself (or some component part). On / turn-off or adjust the brightness (or resolution) of the display, manage applications (e.g., install, delete), applications running on an external electronic device or services provided by the external electronic device (e.g., call service or message service) , Or update).
  • an external electronic device e.g, the electronic devices 102 and 104
  • manage applications e.g., install, delete
  • applications running on an external electronic device or services provided by the external electronic device e.g., call service or message service
  • the application 370 may include an application (eg, a health care application of a mobile medical device, etc.) designated according to an attribute of the external electronic device (eg, the electronic devices 102 and 104).
  • the application 370 may include an application received from an external electronic device (for example, the server 106 or the electronic devices 102 and 104). May include a preloaded application or a third party application downloadable from a server, etc.
  • the names of the components of the program module 310 according to the embodiment illustrated in FIG. Therefore, it may vary.
  • At least part of the program module 310 may be implemented in software, firmware, hardware, or a combination of two or more thereof. At least a part of the program module 310 may be implemented (for example, executed) by, for example, a processor (for example, the processor 210). At least a part of the program module 310 may include, for example, a module, a program, a routine, sets of instructions, or a process for performing one or more functions.
  • 4A and 4B illustrate conceptual diagrams for describing an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • the electronic device 101 may be connected to an external external photographing device, for example, the photographing device 400.
  • the electronic device 101 may be wirelessly connected.
  • the electronic device 101 and the photographing device 400 may include, for example, a communication circuit supported through a WiFi method including a WiFi direct method, and may be wirelessly connected thereto.
  • the wireless communication may be configured through various short-range communication methods such as Bluetooth, Bluetooth Low Energy (BLE), NFC, and Zig-bee.
  • the electronic device 101 may be wired to the photographing device 400 through a cable 402.
  • the cable 402 may be manufactured based on, for example, the USB standard, and may include a connector according to various USB standards.
  • the electronic device 101 and the photographing device 400 may also include physical ports in accordance with various USB standards. Accordingly, the electronic device 101 and the photographing device 400 can be connected through a cable 402. Can be connected.
  • the photographing apparatus 400 may photograph an external landscape, and thus may acquire an image.
  • the photographing apparatus 400 may photograph an image 360 degrees omnidirectionally based on the fixed viewpoint.
  • the omnidirectional image is an image including both the view seen while the photographer rotates in place and the view seen by tilting or bowing his head.
  • the photographing apparatus 400 may include a plurality of cameras for a plurality of directions, for example, to photograph an omnidirectional image, and thus may acquire a plurality of images for a plurality of directions.
  • Each of the plurality of cameras included in the photographing apparatus 400 may include a fish-eye lens, for example, and may have an angle of view of more than 180 degrees.
  • Each of the plurality of cameras may be disposed to overlap a part of each angle of view, and thus images captured by each of the plurality of cameras may include portions overlapping each other.
  • the photographing apparatus 400 may transmit a plurality of images to the electronic device 101, and the electronic device 101 may stitch the plurality of images into one image. Alternatively, the plurality of images photographed by the photographing apparatus 400 may be stitched into one image (ie, an omnidirectional image) and transmitted to the electronic device 101.
  • the photographing apparatus 400 may include two cameras each having a fisheye lens having an angle of view of more than 180 degrees, one at the front and one rear, for the omnidirectional photographing. An image can be obtained. Then, the electronic device 100 generates one omnidirectional image using the two images.
  • the number of cameras, the angle of view, the installation position and the like provided in the above-described imaging device 400 is merely illustrative, it will be readily understood by those skilled in the art that there may be various modifications.
  • the photographing apparatus 400 is the position and movement of the photographing apparatus received through the captured image and the associated metadata, that is, a sensor (eg, GPS, WiFi fingerprint, gyro sensor, acceleration sensor, geomagnetic sensor, altitude sensor, etc.)
  • the posture information may be associated with at least one of the captured images as camera characteristic information (eg, camera calibration parameter and photographing state information).
  • the photographing apparatus 400 may obtain at least information on a posture of the photographing apparatus 400 (for example, pitch, roll, and yaw angles) of the camera characteristic information (hereinafter, May be abbreviated as "camera information.”
  • the photographing apparatus 400 may map the photographed omnidirectional image to a 2D planar image, encode the mapped 2D planar image, and store the encoded 2D planar image in its own memory or transmit the image to the electronic device 101.
  • FIG. 5 is a block diagram of an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • an external photographing device 501 such as a camera device serves as an input device for receiving an omnidirectional image, for example.
  • the external photographing apparatus 501 may photograph 360 degrees in all directions and may wirelessly transmit a photographed image or an image of a preview screen in real time.
  • the electronic device 502 such as a smartphone serves as an output device for displaying an omnidirectional image provided from the external photographing device 501.
  • the external photographing apparatus 501 includes a video input unit 511 and a video encoder 512 for inputting and processing a video signal; A sensor unit 531 and an angle information converter 532 for obtaining camera information; A multiplexer 544 for synthesizing the image data and the camera data, and a communication unit 545 for transmitting the output of the multiplexer 544 to the electronic device 502.
  • the apparatus may further include an audio input unit 521 and an audio encoder 522 for inputting and processing audio signals.
  • the video input unit 511 may include, for example, two cameras (fisheye lens and image sensor) installed at the front and the rear, that is, the first camera 511-1 and the second camera. And an image merging unit 511-3 for merging the images captured by the first and second cameras 511-1 and 511-2.
  • the video encoder 512 performs encoding on the merged image provided from the image merger 511-3 of the video input unit 511.
  • the video encoder 512 may perform encoding based on codec standards such as H.264, MPEG-4, and HEVC.
  • the audio input unit 521 may be configured as a microphone, and receives an external audio signal.
  • the audio encoder 522 performs encoding on the received audio signal provided from the audio input unit 521. Audio encoder 522 converts the received audio signal into a compressed signal or PCM data using a coding compressor method such as AAC or AC3.
  • the sensor unit 531 is implemented with a gyro sensor, an acceleration sensor, or the like, and detects angular velocity and acceleration with respect to the external photographing device 501.
  • the angle information converting unit 532 converts the raw data detected by the sensor unit 531 into angle information, so that information about a photographing posture (for example, pitch, roll, yaw) is obtained. (yaw) angle) and camera information including position and movement information of the external photographing apparatus 510 is generated.
  • the sensor unit 531 may include a GPS module, a movement detection sensor, and the like to detect the position and movement of the external photographing device 501 and transmit the corresponding information to the electronic device.
  • the multiplexer 544 synthesizes the video / audio data encoded by the video encoder 512 and the audio encoder 522 and converts the video / audio data into a format for wireless transmission or storage.
  • the multiplexer 544 performs a function of synthesizing the camera information provided from the angle information converter 532 in association with the video / audio signal as metadata. That is, the metadata may be stored in a memory (not shown) together with the encoded video / audio data, or may be transmitted in a streaming or file form.
  • metadata may be generated and associated with audio / video data generated and encoded in a separate document format, or transmitted in association with a request for the audio / video data.
  • the multiplexer 544 should be able to support a plurality of video and audio data, and then support camera information for stitching the plurality of images input from the electronic device 502 into one image.
  • An example of a file format for this purpose will be described in detail with reference to FIG. 15 and the like.
  • the wireless communication unit 545 includes, for example, a WiFi module 545-1, and wirelessly transmits a data file (or streaming) provided by the multiplexer 544 in a WiFi manner.
  • the electronic device 502 may include a wireless communication unit 555 for receiving a data file or streaming including omnidirectional image information wirelessly transmitted from the external photographing device 501, and data received through the wireless communication unit 555.
  • a demultiplexer 556 for demultiplexing video data and camera data in a file
  • a video decoder 557 for decoding the video data provided by the demultiplexer 556
  • a video decoded by the video decoder 557 The display unit 560 for displaying an image on the screen according to the.
  • the decoded video data may further include a stitching unit 558 to stitch the images when a plurality of cameras are merged, and further include a screen stabilization unit 559 to compensate for shaking of the image. can do.
  • the apparatus may further include an audio decoder 567 and an audio output unit 569 (eg, a speaker) for decoding and outputting audio data.
  • the wireless communication unit 555 of the electronic device 502 includes, for example, a WiFi module 555-1, and wirelessly transmits data from the wireless communication unit 545 of the external photographing device 501 according to a WiFi scheme.
  • the file is received in real time and provided to the demultiplexer 556.
  • the demultiplexer 556 may demultiplex video data, audio data, and camera information from a data file received from the wireless communication unit 545 and output the demultiplexed data.
  • Video decoder For example, the video data provided by the demultiplexer 556 may be decoded based on a codec standard such as H.264, MPEG-4, HEVC, or the like.
  • a codec standard such as H.264, MPEG-4, HEVC, or the like.
  • the stitching unit 558 stitches the video data provided from the demultiplexing unit 556 when the images of a plurality of cameras (eg, two) are merged to stitch one image, for example, one image. Create an omnidirectional image.
  • the stitching unit 558 corrects the distortion of the photographing axis of each image according to at least some characteristic information of each camera corresponding to a plurality of images obtained from the camera information, according to at least some of various embodiments of the present document.
  • the imaging axes of the plurality of images are aligned precisely with each other.
  • the images are not exactly matched with each other at an interface between the plurality of images. Details of the distortion correction of the photographing axis between the images will be described later.
  • the screen stabilizer 559 compensates for the shaking provided in the stitching unit 558, for example, the omnidirectional image, so that the image is stably displayed on the screen.
  • the display unit 559 may check the variation of the shooting posture corresponding to the image to be currently displayed based on the information on the shooting posture obtained from the camera information, according to at least some of various embodiments of the present disclosure.
  • the positional change of the image due to the change in the shooting posture is canceled and output to the display unit 560.
  • the display 560 displays an image output from the screen stabilizer 559 on the screen. Accordingly, the image of the displayed screen is stably displayed without shaking. Details of image stabilization will be described later.
  • FIG. 6 is a diagram illustrating a signal (data) processing flow in an external photographing apparatus according to various embodiments of the present disclosure. Referring to FIG. 6, first, data processing in an external photographing apparatus according to various embodiments of the present disclosure will be described in detail.
  • the overall signal flow in the external photographing apparatus may be largely divided into an audio signal part, a video signal part, and a file system part.
  • the video and file system parts may be separated into a main video signal part and a sub video signal part. The following is a description of the corresponding block and each signal in each signal part.
  • the audio input unit 600 receives audio data and converts an input analog audio signal into a digital audio signal a0.
  • the audio encoder 601 converts the input digital audio signal into a compressed signal or PCM data a1 using a coding compressor method such as AAC or AC3.
  • the video input unit 610 converts an input analog video signal received through a camera sensor into a digital signal
  • the video merge unit 611 merges a plurality of input video images into a single video signal vO. .
  • the merged video signal v0 is input to each of the video scaler 612 and the video encoder 6132.
  • the video scaler 612 converts the input video signal v0 into a video signal v1 having a size set by a user. Image size conversion method is performed by using 'Bi-linear', 'Bi-cubic', 'Non-linear' filter. That is, the user may select and set one of various image sizes in advance.
  • the converted signal v1 becomes the input of the video encoder 613.
  • the input data of the video encoder 613 has a video signal v0 of the original size and a video signal v1 of the converted size, and the output data includes the compressed video data v2 and the compressed video data v3 of the converted size. There may be).
  • the storage A / V multiplexer 620 is a general file system multiplexer that stores the input audio data a1 and video data v2 and camera information in a predetermined file format and stores them in the storage medium 630. Do this.
  • Typical file format standards include 'MP4', 'mov' and 'avi'.
  • the A / V multiplexer 640 for streams transmits data to the network connection unit 650 for real time transmission.
  • the stream A / V multiplexer 640 has a file format suitable for real time transmission.
  • This file structure may contain a plurality of video information and a plurality of audio information, and in particular a plurality of camera related information.
  • This camera-related information has the following contents. It may always include object or view point related information, camera calibration information, geomagnetic sensor information, GSP information, and camera motion information that the user wants to see.
  • View point-related information if the user does not specify a view point separately, for example, as a basic view point, may set the shooting center of the front of the photographing apparatus as the view point.
  • FIG. 7 is an exemplary diagram for describing an image generated by a merging and stitching function / operation of an image performed by an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • the external photographing apparatus 501 and the electronic device 502 illustrated in FIG. 7 may have the structure illustrated in FIG. 5.
  • an external photographing apparatus may merge images acquired by, for example, two cameras included in the external photographing apparatus as illustrated in FIG. 7. .
  • the external photographing device may transmit image information about the merged image to the electronic device 501.
  • the electronic device 502 may generate an image displayed on the display unit of the electronic device using the image information received from the external photographing device 501.
  • FIG. 7 an example in which stitching of merged images provided by the external electronic device 501 is performed by the electronic device 502 (for example, inter-image capturing axis correction is performed) is illustrated. Shown as an enemy.
  • the electronic device 502 may provide a 360 degree omnidirectional image to the user.
  • the image displayed on the electronic device 502 after the stitching is performed is a preview image acquired by the external photographing device 501 and / or obtained by the external photographing device 501 and the electronic device 502. ) May include images already stored.
  • FIG. 8 is an exemplary diagram for describing a change in a pitch angle, a roll angle, and a yaw angle in an external photographing apparatus according to various embodiments of the present disclosure.
  • a change may be made in the photographing posture of the external photographing apparatus, such as the external photographing apparatus may be installed on various moving objects or the installation environment may be changed.
  • a change in at least one of a pitch angle, a roll angle, and a yaw angle may occur by the external photographing apparatus.
  • the external photographing apparatus transmits information on the pitch, roll, and yaw angle (ie, camera information) to the electronic apparatus so that the electronic apparatus can know the photographing posture of the external photographing apparatus.
  • the pitch angle corresponds to a tilt value of the camera (or the external photographing device) (eg, a rotation angle about an x axis), and the roll angle corresponds to the front of the camera (or the external photographing device).
  • a rotation value eg, a rotation angle with respect to the y axis
  • the photographing axis is a rotation axis
  • the yaw angle is a pan / rotation-pan value of the camera (or the external photographing device).
  • the external photographing device when the external photographing device includes a plurality of cameras, when the external photographing device is initially connected to the electronic device, information about unique photographing characteristics of each of the plurality of cameras is provided. It can transmit to the electronic device.
  • the external photographing apparatus may include at least two cameras, for example, to provide a 360 degree omnidirectional image to a user.
  • the external photographing apparatus may store unique photographing characteristic information of each of the plurality of cameras in advance, and when the external photographing apparatus and the electronic device are initially connected, for example, inherent photographing characteristic information of the plurality of cameras. Can be transmitted to the electronic device.
  • the unique photographing characteristic information about the plurality of cameras may also be referred to as a term of default camera information or reference camera information, which means that each of the cameras installed in the external photographing apparatus is manufactured during manufacturing of the external photographing apparatus.
  • Pitch angle information, roll angle information, and yaw angle information may be included.
  • the pitch angle, the roll angle, and the yaw angle may be set to 0 degrees as the unique photographing characteristic information of the first camera.
  • the pitch, roll, yaw angle may be different from each other due to the installation tolerance between the first camera and the second camera.
  • the external photographing device transmits the unique photographing characteristic information of the plurality of cameras installed in the electronic device to the electronic device, so that the electronic device can correct the distortion of the photographing axis of the image photographed by the plurality of cameras.
  • 9A and 9B are diagrams for describing a process of correcting an image by using unique photographing characteristic information of a plurality of cameras transmitted from an external photographing apparatus in an electronic device according to various embodiments of the present disclosure. .
  • An electronic device may calibrate each of a plurality of images transmitted from the external photographing apparatus by using unique photographing characteristic information of a plurality of cameras transmitted from the external photographing apparatus.
  • FIG. 9A an image acquired by, for example, a front camera (a first camera; a camera located in a direction facing a specific object) of the external electronic device is displayed on the first camera characteristic photographing characteristic information (ie, pitch angle, roll).
  • the image corrected according to the angle and yaw angle) is exemplarily illustrated.
  • FIG. 9A an image acquired by, for example, a front camera (a first camera; a camera located in a direction facing a specific object) of the external electronic device is displayed on the first camera characteristic photographing characteristic information (ie, pitch angle, roll).
  • the image corrected according to the angle and yaw angle is exemplarily illustrated.
  • FIG. 9A an image acquired by, for example, a front camera (a first camera; a camera located in a direction facing a specific object) of the external electronic device is displayed
  • an image acquired by, for example, a rear camera (a second camera; a camera located in a direction facing the user) of the external photographing apparatus may be configured to capture the second camera's own photographing characteristic information (ie, pitch angle, roll).
  • the image corrected to coincide with the angle and yaw angle) is exemplarily illustrated.
  • FIGS. 9A and 9B it is shown that images taken by the first camera and the second camera are corrected in the horizontal direction.
  • stitching may be performed on the corrected image. Accordingly, the plurality of images photographed by the plurality of cameras can be accurately aligned, so that the interface between the plurality of images can be smoothly connected during stitching.
  • the electronic device may display the stitched image on the electronic device.
  • FIGS. 10A and 10B are diagrams for describing images that may be displayed on an electronic device when the posture of the external photographing apparatus according to various embodiments of the present disclosure is changed.
  • FIG. 10A illustrates an example of an omnidirectional image stitched by the electronic device when the external photographing device is in a correct position.
  • the omnidirectional image stitched by the electronic device is also in an inverted state compared to FIG. 10A.
  • the omnidirectional image is displayed on the screen in the state shown in FIG. 10B, an inverted image is displayed on the screen.
  • the image displayed on the screen of the electronic device may be displayed in the entire area of the omnidirectional image as shown in FIGS. 10A and 10B, but the object recognition rate, the viewing angle and visibility of the actual person, the display screen size, etc. In consideration of this, only a part of the view area of the omnidirectional image corresponding to the user area of interest (FOV) is displayed.
  • FOV user area of interest
  • 11A and 11B are diagrams for describing a display of a user view area among omnidirectional images that may be displayed on an electronic device (for example, a smartphone) according to various embodiments of the present disclosure.
  • 11A and 11B may correspond to screens corresponding to the omnidirectional images of FIGS. 10A and 10B, respectively.
  • a partial view area (FOV) corresponding to a view point designated by a user is displayed in the image displayed on the screen of the electronic device.
  • the view area is set as the center portion of the omnidirectional image.
  • FIG. 11B it can be seen that an image of the view area is displayed in an inverted state compared to FIG. 11B.
  • 12A, 12B, and 12C illustrate correcting a user's desired view area among omnidirectional images that may be displayed in an electronic device according to various embodiments of the present disclosure using photographing posture information transmitted from an external photographing device. It is an exemplary figure for following. 12A, 12B, and 12C, the omnidirectional image is shown, respectively, and the rectangular region of the center portion of the omnidirectional image is shown as an example.
  • a photographing posture ie, pitch angle, roll angle, yaw angle
  • the electronic device corrects the position of the currently displayed view area according to the information on the photographing posture, so that the view image without shaking is displayed as a result.
  • the electronic device may use information on a shooting posture (information about a pitch angle, a roll angle, and a yaw angle) while the rectangular area of FIG. 12A is displayed as the view area.
  • the omnidirectional image may be rotated clockwise / counterclockwise, or may be moved up, down, left or right so that the image corresponding to the position of the view area is displayed on the screen without change (that is, without shaking).
  • the view region is rotated clockwise / counterclockwise in the omnidirectional image, or moved up, down, left, and right by using information about a photographing posture. As a result, it is possible to eliminate the shaking in the image displayed on the screen.
  • the electronic device may display the photographing posture information such that the image is displayed in the same direction as the image photographed without the external photographing device being rotated.
  • the image may be controlled to display the view area on the screen by rotating the omnidirectional image according to the roll angle.
  • the electronic device moves the omnidirectional image up or down or left and right according to the pitch angle or yaw angle in the shooting posture information to move the view area on the screen.
  • an external photographing device may be configured to transmit its own movement information to the electronic device, and the electronic device further reflects the movement information so that the view area displays the location in real time. It can also be implemented to change it.
  • FIG. 13 is an exemplary diagram for describing a communication procedure between an electronic device (eg, a smartphone) and an external photographing device according to various embodiments of the present disclosure.
  • an electronic device eg, a smartphone
  • an electronic device and an external photographing device perform an interconnect operation according to a preset method among various communication methods. For example, they may be interconnected according to a Universal Plug and Play (UPnP) scheme.
  • the connection operation may perform operations such as mutual device discovery, mutual authentication, establishing a communication connection, and checking mutually supportable services.
  • the electronic device requests the external photographing device to start transmitting the captured image.
  • the external photographing device responds to the request to the electronic device.
  • the electronic device requests basic video, audio, and camera related information (ie, unique characteristic information of each of the plurality of cameras).
  • the external photographing device transmits related information in response to the request of the electronic device.
  • the external photographing apparatus transmits images captured by the plurality of cameras and audio data in real time to generate the omnidirectional image.
  • the camera information including information on the shooting posture is also periodically transmitted.
  • the electronic device may perform photographing axis correction and photographing posture correction operations on the plurality of images.
  • transmission of an image ie, an image corresponding to a view area
  • audio data centered on a basic view point You can also proceed.
  • the viewpoint adjustment event by the user occurs in the electronic device, it requests the external photographing device. Accordingly, in operation 1317, the external photographing apparatus updates the camera information and transmits the requested view point related image data together with the related information.
  • the viewpoint adjustment event may be generated in response to an operation on a touch screen that is appropriately set in advance for manipulating movement of the screen in up, down, left, and right directions of the electronic device having a touch screen display.
  • the viewpoint adjustment event for example, in the electronic device implemented in the HMD or implemented to be combined with the HMD, it may be generated correspondingly by detecting a change in the gaze direction of the user.
  • the external photographing apparatus transmits all image data about images captured by a plurality of cameras to the electronic device to generate an omnidirectional image, and displays the basic view area by itself. And adjust the view area accordingly upon input of the viewpoint adjustment event.
  • the transmission efficiency may be increased.
  • FIG. 14 is a diagram illustrating an operation flow of an electronic device and an external photographing device according to various embodiments of the present disclosure.
  • the operation illustrated in FIG. 14 may correspond to a more detailed operation flow of operation 1315 for transmitting related data including image data in real time in the communication procedure illustrated in FIG. 13.
  • an external photographing apparatus eg, reference numeral 501 of FIG. 5 simultaneously performs an image input and processing procedure, an audio input and processing procedure, and a camera information input and processing procedure. That is, operations 1401, 1411, and 1421 are performed in parallel to receive information about an image input, an audio input, and a photographing posture (ie, sensor information), respectively.
  • operation 1402 if the input image is an image input by a plurality of cameras (ie, lenses), and if the input image is an image input by a plurality of cameras, the operation merges the plurality of images in operation 1403. Encodes data for the merged images.
  • operation 1402 determines whether the image is not input by the plurality of cameras. If it is determined in operation 1402 that the image is not input by the plurality of cameras, the operation proceeds directly to operation 1404 to encode the input image. On the other hand, in operation 1421. Encoding of the audio data input in operation 1411 is performed. In operation 1422, the sensor information (raw data) input in operation 1421 is converted into angle information.
  • the encoded image data and audio data and the converted angle information are multiplexed.
  • the multiplexed data file is wirelessly transmitted to the electronic device.
  • the external photographing apparatus wirelessly transmits the video / audio / sensor information input in real time to the electronic device in real time.
  • An electronic device receives a data file transmitted in real time from the external photographing device and simultaneously performs an image processing procedure, an audio processing procedure, and a camera information processing procedure. That is, operations 1471 and 1481 are performed in parallel to decode video data and audio data, respectively.
  • operation 1472 it is determined whether the decoded image data is image data by a plurality of cameras (i.e., lenses), and when the plurality of image data is by a plurality of cameras, the plurality of images are stitched together with the photographing axis correction in operation 1473. .
  • the decoded audio is output while displaying the image of the stitched image or the stitched image on the screen. At this time, the shake correction of the image displayed on the screen is performed.
  • FIGS. 15A and 15B are exemplary diagrams for describing a format of a file transmitted to an electronic device by an external photographing apparatus according to various embodiments of the present disclosure.
  • the file format illustrated in FIGS. 15A and 15B may be, for example, a format of a data file that is initially transmitted from the external photographing device to the electronic device.
  • a transmission file may be largely divided into a file format field part and a data field part.
  • video channels corresponding to each of a plurality of cameras (or images) may be included in the file format field part.
  • Format information ie, 'Video Steam Information 1, 2,... N'
  • format information ie, 'Audio Stream Information'
  • the format information for the video channels and the format information for the audio channel may be substantially the same as the format of the format information for general video / audio transmission.
  • the file format field part includes, in addition to the audio / video format information according to various embodiments of the present document, camera data format information for each of a plurality of cameras (ie, 'Camera Information 1, 2,... N'). ) Is further included.
  • the field portion for the camera data format information includes a header (eg, 'camera data header mark') field portion indicating the camera data format information, a header size field portion, and camera data. It can be broken down into parts of the actual information field about the format.
  • a header eg, 'camera data header mark'
  • the actual information field portion related to the camera data format includes pitch angle, roll angle, yaw angle information corresponding to the unique shooting characteristic information of each of the plurality of cameras, pitch angle, roll angle, There may be yaw angle information.
  • the pitch angle, roll angle and yaw angle information may be converted into clock / counterclockwise rotation, tilt and horizontal rotation values, and other GPS information (latitude and longitude). Value).
  • movement information of an external photographing apparatus may be included.
  • the unique photographing characteristic information of each of the plurality of cameras may be transmitted, for example, in clockwise / counterclockwise rotation, vertical tilt and horizontal rotation values. Pitch angle, roll angle, yaw angle information can be transmitted.
  • each transmission type may be predefined.
  • a transmission period for pitch angle, roll angle, and yaw angle information corresponding to the photographing posture may be defined in advance.
  • a file format field may be implemented including camera data format information, and respective audio / video data and camera data related to this file format field are included in the data field portion and transmitted.
  • the data field for example, pitch angle, roll angle, and yaw angle information corresponding to inherent shooting characteristic information for each of the plurality of cameras in accordance with the preset period in relation to the camera information.
  • B clock / counterclockwise rotation, vertical tilt and horizontal rotation values corresponding to pitch angle, roll angle and yaw angle information corresponding to the information on the real-time shooting posture, or unique shooting characteristic information of each of the plurality of cameras; Or GPS information or movement information of the external photographing apparatus.
  • 16A and 16B are exemplary diagrams for describing a stream file format of video, audio, and camera information transmitted to an electronic device by an external photographing apparatus according to various embodiments of the present disclosure.
  • 16A and 16B show in more detail the transmission format of audio / video data and camera data corresponding to each of a plurality of cameras, which may be included in the data field portion, in particular compared to FIGS. 15A and 15B.
  • each of the video data, the audio data, and the camera data has a tag field for distinguishing the corresponding data (ie, 'Video Data Tag', 'Audio Data Tag', and 'Camera Data Tag').
  • the data size may be transmitted in a format divided into a field describing a data size, a time stamp field, and a data field.
  • FIG. 16A illustrates an example in which data is transmitted by using an external memory device, for example, using direct memory access (DMA).
  • DMA direct memory access
  • FIG. 16B compared to FIG. 16A, for example, when data is processed through a specific communication standard (for example, a protocol for high-speed transmission), data is processed according to the communication standard (eg, dummy information is included. And the case where the size of data to be transmitted is aligned) is shown.
  • a specific communication standard for example, a protocol for high-speed transmission
  • the communication standard eg, dummy information is included.
  • the size of data to be transmitted is aligned
  • the process of stitching the image acquired by the external electronic device is described as being performed by the electronic device.
  • the stitching function / or operation may be performed by the external electronic device.
  • information about the stitched image may be provided to the electronic device.
  • the external electronic device may include at least some of at least two cameras, a memory, a processor, a communication interface, and a display.
  • 17 is a diagram illustrating a control method of an electronic device according to various embodiments of the present disclosure.
  • a control method of an electronic device may include an operation 1700 of acquiring image information obtained by an external electronic device and camera information of the external photographing device. have. Subsequently, an operation 1710 of generating an image to be displayed on the electronic device using the acquired image information, an operation 1720 of correcting the generated image using the obtained camera information, and the corrected image The operation 1730 may be displayed on the electronic device.
  • the operation of stitching the image acquired by the external photographing apparatus is described as being performed by the electronic device.
  • the stitching function / or operation may be performed by the external photographing apparatus.
  • the photographing axis correction operation may be performed for a plurality of cameras.
  • the stitched image may be provided to the electronic device after the photographing axis is corrected by the external photographing device.
  • the electronic device may perform the photographing posture correcting operation to perform the image providing operation without shaking.
  • the external photographing device is directly connected to the electronic device by wire / wireless is described as an example.
  • the external photographing device and the electronic device may not be directly connected.
  • the electronic device may receive and use an image provided from a remote external photographing device through a wireless Internet network.
  • the electronic device may perform a reproduction operation based on image information already stored in the recording device, instead of receiving image information transmitted in real time from an external photographing device.
  • the photographing axis correction and / or posture correction operation may be performed through camera information that may be included in pre-stored image information.
  • the external photographing apparatus may perform an image capturing operation through one wide-angle camera, not a plurality of cameras, and the external photographing apparatus may provide one image. It may be a wide-angle image photographed by the camera of the camera.
  • the photographing apparatus may perform only a photographing posture correction (ie, shake correction) operation while displaying an image of the view area on the screen through the wide-angle image provided from the external photographing apparatus.
  • the image photographed by the external photographing apparatus may not be multiplexed with audio data.
  • various modifications and variations of the present disclosure may be possible.
  • the description of the electronic device according to various embodiments of the present disclosure may be applied to the method of controlling the electronic device according to various embodiments of the present disclosure.
  • module may refer to a unit that includes one or a combination of two or more of hardware, software, or firmware.
  • a “module” may be interchangeably used with terms such as, for example, unit, logic, logical block, component, or circuit.
  • the module may be a minimum unit or part of an integrally constructed part.
  • the module may be a minimum unit or part of performing one or more functions.
  • the “module” can be implemented mechanically or electronically.
  • a “module” is one of application-specific integrated circuit (ASIC) chips, field-programmable gate arrays (FPGAs), or programmable-logic devices that perform certain operations, known or developed in the future. It may include at least one.
  • ASIC application-specific integrated circuit
  • FPGAs field-programmable gate arrays
  • At least a portion of an apparatus (e.g., modules or functions thereof) or method (e.g., operations) may be, for example, computer-readable storage media in the form of a program module. It can be implemented as a command stored in.
  • a processor e.g, the processor 120
  • the one or more processors may perform a function corresponding to the instruction.
  • the computer-readable storage medium may be the memory 130, for example.
  • Computer-readable recording media include hard disks, floppy disks, magnetic media (e.g. magnetic tape), optical media (e.g. compact disc read only memory), DVD ( digital versatile discs, magneto-optical media (e.g. floptical disks), hardware devices (e.g. read only memory, random access memory (RAM), or flash memory)
  • the program instructions may include not only machine code generated by a compiler, but also high-level language code executable by a computer using an interpreter, etc.
  • the hardware device described above may be various. It can be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.
  • Modules or program modules according to various embodiments may include at least one or more of the above components, some may be omitted, or further include other components. Operations performed by modules, program modules, or other components in accordance with various embodiments may be executed in a sequential, parallel, repetitive, or heuristic manner. In addition, some operations may be executed in a different order, may be omitted, or other operations may be added. And the embodiments disclosed herein are presented for the purpose of explanation and understanding of the disclosed, technical content, and do not limit the scope of the technology described in this document. Accordingly, the scope of this document should be construed as including all changes or various other embodiments based on the technical spirit of this document.

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Abstract

전자 장치 및 그 제어 방법이 개시된다. 본 개시의 다양한 실시예들에 따른 전자 장치는, 디스플레이부, 및 프로세서를 포함하고, 상기 프로세서는, 외부 촬영 장치에 의하여 촬영된 영상 정보 및 상기 외부 촬영 장치의 촬영 자세에 관련된 정보를 포함하는 카메라 정보를 획득하고, 상기 획득된 영상 정보를 이용하여 상기 전자 장치에 디스플레이 될 영상을 생성하고, 상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하고, 상기 보정된 영상을 상기 디스플레이부에 디스플레이 하도록 제어할 수 있다.

Description

전자 장치 및 그 제어 방법
본 개시는, 전자 장치 및 그 제어 방법에 관한 것이다.
최근, 스마트폰과 같은 휴대용 전자 장치의 급속한 보급으로, 상기 휴대용 전자 장치와 유선 통신 또는 무선 통신을 통하여 연결되어 사용자에게 다양한 기능을 제공하는 외부 부속 전자 장치의 보급 속도도 증가하고 있는 추세이다.
상기 외부 부속 전자 장치로서, 근자에 들어서 고성능 외부 촬영 장치가 활발하게 도입되고 있다. 예를 들어 360도 촬영이 가능한 촬영 장치는, 복수 개의 상이한 방향에 대한 영상을 촬영할 수 있다. 촬영 장치는 복수 개의 상이한 방향에 대한 영상들을 각각 촬영한 이후에 촬영한 영상들을 결합(stitching)하여 하나의 전방향(ommni-directional) 영상을 생성할 수 있다. 촬영 장치는 생성된 전방향 영상을, 해당 전방향 영상을 이용할 수 있는 전자 장치, 예를 들어 개인용 컴퓨터 또는 스마트폰 등으로 전송할 수 있다. 촬영 장치와 연결되는 전자 장치는, 수신된 전방향 영상을 이용하여 가상 현실(VR: Virtual Reality) 서비스를 제공할 수도 있다. 예를 들어, 전자 장치는 HMD(Head Mounted Display)로 구현되거나 또는 HMD와 결합될 수 있으며, 사용자의 시선 방향에 따라 전방향 영상 중 일부 영역을 표시할 수 있다.
최근 들어 가상 현실(VR)에 대한 관심의 증가에 따라, 상기 가상 현실 기능/동작을 제공할 수 있는 다양한 외부 전자 장치들(예를 들면, 기어 360™, 기어 VR™ 등)의 개발 및 보급이 급속도로 확대되고 있다.
스마트폰과 같은 휴대용 전자 장치와 연결되어 가상 현실 서비스를 위한 전방향 영상을 제공하기 위한 외부 전자 장치(예를 들면, 360도 화면을 촬영할 수 있는 촬영 장치 등)는, 일반적으로 가상 현실 서비스를 위한 배경 영상을 제공하기 위해, 전방향 영상을 촬영하는데 이용된다. 전방향 영상을 촬영하는 외부 촬영 장치로부터 촬영된 영상을 제공받은 스마트폰이나 PC 등과 같은 전자 장치는 촬영이 완료된 영상을 기반으로 후 처리를 수행하여 영상을 가공한다. 가공된 영상은 이후 가상 현실 서비스 등을 위해 재생된다.
한편, 가상 현실 서비스를 비롯하여, 현재 촬영되는 영상을 실시간으로 출력하고자 하는 필요성이 제기되고 있는데, 기존의 전방향 영상 촬영 및 출력 방식은 실시간적으로 촬영 영상을 다른 전자 장치에서 출력하기 위한 고려가 부족하다. 특히, 전방향 영상을 촬영하는 촬영 장치가 인체나, 차량, 비행기, 드론 등과 같은 다양한 이동체 상에 설치될 수 있거나 설치 환경이 변경될 수 있는 등, 여러 요인에 의해 촬영 영상에 흔들림이 있을 수 있다. 이에 흔들림이 발생한 영상을 실시간적으로 처리하여 디스플레이하는 방안이 요구된다.
이러한 요구에 부응하여, 본 문서의 다양한 실시예들에 따른 전자 장치에 의하면, 상기 외부 전자 장치에 의하여 획득되는 영상을 실시간적으로 보정하여 상기 전자 장치에 디스플레이함으로써, 사용자에게 흔들림 없는 안정적인 화면이 제공될 수 있다.
특히, 본 문서의 다양한 실시예들의 적어도 일부에 따른 전자 장치에 의하면, 상기 외부 촬영 장치에 의하여 획득되는 영상을 실시간적으로 보정하여 상기 전자 장치에 디스플레이할 경우에, 전방향 영상인 경우, 사용자의 원하는 일부의 뷰 영역, 즉 FOV(Field Of View)를 흔들림 없이 제공한다.
또한, 본 문서의 다양한 실시예들에 따른 전자 장치에 의하면, 상기 외부 전자 장치에서 복수의 카메라에 의하여 획득되는 영상들의 촬영 축의 틀어짐을 보정하여 결합(스티칭)함으로써, 사용자에게 보다 우수한 품질의 전방향 영상 등과 같은 광각 영상을 제공할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 디스플레이부, 및 프로세서를 포함하고, 상기 프로세서는, 외부 촬영 장치에 의하여 촬영된 영상 정보 및 상기 외부 촬영 장치의 촬영 자세에 관련된 정보를 포함하는 카메라 정보를 획득하고, 상기 획득된 영상 정보를 이용하여 상기 전자 장치에 디스플레이 될 영상을 생성하고, 상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하고, 상기 보정된 영상을 상기 디스플레이부에 디스플레이 하도록 제어할 수 있다.
본 문서의 다양한 실시예들에 따른 전자 장치의 제어 방법에 있어서, 외부 촬영 장치에 의하여 촬영된 영상 정보 및 상기 외부 촬영 장치의 촬영 자세에 관련된 정보를 포함하는 카메라 정보를 획득하는 동작과, 상기 획득된 영상 정보를 이용하여 상기 전자 장치에 디스플레이 될 영상을 생성하는 동작과, 상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하는 동작과, 상기 보정된 영상을 디스플레이 하는 동작을 포함할 수 있다.
본 문서의 다양한 실시예들에 따르면, 상기 외부 전자 기기에 의하여 획득된 영상을 실시간적으로 보정하여 상기 전자 장치에 디스플레이함으로써, 사용자에게 흔들림 없는 안정적인 화면이 제공될 수 있다. 특히, 적어도 일부 실시예에서는, 전방향 영상인 경우, 사용자의 원하는 뷰 영역, 즉 FOV(Field Of View)를 흔들림 없이 제공될 수 있다. 또한, 복수의 카메라에 의하여 획득되는 영상들의 촬영 축의 틀어짐을 보정하여 결합함으로써, 보다 우수한 품질의 전방향 영상을 제공할 수 있다.
본 문서의 효과는 상기 기술된 효과로 제한되지 아니하며, 다양한 효과가 본 명세서 상에 내재되어 있음은 통상의 기술자에게 자명하다.
도 1은, 본 문서의 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치를 설명하기 위한 예시 도면이다.
도 2는, 본 문서의 다양한 실시예에 따른 전자 장치를 설명하기 위한 블록도이다.
도 3은, 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4a 및 도 4b는, 본 문서의 다양한 실시예에 따른 전자 장치 및 외부 촬영 장치를 설명하기 위한 개념도를 도시한다.
도 5는, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치의 블록이다.
도 6은 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에서 데이터 처리 흐름을 설명하기 위한 도면이다.
도 7은, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치에 의해 수행되는 영상의 병합(merge) 및 스티칭(stitching) 기능/동작에 의하여 생성된 영상을 설명하기 위한 예시 도면이다.
도 8은, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에서 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도의 변화를 설명하기 위한 예시 도면이다.
도 9a 및 도 9b는, 본 문서의 다양한 실시예들에 따른 전자 장치에서, 외부 촬영 장치로부터 전송된 복수의 카메라에 대한 고유 촬영 특성 정보를 이용하여 영상이 보정되는 과정을 설명하기 위한 예시 도면이다.
도 10a 및 도 10b는, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치의 자세가 변동된 경우에 전자 장치에서 디스플레이될 수 있는 영상들을 설명하기 위한 예시 도면이다.
도 11a 및 도 11b는, 본 문서의 다양한 실시예들에 따른 전자 장치에서 디스플레이될 수 있는 전방향 영상 중 사용자 뷰 영역이 디스플레이되는 것을 설명하기 위한 예시 도면이다.
도 12a, 도 12b 및 도 12c, 본 문서의 다양한 실시예들에 따른 전자 장치에서 디스플레이될 수 있는 전방향 영상 중 사용자 원하는 뷰 영역을 외부 촬영 장치로부터 전송된 촬영 자세 정보를 이용하여 보정하는 것을 설명하기 위한 예시 도면이다.
도 13은, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치 사이의 통신 절차를 설명하기 위한 예시 도면이다.
도 14는, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치에서의 동작 흐름을 설명하기 위한 예시 도면이다.
도 15a 및 도 15b는, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에 의하여 전자 장치로 전송되는 파일의 포맷을 설명하기 위한 예시 도면이다.
도 16a 및 도 16b는, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에 의하여 전자 장치에 전송되는 비디오, 오디오 및 카메라 정보의 스트림 파일 포맷(format)을 설명하기 위한 예시 도면이다.
도 17은, 본 문서의 다양한 실시예들에 따른 전자 장치의 제어 방법을 설명하기 위한 예시 도면이다.
이하, 본 문서의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다", "가질 수 있다", "포함한다", 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B", "A 또는/및 B 중 적어도 하나", 또는 "A 또는/및 B 중 하나 또는 그 이상" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B", "A 및 B 중 적어도 하나", 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1", "제 2", "첫째", 또는 "둘째" 등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않은 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)", "~하는 능력을 가지는(having the capacity to)", "~하도록 설계된(designed to)", "~하도록 변경된(adapted to)", "~하도록 만들어진(made to)", 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크톱 PC(desktop personal computer), 랩톱 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토메이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 내비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 인터페이스(170)를 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(120-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
상기 프로세서(120)는, 외부의 다른 전자 장치(예를 들어 전자 장치 102)로부터 전송된 영상 정보 및 해당 영상 촬영 시의 촬영 자세에 관련된 정보를 포함하는 카메라 정보를 획득하고, 상기 획득된 영상 정보 및 카메라 정보를 이용하여 상기 전자 장치에 디스플레이 될 영상을 보정하고, 보정된 영상을 상기 디스플레이(160)에 디스플레이 하도록 제어할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)는 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(micro-electro-mechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스처, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 인터페이스(170)는, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 인터페이스(170)는 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip)로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(220)은, 도 1의 통신 인터페이스(170)와 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(228) 및 RF(radio frequency) 모듈(229)을 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)은, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)는, 예를 들면, 터치 패널(touch panel)(252),(디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 인터페이스(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(android), iOS, 윈도우즈(windows), 심비안(symbian), 타이젠(tizen), 또는 바다(bada) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드(download) 가능하다.
커널(320)(예: 커널(141))은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)(예: 미들웨어(143))는 런타임 라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 전자 장치(102, 104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
도 4a 및 도 4b는, 본 문서의 다양한 실시예에 따른 전자 장치 및 외부 촬영 장치를 설명하기 위한 개념도를 도시한다.
도 4a에 도시된 바와 같이, 전자 장치(101)는 부속적인 외부 촬영 장치, 예를 들어, 촬영 장치(400)에 연결될 수 있다. 이때, 전자 장치(101)는 무선 연결될 수 있다. 전자 장치(101) 및 촬영 장치(400)는, 예를 들어, WiFi 다이렉트 방식을 포함한 WiFi 방식을 통해 지원하는 통신 회로를 포함하여, 이를 통해 무선 연결될 수 있다. 이외에도, 블루투스 방식, BLE(Bluetooth Low Energy) 방식, NFC 방식, 지그비(Zig-bee) 방식 등의 다양한 근거리 통신 방식을 통해 무선 통신하도록 구성될 수도 있다.
또한, 도 4b에 도시된 바와 같이, 상기 전자 장치(101)는 케이블(402)을 통하여 촬영 장치(400)에 유선 연결될 수도 있다. 케이블(402)은, 예를 들어 USB 표준에 기초하여 제작될 수 있으며, 다양한 USB 표준에 따른 커넥터를 포함할 수 있다. 아울러, 전자 장치(101) 및 촬영 장치(400) 또한 다양한 USB 표준에 따른 물리적인 포트(port)를 포함할 수 있으며, 이에 따라 케이블(402)을 통하여 전자 장치(101) 및 촬영 장치(400)는 연결될 수 있다.
촬영 장치(400)는 외부 경관에 대하여 촬영을 수행할 수 있으며, 이에 따라 영상을 획득할 수 있다. 촬영 장치(400)는 고정 시점을 기준으로 360도 전 방향(omnidirectional)으로 영상을 촬영할 수 있다. 여기서, 전방향 영상은 촬영자가 제자리에서 한 바퀴 회전하면서 보이는 뷰(view)와 고개를 젖히거나 숙여서 바라보이는 뷰를 모두 포함하는 영상이다.
촬영 장치(400)는 전방향의 영상을 촬영하기 예를 들어 복수 개의 방향에 대한 복수 개의 카메라를 포함할 수 있으며, 이에 따라 복수 개의 방향에 대한 복수 개의 영상을 획득할 수 있다. 촬영 장치(400)가 포함한 복수 개의 카메라 각각은, 예를 들어 어안 렌즈(fish-eye lens)를 포함할 수 있으며, 예를 들어 180도를 넘는 화각을 가질 수 있다. 복수 개의 카메라 각각은, 각각의 화각의 일부 겹치도록 배치될 수 있으며, 이에 따라 복수 개의 카메라 각각이 촬영한 영상들은 서로 겹치는 부분을 포함할 수 있다. 촬영 장치(400)는 복수 개의 영상들을 전자 장치(101)로 전송할 수 있으며, 전자 장치(101)는 복수 개의 영상들을 하나의 영상으로 스티칭할 수 있다. 또는, 촬영 장치(400)가 촬영한 복수 개의 영상들을 하나의 영상(즉, 전방향 영상)으로 스티칭하여 전자 장치(101)로 전송할 수도 있다.
예를 들어, 촬영 장치(400)는 전방향 촬영을 위해, 180도가 넘는 화각을 가진 어안 렌즈를 가진 2개의 카메라를 전면과 후면에 하나씩 각각 구비할 수 있으며, 이를 통해, 전면 및 후면의 두 개의 영상을 획득할 수 있다. 이러한 2개의 영상을 이용하여 이후 전자 장치(100)는 하나의 전방향 영상을 생성하게 된다. 한편, 상기 설명한 촬영 장치(400)에서 구비되는 카메라의 개수, 화각, 설치 위치 등은 단순히 예시적인 것으로, 다양한 변형 예가 있을 수 있음을 당업자는 용이하게 이해할 수 있을 것이다.
한편, 촬영 장치(400)는 촬영된 영상 및 관련되는 메타 데이터 즉, 센서(예, GPS, WiFi fingerprint, 자이로 센서, 가속도 센서, 지자기센서, 고도 센서 등)를 통해 수신한 촬영 장치의 위치, 이동, 자세에 대한 정보 등을 카메라 특성 정보(예: 카메라 calibration parameter, 촬영상태 정보)로서 촬영된 영상 중 적어도 하나와 연관시킬 수 있다. 예를 들어, 촬영 장치(400)는 적어도 해당 촬영 장치(400)의 자세에 대한 정보(예를 들어, 피치(pitch), 롤(roll), 요(yaw) 각도)를 카메라 특성 정보(이하, '카메라 정보'라 약칭함)로서 전달할 수 있다.
또한, 촬영 장치(400)는 촬영된 전방향 영상을 2차원의 평면 영상으로 매핑하고, 매핑된 2차원 평면 영상을 인코딩하여 자체 메모리에 저장하거나, 전자 장치(101)로 전송할 수 있다.
도 5는, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치의 블록이다.
도 5를 참조하면, 카메라 장치와 같은 외부 촬영 장치(501)는 예를 들어, 전방향 영상을 입력받기 위한 입력 장치로서 역할을 수행한다. 외부 촬영 장치(501)는 360도를 전방향을 촬영할 수 있으며 실시간으로 촬영 영상 또는 프리뷰 화면의 영상을 무선으로 전송을 할 수 있는 장치이다. 스마트폰 등과 같은 전자 장치(502)는 상기 외부 촬영 장치(501)로부터 제공된 전방향 영상을 디스플레이하는 출력 장치의 역할을 수행한다.
외부 촬영 장치(501)는 비디오 신호 입력 및 처리를 위한 비디오 입력부(511) 및 비디오 인코더(512)와; 카메라 정보를 얻기 위한 센서부(531) 및 각도 정보 변환부(532)와; 영상 데이터 및 카메라 데이터를 합성하기 위한 다중화부(544)와, 다중화부(544)의 출력을 전자 장치(502)로 전송하기 위한, 통신부(545)를 포함한다. 또한, 오디오 신호 입력 및 처리를 위한 오디오 입력부(521) 및 오디오 인코더(522)를 추가로 더 구비할 수 있다.
비디오 입력부(511)는 전방향 녹화가 가능하게 하기 위해, 예를 들어, 전면 및 후면에 각각 설치되는 2개의 카메라(어안 렌즈 및 이미지 센서), 즉 제1카메라(511-1)와 제2카메라(511-2)를 구비하며, 또한, 제1 및 제2카메라(511-1, 511-2)에서 촬영된 영상을 병합(merge)하는 영상 병합부(511-3)를 구비한다. 비디오 인코더(512)는 비디오 입력부(511)의 영상 병합부(511-3)로부터 제공된 병합된 영상에 대한 인코딩을 수행한다. 예를 들어, 비디오 인코더(512)는 H.264, MPEG-4, HEVC 등의 코덱 표준에 기반하여 인코딩을 수행할 수 있다. 오디오 입력부(521)는 마이크 등으로 구성될 수 있으며, 외부 오디오 신호를 입력 받는다. 오디오 인코더(522)는 오디오 입력부(521)로부터 제공된 수신 오디오 신호에 대한 인코딩을 수행한다. 오디오 인코더)(522)는 AAC 혹은 AC3 등의 부호화 압축기법을 사용하여 수신된 오디오 신호를 압축된 신호 혹은 PCM 데이터로 변환한다.
센서부(531)는 자이로 센서, 가속도 센서 등으로 구현되어, 해당 외부 촬영 장치(501)에 대한 각속도 및 가속도 등을 감지한다. 각도 정보 변환부(532)는 상기 센서부(531)에서 감지된 신호(raw data)를 각도 정보로 변환하여, 촬영 자세에 대한 정보(예를 들어, 피치(pitch), 롤(roll), 요(yaw) 각도)와, 해당 외부 촬영 장치(510)의 위치 및 이동 정보 등을 포함하는 카메라 정보를 발생한다. 상기 센서부(531)는 이외에도 GPS 모듈, 이동 감지 센서 등을 구비하여 해당 외부 촬영 장치(501)의 위치 및 이동을 감지하여 해당 정보를 전자 장치측으로 전송하도록 구성할 수 있다.
다중화부(544)는 상기 비디오 인코더(512) 및 오디오 인코더(522)에서 인코딩된 비디오/오디오 데이터를 합성하여 예를 들어, 무선 전송 또는 저장을 위한 포맷으로 변환한다. 특히, 다중화부(544)는 상기 각도 정보 변환부(532)에서 제공되는 카메라 정보를 메타데이터로서 상기 비디오/오디오 신호와 연관하여 합성하는 기능을 수행한다. 즉, 상기 메타데이터는 인코딩된 비디오/오디오 데이터와 함께 메모리(미도시)에 저장되거나 스트리밍 혹은 파일 형태로 전송될 수 있다. 다양한 실시 예에 따르면, 메타데이터는 별도의 문서 포맷으로 생성되어 인코딩된 오디오/비디오 데이터와 연관(associated with)되어 저장되거나, 상기 오디오/비디오 데이터에 대한 요구가 있을 경우 연관되어 전송될 수 있다. 이와 같이, 상기 다중화부(544)는 복수개의 비디오 및 오디오 데이터를 지원할 수 있어야 하며, 이후 전자 장치(502)에서 입력된 복수의 영상을 하나의 영상으로 스티칭하기 위한 카메라 정보도 지원하여야 한다. 이를 위한 파일 포맷의 예는 후술하는 도 15 등을 참조하여 상세히 설명하기로 한다.
무선통신부(545)는 예를 들어, WiFi 모듈(545-1) 등으로 구성되어, 상기 다중화부(544)에서 제공되는 데이터 파일(또는 스트리밍)을 WiFi 방식으로 무선 전송한다.
한편, 전자 장치(502)는 상기 외부 촬영 장치(501)로부터 무선 전송된 전방향 영상 정보를 포함하는 데이터 파일 또는 스트리밍을 수신하는 무선통신부(555)와, 무선통신부(555)를 통해 수신된 데이터 파일에서 비디오 데이터 및 카메라 데이터를 역다중화하기 위한 역다중화부(556)와, 상기 역다중화부(556)에서 제공된 비디오 데이터를 디코딩하는 비디오 디코더(557)와, 비디오 디코더(557)에서 디코딩된 비디오에 따라 화면에 영상을 디스플레이하는 디스플레이부(560)를 포함한다. 또한, 디코딩된 비디오 데이터가 복수의 카메라의 영상이 병합된 경우에는 이를 스티칭하는 스티칭부(558)를 더 포함할 수 있으며, 또한, 영상의 흔들림 등을 보상하는 화면 안정화부(559)를 더 포함할 수 있다. 또한, 오디오 데이터 디코딩 및 출력을 위한 오디오 디코더(567) 및 오디오 출력부(569)(예: 스피커)를 추가로 더 구비할 수 있다.
상기 전자 장치(502)의 무선통신부(555)는 예를 들어 WiFi 모듈(555-1) 등을 구비하여, 상기 외부 촬영 장치(501)의 무선통신부(545)로부터 WiFi 방식에 따라 무선 전송된 데이터 파일을 실시간으로 수신하여 이를 역다중화부(556)로 제공한다.
본 문서의 다양한 실시예에서, 역다중화부(556)는 무선통신부(545)에서 수신된 데이터 파일에서 비디오 데이터, 오디오 데이터 및 카메라 정보를 역다중화하여 각각 출력할 수 있다.
비디오 디코더는. 상기 역다중화부(556)에서 제공되는 비디오 데이터에 대해, 예를 들어, H.264, MPEG-4, HEVC 등의 코덱 표준에 기반하여 디코딩을 수행할 수 있다.
스티칭부(558)는 상기 역다중화부(556)에서 제공되는 비디오 데이터가 복수(예를 들어, 2개)의 카메라의 영상이 병합된 경우에는 이를 스티칭하여 하나의 영상, 예를 들어, 하나의 전방향 영상을 생성한다. 이때, 스티칭부(558)는 본 문서의 다양한 실시예 중 적어도 일부에 따라, 상기 카메라 정보로부터 얻을 수 있는 복수의 영상에 대응되는 각 카메라의 고유한 특성 정보에 따라 각 영상들의 촬영 축의 틀어짐을 보정하여 복수의 영상들의 촬영 축이 서로 정확하게 정렬되도록 한다. 상기와 같이, 복수의 영상의 촬영 축 보정을 통해 복수의 영상을 서로 스티칭할 경우에 복수의 영상간 경계면에서 영상들이 서로 정확히 맞지 않은 문제점을 해결하게 된다. 영상들간 촬영 축의 틀어짐 보정에 대한 상세 내용은 후술될 것이다.
화면 안정화부(559)는 상기 스티칭부(558)에서 제공되는 영상, 예를 들어, 전방향 영상에서 흔들림 등을 보상하여 영상이 안정적으로 화면에 디스플레이되도록 한다. 이때, 디스플레이부(559)는 본 문서의 다양한 실시예 중 적어도 일부에 따라, 상기 카메라 정보로부터 얻을 수 있는 촬영 자세에 대한 정보를 기반으로 현재 디스플레이하려는 영상에 대응되는 촬영 자세의 변동을 확인하고, 상기 촬영 자세의 변동에 따른 영상의 위치 변동을 상쇄하여 디스플레이부(560)로 출력한다. 디스플레이부(560)는 상기 화면 안정화부(559)에서 출력되는 영상을 화면 상에 디스플레이한다. 이에 따라 디스플레이되는 화면의 영상은 흔들림없이 안정적으로 디스플레이된다. 영상의 흔들임 보정에 대한 상세 내용은 후술될 것이다.
도 6은 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에서 신호(데이터) 처리 흐름을 설명하기 위한 도면이다. 도 6을 참조하여, 먼저 본 문서의 다양한 실시예에 따른 외부 촬영 장치에서 데이터 처리에 관해 보다 상세히 설명하기로 한다.
도 6을 참조하면, 외부 촬영 장치에서 전체 신호 흐름은 크게 오디오 신호 파트, 비디오 신호 파트, 및 파일 시스템 파트로 구분할 수 있다. 비디오 및 파일 시스템 파트는 주 비디오 신호 파트와 부 비디오 신호 파트로 분리될 수 있다. 다음은 각 신호 파트에서 해당 블록 및 각각의 신호에 대한 설명이다.
오디오 입력부(600)는 오디오 데이터를 입력받는 부분으로 입력 아날로그 오디오 신호를 디지털 오디오신호(a0)로 변환한다. 오디오 인코더(601)는 AAC 혹은 AC3 등의 부호화 압축기법을 사용하여 입력된 디지털 오디오 신호를 압축된 신호 혹은 PCM 데이터(a1)로 변환한다.
비디오 입력부(610)는 카메라 센서를 통하여 들어오는 입력 아날로그 비디오 신호를 디지털 신호로 변환하는 부분이며 비디오 병합부(611)는 입력된 다수의 비디오 영상을 병합하여 하나의 비디오 신호(vO)로 만드는 부분이다. 병합된 비디오 신호(v0)는 비디오 크기변환기(612) 및 비디오 인코더(6132) 각각의 입력이 된다. 비디오 크기변환기(612)는 입력된 비디오 신호(v0)을 사용자가 설정한 크기의 비디오 신호(v1)로 크기를 변환하는 역할을 수행한다. 영상의 크기 변환방법은 'Bi-linear', 'Bi-cubic', 'Non-linear' 필터 등을 이용하여 변환을 수행한다. 즉, 사용자는 미리 다양한 영상 크기 중 하나를 선택하여 설정해 둘 수 있다. 크기가 변환된 신호(v1)는 비디오 인코더(613)의 입력이 된다. 비디오 인코더(613)의 입력 데이터는 원본 크기의 비디오 신호(v0)와 변환된 크기의 비디오 신호(v1)가 있으며 출력 데이터는 압축된 비디오 데이터(v2)와 변환된 크기의 압축된 비디오 데이터(v3)가 있을 수 있다.
저장용 A/V 다중화기(620)는 일반적인 파일 시스템 다중화기로서 입력된 오디오 데이터(a1) 및 비디오 데이터(v2)와 카메라 정보를 미리 설정된 파일 포맷 규격으로 만들어 저장 매체(630)에 저장하는 역할을 수행한다. 파일 포맷 규격으로는, 대표적으로 'MP4', 'mov', 'avi' 등이 있다.
스트림용 A/V 다중화기(640)는 실시간 전송을 위해 네트워크 연결부(650)로 데이터를 전송하는 역할을 수행한다. 스트림용 A/V 다중화기(640)에서는 실시간 전송 위해서 적절한 파일 포맷을 갖는다. 이 파일 구조는 다수의 비디오 정보 및 다수의 오디오 정보를 포함할 수 있으며, 특히 다수의 카메라 관련 정보들도 포함하고 있다. 이 카메라 관련 정보는 다음과 같은 내용을 갖는다. 사용자가 보고 싶어하는 물체 혹은 뷰 포인트 관련 정보, 카메라 캘리브레이션 정보, 지자기 센서 정보, GSP 정보, 카메라 움직임 정보를 항상 포함할 수 있다. 뷰 포인트(View point) 관련 정보는, 사용자가 별도로 뷰 포인트를 지정하지 않을 경우, 기본 뷰 포인트로서 예를 들어, 촬영 장치의 전면의 촬영 중심을 뷰 포인트로 정할 수 있다.
도 7은, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치에 의해 수행되는 영상의 병합(merge) 및 스티칭(stitching) 기능/동작에 의하여 생성된 영상을 설명하기 위한 예시 도면이다. 도 7에 도시된 외부 촬영 장치(501) 및 전자 장치(502)는 상기 도 5에 도시된 구조를 가질 수 있다.
도 7을 참조하면, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치는, 상기 외부 촬영 장치에 구비된 예를 들어 2개의 카메라에 의하여 획득된 영상을 도 7에 도시된 바와 같이 병합할 수 있다. 도 7에서는, 설명의 편의상 상기 외부 촬영 장치에 2개의 카메라가 구비된 경우를 예시적으로 설명하였으나, 이에 의하여 본 문서의 실시예가 제한되는 것은 아니다. 본 문서의 다양한 실시예들에 따른 외부 촬영 장치는, 상기 병합된 영상에 대한 영상 정보를 상기 전자 장치(501)로 전송할 수 있다.
도 7을 참조하면, 본 문서의 다양한 실시예들에 따른 전자 장치(502)는, 상기 외부 촬영 장치(501)로부터 수신된 영상 정보를 이용하여 상기 전자 장치의 디스플레이부에 디스플레이 되는 영상을 생성할 수 있다. 도 7에서는, 상기 전자 장치(502)에 의하여 상기 외부 전자 장치(501)에서 제공된 병합된 영상들에 대한 스티칭이 수행된(또한, 예를 들어, 영상간 촬영 축 보정이 수행된) 영상을 예시적으로 도시한다. 스티칭 기능/동작을 통하여 상기 전자 장치(502)는 사용자에게 360도 전방향 영상을 제공할 수 있다. 상기 스티칭이 수행되어 상기 전자 장치(502)에 디스플레이되는 영상은, 상기 외부 촬영 장치(501)에 의하여 획득되고 있는 프리뷰 영상 및/또는 상기 외부 촬영 장치(501)에 의하여 획득되어 상기 전자 장치(502)에 이미 저장되어 있는 영상을 포함할 수 있다.
도 8은, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에서 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도의 변화를 설명하기 위한 예시 도면이다.
본 문서의 다양한 실시예들에 따르면, 외부 촬영 장치가 다양한 이동체 상에 설치될 수 있거나 설치 환경이 변경될 수 있는 등, 외부 촬영 장치의 촬영 자세에 변화가 발생할 수 있다. 이러한 촬영 자세의 변화에 대응되게 상기 외부 촬영 장치에 의하여 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도 중 적어도 하나의 각도에 대한 변화가 발생할 수 있다. 상기 외부 촬영 장치는 이와 같이 피치, 롤, 요 각도에 대한 정보(즉, 카메라 정보)를 상기 전자 장치로 전송하여, 전자 장치가 해당 외부 촬영 장치의 촬영 자세를 알 수 있도록 한다. 상기 피치 각도는 상기 카메라(또는, 상기 외부 촬영 장치)의 기울기(tilt) 값(예, x 축에 대한 회전 각도)에 해당하며, 상기 롤 각도는 상기 카메라(또는, 상기 외부 촬영 장치)의 전면 촬영 축을 회전 축으로 한 회전(rotation) 값(예, y 축에 대한 회전 각도)에 해당하며, 상기 요 각도는 상기 카메라(또는, 상기 외부 촬영 장치)의 수평 회전(pan/rotation-pan) 값(예, z 축에 대한 회전 각도)에 해당할 수 있다.
또한, 본 문서의 다양한 실시예들에 따르면, 외부 촬영 장치는 복수의 카메라를 구비한 경우에, 상기 전자 장치와 초기 접속할 경우 등에, 해당 복수의 카메라에 각각에 대한 고유한 촬영 특성에 대한 정보를 전자 장치로 전송할 수 있다.
보다 상세히 설명하면, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치는 예를 들어, 360도 전방향 영상을 사용자에게 제공하기 위하여 적어도 2개의 카메라를 구비하는 할 수 있다. 이때, 상기 외부 촬영 장치는 복수의 카메라 각각에 대한 고유한 촬영 특성 정보를 미리 저장할 수 있으며, 상기 외부 촬영 장치와 상기 전자 장치가 예를 들어 초기 연결될 경우에, 상기 복수의 카메라의 고유 촬영 특성 정보를 상기 전자 장치에 전송할 수 있다.
상기 복수의 카메라에 대한 고유 촬영 특성 정보는, 초기(default) 카메라 정보 또는 기준 카메라 정보라는 용어로도 언급될 수도 있는데, 이는 상기 외부 촬영 장치의 제조 과정에서 해당 외부 촬영 장치에 설치되는 각 카메라들의 피치(pitch) 각도 정보, 롤(roll) 각도 정보 및 요(yaw) 각도 정보를 포함할 수 있다. 예를 들면, 상기 제1카메라의 고유 촬영 특성 정보로서 피치 각도, 롤 각도 및 요 각도는 모두 0도로 설정될 수 있다. 그러나, 이는 예시적인 것이며, 제조 과정에서의 오차 등으로 인하여 적어도 어느 하나의 각도는 0도로 설정되지 아니하는 경우가 있을 수 있다. 또한, 복수의 카메라들 중에서 상기 제1카메라와 제2카메라간의 설치 공차 등에 의해 각각의 고유 촬영 특성 정보에서 상기 피치, 롤, 요 각도는 서로 차이가 있을 수 있다. 본 문서에서는 이와 같이 외부 촬영 장치에서 자체 설치된 복수의 카메라에 대한 고유 촬영 특성 정보를 상기 전자 장치로 전송함으로써, 전자 장치가 복수의 카메라에 의해 촬영된 영상의 촬영 축의 틀어짐을 보정할 수 있도록 한다.
도 9a 및 도 9b는, 본 문서의 다양한 실시예들에 따른 전자 장치에서, 외부 촬영 장치로부터 전송된 복수의 카메라에 대한 고유 촬영 특성 정보를 이용하여 영상이 보정되는 과정을 설명하기 위한 예시 도면이다.
본 문서의 다양한 실시예들에 따른 전자 장치는 외부 촬영 장치에서 전송된 복수의 카메라에 대한 고유 촬영 특성 정보를 이용하여 상기 외부 촬영 장치로부터 전송된 복수의 영상 각각을 보정(calibration)할 수 있다. 도 9a에서는, 상기 외부 전자 장치의 예를 들어 전면 카메라(제1카메라; 특정한 객체를 향하고 있는 방향에 위치한 카메라)에 의하여 획득된 영상을 상기 제1 카메라 고유 촬영 특성 정보(즉, 피치 각도, 롤 각도 및 요 각도)에 따라 보정한 영상을 예시적으로 도시한다. 마찬가지로, 도 9b에서는, 상기 외부 촬영 장치의 예를 들어 후면 카메라(제2카메라; 사용자를 향하는 방향에 위치한 카메라)에 의하여 획득된 영상을 상기 제2카메라 고유 촬영 특성 정보(즉, 피치 각도, 롤 각도 및 요 각도)와 일치하도록 보정한 영상을 예시적으로 도시한다. 도 9a 및 도 9b의 예에서는, 제1카메라 및 제2카메라에서 촬영된 영상들이 수평 방향 기울기가 정확히 보정되는 것이 도시되고 있다.
본 문서의 다양한 실시예들에 따른 상기 도 9a 및 도 9b에 도시된 바와 같은 촬영 축에 대한 보정을 수행한 후, 상기 보정된 영상에 대해서 스티칭을 수행할 수 있다. 이에 따라 복수의 카메라에 의해 촬영된 복수의 영상들 정확히 정렬될 수 있어서, 스티칭 시에 복수의 영상들간의 경계면이 매끄럽게 연결될 수 있게 된다. 상기 전자 장치는, 상기 스티칭된 영상을 상기 전자 장치에 디스플레이 할 수 있다.
도 10a 및 도 10b는, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치의 자세가 변동된 경우에 전자 장치에서 디스플레이될 수 있는 영상들을 설명하기 위한 예시 도면이다.
도 10a에는 예를 들어, 외부 촬영 장치의 위치가 정위치인 경우에, 전자 장치에서 스티칭된 전방향 영상의 예가 도시되고 있다. 도 10a에 같은 상태에서, 상기 외부 촬영 장치의 자세가 역전되면, 전자 장치에서 스티칭된 전방향 영상도 상기 도 10a에 비해 영상의 객체가 뒤집힌 상태가 된다. 도 10b에 도시된 상태로 전방향 영상을 화면 상에 디스플레이하게 되면, 화면 상에는 뒤집힌 영상이 디스플레이된다.
한편, 전자 장치의 화면 상에 디스플레이되는 영상은 상기 도 10a 및 도 10b에 도시된 바와 같은 전방향 영상의 전 영역이 모두 디스플레이될 수도 있지만, 객체 인식률, 실제 사람의 시야각 및 시인성, 디스플레이 화면 사이즈 등을 고려하여, 전방향 영상 중 사용자 관심 영역(FOV)에 해당하는 일부의 뷰 영역만 디스플레이한다.
도 11a 및 도 11b는, 본 문서의 다양한 실시예들에 따른 전자 장치(예를 들어, 스마트폰)에서 디스플레이될 수 있는 전방향 영상 중 사용자 뷰 영역이 디스플레이되는 것을 설명하기 위한 예시 도면이다. 도 11a 및 도 11b는 각각 상기 도 10a 및 도 10b의 전방향 영상에 대응되는 화면일 수 있다.
도 11a 및 도 11b에 도시된 바와 같이, 전자 장치의 화면 상에 디스플레이되는 영상은 전방향 영상 중 사용자가 지정한 뷰 포인트에 해당하는 일부의 뷰 영역(FOV)이 디스플레이된다. 도 11a 및 도 11b에서는 예를 들어 뷰 영역이 전방향 영상 중 중심 부위로 설정된 것이 도시되고 있다. 또한, 도 11b에서는 뷰 영역의 영상이 도 11b에 비해 뒤집힌 상태로 디스플레이됨을 알 수 있다.
도 12a, 도 12b 및 12c는, 본 문서의 다양한 실시예들에 따른 전자 장치에서 디스플레이될 수 있는 전방향 영상 중 사용자 원하는 뷰 영역을 외부 촬영 장치로부터 전송된 촬영 자세 정보를 이용하여 보정하는 것을 설명하기 위한 예시 도면이다. 도 12a, 도 12b 및 도 12c에는 각각 전방향 영상이 도시되고 있으며, 전방향 영상 중 중심 부위의 사각형 영역이 뷰 영역인 것이 예로 도시되고 있다.
외부 촬영 장치는 실시간으로 영상 정보를 전송하면서, 아울러 예를 들어, 주기적으로 해당 외부 촬영 장치의 촬영 자세(즉, 피치 각도, 롤 각도, 요 각도)에 대한 정보를 카메라 정보에 포함하여 전자 장치로 전송할 수 있다. 전자 장치는 상기 외부 촬영 장치로부터 전송된 촬영 자세에 대한 정보를 이용하여 해당 외부 촬영 장치의 흔들림(및 이에 따른 촬영 화면의 흔들림)을 알 수 있게 된다. 또한, 전자 장치는 촬영 자세에 대한 정보에 따라 현재 디스플레이되는 뷰 영역의 위치를 보정함으로써, 결과적으로 흔들림 없는 뷰 영상이 디스플레이되도록 한다.
즉, 본 문서의 다양한 실시예에서, 상기 전자 장치는 도 12a의 사각형 영역이 뷰 영역으로 디스플레이되고 있는 상태에서, 촬영 자세에 대한 정보(피치 각도, 롤 각도, 요 각도에 대한 정보)를 이용하여, 도 12b에서 도시된 바와 같이, 뷰 영역의 위치에 해당하는 영상이 화면 상에서 변동 없이(즉, 흔들림 없이) 디스플레이되도록 전방향 영상을 시계방향/반시계 방향으로 회전 하거나, 상하, 좌우로 이동시킬 수 있다. 또는, 본 문서의 다른 다양한 실시예에서는, 상기 도 12c에 도시된 바와 같이, 촬영 자세에 대한 정보를 이용하여 전방향 영상에서 뷰 영역을 시계방향/반시계 방향으로 회전 하거나, 상하, 좌우로 이동시킬 수도 있으며, 결과적으로, 화면 상에 디스플레이되는 영상에서 흔들림을 없앨 수 있다.
예를 들어, 상기 외부 촬영 장치의 자세가 역전되는 등 회전하게 되면, 외부 촬영 장치가 회전되지 않은 상태에서 촬영된 영상과 동일한 방향으로 영상이 디스플레이 되도록, 전자 장치는 예를 들면, 상기 촬영 자세 정보에서 롤 각도에 따라 전방향 영상을 회전시켜 뷰 영역을 화면 상에 디스플레이 하도록 제어할 수 있다. 마찬가지로, 외부 촬영 장치의 자세가 상하로 기울어지거나, 좌우로 회전(pan)하면, 전자 장치는 촬영 자세 정보에서 피치 각도 또는 요 각도에 따라 전방향 영상을 상하 또는 좌우로 이동시켜 뷰 영역을 화면 상에 디스플레이하도록 제어할 수 있다. 또한, 이외에도, 본 문서의 다양한 실시예에서는, 외부 촬영 장치가 자신의 이동 정보도 상기 전자 장치로 전송하도록 구현할 수 있으며, 상기 전자 장치는 이러한 이동 정보를 추가로 반영하여 상기 뷰 영역이 위치를 실시간적으로 변경하도록 구현할 수도 있다.
도 13은, 본 문서의 다양한 실시예들에 따른 전자 장치(예, 스마트폰) 및 외부 촬영 장치 사이의 통신 절차를 설명하기 위한 예시 도면이다.
도 13을 참조하면, 먼저 1301동작에서, 전자 장치와 외부 촬영 장치는 다양한 통신 방식 중 미리 설정된 방식에 따라 상호 연결 동작을 수행한다. 예를 들어 UPnP(Universal Plug and Play) 방식에 따라 상호 연결될 수 있다. 이러한 연결 동작은 상호 장치 발견, 상호 인증, 통신 연결 개설, 상호 지원 가능 서비스 확인 등의 동작을 수행할 수 있다.
1311동작에서는, 전자 장치는 외부 촬영 장치로 촬영 영상 송신을 개시할 것을 요청한다. 해당 요청에 대해 1312동작에서는 외부 촬영 장치가 전자 장치로 응답한다. 외부 촬영 장치로 상기 응답을 받으면, 전자 장치는 1313동작에서, 영상, 음성 및 카메라 관련 기본 정보(즉, 복수의 카메라 각각의 고유 특성 정보)를 요청한다. 1314동작에서 외부 촬영 장치는 상기 전자 장치의 요청에 대한 응답으로 관련 정보를 전송하다.
이후 1315동작에서는, 외부 촬영 장치는 전방향 영상 생성을 위해 복수의 카메라를 통해 촬영한 영상들 및 오디오 데이터 전송을 실시간적으로 진행한다. 특히 이때 촬영 자세에 관한 정보를 포함한 카메라 정보도 주기적으로 전송한다. 이에 따라 전자 장치는 복수의 영상들에 대한 촬영 축 보정 및 촬영 자세 보정 동작을 수행할 수 있다. 한편, 이러한 1315동작시에, 본 문서의 다양한 실시예 중 적어도 일부에 따라 후술하는 바와 같이, 예를 들어 기본 뷰 포인트를 중심으로 한 영상(즉, 뷰 영역에 해당하는 영상) 및 오디오 데이터의 전송을 진행할 수도 있다.
1316동작에서는 본 문서의 다양한 실시예 중 적어도 일부에 따라. 전자 장치에서 사용자에 의한 뷰 포인트 조정 이벤트가 발생할 경우에 이를 외부 촬영 장치로 요청한다. 이에 따라 1317동작에서 외부 촬영 장치는 카메라 정보를 업데이트하고 관련된 정보와 더불어, 요청된 뷰 포인트 관련 영상 데이터를 전송할 수 있다.
상기 1316동작에서 뷰 포인트 조정 이벤트는 예를 들어, 터치스크린 디스플레이를 구비한 전자 장치에서, 화면의 상하 좌우 방향으로 이동을 조작하기 위해 미리 적절히 설정된 터치스크린 상의 조작에 대응되게 발생될 수 있다. 또는, 이외에도 상기 뷰 포인트 조정 이벤트는 예를 들어, HMD로 구현되거나 또는 HMD와 결합될 수 있도록 구현된 전자 장치에서, 사용자의 시선 방향의 변경을 감지하여 이와 대응되게 발생될 수 있다.
한편, 본 문서의 다양한 실시예서는 외부 촬영 장치는 전방향 영상 생성을 위해 복수의 카메라를 통해 촬영한 영상들에 대한 영상 데이터를 모두 전자 장치로 전송하며, 전자 장치에서 자체적으로 기본 뷰 영역을 디스플레이하고 뷰 포인트 조정 이벤트의 입력시에 이에 따라 자체적으로 뷰 영역을 조정하는 동작을 수행하도록 구성할 수도 있다. 다만, 상기 도 13에 도시된 바와 같이 외부 촬영 장치가 뷰 영역에 해당하는 영상 데이터를 전자 장치로 전송할 경우에는 전송 효율을 높일 수 있다.
도 14는, 본 문서의 다양한 실시예들에 따른 전자 장치 및 외부 촬영 장치에서의 동작 흐름을 설명하기 위한 예시 도면이다. 도 14에 도시된 동작은 예를 들어, 상기 도 13에 도시된 통신 절차에서 실시간으로 영상 데이터를 비롯한 관련 데이터를 전송하는 1315동작의 보다 상세한 동작 흐름에 해당할 수 있다.
도 14를 참조하면, 외부 촬영 장치(예를 들어, 도 5의 참조번호 501)는 영상 입력 및 처리 절차와, 오디오 입력 및 처리 절차 및 카메라 정보 입력 및 처리 절차를 동시에 수행한다. 즉, 1401동작, 1411동작, 및 1421동작을 병렬적으로 수행하여, 각각 영상 입력, 오디오 입력, 및 촬영 자세에 대한 정보(즉, 센서 정보)를 입력받는다. 1402동작에서는 입력된 영상이 복수의 카메라(즉, 렌즈)에 의해 입력된 영상인지 확인하여 복수의 카메라에 의해 입력된 영상인 경우에는 1403동작에서 복수의 영상을 병합(merge)하고, 이후 1404동작에서 상기 병합된 영상들에 대한 데이터를 인코딩한다. 한편, 상기 1402동작 동작에서 확인 결과, 복수의 카메라에 의해 입력된 영상이 아닐 경우에는 상기 1404동작으로 곧바로 진행하여 입력된 영상을 인코딩한다. 한편, 상기 1421동작에서는. 상기 1411동작에서 입력된 오디오 데이터에 대한 인코딩을 수행한다. 또한, 1422동작에서는, 상기 1421동작에서 입력된 센서 정보(raw data)를 각도 정보로 변환한다.
이후 1430동작에서는, 상기와 같이 인코딩된 영상 데이터 및 오디오 데이터와, 변환된 각도 정보를 다중화한다. 이후 1440동작에서는 상기 다중된 데이터 파일을 전자 장치측으로 무선 전송한다.
상기 동작을 통해, 외부 촬영 장치에서는 실시간으로 입력되는 비디오/오디오/센서 정보를 합(다중화)하여 실시간으로 전자 장치로 무선 전송함을 알 수 있다.
전자 장치(예를 들어, 도 5의 참조번호 502)는 상기 외부 촬영 장치로부터 실시간으로 전송된 데이터 파일을 수신하여 영상 처리 절차와, 오디오 처리 절차 및 카메라 정보 처리 절차를 동시에 수행한다. 즉, 1471동작 및 1481동작을 병렬적으로 수행하여, 각각 영상 데이터, 오디오 데이터를 디코딩한다. 1472동작에서는 디코딩된 영상 데이터가 복수의 카메라(즉, 렌즈)에 의한 영상 데이터인지 확인하여 복수의 카메라에 의한 복수의 영상 데이터일 경우에는 1473동작에서 복수의 영상을 상기 촬영 축 보정과 더불어 스티칭한다.
이후 1490동작에서는 상기 스티칭한 영상 또는 스티칭한 영상 중 뷰 영역에 대한 영상을 화면 상에 디스플레이하면서 디코딩된 오디오를 출력한다. 이때, 화면 상에 디스플레이되는 영상의 흔들림 보정을 수행하게 된다.
도 15a 및 도 15b는, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에 의하여 전자 장치로 전송되는 파일의 포맷을 설명하기 위한 예시 도면이다. 도 15a 및 도 15b에 도시된 파일 포맷은 예를 들어, 외부 촬영 장치에서 전자 장치로 연결 초기에 전송되는 데이터 파일의 포맷일 수 있다.
도 15a 및 도 15b를 참조하면, 전송 파일은 기본적으로, 파일 포맷 필드 부분과, 데이터 필드 부분으로 크게 구분할 수 있는데, 파일 포맷 필드 부분에는, 복수의 카메라(또는 영상) 각각에 해당하는 비디오 채널들에 대한 포맷 정보(즉, 'Video Steam Information 1, 2,…. n')와, 오디오 채널에 대한 포맷 정보(즉, 'Audio Stream Information')를 포함한다. 이러한 비디오 채널들에 대한 포맷 정보 및 오디오 채널에 대한 포맷 정보는 일반적인 비디오/오디오 전송을 위한 포맷 정보의 형식과 실질적으로 동일 수 있다. 이때, 상기 파일 포맷 필드 부분에는, 본 문서의 다양한 실시예에 따라 상기한 오디오/비디오 포맷 정보와 더불어, 복수의 카메라 각각에 대한 카메라 데이터 포맷 정보(즉, 'Camera Information 1, 2,…. n)가 추가로 더 포함된다.
상기 카메라 데이터 포맷 정보를 위한 필드 부분은, 도 15b에 도시한 바와 같이, 카메라 데이터 포맷 정보임을 알리는 헤더(예를 들어, '카메라 데이터 헤더 마크') 필드 부분과, 헤더 사이즈 필드 부분, 및 카메라 데이터 포맷에 관한 실제 정보 필드 부분으로 세분화할 수 있다.
카메라 데이터 포맷에 관한 실제 정보 필드 부분은, 복수의 카메라 각각에 대한 고유 촬영 특성 정보에 해당하는 피치 각도, 롤 각도, 요 각도 정보나, 실시간 촬영 자세에 대한 정보에 해당하는 피치 각도, 롤 각도, 요 각도 정보가 있을 수 있다. 또는 상기 피치 각도, 롤 각도, 요 각도 정보를 시계/반시계 방향 회전(rotation)과 상하 기울기(tilt) 및 수평 회전(pan) 값으로 변환한 정보가 있을 수 있으며, 그외 GPS 정보(위도, 경도 값) 등이 있을 수 있다. 또한, 이외에도, 상기 도 15b에는 도시되지 않았으나, 외부 촬영 장치의 이동 정보 등도 포함될 수 있다. 특히, 본 문서의 다양한 실시예에서는, 상기 복수의 카메라 각각에 대한 고유 촬영 특성 정보는 예를 들어, 시계/반시계 방향 회전과 상하 기울기 및 수평 회전 값으로 전송할 수 있으며, 실시간 촬영 자세 대한 정보는 피치 각도, 롤 각도, 요 각도 정보로 전송할 수 있다.
또한, 상기 카메라 데이터 포맷 정보에 포함되는 각각의 정보들을 구별하기 위해 각각 전송 타입에 대해 미리 정의될 수 있다. 또한, 상기 촬영 자세에 해당하는 피치 각도, 롤 각도, 요 각도 정보에 대한 전송 주기에 대해서도 미리 정의될 수 있다.
상기와 같이, 카메라 데이터 포맷 정보를 포함하여 파일 포맷 필드가 구현될 수 있으며, 이러한 파일 포맷 필드와 관련된, 각각의 오디오/비디오 데이터 및 카메라 데이터는 데이터 필드 부분에 포함되어 전송된다. 실시간 데이터 스트림 전송 동작시는, 데이터 필드에서는 카메라 정보와 관련하여, 상기 미리 설정된 주기에 맞추어, 예를 들어, 복수의 카메라 각각에 대한 고유 촬영 특성 정보에 해당하는 피치 각도, 롤 각도, 요 각도 정보나, 실시간 촬영 자세에 대한 정보에 해당하는 피치 각도, 롤 각도, 요 각도 정보나, 복수의 카메라 각각에 대한 고유 촬영 특성 정보에 해당하는 시계/반시계 방향 회전과 상하 기울기 및 수평 회전 값이나, 또는 GPS 정보, 또는 해당 외부 촬영 장치의 이동 정보 등이 전송된다.
도 16a 및 도 16b는, 본 문서의 다양한 실시예들에 따른 외부 촬영 장치에 의하여 전자 장치에 전송되는 비디오, 오디오 및 카메라 정보의 스트림 파일 포맷(format)을 설명하기 위한 예시 도면이다. 도 16a 및 도 16b에는 특히, 도 15a 및 도 15b와 비교하여, 데이터 필드 부분에 포함될 수 있는, 복수의 카메라 각각에 대응되는 오디오/비디오 데이터 및 카메라 데이터의 전송 포맷이 보다 상세히 도시되고 있다.
도 16a 및 도 16b에 도시된 바와 같이, 비디오 데이터, 오디오 데이터 및 카메라 데이터 각각은 해당 데이터를 구분하기 위한 태그 필드(즉, 'Video Data Tag', 'Audio Data Tag', 'Camera Data Tag')와, 데이터 사이즈를 기재한 필드, 타임 스탬프 필드, 및 데이터 필드로 구분된 포맷으로 전송될 수 있다.
도 16a에는 예를 들어, 외부 촬영 장치에서, DMA(Direct Memory Access)를 이용하여 데이터를 전송할 경우의 실시예가 도시되고 있다. 도 16b에는 도 16a에 비해, 예를 들어 특정한 통신 표준(예를 들면, 고속 전송을 위한 프로토콜 등)을 통하여 전송할 경우에 해당 통신 표준에 맞추어 데이터를 가공할 경우(예를 들어, dummy 정보가 포함되어 전송할 데이터의 크기가 재조정된(aligned) 경우)의 예가 도시되고 있다.
본 문서에서, 상기 외부 전자 장치에서 획득된 영상에 대한 스티칭이 수행되는 과정은, 상기 전자 장치에 의하여 수행되는 것으로 설명되었다. 그러나, 본 문서의 다양한 실시예들에 따르면, 상기 스티칭 기능/또는 동작은, 상기 외부 전자 장치에 의하여 수행될 수도 있다. 이 경우, 상기 스티칭된 영상에 대한 정보가 상기 전자 장치에 제공될 수 있다.
본 문서의 다양한 실시예들에 따르면, 상기 외부 전자 장치는, 적어도 2개의 카메라, 메모리, 프로세서, 통신 인터페이스, 디스플레이 중 적어도 일부를 포함할 수 있다.
도 17은, 본 문서의 다양한 실시예들에 따른 전자 장치의 제어 방법을 설명하기 위한 예시 도면이다.
도 17을 참조하면, 본 문서의 다양한 실시예들에 따른 전자 장치의 제어 방법은, 외부 전자 장치에 의하여 획득된 영상 정보 및 상기 외부 촬영 장치의 카메라 정보를 획득하는 동작(1700)을 포함할 수 있다. 이후 상기 획득된 영상 정보를 이용하여 전자 장치에 디스플레이 될 영상을 생성하는 동작(1710)과, 이후 상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하는 동작(1720)과, 상기 보정된 영상을 상기 전자 장치에 디스플레이 하는 동작(1730)을 수행할 수 있다.
상기한 본 문서의 다양한 실시예에 대한 설명에서, 상기 외부 촬영 장치에서 획득된 영상에 대한 스티칭이 수행되는 동작은 상기 전자 장치에 의하여 수행되는 것으로 설명되었다. 그러나, 본 문서의 다양한 실시예들에 따르면, 그 외에도, 상기 스티칭 기능/또는 동작은, 상기 외부 촬영 장치에 의하여 수행될 수도 있다. 물론, 이 경우에 외부 촬영 장치에서 상기 스티칭 기능/동작 수행시 복수의 카메라에 대한 촬영 축 보정 동작을 수행할 수 있다. 외부 촬영 장치에서 촬영 축이 보정되어 스티칭된 영상이 전자 장치에 제공될 수 있으며, 그럴 경우에 전자 장치는 상기 촬영 자세 보정 동작을 수행하여, 흔들림 없는 영상 제공 동작을 수행할 수 있다.
또한, 상기한 본 문서의 다양한 실시예에 대한 설명에서는, 외부 촬영 장치와 전자 장치가 유/무선으로 직접 연결되는 경우를 예로 들어 설명하고 있다. 그러나, 본 문서의 다양한 실시예 따르면, 상기 외부 촬영 장치와 전자 장치가 직접적으로 연결되지 않을 수도 있다. 예를 들어, 무선 인터넷 망을 통해 원격지의 외부 촬영 장치로부터 제공되는 영상을 전자 장치가 수신하여 이용할 수도 있다.
또한, 본 문서의 다양한 실시예에 따르면, 전자 장치는 외부 촬영 장치로부터 실시간 전송되는 영상 정보를 수신하는 것이 아니라, 기록 장치에 이미 저장된 영상 정보를 바탕으로 재생 동작을 수행을 수행할 수도 있으며, 그럴 경우에, 기 저장된 영상 정보에 포함될 수 있는 카메라 정보를 통해 촬영 축 보정 및/또는 자세 보정 동작을 수행할 수도 있다.
또한, 본 문서의 다양한 실시예에 따르면, 상기 외부 촬영 장치는 복수의 카메라가 아니라, 하나의 광각 카메라를 통해 영상 촬영 동작을 수행할 수도 있으며, 이러한 외부 촬영 장치에서 전자 장치로 제공되는 영상은 하나의 카메라에 의해 촬영된 광각 영상일 수도 있다. 그럴 경우에, 촬영 장치는 상기 외부 촬영 장치로부터 제공되는 광각 영상을 통해 예를 들어 뷰 영역의 영상을 화면에 디스플레이하면서 촬영 자세 보정(즉, 흔들림 보정) 동작만 수행할 수도 있다.
또한, 본 문서의 다양한 실시예에 따르면, 상기 외부 촬영 장치에서 촬영된 영상은 오디오 데이터와 다중화되지 않을 수도 있다. 이외에도 본 문서의 다양한 변형 및 변경이 가능할 수 있다. 이 밖에, 본 문서의 다양한 실시예들에 따른 전자 장치의 제어 방법에 대해서는 상술한 본 문서의 다양한 실시예들에 따른 전자 장치에 관한 설명이 동일하게 적용될 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면, "모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.

Claims (20)

  1. 전자 장치에 있어서,
    디스플레이부; 및
    프로세서를 포함하고, 상기 프로세서는,
    외부 촬영 장치에 의하여 촬영된 영상 정보를 획득하며, 상기 외부 촬영 장치의 촬영 자세에 관련된 정보를 포함하는 카메라 정보를 획득하고,
    상기 획득된 영상 정보를 이용하여 상기 전자 장치에 디스플레이 될 영상을 생성하고,
    상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하고,
    상기 보정된 영상을 상기 디스플레이부에 디스플레이 하도록 제어함을 특징으로 하는, 전자 장치.
  2. 제1항에 있어서,
    상기 촬영 자세에 관련된 정보는, 상기 외부 촬영 장치에서 상기 영상 촬영시에 감지한 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도에 관한 정보를 포함함을 특징으로 하는, 전자 장치.
  3. 제1항에 있어서,
    상기 보정된 영상을 상기 디스플레이부에 디스플레이 할 경우에, 사용자 관심 영역(FOV: Field Of View)에 해당하는 일부의 뷰 영역을 디스플레이함을 특징으로 하는, 전자 장치.
  4. 제3항에 있어서,
    상기 보정된 영상을 상기 디스플레이부에 디스플레이 하는 중에, 미리 설정된 뷰 포인트 조정 이벤트가 발생할 경우에, 상기 뷰 포인트 조정 이벤트에 대한 정보를 상기 외부 촬영 장치로 전송함을 특징으로 하는, 전자 장치.
  5. 제3항 또는 제4항에 있어서,
    상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하는 것은, 상기 생성된 영상 또는 상기 뷰 영역을 상기 촬영 자세에 따른 영상의 위치 변동을 상쇄하도록 회전, 상하, 또는 좌우 이동하는 것임을 특징으로 하는, 전자 장치.
  6. 제1항 내지 제4항 중 어느 한 항에 있어서, 상기 카메라 정보는, 상기 외부 촬영 장치의 이동에 관한 정보를 포함하며,
    상기 전자 장치는, 상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정시에, 상기 외부 촬영 장치의 이동에 관한 정보를 더 이용하여 상기 생성된 영상을 더 보정함을 특징으로 하는, 전자 장치.
  7. 제1항에 있어서,
    상기 획득된 영상 정보는, 복수 개의 카메라에 의하여 획득된 복수 개의 영상이 병합(merge)된 영상임을 특징으로 하는, 전자 장치.
  8. 제7항에 있어서,
    상기 전자 장치는, 상기 복수 개의 영상을 하나의 광각 영상으로 스티칭(stitching)하여 상기 디스플레이될 영상을 생성함을 특징으로 하는, 전자 장치.
  9. 제7항에 있어서, 상기 카메라 정보는, 상기 복수 개의 카메라 각각에 대한 고유 촬영 특성 정보를 포함하며,
    상기 전자 장치는, 상기 복수 개의 영상을 하나의 광각 영상으로 스티칭할 경우에, 상기 복수 개의 영상들의 촬영 축의 틀어짐을 보정함을 특징으로 하는, 전자 장치.
  10. 제9항에 있어서, 상기 복수 개의 카메라 각각에 대한 고유 촬영 특성 정보는, 상기 복수 개의 카메라 각각의 설치 상태에 대한 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도에 관한 정보를 포함함을 특징으로 하는, 전자 장치.
  11. 전자 장치의 제어 방법에 있어서,
    외부 촬영 장치에 의하여 촬영된 영상 정보 및 상기 외부 촬영 장치의 촬영 자세에 관련된 정보를 포함하는 카메라 정보를 획득하는 동작과,
    상기 획득된 영상 정보를 이용하여 상기 전자 장치에 디스플레이 될 영상을 생성하는 동작과,
    상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하는 동작과,
    상기 보정된 영상을 디스플레이 하는 동작을 포함함을 특징으로 하는, 전자 장치의 제어 방법.
  12. 제11항에 있어서,
    상기 촬영 자세에 관련된 정보는, 상기 외부 촬영 장치에서 상기 영상 촬영시에 감지한 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도에 관한 정보를 포함함을 특징으로 하는, 전자 장치의 제어 방법.
  13. 제11항에 있어서,
    상기 보정된 영상을 디스플레이 할 경우에, 사용자 관심 영역(FOV: Field Of View)에 해당하는 일부의 뷰 영역을 디스플레이함을 특징으로 하는, 전자 장치의 제어 방법.
  14. 제13항에 있어서,
    상기 보정된 영상을 상기 디스플레이부에 디스플레이 하는 중에, 미리 설정된 뷰 포인트 조정 이벤트가 발생할 경우에, 상기 뷰 포인트 조정 이벤트에 대한 정보를 상기 외부 촬영 장치로 전송함을 특징으로 하는, 전자 장치의 제어 방법.
  15. 제13항 또는 제14항에 있어서,
    상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정하는 것은, 상기 생성된 영상 또는 상기 뷰 영역을 상기 촬영 자세에 따른 영상의 위치 변동을 상쇄하도록 회전, 상하, 또는 좌우 이동하는 것임을 특징으로 하는, 전자 장치의 제어 방법.
  16. 제11항 내지 제14항 중 어느 한 항에 있어서, 상기 카메라 정보는, 상기 외부 촬영 장치의 이동에 관한 정보를 포함하며,
    상기 획득된 카메라 정보를 이용하여 상기 생성된 영상을 보정시에, 상기 외부 촬영 장치의 이동에 관한 정보를 더 이용하여 상기 생성된 영상을 더 보정함을 특징으로 하는, 전자 장치의 제어 방법.
  17. 제11항에 있어서,
    상기 획득된 영상 정보는, 복수 개의 카메라에 의하여 획득된 영상이 병합(merge)된 영상임을 특징으로 하는, 전자 장치의 제어 방법.
  18. 제17항에 있어서,
    상기 복수 개의 영상을 하나의 광각 영상으로 스티칭(stitching)하여 상기 디스플레이될 영상을 생성함을 특징으로 하는, 전자 장치의 제어 방법.
  19. 제17항에 있어서, 상기 카메라 정보는, 상기 복수 개의 카메라 각각에 대한 고유 촬영 특성 정보를 포함하며,
    상기 전자 장치는, 상기 복수 개의 영상을 하나의 광각 영상으로 스티칭할 경우에, 상기 복수 개의 영상들의 촬영 축의 틀어짐을 보정함을 특징으로 하는, 전자 장치의 제어 방법.
  20. 제19항에 있어서,
    상기 복수 개의 카메라 각각에 대한 고유 촬영 특성 정보는, 상기 복수 개의 카메라 각각의 설치 상태에 대한 피치(pitch) 각도, 롤(roll) 각도 및 요(yaw) 각도에 관한 정보를 포함함을 특징으로 하는, 전자 장치의 제어 방법.
PCT/KR2017/015646 2017-01-02 2017-12-28 전자 장치 및 그 제어 방법 WO2018124774A1 (ko)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2017-0000353 2017-01-02
KR1020170000353A KR102653336B1 (ko) 2017-01-02 2017-01-02 전자 장치 및 그 제어 방법

Publications (1)

Publication Number Publication Date
WO2018124774A1 true WO2018124774A1 (ko) 2018-07-05

Family

ID=62709717

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/015646 WO2018124774A1 (ko) 2017-01-02 2017-12-28 전자 장치 및 그 제어 방법

Country Status (2)

Country Link
KR (1) KR102653336B1 (ko)
WO (1) WO2018124774A1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111405190A (zh) * 2020-04-23 2020-07-10 南京维沃软件技术有限公司 图像处理方法及装置
WO2021003420A1 (en) * 2019-07-03 2021-01-07 Gpro, Inc. Apparatus and methods for pre-processing and stabilization of captured image data
US20210250021A1 (en) * 2018-08-28 2021-08-12 Texas Instruments Incorporated Methods and apparatus to transmit signals in isolated gate drivers
US11529916B1 (en) * 2019-12-27 2022-12-20 Zoox, Inc. Multiplexing sensor data

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003267295A (ja) * 2002-03-14 2003-09-25 Foundation For Nara Institute Of Science & Technology 遠隔操縦システム
JP2005295495A (ja) * 2003-10-02 2005-10-20 Kazuo Iwane カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置，画像安定化装置，位置姿勢安定化装置，目的対象物ロックオン装置及び実写対象物属性呼出装置
KR20100005378A (ko) * 2008-07-07 2010-01-15 한국전자통신연구원 지리정보 시스템을 이용한 카메라 위치제어 방법 및 장치
KR101185136B1 (ko) * 2012-04-26 2012-09-24 주식회사 로보멕 3차원 스테빌라이져 팬틸트 장치
JP5155145B2 (ja) * 2006-02-23 2013-02-27 パナソニック株式会社 画像補正装置、方法、プログラム、集積回路、システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003267295A (ja) * 2002-03-14 2003-09-25 Foundation For Nara Institute Of Science & Technology 遠隔操縦システム
JP2005295495A (ja) * 2003-10-02 2005-10-20 Kazuo Iwane カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置，画像安定化装置，位置姿勢安定化装置，目的対象物ロックオン装置及び実写対象物属性呼出装置
JP5155145B2 (ja) * 2006-02-23 2013-02-27 パナソニック株式会社 画像補正装置、方法、プログラム、集積回路、システム
KR20100005378A (ko) * 2008-07-07 2010-01-15 한국전자통신연구원 지리정보 시스템을 이용한 카메라 위치제어 방법 및 장치
KR101185136B1 (ko) * 2012-04-26 2012-09-24 주식회사 로보멕 3차원 스테빌라이져 팬틸트 장치

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210250021A1 (en) * 2018-08-28 2021-08-12 Texas Instruments Incorporated Methods and apparatus to transmit signals in isolated gate drivers
US11799466B2 (en) * 2018-08-28 2023-10-24 Texas Instruments Incorporated Methods and apparatus to transmit signals in isolated gate drivers
WO2021003420A1 (en) * 2019-07-03 2021-01-07 Gpro, Inc. Apparatus and methods for pre-processing and stabilization of captured image data
US11050938B2 (en) 2019-07-03 2021-06-29 Gopro, Inc. Apparatus and methods for pre-processing and stabilization of captured image data
US11582387B2 (en) 2019-07-03 2023-02-14 Gopro, Inc. Apparatus and methods for pre-processing and stabilization of captured image data
US11949987B2 (en) 2019-07-03 2024-04-02 Gopro, Inc. Apparatus and methods for pre-processing and stabilization of captured image data
US11529916B1 (en) * 2019-12-27 2022-12-20 Zoox, Inc. Multiplexing sensor data
CN111405190A (zh) * 2020-04-23 2020-07-10 南京维沃软件技术有限公司 图像处理方法及装置

Also Published As

Publication number Publication date
KR102653336B1 (ko) 2024-04-02
KR20180079767A (ko) 2018-07-11

Similar Documents

Publication Publication Date Title
EP3869790B1 (en) Electronic device and image capturing method thereof
WO2018117757A1 (en) Method and device for managing thumbnail of three-dimensional contents
WO2018182292A1 (en) Electronic device and control method thereof
WO2016137187A1 (en) Apparatus and method for providing screen mirroring service
WO2017119602A1 (en) Electronic device
WO2016163739A1 (en) Apparatus and method for setting camera
WO2017142182A1 (ko) 이미지 처리 방법 및 이를 지원하는 전자 장치
WO2017039396A1 (ko) 초광각 광학계
WO2018048177A1 (ko) 전자 장치 및 복수의 영상을 처리하는 방법
WO2018004238A1 (en) Apparatus and method for processing image
WO2018124774A1 (ko) 전자 장치 및 그 제어 방법
WO2017171248A1 (ko) 이미지를 처리하기 위한 전자 장치 및 방법
WO2017209409A1 (ko) 구형 컨텐츠 편집 방법 및 이를 지원하는 전자 장치
WO2017135675A1 (ko) 이미지 처리장치 및 방법
WO2018117533A1 (en) Electronic device and method for controlling the same
WO2018106019A1 (ko) 콘텐츠 출력 방법 및 이를 지원하는 전자 장치
WO2018080244A1 (ko) 전방위 영상을 획득하는 방법 및 장치
WO2018174674A1 (en) Electronic device and method for authenticating biometric data thorough plural cameras
WO2018097561A1 (en) Electronic device for controlling microphone parameter
WO2017111291A1 (en) Electronic device and method of controlling the same
WO2018117681A1 (ko) 이미지 처리 방법 및 이를 지원하는 전자 장치
WO2017078283A1 (ko) 사용자의 위치를 결정하는 전자 장치 및 그 제어 방법
WO2017126767A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2018151447A1 (ko) 피사체의 이미지를 획득하기 위한 인터페이스를 제공하는 방법 및 전자 장치
WO2018131852A1 (ko) 영상 통화를 수행하기 위한 전자 장치 및 컴퓨터 판독 가능한 기록매체

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17888191

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17888191

Country of ref document: EP

Kind code of ref document: A1