WO2025211685A1 - 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법 - Google Patents

복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법

Info

Publication number
WO2025211685A1
WO2025211685A1 PCT/KR2025/004190 KR2025004190W WO2025211685A1 WO 2025211685 A1 WO2025211685 A1 WO 2025211685A1 KR 2025004190 W KR2025004190 W KR 2025004190W WO 2025211685 A1 WO2025211685 A1 WO 2025211685A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
electronic device
depth information
stereo
rear camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
PCT/KR2025/004190
Other languages
English (en)
French (fr)
Inventor
정재윤
여윤재
지서원
김택정
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020250040526A external-priority patent/KR20250146953A/ko
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of WO2025211685A1 publication Critical patent/WO2025211685A1/ko
Pending legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106—Processing image signals
    • H04N13/128—Adjusting depth or disparity
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/239—Image signal generators using stereoscopic image cameras using two two-dimensional [2D] image sensors having a relative position equal to or related to the interocular distance
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Definitions

  • FIG. 3 is a diagram illustrating a state in which multiple cameras are arranged in an electronic device according to one embodiment of the present disclosure.
  • FIG. 1 is a block diagram of an electronic device within a network environment according to one embodiment.
  • the auxiliary processor (123) may control at least a portion of functions or states associated with at least one component (e.g., a display module (160), a sensor module (176), or a communication module (190)) of the electronic device (101), for example, on behalf of the main processor (121) while the main processor (121) is in an inactive (e.g., sleep) state, or together with the main processor (121) while the main processor (121) is in an active (e.g., application execution) state.
  • the auxiliary processor (123) e.g., an image signal processor or a communication processor
  • the input module (150) can receive commands or data to be used in a component of the electronic device (101) (e.g., a processor (120)) from an external source (e.g., a user) of the electronic device (101).
  • the input module (150) can include, for example, a microphone, a mouse, a keyboard, a key (e.g., a button), or a digital pen (e.g., a stylus pen).
  • the display module (160) can visually provide information to an external party (e.g., a user) of the electronic device (101).
  • the display module (160) may include, for example, a display, a holographic device, or a projector, and a control circuit for controlling the device.
  • the display module (160) may include a touch sensor configured to detect a touch, or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the sensor module (176) can detect the operating status (e.g., power or temperature) of the electronic device (101) or the external environmental status (e.g., user status) and generate an electrical signal or data value corresponding to the detected status.
  • the sensor module (176) can include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface (177) may support one or more designated protocols that may be used to directly or wirelessly connect the electronic device (101) with an external electronic device (e.g., the electronic device (102)).
  • the interface (177) may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card
  • the camera module (180) can capture still images and videos.
  • the camera module (180) may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module (188) can manage power supplied to the electronic device (101).
  • the power management module (188) can be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • a battery (189) may power at least one component of the electronic device (101).
  • the battery (189) may include, for example, a non-rechargeable primary battery, a rechargeable secondary battery, or a fuel cell.
  • the communication module (190) may include a wireless communication module (192) (e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module (194) (e.g., a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module (192) e.g., a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module (194) e.g., a local area network (LAN) communication module, or a power line communication module.
  • the wireless communication module (192) can support a peak data rate (e.g., 20 Gbps or more) for eMBB realization, a loss coverage (e.g., 164 dB or less) for mMTC realization, or a U-plane latency (e.g., 0.5 ms or less for downlink (DL) and uplink (UL), or 1 ms or less for round trip) for URLLC realization.
  • a peak data rate e.g., 20 Gbps or more
  • a loss coverage e.g., 164 dB or less
  • U-plane latency e.g., 0.5 ms or less for downlink (DL) and uplink (UL), or 1 ms or less for round trip
  • the antenna module (197) can transmit or receive signals or power to or from an external device (e.g., an external electronic device).
  • the antenna module (197) may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (e.g., a PCB).
  • the antenna module (197) may include a plurality of antennas (e.g., an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network, such as the first network (198) or the second network (199), may be selected from the plurality of antennas, for example, by the communication module (190). A signal or power may be transmitted or received between the communication module (190) and an external electronic device via the selected at least one antenna.
  • another component e.g., a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • One or more external electronic devices that receive the request may execute at least a portion of the requested function or service, or an additional function or service related to the request, and transmit the result of the execution to the electronic device (101).
  • the electronic device (101) may process the result as is or additionally and provide it as at least a portion of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used, for example.
  • the electronic device (101) may provide an ultra-low latency service by using distributed computing or mobile edge computing, for example.
  • the external electronic device (104) may include an Internet of Things (IoT) device.
  • the server (108) may be an intelligent server utilizing machine learning and/or a neural network.
  • the external electronic device (104) or the server (108) may be included in the second network (199).
  • the electronic device (101) can be applied to intelligent services (e.g., smart home, smart city, smart car, or healthcare) based on 5G communication technology and IoT-related technology.
  • the artificial intelligence-related functions are operated through a processor and memory.
  • the processor may be composed of one or more processors.
  • one or more processors may be a general-purpose processor such as a central processing unit (CPU), an application processor (AP), or a digital signal processor (DSP), a graphics-only processor such as a graphics processing unit (GPU) or a vision processing unit (VPU), or an artificial intelligence-only processor such as an NPU.
  • processors control the processing of input data according to predefined operation rules or artificial intelligence models stored in memory.
  • the artificial intelligence-only processor may be designed with a hardware structure specialized for processing a specific artificial intelligence model.
  • an electronic device (101) (e.g., the electronic device (101) of FIG. 1) may include a housing (201), a hinge cover (240) covering a foldable portion of the housing (201), and a display (230) (e.g., the display module (160) of FIG. 1) disposed within a space formed by the housing (201).
  • the surface on which the screen output from the display (230) is exposed may be defined as the front surface of the electronic device (101) (e.g., the first front surface (210a) and the second front surface (220a)).
  • the surface opposite to the front surface may be defined as the back surface of the electronic device (101) (e.g., the first back surface (210b) and the second back surface (220b)).
  • the surface surrounding the space between the front surface and the back surface may be defined as the side surface of the electronic device (101) (e.g., the first side surface (210c) and the second side surface (220c)).
  • the side surface of the electronic device (101) may be the side surface of at least one of the first housing (210) and the second housing (220).
  • the electronic device (101) of FIGS. 2A and 2B may be referred to as a foldable electronic device, a portable electronic device, or a portable foldable electronic device.
  • the housing (201) may be referred to as a foldable housing.
  • the display (230) may be referred to as a “flexible display.”
  • the housing (201) may form at least a portion of the exterior of the electronic device (101).
  • the housing (201) may include a first housing (210), a second housing (220) that can rotate with respect to the first housing (210), a first rear cover (280), and a second rear cover (290).
  • the housing (201) of the electronic device (101) is not limited to the shape and combination shown in FIGS. 2A and 2B and may be implemented by a combination and/or combination of other shapes or parts.
  • the first housing (210) and the first rear cover (280) may be formed integrally
  • the second housing (220) and the second rear cover (290) may be formed integrally.
  • the first rear cover (280) may be defined and/or referred to as a first rear plate (280).
  • the second rear cover (290) may be defined and/or referred to as a second rear plate (290).
  • the first housing (210) is connected to a hinge structure (e.g., the hinge structure (202) of FIG. 4) and may include a first front surface (210a) facing a first direction and a first rear surface (210b) facing a second direction opposite to the first direction.
  • the second housing (220) is connected to the hinge structure and includes a second front surface (220a) facing a third direction and a second rear surface (220b) facing a fourth direction opposite to the third direction, and may rotate with respect to the first housing (210) about the hinge structure (202). Accordingly, the electronic device (101) may be variable between a folded state and an unfolded state.
  • the folding axis (Ax) may be a plurality of parallel folding axes (e.g., two).
  • the folding axis (Ax) is provided along the longitudinal direction (Y-axis direction) of the electronic device (101), but the direction of the folding axis (Ax) is not limited thereto.
  • the electronic device (101) includes a folding axis extending along the width direction (e.g., X-axis direction).
  • the electronic device (101) may include a structure into which a digital pen (not shown) can be attached.
  • the electronic device (101) may include a magnetic body configured to attach the digital pen to a side of the first housing (210) or a side of the second housing (220).
  • the electronic device (101) may include a structure into which a digital pen can be inserted.
  • a hole (not shown) into which a digital pen can be inserted may be formed in a side of the first housing (210) or a side of the second housing (220) of the electronic device (101).
  • At least a portion of the first housing (210) and the second housing (220) may be formed of a metallic or non-metallic material having a rigidity of a size selected to support the display (230). At least a portion formed of the metallic material may provide a ground plane of the electronic device (101) and may be electrically connected to a ground line formed on a printed circuit board (e.g., the board portion (260) of FIG. 4).
  • a printed circuit board e.g., the board portion (260) of FIG. 4
  • the sensor area (224) may be formed to have a predetermined area adjacent to one edge or one corner of the second housing (220).
  • the arrangement, shape, and size of the sensor area (224) are not limited to the illustrated example.
  • the sensor area (224) may be provided in another corner of the second housing (220) or any area between the upper and lower corners or in the first housing (210).
  • components for performing various functions built into the electronic device (101) may be exposed to the front of the electronic device (101) through the sensor area (224) or through one or more openings provided in the sensor area (224).
  • the components may include various types of sensors.
  • the sensor(s) may include, for example, at least one of a front camera, a receiver, or a proximity sensor.
  • the first rear cover (280) is disposed on one side of the folding axis (Ax) at the rear of the electronic device (101) and may have, for example, a substantially rectangular periphery, the periphery of which may be wrapped by another structure of the first housing (210).
  • the second rear cover (290) is disposed on the other side of the folding axis (Ax) at the rear of the electronic device (101) and the periphery of which may be wrapped by another structure of the second housing (220).
  • the first rear cover (280) and/or the second rear cover (290) may have a shape that is substantially symmetrical about the folding axis (Ax).
  • the first rear cover (280) and the second rear cover (290) do not necessarily have mutually symmetrical shapes, and in one embodiment, the electronic device (101) may include the first rear cover (280) and the second rear cover (290) of different shapes that are not symmetrical.
  • the first rear cover (280), the second rear cover (290), the first housing (210), and the second housing (220) may provide a space in which various components of the electronic device (101) (e.g., a printed circuit board or a battery) may be placed.
  • the electronic device (101) e.g., a printed circuit board or a battery
  • one or more components may be placed or visually exposed on the rear surface of the electronic device (101).
  • at least a portion of the sub-display (234) may be visually exposed through at least a portion of the first rear cover (280).
  • one or more components or sensors may be visually exposed through at least a portion of the second rear cover (290).
  • the sensors may include a proximity sensor and/or a camera module (206) (e.g., a rear camera).
  • a front camera exposed to the front of the electronic device (101) through one or more openings provided in the sensor area (224) or a camera module (206) (e.g., a rear camera) exposed through at least a portion of the second rear cover (290) may include one or more lenses, image sensors, and/or image signal processors.
  • two or more lenses (infrared camera, wide-angle and telephoto lenses) and image sensors may be arranged on one side of the electronic device (101).
  • the camera module (206) exposed through at least a portion of the second rear cover (290) may face opposite the second display area (232) of the display (230).
  • the hinge cover (240) may be disposed between the first housing (210) and the second housing (220) to cover internal components (e.g., the hinge structure (202) of FIG. 4). According to one embodiment, the hinge cover (240) may be covered by a portion of the first housing (210) and the second housing (220) or exposed to the outside, depending on the state of the electronic device (101) (flat state or folded state).
  • the hinge cover (240) when the electronic device (101) is in an unfolded state, the hinge cover (240) may not be exposed because it is covered by the first housing (210) and the second housing (220).
  • the hinge cover (240) when the electronic device (101) is in a folded state (e.g., a fully folded state), the hinge cover (240) may be exposed to the outside between the first housing (210) and the second housing (220).
  • the hinge cover (240) when the first housing (210) and the second housing (220) are in an intermediate state where they are folded with a certain angle, the hinge cover (240) may be partially exposed to the outside between the first housing (210) and the second housing (220).
  • the exposed area may be less than that in the fully folded state.
  • the hinge cover (240) may include a curved surface.
  • the display (230) may be positioned on a space formed (or defined) by the housing (201).
  • the display (230) may be seated on a recess provided by the housing (201) and may form a majority of the front surface of the electronic device (101).
  • the front surface of the electronic device (101) may include the display (230), a portion of the first housing (210) adjacent to the display (230) and a portion of the second housing (220).
  • the back surface of the electronic device (101) may include a first back cover (280), a portion of the first housing (210) adjacent to the first back cover (280), a second back cover (290), and a portion of the second housing (220) adjacent to the second back cover (290).
  • the display (230) may include a plurality of display areas spaced apart from each other.
  • the display (230) may include a first display area (231) disposed on a first housing (210), a second display area (232) disposed on a second housing (220), and a folding area (233).
  • the first display area (231) and the second display area (232) may rotate about a folding axis (Ax).
  • the display (230) may refer to a display in which at least a portion of the display can be transformed into a flat or curved surface.
  • the display (230) may be a foldable or flexible display.
  • the display (230) may include a folding area (233), a first display area (231) arranged on one side (e.g., the left side of the folding area (233) illustrated in FIG. 2) with respect to the folding area (233), and a second display area (232) arranged on the other side (e.g., the right side of the folding area (233) illustrated in FIG. 2).
  • the division of the areas of the display (230) is exemplary, and the display (230) may be divided into a plurality of areas (e.g., four or more or two) depending on the structure or function.
  • the display (230) may be divided into regions by a folding region (233) or a folding axis (Ax) extending parallel to the Y-axis.
  • the display (230) may also be divided into regions based on another folding region (e.g., a folding region parallel to the X-axis) or another folding axis (e.g., a folding axis parallel to the X-axis).
  • the display (230) may be coupled to or disposed adjacent to a touch detection circuit, a pressure sensor capable of measuring the intensity (pressure) of a touch, and/or a digitizer (not shown) configured to detect a magnetic field-type stylus pen.
  • the first display area (231) and the second display area (232) may have an overall symmetrical shape centered on the folding area (233).
  • the second display area (232) unlike the first display area (231), may include a cut notch depending on the presence of the sensor area (224), but may have a shape that is substantially symmetrical with respect to the first display area (231) in other areas.
  • the first display area (231) and the second display area (232) may include a portion having a symmetrical shape with respect to each other and a portion having an asymmetrical shape with respect to each other.
  • the operation of the first housing (210) and the second housing (220) and each area of the display (230) according to the state of the electronic device (101) e.g., flat state or unfolded state and folded state
  • the first housing (210) and the second housing (220) may be arranged to face the same direction at a substantially 180-degree angle.
  • the surface of the first display area (231) of the display (230) and the surface of the second display area (232) may form a 180-degree angle with each other and face the same direction (e.g., toward the front of the electronic device).
  • the folding area (233) may form the same plane as the first display area (231) and the second display area (232).
  • the first housing (210) and the second housing (220) may be arranged to face each other.
  • the surface of the first display area (231) of the display (230) and the surface of the second display area (232) may form a narrow angle (e.g., between about 0 and 10 degrees) with each other and may face each other.
  • at least a portion of the folding area (233) may be formed as a curved surface having a predetermined curvature.
  • the first housing (210) and the second housing (220) may be arranged at a certain angle with respect to each other.
  • the surface of the first display area (231) of the display (230) and the surface of the second display area (232) may form an angle that is greater than the angle in the folded state and less than the angle in the unfolded state.
  • the folding area (233) may be formed as a curved surface having at least a certain curvature, and the curvature at this time may be less than that in the folded state.
  • FIG. 3 is a diagram illustrating a state in which multiple cameras are arranged in an electronic device according to one embodiment of the present disclosure.
  • an electronic device may include a plurality of cameras (e.g., camera module (190) of FIG. 1).
  • the electronic device (101) according to one embodiment may further include other components described in FIG. 1.
  • an electronic device can capture a stereo image using a plurality of rear cameras (e.g., a first rear camera (310), a second rear camera (320)) included in a camera module (206) in a state where the housing (210, 220) is unfolded as illustrated in FIG. 3.
  • the electronic device can capture a stereo image using a plurality of rear cameras (e.g., a first rear camera (310), a second rear camera (320)) included in the camera module (206) in a state where the electronic device is positioned in a horizontal direction (e.g., a state where the electronic device is rotated 90 degrees).
  • a "stereo image” may be used to mean a pair of 2D images that are images acquired through two or more cameras and allow the perception of a three-dimensional stereoscopic effect (depth) by utilizing the difference in visual angles between the two eyes.
  • the stereo image may include a left-eye image corresponding to the left eye and a right-eye image corresponding to the right eye.
  • the stereo image may be played back through an electronic device developed to be wearable by a user (e.g., a wearable electronic device such as an augmented reality glass (AR glass), a video see-through (VST) device, or a head-mounted display (HMD) device) and displayed to the user in the form of a 3D image.
  • the stereo image may also be replaced with the term "spatial video," but is not limited to a specific term.
  • the camera may include a plurality of cameras, and among the plurality of cameras, a front camera (330) may be disposed on a fourth side of the second housing (210) (e.g., a front side when the electronic device (101) is in a folded state), and among the plurality of cameras, a plurality of rear cameras (310, 320) may be disposed on a second side of the first housing (220) (e.g., a rear side when the electronic device (101) is in a folded state).
  • a front camera 330
  • a front camera 330
  • a front camera 330
  • a front camera 330
  • a plurality of rear cameras 310, 320
  • a second side of the first housing (220) e.g., a rear side when the electronic device (101) is in a folded state
  • a stereo image may be captured using at least two (e.g., a first rear camera (310) and a second rear camera (320)) of the plurality of rear cameras (392) arranged in a row in a first direction (e.g., a Y direction).
  • the plurality of rear cameras (310, 320) may include a first rear camera (310) and a second rear camera (320) of different or the same type for capturing stereo images.
  • the first rear camera (310) and the second rear camera (320) of different or the same type may be rear cameras arranged on the rear of the electronic device.
  • the first rear camera (310) and the second rear camera (320) are different types of cameras
  • the first rear camera (310) may be a wide-angle camera
  • the second rear camera (320) may be an ultra-wide-angle camera
  • the first rear camera (310) configured as the wide-angle camera may be referred to as a main camera, but is not limited to the above term.
  • the front camera (330) and the rear camera (310 and/or 320) may face the same direction. Accordingly, depth information may be acquired using the front camera (330) positioned at the front and one of the plurality of rear cameras (310, 320) positioned at the rear (e.g., the first rear camera (310) or the second rear camera (320)).
  • the first rear camera (310) may be set as a camera corresponding to the left eye
  • the second rear camera (320) may be set as a camera corresponding to the right eye
  • the first rear camera (310) may be set as a camera corresponding to the right eye
  • the second rear camera (320) may be set as a camera corresponding to the left eye.
  • the electronic device may acquire a first image through the first rear camera (310), a second image through the second rear camera (320), and a third image through the front camera (330) based on receiving a user input for capturing a stereo image.
  • the electronic device may acquire a left-eye image and a right-eye image of the stereo image based on the first image and the second image.
  • the electronic device may acquire first depth information of the stereo image based on the first image and the third image.
  • the precision of the first depth information may be higher than the precision of the second depth information acquired based on the first image and the second image. A detailed description thereof will be provided later in the description of FIG. 11.
  • the electronic device may store data of the stereo image acquired based on the first image and the second image in a memory.
  • the electronic device may store the first depth information acquired based on the first image and the third image in the memory.
  • the electronic device may store the first depth information and a left-eye image (e.g., the first image) and a right-eye image (e.g., the second image) for a stereo image together.
  • the electronic device may display the stereo image through a display (e.g., a flexible display) using the first depth information based on receiving a user input for reproducing the stereo image.
  • the electronic device may display the stereo image through a display of a wearable electronic device (e.g., an HMD device, a VST device, a VR device, or an XR device) using the first depth information based on receiving a user input for reproducing the stereo image.
  • a wearable electronic device e.g., an HMD device, a VST device, a VR device, or an XR device
  • the electronic device may display the stereo image through a display of a wearable electronic device (e.g., an HMD device, a VST device, a VR device, or an XR device) using the first depth information based on receiving a user input for reproducing the stereo image.
  • a wearable electronic device e.g., an HMD device, a VST device, a VR device, or an XR device
  • the user when a user captures a stereo image, the user may capture the image while holding the electronic device horizontally, as illustrated in FIG. 3.
  • the front camera (330) since the user typically perceives that the image is captured through the rear camera (310 and/or 320), the front camera (330) may be covered by the hand. Even if the front camera (330) is covered by the hand, a stereo image may be acquired through a plurality of rear cameras (310, 320).
  • the electronic device since the front camera (330) may be used to acquire the high-precision first depth information, the electronic device may display a guide screen to allow the user to change the grip position when the front camera (330) is covered. The user may obtain depth information through the front camera (330) by checking the displayed guide screen and adjusting the grip position.
  • the guide screen may include a screen displaying the position of the front camera (330) or a screen displaying a hand position guide.
  • FIG. 4 is a block diagram of an electronic device including a plurality of cameras according to an embodiment of the present disclosure.
  • an electronic device (101) including a plurality of cameras may include a processor (420) (e.g., the processor (120) of FIG. 1), a memory (430) (e.g., the memory (130) of FIG. 1), a flexible display (200) (e.g., the display module (160) of FIG. 1), and a plurality of cameras (e.g., the camera module (180) of FIG. 1).
  • the plurality of cameras may include a first rear camera (310) and a second rear camera (320). Although FIG. 4 illustrates two rear cameras, this is for convenience of explanation, and the electronic device (101) may include three or more rear cameras.
  • the plurality of cameras may include at least one front camera (330).
  • the processor (420) may control the overall operation of the electronic device (101).
  • the processor (420) may be implemented in the same or similar manner as the processor (120) of FIG. 1.
  • the processor (420) may execute software (e.g., the program (140) of FIG. 1) to control at least one other component (e.g., a hardware or software component) of the electronic device (101) connected to the processor (420), and may perform data processing or calculations based on the instructions.
  • the instructions may include instructions configured in a machine language that can be processed by the electronic device (101) or the processor (420).
  • the instructions may include instructions corresponding to operation instructions used in the program.
  • FIG. 2 illustrates that the electronic device (101) includes one processor (420), this is merely exemplary and the technical concept of the present invention may not be limited thereto.
  • the electronic device (101) may include at least one processor.
  • the processor (420) may be implemented as at least one processor.
  • the memory (430) may store at least one instruction (or command) that causes at least one operation of the electronic device (101).
  • the at least one instruction when executed individually or collectively by the processor (420), may cause the electronic device (101) to perform a corresponding operation.
  • the memory (430) may store data of the electronic device (101).
  • the data may include data about content, and the content may include images and/or videos.
  • the processor (420) may display a preview image through the flexible display (200) according to the execution of an application related to the photo or video recording.
  • the preview image displayed through the flexible display (200) may correspond to a first image (e.g., a left-eye image) acquired (or captured) through the first rear camera (310) or a second image (e.g., a right-eye image) acquired (or captured) through the second rear camera (320).
  • the processor (420) may store a first image acquired through the first rear camera (310) and a second image acquired through the second rear camera (320) from the start of shooting to the end of shooting as a stereo image in the memory (430).
  • the stereo image stored in the memory (430) may be stored in the form of a compressed file based on a specified coding method (e.g., HV-HEVC (multi-view high efficiency video coding)).
  • the user input for starting shooting of the stereo image may be set or confirmed by an input of a video shooting start button when the shooting mode in the application is set to a stereo image shooting mode, or may be set or confirmed by an input of a separately set stereo image shooting start button.
  • the processor (420) may acquire a third image through the front camera (330) when capturing the stereo image.
  • the processor (420) may acquire depth information based on the first image acquired through the first rear camera (310) and the third image acquired through the front camera (330).
  • the processor (420) may acquire depth information based on the second image acquired through the second rear camera (320) and the third image acquired through the front camera (330).
  • the processor (420) may store the acquired depth information in the memory (430).
  • FIG. 5 is a diagram illustrating a concept of a depth information generation method according to an embodiment of the present disclosure.
  • an electronic device may capture and acquire a stereo image by using a stereo image capturing module (510), a depth information generating module (520), an additional information storage module (530), and a codec (540).
  • a stereo image capturing module (510), the depth information generating module (520), the additional data storage module (530), and the codec (540) may be included in the electronic device (101) and may be implemented as at least a part of software or hardware.
  • the electronic device (101) can capture a stereo image using a plurality of rear cameras (e.g., a first rear camera (310) and a second rear camera (320)) when the electronic device (101) is positioned in a horizontal direction (e.g., when the electronic device is rotated 90 degrees) as illustrated in FIG. 5.
  • the electronic device e.g., the electronic device (101) of FIG. 4
  • the operation of capturing a stereo image will be described with emphasis on the operation performed when the electronic device (101) is positioned in a horizontal direction.
  • a stereo image shooting module e.g., an application related to taking pictures or videos
  • a first image e.g., a left-eye image
  • a second image e.g., a right-eye image
  • the depth information generation module (520) may acquire a first image and a third image using the first rear camera (310) and the front camera (330) when capturing the stereo image.
  • the depth information generation module (520) may acquire depth information related to the stereo image using the acquired first image and the third image.
  • the depth information may include depth information of a space where the stereo image is captured.
  • the depth information generation module (520) may acquire camera parameters related to the first rear camera (310) and the front camera (330).
  • the depth information generation module (520) may use the camera parameters when acquiring the depth information.
  • the camera parameters may include intrinsic parameters and/or extrinsic parameters.
  • the intrinsic parameters may include information about the arrangement distance (e.g., baseline distance) between the first rear camera (310) and the front camera (330), the focal length of the first rear camera (310), and the focal length of the front camera (330).
  • the extrinsic parameters may include information about the external brightness of the electronic device (101), the presence or absence of lighting, and whether the electronic device is indoors.
  • the depth information generation module (520) may also obtain depth information using a second image obtained through the second rear camera (320) and a third image obtained through the front camera (330).
  • the additional information storage module (530) may acquire additional information (hereinafter, “additional information”) related to stereo image capturing.
  • additional information may include time information (e.g., information about the time at which the stereo image was captured), location information (e.g., information about the location at which the stereo image was captured), and/or person information (e.g., information about a person included in the stereo image).
  • the codec (540) may generate data (550) for a stereo image and store the generated data (550) in a memory (e.g., memory (430) of FIG. 4).
  • the data (550) may include a left-eye image (or a left-eye image image), a right-eye image (or a right-eye image image), depth information, and/or additional information based on a specified format.
  • the codec (540) may store the first image and the second image acquired from the stereo image capturing module (510) as a stereo image.
  • the stereo image may be stored in the form of a compressed file based on a specified coding method (e.g., HV-HEVC (multi-view high efficiency video coding)).
  • the codec (540) may store depth information acquired from the depth information generation module (520) in the data (550). For example, the codec (540) can synchronize depth information with a stereo image and store it in the data (550). In addition, the codec (540) can store additional information obtained from the additional information storage module (530) in the data (550).
  • an electronic device e.g., electronic device (101) of FIG. 4 can acquire depth information based on a first image (611) (e.g., first rear camera (310)) and a third image (512) (e.g., front camera (330)).
  • a first image e.g., first rear camera (310)
  • a third image e.g., front camera (330)
  • the electronic device (101) can identify and compare similar pixels included in the first image (611) and the third image (612). For example, the electronic device (101) can identify a first pixel (621) included in the first image (611) and a first pixel (622) included in the third image (612), and compare a horizontal distance (DIS1) between the identified pixels (621, 622). The electronic device (101) can identify a second pixel (626) included in the first image (611) and a second pixel (627) included in the third image (612), and compare a horizontal distance (DIS2) between the identified pixels (626, 627). For example, the horizontal distances (DIS1, DIS2) can be determined on a pixel basis.
  • the electronic device (101) can obtain a disparity map (640) for the first image (611) and the third image (612) using a stereo disparity map estimation model.
  • the electronic device (101) can obtain the disparity map (640) based on disparity distances (DIS1, DIS2).
  • the stereo disparity map estimation model (630) can be set or trained to obtain the disparity map based on the disparity distances (DIS1, DIS2).
  • the electronic device (101) may convert the displacement map (640) into a depth map (660) using the depth information conversion model (650).
  • the depth information conversion model (650) may be set or trained to convert the displacement map into a depth map.
  • the electronic device (101) may obtain information about the depth (D) based on a focal length (f) of at least one of the first rear camera (310) or the front camera (320), a distance (b) (e.g., a baseline) between the first rear camera (310) and the front camera (320), and a displacement distance (d).
  • the depth (D) may be determined as in Mathematical Expression 1 below.
  • the depth (D) may be determined in units of mm.
  • the displacement distance (d) can be determined based on the horizontal distance (DIS1) between the first pixels (621, 622) and/or the horizontal distance (DIS2) between the second pixels (626, 627).
  • the electronic device (101) can obtain a depth map (660) as depth information for the first image (611) and the third image (612).
  • the electronic device (101) can acquire depth information using at least two images acquired from different cameras (310, 330).
  • the method by which the electronic device (101) acquires depth information will be specifically described in FIG. 7 below.
  • FIG. 7 is a diagram illustrating a method for generating depth information according to one embodiment of the present disclosure.
  • the depth information generation module (520) may include a first image modification module (710), an image correction module (720), a depth information estimation module (730), and a second image modification module (740).
  • the first image modification module (710) may receive a first image acquired from the first rear camera (310) and a third image acquired from the front camera (330).
  • the first image modification module (710) may modify, change, or rotate the captured images based on the vertical arrangement of the first rear camera (310) and the front camera (330). For example, the first image modification module (710) may rotate the vertically arranged images by 90 degrees (or 270 degrees).
  • the first image modification module (710) may reduce the rotated images to a specified size (e.g., 0.25 times the size). For example, the operation of reducing the size of the images may be omitted to reduce the amount of computation.
  • the image rectification module (720) may acquire or output horizontally aligned images based on information about pre-calibrated camera parameters (e.g., intrinsic parameters and/or extrinsic parameters) and receiving the first image and the third image.
  • the first image and the third image may be images that have been modified (e.g., rotated and/or scaled down) by the first image rectification module.
  • the image rectification module (720) may acquire and output a plurality of binocular image images (e.g., two images corresponding to the first image and the third image) based on horizontally aligning the first image and the third image in a virtual plane space.
  • the second image modification module (740) may modify and output depth information received from the depth information estimation module (730) based on changes (e.g., rotation and scale reduction) made by the first image modification module (710). For example, the second image modification module (740) may reversely rotate the depth information by 90 degrees (or 270 degrees) and adjust the size of the depth information (e.g., increase the size) to fit the target size. The second image modification module (740) may output the modified depth information as depth information for the first image and the third image.
  • changes e.g., rotation and scale reduction
  • the second image modification module (740) may reversely rotate the depth information by 90 degrees (or 270 degrees) and adjust the size of the depth information (e.g., increase the size) to fit the target size.
  • the second image modification module (740) may output the modified depth information as depth information for the first image and the third image.
  • the electronic device (101) can obtain depth information using at least two images obtained from different cameras (310, 330).
  • FIG. 8 is a diagram illustrating an example of a data format of a stereo video including depth information according to an embodiment of the present disclosure.
  • data for a stereo image may include a left-eye image (810), a right-eye image (820), and a depth image (830) corresponding to depth information, which are captured or acquired in time sequence.
  • the left-eye image (810) may include first images (e.g., left-eye image images) acquired through the first rear camera (310)
  • the right-eye image (820) may include second images (e.g., left-eye image images) acquired through the second rear camera (320).
  • an electronic device e.g., the electronic device (101) of FIG. 4 can match the storage time of the left-eye image (810) and the right-eye image (820) with the storage time of the depth image (830).
  • the electronic device (101) can determine the storage time of the depth image (830) based on the capturing time of the left-eye image corresponding to the left-eye image (810).
  • the storage time of the left-eye image (810) and the right-eye image (820) and the storage time of the depth image (830) can be matched or synchronized based on the capturing time of the left-eye image corresponding to the left-eye image (810).
  • an electronic device may compress a left-eye image (810) and a right-eye image (820) based on a base view. For example, when an image corresponding to a base view is a left-eye image (810), the electronic device (101) may store data (550) based on compressing right-eye image images (820) based on the left-eye image (810).
  • the electronic device (101) may store a depth image (830) in addition to the left-eye image (810) and the right-eye image (820) of the stereo image in the data (550). For example, the electronic device (101) may synchronize and add and store the depth image to the left-eye image (810) and the right-eye image (820) in the video track of MV-HEVC.
  • the electronic device (101) since the depth image (830) is composed of a single channel depth value that is not similar to the binocular images (810, 820) of the stereo image, it may not be possible to compress it based on the base view (Base view0). Accordingly, the electronic device (101) may store the depth image (830) together with the binocular images (810, 820) of the compressed stereo image in the video track of MV-HEVC, as shown in FIG. 8.
  • FIGS. 9A and 9B are diagrams illustrating a method of displaying stereo video using depth information in an electronic device or a wearable electronic device according to an embodiment of the present disclosure.
  • the electronic device (101) or the wearable electronic device may display a control bar (960) for adjusting the three-dimensional effect.
  • the wearable electronic device may display the control bar (960) on a screen displaying a stereoscopic image. Based on a user input for the control bar (960), the electronic device (101) or the wearable electronic device may display a screen with adjusted three-dimensional effect.
  • FIGS. 10A and 10B are diagrams illustrating a method of displaying stereo video using depth information in an electronic device or a wearable electronic device according to an embodiment of the present disclosure.
  • the electronic device (101) or the wearable electronic device may generate a stereo image representing a three-dimensional space based on a plurality of images (e.g., images acquired through a first rear camera (310), a second rear camera (320), and a front camera (330)) (1011, 1012, 1013, 1014) captured by the electronic device (101).
  • the electronic device (101) or the wearable electronic device may generate an image (1020) representing a three-dimensional space with a sense of space by using depth information.
  • the electronic device (101) or the wearable electronic device may acquire depth information by using images acquired through the first rear camera (310) and the front camera (330) included in the electronic device (101).
  • the electronic device (101) or the wearable electronic device can generate a stereo image representing a three-dimensional space using a plurality of images (1011, 1012, 1013, 1014) and depth information.
  • the electronic device (101) or the wearable electronic device can perform in-painting based on the plurality of images (1011, 1012, 1013, 1014) and depth information to generate an image of a portion not expressed in the plurality of images (1011, 1012, 1013, 1014).
  • the electronic device (101) or the wearable electronic device can generate a stereo image representing a three-dimensional space.
  • the electronic device (101) can also support a free view viewing function for the three-dimensional space.
  • the electronic device (101) or the wearable electronic device can display a screen representing the three-dimensional space viewed from a location requested by the user through a preview viewing function.
  • an electronic device (101) or the wearable electronic device can generate and display an image (1030) representing a three-dimensional space based on the method for generating a three-dimensional space of FIG. 10A described above.
  • the electronic device (101) can generate a three-dimensional space with a more three-dimensional and spatial sense by using depth information.
  • the electronic device (101) or the wearable electronic device can provide a preview function for the three-dimensional space by using depth information.
  • the electronic device (101) or the wearable electronic device may display a control window (1040) to support a free view viewing function on an image (1030) representing a three-dimensional space.
  • the electronic device (101) or the wearable electronic device may display a screen representing the three-dimensional space viewed from a location indicated by the user input, based on a user input to the control window (1040).
  • the electronic device (101) or the wearable electronic device can display a screen that represents a three-dimensional space with a more three-dimensional and spatial sense by using depth information.
  • FIG. 11 is a diagram showing an example of depth information estimation according to a baseline length difference, according to an embodiment of the present disclosure.
  • a first distance (or first baseline) (e.g., 85 mm) between the first rear camera (310) and the front camera (330) may be longer than a second distance (or second baseline) (e.g., 19 mm) between the first rear camera (310) and the second rear camera (320).
  • the electronic device (101) may estimate depth information based on a first image (1110) and a third image (1130) acquired using a first rear camera (310) and a front camera (330). For example, a first distance (or a first baseline distance) between the first rear camera (310) and the front camera (330) may be 85 mm, a disparity between the first image (1110) and the third image (1130) may be confirmed as 13 (e.g., 13 pixels), and a corresponding length may be confirmed as approximately 6800 mm.
  • the electronic device (101) may reduce the sizes of the first image (1110) and the third image (1130) to a specified size (e.g., reduced to 0.25 times) for high-speed calculation of depth information.
  • an electronic device may estimate first depth information based on a first image (1210) and a third image (1220) acquired using a first rear camera (310) and a front camera (330). For example, the electronic device (101) may generate a first depth image (1240) corresponding to the estimated first depth information.
  • the electronic device (101) may estimate second depth information based on the first image (1210) and the second image (1230) acquired using the rear cameras (310, 320). For example, the electronic device (101) may generate a second depth image (1250) corresponding to the estimated second depth information.
  • the electronic device (101) may acquire a second stereo image (1270) based on the second depth image (1250).
  • the precision of the second depth information may be lower than the precision of the first depth information.
  • the precision of the second depth image (1250) may be lower than the precision of the first depth image (1240).
  • the precision of the second stereo image (1270) may be lower than the precision of the first stereo image (1260).
  • the precision of a portion (1275) of the second stereo image (1270) may be lower than the precision of a portion (1265) of the first stereo image (1260).
  • the electronic device (101) can generate a stereo image with a more three-dimensional and spatial sense by using depth information based on images acquired through the first rear camera (310) and the front camera (330).
  • a wearable electronic device e.g., a wearable electronic device that receives data regarding a stereo image from the electronic device (101) of FIG. 4 can receive a stereo image generated simply and effectively by the electronic device (101) and reproduce the received stereo image.
  • FIG. 13 is a diagram illustrating a method for displaying stereo video using depth information in a wearable electronic device according to an embodiment of the present disclosure.
  • an electronic device may estimate first depth information based on a first image (1310) and a third image (1320) acquired using a first rear camera (310) and a front camera (330). For example, the electronic device (101) may generate a first depth image (1340) corresponding to the estimated first depth information.
  • a wearable electronic device e.g., an HMD device, a VST device, a VR device, or an XR device
  • a wearable electronic device that has acquired the first depth image (1240) and images for stereo images (e.g., images captured by the first rear camera (310) and the second rear camera (320)) from the electronic device (101) can acquire and display a first space image (e.g., a space cloud image) (1360) for restoring (or generating) a three-dimensional space (or a three-dimensional space model) based on the first depth image (1340).
  • a first space image e.g., a space cloud image
  • the electronic device (101) can estimate second depth information based on the first image (1315) and the second image (1330) acquired using the rear cameras (310, 320). For example, the electronic device (101) can generate a second depth image (1350) corresponding to the estimated second depth information.
  • the electronic device (101) can acquire a second space image (e.g., a space cloud image) (1370) for restoring (or generating) a three-dimensional space (or a three-dimensional space model) based on the second depth image (1350).
  • the precision of the second depth information may be lower than the precision of the first depth information.
  • the precision of the second depth image (1350) may be lower than the precision of the first depth image (1340).
  • the precision of the second spatial image (1370) may be lower than the precision of the first spatial image (1360).
  • the electronic device (101) can generate (or acquire) a more precise spatial image by using depth information based on images acquired through the first rear camera (310) and the front camera (330).
  • the electronic device (101) can generate (or restore) an image representing a three-dimensional space with a more three-dimensional and spatial sense by using the more precise spatial image.
  • a wearable electronic device e.g., a wearable electronic device that receives data regarding a stereoscopic image from the electronic device (101) of FIG. 4) can receive a stereoscopic image generated simply and effectively by the electronic device (101) and reproduce the received stereoscopic image.
  • FIG. 14 is a flowchart illustrating a method for an electronic device to acquire a stereo image according to an embodiment of the present disclosure.
  • an electronic device may acquire a first image through a first rear camera (e.g., the first rear camera (310) of FIG. 4), a second image through a second rear camera (e.g., the second rear camera (320) of FIG. 4), and a third image through a front camera (e.g., the front camera (330) of FIG. 4) based on a user input for capturing a stereo image being received.
  • the electronic device (101) may acquire or capture the first image, the second image, and the third image when the housings of the electronic device (101) are fully unfolded (e.g., an unfolded state of the electronic device).
  • the electronic device (101) may acquire or capture the first image, the second image, and the third image when the electronic device (101) is positioned in a designated direction in which the first rear camera (310) and the second rear camera (320) are vertically arranged (or when the electronic device (101) is positioned in a horizontal direction).
  • the electronic device (101) may acquire the first image, the second image, and the third image based on determining that the electronic device (101) is positioned in the designated direction and the electronic device is fully unfolded.
  • the electronic device (101) may display guide information that guides the electronic device (101) to be positioned in the designated direction and to be fully unfolded based on determining that the electronic device (101) is not positioned in the designated direction or is not fully unfolded.
  • a wearable electronic device e.g., an HMD device, a VST device, a VR device, or an XR device
  • the wearable electronic device may display the stereo image using the first depth information through a display of the wearable electronic device.
  • the wearable electronic device may display the stereo image using the first depth information based on confirming a user input for reproduction of the stereo image.
  • the wearable electronic device may request transmission of data for the stereo image to the electronic device (101) based on confirming a user input for reproduction of the stereo image.
  • the electronic device (101) may display a stereo image (e.g., a flexible display (200) of FIG. 4) using the first depth information based on a user input for playing back a stereo image received.
  • the electronic device (101) may display a more precise and immersive stereo image using the first depth information.
  • the electronic device (101) may generate (or restore) an image representing a more precise and three-dimensional space using the first depth information, and may display an image representing the three-dimensional space.
  • the electronic device (101) can capture and generate more precise and spatial stereo images by using depth information based on images acquired through the first rear camera (310) and the front camera (330).
  • the electronic device (101) can capture and generate stereo images simply and efficiently by using depth information based on images acquired through the first rear camera (310) and the front camera (330).
  • an electronic device (101) may include a first housing including a first side and a second side opposite to the first side, a second housing including a third side and a fourth side opposite to the third side, a hinge structure rotatably connecting the first housing and the second housing, a flexible display (200) disposed on the first side and the third side, a first rear camera (310) and a second rear camera (320) disposed on the second side, a front camera (330) disposed on the fourth side, at least one processor (420) including a processing circuit, and a memory (430) storing instructions.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to acquire a first image through the first rear camera, a second image through the second rear camera, and a third image through the front camera based on a user input for capturing a stereo image being received.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to acquire a left-eye image and a right-eye image of the stereo image based on the first image and the second image.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to acquire first depth information of the stereo image based on the first image and the third image.
  • the precision of the first depth information may be higher than the precision of the second depth information obtained based on the first image and the second image.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to store data of the stereo image in the memory. According to one embodiment, the instructions, when individually or collectively executed by the at least one processor, may cause the electronic device to display the stereo image through the flexible display using the first depth information based on receiving a user input for reproduction of the stereo image.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to generate information about a three-dimensional space of the stereo image using the first image, the second image, and the first depth information, based on a user input for reproduction of the stereo image being received.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to display the stereo image using the information about the three-dimensional space.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to store the data of the stereo image including the first depth information based on synchronizing the first depth information with the first image and the second image.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to obtain the first depth information based on providing the first image and the third image to a pre-trained model.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to determine whether the electronic device is positioned in a specified direction and whether the electronic device is fully unfolded. In one embodiment, the instructions, when individually or collectively executed by the at least one processor, may cause the electronic device to acquire the first image, the second image, and the third image based on determining that the electronic device is positioned in the specified direction and the electronic device is fully unfolded.
  • the instructions when individually or collectively executed by the at least one processor, may cause the electronic device to display guide information to guide the electronic device to be positioned in the designated direction and to fully unfold the electronic device based on determining that the electronic device is not positioned in the designated direction or is not fully unfolded.
  • the first distance between the first rear camera and the front camera may be longer than the second distance between the first rear camera and the second rear camera.
  • the electronic device may include a first housing including a first side and a second side opposite to the first side, a second housing including a third side and a fourth side opposite to the third side, a hinge structure rotatably connecting the first housing and the second housing, a flexible display (200) disposed on the first side and the third side, a first rear camera (310) and a second rear camera (320) disposed on the second side, and a front camera (330) disposed on the fourth side.
  • the method of operating the electronic device may include an operation of acquiring a first image through the first rear camera, acquiring a second image through the second rear camera, and acquiring a third image through the front camera, based on receiving a user input for capturing a stereo image.
  • the method of operating the electronic device may include an operation of acquiring a left-eye image and a right-eye image of a stereo image based on the first image and the second image.
  • the method of operating the electronic device may include an operation of acquiring first depth information of the stereo image based on the first image and the third image.
  • the precision of the first depth information may be higher than the precision of the second depth information obtained based on the first image and the second image.
  • the method of operating the electronic device may further include an operation of storing data of the stereo image in the memory.
  • the method of operating the electronic device may further include an operation of displaying the stereo image through the flexible display using the first depth information based on a user input for playing the stereo image being received.
  • the operation of displaying the stereo image may include an operation of generating information about a three-dimensional space of the stereo image using the first image, the second image, and the first depth information based on a user input for reproduction of the stereo image being received.
  • the operation of displaying the stereo image may include an operation of displaying the stereo image using the information about the three-dimensional space.
  • the act of storing the data may include an act of storing the data of the stereo image including the first depth information based on synchronizing the first depth information with the first image and the second image.
  • the operation of obtaining the first depth information may include an operation of estimating a disparity map for the first image and the third image based on horizontal distances between pixels corresponding to the same subject included in each of the first image and the third image. In one embodiment, the operation of obtaining the first depth information may include an operation of obtaining the first depth information based on the disparity map.
  • the operation of obtaining the first depth information may include an operation of obtaining the first depth information based on providing the first image and the third image to a pre-learned model.
  • the operations of acquiring the first image, the second image, and the third image may include an operation of determining whether the electronic device is positioned in a specified direction and whether the electronic device is fully unfolded.
  • the operations of acquiring the first image, the second image, and the third image may include an operation of acquiring the first image, the second image, and the third image based on determining that the electronic device is positioned in the specified direction and the electronic device is fully unfolded.
  • the method of operating the electronic device may further include an operation of displaying guide information for guiding the electronic device to be positioned in the specified direction and to be fully unfolded based on determining that the electronic device is not positioned in the specified direction or is not fully unfolded.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephone Set Structure (AREA)

Abstract

일 실시 예에 따르면, 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이, 상기 제2 면에 배치되는 제1 후면 카메라 및 제2 후면 카메라, 상기 제4 면에 배치되는 전면 카메라, 프로세싱 회로를 포함하는 적어도 하나의 프로세서, 및 인스트럭션들을 저장하는 메모리를 포함할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하도록 야기할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하도록 야기할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하도록 야기할 수 있다.

Description

복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법
본 발명의 다양한 실시 예들은, 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법에 관한 것이다.
전자 장치, 예를 들어, 스마트폰과 같은 휴대용 전자 장치를 통해 제공되는 다양한 서비스 및 부가 기능들이 점차 증가하고 있다. 이러한 전자 장치의 효용 가치를 높이고, 다양한 사용자들의 욕구를 만족시키기 위해서 통신 서비스 제공자 또는 전자 장치 제조사들은 다양한 기능들을 제공하고 다른 업체와의 차별화를 위해 전자 장치를 경쟁적으로 개발하고 있다. 이에 따라, 전자 장치를 통해서 제공되는 다양한 기능들도 점점 고도화되고 있다.
최근에는 전자 장치가 복수의 카메라들을 포함하여 다양한 방식으로 영상을 촬영하는 기술이 개발되고 있다. 전자 장치는 복수의 카메라를 이용하여 스테레오 영상(stereoscopic image)을 촬영할 수 있다. 스테레오 영상은 양쪽 눈의 시각 차이를 이용하여 3차원적인 입체감(깊이감)을 지각할 수 있게 해주는 한 쌍의 2D 영상을 촬영한다. 스테레오 영상은 기본적으로 인간의 두 눈에 각각 비치는 영상이 두 눈 사이의 거리에 근거한 시차(예: 양안 시차(binocular parallax))에 의해 차이가 나고 이 차이를 인식하여 입체감을 느끼는 원리에 기반하여, 왼쪽 영상(좌안 이미지)과 오른쪽 영상(우안 이미지)의 두 장의 영상이 한 쌍을 이루어 표현된다.
상술한 정보는 본 개시에 대한 이해를 돕기 위한 목적으로 하는 배경 기술로 제공될 수 있다. 상술한 내용 중 어느 것도 본 개시와 관련된 종래 기술(prior art)로서 적용될 수 있는지에 대하여 어떠한 주장이나 결정이 제기되지 않는다.
일 실시 예에 따르면, 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이, 상기 제2 면에 배치되는 제1 후면 카메라 및 제2 후면 카메라, 상기 제4 면에 배치되는 전면 카메라, 프로세싱 회로를 포함하는 적어도 하나의 프로세서, 및 인스트럭션들을 저장하는 메모리를 포함할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하도록 야기할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하도록 야기할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하도록 야기할 수 있다.
일 실시 예에 따르면, 전자 장치의 동작 방법에 있어서, 상기 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이, 상기 제2 면에 배치되는 제1 후면 카메라 및 제2 후면 카메라, 및 상기 제4 면에 배치되는 전면 카메라를 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 인스트럭션들을 저장하는 컴퓨터로 판독할 수 있는 비일시적 저장매체에 있어서, 상기 인스트럭션들은 적어도 하나의 프로세서에 의해 집합적으로 또는 개별적으로 실행 시, 전자 장치가, 여기서 상기 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이, 상기 제2 면에 배치되는 제1 후면 카메라 및 제2 후면 카메라, 및 상기 제4 면에 배치되는 전면 카메라를 포함하고, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하고, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하고, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하도록 할 수 있다.
도 1은 일 실시 예에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 2a는, 본 개시의 일 실시 예에 따른, 전자 장치의 펼쳐진 상태를 도시한 도면이다.
도 2b는, 본 개시의 일 실시 예에 따른, 전자 장치의 접힌 상태를 도시한 도면이다.
도 3은, 본 개시의 일 실시 예에 따른, 전자 장치에 복수의 카메라들이 배치된 상태를 도시한 도면이다.
도 4는 본 개시의 일 실시 예에 따른, 복수의 카메라들을 포함하는 전자 장치의 블록도이다.
도 5는 본 개시의 일 실시 예에 따른, 깊이 정보 생성 방법의 개념을 나타내는 도면이다.
도 6은 본 개시의 일 실시 예에 따른, 스테레오 영상을 이용한 깊이 정보 추정 방법의 개념을 나타내는 도면이다.
도 7은 본 개시의 일 실시 예에 따른, 깊이 정보를 생성하기 위한 방법을 나타내는 도면이다.
도 8은 본 개시의 일 실시 예에 따른, 깊이 정보를 포함하는 스테레오 비디오의 데이터 포맷의 예를 나타내는 도면이다.
도 9a 및 도 9b는 본 개시의 일 실시 예에 따른, 전자 장치 또는 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 표시하는 방법을 나타내는 도면이다.
도 10a 및 도 10b는 본 개시의 일 실시 예에 따른, 전자 장치 또는 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 표시하는 방법을 나타내는 도면이다.
도 11은 본 개시의 일 실시 예에 따른, 베이스라인 길이 차이에 따른 깊이 정보 추정 예를 나타내는 도면이다.
도 12는 본 개시의 일 실시 예에 따른, 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 디스플레이하는 방법을 나타내는 도면이다.
도 13은 본 개시의 일 실시 예에 따른, 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 디스플레이하는 방법을 나타내는 도면이다.
도 14는 본 개시의 일 실시 예에 따른, 전자 장치가 스테레오 영상을 획득하는 방법을 나타내는 흐름도이다.
도 1은 일 실시 예에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 전도체 또는 전도성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 개시에 따른 인공지능과 관련된 기능은 프로세서와 메모리를 통해 동작된다. 프로세서는 하나 또는 복수의 프로세서들로 구성될 수 있다. 이때, 하나 또는 복수의 프로세서들은 CPU(central processing unit), AP(application processor), DSP(digital signal processor)와 같은 범용 프로세서, GPU(graphic processing unit), VPU(vision processing unit)와 같은 그래픽 전용 프로세서 또는 NPU와 같은 인공지능 전용 프로세서일 수 있다. 하나 또는 복수의 프로세서들은, 메모리에 저장된 기 정의된 동작 규칙 또는 인공지능 모델에 따라, 입력 데이터를 처리하도록 제어한다. 또는, 하나 또는 복수의 프로세서들이 인공지능 전용 프로세서인 경우, 인공지능 전용 프로세서는, 특정 인공지능 모델의 처리에 특화된 하드웨어 구조로 설계될 수 있다.
기 정의된 동작 규칙 또는 인공지능 모델은 학습을 통해 만들어진 것을 특징으로 한다. 여기서, 학습을 통해 만들어진다는 것은, 기본 인공지능 모델이 학습 알고리즘에 의하여 다수의 학습 데이터들을 이용하여 학습됨으로써, 원하는 특성(또는, 목적)을 수행하도록 설정된 기 정의된 동작 규칙 또는 인공지능 모델이 만들어짐을 의미한다. 이러한 학습은 본 개시에 따른 인공지능이 수행되는 기기 자체에서 이루어질 수도 있고, 별도의 서버 및/또는 시스템을 통해 이루어 질 수도 있다. 학습 알고리즘의 예로는, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)이 있으나, 전술한 예에 한정되지 않는다.
인공지능 모델은, 복수의 신경망 레이어들로 구성될 수 있다. 복수의 신경망 레이어들 각각은 복수의 가중치들(weight values)을 갖고 있으며, 이전(previous) 레이어의 연산 결과와 복수의 가중치들 간의 연산을 통해 신경망 연산을 수행한다. 복수의 신경망 레이어들이 갖고 있는 복수의 가중치들은 인공지능 모델의 학습 결과에 의해 최적화될 수 있다. 예를 들어, 학습 과정 동안 인공지능 모델에서 획득한 로스(loss) 값 또는 코스트(cost) 값이 감소 또는 최소화되도록 복수의 가중치들이 갱신될 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network)을 포함할 수 있으며, 예를 들어, CNN(convolutional neural network), DNN(deep neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN (deep belief network), BRDNN(bidirectional recurrent deep neural network) 또는 심층 Q-네트워크(deep Q-networks)가 있으나, 전술한 예에 한정되지 않는다.
도 2a는 본 개시의 일 실시예에 따른 전자 장치의 펼쳐진 상태를 도시한 도면이다. 도 2b는 본 개시의 일 실시예에 따른 전자 장치의 접힌 상태를 도시한 도면이다.
도 2a 및 도 2b를 참조하면, 전자 장치(101)(예: 도 1의 전자 장치(101))는, 하우징(201), 상기 하우징(201)의 접힘 가능한 부분을 커버하는 힌지 커버(240), 및 상기 하우징(201)에 의해 형성된 공간 내에 배치된 디스플레이(230)(예: 도 1의 디스플레이 모듈(160))를 포함할 수 있다.
일 실시예에 따르면, 상기 디스플레이(230)에서 출력된 화면이 노출되는 면은 전자 장치(101)의 전면(예: 제1 전면(210a) 및 제2 전면(220a))으로 정의될 수 있다. 상기 전면의 반대 면은 전자 장치(101)의 후면(예: 제1 후면(210b) 및 제2 후면(220b))으로 정의될 수 있다. 일 실시예에서, 전면과 후면 사이의 공간을 둘러싸는 면을 전자 장치(101)의 측면(예: 제1 측면(210c) 및 제2 측면(220c))으로 정의될 수 있다. 전자 장치(101)의 측면은 제1 하우징(210) 또는 제2 하우징(220) 중 적어도 하나의 측면일 수 있다. 도 2a 및 도 2b의 전자 장치(101)는 폴더블 전자 장치, 휴대용 전자 장치 또는 휴대용 폴더블 전자 장치로 지칭될 수 있다. 일 실시예에 따르면, 하우징(201)은 폴더블 하우징으로 지칭될 수 있다. 디스플레이(230)는 "플렉서블 디스플레이"로 지칭될 수 있다.
일 실시예에 따르면, 상기 하우징(201)은, 전자 장치(101)의 외관의 적어도 일부를 형성할 수 있다. 상기 하우징(201)은, 제1 하우징(210), 제1 하우징(210)에 대하여 회전할 수 있는 제2 하우징(220), 제1 후면 커버(280) 및 제2 후면 커버(290)를 포함할 수 있다. 전자 장치(101)의 하우징(201)은 도 2a 및 도 2b에 도시된 형태 및 결합으로 제한되지 않으며, 다른 형상이나 부품의 조합 및/또는 결합에 의해 구현될 수 있다. 예를 들어, 일 실시예에서는, 제1 하우징(210)과 제1 후면 커버(280)가 일체로 형성될 수 있고, 제2 하우징(220)과 제2 후면 커버(290)가 일체로 형성될 수 있다. 일 실시예에 따르면, 제1 후면 커버(280)는, 제1 후면 플레이트(280)로 정의 및/또는 지칭될 수 있다. 제2 후면 커버(290)는, 제2 후면 플레이트(290)로 정의 및/또는 지칭될 수 있다.
일 실시예에 따르면, 상기 제1 하우징(210)은 힌지 구조(예: 도 4의 힌지 구조(202))에 연결되며, 제1 방향을 향하는 제1 전면(210a), 및 제1 방향과 반대인 제2 방향을 향하는 제1 후면(210b)을 포함할 수 있다. 상기 제2 하우징(220)은 힌지 구조에 연결되며, 제3 방향을 향하는 제2 전면(220a), 및 상기 제3 방향과 반대인 제4 방향을 향하는 제2 후면(220b)을 포함하며, 상기 힌지 구조(202)를 중심으로 상기 제1 하우징(210)에 대해 회전할 수 있다. 이에 따라, 전자 장치(101)는 접힌(folded) 상태 또는 펼쳐진(unfolded) 상태로 가변할 수 있다. 전자 장치(101)가 접히거나 펼쳐지는 동작은 힌지 구조에 대한 제1 하우징(210)의 회전 또는 힌지 구조에 대한 제2 하우징(220)의 회전으로 이해될 수 있다. 상기 전자 장치(101)가 접힌(folded) 상태에서, 상기 제1 전면(210a)이 상기 제2 전면(220a)에 대면할 수 있다. 상기 전자 장치(101)가 펼쳐진(unfolded) 상태에서, 상기 제3 방향이 상기 제1 방향과 동일할 수 있다. 아래에서는, 별도의 언급이 없는 경우, 방향은 전자 장치(101)가 펼쳐진 상태를 기준으로 설명된다.
일 실시예에 따르면, 제1 하우징(210)과 제2 하우징(220)은 폴딩 축(Ax)을 중심으로 양측에 배치되고, 상기 폴딩 축(Ax)에 대하여 전체적으로 대칭인 형상을 가질 수 있다. 후술하는 바와 같이, 제1 하우징(210) 및 제2 하우징(220)은 전자 장치(101)의 상태가 펼침 상태인지, 접힌 상태인지, 또는 중간 상태인지 여부에 따라 서로 이루는 각도나 거리가 달라질 수 있다. 일 실시예에 따르면, 상기 제2 하우징(220)은, 센서(예: 카메라)들이 배치되는 센서 영역(224)을 추가로 포함하지만, 이외의 영역에서는 상호 대칭적인 형상을 가질 수 있다.
일 실시예에 따르면, 폴딩 축(Ax)은 평행한 복수(예: 2 개)의 폴딩 축일 수 있다. 본 개시에서는 폴딩 축(Ax)은 전자 장치(101)의 길이 방향(Y축 방향)을 따라서 제공되나, 폴딩 축(Ax)의 방향은 이에 한정되지 않는다. 예를 들어(미도시), 전자 장치(101)는 폭 방향(예: X축 방향)을 따라서 연장된 폴딩 축을 포함하는 실시예가 구현될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 도시되지 않은 디지털 펜이 부착될 수 있는 구조를 포함할 수 있다. 예를 들어, 전자 장치(101)는 디지털 펜을 제1 하우징(210)의 측면 또는 제2 하우징(220)의 측면에 부착시키도록 구성된 자성체를 포함할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 디지털 펜이 삽입될 수 있는 구조를 포함할 수 있다. 예를 들어, 전자 장치(101)의 제1 하우징(210)의 측면 또는 제2 하우징(220)의 측면에는 디지털 펜이 삽입될 수 있는 홀(미도시)이 형성될 수 있다.
일 실시예에 따르면, 제1 하우징(210) 및 제2 하우징(220)의 적어도 일부는 디스플레이(230)를 지지하기 위해 선택된 크기의 강성을 갖는 금속 재질이나 비금속 재질로 형성될 수 있다. 금속 재질로 형성된 적어도 일부분은 전자 장치(101)의 그라운드 면(ground plane)을 제공할 수 있으며, 인쇄 회로 기판(예: 도 4의 기판부(260))에 형성된 그라운드 라인과 전기적으로 연결될 수 있다.
일 실시예에 따르면, 센서 영역(224)은 제2 하우징(220)의 일 모서리 또는 일 코너에 인접하여 소정 영역을 가지도록 형성될 수 있다. 다만 센서 영역(224)의 배치, 형상, 및 크기는 도시된 예시에 한정되지 아니한다. 일 실시예에 따르면, 센서 영역(224)은 제2 하우징(220)의 다른 코너 혹은 상단 코너와 하단 코너 사이의 임의의 영역 또는 제1 하우징(210)에 제공될 수 있다. 일 실시예에서, 전자 장치(101)에 내장된 다양한 기능을 수행하기 위한 부품들(components)이 센서 영역(224)을 통해, 또는 센서 영역(224)에 마련된 하나 이상의 개구(opening)를 통해 전자 장치(101)의 전면에 노출될 수 있다. 일 실시예에서, 상기 부품들은 다양한 종류의 센서들을 포함할 수 있다. 상기 센서(들)는, 예를 들어, 전면 카메라, 리시버 또는 근접 센서 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 제1 후면 커버(280)는 전자 장치(101)의 후면에서 상기 폴딩 축(Ax)의 일편에 배치되고, 예를 들어, 실질적으로 직사각형인 가장자리(periphery)를 가질 수 있으며, 제1 하우징(210)의 다른 구조물에 의해 가장자리가 감싸질 수 있다. 유사하게, 제2 후면 커버(290)는 전자 장치(101)의 후면에서 폴딩 축(Ax)의 다른편에 배치되고, 제2 하우징(220)의 다른 구조물에 의해 그 가장자리가 감싸질 수 있다.
일 실시예에 따르면, 제1 후면 커버(280) 및/또는 제2 후면 커버(290)는 폴딩 축(Ax)을 중심으로 실질적으로 대칭적인 형상을 가질 수 있다. 다만, 제1 후면 커버(280) 및 제2 후면 커버(290)가 반드시 상호 대칭적인 형상을 가지는 것은 아니며, 일 실시예에서, 전자 장치(101)는 대칭이 아닌 서로 다른 형상의 제1 후면 커버(280) 및 제2 후면 커버(290)를 포함할 수 있다.
일 실시예에 따르면, 제1 후면 커버(280), 제2 후면 커버(290), 제1 하우징(210), 및 제2 하우징(220)은 전자 장치(101)의 다양한 부품들(예: 인쇄 회로 기판 또는 배터리)이 배치될 수 있는 공간을 제공할 수 있다. 일 실시예에 따르면, 전자 장치(101)의 후면에는 하나 이상의 부품(components)이 배치되거나 시각적으로 노출될 수 있다. 예를 들어, 제1 후면 커버(280)의 적어도 일부를 통해 서브 디스플레이(234)의 적어도 일부가 시각적으로 노출될 수 있다. 일 실시예에 따르면, 제2 후면 커버(290)의 적어도 일부를 통해 하나 이상의 부품 또는 센서가 시각적으로 노출될 수 있다. 다양한 실시예에서 상기 센서는 근접 센서 및/또는 카메라 모듈(206)(예: 후면 카메라)을 포함할 수 있다.
일 실시예에 따르면, 센서 영역(224)에 마련된 하나 이상의 개구(opening)를 통해 전자 장치(101)의 전면에 노출된 전면 카메라 또는 제2 후면 커버(290)의 적어도 일부를 통해 노출된 카메라 모듈(206)(예: 후면 카메라(rear camera))은 하나 또는 복수의 렌즈들, 이미지 센서, 및/또는 이미지 시그널 프로세서를 포함할 수 있다. 어떤 실시예에서는, 2개 이상의 렌즈들(적외선 카메라, 광각 및 망원 렌즈) 및 이미지 센서들이 전자 장치(101)의 한 면에 배치될 수 있다.
일 실시예에 다르면, 제2 후면 커버(290)의 적어도 일부를 통해 노출된 카메라 모듈(206)은, 디스플레이(230)의 제2 디스플레이 영역(232)과 반대를 향할 수 있다.
일 실시예에 따르면, 힌지 커버(240)는, 제1 하우징(210)과 제2 하우징(220) 사이에 배치되어, 내부 부품(예: 도 4의 힌지 구조(202))을 가릴 수 있다. 일 실시예에 따르면, 힌지 커버(240)는, 전자 장치(101)의 상태(펼쳐진 상태(flat state) 또는 접힌 상태(folded state))에 따라, 제1 하우징(210) 및 제2 하우징(220)의 일부에 의해 가려지거나, 외부로 노출될 수 있다.
일 실시예에 따르면, 도 2에 도시된 바와 같이, 전자 장치(101)가 펼쳐진 상태인 경우, 상기 힌지 커버(240)는 제1 하우징(210) 및 제2 하우징(220)에 의해 가려져 노출되지 않을 수 있다. 일 실시예에 따르면, 도 2b에 도시된 바와 같이, 상기 전자 장치(101)가 접힌 상태(예: 완전 접힌 상태(fully folded state))인 경우, 상기 힌지 커버(240)는 제1 하우징(210) 및 제2 하우징(220) 사이에서 외부로 노출될 수 있다. 일 실시예에 따르면, 제1 하우징(210) 및 제2 하우징(220)이 소정의 각도를 이루는(folded with a certain angle) 중간 상태(intermediate state)인 경우, 힌지 커버(240)는 제1 하우징(210) 및 제2 하우징(220)의 사이에서 외부로 일부 노출될 수 있다. 다만 이 경우 노출되는 영역은 완전히 접힌 상태보다 적을 수 있다. 일 실시예에서, 힌지 커버(240)는 곡면을 포함할 수 있다.
일 실시예에 따르면, 디스플레이(230)는, 하우징(201)에 의해 형성된(또는 정의된) 공간 상에 배치될 수 있다. 예를 들어, 디스플레이(230)는 하우징(201)에 의해 제공된 리세스(recess) 상에 안착되며, 전자 장치(101)의 전면의 대부분을 형성할 수 있다. 따라서, 전자 장치(101)의 전면은 디스플레이(230) 및 디스플레이(230)에 인접한 제1 하우징(210)의 일부 영역 및 제2 하우징(220)의 일부 영역을 포함할 수 있다. 전자 장치(101)의 후면은 제1 후면 커버(280), 제1 후면 커버(280)에 인접한 제1 하우징(210)의 일부 영역, 제2 후면 커버(290) 및 제2 후면 커버(290)에 인접한 제2 하우징(220)의 일부 영역을 포함할 수 있다.
일 실시예에 따르면, 디스플레이(230)는 서로 이격된 복수의 디스플레이 영역들을 포함할 수 있다. 예를 들어, 디스플레이(230)는 제1 하우징(210) 상에 배치된 제1 디스플레이 영역(231), 제2 하우징(220) 상에 배치된 제2 디스플레이 영역(232) 및 폴딩 영역(233)을 포함할 수 있다. 일 실시예에 따르면, 제1 디스플레이 영역(231) 및 제2 디스플레이 영역(232)은 폴딩 축(Ax)을 기준으로 회전할 수 있다.
일 실시예에 따르면, 디스플레이(230)는 적어도 일부 영역이 평면 또는 곡면으로 변형될 수 있는 디스플레이를 의미할 수 있다. 예를 들어, 디스플레이(230)는 폴더블(foldable) 또는 플렉서블(flexible) 디스플레이일 수 있다. 일 실시예예 따르면, 상기 디스플레이(230)는 폴딩 영역(233), 폴딩 영역(233)을 기준으로 일측(예: 도 2에 도시된 폴딩 영역(233)의 좌측)에 배치되는 제1 디스플레이 영역(231) 및 타측(예: 도 2에 도시된 폴딩 영역(233)의 우측)에 배치되는 제2 디스플레이 영역(232)을 포함할 수 있다. 다만, 이러한 디스플레이(230)의 영역 구분은 예시적인 것이며, 디스플레이(230)는 구조 또는 기능에 따라 복수(예를 들어, 4 개 이상 혹은 2 개)의 영역으로 구분될 수도 있다. 예를 들어, 도 2에 도시된 실시예에서는 Y축에 평행하게 연장되는 폴딩 영역(233) 또는 폴딩 축(Ax)에 의해 디스플레이(230)의 영역이 구분될 수 있다. 일 실시예에 따르면, 디스플레이(230)는 다른 폴딩 영역(예: X축에 평행한 폴딩 영역) 또는 다른 폴딩 축(예: X축에 평행한 폴딩 축)을 기준으로 영역이 구분될 수도 있다. 일 실시예에 따르면, 디스플레이(230)는, 터치 감지 회로, 터치의 세기(압력)를 측정할 수 있는 압력 센서, 및/또는 자기장 방식의 스타일러스 펜을 검출하도록 구성된 디지타이저(미도시)와 결합되거나 인접하여 배치될 수 있다.
일 실시예에 따르면, 제1 디스플레이 영역(231)과 제2 디스플레이 영역(232)은 폴딩 영역(233)을 중심으로 전체적으로 대칭인 형상을 가질 수 있다. 일 실시예(미도시)에 따르면, 제2 디스플레이 영역(232)은, 제1 디스플레이 영역(231)과 달리, 센서 영역(224)의 존재에 따라 컷(cut)된 노치(notch)를 포함할 수 있으나, 이외의 영역에서는 제1 디스플레이 영역(231)과 실질적으로 대칭인 형상을 가질 수 있다. 예를 들어, 제1 디스플레이 영역(231)과 제2 디스플레이 영역(232)은 서로 대칭적인 형상을 갖는 부분과, 서로 비대칭적인 형상을 갖는 부분을 포함할 수 있다.
이하, 전자 장치(101)의 상태(예: 펼쳐진 상태(flat state, 또는 unfolded state) 및 접힌 상태(folded state))에 따른 제1 하우징(210) 및 제2 하우징(220)의 동작과 디스플레이(230)의 각 영역을 설명한다.
일 실시예에 따르면, 전자 장치(101)가 펼쳐진 상태(flat state)(예: 도 2)인 경우, 제1 하우징(210) 및 제2 하우징(220)은 실질적으로 180도의 각도를 이루며 동일 방향을 향하도록 배치될 수 있다. 디스플레이(230)의 제1 디스플레이 영역(231)의 표면과 제2 디스플레이 영역(232)의 표면은 서로 180도를 형성하며, 동일한 방향(예: 전자 장치의 전면 방향)을 향할 수 있다. 폴딩 영역(233)은 제1 디스플레이 영역(231) 및 제2 디스플레이 영역(232)과 동일 평면을 형성할 수 있다.
일 실시예에 따르면, 전자 장치(101)가 접힌 상태(folded state)(예: 도 2b)인 경우, 제1 하우징(210) 및 제2 하우징(220)은 서로 마주보게 배치될 수 있다. 디스플레이(230)의 제1 디스플레이 영역(231)의 표면과 제2 디스플레이 영역(232)의 표면은 서로 좁은 각도(예: 약 0도에서 10도 사이)를 형성하며, 서로 마주볼 수 있다. 전자 장치(101)가 접힌 상태일 때, 폴딩 영역(233)은 적어도 일부가 소정의 곡률을 가지는 곡면으로 이루어질 수 있다.
일 실시예에 따르면, 전자 장치(101)가 중간 상태(미도시)인 경우, 제1 하우징(210) 및 제2 하우징(220)은 서로 소정의 각도(a certain angle)로 배치될 수 있다. 디스플레이(230)의 제1 디스플레이 영역(231)의 표면과 제2 디스플레이 영역(232)의 표면은 접힌 상태보다 크고 펼침 상태보다 작은 각도를 형성할 수 있다. 폴딩 영역(233)은 적어도 일부가 소정의 곡률을 가지는 곡면으로 이루어질 수 있으며, 이 때의 곡률은 접힌 상태(folded state)인 경우보다 작을 수 있다.
도 3은, 본 개시의 일 실시 예에 따른, 전자 장치에 복수의 카메라들이 배치된 상태를 도시한 도면이다.
도 3을 참조하면, 일 실시예에 따른 전자 장치(예: 도 1의 전자 장치(101))는 복수의 카메라들(예: 도 1의 카메라 모듈(190))을 포함할 수 있다. 이에 한정되지 않고, 일 실시예에 따른 전자 장치(101)는 도 1에서 설명한 다른 구성요소들을 더 포함할 수 있다.
일 실시예에 따른 전자 장치는 도 3에 도시된 바와 같이 하우징(210, 220)이 펼쳐진 상태에서 카메라 모듈(206)에 포함된 복수의 후면 카메라들(예컨대, 제1 후면 카메라(310), 제2 후면 카메라(320))을 이용하여 스테레오 영상을 촬영할 수 있다. 예컨대, 전자 장치는 가로 방향으로 위치한 상태에서(예컨대, 전자 장치를 90도 회전시킨 상태에서) 카메라 모듈(206)에 포함된 복수의 후면 카메라들(예컨대, 제1 후면 카메라(310), 제2 후면 카메라(320))을 이용하여 스테레오 영상을 촬영할 수 있다.
일 실시예에 따르면, "스테레오 영상"은 2개 이상의 카메라를 통해 획득한 영상들로서, 양쪽 눈의 시각 차이를 이용하여 3차원적인 입체감(깊이감)을 지각할 수 있게 해주는 한 쌍의 2D 영상의 의미로 사용될 수 있다. 예컨대, 상기 스테레오 영상은 좌안에 대응하는 좌안 영상 및 우안에 대응하는 우안 영상을 포함할 수 있다. 일 실시예에 따르면, 상기 스테레오 영상은 사용자가 착용할 수 있는 형태로 개발되는 전자 장치(예컨대, AR 글래스(augmented reality glass), VST(video see through) 장치, HMD(head mounted display) 장치와 같은 웨어러블 전자 장치)를 통해 재생되어 3D 영상의 형태로 사용자에게 보일 수 있다. 상기 스테레오 영상은 '공간 비디오'라는 용어로도 대체될 수 있으나, 특정 용어로 제한되는 것은 아니다.
한편, 아래에서 설명되는 제2 하우징(210)은, 도 2a와 도 2b의 제1 하우징(210)과 동일할 수 있다. 또한, 제1 하우징(220)은, 도 2a와 도 2b의 제2 하우징(220)과 동일할 수 있다.
일 실시예에 따르면, 카메라는 복수의 카메라들을 포함할 수 있으며, 복수의 카메라들 중 전면 카메라(330)는 제2 하우징(210)의 제4 면(예: 전자 장치(101)가 접힌 상태일 때 전면)에 배치되고, 복수의 카메라들 중 복수의 후면 카메라들(310, 320)은 제1 하우징(220)의 제2 면(예: 전자 장치(101)가 접힌 상태일 때 후면)에 배치될 수 있다. 예컨대, 전자 장치가 가로 방향(도 2a에 도시된 세로 방향에서 90도 회전된 방향)으로 놓여진 상태에서 복수의 후면 카메라들(392) 중 제1 방향(예: Y 방향)으로 일렬로 배치된 적어도 2개(예컨대, 제1 후면 카메라(310) 및 제2 후면 카메라(320))를 이용하여 스테레오 영상을 촬영할 수 있다. 일 실시예에 따르면, 복수의 후면 카메라들(310, 320)은 스테레오 영상 촬영을 위한 이종 또는 동종의 제1 후면 카메라(310) 및 제2 후면 카메라(320)를 포함할 수 있다. 이종 또는 동종의 제1 후면 카메라(310) 및 제2 후면 카메라(320)는 전자 장치의 후면에 배치된 후면 카메라일 수 있다. 예컨대, 제1 후면 카메라(310)와 제2 후면 카메라(320)가 이종의 카메라인 경우, 상기 제1 후면 카메라(310)는 광각 카메라일 수 있으며, 상기 제2 후면 카메라(320)는 초광각 카메라일 수 있다. 상기 광각 카메라로 구성된 제1 후면 카메라(310)는 메인 카메라로 지칭될 수도 있으나, 상기 용어로 제한되는 것은 아니다.
일 실시예에 따르면, 전자 장치가 폴더블 형태인 경우, 도 2a 및 도 3에 도시된 바와 같이, 전자 장치를 완전히 펼쳤을 때, 전면 카메라(330)와 후면 카메라(310 및/또는 320)가 동일한 방향을 향할 수 있다. 이에 따라, 전면에 배치된 전면 카메라(330)와 후면에 배치된 복수의 후면 카메라(310, 320)들 중 어느 하나의 후면 카메라(예컨대, 제1 후면 카메라(310) 또는 제2 후면 카메라(320))를 이용하여 깊이 정보를 획득할 수 있다.
일 실시예에 따라, 후술하는 실시예들에서는 설명의 편의를 위해 스테레오 영상 촬영에 이용되는 복수의 카메라들 중 제1 후면 카메라(310)를 좌안에 대응하는 카메라로 설정하고, 제2 후면 카메라(320)를 우안에 대응하는 카메라로 설정할 수 있다. 다양한 실시예에 따라, 제1 후면 카메라(310)를 우안에 대응하는 카메라로 설정하고, 제2 후면 카메라(320)를 좌안에 대응하는 카메라로 설정할 수도 있다.
일 실시예에 따라, 전자 장치는, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라(310)를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라(320)를 통해 제2 이미지를 획득하고, 상기 전면 카메라(330)를 통해 제3 이미지를 획득할 수 있다. 일 실시예에 따라, 전자 장치는, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득할 수 있다. 전자 장치는, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득할 수 있다. 다양한 실시예에 따라, 상기 제1 깊이 정보의 정밀도는, 상기 제1 이미지 및 상기 제2 이미지에 기반하여 획득한 제2 깊이 정보의 정밀도보다 더 높을 수 있다. 이에 대한 상세한 설명은, 도 11의 설명에서 후술하기로 한다.
다양한 실시예에 따라, 전자 장치는, 상기 제1 이미지 및 상기 제2 이미지에 기반하여 획득한 상기 스테레오 영상의 데이터를 메모리에 저장할 수 있다. 전자 장치는 상기 제1 이미지 및 상기 제3 이미지에 기반하여 획득한 상기 제1 깊이 정보를 상기 메모리에 저장할 수 있다. 예컨대, 전자 장치는, 제1 깊이 정보와 스테레오 영상을 위한 좌안 이미지(예: 제1 이미지)와 우안 이미지(예: 제2 이미지)를 함께 저장할 수 있다. 전자 장치는 상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 디스플레이(예컨대, 플렉시블 디스플레이)를 통해 표시할 수 있다. 또는, 웨어러블 전자 장치(예: HMD 장치, VST 장치, VR 장치, 또는 XR 장치)에서 상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 웨어러블 전자 장치(예: HMD 장치, VST 장치, VR 장치, 또는 XR 장치)의 디스플레이를 통해 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 표시할 수 있다. 상기 제1 깊이 정보를 이용하여 스테레오 영상을 디스플레이하는 다양한 실시예들은 도 9a, 도 9b, 도 10a, 및 도 10b의 설명에서 상세히 후술하기로 한다.
다양한 실시예에 따라, 사용자가 스테레오 영상을 촬영할 때, 도 3에 도시된 바와 같이 전자 장치를 가로 방향으로 파지한 상태에서 촬영할 수 있다. 이때, 사용자는 통상적으로 후면 카메라(310 및/또는 320)를 통해 촬영되는 것으로 인지함에 따라, 전면 카메라(330)가 손에 의해 가려질 수 있다. 상기 전면 카메라(330)가 손에 의해 가려지더라도 복수의 후면 카메라들(310, 320)에 의해 스테레오 영상을 획득할 수 있다. 그러나, 상기 고정밀의 제1 깊이 정보를 획득하기 위해 전면 카메라(330)가 사용될 수 있으므로, 전자 장치는 전면 카메라(330)가 가려질 경우 사용자에게 파지 위치를 변경할 수 있도록 가이드 화면을 표시할 수 있다. 사용자는 표시된 가이드 화면을 확인하고 파지 위치를 조정함으로써 전면 카메라(330)를 통해 깊이 정보를 획득할 수 있다. 다양한 실시예에 따라, 상기 가이드 화면은 전면 카메라(330)의 위치를 표시하는 화면 또는 손의 위치 가이드를 표시하는 화면을 포함할 수 있다.
도 4는 본 개시의 일 실시 예에 따른, 복수의 카메라들을 포함하는 전자 장치의 블록도이다.
도 4를 참조하면, 복수의 카메라들을 포함하는 전자 장치(101)는 프로세서(420)(예컨대, 도 1의 프로세서(120)), 메모리(430)(예컨대, 도 1의 메모리(130)), 플렉서블 디스플레이(200)(예컨대, 도 1의 디스플레이 모듈(160)), 복수의 카메라들(예컨대, 도 1의 카메라 모듈(180))을 포함할 수 있다. 상기 복수의 카메라들은 제1 후면 카메라(310) 및 제2 후면 카메라(320)를 포함할 수 있다. 상기 도 4는 두 개의 후면 카메라들을 도시하고 있으나, 이는 설명의 편의를 위한 것이며 3개 이상의 후면 카메라들을 포함할 수도 있다. 상기 복수의 카메라들은 적어도 하나의 전면 카메라(330)를 포함할 수 있다.
일 실시 예에 따른, 프로세서(420)는, 전자 장치(101)의 전반적인 동작을 제어할 수 있다. 예컨대, 프로세서(420)는, 도 1의 프로세서(120)와 동일 내지 유사하게 구현될 수 있다. 일 실시 예에 따른 프로세서(420)는 소프트웨어(예: 도 1의 프로그램(140))를 실행하여 프로세서(420)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 명령어에 기반하여 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따른 명령어(instruction)는 전자 장치(101) 또는 프로세서(420)에 의해 처리 가능한 기계어(machine language)로 구성된 명령을 포함할 수 있다. 예를 들면, 명령어는 프로그램에서 이용되는 동작 지시에 대응된 명령을 포함할 수 있다.
한편, 도 2에서는 전자 장치(101)가 하나의 프로세서(420)를 포함하는 것으로 도시하고 있으나, 이는 예시적인 것이며 본 발명의 기술적 사상은 이에 제한되지 않을 수 있다. 예컨대, 전자 장치(101)는, 적어도 하나의 프로세서를 포함할 수 있다. 예컨대, 프로세서(420)는, 적어도 하나의 프로세서로 구현될 수 있다.
일 실시예에 따르면, 메모리(430)(예: 도 1의 메모리(130))는 전자 장치(101)의 적어도 하나의 동작을 야기하도록 하는 적어도 하나의 명령어(또는 인스트럭션)을 저장할 수 있다. 적어도 하나의 인스트럭션은, 프로세서(420)에 의해 개별적으로 또는 집합적으로 실행 시, 전자 장치(101)로 하여금 해당하는 동작을 수행하도록 할 수 있다.
일 실시예에 따르면, 메모리(430)는, 전자 장치(101)의 데이터를 저장할 수 있다. 예컨대, 데이터는 컨텐트에 대한 데이터를 포함할 수 있으며, 컨텐트는, 이미지, 및/또는 영상을 포함할 수 있다.
일 실시 예에 따르면, 생성형 AI 모델은, 메모리(430)에 저장될 수 있다. 또는, 생성형 AI 모델은 외부 전자 장치(예: 서버)에 저장될 수 있다. 예컨대, 프로세서(220)는, 생성형 AI 모델을 이용하여, 제1 후면 카메라(310), 제2 후면 카메라(320), 또는 전면 카메라(330) 중 적어도 하나로부터 획득된 이미지를 이용하여, 3차원 공간 이미지(또는 3차원 공간 영상)를 획득할 수 있다.
일 실시예에 따라, 사용자가 전자 장치(101)에서 사진 또는 동영상 촬영과 관련된 어플리케이션의 실행을 입력하면, 프로세서(420)는 메모리(430)에 저장된 상기 사진 또는 동영상 촬영과 관련된 어플리케이션에 대응하는 프로그램(예컨대, 도 1의 프로그램(140))을 실행시킬 수 있다.
일 실시예에 따라, 프로세서(420)는 상기 사진 또는 동영상 촬영과 관련된 어플리케이션의 실행에 따라 플렉시블 디스플레이(200)를 통해 프리뷰 이미지를 표시할 수 있다. 플렉시블 디스플레이(200)를 통해 표시되는 상기 프리뷰 이미지는 제1 후면 카메라(310)를 통해 획득한(또는 캡쳐된) 제1 이미지(예컨대, 좌안 영상 이미지) 또는 제2 후면 카메라(320)를 통해 획득한(또는 캡쳐된) 제2 이미지(예컨대, 우안 영상 이미지)에 대응할 수 있다.
일 실시예에 따라, 상기 어플리케이션을 통해 스테레오 영상의 촬영 시작을 위한 사용자 입력이 수신되고, 일정 시간이 경과한 후 촬영 종료를 위한 사용자 입력이 수신되면, 프로세서(420)는 상기 촬영 시작 시점부터 촬영 종료 시점까지 상기 제1 후면 카메라(310)를 통해 획득한 제1 이미지 및 상기 제2 후면 카메라(320)를 통해 획득한 제2 이미지를 스테레오 영상으로 메모리(430)에 저장할 수 있다. 일 실시예에 따라, 메모리(430)에 저장되는 스테레오 영상은 지정된 코딩(예컨대, HV-HEVC(multi-view high efficiency video coding)) 방식에 기반하여 압축된 파일의 형태로 저장될 수 있다. 일 실시예에 따라, 상기 스테레오 영상의 촬영 시작을 위한 사용자 입력은 상기 어플리케이션에서 촬영 모드가 스테레오 영상 촬영 모드로 설정된 상태에서 동영상 촬영 시작 버튼의 입력으로 설정 또는 확인될 수도 있으며, 별도로 설정된 스테레오 영상 촬영 시작 버튼의 입력으로 설정 또는 확인될 수도 있다. 다양한 실시예에 따라, 프로세서(420)는 상기 스테레오 영상의 촬영 시 전면 카메라(330)를 통해 제3 이미지를 획득할 수 있다. 프로세서(420)는 제1 후면 카메라(310)를 통해 획득한 제1 이미지 및 상기 전면 카메라(330)를 통해 획득한 제3 이미지에 기반하여 깊이 정보를 획득할 수 있다. 다른 실시예에 따라, 프로세서(420)는 제2 후면 카메라(320)를 통해 획득한 제2 이미지 및 전면 카메라(330)를 통해 획득한 제3 이미지에 기반하여 깊이 정보를 획득할 수 있다. 프로세서(420)는 상기 획득한 깊이 정보를 메모리(430)에 저장할 수 있다. 프로세서(420)는, 깊이 정보를 스테레오 영상에 동기화하여 메모리(430)에 저장할 수 있다. 프로세서(420)에서 상기 제1 이미지(또는 상기 제2 이미지) 및 상기 제3 이미지에 기반하여 깊이 정보를 생성하는 구체적인 실시예는 도 6의 설명에서 상세히 후술하기로 한다.
도 5는 본 개시의 일 실시 예에 따른, 깊이 정보 생성 방법의 개념을 나타내는 도면이다.
도 5를 참조하면, 일 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 스테레오 영상 촬영 모듈(510), 깊이 정보 생성 모듈(520), 추가 정보 저장 모듈(530), 및 코덱(540)를 이용하여, 스테레오 영상을 촬영 및 획득할 수 있다. 예컨대, 스테레오 영상 촬영 모듈(510), 깊이 정보 생성 모듈(520), 추가 데이터 저장 모듈(530), 및 코덱(540)는 전자 장치(101)에 포함될 수 있으며, 소프트웨어 또는 하드웨어 중 적어도 일부로 구현될 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 도 5에 도시된 바와 같이 전자 장치(101)가 가로 방향으로 위치한 상태에서(예컨대, 전자 장치를 90도 회전시킨 상태에서) 복수의 후면 카메라들(예컨대, 제1 후면 카메라(310), 제2 후면 카메라(320))을 이용하여 스테레오 영상을 촬영할 수 있다. 다양한 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 도 5에 도시된 바와 같이 전자 장치(101)가 세로 방향으로 위치한 상태에서(예컨대, 전자 장치를 0도 또는 180도 회전시킨 상태에서) 복수의 후면 카메라들(예컨대, 제1 후면 카메라(310), 제2 후면 카메라(320))을 이용하여 스테레오 영상을 촬영할 수도 있다. 다만, 설명의 편의를 위해, 스테레오 영상을 촬영하는 동작은, 전자 장치(101)가 가로 방향으로 위치한 상태에서 수행되는 것을 중점적으로 설명될 것이다.
일 실시 예에 따르면, 스테레오 영상 촬영 모듈(510)은, 복수의 후면 카메라들(310, 320)을 이용하여 제1 이미지(예: 좌안 영상 이미지) 및 제2 이미지(예: 우안 영상 이미지)를 획득할 수 있다. 예컨대, 스테레오 영상 촬영 모듈(510)은, 사진 또는 동영상 촬영과 관련된 어플리케이션을 포함할 수 있다. 예컨대, 스테레오 영상 촬영 모듈(510)(예: 사진 또는 동영상 촬영과 관련된 어플리케이션)의 실행을 요청하는 입력이 확인되면, 전자 장치(101)는, 스테레오 영상 촬영 모듈(510)(예: 사진 또는 동영상 촬영과 관련된 어플리케이션)을 실행시킬 수 있다. 스테레오 영상 촬영 모듈(510)(예: 사진 또는 동영상 촬영과 관련된 어플리케이션)을 통해 스테레오 영상의 촬영 시작을 위한 사용자 입력이 확인되면, 촬영 시작 시점부터 촬영 종료 시점까지 제1 후면 카메라(310)와 제2 후면 카메라(320)를 통해 제1 이미지(예: 좌안 영상 이미지) 및 제2 이미지(예: 우안 영상 이미지)를 획득할 수 있다.
일 실시 예에 따르면, 깊이 정보 생성 모듈(520)은, 상기 스테레오 영상의 촬영 시 제1 후면 카메라(310)와 전면 카메라(330)을 이용하여 제1 이미지 및 제3 이미지를 획득할 수 있다. 깊이 정보 생성 모듈(520)은, 획득된 제1 이미지 및 제3 이미지를 이용하여 스테레오 영상에 관련된 깊이 정보를 획득할 수 있다. 예컨대, 깊이 정보는, 스테레오 영상이 촬영되는 공간의 깊이 정보를 포함할 수 있다. 깊이 정보 생성 모듈(520)은, 제1 후면 카메라(310)와 전면 카메라(330)와 관련된 카메라 파라미터를 획득할 수 있다. 깊이 정보 생성 모듈(520)은, 깊이 정보를 획득함에 있어서, 카메라 파라미터를 이용할 수 있다. 예컨대, 카메라 파라미터는, 내적 파라미터 및/또는 외적 파라미터를 포함할 수 있다. 예컨대, 내적 파라미터는, 제1 후면 카메라(310)와 전면 카메라(330) 사이의 배치 거리(예: 베이스라인 거리), 제1 후면 카메라(310)의 초점 거리(focal length), 및 전면 카메라(330)의 초점 거리(focal length)에 대한 정보를 포함할 수 있다. 외적 파라미터는, 전자 장치(101)의 외부 밝기, 조명 유무, 및 실내 여부에 대한 정보를 포함할 수 있다. 다른 실시예에 따라, 깊이 정보 생성 모듈(520)은 제2 후면 카메라(320)를 통해 획득한 제2 이미지 및 전면 카메라(330)를 통해 획득한 제3 이미지를 이용하여 깊이 정보를 획득할 수도 있다.
일 실시 예에 따르면, 추가 정보 저장 모듈(530)은, 스테레오 영상 촬영과 관련된 추가적인 정보(이하, 추가 정보)를 획득할 수 있다. 예컨대, 추가 정보는, 시간 정보(예: 스테레오 영상이 촬영된 시간에 대한 정보), 위치 정보(예: 스테레오 영상이 촬영된 위치에 대한 정보), 및/또는 인물 정보(예: 스테레오 영상에 포함된 인물에 대한 정보)를 포함할 수 있다.
일 실시 예에 따르면, 코덱(540)은, 스테레오 영상에 대한 데이터(550)를 생성하고, 생성된 데이터(550)를 메모리(예: 도 4의 메모리(430))에 저장할 수 있다. 예컨대, 데이터(550)는, 지정된 포맷에 기반하여, 좌안 영상(또는 좌안 영상 이미지), 우안 영상(또는 우안 영상 이미지), 깊이 정보, 및/또는 추가 정보를 포함할 수 있다. 예컨대, 코덱(540)은, 스테레오 영상 촬영 모듈(510)로부터 획득된 제1 이미지와 제2 이미지를 스테레오 영상으로 저장할 수 있다. 예컨대, 스테레오 영상은 지정된 코딩(예컨대, HV-HEVC(multi-view high efficiency video coding)) 방식에 기반하여 압축된 파일의 형태로 저장될 수 있다. 코덱(540)은, 깊이 정보 생성 모듈(520)로부터 획득된 깊이 정보를 상기 데이터(550)에 저장할 수 있다. 예컨대, 코덱(540)은, 깊이 정보를 스테레오 영상에 동기화하여 상기 데이터(550)에 저장할 수 있다. 또한, 코덱(540)은, 추가 정보 저장 모듈(530)로부터 획득된 추가 정보를 상기 데이터(550)에 저장할 수도 있다.
일 실시 예에 따르면, 전자 장치(101)는, 저장된 데이터(550)에 기반하여, 해당하는 스테레오 영상을 디스플레이(예: 도 4의 디스플레이(200)를 통해 재생 또는 표시할 수 있다. 다른 실시 예에 따르면, 웨어러블 전자 장치(예: HMD 장치, VST 장치, VR 장치, 또는 XR 장치)가 전자 장치(101)에 의해 저장된 스테레오 영상에 대한 데이터를 획득한 후, 상기 웨어러블 전자 장치는 상기 웨어러블 전자 장치의 디스플레이를 통해 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 표시할 수 있다. 예컨대, 상기 웨어러블 전자 장치는, 상기 스테레오 영상의 재생을 위한 사용자 입력을 확인함에 기반하여, 웨어러블 전자 장치는 제1 깊이 정보를 이용하여 상기 스테레오 영상을 표시할 수 있다. 예컨대, 전자 장치(101)는, 상기 웨어러블 전자 장치의 요청에 따라, 상기 웨어러블 전자 장치로 스테레오 영상에 대한 데이터를 전송할 수 있다.
도 6은 본 개시의 일 실시 예에 따른, 스테레오 영상을 이용한 깊이 정보 추정 방법의 개념을 나타내는 도면이다.
도 6을 참조하면, 일 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 제1 이미지(611)(예: 제1 후면 카메라(310)) 및 제3 이미지(512)(예: 전면 카메라(330)에 기반하여 깊이 정보를 획득할 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 제1 이미지(611)와 제3 이미지(612)에 포함된 유사한 픽셀들을 확인 및 비교할 수 있다. 예컨대, 전자 장치(101)는, 제1 이미지(611)에 포함된 제1 픽셀(621)과 제3 이미지(612)에 포함된 제1 픽셀(622)을 확인하고, 확인된 픽셀들(621, 622) 사이의 수평 거리(DIS1)를 비교할 수 있다. 전자 장치(101)는, 제1 이미지(611)에 포함된 제2 픽셀(626)과 제3 이미지(612)에 포함된 제2 픽셀(627)을 확인하고, 확인된 픽셀들(626, 627) 사이의 수평 거리(DIS2)를 비교할 수 있다. 예컨대, 수평 거리(DIS1, DIS2)는 픽셀 단위로 결정될 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 스테레오 변위차 맵(disparity map) 추정 모델을 이용하여, 제1 이미지(611) 및 제3 이미지(612)에 대한 변위 맵(640)를 획득할 수 있다. 전자 장치(101)는, 변위 거리들(DIS1, DIS2)에 기반하여, 변위 맵(640)를 획득할 수 있다. 예컨대, 스테레오 변위 지도 추정 모델(630)은, 변위 거리들(DIS1, DIS2)에 기반하여, 변위 맵을 획득하도록 설정 또는 학습될 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 깊이 정보 변환 모델(650)을 이용하여, 변위 지도(640)를 깊이 맵(660)으로 변환할 수 있다. 예컨대, 깊이 정보 변환 모델(650)은, 변위 맵을 깊이 맵으로 변환하도록 설정 또는 학습될 수 있다. 예컨대, 전자 장치(101)는, 제1 후면 카메라(310) 또는 전면 카메라(320) 중 적어도 하나의 초점 거리(f), 제1 후면 카메라(310)와 전면 카메라(320) 사이의 거리(b)(예: 베이스라인), 및 변위 거리(d)에 기반하여, 깊이(D)에 대한 정보를 획득할 수 있다. 예컨대, 깊이(D)는, 아래의 수학식 1과 같이 결정될 수 있다. 예컨대, 깊이(D)는, mm단위로 결정될 수 있다. 예컨대, 변위 거리(d)는, 제1 픽셀들(621, 622) 사이의 수평 거리(DIS1) 및/또는 제2 픽셀들(626, 627) 사이의 수평 거리(DIS2)에 기반하여 결정될 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 깊이 맵(660)을 제1 이미지(611) 및 제3 이미지(612)에 대한 깊이 정보로 획득할 수 있다.
상술한 방법에 기반하여, 전자 장치(101)는 서로 다른 카메라(310, 330)들로부터 획득된 적어도 2개의 이미지들을 이용하여 깊이 정보를 획득할 수 있다. 전자 장치(101)가 깊이 정보를 획득하는 방법은 아래의 도 7에서 구체적으로 설명될 것이다.
도 7은 본 개시의 일 실시 예에 따른, 깊이 정보를 생성하기 위한 방법을 나타내는 도면이다.
도 7을 참조하면, 일 실시 예에 따르면, 깊이 정보 생성 모듈(520)은, 제1 영상 수정 모듈(710), 이미지 보정 모듈(720), 깊이 정보 추정 모듈(730), 및 제2 영상 수정 모듈(740)을 포함할 수 있다.
일 실시 예에 따르면, 제1 영상 수정 모듈(710)은, 제1 후면 카메라(310)로부터 획득된 제1 이미지 및 전면 카메라(330)로부터 획득된 제3 이미지를 수신할 수 있다. 제1 영상 수정 모듈(710)은, 제1 후면 카메라(310)와 전면 카메라(330)의 수직 배치에 기반하여 촬영된 이미지들을, 수정, 변경, 또는 회전시킬 수 있다. 예컨대, 제1 영상 수정 모듈(710)은, 수직 배치의 이미지들을 90도(또는 270도) 회전시킬 수 있다. 또한, 제1 영상 수정 모듈(710)은, 회전된 이미지들을 지정된 크기(예: 0.25배의 크기)로 축소할 수 있다. 예컨대, 이미지들의 크기를 축소하는 동작은, 연산량 감소를 위한 것으로, 생략될 수도 있다.
일 실시 예에 따르면, 이미지 보정(image rectification) 모듈(720)은, 미리 캘리브레이션된 카메라 파라미터(예: 내적 파라메터 및/또는 외적 파라미터)에 대한 정보와 제1 이미지 및 제3 이미지를 수신하는 것에 기반하여, 수평 배치의 이미지들을 획득 또는 출력할 수 있다. 예컨대, 제1 이미지 및 제3 이미지는, 제1 영상 수정 모듈에 의해 수정(예: 회전 및/또는 크기 축소)된 이미지들일 수 있다. 예컨대, 이미지 보정 모듈(720)은 가상의 평면 공간에 제1 이미지 및 제3 이미지를 수평 방향으로 나란하게 정렬시키는 것에 기반하여, 복수의 양안 영상 이미지들(예: 제1 이미지 및 제3 이미지에 대응하는 2개의 이미지들)을 획득 및 출력할 수 있다.
일 실시 예에 따르면, 깊이 정보 추정 모듈(730)은, 수평 방향으로 정렬된 양안 영상 이미지들을 수신하는 것에 기반하여, 깊이 정보를 추정 및 출력할 수 있다. 예컨대, 깊이 정보 추정 모듈(730)은, 딥 러닝 모델 또는 비-딥 러닝 모델(예: 컨벌루션 방식)에 기반하여 깊이 정보를 추정할 수 있다. 예컨대, 깊이 정보 추정 모델(730)은, 도 6에서 설명한 스테레오 변위 맵 추정 모듈(630)과 깊이 맵 변환 모델(650)을 포함할 수 있다. 예컨대, 깊이 정보 추정 모듈(730)이 딥 러닝 모델을 이용할 때, 도 6에서 설명한 스테레오 변위 맵 추정 모듈(630)과 깊이 맵 변환 모델(650)중 적어도 하나는 딥 러닝 모델을 포함할 수 있다.
일 실시 예에 따르면, 제2 영상 수정 모듈(740)은, 제1 영상 수정 모듈(710)의 변경 사항(예: 회전 및 크기 축소)에 기반하여, 깊이 정보 추정 모듈(730)로부터 수신된 깊이 정보를 수정 및 출력할 수 있다. 예컨대, 제2 영상 수정 모듈(740)은, 깊이 정보를 90도(또는 270도)로 역회전하고, 타겟 크기에 맞게 깊이 정보의 크기를 조정(예: 크기 증가)할 수 있다. 제2 영상 수정 모듈(740)은 수정된 깊이 정보를 제1 이미지 및 제3 이미지에 대한 깊이 정보로 출력할 수 있다.
상술한 방법에 기반하여, 전자 장치(101)는 서로 다른 카메라(310, 330)들로부터 획득된 적어도 2개의 이미지들을 이용하여 깊이 정보를 획득할 수 있다.
도 8은 본 개시의 일 실시 예에 따른, 깊이 정보를 포함하는 스테레오 비디오의 데이터 포맷의 예를 나타내는 도면이다.
도 8을 참조하면, 일 실시 예에 따르면, 스테레오 영상에 대한 데이터(예: 도 5의 데이터(550))는, 시간 순서에 따라 촬영 또는 획득된 좌안 영상(810), 우안 영상(820), 및 깊이 정보에 대응하는 깊이 영상(830)을 포함할 수 있다. 예컨대, 좌안 영상(810)은 제1 후면 카메라(310)를 통해 획득된 제1 이미지(예: 좌안 영상 이미지)들을 포함할 수 있고, 우안 영상(820)은 제2 후면 카메라(320)를 통해 획득된 제2 이미지(예: 좌안 영상 이미지)들을 포함할 수 있다.
일 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 좌안 영상(810), 우안 영상(820)의 저장 시점과 깊이 영상(830)의 저장 시점을 일치시킬 수 있다. 예컨대, 전자 장치(101)는, 좌안 영상(810)에 대응하는 좌안 영상 이미지의 촬영 시점에 기반하여, 깊이 영상(830)의 저장 시점을 결정할 수 있다. 예컨대, 좌안 영상(810)에 대응하는 좌안 영상 이미지는 스테레오 영상 및 깊이 영상을 생성하는데 모두 필요하기 때문에 좌안 영상(810)에 대응하는 좌안 영상 이미지의 촬영 시점을 기반하여, 좌안 영상(810), 우안 영상(820)의 저장 시점과 깊이 영상(830)의 저장 시점을 일치 또는 동기화할 수 있다.
일 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 좌안 영상(810), 우안 영상(820)을 베이스 뷰 기반으로 압축할 수 있다. 예컨대, 베이스 뷰에 대응하는 이미지가 좌안 영상(810)일 때, 전자 장치(101)는, 좌안 영상(810)에 기반하여 우안 영상 이미지들(820)를 압축시키는 것에 기반하여 데이터(550)를 저장할 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 스테레오 영상의 좌안 영상(810) 및 우안 영상(820)에 추가로 깊이 영상(830)을 데이터(550)에 저장할 수 있다. 예컨대, 전자 장치(101)는 MV-HEVC의 영상 트랙에서, 좌안 영상(810) 및 우안 영상(820)에 깊이 영상을 동기화하여 추가 및 저장할 수 있다. 예컨대, 깊이 영상(830)은 스테레오 영상의 양안 영상들(810, 820)과는 유사하지 않은 단일 채널 깊이 값으로 구성되어 있으므로, 베이스뷰(Base view0 기반으로 압축이 불가능할 수 있다. 이에 따라, 전자 장치(101)는, 도 8과 같이, MV-HEVC의 영상 트랙에 압축된 스테레오 영상의 양안 영상들(810, 820)과 함께 깊이 영상(830)을 저장할 수 있다.
도 9a 및 도 9b는 본 개시의 일 실시 예에 따른, 전자 장치 또는 또는 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 표시하는 방법을 나타내는 도면이다.
도 9a와 도 9b를 참조하면, 일 실시 예에 따르면, 전자 장치(101) 또는 웨어러블 전자 장치(예: 도 4의 전자 장치(101)로부터 스테레오 비디오에 대한 데이터를 획득한 웨어러블 전자 장치)는, 깊이 정보를 이용하여 스테레오 비디오를 표시할 수 있다. 예컨대, 웨어러블 전자 장치는, HMD 장치, VST 장치, VR 장치, 또는 XR 장치를 포함할 수 있다.
도 9a를 참조하면, 일 실시 예에 따르면, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 좌안 영상을 위한 제1 이미지(예: 제1 후면 카메라(310)를 통해 획득된 이미지)(910) 및 우안 영상을 위한 제2 이미지(예: 제2 후면 카메라(320)를 통해 획득된 이미지)에 기반하여, 시차 조절된 양안 영상 컨텐트(예: 양안 영상 이미지)(930)를 생성할 수 있다. 이때, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 깊이 정보(예: 제1 이미지(910)와 제3 이미지(예: 전면 카메라(330)를 통해 획득된 이미지)에 기반하여 생성된 깊이 정보)를 이용하여 공간감 있는 양안 영상 이미지(930)를 생성할 수 있다, 예컨대, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 제1 이미지(910)와 제2 이미지 사이의 변위차(disparity)(또는 깊이(depth)에 기반하여, 워핑(warping)된 이미지(920)를 획득할 수 있다. 워핑된 이미지는, 상기 변위에 기반하여, 제1 이미지(910)와 제2 이미지(920)의 적어도 일부를 포함할 수 있다. 예컨대, 워핑된 이미지의 적어도 일부는 채색되지 않은 부분을 포함할 수 있다. 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 제1 이미지(910), 상기 제2 이미지, 및 깊이 정보(또는 제3 이미지)를 이용하여, 인-페인팅된 이미지(930)를 생성 또는 획득할 수 있다. 예컨대, 인-페인팅된 이미지(930)는, 워핑된 이미지(920)에서 채책되지 않은 부분이 추가적으로 채색된 이미지를 포함할 수 있다. 전자 장치(101) 또는 상기 웨어러블 전자 장치는 인-페인팅된 이미지(930)를 시차 조절된 양안 영상 컨텐트(예: 양안 영상 이미지)로 획득할 수 있다.
상술한 방법에 기반하여, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 깊이 정보를 이용하여, 더욱 입체감있고 공간감있는 양안 영상용 이미지를 획득할 수 있다.
도 9b를 참조하면, 일 실시 예에 따르면, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 도 9a에서 상술한 것과 같이 시차 조절된 좌안 영상을 위한 제1 이미지(940) 및 우안 영상을 위한 제2 이미지(예: 제2 후면 카메라(320)를 통해 획득된 이미지)(950)을 이용하여, 스테레오 영상을 표시할 수 있다. 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 사용자 입력에 기반하여, 스테레오 영상의 입체감을 조절할 있다. 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 사용자 입력에 대응하는 입체감 정도를 확인하고, 확인된 입체감 정도에 대응하는 스테레오 영상을 생성할 수 있다.
일 실시 예에 따르면, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 입체감 조절을 위한 제어 바(960)를 표시할 수 있다. 예컨대 상기 웨어러블 전자 장치는, 스테레오 영상이 표시된 화면 상에 제어 바(960)를 표시할 수 있다. 제어 바(960)에 대한 사용자 입력에 기반하여, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 입체감이 조절된 화면을 표시할 수 있다. 예컨대, 제어 바(960)에 대하여 오른쪽으로 이동하는 사용자 입력(예: 입체감 증가를 위한 사용자 입력)이 확인되면, 전자 장치(101)는 상기 오른쪽으로 이동된 길이에 기반하여 스테레오 영상(예: 해당 길이에 기반하여 깊이감이 강화된 스테레오 영상)을 화면에 표시될 수 있다.
상술한 방법에 기반하여, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 깊이 정보를 이용하여, 더욱 입체감있고 공간감있는 양안 영상용 이미지를 획득할 수 있다. 또한, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 사용자 입력에 기반하여 입체감이 조절된 스테레오 영상을 표시할 수 있다.
도 10a 및 도 10b는 본 개시의 일 실시 예에 따른, 전자 장치 또는 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 표시하는 방법을 나타내는 도면이다.
도 10a를 참조하면, 일 실시 예에 따르면, 전자 장치(101) 또는 웨어러블 전자 장치(예: 도 4의 전자 장치(101)로부터 스테레오 비디오에 대한 데이터를 획득한 웨어러블 전자 장치)는, 깊이 정보를 이용하여 스테레오 비디오를 표시할 수 있다. 예컨대, 웨어러블 전자 장치는, HMD 장치, VST 장치, VR 장치, 또는 XR 장치를 포함할 수 있다.
도 10a를 참조하면, 일 실시 예에 따르면, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 전자 장치(101)에 의해 촬영된 복수의 이미지들(예: 제1 후면 카메라(310), 제2 후면 카메라(320), 및 전면 카메라(330)를 통해 획득된 이미지들)(1011, 1012, 1013, 1014)에 기반하여, 3차원 공간을 나타내는 스테레오 영상을 생성할 수 있다. 이때, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 깊이 정보를 이용하여 공간감 있는 3차원 공간을 나타내는 이미지(1020)를 생성할 수 있다, 예컨대, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 전자 장치(101)에 포함된 제1 후면 카메라(310) 및 전면 카메라(330)를 통해 획득된 이미지들을 이용하여 깊이 정보를 획득할 수 있다. 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 복수의 이미지들(1011, 1012, 1013, 1014)와 깊이 정보를 이용하여, 3차원 공간을 나타내는 스테레오 영상을 생성할 수 있다. 예컨대, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 복수의 이미지들(1011, 1012, 1013, 1014)와 깊이 정보에 기반한 인-페인팅을 수행하여, 복수의 이미지들(1011, 1012, 1013, 1014)에 표현되지 않은 부분의 이미지를 생성할 수 있다. 이를 통해, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 3차원 공간을 나타내는 스테레오 영상을 생성할 수 있다. 또한, 전자 장치(101)는, 상기 3차원 공간에 대한 프리-뷰(free view) 감상 기능을 지원할 수도 있다. 예컨대, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 프리-뷰 감상 기능을 통해, 사용자가 요청하는 위치에서 바라보는 상기 3차원 공간을 나타내는 화면을 표시할 수 있다.
도 10b를 참조하면, 일 실시 예에 따르면, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 상술한 도 10a의 3차원 공간을 생성하는 방법에 기반하여, 3차원 공간을 나타내는 이미지(1030)를 생성 및 표시할 수 있다. 전자 장치(101)는, 깊이 정보를 이용하여 더욱 입체감있고 공간감있는 3차원 공간을 생성할 수 있다. 또한, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 깊이 정보를 이용하여, 3차원 공간에 대한 프리-뷰 기능을 제공할 수 있다.
일 실시 예에 따르면, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 3차원 공간을 나타내는 이미지(1030) 위에 프리-뷰(free view) 감상 기능을 지원하기 위한 제어창(1040)을 표시할 수 있다. 예컨대, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 제어창(1040)에 대한 사용자 입력에 기반하여, 사용자 입력이 가리키는 위치에서 바라보는 상기 3차원 공간을 나타내는 화면을 표시할 수 있다.
상술한 방법에 기반하여, 전자 장치(101) 또는 상기 웨어러블 전자 장치는, 깊이 정보를 이용하여, 더욱 입체감있고 공간감있는 3차원 공간을 나타내는 화면을 표시할 수 있다.
도 11은 본 개시의 일 실시 예에 따른, 베이스라인 길이 차이에 따른 깊이 정보 추정 예를 나타내는 도면이다.
도 11을 참조하면, 일 실시 예에 따르면, 제1 후면 카메라(310)와 전면 카메라(330) 사이의 제1 거리(또는 제1 베이스라인)(예: 85mm))는, 제1 후면 카메라(310)와 제2 후면 카메라(320) 사이의 제2 거리(또는 제2 베이스라인)(예: 19mm)보다 길 수 있다.
도 11을 참조하면, 비교 실시 예에 따르면, 전자 장치(101)는 후면 카메라들(310, 320)을 이용하여 획득된 제1 이미지(1110)와 제2 이미지(1120)에 기반하여 깊이 정보를 추정하지 못할 수 있다. 예컨대, 제1 후면 카메라(310) 및 제2 후면 카메라(320) 사이의 제2 거리(또는 제2 베이스라인(baseline) 거리)가 19mm일 수 있으며, 제1 이미지(1110)와 제2 이미지(1120) 사이의 변위차(disparity)는 3(예: 13픽셀)으로 확인될 수 있다. 예컨대, 전자 장치(101)는, 깊이 정보의 고속 연산을 위해 제1 이미지(1110)와 제2 이미지(1120)의 크기를 지정된 크기로 축소(예: 0.25배로 축소)할 수 있다. 예컨대, 깊이 정보 추정 모델(1150)은, 지정된 크기로 축소된 제1 이미지(1115)와 제2 이미지(1125) 사이의 변위차를 약 0으로 확인할 수 있으며, 이에 대응하는 길이를 약 0mm으로 확인할 수 있다. 이에 따라, 전자 장치(101)는, 깊이 정보 추정 모델(1150)을 이용하여, 후면 카메라들(310, 320)을 이용하여 획득된 제1 이미지(1110)와 제2 이미지(1120)에 기반하여 깊이 정보를 획득하지 못할 수 있다.
일 실시 예에 따르면, 전자 장치(101)는 제1 후면 카메라(310) 및 전면 카메라(330)을 이용하여 획득된 제1 이미지(1110)와 제3 이미지(1130)에 기반하여 깊이 정보를 추정할 수 있다. 예컨대, 제1 후면 카메라(310) 및 전면 카메라(330) 사이의 제1 거리(또는 제1 베이스라인(baseline) 거리)가 85mm일 수 있으며, 제1 이미지(1110)와 제3 이미지(1130) 사이의 변위차(disparity)는 13(예: 13픽셀)으로 확인될 수 있ㅇ으며, 이에 대응하는 길이는 약 6800mm으로 확인될 수 있다. 예컨대, 전자 장치(101)는, 깊이 정보의 고속 연산을 위해 제1 이미지(1110)와 제3 이미지(1130)의 크기를 지정된 크기로 축소(예: 0.25배로 축소)할 수 있다. 예컨대, 깊이 정보 추정 모델(1150)은, 지정된 크기로 축소된 제1 이미지(1115)와 제3 이미지(1135) 사이의 변위차를 약 3으로 확인할 수 있으며, 이에 대응하는 길이는 약 1700mm으로 확인할 수 있다. 이에 따라, 전자 장치(101)는, 깊이 정보 추정 모델(1150)을 이용하여, 제1 후면 카메라(310)와 전면 카메라(330)을 이용하여 획득된 제1 이미지(1110)와 제3 이미지(1130)에 기반하여 깊이 정보를 획득할 수 있다.
도 12는 본 개시의 일 실시 예에 따른, 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 디스플레이하는 방법을 나타내는 도면이다.
도 12의 (a)를 참조하면, 일 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 제1 후면 카메라(310) 및 전면 카메라(330)을 이용하여 획득된 제1 이미지(1210)와 제3 이미지(1220)에 기반하여 제1 깊이 정보를 추정할 수 있다. 예컨대, 전자 장치(101)는, 추정된 제1 깊이 정보에 대응하는 제1 깊이 영상(1240)을 생성할 수 있다. 이후, 전자 장치(101)로부터 제1 깊이 영상(1240)과 스테레오 영상을 위한 이미지들(예: 제1 후면 카메라(310) 및 제2 후면 카메라(320)에 의해 촬영된 이미지들)을 획득한 웨어러블 전자 장치(예: HMD 장치, VST 장치, VR 장치, 또는 XR 장치)는, 제1 깊이 영상(1240)에 기반하여 제1 스테레오 영상(1260)을 획득 및 표시할 수 있다.
도 12의 (b)를 참조하면, 비교 실시 예에 따르면, 전자 장치(101)는 후면 카메라들(310, 320)을 이용하여 획득된 제1 이미지(1210)와 제2 이미지(1230)에 기반하여 제2 깊이 정보를 추정할 수 있다. 예컨대, 전자 장치(101)는, 추정된 제2 깊이 정보에 대응하는 제2 깊이 영상(1250)을 생성할 수 있다. 전자 장치(101)는, 제2 깊이 영상(1250)에 기반하여 제2 스테레오 영상(1270)을 획득할 수 있다. 예컨대, 제2 깊이 정보의 정밀도는 제1 깊이 정보의 정밀도보다 낮을 수 있다. 이에 따라, 제2 깊이 영상(1250)의 정밀도는 제1 깊이 영상(1240)의 정밀도보다 낮을 수 있다. 또한, 제2 스테레오 영상(1270)의 정밀도는 제1 스테레오 영상(1260)의 정밀도보다 낮을 수 있다. 예컨대, 제2 스테레오 영상(1270)의 일부분(1275)의 정밀도는 제1 스테레오 영상(1260)의 일부분(1265)의 정밀도보다 낮을 수 있다.
상술한 방법에 기반하여, 전자 장치(101)는, 제1 후면 카메라(310) 및 전면 카메라(330)를 통해 획득된 이미지들에 기반한 깊이 정보를 이용하여, 더욱 입체감있고 공간감있는 스테레오 영상을 생성할 수 있다. 웨어러블 전자 장치(예: 도 4의 전자 장치(101)로부터 스테레오 영상에 대한 데이터를 수신한 웨어러블 전자 장치)는, 전자 장치(101)에 의해 간단하고 효과적으로 생성된 스테레오 영상을 수신하고, 수신된 스테레오 영상을 재생할 수 있다.
도 13은 본 개시의 일 실시 예에 따른, 웨어러블 전자 장치에서 깊이 정보를 이용하여 스테레오 비디오를 디스플레이하는 방법을 나타내는 도면이다.
도 13을 참조하면, 일 실시 예에 따르면, 전자 장치(예: 도 4의 전자 장치(101))는, 제1 후면 카메라(310) 및 전면 카메라(330)을 이용하여 획득된 제1 이미지(1310)와 제3 이미지(1320)에 기반하여 제1 깊이 정보를 추정할 수 있다. 예컨대, 전자 장치(101)는, 추정된 제1 깊이 정보에 대응하는 제1 깊이 영상(1340)을 생성할 수 있다. 이후, 전자 장치(101)로부터 제1 깊이 영상(1240)과 스테레오 영상을 위한 이미지들(예: 제1 후면 카메라(310) 및 제2 후면 카메라(320)에 의해 촬영된 이미지들)을 획득한 웨어러블 전자 장치(예: HMD 장치, VST 장치, VR 장치, 또는 XR 장치)는, 제1 깊이 영상(1340)에 기반하여 3차원 공간(또는 3차원 공간 모델)을 복원(또는 생성)하기 위한 제1 공간 이미지(예: 공간 클라우드 이미지)(1360)를 획득 및 표시할 수 있다.
도 12의 (b)를 참조하면, 비교 실시 예에 따르면, 전자 장치(101)는 후면 카메라들(310, 320)을 이용하여 획득된 제1 이미지(1315)와 제2 이미지(1330)에 기반하여 제2 깊이 정보를 추정할 수 있다. 예컨대, 전자 장치(101)는, 추정된 제2 깊이 정보에 대응하는 제2 깊이 영상(1350)을 생성할 수 있다. 전자 장치(101)는, 제2 깊이 영상(1350)에 기반하여 3차원 공간(또는 3차원 공간 모델)을 복원(또는 생성)하기 위한 제2 공간 이미지(예: 공간 클라우드 이미지)(1370)를 획득할 수 있다. 예컨대, 제2 깊이 정보의 정밀도는 제1 깊이 정보의 정밀도보다 낮을 수 있다. 이에 따라, 제2 깊이 영상(1350)의 정밀도는 제1 깊이 영상(1340)의 정밀도보다 낮을 수 있다. 또한, 제2 공간 이미지(1370)의 정밀도는 제1 공간 이미지(1360)의 정밀도보다 낮을 수 있다.
상술한 방법에 기반하여, 전자 장치(101)는, 제1 후면 카메라(310) 및 전면 카메라(330)를 통해 획득된 이미지들에 기반한 깊이 정보를 이용하여, 더 정밀한 공간 이미지를 생성(또는 획득)할 수 있다. 전자 장치(101)는, 더 정밀한 공간 이미지를 이용하여, 더욱 입체감있고 공간감있는 3차원 공간을 나타내는 이미지를 생성(또는 복원)할 수 있다. 웨어러블 전자 장치(예: 도 4의 전자 장치(101)로부터 스테레오 영상에 대한 데이터를 수신한 웨어러블 전자 장치)는, 전자 장치(101)에 의해 간단하고 효과적으로 생성된 스테레오 영상을 수신하고, 수신된 스테레오 영상을 재생할 수 있다.
도 14는 본 개시의 일 실시 예에 따른, 전자 장치가 스테레오 영상을 획득하는 방법을 나타내는 흐름도이다.
도 14를 참조하면, 일 실시 예에 따르면, 동작 1401에서, 전자 장치(예: 도 4의 전자 장치(101))는, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 제1 후면 카메라(예: 도 4의 제1 후면 카메라(310))를 통해 제1 이미지를 획득하고, 제2 후면 카메라(예: 도 4의 제2 후면 카메라(320))를 통해 제2 이미지를 획득하고, 전면 카메라(예: 도 4의 전면 카메라(330))를 통해 제3 이미지를 획득할 수 있다. 예컨대, 전자 장치(101)는, 전자 장치(101)의 하우징들이 완전히 펼쳐진 상태(예: 전자 장치의 언폴딩 상태)에서, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득 또는 촬영할 수 있다. 예컨대, 전자 장치(101)는, 상기 전자 장치(101)가 제1 후면 카메라(310)와 제2 후면 카메라(320)가 수직 방향으로 배치되는 지정된 방향으로 위치하였을 때(또는 전자 장치(101)가 가로 방향으로 위치하였을 때), 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득 또는 촬영할 수 있다. 예컨대, 전자 장치(101)는, 전자 장치(101)가 상기 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐진 것으로 확인하는 것에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득할 수 있다. 예컨대, 전자 장치(101)는, 상기 전자 장치(101)가 상기 지정된 방향으로 위치하지 않거나 상기 전자 장치가 완전히 펼쳐지지 않은 것으로 확인하는 것에 기반하여, 전자 장치(101)를 상기 지정된 방향으로 위치하고 완전히 펼치도록 유도하는 가이드 정보를 표시할 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 상기 전자 장치(101)의 하우징들이 완전히 펼쳐지지 않은 상태에서, 제1 후면 카메라(310)를 통해 제1 이미지를 획득하고, 제2 후면 카메라(320)를 통해 제2 이미지를 획득 또는 촬영할 수 있다. 예컨대, 전자 장치(101)는, 상기 전자 장치(101)가 완전히 펼쳐지지 않은 것으로 확인하는 것에 기반하여, 상기 제1 이미지 및 상기 제2 이미지만을 획득할 수 있다. 예컨대, 전자 장치(101)는, 제1 이미지 및 제2 이미지에 기반하여, 일반적인 영상을 획득 및 저장할 수 있다. 또는, 전자 장치(101)는, 상기 전자 장치(101)가 완전히 펼쳐지지 않은 것으로 확인하는 것에 기반하여, 스테레오 영상을 위해 전자 장치(101)를 완전히 펼치도록 유도하는 가이드 정보를 표시할 수 있다. 구현에 따라, 전자 장치(101)는, 깊이 정보 없이, 제1 이미지 및 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지(또는 좌안 영상 이미지) 및 우안 이미지(또는 우안 영상 이미지)를 획득 및 저장할 수 있다.일 실시 예에 따르면, 동작 1403에서, 전자 장치(101)는, 제1 이미지 및 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득 및 저장할 수 있다. 예컨대, 제1 이미지는 좌안 영상을 위한 좌안 이미지일 수 있고, 제2 이미지는 우안 영상을 위한 우안 이미지일 수 있다.
일 실시 예에 따르면, 동작 1405에서, 전자 장치(101)는, 제1 이미지 및 제3 이미지에 기반하여, 스테레오 영상과 관련된 제1 깊이 정보를 획득 및 저장할 수 있다. 예컨대, 동작 1405는 동작 1403과 병렬적으로 또는 동시적으로 수행될 수 있다.
일 실시 예에 따르면, 동작 1407에서, 전자 장치(101)는, 제1 깊이 정보를 포함하는 스테레오 영상의 데이터를 저장할 수 있다. 예컨대, 전자 장치(101)는, 제1 깊이 정보와 스테레오 영상의 좌안 이미지 및 우안 이미지를 함께 저장할 수 있다. 예컨대, 전자 장치(101)는, 지정된 포맷(예: HV-HEVC(multi-view high efficiency video coding)) 방식에 기반한 포맷)에 기반하여 스테레오 영상의 데이터를 저장할 수 있다.
일 실시 예에 따르면, 동작 1409에서, 웨어러블 전자 장치(예: HMD 장치, VST 장치, VR 장치, 또는 XR 장치)가 전자 장치(101)로부터 스테레오 영상의 데이터를 수신 또는 획득한 후, 상기 웨어러블 전자 장치는 상기 웨어러블 전자 장치의 디스플레이를 통해 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 표시할 수 있다. 예컨대, 상기 웨어러블 전자 장치는, 상기 스테레오 영상의 재생을 위한 사용자 입력을 확인함에 기반하여, 상기 웨어러블 전자 장치는 제1 깊이 정보를 이용하여 상기 스테레오 영상을 표시할 수 있다. 예컨대, 상기 웨어러블 전자 장치는, 상기 스테레오 영상의 재생을 위한 사용자 입력을 확인함에 기반하여, 전자 장치(101)에 스테레오 영상에 대한 데이터의 전송을 요청할 수 있다. 예컨대, 전자 장치(201)는, 웨어러블 전자 장치의 요청에 따라, 스테레오 영상의 데이터를 웨어러블 전자 장치로 전송할 수 있다. 예컨대, 상기 웨어러블 전자 장치는, 스테레오 영상의 데이터에 포함된 제1 깊이 정보를 이용하여, 스테레오 영상을 표시할 수 있다. 상기 웨어러블 전자 장치는, 제1 깊이 정보를 이용하여, 더 정밀하고 입체감 있는 스테레오 영상 또는 3차원 공간을 나타내는 영상을 생성(또는 복원)할 수 있으며, 상기 스테레오 영상 또는 3차원 공간을 나타내는 영상을 표시할 수 있다.
다른 실시 예에 따르면, 전자 장치(101)는, 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 제1 깊이 정보를 이용하여 스테레오 영상을 디스플레이(예: 도 4의 플렉서블 디스플레이(200))를 통해 표시할 수도 있다. 예컨대, 전자 장치(101)는, 제1 깊이 정보를 이용하여, 더 정밀하고 공감감있는 스테레오 영상을 표시할 수 있다. 또한, 전자 장치(101)는, 제1 깊이 정보를 이용하여, 더 정밀하고 입체감 있는 3차원 공간을 나타내는 영상을 생성(또는 복원)할 수 있으며, 상기 3차원 공간을 나타내는 영상을 표시할 수 있다.
상술한 방법에 기반하여, 전자 장치(101)는, 제1 후면 카메라(310) 및 전면 카메라(330)를 통해 획득된 이미지들에 기반한 깊이 정보를 이용하여, 더 정밀하고 공간감있는 스테레오 영상을 촬영 및 생성할 수 있다. 또한, 전자 장치(101)는, 제1 후면 카메라(310) 및 전면 카메라(330)를 통해 획득된 이미지들에 기반한 깊이 정보를 이용하여 간단하고 효율적으로 스테레오 영상을 촬영 및 생성할 수 있다.
일 실시 예에 따르면, 전자 장치(101)는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이(200), 상기 제2 면에 배치되는 제1 후면 카메라(310) 및 제2 후면 카메라(320), 상기 제4 면에 배치되는 전면 카메라(330), 프로세싱 회로를 포함하는 적어도 하나의 프로세서(420), 및 인스트럭션들을 저장하는 메모리(430)를 포함할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하도록 야기할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하도록 야기할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하도록 야기할 수 있다.
일 실시 예에 따르면, 상기 제1 깊이 정보의 정밀도는, 상기 제1 이미지 및 상기 제2 이미지에 기반하여 획득한 제2 깊이 정보의 정밀도보다 더 높을 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 스테레오 영상의 데이터를 상기 메모리에 저장하도록 할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 상기 플렉시블 디스플레이를 통해 표시하도록 하도록 할 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제1 깊이 정보를 이용하여, 상기 스테레오 영상의 3차원 공간에 대한 정보를 생성하도록 할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 3차원 공간에 대한 정보를 이용하여 상기 스테레오 영상을 표시하도록 할 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 깊이 정보를 상기 제1 이미지 및 상기 제2 이미지에 동기화하는 것에 기반하여, 상기 제1 깊이 정보를 포함하는 상기 스테레오 영상의 상기 데이터를 저장하도록 할 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지와 상기 제3 이미지 각각에 포함된 동일한 피사체에 대응하는 픽셀들 사이의 수평 거리에 기반하여, 상기 제1 이미지와 상기 제3 이미지에 대한 변위차 맵(disparity map)을 추정하도록 할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 변위차 맵에 기반하여, 상기 제1 깊이 정보를 획득하도록 할 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 제1 이미지와 상기 제3 이미지를 미리 학습된 모델에 제공하는 것에 기반하여, 상기 제1 깊이 정보를 획득하도록 할 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 전자 장치가 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐졌는지 여부를 확인하도록 할 수 있다. 일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 전자 장치가 상기 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐진 것으로 확인하는 것에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득하도록 할 수 있다.
일 실시 예에 따르면, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금, 상기 전자 장치가 상기 지정된 방향으로 위치하지 않거나 상기 전자 장치가 완전히 펼쳐지지 않은 것으로 확인하는 것에 기반하여, 상기 전자 장치를 상기 지정된 방향으로 위치하고 상기 전자 장치를 완전히 펼치도록 유도하는 가이드 정보를 표시하도록 할 수 있다.
일 실시 예에 따르면, 상기 제1 후면 카메라와 상기 전면 카메라 사이의 제1 거리는, 상기 제1 후면 카메라와 상기 제2 후면 카메라 사이의 제2 거리보다 길 수 있다.
일 실시 예에 따르면, 전자 장치(101)의 동작 방법에 있어서, 상기 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이(200), 상기 제2 면에 배치되는 제1 후면 카메라(310) 및 제2 후면 카메라(320), 및 상기 제4 면에 배치되는 전면 카메라(330)를 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 제1 깊이 정보의 정밀도는, 상기 제1 이미지 및 상기 제2 이미지에 기반하여 획득한 제2 깊이 정보의 정밀도보다 더 높을 수 있다.
일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 스테레오 영상의 데이터를 상기 메모리에 저장하는 동작을 더 포함할 수 있다. 일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 상기 플렉시블 디스플레이를 통해 표시하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 상기 스테레오 영상을 표시하는 동작은, 상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제1 깊이 정보를 이용하여, 상기 스테레오 영상의 3차원 공간에 대한 정보를 생성하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 스테레오 영상을 표시하는 동작은, 상기 3차원 공간에 대한 정보를 이용하여 상기 스테레오 영상을 표시하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 데이터를 저장하는 동작은, 상기 제1 깊이 정보를 상기 제1 이미지 및 상기 제2 이미지에 동기화하는 것에 기반하여, 상기 제1 깊이 정보를 포함하는 상기 스테레오 영상의 상기 데이터를 저장하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 제1 깊이 정보를 획득하는 동작은, 상기 제1 이미지와 상기 제3 이미지 각각에 포함된 동일한 피사체에 대응하는 픽셀들 사이의 수평 거리에 기반하여, 상기 제1 이미지와 상기 제3 이미지에 대한 변위차 맵(disparity map)을 추정하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 제1 깊이 정보를 획득하는 동작은, 상기 변위차 맵에 기반하여, 상기 제1 깊이 정보를 획득하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 제1 깊이 정보를 획득하는 동작은, 상기 제1 이미지와 상기 제3 이미지를 미리 학습된 모델에 제공하는 것에 기반하여, 상기 제1 깊이 정보를 획득하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득하는 동작은, 상기 전자 장치가 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐졌는지 여부를 확인하는 동작을 포함할 수 있다. 일 실시 예에 따르면, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득하는 동작은, 상기 전자 장치가 상기 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐진 것으로 확인하는 것에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 전자 장치의 동작 방법은, 상기 전자 장치가 상기 지정된 방향으로 위치하지 않거나 상기 전자 장치가 완전히 펼쳐지지 않은 것으로 확인하는 것에 기반하여, 상기 전자 장치를 상기 지정된 방향으로 위치하고 상기 전자 장치를 완전히 펼치도록 유도하는 가이드 정보를 표시하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 인스트럭션들을 저장하는 컴퓨터로 판독할 수 있는 비일시적 저장매체(130, 430)에 있어서, 상기 인스트럭션들은 적어도 하나의 프로세서(420)에 의해 집합적으로 또는 개별적으로 실행 시, 전자 장치(101)가, 여기서 상기 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이(200), 상기 제2 면에 배치되는 제1 후면 카메라(310) 및 제2 후면 카메라(320), 및 상기 제4 면에 배치되는 전면 카메라(330)를 포함하고, 스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하고, 상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하고, 상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하도록 할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치(101)에 있어서,
    제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징;
    제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징;
    상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조;
    상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이(200);
    상기 제2 면에 배치되는 제1 후면 카메라(310) 및 제2 후면 카메라(320);
    상기 제4 면에 배치되는 전면 카메라(330);
    프로세싱 회로를 포함하는 적어도 하나의 프로세서(420); 및
    인스트럭션들을 저장하는 메모리(430);를 포함하며,
    상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하고,
    상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하고,
    상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하도록 하는, 전자 장치.
  2. 제1항에 있어서, 상기 제1 깊이 정보의 정밀도는,
    상기 제1 이미지 및 상기 제2 이미지에 기반하여 획득한 제2 깊이 정보의 정밀도보다 더 높은, 전자 장치.
  3. 제1항 내지 제2항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 스테레오 영상의 데이터를 상기 메모리에 저장하고,
    상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 상기 플렉시블 디스플레이를 통해 표시하도록 하는, 전자 장치.
  4. 제1항 내지 제3항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제1 깊이 정보를 이용하여, 상기 스테레오 영상의 3차원 공간에 대한 정보를 생성하고,
    상기 3차원 공간에 대한 정보를 이용하여 상기 스테레오 영상을 표시하도록 하는 전자 장치.
  5. 제1항 내지 제4항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 제1 깊이 정보를 상기 제1 이미지 및 상기 제2 이미지에 동기화하는 것에 기반하여, 상기 제1 깊이 정보를 포함하는 상기 스테레오 영상의 상기 데이터를 저장하도록 하는, 전자 장치.
  6. 제1항 내지 제5항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 제1 이미지와 상기 제3 이미지 각각에 포함된 동일한 피사체에 대응하는 픽셀들 사이의 수평 거리에 기반하여, 상기 제1 이미지와 상기 제3 이미지에 대한 변위차 맵(disparity map)을 추정하고,
    상기 변위차 맵에 기반하여, 상기 제1 깊이 정보를 획득하도록 하는, 전자 장치.
  7. 제1항 내지 제6항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 제1 이미지와 상기 제3 이미지를 미리 학습된 모델에 제공하는 것에 기반하여, 상기 제1 깊이 정보를 획득하도록 하는, 전자 장치.
  8. 제1항 내지 제7항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 전자 장치가 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐졌는지 여부를 확인하고,
    상기 전자 장치가 상기 지정된 방향으로 위치하고 상기 전자 장치가 완전히 펼쳐진 것으로 확인하는 것에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제3 이미지를 획득하도록 하는, 전자 장치.
  9. 제1항 내지 제8항 중 어느 한 항에 있어서, 상기 인스트럭션들은, 상기 적어도 하나의 프로세서에 의해 개별적 또는 집합적으로 실행될 때, 상기 전자 장치로 하여금:
    상기 전자 장치가 상기 지정된 방향으로 위치하지 않거나 상기 전자 장치가 완전히 펼쳐지지 않은 것으로 확인하는 것에 기반하여, 상기 전자 장치를 상기 지정된 방향으로 위치하고 상기 전자 장치를 완전히 펼치도록 유도하는 가이드 정보를 표시하도록 하는, 전자 장치.
  10. 제1항 내지 제9항 중 어느 한 항에 있어서,
    상기 제1 후면 카메라와 상기 전면 카메라 사이의 제1 거리는, 상기 제1 후면 카메라와 상기 제2 후면 카메라 사이의 제2 거리보다 긴, 전자 장치.
  11. 전자 장치(101)의 동작 방법에 있어서,
    상기 전자 장치는, 제1 면 및 상기 제1 면과 반대면인 제2 면을 포함하는 제1 하우징, 제3 면 및 상기 제3 면과 반대면인 제4 면을 포함하는 제2 하우징, 상기 제1 하우징 및 상기 제2 하우징을 회전 가능하게 연결하는 힌지 구조, 상기 제1 면 및 상기 제3 면에 배치되는 플렉서블 디스플레이(200), 상기 제2 면에 배치되는 제1 후면 카메라(310) 및 제2 후면 카메라(320), 및 상기 제4 면에 배치되는 전면 카메라(330)를 포함하고,
    스테레오 영상의 촬영을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 후면 카메라를 통해 제1 이미지를 획득하고, 상기 제2 후면 카메라를 통해 제2 이미지를 획득하고, 상기 전면 카메라를 통해 제3 이미지를 획득하는 동작;
    상기 제1 이미지 및 상기 제2 이미지에 기반하여, 스테레오 영상의 좌안 이미지 및 우안 이미지를 획득하는 동작; 및
    상기 제1 이미지 및 상기 제3 이미지에 기반하여, 상기 스테레오 영상의 제1 깊이 정보를 획득하는 동작을 포함하는 전자 장치의 동작 방법.
  12. 제11항에 있어서, 상기 제1 깊이 정보의 정밀도는,
    상기 제1 이미지 및 상기 제2 이미지에 기반하여 획득한 제2 깊이 정보의 정밀도보다 더 높은, 전자 장치의 동작 방법.
  13. 제11항 내지 제12항 중 어느 한 항에 있어서,
    상기 스테레오 영상의 데이터를 상기 메모리에 저장하는 동작; 및
    상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 깊이 정보를 이용하여 상기 스테레오 영상을 상기 플렉시블 디스플레이를 통해 표시하는 동작을 더 포함하는 전자 장치의 동작 방법.
  14. 제11항 내지 제13항 중 어느 한 항에 있어서, 상기 스테레오 영상을 표시하는 동작은,
    상기 스테레오 영상의 재생을 위한 사용자 입력이 수신됨에 기반하여, 상기 제1 이미지, 상기 제2 이미지, 및 상기 제1 깊이 정보를 이용하여, 상기 스테레오 영상의 3차원 공간에 대한 정보를 생성하는 동작; 및
    상기 3차원 공간에 대한 정보를 이용하여 상기 스테레오 영상을 표시하는 동작을 포함하는 전자 장치의 동작 방법.
  15. 제11항 내지 제14항 중 어느 한 항에 있어서, 상기 데이터를 저장하는 동작은,
    상기 제1 깊이 정보를 상기 제1 이미지 및 상기 제2 이미지에 동기화하는 것에 기반하여, 상기 제1 깊이 정보를 포함하는 상기 스테레오 영상의 상기 데이터를 저장하는 동작을 포함하는 전자 장치의 동작 방법.
PCT/KR2025/004190 2024-04-02 2025-03-31 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법 Pending WO2025211685A1 (ko)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR10-2024-0044758 2024-04-02
KR20240044758 2024-04-02
KR10-2025-0040526 2025-03-28
KR1020250040526A KR20250146953A (ko) 2024-04-02 2025-03-28 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법

Publications (1)

Publication Number Publication Date
WO2025211685A1 true WO2025211685A1 (ko) 2025-10-09

Family

ID=97267308

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2025/004190 Pending WO2025211685A1 (ko) 2024-04-02 2025-03-31 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법

Country Status (1)

Country Link
WO (1) WO2025211685A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101951228B1 (ko) * 2012-10-10 2019-02-22 삼성전자주식회사 멀티 디스플레이 장치 및 그 촬상 방법
KR20190065736A (ko) * 2017-12-04 2019-06-12 삼성전자주식회사 3d 이미지를 생성하기 위한 전자 장치 및 방법
KR20210144990A (ko) * 2020-05-21 2021-12-01 삼성전자주식회사 파노라마 이미지를 제공하는 방법 및 이를 지원하는 전자 장치
KR20220033247A (ko) * 2020-09-09 2022-03-16 삼성전자주식회사 다양한 형태의 콘텐트를 표시하기 위한 폴더블 전자 장치 및 그의 동작 방법
KR20230107255A (ko) * 2020-11-25 2023-07-14 퀄컴 인코포레이티드 멀티-뷰 이미지 캡처를 위한 폴더블 전자 디바이스

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101951228B1 (ko) * 2012-10-10 2019-02-22 삼성전자주식회사 멀티 디스플레이 장치 및 그 촬상 방법
KR20190065736A (ko) * 2017-12-04 2019-06-12 삼성전자주식회사 3d 이미지를 생성하기 위한 전자 장치 및 방법
KR20210144990A (ko) * 2020-05-21 2021-12-01 삼성전자주식회사 파노라마 이미지를 제공하는 방법 및 이를 지원하는 전자 장치
KR20220033247A (ko) * 2020-09-09 2022-03-16 삼성전자주식회사 다양한 형태의 콘텐트를 표시하기 위한 폴더블 전자 장치 및 그의 동작 방법
KR20230107255A (ko) * 2020-11-25 2023-07-14 퀄컴 인코포레이티드 멀티-뷰 이미지 캡처를 위한 폴더블 전자 디바이스

Similar Documents

Publication Publication Date Title
WO2020246727A1 (en) Foldable electronic device and method for displaying information in foldable electronic device
WO2022098204A1 (ko) 가상현실 서비스를 제공하는 전자 장치 및 방법
WO2025211685A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법
WO2022154440A1 (ko) 오디오 데이터를 처리하는 전자 장치 및 그 동작 방법
WO2022114809A1 (ko) 화상 회의를 제공하는 전자 장치 및 그 방법
WO2022149695A1 (ko) 듀얼 디바이스와, 상기 듀얼 디바이스를 연결하는 연결 장치를 포함하는 전자 장치
WO2022045579A1 (ko) 외부 장치의 위치를 보정하기 위한 전자 장치 및 그의 동작 방법
WO2025211705A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법
WO2025211706A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법
WO2025211693A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법
WO2024096560A1 (ko) 웨어러블 전자 장치 및 그 동작 방법
WO2025041980A1 (ko) 디스플레이 상태에 따른 오디오 출력을 제어하기 위한 전자 장치, 그 동작 방법 및 저장 매체
WO2026043081A1 (ko) 사용자의 시선에 따라 이미지를 획득하기 위한 웨어러블 장치, 방법, 및 비-일시적 컴퓨터 판독가능 저장매체
WO2026023855A1 (ko) 3차원 객체를 디스플레이하는 전자 장치 및 그 방법
WO2026024085A1 (ko) 3차원 오브젝트를 제공하는 방법 및 이를 지원하는 전자 장치
WO2026010126A1 (ko) 전자 장치 및 그의 이미지 촬영 방법
WO2025014106A1 (ko) 카메라 모듈 및 이를 포함하는 전자 장치
WO2025178476A1 (ko) 헤드 마운팅 장치 및 그의 동작 방법과, 비 일시적 저장 매체
KR20250146953A (ko) 복수의 카메라를 포함하는 전자 장치 및 이의 제어 방법
WO2025005729A1 (ko) 전자 장치 및 화면 표시 방법
WO2024080579A1 (ko) 사용자의 자세를 가이드하기 위한 웨어러블 장치 및 그 방법
WO2024242505A1 (ko) 디스플레이를 포함하는 웨어러블 전자 장치
WO2024058434A1 (ko) 사용자의 외부 환경을 촬영하는 컨트롤 장치 및 그 동작 방법 및 컨트롤 장치와 연결된 머리 착용형 전자 장치
WO2025154933A1 (ko) 이미지를 편집하는 전자 장치 및 그 동작 방법
WO2025023760A1 (ko) 사운드를 출력하는 헤드 마운트 장치 및 그의 동작 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 25782907

Country of ref document: EP

Kind code of ref document: A1