WO2023027465A1 - 이미지를 제공하는 방법 및 이를 지원하는 전자 장치 - Google Patents

이미지를 제공하는 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
WO2023027465A1
WO2023027465A1 PCT/KR2022/012543 KR2022012543W WO2023027465A1 WO 2023027465 A1 WO2023027465 A1 WO 2023027465A1 KR 2022012543 W KR2022012543 W KR 2022012543W WO 2023027465 A1 WO2023027465 A1 WO 2023027465A1
Authority
WO
WIPO (PCT)
Prior art keywords
camera
adjustment value
image
display
electronic device
Prior art date
Application number
PCT/KR2022/012543
Other languages
English (en)
French (fr)
Inventor
김범식
박재형
이재명
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to CN202280054652.6A priority Critical patent/CN117813834A/zh
Priority to US17/893,604 priority patent/US12081861B2/en
Publication of WO2023027465A1 publication Critical patent/WO2023027465A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633—Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00—Diagnosis, testing or measuring for television systems or their details
    • H04N17/002—Diagnosis, testing or measuring for television systems or their details for television cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/54—Mounting of pick-up tubes, electronic image sensors, deviation or focusing coils
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/62—Control of parameters via user interfaces
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/67—Focus control based on electronic image sensor signals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80—Camera processing pipelines; Components thereof
    • H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88—Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/765—Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77—Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera

Definitions

  • the present disclosure relates generally to a method of providing an image and an electronic device supporting the same.
  • a notch, a U-shaped hole, a V-shaped hole, or an O-shaped hole is formed in a part of a housing (or a part of a display), and the formed notch or hole
  • An electronic device including a camera module exposed to the outside has been developed.
  • an under display camera (UDC) technology in which a camera is disposed under a display is being implemented in an electronic device.
  • the transmittance of light passing through the display and entering the camera due to an opaque component included in the display is reduced by a hole (eg, a substrate made of polyimide).
  • a hole eg, a substrate made of polyimide. It may be lower than the transmittance of light introduced into the camera through a U-shaped hole, a V-shaped hole, or an O-shaped hole).
  • the color and/or brightness of an image acquired through a camera may vary depending on a display and/or a camera.
  • characteristics of a display e.g., light transmittance for each wavelength of light by components constituting the display
  • characteristics of a camera e.g., light transmittance for each wavelength of light of an image sensor
  • the color and/or brightness of an image acquired through a camera may vary.
  • Various embodiments of the present disclosure store calibration values for each of a display and a camera to be included in an electronic device implemented with UDC technology before manufacturing (eg, assembling) the electronic device, and perform the calibration after manufacturing the electronic device.
  • An electronic device includes a display, a camera that acquires an image using light introduced through the display, and at least one processor electrically connected to the display and the camera, The processor acquires the image through the camera, obtains a first adjustment value corresponding to the display and for correcting the image, and obtains a second adjustment value corresponding to the camera and correcting the image; , and correct the image based on the first adjustment value and the second adjustment value.
  • a method for providing an image in an electronic device includes an operation of acquiring the image through a camera that acquires the image using light introduced through a display of the electronic device, corresponding to the display and the image Obtaining a first adjustment value for correcting the image, obtaining a second adjustment value corresponding to the camera and correcting the image, and based on the first adjustment value and the second adjustment value, It may include an operation of correcting the image.
  • a method for providing an image and an electronic device supporting the same may provide calibration values for each of a display and a camera to be included in an electronic device implemented with UDC technology before manufacturing (eg, assembling) the electronic device.
  • UDC technology e.g., UDC technology
  • FIG. 1 is a block diagram of an electronic device in a network environment, according to an embodiment.
  • FIG. 2 is a block diagram illustrating a camera module, according to one embodiment.
  • FIG. 3 is a block diagram of an electronic device, according to an embodiment.
  • FIG. 4 illustrates a graph showing transmittance of each wavelength of light in a display according to an exemplary embodiment.
  • 5A, 5B to 5C describe a method of acquiring information for image correction and camera setting information for a display, according to an embodiment.
  • FIG. 6 illustrates a method of acquiring information for image correction and information for setting a camera with respect to a camera, according to an embodiment.
  • FIG. 7 is a flowchart illustrating a method of correcting an image, according to an exemplary embodiment.
  • FIG. 8 is a flowchart illustrating a method of setting camera settings, according to an exemplary embodiment.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to an embodiment.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or through a second network 199. It may communicate with at least one of the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199. It may communicate with at least one of the electronic device 104 or the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120, a memory 130, an input module 150, an audio output module 155, a display module 160, an audio module 170, a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or the antenna module 197 may be included.
  • at least one of these components eg, the connection terminal 178) may be omitted or one or more other components may be added.
  • some of these components eg, sensor module 176, camera module 180, or antenna module 197) are integrated into a single component (eg, display module 160). It can be.
  • the processor 120 for example, executes software (eg, the program 140) to cause at least one other component (eg, hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or calculations. According to one embodiment, as at least part of data processing or operation, processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 .
  • software eg, the program 140
  • processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 .
  • the processor 120 includes a main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor).
  • a main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit ( NPU: neural processing unit (NPU), image signal processor, sensor hub processor, or communication processor.
  • NPU neural network processing unit
  • the secondary processor 123 may use less power than the main processor 121 or be set to be specialized for a designated function.
  • the secondary processor 123 may be implemented separately from or as part of the main processor 121 .
  • the secondary processor 123 may, for example, take the place of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, running an application). ) state, together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 123 eg, an image signal processor or a communication processor
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • AI models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself where the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning or reinforcement learning, but in the above example Not limited.
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the foregoing, but is not limited to the foregoing examples.
  • the artificial intelligence model may include, in addition or alternatively, software structures in addition to hardware structures.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, program 140) and commands related thereto.
  • the memory 130 may include volatile memory 132 or non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used by a component (eg, the processor 120) of the electronic device 101 from the outside of the electronic device 101 (eg, a user).
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output sound signals to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • a receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 160 may visually provide information to the outside of the electronic device 101 (eg, a user).
  • the display module 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display module 160 may include a touch sensor configured to detect a touch or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the audio module 170 may convert sound into an electrical signal or vice versa. According to an embodiment, the audio module 170 acquires sound through the input module 150, the sound output module 155, or an external electronic device connected directly or wirelessly to the electronic device 101 (eg: Sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the audio module 170 acquires sound through the input module 150, the sound output module 155, or an external electronic device connected directly or wirelessly to the electronic device 101 (eg: Sound may be output through the electronic device 102 (eg, a speaker or a headphone).
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the detected state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, an air pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an infrared (IR) sensor, a bio sensor, It may include a temperature sensor, humidity sensor, or light sensor.
  • the interface 177 may support one or more designated protocols that may be used to directly or wirelessly connect the electronic device 101 to an external electronic device (eg, the electronic device 102).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card interface
  • audio interface audio interface
  • connection terminal 178 may include a connector through which the electronic device 101 may be physically connected to an external electronic device (eg, the electronic device 102).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert electrical signals into mechanical stimuli (eg, vibration or motion) or electrical stimuli that a user may perceive through tactile or kinesthetic senses.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to one embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as at least part of a power management integrated circuit (PMIC), for example.
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). Establishment and communication through the established communication channel may be supported.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 may be a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, a : A local area network (LAN) communication module or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, a : A local area network (LAN) communication module or a power line communication module.
  • a corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth TM , wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, It may communicate with the external electronic device 104 through a legacy cellular network, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, LAN or WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth TM , wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, It may communicate with the external electronic device 104 through a legacy cellular network, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, LAN or WAN).
  • a computer network eg,
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199.
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, NR access technology (new radio access technology).
  • NR access technologies include high-speed transmission of high-capacity data (enhanced mobile broadband (eMBB)), minimization of terminal power and access of multiple terminals (massive machine type communications (mMTC)), or high reliability and low latency (ultra-reliable and low latency (URLLC)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low latency
  • -latency communications can be supported.
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • the wireless communication module 192 uses various technologies for securing performance in a high frequency band, such as beamforming, massive multiple-input and multiple-output (MIMO), and full-dimensional multiplexing. Technologies such as input/output (FD-MIMO: full dimensional MIMO), array antenna, analog beam-forming, or large scale antenna may be supported.
  • the wireless communication module 192 may support various requirements defined for the electronic device 101, an external electronic device (eg, the electronic device 104), or a network system (eg, the second network 199).
  • the wireless communication module 192 may be used to realize peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency (for realizing URLLC).
  • peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC.
  • DL downlink
  • UL uplink each of 0.5 ms or less, or round trip 1 ms or less
  • the antenna module 197 may transmit or receive signals or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is selected from the plurality of antennas by the communication module 190, for example. can be chosen A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC) may be additionally formed as a part of the antenna module 197 in addition to the radiator.
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first surface (eg, a lower surface) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, array antennas) disposed on or adjacent to a second surface (eg, a top surface or a side surface) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • signal e.g. commands or data
  • commands or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or part of operations executed in the electronic device 101 may be executed in one or more external electronic devices among the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 when the electronic device 101 needs to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device 101 instead of executing the function or service by itself.
  • one or more external electronic devices may be requested to perform the function or at least part of the service.
  • One or more external electronic devices receiving the request may execute at least a part of the requested function or service or an additional function or service related to the request, and deliver the execution result to the electronic device 101 .
  • the electronic device 101 may provide the result as at least part of a response to the request as it is or additionally processed.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an internet of things (IoT) device.
  • Server 108 may be an intelligent server using machine learning and/or neural networks. According to one embodiment, the external electronic device 104 or server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to intelligent services (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • Electronic devices may be devices of various types.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a camera
  • a wearable device e.g., a smart bracelet
  • first, second, or first or secondary may simply be used to distinguish a given component from other corresponding components, and may be used to refer to a given component in another aspect (eg, importance or order) is not limited.
  • a (e.g., first) component is said to be “coupled” or “connected” to another (e.g., second) component, with or without the terms “functionally” or “communicatively.”
  • the certain component may be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logical blocks, parts, or circuits.
  • a module may be an integrally constructed component or a minimal unit of components or a portion thereof that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • a storage medium eg, internal memory 136 or external memory 138
  • a machine eg, electronic device 101
  • a processor eg, the processor 120
  • a device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • the storage medium is a tangible device and does not contain a signal (e.g. electromagnetic wave), and this term refers to the case where data is stored semi-permanently in the storage medium. It does not discriminate when it is temporarily stored.
  • a signal e.g. electromagnetic wave
  • Computer program products may be traded between sellers and buyers as commodities.
  • a computer program product is distributed in the form of a device-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play Store TM ) or on two user devices ( It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • a device-readable storage medium eg compact disc read only memory (CD-ROM)
  • an application store eg Play Store TM
  • It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • at least part of the computer program product may be temporarily stored or temporarily created in a device-readable storage medium such as a manufacturer's server, an application store server, or a relay server's memory.
  • each component (eg, module or program) of the above-described components may include a single object or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. there is.
  • one or more components or operations among the aforementioned corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg modules or programs
  • the integrated component may perform one or more functions of each of the plurality of components identically or similarly to those performed by a corresponding component of the plurality of components prior to the integration. .
  • the actions performed by a module, program, or other component are executed sequentially, in parallel, iteratively, or heuristically, or one or more of the actions are executed in a different order, or omitted. or one or more other actions may be added.
  • FIG. 2 is a block diagram 200 illustrating a camera module 180, according to one embodiment.
  • the camera module 180 includes a lens assembly 210, a flash 220, an image sensor 230, an image stabilizer 240, a memory 250 (eg, a buffer memory), and/or an image A signal processor 260 may be included.
  • the lens assembly 210 may collect light emitted from a subject that is an image capturing target.
  • the lens assembly 210 may include one or more lenses.
  • the camera module 180 may include a plurality of lens assemblies 210 .
  • the camera module 180 may form, for example, a dual camera, a 360-degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 210 may have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly may have the same lens properties as other lens assemblies. may have one or more lens properties different from the lens properties of .
  • the lens assembly 210 may include, for example, a wide-angle lens or a telephoto lens.
  • the flash 220 may emit light used to enhance light emitted or reflected from a subject.
  • the flash 220 may include one or more light emitting diodes (eg, a red-green-blue (RGB) LED, a white LED, an infrared LED, or an ultraviolet LED), or a xenon lamp.
  • the image sensor 230 may acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly 210 into an electrical signal.
  • the image sensor 230 is, for example, an image sensor selected from among image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor, It may include a plurality of image sensors having a property, or a plurality of image sensors having other properties.
  • Each image sensor included in the image sensor 230 may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 240 moves at least one lens or image sensor 230 included in the lens assembly 210 in a specific direction in response to movement of the camera module 180 or the electronic device 101 including the same. Operation characteristics of the image sensor 230 may be controlled (eg, read-out timing is adjusted, etc.). This makes it possible to compensate at least part of the negative effect of the movement on the image being taken.
  • the image stabilizer 240 may include a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 180. Such a movement of the camera module 180 or the electronic device 101 may be detected using .
  • the image stabilizer 240 may be implemented as, for example, an optical image stabilizer.
  • the memory 250 may at least temporarily store at least a portion of an image acquired through the image sensor 230 for a next image processing task. For example, when image acquisition is delayed according to the shutter, or a plurality of images are acquired at high speed, the acquired original image (eg, a Bayer-patterned image or a high-resolution image) is stored in the memory 250 and , a copy image (eg, a low resolution image) corresponding thereto may be previewed through the display module 160 . Thereafter, when a specified condition is satisfied (eg, a user input or a system command), at least a part of the original image stored in the memory 250 may be obtained and processed by the image signal processor 260 , for example. According to one embodiment, the memory 250 may be configured as at least a part of the memory 130 or as a separate memory operated independently of the memory 130 .
  • the image signal processor 260 may perform one or more image processes on an image obtained through the image sensor 230 or an image stored in the memory 250 .
  • the one or more image processes for example, depth map generation, 3D modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring ( blurring, sharpening, or softening.
  • the image signal processor 260 may include at least one of the components included in the camera module 180 (eg, an image sensor).
  • the image processed by the image signal processor 260 is stored again in the memory 250 for further processing, or It may be provided as an external component of the camera module 180 (eg, the memory 130, the display module 160, the electronic device 102, the electronic device 104, or the server 108).
  • the image signal processor 260 may be configured as at least a part of the processor 120 or may be configured as a separate processor that operates independently of the processor 120.
  • the image signal processor 260 may be configured as a processor 120 and When configured as a separate processor, at least one image processed by the image signal processor 260 may be displayed through the display module 160 as it is or after additional image processing by the processor 120 .
  • the electronic device 101 may include a plurality of camera modules 180 each having different properties or functions.
  • at least one of the plurality of camera modules 180 may be a wide-angle camera, and at least the other may be a telephoto camera.
  • at least one of the plurality of camera modules 180 may be a front camera, and at least another one may be a rear camera.
  • FIG. 3 is a block diagram of an electronic device 101 according to an embodiment.
  • FIG. 4 is a diagram 400 illustrating a graph showing light transmittance for each wavelength of light in the display 310 according to an exemplary embodiment.
  • the electronic device 101 may include a display 310 , a camera 320 , a memory 330 , and/or a processor 340 .
  • the display 310 may be included in the display module 160 of FIG. 1 .
  • the display 310 may be a display for implementing an under display camera (UDC) technology.
  • the display 310 may include an area (hereinafter, referred to as a 'UDC area') for allowing light from the outside of the electronic device 101 to pass through the display 310 and enter the camera 320.
  • the UDC area of the display 310 may have a lower PPI than pixels per inch (PPI) of other areas of the display 310 .
  • the light transmittance of the display 310 is the light transmittance of the display according to the comparative example (eg, a display in which a hole is formed on the front surface of the electronic device 101 to allow light to flow into the camera 320). Compared to , it can be low.
  • a line 410 may indicate the light transmittance of the display according to the comparative example
  • a line 420 may indicate the light transmittance of the display 310 .
  • the light transmittance of the display 310 may be lower than that of the display according to the comparative example.
  • the transmittance of light passing through the display 310 may vary depending on the wavelength.
  • Transmittance of light passing through the display 310 may vary according to characteristics of the display 310 . For example, depending on the difference between the components included in the display 310 and/or the arrangement (eg, arrangement spacing, relative position) between the components included in the display 310, the light passing through the display may vary from display to display. Permeability may vary.
  • the display 310 may include a memory that stores information related to the display.
  • the memory of the display 310 when the display 310 and the camera 320 are mounted in the electronic device 101 in a form in which the camera 320 is disposed under the display 310, by the characteristics of the display 310 Information for compensating for the quality of the degraded image obtained through the camera 320 (eg, information for correcting the image) may be stored.
  • Information for setting possible camera settings can be stored. Information for correcting images and information for setting camera settings stored in the memory of the display 310 will be described below.
  • the camera 320 may be included in the camera module 180 of FIGS. 1 and 2 .
  • the camera 320 acquires an image using light introduced through the display 310 (eg, the UDC area) and may be a camera disposed under the display 310 .
  • the amount of light received by the image sensor of the camera 320 may vary. For example, a difference between elements included in the camera 320 (eg, a color filter array, a lens) and/or an arrangement between elements included in the camera 320 (eg, arrangement distance, relative position), the amount of light received may be different for each image sensor of the cameras.
  • the light transmittance of the color filter array included in the camera 320 may vary according to the wavelength of the light. The light transmittance of the color filter array included in the camera 320 may be different for each camera.
  • the camera 320 may include a memory that stores information related to the camera.
  • the memory of the camera 320 is degraded by the characteristics of the camera when the display 310 and the camera 320 are mounted in the electronic device 101 in a form in which the camera 320 is disposed under the display 310, Information for compensating for the quality of an image acquired through the camera 320 (eg, information for correcting an image) may be stored.
  • Information for setting possible camera settings can be stored.
  • Information for correcting images and information for setting camera settings stored in the memory of the display 310 will be described below.
  • the memory 330 may be included in the memory 130 of FIG. 1 .
  • the memory 330 may store various information for performing an operation of providing an image.
  • the processor 340 may overall control an operation of providing an image.
  • the processor 340 may include one or more processors that control an operation of providing an image. A method of controlling an operation of providing an image by the processor 340 will be described below with reference to FIGS. 7 and 8 .
  • the electronic device 101 is illustrated as including a display 310, a camera 320, a memory 330, and/or a processor 340, but is not limited thereto.
  • the electronic device 101 may further include at least one component (eg, the communication module 180) among components of the electronic device 101 shown in FIG. 1 .
  • each of the display 310 (eg, memory of the display 310) and camera 320 (eg, memory of the camera 320) is the camera 320 A method of storing information for correcting an image obtained through and/or information for setting a camera 320 will be described.
  • An electronic device includes a display, a camera that acquires an image using light introduced through the display, and at least one processor electrically connected to the display and the camera, The processor acquires the image through the camera, obtains a first adjustment value corresponding to the display and for correcting the image, and obtains a second adjustment value corresponding to the camera and correcting the image; , and correct the image based on the first adjustment value and the second adjustment value.
  • the at least one processor may be configured to obtain the first adjustment value from a memory of the display and to obtain the second adjustment value from a memory of the camera.
  • the electronic device may further include a communication module, and the at least one processor may be configured to obtain the first adjustment value and the second adjustment value from a server through the communication module.
  • the at least one processor determines at least one of white balance, lens shading, and a color correction matrix (CCM) of the image based on the first adjustment value and the second adjustment value. By adjusting, it can be configured to correct the image.
  • CCM color correction matrix
  • the first adjustment value may be obtained based on an image acquired by a reference camera using light emitted from a light source and introduced through the display before the display is mounted on the electronic device.
  • the reference camera may be a camera having a characteristic value corresponding to an average of characteristic values of the plurality of cameras or a central value among characteristic values of the plurality of cameras, among a plurality of cameras mountable to the electronic device.
  • the second adjustment value may be obtained based on an image acquired by the camera using light emitted from the light source before the camera is mounted in the electronic device.
  • the first adjustment value is obtained based on an image acquired by the reference camera in an adjustment device communicatively connected to the reference camera
  • the second adjustment value is obtained by the camera in the adjustment device communicatively connected with the camera. It can be obtained based on the image obtained.
  • the at least one processor obtains a third adjustment value corresponding to the display and for adjusting the camera settings, obtaining a fourth adjustment value corresponding to the camera and for adjusting the camera settings, and Based on the adjustment value and the fourth adjustment value, the camera setting may be configured to be set.
  • the at least one processor configures a camera setting related to a lens position for auto focus and/or a camera setting for correcting aberration of a lens, based on the third adjustment value and the fourth adjustment value. can be configured to set
  • 5A to 5C describe a method of obtaining information for image correction and camera setting information for a display, according to an embodiment.
  • a system for acquiring information for image correction and camera setting information for a display 510 includes a display 510, a reference camera 520, a light source 530, a position A confirmation device 540, a pressing/fixing jig 550, a seating jig 570, a 3-axis stage 580, a fixing jig 560, and/or an adjustment device 521 may be included.
  • the display 510 may be a display to be calibrated.
  • the display 510 eg, the display 310 may be a display included in the electronic device 101 by UDC technology.
  • the reference camera 520 (also referred to as a “master camera”) may be a camera having specified characteristic values.
  • the reference camera 520 among a plurality of cameras (eg, a plurality of cameras including a specific image sensor and a specific lens) mountable to the electronic device 101, corresponds to the average of characteristic values of the plurality of cameras. It may be a camera having a characteristic value.
  • the reference camera may be a camera having a white balance value closest to an average of white balance values of each of the plurality of cameras. However, it is not limited thereto.
  • the reference camera 520 may be a camera having a central value among characteristic values of the plurality of cameras among a plurality of cameras mountable to the electronic device 101 .
  • the light source 530 may be a light source having a specified color temperature (eg, about 5100K (kelvin)).
  • a color temperature of about 5100K may be a color temperature of a daylight environment.
  • the color temperature of the light source 530 is not limited to about 5100K, and the light source 530 may have other color temperatures (eg, about 6500K).
  • the positioning device 540 may be a component for aligning the UDC area 511 of the display 510 and the lens of the reference camera 520 .
  • the positioning device 540 may be a positioning device using a vision camera or a laser.
  • the seating jig 570 may be a jig on which the display 510 is seated and may be moved by a 3-axis stage 580 .
  • the pressing/fixing jig 550 and the fixing jig 560 may be components for fixing the display 510 while the display 510 is seated on the seating jig 570 .
  • the adjustment device 521 may acquire an image of the light source 530 acquired by the reference camera 520 from the reference camera 520 .
  • the adjustment device 521 may obtain (eg, generate) information for image correction related to the display 510 and information for setting a camera, based on the obtained image.
  • the adjustment device 521 may store information for image correction related to the display 510 and information for setting a camera in the memory of the display 510 .
  • reference numeral 501 may indicate a step of seating the display 510 on a seating jig 570 .
  • the display 510 may be seated on a seating jig 570 in a direction indicated by an arrow 591 .
  • Reference numeral 502 may indicate a step of fixing the display 510 .
  • the pressing/fixing jig 550 and the fixing jig 560 are indicated by arrows 592, 593, As 594 moves in the indicated directions, the display 510 may be fixed on the mounting jig 570 .
  • reference numeral 503 may indicate a step of aligning the UDC area 511 of the display 510 and the reference camera 520 .
  • reference numeral 503 by moving the positioning device 540 in the direction indicated by arrow 595 and moving the three-axis stage 580 in the direction indicated by arrow 596. , the UDC region 511 of the display 510 and the reference camera ( 520) can be sorted.
  • Reference numeral 504 may indicate a step of calculating display-related information for image correction and camera setting information based on the image of the light source 530 .
  • the positioning device 540 is moved in the direction indicated by the arrow 597, and the light emitted from the light source 530 is transmitted to the UDC area 511 of the display 510. ) to enter the reference camera 520, the light source 530 may be moved in a direction indicated by an arrow 598.
  • the reference camera 520 acquires an image of the light source 530 by using light emitted from the light source 530 and introduced into the reference camera 520 through the UDC area 511 of the display 510.
  • the reference camera 520 may transmit the acquired image of the light source 530 to the adjustment device 521 through a communication module (eg, a wireless communication module or a wired communication module) of the reference camera 520 .
  • a communication module eg, a wireless communication module or a wired communication module
  • the adjustment device 521 may acquire information for image correction related to the display 510 and information for setting a camera, based on the image of the light source 530 .
  • Information for image correction associated with the display 510 includes a value for adjusting white balance (eg, a red, green, blue (RGB) ratio), a value for adjusting lens shading, and/or CCM ( color correction matrix) may be included.
  • Information for camera setting related to the display 510 may include a camera setting value related to a lens position for auto focus and/or a camera setting value for correcting lens aberration.
  • values for image correction related to the display and information for camera setting related to the display are not limited to the above examples.
  • the adjusting device 521 determines the center of the image portion of the light source 530 in the image of the light source 530.
  • a designated area as a reference eg, an area corresponding to a designated radius from the center of the image portion of the light source 530 in the image of the light source 530
  • the adjusting device 521 may calculate the RGB ratios (eg, R/G and B/G) of the designated area as values for adjusting the white balance (eg, RGB ratio).
  • the adjusting device 521 may transmit information for image correction related to the display 510 and information for setting a camera to the display 510 through a wireless or wired communication module of the adjusting device 521 .
  • the display 510 may store received information for image correction related to the display 510 and information for setting a camera in a memory of the display 510 .
  • the adjustment device 521 transmits information for image correction related to the display 510 and information for setting a camera to the display 510, but is not limited thereto.
  • the adjustment device 521 includes unique identification information of the display 510 (eg, a serial number of the display 510), information for image calibration related to the display 510, and information for camera settings. Information can be sent to the server.
  • information for image correction related to the display 510 and information for camera setting may be stored in the server in addition to or instead of being stored in the memory of the display 510 .
  • reference numeral 505 may indicate a step for replacing a display 510 with another display 510 .
  • the display 510, the light source 530, the fixing jig 560, pressing/fixing The jig 550 and the 3-axis stage 580 may be moved as indicated by arrows 599 .
  • information for image correction related to other displays and camera settings In order to obtain the information, steps shown at 501 to 504 may be performed.
  • FIG. 6 illustrates a method 600 of obtaining information for image correction and information for camera setting with respect to a camera, according to an embodiment.
  • a system for obtaining camera-related image correction information and camera setting information may include a camera 610 , an adjusting device 521 , and a light source 530 .
  • the camera 610 may be a camera to be calibrated.
  • the camera 610 may be a camera included in the electronic device 101 by UDC technology.
  • the camera 610 may acquire an image of the light source 530 .
  • the camera 610 may transmit the acquired image of the light source 530 to the adjustment device 521 through a wireless or wired communication module of the camera 610 .
  • the adjusting device 521 may acquire information for image correction related to the camera and information for setting the camera, based on the acquired image of the light source 530 .
  • Information for image correction related to the camera includes a value for adjusting white balance (eg, RGB ratio), a value for adjusting lens shading, and/or a value for adjusting a color correction matrix (CCM).
  • CCM color correction matrix
  • Information for setting the camera related to the camera is a camera setting value related to the position of the lens for auto focus (e.g., information on the position of the lens set differently according to the distance between the subject and the camera for auto focus) and/or camera setting values for correcting lens aberrations.
  • values for image correction related to the camera and information for setting the camera related to the camera are not limited to the above examples.
  • the adjusting device 521 determines the center of the image portion of the light source 530 in the image of the light source 530.
  • a designated area as a reference eg, an area corresponding to a designated radius from the center of the image portion of the light source 530 in the image of the light source 530
  • the adjusting device 521 may calculate the RGB ratios (eg, R/G and B/G) of the designated area as values for adjusting the white balance (eg, RGB ratio).
  • the adjustment device 521 may transmit camera-related image correction information and camera setting information to the camera 610 through a wireless or wired communication module of the adjustment device 521 .
  • the camera 610 may store received camera-related image correction information and camera setting information in the memory of the camera 610 .
  • the adjustment device 521 transmits information for image correction related to the camera and information for setting the camera to the camera, but is not limited thereto.
  • the adjustment device 521 transmits information for image correction related to the camera and information for setting the camera together with unique identification information of the camera 610 (eg, a serial number of the camera 610) to a server.
  • unique identification information of the camera 610 eg, a serial number of the camera 610
  • information for image correction related to the camera 610 and information for setting the camera may be stored in the server in addition to or instead of being stored in the memory of the camera 610 .
  • Information for image correction related to the reference camera 520 and information for camera setting may be stored in the memory of the camera 610 .
  • the reference camera 520 is selected from among a plurality of cameras including a specific image sensor and a specific lens
  • information and camera settings for image correction related to the reference camera 520 are stored in the memory of each of the plurality of cameras.
  • Information for can be stored. However, it is not limited thereto.
  • FIG. 7 illustrates a method 700 of correcting an image, according to one embodiment.
  • an image may be obtained through the processor 340 and the camera 320 .
  • the processor 340 operates the camera ( 320) to obtain an image.
  • the processor 340 may obtain a first adjustment value (hereinafter referred to as a “first adjustment value”) corresponding to the display 310 and for correcting the image.
  • the processor 340 may obtain information for correcting an image related to a display acquired through the steps of FIGS. 5A to 5C as a first adjustment value.
  • the processor 340 may obtain the first adjustment value from the memory of the display 310 . However, it is not limited thereto, and the processor 340 may obtain the first adjustment value from the server. For example, the processor 340 may check unique identification information of the display 310 . The processor 340 may request the first adjustment value corresponding to the unique identification information of the display 310 to the server through the communication module 180 . The processor 340 may obtain the first adjustment value by receiving the first adjustment value corresponding to the unique identification information of the display 310 from the server through the communication module 180 .
  • the processor 340 may obtain a second adjustment value corresponding to the camera 320 and for correcting the image (hereinafter, referred to as a “second adjustment value”). For example, the processor 340 may obtain information for correcting an image related to a camera acquired through the examples of FIG. 6 as a second adjustment value. However, it is not limited thereto.
  • the processor 340 may obtain the second adjustment value from the server.
  • the processor 340 may check unique identification information of the camera 320 .
  • the processor 340 may request the second adjustment value corresponding to the unique identification information of the camera 320 to the server through the communication module 180 .
  • the processor 340 may obtain the second adjustment value by receiving the second adjustment value corresponding to the unique identification information of the camera 320 from the server through the communication module 180 .
  • FIG. 7 illustrates that the operation of obtaining the first adjustment value in operation 703 is performed prior to the operation of obtaining the second adjustment value in operation 705, it is not limited thereto.
  • the operation of obtaining the second adjustment value in operation 705 may be performed prior to or concurrently (eg, in parallel) with the operation of obtaining the first adjustment value in operation 703 .
  • the processor 340 may correct the image based on the first adjustment value and the second adjustment value. For example, the processor 340 corrects the image by adjusting the white balance (eg, RGB ratio), lens shading, and color correction matrix (CCM) of the image based on the first adjustment value and the second adjustment value. can do.
  • the white balance eg, RGB ratio
  • CCM color correction matrix
  • Table 1 below illustrates a method for the processor 340 to adjust the white balance of an image based on the first adjustment value and the second adjustment value.
  • the RGB ratio of the reference camera 520 is an image for the obtained light source (eg, a light source having a color temperature of 5100K).
  • the first adjustment value is obtained using the light emitted from the light source and then passed through the display 310 and introduced into the reference camera 520 at reference numeral 504 with FIG. 5B, It may be an RGB ratio calculated from an image of a light source.
  • the second adjustment value may be an RGB ratio calculated from the obtained image of the light source when the camera acquires the image of the light source in FIG. 6 described above.
  • the difference between the RGB ratios of the reference camera 520 and the camera 320 may be the difference between the RGB ratio of the reference camera 520 of [Table 1] and the second adjustment value.
  • the processor 340 determines the RGB ratio of the reference camera 520, the difference between the reference camera 520 and the second adjusted value (the RGB ratio of the camera 320), and the RGB ratio of the reference camera 520 and the first adjusted value. Based on the difference between the values, you can adjust the white balance of the image. For example, as shown in [Table 1], if the RGB ratio of the reference camera 520 is (1, 1, 1) (eg, if the RGB ratio of the reference camera 520 is 1:1:1), When the first adjustment value is (0.7, 1, 0.4) and the second adjustment value is (0.98, 1, 1.01), the difference between the reference camera 520 and the second adjustment value is (0.02, 0, -0.01) , the difference between the reference camera 520 and the first adjustment value may be (0.3, 0, 0.6).
  • the processor 340 has a gain (1/(1-(0.3+0.02)) for adjusting the R/G of the image and a gain (1/(1-(0.6-0.01)) for adjusting the B/G of the image.
  • the processor 340 determines that the RGB ratio of the acquired image is the RGB ratio of the reference camera 520 (eg, 1 :1:1 RGB ratio), multiply R/G of the acquired image by a gain to adjust R/G (e.g. 1/(1-(0.3+0.02)), and B/G of the acquired image
  • the white balance of the image may be adjusted by multiplying G by a gain for adjusting B/G (for example, 1/(1-(0.6-0.01)).
  • the processor 340 calculates the first adjustment value and the second adjustment value. 2
  • An example of correcting the image based on the adjustment value is not limited to the above example Similar to the example of adjusting the white balance of the image, the processor 340 performs lens shading and/or a color correction matrix (CCM) of the image. ), the image can be corrected.
  • CCM color correction matrix
  • FIG. 8 illustrates a method 800 of setting camera settings, according to one embodiment.
  • the processor 340 may obtain a third adjustment value (hereinafter, referred to as “third adjustment value”) corresponding to the display 310 and for setting camera settings. there is.
  • the processor 340 may obtain information for setting a camera related to the display 310 obtained through the steps of FIGS. 5A to 5C as a third adjustment value.
  • the processor 340 may obtain the third adjustment value from the memory of the display 310 . However, it is not limited thereto, and the processor 340 may obtain the third adjustment value from the server. For example, the processor 340 may check unique identification information of the display 310 . The processor 340 may request the third adjustment value corresponding to the unique identification information of the display 310 to the server through the communication module 180 . The processor 340 may obtain the third adjustment value by receiving the third adjustment value corresponding to the unique identification information of the display 310 from the server through the communication module 180 .
  • the processor 340 may obtain a fourth adjustment value corresponding to the camera 320 and for adjusting camera settings (hereinafter, referred to as a 'fourth adjustment value').
  • the processor 340 may obtain information for setting a camera setting related to the camera obtained through the examples of FIG. 6 as a fourth adjustment value.
  • the processor 340 may obtain the fourth adjustment value from the server.
  • the processor 340 may check unique identification information of the camera 320 .
  • the processor 340 may request the fourth adjustment value corresponding to the unique identification information of the camera to the server through the communication module 180 .
  • the processor 340 may obtain the fourth adjustment value by receiving the fourth adjustment value corresponding to the unique identification information of the camera from the server through the communication module 180 .
  • the operation of obtaining the third adjustment value in operation 801 is performed before the operation of obtaining the fourth adjustment value in operation 803, but is not limited thereto.
  • the operation of obtaining the fourth adjustment value in operation 803 may be performed prior to or concurrently (eg, in parallel) with the operation of obtaining the third adjustment value in operation 801 .
  • FIG. 8 may be performed in response to the execution of the camera application.
  • the processor 340 may perform operations 801 and/or 803 in response to receiving an input for executing a camera application from a user.
  • the processor 340 may acquire an image based on camera settings set based on the third and fourth adjustment values.
  • the processor 340 may adjust the setting of the camera 320 based on the third adjustment value and the fourth adjustment value. For example, the processor 340 corrects a camera setting value related to a lens position for auto focus and/or lens aberration based on the third adjustment value and the fourth adjustment value. You can adjust the setting value.
  • the processor 340 may obtain an image through the camera 320 based on the set camera settings.
  • the processor 340 may perform operations 703 to 707 of FIG. 7 .
  • a method for providing an image in an electronic device includes an operation of acquiring the image through a camera that acquires the image using light introduced through a display of the electronic device, corresponding to the display and the image Obtaining a first adjustment value for correcting the image, obtaining a second adjustment value corresponding to the camera and correcting the image, and based on the first adjustment value and the second adjustment value, It may include an operation of correcting the image.
  • the obtaining of the first adjustment value includes obtaining the first adjustment value from a memory of the display, and the obtaining of the second adjustment value comprises obtaining the second adjustment value from a memory of the camera. It may include an operation to acquire.
  • the obtaining of the first adjustment value and the obtaining of the second adjustment value include obtaining the first adjustment value and the second adjustment value from a server through a communication module of the electronic device. can do.
  • the operation of correcting the image may include at least one of white balance, lens shading, and a color correction matrix (CCM) of the image based on the first adjustment value and the second adjustment value.
  • CCM color correction matrix
  • the first adjustment value may be obtained based on an image acquired by a reference camera using light emitted from a light source and introduced through the display before the display is mounted on the electronic device.
  • the reference camera may be a camera having a characteristic value corresponding to an average of characteristic values of the plurality of cameras or a central value among characteristic values of the plurality of cameras, among a plurality of cameras mountable to the electronic device.
  • the second adjustment value may be obtained based on an image acquired by the camera using light emitted from the light source before the camera is mounted in the electronic device.
  • the first adjustment value is obtained based on an image acquired by the reference camera in an adjustment device communicatively connected to the reference camera
  • the second adjustment value is obtained by the camera in the adjustment device communicatively connected with the camera. It can be obtained based on the image obtained.
  • the method includes: obtaining a third adjustment value corresponding to the display and adjusting camera settings; obtaining a fourth adjustment value corresponding to the camera and adjusting the camera settings; and the third adjustment
  • the method may further include setting the camera setting based on the value and the fourth adjustment value.
  • the operation of setting the camera setting may include setting a camera setting related to a lens position for auto focus and/or a camera setting for correcting lens aberration based on the third adjustment value and the fourth adjustment value. Actions may be included.
  • the structure of data used in the above-described embodiment can be recorded on a computer-readable recording medium through various means.
  • the computer-readable recording medium includes storage media such as magnetic storage media (eg, ROM, floppy disk, hard disk, etc.) and optical reading media (eg, CD-ROM, DVD, etc.).

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

전자 장치가 제공되고, 전자 장치는, 디스플레이, 상기 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라, 및 상기 디스플레이 및 상기 카메라와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 카메라를 통하여 상기 이미지를 획득하고, 상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하고, 상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하고, 및 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하도록 구성될 수 있다.

Description

이미지를 제공하는 방법 및 이를 지원하는 전자 장치
본 개시는, 일반적으로, 이미지를 제공하는 방법 및 이를 지원하는 전자 장치와 관련된다.
소형화되면서도 더 넓은 화면을 제공하고, 향상된 미려한 외관을 제공할 수 있는 전자 장치에 대한 사용자 요구가 증가하고 있다. 이러한 사용자 요구를 만족하기 위하여, 하우징의 일부(또는 디스플레이의 일부)에 노치(notch), U 형태의 홀(hole), V 형태의 홀, 또는 O 형태의 홀을 형성하고, 형성된 노치 또는 홀을 통하여 외부로 노출되는 카메라 모듈을 포함하는 전자 장치가 개발되어 왔다.
최근에는, 풀 스크린(full screen)을 구현하기 위하여, 디스플레이 아래 카메라가 배치되는 UDC(under display camera) 기술이 전자 장치에 구현되고 있다.
전자 장치가 UDC 기술로 구현되는 경우, 디스플레이에 포함된 불투명한 구성(예: 폴리이미드(polyimide)로 구성된 기판)에 의해, 디스플레이를 통과하여 카메라로 유입되는 광의 투과율은, 홀(hole)(예: U 형태의 홀(hole), V 형태의 홀, 또는 O 형태의 홀)을 통하여 카메라로 유입되는 광의 투과율에 비하여, 낮을 수 있다.
또한, 전자 장치가 UDC 기술로 구현되는 경우, 디스플레이 및/또는 카메라에 따라, 카메라를 통해 획득되는 이미지의 색상 및/또는 밝기는 달라질 수 있다. 예를 들어, 전자 장치가 UDC 기술로 구현되는 경우, 디스플레이의 특성(예: 디스플레이를 구성하는 부품들에 의한 광의 파장 별 광 투과율) 및 카메라의 특성(예: 이미지 센서의 광의 파장 별 광 투과율)에 따라, 카메라를 통하여 획득되는 이미지의 색상 및/또는 밝기는 달라질 수 있다.
본 개시의 다양한 실시예들은, UDC 기술로 구현되는 전자 장치에 포함될 디스플레이 및 카메라 각각에 대한 캘리브레이션(calibration)을 위한 값들을 전자 장치 제조(예: 조립) 전 저장하고, 전자 장치 제조 후 상기 캘리브레이션을 위한 값들에 기반하여 카메라를 통해 획득된 이미지를 보정함으로써, 전자 장치 제조 후(또는 디스플레이 및/또는 카메라 교체 시) 디스플레이 및 카메라에 대한 별도의 캘리브레이션을 수행하지 않을 수 있도록 하는, 이미지를 제공하는 방법 및 이를 지원하는 전자 장치에 관한 것이다.
일 실시예에 따른 전자 장치는, 디스플레이, 상기 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라, 및 상기 디스플레이 및 상기 카메라와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 카메라를 통하여 상기 이미지를 획득하고, 상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하고, 상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하고, 및 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하도록 구성될 수 있다.
일 실시예에 따른 전자 장치에서 이미지를 제공하는 방법은, 상기 전자 장치의 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라를 통하여 상기 이미지를 획득하는 동작, 상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하는 동작, 상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하는 동작, 및 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예에 따른 이미지를 제공하는 방법 및 이를 지원하는 전자 장치는, UDC 기술로 구현되는 전자 장치에 포함될 디스플레이 및 카메라 각각에 대한 캘리브레이션을 위한 값들을 전자 장치 제조(예: 조립) 전 저장하고, 전자 장치 제조 후 상기 캘리브레이션을 위한 값들에 기반하여 카메라를 통해 획득된 이미지를 보정함으로써, 전자 장치 제조(예: 조립) 후(또는 디스플레이 및/또는 카메라 교체 시) 디스플레이 및 카메라에 대한 별도의 캘리브레이션을 수행하지 않을 수 있도록 할 수 있다.
본 개시의 어떤 실시예들의 상기 및 다른 측면, 특징들 및 이점들은 첨부 도면과 함께 이루어진 다음의 설명으로부터 더욱 명백할 것이다.
도 1은, 일 실시예에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는, 일 실시예에 따른, 카메라 모듈을 예시하는 블록도이다.
도 3은, 일 실시예에 따른, 전자 장치의 블록도이다.
도 4는, 일 실시예에 따른, 디스플레이에서 광의 파장 별 투과율을 나타내는 그래프를 나타낸다.
도 5a, 5b 내지 도 5c는, 일 실시예에 따른, 디스플레이에 대하여 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하는 방법을 설명한다.
도 6은, 일 실시예에 따른, 카메라에 대하여 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하는 방법을 설명한다.
도 7은, 일 실시예에 따른, 이미지를 보정하는 방법을 설명하기 위한 흐름도이다.
도 8은, 일 실시예에 따른, 카메라 설정을 설정하는 방법을 설명하기 위한 흐름도이다.
도 1은, 일 실시예에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다.
도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스TM, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는, 일 실시예에 따른, 카메라 모듈(180)을 예시하는 블록도(200)이다.
도 2를 참조하면, 카메라 모듈(180)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 및/또는 이미지 시그널 프로세서(260)를 포함할 수 있다.
렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일 실시예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다.
일 실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일 실시예에 따르면, 이미지 스태빌라이저(240)는, 일 실시예에 따르면, 이미지 스태빌라이저(240)은 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일 실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다.
메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일 실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 디스플레이 모듈(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일 실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)이 프로세서(120)과 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(160)를 통해 표시될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 3는, 일 실시예에 따른, 전자 장치(101)의 블록도이다.
도 4는, 일 실시예에 따른, 디스플레이(310)에서 광의 파장 별 광 투과율을 나타내는 그래프를 나타내는 도면(400)이다.
도 3 및 도 4를 참조하면, 전자 장치(101)는, 디스플레이(310), 카메라(320), 메모리(330), 및/또는 프로세서(340)를 포함할 수 있다.
디스플레이(310)는 도 1 의 디스플레이 모듈(160)에 포함될 수 있다.
디스플레이(310)는 UDC(under display camera) 기술을 구현하기 위한 디스플레이일 수 있다. 예를 들어, 디스플레이(310)는, 전자 장치(101) 외부로부터의 광이 디스플레이(310)를 통과하여 카메라(320)로 유입되도록 하기 위한 영역(이하, 'UDC 영역'으로 지칭함)을 포함할 수 있다. 디스플레이(310)의 UDC 영역은, 디스플레이(310)의 다른 영역의 PPI(pixels per inch)에 비하여 낮은 PPI를 가지는 영역일 수 있다.
디스플레이(310)(예: UDC 영역)의 광 투과율은, 비교예에 의한 디스플레이(예: 카메라(320)로 광이 유입되도록 전자 장치(101) 전면에 홀(hole)이 형성된 디스플레이)의 광 투과율에 비하여, 낮을 수 있다. 예를 들어, 도 4에서 라인(410)은 비교예에 의한 디스플레이의 광 투과율을 나타내고, 라인(420)은 디스플레이(310)의 광 투과율을 나타낼 수 있다. 도 4에 도시된 바와 같이, 디스플레이(310)의 광 투과율은 비교예에 의한 디스플레이의 광 투과율에 비하여 낮을 수 있다. 도 4의 라인(420)과 같이, 디스플레이(310)를 통과하는 광의 투과율은 파장에 따라 다를 수 있다.
디스플레이(310)의 특성에 따라 디스플레이(310)(예: UDC 영역)를 통과하는 광의 투과율은 다를 수 있다. 예를 들어, 디스플레이(310)에 포함된 구성들의 차이 및/또는 디스플레이(310)에 포함된 구성들 간 배치(예: 배치 간격, 상대적 위치)에 따라, 디스플레이들 마다, 디스플레이를 통과하는 광의 광 투과율이 달라질 수 있다.
디스플레이(310)는 디스플레이와 관련된 정보를 저장하는 메모리를 포함할 수 있다. 디스플레이(310)의 메모리는, 디스플레이(310) 아래 카메라(320)가 배치되는 형태로 디스플레이(310) 및 카메라(320)가 전자 장치(101)에 장착된 경우, 디스플레이(310)의 특성에 의해 열화되는, 카메라(320)를 통해 획득되는 이미지의 화질을 보상하기 위한 정보(예: 이미지를 보정하기 위한 정보)를 저장할 수 있다. 디스플레이(310)의 메모리는, 디스플레이(310) 아래 카메라(320)가 배치되는 형태로 디스플레이(310) 및 카메라(320)가 전자 장치(101)에 장착된 경우, 디스플레이의 특성에 의해 부정확하게 설정될 수 있는 카메라 설정을 설정하기 위한 정보를 저장할 수 있다. 디스플레이(310)의 메모리가 저장하는, 이미지를 보정하기 위한 정보 및 카메라 설정을 설정하기 위한 정보에 대해서는 아래에서 설명하도록 한다.
카메라(320)는 도 1 및 도 2의 카메라 모듈(180)에 포함될 수 있다.
카메라(320)는 디스플레이(310)(예: UDC 영역)를 통과하여 유입되는 광을 이용하여 이미지를 획득하고, 디스플레이(310) 아래 배치되는 카메라일 수 있다.
카메라(320)의 특성에 따라, 카메라(320)의 이미지 센서가 수광하는 광의 양은 다를 수 있다. 예를 들어, 카메라(320)에 포함된 구성들(예: 컬러 필터 어레이(color filter array), 렌즈(lens))의 차이 및/또는 카메라(320)에 포함된 구성들 간 배치(예: 배치 간격, 상대적 위치)에 따라, 카메라들의 이미지 센서들 마다, 수광하는 광의 양이 다를 수 있다. 다른 예를 들어, 카메라(320)에 포함된 컬러 필터 어레이의 광의 투과율은 광의 파장에 따라 다를 수 있다. 카메라(320)에 포함된 컬러 필터 어레이의 광의 투과율은 카메라들 마다 다를 수 있다.
카메라(320)는 카메라와 관련된 정보를 저장하는 메모리를 포함할 수 있다. 카메라(320)의 메모리는, 디스플레이(310) 아래 카메라(320)가 배치되는 형태로 디스플레이(310) 및 카메라(320)가 전자 장치(101)에 장착된 경우, 카메라의 특성에 의해 열화되는, 카메라(320)를 통해 획득되는 이미지의 화질을 보상하기 위한 정보(예: 이미지를 보정하기 위한 정보)를 저장할 수 있다. 카메라(320)의 메모리는, 디스플레이(310) 아래 카메라(320)가 배치되는 형태로 디스플레이(310) 및 카메라(320)가 전자 장치(101)에 장착된 경우, 카메라의 특성에 의해 부정확하게 설정될 수 있는 카메라 설정을 설정하기 위한 정보를 저장할 수 있다. 디스플레이(310)의 메모리가 저장하는, 이미지를 보정하기 위한 정보 및 카메라 설정을 설정하기 위한 정보에 대해서는 아래에서 설명하도록 한다.
메모리(330)는 도 1의 메모리(130)에 포함될 수 있다.
메모리(330)는, 이미지를 제공하는 동작을 수행하기 위한 다양한 정보를 저장할 수 있다.
프로세서(340)는, 이미지를 제공하는 동작을 전반적으로 제어할 수 있다. 프로세서(340)는, 이미지를 제공하는 동작을 제어하는 하나 이상의 프로세서들을 포함할 수 있다. 프로세서(340)가 이미지를 제공하는 동작을 제어하는 방법에 대해서는 도 7 및 도 8을 참조하여 아래에서 설명하도록 한다.
도 3에서는 전자 장치(101)가 디스플레이(310), 카메라(320), 메모리(330), 및/또는 프로세서(340)를 포함하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 전자 장치(101)는, 도 1에 도시된 전자 장치(101)의 구성들 중에서 적어도 하나의 구성(예: 통신 모듈(180))을 더 포함할 수 있다.
이하, 도 5a 내지 도 5c와, 도 6를 통하여, 디스플레이(310)(예: 디스플레이(310)의 메모리) 및 카메라(320)(예: 카메라(320)의 메모리) 각각이, 카메라(320)를 통해 획득되는 이미지를 보정하기 위한 정보 및/또는 카메라(320) 설정을 설정하기 위한 정보를 저장하는 방법에 대하여 설명하도록 한다.
일 실시예에 따른 전자 장치는, 디스플레이, 상기 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라, 및 상기 디스플레이 및 상기 카메라와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 카메라를 통하여 상기 이미지를 획득하고, 상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하고, 상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하고, 및 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하도록 구성될 수 있다.
상기 적어도 하나의 프로세서는, 상기 디스플레이의 메모리로부터 상기 제 1 조정 값을 획득하고, 및 상기 카메라의 메모리로부터 상기 제 2 조정 값을 획득하도록 구성될 수 있다.
상기 전자 장치는 통신 모듈을 더 포함하고, 상기 적어도 하나의 프로세서는, 상기 통신 모듈을 통하여, 서버로부터, 상기 제 1 조정 값 및 상기 제 2 조정 값을 획득하도록 구성될 수 있다.
상기 적어도 하나의 프로세서는, 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지의 화이트 밸런스(white balance), 렌즈 쉐이딩(lens shading), 또는 CCM(color correction matrix) 중 적어도 하나를 조정함으로써, 상기 이미지를 보정하도록 구성될 수 있다.
상기 제 1 조정 값은, 상기 디스플레이가 상기 전자 장치에 장착되기 전, 기준 카메라가 광원으로부터 방출되어 상기 디스플레이를 통과하여 유입되는 광을 이용하여 획득한 이미지에 기반하여, 획득될 수 있다.
상기 기준 카메라는, 상기 전자 장치에 장착 가능한 복수의 카메라들 중에서, 상기 복수의 카메라들의 특성 값들의 평균에 대응하는 특성 값 또는 상기 복수의 카메라들의 특성 값들 중에서 중앙 값을 가지는 카메라일 수 있다.
상기 제 2 조정 값은, 상기 카메라가 상기 전자 장치에 장착되기 전, 상기 광원으로 방출된 광을 이용하여 상기 카메라에 의해 획득된 이미지에 기반하여, 획득될 수 있다.
상기 제 1 조정 값은 상기 기준 카메라와 통신 연결된 조정 장치에서 상기 기준 카메라에 의해 획득된 이미지에 기반하여 획득되고, 및 상기 제 2 조정 값은 상기 카메라와 통신 연결된 상기 조정 장치에서 상기 카메라에 의해 획득된 이미지에 기반하여 획득될 수 있다.
상기 적어도 하나의 프로세서는, 상기 디스플레이에 대응하고 카메라 설정을 조정하기 위한 제 3 조정 값을 획득하고, 상기 카메라에 대응하고 상기 카메라 설정을 조정하기 위한 제 4 조정 값을 획득하고, 및 상기 제 3 조정 값 및 상기 제 4 조정 값에 기반하여, 상기 카메라 설정을 설정하도록 구성될 수 있다.
상기 적어도 하나의 프로세서는, 상기 제 3 조정 값 및 상기 제 4 조정 값에 기반하여, 오토 포커스(auto focus)를 위한 렌즈의 위치와 관련된 카메라 설정 및/또는 렌즈의 수차를 보정하기 위한 카메라 설정을 설정하도록 구성될 수 있다.
도 5a 내지 도 5c는, 일 실시예에 따른, 디스플레이에 대하여 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하는 방법을 설명한다.
도 5a 내지 도 5c를 참조하면, 디스플레이(510)에 대하여 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하기 위한 시스템은, 디스플레이(510), 기준 카메라(520), 광원(530), 위치 확인 장치(540), 누름/고정 지그(jig)(550), 안착 지그(570), 3축 스테이지(stage)(580), 고정 지그(560), 및/또는 조정 장치(521)를 포함할 수 있다.
디스플레이(510)는 캘리브레이션의 대상이 되는 디스플레이일 수 있다. 일 실시예에서, 디스플레이(510)(예: 디스플레이(310))는 UDC 기술에 의해 전자 장치(101)에 포함될 디스플레이일 수 있다.
기준 카메라(520)("마스터(master) 카메라"로도 지칭됨)는, 지정된 특성 값을 가지는 카메라일 수 있다.
기준 카메라(520)는, 전자 장치(101)에 장착 가능한 복수의 카메라들(예: 특정 이미지 센서 및 특정 렌즈를 포함하는 복수의 카메라들) 중에서, 상기 복수의 카메라들의 특성 값들의 평균에 대응하는 특성 값을 가지는 카메라일 수 있다. 예를 들어, 기준 카메라는 상기 복수의 카메라들 각각의 화이트 밸런스(white balance) 값들의 평균에 가장 가까운 화이트 밸런스 값을 가지는 카메라일 수 있다. 다만, 이에 제한되지 않는다.
기준 카메라(520)는, 전자 장치(101)에 장착 가능한 복수의 카메라들 중에서, 상기 복수의 카메라들의 특성 값들 중에서 중앙 값을 가지는 카메라일 수 있다.
광원(530)(예: 표준 광원)은 지정된 색 온도(예: 약 5100K(kelvin))를 가진 광원일 수 있다. 약 5100K의 색온도는 대낮 주광(daylight) 환경의 색 온도일 수 있다. 다만, 광원(530)의 색 온도는 약 5100K에 제한되지 않으며, 광원(530)은 다른 색 온도(예: 약 6500K)를 가질 수 있다.
위치 확인 장치(540)는 디스플레이(510)의 UDC 영역(511)과 기준 카메라(520)의 렌즈를 정렬시키기 위한 구성일 수 있다. 위치 확인 장치(540)는, 비전(vision) 카메라 또는 레이저(laser)를 이용한 위치 확인 장치일 수 있다.
안착 지그(570)는 디스플레이(510)가 안착되는 지그일 수 있으며, 3축 스테이지(580)에 의해 이동될 수 있다. 누름/고정 지그(550) 및 고정 지그(560)는, 디스플레이(510)가 안착 지그(570)에 안착된 상태에서, 디스플레이(510)를 고정시키기 위한 구성일 수 있다.
조정 장치(521)는, 기준 카메라(520)로부터, 기준 카메라(520)에서 획득된 광원(530)에 대한 이미지를 획득할 수 있다. 조정 장치(521)는, 획득된 이미지에 기반하여, 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득(예: 생성)할 수 있다. 조정 장치(521)는, 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 디스플레이(510)의 메모리에 저장할 수 있다.
도 5a를 참조하면, 참조 부호 501은 디스플레이(510)를 안착 지그(570)에 안착시키는 단계를 나타낼 수 있다. 예를 들어, 참조 부호 501에 도시된 바와 같이, 디스플레이(510)는 화살표(591)가 지시하는 방향으로 안착 지그(570) 상에 안착될 수 있다.
참조 부호 502는 디스플레이(510)를 고정시키는 단계를 나타낼 수 있다. 예를 들어, 참조 부호 502에 도시된 바와 같이, 디스플레이(510)가 안착 지그(570)에 안착된 상태에서, 누름/고정 지그(550) 및 고정 지그(560)가 화살표들(592, 593, 594)이 지시하는 방향들로 이동됨에 따라, 디스플레이(510)가 안착 지그(570) 상에서 고정될 수 있다.
도 5b를 참조하면, 참조 부호 503은 디스플레이(510)의 UDC 영역(511) 및 기준 카메라(520)를 정렬(align)하는 단계를 나타낼 수 있다. 예를 들어, 참조 부호 503에 도시된 바와 같이, 위치 확인 장치(540)를 화살표(595)가 지시하는 방향으로 이동시키고, 3축 스테이지(580)를 화살표(596)가 지시하는 방향으로 이동시킴으로써, 위치 확인 장치(540)가 기준 카메라(520)의 렌즈의 중심 좌표 및 디스플레이(510)의 UDC 영역(511)의 중심 좌표가 일치하도록, 디스플레이(510)의 UDC 영역(511) 및 기준 카메라(520)를 정렬할 수 있다.
참조 부호 504은 광원(530)에 대한 이미지에 기반하여 디스플레이와 관련된, 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 산출하는 단계를 나타낼 수 있다. 예를 들어, 참조 부호 504에 도시된 바와 같이, 위치 확인 장치(540)를 화살표(597)이 지시하는 방향으로 이동시키고, 광원(530)으로부터 방출된 광이 디스플레이(510)의 UDC 영역(511)을 통과하여 기준 카메라(520)로 유입되도록, 광원(530)을 화살표(598)이 지시하는 방향으로 이동시킬 수 있다.
기준 카메라(520)는, 광원(530)으로부터 방출되어 디스플레이(510)의 UDC 영역(511)을 통과하여 기준 카메라(520)로 유입되는 광을 이용하여, 광원(530)에 대한 이미지를 획득할 수 있다. 기준 카메라(520)는, 획득된 광원(530)에 대한 이미지를, 기준 카메라(520)의 통신 모듈(예: 무선 통신 모듈 또는 유선 통신 모듈)을 통하여, 조정 장치(521)로 전송할 수 있다.
조정 장치(521)는, 광원(530)에 대한 이미지에 기반하여, 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득할 수 있다. 디스플레이(510)와 관련된 이미지 보정을 위한 정보는, 화이트 밸런스(예: red, green, blue (RGB) 비율) 조정을 위한 값, 렌즈 쉐이딩(lens shading)을 조정하기 위한 값, 및/또는 CCM(color correction matrix)를 조정하기 위한 값을 포함할 수 있다. 디스플레이(510)와 관련된 카메라 설정을 위한 정보는, 오토 포커스(auto focus)를 위한 렌즈의 위치와 관련된 카메라 설정 값 및/또는 렌즈의 수차를 보정하기 위한 카메라 설정 값을 포함할 수 있다. 다만, 디스플레이와 관련된 이미지 보정을 위한 값 및 디스플레이와 관련된 카메라 설정을 위한 정보를 전술한 예시들에 제한되지 않는다.
조정 장치(521)가 화이트 밸런스(예: RGB 비율) 조정을 위한 값을 획득하기 위하여, 조정 장치(521)는, 광원(530)에 대한 이미지 내에서, 광원(530)의 이미지 부분의 중심을 기준으로 하는 지정된 영역(예: 광원(530)에 대한 이미지 내에서 광원(530)의 이미지 부분의 중심으로부터 지정된 반경에 해당하는 영역)을 추출할 수 있다. 조정 장치(521)는, 화이트 밸런스(예: RGB 비율) 조정을 위한 값으로서, 상기 지정된 영역의 RGB 비율(예: R/G 및 B/G)을 산출할 수 있다.
조정 장치(521)는, 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를, 조정 장치(521)의 무선 또는 유선 통신 모듈을 통하여, 디스플레이(510)로 전송할 수 있다. 디스플레이(510)는 수신된 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 디스플레이(510)의 메모리에 저장할 수 있다.
전술한 예시에서는, 조정 장치(521)가 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 디스플레이(510)로 전송하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 조정 장치(521)는, 디스플레이(510)의 고유한 식별 정보(예: 디스플레이(510)의 일련 번호)와 함께, 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 서버로 전송할 수 있다. 이러한 경우, 디스플레이(510)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보는 디스플레이(510)의 메모리에 저장되는 것에 추가적으로 또는 메모리에 저장되는 것에 대체하여 서버에 저장될 수 있다.
도 5c를 참조하면, 참조 부호 505는 디스플레이(510)를 다른 디스플레이(510)로 교체하기 위한 단계를 나타낼 수 있다. 예를 들어, 참조 부호 505에 도시된 바와 같이, 기준 카메라(520)가 광원(530)에 대한 이미지를 획득한 후, 디스플레이(510), 광원(530), 고정 지그(560), 누름/고정 지그(550), 및 3축 스테이지(580)를, 화살표들(599)과 같이 이동시킬 수 있다. 디스플레이(510), 광원(530), 고정 지그(560), 누름/고정 지그(550), 및 3축 스테이지(580)를 이동시킨 후, 다른 디스플레이와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하기 위하여, 참조 부호 501 내지 참조 부호 504에 도시된 단계들을 수행할 수 있다.
도 6은, 일 실시예에 따른, 카메라에 대하여 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하는 방법(600)을 설명한다.
도 6을 참조하면, 카메라와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득하기 위한 시스템은, 카메라(610), 조정 장치(521), 및 광원(530)을 포함할 수 있다.
카메라(610)는 캘리브레이션의 대상이 되는 카메라일 수 있다. 카메라(610)는 UDC 기술에 의해 전자 장치(101)에 포함될 카메라일 수 있다.
기준 카메라(610)에 대하여 도 5a 내지 도 5c를 통하여 설명한 바 있으므로, 기준 카메라(610)에 대한 설명은 생략하기로 한다.
광원(530)에 대하여 도 5a 내지 도 5c를 통하여 설명한 바 있으므로, 광원(530)에 대한 설명은 생략하기로 한다.
카메라(610)는 광원(530)에 대한 이미지를 획득할 수 있다. 카메라(610)는, 획득된 광원(530)에 대한 이미지를, 카메라(610)의 무선 또는 유선 통신 모듈을 통하여, 조정 장치(521)로 전송할 수 있다.
조정 장치(521)는, 획득된 광원(530)에 대한 이미지에 기반하여, 카메라와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 획득할 수 있다. 카메라와 관련된 이미지 보정을 위한 정보는, 화이트 밸런스(예: RGB 비율) 조정을 위한 값, 렌즈 쉐이딩(lens shading)을 조정하기 위한 값, 및/또는 CCM(color correction matrix)를 조정하기 위한 값을 포함할 수 있다. 카메라와 관련된 카메라 설정을 위한 정보는, 오토 포커스(auto focus)를 위한 렌즈의 위치와 관련된 카메라 설정 값(예: 오토 포커스를 위하여 피사체 및 카메라 간 거리에 따라 다르게 설정되는 렌즈의 위치에 대한 정보) 및/또는 렌즈의 수차를 보정하기 위한 카메라 설정 값을 포함할 수 있다. 다만, 카메라와 관련된 이미지 보정을 위한 값 및 카메라와 관련된 카메라 설정을 위한 정보를 전술한 예시들에 제한되지 않는다.
조정 장치(521)가 화이트 밸런스(예: RGB 비율) 조정을 위한 값을 획득하기 위하여, 조정 장치(521)는, 광원(530)에 대한 이미지 내에서, 광원(530)의 이미지 부분의 중심을 기준으로 하는 지정된 영역(예: 광원(530)에 대한 이미지 내에서 광원(530)의 이미지 부분의 중심으로부터 지정된 반경에 해당하는 영역)을 추출할 수 있다. 조정 장치(521)는, 화이트 밸런스(예: RGB 비율) 조정을 위한 값으로서, 상기 지정된 영역의 RGB 비율(예: R/G 및 B/G)을 산출할 수 있다.
조정 장치(521)는, 카메라와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를, 조정 장치(521)의 무선 또는 유선 통신 모듈을 통하여, 카메라(610)로 전송할 수 있다. 카메라(610)는 수신된 카메라와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 카메라(610)의 메모리에 저장할 수 있다.
전술한 예시에서는, 조정 장치(521)가 카메라와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 카메라로 전송하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 조정 장치(521)는, 카메라(610)의 고유한 식별 정보(예: 카메라(610)의 일련 번호)와 함께, 카메라와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보를 서버로 전송할 수 있다. 이러한 경우, 카메라(610)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보는 카메라(610)의 메모리에 저장되는 것에 추가적으로 또는 메모리에 저장되는 것에 대체하여 서버에 저장될 수 있다.
카메라(610)의 메모리에, 기준 카메라(520)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보가 저장될 수 있다. 예를 들어, 특정 이미지 센서 및 특정 렌즈를 포함하는 복수의 카메라들 중에서 기준 카메라(520)가 선정되면, 복수의 카메라들 각각의 메모리에 기준 카메라(520)와 관련된 이미지 보정을 위한 정보 및 카메라 설정을 위한 정보가 저장될 수 있다. 다만, 이에 제한되지 않는다.
도 7은, 일 실시예에 따른, 이미지를 보정하는 방법(700)을 설명한다.
도 7을 참조하면, 동작 701에서, 프로세서(340), 카메라(320)를 통하여 이미지를 획득할 수 있다. 예를 들어, 디스플레이(310) 및 디스플레이(310)를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라(320)가 전자 장치(101)에 장착된 상태에서, 프로세서(340)는, 카메라(320)를 통하여 이미지를 획득할 수 있다.
동작 703에서, 프로세서(340)는, 디스플레이(310)에 대응하고 이미지를 보정하기 위한 제 1 조정 값(이하 "제 1 조정 값"으로 지칭함)을 획득할 수 있다. 예를 들어, 프로세서(340)는, 도 5a 내지 도 5c의 단계들을 통하여 획득된 디스플레이와 관련된 이미지를 보정하기 위한 정보를 제 1 조정 값으로서 획득할 수 있다.
프로세서(340)는, 디스플레이(310)의 메모리로부터, 제 1 조정 값을 획득할 수 있다. 다만, 이에 제한되지 않으며, 프로세서(340)는, 서버로부터 제 1 조정 값을 획득할 수 있다. 예를 들어, 프로세서(340)는 디스플레이(310)의 고유한 식별 정보를 확인할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로, 디스플레이(310)의 고유한 식별 정보에 대응하는 제 1 조정 값을 요청할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로부터, 디스플레이(310)의 고유한 식별 정보에 대응하는 제 1 조정 값을 수신함으로써, 제 1 조정 값을 획득할 수 있다.
동작 705에서, 프로세서(340)는, 카메라(320)에 대응하고 이미지를 보정하기 위한 제 2 조정 값(이하 "제 2 조정 값"으로 지칭함)을 획득할 수 있다. 예를 들어, 프로세서(340)는, 도 6의 예시들을 통하여 획득된 카메라와 관련된 이미지를 보정하기 위한 정보를 제 2 조정 값으로서 획득할 수 있다. 다만, 이에 제한되지 않는다. 프로세서(340)는, 서버로부터 제 2 조정 값을 획득할 수 있다. 예를 들어, 프로세서(340)는 카메라(320)의 고유한 식별 정보를 확인할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로, 카메라(320)의 고유한 식별 정보에 대응하는 제 2 조정 값을 요청할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로부터, 카메라(320)의 고유한 식별 정보에 대응하는 제 2 조정 값을 수신함으로써, 제 2 조정 값을 획득할 수 있다.
도 7에서는, 동작 703의 제 1 조정 값을 획득하는 동작이 동작 705의 제 2 조정 값을 획득하는 동작보다 먼저 수행하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 동작 705의 제 2 조정 값을 획득하는 동작이 동작 703의 제 1 조정 값을 획득하는 동작보다 먼저 수행되거나 동시에(예: 병렬적으로) 수행될 수 있다.
동작 707에서, 프로세서(340)는, 제 1 조정 값 및 제 2 조정 값에 기반하여, 이미지를 보정할 수 있다. 예를 들어, 프로세서(340)는, 제 1 조정 값 및 제 2 조정 값에 기반하여, 이미지의 화이트 밸런스(예: RGB 비율), 렌즈 쉐이딩, CCM(color correction matrix)를 조정함으로써, 이미지를 보정할 수 있다.
아래 [표 1]은, 프로세서(340)가 제 1 조정 값 및 제 2 조정 값에 기반하여, 이미지의 화이트 밸런스를 조정하기 위한 방법을 예시한다.
RGB 비율
기준 카메라의 RGB 비율 1 1 1
제 1 조정 값 0.7 1 0.4
제 2 조정 값 0.98 1 1.01
기준 카메라 및 카메라의 RGB 비율 차이 0.02 0 -0.01
기준 카메라의 RGB 비율 및 제 1 조정 값 간 차이 0.3 0 0.6
[표 1]에서, 기준 카메라(520)의 RGB 비율은, 기준 카메라(520)가 광원(예: 5100K의 색 온도를 가지는 광원)에 대한 이미지를 획득한 경우, 획득된 광원에 대한 이미지(예: 광원에 대한 이미지 내에서 광원의 이미지 부분의 중심으로부터 지정된 반경에 해당하는 영역)로부터 산출된 RGB 비율일 수 있다.
[표 1]에서, 제 1 조정 값은, 도 5b와 함께 전술한 참조 부호 504에서, 광원으로 방출된 후 디스플레이(310)를 통과하여 기준 카메라(520)로 유입되는 광을 이용하여 획득된, 광원에 대한 이미지로부터 산출된 RGB 비율일 수 있다.
[표 1]에서, 제 2 조정 값은, 전술한 도 6 에서, 카메라가 광원에 대한 이미지를 획득한 경우, 획득된 광원에 대한 이미지로부터 산출된 RGB 비율일 수 있다.
[표 1]에서, 기준 카메라(520) 및 카메라(320)의 RGB 비율 차이는, [표 1]의 기준 카메라(520)의 RGB 비율 및 제 2 조정 값 간 차이일 수 있다.
프로세서(340)는, 기준 카메라(520)의 RGB 비율, 기준 카메라(520) 및 제 2 조정 값(카메라(320)의 RGB 비율) 간 차이, 및 기준 카메라(520)의 RGB 비율 및 제 1 조정 값 간 차이에 기반하여, 이미지의 화이트 밸런스를 조정할 수 있다. 예를 들어, [표 1]과 같이, 기준 카메라(520)의 RGB 비율이 (1, 1, 1)(예: 기준 카메라(520)의 RGB 비율이 1:1:1인 경우)이고, 제 1 조정 값이 (0.7, 1, 0.4)이고, 제 2 조정 값이 (0.98, 1, 1.01)인 경우, 기준 카메라(520) 및 제 2 조정 값 간 차이는 (0.02, 0, -0.01)이고, 기준 카메라(520) 및 제 1 조정 값 간 차이는 (0.3, 0, 0.6)일 수 있다. 프로세서(340)는, 이미지의 R/G를 조정하기 위한 게인(1/(1-(0.3+0.02)) 및 이미지의 B/G를 조정하기 위한 게인(1/(1-(0.6-0.01))을 산출할 수 있다. 프로세서(340)는, 카메라(320)를 통하여 5100K의 색 온도를 가지는 이미지가 획득된 경우, 획득된 이미지의 RGB 비율이 기준 카메라(520)의 RGB 비율(예: 1:1:1의 RGB 비율)이 되도록, 획득된 이미지의 R/G에 R/G를 조정하기 위한 게인(예: 1/(1-(0.3+0.02))을 곱하고, 획득된 이미지의 B/G에 B/G를 조정하기 위한 게인(예: 1/(1-(0.6-0.01))을 곱함으로써, 이미지의 화이트 밸런스를 조정할 수 있다. 다만, 프로세서(340)가 제 1 조정 값 및 제 2 조정 값에 기반하여 이미지를 보정하는 예시는 전술한 예시에 제한되지 않는다. 프로세서(340)는, 이미지의 화이트 밸런스를 조정하는 예시와 유사하게, 이미지의 렌즈 쉐이딩 및/또는 CCM(color correction matrix)를 조정함으로써, 이미지를 보정할 수 있다.
도 8은, 일 실시예에 따른, 카메라 설정을 설정하는 방법(800)을 설명한다.
도 8을 참조하면, 동작 801에서, 프로세서(340)는, 디스플레이(310)에 대응하고 카메라 설정을 설정하기 위한 제 3 조정 값(이하, "제 3 조정 값"으로 지칭됨)을 획득할 수 있다. 예를 들어, 프로세서(340)는, 도 5a 내지 도 5c의 단계들을 통하여 획득된 디스플레이(310)와 관련된 카메라 설정을 위한 정보를 제 3 조정 값으로서 획득할 수 있다.
프로세서(340)는, 디스플레이(310)의 메모리로부터, 제 3 조정 값을 획득할 수 있다. 다만, 이에 제한되지 않으며, 프로세서(340)는, 서버로부터 제 3 조정 값을 획득할 수 있다. 예를 들어, 프로세서(340)는 디스플레이(310)의 고유한 식별 정보를 확인할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로, 디스플레이(310)의 고유한 식별 정보에 대응하는 제 3 조정 값을 요청할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로부터, 디스플레이(310)의 고유한 식별 정보에 대응하는 제 3 조정 값을 수신함으로써, 제 3 조정 값을 획득할 수 있다.
동작 803에서, 프로세서(340)는, 카메라(320)에 대응하고 카메라 설정을 조정하기 위한 제 4 조정 값(이하 '제 4 조정 값'으로 지칭함)을 획득할 수 있다. 예를 들어, 프로세서(340)는, 도 6의 예시들을 통하여 획득된 카메라와 관련된 카메라 설정을 설정하기 위한 정보를 제 4 조정 값으로서 획득할 수 있다. 다만, 이에 제한되지 않으며, 프로세서(340)는, 서버로부터 제 4 조정 값을 획득할 수 있다. 예를 들어, 프로세서(340)는 카메라(320)의 고유한 식별 정보를 확인할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로, 카메라의 고유한 식별 정보에 대응하는 제 4 조정 값을 요청할 수 있다. 프로세서(340)는, 통신 모듈(180)을 통하여, 서버로부터, 카메라의 고유한 식별 정보에 대응하는 제 4 조정 값을 수신함으로써, 제 4 조정 값을 획득할 수 있다.
도 8에서는, 동작 801의 제 3 조정 값을 획득하는 동작이 동작 803의 제 4 조정 값을 획득하는 동작보다 먼저 수행하는 것으로 예시하고 있지만, 이에 제한되지 않는다. 예를 들어, 동작 803의 제 4 조정 값을 획득하는 동작이 동작 801의 제 3 조정 값을 획득하는 동작보다 먼저 수행되거나 동시에(예: 병렬적으로) 수행될 수 있다.
도 8의 동작은 카메라 어플리케이션이 실행된 것에 응답하여, 수행될 수 있다. 예를 들어, 프로세서(340)는, 사용자로부터 카메라 어플리케이션을 실행하는 입력을 수신한 것에 응답하여, 동작 801 및/또는 동작 803을 수행할 수 있다.
동작 805에서, 프로세서(340)는, 제 3 조정 값 및 제 4 조정 값에 기반하여 설정된 카메라 설정에 기반하여, 이미지를 획득할 수 있다.
프로세서(340)는, 제 3 조정 값 및 제 4 조정 값에 기반하여, 카메라(320)의 설정을 조정할 수 있다. 예를 들어, 프로세서(340)는, 제 3 조정 값 및 제 4 조정 값에 기반하여, 오토 포커스(auto focus)를 위한 렌즈의 위치와 관련된 카메라 설정 값 및/또는 렌즈의 수차를 보정하기 위한 카메라 설정 값을 조정할 수 있다.
프로세서(340)는, 카메라 설정이 설정된 후, 설정된 카메라 설정에 기반하여, 카메라(320)를 통하여 이미지를 획득할 수 있다.
프로세서(340)가 카메라(320)를 통하여 이미지를 획득한 후, 프로세서(340)는, 도 7의 동작 703 내지 동작 707을 수행할 수 있다.
일 실시예에 따른 전자 장치에서 이미지를 제공하는 방법은, 상기 전자 장치의 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라를 통하여 상기 이미지를 획득하는 동작, 상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하는 동작, 상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하는 동작, 및 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하는 동작을 포함할 수 있다.
상기 제 1 조정 값을 획득하는 동작은 상기 디스플레이의 메모리로부터 상기 제 1 조정 값을 획득하는 동작을 포함하고, 및 상기 제 2 조정 값을 획득하는 동작은 상기 카메라의 메모리로부터 상기 제 2 조정 값을 획득하는 동작을 포함할 수 있다.
상기 제 1 조정 값을 획득하는 동작 및 상기 제 2 조정 값을 획득하는 동작은, 상기 전자 장치의 통신 모듈을 통하여, 서버로부터, 상기 제 1 조정 값 및 상기 제 2 조정 값을 획득하는 동작을 포함할 수 있다.
상기 이미지를 보정하는 동작은, 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지의 화이트 밸런스(white balance), 렌즈 쉐이딩(lens shading), 또는 CCM(color correction matrix) 중 적어도 하나를 조정함으로써, 상기 이미지를 보정하는 동작을 포함할 수 있다.
상기 제 1 조정 값은, 상기 디스플레이가 상기 전자 장치에 장착되기 전, 기준 카메라가 광원으로부터 방출되어 상기 디스플레이를 통과하여 유입되는 광을 이용하여 획득한 이미지에 기반하여, 획득될 수 있다.
상기 기준 카메라는, 상기 전자 장치에 장착 가능한 복수의 카메라들 중에서, 상기 복수의 카메라들의 특성 값들의 평균에 대응하는 특성 값 또는 상기 복수의 카메라들의 특성 값들 중에서 중앙 값을 가지는 카메라일 수 있다.
상기 제 2 조정 값은, 상기 카메라가 상기 전자 장치에 장착되기 전, 상기 광원으로 방출된 광을 이용하여 상기 카메라에 의해 획득된 이미지에 기반하여, 획득될 수 있다.
상기 제 1 조정 값은 상기 기준 카메라와 통신 연결된 조정 장치에서 상기 기준 카메라에 의해 획득된 이미지에 기반하여 획득되고, 및 상기 제 2 조정 값은 상기 카메라와 통신 연결된 상기 조정 장치에서 상기 카메라에 의해 획득된 이미지에 기반하여 획득될 수 있다.
상기 방법은, 상기 디스플레이에 대응하고 카메라 설정을 조정하기 위한 제 3 조정 값을 획득하는 동작, 상기 카메라에 대응하고 상기 카메라 설정을 조정하기 위한 제 4 조정 값을 획득하는 동작, 및 상기 제 3 조정 값 및 상기 제 4 조정 값에 기반하여, 상기 카메라 설정을 설정하는 동작을 더 포함할 수 있다.
상기 카메라 설정을 설정하는 동작은, 상기 제 3 조정 값 및 상기 제 4 조정 값에 기반하여, 오토 포커스를 위한 렌즈의 위치와 관련된 카메라 설정 및/또는 렌즈의 수차를 보정하기 위한 카메라 설정을 설정하는 동작을 포함할 수 있다.
또한, 상술한 실시예에서 사용된 데이터의 구조는 컴퓨터로 읽을 수 있는 기록매체에 여러 수단을 통하여 기록될 수 있다. 상기 컴퓨터로 읽을 수 있는 기록매체는 마그네틱 저장매체(예를 들면, 롬, 플로피 디스크, 하드 디스크 등), 광학적 판독 매체(예를 들면, CD-ROM, DVD 등)와 같은 저장매체를 포함한다.
본 개시가 그의 특정 실시양태를 참조하여 도시되고 설명되었지만, 본 개시내용의 범위를 벗어나지 않고 형태 및 세부사항의 다양한 변경이 이루어질 수 있다는 것이 당업자에 의해 이해될 것이다. 따라서, 본 개시의 범위는 실시예에 한정되는 것으로 정의되어서는 안 되며, 첨부된 특허청구범위 및 그 균등물에 의해 정의되어야 한다.

Claims (15)

  1. 전자 장치에 있어서,
    디스플레이;
    상기 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라; 및
    상기 디스플레이 및 상기 카메라와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고,
    상기 적어도 하나의 프로세서는,
    상기 카메라를 통하여 상기 이미지를 획득하고,
    상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하고,
    상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하고, 및
    상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하도록 구성된 전자 장치.
  2. 제 1 항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 디스플레이의 메모리로부터 상기 제 1 조정 값을 획득하고, 및
    상기 카메라의 메모리로부터 상기 제 2 조정 값을 획득하도록 구성된 전자 장치.
  3. 제 1 항에 있어서,
    통신 모듈을 더 포함하고,
    상기 적어도 하나의 프로세서는,
    상기 통신 모듈을 통하여, 서버로부터, 상기 제 1 조정 값 및 상기 제 2 조정 값을 획득하도록 구성된 전자 장치.
  4. 제 1 항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지의 화이트 밸런스(white balance), 렌즈 쉐이딩(lens shading), 또는 CCM(color correction matrix) 중 적어도 하나를 조정함으로써, 상기 이미지를 보정하도록 구성된 전자 장치.
  5. 제 1 항에 있어서,
    상기 제 1 조정 값은, 상기 디스플레이가 상기 전자 장치에 장착되기 전, 기준 카메라가 광원으로부터 방출되어 상기 디스플레이를 통과하여 유입되는 광을 이용하여 획득한 이미지에 기반하여, 획득되는 전자 장치.
  6. 제 5 항에 있어서,
    상기 기준 카메라는, 상기 전자 장치에 장착 가능한 복수의 카메라들 중에서, 상기 복수의 카메라들의 특성 값들의 평균에 대응하는 특성 값 또는 상기 복수의 카메라들의 특성 값들 중에서 중앙 값을 가지는 카메라인 전자 장치.
  7. 제 5 항에 있어서,
    상기 제 2 조정 값은, 상기 카메라가 상기 전자 장치에 장착되기 전, 상기 광원으로 방출된 광을 이용하여 상기 카메라에 의해 획득된 이미지에 기반하여, 획득되는 전자 장치.
  8. 제 7 항에 있어서,
    상기 제 1 조정 값은 상기 기준 카메라와 통신 연결된 조정 장치에서 상기 기준 카메라에 의해 획득된 이미지에 기반하여 획득되고, 및
    상기 제 2 조정 값은 상기 카메라와 통신 연결된 상기 조정 장치에서 상기 카메라에 의해 획득된 이미지에 기반하여 획득되는 전자 장치.
  9. 제 8 항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 디스플레이에 대응하고 카메라 설정을 조정하기 위한 제 3 조정 값을 획득하고,
    상기 카메라에 대응하고 상기 카메라 설정을 조정하기 위한 제 4 조정 값을 획득하고, 및
    상기 제 3 조정 값 및 상기 제 4 조정 값에 기반하여, 상기 카메라 설정을 설정하도록 구성된 전자 장치.
  10. 제 9 항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 제 3 조정 값 및 상기 제 4 조정 값에 기반하여, 오토 포커스(auto focus)를 위한 렌즈의 위치와 관련된 카메라 설정 및/또는 렌즈의 수차를 보정하기 위한 카메라 설정을 설정하도록 구성된 전자 장치.
  11. 전자 장치에서 이미지를 제공하는 방법에 있어서,
    상기 전자 장치의 디스플레이를 통과하여 유입되는 광을 이용하여 이미지를 획득하는 카메라를 통하여 상기 이미지를 획득하는 동작;
    상기 디스플레이에 대응하고 상기 이미지를 보정하기 위한 제 1 조정 값을 획득하는 동작;
    상기 카메라에 대응하고 상기 이미지를 보정하기 위한 제 2 조정 값을 획득하는 동작; 및
    상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지를 보정하는 동작을 포함하는 방법.
  12. 제 11 항에 있어서,
    상기 제 1 조정 값을 획득하는 동작은 상기 디스플레이의 메모리로부터 상기 제 1 조정 값을 획득하는 동작을 포함하고, 및
    상기 제 2 조정 값을 획득하는 동작은 상기 카메라의 메모리로부터 상기 제 2 조정 값을 획득하는 동작을 포함하는 방법.
  13. 제 11 항에 있어서,
    상기 제 1 조정 값을 획득하는 동작 및 상기 제 2 조정 값을 획득하는 동작은,
    상기 전자 장치의 통신 모듈을 통하여, 서버로부터, 상기 제 1 조정 값 및 상기 제 2 조정 값을 획득하는 동작을 포함하는 방법.
  14. 제 11 항에 있어서,
    상기 이미지를 보정하는 동작은, 상기 제 1 조정 값 및 상기 제 2 조정 값에 기반하여, 상기 이미지의 화이트 밸런스(white balance), 렌즈 쉐이딩(lens shading), 또는 CCM(color correction matrix) 중 적어도 하나를 조정함으로써, 상기 이미지를 보정하는 동작을 포함하는 방법.
  15. 제 11 항에 있어서,
    상기 제 1 조정 값은, 상기 디스플레이가 상기 전자 장치에 장착되기 전, 기준 카메라가 광원으로부터 방출되어 상기 디스플레이를 통과하여 유입되는 광을 이용하여 획득한 이미지에 기반하여, 획득되는 방법.
PCT/KR2022/012543 2021-08-23 2022-08-22 이미지를 제공하는 방법 및 이를 지원하는 전자 장치 WO2023027465A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202280054652.6A CN117813834A (zh) 2021-08-23 2022-08-22 用于提供图像的方法和支持该方法的电子设备
US17/893,604 US12081861B2 (en) 2021-08-23 2022-08-23 Method for providing image and electronic device supporting the same

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210110863A KR20230028953A (ko) 2021-08-23 2021-08-23 이미지를 제공하는 방법 및 이를 지원하는 전자 장치
KR10-2021-0110863 2021-08-23

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/893,604 Continuation US12081861B2 (en) 2021-08-23 2022-08-23 Method for providing image and electronic device supporting the same

Publications (1)

Publication Number Publication Date
WO2023027465A1 true WO2023027465A1 (ko) 2023-03-02

Family

ID=85323329

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/012543 WO2023027465A1 (ko) 2021-08-23 2022-08-22 이미지를 제공하는 방법 및 이를 지원하는 전자 장치

Country Status (4)

Country Link
US (1) US12081861B2 (ko)
KR (1) KR20230028953A (ko)
CN (1) CN117813834A (ko)
WO (1) WO2023027465A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070042508A (ko) * 2004-06-17 2007-04-23 소프트컬러 오와이 카메라, 또는 디스플레이 장치를 색 보정하고, 디지털이미지의 색 결함을 교정하기 위한 방법 및 장치
KR20200060118A (ko) * 2018-11-22 2020-05-29 삼성전자주식회사 디스플레이 내에 카메라 모듈이 포함된 전자 장치 및 상기 카메라 모듈 주변의 이미지를 보정하는 방법
CN113014747A (zh) * 2019-12-18 2021-06-22 中移物联网有限公司 屏下摄像头模组、图像处理方法及终端
CN213879945U (zh) * 2020-11-03 2021-08-03 奥比中光科技集团股份有限公司 一种屏下成像系统及电子设备
KR20210099822A (ko) * 2020-02-05 2021-08-13 삼성전자주식회사 이미지 센서를 포함하는 전자 장치

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS569712A (en) * 1979-07-06 1981-01-31 Olympus Optical Co Ltd Visual field direction changing optical system for slender image transmission system
US4622954A (en) * 1984-05-15 1986-11-18 Fuji Photo Optical Co., Ltd. Endoscope having a plate-like image sensor for forming images
US4905082A (en) * 1987-05-06 1990-02-27 Olympus Optical Co., Ltd. Rigid video endoscope having a detachable imaging unit
US5557454A (en) * 1992-12-25 1996-09-17 Olympus Optical Co., Ltd. Stereoscopic endoscope
DE69435333D1 (de) * 1993-04-21 2011-03-24 Omron Tateisi Electronics Co Vorrichtung zur visuellen kontrolle von platinen und deren verwendung zur kontrolle und korrektur von lötungen
US6025873A (en) * 1994-04-07 2000-02-15 Olympus Optical Co., Ltd. Endoscope system provided with low-pass filter for moire removal
US6157396A (en) * 1999-02-16 2000-12-05 Pixonics Llc System and method for using bitstream information to process images for use in digital display systems
US6340994B1 (en) * 1998-08-12 2002-01-22 Pixonics, Llc System and method for using temporal gamma and reverse super-resolution to process images for use in digital display systems
JP2000231060A (ja) * 1999-02-12 2000-08-22 Olympus Optical Co Ltd 結像光学系
JP2001083400A (ja) * 1999-09-08 2001-03-30 Olympus Optical Co Ltd 撮像光学系
US20050197533A1 (en) * 2000-03-16 2005-09-08 Medivision, Inc. Endoscope and camera mount
FR2832516B1 (fr) * 2001-11-19 2004-01-23 Tokendo Sarl Endoscopes rotatifs a visee distale deviee
FR2861185B1 (fr) * 2003-10-16 2005-12-30 Snecma Moteurs Endoscope a eclairage ultraviolet
US7404645B2 (en) * 2005-06-20 2008-07-29 Digital Display Innovations, Llc Image and light source modulation for a digital display system
DE102008024789A1 (de) * 2008-05-21 2009-12-03 Richard Wolf Gmbh Stereo-Endoskop
US9192286B2 (en) * 2010-03-12 2015-11-24 Viking Systems, Inc. Stereoscopic visualization system
WO2011122283A1 (ja) * 2010-03-31 2011-10-06 キヤノン株式会社 画像処理装置、およびそれを用いた撮像装置
US8994714B2 (en) 2010-09-23 2015-03-31 Dolby Laboratories Licensing Corporation Method and system for display calibration with feedback determined by a camera device
JP5973297B2 (ja) * 2012-09-12 2016-08-23 本田技研工業株式会社 ボアスコープ
WO2015015949A1 (ja) * 2013-08-01 2015-02-05 富士フイルム株式会社 撮像装置、撮像方法及び画像処理装置
JP5992634B2 (ja) * 2013-10-31 2016-09-14 富士フイルム株式会社 信号処理装置、撮像装置、パラメータ生成方法、信号処理方法及びプログラム
US20160070414A1 (en) 2014-09-05 2016-03-10 Apple Inc. Electronic Devices With Replaceable Subassemblies
US20160357007A1 (en) * 2015-05-05 2016-12-08 Eric Swanson Fixed distal optics endoscope employing multicore fiber
US10708574B2 (en) * 2017-06-15 2020-07-07 Align Technology, Inc. Three dimensional imaging apparatus with color sensor
CN111381414B (zh) 2018-12-29 2021-11-30 武汉华星光电半导体显示技术有限公司 一种oled屏下摄像头的光补偿方法及装置
CN109979382B (zh) 2019-04-23 2021-02-23 清华大学 基于屏幕透射光谱的屏幕下成像系统色彩校正方法及系统
KR20210017269A (ko) 2019-08-07 2021-02-17 삼성전자주식회사 보정 데이터의 획득을 위한 방법 및 이를 위한 전자 장치
CN112004077B (zh) 2020-08-17 2022-06-07 Oppo（重庆）智能科技有限公司 屏下摄像头的校准方法、装置、存储介质与电子设备
KR20220029310A (ko) 2020-08-31 2022-03-08 삼성전자주식회사 이미지 센서, 이미지 센서를 포함하는 이미지 획득 장치 및 그것의 동작 방법
WO2022202616A1 (ja) * 2021-03-24 2022-09-29 株式会社村田製作所 弾性波装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070042508A (ko) * 2004-06-17 2007-04-23 소프트컬러 오와이 카메라, 또는 디스플레이 장치를 색 보정하고, 디지털이미지의 색 결함을 교정하기 위한 방법 및 장치
KR20200060118A (ko) * 2018-11-22 2020-05-29 삼성전자주식회사 디스플레이 내에 카메라 모듈이 포함된 전자 장치 및 상기 카메라 모듈 주변의 이미지를 보정하는 방법
CN113014747A (zh) * 2019-12-18 2021-06-22 中移物联网有限公司 屏下摄像头模组、图像处理方法及终端
KR20210099822A (ko) * 2020-02-05 2021-08-13 삼성전자주식회사 이미지 센서를 포함하는 전자 장치
CN213879945U (zh) * 2020-11-03 2021-08-03 奥比中光科技集团股份有限公司 一种屏下成像系统及电子设备

Also Published As

Publication number Publication date
US12081861B2 (en) 2024-09-03
CN117813834A (zh) 2024-04-02
KR20230028953A (ko) 2023-03-03
US20230070184A1 (en) 2023-03-09

Similar Documents

Publication Publication Date Title
WO2022149654A1 (ko) 흔들림 보정을 수행하는 전자 장치 및 그 동작 방법
WO2022250342A1 (ko) 렌즈 구동 정보와 이미지를 동기화하는 전자 장치
WO2022119372A1 (ko) 영상 처리를 수행하는 전자 장치 및 그 동작 방법
WO2022225344A1 (ko) 이미지 스태빌라이저 및 이를 포함하는 전자 장치
WO2022244970A1 (ko) 전자 장치의 촬영 방법 및 그 전자 장치
WO2022220444A1 (ko) 카메라 촬영 시 스캔하는 방법 및 그 전자 장치
WO2022119218A1 (ko) 카메라의 흔들림을 보정하는 방법 및 그 전자 장치
WO2023027465A1 (ko) 이미지를 제공하는 방법 및 이를 지원하는 전자 장치
WO2021251631A1 (ko) 초점 조절 기능을 포함하는 전자 장치 및 방법
WO2023234705A1 (ko) 이미지 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022240122A1 (ko) 카메라를 포함하는 전자 장치
WO2023018262A1 (ko) 이미지를 제공하기 위한 방법 및 이를 지원하는 전자 장치
WO2022220590A1 (ko) 영상을 처리하는 방법 및 이를 수행하는 전자 장치
WO2023043132A1 (ko) 이미지에 보케 효과를 적용하는 전자 장치 및 그 동작 방법
WO2023153743A1 (ko) 전자 장치 및 이의 동작 방법
WO2022245148A1 (ko) 이미지 처리 방법 및 그 전자 장치
WO2024085673A1 (ko) 다중 노출 영상을 획득하는 전자 장치 및 그 동작 방법
WO2023149668A1 (ko) 카메라 어셈블리 및 이를 포함하는 전자 장치
WO2022240183A1 (ko) 이미지 데이터와 모션 데이터를 포함하는 파일을 생성하는 방법 및 그 전자 장치
WO2023080495A1 (ko) 하이 다이나믹 레인지 이미지들을 촬영하는 전자 장치와 이의 동작 방법
WO2023171952A1 (ko) 카메라 모듈 및 이를 포함하는 전자 장치
WO2024106746A1 (ko) 디지털 보케 이미지의 해상도를 높이기 위한 전자 장치 및 방법
WO2024085487A1 (ko) 카메라의 설정을 변경하기 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2022240186A1 (ko) 이미지 왜곡을 보정하는 방법 및 그 전자 장치
WO2023075112A1 (ko) 촬영 시 흔들림을 보정하는 방법 및 그 전자 장치

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 202280054652.6

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22861674

Country of ref document: EP

Kind code of ref document: A1