WO2022196916A1 - 사용자 인증을 위한 방법, 장치 및 저장 매체 - Google Patents

사용자 인증을 위한 방법, 장치 및 저장 매체 Download PDF

Info

Publication number
WO2022196916A1
WO2022196916A1 PCT/KR2022/000702 KR2022000702W WO2022196916A1 WO 2022196916 A1 WO2022196916 A1 WO 2022196916A1 KR 2022000702 W KR2022000702 W KR 2022000702W WO 2022196916 A1 WO2022196916 A1 WO 2022196916A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
image
electronic device
user
camera
Prior art date
Application number
PCT/KR2022/000702
Other languages
English (en)
French (fr)
Inventor
전진욱
프루신스키발레리
김성오
여형석
이기혁
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Publication of WO2022196916A1 publication Critical patent/WO2022196916A1/ko
Priority to US18/467,169 priority Critical patent/US20240004980A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/45—Structures or tools for the administration of authentication
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/70—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer
    • G06F21/78—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure storage of data
    • G06F21/79—Protecting specific internal or peripheral components, in which the protection of a component leads to protection of the entire computer to assure secure storage of data in semiconductor storage media, e.g. directly-addressable memories
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G06V10/12—Details of acquisition arrangements; Constructional details thereof
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/40—Extraction of image or video features
    • G06V10/60—Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18—Eye characteristics, e.g. of the iris
    • G06V40/193—Preprocessing; Feature extraction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/40—Spoof detection, e.g. liveness detection
    • G06V40/45—Detection of the body part being alive
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/50—Maintenance of biometric data or enrolment thereof

Definitions

  • Various embodiments relate to a method, apparatus and storage medium for user authentication.
  • a camera may be disposed in front of an electronic device having a display in order to provide a function of taking a selfie or a video call.
  • the camera which was placed on the top of the front of the electronic device, is evolving to be placed under the display in order to increase screen size efficiency and a visual immersion experience.
  • an under display camera capable of maximizing an immersive experience by disposing a camera under a display so that the camera is not visible in an electronic device has been proposed.
  • the UDC may be visible on the display screen when running, and not visible on the display screen when not running, thereby enabling the realization of a full display.
  • the transparent area of the display that may be disposed at a position corresponding to the UDC may include pixels configured to use a passive matrix driving method. Due to these structural features, it may be difficult for an electronic device including a UDC to acquire a high-quality image.
  • a plurality of devices for display may be disposed on the upper portion of the UDC, so that the upper portion of the UDC may be disposed. It can act as a direct interference in the light path of Therefore, the image collected by UDC may have to go through a post-processing process for image improvement due to various interference factors.
  • OLED organic light-emitting diode
  • TFT thin film transistor
  • the quality of images collected through UDC is unavoidable, and various functions related to images, such as user face authentication or preview, are unavoidable.
  • the functional reliability of the mode may be lowered.
  • deterioration of image quality collected by the UDC in the electronic device may be reduced and reliability of user face authentication may be increased.
  • an electronic device may include a memory; display; a plurality of cameras disposed under the display; and at least one processor operatively coupled to the memory, the display, and the plurality of cameras, wherein the at least one processor controls a plurality of pixel regions of the display corresponding to the plurality of cameras. while acquiring a plurality of images of the user through the plurality of cameras, obtaining a final image based on at least one of the plurality of acquired images, and obtaining a final image of the user based on the final image. It can be set to perform authentication.
  • the plurality of cameras in a method of performing user authentication in an electronic device, while controlling a plurality of pixel areas of the display corresponding to a plurality of cameras disposed under the display, the plurality of cameras obtaining a plurality of images of the user; acquiring a final image based on at least one of the plurality of acquired images; and performing authentication for the user based on the final image.
  • the instructions are configured to cause the at least one processor to perform at least one operation when executed by the at least one processor, wherein the at least one The operation may include: acquiring a plurality of images of a user through the plurality of cameras while controlling a plurality of pixel regions of the display corresponding to the plurality of cameras disposed under the display; acquiring a final image based on at least one of the plurality of acquired images; and performing authentication for the user based on the final image.
  • the image quality of the image collected by the UDC may be improved, and the reliability of the user's face authentication may be increased.
  • biometric authentication may be possible.
  • an image whose brightness is adjusted may be obtained by using pixels disposed on top of the other UDC as a point light source.
  • FIG. 1 is a block diagram of an electronic device in a network environment according to various embodiments of the present disclosure
  • FIG. 2 is a block diagram illustrating a camera module according to various embodiments.
  • FIG. 3 is a block diagram of an electronic device according to various embodiments of the present disclosure.
  • FIG. 4 is a diagram illustrating a camera and upper display pixels of the camera according to various embodiments of the present disclosure
  • FIG. 5 is a diagram for describing an operation of acquiring an image using a plurality of cameras according to various embodiments of the present disclosure
  • FIG. 6 is a diagram for describing a biometric authentication operation according to various embodiments.
  • FIG. 7 is a view illustrating a change in a pupil size according to a change in the amount of light according to various embodiments of the present disclosure
  • FIG. 8 is a diagram for describing an operation of releasing a lock mode in an electronic device according to various embodiments of the present disclosure
  • FIG. 9 is a diagram for explaining an operation of providing a preview image in an electronic device according to various embodiments of the present disclosure.
  • FIG. 10 is a flowchart illustrating an example of a method for performing user authentication according to various embodiments of the present disclosure
  • 11 is a flowchart illustrating an example of a method of performing a biometric authentication operation according to various embodiments.
  • FIG. 12 is a flowchart illustrating another example of a method for performing user authentication according to various embodiments.
  • FIG. 1 is a block diagram of an electronic device 101 in a network environment 100 according to various embodiments of the present disclosure.
  • an electronic device 101 communicates with an electronic device 102 through a first network 198 (eg, a short-range wireless communication network) or a second network 199 . It may communicate with at least one of the electronic device 104 and the server 108 through (eg, a long-distance wireless communication network). According to an embodiment, the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • a first network 198 eg, a short-range wireless communication network
  • a second network 199 e.g., a second network 199
  • the electronic device 101 may communicate with the electronic device 104 through the server 108 .
  • the electronic device 101 includes a processor 120 , a memory 130 , an input module 150 , a sound output module 155 , a display module 160 , an audio module 170 , and a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or an antenna module 197 .
  • at least one of these components eg, the connection terminal 178
  • some of these components are integrated into one component (eg, display module 160 ). can be
  • the processor 120 for example, executes software (eg, a program 140) to execute at least one other component (eg, a hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or operations. According to one embodiment, as at least part of data processing or operation, the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 . may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • software eg, a program 140
  • the processor 120 converts commands or data received from other components (eg, the sensor module 176 or the communication module 190 ) to the volatile memory 132 .
  • the volatile memory 132 may be stored in , process commands or data stored in the volatile memory 132 , and store the result data in the non-volatile memory 134 .
  • the processor 120 is a main processor 121 (eg, a central processing unit or an application processor) or a secondary processor 123 (eg, a graphic processing unit, a neural network processing unit) a neural processing unit (NPU), an image signal processor, a sensor hub processor, or a communication processor).
  • a main processor 121 eg, a central processing unit or an application processor
  • a secondary processor 123 eg, a graphic processing unit, a neural network processing unit
  • NPU neural processing unit
  • an image signal processor e.g., a sensor hub processor, or a communication processor.
  • the secondary processor 123 may, for example, act on behalf of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or when the main processor 121 is active (eg, executing an application). ), together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the coprocessor 123 eg, an image signal processor or a communication processor
  • may be implemented as part of another functionally related component eg, the camera module 180 or the communication module 190. have.
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • Artificial intelligence models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself on which the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning, but in the above example not limited
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • Artificial neural networks include deep neural networks (DNNs), convolutional neural networks (CNNs), recurrent neural networks (RNNs), restricted boltzmann machines (RBMs), deep belief networks (DBNs), bidirectional recurrent deep neural networks (BRDNNs), It may be one of deep Q-networks or a combination of two or more of the above, but is not limited to the above example.
  • the artificial intelligence model may include, in addition to, or alternatively, a software structure in addition to the hardware structure.
  • the memory 130 may store various data used by at least one component (eg, the processor 120 or the sensor module 176 ) of the electronic device 101 .
  • the data may include, for example, input data or output data for software (eg, the program 140 ) and instructions related thereto.
  • the memory 130 may include a volatile memory 132 or a non-volatile memory 134 .
  • the program 140 may be stored as software in the memory 130 , and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the input module 150 may receive a command or data to be used by a component (eg, the processor 120 ) of the electronic device 101 from the outside (eg, a user) of the electronic device 101 .
  • the input module 150 may include, for example, a microphone, a mouse, a keyboard, a key (eg, a button), or a digital pen (eg, a stylus pen).
  • the sound output module 155 may output a sound signal to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • the receiver can be used to receive incoming calls. According to one embodiment, the receiver may be implemented separately from or as part of the speaker.
  • the display module 160 may visually provide information to the outside (eg, a user) of the electronic device 101 .
  • the display module 160 may include, for example, a control circuit for controlling a display, a hologram device, or a projector and a corresponding device.
  • the display module 160 may include a touch sensor configured to sense a touch or a pressure sensor configured to measure the intensity of a force generated by the touch.
  • the audio module 170 may convert a sound into an electric signal or, conversely, convert an electric signal into a sound. According to an embodiment, the audio module 170 acquires a sound through the input module 150 or an external electronic device (eg, a sound output module 155 ) directly or wirelessly connected to the electronic device 101 .
  • the electronic device 102) eg, a speaker or headphones
  • the sensor module 176 detects an operating state (eg, power or temperature) of the electronic device 101 or an external environmental state (eg, a user state), and generates an electrical signal or data value corresponding to the sensed state. can do.
  • the sensor module 176 may include, for example, a gesture sensor, a gyro sensor, a barometric pressure sensor, a magnetic sensor, an acceleration sensor, a grip sensor, a proximity sensor, a color sensor, an IR (infrared) sensor, a biometric sensor, It may include a temperature sensor, a humidity sensor, or an illuminance sensor.
  • the interface 177 may support one or more specified protocols that may be used by the electronic device 101 to directly or wirelessly connect with an external electronic device (eg, the electronic device 102 ).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • the connection terminal 178 may include a connector through which the electronic device 101 can be physically connected to an external electronic device (eg, the electronic device 102 ).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the haptic module 179 may convert an electrical signal into a mechanical stimulus (eg, vibration or movement) or an electrical stimulus that the user can perceive through tactile or kinesthetic sense.
  • the haptic module 179 may include, for example, a motor, a piezoelectric element, or an electrical stimulation device.
  • the camera module 180 may capture still images and moving images. According to an embodiment, the camera module 180 may include one or more lenses, image sensors, image signal processors, or flashes.
  • the power management module 188 may manage power supplied to the electronic device 101 .
  • the power management module 188 may be implemented as, for example, at least a part of a power management integrated circuit (PMIC).
  • PMIC power management integrated circuit
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • the communication module 190 is a direct (eg, wired) communication channel or a wireless communication channel between the electronic device 101 and an external electronic device (eg, the electronic device 102, the electronic device 104, or the server 108). It can support establishment and communication performance through the established communication channel.
  • the communication module 190 may include one or more communication processors that operate independently of the processor 120 (eg, an application processor) and support direct (eg, wired) communication or wireless communication.
  • the communication module 190 is a wireless communication module 192 (eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module) or a wired communication module 194 (eg, : It may include a local area network (LAN) communication module, or a power line communication module).
  • a wireless communication module 192 eg, a cellular communication module, a short-range wireless communication module, or a global navigation satellite system (GNSS) communication module
  • GNSS global navigation satellite system
  • wired communication module 194 eg, : It may include a local area network (LAN) communication module, or a power line communication module.
  • a corresponding communication module among these communication modules is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a first network 198 eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)
  • a second network 199 eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a computer network (eg, a telecommunication network such as a LAN or a WAN).
  • a telecommunication network
  • the wireless communication module 192 uses subscriber information (eg, International Mobile Subscriber Identifier (IMSI)) stored in the subscriber identification module 196 within a communication network such as the first network 198 or the second network 199 .
  • subscriber information eg, International Mobile Subscriber Identifier (IMSI)
  • IMSI International Mobile Subscriber Identifier
  • the electronic device 101 may be identified or authenticated.
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, a new radio access technology (NR).
  • NR access technology includes high-speed transmission of high-capacity data (eMBB (enhanced mobile broadband)), minimization of terminal power and access to multiple terminals (mMTC (massive machine type communications)), or high reliability and low latency (URLLC (ultra-reliable and low-latency) -latency communications)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low-latency
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • a high frequency band eg, mmWave band
  • the wireless communication module 192 uses various techniques for securing performance in a high-frequency band, for example, beamforming, massive multiple-input and multiple-output (MIMO), all-dimensional multiplexing. It may support technologies such as full dimensional MIMO (FD-MIMO), an array antenna, analog beam-forming, or a large scale antenna.
  • the wireless communication module 192 may support various requirements defined in the electronic device 101 , an external electronic device (eg, the electronic device 104 ), or a network system (eg, the second network 199 ).
  • the wireless communication module 192 may include a peak data rate (eg, 20 Gbps or more) for realizing eMBB, loss coverage (eg, 164 dB or less) for realizing mMTC, or U-plane latency for realizing URLLC ( Example: Downlink (DL) and uplink (UL) each 0.5 ms or less, or round trip 1 ms or less) can be supported.
  • a peak data rate eg, 20 Gbps or more
  • loss coverage eg, 164 dB or less
  • U-plane latency for realizing URLLC
  • the antenna module 197 may transmit or receive a signal or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a conductor formed on a substrate (eg, a PCB) or a radiator formed of a conductive pattern.
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is connected from the plurality of antennas by, for example, the communication module 190 . can be selected. A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC)
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module comprises a printed circuit board, an RFIC disposed on or adjacent to a first side (eg, underside) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, an array antenna) disposed on or adjacent to a second side (eg, top or side) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • peripheral devices eg, a bus, general purpose input and output (GPIO), serial peripheral interface (SPI), or mobile industry processor interface (MIPI)
  • GPIO general purpose input and output
  • SPI serial peripheral interface
  • MIPI mobile industry processor interface
  • the command or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or part of the operations performed by the electronic device 101 may be executed by one or more external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 may perform the function or service itself instead of executing the function or service itself.
  • one or more external electronic devices may be requested to perform at least a part of the function or the service.
  • One or more external electronic devices that have received the request may execute at least a part of the requested function or service, or an additional function or service related to the request, and transmit a result of the execution to the electronic device 101 .
  • the electronic device 101 may process the result as it is or additionally and provide it as at least a part of a response to the request.
  • cloud computing, distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an Internet of things (IoT) device.
  • the server 108 may be an intelligent server using machine learning and/or neural networks.
  • the external electronic device 104 or the server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to an intelligent service (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • the camera module 201 includes a lens assembly 210 , a flash 220 , an image sensor 230 , an image stabilizer 240 , a memory 250 (eg, a buffer memory), or an image signal processor. (image signal processor: ISP, 260) may be included.
  • the lens assembly 210 may collect light emitted from a subject, which is an image to be captured.
  • the lens assembly 210 may include one or more lenses.
  • the camera module 201 may include a plurality of lens assemblies 210 .
  • the camera module 201 may form, for example, a dual camera, a 360 degree camera, or a spherical camera.
  • Some of the plurality of lens assemblies 210 may have the same lens properties (eg, angle of view, focal length, auto focus, f number, or optical zoom), or at least one lens assembly may be a different lens assembly. It may have one or more lens properties that are different from the lens properties of .
  • the lens assembly 210 may include, for example, a wide-angle lens or a telephoto lens.
  • the flash 220 may emit light used to enhance light emitted or reflected from the subject.
  • the flash 220 may include one or more light emitting diodes (eg, a red-green-blue (RGB) LED, a white LED, an infrared LED, or an ultraviolet LED), or a xenon lamp.
  • the image sensor 230 may acquire an image corresponding to the subject by converting light emitted or reflected from the subject and transmitted through the lens assembly 210 into an electrical signal.
  • the image sensor 230 may include, for example, one image sensor selected from image sensors having different properties, such as an RGB sensor, a black and white (BW) sensor, an IR sensor, or a UV sensor; It may include a plurality of image sensors having the same property or a plurality of image sensors having different properties.
  • Each image sensor included in the image sensor 230 may be implemented using, for example, a charged coupled device (CCD) sensor or a complementary metal oxide semiconductor (CMOS) sensor.
  • CCD charged coupled device
  • CMOS complementary metal oxide semiconductor
  • the image stabilizer 240 moves at least one lens or image sensor 230 included in the lens assembly 210 in a specific direction in response to the movement of the camera module 201 or the electronic device 101 including the same. Operation characteristics of the image sensor 230 may be controlled (eg, read-out timing may be adjusted, etc.). This makes it possible to compensate for at least some of the negative effects of the movement on the image being taken.
  • the image stabilizer 240 uses a gyro sensor (not shown) or an acceleration sensor (not shown) disposed inside or outside the camera module 201 to the camera module 201 or electronic device. (101) can detect such a movement.
  • the image stabilizer 240 may be implemented as, for example, an optical image stabilizer.
  • the memory 250 may temporarily store at least a portion of the image acquired through the image sensor 230 for a next image processing operation. For example, when image acquisition is delayed according to the shutter or a plurality of images are acquired at high speed, the acquired original image (eg, a Bayer-patterned image or a high-resolution image) is stored in the memory 250 and , a copy image corresponding thereto (eg, a low-resolution image) may be previewed through the display module 160 . Thereafter, when a specified condition is satisfied (eg, a user input or a system command), at least a portion of the original image stored in the memory 250 may be obtained and processed by, for example, the image signal processor 260 . According to various embodiments, the memory 250 may be configured as at least a part of the memory 130 or as a separate memory operated independently of the memory 130 .
  • the image signal processor 260 may perform one or more image processing on an image acquired through the image sensor 230 or an image stored in the memory 250 .
  • the one or more image processes may include, for example, depth map generation, three-dimensional modeling, panorama generation, feature point extraction, image synthesis, or image compensation (eg, noise reduction, resolution adjustment, brightness adjustment, blurring ( blurring, sharpening, or softening.
  • the image signal processor 260 may include at least one of the components included in the camera module 201 (eg, an image sensor). 230), for example, exposure time control, readout timing control, etc.
  • the image processed by the image signal processor 260 is stored back in the memory 250 for further processing.
  • the image signal processor 260 may be configured as at least a part of the processor 120 or as a separate processor operated independently of the processor 120.
  • the image signal processor 260 may include the processor 120 ) and a separate processor, at least one image processed by the image signal processor 260 may be displayed through the display module 160 as it is by the processor 120 or after additional image processing. .
  • the electronic device 101 may include a plurality of camera modules 201 each having different properties or functions.
  • at least one of the plurality of camera modules 201 may be a wide-angle camera, and at least the other may be a telephoto camera.
  • at least one of the plurality of camera modules 201 may be a front camera, and at least the other may be a rear camera.
  • FIG. 3 is a block diagram 300 of an electronic device according to various embodiments.
  • the electronic device 301 may include a display 310 , a first camera 312 , a second camera 314 , a memory 320 , and a processor 330 .
  • the electronic device 301 is not limited to the configurations illustrated in FIG. 3 , and may be implemented to include more or fewer configurations.
  • the electronic device 301 may be implemented to further include the components described above with reference to FIG. 1 or FIG. 2 .
  • the electronic device 301 according to various embodiments may be the electronic device 101 of FIG. 1 or an electronic device to be described later.
  • display 310 displays at least one of information generated by processor 330 , images collected by first camera 312 or second camera 314 , or a message to provide to the user. can do.
  • the information displayed by the display 310 is not limited to the above-described example.
  • the display 310 may perform a display operation by controlling pixels on the display 310 based on at least one of a passive matrix driving method or an active matrix driving method.
  • the display 310 may be included in the display module 160 of FIG. 1 .
  • the first camera 312 and the second camera 314 may be UDCs disposed under the display 310 . In one embodiment, the first camera 312 and the second camera 314 may be disposed at different locations. For example, the first camera 312 may be disposed on the top of the display 310 when the display 310 is viewed from the front, and the second camera 314 may be disposed on the bottom of the display 310 . .
  • the upper end of the display 310 refers to an end relatively close to the sound output module 155 (or speaker), and the lower end of the display 310 refers to an end relatively far to the sound output module 155 (or speaker). can do.
  • the first camera 312 may be disposed on the right side of the display 310 when the display 310 is viewed from the front, and the second camera 314 may be disposed on the left side of the display 310 .
  • the positions of the first camera 312 and the second camera 314 are not limited to the above-described examples and may be variously changed.
  • the number of cameras greater than two is shown in FIG. 3 . It may be included in the electronic device 301 .
  • At least one of the first camera 312 and the second camera 314 may be included in the camera module 180 of FIG. 1 or the camera module 201 of FIG. 2 .
  • the memory 320 may store information generated by the processor 330 , information for a face authentication operation, a command, and/or an indicator.
  • the memory 320 includes information (eg, an image collected by the first camera 312 or the second camera 314 ) about a camera that acquired the image collected among the first camera 312 and the second camera 314 . : At least one of camera identification information, camera location information, and camera setting information), information about a time at which the collected image was acquired, or interference information included in the collected image may be stored.
  • the memory 320 may include a volatile memory or a non-volatile memory, and may be included in the memory 130 of FIG. 1 .
  • processor 330 may include one or more processors.
  • the processor 330 may be included in the processor 120 of FIG. 1 .
  • the processor 330 controls the display 310 , the first camera 312 , the second camera 314 , and the memory 320 to be performed in an electronic device according to various embodiments to be described later. actions can be performed.
  • FIG. 4 is a diagram 400 illustrating a camera and upper display pixels of the camera according to various embodiments.
  • the electronic device 401 may include a display 410 and a UDC 412 that is a camera disposed under the display 410 .
  • the electronic device 401 may be the electronic device shown in FIGS. 1 and 3 (eg, the electronic device 101 and the electronic device 301 ), and the display 410 is included in the display module 160 of FIG. 1 . and may be the display 310 of FIG. 3 .
  • the UDC 412 may be included in the camera module 180 of FIG. 1 and the camera module 201 of FIG. 2 , and may be the first camera 312 or the second camera 314 of FIG. 3 .
  • the UDC 412 is disposed under the display 410 to overlap at least a portion of the display 410 when viewed from above the display 410 (eg, when viewed in the -z-axis direction). , an image of an external subject may be acquired without being exposed to the outside.
  • the UDC 412 may include an image sensor 414 for acquiring an image corresponding to a subject and a lens assembly 416 including one or more lenses.
  • the image sensor 414 and the lens assembly 416 may correspond to the image sensor 230 and the lens assembly 210 of FIG. 2 .
  • display 410 may include a plurality of pixels 409 .
  • the plurality of pixels 409 are passive matrix organic light emitting diode (PMOLED) pixels driven based on a passive matrix driving method, or an active matrix organic light emitting diode driven based on an active matrix driving method. (active matrix organic light emitting diode: AMOLED) pixels.
  • PMOLED passive matrix organic light emitting diode
  • AMOLED active matrix organic light emitting diode
  • Each of the AMOLED pixels may be configured by a plurality of elements.
  • one AMOLED pixel may include an organic light emitting diode (OLED) 402 or 404, a thin film transistor (TFT) 406 or 408 , and an insulation layer (IL) 407 between the OLED 402 or 404 and the TFT 406 or 408 .
  • AMOLED pixels may be energized pixel by pixel by a TFT 406 or 408 . Accordingly, AMOLED pixels may be activated or deactivated by providing an electrical signal (eg, a signal indicating pixel on or pixel off) in units of pixels, or the amount of light may be controlled in units of pixels.
  • an electrical signal eg, a signal indicating pixel on or pixel off
  • the PMOLED pixels may be configured in a form in which an OLED having a diode characteristic is disposed between electrodes in a matrix form. Since PMOLED pixels can be composed of OLEDs that emit light by operating at the time allotted by electrical signals for each line without TFT, pixel control for each line may be possible.
  • a display pixel area in which the at least one pixel is disposed may become transparent.
  • the plurality of pixels 409 may be electrically controlled to serve as an aperture of the UDC 412 .
  • the transparent display pixel area increases. Therefore, the amount of light transmitted through the transparent display pixel area and input to the UDC 412 may increase.
  • the transparent display pixel area becomes smaller, so that the amount of light transmitted through the transparent display pixel area and input to the UDC 412 may decrease.
  • the plurality of pixels 409 may be electrically controlled for a biometric authentication operation. For example, as the number of inactive pixels among the plurality of pixels 409 increases, the amount of light irradiated from the display area may decrease, and as the number of activated pixels among the plurality of pixels 409 increases, in the display area The amount of irradiated light may be increased. Since the pupil size of the user may be changed based on the amount of light, the plurality of pixels 409 may be controlled to adjust the amount of light for biometric authentication.
  • the plurality of pixels 409 may be activated for operation as a light.
  • the plurality of pixels 409 may be activated when the illuminance around the face is low in the face authentication operation and may be operated as lights to be irradiated to the face region. Since a large amount of illumination may cause glare to the user, the plurality of pixels 409 disposed on the vertical surface of the UDC 412 may be controlled as a point light source to provide illumination necessary for face authentication without glare.
  • a memory eg, the electronic device 401 of FIG. 1
  • a display eg, the display module 160 of FIG. 1 or the display 310 of FIG. 3
  • a plurality of cameras eg, the first camera 312 and the second camera 314 of FIG. 3
  • at least one processor eg, the processor 330 of FIG. 3 operatively connected to the memory, the display, and the plurality of cameras, wherein the at least one processor is configured to provide access to the plurality of cameras.
  • the at least one processor includes at least one first pixel included in a first pixel area of the plurality of pixel areas and at least one first pixel included in a second pixel area of the plurality of pixel areas. alternately activating or deactivating a second pixel, and while the at least one first pixel is deactivated, at least one of the plurality of cameras for the user via a first camera disposed below the first pixel area. at least one second for the user via a second one of the plurality of cameras disposed below the second pixel area while the at least one second pixel is deactivated It can be set to acquire an image.
  • the at least one processor may be configured to acquire an image having the least interference among the at least one first image and the at least one second image as the final image.
  • the at least one processor is configured to combine a portion having the least interference in the at least one first image and a portion having the least interference in the at least one second image as the final image. can be set to obtain.
  • the at least one processor is configured to: obtain at least one third image of the user through the first camera while the at least one first pixel is activated, and wherein the at least one second While the pixel is activated, at least one fourth image of the user is obtained through the second camera, and the at least one third image and the interference information included in each of the at least one fourth image are authenticated may be set to be used as additional information for performing
  • the at least one processor determines whether an ambient brightness value of the first pixel area is less than a threshold value, and the ambient brightness value of the first pixel area When this is less than the threshold, at least one second pixel included in the second pixel area is controlled to emit light having a set amount of light, and while the at least one second pixel is irradiating the light, the second pixel It may be configured to acquire at least one first image of the user through the first camera disposed under the 1-pixel area.
  • the at least one processor when the at least one first pixel is deactivated, changes the amount of light emitted from the at least one second pixel within a set range, and the light amount of the light within a set range Images are collected through the first camera while being changed in the inside, and based on the collected images, it is determined whether there is a change in the user's pupil based on the changed amount of light, and based on the determination result, the authentication target is a biometric It may be set to determine whether or not it is recognized.
  • Operations of the electronic device according to various embodiments to be described with reference to FIGS. 5 to 12 include the electronic device (eg, the electronic device 101 of FIG. 1 , the electronic device 301 of FIG. 3 , or the electronic device 401 of FIG. 4 ). )), at least one processor (eg, the processor 330 of FIG. 3 ), or a combination thereof.
  • the operations illustrated in FIGS. 5 to 12 are performed by an electronic device will be described.
  • a plurality of cameras, or upper UDC and lower UDC, to be described in FIGS. 5 to 12 may be included in the camera module 180 of FIG. 1 and the camera module 201 of FIG. 2 , and the first camera 312 of FIG. 3 . ) and the second camera 314 , and may have the same configuration as the UDC 412 of FIG. 4 , respectively.
  • FIG. 5 is a diagram 500 for explaining an operation of acquiring an image using a plurality of cameras according to various embodiments of the present disclosure.
  • the electronic device 501 may include a display 510 , an upper UDC 512 , and a lower UDC 514 .
  • the top UDC 512 may represent a UDC disposed below the top pixel region 516 of the display 510 when the display 510 is viewed from the front (eg, viewed in the -z-axis direction), and the bottom UDC 514 may represent a UDC disposed below the bottom pixel area 518 of the display 510 .
  • the upper pixel area 516 is at least corresponding to an area in which the upper UDC 512 is disposed below one area of the entire area of the display 510 or a field of view of the upper UDC 512 .
  • the lower pixel area 518 may include an area in which the lower UDC 514 is disposed or at least one area corresponding to the viewing angle of the lower UDC 514 among the entire area of the display 510 .
  • the upper pixel area 516 may represent a pixel area positioned above the lower pixel area 518 when viewed in the -x-axis direction, and in the +x-axis direction, +x, -x, y, + A pixel area having the shortest distance from the origin 550, which is a point where the z and -z axes start, may be represented.
  • control may be possible for each pixel.
  • the upper UDC 512 when executed, at least one first pixel included in the upper pixel region 516 may be deactivated so that the upper pixel region 516 may become transparent.
  • At least one second pixel included in the lower pixel region 518 may be inactivated so that the lower pixel region 518 may become transparent.
  • At least one first pixel in the top pixel region 516 and at least one second pixel in the bottom pixel region 518 may be alternately activated or deactivated.
  • an electrical signal indicating pixel on when an electrical signal indicating pixel on is provided to at least one first pixel, an electrical signal indicating pixel off may be provided to at least one second pixel, and a pixel to at least one first pixel
  • an electrical signal indicating off when an electrical signal indicating off is provided, an electrical signal indicating pixel on may be provided to at least one second pixel.
  • the at least one first pixel is activated, the at least one second pixel may be deactivated, and when the at least one first pixel is deactivated, the at least one second pixel may be activated.
  • the light irradiated from the at least one first pixel is the shadow of the at least one first pixel or diffraction of the disturbance light in the image collected by the top UDC 512 .
  • the first image 520 reflected by the interference by may be generated.
  • the top pixel region 516 may become transparent. As the upper pixel region 516 becomes transparent, the light irradiated from the at least one first pixel is not recognized by the upper UDC 512, so the second image 530 in which interference by the at least one first pixel is excluded. may be generated by the top UDC 512 .
  • the at least one second pixel when the at least one first pixel is activated, the at least one second pixel may be deactivated.
  • the bottom pixel region 518 may become transparent.
  • the light irradiated from the at least one second pixel is not recognized by the lower UDC 514, so that the interference by the at least one second pixel is excluded from the third image 522 may be generated by the bottom UDC 514 .
  • the at least one second pixel when the at least one first pixel is deactivated, the at least one second pixel may be activated.
  • the at least one second pixel when the at least one second pixel is activated, the light irradiated from the at least one second pixel is reflected by the shadow of the at least one second pixel or interference due to diffraction of the disturbance light in the image collected by the lower UDC 514 A fourth image 532 may be generated.
  • the at least one first pixel and the at least one second pixel are alternately activated or deactivated, such that interference in imaging substantially simultaneously by top UDC 512 and bottom UDC 514 in different locations.
  • These different images eg, the first image 520 and the third image 522 , or the second image 530 and the fourth image 532 ) may be acquired.
  • a final image 540 may be obtained based on the obtained third image 522 .
  • an image having the least interference (eg, an image having the highest contrast) among the second image 530 and the third image 522 may be acquired as the final image 540 .
  • an image generated by integrating a portion having the least interference in the second image 530 and a portion having the least interference in the third image 522 may be obtained as the final image 540 .
  • the final image 540 may be an image for user authentication or a reference image to be compared with an image to be authenticated.
  • the user authentication may be, for example, face authentication for unlocking the lock mode.
  • the UDC (eg, upper UDC 512 or lower UDC 514) that captured each of the images generated to obtain the final image 540, the location of each UDC, and each of the generated images the time acquired, the interference contained in the image generated when at least one first pixel is activated (eg first image 520 ), or the image generated when at least one second pixel is activated (eg, first image 520 ) At least one of the interferences included in the 4 images 532) may be used as additional information for face authentication, thereby contributing to higher authentication reliability.
  • the interferences included in the 4 images 532) may be used as additional information for face authentication, thereby contributing to higher authentication reliability.
  • a biometric authentication operation for determining a non-human authentication target eg, a 2D image or an artifact such as a mask simulating a biometric body
  • a biometric authentication operation for determining a non-human authentication target eg, a 2D image or an artifact such as a mask simulating a biometric body
  • FIG. 6 is a diagram 600 for explaining a biometric authentication operation according to various embodiments.
  • the electronic device 601 may include an upper UDC 612 and a lower UDC 614 .
  • the display pixels disposed on top of at least one of the top UDC 612 or the bottom UDC 614 may be controlled by a point light source as described in FIG. 4 .
  • the electronic device 601 considers the display output environment (eg, background image, etc.) state at the time of user authentication, at least one first pixel disposed on the upper UDC 612 and the lower UDC ( 614), one of the at least one second pixel disposed on the upper portion may be used as a point light source.
  • the display output environment eg, background image, etc.
  • the top UDC 612 has a peripheral area (peripheral pixels) of the top pixel area (eg, top pixel area 516 in FIG. 5 ) that includes at least one first pixel below a threshold brightness. may be executed when the lower UDC 614 has a brightness below the threshold value in the peripheral region of the lower pixel region (eg, the lower pixel region 518 in FIG. 5 ) including at least one second pixel.
  • the amount of light that can act as interference on the upper UDC 612 may increase as a peripheral area of the upper pixel region including at least one first pixel is brighter, and the amount of light that can act as interference on the lower UDC 614 is at least Since the peripheral area of the lower pixel area including one second pixel may increase as the light becomes brighter, the above execution may be performed to reduce the influence of interference.
  • the other UDC may be disabled/disabled/powered off.
  • the peripheral region of the top pixel region including at least one first pixel has a brightness below the threshold
  • the peripheral region of the bottom pixel region including at least one second pixel has a brightness below the threshold
  • at least one first pixel may be used as a point light source so that a peripheral area of the upper pixel area has a brightness greater than or equal to a threshold value.
  • the bottom UDC 614 may be executed for image collection for biometric authentication while at least one first pixel is used as a point light source.
  • the amount of light that can act as interference to the lower UDC 614 is the amount of light that can be input to the upper UDC 612 when the upper UDC 612 is running. may be less than Therefore, when the lower UDC 614 is executed, an image of better quality can be obtained in preparation for when the upper UDC 612 is executed.
  • the peripheral image of the upper pixel region including at least one first pixel has a brightness above the threshold
  • the peripheral image of the lower pixel region including at least one second pixel has a brightness below the threshold. If there is, biometric authentication may be performed through the lower UDC 614 without a separate point light source.
  • the lower UDC 614 may be executed when the brightness of the peripheral region of the upper pixel region is greater than the brightness of the peripheral region of the lower pixel region, and the brightness of the peripheral region of the lower pixel region is lower than the peripheral region of the upper pixel region. If it is greater than the brightness of the upper UDC 612 may be executed.
  • the biometric authentication operation may be performed by controlling the amount of light for pixels included in the upper pixel area or the lower pixel area.
  • the biometric authentication operation is an operation of determining whether the authentication target is an artifact other than a living body (eg, a person) based on whether there is a user's biometric response to a change in light intensity (eg, a change in the user's pupil size according to a change in light intensity) may include
  • the upper UDC 612 or the lower UDC 614 may check the user's biological response (eg, change in pupil size) and collect the user's biological response image in real time.
  • the user's biological response eg, change in pupil size
  • At least one second pixel included in the lower pixel area may be used as a point light source by controlling the amount of light in units of pixels.
  • At least one first pixel included in the upper pixel region may be used as a point light source by controlling the amount of light in units of pixels.
  • At least one second pixel or at least one first pixel that may be used as a point light source may irradiate light having a set amount of light capable of minimizing glare of a user.
  • FIG. 7 is a view 700 illustrating a change in pupil size according to a change in light quantity according to various embodiments of the present disclosure.
  • the size of the user's pupil may be changed based on the amount of light emitted by at least one second pixel included in the lower pixel area. For example, when the amount of light emitted by the at least one second pixel is small, the size of the user's pupil may increase as shown in FIG. 7A . When the amount of light emitted by the at least one second pixel is large, the size of the user's pupil may be reduced as shown in FIG. 7B .
  • images for identifying a user's pupil size as shown in FIGS. 7A and 7B may be collected by the upper UDC in real time.
  • the images collected by the upper UDC can be compared to each other and used as a basis to identify whether there is a change in pupil size.
  • the authentication target when it is identified that there is a change in pupil size based on the collected images, it may be determined that the authentication target is a person, and when it is identified that there is no pupil size change based on the collected images, it is determined that the authentication target is an artifact can be
  • FIG. 8 is a diagram 800 for explaining an operation of releasing a lock mode in an electronic device according to various embodiments of the present disclosure.
  • the electronic device 801 including the upper UDC 812 and the lower UDC 814 may activate the lock mode.
  • the electronic device 801 may monitor whether a face recognition request signal is generated while the lock mode is activated.
  • the electronic device 801 may include a user's motion for the electronic device 801 (eg, a user holding the electronic device 801 in a hand and lifting or tilting it), a touch input on the screen of the electronic device 801 , and a user's voice.
  • the generation of the face recognition request signal may be detected based on at least one of an input and a physical key input.
  • the electronic device 801 may execute the upper UDC 812 to perform a biometric authentication operation to determine whether the authentication target is a human.
  • the upper UDC 812 when the upper UDC 812 is executed, at least one first pixel in the upper pixel area may be deactivated.
  • the upper UDC 812 may perform a face image collection operation for user's face authentication.
  • at least one second pixel of the lower pixel area is activated to have a brightness value equal to or greater than the threshold value to perform an operation as a point light source.
  • the electronic device 801 controls at least one first pixel and at least one second pixel to obtain a plurality of images of the user through the upper UDC 812 and the lower UDC 814 .
  • the electronic device 801 may acquire an image having the least interference among a plurality of images or an image generated by integrating a portion having the least interference in each of the plurality of images as a final image.
  • the lock mode when the biometric authentication operation result indicates that the authentication target is a living body (eg, a person), and a face image detected from the obtained final image corresponds to a pre-stored reference image, the lock mode is can be released As a result of the biometric authentication operation, the lock mode may be maintained when the authentication target is identified as non-biometric or when a face image detected from the obtained final image does not correspond to a pre-stored reference image.
  • FIG. 9 is a diagram 900 for explaining an operation of providing a preview image in an electronic device according to various embodiments of the present disclosure.
  • the electronic device 901 may drive the upper UDC and the lower UDC.
  • the top UDC and bottom UDC can be used for taking pictures.
  • the images acquired by the upper UDC and the lower UDC through photography may be combined and output as a final result image.
  • the electronic device 901 may alternately activate or deactivate the upper pixel area 912 and the lower pixel area 914 in order to collect a high-quality preview image in a preview mode.
  • the electronic device 901 alternately activating or deactivating the top pixel region 912 and the bottom pixel region 914 means at least one first pixel in the top pixel region 912 and at least one in the bottom pixel region 914 . It may mean that an electrical signal (eg, a signal indicating a pixel on or a pixel off) is alternately provided to the second pixel of the .
  • the top UDC may be disposed below the top pixel area 912
  • the bottom UDC may be disposed below the bottom pixel area 914 .
  • Top pixel region 912 or bottom pixel region 914 may correspond to top pixel region 516 or bottom pixel region 518 of FIG. 5 .
  • a clear high-definition preview 2 image may be generated through the lower UDC.
  • a clear high-definition preview 1 image may be generated through the upper UDC.
  • the high-quality preview image will be the final result image by integrating the images (eg, preview 1 image and preview 2 image) collected from the upper UDC and the lower UDC, respectively, as shown in Fig. 9(c).
  • both the upper pixel area 912 and the lower pixel area 914 are deactivated as shown in FIG. 9D .
  • FIG. 10 is a flowchart 1000 illustrating an example of a method for performing user authentication according to various embodiments.
  • the operations illustrated in FIG. 10 are not limited to the illustrated order and may be performed in various orders. According to various embodiments, more operations than those illustrated in FIG. 10 or at least one fewer operations may be performed.
  • an electronic device eg, the electronic device 101 of FIG. 1 or the electronic device 301 of FIG. 3
  • a plurality of cameras eg, the camera module 180 of FIG. 1
  • a display eg, the display module 160 of FIG. 1 or the display 360 of FIG. 3
  • a plurality of images of the user may be acquired through a plurality of cameras.
  • the electronic device may acquire a final image based on at least one image among a plurality of acquired images.
  • the electronic device may authenticate the user based on the final image.
  • 11 is a flowchart 1100 illustrating an example of a method of performing a biometric authentication operation according to various embodiments.
  • the operations illustrated in FIG. 11 are not limited to the illustrated order and may be performed in various orders. According to various embodiments, more operations than those illustrated in FIG. 11 or at least one fewer operations may be performed.
  • the electronic device receives at least one second pixel when at least one first pixel is deactivated.
  • the amount of light emitted from the pixel can be changed within a set range.
  • At least one first pixel may be included in a first pixel area disposed on top of a first camera (eg, first camera 312 in FIG. 3 ), and at least one second pixel may be included in a second camera (eg, first camera 312 in FIG. 3 ). It may be included in the second pixel area disposed on the upper end of the second camera 314 of FIG. 3 .
  • the electronic device may collect images through the first camera while the amount of light emitted from the at least one second pixel is changed within a set range.
  • the electronic device may determine whether there is a change in the user's pupil based on the changed amount of light based on the images collected through the first camera.
  • the electronic device may determine that the authentication target is a living body in operation 1110 .
  • the electronic device may determine that the authentication target is not a living body in operation 1112 .
  • FIG. 12 is a flowchart 1200 illustrating another example of a method of performing user authentication according to various embodiments.
  • the operations illustrated in FIG. 12 are not limited to the illustrated order and may be performed in various orders. According to various embodiments, more operations than those illustrated in FIG. 12 or at least one fewer operations may be performed.
  • the electronic device may monitor whether a face recognition request signal is generated.
  • the facial recognition request signal may be a user's motion with respect to the electronic device (eg, a motion of the user holding the electronic device in a hand and lifting or tilting it), a touch input on a screen of the electronic device, a user's voice input, or a physical key. It may be generated based on at least one of the inputs.
  • the electronic device may wait by monitoring in real time whether a face recognition request signal is generated.
  • the electronic device selects a plurality of cameras (eg, the camera module 180 of FIG. 1 , the camera module 201 of FIG. 2 , or the first camera of FIG. 3 ) 312 and the second camera 314) may be activated.
  • a plurality of cameras eg, the camera module 180 of FIG. 1 , the camera module 201 of FIG. 2 , or the first camera of FIG. 3 .
  • the electronic device may obtain authentication information including a final image and additional information by using a plurality of cameras.
  • the electronic device may acquire authentication information in a manner as shown in FIG. 5 .
  • the plurality of cameras may be top UDC 512 and bottom UDC 514 of FIG. 5 , corresponding to top pixel area 516 corresponding to top UDC 512 and corresponding to bottom UDC 514 .
  • Bottom pixel region 518 may be alternately activated or deactivated.
  • a plurality of images (eg, first image 520 , second image 530 , third image while top pixel region 516 and bottom pixel region 518 are alternately activated or deactivated) 522 , and a fourth image 532 ) may be collected by the top UDC 512 and the bottom UDC 514 .
  • the final image included in the authentication information may be an image having the least interference selected from a plurality of images.
  • the additional information included in the authentication information includes information on feature points of each of the plurality of images, time information at which each of the plurality of images are collected, and each of the plurality of images is an upper UDC 512 and a lower UDC 514 may include at least one of information about which UDC was acquired, interference information included in each of a plurality of images, or location information of each of the upper UDC 512 and lower UDC 514 .
  • the top UDC 512 may be operated while the top pixel region 516 is deactivated and at least one second pixel of the bottom pixel region 518 may illuminate as a point light source.
  • the amount of light irradiated by the at least one second pixel may be changed, and the images collected by the upper UDC 512 may be used as images for confirming the pupil size of the user by light amount for the biometric authentication operation.
  • the electronic device may detect the face region from the final image based on the authentication information. In operation 1208, when the face region is not detected or the boundary of the face region is not clear, the electronic device may re-acquire authentication information including a new final image by performing operation 1206 again.
  • the electronic device may extract facial landmarks (eg, eyes, nose, mouth, or ears) necessary for face authentication in operation 1210 .
  • facial landmarks eg, eyes, nose, mouth, or ears
  • the electronic device may perform a biometric authentication operation based on the extracted facial landmark and additional information. For example, the electronic device may determine whether the pupil size of the eye extracted as the face landmark corresponds to the amount of light at the time when the final image is acquired as an artifact.
  • the electronic device When it is determined through the biometric authentication operation that the face region included in the final image is related to the biometric body, the electronic device extracts feature points required for face authentication in operation 1214 and performs a face similarity comparison operation for face authentication. have.
  • the face similarity comparison operation may include comparing the user's face region reference image previously registered by the user with the face region image included in the final image. For example, based on whether the feature points of the final image identified based on the additional information and the feature points extracted in operation 1214 match, the electronic device may match the user face region reference image and the face region image included in the final image It can be determined whether or not
  • the electronic device may determine that face authentication is successful.
  • face authentication when face authentication is successful, the electronic device may receive a user's selection as to whether to end face authentication in operation 1218 .
  • face authentication when face authentication is not successful, the electronic device may re-acquire authentication information by performing operation 1206 again.
  • the electronic device may end the face authentication operation, and if the user selects not to terminate face authentication, the electronic device may re-perform operation 1206 to acquire authentication information again.
  • a plurality of cameras disposed below a display
  • a plurality of pixel areas of the display corresponding to eg, the camera module 180 of FIG. 1 , the camera module 201 of FIG. 2 , or the first camera 312 and the second camera 314 of FIG. 3
  • the upper pixel area 516 or the lower pixel area 518 of FIG. 5 e.g., the upper pixel area 912 or the lower pixel area 914 of FIG. 9
  • obtaining ( 1002 ) a plurality of images for acquiring a final image based on at least one of the acquired plurality of images (1004); and performing authentication for the user based on the final image ( 1006 ).
  • the acquiring of the plurality of images includes at least one first pixel included in a first pixel area of the plurality of pixel areas and a second pixel area of the plurality of pixel areas. alternately activating or deactivating at least one second pixel; acquiring at least one first image of the user through a first camera disposed below the first pixel area among the plurality of cameras while the at least one first pixel is deactivated; and acquiring at least one second image of the user through a second camera disposed below the second pixel area among the plurality of cameras while the at least one second pixel is deactivated. can do.
  • the acquiring of the final image may include acquiring, as the final image, an image having the least interference among the at least one first image and the at least one second image.
  • the operation of obtaining the final image may include generating an image generated by integrating a portion having the least interference in the at least one first image and a portion having the least interference in the at least one second image as the final image. It may include an operation of acquiring an image.
  • the at least one first pixel while the at least one first pixel is activated, obtaining at least one third image of the user through the first camera; acquiring at least one fourth image of the user through the second camera while the at least one second pixel is activated; and using the interference information included in each of the at least one third image and the at least one fourth image as additional information for performing the authentication.
  • the obtaining of the at least one first image of the user may include, when the at least one first pixel is deactivated, determining whether an ambient brightness value of the first pixel area is less than a threshold value. ; controlling at least one second pixel included in the second pixel area to emit light having a set amount of light when the ambient brightness value of the first pixel area is less than the threshold value; and acquiring at least one first image of the user through the first camera disposed under the first pixel area while the at least one second pixel is irradiating the light have.
  • the at least one first pixel when the at least one first pixel is deactivated, changing the amount of light emitted from the at least one second pixel within a set range; collecting images through the first camera while the amount of light is changed within a set range; determining whether there is a change in the user's pupil based on the changed amount of light based on the collected images; and determining whether the authentication target is a living body based on the determination result.
  • the electronic device may have various types of devices.
  • the electronic device may include, for example, a portable communication device (eg, a smart phone), a computer device, a portable multimedia device, a portable medical device, a camera, a wearable device, or a home appliance device.
  • a portable communication device eg, a smart phone
  • a computer device e.g., a smart phone
  • a portable multimedia device e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a camera e.g., a portable medical device
  • a wearable device e.g., a smart bracelet
  • a home appliance device e.g., a home appliance
  • first, second, or first or second may simply be used to distinguish an element from other elements in question, and may refer elements to other aspects (e.g., importance or order) is not limited. It is said that one (eg, first) component is “coupled” or “connected” to another (eg, second) component, with or without the terms “functionally” or “communicatively”. When referenced, it means that one component can be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • module used in various embodiments of this document may include a unit implemented in hardware, software, or firmware, and is interchangeable with terms such as, for example, logic, logic block, component, or circuit.
  • a module may be an integrally formed part or a minimum unit or a part of the part that performs one or more functions.
  • the module may be implemented in the form of an application-specific integrated circuit (ASIC).
  • ASIC application-specific integrated circuit
  • Various embodiments of the present document include one or more instructions stored in a storage medium (eg, internal memory 136 or external memory 138) readable by a machine (eg, electronic device 101).
  • a storage medium eg, internal memory 136 or external memory 138
  • the processor eg, the processor 120
  • the device eg, the electronic device 101
  • the one or more instructions may include code generated by a compiler or code executable by an interpreter.
  • the device-readable storage medium may be provided in the form of a non-transitory storage medium.
  • 'non-transitory' only means that the storage medium is a tangible device and does not contain a signal (eg, electromagnetic wave), and this term is different from the case where data is semi-permanently stored in the storage medium. It does not distinguish between temporary storage cases.
  • a signal eg, electromagnetic wave
  • the method according to various embodiments disclosed in this document may be provided in a computer program product (computer program product).
  • Computer program products may be traded between sellers and buyers as commodities.
  • the computer program product is distributed in the form of a machine-readable storage medium (eg compact disc read only memory (CD-ROM)), or through an application store (eg Play StoreTM) or on two user devices ( It can be distributed (eg downloaded or uploaded) directly, online between smartphones (eg: smartphones).
  • a portion of the computer program product may be temporarily stored or temporarily created in a machine-readable storage medium such as a memory of a server of a manufacturer, a server of an application store, or a relay server.
  • each component eg, a module or a program of the above-described components may include a singular or a plurality of entities, and some of the plurality of entities may be separately disposed in other components. have.
  • one or more components or operations among the above-described corresponding components may be omitted, or one or more other components or operations may be added.
  • a plurality of components eg, a module or a program
  • the integrated component may perform one or more functions of each component of the plurality of components identically or similarly to those performed by the corresponding component among the plurality of components prior to the integration. .
  • operations performed by a module, program, or other component are executed sequentially, in parallel, repeatedly, or heuristically, or one or more of the operations are executed in a different order, or omitted. , or one or more other operations may be added.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Ophthalmology & Optometry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Inspection Of Paper Currency And Valuable Securities (AREA)

Abstract

다양한 실시예들에 따르면, 전자 장치는, 메모리; 디스플레이; 상기 디스플레이의 하부에 배치된 복수의 카메라들; 및 상기 메모리, 상기 디스플레이, 및 상기 복수의 카메라들과 작동적으로 연결된 적어도 하나의 프로세서를 포함하며, 상기 적어도 하나의 프로세서는, 상기 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하고, 상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하고, 상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하도록 설정될 수 있고, 다른 실시예도 가능할 수 있다.

Description

사용자 인증을 위한 방법, 장치 및 저장 매체
다양한 실시예들은 사용자 인증을 위한 방법, 장치 및 저장 매체에 관한 것이다.
스마트 폰 또는 태블릿 단말과 같은 전자 장치에는 일반적으로 셀프 카메라 촬영 또는 화상 통화 기능을 제공하기 위해 디스플레이가 있는 전자 장치의 전면에 카메라가 배치될 수 있다.
전자 장치의 전면 상단에 배치되던 카메라는 화면 크기 효율화와 시각적인 몰입 경험을 높이기 위해 디스플레이 하부에 배치되는 형태로 발전해가고 있다. 예를 들어, 전자 장치에서 카메라가 보이지 않도록 디스플레이 하부에 카메라를 배치하여 몰입 경험을 극대화할 수 있는 언더 디스플레이 카메라(under display camera: UDC)가 제시되고 있다.
UDC는 실행시 디스플레이 화면 상에 보일 수 있고, 실행되지 않을 때에는 디스플레이 화면 상에 보이지 않음으로써 풀 디스플레이의 구현을 가능하게 할 수 있다.
UDC에 대응되는 위치에 배치될 수 있는 디스플레이의 투명 영역은 수동 매트릭스(passive matrix) 구동 방식을 이용하기 위해 구성된 픽셀들을 포함할 수 있다. 이러한 구조적인 특징으로 UDC를 포함하는 전자 장치는 고품질의 이미지를 획득하는 것이 어려울 수 있다.
게다가 UDC의 상부에는 디스플레이를 위한 복수의 소자들(예: 유기 발광 다이오드(organic light-emitting diode: OLED), 박막 트랜지스터(thin film transistor: TFT), 또는 전기적 배선)이 배치될 수도 있어, UDC 상부의 광 경로에 직접적인 간섭으로 작용될 수 있고 외부로부터 빛이 들어오는 경로가 차단될 수 있다. 따라서 UDC에 의해 수집되는 이미지는 다양한 간섭 요인들로 인해 이미지 개선을 위한 후처리 과정을 거쳐야만 할 수 있다.
결론적으로, 적어도 일부가 외부로 노출되는 전자 장치의 일반적인 카메라에 비해 UDC를 통해 수집되는 이미지의 품질 저하는 불가피한 상황이며, 이미지와 관련한 다양한 기능들 예를 들어, 사용자 얼굴 인증이나 미리 보기(preview) 모드에 대한 기능적인 신뢰도가 낮아질 수 있다.
다양한 실시예들에 따르면, 전자 장치에서 UDC에 의해 수집되는 이미지 품질 저하를 줄이고, 사용자 얼굴 인증의 신뢰도를 높일 수 있다.
다양한 실시예들에 따르면, 전자 장치는, 메모리; 디스플레이; 상기 디스플레이의 하부에 배치된 복수의 카메라들; 및 상기 메모리, 상기 디스플레이, 및 상기 복수의 카메라들과 작동적으로 연결된 적어도 하나의 프로세서를 포함하며, 상기 적어도 하나의 프로세서는, 상기 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하고, 상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하고, 상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하도록 설정될 수 있다.
다양한 실시예들에 따르면, 전자 장치에서 사용자 인증을 수행하는 방법에 있어서, 디스플레이의 하부에 배치된 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하는 동작; 상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하는 동작; 및 상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, 명령들을 저장하고 있는 비일시적 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 디스플레이의 하부에 배치된 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하는 동작; 상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하는 동작; 및 상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하는 동작을 포함할 수 있다.
다양한 실시예들에 따르면, UDC에 의해 수집되는 이미지의 화질을 향상시킬 수 있으며, 사용자 얼굴 인증에 대한 신뢰도를 높일 수 있다.
다양한 실시예들에 따르면, 간편하고도 높은 신뢰도의 생체 인증이 가능할 수 있다.
다양한 실시예들에 따르면, 적어도 두 개의 UDC들을 통해 이미지들을 수집하는 과정에서 획득할 수 있는 다양한 정보들을 얼굴 인증에 필요한 진위 여부를 판단할 수 있는 기준으로 활용하여 인증의 신뢰도를 높일 수 있다.
다양한 실시예들에 따르면, 하나의 UDC에 의한 촬영시, 다른 하나의 UDC의 상단에 배치된 픽셀들을 점광원으로서 사용하여 밝기가 조정된 이미지가 획득될 수 있다.
도 1은 다양한 실시예들에 따른 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시예들에 따른 카메라 모듈을 예시하는 블럭도이다.
도 3은 다양한 실시예들에 따른 전자 장치의 블럭도이다.
도 4는 다양한 실시예들에 따른 카메라와 카메라의 상부 디스플레이 픽셀들을 예시한 도면이다.
도 5는 다양한 실시예들에 따른 복수의 카메라들을 사용하여 이미지를 획득하는 동작을 설명하기 위한 도면이다.
도 6은 다양한 실시예들에 따른 생체 인증 동작을 설명하기 위한 도면이다.
도 7은 다양한 실시예들에 따른 광량 변화에 따른 동공 크기 변화를 나타낸 도면이다.
도 8은 다양한 실시예들에 따른 전자 장치에서 잠금 모드를 해제하는 동작을 설명하기 위한 도면이다.
도 9는 다양한 실시예들에 따른 전자 장치에서 미리 보기 이미지를 제공하는 동작을 설명하기 위한 도면이다.
도 10은 다양한 실시예들에 따른 사용자 인증을 수행하는 방법의 일 예를 나타낸 흐름도이다.
도 11은 다양한 실시예들에 따른 생체 인증 동작을 수행하는 방법의 일 예를 나타낸 흐름도이다.
도 12는 다양한 실시예들에 따른 사용자 인증을 수행하는 방법의 다른 예를 나타낸 흐름도이다.
도 1은 다양한 실시예들에 따른 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예들에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2는 다양한 실시예들에 따른 카메라 모듈(201)(예: 도 1의 카메라 모듈(180))을 예시하는 블럭도(200)이다. 도 2를 참조하면, 카메라 모듈(201)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(image signal processor: ISP, 260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 광을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 다양한 실시예들에 따르면, 카메라 모듈(201)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(201)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 광을 강화하기 위하여 사용되는 광을 방출할 수 있다. 다양한 실시예들에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 광을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 다양한 실시예들에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(201) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 다양한 실시예들에 따르면, 이미지 스태빌라이저(240)는, 카메라 모듈(201)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(201) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 다양한 실시예들에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)를 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 디스플레이 모듈(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 다양한 실시예들에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)를 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(201)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장되거나 카메라 모듈(201)의 외부 구성 요소(예: 메모리(130), 디스플레이 모듈(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 다양한 실시예들에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)가 프로세서(120)와 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 디스플레이 모듈(160)을 통해 표시될 수 있다.
다양한 실시예들에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(201)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(201)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(201)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 3은 다양한 실시예들에 따른 전자 장치의 블록도(300)이다.
도 3을 참조하면, 전자 장치(301)는 디스플레이(310), 제 1 카메라(312), 제 2 카메라(314), 메모리(320), 및 프로세서(330)를 포함할 수 있다.
다양한 실시예들에 따르면, 전자 장치(301)는 도 3에 도시된 구성들에 국한되지 않고, 더 많은 구성들을 포함하거나 더 적은 구성들을 포함하도록 구현될 수도 있다. 예를 들어, 전자 장치(301)는 도 1 또는 도 2에서 상술한 구성들을 더 포함하도록 구현될 수 있다. 다양한 실시예들에 따른 전자 장치(301)는 도 1의 전자 장치(101) 또는 후술될 전자 장치일 수 있다.
일 실시예에서, 디스플레이(310)는 프로세서(330)에 의해 생성된 정보, 제 1 카메라(312) 또는 제 2 카메라(314)에 의해 수집된 이미지, 또는 사용자에게 제공할 메시지 중 적어도 하나를 표시할 수 있다. 디스플레이(310)가 표시하는 정보는 전술한 예시에 제한되지 않는다.
일 실시예에서, 디스플레이(310)는 수동 매트릭스(passive matrix) 구동 방식 또는 능동 매트릭스(active matrix) 구동 방식 중 적어도 하나를 기반으로 디스플레이(310) 상의 픽셀들을 제어하여 디스플레이 동작을 수행할 수 있다. 디스플레이(310)는 도 1의 디스플레이 모듈(160)에 포함될 수 있다.
일 실시예에서, 제 1 카메라(312) 및 제 2 카메라(314)는 디스플레이(310)의 하부에 배치된 UDC들일 수 있다. 일 실시예에서, 제 1 카메라(312) 및 제 2 카메라(314)는 다른 위치에 배치될 수 있다. 예를 들어, 제 1 카메라(312)는 디스플레이(310)를 정면으로 볼 때 디스플레이(310)의 상단에 배치될 수 있고, 제 2 카메라(314)는 디스플레이(310)의 하단에 배치될 수 있다. 디스플레이(310)의 상단은 음향 출력 모듈(155)(또는 스피커)에 상대적으로 가까운 단부를 지칭하고, 디스플레이(310)의 하단은 음향 출력 모듈(155) (또는 스피커)에 상대적으로 먼 단부를 지칭할 수 있다. 다른 예로, 제 1 카메라(312)는 디스플레이(310)를 정면으로 볼 때 디스플레이(310)의 우측에 배치될 수 있고, 제 2 카메라(314)는 디스플레이(310)의 좌측에 배치될 수 있다. 제 1 카메라(312)와 제 2 카메라(314)의 위치는 전술한 예시에 한정되지 않고 다양하게 변경될 수 있다.
일 실시예에 따라, 도 3에서는 두 개의 카메라들(예: 제 1 카메라(312) 및 제 2 카메라(314))이 전자 장치(301)에 포함됨을 도시하였으나, 두 개 보다 많은 개수의 카메라들이 전자 장치(301)에 포함될 수도 있다.
일 실시예에서, 제 1 카메라(312) 또는 제 2 카메라(314) 중 적어도 하나는 도 1의 카메라 모듈(180) 또는 도 2의 카메라 모듈(201)에 포함될 수 있다.
일 실시예에서, 메모리(320)는 프로세서(330)에 의해 생성된 정보, 얼굴 인증 동작을 위한 정보, 명령, 및/또는 지시자를 저장할 수 있다. 메모리(320)는 제 1 카메라(312) 또는 제 2 카메라(314)에 의해 수집된 이미지, 제 1 카메라(312) 및 제 2 카메라(314) 중 수집된 이미지를 획득한 카메라에 대한 정보(예: 카메라 식별 정보, 카메라 위치 정보, 또는 카메라 설정 정보 중 적어도 하나), 수집된 이미지가 획득된 시간 정보, 또는 수집된 이미지에 포함된 간섭 정보 중 적어도 하나를 저장할 수 있다.
일 실시예에서, 메모리(320)는 휘발성 메모리 또는 비휘발성 메모리를 포함할 수 있고, 도 1의 메모리(130)에 포함될 수 있다.
일 실시예에서, 프로세서(330)는 하나 이상의 프로세서들을 포함할 수 있다.
일 실시예에서, 프로세서(330)는 도 1의 프로세서(120)에 포함될 수 있다.
일 실시예에서, 프로세서(330)는 디스플레이(310), 제 1 카메라(312), 제 2 카메라(314), 및 메모리(320)를 제어하여, 후술될 다양한 실시예들에 따른 전자 장치에서 수행되는 동작들을 수행할 수 있다.
도 4는 다양한 실시예들에 따른 카메라와 카메라의 상부 디스플레이 픽셀들을 예시한 도면(400)이다.
도 4를 참조하면, 전자 장치(401)는 디스플레이(410)와 디스플레이(410)의 하부에 배치된 카메라인 UDC(412)를 포함할 수 있다. 전자 장치(401)는 도 1 및 도 3에 도시된 전자 장치(예: 전자 장치(101) 및 전자 장치(301))일 수 있고, 디스플레이(410)는 도 1의 디스플레이 모듈(160)에 포함될 수 있고 도 3의 디스플레이(310)일 수 있다. UDC(412)는 도 1의 카메라 모듈(180) 및 도 2의 카메라 모듈(201)에 포함될 수 있고, 도 3의 제 1 카메라(312) 또는 제 2 카메라(314)일 수 있다.
일 실시예에서, UDC(412)는 디스플레이(410)의 위에서 바라볼 때(예: -z축 방향으로 볼 때), 디스플레이(410)의 적어도 일부에 중첩되게 디스플레이(410)의 하부에 배치되어, 외부로 노출되지 않으면서, 외부 피사체의 이미지를 획득할 수 있다.
일 실시예에서, UDC(412)는 피사체에 대응하는 이미지를 획득하기 위한 이미지 센서(414) 및 하나 이상의 렌즈들을 포함하는 렌즈 어셈블리(416)를 포함할 수 있다. 이미지 센서(414) 및 렌즈 어셈블리(416)는 도 2의 이미지 센서(230) 및 렌즈 어셈블리(210)에 대응할 수 있다.
일 실시예에서, 디스플레이(410)는 복수의 픽셀들(409)을 포함할 수 있다. 복수의 픽셀들(409)은 수동 매트릭스 구동 방식을 기반으로 구동되는 수동형 매트릭스 유기 발광 다이오드(passive matrix　organic　light emitting　diode:　PMOLED) 픽셀들, 또는 능동 매트릭스 구동 방식을 기반으로 구동되는 능동형 매트릭스 유기 발광 다이오드(active matrix organic light emitting diode: AMOLED) 픽셀들을 포함할 수 있다.
AMOLED 픽셀들은 각각 복수의 소자들에 의해 구성될 수 있다. 예를 들어, 하나의 AMOLED 픽셀은 유기 발광 다이오드(organic light emitting diode: OLED)(402 또는 404), OLED(402 또는 404)의 구동을 제어하기 위한 박막 트랜지스터(thin film transistor: TFT)(406 또는 408), 및 OLED(402 또는 404)와 TFT(406 또는 408) 사이의 절연층(insulation layer: IL)(407)에 의해 구성될 수 있다. AMOLED 픽셀들은 TFT(406 또는 408)에 의해 픽셀 단위로 전압을 인가받을 수 있다. 이에 따라 AMOLED 픽셀들은 픽셀 단위로 전기적 신호(예: 픽셀 온 또는 픽셀 오프를 지시하는 신호)가 제공되어 활성화 또는 비활성화되거나 픽셀 단위로 광량 제어가 될 수 있다.
PMOLED 픽셀들은 매트릭스 형태의 전극 사이에 다이오드 특성을 가진 OLED가 배치된 형태로 구성될 수 있다. PMOLED 픽셀들은 TFT 없이, 각 라인 별로 전기적 신호에 의해 할당된 시간에 작동되어 발광하는 OLED로 구성될 수 있으므로 라인 별 픽셀 제어가 가능할 수 있다.
일 실시예에 따라, 복수의 픽셀들(409) 중 적어도 하나의 픽셀이 비활성화될 경우, 적어도 하나의 픽셀이 배치된 디스플레이 픽셀 영역은 투명해질 수 있다. 이를 기반으로 복수의 픽셀들(409)은 전기적으로 제어되어 UDC(412)의 조리개 역할을 할 수 있다. 예를 들어, 복수의 픽셀들(409) 중 비활성화되는 픽셀들의 개수가 증가할수록 투명한 디스플레이 픽셀 영역은 커지므로, 투명한 디스플레이 픽셀 영역을 투과하여 UDC(412)에 입력되는 빛의 양은 많아질 수 있다. 이와 반대로, 복수의 픽셀들(409) 중 활성화되는 픽셀들의 개수가 증가할수록 투명한 디스플레이 픽셀 영역은 작아지므로, 투명한 디스플레이 픽셀 영역을 투과하여 UDC(412)에 입력되는 빛의 양은 적어질 수 있다.
일 실시예에서, 복수의 픽셀들(409)은 생체 인증 동작을 위해 전기적으로 제어될 수 있다. 예를 들어, 복수의 픽셀들(409) 중 비활성화되는 픽셀들의 개수가 증가할수록 디스플레이 영역에서 조사되는 광량은 줄어들 수 있고, 복수의 픽셀들(409) 중 활성화되는 픽셀들의 개수가 증가할수록 디스플레이 영역에서 조사되는 광량은 증가할 수 있다. 광량에 기반하여 사용자의 동공 크기는 변화될 수 있으므로, 생체 인증을 위한 광량 조절을 위해 복수의 픽셀들(409)은 제어될 수 있다.
일 실시예에 따라, 복수의 픽셀들(409)은 조명으로서의 동작을 위해 활성화될 수 있다. 예를 들어, 복수의 픽셀들(409)은 얼굴 인증 동작에서 얼굴 주변의 조도가 낮을 경우 활성화되어 얼굴 영역에 조사될 조명으로서 동작될 수 있다. 조명의 광량이 크면 사용자에게 눈부심을 야기할 수 있으므로, UDC(412)의 수직면 상부에 배치된 복수의 픽셀들(409)을 점광원으로 제어하여 눈부심 없이 얼굴 인증에 필요한 조명을 제공할 수 있다.
다양한 실시예들에 따르면, 전자 장치(예: 도 1의 전자 장치(101), 도 3의 전자 장치(301), 또는 도 4의 전자 장치(401))에 있어서, 메모리(예: 도 1의 메모리(130) 또는 도 3의 메모리(320)); 디스플레이(예: 도 1의 디스플레이 모듈(160) 또는 도 3의 디스플레이(310)); 상기 디스플레이의 하부에 배치된 복수의 카메라들(예: 도 3의 제 1 카메라(312) 및 제 2 카메라(314)); 및 상기 메모리, 상기 디스플레이, 및 상기 복수의 카메라들과 작동적으로 연결된 적어도 하나의 프로세서(예: 도 3의 프로세서(330))를 포함하며, 상기 적어도 하나의 프로세서는, 상기 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하고, 상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하고, 상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하도록 설정될 수 있다.
일 실시예에서, 상기 적어도 하나의 프로세서는, 상기 복수의 픽셀 영역들 중 제 1 픽셀 영역에 포함된 적어도 하나의 제 1 픽셀과 상기 복수의 픽셀 영역들 중 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 교대로 활성화 또는 비활성화하고, 상기 적어도 하나의 제 1 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 1 픽셀 영역의 아래에 배치된 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하고, 상기 적어도 하나의 제 2 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 2 픽셀 영역의 아래에 배치된 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 2 이미지를 획득하도록 설정될 수 있다.
일 실시예에서, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 제 1 이미지 및 상기 적어도 하나의 제 2 이미지 중 간섭이 가장 적은 이미지를 상기 최종 이미지로 획득하도록 설정될 수 있다.
일 실시예에서, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 제 1 이미지에서 간섭이 가장 적은 부분과 상기 적어도 하나의 제 2 이미지에서 간섭이 가장 적은 부분을 통합하여 생성한 이미지를 상기 최종 이미지로 획득하도록 설정될 수 있다.
일 실시예에서, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 제 1 픽셀이 활성화되는 동안, 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 3 이미지를 획득하고, 상기 적어도 하나의 제 2 픽셀이 활성화되는 동안, 상기 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 4 이미지를 획득하고, 상기 적어도 하나의 제 3 이미지 및 상기 적어도 하나의 제 4 이미지 각각에 포함된 간섭 정보를 상기 인증을 수행하기 위한 부가 정보로 사용하도록 설정될 수 있다.
일 실시예에서, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 제 1 픽셀 영역의 주변 밝기값이 임계값 미만인지 확인하고, 상기 제 1 픽셀 영역의 주변 밝기값이 상기 임계값 미만인 경우, 설정된 광량을 갖는 광을 조사하도록 상기 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 제어하고, 상기 적어도 하나의 제 2 픽셀이 상기 광을 조사하는 동안, 상기 제 1 픽셀 영역의 아래에 배치된 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하도록 설정될 수 있다.
일 실시예에서, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 적어도 하나의 제 2 픽셀로부터 조사되는 광의 광량을 설정된 범위 내에서 변경하고, 상기 광의 광량이 설정된 범위 내에서 변경되는 동안 상기 제 1 카메라를 통해 이미지들을 수집하고, 상기 수집된 이미지들을 근거로 상기 변경된 광량에 기반한 상기 사용자의 동공 변화가 있는지 여부를 판단하고, 상기 판단 결과를 기반으로 인증 대상이 생체인지 여부를 판단하도록 설정될 수 있다.
이하 다양한 실시예들에 따른 전자 장치의 동작을 설명하기로 한다. 도 5 내지 도 12에서 설명될 다양한 실시예들에 따른 전자 장치의 동작들은 전자 장치(예: 도 1의 전자 장치(101), 도 3의 전자 장치(301), 또는 도 4의 전자 장치(401)), 적어도 하나의 프로세서(예: 도 3의 프로세서(330)), 또는 이들의 조합에 의해 수행될 수 있다. 이하에서는 도 5 내지 도 12에 도시된 동작들이 전자 장치에 의해 수행되는 것을 일 예로 설명하기로 한다.
도 5 내지 도 12에서 설명될 복수의 카메라들, 또는 상단 UDC 및 하단 UDC는 도 1의 카메라 모듈(180) 및 도 2의 카메라 모듈(201)에 포함될 수 있고, 도 3의 제 1 카메라(312) 및 제 2 카메라(314)일 수 있으며, 각각 도 4의 UDC(412)와 같은 구성을 가질 수 있다.
도 5는 다양한 실시예들에 따른 복수의 카메라들을 사용하여 이미지를 획득하는 동작을 설명하기 위한 도면(500)이다.
도 5를 참조하면, 일 실시예에서 전자 장치(501)는 디스플레이(510), 상단 UDC(512), 및 하단 UDC(514)를 포함할 수 있다. 상단 UDC(512)는 디스플레이(510)를 정면으로 볼 때(예: -z축 방향으로 볼 때) 디스플레이(510)의 상단 픽셀 영역(516)의 아래에 배치된 UDC를 나타낼 수 있고, 하단 UDC(514)는 디스플레이(510)의 하단 픽셀 영역(518)의 아래에 배치된 UDC를 나타낼 수 있다. 디스플레이(510)에서 상단 픽셀 영역(516)은 디스플레이(510)의 전체 영역 중 일 영역 하부에 상단 UDC(512)가 배치된 영역 또는 상단 UDC(512)의 시야각(field of view)에 대응되는 적어도 일 영역을 포함할 수 있다. 디스플레이(510)에서 하단 픽셀 영역(518)은 디스플레이(510)의 전체 영역 중 일 영역 하부에 하단 UDC(514)가 배치된 영역 또는 하단 UDC(514)의 시야각에 대응되는 적어도 일 영역을 포함할 수 있다. 디스플레이(510)에서 상단 픽셀 영역(516)은 -x축 방향으로 볼 때 하단 픽셀 영역(518)보다 위쪽에 위치한 픽셀 영역을 나타낼 수 있고, +x축 방향에서 +x, -x, y, +z, -z 축이 시작되는 지점인 원점(550)과의 거리가 가장 짧은 픽셀 영역을 나타낼 수 있다.
일 실시예에서, 디스플레이(510)가 AMOLED로 설계될 경우, 픽셀 별로 제어가 가능할 수 있다. 예를 들어, 상단 UDC(512)가 실행될 경우 상단 픽셀 영역(516)에 포함된 적어도 하나의 제 1 픽셀이 비활성화되어 상단 픽셀 영역(516)은 투명해질 수 있다.
하단 UDC(514)가 실행될 경우에는 하단 픽셀 영역(518)에 포함된 적어도 하나의 제 2 픽셀이 비활성화되어 하단 픽셀 영역(518)은 투명해질 수 있다.
일 실시예에서, 상단 픽셀 영역(516)의 적어도 하나의 제 1 픽셀과 하단 픽셀 영역(518)의 적어도 하나의 제 2 픽셀은 교대로 활성화 또는 비활성화될 수 있다. 예를 들어, 적어도 하나의 제 1 픽셀에 픽셀 온을 지시하는 전기적 신호가 제공되는 경우 적어도 하나의 제 2 픽셀에는 픽셀 오프를 지시하는 전기적 신호가 제공될 수 있고, 적어도 하나의 제 1 픽셀에 픽셀 오프를 지시하는 전기적 신호가 제공되는 경우 적어도 하나의 제 2 픽셀에는 픽셀 온을 지시하는 전기적 신호가 제공될 수 있다. 이를 기반으로, 적어도 하나의 제 1 픽셀이 활성화되는 경우 적어도 하나의 제 2 픽셀은 비활성화될 수 있고, 적어도 하나의 제 1 픽셀이 비활성화되는 경우 적어도 하나의 제 2 픽셀은 활성화될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀이 활성화된 경우, 적어도 하나의 제 1 픽셀에서 조사되는 광이 상단 UDC(512)에 의해 수집된 이미지에 적어도 하나의 제 1 픽셀의 그림자 또는 외란광의 회절에 의한 간섭으로 반영된 제 1 이미지(520)가 생성될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀이 비활성화되는 경우, 상단 픽셀 영역(516)은 투명해질 수 있다. 상단 픽셀 영역(516)이 투명해짐에 따라 적어도 하나의 제 1 픽셀에서 조사되는 광이 상단 UDC(512)에 의해 인식되지 않아 적어도 하나의 제 1 픽셀에 의한 간섭이 배제된 제 2 이미지(530)가 상단 UDC(512)에 의해 생성될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀이 활성화된 경우 적어도 하나의 제 2 픽셀은 비활성화될 수 있다. 적어도 하나의 제 2 픽셀이 비활성화된 경우, 하단 픽셀 영역(518)은 투명해질 수 있다. 하단 픽셀 영역(518)이 투명해짐에 따라 적어도 하나의 제 2 픽셀에서 조사되는 광이 하단 UDC(514)에 의해 인식되지 않아 적어도 하나의 제 2 픽셀에 의한 간섭이 배제된 제 3 이미지(522)가 하단 UDC(514)에 의해 생성될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀이 비활성화되는 경우 적어도 하나의 제 2 픽셀은 활성화될 수 있다. 적어도 하나의 제 2 픽셀이 활성화된 경우, 적어도 하나의 제 2 픽셀에서 조사되는 광이 하단 UDC(514)에 의해 수집된 이미지에 적어도 하나의 제 2 픽셀의 그림자 또는 외란광의 회절에 의한 간섭으로 반영된 제 4 이미지(532)가 생성될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀과 적어도 하나의 제 2 픽셀은 교대로 활성화 또는 비활성화되므로, 서로 다른 위치에 있는 상단 UDC(512) 및 하단 UDC(514)에 의해 실질적으로 동시에 촬영시 간섭이 서로 다른 이미지들(예: 제 1 이미지(520) 및 제 3 이미지(522), 또는 제 2 이미지(530) 및 제 4 이미지(532))이 획득될 수 있다.
일 실시예에서, 상단 UDC(512) 및 하단 UDC(514)에 의해 획득된 복수의 이미지들 중, 적어도 하나의 제 1 픽셀이 비활성화된 경우 획득된 제 2 이미지(530)와 적어도 하나의 제 2 픽셀이 비활성화된 경우 획득된 제 3 이미지(522)를 기반으로 최종 이미지(540)가 획득될 수 있다.
예를 들어, 제 2 이미지(530)와 제 3 이미지(522) 중 가장 간섭이 적은 이미지(예: 콘트라스트(contrast)가 가장 높은 이미지)가 최종 이미지(540)로 획득될 수 있다. 다른 예로, 제 2 이미지(530)에서 간섭이 가장 적은 부분과 제 3 이미지(522)에서 간섭이 가장 적은 부분을 통합하여 생성된 이미지가 최종 이미지(540)로 획득될 수 있다.
일 실시예에서, 최종 이미지(540)는 사용자 인증을 받기 위한 이미지 또는 인증 받을 이미지와 비교될 기준 이미지일 수 있다. 사용자 인증은 전자 장치가 지정된 사용자에 의해서만 사용될 수 있도록 잠금 모드가 설정되어 있는 경우, 예를 들어, 잠금 모드 해제를 위한 얼굴 인증일 수 있다.
일 실시예에서, 최종 이미지(540)를 획득하기 위해 생성된 이미지들 각각을 촬영한 UDC(예: 상단 UDC(512) 또는 하단 UDC(514)), 각 UDC의 위치, 생성된 이미지들 각각이 획득된 시간, 적어도 하나의 제 1 픽셀이 활성화된 경우 생성된 이미지(예: 제 1 이미지(520))에 포함된 간섭, 또는 적어도 하나의 제 2 픽셀이 활성화된 경우 생성된 이미지(예: 제 4 이미지(532))에 포함된 간섭 중 적어도 하나는 얼굴 인증을 위한 부가 정보로 사용되어 인증의 신뢰성을 보다 높이는 데 기여할 수 있다.
일 실시예에 따라, 얼굴 인증 동작에서 사람이 아닌 인증 대상(예: 2D 이미지, 또는 생체를 모사한 마스크와 같은 인공물)을 판별하기 위한 생체 인증 동작이 수행될 수 있다.
도 6은 다양한 실시예들에 따른 생체 인증 동작을 설명하기 위한 도면(600)이다.
도 6을 참조하면, 전자 장치(601)는 상단 UDC(612)와 하단 UDC(614)를 포함할 수 있다. 일 실시예에서, 상단 UDC(612) 또는 하단 UDC(614) 중 적어도 하나의 상부에 배치된 디스플레이 픽셀들은 도 4에서 설명된 바와 같이 점광원으로 제어될 수 있다.
일 실시예에서, 전자 장치(601)는 사용자 인증시의 디스플레이 출력 환경(예: 배경 이미지 등) 상태를 고려하여, 상단 UDC(612)의 상부에 배치된 적어도 하나의 제 1 픽셀 및 하단 UDC(614)의 상부에 배치된 적어도 하나의 제 2 픽셀 중 하나를 점광원으로 이용할 수 있다.
일 실시예에서, 상단 UDC(612)는 적어도 하나의 제 1 픽셀을 포함하는 상단 픽셀 영역(예: 도 5의 상단 픽셀 영역(516))의 주변 영역(주변 픽셀들)이 임계값 미만의 밝기를 갖는 경우 실행될 수 있고, 하단 UDC(614)는 적어도 하나의 제 2 픽셀을 포함하는 하단 픽셀 영역(예: 도 5의 하단 픽셀 영역(518))의 주변 영역이 임계값 미만의 밝기를 갖는 경우 실행될 수 있다. 상단 UDC(612)에 간섭으로 작용할 수 있는 광량은 적어도 하나의 제 1 픽셀을 포함하는 상단 픽셀 영역의 주변 영역이 밝을수록 증가할 수 있고, 하단 UDC(614)에 간섭으로 작용할 수 있는 광량은 적어도 하나의 제 2 픽셀을 포함하는 하단 픽셀 영역의 주변 영역이 밝을수록 증가할 수 있으므로 간섭의 영향을 줄이기 위해 상기와 같은 실행이 수행될 수 있다. 일 실시예에서, 상단 UDC(612) 및 하단 UDC(614) 중의 하나가 모니터링을 위해 실행되고 있는 동안에, 나머지 UDC는 비활성화/비실행/전원-오프될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀을 포함하는 상단 픽셀 영역의 주변 영역이 임계값 미만의 밝기를 가지며, 적어도 하나의 제 2 픽셀을 포함하는 하단 픽셀 영역의 주변 영역이 임계값 미만의 밝기를 갖는 경우, 상단 픽셀 영역의 주변 영역이 임계값 이상의 밝기를 갖도록 적어도 하나의 제 1 픽셀이 점광원으로 이용될 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀이 점광원으로 이용되는 동안 하단 UDC(614)는 생체 인증을 위한 이미지 수집을 위해 실행될 수 있다. 하단 픽셀 영역의 주변 영역이 임계값 미만의 밝기를 갖는 경우, 하단 UDC(614)에 간섭으로 작용할 수 있는 광량은 상단 UDC(612)가 실행되는 경우 상단 UDC(612)로 입력될 수 있는 광량에 비해 적을 수 있다. 따라서 하단 UDC(614)가 실행되는 경우 상단 UDC(612)가 실행될 때에 대비하여 좀 더 좋은 품질의 이미지를 획득할 수 있다.
일 실시예에서, 적어도 하나의 제 1 픽셀을 포함하는 상단 픽셀 영역의 주변 이미지가 임계값 이상의 밝기를 가지고, 적어도 하나의 제 2 픽셀을 포함하는 하단 픽셀 영역의 주변 이미지가 임계값 미만의 밝기를 가진다면 별도의 점광원 없이 하단 UDC(614)를 통해 생체 인증이 수행될 수 있다.
일 실시예에서, 상단 픽셀 영역의 주변 영역의 밝기가 하단 픽셀 영역의 주변 영역의 밝기보다 큰 경우 하단 UDC(614)가 실행될 수 있고, 하단 픽셀 영역의 주변 영역의 밝기가 상단 픽셀 영역의 주변 영역의 밝기보다 큰 경우 상단 UDC(612)가 실행될 수 있다.
일 실시예에서, 상단 픽셀 영역 또는 하단 픽셀 영역에 포함된 픽셀들에 대한 광량 제어를 통해 생체 인증 동작을 수행할 수 있다. 생체 인증 동작은 광량 변화에 따른 사용자의 생체 반응(예: 광량 변화에 따른 사용자의 동공 크기 변화)이 있는지 여부를 기반으로, 인증 대상이 생체(예: 사람)가 아닌 인공물인지 여부를 판별하는 동작을 포함할 수 있다.
일 실시예에서, 상단 UDC(612) 또는 하단 UDC(614)는 사용자의 생체 반응(예: 동공 크기 변화)을 확인할 수 있고, 사용자의 생체 반응 이미지를 실시간으로 수집할 수 있다.
일 실시예에서, 상단 UDC(612)가 이미지 수집 동작을 위해 실행된 경우 하단 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀은 픽셀 단위로 광량이 제어되어 점광원으로서 이용될 수 있다.
일 실시예에서, 하단 UDC(614)가 이미지 수집 동작을 위해 실행된 경우 상단 픽셀 영역에 포함된 적어도 하나의 제 1 픽셀은 픽셀 단위로 광량이 제어되어 점광원으로서 이용될 수 있다.
일 실시예에서, 점광원으로서 이용될 수 있는 적어도 하나의 제 2 픽셀 또는 적어도 하나의 제 1 픽셀은 사용자의 눈부심을 최소화할 수 있는 설정된 광량을 갖는 광을 조사할 수 있다.
도 7은 다양한 실시예들에 따른 광량 변화에 따른 동공 크기 변화를 나타낸 도면(700)이다.
일 실시예에서, 하단 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀이 발산하는 광량을 기반으로 사용자의 동공 크기는 변화될 수 있다. 예를 들어, 적어도 하나의 제 2 픽셀이 발산하는 광량이 적을 경우, 도 7의 (a)에 나타난 바와 같이 사용자의 동공 크기는 커질 수 있다. 적어도 하나의 제 2 픽셀이 발산하는 광량이 많을 경우에는 도 7의 (b)에 나타난 바와 같이 사용자의 동공 크기는 작아질 수 있다.
일 실시예에 따라, 도 7의 (a) 및 도 7의 (b)와 같은 사용자의 동공 크기를 식별할 수 있도록 하는 이미지들이 상단 UDC에 의해 실시간으로 수집될 수 있다. 상단 UDC에 의해 수집된 이미지들은 서로 비교되어 동공 크기 변화가 있는지 여부를 식별하기 위한 근거로 사용될 수 있다.
일 실시예에서, 수집된 이미지들을 기반으로 동공 크기 변화가 있음이 식별되면 인증 대상이 사람인 것으로 판단될 수 있고, 수집된 이미지들을 기반으로 동공 크기 변화가 없음이 식별되면 인증 대상이 인공물인 것으로 판단될 수 있다.
도 8은 다양한 실시예들에 따른 전자 장치에서 잠금 모드를 해제하는 동작을 설명하기 위한 도면(800)이다.
도 8의 (a)를 참조하면, 상단 UDC(812)와 하단 UDC(814)를 포함하는 전자 장치(801)는 잠금 모드를 활성화할 수 있다. 일 실시예에 따라, 전자 장치(801)는 잠금 모드가 활성화된 상태에서 얼굴 인식 요청 신호가 발생하는지를 모니터링할 수 있다. 전자 장치(801)는 전자 장치(801)에 대한 사용자의 동작(예: 사용자가 전자 장치(801)를 손에 쥐고 들어올리거나 기울이는 동작), 전자 장치(801)의 스크린 상의 터치 입력, 사용자의 음성 입력, 또는 물리 키 입력 중 적어도 하나를 기반으로 얼굴 인식 요청 신호의 발생을 검출할 수 있다.
전자 장치(801)는 얼굴 인식 요청 신호가 발생되면, 상단 UDC(812)를 실행하여 인증 대상이 사람인지 여부를 판단하기 위한 생체 인증 동작을 수행할 수 있다.
도 8의 (b)를 참조하면, 상단 UDC(812)가 실행되는 경우 상단 픽셀 영역의 적어도 하나의 제 1 픽셀은 비활성화될 수 있다. 상단 UDC(812)는 사용자의 얼굴 인증을 위한 얼굴 이미지 수집 동작을 수행할 수 있다. 일 실시예에서, 상단 픽셀 영역의 주변 밝기값이 임계값 미만인 경우에는 임계값 이상의 밝기값을 갖도록 하단 픽셀 영역의 적어도 하나의 제 2 픽셀이 활성화되어 점광원으로서의 동작을 수행할 수 있다.
일 실시예에서, 전자 장치(801)는 적어도 하나의 제 1 픽셀과 적어도 하나의 제 2 픽셀을 제어하여, 상단 UDC(812)와 하단 UDC(814)를 통해 사용자에 대한 복수의 이미지들을 획득할 수 있다. 전자 장치(801)는 복수의 이미지들 중 간섭이 가장 적은 이미지, 또는 복수의 이미지들 각각에서 간섭이 가장 적은 부분을 통합하여 생성한 이미지를 최종 이미지로 획득할 수 있다.
도 8의 (c)를 참조하면, 생체 인증 동작 결과 인증 대상이 생체(예: 사람)인 것으로 식별되고, 획득된 최종 이미지로부터 검출된 얼굴 이미지가 사전에 저장된 기준 이미지에 대응하는 경우 잠금 모드는 해제될 수 있다. 생체 인증 동작 결과 인증 대상이 생체가 아닌 것으로 식별되거나, 획득된 최종 이미지로부터 검출된 얼굴 이미지가 사전에 저장된 기준 이미지에 대응하지 않는 경우에는 잠금 모드는 유지될 수 있다.
도 9는 다양한 실시예들에 따른 전자 장치에서 미리 보기 이미지를 제공하는 동작을 설명하기 위한 도면(900)이다.
도 9의 (a)를 참조하면, 일 실시예에서, 전자 장치(901)는 잠금 모드가 해제되고 카메라 어플리케이션이 실행되면, 상단 UDC와 하단 UDC를 구동할 수 있다. 상단 UDC와 하단 UDC는 사진 촬영을 위해 이용될 수 있다. 사진 촬영을 통해 상단 UDC와 하단 UDC에 의해 획득된 이미지들은 통합되어 최종 결과 이미지로 출력될 수 있다.
전자 장치(901)는 미리 보기(preview) 모드에서 고품질의 미리 보기 이미지를 수집하기 위하여 상단 픽셀 영역(912)과 하단 픽셀 영역(914)을 교대로 활성화 또는 비활성화할 수 있다. 전자 장치(901)가 상단 픽셀 영역(912)과 하단 픽셀 영역(914)을 교대로 활성화 또는 비활성화한다는 것은 상단 픽셀 영역(912)의 적어도 하나의 제 1 픽셀과 하단 픽셀 영역(914)의 적어도 하나의 제 2 픽셀에 교대로 전기적인 신호(예: 픽셀 온 또는 픽셀 오프를 지시하는 신호)를 제공한다는 것을 의미할 수 있다. 상단 UDC는 상단 픽셀 영역(912)의 아래에 배치되고, 하단 UDC는 하단 픽셀 영역(914)의 아래에 배치될 수 있다. 상단 픽셀 영역(912) 또는 하단 픽셀 영역(914)은 도 5의 상단 픽셀 영역(516) 또는 하단 픽셀 영역(518)에 대응할 수 있다.
도 9의 (a)에 나타난 바와 같이, 하단 픽셀 영역(914)이 비활성화되고 상단 픽셀 영역(912)이 활성화되면, 하단 UDC를 통해 선명한 고화질 미리 보기 2 이미지가 생성될 수 있다.
다음으로, 도 9의 (b)에 나타난 바와 같이, 상단 픽셀 영역(912)이 비활성화되고 하단 픽셀 영역(914)이 활성화되면, 상단 UDC를 통해 선명한 고화질 미리 보기 1 이미지가 생성될 수 있다.
결과적으로 고품질의 미리 보기 이미지는 도 9의 (c)에 나타난 바와 같이, 상단 UDC와 하단 UDC에서 각각 수집된 이미지(예: 미리 보기 1 이미지 및 미리 보기 2 이미지)를 통합한 최종 결과 이미지가 될 수 있다.
일 실시예에서, 미리 보기 이미지 제공 후 사용자의 선택을 기반으로 사진 촬영이 다시 수행되는 경우, 도 9의 (d)에 나타난 바와 같이 상단 픽셀 영역(912)과 하단 픽셀 영역(914)은 모두 비활성화될 수 있다.
도 10은 다양한 실시예들에 따른 사용자 인증을 수행하는 방법의 일 예를 나타낸 흐름도(1000)이다.
다양한 실시예들에 따르면, 도 10에 도시되는 동작들은 도시되는 순서에 국한되지 않고 다양한 순서로 수행될 수 있다. 다양한 실시예들에 따르면 도 10에 도시되는 동작들 보다 더 많은 동작들이 수행되거나, 더 적은 적어도 하나의 동작이 수행될 수도 있다.
도 10을 참조하면, 동작 1002에서, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(301))는 복수의 카메라들(예: 도 1의 카메라 모듈(180), 도 2의 카메라 모듈(201), 또는 도 3의 제 1 카메라(312) 및 제 2 카메라(314))에 대응하는 디스플레이(예: 도 1의 디스플레이 모듈(160) 또는 도 3의 디스플레이(360))의 복수의 픽셀 영역들을 제어하는 동안에, 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득할 수 있다.
동작 1004에서, 전자 장치는 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득할 수 있다.
동작 1006에서, 전자 장치는 최종 이미지에 근거하여 사용자에 대한 인증을 수행할 수 있다.
도 11은 다양한 실시예들에 따른 생체 인증 동작을 수행하는 방법의 일 예를 나타낸 흐름도(1100)이다.
다양한 실시예들에 따르면, 도 11에 도시되는 동작들은 도시되는 순서에 국한되지 않고 다양한 순서로 수행될 수 있다. 다양한 실시예들에 따르면 도 11에 도시되는 동작들 보다 더 많은 동작들이 수행되거나, 더 적은 적어도 하나의 동작이 수행될 수도 있다.
도 11을 참조하면, 1102 동작에서, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(301))는 적어도 하나의 제 1 픽셀이 비활성화된 경우, 적어도 하나의 제 2 픽셀로부터 조사되는 광의 광량을 설정된 범위 내에서 변경할 수 있다. 적어도 하나의 제 1 픽셀은 제 1 카메라(예: 도 3의 제 1 카메라(312))의 상단에 배치된 제 1 픽셀 영역에 포함될 수 있고, 적어도 하나의 제 2 픽셀은 제 2 카메라(예: 도 3의 제 2 카메라(314))의 상단에 배치된 제 2 픽셀 영역에 포함될 수 있다.
1104 동작에서, 전자 장치는 적어도 하나의 제 2 픽셀로부터 조사되는 광의 광량이 설정된 범위 내에서 변경되는 동안 제 1 카메라를 통해 이미지들을 수집할 수 있다.
1106 동작에서, 전자 장치는 제 1 카메라를 통해 수집된 이미지들을 근거로 변경된 광량에 기반한 사용자의 동공 변화가 있는지 여부를 판단할 수 있다.
1108 동작에서, 전자 장치는 사용자의 동공 변화가 있는 경우, 1110 동작에서 인증 대상이 생체인 것으로 판단할 수 있다.
1110 동작에서, 전자 장치는 사용자의 동공 변화가 없는 경우, 1112 동작에서 인증 대상이 생체가 아님을 판단할 수 있다.
이하 도 12를 참조하여 생체 인증 동작을 수행하여 사용자 인증을 수행하는 방법을 설명하기로 한다.
도 12는 다양한 실시예들에 따른 사용자 인증을 수행하는 방법의 다른 예를 나타낸 흐름도(1200)이다.
다양한 실시예들에 따르면, 도 12에 도시되는 동작들은 도시되는 순서에 국한되지 않고 다양한 순서로 수행될 수 있다. 다양한 실시예들에 따르면 도 12에 도시되는 동작들 보다 더 많은 동작들이 수행되거나, 더 적은 적어도 하나의 동작이 수행될 수도 있다.
도 12를 참조하면, 동작 1202에서, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(301))는 얼굴 인식 요청 신호가 발생하는지를 모니터링할 수 있다. 일 실시예에서, 얼굴 인식 요청 신호는 전자 장치에 대한 사용자의 동작(예: 사용자가 전자 장치를 손에 쥐고 들어올리거나 기울이는 동작), 전자 장치의 스크린 상의 터치 입력, 사용자의 음성 입력, 또는 물리 키 입력 중 적어도 하나를 기반으로 발생될 수 있다. 일 실시예에 따라, 전자 장치는 얼굴 인식 요청 신호가 발생되는지를 실시간으로 모니터링하여 대기할 수 있다.
동작 1204에서, 전자 장치는 얼굴 인식 요청 신호가 발생함이 검출되면, 복수의 카메라들(예: 도 1의 카메라 모듈(180), 도 2의 카메라 모듈(201), 또는 도 3의 제 1 카메라(312) 및 제 2 카메라(314))을 활성화시킬 수 있다.
동작 1206에서, 전자 장치는 복수의 카메라들을 이용하여 최종 이미지 및 부가 정보가 포함된 인증 정보를 획득할 수 있다. 예를 들어, 전자 장치는 도 5에 나타난 바와 같은 방식으로 인증 정보를 획득할 수 있다. 일 실시예에서, 복수의 카메라들은 도 5의 상단 UDC(512) 및 하단 UDC(514)일 수 있으며, 상단 UDC(512)에 대응하는 상단 픽셀 영역(516)과 하단 UDC(514)에 대응하는 하단 픽셀 영역(518)은 교대로 활성화 또는 비활성화될 수 있다.
일 실시예에서, 상단 픽셀 영역(516)과 하단 픽셀 영역(518)이 교대로 활성화 또는 비활성화되는 동안 복수의 이미지들(예: 제 1 이미지(520), 제 2 이미지(530), 제 3 이미지 (522), 및 제 4 이미지(532))이 상단 UDC(512)와 하단 UDC(514)에 의해 수집될 수 있다. 일 실시예에서, 인증 정보에 포함된 최종 이미지는 복수의 이미지들로부터 선택된 간섭이 가장 적은 이미지일 수 있다.
일 실시예에서, 인증 정보에 포함된 부가 정보는 복수의 이미지들 각각의 특징점들에 대한 정보, 복수의 이미지들 각각이 수집된 시간 정보, 복수의 이미지들 각각이 상단 UDC(512)와 하단 UDC(514) 중 어느 UDC에 의해 획득되었는지에 대한 정보, 복수의 이미지들 각각이 포함하고 있는 간섭 정보, 또는 상단 UDC(512)와 하단 UDC(514) 각각의 위치 정보 중 적어도 하나를 포함할 수 있다.
일 실시예에서, 상단 픽셀 영역(516)이 비활성화되는 동안 상단 UDC(512)가 동작될 수 있고 하단 픽셀 영역(518)의 적어도 하나의 제 2 픽셀은 점광원으로서 광을 조사할 수 있다. 적어도 하나의 제 2 픽셀에 의해 조사되는 광의 광량은 변경될 수 있으며, 상단 UDC(512)에 의해 수집된 이미지들은 생체 인증 동작을 위해 광량 별 사용자의 동공 크기를 확인하기 위한 이미지들로서 사용될 수 있다.
일 실시예에 따라, 전자 장치는 인증 정보를 기반으로 최종 이미지에서 얼굴 영역을 검출할 수 있다. 1208 동작에서, 전자 장치는 얼굴 영역이 검출되지 않거나 얼굴 영역의 경계가 뚜렷하지 않은 경우, 1206 동작을 재수행하여 새로운 최종 이미지가 포함된 인증 정보를 다시 획득할 수 있다.
1208 동작에서, 전자 장치는 얼굴 영역이 검출되면, 1210 동작에서 얼굴 인증을 위해 필요한 얼굴 랜드마크(예: 눈, 코, 입, 또는 귀)를 추출할 수 있다.
1212 동작에서, 전자 장치는 추출된 얼굴 랜드마크와 부가 정보를 기반으로 생체 인증 동작을 수행할 수 있다. 예를 들어, 전자 장치는 얼굴 랜드마크로서 추출된 눈의 동공 크기가 최종 이미지가 획득된 시간의 광량에 대응하는 것인지 여부를 기반으로 인공물인지를 판단할 수 있다.
전자 장치는 생체 인증 동작을 통해 최종 이미지에 포함된 얼굴 영역이 생체와 관련된 것임이 판단되면, 1214 동작에서, 얼굴 인증을 위해 요구되는 특징점들을 추출하여 얼굴 인증을 위한 얼굴 유사도 비교 동작을 수행할 수 있다.
일 실시예에서, 얼굴 유사도 비교 동작은 사전에 사용자가 등록한 사용자 얼굴 영역 기준 이미지와 최종 이미지에 포함된 얼굴 영역 이미지를 비교하는 동작을 포함할 수 있다. 예를 들어, 전자 장치는 부가 정보를 기반으로 식별된 최종 이미지의 특징점들과 1214 동작에서 추출된 특징점들이 일치하는지 여부를 기반으로, 사용자 얼굴 영역 기준 이미지와 최종 이미지에 포함된 얼굴 영역 이미지가 대응되는지 여부를 판단할 수 있다.
일 실시예에서, 전자 장치는 사용자 얼굴 영역 기준 이미지와 최종 이미지에 포함된 얼굴 영역 이미지가 대응되는 경우 얼굴 인증이 성공된 것으로 판단할 수 있다. 1216 동작에서, 전자 장치는 얼굴 인증이 성공된 경우, 1218 동작에서 얼굴 인증을 종료할 것인지 여부에 대한 사용자의 선택을 받을 수 있다. 1216 동작에서, 전자 장치는 얼굴 인증이 성공되지 않은 경우, 1206 동작을 재수행하여 인증 정보를 다시 획득할 수 있다.
1218 동작에서, 전자 장치는 사용자가 얼굴 인증을 종료할 것을 선택하면 얼굴 인증 동작을 종료하고, 사용자가 얼굴 인증을 종료하지 않을 것을 선택하면 1206 동작을 재수행하여 인증 정보를 다시 획득할 수 있다.
다양한 실시예들에 따르면, 전자 장치(예: 도 1의 전자 장치(101) 또는 도 3의 전자 장치(301))에서 사용자 인증을 수행하는 방법에 있어서, 디스플레이의 하부에 배치된 복수의 카메라들(예: 도 1의 카메라 모듈(180), 도 2의 카메라 모듈(201), 또는 도 3의 제 1 카메라(312) 및 제 2 카메라(314))에 대응하는 상기 디스플레이의 복수의 픽셀 영역들(예: 도 5의 상단 픽셀 영역(516) 또는 하단 픽셀 영역(518), 도 9의 상단 픽셀 영역(912) 또는 하단 픽셀 영역(914))을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하는 동작(1002); 상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하는 동작(1004); 및 상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하는 동작(1006)을 포함할 수 있다.
일 실시예에서, 상기 복수의 이미지들을 획득하는 동작은, 상기 복수의 픽셀 영역들 중 제 1 픽셀 영역에 포함된 적어도 하나의 제 1 픽셀과 상기 복수의 픽셀 영역들 중 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 교대로 활성화 또는 비활성화하는 동작; 상기 적어도 하나의 제 1 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 1 픽셀 영역의 아래에 배치된 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하는 동작; 및 상기 적어도 하나의 제 2 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 2 픽셀 영역의 아래에 배치된 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 2 이미지를 획득하는 동작을 포함할 수 있다.
일 실시예에서, 상기 최종 이미지를 획득하는 동작은, 상기 적어도 하나의 제 1 이미지 및 상기 적어도 하나의 제 2 이미지 중 간섭이 가장 적은 이미지를 상기 최종 이미지로 획득하는 동작을 포함할 수 있다.
일 실시예에서, 상기 최종 이미지를 획득하는 동작은, 상기 적어도 하나의 제 1 이미지에서 간섭이 가장 적은 부분과 상기 적어도 하나의 제 2 이미지에서 간섭이 가장 적은 부분을 통합하여 생성한 이미지를 상기 최종 이미지로 획득하는 동작을 포함할 수 있다.
일 실시예에서, 상기 적어도 하나의 제 1 픽셀이 활성화되는 동안, 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 3 이미지를 획득하는 동작; 상기 적어도 하나의 제 2 픽셀이 활성화되는 동안, 상기 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 4 이미지를 획득하는 동작; 및 상기 적어도 하나의 제 3 이미지 및 상기 적어도 하나의 제 4 이미지 각각에 포함된 간섭 정보를 상기 인증을 수행하기 위한 부가 정보로 사용하는 동작을 더 포함할 수 있다.
일 실시예에서, 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하는 동작은, 상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 제 1 픽셀 영역의 주변 밝기값이 임계값 미만인지 확인하는 동작; 상기 제 1 픽셀 영역의 주변 밝기값이 상기 임계값 미만인 경우, 설정된 광량을 갖는 광을 조사하도록 상기 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 제어하는 동작; 및 상기 적어도 하나의 제 2 픽셀이 상기 광을 조사하는 동안, 상기 제 1 픽셀 영역의 아래에 배치된 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하는 동작을 포함할 수 있다.
일 실시예에서, 상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 적어도 하나의 제 2 픽셀로부터 조사되는 광의 광량을 설정된 범위 내에서 변경하는 동작; 상기 광의 광량이 설정된 범위 내에서 변경되는 동안 상기 제 1 카메라를 통해 이미지들을 수집하는 동작; 상기 수집된 이미지들을 근거로 상기 변경된 광량에 기반한 상기 사용자의 동공 변화가 있는지 여부를 판단하는 동작; 및 상기 판단 결과를 기반으로 인증 대상이 생체인지 여부를 판단하는 동작을 더 포함할 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서,'비일시적'은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    메모리;
    디스플레이;
    상기 디스플레이의 하부에 배치된 복수의 카메라들; 및
    상기 메모리, 상기 디스플레이, 및 상기 복수의 카메라들과 작동적으로 연결된 적어도 하나의 프로세서를 포함하며,
    상기 적어도 하나의 프로세서는,
    상기 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하고,
    상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하고,
    상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하도록 설정된 전자 장치.
  2. 제1항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 복수의 픽셀 영역들 중 제 1 픽셀 영역에 포함된 적어도 하나의 제 1 픽셀과 상기 복수의 픽셀 영역들 중 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 교대로 활성화 또는 비활성화하고,
    상기 적어도 하나의 제 1 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 1 픽셀 영역의 아래에 배치된 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하고,
    상기 적어도 하나의 제 2 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 2 픽셀 영역의 아래에 배치된 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 2 이미지를 획득하도록 설정된 전자 장치.
  3. 제2항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 적어도 하나의 제 1 이미지 및 상기 적어도 하나의 제 2 이미지 중 간섭이 가장 적은 이미지를 상기 최종 이미지로 획득하도록 설정된 전자 장치.
  4. 제2항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 적어도 하나의 제 1 이미지에서 간섭이 가장 적은 부분과 상기 적어도 하나의 제 2 이미지에서 간섭이 가장 적은 부분을 통합하여 생성한 이미지를 상기 최종 이미지로 획득하도록 설정된 전자 장치.
  5. 제2항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 적어도 하나의 제 1 픽셀이 활성화되는 동안, 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 3 이미지를 획득하고,
    상기 적어도 하나의 제 2 픽셀이 활성화되는 동안, 상기 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 4 이미지를 획득하고,
    상기 적어도 하나의 제 3 이미지 및 상기 적어도 하나의 제 4 이미지 각각에 포함된 간섭 정보를 상기 인증을 수행하기 위한 부가 정보로 사용하도록 설정된 전자 장치.
  6. 제2항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 제 1 픽셀 영역의 주변 밝기값이 임계값 미만인지 확인하고,
    상기 제 1 픽셀 영역의 주변 밝기값이 상기 임계값 미만인 경우, 설정된 광량을 갖는 광을 조사하도록 상기 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 제어하고,
    상기 적어도 하나의 제 2 픽셀이 상기 광을 조사하는 동안, 상기 제 1 픽셀 영역의 아래에 배치된 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하도록 설정된 전자 장치.
  7. 제2항에 있어서,
    상기 적어도 하나의 프로세서는,
    상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 적어도 하나의 제 2 픽셀로부터 조사되는 광의 광량을 설정된 범위 내에서 변경하고,
    상기 광의 광량이 설정된 범위 내에서 변경되는 동안 상기 제 1 카메라를 통해 이미지들을 수집하고,
    상기 수집된 이미지들을 근거로 상기 변경된 광량에 기반한 상기 사용자의 동공 변화가 있는지 여부를 판단하고,
    상기 판단 결과를 기반으로 인증 대상이 생체인지 여부를 판단하도록 설정된 전자 장치.
  8. 전자 장치에서 사용자 인증을 수행하는 방법에 있어서,
    디스플레이의 하부에 배치된 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하는 동작;
    상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하는 동작; 및
    상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하는 동작을 포함하는 방법.
  9. 제8항에 있어서,
    상기 복수의 이미지들을 획득하는 동작은,
    상기 복수의 픽셀 영역들 중 제 1 픽셀 영역에 포함된 적어도 하나의 제 1 픽셀과 상기 복수의 픽셀 영역들 중 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 교대로 활성화 또는 비활성화하는 동작;
    상기 적어도 하나의 제 1 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 1 픽셀 영역의 아래에 배치된 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하는 동작; 및
    상기 적어도 하나의 제 2 픽셀이 비활성화되는 동안, 상기 복수의 카메라들 중 상기 제 2 픽셀 영역의 아래에 배치된 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 2 이미지를 획득하는 동작을 포함하는 방법.
  10. 제9항에 있어서,
    상기 최종 이미지를 획득하는 동작은,
    상기 적어도 하나의 제 1 이미지 및 상기 적어도 하나의 제 2 이미지 중 간섭이 가장 적은 이미지를 상기 최종 이미지로 획득하는 동작을 포함하는 방법.
  11. 제9항에 있어서,
    상기 최종 이미지를 획득하는 동작은,
    상기 적어도 하나의 제 1 이미지에서 간섭이 가장 적은 부분과 상기 적어도 하나의 제 2 이미지에서 간섭이 가장 적은 부분을 통합하여 생성한 이미지를 상기 최종 이미지로 획득하는 동작을 포함하는 방법.
  12. 제9항에 있어서,
    상기 적어도 하나의 제 1 픽셀이 활성화되는 동안, 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 3 이미지를 획득하는 동작;
    상기 적어도 하나의 제 2 픽셀이 활성화되는 동안, 상기 제 2 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 4 이미지를 획득하는 동작; 및
    상기 적어도 하나의 제 3 이미지 및 상기 적어도 하나의 제 4 이미지 각각에 포함된 간섭 정보를 상기 인증을 수행하기 위한 부가 정보로 사용하는 동작을 더 포함하는 방법.
  13. 제9항에 있어서,
    상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하는 동작은,
    상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 제 1 픽셀 영역의 주변 밝기값이 임계값 미만인지 확인하는 동작;
    상기 제 1 픽셀 영역의 주변 밝기값이 상기 임계값 미만인 경우, 설정된 광량을 갖는 광을 조사하도록 상기 제 2 픽셀 영역에 포함된 적어도 하나의 제 2 픽셀을 제어하는 동작; 및
    상기 적어도 하나의 제 2 픽셀이 상기 광을 조사하는 동안, 상기 제 1 픽셀 영역의 아래에 배치된 상기 제 1 카메라를 통해 상기 사용자에 대한 적어도 하나의 제 1 이미지를 획득하는 동작을 포함하는 방법.
  14. 제9항에 있어서,
    상기 적어도 하나의 제 1 픽셀이 비활성화된 경우, 상기 적어도 하나의 제 2 픽셀로부터 조사되는 광의 광량을 설정된 범위 내에서 변경하는 동작;
    상기 광의 광량이 설정된 범위 내에서 변경되는 동안 상기 제 1 카메라를 통해 이미지들을 수집하는 동작;
    상기 수집된 이미지들을 근거로 상기 변경된 광량에 기반한 상기 사용자의 동공 변화가 있는지 여부를 판단하는 동작; 및
    상기 판단 결과를 기반으로 인증 대상이 생체인지 여부를 판단하는 동작을 더 포함하는 방법.
  15. 명령들을 저장하고 있는 비일시적 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은,
    디스플레이의 하부에 배치된 복수의 카메라들에 대응하는 상기 디스플레이의 복수의 픽셀 영역들을 제어하는 동안에, 상기 복수의 카메라들을 통해 사용자에 대한 복수의 이미지들을 획득하는 동작;
    상기 획득된 복수의 이미지들 중 적어도 하나의 이미지에 근거하여 최종 이미지를 획득하는 동작; 및
    상기 최종 이미지에 근거하여 상기 사용자에 대한 인증을 수행하는 동작을 포함하는 저장 매체.
PCT/KR2022/000702 2021-03-15 2022-01-14 사용자 인증을 위한 방법, 장치 및 저장 매체 WO2022196916A1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US18/467,169 US20240004980A1 (en) 2021-03-15 2023-09-14 Method, device, and storage medium for user authentication

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2021-0033206 2021-03-15
KR1020210033206A KR20220128730A (ko) 2021-03-15 2021-03-15 사용자 인증을 위한 방법, 장치 및 저장 매체

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/467,169 Continuation US20240004980A1 (en) 2021-03-15 2023-09-14 Method, device, and storage medium for user authentication

Publications (1)

Publication Number Publication Date
WO2022196916A1 true WO2022196916A1 (ko) 2022-09-22

Family

ID=83320691

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/000702 WO2022196916A1 (ko) 2021-03-15 2022-01-14 사용자 인증을 위한 방법, 장치 및 저장 매체

Country Status (3)

Country Link
US (1) US20240004980A1 (ko)
KR (1) KR20220128730A (ko)
WO (1) WO2022196916A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070120879A1 (en) * 2005-10-17 2007-05-31 I2Ic Corporation Combined Video Display and Camera System
US20140146127A1 (en) * 2012-11-29 2014-05-29 Cisco Technology, Inc. Capturing Video through a Display
KR20160147943A (ko) * 2014-04-28 2016-12-23 퀄컴 인코포레이티드 디스플레이 통합형 사용자 분류, 보안 및 지문 시스템
KR20180047330A (ko) * 2016-10-31 2018-05-10 엘지전자 주식회사 카메라 장치 및 이를 포함하는 이동 단말기
KR20200128454A (ko) * 2017-01-26 2020-11-12 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 전자 장치 및 이미지 획득 방법

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070120879A1 (en) * 2005-10-17 2007-05-31 I2Ic Corporation Combined Video Display and Camera System
US20140146127A1 (en) * 2012-11-29 2014-05-29 Cisco Technology, Inc. Capturing Video through a Display
KR20160147943A (ko) * 2014-04-28 2016-12-23 퀄컴 인코포레이티드 디스플레이 통합형 사용자 분류, 보안 및 지문 시스템
KR20180047330A (ko) * 2016-10-31 2018-05-10 엘지전자 주식회사 카메라 장치 및 이를 포함하는 이동 단말기
KR20200128454A (ko) * 2017-01-26 2020-11-12 광동 오포 모바일 텔레커뮤니케이션즈 코포레이션 리미티드 전자 장치 및 이미지 획득 방법

Also Published As

Publication number Publication date
KR20220128730A (ko) 2022-09-22
US20240004980A1 (en) 2024-01-04

Similar Documents

Publication Publication Date Title
WO2022030855A1 (ko) 피사체와 배경에 효과를 적용하여 이미지를 생성하는 전자 장치 및 그 방법
WO2022030838A1 (ko) 프리뷰 이미지를 제어하는 전자 장치 및 방법
WO2022092706A1 (ko) 복수의 카메라를 이용한 사진 촬영 방법 및 그 장치
WO2022149654A1 (ko) 흔들림 보정을 수행하는 전자 장치 및 그 동작 방법
WO2022235075A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022244970A1 (ko) 전자 장치의 촬영 방법 및 그 전자 장치
WO2022235043A1 (ko) 복수의 카메라를 포함하는 전자 장치 및 그 동작 방법
WO2022245129A1 (ko) 오브젝트 추적 방법 및 이를 위한 전자 장치
WO2022196993A1 (ko) 카메라 모듈의 화각을 이용하여 이미지를 촬영하는 전자 장치 및 방법
WO2022196916A1 (ko) 사용자 인증을 위한 방법, 장치 및 저장 매체
WO2022191407A1 (ko) 사용자 인터페이스를 제공하기 위한 방법, 장치 및 저장 매체
WO2022240186A1 (ko) 이미지 왜곡을 보정하는 방법 및 그 전자 장치
WO2022245148A1 (ko) 이미지 처리 방법 및 그 전자 장치
WO2022245037A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2021230507A1 (ko) 영상 촬영 가이드를 제공하는 방법 또는 장치
WO2022154164A1 (ko) 화각을 조정할 수 있는 전자 장치 및 그 동작 방법
WO2023277585A1 (ko) 신경망을 통해 이미지를 처리하는 방법 및 그 전자 장치
WO2022031050A1 (ko) 이미지를 생성하는 전자 장치 및 방법
WO2022203355A1 (ko) 복수의 카메라들을 포함하는 전자 장치
WO2022250344A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2022220621A1 (ko) 반사체 및 렌즈 어셈블리를 포함하는 전자 장치
WO2022080737A1 (ko) 이미지의 왜곡을 보정하는 방법 및 그 전자 장치
WO2021251631A1 (ko) 초점 조절 기능을 포함하는 전자 장치 및 방법
WO2022231270A1 (ko) 전자 장치 및 그의 이미지 처리 방법
WO2024106746A1 (ko) 디지털 보케 이미지의 해상도를 높이기 위한 전자 장치 및 방법

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22771582

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 22771582

Country of ref document: EP

Kind code of ref document: A1