WO2023080338A1 - 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법 - Google Patents

복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법 Download PDF

Info

Publication number
WO2023080338A1
WO2023080338A1 PCT/KR2022/000058 KR2022000058W WO2023080338A1 WO 2023080338 A1 WO2023080338 A1 WO 2023080338A1 KR 2022000058 W KR2022000058 W KR 2022000058W WO 2023080338 A1 WO2023080338 A1 WO 2023080338A1
Authority
WO
WIPO (PCT)
Prior art keywords
templates
electronic device
camera device
face
images
Prior art date
Application number
PCT/KR2022/000058
Other languages
English (en)
French (fr)
Inventor
김민철
이시우
Original Assignee
삼성전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자 주식회사 filed Critical 삼성전자 주식회사
Priority to EP22711140.8A priority Critical patent/EP4207106A4/en
Priority to US17/592,865 priority patent/US20230135449A1/en
Publication of WO2023080338A1 publication Critical patent/WO2023080338A1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G06V40/167—Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/50—Maintenance of biometric data or enrolment thereof

Definitions

  • Various embodiments of the present disclosure relate to an electronic device and method for performing face authentication using a plurality of cameras.
  • Various embodiments of the present disclosure may provide an electronic device and method capable of enhancing reliability of face authentication and user convenience in face authentication of an electronic device having a plurality of cameras.
  • a method of an electronic device including a memory, a first camera device having a first characteristic, and a second camera device having a second characteristic different from the first characteristic includes: Receiving a face information registration request; acquiring a plurality of first images through the first camera device based on the request; performing filter processing on each of the plurality of first images; 2 An operation of generating a plurality of second images reflecting the second characteristic of the camera device, an operation of generating a plurality of first templates based on the plurality of first images, and an operation of generating a plurality of second images based on the plurality of second images. An operation of generating second templates and an operation of completing registration of the face information by storing the plurality of first templates and the plurality of second templates in the memory.
  • FIG. 3 is a diagram illustrating a folded state of the electronic device of FIG. 2 according to various embodiments of the present disclosure.
  • FIG. 4 is a block diagram of an electronic device according to various embodiments.
  • FIG. 6 is an example for explaining an operation of generating a transform filter according to various embodiments.
  • FIG. 7 is an example illustrating an operation of converting an image obtained from a first camera device according to an exemplary embodiment.
  • FIG. 10 is an example illustrating an operation of generating a plurality of first and second templates by using an image acquired from a first camera device by an electronic device according to an exemplary embodiment.
  • 11 is a flowchart illustrating an operation of managing a plurality of templates by an electronic device according to an exemplary embodiment.
  • FIG. 13 is an example illustrating an operation of adjusting priorities of a plurality of templates based on a matching score by an electronic device according to an embodiment.
  • the electronic device 101 includes a processor 120, a memory 130, an input module 150, an audio output module 155, a display module 160, an audio module 170, a sensor module ( 176), interface 177, connection terminal 178, haptic module 179, camera module 180, power management module 188, battery 189, communication module 190, subscriber identification module 196 , or the antenna module 197 may be included.
  • at least one of these components eg, the connection terminal 178) may be omitted or one or more other components may be added.
  • some of these components eg, sensor module 176, camera module 180, or antenna module 197) are integrated into a single component (eg, display module 160). It can be.
  • the processor 120 for example, executes software (eg, the program 140) to cause at least one other component (eg, hardware or software component) of the electronic device 101 connected to the processor 120. It can control and perform various data processing or calculations. According to one embodiment, as at least part of data processing or operation, processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 .
  • software eg, the program 140
  • processor 120 transfers instructions or data received from other components (e.g., sensor module 176 or communication module 190) to volatile memory 132. , processing commands or data stored in the volatile memory 132 , and storing resultant data in the non-volatile memory 134 .
  • the secondary processor 123 may, for example, take the place of the main processor 121 while the main processor 121 is in an inactive (eg, sleep) state, or the main processor 121 is active (eg, running an application). ) state, together with the main processor 121, at least one of the components of the electronic device 101 (eg, the display module 160, the sensor module 176, or the communication module 190) It is possible to control at least some of the related functions or states.
  • the auxiliary processor 123 eg, an image signal processor or a communication processor
  • the auxiliary processor 123 may include a hardware structure specialized for processing an artificial intelligence model.
  • AI models can be created through machine learning. Such learning may be performed, for example, in the electronic device 101 itself where the artificial intelligence model is performed, or may be performed through a separate server (eg, the server 108).
  • the learning algorithm may include, for example, supervised learning, unsupervised learning, semi-supervised learning or reinforcement learning, but in the above example Not limited.
  • the artificial intelligence model may include a plurality of artificial neural network layers.
  • the program 140 may be stored as software in the memory 130 and may include, for example, an operating system 142 , middleware 144 , or an application 146 .
  • the sound output module 155 may output sound signals to the outside of the electronic device 101 .
  • the sound output module 155 may include, for example, a speaker or a receiver.
  • the speaker can be used for general purposes such as multimedia playback or recording playback.
  • a receiver may be used to receive an incoming call. According to one embodiment, the receiver may be implemented separately from the speaker or as part of it.
  • the display module 160 may visually provide information to the outside of the electronic device 101 (eg, a user).
  • the display module 160 may include, for example, a display, a hologram device, or a projector and a control circuit for controlling the device.
  • the display module 160 may include a touch sensor configured to detect a touch or a pressure sensor configured to measure the intensity of force generated by the touch.
  • the interface 177 may support one or more designated protocols that may be used to directly or wirelessly connect the electronic device 101 to an external electronic device (eg, the electronic device 102).
  • the interface 177 may include, for example, a high definition multimedia interface (HDMI), a universal serial bus (USB) interface, an SD card interface, or an audio interface.
  • HDMI high definition multimedia interface
  • USB universal serial bus
  • SD card interface Secure Digital Card interface
  • audio interface audio interface
  • connection terminal 178 may include a connector through which the electronic device 101 may be physically connected to an external electronic device (eg, the electronic device 102).
  • the connection terminal 178 may include, for example, an HDMI connector, a USB connector, an SD card connector, or an audio connector (eg, a headphone connector).
  • the battery 189 may supply power to at least one component of the electronic device 101 .
  • the battery 189 may include, for example, a non-rechargeable primary cell, a rechargeable secondary cell, or a fuel cell.
  • a corresponding communication module is a first network 198 (eg, a short-range communication network such as Bluetooth, wireless fidelity (WiFi) direct, or infrared data association (IrDA)) or a second network 199 (eg, legacy It may communicate with the external electronic device 104 through a cellular network, a 5G network, a next-generation communication network, the Internet, or a telecommunications network such as a computer network (eg, a LAN or a WAN).
  • a telecommunications network such as a computer network (eg, a LAN or a WAN).
  • These various types of communication modules may be integrated as one component (eg, a single chip) or implemented as a plurality of separate components (eg, multiple chips).
  • the wireless communication module 192 may support a 5G network after a 4G network and a next-generation communication technology, for example, NR access technology (new radio access technology).
  • NR access technologies include high-speed transmission of high-capacity data (enhanced mobile broadband (eMBB)), minimization of terminal power and access of multiple terminals (massive machine type communications (mMTC)), or high reliability and low latency (ultra-reliable and low latency (URLLC)).
  • eMBB enhanced mobile broadband
  • mMTC massive machine type communications
  • URLLC ultra-reliable and low latency
  • -latency communications can be supported.
  • the wireless communication module 192 may support a high frequency band (eg, mmWave band) to achieve a high data rate, for example.
  • the antenna module 197 may transmit or receive signals or power to the outside (eg, an external electronic device).
  • the antenna module 197 may include an antenna including a radiator formed of a conductor or a conductive pattern formed on a substrate (eg, PCB).
  • the antenna module 197 may include a plurality of antennas (eg, an array antenna). In this case, at least one antenna suitable for a communication method used in a communication network such as the first network 198 or the second network 199 is selected from the plurality of antennas by the communication module 190, for example. can be chosen A signal or power may be transmitted or received between the communication module 190 and an external electronic device through the selected at least one antenna.
  • other components eg, a radio frequency integrated circuit (RFIC) may be additionally formed as a part of the antenna module 197 in addition to the radiator.
  • RFIC radio frequency integrated circuit
  • the antenna module 197 may form a mmWave antenna module.
  • the mmWave antenna module includes a printed circuit board, an RFIC disposed on or adjacent to a first surface (eg, a lower surface) of the printed circuit board and capable of supporting a designated high frequency band (eg, mmWave band); and a plurality of antennas (eg, array antennas) disposed on or adjacent to a second surface (eg, a top surface or a side surface) of the printed circuit board and capable of transmitting or receiving signals of the designated high frequency band. can do.
  • commands or data may be transmitted or received between the electronic device 101 and the external electronic device 104 through the server 108 connected to the second network 199 .
  • Each of the external electronic devices 102 or 104 may be the same as or different from the electronic device 101 .
  • all or part of operations executed in the electronic device 101 may be executed in one or more external electronic devices among the external electronic devices 102 , 104 , or 108 .
  • the electronic device 101 when the electronic device 101 needs to perform a certain function or service automatically or in response to a request from a user or another device, the electronic device 101 instead of executing the function or service by itself.
  • one or more external electronic devices may be requested to perform the function or at least part of the service.
  • One or more external electronic devices receiving the request may execute at least a part of the requested function or service or an additional function or service related to the request, and deliver the execution result to the electronic device 101 .
  • the electronic device 101 may provide the result as at least part of a response to the request as it is or additionally processed.
  • cloud computing distributed computing, mobile edge computing (MEC), or client-server computing technology may be used.
  • the electronic device 101 may provide an ultra-low latency service using, for example, distributed computing or mobile edge computing.
  • the external electronic device 104 may include an internet of things (IoT) device.
  • Server 108 may be an intelligent server using machine learning and/or neural networks. According to one embodiment, the external electronic device 104 or server 108 may be included in the second network 199 .
  • the electronic device 101 may be applied to intelligent services (eg, smart home, smart city, smart car, or health care) based on 5G communication technology and IoT-related technology.
  • phrases such as “,” and “at least one of A, B, or C” may include any one of the items listed together in that phrase, or all possible combinations thereof.
  • Terms such as “first”, “second”, or “first” or “secondary” may simply be used to distinguish a given component from other corresponding components, and may be used to refer to a given component in another aspect (eg, importance or order) is not limited.
  • a (e.g., first) component is said to be “coupled” or “connected” to another (e.g., second) component, with or without the terms “functionally” or “communicatively.”
  • the certain component may be connected to the other component directly (eg by wire), wirelessly, or through a third component.
  • the storage medium is a tangible device and does not contain a signal (e.g. electromagnetic wave), and this term refers to the case where data is stored semi-permanently in the storage medium. It does not discriminate when it is temporarily stored.
  • a signal e.g. electromagnetic wave
  • the method according to various embodiments of the present disclosure may be included and provided in a computer program product.
  • Computer program products may be traded between sellers and buyers as commodities.
  • a computer program product is distributed in the form of a device-readable storage medium (e.g. compact disc read only memory (CD-ROM)), or through an application store (e.g. Play StoreTM) or on two user devices (e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • a device-readable storage medium e.g. compact disc read only memory (CD-ROM)
  • an application store e.g. Play StoreTM
  • two user devices e.g. It can be distributed (eg downloaded or uploaded) online, directly between smart phones.
  • at least part of the computer program product may be temporarily stored or temporarily created in a device-readable storage medium such as a manufacturer's server, an application store server, or a relay server's memory.
  • FIG. 2 is a diagram illustrating an unfolded state of the electronic device 200 according to various embodiments of the present disclosure.
  • FIG. 3 is a diagram illustrating a folded state of the electronic device 200 of FIG. 2 according to various embodiments of the present disclosure.
  • the electronic device 200 includes a pair of housings 210 and 220 rotatably coupled with respect to a folding axis A1 through a hinge module (not shown) to be folded with respect to each other. ) (eg, a foldable housing), a first display 230 (eg, a flexible display, a foldable display, or a main display) disposed through a pair of housings 210 and 220, and a second A display 251 (eg, a sub display) may be included.
  • the hinge module is disposed not to be visible from the outside through the first housing 210 and the second housing 220 in a folded state, protects the hinge module in an unfolded state, and folds the foldable portion.
  • the surface on which the first display 230 is disposed may be defined as the front of the electronic device 200, and the opposite surface of the front may be defined as the rear of the electronic device 200. Also, a surface surrounding the space between the front and rear surfaces may be defined as a side surface of the electronic device 200 .
  • the pair of housings 210 and 220 may include a first housing 210 and a second housing 220 disposed to be foldable with respect to each other through a hinge module.
  • the pair of housings 210 and 220 are not limited to the shapes and combinations shown in FIGS. 2 and 3 , and may be implemented by other shapes or combinations and/or combinations of parts.
  • the first housing 210 and the second housing 220 may be disposed on both sides of the folding axis A1 and have a generally symmetrical shape with respect to the folding axis A1.
  • the first housing 210 and the second housing 220 may be asymmetrically folded with respect to the folding axis A1.
  • the first housing 210 and the second housing 220 determine whether the electronic device 200 is in an unfolded state (eg, a first state) or a folded state (eg, a folded state). Second state) or intermediate state (eg, third state), the mutually formed angle or distance may be different.
  • the second housing 220 is connected to the hinge module in an unfolded state of the electronic device 200 and has a third surface 221 disposed to face the front of the electronic device 200, and a third A fourth surface 222 facing the opposite direction of the surface 221, and a second side member 223 surrounding at least a portion of the second space between the third surface 221 and the fourth surface 222. can do.
  • the first surface 211 may face the same direction as the third surface 221 in an unfolded state and face the third surface 221 in a folded state.
  • the electronic device 200 may include a recess 201 formed to accommodate the first display 230 through structural coupling of the first housing 210 and the second housing 220. may be According to one embodiment, the recess 201 may have substantially the same size as the first display 230 .
  • the hinge cover 265 may be disposed between the first housing 210 and the second housing 220 to cover the hinge module. According to an embodiment, the hinge cover 265 is covered by a part of the first housing 210 and the second housing 220 according to an unfolded state, a folded state, or an intermediate state of the electronic device 200, or may be exposed to the outside. For example, when the electronic device 200 is in an unfolded state, the hinge cover 265 may not be exposed because it is covered by the first housing 210 and the second housing 220 . According to an embodiment, when the electronic device 200 is in a folded state, the hinge cover 265 may be exposed to the outside between the first housing 210 and the second housing 220 .
  • the hinge cover 265 when the first housing 210 and the second housing 220 are in an intermediate state in which they are folded with a certain angle, the hinge cover 265 intersects the first housing 210 and It may be at least partially exposed to the outside of the electronic device 200 between the second housing 220 .
  • an area where the hinge cover 265 is exposed to the outside may be smaller than a completely folded state.
  • the hinge cover 265 may include a curved surface.
  • the first housing 210 and the second housing 220 form an angle of about 180 degrees, and the first display ( The first region 230a, the folding region 230c, and the second region 230b of 230 may form the same plane and may be disposed to face the same direction.
  • the first housing 210 rotates at an angle of 360 degrees with respect to the second housing 220 so that the second surface 212 and the fourth surface 222 It may be reversed so that it faces (out-folding method).
  • the first housing 210 and the second housing 220 may be disposed at a certain angle to each other.
  • the first region 230a and the second region 230b of the first display 230 may form an angle greater than that of the folded state and smaller than that of the unfolded state, and the radius of curvature of the folding region 230c is the folded state. It may be larger than the state.
  • the first housing 210 and the second housing 220 may form an angle capable of stopping at a designated folding angle between a folded state and an unfolded state through a hinge module (free stop function). .
  • the first housing 210 and the second housing 220 may operate while being pressed in an unfolding direction or a folding direction based on a designated inflection angle through a hinge module.
  • the electronic device 200 includes at least one display 230 or 251 disposed in the first housing 210 and/or the second housing 220, an input device 215, and an audio output device. (227, 228), sensor modules (217a, 217b, 226), camera modules (216a, 216b, 225), key input device 219, indicator (not shown), or at least one of the connector port 229.
  • the electronic device 200 may omit at least one of the components or additionally include at least one other component.
  • At least one display 230 or 251 is supported from the first surface 211 of the first housing 210 to the third surface 221 of the second housing 220 via a hinge module.
  • a first display 230 e.g., a flexible display
  • the first display 230 may be mainly used in an unfolded state of the electronic device 200
  • the second display 251 may be mainly used in a folded state of the electronic device 200.
  • the electronic device 200 displays the first display 230 or the second display 251 based on the folding angle of the first housing 210 and the second housing 220 in an intermediate state. can be used
  • the first rear cover 240 is, for example, coated or colored glass, ceramic, polymer, metal (eg, aluminum, stainless steel (STS), or magnesium), or any of the above materials. It may be formed by an opaque plate, such as a combination of at least the two.
  • the second rear cover 250 may be formed through a substantially transparent plate, such as, for example, glass or polymer. Accordingly, the second display 251 may be disposed to be visible from the outside through the second rear cover 250 in the inner space of the second housing 220 .
  • the input device 215 may include a microphone 215 .
  • the input device 215 may include a plurality of microphones 215 disposed to detect the direction of sound.
  • the sound output devices 227 and 228 may include speakers 227 and 228 .
  • the speakers 227 and 228 are connected through the receiver 227 disposed through the fourth surface 222 of the second housing 220 and the side member of the second housing 220.
  • An external speaker 228 may be disposed.
  • the microphone 215, speakers 227, 228 and connector port 229 are disposed in spaces of the first housing 210 and/or the second housing 220, and the first housing ( 210) and/or may be exposed to the external environment through at least one hole formed in the second housing 220.
  • holes formed in the first housing 210 and/or the second housing 220 may be commonly used for the microphone 215 and the speakers 227 and 228 .
  • the sound output devices 227 and 228 may include an operated speaker (eg, a piezo speaker) while excluding holes formed in the first housing 210 and/or the second housing 220. there is.
  • the camera devices 216a, 216b, and 225 may include one or a plurality of lenses, an image sensor, and/or an image signal processor.
  • at least one of camera devices 216a, 216b, and 225 includes two or more lenses (wide-angle and telephoto lenses) and image sensors, and includes first housing 210 and/or second housing 210 . 2 may be disposed together on either side of the housing 220.
  • At least one camera device (eg, the first camera device 216a) among the camera devices 216a, 216b, and 225 is an active area (display) of a display (eg, the first display 230). area), it may not be visually visible from the outside.
  • the at least one camera device (eg, the first camera device 216a) is based on receiving light transmitted through an active area (display area) of a display (eg, the first display 230).
  • An image of an external subject may be obtained, and may be referred to as an under display camera (UDC) or an under panel camera (UPC).
  • UDC under display camera
  • UPC under panel camera
  • At least one camera device among the camera devices 216a, 216b, and 225 has a display (eg, the second display 251) with a hole in a portion thereof. It can be arranged to be visually visible from the outside through an opening (eg punch hole).
  • the electronic device 200 may further include at least one of a sensor module (not shown), for example, an air pressure sensor, a magnetic sensor, a biosensor, a temperature sensor, a humidity sensor, or a fingerprint recognition sensor.
  • a sensor module for example, an air pressure sensor, a magnetic sensor, a biosensor, a temperature sensor, a humidity sensor, or a fingerprint recognition sensor.
  • the fingerprint recognition sensor may be disposed through at least one side member of the first side member 213 of the first housing 210 and/or the second side member 223 of the second housing 220. may be
  • the key input device 219 may be disposed to be exposed to the outside through the first side member 213 of the first housing 210 . In some embodiments, the key input device 219 may be disposed to be exposed to the outside through the second side member 223 of the second housing 220 . In some embodiments, the electronic device 200 may not include some or all of the above-mentioned key input devices 219, and the key input devices 219 that are not included are at least one display 230, 251 ) can be implemented in other forms such as soft keys. Alternatively, the key input device 219 may be implemented using a pressure sensor included in at least one display 230 or 251 .
  • the connector port 229 may accommodate a connector (eg, a USB connector or an interface connector port module (IF module)) for transmitting and receiving power and/or data to and from the external electronic device 101 .
  • a connector eg, a USB connector or an interface connector port module (IF module)
  • IF module interface connector port module
  • the connector port 229 performs a function for transmitting and receiving audio signals to and from the external electronic device 101, or a separate connector port (eg, an ear jack hole) for transmitting and receiving audio signals. may further include.
  • An electronic device (eg, the electronic device 101 of FIG. 1 ) according to various embodiments includes a first camera device (eg, the first camera device 216a of FIG. 2 ) having a first characteristic, the first characteristic A second camera device (eg, the second camera device 225 of FIG. 2 ), a memory (eg, the memory 130 of FIG. 1 ), and the first camera device 216a having a second characteristic different from a second camera device 225 and a processor operatively coupled with the memory 130 (eg, the processor 120 of FIG. 1 ), wherein the memory 130, when executed, A, a face information registration request is received through the first camera device 216a, and based on the request, a plurality of first images (eg, the plurality of first images in FIG.
  • the first images 920 of are acquired, and filter processing is performed on each of the plurality of first images 920 to obtain a plurality of second images reflecting the second characteristic of the second camera device 225.
  • Images eg, the plurality of second images 910 of FIG. 9
  • a plurality of first templates eg, the plurality of first images 910 of FIG. 9
  • 1 templates 930 are created, and a plurality of second templates (eg, the plurality of second templates 940 of FIG. 9) are created based on the plurality of second images 910,
  • the memory 130 may include a first template storage (eg, the first template storage 413 of FIG. 4 ) configured to correspond to the first camera device 216a, and the second camera device. 225, and includes a second template storage (eg, the second template storage 414 of FIG. 4), and the first template storage 413 and the second template storage 414 are hardware or can be separated from each other in terms of software.
  • a first template storage eg, the first template storage 413 of FIG. 4
  • the second template storage eg, the second template storage 414 of FIG. 4
  • the first template storage 413 stores the plurality of first templates 930 and the plurality of second templates 940, and the plurality of first templates 930 ) is applied and arranged to precede the plurality of second templates 940 in sorting order
  • the second template storage 414 includes the plurality of first templates 930 and the A plurality of second templates 940 may be stored, and priorities may be applied to the plurality of second templates 940 so that the plurality of second templates 940 are arranged prior to the plurality of first templates 930 in sorting order. there is.
  • the first camera device 216a is a UDC disposed under an active area of the first display of the electronic device 101
  • the second camera device 225 is a UDC disposed under the electronic device 101. It may be a camera device disposed on a part of the second display of or around the second display.
  • the processor 120 receives a face authentication request through the second camera device 225, and based on the face authentication request, the processor 120 receives the face authentication request.
  • the plurality of first templates 930 and the plurality of second templates 940 stored in the template storage 414 are compared with the image acquired through the second camera device 225, and the comparison Based on the result, it may be determined whether or not to perform face authentication.
  • it further comprises a first housing, a second housing, and a hinge module disposed between the first housing and the second housing, wherein the first display is configured to extend the second housing from a portion of the first housing. It may be disposed to extend into the housing, and the second display may be disposed to face an opposite direction to the first display in an unfolded state in which the first housing and the second housing are disposed parallel to each other.
  • the first camera device 216a captures an image by receiving light transmitted through at least a portion of the first display
  • the second camera device 225 captures an image of the second display. It can be arranged to face the same direction as.
  • the processor 120 receives a request for registration of face information through the second camera device 225, and based on the request, the processor 120 receives a plurality of information through the second camera device 225.
  • Second images 910 are acquired, and filter processing is performed on each of the plurality of second images 910 to obtain a plurality of first images in which the first characteristic of the first camera device 216a is reflected.
  • 920 is generated, a plurality of first templates 930 are generated based on the plurality of first images 920, and a plurality of second templates 930 are generated based on the plurality of second images 910.
  • An electronic device 101 including a memory 130 according to various embodiments, a first camera device 216a having a first characteristic, and a second camera device 225 having a second characteristic different from the first characteristic.
  • the method of ) includes receiving a request for registering face information through the first camera device 216a, and generating a plurality of first images 920 through the first camera device 216a based on the request. Obtaining, filter processing is performed on each of the plurality of first images 920 to generate a plurality of second images 910 in which the second characteristic of the second camera device 225 is reflected.
  • An operation of generating a plurality of first templates 930 based on the plurality of first images 920, a plurality of second templates 940 based on the plurality of second images 910 ), and storing the plurality of first templates 930 and the plurality of second templates 940 in the memory 130 to complete registration of the face information. can do.
  • the memory 130 includes a first template storage 413 configured to correspond to the first camera device 216a and a second template storage configured to correspond to the second camera device 225 . 414, the first template storage 413 and the second template storage 414 may be separated from each other in terms of hardware or software.
  • the plurality of first templates 930 and the plurality of second templates 940 are stored in the first template storage 413, and the plurality of first templates 930 ) to which priority is applied to the plurality of second templates 940 in order of arrangement, and in the second template storage 414, the plurality of first templates 930 and storing the plurality of second templates 940, but priorities are applied to the plurality of second templates 940 so that the arrangement order is prior to the plurality of first templates 930. More actions may be included.
  • the first camera device 216a is a UDC disposed under an active area of the first display of the electronic device 101
  • the second camera device 225 is a UDC disposed under the electronic device 101. It may be a camera device disposed on a part of the second display of or around the second display.
  • the operation of optimizing each of the plurality of first templates 930 and each of the plurality of second templates 940 is further included, and the The optimizing operation may include displaying a screen requesting the user to capture the face again through the user interface, the user's face image captured through the first camera device 216a and the plurality of first templates 930 an operation of calculating the similarity of the designated first template from among, and if the similarity of the designated first template is less than a designated reference value, the designated first template and the designated first template from among the designated first template and the plurality of second templates 940 An operation of deleting a designated second template forming a pair may be included.
  • the electronic device 101 after the registration of the face information is completed, an operation of receiving a face authentication request, and based on the face authentication request, the electronic device 101 connects the first housing and the second housing.
  • Checking whether the electronic device 101 is in the folded state or the unfolded state facing each other, performing face authentication based on obtaining a face image through the first camera device 216a when the electronic device 101 is in the unfolded state and, when the electronic device 101 is in the folded state, may further include an operation of performing authentication based on obtaining a face image through the second camera device 225 .
  • An operation of generating a plurality of first templates 930 based on the plurality of first images 920, a plurality of second templates based on the plurality of second images 910 ( 940), and completing registration of the face information by storing the plurality of first templates 930 and the plurality of second templates 940 in the memory 130. may further include.
  • the electronic device 101 shown in FIG. 4 may include an embodiment at least partially similar to or different from the electronic device 101 shown in FIG. 1 .
  • the electronic device 101 illustrated in FIG. 4 may include an embodiment at least partially similar to or different from the electronic device 200 illustrated in FIGS. 2 and 3 .
  • the first camera device 216a may be an under display camera (UDC) or an under panel camera (UPC), and the second camera device 225 may be a hole-in display (HID) camera.
  • UDC under display camera
  • UPC under panel camera
  • HID hole-in display
  • the first camera device 216a and the second camera device 225 may be of any type as long as they have different characteristics.
  • the first camera device 216a may be the first camera device 216a described with reference to FIGS. 2 and 3 .
  • the first camera device 216a may include at least one of the first display (eg, the first display 230 of FIG. 2 ) so that the user can take a selfie while looking at the first display 230 . It may be a camera device disposed in a portion or around the first display 230 .
  • the first camera device 216a may be an under display camera (UDC) or an under panel camera (UPC) disposed below an active area of a display (eg, the first display 230).
  • UDC under display camera
  • UPC under panel camera
  • the second camera device 225 may be the second camera device 225 described with reference to FIGS. 2 and 3 .
  • the second camera device 225 may include at least one of the second display (eg, the second display 251 of FIG. 2 ) so that the user can take a selfie while looking at the second display 251 . It may be a camera device disposed in a portion or around the second display 251 .
  • a portion of the second display 251 of the second camera device 225 may be visually visible from the outside through an opening (eg, a punch hole).
  • the processor 120 may obtain image data through the first camera device 216a and/or the second camera device 225 .
  • the processor 120 sets a plurality of first templates for face authentication based on a first image (eg, the first image 920 of FIG. 10 ) obtained from the first camera device 216a. (eg, the plurality of first templates 930 of FIG. 10 ) and a plurality of second templates (eg, the plurality of second templates 940 of FIG. 10 ) may be generated. According to an embodiment, the processor 120 selects a plurality of first templates for face authentication based on a second image (eg, the second image 910 of FIG. 9 ) obtained from the second camera device 225 . 930 and a plurality of second templates 940 may be generated.
  • a first image eg, the first image 920 of FIG. 10
  • a plurality of second templates eg, the plurality of second templates 940 of FIG. 10
  • the processor 120 may receive a face authentication request after performing an operation of generating a plurality of first and second templates 930 and 940 .
  • the processor 120 obtains a user's face image using the first camera device 216a or the second camera device 225 in response to the face authentication request, Face authentication may be performed based on comparing the plurality of first and second templates 930 and 940 .
  • the processor 120 may use a face image and a plurality of first and second templates 930 according to a priority corresponding to the type of a camera device that captures the face image. 940) can be compared. For example, if the camera device that captures the face image is the first camera device 216a, the processor 120 selects the first camera device 216a from among the plurality of first and second templates 930 and 940. Priorities may be set for the plurality of first templates 930 corresponding to . For example, if the camera device that captures the face image is the second camera device 225, the processor 120 selects the second camera device 225 from among the plurality of first and second templates 930 and 940.
  • the processor 120 based on the result of the face authentication, the matching score (eg, the matching score for each of the plurality of first and second templates 930 and 940 used for face authentication)
  • the matching score 1301) can be updated.
  • the processor 120 may deduct the matching score 1301 for a template for which face authentication has failed among the plurality of first and second templates 930 and 940 .
  • the processor 120 may add a matching score 1301 to a template for which face authentication has succeeded among the plurality of first and second templates 930 and 940 .
  • the processor 120 may provide a secure execution environment having relatively high security through the memory 130 .
  • the electronic device 101 may operate a general execution environment and a secure execution environment.
  • the general execution environment may be named a rich execution environment (REE) and may have relatively low security.
  • the secure execution environment may be named a trusted execution environment or a trusted execution environment (TEE), and may have relatively higher security than a general execution environment.
  • the secure execution environment may include, for example, a TrustZone.
  • the electronic device 101 may store data requiring a relatively high security level in a secure execution environment and perform a related operation.
  • the secure execution environment is operated by the processor 120 of the electronic device 101 and may operate based on a reliable hardware structure determined in a manufacturing process of the electronic device 101 .
  • the secure execution environment divides the processor 120 or the memory 130 into a general area and a secure area to operate in the secure area.
  • the electronic device 101 may operate a secure execution environment through physical change of hardware or logical change of software. For example, a secure execution environment and a general execution environment are logically separated memory areas and may be included in the same memory in terms of hardware.
  • the secure execution environment may operate separately from the general execution environment in terms of hardware or in terms of software in the same hardware.
  • the image conversion data 411 includes characteristics of each of the plurality of camera devices included in the electronic device 101 (eg, the first camera device 216a and the second camera device 225). A filter data set calculated based on a difference value corresponding to the difference may be included. According to an embodiment, the image conversion data 411 may include at least one conversion filter data. According to an embodiment, the transformation filter data converts a first image captured through the first camera device 216a into an image substantially identical to or similar to a second image captured through the second camera device 225.
  • the processor 120 applies a first transformation filter to a first image captured through the first camera device 216a so that the second image captured through the second camera device 225 is substantially the same as or Similar images can be created.
  • the transformation filter data converts the second image captured through the second camera device 225 into an image substantially identical to or similar to the first image captured through the first camera device 216a.
  • the processor 120 may apply a second transformation filter to a second image captured through the second camera device 225 so that the first image captured through the first camera device 216a is substantially the same as or Similar images can be created.
  • the multi-face image generation unit 412 may generate a plurality of images by using image conversion data 411 obtained through a designated camera device.
  • the plurality of generated images may be images in which characteristics of other camera devices other than the specified camera device are reflected.
  • the multi-face image generation unit 412 when the first image photographed by the processor 120 through the first camera device 216a is input, the image conversion data 411 (eg, the first image) An image substantially the same as or similar to a second image photographed through the second camera device 225 may be generated from the first image input using the first transformation filter.
  • the multi-face image generation unit 412 when the second image photographed by the processor 120 through the second camera device 225 is input, converts the image data 411 (eg, the second image). 2 transform filter), an image substantially identical to or similar to the first image photographed through the first camera device 216a may be generated from the input second image.
  • the image data 411 eg, the second image. 2 transform filter
  • the electronic device 101 receives a face authentication request through the first camera device 216a and uses a designated second template generated based on the characteristics of the second camera device 225 in a face authentication operation. If face authentication is successful using , the priority and sorting order of the designated second template in the first template storage 413 may be increased.
  • the second template storage 414 may store a plurality of templates for performing face authentication through the second camera device 225 .
  • the plurality of templates stored in the second template storage 414 include not only the plurality of second templates 940 generated based on the characteristics of the second camera device 225 but also the first camera device ( At least one first template generated based on the characteristics of 216a) may also be included.
  • the electronic device 101 preferentially stores and arranges the plurality of second templates 940 generated based on the characteristics of the second camera device 225 in the second template storage 414.
  • the electronic device 101 receives a face authentication request through the second camera device 225 and uses a designated first template generated based on the characteristics of the first camera device 216a in a face authentication operation. If face authentication is successful using , the priority and sorting order of the designated first template in the second template storage 414 may be increased.
  • templates generated in a face information registration operation may be stored for each identification information of each camera device.
  • the first template storage 413 may store templates corresponding to face authentication through the first camera device 216a, and the first templates generated based on the characteristics of the first camera device 216a are given priority.
  • the second template storage 414 may store templates corresponding to face authentication through the second camera device 225, and the second templates generated based on the characteristics of the second camera device 225 are given priority. can be arranged as
  • each of the first template storage 413 and the second template storage 414 stores templates based on an image captured by a camera device among a plurality of camera devices. It may include the source information of the image indicating whether it was created with
  • the matching module 415 when the matching module 415 receives a face authentication request from the processor 120, the first template storage 413 or the second template storage 414 is referred to and obtained through a designated camera device. A face image may be compared with a plurality of templates, and face authentication may be determined according to the comparison result. For example, when the matching module 415 receives a face authentication request through the first camera device 216a, the plurality of templates stored in the first template storage 413 and the first camera device ( Face images obtained through step 216a) are compared, and face authentication may be determined according to the comparison result.
  • the template control module 416 may control operations related to face authentication under the control of the processor 120 .
  • the template control module 416 controls the matching module 415, and according to a face authentication result through the matching module 415, a plurality of templates stored in the first template storage 413 and/or second The priority and arrangement order of the plurality of templates stored in the template storage 414 may be changed.
  • the electronic device 101 can enhance security by performing and managing operations and data related to face authentication within a secure execution environment.
  • 5 is a flowchart illustrating an operation of the electronic device 101 according to various embodiments.
  • At least some of the operations shown in FIG. 5 may be omitted. Before or after the at least some operations shown in FIG. 5 , at least some operations mentioned with reference to other drawings according to various embodiments of the present disclosure may be additionally inserted.
  • the operations shown in FIG. 5 may be performed by the processor 120 (eg, the processor 120 of FIG. 1 or 4).
  • the processor 120 eg, the processor 120 of FIG. 1 or 4
  • the memory 130 of the electronic device 101 eg, the memory 130 of FIG. 1 or 4
  • the electronic device 101 as shown in FIG. It may store instructions (instructions) for performing at least some of the operations.
  • the electronic device 101 may obtain a plurality of first images (eg, the first image 920 of FIG. 10) through the first camera device 216a.
  • the electronic device 101 may capture a plurality of first images 920 including the user's face through the first camera device 216a in an unfolded state.
  • the electronic device 101 performs a filter process (eg, the filter process 701 of FIG. 7 ) on each of the plurality of first images 920 to obtain a plurality of second images. (eg, the second image 910 of FIG. 10) may be created.
  • the electronic device 101 may generate a plurality of images by using image conversion data 411 of an image acquired through a designated camera device by controlling the multi-face image generator 412 . there is.
  • the plurality of generated images may be images in which characteristics of other camera devices other than the specified camera device are reflected.
  • the multi-face image generation unit 412 when the first image 920 photographed by the processor 120 through the first camera device 216a is input, the multi-face image generation unit 412 generates image conversion data 411 ( Example: A second image 910 substantially identical to or similar to an image photographed through the second camera device 225 may be generated from the first image 920 input using a first transformation filter.
  • the multi-face image generating unit 412 captures a second image (eg, the second image of FIG. 9 ( 910) is input, the second image 910 input using the image conversion data 411 (eg, the second transformation filter) is substantially the same as or similar to an image captured through the first camera device 216a.
  • a first image eg, the first image 920 of FIG. 9
  • a first image may be generated.
  • the electronic device 101 selects a face area (eg, the face area 921 of FIG. 10 ) of each of a plurality of first images (eg, the first image 920 of FIG. 10 ). ), it is possible to generate a plurality of first templates 930 based on.
  • the electronic device 101 may determine a face area from each of a plurality of first images and generate a plurality of first templates 930 based on the determined face area 921 .
  • the electronic device 101 may store the generated first templates 930 in the first template storage 413 of the secure execution environment.
  • the electronic device 101 selects a face area (eg, the face area 911 of FIG. 9 ) of each of a plurality of second images (eg, the second image 910 of FIG. 9 ). ), a plurality of second templates 940 may be generated.
  • the electronic device 101 may determine a face area from each of the plurality of second images 910 and generate a plurality of second templates 940 based on the determined face area 911. there is.
  • the electronic device 101 may store the generated second templates 940 in a second template storage (eg, the second template storage 414 of FIG. 4 ) of the secure execution environment.
  • the second template storage 414 may be physically separated from the first template storage 413 (eg, the first template storage 413 of FIG. 4 ) or may be software-separated from the storage.
  • operation 520 of the electronic device 101 for performing face authentication may include the following operations.
  • the electronic device 101 after performing a registration operation such as operation 510, the electronic device 101 according to an embodiment may receive a face authentication request and perform the following operations in response to the face authentication request.
  • the electronic device 101 may receive a face authentication request through the second camera device 225.
  • the electronic device 101 may receive a face authentication request through the second camera device 225 in a folded state of the electronic device 101 as described with reference to FIG. 3 .
  • the electronic device 101 may receive a face authentication request through the first camera device 216a.
  • the electronic device 101 may receive a face authentication request through the first camera device 216a in an unfolded state of the electronic device 101 as described with reference to FIG. 2 .
  • FIG. 5 in various embodiments of the present disclosure describes only receiving a face authentication request through the second camera device 225, face authentication through the first camera device 216a Receiving a request is also subject to change and substitution.
  • the electronic device 101 displays at least one of the image acquired through the second camera device 225 and the plurality of second templates 940 and the plurality of first templates 930. Face authentication can be performed based on one. For example, when receiving a face authentication request through the second camera device 225, the electronic device 101 controls the matching module 415 to obtain a plurality of templates stored in the second template storage 414. , and the face image obtained through the second camera device 225 may be compared, and face authentication may be determined according to the comparison result. At this time, the plurality of templates stored in the second template storage 414 may be prioritized and sorted with respect to the plurality of second templates 940 generated based on the characteristics of the second camera device 225.
  • FIG. 6 is an example for explaining an operation of generating a transform filter according to various embodiments.
  • FIG. 7 is an example illustrating an operation of converting an image obtained from the first camera device 216a according to an exemplary embodiment.
  • FIG. 8 is an example illustrating an operation of converting an image acquired from the second camera device 225 according to an exemplary embodiment.
  • the electronic device 101 before performing operation 510 of the electronic device 101 for registering face information, described with reference to FIG. 5 , the electronic device 101 performs an operation of generating and storing a transformation filter in advance. can be done
  • the electronic device 101 may acquire a plurality of second images 602 through the second camera device 225 .
  • the second image 602 may include a face image obtained by photographing the user's face through the second camera device 225 .
  • the electronic device 101 compares the plurality of first images 601 and the plurality of second images 602 as shown in 611 of FIG.
  • the difference between the two images 602 can be calculated.
  • the electronic device 101 may use a deep learning method as a method of calculating a difference between the first image 601 and the second image 602 .
  • the electronic device 101 may calculate a difference value by comparing the resolution, illuminance, and/or the first image 601 and the second image 602 captured by a designated light source.
  • the electronic device 101 may obtain a first transform filter and a second transform filter based on a difference value according to a result of performing the deep learning, as shown in 612 of FIG. 6 .
  • the first transform filter and the second transform filter may be used when the electronic device 101 generates templates for each of the first camera device 216a and the second camera device 225 .
  • the electronic device 101 may generate a plurality of second images (eg, the second image 910 of FIG. 10 ) by using the first transform filter.
  • the electronic device 101 uses a first transformation filter and/or a second transformation filter to generate templates corresponding to characteristics of a camera device that has captured an image.
  • templates corresponding to characteristics of camera devices other than the camera device capturing the image may also be created.
  • the electronic device 101 when photographing through the first camera device 216a and/or the second camera device 225, is illuminated by various light sources such as a red light source and/or a purple light source.
  • various light sources such as a red light source and/or a purple light source.
  • the converted image 712 obtained is, unlike the first image 711, which is an original image captured through the first camera device 216a, an image with less noise and reduced light blur, and a second camera device 216a. It may be substantially the same as or similar to the image captured through (225).
  • the converted image when the electronic device 101 generates a converted image substantially identical to or similar to an image captured through the second camera device 225 from an original image captured through the first camera device 216a.
  • the converted image may be generated by applying a sharpness filter to a portion where blur occurs due to the characteristics of UDC.
  • the electronic device 101 in generating the first transform filter, sets a radius value, a color noise value, and/or a threshold value of the camera device to a deep value. It is calculated through running, but the characteristics of the UDC and/or the property of the display (eg, the first display 230) overlapping with the UDC may be considered.
  • spot blur may occur in an image captured by UDC, such as the first camera device 216a.
  • the electronic device 101 may generate a transform filter similar to a bokeh effect by deep learning considering characteristics of UDC.
  • the electronic device 101 may generate a transform filter to which various characteristics are applied according to the properties of the display disposed to overlap the UDC, for example, the first display 230 .
  • specified noise may occur in an image due to a physical constraint that received light must pass through an active area of the display.
  • the electronic device 101 may generate a second transform filter by deep learning on the designated noise. Accordingly, as shown in FIG.
  • the electronic device 101 performs a filter process 801 of applying a second transformation filter to the second image 811 captured through the second camera device 225.
  • a converted image 812 substantially identical to or similar to an image photographed through the first camera device 216a may be obtained.
  • the obtained converted image 812 unlike the second image 811, which is an original image captured through the second camera device 225, is an image with a lot of noise and a light blur phenomenon applied intentionally. It may be substantially the same as or similar to an image captured through the camera device 216a.
  • FIG. 9 is an example illustrating an operation of generating a plurality of first and second templates 930 and 940 by using an image acquired from the second camera device 225 by the electronic device 200 according to an exemplary embodiment.
  • a face information registration request may be received in a folded state of the electronic device 200 .
  • the electronic device 200 in response to the request, activates the second camera device 225 and obtains at least one second image 910 through the second camera device 225. can do.
  • the second image 910 may include a face image of a user captured through the second camera device 225 in a folded state of the electronic device 200 .
  • the electronic device 200 may determine the face area 911 from the second image 910 and generate the second template 940 based on the determined face area 911 .
  • the electronic device 200 may extract a face image corresponding to the face region 911 of the second image 910 and generate a second template 940 based on the extracted face image.
  • the electronic device 200 determines a face area 911 from each of the plurality of second images 910, and sets a plurality of second templates 940 based on the determined face area 911. ) can be created.
  • the electronic device 200 performs a filter process (eg, the Toh 8 filter) to apply a second conversion filter to each of the plurality of second images 910 in the secure execution environment of the memory 130.
  • a filter process eg, the Toh 8 filter
  • a plurality of first images 920 may be obtained.
  • the plurality of first images 920 are not images directly captured through the first camera device 216a, but the plurality of second images 910 are subjected to the filter processing (eg, the filter of Toe 8).
  • the image may be substantially the same as or similar to the image captured through the first camera device 216a.
  • the electronic device 200 may determine a face area from the plurality of first images 920 and generate a plurality of first templates 930 based on the determined face area.
  • FIG. 10 is an example illustrating an operation of generating a plurality of first and second templates 930 and 940 by using an image acquired from the first camera device 216a by the electronic device 200 according to an exemplary embodiment.
  • a face information registration request may be received in an unfolded state of the electronic device 200 .
  • the electronic device 200 activates the first camera device 216a in response to the request, and displays a plurality of first images 920 through the first camera device 216a, or At least one first image 920 may be acquired.
  • the first image 920 may include a face image of a user captured through the first camera device 216a in an unfolded state of the electronic device 200 .
  • the electronic device 200 may determine the face area 921 from the first image 920 and generate the first template 930 based on the determined face area 921 .
  • the electronic device 200 may extract a face image corresponding to the face region 921 of the first image 920 and generate a first template 930 based on the extracted face image.
  • the electronic device 200 determines a face area 921 from each of the plurality of first images 920 and sets a plurality of first templates 930 based on the determined face area 921 . ) can be created.
  • the electronic device 200 stores a plurality of first templates 930 in a first template storage 413, and stores a plurality of second templates 940 in a first template storage 413. ) and may be stored in the second template storage 414 that is physically separated or software-separated.
  • 11 is a flowchart illustrating an operation of managing a plurality of templates by the electronic device 200 according to an exemplary embodiment.
  • FIG. 12 is an example illustrating an operation of optimizing a plurality of templates by the electronic device 200 according to an exemplary embodiment.
  • the electronic device 200 performs an operation of managing a plurality of templates stored in the memory 130, for example, a plurality of first templates 930 and a plurality of second templates 940. can do.
  • operation 510 of the electronic device 200 described with reference to FIG. 5 may further include operation 516 for optimizing a plurality of templates in a registration operation of face information.
  • the electronic device 200 may further perform operation 1100 of adjusting matching scores and/or priorities of a plurality of pre-stored templates based on a result of face authentication.
  • the electronic device 200 in operation 516, the electronic device 200 according to an embodiment generates a plurality of first templates 930 and a plurality of second templates 940 in a face information registration operation.
  • Optimization operations may be performed on the generated templates.
  • FIG. 12 after the electronic device 200 generates a plurality of first templates 930 and a plurality of second templates 940, information about the generated templates A user interface 1201 for performing optimization may be provided.
  • the electronic device 200 may request the user to take a face image again through the interface 1201 .
  • the electronic device 200 obtains an image (eg, 1210 of FIG.
  • the electronic device 200 may compare a face image corresponding to the determined face region (eg, 1211 of FIG. 12 ) with a plurality of first templates 930 and a plurality of second templates 940 previously generated. .
  • the template 932 and the template 942 may be set to form a pair and may be templates generated based on one face image.
  • the template 933 and the template 943 may be set to form a pair and may be templates generated based on one face image.
  • the template 934 and the template 944 may be set to form a pair and may be templates generated based on one face image.
  • the electronic device 200 performs an optimization operation on the plurality of first templates 930 or the plurality of second templates 940, but sets the first template 930 to form a pair. ) and the second template 940 are smaller than a predetermined reference value (eg, 1220 of FIG. 12 ), both the first template 930 and the second template 940 set to form a pair may be deleted. .
  • the electronic device 200 may acquire a face image through the first camera device 216a and calculate a similarity between the acquired face image and the template 931 . When the similarity of the template 931 is greater than or equal to a specified reference value (eg, 1220 in FIG.
  • the electronic device 200 stores the template 931 and the template 941 forming a pair with the template 931 to obtain the template 931 and the template 941. Optimization can be completed.
  • the electronic device 200 may acquire a face image through the first camera device 216a and calculate a similarity between the acquired face image and the template 933 .
  • the electronic device 200 optimizes the template 933 and the template 943 by deleting the template 933 and the template 943 paired with the template 933 when the similarity of the template 933 is less than a specified reference value (eg, 1220 of FIG. 12 ). may be completed.
  • a specified reference value eg, 1220 of FIG. 12
  • the electronic device 200 may obtain a face image through, for example, the second camera device 225, and calculate a similarity between the obtained face image and the template 941. there is.
  • the electronic device 200 stores the template 941 and the template 931 forming a pair with the template 941 to obtain the template 931 and the template 941. optimization can be completed.
  • the electronic device 200 may obtain a face image through the second camera device 225 and calculate a similarity between the obtained face image and the template 943 .
  • the electronic device 200 optimizes the template 933 and the template 943 by deleting the template 943 and the template 933 paired with the template 943 when the similarity of the template 943 is less than a specified reference value (eg, 1220 of FIG. 12 ). can be completed.
  • a specified reference value eg, 1220 of FIG. 12
  • the electronic device 200 may prevent unnecessary use of the memory 130 and increase processing speed by performing an optimization operation.
  • the electronic device 200 may proceed to the background from the last operation of the face information registration operation without additional user input.
  • the electronic device 200 may perform an optimization operation in the background while displaying a progress rate of a designated value, for example, a registration progress rate of about 80%, through a user interface for registering face information.
  • Operation 520 shown in FIG. 11 may be at least partially similar to or substantially the same as operation 520 shown in FIG. 5 .
  • the electronic device 200 may perform operation 1110 when face authentication is completed (eg, the result of operation 520 is “yes”). Operation 1110 may include the following operations.
  • the electronic device 200 may determine a matching score for each of a plurality of templates based on a face authentication result. For example, the electronic device 200 may set a matching score for each of the plurality of first templates 930 and the plurality of second templates 940, and the matching score may be adjusted according to a face authentication result.
  • the electronic device 200 may increase a matching score for the corresponding template.
  • the electronic device 200 may reduce a matching score for the corresponding template.
  • the electronic device 200 may update optimal templates corresponding to the corresponding camera device whenever the user performs face authentication through this method.
  • the electronic device 200 first stores each of the plurality of templates in the memory 130 based on the matching score (eg, 1301 of FIG. 13 ) of each of the plurality of templates.
  • ranking can be determined.
  • the priority may be a factor that determines an arrangement order compared with a face image obtained through a camera device when performing a face authentication operation.
  • the electronic device 200 stores a plurality of templates stored in the first template storage 413 corresponding to the first camera device 216a. Templates having a higher priority among the first templates 930 and the plurality of second templates 940 may be sequentially compared with face images acquired through the first camera device 216a.
  • a plurality of templates are arranged in the first template storage 413, they may be arranged in the order of templates having a high priority to templates having a low priority.
  • the electronic device 200 may update the arrangement order of the plurality of templates stored in the memory 130 based on priority.
  • the electronic device 200 stores a plurality of first templates 930 generated based on the characteristics of the first camera device 216a in a first template storage 413. It can be set to prioritize saving and sorting. After the setting, the electronic device 200 receives a face authentication request through the first camera device 216a and uses a designated second template generated based on the characteristics of the second camera device 225 in a face authentication operation. If face authentication is successful using , the priority and sorting order of the designated second template in the first template storage 413 may be increased.
  • the electronic device 200 stores a plurality of second templates 940 generated based on the characteristics of the second camera device 225 in the second template storage 414. You can set priorities to save and sort. After the setting, the electronic device 200 receives a face authentication request through the second camera device 225 and uses a designated first template generated based on the characteristics of the first camera device 216a in a face authentication operation. If face authentication is successful using , the priority and sorting order of the designated first template in the second template storage 414 may be increased.
  • an order of templates to be preferentially matched may be determined according to the type of camera device currently attempting authentication. For example, if the camera device attempting authentication is a UDC, templates created by considering the characteristics of the UDC are first used for matching, and then templates created by considering the characteristics of other camera devices other than the UDC are used for matching. can be used for
  • the electronic device considers the characteristics of other camera devices other than the UDC when authentication is not completed even though the camera device attempting authentication is a UDC and the templates generated by considering the characteristics of the UDC are first matched.
  • the generated templates can be used for matching.
  • the electronic device 200 calculates a matching score for the designated template. can be increased (e.g. increase match score by +1).
  • a camera device attempting authentication is a UDC
  • the electronic device uses another camera.
  • Templates included in a template storage (eg, the second template storage 414) corresponding to the device may be used for matching.
  • the electronic device stores the designated template in a template repository configured to correspond to the UDC ( Example: A template that has been copied to the first template storage 413 and has the lowest matching score in the template storage set to correspond to the UDC (eg, the first template storage 413) may be deleted.
  • FIG. 14 is a flowchart illustrating an operation in which the electronic device 200 performs face authentication according to an exemplary embodiment.
  • At least some of the operations shown in FIG. 14 may be omitted. Before or after the at least some operations shown in FIG. 14 , at least some operations mentioned with reference to other drawings in various embodiments of the present disclosure may be additionally inserted.
  • Operations shown in FIG. 14 may be performed by processor 120 (eg, processor 120 of FIG. 1 ).
  • the memory 130 eg, the memory 130 of FIG. 1
  • the processor 120 when executed by the processor 120, causes the electronic device 200 to at least some of the parts shown in FIG. It can store instructions to perform actions.
  • the flowchart illustrated in FIG. 14 may include an embodiment at least partially similar to or different from operation 520 described with reference to FIG. 5 .
  • the electronic device 200 may receive a face authentication request.
  • the electronic device 200 may detect the occurrence of a face authentication request event for verifying the identity of an authentication target based on the executed application.
  • the electronic device 200 may perform security authentication required through a designated application or unlock the electronic device 200 through face authentication.
  • the electronic device 200 may determine a camera device for face authentication based on the state of the electronic device 200.
  • the electronic device 200 may check the state of the electronic device 200 based on receiving a face authentication request. For example, the electronic device 200 may determine whether the electronic device 200 is in a folded state or an unfolded state.
  • the electronic device 200 may determine to perform face authentication through the first camera device 216a when the electronic device 200 is in an unfolded state.
  • the electronic device 200 may determine to perform face authentication through the second camera device 225 when the electronic device 200 is in a folded state.
  • the electronic device 200 may check whether the camera device for face authentication is the first camera device 216a.
  • the electronic device 200 may perform operation 1441 when the camera device performing face authentication is the first camera device 216a (eg, the result of operation 1430 is “Yes”).
  • the electronic device 200 may perform face authentication if the camera device performing face authentication is not the first camera device 216a (eg, the result of operation 1430 is “No”, that is, the camera device performing face authentication). If is the second camera device 225), operation 1451 may be performed.
  • the electronic device 200 may acquire a first face image through the first camera device 216a.
  • the electronic device 200 may acquire a first image including a user's face captured through the first camera device 216a and obtain a first face image corresponding to a face region from the first image.
  • the electronic device 200 compares a first face image with a plurality of first templates and second templates based on a priority corresponding to the first camera device 216a.
  • the electronic device 200 may refer to the first template storage 413 for face authentication through the first camera device 216a.
  • the first template storage 413 a plurality of first templates 930 generated based on the characteristics of the first camera device 216a are preferentially stored and arranged, and the characteristics of the second camera device 225 are stored. At least one second template generated based on may also be stored.
  • the electronic device 200 may complete face authentication according to a result of comparing the first face image with a plurality of first templates and second templates stored in the first template storage 413 .
  • the electronic device 200 may obtain a second face image through the second camera device 225.
  • the electronic device 200 may obtain a second image including a user's face captured through the second camera device 225 and obtain a second face image corresponding to the face region from the second image.
  • the electronic device 200 In operation 1452, the electronic device 200 according to an exemplary embodiment generates a second face image, a plurality of first templates 930, and a second template based on a priority corresponding to the second camera device 225. s 940 can be compared.
  • the electronic device 200 may refer to the second template storage 414 for face authentication through the second camera device 225 .
  • a plurality of second templates 940 generated based on the characteristics of the second camera device 225 are preferentially stored and arranged, and the characteristics of the first camera device 216a are stored. At least one first template generated based on may also be stored.
  • the electronic device 200 compares the second face image with the plurality of first templates 930 and 940 stored in the second template storage 414, according to a result. Face authentication can be completed.

Abstract

본 개시의 다양한 실시예들은 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법에 관한 것으로, 상기 전자 장치의 방법은, 제 1 특성을 갖는 제 1 카메라 장치를 통한 얼굴 정보의 등록 요청을 수신하는 동작, 상기 요청에 기반하여, 상기 제 1 카메라 장치를 통해 복수의 제 1 이미지들을 획득하는 동작, 상기 복수의 제 1 이미지들 각각에 필터 처리를 수행하여, 제 2 카메라 장치의 제 2 특성이 반영된 복수의 제 2 이미지들을 생성하는 동작, 상기 복수의 제 1 이미지들을 기반으로 복수의 제 1 템플릿들을 생성하는 동작, 상기 복수의 제 2 이미지들을 기반으로 복수의 제 2 템플릿들을 생성하는 동작, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 메모리에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하는 동작을 포함할 수 있다. 본 개시는 그 밖에 다양한 실시예들을 더 포함할 수 있다.

Description

복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법
본 개시의 다양한 실시예들은 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법에 관한 것이다.
얼굴 인증 기술은, 생체 인증 기술로서, 전자 장치가 카메라를 통해 획득한 얼굴 이미지에 기초하여 사용자를 인증하는 기술이다. 얼굴 인증 기술은 인증 대상자의 신원을 비접촉식으로 확인할 수 있다. 최근에는, 얼굴 인증 기술의 편리함 및 효율성 때문에 보안 시스템, 모바일 인증 및 멀티미디어 데이터 검색과 같은 다양한 응용 분야에서 얼굴 인증 기술이 널리 활용되고 있다.
최근 전자 장치는 복수의 카메라들을 탑재하고 있으며, 복수의 카메라들 각각의 특성들은 서로 다를 수 있다. 예를 들어, 상기 특성은, 카메라의 화각, 카메라의 해상도, 카메라의 노이즈 특성, 또는 카메라의 투과율 특성을 포함할 수 있다. 전자 장치는 제 1 특성을 갖는 제 1 카메라를 통해 사용자의 얼굴 정보를 사전에 등록할 수 있고, 전자 장치는 상기 사전 등록 이후에 제 1 카메라를 통해 획득한 얼굴 이미지 또는 제 2 카메라를 통해 획득한 얼굴 이미지에 기반하여 얼굴 인증을 수행할 수 있다. 이 경우, 제 1 카메라를 이용한 얼굴 인증은 신뢰성이 높지만, 상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라를 이용한 얼굴 인증은 신뢰성이 낮을 수 있다. 이는, 제 2 카메라를 통해 촬영되는 얼굴 이미지의 특성과 제 1 카메라를 통해 촬영되는 얼굴 이미지의 특성이 서로 다르기 때문이다.
본 개시의 다양한 실시예들은 복수의 카메라들을 갖는 전자 장치의 얼굴 인증에 있어서, 얼굴 인증의 신뢰성을 높이고, 사용자 편의를 높일 수 있는 전자 장치 및 방법을 제공할 수 있다.
본 개시에서 이루고자 하는 기술적 과제는 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있다.
다양한 실시예들에 따른 전자 장치는, 제 1 특성을 갖는 제 1 카메라 장치, 상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라 장치, 메모리, 및 상기 제 1 카메라 장치, 상기 제 2 카메라 장치, 및 상기 메모리와 작동적으로 연결된 프로세서를 포함하고, 상기 메모리는 실행 시에, 상기 프로세서가, 상기 제 1 카메라 장치를 통한 얼굴 정보의 등록 요청을 수신하고, 상기 요청에 기반하여, 상기 제 1 카메라 장치를 통해 복수의 제 1 이미지들을 획득하고, 상기 복수의 제 1 이미지들 각각에 필터 처리를 수행하여, 상기 제 2 카메라 장치의 상기 제 2 특성이 반영된 복수의 제 2 이미지들을 생성하고, 상기 복수의 제 1 이미지들을 기반으로 복수의 제 1 템플릿들을 생성하고, 상기 복수의 제 2 이미지들을 기반으로 복수의 제 2 템플릿들을 생성하고, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 상기 메모리에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하도록 하는, 인스트럭션들을 저장할 수 있다.
다양한 실시예들에 따른 메모리, 제 1 특성을 갖는 제 1 카메라 장치, 및 상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라 장치를 포함하는 전자 장치의 방법은, 상기 제 1 카메라 장치를 통한 얼굴 정보의 등록 요청을 수신하는 동작, 상기 요청에 기반하여, 상기 제 1 카메라 장치를 통해 복수의 제 1 이미지들을 획득하는 동작, 상기 복수의 제 1 이미지들 각각에 필터 처리를 수행하여, 상기 제 2 카메라 장치의 상기 제 2 특성이 반영된 복수의 제 2 이미지들을 생성하는 동작, 상기 복수의 제 1 이미지들을 기반으로 복수의 제 1 템플릿들을 생성하는 동작, 상기 복수의 제 2 이미지들을 기반으로 복수의 제 2 템플릿들을 생성하는 동작, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 상기 메모리에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하는 동작을 포함할 수 있다.
본 개시의 다양한 실시예들에 따른 전자 장치 및 방법은, 복수의 카메라들을 갖는 전자 장치의 얼굴 인증에 있어서, 얼굴 인증의 신뢰성을 높이고, 사용자 편의를 높일 수 있다.
이 외에, 본 개시를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
본 개시의 특정 실시예에 따른 다른 양태, 특징 및 이점은 관련하여 첨부된 도면 및 해당 설명으로부터 더욱 명백해질 것이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 본 개시의 다양한 실시예들에 따른 전자 장치의 펼침 상태(unfolded state)를 도시한 도면이다.
도 3은 본 개시의 다양한 실시예들에 따른 도 2의 전자 장치의 접힘 상태(folded state)를 도시한 도면이다.
도 4는 다양한 실시예들에 따른 전자 장치의 블록도이다.
도 5는 다양한 실시예들에 따른 전자 장치의 동작을 설명한 흐름도이다.
도 6은 다양한 실시예들에 따른 변환 필터를 생성하는 동작을 설명하기 위한 예시이다.
도 7은 일 실시예에 따른 제 1 카메라 장치로부터 획득한 이미지를 변환하는 동작을 설명한 예시이다.
도 8은 일 실시예에 따른 제 2 카메라 장치로부터 획득한 이미지를 변환하는 동작을 설명한 예시이다.
도 9는 일 실시예에 따른 전자 장치가 제 2 카메라 장치로부터 획득한 이미지를 이용해 복수의 제 1 및 제 2 템플릿들을 생성하는 동작을 설명한 예시이다.
도 10은 일 실시예에 따른 전자 장치가 제 1 카메라 장치로부터 획득한 이미지를 이용해 복수의 제 1 및 제 2 템플릿들을 생성하는 동작을 설명한 예시이다.
도 11은 일 실시예에 따른 전자 장치가 복수의 템플릿들을 관리하는 동작을 설명한 흐름도이다.
도 12는 일 실시예에 따른 전자 장치가 복수의 템플릿들을 최적화하는 동작을 설명한 예시이다.
도 13은 일 실시예에 따른 전자 장치가 매칭 스코어에 기반하여 복수의 템플릿들의 우선순위를 조정하는 동작을 설명한 예시이다.
도 14는 일 실시예에 따른 전자 장치가 얼굴 인증을 수행하는 동작을 설명한 흐름도이다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108) 중 적어도 하나와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일 실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일 실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능 모델이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일 실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일 실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일 실시예에 따르면, 무선 통신 모듈(192)은 eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일 실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일 실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일 실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
본 개시에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 개시의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 개시의 다양한 실시예들 및 이에 사용된 용어들은 본 개시에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 개시의 다양한 실시예들에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 개시의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 개시의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시예에 따르면, 본 개시의 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는 본 개시의 다양한 실시예들에 따른 전자 장치(200)의 펼침 상태(unfolded state)를 도시한 도면이다. 도 3은 본 개시의 다양한 실시예들에 따른 도 2의 전자 장치(200)의 접힘 상태(folded state)를 도시한 도면이다.
도 2 및 도 3을 참고하면, 전자 장치(200)는, 서로에 대하여 접히도록 힌지 모듈(미도시)을 통해 폴딩축(A1)을 기준으로 회동 가능하게 결합되는 한 쌍의 하우징(210, 220)(예: 폴더블 하우징), 한 쌍의 하우징(210, 220)을 통해 배치되는 제 1 디스플레이(230)(예: 플렉서블(flexible) 디스플레이, 폴더블(foldable) 디스플레이 또는 메인 디스플레이) 및 제 2 디스플레이(251)(예: 서브 디스플레이)를 포함할 수 있다. 일 실시예에 따르면, 힌지 모듈은, 접힘 상태에서, 제1하우징(210) 및 제2하우징(220)을 통해 외부로부터 보이지 않도록 배치되고, 펼침 상태에서, 힌지 모듈을 보호하고, 접힘 가능한 부분을 커버하는 힌지 커버(265)를 통해 외부로부터 보이지 않게 배치될 수 있다. 본 개시의 다양한 실시예에서는 제 1 디스플레이(230)가 배치된 면은 전자 장치(200)의 전면으로 정의될 수 있으며, 전면의 반대면은 전자 장치(200)의 후면으로 정의될 수 있다. 또한 전면과 후면 사이의 공간을 둘러싸는 면은 전자 장치(200)의 측면으로 정의될 수 있다.
다양한 실시예에 따르면, 한 쌍의 하우징(210, 220)은 힌지 모듈을 통해 서로에 대하여 폴딩 가능하게 배치되는 제1하우징(210) 및 제2하우징(220)을 포함할 수 있다. 일 실시예에 따르면, 한 쌍의 하우징(210, 220)은 도 2 및 도 3에 도시된 형태 및 결합으로 제한되지 않으며, 다른 형상이나 부품의 조합 및/또는 결합에 의해 구현될 수도 있다. 일 실시예에 따르면, 제1하우징(210)과 제2하우징(220)은 폴딩축(A1)을 중심으로 양측에 배치되고, 폴딩축(A1)에 대하여 전체적으로 대칭인 형상을 가질 수 있다. 어떤 실시예에 따르면, 제1하우징(210)과 제2하우징(220)은 폴딩축(A1)을 기준으로 비대칭으로 접힐 수도 있다. 일 실시예에 따르면, 제1하우징(210) 및 제2하우징(220)은 전자 장치(200)가 펼침 상태(unfolded state)(예: 제1상태)인지, 접힘 상태(folded state)(예: 제2상태)인지, 또는 중간 상태(intermediate state)(예: 제3상태)인지 여부에 따라 서로 이루는 각도나 거리가 달라질 수 있다.
다양한 실시예에 따르면, 제1하우징(210)은 전자 장치(200)의 펼침 상태에서, 힌지 모듈에 연결되며, 전자 장치(200)의 전면을 향하도록 배치된 제1면(211), 제1면(211)의 반대 방향을 향하는 제2면(212), 및 제1면(211)과 제2면(212) 사이의 제1공간의 적어도 일부를 둘러싸는 제1측면 부재(213)를 포함할 수 있다. 일 실시예에 따르면, 제2하우징(220)은 전자 장치(200)의 펼침 상태에서, 힌지 모듈과 연결되며, 전자 장치(200)의 전면을 향하도록 배치된 제3면(221), 제3면(221)의 반대 방향을 향하는 제4면(222), 및 제3면(221) 및 제4면(222) 사이의 제2공간의 적어도 일부를 둘러싸는 제2측면 부재(223)를 포함할 수 있다. 일 실시예에 따르면, 제1면(211)은, 펼침 상태에서 제3면(221)과 동일한 방향을 향하고, 접힘 상태에서 제3면(221)과 마주보도록 대면될 수 있다. 일 실시예에 따르면, 전자 장치(200)는 제1하우징(210)과, 제2하우징(220)의 구조적 결합을 통해 제 1 디스플레이(230)를 수용하도록 형성되는 리세스(201)를 포함할 수도 있다. 일 실시예에 따르면, 리세스(201)는 제 1 디스플레이(230)와 실질적으로 동일한 크기를 가질 수 있다.
다양한 실시예에 따르면, 힌지 커버(265)는, 제1하우징(210)과 제2하우징(220) 사이에 배치되어, 힌지 모듈을 가릴 수 있도록 배치될 수 있다. 일 실시예에 따르면, 힌지 커버(265)는, 전자 장치(200)의 펼침 상태, 접힘 상태 또는 중간 상태에 따라, 제1하우징(210) 및 제2하우징(220)의 일부에 의해 가려지거나, 외부로 노출될 수 있다. 예컨대, 전자 장치(200)가 펼침 상태인 경우, 힌지 커버(265)는 제1하우징(210) 및 제2하우징(220)에 의해 가려져 노출되지 않을 수 있다. 일 실시예에 따르면, 전자 장치(200)가 접힘 상태인 경우, 힌지 커버(265)는 제1하우징(210) 및 제2하우징(220) 사이에서 외부로 노출될 수 있다. 일 실시예에 따르면, 제1하우징(210) 및 제2하우징(220)이 소정의 각도를 이루는(folded with a certain angle) 중간 상태인 경우, 힌지 커버(265)는 제1하우징(210) 및 제2하우징(220) 사이에서 전자 장치(200)의 외부로 적어도 부분적으로 노출될 수 있다. 예컨대, 힌지 커버(265)가 외부로 노출되는 영역은 완전히 접힌 상태보다 적을 수 있다. 일 실시예에 따르면, 힌지 커버(265)는 곡면을 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치(200)가 펼침 상태(예: 도 2의 상태) 인 경우, 제1하우징(210) 및 제2하우징(220)은 약 180도의 각도를 이루며, 제 1 디스플레이(230)의 제1영역(230a), 폴딩 영역(230c) 및 제2영역(230b)은 동일 평면을 이루며, 동일 방향을 향하도록 배치될 수 있다. 다른 실시예로, 전자 장치(200)가 펼침 상태인 경우, 제1하우징(210)은 제2하우징(220)에 대하여 360도의 각도로 회동하여 제2면(212)과 제4면(222)이 마주보도록 반대로 접힐 수도 있다(out folding 방식).
다양한 실시예에 따르면, 전자 장치(200)가 접힘 상태(예: 도 3의 상태)인 경우, 제1하우징(210)의 제1면(211) 및 제2하우징(220)의 제3면(221)은 서로 마주보게 배치될 수 있다. 이러한 경우, 제 1 디스플레이(230)의 제1영역(230a)과 제2영역(230b)은 폴딩 영역(230c)를 통해, 서로 좁은 각도(예: 0도 ~ 약 10도 범위)를 형성하며, 서로 마주보도록 배치될 수도 있다. 일 실시예에 따르면, 폴딩 영역(230c)은 적어도 일부가 소정의 곡률 반경을 가지는 곡면으로 형성될 수 있다. 일 실시예에 따르면, 전자 장치(200)가 중간 상태인 경우, 제1하우징(210) 및 제2하우징(220)은 서로 소정의 각도(a certain angle)로 배치될 수 있다. 이러한 경우, 제 1 디스플레이(230)의 제1영역(230a)과 제2영역(230b)은 접힘 상태보다 크고, 펼침 상태보다 작은 각도를 형성할 수 있으며, 폴딩 영역(230c)의 곡률 반경은 접힘 상태인 경우보다 클 수 있다. 어떤 실시예에서, 제1하우징(210)과 제2하우징(220)은, 힌지 모듈을 통해, 접힘 상태에서 펼침 상태 사이의 지정된 폴딩 각도에서 멈출 수 있는 각도를 형성할 수 있다(free stop 기능). 어떤 실시예에서, 제1하우징(210)과 제2하우징(220)은, 힌지 모듈을 통해, 지정된 변곡 각도를 기준으로, 펼쳐지는 방향 또는 접히는 방향으로, 가압받으면서 동작할 수도 있다.
다양한 실시예에 따르면, 전자 장치(200)는, 제1하우징(210) 및/또는 제2하우징(220)에 배치되는 적어도 하나의 디스플레이(230, 251), 입력 장치(215), 음향 출력 장치(227, 228), 센서 모듈(217a, 217b, 226), 카메라 모듈(216a, 216b, 225), 키 입력 장치(219), 인디케이터(미도시) 또는 커넥터 포트(229) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에서, 전자 장치(200)는, 구성 요소들 중 적어도 하나를 생략하거나 적어도 하나의 다른 구성 요소를 추가적으로 포함할 수 있다.
다양한 실시예에 따르면, 적어도 하나의 디스플레이(230, 251)는, 제1하우징(210)의 제1면(211)으로부터 힌지 모듈을 통해 제2하우징(220)의 제3면(221)의 지지를 받도록 배치되는 제 1 디스플레이(230)(예: 플렉서블 디스플레이) 및 제2하우징(220)의 내부 공간에서 제4면(222)을 통해 외부로부터 보일 수 있게 배치되는 제 2 디스플레이(251)를 포함할 수 있다. 일 실시예에 따르면, 제 1 디스플레이(230)는, 전자 장치(200)의 펼침 상태에서 주로 사용될 수 있으며, 제 2 디스플레이(251)는, 전자 장치(200)의 접힘 상태에서 주로 사용될 수 있다. 일 실시예에 따르면, 전자 장치(200)는 중간 상태의 경우, 제1하우징(210)과 제2하우징(220)의 폴딩 각도에 기반하여 제 1 디스플레이(230) 또는 제 2 디스플레이(251)를 사용할 수 있다.
다양한 실시예에 따르면, 제 1 디스플레이(230)는, 한 쌍의 하우징(210, 220)에 의해 형성된 공간에 배치될 수 있다. 예를 들어, 제 1 디스플레이(230)는 한 쌍의 하우징(210, 220)에 의해 형성되는 리세스(recess)(201)에 안착될 수 있으며, 전자 장치(200)의 전면의 실질적으로 대부분을 차지하도록 배치될 수 있다. 일 실시예에 따르면, 제 1 디스플레이(230)는, 적어도 일부 영역이 평면 또는 곡면으로 변형될 수 있는 플렉서블 디스플레이를 포함할 수 있다. 일 실시예에 따르면, 제 1 디스플레이(230)는 제1하우징(210)과 대면하는 제1영역(230a), 제2하우징(220)과 대면하는 제2영역(230b) 및 제1영역(230a)과 제2영역(230b)을 연결하고, 힌지 모듈과 대면하는 폴딩 영역(230c)을 포함할 수 있다.
일 실시예에 따르면, 제 1 디스플레이(230)의 제1영역(230a)은, 실질적으로, 제1하우징(210)의 제1면(211)을 형성할 수 있다. 일 실시예에 따르면, 제 1 디스플레이(230)의 제2영역(230b)은, 실질적으로, 제2하우징(220)의 제3면(221)을 형성할 수 있다.
일 실시예에 따르면, 제 1 디스플레이(230)의 영역 구분은 한 쌍의 하우징(210, 220) 및 힌지 모듈에 의한 예시적인 물리적 구분일 뿐, 실질적으로 한 쌍의 하우징(210, 220) 및 힌지 모듈을 통해 제 1 디스플레이(230)는 이음매 없는(seamless), 하나의 전체 화면으로 표시될 수 있다. 일 실시예에 따르면, 제1영역(230a)과 제2영역(230b)은 폴딩 영역(230c)을 기준으로 전체적으로 대칭인 형상을 가지거나, 부분적으로 비대칭 형상을 가질 수 있다.
도시하지 않았으나, 다양한 실시예들에 따르면, 전자 장치(200)는 복수의 힌지 모듈 및/또는 복수의 폴딩 영역(230c)을 포함할 수 있다. 예를 들어, 전자 장치(200)는 2개의 힌지 모듈 및 2개의 힌지 모듈(미도시) 각각에 대응하는 2개의 폴딩 영역(미도시)을 포함할 수 있고, 이 경우, 전자 장치(200)는 알파벳 Z 형태로 폴딩될 수 있다. 예를 들어, 전자 장치(200)는 3개의 힌지 모듈(미도시) 및 3개의 힌지 모듈(미도시) 각각에 대응하는 3개의 폴딩 영역(미도시)을 포함할 수 있고, 이 경우, 전자 장치(200)는 알파벳 W 형태로 폴딩될 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는 제1하우징(210)의 제2면(212)에 배치되는 제1후면 커버(240) 및 제2하우징(220)의 제4면(222)에 배치되는 제2후면 커버(250)를 포함할 수 있다. 어떤 실시예에서, 제1후면 커버(240)의 적어도 일부는 제1측면 부재(213)와 일체로 형성될 수도 있다. 어떤 실시예에서, 제2후면 커버(250)의 적어도 일부는 제2측면 부재(223)와 일체로 형성될 수도 있다. 일 실시예에 따르면, 제1후면 커버(240) 및 제2후면 커버(250) 중 적어도 하나의 커버는 실질적으로 투명한 플레이트(예: 다양한 코팅 레이어들을 포함하는 글라스 플레이트, 또는 폴리머 플레이트) 또는 불투명한 플레이트를 통해 형성될 수 있다. 일 실시예에 따르면, 제1후면 커버(240)는, 예를 들어, 코팅 또는 착색된 유리, 세라믹, 폴리머, 금속(예: 알루미늄, 스테인레스 스틸(STS), 또는 마그네슘), 또는 상기 물질들 중 적어도 둘의 조합과 같은, 불투명한 플레이트에 의하여 형성될 수 있다. 일 실시예에 따르면, 제2후면 커버(250)는, 예를 들어, 글래스 또는 폴리머와 같은, 실질적으로 투명한 플레이트를 통해 형성될 수 있다. 따라서, 제 2 디스플레이(251)는, 제2하우징(220)의 내부 공간에서, 제2후면 커버(250)를 통해 외부로부터 보일 수 있게 배치될 수 있다.
다양한 실시예에 따르면, 입력 장치(215)는, 마이크(215)를 포함할 수 있다. 어떤 실시예에서, 입력 장치(215)는 소리의 방향을 감지할 수 있도록 배치되는 복수 개의 마이크(215)를 포함할 수 있다. 일 실시예에 따르면, 음향 출력 장치(227, 228)는 스피커들(227, 228)을 포함할 수 있다. 일 실시예에 따르면, 스피커들(227, 228)은, 제2하우징(220)의 제4면(222)을 통해 배치되는 통화용 리시버(227) 및 제2하우징(220)의 측면 부재를 통해 배치되는 외부 스피커(228)를 포함할 수 있다. 어떤 실시예에서, 마이크(215), 스피커들(227, 228) 및 커넥터 포트(229)는 제1하우징(210) 및/또는 제2하우징(220)의 공간들에 배치되고, 제1하우징(210) 및/또는 제2하우징(220)에 형성된 적어도 하나의 홀을 통하여 외부 환경에 노출될 수 있다. 어떤 실시예에서, 제1하우징(210) 및/또는 제2하우징(220)에 형성된 홀들은 마이크(215) 및 스피커들(227, 228)을 위하여 공용으로 사용될 수 있다. 어떤 실시예에서, 음향 출력 장치(227, 228)는 제1하우징(210) 및/또는 제2하우징(220)에 형성된 홀이 배제된 채, 동작되는 스피커(예: 피에조 스피커)를 포함할 수도 있다.
다양한 실시예에 따르면, 카메라 모듈(216a, 216b, 225)은, 제1하우징(210)의 제1면(211)에 배치되는 제1카메라 장치(216a), 제1하우징(210)의 제2면(212)에 배치되는 제3카메라 장치(216b) 및/또는 제2하우징(220)의 제4면(222)에 배치되는 제2카메라 장치(225)를 포함할 수 있다. 일 실시예에 따르면, 전자 장치(200)는 제3카메라 장치(216b) 근처에 배치되는 플래시(218)를 포함할 수 있다. 일 실시예에 따르면, 플래시(218)는, 예를 들어, 발광 다이오드 또는 제논 램프(xenon lamp)를 포함할 수 있다. 일 실시예에 따르면, 카메라 장치들(216a, 216b, 225)은 하나 또는 복수의 렌즈들, 이미지 센서, 및/또는 이미지 시그널 프로세서를 포함할 수 있다. 어떤 실시예에서, 카메라 장치들(216a, 216b, 225) 중 적어도 하나의 카메라 장치는 2개 이상의 렌즈들 (광각 및 망원 렌즈) 및 이미지 센서들을 포함하고, 제1하우징(210) 및/또는 제2하우징(220)의 어느 한 면에 함께 배치될 수도 있다.
다양한 실시예에 따르면, 카메라 장치들(216a, 216b, 225) 중 적어도 하나의 카메라 장치(예: 제1카메라 장치(216a))는 디스플레이(예: 제 1 디스플레이(230))의 활성화 영역(display area) 아래에 배치됨에 따라 외부에서 시각적으로 보이지 않을 수 있다. 이 경우, 상기 적어도 하나의 카메라 장치(예: 제1카메라 장치(216a))는, 디스플레이(예: 제 1 디스플레이(230))의 활성화 영역(display area)을 투과한 빛을 수신하는 것에 기반하여 외부 피사체의 이미지를 획득할 수 있으며, UDC(under display camera) 또는 UPC(under panel camera)라고 명명될 수 있다.
다양한 실시예에 따르면, 카메라 장치들(216a, 216b, 225) 중 적어도 하나의 카메라 장치(예: 제2카메라 장치(225))는 디스플레이(예: 제 2 디스플레이(251))의 일부분이 천공된 오프닝(예: 펀치홀)을 통해 외부에서 시각적으로 보이도록 배치될 수 있다.
다양한 실시예에 따르면, 센서 모듈(217a, 217b, 226)은, 전자 장치(200)의 내부의 작동 상태, 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시예에 따르면, 센서 모듈(217a, 217b, 226)은, 제1하우징(210)의 제1면(211)에 배치되는 제1센서 모듈(217a), 제1하우징(210)의 제2면(212)에 배치되는 제2센서 모듈(217b) 및/또는 제2하우징(220)의 제4면(222)에 배치되는 제3센서 모듈(226)을 포함할 수 있다. 어떤 실시예에서, 센서 모듈(217a, 217b, 226)은 제스처 센서, 그립 센서, 컬러 센서, IR(infrared) 센서, 조도 센서, 초음파 센서, 홍채 인식 센서, 또는 거리 검출 센서(TOF 센서 또는 LiDAR 스캐너) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치(200)는, 도시되지 않은 센서 모듈, 예를 들어, 기압 센서, 마그네틱 센서, 생체 센서, 온도 센서, 습도 센서, 또는 지문 인식 센서 중 적어도 하나를 더 포함할 수 있다. 어떤 실시예에서, 지문 인식 센서는 제1하우징(210)의 제1측면 부재(213) 및/또는 제2하우징(220)의 제2측면 부재(223) 중 적어도 하나의 측면 부재를 통해 배치될 수도 있다.
다양한 실시예에 따르면, 키 입력 장치(219)는, 제1하우징(210)의 제1측면 부재(213)를 통해 외부로 노출되도록 배치될 수 있다. 어떤 실시예에서, 키 입력 장치(219)는 제2하우징(220)의 제2측면 부재(223)를 통해 외부로 노출되도록 배치될 수도 있다. 어떤 실시예에서, 전자 장치(200)는 상기 언급된 키 입력 장치(219)들 중 일부 또는 전부를 포함하지 않을 수 있고, 포함되지 않은 키 입력 장치(219)는 적어도 하나의 디스플레이(230, 251)상에 소프트 키 등 다른 형태로 구현될 수 있다. 다른 실시예로, 키 입력 장치(219)는 적어도 하나의 디스플레이(230, 251)에 포함된 압력 센서를 이용하여 구현될 수 있다.
다양한 실시예에 따르면, 커넥터 포트(229)는, 외부 전자 장치(101)와 전력 및/또는 데이터를 송수신하기 위한 커넥터(예를 들어, USB 커넥터 또는 IF 모듈(interface connector port 모듈))를 수용할 수 있다. 어떤 실시예에서, 커넥터 포트(229)는 외부 전자 장치(101)와 오디오 신호를 송수신하기 위한 기능을 함께 수행하거나, 오디오 신호의 송수신 기능을 수행하기 위한 별도의 커넥터 포트(예: 이어잭 홀)를 더 포함할 수도 있다.
다양한 실시예들에 따른 전자 장치(예: 도 1의 전자 장치(101))는, 제 1 특성을 갖는 제 1 카메라 장치(예: 도 2의 제 1 카메라 장치(216a)), 상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라 장치(예: 도 2의 제 2 카메라 장치(225)), 메모리(예: 도 1의 메모리(130)), 및 상기 제 1 카메라 장치(216a), 상기 제 2 카메라 장치(225), 및 상기 메모리(130)와 작동적으로 연결된 프로세서(예: 도 1의 프로세서(120))를 포함하고, 상기 메모리(130)는 실행 시에, 상기 프로세서(120)가, 상기 제 1 카메라 장치(216a)를 통한 얼굴 정보의 등록 요청을 수신하고, 상기 요청에 기반하여, 상기 제 1 카메라 장치(216a)를 통해 복수의 제 1 이미지들(예: 도 9의 복수의 제 1 이미지들(920))을 획득하고, 상기 복수의 제 1 이미지들(920) 각각에 필터 처리를 수행하여, 상기 제 2 카메라 장치(225)의 상기 제 2 특성이 반영된 복수의 제 2 이미지들(예: 도 9의 복수의 제 2 이미지들(910))을 생성하고, 상기 복수의 제 1 이미지들(920)을 기반으로 복수의 제 1 템플릿들(예: 도 9의 복수의 제 1 템플릿들(930))을 생성하고, 상기 복수의 제 2 이미지들(910)을 기반으로 복수의 제 2 템플릿들(예: 도 9의 복수의 제 2 템플릿들(940))을 생성하고, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 상기 메모리(130)에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하도록 하는, 인스트럭션들을 저장할 수 있다.
일 실시예에 따르면, 상기 메모리(130)는, 상기 제 1 카메라 장치(216a)에 대응하도록 설정된 제 1 템플릿 저장소(예: 도 4의 제 1 템플릿 저장소(413)), 및 상기 제 2 카메라 장치(225)에 대응하도록 설정된 제 2 템플릿 저장소(예: 도 4의 제 2 템플릿 저장소(414))를 포함하고, 상기 제 1 템플릿 저장소(413) 및 상기 제 2 템플릿 저장소(414)는, 하드웨어적으로 또는 소프트웨어적으로 서로 분리될 수 있다.
일 실시예에 따르면, 상기 제 1 템플릿 저장소(413)는, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 저장하되, 상기 복수의 제 1 템플릿들(930)에 대하여 우선 순위가 적용되어 상기 복수의 제 2 템플릿들(940)보다 정렬 순서가 앞서도록 배열되어 있고, 상기 제 2 템플릿 저장소(414)는, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 저장하되, 상기 복수의 제 2 템플릿들(940)에 대하여 우선 순위가 적용되어 상기 복수의 제 1 템플릿들(930)보다 정렬 순서가 앞서도록 배열되어 있을 수 있다.
일 실시예에 따르면, 상기 제 1 카메라 장치(216a)는 상기 전자 장치(101)의 제 1 디스플레이의 활성화 영역 아래에 배치되는 UDC 이고, 상기 제 2 카메라 장치(225)는 상기 전자 장치(101)의 제 2 디스플레이의 일부분 또는 상기 제 2 디스플레이의 주변에 배치되는 카메라 장치일 수 있다.
일 실시예에 따르면, 상기 프로세서(120)는, 상기 얼굴 정보의 등록을 완료한 이후에, 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하고, 상기 얼굴 인증 요청에 기반하여, 상기 제 2 템플릿 저장소(414)에 저장된 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)과 상기 제 2 카메라 장치(225)를 통해 획득된 이미지를 비교하고, 및 상기 비교 결과에 기반하여 얼굴 인증 여부를 결정할 수 있다.
일 실시예에 따르면, 상기 프로세서(120)는, 상기 얼굴 정보의 등록을 완료한 이후에, 상기 복수의 제 1 템플릿들(930) 각각 및 상기 복수의 제 2 템플릿들(940) 각각에 대한 최적화 동작을 수행하되, 상기 최적화 동작으로서, 사용자 인터페이스를 통해 사용자에게 얼굴 촬영을 다시 요청하는 화면을 표시하고, 상기 제 1 카메라 장치(216a)를 통해 촬영된 사용자의 얼굴 이미지와 상기 복수의 제 1 템플릿들(930) 중에서 지정된 제 1 템플릿의 유사도를 산출하고, 및 상기 지정된 제 1 템플릿의 유사도가 지정된 기준값보다 작으면, 상기 지정된 제 1 템플릿 및 상기 복수의 제 2 템플릿들(940) 중에서 상기 지정된 제 1 템플릿과 한 쌍을 이루는 지정된 제 2 템플릿을 삭제할 수 있다.
일 실시예에 따르면, 제 1 하우징, 제 2 하우징, 및 상기 제 1 하우징과 상기 제 2 하우징 사이에 배치되는 힌지 모듈을 더 포함하고, 상기 제 1 디스플레이는 상기 제 1 하우징의 일부분으로부터 상기 제 2 하우징으로 연장되도록 배치되고, 상기 제 2 디스플레이는 상기 제 1 하우징과 상기 제 2 하우징이 서로 나란하게 배치되는 펼침 상태에서 상기 제 1 디스플레이와 반대 방향을 향하도록 배치될 수 있다.
일 실시예에 따르면, 상기 제 1 카메라 장치(216a)는 상기 제 1 디스플레이의 적어도 일부분을 투과한 빛을 수신하는 것에 의해 이미지를 촬영하고, 및 상기 제 2 카메라 장치(225)는 상기 제 2 디스플레이와 동일한 방향을 향하도록 배치될 수 있다.
일 실시예에 따르면, 상기 프로세서(120)는, 상기 얼굴 정보의 등록을 완료한 이후에, 얼굴 인증 요청을 수신하고, 상기 얼굴 인증 요청에 기반하여, 상기 전자 장치(101)가 상기 제 1 하우징과 상기 제 2 하우징이 서로 마주보는 접힘 상태인지 또는 상기 펼침 상태인지 확인하고, 상기 전자 장치(101)가 상기 펼침 상태이면, 상기 제 1 카메라 장치(216a)를 통해 얼굴 이미지를 획득하는 것을 기반으로 얼굴 인증을 수행하고, 상기 전자 장치(101)가 상기 접힘 상태이면, 상기 제 2 카메라 장치(225)를 통해 얼굴 이미지를 획득하는 것을 기반으로 인증을 수행할 수 있다.
일 실시예에 따르면, 상기 프로세서(120)는, 상기 제 2 카메라 장치(225)를 통한 얼굴 정보의 등록 요청을 수신하고, 상기 요청에 기반하여, 상기 제 2 카메라 장치(225)를 통해 복수의 제 2 이미지들(910)을 획득하고, 상기 복수의 제 2 이미지들(910) 각각에 필터 처리를 수행하여, 상기 제 1 카메라 장치(216a)의 상기 제 1특성이 반영된 복수의 제 1 이미지들(920)을 생성하고, 상기 복수의 제 1 이미지들(920)을 기반으로 복수의 제 1 템플릿들(930)을 생성하고, 상기 복수의 제 2 이미지들(910)을 기반으로 복수의 제 2 템플릿들(940)을 생성하고, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 상기 메모리(130)에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료할 수 있다.
다양한 실시예들에 따른 메모리(130), 제 1 특성을 갖는 제 1 카메라 장치(216a), 및 상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라 장치(225)를 포함하는 전자 장치(101)의 방법은, 상기 제 1 카메라 장치(216a)를 통한 얼굴 정보의 등록 요청을 수신하는 동작, 상기 요청에 기반하여, 상기 제 1 카메라 장치(216a)를 통해 복수의 제 1 이미지들(920)을 획득하는 동작, 상기 복수의 제 1 이미지들(920) 각각에 필터 처리를 수행하여, 상기 제 2 카메라 장치(225)의 상기 제 2 특성이 반영된 복수의 제 2 이미지들(910)을 생성하는 동작, 상기 복수의 제 1 이미지들(920)을 기반으로 복수의 제 1 템플릿들(930)을 생성하는 동작, 상기 복수의 제 2 이미지들(910)을 기반으로 복수의 제 2 템플릿들(940)을 생성하는 동작, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 상기 메모리(130)에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 메모리(130)는, 상기 제 1 카메라 장치(216a)에 대응하도록 설정된 제 1 템플릿 저장소(413), 및 상기 제 2 카메라 장치(225)에 대응하도록 설정된 제 2 템플릿 저장소(414)를 포함하고, 상기 제 1 템플릿 저장소(413) 및 상기 제 2 템플릿 저장소(414)는, 하드웨어적으로 또는 소프트웨어적으로 서로 분리될 수 있다.
일 실시예에 따르면, 상기 제 1 템플릿 저장소(413)에, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 저장하되, 상기 복수의 제 1 템플릿들(930)에 대하여 우선 순위가 적용되어 상기 복수의 제 2 템플릿들(940)보다 정렬 순서가 앞서도록 배열되어 있는 동작, 및 상기 제 2 템플릿 저장소(414)에, 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 저장하되, 상기 복수의 제 2 템플릿들(940)에 대하여 우선 순위가 적용되어 상기 복수의 제 1 템플릿들(930)보다 정렬 순서가 앞서도록 배열되어 있는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 제 1 카메라 장치(216a)는 상기 전자 장치(101)의 제 1 디스플레이의 활성화 영역 아래에 배치되는 UDC 이고, 상기 제 2 카메라 장치(225)는 상기 전자 장치(101)의 제 2 디스플레이의 일부분 또는 상기 제 2 디스플레이의 주변에 배치되는 카메라 장치일 수 있다.
일 실시예에 따르면, 상기 얼굴 정보의 등록을 완료한 이후에, 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하는 동작, 상기 얼굴 인증 요청에 기반하여, 상기 제 2 템플릿 저장소(414)에 저장된 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)과 상기 제 2 카메라 장치(225)를 통해 획득된 이미지를 비교하는 동작, 및 상기 비교 결과에 기반하여 얼굴 인증 여부를 결정하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 얼굴 정보의 등록을 완료한 이후에, 상기 복수의 제 1 템플릿들(930) 각각 및 상기 복수의 제 2 템플릿들(940) 각각을 최적화하는 동작을 더 포함하고, 상기 최적화하는 동작은, 사용자 인터페이스를 통해 사용자에게 얼굴 촬영을 다시 요청하는 화면을 표시하는 동작, 상기 제 1 카메라 장치(216a)를 통해 촬영된 사용자의 얼굴 이미지와 상기 복수의 제 1 템플릿들(930) 중에서 지정된 제 1 템플릿의 유사도를 산출하는 동작, 및 상기 지정된 제 1 템플릿의 유사도가 지정된 기준값보다 작으면, 상기 지정된 제 1 템플릿 및 상기 복수의 제 2 템플릿들(940) 중에서 상기 지정된 제 1 템플릿과 한 쌍을 이루는 지정된 제 2 템플릿을 삭제하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 전자 장치(101)는, 제 1 하우징, 제 2 하우징, 및 상기 제 1 하우징과 상기 제 2 하우징 사이에 배치되는 힌지 모듈을 더 포함하고, 상기 제 1 디스플레이는 상기 제 1 하우징의 일부분으로부터 상기 제 2 하우징으로 연장되도록 배치되고, 상기 제 2 디스플레이는 상기 제 1 하우징과 상기 제 2 하우징이 서로 나란하게 배치되는 펼침 상태에서 상기 제 1 디스플레이와 반대 방향을 향하도록 배치될 수 있다.
일 실시예에 따르면, 상기 제 1 카메라 장치(216a)를 상기 제 1 디스플레이의 적어도 일부분을 투과한 빛을 수신하는 것에 의해 이미지를 촬영하는 동작을 더 포함하고, 상기 제 2 카메라 장치(225)는 상기 제 2 디스플레이와 동일한 방향을 향하도록 배치될 수 있다.
일 실시예에 따르면, 상기 얼굴 정보의 등록을 완료한 이후에, 얼굴 인증 요청을 수신하는 동작, 상기 얼굴 인증 요청에 기반하여, 상기 전자 장치(101)가 상기 제 1 하우징과 상기 제 2 하우징이 서로 마주보는 접힘 상태인지 또는 상기 펼침 상태인지 확인하는 동작, 상기 전자 장치(101)가 상기 펼침 상태이면, 상기 제 1 카메라 장치(216a)를 통해 얼굴 이미지를 획득하는 것을 기반으로 얼굴 인증을 수행하는 동작, 및 상기 전자 장치(101)가 상기 접힘 상태이면, 상기 제 2 카메라 장치(225)를 통해 얼굴 이미지를 획득하는 것을 기반으로 인증을 수행하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 제 2 카메라 장치(225)를 통한 얼굴 정보의 등록 요청을 수신하는 동작, 상기 요청에 기반하여, 상기 제 2 카메라 장치(225)를 통해 복수의 제 2 이미지들(910)을 획득하는 동작, 상기 복수의 제 2 이미지들(910) 각각에 필터 처리를 수행하여, 상기 제 1 카메라 장치(216a)의 상기 제 1특성이 반영된 복수의 제 1 이미지들(920)을 생성하는 동작, 상기 복수의 제 1 이미지들(920)을 기반으로 복수의 제 1 템플릿들(930)을 생성하는 동작, 상기 복수의 제 2 이미지들(910)을 기반으로 복수의 제 2 템플릿들(940)을 생성하는 동작, 및 상기 복수의 제 1 템플릿들(930) 및 상기 복수의 제 2 템플릿들(940)을 상기 메모리(130)에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하는 동작을 더 포함할 수 있다.
도 4는 다양한 실시예들에 따른 전자 장치(101)의 블록도이다.
도 4에 도시된 전자 장치(101)는 도 1에 도시된 전자 장치(101)와 적어도 일부가 유사하거나 다른 실시예를 포함할 수 있다.
도 4에 도시된 전자 장치(101)는 도 2 및 도 3에 도시된 전자 장치(200)와 적어도 일부가 유사하거나 다른 실시예를 포함할 수 있다.
도 4를 참조하면, 일 실시예에 따른 전자 장치(101)는, 프로세서(120), 제 1 카메라 장치(216a), 제 2 카메라 장치(225), 및 메모리(예: 도 1의 메모리(130))를 포함할 수 있다.
본 개시의 실시예에서는, 제 1 카메라 장치(216a)가, UDC(under display camera) 또는 UPC(under panel camera)일 수 있고, 제 2 카메라 장치(225)가 HID(hole-in display) 카메라 일 수 있음을 개시하지만, 이는 하나의 예시일 뿐 국한되지 않을 수 있다. 예를 들어, 제 1 카메라 장치(216a), 및 제 2 카메라 장치(225)는 특성이 서로 다른 카메라이면 어떠한 종류여도 상관없다.
일 실시예에 따르면, 제 1 카메라 장치(216a)는, 도 2 및 도 3을 참조하여 설명한 제1카메라 장치(216a)일 수 있다. 예를 들면, 제 1 카메라 장치(216a)는 사용자가 제 1 디스플레이(230)를 바라보면서 셀피(selfie) 촬영을 할 수 있도록 제 1 디스플레이(예: 도 2의 제 1 디스플레이(230))의 적어도 일부분 또는 제 1 디스플레이(230)의 주변에 배치되는 카메라 장치일 수 있다. 일 실시예에 따르면, 제 1 카메라 장치(216a)는 디스플레이(예: 제 1 디스플레이(230))의 활성화 영역(display area) 아래에 배치되는 UDC(under display camera) 또는 UPC(under panel camera)일 수 있다.
일 실시예에 따르면, 제 2 카메라 장치(225)는, 도 2 및 도 3을 참조하여 설명한 제2카메라 장치(225)일 수 있다. 예를 들면, 제 2 카메라 장치(225)는 사용자가 제 2 디스플레이(251)를 바라보면서 셀피(selfie) 촬영을 할 수 있도록 제 2 디스플레이(예: 도 2의 제 2 디스플레이(251))의 적어도 일부분 또는 제 2 디스플레이(251)의 주변에 배치되는 카메라 장치일 수 있다. 일 실시예에 따르면, 제 2 카메라 장치(225)는 제 2 디스플레이(251)의 일부분이 천공된 오프닝(예: 펀치홀)을 통해 외부에서 시각적으로 보이도록 배치될 수 있다.
일 실시예에 따르면, 프로세서(120)는 제 1 카메라 장치(216a) 및/또는 제 2 카메라 장치(225)를 통해 영상 데이터를 획득할 수 있다.
일 실시예에 따르면, 프로세서(120)는, 제 1 카메라 장치(216a)로부터 획득된 제 1 이미지(예: 도 10의 제 1 이미지(920))에 기반하여 얼굴 인증을 위한 복수의 제 1 템플릿들(예: 도 10의 복수의 제 1 템플릿들(930)) 및 복수의 제 2 템플릿들(예: 도 10의 복수의 제 2 템플릿들(940))을 생성할 수 있다. 일 실시예에 따르면, 프로세서(120)는 제 2 카메라 장치(225)로부터 획득된 제 2 이미지(예: 도 9의 제 2 이미지(910))에 기반하여 얼굴 인증을 위한 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940)을 생성할 수 있다.
일 실시예에 따르면, 프로세서(120)는 복수의 제 1 및 제 2 템플릿들(930, 940)을 생성하는 동작을 수행한 이후에, 얼굴 인증 요청을 수신할 수 있다. 일 실시예에 따르면, 프로세서(120)는, 얼굴 인증 요청에 응답하여, 제 1 카메라 장치(216a) 또는 제 2 카메라 장치(225)를 이용하여 사용자의 얼굴 이미지를 획득하고, 획득된 얼굴 이미지와 복수의 제 1 및 제 2 템플릿들(930, 940)을 비교하는 것에 기반하여 얼굴 인증을 수행할 수 있다.
일 실시예에 따르면, 프로세서(120)는, 얼굴 인증을 수행함에 있어서, 얼굴 이미지를 촬영한 카메라 장치의 종류에 대응하는 우선 순위에 따라 얼굴 이미지와 복수의 제 1 및 제 2 템플릿들(930, 940)을 비교할 수 있다. 예를 들어, 프로세서(120)는, 얼굴 이미지를 촬영한 카메라 장치가 제 1 카메라 장치(216a)인 경우, 복수의 제 1 및 제 2 템플릿들(930, 940) 중에서 제 1 카메라 장치(216a)에 대응하는 복수의 제 1 템플릿들(930)에 대하여 우선순위를 설정할 수 있다. 예를 들어, 프로세서(120)는, 얼굴 이미지를 촬영한 카메라 장치가 제 2 카메라 장치(225)인 경우, 복수의 제 1 및 제 2 템플릿들(930, 940) 중에서 제 2 카메라 장치(225)에 대응하는 복수의 제 2 템플릿들(940)에 대하여 우선순위를 설정할 수 있다. 여기서, 우선순위는 얼굴 이미지와 비교되는 템플릿들의 순서를 의미할 수 있다. 예를 들어, 프로세서(120)는, 상대적으로 우선순위가 높은 템플릿과 얼굴 이미지를 먼저 비교하고, 상대적으로 우선순위가 낮은 템플릿과 얼굴 이미지를 나중에 비교할 수 있다.
일 실시예에 따르면, 프로세서(120)는, 얼굴 인증의 결과에 기반하여, 얼굴 인증에 사용되었던 복수의 제 1 및 제 2 템플릿들(930, 940) 각각에 대한 매칭 스코어(예: 도 13의 매칭 스코어(1301))를 업데이트할 수 있다. 예를 들어, 프로세서(120)는, 복수의 제 1 및 제 2 템플릿들(930, 940) 중에서 얼굴 인증을 실패한 템플릿에 대해서는 매칭 스코어(1301)를 감점할 수 있다. 예를 들어, 프로세서(120)는, 복수의 제 1 및 제 2 템플릿들(930, 940) 중에서 얼굴 인증을 성공한 템플릿에 대해서는 매칭 스코어(1301)를 가산할 수 있다.
일 실시예에 따르면, 프로세서(120)는 얼굴 인증의 결과에 따라, 제 1 카메라 장치(216a)에 대응하도록 설정된 템플릿들의 우선순위를 변경할 수 있다. 예를 들어, 얼굴 이미지를 촬영한 카메라 장치가 제 1 카메라 장치(216a)인 경우, 복수의 제 1 및 제 2 템플릿들(930, 940) 중에서 제 1 카메라 장치(216a)에 대응하는 복수의 제 1 템플릿들(930)에 대하여 우선순위를 갖도록 설정될 수 있지만, 상기 얼굴 인증을 수행한 결과에 따라 지정된 제 2 템플릿이 복수의 제 1 템플릿들(930)보다 우선순위를 갖도록 설정할 수 있다. 예를 들어, 얼굴 이미지를 촬영한 카메라 장치가 제 2 카메라 장치(225)인 경우, 복수의 제 1 및 제 2 템플릿들(930, 940) 중에서 제 2 카메라 장치(225)에 대응하는 복수의 제 2 템플릿들(940)에 대하여 우선순위를 갖도록 설정될 수 있지만, 상기 얼굴 인증을 수행한 결과에 따라 지정된 제 1 템플릿이 복수의 제 2 템플릿들(940)보다 우선순위를 갖도록 설정할 수 있다.
일 실시예에 따르면, 프로세서(120)는 메모리(130)를 통해 상대적으로 높은 보안성을 갖는 보안 실행 환경을 제공할 수 있다. 예를 들면, 전자 장치(101)는 일반 실행 환경 및 보안 실행 환경을 운용할 수 있다. 일 실시예에 따르면, 일반 실행 환경은 REE(rich execution environment)으로 명명될 수 있고, 상대적으로 낮은 보안성을 가질 수 있다. 일 실시예에 따르면, 보안 실행 환경은, 신뢰 실행 환경, 또는 TEE(trusted execution environment)으로 명명될 수 있고, 일반 실행 환경보다 상대적으로 높은 보안성을 가질 수 있다. 보안 실행 환경은, 예를 들어, 트러스트존(TrustZone)을 포함할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 보안 실행 환경에서, 상대적으로 높은 보안 레벨이 요구되는 데이터를 안전한 환경 내에서 저장하고 관련 동작을 수행할 수 있다. 보안 실행 환경은 전자 장치(101)의 프로세서(120)에 의해 동작하고, 전자 장치(101)의 제조 과정에서 결정된 신뢰할 수 있는 하드웨어 구조에 기반하여 동작할 수 있다. 보안 실행 환경은 프로세서(120) 또는 메모리(130)를 일반 영역과 보안 영역으로 구분하여 보안 영역에서 동작할 수 있다. 전자 장치(101)는 하드웨어의 물리적 변경 또는 소프트웨어의 논리적 변경을 통하여 보안 실행 환경을 운용할 수 있다. 예를 들어, 보안 실행 환경과 일반 실행 환경은 논리적으로 분리된 메모리 영역이고, 하드웨어적으로는 동일한 메모리에 포함될 수 있다.
일 실시예에 따르면, 보안 실행 환경은 일반 실행 환경과 하드웨어적으로 서로 분리되거나, 또는 동일한 하드웨어에서 소프트웨어적으로 분리되어 동작할 수 있다.
일 실시예에 따르면, 프로세서(120)는 메모리(130)를 통해 보안 실행 환경을 제공할 수 있고, 보안 실행 환경을 통해 얼굴 인증에 필요한 데이터들을 관리할 수 있다. 예를 들어, 프로세서(120)에 의해 메모리(130)에 구현된 보안 실행 환경은, 이미지 변환 데이터(411), 다중 얼굴 이미지 생성부(412), 제 1 템플릿 저장소(413), 제 2 템플릿 저장소(414), 매칭 모듈(415), 및/또는 템플릿 제어 모듈(416)을 포함할 수 있다.
일 실시예에 따르면, 이미지 변환 데이터(411)는, 전자 장치(101)에 포함된 복수의 카메라 장치들(예: 제1 카메라 장치(216a), 및 제 2 카메라 장치(225)) 각각의 특성 차이에 대응하는 차이값을 기반으로 연산된 필터 데이터 세트를 포함할 수 있다. 일 실시예에 따르면, 이미지 변환 데이터(411)는, 적어도 하나의 변환 필터 데이터를 포함할 수 있다. 일 실시예에 따르면, 변환 필터 데이터는, 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지를 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지와 실질적으로 동일하거나 유사한 이미지로 변환하기 위한 적어도 하나의 제 1 변환 필터를 포함할 수 있다. 예를 들어, 프로세서(120)는 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지에 제 1 변환 필터를 적용함으로써 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지와 실질적으로 동일하거나 유사한 이미지를 생성할 수 있다. 일 실시예에 따르면, 변환 필터 데이터는, 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지를 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지와 실질적으로 동일하거나 유사한 이미지로 변환하기 위한 적어도 하나의 제 2 변환 필터를 포함할 수 있다. 예를 들어, 프로세서(120)는 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지에 제 2 변환 필터를 적용함으로써 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지와 실질적으로 동일하거나 유사한 이미지를 생성할 수 있다.
일 실시예에 따르면, 다중 얼굴 이미지 생성부(412)는, 지정된 카메라 장치를 통해 획득된 이미지를 이미지 변환 데이터(411)를 이용하여 복수의 이미지들을 생성할 수 있다. 여기서, 상기 생성되는 복수의 이미지들은 상기 지정된 카메라 장치를 제외한 다른 카메라 장치의 특성이 반영된 이미지들일 수 있다. 일 실시예에 따르면, 다중 얼굴 이미지 생성부(412)는, 프로세서(120)에 의해 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지가 입력되면, 이미지 변환 데이터(411)(예: 제 1 변환 필터)를 이용해 입력된 제 1 이미지로부터 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지와 실질적으로 동일하거나 유사한 이미지를 생성할 수 있다. 일 실시예에 따르면, 다중 얼굴 이미지 생성부(412)는, 프로세서(120)에 의해 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지가 입력되면, 이미지 변환 데이터(411)(예: 제 2 변환 필터)를 이용해 입력된 제 2 이미지로부터 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지와 실질적으로 동일하거나 유사한 이미지를 생성할 수 있다.
일 실시예에 따르면, 제 1 템플릿 저장소(413)는 제 1 카메라 장치(216a)를 통해 얼굴 인증을 수행하기 위한 복수의 템플릿들을 저장할 수 있다. 일 실시예에 따르면, 제 1 템플릿 저장소(413)에 저장되는 복수의 템플릿들은 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 복수의 제 1 템플릿들(930)뿐만 아니라 제 2 카메라 장치(225)의 특성을 기반으로 생성된 적어도 하나의 제 2 템플릿도 포함할 수 있다. 일 실시예에 따르면, 전자 장치(101)는, 제 1 템플릿 저장소(413)에 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 복수의 제 1 템플릿들(930)을 우선적으로 저장 및 정렬하는 것을 설정할 수 있다. 전자 장치(101)는, 상기 설정 이후에, 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신하고, 얼굴 인증 동작에서 제 2 카메라 장치(225)의 특성을 기반으로 생성된 지정된 제 2 템플릿을 이용해 얼굴 인증을 성공한 경우, 제 1 템플릿 저장소(413)에서 상기 지정된 제 2 템플릿의 우선 순위 및 정렬 순서를 높일 수 있다.
일 실시예에 따르면, 제 2 템플릿 저장소(414)는 제 2 카메라 장치(225)를 통해 얼굴 인증을 수행하기 위한 복수의 템플릿들을 저장할 수 있다. 일 실시예에 따르면, 제 2 템플릿 저장소(414)에 저장되는 복수의 템플릿들은 제 2 카메라 장치(225)의 특성을 기반으로 생성된 복수의 제 2 템플릿들(940)뿐만 아니라 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 적어도 하나의 제 1 템플릿도 포함할 수 있다. 일 실시예에 따르면, 전자 장치(101)는, 제 2 템플릿 저장소(414)에 제 2 카메라 장치(225)의 특성을 기반으로 생성된 복수의 제 2 템플릿들(940)을 우선적으로 저장 및 정렬하는 것을 설정할 수 있다. 전자 장치(101)는, 상기 설정 이후에, 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하고, 얼굴 인증 동작에서 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 지정된 제 1 템플릿을 이용해 얼굴 인증을 성공한 경우, 제 2 템플릿 저장소(414)에서 상기 지정된 제 1 템플릿의 우선 순위 및 정렬 순서를 높일 수 있다.
일 실시예에 따르면, 얼굴 정보의 등록 동작에서 생성된 템플릿들은 각 카메라 장치의 식별 정보별로 저장될 수 있다. 예컨대, 제 1 템플릿 저장소(413)는 제 1 카메라 장치(216a)를 통한 얼굴 인증에 대응하도록 템플릿들이 저장될 수 있고, 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 제 1 템플릿들이 우선적으로 배열될 수 있다. 예컨대, 제 2 템플릿 저장소(414)는 제 2 카메라 장치(225)를 통한 얼굴 인증에 대응하도록 템플릿들이 저장될 수 있고, 제 2 카메라 장치(225)의 특성을 기반으로 생성된 제 2 템플릿들이 우선적으로 배열될 수 있다.
다양한 실시예들에 따르면, 제 1 템플릿 저장소(413) 및 제 2 템플릿 저장소(414) 각각은, 템플릿들을 저장함에 있어서, 해당 템플릿이 복수의 카메라 장치들 중에서 어떤 카메라 장치에 의해 촬영된 이미지를 기반으로 생성된 것인지를 나타내는 이미지의 소스 정보 를 포함할 수 있다.
일 실시예에 따르면, 매칭 모듈(415)은 프로세서(120)에 의해 얼굴 인증 요청을 수신하면, 제 1 템플릿 저장소(413) 또는 제 2 템플릿 저장소(414)를 참조하여 지정된 카메라 장치를 통해 획득된 얼굴 이미지와 복수의 템플릿들을 비교하고, 비교 결과에 따라 얼굴 인증 여부를 결정할 수 있다. 예를 들어, 매칭 모듈(415)은 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신하면, 상기 요청에 기반하여 제 1 템플릿 저장소(413)에 저장된 복수의 템플릿들과 제 1 카메라 장치(216a)를 통해 획득된 얼굴 이미지를 비교하고, 비교 결과에 따라 얼굴 인증 여부를 결정할 수 있다. 예를 들어, 매칭 모듈(415)은 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하면, 상기 요청에 기반하여 제 2 템플릿 저장소(414)에 저장된 복수의 템플릿들과 제 2 카메라 장치(225)를 통해 획득된 얼굴 이미지를 비교하고, 비교 결과에 따라 얼굴 인증 여부를 결정할 수 있다.
일 실시예에 따르면, 템플릿 제어 모듈(416)은 프로세서(120)의 제어에 따라 얼굴 인증과 관련한 동작들을 제어할 수 있다. 예를 들면, 템플릿 제어 모듈(416)은 매칭 모듈(415)을 제어하고, 매칭 모듈(415)을 통한 얼굴 인증 결과에 따라 제 1 템플릿 저장소(413)에 저장된 복수의 템플릿들 및/또는 제 2 템플릿 저장소(414)에 저장된 복수의 템플릿들의 우선 순위 및 정렬 순서를 변경할 수 있다.
다양한 실시예들에 따른 전자 장치(101)는, 얼굴 인증과 관련한 동작들 및 데이터를 보안 실행 환경내에서 수행 및 관리함으로써 보안성을 높일 수 있다.
도 5는 다양한 실시예들에 따른 전자 장치(101)의 동작을 설명한 흐름도이다.
도 5에 도시된 동작들 중에서 적어도 일부는 생략될 수 있다. 도 5에 도시된 적어도 일부 동작들의 이전 또는 이후에는 본 개시의 다양한 실시예에 따른 다른 도면을 참조하여 언급한 적어도 일부 동작들이 추가 삽입 될 수 있다.
도 5에 도시된 동작들은 프로세서(120)(예: 도 1또는 도 4의 프로세서(120))에 의해 수행될 수 있다. 예를 들면, 전자 장치(101)의 메모리(130)(예: 도 1또는 도 4의 메모리(130))는, 프로세서(120)에 의해 실행 시에, 전자 장치(101)가 도 5에 도시된 적어도 일부 동작들을 수행하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
다양한 실시예들에 따른 전자 장치(101)의 동작은, 얼굴 정보를 전자 장치(101)에 등록하기 위한 동작 510, 및 사전에 등록된 얼굴 정보를 기반으로 전자 장치(101)가 얼굴 인증을 수행하기 위한 동작 520을 포함할 수 있다.
일 실시예에 따르면, 얼굴 정보를 등록하기 위한 전자 장치(101)의 동작 510은 다음과 같은 동작들을 포함할 수 있다.
동작 511에서, 일 실시예에 따른 전자 장치(101)는, 제 1 카메라 장치(216a)를 통한 얼굴 정보의 등록 요청을 수신할 수 있다. 예를 들어, 전자 장치(101)는, 도 2를 참조하여 설명한 바와 같이, 전자 장치(101)의 펼침 상태(unfolded state)에서 제 1 카메라 장치(216a)를 통한 얼굴 정보의 등록 요청을 수신할 수 있다. 다른 실시예에서, 도시하지 않았으나, 전자 장치(101)는, 제 2 카메라 장치(225)를 통한 얼굴 정보의 등록 요청을 수신할 수 있다. 예를 들어, 전자 장치(101)는, 도 3를 참조하여 설명한 바와 같이, 전자 장치(101)의 접힘 상태(folded state)에서 제 2 카메라 장치(225)를 통한 얼굴 정보의 등록 요청을 수신할 수 있다. 이하, 본 개시의 다양한 실시예에서 도 5를 참조하여 설명되는 실시예는 제 1 카메라 장치(216a)를 통해 얼굴 정보의 등록 요청을 수신하는 것만을 설명하지만, 제 2 카메라 장치(225)를 통한 얼굴 정보의 등록 요청을 수신하는 것도 변경 및 치환이 가능하다.
동작 512에서, 일 실시예에 따른 전자 장치(101)는, 제 1 카메라 장치(216a)를 통해 복수의 제 1 이미지(예: 도 10의 제 1 이미지(920))들을 획득할 수 있다. 예를 들어, 전자 장치(101)는, 펼침 상태에서 제 1 카메라 장치(216a)를 통해 사용자의 얼굴을 포함한 복수의 제 1 이미지(920)들을 캡쳐할 수 있다.
동작 513에서, 일 실시예에 따른 전자 장치(101)는, 복수의 제 1 이미지(920)들 각각에 필터 처리(예: 도 7의 필터 처리(701))를 수행하여 복수의 제 2 이미지들(예: 도 10의 제 2 이미지(910))을 생성할 수 있다. 일 실시예에 따르면, 전자 장치(101)는, 다중 얼굴 이미지 생성부(412)를 제어함으로써, 지정된 카메라 장치를 통해 획득된 이미지를 이미지 변환 데이터(411)를 이용하여 복수의 이미지들을 생성할 수 있다. 여기서, 상기 생성되는 복수의 이미지들은 상기 지정된 카메라 장치를 제외한 다른 카메라 장치의 특성이 반영된 이미지들일 수 있다. 일 실시예에 따르면, 다중 얼굴 이미지 생성부(412)는, 프로세서(120)에 의해 제 1 카메라 장치(216a)를 통해 촬영된 제 1 이미지(920)가 입력되면, 이미지 변환 데이터(411)(예: 제 1 변환 필터)를 이용해 입력된 제 1 이미지(920)로부터 제 2 카메라 장치(225)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 제 2 이미지(910)를 생성할 수 있다. 도시하지 않았으나, 일 실시예에 따르면, 다중 얼굴 이미지 생성부(412)는, 프로세서(120)에 의해 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지(예: 도 9의 제 2 이미지(910))가 입력되면, 이미지 변환 데이터(411)(예: 제 2 변환 필터)를 이용해 입력된 제 2 이미지(910)로부터 제 1 카메라 장치(216a)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 제 1 이미지(예: 도 9의 제 1 이미지(920))를 생성할 수 있다.
동작 514에서, 일 실시예에 따른 전자 장치(101)는, 복수의 제 1 이미지(예: 도 10의 제 1 이미지(920))들 각각의 얼굴 영역(예: 도 10의 얼굴 영역(921))을 기반으로 복수의 제 1 템플릿들(930)을 생성할 수 있다. 예를 들어, 전자 장치(101)는, 복수의 제 1 이미지들 각각으로부터 얼굴 영역을 결정하고, 결정된 얼굴 영역(921)을 기반으로 복수의 제 1 템플릿들(930)을 생성할 수 있다. 일 실시예에 따르면, 전자 장치(101)는, 생성된 복수의 제 1 템플릿들(930)을 보안 실행 환경의 제 1 템플릿 저장소(413)에 저장할 수 있다.
동작 515에서, 일 실시예에 따른 전자 장치(101)는, 복수의 제 2 이미지(예: 도 9의 제 2 이미지(910))들 각각의 얼굴 영역(예: 도 9의 얼굴 영역(911))을 기반으로 복수의 제 2 템플릿들(940)을 생성할 수 있다. 예를 들어, 전자 장치(101)는, 복수의 제 2 이미지(910)들 각각으로부터 얼굴 영역을 결정하고, 결정된 얼굴 영역(911)을 기반으로 복수의 제 2 템플릿들(940)을 생성할 수 있다. 일 실시예에 따르면, 전자 장치(101)는, 생성된 복수의 제 2 템플릿들(940)을 보안 실행 환경의 제 2 템플릿 저장소(예: 도 4의 제 2 템플릿 저장소(414))에 저장할 수 있다. 일 실시예에 따르면, 제 2 템플릿 저장소(414)는, 제 1 템플릿 저장소(예: 도 4의 제 1 템플릿 저장소(413))와 물리적으로 분리되거나, 또는 소프트웨어적으로 분리된 저장소일 수 있다.
일 실시예에 따르면, 얼굴 인증을 수행하기 위한 전자 장치(101)의 동작 520은 다음과 같은 동작들을 포함할 수 있다. 예를 들어, 일 실시예에 따른 전자 장치(101)는, 동작 510과 같은 등록 동작을 수행한 이후에, 얼굴 인증 요청을 수신할 수 있고, 얼굴 인증 요청에 응답하여 다음과 같은 동작들을 수행할 수 있다.
동작 521에서, 일 실시예에 따른 전자 장치(101)는, 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신할 수 있다. 예를 들어, 전자 장치(101)는, 도 3를 참조하여 설명한 바와 같은, 전자 장치(101)의 접힘 상태(folded state)에서 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신할 수 있다. 다른 실시예에서, 도시하지 않았으나, 전자 장치(101)는, 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신할 수 있다. 예를 들어, 전자 장치(101)는, 도 2를 참조하여 설명한 바와 같은, 전자 장치(101)의 펼침 상태(unfolded state)에서 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신할 수 있다. 이하, 본 개시의 다양한 실시예에서 도 5를 참조하여 설명되는 실시예는 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하는 것만을 설명하지만, 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신하는 것도 변경 및 치환이 가능하다.
동작 522에서, 일 실시예에 따른 전자 장치(101)는, 제 2 카메라 장치(225)를 통해 획득된 이미지와 복수의 제 2 템플릿들(940) 및 복수의 제 1 템플릿들(930) 중 적어도 하나에 기반하여 얼굴 인증을 수행할 수 있다. 예를 들어, 전자 장치(101)는, 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하면, 매칭 모듈(415)을 제어하는 것에 의해, 제 2 템플릿 저장소(414)에 저장된 복수의 템플릿들과 제 2 카메라 장치(225)를 통해 획득된 얼굴 이미지를 비교하고, 비교 결과에 따라 얼굴 인증 여부를 결정할 수 있다. 이때, 제 2 템플릿 저장소(414)에 저장된 복수의 템플릿들은 제 2 카메라 장치(225)의 특성을 기반으로 생성된 복수의 제 2 템플릿들(940)에 대하여 우선 순위 및 정렬 순서가 설정될 수 있지만, 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 적어도 하나의 제 1 템플릿도 포함할 수 있다. 이는, 전술한 바와 같이, 템플릿 제어 모듈(416)이 얼굴 인증 결과에 따라 제 2 템플릿 저장소(414)에 저장된 복수의 템플릿들의 우선 순위 및 정렬 순서를 변경하였기 때문일 수 있다.
도시하지 않았으나, 전자 장치(101)는, 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신하면, 매칭 모듈(415)을 제어하는 것에 의해, 제 1 템플릿 저장소(413)에 저장된 복수의 템플릿들과 제 1 카메라 장치(216a)를 통해 획득된 얼굴 이미지를 비교하고, 비교 결과에 따라 얼굴 인증 여부를 결정할 수 있다. 이때, 제 1 템플릿 저장소(413)에 저장된 복수의 템플릿들은 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 복수의 제 1 템플릿들(930)에 대하여 우선 순위 및 정렬 순서가 설정될 수 있지만, 제 2 카메라 장치(225)의 특성을 기반으로 생성된 적어도 하나의 제 2 템플릿도 포함할 수 있다. 이는, 전술한 바와 같이, 템플릿 제어 모듈(416)이 얼굴 인증 결과에 따라 제 1 템플릿 저장소(413)에 저장된 복수의 템플릿들의 우선 순위 및 정렬 순서를 변경하였기 때문일 수 있다.
도 6은 다양한 실시예들에 따른 변환 필터를 생성하는 동작을 설명하기 위한 예시이다.
도 7은 일 실시예에 따른 제 1 카메라 장치(216a)로부터 획득한 이미지를 변환하는 동작을 설명한 예시이다.
도 8은 일 실시예에 따른 제 2 카메라 장치(225)로부터 획득한 이미지를 변환하는 동작을 설명한 예시이다.
일 실시예에 따르면, 전자 장치(101)는, 도 5를 참조하여 설명한, 얼굴 정보를 등록하기 위한 전자 장치(101)의 동작 510을 수행하기 이전에 변환 필터를 생성 및 저장하는 동작을 사전에 수행할 수 있다.
도 6을 참조하면, 일 실시예에 따른 전자 장치(101)는 제 1 카메라 장치(216a)를 통해 복수의 제 1 이미지(601)들을 획득할 수 있다. 예를 들어, 제 1 이미지(601)는 제 1 카메라 장치(216a)를 이용해 사용자의 얼굴을 촬영함으로써 획득한 얼굴 이미지를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 제 2 카메라 장치(225)를 통해 복수의 제 2 이미지(602)들을 획득할 수 있다. 예를 들어, 제 2 이미지(602)는 제 2 카메라 장치(225)를 통해 사용자의 얼굴을 촬영함으로써 획득한 얼굴 이미지를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(101)는, 도 6의 611과 같이, 복수의 제 1 이미지(601)들과 복수의 제 2 이미지(602)들을 비교하고, 제 1 이미지(601)와 제 2 이미지(602)의 차이점을 산출할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 제 1 이미지(601)와 제 2 이미지(602)의 차이점을 산출하는 방법으로서, 딥 러닝(deep learning) 방법을 사용할할 수 있다. 예를 들면, 전자 장치(101)는, 해상도, 조도, 및/또는 지정된 광원에서 촬영된 제 1 이미지(601) 및 제 2 이미지(602)를 비교하는 것에 의해 차이값을 산출할 수 있다.
일 실시예에 따르면, 전자 장치(101)는, 도 6의 612와 같이, 상기 딥 러닝을 수행한 결과에 따른 차이값을 기반으로, 제 1 변환 필터 및 제 2 변환 필터를 획득할 수 있다. 일 실시예에 따르면, 제 1 변환 필터 및 제 2 변환 필터는, 전자 장치(101)가 제 1 카메라 장치(216a) 및 제 2 카메라 장치(225)별로 템플릿들을 생성하는데 이용될 수 있다. 예를 들어, 전자 장치(101)는, 도 5의 동작 513에서, 제 1 변환 필터를 이용하여 복수의 제 2 이미지(예: 도 10의 제 2 이미지(910))들을 생성할 수 있다. 예를 들어, 전자 장치(101)는, 얼굴 정보를 등록하는 동작을 수행할 때, 제 1 변환 필터 및/또는 제 2 변환 필터를 이용하여, 이미지를 촬영한 카메라 장치의 특성에 대응하는 템플릿들을 생성할 뿐만 아니라, 상기 이미지를 촬영한 카메라 장치를 제외한 나머지 카메라 장치의 특성에 대응하는 템플릿들도 생성할 수 있다.
일 실시예에 따르면, 전자 장치(101)는, 제 1 카메라 장치(216a) 및/또는 제 2 카메라 장치(225)를 통해 촬영 시에 붉은 광원, 및/또는 보라 광원과 같은 다양한 광원이 비추는 환경에서 촬영한 이미지들, 각 단계별 외부 조도 환경에서 촬영한 이미지들, 및/또는 각 해상도에서 촬영한 이미지들에 대해서 딥 러닝을 수행함으로써, 가장 적합한 변환 필터를 생성할 수 있다.
일 실시예에 따르면, 제 2 카메라 장치(225)와 같은 일반적인 카메라로 촬영된 이미지의 경우, 제 1 카메라 장치(216a)와 같은 UDC 로 촬영된 이미지에 비하여 상대적으로 노이즈가 적을 수 있다. 따라서, 전자 장치(101)는, 제 2 카메라 장치(225)로부터 촬영된 이미지에 대하여 노이즈를 줄이고, 디스플레이의 특성에 따른 빛의 분산으로 인하여 발생되는 빛 번짐 현상을 줄일 수 있는 제 1 변환 필터를 생성할 수 있다. 따라서, 도 7에 도시된 바와 같이, 전자 장치(101)는, 제 1 카메라 장치(216a)를 통해 촬영한 제 1 이미지(711)에 대하여 제 1 변환 필터를 적용하는 필터 처리(701)를 수행함으로써, 제 2 카메라 장치(225)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 변환 이미지(712)를 획득할 수 있다. 이때, 획득된 변환 이미지(712)는, 제 1 카메라 장치(216a)를 통해 촬영된 원본 이미지인 제 1 이미지(711)와 달리, 노이즈가 적고, 빛 번짐 현상이 줄어든 이미지로서, 제 2 카메라 장치(225)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사할 수 있다.
일 실시예에 따르면, 전자 장치(101)가 제 1 카메라 장치(216a)를 통해 촬영된 원본 이미지로부터 제 2 카메라 장치(225)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 변환 이미지를 생성할 때, UDC의 특성에 의해서 블러(blur) 현상이 발생한 부분은, 샤프니스(sharpness) 필터를 적용함으로써 상기 변환 이미지를 생성할 수 있다. 다양한 실시예들에 따르면, 전자 장치(101)는, 제 1 변환 필터를 생성함에 있어서, 카메라 장치의 반경(radius) 값이나 컬러 노이즈(color noise) 값, 및/또는 임계(threshold) 값을 딥 러닝을 통해 연산하되, UDC의 특성, 및/또는 UDC와 중첩되는 디스플레이(예: 제 1 디스플레이(230))의 속성을 고려할 수 있다.
일 실시예에 따르면, 제 1 카메라 장치(216a)와 같은, UDC 로 촬영된 이미지의 경우 스팟성 블러가 발생할 수 있다. 전자 장치(101)는, UDC의 특성을 고려한 딥 러닝에 의해, 보케(bokeh) 효과와 유사한 변환 필터를 생성할 수 있다. 어떤 실시예에 따르면, 전자 장치(101)는, UDC와 중첩되도록 배치되는 디스플레이, 예컨대, 제 1 디스플레이(230)의 속성에 따라 다양한 특성이 적용된 변환 필터를 생성할 수 있다. 일 실시예에 따르면, 제 1 카메라 장치(216a)와 같은 UDC의 경우, 수광되는 빛이 디스플레이의 활성화 영역을 통과해야 하는 물리적인 제약으로 인하여, 이미지에 지정된 노이즈가 발생할 수 있다. 일 실시예에 따르면, 전자 장치(101)는, 상기 지정된 노이즈에 대한 딥 러닝에 의해 제 2 변환 필터를 생성할 수 있다. 따라서, 도 8에 도시된 바와 같이, 전자 장치(101)는, 제 2 카메라 장치(225)를 통해 촬영된 제 2 이미지(811)에 대하여 제 2 변환 필터를 적용하는 필터 처리(801)를 수행함으로써, 제 1 카메라 장치(216a)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 변환 이미지(812)를 획득할 수 있다. 이때, 획득된 변환 이미지(812)는, 제 2 카메라 장치(225)를 통해 촬영된 원본 이미지인 제 2 이미지(811)와 달리, 노이즈가 많고, 빛 번짐 현상이 의도적으로 적용된 이미지로서, 제 1 카메라 장치(216a)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사할 수 있다.
도 9는 일 실시예에 따른 전자 장치(200)가 제 2 카메라 장치(225)로부터 획득한 이미지를 이용해 복수의 제 1 및 제 2 템플릿들(930, 940)을 생성하는 동작을 설명한 예시이다.
도 9를 참조하면, 도 3를 참조하여 설명한 바와 같은, 전자 장치(200)의 접힘 상태(folded state)에서 얼굴 정보의 등록 요청을 수신할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 상기 요청에 응답하여, 제 2 카메라 장치(225)를 활성화하고, 제 2 카메라 장치(225)를 통해 적어도 하나의 제 2 이미지(910)를 획득할 수 있다. 예를 들어, 제 2 이미지(910)는 전자 장치(200)의 접힘 상태에서 제 2 카메라 장치(225)를 통해 셀피 촬영된 사용자의 얼굴 이미지를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 제 2 이미지(910)로부터 얼굴 영역(911)을 결정하고, 결정된 얼굴 영역(911)을 기반으로 제 2 템플릿(940)을 생성할 수 있다. 예를 들어, 전자 장치(200)는 제 2 이미지(910)의 얼굴 영역(911)에 대응하는 얼굴 이미지를 추출하고, 추출된 얼굴 이미지를 기반으로 제 2 템플릿(940)을 생성할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 복수의 제 2 이미지(910)들 각각으로부터 얼굴 영역(911)을 결정하고, 결정된 얼굴 영역(911)을 기반으로 복수의 제 2 템플릿들(940)을 생성할 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 메모리(130)의 보안 실행 환경에서 복수의 제 2 이미지(910)들 각각에 대하여 제 2 변환 필터를 적용하는 필터 처리(예: 토 8의 필터 처리(801))를 수행함으로써, 복수의 제 1 이미지들(920)을 획득할 수 있다. 여기서, 복수의 제 1 이미지들(920)은 제 1 카메라 장치(216a)를 통해 직접적으로 촬영된 이미지는 아니지만, 복수의 제 2 이미지(910)들에 대하여 상기 필터 처리(예: 토 8의 필터 처리(801))가 수행됨으로써, 제 1 카메라 장치(216a)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 이미지일 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 복수의 제 1 이미지들(920)로부터 얼굴 영역을 결정하고, 결정된 얼굴 영역을 기반으로 복수의 제 1 템플릿들(930)을 생성할 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 복수의 제 1 템플릿들(930)을 제 1 템플릿 저장소(예: 도 4의 제 1 템플릿 저장소(413))에 저장하고, 복수의 제 2 템플릿들(940)을 제 1 템플릿 저장소(413)와 물리적으로 분리되거나, 또는 소프트웨어적으로 분리된 제 2 템플릿 저장소(예: 도 4의 제 2 템플릿 저장소(414))에 저장할 수 있다.
도 10은 일 실시예에 따른 전자 장치(200)가 제 1 카메라 장치(216a)로부터 획득한 이미지를 이용해 복수의 제 1 및 제 2 템플릿들(930, 940)을 생성하는 동작을 설명한 예시이다.
도 10을 참조하면, 도 2를 참조하여 설명한 바와 같은, 전자 장치(200)의 펼침 상태(unfolded state)에서 얼굴 정보의 등록 요청을 수신할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 상기 요청에 응답하여, 제 1 카메라 장치(216a)를 활성화하고, 제 1 카메라 장치(216a)를 통해 복수의 제 1 이미지(920)들, 또는 적어도 하나의 제 1 이미지(920)를 획득할 수 있다. 예를 들어, 제 1 이미지(920)는 전자 장치(200)의 펼침 상태에서 제 1 카메라 장치(216a)를 통해 셀피 촬영된 사용자의 얼굴 이미지를 포함할 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 제 1 이미지(920)로부터 얼굴 영역(921)을 결정하고, 결정된 얼굴 영역(921)을 기반으로 제 1 템플릿(930)을 생성할 수 있다. 예를 들어, 전자 장치(200)는 제 1 이미지(920)의 얼굴 영역(921)에 대응하는 얼굴 이미지를 추출하고, 추출된 얼굴 이미지를 기반으로 제 1 템플릿(930)을 생성할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 복수의 제 1 이미지(920)들 각각으로부터 얼굴 영역(921)을 결정하고, 결정된 얼굴 영역(921)을 기반으로 복수의 제 1 템플릿들(930)을 생성할 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 메모리(130)의 보안 실행 환경에서 복수의 제 1 이미지(920)들 각각에 대하여 제 1 변환 필터를 적용하는 필터 처리(예: 도 7의 필터 처리(701))를 수행함으로써, 복수의 제 2 이미지들(910)을 획득할 수 있다. 여기서, 복수의 제 2 이미지들(910)은 제 2 카메라 장치(225)를 통해 직접적으로 촬영된 이미지는 아니지만, 복수의 제 1 이미지(920)들에 대하여 상기 필터 처리(예: 도 7의 필터 처리(701))가 수행됨으로써, 제 2 카메라 장치(225)를 통해 촬영된 이미지와 실질적으로 동일하거나 유사한 이미지일 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 복수의 제 2 이미지들(910)로부터 얼굴 영역을 결정하고, 결정된 얼굴 영역을 기반으로 복수의 제 2 템플릿들(940)을 생성할 수 있다.
일 실시예에 따르면, 전자 장치(200)는, 복수의 제 1 템플릿들(930)을 제 1 템플릿 저장소(413)에 저장하고, 복수의 제 2 템플릿들(940)을 제 1 템플릿 저장소(413)와 물리적으로 분리되거나, 또는 소프트웨어적으로 분리된 제 2 템플릿 저장소(414)에 저장할 수 있다.
도 11은 일 실시예에 따른 전자 장치(200)가 복수의 템플릿들을 관리하는 동작을 설명한 흐름도이다.
도 12는 일 실시예에 따른 전자 장치(200)가 복수의 템플릿들을 최적화하는 동작을 설명한 예시이다.
도 13은 일 실시예에 따른 전자 장치(200)가 매칭 스코어에 기반하여 복수의 템플릿들의 우선순위를 조정하는 동작을 설명한 예시이다.
도 11에 도시된 동작들 중에서 적어도 일부는 생략될 수 있다. 도 11에 도시된 적어도 일부 동작들의 이전 또는 이후에는 본 개시의 다양한 실시예에서 다른 도면을 참조하여 언급한 적어도 일부 동작들이 추가 삽입 될 수 있다.
도 11에 도시된 동작들은 프로세서(120)(예: 도 1의 프로세서(120))에 의해 수행될 수 있다. 예를 들면, 전자 장치(200)의 메모리(130)(예: 도 1의 메모리(130))는, 프로세서(120)에 의해 실행 시에, 전자 장치(200)가 도 11에 도시된 적어도 일부 동작들을 수행하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
이하, 도 11 내지 도 13을 결부하여, 일 실시예에 따른 전자 장치(200)가 복수의 템플릿들을 관리하는 동작을 설명한다.
다양한 실시예들에 따르면, 전자 장치(200)는 메모리(130)에 저장된 복수의 템플릿들, 예컨대 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940)을 관리하는 동작을 수행할 수 있다. 예를 들면, 도 5를 참조하여 설명한, 전자 장치(200)의 동작 510은, 얼굴 정보의 등록 동작에서 복수의 템플릿들을 최적화하기 위한 동작 516을 더 포함할 수 있다. 또는, 전자 장치(200)는, 얼굴 인증이 완료된 이후에, 얼굴 인증의 결과를 기반으로 기 저장된 복수의 템플릿들의 매칭 스코어 및/또는 우선 순위를 조정하는 동작 1100을 더 수행할 수 있다.
다양한 실시예들에 따르면, 동작 516과 동작 1100은 서로 독립적으로 수행될 수 있다.
도 11을 참조하면, 동작 516에서, 일 실시예에 따른 전자 장치(200)는, 얼굴 정보의 등록 동작에서 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940)을 생성하면, 상기 생성된 템플릿들에 대한 최적화 동작을 수행할 수 있다. 예를 들어, 전자 장치(200)는, 도 12에 도시된 바와 같이, 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940)을 생성한 이후에, 생성된 템플릿들에 대한 최적화를 수행하기 위한 사용자 인터페이스(1201)를 제공할 수 있다. 전자 장치(200)는, 상기 인터페이스(1201)를 통해 사용자에게 다시 한번 얼굴 이미지의 촬영을 요청할 수 있다. 전자 장치(200)는, 제 1 카메라 장치(216a) 및/또는 제 2 카메라 장치(225)를 통해 이미지(예: 도 12의 1210)를 획득하고, 획득한 이미지(예: 도 12의 1210)에서 얼굴 영역(예: 도 12의 1211)을 결정할 수 있다. 전자 장치(200)는, 결정된 얼굴 영역(예: 도 12의 1211)에 대응하는 얼굴 이미지와 기 생성된 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940)을 비교할 수 있다.
일 실시예에 따르면 전자 장치(200)는, 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940) 각각에 대하여, 얼굴 이미지(예: 도 12의 얼굴 영역(1211)에 대응하는 얼굴 이미지)와의 유사도를 평가할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 얼굴 이미지와의 유사도에 대하여 지정된 기준값(예: 도 12의 1220)을 설정하고, 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940) 중에서 지정된 기준값(예: 도 12의 1220)보다 크거나 같은 일부 템플릿들만을 저장하고, 상기 지정된 기준값(예: 도 12의 1220)보다 작은 유사도를 갖는 나머지 템플릿들을 삭제할 수 있다.
예를 들어, 도 12에서는, 최적화 동작을 수행하기 이전의 복수의 제 1 템플릿들(930)로서, 템플릿 931, 템플릿 932, 템플릿 933, 및 템플릿 934를 예시하고 있다. 또한, 최적화 동작을 수행하기 이전의 복수의 제 2 템플릿들(940)로서, 템플릿 941, 템플릿 942, 템플릿 943, 및 템플릿 944를 예시하고 있다. 일 실시예에 따르면, 복수의 제 1 템블릿들(930)과 복수의 제 2 템블릿들(940)은 하나의 얼굴 이미지를 기반으로 생성된 템플릿들끼리 한 쌍을 이루도록 설정될 수 있다. 예를 들어, 전자 장치(200)는, 얼굴 정보의 등록 동작에서 복수의 사진 촬영을 통해 복수의 얼굴 이미지들을 획득하고, 얼굴 이미지 각각으로부터 한 쌍의 템플릿인 제 1 템플릿(930) 및 제 2 템플릿(940)을 생성할 수 있다.
도시된 예시에 따르면, 템플릿 931 및 템플릿 941은 한 쌍을 이루도록 설정되고, 하나의 얼굴 이미지를 기반으로 생성된 템플릿들 일 수 있다.
도시된 예시에 따르면, 템플릿 932 및 템플릿 942는 한 쌍을 이루도록 설정되고, 하나의 얼굴 이미지를 기반으로 생성된 템플릿들 일 수 있다.
도시된 예시에 따르면, 템플릿 933 및 템플릿 943은 한 쌍을 이루도록 설정되고, 하나의 얼굴 이미지를 기반으로 생성된 템플릿들 일 수 있다.
도시된 예시에 따르면, 템플릿 934 및 템플릿 944는 한 쌍을 이루도록 설정되고, 하나의 얼굴 이미지를 기반으로 생성된 템플릿들 일 수 있다.
일 실시예에 따르면, 전자 장치(200)는 복수의 제 1 템블릿들(930) 또는 복수의 제 2 템플릿들(940)에 대하여 최적화 동작을 수행하되, 한 쌍을 이루도록 설정된 제 1 템플릿(930) 및 제 2 템플릿(940) 중에서 어느 하나가 미리 지정된 기준값(예: 도 12의 1220)보다 작은 경우, 한 쌍을 이루도록 설정된 제 1 템플릿(930) 및 제 2 템플릿(940)을 모두 삭제할 수 있다. 예를 들어, 전자 장치(200)는, 제 1 카메라 장치(216a)를 통해 얼굴 이미지를 획득하고, 획득한 얼굴 이미지와 템플릿 931의 유사도를 산출할 수 있다. 전자 장치(200)는, 템플릿 931의 유사도가 지정된 기준값(예: 도 12의 1220)보다 크거나 같은 경우, 템플릿 931 및 템플릿 931과 한 쌍을 이루는 템플릿 941을 저장함으로써, 템플릿 931 및 템플릿 941에 대한 최적화를 완료할 수 있다. 예를 들어, 전자 장치(200)는, 제 1 카메라 장치(216a)를 통해 얼굴 이미지를 획득하고, 획득한 얼굴 이미지와 템플릿 933의 유사도를 산출할 수 있다. 전자 장치(200)는, 템플릿 933의 유사도가 지정된 기준값(예: 도 12의 1220)보다 작은 경우, 템플릿 933 및 템플릿 933과 한 쌍을 이루는 템플릿 943을 삭제함으로써, 템플릿 933 및 템플릿 943에 대한 최적화를 완료할 수 있다.일 실시예에 따른 전자 장치(200)는, 예를 들어, 제 2 카메라 장치(225)를 통해 얼굴 이미지를 획득하고, 획득한 얼굴 이미지와 템플릿 941의 유사도를 산출할 수 있다. 전자 장치(200)는, 템플릿 941의 유사도가 지정된 기준값(예: 도 12의 1220)보다 크거나 같은 경우, 템플릿 941 및 템플릿 941과 한 쌍을 이루는 템플릿 931을 저장함으로써, 템플릿 931 및 템플릿 941에 대한 최적화를 완료할 수 있다. 도시하지 않았으나, 예를 들어, 전자 장치(200)는, 제 2 카메라 장치(225)를 통해 얼굴 이미지를 획득하고, 획득한 얼굴 이미지와 템플릿 943의 유사도를 산출할 수 있다. 전자 장치(200)는, 템플릿 943의 유사도가 지정된 기준값(예: 도 12의 1220)보다 작은 경우, 템플릿 943 및 템플릿 943과 한 쌍을 이루는 템플릿 933을 삭제함으로써, 템플릿 933 및 템플릿 943에 대한 최적화를 완료할 수 있다.
다양한 실시예들에 따른 전자 장치(200)는, 최적화 동작을 수행함에 따라, 불필요한 메모리(130)의 사용을 방지하고, 처리 속도를 높일 수 있다.
다양한 실시예들에 따른 전자 장치(200)는, 최적화 동작을 수행함에 있어서, 사용자의 추가적인 입력 없이, 얼굴 정보의 등록 동작의 마지막 동작에서 백그라운드로 진행할 수 있다. 예를 들면, 전자 장치(200)는 얼굴 정보를 등록하는 사용자 인터페이스를 통해 지정된 값의 진행율, 예컨대 등록 진행율 약 80% 를 표시하는 동안 백그라운드에서 최적화 동작을 수행할 수 있다.
도 11에 도시된 동작 520은, 도 5에 도시된 동작 520와 적어도 일부가 유사하거나, 또는 실질적으로 동일할 수 있다.
동작 520에서, 일 실시예에 따른 전자 장치(200)는, 얼굴 인증이 완료되면(예: 동작 520의 결과가 "예"), 동작 1110을 수행할 수 있다. 동작 1110은 다음과 같은 동작들을 포함할 수 있다.
동작 1110에서, 일 실시예에 따른 전자 장치(200)는, 얼굴 인증 결과를 기반으로 복수의 템플릿들 각각에 대한 매칭 스코어를 결정할 수 있다. 예를 들어, 전자 장치(200)는, 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940) 각각에 대한 매칭 스코어를 설정할 수 있고, 이러한 매칭 스코어는 얼굴 인증 결과에 따라 조정될 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 복수의 템플릿들 중에서 특정 템플릿이 얼굴 인증에 성공한 경우, 해당 템플릿에 대한 매칭 스코어를 증가시킬 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 복수의 템플릿들 중에서 특정 템플릿이 얼굴 인증에 실패한 경우, 해당 템플릿에 대한 매칭 스코어를 감소시킬 수 있다. 전자 장치(200)는, 이와 같은 방법을 통해, 사용자가 얼굴 인증을 수행할 때마다 해당 카메라 장치에 대응하는 최적의 템플릿들을 업데이트할 수 있다.
동작 1120에서, 일 실시예에 따른 전자 장치(200)는, 복수의 템플릿들 각각의 매칭 스코어(예: 도 13의 1301)를 기반으로, 복수의 템플릿들 각각이 메모리(130)에 저장되는 우선 순위를 결정할 수 있다. 상기 우선 순위는, 얼굴 인증 동작을 수행할 때, 카메라 장치를 통해 획득한 얼굴 이미지와 비교되는 정렬 순서를 결정짓는 요인일 수 있다. 예를 들어, 전자 장치(200)는, 제 1 카메라 장치(216a)를 통해 얼굴 인증을 수행하게 된 경우, 제 1 카메라 장치(216a)에 대응하는 제 1 템플릿 저장소(413)에 저장된 복수의 제 1 템플릿들(930) 및 복수의 제 2 템플릿들(940) 중에서 우선 순위가 높은 템플릿들부터 순차적으로 제 1 카메라 장치(216a)를 통해 획득한 얼굴 이미지와 비교를 하게 될 수 있다. 이를 위해, 제 1 템플릿 저장소(413)에는 복수의 템플릿들이 정렬됨에 있어서, 우선 순위가 높은 템플릿들부터 우선 순위가 낮은 템플릿의 순서로 정렬될 수 있다.
동작 1130에서, 일 실시예에 따른 전자 장치(200)는, 메모리(130)에 저장된 복수의 템플릿들의 정렬 순서를 우선 순위에 기반하여 업데이트할 수 있다.
도 13을 참조하면, 일 실시예에 따른 전자 장치(200)는, 제 1 템플릿 저장소(413)에 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 복수의 제 1 템플릿들(930)을 우선적으로 저장 및 정렬하는 것으로 설정할 수 있다. 전자 장치(200)는, 상기 설정 이후에, 제 1 카메라 장치(216a)를 통한 얼굴 인증 요청을 수신하고, 얼굴 인증 동작에서 제 2 카메라 장치(225)의 특성을 기반으로 생성된 지정된 제 2 템플릿을 이용해 얼굴 인증을 성공한 경우, 제 1 템플릿 저장소(413)에서 상기 지정된 제 2 템플릿의 우선 순위 및 정렬 순서를 높일 수 있다.
도 13을 참조하면, 일 실시예에 따른 전자 장치(200)는, 제 2 템플릿 저장소(414)에 제 2 카메라 장치(225)의 특성을 기반으로 생성된 복수의 제 2 템플릿들(940)을 우선적으로 저장 및 정렬하는 것을 설정할 수 있다. 전자 장치(200)는, 상기 설정 이후에, 제 2 카메라 장치(225)를 통한 얼굴 인증 요청을 수신하고, 얼굴 인증 동작에서 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 지정된 제 1 템플릿을 이용해 얼굴 인증을 성공한 경우, 제 2 템플릿 저장소(414)에서 상기 지정된 제 1 템플릿의 우선 순위 및 정렬 순서를 높일 수 있다.
일 실시예에 따르면, 얼굴 인증시, 현재 인증을 시도하는 카메라 장치의 종류에 따라 우선적으로 매칭하는 템플릿의 순서를 결정할 수 있다. 예를 들어, 인증을 시도하는 카메라 장치가 UDC이면, UDC 의 특성을 고려하여 생성된 템플릿들을 우선적으로 매칭 작업에 사용하고, 이어서 UDC를 제외한 다른 카메라 장치의 특성을 고려하여 생성된 템플릿들을 매칭 작업에 사용할 수 있다.
예를 들어, 전자 장치는, 인증을 시도하는 카메라 장치가 UDC이고, UDC 의 특성을 고려하여 생성된 템플릿들을 우선적으로 매칭 작업하였음에도 인증이 완료되지 않는 경우, UDC를 제외한 다른 카메라 장치의 특성을 고려하여 생성된 템플릿들을 매칭 작업에 사용할 수 있다. 이 경우, 인증을 시도하는 카메라 장치가 UDC인 상태에서, UDC를 제외한 다른 카메라 장치의 특성을 고려하여 생성된 지정된 템플릿으로 인증이 완료된 경우, 전자 장치(200)는 상기 지정된 템플릿에 대하여 매칭 스코어를 높일 수 있다(예: 매칭 스코어를 +1 증가).
일 실시예에 따르면, 전자 장치는 인증을 시도하는 카메라 장치가 UDC인 상태에서, UDC에 대응하도록 설정된 템플릿 저장소(예: 제 1 템플릿 저장소(413))의 모든 템플릿들이 매칭되지 않은 경우, 다른 카메라 장치에 대응하는 템플릿 저장소(예: 제 2 템플릿 저장소(414))에 포함된 템플릿들을 매칭 작업에 이용할 수 있다. 전자 장치는, 다른 카메라 장치에 대응하는 템플릿 저장소(예: 제 2 템플릿 저장소(414))에 포함된 템플릿들 중에서 지정된 템플릿을 통해 인증이 완료된 경우, 상기 지정된 템플릿을 UDC에 대응하도록 설정된 템플릿 저장소(예: 제 1 템플릿 저장소(413))로 복사해오고, UDC에 대응하도록 설정된 템플릿 저장소(예: 제 1 템플릿 저장소(413)) 내에서 가장 매칭 스코어가 낮은 템플릿을 삭제할 수 있다.
도 14는 일 실시예에 따른 전자 장치(200)가 얼굴 인증을 수행하는 동작을 설명한 흐름도이다.
도 14에 도시된 동작들 중에서 적어도 일부는 생략될 수 있다. 도 14에 도시된 적어도 일부 동작들의 이전 또는 이후에는 본 개시의 다양한 실시예에서 다른 도면을 참조하여 언급한 적어도 일부 동작들이 추가 삽입 될 수 있다.
도 14에 도시된 동작들은 프로세서(120)(예: 도 1의 프로세서(120))에 의해 수행될 수 있다. 예를 들면, 전자 장치(200)의 메모리(130)(예: 도 1의 메모리(130))는, 프로세서(120)에 의해 실행 시에, 전자 장치(200)가 도 14에 도시된 적어도 일부 동작들을 수행하도록 하는 인스트럭션들(instructions)을 저장할 수 있다.
도 14에 도시된 흐름도는 도 5를 참조하여 설명한 동작 520과 적어도 일부가 유사하거나 다른 실시예를 포함할 수 있다.
동작 1410에서, 일 실시예에 따른 전자 장치(200)는, 얼굴 인증 요청을 수신할 수 있다. 예를 들어, 전자 장치(200)는, 실행된 어플리케이션에 기반하여 인증 대상자의 신원을 확인하기 위한 얼굴 인증 요청 이벤트 발생을 감지할 수 있다. 예를 들어, 전자 장치(200)는, 얼굴 인증을 통해, 지정된 어플리케이션을 통해 요구되는 보안 인증을 수행하거나, 또는 전자 장치(200)의 잠금 상태를 해제할 수 있다.
동작 1420에서, 일 실시예에 따른 전자 장치(200)는, 전자 장치(200)의 상태에 기반하여 얼굴 인증을 위한 카메라 장치를 결정할 수 있다. 일 실시예에 따르면, 전자 장치(200)는 얼굴 인증 요청을 수신하는 것에 기반하여, 전자 장치(200)의 상태를 확인할 수 있다. 예를 들어, 전자 장치(200)는, 전자 장치(200)가 접힘 상태인지 또는 펼침 상태인지 확인할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 전자 장치(200)가 펼침 상태인 경우, 제 1 카메라 장치(216a)를 통해 얼굴 인증을 수행하는 것으로 결정할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 전자 장치(200)가 접힘 상태인 경우, 제 2 카메라 장치(225)를 통해 얼굴 인증을 수행하는 것으로 결정할 수 있다.
동작 1430에서, 일 실시예에 따른 전자 장치(200)는, 얼굴 인증을 위한 카메라 장치가 제 1 카메라 장치(216a)인지 여부를 확인할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 얼굴 인증을 수행하는 카메라 장치가 제 1 카메라 장치(216a)이면(예: 동작 1430의 결과가 "예"), 동작 1441을 수행할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 얼굴 인증을 수행하는 카메라 장치가 제 1 카메라 장치(216a)가 아니면(예: 동작 1430의 결과가 "아니오", 즉 얼굴 인증을 수행하는 카메라 장치가 제 2 카메라 장치(225)이면), 동작 1451을 수행할 수 있다.
동작 1441에서, 일 실시예에 따른 전자 장치(200)는, 제 1 카메라 장치(216a)를 통해 제 1 얼굴 이미지를 획득할 수 있다. 예를 들어, 전자 장치(200)는 제 1 카메라 장치(216a)를 통해 셀피 촬영된 사용자의 얼굴을 포함한 제 1 이미지를 획득하고, 제 1 이미지로부터 얼굴 영역에 대응하는 제 1 얼굴 이미지를 획득할 수 있다.
동작 1442에서, 일 실시예에 따른 전자 장치(200)는, 제 1 카메라 장치(216a)에 대응하는 우선 순위를 기반으로, 제 1 얼굴 이미지와 복수의 제 1 템플릿 및 제 2 템플릿들을 비교할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 제 1 카메라 장치(216a)를 통한 얼굴 인증을 위하여 제 1 템플릿 저장소(413)를 참조할 수 있다. 제 1 템플릿 저장소(413)에는, 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 복수의 제 1 템플릿들(930)이 우선적으로 저장 및 정렬되어 있고, 제 2 카메라 장치(225)의 특성을 기반으로 생성된 적어도 하나의 제 2 템플릿도 저장되어 있을 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 제 1 얼굴 이미지와 제 1 템플릿 저장소(413)에 저장된 복수의 제 1 템플릿 및 제 2 템플릿들을 비교한 결과에 따라 얼굴 인증을 완료할 수 있다.
동작 1451에서, 일 실시예에 따른 전자 장치(200)는, 제 2 카메라 장치(225)를 통해 제 2 얼굴 이미지를 획득할 수 있다. 예를 들어, 전자 장치(200)는 제 2 카메라 장치(225)를 통해 셀피 촬영된 사용자의 얼굴을 포함한 제 2 이미지를 획득하고, 제 2 이미지로부터 얼굴 영역에 대응하는 제 2 얼굴 이미지를 획득할 수 있다.
동작 1452에서, 일 실시예에 따른 전자 장치(200)는, 제 2 카메라 장치(225)에 대응하는 우선 순위를 기반으로, 제 2 얼굴 이미지와 복수의 제 1 템플릿들(930) 및 제 2 템플릿들(940)을 비교할 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 제 2 카메라 장치(225)를 통한 얼굴 인증을 위하여 제 2 템플릿 저장소(414)를 참조할 수 있다. 제 2 템플릿 저장소(414)에는, 제 2 카메라 장치(225)의 특성을 기반으로 생성된 복수의 제 2 템플릿들(940)이 우선적으로 저장 및 정렬되어 있고, 제 1 카메라 장치(216a)의 특성을 기반으로 생성된 적어도 하나의 제 1 템플릿도 저장되어 있을 수 있다. 일 실시예에 따르면, 전자 장치(200)는, 제 2 얼굴 이미지와 제 2 템플릿 저장소(414)에 저장된 복수의 제 1 템플릿들(930) 및 제 2 템플릿들(940)을 비교한 결과에 따라 얼굴 인증을 완료할 수 있다.

Claims (15)

  1. 전자 장치에 있어서,
    제 1 특성을 갖는 제 1 카메라 장치;
    상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라 장치;
    메모리; 및
    상기 제 1 카메라 장치, 상기 제 2 카메라 장치, 및 상기 메모리와 작동적으로 연결된 프로세서를 포함하고,
    상기 메모리는 실행 시에, 상기 프로세서가,
    상기 제 1 카메라 장치를 통한 얼굴 정보의 등록 요청을 수신하고;
    상기 요청에 기반하여, 상기 제 1 카메라 장치를 통해 복수의 제 1 이미지들을 획득하고;
    상기 복수의 제 1 이미지들 각각에 필터 처리를 수행하여, 상기 제 2 카메라 장치의 상기 제 2 특성이 반영된 복수의 제 2 이미지들을 생성하고;
    상기 복수의 제 1 이미지들을 기반으로 복수의 제 1 템플릿들을 생성하고;
    상기 복수의 제 2 이미지들을 기반으로 복수의 제 2 템플릿들을 생성하고; 및
    상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 상기 메모리에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하도록 하는,
    인스트럭션들을 저장하는 전자 장치.
  2. 제 1 항에 있어서,
    상기 메모리는,
    상기 제 1 카메라 장치에 대응하도록 설정된 제 1 템플릿 저장소; 및
    상기 제 2 카메라 장치에 대응하도록 설정된 제 2 템플릿 저장소를 포함하고,
    상기 제 1 템플릿 저장소 및 상기 제 2 템플릿 저장소는, 하드웨어적으로 또는 소프트웨어적으로 서로 분리되는,
    전자 장치.
  3. 제 2 항에 있어서,
    상기 제 1 템플릿 저장소는, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 저장하되, 상기 복수의 제 1 템플릿들에 대하여 우선 순위가 적용되어 상기 복수의 제 2 템플릿들보다 정렬 순서가 앞서도록 배열되어 있고,
    상기 제 2 템플릿 저장소는, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 저장하되, 상기 복수의 제 2 템플릿들에 대하여 우선 순위가 적용되어 상기 복수의 제 1 템플릿들보다 정렬 순서가 앞서도록 배열되어 있는,
    전자 장치.
  4. 제 1 항에 있어서,
    상기 제 1 카메라 장치는 상기 전자 장치의 제 1 디스플레이의 활성화 영역 아래에 배치되는 UDC 이고,
    상기 제 2 카메라 장치는 상기 전자 장치의 제 2 디스플레이의 일부분 또는 상기 제 2 디스플레이의 주변에 배치되는 카메라 장치인,
    전자 장치.
  5. 제 3 항에 있어서,
    상기 프로세서는,
    상기 얼굴 정보의 등록을 완료한 이후에, 제 2 카메라 장치를 통한 얼굴 인증 요청을 수신하고,
    상기 얼굴 인증 요청에 기반하여, 상기 제 2 템플릿 저장소에 저장된 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들과 상기 제 2 카메라 장치를 통해 획득된 이미지를 비교하고, 및
    상기 비교 결과에 기반하여 얼굴 인증 여부를 결정하는,
    전자 장치.
  6. 제 1 항에 있어서,
    상기 프로세서는,
    상기 얼굴 정보의 등록을 완료한 이후에, 상기 복수의 제 1 템플릿들 각각 및 상기 복수의 제 2 템플릿들 각각에 대한 최적화 동작을 수행하되, 상기 최적화 동작으로서,
    사용자 인터페이스를 통해 사용자에게 얼굴 촬영을 다시 요청하는 화면을 표시하고;
    상기 제 1 카메라 장치를 통해 촬영된 사용자의 얼굴 이미지와 상기 복수의 제 1 템플릿들 중에서 지정된 제 1 템플릿의 유사도를 산출하고; 및
    상기 지정된 제 1 템플릿의 유사도가 지정된 기준값보다 작으면, 상기 지정된 제 1 템플릿 및 상기 복수의 제 2 템플릿들 중에서 상기 지정된 제 1 템플릿과 한 쌍을 이루는 지정된 제 2 템플릿을 삭제하는,
    전자 장치.
  7. 제 4 항에 있어서,
    제 1 하우징;
    제 2 하우징; 및
    상기 제 1 하우징과 상기 제 2 하우징 사이에 배치되는 힌지 모듈을 더 포함하고;
    상기 제 1 디스플레이는 상기 제 1 하우징의 일부분으로부터 상기 제 2 하우징으로 연장되도록 배치되고,
    상기 제 2 디스플레이는 상기 제 1 하우징과 상기 제 2 하우징이 서로 나란하게 배치되는 펼침 상태에서 상기 제 1 디스플레이와 반대 방향을 향하도록 배치되는,
    전자 장치.
  8. 제 7 항에 있어서,
    상기 제 1 카메라 장치는 상기 제 1 디스플레이의 적어도 일부분을 투과한 빛을 수신하는 것에 의해 이미지를 촬영하고, 및
    상기 제 2 카메라 장치는 상기 제 2 디스플레이와 동일한 방향을 향하도록 배치되는,
    전자 장치.
  9. 제 8 항에 있어서,
    상기 프로세서는,
    상기 얼굴 정보의 등록을 완료한 이후에, 얼굴 인증 요청을 수신하고,
    상기 얼굴 인증 요청에 기반하여, 상기 전자 장치가 상기 제 1 하우징과 상기 제 2 하우징이 서로 마주보는 접힘 상태인지 또는 상기 펼침 상태인지 확인하고;
    상기 전자 장치가 상기 펼침 상태이면, 상기 제 1 카메라 장치를 통해 얼굴 이미지를 획득하는 것을 기반으로 얼굴 인증을 수행하고,
    상기 전자 장치가 상기 접힘 상태이면, 상기 제 2 카메라 장치를 통해 얼굴 이미지를 획득하는 것을 기반으로 인증을 수행하는,
    전자 장치.
  10. 제 1 항에 있어서,
    상기 프로세서는,
    상기 제 2 카메라 장치를 통한 얼굴 정보의 등록 요청을 수신하고;
    상기 요청에 기반하여, 상기 제 2 카메라 장치를 통해 복수의 제 2 이미지들을 획득하고;
    상기 복수의 제 2 이미지들 각각에 필터 처리를 수행하여, 상기 제 1 카메라 장치의 상기 제 1특성이 반영된 복수의 제 1 이미지들을 생성하고;
    상기 복수의 제 1 이미지들을 기반으로 복수의 제 1 템플릿들을 생성하고;
    상기 복수의 제 2 이미지들을 기반으로 복수의 제 2 템플릿들을 생성하고;
    상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 상기 메모리에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하는,
    전자 장치.
  11. 메모리, 제 1 특성을 갖는 제 1 카메라 장치, 및 상기 제 1 특성과 다른 제 2 특성을 갖는 제 2 카메라 장치를 포함하는 전자 장치의 방법에 있어서,
    상기 제 1 카메라 장치를 통한 얼굴 정보의 등록 요청을 수신하는 동작;
    상기 요청에 기반하여, 상기 제 1 카메라 장치를 통해 복수의 제 1 이미지들을 획득하는 동작;
    상기 복수의 제 1 이미지들 각각에 필터 처리를 수행하여, 상기 제 2 카메라 장치의 상기 제 2 특성이 반영된 복수의 제 2 이미지들을 생성하는 동작;
    상기 복수의 제 1 이미지들을 기반으로 복수의 제 1 템플릿들을 생성하는 동작;
    상기 복수의 제 2 이미지들을 기반으로 복수의 제 2 템플릿들을 생성하는 동작;
    상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 상기 메모리에 저장하는 것에 의해, 상기 얼굴 정보의 등록을 완료하는 동작을 포함하는,
    방법.
  12. 제 11 항에 있어서,
    상기 메모리는,
    상기 제 1 카메라 장치에 대응하도록 설정된 제 1 템플릿 저장소; 및
    상기 제 2 카메라 장치에 대응하도록 설정된 제 2 템플릿 저장소를 포함하고,
    상기 제 1 템플릿 저장소 및 상기 제 2 템플릿 저장소는, 하드웨어적으로 또는 소프트웨어적으로 서로 분리되는,
    방법.
  13. 제 12 항에 있어서,
    상기 제 1 템플릿 저장소에, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 저장하되, 상기 복수의 제 1 템플릿들에 대하여 우선 순위가 적용되어 상기 복수의 제 2 템플릿들보다 정렬 순서가 앞서도록 배열되어 있는 동작; 및
    상기 제 2 템플릿 저장소에, 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들을 저장하되, 상기 복수의 제 2 템플릿들에 대하여 우선 순위가 적용되어 상기 복수의 제 1 템플릿들보다 정렬 순서가 앞서도록 배열되어 있는 동작을 더 포함하는,
    방법.
  14. 제 11 항에 있어서,
    상기 제 1 카메라 장치는 상기 전자 장치의 제 1 디스플레이의 활성화 영역 아래에 배치되는 UDC 이고,
    상기 제 2 카메라 장치는 상기 전자 장치의 제 2 디스플레이의 일부분 또는 상기 제 2 디스플레이의 주변에 배치되는 카메라 장치인,
    방법.
  15. 제 13 항에 있어서,
    상기 얼굴 정보의 등록을 완료한 이후에, 제 2 카메라 장치를 통한 얼굴 인증 요청을 수신하는 동작;
    상기 얼굴 인증 요청에 기반하여, 상기 제 2 템플릿 저장소에 저장된 상기 복수의 제 1 템플릿들 및 상기 복수의 제 2 템플릿들과 상기 제 2 카메라 장치를 통해 획득된 이미지를 비교하는 동작; 및
    상기 비교 결과에 기반하여 얼굴 인증 여부를 결정하는 동작을 더 포함하는,
    방법.
PCT/KR2022/000058 2021-11-02 2022-01-04 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법 WO2023080338A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
EP22711140.8A EP4207106A4 (en) 2021-11-02 2022-01-04 ELECTRONIC DEVICE AND METHOD FOR PERFORMING FACE AUTHENTICATION USING MULTIPLE CAMERAS
US17/592,865 US20230135449A1 (en) 2021-11-02 2022-02-04 Electronic device and method for performing face authentication using a plurality of cameras

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020210148725A KR20230063551A (ko) 2021-11-02 2021-11-02 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법
KR10-2021-0148725 2021-11-02

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/592,865 Continuation US20230135449A1 (en) 2021-11-02 2022-02-04 Electronic device and method for performing face authentication using a plurality of cameras

Publications (1)

Publication Number Publication Date
WO2023080338A1 true WO2023080338A1 (ko) 2023-05-11

Family

ID=83361319

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2022/000058 WO2023080338A1 (ko) 2021-11-02 2022-01-04 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법

Country Status (2)

Country Link
KR (1) KR20230063551A (ko)
WO (1) WO2023080338A1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130222564A1 (en) * 2012-02-29 2013-08-29 Suprema Inc. Apparatus for recognizing face based on environment adaptation
JP2015177510A (ja) * 2014-03-18 2015-10-05 株式会社リコー カメラシステム、画像処理方法及びプログラム
JP6248178B2 (ja) * 2014-02-26 2017-12-13 株式会社日立製作所 顔認証システム
KR20180108214A (ko) * 2017-03-24 2018-10-04 삼성전자주식회사 복수의 카메라를 이용하여 생체 정보를 인증하는 방법 및 장치
US20190278974A1 (en) * 2018-03-08 2019-09-12 Sri International 3d dynamic structure estimation using synchronized images

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130222564A1 (en) * 2012-02-29 2013-08-29 Suprema Inc. Apparatus for recognizing face based on environment adaptation
JP6248178B2 (ja) * 2014-02-26 2017-12-13 株式会社日立製作所 顔認証システム
JP2015177510A (ja) * 2014-03-18 2015-10-05 株式会社リコー カメラシステム、画像処理方法及びプログラム
KR20180108214A (ko) * 2017-03-24 2018-10-04 삼성전자주식회사 복수의 카메라를 이용하여 생체 정보를 인증하는 방법 및 장치
US20190278974A1 (en) * 2018-03-08 2019-09-12 Sri International 3d dynamic structure estimation using synchronized images

Also Published As

Publication number Publication date
KR20230063551A (ko) 2023-05-09

Similar Documents

Publication Publication Date Title
WO2021162435A1 (en) Electronic device and method for activating fingerprint sensor
WO2019124811A1 (en) Fingerprint verification method and electronic device performing same
WO2020071823A1 (en) Electronic device and gesture recognition method thereof
WO2020171516A1 (en) Electronic device for authenticating biometric information and operating method thereof
WO2021029528A1 (en) Electronic device including opening
WO2021034127A1 (en) Electronic device including multi-channel speaker system
WO2023080338A1 (ko) 복수의 카메라들을 이용해 얼굴 인증을 수행하는 전자 장치 및 방법
WO2021101316A1 (en) Electronic device and method for recognizing fingerprint by the same
WO2023054839A1 (ko) 상황에 기반하여 서비스의 인증 방식을 적응적으로 제공하기 위한 전자 장치, 방법, 및 비일시적 컴퓨터 판독가능 저장 매체
WO2022098007A1 (ko) 생체 인증을 위한 전자 장치 및 그 동작 방법
WO2023022338A1 (ko) 동작 제스처를 감지하는 전자 장치 및 그 동작 방법
WO2022139151A1 (ko) 전자 장치 및 전자 장치의 생체 정보 획득 방법
WO2023063520A1 (ko) 전자 장치 및 전자 장치에서 촬영 기능을 수행하는 방법
WO2023121068A1 (ko) 디지타이저를 포함하는전자 장치 및 이의 동작 방법
WO2022225162A1 (ko) 전자 장치 및 전자 장치의 동작 방법
WO2022050556A1 (ko) 우선순위에 따른 지문 스캔 방법 및 장치
WO2022092582A1 (ko) 전자 장치 및 전자 장치에서 모바일 신분증 제공 방법
WO2024025254A1 (ko) 외부 장치를 이용한 지문 탈취 방지 방법 및 전자 장치
WO2022035034A1 (ko) 지문 센서를 구비한 전자 장치 및 그 제어 방법
WO2024101753A1 (ko) 지문 정보를 업데이트하는 방법 및 이를 지원하는 전자 장치
WO2023027292A1 (ko) 전자 장치 및 이를 이용한 지문 인식 가이드 제공 방법
WO2022245037A1 (ko) 이미지 센서 및 동적 비전 센서를 포함하는 전자 장치 및 그 동작 방법
WO2024025179A1 (ko) 생체 정보에 기반한 외부 표시 장치와의 연결 방법 및 전자 장치
WO2023008810A1 (ko) 전자 장치에서 udc 기반 지문 인식 및 촬영을 제공하는 방법 및 장치
WO2024085453A1 (ko) 전자 장치, 전자 장치에서 외부 객체를 이용한 지문 등록 및 인증 방법

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2022711140

Country of ref document: EP

Effective date: 20220329