KR20210125167A - 생체 인증 방법 및 이를 위한 전자 장치 - Google Patents

생체 인증 방법 및 이를 위한 전자 장치 Download PDF

Info

Publication number
KR20210125167A
KR20210125167A KR1020200042479A KR20200042479A KR20210125167A KR 20210125167 A KR20210125167 A KR 20210125167A KR 1020200042479 A KR1020200042479 A KR 1020200042479A KR 20200042479 A KR20200042479 A KR 20200042479A KR 20210125167 A KR20210125167 A KR 20210125167A
Authority
KR
South Korea
Prior art keywords
electronic device
image
display
biometric authentication
processor
Prior art date
Application number
KR1020200042479A
Other languages
English (en)
Inventor
이승은
강민석
김난희
김승년
김차겸
서혜원
원종훈
최병석
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020200042479A priority Critical patent/KR20210125167A/ko
Priority to CN202180033550.1A priority patent/CN115552399A/zh
Priority to PCT/KR2021/003031 priority patent/WO2021206298A1/ko
Priority to EP21783826.7A priority patent/EP4116850A4/en
Publication of KR20210125167A publication Critical patent/KR20210125167A/ko
Priority to US17/961,324 priority patent/US20230026684A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31—User authentication
    • G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1615—Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function
    • G06F1/1616—Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function with folding flat displays, e.g. laptop computers or notebooks having a clamshell configuration, with body parts pivoting to an open position around an axis parallel to the plane they define in closed position
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1675—Miscellaneous details related to the relative movement between the different enclosures or enclosure parts
    • G06F1/1677—Miscellaneous details related to the relative movement between the different enclosures or enclosure parts for detecting open or closed state or particular intermediate positions assumed by movable parts of the enclosure, e.g. detection of display lid position with respect to main body in a laptop, detection of opening of the cover of battery compartment
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • G06K9/00221—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/08—Network architectures or network communication protocols for network security for authentication of entities
    • H04L63/0861—Network architectures or network communication protocols for network security for authentication of entities using biometrical features, e.g. fingerprint, retina-scan

Abstract

제1 하우징, 제2 하우징, 적어도 하나의 센서, 디스플레이, 제1 모드 또는 제2 모드로 작동이 가능한 카메라, 프로세서, 및 상기 프로세서에 작동적으로(operatively) 연결되는 메모리를 포함하는 폴더블 전자 장치가 개시된다. 폴더블 전자 장치는 이벤트의 알림 정보를 디스플레이에 표시하고, 적어도 하나의 센서를 이용하여 감지된 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는 경우, 제1 모드에서 상기 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하고, 카메라를 이용하여 획득한 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하고, 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 제2 모드에서 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하고, 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하고, 생체 인증에 성공한 경우, 이벤트의 내용을 상기 디스플레이에 표시하도록 할 수 있다. 이 외에도, 명세서를 통하여 파악되는 다양한 실시예들이 가능할 수 있다.

Description

생체 인증 방법 및 이를 위한 전자 장치{METHOD FOR BIOMETRIC AUTHENTICATION AND ELECRONIC DEVICE THEREFOR}
본 문서에서 개시되는 다양한 실시 예들은, 생체 인증을 수행하는 방법 및 이를 위한 전자 장치에 관한 것이다.
디지털 수단이 증가함에 따라 보안의 중요성이 증가하면서 사용자 정보의 보안을 위해서 생체 인증과 같이 다양한 인증 방법이 사용되고 있다. 생체 인증은 지문, 홍채, 땀샘 구조, 안면 및/또는 혈관 등 개인에 특정되는 생체 정보를 추출하여 사용자를 인증하는 인증 방식이다. 생체 인증은 전자 장치 내에서 다양한 용도로 사용되고 있다. 예를 들어, 전자 장치의 사용을 위한 홈 화면 잠금 해제(unlock), 전자 상거래 결제를 수행 시 사용자 인증과 같이 다양한 분야에 생체 인증 방식이 적용되고 있다.
한편, 전자 장치의 디스플레이 면을 증가시키기 위한 기술들이 개발되고 있다. 모바일 장치의 휴대성 및 디스플레이 크기를 개선하기 위하여, 전자 장치의 형태(form)가 변경될 수 있다. 예를 들어, 전자 장치의 일부가 접히(fold)거나 연장(extend)될 수 있다.
전자 장치의 형태가 다양해짐에 따라, 종래 기술에 따라 제공되어 왔던 서비스들을 보다 편의적으로 제공하는 수단이 필요할 수 있다. 예를 들어, 폴더블 전자 장치의 경우, 사용자는 전자 장치를 하프-폴딩 상태(예: 테이블 디스플레이 모드)로 사용할 수 있다. 전자 장치의 일부 면을 책상과 같은 평편한 면 위에 위치시킴으로써, 사용자는 전자 장치를 파지하지 않고 전자 장치를 이용하여 컨텐츠를 시청할 수 있다. 하프-폴딩 상태에서 전자 장치가 이벤트를 수신하는 경우, 사용자는 상기 이벤트의 내용을 확인하기 위하여 생체 인증을 수행해야 할 수 있다. 상기 생체 인증을 수행하기 위하여 테이블 디스플레이 모드의 전자 장치를 손으로 파지해야 하는 불편함이 발생할 수 있다.
전자 장치를 파지하지 않고 생체 인증을 수행하기 위하여, 전자 장치는 사용자의 생체 정보를 모니터링할 수 있다. 예를 들어, 전자 장치는 카메라를 이용하여 사용자의 생체 정보가 감지되는지 확인할 수 있다. 전자 장치는 카메라를 활성화하고, 카메라를 이용하여 이미지를 획득함으로써 생체 정보를 모니터링할 수 있다. 예를 들어, 전자 장치는 획득된 이미지에 대하여 특정 형태의 존재 유무에 대한 판단을 수행할 수 있다. 이 과정에서, 카메라의 활성화로 인하여 전자 장치의 소모 전력이 증가될 수 있다.
본 문서에 개시되는 일 실시 예에 따른 전자 장치는, 제1 하우징, 제2 하우징, 상기 제1 하우징과 상기 제2 하우징 사이에 배치되는 폴더블 구조, 적어도 하나의 센서, 디스플레이, 사용자 인식을 위해 제공되는 제1 모드, 또는 제1 모드보다 고전력으로 운용되고, 사용자 인증을 위해 제공되는 제2 모드로 작동이 가능한 카메라, 프로세서; 및 상기 프로세서에 작동적으로(operatively) 연결되는 메모리를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서가 상기 폴더블 전자 장치의 이벤트의 알림(notification) 정보를 상기 디스플레이에 표시하고, 상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는 경우, 상기 제1 모드에서 상기 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하고, 상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하고, 상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하고, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하고, 상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하도록 하도록 하는 하나 이상의 인스트럭션들(instructions)을 저장할 수 있다.
본 문서에 개시되는 일 실시 예에 따른 폴더블 전자 장치가 알림 기능을 제공하는 방법은, 상기 폴더블 전자 장치의 이벤트의 알림 정보를 디스플레이에 표시하는 동작, 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지 여부를 판단하는 동작, 상기 지정된 조건을 만족하는 경우, 사용자 인식을 위해 제공되는 제1 모드에서 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하는 동작, 상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작, 상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 사용자 인증을 위해 제공되는 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하는 동작, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작, 및 상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하는 동작을 포함할 수 있다.
본 문서에 개시되는 다양한 실시 예들에 따르면, 전자 장치는 형태 변화에 대응하여 사용자에게 최적화된 생체 인증 기능을 수행할 수 있다.
전자 장치는 폴딩(folding) 각도, 카메라를 통해 획득한 이미지에 기반한 정보 등을 기반으로 효율적인 생체 인증 기능을 수행할 수 있다.
본 문서에 개시되는 다양한 실시 예들에 따르면, 전자 장치는 생체 인증 기능을 수행함에 있어 픽셀을 선택적으로 이용하도록 제어함으로써 전력 소모를 낮추고, 프로세서의 데이터 처리 또는 연산을 효과적으로 수행할 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 다양한 실시 예들에 따른, 네트워크 환경 내의 전자 장치의 블록도이다.
도 2는 다양한 실시 예들에 따른, 카메라 모듈을 예시하는 블록도이다.
도 3은 다양한 실시 예들에 따른, 표시 장치의 블록도이다.
도 4는 다양한 실시 예들에 따른, 전자 장치의 블록도를 도시한다.
도 5는 다양한 실시 예들에 따른, 형태가 변화하는 전자 장치를 도시한다.
도 6a는 다양한 실시 예들에 따른, 형태가 변화하는 전자 장치를 도시한다.
도 6b는 다양한 실시 예들에 따른, 형태가 변화하는 전자 장치를 도시한다.
도 7a는 일 실시예에 따른, 사용자가 전자 장치를 이용하는 모습에 따라 달라지는 사용자와 전자 장치 간의 거리를 도시한다.
도 7b는 일 실시예에 따른, 얼굴 인식을 기반으로 한 생체 인증 과정에서 카메라가 획득한 사용자 얼굴 이미지를 도시한다.
도 8은 일 실시예에 따른, 이미지 센서의 구조를 설명하기 위한 블록도를 도시한다.
도 9는 일 실시예에 따른, 전자 장치의 동작 상태에 따른 이미지 센서의 상태를 도시한다.
도 10은 일 실시예에 따른, 이미지를 선택적으로 리드-아웃 하는 전자 장치를 도시한다.
도 11은 일 실시예에 따른, 복수의 얼굴이 감지된 경우 전자 장치의 알림 동작을 도시한다.
도 12는 일 실시예에 따른, 어플리케이션에 따른 전자 장치의 다양한 알림 동작을 도시한다.
도 13은 다양한 실시예에 따른, 전자 장치의 생체 인증 동작 순서도를 도시한다.
도 14는 다양한 실시예에 따른, 전자 장치가 실행하는 인증 방식을 개념적으로 나타내는 동작 순서도를 도시한다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 본 문서의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 장치(150), 음향 출력 장치(155), 표시 장치(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(160) 또는 카메라 모듈(180))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 로드하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 장치(150)는, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(150)는, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(155)는 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 장치(155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(160)는 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(160)는, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 표시 장치(160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 장치(150)를 통해 소리를 획득하거나, 음향 출력 장치(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제1 네트워크(198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제2 네트워크(199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 및 인증할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제1 네트워크(198) 또는 제2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나",“A 또는 B 중 적어도 하나”, "A, B 또는 C", "A, B 및 C 중 적어도 하나” 및 “A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제1", "제2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제1) 구성요소가 다른(예: 제2) 구성요소에, “기능적으로” 또는 “통신적으로”라는 용어와 함께 또는 이런 용어 없이, “커플드” 또는 “커넥티드”라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두 개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
도 2는, 다양한 실시예들에 따른, 카메라 모듈(180)을 예시하는 블럭도(200)이다. 도 2를 참조하면, 카메라 모듈(180)은 렌즈 어셈블리(210), 플래쉬(220), 이미지 센서(230), 이미지 스태빌라이저(240), 메모리(250)(예: 버퍼 메모리), 또는 이미지 시그널 프로세서(260)를 포함할 수 있다. 렌즈 어셈블리(210)는 이미지 촬영의 대상인 피사체로부터 방출되는 빛을 수집할 수 있다. 렌즈 어셈블리(210)는 하나 또는 그 이상의 렌즈들을 포함할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 복수의 렌즈 어셈블리(210)들을 포함할 수 있다. 이런 경우, 카메라 모듈(180)은, 예를 들면, 듀얼 카메라, 360도 카메라, 또는 구형 카메라(spherical camera)를 형성할 수 있다. 복수의 렌즈 어셈블리(210)들 중 일부는 동일한 렌즈 속성(예: 화각, 초점 거리, 자동 초점, f 넘버(f number), 또는 광학 줌)을 갖거나, 또는 적어도 하나의 렌즈 어셈블리는 다른 렌즈 어셈블리의 렌즈 속성들과 다른 하나 이상의 렌즈 속성들을 가질 수 있다. 렌즈 어셈블리(210)는, 예를 들면, 광각 렌즈 또는 망원 렌즈를 포함할 수 있다.
플래쉬(220)는 피사체로부터 방출 또는 반사되는 빛을 강화하기 위하여 사용되는 빛을 방출할 수 있다. 일실시예에 따르면, 플래쉬(220)는 하나 이상의 발광 다이오드들(예: RGB(red-green-blue) LED, white LED, infrared LED, 또는 ultraviolet LED), 또는 xenon lamp를 포함할 수 있다. 이미지 센서(230)는 피사체로부터 방출 또는 반사되어 렌즈 어셈블리(210)를 통해 전달된 빛을 전기적인 신호로 변환함으로써, 상기 피사체에 대응하는 이미지를 획득할 수 있다. 일실시예에 따르면, 이미지 센서(230)는, 예를 들면, RGB 센서, BW(black and white) 센서, IR 센서, 또는 UV 센서와 같이 속성이 다른 이미지 센서들 중 선택된 하나의 이미지 센서, 동일한 속성을 갖는 복수의 이미지 센서들, 또는 다른 속성을 갖는 복수의 이미지 센서들을 포함할 수 있다. 이미지 센서(230)에 포함된 각각의 이미지 센서는, 예를 들면, CCD(charged coupled device) 센서 또는 CMOS(complementary metal oxide semiconductor) 센서를 이용하여 구현될 수 있다.
이미지 스태빌라이저(240)는 카메라 모듈(180) 또는 이를 포함하는 전자 장치(101)의 움직임에 반응하여, 렌즈 어셈블리(210)에 포함된 적어도 하나의 렌즈 또는 이미지 센서(230)를 특정한 방향으로 움직이거나 이미지 센서(230)의 동작 특성을 제어(예: 리드 아웃(read-out) 타이밍을 조정 등)할 수 있다. 이는 촬영되는 이미지에 대한 상기 움직임에 의한 부정적인 영향의 적어도 일부를 보상하게 해 준다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 일실시예에 따르면, 이미지 스태빌라이저(240)은 카메라 모듈(180)의 내부 또는 외부에 배치된 자이로 센서(미도시) 또는 가속도 센서(미도시)를 이용하여 카메라 모듈(180) 또는 전자 장치(101)의 그런 움직임을 감지할 수 있다. 일실시예에 따르면, 이미지 스태빌라이저(240)는, 예를 들면, 광학식 이미지 스태빌라이저로 구현될 수 있다. 메모리(250)는 이미지 센서(230)을 통하여 획득된 이미지의 적어도 일부를 다음 이미지 처리 작업을 위하여 적어도 일시 저장할 수 있다. 예를 들어, 셔터에 따른 이미지 획득이 지연되거나, 또는 복수의 이미지들이 고속으로 획득되는 경우, 획득된 원본 이미지(예: Bayer-patterned 이미지 또는 높은 해상도의 이미지)는 메모리(250)에 저장이 되고, 그에 대응하는 사본 이미지(예: 낮은 해상도의 이미지)는 표시 장치(160)을 통하여 프리뷰될 수 있다. 이후, 지정된 조건이 만족되면(예: 사용자 입력 또는 시스템 명령) 메모리(250)에 저장되었던 원본 이미지의 적어도 일부가, 예를 들면, 이미지 시그널 프로세서(260)에 의해 획득되어 처리될 수 있다. 일실시예에 따르면, 메모리(250)는 메모리(130)의 적어도 일부로, 또는 이와는 독립적으로 운영되는 별도의 메모리로 구성될 수 있다.
이미지 시그널 프로세서(260)는 이미지 센서(230)을 통하여 획득된 이미지 또는 메모리(250)에 저장된 이미지에 대하여 하나 이상의 이미지 처리들을 수행할 수 있다. 상기 하나 이상의 이미지 처리들은, 예를 들면, 깊이 지도(depth map) 생성, 3차원 모델링, 파노라마 생성, 특징점 추출, 이미지 합성, 또는 이미지 보상(예: 노이즈 감소, 해상도 조정, 밝기 조정, 블러링(blurring), 샤프닝(sharpening), 또는 소프트닝(softening)을 포함할 수 있다. 추가적으로 또는 대체적으로, 이미지 시그널 프로세서(260)는 카메라 모듈(180)에 포함된 구성 요소들 중 적어도 하나(예: 이미지 센서(230))에 대한 제어(예: 노출 시간 제어, 또는 리드 아웃 타이밍 제어 등)를 수행할 수 있다. 이미지 시그널 프로세서(260)에 의해 처리된 이미지는 추가 처리를 위하여 메모리(250)에 다시 저장 되거나 카메라 모듈(180)의 외부 구성 요소(예: 메모리(130), 표시 장치(160), 전자 장치(102), 전자 장치(104), 또는 서버(108))로 제공될 수 있다. 일실시예에 따르면, 이미지 시그널 프로세서(260)는 프로세서(120)의 적어도 일부로 구성되거나, 프로세서(120)와 독립적으로 운영되는 별도의 프로세서로 구성될 수 있다. 이미지 시그널 프로세서(260)이 프로세서(120)과 별도의 프로세서로 구성된 경우, 이미지 시그널 프로세서(260)에 의해 처리된 적어도 하나의 이미지는 프로세서(120)에 의하여 그대로 또는 추가의 이미지 처리를 거친 후 표시 장치(160)를 통해 표시될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 각각 다른 속성 또는 기능을 가진 복수의 카메라 모듈(180)들을 포함할 수 있다. 이런 경우, 예를 들면, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 광각 카메라이고, 적어도 다른 하나는 망원 카메라일 수 있다. 유사하게, 상기 복수의 카메라 모듈(180)들 중 적어도 하나는 전면 카메라이고, 적어도 다른 하나는 후면 카메라일 수 있다.
도 3는 다양한 실시예들에 따른, 표시 장치(160)의 블록도(300)이다. 도 3를 참조하면, 표시 장치(160)는 디스플레이(310), 및 이를 제어하기 위한 디스플레이 드라이버 IC(DDI)(330)를 포함할 수 있다. DDI(330)는 인터페이스 모듈(331), 메모리(333)(예: 버퍼 메모리), 이미지 처리 모듈(335), 또는 맵핑 모듈(337)을 포함할 수 있다. DDI(330)은, 예를 들면, 영상 데이터, 또는 상기 영상 데이터를 제어하기 위한 명령에 대응하는 영상 제어 신호를 포함하는 영상 정보를 인터페이스 모듈(331)을 통해 전자 장치 101의 다른 구성요소로부터 수신할 수 있다. 예를 들면, 일실시예에 따르면, 영상 정보는 프로세서(120)(예: 메인 프로세서(121)(예: 어플리케이션 프로세서) 또는 메인 프로세서(121)의 기능과 독립적으로 운영되는 보조 프로세서(123)(예: 그래픽 처리 장치)로부터 수신될 수 있다. DDI(330)는 터치 회로(350) 또는 센서 모듈(176) 등과 상기 인터페이스 모듈(331)을 통하여 커뮤니케이션할 수 있다. 또한, DDI(330)는 상기 수신된 영상 정보 중 적어도 일부를 메모리(333)에, 예를 들면, 프레임 단위로 저장할 수 있다. 이미지 처리 모듈(335)은, 예를 들면, 상기 영상 데이터의 적어도 일부를 상기 영상 데이터의 특성 또는 디스플레이(310)의 특성에 적어도 기반하여 전처리 또는 후처리(예: 해상도, 밝기, 또는 크기 조정)를 수행할 수 있다. 맵핑 모듈(337)은 이미지 처리 모듈(135)를 통해 전처리 또는 후처리된 상기 영상 데이터에 대응하는 전압 값 또는 전류 값을 생성할 수 있다. 일실시예에 따르면, 전압 값 또는 전류 값의 생성은 예를 들면, 디스플레이(310)의 픽셀들의 속성(예: 픽셀들의 배열(RGB stripe 또는 pentile 구조), 또는 서브 픽셀들 각각의 크기)에 적어도 일부 기반하여 수행될 수 있다. 디스플레이(310)의 적어도 일부 픽셀들은, 예를 들면, 상기 전압 값 또는 전류 값에 적어도 일부 기반하여 구동됨으로써 상기 영상 데이터에 대응하는 시각적 정보(예: 텍스트, 이미지, 또는 아이콘)가 디스플레이(310)를 통해 표시될 수 있다.
일실시예에 따르면, 표시 장치(160)는 터치 회로(350)를 더 포함할 수 있다. 터치 회로(350)는 터치 센서(351) 및 이를 제어하기 위한 터치 센서 IC(353)를 포함할 수 있다. 터치 센서 IC(353)는, 예를 들면, 디스플레이(310)의 특정 위치에 대한 터치 입력 또는 호버링 입력을 감지하기 위해 터치 센서(351)를 제어할 수 있다. 예를 들면, 터치 센서 IC(353)는 디스플레이(310)의 특정 위치에 대한 신호(예: 전압, 광량, 저항, 또는 전하량)의 변화를 측정함으로써 터치 입력 또는 호버링 입력을 감지할 수 있다. 터치 센서 IC(353)는 감지된 터치 입력 또는 호버링 입력에 관한 정보(예: 위치, 면적, 압력, 또는 시간)를 프로세서(120) 에 제공할 수 있다. 일실시예에 따르면, 터치 회로(350)의 적어도 일부(예: 터치 센서 IC(353))는 디스플레이 드라이버 IC(330), 또는 디스플레이(310)의 일부로, 또는 표시 장치(160)의 외부에 배치된 다른 구성요소(예: 보조 프로세서(123))의 일부로 포함될 수 있다.
일실시예에 따르면, 표시 장치(160)는 센서 모듈(176)의 적어도 하나의 센서(예: 지문 센서, 홍채 센서, 압력 센서 또는 조도 센서), 또는 이에 대한 제어 회로를 더 포함할 수 있다. 이 경우, 상기 적어도 하나의 센서 또는 이에 대한 제어 회로는 표시 장치(160)의 일부(예: 디스플레이(310) 또는 DDI(330)) 또는 터치 회로(350)의 일부에 임베디드될 수 있다. 예를 들면, 표시 장치(160)에 임베디드된 센서 모듈(176)이 생체 센서(예: 지문 센서)를 포함할 경우, 상기 생체 센서는 디스플레이(310)의 일부 영역을 통해 터치 입력과 연관된 생체 정보(예: 지문 이미지)를 획득할 수 있다. 다른 예를 들면, 표시 장치(160)에 임베디드된 센서 모듈(176)이 압력 센서를 포함할 경우, 상기 압력 센서는 디스플레이(310)의 일부 또는 전체 영역을 통해 터치 입력과 연관된 압력 정보를 획득할 수 있다. 일실시예에 따르면, 터치 센서(351) 또는 센서 모듈(176)은 디스플레이(310)의 픽셀 레이어의 픽셀들 사이에, 또는 상기 픽셀 레이어의 위에 또는 아래에 배치될 수 있다.
도 4는 다양한 실시 예들에 따른, 전자 장치의 블록도(400)를 도시한다.
도 4를 참조하여, 전자 장치(예: 도 1의 전자 장치(101))는 프로세서(120), 메모리(130), 표시 장치(160), 센서 모듈(176), 및/또는 카메라 모듈(180)을 포함할 수 있다. 다르게 설명되지 않으면, 도 1과 동일한 참조 번호를 갖는 구성들에 대한 설명은 도 1의 설명에 의하여 참조될 수 있다.
프로세서(120)는 전자 장치(101) 내의 다른 구성 요소(예: 메모리(130), 표시 장치(160), 센서 모듈(410) 및/또는 카메라 모듈(180)과 작동적으로(operatively) 연결될 수 있다. 프로세서(120)는 전자 장치의 구성 요소들을 제어할 수 있다. 예를 들어, 프로세서(120)는 메모리(130)에 저장된 하나 이상의 인스트럭션들(instructions)에 따라서 전자 장치(101)의 구성들을 제어할 수 있다.
메모리(130)는 표시 장치(160)에 출력된 전자 장치(101)의 작동 히스토리를 저장할 수 있다. 전자 장치(101)가 복수의 표시 장치(160)를 가지는 경우, 메모리(320)는 각각의 표시 장치(160)에서 출력된 전자 장치(101)의 작동 히스토리를 저장할 수 있다. 예를 들어, 상기 작동 히스토리는 각각의 표시 장치(160)에서 실행된 서로 다른 어플리케이션 및/또는 어플리케이션과 연관된 정보를 포함하는 유저 인터페이스의 일 영역을 포함할 수 있다.
표시 장치(160)는 전자 장치(101)에서 처리되는 정보를 출력할 수 있다. 예를 들어, 표시 장치(160)는 카메라 모듈(180)을 이용한 생체 인증 기능에 관련된 유저 인터페이스 또는 GUI(Graphic User Interface)를 출력할 수 있다. 또한, 표시 장치(160)는 전자 장치(101)에 수신된 이벤트와 연관된 내용을 포함하는 알림 객체를 출력할 수 있다. 표시 장치(160)는 다양한 형태의 디스플레이(예: 도 3의 310))를 포함할 수 있다. 디스플레이(310)는 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 또는 폴더블 디스플레이(foldable display) 중에서 적어도 하나일 수 있다. 또한, 전자 장치(101)는 복수의 디스플레이(310)를 포함할 수 있다. 예를 들어, 프로세서(120)는 출력 영역을 복수로 분할하여 각 영역에 서로 다른 콘텐트를 출력하는 분할 화면 모드를 수행할 수 있다. 이 때, 전자 장치(101)는 지정된 각도로 폴딩된 상태에서만 분할 화면 모드로 작동할 수 있다. 분할 화면 모드에서, 디스플레이(310)는 복수의 디스플레이 영역들로 분할될 수 있다. 예를 들어, 디스플레이(310)는 접힘부(예: 힌지부)를 중심으로 제1 디스플레이 영역과 제2 디스플레이 영역으로 구분될 수 있다. 예를 들어, 제1 디스플레이 영역과 제2 디스플레이 영역의 구분은 논리적인 디스플레이 영역의 구분일 수 있다. 예를 들어, 디스플레이(310)는 제3 디스플레이 영역을 추가적으로 분할하여 출력할 수 있다. 제3 디스플레이 영역은 접힘부를 중심으로 형성된 영역일 수 있다. 제3 디스플레이 영역은 제1 디스플레이 영역 및 제2 디스플레이 영역을 논리적으로 명확히 구분하기 위하여 형성된 영역일 수 있다. 한편, 상술한 디스플레이 영역의 구분은 논리적인 구분으로 제한되는 것은 아니다. 제1 디스플레이 영역과 제2 디스플레이 영역은 물리적으로 구분되는 별개의 영역을 의미할 수 있다. 예를 들어, 제1 디스플레이 영역과 제2 디스플레이 영역은 하나의 전자 장치에 포함된 별개의 디스플레이 장치의 일 영역을 의미할 수 있다. 분할 영역의 수, 각각의 크기, 해상도, 및/또는 출력할 수 있는 콘텐트의 제한 여부 등은 상술된 예시에 제한되는 것은 아니다. 예를 들어, 분할 영역의 수, 각각의 크기, 해상도, 및/또는 출력할 수 있는 콘텐트의 제한 여부 등은 사용자의 의도에 따라 변경될 수 있다. 예를 들어, 프로세서(120)는 제1 디스플레이 영역, 제2 디스플레이 영역, 및/또는 제3 디스플레이 각각에서 출력된 콘텐트와 연관된 정보를 구분하여 메모리(130)에 저장하도록 할 수 있다.
카메라(180)는 복수의 카메라들을 포함할 수 있다. 일 실시예에 따르면, 카메라 모듈(180)은 전자 장치(101)의 일면(예: 전면 및/또는 후면)에 배치될 수 있고, 상기 전자 장치의 일면은 표시 장치(160)가 구비된 면과 동일한 면 또는 상이한 면을 포함할 수 있다. 예를 들어, 상기 복수의 카메라들은 각각 서로 다른 해상도의 이미지를 획득하도록 설정될 수 있다. 상기 복수의 카메라들은 각각 적어도 하나의 센서를 포함할 수 있다. 예를 들어, 상기 센서 중 일부는 전자 장치(101)가 생체 인증을 수행함에 있어서 렌즈를 통해 촬영되는 이미지에 사용자 얼굴이 존재하는지 여부를 판단하는 이미지 센서일 수 있다.
센서 모듈(176)은 적어도 하나의 센서(예: Hall IC 센서, Digital Hall IC 센서, 가속도 센서, 자이로 센서, 및/또는 6축 센서)를 포함할 수 있다. 전자 장치(101)는 센서 모듈(176)을 이용하여 획득한 정보(예: 전자 장치(101)의 폴딩 각도)를 기반으로 전자 장치(101)의 형태를 식별할 수 있다. 예를 들어, 센서 모듈(176)은 전자 장치의 폴딩 각도를 인식하는 센서를 포함할 수 있다. 예를 들어, 센서 모듈(176)은 전자 장치(101)의 형태 변화(예: 접힘(folding)/펼침(unfolding))를 감지하여 폴딩 각도를 포함하는 정보를 인식하고, 상기 폴딩 각도를 기반으로 현재 전자 장치(101)의 형태를 식별하여, 그 형태에 관한 정보를 포함하는 신호를 프로세서(120)에 전달할 수 있다. 프로세서(120)는 센서 모듈(176)로부터 전달받은 신호를 기반으로 전자 장치(101)의 접힘(folding)/펼침(unfolding) 형태 및/또는 폴딩 각도를 인식할 수 있다.
일 실시예에 따르면, 프로세서(120)는 센서 모듈(176)을 이용하여 획득한 폴딩 각도를 포함하는 정보를 기반으로 전자 장치(101)의 폴딩 각도가 지정된 범위(예: 약 90도 내지 약 130도)에 해당하는지를 식별할 수 있다. 지정된 범위로 폴딩된 전자 장치(101)의 상태를 Half-folded 상태라고 정의할 수 있다. 프로세서(120)는 전자 장치(101)가 Half-folded 상태라는 정보를 어플리케이션에 전달하고, 어플리케이션은 상기 정보를 참조하여 최적화된 유저 인터페이스를 제공할 수 있다. 예를 들어, Half-folded 상태에서, 프로세서(120)는 표시 장치(160)로 하여금 화면을 분할하여, 복수의 영역에서 서로 다른 콘텐트를 출력하도록 제어할 수 있다. 전자 장치(101)가 Half-folded 상태인 경우, 사용자가 전자 장치(101)를 테이블 위에 올려놓은 채로 사용할 수 있고, 이를 테이블 모드라고 정의할 수 있다. [표 1]은 전자 장치(101)의 폴딩 각도에 따른 동작 상태를 나타낸다. 한편, 프로세서(120)는 전자 장치(101)의 거치 상태에 따라서, 폴딩 각도가 지정된 조건을 만족하더라도 Half-folded 상태로 동작하지 않도록 제어할 수 있다. 상기 거치 상태에 대한 내용은 후술되는 도 6a 및 도 6b에 대한 설명에 의하여 더 상세하게 설명될 수 있다.
폴딩 각도 0°~90° 90°~130° 130°~180°
Half-folded 상태 여부 X O X
일 실시예에 따르면, 프로세서(120)는 전자 장치(101)에 이벤트가 수신되는 경우, 상기 이벤트에 대응하는 정보를 포함하는 알림 객체를 표시 장치(160)에 출력하도록 제어할 수 있다. 이 때, 프로세서(120)는 분할된 영역 중 적어도 일부에만 알림 객체를 출력하도록 할 수 있다. 예를 들어, 전자 장치(101)가 테이블 모드로 사용되고 있는 경우, 제1 디스플레이 영역(예: 전자 장치(101)의 상단부에 배치된 디스플레이 영역)에는 기존에 출력하고 있던 콘텐트를 계속하여 출력하도록 하고, 제2 디스플레이 영역(예: 전자 장치(101)의 하단부에 배치된 디스플레이 영역)에만 상기 알림 객체를 출력하도록 표시 장치(160)를 제어할 수 있다. 상기 알림 객체를 표시 장치(160)에 출력하는 방법 외에도, 프로세서(120)는 전자 장치(101)에 이벤트가 수신되는 경우 다양한 종류의 알림 기능을 제공할 수 있다. 예를 들어, 수신된 이벤트에 대한 구체적인 내용을 디스플레이에 출력하지 않고 엣지 라이팅(Edge lighting), 햅틱(Haptic) 기능을 활용하여 직관적으로 알림 기능을 제공할 수 있다.
일 실시예에 따르면, 프로세서(120)는 카메라 모듈(180)을 통하여 적어도 하나의 이미지를 획득하고, 획득한 적어도 하나의 이미지를 처리할 수 있다. 예를 들어, 프로세서(120)는 획득한 이미지에서 지정된 객체(예: 얼굴)를 추출할 수 있다. 상기 이미지에 하나의 얼굴 객체가 존재하는 것으로 판단된 경우, 프로세서(120)는 상기 객체를 이용하여 사용자 인증(예: 생체 인증) 기능을 수행할 수 있다. 상기 생체 인증은 홍채 인증 또는 안면 인증일 수 있다. 다른 예를 들어, 상기 이미지에 복수의 얼굴 객체가 존재하는 것으로 판단된 경우, 프로세서(120)는 사용자 인증 기능을 수행하지 않을 수 있다.
도 4에 도시된 전자 장치(101)의 구성은 예시적인 것으로서 본 문서의 실시예들이 이에 제한되는 것은 아니다. 예를 들어, 전자 장치(101)는 도 4에 도시된 구성들 중 적어도 하나를 포함하지 않을 수 있다. 다른 예를 들어, 전자 장치(101)는 도 4에 미도시된 구성을 더 포함할 수 있다.
도 5는 다양한 실시 예들에 따른, 형태가 변화하는 전자 장치를 도시한다.
전자 장치(500)(예: 도 1의 전자 장치(101))의 형태는 접힘(folding)/펼침(unfolding)에 따라서 물리적으로 변경될 수 있다. 예를 들어, 전자 장치는 적어도 일부 부분에 가요성(flexibility)을 갖는 하우징 및 디스플레이를 포함할 수 있다. 전자 장치(500)의 가요성을 갖는 부분을 중심으로, 전자 장치(500)는 접히거나(folded)(예: 열림(open)), 펴질(unfolded)(예: 닫힘(close)) 수 있다. 예를 들어, 전자 장치(500)가 가요성을 갖는 부분은 접힘부로 참조될 수 있다. 접힘부는 전자 장치(500)의 형태가 변경될 수 있는 부분(예: 힌지) 또는 영역을 지칭하는 것으로서, 특정한 구조에 한정되는 것은 아니다.
일 실시예에 따르면, 전자 장치(500)(예: 도 1의 전자 장치(101))는 상하로 접힐 수 있다. 예를 들어, 전자 장치(500)는 적어도 접힘부(520)에 대응하는 부분에 가요성을 갖는 디스플레이(530)(예: 도 3의 디스플레이(310)) 및 하우징(510)을 포함할 수 있다. 전자 장치(500) 는 접힘부(520)를 중심으로 상하로 접힐 수 있다. 도 5에서, 전자 장치(500)는 디스플레이(530)의 안쪽으로 접히는 인-폴드 전자 장치인 것으로 도시되어 있으나, 본 문서의 실시예들이 이에 제한되는 것은 아니다. 예를 들어, 전자 장치(500)는 접힘부(520)에서 아웃-폴드 되거나, 인-폴딩 및 아웃-폴딩될 수 있다. 다른 예를 들어, 디스플레이(530)는 하나의 디스플레이로 도시되어 있으나, 본 문서의 실시예들이 이에 제한되는 것은 아니다. 전자 장치(500)는 접힘부(520)를 따라서 구분된 복수의 디스플레이들을 포함할 수 있다. 하우징(510) 또한 접힘부(520)를 따라서 구분된 복수의 하우징들을 포함할 수 있다. 또 다른 예를 들어, 전자 장치(500)는 접힘부(520) 를 중심으로 접히도록 결합된 복수의 전자 장치들의 조합일 수 있다. 이 경우, 복수의 전자 장치들은 별도의 구조체(예: 하우징 및/또는 힌지)에 의하여 서로 결합될 수 있다.
도 5에 도시된 전자 장치(500)의 물리적 형태 변화는 예시적인 것으로서, 본 문서의 실시예들이 이에 제한되는 것은 아니다. 예를 들어, 전자 장치는 임의의(any) 축을 중심으로 접히거나 펼쳐질 수 있다.
도 6a는 다양한 실시 예들에 따른, 형태가 변화하는 전자 장치를 도시한다.
도 6a를 참조하여, 다양한 실시예에 따르면, 전자 장치(101)(예: 도 5의 전자 장치(500))는 폴딩 각도에 대응하여 다양한 동작 형태(예: 모바일 모드(601), 테이블 모드(602), 태블릿 모드(603))로 이용될 수 있다.
모바일 모드(601)에서, 전자 장치(101)는 일반적인 바(bar) 형태의 스마트폰과 같은 형태로 이용될 수 있다. 예를 들어, 모바일 모드(601)에서, 전자 장치(101)는 플렉서블 디스플레이(예: 도 3의 디스플레이(310))의 일 영역에 콘텐트를 제공할 수 있다. 모바일 모드(601)에서, 폴딩 각도는 0도일 수 있다.
테이블 모드(602)에서, 전자 장치(101)는 책상 위, 또는 사용자의 손 위에 놓여진 상태에서 노트북과 같은 형태로 이용될 수 있다. 테이블 모드(602)에서, 폴딩 각도(a2)는 90도 내지 130도일 수 있다. 테이블 모드(602)에서, 전자 장치(101)는 접힘부(예: 도 5의 접힘부(520))를 기준으로 디스플레이의 영역을 구분하여, 각 영역에 서로 다른 콘텐트를 출력하도록 제어할 수 있다. 예를 들어, 전자 장치(101)에 이벤트가 수신된 경우 상기 이벤트의 알림은 하단 영역에 출력하고, 상단 영역에는 기존에 출력하던 콘텐트를 계속하여 출력하도록 제어할 수 있다. 일 실시예에 따르면, 전자 장치(101)는 테이블 모드(602)에서 생체 인증 기능을 제공할 때, 모바일 모드(601), 태블릿 모드(603)와는 다른 인증 알고리즘을 적용할 수 있다. 예를 들어, 테이블 모드(602)에서 전자 장치(101)는 사용자와의 거리가 다른 모드에 대비하여 상대적으로 멀 수 있으므로, 얼굴 인식의 허용 범위(예: 전자 장치와 사용자 간의 거리, 얼굴의 각도)를 넓히는 인증 알고리즘을 적용할 수 있다. 본 문서의 다양한 실시 예에 따르면, 테이블 모드에서는 사용자 얼굴과 전자 장치의 카메라 각도로 인해 얼굴의 하단 부분을 감지할 가능성이 높을 수 있으므로 얼굴 하단부의 특징에 가중치를 두어 인증하는 알고리즘을 적용할 수 있다.
한편, 상술된 얼굴 인식 허용 범위에 대한 내용은 후술되는 도 7a 및 7b에서 더 상세하게 설명될 수 있다.
태블릿 모드(603)에서, 전자 장치(101)는 일반적인 태블릿과 같은 형태로 이용될 수 있다. 예를 들어, 전자 장치(101)는 플렉서블 디스플레이(예: 도 3의 디스플레이(310))의 일 영역에 콘텐트를 제공할 수 있다. 전자 장치(101)는 태블릿 모드(603)에서, 폴딩 각도(a3)는 180도일 수 있다.
도 6b는 다양한 실시 예들에 따른, 형태가 변화하는 전자 장치를 도시한다.
본 문서의 다양한 실시예에 따르면, 전자 장치(101)는 지정된 각도(예: 90도 내지 130도)로 폴딩된 상태에서 다양한 형태(예: 제1 거치 상태(604), 제2 거치 상태(605))로 거치되어 사용될 수 있다.
일 실시예에 따르면, 사용자는 제1 거치 상태(604)로 사용할 수 있다. 제1 거치 상태(604)는 전자 장치(101)를 지정된 각도로 폴딩한 상태에서 측면부를 바닥에 세워 거치한 상태를 의미할 수 있다. 전자 장치(101)는 플렉서블 디스플레이(예: 도 3의 디스플레이(310))의 일 영역(예: 제1 디스플레이 영역(610), 제2 디스플레이 영역(620))에 콘텐트를 출력할 수 있다.
일 실시예에 따르면, 사용자는 전자 장치(101)를 폴딩한 상태에서 제1 디스플레이 영역(610)이 포함된 하우징을 바닥에 두어 거치한 상태를 의미할 수 있다. 전자 장치(101)는 플렉서블 디스플레이(예: 도 3의 디스플레이(310))의 일 영역(예: 제1 디스플레이 영역(610), 제2 디스플레이 영역(620))에 콘텐트를 출력할 수 있다.
프로세서(예: 도 1의 프로세서(120))는 센서 모듈(예: 도 1의 센서 모듈(176))을 이용하여 획득한 전자 장치(101)의 폴딩 각도를 기반으로, 전자 장치(101)의 동작 모드(예: 모바일 모드, 테이블 모드, 태블릿 모드)를 결정할 수 있다. 다만, 상기 거치 상태(제1 거치 상태(604), 제2 거치 상태(605))에서는 폴딩 각도가 지정된 조건을 만족한 경우에도 테이블 모드 상태로 작동하지 않을 수 있다.
도 7a는 일 실시예에 따른, 사용자가 전자 장치를 이용하는 모습에 따라 달라지는 사용자와 전자 장치 간의 거리를 도시한다.
본 문서의 다양한 실시예에 따르면, 폴딩이 가능한 전자 장치(101)는 폴딩 각도, 사용자에 의해 파지되는 모습 등에 따라 다양한 형태(701, 702)으로 이용될 수 있다. 예를 들어, 사용자는 전자 장치(101)를 모바일 모드(예: 도 6a의 모바일 모드(601))상태에서 하단부를 손에 파지하여 이용할 수 있다. 다른 예를 들어, 사용자는 전자 장치(101)를 테이블 모드(예: 도 6a의 테이블 모드(602))로 이용할 수도 있다.
사용자의 얼굴과 전자 장치(101)간의 거리(D1, D2)는 그 이용 형태에 따라 상이할 수 있다. 예를 들어, D1(예: 20cm 내지 50cm)는 D2(예: 20cm 내지 90cm)에 비하여 낮은 수치일 수 있다.
일 실시예에 따르면, 전자 장치(180)는 카메라 모듈(예: 도 4의 카메라 모듈(180))을 이용하여 사용자의 얼굴이 포함된 적어도 하나의 이미지를 획득할 수 있다. 카메라 모듈(180)이 획득한 적어도 하나의 이미지에 포함된 얼굴의 크기는 사용자와 전자 장치(101)간 거리에 의해 결정될 수 있다. 이 때, 전자 장치(101)는 상기 적어도 하나의 이미지에 포함된 얼굴의 크기가 지정된 크기 이상이어야만 얼굴 인식에 성공하도록 설정될 수 있다.
도 7a의 참조번호 701을 참조하여, 일 실시예에 따르면, 사용자는 전자 장치(101)를 폴딩 각도가 0도인 상태의 모바일 모드(예: 도 6a의 모바일 모드(601))로 이용할 수 있다. 전자 장치(101)에 이벤트가 수신되면, 표시 장치(도 4의 표시 장치(160))는 일 영역(예: 제1 디스플레이 영역(610), 제2 디스플레이 영역(620))에 상기 수신된 이벤트의 정보가 포함된 알림 객체를 출력하는 알림 기능을 제공할 수 있다. 사용자는 얼굴 인식을 통하여 이벤트에 관련한 추가적인 내용을 더 확인할 수 있다. 사용자는 전자 장치와의 거리가 D1인 상태에서 얼굴 인식을 시도할 수 있다.
도 7a의 참조번호 702를 참조하여, 일 실시예에 따르면, 사용자는 전자 장치(101)를 폴딩 각도가 90도 내지 130도인 상태의 테이블 모드(예: 도 6a의 테이블 모드(602))로 이용할 수 있다. 전자 장치(101)에 이벤트가 수신되면, 표시 장치(도 4의 표시 장치(160))는 일 영역(예: 제1 디스플레이 영역(610), 제2 디스플레이 영역(620))에 상기 수신된 이벤트의 정보가 포함된 알림 객체를 출력하는 알림 기능을 제공할 수 있다. 사용자는 얼굴 인식을 통하여 이벤트에 관련한 추가적인 내용을 더 확인할 수 있다. 사용자는 전자 장치와의 거리가 D2인 상태에서 얼굴 인식을 시도할 수 있다. 참조번호 702에서 전자 장치(101)가 획득한 적어도 하나의 이미지에 포함된 얼굴 크기는 참조번호 701에서보다 작을 수 있다. 전자 장치(101)는 참조번호 702에서 얼굴 인식 허용 범위를 넓히는 인증 알고리즘을 적용할 수 있다. 예를 들어, 참조번호 702에서와 같이, 사용자가 전자 장치(101)를 Half-folded 상태에서 테이블 모드로 이용하는 경우, 프로세서(예: 도 4의 프로세서(120))는 전자 장치(101)와 사용자 간의 거리에 따른 얼굴 인식 허용 범위를 확장하여 적용할 수 있다. [표 2]는 전자 장치(101)의 동작 모드에 따른 얼굴 인식 허용 범위를 나타낸다.
동작 모드
인식 범위		 모바일 모드 테이블 모드 태블릿 모드
전자 장치와 사용자 간 거리 20cm 내지 50cm 20cm 내지 90cm 20cm 내지 50cm
도 7b는 일 실시예에 따른, 얼굴 인식을 기반으로 한 생체 인증 과정에서 카메라가 획득한 사용자 얼굴 이미지를 도시한다.
본 문서의 다양한 실시예에 따르면, 전자 장치(101)는 얼굴 인식 기능의 동작을 위하여 카메라 모듈(예: 도 4의 카메라 모듈(180))을 이용하여 사용자 얼굴이 포함된 적어도 하나의 이미지를 획득할 수 있다. 도 7b의 참조번호 703을 참조하여, 일 실시예에 따르면, 전자 장치(101)가 획득한 사용자 얼굴 이미지는 다양한 반경(710, 720, 730, 740)으로 참조될 수 있다.
일 실시예에 따르면, 사용자가 전자 장치(101)를 Half-folded 상태에서 테이블 모드로 이용하는 경우, 프로세서(예: 도 4의 프로세서(120))는 전자 장치(101)와 사용자 간의 거리에 따른 얼굴 인식 허용 범위를 확장할 수 있다. [표 3]은 전자 장치(101)의 동작 모드에 따른 얼굴 인식 허용 범위를 나타낸다.
동작 모드
인식 범위		 모바일 모드 테이블 모드 태블릿 모드
얼굴 각도 상하 : 약 20도
좌우 : 약 30도		 상하 : 약 40도
좌우 : 약 50도		 상하 : 약 20도
좌우 : 약 30도
도 8은 다양한 실시예에 따른, 이미지 센서의 구조를 설명하기 위한 블록도(800)를 도시한다.
본 문서의 일 실시예에 따르면, 이미지 센서(810)(예: 도 2의 이미지 센서(230))는 전자 장치(예: 도 1의 전자 장치(101))에 구비된 카메라 모듈(예: 도 1의 카메라 모듈(180))의 일 구성 요소일 수 있다.
도 8를 참조하여, 다양한 실시예에 따른 이미지 센서(810)는, 픽셀 어레이(pixel array)(820), 로-드라이버(row-driver)(830), 컬럼-리드 아웃 회로(column-readout circuit)(840), 컨트롤러(850), 메모리(860), 또는 인터페이스(870) 중 적어도 하나를 포함할 수 있다.
픽셀 어레이(820)는 복수의 픽셀들(811 내지 819)로 구성될 수 있다. 예를 들어, 픽셀 어레이(820)는 복수의 픽셀들(811 내지 819)이 M x N 매트릭스(matrix) 형태(M, N은 자연수)로 배열된 구조를 가질 수 있다. 복수의 픽셀들(811 내지 819)이 M x N의 2차원 형태로 배열된 픽셀 어레이(820)는 M개의 행(row)과 N개의 열(column)을 가질 수 있다. 픽셀 어레이(820)는 복수의 광 감지 소자, 예를 들어 포토 다이오드(photo diode) 또는 핀드 포토 다이오드(pinned photo diode) 등의 광 감지 소자를 포함할 수 있다. 픽셀 어레이(820)는 복수의 광 감지 소자를 이용하여 빛을 감지하고, 이를 아날로그의 전기적 신호로 변환하여 영상 신호를 생성할 수 있다.
로-드라이버(830)는 픽셀 어레이(820)를 행(row) 단위로 구동할 수 있다. 예컨대, 로-드라이버(830)는 픽셀 어레이(820)에 포함된 복수의 픽셀들(811 내지 819)의 전송 트랜지스터를 제어하는 전송 제어 신호, 리셋 트랜지스터를 제어하는 리셋 제어 신호, 또는 선택 트랜지스터를 제어하는 선택 제어 신호를 픽셀 어레이(820)로 출력할 수 있다. 로-드라이버(830)는 리드 아웃할 행(row)을 결정할 수 있다. 컬럼-리드 아웃 회로(840)는 픽셀 어레이(820)에서 생성된 아날로그의 전기적 신호를 수신할 수 있다. 예컨대, 컬럼-리드 아웃 회로(840)는 픽셀 어레이(820)를 구성하는 복수의 열(column)들 중 선택된 컬럼 라인으로부터 아날로그의 전기적 신호를 수신할 수 있다. 컬럼-리드 아웃 회로(840)는 선택된 컬럼 라인으로부터 수신된 아날로그의 전기적 신호를 픽셀 데이터(또는 디지털의 신호)로 변환하여 출력할 수 있는 아날로그-디지털 컨버터(analog digital converter, 이하 ADC)(845)를 포함할 수 있다. 한편, 컬럼-리드 아웃 회로(840)가 픽셀 어레이(820)로부터 아날로그의 전기적인 신호를 수신하고, 수신된 아날로그의 전기적 신호를 ADC(845)를 이용하여 픽셀 데이터로 변환하여 출력하는 동작을 리드 아웃(read out)이라 명명할 수 있다. 컬럼-리드 아웃 회로(840) 및 ADC(845)는 리드 아웃할 열(column)을 결정할 수 있다.
일 실시예에 따르면, 이미지 센서(810)의 컬럼-리드 아웃 회로(840)는 복수의 ADC(845)들을 포함할 수 있다. 복수의 ADC(845)들 각각은 픽셀 어레이(820)에 포함된 복수의 포토 다이오드들과 병렬적으로 연결될 수 있으며, 복수의 포토 다이오드들로부터 동시에 수신되는 아날로그의 전기적 신호들을 병렬 구조에 기반하여 픽셀 데이터로 빠르게 변환할 수 있다.
일 실시예에 따르면, 이미지 센서(810)의 컬럼-리드 아웃 회로(840)는, 전자 장치의 저전력 상태에서의 운용을 위해 저속의 프레임 레이트(예: 10 fps(frames per second))로 리드 아웃을 수행할 수 있다. 예를 들어, 10 fps로 리드 아웃을 수행하는 것의 의미는, 픽셀 어레이(820)로부터 아날로그의 전기적 신호를 수신하고, 수신된 아날로그의 전기적 신호를 ADC(845)를 이용하여 픽셀 데이터로 변환하여 출력하는 동작을 1/10초 당 1회씩 수행하는 것을 의미할 수 있다. 즉, 10 fps로 리드 아웃을 수행하는 것의 의미는, 1초에 10개의 이미지 프레임을 출력하는 것을 의미할 수 있다.
컨트롤러(850)는 컬럼-리드 아웃 회로(840)로부터 수신된 픽셀 데이터를 기초로 이미지 프레임을 획득할 수 있다. 컨트롤러(850)는 인터페이스(870)를 통해 이미지 프레임을 외부 회로(880)(예: ISP(Image Signal Processing), 프로세서, 통신 회로, 또는 외부 서버)로 출력할 수 있다. 일 실시 예에 따르면, 컨트롤러(850)는 복수의 픽셀들(811 내지 819)의 전송 트랜지스터를 제어하는 전송 제어 신호, 리셋 트랜지스터를 제어하는 리셋 제어 신호, 또는 선택 트랜지스터를 제어하는 선택 제어 신호를 생성할 수 있으며, 생성된 신호를 로-드라이버(830)에 제공할 수 있다. 또한, 컨트롤러(850)는 픽셀 어레이(820)를 구성하는 복수의 컬럼 라인들 중 적어도 하나의 컬럼 라인을 선택하기 위한 선택 제어 신호를 생성할 수 있으며, 생성된 신호를 컬럼-리드 아웃 회로(840)에 제공할 수 있다. 예를 들어, 컬럼-리드 아웃 회로(840)는 컨트롤러(850)로부터 제공된 선택 제어 신호에 기초하여, 복수의 컬럼 라인들 중 일부의 컬럼 라인들을 인에이블(enable)시키고 나머지 컬럼 라인들을 디스에이블(disable)시킬 수 있다. 또한, 컨트롤러(850)는 중앙 처리 장치(CPU) 또는 어플리케이션 프로세서(AP) 등을 포함하는 프로세서(예: 도 1의 프로세서(120))나 일종의 블럭 또는 모듈로 구현될 수도 있다.
일 실시예에 따르면, 메모리(860)는 컬럼-리드 아웃 회로(840)로부터 제 N 프레임 레이트(예: 60 fps) 또는 제 M 프레임 레이트(예: 30 fps)로 리드 아웃된 적어도 하나의 이미지 프레임을 저장할 수 있으며, 저장된 적어도 하나의 이미지 프레임을 인터페이스(870)를 통하여 외부 회로(880)(예: IPS, 프로세서, 통신 회로, 또는 외부 서버)에 전달할 수 있다. 즉, 메모리(860)는 컬럼-리드 아웃 회로(840)로부터 1/60 초 당 1회씩 또는 1/30초 당 1회씩 리드 아웃된 적어도 하나의 이미지 프레임을 저장할 수 있으며, 저장된 적어도 하나의 이미지 프레임을 인터페이스(870)를 통하여 외부 회로(880)에 전달할 수 있다. 외부 회로(880)로 이미지 프레임을 전달하는 속도는 제한이 없다. 예를 들면, 전자 장치(예: 도 1의 전자 장치(101))는 리드 아웃한 이미지 프레임을 메모리(860)에 저장하지 않고 인터페이스(870)를 통하여 외부 회로(880)로 곧바로 전달할 수도 있다.
한편, 컨트롤러(850)는 컬럼-리드 아웃 회로(840)를 통해 제 N 프레임 레이트(예: 10 fps)로 리드 아웃되는 제 N 복수의 이미지 프레임들 중 일부의 이미지 프레임들만 메모리(860)에 저장함으로써, 실질적으로 제 M 프레임 레이트(예: 5 fps)로 리드 아웃되는 제 M 복수의 이미지 프레임들을 획득하는 것과 동일한 효과를 얻을 수도 있다. 예를 들어, 컨트롤러(850)는 10 fps 로 8/10 초 동안 리드 아웃되는 8개의 이미지 프레임들 중 1개의 이미지 프레임만 메모리(860)에 저장할 수 있다. 만약, 10 fps 로 리드 아웃된 복수의 이미지 프레임들 중 1:8의 비율로 선택된 이미지 프레임들만 메모리(860)에 저장되는 경우, 메모리(860)에 저장된 이미지 프레임들은 컬럼-리드 아웃 회로(840)를 통해 5 fps 로 리드 아웃된 이미지 프레임들과 실질적으로 동일한 이미지 프레임들일 수 있다. 예컨대, 1/5 초의 주기로 획득된 이미지 프레임들로만 구성된 동영상을 '5 fps 동영상'으로 정의할 경우, 10 fps 로 리드 아웃된 복수의 이미지 프레임들 중 1:8의 비율로 선택된 이미지 프레임들로만 구성된 동영상은 5 fps 동영상으로 정의될 수 있다. 또한, 컬럼-리드 아웃 회로(840)를 통해 120 fps 로 리드 아웃된 이미지 프레임들로만 구성된 동영상도 5 fps 동영상으로 정의될 수 있다.
일 실시예에 따르면, 컬럼-리드 아웃 회로(840)는, 지정된 FPS(예: 60 fps)보다 적은 제1 fps(예: 10 fps 내지 30 fps)로 리드 아웃을 수행할 수 있다. 예를 들면, 컨트롤러(850)는, 저전력 상태의 디스플레이(예: 저전력 프리뷰 모드) 운용을 위하여, 컬럼-리드 아웃 회로(840)를 통하여 제1 fps로 리드 아웃 되는 복수의 이미지 프레임들을 메모리(860)에 저장할 수 있다.
컨트롤러(850)는 카메라 모듈(180)이 프로세서(120)로부터 수신한 픽셀 정보를 가공 또는 편집하도록 제어할 수 있다. 프로세서(120)는 컨트롤러(850)를 통해, 프로세서(120)로부터 수신한 픽셀 정보에 기반하여 픽셀 어레이(820)에 포함된 복수의 픽셀들(811 내지 819) 중 일부만이 작동하도록 제어할 수 있다. 컨트롤러(850)는 상기 예를 들어, 로-드라이버(830)가 복수의 로 라인(row line)들 중에서 어느 하나의 로 라인을 선택할 수 있는 선택 신호를 생성하도록 제어할 수 있다. 예를 들어, 상기 어느 하나의 로 라인은 짝수 번째로 배열된 로 라인 또는 홀수 번째로 배열된 로 라인을 의미할 수 있다. 예를 들어, 컨트롤러(850)는 컬럼-리드아웃 회로(640)가 복수의 컬럼 라인(column line)들 중에서 어느 하나의 컬럼 라인을 선택할 수 있는 선택 신호를 생성하도록 제어할 수 있다. 예를 들어, 상기 어느 하나의 컬럼 라인은 짝수 번째로 배열된 컬럼 라인 또는 홀수 번째로 배열된 컬럼 라인을 의미할 수 있다. 다른 예를 들어, 이미지 시그널 프로세서는 카메라를 통해 획득한 적어도 하나의 이미지 데이터를 기반으로 하여 다운사이징(downsizing) 된 이미지를 디스플레이에 전달할 수 있다. 예를 들어, 프로세서(120)는 전자 장치(101)가 얼굴 인식 기능을 수행할 때, 획득한 적어도 하나의 이미지 중 얼굴에 해당하는 영역만을 리드 아웃함으로써 전자 장치(101)를 저전력으로 구동하도록 제어할 수 있다. 상기 다운사이징(downsizing) 된 이미지는 저전력 상태의 디스플레이 상에 출력될 수 있다. 위와 같이, 전자 장치는 픽셀을 선택적으로 이용하도록 함으로써 전력 소모를 낮추고, 프로세서(120)의 데이터 처리 또는 연산을 효과적으로 수행할 수 있다. 상술된 바와 같은 이미지 센서(810)의 작동 내용은 후술할 도 9 및 도 10의 설명에 의해 더 상세하게 설명될 수 있다.
도 8에 도시된 이미지 센서(810)의 구성은 예시적인 것으로서 본 문서의 실시예들이 이에 제한되는 것은 아니다. 예를 들어, 이미지 센서(810)는 도 8에 도시된 구성들 중 적어도 하나를 포함하지 않을 수 있다. 다른 예를 들어, 이미지 센서(810)는 도 8에 미도시된 구성을 더 포함할 수 있다.
도 9는 일 실시예에 따른, 전자 장치의 동작 상태에 따른 이미지 센서의 상태(900)를 도시한다.
본 문서의 다양한 실시예에 따르면, 전자 장치(101)는 얼굴 인식 및/또는 생체 인증 기능을 저전력으로 수행하도록 이미지 센서를 제어할 수 있다.
일 실시예에 따르면, 전자 장치(예: 도 1의 전자 장치(101))는 프로세서(예: 도 1의 프로세서(120))가 센서 모듈(예: 도 4의 센서 모듈(176))을 이용하여 획득한 전자 장치(101)의 폴딩 각도를 기반으로 Half-folded 상태인지 여부를 판단하기 전까지 이미지 센서의 작동을 off 할 수 있다. 전자 장치(101)가 Half-folded 상태에서 테이블 모드(예: 도 6a의 테이블 모드(602))로 작동하고 있다고 판단된 경우, 프로세서(120)는 이미지 센서(예: 도 2의 이미지 센서(230))를 활성화하고 얼굴 인식 및/또는 생체 인증 기능(예: 안면 인식, 홍채 인식에 기반한 생체 인증)을 수행할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 카메라 모듈(180)을 이용하여 획득한 적어도 하나의 이미지에 사용자 얼굴의 존재 유무를 식별할 수 있다. 얼굴의 존재 유무를 판단하는 과정에서, 카메라 모듈(180)은 사용자 인식을 위해 제공되는 제1 모드로 작동할 수 있다. 제1 모드는 후술할 제2 모드보다 적은 소모 전류로 작동할 수 있다. 예를 들어, 제1 모드에서 카메라 모듈(180)은 이미지 센서가 제1 출력 속도(예: 15 fps)로 리드 아웃을 수행하도록 제어할 수 있다. 다른 예를 들어, 제1 모드에서 카메라 모듈(180)은 이미지 센서가 제1 해상도(예: 640 x 480)를 갖는 이미지를 획득하도록 제어할 수 있다. 얼굴이 존재하는 것으로 판단된 경우, 전자 장치(101)는 안면 인식에 기반한 생체 인증 기능을 수행할 수 있다. 얼굴 존재 유무 판단 과정에서 이미지 센서는 제1 출력 속도를 통해 제1 해상도의 이미지를 출력할 수 있다. 프로세서(120)는 상기 제1 해상도의 이미지를 기반으로 사용자 얼굴의 존재 유무를 식별할 수 있다.
일 실시예에 따르면, 얼굴 인식 과정에서 사용자 얼굴이 존재하는 것으로 판단된 경우, 전자 장치(101)는 생체 인증 기능을 수행할 수 있다. 생체 인증 기능을 수행하는 과정에서, 카메라 모듈(180)은 사용자 인증을 위해 제공되는 제2 모드로 작동할 수 있다. 제2 모드는 제1 모드보다 높은 소모 전류로 작동할 수 있다. 예를 들어, 제2 모드에서 카메라 모듈(180)은 이미지 센서가 제2 출력 속도(예: 30 fps)로 리드 아웃을 수행하도록 제어할 수 있다. 다른 예를 들어, 제2 모드에서 카메라 모듈(180)은 이미지 센서가 제2 해상도(예: 1920 x 1080)를 갖는 이미지를 획득하도록 제어할 수 있다. 제2 출력 속도(예: 30fps) 및 제2 해상도(예: 1920 x 1080)는 제1 출력 속도(예: 15fps) 및 제1 해상도(예: 640 x 480)보다 높은 값으로 참조될 수 있다. 이 때, 이미지 센서는 제2 출력 속도를 통해 제2 해상도의 이미지를 출력할 수 있다. 프로세서(120)는 상기 제2 해상도의 이미지를 기반으로 생체 인증 기능을 수행할 수 있다.
한편, 생체 인증 기능을 수행함에 있어서, 전자 장치(101)는 제2 모드에서 카메라 모듈(180)이 획득한 적어도 하나의 이미지 중 일부 영역만을 리드 아웃하도록 이미지 센서를 제어할 수 있다. 예를 들어, 전자 장치(101)는 제2 모드에서 카메라 모듈(180)을 이용하여 안면 인식에 기반한 생체 인증을 수행할 수 있다. 이 때, 전자 장치(101)는 제2 모드에서 카메라 모듈(180)이 획득한 적어도 하나의 이미지 중 사용자의 얼굴에 해당하는 영역만을 리드-아웃하여 생체 인증을 수행할 수 있다. 예를 들어, 상기 사용자의 얼굴에 해당하는 영역은 전자 장치(101)가 제1 모드에서 얼굴 존재 유무를 판단하는 과정에서 이용한 영역일 수 있다. 이를 통해 전자 장치(101)는 생체 인증 기능을 보다 더 효율적으로 수행할 수 있다. 예를 들어, 얼굴에 해당하는 영역만을 추출하여 리드 아웃하면 되기 때문에, 생체 인증 과정이 보다 더 짧은 시간 안에 수행될 수 있다.
본 문서에서 사용된 프레임 레이트들(15 fps, 30 fps) 및 해상도(640 x 480, 1920 x 1080)는 전자 장치(예: 도 1의 전자 장치(101))의 설정이나 인터페이스(예: 도 1의 인터페이스(177))의 성능에 따라 달라질 수 있다.
도 10은 일 실시예에 따른, 이미지를 선택적으로 리드-아웃 하는 전자 장치를 도시한다.
일 실시예에 따르면, 전자 장치(101)는 Half-folded 상태에서 테이블 모드(예: 도 6a의 테이블 모드(602))로 작동될 수 있다. 테이블 모드(602)에서, 전자 장치(101)는 제1 디스플레이(1010) 영역 및/또는 제2 디스플레이 영역(1020)을 통하여 사용자에게 다양한 콘텐트를 제공할 수 있다. 전자 장치(101)에 이벤트가 수신되면, 상기 이벤트의 수신을 알리는 알림 객체를 제2 디스플레이 영역(1020)에 표시할 수 있다. 이 때, 제1 디스플레이 영역(1010)은 이벤트 수신 유무와는 무관하게 원래 제공하던 콘텐트를 계속하여 출력할 수 있다. 알림 객체가 표시된 후, 전자 장치(101)는 카메라 모듈(180)을 이용하여 획득한 적어도 하나의 이미지를 기반으로 얼굴 인식 및/또는 생체 인증 기능을 수행할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 얼굴 인식 및/또는 생체 인증 기능을 수행하는 과정에서, 상기 적어도 하나의 이미지 중 사용자 얼굴에 해당하는 영역(1030)만을 추출하여 리드 아웃할 수 있다. 한편, 상기 적어도 하나의 이미지가 얼굴 인식 및/또는 생체 인증 기능이 성공적으로 수행되지 않는 경우(예: 지정된 거리 범위보다 멀거나 가까운 경우), 전자 장치(101)는 생체 인증에 성공하기 위한 가이드를 제공할 수 있다. 예를 들어, 가이드는 외부 객체(예: 얼굴)이 전자 장치(101)로부터 지정된 거리 범위 내에 위치하도록 사용자에게 알리는 정보를 포함하는 이미지 및/또는 텍스트 형태로 제공될 수 있다. 예를 들어, 가이드는 제1 디스플레이 영역(1010) 및/또는 제2 디스플레이 영역(1020) 상에 팝업 형태로 제공될 수 있다.
상기 인증 과정이 완료된 후에, 전자 장치는 수신된 이벤트에 관련된 내용을 제1 디스플레이 영역(1010) 및/또는 제2 디스플레이 영역(1020)에 출력할 수 있다.
도 11은 일 실시예에 따른, 복수의 얼굴이 감지된 경우 전자 장치의 알림 동작(1100)을 도시한다.
본 문서의 다양한 실시예에 따르면, 사용자가 외부 사용자와 전자 장치(101)를 테이블 모드(예: 도 6a의 테이블 모드(602))상태로 이용하는 경우, 전자 장치(101)에 수신된 이벤트에 대한 알림 기능을 제한적으로 제공할 수 있다. 예를 들어, 전자 장치(101)는 제1 디스플레이 영역(1010)에 콘텐트를 제공하고, 이벤트를 수신하면 제2 디스플레이 영역(1020)에 알림 객체(1150)를 제공할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 얼굴 인식 기능을 수행하는 과정에서 둘 이상의 얼굴 객체(1110, 1120)를 식별하면 생체 인증 기능을 수행하지 않고 수신된 이벤트에 대응하는 내용을 제한적으로 표시하는 알림 객체(1150)를 출력할 수 있다. 상기 알림 객체(1150)에는 이벤트 수신 시간, 발신자 정보, 수신된 이벤트의 개수, 메시지 내용 등이 포함될 수 있다. 알림 기능의 제한 범위는 사용자의 설정에 따라 달라질 수 있다. 예를 들어, 둘 이상의 얼굴 객체(1110, 1120)가 식별된 경우 전자 장치(101)는 상기 알림 객체(1150)에 포함된 내용 중 적어도 하나를 제외하여 표시하는 알림 기능을 제공하도록 설정될 수 있다.
일 실시예에 따르면, 전자 장치(101)는 얼굴 인식 기능을 수행하는 과정에서 둘 이상의 얼굴 객체(1110, 1120)를 식별하면 수신된 이벤트에 대응하는 알림 객체(1150)를 표시하는 위치를 변경할 수 있다. 예를 들어, 전자 장치(101)는 식별한 둘 이상의 얼굴 객체(1110, 1120) 중 전자 장치(101)에 대응하는 사용자의 얼굴 객체(1110)의 위치를 추출하고, 상기 위치에 대응하는 영역에 알림 객체(1150)를 표시할 수 있다. 예를 들어, 상기 영역은 사용자의 얼굴 객체(1110)에 가까운 영역일 수 있다.
도 12는 일 실시예에 따른, 어플리케이션에 따른 전자 장치의 다양한 알림 동작을 도시한다.
본 문서의 다양한 실시예에 따르면, 전자 장치(101)는 어플리케이션 별로 알림 객체의 내용을 달리 하여 표시하는 알림 기능을 제공할 수 있다. 예를 들어, 전자 장치(101)는 각 어플리케이션에 맞는 보안 등급을 저장하고, 상기 보안 등급에 따라 알림 기능을 제한적으로 제공할 수 있다.
도 12의 참조번호 1201를 참조하여, 일 실시예에 따르면, 전자 장치(101)는 인스턴트 메시지를 수신하고 상기 메시지에 대응하는 제1 알림 객체(1210)를 표시하는 알림 기능을 제공할 수 있다.
일 실시예에 따르면, 제1 알림 객체(1210)는 제2 디스플레이 영역(1020) 상에 표시될 수 있다. 제1 알림 객체(1210)는 제1 유저 인터페이스(1220)(예: 확인, 답장, 또는 더 보기 버튼이 포함된 유저 인터페이스)를 포함할 수 있다. 전자 장치(101)는 얼굴 인식 및/또는 생체 인증을 성공적으로 수행한 후 상기 제1 유저 인터페이스(1220)에 포함된 버튼을 터치하여 대응하는 기능을 제공할 수 있다.
도 12의 참조번호 1202를 참조하여, 일 실시예에 따르면, 전자 장치(101)는 SNS(Social Network Service) 어플리케이션에서 수신한 이벤트에 대응하는 제2 알림 객체(1230)를 포함하는 알림 기능을 제공할 수 있다.
일 실시예에 따르면, 제2 알림 객체(1230)는 제2 디스플레이 영역(1020) 상에 표시될 수 있다. 제2 알림 객체(1230)는 제2 유저 인터페이스(1240)(예: 확인, 앱으로 바로 이동 버튼이 포함된 유저 인터페이스)를 포함할 수 있다. 전자 장치(101)는 얼굴 인식 및/또는 생체 인증을 성공적으로 수행한 후 상기 제2 유저 인터페이스(1240)에 포함된 버튼을 터치하여 대응하는 기능을 제공할 수 있다.
도 13은 다양한 실시예에 따른, 전자 장치의 생체 인증 동작 순서도(1300)를 도시한다.
도 13을 참조하여, 일 실시예에 따르면, 동작 1305에서, 전자 장치(예: 도 1의 전자 장치(101))는 이벤트를 수신하고, 디스플레이에 알림 정보를 표시할 수 있다. 예를 들어, 상기 알림 정보는 이벤트에 대응하는 내용(예: 이벤트 수신 시간, 발신자 정보, 수신된 이벤트의 개수, 메시지 내용)이 포함될 수 있다.
동작 1310에서, 전자 장치(101)는 센서 모듈(예: 도 1의 센서 모듈(176))을 통해 감지된 폴딩 상태가 지정된 조건을 만족하는지 판단할 수 있다. 예를 들어, 상기 지정된 조건은 전자 장치(101)의 폴딩 각도가 90도 내지 130도여야 함을 의미할 수 있다. 상기 지정된 조건을 만족하는 폴딩 상태의 Half-folded 상태로 정의할 수 있다.
동작 1310에서, 전자 장치(101)의 폴딩 상태가 지정된 조건을 만족하는 경우(예: 동작 1310-Yes), 전자 장치는 동작 1315을 수행할 수 있다.
동작 1310에서, 전자 장치(101)의 폴딩 상태가 지정된 조건을 만족하지 못한 경우(예: 동작 1310-No), 전자 장치(101)는 동작 1310을 계속하여 수행할 수 있다.
일 실시예에 따르면, 동작 1315에서, 전자 장치(101)는 제1 모드에서 카메라 모듈(예: 도 1의 카메라 모듈(180))을 이용하여 적어도 하나의 제1 이미지를 획득할 수 있다. 예를 들어, 제1 모드는 제2 모드보다 저전력으로 운용되는 카메라 모듈의 동작 모드일 수 있다. 전자 장치(101)는 카메라 모듈의 작동 시간을 제한할 수 있다. 상기 동작 시간은 사용자에 의하여 설정될 수 있다. 예를 들어, 전자 장치(101)는 제1 모드에서 카메라 모듈의 작동 시간이 지정된 시간을 초과하는 경우, 작동을 종료하고 디스플레이를 비활성화 하도록 제어할 수 있다.
일 실시예에 따르면, 동작 1320에서, 전자 장치(101)는 획득한 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단할 수 있다. 전자 장치(101)는 적어도 하나의 제1 이미지에서 얼굴 객체를 검색할 수 있다. 예를 들어, 전자 장치(101)는 둘 이상의 얼굴 객체를 식별한 경우 얼굴 인식에 실패하였다고 판단할 수 있다. 다른 예를 들어, 전자 장치(101)는 둘 이상의 얼굴 객체를 식별한 경우, 어느 얼굴 객체가 전자 장치(101)에 대응하는 사용자의 얼굴인지 판단할 수 있다. 이 때, 사용자 얼굴 객체의 위치를 추출하고, 상기 위치에 대응하는 영역에 알림 객체를 표시할 수 있다. 예를 들어, 상기 위치에 대응하는 영역은 사용자의 얼굴 객체에 가까운 영역일 수 있다.
동작 1320에서, 적어도 하나의 제1 이미지에 얼굴이 존재한다고 판단된 경우(예: 동작 1320-Yes), 전자 장치는 동작 1325을 수행할 수 있다.
동작 1320에서, 적어도 하나의 제1 이미지에 얼굴이 존재하지 않는다고 판단된 경우(예: 동작 1320-No), 전자 장치(101)는 동작 1315를 계속하여 수행할 수 있다.
일 실시예에 따르면, 동작 1325에서, 전자 장치(101)는 제2 모드에서 카메라 모듈을 이용하여 적어도 하나의 제2 이미지를 획득할 수 있다. 예를 들어, 제2 모드는 제1 모드보다 고전력으로 운용되는 카메라 모듈의 동작 모드일 수 있다. 전자 장치(101)는 카메라 모듈의 동작 시간을 제한할 수 있다. 상기 동작 시간은 사용자에 의하여 설정될 수 있다. 얼굴이 존재한다고 판단된 경우, 전자 장치(101)는 이벤트에 연관된 내용(예: 이벤트 수신 시간, 발신자 정보, 수신된 이벤트의 개수, 메시지 내용)중 적어도 일부를 디스플레이에 표시할 수 있다.
일 실시예에 따르면, 동작 1330에서, 전자 장치(101)는 적어도 하나의 제2 이미지를 이용하여 생체 인증 기능을 수행할 수 있다. 예를 들어, 상기 생체 인증은 안면 인식에 기반한 생체 인증일 수 있다. 전자 장치(101)는 적어도 하나의 제2 이미지 중 일 영역만을 리드 아웃할 수 있다. 예를 들어, 얼굴 객체를 포함하는 일 영역만을 리드 아웃하여 안면 인식을 수행할 수 있다. 전자 장치(101)는 상기 적어도 하나의 제2 이미지를 통한 상기 생체 인증에 실패한 경우, 디스플레이에 상기 생체 인증의 성공을 위한 가이드를 제공하는 유저 인터페이스를 표시할 수 있다. 예를 들어, 상기 유저 인터페이스에는 얼굴이 전자 장치(101)로부터 지정된 거리 범위 내에 위치하도록 사용자에게 알리는 정보를 포함하는 이미지 및/또는 텍스트 형태로 제공될 수 있다. 예를 들어, 유저 인터페이스는 제1 디스플레이 영역(예: 도 10의 제1 디스플레이(1010)) 및/또는 제2 디스플레이 영역(예: 도 10의 제2 디스플레이(1020)) 상에 팝업 형태로 제공될 수 있다.
동작 1330에서, 생체 인증에 성공한 경우(예: 동작 1330-Yes), 전자 장치는 동작 1335을 수행할 수 있다.
동작 1330에서, 생체 인증에 실패한 경우(예: 동작 1330-No), 전자 장치(101)는 동작 1325를 계속하여 수행할 수 있다.
일 실시예에 따르면, 동작 1335에서 전자 장치(101)는 수신한 이벤트에 연관된 내용을 디스플레이에 표시할 수 있다. 예를 들어, 상기 이벤트에 연관된 내용은 이벤트 수신 시간, 발신자 정보, 수신된 이벤트의 개수, 및/또는 메시지 내용을 포함할 수 있다. 이 때, 전자 장치(101)는 상기 이벤트에 연관된 내용을 제2 디스플레이 영역의 적어도 일부에 출력할 수 있다.
도 14는 다양한 실시예에 따른, 전자 장치가 실행하는 인증 방식을 개념적으로 나타내는 동작 순서도(1400)를 도시한다.
일 실시예에 따르면, 동작 1405에서, 전자 장치(예: 도 1의 전자 장치(101))는 지정된 각도로 폴딩된 상태에서, 테이블 모드(예: 도 6a의 테이블 모드(602))로 1차 인증을 수행할 수 있다. 예를 들어, 상기 1차 인증은 얼굴 인식(예: 얼굴의 존재 유무 판단)일 수 있다. 전자 장치(101)는 테이블 모드(602)에서 사용자 인증 기능을 제공할 때, 다른 동작 모드(예: 모바일 모드 및/또는 태블릿 모드)와는 다른 인증 알고리즘을 적용할 수 있다. 예를 들어, 테이블 모드(602)에서 전자 장치(101)는 사용자와의 거리가 다른 모드에 대비하여 상대적으로 멀 수 있으므로, 얼굴 인식의 허용 범위(예: 전자 장치와 사용자 간의 거리, 얼굴의 각도)를 넓히는 인증 알고리즘을 적용할 수 있다. 1차 인증에 성공한 경우, 전자 장치(101)는 동작 1410을 수행할 수 있다.
동작 1410에서, 전자 장치(101)는 1차 unlock을 수행한 후 제한적으로 기능을 제공할 수 있다. 예를 들어, 전자 장치에 이벤트가 수신된 경우, 상기 이벤트에 대응하는 내용 중 적어도 일부를 제한하여 디스플레이에 표시할 수 있다. 다른 예를 들어, 어플리케이션 별로 보안 등급을 다르게 설정하여 지정된 보안 등급 이상의 어플리케이션에서 수신한 이벤트의 내용은 표시를 제한할 수 있다. 실행 시 개인 정보를 필요로 하는 어플리케이션의 경우 보안 등급을 높게 설정할 수 있다. 보안 등급은 사용자의 설정에 의하여 지정될 수 있다.
동작 1415에서, 전자 장치(101)는 2차 인증을 수행할 수 있다. 예를 들어, 2차 인증은 안면 인식에 기반한 생체 인증일 수 있다. 이 때, 전자 장치(101)는 생체 인증에 실패한 경우, 디스플레이에 생체 인증의 성공을 위한 가이드를 포함하는 유저 인터페이스를 제공할 수 있다. 유저 인터페이스의 제공 이후, 전자 장치(101)는 이미지 센서를 이용한 사용자의 얼굴 구도 변경을 감지하거나, 가속도 센서를 이용한 장치 이동을 감지하는 것을 기점으로 다시 2차 인증을 수행할 수 있다. 2차 인증에 성공한 경우, 전자 장치(101)는 동작 1420을 수행할 수 있다.
동작 1420에서, 전자 장치(101)는 완전한 unlock 상태에서 추가적인 기능을 제공할 수 있다. 예를 들어, 수신한 이벤트에 대응하는 내용 중 1차 unlock 이후 표시를 제한했던 내용을 디스플레이에 표시할 수 있다. 다른 예를 들어, 지정된 보안 등급 이상의 어플리케이션에서 수신한 이벤트의 내용을 포함하는 정보를 표시할 수 있다.
다양한 실시예들에 따르면, 폴더블 전자 장치는 제1 하우징, 제2 하우징, 상기 제1 하우징과 상기 제2 하우징 사이에 배치되는 폴더블 구조, 적어도 하나의 센서, 디스플레이, 사용자 인식을 위해 제공되는 제1 모드, 또는 제1 모드보다 고전력으로 운용되고, 사용자 인증을 위해 제공되는 제2 모드로 작동이 가능한 카메라, 프로세서, 및 상기 프로세서에 작동적으로(operatively) 연결되는 메모리를 포함할 수 있다.
일 실시예에 따르면, 상기 메모리는 실행되었을 때 상기 프로세서로 하여금 상기 폴더블 전자 장치의 이벤트의 알림(notification) 정보를 상기 디스플레이에 표시하고, 상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는 경우, 상기 제1 모드에서 상기 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하고, 상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하고, 상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하고, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하고, 상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하도록 하는 하나 이상의 인스트럭션들(instructions)을 저장할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 제1 모드에서 상기 카메라의 작동 시간이 지정된 시간을 초과하는 경우, 상기 카메라의 작동을 종료하고 디스플레이를 비활성화 하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 적어도 하나의 제1 이미지에 복수의 얼굴이 존재하는 경우, 상기 생체 인증을 수행하지 않고 상기 폴더블 전자 장치의 이벤트의 알림(notification) 정보를 상기 디스플레이에 계속 표시하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 적어도 하나의 제1 이미지에 포함된 복수의 얼굴 중 폴더블 전자 장치에 대응하는 사용자의 얼굴의 위치를 추출하고, 상기 위치에 대응하는 영역에 이벤트의 알림 정보를 상기 디스플레이에 표시하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 적어도 하나의 제2 이미지를 통한 상기 생체 인증에 성공하지 못한 경우, 상기 디스플레이에 상기 생체 인증을 위한 가이드를 제공하는 유저 인터페이스를 표시하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 유저 인터페이스를 표시하고, 상기 적어도 하나의 센서를 이용하여 사용자의 얼굴 구도 변경을 감지하거나, 장치 이동을 감지하는 것을 기점으로 하여 다시 생체 인증을 수행하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 적어도 하나의 제2 이미지 중 일부 영역만을 Read-out 하여 생체 인증을 수행하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 생체 인증을 수행하는 과정에서, 상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지를 기준으로 하여 서로 다른 얼굴 인식 알고리즘을 적용하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 이벤트에 대응하는 내용 중 적어도 일부를 디스플레이에 표시하도록 할 수 있다.
일 실시예에 따르면, 상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가 상기 생체 인증에 성공한 경우, 상기 이벤트에 대응하는 내용 중 기 표시된 내용 외에 추가적인 내용을 더 포함하여 디스플레이에 표시하도록 할 수 있다.
다양한 실시예들에 따르면, 폴더블 전자 장치가 알림 기능을 제공하는 방법은, 상기 폴더블 전자 장치의 이벤트의 알림 정보를 디스플레이에 표시하는 동작, 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지 여부를 판단하는 동작, 상기 지정된 조건을 만족하는 경우, 사용자 인식을 위해 제공되는 제1 모드에서 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하는 동작, 상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작, 상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 사용자 인증을 위해 제공되는 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하는 동작, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작, 및 상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하는 동작을 포함할 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 제1 이미지를 획득하는 동작은, 상기 제1 모드에서 상기 카메라의 작동 시간이 지정된 시간을 초과하는 경우 상기 카메라의 작동을 종료하고 디스플레이를 비활성화 하도록 하는 것일 수 있다.
일 실시예에 따르면, 상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작은, 상기 적어도 하나의 제1 이미지에 복수의 얼굴이 존재하는 것으로 판단된 경우, 상기 생체 인증을 수행하지 않고 상기 폴더블 전자 장치의 이벤트의 알림 정보를 상기 디스플레이에 계속 표시하도록 하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작은, 상기 적어도 하나의 제1 이미지에 포함된 복수의 얼굴 중 폴더블 전자 장치에 대응하는 사용자의 얼굴의 위치를 추출하고, 상기 위치에 대응하는 영역에 이벤트의 알림 정보를 상기 디스플레이에 표시하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은, 상기 적어도 하나의 제2 이미지를 통한 상기 생체 인증에 실패한 경우, 상기 디스플레이에 상기 생체 인증을 위한 가이드를 제공하는 유저 인터페이스를 표시하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은, 상기 유저 인터페이스를 표시하고, 상기 적어도 하나의 센서를 이용하여 사용자의 얼굴 구도 변경을 감지하거나, 장치 이동을 감지하는 것을 기점으로 하여 다시 생체 인증을 수행하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은, 상기 적어도 하나의 제2 이미지 중 일부 영역만을 Read-out 하여 생체 인증을 수행하는 것을 특징으로 할 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은, 상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지를 기준으로 하여 서로 다른 얼굴 인식 알고리즘을 적용하는 것일 수 있다.
일 실시예에 따르면, 상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하는 동작은, 상기 적어도 하나의 제2 이미지를 획득하는 동안에 상기 이벤트에 대응하는 내용 중 적어도 일부를 디스플레이에 표시하는 동작을 더 포함할 수 있다.
일 실시예에 따르면, 상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하는 동작은, 상기 적어도 일부를 제외한 나머지 내용을 디스플레이에 표시하는 동작일 수 있다.

Claims (20)

  1. 폴더블 전자 장치에 있어서,
    제1 하우징; 제2 하우징;
    상기 제1 하우징과 상기 제2 하우징 사이에 배치되는 폴더블 구조;
    적어도 하나의 센서;
    디스플레이;
    사용자 인식을 위해 제공되는 제1 모드, 또는 사용자 인증을 위해 제공되는 제2 모드로 작동이 가능한 카메라;
    프로세서; 및
    상기 프로세서에 작동적으로(operatively) 연결되는 메모리; 를 포함하고, 상기 메모리는, 실행되었을 때 상기 프로세서가:
    상기 폴더블 전자 장치의 이벤트의 알림(notification) 정보를 상기 디스플레이에 표시하고,
    상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는 경우, 상기 제1 모드에서 상기 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하고,
    상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하고,
    상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하고,
    상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하고,
    상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하도록 하는 하나 이상의 인스트럭션들(instructions)을 저장하는, 전자 장치.
  2. 청구항 1에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 제1 모드에서 상기 카메라의 작동 시간이 지정된 시간을 초과하는 경우, 상기 카메라의 작동을 종료하고 디스플레이를 비활성화 하도록 하는, 전자 장치.
  3. 청구항 1에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 적어도 하나의 제1 이미지에 복수의 얼굴이 존재하는 경우, 상기 생체 인증을 수행하지 않고 상기 폴더블 전자 장치의 이벤트의 알림(notification) 정보를 상기 디스플레이에 계속 표시하도록 하는, 전자 장치.
  4. 청구항 3에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 적어도 하나의 제1 이미지에 포함된 복수의 얼굴 중 폴더블 전자 장치에 대응하는 사용자의 얼굴의 위치를 추출하고,
    상기 위치에 대응하는 영역에 이벤트의 알림 정보를 상기 디스플레이에 표시하도록 하는, 전자 장치.
  5. 청구항 1에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 적어도 하나의 제2 이미지를 통한 상기 생체 인증에 성공하지 못한 경우, 상기 디스플레이에 상기 생체 인증을 위한 가이드를 제공하는 유저 인터페이스를 표시하도록 하는, 전자 장치.
  6. 청구항 5에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 유저 인터페이스를 표시하고, 상기 적어도 하나의 센서를 이용하여 사용자의 얼굴 구도 변경을 감지하거나, 장치 이동을 감지하는 것을 기점으로 하여 다시 생체 인증을 수행하도록 설정된, 전자 장치.
  7. 청구항 1에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 적어도 하나의 제2 이미지 중 일부 영역만을 Read-out 하여 생체 인증을 수행하도록 설정된, 전자 장치.
  8. 청구항 1에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    생체 인증을 수행하는 과정에서, 상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지를 기준으로 하여 서로 다른 얼굴 인식 알고리즘을 적용하도록 설정된, 전자 장치.
  9. 청구항 1에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 이벤트에 대응하는 내용 중 적어도 일부를 디스플레이에 표시하도록 설정된, 전자 장치.
  10. 청구항 9에 있어서,
    상기 하나 이상의 인스트럭션들(instructions)은 실행 시에 상기 프로세서가:
    상기 생체 인증에 성공한 경우, 상기 이벤트에 대응하는 내용 중 기표시된 내용 외에 추가적인 내용을 더 포함하여 디스플레이에 표시하도록 설정된, 전자 장치.
  11. 청구항 1에 있어서,
    상기 제2 모드는 상기 제1 모드보다 고전력으로 운용되는 것을 특징으로 하는, 전자 장치.
  12. 폴더블 전자 장치가 알림 기능을 제공하는 방법으로서,
    상기 폴더블 전자 장치의 이벤트의 알림 정보를 디스플레이에 표시하는 동작;
    적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지 여부를 판단하는 동작;
    상기 지정된 조건을 만족하는 경우, 사용자 인식을 위해 제공되는 제1 모드에서 카메라를 이용하여 적어도 하나의 제1 이미지를 획득하는 동작;
    상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작;
    상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 사용자 인증을 위해 제공되는 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하는 동작;
    상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작; 및
    상기 생체 인증에 성공한 경우, 상기 폴더블 전자 장치의 이벤트의 내용을 상기 디스플레이에 표시하는 동작; 을 포함하는, 방법.
  13. 청구항 12에 있어서,
    상기 적어도 하나의 제1 이미지를 획득하는 동작은, 상기 제1 모드에서 상기 카메라의 작동 시간이 지정된 시간을 초과하는 경우 상기 카메라의 작동을 종료하고 디스플레이를 비활성화 하도록 하는 것인, 방법.
  14. 청구항 12에 있어서,
    상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작은,
    상기 적어도 하나의 제1 이미지에 복수의 얼굴이 존재하는 것으로 판단된 경우, 상기 생체 인증을 수행하지 않고 상기 폴더블 전자 장치의 이벤트의 알림 정보를 상기 디스플레이에 계속 표시하도록 하는 동작; 을 더 포함하는, 방법.
  15. 청구항 14에 있어서,
    상기 카메라를 이용하여 획득한 상기 적어도 하나의 제1 이미지에 기반하여 얼굴의 존재 유무를 판단하는 동작은,
    상기 적어도 하나의 제1 이미지에 포함된 복수의 얼굴 중 폴더블 전자 장치에 대응하는 사용자의 얼굴의 위치를 추출하고,
    상기 위치에 대응하는 영역에 이벤트의 알림 정보를 상기 디스플레이에 표시하는 동작; 을 더 포함하는, 방법.
  16. 청구항 12에 있어서,
    상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은,
    상기 적어도 하나의 제2 이미지를 통한 상기 생체 인증에 실패한 경우, 상기 디스플레이에 상기 생체 인증을 위한 가이드를 제공하는 유저 인터페이스를 표시하는 동작; 을 더 포함하는, 방법.
  17. 청구항 16에 있어서,
    상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은,
    상기 유저 인터페이스를 표시하고, 상기 적어도 하나의 센서를 이용하여 사용자의 얼굴 구도 변경을 감지하거나, 장치 이동을 감지하는 것을 기점으로 하여 다시 생체 인증을 수행하는 동작; 을 더 포함하는, 방법.
  18. 청구항 12에 있어서,
    상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은,
    상기 적어도 하나의 제2 이미지 중 일부 영역만을 Read-out 하여 생체 인증을 수행하는 것을 특징으로 하는, 방법.
  19. 청구항 12에 있어서,
    상기 적어도 하나의 제2 이미지 중 적어도 일부를 이용하여 안면 인식에 기반한 생체 인증을 수행하는 동작은,
    상기 적어도 하나의 센서를 이용하여 감지된 상기 폴더블 전자 장치의 폴딩 상태가 지정된 조건을 만족하는지를 기준으로 하여 서로 다른 얼굴 인식 알고리즘을 적용하는 것인, 방법.
  20. 청구항 12에 있어서,
    상기 적어도 하나의 제1 이미지에 얼굴이 존재하는 것으로 판단된 경우, 상기 제2 모드에서 상기 카메라를 이용하여 적어도 하나의 제2 이미지를 획득하는 동작은,
    상기 적어도 하나의 제2 이미지를 획득하는 동안에 상기 이벤트에 대응하는 내용 중 적어도 일부를 디스플레이에 표시하는 동작; 을 더 포함하는, 방법.
KR1020200042479A 2020-04-08 2020-04-08 생체 인증 방법 및 이를 위한 전자 장치 KR20210125167A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020200042479A KR20210125167A (ko) 2020-04-08 2020-04-08 생체 인증 방법 및 이를 위한 전자 장치
CN202180033550.1A CN115552399A (zh) 2020-04-08 2021-03-11 生物认证系统及其电子装置
PCT/KR2021/003031 WO2021206298A1 (ko) 2020-04-08 2021-03-11 생체 인증 방법 및 이를 위한 전자 장치
EP21783826.7A EP4116850A4 (en) 2020-04-08 2021-03-11 BIOMETRIC AUTHENTICATION SYSTEM AND ELECTRONIC DEVICE THEREFOR
US17/961,324 US20230026684A1 (en) 2020-04-08 2022-10-06 Biometric authentication system and electronic device for same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200042479A KR20210125167A (ko) 2020-04-08 2020-04-08 생체 인증 방법 및 이를 위한 전자 장치

Publications (1)

Publication Number Publication Date
KR20210125167A true KR20210125167A (ko) 2021-10-18

Family

ID=78022941

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200042479A KR20210125167A (ko) 2020-04-08 2020-04-08 생체 인증 방법 및 이를 위한 전자 장치

Country Status (5)

Country Link
US (1) US20230026684A1 (ko)
EP (1) EP4116850A4 (ko)
KR (1) KR20210125167A (ko)
CN (1) CN115552399A (ko)
WO (1) WO2021206298A1 (ko)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101615379B1 (ko) * 2009-10-14 2016-04-26 삼성전자주식회사 플렉서블 디스플레이부를 구비하는 휴대단말기 및 휴대단말기의 정보표시 방법
CN105830145B (zh) * 2013-10-10 2018-08-10 日本电气株式会社 显示装置、图像变形方法以及存储介质
WO2016108439A1 (en) * 2014-12-29 2016-07-07 Samsung Electronics Co., Ltd. Foldable device and method of controlling the same
KR101942950B1 (ko) * 2015-03-31 2019-01-28 삼성전자주식회사 폴더블 디바이스 및 그 제어 방법
US10263982B2 (en) * 2015-03-31 2019-04-16 Samsung Electronics Co., Ltd. Foldable device and method of controlling the same
CN106933330A (zh) * 2017-03-13 2017-07-07 维沃移动通信有限公司 一种显示控制方法及移动终端
US10481856B2 (en) * 2017-05-15 2019-11-19 Microsoft Technology Licensing, Llc Volume adjustment on hinged multi-screen device
KR102350781B1 (ko) * 2017-06-15 2022-01-14 엘지전자 주식회사 이동 단말기 및 그 제어방법

Also Published As

Publication number Publication date
CN115552399A (zh) 2022-12-30
WO2021206298A1 (ko) 2021-10-14
EP4116850A4 (en) 2023-08-09
EP4116850A1 (en) 2023-01-11
US20230026684A1 (en) 2023-01-26

Similar Documents

Publication Publication Date Title
KR102423175B1 (ko) 심도 맵을 이용하여 이미지를 편집하기 위한 장치 및 그에 관한 방법
KR102561172B1 (ko) 디스플레이 내에 카메라 모듈이 포함된 전자 장치 및 상기 카메라 모듈 주변의 이미지를 보정하는 방법
KR20200129584A (ko) 복수의 카메라들을 이용한 촬영 제어 방법 및 폴더블 장치
US11057577B2 (en) Camera module having multi-cell structure and portable communication device including the same
US11048923B2 (en) Electronic device and gesture recognition method thereof
KR20210010148A (ko) 폴더블 전자 장치 및 상기 폴더블 전자 장치에서 복수의 카메라들을 이용한 사진 촬영 방법
US11509815B2 (en) Electronic device and method for processing image having human object and providing indicator indicating a ratio for the human object
EP4060967A1 (en) Electronic device for providing camera preview and method therefor
US11284020B2 (en) Apparatus and method for displaying graphic elements according to object
KR20200101233A (ko) 이미지 내의 오브젝트 선택에 대응하는 서비스를 제공하기 위한 전자 장치 및 방법
US20200310637A1 (en) Electronic device performing function according to gesture input and operation method thereof
KR20210101087A (ko) 전자 장치 및 그 전자 장치에서 영상을 표시하는 방법
KR102385844B1 (ko) 제 1 이미지 센서에서 제공된 신호를 이용하여 제 2 이미지 센서에서 데이터를 획득하는 방법 및 전자 장치
KR20210087809A (ko) 이미지 센서를 포함하는 전자 장치 및 그의 동작 방법
US11917295B2 (en) Method for correcting shaking at high magnification and electronic device therefor
KR102544709B1 (ko) 외부 조도에 기반하여 복수개의 카메라를 구동하는 전자 장치
KR102459717B1 (ko) 이미지에 포함된 반사 객체의 속성에 기반하여, 반사 객체에 다른 이미지를 합성하는 방법 및 전자 장치
KR20210125167A (ko) 생체 인증 방법 및 이를 위한 전자 장치
US11070751B2 (en) Electronic device and image up-sampling method for electronic device
KR20210108037A (ko) 카메라 프리뷰를 제공하는 전자 장치 및 그 동작 방법
KR20210101571A (ko) 이미지의 생성 방법 및 그 전자 장치
KR20210007697A (ko) 이미지 센서 및 이미지 센서를 포함하는 전자 장치
KR20200092762A (ko) 전자 장치 및 이를 이용한 카메라의 가림을 인식하는 방법
US20240086512A1 (en) Electronic device including image sensor and dynamic vison sensor, and operation method thereof
US10805518B2 (en) Electronic device for obtaining security image using security processing module

Legal Events

Date Code Title Description
A201 Request for examination