KR20220051725A - 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체 - Google Patents

전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체 Download PDF

Info

Publication number
KR20220051725A
KR20220051725A KR1020200135467A KR20200135467A KR20220051725A KR 20220051725 A KR20220051725 A KR 20220051725A KR 1020200135467 A KR1020200135467 A KR 1020200135467A KR 20200135467 A KR20200135467 A KR 20200135467A KR 20220051725 A KR20220051725 A KR 20220051725A
Authority
KR
South Korea
Prior art keywords
electronic pen
air
pen device
electronic
state
Prior art date
Application number
KR1020200135467A
Other languages
English (en)
Inventor
김상헌
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020200135467A priority Critical patent/KR20220051725A/ko
Priority to PCT/KR2021/014384 priority patent/WO2022086071A1/ko
Publication of KR20220051725A publication Critical patent/KR20220051725A/ko
Priority to US18/136,694 priority patent/US20230259222A1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 2D relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
    • G06F3/03545—Pens or stylus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • G06F3/0383—Signal control means within the pointing device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0384—Wireless input, i.e. hardware and software details of wireless interface arrangements for pointing devices

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

일 실시 예는 전자 펜 장치의 동작을 제어하기 위한 전자 장치 및 전자 장치에서의 동작 방법 및 저장 매체에 관한 것으로서, 일 실 시예에 따르면, 전자 펜 장치의 동작을 제어하기 위한 전자 장치는, 통신 모듈, 디스플레이 모듈, 상기 통신 모듈 및 상기 디스플레이 모듈과 전기적으로 연결된 적어도 하나의 프로세서 및 상기 적어도 하나의 프로세서에 의해 실행 가능한 인스트럭션들을 포함하는 메모리를 포함하며, 상기 적어도 하나의 프로세서는, 상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하고, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하고, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하고, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하고, 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 설정될 수 있다. 다른 실시예도 가능하다.

Description

전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체{ELECTRONIC DEVICE FOR CONTROLLING OPERATION OF ELECTRONIC PEN DEVICE, OPERATION METHOD IN THE ELECTRONIC DEVICE AND NON-TRANSITORY STORAGE MEDIUM}
본 문서의 다양한 실시 예들은 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체에 관한 것이다.
최근에는 전자 장치가 사용자의 편의를 위해 다양한 형태로 발전하고 있다.
이동통신 서비스가 멀티미디어 서비스 영역까지 확장되면서, 사용자는 전자 장치를 통해 음성 통화나 단문 메시지뿐만 아니라 멀티미디어 서비스를 이용할 수 있게 되었다. 사용자로 하여금 멀티미디어 서비스를 이용하는 데에 불편함이 없도록 전자 장치에는 점차 크기가 넓은 디스플레이가 장착되어가고 있는 실정이다. 아울러, 근래에는 플렉서블(flexible) 디스플레이가 배치된 폴더블(foldable) 전자 장치가 개시되고 있다.
전자 장치는 다른 전자 장치에 의한 조작 및 다른 전자 장치로 사용자 정보를 입력하는 입력 인터페이스를 위한 입력 수단과 같은 다양한 형태로도 개발되고 있다. 이러한 입력 수단으로서, 펜 기능을 갖는 전자 펜 장치(예를 들어, 스타일러스 또는 디지털 펜)가 있으며, 전자 장치의 터치 스크린을 통해 사용자 정보를 전자 장치에 입력할 수 있다.
상기 전자 펜 장치는 입력 방식 중 하나로 전자기 유도(electro magnetic resonance, 이하, EMR이라 칭함) 방식 및 블루투스 기능을 이용한 입력 방식이 있다.
그러나 종래의 전자 펜 장치는 불루투스를 통해 전자 장치와 연결되어 에어 인터랙션을 수행 시 에어 액션을 동작을 위해 버튼을 지속적으로 누르고 있어야 한다. 이러한 버튼을 누른 상태에서 에어 액션 동작을 위한 포인터 이동 및 제스처 동작을 장시간 수행할 경우 손목이 뻣뻣하거나 엄지손가락에 무리가 가해지며, 손 떨림이 있는 사용자의 경우 정확한 에어 포인터 이동 및 선택이 어려울 수 있다. 이에 따라 종래의 전자 장치는 전자 펜 장치의 에어 인터랙션을 정확히 제어하기 어려우며, 사용자가 원하는 동작을 정확히 실행하기 어려울 수 있다.
본 문서의 다양한 실시 예들에 따르면, 사용자가 원하는 동작을 정확히 실행하고, 전자 펜 장치의 에어 인터랙션을 제어하도록 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체가 제공될 수 있다.
본 문서의 일 실시예에 따르면, 전자 펜 장치의 동작을 제어하기 위한 전자 장치는, 통신 모듈, 디스플레이 모듈, 상기 통신 모듈 및 상기 디스플레이 모듈과 전기적으로 연결된 적어도 하나의 프로세서 및 상기 적어도 하나의 프로세서에 의해 실행 가능한 인스트럭션들을 포함하는 메모리를 포함하며, 상기 적어도 하나의 프로세서는, 상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하고, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하고, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하고, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하고, 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 설정될 수 있다.
일 실시 예에 따르면, 전자 펜 장치의 동작을 제어하기 위한 전자 장치에서의 동작 방법은, 상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하는 동작, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하는 동작, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하는 동작 및 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 비일적 저장 매체에 있어서, 상기 프로그램은, 프로세서에 의한 실행 시, 상기 프로세서가, 기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하는 동작, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하는 동작, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하는 동작 및 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 실행 가능한 명령을 포함할 수 있다.
일 실시 예에 따른 전자 펜 장치의 동작을 제어하기 위한 전자 장치 및 전자 장치에서의 동작 방법에 따라, 전자 펜 장치의 에어 포인터 동작의 동작 상태 천이를 동작에 의해 다른 에어 액션 동작들과 구분하여 전자 펜 장치의 에어 포인터 동작을 제어함으로써, 전자 펜 장치의 버튼을 지속적으로 누르지 않고, 버튼 입력이 해제되고 에어 포인터 동작이 유지되는 상태에서 동작을 수행함으로써, 버튼을 지속적으로 누름에 따른 손목 및 엄지손가락에 무리가 가해지는 것을 방지할 수 있으며, 손 떨림이 있는 사용자의 경우 정확한 에어 포인터 이동 및 선택이 어려움을 해결할 수 있으므로 사용자가 원하는 동작을 보다 정확히 실행할 수 있다.
도 1은 본원 발명의 다양한 실시 예들에 따른 네트워크 환경을 나타내는 도면이다.
도 2는 디지털 펜을 포함하는, 일 실시예의 전자 장치의 사시도이다.
도 3은 일 실시 예의 디지털 펜을 도시하는 블록도이다.
도 4는 일 실시 예에 따른, 디지털 펜의 분리 사시도이다.
도 5는 일 실시 예에 따른 전자 장치의 구성 예를 나타내는 도면이다.
도 6은 일 실시 예에 따른 전자 펜 장치의 동작 상태 천이의 예를 나타내는 도면이다.
도 7은 일 실시 예에 따른 에어 액션의 특징 정보의 예를 나타내는 도면이다.
도 8은 일 실시 예에 따른 전자 펜 장치의 동작 상태 천이의 예를 나타내는 도면이다.
도 9는 일 실시 예에 따른 전자 펜 장치의 동작 상태 천이의 예를 나타내는 도면이다.
도 10은 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 11은 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 12a 및 도 12b는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 13은 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 14는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 15a 및 도 15b는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 16a 및 도 16b는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 17a 내지 도 17c는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 18a 내지 도 18d는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도면의 설명과 관련하여, 동일 또는 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
이하, 첨부된 도면들을 참조하여 다양한 실시예에 따른 전자 장치에 대해서 살펴본다. 다양한 실시예에서 이용되는 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예를 들어, 인공지능 전자 장치)를 지칭할 수 있다.
도 1은, 다양한 실시예들에 따른, 네트워크 환경(100) 내의 전자 장치(101)의 블록도이다. 도 1을 참조하면, 네트워크 환경(100)에서 전자 장치(101)는 제 1 네트워크(198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(102)와 통신하거나, 또는 제 2 네트워크(199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(104) 또는 서버(108)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 서버(108)를 통하여 전자 장치(104)와 통신할 수 있다. 일실시예에 따르면, 전자 장치(101)는 프로세서(120), 메모리(130), 입력 모듈(150), 음향 출력 모듈(155), 디스플레이 모듈(160), 오디오 모듈(170), 센서 모듈(176), 인터페이스(177), 연결 단자(178), 햅틱 모듈(179), 카메라 모듈(180), 전력 관리 모듈(188), 배터리(189), 통신 모듈(190), 가입자 식별 모듈(196), 또는 안테나 모듈(197)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)에는, 이 구성요소들 중 적어도 하나(예: 연결 단자(178))가 생략되거나, 하나 이상의 다른 구성요소가 추가될 수 있다. 어떤 실시예에서는, 이 구성요소들 중 일부들(예: 센서 모듈(176), 카메라 모듈(180), 또는 안테나 모듈(197))은 하나의 구성요소(예: 디스플레이 모듈(160))로 통합될 수 있다.
프로세서(120)는, 예를 들면, 소프트웨어(예: 프로그램(140))를 실행하여 프로세서(120)에 연결된 전자 장치(101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)를 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일실시예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(120)는 다른 구성요소(예: 센서 모듈(176) 또는 통신 모듈(190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(132)에 저장하고, 휘발성 메모리(132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(134)에 저장할 수 있다. 일실시예에 따르면, 프로세서(120)는 메인 프로세서(121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서) 또는 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(123)(예: 그래픽 처리 장치, 신경망 처리 장치(NPU: neural processing unit), 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 예를 들어, 전자 장치(101)가 메인 프로세서(121) 및 보조 프로세서(123)를 포함하는 경우, 보조 프로세서(123)는 메인 프로세서(121)보다 저전력을 사용하거나, 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(123)는 메인 프로세서(121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(123)는, 예를 들면, 메인 프로세서(121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(121)를 대신하여, 또는 메인 프로세서(121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(121)와 함께, 전자 장치(101)의 구성요소들 중 적어도 하나의 구성요소(예: 디스플레이 모듈(160), 센서 모듈(176), 또는 통신 모듈(190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성요소(예: 카메라 모듈(180) 또는 통신 모듈(190))의 일부로서 구현될 수 있다. 일실시예에 따르면, 보조 프로세서(123)(예: 신경망 처리 장치)는 인공지능 모델의 처리에 특화된 하드웨어 구조를 포함할 수 있다. 인공지능 모델은 기계 학습을 통해 생성될 수 있다. 이러한 학습은, 예를 들어, 인공지능이 수행되는 전자 장치(101) 자체에서 수행될 수 있고, 별도의 서버(예: 서버(108))를 통해 수행될 수도 있다. 학습 알고리즘은, 예를 들어, 지도형 학습(supervised learning), 비지도형 학습(unsupervised learning), 준지도형 학습(semi-supervised learning) 또는 강화 학습(reinforcement learning)을 포함할 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은, 복수의 인공 신경망 레이어들을 포함할 수 있다. 인공 신경망은 심층 신경망(DNN: deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), RBM(restricted boltzmann machine), DBN(deep belief network), BRDNN(bidirectional recurrent deep neural network), 심층 Q-네트워크(deep Q-networks) 또는 상기 중 둘 이상의 조합 중 하나일 수 있으나, 전술한 예에 한정되지 않는다. 인공지능 모델은 하드웨어 구조 이외에, 추가적으로 또는 대체적으로, 소프트웨어 구조를 포함할 수 있다.
메모리(130)는, 전자 장치(101)의 적어도 하나의 구성요소(예: 프로세서(120) 또는 센서 모듈(176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(130)는, 휘발성 메모리(132) 또는 비휘발성 메모리(134)를 포함할 수 있다.
프로그램(140)은 메모리(130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(142), 미들 웨어(144) 또는 어플리케이션(146)을 포함할 수 있다.
입력 모듈(150)은, 전자 장치(101)의 구성요소(예: 프로세서(120))에 사용될 명령 또는 데이터를 전자 장치(101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 모듈(150)은, 예를 들면, 마이크, 마우스, 키보드, 키(예: 버튼), 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 모듈(155)은 음향 신호를 전자 장치(101)의 외부로 출력할 수 있다. 음향 출력 모듈(155)은, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있다. 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일실시예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
디스플레이 모듈(160)은 전자 장치(101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 디스플레이 모듈(160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일실시예에 따르면, 디스플레이 모듈(160)은 터치를 감지하도록 설정된 터치 센서, 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 압력 센서를 포함할 수 있다.
오디오 모듈(170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일실시예에 따르면, 오디오 모듈(170)은, 입력 모듈(150)을 통해 소리를 획득하거나, 음향 출력 모듈(155), 또는 전자 장치(101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(102))(예: 스피커 또는 헤드폰)를 통해 소리를 출력할 수 있다.
센서 모듈(176)은 전자 장치(101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일실시예에 따르면, 센서 모듈(176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(177)는 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일실시예에 따르면, 인터페이스(177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(178)는, 그를 통해서 전자 장치(101)가 외부 전자 장치(예: 전자 장치(102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일실시예에 따르면, 연결 단자(178)는, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일실시예에 따르면, 햅틱 모듈(179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(180)은 정지 영상 및 동영상을 촬영할 수 있다. 일실시예에 따르면, 카메라 모듈(180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(188)은 전자 장치(101)에 공급되는 전력을 관리할 수 있다. 일실시예에 따르면, 전력 관리 모듈(188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(189)는 전자 장치(101)의 적어도 하나의 구성요소에 전력을 공급할 수 있다. 일실시예에 따르면, 배터리(189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(190)은 전자 장치(101)와 외부 전자 장치(예: 전자 장치(102), 전자 장치(104), 또는 서버(108)) 간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(190)은 프로세서(120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일실시예에 따르면, 통신 모듈(190)은 무선 통신 모듈(192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(198)(예: 블루투스, WiFi(wireless fidelity) direct 또는 IrDA(infrared data association)와 같은 근거리 통신 네트워크) 또는 제 2 네트워크(199)(예: 레거시 셀룰러 네트워크, 5G 네트워크, 차세대 통신 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부의 전자 장치(104)와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성요소(예: 단일 칩)로 통합되거나, 또는 서로 별도의 복수의 구성요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(192)은 가입자 식별 모듈(196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크 내에서 전자 장치(101)를 확인 또는 인증할 수 있다.
무선 통신 모듈(192)은 4G 네트워크 이후의 5G 네트워크 및 차세대 통신 기술, 예를 들어, NR 접속 기술(new radio access technology)을 지원할 수 있다. NR 접속 기술은 고용량 데이터의 고속 전송(eMBB(enhanced mobile broadband)), 단말 전력 최소화와 다수 단말의 접속(mMTC(massive machine type communications)), 또는 고신뢰도와 저지연(URLLC(ultra-reliable and low-latency communications))을 지원할 수 있다. 무선 통신 모듈(192)은, 예를 들어, 높은 데이터 전송률 달성을 위해, 고주파 대역(예: mmWave 대역)을 지원할 수 있다. 무선 통신 모듈(192)은 고주파 대역에서의 성능 확보를 위한 다양한 기술들, 예를 들어, 빔포밍(beamforming), 거대 배열 다중 입출력(massive MIMO(multiple-input and multiple-output)), 전차원 다중입출력(FD-MIMO: full dimensional MIMO), 어레이 안테나(array antenna), 아날로그 빔형성(analog beam-forming), 또는 대규모 안테나(large scale antenna)와 같은 기술들을 지원할 수 있다. 무선 통신 모듈(192)은 전자 장치(101), 외부 전자 장치(예: 전자 장치(104)) 또는 네트워크 시스템(예: 제 2 네트워크(199))에 규정되는 다양한 요구사항을 지원할 수 있다. 일실시예에 따르면, 무선 통신 모듈(192)은 1eMBB 실현을 위한 Peak data rate(예: 20Gbps 이상), mMTC 실현을 위한 손실 Coverage(예: 164dB 이하), 또는 URLLC 실현을 위한 U-plane latency(예: 다운링크(DL) 및 업링크(UL) 각각 0.5ms 이하, 또는 라운드 트립 1ms 이하)를 지원할 수 있다.
안테나 모듈(197)은 신호 또는 전력을 외부(예: 외부의 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 안테나를 포함할 수 있다. 일실시예에 따르면, 안테나 모듈(197)은 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다. 이런 경우, 제 1 네트워크(198) 또는 제 2 네트워크(199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(190)과 외부의 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시예에 따르면, 방사체 이외에 다른 부품(예: RFIC(radio frequency integrated circuit))이 추가로 안테나 모듈(197)의 일부로 형성될 수 있다.
다양한 실시예에 따르면, 안테나 모듈(197)은 mmWave 안테나 모듈을 형성할 수 있다. 일실시예에 따르면, mmWave 안테나 모듈은 인쇄 회로 기판, 상기 인쇄 회로 기판의 제 1 면(예: 아래 면)에 또는 그에 인접하여 배치되고 지정된 고주파 대역(예: mmWave 대역)을 지원할 수 있는 RFIC, 및 상기 인쇄 회로 기판의 제 2 면(예: 윗 면 또는 측 면)에 또는 그에 인접하여 배치되고 상기 지정된 고주파 대역의 신호를 송신 또는 수신할 수 있는 복수의 안테나들(예: 어레이 안테나)을 포함할 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들간 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일실시예에 따르면, 명령 또는 데이터는 제 2 네트워크(199)에 연결된 서버(108)를 통해서 전자 장치(101)와 외부의 전자 장치(104)간에 송신 또는 수신될 수 있다. 외부의 전자 장치(102, 또는 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 일실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 외부의 전자 장치들(102, 104, 또는 108) 중 하나 이상의 외부의 전자 장치들에서 실행될 수 있다. 예를 들면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부의 전자 장치들에게 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부의 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 모바일 에지 컴퓨팅(MEC: mobile edge computing), 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다. 전자 장치(101)는, 예를 들어, 분산 컴퓨팅 또는 모바일 에지 컴퓨팅을 이용하여 초저지연 서비스를 제공할 수 있다. 다른 실시예에 있어서, 외부의 전자 장치(104)는 IoT(internet of things) 기기를 포함할 수 있다. 서버(108)는 기계 학습 및/또는 신경망을 이용한 지능형 서버일 수 있다. 일실시예에 따르면, 외부의 전자 장치(104) 또는 서버(108)는 제 2 네트워크(199) 내에 포함될 수 있다. 전자 장치(101)는 5G 통신 기술 및 IoT 관련 기술을 기반으로 지능형 서비스(예: 스마트 홈, 스마트 시티, 스마트 카, 또는 헬스 케어)에 적용될 수 있다.
도 2를 참조하면, 일 실시예의 전자 장치(101)는, 도 1 에 도시된 구성을 포함할 수 있으며, 디지털 펜(201)(예를 들어, 스타일러스 펜)이 삽입될 수 있는 구조를 포함할 수 있다. 상기 전자 장치(101)는 하우징(110)을 포함하며, 상기 하우징의 일 부분, 예를 들면, 측면(110C)의 일 부분에는 홀(111)을 포함할 수 있다. 상기 전자 장치(101)는, 상기 홀(111)과 연결된 수납 공간(122)을 포함할 수 있으며, 상기 디지털 펜(201)은 수납 공간(122) 내에 삽입될 수 있다. 도시된 실시예에 따르면, 디지털 펜(201)은, 디지털 펜(201)을 전자 장치(101)의 수납 공간(122)으로부터 꺼내기 용이하도록, 일 단부에, 눌림 가능한 버튼(201a)을 포함할 수 있다. 상기 버튼(201a)이 눌리면, 버튼(201a)과 연계 구성된 반발 메커니즘(예를 들어, 적어도 하나의 스프링)들이 작동하여, 수납 공간(122)으로부터 디지털 펜(201)이 이탈될 수 있다.
도 3을 참조하면, 일 실시예에 따른 디지털 펜(201)은, 프로세서(220), 메모리(230), 센서 모듈(240), 공진 회로(287), 충전 회로(288), 배터리(289), 통신 회로(290), 안테나(297) 및/또는 트리거 회로(298)를 포함할 수 있다. 어떤 실시예들에서는, 상기 디지털 펜(201)의 프로세서(220), 공진 회로(287)의 적어도 일부, 및/또는 통신 회로(290)의 적어도 일부는 인쇄회로기판 상에 또는 칩 형태로 구성될 수 있다. 상기 프로세서(220), 공진 회로(287) 및/또는 통신 회로(290)는 메모리(230), 충전 회로(288), 배터리(289), 안테나(297) 또는 트리거 회로(298)와 전기적으로 연결될 수 있다. 일 실시예에 따른 디지털 펜(201)은, 공진 회로와 버튼만으로 구성될 수 있다.
상기 프로세서(220)는, 커스터마이즈드(customized) 하드웨어 모듈 또는 소프트웨어(예를 들어, 어플리케이션 프로그램)를 실행하도록 구성된 제너릭(generic) 프로세서를 포함할 수 있다. 상기 프로세서는, 디지털 펜(201)에 구비된 다양한 센서들, 데이터 측정 모듈, 입출력 인터페이스, 디지털 펜(201)의 상태 또는 환경을 관리하는 모듈 또는 통신 모듈 중 적어도 하나를 포함하는 하드웨어적인 구성 요소(기능) 또는 소프트웨어적인 요소(프로그램)를 포함할 수 있다. 상기 프로세서(220)는 예를 들어, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함할 수 있다. 일 실시 예에 따르면, 프로세서(220)는 공진 회로(287)를 통해 전자 장치(101)의 디지타이저(160)로부터 발생되는 전자기장 신호에 상응하는 근접 신호를 수신할 수 있다. 상기 근접 신호가 확인되면, 전자기 공명 방식(electro-magnetic resonance, EMR) 입력 신호를 전자 장치(101)로 전송하도록 공진 회로(287)를 제어할 수 있다.
상기 메모리(230)는 디지털 펜(201)의 동작에 관련된 정보를 저장할 수 있다. 예를 들어, 상기 정보는 상기 전자 장치(101)와의 통신을 위한 정보 및 디지털 펜(201)의 입력 동작에 관련된 주파수 정보를 포함할 수 있다.
상기 공진 회로(287)는, 코일(coil), 인덕터(inductor) 또는 캐패시터(capacitor) 중 적어도 하나를 포함할 수 있다. 상기 공진 회로(287)는, 상기 디지털 펜(201)이 공진 주파수를 포함하는 신호를 생성하는데 이용될 수 있다. 예를 들어, 상기 신호 생성을 위해, 디지털 펜(201)은 EMR(electro-magnetic resonance) 방식, AES(active electrostatic) 방식, 또는 ECR(electrically coupled resonance) 방식 중 적어도 하나를 이용할 수 있다. 디지털 펜(201)이 EMR 방식에 의하여 신호를 전송하는 경우, 디지털 펜(201)은 전자 장치(101)의 유도성 패널(inductive panel)로부터 발생되는 전자기장(electromagnetic field)에 기반하여, 공진 주파수를 포함하는 신호를 생성할 수 있다. 디지털 펜(201)이 AES 방식에 의하여 신호를 전송하는 경우, 디지털 펜(201)은 전자 장치(101)와 용량 결합(capacity coupling)을 이용하여 신호를 생성할 수 있다. 디지털 펜(201)이 ECR 방식에 의하여 신호를 전송하는 경우, 디지털 펜(201)은 전자 장치의 용량성(capacitive) 장치로부터 발생되는 전기장(electric field)에 기반하여, 공진 주파수를 포함하는 신호를 생성할 수 있다. 일 실시 예에 따르면, 상기 공진 회로(287)는 사용자의 조작 상태에 따라 전자기장의 세기 또는 주파수를 변경시키는데 이용될 수 있다. 예를 들어, 상기 공진 회로(287)는, 호버링 입력, 드로잉 입력, 버튼 입력 또는 이레이징 입력을 인식하기 위한 주파수를 제공할 수 있다.
상기 충전 회로(288)는 스위칭 회로에 기반하여 공진 회로(287)와 연결된 경우, 공진 회로(287)에서 발생되는 공진 신호를 직류 신호로 정류하여 배터리(289)에 제공할 수 있다. 일 실시 예에 따르면, 디지털 펜(201)은 충전 회로(288)에서 감지되는 직류 신호의 전압 레벨을 이용하여, 상기 전자 장치(101)에 디지털 펜(201)이 삽입되었는지 여부를 확인할 수 있다.
상기 배터리(289)는 디지털 펜(201)의 동작에 요구되는 전력을 저장하도록 구성될 수 있다. 상기 배터리는, 예를 들어, 리튬-이온 배터리, 또는 캐패시터를 포함할 수 있으며, 충전식 또는 교환식 일 수 있다. 일 실시 예에 따르면, 배터리(289)는 충전 회로(288)로부터 제공받은 전력(예를 들어, 직류 신호(직류 전력))을 이용하여 충전될 수 있다.
상기 통신 회로(290)은, 디지털 펜(201)과 전자 장치(101)의 통신 모듈(190) 간의 무선 통신 기능을 수행하도록 구성될 수 있다. 일 실시 예에 따르면, 통신 회로(290)는 근거리 통신 방식을 이용하여 디지털 펜(201)의 상태 정보 및 입력 정보를 전자 장치(101)로 전송할 수 있다. 예를 들어, 통신 회로(290)는 트리거 회로(298)를 통해 획득한 디지털 펜(201)의 방향 정보(예: 모션 센서 데이터), 마이크로 폰을 통해 입력된 음성 정보 또는 배터리(289)의 잔량 정보를 전자 장치(101)로 전송할 수 있다. 일 예로, 근거리 통신 방식은 블루투스, BLE(bluetooth low energy) 또는 무선랜 중 적어도 하나를 포함할 수 있다.
상기 안테나(297)는 신호 또는 전력을 외부(예를 들어, 상기 전자 장치(101))로 송신하거나 외부로부터 수신하는데 이용될 수 있다. 일 실시 예에 따르면, 디지털 펜(201)은, 복수의 안테나(297)들을 포함할 수 있고, 이들 중에, 통신 방식에 적합한 적어도 하나의 안테나(297)를 선택할 수 있다. 상기 선택된 적어도 하나의 안테나(297)를 통하여, 통신 회로(290)는 신호 또는 전력을 외부 전자 장치와 교환할 수 있다.
상기 트리거 회로(298)는 적어도 하나의 버튼 또는 센서 회로를 포함할 수 있다. 일 실시 예에 따르면, 프로세서(220)는 디지털 펜(201)의 버튼의 입력 방식(예를 들어, 터치 또는 눌림) 또는 종류(예를 들어, EMR 버튼 또는 BLE 버튼)를 확인할 수 있다. 일 실시 예에 따르면, 센서 회로는 디지털 펜(201)의 내부의 작동 상태 또는 외부의 환경 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 예를 들어, 센서 회로는 모션 센서, 배터리 잔량 감지 센서, 압력 센서, 광 센서, 온도 센서, 지자계 센서, 생체 센서 중 적어도 하나를 포함할 수 있다. 일 실시 예에 따르면, 트리거 회로(298)는 버튼의 입력 신호 또는 센서를 통한 신호를 이용하여 전자 장치(101)로 트리거 신호를 전송할 수 있다.
도 4를 참조하면, 디지털 펜(201)은 디지털 펜(201)의 외형을 구성하는 펜 하우징(300)과 펜 하우징(300) 내부의 내부 조립체(inner assembly)를 포함할 수 있다. 도시된 실시예에서, 상기 내부 조립체는, 펜 내부에 실장되는 여러 부품들을 모두 포함하여, 펜 하우징(300) 내부에 한번의 조립 동작으로 삽입될 수 있다.
상기 펜 하우징(300)은, 제 1 단부 (300a) 및 제 2 단부 (300b) 사이에 길게 연장된 모양을 가지며, 내부에 수납 공간(301)을 포함할 수 있다. 상기 펜 하우징(300)은 단면이 장축과 단축으로 이루어진 타원형일 수 있으며, 전체적으로는 타원 기둥 형태로 형성될 수 있다. 전자 장치(101)의 수납 공간(122) 또한 펜 하우징(300)의 형상에 대응하여 단면이 타원형으로 형성될 수 있다. 상기 펜 하우징(300)은, 합성 수지(예: 플라스틱) 및/또는 금속성 재질(예: 알루미늄)을 포함할 수 있다. 일 실시 예에 따르면, 펜 하우징(300)의 제 2 단부(300b)는 합성 수지 재질로 구성될 수 있다.
상기 내부 조립체(inner assembly)는, 상기 펜 하우징(300)의 형상에 대응하여 길게 연장된 형상을 가질 수 있다. 상기 내부 조립체는 길이방향을 따라 크게 3 가지의 구성으로 구분될 수 있다. 예를 들면, 상기 내부 조립체는, 펜 하우징(300)의 제 1 단부(300a)에 대응하는 위치에 배치되는 이젝션 부재(ejection member, 310), 펜 하우징(300)의 제 2 단부(300b)에 대응하는 위치에 배치되는 코일부(320), 및 하우징의 몸통에 대응하는 위치에 배치되는 회로기판부(330)를 포함할 수 있다.
상기 이젝션 부재(310)는, 전자 장치(101)의 수납 공간(122)으로부터 디지털 펜(201)을 빼내기 위한 구성을 포함할 수 있다. 일 실시 예에 따르면, 이젝션 부재(310)는 샤프트(311)와 상기 샤프트(311)의 둘레에 배치되며, 이젝션 부재(310)의 전체적인 외형을 이루는 이젝션 몸체(312) 및 버튼부(313)를 포함할 수 있다. 상기 내부 조립체가 상기 펜 하우징(300)에 완전히 삽입되면, 상기 샤프트(311) 및 이젝션 몸체(312)를 포함한 부분은 상기 펜 하우징(300)의 제 1 단부(300a)에 의해 둘러싸이고, 버튼부(313)(예: 도 2의 201a)는 제 1 단부(300a)의 외부로 노출될 수 있다. 이젝션 몸체(312) 내에는 도시되지 않은 복수의 부품들, 예를 들면, 캠 부재들 또는 탄성 부재들이 배치되어 푸시-풀 구조를 형성할 수 있다. 한 실시 예에서 버튼부(313)는 실질적으로 샤프트(311)와 결합하여 이젝션 몸체(312)에 대하여 직선 왕복 운동을 할 수 있다. 다양한 실시 예에 따르면, 버튼부(313)는 사용자가 손톱을 이용해 디지털 펜(201)을 빼낼 수 있도록 걸림 구조가 형성된 버튼을 포함할 수 있다. 일 실시 예에 따르면, 디지털 펜(201)은 샤프트(311)의 직선 왕복 운동을 검출하는 센서를 포함함으로써, 또 다른 입력 방식을 제공할 수 있다.
상기 코일부(320)는, 상기 내부 조립체가 상기 펜 하우징(300)에 완전히 삽입되면 제 2 단부(300b)의 외부로 노출되는 펜 팁(321), 패킹 링(322), 복수 회 권선된 코일(323) 및/또는 펜 팁(321)의 가압에 따른 압력의 변화를 획득하기 위한 필압 감지부(324)를 포함할 수 있다. 패킹 링(322)은 에폭시, 고무, 우레탄 또는 실리콘을 포함할 수 있다. 패킹 링(322)은 방수 및 방진의 목적으로 구비될 수 있으며, 코일부(320) 및 회로기판부(330)를 침수 또는 먼지로부터 보호할 수 있다. 일 실시 예에 따르면, 코일(323)은 설정된 주파수 대역(예; 500kHz)에서 공진 주파수를 형성할 수 있으며, 적어도 하나의 소자(예: 용량성 소자(capacitor))와 조합되어 일정 정도의 범위에서 코일(323)이 형성하는 공진 주파수를 조절할 수 있다.
상기 회로기판부(330)는, 인쇄회로기판(332), 상기 인쇄회로기판(332)의 적어도 일면을 둘러싸는 베이스(331), 및 안테나를 포함할 수 있다. 일 실시 예에 따르면, 베이스(331)의 상면에는 인쇄회로기판(332)이 배치되는 기판안착부(333)가 형성되고, 인쇄회로기판(332)은 기판안착부(333)에 안착된 상태로 고정될 수 있다. 일 실시 예에 따르면, 인쇄회로기판(332)은 상부면과 하부면을 포함할 수 있으며, 상부면에는 코일(323)과 연결되는 가변용량 캐패시터 또는 스위치(334)가 배치될 수 있으며, 하부면에는 충전 회로, 배터리 또는 통신회로가 배치될 수 있다. 배터리는 EDLC(electric double layered capacitor)를 포함할 수 있다. 충전 회로는 코일(323) 및 배터리 사이에 위치하며, 전압 검출 회로(voltage detector circuitry) 및 정류기(rectifier)를 포함할 수 있다.
상기 안테나는, 도 4에 도시된 예와 같은 안테나 구조물(339) 및/또는 인쇄회로기판(332)에 임베디드(embedded)되는 안테나를 포함할 수 있다. 다양한 실시 예들에 따르면, 인쇄회로기판(332) 상에는 스위치(334)가 구비될 수 있다. 디지털 펜(201)에 구비되는 사이드 버튼(337)은 스위치(334)를 누르는데 이용되고 펜 하우징(300)의 측면 개구부(302)를 통해 외부로 노출될 수 있다. 상기 사이드 버튼(337)은 지지부재(338)에 의해 지지되면서, 사이드 버튼(337)에 작용하는 외력이 없으면, 지지부재(338)가 탄성 복원력을 제공하여 사이드 버튼(337)을 일정 위치에 배치된 상태로 복원 또는 유지할 수 있다.
상기 회로기판부(330)는 오-링(O-ring)과 같은 다른 패킹 링을 포함할 수 있다. 예를 들어, 상기 베이스(331)의 양단에 탄성체로 제작된 오-링이 배치되어 상기 베이스(331)와 상기 펜 하우징(300) 사이에 밀봉 구조가 형성될 수 있다. 어떤 실시 예에서, 상기 지지부재(338)는 부분적으로 상기 측면 개구부(302)의 주위에서 상기 펜 하우징(300)의 내벽에 밀착하여 밀봉 구조를 형성할 수 있다. 예컨대, 상기 회로기판부(330)도 상기 코일부(320)의 패킹 링(322)과 유사한 방수, 방진 구조를 형성할 수 있다.
디지털 펜(201)은, 베이스(331)의 상면에 배터리(336)가 배치되는 배터리 안착부(335)를 포함할 수 있다. 배터리 안착부(335)에 탑재될 수 있는 배터리(336)는, 예를 들어, 실린더형(cylinder type) 배터리를 포함할 수 있다.
디지털 펜(201)은, 마이크로 폰(미도시)을 포함할 수 있다. 마이크로 폰은 인쇄회로기판(332)에 직접 연결되거나, 인쇄회로기판(332)과 연결된 별도의 FPCB(flexible printed circuit board)(미도시)에 연결될 수 있다. 다양한 실시 예에 따르면, 마이크로 폰은 디지털 펜(201)의 긴 방향으로 사이드 버튼(337)과 평행한 위치에 배치될 수 있다.
도 5는 다양한 실시 예들에 따른 전자 장치의 구성 예를 나타내는 도면이다.
도 1 내지 도 4 및 도 5를 참조하면, 일 실시 예에 따른 전자 장치(101)는 전자 펜 장치(201)(예: 도 2, 도 3 및 도 4의 디지털 펜(201) 또는 스타일러스 펜)와 근거리 무선 통신(예: 블루투스 통신)을 통해 연결될 수 있다. 전자 펜 장치(201)는 전자 장치(101)내에 삽입 여부 또는 버튼 입력에 따라 센서 모듈(예: 도 3의 센서 모듈(240))에 포함된 적어도 하나의 센서(예: 가속도 센서 또는/및 자이로 센서)의 활성화 여부를 제어하고, 버튼 입력에 기반하여 센서 모듈(240)에 의해 감지된 센싱 데이터를 전자 장치(101)로 전송할 수 있다. 예를 들어, 가속도 센서는 전자 장치(101)의 수납 공간(예: 도 2의 수납 공간(122))에서 전자 펜 장치(201)가 탈착됨에 따라 활성화되고, 전자 펜 장치(201)의 움직임에 기반한 가속 정보를 감지할 수 있다. 예를 들어, 자이로 센서는 전자 펜 장치(201)의 버튼 입력에 따라 활성화 되고, 전자 펜 장치(201)의 움직임에 기반한 회전 정보를 감지할 수 있다.
일 실시예에 따른 전자 장치(101)의 프로세서(120)는 통신 모듈(190), 디스플레이 모듈(160) 및 메모리(130)와 전기적으로 연결될 수 있으며, 전자 펜 장치(201)와 연동하여 전자 펜 장치(201)의 에어 인터랙션을 제어하도록 설정될 수 있다.
일 실시예에 따른 전자 장치(101)의 프로세서(120)는 소프트웨어적으로 프레임워크(framework) 계층에서 전자 펜 장치(201)를 관리하기 위한 모듈에 의해 전자 펜 장치(201)와의 연결을 관리할 수 있다. 전자 펜 장치(201)에서 수신되는 블루투스 신호(예: BLE 이벤트)는 어플리케이션 계층으로 직접 전송되지 않고, 프레임워크(framework)에 의해 키 이벤트(KeyEvents)로 변환되어 어플리케이션으로 전달될 수 있다. 따라서 어플리케이션 계층에서는 다른 인터페이스를 추가할 필요 없이 기존 KeyEvent-Callback을 이용하여 전자 펜 장치(201)의 이벤트를 처리할 수 있다.
일 실시예에 따른 전자 장치(101)의 프로세서(120)는 소프트웨어 모듈로서, 어플리케이션 계층 및 프레임워크 계층 사이에 설정되는 전자 펜 포인터 제어 관리 모듈(SPCM: stylus pointer control manager)(501) 및 전자 펜 장치(201)의 에어 액션에 의한 이벤트(예: 블루투스 신호 또는 이벤트)를 식별하고, 프레임워크 계층에 설정되며, 식별된 이벤트를 키이벤트(KeyEvents)로 변환하는 전자 펜 이벤트 모듈(stylus event)(502)을 포함하여 설정될 수 있다. 전자 펜 포인터 제어 관리 모듈(501)은 전자 펜 장치(201)의 에어 액션 상태를 관리하고, 전자 펜 장치(201)의 흔들림에 대한 제어를 수행하도록 설정될 수 있다. 전자 펜 포인터 제어 관리 모듈(501)은 전자 펜 좌표 매핑 모듈(SCM: stylus state coordinate module)(510) 및 전자 펜 상태 천이 관리 매니저(SSCM: stylus state control manager)(520)을 포함하여 설정될 수 있다. 전자 펜 포인터 제어 관리 모듈(501)은 전자 펜 장치(210)의 흔들림에 따른 좌표를 분석 및 보정을 위해 전자 펜 좌표 매핑 모듈(SCM: stylus state coordinate module)(510)과 연동하는 전자 장치의 상태 정보를 관리하는 회전 모듈(RSM: rotation state module)(531), 전자 장치의 주사율 모듈(RRSM: refresh rate state)(533) 및 어플리케이션 분석 모듈(ACM: application object module)(540)을 포함하여 설정될 수 있다. 어플리케이션 분석 모듈(540)은 디스플레이 모듈(160)에 표시되는 어플리케이션의 객체들의 특성을 분석할 수 있다.
전자 펜 좌표 매핑 모듈(510) 전자장치의 상태 정보, 주사율 정보, 어플리케이션 정보에 대응하여 전자 펜 장치(201)의 좌표 정보를 확인하고, 디스플레이 모듈(160)에 표시되는 타겟 객체(target object)를 예측하도록 설정될 수 있다. 전자 펜 좌표 매핑 모듈(510)은 전자 펜 장치(201)의 좌표계에 대응하여 에어 포인터 동작(air action::pointer)의 이동 방향에 대응하여 포인터가 타겟 객체로 이동 시 포인터의 흔들림에 대한 제어(예: 짐벌 효과)를 수행하여 이동 좌표 정보에 대응하는 객체가 디스플레이에 표시되도록 처리하고, 에어 액션이 객체를 선택하는 동작일 때, 어플리케이션의 정보에 대응하여 레이아웃에서 영역을 확장하여 이벤트를 실행할 수 있다. 실행되는 이벤트는 이벤트가 발생하는 좌표에서 N sec 이상 있을 경우 실행될 수 있다.
전자 펜 상태 천이 관리 매니저(SSCM: stylus state control manager)(520)은 전자 펜 상태 천이 모듈(SSTM: stylus state transition module) (521) 및 전자 펜 이벤트 처리 모듈(SEPM: stylus event processing module)(523)을 포함하여 설정될 수 있으며, 전자 펜 장치(201)의 버튼(예: 도 4의 버튼(337))을 눌러 에어 액션을 실행하게 되는 동작을 처리하는 기능을 수행하고, 전자 펜 장치(201)의 버튼을 누르고 실행하면 엄지손가락에 무리가 가는 것을 방지하기 위해 버튼을 누르지 않아도 에어 포인터 동작(air action::pointer)이 실행 및 유지되도록 SEPM(523)의 이벤트에 대응하여 SSTM(521)이 상태 천이를 제어할 수 있다.
일 실시예에 따르면, 프로세서(120)는 전자 펜 장치(201)와 근거리 통신 방식(예: 블루투스(BLE: bluetooth low energy))을 이용하여 통신 연결을 수립하도록 상기 통신 모듈을 제어할 수 있다. 프로세서(120)는 전자 펜 장치(201)가 탈착 상태이고, 전자 장치(101)로부터 지정된 범위 밖에 위치할 때, 전자 펜 장치(201)의 프로세서(예: 도 3의 프로세서(220))의 블루투스 제어 모듈(도시되지 않음)에 의해 블루투스 모드로 동작할 수 있다.
일 실시예에 따르면, 프로세서(120)는 전자 펜 장치(201)의 에어 인터랙션 제어를 위한 동작을 시작하기 위한 이벤트 확인 동작을 수행할 수 있다. 예를 들어, 프로세서(120)는 전자 펜 장치(201)가 블루투스 모드로 전환되고, 전자 펜 장치(201)로부터 지정된 버튼 입력에 의한 신호(예: 제1 신호)가 수신되면, 에어 인터랙션 제어를 위한 동작을 시작하고, 에어 포인터 동작(air action::pointer)에 따른 에어 인터랙션 제어를 위해 에어 포인터 동작(air action::pointer) 상태로 천이하는 동작을 수행할 수 있다.
일 실시예에 따르면, 프로세서(120)는 전자 펜 장치(201)의 버튼 입력에 의한 제1 신호(예: 블루투스 신호)를 기반하여 전자 펜 장치(201)의 동작 상태를 에어 포인터 동작 상태로 천이하도록 설정될 수 있다. 예를 들어, 프로세서(120)는 전자 펜 장치(2010)에서 블루투스 신호를 수신하면, 전자 펜 이벤트 모듈(502)에서 수신된 블루투스 신호에 대응하는 이벤트(예: KeyEvent)를 전자 펜 상태 천이 관리 매니저(501)로 전달하고, 전자 펜 상태 천이 관리 매니저(501)에서 전달된 이벤트가 에어 포인터 동작에 관련된 이벤트인 것으로 식별되면, 전자 펜 장치(201)의 동작 상태를 에어 포인터 동작 상태(예: S3 state)로 천이하도록 설정될 수 있다. 여기서, 에어 포인터 동작은 전자 펜 상태 천이 관리 매니저(501)에 의해 처리되므로 전자 펜 장치(201)의 버튼 입력이 지속적으로 누른 상태로 포인터의 위치 또는 움직임에 따른 이벤트에 대응하는 동작을 수행할 필요 없이, 버튼 입력이 해제되더라도 에어 포인터 동작이 유지될 수 있다. 예를 들어, 에어 포인터 동작(air action::pointer)은 레이저 포인터 상태(laser pointer)(S3-1)(예: 제1 에어 포인터 동작 상태), 하이라이터(highlighter) 상태(S3-2)(예: 제2 에어 포인터 동작 상태) 및 상하좌우 아이콘(스크롤) 상태(예: S3-3)(예: 제3 에어 포인터 동작 상태)를 포함할 수 있으며, 각 상태들 간에 상태 천이가 발생될 수 있다.
일 실시예에 따르면, 프로세서(120)는 버튼 입력이 해제되고 에어 포인터 동작이 유지된 상태에서, 전자 펜 장치(201)로부터 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제2 신호를 수신할 때, 레이저 포인터 상태(S3-1)(예: 제1 에어 포인터 동작 상태)로 천이하도록 설정될 수 있다. 프로세서(120)는 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제3 신호를 전자 펜 장치로부터 수신할 때, 하이라이터 상태(S3-2)(예: 제2 에어 포인터 동작 상태)로 천이하도록 설정될 수 있다. 프로세서(120)는 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제4 신호를 전자 펜 장치로부터 수신할 때, 상하좌우 아이콘(스크롤) 상태(예: S3-3)(예: 제3 에어 포인터 동작 상태)로 천이하도록 설정될 수 있다. 전자 펜 장치(201)로부터 수신된 제2 신호, 제3 신호 및 제4 신호는 각각 지정된 버튼 입력 또는 지정된 제스처 입력 중 적어도 하나에 관련된 정보 포함하며, 전자 펜 이벤트 모듈(502) 에 의해 키이벤트(KeyEvents)로 변환되어 전자 펜 포인터 제어 관리 모듈(SPCM)(501)로 이벤트로서 전달될 수 있다. 예를 들어, 프로세서(120)는 전자 펜 이벤트 모듈(502)에 의해 지정된 버튼 입력에 관련하여, 전자 펜 장치(201)의 버튼(예: 도 4의 버튼(337))을 누른 상태를 나타내는 홀드다운 이벤트(hold down evenet) 또는 버튼을 떼는 상태는 나타내는 릴리즈 이벤트(release event)를 발생할 수 있다. 예를 들어, 프로세서(120)는 전자 펜 이벤트 모듈(502)에 의해 지정된 제스처 입력에 관련하여, 전자 펜 장치(201)의 움직임에 대한 이벤트를 발생할 수 있다. 제스처 입력은 전자 펜 장치(201)의 적어도 하나의 센서(예: 가속도 센서 또는/및 자이로 센서)에 의해 감지된 센싱 정보에 대응하는 전자 펜 장치(201)의 움직임일 수 있다. 예를 들어, 동작 상태 천이를 위한 이벤트는 버튼의 일정 패턴(예: 짧은 버튼 입력 + 긴 버튼 입력 n sec) 등일 수 있다.
일 실시예에 따르면, 프로세서(120)는 도 6에 도시된 바와 같이, 전자 펜 장치(201)와 블루투스 연결이 수립되면, 연결 해제 상태(예: S1 state)에서 에어 제스처 동작 상태(예: S2 state)로 천이(601) 또는 연결 해제 상태(S1 state)로부터 에어 포인터 동작 상태(예: S3 state)로 천이(609)할 수 있다. 프로세서(120)는 도 6에 도시된 바와 같이, 에어 제스처(air gesture) 상태(예: S2 state)로부터 에어 포인터 동작(air action::pointer) 상태(예: S3 state)로 천이(603)하도록 설정될 수 있다. 프로세서(120)는 도 6에 도시된 바와 같이, 전자 펜 장치(201)와 블루투스 연결이 해제 또는 블루투스 모드가 종료되면, 에어 제스처 동작 상태(예: S2 state)에서 연결 해제 상태(예: S1 state)로 천이(605) 또는 에어 포인터 동작 상태(예: S3 state)에서 연결 해제 상태(S1 state)로 천이(611)할 수 있다. 여기서, 블루투스 모드는 에어 포인터 툴 바의 종료 또는 전자 펜 장치(201)를 전자 장치(101)에 삽입할 때, 종료될 수 있다. 프로세서(120)는 도 6에 도시된 바와 같이, 에어 제스처 동작에 대응하는 지정된 버튼 입력 또는 제스처 입력에 의한 신호에 따른 이벤트가 식별되면, 에어 포인터 동작 상태(예: S3 state)에서 에어 제스처 동작 상태(예: S2 state)로 천이(607)할 수 있다.
일 실시예에 따르면, 프로세서(120)는 전자 펜 장치(601)와 통신 연결이 수립될 때, 상기 전자 펜 장치의 적어도 하나의 센서(가속도 또는 자이로 센서)에 의해 감지된 센싱 정보를 획득하고, 버튼 입력에 의한 제1 신호 및 획득한 센싱 정보를 기반하여 도 7에 도시된 바와 같은 지정된 복수의 에어 액션의 특징 정보들 중에서 대응하는 특징 정보를 식별할 수 있다. 프로세서(120)는 식별된 특징 정보가 상기 에어 포인터 동작에 대응될 때, 에어 포인터 동작 상태(예: S3 state)로 천이할 수 있다. 프로세서(120)는 식별된 특징 정보가 상기 에어 포인터 동작에 대응되지 않을 때, 상기 전자 펜 장치의 동작 상태를 다른 에어 동작 상태인 에어 제스처 동작 상태(예: S2 state)로 천이할 수 있다. 도 7을 참조하면, 지정된 복수의 에어 액션의 특징 정보들은 전자 펜 장치(201)에 블루투스 프로토콜을 이용하는 기능 군들이며, 현재 실행중인 어플리케이션에만 영향을 주는 기능으로 싱글 프레스(single press), 더블 프레스(double press), 앱 제스처(app gestures)를 포함하는 어플리케이션 액션들(app actions), 어플리케이션 환경에 상관없이 동작하는 기능으로 홀드 다운 펜 버튼(hold down pen button to(long press)) 및 글로벌 제스처들(global gestures)을 포함하는 애니웨어 액션들(anywhere actions), 에어 포인터(air pointer) 및 잠금 해제(S pen unlock)를 포함하여 지정될 수 있다.
일 실시예에 따르면, 프로세서(120)는 도 8에 도시된 바와 같이, 버튼 입력(803)에 의한 신호에 기반하여 에어 포인터 동작 상태로 천이되면, 에어 포인터 동작에 의한 포인터(air action::pointer)를 나타내는 객체(801)를 디스플레이 모듈(160)에 표시하도록 제어할 수 있으며, 버튼 입력이 해제(805)되더라도 에어 포인터 동작이 유지되므로 포인터(air action::pointer)를 나타내는 객체(801)의 표시를 유지하도록 디스플레이 모듈(160)을 제어할 수 있다.
일 실시예에 따르면, 프로세서(120)는 전자 펜 장치(201)의 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서 전자 펜 장치(201)의 위치 또는 움직임에 대응하는 디스플레이 모듈(160)의 위치 정보를 획득하도록 설정될 수 있다. 여기서, 위치 정보는 전자 펜 장치(201)의 적어도 하나의 센서(예: 가속도 센서 또는/및 자이로 센서)에 의해 전자 펜 장치(201)의 위치 또는 움직임을 감지한 센싱 정보를 기반하여 획득할 수 있다.
일 실시예에 따르면, 프로세서(120)는 위치 정보(예: 좌표 정보)를 획득할 때, 디스플레이 모듈(예, 도 1의 디스플레이 모듈(160))의 화면의 가로/세로 비율에 따른 포인터 이동 속도를 조절할 수 있다. 예를 들어, 전자 장치의 디스플레이 모듈 정보에 포함된 화면 해상도 정보(예: HD+(1600X720), FHD+(2400X1080) 또는 WQHD+(3200X1440)) 또는 화면의 재생률(예: 60Hz, 120Hz 등)의 정보 중 적어도 하나일 수 있다. 예를 들어, 전자 장치는 디스플레이 화면의 가로 또는 세로 비율(resolution)에 따른 포인터 이동 속도를 제어할 수 있다. 예를 들어, 전자 장치는 포인터를 움직일 때 디스플레이 화면의 가로, 세로 길이 중 긴 쪽 방향으로 움직일 때 포인터가 이동하는 속도를 조금 더 빠르게 하여 에어 포인터 동작의 포인터(air action::pointer)의 이동 구간의 좌표를 제어할 수 있다. 예를 들어, 전자 장치는 인물 묘사(portrait) 모드에서는 세로로 움직일 때 가로보다 조금 더 많이 움직이게 하고 풍경 묘사(landscape) 모드에서는 가로로 움직일 때 세로로 움직이는 것보다 좀 더 많이 움직이도록 제어할 수 있다. 예를 들면, 세로 모드에서 펜을 가로로 10cm 세로로 10cm 움직였다고 할 때 보통 화면 상의 포인터는 가로 D pixel, 세로 D pixel이 움직이지만, 일 실시예에 따르면, 가로 D pixel, 세로 M pixel(예: M = D*R, R>1.0)이 움직일 수 있다. 세로모드에서는 세로축이 더 길기 때문에 Y축의 이동값이 가로축의 이동값 보다 더 클 수 있다. 이에 따르면, 디스플레이 화면의 가로/세로 모드에 상관없이 화면의 긴축 방향으로 포인터를 더 쉽게 이동을 시킬 수 있다. 예를 들어, 전자 장치는 가속도로 움직이되 그 움직임 값에 긴축의 방향에 고정 상수값을 곱해주는 방법을 사용할 수 있다.
일 실시예에 따르면, 프로세서(120)는 위치 정보(예: 좌표 값)를 획득할 때, 에어 액션의 특징 정보에 대응하여 전자 펜 장치의 이동 특징을 결정하고, 결정된 이동 특징에 대응하여 전자 펜 장치(201)로부터 수신된 좌표를 위치 정보로 결정할 수 있다.
일 실시 예에 따르면, 프로세서(120)는 손의 파지 방법에 대응하여, 전자 펜 장치의 적어도 하나의 센서에 의해 감지된 센서 정보를 기반하여 전자 펜 장치의 기울기 정보를 수신할 수 있다. 적어도 하나의 센서는 가속도 센서 또는/및 자이로 센서일 수 있으며, 자이로 센서는 3 DOF(축), 6 DOF 또는 9 DOF(축)일 수 있다. 예를 들어, 6 DOF 또는 9 DOF에 의한 다중 좌표는 가상 현실(VR(virtual reality)) 환경에서 사용될 수 있다.
일 실시예에 따르면, 프로세서(120)는 디스플레이 모듈(160)에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 디스플레이 모듈(160)을 제어하고, 전자 펜 장치(201)의 액션 이벤트 수신에 응답하여, 액션 이벤트에 대응하는 동작을 수행하도록 설정될 수 있다. 프로세서(120)는 적어도 하나 이상의 어플리케이션을 디스플레이 모듈(160)에 표시할 때, 전자 펜 포인터 관리 모듈(501)에 의해 어플리케이션에 포함된 적어도 하나의 객체의 특징을 분석하고 타겟 객체(target object) 결정하는 동작을 수행하도록 설정될 수 있다. 프로세서(120)는 디스플레이 모듈(160)에 표시된 어플리케이션의 속성 정보를 기반하여 어플리케이션에 포함된 객체들의 특징을 분석할 수 있다. 프로세서(120)는 분석된 객체들 중에서 에어 포인터 동작에 의해 제어될 수 있는 객체들(예, 버튼, input 필드, 슬라이드 버튼 또는 url link 중 적어도 하나)을 식별하고, 식별된 객체들이 표시된 위치 정보를 각각 매핑하여 식별된 객체들을 메모리(130)에 저장할 수 있다. 프로세서(120)는 디스플레이 모듈(160)에 표시된 적어도 하나 이상의 어플리케이션에서 분석된 적어도 하나의 객체에 대한 특징 정보를 기반하여 전자 펜 장치(201)의 움직임(이동)에 대응하여 이동하는 포인터의 이동 방향을 확인하고, 확인된 이동 방향에 위치한 타겟 객체를 예측할 수 있다.
일 실시 예에 따르면, 프로세서(120)는 사용자의 손떨림에 의한 상기 전자 펜 장치의 상, 하 또는 좌, 우 흔들림에 따른 위치 값들(예: 좌표 값들)을 획득하고, 선형 상관 관계를 모델링하는　선형회귀 분석　기법(또는 다중 선형회귀 분석 기법)을 이용하여 획득한 위치값들을 보정(또는 모델링)하여 상기 전자 펜 장치(201)의 이동 방향에 위치한 타겟 객체를 예측할 수 있다. 프로세서(120)는 선형회귀 분석　기법을 이용하여 흔들림에 따른 포인터(air action:pointer)들의 표시 위치 값들(예: 좌표값들)을 선형궤적(예: linear regression)에 대응하도록 보정하여 흔들림을 제어 및 타겟 객체(target object)를 결정할 수 있다. 예를 들어, 프로세서(120)는 선형궤적에 따라 이동 방향을 예측하여 타겟 객체의 위치를 예측함으로써 타겟 객체를 결정할 수 있다.
일 실시예에 따르면, 전자 장치(101)는 전자 펜 장치(201)의 버튼 입력(901), 전자 펜 장치(201)의 일부를 터치 입력(903) 또는 전자 펜 장치(201)의 트리거 버튼 입력(905)을 이용하여 버튼 입력(예: hold down) 또는 버튼 입력 해제(예: release event)에 대한 신호를 수신할 수 있다. 일 실시 예에 따르면 에어 포인터 동작 상태(S3)가 활성화(enable)된 상태에서 버튼 입력(예: hold down) 또는 버튼 입력 해제(예: release event)에 대한 인터랙션의 탭(tab) 이벤트가 발생될 수 있다.
일 실시 예에 따르면, 전자 펜 장치(예: 도 2, 도 3 및 도 4의 디지털 펜(201) 또는 스타일러스)의 동작을 제어하기 위한 전자 장치(예: 도 1의 전자 장치(101))는, 통신 모듈(예: 도 1의 통신 모듈(190)), 디스플레이 모듈(예: 도 1의 디스플레이 모듈(160)), 상기 통신 모듈 및 상기 디스플레이 모듈과 전기적으로 연결된 적어도 하나의 프로세서(예: 도 1의 프로세서(120)) 및 상기 적어도 하나의 프로세서에 의해 실행 가능한 인스트럭션들을 포함하는 메모리(예: 도 1의 메모리(130))를 포함하며, 상기 적어도 하나의 프로세서는, 상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하고, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하고, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하고, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하고, 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 전자 펜 장치와 통신 연결은 블루투스 통신 방식을 이용하여 수립될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 버튼 입력이 해제되고 상기 에어 포인터 동작이 유지된 상태에서, 상기 전자 펜 장치로부터 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제2 신호를 수신할 때, 제1 에어 포인터 동작 상태로 천이하고, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제3 신호를 상기 전자 펜 장치로부터 수신할 때, 제2 에어 포인터 동작 상태로 천이하고, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제4 신호를 상기 전자 펜 장치로부터 수신할 때, 제3 에어 포인터 동작 상태로 천이하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 전자 펜 장치와 통신 연결이 수립될 때, 상기 전자 펜 장치의 적어도 하나의 센서에 의해 감지된 센싱 정보를 획득하고, 상기 제1 신호 및 상기 센싱 정보를 기반하여 에어 지정된 액션의 특징 정보를 식별하고, 상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응될 때, 상기 전자 펜 장치의 에어 액션을 상기 에어 포인터 동작에 매핑하고, 상기 에어 포인터 동작 상태로 천이하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응되지 않을 때, 상기 전자 펜 장치의 동작 상태를 에어 제스처 동작 상태로 천이하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 전자 펜 장치와 통신 연결이 해제될 때, 상기 에어 포인터 동작 상태에서 상기 전자 펜 장치의 동작 상태를 통신 연결 해제 상태로 천이하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 위치 정보를 획득할 때, 상기 디스플레이 모듈의 화면의 가로 또는 세로의 비율, 화면 해상도 정보 또는 화면의 재생률에 기반하여 상기 에어 포인터 동작에 의한 포인터의 이동 속도를 제어하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 상기 디스플레이 모듈에 표시된 상기 적어도 하나의 객체의 상기 특징 정보 분석하고, 상기 분석된 특징 정보를 기반하여 상기 에어 포인터 동작에 의해 제어 가능한 적어도 하나의 객체를 식별하고, 상기 식별된 적어도 하나의 객체가 표시된 상기 디스플레이 모듈의 위치 정보와 상기 식별된 적어도 하나의 객체의 식별 정보를 매핑하여 상기 메모리에 저장하고, 상기 식별된 적어도 하나의 객체 중에서 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하도록 설정될 수 있다.
일 실시 예에 따르면, 상기 적어도 하나의 프로세서는, 사용자의 손떨림에 의한 상기 전자 펜 장치의 흔들림에 따른 위치 값들을 획득하고, 선형회귀 분석 기법을 이용하여 획득한 위치 값들을 보정하고, 상기 보정된 위치 값들을 기반하여 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하도록 설정될 수 있다.
도 10은 일 실시 예에 따른 전자 장치의 동작 방법의 예를 나타내는 도면이다.
도 10을 참조하면, 일 실시 예에 따른 전자 장치(예: 도 1의 전자 장치(101))는, 1001 동작에서, 전자 펜 장치(예: 도 2, 도 3 및 도 4의 디지털 펜(201) 또는 스타일러스)와 통신 연결을 수립할 수 있다. 통신 연결은 근거리 무선 통신(예: 블루투스 통신)일 수 있다. 전자 펜 장치가 탈착 상태이고, 전자 장치로부터 지정된 범위 밖에 위치할 때, 전자 펜 장치가 블루투스 모드로 동작하여 블루투스 통신을 통해 전자 장치와 연결할 수 있다.
1003 동작에서, 전자 장치는 전자 펜 장치의 버튼 입력에 의한 신호(예: 블루투스 신호)에 기반하여 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이할 수 있다. 예를 들어, 전자 장치는 전자 펜 장치가 블루투스 모드로 전환되고, 전자 펜 장치로부터 지정된 버튼 입력에 의한 신호(예: 제1 신호)가 수신되면, 에어 인터랙션 제어를 위한 동작을 시작하고, 에어 포인터 동작(air action::pointer)에 따른 에어 인터랙션 제어를 위해 에어 포인터 동작(air action::pointer) 상태로 천이하는 동작을 수행할 수 있다. 예를 들어, 지정된 버튼 입력에 의한 신호(예: 제1 신호)는 길게 누르는(long press) 버튼 입력일 수 있으며, 이에 한정되지 않고 다른 동작에 의한 버튼 입력도 가능할 수 있다.
1005 동작에서, 전자 장치는 전자 펜 장치에서 버튼 입력이 해제된 것을 식별할 수 있다. 여기서, 에어 포인터 동작은 전자 펜 장치(201)의 버튼 입력이 지속적으로 누른 상태로 포인터의 위치 또는 움직임에 따른 이벤트에 대응하는 동작을 수행할 필요 없이, 버튼 입력이 해제되더라도 유지될 수 있다.
1007 동작에서, 전자 장치는 전자 펜 장치에서 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서 전자 펜 장치의 위치 정보를 획득할 수 있다. 전자 장치는 전자 펜 장치의 위치 또는 움직임에 대응하는 디스플레이 모듈의 위치 정보(예: 좌표 정보)를 획득할 수 있다. 예를 들어, 전자 장치는 전자 펜 장치의 적어도 하나의 센서(가속도 또는/및 자이로 센서)에 의해 감지된 센싱 정보를 기반하여 위치 정보를 획득할 수 있다. 전자 장치는 위치 정보를 획득할 때, 디스플레이 모듈(예, 도 1의 디스플레이 모듈(160))의 화면의 가로/세로 비율에 따른 포인터 이동 속도를 조절할 수 있다. 전자 장치는 위치 정보를 획득할 때, 에어 액션의 특징 정보에 대응하여 전자 펜 장치의 이동 특징을 결정하고, 결정된 특징에 대응하여 전자 펜 장치로부터 수신된 좌표를 위치 정보로 결정할 수 있다. 전자 장치는 위치 정보를 획득할 때, 손의 파지 방법에 대응하여, 전자 펜 장치의 하나의 이상의 센서(예: 자이로 센서 및 가속도 센서)에 의해 감지된 센서 정보를 기반하여 전자 펜 장치의 기울기 정보를 수신할 수 있다.
1009 동작에서, 전자 장치는 디스플레이에 표시된 적어도 하나의 객체의 특징 정보를 획득할 수 있다. 전자 장치는 획득한 위치 정보에 대응하여 적어도 하나의 객체의 특징을 분석하고 분석된 특징 정보를 기반하여 전자 펜 장치의 움직임(이동)의 방향을 확인하고, 확인된 움직임 방향에 위치한 타겟 객체를 예측할 수 있다. 예를 들어, 전자 장치는 적어도 하나 이상의 어플리케이션을 디스플레이 모듈의 화면에 표시할 때, 전자 펜 포인터 관리 모듈(예, 도 5의 전자 펜 포인터 제어 관리 모듈(SPCM)(501))은 어플리케이션의 특징 분석 및 타겟 객체(target object) 결정 동작을 수행할 수 있다.
1011 동작에서, 전자 장치는 적어도 하나의 객체의 특징 정보 및 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시할 수 있다.
1013 동작에서, 전자 장치는 전자 펜 장치의 액션 이벤트에 대응하는 동작을 수행한 후 동작을 종료할 수 있다.
도 11은 일 실시 예에 따른 전자 장치의 동작 방법의 예를 나타내는 도면이다.
일 실시 예에 따른 전자 장치(도 1의 전자 장치(101))는, 전자 펜 장치(도 2, 도 3 및 도 4의 디지털 펜(201) 또는 스타일러스)로부터 획득한 연결 상태 정보를 기반하여 블루투스 통신에 의해 연결된 상태인 것을 식별할 수 있다.
도 11을 참조하면, 1101 동작에서, 전자 장치는 전자 펜 장치의 버튼 입력에 의한 신호(예: 제1 신호) 및 전자 펜 장치에 의해 감지된 센싱 정보를 수신할 수 있다.
1103 동작에서, 전자 장치는 수신된 신호 및 센싱 정보를 기반하여 지정된 복수의 에어 액션의 특징 정보들 중에서 대응하는 특징 정보를 식별할 수 있다.
1105 동작에서, 전자 장치는 식별된 특징 정보를 기반하여 전자 펜 장치의 동작 상태를 결정할 수 있다.
1107 동작에서, 전자 장치는 결정된 동작 상태가 에어 포인터 동작 상태인 제3 동작 상태(S3)인지를 확인할 수 있다. 결정된 동작 상태가 제3 동작 상태이면, 전자 장치는 1109 동작을 수행할 수 있으며, 제3 동작 상태가 아니면, 상기 전자 펜 장치의 동작 상태를 다른 에어 동작 상태인 것으로 식별함에 따라 1113 동작을 수행할 있다.
1109 동작에서, 전자 장치는 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태인 제3 동작 상태(S3)로 천이하고, 1111 동작에서, 전자 장치는 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서 전자 펜 장치의 액션 이벤트에 대응하는 동작을 수행할 수 있다.
1113 동작에서, 전자 장치는 전자 펜 장치의 동작 상태를 에어 제스처 동작 상태인 제2 동작 상태로 천이하고, 1115 동작에서, 전자 장치는 제2 동작 상태에서 전자 펜 장치의 액션 이벤트에 대응하는 동작을 수행할 수 있다.
도 12a 및 도 12b는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 12a를 참조하면, 상기 도 10의 1109 동작에서 천이된 에어 포인터 동작 상태인 제3 동작 상태(S3)는 에어 제스처(air gesture) 동작 상태(S2 state)로부터 천이(603) 또는 연결 해제 상태(S1)로부터 천이(609)될 수 있다. 에어 포인터 동작 상태인 제3 동작 상태(S3)는 레이저 포인터 상태(laser pointer)(S3-1)(예: 제1 에어 포인터 동작 상태), 하이라이터(Highlighter) 상태(S3-2)(예: 제2 에어 포인터 동작 상태) 및 상하좌우 아이콘(스크롤) 상태(예: S3-3)(예: 제3 에어 포인터 동작 상태)를 포함할 수 있으며, 각 상태들 간에 상태 천이(1201, 1203, 1205, 1207, 1209 및 1211)가 발생될 수 있다. 상태 천이 이벤트는 버튼의 일정 패턴(예: 짧은 버튼 입력 + 긴 버튼 입력 n sec) 등일 수 있다.
일 실시예에 따르면, 전자 장치는 도 12a에 도시된 바와 같이, 전자 펜 장치와 블루투스 연결이 수립되면, 연결 해제 상태(예: S1 state)에서 에어 제스처 동작 상태(예: S2 state)로 천이(601) 또는 연결 해제 상태(S1 state)로부터 에어 포인터 동작 상태(예: S3 state)로 천이(609)할 수 있다.
일 실시예에 따르면, 전자 장치는 도 12a에 도시된 바와 같이, 전자 펜 장치(201)와 블루투스 연결이 해제 또는 블루투스 모드가 종료되면, 에어 제스처 동작 상태(예: S2 state)에서 연결 해제 상태(예: S1 state)로 천이(605) 또는 에어 포인터 동작 상태(예: S3 state)에서 연결 해제 상태(S1 state)로 천이(611)할 수 있다. 여기서, 블루트스 모드는 에어 포인터 툴 바의 종료 또는 전자 펜 장치(201)를 전자 장치(101)의 수납공간(예: 도 2의 수납 공간(122))에 삽입할 때, 종료될 수 있다.
일 실시예에 따르면, 전자 장치는 도 12a에 도시된 바와 같이, 에어 제스처 동작에 대응하는 지정된 버튼 입력 또는 제스처 입력에 의한 신호에 따른 이벤트가 식별되면, 에어 포인터 동작 상태(예: S3 state)에서 에어 제스처 동작 상태(예: S2 state)로 천이(607)할 수 있다.
도 12b를 참조하면, 전자 장치(101)는 에어 제스처(air gesture) 동작 상태(S2 state)로부터 에어 포인터 동작 상태(S3)로 천이(603)될 때, 도 12b의 (a)에 도시된 바와 같이, 지정된 버튼 입력(예: 길게 누름) 및 센싱 정보(예: 좌/우 움직임)에 대응하는 이벤트(1221)를 식별하고, 식별된 이벤트에 대응하는 특정 정보가 에어 포인터 동작 상태에 대응하면, 에어 포인터 동작 상태(S3)로 천이할 수 있다. 전자 장치(101)는 도 12b의 (b)에 도시된 같이, 디스플레이 모듈(160)(예: 도 1의 디스플레이 모듈(160))의 화면 상에 전자 펜 장치(201)의 위치에 대응하는 디스플레이 모듈의 위치 정보를 획득하고, 획득한 위치 정보에 대응하는 위치에 에어 포인터 동작의 포인터(1223)를 표시할 수 있다. 사용자가 전자 펜 장치(201)의 버튼(337)을 누르지 않으면, 전자 장치(101)는 전자 펜 장치(201)의 버튼 입력이 해제된 것을 식별하고, 버튼 입력이 해제되더라도 에어 포인터 동작을 유지함에 따라 디스플레이 모듈(160)의 화면 상에 에어 포인터 동작의 포인터(1223)의 표시를 유지할 수 있다.
도 13 는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
상기 도 10의 1003 동작 및 도 11의 1109 동작에서, 전자 펜 장치(201)의 동작 상태를 에어 포인터 동작 상태(S3)로 천이할 때, 일 실시예에 따른 전자 장치(101)는 레이저 포인터 상태(laser pointer)(S3-1)(예: 제1 에어 포인터 동작 상태), 하이라이터(highlighter) 상태(S3-2)(예: 제2 에어 포인터 동작 상태) 및 상하좌우 아이콘(스크롤) 상태(예: S3-3)(예: 제3 에어 포인터 동작 상태) 중 하나를 결정하고, 전자 펜 장치의 동작 상태를 결정된 상태로 천이할 수 있다.
도 13을 참조하면, 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서, 전자 펜 장치(201)의 버튼 입력에 의한 홀드다운 이벤트(hold down stylus event)(1311) 및 전자 펜 장치(201)의 움직임이 확인되면, 전자 장치(101)는 전자 펜 장치(201)의 동작 상태를 레이저 포인터 상태(laser pointer)(S3-1)(예: 제1 에어 포인터 동작 상태)로 식별하고, 레이저 포인터 상태(S3-1)로 천이할 수 있다. 전자 장치(101)는 레이저 포인터 상태(S3-1)에서 전자 펜 장치(201)의 움직임(이동)에 따른 위치 정보를 획득하고, 획득한 위치 정보를 기반하여 디스플레이 화면 상에 표시된 포인터(1301)를 이동시킬 수 있다. 예를 들어, 전자 장치(101)는 포인터(1301)의 이동 경로에 시각적인 효과를 표시할 수 있다. 전자 장치(101)는 버튼 입력에 의한 릴리즈 이벤트(release stylus event)(1313)가 발생하면, 디스플레이 화면 상에 표시된 포인터(1301)의 표시를 제거할 수 있다.
도 14는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 14를 참조하면, 도 14의 (a)와 같이, 버튼(337)을 누르지 않은 상태 즉, 버튼 입력이 해제되고 에어 포인터 동작이 유지된 상태에서, 전자 장치(101)는 예를 들어, 버튼 (337)을 터치(예: 도 14의 (b)의 "o")한 후, 길게 누르는 동작(예: 도 14의 (c)의 "-")에 대응하는 버튼 입력에 의한 홀드다운 이벤트(hold down stylus event)를 식별할 수 있다. 전자 장치(101)는 홀드다운 이벤트가 식별되면, 전자 장치(101)는 전자 펜 장치(201)의 동작 상태를 하이라이터(highlighter) 상태(S3-2)(예: 제2 에어 포인터 동작 상태)로 식별하고, 식별된 하이라이터 상태(S3-2)로 천이할 수 있다. 전자 장치(101)는 하이라이터 상태(S3-2)에서 전자 펜 장치(201)의 위치에 대응하여 표시된 포인터(1401)의 위치 정보를 획득하고, 획득한 위치 정보에 하이라이터를 나타내는 객체(1403)를 표시할 수 있다. 전자 장치(101)는 도 14의 (d)와 같이, 버튼 입력에 의한 릴리즈 이벤트(release stylus event)가 발생하면, 디스플레이 화면 상에 하이라이터를 나타내는 객체(1403)의 표시를 유지할 수 있다.
도 15a 및 도 15b는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
상기 도 10의 1003 동작 및 도 11의 1109 동작에서, 전자 펜 장치(201)의 동작 상태를 에어 포인터 동작 상태(S3)로 천이할 때, 일 실시예에 따른 전자 장치(101)는 레이저 포인터 상태(laser pointer)(S3-1)(예: 제1 에어 포인터 동작 상태), 하이라이터(Highlighter) 상태(S3-2)(예: 제2 에어 포인터 동작 상태) 및 상하좌우 아이콘(스크롤) 상태(예: S3-3)(예: 제3 에어 포인터 동작 상태) 중 하나를 결정하고, 전자 펜 장치(201)의 동작 상태를 결정된 상태로 천이할 수 있다.
도 15a를 참조하면, 버튼(337)을 누르지 않은 상태 즉, 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서, 전자 펜 장치(201)의 버튼 입력에 의한 홀드다운 이벤트(hold down stylus event)가 확인되면, 전자 장치(101)는 상하좌우 아이콘(스크롤) 상태(예: S3-3)(예: 제3 에어 포인터 동작 상태)로 식별하고, 상하좌우 아이콘(스크롤) 상태(예: S3-3)로 천이할 수 있다. 전자 장치(101)는 상하좌우 아이콘(스크롤) 상태(예: S3-3)에서 전자 장치의 움직임이 식별되면, 움직임 방향으로 포인터(1501)를 이동하여 표시할 수 있다.
도 15b를 참조하면, 전자 장치(101)는 상하좌우 아이콘(스크롤) 상태(예: S3-3)에서 전자 펜 장치(201)의 움직임이 식별되면, 움직임 방향(1505 및 1507)으로 포인터(1503)를 이동하여 표시할 수 있다.
도 16a 및 도 16b는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 16a를 참조하면, 일 실시예에 따른 전자 장치는 상기 도 10의 1009 동작과 같이, 디스플레이 모듈(도 1의 디스플레이 모듈(160))에 표시된 적어도 하나의 객체의 특징 정보를 획득할 때, 디스플레이 모듈(160)(예: 도 1의 디스플레이 모듈(160))에 표시된 어플리케이션(1600)의 속성 정보를 기반하여 어플리케이션(1600)에 포함된 객체들의 특징을 분석할 수 있다. 전자 장치(101)는 분석된 객체들 중에서 에어 포인터 동작에 의해 제어될 수 있는 객체들(1601 내지 1612)(예, 버튼, input 필드, 슬라이드 버튼 또는 url link 중 적어도 하나)을 식별하고, 식별된 객체들(1601 내지 1612)의 위치 정보를 매핑하여 저장할 수 있다. 예를 들어, 도 16a의 (c)에 도시된 바와 같은 객체들(1601 내지 1612)은 도 16a의 (a)의 어플리케이션(1600)의 실행 화면 상에 표시되지 않으며, 설명의 편의를 위해 개념적으로 표시한 것이며, 관리자 모드 또는 설정 모드에서 보여질 수 있다. 다른 예를 들어, 전자 장치(101)는 객체들(1601 내지 1612)을 나타내는 이미지(아이콘 또는 기호)들을 어플리케이션(1600)의 실행 화면 상에 대응하는 위치에 중첩하여 각각 표시할 수 있다.
도 16b를 참조하면, 일 실시예에 따른 전자 장치(101)는 복수의 어플리케이션을 디스플레이 모듈(160)에 3분할로 표시할 수 있으며, 표시된 복수의 어플리케이션 각각에 포함된 객체들의 특징을 분석하여, 에어 포인터 동작에 의해 제어될 수 있는 객체들(1621 내지 1630)을 식별할 수 있다. 전자 장치(101)는 디스플레이 형태(예: 폴더블, 롤러블 또는 확장형 디스플레이) 또는 화면 이동에 따라 2분할, 3분할, N분할로 복수의 어플리케이션을 디스플레이 모듈(160)에 표시할 수 있다.
도 17a 내지 도 17c는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 17a 및 도 17b를 참조하면, 일 실시예에 따른 전자 장치(101)는 버튼(337)을 누르지 않은 상태(1710) 즉, 버튼 입력이 해제되고, 에어 포인터 동작이 유지된 상태에서, 전자 펜 포인터 관리 모듈(예, 도 5의 전자 펜 포인터 제어 관리 모듈(SPCM)(501))에 의해 디스플레이 모듈(160)에 표시된 어플리케이션(1600)에 포함된 적어도 하나의 객체의 특징을 분석 및 타겟 객체(target object)를 결정하는 동작을 수행할 수 있다. 전자 장치(101)는 적어도 하나의 어플리케이션(1600)에서 분석된 적어도 하나의 객체에 대한 특징 정보를 기반하여 전자 펜 장치(201)의 움직임(이동)에 대응하여 이동하는 포인터(1701)의 이동 방향(1703)을 확인하고, 확인된 이동 방향(1703)에 위치한 타겟 객체(1602)를 예측할 수 있다.
도 17b 및 도 17c를 참조하면, 일 실시 예에 따르면, 전자 장치(101)는 어플리케이션(1600)의 특징 정보 분석(예. 레이아웃)에 대응하여 적어도 하나 이상의 타겟 객체(1602)의 정보(예. 좌표 정보, 타겟 객체 리스트 또는 타겟 객체의 속성 정보)를 결정할 수 있다. 타겟 객체(1602)의 속성 정보는 url 링크(link), 버튼(button)(337) 또는 입력 필드(input field)의 이벤트에 반응하는 타입일 수 있다. 예를 들어, 전자 장치(101)는 어플리케이션(1600)의 객체 정보를 수신할 수 있다. 수신된 객체 정보는 객체의 특징, 좌표 정보를 포함할 수 있다. 특징 정보는 버튼일 수 있다. 좌표 정보는 어플리케이션(1600)에 대응하여 디스플레이 모듈(160)(예: 도 1의 디스플레이 모듈(160))에 표시되는 위치 정보(ox2, oy2)일 수 있다. 전자 장치(101)는 전자 펜 장치(201)의 좌표 이동 방향(1703)에 대응하여 제 2 객체(1602)의 위치 정보(예: 좌표 정보)를 식별하고, 전자 펜 장치(201)의 이동에 따른 포인터(1701)의 이동 방향(1703) 및 가속도(velocity) 정보를 위치 정보에 매핑하여 다음 이동 방향을 계산하여 타겟 객체(1602)를 결정할 수 있다. 예를 들어, 전자 장치(101)는 에어 포인터 동작에 따른 포인터(air action::laser pointer)(1701)의 이동 경로 예측을 위해 휴리스틱 모델링을 이용한 모델링을 사용할 수 있다. 전자 펜 장치(201)의 가속도 센서 정보, 타겟 객체(1602) 및 포인터(1701)의 이동 각을 산출하여 타겟 객체(1602)를 예측하여 결정할 수 있다.
도 18a 내지 도 18d는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다. 도 19는 일 실시예에 따른 동작 방법의 예를 나타내는 도면이다.
도 18a를 참조하면, 일 실시 예에 따른 전자 장치(101)는 사용자의 손떨림에 의한 전자 펜 장치(201)의 흔들림으로 인해 전자 펜 장치(201)의 위치에 대응하는 좌표가 상, 하 또는 좌, 우 흔들림이 발생한 것을 식별할 수 있으며, 도 18a의 (a)와 같이, 흔들림에 의한 좌표에 대응하여 포인터들(air action::pointer)(1801a)이 화면에 표시될 수 있다. 전자 장치(101)는 도 18a의 (b)와 같이, 전자 펜 장치(201)의 이동에 따라 이동 방향에서 예측된 타겟 객체(Target Object)(1803)에 대응하여 흔들림이 발생 시 포인터들(air action::pointer)(1801a)의 상, 하에 발생하는 좌표에서 선형회귀 분석 기법을 이용하여 선형궤적에 대응하여 흔들림을 제어 흔들림 제어에 따라 보정된 포인터들(air action::pointer)(1801b)을 표시할 수 있다.
일 실시 예에 따른 전자 장치(101)는 전자 펜 장치(201)를 파지한 상태에서 에어 포인터 동작(air action::laser pointer)을 실행할 수 있다. 이때 사용자는 생물학적 손 떨림 현상(본태성 손떨림, 파킨슨병등)을 발생시킬 수 있다. 예를 들어, 생물학적 손 떨림 현상은 글씨를 쓰는 등 운동을 할 때 떨리는 운동성 떨림, 양팔을 가슴 앞으로 뻗거나 펜을 잡고 특정 동작을 실행하는 등 '자세성 떨림', ??은층에서도 나타나며 신경계 등 몸에 특별한 이상이 없으나 손떨림에 대한 가족력이 있는 경우, 심리적인 스트레스(흥분, 분노, 수면부족, 불안, 두려움 등)으로 손떨림이 발생하는 경우 등이 있을 수 있다.
도 18b를 참조하면, 전자 장치(101)는 전자 펜 장치(201)를 파지한 상태에서, 손떨림이 발생하면, 에어 포인터 동작에 의한 포인터가 이동할 수 있다. 손떨림으로 발생하는 전자 펜 장치(201)의 흔들림에 대응하여 전자 장치(101)는 전자 펜 장치(201)로부터 x, y의 좌표 값을 수신 받을 수 있다. 타겟 객체(예: 제 2 Object)로의 이동 구간에서 x축에 대응하여 y 축의 떨림이 발생할 수 있으며, 그래프 상에서 y 축의 떨림 구간은 선형 이동을 하게 되어, 전자 장치는 선형궤적에 따라 이동 방향을 예측하여 타겟 객체(1602)의 위치를 예측함으로써 타겟 객체(1602)를 결정할 수 있다. y 축에 대해 떨림은 PID 제어로 실제 이동 구간에 포인터를 표시할 수 있다.
도 18c를 참조하면, 일 실시 예에 따르면, 전자 장치(101)는 전자 펜 장치(201)로부터 다중 좌표를 수신할 수 있으며, 다중 좌표는 x, y, z 3축, 6축, 9축에 대한 좌표일 수 있다.
전자 장치(101)는 전자 펜 장치(201)로부터 수신되는 다중 좌표에 대응하여 이동하는 방향에 존재하는 타겟 객체(1602)를 예측할 수 있다. 다중 좌표는 VR 환경에서 사용될 수 있다. 예를 들어, 가상의 환경에서 전자 장치(101)는 전자 펜 장치(201) 좌표계 정보(6dof, 9dof)를 수신할 수 있다. 좌표계 수신을 할 때 손떨림으로 인해 좌표의 정확도가 떨어질 수 있으며, 전자 펜 포인터 제어 매니저(SPCM)(도 5의 전자 펜 포인터 제어 매니저(501))에 의해 좌표를 제어하여 가상 현실(VR(virtual reality)) 이미지를 표시할 수 있다.
도 18d를 참조하면, 전자 장치(101)는 전자 펜 장치(201)의 액션 이벤트에 대응하는 동작을 수행할 수 있다. 손떨림에 의한 전자 펜 장치(201)의 흔들림에 대응하여 전자 장치(101)는 위치 정보(예: 좌표 정보)를 결정할 수 있다. 결정된 위치 정보(예: 좌표 정보)는 특징 정보(target object 영역)에 매핑하고, 일정 이벤트 조건이 만족할 경우(예: N sec 동안 타겟 객체 영역에 포인터 존재) 전자 장치(101)는 액션 이벤트에 대응하는 동작(버튼 이벤트 실행)을 수행할 수 있다. 예를 들어, 사용자가 어떤 위치를 클릭했다고 가정했을 때 사용자가 클릭하길 원했던 항목에서 약간 벗어난 위치에 포인터(1801)가 있었다면 해당 항목은 클릭이 되지 않는 것을 보완하기 위해, 접근 가능성(accessibility)을 이용하여 클릭 가능한 객체 영역(clickable object area)을 획득한 후 클릭한 위치의 인접 영역에 클릭 가능한 객체(또는 아이템(item))(1803)가 존재하면, 전자 장치(101)는 해당 객체(1803)을 클릭할 수 있다.
일 실시 예에 따르면, 전자 펜 장치의 동작을 제어하기 위한 전자 장치에서의 동작 방법은, 상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하는 동작, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하는 동작, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하는 동작 및 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 전자 펜 장치와 통신 연결은 블루투스 통신 방식을 이용하여 수립될 수 있다.
일 실시 예에 따르면, 상기 방법은, 상기 버튼 입력이 해제되고 상기 에어 포인터 동작이 유지된 상태에서, 상기 전자 펜 장치로부터 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제2 신호를 수신할 때, 제1 에어 포인터 동작 상태로 천이하는 동작, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제3 신호를 상기 전자 펜 장치로부터 수신할 때, 제2 에어 포인터 동작 상태로 천이하는 동작 및 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제4 신호를 상기 전자 펜 장치로부터 수신할 때, 제3 에어 포인터 동작 상태로 천이하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 상기 방법은, 상기 전자 펜 장치와 통신 연결이 수립될 때, 상기 전자 펜 장치의 적어도 하나의 센서에 의해 감지된 센싱 정보를 획득하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작은, 상기 제1 신호 및 상기 센싱 정보를 기반하여 에어 지정된 액션의 특징 정보를 식별하는 동작 및 상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응될 때, 상기 전자 펜 장치의 에어 액션을 상기 에어 포인터 동작에 매핑하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 방법은, 상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응되지 않을 때, 상기 전자 펜 장치의 동작 상태를 에어 제스처 동작 상태로 천이하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 상기 방법은, 상기 전자 펜 장치와 통신 연결이 해제될 때, 상기 에어 포인터 동작 상태에서 상기 전자 펜 장치의 동작 상태를 통신 연결 해제 상태로 천이하는 동작을 더 포함할 수 있다.
일 실시 예에 따르면, 상기 디스플레이 모듈의 위치 정보를 획득하는 동작은, 상기 디스플레이 모듈의 화면의 화면의 가로 또는 세로의 비율, 화면 해상도 정보 또는 화면의 재생률에 기반하여 상기 에어 포인터 동작에 의한 포인터의 이동 속도를 제어하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 방법은, 상기 디스플레이 모듈에 표시된 상기 적어도 하나의 객체의 상기 특징 정보 분석하는 동작, 상기 분석된 특징 정보를 기반하여 상기 에어 포인터 동작에 의해 제어 가능한 적어도 하나의 객체를 식별하는 동작, 상기 식별된 적어도 하나의 객체가 표시된 상기 디스플레이 모듈의 위치 정보와 상기 식별된 적어도 하나의 객체의 식별 정보를 매핑하여 상기 전자 장치의 메모리에 저장하는 동작 및 상기 식별된 적어도 하나의 객체 중에서 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하는 동작을 포함할 수 있다.
일 실시 예에 따르면, 상기 방법은, 사용자의 손떨림에 의한 상기 전자 펜 장치의 흔들림에 따른 위치 값들을 획득하는 동작, 선형회귀 분석 기법을 이용하여 획득한 위치 값들을 보정하는 동작 및 상기 보정된 위치 값들을 기반하여 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하는 동작을 더 포함할 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
일 실시 예에 따르면, 비일적 저장 매체에 있어서, 상기 프로그램은, 프로세서에 의한 실행 시, 상기 프로세서가, 상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하는 동작, 상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작, 상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하는 동작, 상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하는 동작 및 상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 실행 가능한 명령을 포함할 수 있다.
그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.
본 문서에 개시된 다양한 실시예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치(예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시예들로 한정하려는 것이 아니며, 해당 실시예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나", "A 또는 B 중 적어도 하나", "A, B 또는 C", "A, B 및 C 중 적어도 하나", 및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서의 다양한 실시예들에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로와 같은 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일실시예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시예들은 기기(machine)(예: 전자 장치(101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(136) 또는 외장 메모리(138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(101))의 프로세서(예: 프로세서(120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장 매체는, 비일시적(non-transitory) 저장 매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장 매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장 매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일실시예에 따르면, 본 문서에 개시된 다양한 실시예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory(CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들(예: 스마트 폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있으며, 복수의 개체 중 일부는 다른 구성요소에 분리 배치될 수도 있다. 다양한 실시예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.
100: 네트워크 환경 101: 전자 장치
120: 프로세서 130: 메모리
160: 디스플레이 모듈 190: 통신 모듈
201: 전자 펜 장치 220: 프로세서
230: 메모리 240: 센서 모듈
287: 공진회로 288: 충전회로
289: 배터리 290: 통신 회로
297: 안테나 298: 트리거 회로

Claims (20)

  1. 전자 펜 장치의 동작을 제어하기 위한 전자 장치에 있어서,
    통신 모듈;
    디스플레이 모듈;
    상기 통신 모듈 및 상기 디스플레이 모듈과 전기적으로 연결된 적어도 하나의 프로세서; 및
    상기 적어도 하나의 프로세서에 의해 실행 가능한 인스트럭션들을 포함하는 메모리를 포함하며,
    상기 적어도 하나의 프로세서는,
    상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하고,
    상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하고,
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하고,
    상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하고,
    상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 설정되는, 전자 장치.
  2. 제1항에 있어서,
    상기 전자 펜 장치와 통신 연결은 블루투스 통신 방식을 이용하여 수립되는, 전자 장치.
  3. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 버튼 입력이 해제되고 상기 에어 포인터 동작이 유지된 상태에서, 상기 전자 펜 장치로부터 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제2 신호를 수신할 때, 제1 에어 포인터 동작 상태로 천이하고,
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제3 신호를 상기 전자 펜 장치로부터 수신할 때, 제2 에어 포인터 동작 상태로 천이하고,
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제4 신호를 상기 전자 펜 장치로부터 수신할 때, 제3 에어 포인터 동작 상태로 천이하도록 설정되는, 전자 장치.
  4. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 전자 펜 장치와 통신 연결이 수립될 때, 상기 전자 펜 장치의 적어도 하나의 센서에 의해 감지된 센싱 정보를 획득하고,
    상기 제1 신호 및 상기 센싱 정보를 기반하여 에어 지정된 액션의 특징 정보를 식별하고,
    상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응될 때, 상기 전자 펜 장치의 에어 액션을 상기 에어 포인터 동작에 매핑하고, 상기 에어 포인터 동작 상태로 천이하도록 설정되는, 전자 장치.
  5. 제4항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응되지 않을 때, 상기 전자 펜 장치의 동작 상태를 에어 제스처 동작 상태로 천이하도록 설정되는, 전자 장치.
  6. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 전자 펜 장치와 통신 연결이 해제될 때, 상기 에어 포인터 동작 상태에서 상기 전자 펜 장치의 동작 상태를 통신 연결 해제 상태로 천이하도록 설정되는, 전자 장치.
  7. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 위치 정보를 획득할 때, 상기 디스플레이 모듈의 화면의 화면의 가로 또는 세로의 비율, 화면 해상도 정보 또는 화면의 재생률에 기반하여 상기 에어 포인터 동작에 의한 포인터의 이동 속도를 제어하도록 설정되는, 전자 장치.
  8. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    상기 디스플레이 모듈에 표시된 상기 적어도 하나의 객체의 상기 특징 정보 분석하고,
    상기 분석된 특징 정보를 기반하여 상기 에어 포인터 동작에 의해 제어 가능한 적어도 하나의 객체를 식별하고,
    상기 식별된 적어도 하나의 객체가 표시된 상기 디스플레이 모듈의 위치 정보와 상기 식별된 적어도 하나의 객체의 식별 정보를 매핑하여 상기 메모리에 저장하고,
    상기 식별된 적어도 하나의 객체 중에서 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하도록 설정되는, 전자 장치.
  9. 제1항에 있어서, 상기 적어도 하나의 프로세서는,
    사용자의 손떨림에 의한 상기 전자 펜 장치의 흔들림에 따른 위치 값들을 획득하고,
    선형회귀 분석 기법을 이용하여 획득한 위치 값들을 보정하고,
    상기 보정된 위치 값들을 기반하여 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하도록 설정되는, 전자 장치.
  10. 전자 펜 장치의 동작을 제어하기 위한 전자 장치에서의 동작 방법에 있어서,
    상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하는 동작;
    상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작;
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하는 동작;
    상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하는 동작; 및
    상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하는 동작을 포함하는, 방법.
  11. 제10항에 있어서,
    상기 전자 펜 장치와 통신 연결은 블루투스 통신 방식을 이용하여 수립되는, 방법.
  12. 제10항에 있어서, 상기 방법은,
    상기 버튼 입력이 해제되고 상기 에어 포인터 동작이 유지된 상태에서, 상기 전자 펜 장치로부터 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제2 신호를 수신할 때, 제1 에어 포인터 동작 상태로 천이하는 동작;
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제3 신호를 상기 전자 펜 장치로부터 수신할 때, 제2 에어 포인터 동작 상태로 천이하는 동작; 및
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 버튼 입력 또는 제스처 입력 중 적어도 하나에 관련된 제4 신호를 상기 전자 펜 장치로부터 수신할 때, 제3 에어 포인터 동작 상태로 천이하는 동작을 더 포함하는, 방법.
  13. 제10항에 있어서, 상기 방법은,
    상기 전자 펜 장치와 통신 연결이 수립될 때, 상기 전자 펜 장치의 적어도 하나의 센서에 의해 감지된 센싱 정보를 획득하는 동작을 더 포함하는, 방법.
  14. 제13항에 있어서, 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작은,
    상기 제1 신호 및 상기 센싱 정보를 기반하여 에어 지정된 액션의 특징 정보를 식별하는 동작; 및
    상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응될 때, 상기 전자 펜 장치의 에어 액션을 상기 에어 포인터 동작에 매핑하는 동작을 포함하는, 방법.
  15. 제14항에 있어서, 상기 방법은,
    상기 식별된 특징 정보가 상기 에어 포인터 동작에 대응되지 않을 때, 상기 전자 펜 장치의 동작 상태를 에어 제스처 동작 상태로 천이하는 동작을 더 포함하는, 방법.
  16. 제10항에 있어서, 상기 방법은,
    상기 전자 펜 장치와 통신 연결이 해제될 때, 상기 에어 포인터 동작 상태에서 상기 전자 펜 장치의 동작 상태를 통신 연결 해제 상태로 천이하는 동작을 더 포함하는, 방법.
  17. 제10항에 있어서, 상기 디스플레이 모듈의 위치 정보를 획득하는 동작은,
    상기 디스플레이 모듈의 화면의 화면의 가로 또는 세로의 비율, 화면 해상도 정보 또는 화면의 재생률에 기반하여 상기 에어 포인터 동작에 의한 포인터의 이동 속도를 제어하는 동작을 포함하는, 방법.
  18. 제10항에 있어서, 상기 방법은,
    상기 디스플레이 모듈에 표시된 상기 적어도 하나의 객체의 상기 특징 정보 분석하는 동작;
    상기 분석된 특징 정보를 기반하여 상기 에어 포인터 동작에 의해 제어 가능한 적어도 하나의 객체를 식별하는 동작;
    상기 식별된 적어도 하나의 객체가 표시된 상기 디스플레이 모듈의 위치 정보와 상기 식별된 적어도 하나의 객체의 식별 정보를 매핑하여 상기 전자 장치의 메모리에 저장하는 동작; 및
    상기 식별된 적어도 하나의 객체 중에서 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하는 동작을 포함하는, 방법.
  19. 제10항에 있어서, 상기 방법은,
    사용자의 손떨림에 의한 상기 전자 펜 장치의 흔들림에 따른 위치 값들을 획득하는 동작;
    선형회귀 분석 기법을 이용하여 획득한 위치 값들을 보정하는 동작; 및
    상기 보정된 위치 값들을 기반하여 상기 전자 펜 장치의 이동 방향에 위치하는 타겟 객체를 식별하는 동작을 더 포함하는, 방법.
  20. 비일적 저장 매체에 있어서, 상기 프로그램은, 프로세서에 의한 실행 시, 상기 프로세서가,
    상기 전자 펜 장치와 통신 연결을 수립하도록 상기 통신 모듈을 제어하는 동작;
    상기 전자 펜 장치의 버튼 입력에 의한 제1 신호에 기반하여 상기 전자 펜 장치의 동작 상태를 에어 포인터 동작 상태로 천이하는 동작;
    상기 버튼 입력이 해제되고, 상기 에어 포인터 동작이 유지된 상태에서 상기 전자 펜 장치의 위치 또는 움직임에 대응하는 상기 디스플레이 모듈의 위치 정보를 획득하는 동작;
    상기 디스플레이 모듈에 표시된 적어도 하나의 객체의 특징 정보 및 상기 위치 정보를 기반하여 에어 포인터 동작을 나타내는 객체를 표시하도록 상기 디스플레이 모듈을 제어하는 동작; 및
    상기 전자 펜 장치의 액션 이벤트에 대응하는 동작을 실행하도록 실행 가능한 명령을 포함하는, 비일시적 저장 매체.
KR1020200135467A 2020-10-19 2020-10-19 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체 KR20220051725A (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020200135467A KR20220051725A (ko) 2020-10-19 2020-10-19 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체
PCT/KR2021/014384 WO2022086071A1 (ko) 2020-10-19 2021-10-15 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비 일시적 저장 매체
US18/136,694 US20230259222A1 (en) 2020-10-19 2023-04-19 Electronic device for controlling operation of electronic pen device, operation method in electronic device, and non-transitory storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200135467A KR20220051725A (ko) 2020-10-19 2020-10-19 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체

Publications (1)

Publication Number Publication Date
KR20220051725A true KR20220051725A (ko) 2022-04-26

Family

ID=81290762

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200135467A KR20220051725A (ko) 2020-10-19 2020-10-19 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체

Country Status (3)

Country Link
US (1) US20230259222A1 (ko)
KR (1) KR20220051725A (ko)
WO (1) WO2022086071A1 (ko)

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102084041B1 (ko) * 2012-08-24 2020-03-04 삼성전자 주식회사 펜 기능 운용 방법 및 시스템
WO2014066689A2 (en) * 2012-10-26 2014-05-01 Livescribe Inc. Digital cursor display linked to a smart pen
KR20160081855A (ko) * 2014-12-31 2016-07-08 이솔정보통신(주) 스마트 펜 및 이를 이용한 증강현실 구현 시스템
WO2018136057A1 (en) * 2017-01-19 2018-07-26 Hewlett-Packard Development Company, L.P. Input pen gesture-based display control
JP2019185118A (ja) * 2018-04-02 2019-10-24 富士通コンポーネント株式会社 プログラム、情報処理装置、ペンデバイス及びシステム
US10732695B2 (en) * 2018-09-09 2020-08-04 Microsoft Technology Licensing, Llc Transitioning a computing device from a low power state based on sensor input of a pen device

Also Published As

Publication number Publication date
WO2022086071A1 (ko) 2022-04-28
US20230259222A1 (en) 2023-08-17

Similar Documents

Publication Publication Date Title
EP3771971B1 (en) Electronic device for identifying gesture performed by stylus pen and method for operating the same
KR20220048913A (ko) 입력을 유도하는 전자 장치 및 방법.
KR102247663B1 (ko) 디스플레이의 제어 방법 및 이를 지원하는 전자 장치
US20230350566A1 (en) Electronic apparatus and method for processing input from stylus pen in electronic apparatus
KR20220086939A (ko) 전자 장치 및 전자 장치의 동작 방법
EP4167216A1 (en) Electronic device comprising expandable display
KR20220051725A (ko) 전자 펜 장치의 동작을 제어하기 위한 전자 장치, 전자 장치에서의 동작 방법 및 비일시적 저장 매체
KR20220109254A (ko) 전자 장치 및 전자 장치에서 스트로크 분석 기반 도형 인식 방법
KR20220078422A (ko) 플렉서블 디스플레이의 확장 및/또는 축소에 따라서 화면의 표시를 제어하는 전자 장치 및 그 제어 방법
KR20220017143A (ko) 전자 장치 및 이의 전자 펜 포인터를 표시하는 방법
EP4235372A1 (en) Electronic device and method for operating electronic device
EP4242798A1 (en) Electronic device for providing vibration feedback, and operation method therefor
US20230037709A1 (en) Electronic device processing input of stylus pen and method for operating the same
KR20230079976A (ko) 변형 가능한 디스플레이를 포함하는 전자 장치 및 이의 동작 방법
KR20230022766A (ko) 스타일러스 펜의 입력을 처리하는 전자 장치와 이의 동작 방법
KR20220074053A (ko) 전자 장치 및 전자 장치에서 스타일러스 펜의 에어 포인터를 제어하기 위한 방법
KR20240043019A (ko) 필기 입력을 수신하는 전자 장치 및 이의 제어 방법
KR20230126577A (ko) 전자 장치 및 펜 입력 장치와 전자 장치에서 복수의 펜 입력 장치 이용 방법
KR20230045824A (ko) 햅틱 엑츄에이터를 포함하는 전자 장치 및 그 제어 방법
KR20220081136A (ko) 복수의 센서를 이용한 전자 장치의 제어 방법 및 그 전자 장치
KR20220068093A (ko) 플렉서블 디스플레이를 포함하는 전자 장치 및 이의 동작 방법
KR20230139757A (ko) 플렉서블 디스플레이를 포함하는 전자 장치 및 이의 제어 방법
KR20240021072A (ko) 필압 조절 가능한 스타일러스 펜, 이를 입력 장치로 이용하는 전자 장치 및 그 동작 방법
KR20220170212A (ko) 전자 장치 및 전자 장치에서 입력 오류를 보정하는 방법
KR20240056364A (ko) 폴더블 디스플레이를 제어하는 전자 장치 및 방법