KR20180056998A - 디바이스 컨트롤러 및 그 데이터 처리 방법 - Google Patents

디바이스 컨트롤러 및 그 데이터 처리 방법 Download PDF

Info

Publication number
KR20180056998A
KR20180056998A KR1020160155032A KR20160155032A KR20180056998A KR 20180056998 A KR20180056998 A KR 20180056998A KR 1020160155032 A KR1020160155032 A KR 1020160155032A KR 20160155032 A KR20160155032 A KR 20160155032A KR 20180056998 A KR20180056998 A KR 20180056998A
Authority
KR
South Korea
Prior art keywords
device controller
core
controller
core body
data
Prior art date
Application number
KR1020160155032A
Other languages
English (en)
Inventor
이건우
이승일
윤현진
방준석
김동익
조선호
이철배
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020160155032A priority Critical patent/KR20180056998A/ko
Priority to CN201780070262.7A priority patent/CN109937395B/zh
Priority to EP17872800.2A priority patent/EP3542251A4/en
Priority to PCT/KR2017/013007 priority patent/WO2018093165A1/en
Priority to US15/819,321 priority patent/US10416788B2/en
Publication of KR20180056998A publication Critical patent/KR20180056998A/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B15/00Systems controlled by a computer
    • G05B15/02Systems controlled by a computer electric
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016Input arrangements with force or tactile feedback as computer generated output to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/0202Constructional details or processes of manufacture of the input device
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/0485Scrolling or panning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04806Zoom, i.e. interaction techniques or interactors for controlling the zooming operation
    • H02J2007/0062
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q2209/00Arrangements in telecontrol or telemetry systems
    • H04Q2209/30Arrangements in telecontrol or telemetry systems using a wired architecture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04QSELECTING
    • H04Q2209/00Arrangements in telecontrol or telemetry systems
    • H04Q2209/40Arrangements in telecontrol or telemetry systems using a wireless architecture

Abstract

본 명세서에서는 디바이스 컨트롤러 및 그 데이터 처리 방법을 개시한다. 여기서, 본 발명의 일 실시 예에 따른 디지털 디바이스를 컨트롤하는 디바이스 컨트롤러는, 커버; 및 입력부를 포함한 코어 상부, 인터페이스부를 포함한 코어 하부, 및 상기 코어 상부와 코어 하부와 결합되는 코어 바디로 구성된 코어를 포함하고, 상기 코어 바디는, 상기 디지털 디바이스를 컨트롤하기 위한 컨트롤 신호를 주고받는 해 통신 모듈, 디바이스 컨트롤러의 움직임에 따른 모션 데이터를 센싱하는 제1 센서 모듈, 상기 코어 바디에 대한 압력을 센싱하는 제2 센서 모듈, 및 상기 각 모듈의 동작을 제어하고 상기 각 센서 모듈로부터 센싱되는 데이터를 수집하여 수집된 센싱 데이터에 기초하여 컨트롤 신호를 생성하여 전송하고 피드백을 출력하는 제어부를 포함한다.

Description

디바이스 컨트롤러 및 그 데이터 처리 방법{DEVICE CONTROLLER AND METHOD OF PROCESSING DATA THE SAME}
본 발명은 디바이스 컨트롤러에 관한 것으로, 더욱 상세하게는 상기 디바이스 컨트롤러를 통한 디지털 디바이스의 제어에 관한 것이다.
종래 PC는 키보드나 마우스, 그리고 TV는 리모트 컨트롤러와 같은 컨트롤러를 통해 해당 디지털 디바이스를 컨트롤하였다. 또한, 최근에는 터치 스크린을 탑재한 디지털 디바이스들이 나오면서 터치 입력 등을 통해 해당 디지털 디바이스들을 컨트롤하고 있다.
다만, 상술한 컨트롤러는 해당 디지털 디바이스에만 유니크한 경우가 일반적이어서 다른 컨트롤러를 통한 상기 디지털 디바이스의 제어가 어려우며, 터치 입력 방식을 통한 컨트롤 역시 직접 해당 디지털 디바이스를 접촉해야 하는 거리 제한 등이 있었다.
한편, 최근 모바일 디바이스에서 애플리케이션을 다운로드하고 인스톨 후에 다른 디지털 디바이스의 컨트롤을 위한 컨트롤러 기능을 수행하기도 하는데, 이 역시 상기 모바일 디바이스를 상기 컨트롤러의 기능 내지 역할로 수행함에 따라 그 과정이 매우 복잡하고 네트워크 등 주변 상황에 따라 제한적이어서 그 한계로 인한 이용 불편이 있다.
본 명세서에서는 상기와 같은 문제점을 해소하기 위하여 디바이스 컨트롤러 및 그 데이터 처리 방법을 개시한다.
본 발명은, 복수의 디지털 디바이스들에 공통으로 이용 가능한 디바이스 컨트롤러를 제공하는 것을 일 과제로 한다.
본 발명은, 디바이스 컨트롤러를 유저가 손쉽게 이용 가능한 형태와 구조로 설계하여 그 이용 편의성을 도모하고, 직관적인 컨트롤 입력이 가능하도록 구현하는 것을 다른 과제로 한다.
본 발명은, 디바이스 컨트롤러의 디자인 자유도를 높여 다른 디바이스와 결합 등 원하는 다양한 형태로 구현되도록 하여 그 효용성을 제고하는 것을 또 다른 과제로 한다.
본 발명에서 이루고자 하는 기술적 과제는 상기 언급한 기술적 과제로 제한되지 않으며, 언급하지 않은 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 명세서에서는 디바이스 컨트롤러 및 그 데이터 처리 방법에 대한 다양한 실시 예(들)을 개시한다.
본 발명의 일 실시 예에 따른 디지털 디바이스를 컨트롤하는 디바이스 컨트롤러는, 커버; 및 입력부를 포함한 코어 상부, 인터페이스부를 포함한 코어 하부, 및 상기 코어 상부와 코어 하부와 결합되는 코어 바디로 구성된 코어를 포함하고, 상기 코어 바디는, 상기 디지털 디바이스를 컨트롤하기 위한 컨트롤 신호를 주고받는 해 통신 모듈, 디바이스 컨트롤러의 움직임에 따른 모션 데이터를 센싱하는 제1 센서 모듈, 상기 코어 바디에 대한 압력을 센싱하는 제2 센서 모듈, 및 상기 각 모듈의 동작을 제어하고 상기 각 센서 모듈로부터 센싱되는 데이터를 수집하여 수집된 센싱 데이터에 기초하여 컨트롤 신호를 생성하여 전송하고 피드백을 출력하는 제어부를 포함한다.
본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명의 효과는 다음과 같다.
본 발명의 다양한 실시 예들 중 일 실시 예에 따르면, 복수의 디지털 디바이스들에 공통으로 이용 가능한 컨트롤러를 제공할 수 있는 효과가 있다.
본 발명의 다양한 실시 예들 중 다른 실시 예에 따르면, 디바이스 컨트롤러를 유저가 손쉽게 이용 가능한 형태와 구조로 설계하여 그 이용 편의성을 도모하고, 직관적인 컨트롤 입력이 가능한 효과가 있다.
본 발명의 다양한 실시 예들 중 또 다른 실시 예에 따르면, 디바이스 컨트롤러의 디자인 자유도를 높여 다른 디바이스와 결합 등 원하는 다양한 형태로 구현되도록 하여 그 효용성을 제고할 수 있는 효과가 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명의 일 실시 예에 따른 서비스 시스템을 개략적으로 도시한 도면;
도 2는 본 발명에 따른 디바이스 컨트롤러와 데이터 커뮤니케이션을 수행하는 디지털 TV의 블록도;
도 3은 본 발명에 따른 디바이스 컨트롤러와 데이터 커뮤니케이션을 수행하는 이동 단말기의 블록도;
도 4 내지 7은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 도시한 블록도;
도 8은 본 발명에 따른 디바이스 컨트롤러와 그를 위한 커넥터를 도시한 도면;
도 9는 본 발명에 따라 디바이스 컨트롤러의 다양한 형상을 도시한 도면;
도 10은 본 발명의 일 실시 예에 따른 디지털 디바이스 제어를 위한 제어 수단을 도시한 도면;
도 11은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러(1110)와 디지털 디바이스 사이의 데이터 커뮤니케이션 순서도;
도 12는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러와 데이터 커뮤니케이션이 가능한 디바이스 또는 애플리케이션을 설명하기 위해 도시한 도면;
도 13은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러의 모션들과 각 모션 정의를 도시한 도면;
도 14와 15는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 VR 컨트롤 방법을 설명하기 위해 도시한 도면;
도 16 내지 18은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 컨텐츠 리스트 브라우징 컨트롤 방법을 설명하기 위해 도시한 도면;
도 19는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 제스처 컨트롤 방법을 설명하기 위해 도시한 도면;
도 20은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 동영상 재생 컨트롤 방법을 설명하기 위해 도시한 도면;
도 21은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용하여 원격에서 VR을 통한 또 다른 디지털 디바이스 컨트롤 방법을 설명하기 위해 도시한 도면;
도 22와 23은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 텍스트 입력 컨트롤 방법을 설명하기 위해 도시한 도면;
도 24는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 IoT 디바이스 컨트롤 방법을 설명하기 위해 도시한 도면;
도 25 내지 27은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 드론 컨트롤 방법을 설명하기 위해 도시한 도면;
도 28은 본 발명에 따른 드론 컨트롤을 위한 디바이스 컨트롤러의 다른 실시 예를 설명하기 위해 도시한 도면; 그리고
도 29는 본 발명에 따른 게임 등 애플리케이션 실행, 컨트롤 등을 위한 디바이스 컨트롤러의 또 다른 실시 예를 설명하기 위해 도시한 도면이다.
이하에서는 도면을 참조하여 본 발명에 따른 디바이스 컨트롤러 및 그 데이터 처리 방법의 다양한 실시 예(들)을 설명한다.
본 명세서에서 사용되는 구성요소에 대한 접미사 "모듈", "부" 등은 단지 명세서 작성의 용이함을 고려하여 부여되는 것으로서, 필요에 따라 양자는 혼용될 수도 있다. 또한, "제1-", "제2-" 등과 같이 서수로 기술한 경우에도 그것이 순서를 의미하기보다는 해당 용어의 설명 편의를 위한 것일 뿐, 그러한 용어나 서수에 한정되는 것은 아니다. 또한, 본 명세서에서 사용되는 용어도, 본 발명의 기술 사상에 따른 기능을 고려하여 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 다만, 특정한 경우는 출원인이 임의로 선정한 용어도 있으나, 이에 대해서는 관련 설명 부분에서 그 의미를 기술할 것이다. 따라서, 해당 용어를 단지 그 명칭이 아니라 그가 가진 실질적인 의미와 본 명세서 전반에 걸쳐 기술된 내용을 토대로 해석되어야 함을 밝혀 둔다. 한편, 본 명세서 또는/및 도면에 기술된 내용은, 본 발명에 따른 바람직한 일 실시 예로서 그에 한정되지 않으며, 그 권리범위는 특허청구범위를 통해 결정되어야 한다.
본 명세서에서 “디지털 디바이스”는 예를 들어, 컨텐트를 수신, 처리(디코딩과 같거나 그를 포함), 출력/디스플레이 등 중 적어도 하나 이상을 수행하는 모든 디바이스들을 포함한다. 상기 디지털 디바이스는 방송국 등 서버, 외부 입력 등을 통해 상기 컨텐트나 상기 컨텐트에 관한 정보를 수신, 스트리밍 또는 다운로드 받을 수 있다. 상기 디지털 디바이스는, 유/무선 네트워크를 통하여 상기 서버 등과 상기 컨텐트를 포함하여 데이터를 상호간에 송/수신할 수 있다. 상기 디지털 디바이스는, 네트워크 TV, HBBTV(Hybrid Broadcast Broadband TV), 스마트 TV, IPTV(Internet Protocol TV), PC, PDA(Personal Digital Assistant), 스마트 폰, 태블릿 PC, 노트북, 디지털 방송용 단말기, PMP(Portable Multimedia Player), 네비게이션, 슬레이트 PC(Slate PC), 울트라북(Ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기(smart watch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다.
상기에서, 유/무선 네트워크는, 전술한 서버와 디지털 디바이스 사이의 페어링(pairing) 또는 연결, 데이터 커뮤니케이션 등을 위한 모든 하드웨어 및/또는 소프트웨어를 포함하며, 표준에 의해 현재 지원되거나 향후 지원될 네트워크도 포함한다. 한편, 상기 유/무선 네트워크는 데이터 커뮤니케이션을 위한 하나 또는 그 이상의 통신 프로토콜들을 지원할 수 있다. 이러한 유/무선 네트워크는 예컨대, USB(Universal Serial Bus), CVBS(Composite Video Banking Sync), 컴포넌트(Component), S-비디오(아날로그), DVI(Digital Visual Interface), HDMI(High Definition Multimedia Interface), RGB, D-SUB와 같은 유선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜과, 블루투스(Bluetooth), WLAN(Wireless LAN)(Wi-Fi), Wi-Fi 다이렉트(direct), RFID(Radio Frequency Identification), 적외선 통신(IrDA: infrared Data Association), UWB(Ultra Wideband), 지그비(ZigBee), DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), LTE/LTE-A(Long Term Evolution/LTE-Advanced) 등과 같은 무선 연결을 위한 네트워크와 그를 위한 통신 규격 내지 프로토콜에 의하여 형성될 수 있다.
한편, 디지털 디바이스는, 범용 OS(Operating System), 웹OS(Web OS) 등이 이용될 수 있으며, 범용 OS 커널(OS kernel), 리눅스 커널(Linux kernel) 등에 다양한 서비스나 애플리케이션을 추가, 삭제, 수정, 업데이트 등 처리가 가능하며, 그를 통해 더욱 유저 친화적인 환경을 제공할 수 있다.
본 발명의 일 실시 예에 따른 디지털 디바이스를 컨트롤하는 디바이스 컨트롤러는, 커버, 및 입력부를 포함한 코어 상부, 인터페이스부를 포함한 코어 하부, 및 상기 코어 상부와 코어 하부와 결합되는 코어 바디로 구성된 코어를 포함하고, 상기 코어 바디는, 상기 디지털 디바이스를 컨트롤하기 위한 컨트롤 신호를 주고받는 통신 모듈, 디바이스 컨트롤러의 움직임에 따른 모션 데이터를 센싱하는 제1 센서 모듈, 상기 코어 바디에 대한 압력을 센싱하는 제2 센서 모듈, 및 상기 각 모듈의 동작을 제어하고 상기 각 센서 모듈로부터 센싱되는 데이터를 수집하여 수집된 센싱 데이터에 기초하여 컨트롤 신호를 생성하여 전송하고 피드백을 출력하는 제어부를 포함한다.
도 1은 본 발명의 일 실시 예에 따른 서비스 시스템을 개략적으로 도시한 도면이다.
도 1을 참조하면, 서비스 시스템은, 서로 통신 가능하며 데이터 커뮤니케이션을 수행할 수 있는 복수 개의 디지털 디바이스들(110,120,130)을 포함하여 구현될 수 있다. 여기서, 상기 복수 개의 디지털 디바이스들(110,120,130) 사이의 통신 내지 데이터 커뮤니케이션을 위하거나 상기 복수 개의 디지털 디바이스들(110,120,130) 중 적어도 하나의 디지털 디바이스를 위하여 서버(105)가 서비스 시스템에 더 포함될 수 있다. 한편, 상기 서버(105)는 경우에 따라, 게이트웨이(gateway), 중계기, 갭필러, 통신 중계기 등 다양한 프로세서 내지 디바이스이거나 그와 기능을 수행할 수 있다.
한편, 도 1에서는 비록 디지털 디바이스로 디지털 TV(110), 스마트폰(120), 스마트워치(130)만 도시되었으나, 본 발명과 관련하여 카메라, 키보드, 헤드셋, 사운드바, 스피커, 포켓포토와 같인 프린트기, 자동차, 에어컨, 냉장고, 전기밥솥, 전기청소기(또는 로봇청소기) 등 다양한 디바이스들도 상기 디지털 디바이스에 포함된다. 상술한 디지털 디바이스들은 각각 그를 위해 미리 페어링 된 디바이스 컨트롤러가 아니라 이하 본 발명에 따른 이멀시브 디바이스 컨트롤러(immersive device controller)를 통해 한꺼번에 또는 동시에 제어 가능하다. 이에 대한 상세한 설명은 후술한다. 한편, 이하에서는 본 발명에 따른 이멀시브 디바이스 컨트롤러를 편의상 단지 디바이스 컨트롤러로 명명하여 설명하나, 이러한 명칭에 한정되지 않는다. 또한, 본 발명에 따른 디바이스 컨트롤러는 해당 디지털 디바이스를 위한 고유의 디바이스 컨트롤러와는 구분된다.
도 2는 본 발명에 따른 디바이스 컨트롤러와 데이터 커뮤니케이션을 수행하는 디지털 TV의 블록도이다.
도 2를 참조하면, 디지털 TV(200)는, 네트워크 인터페이스부(network interface)(201), TCP/IP 매니저(TCP/IP manager)(202), 서비스 전달 매니저(service delivery manager)(203), SI 디코더(204), 역다중화부(demuxer or demultiplexer)(205), 오디오 디코더 (206), 비디오 디코더 (207), 디스플레이부(display A/V and OSD module)(208), 서비스 제어 매니저(service control manager)(209), 서비스 디스커버리 매니저(service discovery manager)(210), SI&메타데이터 데이터베이스(SI & metadata DB)(211), 메타데이터 매니저(metadata manager)(212), 서비스 매니저(213), UI 매니저(214) 등을 포함하여 구성된다.
네트워크 인터페이스부(201)는, 네트워크망을 통하여 IP 패킷(들)(Internet Protocol (IP) packet(s)) 또는 IP 데이터그램(들)(IP datagram(s))(이하 ‘IP 패킷(들)’이라 한다)을 서버(105)로부터 수신하거나 상기 서버(105)로 송신한다. 예를 들어, 상기 네트워크 인터페이스부(201)는 네트워크망을 통해 서버(105)로부터 지상파, 케이블, 위성, IP 등 매체를 통하여 서비스, 애플리케이션, 컨텐트, 방송 프로그램 등을 수신한다.
TCP/IP 매니저(202)는, 디지털 TV(200)로 수신되는 IP 패킷들과 상기 디지털 TV(200)가 전송하는 IP 패킷들에 대하여 즉, 소스와 목적지 사이의 패킷 전달에 관여한다. 상기 TCP/IP 매니저(202)는 수신된 IP 패킷(들)을 적절한 프로토콜에 대응하도록 분류하고, 서비스 전달 매니저(205), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등으로 상기 분류된 패킷(들)을 출력한다.
서비스 전달 매니저(203)는, 수신되는 서비스 데이터의 제어를 담당한다. 예를 들어, 서비스 전달 매니저(203)는 실시간 스트리밍 데이터를 제어하는 경우에는 RTP/RTCP를 사용할 수 있다. 상기 실시간 스트리밍 데이터를 RTP를 사용하여 전송하는 경우, 서비스 전달 매니저(203)는 상기 수신된 데이터 패킷을 RTP에 따라 파싱하여 역다중화부(205)로 전송하거나 서비스 매니저(213)의 제어에 따라 SI & 메타데이터 데이터베이스(211)에 저장한다. 그리고 서비스 전달 매니저(203)는 RTCP를 이용하여 상기 네트워크 수신 정보를 서비스를 제공하는 서버 측에 피드백한다.
역다중화부(205)는, 수신된 패킷을 오디오, 비디오, SI(System Information, Service Information or Signaling Information) 데이터 등으로 역다중화하여 각각 오디오/비디오 디코더(206/207), SI 디코더(204)에 전송한다.
SI 디코더(204)는, 역다중화된 SI 데이터 즉, PSI(Program Specific Information), PSIP(Program and System Information Protocol), DVB-SI(Digital Video Broadcasting-Service Information), DTMB/CMMB(Digital Television Terrestrial Multimedia Broadcasting/Coding Mobile Multimedia Broadcasting) 등 다양한 표준에 의해 송/수신단 사이에 약속된 서비스 정보를 디코딩한다. 또한, SI 디코더(204)는, 디코딩된 서비스 정보들을 SI & 메타데이터 데이터베이스(211)에 저장할 수 있다. 저장된 서비스 정보는 예를 들어, 유저의 요청 등에 의해 독출되어 이용될 수 있다.
오디오/비디오 디코더(206/207)는, 역다중화된 각 오디오 데이터와 비디오 데이터를 디코딩한다. 이렇게 디코딩된 오디오 또는/및 비디오 데이터는 디스플레이부(208)를 통하여 유저에게 제공된다.
애플리케이션 매니저는 예를 들어, UI 매니저(214)와 서비스 매니저(213)를 포함하며, 디지털 TV(200)의 제어부 기능을 수행할 수 있다. 다시 말해, 애플리케이션 매니저는, 디지털 TV(200)의 전반적인 상태를 관리하고 유저 인터페이스(UI: User Interface)를 제공하며, 다른 매니저를 관리할 수 있다.
UI 매니저(214)는, 유저를 위한 GUI(Graphic User Interface)/UI를 OSD(On Screen Display) 등을 이용하여 제공하며, 유저로부터 키 입력을 받아 상기 입력에 따른 디바이스 동작을 수행한다. 예를 들어, UI 매니저(214)는 유저로부터 채널 선택에 관한 키 입력을 받으면 상기 키 입력 신호를 서비스 매니저(213)에 전송한다.
서비스 매니저(213)는, 서비스 전달 매니저(203), 서비스 디스커버리 매니저(210), 서비스 제어 매니저(209), 메타데이터 매니저(212) 등 서비스와 연관된 매니저를 제어한다. 또한, 서비스 매니저(213)는, 채널 맵(channel map)을 생성하고 UI 매니저(214)로부터 수신한 키 입력에 따라 상기 생성된 채널 맵을 이용하여 채널을 선택 등을 제어한다. 상기 서비스 매니저(213)는 SI 디코더(204)로부터 서비스 정보를 전송받아 선택된 채널의 오디오/비디오 PID(Packet Identifier)를 역다중화부(205)에 설정한다. 이렇게 설정되는 PID는 상술한 역다중화 과정에 이용될 수 있다. 따라서, 역다중화부(205)는 상기 PID를 이용하여 오디오 데이터, 비디오 데이터 및 SI 데이터를 필터링(PID or section filtering) 한다.
서비스 디스커버리 매니저(210)는, 서비스를 제공하는 서비스 프로바이더(service provider)를 선택하는데 필요한 정보를 제공한다. 상기 서비스 매니저(213)로부터 채널 선택에 관한 신호를 수신하면, 서비스 디스커버리 매니저(210)는 상기 정보를 이용하여 서비스를 찾는다.
서비스 제어 매니저(209)는, 서비스의 선택과 제어를 담당한다. 예를 들어, 서비스 제어 매니저(209)는 유저가 기존의 방송 방식과 같은 생방송(live broadcasting) 서비스를 선택하는 경우 IGMP 또는 RTSP 등을 사용하고, VOD(Video on Demand)와 같은 서비스를 선택하는 경우에는 RTSP를 사용하여 서비스의 선택, 제어를 수행한다. 상기 RTSP 프로토콜은 실시간 스트리밍에 대해 트릭 모드(trick mode)를 제공할 수 있다. 또한, 서비스 제어 매니저(209)는 IMS(IP Multimedia Subsystem), SIP(Session Initiation Protocol)를 이용하여 IMS 게이트웨이(250)를 통하는 세션을 초기화하고 관리할 수 있다. 상기 프로토콜들은 일 실시 예이며, 구현 예에 따라 다른 프로토콜을 사용할 수도 있다.
메타데이터 매니저(212)는, 서비스와 연관된 메타데이터를 관리하고 상기 메타데이터를 SI & 메타데이터 데이터베이스(211)에 저장한다.
SI & 메타데이터 데이터베이스(211)는, SI 디코더(204)가 디코딩한 서비스 정보, 메타데이터 매니저(212)가 관리하는 메타데이터 및 서비스 디스커버리 매니저(210)가 제공하는 서비스 프로바이더를 선택하는데 필요한 정보를 저장한다. 또한, SI & 메타데이터 데이터베이스(211)는 시스템에 대한 세트-업 데이터 등을 저장할 수 있다. SI & 메타데이터 데이터베이스(211)는, 비휘발성 메모리(Non-Volatile RAM: NVRAM), 플래시 메모리(flash memory) 등을 사용하여 구현될 수도 있다.
한편, IMS 게이트웨이(250)는, IMS 기반의 IPTV 서비스 등에 접근하기 위해 필요한 기능들을 모아 놓은 게이트웨이이다.
도 2에서 상기 네트워크 인터페이스부(201), 애플리케이션 매니저의 적어도 일 구성 등은 유저, 다른 디지털 디바이스 등과의 통신 내지 데이터 커뮤니케이션을 위한 인터페이스를 제공하고, 컨트롤 데이터를 포함하여 데이터를 주고받을 수 있다.
도 3은 본 발명에 따른 디바이스 컨트롤러와 데이터 커뮤니케이션을 수행하는 이동 단말기의 블록도이다.
도 3을 참조하면, 이동 단말기(300)는, 무선 통신부(310), A/V(Audio/Video) 입력부(320), 유저 입력부(330), 센싱부(340), 출력부(350), 메모리(360), 인터페이스부(370), 제어부(380), 전원 공급부(390) 등을 포함한다.
무선 통신부(310)는, 이동 단말기(300)와 무선 통신 시스템 사이 또는 이동 단말기와, 이동 단말기가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 적어도 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(310)는 방송 수신 모듈(311), 이동 통신 모듈(312), 무선 인터넷 모듈(313), 근거리 통신 모듈(314), 위치 정보 모듈(315) 등을 포함할 수 있다.
방송 수신 모듈(311)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련 정보를 수신한다. 여기서, 방송 채널은 위성 채널과 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함하며, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 프로바이더에 관련된 정보를 포함할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이 경우에는 상기 이동통신 모듈(312)에 의해 수신될 수 있다. 방송 관련 정보는 예를 들어, 이동 단말기(300)에서 EPG(Electronic Program Guide)나 ESG(Electronic Service Guide) 등을 생성하고 출력하기 위한 데이터를 포함할 수 있다. 방송 수신 모듈(311)은 예를 들어, ATSC, DVB-T(Digital Video Broadcasting-Terrestrial), DVB-S(Satellite), MediaFLO(Media Forward Link Only), DVB-H(Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 방송 수신 모듈(311)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 디지털 방송 시스템에 적합하도록 구성될 수도 있다. 방송 수신 모듈(311)을 통해 수신되는 방송 신호와 방송 관련 정보는, 메모리(360)에 저장될 수 있다.
이동 통신 모듈(312)은, 이동 통신망 상에서 기지국, 외부 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 무선 신호는, 음성 신호, 화상 통화 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(313)은, 무선 인터넷 접속을 위한 모듈을 포함하여, 이동 단말기(300)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN (Wi-Fi), Wibro, Wimax, HSDPA 등이 이용될 수 있다.
근거리 통신 모듈(314)은, 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스, RFID, 적외선 통신(IrDA), UWB, 지그비, RS-232, RS-485 등이 이용될 수 있다.
위치정보 모듈(315)은, 이동 단말기(300)의 위치 정보 획득을 위한 모듈로서, GPS(Global Position System) 모듈을 예로 할 수 있다.
A/V 입력부(320)는, 오디오 또는/및 비디오 신호 입력을 위한 것으로, 이에는 카메라(321)와 마이크(322) 등이 포함될 수 있다. 카메라(321)는, 화상통화 모드 또는 촬영 모드에서 이미지 센서에 의해 획득되는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(351)에 표시될 수 있다.
카메라(321)에서 처리된 화상 프레임은, 메모리(360)에 저장되거나 무선 통신부(310)를 통하여 외부로 전송될 수 있다. 카메라(321)는, 사용 환경에 따라 2개 이상이 구비될 수도 있다.
마이크(322)는, 통화 또는 녹음 모드, 음성 인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 변환 처리한다. 처리된 음성 데이터는, 통화 모드인 경우 이동 통신 모듈(312)을 통하여 이동 통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(322)에는 외부의 음향 신호를 입력받는 과정에서 발생하는 노이즈를 제거하기 위한 다양한 노이즈 제거 알고리즘이 구현될 수 있다.
유저 입력부(330)는, 유저에 의한 단말기의 동작 제어를 위한 입력에 대응되는 신호를 발생시킨다. 유저 입력부(330)는, 키 패드(key pad), 돔 스위치(dome switch), 터치 패드(정압/정전), 조그 휠(jog wheel), 조그 스위치(jog switch) 등으로 구성될 수 있다.
센싱부(340)는, 이동 단말기(300)의 개폐 상태, 이동 단말기(300)의 위치, 유저 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(300)의 현재 상태를 감지하여 이동 단말기(300)의 동작 제어를 위한 센싱 신호를 발생시킨다. 예를 들어, 이동 단말기(300)가 이동되거나 기울어진 경우, 상기 이동 단말기(300)의 위치 내지 기울기 등을 센싱할 수 있다. 또한, 전원 공급부(390)의 전원 공급 여부, 인터페이스부(370)의 외부 디바이스 결합 여부 등도 센싱할 수도 있다. 한편, 센싱부(340)는, NFC(Near Field Communication) 등을 포함한 근접 센서(341)를 포함할 수 있다.
출력부(350)는, 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(351), 음향 출력 모듈(352), 알람부(353), 및 햅틱 모듈(354) 등이 포함될 수 있다.
디스플레이부(351)는, 이동 단말기(300)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 단말기가 통화 모드인 경우 통화와 관련된 UI 또는 GUI를 표시한다. 이동 단말기(300)가 화상 통화 모드 또는 촬영 모드인 경우에는, 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(351)는, 액정 디스플레이(LCD), 박막 트랜지스터 액정 디스플레이(TFT LCD), 유기 발광 다이오드(OLED), 플렉시블 디스플레이, 3차원 디스플레이 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(351)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 유저는 단말기 바디의 디스플레이부(351)가 차지하는 영역을 통해 단말기 바디(body)의 후방에 위치한 사물을 볼 수 있다.
이동 단말기(300)의 구현 형태에 따라 디스플레이부(351)가 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(300)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(351)와 터치 동작을 감지하는 센서(이하 '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(351)는 출력 디바이스 이외에 입력 디바이스로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(351)의 특정 부위에 가해진 압력 또는 디스플레이부(351)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(380)로 전송한다. 이로써, 제어부(380)는 디스플레이부(351)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(341)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.
상기 근접 센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.
음향 출력 모듈(352)은, 호신호 수신, 통화 또는 녹음 모드, 음성 인식 모드, 방송 수신 모드 등에서 무선 통신부(310)로부터 수신되거나 메모리(360)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(352)은 이동 단말기(300)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(352)에는 리시버(receiver), 스피커, 부저(buzzer) 등이 포함될 수 있다.
알람부(353)는, 이동 단말기(300)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(300)에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(353)는, 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(351)나 음성 출력 모듈(352)을 통해서도 출력될 수 있어서, 그들(351,352)은 알람부(353)의 일부로 분류될 수도 있다.
햅틱 모듈(haptic module)(354)은, 유저가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(354)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(354)이 발생하는 진동의 세기와 패턴 등은 제어 가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. 햅틱 모듈(354)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉/온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. 햅틱 모듈(354)은, 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 유저가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(354)은, 이동 단말기(300)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리(360)는, 제어부(380)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰 북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(360)는 상기 터치스크린 상의 터치 입력 시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(360)는, 플래시 메모리 타입, 하드디스크 타입, 멀티미디어 카드 마이크로 타입, 카드 타입의 메모리(예를 들어, SD 또는 XD 메모리 등), 램(RAM), SRAM, 롬(ROM), EEPROM, PROM, 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(300)는 인터넷 상에서 상기 메모리(360)의 저장 기능을 수행하는 웹 스토리지와 관련되어 동작할 수도 있다.
인터페이스부(370)는, 이동 단말기(300)에 연결되는 모든 외부 디바이스와의 통로 역할을 한다. 인터페이스부(370)는 외부 디바이스로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(300) 내부의 각 구성 요소에 전달하거나, 이동 단말기(300) 내부의 데이터가 외부 디바이스로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드 포트, 식별 모듈이 구비된 디바이스를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O 포트, 이어폰 포트 등이 인터페이스부(370)에 포함될 수 있다.
식별 모듈은 이동 단말기(300)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 유저 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 유저 인증 모듈(Universal SIM, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 디바이스(이하 '식별 디바이스')는, 스마트 카드 형식으로 제작될 수 있다. 따라서, 식별 디바이스는 포트를 통하여 이동 단말기(300)와 연결될 수 있다.
인터페이스부(370)는, 이동 단말기(300)가 외부 크래들(cradle)과 연결될 때, 상기 크래들로부터의 전원이 상기 이동 단말기(300)에 공급되는 통로가 되거나, 유저에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기로 전달되는 통로가 될 수 있다. 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은, 이동 단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(380)는, 통상적으로 이동 단말기(300)의 전반적인 동작을 제어한다. 제어부(380)는 예를 들어, 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(380)는, 멀티미디어 재생을 위한 멀티미디어 모듈(381)을 구비할 수도 있다. 멀티미디어 모듈(381)은, 제어부(380) 내에 구현될 수도 있고, 제어부(380)와 별도로 구현될 수도 있다. 제어부(380)는, 터치-스크린상에서 이루어지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.
전원 공급부(390)는, 제어부(380)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 디바이스로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs, DSPs, DSPDs, PLDs, FPGAs, 프로세서, 제어기, 마이크로-컨트롤러, 마이크로프로세서, 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시 예들이 제어부(380) 자체로 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여 진 소프트웨어 애플리케이션으로 소프트웨어 코드가 구현될 수 있다. 여기서, 소프트웨어 코드는, 메모리(360)에 저장되고, 제어부(380)에 의해 실행될 수 있다.
한편, 유저가 주로 손에 쥐고 사용하는 차원을 넘어서, 신체에 착용할 수 있는 웨어러블 디바이스는, 본 명세서에서 디지털 디바이스 또는 외부 디바이스로 동작 또는 기능할 수 있다. 이러한 웨어러블 디바이스에는 스마트 워치, 스마트 글래스, HMD 등이 있다.
도 1에 도시된 바와 같이, 웨어러블 디바이스는 다른 디바이스와 데이터를 상호 교환(또는 연동)할 수 있다. 근거리 통신 모듈(314)은, 이동 단말기(300) 주변에 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(380)는 감지된 웨어러블 디바이스가 이동 단말기(300)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(300)에서 처리되는 데이터의 적어도 일부를, 근거리 통신 모듈(314)을 통하여 웨어러블 디바이스로 전송할 수 있다. 따라서, 유저는 이동 단말기(300)에서 처리되는 데이터를 웨어러블 디바이스를 통하여 이용할 수 있다. 예를 들어, 이동 단말기(300)에 전화가 수신된 경우 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(300)에 메시지가 수신된 경우 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인할 수 있다.
이하 본 발명에 따른 디바이스 컨트롤러와 그 데이터 처리 방법에 관하여 첨부된 도면들을 참조하여 더욱 상세하게 설명한다. 한편, 이하 본 명세서에서 기술하는 구성들의 형상, 구조 등은 본 발명에 따른 일 실시 예일뿐, 이에 한정되지 않음을 미리 밝혀 둔다.
도 4 내지 7은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 도시한 블록도이다.
도 4a는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러의 기본 형상을 도시한 것이고, 도 4b는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러의 코어를 도시한 것이다.
도 4a를 참조하면, 디바이스 컨트롤러는 코어(410)와 커버(420)를 포함하여 구성된다.
도 4b를 참조하면, 코어(410)는 원기둥 형상으로 소정 지름(x)과 높이(y)로 구현될 수 있다. 여기서, 상기 x와 y는 양의 정수로 각각 적어도 1mm 이상일 수 있다. 다만, 본 명세서에서는, 편의상 상기 x는 30-40mm 그리고 상기 y는 50-60mm를 예로 한다. 다만, 상기한 수치에 한정되는 것은 아니다. 그리고 상기 코어(410)의 형상 역시 원기둥 형태에 한정되는 것은 아니다. 따라서, 상기 코어(410)는 시스템에 따라 직사각형, 정사각형, 원뿔, 삼각뿔 등 다양한 형태로 구현될 수 있다.
도 5는 코어 및 그 내부 구성에 관하여 도시한 도면이다.
도 5a 내지 5c는 각각 코어 상부(510), 코어 바디(520), 코어 하부(530)를 도시한 것이다. 여기서, 상기 코어 상부(510)와 코어 하부(530)는 설명의 편의를 위한 것으로 제1 구성, 제2 구성 등 다양한 명칭으로 명명될 수 있다.
도 5a의 코어 상부(510)는 버튼(512)을 포함할 수 있다. 상기 버튼(512)은 유저 입력 인터페이스로 그 액세스에 의해 발생하는 신호를 도 5b의 코어 바디(520)로 전달할 수 있다.
도 5c의 코어 하부(530)는 상기 코어 상부(510)에 대응되며, 인터페이스부(532)를 포함할 수 있다. 여기서, 상기 인터페이스부(532)는 USB, 마이크로 USB(Micro USB), 포고 핀(POGO pin), 커넥터(Connector) 등 인터페이싱 환경을 제공하고, 그 밖에 디바이스 컨트롤러 자체의 충전 포트 기능도 수행할 수 있다. 한편, 상기 인터페이스부(532)는 외부 액세서리 등과 결합 가능한 구조를 포함하여 기능 확장성을 제공할 수 있다.
한편, 상기 도 5a와 5c에서 개시한 코어 상부(510)와 코어 하부(520) 중 적어도 하나는 코어 바디(520)와 결합 가능한 구조를 가질 수 있다. 따라서, 도시된 코어 상부(510)나 코어 하부(530)와 다른 구조나 다른 기능을 포함한 다른 구성으로 대체 가능할 수 있다.
도 5b의 코어 바디(520)는 코어 상부(510)와 코어 하부(530)와 결합하여 코어를 구성한다.
도 5d와 5e를 참조하여, 코어 바디(520)에 대해 더욱 상세하게 설명한다.
도 5d를 참조하면, 본 발명에 따른 코어 바디(520)의 일 예는, 제1 코어 바디 커버와 제2 코어 바디 커버를 포함하여 그 결합으로 구성된다.
상기 코어 바디(520) 내부에는, 통신 모듈, 센서 모듈 등을 포함한 모듈부(552), 탄성체(554) 등이 포함된다.
여기서, 상기 통신 모듈은 페어링 또는 연결되는 디지털 디바이스의 컨트롤을 위하여 데이터 커뮤니케이션을 위한 것으로, 와이파이, 블루투스, 지그비, Z-wave, UART, RS-232, RS-485, USB 등 다양한 유/무선 통신 프로토콜을 지원할 수 있다.
상기 센서 모듈은, 3축, 6축 또는 9축 센서일 수 있다. 여기서는, 편의상 상기 센서 모듈이 자이로, 가속도, 지자기 등을 이용한 9축 센서를 포함하는 것을 일 실시 예로 한다. 따라서, 상기 센서 모듈은 디바이스 컨트롤러의 수직, 수평과 같은 동서남북 방위, 움직임, 방향성, 가속도, 모션 등을 다양하게 센싱할 수 있다.
상기 탄성체(554)는 탄성을 가지고 압력을 측정할 수 있는 물체로서 마그네틱 스프링, 스프링, 전도성 실, 전자 섬유 등을 포함한다. 이러한 탄성체(554)는 코어 바디(520) 전체가 그랩되는 힘에 의해 압축되었다 압축 해제되면 원상 회복된다. 이때, 탄성체(554)는 상기 압축 정도에 따라 압력 등을 센싱할 수 있다. 이렇게 센싱된 압력은 후술하는 바와 같이, 소정 컨트롤 신호를 발생시킬 수 있다.
그 밖에, 상술한 코어 바디(520)는 액츄에이터(actuator), 택트 키(tact key), 압력 센서 등을 더 포함할 수 있다.
상기 액츄에이터는 모듈부(552)에 포함될 수 있으며, 바이브레이터, 컴프레셔, 모터 등을 포함하며 디바이스 컨트롤러를 그랩한 유저에게 피드백을 전달할 수 있다. 여기서, 상기 피드백은 진동, 소리 등 다양한 형태로 이루어질 수 있으며, 그에 따라 다른 구성이 더 포함될 수도 있다. 또한, 상기 피드백은 물체를 잡는 느낌을 준다거나 무게감이나 저항감 등이 느껴지도록 구현될 수 있다.
상기 택트 키(566)는 코어 바디(520) 전체의 그랩 여부를 인식(예를 들어, 클릭 등)하는데 이용될 수 있다.
상기 압력 센서(562,564)는 압력을 센싱할 수 있는 소재로서 전자 섬유, FSR, 전도성실 등을 포함하여, 디바이스 컨트롤러를 그랩하는 압력 값을 센싱할 수 있다.
상기 제1 코어 바디 커버(550)와 제2 코어 바디 커버(560)는 결합 가능한 구조를 가질 수 있다.
도 5e에서는 도 5d와 거의 유사하나 내부 구성만 조금 다르게 구성한 것으로, 예컨대 전원 공급을 위한 배터리 모듈이나 상술한 도 5d의 구성들을 다른 형태로 구현한 모듈들을 포함할 수 있다.
도 6a는 본 발명에 따른 디바이스 컨트롤러의 단면도이고, 도 6b는 코어의 구성도이다.
도 7은 코어 바디(520)의 제1 코어 바디 커버와 제2 코어 바디 커버 중 적어도 하나에, 도 7e와 같은 모터(710)를 탑재하여 소정 이벤트나 피드백과 관련하여, 디바이스 컨트롤러 특히, 코어 바디(520)의 크기를 조정에 관한 도면이다.
도 7a와 7b는, 바디 코어의 변형을 통해 전체 디바이스 컨트롤러의 사이즈에 변화를 주어 유저가 상기 디바이스 컨트롤러를 손에 쥐는 경우에 부피감을 느낄 수 있다. 예컨대, 디바이스 컨트롤러는 VR 공간에 등장하는 물체의 크기 정보를 받아 그에 비례하여 사이즈를 변경하여 제공할 수 있다. 또는, 상기 디바이스 컨트롤러는 유저의 손 사이즈에 맞게 사이즈가 조정될 수 있다. 예컨대, 유저가 디바이스 컨트롤러의 사이즈 조정 설정을 시작하고, 유저가 상기 디바이스 컨트롤러를 손으로 편하게 잡고 있는 상태에서 상기 디바이스 컨트롤러의 사이즈가 변형되면서 상기 유저의 손에 닿는 압력 값을 센싱하여 최적의 사이즈로 조정할 수도 있다.
그 밖에, 이러한 디바이스 컨트롤러의 바디 코어의 사이즈 조정은, 피드백 용도로도 사용 가능한 등 다양하게 이용할 수 있다.
도 7a와 7b를 참조하면, 코어 바디를 구성하는 제1 코어 바디 커버와 제2 코어 바디 커버는 모터에 의해 제1 모드(first mode, common mode)에 대응되는 제1 동작을 수행한다. 이러한 제1 동작을 통해 상기 코어 바디의 제1 코어 바디 커버와 제2 코어 바디 커버는 결합 또는 제1 위치에 각각 위치하도록 제어한다.
도 7c와 7d를 참조하면, 코어 바디를 구성하는 제1 코어 바디 커버와 제2 코어 바디 커버는 모터에 의해 제2 모드에 대응되는 제2 동작을 수행한다. 이러한 제2 동작을 통해 상기 코어 바디의 제1 코어 바디 커버와 제2 코어 바디 커버는 결합 해제 또는 제2 위치에 위치되도록 제어될 수 있다.
상기에서, 제1 위치와 제2 위치는 해당 모드에 따라 결정될 수 있다. 편의상 제1 위치는 상기 코어 바디의 각 코어 바디 커버가 서로 결합 또는 결합될 정도로 가까이 있는 위치로 이를 디지털 디바이스의 코어 바디 수축으로 판단할 수 있다. 반면, 상기 제2 위치는 상기 코어 바디의 각 코어 바디 커버가 최대한 서로 멀어지는 위치 중 적어도 하나의 위치로 상기 코어 바디 커버들 사이의 거리(d2)는 설정 등에 의해 결정될 수 있다. 다시 말해, 도 7b와 7d를 참조하면, 제1 모드에서 코어 바디 커버들 사이의 거리(d1)는 제2 모드에서 코어 바디 커버들 사이의 거리(d2)에 비해 짧을 수 있다. 한편, 상기 d2는 d1보다 길고 디바이스 컨트롤러에 설정된 최대 거리 범위 내일 수 있다.
그 밖에, 설명의 편의를 위해, 도 7에서는 모터(710)를 이용하였으나, 그 외에 전술한 동작을 수행 가능한 다른 구성도 가능하다.
상술한 도 7a와 7b 및 7c와 7d의 설명은 그 반대일 수도 있다.
도 8은 본 발명에 따른 디바이스 컨트롤러와 그를 위한 커넥터를 도시한 도면이다.
도 8a와 8b에 도시된 상기 커넥터는 디바이스 컨트롤러를 고정하기 위한 고정부(810)와 상기 고정부(810)에 고정된 디바이스 컨트롤러의 충전 등을 위한 충전 케이블(820)과 결합되는 인터페이스부를 포함한다. 상기 고정부(810) 내부에는 상기 디바이스 컨트롤러의 충전 커넥터와 결합되어 상기 충전 케이블(820)을 통해 공급되는 전원을 상기 디바이스 컨트롤러로 전달하는 인터페이스부(830)가 포함될 수 있다. 그 밖에, 상기 고정부(810)는 상기 디바이스 컨트롤러의 모양에 대응되는 적합한 형상으로 상기 디바이스 컨트롤러를 고정할 수 있다.
도 9는 본 발명에 따라 디바이스 컨트롤러의 다양한 형상을 도시한 도면이다. 여기서, 도 9에 도시된 형상은 그 자체가 디바이스 컨트롤러일 수도 있으며, 상기 디바이스 컨트롤러가 결합된 디바이스일 수도 있다.
도 4 내지 8에서 전술한 디바이스 컨트롤러의 코어 바디를 제외한 외부 커버는 다양한 형상, 소재 등으로 구현될 수 있다. 예컨대, 상기 외부 커버는 플라스틱이나 스테인레스와 같은 딱딱한 소재나 스펀지와 같은 부드러운 소재로 구현될 수 있다.
한편, 도 9a 내지 9d에서는, 코어 바디에 다양한 외부 커버를 결합한 디바이스 컨트롤러의 형상이다. 반면, 도 9e는 의자(chair)에 코어 바디가 부착된 형상을 도시한 것이다.
도 10은 본 발명의 일 실시 예에 따른 디지털 디바이스 제어를 위한 제어 수단을 도시한 도면이다.
도 10a는 디바이스 컨트롤러의 내부 구성에 관한 간략도로, 여기서 외부 커버(1040)는 도 10b와 같이 유저가 쥘 수 있도록 소프트 커버일 수도 있다. 도 10a를 참조하면, 바디 코어는 9축 센서(1010), 압력 센서(1020), 바이브레이터 등을 포함하여 도 10b와 같은 유저의 디바이스 컨트롤러 그랩에 따른 압력과 도 10c 내지 10e와 같은 모션 인식을 수행할 수 있다. 한편, 상기 그랩 압력과 모션 인식 외에 버튼(1030)이 디바이스 컨트롤러에 구비되어, VR, 드론, 로봇 등 다양한 디바이스 이용 과정에서 선택 편의를 기할 수 있다.
도 10b는 소프트 커버를 채용한 디바이스 컨트롤러로 유저가 상기 디바이스 컨트롤러를 그랩한 모습을 도시하였다. 여기서, 상기 디바이스 컨트롤러 그랩은, 상술한 디바이스 컨트롤러 상에 구현된 버튼의 기능을 대체할 수도 있다.
도 10c는 디바이스 컨트롤러의 자유 움직임에 관한 것으로, 이 경우 상기 디바이스 컨트롤러의 자유 움직임은 커서 움직임, 제스처 움직임, 방향성 움직임 등에 매핑될 수 있다.
도 10d는 디바이스 컨트로러에 대한 그랩과 같은 압력과 함께 움직임 경우에 관한 것으로, 이 경우 상기 압력에 따라 멀티-레벨 압력 입력을 구분하여 정의할 수 있으며, 속도 센서 인테그레이션, 연속적인 커맨드 입력 등이 가능할 수 있다.
도 10e는 디바이스 컨트롤러 상의 촉각 피드백에 관한 것으로, VR 기기에서 터치 및 그랩, 사이즈나 볼륨 등에 대한 가상 센싱 등을 제공할 수 있다.
다만, 전술한 도 10의 각 내용은 디바이스 컨트롤러를 설명하기 위한 일 실시 예로서, 본 발명이 이에 한정되는 것은 아니고 다르게 정의하고 구현할 수 있다.
도 11은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러(1110)와 디지털 디바이스 사이의 데이터 커뮤니케이션 순서도이다.
디바이스 컨트롤러(1110)는 컨트롤러에 대한 그랩과 같은 압력이 있으면 압력 센서를 통해 이를 센싱하고(S1102), 키 입력이 있으면 이를 수신하고(S1104), 또는 그 밖에 컨트롤러에 대한 움직임이 있으면 9축 센서를 통해 상기 움직임을 센싱한다(S1106). 상기 S1102, S1104, 및 S1106 단계는 디바이스 컨트롤러에 대한 이벤트에 따라 적어도 하나 또는 그 어떤 조합으로 동시에 또는 이시에 수행될 수 있다. 따라서, 상기 단계들은 그 선후가 임의적인 것일 뿐이다.
디바이스 컨트롤러(1110)는 상기 S1102, S1104, 또는 S1106 단계 중 적어도 하나가 수행되면, 상기 수행 결과로 수집한 데이터에 기초하여 디지털 디바이스(1120)로 전송하기 위한 통신 패킷을 구성하고(S1108), 이렇게 구성된 통신 패킷을 상기 디지털 디바이스(1120)로 전송한다(S1110).
상기 디지털 디바이스(1120)는 상기 전송된 통신 패킷을 수신하고(S1112), 이렇게 수신된 통신 패킷을 파싱한다(S1114). 디지털 디바이스(1120)는 상기 파싱 결과 상기 통신 패킷에 포함된 데이터에 기초하여 소정 동작을 수행하고 피드백할 수 있다. 이러한 소정 동작의 하나로 애플리케이션 실행이 포함된다(S1116).
도 12는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러와 데이터 커뮤니케이션이 가능한 디바이스 또는 애플리케이션을 설명하기 위해 도시한 도면이다.
도 12a에서는 웹 브라우저, 도 12b에서는 동영상 플레이어, 도 12c에서는 게임 디바이스, 도 12d에서는 드론, 그리고 도 12e와 12f에서는 로봇을 예로 도시하였다. 다만, 본 발명에 따른 디바이스 컨트롤러는 단지 도 12에 도시된 디바이스들에 대한 디바이스의 컨트롤에만 한정되는 것은 아님을 미리 밝혀 둔다.
도 13은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러의 모션들과 각 모션 정의를 도시한 도면이다.
도 13은 본 발명에 따른 디바이스 컨트롤러의 모션의 종류와 각 모션에 따른 동작의 정의 내지 의미에 대한 일 실시 예를 도시한 것이다. 다만, 도 13에 도시한 모션들은 설명의 편의를 위한 것으로 임의적이며 다른 모션들도 포함하고 각 모션에 대한 정의 역시 도시된 바와 다를 수 있음을 미리 밝혀 둔다.
먼저, 도 13d의 x-y-z 축을 기준으로, 도 13a와 13b에서는 디바이스 컨트롤러에 대한 그랩 모션, 버튼 모션 등에 대한 다양한 모션 정의들을 예시하였다. 도 13a와 13b를 참조하면, 디바이스 컨트롤러의 단순 x-y, y-z, x-z 축에 대한 모션, 그랩 모션, 그랩 상태에서 x-y, y-z, x-z 축에 대한 모션, 회전 모션, 버튼 클릭 모션, 상기 각 모션들의 적절한 조합 등에 대해 다양하게 정의되어 있다.
한편, 도 13c에서는, 도 13a와 13b의 디바이스 컨트롤러 자체의 모션 뿐만 아니라 도 13c에서는 범프 모션 즉, 상기 디바이스 컨트롤러와 예를 들어, 유저의 손바닥을 이용한 모션 정의를 예시하였다.
도 14와 15는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 롤링보트(Rolling bot)/VR 컨트롤 방법을 설명하기 위해 도시한 도면이다.
먼저, 도 14와 15는 롤링보트나 드론과 같은 디지털 디바이스(제1 디바이스)를 본 발명에 따른 디바이스 컨트롤러를 통해 제어하는 과정을 설명하기 위해 도시한 것이다. 이때, 설명의 편의를 위해, 디바이스 컨트롤러를 휴대한 유저는 별도의 디스플레이 디바이스(VR도 포함)(제2 디바이스) 등을 통해 상기 롤링보트나 드론의 1인칭 뷰를 시청 중으로 가정한다.
먼저, 도 14a의 1인칭 뷰 화면이 제공된 이후, 디바이스 컨트롤러의 모션이 감지되면, 상기 디스플레이 디바이스는 상기 1인칭 뷰 화면 내에 가상의 수평선 또는 가상 평면을 제공할 수 있다. 여기서, 유저가 디바이스 컨트롤러를 예를 들어, 제자리에서 회전 모션을 수행하면, 상기 디바이스 컨트롤러는 상기 회전 모션 수행에 대한 센싱 값을 수집하여 상기 제1 디바이스에 상기 수집된 센싱 값에 따른 컨트롤 커맨드 또는 그를 포함한 컨트롤 신호(이하 컨트롤 신호)를 전송한다. 그리고 상기 제1 디바이스는 상기 컨트롤 신호가 수신되면, 이를 파싱한 후에 상기 컨트롤 신호에 포함된 컨트롤 커맨드에 대응되는 동작을 수행한다. 즉, 제1 디바이스는 상기 디바이스 컨트롤러의 회전 모션(회전 방향도 동일하게)에 따른 회전 운동을 수행한다.
도 14b에서는 유저가 한 손(L)의 수직 평면에 다른 손(R)으로 휴대한 디바이스 컨트롤러를 범핑 모션을 하면, 상기 범핑 모션에 대한 센싱 데이터를 수집하고, 수집된 센싱 데이터에 기초하여 컨트롤 신호를 생성하여 상기 제1 디바이스로 전송한다. 상기 제1 디바이스는 상기 컨트롤 신호가 수신되면, 수신된 컨트롤 신호를 파싱하여 컨트롤 커맨드를 추출하고, 추출된 컨트롤 커맨드를 디코딩하여 대응되는 모션 (예를 들어, 유저 방향으로 돌아오는 모션)을 수행한다.
도 15에서는 디바이스 컨트롤러를 단순 움직이면 그에 따라 제1 디바이스가 대응되는 움직임을 한다. 이때, 상기 디바이스 컨트롤러의 x-y-z 축 방향 모션에 따라 상기 제1 디바이스 역시 대응되는 동작을 할 수 있다. 또한, 디바이스 컨트롤러의 모션 거리 다시 말해, 제1 지점에서 제2 지점까지 x-y-z 축 방향 모션이 있는 경우에, 임의로 또는 설정에 따라 동일한 거리 또는 비율로 제1 디바이스의 동작 거리도 결정될 수 있다. 예컨대, 유저가 디바이스 컨트롤러를 수평으로 약 10cm 우측으로 움직이면, 이에 따라 제1 디바이스는 현재 위치에서 수평으로 또는 현재 진행 방향에 따라 그 방향에서 우측으로 동일하게 10cm, 또는 1m 등을 움직일 수 있다.
한편, 도 15를 참조할 때, 유저가 디바이스를 롱 그랩하면, 제1 디바이스는 현재 동작을 계속하여 지속할 수 있다.
디바이스 컨트롤러의 하나의 동작 시나리오를 예를 들면, 제1 디바이스가 동작을 멈추고 있는 상태에서 유저가 디바이스 컨트롤러를 그랩하면 상기 제1 디바이스는 동작(예를 들어, 전진)을 시작할 수 있다. 이후 유저가 디바이스 컨트롤러를 그랩한 상태에서 좌회전, 우회전, 후진 모션을 취하면 상기 제1 디바이스는 그에 따라 대응되는 동작을 수행한다. 상기 과정 또는 상기 과정 후에 제1 디바이스 동작 중에 유저가 상기 디바이스 컨트롤러를 스트롱 그랩을 하면, 상기 그랩 세기에 따라 제1 디바이스의 동작 속도를 컨트롤할 수 있다. 이후 유저가 디바이스 컨트롤러에 대한 그랩을 해제하면, 제1 디바이스는 동작을 멈추거나 미리 정의된 위치로 돌아올 수 있다.
상술한 유저의 디바이스 컨트롤러를 통한 제1 디바이스 제어 과정에 따라 상기 제2 디바이스를 통해 제공되는 1인칭 뷰와 관련 가상 평면은 대응되는 화면을 제공한다. 이때, 상기 1인칭 뷰 또는/가상 평면의 화면 구성은 예컨대, 제1 디바이스에서 센싱된 데이터를 상기 제2 디바이스에서 수신하여 이루어질 수 있다.
한편, 도 14와 15에서 제공된 제2 디바이스 상에 제공되는 1인칭 뷰 화면과 그 내부에 가상 평면은 상술한 디바이스 컨트롤러의 모션 또는 상기 디바이스 컨트롤러의 모션에 대응되는 제1 디바이스의 동작에 대응하여 상기 1인칭 뷰는 유지되되 상기 가상 평면만 평면이 움직이도록 제공할 수 있다.
도 16 내지 18은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 컨텐츠 리스트 브라우징 컨트롤 방법을 설명하기 위해 도시한 도면이고, 도 19와 20은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 제스처 컨트롤 방법을 설명하기 위해 도시한 도면이다.
도 16 내지 20은 예를 들어, 유저가 디스플레이 디바이스(제2 디바이스)를 시청하면서 상기 제2 디바이스 상에 제공되는 애플리케이션 실행 화면, 메뉴 화면 등을 디바이스 컨트롤러를 이용하여 제어하는 실시 예이다. 여기서, 상기 디바이스 컨트롤러는 예를 들어, TV 제어를 위한 리모트 컨트롤러를 대체할 수 있다.
먼저, 도 16a와 16b를 참조하여 제2 디바이스 상에 제공되는 애플리케이션 리스트의 브라우징 방법에 대해 설명한다.
도 16a에서는 유저가 디바이스 컨트롤러를 그랩하면, 상기 그랩 압력 세기를 센싱하여 센싱된 그랩 압력 세기에 따라 애플리케이션 리스트 제어 모드로 동작한다. 유저가 상기 디바이스 컨트롤러를 그랩한 상태에서 x축 방향(좌-우 수평 방향)으로 움직이면, 상기 x축 방향 모션에 대응하여 상기 애플리케이션 리스트 내 각 페이지가 좌 또는 우로 브라우징된다. 그리고 유저가 상기 디바이스 컨트롤러에 대한 그랩을 해제하면, 상기 애플리케이션 리스트에 대한 브라우징은 종료된다.
반면, 도 16b에서는 유저가 디바이스 컨트롤러를 그랩하면 상술한 도 16a와 동일하게 동작하나, 상기 그랩이 해제되지 않은 상태에서 상기 x축 방향으로의 모션이 멈추더라도 상술한 브라우징은 종료하지 않고 해당 x축 방향으로 계속하여 브라우징된다. 상기 브라우징은 유저가 상기 디바이스 컨트롤러에 대한 그랩을 해제하는 경우에만 종료된다.
다만, 도 16a와 달리, 도 16b는 상기 디바이스 컨트롤러의 모션 중단 이후에도 계속하여 브라우징이 수행되기 위해, 미리 정한 시간 또는 미리 정한 거리 내지 범위 이상이라는 조건을 설정할 수 있다. 유저는 이를 식별하기 어렵기 때문에, 상기 조건이 만족하는 경우에는 도 16b와 같이 연속 페이지 모드 설정 아이콘을 제공하여 유저의 컨트롤 편의를 도울 수 있다.
도 17은 디바이스 컨트롤러의 그랩 압력 세기 센싱 데이터에 따라서 줌-인 또는 줌-아웃하는 실시 예를 도시한 것이다. 관련하여, 상기 줌-인 또는 줌-아웃을 결정하는 그랩 압력 세기 센싱 값은 수동 또는 자동으로 설정될 수 있으며, 편의상 여기서는 임계치로 명명하여 설명한다.
도 17a를 참조하면, 유저가 제2 디바이스에서 애플리케이션 리스트가 제공된 이후에 디바이스 컨트롤러를 임계치 미만의 압력 세기로 그랩한 상태로 x축 방향으로 움직이면, 상기 제공 중인 애플리케이션 리스트 전체가 줌-인 되어 각 페이지의 사이즈가 커지나 화면을 통해 제공되는 애플리케이션 리스트의 개수는 감소될 수 있다. 상기 개수는 예컨대, 유저가 제2 디바이스를 통해 한 번에 확인 가능한 개수를 의미할 수 있다.
도 17b를 참조하면, 유저가 제2 디바이스에서 애플리케이션 리스트가 제공된 이후에 디바이스 컨트롤러를 임계치 이상의 압력 세기로 그랩한 상태로 x축 방향으로 움직이면, 상기 제공 중인 애플리케이션 리스트 전체가 줌-아웃되어 각 페이지의 사이즈가 작아지고 그에 따라 화면을 통해 제공되는 애플리케이션 리스트의 개수는 증가할 수 있다.
한편, 도 17의 그랩 압력 세기에 따른 줌-인 또는 줌-아웃 컨트롤 방법은 전술한 사이즈 변경뿐만 아니라 해상도나 컬러 변경 등 다양하게 이용할 수 있다. 그 밖에, 상기 그랩 압력 세기 센싱을 대신하여 예를 들어, 미리 정한 시간 내 또는 그와 무관하게 그랩 횟수에 따라 줌-인 또는 줌-아웃, 해상도 변경, 컬러 변경 등에 적용도 가능하다.
도 18은 전술한 도 16과 17이 x축 방향의 모션에 대한 컨트롤 실시 예라면, 여기서는 그랩 상태에서 z축 방향의 모션에 대한 컨트롤 실시 예를 설명한다.
예컨대, 제2 디바이스에서 제공하는 컨텐트, 메뉴, 애플리케이션 리스트에 복수의 뎁쓰 항목들이 있다면, 유저가 디바이스 컨트롤러를 그랩하면 상기 복수 뎁쓰 항목들 액세스에 관한 간략 정보를 제공하고, 이후 상기 그랩된 상태에서 디바이스 컨트롤러를 z축 방향으로 움직이면, 그에 따라 뎁쓰가 변경될 수 있다. 이러한 뎁쓰 변경은 컨텐트, 메뉴, 애플리케이션 리스트 단위 또는 그 내부 항목 단위에 대해서도 이루어질 수 있다. 예컨대, 후자의 경우, 전체 메뉴를 제1 뎁쓰라면, 상기 디바이스 컨트롤러의 z축 모션에 따라 상기 전체 메뉴의 제1 메뉴 항목이 제2 뎁쓰로 제공되고, 다시 상기 디바이스 컨트롤러가 z축 모션에 따라 상기 제1 메뉴 항목의 서브 메뉴 즉, 제2 메뉴 항목이 제3 뎁쓰로 제공될 수 있다. 한편, 상기에서 복수의 뎁쓰 항목들이 없다고 하더라도 전술한 도 17과 같이 줌-인 또는 줌-아웃 등과 동일하게 이용할 수도 있다.
도 18a는 제1 뎁쓰의 애플리케이션 리스트, 도 18b는 제2 뎁쓰의 애플리케이션 리스트, 그리고 도 18c는 제3 뎁쓰 애플리케이션 리스트를 도시한 것이다.
도 16 내지 18의 디바이스 컨트롤러의 x축 또는 z축 모션인 각각 해당 축 방향 모션에 대한 정의로서, 그 밖에 도시되진 않았으나 대각선 방향 모션과 같은 x-z 축 방향 모션의 경우에는 전술한 내용에 따라 뎁쓰와 페이지 이동 등이 동시에 이루어질 수도 있고, 상기에서 정의하지 않은 전혀 다른 동작 의미로 정의될 수 있다.
한편, 본 명세서에서 기술되는 디바이스 컨트롤러에 대한 모션은 매우 다양한바, 이를 모두 정의할 수도 없고 설명하기 어렵다. 관련하여, 본 발명에서는 디바이스 컨트롤러는 미리 정의되지 않은 모션이 감지되면, 이를 새로운 동작 의미로 저장하여 이용할 수 있다. 다만, 상기 디바이스 컨트롤러의 미리 정의되지 않은 움직임이 미리 정한 횟수 이상 감지되는 경우에만 등록 가능하도록 제어할 수 있다.
도 19는 제2 디바이스에서 가이드 화면을 제공하는 경우에, 디바이스 컨트롤러를 통한 상기 가이드 화면(1910) 컨트롤 방법에 대한 실시 예이다.
도 19를 참조하면, 유저가 디바이스 컨트롤러를 그랩하면, 도 19a에 도시된 바와 같이, 가이드 화면(1910)상에 별도의 가상 평면이 제공될 수 있다. 여기서, 상기 가상 평면은 예컨대, 상기 제2 디바이스에서 제공 중인 가이드 화면 컨트롤을 위하여 미리 정의된 기능 설명 이미지가 제공될 수 있다.
도 19b와 같이, 디바이스 컨트롤러를 그랩하고 y축 방향 모션을 하면, 가이드 화면 내에 스크롤 바가 제공될 수 있다. 이후 상기 디바이스 컨트롤러를 그랩한 상태에서 y축 방향 모션을 중단 내지 유지하면 해당 방향으로 계속하여 스크롤 동작을 수행한다. 이후 상기 스크롤 동작은 상기 디바이스 컨트롤러에 대한 그랩이 해제되면 중단된다. 한편, 상기 그랩 해제와 동시에 디바이스 컨트롤러의 모션에 대한 가이드 역할을 수행할 포인터가 제공될 수 있다.
도 19b가 가이드 화면에 대한 스크롤에 대한 실시 예라면, 도 19c는 유저가 디바이스 컨트롤러를 그랩한 상태에서 x-y 축 방향으로 회전하면, 그에 따라 현재 가이드 화면이 상기 회전 방향에 따라 이전 페이지 또는 다음 페이지로 변경 제공될 수 있다. 이후 상기 페이지 변경은 상기 디바이스 컨트롤러의 그랩 해제를 통해 중단된다.
본 발명에서 디바이스 컨트롤러에 대한 그랩 압력 세기뿐만 아니라 그랩한 상태에서 상기 디바이스 컨트롤러의 이동 속도도 컨트롤 방식, 컨트롤 유지/해제 등에 대한 팩터로 이용될 수 있다.
도 20은 디바이스 컨트롤러를 통한 동영상 재생 제어 방법을 설명한다.
도 20a를 참조하면, 가이드 화면(2010)이 제공되고, 가상 화면상에는 기능 설명이 제공된다.
도 20b를 참조하면, 유저가 디바이스 컨트롤러를 그랩한 상태에서 x축 방향으로만 움직이면, 상기 동영상의 재생 타임라인(2020)을 컨트롤할 수 있다. 이때, 상기 디바이스 컨트롤러의 그랩 압력 세기, 그랩 후 해당 방향으로의 이동 속도 또는 이동 거리에 따라 상기 재생 타임라인 변경 정도가 달라질 수 있다.
한편, 도 20c를 참조하면, 유저가 디바이스 컨트롤러를 그랩한 상태에서 y축(또는 z축 방향)으로만 이동하면, 상기 동영상의 재생 볼륨(2030)이 컨트롤할 수 있다. 이때, 상기 디바이스 컨트롤러의 그랩 압력 세기, 그랩 후 해당 방향으로의 이동 속도 또는 이동 거리에 따라 상기 재생 타임라인 변경 정도가 달라질 수 있다.
또한, 도 20d를 참조하면, 디바이스 컨트롤러를 그랩한 상태에서 x-y축 방향으로 회전 움직임이 있으면, 현재 파일(2040)을 기준으로 상기 동영상 재생 이전 파일(2044) 또는 다음 파일(2042)이 재생 컨트롤될 수 있다. 여기서, 상기 동영상 재생 이전(2044) 또는 다음 파일(2042)은 예컨대, 시리즈물 같은 경우에는 시리즈 단위 또는 시리즈 내 에피소드 단위가 될 수 있다. 또는, 시리즈물이 아니라고 하더라도 수동 또는 자동 설정 내용에 따라 상기 x-y축 방향 움직임에 따라 동일 채널, 다른 채널, 선호 채널들 사이, 관련 채널, 관련 장르 등 단위로 재생 컨트롤될 수도 있다.
도 21은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용하여 원격에서 VR을 통한 또 다른 디지털 디바이스 컨트롤 방법을 설명하기 위해 도시한 도면이다.
도 21a를 참조하면, 원격에서 유저가 VR과 같은 HMD를 착용하면, 사기 HMD는 해당 IoT 디바이스(예를 들어, 롤링보트) 관점에서 센서를 통해 센싱된 데이터를 수신하여 그에 관한 가상 화면(2110)을 구성하여 제공할 수 있다.
상기 도 21a와 같은 상황에서 유저가 디바이스 컨트롤러를 움직이고 이를 통해 상기 롤링보트가 컨트롤 신호를 수신하여 상기 디바이스 컨트롤러를 자신의 컨트롤러로 인식하면, 도 21b와 같이 가상 화면(2120)이 제공된다. 상기 가상 화면(2120)은 사기 롤링보트의 동작 제어와 관련된 디바이스 컨트롤러 가이드 화면을 포함할 수 있다.
도 21c에서 유저가 디바이스 컨트롤러를 x-y축 방향으로 회전하면, 상기 롤링보트는 제자리에서 회전할 수 있다.
도 21d에서 유저가 디바이스 컨트롤러를 그랩한 이후에 x-y-z축 방향으로 이동하면, 그에 따라 롤링보트가 이동 또는 방향 전환한다. 이 과정 또는 이후 유저가 디바이스 컨트롤러에 대한 그랩 압력 세기를 변경하면, 상기 롤링보트의 이동 또는 방향 전환 속도가 대응하여 변경된다. 한편, 상기 디바이스 컨트롤러가 더이상 소정 축 방향의 모션이 없더라도 상기 그랩 상태가 유지되면, 롤링보트는 계속하여 해당 동작을 유지한다. 다만, 상기 동작 유지나 동작은 상기 디바이스 컨트롤러에 대한 그랩 압력이 해제되면, 종료될 수 있다.
본 발명과 관련하여, 그랩 압력 해제의 경우, 미리 정한 소정 시간 내에 그랩 압력이 다시 재개되면 이전 동작을 그대로 수행할 수 있다. 다시 말해, 디바이스 컨트롤러는 그랩 압력이 해제되더라도 바로 해당 이벤트에 따른 컨트롤 신호를 전송하는 것이 아니라 잠시 유저의 그랩 압력이 해제된 경우도 있으므로 미리 정의된 시간동안 대기한 후에 그랩 압력이 재개되지 않는 경우에만, 상기 컨트롤 신호를 전송할 수 있다.
한편, 도 21e는 범프 액션에 따른 롤링보트의 동작 제어에 관한 방법이다.
도 22와 23은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 디스플레이 디바이스의 텍스트 입력 컨트롤 방법을 설명하기 위해 도시한 도면이다.
도 22와 23은 텍스트 입력에 관한 것으로, 본 발명과 관련하여 디바이스 컨트롤러를 예컨대, 그랩하면 현재 디스플레이 디바이스에서 실행 중이거나 화면상에 제공 중인 애플리케이션에 따른 기능이 자동으로 활성화될 수 있다. 에를 들어, 도 22나 23과 같이, 디스플레이 디바이스의 디스플레이 스크린상에 검색 기능이 활성화 또는 가상 키보드가 제공되어 있는 경우에, 디바이스 컨트롤러는 그랩을 감지하면, 자동으로 텍스트 입력을 위한 커서 등으로 제공될 수 있다. 이는 본 명세서에 기술된 다른 실시 예들에도 동일 또는 유사한 형태로 제공될 수 있다. 다시 말해, 디바이스 컨트롤러는 애플리케이션 속성, 애플리케이션 실행 상태, 디바이스 속성이나 상태 등에 따라 포인터의 모양이나 기타 기능 수행을 위한 준비를 자동으로 수행 가능하며, 필요에 따라 해당 디바이스나 서버 등으로부터 관련 데이터나 펌웨어, 소프트웨어 등을 자동으로 다운로드 받아 인스톨하여 이용할 수 있다.
도 22를 참조하면, 디스플레이 디바이스의 디스플레이 스크린(2210)상에 검색창(2220)과 상기 검색창에 검색어 입력 등을 위한 가상 키보드(2230)가 제공되고, 디바이스 컨트롤러가 그랩되면, 디스플레이 디바이스는 상기 디바이스 컨트롤러의 움직임에 따라 상기 가상 키보드(2230)와 관련된 제어를 할 수 있다.
디바이스 컨트롤러는 그랩된 상태에서 모션에 따라 가상 키보드(2230) 상에서 그 선택 등을 손쉽게 할 수 있다. 상기 선택 이후 디바이스 컨트롤러는 그랩을 해제하면, 상기 가상 키보드(2230)는 디스플레이 디바이스의 디스플레이 스크린(2210)상에서 제거될 수 있다.
한편, 디스플레이 디바이스는 디스플레이 스크린(2210)상에 검색 결과에 따른 애플리케이션 리스트를 제공할 수 있다. 상기 애플리케이션 상의 각 항목은 이미지 데이터를 포함할 수 있다.
도 23을 참조하면, 디바이스 컨트롤러의 모션에 따라 디스플레이 디바이스는 가상 키보드 상에 커서를 움직인다. 이때, 디스플레이 디바이스는 상기 디바이스 컨트롤러가 가상 키보드 상의 소정 위치에서 그랩 신호가 수신되면, 상기 소정 위치의 캐릭터 주변의 하나 또는 그 이상의 캐릭터들을 매핑하여 가상 데이터를 제공할 수 있다. 다시 말해, 상기 그랩한 후에 상기 그랩시 유저의 각 손가락에 해당하는 캐릭터를 매핑하고, 그랩 상태에서 유저의 손가락 터치에 따라 해당 캐릭터가 선택 또는 선택 해제되도록 컨트롤할 수 있다.
도 24는 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 IoT 디바이스 컨트롤 방법을 설명하기 위해 도시한 도면이다.
도 24는 전술한 도 8과 같은 고정부(810)에 디바이스 컨트롤러가 결합된 경우에도 IoT 디바이스나 게임 디바이스를 컨트롤하는 방법에 대해 설명한다.
예컨대, 상기 고정부(810)는 도 24a 또는 24b와 같은 형태로 구현될 수 있다.
먼저, 도 24a를 참조하면, 고정부는 케이블을 통한 유선 충전도 가능하나 무선 충전 패드(2410)를 포함하여 무선 충전도 가능하다. 한편, 상기 고정부는 충전 패드 하부(2414)를 틸팅 구조로 구현하여 상기 고정부의 충전 패드에 접촉된 디바이스 컨트롤러의 모션에 따라 자유로운 모션이 가능하도록 구현될 수 있다. 한편, 상기 디바이스 컨트롤러는 커버(2412) 소재에 따라 LED 발광을 할 수 있는데 이때 컬러는 다양하게 변경 가능하다. 예컨대, 디바이스 컨트롤러를 충전하기 위해 상기 고정부에 부착하면, 상기 부착 시간에 따라 컬러가 자동으로 결정되어 제공되거나 상기 디바이스 컨트롤러의 충전량에 따라 컬러가 변경될 수 있다. 한편, 상기 디바이스 컨트롤러의 커버 소재 또는 디바이스 컨트롤러에 디스플레이 창이 구현된 경우에는, 충전량, 현재 시각, 기타 알림 정보 등을 다양한 데이터를 제공할 수 있다.
도 24b는, 도 24a에 추가로 스피커(2416), 택트 키(2418), 마이크(2420) 등을 포함하여 더욱 다양한 기능들을 수행하도록 컨트롤할 수 있다.
도 25 내지 27은 본 발명의 일 실시 예에 따른 디바이스 컨트롤러를 이용한 드론 컨트롤 방법을 설명하기 위해 도시한 도면이다.
도 25a 내지 25e를 편의상 드론(2510) 이륙-착륙 순차로 설명하면, 도 25에서 디바이스 컨트롤러에 구현된 버튼을 클릭하면 드론(2510)과 페어링하고 상기 드론(2510)은 이륙한다. 이때, 상기 디바이스 컨트롤러와 드론(2510) 간 페어링은 미리 이루어질 수 있다.
상기 드론(2510)이 이륙하면, 상기 디바이스 컨트롤러를 그랩하여 상기 드론(2510) 비행을 컨트롤할 수 있다. 예컨대, 도 25b와 같이, 상기 드론(2510) 이륙 후 그랩하고 x-y-z 축 방향으로 이동하면, 그에 따라 상기 드론(2510)은 이동한다.
도 25c는 도 25b에서 그랩한 상태에서 움직이지 않고 유지하면, 드론(2510)은 상기 유지 이전에 디바이스 컨트롤러의 제어 신호에 따른 동작을 그대로 유지한다. 다시 말해, 디바이스 컨트롤러가 그랩 이후에 x축 방향으로 움직이다고 움직임을 멈추고 유지하면, 드론(2510)은 현재 위치를 고정되는 것이 아니라 이전 컨트롤 신호에 따라 x축 방향으로 계속하여 움직인다.
도 25d는 도 25c와 달리, 디바이스 컨트롤러의 그랩이 해제된 경우로, 이 경우에는 드론(2510)은 더 이상 이동하지 않고 해당 위치에서 멈추고 후버링을 할 수 있다.
도 25e를 참조하면, 디바이스 컨트롤러는 버튼 클릭 신호가 다시 수신되면, 현재 위치와 고도 또는 최초 이륙 위치로 돌아와 착륙한다. 이는 미리 설정된 바에 따를 수 있다.
도 26을 참조하면, 도 25e와 유사하게 착륙 과정을 제어하되, 디바이스 컨트롤러의 버튼 클릭과 무관하게 또는 상기 버튼 클릭 이후에 유저가 상기 바이스 컨트롤러를 그랩하고 범핑 함에 따라 착륙 위치가 결정될 수 있다.
예컨대, 디바이스 컨트롤러를 도 26a와 같이 범핑하면, 최초 이륙 위치로 돌아와 착륙한다. 그러나 상기 디바이스 컨트롤러를 도 26b와 같이 범핑하면, 현재 위치에서 착륙한다.
여기서, 상기 범핑 시에 디바이스 컨트롤러에 대한 그랩 압력 세기, 범핑 거리 내지 길이, 범핑 속도, 음성 입력 등 다양한 팩터에 따라 착륙 속도 등이 결정될 수 있다.
상기 도 26의 착륙에 관한 내용은 도 25a의 이륙 과정에도 동일 또는 유사한 형태로 적용 가능하다.
도 27은 예를 들어, 디바이스 컨트롤러를 통한 디지털 디바이스 컨트롤 시에 피드백에 관한 실시 예이다. 이는 특히, 디지털 디바이스를 원격에서 디바이스 컨트롤러를 컨트롤함에 따라 주변 환경이나 인터럽트 등 이벤트에 대응하거나 컨트롤 신호 전송에 따른 응답을 위함이다.
도 27a의 드론을 디바이스 컨트롤러를 통해 제어하는 경우에, 상기 디바이스 컨트롤러의 컨트롤 신호에 따라 상기 드론이 동작하되, 바람의 세기나 풍향, 기타 환경 정보 등 센싱 데이터를 수집하여 상기 디바이스 컨트롤러로 피드백할 수 있다. 상기 디바이스 컨트롤러는 상기 피드백되는 드론의 센싱 데이터를 파싱하여 적절히 진동 등 피드백을 출력할 수 있다. 예컨대, 상기 드론으로부터 센싱된 센서 데이터에 기초할 때, 제1 방향으로 제1 바람 세기로 바람이 불고 있는데, 디바이스 컨트롤러에서 상기 제1 방향과 반대되는 방향으로 드론 동작을 컨트롤하는 신호를 전송하면, 상기 드론은 센싱된 데이터에 기초하여 상기 디바이스 컨트롤러에서 컨트롤 시에 진동 피드백을 줄 수 있다. 이때, 진동 피드백은 바람 방향과의 저항 유무와 상기 바람 세기에 따라 결정되거나 미리 정한 바에 따를 수 있다.
도 27b에서 롤링보트를 디바이스 컨트롤러로 제1 방향으로 제1 이동 속도로 움직이도록 컨트롤 신호를 전송한 경우, 상기 롤링보트는 노면이나 바닥의 기울기, 상태 등에 센싱되는 데이터를 수집하여 상기 디바이스 컨트롤러로 피드백한다. 디바이스 컨트롤러는 상기 피드백되는 상기 롤링보트의 센싱 데이터에 기초하여 소정 레벨의 진동을 출력하여 유저가 느낄 수 있도록 한다.
한편, 도 27a와 27b에서 디바이스 컨트롤러는 미리 정의된 바에 따라 진동 패턴을 정의하고, 드론 또는 롤링보트로부터 피드백되는 센싱 데이터에 기초하여 상기 정의된 진동 패턴 중 하나의 진동 패턴으로 출력할 수도 있다.
도 28은 본 발명에 따른 드론 컨트롤을 위한 디바이스 컨트롤러의 다른 실시 예를 설명하기 위해 도시한 도면이다.
도 28은 스마트폰과 같은 이동 단말기와 같이 드론으로부터 데이터를 수신하여 디스플레이 가능한 디지털 디바이스와 디바이스 컨트롤러의 결합 구조의 일 예를 도시한 것이다.
도 28a를 참조하면, 제1 모듈(2820)에 디스플레이 디바이스(2810)를 장착하고, 제2 모듈(2834)에 디바이스 컨트롤러(2840)를 결합하여 드론 컨트롤러를 구현한 것이다. 여기서, 상기 디바이스 컨트롤러(2840)는 코어 바디만 포함하고, 커버는 제외될 수 있다.
도 28a에서 제1 모듈(2820)에 디스플레이 디바이스(2810)를 장착하면, 드론 제어를 위한 애플리케이션, 카메라 애플리케이션, 앨범 애플리케이션, 동영상 애플리케이션 중 적어도 하나가 실행될 수 있다.
도 28b는 도 28a와 같이, 드론 컨트롤러가 구성되면, 이후 드론 제어를 위한 내용으로, 상기와 같이, 제1 모듈(2820)에 디스플레이 디바이스(2810)가 결합되고 제2 모듈(2830)에 디바이스 컨트롤러(2840)가 결합되면, 상기 디스플레이 디바이스(2810)의 화면상에 드론 제어를 위한 아이콘, 인디케이터 등 소프트 키가 제공될 수 있다. 이를 통해, 유저는 드론 컨트롤러를 구성하는 디바이스 컨트롤러에 대한 그랩, 모션 등 제어와 상기 소프트 키를 조합하여 드론 비행을 제어할 수 있다.
도 28c는 도 28b의 소프트 키를 대신하여 조그 키와 같은 하드웨어를 부착하여 디바이스 컨트롤러(2840)와 함께 드론 비행 제어에 이용하는 실시 예이다.
도 29는 본 발명에 따른 게임 등 애플리케이션 실행, 컨트롤 등을 위한 디바이스 컨트롤러의 또 다른 실시 예를 설명하기 위해 도시한 도면이다.
도 29는 예를 들어, 디스플레이 디바이스나 게임 디바이스 상의 게임 컨트롤에 관한 것으로, 게임 모션 컨트롤러(2910)에 본 발명에 따른 디바이스 컨트롤러(2930)를 소정 위치에 부착함으로써 게임 모션 컨트롤러(2910)의 자원과 상기 디바이스 컨트롤러(2930)의 자원을 이용하여 더욱 정밀하고 역동적인 게임 컨트롤을 할 수 있다.
한편, 도 29a를 참조하면, 게임 모션 컨트롤러(2910)는 내부는 빈 공간으로 외부에 소정 너비를 가진 면으로 구성된 사각형 모양으로, 소정 모서리 부분에 상기 디바이스 컨트롤러(2940)와 결합 가능하다. 한편, 상기 각 모서리의 소정 면상에는 조그 키가 제공될 수 있다. 상기 조그 키는 다양한 위치로 이동 가능하며, 탈부착 가능하다. 또한, 상기 디바이스 컨트롤러(2940) 역시 상기 게임 모션 컨트롤러(2910)로부터 탈부착 가능하다.
도 29b 내지 29d에서는 디바이스 컨트롤러(2940)와 결합되고 조그 키가 부착된 게임 모션 컨트롤러(2910)를 통한 게임 컨트롤 실시 예를 도시한 것이다.
따라서, 상술한 본 발명의 다양한 실시 예들에 따르면, 복수의 디지털 디바이스들에 공통으로 이용 가능한 컨트롤러를 제공할 수 있고, 디바이스 컨트롤러를 유저가 손쉽게 이용 가능한 형태와 구조로 설계하여 그 이용 편의성을 도모하고, 직관적인 컨트롤 입력이 가능하며, 디바이스 컨트롤러의 디자인 자유도를 높여 다른 디바이스와 결합 등 원하는 다양한 형태로 구현되도록 하여 그 효용성을 제고할 수 있다.
본 명세서에서 개시하는 디바이스 컨트롤러 및 그 데이터 처리 방법은 상기 설명된 실시 예들의 구성과 방법이 한정되게 적용될 수 있는 것이 아니라, 상기 실시 예들은 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수도 있다.
한편, 본 명세서에서 개시된 디지털 디바이스의 동작 방법은 디지털 디바이스에 구비된 프로세서가 읽을 수 있는 기록매체에 프로세서가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 프로세서가 읽을 수 있는 기록매체는 프로세서에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 디바이스를 포함한다. 프로세서가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장 디바이스 등이 있으며, 인터넷을 통한 전송 등과 같은 캐리어-웨이브(carrier-wave)의 형태로 구현되는 것도 포함한다. 또한, 프로세서가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 프로세서가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
한편, 본 명세서에서는 첨부된 도면을 참조하여 설명하였으나, 이는 실시 예일 뿐 특정 실시 예에 한정되지 아니하며, 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 변형실시가 가능한 다양한 내용도 청구범위에 따른 권리범위에 속한다. 또한, 그러한 변형실시들이 본 발명의 기술 사상으로부터 개별적으로 이해되어서는 안 된다.
410: 바디 코어 420: 외부 커버
510: 코어 상부면 520: 코어 바디
530: 코어 하부면

Claims (10)

  1. 디지털 디바이스를 컨트롤하는 디바이스 컨트롤러에 있어서,
    커버; 및
    입력부를 포함한 코어 상부,
    인터페이스부를 포함한 코어 하부, 및
    상기 코어 상부와 코어 하부와 결합되는 코어 바디로 구성된 코어;
    를 포함하고,
    상기 코어 바디는,
    상기 디지털 디바이스를 컨트롤하기 위한 컨트롤 신호를 주고받는 해 통신 모듈,
    디바이스 컨트롤러의 움직임에 따른 모션 데이터를 센싱하는 제1 센서 모듈,
    상기 코어 바디에 대한 압력을 센싱하는 제2 센서 모듈, 및
    상기 각 모듈의 동작을 제어하고 상기 각 센서 모듈로부터 센싱되는 데이터를 수집하여 수집된 센싱 데이터에 기초하여 컨트롤 신호를 생성하여 전송하고 피드백을 출력하는 제어부를 포함하는 디바이스 컨트롤러.
  2. 제1항에 있어서,
    상기 코어 바디는,
    액츄에이터(actuator), 택트 키(tact key), 및 압력 센서 중 적어도 하나 이상을 더 포함하는 것을 특징으로 하는 디바이스 컨트롤러.
  3. 제1항에 있어서,
    상기 제1 센서 모듈은,
    가속도 센서, 자이로 센서 또는 지자기 센서 중 적어도 하나에 기초하여 3축, 6축 또는 9축 센서로 구현되는 것을 특징으로 하는 디바이스 컨트롤러.
  4. 제1항에 있어서,
    상기 제2 센서 모듈은,
    탄성을 가진 부재로, 스프링, 마그네틱 스프링, 전도성 실, 또는 전자 섬유 중 적어도 하나로 구현되는 것을 특징으로 하는 디바이스 컨트롤러.
  5. 제1항에 있어서,
    상기 코어 하부의 인터페이스부는,
    USB, 마이크로 USB(Micro USB), 포고 핀(POGO pin), 또는 커넥터(Connector) 중 적어도 하나로 구현되어 외부 액세서리와 결합되어 인터페이싱 환경을 제공하고, 상기 디바이스 컨트롤러의 충전 기능을 수행하는 것을 특징으로 하는 디바이스 컨트롤러.
  6. 제1항에 있어서,
    상기 코어 바디는,
    제1 코어 커버와 제2 코어 커버의 결합 구조를 구성되고,
    상기 제1 코어 커버와 제2 코어 커버 중 적어도 하나에는 모터를 포함하는 것을 특징으로 하는 디바이스 컨트롤러.
  7. 제6항에 있어서,
    상기 제어부는,
    상기 디바이스 컨트롤러의 모드에 따라 상기 모터를 제어하여 상기 코어 바디 구성을 위한 제1 코어 커버와 제2 코어 커버 사이의 거리를 제어하는 것을 특징으로 하는 디바이스 컨트롤러.
  8. 제1항에 있어서,
    상기 제어부는,
    상기 코어 상부의 입력부를 통한 키 입력 신호가 수신 또는/및 상기 제1 또는 제2 센서 모듈을 통해 모션 데이터가 센싱되어 수집되면, 수집된 센싱 데이터에 기초하여 통신 패킷을 구성하여 상기 디지털 디바이스로 전송하되,
    상기 구성되는 통신 패킷에는 상기 디지털 디바이스의 동작 제어를 위한 컨트롤 커맨드를 포함하는 것을 특징으로 하는 디바이스 컨트롤러.
  9. 제1항에 있어서,
    상기 제어부는,
    상기 제1 또는 제2 센서 모듈을 통해 상기 코어 바디에 대한 그랩 압력 세기를 센싱하고,
    센싱된 코어 바디에 대한 그랩 압력 세기에 따라 상기 디지털 디바이스의 턴-온, 턴-오프, 동작 시작 또는 동작 종료, 또는 아이템 선택/실행 중 적어도 하나를 결정하여 제어 커맨드를 생성하는 것을 특징으로 하는 디바이스 컨트롤러.
  10. 제1항에 있어서,
    상기 커버는 상기 코어 바디에 대한 그랩 압력을 센싱되도록 신축성을 가진 부재로 구현되고,
    상기 디바이스 컨트롤러는 평면을 기준으로 상기 코어 바디의 기울기에 관계없이 전방향에서 컨트롤 신호를 수신하는 것을 특징으로 하는 디바이스 컨트롤러.
KR1020160155032A 2016-11-21 2016-11-21 디바이스 컨트롤러 및 그 데이터 처리 방법 KR20180056998A (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020160155032A KR20180056998A (ko) 2016-11-21 2016-11-21 디바이스 컨트롤러 및 그 데이터 처리 방법
CN201780070262.7A CN109937395B (zh) 2016-11-21 2017-11-16 设备控制器及其数据处理方法
EP17872800.2A EP3542251A4 (en) 2016-11-21 2017-11-16 DEVICE CONTROL MEANS AND ITS DATA PROCESSING METHOD
PCT/KR2017/013007 WO2018093165A1 (en) 2016-11-21 2017-11-16 Device controller and data processing method thereof
US15/819,321 US10416788B2 (en) 2016-11-21 2017-11-21 Device controller and data processing method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160155032A KR20180056998A (ko) 2016-11-21 2016-11-21 디바이스 컨트롤러 및 그 데이터 처리 방법

Publications (1)

Publication Number Publication Date
KR20180056998A true KR20180056998A (ko) 2018-05-30

Family

ID=62145639

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160155032A KR20180056998A (ko) 2016-11-21 2016-11-21 디바이스 컨트롤러 및 그 데이터 처리 방법

Country Status (5)

Country Link
US (1) US10416788B2 (ko)
EP (1) EP3542251A4 (ko)
KR (1) KR20180056998A (ko)
CN (1) CN109937395B (ko)
WO (1) WO2018093165A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210081300A (ko) * 2019-12-23 2021-07-01 주식회사 후본 멀티모달 인터페이스 기반의 햅틱 장치
WO2021261829A1 (ko) * 2020-06-22 2021-12-30 삼성전자 주식회사 밝기 조절 방법 및 hmd 장치

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106201282A (zh) * 2015-05-04 2016-12-07 联想(北京)有限公司 一种数据输入方法及穿戴式电子设备

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020113775A1 (en) * 2001-02-22 2002-08-22 3Wize, Inc. Ergonomic hand-held computer input device
US7768500B2 (en) * 2003-06-16 2010-08-03 Humanscale Corporation Ergonomic pointing device
EP1821180A1 (en) * 2005-12-31 2007-08-22 Ball-IT Oy User operable pointing device such as mouse
US7626572B2 (en) * 2006-06-15 2009-12-01 Microsoft Corporation Soap mobile electronic human interface device
US8698736B2 (en) * 2009-03-24 2014-04-15 Immersion Corporation Handheld computer interface with haptic feedback
US20100245239A1 (en) * 2009-03-25 2010-09-30 Ippasa, Llc Pressure sensing controller
US20100261530A1 (en) * 2009-04-13 2010-10-14 Thomas David R Game controller simulating parts of the human anatomy
US9310887B2 (en) * 2010-05-06 2016-04-12 James W. Wieder Handheld and wearable remote-controllers
US20120256821A1 (en) * 2010-05-18 2012-10-11 Seektech, Inc. User interface devices, apparatus, and methods
WO2012079948A1 (en) * 2010-12-16 2012-06-21 International Business Machines Corporation A human interface device with two three-axis-accelerometers
JP2013025664A (ja) * 2011-07-25 2013-02-04 Sony Corp 入力装置、入力方法及び制御システム
JP2013222399A (ja) * 2012-04-18 2013-10-28 Sony Corp 操作方法、制御装置及びプログラム
NL1040096C2 (en) * 2012-11-14 2014-09-16 Holland Haptics B V Haptic communication system, method and device.
KR101488209B1 (ko) * 2013-05-09 2015-01-30 신준협 조이스틱을 이용한 위치제어장치
US20150054633A1 (en) * 2013-08-23 2015-02-26 New York University Interactive Tangible Interface for Hand Motion
KR20160112835A (ko) * 2015-03-20 2016-09-28 삼성전자주식회사 입력장치, 디스플레이장치 및 그 제어방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210081300A (ko) * 2019-12-23 2021-07-01 주식회사 후본 멀티모달 인터페이스 기반의 햅틱 장치
WO2021261829A1 (ko) * 2020-06-22 2021-12-30 삼성전자 주식회사 밝기 조절 방법 및 hmd 장치

Also Published As

Publication number Publication date
EP3542251A1 (en) 2019-09-25
CN109937395A (zh) 2019-06-25
US20180143702A1 (en) 2018-05-24
US10416788B2 (en) 2019-09-17
WO2018093165A1 (en) 2018-05-24
EP3542251A4 (en) 2020-05-27
CN109937395B (zh) 2022-07-12

Similar Documents

Publication Publication Date Title
US9933819B2 (en) Portable electronic device and method of controlling the same
US10567567B2 (en) Electronic device and method for controlling of the same
US10331342B2 (en) Mobile terminal and control method therefor
US20160119464A1 (en) Mobile terminal and controlling method thereof
KR102393510B1 (ko) 디스플레이 디바이스 및 그 제어 방법
KR20160045269A (ko) 웨어러블 디바이스 및 상기 디바이스와 통신 가능한 이동 단말기
EP3141986B1 (en) Digital device and method of processing data the same
US20170277902A1 (en) Electronic device and method for operating the same
CN103222274A (zh) 网络浏览方法和使用其的图像显示设备
US10324595B2 (en) Digital device configured to connect with plurality of operation devices and method of displaying second user interface associated with second operation device in response to dragging of first user interface associated with first operation device in the same
KR102252506B1 (ko) 이동단말기 및 그 제어방법
US10416788B2 (en) Device controller and data processing method thereof
KR102174858B1 (ko) 네트워크에서 데이터를 렌더링하는 방법 및 연관된 모바일 디바이스
KR20180041961A (ko) 디스플레이 디바이스 및 그 데이터 처리 방법
KR101864276B1 (ko) 휴대 단말기의 동작 방법
KR102508148B1 (ko) 디지털 디바이스 및 그를 이용한 컬러 제어 시스템 및 방법
JP5769000B2 (ja) 端末装置及びプログラム
CN111787364B (zh) 媒体数据获取方法、智能电视及移动终端
KR20180025864A (ko) 카메라 모듈 및 이를 구비하는 이동 단말기
KR102468640B1 (ko) 이동 단말기 및 그 제어 방법
JP5772067B2 (ja) 携帯端末装置及びプログラム
KR20170058756A (ko) Hmd 및 그 hmd의 제어 방법
KR102330552B1 (ko) 이동 단말기
KR102269276B1 (ko) 전자 기기, 및 그 동작 방법
US20170228115A1 (en) Mobile terminal and method for controlling same