KR101678880B1 - 가상 키보드 출력 장치 및 제어 방법 - Google Patents

가상 키보드 출력 장치 및 제어 방법 Download PDF

Info

Publication number
KR101678880B1
KR101678880B1 KR1020160080867A KR20160080867A KR101678880B1 KR 101678880 B1 KR101678880 B1 KR 101678880B1 KR 1020160080867 A KR1020160080867 A KR 1020160080867A KR 20160080867 A KR20160080867 A KR 20160080867A KR 101678880 B1 KR101678880 B1 KR 101678880B1
Authority
KR
South Korea
Prior art keywords
virtual keyboard
virtual
key
input
keyboard
Prior art date
Application number
KR1020160080867A
Other languages
English (en)
Inventor
권정흠
이용호
유범재
Original Assignee
재단법인 실감교류인체감응솔루션연구단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인 실감교류인체감응솔루션연구단 filed Critical 재단법인 실감교류인체감응솔루션연구단
Priority to KR1020160080867A priority Critical patent/KR101678880B1/ko
Application granted granted Critical
Publication of KR101678880B1 publication Critical patent/KR101678880B1/ko
Priority to US15/620,170 priority patent/US9927869B2/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/02—Input arrangements using manually operated switches, e.g. using keyboards or dials
    • G06F3/023—Arrangements for converting discrete items of information into a coded form, e.g. arrangements for interpreting keyboard generated codes as alphanumeric codes, operand codes or instruction codes
    • G06F3/0233—Character input methods
    • G06F3/0236—Character input methods using selection techniques to select from displayed items
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04812—Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00—3D [Three Dimensional] image rendering
    • G06T15/10—Geometric effects
    • G06T15/40—Hidden part removal
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating 3D models or images for computer graphics
    • G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/014—Hand-worn input/output arrangements, e.g. data gloves
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2215/00—Indexing scheme for image rendering
    • G06T2215/16—Using real world measurements to influence rendering
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20—Indexing scheme for editing of 3D models
    • G06T2219/2004—Aligning objects, relative positioning of parts
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20—Indexing scheme for editing of 3D models
    • G06T2219/2012—Colour editing, changing, or manipulating; Use of colour codes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00—Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20—Indexing scheme for editing of 3D models
    • G06T2219/2016—Rotation, translation, scaling

Abstract

본 발명의 일 실시예에 따른 가상 키보드 출력 장치는 센서로부터 수신된 손 정보를 통해, 가상 키보드의 좌표를 결정한 후 영상 처리 과정을 거쳐서 가상 키보드를 출력하는 가상 키보드 영상 출력부, 손가락의 끝점 및 상기 가상 키보드 영상 출력부에서 출력된 가상 키보드 각각의 키에 대응되는 가상 물리 충돌체 사이의 충돌 정보를 이용하여 접촉 상태를 판단하는 접촉 인식부, 상기 접촉 인식부에 의해 생성된 접촉 인식 정보에 따라 한 키에 다수의 입력 값을 제공하는 키보드 입력부 및 상기 접촉 인식부 및 키보드 입력부를 통해 생성된 각 키 입력 값에 대한 피드백을 출력하는 피드백 출력부를 포함한다. 따라서, 본 발명은 3차원 가상 공간에 키보드를 출력하고 현실 세계와 유사한 키보드형태의 입력 방법을 그대로 재현함으로써 입력에 대한 편의성 및 효율성을 제공한다.

Description

가상 키보드 출력 장치 및 제어 방법{APPARATUS OF PROVIDING VIRTYAL KEYBOARD AND METHOD CONTOLLING THEREOF}
본 발명의 실시예들은 가상 키보드 출력 장치 및 제어 방법에 관한 것이다.
최근, 가상현실 및 증강현실의 구현을 위한 헤드 마운티드 디스플레이(Head mounted display) 기기의 발전과 더불어 관련 컨텐츠에 대한 수요 증가로 인해 몰입형 가상현실 시스템을 위한 정보 입력 장치들의 필요성이 높아지고 있다.
예를 들어, 사용자가 손에 쥐고 조작할 수 있는 조이스틱 및 완드(Wand), 또는 손가락 움직임을 통한 제스처 기반의 입력 장치 등이 가상현실 환경에서 기기에 데이터를 효율적으로 입력할 수 있는 수단으로써 연구 및 개발이 활발히 이루어지고 있다.
그러나, 상기와 같은 장치들은 입력 방법을 따로 익혀야 될 필요성과 기존의 컴퓨터 입력 방식으로 주요 사용되는 손을 이용한 키보드 입력 방식과의 상이함으로 인해 사용자의 불편함이 존재하는 문제점이 있다.
이러한 불편함으로 인해 다양한 센서를 이용하여 사용자의 손 동작을 검출하고 키 입력에 활용하고자 하는 연구가 진행되고 있으나, 물리적 접촉감이 존재하지 않는 3차원 공간의 경우, 사용자에게 제공할 수 있는 공간 깊이 정보만으로는 인지의 한계가 존재 하기 때문에 잦은 입력 오류를 야기한다.
예를 들어, 사용자가 가상 키보드 영상의 특정 키를 눌렀다고 인지 하더라도, 시스템 내에서 사용자의 손가락의 끝 좌표가 해당 키의 좌표 경계선 영역 안으로 들어 오지 않았다면, 미 접촉으로 판단하여 키 입력이 되지 않는 문제점이 있다.
한국공개특허 제10-2016-0011451호는 가 상 키보드와 손동작 인식을 이용한 문자 입력장치 및 이를 이용한 문자 입력방법에 관한 것으로, 사용자 손동작의 3차원 좌표 값 변화를 인식한 결과와, 사용자 손가락 끝점의 3차원 좌표 값과 임의의 좌표 값을 갖는 가상 키보드의 좌표 값을 매칭한 결과를 이용하여 문자 입력 인터페이스를 제공하지만 상기의 문제점을 해결하기 위한 방안이 개시되어 있지 않다.
한국공개특허 제10-2016-0011451호
본 발명은 3차원 가상 공간에 키보드를 출력하고 현실 세계와 유사한 키보드형태의 입력 방법을 그대로 재현함으로써 입력에 대한 편의성 및 효율성이 있는 가상 키보드 출력 장치 및 제어 방법을 제공하는 것을 목적으로 한다.
또한, 본 발명은 사용자의 손 영상이 가상 키보드 영상 위에 항상 표현될 수 있도록 하기 위하여, 센서로부터 수신된 손 정보를 통해 가상 키보드를 회전하고, 중첩 영상 처리 렌더링 과정을 수행하여 사용자에게 편리한 가상 키보드 출력 장치 및 제어 방법을 제공하는 것을 목적으로 한다.
또한, 본 발명은 사용자의 손가락 끝점과 가상 키보드 각각의 키에 가상 물리 충돌체(Collider)를 적용하여 물리 엔진을 통한 특정 키 접촉을 판단하고, 백-터치(Back-touch) 방지 및 디바운싱(De-bouncing) 알고리즘을 가상 키보드에 적용하여 접촉 인식 오류를 줄일 수 있도록 하는 가상 키보드 출력 장치 및 제어 방법을 제공하는 것을 목적으로 한다.
또한, 본 발명은 가상 키보드 영상 각각의 키에 대하여 다수의 입력 값을 할당하고 접촉 인식 플래그와 접촉 시간 여부에 따라 서로 다른 키 값을 출력 함으로써, 두 개의 키를 동시에 누르지 않고도 한 키를 이용하여 서로 다른 키의 값을 입력할 수 있도록 하는 가상 키보드 출력 장치 및 제어 방법을 제공하는 것을 목적으로 한다.
또한, 본 발명은 각 키 값의 입력에 대한 시각적, 청각적, 촉각적 피드백을 다르게 출력함으로써 키 입력 인지율 또한 높일 수 있도록 하는 가상 키보드 출력 장치 및 제어 방법을 제공하는 것을 목적으로 한다.
본 발명이 해결하고자 하는 과제는 이상에서 언급한 과제(들)로 제한되지 않으며, 언급되지 않은 또 다른 과제(들)은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
실시예들 중에서, 가상 키보드 출력 장치는 센서로부터 수신된 손 정보를 통해, 가상 키보드의 좌표를 결정한 후 영상 처리 과정을 거쳐서 가상 키보드를 출력하는 가상 키보드 영상 출력부, 손가락의 끝점 및 상기 가상 키보드 영상 출력부에서 출력된 가상 키보드 각각의 키에 대응되는 가상 물리 충돌체 사이의 충돌 정보를 이용하여 접촉 상태를 판단하는 접촉 인식부, 상기 접촉 인식부에 의해 생성된 접촉 인식 정보에 따라 한 키에 다수의 입력 값을 제공하는 키보드 입력부 및 상기 접촉 인식부 및 키보드 입력부를 통해 생성된 각 키 입력 값에 대한 피드백을 출력하는 피드백 출력부를 포함한다.
일 실시예에서, 가상 키보드는 영상 출력부는 센서로부터 수신되는 손가락 정보를 이용하여 가상 키보드와의 3차원 위치 관계를 추정하고, 손바닥 중심점과 가상 키보드 중심점 사이의 거리가 일정 이하로 가까워지면 시스템 내에서 사용자가 키보드 입력을 준비하는 과정으로 인식하여, 손바닥 법선 벡터를 계산한 후 상기 손바닥 법선 벡터를 이용하여 손바닥과 가상 키보드를 평행하게 위치하도록 회전하여서 가상 키보드 영상을 출력한다.
일 실시예에서, 가상 키보드 영상 출력부는 손과 가상 키보드 영상이 중첩되는 경우에 손의 형상대로 가상 키보드 이미지를 지우고 손 영상을 우선하여 출력하는 은폐 영역(Occlusion)에 대한 깊이 렌더링 과정을 수행하여 상기 가상 키보드가 손 아래에 있도록 가상 키보드 영상을 출력한다.
일 실시예에서, 접촉 인식부는 사용자의 손 끝점과 상기 가상 키보드 영상 출력부에 의해 출력된 가상 키보드 각각의 키에 가상 물리 충돌체를 적용하고, 상기 가상 물리 충돌체를 이용하여 상기 손과 가상 키보드의 접촉 상태를 충돌, 내부통과, 분리 상태의 플래그로 표현하여 키보드 입력 상태를 판단한다.
일 실시예에서, 가상 키보드 영상 출력부는 손과 가상 키보드 영상이 중첩되는 경우에 손의 형상대로 가상 키보드 이미지를 지우고 손 영상을 우선하여 출력하는 은폐 영역(Occlusion)에 대한 깊이 렌더링 과정을 수행하여 상기 가상 키보드가 손 아래에 있도록 가상 키보드 영상을 출력한다.
일 실시예에서, 접촉 인식부는 사용자의 손 끝점과 상기 가상 키보드 영상 출력부에 의해 출력된 가상 키보드 각각의 키에 가상 물리 충돌체를 적용하고, 상기 가상 물리 충돌체를 이용하여 상기 손과 가상 키보드의 접촉 상태를 충돌, 내부통과, 분리 상태의 플래그로 표현하여 키보드 입력 상태를 판단한다.
일 실시예에서, 접촉 인식부는 상기 손 끝점과 가상 키의 가상 물리 충돌체가 충돌할 때의 손가락 위치 및 방향 벡터를 계산하여, 손가락이 가상 키의 가상 물리 충돌체의 물리 모델 앞면만을 통과할 때만 접촉 상태의 플래그를 발생시키도록 설정한다.
일 실시예에서, 상기 접촉 인식부는 상기 가상 키보드 각각의 키에 대하여 접촉 시간을 이용하여 키 입력 간의 인터벌을 실시간으로 계산하고, 동일 키에 대하여 특정 시간 내에 다수의 입력이 들어오면 충돌 플래그를 생성하지 않을 수 있다.
일 실시예에서, 상기 키보드 입력부는 상기 접촉 인식부에 의해 생성된 접촉 플래그를 이용하여 충돌 상태에서는 해당 키의 기본 값을 입력하고 상기 충돌 이후의 내부통과 상태가 일정 시간 지속되면 사용자가 해당 키를 깊게 해당 시간 동안 누르고 있는 것으로 판단하여 해당 키에 미리 지정되어 있는 다른 값을 입력한다.
일 실시예에서, 상기 피드백 출력부는 상기 접촉 인식부 및 키보드 입력부를 통해 생성된 각 키 입력 값에 대하여 서로 다른 피드백을 출력하며, 시각적 피드백의 경우 색상 변화 또는 애니메이션 효과를 통하여, 청각적 피드백의 경우 키 입력음 변화를 통하여, 촉각적 피드백의 경우 진동자를 포함하고 있는 반지 또는 골무 형태의 장치를 손 끝에 착용하고 해당 기기의 진동 세기를 조절하는 과정을 통하여 원활한 가상 키보드 입력에 대한 정보를 제공한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 첨부 도면들에 포함되어 있다.
본 발명의 이점 및/또는 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다.
본 발명에 따르면, 3차원 가상 공간에 키보드를 출력하고 현실 세계와 유사한 키보드형태의 입력 방법을 그대로 재현함으로써 입력에 대한 편의성 및 효율성을 제공한다.
또한 본 발명에 따르면, 사용자의 손 영상이 가상 키보드 영상 위에 항상 표현될 수 있도록 하기 위하여, 센서로부터 수신된 손 정보를 통해 가상 키보드를 회전하고, 중첩 영상 처리 렌더링 과정을 수행하여 사용자에게 편리한 가상 키보드 입력 환경을 제공할 수 있다는 장점이 있다.
또한 본 발명에 따르면, 사용자의 손가락 끝점과 가상 키보드 각각의 키에 가상 물리 충돌체(Collider)를 적용하여 물리 엔진을 통한 특정 키 접촉을 판단하고, 백-터치(Back-touch) 방지 및 디바운싱(De-bouncing) 알고리즘을 가상 키보드에 적용하여 접촉 인식 오류를 줄일 수 있다는 장점이 있다.
또한 본 발명에 따르면, 가상 키보드 영상 각각의 키에 대하여 다수의 입력 값을 할당하고 접촉 인식 플래그와 접촉 시간 여부에 따라 서로 다른 키 값을 출력 함으로써, 두 개의 키를 동시에 누르지 않고도 한 키를 이용하여 서로 다른 값을 입력할 수 있는 장점이 있다.
또한 본 발명에 따르면, 각 키 값의 입력에 대한 시각적, 청각적, 촉각적 피드백을 다르게 출력함으로써 키 입력 인지율 또한 높일 수 있다는 장점이 있다.
도 1은 본 발명의 실시예에 따른 가상 키보드 출력 장치의 내부 구조를 설명하기 위한 블록도이다.
도 2는 본 발명의 실시예에 따른 가상 키보드 출력 장치에서 실행되는 가상 키보드 영상 회전 과정을 설명하기 위한 참조도이다.
도 3은 본 발명의 실시예에 따른 가상 키보드 출력 장치에서 실행되는 가상 키보드 영상 출력 과정을 설명하기 위한 참조도이다.
도 4는 본 발명의 일 실시예에 따른 가상 키보드 출력 장치에서 실행되는 가상 물리 충돌체를 통한 접촉 인식 과정을 설명하기 위한 참조도이다.
도 5는 본 발명의 일 실시예에 따른 가상 키보드 출력 장치에서 실행되는 플래그의 종류에 따른 문자 입력 과정을 설명하기 위한 참조도이다.
도 6은 본 발명의 일 실시예에 따른 가상 키보드 제어 방법을 설명하기 위한 흐름도이다.
이하에서는 첨부된 도면을 참조하여 본 발명의 실시예들을 상세히 설명하기로 한다.
도 1은 본 발명의 실시예에 따른 가상 키보드 출력 장치의 내부 구조를 설명하기 위한 블록도이다.
도 1을 참조하면, 본 발명의 실시예에 따른 가상 키보드 출력 장치(100)는 가상 키보드 영상 출력부(110), 접촉 인식부(120), 키보드 입력부(130) 및 피드백 출력부(140)를 포함한다.
가상 키보드 영상 출력부(110)는 가상 현실 환경에 가상 키보드 영상을 계산된 위치에 출력하여 사용자가 편리하게 가상 키보드를 이용할 수 있도록 한다.
이를 위해, 가상 키보드 영상 출력부(110)는 센서로부터 수신된 손 정보를 이용하며, 손 정보를 센싱하는 센서는 헤드 마운트 디스플레이 장치의 전면에 부착된 감지 센서 또는 바디/핸드 모션 캡쳐 장치로 구현되고, 사용자의 손가락 좌표 정보를 가상 키보드 영상 출력부(110)에 제공한다.
가상 키보드 영상 출력부(110)는 초기 상태의 가상 키보드 위치는 고정시켜 놓으며, 사용자의 키보드 입력 준비 여부에 따라 손바닥과 가상 키보드 영상이 평행하게 위치하도록 가상 키보드 영상을 회전시켜 출력한다. 이를 위해, 가상 키보드 영상 출력부(110)는 손바닥의 중심점과 가상 키보드 영상의 중심점 사이의 거리를 이용하여 사용자의 키보드 입력 준비 여부를 확인한다.
일 실시예에서, 가상 키보드 영상 출력부(110)는 손바닥의 중심점과 가상 키보드 영상의 중심점 사이의 거리가 특정 거리 이상이면 사용자의 키보드 입력 준비가 되지 않았다고 판단하여 아무런 동작을 실행하지 않는다.
다른 일 실시예에서, 가상 키보드 영상 출력부(110)는 손바닥의 중심점과 가상 키보드 영상의 중심점 사이의 거리가 특정 거리 이하이면 사용자의 키보드 입력 준비가 되었다고 판단하여 손바닥과 가상 키보드 영상이 평행하게 위치하도록 가상 키보드 영상을 회전시켜 출력한다.
상기의 실시예에서, 가상 키보드 영상 출력부(110)는 손바닥과 가상 키보드 영상을 평행하게 위치시키기 위해, 손바닥의 법선 벡터를 이용하여 손의 방향을 파악하며 이에 평행하도록 가상 키보드 영상을 출력한다. 가상 키보드 영상 출력부(110)는 가상 현실 환경에 가상 키보드 영상이 출력되는 과정에서 가상 키보드 영상과 손이 중첩되는 경우 가상 키보드 영상이 손의 아래에 출력되도록 한다.
이를 위해, 가상 키보드 영상 출력부(110)는 가상 키보드 영상 및 손 영상에 대한 렌더링을 각각 실행한 후, 영상 중첩 처리를 통하여 최종 영상을 출력한다.
일 실시예에서, 가상 키보드 영상 출력부(110)는 일차적으로 가상 키보드 영상 및 손 영상에 대한 렌더링 위치를 비교하여, 중첩되는 부분을 제외한 영역에 가상 키보드 영상을 출력한다.
다른 일 실시예에서, 가상 키보드 영상 출력부(110)는 가상 키보드 영상 및 손 영상이 중첩되는 부분에 대하여 은폐 영역 렌더링 과정을 거쳐서, 가상 키보드 영상을 지우고 손 영상을 출력함으로써 손을 항상 가상 키보드 위에 있도록 가상 키보드 영상을 출력할 수 있다.
접촉 인식부(120)는 손가락의 끝점과 가상 키보드 영상 출력부(110)에서 출력된 가상 키보드 영상 각각의 키에 대응되는 가상 물리 충돌체가 충돌하였는지 여부에 따라 접촉을 인식한다. 손가락 끝점에 대한 가상 물리 충돌체는 구의 형태로, 가상 키보드에 대한 가상 물리 충돌체는 특정 형태(예를 들어, 정육면체 등)로 구현될 수 있다.
보다 구체적으로, 본 발명은 가상 키보드 영상을 렌더링하여 가상 키보드 영상을 출력하기 이전에 가상 키보드 영상 각각의 키에 대응되는 위치에 가상 물리 충돌체가 배치되어 있는 물리 엔진을 구성 한 후, 물리 엔진에 대응되도록 가상 키보드 영상을 렌더링함으로써 손가락이 가상 키보드 영상 각각의 키를 누르게 되면 손가락의 끝점이 가상 키보드 영상 각각의 키에 대응되는 가상 물리 충돌체와 충돌되는 것이다.
종래에는 손 동작 센서로부터 수신된 손가락의 끝점의 추적 좌표가 가상 키보드 영상의 각각의 키 중 어느 키의 경계선 영역 안에 위치하는지 여부에 따라 해당 키가 눌려졌는지 확인하였다. 하지만, 종래의 방법은 물리적 접촉감이 존재하지 않는 3차원 공간의 경우, 사용자에게 제공할 수 있는 공간 깊이 정보만으로는 인지의 한계가 존재 하기 때문에 잦은 입력 오류를 야기한다.
예를 들어, 사용자가 가상 키보드 영상의 특정 키를 눌렀다고 인지 하더라도, 시스템 내에서 사용자의 손가락의 끝 좌표가 해당 키의 좌표 경계선 영역 안으로 들어 오지 않았다면, 미 접촉으로 판단하여 키 입력이 되지 않는 문제점이 있다.
하지만, 본 발명은 가상 키보드 영상 각각의 키에 대응되도록 서로 다른 가상 물리 충돌체를 적용시켜 손가락 끝점이 특정 키에 대응되는 가상 물리 충돌체와 충돌하면 손가락의 끝이 접촉되었다고 판단할 수 있기 때문에 종래와 같은 문제점이 발생하지 않는다.
접촉 인식부(120)는 손가락 끝점의 가상 물리 충돌체가 특정 키에 대응되는 가상 물리 충돌체와 충돌하면 충돌 상태 플래그를 생성하고, 손가락 끝점의 가상 물리 충돌체가 특정 키에 대응되는 가상 물리 충돌체 내부에 있으면 내부 통과 상태 플래그를 생성하고, 이후 손가락 끝점의 가상 물리 충돌체가 특정 키에 대응되는 가상 물리 충돌체 외부로 다시 빠져 나오게 되면 분리 상태 플래그 발생한다.
상기와 같이 접촉 인식부(120)가 내부 통과 플래그를 생성할 때 내부 통과 유지 시간도 함께 측정한다. 이와 같은 이유는, 이하에서 설명할 키보드 입력부(130)가 접촉 인식부(120)에 의해 생성된 내부 통과 플래그 및 내부 통과 유지 시간을 이용하여 키의 값을 입력할 때 내부 통과 유지 시간이 특정 시간 이상일 때에만 키의 다른 값을 입력할 수 있도록 하기 위해서이다. 이러한 설명은 이하의 키보드 입력부(130)를 설명하며 보다 구체적으로 설명하기로 한다.
상기와 같이 접촉 인식부(120)가 접촉 플래그를 생성할 때 단순히 접촉 여부에 따라 충돌(입력) 플래그를 생성하게 되면, 사용자의 손이 가상 키보드 앞쪽에서 키보드 표면 쪽으로 이동하면서 정상적인 충돌(입력) 플래그가 발생할 수도 있지만, 사용자의 손이 가상 키보드 뒤쪽에서 가상 키보드 표면 쪽으로 이동하면서 비정상적인 충돌(입력) 플래그가 발생하는 경우인 백-터치(Back-touch) 오류가 야기될 수 있다.
즉, 3D 공간 상의 깊이 제어를 수행할 수 있는 강체(실세계의 컴퓨터 키보드 판)가 가상 현실 환경에서는 존재하지 않기 때문에, 키 입력 시 사용자의 손가락이 조금이라도 깊게 들어가게 되면 가상 키보드 뒤로 들어갔다가 나오면서 접촉 인식이 되는 경우가 발생할 수 있다.
일 실시예에서, 접촉 인식부(120)는 손 끝점이 이동하는 방향 벡터를 실시간으로 계산하여, 충돌(입력) 플래그가 발생했을 시 해당 방향 벡터가 가상 키보드의 앞면으로부터 뒤로의 방향으로의 입력 방향과 일치하면 정상적인 접촉 인식으로 판단할 수 하고, 반대 방향으로의 방향 벡터, 즉 키보드 뒷면으로부터 앞으로의 방향으로 계산되면 비정상적인 접촉 인식으로 판단하여 충돌 플래그를 생성하지 않고, 입력 과정을 수행하지 않도록 한다. 상기 백-터치(Back-touch) 방지 알고리즘을 통하여, 가상 키보드 접촉 인식 오류를 줄일 수 있도록 한다.
상기와 같이 접촉 인식부(120)가 접촉 플래그를 생성할 때, 사용자의 의도를 파악하지 않고 모든 접촉에 대하여 충돌(입력) 플래그를 생성하게 되면 사용자가 의도치 않은 충돌(입력)플래그가 발생하는 오류가 야기될 수 있다.
예를 들어, 센서로부터 들어오는 손 정보가 순간적으로 손 떨림 등의 이유로 부정확하게 전달되면, 사용자가 의도한 입력 키 혹은 입력 횟수와는 다르게 충돌(입력) 플래그가 발생할 수 있다.
일 실시예에서, 접촉 인식부(120)는 가상 키보드 각각의 키에 대하여 접촉 시간을 측정하고 키 입력 간의 인터벌을 실시간으로 계산함으로써, 동일 키에 대하여 매우 짧은 밀리 세컨드(ms) 단위의 특정 시간 내에 다수의 입력이 들어오면 사용자가 의도하지 않은 입력으로 판단하여 충돌(입력) 플래그를 생성하지 않고, 입력 과정을 수행하지 않도록 한다.
다른 일 실시예에서, 접촉 인식부(120)는 가상 키보드 각각의 키에 대하여 접촉 시간을 측정하여, 상기 동일 키 입력 방지 방법을 수행하는 동시에 서로 다른 여러 가지 키의 입력은 구분하여 동시에 부드럽게 키 입력이 수행될 수 있도록 한다. 상기 디바운싱(De-bouncing) 알고리즘을 통하여, 가상 키보드 접촉 인식 오류를 줄일 수 있도록 한다.
키보드 입력부(130)는 접촉 인식부(120)에 의해 발생된 플래그의 종류에 따라 해당 키의 값을 입력한다.
일 실시예에서, 키보드 입력부(130)는 접촉 인식부(120)에 의해 발생된 플래그의 종류가 특정 키에 대한 충돌 플래그이면 해당 키의 값을 입력한다.
다른 일 실시예에서, 키보드 입력부(130)는 접촉 인식부(120)에 의해 발생된 플래그의 종류가 특정 키에 대한 내부 통과 플래그이면 내부 통과 유지 시간에 따라 해당 키의 다른 값을 입력한다.
이와 같은 이유는, 내부 통과 유지 시간에 따라 손가락이 해당 키의 다른 값을 입력하기 위해서 해당 키에 대응되는 가상 물리 충돌체를 통과한 것인지 아니면 해당 키에 대응되는 가상 물리 충돌체에 충돌할 때 공간 깊이 인지 오류에 따라 가상 물리 충돌체를 통과한 것인지 여부를 확인하기 위해서이다.
즉, 키보드 입력부(130)는 접촉 인식부(120)에 의해 발생된 플래그의 종류가 특정 키에 대한 내부 통과 플래그이고, 내부 통과 유지 시간이 특정 시간 이상이면 손가락이 해당 키의 다른 값을 입력하기 위한 것이라고 판단하여 해당 키의 다른 값을 입력한다.
하지만, 키보드 입력부(130)는 접촉 인식부(120)에 의해 발생된 플래그의 종류가 특정 키에 대한 내부 통과 플래그이고, 내부 통과 유지 시간이 특정 시간 이하이면 손가락이 해당 키에 대응되는 가상 물리 충돌체에 충돌할 때 공간 깊이 인지 오류에 따라 가상 물리 충돌체를 통과한 것이라고 판단하여 아무런 동작을 실행하지 않는다.
상기의 실시예와 같이, 키보드 입력부(130)가 접촉 인식부(120)에 의해 발생된 플래그의 종류가 특정 키에 대한 내부 통과 플래그이면 내부 통과 유지 시간에 따라 해당 키의 다른 값을 입력하는 이유는, 가상 현실 환경에 가상 키보드 영상을 출력하여 사용자로 하여금 키보드의 각각의 키를 입력하도록 하는 경우 두 개의 키를 동시에 입력하는데 어려움이 있기 때문이다.
예를 들어, 가상 현실 환경에 가상 키보드 영상을 출력하여 사용자로 하여금 키보드의 각각의 키를 입력하도록 하는 경우 사용자는“쉬프트 키” 또는 “콘트롤 키”를 누르고 있는 상태에서 다른 키를 누르는 동작은 어려움이 있다.
상기와 같은 문제점을 해결하기 위해서, 가상 키보드 영상 각각의 키에 대하여 다수의 입력 값을 할당함으로써 접촉 인식부(120)에 의해 충돌 플래그가 발생되면 키의 기본 입력 값이 출력되고, 접촉 인식부(120)에 의해 내부 통과 플래그가 발생되고 내부 통과 유지 시간이 특정 시간 이상이면 키의 다른 입력 값이 출력되도록 한다.
예를 들어, 키보드 입력부(130)는 접촉 인식부(120)에 의해 발생된 플래그의 종류가 특정 키에 대한 충돌 플래그이면 해당 키의 기본 입력 값인 “a”가 출력되도록 하고, 접촉 인식부(120)에 의해 발생된 플래그의 종류가 내부 통과 플래그이고 내부 통과 유지 시간이 특정 시간 이상이면 키의 다른 입력 값 “A”가 출력되도록 하는 것이다.
이로 인해, 본 발명은 가상 현실 환경에 가상 키보드 영상을 출력하여 사용자로 하여금 키보드의 각각의 키를 입력하도록 하는 경우 사용자는“쉬프트 키” 또는 “콘트롤 키”를 누르지 않고도 키의 다른 값을 입력할 수 있도록 함으로써 종래에 두 개의 키를 동시에 입력하는데 어려움이 있었다는 문제점을 해결하였다.
피드백 출력부(140)는 키보드 입력부(130)에 의해 키의 값 또는 다른 값의 입력이 출력되면 피드백을 출력한다.
일 실시예에서, 피드백 출력부(140)는 시각적 피드백을 통해 피드백을 출력하는 경우, 키의 값 또는 다른 값의 입력이 출력되면 해당 키의 색상을 변화시키거나 해당 키 영역의 애니메이션 효과 변화를 통하여 상태 정보를 제공할 수 있다.
다른 일 실시예에서, 피드백 출력부(140)는 청각적 피드백을 통해 피드백을 출력하는 경우, 키의 값 또는 다른 값의 입력이 출력되면 키 입력음 변화를 통해 키가 눌러지고 있는 상태 정보를 제공할 수 있다.
또 다른 일 실시예에서, 피드백 출력부(140)는 촉각적 피드백을 통해 피드백을 출력하는 경우, 사용자가 착용하고 있는 기기의 진동 모듈을 통해 진동의 세기를 조절하여 키가 눌러지고 있는 상태 정보를 제공할 수 있다.
상기와 같이, 본 발명은 시각적, 청각적 및 촉각적으로 키의 값 또는 다른 값의 입력에 대한 피드백을 제공함으로써 키 입력 오차율을 최소화할 수 있다.
도 2는 본 발명의 실시예에 따른 가상 키보드 출력 장치에서 실행되는 가상 키보드 영상 회전 과정을 설명하기 위한 참조도이다.
도 2를 참조하면, 가상 키보드 출력 장치(100)는 가상 현실 환경에 가상 키보드 영상(210)을 출력하여 사용자가 가상 키보드를 이용할 수 있도록 한다.
이를 위해, 가상 키보드 출력 장치(100)는 센서로부터 수신된 손 정보를 이용하며, 손 정보를 센싱하는 센서는 헤드 마운트 디스플레이 장치의 전면에 부착된 감지 센서 또는 바디/핸드 모션 캡쳐 장치로 구현되고, 사용자의 손가락 좌표 정보를 가상 키보드 영상 출력부(110)에 제공한다.
가상 키보드 영상 출력부(110)는 초기 상태의 가상 키보드(210) 위치는 참조번호(a)와 같이 고정시켜 놓으며, 사용자의 키보드 입력 준비 여부에 따라 손바닥(220)과 가상 키보드 영상(210)이 평행하게 위치하도록 가상 키보드 영상(210)을 회전시켜 출력한다. 이를 위해, 가상 키보드 영상 출력부(110)는 손바닥의 중심점과 가상 키보드 영상의 중심점 사이의 거리(230)를 이용하여 사용자의 키보드 입력 준비 여부를 확인한다.
일 실시예에서, 가상 키보드 영상 출력부(110)는 손바닥의 중심점과 가상 키보드 영상의 중심점 사이의 거리(230)가 특정 거리 이상이면, 참조번호(a)와 같이 사용자의 키보드 입력 준비가 되지 않았다고 판단하여 아무런 동작을 실행하지 않는다.
다른 일 실시예에서, 가상 키보드 영상 출력부(110)는 손바닥의 중심점과 가상 키보드 영상의 중심점 사이의 거리(230)가 참조번호(b), (c)와 같이 특정 거리 이하이면, 사용자의 키보드 입력 준비가 되었다고 판단하여 손바닥(220)과 가상 키보드 영상(210)이 평행하게 위치하도록 참조번호 (d)와 같이 가상 키보드 영상(210)을 회전시켜 출력한다.
상기의 실시예에서, 가상 키보드 영상 출력부(110)는 손바닥(220)과 가상 키보드 영상(210)을 평행하게 위치시키기 위해, 손바닥의 법선 벡터를 이용하여 손의 방향을 파악하며 이에 평행하도록 가상 키보드 영상(210)을 출력한다.
도 3은 본 발명의 실시예에 따른 가상 키보드 출력 장치에서 실행되는 가상 키보드 영상 출력 과정을 설명하기 위한 참조도이다.
도 3을 참조하면, 가상 키보드 출력 장치(100)는 가상 현실 환경에 가상 키보드 영상(210)이 출력되는 과정에서 가상 키보드 영상(210)과 손(220)이 중첩되는 경우 가상 키보드 영상(210)이 손(220)의 아래에 출력되도록 한다.
이를 위해, 가상 키보드 영상 출력부(110)는 참조번호(a)와 같이 가상 키보드 영상(210) 및 손 영상(220)에 대한 렌더링을 각각 실행한 후, 참조번호(c)와 같이 영상 중첩 처리를 통하여 최종 영상을 출력한다.
일 실시예에서, 가상 키보드 영상 출력부(110)는 일차적으로 가상 키보드 영상(210) 및 손 영상(220)에 대한 렌더링 위치를 비교하여, 참조번호(b)와 같이 중첩되는 부분을 제외한 영역에 가상 키보드 영상(210)을 출력한다.
다른 일 실시예에서, 가상 키보드 영상 출력부(110)는 가상 키보드 영상(210) 및 손 영상(220)이 중첩되는 부분에 대하여, 참조번호(b)와 같이 은폐 영역 렌더링 과정을 거쳐서 가상 키보드 영상(210)을 지우고 손 영상(220)을 출력함으로써, 참조번호(c)와 같이 손(220)을 항상 가상 키보드(210) 위에 있도록 가상 키보드 영상(210)을 출력할 수 있다.
도 4는 본 발명의 일 실시예에 따른 가상 키보드 출력 장치에서 실행되는 가상 물리 충돌체를 통한 접촉 인식 과정을 설명하기 위한 참조도이다.
도 4를 참조하면, 가상 키보드 출력 장치(100)는 손가락의 끝점과 가상 키보드 영상 각각의 키에 대응되는 가상 물리 충돌체가 충돌하였는지 여부에 따라 접촉을 인식한다. 손가락 끝점에 대한 가상 물리 충돌체는 구의 형태로, 가상 키보드에 대한 가상 물리 충돌체는 특정 형태(예를 들어, 정육면체 등)로 구현될 수 있다.
종래에는 손 동작 센서로부터 수신된 손가락의 끝점의 추적 좌표가 가상 키보드 영상의 각각의 키 중 어느 키의 경계선 영역 안에 위치하는지 여부에 따라 해당 키가 눌려졌는지 확인하였다. 하지만, 종래의 방법은 물리적 접촉감이 존재하지 않는 3차원 공간의 경우, 사용자에게 제공할 수 있는 공간 깊이 정보만으로는 인지의 한계가 존재 하기 때문에 잦은 입력 오류를 야기한다.
예를 들어, 참조번호(a)와 같이 사용자가 가상 키보드 영상의 특정 키를 눌렀다고 인지 하더라도, 시스템 내에서 사용자의 손가락의 끝 좌표가 해당 키의 좌표 경계선 영역 안으로 들어 오지 않았다면, 미 접촉으로 판단하여 키 입력이 되지 않는 문제점이 있다.
하지만, 본 발명은 참조번호(b)와 같이 가상 키보드 영상 각각의 키에 대응되도록 서로 다른 가상 물리 충돌체를 적용시켜 손가락 끝점의 가상 물리 충돌체가 특정 키에 대응되는 가상 물리 충돌체와 충돌하면 손가락의 끝이 접촉되었다고 판단할 수 있기 때문에 종래와 같은 문제점이 발생하지 않는다.
도 5는 본 발명의 일 실시예에 따른 가상 키보드 출력 장치에서 실행되는 플래그의 종류에 따른 문자 입력 과정을 설명하기 위한 참조도이다.
도 5를 참조하면, 가상 현실 환경에 가상 키보드 영상을 출력하여 사용자로 하여금 키보드의 각각의 키를 입력하도록 하는 경우 두 개의 키를 동시에 입력하는데 어려움이 있다.
상기와 같은 문제점을 해결하기 위해서, 가상 키보드 출력 장치(100)는 가상 키보드 영상 각각의 키에 대하여 다수의 입력 값을 할당함으로써 손가락의 끝점이 가상 키보드 영상 각각의 키 중 특정 키에 대응되는 가상 물리 충돌체와 충돌되면 특정 키의 기본 입력 값을 출력하고, 손가락이 가상 물리 충돌체를 통과하고 내부 통과 유지 시간이 특정 시간 이상이면 특정 키의 다른 입력 값이 출력되도록 한다.
예를 들어, 가상 키보드 출력 장치(100)는 참조번호(a)와 같이 손가락의 끝점이 가상 키보드 영상 각각의 키 중 특정 키에 대응되는 가상 물리 충돌체와 충돌되면 특정 키의 기본 입력 값인 “a”가 출력되도록 한다.
다른 예를 들어, 가상 키보드 출력 장치(100)는 참조번호(b)와 같이 손가락의 끝점이 가상 키보드 영상 각각의 키 중 특정 키에 대응되는 가상 물리 충돌체를 통과하고 내부 통과 유지 시간이 특정 시간 이상이면 특정 키의 다른 입력 값인 “A”를 출력한다.
이로 인해, 본 발명은 가상 현실 환경에 가상 키보드 영상을 출력하여 사용자로 하여금 키보드의 각각의 키를 입력하도록 하는 경우 사용자는“쉬프트 키” 또는 “콘트롤 키”를 누르지 않고도 키의 다른 값을 입력할 수 있도록 함으로써 종래에 두 개의 키를 동시에 입력하는데 어려움이 있었다는 문제점을 해결하였다.
도 6은 본 발명의 일 실시예에 따른 가상 키보드 제어 방법을 설명하기 위한 흐름도이다.
도 6을 참조하면, 가상 키보드 출력 장치(100)는 센서로부터 수신된 손 정보를 이용하여 가상 키보드 영상의 출력 위치를 결정하여 해당 출력 위치에 가상 키보드 영상을 출력한다(단계 S610).
가상 키보드 출력 장치(100)는 손가락의 끝점 및 상기 가상 키보드 영상 각각의 키에 대응되는 가상 물리 충돌체 사이의 충돌 정보에 따라 플래그를 생성한다(단계 S620).
가상 키보드 출력 장치(100)는 플래그의 종류가 특정 키에 대한 접촉 플래그이면(단계 S621), 특정 키의 값을 입력하고 해당 피드백을 출력한다(단계 S630). 가상 키보드 출력 장치(100)는 플래그의 종류가 특정 키에 대한 내부 통과 플래그이면(단계 S622), 내부 통과 유지 시간이 특정 시간 이상인지 여부를 확인한다(단계 S640) 가상 키보드 출력 장치(100)는 내부 통과 유지 시간이 특정 시간 이상이면 특정 키의 다른 값을 입력한다(단계 S650가상 키보드 출력 장치(100)는 다른 값의 입력에 대한 피드백을 출력한다(단계 S650).
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이의 균등 또는 등가적 변형 모두는 본 발명 사상의 범주에 속한다고 할 것이다.
100: 가상 키보드 출력 장치
110: 가상 키보드 영상 출력부
120: 접촉 인식부
130: 키보드 입력부
140: 피드백 출력부

Claims (8)

  1. 센서로부터 수신된 손 정보를 통해, 가상 키보드의 좌표를 결정한 후 영상 처리 과정을 거쳐서 가상 키보드를 출력하는 가상 키보드 영상 출력부;
    손가락의 끝점 및 상기 가상 키보드 영상 출력부에서 출력된 가상 키보드 각각의 키에 대응되는 가상 물리 충돌체 사이의 충돌 정보를 이용하여 접촉 상태를 판단하는 접촉 인식부;
    상기 접촉 인식부에 의해 생성된 접촉 인식 정보에 따라 한 키에 다수의 입력 값을 제공하는 키보드 입력부; 및
    상기 접촉 인식부 및 키보드 입력부를 통해 생성된 각 키 입력 값에 대한 피드백을 출력하는 피드백 출력부를 포함하고,
    상기 가상 키보드 영상 출력부는
    센서로부터 수신되는 손가락 정보를 이용하여 가상 키보드와의 3차원 위치 관계를 추정하고, 손바닥 중심점과 가상 키보드 중심점 사이의 거리가 일정 이하로 가까워지면 시스템 내에서 사용자가 키보드 입력을 준비하는 과정으로 인식하여, 손바닥 법선 벡터를 계산한 후 상기 손바닥 법선 벡터를 이용하여 손바닥과 가상 키보드를 평행하게 위치하도록 회전하여서 가상 키보드 영상을 출력하고, 손과 가상 키보드 영상이 중첩되는 경우에 손의 형상대로 가상 키보드 이미지를 지우고 손 영상을 우선하여 출력하는 은폐 영역(Occlusion)에 대한 깊이 렌더링 과정을 수행하여 상기 가상 키보드가 손 아래에 있도록 가상 키보드 영상을 출력하는 것을 특징으로 하는
    가상 키보드 출력 장치.
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 접촉 인식부는
    사용자의 손 끝점과 상기 가상 키보드 영상 출력부에 의해 출력된 가상 키보드 각각의 키에 가상 물리 충돌체를 적용하고, 상기 가상 물리 충돌체를 이용하여 상기 손과 가상 키보드의 접촉 상태를 충돌, 내부통과, 분리 상태의 플래그로 표현하여 키보드 입력 상태를 판단하는 것을 특징으로 하는
    가상 키보드 출력 장치.
  5. 제4항에 있어서,
    상기 접촉 인식부는
    상기 손 끝점과 가상 키의 가상 물리 충돌체가 충돌할 때의 손가락 위치 및 방향 벡터를 계산하여, 손가락이 가상 키의 가상 물리 충돌체의 물리 모델 앞면만을 통과할 때만 접촉 상태의 플래그를 발생시키도록 설정하는 것을 특징으로 하는
    가상 키보드 출력 장치.
  6. 제4항에 있어서,
    상기 접촉 인식부는
    상기 가상 키보드 각각의 키에 대하여 접촉 시간을 이용하여 키 입력 간의 인터벌을 실시간으로 계산하고, 동일 키에 대하여 특정 시간 내에 다수의 입력이 들어오면 충돌 플래그를 생성하지 않는 것을 특징으로 하는
    가상 키보드 출력 장치.
  7. 제1항에 있어서,
    상기 키보드 입력부는
    상기 접촉 인식부에 의해 생성된 접촉 플래그를 이용하여 충돌 상태에서는 해당 키의 기본 값을 입력하고 상기 충돌 이후의 내부통과 상태가 일정 시간 지속되면 사용자가 해당 키를 깊게 해당 시간 동안 누르고 있는 것으로 판단하여 해당 키에 미리 지정되어 있는 다른 값을 입력하는 것을 특징으로 하는
    가상 키보드 출력 장치.
  8. 제1항에 있어서,
    상기 피드백 출력부는
    상기 접촉 인식부 및 키보드 입력부를 통해 생성된 각 키 입력 값에 대하여 서로 다른 피드백을 출력하며, 시각적 피드백의 경우 색상 변화 또는 애니메이션 효과를 통하여, 청각적 피드백의 경우 키 입력음 변화를 통하여, 촉각적 피드백의 경우 진동자를 포함하고 있는 반지 또는 골무 형태의 장치를 손 끝에 착용하고 해당 기기의 진동 세기를 조절하는 과정을 통하여 원활한 가상 키보드 입력에 대한 정보를 제공하는 것을 특징으로 하는
    가상 키보드 출력 장치.
KR1020160080867A 2016-06-28 2016-06-28 가상 키보드 출력 장치 및 제어 방법 KR101678880B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020160080867A KR101678880B1 (ko) 2016-06-28 2016-06-28 가상 키보드 출력 장치 및 제어 방법
US15/620,170 US9927869B2 (en) 2016-06-28 2017-06-12 Apparatus for outputting virtual keyboard and method of controlling the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160080867A KR101678880B1 (ko) 2016-06-28 2016-06-28 가상 키보드 출력 장치 및 제어 방법

Publications (1)

Publication Number Publication Date
KR101678880B1 true KR101678880B1 (ko) 2016-12-06

Family

ID=57576363

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160080867A KR101678880B1 (ko) 2016-06-28 2016-06-28 가상 키보드 출력 장치 및 제어 방법

Country Status (2)

Country Link
US (1) US9927869B2 (ko)
KR (1) KR101678880B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220132700A (ko) * 2021-03-23 2022-10-04 중앙대학교 산학협력단 가상마우스와 키보드를 복합한 다기능 입력장치 및 그 작동방법

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10762641B2 (en) 2016-11-30 2020-09-01 Whirlpool Corporation Interaction recognition and analysis system
US10157308B2 (en) * 2016-11-30 2018-12-18 Whirlpool Corporation Interaction recognition and analysis system
WO2018158818A1 (ja) * 2017-02-28 2018-09-07 日本電気株式会社 点検支援装置、点検支援方法および記録媒体
US10877554B2 (en) 2018-04-19 2020-12-29 Samsung Electronics Co., Ltd. High efficiency input apparatus and method for virtual reality and augmented reality
DE102018206676B4 (de) * 2018-04-30 2021-11-04 Deutsche Bahn Aktiengesellschaft Verfahren zur Interaktion einer Zeigevorrichtung mit einem auf einer Projektionsfläche eines virtuellen Desktops angeordneten Zielpunkts
US11507181B2 (en) * 2018-08-21 2022-11-22 Ntt Docomo, Inc. Input apparatus having virtual keys set on reference plane
US10902250B2 (en) 2018-12-21 2021-01-26 Microsoft Technology Licensing, Llc Mode-changeable augmented reality interface
US11386621B2 (en) 2018-12-31 2022-07-12 Whirlpool Corporation Augmented reality feedback of inventory for an appliance
US11270515B2 (en) 2019-09-04 2022-03-08 Qualcomm Incorporated Virtual keyboard
US11275945B2 (en) * 2020-03-26 2022-03-15 Varjo Technologies Oy Imaging system and method for producing images with virtually-superimposed functional elements
CN112925417B (zh) * 2021-02-25 2022-04-12 吉林大学 一种用于信息识别的虚拟键盘按键触觉传输方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008209689A (ja) * 2007-02-27 2008-09-11 Sony Corp 力触覚ディスプレイ、力触覚ディスプレイの制御方法、並びにコンピュータ・プログラム
KR101411569B1 (ko) * 2013-06-05 2014-06-27 고려대학교 산학협력단 가상 키보드를 이용한 정보 처리 장치 및 방법
KR20150099430A (ko) * 2014-02-21 2015-08-31 삼성전자주식회사 전자 장치
KR20160011451A (ko) 2014-07-22 2016-02-01 전자부품연구원 가상 키보드와 손동작 인식을 이용한 문자 입력장치 및 이를 이용한 문자 입력방법

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008209689A (ja) * 2007-02-27 2008-09-11 Sony Corp 力触覚ディスプレイ、力触覚ディスプレイの制御方法、並びにコンピュータ・プログラム
KR101411569B1 (ko) * 2013-06-05 2014-06-27 고려대학교 산학협력단 가상 키보드를 이용한 정보 처리 장치 및 방법
KR20150099430A (ko) * 2014-02-21 2015-08-31 삼성전자주식회사 전자 장치
KR20160011451A (ko) 2014-07-22 2016-02-01 전자부품연구원 가상 키보드와 손동작 인식을 이용한 문자 입력장치 및 이를 이용한 문자 입력방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220132700A (ko) * 2021-03-23 2022-10-04 중앙대학교 산학협력단 가상마우스와 키보드를 복합한 다기능 입력장치 및 그 작동방법
KR102489760B1 (ko) * 2021-03-23 2023-01-19 중앙대학교 산학협력단 가상마우스와 키보드를 복합한 다기능 입력장치 및 그 작동방법

Also Published As

Publication number Publication date
US20170371405A1 (en) 2017-12-28
US9927869B2 (en) 2018-03-27

Similar Documents

Publication Publication Date Title
KR101678880B1 (ko) 가상 키보드 출력 장치 및 제어 방법
CN113853575A (zh) 具有滑动菜单的人工现实系统
CN113826058A (zh) 具有自触觉虚拟键盘的人工现实系统
CN107469354B (zh) 补偿声音信息的视觉方法及装置、存储介质、电子设备
JP2022536015A (ja) 摘まんで引くジェスチャーに基づいた人工現実システムにおける入力の検出
US10955929B2 (en) Artificial reality system having a digit-mapped self-haptic input method
JP2006072854A (ja) 入力装置
KR20140010616A (ko) 3ｄ 가상 객체에 대한 조작 처리 장치 및 방법
CN113892074A (zh) 用于人工现实系统的手臂凝视驱动的用户界面元素选通
US10921899B2 (en) Interaction system using collocated visual, haptic, and/or auditory feedback
CN107077199B (zh) 用于在三维显示器上呈现虚拟对象的装置及用于控制装置的方法
CN113841110A (zh) 具有用于选通用户界面元素的个人助理元素的人工现实系统
JP2018113025A (ja) 触覚によるコンプライアンス錯覚のためのシステム及び方法
CN113892075A (zh) 用于人工现实系统的拐角识别手势驱动的用户界面元素选通
KR20190059726A (ko) 가상현실 환경에서의 사용자와 객체 간 상호 작용 처리 방법
JP6732078B2 (ja) 触覚オーバーレイを拡張現実に統合するシステム、方法及び非一時的コンピュータ可読媒体
CN106066689B (zh) 基于ar或vr系统的人机交互方法和装置
WO2023181549A1 (ja) 制御装置、制御方法、プログラム
US11307762B2 (en) Operating user interfaces
CN117826977A (zh) 交互方法、装置、电子设备、存储介质及计算机程序产品
JP2023143634A (ja) 制御装置、制御方法、プログラム
JP2006048386A (ja) 力覚提示装置、仮想オブジェクト算出方法、および仮想オブジェクト算出プログラム
KR20170085836A (ko) 3차원 형상 디자인을 위한 정보입력장치 및 이를 이용한 3차원 이미지 생성 방법

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191106

Year of fee payment: 4