KR20220128931A - 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법 - Google Patents

시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법 Download PDF

Info

Publication number
KR20220128931A
KR20220128931A KR1020210166614A KR20210166614A KR20220128931A KR 20220128931 A KR20220128931 A KR 20220128931A KR 1020210166614 A KR1020210166614 A KR 1020210166614A KR 20210166614 A KR20210166614 A KR 20210166614A KR 20220128931 A KR20220128931 A KR 20220128931A
Authority
KR
South Korea
Prior art keywords
tactile
module
body surface
plane
computer system
Prior art date
Application number
KR1020210166614A
Other languages
English (en)
Other versions
KR102693958B1 (ko
Inventor
이기혁
정진근
손선민
이상윤
김연수
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to US17/687,011 priority Critical patent/US11861066B2/en
Publication of KR20220128931A publication Critical patent/KR20220128931A/ko
Application granted granted Critical
Publication of KR102693958B1 publication Critical patent/KR102693958B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00—Teaching, or communicating with, the blind, deaf or mute
    • G09B21/001—Teaching or communicating with blind persons
    • G09B21/003—Teaching or communicating with blind persons using tactile presentation of the information, e.g. Braille displays

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • User Interface Of Digital Computer (AREA)
  • Input From Keyboards Or The Like (AREA)

Abstract

다양한 실시예들은 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법을 제공한다. 다양한 실시예들에 따르면, 컴퓨터 시스템은, 사용자의 제 1 신체 표면과 접촉하는 촉각 출력 모듈을 통해, 제 1 신체 표면에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키고, 촉각 입력 모듈을 통해, 사용자의 제 2 신체 표면에 대한 촉각 입력을 감지하고, 촉각 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성하도록 구성될 수 있다. 다양한 실시예들에 따르면, 제 1 신체 표면 또는 제 2 신체 표면 중 하나는 사용자의 일 신체 부위의 복측(ventral) 표면이고, 제 1 신체 표면 또는 제 2 신체 표면 중 다른 하나는 일 신체 부위에서 복측 표면에 대응되는 배측(dorsal) 표면일 수 있다.

Description

시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법{COMPUTER SYSTEM FOR PROVIDING TACTILE INTERFACE FOR REAL-TIME TWO-DIMENSIONAL TACTILE INPUT/OUTPUT INTERACTION OF VISUALLY IMPAIRED PEOPLE, AND OPERATING METHOD THEREOF}
다양한 실시예들은 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법에 관한 것이다.
비장애인 사용자는 터치스크린의 2차원 화면을 한번에 보면서 화면에 있는 여러 개의 객체들과 인터랙션할 수 있다. 반면에 시각 장애인은 스마트폰 터치스크린을 사용하기 위해 커서를 이용한 2-페이즈(2-phase) 인터랙션을 한다. 첫번째 페이즈는 탐색 페이즈다. 탐색 페이즈에서는 커서를 옮기면서 객체들의 정보를 얻는다. 커서는 손가락으로 객체 위치를 탭하여 그 객체를 선택하도록 하거나, 제스쳐를 이용해서 객체들을 순차적으로 선택하도록 이동시킬 수 있다. 커서가 새로운 객 체를 선택하면 그 객체의 정보를 소리로 읽어준다. 이를 반복하여 원하는 대상을 찾거나 여러 객 체들의 정보를 모아서 화면을 이해한다. 두번째 페이즈는 액션 페이즈이다. 커서가 원하는 객체에 위치했을 때 화면을 더블탭하는 것으로 그 객체를 활성화하거나 그 객체의 기능을 수행한다.
터치스크린을 사용할 때, 이러한 2-페이즈 인터랙션 구조는 인터랙티브한 어플리케이션의 사용을 제한한다. 특히 게임이나 반응성 웹페이지 등 움직이는 객체들이 있을 때 이들과 인터랙션하기 어렵다. 한 객체가 움직인 경우, 그 객체를 다시 커서로 선택하여 정보를 얻을 때가지 그 사실을 알 수 없다. 마찬가지로, 새로운 객체가 생성되거나, 기존에 있던 객체가 사라진 경우에도, 변화를 바로 알 수 없다.
시각장애인이 2차원 정보를 탐색하기 위한 다른 방법은 2차원 촉각 디스플레이를 활용하는 방법이다. 시각장애인 사용자는 여러 손가락들로 디스플레이 표면을 더듬어 정보를 얻는다. 하지만 여러 손가락으로 면적을 탐색한다 하더라도 한번에 면적 전체를 인지할 수 없기 때문에 움직이는 객체가 있을 때 그 객체 위치를 터치할 때까지 그 움직임을 알 수 없는 것은 터치스크린의 경우와 마찬가지다. 결국 스마트폰 터치스크린 사용의 경우와 비슷하게 2페이즈 인터랙션을 하게 된다.
다양한 실시예들은, 사용자, 예컨대 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법을 제공한다.
다양한 실시예들은, 2 차원 시각 정보를 촉각 자극으로 치환하여 출력하고, 이에 대응하는 촉각 입력을 감지할 수 있는 컴퓨터 시스템 및 그의 방법을 제공한다.
다양한 실시예들은, 사용자가 공간적으로 서로 대응되는 신체 표면들을 통해 인지적으로 촉각 입출력 인터랙션이 가능한 컴퓨터 시스템 및 그의 방법을 제공한다.
다양한 실시예들에 따른 컴퓨터 시스템의 방법은, 사용자의 제 1 신체 표면과 접촉하는 촉각 출력 모듈을 통해, 상기 제 1 신체 표면에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키는 단계, 촉각 입력 모듈을 통해, 상기 사용자의 제 2 신체 표면에 대한 촉각 입력을 감지하는 단계, 및 상기 촉각 입력을 기반으로, 상기 2 차원 시각 정보에 대한 제어 신호를 생성하는 단계를 포함할 수 있다.
다양한 실시예들에 따르면, 상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 하나는 상기 사용자의 일 신체 부위의 복측(ventral) 표면이고, 상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 다른 하나는 상기 일 신체 부위에서 상기 복측 표면에 대응되는 배측(dorsal) 표면일 수 있다.
다양한 실시예들에 따른 컴퓨터 시스템은, 사용자의 제 1 신체 표면과 접촉하고, 상기 제 1 신체 표면에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키도록 구성되는 촉각 출력 모듈, 상기 사용자의 제 2 신체 표면에 대한 촉각 입력을 감지하도록 구성되는 촉각 입력 모듈, 및 상기 촉각 입력을 기반으로, 상기 2 차원 시각 정보에 대한 제어 신호를 생성하도록 구성되는 프로세서를 포함할 수 있다.
다양한 실시예들에 따르면, 상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 하나는 상기 사용자의 일 신체 부위의 복측 표면이고, 상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 다른 하나는 상기 일 신체 부위에서 상기 복측 표면에 대응되는 배측 표면일 수 있다.
다양한 실시예들에 따르면, 컴퓨터 시스템은 사용자, 예컨대 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공할 수 있다. 컴퓨터 시스템은 2 차원 시각 정보를 촉각 출력, 즉 2 차원 평면 상의 촉각 자극으로 치환하여 발생시킴으로써, 사용자로 하여금 2 차원 시각 정보를 한 번에 전체적으로 인지할 수 있게 할 수 있다. 이 때, 컴퓨터 시스템은 2 차원 시간 정보의 실시간 변화에 대응하여, 촉각 출력을 실시간으로 변화시킬 수 있으며, 이를 통해 사용자는 실시간으로 변하는 객체, 예컨대 움직이는 객체를 즉각적으로 인지할 수 있다. 아울러, 컴퓨터 시스템은 촉각 출력에 대응하는 촉각 입력을 감지할 수 있기 때문에, 사용자로 하여금 실시간 촉각 입출력 인터랙션이 가능하게 할 수 있다. 이 때, 사용자는 공간적으로 서로 대응되는 신체 표면들, 예컨대 손바닥 면과 손등 면, 발바닥 면과 발등 면, 또는 등(back) 면과 배(abdomen) 면을 통해 인지적으로 촉각 입출력 인터랙션이 가능하다.
도 1은 다양한 실시예들에 따른 컴퓨터 시스템을 도시하는 도면이다.
도 2는 도 1의 전자 장치를 도시하는 도면이다.
도 3a는 도 1의 촉각 출력 모듈을 도시하는 도면이다.
도 3b는 도 1의 촉각 출력 모듈을 예시적으로 설명하기 위한 도면이다.
도 4는 도 1의 촉각 입력 모듈을 도시하는 도면이다.
도 5a, 도 5b, 도 5c, 도 5d, 도 5e, 도 5f, 도 5g 및 도 5h는 다양한 실시예들에 따른 컴퓨터 시스템의 동작 특징을 예시적으로 설명하기 위한 도면들이다.
도 6은 다양한 실시예들에 따른 컴퓨터 시스템의 방법을 도시하는 도면이다.
이하, 본 문서의 다양한 실시예들이 첨부된 도면을 참조하여 설명된다.
도 1은 다양한 실시예들에 따른 컴퓨터 시스템(100)을 도시하는 도면이다.
도 1을 참조하면, 다양한 실시예들에 따른 컴퓨터 시스템(100)은 사용자(10), 예컨대 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공할 수 있다. 이를 위해, 사용자(10)에 있어서, 제 1 신체 표면(12)과 제 2 신체 표면(13)이 정의될 수 있다. 제 1 신체 표면(12)과 제 2 신체 표면(13)은 동일한 신체 부위에 있거나, 상이한 신체 부위들에 각각 있을 수 있다. 제 1 신체 표면(12)과 제 2 신체 표면(13)은 일치할 수 있으며, 일치하지 않고 이격되어 있을 수 있다. 어떤 실시예들에서, 제 1 신체 표면(12)과 제 2 신체 표면(13)은 일 신체 부위를 둘러싸는 피부 표면 상에서 상호로부터 이격되어 각각 정의되고, 가운데의 평면을 사이에 두고 서로에 대향하여 배치될 수 있다. 일 실시예에서, 제 1 신체 표면(12)은 일 신체 부위의 복측(ventral) 표면이고, 제 2 신체 표면(13)은 해당 신체 부위에서 복측 표면에 대응되는 배측(dorsal) 표면일 수 있다. 일 예로, 제 1 신체 표면(12)은 손바닥 면이고, 제 2 신체 표면(13)은 손등 면일 수 있다. 다른 예로, 제 1 신체 표면(12)은 발바닥 면이고, 제 2 신체 표면(130)은 발등 면일 수 있다. 다른 실시예에서, 제 1 신체 표면(12)은 일 신체 부위의 배측 표면이고, 제 2 신체 표면(13)은 해당 신체 부위에서 배측 표면에 대응되는 복측 표면일 수 있다. 일 예로, 제 1 신체 표면(12)은 등(back) 면이고, 제 2 신체 표면(13)은 배(abdomen) 면일 수 있다. 이 때, 컴퓨터 시스템(100)은 사용자(10)의 제 1 신체 표면(12)에 대해 촉각 출력을 발생시킬 수 있으며, 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지할 수 있다.
다양한 실시예들에 따르면, 컴퓨터 시스템(100)은 전자 장치(110), 촉각 출력 모듈(120) 및 촉각 입력 모듈(130)을 포함할 수 있다. 어떤 실시예들에서, 컴퓨터 시스템(100)의 구성 요소들 중 적어도 두 개가 하나의 통합된 회로로 구현될 수 있다. 즉, 컴퓨터 시스템(100)의 구성 요소들은 단일 장치로 구현되거나, 복수의 장치들에 분산되어 구현될 수 있다. 어떤 실시예들에서, 컴퓨터 시스템(100)에 적어도 하나의 다른 구성 요소가 추가될 수 있다.
전자 장치(110)는 2 차원 시각 정보를 관리할 수 있다. 그리고, 전자 장치(110)는 2 차원 시각 정보를 제어할 수 있다. 이 때, 전자 장치(110)는 사용자의 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성할 수 있다. 예를 들면, 전자 장치(110)는 스마트폰(smart phone), 휴대폰, 내비게이션, 컴퓨터, 노트북, 디지털방송용 단말, PDA(personal digital assistants), PMP(portable multimedia player), 태블릿 PC, 게임 콘솔(game console), 웨어러블 디바이스(wearable device), IoT(internet of things) 디바이스, 가전 기기, 의료 기기, 및 로봇(robot) 중 적어도 하나를 포함할 수 있다.
촉각 출력 모듈(120)은 사용자(10)의 제 1 신체 표면(12)에 대해 촉각 출력을 발생시킬 수 있다. 예를 들면, 촉각 출력은 촉각 자극이며, 촉각 자극은 전기적 자극, 진동 자극, 및 찌르는 자극과 같은 압력 자극 중 적어도 하나를 포함할 수 있다. 이 때, 촉각 출력 모듈(120)은 2 차원 시각 정보를 기반으로, 제 1 신체 표면(12)에 대해 촉각 출력을 발생시킬 수 있다. 이를 위해, 촉각 출력 모듈(120)은 제 1 신체 표면(12)과 접촉할 수 있다. 일 실시예에 따르면, 촉각 출력 모듈(120)은 보드(board) 또는 시트(sheet)의 형태로 구현될 수 있다. 다른 실시예에 따르면, 촉각 출력 모듈(120)은 제 1 신체 표면(12)을 갖는 신체 부위를 감싸는 섬유의 형태로 구현될 수 있다.
촉각 입력 모듈(130)은 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지할 수 있다. 이 때, 촉각 입력 모듈(130)은 제 2 신체 표면(130)에 대한 사용자(10)의 터치 입력 및 호버 입력 중 적어도 하나를 기반으로, 촉각 입력을 감지할 수 있다. 그리고, 촉각 입력 모듈(130)은 전자 장치(100)에 촉각 입력에 대한 촉각 정보를 제공할 수 있다. 이에 따라, 전자 장치(100)는 촉각 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성할 수 있다. 이를 위해, 촉각 입력 모듈(130)은 제 2 신체 표면(13)의 적어도 일부와 접촉하거나, 제 2 신체 표면(13)으로부터 이격되어 있을 수 있다.
일 예로, 제 1 신체 표면(12)은 손바닥 면이고, 제 2 신체 표면(13)은 손등 면인 경우, 촉각 출력 모듈(120)과 촉각 입력 모듈(130)은 장갑의 형태로 구현될 수 있다. 다른 예로, 제 1 신체 표면(12)은 발바닥 면이고, 제 2 신체 표면(130)은 발등 면인 경우, 촉각 출력 모듈(120)과 촉각 입력 모듈(130)은 양말의 형태로 구현될 수 있다. 또 다른 예로, 제 1 신체 표면(12)은 등 면이고, 제 2 신체 표면(13)은 배 면인 경우, 촉각 출력 모듈(120)과 촉각 입력 모듈(130)은 상의 또는 복대(abdominal binder)의 형태로 구현될 수 있다.
도 2는 다양한 실시예들에 따른 컴퓨터 시스템(100)의 전자 장치(110)를 도시하는 도면이다.
도 2를 참조하면, 다양한 실시예들에 따른 전자 장치(110)는 입력 모듈(210), 출력 모듈(220), 연결 단자(230), 통신 모듈(240), 메모리(250), 및 프로세서(260) 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 전자 장치(110)의 구성 요소들 중 적어도 하나가 생략될 수 있으며, 전자 장치(110)에 적어도 하나의 다른 구성 요소가 추가될 수 있다. 어떤 실시예들에서, 전자 장치(110)의 구성 요소들 중 적어도 두 개가 하나의 통합된 회로로 구현될 수 있다.
입력 모듈(210)은 전자 장치(110)의 적어도 하나의 구성 요소에 사용될 신호를 입력할 수 있다. 입력 모듈(210)은, 사용자(10)가 전자 장치(110)에 직접적으로 신호를 입력하도록 구성되는 입력 장치, 또는 주변의 변화를 감지하여 신호를 발생하도록 구성되는 센서 장치 중 적어도 하나를 포함할 수 있다. 예를 들면, 입력 장치는 마이크로폰(microphone), 마우스(mouse) 및 키보드(keyboard) 중 적어도 하나를 포함할 수 있다. 어떤 실시예에서, 입력 장치는 터치를 감지하도록 설정된 터치 회로(touch circuitry) 및 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로 중 적어도 하나를 포함할 수 있다.
출력 모듈(220)은 전자 장치(110)의 외부로 정보를 출력할 수 있다. 출력 모듈(220)은, 2 차원 시각 정보를 출력하도록 구성되는 표시 장치, 및 청각 정보를 오디오 신호로 출력할 수 있는 오디오 출력 장치 중 적어도 하나를 포함할 수 있다. 예를 들면, 표시 장치는 디스플레이, 홀로그램 장치 및 프로젝터 중 적어도 하나를 포함할 수 있다. 일 예로, 표시 장치는 입력 모듈(210)의 터치 회로 및 센서 회로 중 적어도 하나와 조립되어, 터치 스크린으로 구현될 수 있다. 예를 들면, 오디오 출력 장치는 스피커 및 리시버 중 적어도 하나를 포함할 수 있다.
연결 단자(230)는 전자 장치(110)와 외부 기기 간 물리적 연결을 위해 제공될 수 있다. 일 실시예에 따르면, 연결 단자(230)는 커넥터를 포함할 수 있다. 예를 들면, 연결 단자(230)는 HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 및 오디오 커넥터를 포함할 수 있다. 여기서, 외부 기기는 다른 전자 장치를 포함할 수 있다. 어떤 실시예들에서, 다른 전자 장치는 촉각 출력 모듈(120) 및 촉각 입력 모듈(130) 중 적어도 하나를 포함할 수 있다.
통신 모듈(240)은 전자 장치(110)에서 외부 기기와 통신을 수행할 수 있다. 통신 모듈(240)은 전자 장치(110)와 외부 기기 간 통신 채널을 수립하고, 통신 채널을 통해, 외부 기기와 통신을 수행할 수 있다. 여기서, 외부 기기는 위성, 기지국, 서버 및 다른 전자 장치 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 다른 전자 장치는 촉각 출력 모듈(120) 및 촉각 입력 모듈(130) 중 적어도 하나를 포함할 수 있다. 통신 모듈(240)은 유선 통신 모듈 및 무선 통신 모듈 중 적어도 하나를 포함할 수 있다. 유선 통신 모듈은 연결 단자(230)를 통해 외부 기기와 유선으로 연결되어, 유선으로 통신할 수 있다. 무선 통신 모듈은 근거리 통신 모듈 및 원거리 통신 모듈 중 적어도 하나를 포함할 수 있다. 근거리 통신 모듈은 외부 기기와 근거리 통신 방식으로 통신할 수 있다. 예를 들면, 근거리 통신 방식은, 블루투스(Bluetooth), 와이파이 다이렉트(WiFi direct), 및 적외선 통신(IrDA; infrared data association) 중 적어도 하나를 포함할 수 있다. 원거리 통신 모듈은 외부 기기와 원거리 통신 방식으로 통신할 수 있다. 여기서, 원거리 통신 모듈은 네트워크를 통해 외부 기기와 통신할 수 있다. 예를 들면, 네트워크는 셀룰러 네트워크, 인터넷, 및 LAN(local area network)이나 WAN(wide area network)과 같은 컴퓨터 네트워크 중 적어도 하나를 포함할 수 있다.
메모리(250)는 전자 장치(110)의 적어도 하나의 구성 요소에 의해 사용되는 다양한 데이터를 저장할 수 있다. 예를 들면, 메모리(250)는 휘발성 메모리 및 비휘발성 메모리 중 적어도 하나를 포함할 수 있다. 데이터는 적어도 하나의 프로그램 및 이와 관련된 입력 데이터 또는 출력 데이터를 포함할 수 있다. 프로그램은 메모리(250)에 적어도 하나의 명령을 포함하는 소프트웨어로서 저장될 수 있으며, 운영 체제, 미들 웨어, 및 어플리케이션 중 적어도 하나를 포함할 수 있다.
프로세서(260)는 메모리(250)의 프로그램을 실행하여, 전자 장치(110)의 적어도 하나의 구성 요소를 제어할 수 있다. 이를 통해, 프로세서(260)는 데이터 처리 또는 연산을 수행할 수 있다. 이 때, 프로세서(260)는 메모리(250)에 저장된 명령을 실행할 수 있다.
다양한 실시예들에 따르면, 프로세서(260)는 2 차원 시각 정보를 관리할 수 있다. 이 때, 2 차원 시각 정보는 미리 정해지는 시각적 평면 상에 배치되는 적어도 하나의 객체로 이루어질 수 있다. 일 예로, 시각적 평면은 배경 화면을 나타내고, 객체는 배경 화면 상에 배치되는 화면 요소로서, 아이콘(icon), 위젯(widget), 아이템(item), 문자(character), 버튼(button), 슬라이더(slider), 및 팝업 창(pop-up window) 중 적어도 하나를 포함할 수 있다. 프로세서(260)는 2 차원 시각 정보를 촉각 출력 모듈(120)에 제공할 수 있다. 이를 위해, 프로세서(260)는 미리 정해진 해상도로 2 차원 시각 정보를 생성할 수 있다. 예를 들면, 프로세서(260)는 출력 모듈(220)의 표시 장치를 통해 2 차원 시각 정보를 표시하면서, 2 차원 시각 정보를 촉각 출력 모듈(120)에 제공할 수 있다.
다양한 실시예들에 따르면, 프로세서(260)는 2 차원 시각 정보를 제어할 수 있다. 즉, 프로세서(260)는 사용자의 입력을 기반으로, 2 차원 시각 정보를 제어할 수 있다. 이 때, 프로세서(260)는 촉각 입력 모듈(130)에서 감지되는 촉각 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성할 수 있다. 구체적으로, 프로세서(260)는 촉각 입력 모듈(130)로부터 촉각 입력에 대한 촉각 정보를 수신하고, 촉각 정보를 이용하여, 제어 신호를 생성할 수 있다. 그리고, 프로세서(260)는 제어 신호에 따라, 2 차원 시각 정보를 제어할 수 있다. 이를 통해, 프로세서(260)는 2 차원 시각 정보를 변경할 수 있다. 예를 들면, 프로세서(260)는 출력 모듈(220)의 표시 장치를 통해 표시되는 2 차원 시각 정보를 변경할 수 있다.
도 3a는 다양한 실시예들에 따른 컴퓨터 시스템(100)의 촉각 출력 모듈(120)을 도시하는 도면이다. 도 3b는 다양한 실시예들에 따른 컴퓨터 시스템(100)의 촉각 출력 모듈(120)을 예시적으로 설명하기 위한 도면이다.
도 3a를 참조하면, 다양한 실시예들에 따른 촉각 출력 모듈(120)은 연결 단자(310), 통신 모듈(320), 매트릭스 모듈(330), 메모리(340), 및 프로세서(350) 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 촉각 출력 모듈(120)의 구성 요소들 중 적어도 하나가 생략될 수 있으며, 촉각 출력 모듈(120)에 적어도 하나의 다른 구성 요소가 추가될 수 있다. 어떤 실시예들에서, 촉각 출력 모듈(120)의 구성 요소들 중 적어도 두 개가 하나의 통합된 회로로 구현될 수 있다. 일 실시예에 따르면, 촉각 출력 모듈(120)의 메모리(340) 및 프로세서(350)는 전자 장치(110)의 메모리(250) 및 프로세서(260)에 각각 통합될 수 있으며, 이러한 경우 통신 모듈(320)은 매트릭스 모듈(330)에 직접적으로 연결될 수 있다. 다른 실시예에 따르면, 촉각 출력 모듈(120)은 전자 장치(110)와 단일 장치로 구현될 수 있으며, 이러한 경우 촉각 출력 모듈(120)에서 연결 단자(310) 및 통신 모듈(320)은 생략되고, 촉각 출력 모듈(120)의 메모리(340) 및 프로세서(350)는 전자 장치(110)의 메모리(250) 및 프로세서(260)에 각각 통합될 수 있다.
연결 단자(310)는 촉각 출력 모듈(120)과 외부 기기 간 물리적 연결을 위해 제공될 수 있다. 일 실시예에 따르면, 연결 단자(310)는 커넥터를 포함할 수 있다. 예를 들면, 연결 단자(310)는 HDMI 커넥터 또는 USB 커넥터를 포함할 수 있다. 여기서, 외부 기기는 전자 장치(110) 및 촉각 입력 모듈(130) 중 적어도 하나를 포함할 수 있다.
통신 모듈(320)은 촉각 출력 모듈(120)에서 외부 기기와 통신을 수행할 수 있다. 통신 모듈(320)은 촉각 출력 모듈(120)과 외부 기기 간 통신 채널을 수립하고, 통신 채널을 통해, 외부 기기와 통신을 수행할 수 있다. 여기서, 외부 기기는 전자 장치(110) 및 촉각 입력 모듈(130) 중 적어도 하나를 포함할 수 있다. 통신 모듈(320)은 유선 통신 모듈 및 무선 통신 모듈 중 적어도 하나를 포함할 수 있다. 유선 통신 모듈은 연결 단자(310)를 통해 외부 기기와 유선으로 연결되어, 유선으로 통신할 수 있다. 무선 통신 모듈은 근거리 통신 모듈 및 원거리 통신 모듈 중 적어도 하나를 포함할 수 있다. 근거리 통신 모듈은 외부 기기와 근거리 통신 방식으로 통신할 수 있다. 예를 들면, 근거리 통신 방식은, 블루투스, 와이파이 다이렉트, 및 적외선 통신 중 적어도 하나를 포함할 수 있다. 원거리 통신 모듈은 외부 기기와 원거리 통신 방식으로 통신할 수 있다. 여기서, 원거리 통신 모듈은 네트워크를 통해 외부 기기와 통신할 수 있다. 예를 들면, 네트워크는 셀룰러 네트워크, 인터넷, 및 LAN이나 WAN과 같은 컴퓨터 네트워크 중 적어도 하나를 포함할 수 있다.
매트릭스 모듈(330)은 사용자(10)의 제 1 신체 표면(12)에 대해 촉각 출력을 발생시킬 수 있다. 예를 들면, 촉각 출력은 촉각 자극이며, 촉각 자극은 전기적 자극, 진동 자극, 및 찌르는 자극과 같은 압력 자극 중 적어도 하나를 포함할 수 있다. 이를 위해, 매트릭스 모듈(330)은 제 1 신체 표면(12)과 접촉할 수 있다. 일 예로, 촉각 출력 모듈(120)이 장갑의 형태로 구현되는 경우, 매트릭스 모듈(330)은 장갑 내에서 사용자(10)의 손바닥 면과 접촉하도록 구현될 수 있다. 다른 예로, 촉각 출력 모듈(120)이 양말의 형태로 구현되는 경우, 매트릭스 모듈(330)은 양말 내에서 사용자(10)의 발바닥 면과 접촉하도록 구현될 수 있다. 또 다른 예로, 촉각 출력 모듈(120)의 상의 또는 복대의 형태로 구현되는 경우, 매트릭스 모듈(330)은 상의 또는 복대 내에서 사용자(10)의 등 면과 접촉하도록 구현될 수 있다.
다양한 실시예들에 따르면, 매트릭스 모듈(330)은 기판(substrate), 및 기판 상에 2 차원 매트릭스(matrix) 구조로 배열되는 복수의 자극 엘리먼트(element)들을 포함할 수 있다. 기판은 자극 엘리먼트들을 지지하고, 자극 엘리먼트들은 제 1 신체 표면(12)과 실질적으로 접촉할 수 있다. 예를 들면, 자극 엘리먼트들의 각각은 전극, 진동 모터, 및 선형으로 움직이는 핀 모듈 중 적어도 하나를 포함할 수 있다. 전극은 인가되는 전압 또는 전류를 이용하여, 제 1 신체 표면(12)에 전기적 자극을 발생시킬 수 있다. 진동 모터는 인가되는 전압에 따라 진동하여, 제 1 신체 표면(12)에 진동 자극을 발생시킬 수 있다. 일 예로, 진동 모터는 ERM(eccentric rotating mass) 또는 LRA(linear resonant actuator)일 수 있다. 핀 모듈은 제 1 신체 표면(12)에 대해 선형으로 이동하여, 제 1 신체 표면(12)에 압력 자극을 발생시킬 수 있다. 일 예로, 핀 모듈은 선형 서보 모터(servo motor)를 이용하여 구동되도록, 구현될 수 있다.
메모리(340)는 촉각 출력 모듈(120)의 적어도 하나의 구성 요소에 의해 사용되는 다양한 데이터를 저장할 수 있다. 예를 들면, 메모리(340)는 휘발성 메모리 및 비휘발성 메모리 중 적어도 하나를 포함할 수 있다. 데이터는 적어도 하나의 프로그램 및 이와 관련된 입력 데이터 또는 출력 데이터를 포함할 수 있다. 프로그램은 메모리(340)에 적어도 하나의 명령을 포함하는 소프트웨어로서 저장될 수 있으며, 운영 체제, 미들 웨어, 및 어플리케이션 중 적어도 하나를 포함할 수 있다.
프로세서(350)는 메모리(340)의 프로그램을 실행하여, 촉각 출력 모듈(120)의 적어도 하나의 구성 요소를 제어할 수 있다. 이를 통해, 프로세서(350)는 데이터 처리 또는 연산을 수행할 수 있다. 이 때, 프로세서(350)는 메모리(340)에 저장된 명령을 실행할 수 있다.
다양한 실시예들에 따르면, 프로세서(350)는 2 차원 시각 정보를 기반으로, 매트릭스 모듈(330)을 통해 사용자(10)의 제 1 신체 표면(12)에 대해 촉각 출력을 발생시킬 수 있다. 이 때, 제 1 촉각적 평면이 촉각 출력 모듈(120), 보다 상세하게는 매트릭스 모듈(330)에 의해 제 1 신체 표면(12)에 정의되며, 제 1 촉각적 평면은 2 차원 시각 정보의 시각적 평면에 대응할 수 있다. 제 1 촉각적 평면의 사이즈는 시각적 평면의 사이즈와 동일하거나, 상이할 수 있다. 여기서, 제 1 촉각적 평면 내의 자극 엘리먼트들의 각각이 각 픽셀 또는 각 도트의 역할을 할 수 있으며, 이로써 제 1 촉각적 평면의 해상도가 정의될 수 있다. 이를 통해, 프로세서(350)는 제 1 촉각적 평면 상에서, 2 차원 시각 정보에서 시각적 평면 상에 배치되는 적어도 하나의 객체에 상응하는 촉각 자극을 발생시킬 수 있다. 즉, 프로세서(350)는 시각적 평면에서의 각 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나에 부합하도록, 제 1 촉각적 평면 상에서 촉각 자극을 발생시킬 수 있다. 이를 위해, 프로세서(350)는 매트릭스 모듈(330)의 자극 엘리먼트들 중 적어도 하나를 구동시킬 수 있다. 즉, 프로세서(350)는 시각적 평면에서의 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나를 기반으로, 제 1 촉각적 평면 내의 자극 엘리먼트들 중 적어도 하나를 선택하고, 선택된 자극 엘리먼트를 구동시켜, 촉각 자극을 발생시킬 수 있다.
예를 들면, 프로세서(350)는 도 3b에 도시된 바와 같이 2 차원 시각 정보를 기반으로, 2 차원 자극 정보를 생성할 수 있다. 이 때, 프로세서(350)는 전자 장치(110)로부터 수신되는 2 차원 시각 정보의 해상도를 미리 정해진 해상도로 변경함으로써, 2 차원 자극 정보를 생성할 수 있다. 여기서, 2 차원 시각 정보의 해상도는 시각적 평면의 사이즈에 기초하여 결정되고, 2 차원 자극 정보의 해상도는 제 1 촉각적 평면의 사이즈에 기초하여 결정되며, 제 1 촉각적 평면 내의 자극 엘리먼트들의 각각이 각 픽셀 또는 각 도트의 역할을 할 수 있다. 즉, 제 1 촉각적 평면의 해상도가 2 차원 자극 정보를 위한 해상도를 나타낼 수 있다. 이를 통해, 프로세서(350)는 2 차원 자극 정보를 이용하여, 제 1 촉각적 평면 내의 자극 엘리먼트들 중 적어도 하나를 선택하고, 선택된 자극 엘리먼트를 구동시켜, 촉각 자극을 발생시킬 수 있다.
도 4는 다양한 실시예들에 따른 컴퓨터 시스템(100)의 촉각 입력 모듈(130)을 도시하는 도면이다.
도 4를 참조하면, 다양한 실시예들에 따른 촉각 입력 모듈(130)은 연결 단자(410), 통신 모듈(420), 촉각 인식 모듈(430), 메모리(440), 및 프로세서(450) 중 적어도 하나를 포함할 수 있다. 어떤 실시예들에서, 촉각 입력 모듈(130)의 구성 요소들 중 적어도 하나가 생략될 수 있으며, 촉각 입력 모듈(130)에 적어도 하나의 다른 구성 요소가 추가될 수 있다. 어떤 실시예들에서, 촉각 입력 모듈(130)의 구성 요소들 중 적어도 두 개가 하나의 통합된 회로로 구현될 수 있다. 일 실시예에 따르면, 촉각 입력 모듈(130)의 메모리(440) 및 프로세서(450)는 전자 장치(110)의 메모리(250) 및 프로세서(260)에 각각 통합될 수 있으며, 이러한 경우 통신 모듈(320)은 촉각 인식 모듈(430)에 직접적으로 연결될 수 있다. 다른 실시예에 따르면, 촉각 입력 모듈(130)은 전자 장치(110)와 단일 장치로 구현될 수 있으며, 이러한 경우 촉각 입력 모듈(130)에서 연결 단자(410) 및 통신 모듈(420)은 생략되고, 촉각 입력 모듈(130)의 메모리(440) 및 프로세서(450)는 전자 장치(110)의 메모리(250) 및 프로세서(260)에 각각 통합될 수 있다. 또 다른 실시예에서, 촉각 입력 모듈(130)은 촉각 출력 모듈(120)과 단일 장치로 구현될 수 있으며, 이러한 경우, 촉각 입력 모듈(130)에서 연결 단자(410) 및 통신 모듈(420)은 생략되고, 촉각 입력 모듈(130)의 메모리(440) 및 프로세서(450)는 촉각 출력 모듈(120)의 메모리(340) 및 프로세서(350)에 각각 통합될 수 있다.
연결 단자(410)는 촉각 입력 모듈(130)과 외부 기기 간 물리적 연결을 위해 제공될 수 있다. 일 실시예에 따르면, 연결 단자(410)는 커넥터를 포함할 수 있다. 예를 들면, 연결 단자(410)는 HDMI 커넥터 또는 USB 커넥터를 포함할 수 있다. 여기서, 외부 기기는 전자 장치(110) 및 촉각 출력 모듈(120) 중 적어도 하나를 포함할 수 있다.
통신 모듈(420)은 촉각 입력 모듈(130)에서 외부 기기와 통신을 수행할 수 있다. 통신 모듈(420)은 촉각 입력 모듈(130)과 외부 기기 간 통신 채널을 수립하고, 통신 채널을 통해, 외부 기기와 통신을 수행할 수 있다. 여기서, 외부 기기는 전자 장치(110) 및 촉각 출력 모듈(120) 중 적어도 하나를 포함할 수 있다. 통신 모듈(420)은 유선 통신 모듈 및 무선 통신 모듈 중 적어도 하나를 포함할 수 있다. 유선 통신 모듈은 연결 단자(410)를 통해 외부 기기와 유선으로 연결되어, 유선으로 통신할 수 있다. 무선 통신 모듈은 근거리 통신 모듈 및 원거리 통신 모듈 중 적어도 하나를 포함할 수 있다. 근거리 통신 모듈은 외부 기기와 근거리 통신 방식으로 통신할 수 있다. 예를 들면, 근거리 통신 방식은, 블루투스, 와이파이 다이렉트, 및 적외선 통신 중 적어도 하나를 포함할 수 있다. 원거리 통신 모듈은 외부 기기와 원거리 통신 방식으로 통신할 수 있다. 여기서, 원거리 통신 모듈은 네트워크를 통해 외부 기기와 통신할 수 있다. 예를 들면, 네트워크는 셀룰러 네트워크, 인터넷, 및 LAN이나 WAN과 같은 컴퓨터 네트워크 중 적어도 하나를 포함할 수 있다.
촉각 인식 모듈(430)은 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지할 수 있다. 이 때, 촉각 인식 모듈(430)은 제 2 신체 표면(130)에 대한 사용자(10)의 터치 입력 및 호버 입력 중 적어도 하나를 기반으로, 촉각 입력을 감지할 수 있다. 이를 위해, 촉각 인식 모듈(430)은 제 2 신체 표면(13)의 적어도 일부와 접촉하거나, 제 2 신체 표면(13)으로부터 이격되어 있을 수 있다.
일 실시예에 따르면, 촉각 인식 모듈(430)는 제 2 신체 표면(13)에 대한 영상을 촬영하도록 구성되는 카메라, 예컨대 평면 카메라 또는 깊이 카메라를 포함할 수 있다. 다른 실시예에 따르면, 촉각 인식 모듈(430)은 제 2 신체 표면(13), 및 제 2 신체 표면(13)에 대해 촉각 입력을 발생시키기 위한 사용자(10)의 손가락이나 도구, 예컨대 스타일러스(stylus)에 부착되도록 구성되는 광학 마커들을 갖는 광학 트래킹 모듈을 포함할 수 있다. 또 다른 실시예에 따르면, 촉각 인식 모듈(430)은 제 2 신체 표면(13)에 부착되는 터치 감지 모듈을 포함할 수 있다. 예를 들면, 촉각 입력 모듈(130)이 장갑의 형태로 구현되는 경우, 촉각 인식 모듈(430)은 장갑 내에서 사용자(10)의 손등 면에 인접하여 배치될 수 있다. 또 다른 실시예에 따르면, 촉각 인식 모듈(430)은 위치 센서와 압력 센서를 포함하는 센서 모듈을 포함할 수 있다. 일 예로, 위치 센서는 발신부와 적어도 세 개의 수신부들을 포함할 수 있다. 다른 예로, 압력 센서는 FSR(force sensitive resistor)를 이용하여, 구현될 수 있다.
메모리(440)는 촉각 입력 모듈(120)의 적어도 하나의 구성 요소에 의해 사용되는 다양한 데이터를 저장할 수 있다. 예를 들면, 메모리(440)는 휘발성 메모리 및 비휘발성 메모리 중 적어도 하나를 포함할 수 있다. 데이터는 적어도 하나의 프로그램 및 이와 관련된 입력 데이터 또는 출력 데이터를 포함할 수 있다. 프로그램은 메모리(440)에 적어도 하나의 명령을 포함하는 소프트웨어로서 저장될 수 있으며, 운영 체제, 미들 웨어, 및 어플리케이션 중 적어도 하나를 포함할 수 있다.
프로세서(450)는 메모리(440)의 프로그램을 실행하여, 촉각 입력 모듈(130)의 적어도 하나의 구성 요소를 제어할 수 있다. 이를 통해, 프로세서(450)는 데이터 처리 또는 연산을 수행할 수 있다. 이 때, 프로세서(450)는 메모리(440)에 저장된 명령을 실행할 수 있다.
다양한 실시예들에 따르면, 프로세서(450)는 촉각 인식 모듈(430)을 통해 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지할 수 있다. 예를 들면, 촉각 입력은 싱글 터치, 싱글 호버, 멀티 터치 및 멀티 호버 중 적어도 하나를 포함할 수 있다. 이 때, 제 2 촉각적 평면이 촉각 입력 모듈(130), 보다 상세하게는 촉각 인식 모듈(430)에 의해 제 2 신체 표면(13)에 정의되며, 제 2 촉각적 평면은 제 1 촉각적 평면에 대응할 수 있다. 제 2 촉각적 평면의 사이즈는 제 1 촉각적 평면의 사이즈와 동일할 수 있으나, 이에 제한되지 않을 수 있다. 여기서, 제 2 촉각적 평면의 해상도가 제 1 촉각적 평면의 해상도와 동일한 것으로 정의될 수 있다. 제 2 촉각적 평면은 제 1 촉각적 평면과 공동 평면이거나, 상호로부터 이격되어 개별적으로 존재될 수 있다. 이를 통해, 프로세서(450)는 제 2 촉각적 평면 상에서, 촉각 입력을 감지할 수 있다. 그리고, 프로세서(450)는 촉각 입력에 대한 촉각 정보를 생성하여, 전자 장치(110)에 촉각 정보를 제공할 수 있다. 여기서, 촉각 정보는 제 2 신체 표면(13)에 대한 터치 여부, 즉 터치 또는 호버에 대한 식별 정보, 제 2 촉각적 평면에서의 적어도 하나의 터치 위치, 및 제 2 촉각적 평면에서의 적어도 하나의 호버 위치 중 적어도 하나를 포함할 수 있다.
일 실시예에 따르면, 촉각 인식 모듈(430)이 카메라를 포함하는 경우, 프로세서(450)는 카메라를 통해 촬영되는 영상 내 경계 분석을 통해, 촉각 입력을 감지할 수 있다. 일 예로, 촉각 인식 모듈(430)이 평면 카메라를 포함하는 경우, 프로세서(450)는 제 2 신체 표면(13)에 대한 사용자(10)의 손가락이나 도구의 위치 변화로부터 터치 여부, 및 터치 위치 또는 호버 위치를 검출할 수 있다. 추가적으로, 프로세서(450)는 사용자(10)의 손가락 끝 또는 손톱의 색 변화로부터 터치 여부, 및 터치 위치 또는 호버 위치를 보다 정확하게 검출할 수 있다. 다른 예로, 촉각 인식 모듈(430)이 깊이 카메라를 포함하는 경우, 프로세서(450)는 제 2 신체 표면(13)에 대한 사용자(10)의 손가락이나 도구의 위치 및 깊이로부터 터치 여부, 및 터치 위치 또는 호버 위치를 검출할 수 있다.
다른 실시예에 따르면, 촉각 인식 모듈(430)이 광학 트래킹 모듈을 포함하는 경우, 광학 마커들이 사용자(10)의 손가락이나 도구의 단부, 및 제 2 신체 표면(13)이나 촉각 출력 모듈(120)의 매트릭스 모듈(330)에 부착될 수 있다. 이를 통해, 프로세서(450)는 제 2 신체 표면(13)이나 매트릭스 모듈(330)에 대한 사용자의 손가락(10)이나 도구의 단부의 상대적 위치 변화로부터 터치 여부, 및 터치 위치 또는 호버 위치를 검출할 수 있다.
또 다른 실시예에 따르면, 촉각 인식 모듈(430)이 터치 감지 모듈을 포함하는 경우, 프로세서(450)는 터치 감지 모듈에서의 전기적 변화로부터 터치 여부, 및 터치 위치 또는 호버 위치를 검출할 수 있다.
또 다른 실시예에 따르면, 촉각 인식 모듈(430)이 위치 센서와 압력 센서를 포함하는 센서 모듈을 포함하는 경우, 위치 센서의 발신부와 압력 센서는 사용자(10)의 손가락이나 도구의 단부에 부착되고, 위치 센서의 수신부들은 제 2 신체 표면(13)이나 매트릭스 모듈(330)에 분산되어 배치될 수 있다. 이를 통해, 프로세서(450)는 압력 센서를 통해 터치 여부를 검출하고, 수신부들의 위치들을 이용하여, 삼각측량 방식으로 발신부의 위치를 검출함으로써, 발신부의 위치로부터 터치 위치 또는 호버 위치를 검출할 수 있다.
도 5a, 도 5b, 도 5c, 도 5d, 도 5e, 도 5f, 도 5g 및 도 5h는 다양한 실시예들에 따른 컴퓨터 시스템(100)의 동작 특징을 예시적으로 설명하기 위한 도면들이다. 여기서, 제 1 신체 표면(12)은 손바닥 면이고, 제 2 신체 표면(13)은 손등 면인 경우를 예로 들어 설명할 것이나, 이에 제한되지 않는다.
도 5a, 도 5b, 도 5c, 도 5d, 도 5e, 도 5f, 도 5g 및 도 5h를 참조하면, 다양한 실시예들에 따른 컴퓨터 시스템(100)은 사용자(10), 예컨대 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공할 수 있다. 이를 위해, 사용자(10)는 원하는 신체 부위를 컴퓨터 시스템(100)에 대해 위치시킬 수 있다. 이 때, 제 1 신체 표면(12)은 촉각 출력 모듈(120)에 접촉하고, 이에 대응하여 촉각 입력 모듈(130)이 제 2 신체 표면(13)에 대해 배치될 수 있다. 여기서, 제 1 신체 표면(12)은 손바닥 면이고, 제 2 신체 표면(13)은 손등 면인 경우가 도시되어 있으나, 이는 예시일 뿐이며, 이에 제한되지 않는다. 즉, 제 1 신체 표면(12)은 발바닥 면이고 제 2 신체 표면(13)은 발등 면인 경우, 또는 제 1 신체 표면(12)은 등 면이고 제 2 신체 표면(13)은 배 면인 경우도 가능하다.
구체적으로, 촉각 출력 모듈(120)은 전자 장치(110)로부터의 2 차원 시각 정보(500)를 기반으로, 사용자(10)의 제 1 신체 표면(12)에 대해 촉각 출력(521)을 발생시킬 수 있다. 즉, 촉각 출력 모듈(120)은 시각적 평면(510)에서의 각 객체(511)에 부합하도록, 제 1 촉각적 평면(520) 상에서 촉각 출력(521)을 발생시킬 수 있다. 이를 통해, 촉각 출력(521)에 응답하여, 사용자(10)가 촉각 입력 모듈(130)에 대해 촉각 입력(531)을 발생시키고, 촉각 입력 모듈(130)이 촉각 입력(531)을 감지할 수 있다. 이에 따라, 전자 장치(110)가 촉각 입력(531)을 기반으로, 2 차원 시각 정보(500)를 제어할 수 있다.
일 예로, 도 5a, 도 5b, 도 5c, 도 5d 또는 도 5e에 도시된 바와 같이, 촉각 출력 모듈(120)은 게임과 관련된 2 차원 시각 정보(500)를 기반으로, 게임 내 아이템과 관련된 객체(511)에 상응하는 촉각 출력(521)을 발생시킬 수 있다. 이를 통해, 촉각 입력 모듈(130)은 사용자(10)로부터의 객체(511)를 제어하기 위한 촉각 입력(531)을 감지하며, 전자 장치(110)가 촉각 입력(531)을 기반으로, 2 차원 시각 정보(510)를 제어할 수 있다. 도 5a에 도시된 바와 같이, 실시간 비행기 슈팅 게임에 대해, 촉각 출력 모듈(120)은 비행기들의 각각에 대한 형태와 방향에 상응하는 촉각 출력(521)을 발생시키며, 전자 장치(110)가 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력(531)을 기반으로, 비행기들 중 적어도 하나를 제어할 수 있다. 도 5b에 도시된 바와 같이, 두더지 멀티 터치 게임에 대해, 촉각 출력 모듈(120)은 두더지들에 상응하는 촉각 출력(521)을 발생시키며, 전자 장치(110)가 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력(531)을 기반으로, 두더지들 선택할 수 있다. 도 5c에 도시된 바와 같이, 음악에 맞춰 하강하는 바(bar)들을 적절한 타이밍에 선택하는 리듬 게임에 대해, 촉각 출력 모듈(120)은 바들에 상응하는 촉각 출력(521)을 발생시키며, 전자 장치(110)가 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력(531)을 기반으로, 바들 중 적어도 하나를 선택할 수 있다. 도 5d에 도시된 바와 같이, 공을 튕겨서 상대의 골대의 골인시키는 멀티 플레이어 게임에 대해, 촉각 출력 모듈(120)은 공들에 상응하는 촉각 출력(521)을 발생시키며, 전자 장치(110)가 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력(531)을 기반으로, 공들 중 적어도 하나를 튕길 수 있다. 도 5e에 도시된 바와 같이, 모양이 변하는 뱀을 조작하여 타겟을 획득하는 스네이크 게임에 대해, 촉각 출력 모듈(120)은 뱀과 타겟에 상응하는 촉각 출력(521)을 발생시키며, 전자 장치(110)가 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력(531)을 기반으로, 뱀의 모양을 변경시키면서 뱀을 이동시킬 수 있다.
다른 예로, 도 5f, 도 5g 및 도 5h에 도시된 바와 같이, 촉각 출력 모듈(120)은 전자 장치(110)의 표시 화면(display screen)과 관련된 2 차원 시각 정보(500)를 기반으로, 표시 화면 내 객체(511)에 상응하는 촉각 출력(521)을 발생시킬 수 있다. 이를 통해, 촉각 입력 모듈(130)은 사용자(10)로부터의 객체(511)를 제어하기 위한 촉각 입력(531)을 감지하며, 전자 장치(110)가 촉각 입력(531)을 기반으로, 2 차원 시각 정보(510)를 제어할 수 있다. 도 5f에 도시된 바와 같이, 표시 화면 상에 복수의 아이콘들과 위젯들이 표시되는 경우, 촉각 출력 모듈(120)은 아이콘들과 위젯들에 상응하는 촉각 출력(521)을 발생시킬 수 있다. 이후, 전자 장치(110)는 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력을 기반으로, 아이콘들과 위젯들 중 하나를 선택하고, 그에 부여된 기능을 실행할 수 있다. 도 5g에 도시된 바와 같이, 표시 화면 상에 아이템들, 텍스트들, 버튼들, 및 슬라이더들 중 적어도 하나가 표시되는 경우, 촉각 출력 모듈(120)은 아이템들, 텍스트들, 버튼들, 및 슬라이더들 중 적어도 하나에 상응하는 촉각 출력(521)을 발생시킬 수 있다. 이후, 전자 장치(110)는 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력을 기반으로, 아이템들, 버튼들, 및 슬라이더들 중 하나를 선택하고, 그에 부여된 기능을 실행하거나, 텍스트들을 선택하고, 텍스트들을 오디오 신호로 변환하여 재생할 수 있다. 도 5h에 도시된 바와 같이, 표시 화면 상에 팝업 창이 표시되는 경우, 촉각 출력 모듈(120)은 팝업 창에 상응하는 촉각 출력(521)을 발생시킬 수 있다. 이후, 전자 장치(110)는 촉각 입력 모듈(130)을 통해 감지되는 촉각 입력을 기반으로, 팝업 창 내 텍스트들을 오디오 신호로 변환하여 재생하거나, 팝업 창을 제거할 수 있다.
도 6은 다양한 실시예들에 따른 컴퓨터 시스템(100)의 방법을 도시하는 도면이다.
도 6을 참조하면, 컴퓨터 시스템(100)은 610 단계에서 2 차원 시각 정보를 검출할 수 있다. 구체적으로, 전자 장치(110)는 2 차원 시각 정보를 관리할 수 있다. 이 때, 2 차원 시각 정보는 미리 정해지는 시각적 평면 상에 배치되는 적어도 하나의 객체로 이루어질 수 있다. 일 예로, 시각적 평면은 배경 화면을 나타내고, 객체는 배경 화면 상에 배치되는 화면 요소로서, 아이콘, 위젯, 아이템, 문자, 버튼, 슬라이더, 및 팝업 창 중 적어도 하나를 포함할 수 있다. 전자 장치(110), 즉 프로세서(260)는 2 차원 시각 정보를 촉각 출력 모듈(120)에 제공할 수 있다. 이를 위해, 프로세서(260)는 미리 정해진 해상도로 2 차원 시각 정보를 생성할 수 있다. 예를 들면, 프로세서(260)는 2 차원 시각 정보를 표시하면서, 2 차원 시각 정보를 촉각 출력 모듈(120)에 제공할 수 있다.
컴퓨터 시스템(100)은 620 단계에서 사용자(10)의 제 1 신체 표면(12)에 대해, 촉각 출력을 발생시킬 수 있다. 구체적으로, 촉각 출력 모듈(120)이 2 차원 시각 정보를 기반으로, 사용자(10)의 제 1 신체 표면(12)에 대해 촉각 출력을 발생시킬 수 있다. 이 때, 제 1 촉각적 평면이 촉각 출력 모듈(120)에 의해 제 1 신체 표면(12)에 정의되며, 제 1 촉각적 평면은 2 차원 시각 정보의 시각적 평면에 대응할 수 있다. 제 1 촉각적 평면의 사이즈는 시각적 평면의 사이즈와 동일하거나, 상이할 수 있다. 여기서, 제 1 촉각적 평면 내의 자극 엘리먼트들의 각각이 각 픽셀 또는 각 도트의 역할을 할 수 있으며, 이로써 제 1 촉각적 평면의 해상도가 정의될 수 있다. 이를 통해, 촉각 출력 모듈(120)은 제 1 촉각적 평면 상에서, 2 차원 시각 정보에서 시각적 평면 상에 배치되는 적어도 하나의 객체에 상응하는 촉각 자극을 발생시킬 수 있다. 즉, 촉각 출력 모듈(120)은 시각적 평면에서의 각 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나에 부합하도록, 제 1 촉각적 평면 상에서 촉각 자극을 발생시킬 수 있다. 이를 위해, 촉각 출력 모듈(120)에서, 프로세서(350)는 매트릭스 모듈(330)의 자극 엘리먼트들 중 적어도 하나를 구동시킬 수 있다. 즉, 프로세서(350)는 시각적 평면에서의 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나를 기반으로, 제 1 촉각적 평면 내의 자극 엘리먼트들 중 적어도 하나를 선택하고, 선택된 자극 엘리먼트를 구동시켜, 촉각 자극을 발생시킬 수 있다.
컴퓨터 시스템(100)은 630 단계에서 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지할 수 있다. 구체적으로, 촉각 입력 모듈(130)가 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지할 수 있다. 예를 들면, 촉각 입력은 싱글 터치, 싱글 호버, 멀티 터치 및 멀티 호버 중 적어도 하나를 포함할 수 있다. 이 때, 제 2 촉각적 평면이 촉각 입력 모듈(130)에 의해 제 2 신체 표면(13)에 정의되며, 제 2 촉각적 평면은 제 1 촉각적 평면에 대응할 수 있다. 제 2 촉각적 평면의 사이즈는 제 1 촉각적 평면의 사이즈와 동일할 수 있으나, 이에 제한되지 않을 수 있다. 여기서, 제 2 촉각적 평면의 해상도가 제 1 촉각적 평면의 해상도와 동일한 것으로 정의될 수 있다. 제 2 촉각적 평면은 제 1 촉각적 평면과 공동 평면이거나, 상호로부터 이격되어 개별적으로 존재될 수 있다. 이를 통해, 촉각 입력 모듈(130)은 제 2 촉각적 평면 상에서, 촉각 입력을 감지할 수 있다. 그리고, 촉각 입력 모듈(130)은 촉각 입력에 대한 촉각 정보를 생성하여, 전자 장치(110)에 촉각 정보를 제공할 수 있다. 여기서, 촉각 정보는 제 2 신체 표면(13)에 대한 터치 여부, 즉 터치 또는 호버에 대한 식별 정보, 제 2 촉각적 평면에서의 적어도 하나의 터치 위치, 및 제 2 촉각적 평면에서의 적어도 하나의 호버 위치 중 적어도 하나를 포함할 수 있다.
컴퓨터 시스템(100)은 640 단계에서 2 차원 시각 정보에 대한 제어 신호를 생성할 수 있다. 구체적으로, 전자 장치(110)가 촉각 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성할 수 있다. 구체적으로, 전자 장치(110)는 촉각 입력 모듈(130)로부터 촉각 입력에 대한 촉각 정보를 수신하고, 촉각 정보를 이용하여, 제어 신호를 생성할 수 있다. 그리고, 전자 장치(110)는 제어 신호에 따라, 2 차원 시각 정보를 제어할 수 있다. 이를 통해, 전자 장치(110)는 2 차원 시각 정보를 변경할 수 있다.
2 차원 시각 정보가 변경되면, 컴퓨터 시스템(100)은 상기 방법을 재시작하여, 610 단계로 복귀할 수 있다. 즉, 640 단계에서 촉각 입력을 기반으로 생성되는 제어 신호에 따라 2 차원 시각 정보가 변경되는 경우, 컴퓨터 시스템(100)은 상기 방법을 재시작하여, 610 단계 내지 640 단계를 반복적으로 수행할 수 있다. 한편, 630 단계에서 촉각 입력이 감지되지 않고도, 2 차원 시각 정보가 변경되는 경우, 컴퓨터 시스템(100)은 상기 방법을 재시작하여, 610 단계 내지 640 단계를 반복적으로 수행할 수 있다. 이에 따라, 컴퓨터 시스템(100)은 실시간으로 변경되는 2 차원 시각 정보에 대해, 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공할 수 있다.
다양한 실시예들에 따르면, 컴퓨터 시스템(100)은 사용자(10), 예컨대 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공할 수 있다. 컴퓨터 시스템(100)은 2 차원 시각 정보를 촉각 출력, 즉 2 차원 평면 상의 촉각 자극으로 치환하여 발생시킴으로써, 사용자(10)로 하여금 2 차원 시각 정보를 한 번에 전체적으로 인지할 수 있게 할 수 있다. 이 때, 컴퓨터 시스템(100)은 2 차원 시간 정보의 실시간 변화에 대응하여, 촉각 출력을 실시간으로 변화시킬 수 있으며, 이를 통해 사용자(10)는 실시간으로 변하는 객체, 예컨대 움직이는 객체를 즉각적으로 인지할 수 있다. 아울러, 컴퓨터 시스템(100)은 촉각 출력에 대응하는 촉각 입력을 감지할 수 있기 때문에, 사용자(10)로 하여금 실시간 촉각 입출력 인터랙션이 가능하게 할 수 있다. 이 때, 사용자(10)는 공간적으로 서로 대응되는 신체 표면들, 예컨대 손바닥 면과 손등 면, 발바닥 면과 발등 면, 또는 등 면과 배 면을 통해 인지적으로 촉각 입출력 인터랙션이 가능하다.
다양한 실시예들은 촉각 인터페이스를 제공하는 컴퓨터 시스템(100)의 방법을 제공한다.
다양한 실시예들에 따르면, 컴퓨터 시스템(100)의 방법은, 사용자(10)의 제 1 신체 표면(12)과 접촉하는 촉각 출력 모듈(120)을 통해, 제 1 신체 표면(12)에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키는 단계, 촉각 입력 모듈(130)을 통해, 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지하는 단계, 및 촉각 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성하는 단계를 포함할 수 있다.
다양한 실시예들에 따르면, 제 1 신체 표면(12) 또는 제 2 신체 표면(13) 중 하나는 사용자(10)의 일 신체 부위의 복측 표면이고, 제 1 신체 표면(12) 또는 제 2 신체 표면(13) 중 다른 하나는 일 신체 부위에서 복측 표면에 대응되는 배측 표면일 수 있다.
다양한 실시예들에 따르면, 2 차원 시각 정보는, 미리 정해지는 시각적 평면 상에 배치되는 적어도 하나의 객체로 이루어질 수 있다.
다양한 실시예들에 따르면, 촉각 출력을 발생시키는 단계는, 촉각 출력 모듈(120)에 의해 제 1 신체 표면(12)에 정의되고 시각적 평면에 대응하는 제 1 촉각적 평면 상에서, 객체에 상응하는 촉각 자극을 발생시키는 단계를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 출력 모듈(120)은, 제 1 촉각적 평면 상에 2 차원 매트릭스 구조로 배열되는 복수의 자극 엘리먼트들을 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 자극을 발생시키는 단계는, 자극 엘리먼트들 중 적어도 하나를 구동시켜, 촉각 자극을 발생시킬 수 있다.
다양한 실시예들에 따르면, 자극 엘리먼트들의 각각은, 전극, 진동 모터, 및 선형으로 움직이는 핀 모듈 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 자극을 발생시키는 단계는, 시각적 평면에서의 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나를 기반으로, 자극 엘리먼트들 중 적어도 하나를 선택하는 단계, 및 선택된 자극 엘리먼트를 구동시켜, 촉각 자극을 발생시키는 단계를 포함할 수 있다.
다양한 실시예들에 따르면, 제어 신호는, 시각적 평면 상의 객체를 제어하기 위한 신호를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 입력을 감지하는 단계는, 촉각 입력 모듈(130)에 의해 제 2 신체 표면(13)에 정의되고 제 1 촉각적 평면에 대응하는 제 2 촉각적 평면 상에서 촉각 입력을 감지하는 단계를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 입력은, 제 2 신체 표면(13)에 대한 터치 여부, 제 2 촉각적 평면에서의 적어도 하나의 터치 위치, 및 제 2 촉각적 평면에서의 적어도 하나의 호버 위치 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 입력 모듈(130)은, 평면 카메라, 깊이 카메라, 광학 마커들을 갖는 광학 트래킹 모듈, 터치 감지 모듈, 위치 센서, 및 압력 센서 중 적어도 하나를 포함할 수 있다.
다양한 실시예들은 촉각 인터페이스를 제공하는 컴퓨터 시스템(100)은, 사용자(10)의 제 1 신체 표면(12)과 접촉하고, 제 1 신체 표면(12)에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키도록 구성되는 촉각 출력 모듈(120), 사용자(10)의 제 2 신체 표면(13)에 대한 촉각 입력을 감지하도록 구성되는 촉각 입력 모듈(130), 및 촉각 입력을 기반으로, 2 차원 시각 정보에 대한 제어 신호를 생성하도록 구성되는 프로세서(260)를 포함할 수 있다.
다양한 실시예들에 따르면, 제 1 신체 표면(12) 또는 제 2 신체 표면(13) 중 하나는 사용자(10)의 일 신체 부위의 복측 표면이고, 제 1 신체 표면(12) 또는 제 2 신체 표면(13) 중 다른 하나는 일 신체 부위에서 복측 표면에 대응되는 배측 표면일 수 있다.
다양한 실시예들에 따르면, 2 차원 시각 정보는, 미리 정해지는 시각적 평면 상에 배치되는 적어도 하나의 객체로 이루어질 수 있다.
다양한 실시예들에 따르면, 촉각 출력 모듈(120)은, 촉각 출력 모듈(120)에 의해 제 1 신체 표면(12)에 정의되고 시각적 평면에 대응하는 제 1 촉각적 평면 상에서, 객체에 상응하는 촉각 자극을 발생시키도록 구성될 수 있다.
다양한 실시예들에 따르면, 촉각 출력 모듈(120)은, 제 1 촉각적 평면 상에서 2 차원 매트릭스 구조로 배열되는 복수의 자극 엘리먼트들을 포함하고, 자극 엘리먼트들 중 적어도 하나를 구동시켜, 촉각 자극을 발생시키도록 구성될 수 있다.
다양한 실시예들에 따르면, 자극 엘리먼트들의 각각은, 전극, 진동 모터, 및 선형으로 움직이는 핀 모듈 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 출력 모듈(120)은, 시각적 평면에서의 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나를 기반으로, 자극 엘리먼트들 중 적어도 하나를 선택하고, 선택된 자극 엘리먼트를 구동시켜, 촉각 자극을 발생시키도록 구성될 수 있다.
다양한 실시예들에 따르면, 제어 신호는, 시각적 평면 상의 객체를 제어하기 위한 신호를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 입력 모듈(130)은, 촉각 입력 모듈(130)에 의해 제 2 신체 표면(13)에 정의되고 제 1 촉각적 평면에 대응하는 제 2 촉각적 평면 상에서 촉각 입력을 감지하도록 구성될 수 있다.
다양한 실시예들에 따르면, 촉각 입력은, 제 2 신체 표면(13)에 대한 터치 여부, 제 2 촉각적 평면에서의 적어도 하나의 터치 위치, 및 제 2 촉각적 평면에서의 적어도 하나의 호버 위치 중 적어도 하나를 포함할 수 있다.
다양한 실시예들에 따르면, 촉각 입력 모듈(130)은, 평면 카메라, 깊이 카메라, 광학 마커들을 갖는 광학 트래킹 모듈, 터치 감지 모듈, 위치 센서 및 압력 센서 중 적어도 하나를 포함할 수 있다.
이상에서 설명된 장치는 하드웨어 구성 요소, 소프트웨어 구성 요소, 및/또는 하드웨어 구성 요소 및 소프트웨어 구성 요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성 요소는, 프로세서, 컨트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 컨트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성 요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
다양한 실시예들에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터-판독 가능 매체에 기록될 수 있다. 이 때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 그리고, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
본 문서의 다양한 실시예들 및 이에 사용된 용어들은 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 및/또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성 요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및/또는 B 중 적어도 하나", "A, B 또는 C" 또는 "A, B 및/또는 C 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", "첫째" 또는 "둘째" 등의 표현들은 해당 구성 요소들을, 순서 또는 중요도에 상관없이 수식할 수 있고, 한 구성 요소를 다른 구성 요소와 구분하기 위해 사용될 뿐 해당 구성 요소들을 한정하지 않는다. 어떤(예: 제 1) 구성 요소가 다른(예: 제 2) 구성 요소에 "(기능적으로 또는 통신적으로) 연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성 요소가 상기 다른 구성 요소에 직접적으로 연결되거나, 다른 구성 요소(예: 제 3 구성 요소)를 통하여 연결될 수 있다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구성된 유닛을 포함하며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 모듈은 ASIC(application-specific integrated circuit)으로 구성될 수 있다.
다양한 실시예들에 따르면, 기술한 구성 요소들의 각각의 구성 요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시예들에 따르면, 전술한 해당 구성 요소들 중 하나 이상의 구성 요소들 또는 단계들이 생략되거나, 또는 하나 이상의 다른 구성 요소들 또는 단계들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성 요소들(예: 모듈 또는 프로그램)은 하나의 구성 요소로 통합될 수 있다. 이런 경우, 통합된 구성 요소는 복수의 구성 요소들 각각의 구성 요소의 하나 이상의 기능들을 통합 이전에 복수의 구성 요소들 중 해당 구성 요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시예들에 따르면, 모듈, 프로그램 또는 다른 구성 요소에 의해 수행되는 단계들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 단계들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 단계들이 추가될 수 있다.

Claims (20)

  1. 촉각 인터페이스를 제공하는 컴퓨터 시스템의 방법에 있어서,
    사용자의 제 1 신체 표면과 접촉하는 촉각 출력 모듈을 통해, 상기 제 1 신체 표면에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키는 단계;
    촉각 입력 모듈을 통해, 상기 사용자의 제 2 신체 표면에 대한 촉각 입력을 감지하는 단계; 및
    상기 촉각 입력을 기반으로, 상기 2 차원 시각 정보에 대한 제어 신호를 생성하는 단계
    를 포함하는,
    컴퓨터 시스템의 방법.
  2. 제 1 항에 있어서,
    상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 하나는,
    상기 사용자의 일 신체 부위의 복측(ventral) 표면이고,
    상기 제 2 신체 표면 또는 상기 제 2 신체 표면 중 다른 하나는,
    상기 일 신체 부위에서 상기 복측 표면에 대응되는 배측(dorsal) 표면인,
    컴퓨터 시스템의 방법.
  3. 제 1 항에 있어서,
    상기 2 차원 시각 정보는,
    미리 정해지는 시각적 평면 상에 배치되는 적어도 하나의 객체로 이루어지고,
    상기 촉각 출력을 발생시키는 단계는,
    상기 촉각 출력 모듈에 의해 상기 제 1 신체 표면에 정의되고 상기 시각적 평면에 대응하는 제 1 촉각적 평면 상에서, 상기 객체에 상응하는 촉각 자극을 발생시키는 단계
    를 포함하는,
    컴퓨터 시스템의 방법.
  4. 제 3 항에 있어서,
    상기 촉각 출력 모듈은,
    상기 제 1 촉각적 평면 상에 2 차원 매트릭스 구조로 배열되는 복수의 자극 엘리먼트들을 포함하고,
    상기 촉각 자극을 발생시키는 단계는,
    상기 자극 엘리먼트들 중 적어도 하나를 구동시켜, 상기 촉각 자극을 발생시키는,
    컴퓨터 시스템의 방법.
  5. 제 4 항에 있어서,
    상기 자극 엘리먼트들의 각각은,
    전극, 진동 모터, 및 선형으로 움직이는 핀 모듈 중 적어도 하나를 포함하는,
    컴퓨터 시스템의 방법.
  6. 제 4 항에 있어서,
    상기 촉각 자극을 발생시키는 단계는,
    상기 시각적 평면에서의 상기 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나를 기반으로, 상기 자극 엘리먼트들 중 적어도 하나를 선택하는 단계; 및
    상기 선택된 자극 엘리먼트를 구동시켜, 상기 촉각 자극을 발생시키는 단계
    를 포함하는,
    컴퓨터 시스템의 방법.
  7. 제 3 항에 있어서,
    상기 제어 신호는,
    상기 시각적 평면 상의 상기 객체를 제어하기 위한 신호를 포함하는,
    컴퓨터 시스템의 방법.
  8. 제 3 항에 있어서,
    상기 촉각 입력을 감지하는 단계는,
    상기 촉각 입력 모듈에 의해 상기 제 2 신체 표면에 정의되고 상기 제 1 촉각적 평면에 대응하는 제 2 촉각적 평면 상에서 상기 촉각 입력을 감지하는 단계
    를 포함하는,
    컴퓨터 시스템의 방법.
  9. 제 8 항에 있어서,
    상기 촉각 입력은,
    상기 제 2 신체 표면에 대한 터치 여부, 상기 제 2 촉각적 평면에서의 적어도 하나의 터치 위치, 및 상기 제 2 촉각적 평면에서의 적어도 하나의 호버 위치 중 적어도 하나를 포함하는,
    컴퓨터 시스템의 방법.
  10. 제 8 항에 있어서,
    상기 촉각 입력 모듈은,
    평면 카메라, 깊이 카메라, 광학 마커들을 갖는 광학 트래킹 모듈, 터치 감지 모듈, 위치 센서, 및 압력 센서 중 적어도 하나를 포함하는,
    컴퓨터 시스템의 방법.
  11. 촉각 인터페이스를 제공하는 컴퓨터 시스템에 있어서,
    사용자의 제 1 신체 표면과 접촉하고, 상기 제 1 신체 표면에 대해 2 차원 시각 정보에 상응하는 촉각 출력을 발생시키도록 구성되는 촉각 출력 모듈;
    상기 사용자의 제 2 신체 표면에 대한 촉각 입력을 감지하도록 구성되는 촉각 입력 모듈; 및
    상기 촉각 입력을 기반으로, 상기 2 차원 시각 정보에 대한 제어 신호를 생성하도록 구성되는 프로세서
    를 포함하는,
    컴퓨터 시스템.
  12. 제 11 항에 있어서,
    상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 하나는,
    상기 사용자의 일 신체 부위의 복측 표면이고,
    상기 제 1 신체 표면 또는 상기 제 2 신체 표면 중 다른 하나는,
    상기 일 신체 부위에서 상기 복측 표면에 대응되는 배측 표면인,
    컴퓨터 시스템.
  13. 제 11 항에 있어서,
    상기 2 차원 시각 정보는,
    미리 정해지는 시각적 평면 상에 배치되는 적어도 하나의 객체로 이루어지고,
    상기 촉각 출력 모듈은,
    상기 촉각 출력 모듈에 의해 상기 제 1 신체 표면에 정의되고 상기 시각적 평면에 대응하는 제 1 촉각적 평면 상에서, 상기 객체에 상응하는 촉각 자극을 발생시키도록 구성되는,
    컴퓨터 시스템.
  14. 제 13 항에 있어서,
    상기 촉각 출력 모듈은,
    상기 제 1 촉각적 평면 상에서 상기 2 차원 매트릭스 구조로 배열되는 복수의 자극 엘리먼트들을 포함하고,
    상기 자극 엘리먼트들 중 적어도 하나를 구동시켜, 상기 촉각 자극을 발생시키도록 구성되는,
    컴퓨터 시스템.
  15. 제 14 항에 있어서,
    상기 자극 엘리먼트들의 각각은,
    전극, 진동 모터, 및 선형으로 움직이는 핀 모듈 중 적어도 하나를 포함하는,
    컴퓨터 시스템.
  16. 제 14 항에 있어서,
    상기 촉각 출력 모듈은,
    상기 시각적 평면에서의 상기 객체의 사이즈, 위치, 형태 및 특징 중 적어도 하나를 기반으로, 상기 자극 엘리먼트들 중 적어도 하나를 선택하고,
    상기 선택된 자극 엘리먼트를 구동시켜, 상기 촉각 자극을 발생시키도록 구성되는,
    컴퓨터 시스템.
  17. 제 13 항에 있어서,
    상기 제어 신호는,
    상기 시각적 평면 상의 상기 객체를 제어하기 위한 신호를 포함하는,
    컴퓨터 시스템.
  18. 제 13 항에 있어서,
    상기 촉각 입력 모듈은,
    상기 촉각 입력 모듈에 의해 상기 제 2 신체 표면에 정의되고 상기 제 1 촉각적 평면에 대응하는 제 2 촉각적 평면 상에서 상기 촉각 입력을 감지하도록 구성되는,
    컴퓨터 시스템.
  19. 제 18 항에 있어서,
    상기 촉각 입력은,
    상기 제 2 신체 표면에 대한 터치 여부, 상기 제 2 촉각적 평면에서의 적어도 하나의 터치 위치, 및 상기 제 2 촉각적 평면에서의 적어도 하나의 호버 위치 중 적어도 하나를 포함하는,
    컴퓨터 시스템.
  20. 제 18 항에 있어서,
    상기 촉각 입력 모듈은,
    평면 카메라, 깊이 카메라, 광학 마커들을 갖는 광학 트래킹 모듈, 터치 감지 모듈, 위치 센서, 및 압력 센서 중 적어도 하나를 포함하는,
    컴퓨터 시스템.
KR1020210166614A 2021-03-15 2021-11-29 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법 KR102693958B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/687,011 US11861066B2 (en) 2021-03-15 2022-03-04 Computer system for providing tactile interface for real-time two-dimensional tactile input/output interaction of visually impaired people, and operating method thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20210033518 2021-03-15
KR1020210033518 2021-03-15

Publications (2)

Publication Number Publication Date
KR20220128931A true KR20220128931A (ko) 2022-09-22
KR102693958B1 KR102693958B1 (ko) 2024-08-12

Family

ID=83445615

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210166614A KR102693958B1 (ko) 2021-03-15 2021-11-29 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법

Country Status (1)

Country Link
KR (1) KR102693958B1 (ko)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7245292B1 (en) * 2003-09-16 2007-07-17 United States Of America As Represented By The Secretary Of The Navy Apparatus and method for incorporating tactile control and tactile feedback into a human-machine interface
KR101360828B1 (ko) * 2012-09-12 2014-02-12 성균관대학교산학협력단 장갑형 진동식 점자 출력 장치
US20160127624A1 (en) * 2014-11-03 2016-05-05 Samsung Electronics Co., Ltd. Wearable device and control method thereof

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7245292B1 (en) * 2003-09-16 2007-07-17 United States Of America As Represented By The Secretary Of The Navy Apparatus and method for incorporating tactile control and tactile feedback into a human-machine interface
KR101360828B1 (ko) * 2012-09-12 2014-02-12 성균관대학교산학협력단 장갑형 진동식 점자 출력 장치
US20160127624A1 (en) * 2014-11-03 2016-05-05 Samsung Electronics Co., Ltd. Wearable device and control method thereof

Also Published As

Publication number Publication date
KR102693958B1 (ko) 2024-08-12

Similar Documents

Publication Publication Date Title
US10564730B2 (en) Non-collocated haptic cues in immersive environments
US11768578B2 (en) User interfaces for tracking and finding items
US9977497B2 (en) Method for providing haptic effect set by a user in a portable terminal, machine-readable storage medium, and portable terminal
US9690377B2 (en) Mobile terminal and method for controlling haptic feedback
KR102051418B1 (ko) 영상에 포함된 객체를 선택하기 위한 사용자 인터페이스 제어 장치 및 그 방법 그리고 영상 입력 장치
KR101576979B1 (ko) 자기장 센서를 이용하여 사용자 입력을 판단하는 전기 장치
KR102479052B1 (ko) 복수의 컨트롤러를 이용한 전자 장치의 디스플레이 제어 방법 및 그 장치
CN108431734B (zh) 用于非触摸式表面交互的触觉反馈
US20160048209A1 (en) Method and apparatus for controlling vibration
CN107943273A (zh) 上下文压力感测触觉响应
US20180232051A1 (en) Automatic localized haptics generation system
US9886089B2 (en) Method and apparatus for controlling vibration
US20150241970A1 (en) Method and apparatus for providing haptic effect
CN104914987A (zh) 用于触觉启用的投影用户界面的系统和方法
WO2012067972A1 (en) Haptic input device
US20160209968A1 (en) Mapping touch inputs to a user input module
WO2015105815A1 (en) Hover-sensitive control of secondary display
Tsuchida et al. TetraForce: a magnetic-based interface enabling pressure force and shear force input applied to front and back of a smartphone
CN107037874A (zh) 重压和移动手势
KR102693958B1 (ko) 시각 장애인의 실시간 2 차원 촉각 입출력 인터랙션을 위한 촉각 인터페이스를 제공하는 컴퓨터 시스템 및 그의 방법
US11861066B2 (en) Computer system for providing tactile interface for real-time two-dimensional tactile input/output interaction of visually impaired people, and operating method thereof
CN104951211A (zh) 一种信息处理方法和电子设备
CN116964551A (zh) 虚拟自动瞄准
KR102353919B1 (ko) 터치의 압력에 응답하여 지정된 동작을 수행하는 전자 장치 및 방법
JP6523509B1 (ja) ゲームプログラム、方法、および情報処理装置

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant