KR102078354B1 - 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 - Google Patents
촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 Download PDFInfo
- Publication number
- KR102078354B1 KR102078354B1 KR1020190029100A KR20190029100A KR102078354B1 KR 102078354 B1 KR102078354 B1 KR 102078354B1 KR 1020190029100 A KR1020190029100 A KR 1020190029100A KR 20190029100 A KR20190029100 A KR 20190029100A KR 102078354 B1 KR102078354 B1 KR 102078354B1
- Authority
- KR
- South Korea
- Prior art keywords
- tactile
- information
- interface device
- input
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000000007 visual effect Effects 0.000 claims description 78
- 230000008569 process Effects 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 17
- 230000008859 change Effects 0.000 claims description 3
- 230000001771 impaired effect Effects 0.000 description 54
- 230000006870 function Effects 0.000 description 29
- 238000004891 communication Methods 0.000 description 27
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 18
- 238000010586 diagram Methods 0.000 description 10
- 230000002093 peripheral effect Effects 0.000 description 10
- 239000013078 crystal Substances 0.000 description 9
- 230000000694 effects Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 4
- 230000007246 mechanism Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 3
- 239000000919 ceramic Substances 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000007639 printing Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000035807 sensation Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 208000029257 vision disease Diseases 0.000 description 1
- 230000004393 visual impairment Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- G06Q50/60—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
- G06Q50/30—Transportation; Communications
- G06Q50/32—Post and telecommunications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/016—Input arrangements with force or tactile feedback as computer generated output to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04812—Interaction techniques based on cursor appearance or behaviour, e.g. being affected by the presence of displayed objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B21/00—Teaching, or communicating with, the blind, deaf or mute
- G09B21/001—Teaching or communicating with blind persons
- G09B21/003—Teaching or communicating with blind persons using tactile presentation of the information, e.g. Braille displays
Abstract
시각장애인의 스마트 기기(스마트폰, 스마트 패드 등) 혹은 스마트 점자기기 사용의 효율성 증대 및 정보화 수준의 향상을 위하여 다중배열 촉각셀 기반의 스마트 점자기기에 해당하는 촉각인터페이스장치를 직관적으로 사용, 상호작용 및 제어할 수 있게 함으로써 시각장애인에게 직관적으로 이메일 관리기능을 제공할 수 있도록 하는 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체에 관한 것이다.
Description
본 발명은 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체에 관한 것으로서, 더욱 상세하게는 시각장애인의 스마트 기기(스마트폰, 스마트 패드 등) 혹은 스마트 점자기기 사용의 효율성 증대 및 정보화 수준의 향상을 위하여 다중배열 촉각셀 기반의 스마트 점자기기에 해당하는 촉각인터페이스장치를 직관적으로 사용, 상호작용 및 제어할 수 있게 함으로써 시각장애인에게 직관적으로 이메일 관리기능을 제공할 수 있도록 하는 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체에 관한 것이다.
정보화 사회에서는 컴퓨터를 이용한 정보습득 및 활용이 필수적이며, 이러한 추세는 일반인 뿐만 아니라 시각장애인에게도 마찬가지이다.
시각장애인의 정보화 수준을 향상시키기 위해서는 그들도 정상인(정안인)과 유사한 수준으로 정보를 습득하고 활용할 수 있도록 해줘야 하는데, 이는 시각장애인의 일상생활을 보다 편리하게 하고 스스로 정보를 습득하고 활용할 수 있게 해준다는 점에서 중요하다. 또한 이를 통하여 궁극적으로는 시각장애인에게 다양한 교육기회를 제공하여 사회진출 및 참여의 기회를 확대시킴으로써 그들의 복지를 한층 향상시킬 수 있다는 점에서 매우 중요하다고 할 수 있다.
하지만, 현재의 컴퓨터를 사용하는 일반적 방식은 주로 모니터를 통해 출력되는 시각적 정보를 눈으로 인지하고 이에 대하여 키보드, 마우스, 혹은 터치패드 등의 입력도구를 이용하여 정보를 입력하는 방식을 사용하고 있다. 따라서, 시각을 쓸 수 없는 시각장애인이 일반인과 동일한 수준으로 컴퓨터의 출력정보를 인지하고 이에 대한 즉각적인 정보입력과 같은 상호작용을 하는 데에는 큰 한계가 있을 수 밖에 없다. 결과적으로 시각적 장애는 컴퓨터 사용에 있어서의 효율성을 현저히 저하시켜 컴퓨터를 통한 정보습득 및 활용의 기회를 크게 빼앗게 된다.
이렇게 시각장애인이 컴퓨터를 사용하는데 있어서의 어려움을 해결하기 위하여 청각, 촉각 등을 사용해 시각적 정보를 인지하고 이를 통해 컴퓨터와 상호작용을 할 수 있도록 다양한 기술들이 개발되어 왔다. 그 대표적인 기술로서, 청각을 통해 시각장애인의 컴퓨터 사용을 보조하는 스크린 리더가 있다. 이는 컴퓨터 화면에 출력되는 내용과 자신이 입력한 키보드 정보를 음성으로 출력하여 컴퓨터를 사용할 수 있도록 도와주는 장치 혹은 소프트웨어이다.
하지만 스크린 리더는 출력화면에 대한 2차원의 공간적 위치정보 없이 한 줄로 이어진 선형화된 정보만으로 출력화면의 Graphic User Interface (GUI) 요소들을 탐색하므로 화면 출력정보 인지에 어려움이 따르며, 특히 출력화면에 포함된 정보가 많으면 많을수록 그 어려움은 현저히 증가하게 된다. 또한 문자나 GUI 요소들 이외에 그림, 도표 등과 같은 다양한 그래픽 정보들에 대해서는 스크린 리더가 텍스트 기반의 간단한 묘사적 설명만을 음성으로 제공하기 때문에 시각장애인이 그래픽 정보를 이해하고 이에 대한 상호작용을 하는 데에 큰 어려움을 가지게 된다.
또 다른 관련 기술로는 점자셀을 통하여 문자정보를 촉각으로 전달해주는 점자정보단말기가 있다. 이는 시각장애인에게 유용한 컴퓨터의 몇몇 기능들을 제공하여 독립적인 장치로 사용되는 방식과 스크린 리더가 분석하는 컴퓨터 화면의 텍스트 정보를 점자로 출력해주는 화면출력 보조장치로 사용하는 방식이 있다. 두 가지 방식 모두 컴퓨터와의 효율적 상호작용을 위한 인터페이스 역할 보다는, 컴퓨터 대용으로 컴퓨터의 몇 몇 제한된 기능들만을 수행하는 대체 기기의 역할을 하거나 혹은 문자정보를 점자로 출력해주는 출력보조 장치의 역할 만을 하게 된다. 특히, 점자 출력에 특화된 점자정보단말기는 스크린 리더와 마찬가지로 그래픽 정보를 표현할 수 없다는 문제점을 가지고 있다.
본 발명의 목적은 시각장애인의 스마트 기기(스마트폰, 스마트 패드 등) 혹은 스마트 점자기기 사용의 효율성 증대 및 정보화 수준의 향상을 위하여 다중배열 촉각셀 기반의 스마트 점자기기에 해당하는 촉각인터페이스장치를 직관적으로 사용, 상호작용 및 제어할 수 있게 함으로써 시각장애인에게 직관적으로 이메일 관리기능을 제공할 수 있도록 하는 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체에 관한 것이다.
상기와 같은 과제를 해결하기 위하여, 본 발명은 프로세서를 포함하는 컴퓨팅장치로 구현되고, 상기 컴퓨팅장치에 접속되어 사용자와 상호작용을 할 수 있는 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법으로서, 상기 컴퓨팅장치에서는 이메일관리모듈이 실행되어, 접속관리단계, 메인화면단계, 메일리스트출력단계, 메일본문출력단계, 및 메일쓰기단계 중 어느 하나가 수행되고, 상기 이메일관리모듈이 실행되는 경우, 해당 단계에 따른 화면이 상기 컴퓨팅장치에 표시되고, 상기 컴퓨팅장치에 표시된 화면이 상기 촉각인터페이스장치로의 출력신호로 변환되어, 상기 컴퓨팅장치에 표시된 화면에 상응하는 촉각디스플레이가 상기 촉각인터페이스장치에 표시될 수 있고, 상기 컴퓨팅장치에서의 입력, 혹은 상기 촉각인터페이스장치에서의 입력에 따라 상기의 접속관리단계, 메인화면단계, 메일리스트출력단계, 메일본문출력단계, 및 메일쓰기단계 중 어느 하나의 세부 과정들이 수행되는, 이메일 관리기능을 제공하는 방법을 제공한다.
본 발명의 일 실시예에서는, 상기 접속관리단계, 및 메인화면단계에 의하여 표시되는 상기 촉각디스플레이는, 복수의 커서의 위치 중 현재 커서의 위치에 대한 정보를 촉각적으로 디스플레이하는 커서영역; 각각의 커서의 위치에 대해 상응하는 정보를 촉각적으로 디스플레이하는 컨텐츠영역; 및 현재 페이지에 대한 정보를 촉각적으로 디스플레이하는 페이지영역;을 포함할 수 있다.
본 발명의 일 실시예에서는, 상기 메일리스트출력단계는, 메일서버로부터 메일리스트를 수신하는 단계; 상기 메일리스트 중 상기 촉각인터페이스장치에서 디스플레이할 수 있는 디스플레이리스트를 결정하는 단계; 상기 디스플레이리스트에 기초하여 컴퓨팅장치에서 디스플레이될 메일리스트에 대한 정보에 해당하는 제1디스플레이정보를 생성하는 단계; 및 상기 디스플레이리스트에 기초하여 촉각인터페이스장치에서 촉각적으로 디스플레이될 메일리스트에 대한 정보에 해당하는 제2디스플레이정보를 생성하는 단계;를 포함할 수 있다.
본 발명의 일 실시예에서는, 상기 제2디스플레이정보에 의하여 촉각적으로 디스플레이되는 상기 촉각디스플레이는, 복수의 커서의 위치 중 현재 커서의 위치에 대한 정보를 촉각적으로 디스플레이하는 커서영역; 및 각각의 커서의 위치에 대해 상응하는 메일 제목 정보를 촉각적으로 디스플레이하는 컨텐츠영역;을 포함하고, 상기 촉각인터페이스장치에서의 사용자의 입력에 따라 상기 현재 커서의 위치가 변동될 수 있고, 상기 커서영역에서 촉각적으로 표시되는 촉각그래픽엘리먼트는 상기 현재 커서의 위치에 따른 상기 컨텐츠영역의 세부레이어에서의 표시상태에 따라 결정될 수 있다.
본 발명의 일 실시예에서는, 상기 메일본문출력단계는, 메일서버로부터 선택된 메일본문데이터를 수신하는 단계; 상기 메일본문데이터로부터 텍스트정보를 추출하는 단계; 상기 텍스트정보에 기초하여 컴퓨팅장치에서 디스플레이될 메일본문에 대한 출력정보; 및 답장, 전달, 및 삭제 중 1 이상을 포함하는 메일처리에 대한 입력인터페이스를 포함하는 제1디스플레이정보를 생성하는 단계; 및 상기 텍스트정보에 기초하여 촉각인터페이스장치에서 촉각적으로 디스플레이될 메일본문에 대한 정보를 포함하는 제2디스플레이정보를 생성하는 단계;를 포함할 수 있다.
본 발명의 일 실시예에서는, 상기 제1디스플레이정보에 의하여 출력되는 메일본문은 상기 촉각디스플레이장치에서 현재 디스플레이되는 제1텍스트부분 및 상기 촉각디스플레이장치에서 현재 디스플레이되지 않는 제2텍스트부분을 포함하고, 상기 제1텍스트부분은 상기 제2텍스트부분과 비교 시 텍스트형태가 상이한, 이메일 관리기능을 제공할 수 있다.
본 발명의 일 실시예에 따르면, 시각장애인이 점자기기 혹은 촉각인터페이스장치를 이용하여 교육, 문화 및 여가 등의 일상생활에서 일반인과 유사한 수준으로 다양한 컨텐츠들(도서, 교육, 멀티미디어, 인터넷, 게임 등)을 활용할 수 있도록 다중배열 촉각셀 기반의 스마트 점자기기를 위한 Tactile User Interface 및 어플리케이션 연동/제어/활용을 위한 Android 등의 메인운영체제 기반 점자기기 혹은 촉각인터페이스장치의 운영 시스템을 제공할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 시각장애인들에게 스마트 기기에서 제공하는 시각정보(시각으로 인지할 수 있는 정보)를 실시간으로 촉각정보(촉각으로 인지할 수 있는 정보)로 변환하여 다중배열 점자셀 기반의 촉각 디스플레이를 통해 출력하고, 사용자의 다양한 입력 정보를 관리하며, 스마트 기기에서 동작하는 각종 어플리케이션 소프트웨어를 제어 및 관리할 수 있는 스마트 점자기기 운영 시스템을 제공할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 다중배열 촉각셀 기반의 스마트 점자기기의 입력부(점자 키보드/방향키/기능키 등)를 통해 스마트 점자기기의 운영체제(Android OS) 및 Application들의 동작을 제어하고 일반적인 스마트 기기에서 화면으로 출력되는 GUI(Graphic User Interface) 정보를 시각장애인용 TUI(Tactile User Interface) 데이터로 변환하여 촉각 및 점자정보로 제공함으로써, 시각장애인들이 일반인과 유사한 수준으로 일반적인 스마트 기기 혹은 스마트 점자기기를 보다 쉽게 제어하여 다양한 컨텐츠를 활용할 수 있도록 하는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 다중배열 촉각셀 기반의 스마트 점자기기 및 시각장애인용 TUI를 기반으로 하여 메일정보의 본문 및 복수의 메일정보에 대한 메일리스트 등에 대해 직관적으로 정보를 제공할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 이메일관리모듈은 사용자 이메일 계정의 도메인에 대응하는 메일서버와 통신을 수행하기 위한 설정이 기저장되어, 시각장애인이 보다 용이하게 이메일관리모듈의 기능을 활용할 수 있는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 점역된 형태의 컨텐츠에 대응하는 위치에 커서가 배치되고, 커서는 컨텐츠의 양 및 순서에 기초하여 형태가 변환되어 시각장애인이 촉독(觸讀)하고 있는 컨텐츠의 위치, 촉독해야 할 컨텐츠의 양 및 컨텐츠의 순서를 용이하게 파악할 수 있다.
본 발명의 일 실시예에 따르면, 시각장애인들에게 익숙한 메일정보를 점역하여 인지 하는 방법 및 메일정보를 음성화 하여 출력하는 인지 방법을 제공하는 효과를 발휘할 수 있다.
본 발명의 일 실시예에 따르면, 시각장애인이 촉독하고 있는 컨텐츠 영역에 대응하여 시각적 디스플레이에도 해당 컨텐츠 영역을 별도로 표시하여, 정안인(일반인)이 시각장애인이 촉독하고 있는 컨텐츠를 용이하게 파악할 수 있는 효과를 발휘할 수 있다.
도 1은 본 발명의 일 실시예에 따른 촉각 인터페이스장치와 컴퓨팅장치를 포함하는 전체 시스템을 개략적으로 도시한 도면이다.
도 2는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 개략적으로 도시한 도면이다.
도 3은 본 발명의 일 실시예에 따른 점자OS부의 동작환경을 개략적으로 도시한 도면이다.
도 4는 본 발명의 일 실시예에 따른 점자OS의 내부 구성을 개략적으로 도시한 도면이다.
도 5는 본 발명의 일 실시예에 따른 TUI모듈의 내부 구성을 개략적으로 도시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 촉각인터페이스장치에서의 촉각 디스플레이화면을 개략적으로 도시한다.
도 7은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 방법의 과정을 개략적으로 도시한다.
도 8은 본 발명의 일 실시예에 따른 트리거단계의 세부 과정을 개략적으로 도시한다.
도 9는 본 발명의 일 실시예에 따른 컴퓨팅장치에서의 표시화면과 이에 따른 촉각인터페이스장치에서의 촉각디스플레이를 개략적으로 도시한다.
도 10은 본 발명의 일 실시예에 따른 촉각인터페이스장치에서의 촉각디스플레이의 영역 구성을 개략적으로 도시한다.
도 11은 본 발명의 일 실시예에 따른 촉각인터페이스장치의 입출력 과정을 개략적으로 도시한다.
도 12는 본 발명의 일 실시예에 따른 출력신호생성단계의 과정을 개략적으로 도시한다.
도 13은 본 발명의 일 실시예에 따른 커서영역출력신호생성단계의 과정을 개략적으로 도시한다.
도 14는 본 발명의 일 실시예에 따른 커서영역 표기의 형태의 일예를 개략적으로 도시한다.
도 15는 본 발명의 일 실시예에 따른 커서영역 표기의 몇 예들을 개략적으로 도시한다.
도 16은 본 발명의 일 실시예에 따른 버퍼출력신호생성단계의 과정을 개략적으로 도시한다.
도 17은 본 발명의 일 실시예에 따른 TTS단계의 일 예를 개략적으로 도시한다.
도 18은 본 발명의 일 실시예에 따른 이벤트단계의 일 예를 개략적으로 도시한다.
도 19는 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 20은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 21은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 22는 본 발명의 일 실시예에 따른 이메일관리모듈과 촉각인터페이스장치 및 메일서버의 구성을 개략적으로 도시한다.
도 23은 본 발명의 일 실시예에 따른 이메일관리모듈의 내부 구성을 개략적으로 도시한다.
도 24는 본 발명의 일 실시예에 따른 메인화면단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 25는 본 발명의 일 실시예에 따른 사용자의 계정선택입력에 기초하여 메인화면단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 26은 본 발명의 일 실시예에 따른 접속관리단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 27은 본 발명의 일 실시예에 따른 메일리스트출력단계의 세부 단계들을 개략적으로 도시한다.
도 28은 본 발명의 일 실시예에 따른 메일리스트출력단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적을 도시한다.
도 29는 본 발명의 일 실시예에 따른 메일본문출력단계의 세부 단계들을 개략적으로 도시한다.
도 30은 본 발명의 일 실시예에 따른 메일본문출력단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 31은 본 발명의 일 실시예에 따른 메일쓰기단계의 세부 단계들을 개략적으로 도시한다.
도 32는 본 발명의 일 실시예에 따른 메일쓰기단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 33은 본 발명의 일 실시예에 따른 메일쓰기단계에서 사용자가 점자형태의 입력을 수행하기 위한 점자표를 개략적으로 도시한다.
도 34는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성의 일 예를 도시하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 개략적으로 도시한 도면이다.
도 3은 본 발명의 일 실시예에 따른 점자OS부의 동작환경을 개략적으로 도시한 도면이다.
도 4는 본 발명의 일 실시예에 따른 점자OS의 내부 구성을 개략적으로 도시한 도면이다.
도 5는 본 발명의 일 실시예에 따른 TUI모듈의 내부 구성을 개략적으로 도시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 촉각인터페이스장치에서의 촉각 디스플레이화면을 개략적으로 도시한다.
도 7은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 방법의 과정을 개략적으로 도시한다.
도 8은 본 발명의 일 실시예에 따른 트리거단계의 세부 과정을 개략적으로 도시한다.
도 9는 본 발명의 일 실시예에 따른 컴퓨팅장치에서의 표시화면과 이에 따른 촉각인터페이스장치에서의 촉각디스플레이를 개략적으로 도시한다.
도 10은 본 발명의 일 실시예에 따른 촉각인터페이스장치에서의 촉각디스플레이의 영역 구성을 개략적으로 도시한다.
도 11은 본 발명의 일 실시예에 따른 촉각인터페이스장치의 입출력 과정을 개략적으로 도시한다.
도 12는 본 발명의 일 실시예에 따른 출력신호생성단계의 과정을 개략적으로 도시한다.
도 13은 본 발명의 일 실시예에 따른 커서영역출력신호생성단계의 과정을 개략적으로 도시한다.
도 14는 본 발명의 일 실시예에 따른 커서영역 표기의 형태의 일예를 개략적으로 도시한다.
도 15는 본 발명의 일 실시예에 따른 커서영역 표기의 몇 예들을 개략적으로 도시한다.
도 16은 본 발명의 일 실시예에 따른 버퍼출력신호생성단계의 과정을 개략적으로 도시한다.
도 17은 본 발명의 일 실시예에 따른 TTS단계의 일 예를 개략적으로 도시한다.
도 18은 본 발명의 일 실시예에 따른 이벤트단계의 일 예를 개략적으로 도시한다.
도 19는 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 20은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 21은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 22는 본 발명의 일 실시예에 따른 이메일관리모듈과 촉각인터페이스장치 및 메일서버의 구성을 개략적으로 도시한다.
도 23은 본 발명의 일 실시예에 따른 이메일관리모듈의 내부 구성을 개략적으로 도시한다.
도 24는 본 발명의 일 실시예에 따른 메인화면단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 25는 본 발명의 일 실시예에 따른 사용자의 계정선택입력에 기초하여 메인화면단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 26은 본 발명의 일 실시예에 따른 접속관리단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 27은 본 발명의 일 실시예에 따른 메일리스트출력단계의 세부 단계들을 개략적으로 도시한다.
도 28은 본 발명의 일 실시예에 따른 메일리스트출력단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적을 도시한다.
도 29는 본 발명의 일 실시예에 따른 메일본문출력단계의 세부 단계들을 개략적으로 도시한다.
도 30은 본 발명의 일 실시예에 따른 메일본문출력단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 31은 본 발명의 일 실시예에 따른 메일쓰기단계의 세부 단계들을 개략적으로 도시한다.
도 32는 본 발명의 일 실시예에 따른 메일쓰기단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 33은 본 발명의 일 실시예에 따른 메일쓰기단계에서 사용자가 점자형태의 입력을 수행하기 위한 점자표를 개략적으로 도시한다.
도 34는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성의 일 예를 도시하는 도면이다.
이하에서는, 다양한 실시예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.
또한, 다양한 양상들 및 특징들이 다수의 디바이스들, 컴포넌트들 및/또는 모듈들 등을 포함할 수 있는 시스템에 의하여 제시될 것이다. 다양한 시스템들이, 추가적인 장치들, 컴포넌트들 및/또는 모듈들 등을 포함할 수 있다는 점 그리고/또는 도면들과 관련하여 논의된 장치들, 컴포넌트들, 모듈들 등 전부를 포함하지 않을 수도 있다는 점 또한 이해되고 인식되어야 한다.
본 명세서에서 사용되는 "실시예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다. 아래에서 사용되는 용어들 '~부', '컴포넌트', '모듈', '시스템', '인터페이스' 등은 일반적으로 컴퓨터 관련 엔티티(computer-related entity)를 의미하며, 예를 들어, 하드웨어, 하드웨어와 소프트웨어의 조합, 소프트웨어를 의미할 수 있다.
또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다.
또한, 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
또한, 본 발명의 실시예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
1. 촉각인터페이스장치를 제어하는 가상운영체제로서의
점자OS모듈
도 1은 본 발명의 일 실시예에 따른 촉각인터페이스장치와 컴퓨팅장치를 포함하는 전체 시스템을 개략적으로 도시한 도면이다.
도 1에 도시된 촉각인터페이스장치(1000)는 하나의 예에 불과할 뿐, 본 발명은 이에 한정되지 않는다. 이하에서 서술하는 본 발명의 촉각인터페이스장치를 제어하는 컴퓨팅장치(A)에 연결된 촉각 인터페이스장치(1000)는 촉각 그래픽을 제공할 수 있는 임의의 인터페이스장치, 사용자와 상호작용을 할 수 있는 촉각 인터페이스장치, 및 촉각 그래픽을 출력할 수 있는 컴퓨팅장치를 모두 포함한다.
도 1에 도시된 바와 같이 컴퓨팅장치(A)는 촉각인터페이스장치(1000)와 연결되어 있고, 이와 같은 연결은 유선적 연결 혹은 무선적 연결을 모두 포함하는 연결이다.
상기 컴퓨팅장치(A)는 스마트 폰(smart phone)과, 태블릿(tablet) 개인용 컴퓨터(personal computer: PC, 이하 'PC'라 칭하기로 한다)와, 이동 전화기와, 화상 전화기와, 전자책 리더(e-book reader)와, 데스크 탑(desktop) PC와, 랩탑(laptop) PC와, 넷북(netbook) PC와, 개인용 복합 단말기(personal digital assistant: PDA, 이하 'PDA'라 칭하기로 한다)와, 휴대용 멀티미디어 플레이어(portable multimedia player: PMP, 이하 'PMP'라 칭하기로 한다)와, 엠피3 플레이어(mp3 player)와, 이동 의료 디바이스와, 카메라와, 웨어러블 디바이스(wearable device)(일 예로, 헤드-마운티드 디바이스(head-mounted device: HMD, 일 예로 'HMD'라 칭하기로 한다)와, 전자 의류와, 전자 팔찌와, 전자 목걸이와, 전자 앱세서리(appcessory)와, 전자 문신, 혹은 스마트 워치(smart watch) 등에 해당할 수 있다.
이와 같은 컴퓨팅장치(A)는 1 이상의 프로세서 및 메모리를 포함하고, 선택적으로 모니터 등의 디스플레이장치에 연결되어 있거나 자체적인 디스플레이모듈이 구비될 수도 있다.
혹은, 상기 컴퓨팅장치(A)는 상기 촉각인터페이스장치(1000)와 결합된 형태일 수도 있다. 이 경우, 사용자의 입장에서는 촉각인터페이스장치(1000)와 이를 제어하는 컴퓨팅장치(A)를 하나의 장치로 인식할 수도 있다. 이와 같이 결합된 형태의 장치의 경우 상기 컴퓨팅장치(A)와 상기 촉각인터페이스장치(1000)는 프로세서와 메모리를 공유하는 형태일 수도 있다.
도 1에 도시된 촉각인터페이스장치(1000)는 상기 컴퓨팅장치(A) 등과 유선적 혹은 무선적 통신을 수행할 수 있는 외부장치접속부(1100); 복수의 핀으로 사용자에게 촉각정보를 제공하는 촉각디스플레이부(1200); 입력좌표 혹은 세부적으로 포커싱되는 사항의 위치를 변경시키는 방향키부(1300); 사용자로부터 키입력 형태로 정보를 입력 받을 수 있는 키보드부(1400); 및 상기 외부장치접속부(1100), 상기 촉각디스플레이부(1200), 상기 방향키부(1300), 및 상기 키보드부(1400)의 작동을 제어하는 제어부(1500);를 포함한다.
상기 외부장치접속부(1100)는 무선통신을 수행할 수 있는 통신모듈부 및 유선적으로 상기 외부장치와 접속할 수 있는 유선연결부 중 1 이상을 포함한다. 상기 통신모듈부는 블루투스(bluetooth) 통신 모듈, 지그비(zigbee) 통신 모듈, 적외선 통신 모듈, BLE(bluetooth low energy) 통신 모듈, 오디오 통신 모듈, LTE(long term evolution) 통신 모듈, 및 WiFi 통신 모듈, IrDA 기반의 적외선 통신 모듈, 무선 랜(WLAN), 와이브로(WiBro) 모듈, 무선 USB(Wireless USB) 모듈, 중 적어도 하나를 포함한다. 한편, 상기 유선연결부(1120)는 USB(Universal Serial Bus) 인터페이스를 이용한 연결모듈을 포함하는 것이 바람직하고, 이외의 데이터의 송수신을 수행할 수 있는 유선연결모듈이 이에 해당한다.
상기 촉각디스플레이부(1200)는 1 이상의 차원의 촉각픽셀로 촉각정보를 제공하고, 상기 촉각픽셀은 압전세라믹 및 탄성체를 포함하는 트랜스듀서에 전원을 인가함으로써 상하로 이동하는 복수의 핀에 의하여 구성된다. 바람직하게는 상기 촉각픽셀은 2차원으로 촉각정보를 제공한다.
이와 같은 촉각디스플레이부(1200)는, 외부의 사용자단말기로부터 전송받은 데이터에 기초하거나 혹은 촉각 인터페이스장치 내부에서 생성된 데이터를 입력받는 표시데이터수신부; 상기 데이터를 촉각디스플레이데이터로 변환하는 촉각데이터변환부; 및 상기 촉각디스플레이데이터에 의하여 구동하는 복수의 핀구동모듈; 및 촉각디스플레이부(1200)를 구동하는 전원을 공급받는 구동전원공급부;를 포함하고, 입력 받은 데이터에 기초하여 촉각정보 혹은 촉각 그래픽을 제공한다.
상기 촉각디스플레이부(1200)는 1 이상의 차원의 촉각픽셀을 표시 혹은 제공할 수 있다. 일 예에서는, 상기 촉각픽셀은 압전세라믹 및 탄성체를 포함하는 트랜스듀서에 전원을 인가함으로써 상하로 이동하는 복수의 핀에 의하여 구성된다.
구체적으로, 상기 촉각픽셀은 복수의 핀구동모듈 그룹에 의하여 표시되고, 각각의 상기 핀구동모듈 그룹은 복수의 핀구동모듈로 이루어진다. 혹은 전체의 핀구동모듈이 하나의 핀구동모듈 그룹을 구성할 수도 있다.
한편, 상기 방향키부(1300)는 입력좌표 혹은 세부적으로 포커싱되는 사항의 위치를 변경시킨다.
상기 키보드부(1400)은 상기 촉각인터페이스장치(1000)에 시각장애인이 입력할 수 있는 키 형태이고, 상기 키보드부(1400)는 복수의 키들로 구성될 수 있고, 각각의 키들의 입력은 상기 컴퓨팅장치(A)에서 실행되고 있는 어플리케이션의 명령으로 변환될 수 있다.
한편, 사용자는 상기 방향키부(1300), 및 상기 키보드부(1400)를 통하여 촉각 인터페이스장치에 입력을 수행하고, 촉각인터페이스장치(1000)는 이와 같이 입력된 명령 혹은 정보를 변환하여, 상기 사용자단말기로 전송한다.
한편 키보드부(1400)는, 바람직하게는 현재 시각장애인들이 일반적으로 많이 사용하는 점자를 일반문자로 변환하여 컴퓨터에 문자 입력신호를 전달하는 점자키보드를 포함하는 것이 바람직하다.
상기 키보드부(1400)는 점자를 입력 받아 촉각인터페이스장치(1000) 혹은 촉각인터페이스장치(1000)에 연결된 컴퓨팅장치(A)에 전달한다. 상기 키보드부(1400)는 점자키, 단축기, 및 실행 혹은 스페이스키 등을 포함할 수 있다.
점자는 여러 개의 점이 모여 하나의 글자를 구성하기 때문에 점자키가 동시에 경우 눌린 경우 최종적인 점자의 정보를 전송할 수 있다. 전송된 점자정보는 촉각 인터페이스장치(1000) 내부의 소프트웨어 혹은 컴퓨팅장치의 소프트웨어를 통하여 일반문자(general character)로 점역될 수 있다.
따라서, 시각장애인을 위한 컴퓨터 입출력 기능을 위하여, 촉각디스플레이부(1100)는 일반 컴퓨터의 모니터와 같은 역할을 수행하고, 방향키부(1300) 및 키보드부(1400)는 일반 컴퓨터의 키보드, 마우스 등의 입력장치의 역할을 수행하게 된다.
도 2는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성을 개략적으로 도시한 도면이다.
본 실시예에 따른 촉각인터페이스장치(1000)를 제어하는 컴퓨팅장치는 프로세서, 버스(프로세서, 메모리, 네트워크인터페이스부 사이의 양방향 화살표에 해당), 네트워크 인터페이스 및 메모리를 포함할 수 있다. 메모리는 점자OS부실행코드(3400), 일반OS부실행코드(3500), 응용프로그램부실행코드 (3600), 및 입출력제어루틴(3700)을 포함할 수 있다. 프로세서는 점자OS부(2000); 일반OS부(3100); 및 응용프로그램부(3200)를 포함할 수 있다. 여기서 일반OS부(3100)는 상기 컴퓨팅장치의 메인운영체제에 해당하는 것으로서, GOOGLE의 ANDROID OS, MICROSOFT의 WINDOWS OS등이 이에 해당할 수 있다.
다른 실시예들에서 상기 촉각인터페이스장치(1000)를 제어하는 컴퓨팅장치(A)는 도 2의 구성요소들보다 더 많은 구성요소들을 포함할 수도 있다.
메모리는 컴퓨터에서 판독 가능한 기록 매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 또한, 메모리에는 점자OS부실행코드(3400), 일반OS부실행코드(3500), 응용프로그램부실행코드 (3600), 및 입출력제어루틴(3700)이 저장될 수 있다. 이러한 소프트웨어 구성요소들은 드라이브 메커니즘(drive mechanism, 미도시)을 이용하여 메모리와는 별도의 컴퓨터에서 판독 가능한 기록 매체로부터 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록 매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록 매체(미도시)를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록 매체가 아닌 네트워크 인터페이스부(3300)를 통해 메모리에 로딩될 수도 있다.
버스는 촉각 인터페이스장치를 제어하는 컴퓨팅장치의 구성요소들간의 통신 및 데이터 전송을 가능하게 할 수 있다. 버스는 고속 시리얼 버스(high-speed serial bus), 병렬 버스(parallel bus), SAN(Storage Area Network) 및/또는 다른 적절한 통신 기술을 이용하여 구성될 수 있다.
네트워크 인터페이스부(3300)는 촉각인터페이스장치(1000)를 제어하는 컴퓨팅장치(A)를 컴퓨터 네트워크에 연결하기 위한 컴퓨터 하드웨어 구성 요소일 수 있다. 네트워크 인터페이스부(3300)는 촉각인터페이스장치를 제어하는 컴퓨팅장치를 무선 또는 유선 커넥션을 통해 컴퓨터 네트워크에 연결시킬 수 있다. 이와 같은 네트워크 인터페이스부(3300)를 통하여 촉각 인터페이스장치를 제어하는 컴퓨팅장치가 촉각 인터페이스장치에 무선적 혹은 유선적으로 접속될 수 있다.
프로세서는 기본적인 산술, 로직 및 촉각 인터페이스장치를 제어하는 컴퓨팅장치의 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리 또는 네트워크 인터페이스부(3300)에 의해, 그리고 버스를 통해 프로세서로 제공될 수 있다. 프로세서는 점자OS부(2000); 일반OS부(3100); 및 응용프로그램부(3200)를 위한 프로그램 코드를 실행하도록 구성될 수 있다. 이러한 프로그램 코드는 메모리와 같은 기록 장치에 저장될 수 있다.
상기 점자OS부(2000)는 이하에서 설명하게 될 촉각인터페이스장치(1000)를 제어하는 방법을 수행하기 위해 구성될 수 있다. 상기한 프로세서는 촉각 인터페이스장치를 제어하는 방법에 따라 일부 컴포넌트가 생략되거나, 도시되지 않은 추가의 컴포넌트가 더 포함되거나, 2개 이상의 컴포넌트가 결합될 수 있다.
도 3은 본 발명의 일 실시예에 따른 점자OS부의 동작환경을 개략적으로 도시한 도면이다.
일반OS부(3100)는 컴퓨팅장치(A)의 메인운영체제에 해당하는 소프트웨어모듈에 해당하고, 상기 일반OS부(3100)의 제어하에서, 점자OS부(2000) 및 응용프로그램부(3200)가 구동된다. 즉, 본 발명에 따른 촉각인터페이스장치를 제어하는 방법은, 상기 컴퓨팅장치(A)의 메인운영체제의 제어를 받아 동작하는, 촉각 인터페이스장치를 위한 가상적인 서브운영체제에 해당하는 점자 OS부에 의하여 구현될 수 있다.
이와 같은 점자OS부(2000)는 상기 촉각 인터페이스장치(1000)의 구동 및 입출력과 관련된 전반적인 사항을 제어하면서, 동시에 상기 일반OS부(3100)의 제어하에서 동작하는 상기 응용프로그램부(3200)와 상기 촉각인터페이스장치(1000) 사이의 입출력을 제어한다.
또한, 상기 점자OS부(2000)는 상기 촉각인터페이스장치의(1000) 환경을 제어하는 응용프로그램 및 상기 촉각인터페이스장치(1000)에서 입출력이 가능한 내장기본프로그램을 포함할 수 있다.
한편, 이와 같은 점자OS부(2000)의 환경에서는, 개발자들은 실제 컴퓨팅장치의 디스플레이 예를들어 스마트폰의 디스플레이를 기반으로 시각장애인을 위한 소프트웨어 혹은 응용프로그램을 개발하고, 이와 같은 응용프로그램의 상기 촉각인터페이스장치(1000)로의 입출력은 상기 점자OS부(2000)에 의하여 수행될 수 있다.
즉, 본 발명의 촉각인터페이스장치의 제어방법을 수행하는 점자OS부(2000)는 일반 개발자가 일반적인 GUI를 갖는 소프트웨어를 개발하고, 이와 같이 개발된 소프트웨어가 상기 점자OS부(2000)를 통하여 시각장애인이 입출력을 할 수 있는 형태로 상기 촉각인터페이스장치(1000)에서 구현될 수 있어, 일반 소프트웨어 개발자가 시각장애인에게 보다 다양한 소프트웨어를 공급할 수 있게 하는 효과를 발휘할 수 있다.
도 4는 본 발명의 일 실시예에 따른 점자OS부의 내부 구성을 개략적으로 도시한 도면이다. 도 4에 도시된 바와 같이 상기 점자OS부(2000)는, 트리거모듈(2100), 메인화면모듈(2200), 환경설정모듈(2300), TUI(Tactile User Interface)모듈(2400), 내장어플리케이션모듈(2500), TTS(Text To Speech)모듈(2600), 및 이벤트모듈(2700)을 포함한다.
상기 트리거모듈(2100)은 상기 컴퓨팅장치(A)와 상기 촉각인터페이스장치(1000)의 접속을 확인하는 단계; 및 상기 컴퓨팅장치(A)와 상기 촉각인터페이스장치(1000)가 상호접속 되었다고 판단되는 경우에 상기 메인화면모듈(2200)을 실행하는 단계의 실행을 호출하는 단계를 수행한다.
상기 점자OS부(2000)는 기본적으로 시각적 디스플레이로 인터페이스를 수행하는 컴퓨팅장치에서 실행된다. 따라서, 시각장애인이 컴퓨팅장치에서 점자OS부의 각각의 모듈을 실행시켜 촉각디스플레이장치를 이용하기 위해서는 점자OS부가 실행되어야 한다.
일반적인 스마트폰에서의 어플리케이션의 실행은 사용자가 스마트폰의 GUI에서 어플리케이션 아이콘 등을 확인하고 터치입력을 수행함에 의하여 실행이 되지만, 시각장애인의 경우 이와 같은 동작이 어려울 수도 있다.
이와 같은 점자OS부의 실행은 일반적인 컴퓨팅장치에서 실행되는 어플리케이션의 실행과 달리, 시각적으로 인지가 어려운 시각장애인에 의하여 실행이 되어야 하기 때문에, 상기 트리거모듈(2100)은 상기 메인운영체제의 백그라운드로 동작하다가, 시각장애인이 촉각인터페이스장치와 상기 컴퓨팅장치(A)의 연결을 하는 경우에(바람직하게는 이와 같은 연결은 시각장애인이 촉각인터페이스장치에 있는 물리적인 버튼을 입력함에 따라서 이루어진다), 상기 트리거모듈(2100)은 1차적으로 상기 메인화면모듈(2200)의 실행을 호출한다.
상기 메인화면모듈(2200)은 예를들어 도 9와 같은 촉각인터페이스장치를 시작하였을 때, 윈도우 바탕화면과 같이 점자OS부의 메인화면을 표시하고, 이와 같은 메인화면에서 사용자가 원하는 모듈 혹은 기능을 선택하도록 수행하는 페이지를 제공할 수 있다.
바람직하게는 상기 메인화면모듈(2200)은 도 9의 (A)와 같이, 단순히 컴퓨팅장치에서 디스플레이되는 인터페이스를 제공한다. 즉, 메인화면모듈이 실행되는 경우에 상기 컴퓨팅장치에 연결된 시각적 디스플레이장치는 상기 도 9의 (A)와 같은 GUI인터페이스를 디스플레이한다. 동시에, 상기 GUI인터페이스의 출력신호는 상기 TUI모듈(2400)에 의하여 촉각인터페이스의 출력신호로 변환되어, 상기 촉각인터페이스장치(1000)로 전달되어, 시각장애인은 상기 메인화면을 촉각적으로 인지할 수 있다. 점자OS부에 내장된 응용프로그램 혹은 점자OS부의 제어하에서 동작할 수 있는 외부 응용프로그램 모두 이와 같은 GUI를 제공할 수 있도록 제작될 수 있다.
한편, 이와 같은 메인화면모듈(2200)은 상기 점자OS부(2000)에 의하여 제공된다. 즉, 점자OS부(2000)를 실행시키면, 1차적으로는 상기 점자OS부, 즉 메인운영체제의 제어 하에서 실행되는 서브운영체제에 의하여 제공되는 메인화면모듈이 실행된다. 혹은 상기 트리거모듈에 의하여 상기 메인화면모듈이 실행될 수 있다.
상기 환경설정모듈(2300)은 상기 점자OS부(2000)의 환경 및/또는 상기 촉각인터페이스장치(1000)의 환경을 설정할 수 있도록 하는 인터페이스를 제공하는 모듈이다. 마찬가지로, 상기 환경설정모듈(2300)이 실행되면 상기 컴퓨팅장치(A)에 연결된 디스플레이 장치에서 환경설정에 대한 인터페이스가 제공되고, 동시에 상기 TUI모듈(2400)은 상기 인터페이스를 상기 촉각인터페이스장치(1000)에서 입출력이 가능한 형태로 변환한다.
상기 TUI모듈(2400)은 상기 메인화면모듈 혹은 다른 응용어플리케이션 모듈에 의하여 상기 컴퓨팅장치(A)에서 디스플레이될 수 있는 화면에 상응하는 상기 촉각인터페이스장치(1000)의 촉각화면을 구현하기 위한 출력신호를 생성하고, 상기 촉각인터페이스장치(1000)에서 입력된 사용자 입력으로부터 상기 메인화면모듈(2200)에 입력하기 위한 입력신호를 생성한다.
즉, 상기 TUI모듈(2400)은 상기 메인화면모듈(2200), 상기 점자OS부(2000)에 의하여 제공되고 내장어플리케이션, 혹은 메인운영체제의 제어 하에서 동작하는 외부 응용어플리케이션의 GUI를 상기 촉각인터페이스장치(1000)에서 인터페이스 할 수 있는 TUI로 변환하는 역할을 수행한다. 따라서, 일반 개발자는 컴퓨팅장치(A)에서 동작하는 일반적인 소프트웨어만 개발을 한다면, 해당 소프트웨어의 인터페이스가 상기 TUI모듈(2400)에 의하여 촉각인터페이스장치에서 인터페이스 할 수 있는 형태로 변환되고, 결과적으로, 시각장애인이 해당 소프트웨어를 사용할 수 있다.
즉, 상기 점자OS부(2000)에서는 상기 메인화면모듈(2200)에서 사용자의 입력에 따라 호출되는 어플리케이션모듈 실행단계; 및 상기 서브운영체제에 의하여 제공되는 TUI모듈을 실행하는 제2 TUI단계가 포함될 수 있고, 상기 제2 TUI단계는, 상기 어플리케이션모듈에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면에 상응하는 상기 촉각인터페이스장치의 촉각화면을 구현하기 위한 출력신호를 생성하고, 상기 촉각인터페이스장치에서 입력된 사용자 입력으로부터 상기 어플리케이션모듈에 입력하기 위한 입력신호를 생성하는 동작을 수행한다.
상기 내장어플리케이션모듈(2500)은 알람, 시계, 기본 문서작성기, 기본 문서뷰어 등과 같은 어플리케이션에 해당할 수 있고, 마찬가지로, 상기 내장어플리케이션은 일반인을 대상으로 하는 GUI기반으로 제작이 되지만, 상기 TUI모듈(2400)에 의하여 상기 촉각인터페이스장치를 통하여 시각장애인도 이용을 할 수 있다.
상기 TTS모듈(2600)은 상기 메인화면모듈(2200), 환경설정모듈(2300), 혹은 기타 어플리케이션모듈에 의하여 디스플레이 혹은 촉각디스플레이되는 요소에 대해 TTS기능을 자체적으로 수행하거나 혹은 메인운영체제에서 동작하는 TTS기능을 하는 모듈에 대해 TTS 대상이 되는 텍스트 정보를 제공하면서 TTS 수행을 요청하는 기능을 수행한다.
상기 이벤트모듈(2700)은 사용자단말기와 촉각인터페이스장치와의 접속상태에 기초하여, 촉각인터페이스장치로의 이벤트 알림 출력신호를 생성하는 기능을 수행한다. 시각장애인은 자신이 인터페이싱하고 있는 촉각인터페이스장치가 상기 컴퓨팅장치와의 접속이 해제되는 경우를 쉽게 인지하지 못하고, 이와 같은 문제점을 해결하기 위해서, 점자OS부는 상기 이벤트모듈(2700)을 제공함으로써, 접속장애에 대한 정보를 즉각적으로 촉각디스플레이장치로 전송하는 기능을 수행한다.
도 5는 본 발명의 일 실시예에 따른 TUI모듈의 내부 구성을 개략적으로 도시한 도면이다.
TUI모듈은, 상기 메인화면모듈(2200) 혹은 기타 어플리케이션에 의하여 상기 컴퓨팅장치(A)에서 디스플레이될 수 있는 화면에 상응하는 상기 촉각인터페이스장치(1000)의 촉각화면을 구현하기 위한 출력신호를 생성하는 출력신호생성부(2410); 상기 촉각인터페이스장치에서의 키입력 등의 입력을 상기 컴퓨팅장치에서 실행되고 있는 메인화면모듈 혹은 기타 어플리케이션에 입력할 수 있는 형태로 변환하여 입력신호를 생성하는 입력신호생성부(2420); 상기 출력신호생성부의 동작에 있어서 접속된 촉각인터페이스장치의 촉각디스플레이부의 화소에 적합한 스케일링 정보를 로드하는 스케일링정보로드부(2430); 및 상기 출력신호 및 상기 촉각인터페이스장치의 이전의 촉각디스플레이 정보에 기초하여 버퍼출력신호를 생성하는 버퍼출력신호생성부(2440)를 포함한다.
여기서, 상기 출력신호 및 상기 버퍼출력신호는 2차원 촉각셀 어레이에 대한 제어신호를 포함한다.
상기 메인화면모듈(2200) 등을 포함하는 프로그램모듈은 상기 TUI모듈(2400)을 통하여 촉각인터페이스장치로 입출력신호가 변환될 수 있다.
한편, 상기 스케일링정보로드부(2430)는 접속된 촉각인터페이스장치로부터 자동적으로 해당 촉각인터페이스장치의 촉각디스플레이 픽셀정보를 수신하는 방식으로 촉각디스플레이 픽셀정보를 로드하는 것이 바람직하다. 혹은, 이와 같은 촉각디스플레이 픽셀정보는 상기 컴퓨팅장치(A)의 메모리에 저장되어 있을 수 있다.
도 6은 본 발명의 일 실시예에 따른 촉각인터페이스장치에서의 촉각 디스플레이화면을 개략적으로 도시한다.
전술한 바와 같이, 상기 TUI모듈(2400)은 상기 컴퓨팅장치(A)에서 디스플레이될 수 있는 화면에 상응하는 상기 촉각인터페이스장치(1000)의 촉각화면을 구현하기 위한 출력신호를 생성하는 출력신호생성부(2410)를 포함한다.
한편, 상기 출력신호는 2차원 촉각셀 어레이에 대한 제어신호를 포함하고, 상기 출력신호에 의하여 구현되는 촉각디스플레이장치의 촉각화면은, 상기 메인화면모듈(2200)에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면 중 컨텐츠부분에 기초하여 구현되는 컨텐츠영역(L1); 상기 현재 사용자의 커서의 위치 및 형태를 구현하는 커서영역(L2); 및 상기 메인화면모듈에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면의 페이지정보에 기초하여 구현되는 페이지영역(L3)을 포함한다.
한편, 상기 도 6에서 도시된 바와 같이, 촉각디스플레이장치에는 다양한 물리적키가 구비되어 있고, 각각의 물리적키는 보다 직관적인 기능을 수행할 수 있도록 기능이 할당되어 있다. 이와 같은 물리적키의 입력에 의하여 상기 TUI모듈(2400)의 기능을 수행하고, 상기 TUI모듈(2400)에 의하여 상기 컴퓨팅장치에서 동작하는 어플리케이션의 명령이 생성되고, 해당 명령이 상기 컴퓨팅장치에서 동작하는 어플리케이션으로 입력될 수 있다.
도 7은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 방법의 과정을 개략적으로 도시한다.
단계 S10에서는 시각장애인 사용자가 촉각인터페이스장치의 ON 혹은 촉각인터페이스장치의 상기 컴퓨팅장치로의 연결에 대한 키입력을 함으로써, 메인화면모듈을 실행을 호출하는 트리거단계가 수행된다.
전술한 바와 같이, 상기 점자OS부(2000)의 상기 트리거모듈(2100)부는 컴퓨팅장치의 메인운영체제의 제어 하에서 백그라운드로 동작하게되고, 상기와 같은 조건이 충족하게 되면, 우선적으로 상기 메인화면모듈(2200)의 실행을 호출한다.
시각장애인의 경우 처음 시작하는 페이지가 일정한 것이 보다 유리하기 때문에, 바람직하게는 상기 트리거단계(S10)는 상기 메인화면모듈(2200)의 실행을 호출한다.
단계 S20에서는 상기 메인화면모듈(2200)의 실행이 수행된다. 이와 같은 메인화면모듈의 실행에 의하여 상기 컴퓨팅장치(A)에 연결된 GUI 디스플레이에서는 상기 메인화면모듈(2200)의 화면이 시각적으로 디스플레이된다. 이와 같이 상기 메인화면모듈(2200)이 기본적으로는 시각적으로 디스플레이되는 형태이기 때문에, 개발자들은 점자, 혹은 시각장애인을 고려하지 않고 일반적인 방법으로 상기 메인화면모듈(2200) 혹은 다른 응용어플리케이션을 개발할 수 있다. 또한, 시각장애인이 특정 어플리케이션을 이용함에 있어서 문제가 있는 경우 일반인(정안인)이 컴퓨팅장치에 연결된 일반 인터페이스 요소(예를들어 터치디스플레이)를 조작함으로써 시각장애인이 해당 어플리케이션을 이용함에 따라 발생하는 문제점을 옆에서 해결해줄 수도 있다.
단계 S30에서는, 상기 메인화면모듈(2200)에 의하여 디스플레이되는 메인화면에 대해 상기 TUI모듈(2400)이 실행되어, 상기 메인화면모듈(2200)의 출력요소를 상기 촉각인터페이스장치(1000)의 촉각디스플레이부(1200)의 구동신호로 변환시키거나, 혹은 상기 촉각인터페이스장치(1000)에서의 입력을 상기 메인화면모듈(2200)로 입력될 수 있는 형태의 명령으로 변환한다. 이를 편의상 제1 TUI단계(S30)라고 칭한다.
단계 S40에서는, 사용자의 조작에 의하여 별도의 어플리케이션이 실행된다. 상기 별도의 어플리케이션은 상기 점자OS(2000)부에 의하여 제공되는 어플리케이션 혹은 상기 점자OS부(2000)와 별도로 제공되는 어플리케이션일 수 있다.
단계 S50에서는, 상기 별도의 어플리케이션에 의하여 디스플레이되는 화면에 대해 상기 TUI모듈(2400)이 실행되어, 상기 화면의 출력요소를 상기 촉각인터페이스장치(1000)의 촉각디스플레이부(1200)의 구동신호로 변환시키거나, 혹은 촉각인터페이스장치에서의 입력을 상기 어플리케이션으로 입력될 수 있는 형태의 명령으로 변환한다. 이를 편의상 제2 TUI단계(S50)라고 칭한다. 여기서, 상기 제2 TUI단계도 상기 점자OS부(2000)에 의하여 제공되는 상기 TUI모듈(2400)에 의하여 수행될 수 있다.
단계 S60에서는, 사용자의 촉각디스플레이장치의 조작에 따라 특정 영역에 대한 TTS기능 실행이 호출된다. 바람직하게는, 상기 점자OS부(2000)는 TTS 대상이 되는 부분을 결정하여, 메인운영체제에 의하여 동작하는 TTS어플리케이션에 TTS 기능을 수행할 것을 요청한다.
단계 S70에서는, 컴퓨팅장치(A)와 촉각인터페이스장치(1000)와의 접속상태에 기초하여, 상기 촉각인터페이스장치(1000)에 알림을 수행하는 이벤트모듈(2700)이 실행된다.
도 8은 본 발명의 일 실시예에 따른 트리거단계의 세부 과정을 개략적으로 도시한다.
상기 트리거단계는 상기 메인화면모듈(2200)을 실행하는 단계 이전에 수행될 수 있다. 즉, 일반인(정안인)이 컴퓨팅장치에서 상기 점자OS부(2000)를 실행시켜 상기 메인화면모듈(2200)이 호출되는 것이 아니라, 시각장애인이 상기 촉각디스플레이장치의 전원을 키거나(이 경우 자동적으로 할당된 컴퓨팅장치에 접속됨) 혹은 ON 되어 있는 촉각 디스플레이장치를 조작하여 컴퓨팅장치에 접속을 요청하는 경우에 수행될 수 있다.
상기 트리거단계는, 상기 컴퓨팅장치(A)와 상기 촉각인터페이스장치(1000)의 접속을 확인하는 단계(S11); 및 상기 컴퓨팅장치(A)와 상기 촉각인터페이스장치(1000)가 상호접속 되었다고 판단되는 경우에 상기 메인화면모듈(2200)을 실행하는 단계의 실행을 호출하는 단계(S12)를 포함한다.
도 9는 본 발명의 일 실시예에 따른 컴퓨팅장치에서의 표시화면과 이에 따른 촉각인터페이스장치에서의 촉각디스플레이를 개략적으로 도시한다.
도 9의 (A)는 컴퓨팅장치가 스마트폰인 경우 메인화면모듈이 실행되었을 때의 컴퓨팅장치의 디스플레이 화면을 도시하고, 도 9의 (B)는 상기 도 9의 (A)가 디스플레이되는 시점과 동일한 시점에서의 촉각인터페이스장치의 상태를 도시한다.
상기 메인화면모듈(2200)은 각각의 메뉴(컨텐츠)를 1차원적으로 나열하는 형태로 디스플레이하고, 이에 대한 커서를 상기 각각의 메뉴 옆에 위치하도록 하는 형태로 디스플레이한다. 즉, 메인화면모듈(2200)은 컨텐츠를 복수의 단위로 구분하고, 복수의 단위로 구분된 형태로 컴퓨팅장치에 디스플레이한다. 이후, 상기 TUI모듈은(2400)은 복수의 단위로 구분된 컨텐츠를 복수의 서브컨텐츠영역으로 구분한다.
한편, 상기 촉각인터페이스장치(1000)에서도 마찬가지로 각각의 메뉴(컨텐츠)를 1차원적으로 나열하는 형태로 표시하고, 이에 대한 커서를 상기 각각의 메뉴 옆에 위치하도록 하는 형태로 디스플레이한다.
도 10은 본 발명의 일 실시예에 따른 촉각인터페이스장치에서의 촉각디스플레이의 영역 구성을 개략적으로 도시한다.
상기 TUI모듈(2400)에 의하여 생성되는 출력신호에 의하여 구현되는 촉각디스플레이장치의 촉각화면은, 상기 메인화면모듈(2200)에 의하여 상기 컴퓨팅장치(A)에서 디스플레이될 수 있는 화면 중 컨텐츠부분(도 9에서는 메뉴)에 기초하여 구현되는 컨텐츠영역(L1); 현재 사용자의 커서의 위치 및 형태를 구현하는 커서영역(L2); 및 상기 메인화면모듈(2200)에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면의 페이지정보에 기초하여 구현되는 페이지영역(L3)을 포함한다.
또한, 상기 컨텐츠영역은 복수의 서브컨텐츠영역으로 구분될 수 있고, 상기 커서영역은 복수의 서브커서영역으로 구분될 수 있고, 상기 커서영역에서 구현되는 커서의 위치는 포커싱된 상기 서브컨텐츠영역의 위치에 대응함이 바람직하다. 이와 같은 촉각디스플레이 형태는 시각장애인에게 가장 효율적으로 정보를 확인하고 입력을 수행할 수 있는 구조에 해당한다.
상기 서브컨텐츠영역은 복수의 점자셀 그룹으로 구성되고, 각각의 점자셀 그룹은 복수개의 점자셀, 예를들어 6개의 점자셀을 포함한다. 여기서, 하나의 점자셀은 하나의 점자 구멍을 지칭한다.
마찬가지로, 각각의 상기 서브커서영역 역시 1 이상의 점자셀, 바람직하게는 커서의 위치 및 형태 정보를 알릴 수 있는 형태의 복수의 점자셀을 포함한다.
더욱 바람직하게는, 도 10의 “포커스된 L2영역” 및 “포커스된 L1영역”에서와 같이, 상기 서브커서영역과 상기 서브커서영역에 대응되는 상기 서브컨텐츠영역은 1축으로 서로 정렬되어 있다. 이와 같은 구조에서 시각장애인은 자신의 커서가 포커스하고 있는 부분이 어디인지를 가장 효율적으로 파악할 수 있다. 이와 같은 인터페이스 형태는 본 발명의 출원인이 시각장애인을 상대로한 다양한 실험 등을 통하여 도출된 형태에 해당한다.
도 11은 본 발명의 일 실시예에 따른 촉각인터페이스장치의 입출력 과정을 개략적으로 도시한다.
단계 S110, S120, 및 S130은 상기 TUI모듈(2400)에 의하여 수행된다. 한편, 단계 S140에서는 어플리케이션으로 명령이 입력되고, 이에 따라서 어플리케이션의 인터페이스 혹은 화면 출력이 변화되게 된다.
단계 S150, S160, 및 S170은 상기 TUI모듈(2400)에 의하여 수행된다. 이와 같은 단계들의 수행에 의하여 어플리케이션의 인터페이스 혹은 화면 출력의 변화가 상기 촉각인터페이스장치(1000)로 전달이 되고, 사용자는 이와 같은 변화를 즉각적으로 인지할 수 있다.
도 12는 본 발명의 일 실시예에 따른 출력신호생성단계의 과정을 개략적으로 도시한다.
상기 출력신호생성단계는, 상기 컨텐츠영역에 대한 상기 2차원 촉각셀 어레이의 제어신호를 생성하는 컨텐츠영역출력신호생성단계(S310); 상기 커서영역에 대한 상기 2차원 촉각셀 어레이의 제어신호를 생성하는 커서영역출력신호생성단계(S320);및 상기 페이지영역에 대한 상기 2차원 촉각셀 어레이의 제어신호를 생성하는 페이지영역출력신호생성단계(S330);를 포함한다.
도 10에서와 같이 상기 컨텐츠영역은 복수의 서브컨텐츠영역으로 구분될 수 있고, 상기 커서영역은 복수의 서브커서영역으로 구분될 수 있고, 상기 컨텐츠영역출력신호생성단계(S310)는 상기 메인화면모듈에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면 중 컨텐츠부분의 데이터를 구분하여, 상기 복수의 서브컨텐츠영역을 구현하는 출력신호를 생성하고, 상기 커서영역출력신호생성단계(S320)는 상기 복수의 서브컨텐츠영역 중 사용자의 커서가 위치하는 서브컨텐츠영역에 대응하는 상기 커서영역의 일부 위치에서의 촉각셀 어레이를 제어하는 출력신호를 생성한다.
도 13은 본 발명의 일 실시예에 따른 커서영역출력신호생성단계의 과정을 개략적으로 도시한다.
상기 커서영역출력신호생성단계(S320)는, 사용자의 커서의 위치를 결정하는 단계(S321); 및 사용자의 커서의 형태를 결정하는 단계(S322 및 S323)을 포함한다.
사용자의 커서는 상기 세부컨텐츠영역의 일부를 포커싱하기 위한 기능을 수행한다. 일반적인 커서의 경우 위치 정보만을 표시하면 되지만, 촉각디스플레이 장치의 경우에는 점자픽셀이 일반 디스플레이 픽셀보다 낮은 화소를 갖고 있기 때문에, 하나의 세부컨텐츠영역에 있는 정보를 한번에 디스플레이하지 못한다는 문제점이 있을 수 있다.
본 발명의 일 실시예에서는, 커서의 위치를 결정하는 것에 추가적으로 사용자의 커서의 형태를 결정하는 단계(S322 및 S323)을 수행함으로써, 보다 시각장애인이 직관적으로 소프트웨어를 이용할 수 있게 하였다.
구체적으로, 사용자의 커서의 형태를 결정하는 단계(S322 및 S323)는 커서가 위치하는, 혹은 커서가 지칭하는 서브컨텐츠영역의 원문과 커서가 위치하는, 혹은 커서가 지칭하는 서브컨텐츠영역의 촉각인터페이스장치의 출력신호 혹은 촉각인터페이스장치에서의 촉각디스플레이 정보를 로드하는 단계(S322) 및 상기 원문과 상기 출력신호 혹은 상기 촉각디스플레이 정보에 기초하여 커서형태를 결정하여 커서레이어출력신호생성단계(S323)를 포함한다.
즉, 상기 커서영역출력신호생성단계에서는, 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 촉각인터페이스장치에서의 촉각디스플레이 정보 및 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 메인화면모듈의 원문 정보에 기초하여 상기 사용자의 커서의 형태를 결정한다.
바람직하게는, 상기 사용자의 커서의 형태를 결정하는 단계(S322 및 S323)는, 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 촉각인터페이스장치에서의 촉각디스플레이 정보가 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 메인화면모듈의 원문 정보를 모두 포함하는 경우에는 제1 커서형태로 결정하고,
상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 촉각인터페이스장치에서의 촉각디스플레이 정보가 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 메인화면모듈의 원문 정보의 일부를 포함하는 경우에는 제2 커서형태로 결정한다.
더욱 바람직하게는, 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 메인화면모듈(2200)의 원문 정보가 제1 원문정보, 상기 제1 원문정보 다음으로 이어지는 제2 원문정보, 상기 제2 원문정보 다음으로 이어지는 제3 원문정보를 포함하는 경우, 상기 제2 커서형태는, 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 촉각인터페이스장치에서의 촉각디스플레이 정보가 상기 제1 원문정보에 대응하는 경우에 디스플레이되는 제2-1커서형태; 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 촉각인터페이스장치에서의 촉각디스플레이 정보가 상기 제2 원문정보의 일부에 대응하는 경우에 디스플레이되는 제2-2커서형태; 및 상기 사용자의 커서가 위치하는 서브컨텐츠영역의 상기 촉각인터페이스장치에서의 촉각디스플레이 정보가 상기 제3 원문정보에 대응하는 경우에 디스플레이되는 제2-2커서형태;를 포함한다.
본 발명의 바람직한 실시예에서는, 컨텐츠영역에서의 정보는 복수의 서브컨텐츠영역으로 구분되어, 촉각디스플레이장치에서 표시된다.
예를들어, 컨텐츠영역에서의 정보가 하기와 같다고 가정한다.
“The base of a refreshable braille display often integrates a pure braille keyboard. There, the input is performed by two sets of four keys on each side, while output is via a refreshable braille display consisting of a row of electro-mechanical character cells, each of which can raise or lower a combination of eight round-tipped pins. Other variants exist that use a conventional QWERTY keyboard for input and braille pins for output, as well as input-only and output-only devices.
On some models the position of the cursor is represented by vibrating the dots, and some models have a switch associated with each cell to move the cursor to that cell directly.
The mechanism which raises the dots uses the piezo effect of some crystals, whereby they expand when a voltage is applied to them. Such a crystal is connected to a lever, which in turn raises the dot. There has to be a crystal for each dot of the display, i.e. eight per character.”
이 경우, 상기 TUI모듈은 “The base of a refreshable braille display often integrates a pure braille keyboard. There, the input is performed by two sets of four keys on each side, while output is via a refreshable braille display consisting of a row of electro-mechanical character cells, each of which can raise or lower a combination of eight round-tipped pins. Other variants exist that use a conventional QWERTY keyboard for input and braille pins for output, as well as input-only and output-only devices.”를 제1 서브컨텐츠영역으로 할당하여, 이에 대한 출력신호를 생성하고,
“On some models the position of the cursor is represented by vibrating the dots, and some models have a switch associated with each cell to move the cursor to that cell directly.”를 제2 서브컨텐츠영역으로 할당하여, 이에 대한 출력신호를 생성하고,
“The mechanism which raises the dots uses the piezo effect of some crystals, whereby they expand when a voltage is applied to them. Such a crystal is connected to a lever, which in turn raises the dot. There has to be a crystal for each dot of the display, i.e. eight per character.”를 제3 서브컨텐츠영역으로 할당하여, 이에 대한 출력신호를 생성할 수 있다.
그러나, 하나의 서브컨텐츠영역은 30개의 CHARACTER를 표시할 수 있다고 하는 경우에, 상기 제2 서브컨텐츠영역의 원문은 하기와 같이 구분될 수 있다.
“On some models the position of” (제1 원문정보)
“the cursor is represented by v” (제2 원문정보의 제1 부분)
“ibrating the dots, and some mo” (제2 원문정보의 제2 부분)
“dels have a switch associated “ (제2 원문정보의 제3 부분)
“with each cell to move the cur” (제2 원문정보의 제4 부분)
“sor to that cell directly.” (제3 원문정보)
여기서, 하나의 서브컨텐츠영역은 상기 제1 원문정보 내지 제3 원문정보 중 어느 하나만을 표시할 수 있다. 이 경우, 시각장애인은 상기 서브컨텐츠영역(제2 서브컨텐츠영역)에 대응되는 서브커서영역에 표시되는 커서의 점자정보를 확인하여, 현재 촉각디스플레이장치에서 출력되는 서브컨텐츠영역의 정보가 전체 정보 중 어디에 위치하는 지 알 수 있다. 이후, 시각장애인은 촉각디스플레이장치의 방향키를 조작함으로써, 제1원문정보 내지 제3원문정보 사이에서 이동을 할 수 있다. 이와 같은 방법으로 촉각디스플레이 장치의 촉각픽셀의 한계점에 따른 불편함을 최소화시키면서, 시각장애인이 보다 직관적으로 정보를 파악할 수 있다.
도 14는 본 발명의 일 실시예에 따른 커서영역 표기의 형태의 일예를 개략적으로 도시한다.
도 14에서는 총 4가지의 커서영역, 더욱 바람직하게는 서브커서영역에 표시될 수 있는 커서형태의 예를 도시한다. 이와 같은 커서형태를 파악하고, 방향키를 조작함으로써, 상기 서브컨텐츠레이어의 표시사항을 변경할 수 있다.
상기 제1 커서형태, 상기 제2-1커서형태, 상기 제2-2커서형태, 및 상기 제2-3커서형태는 각각 도 14에서의 1번째 커서형태, 2번째 커서형태, 3번째 커서형태, 4번째 커서형태에 해당한다.
도 15는 본 발명의 일 실시예에 따른 커서영역 표기의 몇 예들을 개략적으로 도시한다.
도 15의 (A)에 도시된 바와 같이, 전체컨텐츠는 컨텐츠 1 ~ 6으로 구분되어, 각각의 서브컨텐츠영역에 도시되고, 사용자가 첫번째 서브컨텐츠영역에 포커싱을 하는 경우에, 상기 첫번째 서브컨텐츠영역에 나란하게 혹은 정렬되어 위치하는 서브커서영역에 커서에 대한 촉각그래픽이 표현된다.
여기서, 컨텐츠 1이 하나의 서브컨텐츠영역에 모두 표시가 되지 못하는 경우, 가상적으로 컨텐츠 1 이 “컨텐츠 1A 컨텐츠 1B 컨텐츠 1C”로 구분하고, 초기에는 도 15의 (B)에서와 같이 컨텐츠 1A를 촉각그래픽으로 표시하고, 좌측의 커서에 대한 촉각그래픽은 상기 도 14의 두번째 커서형태를 갖는다.
이후 사용자가 우측 방향키를 누르는 경우에, 도 15의 (C)에서와 같이 컨텐츠 1B를 촉각그래픽으로 표시하고, 좌측의 커서에 대한 촉각그래픽은 상기 도 14의 세번째 커서형태를 갖는다.
이후 사용자가 우측 방향키를 누르는 경우에, 도 15의 (D)에서와 같이 컨텐츠 1C를 촉각그래픽으로 표시하고, 좌측의 커서에 대한 촉각그래픽은 상기 도 14의 네번째 커서형태를 갖는다.
도 16은 본 발명의 일 실시예에 따른 버퍼출력신호생성단계의 과정을 개략적으로 도시한다.
이하에서는 설명의 편의를 위하여 메인화면모듈의 변환을 대상으로 버퍼출력신호생성단계의 동작에 대해 설명한다. 다만, 상기 버퍼출력신호생성단계는 상기 메인화면모듈의 변환뿐만 아니라, 다른 어플리케이션의 표시화면의 변환에 적용될 수 있다.
전술한 바와 같이, 상기 제1 TUI단계(S30)는 상기 메인화면모듈(2200) 혹은 다른 어플리케이션에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면에 상응하는 상기 촉각인터페이스장치의 촉각화면을 구현하기 위한 출력신호를 생성하는 출력신호생성단계(S150); 및 상기 출력신호 및 상기 촉각인터페이스장치의 이전의 촉각디스플레이 정보에 기초하여 버퍼출력신호를 생성하는 버퍼출력신호생성단계(S160);를 포함한다.
여기서, 상기 출력신호 및 상기 버퍼출력신호는 2차원 촉각셀 어레이에 대한 제어신호를 포함한다.
바람직하게는, 상기 제1 TUI단계(S30)는, 상기 메인화면모듈에 의하여 상기 컴퓨팅장치에서 디스플레이될 수 있는 화면이 변경할 때마다 수행이 되고, 상기 버퍼출력신호생성단계는, 바로 이전의 상기 출력신호와 현재의 변경된 출력신호의 차이에 기초하여, 상기 버퍼출력신호를 생성한다.
구체적으로, 상기 버퍼출력신호생성단계(S160)는, 이전, 즉 현재 사용자의 입력으로 화면이 바뀌기 전에 상기 출력신호생성부에 의하여 생성된 이전 출력신호를 로드하는 단계(S410);
현재 사용자의 입력으로 화면이 바뀐 후에 상기 출력신호생성부에 의하여 생성된 현재 출력신호와 상기 이전 출력신호와의 차이를 계산하는 단계(S420);
상기 현재 출력신호와 상기 이전 출력신호와의 차이에 기초하여 버퍼출력신호를 생성하는 단계(S430)을 포함한다.
이와 같은 버퍼출력신호는 촉각인터페이스장치에서의 촉각 어레이 중 현재 바뀐 부분에 대한 제어신호만을 포함하기 때문에, 촉각인터페이스장치가 보다 물리적으로 부드럽게 동작할 수 있게 한다.
도 17은 본 발명의 일 실시예에 따른 TTS단계의 일 예를 개략적으로 도시한다.
전술한 바와 같이, 상기 촉각인터페이스장치(1000)를 제어하는 방법은, 사용자의 명령에 따라 TTS명령을 수행하는, TTS단계를 더 포함한다.
이와 같은 상기 TTS단계는, 상기 촉각인터페이스장치로부터의 입력신호 혹은 명령에 기초하여 TTS를 수행하는 지 여부를 결정하는 단계(S510); 현재 설정된 TTS모드에 대한 정보를 로드하는 단계(S520); 현재 사용자의 커서의 위치를 로드하는 커서위치로드단계(S530); 및 상기 TTS모드 및 상기 사용자의 커서의 위치에 기초하여, TTS대상이 되는 원문 정보를 결정하는 단계(S540); 및 상기 S540단계에서 결정된 원문정보를 TTS수행모듈에 실행을 요청하는 단계(S550)을 포함한다.
바람직하게는, 상기 TTS단계는 서브컨텐츠영역 별로 수행될 수 있다. 즉, 현재 커서가 위치하는 서브컨텐츠영역의 원문이 상기 TTS단계에 의하여 음성으로 출력될 수 있다.
더욱 바람직하게는, 상기 TTS모드는 상기 포커싱된 서브컨텐츠영역에 대해 TTS를 수행하는 모드; 및 상기 포커싱된 서브컨텐츠영역 및 상기 포커싱된 서브컨텐츠영역에 이어지는 서브컨텐츠영역을 포함하여 TTS를 수행하는 모드를 포함할 수 있다.
즉, “On some models the position of the cursor is represented by vibrating the dots, and some models have a switch associated with each cell to move the cursor to that cell directly.”가 제1 서브컨텐츠영역에 해당하고, “The mechanism which raises the dots uses the piezo effect of some crystals, whereby they expand when a voltage is applied to them. Such a crystal is connected to a lever, which in turn raises the dot. There has to be a crystal for each dot of the display, i.e. eight per character.”가 제2 서브컨텐츠영역에 해당하고, 커서가 포커싱된 영역이 제1 서브컨텐츠영역인 경우에, TTS모드는 제1 서브컨텐츠영역만 처리하는 제1 모드 및 제1 서브컨텐츠영역 및 제2 서브컨텐츠영역을 처리하되, 사용자의 OFF와 관련된 명령이 입력되면, 중지하는 제2 모드를 포함할 수 있다.
도 18은 본 발명의 일 실시예에 따른 이벤트단계의 일 예를 개략적으로 도시한다.
도 18에 도시된 바와 같이, 이벤트단계는, 사용자단말기와 촉각인터페이스장치와의 접속상태를 판단하는 단계(S610); 및 상기 접속상태가 기설정된 기준에 해당한다고 판단하는 경우에 상기 촉각인터페이스장치로 출력할 이벤트출력신호를 생성하는 단계(S620);를 포함한다.
이와 같은 이벤트단계의 수행에 의하여, 시각장애인은 촉각디스플레이장치와 컴퓨팅장치의 접속에 장애가 생기는 경우에, 직관적으로 장애 여부를 파악할 수 있다.
도 19는 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시하고, 도 20은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시하고, 도 21은 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 화면을 도시한다.
도 19 내지 도 21에 도시된 바와 같이, 본 발명의 일 실시예에 따른 촉각인터페이스장치를 제어하는 방법은 어떤 프로그램이라도 보다 시각장애인 사용자에게 직관적으로 프로그램과 인터페이스를 할 수 있도록 하고, 또한, 프로그램 개발자의 입장에서는 점자 등을 모르고, 이에 대한 별도의 입출력 API를 개발하지 않더라도, 일반적인 소프트웨어의 개발을 통하여 시각장애인용 소프트웨어를 공급할 수 있다.
2. 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법
도 22는 본 발명의 일 실시예에 따른 이메일관리모듈과 촉각인터페이스장치 및 메일서버의 구성을 개략적으로 도시한다.
도 22에 도시된 컴퓨팅장치(A)의 구성은 전술한 도 2, 3을 참조한 설명에 따른다. 한편, 도 22의 점자OS부(2000)의 구성은 도 4 내지 18을 참조한 설명에 따른다.
한편, 도 22의 이메일관리모듈(5000)은 도 3의 응용프로그램부(3200)의 한 형태에 해당할 수 있고, 혹은 도 4의 내장어플리케이션모듈(2500)에 해당할 수 있다.
마찬가지로, 상기 이메일관리모듈(5000)에서 출력되는 정보는 상기 컴퓨팅장치(A)에 연결된 디스플레이장치에서 일반인이 인식할 수 있는 시각적 형태로 표시될 수 있고, 마찬가지로 상기 점자OS부(2000)에 내장되는 공통 TUI모듈(2400) 혹은 상기 이메일관리모듈(5000)에 내장되어 상기 이메일관리모듈(5000)만을 위한 특수한 TUI모듈(미도시)에 의하여 촉각인터페이스장치(1000)에서 시각장애인이 인지할 수 있는 형태로 출력신호가 변환될 수도 있다.
바람직하게는, 본 발명의 일 실시예에서는 상기 점자OS부(2000)는 공통된 TUI모듈을 포함하고 있고, 상기 이메일관리모듈(5000)에는 상기 이메일관리모듈(5000)의 특수성을 고려하여 시각장애인이 이메일관리모듈(5000)이 제공하는 화면을 더욱 원활하게 인지할 수 있도록 별도의 TUI모듈(미도시)을 포함하는 것이 바람직하다.
마찬가지로, 상기 이메일관리모듈(5000)의 실행은 상기 점자OS부(2000)의 제어를 받게 되고, 상기 이메일관리모듈(5000)이 제어되는 동안에 상기 TTS모듈(2600) 또는 상기 이벤트모듈(2700) 등이 동시에 실행될 수도 있다.
한편, 상기 이메일관리모듈(5000)은 메일서버(C)와 통신을 수행할 수 있도록 유선적 혹은 무선적으로 연결될 수 있다. 상기 메일서버(C)는 예를 들어, 구글의 지메일(@gmail.com) 메일서버, 네이버(@naver.com)의 메일서버 등 메일 서비스를 제공하는 1 이상의 서버들을 포함한다.
바람직하게는, 상기 메일서버(C)는 상기 이메일관리모듈(5000)과 통신을 수행하기 위하여 전술한 도 2의 네트워크 인터페이스부(3300)와 유선적 혹은 무선적으로 연결되어 정보들을 송수신할 수 있으며, 상기 네트워크 인터페이스부(3300)는 상기 메일서버(C)에서 수신한 정보를 상기 이메일관리모듈(5000)로 송신하고, 상기 이메일관리모듈(5000)에서 생성된 정보를 수신하여, 상기 메일서버(C)로 송신할 수 있다.
따라서, 상기 이메일관리모듈(5000)은 상기 메일서버(C)와 통신을 수행하여, 해당 메일서버(C)를 사용하는 사용자의 계정에 해당하는 메일정보들을 수신하거나 상기 이메일관리모듈(5000)에서 생성된 정보들을 송신할 수 있다.
도 23은 본 발명의 일 실시예에 따른 이메일관리모듈의 내부 구성을 개략적으로 도시한다.
전술한 바와 같이 상기 이메일관리모듈(5000)은 프로세서를 포함하는 컴퓨팅장치(A)로 구현되고, 상기 컴퓨팅장치(A)에 접속되어 사용자와 상호작용을 할 수 있는 촉각인터페이스장치(1000)를 통하여 메일정보를 제공한다.
한편, 상기 이메일관리모듈(5000)은 상기 컴퓨팅장치(A)에서 실행되어, 접속관리단계, 메인화면단계, 메일리스트출력단계, 메일본문출력단계 및 메일쓰기단계 중 어느 하나가 수행될 수 있도록 한다.
또한, 상기 이메일관리모듈(5000)은 상기의 단계들을 수행할 수 있도록, 상기 접속관리단계를 수행하는 접속관리부(5100), 상기 메인화면단계를 수행하는 메인화면부(5200), 상기 메일리스트출력단계를 수행하는 메일리스트출력부(5300), 상기 메일본문출력단계를 수행하는 메일본문출력부(5400) 및 상기 메일쓰기단계를 수행하는 메일쓰기부(5500)를 포함할 수 있다.
구체적으로, 상기 접속관리부(5100)는 사용자의 계정 및 상기 메일서버(C)와의 통신을 관리할 수 있고, 상기 메인화면부(5200)는 상기 이메일관리모듈(5000)이 실행되는 경우 가장 먼저 시각적 디스플레이장치 및 촉각디스플레이장치에 시각적 혹은 촉각적 요소로 표시되는 메인화면을 제공하고, 사용자의 입력에 기초하여 타 단계들을 호출할 수 있다.
또한, 상기 메일리스트출력부(5300)는 상기 메일서버(C)로부터 수신하는 메일리스트를 포함하는 정보에 기초하여 상기 시각적 디스플레이장치 및 상기 촉각디스플레이장치에 상기 메일리스트를 시각적 혹은 촉각적 요소로 표시할 수 있고, 상기 메일본문출력부(5400)는 상기 메일서버(C)로부터 수신하는 메일본문데이터에 기초하여 도출된 텍스트정보를 상기 시각적 디스플레이장치 및 상기 촉각디스플레이장치에 시각적 혹은 촉각적 요소로 표시할 수 있다.
마지막으로, 상기 메일쓰기부(5500)는 사용자에 의해 입력된 메일작성정보를 상기 시각적 디스플레이장치 및 상기 촉각디스플레이장치에 시각적 혹은 촉각적 요소로 표시하고, 사용자의 발송입력에 기초하여, 상기 메일작성정보를 상기 메일서버(C)로 송신할 수 있다.
한편, 상기 이메일관리모듈(5000)이 실행되는 경우, 전술한 상기 이메일관리모듈(5000)에 포함되는 각각의 부에 의해 수행되는 해당 단계에 따른 화면이 상기 컴퓨팅장치(A)에 표시되고, 상기 컴퓨팅장치(A)에 표시된 화면이 상기 촉각인터페이스장치(1000)로의 출력신호로 변환되어, 상기 컴퓨팅장치(A)에 표시된 화면에 상응하는 촉각디스플레이가 상기 촉각인터페이스장치(1000)에 표시될 수 있다.
이어서, 상기 컴퓨팅장치(A)에서의 입력 혹은 상기 촉각인터페이스장치(1000)에서의 입력에 따라 상기 접속관리단계, 상기 메인화면단계, 상기 메일리스트출력단계, 상기 메일본문출력단계 및 상기 메일쓰기단계 중 어느 하나의 세부 과정들이 수행될 수 있다.
바람직하게는, 상기 이메일관리모듈(5000)이 초기 실행되면 상기 메인화면부(5200)의 메인화면단계가 수행되고, 상기 메인화면단계에 의해 제공되는 화면은 상기 컴퓨팅장치(A)의 시각적 디스플레이장치에 표시되고, 상기 TUI모듈(여기서 TUI모듈(미도시)은 도 4의 점자OS부(2000)의 TUI모듈(2400)과 별도로 상기 이메일관리모듈(5000)에 포함된 모듈임이 바람직하다.)에 의해 상기 시각적 디스플레이장치에 표시되는 화면에 상응하는 촉각적 요소들을 포함하는 촉각디스플레이가 상기 촉각인터페이스장치(1000)에 표시될 수 있다.
또한, 상기 컴퓨팅장치(A) 혹은 상기 촉각인터페이스장치(1000)는 사용자로부터 입력신호를 수신받고, 상기 메인화면부(5200)는 상기 입력신호에 기초하여 타 화면을 제공하거나, 상기 접속관리부(5100), 상기 메일리스트출력부(5300), 상기 메일본문출력부(5400) 및 상기 메일쓰기부(5500) 중 하나를 호출하여, 해당 부에서 수행하는 단계에 의해 제공되는 화면이 상기 컴퓨팅장치(A)의 시각적 디스플레이장치 및 상기 촉각인터페이스장치(1000)에 표시될 수 있다.
도 24는 본 발명의 일 실시예에 따른 메인화면단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 24의 (A)에서는 상기 메인화면단계에서의 컴퓨팅장치(A)의 시각적 디스플레이장치에 표시된 화면을 도시하고, 도 24의 (B)에서는 상기 촉각디스플레이장치에 촉각그래픽으로 표시된 화면을 도시한다.
도 24의 (B)에서와 같이 상기 메인화면단계에 의하여 표시되는 촉각디스플레이는, 복수의 커서의 위치 중 현재 커서의 위치에 대한 정보를 촉각적으로 디스플레이하는 커서영역(L11), 각각의 커서의 위치에 대해 상응하는 정보를 촉각적으로 디스플레이하는 컨텐츠영역(L12) 및 현재 페이지에 대한 정보를 촉각적으로 디스플레이하는 페이지영역(L13)을 포함한다.
구체적으로, 상기 커서영역(L11) 및 상기 컨텐츠영역(L12)은 각각 복수의 서브커서영역 및 서브컨텐츠영역을 포함한다.
도 24의 (A)에서와 같이 시각적 요소로 표시된 컨텐츠는 1 이상의 세부컨텐츠를 포함하고, 상기 세부컨텐츠는 상응하는 상기 서브컨텐츠영역에서 촉각적으로 디스플레이 된다. 한편, 커서는 1 이상의 상기 서브컨텐츠영역에서 사용자가 포커싱하고 있는 서브컨텐츠영역과 정렬되는 서브커서영역의 위치에 표시된다.
또한, 도 14에서 전술한 바와 같이 상기 커서는 사용자가 포커싱하고 있는 서브컨텐츠영역의 위치를 표시하는 것과 동시에 상기 시각적 디스플레이에서 표시하는 세부컨텐츠의 정보량과 서브컨텐츠영역에서 한번에 표시할 수 있는 정보량을 비교하여, 상기 서브컨텐츠영역에서의 정보량의 크기 또는 현재 표시되고 있는 정보의 순서를 커서의 형태에 따라 표시할 수 있다.
따라서, 사용자는 상기 촉각인터페이스장치(1000)에서 상기 커서의 위치 및 형태에 기초하여 현재 촉독하고 있는 세부컨텐츠의 위치, 촉독해야 할 세부컨텐츠의 정보량 또는 정보의 순서를 용이하게 파악할 수 있다.
한편, 도 24의 (A)는 상기 이메일관리모듈(5000)이 최초 실행되는 경우 상기 메인화면단계에 의해 상기 컴퓨팅장치(A)에서 시각적 요소로 디스플레이 되는 화면을 도시한 도면에 해당하고, 도 24의 (B)는 상기 TUI모듈에 의해 상기 시각적 요소에 상응하여 상기 촉각인터페이스장치(1000)에서 촉각적 요소로 디스플레이 되는 화면을 도시한 도면에 해당한다.
도 24의 (A)에서 1번 항목은 사용자의 이메일 계정을 입력하는 항목으로, 도 24의 (B)에서 도시된 것과 같이 상기 촉각인터페이스장치(1000)에서 커서가 위치한 곳에 상응하는 서브컨텐츠영역에서 사용자가 상기 키보드부 혹은 별도의 입력장치를 통하여 1번 항목에 대한 선택입력 및 이메일 계정을 점자형태로 입력하면, 상기 TUI모듈은 해당 입력으로부터 상기 이메일관리모듈(5000)에 입력하기 위한 입력신호를 생성하는 동작을 수행하고, 도 24의 (A)에 도시된 것과 같이 점자형태로 입력된 이메일 계정에 대한 정보가 상기 시각적 디스플레이장치에서 시각적 요소로 표시된다.
한편, 상기 촉각인터페이스장치(1000)를 통해 점자형태로 입력하는 방법 외에도, 시각장애인이 입력에 어려움을 겪거나 점자형태로 입력하기 어려운 경우 등이 발생하는 경우에는 정안인이 직접 상기 컴퓨팅장치(A)에 포함된 별도의 입력장치를 사용하여 시각적 형태로 상기 시각적 디스플레이장치에 표시할 수 있으며, 상기 TUI모듈은 해당 시각적 디스플레이장치에 표시된 요소에 상응하여 상기 촉각인터페이스장치(1000)의 촉각화면을 구현하기 위한 출력신호를 생성할 수 있다.
따라서, 점자에 대해 잘 알지 못하는 정안인이 시각장애인이 상기 이메일관리모듈(5000)을 사용하는 데 있어서 용이하게 도움을 줄 수 있는 효과를 발휘할 수 있다.
도 24의 (A)에서 2번 항목은 상기 1번 항목에서 입력한 이메일 계정에 대한 비밀번호를 입력하는 항목에 해당하며, 마찬가지로 사용자의 점자형태 또는 시각적 형태의 비밀번호에 대한 정보를 입력할 수 있다. 상기 비밀번호를 점자형태로 입력하는 경우에 해당 비밀번호가 상기 촉각인터페이스장치(1000)에서 점자형태로 표시되는 경우 비밀번호가 타인에게 노출될 수 있으므로, 사용자가 키보드부 또는 별도의 입력장치를 통하여 점자형태로 입력을 하더라도 상기 촉각인터페이스장치(1000)에서는 표시하지 않거나, 기설정된 마스킹 점자로 표현하여 입력한 비밀번호의 자릿수만 인지할 수 있도록 표시될 수도 있다.
한편, 3번 항목은 사용자의 입력에 기초하여 자동로그인을 설정할 수 있는 항목으로, 전술한 이메일 계정 및 해당 비밀번호의 입력을 수행하고, 상기 자동로그인 항목에 대하여 상기 사용자가 실행에 대한 입력을 수행하는 경우, 차후 상기 이메일관리모듈(5000)이 최초 실행되는 경우 상기 메인화면단계에 의해 상기 시각적 디스플레이장치 및 상기 촉각인터페이스장치(1000)에서 표시되는 화면에서 이전에 입력한 해당 이메일 계정 및 해당 비밀번호가 기설정되어 표시되고, 후술하는 로그인 항목에 대해 사용자가 실행입력을 수행하면 별도의 이메일 계정 및 비밀번호를 입력하지 않고, 바로 로그인할 수 있게 된다.
4번 항목은 상기 이메일 계정 및 해당 비밀번호에 기초하여 로그인을 수행할 수 있는 항목으로, 사용자가 해당 항목에 대해 실행 입력을 하는 경우 해당 이메일 계정에 대해 로그인을 수행하거나, 해당 이메일 계정 혹은 해당 비밀번호가 올바르지 않은 경우에는 별도의 알림을 시각적 또는 촉각적 요소로 표시할 수 있다.
마지막으로, 5번 항목은 사용자의 이메일 계정에 대해 상기 이메일관리모듈(5000) 및 상기 이메일 계정에 해당하는 메일서버(C)와 통신을 수행할 수 있도록 일련의 정보들을 입력 받을 수 있는 항목에 해당한다.
도 24의 (A)에 도시된 각각의 항목들은 전술한 각각의 세부컨텐츠에 해당하고, 상기 세부컨텐츠는 상기 도 24의 (B)에 도시된 바와 같이 상기 서브컨텐츠영역에 상응하여 점자형태로 상기 촉각인터페이스장치(1000)에서 표시되고, 상기 각각의 서브컨텐츠영역에서 사용자가 포커싱하고 있는 서브컨텐츠영역에 대하여 상응하는 서브커서영역에서 커서가 표시될 수 있다.
도 25는 본 발명의 일 실시예에 따른 사용자의 계정선택입력에 기초하여 메인화면단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
전술한 도 24를 참조하면, 도 24의 (A)에 도시된 4. 로그인 항목을 선택하는 사용자의 입력에 기초하여 상기 메인화면단계에 의해 별도로 제공되는 화면을 상기 컴퓨팅장치(A)에서 시각적 요소로 디스플레이 하는 것이 도 25의 (A)에 해당하고, 상기 촉각디스플레이장치에서 촉각적 요소로 디스플레이 하는 것이 도 25의 (B)에 해당한다.
도 25의 (A)에서 1번 항목은 사용자의 선택 입력에 기초하여 메일을 작성할 수 있는 항목에 해당하며, 바람직하게는 사용자가 상기 1번 항목에 대하여 선택 입력을 하는 경우, 상기 메인화면부(5200)는 상기 메일쓰기부(5500)를 호출하여 메일쓰기단계를 수행하도록 한다.
한편, 2번 항목 내지 3번 항목은 각각의 항목에 대하여 사용자의 선택 입력에 기초하여 해당 이메일 계정에 대한 받은 메일의 리스트 또는 보낸 메일의 리스트를 제공할 수 있는 항목이며, 바람직하게는 사용자가 상기 2번 항목 내지 3번 항목에 대하여 선택 입력을 하는 경우, 상기 메인화면부(5200)는 상기 메일리스트출력부(5300)를 호출하여 메일리스트출력단계를 수행하도록 한다.
마지막으로, 4번 항목은 로그인 된 사용자의 이메일 계정의 로그아웃을 수행할 수 있는 항목으로, 사용자가 로그아웃에 대한 선택 입력을 하는 경우, 상기 메인화면부(5200)는 해당 이메일 계정에 대한 로그아웃을 수행하고, 도 24에서 도시된 것과 같이 첫 화면을 표시할 수 있다. 이와 별도로 로그아웃을 수행하는 경우, 로그아웃을 수행하였음을 알리는 별도의 기설정된 표시를 상기 시각적 디스플레이장치 및 상기 촉각인터페이스장치(1000)에서 출력할 수도 있다.
도 26은 본 발명의 일 실시예에 따른 접속관리단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
전술한 도 24를 참조하면, 도 24의 (A)에 도시된 5. 계정정보 등록 항목을 선택하는 사용자의 입력에 기초하여 상기 메인화면부(5200)는 상기 접속관리부(5100)를 호출하고, 상기 접속관리부(5100)에 의해 제공되는 화면을 상기 컴퓨팅장치(A)에서 시각적 요소로 디스플레이 하는 것이 도 26의 (A)에 해당하고, 상기 촉각디스플레이장치에서 촉각적 요소로 디스플레이 하는 것이 도 25의 (B)에 해당한다.
도 26의 (A)에 도시된 각각의 항목들은 전술한 각각의 세부컨텐츠에 해당하고, 상기 세부컨텐츠는 상기 도 26의 (B)에 도시된 바와 같이 상기 서브컨텐츠영역에 상응하여 점자형태로 상기 촉각인터페이스장치(1000)에서 표시되고, 상기 각각의 서브컨텐츠영역에서 사용자가 포커싱하고 있는 서브컨텐츠영역에 대하여 상응하는 서브커서영역에서 커서가 표시될 수 있다.
또한, 상기 접속관리부(5100)는 사용자의 입력에 기초하여 상기 사용자의 이메일 계정에 해당하는 메일 서버와 통신을 수행하기 위하여 1 이상의 등록정보를 수신하는 단계를 수행할 수 있다.
한편, 도 26의 (A)에서 1번 내지 2번 항목은 전술한 도 24의 (A)에서와 같이 사용자의 입력에 기초하여 해당 사용자의 이메일 계정 또는 해당 비밀번호를 입력받을 수 있는 항목에 해당한다.
3번 항목 내지 4번 항목은 상기 이메일 계정에 해당하는 메일서버(C)와의 통신을 수행하기 위한 SMTP주소 또는 IMAP주소와 같은 1 이상의 등록정보를 사용자로부터 입력 받는 항목에 해당한다.
또한, 상기 1번 항목에서 사용자에 의해 입력된 이메일 계정의 정보에 기초하여 상기 접속관리부(5100)는 상기 이메일 계정에 해당하는 메일서버(C)에 대한 1 이상의 등록정보가 기저장 되어 있는지 판단하고, 기저장 되어 있는 경우 별도의 사용자의 입력 없이 해당 메일서버(C)에 대해 기저장된 1 이상의 등록정보를 불러올 수도 있다.
구체적으로, 상기 이메일관리모듈(5000)은 상기 컴퓨팅장치(A)에 포함되는 메모리부 또는 별도의 메모리에 네이버(@naver.com)의 메일서버 또는 구글의 지메일(@gmail.com)의 메일서버와 같이 일반적으로 사용하는 메일서버와 통신을 수행할 수 있는 1 이상의 등록정보를 사전에 저장한다. 이후, 상기 접속관리부(5100)는 상기 1번 항목에서 사용자에 의해 입력된 이메일 계정의 도메인 정보(예를 들어 @naver.com, @gmail.com 또는 @hanmail.net 등)에 기초하여 상기 기저장된 1 이상의 등록정보에 해당하는 메일서버(C)의 여부를 판단하고, 해당하는 경우 사용자의 별도의 1 이상의 등록정보에 대한 입력 없이 상기 메일서버(C)에 해당하는 1 이상의 등록정보를 불러오게 된다.
또는, 상기 접속관리부(5100)는 별도의 판단을 수행하지 않고, 상기 3번 내지 4번 항목에 대해 사용자가 선택 입력을 하는 경우, 기저장된 1 이상의 메일서버(C)의 리스트 및 직접입력을 수행하는 항목을 출력하고, 사용자의 선택 입력에 따라 기저장된 메일서버(C)의 등록정보를 불러오거나, 또는 사용자가 직접 1 이상의 등록정보를 입력할 수 있도록 할 수도 있다.
따라서, 사용자는 상기 1 이상의 등록정보를 상기 키보드부 혹은 별도의 입력장치를 통해 직접 입력하지 않고, 상기 이메일관리모듈(5000)과 상기 메일서버(C)간의 통신을 더욱 용이하게 수행할 수 있다.
마지막으로, 도 26의 (A)에서 5번 항목은 상기 1번 내지 4번 항목에 대하여 사용자의 입력에 기초하여 해당 정보들을 모두 수신한 경우에 사용자의 선택 입력에 따라서 해당 정보들을 저장하고, 로그인을 자동으로 수행하여 전술한 도 25에 도시된 화면이 표시될 수도 있고, 해당 정보들을 저장하고, 별도의 사용자의 로그인에 대한 선택 입력을 수신할 수 있는 도 24에 도시된 화면이 표시될 수도 있다.
도 27은 본 발명의 일 실시예에 따른 메일리스트출력단계의 세부 단계들을 개략적으로 도시한다.
메일리스트출력부(5300)에 의해 수행되는 상기 메일리스트출력단계는, 메일서버(C)로부터 메일리스트를 수신하는 단계(S700); 상기 메일리스트 중 상기 촉각인터페이스장치(1000)에서 디스플레이할 수 있는 디스플레이리스트를 결정하는 단계(S710); 상기 디스플레이리스트에 기초하여 컴퓨팅장치(A)에서 디스플레이될 메일리스트에 대한 정보에 해당하는 제1디스플레이정보를 생성하는 단계(S720); 및 상기 디스플레이리스트에 기초하여 촉각인터페이스장치(1000)에서 촉각적으로 디스플레이될 메일리스트에 대한 정보에 해당하는 제2디스플레이정보를 생성하는 단계(S730);를 포함할 수 있다.
구체적으로, 상기 메일리스트출력부(5300)는 상기 메인화면부(5200)에서 사용자의 선택 입력에 기초하여 호출되어 상기 메일리스트출력단계를 수행할 수 있다. 상기 메일리스트출력단계는 전술한 도 25에서와 같이 해당 이메일 계정에 대하여 받은메일의 리스트를 출력하는 경우와 보낸메일의 리스트를 출력하는 경우 각각에서 수행될 수 있다.
한편, 상기 메일리스트출력단계는 로그인 된 이메일 계정에 해당하는 메일서버(C)로부터 메일리스트를 수신하는 단계(S700)를 수행할 수 있다. 구체적으로, 상기 메일리스트를 수신하는 단계(S700)는 사용자의 받은메일함 혹은 보낸메일함에 대한 선택 입력에 기초하여 해당 메일서버(C)로 받은메일함 혹은 보낸메일함의 메일리스트를 요청하는 신호를 송신하고, 해당 메일서버(C)가 상기 요청신호에 따라 송신하는 해당 계정의 받은메일함 혹은 보낸메일함의 메일리스트를 포함하는 정보를 상기 메일리스트출력부(5300)가 수신하게 된다.
다음으로 상기 메일서버(C)로부터 수신 받은 상기 메일리스트를 포함하는 정보에서 디스플레이 될 디스플레이리스트를 결정하는 단계(S710)를 수행할 수 있다. 상기 단계(S710)에서는 수신 받은 상기 메일리스트에서 기설정된 기준에 따라 상기 디스플레이리스트를 결정할 수 있다.
구체적으로, 해당 메일서버(C)로부터 수신 받은 메일리스트는 해당 이메일 계정의 전체 받은메일의 리스트 혹은 전체 보낸메일의 리스트를 포함하는 정보이며, 전체 리스트를 단일 화면에 모두 출력하기 어려운 경우에 전체 리스트의 양 또는 보내거나 받은 시각 등과 같이 기설정된 기준에 따라서, 출력할 수 있는 리스트를 결정하게 된다.
상기 디스플레이리스트가 결정되면, 상기 메일리스트출력부(5300)는 해당 디스플레이리스트를 컴퓨팅장치(A)의 제1디스플레이에서 표시될 수 있도록 제1디스플레이정보를 생성하는 단계(S720)를 수행한다. 바람직하게는, 상기 제1디스플레이는 상기 컴퓨팅장치(A)에 연결된 시각적 디스플레이장치로써 해당 디스플레이리스트가 상기 시각적 디스플레이장치에서 시각적 요소로 표시될 수 있다. 또한, 상기 제1디스플레이정보는 상기 시각적 디스플레이장치에서 페이지가 표시되는 영역, 컨텐츠가 표시되는 영역 또는 커서가 표시되는 영역에 기초하여 생성될 수 있다.
한편, 상기 메일리스트출력부(5300)는 제1디스플레이에서 표시될 수 있도록 하는 출력정보에 기초하여 해당 디스플레이리스트를 촉각인터페이스장치(1000)의 제2디스플레이에서 표시될 수 있도록 제2디스플레이정보를 생성하는 단계(S730)를 수행한다.
구체적으로, 해당 단계(S730)에서 상기 제2디스플레이는 상기 촉각인터페이스장치(1000)에 포함되는 촉각디스플레이로써 해당 디스플레이리스트가 상기 촉각디스플레이에서 촉각적 요소로 표시될 수 있다.
한편, 상기 시각적 디스플레이장치와 상기 촉각디스플레이장치는 화소수의 차이에 의해서 단일 화면에서 동일한 양의 정보를 표시하는데 제약이 발생할 수 있다. 따라서 해당 단계(S730)에서는 상기 촉각디스플레이장치에서 표시할 수 있는 정보의 양을 고려하여 상기 제2디스플레이정보를 생성할 수 있다.
더 구체적으로는, 상기 제2디스플레이정보는 상기 제1디스플레이장치에서 표시될 수 있도록 하는 제1디스플레이정보에 기초하여 컨텐츠영역(L12), 커서영역(L11) 및 페이지영역(L13)에 표시될 수 있는 정보를 포함하고, 상기 컨텐츠영역(L12)에 포함되는 단일 서브컨텐츠영역에서 정보를 모두 표시할 수 없는 경우에는 사용자의 입력에 기초하여 해당 서브컨텐츠영역에서 다음 정보를 표시할 수 있도록 할 수도 있다.
또한, 상기 제2디스플레이정보를 생성하는 단계(S730)는 상기 메일리스트출력부(5300)가 상기 TUI모듈을 호출하여 상기 TUI모듈에서 제1디스플레이정보에 해당하는 시각적 요소들을 상기 촉각디스플레이에서 촉각적 요소들로 출력될 수 있도록 하는 상기 제2디스플레이정보를 생성할 수도 있다.
도 28은 본 발명의 일 실시예에 따른 메일리스트출력단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적을 도시한다.
도 27에서 전술한 상기 제2디스플레이정보에 의하여 촉각적으로 디스플레이되는 상기 촉각디스플레이는, 복수의 커서의 위치 중 현재 커서의 위치에 대한 정보를 촉각적으로 디스플레이하는 커서영역(L11); 및 각각의 커서의 위치에 대해 상응하는 메일 제목 정보를 촉각적으로 디스플레이하는 컨텐츠영역(L12);을 포함하고, 상기 촉각인터페이스장치(1000)에서의 사용자의 입력에 따라 상기 현재 커서의 위치가 변동될 수 있고, 상기 커서영역(L11)에서 촉각적으로 표시되는 촉각그래픽엘리먼트는 상기 현재 커서의 위치에 따른 컨텐츠영역(L12)의 세부레이어에서의 표시상태에 따라 결정될 수 있다.
구체적으로, 도 28의 (A)는 전술한 제1디스플레이정보에 기초하여 상기 시각적 디스플레이장치에서 시각적 요소로 메일리스트가 표시되는 화면을 도시한 도면에 해당하고, 도 28의 (B)는 전술한 제2디스플레이정보에 기초하여 상기 촉각디스플레이장치에서 촉각적 요소로 메일리스트가 표시되는 화면을 도시한 도면에 해당한다.
도 28의 (B)에서와 같이 촉각디스플레이는 커서영역(L11)을 포함하고, 상기 커서영역(L11)은 사용자가 포커싱하고 있는 컨텐츠에 상응하는 위치에 대한 정보를 촉각적으로 표시하는 복수의 서브커서영역을 포함할 수 있다. 한편, 상기 촉각디스플레이는 컨텐츠영역(L12)을 포함하고, 상기 컨텐츠영역(L12)은 1 이상의 상기 메일 제목 정보를 포함하는 상기 제2디스플레이정보를 촉각적으로 표시하는 복수의 서브컨텐츠영역을 포함할 수 있다.
바람직하게는, 하나의 메일 제목 정보는 상기 촉각디스플레이에 포함되는 하나의 서브컨텐츠영역에 촉각적 형태로 표시될 수 있으며, 해당 서브컨텐츠영역에서 하나의 메일 제목 정보를 모두 표시할 수 없는 경우에는, 사용자의 입력에 기초하여 다음 정보를 표시할 수 있다.
한편 사용자가 하나의 서브컨텐츠영역에 대하여 포커싱하는 경우, 해당 서브컨텐츠영역에 상응하는 서브커서영역은 해당 서브컨텐츠영역의 위치를 촉각적으로 표시하는 커서를 포함하며, 상기 커서는 촉각그래픽엘리먼트이며, 위치한 서브커서영역에 상응하는 서브컨텐츠영역이 표시하는 정보의 양에 따라 상기 촉각그래픽엘리먼트가 결정될 수 있다.
예를 들어, 도 14에서 전술한 바와 같이 서브컨텐츠영역에 표시되는 정보가 하나의 메일 제목 정보를 모두 표시할 수 있는 경우에는 상기 촉각그래픽엘리먼트는 제1형태로 결정될 수 있다.
또한, 서브컨텐츠영역에 표시되는 정보가 하나의 메일 제목 정보를 모두 표시할 수 없어 제1영역, 제2영역 및 제3영역으로 나누어 해당 서브컨텐츠영역에서 표시되는 경우에 있어서, 해당 서브컨텐츠영역이 현재 상기 제1영역을 표시하는 경우, 상기 제1영역의 이후(우측 방향) 정보에 해당하는 상기 제2영역 또는 상기 제3영역이 존재하므로 이에 대한 상기 촉각그래픽엘리먼트는 제2형태로 결정될 수 있다.
한편, 해당 서브컨텐츠영역이 현재 상기 제2영역을 표시하고 있는 경우에는, 이전(좌측 방향) 정보에 해당하는 제1영역 및 이후(우측 방향) 정보에 해당하는 제3영역이 존재하므로, 이에 대한 상기 촉각그래픽엘리먼트는 제3형태로 결정될 수 있다.
마지막으로 해당 서브컨텐츠영역이 현재 상기 제3영역을 표시하고 있는 경우, 상기 제3영역의 이전(좌측 방향) 정보에 해당하는 상기 제2영역 또는 상기 제1영역이 존재하므로 이에 대한 상기 촉각그래픽엘리먼트는 제4형태로 결정될 수 있다. 따라서 사용자는 포커싱하고 있는 서브컨텐츠영역에 대하여 해당 커서의 형태를 촉독하여, 해당 서브컨텐츠영역에 표시되고 있는 정보의 순서 및 정보의 양을 용이하게 파악할 수 있는 효과를 발휘할 수 있다.
한편, 상기 촉각디스플레이는 페이지영역(L13)을 포함하고, 상기 페이지영역(L13)은 해당 제2디스플레이정보에 포함될 수 있는 상기 디스플레이리스트의 페이지정보를 촉각적 요소로 표시할 수 있다.
도 28의 (A)에 도시된 바와 같이 상기 디스플레이리스트는 해당 이메일 계정에 대한 1 이상의 받은메일 혹은 1 이상의 보낸메일의 메일 제목 정보만을 표시할 수도 있고, 메일 제목 정보 및 받은메일의 송신자 정보 또는 보낸메일의 수신자 정보를 함께 표시하는 등 사용자가 메일에 대한 정보를 획득할 수 있는 다양한 정보의 조합으로 표시될 수도 있다.
또한, 사용자가 입력한 신호에 기초하여 상기 촉각인터페이스장치(1000)는 상기 TTS모듈(2600)을 통해 1 이상의 메일 제목 정보를 포함하는 정보를 음성신호로 변환하여 상기 사용자에게 음성적 요소로 제공할 수도 있다.
도 29는 본 발명의 일 실시예에 따른 메일본문출력단계의 세부 단계들을 개략적으로 도시한다.
메일본문출력부(5400)에 의해 수행되는 상기 메일본문출력단계는, 메일서버(C)로부터 선택된 메일본문데이터를 수신하는 단계(S740); 상기 메일본문데이터로부터 텍스트정보를 추출하는 단계(S750); 상기 텍스트정보에 기초하여 컴퓨팅장치(A)에서 디스플레이될 메일본문에 대한 출력정보; 및 답장, 전달, 및 삭제 중 1 이상을 포함하는 메일처리에 대한 입력인터페이스를 포함하는 제1디스플레이정보를 생성하는 단계(S760); 및 상기 텍스트정보에 기초하여 촉각인터페이스장치(1000)에서 촉각적으로 디스플레이될 메일본문에 대한 정보를 포함하는 제2디스플레이정보를 생성하는 단계(S770);를 포함할 수 있다.
구체적으로, 상기 메일본문출력부(5400)는 상기 메일리스트출력부(5300)에서 사용자의 특정 메일에 대한 선택 입력에 기초하여 호출되어 상기 메일본문출력단계를 수행할 수 있다. 따라서, 받은메일의 리스트 또는 보낸메일의 리스트에 대하여 각각 상기 메일본문출력단계가 수행될 수 있다.
상기 메일본문출력단계는 상기 받은메일에 대한 디스플레이리스트 혹은 보낸메일에 대한 디스플레이리스트에서 사용자의 특정 메일에 대한 선택 입력에 기초하여 해당 메일서버(C)로 해당 메일의 메일본문데이터를 요청하는 신호를 송신하고, 해당 메일서버(C)가 상기 요청신호에 따라 송신하는 해당 메일의 메일본문정보를 포함하는 정보를 상기 메일본문출력부(5400)가 수신하는 단계(S740)를 수행할 수 있다.
상기 메일본문정보를 포함하는 정보를 수신하면 상기 메일본문출력부(5400)는 상기 메일본문정보로부터 텍스트정보를 추출하는 단계(S750)를 수행할 수 있다. 상기 메일본문정보는 텍스트 기반 또는 HTML(Hypertext Markup Language) 기반으로 구성되며, 따라서 상기 텍스트정보를 추출하는 단계(S750)에서 텍스트 기반의 메일본문정보를 수신하는 경우 별도의 처리 과정 없이 텍스트정보를 추출할 수 있는 반면, HTML 기반의 메일본문정보를 수신하는 경우에는 메일본문정보에 포함되어 있는 1 이상의 태그에 기초하여 텍스트정보를 추출할 수 있다.
상기 메일본문정보에서 추출된 상기 텍스트정보에 기초하여 컴퓨팅장치(A)의 제1디스플레이에 표시될 수 있는 출력정보 및 상기 출력된 텍스트정보에 대하여 답장, 전달 및 삭제 등 1 이상의 메일처리 기능에 대한 사용자의 입력을 받는 입력인터페이스를 포함하는 제1디스플레이정보를 생성하는 단계(S760)를 수행할 수 있다. 상기 제1디스플레이는 도 27에서 전술한 바와 같이 상기 컴퓨팅장치(A)에 연결된 시각적 디스플레이장치로써 상기 제1디스플레이정보가 상기 시각적 디스플레이장치에서 시각적 요소로 표시될 수 있다.
한편, 상기 메일본문출력단계에서 생성되는 상기 제1디스플레이정보와 상기 메일리스트출력단계에서 생성되는 상기 제1디스플레이정보는 시각적 디스플레이장치에서 시각적 요소로 표시하기 위한 정보인 점에서 유사하나, 상기 메일본문출력단계에서 생성되는 상기 제1디스플레이정보는 해당 메일본문정보를 사용자가 시각적으로 인지한 이후 답장, 전달, 삭제, 뒤로가기 및 프린트 등과 같은 1 이상의 기능을 수행하기 위한 선택입력을 수신 받을 수 있는 별도의 입력인터페이스를 포함한다.
또한, 상기 메일본문출력부(5400)는 상기 텍스트정보 혹은 상기 제1디스플레이정보에 기초하여 촉각인터페이스장치(1000)의 제2디스플레이에 표시될 수 있는 출력정보를 포함하는 제2디스플레이정보를 생성하는 단계(S770)를 수행할 수 있다. 상기 제2디스플레이는 도 27에서 전술한 바와 같이 상기 촉각인터페이스장치(1000)에 포함되는 촉각디스플레이로써 상기 텍스트정보 혹은 상기 제1디스플레이정보의 일부가 상기 촉각디스플레이에서 촉각적 요소로 표시될 수 있다.
한편, 상기 제2디스플레이정보에 기초하여 상기 촉각디스플레이에서 텍스트정보가 촉각적 요소로 표시되면, 사용자는 해당 텍스트정보를 촉독하고, 해당 메일에 대한 답장, 전달, 삭제, 뒤로가기 및 프린트 등과 같은 1 이상의 기능을 수행하기 위한 선택 입력을 상기 촉각인터페이스장치(1000)에 입력하고, 상기 메일본문출력부(5400)는 상기 촉각인터페이스장치(1000)로부터 선택 입력을 수신 받는 단계(S780)를 수행할 수 있다. 사용자는 상기 선택 입력을 가하기 위하여 상기 촉각인터페이스장치(1000)에 포함된 키보드부 혹은 별도의 입력장치를 사용할 수 있다.
마지막으로, 상기 사용자의 선택 입력에 기초하여 상기 메일본문출력부(5400)는 상기 선택 입력에 대응하는 답장, 전달, 삭제, 뒤로가기 및 프린트 등과 같은 1 이상의 기능 중 하나의 기능을 수행하는 단계(S790)를 수행할 수 있다.
도 30은 본 발명의 일 실시예에 따른 메일본문출력단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면을 개략적으로 도시한다.
도 30의 (A)는 상기 메일본문출력단계에서 생성된 상기 제1디스플레이정보에 기초하여 해당 메일본문이 상기 컴퓨팅장치(A)의 시각적 디스플레이장치에서 시각적 요소로 표시된 화면에 해당하고, 도 30의 (B)는 상기 메일본문출력단계에서 생성된 상기 제2디스플레이정보에 기초하여 해당 메일본문이 상기 촉각인터페이스장치(1000)의 촉각디스플레이에서 촉각적 요소로 표시된 화면에 해당한다.
한편, 상기 제1디스플레이정보에 의하여 출력되는 메일본문은 상기 촉각디스플레이장치에서 현재 디스플레이되는 제1텍스트부분 및 상기 촉각디스플레이장치에서 현재 디스플레이되지 않는 제2텍스트부분을 포함하고, 상기 제1텍스트부분은 제2텍스트부분과 비교시 텍스트형태가 상이할 수 있다.
구체적으로, 상기 제1디스플레이정보에 의하여 출력되는 메일본문은 시각적 디스플레이장치에서 시각적 요소로 표시되며, 일반적으로 시각적 디스플레이장치와 점자형태의 촉각적 요소로 표시되는 촉각디스플레이장치의 면적이 동일한 경우에 상기 시각적 디스플레이장치가 상기 촉각디스플레이장치보다 더 많은 정보를 표시할 수 있다. 따라서, 상기 시각적 디스플레이장치에서 표시되는 메일본문은 상기 촉각디스플레이장치에서 현재 표시되고 있는 제1텍스트부분 및 상기 촉각디스플레이장치에서 현재 표시되고 있지 않는 제2텍스트부분을 포함할 수 있다.
한편, 상기 제1텍스트부분과 상기 제2텍스트부분은 상기 시각적 디스플레이장치에서 정안인이 각각을 구분하기 용이하도록 서로 상이한 시각적 형태로 표시될 수 있다. 예를 들어, 도 30의 (A)에서는 상기 제1텍스트부분에서 글자의 색깔을 상이하게 처리하여 제2텍스트부분과 상이하게 표시하였고, 이외에도 서로 상이한 글꼴, 볼드(굵게), 밑줄, 이텔릭(기울임) 등 상기 제1텍스트부분 및 상기 제2텍스트부분이 시각적으로 구분될 수 있는 1 이상의 요소를 사용할 수 있다.
이와 같이, 상기 제1텍스트부분 및 상기 제2텍스트부분을 상기 시각적 디스플레이장치에서 상이하게 표시하여 현재 시각장애인이 상기 촉각디스플레이장치에서 촉독하고 있는 부분을 정안인이 상기 시각적 디스플레이장치에서 용이하게 파악할 수 있는 효과를 발휘할 수 있다.
한편, 상기 제2디스플레이정보에 의하여 표시되는 상기 촉각디스플레이는, 복수의 커서의 위치 중 현재 커서의 위치에 대한 정보를 촉각적으로 디스플레이하는 커서영역(L11); 및 현재의 커서의 위치에 대해 상응하는 메일본문정보를 촉각적으로 디스플레이하는 컨텐츠영역(L12);을 포함하고, 상기 커서영역(L11)에서 촉각적으로 표시되는 촉각그래픽엘리먼트는 현재 상기 컨텐츠영역(L12)에 디스플레이되는 메일본문에 대한 영역정보 및 해당 메일의 메일본문의 전체 영역정보에 의하여 결정될 수 있다.
구체적으로, 상기 제2디스플레이정보에 의해 표시되는 상기 촉각디스플레이는 상기 커서영역(L11)을 포함하고, 상기 커서영역(L11)은 커서가 위치할 수 있는 1 이상의 서브커서영역을 포함한다. 또한, 하나의 서브커서영역은 후술하는 하나의 서브컨텐츠영역과 정렬되어 있어 사용자가 포커싱하고 있는 서브컨텐츠영역에 정렬된 서브커서영역에 커서가 위치할 수 있다. 한편, 상기 촉각디스플레이는 상기 컨텐츠영역(L12)을 포함하고, 상기 컨텐츠영역(L12)은 1 이상의 서브컨텐츠영역을 포함한다. 도 30의 (B)에서 도시된 컨텐츠영역(L12)의 점자형태의 촉각적 요소는 제1텍스트부분에 해당하며, 이는 도 30의 (A)에서 도시된 빨간색으로 처리된 텍스트영역에 해당한다.
또한, 상기 커서영역(L11)에 위치하는 커서는 촉각적으로 표시되는 촉각그래픽엘리먼트를 포함하고, 상기 촉각그래픽엘리먼트의 형태는 전술한 바와 같이 상기 컨텐츠영역(L12)에 표시될 정보의 양 및 순서에 따라 결정된다. 따라서, 상기 메일본문출력단계에서는 전체 메일본문 가운데 현재 촉각디스플레이장치의 컨텐츠영역(L12)에서 표시하고 있는 정보의 양 및 순서에 따라 해당 커서의 촉각그래픽엘리먼트의 형태가 결정될 수 있다.
한편, 상기 현재 커서의 위치는 상기 촉각인터페이스장치(1000)에서의 사용자의 입력에 따라 변동될 수 있고, 상기 현재 커서의 위치에 따라 상기 컨텐츠영역(L12) 전체에서 디스플레이되는 메일본문정보가 결정될 수 있다.
구체적으로, 상기 현재 커서의 위치는 특정한 하나의 서브커서영역에 위치해 있고, 해당 서브커서영역은 상응하는 서브컨텐츠영역과 정렬되어있다. 한편, 사용자가 현재 커서가 위치한 서브커서영역에 상응하는 서브컨텐츠영역의 정보를 촉독하고, 이후 다음 서브컨텐츠영역의 정보를 촉독하고자 하는 경우 상기 촉각인터페이스장치(1000)에 포함된 키보드부 혹은 별도의 입력장치를 사용하여 입력한 신호에 따라 상기 커서의 위치는 다음 서브컨텐츠영역과 정렬된 서브커서영역으로 변동될 수 있다.
한편, 사용자가 현재 촉각디스플레이에 표시된 마지막 서브컨텐츠영역의 정보를 인지하고 다음 서브컨텐츠영역의 정보를 인지하기 위하여 상기 키보드부 혹은 별도의 입력장치를 사용하여 커서의 위치를 변화하는 신호를 입력하는 경우, 상기 커서는 상기 컨텐츠 영역의 가장 첫번째 서브컨텐츠영역과 정렬된 서브커서영역에 커서가 위치하고, 상기 촉각디스플레이의 컨텐츠영역(L12)은 제2텍스트부분 또는 제2텍스트부분의 일부를 촉각적 요소로 표시할 수 있다.
또한, 사용자가 입력한 신호에 기초하여 상기 촉각인터페이스장치(1000)는 상기 TTS모듈(2600)을 통해 상기 제1텍스트부분을 음성신호로 변환하여 상기 사용자에게 음성적 요소로 제공할 수도 있다.
도 31은 본 발명의 일 실시예에 따른 메일쓰기단계의 세부 단계들을 개략적으로 도시한다.
메일쓰기부(5500)에 의해 수행되는 상기 메일쓰기단계는, 상기 메일본문출력단계에서의 사용자의 입력 혹은 사용자의 컴퓨팅장치(A) 혹은 촉각인터페이스장치(1000)에서의 입력에 따라 메일 수신인을 결정하는 단계(S800); 상기 촉각인터페이스장치(1000)에서의 문자 입력에 대한 입력인터페이스를 제공하는 단계(S810); 상기 촉각인터페이스장치(1000)로부터 입력을 수신하는 단계(S820); 상기 촉각인터페이스장치(1000)의 입력에 따라 컴퓨팅장치(A)의 제1디스플레이정보 및 촉각인터페이스장치(1000)의 제2디스플레이정보를 변경하는 단계(S830); 및 상기 촉각인터페이스장치(1000)의 입력명령에 따라 메일서버(C)에 상기 문자 입력을 상기 메일 수신인에게 메일발송을 요청하는 단계(S840);를 포함할 수 있다.
구체적으로, 상기 메일쓰기부(5500)는 상기 메일본문출력부(5400)에서 사용자가 답장, 전달 등의 기능을 수행하기 위한 선택 입력에 기초하여 호출될 수 있고, 또는 상기 메인화면부(5200)에서 사용자의 메일쓰기에 대한 선택 입력에 기초하여 호출되어 상기 메일쓰기단계를 수행할 수 있다.
상기 메일쓰기단계는 상기 메일본문출력단계에서 사용자가 해당 메일에 대한 답장을 작성하기 위하여 답장 기능을 선택하기 위한 선택 입력 또는 수신인이 특정되지 않은 경우 컴퓨팅장치(A) 혹은 촉각인터페이스장치(1000)에 포함된 입력장치를 사용하여 사용자가 직접 입력한 수신인의 이메일 계정에 대한 입력에 기초하여 메일의 수신인을 결정하는 단계(S800)를 수행할 수 있다. 한편, 상기 답장 기능을 선택하기 위한 선택 입력에 의해 메일의 수신인을 결정하는 단계(S800)가 수행되는 경우, 답장 메일의 수신인은 이전 메일의 발신인이므로 별도로 사용자가 수신인의 이메일 계정을 입력하는 과정이 생략될 수 있다.
이후, 작성하고자 하는 메일의 제목 혹은 메일의 본문을 사용자가 입력하기 위하여 상기 촉각인터페이스장치(1000)에서 입력인터페이스를 제공하는 단계(S810)를 수행할 수 있다. 상기 단계(S810)에서는 사용자가 점자를 입력하기 위한 별도의 상기 입력인터페이스 또는 상기 촉각인터페이스장치(1000)에 포함된 키보드부 혹은 별도의 입력장치를 통해 점자를 입력할 수도 있다.
상기 입력인터페이스를 통해 사용자는 작성하고자 하는 점자를 입력할 수 있고, 상기 메일쓰기부(5500)는 해당 입력을 수신하는 단계(S820)를 수행할 수 있다. 이어서, 수신한 해당 입력에 기초하여 제1디스플레이정보를 변경하여 상기 시각적 디스플레이장치에 해당 입력에 대한 시각적 요소를 표시하고, 제2디스플레이정보를 변경하여 상기 촉각디스플레이장치에 해당 입력에 대한 촉각적 요소를 표시하는 단계(S830)를 수행할 수 있다.
바람직하게는, 사용자가 촉각인터페이스장치(1000)에서 상기 입력인터페이스에 기초하여 점자를 입력하면 상기 메일쓰기부(5500)는 상기 입력된 점자에 기초하여 제2디스플레이정보를 변경하여 상기 촉각디스플레이에서 상기 입력된 점자를 촉각적 요소로 표시하고, TUI모듈이 상기 제2디스플레이정보에 기초하여 상기 입력된 점자를 시각적 그래픽 요소로 표시될 수 있는 상기 제1디스플레이정보를 생성하여, 상기 시각적 디스플레이장치에서 상기 입력된 점자가 시각적 요소로 표시될 수 있다.
사용자가 메일을 작성하기 위한 점자를 모두 입력하는 경우, 사용자는 상기 촉각디스플레이에 표시되는 별도의 발송에 대한 입력인터페이스 또는 상기 촉각인터페이스장치(1000)에 포함되는 키보드부 혹은 별도의 입력장치를 사용하여 발송 입력을 주면 상기 메일쓰기부(5500)는 해당 입력신호에 기초하여 작성된 메일을 발송하는 단계(S840)를 수행할 수 있다. 상기 단계에서 상기 메일쓰기부(5500)는 사용자가 작성한 메일정보를 해당 메일서버(C)로 송신하고, 해당 메일서버(C)는 수신인의 이메일 계정에 기초하여 해당 수신인의 단말기로 상기 메일정보를 포함하는 정보를 송신할 수 있다.
도 32 및 도 33은 본 발명의 일 실시예에 따른 메일쓰기단계에 의해 제공되는 시각적 디스플레이장치 및 촉각인터페이스장치의 화면과 사용자가 점자형태의 입력을 수행하기 위한 점자표를 개략적으로 도시한다.
도 32의 (A)에서는 상기 메일쓰기단계에서의 컴퓨팅장치(A)의 시각적 디스플레이장치에 표시된 화면을 도시하고, 도 32의 (B)에서는 상기 촉각디스플레이장치에 촉각적 요소로 표시된 화면을 도시한다.
도 32의 (B)에서 도시된 촉각디스플레이장치의 화면은 커서영역(L11), 컨텐츠영역(L12) 및 페이지영역(L14)을 포함한다. 상기 페이지영역(L13)은 타 도면에서 도시된 페이지영역(L14)의 위치와 상이한 곳에 위치해 있고, 이는 시각장애인이 메일을 작성하고, 작성한 점자들을 검토하는 데 있어서 가장 적합한 위치에 배치한 결과이며, 기설정된 영역배치에 기초하여 상기 커서영역(L11), 컨텐츠영역(L12) 및 페이지영역(L14)의 배치가 변동될 수도 있다.
한편, 도 32의 (B)의 컨텐츠영역(L12)에 표시된 점자는 사용자가 상기 촉각인터페이스장치(1000)에서 제공하는 입력인터페이스를 통해 입력하거나 키보드부 또는 별도의 입력장치를 통해 입력한 점자에 해당한다.
사용자는 도 33에 도시된 점자표와 같은 입력인터페이스를 통해 입력하고자 하는 점자의 위치를 파악하고, 해당 위치에 대응하는 키보드부의 키를 입력하여, 해당 점자를 입력할 수 있으며, 혹은 키보드부를 사용하여 사용자가 직접 낱개의 점자를 입력하여 해당 문자에 대응하는 점자를 입력할 수도 있다.
구체적으로, 상기 컨텐츠영역(L12)은 복수의 상기 서브컨텐츠영역을 포함하고, 상기 서브컨텐츠영역은 복수의 2*3형태의 점자셀 그룹을 포함한다. 상기 점자셀 그룹 내에 포함되어 있는 6개의 점자셀들은 각각 키보드부의 6개의 키(예를 들어, F1 내지 F6)와 대응되어 있다. 따라서 사용자가 A라는 의미의 점자를 입력하고자 하는 경우 F1키를 입력하는 것으로 완료할 수 있고, 상기 키보드부의 스페이스 키를 입력하여 우측에 인접한 점자셀 그룹에 입력할 수 있는 상태로 이동할 수 있다.
일반적으로, 시각장애인은 각 문자에 해당하는 점자의 형태를 인지하고 있기 때문에 상기 촉각인터페이스장치(1000)는 별도의 입력인터페이스를 제공하는 것과 동시에 직접 키보드부를 사용하여 점자셀에 대한 개별 입력을 수신하여 해당 점자들을 상기 컨텐츠영역(L12)에 표시할 수 있다.
도 34는 본 발명의 일 실시예에 따른 컴퓨팅장치의 내부 구성의 일 예를 도시하는 도면이다.
도 34에 도시한 바와 같이, 컴퓨팅장치(11000)는 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/O subsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅장치(11000)는 촉각인터페이스장치에 연결된 사용자단말기 혹은 전술한 컴퓨팅장치(A)에 해당될 수 있다.
메모리(11200)는, 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅장치(11000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 그밖에 다양한 데이터를 포함할 수 있다.
이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.
주변장치 인터페이스(11300)는 컴퓨팅장치(11000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리(11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅장치(11000)를 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.
입/출력 서브시스템(11400)은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템(11400)은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템(11400)을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.
전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.
통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅장치와 통신을 가능하게 할 수 있다.
또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅장치와 통신을 가능하게 할 수도 있다.
이러한 도 34의 실시예는, 컴퓨팅장치(11000)의 일례일 뿐이고, 컴퓨팅장치(11000)는 도 34에 도시된 일부 컴포넌트가 생략되거나, 도 34에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅장치는 도 34에 도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(11600)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅장치(11000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 어플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.
본 발명의 실시예에 따른 방법들은 다양한 컴퓨팅장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 어플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 이용자 단말에 설치될 수 있다. 일 예로, 파일 배포 시스템은 이용자 단말이기의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅장치 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.
Claims (6)
- 프로세서를 포함하는 컴퓨팅장치로 구현되고, 상기 컴퓨팅장치에 접속되어 사용자와 상호작용을 할 수 있는 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법으로서,
상기 컴퓨팅장치에서는 이메일관리모듈이 실행되어, 접속관리단계, 메인화면단계, 메일리스트출력단계, 메일본문출력단계, 및 메일쓰기단계 중 어느 하나가 수행되고,
상기 이메일관리모듈이 실행되는 경우, 해당 단계에 따른 화면이 상기 컴퓨팅장치에 표시되고, 상기 컴퓨팅장치에 표시된 화면이 상기 촉각인터페이스장치로의 출력신호로 변환되어, 상기 컴퓨팅장치에 표시된 화면에 상응하는 촉각디스플레이가 상기 촉각인터페이스장치에 표시될 수 있고,
상기 컴퓨팅장치에서의 입력, 혹은 상기 촉각인터페이스장치에서의 입력에 따라 상기의 접속관리단계, 메인화면단계, 메일리스트출력단계, 메일본문출력단계, 및 메일쓰기단계 중 어느 하나의 세부 과정들이 수행되고,
상기 메일리스트출력단계는,
메일서버로부터 메일리스트를 수신하는 단계;
상기 메일리스트 중 상기 촉각인터페이스장치에서 디스플레이할 수 있는 디스플레이리스트를 결정하는 단계;
상기 디스플레이리스트에 기초하여 컴퓨팅장치에서 디스플레이될 메일리스트에 대한 정보에 해당하는 제1디스플레이정보를 생성하는 단계; 및
상기 제1디스플레이정보 및 상기 촉각인터페이스장치의 화소수에 기초하여 촉각인터페이스장치에서 촉각적으로 디스플레이될 메일리스트에 대한 정보에 해당하는 제2디스플레이정보를 생성하는 단계;를 포함하고,
상기 메일본문출력단계는,
상기 메일리스트출력단계에서 사용자의 특정 메일에 대한 선택 입력에 해당하는 메일본문데이터를 상기 메일서버로부터 수신하는 단계;
상기 메일본문데이터가 HTML 형태인 경우, 상기 메일본문데이터의 포함된 1 이상의 태그에 기초하여 텍스트정보를 추출하는 단계;
상기 텍스트정보에 기초하여 컴퓨팅장치에서 디스플레이될 메일본문에 대한 출력정보; 및 답장, 전달, 및 삭제 중 1 이상을 포함하는 메일처리에 대한 입력인터페이스를 포함하는 제3디스플레이정보를 생성하는 단계; 및
상기 제3디스플레이정보 및 상기 촉각인터페이스장치의 화소수에 기초하여 촉각인터페이스장치에서 촉각적으로 디스플레이될 메일본문에 대한 정보를 포함하는 제4디스플레이정보를 생성하는 단계;를 포함하고,
상기 제3디스플레이정보에 의하여 상기 컴퓨팅장치에서 시각적 요소로 출력되는 메일본문은,
상기 제4디스플레이정보에 기초하여 상기 촉각인터페이스장치에서 현재 디스플레이되는 제1텍스트부분 및 상기 촉각인터페이스장치에서 현재 디스플레이되지 않는 제2텍스트부분을 포함하고,
상기 제1텍스트부분은 상기 제2텍스트부분과 비교하여 색상, 글꼴, 텍스트의 두께, 밑줄 처리 및 이탤릭 처리 가운데 1 이상의 요소가 상이하고,
상기 메일쓰기단계는,
상기 메일본문출력단계에서의 사용자의 답장 기능을 선택하기 위한 선택입력 또는 상기 컴퓨팅장치 또는 상기 촉각인터페이스장치에서 사용자가 입력한 이메일 계정에 기초하여 메일의 수신인을 결정하는 단계;
상기 촉각인터페이스장치에서의 문자 입력에 대한 입력인터페이스를 제공하는 단계;
상기 촉각인터페이스장치로부터 상기 문자 입력을 수신하는 단계;
상기 촉각인터페이스장치의 상기 문자 입력에 따라 상기 촉각인터페이스장치의 제5디스플레이정보를 변경하여 상기 촉각디스플레이에서 상기 문자 입력을 촉각적 요소로 표시하고, 상기 제5디스플레이정보에 기초하여 상기 컴퓨팅장치에서 상기 문자 입력을 시각적 그래픽 요소로 표시하는 제6디스플레이정보를 생성하는 단계; 및
상기 촉각인터페이스장치로부터 수신한 발송입력에 기초하여 입력된 상기 문자를 상기 수신인에게 발송하도록 상기 메일서버에 요청하는 단계;를 포함하는, 이메일 관리기능을 제공하는 방법.
- 삭제
- 삭제
- 삭제
- 삭제
- 삭제
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020190029100A KR102078354B1 (ko) | 2019-03-14 | 2019-03-14 | 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020190029100A KR102078354B1 (ko) | 2019-03-14 | 2019-03-14 | 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR102078354B1 true KR102078354B1 (ko) | 2020-02-17 |
Family
ID=69670539
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020190029100A KR102078354B1 (ko) | 2019-03-14 | 2019-03-14 | 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102078354B1 (ko) |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20120063982A (ko) | 2010-12-08 | 2012-06-18 | 한국전자통신연구원 | 시각장애 사용자를 위한 인터페이스 장치 및 방법 |
| KR20120065779A (ko) * | 2010-12-13 | 2012-06-21 | 가천대학교 산학협력단 | 시각 장애인에게 시각 정보를 촉각 정보로 전달하는 그래픽 햅틱전자보드 및 방법 |
| KR20150091810A (ko) * | 2014-02-04 | 2015-08-12 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어 방법 |
| KR101730315B1 (ko) * | 2015-11-05 | 2017-04-27 | 엘지전자 주식회사 | 영상을 공유하는 전자 기기 및 방법 |
| KR101864584B1 (ko) * | 2017-08-03 | 2018-06-07 | 가천대학교 산학협력단 | 촉각인터페이스장치를 통하여 시간정보를 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 |
-
2019
- 2019-03-14 KR KR1020190029100A patent/KR102078354B1/ko active IP Right Grant
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20120063982A (ko) | 2010-12-08 | 2012-06-18 | 한국전자통신연구원 | 시각장애 사용자를 위한 인터페이스 장치 및 방법 |
| KR20120065779A (ko) * | 2010-12-13 | 2012-06-21 | 가천대학교 산학협력단 | 시각 장애인에게 시각 정보를 촉각 정보로 전달하는 그래픽 햅틱전자보드 및 방법 |
| KR20150091810A (ko) * | 2014-02-04 | 2015-08-12 | 엘지전자 주식회사 | 이동 단말기 및 이의 제어 방법 |
| KR101730315B1 (ko) * | 2015-11-05 | 2017-04-27 | 엘지전자 주식회사 | 영상을 공유하는 전자 기기 및 방법 |
| KR101864584B1 (ko) * | 2017-08-03 | 2018-06-07 | 가천대학교 산학협력단 | 촉각인터페이스장치를 통하여 시간정보를 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11829720B2 (en) | Analysis and validation of language models | |
| US20210255816A1 (en) | Devices, Methods, and Graphical User Interfaces for Wireless Pairing with Peripheral Devices and Displaying Status Information Concerning the Peripheral Devices | |
| CN111552417B (zh) | 在触敏装置上显示交互式通知 | |
| CN106415431B (zh) | 用于发送指令的方法、计算机可读介质和电子设备 | |
| US8135577B2 (en) | Braille support | |
| KR101864584B1 (ko) | 촉각인터페이스장치를 통하여 시간정보를 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 | |
| KR102055696B1 (ko) | 촉각인터페이스장치를 통하여 대화수단을 제공하는 시스템, 방법, 및 비일시적 컴퓨터-판독가능 매체 | |
| US11049413B2 (en) | Systems and methods for accessible widget selection | |
| US10845880B2 (en) | Method, device, and computer-readable medium for controlling tactile interface device interacting with user | |
| US10628025B2 (en) | Device, method, and graphical user interface for generating haptic feedback for user interface elements | |
| CN105389106A (zh) | 用于限制通知和警报的用户界面 | |
| KR102120451B1 (ko) | 촉각인터페이스장치를 통하여 인터넷 브라우징 서비스를 제공하는 방법, 장치, 및 컴퓨터-판독가능 매체 | |
| US20200380115A1 (en) | User interfaces for managing user account passwords | |
| KR101893014B1 (ko) | 컴퓨팅장치에서 동작하는 별도의 가상적인 운영체제를 이용하여 촉각인터페이스장치를 제어하는 방법, 장치 및 비일시적 컴퓨터-판독가능 매체 | |
| US10891875B2 (en) | Method, device, and non-transitory computer-readable medium for controlling tactile interface device | |
| KR102078354B1 (ko) | 촉각인터페이스장치를 통하여 이메일 관리기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 | |
| KR102187871B1 (ko) | 촉각인터페이스장치를 통하여 점자 교육 지원 기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 | |
| KR102108998B1 (ko) | 촉각인터페이스장치를 통하여 워드프로세서를 제공하는 시스템, 방법, 및 비일시적 컴퓨터-판독가능 매체 | |
| KR102008844B1 (ko) | 촉각인터페이스장치를 통하여 계산기 기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 | |
| Blenkhorn et al. | Architecture and requirements for a Windows screen reader | |
| KR20220115659A (ko) | 전맹, 저시력 시각장애인을 위한 개인정보가 포함된 문서의 점자적 인지를 위한 통합발송시스템 | |
| KR102066123B1 (ko) | 촉각인터페이스장치를 통하여 도서정보를 제공하는 시스템, 방법, 및 비일시적 컴퓨터-판독가능 매체 | |
| KR102078363B1 (ko) | 촉각인터페이스장치를 통하여 이미지 뷰어 기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 | |
| CN115698933A (zh) | 用于在选择模式之间转变的用户界面 | |
| KR102261668B1 (ko) | 촉각인터페이스장치를 통하여 점자 그래픽 교육 지원 기능을 제공하는 방법, 장치, 및 비일시적 컴퓨터-판독가능 매체 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| X091 | Application refused [patent] | ||
| GRNT | Written decision to grant |