KR101235585B1 - 시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체 - Google Patents

시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체 Download PDF

Info

Publication number
KR101235585B1
KR101235585B1 KR1020100121165A KR20100121165A KR101235585B1 KR 101235585 B1 KR101235585 B1 KR 101235585B1 KR 1020100121165 A KR1020100121165 A KR 1020100121165A KR 20100121165 A KR20100121165 A KR 20100121165A KR 101235585 B1 KR101235585 B1 KR 101235585B1
Authority
KR
South Korea
Prior art keywords
vibration
visually impaired
omnidirectional
information
control signal
Prior art date
Application number
KR1020100121165A
Other languages
English (en)
Other versions
KR20120059753A (ko
Inventor
최인묵
이성준
박연규
송한욱
김민석
강대임
Original Assignee
한국표준과학연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국표준과학연구원 filed Critical 한국표준과학연구원
Priority to KR1020100121165A priority Critical patent/KR101235585B1/ko
Publication of KR20120059753A publication Critical patent/KR20120059753A/ko
Application granted granted Critical
Publication of KR101235585B1 publication Critical patent/KR101235585B1/ko

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61FFILTERS IMPLANTABLE INTO BLOOD VESSELS; PROSTHESES; DEVICES PROVIDING PATENCY TO, OR PREVENTING COLLAPSING OF, TUBULAR STRUCTURES OF THE BODY, e.g. STENTS; ORTHOPAEDIC, NURSING OR CONTRACEPTIVE DEVICES; FOMENTATION; TREATMENT OR PROTECTION OF EYES OR EARS; BANDAGES, DRESSINGS OR ABSORBENT PADS; FIRST-AID KITS
    • A61F9/00Methods or devices for treatment of the eyes; Devices for putting-in contact lenses; Devices to correct squinting; Apparatus to guide the blind; Protective devices for the eyes, carried on the body or in the hand
    • A61F9/08Devices or methods enabling eye-patients to replace direct visual perception by another kind of perception
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B06GENERATING OR TRANSMITTING MECHANICAL VIBRATIONS IN GENERAL
    • B06BMETHODS OR APPARATUS FOR GENERATING OR TRANSMITTING MECHANICAL VIBRATIONS OF INFRASONIC, SONIC, OR ULTRASONIC FREQUENCY, e.g. FOR PERFORMING MECHANICAL WORK IN GENERAL
    • B06B1/00Methods or apparatus for generating mechanical vibrations of infrasonic, sonic, or ultrasonic frequency
    • B06B1/10Methods or apparatus for generating mechanical vibrations of infrasonic, sonic, or ultrasonic frequency making use of mechanical energy
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B3/00Audible signalling systems; Audible personal calling systems
    • G08B3/10Audible signalling systems; Audible personal calling systems using electric transmission; using electromagnetic transmission
    • G08B3/1008Personal calling arrangements or devices, i.e. paging systems
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B6/00Tactile signalling systems, e.g. personal calling systems
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B7/00Signalling systems according to more than one of groups G08B3/00 - G08B6/00; Personal calling systems according to more than one of groups G08B3/00 - G08B6/00
    • G08B7/06Signalling systems according to more than one of groups G08B3/00 - G08B6/00; Personal calling systems according to more than one of groups G08B3/00 - G08B6/00 using electric transmission, e.g. involving audible and visible signalling through the use of sound and light sources

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Vascular Medicine (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Ophthalmology & Optometry (AREA)
  • Public Health (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Electromagnetism (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)
  • Rehabilitation Tools (AREA)

Abstract

본 발명은 시각장애인용 전방위 방향제시 장치 및 시스템에 관한 것으로서, 시각장애인과 함께 이동되면서 시각장애인에게 이동방향을 진동에 의한 촉감으로 알려줄 수 있는 시각장애인용 전방위 방향제시 장치 및 시스템에 관한 것이다. 이를 위해 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 감지수단(500); 감지수단(500)의 정보에 기초하여 시각장애인에게 이동방향을 제공하기 위한 진동 세기 또는 진동 시간을 제어하는 제어신호를 출력하는 제어수단(200); 및 제어수단(200)의 제어신호에 기초하여 시각장애인의 이동방향을 제시하기 위한 진동에 의한 촉감을 전달하는 복수의 진동수단(100);이 개시된다.

Description

시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체 {Omni-directional apparatus and system for announce blind persons, method for announce using the same and recording medium thereof}
본 발명은 시각장애인용 전방위 방향제시 장치 및 시스템에 관한 것으로서, 보다 상세하게는 시각장애인과 함께 이동되면서 시각장애인에게 이동방향을 진동에 의한 촉감으로 알려줄 수 있는 시각장애인용 전방위 방향제시 장치 및 시스템에 관한 것이다.
현재 장애인, 장애우, 또는 장애자는 신체 장애와 정신 장애를 비롯한 여러 이유로 일상적인 활동에 제약을 받는 장애를 가진 사람들을 이른다. 이러한 장애인, 장애우, 또는 장애자는 일반적으로 같은 뜻으로 풀이되며, 따라서 본 명세서에서는 시각장애인으로 용어를 통일하도록 한다.
한편, 오늘날에는 사회적인 소득 증대와 복지에 대한 관심 증가로 인하여, 시각장애인에게 정상적인 활동을 할 수 있도록 하는 다양한 교통 안내기가 제안되고 있다.
이 중에서 일반적인 교통 안내기는 보도 블록의 내부에 메모리 카드를 매설하고, 시각장애인용 지팡이에 감지센서를 부착하여, 감지 센서가 메모리 카드를 인식한 경우 진동 또는 경보음을 발생시켜 시각장애인에게 위험을 알리는 방법이 사용되고 있다.
그러나, 이러한 경우에는 시각장애인에게 단순히 온/오프의 위험을 알릴 수 있을 뿐이고, 또한 이러한 메모리 카드를 매설하고 감지센서를 부착하는데 많은 투자를 요하는 문제점이 있어왔다. 그리고 특히, 건물내에서 이동하는 경우에는 단순히 지팡이 등에 의존하기 때문에 여러 가지 장애물이나 벽 또는 난간 등에 대한 경고 장치가 없어 위험에 처할 수 있는 문제가 있었다.
따라서 본 발명이 속하는 기술 분야에서는 시각장애인에게 진동에 의한 촉감을 전달하여 시각장애인의 이동방향을 제시할 수 있는 시각장애인용 전방위 방향제시 장치의 개발을 요하고 있었다.
따라서, 본 발명은 전술한 바와 같은 문제점을 해결하기 위하여 창출된 것으로서, 시각장애인에게 진동에 의한 촉감을 전달하여 시각장애인의 이동방향을 제시하는데 그 목적이 있으며, 이와 같은 장치를 사용함으로써 저렴하고 간단한 시각장애인용 전방위 방향제시 장치를 제공할 수 있다.
그러나, 본 발명의 목적들은 상기에 언급된 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
전술한 본 발명의 목적은, 시각장애인에게 이동방향을 제시하기 위하여 진동에 의한 촉감을 전달하는 복수의 진동수단(100); 및 시각장애인에게 이동방향을 제공하기 위한 진동 세기 또는 진동 시간을 제어하는 제어신호를 진동수단(100)에 출력하는 제어수단(200);을 포함하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치를 제공함으로써 달성될 수 있다.
또한, 시각장애인이 진동수단(100)을 파지하도록 구비되는 손잡이수단(300); 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 감지수단(500); 시각장애인에게 발생한 응급상황을 알릴 수 있는 응급상황송출수단(600); 및 시각장애인을 지지하는 지지수단(400);을 더 포함하는 것을 특징으로 한다.
또한, 감지수단(500)은 초음파 센서, 적외선 센서, 및 카메라 중 어느 하나로 구비되며, 제어수단(200)은 감지수단(500)의 장애물에 대한 정보에 기초하여 시각장애인에게 이동방향을 제공하기 위한 제어신호를 진동수단(100)에 출력하는 것을 특징으로 한다.
또한, 진동수단(100)은 일측에서 타측방향으로 진동의 세기 또는 진동 시간이 감소하거나 증가함으로써 시각장애인에게 이동방향을 제공하는 것을 특징으로 한다.
또한, 손잡이수단(300)은 아크릴을 사용하여 구비되는 것을 특징으로 한다.
또한, 제어수단(200)은, 복수의 진동수단(100)이 배열된 서로 다른 경로상에 놓인 진동수단(100)을 각각 진동하게 함으로써 시각장애인에게 서로 다른 경로와 다른 방향으로 이동방향을 제공하기 위한 제어신호를 진동수단(100)에 출력하는 것을 특징으로 한다.
또한, 진동수단(100)이 배열되는 손잡이수단(300)에는 어느 하나의 진동수단(100)에서 형성된 진동이 다른 진동수단(100)에 간섭을 미치지 아니하도록 홈(310)을 형성하는 것을 특징으로 한다.
또한, 진동수단(100)의 배열은 등간격으로 배열하는 것을 특징으로 한다.
그리고, 서로 다른 경로는 진동수단(100)이 배열된 일측방향과 타측방향이 90도인 것을 특징으로 한다.
한편, 본 발명의 목적은 시각장애인에게 이동방향을 제시하기 위하여 진동에 의한 촉감을 전달하는 복수의 진동수단(100), 시각장애인에게 이동방향을 제공하기 위한 진동 세기 또는 진동 시간을 제어하는 제어신호를 진동수단(100)에 출력하는 제어수단(200)을 포함하는 시각장애인용 전방위 방향제시 장치(10); 시각장애인용 전방위 방향제시 장치(10)에 위치정보를 전송하는 위치정보송출수단(30); 및 시각장애인용 전방위 방향제시 장치(10)에서 송신되는 응급상황을 관리하고, 시각장애인용 전방위 방향제시 장치(10)로 송신하는 위치정보를 관리하는 데이터베이스(20);를 포함하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 시스템을 제공함으로써 달성될 수 있다.
그리고, 시각장애인용 전방위 방향제시 장치(10)는, 데이터베이스(20)로부터 위치정보를 수신하거나, 또는 응급상황을 송신하기 위한 통신수단(700); 및 데이터베이스(20)에서 송신되는 안내정보를 시각장애인에게 알려주는 음성출력수단(800);을 더 구비하는 것을 특징으로 한다.
한편, 본 발명의 목적은 다른 카테고리로서, 제 1 항에 기재된 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법에 있어서, 감지수단(500)이 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 단계(S110); 제어수단(200)이 감지수단(500)의 정보에 기초하여 시각장애인 전방에 놓인 장애물에 대한 정보를 판단하는 단계(S120); 제어수단(200)이 판단에 기초하여 시각장애인에게 이동방향을 제공하기 위한 제어신호를 복수의 진동수단(100)에 출력하는 단계(S130); 및 진동수단(100)이 제어신호에 기초하여 진동 세기 또는 진동 시간에 따른 진동에 의한 촉감을 시각장애인에게 전달함으로써 이동방향을 제공하는 단계(S140);를 포함하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법을 제공함으로써 달성될 수 있다.
또한, S110 단계는, 제어수단(200)이 위치정보송출수단(30)으로부터 위치정보를 전송 받는 단계를 포함하는 것을 특징으로 한다.
그리고, 제어수단(200)은, 복수의 진동수단(100)이 배열된 서로 다른 경로상에 놓인 진동수단(100)을 각각 진동하게 함으로써 시각장애인에게 서로 다른 경로와 다른 방향으로 이동방향을 제공하기 위한 제어신호를 진동수단(100)에 출력하는 것을 특징으로 한다.
한편, 본 발명의 목적은 다른 카테고리로서, 시각장애인용 전방위 방향제시 장치를 이용한 안내방법을 실행하기 위한 프로그램이 기록된 컴퓨터 판독 가능한 기록매체를 제공함으로써 달성될 수 있다..
전술한 바와 같은 본 발명에 의하면 시각장애인에게 진동의 세기나 진동의 시간에 따른 촉감의 정도를 달리 전달하여 시각장애인의 이동방향을 제시함으로써 저렴하고 간단한 시각장애인용 전방위 방향제시 장치를 제공하는 효과가 있다.
그리고, 본 발명에 의하면, 시각장애인의 현재 위치를 실시간으로 알 수 있으며, 시각장애인에게 응급상황이 생긴 경우 외부에 이를 즉각적으로 알릴 수 있는 효과가 있다.
본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 일실시예를 예시하는 것이며, 발명의 상세한 설명과 함께 본 발명의 기술적 사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석 되어서는 아니 된다.
도 1은 본 발명에 따른 시각 장애인용 안내 장치의 구성을 나타낸 구성도,
도 2는 본 발명에 따른 진동수단을 나타낸 평면도,
도 3은 본 발명에 따른 다른 진동수단을 나타낸 평면도,
도 4는 도 2의 진동수단을 구비한 시각장애인용 전방위 방향제시 장치,
도 5는 도 3의 진동수단을 구비한 시각장애인용 전방위 방향제시 장치,
도 6은 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 구성을 나타낸 구성도,
도 7은 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 사용예를 나타낸 도면,
도 8은 본 발명에 따른 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법을 순차적으로 나타낸 순서도이다.
이하, 도면을 참조하여 본 발명의 바람직한 일실시예에 대해서 설명한다. 또한, 이하에 설명하는 일실시예는 특허청구범위에 기재된 본 발명의 내용을 부당하게 한정하지 않으며, 본 실시 형태에서 설명되는 구성 전체가 본 발명의 해결 수단으로서 필수적이라고는 할 수 없다.
<시각장애인용 전방위 방향제시 장치의 구성>
도 1은 본 발명에 따른 시각 장애인용 안내 장치의 구성을 나타낸 구성도이고, 도 2는 본 발명에 따른 진동수단을 나타낸 평면도이고, 도 3은 본 발명에 따른 다른 진동수단을 나타낸 평면도이고, 도 4는 도 2의 진동수단을 구비한 시각장애인용 전방위 방향제시 장치이고, 도 5는 도 3의 진동수단을 구비한 시각장애인용 전방위 방향제시 장치이다.
도 1에 도시된 바와 같이, 본 발명에 따른 시각장애인용 전방위 방향제시 장치는 대략 시각장애인에게 진동에 의한 촉감을 전달하는 진동수단(100), 진동수단(100)에 제어신호를 출력하는 제어수단(200)으로 구성할 수 있다. 이에 더하여, 손잡이수단(300), 지지수단(400), 감지수단(500), 응급상황송출수단(600), 및 통신수단(700)을 더 구비하여 실시함이 바람직하다. 이하 도 1 내지 도 4를 참조하여 본 발명에 따른 시각장애인용 전방위 방향제시 장치의 구성에 대하여 설명하기로 한다.
도 2 및 도 3에 도시된 바와 같이, 본 발명에 따른 진동수단(100)은 시각장애인에게 이동방향을 제시하기 위하여 진동에 의한 촉감을 전달하는 수단이다. 이러한 진동에 의한 촉감을 전달하기 위하여는 진동모터(도면 미도시)를 구비하여 진동을 전달할 수 있다. 진동모터는 제어수단(200)의 제어신호에 의해 진동의 세기 또는 진동 시간을 조절하여 시각장애인에게 이동방향 정보인 촉감을 전달할 수 있다.
한편, 도 2에 도시된 바와 같이, 진동수단(100)은 제1진동부(110), 제2진동부(120), 제3진동부(130), 및 제4진동부(140)의 일렬 배치로 구성될 수 있다. 각 진동부에는 진동모터가 구비될 수 있으며, 제어수단(200)의 제어신호에 의해 구동된다. 이러한 제1,2,3,4진동부(110,120,130,140)는 본 발명의 일실시예를 설명하기 위한 구성을 나타낼 뿐 이에 한정되지는 않으며, 이러한 진동부를 다양하게 복수로 구비할 수 있으며, 배열형태로 구비될 수도 있다.
한편, 도 3에 도시된 바와 같이, 진동수단(100)은 배열형태로 구성될 수도 있다. 이때, 배열형태로 구성되는 경우에는 진동모터 등을 세워서 놓는 것이 바람직하며, 어느 하나의 진동수단(100)에서 형성된 진동이 다른 진동수단(100)에 간섭을 미치지 아니하게 손잡이수단(300)에 홈(310)을 형성하여 구비하는 것이 바람직하다. 또한, 배열은 필요에 따라 등간격으로 구비할 수도 있다.
본 발명에 따른 제어수단(200)은 시각장애인에게 이동방향을 제공하기 위한 진동 세기 또는 진동 시간을 제어하는 제어신호를 진동수단(100)에 출력하는 수단이다. 또한, 제어수단(200)은 후술할 감지수단(500)의 정보에 기초하여 진동수단(100)을 제어하는 제어신호를 출력하며, 후술할 응급상황송출수단(600)의 작동에 의해 외부로 시각장애인의 응급상황을 알릴 수 있도록 제어신호를 통신수단(700)에 출력할 수도 있다.
한편, 제어수단(200)은 진동수단(100)의 진동이 일측에서 타측방향으로 진동의 세기가 점점 감소하거나 또는 점점 증가함으로써 시각장애인에게 이동방향을 제공할 수 있다. 일예로서 도 2에 도시된 바와 같이, 제1진동부(110)의 진동 세기를 가장 세게하고 점차 세기를 감소하면서 제4진동부(140)의 진동 세기를 가장 작게 한 경우 시각장애인에게 전진하도록 하는 촉감을 줄 수 있다. 반면에 제4진동부(140)의 진동 세기를 가장 세게하고 점차 세기를 감소하면서 제1진동부(110)의 진동 세기를 가장 약하게 한 경우에는 시각장애인에게 후진하도록 하는 촉감을 줄 수 있다.
그리고, 제어수단(200)은 진동수단(100)의 진동이 일측에서 타측방향으로 진동 시간을 점점 감소하거나 또는 점점 증가시킴으로써 시각장애인에게 이동방향을 제공할 수도 있을 것이다. 이러한 제어수단(200)이 구비된 시각장애인용 전방위 방향제시 장치가 도 4에 도시되어 있다.
한편, 진동수단(100)이 복수의 배열형태로 구성되어 있는 경우에는, 제어수단(200)은 복수의 진동수단(100)이 배열된 서로 다른 경로상(X축방향, Y축방향)에 놓인 진동수단(100) 각각을 진동하게 하는 제어신호를 출력한다. 이렇게 서로 다른 경로상에 놓인 진동수단(100)을 진동하게 함으로써 진동의 중첩에 의해 서로 다른 경로와 다른 방향으로 시각장애인에게 진동 촉감을 전달할 수 있다. 따라서 시각장애인은 X축방향과 Y축방향의 진동 중첩에 의해 이와 다른 방향으로 시각장애인을 안내할 수 있다. 다만, 상술한 서로 다른 경로는 진동수단(100)이 배열된 일측방향(X축방향)과 타측방향(Y축방향)이 90도일 경우도 있으나 이에 한정되지는 않는다. 이러한 제어수단(200)이 구비된 시각장애인용 전방위 방향제시 장치가 도 5에 도시되어 있다.
상술한 기능을 갖는 제어수단(200)은 MCU, MPU, DSP 등을 사용하여 구현할 수 있으며, 또한 FPGA 또는 ASIC 등의 집적회로 설계에 의해 구현될 수도 있다. 물론 제어수단(200)을 구동하기 위한 프로그램이 저장되는 메모리(도면 미도시)가 필요함은 당업자에게는 자명할 것이다.
본 발명에 따른 손잡이수단(300)은 시각장애인이 파지할 수 있도록 구성된다. 이때 시각장애인이 쉽게 잡을 수 있도록 다양한 형태의 손잡이를 갖출 수 있다. 다만, 손잡이수단(300)에는 시각장애인이 진동에 의한 촉감을 느낄 수 있도록 진동수단(100)이 구비된다. 손잡이수단(300)은 지지수단(400)과 결합되어 시각장애인을 지지하거나 전방에 장애물이 있는지 시각장애인이 검사할 수도 있다.
한편, 손잡이수단(300)은 아크릴 재질을 사용하여 구비하는 것이 바람직하다. 이러한 아크릴 재질은 댐핑(Damping)과 리지드(Rigid)를 동시에 만족하므로 시각장애인에게 진동에 의한 촉감을 줄 수 있다.
본 발명에 따른 감지수단(500)은 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 수단이다. 즉 초음파 신호 또는 적외선 신호를 송출하여 장애물과의 거리 정보를 얻을 수 있다. 또한, 감지수단(500)에는 GPS수신기(도면 미도시)가 구비될 수도 있을 것이다. GPS수신기는 시각장애인의 위도정보 및 경도정보를 얻을 수 있는 것으로서 시각장애인의 현재 위치를 알 수 있으며, 따라서 원하는 목적지까지 안전하게 시각장애인의 이동방향을 제공할 수 있다. 따라서 방향정보를 더 알기 위해서는 방위정보를 얻을 수 있는 전자 나침반(도면 미도시)이 더 부가되어 구현될 수도 있다. 그리고, 감지수단(500)에는 CCD 카메라, USB 카메라, 또는 웹카메라 등의 카메라 장치를 구비할 수 있다. 이러한 카메라 장치에 의해 영상정보를 획득할 수 있으며, 획득된 영상정보에 기초하여 시각장애인에게 이동방향을 제시할 수도 있을 것이다. 다만, 이러한 카메라 등에 한정되지 않으며 영상을 획득할 수 있는 수단이면 모두 가능하다.
본 발명에 따른 응급상황송출수단(600)은 시각장애인에게 응급상황이 발생한 경우 외부에 응급상황을 알리기 위한 수단이다. 이러한 응급상황송출수단(600)은 온/오프에 의한 간단한 버튼으로 구비될 수 있으나, 이에 한정되지는 아니하며 다양한 구성에 의해 시각장애인의 응급상황을 알릴 수 있으면 족하다. 응급상황송출수단(600)에서 발신된 신호는 제어수단(200)에 입력되며 제어수단(200)은 이를 분석하여 통신수단(700)을 통하여 외부로 시각장애인의 응급상황을 알리는 신호를 송출하게 된다.
본 발명에 따른 통신수단(700)은 제어수단(200)의 제어신호에 의해 외부로 신호를 송신하거나 또는 외부로부터 신호를 수신하기 위한 수단이다. 이러한 통신수단(700)은 외부로부터 시각장애인에게 필요한 위치정보를 수신하여 이를 제어수단(200)에 출력하거나, 또는 시각장애인의 응급상황을 제어수단(200)의 제어신호에 의해 외부로 알릴 수 있는 수단이다. 따라서 다양한 종류의 송/수신장치가 구비될 수 있으며, 일예로 인터넷, 와이브로, 와이파이, 또는 3G 등의 통신장치가 장착될 수 있다.
상술한 손잡이수단(300) 또는 지지수단(400)에는 감지수단(500), 응급상황송출수단(600), 또는 통신수단(700)이 시각장애인의 상황에 맞는 위치에 따라 구비될 수 있음은 물론이다.
<시각장애인용 전방위 방향제시 시스템>
도 6은 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 구성을 나타낸 구성도이고, 도 7은 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 사용예를 나타낸 도면이다.
도 6에 도시된 바와 같이, 본 발명에 따른 시각장애인용 전방위 방향제시 시스템은 대략 진동수단(100) 및 제어수단(200)을 구비하는 시각장애인용 전방위 방향제시 장치(10), 위치정보를 전송하는 위치정보송출수단(30), 및 데이터베이스(20)로 구성된다. 상술한 시스템에 의해 시각장애인의 이동방향을 결정하고 시각장애인을 원하는 목적지까지 안전하게 데려다 줄 수 있다. 이하에서는 도 6 및 도 7을 참조하여 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 구성을 설명하기로 한다.
본 발명에 따른 시각장애인용 전방위 방향제시 장치(10)의 구성 및 기능은 상술한 바와 같으므로 생략하기로 한다. 다만, 데이터베이스(20)에서 안내정보를 송신하는 경우에는 이러한 안내정보를 시각장애인에게 알려줄 수 있는 음성출력수단(800)을 더 구비하는 것이 바람직하다. 상술한 안내정보는 날씨정보, 시간정보, 또는 스케줄정보 중 어느 하나이며, 시각장애인은 이러한 안내정보를 실시간으로 받음으로써 스케줄을 조정할 수도 있을 것이다.
도 6에 도시된 바와 같이, 본 발명에 따른 데이터베이스(20)는 시각장애인용 전방위 방향제시 장치(10)에서 송신하는 응급정보를 관리하고, 시각장애인용 전방위 방향제시 장치(10)로 송신하는 위치정보 또는 안내정보를 관리하는 수단이다.
한편, 데이터베이스(20)는 시각장애인용 전방위 방향제시 장치(10)로부터 전송된 신호가 GPS 정보 즉, GPS 경도정보 또는 위도정보인 경우 시각장애인의 현재 위치를 지도맵과 대비하고, 탐색하여 그 위치정보를 다시 시각장애인용 전방위 방향제시 장치(10)에 송신한다. 이러한 시각장애인용 전방위 방향제시 장치(10)와 데이터베이스(20)는 네트워크 또는 인터넷으로 연결될 수 있으나, 상술한 예에 한정되지는 않는다. 상술한 기능을 가지는 데이터베이스(20)는 컴퓨터 등에 의해 구현 가능하다.
본 발명에 따른 위치정보송출수단(30)은 시각장애인용 전방위 방향제시 장치(10)에 위치정보를 송출하는 수단이다. 따라서 이러한 위정보송출수단(30)은 일정한 위치에 부착되어 적외선 신호 또는 초음파 신호를 송출하며, 시각장애인용 전방위 방향제시 장치(10)는 이러한 신호를 수신하여 시각장애인에게 정보를 제공하게 된다.
한편, 도 7에 도시된 바와 같이, 도 7은 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 사용 예를 설명하기 위한 도면이다. 본 발명에 따른 시각장애인용 전방위 방향제시 시스템의 사용 예는 시각장애인용 전방위 방향제시 장치(10)와 위치정보송출수단(30)을 이용하여 시각장애인이 위치정보를 안내 받는다.
우선, 도 7은 시각장애인용 전방위 방향제시 장치(10)를 구비한 사용자가 건물내로 진입하는 경우의 사용 예로써, 건물에는 제1,2,3출입문(40)이 구비되어 있다. 여기서 제1출입문(40a)은 정문이고, 제2출입문(40b)은 좌측 출입문이며, 제3출입문(40c)은 우측 출입문이다. 그리고, 각각의 출입문(40)에는 적외선 신호 또는 초음파 신호를 송출하는 위치정보송출수단(30a,30b,30c)이 구비된다.
또한, 남성 화장실 출입문(40d)과, 여성 화장실 출입문(40e), 문구점 출입문(40f), 병원 출입문(40g), 또는 식당 출입문(40h) 각각에도 위치정보송출수단(30d,30e,30f,30g,30h)이 구비되어 시각장애인용 전방위 방향제시 장치(10)에 각각의 정보를 제공할 수 있다. 위치정보송출수단(30)에서 출력되는 적외선 신호나 초음파 신호의 출력 주기에 따라 적절한 안내를 수행하고, 장애물과의 거리를 계산하여 시각장애인에게 이동방향을 안내한다.
<시각장애인용 전방위 방향제시 장치를 이용한 안내방법>
도 8은 본 발명에 따른 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법을 순차적으로 나타낸 순서도이다. 상술한 구성을 가지는 시각장애인용 전방위 방향제시 장치에 의해 수행될 수 있는 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법의 일실시예가 도 8에 도시되어 있다.
도 8에 도시된 바와 같이, 본 발명에 따른 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법은 S110 단계 내지 S140 단계를 수행하게 된다. 이하 도 8을 참조하여 안내 방법을 설명하기로 한다.
먼저, 감지수단(500)이 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 단계를 수행하게 된다(S110). 이때 감지수단(500)이 적외선 센서, 초음파 센서, 또는 카메라 등을 이용하여 장애물에 대한 정보를 획득할 수도 있으나, 또한 제어수단(200)이 위치정보송출수단(30)으로부터 위치정보를 통신수단(700)을 통하여 전송 받을 수도 있다.
다음으로, 제어수단(200)이 감지수단(500)의 정보에 기초하여 시각장애인 전방에 놓인 장애물에 대한 정보를 판단하는 단계를 수행하게 된다(S120). 감지수단(500)에서 입력되는 정보가 적외선 신호 또는 초음파 신호인 경우에는 이들 신호의 주기적 정보를 이용하여 장애물을 식별할 수 있으며, 또한 이러한 신호에 의해 장애물과의 거리를 계산할 수도 있다.
만약, 감지수단(500)에서 입력되는 정보가 카메라를 통한 영상정보인 경우에는 이러한 영상정보를 이미지프로세싱을 통하여 식별하는 단계를 수행하게 된다.
다음으로, 제어수단(200)이 상술한 판단에 기초하여 시각장애인에게 이동방향을 제공하기 위한 제어신호를 복수의 진동수단(100)에 출력하는 단계를 수행하게 된다(S130). 이때 출력되는 신호는 진동수단(100)의 진동의 세기나 진동의 시간을 제어하는 신호이다.
마지막으로, 진동수단(100)이 상술한 제어신호에 기초하여 진동 세기 또는 진동 시간에 따른 진동에 의한 촉감을 시각장애인에게 전달함으로써 이동방향을 제공하는 단계(S140)를 수행하게 된다.
<기록매체>
본 발명은 또한 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의해 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등이 있으며, 또한 케리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 본 발명을 구현하기 위한 기능적인(functional) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.
이상, 본 발명의 일실시예를 참조하여 설명했지만, 본 발명이 이것에 한정되지는 않으며, 다양한 변형 및 응용이 가능하다. 즉, 본 발명의 요지를 일탈하지 않는 범위에서 많은 변형이 가능한 것을 당업자는 용이하게 이해할 수 있을 것이다.
10 : 시각장애인용 전방위 방향제시 장치
20 : 데이터베이스
30 : 위치정보 송출수단
100 : 진동수단
110 : 제1진동
120 : 제2진동
130 : 제3진동
140 : 제4진동
200 : 제어수단
300 : 손잡이수단
310 : 홈
400 : 지지수단
500 : 감지수단
600 : 응급상황송출수단
700 : 통신수단
800 : 음성출력수단

Claims (17)

  1. 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 감지수단(500);
    상기 정보에 기초하여 상기 시각장애인에게 이동방향을 제공하기 위한 진동 세기 및 진동 시간을 제어하는 제어신호를 출력하는 제어수단(200); 및
    상기 제어신호에 기초하여 상기 시각장애인의 이동방향을 제시하기 위한 진동에 의한 촉감을 전달하는 복수의 진동수단(100);을 포함하되,
    상기 제어수단(200)은, 상기 복수의 진동수단(100)이 배열된 서로 다른 경로상에 놓인 상기 진동수단(100)을 각각 진동하게 함으로써 상기 시각장애인에게 상기 서로 다른 경로와 다른 방향으로 이동방향을 제공하기 위한 제어신호를 상기 진동수단(100)에 출력하고,
    상기 진동수단(100)은 상기 제어신호에 포함된 상기 진동 세기의 변화 및 상기 진동 시간의 변화의 조합 중 적어도 일부를 이용하여, 일측에서 타측방향으로 진동에 의한 촉감을 전달하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  2. 제 1 항에 있어서,
    상기 시각장애인이 상기 진동수단(100)을 파지하도록 구비되는 손잡이수단(300); 및
    상기 시각장애인에게 발생한 응급상황을 알릴 수 있는 응급상황송출수단(600);을 더 포함하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  3. 제 1 항에 있어서,
    상기 감지수단(500)은 초음파 센서, 적외선 센서, 및 카메라 중 어느 하나로 구비되며,
    상기 제어수단(200)은 상기 감지수단(500)의 상기 장애물에 대한 정보에 기초하여 상기 시각장애인에게 이동방향을 제공하기 위한 제어신호를 상기 진동수단(100)에 출력하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  4. 삭제
  5. 삭제
  6. 제 2 항에 있어서,
    상기 손잡이수단(300)은 아크릴을 사용하여 구비되는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  7. 삭제
  8. 제 2 항에 있어서,
    상기 진동수단(100)이 배열되는 상기 손잡이수단(300)에는 어느 하나의 상기 진동수단(100)에서 형성된 진동이 다른 상기 진동수단(100)에 간섭을 미치지 아니하도록 홈(310)을 형성하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  9. 제 1 항에 있어서,
    상기 진동수단(100)의 배열은 등간격으로 배열하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  10. 제 1 항에 있어서,
    상기 서로 다른 경로는 상기 진동수단(100)이 배열된 일측방향과 타측방향이 90도인 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치.
  11. 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 감지수단(500), 상기 감지수단(500)의 상기 정보에 기초하여 상기 시각장애인에게 이동방향을 제공하기 위한 진동 세기 및 진동 시간을 제어하는 제어신호를 출력하는 제어수단(200), 및 상기 제어수단(200)의 제어신호에 기초하여 상기 시각장애인의 이동방향을 제시하기 위한 진동에 의한 촉감을 전달하는 복수의 진동수단(100)을 포함하는 시각장애인용 전방위 방향제시 장치(10);
    상기 시각장애인용 전방위 방향제시 장치(10)에 위치정보를 전송하는 위치정보송출수단(30); 및
    상기 시각장애인용 전방위 방향제시 장치(10)에서 송신되는 응급상황을 관리하고, 상기 시각장애인용 전방위 방향제시 장치(10)로 송신하는 위치정보 또는 안내정보를 관리하는 데이터베이스(20);를 포함하되,
    상기 제어수단(200)은, 상기 복수의 진동수단(100)이 배열된 서로 다른 경로상에 놓인 상기 진동수단(100)을 각각 진동하게 함으로써 상기 시각장애인에게 상기 서로 다른 경로와 다른 방향으로 이동방향을 제공하기 위한 제어신호를 상기 진동수단(100)에 출력하고,
    상기 진동수단(100)은 상기 제어신호에 포함된 상기 진동 세기의 변화 및 상기 진동 시간의 변화의 조합 중 적어도 일부를 이용하여, 일측에서 타측방향으로 진동에 의한 촉감을 전달하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 시스템.
  12. 제 11 항에 있어서,
    상기 시각장애인용 전방위 방향제시 장치(10)는,
    상기 데이터베이스(20)로부터 상기 위치정보를 수신하거나, 또는 상기 응급상황을 송신하기 위한 통신수단(700); 및
    상기 데이터베이스(20)에서 송신되는 안내정보를 상기 시각장애인에게 알려주는 음성출력수단(800);을 더 구비하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 시스템.
  13. 제 11 항에 있어서,
    상기 데이터베이스(20)는 상기 시각장애인용 전방위 방향제시 장치(10)에서 수신한 GPS 정보로부터 상기 시각장애인의 현재 위치를 탐색하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 시스템.
  14. 제 1 항에 기재된 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법에 있어서,
    감지수단(500)이 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 단계(S110);
    제어수단(200)이 상기 감지수단(500)의 정보에 기초하여 상기 시각장애인 전방에 놓인 장애물에 대한 정보를 판단하는 단계(S120);
    상기 제어수단(200)이 상기 판단에 기초하여 상기 시각장애인에게 이동방향을 제공하기 위한 제어신호를 복수의 진동수단(100)에 출력하는 단계(S130); 및
    상기 진동수단(100)이 상기 제어신호에 기초하여 진동 세기 및 진동 시간에 따른 진동에 의한 촉감을 상기 시각장애인에게 전달함으로써 이동방향을 제공하는 단계(S140);를 포함하되,
    상기 제어수단(200)은, 상기 복수의 진동수단(100)이 배열된 서로 다른 경로상에 놓인 상기 진동수단(100)을 각각 진동하게 함으로써 상기 시각장애인에게 상기 서로 다른 경로와 다른 방향으로 이동방향을 제공하기 위한 제어신호를 상기 진동수단(100)에 출력하고,
    상기 진동수단(100)은 상기 제어신호에 포함된 상기 진동 세기의 변화 및 상기 진동 시간의 변화의 조합 중 적어도 일부를 이용하여, 일측에서 타측방향으로 진동에 의한 촉감을 전달하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법.
  15. 제 14 항에 있어서,
    상기 S110 단계는,
    상기 제어수단(200)이 위치정보송출수단(30)으로부터 위치정보를 전송 받는 단계를 포함하는 것을 특징으로 하는 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법.
  16. 삭제
  17. 시각장애인용 전방위 방향제시 장치를 이용한 안내 방법을 수행하기 위하여 디지털 처리 장치에 의해 실행될 수 있는 명령어들의 프로그램이 유형적으로 구현되어 있고, 상기 디지털 처리 장치에 의해 판독될 수 있는 기록매체에 있어서,
    상기 안내 방법은,
    감지수단(500)이 시각장애인 전방에 놓인 장애물에 대한 정보를 획득하는 단계(S110);
    제어수단(200)이 상기 감지수단(500)의 정보에 기초하여 상기 시각장애인 전방에 놓인 장애물에 대한 정보를 판단하는 단계(S120);
    상기 제어수단(200)이 상기 판단에 기초하여 상기 시각장애인에게 이동방향을 제공하기 위한 제어신호를 복수의 진동수단(100)에 출력하는 단계(S130); 및
    상기 진동수단(100)이 상기 제어신호에 기초하여 진동 세기 및 진동 시간에 따른 진동에 의한 촉감을 상기 시각장애인에게 전달함으로써 이동방향을 제공하는 단계(S140);를 포함하되,
    상기 제어수단(200)은, 상기 복수의 진동수단(100)이 배열된 서로 다른 경로상에 놓인 상기 진동수단(100)을 각각 진동하게 함으로써 상기 시각장애인에게 상기 서로 다른 경로와 다른 방향으로 이동방향을 제공하기 위한 제어신호를 상기 진동수단(100)에 출력하고,
    상기 진동수단(100)은 상기 제어신호에 포함된 상기 진동 세기의 변화 및 상기 진동 시간의 변화의 조합 중 적어도 일부를 이용하여, 일측에서 타측방향으로 진동에 의한 촉감을 전달하는 것을 특징으로 하는 기록매체.
KR1020100121165A 2010-12-01 2010-12-01 시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체 KR101235585B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020100121165A KR101235585B1 (ko) 2010-12-01 2010-12-01 시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100121165A KR101235585B1 (ko) 2010-12-01 2010-12-01 시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체

Publications (2)

Publication Number Publication Date
KR20120059753A KR20120059753A (ko) 2012-06-11
KR101235585B1 true KR101235585B1 (ko) 2013-02-21

Family

ID=46610838

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100121165A KR101235585B1 (ko) 2010-12-01 2010-12-01 시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체

Country Status (1)

Country Link
KR (1) KR101235585B1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016021772A1 (ko) * 2014-08-07 2016-02-11 건국대학교 산학협력단 체감각 유도 장치
KR101645220B1 (ko) * 2015-06-19 2016-08-03 목포대학교산학협력단 시각 장애인을 위한 대피경로 알림시스템
KR102291179B1 (ko) 2018-05-28 2021-08-19 사회복지법인 삼성생명공익재단 시각 보조 장치 및 시각 보조 장치를 이용한 사용자의 시각 보조 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004024853A (ja) 2002-05-08 2004-01-29 Yamanashi Tlo:Kk 歩行支援装置
KR20050056307A (ko) * 2003-12-10 2005-06-16 유기호 촉각자극기와 지피에스를 이용한 시각장애인용 보행 안내장치
KR20070075623A (ko) * 2006-01-13 2007-07-24 김태훈 시각장애인의 보행안내장치 및 방법
KR20100011797U (ko) * 2009-05-27 2010-12-07 케이와이제이테크(주) 시각장애인 사물탐지기기

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004024853A (ja) 2002-05-08 2004-01-29 Yamanashi Tlo:Kk 歩行支援装置
KR20050056307A (ko) * 2003-12-10 2005-06-16 유기호 촉각자극기와 지피에스를 이용한 시각장애인용 보행 안내장치
KR20070075623A (ko) * 2006-01-13 2007-07-24 김태훈 시각장애인의 보행안내장치 및 방법
KR20100011797U (ko) * 2009-05-27 2010-12-07 케이와이제이테크(주) 시각장애인 사물탐지기기

Also Published As

Publication number Publication date
KR20120059753A (ko) 2012-06-11

Similar Documents

Publication Publication Date Title
KR101115415B1 (ko) 시각장애인용 안내 시스템 및 그를 이용한 안내방법
Lakde et al. Navigation system for visually impaired people
KR101648374B1 (ko) 시각 장애인을 위한 길 안내 서비스 제공 시스템 및 방법
KR101106076B1 (ko) 감성정보를 포함하는 시각장애인용 안내 시스템 및 그를 이용한 안내방법
KN et al. Braille assistance system for visually impaired, blind & deaf-mute people in indoor & outdoor application
KR101235585B1 (ko) 시각장애인용 전방위 방향제시 장치, 시스템, 그를 이용한 안내방법, 및 그 기록매체
KR101036849B1 (ko) 가시광 정보 통신 장치 및 방법
Alhmiedat et al. A prototype navigation system for guiding blind people indoors using NXT Mindstorms
Tyagi et al. Assistive navigation system for visually impaired and blind people: a review
KR20160096380A (ko) 도보 길 안내 서비스 제공 방법 및 장치
KR20120059752A (ko) 감정을 인식하는 시각장애인용 안내 장치, 안내 시스템, 그를 이용한 안내방법, 및 그 기록매체
Srinivas et al. Smart Blind stick connected system using Arduino
KR101598466B1 (ko) 청각장애인용 안전보조시스템
KR101758057B1 (ko) 청각 장애인 부모를 위한 유아 모니터링 시스템 및 방법
KR101484955B1 (ko) 이동체 탐지장치
Khamgaonkar et al. Navigation aid for blind people
Kathiravan A smart hoodie-assistive technology for blind people using IoT
Ramaiah IoT based route assistance for visually challenged
KR20210058044A (ko) 시각장애인 전용 스마트 블루투스 안경
Ravi et al. Design and development of a prototype assistive mobility solution for the visually impaired
Sood et al. IoT-Based Smart Stick for the Blind: A Review
Hussain et al. Design of a navigation system for the blind/visually impaired
US20230350073A1 (en) Edge and generative ai-based sustainable gps navigated wearable device for blind and visually impaired people
Suryawanshi et al. Innovations in Voice Navigation Using Object Detection to Empower the Visually Impaired
Dilli et al. Smart Blind Stick Using Node MCU with Voice Alert

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20170106

Year of fee payment: 5

LAPS Lapse due to unpaid annual fee