KR102023356B1 - Wearable sign language translation device - Google Patents

Wearable sign language translation device Download PDF

Info

Publication number
KR102023356B1
KR102023356B1 KR1020170167829A KR20170167829A KR102023356B1 KR 102023356 B1 KR102023356 B1 KR 102023356B1 KR 1020170167829 A KR1020170167829 A KR 1020170167829A KR 20170167829 A KR20170167829 A KR 20170167829A KR 102023356 B1 KR102023356 B1 KR 102023356B1
Authority
KR
South Korea
Prior art keywords
sign language
unit
text
voice
user
Prior art date
Application number
KR1020170167829A
Other languages
Korean (ko)
Other versions
KR20190067663A (en
Inventor
최동운
이동욱
이덕연
허만홍
Original Assignee
한국생산기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국생산기술연구원 filed Critical 한국생산기술연구원
Priority to KR1020170167829A priority Critical patent/KR102023356B1/en
Publication of KR20190067663A publication Critical patent/KR20190067663A/en
Application granted granted Critical
Publication of KR102023356B1 publication Critical patent/KR102023356B1/en

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B21/00Teaching, or communicating with, the blind, deaf or mute
    • G09B21/009Teaching or communicating with deaf persons
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005Input arrangements through a video camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/08Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208Noise filtering

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Computer Hardware Design (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • General Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Machine Translation (AREA)

Abstract

본 발명은 수화통역장치에 관한 것으로, 더욱 상세하게는 음성을 수화로 통역하고, 수화를 음성 또는 텍스트로 통역함으로써, 수화자와 일반인의 의사소통의 불편함을 해소하고, 음성 또는 수화를 인공지능에 의해서 알고리즘화함으로써, 통역의 정확도를 향상시킬 수 있으며, 소수의 수화자가 착용하여 다수의 일반인에게 통역을 수행하는 웨어러블 수화통역장치에 관한 것이다.The present invention relates to a sign language interpreter, and more particularly, to interpret a voice as a sign language and to interpret a sign language as a voice or a text, thereby eliminating the inconvenience of communication between the sign language and the general public, and artificially converting a voice or a sign language to an artificial intelligence. By the algorithm to improve the accuracy of the interpretation, and wearable by a small number of the receiver relates to a wearable sign language interpreter for interpreting a large number of the general public.

Description

웨어러블 수화통역장치{WEARABLE SIGN LANGUAGE TRANSLATION DEVICE}Wearable Sign Language Interpreter {WEARABLE SIGN LANGUAGE TRANSLATION DEVICE}

본 발명은 수화통역장치에 관한 것으로, 더욱 상세하게는, 수화통역장치를 사용하여 인공지능을 통한 통역을 수행함으로써, 소수의 수화자가 착용하여 다수의 일반인에게 통역을 수행할 수 있는 웨어러블 수화통역장치에 관한 것이다.The present invention relates to a sign language interpreter, and more particularly, a wearable sign language interpreter capable of interpreting to a large number of ordinary people by wearing a handful of interpreters by performing an interpreter through artificial intelligence using a sign language interpreter. It is about.

청각장애는 육체, 정서, 지적 발달에 결정적 영향을 주는 청각 기능이 손상되어, 언어 능력 발달에 지장을 받게 되고, 그 결과 언어의 개념 형성 부족으로 교육, 문화, 다양한 정보의 혜택을 정상인과 동등하게 받기가 어려운 현실이다. 뿐만 아니라 인간으로써의 “삶의 질 저하”를 겪고 있는 게 현실이다.Hearing impairment impairs the ability of hearing, which has a decisive impact on physical, emotional, and intellectual development, impairs the development of language skills, and as a result lacks the concept of language, which benefits education, culture, and diverse information equally to the normal population. It is a difficult reality to receive. In addition, the reality is that people are suffering from "quality of life."

따라서, 청각장애를 갖고 있는 사람들은 의사를 전달하기 위해서 수화를 많이 사용하게 된다. 일반적으로 이러한 수화는 음성언어와는 달리 손으로 표현되는 비음성언어로서, 음성언어가 청각적으로 이해되고 음성으로 표현되는 청각음성체계임에 반하여 수화는 시각적으로 이해되고 손동작으로 표현되는 시각 운동체계이다.Therefore, people with hearing impairments use sign language a lot to communicate. Generally speaking, a sign language is a non-speech language that is expressed by hand, unlike a speech language. In contrast, a sign language is visually understood and expressed by hand gestures. to be.

그러나 상기 수화는 일반 청력장애가 없는 사람(이하, 일반인)이 이용하기 위해서는 별도의 학습이 필요하므로 이를 일반인이 이용하기에는 상당한 노력이 필요하게 되어 비효율적이었다. 따라서, 수화이용자(이하, 수화자)와 일반인의 자연스런 의사소통은 상당한 노력이 필요하게 된다. 이에 따라, 일반인과 수화이용자는 문자로 서로의 의사를 전달하는 방법이 있을 수 있으나, 이는 수화이용자나 일반 청력인 모두에게 문자를 일일이 기록해야 하는 불편함을 주게 되었다.However, since the sign language requires a separate learning to be used by a person without general hearing impairment (hereinafter, the general public), it is inefficient because it requires a considerable effort to use it by the general public. Therefore, natural communication between the sign language user (hereinafter referred to as the sign language) and the general public requires considerable effort. Accordingly, the general public and the sign language user may have a method of communicating each other with a letter, but this has caused inconvenience to write a letter to both the sign language user and the general hearing person.

또한, 수화자와 일반인의 의사소통의 불편함을 해소하기 위해 실시간으로 음성 또는 수화를 통역하는 방법이 필요하게 되었고, 기계를 통해 음성 또는 수화를 번역할 때, 사람이 음성 또는 수화를 입력하게 되므로 사람마다 입력의 차이가 발생되고 이에 따른 통역의 차이가 발생하게 되었다.In addition, a method of interpreting voice or sign language in real time has been needed to solve the inconvenience of communication between the listener and the general public, and when a voice or sign language is translated through a machine, a person inputs the voice or sign language. There is a difference in input for each person, resulting in a difference in interpretation.

이러한 불편을 해소하기 위한 일반적으로 사용되는 수화통역장치는 일반인의 음성 또는 텍스트를 입력하여 통역된 수화를 수화자에게 전달하는 방식을 사용하여 다수의 일반인이 한명의 수화자에게 의사를 전달하기 위해서는 다수의 일반인이 각각 수화통역장치를 구비해야 되는 불편함이 발생되었다.In order to solve this inconvenience, a commonly used sign language interpreter uses a method of inputting a voice or text of a general person to deliver a interpreted sign language to a callee. Discomfort occurred that the general public should have a sign language interpreter.

따라서, 이러한 수화자와 일반인 간의 양방향 통역이 가능하고, 입력하는 사람에 따른 차이를 보정하여 통역차이가 발생되지 않으며, 소수의 수화자가 착용하여 다수의 일반인에게 통역을 수행하는 수화통역장치에 대한 필요성이 대두되고 있는 실정이다.Accordingly, a bilingual interpretation is possible between the callee and the general public, and there is no need for an interpretation difference by correcting the difference according to the inputting person. This situation is emerging.

등록특허공보 제10- 0698942호(2007.03.16.)Patent Registration No. 10-0698942 (2007.03.16.)

본 발명이 이루고자 하는 기술적 과제는 수화자와 일반인 간의 양방향 통역이 가능하고, 입력하는 사람에 따른 차이를 보정하여 통역차이가 발생되지 않으며, 소수의 수화자가 착용하여 다수의 일반인에게 통역을 수행하는 웨어러블 수화통역장치를 제공하는 것이다.The technical problem to be achieved by the present invention is a bi-directional interpretation between the receiver and the general public, the difference in interpretation by correcting the difference according to the input does not occur, wearable to perform the interpretation to a large number of the general public wearing a few people To provide a sign language interpreter.

본 발명이 이루고자 하는 기술적 과제는 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problem to be achieved by the present invention is not limited to the technical problem mentioned above, and other technical problems not mentioned above may be clearly understood by those skilled in the art from the following description. There will be.

상기 기술적 과제를 달성하기 위하여, 본 발명에 따른 웨어러블 수화통역장치는 사용자의 몸에 장착되도록 구비된 몸체부, 상기 몸체부와 연결된 마이크를 통해 외부에서 발생되는 음성을 인식하는 마이크부, 상기 몸체부와 연결된 입력장치를 통해 텍스트를 인식하는 입력장치부, 상기 마이크부 또는 입력장치부로부터 인식된 음성 또는 텍스트를 인공지능을 통해 분석하는 음성텍스트분석부, 상기 음성텍스트분석부에서 분석된 음성 또는 텍스트를 기반으로 음성 또는 텍스트와 대응되는 수화를 출력하는 수화출력부, 상기 몸체부에 구비된 카메라를 통해 사용자의 손 움직임을 감지하고, 감지되는 수화를 인식하는 카메라부, 상기 카메라부로부터 인식된 수화를 인공지능을 통해 분석하는 수화분석부, 상기 수화분석부를 통해 분석된 수화를 기반으로 수화에 대응되는 음성 또는 텍스트를 출력하는 음성텍스트출력부, 상기 음성텍스트출력부로부터 수화에 대응되는 음성을 스피커로 출력하는 스피커부 및 상기 음성텍스트출력부로부터 수화에 대응되는 텍스트를 모니터로 출력하는 모니터부를 제공한다.In order to achieve the above technical problem, the wearable sign language interpretation apparatus according to the present invention, the body portion provided to be mounted on the user's body, the microphone unit for recognizing the voice generated from the outside through the microphone connected to the body portion, the body portion An input device unit for recognizing text through an input device connected to the voice unit, a voice text analysis unit analyzing the voice or text recognized by the microphone unit or the input unit through artificial intelligence, and the voice or text analyzed by the voice text analysis unit A sign language output unit for outputting a sign language corresponding to a voice or text based on the signal; a camera unit for detecting a user's hand movement through a camera provided in the body unit and recognizing a detected sign language; and a sign language recognized by the camera unit Sign language analysis unit for analyzing the artificial intelligence, based on the sign language analyzed by the sign language analysis unit A voice text output unit for outputting a voice or text corresponding to a sign language, a speaker unit for outputting a voice corresponding to a sign language from the voice text output unit to a speaker, and a text corresponding to a sign language from the voice text output unit to a monitor It provides a monitor unit.

본 발명의 실시예에 있어서, 음성텍스트분석부는 상기 마이크부를 통해 인식된 음성에 포함된 잡음을 제거하는 잡음제거부 및 상기 잡음제거부를 통해 잡음이 제거된 음성에 대응되는 수화로 변환하도록 인공지능을 통해 음성을 알고리즘화하는 제 1 음성알고리즘부, 상기 입력장치부를 통해 입력된 텍스트와 대응되는 수화로 변환하도록 인공지능을 통해 텍스트를 알고리즘화하는 제 1 텍스트알고리즘부를 포함한 것일 수 있다.In an exemplary embodiment of the present invention, the voice text analysis unit converts the artificial intelligence to a noise canceling unit for removing noise included in the voice recognized through the microphone unit and a sign language corresponding to the voice from which the noise is removed through the noise removing unit. It may include a first voice algorithm unit for algorithmizing the voice through the first text algorithm unit for algorithmic text through the artificial intelligence to convert to a sign language corresponding to the text input through the input device unit.

본 발명의 실시예에 있어서, 상기 수화출력부는 상기 제 1 음성알고리즘부 및 제 1 텍스트알고리즘부를 통해 알고리즘화된 음성 또는 텍스트에 기초하여 음성 또는 텍스트와 대응되는 수화를 인공지능을 통해 알고리즘화하는 제 1 수화알고리즘부가 구비되고, 상기 수화출력부는 상기 제 1 수화알고리즘부를 통해 알고리즘화된 수화를 주위 다수에게 전달하도록 모니터로 출력하는 것일 수 있다.In an embodiment of the present invention, the sign language output unit may be configured to artificially encode a sign language corresponding to a speech or text based on the speech or text algorithmized through the first speech algorithm unit and the first text algorithm unit. A sign language algorithm unit may be provided, and the sign language output unit may output the sign language to the monitor to transmit the sign language algorithmized through the first sign language algorithm unit.

본 발명의 실시예에 있어서, 상기 수화분석부는 카메라를 통해 감지된 수화에 대응되는 음성 또는 텍스트로 변환하도록 인공지능을 통해 수화를 알고리즘화하는 제 2 수화알고리즘부가 구비된 것도 가능하다.In an embodiment of the present invention, the sign language analyzer may be provided with a second sign language algorithm for algorithmic sign language through artificial intelligence to convert the sign language to a voice or text corresponding to a sign language detected by a camera.

본 발명의 실시예에 있어서, 상기 음성텍스트출력부는 상기 제 2 수화알고리즘부를 통해 알고리즘화된 수화에 기초하여 수화내용과 대응되는 음성을 인공지능을 통해 알고리즘화하는 제 2 음성알고리즘부 및 상기 제 2 수화알고리즘부를 통해 알고리즘화된 수화에 기초하여 수화내용과 대응되는 텍스트를 인공지능을 통해 알고리즘화하는 제 2 텍스트알고리즘부 포함하는 것일 수 있다.In an embodiment of the present disclosure, the voice text output unit may include a second voice algorithm unit and the second voice algorithm that algorithmically encodes a voice corresponding to a sign language content based on a sign language algorithmized through the second sign language algorithm unit. It may include a second text algorithm unit for algorithmicizing the text corresponding to the sign language content through artificial intelligence based on the sign language algorithm through the sign language algorithm unit.

본 발명의 실시예에 있어서, 상기 제 2 음성알고리즘부는 알고리즘화된 음성을 스피커부를 통해 출력하고, 상기 제 2 텍스트알고리즘부는 알고리즘화된 텍스트를 모니터부를 통해 출력하는 것일 수 있다.In an embodiment of the present invention, the second voice algorithm unit may output the algorithmized voice through the speaker unit, and the second text algorithm unit may output the algorithmized text through the monitor unit.

본 발명의 실시예에 있어서, 상기 웨어러블 수화통역장치에 사용되는 인공지능이 딥러닝을 통해 수화 및 음성 또는 텍스트를 군집화하고 분류하여 알고리즘화하도록 딥러닝부가 구비된 것일 수 있다.In an embodiment of the present invention, the artificial intelligence used in the wearable sign language interpreter may be provided with a deep learning unit to group and classify sign language, voice, or text through deep learning and algorithmize.

본 발명의 실시예에 있어서, 웨어러블 수화통역장치를 통해 사용자의 눈 앞에 장비하여 수화를 인식하고, 통역을 수행하도록 수화통역안경이 구비된 것 일 수 있다.In an embodiment of the present invention, a sign language interpretation glasses may be provided to recognize a sign language and perform an interpretation through a wearable sign language interpreter.

본 발명의 실시예에 있어서, 웨어러블 수화통역장치를 통해 사용자의 목이나 귀에 걸어 수화를 인식하고, 통역을 수행하도록 수화통역팬던트가 구비된 것 일 수 있다.In an embodiment of the present invention, a sign language interpretation pendant may be provided to recognize a sign language and perform an interpretation through a wearable sign language interpreter.

본 발명의 실시예에 따르면, 웨어러블 수화통역장치는 음성을 수화로 통역하고, 수화를 음성 또는 텍스트로 통역함으로써, 수화자와 일반인의 의사소통의 불편함을 해소하고, 음성 또는 수화를 인공지능에 의해서 알고리즘화하여 매칭시킴으로써, 입력하는 사람에 따른 차이를 보정하여 통역차이가 발생되지 않고, 통역의 정확도를 향상시킬 수 있으며, 소수의 수화자가 착용하여 다수의 일반인에게 통역을 수행할 수 있는 효과가 있다.According to an embodiment of the present invention, the wearable sign language interpreter interprets the voice as a sign language, and interprets the sign language as voice or text, thereby eliminating the inconvenience of communication between the receiver and the general public, and converting the voice or the sign language to the artificial intelligence. By matching by algorithm, it is possible to improve the accuracy of interpretation without correcting the difference by interpreting the difference according to the person who inputs, and it is effective to perform interpretation to a large number of ordinary people by wearing a few people. have.

본 발명의 효과는 상기한 효과로 한정되는 것은 아니며, 본 발명의 상세한 설명 또는 특허청구범위에 기재된 발명의 구성으로부터 추론 가능한 모든 효과를 포함하는 것으로 이해되어야 한다.The effects of the present invention are not limited to the above-described effects, but should be understood to include all the effects deduced from the configuration of the invention described in the detailed description or claims of the present invention.

도 1은 본 발명의 일실시예에 따른 웨어러블 수화통역장치의 개략적인 구성도이다.
도 2는 본 발명의 일실시예에 따른 웨어러블 수화통역장치의 블럭도이다.
도 3은 본 발명의 또 하나의 실시예에 따른 웨어러블 수화통역장치의 개략적인 구성도이다.
도 4는 본 발명의 일실시예에 따른 수화통역방법의 흐름도이다.
도 5는 본 발명의 또 하나의 실시예에 따른 수화통역방법의 흐름도이다.
도 6은 본 발명의 또 하나의 실시예에 따른 수화통역시스템의 블럭도이다.
1 is a schematic diagram of a wearable sign language interpretation apparatus according to an embodiment of the present invention.
2 is a block diagram of a wearable sign language interpreter according to an embodiment of the present invention.
3 is a schematic configuration diagram of a wearable sign language interpreter according to another embodiment of the present invention.
4 is a flowchart of a sign language interpretation method according to an embodiment of the present invention.
5 is a flowchart of a sign language interpretation method according to another embodiment of the present invention.
6 is a block diagram of a sign language interpretation system according to another embodiment of the present invention.

이하에서는 첨부한 도면을 참조하여 본 발명을 설명하기로 한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며, 따라서 여기에서 설명하는 실시예로 한정되는 것은 아니다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, with reference to the accompanying drawings will be described the present invention. As those skilled in the art would realize, the described embodiments may be modified in various different ways, all without departing from the spirit or scope of the present invention. In the drawings, parts irrelevant to the description are omitted in order to clearly describe the present invention, and like reference numerals designate like parts throughout the specification.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결(접속, 접촉, 결합)"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 부재를 사이에 두고 "간접적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 구비할 수 있다는 것을 의미한다.Throughout the specification, when a part is said to be "connected (connected, contacted, coupled)" with another part, it is not only "directly connected" but also "indirectly connected" with another member in between. "Includes the case. In addition, when a part is said to "include" a certain component, this means that it may further include other components, without excluding the other components unless otherwise stated.

본 명세서에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. As used herein, the terms "comprise" or "have" are intended to indicate that there is a feature, number, step, action, component, part, or combination thereof described on the specification, and one or more other features. It is to be understood that the present invention does not exclude the possibility of the presence or the addition of numbers, steps, operations, components, components, or a combination thereof.

이하 첨부된 도면을 참고하여 본 발명의 실시예를 상세히 설명하기로 한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 일실시예에 따른 웨어러블 수화통역장치의 개략적인 구성도이고, 도 2는 본 발명의 일실시예에 따른 웨어러블 수화통역장치의 블럭도이다.1 is a schematic configuration diagram of a wearable sign language interpretation apparatus according to an embodiment of the present invention, Figure 2 is a block diagram of a wearable sign language interpretation apparatus according to an embodiment of the present invention.

도 1내지 도 2를 참조하면, 본 실시예에 따른 웨어러블 수화통역장치(200)는 사용자의 몸에 장착되도록 구비되도록 몸체부가 구비된다.1 to 2, the wearable sign language interpretation apparatus 200 according to the present embodiment is provided with a body portion to be mounted to the user's body.

보다 상세하게는, 사용자가 수화자일 경우, 상기 몸체부(110)는 목걸이나, 귀걸이, 안경 등과 같이 사람의 몸에 착용가능하도록 구비된다. 상기 몸체부(110)에는 사용자의 손 움직임을 감지할 수 있는 카메라가 장착된 카메라부(111)가 구비된다.More specifically, when the user is a receiver, the body 110 is provided to be worn on a human body such as a necklace, earrings, glasses, and the like. The body portion 110 is provided with a camera portion 111 is equipped with a camera that can detect the user's hand movements.

또한, 사용자는 안경형상으로 제조된 몸체부(110)를 착용하고, 상기 몸체부(110)에 장착된 카메라부(111)에 구비된 카메라를 통해서 수화를 위한 손 움직임을 감지하게 된다.In addition, the user wears the body portion 110 manufactured in the shape of glasses, and detects the hand movement for sign language through a camera provided in the camera portion 111 mounted on the body portion 110.

이러한 손 움직임을 감지하면, 수화통역시스템(100)에 구비된 수화분석부(250)에서 카메라부(111)를 통해 인식된 수화의 내용을 알고리즘화하고, 상기 수화내용과 대응되는 음성을 출력하게 된다.When the hand movement is detected, the sign language analyzer 250 of the sign language interpretation system 100 algorithmizes the content of the sign language recognized by the camera 111 and outputs a voice corresponding to the sign language contents. do.

이때, 상기 수화내용과 대응되는 음성을 알고리즘화하여 상기 알고리즘화된 수화내용과 매칭하고, 매칭 시 알고리즘화된 음성을 웨어러블 수화통역장치와 유선 또는 무선으로 연결된 스피커가 구비된 스피커부(140)를 통해 출력하게 된다.In this case, the speaker corresponding to the sign language content is algorithmized to match the coded sign language content, and the speaker unit 140 having a speaker connected to the wearable sign language interpreter by wire or wirelessly. Will output via

상기 사용자는 웨어러블 수화통역장치(200)를 사용하는 사람을 뜻하며, 상황에 따라 수화를 행하는 수화자일 수 있고, 음성 또는 텍스트를 입력하는 일반인일 수 있다.The user refers to a person who uses the wearable sign language interpreter 200, and may be a signer who performs a sign language according to a situation, and may be a general person who inputs a voice or text.

또한, 상기 수화내용과 대응되는 텍스트를 알고리즘화하여 상기 알고리즘화된 수화내용과 매칭하고, 매칭 시 알고리즘화된 텍스트를 웨어러블 수화통역장치(200)와 유선 또는 무선으로 연결된 모니터가 구비된 모니터부(160)를 통해 출력하게 된다.In addition, a monitor unit having a monitor connected to the wearable sign language interpreter 200 and wired or wirelessly by matching the algorithm and the sign language content by algorithmized text corresponding to the sign language content and the matching ( 160).

상기 알고리즘화된 수화와 상기 알고리즘화된 음성 및 텍스트를 매칭시켜 매칭불가 시 수화를 다시 인식시켜 음성 및 텍스트와 매칭시키도록 한다.By matching the algorithmic sign language and the algorithmic speech and text, the sign language is re-recognized to match the speech and text when it is not matched.

이와 반대로, 사용자가 일반인일 경우, 사용자는 안경형상으로 제조된 몸체부(110)를 착용하고, 상기 몸체부(110)에 장착되어 있거나 또는 상기 몸체부(110)와 유무선으로 연결된 마이크가 구비된 마이크부(120)를 통해 음성을 인식시키게 된다.On the contrary, when the user is a general person, the user wears the body part 110 manufactured in the shape of glasses, and the microphone is mounted on the body part 110 or is connected to the body part 110 by wire or wireless. The microphone 120 may recognize the voice.

상기 마이크부(120)는 사용자의 음성을 인식하고 인식된 음성을 음성텍스트분석부(220)를 통해 분석하게 된다. 따라서, 사용자가 마이크부(120)를 통해 음성을 인식시키면 음성텍스트분석부(220)에서 상기 음성을 알고리즘화하고, 음성의 내용과 대응되는 수화를 알고리즘화하게 된다. 상기 알고리즘화된 음성 및 알고리즘화된 수화를 매칭시켜 매칭 시 상기 수화의 내용을 모니터가 구비된 모니터부(160)를 통해 출력하게 된다. The microphone unit 120 recognizes the user's voice and analyzes the recognized voice through the voice text analyzer 220. Accordingly, when the user recognizes the voice through the microphone unit 120, the voice text analyzer 220 algorithms the voice and algorithms a sign language corresponding to the content of the voice. By matching the algorithmic voice and the algorithmic sign language, the content of the sign language is output through the monitor unit 160 equipped with a monitor.

또한, 사용자는 안경형상으로 제조된 몸체부(110)를 착용하고, 상기 몸체부(110)와 유무선으로 연결된 입력장치가 구비된 입력장치부(170)를 통해 텍스트를 인식시키게 된다.In addition, the user wears the body part 110 manufactured in the shape of glasses, and recognizes the text through the input device unit 170 having an input device connected to the body part 110 in a wired or wireless manner.

상기 입력장치부(170)는 사용자의 텍스트 입력을 인식하고 인식된 텍스트를 음성텍스트분석부(220)를 통해 분석하게 된다. 따라서, 사용자가 입력장치를 통해 텍스트를 인식시키면 음성텍스트분석부(220)에서 상기 텍스트를 알고리즘화하고, 텍스트의 내용과 대응되는 수화를 알고리즘화하게 된다. 상기 알고리즘화된 텍스트 및 알고리즘화된 수화를 매칭시켜 매칭 시 상기 수화의 내용을 모니터가 구비된 모니터부(160)를 통해 출력하게 된다.The input device unit 170 recognizes the text input of the user and analyzes the recognized text through the voice text analysis unit 220. Therefore, when the user recognizes the text through the input device, the text analysis unit 220 algorithmizes the text and algorithms a sign language corresponding to the content of the text. By matching the algorithmized text and the algorithmized sign language, the content of the sign language is output through the monitor unit 160 equipped with a monitor.

한편, 상기 알고리즘화된 음성 및 텍스트와 상기 알고리즘화된 수화를 매칭시켜 매칭불가 시 음성 및 텍스트를 다시 인식시켜 수화와 매칭시키도록 한다.On the other hand, by matching the algorithmic speech and text with the algorithmic sign language, if it is not matched to recognize the speech and text again to match the sign language.

도 2를 참조하면, 본 실시예에 따른 웨어러블 수화통역장치(200)는 마이크부(110)를 통해 외부에서 발생되는 음성 또는 입력장치를 통해 텍스트를 인식하는 음성텍스트인식부(210)를 포함한다.Referring to FIG. 2, the wearable sign language interpreter 200 according to the present exemplary embodiment includes a voice text recognition unit 210 that recognizes text through an external voice or an input device generated through the microphone unit 110. .

보다 상세하게는, 음성을 인식할 수 있도록 마이크로 구성된 마이크부(120)가 구비되고, 상기 마이크는 사용자가 음성을 통해 이야기하는 바를 음성으로 인식하는 장치이다. 상기 마이크는 웨어러블 수화통역장치(200)에 장착되거나, 개별적으로 사용되어 무선으로 웨어러블 수화통역장치(200)와 연동될 수 있다. 또한, 휴대폰과 같은 스마트 단말기를 통해 마이크로 사용되는 것도 가능하다. 상기 마이크는 일반적으로 사용되는 음성이나 소리를 전기 펄스로 바꾸는 장치로 마이크에 대한 구체적인 구성은 생략하기로 한다.In more detail, a microphone unit 120 configured as a microphone for recognizing a voice is provided, and the microphone is a device that recognizes what the user is talking through voice. The microphone may be mounted on the wearable sign language interpreter 200 or may be used separately to interwork with the wearable sign language interpreter 200. It is also possible to use the microphone through a smart terminal such as a mobile phone. The microphone is a device for converting a commonly used voice or sound into an electric pulse, and a detailed configuration of the microphone will be omitted.

또한, 웨어러블 수화통역장치(200)와 연결되어 텍스트를 입력하도록 입력장치부(170)가 구비된다. 상기 입력장치부(170)는 키보드, 스크린패드 또는 휴대폰과 같이 유선 및 무선으로 웨어러블 수화통역장치(200)와 연동되어 입력된 텍스트를 웨어러블 수화통역장치(200)에 전달한다.In addition, the input device unit 170 is connected to the wearable sign language interpreter 200 to input text. The input device unit 170 transmits the input text to the wearable sign language interpreter 200 by interworking with the wearable sign language interpreter 200 in a wired or wireless manner such as a keyboard, a screen pad, or a mobile phone.

한편, 음성텍스트인식부(210)로부터 인식된 음성 또는 텍스트를 인공지능을 통해 분석하는 음성텍스트분석부(220)가 구비된다.On the other hand, the speech text analysis unit 220 for analyzing the speech or text recognized from the speech text recognition unit 210 through artificial intelligence is provided.

보다 상세하게는, 상기 음성텍스트분석부(220)는 마이크부(120)를 통해 인식된 음성 또는 입력장치부(170)를 통해 입력된 텍스트를 상기 음성텍스트인식부(210)를 통해 인식하고, 인공지능을 통해서 이를 분석한다. 마이크나 입력장치부(170)를 통해 입력된 음성 또는 텍스트와 같은 정보들은 표현하는 사람에 따라 차이가 발생하게 되고, 인공지능을 통해 이러한 차이점을 보정하여 공통적으로 표현하는 정보를 분석한다. 즉, 같은 표현이라도 입력하는 사람마다 차이가 존재하고, 이러한 차이에도 입력하는 사람이 표현하고자 하는 의사를 구분하여 웨어러블 수화통역장치(200)가 통역을 수행할 수 있도록 음성텍스트분석부(220)가 마이크를 통해 인식된 음성 또는 입력장치부(170)를 통해 입력된 텍스트를 분석한다.In more detail, the voice text analysis unit 220 recognizes the voice recognized through the microphone unit 120 or the text input through the input device unit 170 through the voice text recognition unit 210, Analyze this through artificial intelligence. Information such as voice or text input through the microphone or the input device unit 170 is different according to the person expressing, and the artificial intelligence corrects the difference and analyzes information commonly expressed. That is, even if the same expression is different for each person who inputs, the voice text analysis unit 220 may distinguish the intentions of the person who inputs even the difference, so that the wearable sign language interpreter 200 can perform the interpretation. Analyzes the text input through the voice or the input unit 170 recognized through the microphone.

또한, 음성텍스트분석부(220)에서 분석된 음성 또는 텍스트를 기반으로 웨어러블 수화통역장치(200)를 통해 수화를 출력하도록 수화출력부(230)가 구비된다.In addition, a sign language output unit 230 is provided to output a sign language through the wearable sign language interpreter 200 based on the speech or text analyzed by the speech text analyzer 220.

보다 상세하게는, 상기 수화출력부(230)는 상기 음성텍스트분석부(220)를 통해서 분석된 음성 또는 텍스트를 인공지능을 통해 분석하여 이와 대응되는 수화를 출력할 수 있다. 수화내용을 출력하기 위해서 웨어러블 수화통역장치(200)가 이용되고, 상기 웨어러블 수화통역장치(200)는 사람의 손과 동일한 형상으로 구비되어 수화내용을 정확하게 전달할 수 있다. 또한, 이러한 수화내용을 로봇과 연결된 모니터를 통해 출력하는 것도 가능하다. 따라서, 근거리 대상에게는 웨어러블 수화통역장치(200)를 통해서 전달하고, 원거리 대상에게는 모니터를 통해 수화내용을 전달할 수 있다.More specifically, the sign language output unit 230 may output a sign language corresponding to the voice or text analyzed by the voice text analyzer 220 through artificial intelligence. The wearable sign language interpreter 200 is used to output a sign language content, and the wearable sign language interpreter 200 may be provided in the same shape as a human hand to accurately deliver the sign language content. In addition, it is possible to output such a sign language through a monitor connected to the robot. Therefore, the wearable sign language interpreter 200 may be transmitted to the short distance target, and the sign language may be delivered to the remote target through the monitor.

한편, 음성텍스트분석부(220)는 잡음제거부(221), 제 1 음성알고리즘부(222) 및 제 1 텍스트알고리즘부(223)를 포함한다.Meanwhile, the voice text analysis unit 220 includes a noise removing unit 221, a first voice algorithm unit 222, and a first text algorithm unit 223.

보다 상세하게는, 상기 잡음제거부(221)는 상기 마이크를 통해 인식된 음성에 포함된 잡음을 제거하도록 구비된다. 따라서, 마이크를 통해 보다 정확하게 음성을 인식할 수 있다. 또한, 상기 잡음제거부(221)를 통해 잡음이 제거된 음성에 대응되는 수화로 번역하도록 인공지능을 통해 음성을 알고리즘화하는 제 1 음성알고리즘부(222)가 구비된다. 상기 제 1 음성알고리즘부(222)에 적용되는 상기 인공지능은 다양하게 적용가능하나 바람직하게는 딥러닝을 이용한 딥러닝부(270)를 통해 인식된 정보를 군집화하고 분류하여 알고리즘화한다.More specifically, the noise removing unit 221 is provided to remove noise included in the voice recognized through the microphone. Therefore, it is possible to recognize the voice more accurately through the microphone. In addition, a first voice algorithm unit 222 is provided to algorithmize the voice through artificial intelligence so as to translate the sign language corresponding to the voice from which the noise is removed through the noise removing unit 221. The artificial intelligence applied to the first voice algorithm unit 222 may be variously applied, but preferably, the information recognized through the deep learning unit 270 using deep learning is clustered, classified and algorithmized.

또한, 상기 제 1 텍스트알고리즘부(223)는 입력장치부(170)를 통해 입력된 텍스트와 대응되는 수화 번역하도록 인공지능을 통해 텍스트를 알고리즘화한다. 상기 인공지능은 다양하게 적용가능하나 바람직하게는 딥러닝부(270)를 이용하여 인식된 정보를 군집화하고 분류하여 알고리즘화한다.In addition, the first text algorithm unit 223 algorithms the text through artificial intelligence to sign language translation corresponding to the text input through the input device unit 170. The artificial intelligence can be variously applied, but preferably, the deep learning unit 270 clusters and classifies the recognized information and algorithms.

또한, 수화출력부(230)는 제 1 수화알고리즘부(231)를 통해 알고리즘화된 수화를 웨어러블 수화통역장치(200)로 출력한다.Also, the sign language output unit 230 outputs the sign language algorithmized through the first sign language algorithm unit 231 to the wearable sign language interpreter 200.

보다 상세하게는, 상기 제 1 수화알고리즘부(231) 는 상기 제 1 음성알고리즘부(222) 및 제 1 텍스트알고리즘부(223)를 통해 알고리즘화된 음성 또는 텍스트에 기초하여, 상기 음성 또는 텍스트와 대응되는 수화를 딥러닝을 이용한 딥러닝부(270)를 통해 알고리즘화하고, 이를 웨어러블 수화통역장치(200)를 통해 출력하게 된다. More specifically, the first sign language algorithm unit 231 is based on the voice or text algorithmized by the first voice algorithm unit 222 and the first text algorithm unit 223, and the voice or text. The corresponding sign language is algorithmized through the deep learning unit 270 using the deep learning, and is output through the wearable sign language interpreter 200.

즉, 인식된 음성 또는 텍스트는 상기 제 1 음성알고리즘부(222) 및 상기 제 1 텍스트알고리즘부(223)에서 딥러닝부(270)를 통해 알고리즘화하고, 이러한 알고리즘화된 음성 또는 텍스트와 대응되는 수화를 도출하여 이를 딥러닝부(270)를 통해 제 1 수화알고리즘부(231) 에서 알고리즘화한다. 따라서, 음성 또는 텍스트를 알고리즘화하고, 이와 대응되는 수화를 알고리즘화함으로써, 웨어러블 수화통역장치(200) 사용자에 따른 차이를 보완하고, 통역의 오류를 방지할 수 있다.That is, the recognized voice or text is algorithmized through the deep learning unit 270 in the first voice algorithm unit 222 and the first text algorithm unit 223, and corresponds to the algorithm or voice. The sign language is derived and algorithmized by the first sign language algorithm 231 through the deep learning unit 270. Accordingly, by algorithmizing a voice or text and algorithmic sign language corresponding thereto, a difference according to the user of the wearable sign language interpreter 200 may be compensated for, and an error in interpretation may be prevented.

한편, 웨어러블 수화통역장치(200)에 카메라가 구비된 카메라부(111)를 통해 움직임을 감지하고, 감지되는 수화를 인식하는 수화인식부(240)가 구비된다.Meanwhile, the wearable sign language interpreter 200 is provided with a sign language recognition unit 240 that detects a movement through a camera unit 111 provided with a camera and recognizes a detected sign language.

보다 상세하게는, 상기 수화인식부(240)는 웨어러블 수화통역장치(200)에 카메라가 구비된 카메라부(111)를 통해 수화자의 손을 촬영하고, 이를 통해 수화를 인식하게 된다. 또한, 상기 수화인식부(240)는 수화자의 수화를 인식할 수 있도록 수화자가 센서가 구비된 장갑을 착용한 상태에서 수화를 수행하고 상기 장갑과 연결된 웨어러블 수화통역장치(200)가 센서로부터 신호를 받아 수화를 인식하는 것도 가능하다.In more detail, the sign language recognition unit 240 photographs the hand of the talker through the camera unit 111 provided with the camera in the wearable sign language interpreter 200, thereby recognizing the sign language. In addition, the sign language recognition unit 240 performs a sign language while the receiver is wearing a glove equipped with a sensor so that the receiver can recognize the sign language, and the wearable sign language interpreter 200 connected to the glove signal from the sensor It is also possible to recognize sign language.

또한, 수화인식부(240)로부터 인식된 수화를 인공지능을 통해 분석하는 수화분석부(250)가 구비된다.In addition, a sign language analyzer 250 for analyzing a sign language recognized by the sign language recognition unit 240 through artificial intelligence is provided.

보다 상세하게는, 상기 수화분석부(250)는 상기 수화인식부(240)로부터 수화를 인식하고, 인식된 수화를 인공지능을 통해 분석한다. 즉, 수화를 수행하는 수화자마다 동일한 수화내용을 수행하여도 손의 위치나 속도, 습관 등에 의해서 차이가 발생하게 되는데 이러한 차이를 포함하고 일정한 수화내용을 전달할 수 있도록 인공지능을 통해 수화내용을 분석한다. 따라서, 이러한 수화내용은 수화자마다 차이가 발생되더라도 정확하고 일정한 수화내용을 분석할 수 있도록 한다.In more detail, the sign language analyzer 250 recognizes a sign language from the sign language recognition unit 240 and analyzes the recognized sign language through artificial intelligence. That is, even if the same sign language is performed for each signer who performs the sign language, the difference occurs due to the position, speed, and habits of the hand. The sign language is analyzed through artificial intelligence to include the difference and to deliver a certain sign language. . Therefore, the sign language content allows accurate and consistent analysis of the sign language content even if a difference occurs for each talker.

한편, 수화분석부(250)를 통해 분석된 수화를 기반으로 수화에 대응되는 음성 또는 텍스트를 출력하는 음성텍스트출력부(260)가 구비된다.On the other hand, the speech text output unit 260 for outputting a speech or text corresponding to the sign language based on the sign language analyzed by the sign language analyzer 250 is provided.

보다 상세하게는, 상기 음성텍스트출력부(260)는 상기 수화분석부(250)를 통해 분석된 수화와 대응되도록 음성 또는 텍스트를 출력할 수 있다. 상기 음성은 웨어러블 수화통역장치(200)에 장착된 마이크 또는 상기 웨어러블 수화통역장치(200)와 연결된 마이크를 통해 출력되고, 텍스트는 웨어러블 수화통역장치(200)에 구비된 모니터 또는 외부 모니터를 통해서 출력 가능하다. 또한, 상기 웨어러블 수화통역장치(200)를 휴대폰과 연동시켜 휴대폰에 구비된 스피커나 화면을 통해서 출력하는 것 또한 가능하다.More specifically, the voice text output unit 260 may output voice or text to correspond to a sign language analyzed by the sign language analyzer 250. The voice is output through a microphone mounted on the wearable sign language interpreter 200 or a microphone connected to the wearable sign language interpreter 200, and the text is output through a monitor or an external monitor provided in the wearable sign language interpreter 200. It is possible. In addition, the wearable sign language interpreter 200 may be linked with a mobile phone and output through a speaker or a screen provided in the mobile phone.

또한, 수화분석부(250)는 인공지능을 통해 수화를 알고리즘화하는 제 2 수화알고리즘부(251)가 구비된다.In addition, the sign language analyzer 250 is provided with a second sign language algorithm unit 251 for algorithmic sign language through artificial intelligence.

보다 상세하게는, 상기 제 2 수화알고리즘부(251)는 카메라를 통해 감지된 수화에 대응되는 음성 또는 텍스트로 번역하도록 인공지능을 통해 수화를 알고리즘화한다. 상기 인공지능은 다양하게 적용가능하나 바람직하게는 딥러닝을 이용한 딥러닝부(270)를 통해 인식된 정보를 군집화하고 분류하여 알고리즘화한다.More specifically, the second sign language algorithm unit 251 algorithms a sign language through artificial intelligence to translate into a voice or text corresponding to a sign language detected through a camera. The artificial intelligence can be variously applied, but preferably, the information recognized through the deep learning unit 270 using the deep learning is clustered and classified and algorithmized.

한편, 음성텍스트출력부(260)는 제 2 수화알고리즘부(251)를 통해 알고리즘화된 음성 또는 텍스트를 웨어러블 수화통역장치(200)로 출력하도록 제 2 음성알고리즘부(261) 또는 제 2 텍스트알고리즘부(262)가 구비된다.Meanwhile, the voice text output unit 260 outputs the voice or text algorithmized through the second sign language algorithm unit 251 to the wearable sign language interpreter 200, or the second text algorithm unit 261 or the second text algorithm. The unit 262 is provided.

보다 상세하게는, 상기 제 2 수화알고리즘부(251)를 통해 알고리즘화된 수화에 기초하여 수화내용과 대응되는 음성을 인공지능을 통해 알고리즘화하는 제 2 음성알고리즘부(261)가 구비되고, 상기 제 2 수화알고리즘부(251)를 통해 알고리즘화된 수화에 기초하여 수화내용과 대응되는 텍스트를 인공지능을 통해 알고리즘화하는 제 2 텍스트알고리즘부(262)가 구비된다. In more detail, a second voice algorithm unit 261 is provided to algorithmize a voice corresponding to a sign language content through artificial intelligence based on a sign language algorithmized through the second sign language algorithm unit 251, and the A second text algorithm unit 262 is provided to algorithmize the text corresponding to the sign language content through artificial intelligence based on the sign language algorithmized through the second sign language algorithm unit 251.

즉, 수화자에 의해서 수화내용을 알고리즘화하고, 상기 수화내용에 대응되는 음성 또는 텍스트를 알고리즘화하여 웨어러블 수화통역장치(200)를 통해 출력하게 된다. 상기 인공지능은 다양하게 적용가능하나 바람직하게는 딥러닝을 이용한 딥러닝부(270)를 통해 인식된 정보를 군집화하고 분류하여 알고리즘화한다.That is, the sign language is algorithmized by the talker, and the voice or text corresponding to the sign language is algorithmically outputted through the wearable sign language interpreter 200. The artificial intelligence can be variously applied, but preferably, the information recognized through the deep learning unit 270 using the deep learning is clustered and classified and algorithmized.

또한, 딥러닝부(270)는 알고리즘화된 수화와 알고리즘화된 음성 또는 텍스트를 군집화하고 분류하여 매칭시키도록 매칭부(280)가 구비될 수 있다.In addition, the deep learning unit 270 may be provided with a matching unit 280 to cluster, classify, and match the algorithm and the algorithmized speech or text.

보다 상세하게는, 상기 매칭부(280)는 상기 제 1 및 제 2 수화알고리즘부(231, 251)를 통해 알고리즘화된 수화와 상기 제 1 및 제 2 음성알고리즘부(222, 261) 또는 제1 및 제 2 텍스트알고리즘부(223, 262)를 통해 알고리즘화된 음성 또는 텍스트를 군집화하고 분류하여 각각 매칭시키도록 한다. 따라서, 수화와 음성 또는 텍스트가 각각 매칭되므로, 보다 용이하게 수화와 음성 또는 텍스트의 통역이 가능하고, 또한 사용자에 따른 편차를 매칭을 통해 감소시킬 수 있다.More specifically, the matching unit 280 is a sign language algorithmized by the first and second sign language algorithms 231 and 251 and the first and second voice algorithm parts 222 and 261 or the first. And clustering, classifying, and matching the speech or text algorithmized through the second text algorithm units 223 and 262, respectively. Therefore, since the sign language and the voice or the text are matched, the sign language and the voice or the text can be interpreted more easily, and the deviation according to the user can be reduced through matching.

이러한 음성텍스트출력부(260)는 수화에 대응되는 음성 및 텍스트를 각각 출력할 수 있고, 또는 음성 및 텍스트를 동시에 출력하는 것도 가능하다.The voice text output unit 260 may output voice and text corresponding to a sign language, or may output voice and text simultaneously.

도 3은 본 발명의 또 하나의 실시예에 따른 웨어러블 수화통역장치의 개략적인 구성도이다.3 is a schematic configuration diagram of a wearable sign language interpreter according to another embodiment of the present invention.

도 2 내지 도 3을 참조하면, 본 실시예에 따른 웨어러블 수화통역장치(300)는 사용자의 몸에 장착되도록 구비되도록 몸체부(310)가 구비된다. 사용자는 펜던트로 사용하도록 제조된 몸체부(310)를 목에 걸어 착용하고, 상기 몸체부(310)에 장착된 카메라부(311)에 구비된 카메라를 통해서 수화를 위한 손 움직임을 감지하게 된다.2 to 3, the wearable sign language interpreter 300 according to the present embodiment is provided with a body portion 310 to be mounted to the user's body. The user wears a body part 310 prepared to be used as a pendant on a neck, and detects a hand movement for sign language through a camera provided in the camera part 311 mounted to the body part 310.

도 3에 도시된 웨어러블 수화통역장치는 몸체부(310)가 펜던트로 제조된 것을 제외하고 도 1 의 웨어러블 수화통역장치와 동일하므로 이에 대한 자세한 설명은 생략하기로 한다. The wearable sign language interpreter shown in FIG. 3 is the same as the wearable sign language interpreter of FIG. 1 except that the body 310 is manufactured as a pendant, and thus a detailed description thereof will be omitted.

상기 몸체부(310)는 카메라를 통해 사용자의 손 움직임을 인식하기 위해 사용자의 몸에 착용되는 것으로써, 손 움직임을 용이하게 인식할 수 있다면 착용위치 및 형상에 있어서 제약되지 않는다. 따라서, 상기 몸체부(310)는 다양한 형상으로 제조가능하고 바람직하게는 안경, 목걸이, 귀걸이 등으로 제조된 것이다.The body 310 is worn on the user's body to recognize the user's hand movement through the camera, so long as it can easily recognize the hand movement is not limited in the wearing position and shape. Therefore, the body portion 310 can be manufactured in various shapes, preferably made of glasses, necklaces, earrings and the like.

도 4는 본 발명의 일실시예에 따른 수화통역방법의 흐름도이다.4 is a flowchart of a sign language interpretation method according to an embodiment of the present invention.

도 1 내지 도 4를 참조하면, 본 실시예에 따른 웨어러블 수화통역장치(200)는 상기 웨어러블 수화통역장치를 사용하는 사용자의 음성이나 텍스트를 웨어러블 수화통역장치(200)에 구비된 마이크나 입력장치를 통해 인식하는 단계(S410)를 포함한다.1 to 4, the wearable sign language interpreter 200 according to the present exemplary embodiment includes a microphone or an input device provided in a wearable sign language interpreter 200 using a voice or text of a user who uses the wearable sign language interpreter. Recognizing through the step (S410).

보다 상세하게는, 사용자는 마이크가 구비된 마이크부(120)를 통해서 음성을 입력하거나 입력장치부(170)를 통해서 텍스트를 웨어러블 수화통역장치(200)에 인식시킬 수 있다. 상기 마이크부(120), 입력장치부(170)는 상기 웨어러블 수화통역장치(200)에 장착되어 있는 구조일 수 있고, 또는 웨어러블 수화통역장치(200)와 유무선으로 연결되어 외부에서 실행될 수 있다.More specifically, the user may input a voice through the microphone unit 120 provided with a microphone or recognize the text to the wearable sign language interpreter 200 through the input device unit 170. The microphone unit 120 and the input device unit 170 may be mounted on the wearable sign language interpreter 200 or may be connected to the wearable sign language interpreter 200 in a wired or wireless manner to be executed externally.

또한, 마이크부(120)나 입력장치부(170)를 통해 인식된 음성이나 텍스트를 인공지능을 통해 알고리즘화시키는 단계(S420)를 포함할 수 있다.In addition, the method may include a step (S420) of algorithmicizing the voice or text recognized through the microphone unit 120 or the input device unit 170 through artificial intelligence.

보다 상세하게는, 마이크부(120)를 통해 인식된 음성을 인공지능을 통해 알고리즘화하거나 또는, 입력장치부(170)를 통해 인식된 텍스트를 인공지능을 통해 알고리즘화하고, 인식된 음성의 내용 또는 인식된 텍스트의 내용과 대응되는 수화로 변환한다. In more detail, the voice recognized through the microphone unit 120 may be algorithmized through artificial intelligence, or the text recognized through the input device unit 170 may be algorithmized through artificial intelligence, and the contents of the recognized voice may be used. Or converts to a sign language corresponding to the content of the recognized text.

또한, 음성 또는 텍스트와 대응되는 수화를 알고리즘화 시키는 단계(S430)를 포함할 수 있다.In addition, the method may include algorithmicizing a sign language corresponding to voice or text (S430).

상기 인식된 음성 또는 텍스트를 인공지능을 통해 알고리즘화시키는 단계(S420)에서 인식된 음성의 내용 또는 인식된 텍스트의 내용과 대응되는 수화를 도출하고 상기 수화를 알고리즘화한다.In the step S420 of algorithmicizing the recognized voice or text through artificial intelligence, a sign language corresponding to the content of the recognized voice or the content of the recognized text is derived and the sign language is algorithmized.

또한, 음성 또는 텍스트를 알고리즘화 시키고 이와 대응되는 수화를 알고리즘화시켜 서로 매칭시키는 단계(S440)를 포함할 수 있다.In addition, the method may include algorithmicizing a speech or text and algorithmic matching a sign language corresponding thereto (S440).

마이크부(120)를 통해 인식된 음성을 인공지능을 통해 알고리즘화하고, 이와 대응되는 수화를 알고리즘화하여 서로 매칭시킴으로써, 음성에 대응되는 수화를 표준화할 수 있고, 음성에 대응되는 수화의 출력 시 발생되는 오류를 감소시킬 수 있다.By voicening the voice recognized through the microphone unit 120 through artificial intelligence, and by matching the sign language corresponding to the sign language, it is possible to standardize a sign language corresponding to the voice and to output a sign language corresponding to the voice. It is possible to reduce the errors generated.

입력장치부(170)를 통해 인식된 텍스트를 인공지능을 통해 알고리즘화하고, 이와 대응되는 수화를 알고리즘화하여 서로 매칭시킴으로써, 텍스트에 대응되는 수화를 표준화할 수 있고, 텍스트에 대응되는 수화의 출력 시 발생되는 오류를 감소시킬 수 있다.By textifying the text recognized through the input device unit 170 through artificial intelligence, and by matching the sign language corresponding to the sign language, it is possible to standardize the sign language corresponding to the text, the output of the sign language corresponding to the text This can reduce the errors that occur at the time.

한편, 상기 인공지능은 여러가지가 적용가능하지만 바람직하게는 인식된 수화 및 음성 또는 텍스트를 군집화하고 분류하여 사용하도록 딥러닝을 통해서 알고리즘화시키는 것이다.On the other hand, the artificial intelligence is applicable to a variety of but preferably algorithms through deep learning to cluster and use the recognized sign language and speech or text.

또한, 상기 알고리즘화된 음성 또는 텍스트와 알고리즘화된 수화를 매칭하는 단계에서 매칭이 불가능할 경우 음성이나 텍스트를 인식하는 단계를 다시 수행하는 단계(S441)를 추가로 포함 할 수 있다.In addition, if matching is not possible in matching the algorithmized speech or text with the algorithmic sign language, the method may further include re-performing the speech or text (S441).

또한, 알고리즘화된 음성이나 텍스트를 알고리즘화된 수화와 매칭시키는 단계를 수행하고 매칭이 가능할 경우 웨어러블 수화통역장치(200)를 통해 수화내용을 출력하는 단계(S450)를 포함할 수 있다.In addition, the method may include performing a step of matching the algorithmized sign language with the algorithmized sign language and outputting a sign language content through the wearable sign language interpreter 200 when the matching is possible (S450).

보다 상세하게는, 마이크부(120)를 통해 인식된 음성을 알고리즘화하고, 상기 음성의 내용과 대응되는 수화를 알고리즘화하여 서로 매칭시킨다. 이때, 음성의 내용과 수화의 내용이 매칭될 때, 상기 수화의 내용을 웨어러블 수화통역장치(200)를 통해서 출력하게 된다.More specifically, the voice recognized through the microphone unit 120 is algorithmized, and a sign language corresponding to the contents of the voice is algorithmically matched with each other. At this time, when the contents of the voice and the contents of the sign language match, the contents of the sign language are output through the wearable sign language interpreter 200.

또한, 입력장치부(170)를 통해 인식된 텍스트를 알고리즘화하고, 상기 텍스트의 내용과 대응되는 수화를 알고리즘화하여 서로 매칭시킨다. 이때, 텍스트의 내용과 수화의 내용이 매칭될 때, 상기 수화의 내용을 웨어러블 수화통역장치(200)를 통해서 출력하게 된다.In addition, the text recognized through the input device unit 170 is algorithmized, and the sign language corresponding to the contents of the text is algorithmized to match each other. At this time, when the contents of the text and the contents of the sign language match, the contents of the sign language are output through the wearable sign language interpreter 200.

도 5는 본 발명의 또 하나의 실시예에 따른 수화통역방법의 흐름도이다.5 is a flowchart of a sign language interpretation method according to another embodiment of the present invention.

도 1 내지 도 5를 참조하면, 본 실시예에 따른 수화통역방법(500)은 상기 수화통역시스템을 사용하는 수화자의 수화를 웨어러블 수화통역장치(200)에 구비된 카메라부(111)를 통해 인식하는 단계(S510)를 포함한다.1 to 5, the sign language interpretation method 500 according to the present embodiment recognizes a sign language of a sign language interpreter using the sign language interpretation system through a camera unit 111 provided in a wearable sign language interpreter 200. It includes a step (S510).

보다 상세하게는, 사용자는 카메라가 구비된 카메라부(111)를 통해 수화를 웨어러블 수화통역장치(200)에 인식시킬 수 있다. 상기 카메라부(111)는 상기 웨어러블 수화통역장치(200)에 장착되어 있는 구조일 수 있고, 또는 웨어러블 수화통역장치(200)와 유무선으로 연결되어 외부에서 실행될 수 있다.More specifically, the user may recognize the sign language in the wearable sign language interpreter 200 through the camera unit 111 provided with a camera. The camera unit 111 may have a structure mounted in the wearable sign language interpreter 200 or may be connected to the wearable sign language interpreter 200 in a wired or wireless manner to be executed externally.

또한, 카메라를 통해 인식된 수화를 인공지능을 통해 알고리즘화시키는 단계(S520)를 포함할 수 있다.In addition, the method may include a step S520 of algorithmic sign language recognized by the camera through artificial intelligence.

보다 상세하게는, 카메라부(111)부에 구비된 카메라를 통해 인식된 수화를 인공지능을 통해 알고리즘화하고, 인식된 수화의 내용과 대응되는 음성 또는 텍스트로 변환한다.In more detail, the sign language recognized by the camera provided in the camera unit 111 is algorithmized through artificial intelligence, and converted into speech or text corresponding to the contents of the recognized sign language.

또한, 수화와 대응되는 음성 또는 텍스트로 알고리즘화 시키는 단계(S530)를 포함할 수 있다.In addition, the method may include a step S530 of algorithmic speech or text corresponding to a sign language.

상기 인식된 수화를 인공지능을 통해 알고리즘화시키는 단계(S520)에서 인식된 음성의 내용 또는 인식된 텍스트의 내용과 대응되는 수화를 도출하고 상기 수화를 알고리즘화한다.In step S520 of algorithmicizing the recognized sign language through artificial intelligence, a sign language corresponding to the content of the recognized voice or the content of the recognized text is derived, and the sign language is algorithmized.

또한, 음성 또는 텍스트를 알고리즘화 시키고 이와 대응되는 수화를 알고리즘화시켜 서로 매칭시키는 단계(S540)를 포함할 수 있다.In addition, the method may include a step of algorithmicizing a speech or text and algorithmic matching a sign language corresponding thereto (S540).

마이크부(120)를 통해 인식된 음성을 인공지능을 통해 알고리즘화하고, 이와 대응되는 수화를 알고리즘화하여 서로 매칭시킴으로써, 음성에 대응되는 수화를 표준화할 수 있고, 음성에 대응되는 수화의 출력 시 발생되는 오류를 감소시킬 수 있다.By voicening the voice recognized through the microphone unit 120 through artificial intelligence, and by matching the sign language corresponding to the sign language, it is possible to standardize a sign language corresponding to the voice and to output a sign language corresponding to the voice. It is possible to reduce the errors generated.

즉, 카메라부(111)를 통해 인식된 수화를 알고리즘화하고, 상기 수화의 내용과 대응되는 음성 또는 텍스트를 알고리즘화하여 서로 매칭시킨다. 이 때, 수화의 내용과 음성 또는 텍스트의 내용이 매칭될 때, 상기 음성의 내용을 웨어러블 수화통역장치(200)에 구비된 스피커부(140)를 통해서 출력하거나, 상기 텍스트의 내용을 웨어러블 수화통역장치(200)와 연결된 모니터부(160)를 통해 출력할 수 있다. 상기 스피커부(140) 및 모니터부(160)는 각각 음성내용 및 텍스트내용을 출력할 수 있고, 필요에 따라 동시에 출력하는 것도 가능하다.That is, the sign language recognized by the camera unit 111 is algorithmized, and the voice or text corresponding to the content of the sign language is algorithmically matched with each other. At this time, when the content of the sign language matches the content of the voice or text, the content of the voice is output through the speaker unit 140 provided in the wearable sign language interpreter 200, or the content of the text is wearable sign language interpreter. The monitor 200 may be output through the monitor 160 connected to the device 200. The speaker unit 140 and the monitor unit 160 may output audio content and text content, respectively, and may be output simultaneously as necessary.

또한, 알고리즘화된 수화와 상기 알고리즘화된 음성 또는 텍스트를 매칭하는 단계에서 매칭이 불가능할 경우, 수화를 인식하는 단계를 다시 수행하는 단계(S541)를 추가로 포함 할 수 있다.In addition, if matching is not possible in matching the algorithmized sign language with the algorithmic speech or text, the method may further include performing a step of recognizing the sign language (S541).

또한, 알고리즘화된 수화를 알고리즘화된 음성이나 텍스트와 매칭시키는 단계를 수행하고 매칭이 가능할 경우 웨어러블 수화통역장치(200)에 구비된 스피커부(140)를 통해서 음성을 출력하거나 모니터부(160)를 통해서 텍스트를 출력하는 단계(S550)를 포함할 수 있다.In addition, performing the step of matching the algorithmic speech or text with the algorithmic sign language, if the match is possible to output the voice through the speaker unit 140 provided in the wearable sign language interpreter 200 or monitor unit 160 It may include the step of outputting the text through (S550).

보다 상세하게는, 카메라부(111)를 통해 인식된 수화를 알고리즘화하고, 상기 수화의 내용과 대응되는 음성을 알고리즘화하여 서로 매칭시킨다. 이때, 수화의 내용과 음성의 내용이 매칭될 때, 상기 수화의 내용을 웨어러블 수화통역장치(200)에 구비된 스피커부(140)를 통해서 음성을 출력하게 된다.More specifically, the sign language recognized by the camera unit 111 is algorithmized, and the voice corresponding to the content of the sign language is algorithmically matched with each other. At this time, when the contents of the sign language and the contents of the voice match, the contents of the sign language are output through the speaker unit 140 provided in the wearable sign language interpreter 200.

또한, 카메라부(111)를 통해 인식된 수화를 알고리즘화하고, 상기 수화의 내용과 대응되는 텍스트를 알고리즘화하여 서로 매칭시킨다. 이때, 수화의 내용과 텍스트의 내용이 매칭될 때, 상기 텍스트의 내용을 웨어러블 수화통역장치(200)와 연결된 모니터부(160)를 통해서 텍스트를 출력하게 된다.In addition, the sign language recognized by the camera unit 111 is algorithmized, and the text corresponding to the content of the sign language is algorithmically matched with each other. At this time, when the content of the sign language matches the content of the text, the text is output through the monitor unit 160 connected to the wearable sign language interpreter 200.

따라서, 매칭이 가능할 때만 스피커부(140) 또는 모니터부(160)를 통해 수화의 내용을 출력하므로 사용자간의 차이에 따른 보정을 통해 수화의 내용과 음성 및 텍스트의 내용 간의 오류를 감소시킬 수 있다.Accordingly, since the content of the sign language is output through the speaker unit 140 or the monitor unit 160 only when matching is possible, an error between the content of the sign language and the content of the voice and text may be reduced by correcting according to a difference between users.

도 6은 본 발명의 또 하나의 실시예에 따른 웨어러블 수화통역장치(700)의 블럭도이다.6 is a block diagram of a wearable sign language interpreter 700 according to another embodiment of the present invention.

도 6을 참조하면, 본 발명에 따른 웨어러블 수화통역장치(700)는 제 1 사용자인식부(710)를 포함할 수 있다.Referring to FIG. 6, the wearable sign language interpreter 700 according to the present invention may include a first user recognition unit 710.

보다 상세하게는, 상기 제 1 사용자인식부(710)는 웨어러블 수화통역장치(700)를 사용하는 사용자를 인식하고 사용자의 특징들을 분류하여 데이터베이스화한다. 상기 제 1 사용자인식부(710)는 사용자를 다양한 방식으로 인식할 수 있고, 바람직하게는 카메라부(111)를 통해 사용자의 얼굴을 감지하여 인식하거나, 마이크부(120)를 통해 사용자의 음성을 감지하여 인식할 수 있고, 또는 입력장치부(170)를 통해 사용자가 입력하여 사용자를 인식시킬 수 있다.In more detail, the first user recognition unit 710 recognizes a user who uses the wearable sign language interpreter 700 and classifies the user features into a database. The first user recognition unit 710 may recognize the user in various ways. Preferably, the first user recognition unit 710 may detect the user's face through the camera unit 111 or recognize the user's voice through the microphone unit 120. It may be detected and recognized, or may be input by the user through the input device unit 170 to recognize the user.

또한, 제 1 사용자인식부(710)를 통해 인식된 사용자의 음성 또는 텍스트를 인식하는 음성텍스트인식부(720)가 구비된다.In addition, the voice text recognition unit 720 for recognizing the voice or text of the user recognized by the first user recognition unit 710 is provided.

보다 상세하게는, 음성을 인식할 수 있도록 마이크로 구성된 마이크부(120)가 구비되고, 상기 마이크는 사용자가 음성을 통해 이야기하는 바를 음성으로 인식하는 장치이다. 상기 마이크는 웨어러블 수화통역장치(700)에 장착되거나, 개별적으로 사용되어 무선으로 연동될 수 있다. 또한, 휴대폰과 같은 스마트 단말기를 통해 마이크로 사용되는 것도 가능하다. In more detail, a microphone unit 120 configured as a microphone for recognizing a voice is provided, and the microphone is a device that recognizes what the user is talking through voice. The microphone may be mounted on the wearable sign language interpreter 700 or may be individually used to be linked wirelessly. It is also possible to use the microphone through a smart terminal such as a mobile phone.

또한, 웨어러블 수화통역장치(700)와 연결되어 텍스트를 입력하도록 입력장치부(170)가 구비된다. 상기 입력장치부(170)는 키보드, 스크린패드 또는 휴대폰과 같이 유선 및 무선으로 웨어러블 수화통역장치(700)와 연동되어 입력된 텍스트를 전달한다.In addition, the input device unit 170 is provided to be connected to the wearable sign language interpreter 700 to input text. The input device unit 170 transfers the input text by interworking with the wearable sign language interpreter 700 in a wired and wireless manner such as a keyboard, a screen pad, or a mobile phone.

따라서, 제 1 사용자인식부(710)를 통해 사용자를 인식하고, 사용자가 웨어러블 수화통역장치(700)에 음성 또는 텍스트를 인식시키면, 상기 음성텍스트인식부(720)를 통해 음성 또는 텍스트가 인식된다.Therefore, when the user is recognized through the first user recognition unit 710, and the user recognizes the voice or text by the wearable sign language interpreter 700, the voice or text is recognized by the voice text recognition unit 720. .

한편, 음성텍스트인식부(720)를 통해 인식된 음성 또는 텍스트는 음성텍스트분석부(730)를 통해 음성 또는 텍스트를 분석하게 되고, 상기 음성텍스트분석부(730)는 잡음제거부(731), 제 1 음성알고리즘부(732) 및 제 1 텍스트알고리즘부(733)를 구비한다. 상기 잡음제거부(531), 제 1 음성알고리즘부(732) 및 제 1 텍스트알고리즘부(733)의 구성은 도 1의 구성과 동일하므로, 자세한 설명은 생략하기로 한다.On the other hand, the speech or text recognized by the speech text recognition unit 720 is to analyze the speech or text through the speech text analysis unit 730, the speech text analysis unit 730 is a noise removing unit 731, A first voice algorithm portion 732 and a first text algorithm portion 733 are provided. Since the configuration of the noise removing unit 531, the first voice algorithm unit 732, and the first text algorithm unit 733 is the same as that of FIG. 1, a detailed description thereof will be omitted.

사용자가 음성텍스트인식부(720)를 통해 음성 또는 텍스트를 인식시키면, 상기 음성텍스트분석부(730)에 구비된 제 1 음성알고리즘부(732) 및 제 1 텍스트알고리즘부(733)에서 이를 알고리즘화시킨다. 이때, 사용자 마다 습관이나 버릇 등으로 인한 음성의 차이가 발생되고, 이러한 차이로 인한 오류를 감지하도록 제 1 오류감지부가 구비된다.When the user recognizes the voice or the text through the voice text recognition unit 720, the first voice algorithm unit 732 and the first text algorithm unit 733 included in the voice text analyzer 730 may algorithmize this. Let's do it. At this time, a voice difference due to a habit or a habit occurs for each user, and a first error detector is provided to detect an error due to the difference.

상기 제 1 오류감지부(734)는 사용자의 음성 또는 텍스트의 내용에 오류가 발생될 경우, 오류를 감지하도록 구비된다. 따라서, 사용자가 특정한 음성 또는 텍스트에 대해 반복적으로 오류가 발생될 경우, 이를 보정하여 표준화된 수화로 통역 가능하도록 구비된다.The first error detection unit 734 is provided to detect an error when an error occurs in the content of the voice or text of the user. Therefore, if an error occurs repeatedly for a specific voice or text, the user is provided to correct it and to translate it into a standardized sign language.

즉, 상기 제 1 사용자인식부(710)를 통해 인식된 사용자의 정보를 저장하고, 이를 통해 사용자의 습관 또는 버릇 등으로 인해 발생되는 반복적인 음성 또는 텍스트의 오류를 표준화된 수화로 통역시키도록 오류가 발생된 음성 또는 텍스트를 감지하도록 한다.In other words, the user information stored through the first user recognition unit 710 is stored, through which the error of the repetitive voice or text caused by the user's habits or habits such as to interpret the standardized sign language To detect the generated voice or text.

따라서, 제 1 오류감지부(734)를 통해 감지된 음성 또는 텍스트의 오류는 딥러닝부(790)에 구비된 변환부(792)를 통해 표준화된 음성 또는 텍스트로 변환된다. 결과적으로, 변환부(792)를 통해 변환된 음성 또는 텍스트는 이와 대응되는 수화로 통역되어 수화출력부(740)를 통해 출력하게된다. Therefore, an error of the voice or text detected by the first error detector 734 is converted into a standardized voice or text through the converter 792 included in the deep learning unit 790. As a result, the voice or text converted by the conversion unit 792 is interpreted as a sign language corresponding to this and output through the sign language output unit 740.

하나의 예로, 사용자가 제 1 사용자인식부(710)를 통해 사용자를 인식시키면 데이터베이스화된 제 1 사용자인식부(710)에서 사용자를 인식하고, 음성텍스트인식부(720)를 통해 음성을 인식시키면, 음성텍스트분석부(730)를 통해 음성을 분석하게 된다. 이때, 제 1 사용자인식부(710)에서 사용자의 습관 또는 버릇을 데이터베이스화하고, 사용자가 “A”에 대해 습관적으로 “B”로 인식시킬 경우 입력된 음성의 문맥 등을 파악하여 음성에 오류가 있음을 제 1 오류감지부(734)를 통해 파악하게 된다. 따라서, 오류가 발생된 음성은 변환부(792)를 통해서 사용자가 입력시킨 “B”로 인식되는 것이 아닌 “A”로 변환되어 인식하게 되고, 최종적으로 통역된 수화는 오류 없이 표준화된 수화로 통역된다.For example, when the user recognizes the user through the first user recognition unit 710, the database recognizes the user through the first user recognition unit 710 and recognizes the voice through the voice text recognition unit 720. The voice is analyzed through the voice text analyzer 730. At this time, the first user recognition unit 710 database the habits or habits of the user, when the user habitually recognizes the "A" as "B" to grasp the context of the input voice, etc. error in the voice The first error detection unit 734 determines that there is. Accordingly, the voice having an error is converted into “A” instead of being recognized as “B” input by the user through the conversion unit 792, and finally the sign language is interpreted as a standardized sign language without error. do.

본 발명에 따른 웨어러블 수화통역장치는 제 2 사용자인식부(750)를 포함할 수 있다.The wearable sign language interpreter according to the present invention may include a second user recognition unit 750.

보다 상세하게는, 상기 제 2 사용자인식부(750)는 웨어러블 수화통역장치(700)를 사용하는 사용자를 인식하고 사용자의 특징들을 분류하여 데이터베이스화한다. 상기 제 2 사용자인식부(750)는 사용자를 다양한 방식으로 인식할 수 있고, 바람직하게는 웨어러블 수화통역장치(700)에 구비된 카메라부(111)를 통해 사용자의 얼굴이나 수화를 감지하여 인식하거나, 입력장치를 통해 사용자가 입력하여 사용자를 인식시킬 수 있다.In more detail, the second user recognition unit 750 recognizes a user who uses the wearable sign language interpreter 700 and classifies the user features into a database. The second user recognition unit 750 may recognize the user in various ways, preferably by detecting the face or sign language of the user through the camera unit 111 provided in the wearable sign language interpreter 700 or The user can recognize the user by inputting it through the input device.

또한, 제 2 사용자인식부(750)를 통해 인식된 사용자의 수화를 인식하는 수화인식부(760)가 구비된다.In addition, a sign language recognition unit 760 for recognizing a sign language of a user recognized through the second user recognition unit 750 is provided.

보다 상세하게는, 수화를 인식할 수 있도록 카메라로 구성된 카메라부(111)가 구비되고, 상기 카메라는 사용자가 입력하는 수화를 통해 사용자의 의사를 인식하는 장치이다. 상기 카메라는 웨어러블 수화통역장치(700)에 장착되거나, 개별적으로 사용되어 무선으로 연동될 수 있다. 또한, 휴대폰과 같은 스마트 단말기를 통해 카메라로 사용되는 것도 가능하다.In more detail, a camera unit 111 configured as a camera is provided to recognize a sign language, and the camera is a device that recognizes a user's intention through a sign language input by a user. The camera may be mounted on the wearable sign language interpreter 700 or may be used separately and interlocked wirelessly. It is also possible to be used as a camera through a smart terminal such as a mobile phone.

따라서, 제 2 사용자인식부(750)를 통해 사용자를 인식하고, 사용자가 웨어러블 수화통역장치(700)에 수화를 인식시키면, 상기 수화인식부(760)를 통해 수화가 인식된다.Therefore, when the user is recognized through the second user recognition unit 750, and the user recognizes the sign language by the wearable sign language interpreter 700, the sign language is recognized by the sign language recognition unit 760.

한편, 수화인식부(760)를 통해 인식된 수화는 수화분석부(770)를 통해 수화를 분석하게 되고, 상기 수화분석부(770)는 제 2 수화알고리즘부(771)를 구비한다. 상기 제 2 수화알고리즘부(771)의 구성은 도 1의 구성과 동일하므로, 자세한 설명은 생략하기로 한다.On the other hand, the sign language recognized by the sign language recognition unit 760 analyzes the sign language through the sign language analyzer 770, and the sign language analyzer 770 includes a second sign language algorithm part 771. Since the configuration of the second sign language algorithm part 771 is the same as that of FIG. 1, a detailed description thereof will be omitted.

사용자가 수화인식부(760)를 통해 수화를 인식시키면, 제 2 수화알고리즘부(771)에서 이를 알고리즘화시킨다. 이때, 사용자 마다 습관이나 버릇 등으로 인한 수화의 차이가 발생되고, 이러한 차이로 인한 수화의 오류를 감지하도록 제 2 오류감지부(772)가 구비된다.When the user recognizes the sign language through the sign language recognition unit 760, the second sign language algorithm part 771 algorithms the sign language. At this time, a difference in sign language due to habits or habits is generated for each user, and a second error detector 772 is provided to detect a sign language error due to the difference.

상기 제 2 오류감지부(772)는 사용자의 수화의 내용에 오류가 발생될 경우, 오류를 감지하도록 구비된다. 따라서, 사용자가 특정한 수화에 대해 반복적으로 오류가 발생될 경우, 이를 보정하여 표준화된 수화로 통역 가능하도록 구비된다.The second error detection unit 772 is provided to detect an error when an error occurs in the content of the sign language of the user. Therefore, if an error occurs repeatedly for a particular sign language, the user is provided to correct the standardized sign language.

즉, 상기 제 2 사용자인식부(750)를 통해 인식된 사용자의 정보를 저장하고, 이를 통해 사용자의 습관 또는 버릇 등으로 인해 발생되는 반복적인 수화의 오류를 표준화된 음성 또는 텍스트로 통역시키도록 오류가 발생된 수화를 감지하도록 한다.In other words, the user information stored through the second user recognition unit 750 is stored, through which the error of repetitive sign language caused by the user's habits or habits such as to translate the standardized voice or text To detect the generated sign language.

따라서, 제 2 오류감지부(772)를 통해 감지된 수화의 오류는 딥러닝부(790)에 구비된 변환부(792)를 통해 표준화된 수화로 변환된다. 결과적으로, 변환부(792)를 통해 변환된 수화는 이와 대응되는 음성 또는 텍스트로 통역되어 음성텍스트출력부(780)를 통해 출력하게 된다.Accordingly, the sign language error detected by the second error detector 772 is converted into standardized sign language through the converter 792 included in the deep learning unit 790. As a result, the sign language converted by the converter 792 is interpreted as a voice or text corresponding thereto and output through the voice text output unit 780.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.The foregoing description of the present invention is intended for illustration, and it will be understood by those skilled in the art that the present invention may be easily modified in other specific forms without changing the technical spirit or essential features of the present invention. will be. Therefore, it should be understood that the embodiments described above are exemplary in all respects and not restrictive. For example, each component described as a single type may be implemented in a distributed manner, and similarly, components described as distributed may be implemented in a combined form.

본 발명의 범위는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is represented by the following claims, and it should be construed that all changes or modifications derived from the meaning and scope of the claims and their equivalents are included in the scope of the present invention.

200, 700: 웨어러블 수화통역장치
110, 310: 몸체부
111, 311: 카메라부
120, 320: 마이크부
140, 340: 스피커부
150, 350: 로봇팔
160, 360: 모니터부
170, 370: 입력장치부
200, 700: wearable sign language interpreter
110, 310: body part
111, 311: camera section
120, 320: microphone section
140, 340: speaker unit
150, 350: robotic arm
160, 360: monitor
170, 370: input unit

Claims (9)

사용자의 몸에 장착되도록 구비된 몸체부;
상기 몸체부와 연결된 마이크를 통해 외부에서 발생되는 음성을 인식하는 마이크부;
상기 몸체부와 연결된 입력장치를 통해 텍스트를 인식하는 입력장치부;
상기 마이크부 또는 입력장치부로부터 인식된 음성 또는 텍스트를 인공지능을 통해 분석하는 음성텍스트분석부;
상기 음성텍스트분석부에서 분석된 음성 또는 텍스트를 기반으로 음성 또는 텍스트와 대응되는 수화를 출력하는 수화출력부;
상기 몸체부에 구비된 카메라를 통해 상기 몸체부를 장착한 사용자의 손 움직임을 감지하고, 감지되는 수화를 인식하는 카메라부;
상기 카메라부로부터 인식된 수화를 인공지능을 통해 분석하는 수화분석부;
상기 수화분석부를 통해 분석된 수화를 기반으로 수화에 대응되는 음성 또는 텍스트를 출력하는 음성텍스트출력부;
상기 음성텍스트출력부로부터 수화에 대응되는 음성을 스피커로 출력하는 스피커부; 및
상기 음성텍스트출력부로부터 수화에 대응되는 텍스트를 모니터로 출력하는 모니터부;
상기 카메라부를 통해 사용자의 얼굴을 감지하여 인식하거나, 마이크부를 통해 사용자의 음성을 감지하여 인식하거나, 또는 입력장치를 통해 사용자가 입력하여 사용자를 인식하고 사용자의 특징들을 분류하여 데이터베이스화하도록 구비된 제 1 사용자인식부;
상기 제 1 사용자인식부를 통해 인식된 사용자의 음성 또는 텍스트의 내용에 오류가 발생될 경우, 오류를 감지하고, 사용자에 의해 특정한 음성 또는 텍스트가 반복적으로 오류가 발생될 경우, 이를 보정하여 표준화된 수화로 통역하도록 구비된 제 1 오류감지부;
상기 카메라부를 통해 사용자의 얼굴이나 수화를 감지하여 인식하거나, 입력장치를 통해 사용자가 입력하여 사용자를 인식하고 사용자의 특징들을 분류하여 데이터베이스화하도록 구비된 제 2 사용자인식부; 및
상기 제 2 사용자인식부를 통해 인식된 사용자의 수화의 내용에 오류가 발생될 경우, 오류를 감지하고, 사용자에 의해 특정한 수화가 반복적으로 오류가 발생될 경우, 이를 보정하여 표준화된 음성 또는 텍스트로 통역하도록 구비된 제 2 오류감지부;
를 포함하는 것을 특징으로 하는 웨어러블 수화통역장치.
Body portion provided to be mounted to the user's body;
A microphone unit recognizing an externally generated voice through a microphone connected to the body unit;
An input device unit recognizing text through an input device connected to the body unit;
A voice text analysis unit for analyzing the voice or text recognized by the microphone unit or the input unit through artificial intelligence;
A sign language output unit that outputs a sign language corresponding to the voice or text based on the voice or text analyzed by the voice text analyzer;
A camera unit for detecting a hand movement of the user equipped with the body unit through a camera provided in the body unit and recognizing a detected sign language;
A sign language analyzer for analyzing a sign language recognized by the camera unit through artificial intelligence;
A voice text output unit for outputting a voice or text corresponding to a sign language based on a sign language analyzed by the sign language analyzer;
A speaker unit for outputting a voice corresponding to a sign language from the voice text output unit to a speaker; And
A monitor unit for outputting text corresponding to a sign language from the voice text output unit to a monitor;
The apparatus may be configured to detect and recognize a user's face through the camera unit, to detect and recognize a user's voice through a microphone unit, or to input a user through an input device to recognize the user and classify the user's features into a database. 1 user recognition unit;
If an error occurs in the contents of the voice or text of the user recognized by the first user recognition unit, the error is detected, and if a specific voice or text is repeatedly generated by the user, the error is corrected and standardized sign language A first error detection unit provided to translate into;
A second user recognition unit configured to detect and recognize a face or a sign language of the user through the camera unit, or to recognize the user by inputting the user through an input device, and to classify and classify the user features; And
If an error occurs in the content of the user's sign language recognized by the second user recognition unit, the error is detected, and if a specific sign language is repeatedly generated by the user, the error is corrected and interpreted as a standardized voice or text. A second error detection unit provided to make;
Wearable sign language interpreter comprising a.
제 1 항에 있어서, 상기 음성텍스트분석부는,
상기 마이크부를 통해 인식된 음성에 포함된 잡음을 제거하는 잡음제거부; 및
상기 잡음제거부를 통해 잡음이 제거된 음성에 대응되는 수화로 변환하도록 인공지능을 통해 음성을 알고리즘화하는 제 1 음성알고리즘부;
상기 입력장치부를 통해 입력된 텍스트와 대응되는 수화로 변환하도록 인공지능을 통해 텍스트를 알고리즘화하는 제 1 텍스트알고리즘부;
를 포함하는 것을 특징으로 하는 웨어러블 수화통역장치.
The method of claim 1, wherein the voice text analysis unit,
A noise removing unit for removing noise included in the voice recognized by the microphone unit; And
A first speech algorithm unit for algorithmizing the speech through artificial intelligence to convert the speech into a sign language corresponding to the speech from which the noise is removed;
A first text algorithm unit which algorithms the text through artificial intelligence so as to convert a sign language corresponding to the text input through the input device unit;
Wearable sign language interpreter comprising a.
제 2 항에 있어서, 상기 수화출력부는,
상기 제 1 음성알고리즘부 및 상기 제 1 텍스트알고리즘부를 통해 알고리즘화된 음성 또는 텍스트에 기초하여 음성 또는 텍스트와 대응되는 수화를 인공지능을 통해 알고리즘화하는 제 1 수화알고리즘부가 구비되고, 상기 수화출력부는 상기 제 1 수화알고리즘부를 통해 알고리즘화된 수화를 주위 다수에게 전달하도록 모니터로 출력하는 것을 특징으로 하는 것을 특징으로 하는 웨어러블 수화통역장치.
The method of claim 2, wherein the sign language output unit,
A first sign language algorithm is provided to artificially algorithmic a sign language corresponding to a voice or text based on the voice or text algorithmized through the first voice algorithm unit and the first text algorithm unit, and the sign language output unit is provided. Wearable sign language interpreter, characterized in that for outputting to the monitor to pass the algorithm for the sign language through the first sign language algorithm.
제 1 항에 있어서, 상기 수화분석부는,
카메라를 통해 감지된 수화에 대응되는 음성 또는 텍스트로 변환하도록 인공지능을 통해 수화를 알고리즘화하는 제 2 수화알고리즘부가 구비된 것을 특징으로 하는 웨어러블 수화통역장치.
The method of claim 1, wherein the sign language analyzer,
The wearable sign language interpreter, characterized in that the second sign language algorithm for converting the sign language through the artificial intelligence to convert the speech or text corresponding to the sign language detected by the camera.
제 4 항에 있어서, 상기 음성텍스트출력부는,
상기 제 2 수화알고리즘부를 통해 알고리즘화된 수화에 기초하여 수화내용과 대응되는 음성을 인공지능을 통해 알고리즘화하는 제 2 음성알고리즘부; 및
상기 제 2 수화알고리즘부를 통해 알고리즘화된 수화에 기초하여 수화내용과 대응되는 텍스트를 인공지능을 통해 알고리즘화하는 제 2 텍스트알고리즘부;
를 포함하는 것을 특징으로 하는 웨어러블 수화통역장치.
The method of claim 4, wherein the voice text output unit,
A second voice algorithm unit which algorithms a voice corresponding to a sign language content through artificial intelligence based on a sign language algorithmized through the second sign language algorithm unit; And
A second text algorithm unit which algorithms the text corresponding to the sign language content through artificial intelligence based on the sign language algorithmized through the second sign language algorithm unit;
Wearable sign language interpreter comprising a.
제 5 항에 있어서, 상기 제 2 음성알고리즘부는 알고리즘화된 음성을 상기 스피커부를 통해 출력하고, 상기 제 2 텍스트알고리즘부는 알고리즘화된 텍스트를 상기 모니터부를 통해 출력하는 것을 특징으로 하는 웨어러블 수화통역장치.
The wearable sign language interpreter of claim 5, wherein the second voice algorithm unit outputs an algorithmized voice through the speaker unit, and the second text algorithm unit outputs an algorithmized text through the monitor unit.
제 1 항에 있어서, 상기 웨어러블 수화통역장치에 사용되는 인공지능이 딥러닝을 통해 수화 및 음성 또는 텍스트를 군집화하고 분류하여 알고리즘화하도록 딥러닝부가 구비된 것을 특징으로 하는 웨어러블 수화통역장치.
The wearable sign language interpreter according to claim 1, wherein the artificial intelligence used in the wearable sign language interpreter is provided with a deep learning unit to group, classify, and classify sign language, voice, or text through deep learning.
제 1 항 내지 제 7항 중 어느 한 항에 따른, 웨어러블 수화통역장치를 통해 사용자의 눈 앞에 장비하여 수화를 인식하고, 통역을 수행하도록 구비된 것을 특징으로 하는 수화통역안경.
The sign language interpreter glasses according to any one of claims 1 to 7, wherein the wearable sign language interpreter is provided in front of a user's eyes to recognize the sign language and perform an interpreter.
제 1 항 내지 제 7항 중 어느 한 항에 따른, 웨어러블 수화통역장치를 통해 사용자의 목이나 귀에 걸어 수화를 인식하고, 통역을 수행하도록 구비된 것을 특징으로 하는 수화통역팬던트.
A sign language interpreter pendant according to any one of claims 1 to 7, wherein the wearable sign language interpreter is provided to recognize a sign language and perform an interpreter on a user's neck or ear.
KR1020170167829A 2017-12-07 2017-12-07 Wearable sign language translation device KR102023356B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170167829A KR102023356B1 (en) 2017-12-07 2017-12-07 Wearable sign language translation device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170167829A KR102023356B1 (en) 2017-12-07 2017-12-07 Wearable sign language translation device

Publications (2)

Publication Number Publication Date
KR20190067663A KR20190067663A (en) 2019-06-17
KR102023356B1 true KR102023356B1 (en) 2019-09-23

Family

ID=67064666

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170167829A KR102023356B1 (en) 2017-12-07 2017-12-07 Wearable sign language translation device

Country Status (1)

Country Link
KR (1) KR102023356B1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102195401B1 (en) * 2020-10-07 2020-12-24 (주)멀틱스 hand language recognition method for hearing impairment people

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017204067A (en) * 2016-05-10 2017-11-16 株式会社オルツ Sign language conversation support system

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI276357B (en) 2002-09-17 2007-03-11 Ginganet Corp Image input apparatus for sign language talk, image input/output apparatus for sign language talk, and system for sign language translation
KR20160122869A (en) * 2015-04-14 2016-10-25 주식회사 로보테크 Apparatus for being possible language converting using robot arm
KR102450803B1 (en) * 2016-02-11 2022-10-05 한국전자통신연구원 Duplex sign language translation apparatus and the apparatus for performing the duplex sign language translation method

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017204067A (en) * 2016-05-10 2017-11-16 株式会社オルツ Sign language conversation support system

Also Published As

Publication number Publication date
KR20190067663A (en) 2019-06-17

Similar Documents

Publication Publication Date Title
US20180182396A1 (en) Multi-speaker speech recognition correction system
KR101777807B1 (en) Sign language translator, system and method
EP4131256A1 (en) Voice recognition system and method using accelerometers for sensing bone conduction
US20190355352A1 (en) Voice and conversation recognition system
US20220319538A1 (en) Voice interactive wakeup electronic device and method based on microphone signal, and medium
CN113748462A (en) Determining input for a speech processing engine
CN110428806A (en) Interactive voice based on microphone signal wakes up electronic equipment, method and medium
KR102037789B1 (en) Sign language translation system using robot
KR20160093529A (en) A wearable device for hearing impairment person
KR102291740B1 (en) Image processing system
CN110097875A (en) Interactive voice based on microphone signal wakes up electronic equipment, method and medium
US11908478B2 (en) Determining speech from facial skin movements using a housing supported by ear or associated with an earphone
Dhanjal et al. Tools and techniques of assistive technology for hearing impaired people
CN110111776A (en) Interactive voice based on microphone signal wakes up electronic equipment, method and medium
US20170024380A1 (en) System and method for the translation of sign languages into synthetic voices
US12105876B2 (en) System and method for using gestures and expressions for controlling speech applications
US20210312938A1 (en) Automatic interpretation server and method thereof
Kakde et al. A review paper on sign language recognition system for deaf and dumb people using image processing
KR102023356B1 (en) Wearable sign language translation device
KR20210100831A (en) System and method for providing sign language translation service based on artificial intelligence
KR20190059381A (en) Method for Device Control and Media Editing Based on Automatic Speech/Gesture Recognition
Patel et al. Teachable interfaces for individuals with dysarthric speech and severe physical disabilities
KR20090070325A (en) Emergency calling system and method based on multimodal information
KR20210100832A (en) System and method for providing sign language translation service based on artificial intelligence that judges emotional stats of the user
KR101906549B1 (en) A wearable device for hearing impairment person

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant