KR102585665B1 - 위험 상황 분석 및 위험 객체 수색 시스템 - Google Patents
위험 상황 분석 및 위험 객체 수색 시스템 Download PDFInfo
- Publication number
- KR102585665B1 KR102585665B1 KR1020230090343A KR20230090343A KR102585665B1 KR 102585665 B1 KR102585665 B1 KR 102585665B1 KR 1020230090343 A KR1020230090343 A KR 1020230090343A KR 20230090343 A KR20230090343 A KR 20230090343A KR 102585665 B1 KR102585665 B1 KR 102585665B1
- Authority
- KR
- South Korea
- Prior art keywords
- module
- sound
- image data
- attribute
- result
- Prior art date
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 26
- 238000001514 detection method Methods 0.000 title description 2
- 238000013473 artificial intelligence Methods 0.000 claims description 47
- 230000002159 abnormal effect Effects 0.000 claims description 40
- 238000005516 engineering process Methods 0.000 claims description 30
- 238000013528 artificial neural network Methods 0.000 claims description 12
- 238000013527 convolutional neural network Methods 0.000 claims description 12
- 230000033001 locomotion Effects 0.000 claims description 10
- 239000003086 colorant Substances 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 6
- 238000000034 method Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 13
- 238000012545 processing Methods 0.000 description 11
- 230000000694 effects Effects 0.000 description 6
- 238000010276 construction Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 238000005286 illumination Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 206010039203 Road traffic accident Diseases 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000004880 explosion Methods 0.000 description 3
- 241000269400 Sirenidae Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 239000011521 glass Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001151 other effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 230000019771 cognition Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000005336 cracking Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01J—MEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
- G01J1/00—Photometry, e.g. photographic exposure meter
- G01J1/02—Details
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B25/00—Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
- G08B25/006—Alarm destination chosen according to type of event, e.g. in case of fire phone the fire service, in case of medical emergency phone the ambulance
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B3/00—Audible signalling systems; Audible personal calling systems
- G08B3/10—Audible signalling systems; Audible personal calling systems using electric transmission; using electromagnetic transmission
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B5/00—Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied
- G08B5/22—Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied using electric transmission; using electromagnetic transmission
- G08B5/36—Visible signalling systems, e.g. personal calling systems, remote indication of seats occupied using electric transmission; using electromagnetic transmission using visible light sources
Abstract
일실시예에 따르면, 위험 상황 분석 및 위험 객체 수색 시스템에 있어서, 음향 수집 모듈, 영상 수집 모듈 및 제어 모듈을 포함하는 시스템이 제공된다.
Description
본 발명은 위험 상황 분석 및 위험 객체 수색 시스템을 제공하기 위한 기술에 관한 것이다.
일반적으로 CCTV와 같은 주변 영상을 수집하는 장치는 수동적인 장치로서 장치가 무언가를 판단하거나 결론내리지 않는다. 다급한 도움이 필요한 위험 상황이 발생한 경우에 수동적 장치의 역할은 없는 것과 마찬가지이다.
위험 상황이나 도움이 필요한 상황은 종종 발생할 수 있지만 자주 일어나는 일이 아니기에, 그러한 상황이 발생할 때까지 CCTV 영상을 실시간으로 빈틈없이 계속 확인하는 것은 매우 어려운 일이다.
따라서 능동적으로 판단하고 원하는 정보를 바탕으로 빠르게 타겟을 추적할 수 있는 시스템에 대한 요구가 점점 커지고 있다.
일실시예에 따르면, 위험 상황 분석 및 위험 객체 수색 시스템에 있어서, 음향 수집 모듈; 영상 수집 모듈; 및 제어 모듈을 포함하는, 시스템을 제공하기 위한 것을 그 목적으로 한다.
또한, 상기 패턴 분석을 통한 상황 판단 시스템은, 디스플레이 모듈; 경고음 모듈; 경고등 모듈; 라이트 모듈 및 조도 센서;를 더 포함하고, 상기 제어 모듈은, 상기 음향 수집 모듈로부터 획득한 주변 음향인 제1 음향 데이터에 CNN(Convolutional Neural Network) 기술을 적용하여 노이즈와 음성 신호를 제거한 제2 음향 데이터를 획득하고, 상기 제2 음향 데이터에서 특정 임계치 이상의 특이 음향을 감지한 경우, 상기 영상 수집 모듈로부터 제1 영상 데이터를 획득하고, 상기 제1 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제1 영상 데이터 내의 객체를 추출 및 분석하고, 상기 제2 음향 데이터를, 음향의 파장 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제1 인공지능 모델에 입력하여 제1 결과를 출력하고, 상기 객체를 추출 및 분석한 제1 영상 데이터를, 객체의 동작 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제2 인공지능 모델에 입력하여 제2 결과를 출력하고, 상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황이 포함되는 경우, 상기 제1 결과와 제2 결과를 바탕으로 제1 종합 상황을 생성하고, 상기 디스플레이 모듈을 제어하여, 상기 제1 종합 상황을 표시하고, 상기 경고음 모듈을 제어하여, 경고음을 발생하고, 상기 경고등 모듈을 제어하여, 경고등을 작동하고, 상기 조도 센서의 값을 바탕으로 현재 조도를 측정하고, 상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제2 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사하고, 긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제1 종합 상황, 제2 음향 데이터, 제1 영상 데이터를 전송하고, 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황 판단이 포함되지 않는 경우, 상기 특이 음향을 감지한 시점의 10초 이전부터 상기 특이 음향을 감지한 시점까지의 제2 영상 데이터를 획득하고, 상기 제2 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제2 영상 데이터 내의 객체를 추출 및 분석하고, 상기 객체를 추출 및 분석한 제2 영상 데이터를, 상기 제2 인공지능 모델에 입력하여 제3 결과를 출력하고, 상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제3 결과에 상기 제2 인공지능 모델이 판단한 제3 이상 상황이 포함되는 경우, 상기 제1 결과와 제3 결과를 바탕으로 제2 종합 상황을 생성하고, 상기 디스플레이 모듈을 제어하여, 상기 제2 종합 상황을 표시하고, 상기 경고음 모듈을 제어하여, 경고음을 발생하고, 상기 경고등 모듈을 제어하여, 경고등을 작동하고, 상기 조도 센서의 값을 바탕으로 현재 조도를 측정하고, 상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제3 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사하고, 긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제2 종합 상황, 제2 음향 데이터, 제1 영상 데이터, 제2 영상 데이터를 전송하는, 시스템을 제공하기 위한 것을 그 목적으로 한다.
상기 패턴 분석을 통한 상황 판단 시스템은, 입력 모듈을 더 포함하고, 상기 제어 모듈은, 상기 입력 모듈을 통해 수색 타겟의 옷차림, 키, 수색하려는 기간을 포함하는 수색 타겟 정보를 획득하고, 상기 수색 타겟 정보의 각 속성을 범주형 또는 수치형으로 구분하고, 상기 수색하려는 기간 이내의 제3 영상 데이터를 획득하고, 상기 제3 영상 데이터에 OpenCV-DNN(Open source Computer Vision-Deep Neural Network) 기술을 적용하여 상기 제3 영상 데이터 내의 객체를 추출하고, 상기 제3 영상 데이터 내에서 추출된 복수의 객체의 크기, 영역별 색채, 상기 영역별 크기를 포함하는 객체 정보를 생성하고, 상기 복수의 객체 정보의 각 속성을 범주형 또는 수치형으로 구분하고, 상기 수색 타겟의 옷차림 중 상하의 색채 또는 상기 복수의 객체의 영역별 색채 중 상단 및 하단 영역의 색체를 제1 속성이라 하고, 상기 수색 타겟의 옷차림 중 신발의 색채 또는 상기 복수의 객체의 영역별 색채 중 최하단 영역의 색체를 제2 속성이라 하고, 상기 수색 타겟의 키 또는 상기 복수의 객체의 세로 길이를 제3 속성이라고 할 때, 상기 범주형은 상기 제1 속성 또는 제2 속성 중 적어도 어느 하나에 상응하고, 상기 수치형은 상기 제3 속성에 상응하고,
[수학식 1]
[수학식 2]
상기 [수학식 1]에 기반하여 상기 수색 타겟의 정보와 i번째 객체 정보 사이의 제1 유사도(Sto_i)를 산출하되, w_im은 m번째 속성이 상기 수색 타겟의 정보와 i번째 객체 정보에 모두 포함되는 경우에는 1, 아닌 경우에는 0으로 설정하며, p는 상기 수색 타겟의 정보와 i번째 객체 정보 각각에 포함되는 속성의 개수 중 최대값에 상응하고, 제2 유사도(Sto_im)는, 상기 m번째 속성이 상기 범주형인 경우, 상기 제1 속성 또는 상기 제2 속성이 동일하면 1, 상이하면 0으로 설정되고, 상기 m번째 속성이 상기 수치형인 경우, [수학식 2]와 상기 수색 타겟의 정보의 속성 수치값(x_m)과 i번째 객체 정보의 속성 수치값(x_im)에 기반하여 산출되고, max(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최대값에 상응하고, min(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최소값에 상응하고, 상기 제1 유사도가 가장 높은 순서로, 상기 복수의 객체 정보 중에서 적어도 하나의 객체 정보를 선택하고, 상기 선택된 적어도 하나의 구인 고용 정보를 상기 디스플레이 모듈에 표시하는, 시스템을 제공하기 위한 것을 그 목적으로 한다.
이로써, 수집한 음향 데이터와 영상 데이터를 분석하여 능동적으로 현재 상황을 판단할 수 있고, 위험 상황 발생 시 즉각적인 도움을 제공할 수 있고, 수색하고자 하는 타겟의 정보를 바탕으로 빠르게 타겟을 추적할 수 있는 효과가 있다.
본 발명의 목적은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 또 다른 목적들은 아래의 기재로부터 명확하게 이해될 수 있을 것이다.
일실시예에 따르면, 위험 상황 분석 및 위험 객체 수색 시스템에 있어서, 음향 수집 모듈; 영상 수집 모듈; 및 제어 모듈을 포함하는, 시스템이 제공된다.
또한, 상기 패턴 분석을 통한 상황 판단 시스템은, 디스플레이 모듈; 경고음 모듈; 경고등 모듈; 라이트 모듈 및 조도 센서;를 더 포함하고, 상기 제어 모듈은, 상기 음향 수집 모듈로부터 획득한 주변 음향인 제1 음향 데이터에 CNN(Convolutional Neural Network) 기술을 적용하여 노이즈와 음성 신호를 제거한 제2 음향 데이터를 획득하고, 상기 제2 음향 데이터에서 특정 임계치 이상의 특이 음향을 감지한 경우, 상기 영상 수집 모듈로부터 제1 영상 데이터를 획득하고, 상기 제1 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제1 영상 데이터 내의 객체를 추출 및 분석하고, 상기 제2 음향 데이터를, 음향의 파장 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제1 인공지능 모델에 입력하여 제1 결과를 출력하고, 상기 객체를 추출 및 분석한 제1 영상 데이터를, 객체의 동작 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제2 인공지능 모델에 입력하여 제2 결과를 출력하고, 상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황이 포함되는 경우, 상기 제1 결과와 제2 결과를 바탕으로 제1 종합 상황을 생성하고, 상기 디스플레이 모듈을 제어하여, 상기 제1 종합 상황을 표시하고, 상기 경고음 모듈을 제어하여, 경고음을 발생하고, 상기 경고등 모듈을 제어하여, 경고등을 작동하고, 상기 조도 센서의 값을 바탕으로 현재 조도를 측정하고, 상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제2 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사하고, 긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제1 종합 상황, 제2 음향 데이터, 제1 영상 데이터를 전송하고, 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황 판단이 포함되지 않는 경우, 상기 특이 음향을 감지한 시점의 10초 이전부터 상기 특이 음향을 감지한 시점까지의 제2 영상 데이터를 획득하고, 상기 제2 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제2 영상 데이터 내의 객체를 추출 및 분석하고, 상기 객체를 추출 및 분석한 제2 영상 데이터를, 상기 제2 인공지능 모델에 입력하여 제3 결과를 출력하고, 상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제3 결과에 상기 제2 인공지능 모델이 판단한 제3 이상 상황이 포함되는 경우, 상기 제1 결과와 제3 결과를 바탕으로 제2 종합 상황을 생성하고, 상기 디스플레이 모듈을 제어하여, 상기 제2 종합 상황을 표시하고, 상기 경고음 모듈을 제어하여, 경고음을 발생하고, 상기 경고등 모듈을 제어하여, 경고등을 작동하고, 상기 조도 센서의 값을 바탕으로 현재 조도를 측정하고, 상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제3 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사하고, 긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제2 종합 상황, 제2 음향 데이터, 제1 영상 데이터, 제2 영상 데이터를 전송하는, 시스템을 제공할 수 있다.
또한, 상기 패턴 분석을 통한 상황 판단 시스템은, 입력 모듈을 더 포함하고, 상기 제어 모듈은, 상기 입력 모듈을 통해 수색 타겟의 옷차림, 키, 수색하려는 기간을 포함하는 수색 타겟 정보를 획득하고, 상기 수색 타겟 정보의 각 속성을 범주형 또는 수치형으로 구분하고, 상기 수색하려는 기간 이내의 제3 영상 데이터를 획득하고, 상기 제3 영상 데이터에 OpenCV-DNN(Open source Computer Vision-Deep Neural Network) 기술을 적용하여 상기 제3 영상 데이터 내의 객체를 추출하고, 상기 제3 영상 데이터 내에서 추출된 복수의 객체의 크기, 영역별 색채, 상기 영역별 크기를 포함하는 객체 정보를 생성하고, 상기 복수의 객체 정보의 각 속성을 범주형 또는 수치형으로 구분하고, 상기 수색 타겟의 옷차림 중 상하의 색채 또는 상기 복수의 객체의 영역별 색채 중 상단 및 하단 영역의 색체를 제1 속성이라 하고, 상기 수색 타겟의 옷차림 중 신발의 색채 또는 상기 복수의 객체의 영역별 색채 중 최하단 영역의 색체를 제2 속성이라 하고, 상기 수색 타겟의 키 또는 상기 복수의 객체의 세로 길이를 제3 속성이라고 할 때, 상기 범주형은 상기 제1 속성 또는 제2 속성 중 적어도 어느 하나에 상응하고, 상기 수치형은 상기 제3 속성에 상응하고,
[수학식 1]
[수학식 2]
상기 [수학식 1]에 기반하여 상기 수색 타겟의 정보와 i번째 객체 정보 사이의 제1 유사도(Sto_i)를 산출하되, w_im은 m번째 속성이 상기 수색 타겟의 정보와 i번째 객체 정보에 모두 포함되는 경우에는 1, 아닌 경우에는 0으로 설정하며, p는 상기 수색 타겟의 정보와 i번째 객체 정보 각각에 포함되는 속성의 개수 중 최대값에 상응하고, 제2 유사도(Sto_im)는, 상기 m번째 속성이 상기 범주형인 경우, 상기 제1 속성 또는 상기 제2 속성이 동일하면 1, 상이하면 0으로 설정되고, 상기 m번째 속성이 상기 수치형인 경우, [수학식 2]와 상기 수색 타겟의 정보의 속성 수치값(x_m)과 i번째 객체 정보의 속성 수치값(x_im)에 기반하여 산출되고, max(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최대값에 상응하고, min(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최소값에 상응하고, 상기 제1 유사도가 가장 높은 순서로, 상기 복수의 객체 정보 중에서 적어도 하나의 객체 정보를 선택하고, 상기 선택된 적어도 하나의 구인 고용 정보를 상기 디스플레이 모듈에 표시하는, 시스템을 제공할 수 있다.
일실시예에 따르면, 위험 상황 분석 및 위험 객체 수색 시스템을 제공함으로써, 수집한 음향 데이터와 영상 데이터를 분석하여 능동적으로 현재 상황을 판단할 수 있는 효과가 있다.
또한, 위험 상황 발생 시 즉각적인 도움을 제공할 수 있는 효과가 있다.
또한, 현재 조도가 어두우면 추출한 객체에 직진성 라이트를 조사하여 위험 원인인 객체에는 경고할 수 있고, 위험에 처한 객체는 보호할 수 있는 효과가 있다.
또한, 수색하고자 하는 타겟의 정보를 바탕으로 빠르게 타겟을 추적할 수 있는 효과가 있다.
한편, 실시예들에 따른 효과들은 이상에서 언급한 것으로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 해당 기술 분야의 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.
도 1은 일실시예에 따른 위험 상황 분석 및 위험 객체 수색 시스템의 구성을 개략적으로 나타낸 개념도이다.
도 2는 일실시예에 따른 제1 종합 상황을 생성하는 과정을 설명하기 위한 순서도이다.
도 3은 일실시예에 따른 이상 상황 발생 판단 후 과정을 설명하기 위한 도면이다.
도 4는 일실시예에 따른 특이 음향 감지 시점의 직전 영상을 분석하는 과정을 설명하기 위한 순서도이다.
도 5는 일실시예에 따른 하는 이상 상황 발생 판단 후 과정을 설명하기 위한 순서도이다.
도 2는 일실시예에 따른 제1 종합 상황을 생성하는 과정을 설명하기 위한 순서도이다.
도 3은 일실시예에 따른 이상 상황 발생 판단 후 과정을 설명하기 위한 도면이다.
도 4는 일실시예에 따른 특이 음향 감지 시점의 직전 영상을 분석하는 과정을 설명하기 위한 순서도이다.
도 5는 일실시예에 따른 하는 이상 상황 발생 판단 후 과정을 설명하기 위한 순서도이다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 실시될 수 있다. 따라서, 실시예들은 특정한 개시형태로 한정되는 것이 아니며, 본 명세서의 범위는 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
실시예들은 퍼스널 컴퓨터, 랩톱 컴퓨터, 태블릿 컴퓨터, 스마트 폰, 텔레비전, 스마트 가전 기기, 지능형 자동차, 키오스크, 웨어러블 장치 등 다양한 형태의 제품으로 구현될 수 있다.
실시예에서 인공지능(Artificial Intelligence, AI) 시스템은 방대한 입력 데이터를 바탕으로 기계가 스스로 학습하고 판단할 수 있다. 인공지능 시스템은 학습이 쌓일수록 인식률과 이해도가 향상될 수 있어, 기존 규칙 기반의 스마트 시스템은 점차 심층 학습(Deep Learning) 기반 인공지능 시스템으로 대체되고 있다.
인공지능 기술은 기계 학습 및 기계 학습을 활용한 요소기술들로 구성된다. 기계 학습은 입력 데이터들의 특징을 스스로 분류/학습하는 알고리즘 기술이며, 요소기술은 심층 학습 등의 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 기술로서, 언어적 이해, 시각적 이해, 추론/예측, 지식 표현, 동작 제어 등의 기술 분야로 구성된다.
인공지능 기술이 응용되는 다양한 분야는 다음과 같다. 언어적 이해는 인간의 언어/문자를 인식하고 응용/처리하는 기술로서, 자연어 처리, 기계 번역, 대화시스템, 질의 응답, 음성 인식/합성 등을 포함한다. 시각적 이해는 사물을 인간의 시각처럼 인식하여 처리하는 기술로서, 객체 인식, 객체 추적, 영상 검색, 사람 인식, 장면 이해, 공간 이해, 영상 개선 등을 포함한다. 추론 예측은 정보를 판단하여 논리적으로 추론하고 예측하는 기술로서, 지식/확률 기반 추론, 최적화 예측, 선호 기반 계획, 추천 등을 포함한다. 지식 표현은 인간의 경험정보를 지식데이터로 자동화 처리하는 기술로서, 지식 구축(데이터 생성/분류), 지식 관리(데이터 활용) 등을 포함한다. 동작 제어는 차량의 자율 주행, 로봇의 움직임을 제어하는 기술로서, 움직임 제어(항법, 충돌, 주행), 조작 제어(행동 제어) 등을 포함한다.
도 1은 일실시예에 따른 패턴 분석을 통한 상황 판단 시스템의 구성을 개략적으로 나타낸 개념도이다.
도 1을 참조하면, 일실시예로서 본 발명에 따른 패턴 분석을 통한 상황 판단 시스템은, 음향 수집 모듈(100), 영상 수집 모듈(200) 및 제어 모듈(300)을 포함할 수 있다.
또한, 일실시예로서 상기 패턴 분석을 통한 상황 판단 시스템은, 디스플레이 모듈(400), 경고음 모듈(500), 경고등 모듈(600), 라이트 모듈(700), 조도 센서(800) 및 입력모듈(900)를 더 포함할 수 있다.
상기 음향 수집 모듈(100)은 주변 음향을 수집할 수 있다. 음원을 추적하기 위하여 복수의 음향 수집 모듈을 포함할 수도 있다. 각 음향 수집 모듈에서 수집된 음향 데이터의 위상 차이를 바탕으로 음원의 방향을 산출할 수 있다.
상기 영상 수집 모듈(200)은 영상을 수집할 수 있다. 시야각이 넓고 사각지대가 좁은 영상 수집 모듈을 사용할 수 있고 360도 영상 수집 장치를 사용할 수도 있다. 영상의 왜곡을 해결하기 위하여 수집한 영상을 후처리하여 촬영 각도별로 영상을 나누어 저장할 수도 있다. 또는, 상기 영상 수집 모듈이 360도 주변 영상을 획득할 수 있도록 회전 구동 장치를 더 포함할 수 있다.
일실시예로서 상기 제어 모듈(300)은 상기 복수의 음향 수집 모듈이 산출한 음원의 방향을 바탕으로 상기 영상 수집 모듈의 회전 구동 장치를 작동시켜 음원이 존재하는 영역의 영상 데이터를 획득할 수 있다.
상기 제어 모듈(300)은 상기 음향 수집 모듈과 영상 수집 모듈을 제어할 수 있고, 상기 음향 수집 모듈과 영상 수집 모듈로부터 음향 데이터 및 영상 데이터를 획득할 수 있다. 또한, 디스플레이 모듈(400), 경고음 모듈(500), 경고등 모듈(600), 라이트 모듈(700)의 작동을 제어할 수 있고, 조도 센서(800)로부터 조도 센서 값을 획득하고 입력모듈(900)로부터 수색하려는 타겟의 정보를 획득할 수 있다.
또한, 상기 제어 모듈(300)은 상기 음향 수집 모듈(100), 영상 수집 모듈(200), 조도 센서(800), 입력 모듈(900)로부터 획득한 데이터들을 저장하기 위한 저장부(미도시)와 데이터 송수신을 위한 통신부(미도시)를 더 포함할 수도 있다. 그리고 여러 데이터들의 값을 처리하기 위한 연산부(미도시)를 더 포함할 수도 있다.
일실시예로서, 상기 제어 모듈(300)은 상기 음향 수집 모듈(100)과 영상 수집 모듈(200)이 설치된 장소가 아닌 서버실과 같은 외부 장소에 설치될 수 있다. 또는 클라우드 컴퓨터나 로컬 서버 내에 포함될 수도 있다.
또한, 상기 저장부, 클라우드 컴퓨터, 로컬 서버내에, 후술할 음향의 파장 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제1 인공지능 모델과, 후술할 객체의 동작 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제2 인공지능 모델을 포함할 수 있다. 그리고 상기 제1 인공지능 모델을 학습시키는 제1 학습부와 제2 인공지능 모델을 학습시키는 제2 학습부를 더 포함할 수도 있다.
도 2는 일실시예에 따른 제1 종합 상황을 생성하는 과정을 설명하기 위한 순서도이다.
도 2를 참조하면, 일실시예로서 본 발명에 따른 패턴 분석을 통한 상황 판단 시스템의 상기 제어 모듈(300)은 S201 단계에서, 상기 음향 수집 모듈로부터 획득한 주변 음향인 제1 음향 데이터에 CNN(Convolutional Neural Network) 기술을 적용하여 노이즈와 음성 신호를 제거한 제2 음향 데이터를 획득할 수 있다. CNN(합성곱 신경망) 알고리즘은 데이터의 특징을 추출하여 특징들의 패턴을 파악할 수 있다. 데이터의 특징을 추출하는 Convolution Layer와, 상기 Convolution 과정을 거친 레이어의 사이즈를 줄이고 노이즈를 상쇄시키며 미세한 부분에서 일관적인 특징을 제공하는 Pooling Layer를 여러층 복합적으로 구성한 알고리즘이다.
일실시예로서, 상기 제어 모듈은 S202 단계에서, 상기 제2 음향 데이터에서 특정 임계치 이상의 특이 음향을 감지한 경우, 상기 영상 수집 모듈로부터 제1 영상 데이터를 획득할 수 있다.
상기 노이즈와 음성 신호를 제거한 제2 음향 데이터에서 감지할 수 있는 특정 임계치 이상의 특이 음향은, 예를 들면 비명, 고함, 충격음, 충돌음, 폭발음, 차량 급정지음, 금가속음, 화재경보음, 유리파손음, 사이렌소리, 천둥소리, 빗소리, 공사소음 등일 수 있다. 상기 천둥소리, 빗소리, 공사소음 등은 학습하여 상기 제2 음향 데이터에서 제거할 수도 있다.
일실시예로서, 상기 제어 모듈은 S203 단계에서, 상기 제1 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제1 영상 데이터 내의 객체를 추출 및 분석할 수 있다. DNN은 인공지능 모델 내에 은닉층(Hidden Layer)을 다중 포함하고, 객체를 분류하기 위해 적절한 가중치를 주어 분류 모델을 생성할 수 있다. DNN 알고리즘은 빅데이터를 바탕으로 수많은 반복 학습을 시행하여 적절한 가중치를 찾을 수 있다. 제1 영상 데이터를 OpenCV-DNN에 입력하고 상기 제1 영상 데이터 내에서 객체를 검출할 수 있다.
상기 제1 영상 데이터 내에서 객체를 추출하고 상기 객체를 분석하여 객체의 종류, 예를 들면 사람, 차량, 동물 등으로 분류할 수 있다.
또한, 상기 제어 모듈은 S204 단계에서 상기 제2 음향 데이터를, 음향의 파장 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제1 인공지능 모델에 입력하여 제1 결과를 출력할 수 있다. 음향의 파장 패턴에는 비명, 고함, 충격음, 충돌음, 폭발음, 차량 급정지음, 급가속음, 화재경보음, 유리파손음, 사이렌소리, 천둥소리, 빗소리, 공사소음 등이 포함될 수 있다. 다양한 음향의 파장을 빅데이터로 수많은 반복 학습으로 기학습한 딥러닝 알고리즘일 수 있다. 상기 제1 결과에는 복수의 이상 상황이 포함될 수 있다.
상기 제어 모듈은 S205 단계에서, 상기 객체를 추출 및 분석한 제1 영상 데이터를, 객체의 동작 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제2 인공지능 모델에 입력하여 제2 결과를 출력할 수 있다. 상기 객체의 동작 패턴을 바탕으로 판단할 수 있는 이상 상황은, 예를 들면 화재, 충격사고, 충돌사고, 교통사고, 싸움, 폭행, 폭발사고, 객체 사이의 추격, 객체의 쓰러짐 상태 등이 있을 수 있다. 상기 제2 결과에는 복수의 이상 상황이 포함될 수 있다.
상기 제어 모듈은 S206 단계에서 상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황이 포함되는 경우, 상기 제1 결과와 제2 결과를 바탕으로 제1 종합 상황을 생성할 수 있다. 예를 들면, 상기 제1 결과가 급정지음, 고함소리이고 상기 제2 결과가 차량 충돌사고, 화재이면 상기 제1 종합 상황은 차량 충돌 후 화재 발생 상황으로 판단할 수 있다.
도 3은 일실시예에 따른 이상 상황 발생 판단 후 과정을 설명하기 위한 도면이다.
도 3을 참조하면, 일실시예로서 본 발명에 따른 패턴 분석을 통한 상황 판단 시스템의 상기 제어 모듈은, S301 단계에서 상기 디스플레이 모듈을 제어하여, 상기 제1 종합 상황을 표시할 수 있다. 상기 디스플레이 모듈은 도로 위의 안내 전광판일 수 있다. 진행 방향의 A 거리 만큼 떨어진 위치에서 교통사고가 발생했음을 안내할 수 있다.
또한, 상기 제어 모듈은 S302 단계에서, 상기 경고음 모듈을 제어하여, 경고음을 발생할 수 있고, S303 단계에서 상기 경고등 모듈을 제어하여, 경고등을 작동할 수 있으며, S304 단계에서는 상기 조도 센서의 값을 바탕으로 현재 조도를 측정할 수 있고, 상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제2 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사할 수 있다. 예를 들어 야간에 발생한 상기 제2 결과가 싸움 발생 상황이면 싸움 발생 상황을 판단한 객체들에 상기 직진성 라이트를 조사할 수 있다. 야간에 교통사고 발생 시에는 구급 인력이 위치를 빠르게 확인할 수 있도록 보조할 수 있다.
또한 S305 단계에서 긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제1 종합 상황, 제2 음향 데이터, 제1 영상 데이터를 전송할 수 있다.
도 4는 일실시예에 따른 특이 음향 감지 시점의 직전 영상을 분석하는 과정을 설명하기 위한 순서도이다.
도 4를 참조하면, 일실시예로서 본 발명에 따른 패턴 분석을 통한 상황 판단 시스템의 상기 제어 모듈은 S401 단계에서, 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황 판단이 포함되지 않는 경우, 상기 특이 음향을 감지한 시점의 10초 이전부터 상기 특이 음향을 감지한 시점까지의 제2 영상 데이터를 획득할 수 있다. 상기 특이 음향을 감지한 순간에 상기 제1 영상 데이터로 확인할 수 있는 상황이 종료되었다면 10초 이전의 영상부터 확인하여 상황을 판단할 수 있다. 예를 들면, 차량이 보행자를 치면서 상기 제1 영상 데이터로 확인할 수 있는 범위 바깥으로 밀었다면 상기 특이 음향을 감지한 시점부터의 제1 영상 데이터로는 상황 판단이 어려울 수 있다. 따라서 10초 이전의 영상을 바탕으로 상황 판단을 내릴 수있도록 상기 제2 인공지능 모델에 재입력할 수 있다.
상기 제어모듈은 S402 단계에서, 상기 제2 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제2 영상 데이터 내의 객체를 추출 및 분석할 수 있다.
그리고 상기 제어모듈은 S403 단계에서, 상기 객체를 추출 및 분석한 제2 영상 데이터를, 상기 제2 인공지능 모델에 입력하여 제3 결과를 출력할 수 있다.
또한, 상기 제어모듈은 S404 단계에서, 상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제3 결과에 상기 제2 인공지능 모델이 판단한 제3 이상 상황이 포함되는 경우, 상기 제1 결과와 제3 결과를 바탕으로 제2 종합 상황을 생성할 수 있다. 예를 들어 상기 제1 결과가 급정지음, 고함소리이고 상기 제2 결과가 차량 충돌사고, 화재이면 상기 제1 종합 상황은 차량 충돌 후 화재 발생 상황으로 판단할 수 있다.
도 5는 일실시예에 따른 하는 이상 상황 발생 판단 후 과정을 설명하기 위한 순서도이다.
도 5를 참조하면, 일실시예로서 본 발명에 따른 패턴 분석을 통한 상황 판단 시스템의 상기 제어 모듈은 S501 단계에서, 상기 디스플레이 모듈을 제어하여, 상기 제2 종합 상황을 표시할 수 있고, S502 단계에서 상기 경고음 모듈을 제어하여, 경고음을 발생할 수 있으며, S503 단계에서 상기 경고등 모듈을 제어하여, 경고등을 작동할 수 있고, S504 단계에서 상기 조도 센서의 값을 바탕으로 현재 조도를 측정하여 상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제3 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사할 수 있다.
또한, 일실시예로서 상기 제어 모듈은 S505 단계에서, 긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제2 종합 상황, 제2 음향 데이터, 제1 영상 데이터, 제2 영상 데이터를 전송할 수 있다.
일실시예로서, 상기 패턴 분석을 통한 상황 판단 시스템은, 입력 모듈을 더 포함할 수 있다. 또한, 상기 제어 모듈은, 상기 입력 모듈을 통해 수색 타겟의 옷차림, 키, 수색하려는 기간을 포함하는 수색 타겟 정보를 획득하고, 상기 수색 타겟 정보의 각 속성을 범주형 또는 수치형으로 구분할 수 있다.
상기 수색하려는 기간 이내의 제3 영상 데이터를 획득하고, 상기 제3 영상 데이터에 OpenCV-DNN(Open source Computer Vision-Deep Neural Network) 기술을 적용하여 상기 제3 영상 데이터 내의 객체를 추출할 수 있다.
상기 제3 영상 데이터 내에서 추출된 복수의 객체의 크기, 영역별 색채, 상기 영역별 크기를 포함하는 객체 정보를 생성하고, 상기 복수의 객체 정보의 각 속성을 범주형 또는 수치형으로 구분할 수 있다.
상기 수색 타겟의 옷차림 중 상하의 색채 또는 상기 복수의 객체의 영역별 색채 중 상단 및 하단 영역의 색체를 제1 속성이라 하고, 상기 수색 타겟의 옷차림 중 신발의 색채 또는 상기 복수의 객체의 영역별 색채 중 최하단 영역의 색체를 제2 속성이라 하고, 상기 수색 타겟의 키 또는 상기 복수의 객체의 세로 길이를 제3 속성이라고 할 때, 상기 범주형은 상기 제1 속성 또는 제2 속성 중 적어도 어느 하나에 상응하고, 상기 수치형은 상기 제3 속성에 상응할 수 있다.
[수학식 1]
[수학식 2]
상기 [수학식 1]을 참조하면, 수색 타겟의 정보와 복수의 객체 정보 사이의 유사도 Sto_i는 각 속성 사이의 유사도 Sto_im과 가중치 w_im 사이의 곱을 모든 속성들(1 이상 p 이하의 개수를 갖는 속성, m)에 대하여 산출하고, 상기 산출한 값을 모든 속성들에 대한 가중치 w_im의 합으로 나눈 값일 수 있다.
상기 [수학식 1]에 기반하여 상기 수색 타겟의 정보와 i번째 객체 정보 사이의 제1 유사도 Sto_i를 산출하되, 가충치 w_im은 m번째 속성이 상기 수색 타겟의 정보와 i번째 객체 정보에 모두 포함되는 경우에는 1, 아닌 경우에는 0일 수 있다. 상기 [수학식 1]에서 속성 사이의 유사도 Sto_im은 범주형과 수치형에 따라 다르게 결정될 수도 있다. p는 상기 수색 타겟의 정보와 i번째 객체 정보 각각에 포함되는 속성의 개수 중 최대값에 상응할 수 있다.
[수학식 2]를 참조하면, 수치형에 따른 속성 사이의 유사도 Sto_im은 수색 타겟 정보의 속성값 x_m과 객체 정보의 속성값 x_im 사이의 차를 모든 수색 타겟 정보의 해당 속성값에 대한 최대값과 최소값 사이의 차분값으로 나누고 상기 나눈 값을 1에서 뺀 값일 수 있다.
제2 유사도(Sto_im)는, 상기 m번째 속성이 상기 범주형인 경우, 상기 제1 속성 또는 상기 제2 속성이 동일하면 1, 상이하면 0으로 설정되고, 상기 m번째 속성이 상기 수치형인 경우, [수학식 2]와 상기 수색 타겟의 정보의 속성 수치값(x_m)과 i번째 객체 정보의 속성 수치값(x_im)에 기반하여 산출되고, max(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최대값에 상응하고, min(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최소값에 상응할 수 있다.
상기 제1 유사도가 가장 높은 순서로, 상기 복수의 객체 정보 중에서 적어도 하나의 객체 정보를 선택하고, 상기 선택된 적어도 하나의 구인 고용 정보를 상기 디스플레이 모듈에 표시할 수 있다. 상기 디스플레이 모듈은 관리자나 담당자의 디스플레이 모듈일 수도 있다.
상기 [수학식 1]이나 [수학식 2]에 따라 유사도를 산출하는 경우, 수색 타겟 정보나 복수의 객체 정보에 포함되는 각 속성이 범주형이든 수치형이든 상관없이 유사도를 산출할 수 있다.
또한, 일실시예로서, 상기 패턴 분석을 통한 상황 판단 시스템이나 상기 제어 모듈은, 사람 얼굴의 특징을 추출하도록 기학습된 제3 인공지능 모델을 더 포함할 수 있다. 상기 유사도가 높은 순서로 선택한 복수의 객체의 얼굴 영역을 추출하여 상기 수색 타겟의 얼굴 사진의 특징을 비교하여 유사한 객체를 선택할 수 있다.
그리고 일실시예로서, 상기 패턴 분석을 통한 상황 판단 시스템은, 원격 조종 비행 장치(미도시)를 더 포함할 수 있다. 상기 원격 조종 비행 장치는 영상을 획득하는 원격 영상 획득 모듈을 포함할 수 있고, 상기 제어 모듈로부터 제어 신호를 수신하고 상기 원격 영상 획득 모듈로부터 획득한 영상을 상기 제어 모듈로 송신하는 통신 모듈이 포함될 수 있다.
일실시예로서 상기 제어 모듈은, 상기 객체를 추출 및 분석한 제1 영상 데이터나 제2 영상 데이터에서 추적 타겟을 지정할 수 있고, 상기 원격 조종 비행 장치를 원격 제어하여 상기 지정한 추적 타겟을 일정 거리를 두고 비행하여 추적할 수 있다.
*상기 패턴 분석을 통한 상황 판단 시스템은 상기 원격 조종 비행장치의 배터리가 자동 충전될 수 있는 하나 이상의 자동 충전 공간을 더 포함할 수 있고, 상기 제어 모듈은 상기 원격 조종 비행장치와 가장 가까운 자동 충전 공간 사이의 거리를 산출하고, 상기 원격 조종 비행장치의 배터리 잔여량이 상기 산출한 거리를 비행할 만큼의 배터리 양보다 5% 더 큰 경우, 상기 원격 조종 비행장치를 가까운 자동 충전 공간으로 이송시킬 수 있다.
일실시예로서, 상기 제어 모듈은 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 위치의 위험도를 산출할 수 있다.
[수학식 3]
상기 [수학식 3]에서 RL은 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소의 위험점수이고, x_1은 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소의 밀집도이며, x_2는 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소에서 발생한 인적피해사건, 차량피해사건, 시설관련사건 중 어느 하나가 발생한 총 횟수이고, x_3은 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소에서 발생한 총 이상 상황 발생 횟수일 수 있다.
상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소의 밀집도는 시간대별로 다른 값일 수 있다. 소정의 시간동안 상기 영상 수집 모듈로부터 획득한 영상 데이터에서 추출한 객체(사람, 차량)의 총 수를 상기 소정의 시간으로 나누어 구할 수 있다.
상기 [수학식 3]을 이용하여 인적피해사건 관련 위험점수, 차량피해사건 관련 위험점수, 시설관련사건 관련 위험점수를 모두 구할 수 있고, 특별히 높은 위험점수를 갖는 장소는 특이 음향을 감지하는 기준치인 특정 임계치를 낮출 수 있고, 상기 제1 인공지능 모델이 더 민감하게 이상 상황을 판단하도록 학습할 수 있다.
상기와 같이 패턴 분석을 통한 상황 판단 시스템을 제공함으로써, 수집한 음향 데이터와 영상 데이터를 분석하여 능동적으로 현재 상황을 판단할 수 있고, 위험 상황 발생 시 즉각적인 도움을 제공할 수 있으며, 현재 조도가 어둡다고 판단되면 추출한 객체에 직진성 라이트를 조사하여 위험 원인인 객체에는 경고할 수 있고, 위험에 처한 객체는 보호할 수 있으며, 수색하고자 하는 타겟의 정보를 바탕으로 빠르게 타겟을 추적할 수 있고, 원격 조종 비행장치를 이용하여 타겟을 추적할 수 있는 효과가 있다.
한편, 실시예들에 따른 효과들은 이상에서 언급한 것으로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 해당 기술 분야의 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/
*또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.
*100: 음향 수집 모듈 200: 영상 수집 모듈
300: 제어 모듈 400: 디스플레이 모듈
500: 경고음 모듈 600: 경고등 모듈
700: 라이트 모듈 800: 조도 센서
900: 입력 모듈
Claims (2)
- 위험 상황 분석 및 위험 객체 수색 시스템에 있어서,
음향 수집 모듈;
영상 수집 모듈; 및
제어 모듈을 포함하며,
위험 상황 분석 및 위험 객체 수색 시스템은,
디스플레이 모듈;
경고음 모듈;
경고등 모듈;
라이트 모듈 및
조도 센서;를 더 포함하고,
상기 제어 모듈은,
상기 음향 수집 모듈로부터 획득한 주변 음향인 제1 음향 데이터에 CNN(Convolutional Neural Network) 기술을 적용하여 노이즈와 음성 신호를 제거한 제2 음향 데이터를 획득하고,
상기 제2 음향 데이터에서 특정 임계치 이상의 특이 음향을 감지한 경우, 상기 영상 수집 모듈로부터 제1 영상 데이터를 획득하고,
상기 제1 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제1 영상 데이터 내의 객체를 추출 및 분석하고,
상기 제2 음향 데이터를, 음향의 파장 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제1 인공지능 모델에 입력하여 제1 결과를 출력하고,
상기 객체를 추출 및 분석한 제1 영상 데이터를, 객체의 동작 패턴을 바탕으로 이상 상황을 판단하도록 기학습된 제2 인공지능 모델에 입력하여 제2 결과를 출력하고,
상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황이 포함되는 경우, 상기 제1 결과와 제2 결과를 바탕으로 제1 종합 상황을 생성하고,
상기 디스플레이 모듈을 제어하여, 상기 제1 종합 상황을 표시하고,
상기 경고음 모듈을 제어하여, 경고음을 발생하고,
상기 경고등 모듈을 제어하여, 경고등을 작동하고,
상기 조도 센서의 값을 바탕으로 현재 조도를 측정하고,
상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제2 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사하고,
긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제1 종합 상황, 제2 음향 데이터, 제1 영상 데이터를 전송하고,
상기 제2 결과에 상기 제2 인공지능 모델이 판단한 제2 이상 상황 판단이 포함되지 않는 경우, 상기 특이 음향을 감지한 시점의 10초 이전부터 상기 특이 음향을 감지한 시점까지의 제2 영상 데이터를 획득하고,
상기 제2 영상 데이터에 OpenCV-DNN(Open source Computer Vision Deep Neural Network) 기술을 적용하여 상기 제2 영상 데이터 내의 객체를 추출 및 분석하고,
상기 객체를 추출 및 분석한 제2 영상 데이터를, 상기 제2 인공지능 모델에 입력하여 제3 결과를 출력하고,
상기 제1 결과에 상기 제1 인공지능 모델이 판단한 제1 이상 상황이 포함되고 상기 제3 결과에 상기 제2 인공지능 모델이 판단한 제3 이상 상황이 포함되는 경우, 상기 제1 결과와 제3 결과를 바탕으로 제2 종합 상황을 생성하고,
상기 디스플레이 모듈을 제어하여, 상기 제2 종합 상황을 표시하고,
상기 경고음 모듈을 제어하여, 경고음을 발생하고,
상기 경고등 모듈을 제어하여, 경고등을 작동하고,
상기 조도 센서의 값을 바탕으로 현재 조도를 측정하고,
상기 현재 조도가 기지정된 수치보다 어두운 경우, 상기 라이트 모듈을 제어하여 상기 제3 결과를 출력하는데 이용한 객체를 추척하여 직진성 라이트를 조사하고,
긴급 출동 센터에 상기 음향 수집 모듈이 설치된 위치, 상기 제2 종합 상황, 제2 음향 데이터, 제1 영상 데이터, 제2 영상 데이터를 전송하고,
상기 위험 상황 분석 및 위험 객체 수색 시스템은,
입력 모듈을 더 포함하고,
상기 제어 모듈은,
상기 입력 모듈을 통해 수색 타겟의 옷차림, 키, 수색하려는 기간을 포함하는 수색 타겟 정보를 획득하고, 상기 수색 타겟 정보의 각 속성을 범주형 또는 수치형으로 구분하고,
상기 수색하려는 기간 이내의 제3 영상 데이터를 획득하고, 상기 제3 영상 데이터에 OpenCV-DNN(Open source Computer Vision-Deep Neural Network) 기술을 적용하여 상기 제3 영상 데이터 내의 객체를 추출하고,
상기 제3 영상 데이터 내에서 추출된 복수의 객체의 크기, 영역별 색채, 영역별 크기를 포함하는 객체 정보를 생성하고, 상기 복수의 객체 정보의 각 속성을 범주형 또는 수치형으로 구분하고,
상기 수색 타겟의 옷차림 중 상하의 색채 또는 상기 복수의 객체의 영역별 색채 중 상단 및 하단 영역의 색체를 제1 속성이라 하고, 상기 수색 타겟의 옷차림 중 신발의 색채 또는 상기 복수의 객체의 영역별 색채 중 최하단 영역의 색체를 제2 속성이라 하고, 상기 수색 타겟의 키 또는 상기 복수의 객체의 세로 길이를 제3 속성이라고 할 때, 상기 범주형은 상기 제1 속성 또는 제2 속성 중 적어도 어느 하나에 상응하고, 상기 수치형은 상기 제3 속성에 상응하고,
[수학식 1]
[수학식 2]
상기 [수학식 1]에 기반하여 상기 수색 타겟의 정보와 i번째 객체 정보 사이의 제1 유사도(Sto_i)를 산출하되, w_im은 m번째 속성이 상기 수색 타겟의 정보와 i번째 객체 정보에 모두 포함되는 경우에는 1, 아닌 경우에는 0으로 설정하며, p는 상기 수색 타겟의 정보와 i번째 객체 정보 각각에 포함되는 속성의 개수 중 최대값에 상응하고,
제2 유사도(Sto_im)는, 상기 m번째 속성이 상기 범주형인 경우, 상기 제1 속성 또는 상기 제2 속성이 동일하면 1, 상이하면 0으로 설정되고, 상기 m번째 속성이 상기 수치형인 경우, [수학식 2]와 상기 수색 타겟의 정보의 속성 수치값(x_m)과 i번째 객체 정보의 속성 수치값(x_im)에 기반하여 산출되고, max(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최대값에 상응하고, min(x_m)은 상기 수색 타겟의 정보와 상기 복수의 객체 정보에 포함되는 상기 m번째 속성 중에서 최소값에 상응하고,
상기 제1 유사도가 가장 높은 순서로, 상기 복수의 객체 정보 중에서 적어도 하나의 객체 정보를 선택하고, 상기 선택된 적어도 하나의 객체 정보를 상기 디스플레이 모듈에 표시하고,
상기 제어 모듈은,
상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 위치의 위험 점수를 산출하여, 위험 점수가 높은 장소의 특정 임계치를 낮추되,
[수학식 3]
상기 [수학식 3]에서 RL은 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소의 위험점수이고, x_1은 상기 음향 수 집 모듈 및 영상 수집 모듈이 설치된 장소의 밀집도이며, x_2는 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소에서 발생한 인적피해사건, 차량피해사건, 시설관련사건 중 어느 하나가 발생한 총 횟수이고, x_3은 상기 음향 수집 모듈 및 영상 수집 모듈이 설치된 장소에서 발생 한 총 이상 상황 발생 횟수인,
시스템. - 삭제
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230090343A KR102585665B1 (ko) | 2023-02-16 | 2023-07-12 | 위험 상황 분석 및 위험 객체 수색 시스템 |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020230020905A KR102556447B1 (ko) | 2023-02-16 | 2023-02-16 | 패턴 분석을 통한 상황 판단 시스템 |
| KR1020230090343A KR102585665B1 (ko) | 2023-02-16 | 2023-07-12 | 위험 상황 분석 및 위험 객체 수색 시스템 |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020230020905A Division KR102556447B1 (ko) | 2023-02-16 | 2023-02-16 | 패턴 분석을 통한 상황 판단 시스템 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR102585665B1 true KR102585665B1 (ko) | 2023-10-10 |
Family
ID=87423356
Family Applications (2)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020230020905A KR102556447B1 (ko) | 2023-02-16 | 2023-02-16 | 패턴 분석을 통한 상황 판단 시스템 |
| KR1020230090343A KR102585665B1 (ko) | 2023-02-16 | 2023-07-12 | 위험 상황 분석 및 위험 객체 수색 시스템 |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020230020905A KR102556447B1 (ko) | 2023-02-16 | 2023-02-16 | 패턴 분석을 통한 상황 판단 시스템 |
Country Status (1)
| Country | Link |
|---|---|
| KR (2) | KR102556447B1 (ko) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117113065B (zh) * | 2023-10-24 | 2024-02-09 | 深圳波洛斯科技有限公司 | 一种基于声音检测的智能灯组数据管理系统及方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2012048689A (ja) * | 2010-08-30 | 2012-03-08 | Secom Co Ltd | 異常検知装置 |
| KR101308642B1 (ko) | 2008-05-30 | 2013-10-04 | 소니 컴퓨터 엔터테인먼트 아메리카 엘엘씨 | 영상 분석 및 초음파 통신을 사용하여 컨트롤러의 3 차원 위치 판단 |
| KR20160011549A (ko) * | 2014-07-22 | 2016-02-01 | 주식회사 이화글로벌 | Cctv 카메라와 조명이 연동 가능한 보안 시스템 |
| KR20200053794A (ko) * | 2018-11-09 | 2020-05-19 | 글로벌사이버대학교 산학협력단 | 인공지능 스피커를 이용하는 실시간 위기 상황 대응 시스템 |
| KR102262810B1 (ko) | 2021-03-02 | 2021-06-11 | 주식회사 아프로시스템즈 | 도로 상황에 따른 가변형 제한속도 관리시스템과 판단방법 |
| KR20210100937A (ko) | 2020-02-07 | 2021-08-18 | 주식회사 딥아이 | 이종 센서 융합을 이용한 행동 분석 장치 |
| KR102432286B1 (ko) | 2022-04-14 | 2022-08-17 | 영신기술 주식회사 | 노면상황 분석 및 염수분사 자동제어 시스템 |
-
2023
- 2023-02-16 KR KR1020230020905A patent/KR102556447B1/ko active IP Right Grant
- 2023-07-12 KR KR1020230090343A patent/KR102585665B1/ko active IP Right Grant
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101308642B1 (ko) | 2008-05-30 | 2013-10-04 | 소니 컴퓨터 엔터테인먼트 아메리카 엘엘씨 | 영상 분석 및 초음파 통신을 사용하여 컨트롤러의 3 차원 위치 판단 |
| JP2012048689A (ja) * | 2010-08-30 | 2012-03-08 | Secom Co Ltd | 異常検知装置 |
| KR20160011549A (ko) * | 2014-07-22 | 2016-02-01 | 주식회사 이화글로벌 | Cctv 카메라와 조명이 연동 가능한 보안 시스템 |
| KR20200053794A (ko) * | 2018-11-09 | 2020-05-19 | 글로벌사이버대학교 산학협력단 | 인공지능 스피커를 이용하는 실시간 위기 상황 대응 시스템 |
| KR20210100937A (ko) | 2020-02-07 | 2021-08-18 | 주식회사 딥아이 | 이종 센서 융합을 이용한 행동 분석 장치 |
| KR102262810B1 (ko) | 2021-03-02 | 2021-06-11 | 주식회사 아프로시스템즈 | 도로 상황에 따른 가변형 제한속도 관리시스템과 판단방법 |
| KR102432286B1 (ko) | 2022-04-14 | 2022-08-17 | 영신기술 주식회사 | 노면상황 분석 및 염수분사 자동제어 시스템 |
Also Published As
| Publication number | Publication date |
|---|---|
| KR102556447B1 (ko) | 2023-07-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101995107B1 (ko) | 딥 러닝을 이용한 인공지능 기반 영상 감시 방법 및 시스템 | |
| US20220157136A1 (en) | Facility surveillance systems and methods | |
| US20220164686A1 (en) | Joint processing for embedded data inference | |
| US10289934B2 (en) | Landmark localization on objects in images using convolutional neural networks | |
| US20210279603A1 (en) | Security systems and methods | |
| US11455792B2 (en) | Robot capable of detecting dangerous situation using artificial intelligence and method of operating the same | |
| KR20190083317A (ko) | 차량의 차선 변경에 관련된 알림을 제공하는 인공 지능 장치 및 그 방법 | |
| WO2008103206A1 (en) | Surveillance systems and methods | |
| US11475671B2 (en) | Multiple robots assisted surveillance system | |
| KR102585665B1 (ko) | 위험 상황 분석 및 위험 객체 수색 시스템 | |
| US20200050894A1 (en) | Artificial intelligence apparatus and method for providing location information of vehicle | |
| US20210173614A1 (en) | Artificial intelligence device and method for operating the same | |
| KR20190094294A (ko) | 교통 정보에 기반한 오토 스탑 시스템을 제어하는 인공 지능 장치 및 그 방법 | |
| KR20190095180A (ko) | 오토 스탑 시스템을 제어하는 인공 지능 장치 및 그 방법 | |
| Cavaliere et al. | Proactive UAVs for cognitive contextual awareness | |
| Nakkach et al. | Smart border surveillance system based on deep learning methods | |
| JP2018523231A5 (ko) | ||
| RU2721178C1 (ru) | Интеллектуальная автоматическая система обнаружения нарушителей | |
| KR102138006B1 (ko) | 보안 로봇 제어 방법 및 그 방법을 지원하는 장치 | |
| US20190384991A1 (en) | Method and apparatus of identifying belonging of user based on image information | |
| JP6678706B2 (ja) | 種別判定プログラム、種別判定装置及び種別判定方法 | |
| US20230304800A1 (en) | Method of augmenting human perception of the surroundings | |
| KR102549703B1 (ko) | 돌발상황 오탐지 분류 방법 및 시스템 | |
| Bein et al. | Dynamic data-driven sensor network adaptation for border control | |
| US11971972B2 (en) | Artificial intelligence apparatus and method for controlling authority to use external device based on user identification using image recognition |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |