KR20210074755A

KR20210074755A - 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템

Info

Publication number: KR20210074755A
Application number: KR1020190165787A
Authority: KR
Inventors: 김도연
Original assignee: 김도연
Priority date: 2019-12-12
Filing date: 2019-12-12
Publication date: 2021-06-22
Also published as: KR102324804B1

Abstract

특별한 통신망 구축 및 별도의 부가 장치의 설치 없이, 객체 등에 대한 식별 및 모니터링이 가능하도록 함으로써, 객체 모니터링 시스템의 구축 비용을 절감하는 기술을 제공하기 위해서, 본 발명의 일 실시예에 따른 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템은, 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 것으로서, 객체별로 마련되며, 모니터링 대상이 되는 객체 관련 정보가 저장되는 데이터 테이블인 제1 테이블과 객체의 컨텍스트 정보가 저장되는 데이터 테이블인 제2 테이블을 생성하는 데이터베이스 생성부; 객체가 포함된 영상 데이터를 수신 시, 객체를 포함하는 영역인 관심 영역을 설정하고, 설정된 관심 영역 내의 영상 데이터로부터 객체 상태 정보 추론 모델을 이용하여 객체 상태를 파악할 수 있는 정보인 객체 상태 정보를 추론한 뒤 제1 테이블에 저장하는 객체 상태 추론부; 및 객체 상태 정보의 시계열적 분석을 통해 객체의 컨텍스트 정보를 생성하고, 생성된 컨텍스트 정보를 제2 테이블에 저장하는 컨텍스트 정보 생성부;를 포함하는 것을 특징으로 한다.

Description

영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템{MONITORING SYSTEM BY GENERATING CONTEXT INFORMATION OF OBJECT IN IMAGE DATA}

본 발명은 영상 데이터 상의 동작 및 상태 감지가 필요한 동작 설비, 신호 표시 설비, 인체 등의 객체를 식별 및 모니터링하기 위한 기술에 관한 것으로, 구체적으로는 고용량 데이터의 통신 기능 및 객체 식별 및 추적 기능이 존재하지 않는 다양한 영상 촬영 기기의 촬영 결과를 객체 모니터링에 이용할 수 있고, 객체 모니터링 정보의 경량화 및 데이터베이스의 효율적인 관리가 가능하도록 하기 위한 기술에 관한 것이다.

최근 스마트 팩토리 및 관리 시스템에 적용되면서, 특정 지역 내에서 관리 대상이 되는 설비 등의 개수가 크게 증가하고 있다. 공장 또는 일반적인 영역 내에서 모니터링 대상이 되는 설비 등의 객체의 개수가 증가됨에 따라서, 해당 설비 등의 상태를 모니터링하는 데 많은 인력 및 시간이 소요되고 있다.

이에 따라서 스마트 팩토리 및 시티 등의 기술에 있어서 모니터링 대상이 되는 설비 및 장치 등에 통신망을 구축하고, 이를 이용하여 설비 및 장치의 상태를 원격에서 수신하여 감지함으로써, 설비 및 장치의 모니터링에 소요되는 인력 및 시간을 절약하기 위한 기술이 적용되고 있다.

이러한 기술들은 예를 들어, 한국 공개특허 제10-2018-0137827 등이 있는데, 이들은 관제 단말 등의 클라이언트 단말과 설비 및 장치 등의 센서 간의 통신망을 이용하면서, 설비에 설치된 센서를 이용하여 데이터를 수신하고, 이를 이용하여 설비 및 장치 등의 상태를 원격에서 모니터링하게 된다.

그러나 이러한 선행 기술 및 일반적인 기존의 설비 등의 객체 모니터링은, 원격 관제 서버와 각 객체 간의 통신망 설정, 객체에 대한 센서 설치 등에 의하여 완전히 새로운 설비를 설치해야 하거나, 기존 설비의 많은 구조를 새롭게 시공해야 하고, 이에 따라서 객체에 대한 원격 모니터링 시스템을 구축하는 데 많은 시간 및 비용이 소모되는 문제가 발생된다.

특히, 기존의 건물 또는 공장 등의 시설은 통신망을 새롭게 구축하는 것이 매우 어렵기 때문에, 이러한 기술을 실질적으로 적용하는데 많은 어려움이 있다. 이에 따라서, 기존의 건물 또는 공장 등의 시설에도 적용될 수 있고, 별도의 통신망 구축이 필요 없이 각 설비 등의 객체를 원격에서 모니터링할 수 있되, 각 객체의 동작 상태 등을 정확하고 편리하게 모니터링할 수 있는 기술에 대한 필요성이 지적되고 있다.

이에 본 발명은, 특별한 통신망 구축 및 별도의 부가 장치의 설치 없이, 객체 등에 대한 식별 및 모니터링이 가능하도록 함으로써, 객체 모니터링 시스템의 구축 비용을 절감하기 위한 기술을 제공하는 데 일 목적이 있다.

특히, 영상 데이터를 분석하고 이를 통한 모니터링 정보를 제공함에 있어서 영상 데이터 등 대량의 데이터를 송수신하는 것이 아니라, 영상에서 파악 가능한 객체의 컨텍스트 정보를 추출하고, 이를 바탕으로 매우 간편하고 경량화된 데이터를 모니터링 데이터로서 활용할 수 있도록 하여, 네트워크의 경량화가 가능하여 매우 빠르고 효율적인 객체 모니터링 시스템을 구축할 수 있는 기술을 제공하는 데 그 목적이 있다.

상술한 목적을 달성하기 위해서, 본 발명의 일 실시예에 따른 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템은, 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 것으로서, 객체별로 마련되며, 모니터링 대상이 되는 객체 관련 정보가 저장되는 데이터 테이블인 제1 테이블과 객체의 컨텍스트 정보가 저장되는 데이터 테이블인 제2 테이블을 생성하는 데이터베이스 생성부; 객체가 포함된 영상 데이터를 수신 시, 객체를 포함하는 영역인 관심 영역을 설정하고, 설정된 관심 영역 내의 영상 데이터로부터 객체 상태 정보 추론 모델을 이용하여 객체 상태를 파악할 수 있는 정보인 객체 상태 정보를 추론한 뒤 상기 제1 테이블에 저장하는 객체 상태 추론부; 및 객체 상태 정보의 시계열적 분석을 통해 객체의 컨텍스트 정보를 생성하고, 생성된 컨텍스트 정보를 상기 제2 테이블에 저장하는 컨텍스트 정보 생성부;를 포함하는 것을 특징으로 한다.

상기 객체 상태 추론부는, 상기 영상 데이터에 포함된 어느 한 이미지 데이터 내에서 객체가 존재하는 경계 상자를 관심 영역으로 설정하는 관심 영역 설정부; 설정된 관심 영역 내의 객체별로 상기 제1 테이블을 생성하도록 하는 요청 신호를 상기 데이터베이스 생성부에 전송하되, 객체에서 추출하고자 하는 정보로서, 상기 객체 상태 정보를 추론하기 위하여 사용되는 객체 속성 정보를 상기 제1 테이블의 컬럼(column)으로 생성하는 테이블 구성부; 상기 객체 상태 정보 추론 모델을 상기 영상 데이터에 적용하여 영상 데이터 내의 관심 영역 상의 객체를 상기 설정된 관심 영역을 기준으로 인식하고, 객체의 상태를 감지한 뒤, 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표를 추출하는 객체 상태 정보 추출부; 및 추출된 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표, 객체의 속성 정보 및 감지된 객체의 상태에 대한 정보를 객체별로 마련된 상기 제1 테이블에 저장하는 객체 상태 정보 저장부;를 포함하는 것이 바람직하다.

상기 컨텍스트 정보 생성부는, 상기 타임 스탬프를 기준으로 상기 제1 테이블을 분석한 뒤, 시간대별로 단위 시간 전 상태의 객체 상태 정보와 현 상태의 객체 상태 정보의 주기적인 반복 상태 및 변경 상태를 추출하여 현 상태의 객체의 상황 및 동작에 대한 컨텍스트 정보를 영상 데이터 전체에 대해서 생성하고, 생성된 객체별 복수의 컨텍스트 정보를 상기 객체별로 마련된 상기 제2 테이블에 저장하는 것이 바람직하다.

상기 제1 테이블 및 상기 제2 테이블에 저장된 객체의 컨텍스트 정보 및 객체 상태 정보를 가공하여 영상 데이터가 배제된 객체의 모니터링 정보를 생성하는 모니터링 정보 생성부;를 더 포함하는 것이 바람직하다.

상기 모니터링 정보 생성부는, 객체의 종류별로 마련된 식별 정보들 중 분석 대상 객체의 종류에 대응되는 식별 정보를 선택하고, 선택된 식별 정보가 적용된 대시보드를 생성한 뒤, 분석 대상 객체에 대한 제1 테이블 및 제2 테이블을 로드하는 데이터 준비부; 및 로드된 제1 테이블 및 제2 테이블로부터 객체의 컨텍스트 정보 및 객체 속성 정보 중 일부를 상기 식별 정보에 적용하여 상기 대시보드에 객체의 컨텍스트 정보 및 객체 속성 정보 중 일부가 표시되도록 함으로써, 객체의 모니터링 정보를 객체의 이미지 데이터를 배제한 컨텍스트 정보로 표현하도록 상기 모니터링 정보를 생성하는 데이터 생성부;를 포함하는 것이 바람직하다.

상기 데이터 생성부는, 관리자 단말로부터의 편집 입력으로서, 객체의 컨텍스트 정보에 대한 내용을 상기 관제 단말에서 인지 가능한 내용으로 편집하는 정보인 가공 입력을 수신 시, 가공 입력에 따라서 컨텍스트 정보를 가공한 모니터링 정보를 생성하는 것이 바람직하다.

상기 객체 상태 정보 추론 모델에 대한 학습을 통해 상기 객체 상태 정보 추론 모델을 업데이트하는 모델 학습부;를 더 포함하는 것이 바람직하다.

상기 모델 학습부는, 식별 가능한 객체가 포함된 이미지 데이터를 수신 시 기 설정된 영상 처리 프로그래밍 라이브러리를 이용하여 이미지 데이터를 전처리하고, 전처리된 이미지 데이터에 대해서 임의의 속성 설정 및 레이블링 처리를 하는 이미지 전처리부; 및 객체 상태 정보에 포함된 속성 정보를 포함하는 키워드를 중심으로 레이블링을 활용하여 객체의 상태를 기 설정된 사전 훈련 모델을 이용하여 감지하는 제1 프로세스 및 제1 프로세스에 의하여 감지된 객체의 상태에 대한 결과값의 정확도를 판정하는 제2 프로세스를 반복하여, 관심 영역으로부터 객체 상태 정보를 추론하기 위한 모델을 상기 기 설정된 사전 훈련 모델의 업데이트를 통해 학습하고, 학습된 모델을 새로운 객체 상태 정보 추론 모델로서 업데이트하는 모델 학습 진행부;를 포함하는 것이 바람직하다.

본 발명에 의하면, 영상 데이터 내에서 객체를 식별 및 직접 분석하여 그 결과를 제공하는 것이 아니라, 영상 데이터는 최초 객체의 식별 및 객체로부터의 속성 및 상태 정보를 추출하는 데에만 사용되며, 모니터링 결과는 추출된 객체의 속성 및 상태 정보의 시계열적 추론을 통해 도출된 객체의 컨텍스트 정보를 기반으로 생성되는 동시에 해당 정보를 시각화 또는 데이터화한 결과가 제공되도록 구성된다.

이에 따르면, 기존의 설비와 관제 서버 간 통신망이 구축되지 않은 공간에서도, 해당 설비 설치 영역에 일반적으로 설치된 CCTV 등의 영상 촬영 장치를 이용하여 각 객체들의 동작 및 상태를 효과적으로 모니터링할 수 있는 효과가 있어, 객체들의 모니터링을 위한 관제 시스템의 구축 비용이 크게 절감되는 효과가 있다.

특히, 영상에서 파악 가능한 객체의 컨텍스트 정보를 추출하고, 이를 바탕으로 매우 간편하고 경량화된 데이터를 모니터링 데이터로서 활용하기 때문에, 경량화된 데이터 네트워크를 이용하여 매우 빠르고 효율적인 객체 모니터링 시스템을 구축할 수 있는 기술을 제공할 수 있다.

도 1은 본 발명의 일 실시예에 따른 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템의 구성도.
도 2는 본 발명의 일 실시예의 구성 중 객체 상태 추론부의 세부 구성 블록도.
도 3은 본 발명의 일 실시예의 구성 중 모니터링 정보 생성부의 세부 구성 블록도.
도 4는 본 발명의 일 실시예의 구성 중 모델 학습부의 세부 구성 블록도.
도 5는 본 발명의 일 실시예의 구현에 따라서 객체 상태 정보가 추론되는 흐름을 설명하기 위한 도면.
도 6은 본 발명의 일 실시예의 구현에 따라서 관제 단말에 출력되는 대시보드의 구현 예.
도 7은 본 발명의 일 실시예의 구현에 따라서 객체 상태 정보 추론 모델이 학습되는 흐름을 설명하기 위한 도면.
도 8은 본 발명의 일 실시 예에 따른 컴퓨팅 장치의 내부 구성의 일 예.

이하에서는, 다양한 실시 예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 발명의 기술 분야에서 통상의 지식을 가진 자에게 인식될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다.

본 명세서에서 사용되는 "실시 예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다.

또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다.

또한, 제 1, 제 2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

또한, 본 발명의 실시 예들에서, 별도로 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 발명의 실시 예에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

도 1은 본 발명의 일 실시예에 따른 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템의 구성도이다.

본 발명의 각 실시예에 따른 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템(10, 이하 시스템이라 함)은, 하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 것으로, 도 1과 같이 각 구성의 기능 수행에 포함된 학습 모듈을 포함하는 어플리케이션 또는 프로그램들과 처리 대상이 되는 데이터들이 저장되는 데이터베이스(20) 및 모니터링 데이터를 이용하기 위한 관제 단말(30)이 시스템(10)과 별도로 구성되어 독립적인 장치로 구비될 수 있다. 또는, 시스템(10)의 개념에 따라서 모든 장치가 하나의 서버 단말로 구성될 수 있다.

이러한 시스템 구성을 바탕으로 설명하면, 시스템(10)은 도 1에 도시된 바와 같이 각 기능 수행에 따라서, 데이터베이스 생성부(11), 객체 상태 추론부(12) 및 컨텍스트 정보 생성부(13)를 포함하고, 추가적으로 발명의 실시예에 따라서 모니터링 정보 생성부(14)를 포함하는 것을 특징으로 한다.

데이터베이스 생성부(11)는 객체별로 마련되며, 모니터링 대상이 되는 객체 관련 정보가 저장되는 데이터 테이블인 제1 테이블과 객체의 컨텍스트 정보가 저장되는 데이터 테이블인 제2 테이블을 생성하는 기능을 수행한다. 즉, 본 발명의 기능 수행을 위해서 영상 데이터의 분석을 요청하는 신호가 수신되면, 데이터베이스 생성부(11)의 기능 수행에 의하여 분석된 데이터가 저장되는 데이터 테이블이 생성된다.

모니터링 대상이 되는 객체는, 본 발명의 각 실시예에서는 상술한 바와 같이 특정 설비 등 모니터링 대상이 되는 센싱을 위해서 센서를 부착하여 상태값을 수신하는 대신 영상을 통해서 동작 및 상태를 추론할 수 있는 다양한 설비로서 특정 기능에 따라서 동작되는 설비나, 상태 값 등이 영상을 통해 인식할 수 있는 디스플레이 모듈 등이 설치된 설비 등을 의미할 것이다, 이동 또는 상태에 따라서 객체의 영상 이미지가 달라지고, 이로부터 객체의 상태를 추론하고 시계열적 분석에 따라서 동작이 추론될 수 있는 기타 설비, 인체 및 동물 등의 모든 분석 대상을 포함하는 개념으로 이해될 것이다.

본 발명에서 제1 테이블 및 제2 테이블은 객체별로 생성됨이 바람직하다. 즉, 데이터베이스(20)는 객체별로 제1 테이블 및 제2 테이블이 생성되도록 구성되고, 데이터베이스 생성부(11)에 의하여 제1 테이블 및 제2 테이블이 생성됨은, 데이터베이스 생성부(11) 자체에 데이터 테이블들이 생성되어 저장되거나, 데이터베이스 생성부(11)에서 데이터 테이블 생성 요청 입력이 생성되어 이를 수신한 데이터베이스(20)에 상술한 데이터 테이블이 생성되어 저장 공간이 할당되고, 객체의 식별 정보 등이 할당되어 각 데이터 테이블이 객체별로 설정됨을 의미한다.

객체 관련 정보는 후술할 것이나, 객체의 영상 데이터가 촬영 기기(40) 또는 객체 상태 추론부(12)에 의하여 분석된 결과 도출될 수 있는 객체의 속성 정보 등을 포함하는 개념으로 이해될 수 있다. 또한 컨텍스트 정보를 도출하기 위해서 분석 및 추출될 수 있는 정보를 의미한다.

구체적으로, 객체의 속성 정보는 객체의 식별 정보, 객체의 종류, 객체의 크기, 색상, 형태 등 객체의 구체적인 식별 및 감지가 가능하도록 하기 위해서 객체를 정의하는 정보들을 의미한다. 한편 컨텍스트 정보를 도출하기 위해서 분석 및 추출될 수 있는 정보로서, 영상 데이터의 절대 또는 상대적 타임 스탬프(시간 정보), 영상 데이터인 동영상의 키프레임 정보, 영상 내에서의 객체의 좌표 정보 등이 포함될 수 있다.

제1 테이블은 객체의 컨텍스트 정보를 도출하기 위해서 필요한 정보가 저장되는 데이터 테이블이며, 제2 테이블은 제1 테이블에 저장된 정보를 시계열적으로 분석함에 따라서 도출되는 객체의 컨텍스트 정보, 즉 객체의 동작을 예측하거나 파악된 동작의 내용 등의 정보가 저장되는 테이블을 의미한다.

객체 상태 추론부(12)는, 객체가 포함된 영상 데이터를 수신 시, 객체를 포함하는 영역인 관심 영역을 설정하고, 설정된 관심 영역 내의 영상 데이터로부터 객체 상태 정보 추론 모델을 이용하여 객체 상태를 파악할 수 있는 정보인 객체 상태 정보를 추론한 뒤 상기 제1 테이블에 저장하는 기능을 수행한다.

객체 상태 추론부(12)는 본 발명에서 영상 데이터를 수신하는 구성으로서, 이외의 구성에서는 영상 데이터가 활용되지 않는 것을 특징으로 한다. 즉, 본 발명에서 영상 촬영 장치(40)는 객체 상태 추론부(12)에 실시간 또는 주기적으로 영상 데이터를 송신하거나, 영상 촬영 장치(40)에 의하여 촬영된 영상 데이터가 서버 등의 단말에 저장되는 경우, 객체 상태 추론부(12)가 이를 수신하여 객체 상태 정보를 추론하는 데 사용한다.

객체 상태 추론부(12)는 상술한 바와 같이 관제 단말(30) 등으로부터 객체에 대한 모니터링 정보의 생성 및 제공을 요청하는 신호를 수신 시 영상 데이터를 수신하거나 수집하게 된다. 객체 상태 추론부(12)의 기능 수행을 위한 세부 구성은 도 2에 도시되어 있다.

도 2를 참조하면, 객체 상태 추론부(12)는 관심 영역 설정부(121), 테이블 구성부(122), 객체 상태 정보 추출부(123) 및 객체 상태 정보 저장부(124)를 포함하는 것이 바람직하다.

관심 영역 설정부(121)는, 영상 데이터에 포함된 어느 한 이미지 데이터 내에서 객체가 존재하는 경계 상자를 관심 영역으로 설정하는 기능을 수행한다. 즉, 영상 데이터 내에서 분석 대상이 되는 객체를 식별하고, 객체를 포함하는 사각 영역의 경계 상자를 관심 영역으로 설정하여, 관심 영역에 따라서 객체를 식별 및 분석하기 위한 영상 분석 기능을 수행하는 것이다.

관심 영역을 설정 시, 관심 영역 설정부(121)에는 관심 영역 설정을 위한 모델링 알고리즘이 저장되어 있고, 영상 데이터를 수신 시 해당 알고리즘을 적용하여 관심 영역을 설정하게 된다. 이때, 예를 들어 R-CNN(영역기반 합성곱 신경망) 등과 같은 모델을 위해서 관심 영역을 설정하게 된다.

테이블 구성부(122)는, 설정된 관심 영역 내의 객체별로 제1 테이블을 생성하도록 하는 요청 신호를 데이터베이스 생성부(11) 또는 데이터베이스(20)에 전송하되, 객체에서 추출하고자 하는 정보로서, 객체 상태 정보를 추론하기 위하여 사용되는 상술한 예와 같은 객체 속성 정보를 제1 테이블의 컬럼(column)으로 생성하는 기능을 수행한다.

즉, 테이블 구성부(122)는 데이터베이스(20) 및/또는 데이터베이스 생성부(11)와의 데이터 송수신을 통해, 객체 분석을 위해서 상술한 바와 같이 생성된 제1 테이블 상에 저장되는 데이터의 종류 및 저장 공간을 정의함으로써, 제1 테이블에 데이터들이 각각 구분되어 저장되도록 하는 기능을 수행한다.

객체 상태 정보 추출부(123)는, 객체 상태 정보 추론 모델을 영상 데이터,구체적으로는 관심 영역 설정부(121)에 의하여 설정된 관심 영역에 해당하는 이미지 영역에 적용하여 영상 데이터 내의 관심 영역 상의 객체를 설정된 관심 영역을 기준으로 인식하고, 객체 상태 정보 추론 모델을 적용하여 객체의 상태를 감지한 뒤, 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표를 추출하는 기능을 수행한다.

객체 상태 정보 추론 모델은, 후술하는 모델 학습부(15)에 의하여 학습된 상태의 모델로서, 객체의 속성 정보 또는 이미지 데이터 상의 객체의 색상, 크기, 형태 등에 따라서 객체의 상태 정보를 추론하기 위한 모델이다. 예를 들어, 특정 동작에 의한 기능 수행을 하는 설비의 경우, 동작별 상태에 대한 정보를 추론하거나, 특정 디스플레이에 따라서 상태 정보가 표시되는 설비의 경우, 전원 인가 여부, 정상 동작 여부, 각 수치 등이 상태 정보로서 추론될 수 있다.

객체 상태 정보 추출부(123)는 객체 상태 정보를 추론하고 이를 바탕으로 객체의 컨텍스트 정보를 생성하기 위해서, 특정 이미지 또는 이미지의 결합을 통해 도출되는 동영상 등의 데이터 상에서, 각 프레임마다 객체들의 상태를 감지(추론)하여 객체의 상태에 대한 정보를 도출하고, 객체의 상태 사이의 연결, 객체의 식별 등을 위해서 객체 상태를 감지하는 동시에, 상술한 바와 같이 시계열적 분석 및 구체적인 좌표 분석을 위해서, 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표를 추출하는 기능을 수행한다.

객체 상태 정보 저장부(124)는, 추출된 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표, 객체의 속성 정보 및 감지된 객체의 상태에 대한 정보를 객체별로 마련된 제1 테이블에 저장하는 기능을 수행한다. 즉, 객체 상태 정보 저장부(124)는 컨텍스트 정보 생성을 위해서 필요시 되는 상술한 데이터들을 해당 데이터들의 저장 공간으로서의 제1 테이블에 저장하는 기능을 수행한다.

즉, 객체 상태 추론부(12)의 상술한 각 구성에 의하여, 영상 데이터들로부터 객체 상태 정보, 시계열적 분석을 위한 시간 및 키프레임에 대한 정보와 함께 객체의 속성 정보가 제1 테이블에 저장되며, 이에 따라서 고용량의 영상 데이터가 직접적인 객체 상태의 모니터링을 위해서 사용되는 것이 아니라, 이후의 구성들에서는 제1 테이블에 저장된 정보들만이 사용되어, 객체 상태의 모니터링을 위한 정보가 경량화되고, 데이터베이스(20)에 역시 영상 데이터가 저장되는 것이 아닌, 제1 테이블 상의 텍스트 정보가 저장되어, 저장 공간의 불필요한 확장이 필요하지 않게 되는 효과가 있는 것이다.

이때 관심 영역 설정부(121) 및 객체 상태 추출부(123)의 기능 수행은 객체에 대해서 분석하는 기능에 따라서 각각 서로 다른 AI 알고리즘이 적용될 수 있다. 객체를 분석 시에는, 객체를 포함하는 관심 영역을 설정하고, 상술한 객체의 좌표 분석 등의 위치 정보적 특성, 크기, texture 등의 특징을 추출하는 기능으로서의 객체 탐지 기능과, 탐지된 객체에 대해서 특성 정보로서 색상, 동작 특성 등의 포스쳐(posture) 및 기타 계기값 등을 추출하는 객체 인식 기능이 포함된다. 이때 객체 탐지 기능과 객체 인식 기능은 서로 다른 알고리즘이 적용될 수 있기 때문에 각각 서로 다른 알고리즘이 적용될 수 있다.

컨텍스트 정보 생성부(13)는, 객체 상태 정보의 시계열적 분석을 통해 객체의 컨텍스트 정보를 생성하고, 생성된 컨텍스트 정보를 상술한 제2 테이블에 저장하는 기능을 수행한다.

즉, 제1 테이블에는 상술한 바와 같이 객체 상태 정보 추론부(12)의 기능 수행에 따라서 각 프레임 상의 객체 상태 정보와 함께, 각 프레임을 식별할 수 있는 타임 스탬프 및 영상의 키프레임에 대한 정보, 그리고 객체를 식별할 수 있는 객체의 속성 정보가 저장된다.

컨텍스트 정보 생성부(13)는 제1 테이블에 저장된 상술한 데이터들을 이용하여, 객체 상태 정보를 시계열적으로 분석을 하고, 이를 통해 추론된 객체의 컨텍스트 정보를 생성하여 제2 테이블에 저장한다.

구체적으로, 컨텍스트 정보 생성부(13)는, 타임 스탬프를 기준으로 제1 테이블을 분석한 뒤, 시간대별로 단위 시간 전 상태의 객체 상태 정보와 현 상태의 객체 상태 정보의 주기적인 반복 상태 및 변경 상태를 추출하여 현 상태의 객체의 상황 및 동작에 대한 컨텍스트 정보를 영상 데이터 전체에 대해서 생성하고, 생성된 객체별 복수의 컨텍스트 정보를 객체별로 마련된 상기 제2 테이블에 저장하는 기능을 수행할 것이다.

이때 컨텍스트 정보 생성부(13)는 SQL 및 기타 프로그램 등으로 처리되어, 정해진 프로그램 및 알고리즘에 따라서 상술한 바와 같은 프로세스에 따라서 컨텍스트 정보를 추출하고 제2 테이블에 저장한다. 이때 상술한 바와 같이 객체별로 마련된 제2 테이블에 저장하거나, 통합적으로 하나의 테이블로 구성된 제2 테이블에 모든 컨텍스트 정보가 저장될 수 있다.

객체별 복수의 컨텍스트 정보라 함은, 분석 대상이 되는 객체마다의 컨텍스트 정보를 생성함을 의미하며, 이에 따라서 객체별로 마련된 제2 테이블에는 각 객체의 수신한 영상 데이터의 타임 스탬프 구간 내의 컨텍스트 정보가 저장될 것이다.

객체의 상황 및 컨텍스트 정보는, 각 객체 상태 정보가 주기적 또는 일정 시간 동안 반복되거나 변경되는 것을 분석함에 따라서, 객체의 상황이 어떤지를 분석한 정보 또는 객체의 상황이 어떻게 변했고 어떻게 변할지 여부를 예측하는 정보를 의미할 수 있다. 또한, 해당 정보를 기반으로 모니터링 정보를 생성하기 위해서, 객체의 상황에 따라서 관제 단말(30)에 제공해야 하는 정보를 의미할 수 있다.

예를 들어 객체의 상황 및 컨텍스트 정보에, 해당 설비의 신호가 오류 발생에 의한 동작 정지 중임을 나타내는 내용이 포함된 경우, 해당 설비에 대한 점검 및 보수가 필요함을 알리는 등의 안내 정보가 함께 생성되어 모니터링 정보의 생성에 사용될 수 있다.

이와 같은 객체 상태 추론부(12) 및 컨텍스트 정보 생성부(13)의 기능 수행에 대한 예가 도 5에 도시되어 있다. 도 5를 참조하면, 영상 데이터(200)는 각 프레임별 이미지 데이터를 포함하고 있고, 각 이미지 데이터에는 객체(201) 및 이를 수용하는 관심 영역(210)이 설정된다.

이때 분석 결과 제1 테이블에는 관심 영역(210, 211)에 대한 추론 결과의 객체 상태 정보와 함께 이에 대한 타임 스탬프(t1, t2) 등이 저장될 수 있다. 또한, 이로부터 분석된 결과 데이터(220)로서, 객체의 식별 정보(I) 및 객체의 속성 정보(Info) 및 객체 상태 정보, 컨텍스트 정보 등이 생성되어 상술한 바와 같이 제1 및 제2 테이블에 저장될 수 있다.

다시 도 1에 대한 설명으로 돌아와서, 모니터링 정보 생성부(14)는, 제1 테이블 및 제2 테이블에 저장된 객체의 컨텍스트 정보 및 객체 상태 정보를 가공하여 영상 데이터가 배제된 객체의 모니터링 정보를 생성하는 기능을 수행한다.

상술한 기재에서 영상 데이터가 배제됨은, 상술한 바와 같이 본 발명의 각 구성들 중, 객체의 상태를 모니터링하기 위해서 고용량의 영상 데이터가 사용 또는 출력되는 구성이 객체 상태 추론부(12) 외에 없음을 의미한다. 즉, 모니터링 정보 생성부(14)는 제1 테이블 및 제2 테이블에 저장된 텍스트 정보만을 이용하여 시각 또는 음성적 컨텐츠를 가공하여 관제 단말(30)에 제공하게 된다.

일반적인 관제 시스템은, 고용량의 영상 데이터를 분석 시스템 전체에서 사용하는 동시에, 관제 단말(30) 등에 이를 그대로 전송하면서 영상에 대한 분석 결과를 제공하게 된다. 이에 의하면, 고용량의 영상 데이터를 경량화하여 제공하더라도, 영상 데이터의 특징 상 데이터의 크기가 텍스트 데이터보다 매우 클 수밖에 없고, 이와 같은 시스템을 구현하기 위해서는, 매우 고용량의 데이터의 송수신이 가능한 네트워크의 구축이 필수적이다.

그러나, 본 발명에서는 시스템(10) 상에서 객체 상태 추론부(12)를 제외하고는, 거의 텍스트 데이터만이 각 구성들 사이에서 송수신되는 동시에 데이터베이스(20) 내에 저장되기 때문에, 고용량의 데이터 송수신을 위한 네트워크의 구축이 필요하지 않다. 즉 본 발명의 시스템(10)은 전용 네트워크가 구축되는 특정 관제 시스템뿐 아니라, 일반적인 건물의 관리 서버 등에서도 구현 가능하기 때문에, 매우 범용적이고 효율적으로 객체 모니터링을 이용한 관제 시스템의 구축이 가능한 것이다.

모니터링 정보 생성부(14)는 해당 구성의 구체적인 기능 수행을 위해서 도 3과 같은 세부 구성을 포함하도록 구현될 수 있다. 도 3을 참조하면, 모니터링 정보 생성부(14)는 데이터 준비부(141) 및 데이터 생성부(142)를 포함하도록 구성될 수 있다.

데이터 준비부(141)는, 객체의 종류별로 마련된 식별 정보들 중 분석 대상 객체의 종류에 대응되는 식별 정보를 선택하고, 선택된 식별 정보가 적용된 대시보드를 생성한 뒤, 분석 대상 객체에 대한 제1 테이블 및 제2 테이블을 로드하는 기능을 수행한다.

객체 속성 정보에는 객체의 종류에 대한 정보가 포함되어 해당 데이터들이 제1 테이블에 저장될 수 있다. 예를 들어, 객체의 종류로서, 동작형 설비, 기능 표시형 설비 또는 동작 기능에 따른 다양한 설비 기기의 종류 등으로 구분될 수 있는데, 해당 정보는 모니터링 정보의 시각화를 위해서 각각 식별 정보로 대체될 수 있다. 예를 들어 각 객체의 종류에 따라서 서로 다른 저용량의 아이콘 이미지가 객체의 종류에 대응되는 식별 정보로서 데이터베이스(20)에 미리 저장되어 있다가 객체 속성 정보에 따라서 선택되는 것이다.

데이터 준비부(141)는 관제 단말(30)에서 확인할 수 있는 시각 정보의 출력이 되는 인터페이스인 대시보드를 생성하고, 각 아이콘 등의 객체의 식별 정보가 연동되어 표시되도록 대시보드를 1차적으로 편집한 뒤, 분석 대상 객체에 대한 제1 테이블 및 제2 테이블을 정보 적용을 위해서 로드하게 된다.

데이터 생성부(142)는, 로드된 제1 테이블 및 제2 테이블로부터 객체의 컨텍스트 정보 및 객체 속성 정보 중 일부를 식별 정보에 적용하여 대시보드에 객체의 컨텍스트 정보 및 객체 속성 정보 중 일부가 표시되도록 함으로써, 객체의 모니터링 정보를 객체의 이미지 데이터를 배제한 컨텍스트 정보로 표현하도록 모니터링 정보를 생성하는 기능을 수행한다.

즉, 데이터 생성부(142)는 데이터 준비부(141)에 의하여 생성된 대시보드, 즉 인터페이스 상에, 모니터링 정보에 필요한 객체의 속성 정보 중 일부를 제1 테이블에서 추출 및 적용하고, 객체의 컨텍스트 정보를 제2 테이블에서 추출 및 적용하여, 대시보드 상에 모니터링을 위해서 필요한 정보가 적용되도록 함으로써 모니터링 정보를 생성하는 기능을 수행한다. 이와 같이 생성된 모니터링 정보는 관제 단말(30)에서 도 6에 도시된 바와 같이 출력될 수 있다.

도 6의 화면(300)은 모니터링 정보 생성부(14)에 의하여 생성된 모니터링 정보 등을 포함하는 대시 보드가 관제 단말(30) 등에 구현된 예를 의미한다. 도 6의 화면(300)을 참조하면, 인터페이스 등에 포함된 객체의 상시 상태 데이터(301), 객체들의 컨텍스트 정보(302), 컨텍스트 정보가 가공된 각 객체의 식별 정보(303), 동작이나 상태의 변동값이나 고정값 등의 상태 정보(304) 등이 출력될 수 있다.

이때 데이터 생성부(142)는 객체의 컨텍스트 정보를 추출 및 적용 시, 일반적인 컨텍스트 정보에 대해서 관리자 단말(미도시)로부터 해당 컨텍스트 정보를 관제 단말(30) 등에서 편리하게 직감적으로 인지할 수 있도록 그 내용에 대한 편집 입력을 수신하여, 컨텍스트 정보를 가공하는 기능을 추가적으로 수행할 수 있다.

즉, 데이터 생성부(142)는, 관리자 단말로부터의 편집 입력으로서, 객체의 컨텍스트 정보에 대한 내용을 관제 단말(30)에서 인지 가능한 내용으로 편집하는 정보인 가공 입력을 수신 시, 가공 입력에 따라서 컨텍스트 정보를 가공한 모니터링 정보를 생성할 수 있다.

한편, 본 발명에서 사용되는 객체 상태 정보 추론 모델은, 머신 러닝(Machine Learning)등의 학습 과정을 통해 고도화되도록 구비될 수 있다. 이를 위해서, 본 발명의 시스템(10) 상에는 도 1 및 도 4에 도시된 바와 같이 모델 학습부(15)가 추가적으로 포함될 수 있다.

모델 학습부(15)는, 객체 상태 정보 추론 모델에 대한 학습을 통해 객체 상태 정보 추론 모델을 업데이트하는 기능을 수행하는 구성으로서, 그 구체적인 예가 도 4에 도시되어 있다.

도 4를 참조하면, 모델 학습부(15)는 이미지 전처리부(151) 및 모델 학습 진행부(152)를 포함하는 것이 바람직하다. 먼저 이미지 전처리부(151)는, 식별 가능한 객체가 포함된 이미지 데이터를 수신 시 기 설정된 영상 처리 프로그래밍 라이브러리를 이용하여 이미지 데이터를 전처리하고, 전처리된 이미지 데이터에 대해서 임의의 속성 설정 및 레이블링 처리를 하는 기능을 수행한다.

모델 학습부(15)에 사용되는 이미지 데이터는, 상술한 수집된 영상 데이터들 중 일부의 프레임에 포함된 이미지 데이터 또는 학습을 위해서 마련된 가상의 이미지 데이터를 포함하는 개념으로 이해될 수 있다. 또한 학습의 정확도를 높이기 위해서, 상술한 바와 같이 영상 처리 프로그래밍 라이브러리를 이용하여 이미지를 전처리하게 되는데, 예를 들어 OpenCV 등의 오픈소스 컴퓨터 비전 라이브러리 등이 사용될 수 있다.

임의의 속성 설정 및 레이블링 처리는, 이미지 데이터를 통한 학습을 위해서 해당 이미지 데이터 등에 대해서 임의로 상술한 객체 속성 정보에 대응되는 데이터를 할당하고, 이에 대해서 레이블링 처리를 하여, 객체 상태 정보 추론 모델(410)의 기능 수행의 정확성 판단 및 업데이트를 위한 처리를 함을 의미한다.

모델 학습 진행부(152)는, 객체 상태 정보에 포함된 속성 정보를 포함하는 키워드를 중심으로 레이블링을 활용하여 객체의 상태를 감지하는 제1 프로세스 및 제1 프로세스에 의하여 감지된 객체의 상태에 대한 결과값의 정확도를 판정하는 제2 프로세스를 반복하여, 관심 영역으로부터 객체 상태 정보를 추론하기 위한 모델을 학습하고, 학습된 모델을 새로운 객체 상태 정보 추론 모델로서 업데이트하는 기능을 수행한다.

이때 제1 프로세스를 진행하면서 객체 탐지 및 객체 인식 알고리즘을 진행 시, 각 알고리즘에는 필요 시 기 설정된 사전 훈련 모델(101)을 채택할 수 있다. 이때 사전 훈련 모델은, 일반적인 영상처리 알고리즘 또는 딥러닝 알고리즘을 활용하여 사전 훈련 모델을 생성하거나, 객체 탐지 및 인식에 활용되는 다양한 일반적인 오픈된 사전 훈련 모델을 채택하도록 할 수 있다.

이때 사전 훈련 모델(101)은 영상 탐지 및 인식에 사용되는 영상 처리 알고리즘으로서, 본 발명에서의 객체 탐지에 사용되는 구체적인 학습 모델 이전의 벌크(Bulk)형태의 모델이거나, 본 발명에서의 객체 탐지에 사용되는 구체적인 학습 모델로서, 예를 들어 일정한 학습이 진행되어 본 발명에서의 구체적인 관제 위치에만 적용되지 않았을 뿐, 본 발명에서의 객체 탐지에 사용될 수 있는 모델을 의미할 수 있다.

모델 학습 진행부(152)에서는 객체 상태 추론부(12)의 기능과 유사한 기능이 수행된다. 즉 학습을 위해서 객체 상태를 구체적으로 분석하는 기능을 수행하는데, 상술한 바와 같이 기 설정된 사전 훈련 모델 등을 이용하여 객체의 상태를 감지하는 프로세스로서 상술한 제1 프로세스가 진행되며, 이때 객체 상태 정보에 대해서 상술한 바와 같은 예와 같이, 객체에 대한 상태 표시 정도를 추론하면 되기 때문에 자연어 처리까지는 필요하지 않고, 키워드를 중심으로 하여 레이블링을 활용한 학습을 진행하게 된다.

이때 사용되는 학습 알고리즘은, YOLO(You Only Look Once) 알고리즘, mobilenet SSD 신경망 알고리즘, ResNet, HOG, BOW 등의 알고리즘을 활용할 수 있고, 해당 알고리즘이 직접 객체 식별 및 상태 정보 추론 모델의 기반 또는 일부로서 활용될 수 있다.

이후 제1 프로세스에 의하여 감지(탐지 및 인식)된 객체의 상태에 대한 결과값을 기 저장된 정답과 비교하는 등의 제2 프로세스를 지속적으로 반복함에 따라서 객체 상태 정보 추론 모델(410)을 업데이트하게 된다. 이에 대한 예가 도 7에 도시되어 있다. 도 7은 본 발명의 일 실시예의 구현에 따라서 객체 상태 정보 추론 모델이 학습되는 흐름을 설명하기 위한 도면으로서, 도 7을 참조하면, 먼저 학습 대상이 되는 샘플 이미지 데이터(400)에서 객체의 속성 정보 및 상태 정보로서의 키워드 정보 등이 분석된다. 이때, 객체 상태 정보에 대한 정답 및 모델(410) 적용 결과값(yy, zz)를 비교한 뒤 이를 이용하여 모델(410)을 업데이트하게 된다.

본 발명의 다른 실시예에 따라서, 예를 들어 컨텍스트 정보 역시 상술한 객체 상태 정보 추론 모델(410)과 유사한 다른 인공지능형 모델이 적용될 수 있는 경우, 해당 모델 역시 상술한 객체 상태 정보 추론 모델(410)의 학습 과정과 유사한 학습을 통해 모델 학습이 진행될 수 있을 것이다.

도 8은 본 발명의 일 실시 예에 따른 컴퓨팅 장치의 내부 구성의 일 예를 도시하였으며, 이하의 설명에 있어서, 상술한 도 1 내지 7에 대한 설명과 중복되는 불필요한 실시 예에 대한 설명은 생략하기로 한다.

도 8에 도시한 바와 같이, 컴퓨팅 장치(10000)은 적어도 하나의 프로세서(processor)(11100), 메모리(memory)(11200), 주변장치 인터페이스(peripheral interface)(11300), 입/출력 서브시스템(I/O subsystem)(11400), 전력 회로(11500) 및 통신 회로(11600)를 적어도 포함할 수 있다. 이때, 컴퓨팅 장치(10000)은 촉각 인터페이스 장치에 연결된 유저 단말이기(A) 혹은 전술한 컴퓨팅 장치(B)에 해당될 수 있다.

메모리(11200)는, 일례로 고속 랜덤 액세스 메모리(high-speed random access memory), 자기 디스크, 에스램(SRAM), 디램(DRAM), 롬(ROM), 플래시 메모리 또는 비휘발성 메모리를 포함할 수 있다. 메모리(11200)는 컴퓨팅 장치(10000)의 동작에 필요한 소프트웨어 모듈, 명령어 집합 또는 그밖에 다양한 데이터를 포함할 수 있다.

이때, 프로세서(11100)나 주변장치 인터페이스(11300) 등의 다른 컴포넌트에서 메모리(11200)에 액세스하는 것은 프로세서(11100)에 의해 제어될 수 있다.

주변장치 인터페이스(11300)는 컴퓨팅 장치(10000)의 입력 및/또는 출력 주변장치를 프로세서(11100) 및 메모리 (11200)에 결합시킬 수 있다. 프로세서(11100)는 메모리(11200)에 저장된 소프트웨어 모듈 또는 명령어 집합을 실행하여 컴퓨팅 장치(10000)을 위한 다양한 기능을 수행하고 데이터를 처리할 수 있다.

입/출력 서브시스템(11400)은 다양한 입/출력 주변장치들을 주변장치 인터페이스(11300)에 결합시킬 수 있다. 예를 들어, 입/출력 서브시스템(11400)은 모니터나 키보드, 마우스, 프린터 또는 필요에 따라 터치스크린이나 센서 등의 주변장치를 주변장치 인터페이스(11300)에 결합시키기 위한 컨트롤러를 포함할 수 있다. 다른 측면에 따르면, 입/출력 주변장치들은 입/출력 서브시스템(11400)을 거치지 않고 주변장치 인터페이스(11300)에 결합될 수도 있다.

전력 회로(11500)는 단말기의 컴포넌트의 전부 또는 일부로 전력을 공급할 수 있다. 예를 들어 전력 회로(11500)는 전력 관리 시스템, 배터리나 교류(AC) 등과 같은 하나 이상의 전원, 충전 시스템, 전력 실패 감지 회로(power failure detection circuit), 전력 변환기나 인버터, 전력 상태 표시자 또는 전력 생성, 관리, 분배를 위한 임의의 다른 컴포넌트들을 포함할 수 있다.

통신 회로(11600)는 적어도 하나의 외부 포트를 이용하여 다른 컴퓨팅 장치와 통신을 가능하게 할 수 있다.

또는 상술한 바와 같이 필요에 따라 통신 회로(11600)는 RF 회로를 포함하여 전자기 신호(electromagnetic signal)라고도 알려진 RF 신호를 송수신함으로써, 다른 컴퓨팅 장치와 통신을 가능하게 할 수도 있다.

이러한 도 8의 실시 예는, 컴퓨팅 장치(10000)의 일례일 뿐이고, 컴퓨팅 장치(11000)은 도 8에 도시된 일부 컴포넌트가 생략되거나, 도 8에 도시되지 않은 추가의 컴포넌트를 더 구비하거나, 2개 이상의 컴포넌트를 결합시키는 구성 또는 배치를 가질 수 있다. 예를 들어, 모바일 환경의 통신 단말을 위한 컴퓨팅 장치는 도 8에도시된 컴포넌트들 외에도, 터치스크린이나 센서 등을 더 포함할 수도 있으며, 통신 회로(1160)에 다양한 통신방식(WiFi, 3G, LTE, Bluetooth, NFC, Zigbee 등)의 RF 통신을 위한 회로가 포함될 수도 있다. 컴퓨팅 장치(10000)에 포함 가능한 컴포넌트들은 하나 이상의 신호 처리 또는 어플리케이션에 특화된 집적 회로를 포함하는 하드웨어, 소프트웨어, 또는 하드웨어 및 소프트웨어 양자의 조합으로 구현될 수 있다.

본 발명의 실시 예에 따른 방법들은 다양한 컴퓨팅 장치를 통하여 수행될 수 있는 프로그램 명령(instruction) 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 특히, 본 실시 예에 따른 프로그램은 PC 기반의 프로그램 또는 모바일 단말 전용의 어플리케이션으로 구성될 수 있다. 본 발명이 적용되는 애플리케이션은 파일 배포 시스템이 제공하는 파일을 통해 이용자 단말에 설치될 수 있다. 일 예로, 파일 배포 시스템은 이용자 단말이기의 요청에 따라 상기 파일을 전송하는 파일 전송부(미도시)를 포함할 수 있다.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시 예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술 분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로 (collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨팅 장치상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.

실시 예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시 예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광 기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상과 같이 실시 예들이 비록 한정된 실시 예와 도면에 의해 설명되었으나, 해당 기술 분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다. 그러므로, 다른 구현들, 다른 실시 예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다

Claims

하나 이상의 프로세서 및 상기 프로세서에서 수행 가능한 명령들을 저장하는 하나 이상의 메모리를 포함하는 컴퓨팅 장치로 구현되는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템에 관한 것으로,
객체별로 마련되며, 모니터링 대상이 되는 객체 관련 정보가 저장되는 데이터 테이블인 제1 테이블과 객체의 컨텍스트 정보가 저장되는 데이터 테이블인 제2 테이블을 생성하는 데이터베이스 생성부;
객체가 포함된 영상 데이터를 수신 시, 객체를 포함하는 영역인 관심 영역을 설정하고, 설정된 관심 영역 내의 영상 데이터로부터 객체 상태 정보 추론 모델을 이용하여 객체 상태를 파악할 수 있는 정보인 객체 상태 정보를 추론한 뒤 상기 제1 테이블에 저장하는 객체 상태 추론부; 및
객체 상태 정보의 시계열적 분석을 통해 객체의 컨텍스트 정보를 생성하고, 생성된 컨텍스트 정보를 상기 제2 테이블에 저장하는 컨텍스트 정보 생성부;를 포함하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제1항에 있어서,
상기 객체 상태 추론부는,
상기 영상 데이터에 포함된 어느 한 이미지 데이터 내에서 객체가 존재하는 경계 상자를 관심 영역으로 설정하는 관심 영역 설정부;
설정된 관심 영역 내의 객체별로 상기 제1 테이블을 생성하도록 하는 요청 신호를 상기 데이터베이스 생성부에 전송하되, 객체에서 추출하고자 하는 정보로서, 상기 객체 상태 정보를 추론하기 위하여 사용되는 객체 속성 정보를 상기 제1 테이블의 컬럼(column)으로 생성하는 테이블 구성부;
상기 객체 상태 정보 추론 모델을 상기 영상 데이터에 적용하여 영상 데이터 내의 관심 영역 상의 객체를 상기 설정된 관심 영역을 기준으로 인식하고, 객체의 상태를 감지한 뒤, 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표를 추출하는 객체 상태 정보 추출부; 및
추출된 영상 데이터 상의 타임 스탬프, 동영상 키프레임 정보, 인식된 관심 영역 상의 객체의 좌표, 객체의 속성 정보 및 감지된 객체의 상태에 대한 정보를 객체별로 마련된 상기 제1 테이블에 저장하는 객체 상태 정보 저장부;를 포함하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제2항에 있어서,
상기 컨텍스트 정보 생성부는,
상기 타임 스탬프를 기준으로 상기 제1 테이블을 분석한 뒤, 시간대별로 단위 시간 전 상태의 객체 상태 정보와 현 상태의 객체 상태 정보의 주기적인 반복 상태 및 변경 상태를 추출하여 현 상태의 객체의 상황 및 동작에 대한 컨텍스트 정보를 영상 데이터 전체에 대해서 생성하고, 생성된 복수의 컨텍스트 정보를 상기 제2 테이블에 저장하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제1항에 있어서,
상기 제1 테이블 및 상기 제2 테이블에 저장된 객체의 컨텍스트 정보 및 객체 상태 정보를 가공하여 영상 데이터가 배제된 객체의 모니터링 정보를 생성하는 모니터링 정보 생성부;를 더 포함하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제4항에 있어서,
상기 모니터링 정보 생성부는,
객체의 종류별로 마련된 식별 정보들 중 분석 대상 객체의 종류에 대응되는 식별 정보를 선택하고, 선택된 식별 정보가 적용된 대시보드를 생성한 뒤, 분석 대상 객체에 대한 제1 테이블 및 제2 테이블을 로드하는 데이터 준비부; 및
로드된 제1 테이블 및 제2 테이블로부터 객체의 컨텍스트 정보 및 객체 속성 정보 중 일부를 상기 식별 정보에 적용하여 상기 대시보드에 객체의 컨텍스트 정보 및 객체 속성 정보 중 일부가 표시되도록 함으로써, 객체의 모니터링 정보를 객체의 이미지 데이터를 배제한 컨텍스트 정보로 표현하도록 상기 모니터링 정보를 생성하는 데이터 생성부;를 포함하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제5항에 있어서,
상기 데이터 생성부는,
관리자 단말로부터의 편집 입력으로서, 객체의 컨텍스트 정보에 대한 내용을 상기 관제 단말에서 인지 가능한 내용으로 편집하는 정보인 가공 입력을 수신 시, 가공 입력에 따라서 컨텍스트 정보를 가공한 모니터링 정보를 생성하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제1항에 있어서,
상기 객체 상태 정보 추론 모델에 대한 학습을 통해 상기 객체 상태 정보 추론 모델을 업데이트하는 모델 학습부;를 더 포함하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.
제7항에 있어서,
상기 모델 학습부는,
식별 가능한 객체가 포함된 이미지 데이터를 수신 시 기 설정된 영상 처리 프로그래밍 라이브러리를 이용하여 이미지 데이터를 전처리하고, 전처리된 이미지 데이터에 대해서 임의의 속성 설정 및 레이블링 처리를 하는 이미지 전처리부; 및
객체 상태 정보에 포함된 속성 정보를 포함하는 키워드를 중심으로 레이블링을 활용하여 객체의 상태를 기 설정된 사전 훈련 모델을 이용하여 감지하는 제1 프로세스 및 제1 프로세스에 의하여 감지된 객체의 상태에 대한 결과값의 정확도를 판정하는 제2 프로세스를 반복하여, 관심 영역으로부터 객체 상태 정보를 추론하기 위한 모델을 상기 기 설정된 사전 훈련 모델의 업데이트를 통해 학습하고, 학습된 모델을 새로운 객체 상태 정보 추론 모델로서 업데이트하는 모델 학습 진행부;를 포함하는 것을 특징으로 하는 영상 내 객체의 컨텍스트 정보 생성을 통한 모니터링 시스템.