KR101977000B1 - 실물영상기반 리얼타임 가상공장 - Google Patents

Abstract

본 발명은 실물영상기반 리얼타임 가상공장에 관한 것이다. 본 발명의 일 양상인 실물영상 기반 리얼타임 가상공장의 제어방법은, 복수의 기기가 배치된 공장 내의 적어도 일부 영역을 카메라가 촬영하는 제 1 단계; 상기 촬영한 정보를 미리 설정한 기준에 따라 분류하여 데이터베이스에 저장하는 제 2 단계; 상기 촬영한 정보를 기초로 상기 복수의 기기와 관련된 인식 정보를 추출하는 제 3 단계; 상기 인식 정보 중 적어도 일부를 수정하고, 상기 수정한 인식 정보를 상기 데이터베이스가 추가 저장하는 제 4 단계; 상기 복수의 기기로부터 획득된 운용 정보를 상기 데이터베이스가 추가 저장하는 제 5 단계; 상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보를 이용하여 가상의 공장 데이터를 생성 및 표시하는 제 6 단계; 및 상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 이벤트를 알리는 경고 정보를 상기 가상의 공장 상에 함께 표시하는 제 7 단계;를 포함하고, 상기 제 1 단계 내지 상기 제 7 단계는 주기적으로 수행되어 실시간으로 업데이트 될 수 있다.

Description

실물영상기반 리얼타임 가상공장 {Real image and video based real-time virtual factory}

본 발명은 실물영상기반 리얼타임 가상공장에 관한 것이다. 구체적으로 본 발명은 복수의 장비에 대한 공장을 촬영하고, 촬영된 정보를 기초로 실시간 가상공장을 생성 및 모니터링하며, 운용 중 수집된 정보를 기초로 획득된 패턴을 이용하여 문제점을 발견하면 이이 대해 관리자에게 실시간으로 알리는 실물영상기반 리얼타임 가상공장에 관한 것이다.

기존의 생산관리 시스템에 적용되는 단말기는 일반 퍼스널컴퓨터(PC) 기능을 그대로 보유한 PPC(Panel Personal Computer)로 마이크로프로세서, 하드디스크, CD 드라이버 및 배터리 등과 같은 다양한 장치를 내장하고 있다.

또한, 기존의 생산관리 시스템용 단말기는 생산 정보, 시스템 정보(IP 정보, 단말기 이름, 작업자 정보 등) 및 생산 정보를 처리하는 응용 프로그램을 하드디스크 등에 저장하고 있으며, 저장된 응용 프로그램은 기존의 생산 관리 시스템용 단말기상에서 실행됐다.

이러한 응용 프로그램은 관리자 및 작업자 등의 사용자에 의해 수동으로 설치되고 업그레이드됐다.

한편, 실물공장에 대한 직접적인 모니터링이 어려우므로, 가상공장 연결을 통해 생산, 가동, 운영 정보 관리를 필요로 하는 스마트 팩토리에 대한 니즈가 높아지고 있다.

그러나 일반적으로 가상 공장에 대한 모니터링 시스템을 구축하기 위해서는, 공장시뮬레이션 및 디지탈화에 많은 시간과 비용이 든다는 문제점이 있다.

또한, 생산라인 변경시 시뮬레이션 재작업이 필요하다는 문제점과 실제 공장의 전체/부분 가동 상황과 실시간 가동 정보를 함께 확인하기 어렵다는 문제점도 존재한다.

대한민국 특허청 등록번호 제 10-0984233 호

본 발명은 실물영상기반 리얼타임 가상공장을 제안하고자 한다.

구체적으로 본 발명은 복수의 장비에 대한 공장을 촬영하고, 촬영된 정보를 기초로 실시간 가상공장을 생성 및 모니터링하며, 운용 중 수집된 정보를 기초로 획득된 패턴을 이용하여 문제점을 발견하면 이이 대해 관리자에게 실시간으로 알리는 실물영상기반 리얼타임 가상공장을 제안하고자 한다.

한편, 본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

상기의 기술적 과제를 달성하기 위한 본 발명의 일 양상인 실물영상 기반 리얼타임 가상공장의 제어방법은, 복수의 기기가 배치된 공장 내의 적어도 일부 영역을 카메라가 촬영하는 제 1 단계; 상기 촬영한 정보를 미리 설정한 기준에 따라 분류하여 데이터베이스에 저장하는 제 2 단계; 상기 촬영한 정보를 기초로 상기 복수의 기기와 관련된 인식 정보를 추출하는 제 3 단계; 상기 인식 정보 중 적어도 일부를 수정하고, 상기 수정한 인식 정보를 상기 데이터베이스가 추가 저장하는 제 4 단계; 상기 복수의 기기로부터 획득된 운용 정보를 상기 데이터베이스가 추가 저장하는 제 5 단계; 상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보를 이용하여 가상의 공장 데이터를 생성 및 표시하는 제 6 단계; 및 상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 이벤트를 알리는 경고 정보를 상기 가상의 공장 상에 함께 표시하는 제 7 단계;를 포함하고, 상기 제 1 단계 내지 상기 제 7 단계는 주기적으로 수행되어 실시간으로 업데이트 될 수 있다.

또한, 상기 제 6 단계에서, 상기 가상의 공장 데이터는, 상기 촬영 정보를 기초로, 상기 공장 내의 영역을 상기 복수의 기기를 포함하여 3차원 이미지로 표시될 수 있다.

또한, 상기 수정한 인식 정보 및 운용 정보가 상기 복수의 기기 각각에 대응하여 추가적으로 표시 가능할 수 있다.

또한, 상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 이벤트를 알리는 경고 정보가 상기 제 1 기기와 인접하여 표시될 수 있다.

또한, 상기 제 1 기기 또는 경고 정보를 사용자가 선택하는 경우, 상기 수정한 인식 정보 및 운용 정보를 기초로, 상기 이벤트와 관련된 해결 정보가 추가적으로 표시될 수 있다.

또한, 상기 경고 정보 및 상기 해결 정보 중 적어도 하나는 증강현실(Augmented Reality, AR) 방식을 이용하여 표시될 수 있다.

또한, 상기 제 1 단계는, 미리 설정된 수치 이상의 해상도를 갖는 카메라, 열화상 카메라, 전방위 촬영 가능한 카메라 및 드론에 구비된 카메라 중 적어도 하나를 통해 수행될 수 있다.

또한, 상기 제 3 단계에서, 상기 복수의 기기와 관련된 인식 정보는 설비 종류 정보, 설비 위치 정보 및 작업상태 정보를 포함할 수 있다.

또한, 상기 제 5 단계에서, 상기 복수의 기기로부터 획득된 운용 정보는 온도, 진동 및 분진 중 적어도 하나에 대한 공장환경정보, 검사정보 및 설비정보를 포함할 수 있다.

한편, 상기의 기술적 과제를 달성하기 위한 본 발명의 다른 일 양상인 실물영상 기반 리얼타임 가상공장의 모니터링 시스템은, 복수의 기기가 배치된 공장 내의 적어도 일부 영역을 촬영하는 카메라; 상기 촬영한 정보를 미리 설정한 기준에 따라 분류하여 저장하는 데이터베이스; 상기 촬영한 정보를 기초로 상기 복수의 기기와 관련된 인식 정보를 추출하는 제어부; 및 상기 인식 정보 중 적어도 일부를 수정한 경우, 상기 제어부의 제어에 따라 상기 데이터 베이스가 상기 인식 정보 중 적어도 일부가 수정된 인식 정보를 추가 저장하고, 상기 복수의 기기로부터 획득된 운용 정보를 추가 저장하는 경우, 상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보를 이용하여 가상의 공장 데이터를 생성 및 표시하는 디스플레이부;를 포함하고, 상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 제어부는, 상기 이벤트를 알리는 경고 정보가 상기 가상의 공장 상에 함께 표시되도록 제어하고, 상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보가 주기적으로 업데이트 되도록 제어할 수 있다.

본 발명은 실물영상기반 리얼타임 가상공장을 관리자에 제공할 수 있다.

구체적으로 본 발명은 복수의 장비에 대한 공장을 촬영하고, 촬영된 정보를 기초로 실시간 가상공장을 생성 및 모니터링하며, 운용 중 수집된 정보를 기초로 획득된 패턴을 이용하여 문제점을 발견하면 이이 대해 관리자에게 실시간으로 알리는 실물영상기반 리얼타임 가상공장을 사용자에게 제공할 수 있다.

본 발명은 (1) 공장시뮬레이션 및 디지탈화에 많은 시간과 비용이 든다는 문제점 (2) 생산라인 변경시 시뮬레이션 재작업이 필요하다는 문제점 및 (3) 실제 공장의 전체/부분 가동 상황과 실시간 가동 정보를 함께 확인하기 어렵다는 문제점을 해소할 수 있다.

한편, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

도 1은 본 발명의 공장에 적용될 수 있는 기기를 설명하기 위한 블록 구성도이다.
도 2는 종래의 공장 모니터링 시스템의 일례를 도시한 것이다.
도 3은 본 발명이 제안하는 실물영상기반 리얼타임 가상공장에서 모니터링 하는 일례를 도시한 것이다.
도 4는 본 발명이 제안하는 실물영상기반 리얼타임 가상공장 운용방법을 설명하는 순서도이다.
도 5는 공장 관련 이미지, 영상을 촬영하는 A/V 입력부의 일례를 도시한 것이다.
도 6은 본 발명과 관련하여, 패턴 분석 및 경고 알람을 표시하는 동작을 설명하는 순서도이다.
도 7은 본 발명과 관련하여, 증강현실을 통해 문제 발생 데이터가 추가적으로 표시되는 일례를 도시한 것이다.

최근, 실물공장에 대한 직접적인 모니터링이 어려우므로, 가상공장 연결을 통해 생산, 가동, 운영 정보 관리를 필요로 하는 스마트 팩토리에 대한 니즈가 높아지고 있다.

그러나 일반적으로 가상 공장에 대한 모니터링 시스템을 구축하기 위해서는, 공장시뮬레이션 및 디지탈화에 많은 시간과 비용이 든다는 문제점이 있다.

또한, 생산라인 변경시 시뮬레이션 재작업이 필요하다는 문제점과 실제 공장의 전체/부분 가동 상황과 실시간 가동 정보를 함께 확인하기 어렵다는 문제점도 존재한다.

따라서 본 발명에서는 상기 문제점을 해소하는 실물영상기반 리얼타임 가상공장을 제안하고자 한다.

구체적으로 본 발명은 복수의 장비에 대한 공장을 촬영하고, 촬영된 정보를 기초로 실시간 가상공장을 생성 및 모니터링하며, 운용 중 수집된 정보를 기초로 획득된 패턴을 이용하여 문제점을 발견하면 이이 대해 관리자에게 실시간으로 알리는 실물영상기반 리얼타임 가상공장을 제안하고자 한다.

본 발명이 제안하는 실물영상기반 리얼타임 가상공장 시스템의 구체적인 설명에 앞서, 본 시스템의 각 구성으로 포함될 수 있는 기기에 대해 기본적으로 설명한다.

도 1은 본 발명의 공장에 적용될 수 있는 기기를 설명하기 위한 블록 구성도이다.

도 1은 본 발명에 적용될 수 있는 기기를 설명하기 위한 블록 구성도이다.

상기 기기는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다.

단, 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 기기가 구현될 수도 있다.

이하, 상기 구성요소들에 대해 차례로 살펴본다.

무선 통신부(110)는 기기와 무선 통신 시스템 사이 또는 기기와 기기가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다.

예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 기기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVB-H(Digital Video Broadcast-Handheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.

상기 방송 수신 모듈(111)은, 예를 들어, DMB-T(Digital Multimedia Broadcasting-Terrestrial), DMB-S(Digital Multimedia Broadcasting-Satellite), MediaFLO(Media Forward Link Only), DVB-H(Digital Video Broadcast-Handheld), ISDB-T(Integrated Services Digital Broadcast-Terrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 다른 방송 시스템에 적합하도록 구성될 수도 있다.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 기기, 서버 중 적어도 하나와 무선 신호를 송수신한다.

문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 기기에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee, 와이파이(Wireless Fidelity, Wi-Fi) 등이 이용될 수 있다.

위치정보 모듈(115)은 기기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다.

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 사용 환경에 따라 2개 이상이 구비될 수도 있다.

마이크(122)는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.

다음으로, 원 적외선(Far Infra-Red: FIR)을 이용한 열 화상 카메라(Thermal Imaging Camera, 123)는 가시광 영역을 감지하는 것이 아니라 원적외선 영역을 감지한다.

즉, 열 화상 카메라는 피사체에서 발산하는 적외선 열에너지를 감지하고, 감지된 결과를 열 화상 이미지로 획득한다.

또한, 360도 카메라(124)는 어안렌즈(Fisheye Lens)가 장착된 카메라를 사용하여 구현된다.

넓은 화각을 갖는 어안렌즈를 사용하면 기준점을 중심으로 전방위(360˚) 영역의 영상을 촬영할 수 있다.

또한, 드론 카메라(125)는 드론을 이용하여 주변에 비행을 시킨 후, 드론에 구비된 카메라(125)를 통해 해당 영역의 이미지, 영상 등을 촬영하는 기능을 제공한다.

한편, 사용자 입력부(130)는 사용자가 기기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.

센싱부(140)는 기기의 개폐 상태, 기기의 위치, 사용자 접촉 유무, 기기의 방위, 기기의 가속/감속 등과 같이 기기의 현 상태를 감지하여 기기의 동작을 제어하기 위한 센싱 신호를 발생시킨다.

센싱부(140)는 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다.

한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 음향 출력 모듈(152), 알람부(153), 햅틱 모듈(154) 및 프로젝터 모듈(155) 등이 포함될 수 있다.

디스플레이부(151)는 기기에서 처리되는 정보를 표시(출력)한다.

디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 기기 바디의 디스플레이부(151)가 차지하는 영역을 통해 기기 바디의 후방에 위치한 사물을 볼 수 있다.

기기의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 기기에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.

디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.

터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.

상기 근접 센서(141)는 상기 터치스크린에 의해 감싸지는 기기의 내부 영역 또는 상기 터치 스크린의 근처에 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.

상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접 센서로 분류될 수도 있다.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.

상기 근접센서는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다.

음향 출력 모듈(152)은 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력 모듈(152)은 기기에서 수행되는 기능과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.

알람부(153)는 기기의 이벤트 발생을 알리기 위한 신호를 출력한다.

알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다.

상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어 가능하다.

예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 기기의 구성 태양에 따라 2개 이상이 구비될 수 있다.

프로젝터 모듈(155)은, 기기를 이용하여 이미지 프로젝트(project) 기능을 수행하기 위한 구성요소로서, 제어부(180)의 제어 신호에 따라 디스플레이부(151)상에 디스플레이되는 영상과 동일하거나 적어도 일부가 다른 영상을 외부 스크린 또는 벽에 디스플레이할 수 있다.

구체적으로, 프로젝터 모듈(155)은, 영상을 외부로 출력하기 위한 빛(일 예로서, 레이저 광)을 발생시키는 광원(미도시), 광원에 의해 발생한 빛을 이용하여 외부로 출력할 영상을 생성하기 위한 영상 생성 수단 (미도시), 및 영상을 일정 초점 거리에서 외부로 확대 출력하기 위한 렌즈(미도시)를 포함할 수 있다. 또한, 프로젝터 모듈(155)은, 렌즈 또는 모듈 전체를 기계적으로 움직여 영상 투사 방향을 조절할 수 있는 장치(미도시)를 포함할 수 있다.

프로젝터 모듈(155)은 디스플레이 수단의 소자 종류에 따라 CRT(Cathode Ray Tube) 모듈, LCD(Liquid Crystal Display) 모듈 및 DLP(Digital Light Processing) 모듈 등으로 나뉠 수 있다. 특히, DLP 모듈은, 광원에서 발생한 빛이 DMD(Digital Micromirror Device) 칩에 반사됨으로써 생성된 영상을 확대 투사하는 방식으로 프로젝터 모듈(151)의 소형화에 유리할 수 있다.

바람직하게, 프로젝터 모듈(155)은, 기기의 측면, 정면 또는 배면에 길이 방향으로 구비될 수 있다. 물론, 프로젝터 모듈(155)은, 필요에 따라 기기의 어느 위치에라도 구비될 수 있음은 당연하다.

메모리부(160)는 제어부(180)의 처리 및 제어를 위한 프로그램이 저장될 수도 있고, 입/출력되는 데이터들(예를 들어, 메시지, 오디오, 정지영상, 동영상 등)의 임시 저장을 위한 기능을 수행할 수도 있다. 상기 메모리부(160)에는 상기 데이터들 각각에 대한 사용 빈도도 함께 저장될 수 있다. 또한, 상기 메모리부(160)에는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 기기는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.

인터페이스부(170)는 기기에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 기기 내부의 각 구성 요소에 전달하거나, 기기 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.

식별 모듈은 기기의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 기기와 연결될 수 있다.

상기 인터페이스부는 이동기기가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동기기에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동기기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동기기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.

제어부(controller, 180)는 통상적으로 기기의 전반적인 동작을 제어한다.

제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.

여기에 설명되는 다양한 실시예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 본 명세서에서 설명되는 실시예들이 제어부(180) 자체로 구현될 수 있다.

소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 작동을 수행할 수 있다. 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션으로 소프트웨어 코드가 구현될 수 있다. 상기 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.

이하에서는 전술한 도 1의 구성을 기초로 본 발명이 제안하는 실물영상기반 리얼타임 가상공장에 대해 구체적으로 설명한다.

이하의 자동 제어 시스템에 적용되는 각각의 기기는 도 1에서 설명한 구성을 통해 구현될 수 있다.

한편, 도 2는 종래의 공장 모니터링 시스템의 일례를 도시한 것이다.

도 2에 도시된 가상 공장에 대한 모니터링 시스템을 구축하기 위해서는, 공장시뮬레이션 및 디지탈화에 많은 시간과 비용이 든다는 문제점이 있다.

또한, 생산라인 변경시 시뮬레이션 재작업이 필요하다는 문제점과 실제 공장의 전체/부분 가동 상황과 실시간 가동 정보를 함께 확인하기 어렵다는 문제점도 존재한다.

따라서 이러한 문제점 해소와 더불어, 실물공장에 대한 직접적인 모니터링이 어려우므로, 가상공장 연결을 통해 생산, 가동, 운영 정보 관리를 필요로 하는 스마트 팩토리에 대한 니즈가 높아지고 있다.

따라서 본 발명에서는 상기 문제점을 해소하는 실물영상기반 리얼타임 가상공장을 제안하고자 한다.

도 3은 본 발명이 제안하는 실물영상기반 리얼타임 가상공장에서 모니터링 하는 일례를 도시한 것이다.

도 3의 (a) 및 (b)를 참조하면, 본 발명에 따른 실물영상기반 리얼타임 가상공장에서는 카메라(121), 열화상카메라(123), 360도 카메라(124) 및 드론 카메라(125) 중 적어도 하나를 이용하여 전체 영역을 촬영하고, 이에 따른 공장 가동 상황에 대한 이미지 가상 공장을 만들어 낼 수 있다.

또한, 이러한 이미지 가상 공장은 도 3의 (c)에 도시된 것과 같이, 관리자의 디스플레이부(151)에 표시되어 실시간 공장 가동 상황을 확인할 수 있다.

더 나아가 본 발명에서는 실시간 공장 가동 상황만을 표시하는 것이 아니라 지속적으로 축적된 데이터를 기초로, 제어부(180)가 제어하여 설비정보, 생산정보, 품질정보, 유지보수정보 등이 표시될 수 있다.

특히, 본 발명에서는 전체 공장 영역 중 적어도 일부 영역에 에러, 사고 이벤트 등이 발생된 경우, 이에 대한 알림 정보와 분석 정보를 관리자에게 제공할 수 있다.

이에 대해 도면을 참조하여 보다 구체적으로 설명한다.

도 4는 본 발명이 제안하는 실물영상기반 리얼타임 가상공장 운용방법을 설명하는 순서도이다.

도 4를 참조하면, 가장 먼저, 공장 내부의 복수의 기기(100)의 이미지 또는 영상을 촬영하는 단계(S10)가 진행된다.

도 5는 공장 관련 이미지, 영상을 촬영하는 A/V 입력부의 일례를 도시한 것이다.

도 5에 도시된 것과 같이, S10 단계에서는 카메라(121), 열화상카메라(123), 360도 카메라(124) 및 드론 카메라(125) 중 적어도 하나를 이용하여 전체 영역을 촬영하고, 이에 따른 공장 가동 상황에 대한 이미지 가상 공장을 만들어 낼 수 있다.

다음으로, 본 발명에서는 메모리(160)에 저장되는 데이터를 기초로, 제어부(180)가 설비, 작업, 상태 등에 대한 이미지를 학습하게 된다(S20).

대표적으로 본 발명에 적용되는 이미지의 인식 종류는 설비 종류, 설비 위치, 작업 상태 등이 될 수 있다.

S20 단계에서 학습된 데이터는 공장 영상 데이터 베이스로 전달되고(S40), 이미지를 인식한 경우(S30), 이에 대해 사용자가 잘못된 내용에 대해서는 보정 정보를 입력하고 (S50), 결국 보정된 정보까지 공장 영상 데이터 베이스로 전달되어 저장 및 리얼타임 가상 공장이 구축된다(S40).

이후, 전술한 기기들 중 적어도 일부인 PLM 시스템(101), SPC 시스템(102), MES 시스템(103), ERP 시스템(104)과 관련된 공장 환경 정보(온도, 진동, 분진 등, 105), 검사 정보(106), 설비정보(107) 등이 추가적으로 공장영상 데이터 베이스에 전달되어 업데이트 되는 과정을 거친다(S60).

따라서 카메라가 촬영한 영상, 사용자에 의해 보정된 정보 및 복수의 기기로부터 수신한 데이터 정보를 축적하여 리얼타임 가상 공장이 구축되고, 이를 기초로 관리자가 모니터링을 수행할 수 있다(S70).

이후, 데이터 베이스 패턴분석을 기초로, 생산조건 이상, 불량, 설비유지보수 필요, 비정상 가동 등의 문제점이 생기는 경우에는 사용자에게 경고 알람을 표시할 수 있다(S80).

S80 단계에 대해서는 도 6을 참조하여 좀 더 구체적으로 설명한다.

도 6은 본 발명과 관련하여, 패턴 분석 및 경고 알람을 표시하는 동작을 설명하는 순서도이다.

도 6을 참조하면, 리얼타임 가상 공장을 모니터링 하는 단계(S70) 이후에, 패턴분석을 통해 경고 정보가 증강현실을 통해 표시되는 단계(S81)가 진행된다.

여기서 증강현실(Augmented Reality, AR)은 가상현실(VirtualReality, VR)과 구분될 필요가 있는데, 가상현실은 자신(객체)과 배경, 환경 모두 현실이 아닌 가상의 이미지를 사용하는데 반해, 증강현실(Augmented Reality, AR)은 현실의 이미지나 배경에 3차원 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 기술이다.

또한, 증강현실은 혼합현실(Mixed Reality, MR)이라고도 하는데, 비행기 제조사인 보잉사에서 1990경 비행기 조립 과정에 가상의 이미지를 첨가하면서 증강현실이 처음으로 세상에 소개됐다.

증강현실과 가상현실은 서로 비슷한 듯 하지만 그 주체가 허상이냐 실상이냐에 따라 명확히 구분된다.

컴퓨터 게임으로 예를 들면, 가상현실 격투 게임은 나를 대신하는 캐릭터가 가상의 공간에서 가상의 적과 대결하지만, 증강현실 격투 게임은 현실의 내가 현실의 공간에서 가상의 적과 대결을 벌이는 형태가 된다.

따라서 가상현실은 증강현실에 비해 몰입감이 뛰어나고, 증강현실은 가상현실에 비해 현실감이 뛰어나다는 특징이 있다.

이후, 관리자가 표시된 정보를 선택하는 단계(S82)가 진행될 수 있고, 이에 대응하여, 경고 정보가 표시된 영역과 관련된 구체적인 문제발생 데이터가 추가적으로 증강현실을 통해 표시되는 단계(S83)가 진행된다.

즉, 문제가 생겼다는 정보만을 표시하는 것이 아니라 전술한 데이터 베이스를 기초로, 문제의 종류, 분석, 해결방안 등의 정보가 추가적인 증강현실을 통해 디스플레이부(151) 상에 표시될 수 있다.

이후, 문제 발생과 관련된 조치가 수행(S84)되면, 경고 표시가 해제되는 단계(S85)가 진행된다.

도 7은 본 발명과 관련하여, 증강현실을 통해 문제 발생 데이터가 추가적으로 표시되는 일례를 도시한 것이다.

도 7의 (a)를 참조하면, 리얼타임 가상 공장을 모니터링 하는 단계(S70) 이후에, 패턴분석을 통해 경고 정보가 증강현실을 통해 표시되는 단계(S81)가 도시된다.

또한, 도 7의 (b)를 참조하면, 관리자가 표시된 정보를 선택하는 단계(S82) 에 대응하여, 경고 정보가 표시된 영역과 관련된 구체적인 문제발생 데이터가 추가적으로 증강현실을 통해 표시되는 단계(S83)가 도시된다.

또한, 도 7의 (c)를 참조하면, 관리자의 디스플레이부(151) 상에 패턴분석을 통해 경고 정보가 표시된 화면 및 구체적인 문제발생 데이터가 추가적으로 표시된 화면이 동시에 출력되는 일례가 도시된다.

한편, 상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.

하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리 유닛에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리 유닛은 상기 프로세서 내부 또는 외부에 위치하여, 이미 공지된 다양한 수단에 의해 상기 프로세서와 데이터를 주고 받을 수 있다.

상술한 바와 같이 개시된 본 발명의 바람직한 실시예들에 대한 상세한 설명은 당업자가 본 발명을 구현하고 실시할 수 있도록 제공되었다. 상기에서는 본 발명의 바람직한 실시예들을 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 본 발명의 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다. 예를 들어, 당업자는 상술한 실시예들에 기재된 각 구성을 서로 조합하는 방식으로 이용할 수 있다. 따라서, 본 발명은 여기에 나타난 실시형태들에 제한되려는 것이 아니라, 여기서 개시된 원리들 및 신규한 특징들과 일치하는 최광의 범위를 부여하려는 것이다.

본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니 되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다. 본 발명은 여기에 나타난 실시형태들에 제한되려는 것이 아니라, 여기서 개시된 원리들 및 신규한 특징들과 일치하는 최광의 범위를 부여하려는 것이다. 또한, 특허청구범위에서 명시적인 인용 관계가 있지 않은 청구항들을 결합하여 실시예를 구성하거나 출원 후의 보정에 의해 새로운 청구항으로 포함할 수 있다.

Claims (10)

1. 복수의 기기가 배치된 공장 내의 적어도 일부 영역을 카메라가 촬영하는 제 1 단계;
   상기 촬영한 정보를 미리 설정한 기준에 따라 분류하여 데이터베이스에 저장하는 제 2 단계;
   상기 촬영한 정보를 기초로 상기 복수의 기기와 관련된 인식 정보를 추출하는 제 3 단계;
   상기 인식 정보 중 적어도 일부를 수정하고, 상기 수정한 인식 정보를 상기 데이터베이스가 추가 저장하는 제 4 단계;
   상기 복수의 기기로부터 획득된 운용 정보를 상기 데이터베이스가 추가 저장하는 제 5 단계;
   상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보를 이용하여 가상의 공장 데이터를 생성 및 표시하는 제 6 단계; 및
   상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 이벤트를 알리는 경고 정보를 상기 가상의 공장 상에 함께 표시하는 제 7 단계;를 포함하고,
   상기 제 1 단계 내지 상기 제 7 단계는 주기적으로 수행되어 실시간으로 업데이트 되며,
   
   상기 제 6 단계에서,
   상기 가상의 공장 데이터는,
   상기 촬영 정보를 기초로, 상기 공장 내의 영역을 상기 복수의 기기를 포함하여 3차원 이미지로 표시하고,
   
   상기 수정한 인식 정보 및 운용 정보가 상기 복수의 기기 각각에 대응하여 추가적으로 표시 가능하며,
   
   상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 이벤트를 알리는 경고 정보가 상기 제 1 기기와 인접하여 표시되고,
   
   상기 제 1 기기 또는 경고 정보를 사용자가 선택하는 경우,
   상기 수정한 인식 정보 및 운용 정보를 기초로, 상기 이벤트와 관련된 해결 정보가 추가적으로 표시되며,
   
   상기 경고 정보 및 상기 해결 정보 중 적어도 하나는 증강현실(Augmented Reality, AR) 방식을 이용하여 표시되고,
   
   상기 공장 내의 상기 복수의 기기 중 적어도 하나의 배치를 변화시켜 생산라인이 변경되는 경우,
   상기 주기적으로 수행되는 제 1 단계 내지 제 7 단계를 통해, 상기 변경된 생산라인을 반영한 가상의 공장 데이터가 생성 및 표시되며,
   
   상기 제 6 단계 및 제 7 단계는,
   상기 공장 내의 전체영역, 상기 복수의 기기 중 적어도 일부에 대한 영역 및 상기 이벤트가 발생된 제 1 기기 중 적어도 일부를 포함하여 표시하는 것을 특징으로 하는 실물영상 기반 리얼타임 가상공장의 제어방법.
   
   
2. 삭제
3. 삭제
4. 삭제
5. 삭제
6. 삭제
7. 제 1항에 있어서,
   상기 제 1 단계는,
   미리 설정된 수치 이상의 해상도를 갖는 카메라, 열화상 카메라, 전방위 촬영 가능한 카메라 및 드론에 구비된 카메라 중 적어도 하나를 통해 수행되는 것을 특징으로 하는 실물영상 기반 리얼타임 가상공장의 제어방법.
8. 제 1항에 있어서,
   상기 제 3 단계에서,
   상기 복수의 기기와 관련된 인식 정보는 설비 종류 정보, 설비 위치 정보 및 작업상태 정보를 포함하는 것을 특징으로 하는 실물영상 기반 리얼타임 가상공장의 제어방법.
9. 제 1항에 있어서,
   상기 제 5 단계에서,
   상기 복수의 기기로부터 획득된 운용 정보는 온도, 진동 및 분진 중 적어도 하나에 대한 공장환경정보, 검사정보 및 설비정보를 포함하는 것을 특징으로 하는 실물영상 기반 리얼타임 가상공장의 제어방법.
10. 복수의 기기가 배치된 공장 내의 적어도 일부 영역을 촬영하는 카메라;
    상기 촬영한 정보를 미리 설정한 기준에 따라 분류하여 저장하는 데이터베이스;
    상기 촬영한 정보를 기초로 상기 복수의 기기와 관련된 인식 정보를 추출하는 제어부; 및
    상기 인식 정보 중 적어도 일부를 수정한 경우, 상기 제어부의 제어에 따라 상기 데이터 베이스가 상기 인식 정보 중 적어도 일부가 수정된 인식 정보를 추가 저장하고, 상기 복수의 기기로부터 획득된 운용 정보를 추가 저장하는 경우, 상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보를 이용하여 가상의 공장 데이터를 생성 및 표시하는 디스플레이부;를 포함하고,
    상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우,
    상기 제어부는,
    상기 이벤트를 알리는 경고 정보가 상기 가상의 공장 상에 함께 표시되도록 제어하고,
    상기 데이터베이스에 저장된 촬영 정보, 수정한 인식 정보 및 운용 정보가 주기적으로 업데이트 되도록 제어하며,
    
    상기 가상의 공장 데이터는,
    상기 촬영 정보를 기초로, 상기 공장 내의 영역을 상기 복수의 기기를 포함하여 3차원 이미지로 표시한 데이터이고,
    
    상기 제어부는,
    상기 수정한 인식 정보 및 운용 정보가 상기 복수의 기기 각각에 대응하여 상기 디스플레이부 상에 추가적으로 표시되도록 제어하며,
    
    상기 제어부는,
    상기 복수의 기기 중 적어도 하나인 제 1 기기에 이벤트가 발생되는 경우, 상기 이벤트를 알리는 경고 정보가 상기 제 1 기기와 인접하여 상기 디스플레이부 상에 표시되도록 제어하고,
    
    상기 제어부는,
    상기 제 1 기기 또는 경고 정보를 사용자가 선택하는 경우,
    상기 수정한 인식 정보 및 운용 정보를 기초로, 상기 이벤트와 관련된 해결 정보가 상기 디스플레이부 상에 추가적으로 표시되도록 제어하며,
    
    상기 경고 정보 및 상기 해결 정보 중 적어도 하나는 증강현실(Augmented Reality, AR) 방식을 이용하여 표시되고,
    
    상기 공장 내의 상기 복수의 기기 중 적어도 하나의 배치를 변화시켜 생산라인이 변경되는 경우,
    상기 주기적인 업데이트를 통해, 상기 변경된 생산라인을 반영한 가상의 공장 데이터가 생성 및 표시되며,
    
    상기 제어부는,
    상기 공장 내의 전체영역, 상기 복수의 기기 중 적어도 일부에 대한 영역 및 상기 이벤트가 발생된 제 1 기기 중 적어도 일부를 포함하여 상기 디스플레이부 상에 표시되도록 제어하는 것을 특징으로 하는 실물영상 기반 리얼타임 가상공장의 모니터링 시스템.

Images