KR102348881B1 - The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information - Google Patents

The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information Download PDF

Info

Publication number
KR102348881B1
KR102348881B1 KR1020200095371A KR20200095371A KR102348881B1 KR 102348881 B1 KR102348881 B1 KR 102348881B1 KR 1020200095371 A KR1020200095371 A KR 1020200095371A KR 20200095371 A KR20200095371 A KR 20200095371A KR 102348881 B1 KR102348881 B1 KR 102348881B1
Authority
KR
South Korea
Prior art keywords
information
monitoring
image information
unit
learning
Prior art date
Application number
KR1020200095371A
Other languages
Korean (ko)
Inventor
안효준
Original Assignee
주식회사 이루리인텔리전스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 이루리인텔리전스 filed Critical 주식회사 이루리인텔리전스
Priority to KR1020200095371A priority Critical patent/KR102348881B1/en
Application granted granted Critical
Publication of KR102348881B1 publication Critical patent/KR102348881B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L21/00Processes or apparatus adapted for the manufacture or treatment of semiconductor or solid state devices or of parts thereof
    • H01L21/67Apparatus specially adapted for handling semiconductor or electric solid state devices during manufacture or treatment thereof; Apparatus specially adapted for handling wafers during manufacture or treatment of semiconductor or electric solid state devices or components ; Apparatus not specifically provided for elsewhere
    • H01L21/67005Apparatus not specifically provided for elsewhere
    • H01L21/67242Apparatus for monitoring, sorting or marking
    • H01L21/67253Process monitoring, e.g. flow or thickness monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L21/00Processes or apparatus adapted for the manufacture or treatment of semiconductor or solid state devices or of parts thereof
    • H01L21/67Apparatus specially adapted for handling semiconductor or electric solid state devices during manufacture or treatment thereof; Apparatus specially adapted for handling wafers during manufacture or treatment of semiconductor or electric solid state devices or components ; Apparatus not specifically provided for elsewhere
    • H01L21/67005Apparatus not specifically provided for elsewhere
    • H01L21/67011Apparatus for manufacture or treatment
    • H01L21/67126Apparatus for sealing, encapsulating, glassing, decapsulating or the like

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Manufacturing & Machinery (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Power Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

The present invention relates to a system for monitoring a mechanism in a manufacturing process including a pneumatic cylinder as a manufacturing facility. More particularly, the present invention relates to a system for monitoring a manufacturing process using a pneumatic cylinder which may learn an operation of the pneumatic cylinder in a semiconductor manufacturing process by an artificial intelligence to monitor a manufacturing process using learning information, and to a method thereof. An existing system for monitoring a semiconductor manufacturing process using a camera uses a camera of high cost to increase a cost and have difficulty in configuring a camera system according to a semiconductor manufacturing process field. The present invention suggest a monitoring system for monitoring an operation of a pneumatic cylinder to effectively determine and manage whether or not instrument devices fail in a semiconductor manufacturing process facility, shoots a piston operation of the pneumatic cylinder by the camera, and learns artificial intelligence for the image information to be suitable for a current semiconductor manufacturing process.

Description

공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템과 감시 방법{THE SYSTEM AND METHOD FOR MONITORING OF SEMICONDUCTOR MANUFACTURING PROCESS USING AIR ACTUATOR MOTION IMAGE INFORMATION} The semiconductor manufacturing process monitoring system and monitoring method using the motion image information of the pneumatic cylinder

본 발명은 공압 실린더(air actuator)를 제조설비로 포함하는 제조공정 내 기계 장치에 대한 동작 감시 시스템에 관한 것으로, 특히 반도체 제조공정 내에서의 공압 실린더의 동작을 인공지능을 통하여 학습시키고, 이의 학습정보를 이용하여 제조공정을 모니터링 할 수 있도록 한 공압 실린더를 이용하는 제조공정 감시 시스템과 감시 방법에 관한 것이다.The present invention relates to a motion monitoring system for a mechanical device in a manufacturing process including an air actuator as a manufacturing facility. In particular, the operation of a pneumatic cylinder in a semiconductor manufacturing process is learned through artificial intelligence, and the learning It relates to a manufacturing process monitoring system and monitoring method using a pneumatic cylinder so that the manufacturing process can be monitored using information.

근래에는 자동화 생산 현장에서 다양한 장비를 이용하여 제조공정을 감시하는 감시(monitoring) 시스템을 구성하고 있으며, 특히 반도체 및 자동차 등의 제조업체들은 공정 라인마다 공정 현황을 확인 및 감시하기 위한 공정 감시 시스템을 구비하고 있다.Recently, a monitoring system for monitoring the manufacturing process using a variety of equipment has been configured at the automated production site. In particular, manufacturers of semiconductors and automobiles are equipped with a process monitoring system to check and monitor the process status for each process line. are doing

이러한 공정 감시 시스템은 현장에 다수의 카메라를 설치하고, 종합관제실에서 카메라에 맞는 다수의 디지털 비디오 레코더, 디지탈 비디오 레코더를 제어할 수 있는 제어 단말 및 다수의 모니터를 설치하고 이를 통해 현장을 관리한다.In this process monitoring system, a number of cameras are installed on site, and a number of digital video recorders suitable for the cameras in the general control room, a control terminal capable of controlling the digital video recorders, and a number of monitors are installed and the site is managed through this.

대규모 제조설비를 갖춘 곳인 경우에는 다수의 카메라에서 전송되는 영상들을 녹화하는 디지탈 비디오 레코더는 대용량 저장 기능을 구현해야 한다. In the case of a large manufacturing facility, a digital video recorder that records images transmitted from multiple cameras must implement a mass storage function.

따라서, 종래의 공정 감시 시스템은 많은 디지털 비디오 레코더, 매트릭스 장비, 장비제어용 시스템이 요구될 뿐만 아니라 카메라가 수 백대 이상으로 구성되는 시스템의 경우에 종합관제실 구성에 매우 어려움을 가지며, 카메라의 추가가 필요하게 될 경우에는 시스템과의 카메라 연결 제어를 위한 새로운 프로그램이 요구된다.Therefore, the conventional process monitoring system not only requires many digital video recorders, matrix equipment, and equipment control systems, but also has a very difficult configuration in the general control room in the case of a system consisting of several hundred cameras or more, and it is necessary to add a camera In this case, a new program for controlling the camera connection with the system is required.

특히 반도체 및 자동차 등의 제조업체는 대규모 생산라인을 형성하고 있고, 각 생산라인마다 IP 카메라 등의 다수 개의 비젼 장비를 설치하여 각 공정별 불량률이나 품질 검사를 수행하기도 한다.In particular, manufacturers of semiconductors and automobiles form large-scale production lines, and multiple vision equipment such as IP cameras are installed in each production line to perform defect rate or quality inspection for each process.

대한민국 등록특허공보 2015년 제1619097호, 반도체 제조공정에서의 공정 모니터링 시스템은 상기 반도체 공정 장치 내에 설치되어서, 저해상도인 제1영상 데이터와 고해상도인 제2영상 데이터를 획득하기 위한 카메라 및 저장수단을 구성하여 고해상도 데이터와 표준 영상 데이터를 비교하여 에러 정보를 발생하는 관리 서버를 포함하는, 반도체 제조공정에서의 공정 모니터링 시스템을 제공한다. Republic of Korea Patent Publication No. 1619097, a process monitoring system in a semiconductor manufacturing process is installed in the semiconductor process apparatus, and constitutes a camera and a storage means for acquiring the first image data having a low resolution and the second image data having a high resolution to provide a process monitoring system in a semiconductor manufacturing process, including a management server that compares high-resolution data and standard image data to generate error information.

대한민국 공개 특허 2014년 제0113130호, 산업용 비전통합 공정 관리 시스템에서는 디바이스 플러그-인 프레임워크(Device Plug-in Framework)를 통해 제조사별 비젼 장비 또는 감시분석 장비에 맞는 API(Application Program Interface)와 통신 프로토콜을 지원하여 이기종 비젼 장비 또는 감시분석 장비의 연결 및 제어에 대한 모든 통합 관리를 지원하여 우수한 호환 성능을 제공할 수 있는 산업용 비전통합 공정 관리 시스템을 제공한다. In the Republic of Korea Patent Publication No. 2014 0113130, an industrial vision integrated process management system, an API (Application Program Interface) and communication protocol suitable for each manufacturer's vision equipment or monitoring and analysis equipment through the Device Plug-in Framework It provides an industrial vision integrated process management system that can provide excellent compatibility performance by supporting all integrated management of connection and control of heterogeneous vision equipment or monitoring and analysis equipment.

그러나 이와 같이 카메라를 이용하는 모니터링 시스템은 고가의 카메라를 이용하게 됨에 따라서 비용이 많이 들게 됨은 물론, 반도체 제조 공정 현장에 따라서 카메라 시스템을 구성하는데 어려운 점이 있다. However, as such a monitoring system using a camera is expensive as it uses an expensive camera, it is difficult to configure the camera system according to the semiconductor manufacturing process site.

또한 반도체 제조공정 감시 시스템을 구성함에 있어서, 반도체 제조 공정(증착 공정)의 특성상 가속도 변화(패턴)을 파악하기 위한 센서가 요구되는 바, 비교적 고가이어서 기구장치마다 부착하는 데 어려움이 있다. In addition, in configuring the semiconductor manufacturing process monitoring system, a sensor for detecting an acceleration change (pattern) is required due to the characteristics of the semiconductor manufacturing process (deposition process).

근래에는 멀티미디어 기술 및 정보통신의 급속한 발전으로 인하여 더욱더 반도체 장치의 수요가 증가하고 그 기술이 발전하고 있다. 반도체 장치는 고속으로 동작하는 동시에 대용량의 저장 능력을 가질 것이 요구됨에 따라서, 상기 반도체 장치의 제조 기술에 대한 기술 향상이 요구되고 있어서, 그 제조공정 감시 시스템은 매우 중요한 부분이라 할 수 있다. In recent years, due to the rapid development of multimedia technology and information communication, the demand for semiconductor devices is increasing and the technology is developing. As the semiconductor device is required to operate at a high speed and to have a large-capacity storage capacity, there is a demand for technological improvement in the manufacturing technology of the semiconductor device, and thus, the manufacturing process monitoring system is a very important part.

반도체 장치는 일반적으로 막 형성, 패턴 형성, 금속 배선 형성 등을 위한 일련의 단위 공정들을 순차적으로 수행함으로써 제조된다. A semiconductor device is generally manufactured by sequentially performing a series of unit processes for film formation, pattern formation, metal wiring formation, and the like.

이러한 단위 공정들은 반도체 제조 기술이 보다 높은 정밀도를 요구됨에 따라 각각의 공정에 필요한 공정 조건을 제공하는 챔버의 중요성이 부각되고 있다. 상기 챔버 내부의 공정 조건은 공정에 따라 정밀하게 제어되어야 하는데, 챔버 도어의 정확한 개폐는 상기 제어에 있어서 필수적인 요소이다.In these unit processes, as semiconductor manufacturing technology requires higher precision, the importance of a chamber providing process conditions required for each process is being emphasized. The process conditions inside the chamber must be precisely controlled according to the process, and accurate opening and closing of the chamber door is an essential element in the control.

상기 챔버 도어의 개폐에는 공압(Pneumatic) 실린더가 그 동력원으로 사용되는데, 공압 실린더의 특성상 피스톤이 왕복 운동을 하면 공압 실린더 튜브의 내벽과 밀봉의 역할을 하는 피스톤에 장착된 피스톤 패킹은 상기 공압 실린더의 행정 거리만큼 서로 마찰하게 된다. A pneumatic cylinder is used as a power source for the opening and closing of the chamber door. Due to the characteristics of the pneumatic cylinder, when the piston reciprocates, the piston packing mounted on the inner wall of the pneumatic cylinder tube and the piston, which serves as a seal, of the pneumatic cylinder They rub against each other by the stroke distance.

따라서 장기간 사용하게 되면 상대적으로 재질이 약한 피스톤 패킹이 마모된다. 상기 피스톤 패킹이 마모되기 시작하면 피스톤 내부의 밀봉 효과가 감소되고, 내부의 공기 누설(Leak)이 발생하게 된다.Therefore, if it is used for a long time, the piston packing, which is relatively weak in material, is worn out. When the piston packing begins to wear, the sealing effect inside the piston is reduced, and an internal air leak occurs.

상기의 공압 실린더 내부의 공기 누설은 공압 실린더의 출력을 감소시키고, 구동하고자 하는 챔버 도어를 정확히 개폐할 수 없게 된다. 이러한 문제점은 공정 조건의 변화를 발생시키고, 공정의 결함과 제품의 불량으로 이어진다.The air leakage inside the pneumatic cylinder reduces the output of the pneumatic cylinder, and makes it impossible to accurately open and close the chamber door to be driven. These problems cause changes in process conditions and lead to process defects and product defects.

또한, 누설이 발생해 공압 실린더의 오류가 발생하면, 공정을 중단시키고 상기 공압 실린더에 대한 수리 및 부품 교체작업이 필요하게 되고, 상기 수리 작업은 장비 가동률 저하로 이어진다.In addition, when an error occurs in the pneumatic cylinder due to leakage, the process is stopped and repair and replacement of parts for the pneumatic cylinder are required, and the repair work leads to a decrease in equipment utilization.

따라서, 이와 같은 공압 실린더의 동작을 정확하게 감시하는 것이 반도체 제조 공정의 감시 시스템을 구성하는데 매우 유리하다고 할 수 있다.Therefore, it can be said that it is very advantageous to configure a monitoring system of a semiconductor manufacturing process to accurately monitor the operation of the pneumatic cylinder.

본 발명에서는 공압 실린더의 동작을 감시하여 보다 효과적인 반도체 제조공정 제조설비 내 기구장치의 이상 유무를 판단 관리할 수 있는 감시 시스템을 제안하고자 한 것으로, 공압 실린더의 피스톤 동작을 카메라로 촬영하고, 이의 이미지 정보를 인공지능 학습시켜 현재 반도체 제조공정에 적합한 감시 시스템을 제공하고자 한 것이다.The present invention intends to propose a monitoring system that can monitor the operation of the pneumatic cylinder to more effectively determine and manage the abnormality of the mechanical device in the semiconductor manufacturing process manufacturing facility. This is to provide a monitoring system suitable for the current semiconductor manufacturing process by learning information by artificial intelligence.

본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템은, 반도체 제조설비 내 각 기구장치에 설치되어 기구장치 내의 공압 실린더의 동작 이미지 정보를 취득하기 위한 카메라와, 반도체 제조설비 내 각 기구장치 내에 설치되어 공압 실린더의 동작 상태를 감지하기 위한 센서와, 기구장치 별 설치된 상기 카메라로부터 취득된 이미지 정보 및 센서로부터 취득된 센서감지정보를 중앙감시제어부로 제공하는 단말부와, 상기 각 단말부로부터 전송된 이미지 정보 및 센서감지정보를 제공받아 공압 실린더의 동작 상태에 따라 인공지능 학습된 학습 이미지 정보를 참조하여 기구장치의 동작을 감시 관리하는 중앙감시제어부와, 중앙감시제어부로부터 동작상태정보를 제공받아 관리자(사용자)에게 알리기 위한 외부알림부를 포함하여 구성되며, The semiconductor manufacturing process monitoring system using the motion image information of the pneumatic cylinder of the present invention includes a camera installed in each mechanical device in a semiconductor manufacturing facility to acquire motion image information of the pneumatic cylinder in the mechanical device, and each mechanical device in the semiconductor manufacturing facility A sensor installed in the interior to detect the operating state of the pneumatic cylinder, and a terminal unit that provides image information acquired from the camera installed for each mechanical device and sensor detection information acquired from the sensor to a central monitoring and control unit, and from each terminal unit A central monitoring control unit that monitors and manages the operation of the mechanical device by referring to the learning image information learned by artificial intelligence according to the operation state of the pneumatic cylinder by receiving the transmitted image information and sensor detection information, and the central monitoring and control unit Provides operation state information Consists of including an external notification unit to receive and notify the administrator (user),

상기 중앙감시제어부는 상기 각 단말부로부터 취득된 이미지 정보 및 센서감지정보를 전송받기 위한 단말정보수신부와, 단말정보수신부로부터 수신된 이미지 정보 및 센서감지정보를 정보저장부에 저장 및 관리하는 감시정보관리부와, 단말정보수신부로부터 제공된 실시간 이미지 정보로부터 공압 실린더의 피스톤 동작을 검출하고, 그 검출결과 및 단말정보수신부로부터 제공된 센서감지정보에 따라서 공압 실린더의 동작 상태에 대하여 정보저장부에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작 이상 유무를 판단하고 그 판단결과에 따라서 기구장치의 동작을 판단하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 감시정보를 외부알림부에 제공하는 감시제어부와, 학습 이미지 정보와 단말정보수신부로부터 수신된 이미지 정보, 센서감지정보, 기구장치의 동작상태정보가 저장되는 정보저장부를 포함하여 구성되는 것을 특징으로 한다. The central monitoring and control unit includes a terminal information receiving unit for receiving the image information and sensor detection information obtained from each terminal unit, and monitoring information for storing and managing the image information and sensor detection information received from the terminal information receiving unit in the information storage unit. Detects the piston operation of the pneumatic cylinder from the real-time image information provided from the management unit and the terminal information receiving unit, and according to the detection result and the sensor detection information provided from the terminal information receiving unit, the operating state of the pneumatic cylinder is registered and stored in the information storage unit. A monitoring control unit that judges whether there is an abnormal operation of the pneumatic cylinder with reference to the information, determines the operation of the mechanical device according to the judgment result, monitors and manages each mechanical device in the semiconductor manufacturing process, and provides monitoring information to an external notification unit; It is characterized in that it is configured to include an information storage unit for storing image information and image information received from the terminal information receiving unit, sensor detection information, and operation state information of the apparatus.

그리고 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템에서 상기 감시제어부는 단말정보수신부로부터 제공된 실시간 공압 실린더의 이미지 정보 및 센서감지정보를 정보저장부에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작을 판단하는 동작판단부, 그 판단결과에 따라서 기구장치의 동작상태정보의 생성 및 외부알림부로 이상 동작 발생 시 알릴 수 있는 유지보수정보를 제공하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 하는 모니터링부를 포함하여 구성된다. And in the semiconductor manufacturing process monitoring system using the operation image information of the pneumatic cylinder of the present invention, the monitoring and control unit registers the image information and sensor detection information of the real-time pneumatic cylinder provided from the terminal information receiving unit in the information storage unit, and refers to the learning image information stored in the pneumatic Monitoring and management of each mechanical device in the semiconductor manufacturing process by providing maintenance information that can inform when abnormal operation occurs to the operation judgment unit that determines the operation of the cylinder, and generates operation status information of the mechanical device according to the judgment result and an external notification unit and a monitoring unit.

상기 동작판단부는 단말정보수신부로부터 제공된 이미지 정보로부터 공압 실린더의 피스톤을 인식하고 인식된 피스톤의 동작을 검출하여 위한 피스톤동작검출수단, 피스톤동작검출수단으로부터 검출된 피스톤의 동작에 따라 학습 이미지 정보와 대비하기 위한 피스톤 동작 패턴을 생성하기 위한 피스톤동작패턴생성수단, 정보저장부에 등록된 학습 이미지 정보의 패턴 정보와 대비하여 공압 실린더의 동작 상태를 판단하는 동작판단수단을 포함한다.The operation determination unit recognizes the piston of the pneumatic cylinder from the image information provided from the terminal information receiving unit and contrasts with the learning image information according to the piston motion detection means for detecting the recognized motion of the piston, and the piston motion detected from the piston motion detection means In contrast to the pattern information of the learning image information registered in the piston operation pattern generating means for generating a piston operation pattern for the information storage unit includes an operation determination means for determining the operating state of the pneumatic cylinder.

한편 상기 중앙감시제어부는 실시간 이미지 정보로부터 판단된 공압 실린더의 동작 상태를 감시제어부로부터 제공받아 현장 학습 이미지 정보를 생성하여 정보저장부에 저장하는 인공지능학습부를 더 포함하여 구성되며, 상기 인공지능학습부는 정해진 알고리즘에 따라서 상기 동작판단부로부터 피스톤의 동작 검출정보와 피스톤 동작 패턴 정보를 제공받아 인공지능 학습을 수행하여 현장 학습 이미지 정보를 생성하는 수단으로 구성되며, 사용자의 입력된 정보를 참조하여 생성되는 사용자 지도 학습정보를 포함하여 현장 학습 이미지 정보를 생성하는 수단을 더 포함하여 구성되고, 상기 감시제어부는 사용자가 학습정보를 입력할 수 있도록 지도학습입력 인터페이스를 제공하는 학습제어수단을 포함하여 구성되며, 상기 컴퓨터단말수단 또는 스마트폰의 모니터링프로그램은 사용자가 지도 학습정보를 입력할 수 있도록 하는 지도 학습 입력 인터페이스 수단을 제공하는 현장 학습제어 프로세스를 포함하여 구성되는 것을 특징으로 한다.On the other hand, the central monitoring control unit is configured to further include an artificial intelligence learning unit that receives the operation state of the pneumatic cylinder determined from the real-time image information from the monitoring control unit, generates field learning image information, and stores it in the information storage unit, the artificial intelligence learning The unit is configured with means for generating field learning image information by performing artificial intelligence learning by receiving the motion detection information and the piston motion pattern information from the motion determination unit according to a predetermined algorithm, and generating with reference to the user's input information It is configured to further include means for generating field learning image information, including the user-guided learning information that becomes and the monitoring program of the computer terminal means or smart phone is characterized in that it is configured to include a field learning control process that provides a supervised learning input interface means for allowing a user to input supervised learning information.

본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법은, 단말부로부터 이미지 정보와 센서감지정보가 수신되면 공압 실런더의 피스톤 동작을 인식하여 피스톤 동작 정보를 검출하고 단말부의 식별정보를 확인하여 정보저장부에 저장하는 공압 실린더의 동작검출과정과, 검출된 피스톤의 동작 정보를 정보저장부에 저장된 학습 이미지 정보를 참조하여 단말부에 해당하는 기구장치의 동작 이상 유무를 판단하는 동작이상유무 판단과정과, 상기 동작이상유무 판단과정을 통해 판단된 동작상태정보를 정보저장부에 저장하고 동작 이상이 발생 된 경우 유지보수정보를 생성하여 외부알림부로 제공하고 정보저장부에 저장하는 모니터링 관리과정과, 사용자가 접속되고, 사용자의 접속요청 정보가 입력되면 정보저장부에 저장된 접속자 정보를 확인하여 접속 허가하고, 접속된 사용자의 컴퓨터단말수단 또는 스마트폰으로부터 감시정보 조회요청이 입력되면 입력된 감시정보 조회 요청에 따라서 정보저장부에 저장된 동작상태정보 또는 기 저장된 유지보수정보를 사용자의 컴퓨터단말수단 또는 스마트폰으로 제공하는 모니터링 정보 제공과정을 포함하여 구성되는 것을 특징으로 한다.The semiconductor manufacturing process monitoring method using the operation image information of the pneumatic cylinder of the present invention recognizes the piston operation of the pneumatic cylinder when the image information and sensor detection information are received from the terminal unit, detects the piston operation information, and confirms the identification information of the terminal unit The operation detection process of the pneumatic cylinder stored in the information storage unit and the operation information of the detected piston refer to the learning image information stored in the information storage unit to determine the operation abnormality of the mechanical device corresponding to the terminal unit. A monitoring management process in which the determination process and the operation state information determined through the operation abnormality determination process are stored in the information storage unit, and when an operation abnormality occurs, maintenance information is generated, provided to an external notification unit, and stored in the information storage unit And, when the user is connected and the user's access request information is input, the access is allowed by checking the visitor information stored in the information storage unit, and when the monitoring information inquiry request is input from the connected user's computer terminal means or smart phone, the input monitoring It is characterized in that it comprises a monitoring information providing process for providing the operation state information or pre-stored maintenance information stored in the information storage unit to the user's computer terminal means or smart phone according to the information inquiry request.

그리고 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법은, 상기 공압 실린더의 동작검출과정을 통해 검출된 공압 실린더의 동작 정보에 대하여 정해진 알고리즘에 따라서 인공지능 학습 과정을 수행하여 현장 학습 이미지 정보를 생성하여 정보저장부에 저장하는 현장 학습 이미지 정보 생성과정을 더 포함하여 구성되고,And, the semiconductor manufacturing process monitoring method using the operation image information of the pneumatic cylinder of the present invention is a field learning image by performing an artificial intelligence learning process according to a predetermined algorithm for the operation information of the pneumatic cylinder detected through the operation detection process of the pneumatic cylinder It is configured to further include a field learning image information generation process to generate information and store it in the information storage unit,

상기 동작이상유무판단과정은 공압 실린더의 동작검출과정을 통해 검출된 피스톤의 동작 정보를 정보저장부에 저장된 학습 이미지 정보와 현장 학습 이미지 정보를 참조하여 단말부에 해당하는 기구장치의 동작 이상 유무를 판단하는 과정으로 이루어지는 것을 특징으로 하며, 상기 현장 학습 이미지 정보 생성과정은 사용자의 지도 학습정보가 입력되면, 사용자가 입력한 지도 학습정보에 따라서 현장 학습 이미지 정보를 생성하는 과정을 더 포함하는 것을 특징으로 한다.In the operation abnormality determination process, the operation information of the piston detected through the operation detection process of the pneumatic cylinder is referred to the learning image information and field learning image information stored in the information storage unit to determine whether the mechanical device corresponding to the terminal is abnormal. It characterized in that it consists of a process of determining, wherein the field learning image information generation process further comprises a process of generating field learning image information according to the supervised learning information input by the user when the user's supervised learning information is input do it with

이와 같은 본 발명에 따르면, 반도체 제조공정에서 공압 실린더의 피스톤 동작 패턴에 대한 학습 이미지 정보를 이용하여 공압 실린더의 동작 이상 유무를 판단하고 이에 따라서 해당 기구장치의 동작을 감시할 수 있도록 함으로써, 고가의 카메라(비전장치)나 가속도 등을 감지하기 위한 센서 등을 구비하지 않고서도 반도체 제조공정에서의 효율적인 감시 시스템을 구축할 수 있다. According to the present invention as described above, by using the learning image information for the piston operation pattern of the pneumatic cylinder in the semiconductor manufacturing process to determine whether the operation of the pneumatic cylinder is abnormal and to monitor the operation of the corresponding mechanical device accordingly, expensive It is possible to construct an efficient monitoring system in a semiconductor manufacturing process without a camera (vision device) or a sensor for detecting acceleration.

도 1은 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템의 제1실시 예 구성을 나타낸 블록도.
도 2는 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템의 제2실시 예 구성을 나타낸 블록도.
도 3은 사물 인식 알고리즘 검출성능 지표 대비를 나타내는 도면
도 4, 도 5는 공압 실린더(진공밸브)의 열림(open)/닫힘(close) 사물 인식 학습 예를 나타낸 도면으로, 도 4는 열림 상태, 도 5는 닫힘 상태.
도 6 내지 도 8은 공압 실린더(게이트 밸브)의 동작 상태별 사물인식 학습 예를 나타낸 도면으로, 도 6은 20% 열림 상태, 도 7은 40% 닫힘 상태, 도 8은 60% 닫힘 상태.
도 9 및 도 10은 학습을 수행하기 위한 공압 실린더 피스톤 동작 패턴 예를 나타낸 도면으로, 도 9는 피스톤의 정상 동작 패턴을 나타낸 것으로, 가속도(a)가 일정한 시간 내 정속인 상태를 나타낸 도면, 도 10은 피스톤의 비정상 동작 패턴을 나타낸 도면.
도 11은 인공지능 학습은 콘볼루션 신경망(CON; Convolutional Neural Network)을 나타낸 도면.
도 12는 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법의 일 실시 예 실행 과정을 나타낸 플로우챠트.
도 13은 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법의 다른 실시 예 실행 과정을 나타낸 플로우챠트.
1 is a block diagram showing the configuration of a first embodiment of the semiconductor manufacturing process monitoring system using the operation image information of the pneumatic cylinder of the present invention.
Figure 2 is a block diagram showing the configuration of the second embodiment of the semiconductor manufacturing process monitoring system using the operation image information of the pneumatic cylinder of the present invention.
3 is a diagram showing the comparison of the object recognition algorithm detection performance index
4 and 5 are views showing an open/close object recognition learning example of a pneumatic cylinder (vacuum valve), FIG. 4 is an open state, FIG. 5 is a closed state.
6 to 8 are views showing an example of object recognition learning by operation state of a pneumatic cylinder (gate valve), FIG. 6 is a 20% open state, FIG. 7 is a 40% closed state, and FIG. 8 is a 60% closed state.
9 and 10 are views showing an example of a pneumatic cylinder piston operation pattern for performing learning, FIG. 9 is a view showing a normal operation pattern of the piston, and the acceleration (a) is a view showing a constant speed within a certain time, FIG. 10 is a diagram showing the abnormal operation pattern of the piston.
11 is a diagram illustrating a convolutional neural network (CON) for artificial intelligence learning.
12 is a flowchart showing an embodiment of a method for monitoring a semiconductor manufacturing process using operation image information of a pneumatic cylinder of the present invention.
13 is a flowchart showing the execution process of another embodiment of the semiconductor manufacturing process monitoring method using the operation image information of the pneumatic cylinder of the present invention.

본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템의 일 실시 예를 첨부된 도면 도 1 및 도 3내지 도 12에 도시된 실시 예를 참조하여 설명하면 다음과 같다. An embodiment of the semiconductor manufacturing process monitoring system using the operation image information of the pneumatic cylinder of the present invention will be described with reference to the embodiments shown in FIGS. 1 and 3 to 12 attached thereto.

반도체 제조설비 내 각 기구장치에 설치되어 기구장치 내의 공압 실린더의 동작 이미지 정보를 취득하기 위한 카메라(100)와, 반도체 제조설비 내 각 기구장치 내에 설치되어 공압 실린더의 동작 상태를 감지하기 위한 센서(200)와, 기구장치 별 설치된 상기 카메라(100)로부터 취득된 이미지 정보 및 센서(200)로부터 취득된 센서감지정보를 중앙감시제어부(400)로 제공하는 단말부(300)와, 상기 각 단말부(300)로부터 전송된 이미지 정보 및 센서감지정보를 제공받아 공압 실린더의 동작 상태에 따라 인공 지능 학습된 학습 이미지 정보를 참조하여 기구장치의 동작을 감시 관리하는 중앙감시제어부(400)와, 중앙감시제어부(400)로부터 동작상태정보 및 유지보수정보를 제공받아 관리자(사용자)에게 알리기 위한 외부알림부(500)를 포함하여 구성된다.A camera 100 installed in each mechanical device in the semiconductor manufacturing facility to acquire operation image information of the pneumatic cylinder in the mechanical device, and a sensor installed in each mechanical device in the semiconductor manufacturing facility to detect the operating state of the pneumatic cylinder ( 200), and a terminal unit 300 that provides the image information obtained from the camera 100 installed for each instrument and sensor detection information obtained from the sensor 200 to the central monitoring and control unit 400, and each terminal unit A central monitoring and control unit 400 that monitors and manages the operation of the mechanism by referring to the learning image information learned by artificial intelligence according to the operating state of the pneumatic cylinder by receiving the image information and sensor detection information transmitted from the 300, and central monitoring It is configured to include an external notification unit 500 for notifying an administrator (user) by receiving the operation state information and maintenance information from the control unit 400 .

상기 중앙감시제어부(400)는 상기 각 단말부(300)로부터 취득된 이미지 정보 및 센서감지정보를 전송받기 위한 단말정보수신부(410)와, 단말정보수신부(410)로부터 수신된 이미지 정보 및 센서감지정보를 정보저장부(440)에 저장 및 관리하는 감시정보관리부(420)와, 단말정보수신부(410)로부터 제공된 실시간 이미지 정보로부터 공압 실린더의 피스톤 동작을 검출하고, 그 검출결과 및 단말정보수신부(410)로부터 제공된 센서감지정보에 따라서 공압 실린더의 동작 상태에 대하여 정보저장부(440)에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작 이상 유무를 판단하고 그 판단결과에 따라서 기구장치의 동작을 판단하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 감시정보를 외부알림부(500)에 제공하는 감시제어부(430)와, 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보, 기구장치의 동작상태정보, 유지보수정보가 저장되는 제1저장부(441), 학습 이미지 정보가 저장된 제2저장부(442)를 포함하는 정보저장부(440)를 포함하여 구성된다.The central monitoring and control unit 400 includes a terminal information receiving unit 410 for receiving the image information and sensor sensing information acquired from each terminal unit 300 , and image information and sensor sensing received from the terminal information receiving unit 410 . The monitoring information management unit 420 that stores and manages information in the information storage unit 440 and detects the piston operation of the pneumatic cylinder from the real-time image information provided from the terminal information receiving unit 410, and the detection result and the terminal information receiving unit ( 410) with reference to the learning image information registered and stored in the information storage unit 440 for the operation state of the pneumatic cylinder according to the sensor detection information provided from 410) to determine whether the operation of the pneumatic cylinder is abnormal, and the operation of the mechanical device according to the determination result Image information, sensor sensing information, and instrumentation received from the monitoring control unit 430 that judges and monitors and manages each instrument device in the semiconductor manufacturing process and provides the monitoring information to the external notification unit 500, and the terminal information receiver 410 is configured to include an information storage unit 440 including a first storage unit 441 in which operation state information and maintenance information are stored, and a second storage unit 442 in which learning image information is stored.

이와 같이 구성된 본 발명 실시 예는 기구장치에 구성되는 공압 실린더 동작에 대한 이미지 정보를 학습시켜 생성된 학습 이미지 정보를 반도체 제조공정 감시 시스템 내에 연동시켜 공압 실린더의 동작 이상 유무를 판단하여 기구장치의 이상 유무를 감시할 수 있도록 한다.In the embodiment of the present invention configured as described above, the learning image information generated by learning the image information on the operation of the pneumatic cylinder configured in the mechanical device is interlocked in the semiconductor manufacturing process monitoring system to determine whether the operation of the pneumatic cylinder is abnormal, and the abnormality of the mechanical device to be able to monitor the presence of

본 발명은 반도체 제조공정 내 각 기구장치에 카메라와 센서가 각 설치된다. In the present invention, a camera and a sensor are installed in each mechanical device in a semiconductor manufacturing process.

상기 카메라(100)는 기구장치에 구성된 공압 실린더를 촬영하기 위한 수단으로, 공압 실린더의의 피스톤 동작 영상을 취득하기 위하여 설치된다. The camera 100 is a means for photographing the pneumatic cylinder configured in the mechanical device, and is installed to acquire an image of the piston motion of the pneumatic cylinder.

상기 카메라(100)는 공압 실린더가 설치된 위치에 따라서 하나 이상의 공압 실린더의 피스톤 동작을 촬영하도록 구성할 수 있다.The camera 100 may be configured to photograph the piston operation of one or more pneumatic cylinders according to a location where the pneumatic cylinders are installed.

즉 카메라(100)의 일반적인 화각 범위가 71도임을 감안하여 카메라(100)가 거치된 위치에서 카메라(100)의 화각 범위 내에서 공압 실린더의 피스톤 동작을 촬영할 수 있도록 하는 것이다. That is, considering that the general field of view range of the camera 100 is 71 degrees, the piston operation of the pneumatic cylinder can be photographed within the field of view range of the camera 100 at the position where the camera 100 is mounted.

상기 센서(200)는 상기 피스톤의 동작 범위를 감지하기 위한 수단으로, 광센서로 구성될 수 있다.The sensor 200 is a means for detecting the operating range of the piston, and may be configured as an optical sensor.

상기 단말부(300)는 기구장치의 근접된 위치에 설치될 수 있으며, 해당 기구장치에 구성된 상기 카메라(100)와 센서(200)로부터 제공된 이미지 정보와 센서감지정보를 유무선 네트워크를 통해 중앙감시제어부(400)로 전송하는 수단이다.The terminal unit 300 may be installed in a position close to the mechanical device, and the image information and sensor detection information provided from the camera 100 and the sensor 200 configured in the corresponding mechanical device are transmitted to the central monitoring and control unit through a wired/wireless network. (400) means to transmit.

상기 중앙감시제어부(400)는 각 단말부(300)로부터 전송된 이미지 정보 및 센서감지정보를 이용하여 각 기구장치의 동작 이상 유무를 판단하고, 그 판단결과에 따라서 반도체 제조공정 시스템을 관리하기 위한 서버 수단이다. The central monitoring and control unit 400 uses the image information and sensor detection information transmitted from each terminal unit 300 to determine whether each mechanical device has an abnormal operation, and to manage the semiconductor manufacturing process system according to the determination result. It is a server tool.

상기 중앙감시제어부(400)는 각 단말부(300)로부터 이미지 정보, 센서감지정보를 전송받아 기구장치의 동작을 학습하여 생성된 인공지능 학습정보를 이용하여 이의 정보로부터 기구장치의 이상 동작 유무를 판단하여 관리하는 수단으로, 단말정보수신부(410), 감시정보관리부(420), 감시제어부(430), 정보저장부(440)를 포함한다. The central monitoring and control unit 400 receives image information and sensor detection information from each terminal unit 300 and uses the artificial intelligence learning information generated by learning the operation of the mechanical device to determine whether or not the mechanical device operates abnormally from the information. As a means for determining and managing, it includes a terminal information receiving unit 410 , a monitoring information management unit 420 , a monitoring control unit 430 , and an information storage unit 440 .

상기 단말정보수신부(410)는 각 단말부(300)로부터 이미지 정보, 센서감지정보를 전송받기 위한 수단으로, 각 단말부(300)와 단말정보수신부(410)는 유,무선 네트워크 수단을 통해 구성할 수 있다.The terminal information receiving unit 410 is a means for receiving image information and sensor detection information from each terminal 300, and each terminal 300 and the terminal information receiving unit 410 are configured through wired and wireless network means. can do.

상기 감시정보관리부(420)는 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보를 각 단말부(300) 단위로 정보저장부(440)에 저장 관리하는 수단이다. The monitoring information management unit 420 is a means for storing and managing image information and sensor detection information received from the terminal information receiving unit 410 in the information storage unit 440 in units of each terminal unit 300 .

상기 감시제어부(430)는 카메라(100) 및 센서(200)로부터 제공되는 실시간 이미지 정보와 센서감지정보를 정보저장부(440)에 등록 저장된 인공 지능 학습 이미지 정보를 참조하여 공압 실린더의 동작을 판단하고 이를 통해 해당 기구장치의 이상 동작 유무를 판단하고 관리하기 위한 수단이다. The monitoring control unit 430 registers real-time image information and sensor detection information provided from the camera 100 and the sensor 200 in the information storage unit 440 and determines the operation of the pneumatic cylinder by referring to the stored artificial intelligence learning image information. It is a means for judging and managing the presence or absence of abnormal operation of the corresponding mechanical device through this.

상기 감시제어부는 단말정보수신부(410)로부터 제공된 실시간 공압 실린더의 이미지 정보 및 센서감지정보를 정보저장부(440)에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작을 판단하는 동작판단부(431), 그 판단결과에 따라서 기구장치의 동작상태정보의 생성 및 외부알림부(500)로 이상 동작 발생 시 알릴 수 있는 유지보수정보를 제공하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 하는 모니터링부(432)를 포함하여 구성된다.The monitoring control unit registers the image information and sensor detection information of the real-time pneumatic cylinder provided from the terminal information receiving unit 410 in the information storage unit 440 and determines the operation of the pneumatic cylinder with reference to the stored learning image information 431 ), a monitoring unit that monitors and manages each mechanical device in the semiconductor manufacturing process by generating operation status information of the mechanical device and providing maintenance information that can notify when an abnormal operation occurs to the external notification unit 500 according to the determination result (432) is included.

상기 동작판단부(431)는 단말정보수신부(410)로부터 제공된 이미지 정보로부터 공압 실린더의 피스톤을 인식하고 인식된 피스톤의 동작을 검출하여 위한 피스톤동작검출수단, 피스톤동작검출수단으로부터 검출된 피스톤의 동작에 따라 학습 이미지 정보와 대비하기 위한 피스톤 동작 패턴을 생성하기 위한 피스톤동작패턴생성수단, 정보저장부(440)에 등록된 학습 이미지 정보의 패턴 정보와 피스톤동작패턴생성수단에서 생성된 피스톤 동작패턴을 대비하여 공압 실린더의 동작 상태를 판단하는 동작판단수단을 포함한다.The operation determination unit 431 recognizes the piston of the pneumatic cylinder from the image information provided from the terminal information receiving unit 410 and detects the recognized operation of the piston. A piston operation pattern generating means for generating a piston operation pattern to contrast with the learning image information according to the pattern information of the learning image information registered in the information storage unit 440, In contrast, it includes an operation determination means for determining the operating state of the pneumatic cylinder.

상기 동작판단부(431)의 피스톤동작검출수단은 공압 실린더의 피스톤을 인식하고 피스톤의 동작을 검출하기 위하여"YOLO" 이미지 검출 알고리즘을 적용한다.The piston operation detection means of the operation determination unit 431 recognizes the piston of the pneumatic cylinder and applies a “YOLO” image detection algorithm to detect the operation of the piston.

이는 공압 실린더의 동작 속도가 타 장치에 비해 상대적으로 빠른 관계로 이미지의 검출은 인공지능 사물 인식 알고리즘 중 가장 속도가 빠른 것으로 알려진 YOLO(You Only Look Once)를 적용한 것이다. This is because the operation speed of the pneumatic cylinder is relatively fast compared to other devices, so YOLO (You Only Look Once), which is known to be the fastest among the artificial intelligence object recognition algorithms, is applied for image detection.

도 3은 사물 인식 알고리즘 검출성능 지표 대비를 나타내는 도면이다. 3 is a diagram showing the comparison of the object recognition algorithm detection performance index.

각 사물인식대상(VOC2007, Picasso, People Art)에서 YOLO가 타 알고리즘(R-CNN,DPM)보다 인식속도가 빠름을 알 수 있다. In each object recognition target (VOC2007, Picasso, People Art), it can be seen that the recognition speed of YOLO is faster than that of other algorithms (R-CNN, DPM).

반도체 제조공정 현장에서 조명과 각 기구들의 금속표면으로 인한 상호 간의 반사효과로 피사체(object)의 경계가 불분명할 수 있으므로, YOLO 알고리즘이 효과적이다. The YOLO algorithm is effective because the boundary between objects may be unclear due to the mutual reflection effect caused by lighting and the metal surface of each device in the semiconductor manufacturing process site.

또한 감시제어부(430)는 외부알림부(500)의 컴퓨터단말수단(510) 또는 스마트폰(520)의 접속 관리를 위한 접속관리수단, 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 입력된 정보 조회요청에 따라서 정보저장부(440)에 저장된 정보를 제공하는 조회정보제공수단을 포함하여 구성된다. In addition, the monitoring control unit 430 from the computer terminal means 510 of the external notification unit 500 or the connection management means for connection management of the smart phone 520, the connected computer terminal means 510 or the smart phone 520 and inquiry information providing means for providing information stored in the information storage unit 440 according to the input information inquiry request.

또한 감시제어부(430)는 컴퓨터 단말수단(510) 또는 스마트폰(520)으로부터 정보저장부(440)의 제2저장부(442)에 등록된 학습 이미지 정보의 등록 요청에 대하여 컴퓨터 단말수단(510) 또는 스마트폰(520)으로부터 전송되는 학습 이미지 정보를 제2저장부(442)에 등록하여 학습 이미지 정보의 업데이트수단을 더 포함할 수 있다.In addition, the monitoring control unit 430 computer terminal means 510 or the computer terminal means 510 in response to a request for registration of the learning image information registered in the second storage unit 442 of the information storage unit 440 from the smart phone 520. ) or by registering the learning image information transmitted from the smart phone 520 in the second storage unit 442 may further include a means for updating the learning image information.

상기 정보저장부(440)는 실시간으로 취득 및 생성되는 정보가 저장되는 제1저장부(441)와, 학습 이미지 정보가 저장되는 제2저장부(442)를 포함한다.The information storage unit 440 includes a first storage unit 441 in which information acquired and generated in real time is stored, and a second storage unit 442 in which learning image information is stored.

상기 제1저장부(441)는 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보와 감시제어부(430)에서 생성되는 기구장치의 동작상태정보가 저장되는 수단이다. The first storage unit 441 is a means for storing image information received from the terminal information receiving unit 410 , sensor detection information, and operation state information of the instrumentation device generated by the monitoring and control unit 430 .

또한 제2저장부(442)는 각 동작 이상 정보에 대하여 취해야 할 보수정보가 저장된다.In addition, the second storage unit 442 stores maintenance information to be taken for each operation abnormality information.

상기 정보저장부(440)에 저장된 이미지 정보 및 센서감지정보는 각 단말부(300)로부터 전송된 정보이며 단말부정보를 포함한다.The image information and sensor detection information stored in the information storage unit 440 are information transmitted from each terminal unit 300 and include terminal information.

상기 정보저장부(440)의 학습 이미지 정보는 반도체 제조공정 상에 설치된 공압 실린더로부터 취득된 영상 이미지 정보에 대하여 인공지능 학습을 수행하여 생성된 정보로 제2저장부(442)에 미리 등록된 정보이다. The learning image information of the information storage unit 440 is information generated by performing artificial intelligence learning on the image image information acquired from the pneumatic cylinder installed on the semiconductor manufacturing process, and is information registered in advance in the second storage unit 442 . to be.

상기 제2저장부(442)에 등록된 학습 이미지 정보는 피스톤의 동작을 검출하고, 검출된 피스톤 동작 정보를 인공지능 학습 수행한 정보로서, 공압 실린더의 피스톤 동작에 대한 패턴 정보를 포함한다.The learning image information registered in the second storage unit 442 detects the operation of the piston, and is information obtained by performing artificial intelligence learning on the detected piston operation information, and includes pattern information about the piston operation of the pneumatic cylinder.

제조공정 설비 내 기구장치(진공밸브, 게이트 밸브)에 설치된 공압 실린더의 동작에 대하여 카메라(초당 28프레임 이상 이미지 생성)로 촬영하여 이에 대하여 정상 동작과 비정상 동작을 구분하여 인공지능 학습을 수행한다.The operation of the pneumatic cylinder installed in the mechanical device (vacuum valve, gate valve) in the manufacturing process facility is photographed with a camera (images generated at more than 28 frames per second), and artificial intelligence learning is performed by classifying normal operation and abnormal operation.

도 4, 도 5는 공압 실린더(진공밸브)의 열림(open)/닫힘(close) 사물 인식 학습 예를 나타낸 도면으로, 도 4는 열림 상태, 도 5는 닫힘 상태를 나타낸다. 4 and 5 are views showing an example of learning to recognize an open/closed object of a pneumatic cylinder (vacuum valve), FIG. 4 is an open state, and FIG. 5 shows a closed state.

도 6 내지 도 8은 공압 실린더(게이트 밸브)의 동작 상태별 사물인식 학습 예를 나타낸 도면으로, 도 6은 20% 열림 상태, 도 7은 40% 닫힘 상태, 도 8은 60%닫힘 상태를 나타낸다.6 to 8 are views showing an example of object recognition learning by operation state of a pneumatic cylinder (gate valve), FIG. 6 shows a 20% open state, FIG. 7 shows a 40% closed state, and FIG. 8 shows a 60% closed state .

인공지능 학습에서 요구된 피스톤의 동작을 구분화하기 위한 세분화 요소는 다음과 같다. The segmentation elements to classify the piston motion required in AI learning are as follows.

(1). 동작 속도(v) 및 가속도(a)(One). Motion speed (v) and acceleration (a)

(2). 동작 속도의 변화량(delta v)(2). Change in operating speed (delta v)

(3). 부하량(kg중, N)(3). Load (in kg, N)

상기와 같은 구분 요소에 대하여 "YOLO"알고리즘의 이미지 검출 신경망(Neural Network)의 최종 단계, 즉 성능평가지표(mAP;mean Average Precision)가 결정되는 시점에서 학습을 수행한다. With respect to the above classification elements, learning is performed at the final stage of the image detection neural network of the "YOLO" algorithm, that is, when the mean average precision (mAP) is determined.

도 9 및 도 10은 학습을 수행하기 위한 공압 실린더 피스톤 동작 패턴 예를 나타낸다.9 and 10 show an example of a pneumatic cylinder piston operation pattern for performing learning.

도 9는 피스톤의 정상 동작 패턴을 나타낸 것으로, 가속도(a)가 일정한 시간 내 정속인 상태를 나타낸 도면이다.9 is a view showing a normal operation pattern of the piston, and showing a state in which the acceleration (a) is a constant speed within a certain time.

도 10은 피스톤의 비정상 동작 패턴을 나타낸 도면이다. 10 is a view showing an abnormal operation pattern of the piston.

인공지능 학습은 콘볼루션 신경망(CON; Convolutional Neural Network)을 적용한다. Artificial intelligence learning applies a convolutional neural network (CON).

CNN은 컨볼루션을 이용한 인공 신경망 모델이다. 다차원배열데이터처리에 특화된 모델로 데이터의 공간적 정보를 유지하면서 배열 데이터 정보를 다음 레이어로 보낼 수 있어서 이미지(RGB채널이 3차원 배열)분야에서 적극 활용 되고 있다.CNN is an artificial neural network model using convolution. As a model specialized in multidimensional array data processing, it is actively used in the image field (RGB channel is a three-dimensional array) because it can transmit the array data information to the next layer while maintaining the spatial information of the data.

특히 이미지의 특징을 뚜렷하게 검출하기 때문에 적용하였다.In particular, it was applied because it clearly detects the features of the image.

도 11은 CNN을 나타낸다.11 shows a CNN.

CNN은, 필터를 이용한 콘볼루션 연산을 반복적으로 진행하면서 이미지의 특징을 검출하게 되는 데, CNN detects image features while repeatedly performing a convolution operation using a filter.

(a). 이미지의 특징을 추출하는 콘볼루션 레이어(Convolutional Layer)(a). Convolutional layer that extracts image features

(b). 이미지의 특징을 추출하고 모으는 풀링 레이어(Pooling Layer)(b). A pooling layer that extracts and collects image features

(c). 이미지를 분류하는 풀리 커넥티드 레이어(Fully connected Layer)(c). Fully connected layer to classify images

이와 같이 이미지의 특징을 추출하고 이미지를 분류하는 부분으로 구성되어 있다.In this way, it is composed of parts that extract features of images and classify images.

상기 외부알림부(500)는 중앙감시제어부(400)로부터 기구장치에 대한 감시정보 즉, 기구장치의 동작상태정보 및 유지보수정보를 제공받아 표시 또는 경보음과 같은 알림수단, 관리자의 컴퓨터단말수단(510), 스마트폰(520)으로 구성될 수 있다. The external notification unit 500 receives monitoring information about the instrument device from the central monitoring and control unit 400, that is, operation state information and maintenance information of the instrument device, and a notification means such as a display or an alarm sound, and a computer terminal means of an administrator. 510 , and a smartphone 520 .

외부알림부(500)는 전광판과 같은 알림수단이 구성될 수 있으며, 제조공정 현장에 설치되어 현장에서 관리자 또는 작업자가 손쉽게 확인하도록 할 수 있다.The external notification unit 500 may be configured with a notification means such as an electric billboard, and may be installed in the manufacturing process site so that a manager or an operator can easily check it in the field.

상기 컴퓨터단말수단(510) 및 스마트폰(520)은 중앙감시제어부(400)로부터 기구장치의 동작상태정보 및 유지보수정보를 제공받아 관리자에게 제공 및 관리자가 중앙감시제어부(400)에 접속하여 중앙감시제어부(400)를 통해 기구장치의 동작상태정보 및 유지보수정보를 제공받을 수 있도록 하는 모니터링프로그램이 설치된다.The computer terminal means 510 and the smart phone 520 receive the operation state information and maintenance information of the mechanical device from the central monitoring and control unit 400 and provide them to the administrator, and the administrator accesses the central monitoring and control unit 400 to centralize A monitoring program is installed so that the operation state information and maintenance information of the mechanical device can be provided through the monitoring and control unit 400 .

상기 모니터링프로그램은 중앙감시제어부(400)와의 접속 관리를 위한 접속관리프로세스, 중앙감시제어부(400)에 접속하여 정보저장부(440)에 저장된 동작 상태정보 및 기 발생된 유지보수정보의 조회가 가능한 조회관리프로세스, 중앙감시제어부로부터 전송된 유지보수정보에 따라서 알림 정보를 생성하여 사용자에게 제공하는 알림관리프로세스를 포함한다.The monitoring program is a connection management process for managing a connection with the central monitoring and control unit 400, accessing the central monitoring and control unit 400 to view the operation state information and pre-generated maintenance information stored in the information storage unit 440. It includes an inquiry management process and a notification management process that generates and provides notification information to users according to maintenance information transmitted from the central monitoring and control unit.

또한 상기 모니터링프로그램은 중앙감시제어부(400)에 접속하여 학습 이미지 정보의 업데이트를 요청하고, 학습 이미지 정보를 중앙감시제어부(400)에 전송하여 정보저장부(440)에 등록할 수 있도록 하는 학습 이미지 정보 업데이트 프로세스를 더 포함한다. In addition, the monitoring program accesses the central monitoring and control unit 400 to request an update of the learning image information, and transmits the learning image information to the central monitoring and control unit 400 to register the learning image in the information storage unit 440 . and an information update process.

또한 상기 단말부(300)에 근접통신수단 및 근접통신수단을 통해 접속된 스마트폰(520)을 식별하고 식별된 스마트폰(520) 정보를 중앙감시제어부(400)로 전송하는 근접사용자식별부를 더 포함하고, 상기 중앙감시제어부(400)의 감시제어부(430)는 단말정보수신부(410)를 통해 단말부(300)로부터 제공받은 사용자 정보에 따라서 해당하는 스마트폰(520)으로 상기 단말부(300)에 해당하는 기구장치의 동작상태정보 및 기 저장된 유지보수정보를 제공하고 그 이력(history)을 정보저장부(440)에 저장하는 사용자의 위치에 따라서 근접된 기구장치의 감시정보를 제공하기 위한 근접된 사용자 모니터링수단을 포함하여 구성할 수 있다. In addition, a proximity user identification unit for identifying the smart phone 520 connected to the terminal unit 300 through the proximity communication means and the proximity communication means and transmitting the identified smart phone 520 information to the central monitoring control unit 400 . Including, the monitoring control unit 430 of the central monitoring control unit 400 according to the user information provided from the terminal unit 300 through the terminal information receiving unit 410 to the corresponding smart phone 520, the terminal unit 300 ) to provide operation state information and pre-stored maintenance information of the mechanical device corresponding to the It can be configured to include a user monitoring means in proximity.

상기 근접통신수단은 블루투스로 구성될 수 있다.The proximity communication means may be configured with Bluetooth.

상기 중앙감시제어부(400)에서 이루어지는 본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법은,The semiconductor manufacturing process monitoring method using the operation image information of the pneumatic cylinder of the present invention made in the central monitoring and control unit 400,

단말부(300)로부터 이미지 정보와 센서감지정보가 수신되면 공압 실런더의 피스톤 동작을 인식하여 피스톤 동작 정보를 검출하고 단말부(300)의 식별정보를 확인하여 정보저장부(440)에 저장하는 공압 실린더의 동작검출과정과,When image information and sensor detection information are received from the terminal unit 300, the piston operation of the pneumatic cylinder is recognized, the piston operation information is detected, and the identification information of the terminal unit 300 is checked and stored in the information storage unit 440. The operation detection process of the pneumatic cylinder,

검출된 피스톤의 동작 정보를 정보저장부(440)에 저장된 학습 이미지 정보를 참조하여 단말부(300)에 해당하는 기구장치의 동작 이상 유무를 판단하는 동작이상유무 판단과정과, An operation abnormality determination process of determining the operation abnormality of the mechanical device corresponding to the terminal unit 300 with reference to the learning image information stored in the information storage unit 440 for the detected piston operation information;

상기 동작이상유무 판단과정을 통해 판단된 동작상태정보를 정보저장부(440)에 저장하고 동작 이상이 발생 된 경우 유지보수정보를 생성하여 외부알림부(500)로 제공하고 정보저장부(440)에 저장하는 모니터링 관리과정과,The operation state information determined through the operation abnormality determination process is stored in the information storage unit 440, and when an operation abnormality occurs, maintenance information is generated and provided to the external notification unit 500, and the information storage unit 440 The monitoring management process stored in the

사용자가 접속되고, 사용자의 접속요청 정보가 입력되면 정보저장부(440)에 저장된 접속자 정보를 확인하여 접속 허가하고, 접속된 사용자의 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 감시정보 조회요청이 입력되면 입력된 감시정보 조회 요청에 따라서 정보저장부(440)에 저장된 동작상태정보 또는 기 저장된 유지보수정보를 사용자의 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공하는 모니터링 정보 제공과정을 포함하여 구성된다.When a user is connected and the user's access request information is input, the access information stored in the information storage unit 440 is checked and access is permitted, and monitoring information is viewed from the connected user's computer terminal means 510 or smart phone 520 . When a request is input, monitoring information is provided that provides operation state information or pre-stored maintenance information stored in the information storage unit 440 to the user's computer terminal means 510 or smart phone 520 according to the input monitoring information inquiry request comprised of the process.

또한 단말부(300)로부터 사용자 스마트폰(520) 접속이 확인되면 해당 단말부 식별정보를 확인하고 정보저장부(440)에 저장된 해당하는 단말부(300)의 동작상태정보와 기 저장된 유지보수정보를 접속 확인된 스마트폰(520)에 제공하는 근접된 사용자에 대한 모니터링 정보 제공과정을 더 포함하여 구성한다.In addition, when the user's smartphone 520 access is confirmed from the terminal unit 300, the corresponding terminal unit identification information is checked, and operation state information and pre-stored maintenance information of the corresponding terminal unit 300 stored in the information storage unit 440 are confirmed. It is configured to further include a process of providing monitoring information for a user in proximity to providing the access-confirmed smart phone 520 .

또한 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 학습 이미지 정보 업데이트 요청이 입력되면 업데이트 하고자 하는 학습 이미지 정보의 전송을 위한 인터페이스 수단을 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공하는 과정과, 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공된 인터페이스 수단을 통해 입력된 학습 이미지 정보를 정보저장부(440)의 제2저장부(442)에 저장하여 학습 이미지 정보를 업데이트하는 과정을 더 포함하여 구성한다.In addition, when a learning image information update request is input from the connected computer terminal means 510 or smart phone 520, the interface means for transmitting the learning image information to be updated is transferred to the computer terminal means 510 or the smart phone 520. The process of providing, and storing the learning image information input through the interface means provided to the computer terminal means 510 or the smart phone 520 in the second storage unit 442 of the information storage unit 440 to store the learning image information It is configured by further including the process of updating.

상기 모니터링 정보 제공 과정은 외부알림부(500)로 제공되는 동작상태정보는 기구장치 정보, 동작 상태 이상 유무 및 동작 이상이 발생 된 경우 동작 이상 정보와 동작 상태를 나타내는 이미지 정보를 포함한다. In the monitoring information providing process, the operation state information provided to the external notification unit 500 includes mechanical device information, the presence or absence of an operation state abnormality, and operation abnormality information and image information indicating the operation state when an operation abnormality occurs.

이와 같은 구성으로 이루어진 본 발명 실시 예의 동작을 설명하면 다음과 같다. The operation of the embodiment of the present invention having such a configuration will be described as follows.

제조공정 내 각 기구장치 단위로 설치된 단말부(300)는 카메라(100)를 통해 취득된 공압 실린더의 피스톤 이미지 정보를 중앙감시제어부(400)로 전송하게 되고, 중앙감시제어부(400)의 단말정보수신부(410)에서는 유무선 네트워크를 통해 연결된 단말부(300)로부터 전송된 이미지 정보와 센서감지정보를 수신한다.The terminal unit 300 installed for each mechanical device in the manufacturing process transmits the piston image information of the pneumatic cylinder acquired through the camera 100 to the central monitoring control unit 400, and the terminal information of the central monitoring control unit 400 The receiving unit 410 receives image information and sensor sensing information transmitted from the terminal unit 300 connected through a wired/wireless network.

상기와 같이 단말정보수신부(410)로부터 단말부(300)의 이미지 정보 및 센서감지정보가 수신되면 감시정보관리부(420)에서는 수신된 이미지 정보 및 센서감지정보를 정보저장부(440)에 단말부(300) 단위로 저장한다. When the image information and sensor detection information of the terminal unit 300 are received from the terminal information receiving unit 410 as described above, the monitoring information management unit 420 stores the received image information and sensor detection information in the information storage unit 440 of the terminal unit. It is stored in units of (300).

한편 감시제어부(430)에서는 상기 단말정보수신부(410)로부터 수신된 이미지 정보와 센서감지정보에 대하여 정보저장부(440)에 저장된 학습 이미지 정보를 참조하여 기구장치의 동작 이상 유무를 판단하여 동작상태정보를 정보저장부(440)에 저장한다.On the other hand, the monitoring control unit 430 refers to the learning image information stored in the information storage unit 440 with respect to the image information received from the terminal information receiving unit 410 and the sensor detection information to determine whether there is an abnormality in the operation of the mechanical device to determine the operating state The information is stored in the information storage unit 440 .

상기 감시제어부(430)의 동작판단부(431)에서는 공압 실린더의 피스톤을 인식하고 피스톤의 동작을 검출한 후, 학습 이미지 정보를 참조하여 공압 실린더의 동작 이상을 판단함으로써 기구장치의 동작 이상 유무를 판단하게 된다. The operation determination unit 431 of the monitoring and control unit 430 recognizes the piston of the pneumatic cylinder, detects the operation of the piston, and determines whether the operation of the mechanical device is abnormal by referring to the learning image information to determine the operation abnormality of the pneumatic cylinder. will judge

이때 이상 동작 상태라고 판단되면, 정보저장부(440)에 저장된 학습 이미지 정보에 대한 보수정보를 참조하여 유지보수정보를 생성하여 외부알림부(500)에 동작상태정보와 함께 전송한다.At this time, if it is determined that the operation state is abnormal, maintenance information is generated with reference to the maintenance information for the learning image information stored in the information storage unit 440 and transmitted together with the operation state information to the external notification unit 500 .

관리자는 전광판과 같은 대형 표시수단으로 이루어진 외부알림부(500)를 통해 확인할 수 있으며 또는 컴퓨터단말수단(510), 스마트폰(520)을 통해서 현재 기구장치의 상태를 확인할 수 있다.The manager can check through the external notification unit 500 made of a large display means such as an electric billboard, or can check the current state of the appliance through the computer terminal means 510 or the smart phone 520 .

관리자(사용자)는 컴퓨터단말수단(510) 또는 스마트폰(520)을 통해 중앙감시제어부(400)에 접속하여 정보저장부(440)에 저장된 동작상태정보 및 사용자에게 전송되었던 기 생성되어 저장된 유지보수정보를 조회하여 확인할 수 있다. The manager (user) accesses the central monitoring and control unit 400 through the computer terminal means 510 or the smart phone 520, and the operation state information stored in the information storage unit 440 and the previously created and stored maintenance that has been transmitted to the user You can check the information by inquiring.

감시제어부(430)의 모니터링부(432)에서는 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로 정보저장부(440)에 저장된 정보를 조회할 수 있도록 인터페이스 수단을 제공하고 사용자는 중앙감시제어부(400)에 접속하여 기구장치의 동작상태정보 또는 유지보수정보를 확인할 수 있다. The monitoring unit 432 of the monitoring control unit 430 provides an interface means so that the information stored in the information storage unit 440 can be inquired by the connected computer terminal means 510 or smart phone 520, and the user can centrally monitor By accessing the control unit 400, it is possible to check the operation state information or maintenance information of the mechanical device.

그리고 스마트폰(520)은 근접된 단말부(300)에 접속되면 식별정보를 단말부(300)로 전송하고, 단말부(300)에서는 접속된 스마트폰(520)으로부터 식별정보가 수신되면, 해당 식별정보를 중앙감시제어부(400)의 감시제어부(430)로 전송하게 되고, 감시제어부(430)에서는 해당 단말부(300)에 대한 동작상태정보 및 기 저장된 유지보수정보를 식별정보에 해당되는 스마트폰(520)으로 전송하여 관리자가 자신의 위치에서 근접된 기구장치의 정보를 확인할 수 있게 된다. And when the smartphone 520 is connected to the adjacent terminal unit 300, it transmits identification information to the terminal unit 300, and the terminal unit 300 receives identification information from the connected smartphone 520, the corresponding The identification information is transmitted to the monitoring control unit 430 of the central monitoring and control unit 400, and the monitoring and control unit 430 converts the operation state information and pre-stored maintenance information for the corresponding terminal unit 300 to the smart identification information corresponding to the identification information. It is transmitted to the phone 520 so that the manager can check the information of the mechanical device adjacent to his location.

한편 도 2는 본 발명 다른 실시 예를 나타낸 것이다.Meanwhile, Figure 2 shows another embodiment of the present invention.

상기 본 발명 실시 예는 반도체 제조공정 내에 설치되는 기구장치의 공압 실런더에 대하여 인공지능 학습을 통해 생성된 학습 이미지 정보를 시스템에 연동하여 이용하는 것인데 반해, 본 발명의 다른 실시 예는 상기 본 발명 실시 예에서와 같이 학습 이미지 정보를 이용하되, 본 발명 시스템이 설치된 상태에서 제조공정 현장에서 학습된 정보를 지속적으로 추가 저장할 수 있도록 함으로써, 시스템이 설치된 반도체 제조공정 현장에 적합한 시스템을 구성할 수 있도록 한다.The embodiment of the present invention uses the learning image information generated through artificial intelligence learning for the pneumatic cylinder of the mechanical device installed in the semiconductor manufacturing process in conjunction with the system, whereas another embodiment of the present invention is the implementation of the present invention As in the example, learning image information is used, but information learned in the manufacturing process site can be continuously stored while the system of the present invention is installed, so that a system suitable for the semiconductor manufacturing process site in which the system is installed can be configured .

본 발명 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템의 다른 실시 예를 첨부된 도면 도 2, 도 13에 도시된 실시 예를 참조하여 설명하면 다음과 같다. Another embodiment of the semiconductor manufacturing process monitoring system using the operation image information of the pneumatic cylinder of the present invention will be described with reference to the embodiments shown in FIGS. 2 and 13 of the accompanying drawings.

반도체 제조설비 내 각 기구장치에 설치되어 기구장치 내의 공압 실린더의 동작 이미지 정보를 취득하기 위한 카메라(100)와, 반도체 제조설비 내 각 기구장치 내에 설치되어 공압 실린더의 동작 상태를 감지하기 위한 센서(200)와, 기구장치 별 설치된 상기 카메라(100)로부터 취득된 이미지 정보 및 센서(200)로부터 취득된 센서감지정보를 중앙감시제어부(400)로 제공하는 단말부(300)와, 상기 각 단말부(300)로부터 전송된 이미지정보 및 센서감지정보를 제공받아 공압 실린더의 동작 상태에 따라 인공지능 학습된 학습 이미지 정보와 대비하여 기구장치의 동작을 감시 관리하는 중앙감시제어부(400)와, 중앙감시제어부(400)로부터 동작상태정보 및 유지보수정보를 제공받아 관리자(사용자)에게 알리기 위한 외부알림부(500)를 포함하여 구성된다.A camera 100 installed in each mechanical device in the semiconductor manufacturing facility to acquire operation image information of the pneumatic cylinder in the mechanical device, and a sensor installed in each mechanical device in the semiconductor manufacturing facility to detect the operating state of the pneumatic cylinder ( 200), and a terminal unit 300 that provides the image information obtained from the camera 100 installed for each instrument and sensor detection information obtained from the sensor 200 to the central monitoring and control unit 400, and each terminal unit A central monitoring and control unit 400 that monitors and manages the operation of the mechanical device in comparison with the learning image information learned by artificial intelligence according to the operating state of the pneumatic cylinder by receiving the image information and sensor detection information transmitted from the 300, and central monitoring It is configured to include an external notification unit 500 for notifying an administrator (user) by receiving the operation state information and maintenance information from the control unit 400 .

상기 중앙감시제어부(400)는 상기 각 단말부(300)로부터 취득된 이미지 정보 및 센서감지정보를 전송받기 위한 단말정보수신부(410)와, 단말정보수신부(410)로부터 수신된 이미지 정보 및 센서감지정보를 정보저장부(440)에 저장 및 관리하는 감시정보관리부(420)와, 단말정보수신부(410)로부터 제공된 실시간 이미지 정보로부터 공압 실린더의 피스톤 동작을 검출하고, 그 검출결과 및 단말정보수신부(410)로부터 제공된 센서감지정보에 따라서 공압 실린더의 동작 상태에 대하여 정보저장부(440)에 등록 저장된 학습 이미지 정보와 대비하여 공압 실린더의 동작 이상 유무를 판단하고 그 판단결과에 따라서 기구장치의 동작을 판단하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 감시정보를 외부알림부(500)에 제공하는 감시제어부(430)와, 실시간 이미지 정보로부터 판단된 공압 실린더의 동작 상태를 감시제어부로부터 제공받아 현장 학습 이미지 정보를 생성하여 정보저장부에 저장하는 인공지능학습부(450)와, 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보, 기구장치의 동작상태정보, 유지보수정보가 저장되는 제1저장부(441), 학습 이미지 정보와 상기 인공지능학습부(450)에서 생성된 현장 학습 이미지 정보가 저장된 제2저장부(442)를 포함하는 정보저장부(440)를 포함하여 구성된다.The central monitoring and control unit 400 includes a terminal information receiving unit 410 for receiving the image information and sensor sensing information acquired from each terminal unit 300 , and image information and sensor sensing received from the terminal information receiving unit 410 . The monitoring information management unit 420 that stores and manages information in the information storage unit 440 and detects the piston operation of the pneumatic cylinder from the real-time image information provided from the terminal information receiving unit 410, and the detection result and the terminal information receiving unit ( According to the sensor detection information provided from 410), the operation state of the pneumatic cylinder is compared with the learning image information registered and stored in the information storage unit 440 to determine whether the operation of the pneumatic cylinder is abnormal, and the operation of the mechanical device according to the determination result The monitoring and control unit 430 that judges and monitors and manages each mechanical device in the semiconductor manufacturing process and provides monitoring information to the external notification unit 500, and the monitoring and control unit receives the operation state of the pneumatic cylinder determined from the real-time image information from the monitoring and control unit. Artificial intelligence learning unit 450 that generates and stores learning image information in the information storage unit, image information received from the terminal information receiving unit 410, sensor detection information, operation state information of the mechanical device, maintenance information is stored The first storage unit 441 is configured to include an information storage unit 440 including a second storage unit 442 in which the learning image information and the field learning image information generated by the artificial intelligence learning unit 450 are stored. .

이와 같이 구성된 본 발명 다른 실시 예는 기구장치에 구성되는 시스템이 설치된 현장의 공압 실린더 동작에 대한 이미지 정보를 학습시켜 현장에 적합하게 기구장치의 동작을 판단할 수 있도록 한 것으로, 본 발명 실시 예와 동일 부분에 대해서는 그 동작 과정을 생략하여 설명하기로 한다. Another embodiment of the present invention configured as described above is to learn image information about the operation of a pneumatic cylinder at the site where the system configured in the instrument apparatus is installed to determine the operation of the instrument apparatus appropriately for the site. The same part will be described by omitting the operation process.

상기 중앙감시제어부(400)는 각 단말부(300)로부터 전송된 이미지 정보 및 센서감지정보를 이용하여 각 기구장치의 동작 이상 유무를 판단하고, 그 판단결과에 따라서 제조공정시스템을 관리하기 위한 서버 수단으로, 각 단말부(300)로부터 카메라(100)로부터 취득된 이미지 정보, 센서(200)의 센서감지정보를 전송받아 정보저장부(440)에 저장 등록된 인공지능 학습정보를 이용하여 이의 정보로부터 기구장치의 이상 동작 유무를 판단하여 관리하는 수단으로, 단말정보수신부(410), 감시정보관리부(420), 감시제어부(430), 정보저장부(440)를 포함하며, 현장 학습 이미지 정보를 생성하기 위한 인공지능학습부(450)를 더 포함한다.The central monitoring and control unit 400 uses the image information and sensor detection information transmitted from each terminal unit 300 to determine whether each mechanical device has an abnormal operation, and a server for managing the manufacturing process system according to the determination result As a means, the image information acquired from the camera 100 and the sensor detection information of the sensor 200 are received from each terminal unit 300 and stored in the information storage unit 440 and registered using the registered artificial intelligence learning information. As a means to determine and manage the abnormal operation of the mechanical device from It further includes an artificial intelligence learning unit 450 for generating.

상기 감시제어부(430)는 단말정보수신부(410)로부터 제공된 실시간 공압 실린더의 이미지 정보 및 센서감지정보를 정보저장부(440)에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작을 판단하는 동작판단부(431), 그 판단결과에 따라서 기구장치의 동작상태정보의 생성 및 외부알림부(500)로 이상 동작 발생 시 알릴 수 있는 유지보수정보를 제공하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 하는 모니터링부(432)를 포함하여 구성된다.The monitoring control unit 430 registers the image information and sensor detection information of the real-time pneumatic cylinder provided from the terminal information receiving unit 410 in the information storage unit 440 and determines the operation of the pneumatic cylinder with reference to the stored learning image information. The unit 431, according to the determination result, generates operation state information of the mechanical device and provides maintenance information that can notify when an abnormal operation occurs to the external notification unit 500 to monitor and manage each mechanical device in the semiconductor manufacturing process. It is configured to include a monitoring unit 432.

상기 동작판단부(431)는 단말정보수신부(410)로부터 제공된 이미지 정보로부터 공압 실린더의 피스톤을 인식하고 인식된 피스톤의 동작을 검출하여 위한 피스톤동작검출수단, 피스톤동작검출수단으로부터 검출된 피스톤의 동작에 따라 학습 이미지 정보와 대비하기 위한 피스톤 동작 패턴을 생성하기 위한 피스톤동작패턴생성수단, 정보저장부(440)에 등록된 학습 이미지 정보의 패턴 정보와 피스톤동작패턴생성수단에서 생성된 피스톤 동작 패턴과 대비하여 공압 실린더의 동작 상태를 판단하는 동작판단수단을 포함한다.The operation determination unit 431 recognizes the piston of the pneumatic cylinder from the image information provided from the terminal information receiving unit 410 and detects the recognized operation of the piston. Piston operation pattern generating means for generating a piston operation pattern to contrast with the learning image information according to the pattern information of the learning image information registered in the information storage unit 440 and the piston operation pattern generated by the In contrast, it includes an operation determination means for determining the operating state of the pneumatic cylinder.

상기 인공지능학습부(450)는 정해진 알고리즘에 따라서 상기 동작판단부(431)로부터 피스톤의 동작 검출정보와 피스톤 동작 패턴 정보를 제공받아 인공지능 학습을 수행하여 현장 학습 이미지 정보를 생성하는 수단으로, 시스템이 설치된 상태에서 현장에 적합한 인공지능 학습 이미지 정보를 생성할 수 있도록 하는 수단이다. The artificial intelligence learning unit 450 is a means for generating field learning image information by receiving the motion detection information and the piston motion pattern information from the motion determination unit 431 according to a predetermined algorithm and performing artificial intelligence learning, It is a means to create artificial intelligence learning image information suitable for the field while the system is installed.

상기 인공지능학습부(450)는 설정된 알고리즘에 따라서 인공지능 학습이 수행되어 생성된 현장 학습 이미지 정보를 생성하는 수단으로 구성되며, 사용자의 입력된 정보를 참조하여 생성되는 학습정보를 포함하여 현장 학습 이미지 정보를 생성하는 수단을 포함할 수 있다.The artificial intelligence learning unit 450 is configured as a means for generating field learning image information generated by performing artificial intelligence learning according to a set algorithm, and field learning including learning information generated with reference to the user's input information means for generating image information.

또한 감시제어부(430)는 외부알림부(500)의 컴퓨터단말수단(510) 또는 스마트폰(520)의 접속 관리를 위한 접속관리수단, 정보저장부(440)에 저장된 정보를 사용자가 조회할 수 있도록 접속된 컴퓨터단말수단(510), 스마트폰(520)으로 인터페이스 수단을 제공하고 인터페이스 수단을 통해 입력된 정보 조회요청에 따라서 정보저장부에 저장된 정보를 제공하는 조회정보제공수단과, 인공지능학습부(450)의 인공지능 학습 동작의 실행 여부를 관리자(사용자)가 선택할 수 있도록 선택수단 및 사용자가 학습정보를 입력할 수 있도록 지도학습입력 인터페이스를 제공하는 학습제어수단을 포함하여 구성된다. In addition, the monitoring control unit 430 allows the user to inquire the information stored in the computer terminal means 510 of the external notification unit 500 or the connection management means for connection management of the smart phone 520 and the information storage unit 440 . Inquiry information providing means for providing an interface means to the connected computer terminal means 510 and smart phone 520 and providing information stored in the information storage unit according to an information inquiry request input through the interface means, and artificial intelligence learning It is configured to include a selection means so that the manager (user) can select whether to execute the artificial intelligence learning operation of the unit 450 and a learning control means for providing a supervised learning input interface so that the user can input learning information.

또한 감시제어부(430)는 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 정보저장부(440)의 제2저장부(442)에 등록된 학습 이미지 정보의 등록 요청에 대하여 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 전송되는 학습 이미지 정보를 제2저장부(442)에 등록하여 학습 이미지 정보의 업데이트수단을 더 포함할 수 있다.In addition, the monitoring control unit 430 computer terminal means 510 in response to a request for registration of learning image information registered in the second storage unit 442 of the information storage unit 440 from the computer terminal means 510 or the smart phone 520. ) or by registering the learning image information transmitted from the smart phone 520 in the second storage unit 442 may further include a means for updating the learning image information.

상기 정보저장부(440)는 실시간으로 취득 및 생성되는 정보가 저장되는 제1저장부(441)와, 학습 이미지 정보, 현장 학습 이미지 정보가 저장되는 제2저장부(442)를 포함한다.The information storage unit 440 includes a first storage unit 441 in which information acquired and generated in real time is stored, and a second storage unit 442 in which learning image information and field learning image information are stored.

상기 제1저장부(441)는 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보와 감시제어부(430)에서 생성되는 기구장치의 동작상태정보가 저장되는 수단이다. The first storage unit 441 is a means for storing image information received from the terminal information receiving unit 410 , sensor detection information, and operation state information of the instrumentation device generated by the monitoring and control unit 430 .

또한 제2저장부(442)는 학습 이미지 정보 및 인공지능학습부(450)를 통해 현장에서 취득된 학습정보인 현장 학습 이미지 정보가 저장되는 수단이며, 동작 이상 정보에 대하여 취해야 할 유지보수정보가 저장된다.In addition, the second storage unit 442 is a means for storing learning image information and field learning image information, which is learning information acquired in the field through the artificial intelligence learning unit 450, and maintenance information to be taken with respect to operation abnormality information. is saved

상기 정보저장부(440)에 저장된 이미지 정보 및 센서감지정보는 각 단말부(300)로부터 전송된 정보이며 단말부정보를 포함한다.The image information and sensor detection information stored in the information storage unit 440 are information transmitted from each terminal unit 300 and include terminal information.

상기 정보저장부(440)의 학습 이미지 정보는 반도체 제조공정 상에 설치된 공압 실린더로부터 취득된 영상 이미지 정보에 대하여 인공지능 학습을 수행하여 생성된 정보로 제2저장부(442)에 미리 등록된 정보이다. The learning image information of the information storage unit 440 is information generated by performing artificial intelligence learning on the image image information acquired from the pneumatic cylinder installed on the semiconductor manufacturing process, and is information registered in advance in the second storage unit 442 . to be.

상기 제2저장부(442)에 저장된 현장 학습 이미지 정보는 상기 인공지능학습부(450)를 통해 인공지능 학습 수행한 정보로서, 공압 실린더의 피스톤 동작에 대한 패턴 정보를 포함한다.The field learning image information stored in the second storage unit 442 is information performed by artificial intelligence learning through the artificial intelligence learning unit 450, and includes pattern information about the piston operation of the pneumatic cylinder.

상기 외부알림부(500)는 중앙감시제어부(400)로부터 기구장치에 대한 감시정보 즉, 기구장치의 동작상태정보 및 유지보수정보를 제공받아 표시 또는 경보음과 같은 알림수단, 관리자의 컴퓨터단말수단(510), 스마트폰(520)으로 구성될 수 있다. The external notification unit 500 receives monitoring information about the instrument device from the central monitoring and control unit 400, that is, operation state information and maintenance information of the instrument device, and a notification means such as a display or an alarm sound, and a computer terminal means of an administrator. 510 , and a smartphone 520 .

외부알림부(500)는 전광판과 같은 알림수단이 구성될 수 있으며, 제조공정 현장에 설치되어 현장에서 관리자 또는 작업자가 손쉽게 확인하도록 할 수 있다.The external notification unit 500 may be configured with a notification means such as an electric billboard, and may be installed in the manufacturing process site so that a manager or an operator can easily check it in the field.

상기 컴퓨터단말수단(510) 및 스마트폰(520)은 중앙감시제어부(400)로부터 기구장치의 동작상태정보 및 유지보수정보를 제공받아 관리자에게 제공 및 관리자가 중앙감시제어부(400)에 접속하여 중앙감시제어부(400)를 통해 기구장치의 동작상태정보 및 유지보수정보를 제공 받을 수 있도록 하는 모니터링프로그램이 설치된다.The computer terminal means 510 and the smart phone 520 receive the operation state information and maintenance information of the mechanical device from the central monitoring and control unit 400 and provide them to the administrator, and the administrator accesses the central monitoring and control unit 400 to centralize A monitoring program is installed so that the operation state information and maintenance information of the mechanical device can be provided through the monitoring and control unit 400 .

상기 모니터링프로그램은 중앙감시제어부(400)와의 접속 관리를 위한 접속관리프로세스, 중앙감시제어부(400)에 접속하여 정보저장부(440)에 저장된 동작 상태정보 및 기 발생된 유지보수정보의 조회가 가능한 조회관리프로세스, 중앙감시제어부로부터 전송된 유지보수정보에 따라서 알림 정보를 생성하여 사용자에게 제공하는 알림관리프로세스, 인공지능학습부(450)의 인공지능 학습 동작의 실행 여부를 관리자(사용자)가 선택할 수 있도록 하는 선택수단 및 사용자가 학습정보를 입력할 수 있도록 지도 학습 입력 인터페이스 수단을 제공하는 현장 학습제어 프로세스를 포함하여 구성된다. The monitoring program is a connection management process for managing a connection with the central monitoring and control unit 400, accessing the central monitoring and control unit 400 to view the operation state information and pre-generated maintenance information stored in the information storage unit 440. The manager (user) selects whether to execute the inquiry management process, the notification management process that generates and provides notification information to the user according to the maintenance information transmitted from the central monitoring and control unit, and the artificial intelligence learning operation of the artificial intelligence learning unit 450 It is configured to include a field learning control process that provides a selection means for enabling and a supervised learning input interface means for a user to input learning information.

또한 상기 모니터링프로그램은 중앙감시제어부(400)에 접속하여 학습 이미지 정보의 업데이트를 요청하고, 학습 이미지 정보를 중앙감시제어부(400)에 전송하여 정보저장부(440)에 등록할 수 있도록 하는 학습 이미지 정보 업데이트 프로세스를 더 포함한다. In addition, the monitoring program accesses the central monitoring and control unit 400 to request an update of the learning image information, and transmits the learning image information to the central monitoring and control unit 400 to register the learning image in the information storage unit 440 . and an information update process.

또한 상기 단말부(300)에 근접통신수단 및 근접통신수단을 통해 접속된 스마트폰(520)을 식별하고 식별된 스마트폰 정보를 중앙감시제어부(400)로 전송하는 근접사용자식별부를 더 포함하고, 상기 중앙감시제어부(400)의 감시제어부(430)는 단말정보수신부(410)를 통해 단말부(300)로부터 제공 받은 사용자 정보에 따라서 해당하는 스마트폰(520)으로 상기 단말부(300)에 해당하는 기구장치의 동작상태정보 및 기 저장된 유지보수정보를 제공하고 그 이력을 정보저장부(440)에 저장하는 사용자의 위치에 따라서 근접된 기구장치의 감시정보를 제공하기 위한 근접된 사용자 모니터링수단을 포함하여 구성할 수 있다. Further comprising a proximity user identification unit for identifying the smart phone 520 connected to the terminal unit 300 through the proximity communication means and the proximity communication means and transmitting the identified smart phone information to the central monitoring control unit 400, The monitoring control unit 430 of the central monitoring and control unit 400 corresponds to the terminal unit 300 with the corresponding smart phone 520 according to the user information provided from the terminal unit 300 through the terminal information receiving unit 410 . Closed user monitoring means for providing monitoring information of the adjacent mechanical device according to the location of the user, which provides the operation state information and pre-stored maintenance information of the mechanical device, and stores the history in the information storage unit 440; It can be configured to include

상기 근접통신수단은 블루투스로 구성될 수 있다.The proximity communication means may be configured with Bluetooth.

상기 중앙감시제어부(400)에서 이루어지는 본 발명 다른 실시 예에 있어서, 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법은,In another embodiment of the present invention made in the central monitoring and control unit 400, the semiconductor manufacturing process monitoring method using the operation image information of the pneumatic cylinder,

단말부(300)로부터 이미지 정보와 센서감지정보가 수신되면 공압 실런더의 피스톤 동작을 인식하여 피스톤 동작 정보를 검출하고 단말부(300)의 식별정보를 확인하여 정보저장부(440)에 저장하는 공압 실린더의 동작검출과정과,When image information and sensor detection information are received from the terminal unit 300, the piston operation of the pneumatic cylinder is recognized, the piston operation information is detected, and the identification information of the terminal unit 300 is checked and stored in the information storage unit 440. The operation detection process of the pneumatic cylinder,

상기 공압 실린더의 동작검출과정을 통해 검출된 공압 실린더의 동작 정보에 대하여 정해진 알고리즘에 따라서 인공지능 학습 과정을 수행하여 현장 학습 이미지 정보를 생성하여 정보저장부(440)에 저장하는 현장 학습 이미지 정보 생성과정과, Field learning image information generated by performing an artificial intelligence learning process according to a predetermined algorithm for the operation information of the pneumatic cylinder detected through the operation detection process of the pneumatic cylinder to generate field learning image information and storing it in the information storage unit 440 process and

상기 공압 실린더의 동작검출과정을 통해 검출된 피스톤의 동작 정보를 정보저장부(440)에 저장된 학습 이미지 정보, 현장 학습 이미지 정보를 참조하여 단말부(300)에 해당하는 기구장치의 동작 이상 유무를 판단하는 동작이상유무 판단과정과, The operation information of the piston detected through the operation detection process of the pneumatic cylinder is referred to the learning image information and field learning image information stored in the information storage unit 440 to determine whether the mechanical device corresponding to the terminal unit 300 has an abnormal operation. The process of judging whether there is an abnormality in the operation, and

상기 동작이상유무 판단과정을 통해 판단된 동작상태정보를 정보저장부(440)에 저장하고 동작 이상이 발생 된 경우 유지보수정보를 생성하여 외부알림부(500)로 제공하고 정보저장부(440)에 저장하는 모니터링 관리과정과,The operation state information determined through the operation abnormality determination process is stored in the information storage unit 440, and when an operation abnormality occurs, maintenance information is generated and provided to the external notification unit 500, and the information storage unit 440 The monitoring management process stored in the

사용자가 접속되고, 사용자의 접속요청 정보가 입력되면 정보저장부(440)에 저장된 접속자 정보를 확인하여 접속 허가하고, 접속된 사용자의 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 감시정보 조회요청이 입력되면 입력된 감시정보 조회 요청에 따라서 정보저장부(440)에 저장된 동작상태정보 또는 기 저장된 유지보수정보를 사용자의 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공하는 모니터링 정보 제공과정을 포함하여 구성된다.When a user is connected and the user's access request information is input, the access information stored in the information storage unit 440 is checked and access is permitted, and monitoring information is viewed from the connected user's computer terminal means 510 or smart phone 520 . When a request is input, monitoring information is provided that provides operation state information or pre-stored maintenance information stored in the information storage unit 440 to the user's computer terminal means 510 or smart phone 520 according to the input monitoring information inquiry request comprised of the process.

상기 현장 학습 이미지 정보 생성과정은 사용자의 지도 학습정보가 입력되면, 사용자가 입력한 지도 학습정보에 따라서 현장 학습 이미지 정보를 생성하는 과정을 더 포함하여 구성된다.The field learning image information generating process is configured to further include, when the user's supervised learning information is input, generating field learning image information according to the supervised learning information input by the user.

그리고 상기 현장 학습 이미지 생성과정은 사용자의 선택 입력정보에 따라서 상기 현장 학습 이미지 생성과정의 실행 여부를 결정할 수 있도록 한다. In addition, the field learning image generation process enables it to be determined whether or not to execute the field learning image generation process according to the user's selection input information.

또한 단말부(300)로부터 사용자 스마트폰(520) 접속이 확인되면 해당 단말부 식별정보를 확인하고 정보저장부(440)에 저장된 해당하는 단말부(300)의 동작상태정보와 기 저장된 유지보수정보를 접속 확인된 스마트폰(520)에 제공하는 근접된 사용자에 대한 모니터링 정보 제공과정을 더 포함하여 구성한다.In addition, when the user's smartphone 520 access is confirmed from the terminal unit 300, the corresponding terminal unit identification information is checked, and operation state information and pre-stored maintenance information of the corresponding terminal unit 300 stored in the information storage unit 440 are confirmed. It is configured to further include a process of providing monitoring information for a user in proximity to providing the access-confirmed smart phone 520 .

또한 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 학습 이미지 정보 업데이트 요청이 입력되면 업데이트하고자 하는 학습 이미지 정보의 전송을 위한 인터페이스 수단을 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공하는 과정과, 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공된 인터페이스 수단을 통해 입력된 학습 이미지 정보를 정보저장부(440)의 제2저장부(442)에 저장하여 학습 이미지 정보를 업데이트하는 과정을 더 포함하여 구성한다.In addition, when a learning image information update request is input from the connected computer terminal means 510 or the smart phone 520, the interface means for transmitting the learning image information to be updated is the computer terminal means 510 or the smart phone 520. The process of providing, and storing the learning image information input through the interface means provided to the computer terminal means 510 or the smart phone 520 in the second storage unit 442 of the information storage unit 440 to store the learning image information It is configured by further including the process of updating.

상기 외부알림부(500)로 제공되는 동작상태정보는 기구장치 정보, 동작 상태 이상 유무 및 동작 이상이 발생 된 경우 동작 이상 정보와 동작 상태를 나타내는 이미지 정보를 포함한다. The operation state information provided to the external notification unit 500 includes mechanical device information, the presence or absence of an operation state abnormality, and operation abnormality information and image information indicating the operation state when an operation abnormality occurs.

이와 같은 구성으로 이루어진 본 발명 시스템의 다른 실시 예 동작을 설명하면 다음과 같다. The operation of another embodiment of the system of the present invention having such a configuration will be described as follows.

제조공정 내 각 기구장치 단위로 설치된 단말부(300)는 카메라(100)를 통해 취득된 공압 실린더의 피스톤 이미지 정보를 중앙감시제어부(400)로 전송하게 되고, 중앙감시제어부(400)의 단말정보수신부(410)에서는 유무선 네트워크를 통해 연결된 단말부(300)로부터 전송된 이미지 정보와 센서감지정보를 수신한다.The terminal unit 300 installed for each mechanical device in the manufacturing process transmits the piston image information of the pneumatic cylinder acquired through the camera 100 to the central monitoring control unit 400, and the terminal information of the central monitoring control unit 400 The receiving unit 410 receives image information and sensor sensing information transmitted from the terminal unit 300 connected through a wired/wireless network.

상기와 같이 단말정보수신부(410)로부터 단말부(300)의 이미지 정보 및 센서감지정보가 수신되면 감시정보관리부(420)에서는 수신된 이미지 정보 및 센서감지정보를 정보저장부(440)에 단말부(300) 단위로 저장한다. When the image information and sensor detection information of the terminal unit 300 are received from the terminal information receiving unit 410 as described above, the monitoring information management unit 420 stores the received image information and sensor detection information in the information storage unit 440 of the terminal unit. It is stored in units of (300).

한편 감시제어부(430)에서는 상기 단말정보수신부(410)로부터 수신된 이미지 정보와 센서감지정보에 대하여 정보저장부(440)에 저장된 학습 이미지 정보를 참조하여 기구장치의 동작 이상 유무를 판단하여 동작상태정보를 정보저장부(440)에 저장한다.On the other hand, the monitoring control unit 430 refers to the learning image information stored in the information storage unit 440 with respect to the image information received from the terminal information receiving unit 410 and the sensor detection information to determine whether there is an abnormality in the operation of the mechanical device to determine the operating state The information is stored in the information storage unit 440 .

상기 감시제어부(430)의 동작판단부(431)에서는 공압 실린더의 피스톤을 인식하고 피스톤의 동작을 검출한 후, 학습 이미지 정보를 참조하여 공압 실린더의 동작 이상을 판단함으로써 기구장치의 동작 이상 유무를 판단하게 된다.The operation determination unit 431 of the monitoring and control unit 430 recognizes the piston of the pneumatic cylinder, detects the operation of the piston, and determines whether the operation of the mechanical device is abnormal by referring to the learning image information to determine the operation abnormality of the pneumatic cylinder. will judge

이때 공압 실린더의 동작 이상을 판단함에 있어서, 상기와 같은 학습 이미지 정보 및 현장 학습 이미지 정보를 참조하게 되는 데, 현장 학습 이미지 정보는 시스템이 동작하는 상황에서 인공지능학습부(450)에 의해 학습 실행되어 취득된 정보이다. At this time, in judging the abnormal operation of the pneumatic cylinder, the learning image information and field learning image information as described above are referred to, and the field learning image information is learned by the artificial intelligence learning unit 450 in a situation where the system is operating. information that has been acquired.

상기 현장 학습 이미지 정보는 인공지능학습부(450)에서 상기 검출된 피스톤의 동작에 대하여 정해진 알고리즘에 따라서 인공지능 학습 수행되어 생성된 정보이다.The field learning image information is information generated by performing artificial intelligence learning according to an algorithm determined for the detected operation of the piston in the artificial intelligence learning unit 450 .

또한 이와 같은 현장 학습 이미지 정보는 사용자에 지도 학습정보가 반영되어 생성될 수 있다. In addition, such field learning image information may be generated by reflecting supervised learning information to the user.

여기서, 관리자는 현장에서 기구장치의 동작 이상이라고 판단되면 해당 동작 정보에 대하여 동작 이상 정보를 입력할 수 있으며, 이러한 사용자 지도 학습정보가 입력되면 감시제어부(430)에서는 이의 정보를 확인하고 인공지능학습부(450)에 이의 정보를 제공하며 인공지능학습부(450)에서는 사용자 지도 학습정보가 입력되면 해당 동작 정보를 동작 이상으로 설정하고 이에 따라 학습 이미지 정보를 생성하고 정보저장부(440)의 제2저장부(442)에 생성된 현장 학습 이미지 정보로 등록 저장한다.Here, when it is determined that the operation of the mechanical device is abnormal in the field, the administrator can input operation abnormality information for the corresponding operation information, and when such user guidance learning information is input, the monitoring and control unit 430 checks the information and artificial intelligence learning This information is provided to the unit 450, and when user guidance learning information is input, the artificial intelligence learning unit 450 sets the corresponding motion information to a motion abnormality, generates learning image information according to this, and stores the information in the information storage unit 440. 2 Register and store the field learning image information generated in the storage 442 .

상기 감시제어부(430)의 동작판단부(431)에서 이상 동작 상태라고 판단되면, 정보저장부(440)에 저장된 학습 이미지 정보에 대한 보수정보를 참조하여 유지보수정보를 생성하여 외부알림부(500)에 동작상태정보와 함께 전송한다.When it is determined that the operation determination unit 431 of the monitoring and control unit 430 is in an abnormal operating state, the maintenance information is generated with reference to the maintenance information for the learning image information stored in the information storage unit 440, and the external notification unit 500 ) along with the operation status information.

관리자는 전광판과 같은 대형 표시수단으로 이루어진 외부알림부(500)을 통해 확인할 수 있으며 또는 컴퓨터단말수단(510), 스마트폰(520)을 통해서 현재 기구장치의 상태를 확인할 수 있다.The manager can check through the external notification unit 500 made of a large display means such as an electric sign board, or can check the current state of the instrument through the computer terminal means 510 or the smart phone 520 .

관리자(사용자)는 컴퓨터단말수단(510) 또는 스마트폰(520)을 통해 중앙감시제어부(400)에 접속하여 정보저장부(440)에 저장된 동작상태정보 및 사용자에게 전송되었던 기 생성되어 저장된 유지보수정보를 조회하여 확인할 수 있다. The manager (user) accesses the central monitoring and control unit 400 through the computer terminal means 510 or the smart phone 520, and the operation state information stored in the information storage unit 440 and the previously generated and stored maintenance that was transmitted to the user You can check the information by inquiring.

감시제어부(430)의 모니터링부(432)에서는 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로 정보저장부(440)에 저장된 정보를 조회할 수 있도록 인터페이스 수단을 제공하고 사용자는 중앙감시제어부(400)에 접속하여 기구장치의 동작상태정보 또는 유지보수정보를 확인할 수 있다. The monitoring unit 432 of the monitoring control unit 430 provides an interface means so that the information stored in the information storage unit 440 can be inquired by the connected computer terminal means 510 or smart phone 520, and the user can centrally monitor By accessing the control unit 400, it is possible to check the operation state information or maintenance information of the mechanical device.

또한 상기에서 설명한 바와 같이, 사용자는 컴퓨터단말수단(510) 또는 스마트폰(520)을 통해 인공지능학습부(450)의 인공지능 학습 과정의 수행 여부(on/off)를 선택하여 현장 학습 이미지의 실행 여부를 설정할 수 있으며, 공압 실린더의 피스톤 동작정보에 대하여 사용자의 지도 학습정보를 입력하여 현장에 맞는 학습 이미지 정보를 생성할 수 있다. In addition, as described above, the user selects whether to perform the artificial intelligence learning process of the artificial intelligence learning unit 450 through the computer terminal means 510 or the smart phone 520 (on/off) to display the field learning image. It is possible to set whether to execute or not, and by inputting the user's instructional learning information for the piston operation information of the pneumatic cylinder, it is possible to generate learning image information suitable for the field.

상기 본 발명 일 실시 예에서 설명한 바와 같이, 관리자가 단말부(300)의 근접된 위치에서 관리자는 해당 기구장치의 동작상태 정보 및 이전에 생성된 유지보수정보를 자동으로 받아 볼 수 있다.As described in the embodiment of the present invention, the manager can automatically receive and view operation state information and previously generated maintenance information of the corresponding mechanical device at a location close to the terminal unit 300 .

이와 같이 본 발명은 반도체 제조공정 상에 설치된 공압 실린더의 피스톤 동작에 대한 학습 이미지 정보 보다 정확하게는 동작 패턴 정보를 이용하여 공압 실린더의 동작을 판단하여 기구장치의 동작을 판단할 수 있도록 함으로써, 고가의 장비없이도 보다 효과적인 감시 시스템을 구축할 수 있다. As described above, the present invention allows to determine the operation of the mechanical device by judging the operation of the pneumatic cylinder using the operation pattern information more accurately than the learning image information about the piston operation of the pneumatic cylinder installed on the semiconductor manufacturing process, A more effective monitoring system can be built without equipment.

또한 본 발명은 미리 만들어져 반도체 제조공정 감시 시스템에 연동된 학습 이미지 정보 외에도 시스템이 설치된 현장에서 학습정보를 추가할 수 있도록 함으로써, 보다 현장에 적합한 반도체 제조공정 감시 시스템을 구축할 수 있다.In addition, the present invention allows to add learning information at the site where the system is installed in addition to the learning image information that is made in advance and linked to the semiconductor manufacturing process monitoring system, so that a semiconductor manufacturing process monitoring system more suitable for the field can be built.

Claims (14)

반도체 제조설비 내 각 기구장치에 설치되어 기구장치 내의 공압 실린더의 동작 이미지 정보를 취득하기 위한 카메라(100)와, 반도체 제조설비 내 각 기구장치 내에 설치되어 공압 실린더의 동작 상태를 감지하기 위한 센서(200)와, 기구장치 별 설치된 상기 카메라(100)로부터 취득된 이미지 정보 및 센서(200)로부터 취득된 센서감지정보를 중앙감시제어부(400)로 제공하는 단말부(300)와, 상기 단말부(300)로부터 전송된 이미지 정보 및 센서감지정보를 제공받아 공압 실린더의 동작 상태에 따라 인공지능 학습된 학습 이미지 정보를 참조하여 기구장치의 동작을 감시 관리하는 중앙감시제어부(400)와, 중앙감시제어부(400)로부터 동작상태정보를 제공받아 관리자(사용자)에게 알리기 위한 외부알림부(500)를 포함하여 구성되며,
상기 중앙감시제어부(400)는 상기 단말부(300)로부터 취득된 이미지 정보 및 센서감지정보를 전송받기 위한 단말정보수신부(410)와, 단말정보수신부(410)로부터 수신된 이미지 정보 및 센서감지정보를 정보저장부(440)에 저장 및 관리하는 감시정보관리부(420)와, 단말정보수신부(410)로부터 제공된 실시간 이미지 정보로부터 공압 실린더의 피스톤 동작을 검출하고, 그 검출결과 및 단말정보수신부(410)로부터 제공된 센서감지정보에 따라서 공압 실린더의 동작 상태에 대하여 정보저장부(440)에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작 이상 유무를 판단하고 그 판단결과에 따라서 기구장치의 동작을 판단하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 감시정보를 외부알림부(500)에 제공하는 감시제어부(430)와, 학습 이미지 정보와 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보, 기구장치의 동작상태정보가 저장되는 정보저장부(440)를 포함하여 구성되는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.
A camera 100 installed in each mechanical device in the semiconductor manufacturing facility to acquire operation image information of the pneumatic cylinder in the mechanical device, and a sensor installed in each mechanical device in the semiconductor manufacturing facility to detect the operating state of the pneumatic cylinder ( 200), and a terminal unit 300 that provides image information obtained from the camera 100 installed for each instrument and sensor detection information obtained from the sensor 200 to the central monitoring and control unit 400, and the terminal unit ( The central monitoring and control unit 400, which receives the image information and sensor detection information transmitted from 300), and monitors and manages the operation of the mechanical device by referring to the learning image information learned by artificial intelligence according to the operating state of the pneumatic cylinder, and the central monitoring and control unit It is configured to include an external notification unit 500 for notifying the administrator (user) by receiving the operation state information from the 400,
The central monitoring and control unit 400 includes a terminal information receiving unit 410 for receiving the image information and sensor sensing information acquired from the terminal unit 300 , and image information and sensor sensing information received from the terminal information receiving unit 410 . Detects the piston operation of the pneumatic cylinder from the real-time image information provided from the monitoring information management unit 420 and the terminal information receiving unit 410 to store and manage the data in the information storage unit 440, and the detection result and the terminal information receiving unit 410 ) with reference to the learning image information registered and stored in the information storage unit 440 for the operation state of the pneumatic cylinder according to the sensor detection information provided from The monitoring control unit 430 that monitors and manages each mechanical device in the semiconductor manufacturing process and provides monitoring information to the external notification unit 500, the image information received from the learning image information and the terminal information receiving unit 410, sensor detection information , A semiconductor manufacturing process monitoring system using operation image information of a pneumatic cylinder, characterized in that it comprises an information storage unit 440 in which operation state information of the mechanical device is stored.
제1항에 있어서, 상기 감시제어부(430)는 단말정보수신부(410)로부터 제공된 실시간 공압 실린더의 이미지 정보 및 센서감지정보를 정보저장부(440)에 등록 저장된 학습 이미지 정보를 참조하여 공압 실린더의 동작을 판단하는 동작판단부(431), 그 판단결과에 따라서 기구장치의 동작상태정보의 생성 및 외부알림부(500)로 이상 동작 발생 시 알릴 수 있는 유지보수정보를 제공하여 반도체 제조공정 내 각 기구장치를 감시 관리하고 하는 모니터링부(432)를 포함하여 구성되며,
상기 동작판단부(431)는 단말정보수신부(410)로부터 제공된 이미지 정보로부터 공압 실린더의 피스톤을 인식하고 인식된 피스톤의 동작을 검출하여 위한 피스톤동작검출수단, 피스톤동작검출수단으로부터 검출된 피스톤의 동작에 따라 학습 이미지 정보와 대비하기 위한 피스톤 동작 패턴을 생성하기 위한 피스톤동작패턴생성수단, 정보저장부(440)에 등록된 학습 이미지 정보의 패턴 정보와 피스톤동작패턴생성수단에서 생성된 피스톤 동작 패턴을 대비하여 공압 실린더의 동작 상태를 판단하는 동작판단수단을 포함하며, 상기 정보저장부(440)는 실시간으로 취득 및 생성되는 정보가 저장되는 제1저장부(441)와, 학습 이미지 정보가 저장되는 제2저장부(442)를 포함하며,
상기 제1저장부(441)는 단말정보수신부(410)로부터 수신된 이미지 정보, 센서감지정보와 감시제어부(430)에서 생성되는 기구장치의 동작상태정보가 저장되며,
상기 제2저장부(442)는 학습 이미지 정보와 각 동작 이상 정보에 대하여 취해야 할 보수정보가 저장되며,
상기 제1저장부(441)에 이미지 정보 및 센서감지정보는 각 단말부(300)로부터 전송된 정보이며 단말부정보를 포함하며,
상기 제2저장부(442)의 학습 이미지 정보는 반도체 제조공정 상에 설치된 공압 실린더로부터 취득된 영상 이미지 정보에 대하여 인공지능 학습을 수행하여 생성된 정보로서, 피스톤의 동작을 검출하고, 검출된 피스톤 동작 정보를 인공지능 학습 수행한 정보이고, 공압 실린더의 피스톤 동작에 대한 패턴 정보를 포함하는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.
The method of claim 1, wherein the monitoring and control unit 430 registers the image information and sensor sensing information of the real-time pneumatic cylinder provided from the terminal information receiving unit 410 in the information storage unit 440 and the stored learning image information of the pneumatic cylinder. The operation determination unit 431 that determines the operation, generates operation state information of the mechanical device according to the determination result, and provides maintenance information that can notify when an abnormal operation occurs to the external notification unit 500 to each in the semiconductor manufacturing process It is configured to include a monitoring unit 432 that monitors and manages the instrumentation,
The operation determination unit 431 recognizes the piston of the pneumatic cylinder from the image information provided from the terminal information receiving unit 410 and detects the recognized operation of the piston. A piston operation pattern generating means for generating a piston operation pattern to contrast with the learning image information according to Comprising an operation determination means for determining the operating state of the pneumatic cylinder in preparation, the information storage unit 440 includes a first storage unit 441 in which information acquired and generated in real time is stored, and learning image information is stored It includes a second storage unit 442,
The first storage unit 441 stores the image information received from the terminal information receiving unit 410, sensor detection information, and operation state information of the instrumentation device generated by the monitoring control unit 430,
The second storage unit 442 stores training image information and compensation information to be taken with respect to each operation abnormality information,
The image information and sensor detection information in the first storage unit 441 are information transmitted from each terminal unit 300 and include terminal information,
The learning image information of the second storage unit 442 is information generated by performing artificial intelligence learning on the image image information acquired from the pneumatic cylinder installed on the semiconductor manufacturing process, and detects the motion of the piston, and the detected piston A semiconductor manufacturing process monitoring system using motion image information of a pneumatic cylinder, characterized in that the motion information is information obtained by artificial intelligence learning, and includes pattern information about the piston motion of the pneumatic cylinder.
제1항 또는 제2항에 있어서, 상기 감시제어부(430)는 외부알림부(500)의 컴퓨터단말수단(510) 또는 스마트폰(520)의 접속 관리를 위한 접속관리수단, 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 입력된 정보 조회요청에 따라서 정보저장부(440)에 저장된 정보를 제공하는 조회정보제공수단을 포함하여 구성되고,
상기 외부알림부(500)는 유무선 네트워크를 통해 중앙감시제어부(400)에 접속하여 중앙감시제어부(400)로부터 기구장치에 대한 감시정보 즉, 기구장치의 동작상태정보 및 유지보수정보를 제공받아 표시 또는 경보음과 같은 알림수단, 관리자의 컴퓨터단말수단(510), 스마트폰(520)을 포함하여 구성되며,
상기 컴퓨터단말수단(510) 및 스마트폰(520)은 중앙감시제어부(400)로부터 기구장치의 동작상태정보 및 유지보수정보를 제공받아 관리자에게 제공 및 관리자가 중앙감시제어부(400)에 접속하여 중앙감시제어부(400)를 통해 기구장치의 동작상태정보 및 유지보수정보를 제공받을 수 있도록 하는 모니터링프로그램이 설치되고,
상기 모니터링프로그램은 중앙감시제어부(400)와의 접속 관리를 위한 접속관리프로세스, 중앙감시제어부(400)에 접속하여 정보저장부(440)에 저장된 동작 상태정보 및 기 발생된 유지보수정보의 조회가 가능한 조회관리프로세스, 중앙감시제어부로부터 전송된 유지보수정보에 따라서 알림 정보를 생성하여 사용자에게 제공하는 알림관리프로세스를 포함하는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.
According to claim 1 or 2, wherein the monitoring and control unit 430 is a computer terminal means 510 of the external notification unit 500 or a connection management means for connection management of the smart phone 520, the connected computer terminal means It is configured to include inquiry information providing means for providing information stored in the information storage unit 440 according to the information inquiry request input from the 510 or smart phone 520,
The external notification unit 500 connects to the central monitoring and control unit 400 through a wired/wireless network, and receives and displays monitoring information for the instrument from the central monitoring and control unit 400, that is, operation state information and maintenance information of the instrument. Or it is configured to include a notification means such as an alarm sound, the administrator's computer terminal means 510, and a smart phone 520,
The computer terminal means 510 and the smart phone 520 receive the operation state information and maintenance information of the mechanical device from the central monitoring and control unit 400 and provide them to the administrator, and the administrator accesses the central monitoring and control unit 400 to centralize A monitoring program is installed so that the operation state information and maintenance information of the mechanical device can be provided through the monitoring and control unit 400,
The monitoring program is a connection management process for managing a connection with the central monitoring and control unit 400, accessing the central monitoring and control unit 400 to view the operation state information and pre-generated maintenance information stored in the information storage unit 440. A semiconductor manufacturing process monitoring system using operation image information of a pneumatic cylinder, characterized in that it includes a query management process and a notification management process that generates notification information according to the maintenance information transmitted from the central monitoring and control unit and provides it to the user.
제3항에 있어서, 상기 감시제어부(430)는 컴퓨터 단말수단(510) 또는 스마트폰(520)으로부터 정보저장부(440)의 제2저장부(442)에 등록된 학습 이미지 정보의 등록 요청에 대하여 컴퓨터 단말수단(510) 또는 스마트폰(520)으로부터 전송되는 학습 이미지 정보를 제2저장부(442)에 등록하여 학습 이미지 정보의 업데이트수단을 더 포함하며,
상기 모니터링프로그램은 중앙감시제어부(400)에 접속하여 학습 이미지 정보의 업데이트를 요청하고, 학습 이미지 정보를 중앙감시제어부(400)에 전송하여 정보저장부(440)에 등록할 수 있도록 하는 학습 이미지 정보 업데이트 프로세스를 더 포함하는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.
The method according to claim 3, wherein the monitoring and control unit 430 responds to a request for registration of learning image information registered in the second storage unit 442 of the information storage unit 440 from the computer terminal means 510 or the smart phone 520. For registering the learning image information transmitted from the computer terminal means 510 or the smart phone 520 to the second storage unit 442, it further comprises an update means of the learning image information,
The monitoring program accesses the central monitoring and control unit 400 to request an update of the learning image information, and transmits the learning image information to the central monitoring and control unit 400 to register the learning image information in the information storage unit 440 . The semiconductor manufacturing process monitoring system using the operation image information of the pneumatic cylinder, characterized in that it further comprises an update process.
제1항 또는 제2항에 있어서, 상기 단말부(300)는 근접통신수단 및 근접통신수단을 통해 접속된 스마트폰(520)을 식별하고 식별된 스마트폰(520) 정보를 중앙감시제어부(400)로 전송하는 근접사용자식별부를 더 포함하고, 상기 중앙감시제어부(400)의 감시제어부(430)는 단말정보수신부(410)를 통해 단말부(300)로부터 제공받은 사용자 정보에 따라서 해당하는 스마트폰(520)으로 상기 단말부(300)에 해당하는 기구장치의 동작상태정보 및 기 저장된 유지보수정보를 제공하고 그 이력(history)을 정보저장부(440)에 저장하는 사용자의 위치에 따라서 근접된 기구장치의 감시정보를 제공하기 위한 근접된 사용자 모니터링수단을 더 포함하여 구성되는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.The central monitoring and control unit 400 according to claim 1 or 2, wherein the terminal unit 300 identifies a smart phone 520 connected through a proximity communication means and a proximity communication means and transmits the identified smart phone 520 information. ) further comprising a proximity user identification unit to transmit to, the monitoring control unit 430 of the central monitoring and control unit 400 according to the user information provided from the terminal unit 300 through the terminal information receiving unit 410 corresponding to the smart phone According to the location of the user who provides the operation state information and pre-stored maintenance information of the mechanical device corresponding to the terminal unit 300 to 520 and stores the history in the information storage unit 440, A semiconductor manufacturing process monitoring system using operation image information of a pneumatic cylinder, characterized in that it further comprises a user monitoring means close to providing monitoring information of the instrument device. 제3항에 있어서, 상기 중앙감시제어부(400)는 실시간 이미지 정보로부터 판단된 공압 실린더의 동작 상태를 감시제어부(430)로부터 제공받아 현장 학습 이미지 정보를 생성하여 정보저장부(440)에 저장하는 인공지능학습부(450)를 더 포함하여 구성되며,
상기 인공지능학습부(450)는 정해진 알고리즘에 따라서 상기 동작판단부(431)로부터 피스톤의 동작 검출정보와 피스톤 동작 패턴 정보를 제공받아 인공지능 학습을 수행하여 현장 학습 이미지 정보를 생성하는 수단으로 구성되며,
사용자의 입력된 정보를 참조하여 생성되는 사용자 지도 학습정보를 포함하여 현장 학습 이미지 정보를 생성하는 수단을 더 포함하여 구성되고,
상기 감시제어부(430)는 사용자가 학습정보를 입력할 수 있도록 지도학습입력 인터페이스를 제공하는 학습제어수단을 포함하여 구성되며,
상기 컴퓨터단말수단(510) 또는 스마트폰(520)의 모니터링프로그램은 사용자가 지도 학습정보를 입력할 수 있도록 하는 지도 학습 입력 인터페이스 수단을 제공하는 현장 학습제어 프로세스를 포함하여 구성되는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.
The method of claim 3, wherein the central monitoring control unit 400 receives the operating state of the pneumatic cylinder determined from the real-time image information from the monitoring control unit 430 to generate field learning image information and store it in the information storage unit 440 Consists of further comprising an artificial intelligence learning unit (450),
The artificial intelligence learning unit 450 receives the motion detection information and the piston motion pattern information from the motion determination unit 431 according to a predetermined algorithm, and performs artificial intelligence learning to generate field learning image information. becomes,
It is configured to further include means for generating field-learning image information, including user-guided learning information generated with reference to the user's input information,
The monitoring control unit 430 is configured to include a learning control means for providing a supervised learning input interface so that the user can input learning information,
The computer terminal means 510 or the monitoring program of the smart phone 520 is pneumatic, characterized in that it comprises a field learning control process that provides a supervised learning input interface means allowing the user to input the supervised learning information A semiconductor manufacturing process monitoring system using cylinder motion image information.
제6항에 있어서, 상기 감시제어부(430)는 인공지능학습부(450)의 인공지능 학습 동작의 실행 여부를 관리자(사용자)가 선택할 수 있도록 선택수단을 더 포함하고,
상기 모니터링프로그램은 인공지능학습부(450)의 인공지능 학습 동작의 실행 여부를 관리자(사용자)가 선택할 수 있도록 선택수단을 제공하는 프로세스를 더 포함하는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 시스템.
According to claim 6, wherein the monitoring and control unit 430 further comprises a selection means so that an administrator (user) can select whether to execute the artificial intelligence learning operation of the artificial intelligence learning unit 450,
The monitoring program using the operation image information of the pneumatic cylinder, characterized in that it further comprises a process of providing a selection means so that the manager (user) can select whether to execute the artificial intelligence learning operation of the artificial intelligence learning unit 450 Semiconductor manufacturing process monitoring system.
단말부(300)로부터 이미지 정보와 센서감지정보가 수신되면 공압 실런더의 피스톤 동작을 인식하여 피스톤 동작 정보를 검출하고 단말부(300)의 식별정보를 확인하여 정보저장부(440)에 저장하는 공압 실린더의 동작검출과정과,
검출된 피스톤의 동작 정보를 정보저장부(440)에 저장된 학습 이미지 정보를 참조하여 단말부(300)에 해당하는 기구장치의 동작 이상 유무를 판단하는 동작이상유무 판단과정과,
상기 동작이상유무 판단과정을 통해 판단된 동작상태정보를 정보저장부(440)에 저장하고 동작 이상이 발생 된 경우 유지보수정보를 생성하여 외부알림부(500)로 제공하고 정보저장부(440)에 저장하는 모니터링 관리과정과,
사용자가 접속되고, 사용자의 접속요청 정보가 입력되면 정보저장부(440)에 저장된 접속자 정보를 확인하여 접속 허가하고, 접속된 사용자의 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 감시정보 조회요청이 입력되면 입력된 감시정보 조회 요청에 따라서 정보저장부(440)에 저장된 동작상태정보 또는 기 저장된 유지보수정보를 사용자의 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공하는 모니터링 정보 제공과정을 포함하여 구성되는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법.
When image information and sensor detection information are received from the terminal unit 300, the piston operation of the pneumatic cylinder is recognized, the piston operation information is detected, and the identification information of the terminal unit 300 is checked and stored in the information storage unit 440. The operation detection process of the pneumatic cylinder,
An operation abnormality determination process of determining the operation abnormality of the mechanical device corresponding to the terminal unit 300 with reference to the learning image information stored in the information storage unit 440 for the detected piston operation information;
The operation state information determined through the operation abnormality determination process is stored in the information storage unit 440, and when an operation abnormality occurs, maintenance information is generated and provided to the external notification unit 500, and the information storage unit 440 The monitoring management process stored in the
When a user is connected and the user's access request information is input, the access information stored in the information storage unit 440 is checked and access is permitted, and monitoring information is viewed from the connected user's computer terminal means 510 or smart phone 520 . When a request is input, monitoring information is provided that provides operation state information or pre-stored maintenance information stored in the information storage unit 440 to the user's computer terminal means 510 or smart phone 520 according to the input monitoring information inquiry request A semiconductor manufacturing process monitoring method using operation image information of a pneumatic cylinder, characterized in that it comprises a process.
제8항에 있어서, 단말부(300)로부터 사용자 스마트폰(520) 접속이 확인되면 해당 단말부식별정보를 확인하고 정보저장부(440)에 저장된 해당하는 단말부(300)의 동작상태정보와 기 저장된 유지보수정보를 접속 확인된 스마트폰(520)에 제공하는 근접된 사용자에 대한 모니터링 정보 제공과정을 더 포함하여 구성되는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법.The method according to claim 8, wherein when the user's smartphone 520 access is confirmed from the terminal unit 300, the corresponding terminal unit identification information is checked and the operation state information of the corresponding terminal unit 300 stored in the information storage unit 440 and A semiconductor manufacturing process monitoring method using operation image information of a pneumatic cylinder, characterized in that it further comprises a process of providing monitoring information for a user in proximity to provide the pre-stored maintenance information to the connected smartphone 520. 제8항에 있어서, 접속된 컴퓨터단말수단(510) 또는 스마트폰(520)으로부터 학습 이미지 정보 업데이트 요청이 입력되면 업데이트 하고자 하는 학습 이미지 정보의 전송을 위한 인터페이스 수단을 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공하는 과정과, 컴퓨터단말수단(510) 또는 스마트폰(520)으로 제공된 인터페이스 수단을 통해 입력된 학습 이미지 정보를 정보저장부(440)의 제2저장부(442)에 저장하여 학습 이미지 정보를 업데이트하는 과정을 더 포함하여 구성되는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법.The method of claim 8, wherein when a request for updating learning image information is input from the connected computer terminal means 510 or smart phone 520, the interface means for transmitting the learning image information to be updated is connected to the computer terminal means 510 or smart phone. The process of providing to the phone 520 and the learning image information input through the interface means provided to the computer terminal means 510 or the smart phone 520 are stored in the second storage unit 442 of the information storage unit 440 . The semiconductor manufacturing process monitoring method using the operation image information of the pneumatic cylinder, characterized in that it further comprises the process of updating the learning image information. 제8항 또는 제9항에 있어서, 상기 모니터링 정보 제공 과정 또는 근접된 사용자에 대한 모니터링 정보 제공과정에서 외부알림부(500) 또는 스마트폰(520)으로 제공되는 동작상태정보는 기구장치 정보, 동작 상태 이상 유무 및 동작 이상이 발생 된 경우 동작 이상 정보와 동작 상태를 나타내는 이미지 정보를 포함하는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법. [10] The method of claim 8 or 9, wherein the operation state information provided to the external notification unit 500 or the smart phone 520 in the monitoring information providing process or in the monitoring information providing process for a user close to the user is information on the device and the operation. A semiconductor manufacturing process monitoring method using operation image information of a pneumatic cylinder, characterized in that it includes information on the operation abnormality and image information indicating the operation state when there is an abnormality and when an operation abnormality occurs. 제8항에 있어서, 상기 공압 실린더의 동작검출과정을 통해 검출된 공압 실린더의 동작 정보에 대하여 정해진 알고리즘에 따라서 인공지능 학습 과정을 수행하여 현장 학습 이미지 정보를 생성하여 정보저장부(440)에 저장하는 현장 학습 이미지 정보 생성과정을 더 포함하여 구성되고,
상기 동작이상유무판단과정은 공압 실린더의 동작검출과정을 통해 검출된 피스톤의 동작 정보를 정보저장부(440)에 저장된 학습 이미지 정보와 현장 학습 이미지 정보를 참조하여 단말부(300)에 해당하는 기구장치의 동작 이상 유무를 판단하는 과정으로 이루어지는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법.
According to claim 8, wherein the artificial intelligence learning process is performed according to a predetermined algorithm for the operation information of the pneumatic cylinder detected through the operation detection process of the pneumatic cylinder to generate field learning image information and stored in the information storage unit (440) It is configured to further include a field learning image information generation process,
In the operation abnormality determination process, the operation information of the piston detected through the operation detection process of the pneumatic cylinder refers to the learning image information and the field learning image information stored in the information storage unit 440. The mechanism corresponding to the terminal unit 300 A semiconductor manufacturing process monitoring method using operation image information of a pneumatic cylinder, characterized in that it comprises the step of determining whether there is an abnormality in the operation of the device.
제12항에 있어서, 상기 현장 학습 이미지 정보 생성과정은 사용자의 지도 학습정보가 입력되면, 사용자가 입력한 지도 학습정보에 따라서 현장 학습 이미지 정보를 생성하는 과정을 더 포함하는 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법.The pneumatic cylinder according to claim 12, wherein the field learning image information generating process further comprises the step of generating field learning image information according to the guidance learning information input by the user when the user's guidance learning information is input. A semiconductor manufacturing process monitoring method using the motion image information of 제12항에 있어서, 상기 현장 학습 이미지 정보 생성과정은 사용자의 선택 입력정보에 따라서 상기 현장 학습 이미지 생성과정의 실행 여부를 결정할 수 있도록 한 것을 특징으로 하는 공압 실린더의 동작 영상정보를 이용한 반도체 제조공정 감시 방법.The semiconductor manufacturing process using operation image information of a pneumatic cylinder according to claim 12, wherein in the field learning image information generating process, it is possible to determine whether to execute the field learning image generating process according to a user's selection input information. monitoring method.
KR1020200095371A 2020-07-30 2020-07-30 The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information KR102348881B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200095371A KR102348881B1 (en) 2020-07-30 2020-07-30 The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200095371A KR102348881B1 (en) 2020-07-30 2020-07-30 The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information

Publications (1)

Publication Number Publication Date
KR102348881B1 true KR102348881B1 (en) 2022-01-11

Family

ID=79355472

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200095371A KR102348881B1 (en) 2020-07-30 2020-07-30 The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information

Country Status (1)

Country Link
KR (1) KR102348881B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1194708A (en) * 1997-09-25 1999-04-09 Shin Meiwa Auto Engineering Kk System for diagnostic vehicle
KR19990075536A (en) * 1998-03-20 1999-10-15 윤종용 Door opening and closing device of wafer loader chamber
KR100708961B1 (en) * 2005-12-28 2007-04-18 동부일렉트로닉스 주식회사 A agitation piston movement sensor
KR20080055789A (en) * 2005-07-11 2008-06-19 브룩스 오토메이션 인코퍼레이티드 Intelligent condition-monitoring and fault diagnostic system
JP2012246562A (en) * 2011-05-31 2012-12-13 Jfe Steel Corp Method for detecting abnormality of hydraulic cylinder for going up and down of converter skirt

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1194708A (en) * 1997-09-25 1999-04-09 Shin Meiwa Auto Engineering Kk System for diagnostic vehicle
KR19990075536A (en) * 1998-03-20 1999-10-15 윤종용 Door opening and closing device of wafer loader chamber
KR20080055789A (en) * 2005-07-11 2008-06-19 브룩스 오토메이션 인코퍼레이티드 Intelligent condition-monitoring and fault diagnostic system
KR100708961B1 (en) * 2005-12-28 2007-04-18 동부일렉트로닉스 주식회사 A agitation piston movement sensor
JP2012246562A (en) * 2011-05-31 2012-12-13 Jfe Steel Corp Method for detecting abnormality of hydraulic cylinder for going up and down of converter skirt

Similar Documents

Publication Publication Date Title
JP6821601B2 (en) Integrated asset integrity management system
US12020415B2 (en) Method for monitoring manufacture of assembly units
EP3776462B1 (en) System and method for image-based target object inspection
JP5000888B2 (en) Communication method and communication system
JP6823576B2 (en) Anomaly detection system and anomaly detection method
EP1441320A1 (en) INFORMATION PROCESSOR, SENSOR NETWORK SYSTEM, INFORMATION PROCESSING PROGRAM, COMPUTER−READABLE RECORDED MEDIUM ON WHICH INFORMATION PROCESSING PROGRAM IS RECORDED, AND INFORMATION PROCESSING METHOD FOR SENSOR NETWORK SYSTEM
US20200293394A1 (en) Interactive troubleshooting assistant
US20220012523A1 (en) Repair diagnostic system and method
JP2004510363A (en) Sensors and imaging systems
CN111542791B (en) Facility diagnosis method using facility diagnosis system
JP2013131159A (en) Area monitoring system
CN113989503A (en) Production line inspection system and method, electronic equipment and storage medium
CN113227922B (en) Method and system for controlling a process in a process plant
KR102348881B1 (en) The system and method for monitoring of semiconductor manufacturing process using air actuator motion image information
CN109313442B (en) Automated visual and acoustic analysis for event detection
CN115248873A (en) Cable tunnel safety monitoring method and system based on data fusion
CN112446543A (en) Urban underground comprehensive pipe gallery risk management and control system and method based on neural network
CN112085691A (en) Intelligent sensor measuring system
KR20190114155A (en) The Mobile Unmanned Monitoring System and Method
KR102516839B1 (en) System and method for detecting leakage
KR101728557B1 (en) System and method for managing sensor network
CN114125274A (en) Unattended machine room alarm method and system, storage medium and intelligent terminal
WO2023132131A1 (en) Inspection device, inspection method, and program
US20230205193A1 (en) System and method for diagnostics and monitoring of anomalies of a cyber-physical system
US20230168657A1 (en) Method for facilities predictive maintenance based on embedding analysis

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant