JP6849150B2 - Industrial plant monitoring and control system - Google Patents

Industrial plant monitoring and control system Download PDF

Info

Publication number
JP6849150B2
JP6849150B2 JP2020520899A JP2020520899A JP6849150B2 JP 6849150 B2 JP6849150 B2 JP 6849150B2 JP 2020520899 A JP2020520899 A JP 2020520899A JP 2020520899 A JP2020520899 A JP 2020520899A JP 6849150 B2 JP6849150 B2 JP 6849150B2
Authority
JP
Japan
Prior art keywords
region
image
color
rolled
industrial plant
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020520899A
Other languages
Japanese (ja)
Other versions
JPWO2019224906A1 (en
Inventor
藤枝 宏之
宏之 藤枝
克広 小西
克広 小西
渡辺 賢二
賢二 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Mitsubishi Electric Industrial Systems Corp
Original Assignee
Toshiba Mitsubishi Electric Industrial Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Mitsubishi Electric Industrial Systems Corp filed Critical Toshiba Mitsubishi Electric Industrial Systems Corp
Publication of JPWO2019224906A1 publication Critical patent/JPWO2019224906A1/en
Application granted granted Critical
Publication of JP6849150B2 publication Critical patent/JP6849150B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B21MECHANICAL METAL-WORKING WITHOUT ESSENTIALLY REMOVING MATERIAL; PUNCHING METAL
    • B21BROLLING OF METAL
    • B21B37/00Control devices or methods specially adapted for metal-rolling mills or the work produced thereby
    • B21B37/28Control of flatness or profile during rolling of strip, sheets or plates
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B21MECHANICAL METAL-WORKING WITHOUT ESSENTIALLY REMOVING MATERIAL; PUNCHING METAL
    • B21BROLLING OF METAL
    • B21B37/00Control devices or methods specially adapted for metal-rolling mills or the work produced thereby
    • B21B37/46Roll speed or drive motor control
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques

Description

本発明は、産業プラント用データ再生装置および産業プラント監視制御システムに関する。 The present invention relates to a data reproduction device for an industrial plant and an industrial plant monitoring and control system.

工業活動に必要な素材や資源を生産する産業プラント(鉄鋼プラント、発電プラント、石油プラント、化学プラント等)が知られている。産業プラントのプラント監視制御システムは、制御用ネットワークを介して、プラントを構成する多数のフィールド機器(アクチュエータやセンサを含む)が接続された入出力装置(I/O)や、多数のフィールド機器を制御するプログラマブルロジックコントローラ(以下、PLCと記す)が相互に接続された構成を備える。 Industrial plants (steel plants, power plants, petroleum plants, chemical plants, etc.) that produce materials and resources necessary for industrial activities are known. The plant monitoring and control system of an industrial plant is an input / output device (I / O) to which a large number of field devices (including actuators and sensors) constituting the plant are connected via a control network, and a large number of field devices. It has a configuration in which programmable logic controllers (hereinafter referred to as PLCs) to be controlled are connected to each other.

また、PLCや入出力装置の入出力信号であるプロセスデータは、データ収集機能やデータ再生機能を有するデータ収集装置に収集される。データ収集装置は、収集したプロセスデータを表示し、オペレータが産業プラントの状態を把握するために用いられる。 Further, process data which is an input / output signal of a PLC or an input / output device is collected by a data collection device having a data collection function and a data reproduction function. The data collection device displays the collected process data and is used by the operator to grasp the state of the industrial plant.

プロセスデータを出力するセンサの一例として、特許文献1には、鉄鋼プラントに配置されたHMD(Hot Metal Detecter)が開示されている。このHMDは、圧延ロール下流のテーブルローラ直上の所定高さの位置に設置され、検出する方向が圧延ロールを略直交方向かつ水平方向に望む方向に設定されている。HMDは、狭視野を有するレーザセンサであり、視野内に熱塊を検知すればON信号を、検知しなければOFF信号を出力する。 As an example of a sensor that outputs process data, Patent Document 1 discloses an HMD (Hot Metal Detector) arranged in a steel plant. This HMD is installed at a position at a predetermined height directly above the table roller downstream of the rolling roll, and the detection direction is set to be a direction desired for the rolling roll in a substantially orthogonal direction and a horizontal direction. The HMD is a laser sensor having a narrow field of view, and outputs an ON signal if it detects a heat mass in the field of view, and outputs an OFF signal if it does not detect it.

日本特開2016−87652号公報Japanese Patent Application Laid-Open No. 2016-87652 国際公開第2014/002176号International Publication No. 2014/002176

特許文献1のようにセンサを配置することで、熱塊(被圧延材)の上反りを検出できる。しかしながら、センサは高額であり、その設置場所も限定される。また、センサはON信号またはOFF信号を出力するのみであり、被圧延材の状態(形状、位置等)を詳細に把握することはできない。 By arranging the sensor as in Patent Document 1, the upward warp of the hot mass (material to be rolled) can be detected. However, the sensor is expensive and its installation location is limited. Further, the sensor only outputs an ON signal or an OFF signal, and the state (shape, position, etc.) of the material to be rolled cannot be grasped in detail.

このようなデメリットを解決するため、本願発明者は鋭意研究を進めた結果、一般的なカメラで撮影した撮影対象の動画データをセンサのように用いることとした。カメラを用いることで、コスト低減、上述のセンサに比して撮影範囲が広く設置場所の自由度が高い、センサ出力よりも情報量が多い、といったメリットが得られる。 In order to solve such a demerit, the inventor of the present application has decided to use the moving image data of the object to be photographed taken by a general camera as a sensor as a result of diligent research. By using a camera, there are merits such as cost reduction, a wider shooting range and a higher degree of freedom in installation location than the above-mentioned sensor, and a larger amount of information than the sensor output.

一方で、カメラで撮影した撮影対象の状態を確認する場合、単に動画データを目視しても、目測での判断となり確認の精度は低い。そのため確認の精度を高める処理が望まれる。 On the other hand, when confirming the state of the object to be photographed by the camera, even if the moving image data is simply visually observed, the judgment is made by visual measurement and the accuracy of confirmation is low. Therefore, a process for improving the accuracy of confirmation is desired.

本発明は、上述のような課題を解決するためになされたもので、動画データを用いて撮影対象の状態をリアルタイムに定量的に解析し、産業プラントの操業状態を確認するオペレータを支援できる産業プラント用画像解析装置を提供することを目的とする。
また、本発明は、産業プラント用画像解析装置により定量化されたデータを用いて、撮影対象の状態に応じた適切な制御を実現できる産業プラント監視制御システムを提供することを目的とする。
The present invention has been made to solve the above-mentioned problems, and is an industry capable of assisting an operator who confirms the operating state of an industrial plant by quantitatively analyzing the state of an imaged object in real time using moving image data. It is an object of the present invention to provide an image analysis apparatus for a plant.
Another object of the present invention is to provide an industrial plant monitoring and control system capable of realizing appropriate control according to the state of an imaging target by using the data quantified by the image analysis device for an industrial plant.

上記目的の達成のため、本実施形態に係る産業プラント用画像解析装置は以下のように構成される。産業プラント用画像解析装置は、動画データ収集部と、画像加工処理部と、画像定量化部と、数値出力部とを備える。 In order to achieve the above object, the image analysis apparatus for an industrial plant according to the present embodiment is configured as follows. The image analysis device for an industrial plant includes a moving image data collecting unit, an image processing processing unit, an image quantifying unit, and a numerical output unit.

動画データ収集部は、産業プラントを構成する機器および該機器に加工される材料を撮影した動画データをリアルタイムに収集する。リアルタイムとは、必ずしも撮影された瞬間を指すものではなく、通信経路やデータ処理による遅れを伴うデータ収集や、一定周期間隔でのデータ収集を含む意味である。 The video data collection unit collects video data of the equipment constituting the industrial plant and the materials processed by the equipment in real time. Real-time does not necessarily mean the moment when the image is taken, but includes data collection with a delay due to the communication path and data processing, and data collection at regular periodic intervals.

画像加工処理部は、一定周期毎に、前記動画データから画像を抽出し、指定色を第1カラーに、該指定色以外を第2カラーに変換して該画像を2値化する。一定周期とは、可能な限り短周期が好ましく、リアルタイムが好ましい。画像とは、動画データから抽出した1フレーム画像を意味する。指定色とは、単一色だけでなく、指定された色範囲も含む意味である。 The image processing unit extracts an image from the moving image data at regular intervals, converts a designated color into a first color, and converts a color other than the designated color into a second color to binarize the image. The constant cycle is preferably as short as possible, and is preferably real-time. The image means a one-frame image extracted from moving image data. The designated color means not only a single color but also a designated color range.

画像定量化部は、前記第1カラーに変換された画素数に基づいて前記2値化された画像を定量化する。1つの態様では、画像定量化部は、前記2値化された画像を前記材料の搬送方向と平行に分割した各帯状領域について前記第1カラーが占める割合を計算する。他の態様では、画像定量化部は、前記2値化された画像を格子状に分割した各格子状領域について前記第1カラーが占める割合を計算する。 The image quantification unit quantifies the binarized image based on the number of pixels converted to the first color. In one embodiment, the image quantifier calculates the proportion of the first color in each strip region of the binarized image divided parallel to the transport direction of the material. In another aspect, the image quantifier calculates the proportion of the first color in each grid region of the binarized image divided into grids.

数値出力部は、前記定量化されたデータを出力する。 The numerical output unit outputs the quantified data.

また、上記目的の達成のため、本実施形態に係る産業プラント監視制御システムは以下のように構成される。産業プラント監視制御システムは、上述の産業プラント用画像解析装置と、前記機器を制御するプログラマブルロジックコントローラとを備える。 Further, in order to achieve the above object, the industrial plant monitoring and control system according to the present embodiment is configured as follows. The industrial plant monitoring and control system includes the above-mentioned image analysis device for an industrial plant and a programmable logic controller that controls the device.

前記機器は、前記材料である被圧延材を圧延する一対の圧延ロールを含む。画像加工処理部は、前記被圧延材を幅方向から見た前記画像について2値化する。 The equipment includes a pair of rolling rolls for rolling the material to be rolled. The image processing unit binarizes the image of the material to be rolled as viewed from the width direction.

1つの態様では、画像定量化部とプログラマブルロジックコントローラは以下のように構成される。 In one embodiment, the image quantifier and the programmable logic controller are configured as follows.

画像定量化部は、前記2値化された画像を前記被圧延材の搬送方向と平行に、少なくとも第1領域と第1領域の上に隣接する第2領域とに分割し、各領域について前記第1カラーが占める割合を計算する。 The image quantification unit divides the binarized image into at least a first region and a second region adjacent to the first region in parallel with the transport direction of the material to be rolled, and the image quantification unit describes each region. Calculate the proportion occupied by the first color.

プログラマブルロジックコントローラは、第2領域中の前記第1カラーが占める割合の増加量と第1領域中の前記第1カラーが占める割合の減少量との差が、閾値より大きい場合に、アラーム信号および前記被圧延材の上反りを抑制するように前記一対の圧延ロールの回転速度を変更する制御信号の少なくとも一方を出力する。例えば、制御信号は、前記一対の圧延ロールを停止させる信号、または下圧延ロールの回転速度を上圧延ロールの回転速度よりも遅くする信号である。 The programmable logic controller provides an alarm signal and an alarm signal when the difference between the increase amount of the ratio occupied by the first color in the second region and the decrease amount of the ratio occupied by the first color in the first region is larger than the threshold value. At least one of the control signals for changing the rotation speed of the pair of rolling rolls is output so as to suppress the warp of the material to be rolled. For example, the control signal is a signal for stopping the pair of rolling rolls, or a signal for making the rotation speed of the lower rolling roll slower than the rotation speed of the upper rolling roll.

他の態様では、画像定量化部とプログラマブルロジックコントローラは以下のように構成される。 In another aspect, the image quantifier and the programmable logic controller are configured as follows.

画像定量化部は、前記2値化された画像を格子状に、少なくとも第1領域と、第1領域の横に隣接する第2領域と、第1領域の上に隣接する第3領域と、第2領域の上かつ第3領域の横に隣接する第4領域とに分割し、各領域について前記第1カラーが占める割合を計算する。 The image quantification unit arranges the binarized image in a grid pattern to include at least a first region, a second region adjacent to the side of the first region, and a third region adjacent to the first region. It is divided into a fourth region above the second region and adjacent to the side of the third region, and the ratio occupied by the first color for each region is calculated.

プログラマブルロジックコントローラは、第1領域、第2領域の順に前記第1カラーが占める割合の増加し、かつ、第3領域中の前記第1カラーが占める割合の減少に応じて第4領域中の前記第1カラーが占める割合が増加する場合に、アラーム信号および前記被圧延材の上反りを抑制するように前記一対の圧延ロールの回転速度を変更する制御信号の少なくとも一方を出力する。例えば、制御信号は、前記一対の圧延ロールを停止させる信号、または下圧延ロールの回転速度を上圧延ロールの回転速度よりも遅くする信号である。 In the programmable logic controller, the proportion occupied by the first color increases in the order of the first region and the second region, and the proportion occupied by the first color in the third region decreases. When the proportion occupied by the first collar increases, at least one of an alarm signal and a control signal for changing the rotation speed of the pair of rolling rolls so as to suppress the warp of the material to be rolled is output. For example, the control signal is a signal for stopping the pair of rolling rolls, or a signal for making the rotation speed of the lower rolling roll slower than the rotation speed of the upper rolling roll.

本発明に係る産業プラント用画像解析装置によれば、動画データを用いて撮影対象の状態をリアルタイムに定量的に解析し、産業プラントの操業状態を確認するオペレータを支援できる。また、本発明に係る産業プラント監視制御システムによれば、産業プラント用画像解析装置により定量化されたデータを用いて適切な制御を実現できる。 According to the image analysis device for an industrial plant according to the present invention, it is possible to assist an operator who quantitatively analyzes the state of an object to be photographed in real time using moving image data and confirms the operating state of the industrial plant. Further, according to the industrial plant monitoring and control system according to the present invention, appropriate control can be realized by using the data quantified by the image analysis device for an industrial plant.

実施の形態1に係る産業プラントのプラント監視制御システムの構成を示す概略図である。It is the schematic which shows the structure of the plant monitoring control system of the industrial plant which concerns on Embodiment 1. FIG. 実施の形態1に係る画像解析装置のブロック図である。It is a block diagram of the image analysis apparatus which concerns on Embodiment 1. FIG. 実施の形態1に係る画像解析装置の画面表示例である。This is a screen display example of the image analysis apparatus according to the first embodiment. 画像解析装置が有する処理回路のハードウェア構成例を示すブロック図である。It is a block diagram which shows the hardware configuration example of the processing circuit which an image analysis apparatus has. 実施の形態2に係る画像解析装置のブロック図である。It is a block diagram of the image analysis apparatus which concerns on Embodiment 2. FIG. 実施の形態2に係る画像解析装置における解析例である。This is an analysis example in the image analysis apparatus according to the second embodiment. 実施の形態3に係る画像解析装置のブロック図である。It is a block diagram of the image analysis apparatus which concerns on Embodiment 3. 実施の形態3に係る画像解析装置における解析例である。This is an analysis example in the image analysis apparatus according to the third embodiment.

以下、図面を参照して本発明の実施の形態について詳細に説明する。尚、各図において共通する要素には、同一の符号を付して重複する説明を省略する。 Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings. The elements common to each figure are designated by the same reference numerals, and duplicate description will be omitted.

実施の形態1.
(システム構成)
図1は、実施の形態1に係る産業プラントのプラント監視制御システムの構成を示す概略図である。
Embodiment 1.
(System configuration)
FIG. 1 is a schematic view showing a configuration of a plant monitoring control system for an industrial plant according to a first embodiment.

工業活動に必要な素材や資源を生産する産業プラントの1つに鉄鋼プラントがある。熱間圧延では、加熱炉で加熱された高温のスラブ(被圧延材)が、搬送ロールにより搬送されて、粗圧延機と仕上圧延機で所望の厚さまで薄く延ばされると同時に所望の幅に加工され、最後にコイラーで巻き取られる。 A steel plant is one of the industrial plants that produce the materials and resources necessary for industrial activities. In hot rolling, a high-temperature slab (material to be rolled) heated in a heating furnace is conveyed by a transfer roll and thinly rolled to a desired thickness by a rough rolling mill and a finishing rolling mill, and at the same time processed into a desired width. And finally rolled up with a coiler.

プラント監視制御システムは、画像解析装置1、第1監視カメラ2、第2監視カメラ3、データ収集装置7、HMI8、PLC9、および産業プラントを構成する機器(図示省略)等が接続されて構成されている。 The plant monitoring and control system is configured by connecting an image analysis device 1, a first surveillance camera 2, a second surveillance camera 3, a data collection device 7, HMI8, PLC9, and equipment (not shown) constituting an industrial plant. ing.

第1監視カメラ2および第2監視カメラ3は、産業プラントを構成する機器、および機器に加工される材料を撮影範囲に含むように配置される。第1監視カメラ2は、画像用信号線5を介して画像データ変換器4に接続している。第1監視カメラ2の映像出力は、画像データ変換器4でネットワーク通信可能な信号に変換され、動画用ネットワーク6を介して画像解析装置1へ送信される。第2監視カメラ3はネットワークカメラであり、撮影した動画データは、動画用ネットワーク6を介して画像解析装置1へ送信される。 The first surveillance camera 2 and the second surveillance camera 3 are arranged so as to include the equipment constituting the industrial plant and the material processed by the equipment in the photographing range. The first surveillance camera 2 is connected to the image data converter 4 via the image signal line 5. The video output of the first surveillance camera 2 is converted into a signal capable of network communication by the image data converter 4, and transmitted to the image analysis device 1 via the moving image network 6. The second surveillance camera 3 is a network camera, and the captured moving image data is transmitted to the image analysis device 1 via the moving image network 6.

画像解析装置1は、制御用ネットワーク10を介して、産業プラントを構成する機器(アクチュエータやセンサを含む)を制御するプログラマブルロジックコントローラ(PLC)9と、オペレータが産業プラントの常時運転・監視に使用する監視制御装置であるヒューマンマシンインターフェース(HMI)8と、データ収集装置7とに接続している。なお、画像解析装置1は、データ収集装置7に組み込まれる場合もある。 The image analysis device 1 is a programmable logic controller (PLC) 9 that controls equipment (including actuators and sensors) constituting an industrial plant via a control network 10, and is used by an operator for constant operation and monitoring of the industrial plant. It is connected to a human-machine interface (HMI) 8 which is a monitoring and control device for monitoring and a data collecting device 7. The image analysis device 1 may be incorporated in the data collection device 7.

制御用ネットワーク10は、コモンメモリを有するノードを複数有し、複数のノード間での周期的な同報伝送によりコモンメモリ上のデータを同期する。これにより、画像解析装置1と、PLC9と、HMI8との間で仮想的に同一メモリ空間が共有される。コモンメモリには各データの記憶領域(アドレス)が割り付けられている。各ノードに接続された装置は、コモンメモリへの書き込み・読み込みによってデータを送受信できる。 The control network 10 has a plurality of nodes having a common memory, and synchronizes data on the common memory by periodic broadcast transmission between the plurality of nodes. As a result, the same memory space is virtually shared between the image analysis device 1, the PLC9, and the HMI8. A storage area (address) for each data is assigned to the common memory. The device connected to each node can send and receive data by writing and reading to the common memory.

(画像解析装置)
画像解析装置1は、動画データ収集部21、画像加工処理部22、画像定量化部23、数値出力部24を備える。
(Image analyzer)
The image analysis device 1 includes a moving image data collection unit 21, an image processing processing unit 22, an image quantification unit 23, and a numerical output unit 24.

動画データ収集部21は、産業プラントを構成する機器および該機器に加工される材料を撮影した動画データをリアルタイムに収集する。リアルタイムとは、必ずしも撮影された瞬間を指すものではなく、通信経路やデータ処理による遅れを伴うデータ収集や、一定周期間隔でのデータ収集を含む意味である。具体的には、動画データ収集部21は、動画用ネットワーク6を介して、第1監視カメラ2、第2監視カメラ3から動画データを一定周期間隔で収集する。動画データ収集部21は、動画データを画像加工処理部22へ出力する。動画データ収集部21は、収集した動画データをストレージ113のデータ記憶部113bに蓄積する。 The moving image data collecting unit 21 collects moving image data of the equipment constituting the industrial plant and the material processed by the equipment in real time. Real-time does not necessarily mean the moment when the image is taken, but includes data collection with a delay due to the communication path and data processing, and data collection at regular periodic intervals. Specifically, the moving image data collecting unit 21 collects moving image data from the first monitoring camera 2 and the second monitoring camera 3 at regular periodic intervals via the moving image network 6. The moving image data collecting unit 21 outputs the moving image data to the image processing unit 22. The moving image data collecting unit 21 stores the collected moving image data in the data storage unit 113b of the storage 113.

画像加工処理部22は、一定周期毎に、動画データから画像を抽出し、指定色を第1カラーに、該指定色以外を第2カラーに変換して該画像を2値化する。一定周期とは、可能な限り短周期が好ましく、リアルタイムが好ましい。画像とは、動画データから抽出した1フレーム画像を意味する。指定色とは、単一色だけでなく、指定された色範囲も含む意味である。 The image processing unit 22 extracts an image from the moving image data at regular intervals, converts a designated color into a first color, and converts a color other than the designated color into a second color to binarize the image. The constant cycle is preferably as short as possible, and is preferably real-time. The image means a one-frame image extracted from moving image data. The designated color means not only a single color but also a designated color range.

具体的には、画像加工処理部22は、図2に示すカラーフィルタ部41、2値化部42、写像加工部43を用いて画像を加工し、加工した画像を画像定量化部23へ出力する。 Specifically, the image processing unit 22 processes an image using the color filter unit 41, the binarization unit 42, and the mapping processing unit 43 shown in FIG. 2, and outputs the processed image to the image quantification unit 23. To do.

カラーフィルタ部41は、画像中の機器や材料に関する指定色を抽出する。指定色として、例えば赤熱した材料の色、機器や材料の温度異常を示す色などが予め設定される。 The color filter unit 41 extracts designated colors related to devices and materials in the image. As the designated color, for example, the color of the red-hot material, the color indicating the temperature abnormality of the device or the material, and the like are set in advance.

2値化部42は、指定色を第1カラー(例えば、白色)、それ以外を第2カラー(例えば、黒色)に変換して該画像を2値化する。これによれば、データ量を小さくでき、画像加工処理や定量化処理の演算負荷を軽減してリアルタイム性を確保できる。 The binarization unit 42 converts the designated color into a first color (for example, white) and the other colors into a second color (for example, black) to binarize the image. According to this, the amount of data can be reduced, the computational load of image processing processing and quantification processing can be reduced, and real-time performance can be ensured.

写像加工部43は、第1監視カメラ2又は第2監視カメラ3が撮影対象を斜めから撮影する場合に、写像変換を行うことで、真横又は真上から見た映像に変換する。これによれば、カメラ配置の自由度が高いため、撮影対象の真上や真横にカメラを配置できないケースのみならず、撮影対象の近傍にセンサを配置困難な環境にも対応可能である。なお、カメラを撮影対象の真上や真横に配置可能な場合には、写像加工部43による処理は必ずしも実行しなくてよい。 When the first surveillance camera 2 or the second surveillance camera 3 photographs the object to be photographed from an oblique angle, the mapping processing unit 43 converts the image into an image viewed from the side or the top by performing the mapping conversion. According to this, since the degree of freedom in arranging the cameras is high, it is possible to deal with not only the case where the camera cannot be arranged directly above or beside the shooting target but also the environment where it is difficult to place the sensor near the shooting target. If the camera can be placed directly above or beside the shooting target, the processing by the mapping processing unit 43 does not necessarily have to be executed.

画像定量化部23は、第1カラーに変換された画素数に基づいて前記2値化された画像を定量化する。例えば、画像加工処理部22により第1カラー(例えば、白色)に変換された画素数に基づいて、画像中に第1カラーが占める割合を計算する。画像定量化部23は、定量化したデータを数値出力部24へ出力する。 The image quantification unit 23 quantifies the binarized image based on the number of pixels converted to the first color. For example, the ratio of the first color in the image is calculated based on the number of pixels converted into the first color (for example, white) by the image processing unit 22. The image quantification unit 23 outputs the quantified data to the numerical output unit 24.

数値出力部24は、定量化されたデータを、制御用ネットワーク10を介して、データ収集装置7、HMI8、PLC9へ出力する。 The numerical output unit 24 outputs the quantified data to the data collection device 7, the HMI 8 and the PLC 9 via the control network 10.

図3は、画像解析装置1がモニタ117(図4)に表示する表示例を示す図である。画像解析装置1は左ウインドウ31に、収集した動画データをリアルタイムに表示する。図3の例では、材料である被圧延材311を圧延する一対の圧延ロール312(粗圧延機または仕上圧延機)と、搬送ロール313とが撮影範囲に含まれており、被圧延材311が左から右へ搬送されつつ一対の圧延ロール312に圧延される様子が表示されている。また、画像解析装置1は中央ウインドウ32に、左ウインドウ31に表示中の画像を2値化した画像を表示する。被圧延材を示す部分321は白色、他の部分322は黒色で表示されている。また、画像解析装置1は右ウインドウ33に、2値化された画像中に白色が占める割合の時間変化を表すグラフを表示する。図6の例では、水平方向に分割された各領域について白色が占める割合の時間変化を表すグラフが表示されている。 FIG. 3 is a diagram showing a display example displayed on the monitor 117 (FIG. 4) by the image analysis device 1. The image analysis device 1 displays the collected moving image data in real time in the left window 31. In the example of FIG. 3, a pair of rolling rolls 312 (rough rolling mill or finish rolling mill) for rolling the material to be rolled 311 and a transfer roll 313 are included in the photographing range, and the material to be rolled 311 is included in the photographing range. A state of being rolled into a pair of rolling rolls 312 while being conveyed from left to right is displayed. Further, the image analysis device 1 displays a binarized image of the image displayed in the left window 31 in the center window 32. The portion 321 showing the material to be rolled is displayed in white, and the other portion 322 is displayed in black. Further, the image analysis device 1 displays a graph showing the time change of the proportion of white in the binarized image in the right window 33. In the example of FIG. 6, a graph showing the time change of the ratio of white occupying each region divided in the horizontal direction is displayed.

データ収集装置7は、PLC9やHMI8からプロセスデータを収集している。プロセスデータは、産業プラントを構成する機器および機器に加工される材料に関する各種データを含む。例えば、アクチュエータの制御値、センサの検出値、材料仕様などを含む。鉄鋼プラントなどの大規模プラントでは入出力点が数千、数万に及び、多種多様なプロセスデータが存在する。これらのプロセスデータは、データ収集機能やデータ再生機能を有するデータ収集装置7に収集され、試験時、調整時、操業時、障害時におけるデータ解析に用いられる。 The data collection device 7 collects process data from the PLC 9 and the HMI 8. Process data includes various data regarding the equipment that constitutes an industrial plant and the materials that are processed into the equipment. For example, it includes actuator control values, sensor detection values, material specifications, and the like. Large-scale plants such as steel plants have thousands or tens of thousands of input / output points, and a wide variety of process data exists. These process data are collected in a data collection device 7 having a data collection function and a data reproduction function, and are used for data analysis during testing, adjustment, operation, and failure.

また、データ収集装置7は、画像解析装置1から定量化されたデータを受信して、プロセスデータと同期しながら収集し蓄積する。なお、データ収集装置7は、画像解析装置1から必要なデータを受信して図3と同様の表示を実現することもできる。 Further, the data collecting device 7 receives the quantified data from the image analysis device 1 and collects and accumulates the data in synchronization with the process data. The data collecting device 7 can also receive necessary data from the image analysis device 1 and realize the same display as in FIG.

HMI8は、PLC9から受信したプロセスデータを数値や文字ならびにランプなどで表示する。また、HMI8は、ボタン入力信号や数値入力信号を送信する操作ボタンを具備し、操作ボタンの押下に応じてPLC9を制御するための信号を出力する。また、HMI8は、画像解析装置1から定量化されたデータを受信して、その数値を表示したり、その数値が予め定めた閾値を超えている場合にアラームを発したりすることも可能である。 The HMI 8 displays the process data received from the PLC 9 in numerical values, characters, lamps, and the like. Further, the HMI 8 includes an operation button for transmitting a button input signal and a numerical value input signal, and outputs a signal for controlling the PLC 9 in response to the pressing of the operation button. Further, the HMI 8 can receive the quantified data from the image analysis device 1 and display the numerical value, or issue an alarm when the numerical value exceeds a predetermined threshold value. ..

PLC9は、産業プラントのセンサからの入力などに基づいて演算を行いバルブやモータなどのアクチュエータへ信号を出力することで産業プラントを制御する。また、画像解析装置1から出力されたデータをセンサからの入力と同様に受信し、演算を行い、バルブやモータなどのアクチュエータへ信号を出力することで産業プラントを制御する。また、演算結果が閾値を超えている場合にアラームを発する。 The PLC 9 controls an industrial plant by performing calculations based on inputs from sensors of the industrial plant and outputting signals to actuators such as valves and motors. In addition, the industrial plant is controlled by receiving the data output from the image analysis device 1 in the same manner as the input from the sensor, performing calculations, and outputting signals to actuators such as valves and motors. In addition, an alarm is issued when the calculation result exceeds the threshold value.

以上説明したように、実施の形態1に係る画像解析装置1によれば、監視カメラからリアルタイムに収集した動画データを定量化することで、撮影対象がどの程度撮影範囲に入っているかを把握することができる。そのため、画像解析装置1は、機器および材料の位置および形状をリアルタイムに定量的に解析し、オペレータによる操業状態の確認作業を支援できる。また、特別なセンサを用いないため、低コストである。例えばホットストリップや厚板の板反りの検出を行う際のセンサ設置費用を抑制できる。また、センサに比して撮影範囲が広く設置場所の自由度が高いため、様々な環境下で撮影対象の状態を把握可能である。 As described above, according to the image analysis device 1 according to the first embodiment, by quantifying the moving image data collected in real time from the surveillance camera, it is possible to grasp how much the shooting target is within the shooting range. be able to. Therefore, the image analysis device 1 can quantitatively analyze the positions and shapes of the devices and materials in real time, and support the operator in confirming the operating state. In addition, the cost is low because no special sensor is used. For example, it is possible to reduce the sensor installation cost when detecting the warp of a hot strip or a thick plate. In addition, since the shooting range is wider and the degree of freedom of the installation location is higher than that of the sensor, it is possible to grasp the state of the shooting target under various environments.

ところで、上述した実施の形態1では画像全体について第1カラーに変換された画素数を数えることとしているが、これに限定されるものではない。画像の一部領域を指定し、当該領域について第1カラーに変換された画素数を数えてもよい。画像内で着目すべき領域を定めておくことで、ノイズを低減し検出精度を高めることができる。 By the way, in the above-described first embodiment, the number of pixels converted into the first color is counted for the entire image, but the present invention is not limited to this. A part area of the image may be specified, and the number of pixels converted into the first color may be counted for the area. By defining the area of interest in the image, noise can be reduced and detection accuracy can be improved.

また、上述した実施の形態1の画像解析装置1とデータ収集装置7を用いることで、動画データをデータ収集装置7上にリアルタイムに表示することも可能であるし、データ収集装置7に記憶された動画データを任意の指定時刻からデータ収集装置7上に再生することも可能である。過去の事象に対する位置およびサイズの把握を容易にし、位置およびサイズの確認精度を高めることが可能である。また、動画を停止、早送り、早戻しすることも可能である。なお、これらの点は以下の実施の形態でも同様である。 Further, by using the image analysis device 1 and the data collection device 7 of the first embodiment described above, it is possible to display the moving image data on the data collection device 7 in real time, and it is stored in the data collection device 7. It is also possible to reproduce the moving image data on the data collecting device 7 from an arbitrary designated time. It is possible to easily grasp the position and size for past events and improve the accuracy of confirming the position and size. It is also possible to stop, fast forward, and fast rewind the video. Note that these points are the same in the following embodiments.

また、上述した実施の形態1の画像解析装置1には、後述する図4に示すモニタ117、キーボード118、マウス119を含めていないが、これらを画像解析装置1に含めてもよい。なお、この点は以下の実施の形態でも同様である。 Further, although the image analysis device 1 of the first embodiment described above does not include the monitor 117, the keyboard 118, and the mouse 119 shown in FIG. 4 to be described later, these may be included in the image analysis device 1. This point is the same in the following embodiments.

また、上述した実施の形態1では産業システムとして鉄鋼プラントを例に挙げて説明しているが、これに限定されるものではない。産業システムには、発電プラント、石油プラント、化学プラント等も含まれる。 Further, in the above-described first embodiment, a steel plant is described as an example as an industrial system, but the present invention is not limited to this. Industrial systems also include power plants, oil plants, chemical plants and the like.

(ハードウェア構成例)
画像解析装置1のハードウェア構成について図4を参照して説明する。図4は、画像解析装置1が有する処理回路のハードウェア構成例を示すブロック図である。図2に示す画像解析装置1の各部は、画像解析装置1が有する機能の一部を示し、各機能は処理回路により実現される。例えば、処理回路は、CPU111と、メモリ112と、HDDや大容量メモリ等のストレージ113と、外部機器I/F(インターフェース)部114と、制御用ネットワークI/F部115aと、動画用ネットワークI/F部115bとが、内部バス116を介して接続して構成されている。なお、データ収集装置7も同様に構成されている。
(Hardware configuration example)
The hardware configuration of the image analysis device 1 will be described with reference to FIG. FIG. 4 is a block diagram showing a hardware configuration example of the processing circuit included in the image analysis device 1. Each part of the image analysis device 1 shown in FIG. 2 shows a part of the functions of the image analysis device 1, and each function is realized by a processing circuit. For example, the processing circuit includes a CPU 111, a memory 112, a storage 113 such as an HDD or a large-capacity memory, an external device I / F (interface) unit 114, a control network I / F unit 115a, and a moving image network I. The / F unit 115b is connected to the internal bus 116 via the internal bus 116. The data collecting device 7 is also configured in the same manner.

CPU111は、ストレージ113のプログラム記憶部113aに記憶された各種プログラムを実行することにより、画像解析装置1の各部の機能を実現する。 The CPU 111 realizes the functions of each unit of the image analysis device 1 by executing various programs stored in the program storage unit 113a of the storage 113.

メモリ112は、CPU111が各種プログラムを実行する際にデータを一時記憶したり展開したりする演算エリア部として使用される。 The memory 112 is used as a calculation area unit for temporarily storing and expanding data when the CPU 111 executes various programs.

ストレージ113は、プログラム記憶部113aと、データ記憶部113bとを有する。プログラム記憶部113aは、OS(オペレーティングシステム)や、各種プログラムを格納している。また、データ記憶部113bは、収集された各時刻のプロセスデータ、動画データを記憶する。 The storage 113 has a program storage unit 113a and a data storage unit 113b. The program storage unit 113a stores an OS (operating system) and various programs. In addition, the data storage unit 113b stores the collected process data and moving image data at each time.

なお、図4に示す例では、1つのストレージ113の中に、プログラム記憶部113aとデータ記憶部113bとを設けているが、複数のストレージにプログラム記憶部113aとデータ記憶部113bを分けて配置してもよい。 In the example shown in FIG. 4, the program storage unit 113a and the data storage unit 113b are provided in one storage 113, but the program storage unit 113a and the data storage unit 113b are separately arranged in a plurality of storages. You may.

外部機器I/F部114は、モニタ117、キーボード118、マウス119等の外部機器と画像解析装置1とを接続するためのインターフェースである。 The external device I / F unit 114 is an interface for connecting an external device such as a monitor 117, a keyboard 118, and a mouse 119 to the image analysis device 1.

制御用ネットワークI/F部115aは、制御用ネットワーク10と画像解析装置1を接続するためのインターフェースである。また、動画用ネットワークI/F部115bは、動画用ネットワーク6と画像解析装置1を接続するためのインターフェースである。 The control network I / F unit 115a is an interface for connecting the control network 10 and the image analysis device 1. Further, the moving image network I / F unit 115b is an interface for connecting the moving image network 6 and the image analysis device 1.

実施の形態2.
次に、図5および図6を参照して実施の形態2について説明する。上述した実施の形態1では、画像全体に第1カラーが占める割合を計算している。これに対し、実施の形態2では、画像を帯状に分割した各帯状領域について第1カラーが占める割合を計算し、各帯状領域での第1カラーが占める割合の変化を比較して、撮影対象の状態をより詳細に解析することとした。
Embodiment 2.
Next, the second embodiment will be described with reference to FIGS. 5 and 6. In the first embodiment described above, the ratio of the first color to the entire image is calculated. On the other hand, in the second embodiment, the ratio occupied by the first color in each band-shaped region obtained by dividing the image into strips is calculated, and the change in the ratio occupied by the first color in each band-shaped region is compared to obtain a shooting target. It was decided to analyze the state of.

図5は、実施の形態2に係る画像解析装置1のブロック図である。図5に示す構成は、画像定量化部23が帯状定量化処理部50を備える点を除き、図2と同様であるため共通する構成についての説明は省略又は簡略する。 FIG. 5 is a block diagram of the image analysis device 1 according to the second embodiment. Since the configuration shown in FIG. 5 is the same as that of FIG. 2 except that the image quantification unit 23 includes the band-shaped quantification processing unit 50, the description of the common configuration will be omitted or simplified.

画像加工処理部22は、材料を幅方向から見た画像について2値化する。 The image processing unit 22 binarizes the image of the material viewed from the width direction.

帯状定量化処理部50は、画像加工処理部22により2値化された画像を、材料の搬送方向と平行に分割した各帯状領域について、第1カラー(例えば白色)が占める割合を計算する。図5の例では、2値化された画像は水平方向に4分割されている。4分割された領域を、下から帯状領域A51、帯状領域B52、帯状領域C53、帯状領域D54と称する。帯状定量化処理部50は、各帯状領域について白色の画素数の割合を計算する。 The band-shaped quantification processing unit 50 calculates the ratio of the first color (for example, white) to each band-shaped region obtained by dividing the image binarized by the image processing unit 22 in parallel with the material transport direction. In the example of FIG. 5, the binarized image is divided into four in the horizontal direction. The four-divided regions are referred to as a strip-shaped region A51, a strip-shaped region B52, a strip-shaped region C53, and a strip-shaped region D54 from the bottom. The band-shaped quantification processing unit 50 calculates the ratio of the number of white pixels for each band-shaped region.

画像を層状に分割した各帯状領域について第1カラーが占める割合(以下、第1カラー割合とも記す)をリアルタイムに計算し、第1カラー割合の変化を確認することで、撮影対象の位置や形状の変化を定量的に把握できる。 By calculating the ratio occupied by the first color (hereinafter, also referred to as the first color ratio) in real time for each band-shaped region obtained by dividing the image into layers and confirming the change in the first color ratio, the position and shape of the shooting target can be confirmed. Can be quantitatively grasped.

例えば、材料である被圧延材311(図3)が鉄鋼プラントの搬送ロール313(図3)上でジャンプする場合がある。この場合、撮影対象(被圧延材)が帯状領域A51から帯状領域B52へ平行移動する。そのため、帯状領域B52の第1カラー割合の増加量と帯状領域A51の第1カラー割合の減少量が等しいことを確認することで、撮影対象が平行移動したことを確認できる。 For example, the material to be rolled 311 (FIG. 3) may jump on the transfer roll 313 (FIG. 3) of the steel plant. In this case, the object to be photographed (material to be rolled) moves in parallel from the strip-shaped region A51 to the strip-shaped region B52. Therefore, by confirming that the amount of increase in the first color ratio of the band-shaped region B52 and the amount of decrease in the first color ratio of the band-shaped region A51 are equal, it is possible to confirm that the imaging target has moved in parallel.

一方で、撮影対象の形状が変形する場合がある。例えば、鉄鋼プラントの熱間圧延ラインや厚板ラインにおいて、圧延により被圧延材311(図3)に上反りが発生する場合がある。図6を参照して画像解析の例を説明する。t1は前周期における被圧延材の形状、t2は現周期における被圧延材の形状である。帯状定量化処理部50は、2値化された画像を被圧延材の搬送方向と平行に、少なくとも帯状領域A51と帯状領域の上に隣接する帯状領域B52とに分割し、各領域について第1カラー割合を計算する。帯状領域A51と帯状領域B52との境界は被圧延材の上面と下面の間に設定されている。 On the other hand, the shape of the object to be photographed may be deformed. For example, in a hot rolling line or a plate line of a steel plant, rolling may cause the material to be rolled 311 (FIG. 3) to warp. An example of image analysis will be described with reference to FIG. t1 is the shape of the material to be rolled in the previous cycle, and t2 is the shape of the material to be rolled in the current cycle. The strip-shaped quantification processing unit 50 divides the binarized image into at least a strip-shaped region A51 and a strip-shaped region B52 adjacent above the strip-shaped region in parallel with the transport direction of the material to be rolled, and the first band-shaped region is divided into the first. Calculate the color ratio. The boundary between the strip-shaped region A51 and the strip-shaped region B52 is set between the upper surface and the lower surface of the material to be rolled.

オペレータは、t1からt2への変化に伴う、各帯状領域中の第1カラー割合の変化を確認する。帯状領域B52中の第1カラー割合の増加量と、帯状領域A51中の第1カラー割合の減少量との差の大きさを確認することで、被圧延材の上反りを定量的に把握できる。 The operator confirms the change in the first color ratio in each band-shaped region with the change from t1 to t2. By confirming the magnitude of the difference between the increase in the first color ratio in the strip region B52 and the decrease in the first color ratio in the strip region A51, the warpage of the material to be rolled can be quantitatively grasped. ..

画像解析装置1は、図3の右ウインドウ33に例示するような各帯状領域中の第1カラー割合の時間変化を示すグラフを表示することで、オペレータによる確認作業を支援できる。 The image analysis device 1 can support the confirmation work by the operator by displaying a graph showing the time change of the first color ratio in each band-shaped region as illustrated in the right window 33 of FIG.

PLC9は、数値出力部24から出力されたデータ(各帯状領域中の第1カラー割合)を受信する。PLC9は、各帯状領域中の第1カラー割合から、撮影対象の位置に応じた制御、撮影対象の変更移動量に応じた制御、撮影対象の形状に応じた制御(例えば上反り量に応じた制御)を行うことができる。 The PLC 9 receives the data (first color ratio in each band-shaped region) output from the numerical output unit 24. From the first color ratio in each band-shaped region, the PLC 9 controls according to the position of the shooting target, the control according to the change movement amount of the shooting target, and the control according to the shape of the shooting target (for example, according to the amount of warpage). Control) can be performed.

上述した図6を参照して、上反り量に応じた制御について説明する。PLC9は、帯状領域B52中の第1カラー割合の増加量と帯状領域A51中の第1カラー割合の減少量との差が、閾値より大きい場合に、アラーム信号および被圧延材の上反りを抑制するように一対の圧延ロール312の回転速度を変更する制御信号の少なくとも一方を出力する。例えば、制御信号は、一対の圧延ロール312を停止させる信号、または下圧延ロールの回転速度を上圧延ロールの回転速度よりも遅くする信号である。 The control according to the amount of warpage will be described with reference to FIG. 6 described above. The PLC9 suppresses the alarm signal and the warp of the material to be rolled when the difference between the increase amount of the first color ratio in the strip region B52 and the decrease amount of the first color ratio in the strip region A51 is larger than the threshold value. At least one of the control signals for changing the rotation speed of the pair of rolling rolls 312 is output. For example, the control signal is a signal for stopping the pair of rolling rolls 312, or a signal for making the rotation speed of the lower rolling roll slower than the rotation speed of the upper rolling roll.

これに代えて、PLC9は、帯状領域B52中の第1カラー割合の増加量と、帯状領域A51中の第1カラー割合の減少量との差が第1閾値より大きい場合に、下圧延ロールの回転速度を上圧延ロールの回転速度よりも遅くする信号を出力し、当該差が第2閾値(第1閾値より大きい)より大きい場合に、一対の圧延ロール312を停止させる信号を出力することとしてもよい。 Instead, the PLC9 is used for the lower rolling roll when the difference between the increase amount of the first color ratio in the strip region B52 and the decrease amount of the first color ratio in the strip region A51 is larger than the first threshold value. A signal for slowing the rotation speed to be slower than the rotation speed of the upper rolling roll is output, and when the difference is larger than the second threshold value (greater than the first threshold value), a signal for stopping the pair of rolling rolls 312 is output. May be good.

また、PLC9は、当該差が大きいほど緊急性の高いアラーム信号を出力することとしてもよい。 Further, the PLC 9 may output an alarm signal that is more urgent as the difference is larger.

以上説明したように、帯状定量化処理部50を備えた本実施形態に係るシステムによれば、オペレータによる機械や材料の位置やサイズの確認作業を、実施の形態1に比してより精度高く支援できる。また、帯状定量化処理部50により定量化されたデータを用いてPLC9は撮影対象の状態に応じた適切な制御を実現できる。例えば、撮影対象である機器が適切な位置へ移動できるように制御値を変化させたり、撮影対象の被圧延材がセンサや機械に衝突することを防ぐために制御値を変化させたりすることができる。 As described above, according to the system according to the present embodiment provided with the strip-shaped quantification processing unit 50, the operator confirms the position and size of the machine and the material with higher accuracy than that of the first embodiment. I can help. In addition, the PLC 9 can realize appropriate control according to the state of the imaging target by using the data quantified by the band-shaped quantification processing unit 50. For example, the control value can be changed so that the device to be photographed can be moved to an appropriate position, or the control value can be changed to prevent the material to be rolled to be photographed from colliding with the sensor or the machine. ..

ところで、上述した実施の形態2のシステムは、実施の形態1のシステムと組み合わせ可能である。なお、この点は以下の実施の形態でも同様である。 By the way, the system of the second embodiment described above can be combined with the system of the first embodiment. This point is the same in the following embodiments.

また、上述した実施の形態2の帯状定量化処理部50は、水平方向に帯状の領域を設定したが、垂直方向あるいは、斜め方向に帯状の領域を設定してもよい。 Further, although the strip-shaped quantification processing unit 50 of the second embodiment described above sets the strip-shaped region in the horizontal direction, the strip-shaped region may be set in the vertical direction or the diagonal direction.

また、上述した実施の形態2の帯状定量化処理部50は、画面を4分割しているが、2分割や3分割、あるいは5分割以上であってもよい。 Further, although the band-shaped quantification processing unit 50 of the second embodiment described above divides the screen into four, it may be divided into two, three, or five or more.

実施の形態3.
次に、図7および図8を参照して実施の形態3について説明する。上述した実施の形態1では、画像全体に第1カラーが占める割合を計算している。これに対し、実施の形態3では、画像を格子状に分割した各格子状領域について第1カラーが占める割合を計算し、各格子状領域での第1カラーが占める割合の変化を比較して、撮影対象の状態をより詳細に解析することとした。
Embodiment 3.
Next, the third embodiment will be described with reference to FIGS. 7 and 8. In the first embodiment described above, the ratio of the first color to the entire image is calculated. On the other hand, in the third embodiment, the ratio occupied by the first color in each grid-like region obtained by dividing the image into a grid pattern is calculated, and the change in the ratio occupied by the first color in each grid-like region is compared. , It was decided to analyze the state of the subject to be photographed in more detail.

図7は、実施の形態3に係る画像解析装置1のブロック図である。図7に示す構成は、画像定量化部23が格子状定量化処理部60を備える点を除き、図2又は図5と同様であるため共通する構成についての説明は省略又は簡略する。 FIG. 7 is a block diagram of the image analysis device 1 according to the third embodiment. Since the configuration shown in FIG. 7 is the same as that of FIG. 2 or 5, except that the image quantification unit 23 includes the grid-like quantification processing unit 60, the description of the common configuration will be omitted or simplified.

画像加工処理部22は、材料を幅方向から見た画像について2値化する。 The image processing unit 22 binarizes the image of the material viewed from the width direction.

格子状定量化処理部60は、画像加工処理部22により2値化された画像を、格子状に分割した各格子状領域について、第1カラー(例えば白色)が占める割合を計算する。図7の例では、2値化された画像は水平方向に4分割、垂直方向に3分割され、合計12の領域に分割されている。分割された領域を、格子状領域A61、格子状領域B62、格子状領域C63、格子状領域D64、格子状領域E65、格子状領域F66、格子状領域G67、格子状領域H68、格子状領域I69、格子状領域J70、格子状領域K71、格子状領域L72と称する。格子状定量化処理部60は、各格子状領域について白色の画素数の割合を計算する。 The grid-like quantification processing unit 60 calculates the ratio of the first color (for example, white) to each grid-like region obtained by dividing the image binarized by the image processing unit 22 into a grid pattern. In the example of FIG. 7, the binarized image is divided into 4 in the horizontal direction and 3 in the vertical direction, and is divided into a total of 12 regions. The divided regions are divided into a grid region A61, a grid region B62, a grid region C63, a grid region D64, a grid region E65, a grid region F66, a grid region G67, a grid region H68, and a grid region I69. , Lattice region J70, grid region K71, and grid region L72. The grid-like quantification processing unit 60 calculates the ratio of the number of white pixels for each grid-like region.

画像を格子状に分割した各格子状領域について第1カラーが占める割合(以下、第1カラー割合とも記す)をリアルタイムに計算し、第1カラー割合の変化を確認することで、撮影対象の位置や形状の変化を定量的に把握できる。 The position of the shooting target is determined by calculating the ratio occupied by the first color (hereinafter, also referred to as the first color ratio) in each grid region obtained by dividing the image into a grid pattern in real time and confirming the change in the first color ratio. And the change in shape can be grasped quantitatively.

例えば、材料である被圧延材311(図3)が鉄鋼プラントの搬送ロール313(図3)上でジャンプする場合がある。この場合、撮影対象(被圧延材)が格子状領域A61から格子状領域B62へ平行移動する。そのため、格子状領域A61の第1カラー割合の増加量と格子状領域B62の第1カラー割合の減少量が等しいことを確認することで、撮影対象が平行移動したことを確認できる。 For example, the material to be rolled 311 (FIG. 3) may jump on the transfer roll 313 (FIG. 3) of the steel plant. In this case, the object to be photographed (material to be rolled) moves in parallel from the grid-like region A61 to the grid-like region B62. Therefore, by confirming that the amount of increase in the first color ratio of the grid-like region A61 and the amount of decrease in the first color ratio of the grid-like region B62 are equal, it is possible to confirm that the imaging target has moved in parallel.

また、撮影対象が斜めに伸長して格子状領域A61から格子状領域F66へ伸びた場合は、格子状領域A61の第1カラー割合は飽和し、格子状領域F66の第1カラー割合が増加する。隣接する格子状領域B62の第1カラー割合の増減量と格子状領域E65の第1カラー割合の増減量から、撮影対象が横ブレなく伸長したか否かを確認できる。 Further, when the object to be photographed extends diagonally from the grid-like region A61 to the grid-like region F66, the first color ratio of the grid-like region A61 is saturated and the first color ratio of the grid-like region F66 increases. .. From the amount of increase / decrease in the first color ratio of the adjacent grid-like region B62 and the amount of increase / decrease in the first color ratio of the grid-like region E65, it can be confirmed whether or not the imaged object is stretched without lateral blurring.

また、撮影対象の形状が変形する場合がある。例えば鉄鋼プラントの熱間圧延ラインや厚板ラインにおいて、圧延により被圧延材311(図3)に上反りが発生する場合がある。図8を参照して画像解析の例を説明する。t3は前周期における被圧延材の形状、t4は現周期における被圧延材の形状である。格子状定量化処理部60は、2値化された画像を格子状に、少なくとも格子状領域F66と、格子状領域F66の横に隣接する格子状領域J70と、格子状領域F66の上に隣接する格子状領域G67と、格子状領域J70の上かつ格子状領域G67の横に隣接する格子状領域K71とに分割し、各領域について第1カラー割合を計算する。格子状領域F66と格子状領域G67との境界は被圧延材の上方に設定されている。 In addition, the shape of the object to be photographed may be deformed. For example, in a hot rolling line or a plate line of a steel plant, rolling may cause the material to be rolled 311 (FIG. 3) to warp. An example of image analysis will be described with reference to FIG. t3 is the shape of the material to be rolled in the previous cycle, and t4 is the shape of the material to be rolled in the current cycle. The grid-like quantification processing unit 60 displays the binarized image in a grid pattern, at least adjacent to the grid-like region F66, the grid-like region J70 adjacent to the grid-like region F66, and adjacent to the grid-like region F66. It is divided into a grid-like region G67 and a grid-like region K71 on the grid-like region J70 and adjacent to the grid-like region G67, and the first color ratio is calculated for each region. The boundary between the grid-like region F66 and the grid-like region G67 is set above the material to be rolled.

オペレータは、t3からt4への変化に伴う、各格子状領域中の第1カラー割合の変化を確認する。格子状領域F66、格子状領域J70の順に第1カラー割合が増加し、かつ、格子状領域G67中の第1カラー割合の減少に応じて格子状領域K71中の第1カラー割合が増加することを確認することで、被圧延材の上反りを定量的に把握できる。 The operator confirms the change in the first color ratio in each grid-like region with the change from t3 to t4. The first color ratio in the grid region F66 and the grid region J70 increase in this order, and the first color ratio in the grid region K71 increases as the first color ratio in the grid region G67 decreases. By confirming, the warpage of the material to be rolled can be quantitatively grasped.

PLC9は、数値出力部24から出力されたデータ(各格子状領域中の第1カラー割合)を受信する。PLC9は、各格子状領域中の第1カラー割合から撮影対象の位置に応じた制御、撮影対象の変更移動量に応じた制御、撮影対象の形状に応じた制御(例えば上反り量に応じた制御)を行うことができる。 The PLC 9 receives the data (first color ratio in each grid region) output from the numerical output unit 24. The PLC 9 controls according to the position of the shooting target from the first color ratio in each grid region, the control according to the change movement amount of the shooting target, and the control according to the shape of the shooting target (for example, according to the amount of warpage). Control) can be performed.

上述した図8を参照して、上反り量に応じた制御について説明する。PLC9は、格子状領域F66、格子状領域J70の順に第1カラー割合が増加し、かつ、格子状領域G67中の第1カラー割合の減少に応じて格子状領域K71中の第1カラー割合が増加する場合に、アラーム信号および被圧延材の上反りを抑制するように一対の圧延ロール312の回転速度を変更する制御信号の少なくとも一方を出力する。例えば、制御信号は、一対の圧延ロール312を停止させる信号、または下圧延ロールの回転速度を上圧延ロールの回転速度よりも遅くする信号である。 The control according to the amount of warpage will be described with reference to FIG. 8 described above. In PLC9, the first color ratio in the grid region F66 and the grid region J70 increase in this order, and the first color ratio in the grid region K71 increases as the first color ratio in the grid region G67 decreases. When the number increases, at least one of an alarm signal and a control signal for changing the rotation speed of the pair of rolling rolls 312 so as to suppress the warp of the material to be rolled is output. For example, the control signal is a signal for stopping the pair of rolling rolls 312, or a signal for making the rotation speed of the lower rolling roll slower than the rotation speed of the upper rolling roll.

以上説明したように、格子状定量化処理部60を備えた本実施形態に係るシステムによれば、オペレータによる機械や材料の位置やサイズの確認作業を、実施の形態1に比してより精度高く支援できる。また、帯状定量化処理部50により定量化されたデータを用いてPLC9は撮影対象の状態に応じた適切な制御を実現できる。 As described above, according to the system according to the present embodiment provided with the grid-like quantification processing unit 60, the operation of confirming the position and size of the machine or material by the operator is more accurate than that of the first embodiment. Can be highly supported. In addition, the PLC 9 can realize appropriate control according to the state of the imaging target by using the data quantified by the band-shaped quantification processing unit 50.

ところで、上述した実施の形態3のシステムは、実施の形態1のシステムおよび実施の形態2のシステムと組み合わせ可能である。 By the way, the system of the third embodiment described above can be combined with the system of the first embodiment and the system of the second embodiment.

また、上述した実施の形態3の格子状定量化処理部60は、水平方向および垂直方向に格子状に領域を定義したが、斜め方向に格子状の領域を設定してもよい。 Further, although the grid-like quantification processing unit 60 of the third embodiment described above defines the regions in a grid pattern in the horizontal direction and the vertical direction, the grid-like regions may be set in the diagonal direction.

また、上述した実施の形態3の格子状定量化処理部60は、画像を12分割しているが、等分割であれば分割数は問わない。特に、撮影対象を斜めの角度から撮影している場合は、写像変換により真横あるいは真上からの画像に加工される。このとき、撮影対象の移動量や変形量が小さくなる場合がある。この場合、格子状の分割数を増やすことで小さくなった移動量や変形量を検出できる。 Further, the grid-like quantification processing unit 60 of the third embodiment described above divides the image into 12, but the number of divisions does not matter as long as it is equally divided. In particular, when the object to be photographed is photographed from an oblique angle, the image is processed into an image from the side or the top by the mapping transformation. At this time, the amount of movement or deformation of the object to be photographed may be small. In this case, the reduced movement amount and deformation amount can be detected by increasing the number of grid-like divisions.

以上、本発明の実施の形態について説明したが、本発明は、上記の実施の形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々変形して実施することができる。 Although the embodiments of the present invention have been described above, the present invention is not limited to the above-described embodiments, and can be variously modified and implemented without departing from the spirit of the present invention.

1 画像解析装置
2 第1監視カメラ
3 第2監視カメラ
4 画像データ変換器
5 画像用信号線
6 動画用ネットワーク
7 データ収集装置
8 HMI
9 PLC
10 制御用ネットワーク
21 動画データ収集部
22 画像加工処理部
23 画像定量化部
24 数値出力部
31 左ウインドウ
32 中央ウインドウ
33 右ウインドウ
311 被圧延材
312 一対の圧延ロール
313 搬送ロール
41 カラーフィルタ部
42 2値化部
43 写像加工部
50 帯状定量化処理部
60 格子状定量化処理部
51〜54 帯状領域A〜帯状領域D
61〜72 格子状領域A〜格子状領域L
111 CPU
112 メモリ
113,113a,113b ストレージ,プログラム記憶部,データ記憶部
114 外部機器I/F部
115a,115b 制御用ネットワークI/F部,動画用ネットワークI/F部
116 内部バス
117 モニタ
118 キーボード
119 マウス
1 Image analysis device 2 1st surveillance camera 3 2nd surveillance camera 4 Image data converter 5 Image signal line 6 Video network 7 Data acquisition device 8 HMI
9 PLC
10 Control network 21 Video data collection unit 22 Image processing unit 23 Image quantification unit 24 Numerical output unit 31 Left window 32 Center window 33 Right window 311 Rolled material 312 Pair of rolling rolls 313 Transport roll 41 Color filter unit 42 2 Quantifying unit 43 Mapping processing unit 50 Band-shaped quantification processing unit 60 Grid-shaped quantification processing unit 51-54 Band-shaped area A to band-shaped area D
61-72 Lattice region A to Lattice region L
111 CPU
112 Memory 113, 113a, 113b Storage, program storage, data storage 114 External device I / F 115a, 115b Control network I / F, video network I / F 116 Internal bus 117 Monitor 118 Keyboard 119 Mouse

Claims (2)

業プラント用画像解析装置と、産業プラントを構成する機器を制御するプログラマブルロジックコントローラと、を備える産業プラント監視制御システムであって、
前記機器は、被圧延材を圧延する一対の圧延ロールを含み、
前記産業プラント用画像解析装置は、
前記機器および該機器に加工される前記被圧延材を撮影した動画データをリアルタイムに収集する動画データ収集部と、
一定周期毎に、前記動画データから前記被圧延材を幅方向から見た画像を抽出し、指定色を第1カラーに、該指定色以外を第2カラーに変換することで該画像を2値化する画像加工処理部と、
前記2値化された画像を前記被圧延材の搬送方向と平行に、少なくとも第1領域と前記第1領域の上に隣接する第2領域とに分割し、各領域について前記第1カラーが占める割合を計算することで前記2値化された画像を定量化する画像定量化部と、
前記定量化されたデータを出力する数値出力部と、を備え、
前記プログラマブルロジックコントローラは、前記第2領域中の前記第1カラーが占める割合の増加量と前記第1領域中の前記第1カラーが占める割合の減少量との差が、閾値より大きい場合に、アラーム信号および前記被圧延材の上反りを抑制するように前記一対の圧延ロールの回転速度を変更する制御信号の少なくとも一方を出力すること、
を特徴とする産業プラント監視制御システム。
A programmable logic controller which controls the devices constituting the industrial plant for the image analysis apparatus, industrial plants, a industrial plant monitoring control system Ru provided with,
The equipment includes a pair of rolling rolls for rolling the material to be rolled.
The image analysis device for an industrial plant is
A moving image data collecting unit that collects moving image data of the device and the material to be rolled processed by the device in real time,
At regular intervals, an image of the material to be rolled viewed from the width direction is extracted from the moving image data, and the designated color is converted to the first color and the non-designated color is converted to the second color to convert the image into binary values. Image processing unit and
The binarized image is divided into at least a first region and a second region adjacent to the first region in parallel with the transport direction of the material to be rolled, and the first color occupies each region. An image quantification unit that quantifies the binarized image by calculating the ratio, and an image quantification unit.
It is provided with a numerical output unit that outputs the quantified data.
In the programmable logic controller, when the difference between the increase amount of the ratio occupied by the first color in the second region and the decrease amount of the ratio occupied by the first color in the first region is larger than the threshold value, the programmable logic controller is used. To output at least one of an alarm signal and a control signal for changing the rotation speed of the pair of rolling rolls so as to suppress the warp of the material to be rolled.
An industrial plant monitoring and control system featuring.
業プラント用画像解析装置と、産業プラントを構成する機器を制御するプログラマブルロジックコントローラと、を備える産業プラント監視制御システムであって、
前記機器は、被圧延材を圧延する一対の圧延ロールを含み、
前記産業プラント用画像解析装置は、
前記機器および該機器に加工される前記被圧延材を撮影した動画データをリアルタイムに収集する動画データ収集部と、
一定周期毎に、前記動画データから前記被圧延材を幅方向から見た画像を抽出し、指定色を第1カラーに、該指定色以外を第2カラーに変換することで該画像を2値化する画像加工処理部と、
前記2値化された画像を格子状に、少なくとも第1領域と、前記第1領域の横に隣接する第2領域と、前記第1領域の上に隣接する第3領域と、前記第2領域の上かつ前記第3領域の横に隣接する第4領域とに分割し、各領域について前記第1カラーが占める割合を計算することで前記2値化された画像を定量化する画像定量化部と、
前記定量化されたデータを出力する数値出力部と、を備え、
前記プログラマブルロジックコントローラは、前記第1領域、前記第2領域の順に前記第1カラーが占める割合が増加し、かつ、前記第3領域中の前記第1カラーが占める割合の減少に応じて前記第4領域中の前記第1カラーが占める割合が増加する場合に、アラーム信号および前記被圧延材の上反りを抑制するように前記一対の圧延ロールの回転速度を変更する制御信号の少なくとも一方を出力すること、
を特徴とする産業プラント監視制御システム。
A programmable logic controller which controls the devices constituting the industrial plant for the image analysis apparatus, industrial plants, a industrial plant monitoring control system Ru provided with,
The equipment includes a pair of rolling rolls for rolling the material to be rolled.
The image analysis device for an industrial plant is
A moving image data collecting unit that collects moving image data of the device and the material to be rolled processed by the device in real time,
At regular intervals, an image of the material to be rolled viewed from the width direction is extracted from the moving image data, and the designated color is converted to the first color and the non-designated color is converted to the second color to convert the image into binary values. Image processing unit and
The binarized image is arranged in a grid pattern with at least a first region, a second region adjacent to the side of the first region, a third region adjacent to the first region, and the second region. An image quantification unit that quantifies the binarized image by dividing the image into a fourth region adjacent to the third region and calculating the ratio occupied by the first color in each region. When,
It is provided with a numerical output unit that outputs the quantified data.
In the programmable logic controller, the ratio occupied by the first color increases in the order of the first region and the second region, and the ratio occupied by the first color in the third region decreases. When the ratio occupied by the first color in the four regions increases, at least one of an alarm signal and a control signal for changing the rotation speed of the pair of rolling rolls so as to suppress the warp of the material to be rolled is output. To do,
An industrial plant monitoring and control system featuring.
JP2020520899A 2018-05-22 2018-05-22 Industrial plant monitoring and control system Active JP6849150B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/019648 WO2019224906A1 (en) 2018-05-22 2018-05-22 Industrial plant image analysis device and industrial plant monitoring control system

Publications (2)

Publication Number Publication Date
JPWO2019224906A1 JPWO2019224906A1 (en) 2020-12-10
JP6849150B2 true JP6849150B2 (en) 2021-03-24

Family

ID=68616843

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020520899A Active JP6849150B2 (en) 2018-05-22 2018-05-22 Industrial plant monitoring and control system

Country Status (5)

Country Link
JP (1) JP6849150B2 (en)
CN (1) CN112165996B (en)
BR (1) BR112020023311A2 (en)
TW (1) TWI700567B (en)
WO (1) WO2019224906A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TR2022009059A2 (en) * 2022-06-02 2022-07-21 Irfan Coezge FIELD DATA COLLECTION SYSTEM FOR INDUSTRIAL MACHINES

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS63168209A (en) * 1986-12-27 1988-07-12 Nippon Steel Corp Method and apparatus for estimating shape of steel plate
JPH044925A (en) * 1990-04-23 1992-01-09 Nippon Steel Corp Method for automatically detecting fall of hot rolled crop
JPH04178209A (en) * 1990-11-09 1992-06-25 Nippon Steel Corp Device for controlling bent of plate on hot finish rolling mill
JPH1074260A (en) * 1996-08-30 1998-03-17 Shinko Electric Ind Co Ltd Plating existence inspecting device
JP2001343223A (en) * 1999-11-08 2001-12-14 Sumitomo Metal Ind Ltd Method for measuring quality of strip-shaped object, method for controlling camber, quality-measuring apparatus for strip-shaped object, rolling apparatus and trimming apparatus
JP4351810B2 (en) * 2001-03-15 2009-10-28 東芝Itコントロールシステム株式会社 Periodic defect detector
JP2004363085A (en) * 2003-05-09 2004-12-24 Ebara Corp Inspection apparatus by charged particle beam and method for manufacturing device using inspection apparatus
JP2005012273A (en) * 2003-06-16 2005-01-13 Ricoh Co Ltd Image processing apparatus, image processing method, image processing program, and recording medium
JP4314123B2 (en) * 2004-01-30 2009-08-12 株式会社山武 Alarm analysis device, alarm analysis method, and alarm analysis program
JP4276608B2 (en) * 2004-10-05 2009-06-10 新日本製鐵株式会社 Method and apparatus for detecting periodic wrinkles in strips and columns
JP4935109B2 (en) * 2005-03-17 2012-05-23 オムロン株式会社 Substrate inspection device, inspection logic setting method and inspection logic setting device
CN100582755C (en) * 2005-03-17 2010-01-20 欧姆龙株式会社 Base inspection device,method and device for setting inspection logic
DE102005051053A1 (en) * 2005-10-25 2007-04-26 Sms Demag Ag Method for band edge detection
JP2008305259A (en) * 2007-06-08 2008-12-18 Nec Electronics Corp Production facility operation state data collection system
CN101224472A (en) * 2008-02-03 2008-07-23 东北大学 Plate head bending shape detection device based on nearing fared image and method thereof
JP5322713B2 (en) * 2008-04-08 2013-10-23 Jx日鉱日石エネルギー株式会社 Monitoring device
KR101260146B1 (en) * 2008-09-17 2013-05-02 신닛테츠스미킨 카부시키카이샤 Method for detecting defect in material and system for the method
WO2011048860A1 (en) * 2009-10-19 2011-04-28 住友金属工業株式会社 Method of measuring flatness of plate and method of manufacturing steel plate using same
JP5538969B2 (en) * 2010-03-23 2014-07-02 三菱電機株式会社 Image target detection apparatus and image target detection method
CN102441581A (en) * 2010-09-30 2012-05-09 邓玥 Machine vision-based device and method for online detection of structural steel section size
JP5760462B2 (en) * 2011-02-01 2015-08-12 Jfeスチール株式会社 Tail-end crop detection device
EP2517799B1 (en) * 2011-04-26 2014-11-19 Centre de Recherches Métallurgiques asbl - Centrum voor Research in de Metallurgie vzw Apparatus and method for industrial online micro-topography and waviness measurements on moving products
CN102836886B (en) * 2011-06-24 2014-12-03 宝山钢铁股份有限公司 Detection method of head and tail positions and moving direction of hot-rolled piece
CN102322798A (en) * 2011-08-18 2012-01-18 大连康基科技有限公司 Industrial measuring system based on optical imaging
JP2013075326A (en) * 2011-09-30 2013-04-25 Jfe Steel Corp Hot rolling equipment
JP2014059278A (en) * 2012-09-19 2014-04-03 Toshiba Corp Print inspection device
JP5983771B2 (en) * 2012-12-25 2016-09-06 東芝三菱電機産業システム株式会社 Plate warpage detection device, descaling control device, path schedule calculation device
JP6171908B2 (en) * 2013-12-11 2017-08-02 東芝三菱電機産業システム株式会社 Data analysis device
JP6264026B2 (en) * 2013-12-24 2018-01-24 株式会社リコー Edge detection apparatus, image forming apparatus, and edge detection method
KR20160029500A (en) * 2014-09-05 2016-03-15 삼성에스디에스 주식회사 Apparatus and Method for Producing Color Statistics Information in Region of Interest, Apparatus and Method for Detection Object
JP6575232B2 (en) * 2014-09-22 2019-09-18 日本製鉄株式会社 Steel plate shape measuring apparatus and method, and steel plate manufacturing apparatus and method using the same
CN104392213B (en) * 2014-11-19 2017-12-19 郑可尧 A kind of image information state recognition system suitable for fusion process
JP6622475B2 (en) * 2015-03-27 2019-12-18 株式会社ミツトヨ Measurement data collection apparatus and program
TWI574754B (en) * 2016-04-22 2017-03-21 中國鋼鐵股份有限公司 Method for monitoring and controlling a rolling mill

Also Published As

Publication number Publication date
WO2019224906A1 (en) 2019-11-28
JPWO2019224906A1 (en) 2020-12-10
TW202004377A (en) 2020-01-16
BR112020023311A2 (en) 2021-02-02
TWI700567B (en) 2020-08-01
CN112165996B (en) 2022-07-29
CN112165996A (en) 2021-01-01

Similar Documents

Publication Publication Date Title
JP6171908B2 (en) Data analysis device
CN107949813B (en) Manufacturing equipment diagnosis support device and manufacturing equipment diagnosis support method
KR101752554B1 (en) System and method for nuclear fuel assembly deformation measurement
CN102836886A (en) Detection method of head and tail positions and moving direction of hot-rolled piece
JP6849150B2 (en) Industrial plant monitoring and control system
JP2017510803A (en) Process conduit anomaly detection using thermal imaging
Schausberger et al. Optimization-based estimator for the contour and movement of heavy plates in hot rolling
WO2017183107A1 (en) Unsteadiness detection device, unsteadiness detection system, and unsteadiness detection method
JP7020392B2 (en) Data collection and playback system
JP7176429B2 (en) Gas leak localization system and gas leak localization program
JP2016157313A (en) Trend monitoring system of steel plant
JP6484854B2 (en) Solar panel appearance monitoring device
JP7187813B2 (en) Plant monitoring control system
JP6443460B2 (en) Rolling line display system
US11423525B2 (en) Industrial plant data reproduction device
JP7374611B2 (en) Imaging system
JP6856168B2 (en) Abnormal sound detection device and abnormal sound detection method
KR20240047682A (en) Non-coaxial temperature distribution monitoring system
JP7151636B2 (en) data collection device
Yang et al. Real time measurement of the dynamic displacement field of a large-scale arch-truss bridge by remote sensing technology
JP2016164713A (en) Temperature cycle load monitoring system
JP2022110266A (en) Image inspection device, inspection image display device, image inspection method, and image inspection program
JPH08221578A (en) Moving object counter
JPWO2022024222A5 (en)
CN115494516A (en) Raw material blank furnace-entering positioning detection method, device and equipment and readable storage medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200304

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210202

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210215

R150 Certificate of patent or registration of utility model

Ref document number: 6849150

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250