JP7187394B2 - Indicated value reading system, method and program - Google Patents

Indicated value reading system, method and program Download PDF

Info

Publication number
JP7187394B2
JP7187394B2 JP2019127964A JP2019127964A JP7187394B2 JP 7187394 B2 JP7187394 B2 JP 7187394B2 JP 2019127964 A JP2019127964 A JP 2019127964A JP 2019127964 A JP2019127964 A JP 2019127964A JP 7187394 B2 JP7187394 B2 JP 7187394B2
Authority
JP
Japan
Prior art keywords
pointer
value
indicated
indicated value
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019127964A
Other languages
Japanese (ja)
Other versions
JP2021012665A (en
Inventor
泰彦 福山
直也 笠原
祐二 鉄谷
佑紀 河合
洋史 谷澤
佑一 中重
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Heavy Industries Ltd
Original Assignee
Mitsubishi Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Heavy Industries Ltd filed Critical Mitsubishi Heavy Industries Ltd
Priority to JP2019127964A priority Critical patent/JP7187394B2/en
Publication of JP2021012665A publication Critical patent/JP2021012665A/en
Application granted granted Critical
Publication of JP7187394B2 publication Critical patent/JP7187394B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Arrangements For Transmission Of Measured Signals (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、各種の計測器の指示値を読み取るための指示値読取システムおよび方法並びにプログラムに関するものである。 The present invention relates to an indicated value reading system, method, and program for reading indicated values of various measuring instruments.

例えば、各種のプラントでは、各種機器の作動状態を計測器により計測し、計測した指示値に基づいた各種機器の作動状態を監視している。この場合、作業者は、機器が設置された場所に行き、その設置場所に設置された機器に設けられた計測器の指示値を読み取る。そして、作業者は、計測器から読み取った指示値に基づいて機器を監視したり、作動制御したりする。作業性を考慮し、遠隔により計測器の指示値を読み取ることが考えられている。このような指示値読取システムとしては、例えば、下記特許文献1に記載されたものがある。特許文献1に記載された機器状態監視システムは、カメラが被制御機器を撮影し、センサが被制御機器の情報を収集し、撮影した画像や収集した情報を遠方監視制御装置に送信し、遠方監視制御装置が被制御機器の状態を判断して警告を表示するものである。 For example, in various plants, the operating states of various devices are measured by measuring instruments, and the operating states of the various devices are monitored based on the measured indicated values. In this case, the worker goes to the place where the equipment is installed and reads the indicated value of the measuring device provided for the equipment installed at the installation place. Then, the operator monitors and controls the operation of the equipment based on the indicated value read from the measuring instrument. Considering workability, it is considered to remotely read the indicated value of the measuring instrument. As such an indicated value reading system, for example, there is a system described in Patent Document 1 below. In the device status monitoring system described in Patent Document 1, a camera captures an image of a controlled device, a sensor collects information about the controlled device, transmits the captured image and the collected information to a remote monitoring control device, The monitoring and control device judges the state of the controlled device and displays a warning.

特開2006-134063号公報JP-A-2006-134063

特許文献1の機器状態監視システムでは、カメラが撮影した被制御機器の画像やセンサが収集した被制御機器の情報を遠方監視制御装置に送信し、遠方監視制御装置が被制御機器の状態を判断する。この場合、被制御機器の画像や情報は、大容量データであり、大容量データである被制御機器の画像や情報を遠方監視制御装置に送信することとなり、大容量データを送信するための送信装置が必要となる。そのため、遠方監視システムが複雑で大型化し、システムを導入するために多数の機器や配線の追加が必要となり、導入コストが増加してしまうという課題がある。 In the device status monitoring system of Patent Document 1, an image of a controlled device captured by a camera and information about the controlled device collected by a sensor are sent to a remote monitoring control device, and the remote monitoring control device determines the status of the controlled device. do. In this case, the image and information of the controlled device are large-capacity data, and the image and information of the controlled device, which are large-capacity data, are transmitted to the remote monitoring control device. equipment is required. As a result, the remote monitoring system becomes complicated and large, and many devices and wirings need to be added to introduce the system, resulting in an increase in introduction cost.

本発明は、上述した課題を解決するものであり、導入コストの増加を抑制すると共に計測器の指示値を容易に読み取ることができる指示値読取システムおよび方法並びにプログラムを提供することを目的とする。 An object of the present invention is to solve the above-described problems, and to provide an indicated value reading system, method, and program capable of suppressing an increase in introduction cost and easily reading the indicated value of a measuring instrument. .

上記の目的を達成するための本発明の指示値読取システムは、計測器の指示針を撮影可能なカメラと、前記カメラに接続されて前記カメラが撮影した前記指示針の画像データを処理して前記指示針の指示値を求める画像処理装置と、前記画像処理装置が求めた前記指示針の指示値のデータを送信する送信装置と、を備えることを特徴とする。 An indicated value reading system of the present invention for achieving the above objects comprises a camera capable of photographing the pointer of a measuring instrument, and connected to the camera to process image data of the pointer photographed by the camera. The image processing device is characterized by comprising an image processing device that obtains an indicated value of the pointer, and a transmission device that transmits data of the indicated value of the pointer obtained by the image processing device.

そのため、カメラが計測器の指示針を撮影し、画像処理装置が指示針の画像データを処理して指示針の指示値を求め、送信装置が指示針の指示値のデータを送信する。ここで、送信装置が送信する指示針の指示値のデータは、デジタルデータとしての数値であることから低容量データとなり、大容量データを高速送信する送信装置が不要となる。その結果、導入コストの増加を抑制することができると共に計測器の指示値を容易に読み取ることができる。 Therefore, the camera captures the pointer of the measuring instrument, the image processing device processes the image data of the pointer to obtain the indicated value of the pointer, and the transmission device transmits the data of the indicated value of the pointer. Here, since the data of the indicated value of the indicator transmitted by the transmitting device is a numerical value as digital data, it is a low-capacity data, and a transmitting device for high-speed transmission of large-capacity data is not required. As a result, it is possible to suppress an increase in introduction cost and to easily read the indicated value of the measuring instrument.

本発明の指示値読取システムでは、前記カメラと画像処理装置は、有線接続されることを特徴とする。 The indicated value reading system of the present invention is characterized in that the camera and the image processing device are connected by wire.

そのため、カメラと画像処理装置を有線接続することから、無線装置を不要として装置の簡素化を図ることができる。 Therefore, since the camera and the image processing device are connected by wire, the device can be simplified by eliminating the need for a wireless device.

本発明の指示値読取システムでは、前記画像処理装置は、前記指示針の画像データを処理して前記指示針の指示値を求めた後に前記指示針の画像データを削除することを特徴とする。 In the indicated value reading system of the present invention, the image processing device processes the image data of the pointer to obtain the indicated value of the pointer, and then deletes the image data of the pointer.

そのため、画像処理装置が指示針の画像データを処理して指示値を求めた後、指示針の画像データを削除することから、大容量データである指示針の画像データを保存する必要がなくなり、大きな記憶装置を不要として装置の簡素化を図ることができる。 Therefore, after the image processing device processes the image data of the pointer and obtains the indication value, the image data of the pointer is deleted. The device can be simplified by eliminating the need for a large storage device.

本発明の指示値読取システムでは、前記計測器に対して前記指示針の作動範囲および単位を割り当てておき、前記画像処理装置は、前記指示針の画像データを処理して前記指示針の指示値としての数値を求めることを特徴とする。 In the indicated value reading system of the present invention, the operating range and unit of the indicating needle are assigned to the measuring instrument, and the image processing device processes the image data of the indicating needle to obtain the indicated value of the indicating needle. It is characterized by obtaining a numerical value as

そのため、指示針の作動範囲および単位を割り当てておくことから、画像処理装置は、指示針の画像データを処理して指示針の指示値としての数値を容易に求めることができる。 Therefore, since the operation range and unit of the pointer are assigned, the image processing device can easily obtain the numerical value as the indicated value of the pointer by processing the image data of the pointer.

本発明の指示値読取システムでは、前記画像処理装置が求めた前記指示針の指示値を保存する記憶部が設けられることを特徴とする。 The indicated value reading system according to the present invention is characterized in that a storage unit is provided for storing the indicated value of the pointer obtained by the image processing device.

そのため、画像処理装置が求めた指示針の指示値を記憶部に保存することから、送信装置によるデータの送信不良があっても、指示針の指示値のデータを継続して取得することができる。 Therefore, since the indicated value of the indicator obtained by the image processing device is stored in the storage unit, even if there is a failure in data transmission by the transmitting device, the data of the indicated value of the indicator can be continuously obtained. .

本発明の指示値読取システムでは、前記画像処理装置は、前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された閾値より低いときに、前記指示針の画像データを前記記憶部に保存することを特徴とする。 In the indicated value reading system of the present invention, the image processing device obtains the likelihood of the indicated value of the indicated needle obtained by processing the image data of the indicated needle, and the likelihood is lower than a preset threshold value. In some cases, the image data of the pointer is stored in the storage unit.

そのため、指示針の指示値の尤度が低いとき、尤度が低い指示値を求めた指示針の画像データを記憶部に保存することから、記憶部に保存した指示針の画像データに基づいて指示値の尤度が低くなった原因を特定することができる。 Therefore, when the likelihood of the indication value of the pointer is low, the image data of the pointer obtained by obtaining the indication value with the low likelihood is stored in the storage unit. It is possible to identify the cause of the lower likelihood of the indicated value.

本発明の指示値読取システムでは、前記画像処理装置は、所定の処理周期ごとに前記指示針の指示値を求め、前記送信装置は、所定の送信周期ごとに前記指示針の指示値のデータを送信しており、前記尤度が前記閾値より低いときに、前記送信装置は、前記画像処理装置が前回求めた前記指示針の指示値のデータを送信することを特徴とする。 In the indicated value reading system of the present invention, the image processing device obtains the indicated value of the pointer at each predetermined processing cycle, and the transmitting device obtains data of the indicated value of the pointer at each predetermined transmission cycle. When the likelihood is lower than the threshold value, the transmission device transmits the data of the indication value of the pointer obtained last time by the image processing device.

そのため、指示針の指示値の尤度が低いとき、送信装置が前回求めた指示針の指示値のデータを送信することから、指示針の指示値のデータを継続して取得することができる。 Therefore, when the likelihood of the indication value of the pointer is low, the data of the indication value of the pointer can be continuously obtained because the transmission device transmits the data of the indication value of the pointer obtained last time.

本発明の指示値読取システムでは、前記画像処理装置は、前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された第1閾値以上であると、前記指示針の指示値のデータを前記送信装置により送信する一方、前記尤度が前記第1閾値より低く且つ前記第1閾値より小さい第2閾値以上であると、前記指示針の指示値を画像照合の類似値または前回値により補正して前記送信装置により送信することを特徴とする。 In the indicated value reading system of the present invention, the image processing device obtains the likelihood of the indicated value of the indicated needle obtained by processing the image data of the indicated needle, and the likelihood is a preset first threshold value. If it is equal to or greater than the above, while transmitting the data of the indication value of the indicator by the transmitting device, if the likelihood is equal to or greater than a second threshold lower than the first threshold and smaller than the first threshold, the indicator is corrected by the similarity value or the previous value of the image collation and transmitted by the transmission device.

そのため、尤度が第1閾値より低く、且つ、第2閾値以上であると、指示針の指示値を類似値または前回値により補正して送信することから、送信する指示針の指示値の精度を向上することができる。 Therefore, when the likelihood is lower than the first threshold and equal to or higher than the second threshold, the indication value of the pointer is corrected by the similar value or the previous value and transmitted, so the accuracy of the indication value of the pointer to be transmitted can be improved.

本発明の指示値読取システムでは、前記画像処理装置は、前記尤度が前記第1閾値より低く且つ前記第2閾値以上であり、前記指示針の指示値と前記類似値との絶対値が予め設定された偏差閾値以下であると、前記指示針の指示値を前記類似値により補正して前記送信装置により送信することを特徴とする。 In the indicated value reading system of the present invention, the likelihood is lower than the first threshold value and equal to or higher than the second threshold value, and the absolute value of the indicated value of the pointer and the similarity value is determined in advance. If it is equal to or less than a set deviation threshold value, the indicated value of the pointer is corrected by the similarity value and transmitted by the transmitting device.

そのため、指示針の指示値と類似値との絶対値が偏差閾値以下であると、指示針の指示値を類似値により補正して送信することから、送信する指示針の指示値の精度を向上することができる。 Therefore, if the absolute value between the indicated value of the indicator and the similarity value is less than the deviation threshold, the indicated value of the indicator is corrected by the similarity value and transmitted, improving the accuracy of the indicated value of the indicator to be transmitted. can do.

本発明の指示値読取システムでは、前記画像処理装置は、前記指示針の指示値と前記類似値との絶対値が前記偏差閾値より高く、前記類似値の類似度が第3閾値以上であり、前記指示針の指示値と前記類似値との絶対値が前記前回値と前記類似値との絶対値以下であると、前記指示針の指示値を前記類似値により補正して前記送信装置により送信することを特徴とする。 In the indicated value reading system of the present invention, the image processing device has an absolute value between the indicated value of the pointer and the similarity value higher than the deviation threshold, the similarity of the similarity value is equal to or higher than a third threshold, When the absolute value of the indicated value of the pointer and the similarity value is equal to or less than the absolute value of the previous value and the similarity value, the indicated value of the pointer is corrected by the similarity value and transmitted by the transmitting device. characterized by

そのため、類似度が第3閾値以上であり、指示針の指示値と類似値との絶対値が前回値と類似値との絶対値以下であると、指示針の指示値を類似値により補正して送信することから、送信する指示針の指示値の精度を向上することができる。 Therefore, when the degree of similarity is equal to or higher than the third threshold and the absolute value between the indicator value and the similarity value is equal to or smaller than the absolute value between the previous value and the similarity value, the indicator value is corrected by the similarity value. Therefore, the accuracy of the transmitted indicator value can be improved.

本発明の指示値読取システムでは、前記画像処理装置は、前記指示針の指示値と前記類似値との絶対値が前記偏差閾値より高く、前記類似値の類似度が第3閾値以上であり、前記指示針の指示値と前記類似値との絶対値が前記前回値と前記類似値との絶対値より高いと、前記指示針の指示値を前記前回値により補正して前記送信装置により送信することを特徴とする。 In the indicated value reading system of the present invention, the image processing device has an absolute value between the indicated value of the pointer and the similarity value higher than the deviation threshold, the similarity of the similarity value is equal to or higher than a third threshold, When the absolute value of the indicated value of the pointer and the similarity value is higher than the absolute value of the previous value and the similarity value, the indicated value of the pointer is corrected by the previous value and transmitted by the transmitting device. It is characterized by

そのため、類似度が第3閾値以上であり、指示針の指示値と類似値との絶対値が前回値と類似値との絶対値より高いと、指示針の指示値を前回値により補正して送信することから、送信する指示針の指示値の精度を向上することができる。 Therefore, when the degree of similarity is equal to or higher than the third threshold and the absolute value between the indicator value and the similarity value is higher than the absolute value between the previous value and the similarity value, the indicator value is corrected by the previous value. Since the information is transmitted, the accuracy of the indication value of the indicator needle to be transmitted can be improved.

本発明の指示値読取システムでは、前記カメラは、複数の前記計測器の指示針を撮影可能であり、前記画像処理装置は、前記カメラが撮影した複数の前記指示針の画像データを順に処理して前記指示針の指示値を求めることを特徴とする。 In the indicated value reading system of the present invention, the camera can photograph a plurality of pointers of the measuring instrument, and the image processing device sequentially processes the image data of the plurality of pointers photographed by the camera. to obtain the indicated value of the pointer.

そのため、画像処理装置が複数の指示針の画像データを順に処理して指示針の指示値を求めることから、複数のカメラを不要として装置の簡素化を図ることができる。 Therefore, since the image processing device sequentially processes the image data of a plurality of pointers to obtain the indicated values of the pointers, it is possible to simplify the device by eliminating the need for a plurality of cameras.

本発明の指示値読取システムでは、前記画像処理装置は、前記カメラが撮影した画像データを画像処理して前記計測器の画像データを作成し、前記計測器の画像データを深層学習により前記計測器における前記指示針の指示値を求めることを特徴とする。 In the indicated value reading system of the present invention, the image processing device processes image data captured by the camera to create image data of the measuring instrument, and processes the image data of the measuring instrument using deep learning. is characterized in that the indicated value of the pointer in is obtained.

そのため、指示針の画像データを深層学習して指示針の指示値を求めることから、高精度な指示針の指示値を迅速に求めることができる。 Therefore, since the indicated value of the pointer is obtained by deep-learning the image data of the pointer, the indicated value of the pointer can be quickly obtained with high accuracy.

本発明の指示値読取システムでは、前記画像処理装置は、モニタが接続可能であり、前記カメラの画像データと、前記画像処理装置が処理する前記計測器の画像データとを前記モニタに表示可能であることを特徴とする。 In the indicated value reading system of the present invention, a monitor can be connected to the image processing device, and the image data of the camera and the image data of the measuring instrument processed by the image processing device can be displayed on the monitor. characterized by being

そのため、カメラの画像データと画像処理装置が処理する計測器の画像データをモニタに表示することから、作業者は、カメラの視角や特定した計測器を確認することができる。 Therefore, since the image data of the camera and the image data of the measuring device processed by the image processing device are displayed on the monitor, the operator can confirm the visual angle of the camera and the specified measuring device.

本発明の指示値読取システムでは、前記画像処理装置は、処理に必要な設定データと、前記画像処理装置により求められた前記指示針の指示値のデータとを前記モニタに表示可能であることを特徴とする。 In the indicated value reading system of the present invention, the image processing device is capable of displaying setting data necessary for processing and indicated value data of the pointer obtained by the image processing device on the monitor. Characterized by

そのため、処理に必要な設定データと画像処理装置により求められた指示針の指示値のデータをモニタに表示することから、作業者は、処理内容を確認することができ、処理の間違いを容易に確認することができる。 Therefore, the setting data necessary for processing and the indicated value data of the indicator obtained by the image processing device are displayed on the monitor. can be confirmed.

本発明の指示値読取方法は、計測器の指示針を撮影する工程と、撮影した前記指示針の画像データを処理して前記指示針の指示値を求める工程と、前記指示針の画像データを削除すると共に求めた前記指示針の指示値のデータを送信する工程と、を有することを特徴とする。 The indicated value reading method of the present invention includes the steps of photographing a pointer of a measuring instrument, processing the photographed image data of the pointer to obtain the indicated value of the pointer, and reading the image data of the pointer. a step of deleting and transmitting the obtained data of the indication value of the pointer.

そのため、送信装置が送信する指示針の指示値のデータは、デジタルデータとしての数値であることから低容量データとなり、大容量データを高速送信する送信装置が不要となる。その結果、導入コストの増加を抑制することができると共に計測器の指示値を容易に読み取ることができる。 Therefore, since the data of the indicated value of the indicator transmitted by the transmitting device is a numerical value as digital data, it becomes low-capacity data, and a transmitting device for high-speed transmission of large-capacity data is not required. As a result, it is possible to suppress an increase in introduction cost and to easily read the indicated value of the measuring instrument.

本発明の指示値読取プログラムは、計測器の指示針を撮影する処理と、撮影した前記指示針の画像データを処理して前記指示針の指示値を求める処理と、前記指示針の画像データを削除すると共に求めた前記指示針の指示値のデータを送信する処理と、をコンピュータに実行させることを特徴とする。 The indicated value reading program of the present invention includes a process of photographing the pointer of the measuring instrument, a process of processing the photographed image data of the pointer to obtain the indicated value of the pointer, and a process of obtaining the indicated value of the pointer. and a process of deleting and transmitting the obtained data of the indication value of the pointer.

そのため、送信装置が送信する指示針の指示値のデータは、デジタルデータとしての数値であることから低容量データとなり、大容量データを送信する大型の送信装置が不要となる。その結果、導入コストの増加を抑制することができると共に計測器の指示値を容易に読み取ることができる。 Therefore, since the data of the indicated value of the indicator transmitted by the transmitting device is numerical value as digital data, it becomes low-capacity data, and a large-sized transmitting device for transmitting large-capacity data is not required. As a result, it is possible to suppress an increase in introduction cost and to easily read the indicated value of the measuring instrument.

本発明の指示値読取システムおよび方法並びにプログラムによれば、導入コストの増加を抑制すると共に、計測器の指示値を容易に読み取ることができる。 ADVANTAGE OF THE INVENTION According to the indicated value reading system, method, and program of the present invention, it is possible to suppress an increase in introduction cost and easily read indicated values of measuring instruments.

図1は、本実施形態の指示値読取システムを表す概略構成図である。FIG. 1 is a schematic configuration diagram showing an indicated value reading system of this embodiment. 図2は、指示値読取システムにおけるモニタ画面を表す概略図である。FIG. 2 is a schematic diagram showing a monitor screen in the indicated value reading system. 図3は、指示値読取方法を表すフローチャートである。FIG. 3 is a flow chart showing a method of reading indicated values. 図4は、指示値推定方法を表すフローチャートである。FIG. 4 is a flow chart showing the instruction value estimation method. 図5は、類似度を説明するためのグラフである。FIG. 5 is a graph for explaining the degree of similarity. 図6は、指示値の補正方法を説明するための概略図である。FIG. 6 is a schematic diagram for explaining a method of correcting indicated values.

以下、添付図面を参照して、本発明の好適な実施形態を詳細に説明する。なお、この実施形態により本発明が限定されるものではなく、また、実施形態が複数ある場合には、各実施形態を組み合わせて構成するものも含むものである。 Preferred embodiments of the present invention will now be described in detail with reference to the accompanying drawings. It should be noted that the present invention is not limited by this embodiment, and when there are a plurality of embodiments, the present invention includes a combination of each embodiment.

図1は、本実施形態の指示値読取システムを表す概略構成図、図2は、指示値読取システムにおけるモニタ画像を表す概略視図である。 FIG. 1 is a schematic configuration diagram showing an indicated value reading system of the present embodiment, and FIG. 2 is a schematic perspective view showing a monitor image in the indicated value reading system.

本実施形態において、図1に示すように、指示値読取システム10は、各種機器(図示略)が設置される現場100に配置される。指示値読取システム10は、少なくともカメラ11と、画像処理装置12と、送信装置13とを備える。指示値読取システム10は、現場100に配置される各種機器の複数(本実施形態では、6個)の計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66の指示値を読み取って管理センター200にある監視システム20に送信するものである。管理センター200は、現場100から離間し、監視システム20により現場100に配置された各種機器を監視する。なお、計測器の数は、6個に限定されない。 In this embodiment, as shown in FIG. 1, an indicated value reading system 10 is arranged at a site 100 where various devices (not shown) are installed. The indicated value reading system 10 includes at least a camera 11 , an image processing device 12 and a transmission device 13 . The indicated value reading system 10 includes a plurality of (six in this embodiment) measuring instruments 51, 52, 53, 54, 55, and 56 of various devices arranged at the site 100. Indicator needles 61, 62, 63, It reads the indicated values of 64, 65 and 66 and transmits them to the monitoring system 20 in the management center 200. FIG. The management center 200 is separated from the site 100 and monitors various devices arranged at the site 100 by the monitoring system 20 . Note that the number of measuring instruments is not limited to six.

ここで、計測器51,52,53,54,55,56とは、温度計、圧力計、流量計などである。計測器51,52,53,54,55,56は、計器盤が円形をなし、中心位置に指示針61,62,63,64,65,66が回動自在に支持され、周囲に目盛71,72,73,74,75,76が付設されて構成される。指示針61,62,63,64,65,66は、計測値に応じて回動し、先端部が目盛71,72,73,74,75,76を指すことで、指示値を表示する。 Here, the measuring instruments 51, 52, 53, 54, 55, and 56 are thermometers, pressure gauges, flowmeters, and the like. Measuring instruments 51, 52, 53, 54, 55, and 56 have a circular instrument panel, pointers 61, 62, 63, 64, 65, and 66 are rotatably supported at the center, and a scale 71 is provided around the periphery. , 72, 73, 74, 75 and 76 are attached. The pointers 61, 62, 63, 64, 65, and 66 rotate according to the measured values, and point the tips to the scales 71, 72, 73, 74, 75, and 76 to display the indicated values.

指示値読取システム10は、現場100に配置され、具体的には、カメラ11と、画像処理装置12と、送信装置13と、記憶部14と、操作部15と、モニタ16と、電源部17とを備える。監視システム20は、管理センター200に荷配置され、制御装置21と、受信装置22と、モニタ23とを備える。 The indicated value reading system 10 is arranged at a site 100, and specifically includes a camera 11, an image processing device 12, a transmission device 13, a storage section 14, an operation section 15, a monitor 16, and a power supply section 17. and The monitoring system 20 is located at the management center 200 and comprises a control device 21 , a receiving device 22 and a monitor 23 .

カメラ11は、複数の計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66を撮影可能である。カメラ11は、各計測器51,52,53,54,55,56を含む所定の領域を撮影可能である。そのため、カメラ11の撮影領域のうち、各計測器51,52,53,54,55,56が配置される領域を指定することで、計測器51,52,53,54,55,56を特定する。この場合、作業者が操作部15または記憶部14に記憶されたプログラムにより複数の計測器51,52,53,54,55,56のうちの特定の計測器だけを指定することができる。 The camera 11 can photograph pointers 61 , 62 , 63 , 64 , 65 , 66 of a plurality of measuring instruments 51 , 52 , 53 , 54 , 55 , 56 . The camera 11 can photograph a predetermined area including the measuring instruments 51 , 52 , 53 , 54 , 55 and 56 . Therefore, by specifying the area in which each of the measuring instruments 51, 52, 53, 54, 55, and 56 is arranged in the shooting area of the camera 11, the measuring instruments 51, 52, 53, 54, 55, and 56 are specified. do. In this case, the operator can designate only a specific measuring instrument among the plurality of measuring instruments 51, 52, 53, 54, 55, and 56 by using the program stored in the operating section 15 or the storage section 14. FIG.

画像処理装置12は、カメラ11に有線接続されているが、画像処理装置12とカメラ11を無線接続してもよい。画像処理装置12は、画像処理部12aと、画像認識部12bと、表示作成部12cとを有する。ここで、画像処理装置12は、例えば、CPU(Central Processing Unit)およびメモリである。画像処理部12aは、カメラ11が撮影した各指示針61,62,63,64,65,66の画像データの前処理を行う。具体的に、画像処理部12aは、教師用のデータの作成処理および学習処理と、カメラ11が撮影した画像データのフィルタリング処理と、カメラ11が撮影した画像データの二値化処理を行う。 The image processing device 12 is wired to the camera 11, but the image processing device 12 and the camera 11 may be wirelessly connected. The image processing device 12 has an image processing section 12a, an image recognition section 12b, and a display creation section 12c. Here, the image processing device 12 is, for example, a CPU (Central Processing Unit) and a memory. The image processing unit 12 a preprocesses image data of the pointers 61 , 62 , 63 , 64 , 65 , and 66 captured by the camera 11 . Specifically, the image processing unit 12a performs teacher data creation processing and learning processing, filtering processing of image data captured by the camera 11, and binarization processing of image data captured by the camera 11. FIG.

画像処理部12aは、後述するように深層学習により画像認識して各指示針61,62,63,64,65,66の指示値を求める。例えば、事前に、処理対象となる複数の指示針61,62,63,64,65,66のサンプルデータを多数取得し、サンプルデータ学習させることで教師用のデータを作成しておく。画像認識部12bは、カメラ11が撮影して画像処理した指示針61,62,63,64,65,66の画像データと、教師用のデータとを照合する。 The image processing unit 12a obtains indicated values of the pointers 61, 62, 63, 64, 65, 66 by performing image recognition by deep learning as described later. For example, a large number of sample data of the pointers 61, 62, 63, 64, 65, and 66 to be processed are acquired in advance, and data for teaching is created by learning the sample data. The image recognition unit 12b compares the image data of the pointers 61, 62, 63, 64, 65, 66 photographed and image-processed by the camera 11 with teacher data.

また、カメラ11が撮影した画像データは、各計測器51,52,53,54,55,56を含む所定の領域の画像データである。画像処理部12aは、カメラ11が撮影した画像データから、各計測器51,52,53,54,55,56の画像データだけを取り出す処理を行う。更に、画像処理部12aは、カメラ11が撮影した各指示針61,62,63,64,65,66の画像データを二値化処理し、指示針61,62,63,64,65,66を黒色とし、計測器51,52,53,54,55,56の計器盤を白色とする。なお、各指示針61,62,63,64,65,66の画像処理は、二値化処理に限るものではなく、別の処理であっても、二値化処理を省略してもよい。 Further, the image data captured by the camera 11 is image data of a predetermined area including the measuring instruments 51, 52, 53, 54, 55, and 56. FIG. The image processing unit 12a extracts only the image data of the measuring instruments 51, 52, 53, 54, 55, and 56 from the image data captured by the camera 11. FIG. Furthermore, the image processing unit 12a binarizes the image data of the pointers 61, 62, 63, 64, 65, and 66 captured by the camera 11, are black, and the instrument panels of the measuring instruments 51, 52, 53, 54, 55, 56 are white. Note that the image processing of each pointer 61, 62, 63, 64, 65, 66 is not limited to the binarization process, and the binarization process may be omitted even if it is another process.

画像認識部12bは、前述したように、カメラ11が撮影して画像処理部12aが画像処理した指示針61,62,63,64,65,66の画像データと、教師用のデータとを照合する。この画像データの照合により指示針61,62,63,64,65,66の形状を特定し、先端が指す位置を特定して指示値を求める。本実施形態では、深層学習により計測器51,52,53,54,55,56における指示針61,62,63,64,65,66の指示値を求める。 As described above, the image recognition unit 12b compares the image data of the pointers 61, 62, 63, 64, 65, 66 photographed by the camera 11 and image-processed by the image processing unit 12a with data for teachers. do. By collating this image data, the shapes of the pointers 61, 62, 63, 64, 65, and 66 are specified, and the position pointed by the tip is specified to obtain the indicated value. In this embodiment, the indicated values of pointers 61, 62, 63, 64, 65, and 66 in measuring instruments 51, 52, 53, 54, 55, and 56 are obtained by deep learning.

格子状の数値データであるカーネル(フィルタ)Bを予め用意し、画像処理部12aが処理して二値化した各計測器51,52,53,54,55,56の画像データAとこのカーネルBを用いて画像処理する。まず、カーネルBと、このカーネルBと同サイズの画像データAにおける部分画像(ウインド)の数値データについて、ピクセル単位で要素同士を掛け合せた後に加算して合計する積和演算を行い、1つ目の数値を算出する。次に、画像データAにおける部分画像の範囲を数ピクセルずらし、前述と同様に、積和演算を行い、2つ目の数値を算出する。続いて、画像データAを網羅する範囲までこの処理を繰り返し行う折り畳みを行うことで、画像データAより小さい縮小された格子状のデータ、つまり、特徴マップCを得る。そして、特徴マップCを入力として深層学習(ニューラルネットワークによる学習)を行い、指示針61,62,63,64,65,66の指示値を推定すると共に、尤度を算出する。なお、ここでは、ニューラルネットワークに畳み込み操作を導入した深層学習を用いたが、例えば、ニューラルネットワークにプーリング操作を導入した深層学習を用いてもよい。また、画像処理装置12による画像処理は、深層学習に限るものではなく、他の機械学習やその他の解析方法を用いてもよい。 A kernel (filter) B, which is grid-like numerical data, is prepared in advance, and the image data A of each of the measuring instruments 51, 52, 53, 54, 55, and 56 processed and binarized by the image processing unit 12a and this kernel B is used for image processing. First, the numerical data of the partial image (window) in the kernel B and the image data A of the same size as the kernel B are subjected to a product-sum operation in which the elements are multiplied by each pixel and then added to sum. Calculate the numerical value of Next, the range of the partial image in the image data A is shifted by several pixels, and the sum-of-products operation is performed in the same manner as described above to calculate the second numerical value. Subsequently, this process is repeated until the image data A is covered, and folding is performed to obtain reduced lattice data smaller than the image data A, that is, the feature map C. FIG. Then, with the feature map C as an input, deep learning (learning by a neural network) is performed to estimate the indicated values of the pointers 61, 62, 63, 64, 65, and 66, and to calculate the likelihood. Here, deep learning in which a convolution operation is introduced into a neural network is used, but deep learning in which a pooling operation is introduced into a neural network, for example, may be used. Further, the image processing by the image processing device 12 is not limited to deep learning, and other machine learning or other analysis methods may be used.

なお、カメラ11は、複数の計測器51,52,53,54,55,56を動画で取得し、画像処理装置12は、カメラ11で取得した動画から所定のタイミングで静止画を取り込み、各指示針61,62,63,64,65,66の静止画を処理して各指示針61,62,63,64,65,66の指示値を求める。この場合、画像処理装置12は、計測器51,52,53,54,55,56において、初期設定値として、各指示針61,62,63,64,65,66の作動範囲(目盛71,72,73,74,75,76の付設範囲)と、目盛71,72,73,74,75,76の数値、計測値の単位を割り当てておくことが必要である。なお、画像処理装置12が静止画を取り込むタイミングは、画像処理装置12の処理能力に依存する。 Note that the camera 11 acquires a plurality of measuring instruments 51, 52, 53, 54, 55, and 56 as moving images, and the image processing device 12 acquires still images from the moving images acquired by the camera 11 at predetermined timings, and Still images of the pointers 61, 62, 63, 64, 65, 66 are processed to obtain the indicated values of the respective pointers 61, 62, 63, 64, 65, 66. In this case, the image processing device 12 sets the operation range (scale 71, 72, 73, 74, 75, 76), numerical values of scales 71, 72, 73, 74, 75, 76, and units of measured values. Note that the timing at which the image processing device 12 captures a still image depends on the processing capability of the image processing device 12 .

そのため、画像処理装置12は、カメラ11が撮影した各指示針61,62,63,64,65,66の画像データを処理することで、各指示針61,62,63,64,65,66の位置と初期設定値に基づいて各指示針61,62,63,64,65,66の指示値としての数値を求める。 Therefore, the image processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65, and 66 captured by the camera 11 so that the pointers 61, 62, 63, 64, 65, and 66 Numerical values as indicated values for the pointers 61, 62, 63, 64, 65 and 66 are obtained based on the positions of and the initial set values.

画像認識部12bは、深層学習により指示針61,62,63,64,65,66の指示値を推定すると共に尤度を算出するが、このとき、複数の指示値とその指示値に対する尤度が求まり、最も高い尤度の指示値が採用される。そして、画像認識部12bは、各指示針61,62,63,64,65,66の画像データを処理して求めた各指示針61,62,63,64,65,66の採用した指示値における尤度と予め設定された閾値とを比較する。ここで、画像認識部12bは、各指示針61,62,63,64,65,66の指示値の尤度が予め設定された閾値より低いとき、尤度が低い各指示針61,62,63,64,65,66の指示値を求めた画像データを記憶部14に保存する。ここで、指示値の尤度とは、深層学習による画像照合率であって、閾値とは、例えば、90%であるが、閾値の数値は適宜設定すればよいものである。 The image recognition unit 12b estimates the indication values of the pointers 61, 62, 63, 64, 65, and 66 by deep learning and calculates the likelihood. is obtained, and the indication value with the highest likelihood is adopted. Then, the image recognition unit 12b processes the image data of the pointers 61, 62, 63, 64, 65, and 66 to obtain the indicated values adopted by the pointers 61, 62, 63, 64, 65, and 66. is compared with a preset threshold. Here, when the likelihood of the indication value of each pointer 61, 62, 63, 64, 65, 66 is lower than a preset threshold value, the image recognition unit 12b The image data for which the indicated values of 63, 64, 65, and 66 are obtained are stored in the storage unit 14 . Here, the likelihood of the indication value is the image matching rate by deep learning, and the threshold is, for example, 90%, but the numerical value of the threshold may be set appropriately.

また、画像処理装置12は、図示しない記憶部(内部ストレージ)を有し、例えば、RAM(Random Access Memory)である。画像処理装置12の記憶部には、画像処理装置12が各指示針61,62,63,64,65,66の画像データを処理して指示値を求めるための指示値読取プログラムが格納される。すなわち、画像処理装置12が画像データの深層学習を行うためのデータが格納される。指示値読取プログラムは、計測器51,52,53,54,55,56の指示針61,62,63,64,65,66を撮影する処理と、撮影した指示針61,62,63,64,65,66の画像データを処理して指示針の指示値を求める処理と、指示針61,62,63,64,65,66の画像データを削除すると共に、求めた指示針61,62,63,64,65,66の指示値のデータを送信する処理とを画像処理装置(コンピュータ)12に実行させるものである。 The image processing apparatus 12 also has a storage unit (internal storage) (not shown), which is, for example, a RAM (Random Access Memory). The storage unit of the image processing device 12 stores an indicated value reading program for the image processing device 12 to process the image data of the pointers 61, 62, 63, 64, 65, and 66 to obtain the indicated values. . That is, data for the image processing device 12 to perform deep learning of image data is stored. The indicated value reading program is a process of photographing the pointers 61, 62, 63, 64, 65, and 66 of the measuring instruments 51, 52, 53, 54, 55, and 56; , 65 and 66 are processed to obtain indicated values of the pointers, the image data of the pointers 61, 62, 63, 64, 65 and 66 are deleted, It causes the image processing apparatus (computer) 12 to execute a process of transmitting the data of the indicated values 63, 64, 65, and 66. FIG.

画像処理装置12は、所定周期ごとに各指示針61,62,63,64,65,66の指示値を求め、送信装置13は、所定周期ごとに各指示針61,62,63,64,65,66の指示値のデータを送信する。送信装置13が送信する所定周期は、送信能力に依存する。ここで、画像処理装置12が画像処理する所定周期と、送信装置13が指示値のデータを送信する所定周期とを一致させる必要はない。そして、画像認識部12bが各指示針61,62,63,64,65,66の画像データの尤度が低いと判定したとき、送信装置13は、画像処理装置12が前回求めた指示針61,62,63,64,65,66の指示値のデータを再度送信する。 The image processing device 12 obtains the indicated values of the pointers 61, 62, 63, 64, 65 and 66 at predetermined intervals. Data of indicated values of 65 and 66 are transmitted. The predetermined period of transmission by the transmitter 13 depends on the transmission capability. Here, it is not necessary to match the predetermined cycle for image processing by the image processing device 12 and the predetermined cycle for transmitting the data of the instruction value by the transmission device 13 . Then, when the image recognition unit 12b determines that the likelihood of the image data of each pointer 61, 62, 63, 64, 65, 66 is low, the transmission device 13 detects the pointer 61 obtained by the image processing device 12 last time. , 62, 63, 64, 65, and 66 are transmitted again.

表示作成部12cは、モニタ16に表示する画像を作成する。表示作成部12cが作成してモニタ16に表示する画像については後述する。 The display creation unit 12c creates an image to be displayed on the monitor 16. FIG. The image created by the display creating unit 12c and displayed on the monitor 16 will be described later.

なお、カメラ11が複数の計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66を撮影した場合、画像処理装置12は、各指示針61,62,63,64,65,66の画像データを予め設定された順に処理して各指示針61,62,63,64,65,66の指示値を求める。 Note that when the camera 11 captures the pointers 61 , 62 , 63 , 64 , 65 , 66 of the plurality of measuring instruments 51 , 52 , 53 , 54 , 55 , 56 , the image processing device 12 , 62, 63, 64, 65 and 66 are processed in a preset order to obtain the indicated values of the pointers 61, 62, 63, 64, 65 and 66 respectively.

送信装置13は、画像処理装置12が求めた各指示針61,62,63,64,65,66の指示値のデータを送信する。送信装置13が送信するデータは、日時、指示値(数値)、尤度である。このとき、画像処理装置12は、各指示針61,62,63,64,65,66の画像データを処理して各指示針61,62,63,64,65,66の指示値を求めると、次の各指示針61,62,63,64,65,66の画像データが取り込まれて更新される。すなわち、画像処理装置12は、各指示針61,62,63,64,65,66の画像データを保存することはなく、送信装置13は、画像処理装置12が処理する各指示針61,62,63,64,65,66の画像データは送信せず、求めた各指示針61,62,63,64,65,66の指示値のデータだけを送信する。ここで、各指示針61,62,63,64,65,66の指示値のデータとは、処理した日時、各計測器51,52,53,54,55,56の数値、各指示針61,62,63,64,65,66の指示値の尤度などのデータである。 The transmission device 13 transmits the data of the indication values of the pointers 61 , 62 , 63 , 64 , 65 and 66 obtained by the image processing device 12 . The data transmitted by the transmitting device 13 are the date and time, the indicated value (numerical value), and the likelihood. At this time, the image processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65 and 66 to obtain the indicated values of the pointers 61, 62, 63, 64, 65 and 66. , and the image data of the pointers 61, 62, 63, 64, 65, and 66 that follow are fetched and updated. That is, the image processing device 12 does not store the image data of the pointers 61, 62, 63, 64, 65, 66, and the transmission device 13 stores the image data of the pointers 61, 62 processed by the image processing device 12. , 63, 64, 65, and 66 are not transmitted, but only the data of the obtained indication values of the pointers 61, 62, 63, 64, 65, and 66 are transmitted. Here, the data of the indicated values of the pointers 61, 62, 63, 64, 65 and 66 are the date and time of processing, the numerical values of the measuring instruments 51, 52, 53, 54, 55 and 56, the data of the pointers 61 , 62, 63, 64, 65, and 66.

記憶部14は、画像処理装置12に接続される。記憶部14は、例えば、ROM(Read Only Memory)である。記憶部14は、画像処理装置12が各指示針61,62,63,64,65,66の指示値を求めると、送信装置13が送信する指示値のデータを保存する。また、記憶部14は、上述したように、画像認識部12bにより尤度が低い各指示針61,62,63,64,65,66の指示値を求めた画像データを記憶部14に保存する。 The storage unit 14 is connected to the image processing device 12 . The storage unit 14 is, for example, a ROM (Read Only Memory). When the image processing device 12 obtains the indication values of the pointers 61, 62, 63, 64, 65, and 66, the storage unit 14 stores the indication value data transmitted by the transmission device 13. FIG. In addition, as described above, the storage unit 14 stores in the storage unit 14 the image data obtained by obtaining the indicated values of the pointers 61, 62, 63, 64, 65, and 66 with the low likelihood by the image recognition unit 12b. .

操作部15は、作業者が画像処理装置12に対して各種の設定データを入力するものである。ここで、各種の設定データとは、日時、カメラ11における撮影領域、画像処理する計測器51,52,53,54,55,56、データの保存先などである。 The operation unit 15 is used by an operator to input various setting data to the image processing apparatus 12 . Here, the various setting data include the date and time, the shooting area of the camera 11, the measuring instruments 51, 52, 53, 54, 55, and 56 for image processing, the data storage destination, and the like.

モニタ16は、図2に示すように、複数(本実施形態では、4個)の表示部31,32,33,34が設けられる。第1表示部31は、カメラ11が撮影した領域の全ての画像データを表示する。第2表示部32は、複数の計測器51,52,53,54,55,56のうち、指示値を読み取りたい特定の指示針61,63,64の計測器51,53,54の画像を表示する。第3表示部33は、画像処理装置12が処理に必要な設定データなどを表示する。この設定データとは、上述した日時、カメラ11における撮影領域、画像処理する計測器51,52,53,54,55,56、データの保存先であり、その他に画像処理装置12による処理状態を表示する。第4表示部34は、画像処理装置12により求められた指示針61の計測器51の二値化画像と指示針61の指示値(数値)を表示する。 The monitor 16 is provided with a plurality of (four in this embodiment) display sections 31, 32, 33, and 34, as shown in FIG. The first display unit 31 displays all image data of the area captured by the camera 11 . The second display unit 32 displays the images of the measuring instruments 51, 53, 54 of the specific indicator needles 61, 63, 64 whose indicated values are to be read, among the plurality of measuring instruments 51, 52, 53, 54, 55, 56. indicate. The third display unit 33 displays setting data required for processing by the image processing device 12 . This setting data includes the above-mentioned date and time, the shooting area of the camera 11, the measuring instruments 51, 52, 53, 54, 55, and 56 for image processing, the data storage destination, and the processing state of the image processing device 12. indicate. The fourth display unit 34 displays the binarized image of the pointer 61 of the measuring device 51 obtained by the image processing device 12 and the indicated value (numerical value) of the pointer 61 .

電源部17は、画像処理装置12を介してカメラ11、送信装置13、記憶部14、操作部15、モニタ16などに電力を供給するものである。 The power supply unit 17 supplies power to the camera 11 , the transmission device 13 , the storage unit 14 , the operation unit 15 , the monitor 16 and the like via the image processing device 12 .

一方、監視システム20において、受信装置22は、指示値読取システム10の送信装置13と低容量データを送受信できる無線ネットワークで接続可能である。受信装置22は、指示値読取システム10の送信装置13が送信した指示針61,62,63,64,65,66の指示値を受信する。制御装置21は、受信装置22が受信した指示針61,62,63,64,65,66の指示値を受け取り、モニタ23に表示する。制御装置21は、例えば、図示しない監視装置に接続されており、指示針61,62,63,64,65,66の指示値に基づいて各種機器を監視する。 On the other hand, in the monitoring system 20, the receiving device 22 can be connected to the transmitting device 13 of the indicated value reading system 10 via a wireless network capable of transmitting and receiving low-capacity data. The receiving device 22 receives the indicated values of the pointers 61 , 62 , 63 , 64 , 65 , 66 transmitted by the transmitting device 13 of the indicated value reading system 10 . The control device 21 receives the indicated values of the pointers 61 , 62 , 63 , 64 , 65 and 66 received by the receiving device 22 and displays them on the monitor 23 . The control device 21 is connected to, for example, a monitoring device (not shown) and monitors various devices based on the indicated values of the indicators 61 , 62 , 63 , 64 , 65 and 66 .

ここで、本実施形態の指示値読取方法について具体的に説明する。図3は、指示値読取方法を表すフローチャートである。 Here, the instruction value reading method of the present embodiment will be specifically described. FIG. 3 is a flow chart showing a method of reading indicated values.

本実施形態の指示値読取方法は、計測器51,52,53,54,55,56の指示針61,62,63,64,65,66を撮影する工程と、撮影した指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値を求める工程と、指示針61,62,63,64,65,66の画像データを削除すると共に求めた指示針61,62,63,64,65,66の指示値のデータを送信する工程とを有する。 The indicated value reading method of the present embodiment includes a step of photographing the pointers 61, 62, 63, 64, 65, and 66 of the measuring instruments 51, 52, 53, 54, 55, and 56; , 63, 64, 65, 66 to obtain the indicated values of the pointers 61, 62, 63, 64, 65, 66; a step of deleting the image data and transmitting the obtained data of the indicated values of the pointers 61, 62, 63, 64, 65, 66;

具体的に説明すると、図1および図3に示すように、ステップS11にて、画像処理装置12は、カメラ11が撮影した複数の計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66の画像データを取得する。この場合、複数の計測器51,52,53,54,55,56のうち、特定の計測器だけが指定しされていれば、指定されている指示針の画像データだけを取得する。ステップS12にて、画像処理装置12は、取得した複数の計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66の画像データを画像処理する。 Specifically, as shown in FIGS. 1 and 3, in step S11, the image processing device 12 receives the instructions of the plurality of measuring instruments 51, 52, 53, 54, 55, and 56 photographed by the camera 11. Image data of the needles 61, 62, 63, 64, 65, 66 are acquired. In this case, if only a specific measuring instrument among the plurality of measuring instruments 51, 52, 53, 54, 55, and 56 is specified, only the image data of the specified pointer is obtained. In step S12, the image processing device 12 image-processes the acquired image data of the pointers 61, 62, 63, 64, 65, and 66 of the plurality of measuring instruments 51, 52, 53, 54, 55, and 56. .

ステップS13にて、画像処理装置12は、画像処理した計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66の画像データの深層学習を実施する。ステップS14にて、指示針61,62,63,64,65,66の指示値と尤度を求める。そして、ステップS15にて、画像処理装置12は、深層学習を実施した後、求めた指示針61,62,63,64,65,66の指示値における尤度が閾値より高いかどうかを判定する。ここで、尤度が閾値より高い(Yes)と、ステップS16に移行する。 In step S13, the image processing device 12 performs deep learning on the image data of the pointers 61, 62, 63, 64, 65, and 66 of the measuring instruments 51, 52, 53, 54, 55, and 56 that have undergone image processing. do. In step S14, the indicated values and likelihoods of the pointers 61, 62, 63, 64, 65 and 66 are obtained. Then, in step S15, after performing deep learning, the image processing device 12 determines whether the likelihood of the obtained indication values of the pointers 61, 62, 63, 64, 65, and 66 is higher than the threshold. . Here, if the likelihood is higher than the threshold (Yes), the process proceeds to step S16.

そして、ステップS16にて、指示針61,62,63,64,65,66の指示値(数値)のデータを記憶部14に保存する。ステップS17にて、計測器51,52,53,54,55,56の各指示針61,62,63,64,65,66の画像データを更新して削除する。ステップS18にて、送信装置13は、指示針61,62,63,64,65,66の指示値(数値)のデータを監視システム20に送信する。一方、ステップS15にて、求めた指示針61,62,63,64,65,66の指示値における尤度が閾値より低い(No)と、ステップS19にて、尤度が低い各指示針61,62,63,64,65,66の指示値を求めた画像データを記憶部14に保存する。 Then, in step S16, data of indicated values (numerical values) of the pointers 61, 62, 63, 64, 65 and 66 are stored in the storage unit 14. FIG. In step S17, the image data of the pointers 61, 62, 63, 64, 65 and 66 of the measuring instruments 51, 52, 53, 54, 55 and 56 are updated and deleted. In step S<b>18 , the transmission device 13 transmits the data of the indicated values (numerical values) of the pointers 61 , 62 , 63 , 64 , 65 , 66 to the monitoring system 20 . On the other hand, if the likelihood of the indicated values of the pointers 61, 62, 63, 64, 65, and 66 obtained in step S15 is lower than the threshold (No), in step S19, each pointer 61 with low likelihood , 62, 63, 64, 65, and 66 are stored in the storage unit 14.

なお、上述の処理では、ステップS15にて、尤度が閾値より低いと判定されると、尤度が低い各指示針61,62,63,64,65,66の指示値を求めた画像データを記憶部14に保存したが、この処理に限定されるものではない。図4は、指示値推定方法を表すフローチャート、図5は、類似度を説明するためのグラフ、図6は、指示値の補正方法を説明するための概略図である。 In the above process, when it is determined in step S15 that the likelihood is lower than the threshold value, the image data obtained by obtaining the indication values of the pointers 61, 62, 63, 64, 65, and 66 with low likelihood is stored in the storage unit 14, but the processing is not limited to this. FIG. 4 is a flow chart showing the indicator value estimation method, FIG. 5 is a graph for explaining the similarity, and FIG. 6 is a schematic diagram for explaining the indicator value correction method.

図4に示すように、ステップS21にて、指示針61,62,63,64,65,66の指示値xにおける尤度sが第1閾値α1(例えば、0.8)以上かどうかを判定する。ここで、尤度sが第1閾値α1以上である(Yes)と、ステップS22にて、算出した指示針61,62,63,64,65,66の指示値xを出力する。一方、尤度sが第1閾値α1より低い(No)と、ステップS23にて、尤度sが第2閾値α2(例えば、0.5)以上かどうかを判定する。第2閾値α2は、第1閾値α1より低い値である。 As shown in FIG. 4, in step S21, it is determined whether or not the likelihood s of the indicating needles 61, 62, 63, 64, 65, and 66 at the indicated value x is equal to or greater than a first threshold value α1 (for example, 0.8). do. Here, if the likelihood s is equal to or greater than the first threshold value α1 (Yes), the calculated indication value x of the pointers 61, 62, 63, 64, 65, and 66 is output in step S22. On the other hand, if the likelihood s is lower than the first threshold α1 (No), it is determined in step S23 whether the likelihood s is equal to or greater than a second threshold α2 (for example, 0.5). The second threshold value α2 is a value lower than the first threshold value α1.

ここで、尤度sが第2閾値α2以上である(Yes)と、ステップS24にて、指示値xと類似値zとの偏差の絶対値が予め設定された偏差閾値β1以下であるかを判定する。ここで、類似値zとは、カメラ11が撮影して画像処理した指示針61,62,63,64,65,66の画像データと教師用のデータとの照合したとき、最も照合確率(類似度u)の高い値である。図5に示すように、例えば、指示針61,62,63,64,65,66の画像データと教師用のデータとの照合した結果、指示値(類似値)z1のときの確率(類似度u)が最も高いため、これを類似値zとする。 Here, if the likelihood s is equal to or greater than the second threshold value α2 (Yes), in step S24, it is determined whether the absolute value of the deviation between the instruction value x and the similarity value z is equal to or less than a preset deviation threshold value β1. judge. Here, the similarity value z is the highest matching probability (similarity degree u). As shown in FIG. 5, for example, as a result of comparing the image data of pointers 61, 62, 63, 64, 65, and 66 with the teacher data, the probability (similarity Since u) is the highest, let it be the similarity value z.

そして、指示値xと類似値zとの偏差の絶対値が偏差閾値β1以下(Yes)であると、ステップS25にて、算出した指示針61,62,63,64,65,66の指示値xを補正した補正値F(x,z,s,u)を出力する。ここで、指示値xの補正方法について説明する。図6に示すように、2つの推定値a,b(例えば、指示値x、類似値z)が求められたとき、尤度sと定数t(類似度u)の大きさに応じて補正値F(a,b,s,t)が算出される。具体的には、下記数式により補正した指示値F(a,b,c,d)が算出される。
F(a,b,c,d)=a-{(a-b)*d/(c+d)}
ここで、a,bは、推定値であり、c,dは係数である。すなわち、ステップS25で求める補正値F(x,z,s,u)は、a,bに対して指示値x、類似値zが用いられ、c,dに対して尤度s、類似度uが用いられる。
If the absolute value of the deviation between the indicated value x and the similarity value z is less than the deviation threshold value β1 (Yes), then in step S25 the calculated indicated values of the pointers 61, 62, 63, 64, 65, and 66 A correction value F (x, z, s, u) obtained by correcting x is output. Here, a method for correcting the indicated value x will be described. As shown in FIG. 6, when two estimated values a and b (for example, indicated value x and similarity value z) are obtained, a correction value F(a,b,s,t) is calculated. Specifically, the indicated value F (a, b, c, d) corrected by the following formula is calculated.
F(a,b,c,d)=a−{(a−b)*d/(c+d)}
where a and b are estimated values and c and d are coefficients. That is, the correction value F (x, z, s, u) obtained in step S25 uses the indicated value x and similarity value z for a and b, and the likelihood s and similarity u for c and d. is used.

一方、ステップS25にて、指示値xと類似値zとの偏差の絶対値が偏差閾値β1より大きい(No)と、ステップS26にて、類似値zに対する類似度uが第3閾値α3(例えば、0.5)以上かどうかを判定する。第3閾値α3は、第2閾値α2と同じ値であることが好ましいが、異なる値でもよい。 On the other hand, if the absolute value of the deviation between the indicated value x and the similarity value z is greater than the deviation threshold value β1 in step S25 (No), in step S26, the similarity u with respect to the similarity value z is set to the third threshold value α3 (for example, , 0.5). The third threshold value α3 is preferably the same value as the second threshold value α2, but may be a different value.

ここで、類似度uが第3閾値α3(例えば、0.5)以上(Yes)であると、ステップS27にて、指示値xと類似値zとの偏差が前回の指示値(以下、前回値)yと類似値zとの偏差以下であるかを判定する。ここで、指示値xと類似値zとの偏差が前回値yと類似値zとの偏差以下(Yes)であると、ステップS25にて、算出した指示針61,62,63,64,65,66の指示値xを補正した指示値F(x,z,s,u)を出力する。一方、指示値xと類似値zとの偏差が前回値yと類似値zとの偏差より大きい(No)であると、ステップS28にて、算出した指示針61,62,63,64,65,66の指示値xを補正した補正値F(y,z,t,u)を出力する。tは、定数(設定値)である。指示値F(y,z,t,u)は、上述した数式により算出され、a,bに対して前回値y、類似値zが用いられ、c,dに対して定数t、類似度uが用いられる。 Here, if the degree of similarity u is equal to or greater than the third threshold value α3 (for example, 0.5) (Yes), then in step S27, the deviation between the indicated value x and the similarity value z is the previous indicated value (hereinafter referred to as the previous value) is less than or equal to the deviation between y and the similarity value z. Here, if the deviation between the indicated value x and the similarity value z is less than or equal to the deviation between the previous value y and the similarity value z (Yes), then in step S25, the calculated pointers 61, 62, 63, 64, and 65 , 66, and outputs an indicated value F(x, z, s, u) obtained by correcting the indicated value x. On the other hand, if the deviation between the indicated value x and the similarity value z is greater than the deviation between the previous value y and the similarity value z (No), then in step S28, the calculated pointers 61, 62, 63, 64, and 65 , 66, and outputs a correction value F(y, z, t, u) obtained by correcting the indicated value x. t is a constant (set value). The indicated value F (y, z, t, u) is calculated by the above-described formula, and the previous value y and the similarity value z are used for a and b, and the constant t and the similarity u are used for c and d. is used.

また、ステップS26にて、類似度uが第3閾値α3より低い(No)と、ステップS30にて、前回値yを指示値として出力する。また、ステップS23にて、尤度sが第2閾値α2より低い(No)とき、ステップS29にて、類似度uが第4閾値α4(例えば、0.5)以上かどうかを判定する。第4閾値α4は、第2閾値α2と同じ値であることが好ましいが、異なる値でもよい。ここで、類似度uが第4閾値α4以上(Yes)であると、ステップS28にて、算出した指示針61,62,63,64,65,66の指示値xを補正した補正値F(,z,t,u)を出力する。一方、類似度uが第4閾値α4より低い(No)と、ステップS30にて、前回値yを指示値として出力する。 If the degree of similarity u is lower than the third threshold α3 (No) in step S26, the previous value y is output as an instruction value in step S30. Further, when the likelihood s is lower than the second threshold α2 (No) in step S23, it is determined in step S29 whether or not the degree of similarity u is equal to or greater than a fourth threshold α4 (for example, 0.5). The fourth threshold value α4 is preferably the same value as the second threshold value α2, but may be a different value. Here, if the degree of similarity u is equal to or greater than the fourth threshold value α4 (Yes), then in step S28, the correction value F ( , z, t, u). On the other hand, if the degree of similarity u is lower than the fourth threshold α4 (No), the previous value y is output as the instruction value in step S30.

このように本実施形態の指示値読取システムは、計測器51,52,53,54,55,56の指示針61,62,63,64,65,66を撮影可能なカメラ11と、カメラ11に接続されてカメラ11が撮影した指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値を求める画像処理装置12と、画像処理装置12が求めた指示針61,62,63,64,65,66の指示値のデータを送信する送信装置13とを備える。 As described above, the indicated value reading system of this embodiment includes the camera 11 capable of photographing the pointers 61, 62, 63, 64, 65, and 66 of the measuring instruments 51, 52, 53, 54, 55, and 56, and the camera 11 connected to the camera 11 to process the image data of the pointers 61, 62, 63, 64, 65, 66 and obtain the indicated values of the pointers 61, 62, 63, 64, 65, 66. 12 and a transmission device 13 for transmitting the data of the indication values of the pointers 61 , 62 , 63 , 64 , 65 , 66 obtained by the image processing device 12 .

そのため、カメラ11が計測器51,52,53,54,55,56の指示針61,62,63,64,65,66を撮影し、画像処理装置12が指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値を求め、送信装置13が指示針61,62,63,64,65,66の指示値のデータを送信する。ここで、送信装置13が送信する指示針61,62,63,64,65,66の指示値のデータは、デジタルデータとしての数値であることから低容量データとなり、大容量データを高速送信する送信装置が不要となる。その結果、導入コストの増加を抑制することができると共に、計測器の指示値を容易に読み取ることができる。 Therefore, the camera 11 photographs the pointers 61, 62, 63, 64, 65, 66 of the measuring instruments 51, 52, 53, 54, 55, 56, and the image processing device 12 detects the pointers 61, 62, 63, 64. , 65 and 66 are processed to obtain the indicated values of the pointers 61, 62, 63, 64, 65 and 66. data. Here, since the data of the indicated values of the pointers 61, 62, 63, 64, 65, and 66 transmitted by the transmitting device 13 are numerical values as digital data, they are low-capacity data, and large-capacity data are transmitted at high speed. No transmitter is required. As a result, an increase in introduction cost can be suppressed, and the indicated value of the measuring instrument can be easily read.

本実施形態の指示値読取システムでは、カメラ11と画像処理装置12を有線接続する。そのため、無線装置を不要として装置の簡素化を図ることができる。 In the indicated value reading system of the present embodiment, a camera 11 and an image processing device 12 are wired. Therefore, the device can be simplified by eliminating the need for a wireless device.

本実施形態の指示値読取システムでは、画像処理装置12は、指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値を求めた後に指示針61,62,63,64,65,66の画像データを削除する。そのため、大容量データである指示針61,62,63,64,65,66の画像データを保存する必要がなくなり、大きな記憶装置を不要として装置の簡素化を図ることができる。 In the indicated value reading system of the present embodiment, the image processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65 and 66 to After obtaining the indicated values, the image data of the pointers 61, 62, 63, 64, 65 and 66 are deleted. Therefore, there is no need to store the image data of the pointers 61, 62, 63, 64, 65, 66, which are large-capacity data, and the device can be simplified by eliminating the need for a large storage device.

本実施形態の指示値読取システムでは、計測器51,52,53,54,55,56に対して指示針61,62,63,64,65,66の作動範囲および単位を割り当てておき、画像処理装置12は、指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値としての数値を求める。そのため、画像処理装置12は、指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値としての数値を容易に求めることができる。 In the indicated value reading system of the present embodiment, the operation ranges and units of the pointers 61, 62, 63, 64, 65, and 66 are assigned to the measuring instruments 51, 52, 53, 54, 55, and 56, and the image The processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65 and 66 to obtain numerical values as the indicated values of the pointers 61, 62, 63, 64, 65 and 66. FIG. Therefore, the image processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65 and 66 to easily obtain numerical values as the indicated values of the pointers 61, 62, 63, 64, 65 and 66. can ask.

本実施形態の指示値読取システムでは、画像処理装置12が求めた指示針61,62,63,64,65,66の指示値を保存する記憶部14を設ける。そのため、画像処理装置12が求めた指示針61,62,63,64,65,66の指示値を記憶部14に保存することから、送信装置13によるデータの送信不良があっても、指示針61,62,63,64,65,66の指示値のデータを継続して取得することができる。 In the indicated value reading system of this embodiment, a storage unit 14 is provided for storing the indicated values of the pointers 61, 62, 63, 64, 65, and 66 obtained by the image processing device 12. FIG. Therefore, since the indicated values of the pointers 61, 62, 63, 64, 65, and 66 obtained by the image processing device 12 are stored in the storage unit 14, even if there is a data transmission failure by the transmission device 13, the pointers The data of indicated values of 61, 62, 63, 64, 65 and 66 can be obtained continuously.

本実施形態の指示値読取システムでは、画像処理装置12は、指示針61,62,63,64,65,66の画像データを処理して求めた指示針61,62,63,64,65,66の指示値における尤度を求め、尤度が予め設定された閾値より低いときに、尤度が低い指示針61,62,63,64,65,66の指示値を求めた指示針61,62,63,64,65,66の画像データを記憶部14に保存する。そのため、記憶部14に保存した指示針61,62,63,64,65,66の画像データに基づいて指示値の尤度が低くなった原因を特定することができる。 In the indicated value reading system of the present embodiment, the image processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65, and 66 to obtain the pointers 61, 62, 63, 64, 65, The indicator 61, 62, 63, 64, 65, and 66, which have low likelihoods when the likelihood is lower than a preset threshold value, are obtained. The image data of 62, 63, 64, 65 and 66 are stored in the storage unit 14. FIG. Therefore, based on the image data of the pointers 61 , 62 , 63 , 64 , 65 , 66 stored in the storage unit 14 , it is possible to identify the cause of the low likelihood of the indicated value.

本実施形態の指示値読取システムでは、画像処理装置12は、所定周期ごとに指示針61,62,63,64,65,66の指示値を求め、送信装置13は、所定周期ごとに指示針61,62,63,64,65,66の指示値のデータを送信しており、画像認識部12bが指示針61,62,63,64,65,66の指示値の尤度が閾値より低いときに、送信装置13は、画像処理装置12が前回求めた指示針61,62,63,64,65,66の指示値のデータを送信する。そのため、指示針61,62,63,64,65,66の指示値のデータを継続して取得することができる。 In the indicated value reading system of this embodiment, the image processing device 12 obtains the indicated values of the pointers 61, 62, 63, 64, 65, and 66 at predetermined intervals, and the transmitting device 13 reads the indicated values from the pointers at predetermined intervals. 61, 62, 63, 64, 65, and 66 are transmitted, and the image recognition unit 12b determines that the likelihood of the indication values of the pointers 61, 62, 63, 64, 65, and 66 is lower than the threshold. At this time, the transmission device 13 transmits the data of the indication values of the pointers 61, 62, 63, 64, 65, and 66 obtained by the image processing device 12 last time. Therefore, the data of the indicated values of the pointers 61, 62, 63, 64, 65, 66 can be continuously obtained.

本実施形態の指示値読取システムでは、画像処理装置12は、指示針61,62,63,64,65,66の指示値xにおける尤度sを求め、尤度sが予め設定された第1閾値α1以上であると、指示針61,62,63,64,65,66の指示値xのデータを送信する一方、尤度sが第1閾値α1より低く且つ第2閾値α2以上であると、指示針61,62,63,64,65,66の指示値xを類似値zまたは前回値yにより補正して送信する。そのため、送信する指示針61,62,63,64,65,66の指示値の精度を向上することができる。 In the indicated value reading system of the present embodiment, the image processing device 12 obtains the likelihood s of the indicating needles 61, 62, 63, 64, 65, and 66 at the indicated value x, and the first If it is equal to or greater than the threshold value α1, the data of the indicated value x of the pointers 61, 62, 63, 64, 65, and 66 is transmitted. , corrected by the similar value z or the previous value y, and transmitted. Therefore, it is possible to improve the accuracy of the indicated values of the pointers 61, 62, 63, 64, 65, 66 to be transmitted.

実施形態明の指示値読取システムでは、画像処理装置12は、尤度sが第1閾値α1より低く且つ第2閾値α2以上であり、指示針61,62,63,64,65,66の指示値xと類似値zとの絶対値が予め設定された偏差閾値β1以下であると、指示針61,62,63,64,65,66の指示値xを類似値zにより補正して送信する。そのため、送信する指示針の指示値の精度を向上することができる。 In the indicated value reading system according to the embodiment, the image processing device 12 determines that the likelihood s is lower than the first threshold value α1 and equal to or greater than the second threshold value α2, and the pointers 61, 62, 63, 64, 65, and 66 indicate When the absolute value of the value x and the similarity value z is equal to or less than a preset deviation threshold value β1, the indication value x of the pointers 61, 62, 63, 64, 65, and 66 is corrected by the similarity value z and transmitted. . Therefore, it is possible to improve the accuracy of the indicated value of the pointer to be transmitted.

本実施形態指示値読取システムでは、画像処理装置12は、指示針61,62,63,64,65,66の指示値xと類似値zとの絶対値が偏差閾値β1より高く、類似度uが第3閾値α3以上であり、指示針61,62,63,64,65,66の指示値xと類似値zとの絶対値が前回値yと類似値zとの絶対値以下であると、指示針61,62,63,64,65,66の指示値xを類似値zにより補正して送信する。そのため、送信する指示針の指示値の精度を向上することができる。 In the indicated value reading system of the present embodiment, the image processing device 12 determines that the absolute values of the indicated value x and the similarity value z of the pointers 61, 62, 63, 64, 65, and 66 are higher than the deviation threshold β1, and the similarity u is greater than or equal to the third threshold value α3, and the absolute values of the indicated value x and the similarity value z of the pointers 61, 62, 63, 64, 65, and 66 are less than or equal to the absolute values of the previous value y and the similarity value z. , the indication value x of the pointers 61, 62, 63, 64, 65, 66 is corrected by the similarity value z and transmitted. Therefore, it is possible to improve the accuracy of the indicated value of the pointer to be transmitted.

本実施形態の指示値読取システムでは、画像処理装置12は、指示針61,62,63,64,65,66の指示値xと類似値zとの絶対値が偏差閾値β1より高く、類似度uが第3閾値α3以上であり、指示針61,62,63,64,65,66の指示値xと類似値zとの絶対値が前回値yと類似値zとの絶対値より高いと、指示針61,62,63,64,65,66の指示値xを前回値yにより補正して送信する。そのため、送信する指示針の指示値の精度を向上することができる。 In the indicated value reading system of the present embodiment, the image processing device 12 determines that the absolute values of the indicated value x and the similarity value z of the pointers 61, 62, 63, 64, 65, and 66 are higher than the deviation threshold β1, and the similarity u is greater than or equal to the third threshold value α3, and the absolute values of the indicated value x and the similarity value z of the pointers 61, 62, 63, 64, 65, and 66 are higher than the absolute values of the previous value y and the similarity value z. , the indicated value x of the pointers 61, 62, 63, 64, 65 and 66 is corrected by the previous value y and transmitted. Therefore, it is possible to improve the accuracy of the indicated value of the pointer to be transmitted.

本実施形態の指示値読取システムでは、カメラ11は、複数の計測器51,52,53,54の指示針61,62,63,64,65,66を撮影可能であり、画像処理装置12は、カメラ11が撮影した複数の指示針61,62,63,64,65,66の画像データを順に処理して指示針61,62,63,64,65,66の指示値を求める。そのため、複数のカメラ11を不要として装置の簡素化を図ることができる。 In the indicated value reading system of this embodiment, the camera 11 can photograph pointers 61, 62, 63, 64, 65, and 66 of a plurality of measuring instruments 51, 52, 53, and 54, and the image processing device 12 , the image data of the pointers 61, 62, 63, 64, 65 and 66 photographed by the camera 11 are sequentially processed to obtain the indicated values of the pointers 61, 62, 63, 64, 65 and 66. Therefore, it is possible to simplify the device by eliminating the need for a plurality of cameras 11 .

本実施形態の指示値読取システムでは、画像処理装置12は、カメラ11が撮影した画像データを画像処理して計測器51,52,53,54,55,56の画像データを作成し、計測器51,52,53,54,55,56の画像データを深層学習により計測器51,52,53,54,55,56における指示針61,62,63,64,65,66の指示値を求める。そのため、高精度な指示針61,62,63,64,65,66の指示値を迅速に求めることができる。 In the indicated value reading system of the present embodiment, the image processing device 12 processes the image data captured by the camera 11 to create image data of the measuring instruments 51, 52, 53, 54, 55, and 56, and Obtain the indicated values of pointers 61, 62, 63, 64, 65, and 66 in measuring instruments 51, 52, 53, 54, 55, and 56 by deep learning of the image data of 51, 52, 53, 54, 55, and 56. . Therefore, highly accurate indicated values of the pointers 61, 62, 63, 64, 65 and 66 can be obtained quickly.

本実施形態の指示値読取システムでは、画像処理装置12は、モニタ16が接続され、カメラ11の画像データと、画像処理装置12が処理する計測器51,52,53,54,55,56の画像データとをモニタ16に表示可能である。そのため、作業者は、カメラ11の視角や特定した計測器51,52,53,54,55,56を確認することができる。 In the indicated value reading system of this embodiment, the image processing device 12 is connected to the monitor 16, and the image data of the camera 11 and the measuring instruments 51, 52, 53, 54, 55, and 56 processed by the image processing device 12 are read. Image data can be displayed on the monitor 16 . Therefore, the operator can confirm the visual angle of the camera 11 and the specified measuring instruments 51 , 52 , 53 , 54 , 55 , 56 .

本実施形態の指示値読取システムでは、画像処理装置12は、処理に必要な設定データと、画像処理装置12により求められた指示針61,62,63,64,65,66の指示値のデータとをモニタ16に表示可能である。そのため、作業者は、処理内容を確認することができ、処理の間違いを容易に確認することができる。 In the indicated value reading system of the present embodiment, the image processing device 12 includes setting data necessary for processing, and indicated value data of the pointers 61, 62, 63, 64, 65, and 66 obtained by the image processing device 12. can be displayed on the monitor 16. Therefore, the operator can confirm the processing content and can easily confirm the processing error.

本実施形態の指示値読取方法は、計測器51,52,53,54,55,56の指示針61,62,63,64,65,66を撮影する工程と、撮影した指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値を求める工程と、指示針61,62,63,64,65,66の画像データを削除すると共に求めた指示針61,62,63,64,65,66の指示値のデータを送信する工程とを有する。そのため、送信装置13が送信する指示針61,62,63,64,65,66の指示値のデータは、デジタルデータとしての数値であることから低容量データとなり、大容量データを高速送信する送信装置が不要となる。その結果、導入コストの増加を抑制することができると共に、計測器の指示値を容易に読み取ることができる。 The indicated value reading method of the present embodiment includes a step of photographing the pointers 61, 62, 63, 64, 65, and 66 of the measuring instruments 51, 52, 53, 54, 55, and 56; , 63, 64, 65, 66 to obtain the indicated values of the pointers 61, 62, 63, 64, 65, 66; a step of deleting the image data and transmitting the obtained data of the indicated values of the pointers 61, 62, 63, 64, 65, 66; Therefore, the data of the indication values of the pointers 61, 62, 63, 64, 65, and 66 transmitted by the transmitting device 13 are numerical values as digital data, and thus are low-capacity data, and high-capacity data is transmitted at high speed. No equipment required. As a result, an increase in introduction cost can be suppressed, and the indicated value of the measuring instrument can be easily read.

本実施形態の指示値読取プログラムは、計測器51,52,53,54,55,56の指示針61,62,63,64,65,66を撮影する処理と、撮影した指示針61,62,63,64,65,66の画像データを処理して指示針61,62,63,64,65,66の指示値を求める処理と、指示針61,62,63,64,65,66の画像データを削除すると共に求めた指示針61,62,63,64,65,66の指示値のデータを送信する処理とを画像処理装置(コンピュータ)12に実行させる。そのため、送信装置13が送信する指示針61,62,63,64,65,66の指示値のデータは、デジタルデータとしての数値であることから低容量データとなり、大容量データを高速送信する送信装置が不要となる。その結果、導入コストの増加を抑制することができると共に、計測器の指示値を容易に読み取ることができる。 The indicated value reading program of the present embodiment includes processing for photographing the pointers 61, 62, 63, 64, 65, and 66 of the measuring instruments 51, 52, 53, 54, 55, and 56; , 63, 64, 65, 66 to obtain the indicated values of the pointers 61, 62, 63, 64, 65, 66; The image processing apparatus (computer) 12 is made to execute the process of deleting the image data and transmitting the obtained data of the indication values of the pointers 61, 62, 63, 64, 65, and 66. FIG. Therefore, the data of the indication values of the pointers 61, 62, 63, 64, 65, and 66 transmitted by the transmitting device 13 are numerical values as digital data, and thus are low-capacity data, and high-capacity data is transmitted at high speed. No equipment required. As a result, an increase in introduction cost can be suppressed, and the indicated value of the measuring instrument can be easily read.

なお、上述した実施形態では、画像処理装置12が所定の周期でカメラ11が撮影した指示針61,62,63,64,65,66の画像データを処理して指示値を求め、送信装置13が指示値のデータを送信するように構成したが、この構成に限定されるものではない。例えば、作業者が画像処理装置12に対して作動指令を入力すると、指示値読取システム10が作動するように構成してもよい。 In the above-described embodiment, the image processing device 12 processes the image data of the pointers 61, 62, 63, 64, 65, and 66 captured by the camera 11 at predetermined intervals to obtain the indicated values. is configured to transmit the data of the indicated value, but it is not limited to this configuration. For example, when an operator inputs an operation command to the image processing device 12, the indicated value reading system 10 may be configured to operate.

また、上述した実施形態では、6個の計測器51,52,53,54,55,56の指示針61,62,63,64,65,66の指示値を求める構成としたが、計測器の数は、いくつであってもよい。また、計測器51,52,53,54,55,56を円形とし、中心位置に指示針61,62,63,64,65,66が回動自在に支持されたものとしたが、この構成に限定されるものではない。例えば、計測器を矩形とし、指示針が直線状または弧状にスライド自在に支持されたものとしてもよい。 In the above-described embodiment, the six measuring instruments 51, 52, 53, 54, 55, and 56 are configured to obtain the indicated values of the pointers 61, 62, 63, 64, 65, and 66. may be any number. Also, the measuring instruments 51, 52, 53, 54, 55, 56 are circular, and the indicator needles 61, 62, 63, 64, 65, 66 are rotatably supported at the center position. is not limited to For example, the measuring instrument may be rectangular, and the pointer may be linearly or arcuately slidably supported.

10 指示値読取システム
11 カメラ
12 画像処理装置
12a 画像処理部
12b 画像認識部
12c 表示作成部
13 送信装置
14 記憶部
15 操作部
16 モニタ
17 電源部
20 監視システム
21 制御装置
22 受信装置
23 モニタ
31 第1表示部
32 第2表示部
33 第3表示部
34 第4表示部
51,52,53,54,55,56 計測器
61,62,63,64,65,66 指示針
71,72,73,74,75,76 目盛
100 現場
200 管理センター
REFERENCE SIGNS LIST 10 indicated value reading system 11 camera 12 image processing device 12a image processing unit 12b image recognition unit 12c display creation unit 13 transmission device 14 storage unit 15 operation unit 16 monitor 17 power supply unit 20 monitoring system 21 control device 22 reception device 23 monitor 31 th 1 display section 32 2nd display section 33 3rd display section 34 4th display section 51, 52, 53, 54, 55, 56 measuring instrument 61, 62, 63, 64, 65, 66 pointer 71, 72, 73, 74,75,76 Scale 100 Field 200 Control Center

Claims (18)

計測器の指示針を撮影可能なカメラと、
前記カメラに接続されて前記カメラが撮影した前記指示針の画像データを処理して前記指示針の指示値を求める画像処理装置と、
前記画像処理装置が求めた前記指示針の指示値のデータを送信する送信装置と、
を備え、
前記画像処理装置が求めた前記指示針の指示値を保存する記憶部が設けられ、
前記画像処理装置は、前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された閾値より低いときに、前記指示針の画像データを前記記憶部に保存する、
ことを特徴とする指示値読取システム。
a camera capable of photographing the pointer of the measuring instrument;
an image processing device connected to the camera and processing image data of the pointer photographed by the camera to obtain an indicated value of the pointer;
a transmission device for transmitting the data of the indication value of the pointer obtained by the image processing device;
with
A storage unit is provided for storing the indicated value of the pointer obtained by the image processing device,
The image processing device obtains the likelihood of the indication value of the pointer obtained by processing the image data of the pointer, and if the likelihood is lower than a preset threshold, the image data of the pointer in the storage unit;
An indicated value reading system characterized by:
前記画像処理装置は、所定の処理周期ごとに前記指示針の指示値を求め、前記送信装置は、所定の送信周期ごとに前記指示針の指示値のデータを送信しており、前記尤度が前記閾値より低いときに、前記送信装置は、前記画像処理装置が前回求めた前記指示針の指示値のデータを送信することを特徴とする請求項1に記載の指示値読取システム。 The image processing device obtains an indicated value of the pointer in each predetermined processing cycle, the transmission device transmits data of the indicated value of the pointer in each predetermined transmission cycle, and the likelihood is 2. The indicated value reading system according to claim 1, wherein, when the value is lower than the threshold value, the transmitting device transmits data of the indicated value of the pointer obtained last time by the image processing device. 計測器の指示針を撮影可能なカメラと、
前記カメラに接続されて前記カメラが撮影した前記指示針の画像データを処理して前記指示針の指示値を求める画像処理装置と、
前記画像処理装置が求めた前記指示針の指示値のデータを送信する送信装置と、
を備え、
前記画像処理装置は、前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求めると共に、所定の処理周期ごとに前記指示針の指示値を求め、
前記送信装置は、所定の送信周期ごとに前記指示針の指示値のデータを送信しており、前記尤度が予め設定された閾値より低いときに、前記送信装置は、前記画像処理装置が前回求めた前記指示針の指示値のデータを送信する、
ことを特徴とする指示値読取システム。
a camera capable of photographing the pointer of the measuring instrument;
an image processing device connected to the camera and processing image data of the pointer photographed by the camera to obtain an indicated value of the pointer;
a transmission device for transmitting the data of the indication value of the pointer obtained by the image processing device;
with
The image processing device obtains the likelihood of the indication value of the pointer obtained by processing the image data of the pointer, and obtains the indication value of the pointer for each predetermined processing cycle,
The transmitting device transmits the data of the indication value of the pointer in each predetermined transmission cycle, and when the likelihood is lower than a preset threshold value, the transmitting device transmits data indicating that the image processing device Transmitting the obtained data of the indicated value of the pointer;
An indicated value reading system characterized by:
計測器の指示針を撮影可能なカメラと、
前記カメラに接続されて前記カメラが撮影した前記指示針の画像データを処理して前記指示針の指示値を求める画像処理装置と、
前記画像処理装置が求めた前記指示針の指示値のデータを送信する送信装置と、
を備え、
前記画像処理装置は、前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された第1閾値以上であると、前記指示針の指示値のデータを前記送信装置により送信する一方、前記尤度が前記第1閾値より低く且つ前記第1閾値より小さい第2閾値以上であると、前記指示針の指示値を画像照合の類似値または前回値により補正して前記送信装置により送信する、
ことを特徴とする指示値読取システム。
a camera capable of photographing the pointer of the measuring instrument;
an image processing device connected to the camera and processing image data of the pointer photographed by the camera to obtain an indicated value of the pointer;
a transmission device for transmitting the data of the indication value of the pointer obtained by the image processing device;
with
The image processing device obtains the likelihood of the indication value of the pointer obtained by processing the image data of the pointer, and determines that the likelihood is equal to or greater than a preset first threshold value of the pointer. Data of an indication value is transmitted by the transmission device, and if the likelihood is lower than the first threshold value and equal to or greater than a second threshold value smaller than the first threshold value, the indication value of the pointer is regarded as a similarity value for image matching. or corrected by the previous value and transmitted by the transmitting device;
An indicated value reading system characterized by:
前記画像処理装置は、前記尤度が前記第1閾値より低く且つ前記第2閾値以上であり、前記指示針の指示値と前記類似値との差の絶対値が予め設定された偏差閾値以下であると、前記指示針の指示値を前記類似値により補正して前記送信装置により送信することを特徴とする請求項4に記載の指示値読取システム。 In the image processing device, the likelihood is lower than the first threshold and equal to or higher than the second threshold, and the absolute value of the difference between the indicated value of the pointer and the similarity value is equal to or lower than a preset deviation threshold. 5. The indicated value reading system according to claim 4 , wherein if there is, the indicated value of the pointer is corrected by the similar value and transmitted by the transmitting device. 前記画像処理装置は、前記指示針の指示値と前記類似値との差の絶対値が前記偏差閾値より高く、前記類似値の類似度が第3閾値以上であり、前記指示針の指示値と前記類似値との差の絶対値が前記前回値と前記類似値との差の絶対値以下であると、前記指示針の指示値を前記類似値により補正して前記送信装置により送信することを特徴とする請求項5に記載の指示値読取システム。 In the image processing device, the absolute value of the difference between the indicated value of the pointer and the similarity value is higher than the deviation threshold, the degree of similarity of the similarity value is equal to or higher than a third threshold, and the indicated value of the pointer and When the absolute value of the difference from the similarity value is less than or equal to the absolute value of the difference between the previous value and the similarity value, the indicated value of the pointer is corrected by the similarity value and transmitted by the transmitting device. 6. The indicated value reading system according to claim 5 . 前記画像処理装置は、前記指示針の指示値と前記類似値との差の絶対値が前記偏差閾値より高く、前記類似値の類似度が第3閾値以上であり、前記指示針の指示値と前記類似値との差の絶対値が前記前回値と前記類似値との差の絶対値より高いと、前記指示針の指示値を前記前回値により補正して前記送信装置により送信することを特徴とする請求項5または請求項6に記載の指示値読取システム。 In the image processing device, the absolute value of the difference between the indicated value of the pointer and the similarity value is higher than the deviation threshold, the degree of similarity of the similarity value is equal to or higher than a third threshold, and the indicated value of the pointer and When the absolute value of the difference from the similarity value is higher than the absolute value of the difference between the previous value and the similarity value, the indicated value of the pointer is corrected by the previous value and transmitted by the transmitting device. 7. The indicated value reading system according to claim 5 or 6 . 前記カメラと画像処理装置は、有線接続されることを特徴とする請求項1から請求項7のいずれか一項に記載の指示値読取システム。 The indicated value reading system according to any one of claims 1 to 7, wherein the camera and the image processing device are connected by wire. 前記画像処理装置は、前記指示針の画像データを処理して前記指示針の指示値を求めた後に前記指示針の画像データを削除することを特徴とする請求項1から請求項8のいずれか一項に記載の指示値読取システム。 9. The image processing device according to any one of claims 1 to 8, wherein after processing the image data of the pointer to obtain the indicated value of the pointer, the image data of the pointer is deleted. The indicated value reading system according to item 1 . 前記計測器に対して前記指示針の作動範囲および単位を割り当てておき、前記画像処理装置は、前記指示針の画像データを処理して前記指示針の指示値としての数値を求めることを特徴とする請求項1から請求項9のいずれか一項に記載の指示値読取システム。 The operating range and unit of the pointer are assigned to the measuring device, and the image processing device processes the image data of the pointer to obtain a numerical value as the indicated value of the pointer. The indicated value reading system according to any one of claims 1 to 9 . 前記カメラは、複数の前記計測器の指示針を撮影可能であり、前記画像処理装置は、前記カメラが撮影した複数の前記指示針の画像データを順に処理して前記指示針の指示値を求めることを特徴とする請求項1から請求項10のいずれか一項に記載の指示値読取システム。 The camera is capable of photographing a plurality of pointers of the measuring instrument, and the image processing device sequentially processes the image data of the plurality of pointers photographed by the camera to obtain an indicated value of the pointer. The indicated value reading system according to any one of claims 1 to 10, characterized in that: 前記画像処理装置は、前記カメラが撮影した画像データを画像処理して前記計測器の画像データを作成し、前記計測器の画像データを深層学習により前記計測器における前記指示針の指示値を求めることを特徴とする請求項1から請求項11のいずれか一項に記載の指示値読取システム。 The image processing device processes image data captured by the camera to create image data of the measuring device, and obtains an indicated value of the pointer in the measuring device by deep learning of the image data of the measuring device. The indicated value reading system according to any one of claims 1 to 11, characterized in that: 前記画像処理装置は、モニタが接続可能であり、前記カメラの画像データと、前記画像処理装置が処理する前記計測器の画像データとを前記モニタに表示可能であることを特徴とする請求項1から請求項12のいずれか一項に記載の指示値読取システム。 2. A monitor is connectable to said image processing device, and image data of said camera and image data of said measuring instrument processed by said image processing device can be displayed on said monitor. 13. An indication reading system according to any one of claims 12 to 12. 前記画像処理装置は、処理に必要な設定データと、前記画像処理装置により求められた前記指示針の指示値のデータとを前記モニタに表示可能であることを特徴とする請求項13に記載の指示値読取システム。 14. The image processing device according to claim 13 , wherein the image processing device is capable of displaying on the monitor setting data necessary for processing and data of the indication value of the pointer obtained by the image processing device. Indicated value reading system. 計測器の指示針を撮影する工程と、
撮影した前記指示針の画像データを処理して前記指示針の指示値を求める工程と、
前記指示針の画像データを削除すると共に求めた前記指示針の指示値のデータを送信する工程と、
を有し、
前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された閾値より低いときに、前記指示針の画像データを保存する、
ことを特徴とする指示値読取方法。
a step of photographing the pointer of the measuring instrument;
a step of processing the photographed image data of the pointer to obtain an indicated value of the pointer;
a step of deleting the image data of the pointer and transmitting the obtained data of the indicated value of the pointer;
has
determining the likelihood of the indicated value of the pointer obtained by processing the image data of the pointer, and storing the image data of the pointer when the likelihood is lower than a preset threshold;
An indicated value reading method characterized by:
計測器の指示針を撮影する工程と、
撮影した前記指示針の画像データを処理して前記指示針の指示値を求める工程と、
前記指示針の画像データを削除すると共に求めた前記指示針の指示値のデータを送信する工程と、
を有し、
前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された第1閾値以上であると、前記指示針の指示値のデータを送信する一方、前記尤度が前記第1閾値より低く且つ前記第1閾値より小さい第2閾値以上であると、前記指示針の指示値を画像照合の類似値または前回値により補正して送信する、
ことを特徴とする指示値読取方法。
a step of photographing the pointer of the measuring instrument;
a step of processing the photographed image data of the pointer to obtain an indicated value of the pointer;
a step of deleting the image data of the pointer and transmitting the obtained data of the indicated value of the pointer;
has
The likelihood of the indication value of the pointer obtained by processing the image data of the pointer is obtained, and if the likelihood is equal to or greater than a preset first threshold value, the data of the indication value of the pointer is transmitted. On the other hand, when the likelihood is lower than the first threshold and equal to or greater than a second threshold smaller than the first threshold, the indication value of the pointer is corrected by the similarity value or the previous value of image matching and transmitted.
An indicated value reading method characterized by:
計測器の指示針を撮影する処理と、
撮影した前記指示針の画像データを処理して前記指示針の指示値を求める処理と、
前記指示針の画像データを削除すると共に求めた前記指示針の指示値のデータを送信する処理と、
前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された閾値より低いときに、前記指示針の画像データを保存する処理と、
をコンピュータに実行させることを特徴とする指示値読取プログラム。
a process of photographing the pointer of the measuring instrument;
a process of processing the photographed image data of the pointer to obtain an indicated value of the pointer;
a process of deleting the image data of the pointer and transmitting the obtained data of the indicated value of the pointer;
A process of obtaining the likelihood of the indication value of the pointer obtained by processing the image data of the pointer, and storing the image data of the pointer when the likelihood is lower than a preset threshold;
An indicated value reading program characterized by causing a computer to execute
計測器の指示針を撮影する処理と、
撮影した前記指示針の画像データを処理して前記指示針の指示値を求める処理と、
前記指示針の画像データを削除すると共に求めた前記指示針の指示値のデータを送信する処理と、
前記指示針の画像データを処理して求めた前記指示針の指示値における尤度を求め、前記尤度が予め設定された第1閾値以上であると、前記指示針の指示値のデータを送信する一方、前記尤度が前記第1閾値より低く且つ前記第1閾値より小さい第2閾値以上であると、前記指示針の指示値を画像照合の類似値または前回値により補正して送信する処理と、
をコンピュータに実行させることを特徴とする指示値読取プログラム。
a process of photographing the pointer of the measuring instrument;
a process of processing the photographed image data of the pointer to obtain an indicated value of the pointer;
a process of deleting the image data of the pointer and transmitting the obtained data of the indicated value of the pointer;
The likelihood of the indication value of the pointer obtained by processing the image data of the pointer is obtained, and if the likelihood is equal to or greater than a preset first threshold value, the data of the indication value of the pointer is transmitted. On the other hand, when the likelihood is lower than the first threshold and equal to or greater than a second threshold smaller than the first threshold, a process of correcting the indication value of the pointer by the similarity value or the previous value of image collation and transmitting it. When,
An indicated value reading program characterized by causing a computer to execute
JP2019127964A 2019-07-09 2019-07-09 Indicated value reading system, method and program Active JP7187394B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019127964A JP7187394B2 (en) 2019-07-09 2019-07-09 Indicated value reading system, method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019127964A JP7187394B2 (en) 2019-07-09 2019-07-09 Indicated value reading system, method and program

Publications (2)

Publication Number Publication Date
JP2021012665A JP2021012665A (en) 2021-02-04
JP7187394B2 true JP7187394B2 (en) 2022-12-12

Family

ID=74227625

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019127964A Active JP7187394B2 (en) 2019-07-09 2019-07-09 Indicated value reading system, method and program

Country Status (1)

Country Link
JP (1) JP7187394B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002288780A (en) 2001-03-28 2002-10-04 Mitsubishi Electric Corp Automatic meter reader and instrumentation system using the same
JP2011006067A (en) 2005-10-06 2011-01-13 Koito Mfg Co Ltd Driving means and actuator
JP2012104032A (en) 2010-11-12 2012-05-31 Kansai Electric Power Co Inc:The Analog meter reading device and reading method
WO2018167974A1 (en) 2017-03-17 2018-09-20 株式会社Pfu Image processing device, control method, and control program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002288780A (en) 2001-03-28 2002-10-04 Mitsubishi Electric Corp Automatic meter reader and instrumentation system using the same
JP2011006067A (en) 2005-10-06 2011-01-13 Koito Mfg Co Ltd Driving means and actuator
JP2012104032A (en) 2010-11-12 2012-05-31 Kansai Electric Power Co Inc:The Analog meter reading device and reading method
WO2018167974A1 (en) 2017-03-17 2018-09-20 株式会社Pfu Image processing device, control method, and control program

Also Published As

Publication number Publication date
JP2021012665A (en) 2021-02-04

Similar Documents

Publication Publication Date Title
US11722642B2 (en) Machine-vision system and method for remote quality inspection of a product
DE102018214339A1 (en) INSPECTION DEVICE AND INSPECTION SYSTEM
US20210174086A1 (en) Ar gauge scanner using a mobile device application
JP5701262B2 (en) Inspection support system and method
CN100428782C (en) Information processing method and apparatus
JP2019194562A (en) Information processing device, information processing method and program
JP4169282B2 (en) Photogrammetry system and photogrammetry method
WO2017051735A1 (en) Image capture support system, device and method, and image capturing terminal
US11521120B2 (en) Inspection apparatus and machine learning method
JP7121644B2 (en) Temperature treatment device and temperature treatment method
JP2014002430A (en) Facility inspection system and measuring instrument for the same
US20200013170A1 (en) Information processing apparatus, rebar counting apparatus, and method
JP7187394B2 (en) Indicated value reading system, method and program
US10878555B2 (en) Image processing system, image processing device, and non-transitory computer readable recording medium
EP4127874A1 (en) Thermal imaging asset inspection systems and methods
CN110599471B (en) Rain gauge horizontal monitoring system based on image processing and detection method thereof
WO2018158815A1 (en) Inspection assistance device, inspection assistance method, and recording medium
JP6803940B2 (en) Remote meter reading computer, its method and program
JP6875850B2 (en) Field data collection system
JP6883699B1 (en) Flow estimation system, information processing equipment and programs
US20220076399A1 (en) Photographing guide device
JP2018106439A (en) Measurement support device
JP7116770B2 (en) Analog meter pointer reading method and analog meter pointer reading system
JPH05260477A (en) Site patrol system
JP7206236B2 (en) Indicated value reading system, method and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210825

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220603

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220808

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221130

R150 Certificate of patent or registration of utility model

Ref document number: 7187394

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150