JP2021051464A - Intrusion detection device and intrusion detection method - Google Patents

Intrusion detection device and intrusion detection method Download PDF

Info

Publication number
JP2021051464A
JP2021051464A JP2019173197A JP2019173197A JP2021051464A JP 2021051464 A JP2021051464 A JP 2021051464A JP 2019173197 A JP2019173197 A JP 2019173197A JP 2019173197 A JP2019173197 A JP 2019173197A JP 2021051464 A JP2021051464 A JP 2021051464A
Authority
JP
Japan
Prior art keywords
worker
intrusion
boundary
area
sign
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019173197A
Other languages
Japanese (ja)
Other versions
JP7126095B2 (en
Inventor
晃弘 小川
Akihiro Ogawa
晃弘 小川
浩 横川
Hiroshi Yokogawa
浩 横川
義幸 雑賀
Yoshiyuki Saiga
義幸 雑賀
杉岡 真吾
Shingo Sugioka
真吾 杉岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JFE Steel Corp
Original Assignee
JFE Steel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JFE Steel Corp filed Critical JFE Steel Corp
Priority to JP2019173197A priority Critical patent/JP7126095B2/en
Publication of JP2021051464A publication Critical patent/JP2021051464A/en
Application granted granted Critical
Publication of JP7126095B2 publication Critical patent/JP7126095B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Emergency Alarm Devices (AREA)
  • Alarm Systems (AREA)

Abstract

To accurately detect an intrusion of a worker into an intrusion restricted area even when a boundary of the intrusion restricted area is changed.SOLUTION: There is provided an intrusion detection device where a boundary L of an intrusion restricted area is divided by a movable marker 2 and which detects whether or not a worker W existing in a work area including the intrusion restricted area has intruded into the intrusion restricted area. The device includes: an image acquisition section 11A for acquiring a captured image obtained by imaging a work area; a worker identification section 11C for extracting an area of a worker W from a captured image acquired by the image acquisition section 11A with the use of a first learnt model 12A for recognizing the worker W; a boundary identification section 11B for identifying a position of the marker 2 so as to identify the boundary L from the position of the marker 2; and an intrusion determination section 11D for determining whether or not the worker W has intruded into the intrusion restricted area based on the boundary L to be identified by the boundary identification section 11B and an area of the worker W to be extracted by the worker identification section 11C.SELECTED DRAWING: Figure 1

Description

本発明は、境界の位置が適宜に変更される侵入制限エリアへの、作業員の侵入を監視するための技術に関する。本発明は、例えば、寸法違いの品物を対象とする検査ラインや載置倉庫等で、当該品物の寸法によって侵入制限エリアの境界が変化する施設に適用される。 The present invention relates to a technique for monitoring the intrusion of workers into an intrusion restricted area where the position of a boundary is appropriately changed. The present invention is applied to, for example, an inspection line or a storage warehouse for goods having different dimensions, in which the boundary of an intrusion restriction area changes depending on the dimensions of the goods.

製造された製品の検査ライン等においては、例えば、検査ラインに製品が搬送され固定されるまでは、作業員の安全のため、作業エリアのうちの一部の作業領域を侵入制限エリアとする。そして、作業員の安全が確保されてから、作業員により製品の検査が実行される。
侵入制限エリアを定め、作業員がその領域に入らないようにする技術としては、例えば特許文献1に記載の技術がある。特許文献1では、侵入検出装置が、画像の解析によって、警報灯が警報色を表示していることを判別し、かつ、侵入制限エリアに作業員が侵入していると判定した場合、立入り制限領域侵入者検出システムが異常時処理を行う。
In the inspection line of manufactured products, for example, a part of the work area is set as an intrusion restriction area for the safety of workers until the product is transported and fixed to the inspection line. Then, after the safety of the worker is ensured, the worker inspects the product.
As a technique for defining an intrusion restriction area and preventing workers from entering the area, for example, there is a technique described in Patent Document 1. In Patent Document 1, when the intrusion detection device determines that the warning light is displaying the alarm color by analyzing the image and determines that the worker has invaded the intrusion restricted area, the entry is restricted. The area intruder detection system handles abnormal situations.

国際公開第2012/039277号International Publication No. 2012/039277

特許文献1の技術は、既設の警報を利用する必要があり、且つ、侵入制限エリアが固定されていることが前提となっている。
しかし、鉄鋼業で製造される製品は、製品に応じて寸法も様々である。例えば鋼管の検査ラインでは、対象製品の鋼管の長さによって、侵入制限エリアの範囲が変化する。また、侵入制限エリアの変化により、固定の警報を準備することも困難である。
更に、検査の準備や検査を行う作業員は、様々な姿勢をとったり季節等により服装が異なったりするため、作業員の認識も通常の技術ではできないという問題があった。
The technique of Patent Document 1 is based on the premise that it is necessary to use an existing alarm and the intrusion restriction area is fixed.
However, the products manufactured in the steel industry have various dimensions depending on the products. For example, in a steel pipe inspection line, the range of the intrusion restriction area changes depending on the length of the steel pipe of the target product. It is also difficult to prepare a fixed alarm due to changes in the intrusion restriction area.
Further, since the workers who prepare for the inspection and perform the inspection take various postures and change their clothes depending on the season, there is a problem that the workers cannot be recognized by ordinary techniques.

本発明は、侵入制限エリアが製品寸法等によって適宜、変化する場合であっても、侵入制限エリアへの作業員の侵入を精度良く検知することを目的とする。 An object of the present invention is to accurately detect the intrusion of a worker into the intrusion restriction area even when the intrusion restriction area changes appropriately depending on the product dimensions and the like.

本発明者は、一般に使用されている既存の人認知データの流用では、作業員を精度良く認知できないことを突き止め、作業員を認識する個別の機械学習が必要であることの知見を得た。 The present inventor has found that it is not possible to accurately recognize a worker by diverting existing human recognition data that is generally used, and has obtained the finding that individual machine learning for recognizing a worker is required.

そして、課題解決のために、本発明の一態様によれば、移動可能な標識によって侵入制限エリアの境界が区画され、上記侵入制限エリアを含む作業エリアに存在する作業員の上記侵入制限エリアへの侵入の有無を検出する侵入検出装置であって、上記作業エリアを撮像した撮像画像を取得する画像取得部と、作業員を認識する第1の学習済みモデルを用いて、上記画像取得部が取得した撮像画像から作業員の領域を抽出する作業員特定部と、上記標識の位置を特定し、その標識の位置から上記境界を特定する境界特定部と、上記境界特定部が特定する境界と、上記作業員特定部が抽出する作業員の領域とに基づき、上記侵入制限エリアへの作業員の侵入の有無を判定する侵入判定部と、を備えることを要旨とする。 Then, in order to solve the problem, according to one aspect of the present invention, the boundary of the intrusion restriction area is divided by the movable sign, and the worker existing in the work area including the intrusion restriction area is moved to the intrusion restriction area. An intrusion detection device that detects the presence or absence of intrusion, and the image acquisition unit uses an image acquisition unit that acquires an image captured by capturing the work area and a first trained model that recognizes a worker. A worker specifying part that extracts a worker's area from the acquired captured image, a boundary specifying part that specifies the position of the marker and specifies the boundary from the position of the sign, and a boundary specified by the boundary specifying part. The gist is to include an intrusion determination unit for determining whether or not a worker has invaded the intrusion restricted area based on the worker area extracted by the worker identification unit.

また、本発明の他の態様によれば、移動可能な標識によって侵入制限エリアの境界が区画され、上記侵入制限エリアを含む作業エリアに存在する作業員の上記侵入制限エリアへの侵入の有無を検出する侵入検出方法であって、作業員を認識する第1の学習済みモデルを用いて、上記作業エリアを撮像した撮像画像から作業員の領域を抽出するステップと、上記標識の位置を特定し、その標識の位置から上記境界を特定するステップと、上記特定した境界と、上記抽出した作業員の領域とに基づき、上記侵入制限エリアへの作業員の侵入の有無を判定するステップと、を有することを要旨とする。 Further, according to another aspect of the present invention, the boundary of the intrusion restriction area is divided by the movable sign, and the presence or absence of invasion of the worker existing in the work area including the intrusion restriction area into the intrusion restriction area is determined. Using the first trained model that recognizes the worker, which is an intrusion detection method for detecting, the step of extracting the worker's area from the captured image obtained by capturing the work area and the position of the marker are specified. , A step of specifying the boundary from the position of the sign, and a step of determining whether or not a worker has invaded the intrusion restricted area based on the specified boundary and the extracted worker area. The gist is to have.

本発明の態様によれば、製品寸法の変化等の理由で、作業員の侵入を許可しない侵入制限エリアが適宜に変化するような場合であっても、侵入制限エリアへの作業員の侵入を精度良く検知して、侵入制限エリアへの作業員の侵入を確実に監視することが可能となる。この結果、本発明の態様によれば、例えば、侵入制限エリアに作業員が侵入した場合、速やかに警報を発することが可能となる。
ここで、作業員が様々な作業姿勢をとっても、ディープラーニング等の機械学習で事前学習された学習モデルによって、作業員を認識するため、確実に作業員の存在する領域を認識することが可能である。
According to the aspect of the present invention, even if the intrusion restricted area where the intrusion of workers is not permitted changes appropriately due to a change in product dimensions or the like, the intrusion of workers into the intrusion restricted area is allowed. It is possible to detect inaccurately and reliably monitor the intrusion of workers into the intrusion restricted area. As a result, according to the aspect of the present invention, for example, when a worker invades the intrusion restricted area, it is possible to promptly issue an alarm.
Here, even if the worker takes various working postures, the worker is recognized by the learning model pre-learned by machine learning such as deep learning, so that it is possible to surely recognize the area where the worker exists. is there.

本発明に基づく実施形態に係る侵入検出装置を説明するための概念図である。It is a conceptual diagram for demonstrating the intrusion detection apparatus which concerns on embodiment based on this invention. 本発明に基づく実施形態に係る監視制御部の構成を説明する図である。It is a figure explaining the structure of the monitoring control unit which concerns on embodiment based on this invention. 製品寸法の違いについての概念図である。It is a conceptual diagram about the difference in product dimensions. 複数の画像取得部を配置する例を示す概念図である。It is a conceptual diagram which shows the example which arranges a plurality of image acquisition parts. 第1の学習済みモデルを生成するための作業員の画像例を示す図である。It is a figure which shows the image example of the worker for generating the first trained model.

次に、本発明の実施形態について図面を参照して説明する。
ここで、図面は模式的なものであり、各部品の大きさや長さの比率等は現実のものとは異なる。また、以下に示す実施形態は、本発明の技術的思想を具体化するための構成を例示するものであって、本発明の技術的思想は、特許請求の範囲に記載された請求項が規定する技術的範囲内において、種々の変更を加えることができる。
Next, an embodiment of the present invention will be described with reference to the drawings.
Here, the drawings are schematic, and the size and length ratio of each part are different from the actual ones. Further, the embodiments shown below exemplify a configuration for embodying the technical idea of the present invention, and the technical idea of the present invention is defined by the claims described in the claims. Various changes can be made within the technical scope of the invention.

(構成)
本実施形態では、鉄鋼業で製造される製品の一例としての鋼管1を例示し、その鋼管1の検査ラインに、本実施形態の侵入検出装置を適用した場合を例に挙げて説明する。
図1は、鋼管1の検査ライン及び侵入検出装置の概念図である。
鋼管1の検査ラインでは、不図示の搬送装置14によって、作業エリアARA−1に検査対象の鋼管1が搬送され、搬送されてきた鋼管1の検査が終了すると(図1の状態)、鋼管1の並び方向に向けて搬送装置14の駆動で鋼管1が搬送される構成となっている。そして、作業エリアARA−1への鋼管1の搬送の際、及び、搬送装置14が駆動して、作業エリアARA−1からの鋼管1の搬送が行われるときには、鋼管1の設置位置、鋼管1の近傍及び鋼管1の移動可能なエリアが侵入制限エリアARA−2となる。ここで、搬送装置14は、例えばキッカー装置からなる。
(Constitution)
In the present embodiment, a steel pipe 1 as an example of a product manufactured in the steel industry will be illustrated, and a case where the intrusion detection device of the present embodiment is applied to the inspection line of the steel pipe 1 will be described as an example.
FIG. 1 is a conceptual diagram of an inspection line of a steel pipe 1 and an intrusion detection device.
In the inspection line of the steel pipe 1, the steel pipe 1 to be inspected is conveyed to the work area ARA-1 by the transfer device 14 (not shown), and when the inspection of the conveyed steel pipe 1 is completed (state in FIG. 1), the steel pipe 1 The steel pipe 1 is transported by driving the transport device 14 in the direction of arrangement. Then, when the steel pipe 1 is transported to the work area ARA-1 and when the transport device 14 is driven to transport the steel pipe 1 from the work area ARA-1, the installation position of the steel pipe 1 and the steel pipe 1 The vicinity of the area and the movable area of the steel pipe 1 are the intrusion restriction area ARA-2. Here, the transport device 14 is composed of, for example, a kicker device.

このとき、作業員Wが侵入制限エリアARA−2の可動の境界Lを認識できるように、当該境界Lの位置の上方に、看板からなる境界表示用の標識2が設けられている。この標識2は、天井側に架設されたワイヤロープ(不図示)から吊り下げされている。ワイヤロープは、作業エリアARA−1に載置された鋼管1の長手方向に沿って架設される。その架設されたワイヤロープに沿って、標識2が、作業エリアARA−1に載置された鋼管1の長手方向に向けて進退するように移動可能となっている。この標識2の移動は、遠隔操作でも良いし、標識2を手動で操作しても構わない。
なお、標識2は、移動させることができ、かつその位置が特定できる限りは、どのような態様であっても良い。
At this time, a boundary display sign 2 made of a signboard is provided above the position of the boundary L so that the worker W can recognize the movable boundary L of the intrusion restriction area ARA-2. The sign 2 is suspended from a wire rope (not shown) erected on the ceiling side. The wire rope is erected along the longitudinal direction of the steel pipe 1 placed on the work area ARA-1. Along the erected wire rope, the sign 2 can move back and forth in the longitudinal direction of the steel pipe 1 placed on the work area ARA-1. The movement of the sign 2 may be performed by remote control, or the sign 2 may be manually operated.
The sign 2 may be in any form as long as it can be moved and its position can be specified.

図3のように、検査対象となる鋼管1の寸法は様々である。現在、検査するために作業エリアARA−1に搬送されてきた鋼管1のうちの、最大寸法の鋼管1の端部前の床の上方に標識2が設定される。すなわち、上面視でみて、標識2の位置と鋼管1端部との間に緩衝空間が存在する。
本実施形態では、侵入制限エリアARA−2の境界は、標識2側だけが可変となっている。図1の例では、侵入制限エリアARA−2への作業員Wの侵入は、図1中の左側の境界L(標識2側)からと右側の境界からが考えられる。本実施形態では、図1中の左側の境界L(標識2側)からの作業員Wの侵入を監視の対象とする。
また、可動の境界Lは2以上あってもよい。その各可動の境界L毎に境界Lの移動方向に移動する標識2を設置すればよい。
本実施形態の侵入検出装置は、図1のように、監視カメラ10、監視制御部11、記憶部12を備える。
As shown in FIG. 3, the dimensions of the steel pipe 1 to be inspected are various. Currently, a sign 2 is set above the floor in front of the end of the steel pipe 1 having the maximum size among the steel pipes 1 transported to the work area ARA-1 for inspection. That is, when viewed from above, there is a buffer space between the position of the marker 2 and the end of the steel pipe 1.
In the present embodiment, the boundary of the intrusion restriction area ARA-2 is variable only on the sign 2 side. In the example of FIG. 1, the invasion of the worker W into the intrusion restriction area ARA-2 is considered to be from the left boundary L (mark 2 side) and the right boundary in FIG. In the present embodiment, the intrusion of the worker W from the boundary L (mark 2 side) on the left side in FIG. 1 is monitored.
Further, the movable boundary L may be 2 or more. A sign 2 that moves in the moving direction of the boundary L may be installed for each movable boundary L.
As shown in FIG. 1, the intrusion detection device of the present embodiment includes a surveillance camera 10, a surveillance control unit 11, and a storage unit 12.

<監視カメラ10>
監視カメラ10は、作業エリアARA−1を撮像して、その撮像画像を取得する。監視カメラ10の撮像エリアは、作業エリアARA−1全域である必要はなく、作業エリアARA−1のうちの可動の境界L近傍(例えば境界Lの1m前後の領域)のエリアが撮像可能であればよい。監視カメラ10は、例えば、侵入制限エリアARA−2と作業可能域(作業エリアARA−1のうち侵入制限エリアARA−2以外の領域)、両者の境界Lの標識2を左右に俯瞰でき、また、高さついても作業員W、境界Lを示す標識2、搬送機器等が俯瞰できる程度の高さに設置する。
監視カメラ10は、予め設定したサンプリング周期で、あるいは適宜のタイミングで撮像を実行する。
監視カメラ10の数は1台でも良い。しかし、監視カメラ10は、異なる位置に設置した2台以上有すると更に望ましい。監視カメラ10が2台以上あれば、作業員Wや標識2の位置が、3次元座標に変換可能で、より正確に両者W、2の位置関係が分かる。
<Surveillance camera 10>
The surveillance camera 10 images the work area ARA-1 and acquires the captured image. The imaging area of the surveillance camera 10 does not have to be the entire working area ARA-1, and the area in the working area ARA-1 near the movable boundary L (for example, an area around 1 m of the boundary L) can be imaged. Just do it. The surveillance camera 10 can overlook, for example, the intrusion restriction area ARA-2 and the workable area (the area other than the intrusion restriction area ARA-2 in the work area ARA-1), and the sign 2 at the boundary L between the two. Even if the height is high, the worker W, the sign 2 indicating the boundary L, the transport equipment, etc. should be installed at a height that allows a bird's-eye view.
The surveillance camera 10 executes imaging at a preset sampling cycle or at an appropriate timing.
The number of surveillance cameras 10 may be one. However, it is more desirable to have two or more surveillance cameras 10 installed at different positions. If there are two or more surveillance cameras 10, the positions of the worker W and the sign 2 can be converted into three-dimensional coordinates, and the positional relationship between the two W and 2 can be known more accurately.

<監視制御部11>
監視制御部11は、図2に示すように、画像取得部11A、境界特定部11B、作業員特定部11C、侵入判定部11Dを備える。また、本実施形態の監視制御部11は、警報発報部11E、機器停止部11F、警報発信部11Gを備える。
ここで、本実施形態の侵入検出装置は、図1に示すように、侵入制限エリアARA−2への作業員Wの侵入を報知するための警報機13を有する。警報機13は、作業員Wが視認しやすい位置に設ければよい。警報機13は、例えば、鋼管1端部に接近する作業員Wが視認可能なエリアに設置する。図1では、警報機13が左側に図示されているが、鋼管1よりも右側に配置されていると作業員Wから視認しやすい。
<Monitoring control unit 11>
As shown in FIG. 2, the monitoring control unit 11 includes an image acquisition unit 11A, a boundary identification unit 11B, a worker identification unit 11C, and an intrusion determination unit 11D. Further, the monitoring control unit 11 of the present embodiment includes an alarm issuing unit 11E, a device stop unit 11F, and an alarm transmitting unit 11G.
Here, as shown in FIG. 1, the intrusion detection device of the present embodiment has an alarm 13 for notifying the intrusion of the worker W into the intrusion restriction area ARA-2. The alarm 13 may be provided at a position where the worker W can easily see it. The alarm 13 is installed, for example, in an area where the worker W approaching the end of the steel pipe 1 can see. In FIG. 1, the alarm 13 is shown on the left side, but if it is arranged on the right side of the steel pipe 1, it is easy for the worker W to see it.

また本実施形態では、作業員Wが所持するスマホ等の移動端末15に、警報を出力可能な警報アプリ15Aがインストールされているとする。その警報アプリ15Aは、警報発信信号を受信すると立ち上がって警報を出力する構成となっているとする。警報の出力は例えば警報音とする。
また、記憶部12には、図2に示すように、第1の学習済みモデル12Aと、第2の学習済みモデル12Bが格納されている。
Further, in the present embodiment, it is assumed that the alarm application 15A capable of outputting an alarm is installed on the mobile terminal 15 such as a smartphone owned by the worker W. It is assumed that the alarm application 15A is configured to start up and output an alarm when it receives an alarm transmission signal. The output of the alarm is, for example, an alarm sound.
Further, as shown in FIG. 2, the storage unit 12 stores the first trained model 12A and the second trained model 12B.

<第1の学習済みモデル12A>
第1の学習済みモデル12Aは、次のようにして生成されたものである。
すなわち、複数の位置(監視カメラ10の設置位置が好ましい)から作業エリアARA−1を撮像した複数の撮像データから、図5に例示するような、様々な作業姿勢、大きさ、位置、背景有する作業員Wについての複数の画像を切り出し、切り出した複数の画像を学習用データ(画像)として、画像データベース20に保存する。画像枚数としては、例えば10万枚とする。
<First trained model 12A>
The first trained model 12A is generated as follows.
That is, it has various working postures, sizes, positions, and backgrounds as illustrated in FIG. 5 from a plurality of image data obtained by imaging the work area ARA-1 from a plurality of positions (preferably the installation position of the surveillance camera 10). A plurality of images of the worker W are cut out, and the cut out plurality of images are stored in the image database 20 as learning data (images). The number of images is, for example, 100,000.

次に、画像データベースに保存された画像データをラベル付けする(ラベリング処理)。
次に、ラベル付けした画像データを用いて、ニューラルネットワークその他の機械学習にて学習を行うことで、作業員Wを認識する特徴を抽出した第1の学習済みモデル12Aを生成する。なお、作業員の作業姿勢毎に個々に機械学習にて学習を行って、作業員Wを認識する第1の学習済みモデル12Aを2以上生成しておき、2以上の第1の学習済みモデル12Aを、作業員特定部11Cで使用するようにしても良い。
第1の学習済みモデル12Aを生成する機械学習の種類や学習の方法については、ディープラーニングなど、公知の方法を採用すればよい。
Next, the image data stored in the image database is labeled (labeling process).
Next, using the labeled image data, learning is performed by a neural network or other machine learning to generate a first trained model 12A in which the feature of recognizing the worker W is extracted. It should be noted that each worker's working posture is individually learned by machine learning to generate two or more first trained models 12A that recognize the worker W, and two or more first trained models are generated. 12A may be used in the worker identification unit 11C.
As for the type of machine learning and the learning method for generating the first trained model 12A, a known method such as deep learning may be adopted.

<第2の学習済みモデル12B>
第2の学習済みモデル12Bについても、第1の学習済みモデル12Aと同様な手法によって生成すればよい。
すなわち、現場の撮像データから、様々な場所(位置、背景)や向きから撮像した標識2の画像を切り出し、切り出した複数の画像を学習用データ(画像)として保存する。
次に、切り出した画像データをラベル付けする。
次に、ラベル付けした画像データをニューラルネットワークその他の機械学習で学習を行い、標識2を認識する特徴を抽出した第2の学習済みモデル12Bを生成する。
<Second trained model 12B>
The second trained model 12B may also be generated by the same method as that of the first trained model 12A.
That is, images of the sign 2 captured from various places (positions, backgrounds) and directions are cut out from the imaged data at the site, and the cut out plurality of images are saved as learning data (images).
Next, the cut out image data is labeled.
Next, the labeled image data is trained by a neural network or other machine learning to generate a second trained model 12B from which the feature for recognizing the marker 2 is extracted.

<画像取得部11A>
画像取得部11Aは、監視カメラ10が撮像した撮像画像を取得する。
<境界特定部11B>
境界特定部11Bは、標識2の位置を特定し、その特定した標識2の位置から、侵入制限エリアARA−2の可動の境界Lの位置を特定する。
本実施形態の境界特定部11Bは、標識2を認識する第2の学習済みモデル12Bを用いて、画像取得部11Aが取得した撮像画像から標識2の位置を特定する処理を行う。すなわち、対象となる撮像画像に対し、第2の学習済みモデル12Bによる特徴に類似する特徴位置のサーチを掛けて、標識2が存在するエリアの位置を抽出する。この境界特定部11Bによる標識2の位置の特定は、可動の境界Lが変更したと判定する度に1度だけ実行すればよい。
<Image acquisition unit 11A>
The image acquisition unit 11A acquires the captured image captured by the surveillance camera 10.
<Boundary identification part 11B>
The boundary specifying unit 11B specifies the position of the sign 2, and from the specified position of the sign 2, the position of the movable boundary L of the intrusion restriction area ARA-2 is specified.
The boundary specifying unit 11B of the present embodiment uses the second learned model 12B that recognizes the sign 2 to perform a process of specifying the position of the sign 2 from the captured image acquired by the image acquisition unit 11A. That is, the target captured image is searched for a feature position similar to the feature by the second trained model 12B, and the position of the area where the marker 2 exists is extracted. The position of the sign 2 by the boundary specifying unit 11B needs to be specified only once each time it is determined that the movable boundary L has changed.

そして、境界特定部11Bは、抽出した標識2が存在するエリアの下方位置を、侵入制限エリアARA−2の境界Lの位置とする。なお、境界Lは、標識2の重心位置の下方を含みかつ標識2の進退方向に直交する仮想上のラインとする。この境界Lよりも鋼管1側が侵入制限エリアARA−2のエリアとなる。
ここで、境界特定部11Bは、第2の学習済みモデル12Bを用いずに、標識2の位置を特定(推定)してもよい。例えば、標識2に室内GPSを設置し、その室内GPSを用いて標識2位置を特定しても良い。また、標識2を進退させるワイヤの巻取り装置の巻取り量に応じて、標識2の位置を特定してもよい。また、鋼管1の設置位置が予め決まっているので、テストする鋼管1の寸法を上位コンピュータから取得し、その取得した鋼管1の長さから、検査エリアに設置される鋼管1端部の位置を推定し、標識2及び境界L位置を推定するようにしても良い。
Then, the boundary specifying unit 11B sets the position below the area where the extracted sign 2 exists as the position of the boundary L of the intrusion restriction area ARA-2. The boundary L is a virtual line including the lower part of the center of gravity of the sign 2 and orthogonal to the advancing / retreating direction of the sign 2. The steel pipe 1 side of the boundary L is the intrusion restriction area ARA-2.
Here, the boundary specifying unit 11B may specify (estimate) the position of the marker 2 without using the second trained model 12B. For example, an indoor GPS may be installed on the sign 2 and the position of the sign 2 may be specified using the indoor GPS. Further, the position of the sign 2 may be specified according to the winding amount of the wire winding device for advancing and retreating the sign 2. Further, since the installation position of the steel pipe 1 is determined in advance, the dimensions of the steel pipe 1 to be tested are acquired from a host computer, and the position of the end of the steel pipe 1 to be installed in the inspection area is determined from the acquired length of the steel pipe 1. It may be estimated and the position of the marker 2 and the boundary L may be estimated.

<作業員特定部11C>
作業員特定部11Cは、作業員Wを認識する第1の学習済みモデル12Aを用いて、画像取得部11Aが取得した撮像画像から、作業員Wの領域W−ARAを抽出する処理を行う。すなわち、対象となる撮像画像に対して、第1の学習済みモデル12Aによる特徴に類似する特徴位置のサーチを掛けて、作業員Wが存在する領域W−ARAを抽出する。
作業員Wの領域W−ARAは、例えば、四角形のエリアとする。
ここで、境界特定部11Bが使用する撮像画像と、作業員特定部11Cが使用する撮像画像は同じである必要はない。境界特定部11Bが使用する撮像画像は、侵入制限エリアARA−2を設置する際に、1回取得すればよいが、作業員特定部11Cが使用する撮像画像は、侵入制限エリアARA−2の設定中に、所定サンプリング周期で取得して、作業員抽出の処理を行うことが好ましい。サンプリング周期は、例えば0.5秒とする。
<Worker identification unit 11C>
The worker identification unit 11C uses the first learned model 12A that recognizes the worker W to perform a process of extracting the region W-ARA of the worker W from the captured image acquired by the image acquisition unit 11A. That is, the target captured image is searched for a feature position similar to the feature by the first trained model 12A, and the region W-ARA in which the worker W exists is extracted.
The area W-ARA of the worker W is, for example, a quadrangular area.
Here, the captured image used by the boundary specifying unit 11B and the captured image used by the worker specifying unit 11C do not have to be the same. The captured image used by the boundary specifying unit 11B may be acquired once when the intrusion restriction area ARA-2 is installed, but the captured image used by the worker specifying unit 11C is in the intrusion restriction area ARA-2. During the setting, it is preferable to acquire at a predetermined sampling cycle and perform the worker extraction process. The sampling period is, for example, 0.5 seconds.

<侵入判定部11D>
侵入判定部11Dは、境界特定部11Bが特定する境界Lと、作業員特定部11Cが抽出する作業員Wの領域W−ARAとに基づき、侵入制限エリアARA−2への作業員Wの侵入の有無を判定する。
例えば、侵入判定部11Dは、作業員特定部11Cが抽出した作業員Wが存在する領域W−ARAと、境界特定部11Bが特定した境界Lで区画される侵入制限エリアARA−2のエリアとに重なりが有ると判定した場合には、侵入制限エリアARA−2への作業員Wの侵入が有りと判定する。一方、それ以外の場合には、侵入判定部11Dは、侵入制限エリアARA−2への作業員Wの侵入が無しと判定する。
重なりは、平面視で見た状態での重なりで判定すればよいが、水平2方向のうち、標識2の進退方向(境界Lに直交する方向(x方向とする))の座標位置だけで判断すればよい。
<Intrusion determination unit 11D>
The intrusion determination unit 11D invades the intrusion restriction area ARA-2 based on the boundary L specified by the boundary identification unit 11B and the area W-ARA of the worker W extracted by the worker identification unit 11C. Judge the presence or absence of.
For example, the intrusion determination unit 11D includes an area W-ARA in which the worker W extracted by the worker identification unit 11C exists and an area of the intrusion restriction area ARA-2 partitioned by the boundary L specified by the boundary identification unit 11B. If it is determined that there is an overlap, it is determined that the worker W has invaded the intrusion restriction area ARA-2. On the other hand, in other cases, the intrusion determination unit 11D determines that the worker W has not invaded the intrusion restriction area ARA-2.
The overlap may be determined by the overlap in a plan view, but it is determined only by the coordinate position in the advancing / retreating direction of the sign 2 (the direction orthogonal to the boundary L (referred to as the x direction)) out of the two horizontal directions. do it.

なお、標識2や作業員Wの領域W−ARAの認識は、画像上の一定領域を占めるので、重心点等を利用して位置を特定してもよい。但し、作業員Wの領域W−ARAと侵入制限エリアARA−2(境界L位置の座標に基づく)との重なりで判定した方が、早期に侵入を検知することが可能である。重なりで判定した場合、例えば、作業員Wの腕だけが境界Lをまたいでいる場合も検知可能となる。
また、侵入判定部11Dは、作業員Wの侵入が所定時間以上(例えば1秒以上)連続して行われた場合に、侵入した場合だけ侵入有りと判定しても良い。この場合、作業員Wが一瞬だけ境界Lを跨いだ場合を除外することができる。
Since the recognition of the area W-ARA of the sign 2 and the worker W occupies a certain area on the image, the position may be specified by using the center of gravity point or the like. However, it is possible to detect intrusion at an early stage by making a judgment based on the overlap between the area W-ARA of the worker W and the intrusion restriction area ARA-2 (based on the coordinates of the boundary L position). When the determination is made based on the overlap, for example, even when only the arm of the worker W straddles the boundary L can be detected.
Further, the intrusion determination unit 11D may determine that there is an intrusion only when the worker W invades continuously for a predetermined time or more (for example, 1 second or more). In this case, it is possible to exclude the case where the worker W straddles the boundary L for a moment.

<警報発報部11E>
警報発報部11Eは、侵入判定部11Dが作業員Wの侵入有りと判定すると、警報機13に警報指令を出力する。警報機13は、警報指令を入力すると警報を報知する。
<機器停止部11F>
機器停止部11Fは、侵入判定部11Dが作業員Wの侵入有りと判定すると、侵入制限エリアARA−2で稼働している機器に停止命令を出力する。停止命令を入力した機器は駆動を停止する。
<Alarm alarm unit 11E>
When the intrusion determination unit 11D determines that the worker W has invaded, the alarm issuing unit 11E outputs an alarm command to the alarm device 13. The alarm device 13 notifies an alarm when an alarm command is input.
<Equipment stop 11F>
When the intrusion determination unit 11D determines that the worker W has invaded, the equipment stop unit 11F outputs a stop command to the equipment operating in the intrusion restriction area ARA-2. The device for which the stop command is input stops driving.

<警報発信部11G>
警報発信部11Gは、侵入判定部11Dが作業員Wの侵入有りと判定すると、警報アプリ15Aに警報発信信号を送信する。警報発信信号が送信された警報アプリ15Aは警報を発する処理を行う。警報発信信号の送信は、例えば作業エリアARA−1に設置されたWifi機器を介して実行され、作業エリアARA−1に居る作業員Wの所持する移動端末15に送信される。
ここで、一つの監視カメラ10で、作業エリアARA−1の全域のエリアを撮像する場合、監視カメラ10から遠い位置の情報は、作業員Wの認定が不正確となる可能性が高い。例えば、鋼管1等や設備で作業員Wの一部が隠れ、作業員Wの認識が不正確となる可能性がある。
<Alarm transmitter 11G>
When the intrusion determination unit 11D determines that the worker W has invaded, the alarm transmission unit 11G transmits an alarm transmission signal to the alarm application 15A. The alarm application 15A to which the alarm transmission signal is transmitted performs a process of issuing an alarm. The transmission of the alarm transmission signal is executed, for example, via the Wifi device installed in the work area ARA-1, and is transmitted to the mobile terminal 15 owned by the worker W in the work area ARA-1.
Here, when one surveillance camera 10 captures the entire area of the work area ARA-1, there is a high possibility that the certification of the worker W will be inaccurate for the information at a position far from the surveillance camera 10. For example, a part of the worker W may be hidden by a steel pipe 1 or the like or equipment, and the recognition of the worker W may be inaccurate.

また標識2と作業員Wとの境界L方向の位置関係によっては、標識から離れた位置にある監視カメラの撮像方向から見た場合に、境界Lと作業員Wの位置とが反転して見える場合がある。
このため、本実施形態では、図4に示すように、標識2の移動方向(進退方向)と平行な方向に沿って複数台の監視カメラ10A〜10Eを設置している。なお、標識2は、上方に位置するため、鋼管1に隠れるとなく認識できるため、どの監視カメラ10の撮像画像を採用しても構わない。
Further, depending on the positional relationship between the sign 2 and the worker W in the boundary L direction, the positions of the boundary L and the worker W appear to be inverted when viewed from the imaging direction of the surveillance camera located away from the sign. In some cases.
Therefore, in the present embodiment, as shown in FIG. 4, a plurality of surveillance cameras 10A to 10E are installed along the direction parallel to the moving direction (advancing / retreating direction) of the sign 2. Since the sign 2 is located above, it can be recognized without being hidden by the steel pipe 1, and therefore, the captured image of any surveillance camera 10 may be adopted.

上記のように複数台の監視カメラ10を使用する場合、画像取得部11Aは、複数台の監視カメラ10のうち、境界特定部11Bが特定した標識2の位置に一番近い監視カメラ10が撮像した撮像画像を、作業員Wの領域W−ARAを抽出するための撮像画像として取得し、作業員特定部11Cに供給する。
具体的には、作業エリアARA−1を、標識2の移動方向に沿って複数の区画Z1〜Z5に区分し、各区画Z1〜Z5毎に対象の区画に向けて監視カメラ10A〜10Eの撮像軸を配置し、各監視カメラ10で、その対象とする区分全域が少なくとも撮像できるように設定する。
When a plurality of surveillance cameras 10 are used as described above, the image acquisition unit 11A is captured by the surveillance camera 10 closest to the position of the sign 2 specified by the boundary identification unit 11B among the plurality of surveillance cameras 10. The captured image is acquired as an captured image for extracting the region W-ARA of the worker W, and is supplied to the worker specifying unit 11C.
Specifically, the work area ARA-1 is divided into a plurality of compartments Z1 to Z5 along the moving direction of the sign 2, and each of the compartments Z1 to Z5 is imaged by the surveillance cameras 10A to 10E toward the target compartment. The axes are arranged so that each surveillance camera 10 can capture at least the entire target division.

ここで、標識2の位置に最も近い監視カメラ10を、監視カメラ10の画像のみから判断する方法としては、例えば、各監視カメラ10の対象とする区画を各監視カメラ10の撮像範囲の水平方向中心部に配置し、各監視画像に移る標識2が撮像範囲の水平方向のもっとも中央に存在する監視カメラが最も標識2に近い監視カメラと判断するという方法が考えられる。
そして、画像取得部11Aは、標識2が位置していると推定される区分の監視カメラ10の画像を、作業員特定部11Cに供給する。
Here, as a method of determining the surveillance camera 10 closest to the position of the sign 2 only from the image of the surveillance camera 10, for example, the target section of each surveillance camera 10 is set in the horizontal direction of the imaging range of each surveillance camera 10. A method is conceivable in which a surveillance camera that is arranged in the center and has a marker 2 that moves to each surveillance image in the center of the horizontal direction of the imaging range is determined to be the surveillance camera that is closest to the marker 2.
Then, the image acquisition unit 11A supplies the image of the surveillance camera 10 in the category where the sign 2 is presumed to be located to the worker identification unit 11C.

このような標識2に近い位置の監視カメラ10の撮像画像を利用して作業員Wとの位置関係を判定することで、作業員Wと標識2との位置関係を正確に画像上で判断可能となる。
なお、全ての監視カメラ10A〜10Eの撮像画像を、作業員特定部11Cに供給して、全ての撮像画像を作業員抽出の抽出対象としてもよい。
なお、図1中右側の固定の境界L近傍を撮像するカメラ10の撮像画像に基づき、上記作業員特定部11Cの処理を実行して、侵入制限エリアARA−2の右側の境界からの侵入者の侵入を別途検知するようにしても良い。
By determining the positional relationship with the worker W using the image captured by the surveillance camera 10 at a position close to the sign 2, the positional relationship between the worker W and the sign 2 can be accurately determined on the image. It becomes.
The captured images of all the surveillance cameras 10A to 10E may be supplied to the worker specifying unit 11C, and all the captured images may be extracted by the worker.
In addition, based on the image captured by the camera 10 that captures the vicinity of the fixed boundary L on the right side in FIG. 1, the process of the worker identification unit 11C is executed, and an intruder from the right boundary of the intrusion restriction area ARA-2 is executed. Intrusion may be detected separately.

(動作その他)
侵入検出装置は、鋼管1の搬送等の際に、作業エリアARA−1のうち、鋼管1が載置される領域を含むエリアを、一時的に侵入制限エリアARA−2とする。
このとき、標識2を進退させて、標識2を鋼管1端部近傍に移動させておく。標識2の移動は、適宜行われる。鋼管1に作業エリアARA−1が載置された状態では、検査の際に標識2を鋼管1端部近傍に設定しておく。
侵入検出装置は、監視カメラ10が作業エリアARA−1を撮像し、境界特定部11Bが、可動の境界Lの位置を特定するとともに、作業員特定部11Cが、所定サンプリング周期で取得した作業エリアARA−1の撮像画像を元に、作業員Wの領域W−ARAを特定する。
(Operation and others)
The intrusion detection device temporarily sets the area including the area on which the steel pipe 1 is placed in the work area ARA-1 as the intrusion restriction area ARA-2 when the steel pipe 1 is conveyed.
At this time, the sign 2 is moved back and forth to move the sign 2 to the vicinity of the end of the steel pipe 1. The movement of the sign 2 is performed as appropriate. When the work area ARA-1 is placed on the steel pipe 1, the sign 2 is set near the end of the steel pipe 1 at the time of inspection.
In the intrusion detection device, the surveillance camera 10 images the work area ARA-1, the boundary identification unit 11B identifies the position of the movable boundary L, and the worker identification unit 11C acquires the work area at a predetermined sampling cycle. Based on the captured image of ARA-1, the region W-ARA of the worker W is specified.

そして、侵入検出装置は、特定した境界Lの位置と作業員Wの領域W−ARAの重なりから、作業員Wが侵入制限エリアARA−2に侵入しているか否か判定する。具体的に、作業員Wが可動の境界L側の侵入制限エリアARA−2への侵入を判定する。
侵入検出装置は、作業員Wが、侵入制限エリアARA−2にいると判定した場合は、警報機13に警報信号を出力することで、侵入していることを報知する警報が警報器3から出される。
併せて、侵入検出装置は、侵入制限エリアARA−2内にある、作業員Wの危険が伴う稼働中の機器(例えば、パイプ搬送装置14)を非常停止の指令を出力する。
更に侵入検出装置は、作業員Wの持つ移動端末15(スマートフォン等)に直接侵入制限エリアARA−2内に侵入したことを知らせる警報発報の指示する信号を送信する。スマートフォンは指示によって警報アプリ15Aが立ちあがり警報を発報する。
なお、以上の警報処理を、全て有している必要はない。
Then, the intrusion detection device determines whether or not the worker W has invaded the intrusion restriction area ARA-2 from the overlap of the specified boundary L position and the area W-ARA of the worker W. Specifically, the worker W determines the intrusion into the intrusion restriction area ARA-2 on the movable boundary L side.
When the intrusion detection device determines that the worker W is in the intrusion restriction area ARA-2, the intrusion detection device outputs an alarm signal to the alarm 13 to notify the intrusion from the alarm device 3. It will be issued.
At the same time, the intrusion detection device outputs an emergency stop command to the operating equipment (for example, the pipe transfer device 14) in the intrusion restriction area ARA-2, which is in danger of the worker W.
Further, the intrusion detection device transmits a signal instructing an alarm to notify that the worker W has directly entered the intrusion restriction area ARA-2 to the mobile terminal 15 (smartphone or the like). When the smartphone is instructed, the alarm application 15A starts up and issues an alarm.
It is not necessary to have all of the above alarm processing.

ここで、複数監視カメラ10を利用する場合、標識2の位置で特定される境界L位置に最も近い監視カメラ10の撮像画像を利用するのが望ましい。
また、異なる位置に設置した2台以上の監視カメラ10の撮像画像で同一の標識2を認識することで、予め設定した3次元座標系での統一した標識2の座標系を取得することが可能となる。この場合、境界Lの標識2に最も近い監視カメラ10と標識2を挟んで反対側に存在する監視カメラ10を選択して作業員Wの認識に使用する。標識2と最も近い監視カメラ10をまず選択することで、作業員Wが標識2に近づいたときの判定精度が向上する。また、標識2を挟んで反対側にある監視カメラ10を利用することで、標識2の両側の位置を認識できるからである。また、その際、標識2から最も遠い監視カメラ10を選択することがより望ましい。より広く監視領域を得ることができるからである。
Here, when using the plurality of surveillance cameras 10, it is desirable to use the captured image of the surveillance camera 10 closest to the boundary L position specified by the position of the sign 2.
Further, by recognizing the same sign 2 in the captured images of two or more surveillance cameras 10 installed at different positions, it is possible to acquire the unified coordinate system of the sign 2 in the preset three-dimensional coordinate system. It becomes. In this case, the surveillance camera 10 closest to the sign 2 on the boundary L and the surveillance camera 10 existing on the opposite side of the sign 2 are selected and used for the recognition of the worker W. By first selecting the surveillance camera 10 closest to the sign 2, the determination accuracy when the worker W approaches the sign 2 is improved. Further, by using the surveillance camera 10 on the opposite side of the sign 2, the positions on both sides of the sign 2 can be recognized. At that time, it is more desirable to select the surveillance camera 10 farthest from the sign 2. This is because a wider monitoring area can be obtained.

このように、複数台の監視カメラ10を同時に利用する場合は、作業員Wの認識においても、統一された3次元座標系(特定の監視カメラ10の3次元座標に統一してもよいし、別の統一3次元座標系を定めても良い)で、作業員Wの位置が確認できる。認識された標識2位置と認識された作業員Wの位置関係によって、作業員Wが侵入制限エリアARA−2に存在するかどうかが判別できる。
以上のように、本実施形態の侵入検出装置は、工場内等で作業員Wが安全のために侵入が制限された侵入制限エリアARA−2にいるかどうかを判定する。侵入制限エリアARA−2に作業員が居ると判定する場合には、警報を発し、作業員Wに注意喚起し、危険な機器が稼働中であれば、機器を非常停止させ、作業員Wの安全を図る。これにより、工場操業を安全に、安定して稼働させることにより、安全かつ生産効率の高い工場操業を実現できる。
In this way, when a plurality of surveillance cameras 10 are used at the same time, the worker W may recognize the unified three-dimensional coordinate system (the three-dimensional coordinates of the specific surveillance camera 10 may be unified). The position of the worker W can be confirmed by another unified three-dimensional coordinate system). Whether or not the worker W exists in the intrusion restriction area ARA-2 can be determined from the positional relationship between the recognized sign 2 positions and the recognized worker W.
As described above, the intrusion detection device of the present embodiment determines whether or not the worker W is in the intrusion restriction area ARA-2 in which the intrusion is restricted for safety in the factory or the like. When it is determined that there is a worker in the intrusion restriction area ARA-2, an alarm is issued to alert the worker W, and if a dangerous device is in operation, the device is stopped in an emergency, and the worker W's For safety. As a result, safe and stable factory operation can be realized, and safe and highly efficient factory operation can be realized.

すなわち、侵入検出装置は、作業員Wが侵入制限エリアARA−2に入った場合には、警報を発することができる効果がある。
また、侵入検出装置は、作業員Wが有するスマートフォン等の移動端末15に警報を送信することにより、工場内の騒音で警報が聞こえない場合や、警報ランプが見えない場所に作業員Wがいても、直接作業員Wが所有するスマートフォンの警報アプリ15Aが起動し、危険を伝えることにより、作業員Wに注意喚起することができる。
このように、侵入検出装置は、作業員の不安全行動(稼働ラインへの侵入等)映像解析で検知し、アラームを発報又は設備を停止して、労働災害を未然に防止することができる。
That is, the intrusion detection device has an effect of being able to issue an alarm when the worker W enters the intrusion restriction area ARA-2.
Further, the intrusion detection device transmits an alarm to the mobile terminal 15 such as a smartphone owned by the worker W, so that the worker W is in a place where the alarm cannot be heard due to noise in the factory or the alarm lamp cannot be seen. However, the alarm application 15A of the smartphone owned by the worker W is directly activated, and the worker W can be alerted by notifying the danger.
In this way, the intrusion detection device can detect unsafe behavior of workers (intrusion into the operating line, etc.) by video analysis, issue an alarm or stop the equipment, and prevent occupational accidents. ..

1 鋼管
2 標識
10 監視カメラ
11 監視制御部
11A 画像取得部
11B 境界特定部
11C 作業員特定部
11D 侵入判定部
11E 警報発報部
11F 機器停止部
11G 警報発信部
12 記憶部
12A 第1の学習済みモデル
12B 第2の学習済みモデル
13 警報機
14 搬送装置
15 移動端末
15A 警報アプリ
ARA−1 作業エリア
ARA−2 侵入制限エリア
L 境界
W 作業員
W−ARA 作業員の領域
1 Steel pipe 2 Sign 10 Surveillance camera 11 Surveillance control unit 11A Image acquisition unit 11B Boundary identification unit 11C Worker identification unit 11D Intrusion determination unit 11E Alarm alarm unit 11F Equipment stop unit 11G Alarm transmission unit 12 Storage unit 12A First learned Model 12B Second learned model 13 Alarm 14 Transport device 15 Mobile terminal 15A Alarm app ARA-1 Work area ARA-2 Intrusion restriction area L Boundary W Worker W-ARA Worker area

Claims (10)

移動可能な標識によって侵入制限エリアの境界が区画され、上記侵入制限エリアを含む作業エリアに存在する作業員の上記侵入制限エリアへの侵入の有無を検出する侵入検出装置であって、
上記作業エリアを撮像した撮像画像を取得する画像取得部と、
作業員を認識する第1の学習済みモデルを用いて、上記画像取得部が取得した撮像画像から作業員の領域を抽出する作業員特定部と、
上記標識の位置を特定し、その標識の位置から上記境界を特定する境界特定部と、
上記境界特定部が特定する境界と、上記作業員特定部が抽出する作業員の領域とに基づき、上記侵入制限エリアへの作業員の侵入の有無を判定する侵入判定部と、
を備えることを特徴とする侵入検出装置。
An intrusion detection device in which the boundary of the intrusion restriction area is demarcated by a movable sign, and the presence or absence of intrusion of a worker existing in the work area including the intrusion restriction area into the intrusion restriction area is detected.
An image acquisition unit that acquires an image captured by capturing the above work area, and an image acquisition unit.
Using the first trained model that recognizes the worker, the worker identification unit that extracts the worker's area from the captured image acquired by the image acquisition unit, and the worker identification unit.
A boundary specifying part that identifies the position of the sign and specifies the boundary from the position of the sign,
An intrusion determination unit that determines whether or not a worker has invaded the intrusion restriction area based on the boundary specified by the boundary identification unit and the worker area extracted by the worker identification unit.
An intrusion detection device comprising.
上記第1の学習済みモデルは、上記作業エリアで作業している作業員を撮像した複数の画像に基づき機械学習により学習したモデルであることを特徴とする請求項1に記載した侵入検出装置。 The intrusion detection device according to claim 1, wherein the first learned model is a model learned by machine learning based on a plurality of images of workers working in the work area. 上記境界特定部は、上記標識を認識する第2の学習済みモデルを用いて、上記画像取得部が取得した撮像画像から上記標識の位置を特定することを特徴とする請求項1又は請求項2に記載した侵入検出装置。 Claim 1 or claim 2 is characterized in that the boundary specifying unit identifies the position of the sign from the captured image acquired by the image acquisition unit using a second trained model that recognizes the sign. The intrusion detection device described in. 上記第2の学習済みモデルは、上記標識を撮像した複数の画像に基づき機械学習により学習したモデルであることを特徴とする請求項3に記載した侵入検出装置。 The intrusion detection device according to claim 3, wherein the second trained model is a model learned by machine learning based on a plurality of images obtained by capturing the markers. 上記侵入判定部が作業員の侵入有りと判定すると、警報機に警報指令を出力する警報発報部を有することを特徴とする請求項1〜請求項4のいずれか1項に記載した侵入検出装置。 The intrusion detection according to any one of claims 1 to 4, wherein the intrusion determination unit has an alarm issuing unit that outputs an alarm command to an alarm when it determines that a worker has invaded. apparatus. 上記侵入判定部が作業員の侵入有りと判定すると、上記侵入制限エリアで稼働している機器に停止命令を出力する機器停止部を有することを特徴とする請求項1〜請求項5のいずれか1項に記載した侵入検出装置。 Any of claims 1 to 5, wherein the intrusion determination unit has a device stop unit that outputs a stop command to a device operating in the intrusion restriction area when it determines that a worker has invaded. The intrusion detection device according to item 1. 上記標識は、予め設定した移動方向に沿って進退可能な状態で吊り下げられており、
複数の撮像部が、上記移動方向と平行な方向に沿って設置されており、
上記画像取得部は、上記境界特定部が特定した標識の位置に基づき、上記複数の撮像部のうち、上記境界の位置に一番近い撮像部が撮像した撮像画像を、上記作業員特定部で作業員の領域を抽出する撮像画像として取得することを特徴とする請求項1〜請求項6のいずれか1項に記載した侵入検出装置。
The above sign is hung in a state where it can move forward and backward along a preset movement direction.
A plurality of imaging units are installed along a direction parallel to the above-mentioned moving direction.
Based on the position of the marker specified by the boundary specifying unit, the image acquisition unit obtains an image captured by the imaging unit closest to the boundary position among the plurality of imaging units by the worker specifying unit. The intrusion detection device according to any one of claims 1 to 6, wherein the image is acquired as an image for extracting an area of a worker.
作業員が所有可能な移動端末に警報を出力可能な警報アプリがインストールされており、該警報アプリは、警報発信信号を受信すると起動して警報を出力する構成となっており、
上記侵入判定部が作業員の侵入有りと判定すると、上記警報アプリに警報発信信号を送信する警報発信部を有することを特徴とする請求項1〜請求項7のいずれか1項に記載した侵入検出装置。
An alarm application that can output an alarm is installed on a mobile terminal that can be owned by a worker, and the alarm application is configured to start when an alarm transmission signal is received and output an alarm.
The intrusion according to any one of claims 1 to 7, wherein the intrusion determination unit has an alarm transmission unit that transmits an alarm transmission signal to the alarm application when it determines that a worker has invaded. Detection device.
移動可能な標識によって侵入制限エリアの境界が区画され、上記侵入制限エリアを含む作業エリアに存在する作業員の上記侵入制限エリアへの侵入の有無を検出する侵入検出方法であって、
作業員を認識する第1の学習済みモデルを用いて、上記作業エリアを撮像した撮像画像から作業員の領域を抽出するステップと、
上記標識の位置を特定し、その標識の位置から上記境界を特定するステップと、
上記特定した境界と、上記抽出した作業員の領域とに基づき、上記侵入制限エリアへの作業員の侵入の有無を判定するステップと、
を有することを特徴とする侵入検出方法。
An intrusion detection method in which the boundary of the intrusion restriction area is demarcated by a movable sign, and the presence or absence of intrusion of a worker existing in the work area including the intrusion restriction area into the intrusion restriction area is detected.
Using the first trained model that recognizes the worker, a step of extracting the worker's area from the captured image obtained by capturing the work area, and
The step of identifying the position of the sign and identifying the boundary from the position of the sign,
Based on the above-specified boundary and the above-extracted worker area, a step of determining whether or not a worker has invaded the intrusion restricted area, and
An intrusion detection method comprising.
上記境界を特定するステップは、上記標識を認識する第2の学習済みモデルを用いて、上記作業エリアを撮像した撮像画像から上記標識の位置を特定することを特徴とする請求項9に記載した侵入検出方法。 The step of specifying the boundary is described in claim 9, wherein the position of the sign is specified from the captured image obtained by capturing the work area by using the second trained model that recognizes the sign. Intrusion detection method.
JP2019173197A 2019-09-24 2019-09-24 Intrusion detection device and intrusion detection method Active JP7126095B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019173197A JP7126095B2 (en) 2019-09-24 2019-09-24 Intrusion detection device and intrusion detection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019173197A JP7126095B2 (en) 2019-09-24 2019-09-24 Intrusion detection device and intrusion detection method

Publications (2)

Publication Number Publication Date
JP2021051464A true JP2021051464A (en) 2021-04-01
JP7126095B2 JP7126095B2 (en) 2022-08-26

Family

ID=75157960

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019173197A Active JP7126095B2 (en) 2019-09-24 2019-09-24 Intrusion detection device and intrusion detection method

Country Status (1)

Country Link
JP (1) JP7126095B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113792665A (en) * 2021-09-16 2021-12-14 山东大学 Method for detecting intrusion of forbidden region aiming at different role authorities
CN113903144A (en) * 2021-10-18 2022-01-07 上海市浦东新区建设(集团)有限公司 BIM model-based construction entrance and edge safety anti-falling control method

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006259951A (en) * 2005-03-16 2006-09-28 Chugoku Electric Power Co Inc:The Alarming device and system, and computer program for alarming
JP2017130155A (en) * 2016-01-22 2017-07-27 富士通テン株式会社 Object recognition device and object recognition method
JP2017151569A (en) * 2016-02-22 2017-08-31 株式会社キーエンス Safety scanner and optical safety system
JP2017216575A (en) * 2016-05-31 2017-12-07 株式会社東芝 Monitoring device and monitoring system
JP2018097788A (en) * 2016-12-16 2018-06-21 清水建設株式会社 Monitoring system and method
JP2018197491A (en) * 2015-11-30 2018-12-13 住友重機械工業株式会社 Periphery monitoring system for work machine

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006259951A (en) * 2005-03-16 2006-09-28 Chugoku Electric Power Co Inc:The Alarming device and system, and computer program for alarming
JP2018197491A (en) * 2015-11-30 2018-12-13 住友重機械工業株式会社 Periphery monitoring system for work machine
JP2017130155A (en) * 2016-01-22 2017-07-27 富士通テン株式会社 Object recognition device and object recognition method
JP2017151569A (en) * 2016-02-22 2017-08-31 株式会社キーエンス Safety scanner and optical safety system
JP2017216575A (en) * 2016-05-31 2017-12-07 株式会社東芝 Monitoring device and monitoring system
JP2018097788A (en) * 2016-12-16 2018-06-21 清水建設株式会社 Monitoring system and method

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113792665A (en) * 2021-09-16 2021-12-14 山东大学 Method for detecting intrusion of forbidden region aiming at different role authorities
CN113792665B (en) * 2021-09-16 2023-08-08 山东大学 Forbidden area intrusion detection method aiming at different role authorities
CN113903144A (en) * 2021-10-18 2022-01-07 上海市浦东新区建设(集团)有限公司 BIM model-based construction entrance and edge safety anti-falling control method

Also Published As

Publication number Publication date
JP7126095B2 (en) 2022-08-26

Similar Documents

Publication Publication Date Title
KR101723283B1 (en) Worker Behavior Based Safety Management System and Method
EP3643838B1 (en) A traffic cones and traffic cone lanterns placement and collection system and a method
CN103726879B (en) Utilize camera automatic capturing mine ore deposit to shake and cave in and the method for record warning in time
CN111226178A (en) Monitoring device, industrial system, method for monitoring, and computer program
CN105574683A (en) Omni-directional transformer station inspection system and method
CN106470797A (en) Method for running plate processing unit (plant) and plate processing unit (plant)
CN109188550A (en) A kind of belt conveyor foreign matter detection system
JP2021051464A (en) Intrusion detection device and intrusion detection method
CN115752462A (en) Method, system, electronic equipment and medium for inspecting key inspection targets in building
JP2020093890A (en) Crane work monitoring system, crane work monitoring method, dangerous state determination device, and program
KR101890283B1 (en) Indoor and Outdoor Positioning Apparatus and Positioning System Including The Same
CN110738691A (en) Luggage tracking system based on online intelligent visual network
CN111091104A (en) Target object protection detection method, device, equipment and storage medium
NO342011B1 (en) Tunnel monitoring system and method of operation
CN114005088A (en) Safety rope wearing state monitoring method and system
JP2018097788A (en) Monitoring system and method
US20220004775A1 (en) Situational awareness monitoring
JPH08180276A (en) Method and device for obstacle detection
KR20220062570A (en) object movement system
CN110359960A (en) A kind of safety alarming method and equipment for the passage of coal mine elevating conveyor
CN111427354A (en) AGV dolly is patrolled and examined in security protection based on Kinect
CN116563761A (en) Fully-mechanized coal mining face monitoring method, device, equipment, program product and system
JP2012174058A (en) Specific event detection device, system, method and program
CN115331383A (en) Construction site safety risk identification method and system
KR102064712B1 (en) An equipment safety management system with a wearble device and a body detection module

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210428

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220323

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220412

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220524

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220712

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220725

R150 Certificate of patent or registration of utility model

Ref document number: 7126095

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150