JP2023013325A - Rock fall monitoring system and rock fall monitoring method - Google Patents

Rock fall monitoring system and rock fall monitoring method Download PDF

Info

Publication number
JP2023013325A
JP2023013325A JP2021117413A JP2021117413A JP2023013325A JP 2023013325 A JP2023013325 A JP 2023013325A JP 2021117413 A JP2021117413 A JP 2021117413A JP 2021117413 A JP2021117413 A JP 2021117413A JP 2023013325 A JP2023013325 A JP 2023013325A
Authority
JP
Japan
Prior art keywords
rockfall
information
unit
monitoring
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021117413A
Other languages
Japanese (ja)
Inventor
隼太郎 宮永
Shuntaro Miyanaga
卓也 谷
Takuya Tani
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taisei Corp
Original Assignee
Taisei Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taisei Corp filed Critical Taisei Corp
Priority to JP2021117413A priority Critical patent/JP2023013325A/en
Publication of JP2023013325A publication Critical patent/JP2023013325A/en
Pending legal-status Critical Current

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A10/00TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
    • Y02A10/23Dune restoration or creation; Cliff stabilisation

Landscapes

  • Geophysics And Detection Of Objects (AREA)

Abstract

To provide a rock fall monitoring system and a rock fall monitoring method which can contribute to improvement of management and countermeasures for rock fall.SOLUTION: A rock fall monitoring system 1 for monitoring occurrence of rock fall 8 comprises: an imaging unit 2 which images a monitoring area; a rock fall analysis unit which obtains quantitative first information about the rock fall 8 occurring in the monitoring area from a photographed image captured by the imaging unit 2 with image analysis using a frame difference method; and a rock fall prediction unit which predicts new rock fall occurring in the monitoring area from the first information and second information about an environment at a time point of capturing the photographed image. The rock fall prediction unit has a learned model that has performed machine learning so as to output third information about the new rock fall 8 by receiving input of the first information and the second information.SELECTED DRAWING: Figure 1

Description

本発明は、落石監視システムおよび落石監視方法に関する。 The present invention relates to a rockfall monitoring system and a rockfall monitoring method.

崖や斜面で発生する落石や崩落を検知する技術が存在する(例えば、特許文献1ないし3を参照)。
特許文献1には、落石監視対象区間毎にセンサ用光ファイバを敷設し、これら区間毎のセンサ用光ファイバを直列又は並列に接続して光ファイバ系を構成し、この光ファイバ系を伝達する光の変化から落石を検知する技術が記載されている(例えば、段落0013参照)。
特許文献2には、監視領域の斜面に張った落石防護ネットで落石を蓄積場に誘導して集め、蓄積場の体積変化又は集めた落石の重量変化を光ファイバの歪変化に置換して光ファイバの歪量の変化から落石の有無を検知する技術が記載されている(例えば、段落0006参照)。
特許文献3には、斜面および斜面直下に設置された落石防護網等の落石防護施設に取付けて落石や土砂崩落等の検出を行う落石検知装置が記載されている(例えば、請求項1参照)。この落石検知装置は、地磁気、圧力、傾斜、加速度などを検出する半導体センサ素子を備え、落石や土砂崩落による振動の振幅や周期等の波形情報と、予め記憶してある情報とを比較した結果で落石や土砂崩落を判断する。
There are techniques for detecting falling rocks and collapses that occur on cliffs and slopes (see Patent Documents 1 to 3, for example).
In Patent Document 1, a sensor optical fiber is laid for each rockfall monitoring target section, the sensor optical fiber for each section is connected in series or in parallel to configure an optical fiber system, and this optical fiber system is used for transmission. Techniques for detecting falling rocks from changes in light have been described (see, for example, paragraph 0013).
In Patent Document 2, falling rocks are guided to and collected in an accumulation field by a rockfall protection net stretched over a slope of a monitoring area, and changes in the volume of the accumulation field or changes in the weight of the collected rockfalls are replaced with changes in the strain of an optical fiber to emit light. A technique for detecting the presence or absence of falling rocks from changes in fiber strain is described (see, for example, paragraph 0006).
Patent Document 3 describes a rockfall detection device that is attached to a rockfall protection facility such as a rockfall protection net installed on a slope and immediately below the slope to detect a rockfall, a landslide, or the like (see claim 1, for example). . This rockfall detection device is equipped with a semiconductor sensor element that detects geomagnetism, pressure, inclination, acceleration, etc., and compares waveform information such as the amplitude and period of vibration caused by falling rocks and landslides with pre-stored information. to determine rockfalls and landslides.

特開2000-180219号公報Japanese Patent Application Laid-Open No. 2000-180219 特開2002-138418号公報Japanese Patent Application Laid-Open No. 2002-138418 特開2011-047252号公報JP 2011-047252 A

特許文献1ないし3の技術を用いれば、発生した落石に対する注意や警告を行うことはできるものの、近い将来に発生する落石を考慮した注意や警告を行うことができなかった。
また、特許文献1ないし3の技術では、落石を検出する範囲に光ファイバ系や落石防護ネットなどを予め設置しなければならないという問題もあった。例えば、落石が予想される範囲が広範囲であれば、そのすべての範囲に光ファイバや落石防護網などを取り付ける必要があり、事前の準備に多大な労力が必要であった。
このような観点から、本発明は、落石に対する管理や対策の向上に貢献できる落石監視システムおよび落石監視方法を提供する。
Although it is possible to give cautions and warnings against rockfalls that have occurred using the techniques of Patent Documents 1 to 3, it is not possible to give cautions and warnings in consideration of rockfalls that will occur in the near future.
Moreover, the techniques of Patent Documents 1 to 3 also have the problem that an optical fiber system, a falling rock protection net, and the like must be installed in advance in the range in which falling rocks are to be detected. For example, if the range where rockfall is expected is wide, it is necessary to install optical fibers, rockfall protection nets, etc. over the entire range, requiring a great deal of work in advance preparation.
From this point of view, the present invention provides a rockfall monitoring system and a rockfall monitoring method that can contribute to the improvement of rockfall management and countermeasures.

本発明に係る落石監視システムは、落石の発生を監視する落石監視システムである。この落石監視システムは、監視領域を撮像する撮像部と、落石解析部と、落石予測部とを備える。
落石解析部は、フレーム差分法を用いた画像解析によって、前記撮像部が撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める。
落石予測部は、前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する。この落石予測部は、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを有する。
前記第1情報は、例えば、落石の発生源、落石の規模および落石運動の特徴の何れかである。前記新たな落石の発生を報知する報知部をさらに備えてもよい。
このようにすると、近い将来に発生する落石を考慮した注意や警告を行うことができるので、落石に対する管理や対策の向上に貢献できる。
前記撮像部が撮像した撮像画像に写る落石をフレーム差分法によって検出する落石検出部を備えてもよい。その場合、前記落石解析部は、前記落石検出部によって落石が検出されたフレーム差分画像から前記第1情報を求めるのがよい。
このようにすると、落石の検出および落石に関する定量的な第1情報の取得を撮像画像の解析により行えるので、事前の準備にかかる労力を抑制でき、従来よりも簡易に落石を監視できる。
A rockfall monitoring system according to the present invention is a rockfall monitoring system that monitors the occurrence of rockfall. This rockfall monitoring system includes an imaging unit that captures an image of a monitoring area, a rockfall analysis unit, and a rockfall prediction unit.
A rockfall analysis unit obtains quantitative first information about a rockfall that has occurred in the monitoring area from the captured image captured by the imaging unit by image analysis using a frame difference method.
The falling rock prediction unit predicts a new falling rock that will occur in the monitoring area from the first information and the second information about the environment at the time the captured image is captured. This rockfall prediction unit has a learned model that has undergone machine learning so as to output third information about the new rockfall by inputting the first information and the second information.
The first information is, for example, any of the source of the rockfall, the scale of the rockfall, and the characteristics of the rockfall movement. A notification unit may be further provided for notifying the occurrence of the new falling rock.
By doing so, it is possible to issue cautions and warnings in consideration of falling rocks that will occur in the near future, thereby contributing to the improvement of management and countermeasures against falling rocks.
A falling rock detection unit may be provided for detecting falling rocks appearing in the captured image captured by the imaging unit by a frame difference method. In this case, the falling rock analysis section preferably obtains the first information from the frame difference image in which the falling rock is detected by the falling rock detection section.
In this way, rockfall can be detected and quantitative first information about rockfall can be obtained by analyzing the captured image, so the effort required for preparation in advance can be reduced, and rockfall can be monitored more easily than before.

本発明に係る落石監視方法は、落石の発生を監視する落石監視方法である。この落石監視方法は、監視領域を撮像する撮像工程と、落石解析工程と、落石予測工程とを有する。
落石解析工程では、フレーム差分法を用いた画像解析によって、前記撮像工程で撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める。
落石予測工程では、前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する。この落石予測工程では、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを用いて予測を行う。
このようにすると、近い将来に発生する落石を考慮した注意や警告を行うことができるので、落石に対する管理や対策の向上に貢献できる。
A rockfall monitoring method according to the present invention is a rockfall monitoring method for monitoring the occurrence of rockfall. This rockfall monitoring method includes an imaging process of imaging a monitoring area, a rockfall analysis process, and a rockfall prediction process.
In the rockfall analysis step, quantitative first information about the rockfall occurring in the monitoring area is obtained from the captured image captured in the imaging step by image analysis using a frame difference method.
In the rockfall prediction step, a new rockfall that will occur in the monitoring area is predicted from the first information and the second information about the environment at the time the captured image was captured. In this rockfall prediction step, prediction is performed using a trained model that has undergone machine learning so as to output the third information about the new rockfall by inputting the first information and the second information.
By doing so, it is possible to issue cautions and warnings in consideration of falling rocks that will occur in the near future, thereby contributing to the improvement of management and countermeasures against falling rocks.

本発明によれば、落石に対する管理や対策の向上に貢献できる。 ADVANTAGE OF THE INVENTION According to this invention, it can contribute to the improvement of management and countermeasures with respect to falling rocks.

本発明の実施形態に係る落石監視システムのイメージ図である。1 is an image diagram of a rockfall monitoring system according to an embodiment of the present invention; FIG. 本発明の実施形態に係る落石監視システムの概略構成図である。1 is a schematic configuration diagram of a rockfall monitoring system according to an embodiment of the present invention; FIG. 監視部の一部である画像処理装置のブロック図である。1 is a block diagram of an image processing device that is part of a monitoring unit; FIG. 本発明の実施形態に係る落石監視システムの動作イメージを示すフロー図である。1 is a flow chart showing an operation image of a rockfall monitoring system according to an embodiment of the present invention; FIG. フレーム差分法による画像解析のイメージ図である。FIG. 3 is an image diagram of image analysis by the frame difference method; 落石に関する定量的な情報(第1情報)の抽出処理を説明するための図である。It is a figure for demonstrating the extraction process of the quantitative information (1st information) regarding falling rocks. 落石の発生源の推定処理を説明するための図である。It is a figure for demonstrating the estimation process of the generation source of falling rocks. 学習データの基になる観測データの一例を示す図である。It is a figure which shows an example of the observation data on which learning data are based. 学習モデルの一例を示す図である。It is a figure which shows an example of a learning model. 学習データの基になる観測データの一例を示す図である。It is a figure which shows an example of the observation data on which learning data are based. 学習モデルの一例を示す図である。It is a figure which shows an example of a learning model.

以下、本発明の実施をするための形態を、適宜図面を参照しながら詳細に説明する。各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
<実施形態に係る落石監視システムの構成>
図1および図2を参照して、実施形態に係る落石監視システム1の構成について説明する。図1は、落石監視システム1のイメージ図である。図2は、落石監視システム1の概略構成図である。
BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments for carrying out the present invention will be described in detail with appropriate reference to the drawings. Each drawing is merely a schematic representation to the extent that the present invention can be fully understood. Accordingly, the present invention is not limited to the illustrated examples only. In addition, in each figure, the same code|symbol is attached|subjected about a common component and a similar component, and those overlapping description is abbreviate|omitted.
<Configuration of rockfall monitoring system according to embodiment>
The configuration of a falling rock monitoring system 1 according to an embodiment will be described with reference to FIGS. 1 and 2. FIG. FIG. 1 is an image diagram of a rockfall monitoring system 1. As shown in FIG. FIG. 2 is a schematic configuration diagram of the rockfall monitoring system 1. As shown in FIG.

落石監視システム1は、撮影した映像(連続した画像で構成される)から落石を検出し、さらに落石を検出したことを報知する機能を有する。また、落石監視システム1は、検出した落石から近い将来に発生する新たな落石を予測する機能を有する。
落石監視システム1は、落石の監視を必要とする様々な場面で使用することができ、監視対象の落石は、形状、大きさ、色など特に限定されるものではない。ここでは、図1に示すように、崖や斜面の監視に落石監視システム1を用いることを想定し、崖や斜面の少なくとも一部(全部であってもよい)が監視領域である。
落石監視システム1では、人工知能(AI:Artificial Intelligence)技術を用いて落石を撮影した映像から落石の傾向を学習し、既に発生した落石から近い将来に発生するであろう落石を予測する。学習や予測では、落石が発生した画像からフレーム差分法(または「フレーム間差分法」とも呼ばれる)による画像解析によって落石に関する定量的な情報を抽出し、その定量的な情報を使用する。フレーム差分法では、連続する二つのフレーム間でのフレーム差分画像を生成し、閾値処理を行うことで移動体を特定する。詳細は後記する。
The rockfall monitoring system 1 has a function of detecting a rockfall from captured video (composed of continuous images) and notifying that the rockfall has been detected. The rockfall monitoring system 1 also has a function of predicting new rockfalls that will occur in the near future from the detected rockfalls.
The rockfall monitoring system 1 can be used in various situations that require rockfall monitoring, and the rockfall to be monitored is not particularly limited in terms of shape, size, color, and the like. Here, as shown in FIG. 1, it is assumed that the falling rock monitoring system 1 is used for monitoring cliffs and slopes, and at least a part (or the whole) of the cliffs and slopes is the monitoring area.
The rockfall monitoring system 1 uses AI (Artificial Intelligence) technology to learn the tendency of rockfalls from images of rockfalls, and predicts rockfalls that will occur in the near future from rockfalls that have already occurred. In learning and prediction, quantitative information about rockfalls is extracted from images of rockfalls by image analysis using the frame difference method (also called "interframe difference method"), and the quantitative information is used. In the frame difference method, a moving object is identified by generating a frame difference image between two consecutive frames and performing threshold processing. Details will be described later.

図1に示すように、落石監視システム1は、撮像部2と、監視部3と、報知部4とを備える。図2に示すように、撮像部2、監視部3および報知部4は、電源5から電力の供給を受けている。電源5の種類や数は特に限定されない。撮像部2、監視部3および報知部4は、例えば、各々が単独の装置として構成することができる。
図1に示すように、撮像部2は、落石8が発生する可能性がある場所(ここでは崖面9)を撮像可能に設置される。図1では、崖面9から離れた場所に架る橋に撮像部2が設置されている。報知部4は、警報対象者(例えば崖面9の近傍を通行する者や崖面9の近傍で作業を行う者など、落石の発生事実・発生予測の通報を受ける者)が視認できる場所に設置される。図1では、崖面9に繋がる道に報知部4が設置されている。監視部3の設置場所は特に限定されず、例えば報知部4の近くや落石監視システム1を管理する管理者が居る施設内に設置される。
撮像部2と監視部3とは、例えば無線通信によって通信可能に接続されており、撮像部2から監視部3へは崖面9を撮像した画像が送信される。また、監視部3と報知部4とは、例えば通信ケーブルによって通信可能に接続されており、監視部3から報知部4へは落石8の検出結果や予測結果(落石8を検出したか否かや所定時間後に落石が発生するか否かなど)が通知される。なお、落石監視システム1の構成はここで示すものに限定されず、例えば、監視部3が撮像部2や報知部4の機能を有していてもよい(つまり、撮像部2や報知部4を含めて監視部3であってもよい)。
As shown in FIG. 1 , the rockfall monitoring system 1 includes an imaging unit 2 , a monitoring unit 3 and a notification unit 4 . As shown in FIG. 2 , the imaging unit 2 , the monitoring unit 3 and the reporting unit 4 are supplied with power from a power source 5 . The type and number of power supplies 5 are not particularly limited. For example, the imaging unit 2, the monitoring unit 3, and the reporting unit 4 can each be configured as an independent device.
As shown in FIG. 1, the imaging unit 2 is installed so as to be capable of imaging a place (here, a cliff face 9) where a falling rock 8 may occur. In FIG. 1 , the imaging unit 2 is installed on a bridge over a place away from the cliff face 9 . The notification unit 4 is placed in a place where a person to be alerted (for example, a person who receives a notification of the fact or prediction of the occurrence of a rockfall, such as a person passing near the cliff face 9 or a person working near the cliff face 9) can visually recognize it. Installed. In FIG. 1 , the reporting unit 4 is installed on the road leading to the cliff face 9 . The installation location of the monitoring unit 3 is not particularly limited.
The imaging unit 2 and the monitoring unit 3 are communicably connected by, for example, wireless communication, and an image of the cliff face 9 is transmitted from the imaging unit 2 to the monitoring unit 3 . The monitoring unit 3 and the reporting unit 4 are communicably connected by, for example, a communication cable. and whether or not a rockfall will occur after a predetermined time) is notified. Note that the configuration of the rockfall monitoring system 1 is not limited to that shown here, and for example, the monitoring unit 3 may have the functions of the imaging unit 2 and the reporting unit 4 (that is, the imaging unit 2 and the reporting unit 4 may be the monitoring unit 3).

撮像部2は、監視領域(ここでは、崖面9)を撮像する手段である。撮像部2は、落石8を認識できる解像度を有しており、また、落石8の移動が分かる程度に連続撮影が可能である。撮像部2は、例えばデジタルビデオカメラであり、1秒間に数十枚(例えば40枚)の画像(以下では、「フレーム」と呼ぶ場合がある)を撮影する。本実施形態では、崖面9の監視に使用することを想定しているので、撮像部2は崖面9を撮影するように設置されている。撮像部2によって撮影された画像は、監視部3に送られる。撮像部2は、屋外での長時間の使用に耐えられる仕様であるのがよい。
撮像部2は、図示しない照明手段を有していてもよい。照明手段は、光を発する光源であって、例えば、LED(Light Emitting Diode)照明、有機EL照明(OLED)である。照明手段は、落石8の発生を監視する範囲(つまり、監視領域)を照らすように設置されている。照明手段の数や形状は特に限定されない。照明手段は、撮像部2の感度(カメラ感度)に対応した波長成分を少なくとも含む光源であり、例えば、可視光、赤外光などであってよい。なお、撮像部2は、ズーム機能を有していてもよい。
The image capturing unit 2 is means for capturing an image of the monitoring area (here, the cliff face 9). The imaging unit 2 has a resolution that allows the falling rock 8 to be recognized, and is capable of continuous imaging to the extent that the movement of the falling rock 8 can be recognized. The image capturing unit 2 is, for example, a digital video camera, and captures several tens (for example, 40) images (hereinafter sometimes referred to as “frames”) per second. In this embodiment, since it is assumed that it is used for monitoring the cliff face 9 , the imaging unit 2 is installed so as to photograph the cliff face 9 . An image captured by the imaging unit 2 is sent to the monitoring unit 3 . The imaging unit 2 should preferably have a specification that can withstand long-term use outdoors.
The imaging unit 2 may have illumination means (not shown). The lighting means is a light source that emits light, such as LED (Light Emitting Diode) lighting and organic EL lighting (OLED). The lighting means is installed so as to illuminate a range (that is, a monitoring area) for monitoring the occurrence of falling rocks 8 . The number and shape of the illumination means are not particularly limited. The illumination means is a light source containing at least a wavelength component corresponding to the sensitivity (camera sensitivity) of the imaging section 2, and may be visible light, infrared light, or the like, for example. Note that the imaging unit 2 may have a zoom function.

報知部4は、落石8を検出した場合に危険を知らせる手段である。報知部4は、近い将来(例えば、数分後~数時間後)における落石8の発生を予測した場合に危険を知らせてもよい。報知部4は、例えば落石8が検出されたことや発生を予測したことを、視覚や聴覚を介して警報対象者に報知する。報知部4は、例えば、表示板、回転灯やブザーであってよい。また、崖面9での作業を想定した場合、警報対象者が装着するもの(例えばヘルメット)に表示機能や警告音を鳴らすブザーを設けても良い。
報知部4は、監視対象に関連する場所に設置される(図1では、崖面9の前を通る道に設置されている)。落石8の予測を知らせる場合、報知部4は、落石8が発生する確率や規模、落石8が発生するまでの時間に応じた警報を行ってもよい。報知部4を屋外に設置する場合、屋外での長時間の使用に耐えられる仕様であるのがよい。
The notification unit 4 is means for notifying danger when falling rocks 8 are detected. The notification unit 4 may notify the danger when predicting the occurrence of falling rocks 8 in the near future (for example, several minutes to several hours later). The notification unit 4 notifies, for example, that a falling rock 8 has been detected or that it will occur, to the person to be alerted via sight or hearing. The notification unit 4 may be, for example, a display board, a revolving light, or a buzzer. In addition, when work on the cliff face 9 is assumed, a display function and a buzzer for sounding a warning sound may be provided on a device (for example, a helmet) worn by the person to be warned.
The reporting unit 4 is installed at a place related to the object to be monitored (in FIG. 1, it is installed on the road passing in front of the cliff face 9). When notifying the prediction of the rockfall 8 , the notification unit 4 may issue an alarm according to the probability and scale of the rockfall 8 occurring and the time until the rockfall 8 occurs. When the notification unit 4 is installed outdoors, it is preferable that it has a specification that can withstand long-term use outdoors.

図2を参照して(適宜、図1参照)、監視部3について説明する。監視部3は、撮像部2(図1参照)によって撮影された画像に対して画像処理を行って落石8を検出する。また、監視部3は、撮像部2によって撮影された画像からフレーム差分法による画像解析によって落石に関する定量的な情報(第1情報)を抽出し、その定量的な情報を学習済みモデルに入力して将来の落石8の発生を予測する。
図2に示すように、監視部3は、例えば、画像保存装置3Aと、画像処理装置3Bとで構成される。画像保存装置3Aおよび画像処理装置3Bは、PC(Personal Computer)やサーバであってよい。監視部3は、画像保存装置3Aと画像処理装置3Bとをまとめた単一の装置であってもよい。
画像保存装置3Aには、崖面9を撮影した画像が保存される。画像保存装置3Aに保存される画像は、学習モデルの学習に使用される。画像保存装置3Aには、異なる場所の複数の崖面9を撮影した画像が保存されていてもよい。
画像処理装置3Bは、フレーム差分法による画像解析によって抽出される落石に関する定量的な情報から、近い将来に新たな落石が発生するか否かを予測する装置である。画像処理装置3Bは、学習済みモデルを有しており、学習済みモデルに落石に関する定量的な情報を入力することで落石の発生を予測する。画像処理装置3Bは、学習モデルを自身で学習させる機能を有していてもよいし、他の装置(例えば画像保存装置3A)で学習を行った学習済みモデルを取得して使用してもよい。
The monitoring unit 3 will be described with reference to FIG. 2 (see also FIG. 1 as needed). The monitoring unit 3 detects falling rocks 8 by performing image processing on the image captured by the imaging unit 2 (see FIG. 1). In addition, the monitoring unit 3 extracts quantitative information (first information) about falling rocks from the image captured by the imaging unit 2 by image analysis using the frame difference method, and inputs the quantitative information to the trained model. to predict the occurrence of rockfall 8 in the future.
As shown in FIG. 2, the monitoring unit 3 is composed of, for example, an image storage device 3A and an image processing device 3B. The image storage device 3A and the image processing device 3B may be PCs (Personal Computers) or servers. The monitoring unit 3 may be a single device combining the image storage device 3A and the image processing device 3B.
An image obtained by photographing the cliff face 9 is stored in the image storage device 3A. The images stored in the image storage device 3A are used for learning the learning model. The image storage device 3A may store images obtained by photographing a plurality of cliff faces 9 at different locations.
The image processing device 3B is a device that predicts whether or not new rockfalls will occur in the near future from quantitative information on rockfalls extracted by image analysis using the frame difference method. The image processing device 3B has a trained model, and predicts the occurrence of a rockfall by inputting quantitative information about falling rocks into the trained model. The image processing device 3B may have a function of learning a learning model by itself, or may acquire and use a trained model that has been trained by another device (for example, the image storage device 3A). .

図3を参照して、画像処理装置3Bの構成を説明する。図3は、画像処理装置3Bのブロック図である。画像処理装置3Bは、例えば、記憶部31と、制御部32とを備えている。
記憶部31には、落石8の検出や予測に必要な情報(例えば、撮影条件情報31a、検出対象情報31b、落石運動情報31cなど)が記憶されている。撮影条件情報31aは、例えば、撮像部2の情報(画角、解像度、フレームレートなど)、崖面9から撮像部2までの距離Lなどの情報である。検出対象情報31bは、例えば、検出する落石8のサイズ(最小と最大)、落下速度などの情報である。落石運動情報31cは、落石運動の特徴に関する情報であり、例えば跳躍運動、滑り運動、自由落下運動などの落下パターン(落下類型)ごとの落石8の動きの情報である。
制御部32は、CPU(Central Processing Unit)によるプログラム実行処理や、専用回路等により実現される。制御部32がプログラム実行処理により実現する場合、記憶部31には、制御部32の機能を実現するためのプログラム(落石監視プログラム)が格納される。
The configuration of the image processing device 3B will be described with reference to FIG. FIG. 3 is a block diagram of the image processing device 3B. The image processing device 3B has, for example, a storage section 31 and a control section 32 .
The storage unit 31 stores information necessary for detecting and predicting falling rocks 8 (for example, shooting condition information 31a, detection target information 31b, falling rock movement information 31c, etc.). The shooting condition information 31a is, for example, information about the imaging unit 2 (angle of view, resolution, frame rate, etc.), information about the distance L from the cliff face 9 to the imaging unit 2, and the like. The detection target information 31b is, for example, information such as the size (minimum and maximum) of the falling rock 8 to be detected and the falling speed. The rockfall motion information 31c is information about the characteristics of the rockfall motion, and is information on the motion of the rockfall 8 for each falling pattern (falling type) such as jumping motion, sliding motion, and free-falling motion.
The control unit 32 is implemented by program execution processing by a CPU (Central Processing Unit), a dedicated circuit, or the like. When the controller 32 implements the program execution process, the storage unit 31 stores a program (falling rock monitoring program) for realizing the function of the controller 32 .

制御部32は、主に、画像取得部33と、落石検出部34と、落石解析部35と、落石予測部36と、落石通知部37とを備える。なお、図3に示す制御部32の各機能は、説明の便宜上分けたものであり、本発明を限定するものではない。ここでは、処理の概要を説明し、処理の詳細については後記する動作で説明する。
画像取得部33は、撮像部2で撮影した画像を取得する。ここでの画像取得部33は、無線通信を介して撮像部2から画像を受信するが、画像を取得するための通信手段は特に限定されない。
落石検出部34は、撮像部2が撮影した画像に対して画像処理を行い、画像処理後の画像から落石8を検出する。落石検出部34による画像処理の手法は特に限定されず、例えばフレーム差分法を用いて落石8を検出する。フレーム差分法では、連続する二つのフレーム間でのフレーム差分画像を生成し、閾値処理を行うことで移動体を特定する。フレーム差分法を用いた落石の検出方法については、例えば「特開2019-203288」に記載がある。
落石解析部35は、フレーム差分法による画像解析によって、落石8に関する定量的な情報(第1情報)を抽出する。落石解析部35によって抽出された定量的な情報は、落石予測部36に送られ、学習モデルの学習や近い将来に発生する落石8の予測に使用される。
落石予測部36は、学習済みモデルを有しており、落石解析部35で抽出した定量的な情報を学習済みモデルに入力して将来の落石8の発生を予測する。落石予測部36は、落石解析部35で抽出した定量的な情報を用いて、学習モデルの学習や学習済みモデルの再学習を行ってもよい。
落石通知部37は、落石8を検出した場合や近い将来(例えば、数分後~数時間後)における落石8の発生を予測した場合に、報知部4に対してその情報を通知する。報知部4は、落石8の発生やその予測などを受信した場合に、そのことを報知する。
The control unit 32 mainly includes an image acquisition unit 33 , a rockfall detection unit 34 , a rockfall analysis unit 35 , a rockfall prediction unit 36 , and a rockfall notification unit 37 . It should be noted that each function of the control unit 32 shown in FIG. 3 is divided for convenience of explanation, and does not limit the present invention. Here, an outline of the processing will be described, and details of the processing will be described in the operation described later.
The image acquisition section 33 acquires an image captured by the imaging section 2 . The image acquisition unit 33 here receives an image from the imaging unit 2 via wireless communication, but communication means for acquiring the image is not particularly limited.
The falling rock detection unit 34 performs image processing on the image captured by the imaging unit 2, and detects the falling rock 8 from the image after the image processing. The method of image processing by the falling rock detection unit 34 is not particularly limited, and the falling rock 8 is detected using, for example, a frame difference method. In the frame difference method, a moving object is identified by generating a frame difference image between two consecutive frames and performing threshold processing. A falling rock detection method using the frame difference method is described, for example, in Japanese Patent Application Laid-Open No. 2019-203288.
The rockfall analysis unit 35 extracts quantitative information (first information) about the rockfall 8 by image analysis using the frame difference method. Quantitative information extracted by the rockfall analysis unit 35 is sent to the rockfall prediction unit 36 and used for learning the learning model and predicting the rockfall 8 that will occur in the near future.
The rockfall prediction unit 36 has a trained model, and inputs the quantitative information extracted by the rockfall analysis unit 35 to the trained model to predict the occurrence of future rockfalls 8 . The rockfall prediction unit 36 may use the quantitative information extracted by the rockfall analysis unit 35 to learn a learning model or re-learn a learned model.
When the rockfall notification unit 37 detects the rockfall 8 or predicts that the rockfall 8 will occur in the near future (for example, several minutes to several hours later), the rockfall notification unit 37 notifies the information to the notification unit 4 . When receiving information such as the occurrence of falling rocks 8 and its prediction, the notification unit 4 notifies it.

<実施形態に係る落石監視システムの動作>
図4を参照して(適宜、図1ないし図3を参照)、実施形態に係る落石監視システム1の動作について説明する。図4は、実施形態に係る落石監視システム1の動作イメージを示すフロー図である。図4に示すように、落石監視システム1の動作は、主に、「落石画像記録工程(S10)」、「環境データ記録工程(S20)」、「落石解析工程S30」、「落石学習工程(S40)」、「落石予測工程(S50)」を含んで構成される。
(落石画像記録工程(S10))
撮像部2は、崖面9の撮影を開始し、撮影中に落石8が発生した場合に、落石8が発生したときの連続画像や撮影を行った時刻を画像保存装置3Aに保存する。撮像部2が撮像した画像が画像処理装置3Bに送られ、落石検出部34の処理によって画像に落石8が写っているか否かが判定され、落石8が写っていると判定された画像が画像保存装置3Aに送られて保存されてもよい。
<Operation of Falling Rock Monitoring System According to Embodiment>
The operation of the falling rock monitoring system 1 according to the embodiment will be described with reference to FIG. 4 (see FIGS. 1 to 3 as appropriate). FIG. 4 is a flowchart showing an operation image of the rockfall monitoring system 1 according to the embodiment. As shown in FIG. 4, the operation of the rockfall monitoring system 1 mainly includes a "rockfall image recording process (S10)", an "environmental data recording process (S20)", a "rockfall analysis process S30", and a "rockfall learning process ( S40)” and a “falling rock prediction step (S50)”.
(Rockfall image recording step (S10))
An imaging unit 2 starts photographing a cliff face 9, and when a falling rock 8 occurs during photographing, stores continuous images at the occurrence of the falling rock 8 and the photographing time in an image storage device 3A. The image captured by the imaging unit 2 is sent to the image processing device 3B, and it is determined whether or not the falling rock 8 is captured in the image by the processing of the falling rock detection unit 34, and the image determined to include the falling rock 8 is an image. It may be sent to and stored in the storage device 3A.

(環境データ記録工程(S20))
図示しない機関(例えば気象庁)は、監視を行う崖面9(付近でもよい)の環境に関する環境データ(第2情報)を記憶する。環境データは、例えば気象に関する気象データ、地震に関する地震データなどであってよい。例えば気象庁は、気象観測や地震観測を常に行っており、気象データや地震データと測定を行った時刻とを関連付けて記録する。気象データは、例えば所定時間ごとの降水量、気温、平均風速、最大風速などである。地震データは、例えば震度や地震の類型などである。
(落石解析工程S30)
画像処理装置3Bの落石解析部35は、画像保存装置3Aに保存される画像を取得し、フレーム差分法による画像解析によって、落石8に関する定量的な情報(第1情報)を抽出する。図5を参照して、フレーム差分法による画像解析について説明する。図5は、フレーム差分法による画像解析のイメージ図である。
フレーム差分法では、過去Nフレーム分(N≧3であり、例えばN=10程度がよい)の撮像画像Eに対して、時系列で連続した二つの撮像画像Eのフレーム差分画像Fを生成し、閾値処理を行うことで各々のフレーム差分画像Fから移動体(ここでは、落石8)の領域を抽出する(図5の上段および中段を参照)。図5では、撮像画像E,Eからフレーム差分画像Fを生成し、撮像画像E,Eからフレーム差分画像Fを生成し、撮像画像E,Eからフレーム差分画像Fを生成する場合を示している。
また、フレーム差分画像Fを合成することでフレーム差分合成画像Gを生成し、移動体の領域の和集合を求める(図5の下段を参照)。図5では、フレーム差分画像F,F,F,・・・からフレーム差分合成画像Gを生成する場合を示している。
(Environmental data recording step (S20))
An organization (for example, the Meteorological Agency) (not shown) stores environment data (second information) regarding the environment of the cliff face 9 (or its vicinity) to be monitored. Environmental data may be, for example, meteorological data relating to weather, seismic data relating to earthquakes, and the like. For example, the Japan Meteorological Agency constantly observes weather and earthquakes, and records meteorological data and earthquake data in association with the time of measurement. Meteorological data includes, for example, rainfall amount, temperature, average wind speed, maximum wind speed, etc. for each predetermined time. The earthquake data is, for example, the seismic intensity and the type of earthquake.
(Rockfall analysis step S30)
The rockfall analysis unit 35 of the image processing device 3B acquires the image stored in the image storage device 3A, and extracts quantitative information (first information) regarding the rockfall 8 by image analysis using the frame difference method. Image analysis by the frame difference method will be described with reference to FIG. FIG. 5 is an image diagram of image analysis by the frame difference method.
In the frame difference method, a frame difference image F of two successive captured images E in time series is generated for captured images E of the past N frames (N≧3, for example N=10 is preferable). , threshold processing is performed to extract the region of the moving object (here, the fallen rock 8) from each frame difference image F (see the upper and middle stages of FIG. 5). In FIG . 5 , a frame difference image F1 is generated from captured images E1 and E2 , a frame difference image F2 is generated from captured images E2 and E3 , and a frame difference image F is generated from captured images E3 and E4 . 3 is generated.
Also, by synthesizing the frame difference images F, a frame difference synthesized image G is generated, and the union of the regions of the moving object is obtained (see the lower part of FIG. 5). FIG. 5 shows a case where a frame difference composite image G is generated from frame difference images F 1 , F 2 , F 3 , .

画像処理装置3Bの落石解析部35は、落石8に関する定量的な情報(第1情報)として、例えば(ア)落石の発生源、(イ)落石の規模、(ウ)落石運動の特徴を求める。
(ア)落石の発生源の推定について
図6および図7を参照して、落石の発生源の推定について説明する。図6は、落石8に関する定量的な情報の抽出処理を説明するための図である。図7は、落石8の発生源の推定処理を説明するための図である。
図6に示すように、フレーム差分画像Fを時系列に並べた場合に、落石発生前の期間Tや落石が終了した期間Tではフレーム差分画像Fは黒色のピクセルのみで構成される。一方、落石が発生中の期間Tでは、落石8の領域(符号K)が白色のピクセルで記され、フレーム差分画像F~Fは黒色および白色のピクセルで構成される。落石解析部35は、時系列でみて白色のピクセルが出現したフレーム差分画像F(図6では、フレーム差分画像F)を用いて落石8の発生源を特定する。落石解析部35は、落石8の発生源として白色のピクセルの位置を求めてもよいし、図7に示すように、フレーム差分画像Fを所定数に分割することでフレーム差分画像F上に発生源を区別するための領域Hを設定し、落石8の領域(符号K)がどの領域Hに対応するかを特定してもよい。図7では、領域Hの識別情報を、領域H内に二桁の数字で記している。
The rockfall analysis unit 35 of the image processing device 3B obtains, as quantitative information (first information) about the rockfall 8, for example, (a) the source of the rockfall, (b) the scale of the rockfall, and (c) the characteristics of the rockfall movement. .
(A) Estimation of Rockfall Source Estimation of the rockfall source will be described with reference to FIGS. 6 and 7. FIG. FIG. 6 is a diagram for explaining the process of extracting quantitative information about falling rock 8. As shown in FIG. FIG. 7 is a diagram for explaining the process of estimating the source of falling rock 8. In FIG.
As shown in FIG. 6, when the frame difference images F are arranged in chronological order , the frame difference images F are composed only of black pixels during the period T1 before the occurrence of rockfall and the period T3 after the rockfall ends. On the other hand, during the period T 2 during which the falling rock is occurring, the area of the falling rock 8 (marked by the symbol K) is marked with white pixels, and the frame difference images F 1 to F n are composed of black and white pixels. The rockfall analysis unit 35 identifies the source of the rockfall 8 using the frame difference image F (frame difference image F 1 in FIG. 6) in which white pixels appear in time series. The rockfall analysis unit 35 may determine the position of a white pixel as the source of the rockfall 8, or divide the frame difference image F into a predetermined number of pixels as shown in FIG. A region H for distinguishing the source may be set, and it may be specified which region H the region of the fallen rock 8 (reference K) corresponds to. In FIG. 7, the identification information of the area H is written in the area H with a two-digit number.

(イ)落石の規模の推定について
落石解析部35は、フレーム差分画像F上での落石8の面積(つまり、符号Kで示す白色ピクセルの面積)を求めることで、落石8のおおよその規模を推定する。落石8の規模の推定には、例えば以下に示す式(1)を用いてもよい。
また、式(1)で求めた値をさらに段階評価して落石8の規模を表してもよい。例えば、落石8の規模Sが「1平米以上」に段階評価「5」を対応させ、「0.8平米以上、1平米未満」に段階評価「4」を対応させ、「0.6平米以上、0.8平米未満」に段階評価「3」を対応させ、「0.4平米以上、0.6平米未満」に段階評価「2」を対応させ、「0.2平米以上、0.4平米未満」に段階評価「1」を対応させ、「0平米以上、0.2平米未満」に段階評価「0」を対応させる。
(b) Estimating the Scale of Falling Rocks The falling rocks analysis unit 35 obtains the area of the falling rocks 8 on the frame difference image F (that is, the area of the white pixels indicated by the symbol K), thereby estimating the approximate scale of the falling rocks 8. presume. For estimating the scale of the fallen rock 8, the following formula (1) may be used, for example.
Further, the scale of the falling rock 8 may be expressed by further evaluating the value obtained by the formula (1) in stages. For example, if the scale S of the falling rock 8 is "1 square meter or more", the graded evaluation "5" corresponds, "0.8 square meters or more and less than 1 square meter" corresponds to the graded evaluation "4", and "0.6 square meters or more" , less than 0.8 square meters” is assigned a graded evaluation of “3”, “0.4 square meters or more and less than 0.6 square meters” is assigned a graded evaluation of “2”, and “0.2 square meters or more and 0.4 "Less than square meters" corresponds to a graded evaluation "1", and "0 square meters or more and less than 0.2 square meters" corresponds to a graded evaluation "0".

Figure 2023013325000002
Figure 2023013325000002

(ウ)落石運動の特徴の推定について
落石解析部35は、図5に示すフレーム差分合成画像Gに表される落石8の軌跡から、落石運動の特徴を推定する。落石運動の特徴は、例えば、跳躍運動、滑り運動、自由落下運動などの落下パターン(落下類型)である。跳躍運動は、落石8が崖面9にぶつかって跳ねながら落下するものである。滑り運動は、落石8が崖面9を滑りながら落下するものである。自由落下運動は、落石8が崖面9にあまり接触せずに落下するものである。落石解析部35は、例えばこれらの運動の特徴を予め情報として保有しており、その保有する情報とフレーム差分合成画像Gに示される落石8の軌跡との比較で落石運動の特徴を推定する。
落石解析部35によって抽出された落石8に関する定量的な情報は、落石予測部36に送られ、学習モデルの学習や近い将来に発生する落石8の予測に使用される。
(c) Estimation of Rockfall Motion Features The rockfall analysis unit 35 estimates the rockfall motion features from the trajectory of the rockfall 8 represented in the frame difference composite image G shown in FIG. Features of falling rock motion are, for example, falling patterns (falling types) such as jumping motion, sliding motion, and free-falling motion. In the jumping motion, falling rock 8 collides with cliff face 9 and falls while bouncing. In the sliding motion, falling rock 8 falls while sliding on cliff face 9 . A free-fall motion is one in which the falling rock 8 falls without much contact with the cliff face 9 . The rockfall analysis unit 35 holds, for example, the characteristics of these movements in advance as information, and compares the held information with the trajectory of the rockfall 8 shown in the frame difference composite image G to estimate the characteristics of the rockfall movement.
Quantitative information about the rockfall 8 extracted by the rockfall analysis unit 35 is sent to the rockfall prediction unit 36 and used for learning the learning model and predicting the rockfall 8 that will occur in the near future.

(落石学習工程(S40))
落石学習工程は、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)と、(B)近い将来での新たな落石8の発生に関する情報(第3情報)との関係を学習する工程である。落石予測部36は、例えば落石8に関する定量的な情報として求めた「落石の発生源、落石の規模、落石運動の特徴」の少なくとも何れか一つと、環境データとして取得する「所定時間ごとの降水量、気温、平均風速、最大風速や、震度、地震の類型」の少なくとも何れか一つを用いて機械学習を行う。学習で用いるデータの数や種類は、崖面9がある場所の地理的特徴などを考慮して選択されるのがよい。
落石予測部36は、学習モデルを有しており、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)と、(B)近い将来での新たな落石8の発生に関する情報(第3情報)とを組にした学習データを用いて学習モデルを機械学習させる。学習モデルは、機械学習における学習システムであり、与えられたデータを基に分類・予測・判定などした結果と正答となる実際の結果とを比較し、各種パラメータを調整することで良い結果を導くことが可能になる。学習モデルは、例えばニューラルネットワークであり、本実施形態でもニューラルネットワークを想定して説明する。なお、学習モデルは、「学習器」や「人工知能(AI:Artificial Intelligence)」などとも呼ばれる。
(Falling rock learning step (S40))
The rockfall learning process consists of (A) quantitative information (first information) and environmental data (second information) about the rockfall 8, and (B) information about the occurrence of new rockfall 8 in the near future (third information). It is a step of learning the relationship between For example, the rockfall prediction unit 36 obtains quantitative information about the rockfall 8 based on at least one of the “source of the rockfall, the scale of the rockfall, and the characteristics of the rockfall movement” and the “precipitation at predetermined time intervals” acquired as environmental data. Machine learning is performed using at least one of "quantity, temperature, average wind speed, maximum wind speed, seismic intensity, earthquake type". The number and types of data used for learning are preferably selected in consideration of the geographical features of the place where the cliff face 9 is located.
The rockfall prediction unit 36 has a learning model, and includes (A) quantitative information (first information) and environmental data (second information) about the rockfall 8 and (B) new rockfall 8 in the near future. The learning model is machine-learned using learning data paired with information (third information) on the occurrence of . A learning model is a learning system in machine learning that compares the results of classification, prediction, judgment, etc. based on the given data with the actual results that are correct answers, and leads to good results by adjusting various parameters. becomes possible. The learning model is, for example, a neural network, and the present embodiment also assumes a neural network. A learning model is also called a “learning device” or “artificial intelligence (AI)”.

ニューラルネットワークは、周知のように人間の脳の動きをコンピュータに模倣させる目的で生まれた情報処理手法である。ニューラルネットワークは、複雑な非線形処理を得意とし、学習機能を用いることで説明変数と目的変数の関係を定式化する必要がないという特徴を持つ。ニューラルネットワークは、一般的に入力層、中間層、出力層で構成される。入力層には説明変数が入力され、出力層からは目的変数が出力される。中間層は、両者を関係づける役割を担っている。中間層の層数および各中間層のニューロン数には制約が無く、任意に設定することができる。
学習モデルを学習させる方法は特に限定されず、例えば誤差逆伝播法によって学習モデルを学習させる。具体的には、学習データを構成する(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)が入力層に入力され、出力層から出力される結果と、学習データを構成する(B)近い将来での新たな落石8の発生に関する情報(第3情報)との誤差に基づいて中間層を調整する。つまり、落石予測部36は、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)を入力することによって(B)近い将来での新たな落石8の発生に関する情報(第3情報)を出力するように学習モデルを機械学習させる。学習させる学習データの数は特に限定されず、例えば期待する精度に到達することで学習を終了する。
As is well known, a neural network is an information processing technique that was created for the purpose of making a computer imitate the movement of the human brain. Neural networks are good at complex nonlinear processing, and have the feature that they do not need to formulate the relationship between explanatory variables and target variables by using learning functions. A neural network generally consists of an input layer, an intermediate layer, and an output layer. An explanatory variable is input to the input layer, and an objective variable is output from the output layer. The middle layer plays a role of connecting the two. The number of intermediate layers and the number of neurons in each intermediate layer are not restricted and can be set arbitrarily.
The method of learning the learning model is not particularly limited, and the learning model is learned, for example, by error backpropagation. Specifically, (A) quantitative information (first information) and environmental data (second information) regarding the falling rock 8 that constitute the learning data are input to the input layer, and the results output from the output layer are combined with the learning data. The intermediate layer is adjusted based on the error with (B) information (third information) regarding the occurrence of new falling rocks 8 in the near future, which constitutes the data. In other words, the rockfall prediction unit 36 inputs (A) quantitative information (first information) and environmental data (second information) regarding the rockfall 8, and (B) predicts the occurrence of a new rockfall 8 in the near future. A learning model is machine-learned so as to output information (third information). The number of learning data to be learned is not particularly limited. For example, learning is terminated when the expected accuracy is reached.

(落石予測工程(S50))
落石予測工程は、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)から(B)近い将来での新たな落石8の発生を予測する工程である。落石予測部36は、リアルタイムで取得した(A)落石8に関する定量的な情報や環境データを用いて近い将来の落石の発生を予測する。
落石予測部36は、学習済みの学習モデル(学習済みモデル)を有している。学習済みモデルは、落石学習工程(S40)によって学習モデルを機械学習させたものである。つまり、学習済みモデルは、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)を入力することによって(B)近い将来での新たな落石8の発生に関する情報(第3情報)を出力するように学習させたものである。落石予測部36は、リアルタイムで取得した(A)落石8に関する定量的な情報や環境データを入力することによって、未だに発生していない(B)近い将来での新たな落石8の発生に関する情報(例えば、「落石あり・なし」や「落石が発生する時間、発生源、規模など」)を出力する。
(Rockfall prediction step (S50))
The rockfall prediction step is a step of (B) predicting the occurrence of a new rockfall 8 in the near future from (A) quantitative information (first information) on the rockfall 8 and environmental data (second information). The rockfall prediction unit 36 predicts the occurrence of a rockfall in the near future using the quantitative information and environmental data regarding the (A) rockfall 8 acquired in real time.
The rockfall prediction unit 36 has a learned learning model (learned model). The learned model is obtained by subjecting the learning model to machine learning through the falling rock learning step (S40). In other words, the learned model receives (A) quantitative information (first information) and environmental data (second information) regarding the falling rock 8, and (B) information regarding the occurrence of a new falling rock 8 in the near future. It is learned to output (third information). By inputting (A) quantitative information about the rockfall 8 and environmental data acquired in real time, the rockfall prediction unit 36 obtains (B) information about the occurrence of a new rockfall 8 that has not yet occurred (B) in the near future ( For example, "with or without falling rocks" or "time, source, scale, etc. of falling rocks") is output.

次に、学習データおよび学習モデルの構築について説明する。図8に、学習データの基になる観測データの一例を示す。図8に示す観測データは、1時間ごとに測定したものである。各々の観測データは、「日付」、「時間」、「落石回数」、「落石発生源」、「落石規模」、「降水量[mm]」、「気温[℃]」、「平均風速[m/s]」、「最大風速[m/s]」、「地震(震度)」で構成される。
ここでの落石回数は、1時間で発生した落石の数である。落石発生源は、図7での領域Hの識別情報である。落石規模は、上述した式(1)で求めた値をさらに段階評価したものである。降水量は、1時間あたりの量(時間雨量)、平均気温および平均風速は、1時間ごとの平均値、最大風速は、1時間における瞬間最大風速である。地震は、1時間内で発生した地震の震度である。
図9に、学習モデルの一例を示す。例えば、ある第一時点での落石8に関する情報(例えば、予測を行う時刻の10時間前、9時間前、8時間前・・1時間前のように1時間ずつずらした情報)と、第一時点よりも時間が経過した後の落石8に関する情報(例えば、予測を行う時刻の情報)との組を用いて学習モデルを学習させる。これにより、発生した落石8や環境に関する情報を学習済みモデルに入力することで、近い将来に発生する落石8の「落石発生時刻」、「落石発生源」、「落石規模」を予測できる。なお、学習データの項目としては、例えば「落石発生時刻」、「落石発生源」、「落石規模」、「降水量」の優先度が高く、これらの項目を含めることで近い将来に発生する落石の「落石発生時刻」、「落石発生源」、「落石規模」を高い精度で推定することが可能になる。
Next, construction of learning data and a learning model will be described. FIG. 8 shows an example of observation data on which learning data is based. The observation data shown in FIG. 8 were measured every hour. Each observation data consists of "date", "time", "number of rockfalls", "source of rockfall", "scale of rockfall", "precipitation [mm]", "temperature [℃]", "average wind speed [m /s]”, “maximum wind speed [m/s]”, and “earthquake (seismic intensity)”.
The number of rockfalls here is the number of rockfalls that occurred in one hour. The falling rock source is the identification information of region H in FIG. The scale of falling rocks is obtained by stepwise evaluation of the value obtained by the above formula (1). The amount of rainfall is the amount per hour (hourly rainfall), the average temperature and average wind speed are the average values for each hour, and the maximum wind speed is the instantaneous maximum wind speed in one hour. Earthquake is the seismic intensity of the earthquake that occurred within one hour.
FIG. 9 shows an example of a learning model. For example, information about falling rocks 8 at a certain first time (for example, information shifted by one hour such as 10 hours, 9 hours, 8 hours, 1 hour before the prediction time) and the first A learning model is learned using a set of information about falling rocks 8 after the passage of time (for example, information on the time of prediction). As a result, by inputting information about the fallen rock 8 and the environment into the learned model, it is possible to predict the "rockfall occurrence time", "rockfall source", and "rockfall scale" of the rockfall 8 that will occur in the near future. For learning data items, for example, "rockfall occurrence time", "rockfall source", "rockfall scale", and "precipitation" are given high priority. "Rockfall Occurrence Time", "Rockfall Occurrence Source", and "Rockfall Scale" can be estimated with high accuracy.

図10に、学習データの基になる観測データの一例を示す。図10に示す観測データは、1時間ごとに測定したものである。各々の観測データは、「日付」、「時間」、「落石有無」、「落石回数」、「落石規模」、「降水量[mm]」、「気温[℃]」、「平均風速[m/s]」、「最大風速[m/s]」、「地震(震度)」で構成される。
ここでの落石有無は、1時間内に落石8が発生したか否かの情報であり、落石回数は、1時間で発生した落石の数である。落石規模は、上述した式(1)で求めた値をさらに段階評価したものである。降水量は、1時間あたりの量(時間雨量)、平均気温および平均風速は、1時間ごとの平均値、最大風速は、1時間における瞬間最大風速である。地震は、1時間内で発生した地震の震度である。
図11に、学習モデルの一例を示す。例えば、入力データを、落石回数、落石規模、降水量、気温、風速、地震とし、出力データは、落石が発生したか否か(落石ありorなし)、とする。例えば、1時間を「1単位」として、過去10時間を入力データ(図10の符号「a」参照)とし、直後の1時間を出力データ(図10の符号「b」参照)とする。1時間に同一箇所で複数回の落石8があった場合の規模は、例えば合算した値とする。これにより、過去10時間の観測データから次の1時間で落石8が起こるかどうかを予測できる。なお、1時間後に落石8が発生する確率を予測するように学習を行ってもよい。また、数時間分の観測データを加算処理や統計的処理などを行って学習モデルに入力してもよい。
FIG. 10 shows an example of observation data on which learning data is based. The observation data shown in FIG. 10 were measured every hour. Each observation data consists of "date", "time", "presence or absence of rockfall", "number of rockfall", "scale of rockfall", "precipitation [mm]", "temperature [℃]", "average wind speed [m/ s]”, “maximum wind speed [m/s]”, and “earthquake (seismic intensity)”.
Here, the presence or absence of falling rocks is information as to whether or not the falling rocks 8 occurred within one hour, and the number of falling rocks is the number of falling rocks that occurred in one hour. The scale of falling rocks is obtained by stepwise evaluation of the value obtained by the above formula (1). The amount of rainfall is the amount per hour (hourly rainfall), the average temperature and average wind speed are the average values for each hour, and the maximum wind speed is the instantaneous maximum wind speed in one hour. Earthquake is the seismic intensity of the earthquake that occurred within one hour.
FIG. 11 shows an example of a learning model. For example, the input data are the number of rockfalls, scale of rockfall, rainfall, temperature, wind speed, and earthquake, and the output data is whether or not rockfall has occurred (with or without rockfall). For example, one hour is defined as "one unit", the past 10 hours are input data (see symbol "a" in FIG. 10), and the next one hour is output data (see symbol "b" in FIG. 10). For example, the scale of falling rocks 8 in the same place multiple times in one hour is a total value. This makes it possible to predict whether or not the rockfall 8 will occur in the next hour from the observation data for the past ten hours. In addition, learning may be performed so as to predict the probability of falling rocks 8 occurring one hour later. Further, observation data for several hours may be subjected to addition processing, statistical processing, or the like, and input to the learning model.

以上のように、実施形態に係る落石監視システム1によれば、落石解析部35がフレーム差分法を用いた画像解析によって監視領域で発生した落石8に関する定量的な第1情報を撮像画像から求め、落石予測部36がその第1情報を用いて監視領域で発生する新たな落石8を予測する。その結果、近い将来に発生する落石8を考慮した注意や警告を行うことができるので、落石8に対する管理や対策の向上に貢献できる。
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を変えない範囲で実施することができる。
As described above, according to the rockfall monitoring system 1 according to the embodiment, the rockfall analysis unit 35 obtains quantitative first information about the rockfall 8 occurring in the monitoring area from the captured image by image analysis using the frame difference method. , the falling rock prediction unit 36 uses the first information to predict new falling rocks 8 occurring in the monitoring area. As a result, it is possible to issue cautions and warnings in consideration of falling rocks 8 that will occur in the near future, which contributes to the improvement of management and countermeasures against falling rocks 8 .
Although the embodiment of the present invention has been described above, the present invention is not limited to this, and can be implemented within the scope of the claims.

1 落石監視システム
2 撮像部
3 監視部
3A 画像保存装置
3B 画像処理装置
4 報知部
5 電源
8 落石
9 崖面(監視領域)
33 画像取得部
34 落石検出部
35 落石解析部
36 落石予測部
37 落石通知部
1 Falling rock monitoring system 2 Imaging unit 3 Monitoring unit 3A Image storage device 3B Image processing device 4 Reporting unit 5 Power source 8 Falling rock 9 Cliff surface (monitoring area)
33 Image acquisition unit 34 Falling rock detection unit 35 Falling rock analysis unit 36 Falling rock prediction unit 37 Falling rock notification unit

Claims (5)

落石の発生を監視する落石監視システムであって、
監視領域を撮像する撮像部と、
フレーム差分法を用いた画像解析によって、前記撮像部が撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める落石解析部と、
前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する落石予測部と、を備え、
前記落石予測部は、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを有する、
ことを特徴とする落石監視システム。
A rockfall monitoring system for monitoring the occurrence of rockfall,
an imaging unit that captures an image of a monitored area;
a rockfall analysis unit that obtains quantitative first information about a rockfall that has occurred in the monitoring area from the captured image captured by the imaging unit by image analysis using a frame difference method;
a rockfall prediction unit that predicts a new rockfall that will occur in the monitoring area from the first information and second information about the environment at the time the captured image is captured;
The rockfall prediction unit has a learned model that has undergone machine learning so as to output third information about the new rockfall by inputting the first information and the second information.
A falling rock monitoring system characterized by:
前記第1情報は、落石の発生源、落石の規模および落石運動の特徴の何れかである、ことを特徴とする請求項1に記載の落石監視システム。 2. The rockfall monitoring system according to claim 1, wherein the first information is any one of a rockfall source, a rockfall scale, and a rockfall movement feature. 前記撮像部が撮像した撮像画像に写る落石をフレーム差分法によって検出する落石検出部を備え、
前記落石解析部は、前記落石検出部によって落石が検出されたフレーム差分画像から前記第1情報を求める、
ことを特徴とする請求項1または請求項2に記載の落石監視システム。
A falling rock detection unit that detects falling rocks appearing in the captured image captured by the imaging unit by a frame difference method,
the falling rock analysis unit obtains the first information from the frame difference image in which the falling rock is detected by the falling rock detection unit;
The falling rock monitoring system according to claim 1 or 2, characterized in that:
前記新たな落石の発生を報知する報知部をさらに備える、ことを特徴とする請求項1ないし請求項3の何れか一項に記載の落石監視システム。 4. The rockfall monitoring system according to any one of claims 1 to 3, further comprising a notification unit that notifies the occurrence of the new rockfall. 落石の発生を監視する落石監視方法であって、
監視領域を撮像する撮像工程と、
フレーム差分法を用いた画像解析によって、前記撮像工程で撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める落石解析工程と、
前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する落石予測工程と、を有し、
前記落石予測工程では、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを用いて予測を行う、
ことを特徴とする落石監視方法。
A rockfall monitoring method for monitoring the occurrence of rockfall,
an imaging step of imaging the monitored area;
A falling rock analysis step of obtaining quantitative first information about falling rocks occurring in the monitoring area from the captured image captured in the imaging step by image analysis using a frame difference method;
a rockfall prediction step of predicting a new rockfall that will occur in the monitoring area from the first information and second information about the environment at the time the captured image was captured;
In the rockfall prediction step, by inputting the first information and the second information, prediction is performed using a trained model that has undergone machine learning so as to output third information about the new rockfall.
A falling rock monitoring method characterized by:
JP2021117413A 2021-07-15 2021-07-15 Rock fall monitoring system and rock fall monitoring method Pending JP2023013325A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021117413A JP2023013325A (en) 2021-07-15 2021-07-15 Rock fall monitoring system and rock fall monitoring method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021117413A JP2023013325A (en) 2021-07-15 2021-07-15 Rock fall monitoring system and rock fall monitoring method

Publications (1)

Publication Number Publication Date
JP2023013325A true JP2023013325A (en) 2023-01-26

Family

ID=85129178

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021117413A Pending JP2023013325A (en) 2021-07-15 2021-07-15 Rock fall monitoring system and rock fall monitoring method

Country Status (1)

Country Link
JP (1) JP2023013325A (en)

Similar Documents

Publication Publication Date Title
CN108319926A (en) A kind of the safety cap wearing detecting system and detection method of building-site
US7479980B2 (en) Monitoring system
CN110263686A (en) A kind of construction site safety of image cap detection method based on deep learning
CN108961238A (en) Display screen quality determining method, device, electronic equipment and storage medium
CN110222672A (en) The safety cap of construction site wears detection method, device, equipment and storage medium
KR20180057785A (en) A system of measuring fish number for image analysis and that of measure method
CN111860230A (en) Automatic detection system and method based on behavior of video monitoring personnel not wearing mask
JP2020507177A (en) System for identifying defined objects
KR102172239B1 (en) Method and system for abnormal situation monitoring based on video
CN111723633B (en) Personnel behavior pattern analysis method and system based on depth data
KR101149916B1 (en) Warning system of landslide
JP7172400B2 (en) Geological evaluation system, geological evaluation method and geological evaluation program
CN113011371A (en) Target detection method, device, equipment and storage medium
CN116264004A (en) Vision-based monitoring of field safety compliance based on worker re-identification and personal protective equipment classification
KR102644487B1 (en) Apparatus and method for predicting body temperature and method for training same
JP7446060B2 (en) Information processing device, program and information processing method
CN116863410B (en) Data acquisition and processing method and system based on pest control
JP2023013325A (en) Rock fall monitoring system and rock fall monitoring method
WO2021131248A1 (en) Object search device and object search method
KR20180013149A (en) Poaching environment monitoring apparatus
KR101542134B1 (en) The apparatus and method of surveillance a rock fall based on smart video analytic
CN112528715A (en) Ship monitoring method, device and equipment and storage medium
CN110717466B (en) Method for returning to position of safety helmet based on face detection frame
CN113813587A (en) Intelligent multifunctional sports ground
CN110135744B (en) Construction worker safety behavior habit evaluation method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231017

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240423

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240619