JP2023013325A - Rock fall monitoring system and rock fall monitoring method - Google Patents
Rock fall monitoring system and rock fall monitoring method Download PDFInfo
- Publication number
- JP2023013325A JP2023013325A JP2021117413A JP2021117413A JP2023013325A JP 2023013325 A JP2023013325 A JP 2023013325A JP 2021117413 A JP2021117413 A JP 2021117413A JP 2021117413 A JP2021117413 A JP 2021117413A JP 2023013325 A JP2023013325 A JP 2023013325A
- Authority
- JP
- Japan
- Prior art keywords
- rockfall
- information
- unit
- monitoring
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 239000011435 rock Substances 0.000 title claims abstract description 122
- 238000012544 monitoring process Methods 0.000 title claims abstract description 88
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000003384 imaging method Methods 0.000 claims abstract description 42
- 238000004458 analytical method Methods 0.000 claims abstract description 26
- 238000010191 image analysis Methods 0.000 claims abstract description 14
- 238000010801 machine learning Methods 0.000 claims abstract description 8
- 230000033001 locomotion Effects 0.000 claims description 24
- 238000001514 detection method Methods 0.000 claims description 14
- 230000006872 improvement Effects 0.000 abstract description 6
- 238000012545 processing Methods 0.000 description 29
- 230000007613 environmental effect Effects 0.000 description 12
- 230000008569 process Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 8
- 239000013307 optical fiber Substances 0.000 description 7
- 238000013528 artificial neural network Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000001556 precipitation Methods 0.000 description 4
- 238000013473 artificial intelligence Methods 0.000 description 3
- 239000002131 composite material Substances 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000005286 illumination Methods 0.000 description 3
- 230000009191 jumping Effects 0.000 description 3
- 238000009825 accumulation Methods 0.000 description 2
- 230000007774 longterm Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A10/00—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE at coastal zones; at river basins
- Y02A10/23—Dune restoration or creation; Cliff stabilisation
Landscapes
- Geophysics And Detection Of Objects (AREA)
Abstract
Description
本発明は、落石監視システムおよび落石監視方法に関する。 The present invention relates to a rockfall monitoring system and a rockfall monitoring method.
崖や斜面で発生する落石や崩落を検知する技術が存在する(例えば、特許文献1ないし3を参照)。
特許文献1には、落石監視対象区間毎にセンサ用光ファイバを敷設し、これら区間毎のセンサ用光ファイバを直列又は並列に接続して光ファイバ系を構成し、この光ファイバ系を伝達する光の変化から落石を検知する技術が記載されている(例えば、段落0013参照)。
特許文献2には、監視領域の斜面に張った落石防護ネットで落石を蓄積場に誘導して集め、蓄積場の体積変化又は集めた落石の重量変化を光ファイバの歪変化に置換して光ファイバの歪量の変化から落石の有無を検知する技術が記載されている(例えば、段落0006参照)。
特許文献3には、斜面および斜面直下に設置された落石防護網等の落石防護施設に取付けて落石や土砂崩落等の検出を行う落石検知装置が記載されている(例えば、請求項1参照)。この落石検知装置は、地磁気、圧力、傾斜、加速度などを検出する半導体センサ素子を備え、落石や土砂崩落による振動の振幅や周期等の波形情報と、予め記憶してある情報とを比較した結果で落石や土砂崩落を判断する。
There are techniques for detecting falling rocks and collapses that occur on cliffs and slopes (see
In
In
特許文献1ないし3の技術を用いれば、発生した落石に対する注意や警告を行うことはできるものの、近い将来に発生する落石を考慮した注意や警告を行うことができなかった。
また、特許文献1ないし3の技術では、落石を検出する範囲に光ファイバ系や落石防護ネットなどを予め設置しなければならないという問題もあった。例えば、落石が予想される範囲が広範囲であれば、そのすべての範囲に光ファイバや落石防護網などを取り付ける必要があり、事前の準備に多大な労力が必要であった。
このような観点から、本発明は、落石に対する管理や対策の向上に貢献できる落石監視システムおよび落石監視方法を提供する。
Although it is possible to give cautions and warnings against rockfalls that have occurred using the techniques of
Moreover, the techniques of
From this point of view, the present invention provides a rockfall monitoring system and a rockfall monitoring method that can contribute to the improvement of rockfall management and countermeasures.
本発明に係る落石監視システムは、落石の発生を監視する落石監視システムである。この落石監視システムは、監視領域を撮像する撮像部と、落石解析部と、落石予測部とを備える。
落石解析部は、フレーム差分法を用いた画像解析によって、前記撮像部が撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める。
落石予測部は、前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する。この落石予測部は、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを有する。
前記第1情報は、例えば、落石の発生源、落石の規模および落石運動の特徴の何れかである。前記新たな落石の発生を報知する報知部をさらに備えてもよい。
このようにすると、近い将来に発生する落石を考慮した注意や警告を行うことができるので、落石に対する管理や対策の向上に貢献できる。
前記撮像部が撮像した撮像画像に写る落石をフレーム差分法によって検出する落石検出部を備えてもよい。その場合、前記落石解析部は、前記落石検出部によって落石が検出されたフレーム差分画像から前記第1情報を求めるのがよい。
このようにすると、落石の検出および落石に関する定量的な第1情報の取得を撮像画像の解析により行えるので、事前の準備にかかる労力を抑制でき、従来よりも簡易に落石を監視できる。
A rockfall monitoring system according to the present invention is a rockfall monitoring system that monitors the occurrence of rockfall. This rockfall monitoring system includes an imaging unit that captures an image of a monitoring area, a rockfall analysis unit, and a rockfall prediction unit.
A rockfall analysis unit obtains quantitative first information about a rockfall that has occurred in the monitoring area from the captured image captured by the imaging unit by image analysis using a frame difference method.
The falling rock prediction unit predicts a new falling rock that will occur in the monitoring area from the first information and the second information about the environment at the time the captured image is captured. This rockfall prediction unit has a learned model that has undergone machine learning so as to output third information about the new rockfall by inputting the first information and the second information.
The first information is, for example, any of the source of the rockfall, the scale of the rockfall, and the characteristics of the rockfall movement. A notification unit may be further provided for notifying the occurrence of the new falling rock.
By doing so, it is possible to issue cautions and warnings in consideration of falling rocks that will occur in the near future, thereby contributing to the improvement of management and countermeasures against falling rocks.
A falling rock detection unit may be provided for detecting falling rocks appearing in the captured image captured by the imaging unit by a frame difference method. In this case, the falling rock analysis section preferably obtains the first information from the frame difference image in which the falling rock is detected by the falling rock detection section.
In this way, rockfall can be detected and quantitative first information about rockfall can be obtained by analyzing the captured image, so the effort required for preparation in advance can be reduced, and rockfall can be monitored more easily than before.
本発明に係る落石監視方法は、落石の発生を監視する落石監視方法である。この落石監視方法は、監視領域を撮像する撮像工程と、落石解析工程と、落石予測工程とを有する。
落石解析工程では、フレーム差分法を用いた画像解析によって、前記撮像工程で撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める。
落石予測工程では、前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する。この落石予測工程では、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを用いて予測を行う。
このようにすると、近い将来に発生する落石を考慮した注意や警告を行うことができるので、落石に対する管理や対策の向上に貢献できる。
A rockfall monitoring method according to the present invention is a rockfall monitoring method for monitoring the occurrence of rockfall. This rockfall monitoring method includes an imaging process of imaging a monitoring area, a rockfall analysis process, and a rockfall prediction process.
In the rockfall analysis step, quantitative first information about the rockfall occurring in the monitoring area is obtained from the captured image captured in the imaging step by image analysis using a frame difference method.
In the rockfall prediction step, a new rockfall that will occur in the monitoring area is predicted from the first information and the second information about the environment at the time the captured image was captured. In this rockfall prediction step, prediction is performed using a trained model that has undergone machine learning so as to output the third information about the new rockfall by inputting the first information and the second information.
By doing so, it is possible to issue cautions and warnings in consideration of falling rocks that will occur in the near future, thereby contributing to the improvement of management and countermeasures against falling rocks.
本発明によれば、落石に対する管理や対策の向上に貢献できる。 ADVANTAGE OF THE INVENTION According to this invention, it can contribute to the improvement of management and countermeasures with respect to falling rocks.
以下、本発明の実施をするための形態を、適宜図面を参照しながら詳細に説明する。各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。なお、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
<実施形態に係る落石監視システムの構成>
図1および図2を参照して、実施形態に係る落石監視システム1の構成について説明する。図1は、落石監視システム1のイメージ図である。図2は、落石監視システム1の概略構成図である。
BEST MODE FOR CARRYING OUT THE INVENTION Hereinafter, embodiments for carrying out the present invention will be described in detail with appropriate reference to the drawings. Each drawing is merely a schematic representation to the extent that the present invention can be fully understood. Accordingly, the present invention is not limited to the illustrated examples only. In addition, in each figure, the same code|symbol is attached|subjected about a common component and a similar component, and those overlapping description is abbreviate|omitted.
<Configuration of rockfall monitoring system according to embodiment>
The configuration of a falling
落石監視システム1は、撮影した映像(連続した画像で構成される)から落石を検出し、さらに落石を検出したことを報知する機能を有する。また、落石監視システム1は、検出した落石から近い将来に発生する新たな落石を予測する機能を有する。
落石監視システム1は、落石の監視を必要とする様々な場面で使用することができ、監視対象の落石は、形状、大きさ、色など特に限定されるものではない。ここでは、図1に示すように、崖や斜面の監視に落石監視システム1を用いることを想定し、崖や斜面の少なくとも一部(全部であってもよい)が監視領域である。
落石監視システム1では、人工知能(AI:Artificial Intelligence)技術を用いて落石を撮影した映像から落石の傾向を学習し、既に発生した落石から近い将来に発生するであろう落石を予測する。学習や予測では、落石が発生した画像からフレーム差分法(または「フレーム間差分法」とも呼ばれる)による画像解析によって落石に関する定量的な情報を抽出し、その定量的な情報を使用する。フレーム差分法では、連続する二つのフレーム間でのフレーム差分画像を生成し、閾値処理を行うことで移動体を特定する。詳細は後記する。
The
The
The
図1に示すように、落石監視システム1は、撮像部2と、監視部3と、報知部4とを備える。図2に示すように、撮像部2、監視部3および報知部4は、電源5から電力の供給を受けている。電源5の種類や数は特に限定されない。撮像部2、監視部3および報知部4は、例えば、各々が単独の装置として構成することができる。
図1に示すように、撮像部2は、落石8が発生する可能性がある場所(ここでは崖面9)を撮像可能に設置される。図1では、崖面9から離れた場所に架る橋に撮像部2が設置されている。報知部4は、警報対象者(例えば崖面9の近傍を通行する者や崖面9の近傍で作業を行う者など、落石の発生事実・発生予測の通報を受ける者)が視認できる場所に設置される。図1では、崖面9に繋がる道に報知部4が設置されている。監視部3の設置場所は特に限定されず、例えば報知部4の近くや落石監視システム1を管理する管理者が居る施設内に設置される。
撮像部2と監視部3とは、例えば無線通信によって通信可能に接続されており、撮像部2から監視部3へは崖面9を撮像した画像が送信される。また、監視部3と報知部4とは、例えば通信ケーブルによって通信可能に接続されており、監視部3から報知部4へは落石8の検出結果や予測結果(落石8を検出したか否かや所定時間後に落石が発生するか否かなど)が通知される。なお、落石監視システム1の構成はここで示すものに限定されず、例えば、監視部3が撮像部2や報知部4の機能を有していてもよい(つまり、撮像部2や報知部4を含めて監視部3であってもよい)。
As shown in FIG. 1 , the
As shown in FIG. 1, the
The
撮像部2は、監視領域(ここでは、崖面9)を撮像する手段である。撮像部2は、落石8を認識できる解像度を有しており、また、落石8の移動が分かる程度に連続撮影が可能である。撮像部2は、例えばデジタルビデオカメラであり、1秒間に数十枚(例えば40枚)の画像(以下では、「フレーム」と呼ぶ場合がある)を撮影する。本実施形態では、崖面9の監視に使用することを想定しているので、撮像部2は崖面9を撮影するように設置されている。撮像部2によって撮影された画像は、監視部3に送られる。撮像部2は、屋外での長時間の使用に耐えられる仕様であるのがよい。
撮像部2は、図示しない照明手段を有していてもよい。照明手段は、光を発する光源であって、例えば、LED(Light Emitting Diode)照明、有機EL照明(OLED)である。照明手段は、落石8の発生を監視する範囲(つまり、監視領域)を照らすように設置されている。照明手段の数や形状は特に限定されない。照明手段は、撮像部2の感度(カメラ感度)に対応した波長成分を少なくとも含む光源であり、例えば、可視光、赤外光などであってよい。なお、撮像部2は、ズーム機能を有していてもよい。
The
The
報知部4は、落石8を検出した場合に危険を知らせる手段である。報知部4は、近い将来(例えば、数分後~数時間後)における落石8の発生を予測した場合に危険を知らせてもよい。報知部4は、例えば落石8が検出されたことや発生を予測したことを、視覚や聴覚を介して警報対象者に報知する。報知部4は、例えば、表示板、回転灯やブザーであってよい。また、崖面9での作業を想定した場合、警報対象者が装着するもの(例えばヘルメット)に表示機能や警告音を鳴らすブザーを設けても良い。
報知部4は、監視対象に関連する場所に設置される(図1では、崖面9の前を通る道に設置されている)。落石8の予測を知らせる場合、報知部4は、落石8が発生する確率や規模、落石8が発生するまでの時間に応じた警報を行ってもよい。報知部4を屋外に設置する場合、屋外での長時間の使用に耐えられる仕様であるのがよい。
The
The
図2を参照して(適宜、図1参照)、監視部3について説明する。監視部3は、撮像部2(図1参照)によって撮影された画像に対して画像処理を行って落石8を検出する。また、監視部3は、撮像部2によって撮影された画像からフレーム差分法による画像解析によって落石に関する定量的な情報(第1情報)を抽出し、その定量的な情報を学習済みモデルに入力して将来の落石8の発生を予測する。
図2に示すように、監視部3は、例えば、画像保存装置3Aと、画像処理装置3Bとで構成される。画像保存装置3Aおよび画像処理装置3Bは、PC(Personal Computer)やサーバであってよい。監視部3は、画像保存装置3Aと画像処理装置3Bとをまとめた単一の装置であってもよい。
画像保存装置3Aには、崖面9を撮影した画像が保存される。画像保存装置3Aに保存される画像は、学習モデルの学習に使用される。画像保存装置3Aには、異なる場所の複数の崖面9を撮影した画像が保存されていてもよい。
画像処理装置3Bは、フレーム差分法による画像解析によって抽出される落石に関する定量的な情報から、近い将来に新たな落石が発生するか否かを予測する装置である。画像処理装置3Bは、学習済みモデルを有しており、学習済みモデルに落石に関する定量的な情報を入力することで落石の発生を予測する。画像処理装置3Bは、学習モデルを自身で学習させる機能を有していてもよいし、他の装置(例えば画像保存装置3A)で学習を行った学習済みモデルを取得して使用してもよい。
The
As shown in FIG. 2, the
An image obtained by photographing the
The
図3を参照して、画像処理装置3Bの構成を説明する。図3は、画像処理装置3Bのブロック図である。画像処理装置3Bは、例えば、記憶部31と、制御部32とを備えている。
記憶部31には、落石8の検出や予測に必要な情報(例えば、撮影条件情報31a、検出対象情報31b、落石運動情報31cなど)が記憶されている。撮影条件情報31aは、例えば、撮像部2の情報(画角、解像度、フレームレートなど)、崖面9から撮像部2までの距離Lなどの情報である。検出対象情報31bは、例えば、検出する落石8のサイズ(最小と最大)、落下速度などの情報である。落石運動情報31cは、落石運動の特徴に関する情報であり、例えば跳躍運動、滑り運動、自由落下運動などの落下パターン(落下類型)ごとの落石8の動きの情報である。
制御部32は、CPU(Central Processing Unit)によるプログラム実行処理や、専用回路等により実現される。制御部32がプログラム実行処理により実現する場合、記憶部31には、制御部32の機能を実現するためのプログラム(落石監視プログラム)が格納される。
The configuration of the
The
The
制御部32は、主に、画像取得部33と、落石検出部34と、落石解析部35と、落石予測部36と、落石通知部37とを備える。なお、図3に示す制御部32の各機能は、説明の便宜上分けたものであり、本発明を限定するものではない。ここでは、処理の概要を説明し、処理の詳細については後記する動作で説明する。
画像取得部33は、撮像部2で撮影した画像を取得する。ここでの画像取得部33は、無線通信を介して撮像部2から画像を受信するが、画像を取得するための通信手段は特に限定されない。
落石検出部34は、撮像部2が撮影した画像に対して画像処理を行い、画像処理後の画像から落石8を検出する。落石検出部34による画像処理の手法は特に限定されず、例えばフレーム差分法を用いて落石8を検出する。フレーム差分法では、連続する二つのフレーム間でのフレーム差分画像を生成し、閾値処理を行うことで移動体を特定する。フレーム差分法を用いた落石の検出方法については、例えば「特開2019-203288」に記載がある。
落石解析部35は、フレーム差分法による画像解析によって、落石8に関する定量的な情報(第1情報)を抽出する。落石解析部35によって抽出された定量的な情報は、落石予測部36に送られ、学習モデルの学習や近い将来に発生する落石8の予測に使用される。
落石予測部36は、学習済みモデルを有しており、落石解析部35で抽出した定量的な情報を学習済みモデルに入力して将来の落石8の発生を予測する。落石予測部36は、落石解析部35で抽出した定量的な情報を用いて、学習モデルの学習や学習済みモデルの再学習を行ってもよい。
落石通知部37は、落石8を検出した場合や近い将来(例えば、数分後~数時間後)における落石8の発生を予測した場合に、報知部4に対してその情報を通知する。報知部4は、落石8の発生やその予測などを受信した場合に、そのことを報知する。
The
The
The falling
The
The
When the
<実施形態に係る落石監視システムの動作>
図4を参照して(適宜、図1ないし図3を参照)、実施形態に係る落石監視システム1の動作について説明する。図4は、実施形態に係る落石監視システム1の動作イメージを示すフロー図である。図4に示すように、落石監視システム1の動作は、主に、「落石画像記録工程(S10)」、「環境データ記録工程(S20)」、「落石解析工程S30」、「落石学習工程(S40)」、「落石予測工程(S50)」を含んで構成される。
(落石画像記録工程(S10))
撮像部2は、崖面9の撮影を開始し、撮影中に落石8が発生した場合に、落石8が発生したときの連続画像や撮影を行った時刻を画像保存装置3Aに保存する。撮像部2が撮像した画像が画像処理装置3Bに送られ、落石検出部34の処理によって画像に落石8が写っているか否かが判定され、落石8が写っていると判定された画像が画像保存装置3Aに送られて保存されてもよい。
<Operation of Falling Rock Monitoring System According to Embodiment>
The operation of the falling
(Rockfall image recording step (S10))
An
(環境データ記録工程(S20))
図示しない機関(例えば気象庁)は、監視を行う崖面9(付近でもよい)の環境に関する環境データ(第2情報)を記憶する。環境データは、例えば気象に関する気象データ、地震に関する地震データなどであってよい。例えば気象庁は、気象観測や地震観測を常に行っており、気象データや地震データと測定を行った時刻とを関連付けて記録する。気象データは、例えば所定時間ごとの降水量、気温、平均風速、最大風速などである。地震データは、例えば震度や地震の類型などである。
(落石解析工程S30)
画像処理装置3Bの落石解析部35は、画像保存装置3Aに保存される画像を取得し、フレーム差分法による画像解析によって、落石8に関する定量的な情報(第1情報)を抽出する。図5を参照して、フレーム差分法による画像解析について説明する。図5は、フレーム差分法による画像解析のイメージ図である。
フレーム差分法では、過去Nフレーム分(N≧3であり、例えばN=10程度がよい)の撮像画像Eに対して、時系列で連続した二つの撮像画像Eのフレーム差分画像Fを生成し、閾値処理を行うことで各々のフレーム差分画像Fから移動体(ここでは、落石8)の領域を抽出する(図5の上段および中段を参照)。図5では、撮像画像E1,E2からフレーム差分画像F1を生成し、撮像画像E2,E3からフレーム差分画像F2を生成し、撮像画像E3,E4からフレーム差分画像F3を生成する場合を示している。
また、フレーム差分画像Fを合成することでフレーム差分合成画像Gを生成し、移動体の領域の和集合を求める(図5の下段を参照)。図5では、フレーム差分画像F1,F2,F3,・・・からフレーム差分合成画像Gを生成する場合を示している。
(Environmental data recording step (S20))
An organization (for example, the Meteorological Agency) (not shown) stores environment data (second information) regarding the environment of the cliff face 9 (or its vicinity) to be monitored. Environmental data may be, for example, meteorological data relating to weather, seismic data relating to earthquakes, and the like. For example, the Japan Meteorological Agency constantly observes weather and earthquakes, and records meteorological data and earthquake data in association with the time of measurement. Meteorological data includes, for example, rainfall amount, temperature, average wind speed, maximum wind speed, etc. for each predetermined time. The earthquake data is, for example, the seismic intensity and the type of earthquake.
(Rockfall analysis step S30)
The
In the frame difference method, a frame difference image F of two successive captured images E in time series is generated for captured images E of the past N frames (N≧3, for example N=10 is preferable). , threshold processing is performed to extract the region of the moving object (here, the fallen rock 8) from each frame difference image F (see the upper and middle stages of FIG. 5). In FIG . 5 , a frame difference image F1 is generated from captured images E1 and E2 , a frame difference image F2 is generated from captured images E2 and E3 , and a frame difference image F is generated from captured images E3 and E4 . 3 is generated.
Also, by synthesizing the frame difference images F, a frame difference synthesized image G is generated, and the union of the regions of the moving object is obtained (see the lower part of FIG. 5). FIG. 5 shows a case where a frame difference composite image G is generated from frame difference images F 1 , F 2 , F 3 , .
画像処理装置3Bの落石解析部35は、落石8に関する定量的な情報(第1情報)として、例えば(ア)落石の発生源、(イ)落石の規模、(ウ)落石運動の特徴を求める。
(ア)落石の発生源の推定について
図6および図7を参照して、落石の発生源の推定について説明する。図6は、落石8に関する定量的な情報の抽出処理を説明するための図である。図7は、落石8の発生源の推定処理を説明するための図である。
図6に示すように、フレーム差分画像Fを時系列に並べた場合に、落石発生前の期間T1や落石が終了した期間T3ではフレーム差分画像Fは黒色のピクセルのみで構成される。一方、落石が発生中の期間T2では、落石8の領域(符号K)が白色のピクセルで記され、フレーム差分画像F1~Fnは黒色および白色のピクセルで構成される。落石解析部35は、時系列でみて白色のピクセルが出現したフレーム差分画像F(図6では、フレーム差分画像F1)を用いて落石8の発生源を特定する。落石解析部35は、落石8の発生源として白色のピクセルの位置を求めてもよいし、図7に示すように、フレーム差分画像Fを所定数に分割することでフレーム差分画像F上に発生源を区別するための領域Hを設定し、落石8の領域(符号K)がどの領域Hに対応するかを特定してもよい。図7では、領域Hの識別情報を、領域H内に二桁の数字で記している。
The
(A) Estimation of Rockfall Source Estimation of the rockfall source will be described with reference to FIGS. 6 and 7. FIG. FIG. 6 is a diagram for explaining the process of extracting quantitative information about falling
As shown in FIG. 6, when the frame difference images F are arranged in chronological order , the frame difference images F are composed only of black pixels during the period T1 before the occurrence of rockfall and the period T3 after the rockfall ends. On the other hand, during the period T 2 during which the falling rock is occurring, the area of the falling rock 8 (marked by the symbol K) is marked with white pixels, and the frame difference images F 1 to F n are composed of black and white pixels. The
(イ)落石の規模の推定について
落石解析部35は、フレーム差分画像F上での落石8の面積(つまり、符号Kで示す白色ピクセルの面積)を求めることで、落石8のおおよその規模を推定する。落石8の規模の推定には、例えば以下に示す式(1)を用いてもよい。
また、式(1)で求めた値をさらに段階評価して落石8の規模を表してもよい。例えば、落石8の規模Sが「1平米以上」に段階評価「5」を対応させ、「0.8平米以上、1平米未満」に段階評価「4」を対応させ、「0.6平米以上、0.8平米未満」に段階評価「3」を対応させ、「0.4平米以上、0.6平米未満」に段階評価「2」を対応させ、「0.2平米以上、0.4平米未満」に段階評価「1」を対応させ、「0平米以上、0.2平米未満」に段階評価「0」を対応させる。
(b) Estimating the Scale of Falling Rocks The falling
Further, the scale of the falling
(ウ)落石運動の特徴の推定について
落石解析部35は、図5に示すフレーム差分合成画像Gに表される落石8の軌跡から、落石運動の特徴を推定する。落石運動の特徴は、例えば、跳躍運動、滑り運動、自由落下運動などの落下パターン(落下類型)である。跳躍運動は、落石8が崖面9にぶつかって跳ねながら落下するものである。滑り運動は、落石8が崖面9を滑りながら落下するものである。自由落下運動は、落石8が崖面9にあまり接触せずに落下するものである。落石解析部35は、例えばこれらの運動の特徴を予め情報として保有しており、その保有する情報とフレーム差分合成画像Gに示される落石8の軌跡との比較で落石運動の特徴を推定する。
落石解析部35によって抽出された落石8に関する定量的な情報は、落石予測部36に送られ、学習モデルの学習や近い将来に発生する落石8の予測に使用される。
(c) Estimation of Rockfall Motion Features The
Quantitative information about the
(落石学習工程(S40))
落石学習工程は、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)と、(B)近い将来での新たな落石8の発生に関する情報(第3情報)との関係を学習する工程である。落石予測部36は、例えば落石8に関する定量的な情報として求めた「落石の発生源、落石の規模、落石運動の特徴」の少なくとも何れか一つと、環境データとして取得する「所定時間ごとの降水量、気温、平均風速、最大風速や、震度、地震の類型」の少なくとも何れか一つを用いて機械学習を行う。学習で用いるデータの数や種類は、崖面9がある場所の地理的特徴などを考慮して選択されるのがよい。
落石予測部36は、学習モデルを有しており、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)と、(B)近い将来での新たな落石8の発生に関する情報(第3情報)とを組にした学習データを用いて学習モデルを機械学習させる。学習モデルは、機械学習における学習システムであり、与えられたデータを基に分類・予測・判定などした結果と正答となる実際の結果とを比較し、各種パラメータを調整することで良い結果を導くことが可能になる。学習モデルは、例えばニューラルネットワークであり、本実施形態でもニューラルネットワークを想定して説明する。なお、学習モデルは、「学習器」や「人工知能(AI:Artificial Intelligence)」などとも呼ばれる。
(Falling rock learning step (S40))
The rockfall learning process consists of (A) quantitative information (first information) and environmental data (second information) about the
The
ニューラルネットワークは、周知のように人間の脳の動きをコンピュータに模倣させる目的で生まれた情報処理手法である。ニューラルネットワークは、複雑な非線形処理を得意とし、学習機能を用いることで説明変数と目的変数の関係を定式化する必要がないという特徴を持つ。ニューラルネットワークは、一般的に入力層、中間層、出力層で構成される。入力層には説明変数が入力され、出力層からは目的変数が出力される。中間層は、両者を関係づける役割を担っている。中間層の層数および各中間層のニューロン数には制約が無く、任意に設定することができる。
学習モデルを学習させる方法は特に限定されず、例えば誤差逆伝播法によって学習モデルを学習させる。具体的には、学習データを構成する(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)が入力層に入力され、出力層から出力される結果と、学習データを構成する(B)近い将来での新たな落石8の発生に関する情報(第3情報)との誤差に基づいて中間層を調整する。つまり、落石予測部36は、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)を入力することによって(B)近い将来での新たな落石8の発生に関する情報(第3情報)を出力するように学習モデルを機械学習させる。学習させる学習データの数は特に限定されず、例えば期待する精度に到達することで学習を終了する。
As is well known, a neural network is an information processing technique that was created for the purpose of making a computer imitate the movement of the human brain. Neural networks are good at complex nonlinear processing, and have the feature that they do not need to formulate the relationship between explanatory variables and target variables by using learning functions. A neural network generally consists of an input layer, an intermediate layer, and an output layer. An explanatory variable is input to the input layer, and an objective variable is output from the output layer. The middle layer plays a role of connecting the two. The number of intermediate layers and the number of neurons in each intermediate layer are not restricted and can be set arbitrarily.
The method of learning the learning model is not particularly limited, and the learning model is learned, for example, by error backpropagation. Specifically, (A) quantitative information (first information) and environmental data (second information) regarding the falling
(落石予測工程(S50))
落石予測工程は、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)から(B)近い将来での新たな落石8の発生を予測する工程である。落石予測部36は、リアルタイムで取得した(A)落石8に関する定量的な情報や環境データを用いて近い将来の落石の発生を予測する。
落石予測部36は、学習済みの学習モデル(学習済みモデル)を有している。学習済みモデルは、落石学習工程(S40)によって学習モデルを機械学習させたものである。つまり、学習済みモデルは、(A)落石8に関する定量的な情報(第1情報)や環境データ(第2情報)を入力することによって(B)近い将来での新たな落石8の発生に関する情報(第3情報)を出力するように学習させたものである。落石予測部36は、リアルタイムで取得した(A)落石8に関する定量的な情報や環境データを入力することによって、未だに発生していない(B)近い将来での新たな落石8の発生に関する情報(例えば、「落石あり・なし」や「落石が発生する時間、発生源、規模など」)を出力する。
(Rockfall prediction step (S50))
The rockfall prediction step is a step of (B) predicting the occurrence of a
The
次に、学習データおよび学習モデルの構築について説明する。図8に、学習データの基になる観測データの一例を示す。図8に示す観測データは、1時間ごとに測定したものである。各々の観測データは、「日付」、「時間」、「落石回数」、「落石発生源」、「落石規模」、「降水量[mm]」、「気温[℃]」、「平均風速[m/s]」、「最大風速[m/s]」、「地震(震度)」で構成される。
ここでの落石回数は、1時間で発生した落石の数である。落石発生源は、図7での領域Hの識別情報である。落石規模は、上述した式(1)で求めた値をさらに段階評価したものである。降水量は、1時間あたりの量(時間雨量)、平均気温および平均風速は、1時間ごとの平均値、最大風速は、1時間における瞬間最大風速である。地震は、1時間内で発生した地震の震度である。
図9に、学習モデルの一例を示す。例えば、ある第一時点での落石8に関する情報(例えば、予測を行う時刻の10時間前、9時間前、8時間前・・1時間前のように1時間ずつずらした情報)と、第一時点よりも時間が経過した後の落石8に関する情報(例えば、予測を行う時刻の情報)との組を用いて学習モデルを学習させる。これにより、発生した落石8や環境に関する情報を学習済みモデルに入力することで、近い将来に発生する落石8の「落石発生時刻」、「落石発生源」、「落石規模」を予測できる。なお、学習データの項目としては、例えば「落石発生時刻」、「落石発生源」、「落石規模」、「降水量」の優先度が高く、これらの項目を含めることで近い将来に発生する落石の「落石発生時刻」、「落石発生源」、「落石規模」を高い精度で推定することが可能になる。
Next, construction of learning data and a learning model will be described. FIG. 8 shows an example of observation data on which learning data is based. The observation data shown in FIG. 8 were measured every hour. Each observation data consists of "date", "time", "number of rockfalls", "source of rockfall", "scale of rockfall", "precipitation [mm]", "temperature [℃]", "average wind speed [m /s]”, “maximum wind speed [m/s]”, and “earthquake (seismic intensity)”.
The number of rockfalls here is the number of rockfalls that occurred in one hour. The falling rock source is the identification information of region H in FIG. The scale of falling rocks is obtained by stepwise evaluation of the value obtained by the above formula (1). The amount of rainfall is the amount per hour (hourly rainfall), the average temperature and average wind speed are the average values for each hour, and the maximum wind speed is the instantaneous maximum wind speed in one hour. Earthquake is the seismic intensity of the earthquake that occurred within one hour.
FIG. 9 shows an example of a learning model. For example, information about falling
図10に、学習データの基になる観測データの一例を示す。図10に示す観測データは、1時間ごとに測定したものである。各々の観測データは、「日付」、「時間」、「落石有無」、「落石回数」、「落石規模」、「降水量[mm]」、「気温[℃]」、「平均風速[m/s]」、「最大風速[m/s]」、「地震(震度)」で構成される。
ここでの落石有無は、1時間内に落石8が発生したか否かの情報であり、落石回数は、1時間で発生した落石の数である。落石規模は、上述した式(1)で求めた値をさらに段階評価したものである。降水量は、1時間あたりの量(時間雨量)、平均気温および平均風速は、1時間ごとの平均値、最大風速は、1時間における瞬間最大風速である。地震は、1時間内で発生した地震の震度である。
図11に、学習モデルの一例を示す。例えば、入力データを、落石回数、落石規模、降水量、気温、風速、地震とし、出力データは、落石が発生したか否か(落石ありorなし)、とする。例えば、1時間を「1単位」として、過去10時間を入力データ(図10の符号「a」参照)とし、直後の1時間を出力データ(図10の符号「b」参照)とする。1時間に同一箇所で複数回の落石8があった場合の規模は、例えば合算した値とする。これにより、過去10時間の観測データから次の1時間で落石8が起こるかどうかを予測できる。なお、1時間後に落石8が発生する確率を予測するように学習を行ってもよい。また、数時間分の観測データを加算処理や統計的処理などを行って学習モデルに入力してもよい。
FIG. 10 shows an example of observation data on which learning data is based. The observation data shown in FIG. 10 were measured every hour. Each observation data consists of "date", "time", "presence or absence of rockfall", "number of rockfall", "scale of rockfall", "precipitation [mm]", "temperature [℃]", "average wind speed [m/ s]”, “maximum wind speed [m/s]”, and “earthquake (seismic intensity)”.
Here, the presence or absence of falling rocks is information as to whether or not the falling
FIG. 11 shows an example of a learning model. For example, the input data are the number of rockfalls, scale of rockfall, rainfall, temperature, wind speed, and earthquake, and the output data is whether or not rockfall has occurred (with or without rockfall). For example, one hour is defined as "one unit", the past 10 hours are input data (see symbol "a" in FIG. 10), and the next one hour is output data (see symbol "b" in FIG. 10). For example, the scale of falling
以上のように、実施形態に係る落石監視システム1によれば、落石解析部35がフレーム差分法を用いた画像解析によって監視領域で発生した落石8に関する定量的な第1情報を撮像画像から求め、落石予測部36がその第1情報を用いて監視領域で発生する新たな落石8を予測する。その結果、近い将来に発生する落石8を考慮した注意や警告を行うことができるので、落石8に対する管理や対策の向上に貢献できる。
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、特許請求の範囲の趣旨を変えない範囲で実施することができる。
As described above, according to the
Although the embodiment of the present invention has been described above, the present invention is not limited to this, and can be implemented within the scope of the claims.
1 落石監視システム
2 撮像部
3 監視部
3A 画像保存装置
3B 画像処理装置
4 報知部
5 電源
8 落石
9 崖面(監視領域)
33 画像取得部
34 落石検出部
35 落石解析部
36 落石予測部
37 落石通知部
1 Falling
33
Claims (5)
監視領域を撮像する撮像部と、
フレーム差分法を用いた画像解析によって、前記撮像部が撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める落石解析部と、
前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する落石予測部と、を備え、
前記落石予測部は、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを有する、
ことを特徴とする落石監視システム。 A rockfall monitoring system for monitoring the occurrence of rockfall,
an imaging unit that captures an image of a monitored area;
a rockfall analysis unit that obtains quantitative first information about a rockfall that has occurred in the monitoring area from the captured image captured by the imaging unit by image analysis using a frame difference method;
a rockfall prediction unit that predicts a new rockfall that will occur in the monitoring area from the first information and second information about the environment at the time the captured image is captured;
The rockfall prediction unit has a learned model that has undergone machine learning so as to output third information about the new rockfall by inputting the first information and the second information.
A falling rock monitoring system characterized by:
前記落石解析部は、前記落石検出部によって落石が検出されたフレーム差分画像から前記第1情報を求める、
ことを特徴とする請求項1または請求項2に記載の落石監視システム。 A falling rock detection unit that detects falling rocks appearing in the captured image captured by the imaging unit by a frame difference method,
the falling rock analysis unit obtains the first information from the frame difference image in which the falling rock is detected by the falling rock detection unit;
The falling rock monitoring system according to claim 1 or 2, characterized in that:
監視領域を撮像する撮像工程と、
フレーム差分法を用いた画像解析によって、前記撮像工程で撮像した撮像画像から前記監視領域で発生した落石に関する定量的な第1情報を求める落石解析工程と、
前記第1情報と前記撮像画像を撮像した時点での環境に関する第2情報とから、前記監視領域で発生する新たな落石を予測する落石予測工程と、を有し、
前記落石予測工程では、前記第1情報および前記第2情報を入力することによって、前記新たな落石に関する第3情報を出力するように機械学習を行った学習済みモデルを用いて予測を行う、
ことを特徴とする落石監視方法。 A rockfall monitoring method for monitoring the occurrence of rockfall,
an imaging step of imaging the monitored area;
A falling rock analysis step of obtaining quantitative first information about falling rocks occurring in the monitoring area from the captured image captured in the imaging step by image analysis using a frame difference method;
a rockfall prediction step of predicting a new rockfall that will occur in the monitoring area from the first information and second information about the environment at the time the captured image was captured;
In the rockfall prediction step, by inputting the first information and the second information, prediction is performed using a trained model that has undergone machine learning so as to output third information about the new rockfall.
A falling rock monitoring method characterized by:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021117413A JP2023013325A (en) | 2021-07-15 | 2021-07-15 | Rock fall monitoring system and rock fall monitoring method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021117413A JP2023013325A (en) | 2021-07-15 | 2021-07-15 | Rock fall monitoring system and rock fall monitoring method |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023013325A true JP2023013325A (en) | 2023-01-26 |
Family
ID=85129178
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021117413A Pending JP2023013325A (en) | 2021-07-15 | 2021-07-15 | Rock fall monitoring system and rock fall monitoring method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023013325A (en) |
-
2021
- 2021-07-15 JP JP2021117413A patent/JP2023013325A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108319926A (en) | A kind of the safety cap wearing detecting system and detection method of building-site | |
US7479980B2 (en) | Monitoring system | |
CN110263686A (en) | A kind of construction site safety of image cap detection method based on deep learning | |
CN108961238A (en) | Display screen quality determining method, device, electronic equipment and storage medium | |
CN110222672A (en) | The safety cap of construction site wears detection method, device, equipment and storage medium | |
KR20180057785A (en) | A system of measuring fish number for image analysis and that of measure method | |
CN111860230A (en) | Automatic detection system and method based on behavior of video monitoring personnel not wearing mask | |
JP2020507177A (en) | System for identifying defined objects | |
KR102172239B1 (en) | Method and system for abnormal situation monitoring based on video | |
CN111723633B (en) | Personnel behavior pattern analysis method and system based on depth data | |
KR101149916B1 (en) | Warning system of landslide | |
JP7172400B2 (en) | Geological evaluation system, geological evaluation method and geological evaluation program | |
CN113011371A (en) | Target detection method, device, equipment and storage medium | |
CN116264004A (en) | Vision-based monitoring of field safety compliance based on worker re-identification and personal protective equipment classification | |
KR102644487B1 (en) | Apparatus and method for predicting body temperature and method for training same | |
JP7446060B2 (en) | Information processing device, program and information processing method | |
CN116863410B (en) | Data acquisition and processing method and system based on pest control | |
JP2023013325A (en) | Rock fall monitoring system and rock fall monitoring method | |
WO2021131248A1 (en) | Object search device and object search method | |
KR20180013149A (en) | Poaching environment monitoring apparatus | |
KR101542134B1 (en) | The apparatus and method of surveillance a rock fall based on smart video analytic | |
CN112528715A (en) | Ship monitoring method, device and equipment and storage medium | |
CN110717466B (en) | Method for returning to position of safety helmet based on face detection frame | |
CN113813587A (en) | Intelligent multifunctional sports ground | |
CN110135744B (en) | Construction worker safety behavior habit evaluation method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231017 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240419 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240423 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240619 |