JP7231011B2 - 監視システム、情報処理装置、転倒検出方法、及びプログラム - Google Patents

監視システム、情報処理装置、転倒検出方法、及びプログラム Download PDF

Info

Publication number
JP7231011B2
JP7231011B2 JP2021506893A JP2021506893A JP7231011B2 JP 7231011 B2 JP7231011 B2 JP 7231011B2 JP 2021506893 A JP2021506893 A JP 2021506893A JP 2021506893 A JP2021506893 A JP 2021506893A JP 7231011 B2 JP7231011 B2 JP 7231011B2
Authority
JP
Japan
Prior art keywords
detected
detection
laser
lidar sensor
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021506893A
Other languages
English (en)
Other versions
JPWO2020188748A1 (ja
Inventor
伸一 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020188748A1 publication Critical patent/JPWO2020188748A1/ja
Application granted granted Critical
Publication of JP7231011B2 publication Critical patent/JP7231011B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/007Safety arrangements on railway crossings
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/04Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
    • B61L23/041Obstacle detection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L29/00Safety means for rail/road crossing traffic
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C7/00Tracing profiles
    • G01C7/02Tracing profiles of land surfaces
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B25/00Alarm systems in which the location of the alarm condition is signalled to a central station, e.g. fire or police telegraphic systems
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/01Detecting movement of traffic to be counted or controlled
    • G08G1/04Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Traffic Control Systems (AREA)

Description

本開示は監視システム、情報処理装置、転倒検出方法、及び非一時的なコンピュータ可読媒体に関する。
踏切内における事故を減少させるために、踏切を監視する監視装置が用いられている。監視装置は、踏切内をカメラもしくはレーダー等から得られる情報を用いて、踏切内に存在する人を検出する。
特許文献1には、踏切内において、障害物として検知されるべき、高さ、面積または大きさ等の状況が変化した物を確実に障害物として検知できる踏切障害物検知装置の構成が開示されている。特許文献1の踏切障害物検知装置は、ミリ波レーダセンサ等から障害物検知領域に向けて送信波を出射し、その反射波を用いて障害物までの距離及び障害物の大きさ等を検出する。また、障害物検知装置は、ミリ波レーダセンサのアンテナ部を中心とし、その中心から、踏切内の障害物検知領域をカバーするように、ミリ波レーダーの送信波の出射範囲を定める。
特開2016-155482号公報
特許文献1に開示されている踏切障害物検知装置から出射される送信波は、障害物検知領域をカバーするために、地面と実質的に水平方向に出射される必要がある。送信波が地面と実質的に水平方向に出射されることによって、障害物検知領域の端の領域まで、送信波が届くことになる。しかし、送信波が地面と実質的に水平方向に出射される場合、踏切内において転倒した人に対して送信波が当たらず、転倒した人を検知することができないという問題がある。
本開示の目的は、踏切内において転倒した人を検出する精度を向上させることができる監視システム、情報処理装置、転倒検出方法、及び非一時的なコンピュータ可読媒体を提供することにある。
本開示の第1の態様にかかる監視システムは、到達距離の異なる複数のレーザー光を監視領域へ照射し、それぞれのレーザー光における物体の検出状況を示す検出信号を出力するLiDARセンサと、所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する情報処理装置と、を備える。
本開示の第2の態様にかかる情報処理装置は、到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信する通信部と、所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する判定部と、を備える。
本開示の第3の態様にかかる転倒検出方法は、到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する。
本開示の第4の態様にかかるプログラムは、到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定することをコンピュータに実行させる。
本開示により、踏切内において転倒した人を検出する精度を向上させることができる監視システム、情報処理装置、転倒検出方法、及び非一時的なコンピュータ可読媒体を提供することができる。
実施の形態1にかかる監視システムの構成図である。 実施の形態2にかかる監視システムの構成図である。 実施の形態2にかかるLiDARセンサの構成図である。 実施の形態2にかかる情報処理装置の構成図である。 実施の形態2にかかる、転倒している人がいるか否かの判定処理を説明する図である。 実施の形態2にかかる転倒者の検出処理の流れを示す図である。 実施の形態3にかかる転倒者の検出処理の流れを示す図である。 それぞれの実施の形態にかかる情報処理装置の構成図である。
(実施の形態1)
以下、図面を参照して本開示の実施の形態について説明する。図1を用いて実施の形態1にかかる監視システムの構成例について説明する。図1の監視システムは、主に、踏切内の状態を監視するために用いられる。具体的には、図1の監視システムは、監視領域60内の踏切における転倒者を発見するために用いられてもよい。
監視システムは、LiDAR(Light Detection and Ranging)センサ10及び情報処理装置20を有している。LiDARセンサは、到達距離の異なる複数のレーザー光を監視領域60へ照射し、それぞれのレーザー光における物体40の検出状況を示す検出信号を出力する。物体40について、図1においては物体40が歩行している状態と、物体40が転倒している状態を示している。物体40が転倒している状態は、物体40が歩行している状態よりも低い状態であると言える。物体40が歩行している状態は実線にて示され、物体40が転倒している状態は点線にて示されている。
監視領域60は、地表50上の空間とし、例えば、踏切を含む空間であってもよい。また、図1においては、監視領域60の上端が定められていることを示しているが、上端は定められなくてもよい。
到達距離の異なる複数のレーザー光は、それぞれのレーザー光が、他のレーザー光と異なる照射角度を有すると言い換えられてもよい。照射角度は、地表50と平行する平面とレーザー光の照射方向とによって定められてもよい。もしくは、照射角度は、地表50と直交する平面と、レーザー光の照射方向とによって定められてもよい。到達距離は、LiDARセンサ10と、地表50におけるレーザー光の到達地点との間の距離であってもよい。もしくは、到達距離は、LiDARセンサ10と地表50との接地点から、地表50におけるレーザー光の到達地点との間の距離であってもよい。
LiDARセンサ10から照射されたレーザー光は、物体40にあたると散乱し、反射光となる。反射光は、物体40の存在の有無の判定、さらには、物体40までの距離の測定に用いられる。LiDARセンサ10は、反射光を受光すると、物体40の検出状況を示す検出信号を情報処理装置20へ出力する。検出状況は、例えば、物体40を検出したか否かを示す状況である。ただし、LiDARセンサ10は、反射光を受光しても、認識した物体40が歩行しているか転倒しているかを判別することはできず、何らかの物体40を検出したということを認識するのみである。
LiDARセンサ10は、照射したそれぞれのレーザー光における物体40の検出状況を、一つの信号にまとめて設定してもよく、レーザー光毎に異なる信号に検出状況を設定してもよい。検出信号には、物体40の検出の有無を示す情報が設定されてもよく、それぞれのレーザー光毎に反射光を受光したか否かを示す情報が設定されてもよい。
LiDARセンサ10は、検出信号を、ネットワーク30を介して情報処理装置20へ送信する。ネットワーク30は、例えば、IPネットワークであってもよい。ネットワーク30は、具体的には、いわゆるインターネットであってもよく、企業内等に閉じたネットワークであるイントラネットであってもよい。もしくは、LiDARセンサ10と情報処理装置20とは、有線ケーブル、近距離無線通信等を用いて直接通信を行ってもよい。近距離無線通信は、例えば、無線LAN(Local Area Network)であってもよく、Bluetooth(登録商標)であってもよい。
情報処理装置20は、プロセッサがメモリに格納されたプログラムを実行することによって動作するコンピュータ装置であってもよい。情報処理装置20は、例えば、サーバ装置であってもよい。
情報処理装置20は、LiDARセンサ10から検出信号を受信する。情報処理装置20は、所定の到達距離よりも短い到達距離のレーザー光における検出状況が物体40を検出したことを示し、かつ、物体40を検出したレーザー光の数が減少した場合に、物体が転倒したと判定する。
例えば、図1に示されるように、LiDARセンサ10から照射された4つのレーザー光のうち、3つのレーザー光において、物体40を検出していたとする。その後、物体40が転倒した場合、物体40は地表50に近い位置に横たわることになる。この場合、LiDARセンサ10から照射された複数のレーザー光のうち、到達距離の長い3つのレーザー光においては、物体40を検出することができず、到達距離が一番短いレーザー光のみが物体40を検出することができる。このように、物体40を検出していたレーザー光が減少し、さらに、到達距離が短いレーザー光が物体40を検出した場合、LiDARセンサ10は、物体40が転倒したと判定する。
図1においては、4つのレーザー光のうち、到達距離が最も短いレーザー光のみが転倒した物体40を検出したことを示しているが、例えば、4つのレーザー光のうち、到達距離が短い2つのレーザー光が転倒した物体を検出してもよい。物体40を検出していたレーザー光が減少した際に、どのレーザー光において物体40を検出した場合に、物体40が転倒したと判定されるかは、予め定められていてもよい。
以上説明したように、図1の監視システムは、物体40が転倒したか否かを判定する際に、到達領域の異なる複数のレーザー光における物体の検出結果を用いることができる。到達距離の異なる複数のレーザーは、地表に対して様々な角度を有する。そのため、レーザー光が地表と平行に照射される場合と比較して、いずれかのレーザー光が、転倒した物体へあたる可能性を向上させることができる。その結果、情報処理装置20は、複数のレーザー光における物体40の検出結果を用いることによって、物体40が転倒したか否かを判定することができる。
(実施の形態2)
続いて、図2を用いて実施の形態2にかかる監視システムの構成例について説明する。図2の監視システムは、LiDARセンサ10、情報処理装置20、及びカメラ70を有している。LiDARセンサ10及び情報処理装置20は、図1において説明したLiDARセンサ10及び情報処理装置20と同様である。LiDARセンサ10及び情報処理装置20について、図1と同様の機能及び動作については、詳細な説明を省略する。
カメラ70は、監視領域60を撮影するために用いられる。カメラ70は、例えば、遠赤外線カメラであってもよく、一般的なデジタルカメラもしくはビデオカメラ等であってもよい。
カメラ70は、監視領域60を撮影することによって生成した撮影画像を情報処理装置20へ送信する。カメラ70は、ネットワーク30を介して撮影画像を情報処理装置20へ送信してもよい。もしくは、カメラ70は、有線ケーブル、近距離無線通信等を用いて、撮影画像を情報処理装置20へ送信してもよい。
続いて、図3を用いて実施の形態2にかかるLiDARセンサ10の構成例について説明する。LiDARセンサ10は、照射部11及び通信部12を有している。照射部11は、レーザー光を照射するとともに、反射光を受光してもよい。照射部11は、例えば、アンプ、ADC(Analog Digital Converter)、及びフォトダイオード等によって構成されてもよい。照射部11は、例えば、レーザー光を照射するトランスミッター及び反射光を受光するレシーバーによって構成されると言い換えられてもよい。照射部11は、照射角度が異なる複数のレーザー光を照射する。照射部11は、例えば、一つのトランスミッターの照射方向を変更することによって複数のレーザー光を照射してもよく、照射方向が固定された複数のトランスミッターを用いて複数のレーザー光を照射してもよい。
照射部11は、照射されたレーザー光のうち、どのレーザー光に対する反射光を受光したかを示す情報を通信部12へ出力する。照射部11は、例えば、反射光を受光することができたレーザー光の照射方向に、物体40が存在すると判定してもよい。例えば、図1においてLiDARセンサ10から照射されるレーザー光のうち、到達距離が最も遠いレーザー光から順に、第1層、第2層、第3層、第4層のレーザー光とする。図1においては、照射部11は、はじめに、第1層から第3層までのレーザー光において物体40が検出されたことを示す情報を通信部12へ出力する。物体40が転倒した後、照射部11は、第4層のレーザー光において物体40が検出されたことを示す情報を通信部12へ出力する。
通信部12は、ネットワーク30を介して情報処理装置20と通信を行う。通信部12は、例えば、ネットワーク30との間においてデータの送信及び受信を行うネットワークインタフェースであってもよい。通信部12は、物体40の検出結果を示す情報を含む検出信号を情報処理装置20へ送信する。物体40の検出結果を示す情報は、例えば、どの層のレーザー光において物体40が検出されたかを示す情報であってもよい。通信部12は、照射部11から情報を受け取る度に、検出信号を情報処理装置20へ送信してもよい。もしくは、通信部12は、所定のタイミングに、検出信号を情報処理装置20へ送信してもよい。
続いて、図4を用いて実施の形態2にかかる情報処理装置20の構成例について説明する。情報処理装置20は、通信部21及び判定部22を有している。通信部21及び判定部22は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアもしくはモジュールであってもよい。または、通信部21及び判定部22は、回路もしくはチップ等のハードウェアであってもよい。
通信部21は、ネットワーク30を介して、カメラ70から撮影画像を受信し、LiDARセンサ10から検出信号を受信する。通信部21は、受信した撮影画像及び検出信号を判定部22へ出力する。
判定部22は、監視領域60において転倒している人がいるか否かを判定する。ここで、図5を用いて、判定部22における判定処理について説明する。判定部22は、撮影画像から、物体40の検出処理を実施する。例えば、判定部22は、歩行者の特徴を、ディープラーニング等を用いて学習した学習モデルを用いて、撮影画像に含まれる歩行者を検出する。判定部22は、カメラ70から撮影画像を受信する度に、それぞれの撮影画像を学習モデルの入力データとして、歩行者の検出処理を行う。判定部22が歩行者を検出することができた場合とは、撮影画像に歩行者の特徴が示されている場合である。判定部22が歩行者を検出することができない場合とは、例えば、歩行者が監視領域60の外に移動した場合であってもよい。もしくは、判定部22が歩行者を検出することができない場合とは、歩行者が転倒することによって、撮影画像内に、歩行者の特徴が示されなくなった場合であってもよい。もしくは、判定部22が歩行者を検出することができない場合とは、遠赤外線カメラを用いて撮影された撮影画像において、歩行者を地表50と区別することができない場合等であってもよい。具体的には、歩行者が転倒し、地表50と接触することによって、歩行者と地表50との温度差が小さくなることがある。このような場合、遠赤外線カメラを用いた撮影画像においては、歩行者を地表50と区別することができない場合がある。
さらに、判定部22は、LiDARセンサ10から受信した検出信号において、どの層のレーザー光において物体40が検出されているかを判定する。さらに、判定部22は、複数のレーザー光において物体40が検出されているかを判定する。
例えば、判定部22は、時刻tより前のタイミングにおいては撮影画像において歩行者を検出していたが、時刻tより後のタイミングにおいては撮影画像において歩行者を検出することができなくなったと判定する。さらに、判定部22は、時刻tより前のタイミングにおいては、複数の層において物体40を検出していたが、時刻tより後のタイミングにおいて、第4層のみが物体40を検出していると判定する。
つまり、判定部22は、時刻tにおいて、撮影画像から歩行者を検出することができなくなり、さらに、時刻tにおいて、複数の層において検出していた物体40を、第4層のみにおいて物体40を検出するようになる。このように、撮影画像から歩行者を検出することができなくなったタイミングに、複数の層において検出していた物体40を、第4層のみにおいて物体40を検出するようになった場合、判定部22は、転倒している人がいると判定する。判定部22は、撮影画像から歩行者を検出することができなくなったタイミングと、複数の層において検出していた物体40を、第4層のみにおいて物体40を検出するようになったタイミングとが実質的に同一の場合、転倒している人がいると判定してもよい。実質的に同一の場合とは、撮影画像から歩行者を検出することができなくなったタイミングと、複数の層において検出していた物体40を、第4層のみにおいて検出するようになったタイミングとが所定の範囲内にある場合を含む。
また、判定部22は、撮影画像において検出された歩行者の位置と、LiDARセンサ10において検出された物体40の位置とが一致する場合に、歩行者と物体40とが同一人物であると判定してもよい。もしくは、判定部22は、撮影画像において検出された歩行者の位置と、LiDARセンサ10において検出された物体40の位置との間が、予め定められた距離よりも短ければ、歩行者と物体40とが同一人物であると判定してもよい。撮影画像において検出された歩行者の位置は、例えば、画像座標もしくはカメラ座標を世界座標へ変換することによって特定されてもよい。画像座標もしくはカメラ座標は、例えば、画素の位置を用いて示されてもよい。世界座標は、例えば、緯度及び経度を用いて示されてもよい。判定部22は、例えば、画像座標もしくはカメラ座標と、世界座標との対応を示すテーブル情報を予め保持していてもよい。
LiDARセンサ10において検出された物体40の位置は、例えば、各層のレーザー光が物体40を検出した場合の検出位置が予め定められていてもよい。もしくは、LiDARセンサ10において検出された物体40の位置として、反射光の受光タイミングに応じてLiDARセンサ10から物体40までの距離が推定されてもよい。さらに、判定部22は、推定した距離に基づいて、物体40の位置を推定してもよい。
続いて、図6を用いて実施の形態2にかかる転倒者の検出処理の流れについて説明する。はじめに、判定部22は、撮影画像から歩行者を検出する(S11)。判定部22は、例えば、ディープラーニング等の機械学習を実行することにより、撮影画像から歩行者を検出する。
次に、判定部22は、LiDARセンサ10において、第1層乃至第3層のレーザー光において物体40が検出されていると判定する(S12)。判定部22は、LiDARセンサ10から受信した検出信号を用いて、物体40が検出されたレーザー光を判定する。次に、判定部22は、撮影画像から歩行者を検出することができなくなる状態となる(S13)。
次に、判定部22は、LiDARセンサ10において、第4層のレーザー光においてのみ、物体40を検出したか否かを判定する(S14)。もしくは、判定部22は、LiDARセンサ10において、予め定められた層のレーザー光においてのみ物体40を検出したか否かを判定してもよい。
判定部22は、第4層のレーザー光においてのみ物体40を検出したと認識した場合、歩行者が転倒したと判定する(S15)。判定部22は、第4層以外のレーザー光において物体40を検出した場合、もしくは、いずれのレーザー光においても物体40を検出しなかった場合、処理を終了する。
以上において説明したように、実施の形態2にかかる情報処理装置20は、カメラ70において撮影された撮影画像における歩行者の検出状況と、LiDARセンサ10における物体40の検出状況とを分析して、転倒者の有無を判定することができる。
LiDARセンサ10が照射する複数のレーザー光は、それぞれ異なる角度を有し、監視領域60に照射される。そのため、LiDARセンサ10は、監視領域60において、物体40の高さによらず、物体40を検出することができる。
さらに、監視領域60内の歩行者が転倒するという動きを検出するために、情報処理装置20は、LiDARセンサ10において歩行者を検出しているレーザー光の変化と、撮影画像における歩行者の検出状況の変化とを用いることができる。これにより、情報処理装置20は、歩行者が転倒したことを検出することができる。
また、LiDARセンサ10が照射する第1層乃至第4層を含む複数のレーザー光は、監視領域60に含まれる地表50に到達点を有してもよい。LiDARセンサ10から照射される複数のレーザー光の到達点を、監視領域60に含まれる地表50に限定することにより、監視領域60の外における物体の検出を回避することができる。
(実施の形態3)
続いて、図7を用いて実施の形態3にかかる歩行者の検出処理について説明する。図7は、図6のステップS14において判定部22がYESと判定した後の処理を示している。図6のステップS14において判定部22がYESと判定した状態は、撮影画像から歩行者を検出できていない状態であって、第4層のレーザー光においてのみ物体40を検出している状態である。
このような状態において、判定部22は、歩行者を検出することができなかった撮影画像を回転させ、歩行者の検出を試みる。判定部22は、ディープラーニングを用いて歩行者の学習を行う際、歩行者が立っている姿勢を主に学習する。そのため、判定部22は、歩行者が転倒した状態では、歩行者を検出することができなくなる。
そこで、判定部22は、撮影画像を回転させることによって、転倒した状態の歩行者を、立っている状態に近づける。さらに、判定部22は、回転した撮影画像を入力として、歩行者が立っている姿勢を学習した学習モデルを適用することによって、歩行者の検出を試みる。例えば、判定部22は、撮影画像を90度回転させてもよく、90度±α(αは任意の正の値)回転させてもよい。
判定部22は、回転した撮影画像から歩行者を検出することができなかった場合、再度撮影画像を回転させ、歩行者を検出するまで、複数回撮影画像を回転させてもよい。判定部22は、予め定められた回数以内の回転によって、歩行者を検出することができた場合、歩行者が転倒したと判定する(S22)。判定部22は、予め定められた回数以内の回転によっては、歩行者を検出することができなかった場合、処理を終了する。
以上説明したように、実施の形態3の情報処理装置20は、回転させた撮影画像を用いて、転倒した歩行者を検出することができる。これより、LiDARセンサ10において検出された物体40が、転倒した歩行者であるか否かの判定精度を向上させることができる。
また、判定部22は、撮影画像から歩行者を検出できなくなるケースには、歩行者が単に監視領域60から歩いて遠ざかる場合も含まれる。このような場合においても、判定部22が撮影画像を回転させて歩行者の検出を試みることは、情報処理装置20の処理負荷を増大させることとなる。
一方、実施の形態3においては、撮影画像から歩行者を検出できなくなるケースのうち、第4層のレーザー光において物体40が検出された場合に、判定部22が撮影画像を回転させて歩行者の検出を試みる。そのため、判定部22が、撮影画像を回転させて歩行者の検出を試みるケースを、レーザー光の情報を用いない場合と比較して、減少させることができる。その結果、実施の形態3においては、撮影画像から歩行者を検出できなくなる全てのケースにおいて、撮影画像を回転させて歩行者の検出を試みる場合と比較して、処理負荷の増大を抑えることができる。
図8は、情報処理装置20の構成例を示すブロック図である。図8を参照すると、情報処理装置20は、ネットワーク・インターフェース1201、プロセッサ1202、及びメモリ1203を含む。ネットワーク・インターフェース1201は、通信システムを構成する他のネットワークノード装置と通信するために使用される。ネットワーク・インターフェース1201は、無線通信を行うために使用されてもよい。例えば、ネットワーク・インターフェース1201は、IEEE 802.11 seriesにおいて規定された無線LAN通信、もしくは3GPP(3rd Generation Partnership Project)において規定されたモバイル通信を行うために使用されてもよい。もしくは、ネットワーク・インターフェース1201は、例えば、IEEE 802.3 seriesに準拠したネットワークインターフェースカード(NIC)を含んでもよい。
プロセッサ1202は、メモリ1203からソフトウェア(コンピュータプログラム)を読み出して実行することで、上述の実施形態においてフローチャートもしくはシーケンスを用いて説明された情報処理装置20の処理を行う。プロセッサ1202は、例えば、マイクロプロセッサ、MPU(Micro Processing Unit)、又はCPU(Central Processing Unit)であってもよい。プロセッサ1202は、複数のプロセッサを含んでもよい。
メモリ1203は、揮発性メモリ及び不揮発性メモリの組み合わせによって構成される。メモリ1203は、プロセッサ1202から離れて配置されたストレージを含んでもよい。この場合、プロセッサ1202は、図示されていないI/Oインタフェースを介してメモリ1203にアクセスしてもよい。
図8の例では、メモリ1203は、ソフトウェアモジュール群を格納するために使用される。プロセッサ1202は、これらのソフトウェアモジュール群をメモリ1203から読み出して実行することで、上述の実施形態において説明された情報処理装置20の処理を行うことができる。
図8を用いて説明したように、情報処理装置20等が有するプロセッサの各々は、図面を用いて説明されたアルゴリズムをコンピュータに行わせるための命令群を含む1又は複数のプログラムを実行する。
上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリを含む。磁気記録媒体は、例えばフレキシブルディスク、磁気テープ、ハードディスクドライブであってもよい。半導体メモリは、例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory)であってもよい。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
なお、本開示は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。また、本開示は、それぞれの実施の形態を適宜組み合わせて実施されてもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
到達距離の異なる複数のレーザー光を監視領域へ照射し、それぞれのレーザー光における物体の検出状況を示す検出信号を出力するLiDARセンサと、
所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する情報処理装置と、を備える監視システム。
(付記2)
前記情報処理装置は、
前記複数のレーザー光のうち、到達距離が最も近いレーザー光における検出信号が前記物体を検出した場合に、前記物体が転倒したと判定する、付記1に記載の監視システム。
(付記3)
前記LiDARセンサは、
前記複数のレーザー光が前記監視領域内の地表に到達するように、前記複数のレーザーの照射方向を制御する、付記1又は2に記載の監視システム。
(付記4)
前記監視領域を撮影するカメラをさらに備え、
情報処理装置は、
前記カメラを用いて撮影された撮影画像から前記物体を認識し、前記物体を認識することができていた前記撮影画像において、前記物体を認識することができなくなった場合に、前記物体が転倒したと判定する、付記1乃至3のいずれか1項に記載の監視システム。
(付記5)
前記情報処理装置は、
前記物体を検出したレーザー光の数が減少したタイミングと、前記物体を認識していた前記撮影画像において、前記物体を認識することができなくなったタイミングとが所定の範囲内である場合に、前記物体が転倒したと判定する、付記4に記載の監視システム。
(付記6)
前記情報処理装置は、
前記物体を認識することができなくなった前記撮影画像を回転させ、回転させた前記撮影画像と、人が立っている状態を学習した学習モデルとを用いて、前記撮影画像から前記物体を認識することができた場合に、前記物体が転倒したと判定する、付記4又は5に記載の監視システム。
(付記7)
到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信する通信部と、
所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する判定部と、を備える情報処理装置。
(付記8)
前記判定部は、
前記複数のレーザー光のうち、到達距離が最も近いレーザー光における検出信号が前記物体を検出した場合に、前記物体が転倒したと判定する、付記7に記載の情報処理装置。
(付記9)
到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、
所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する、転倒検出方法。
(付記10)
到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、
所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定することをコンピュータに実行させるプログラムが格納された非一時的なコンピュータ可読媒体。
なお、本開示は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
10 LiDARセンサ
11 照射部
12 通信部
20 情報処理装置
21 通信部
22 判定部
30 ネットワーク
40 物体
50 地表
60 監視領域
70 カメラ

Claims (8)

  1. 到達距離の異なる複数のレーザー光を監視領域へ照射し、それぞれのレーザー光における物体の検出状況を示す検出信号を出力するLiDARセンサと、
    前記監視領域を撮影するカメラと、
    前記カメラを用いて撮影された撮影画像における物体の検出結果と、所定の到達距離よりも短い到達距離のレーザー光における検出状況と、前記物体を検出したレーザー光の数の変化とに基づいて、前記物体の転倒を判定する情報処理装置と、を備え、
    前記情報処理装置は、
    前記撮影画像において物体が検出されず、前記所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する、監視システム。
  2. 到達距離の異なる複数のレーザー光を監視領域へ照射し、それぞれのレーザー光における物体の検出状況を示す検出信号を出力するLiDARセンサと、
    前記監視領域を撮影するカメラと、
    前記カメラを用いて撮影された撮影画像における物体の検出結果と、所定の到達距離よりも短い到達距離のレーザー光における検出状況と、前記物体を検出したレーザー光の数の変化とに基づいて、前記物体の転倒を判定する情報処理装置と、を備え、
    前記情報処理装置は、
    前記物体を検出したレーザー光の数が減少したタイミングと、前記物体を認識していた前記撮影画像において、前記物体を認識することができなくなったタイミングとが所定の範囲内である場合に、前記物体が転倒したと判定する、監視システム。
  3. 前記情報処理装置は、
    前記複数のレーザー光のうち、到達距離が最も近いレーザー光における検出信号が前記物体を検出した場合に、前記物体が転倒したと判定する、請求項1又は2に記載の監視システム。
  4. 前記LiDARセンサは、
    前記複数のレーザー光が前記監視領域内の地表に到達するように、前記複数のレーザーの照射方向を制御する、請求項1乃至3のいずれか1項に記載の監視システム。
  5. 前記情報処理装置は、
    前記撮影画像において物体が検出されなかった場合、前記撮影画像を回転させ、
    回転させた前記撮影画像における物体の検出結果に基づいて前記物体の転倒を判定する、請求項乃至のいずれか1項に記載の監視システム。
  6. 到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、前記監視領域を撮影するカメラから撮影画像を受信する通信部と、
    前記カメラを用いて撮影された前記撮影画像における物体の検出結果と、所定の到達距離よりも短い到達距離のレーザー光における検出状況と、前記物体を検出したレーザー光の数の変化とに基づいて、前記物体の転倒を判定する判定部と、を備え、
    前記判定部は、
    前記撮影画像において物体が検出されず、前記所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する、情報処理装置。
  7. 到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、
    前記監視領域を撮影するカメラから撮影画像を受信し、
    前記カメラを用いて撮影された前記撮影画像における物体の検出結果と、所定の到達距離よりも短い到達距離のレーザー光における検出状況と、前記物体を検出したレーザー光の数の変化とに基づいて、前記物体の転倒を判定し、
    前記物体の転倒を判定する際に、
    前記撮影画像において物体が検出されず、前記所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定する、転倒検出方法。
  8. 到達距離の異なる複数のレーザー光がLiDARセンサから監視領域に照射され、それぞれのレーザー光における物体の検出状況を示す検出信号を前記LiDARセンサから受信し、
    前記監視領域を撮影するカメラから撮影画像を受信し、
    前記カメラを用いて撮影された前記撮影画像における物体の検出結果と、所定の到達距離よりも短い到達距離のレーザー光における検出状況と、前記物体を検出したレーザー光の数の変化とに基づいて、前記物体の転倒を判定し、
    前記物体の転倒を判定する際に、
    前記撮影画像において物体が検出されず、前記所定の到達距離よりも短い到達距離のレーザー光における検出状況が前記物体を検出したことを示し、かつ、前記物体を検出したレーザー光の数が減少した場合に、前記物体が転倒したと判定することをコンピュータに実行させるプログラム。
JP2021506893A 2019-03-19 2019-03-19 監視システム、情報処理装置、転倒検出方法、及びプログラム Active JP7231011B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/011469 WO2020188748A1 (ja) 2019-03-19 2019-03-19 監視システム、情報処理装置、転倒検出方法、及び非一時的なコンピュータ可読媒体

Publications (2)

Publication Number Publication Date
JPWO2020188748A1 JPWO2020188748A1 (ja) 2020-09-24
JP7231011B2 true JP7231011B2 (ja) 2023-03-01

Family

ID=72519739

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021506893A Active JP7231011B2 (ja) 2019-03-19 2019-03-19 監視システム、情報処理装置、転倒検出方法、及びプログラム

Country Status (3)

Country Link
US (1) US20220163671A1 (ja)
JP (1) JP7231011B2 (ja)
WO (1) WO2020188748A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113311428B (zh) * 2021-05-25 2023-05-30 山西大学 一种基于毫米波雷达的人体跌倒智能监测系统及跌倒识别方法
WO2024010898A1 (en) * 2022-07-08 2024-01-11 Herzog Technologies, Inc. System and method for railway right-of-way occupancy detection

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100063885A1 (en) 2008-09-08 2010-03-11 International Business Machines Corporation Apparatus, system, and method for advertisement complexity scaling via traffic analysis
JP2016128977A (ja) 2015-01-09 2016-07-14 富士通株式会社 乱雑度の変化の傾向監視方法、乱雑度の変化の傾向監視プログラムおよび乱雑度の変化の傾向監視装置
WO2017168043A1 (en) 2016-03-29 2017-10-05 Maricare Oy Method and system for monitoring

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3812666B2 (ja) * 2002-12-27 2006-08-23 石川島播磨重工業株式会社 監視装置
SE0203483D0 (sv) * 2002-11-21 2002-11-21 Wespot Ab Method and device for fall detection
US8115641B1 (en) * 2008-04-18 2012-02-14 Dempsey Michael K Automatic fall detection system
TWI402778B (zh) * 2010-07-22 2013-07-21 Univ China Medical Fall warning system
JP6027796B2 (ja) * 2012-07-06 2016-11-16 日本信号株式会社 転倒検出システム
JP2015182556A (ja) * 2014-03-24 2015-10-22 公益財団法人鉄道総合技術研究所 踏切通過者の監視システム及び監視プログラム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100063885A1 (en) 2008-09-08 2010-03-11 International Business Machines Corporation Apparatus, system, and method for advertisement complexity scaling via traffic analysis
JP2016128977A (ja) 2015-01-09 2016-07-14 富士通株式会社 乱雑度の変化の傾向監視方法、乱雑度の変化の傾向監視プログラムおよび乱雑度の変化の傾向監視装置
WO2017168043A1 (en) 2016-03-29 2017-10-05 Maricare Oy Method and system for monitoring
JP2019517051A (ja) 2016-03-29 2019-06-20 マリケアー オーワイ モニタリングのための方法およびシステム

Also Published As

Publication number Publication date
US20220163671A1 (en) 2022-05-26
JPWO2020188748A1 (ja) 2020-09-24
WO2020188748A1 (ja) 2020-09-24

Similar Documents

Publication Publication Date Title
US11711667B2 (en) Detecting location within a network
JP7231011B2 (ja) 監視システム、情報処理装置、転倒検出方法、及びプログラム
US7940178B2 (en) Laser area sensor
JP7103405B2 (ja) 監視制御装置、監視システム、監視制御方法及びプログラム
JP2009110124A (ja) 対象検出装置、対象検出方法、および対象検出プログラム
US9367748B1 (en) System and method for autonomous lock-on target tracking
US11669092B2 (en) Time of flight system and method for safety-rated collision avoidance
JP2006209318A (ja) 人数検出装置及び方法
FR3022358A1 (fr) Systeme de reperage dynamique et procede de guidage automatique
US20200041624A1 (en) Lidar system design to mitigate lidar cross-talk
US11486978B2 (en) Technology to support the coexistence of multiple independent lidar sensors
CN116547562A (zh) 点云滤噪方法、系统和可移动平台
JP5163971B1 (ja) レーザースキャンセンサ
JP6274410B2 (ja) 架線検出方法
KR20140034364A (ko) 임펄스 레이더를 이용한 인체감지 보안 시스템
JP2018018347A (ja) アラート送信プログラム、アラート送信方法、およびアラートシステム
JP2021021639A (ja) 情報処理装置、情報処理方法、プログラム、記録媒体及び検出システム
JP2021140343A (ja) レーザースキャンセンサ
WO2019186741A1 (ja) 測距センサ、制御装置、制御方法及びプログラムが格納された非一時的なコンピュータ可読媒体
JP6726043B2 (ja) 物体検出センサ及び監視システム
JP7506303B2 (ja) センサ装置
JP6919410B2 (ja) 物体検出装置
WO2022217522A1 (zh) 目标感知方法、装置、探测系统、可移动平台及存储介质
US20210080545A1 (en) Data processing apparatus, moving object apparatus and data processing method
WO2020153002A1 (ja) Id情報付与装置、id情報付与システム、および制御プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210903

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220722

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220927

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221212

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20221212

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20221219

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20221220

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230130

R151 Written notification of patent or utility model registration

Ref document number: 7231011

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151