JP2019151968A - 情報提示装置および情報提示方法 - Google Patents

情報提示装置および情報提示方法 Download PDF

Info

Publication number
JP2019151968A
JP2019151968A JP2018035382A JP2018035382A JP2019151968A JP 2019151968 A JP2019151968 A JP 2019151968A JP 2018035382 A JP2018035382 A JP 2018035382A JP 2018035382 A JP2018035382 A JP 2018035382A JP 2019151968 A JP2019151968 A JP 2019151968A
Authority
JP
Japan
Prior art keywords
vehicle
construction site
unit
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018035382A
Other languages
English (en)
Other versions
JP7150447B2 (ja
Inventor
正暢 関
Masanobu Seki
正暢 関
俊輔 宮本
Shunsuke Miyamoto
俊輔 宮本
馨 安田
Kaoru Yasuda
馨 安田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2018035382A priority Critical patent/JP7150447B2/ja
Priority to US16/956,691 priority patent/US11532162B2/en
Priority to PCT/JP2019/006122 priority patent/WO2019167726A1/ja
Publication of JP2019151968A publication Critical patent/JP2019151968A/ja
Application granted granted Critical
Publication of JP7150447B2 publication Critical patent/JP7150447B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/123Traffic control systems for road vehicles indicating the position of vehicles, e.g. scheduled vehicles; Managing passenger vehicles circulating according to a fixed timetable, e.g. buses, trains, trams
    • G08G1/133Traffic control systems for road vehicles indicating the position of vehicles, e.g. scheduled vehicles; Managing passenger vehicles circulating according to a fixed timetable, e.g. buses, trains, trams within the vehicle ; Indicators inside the vehicles or at stops
    • G08G1/137Traffic control systems for road vehicles indicating the position of vehicles, e.g. scheduled vehicles; Managing passenger vehicles circulating according to a fixed timetable, e.g. buses, trains, trams within the vehicle ; Indicators inside the vehicles or at stops the indicator being in the form of a map
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • G06V20/54Surveillance or monitoring of activities, e.g. for recognising suspicious objects of traffic, e.g. cars on the road, trains or boats
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/167Driving aids for lane monitoring, lane changing, e.g. blind spot detection
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/20Monitoring the location of vehicles belonging to a group, e.g. fleet of vehicles, countable or determined number of vehicles
    • G08G1/205Indicating the location of the monitored vehicles as destination, e.g. accidents, stolen, rental
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/20Monitoring the location of vehicles belonging to a group, e.g. fleet of vehicles, countable or determined number of vehicles
    • G08G1/207Monitoring the location of vehicles belonging to a group, e.g. fleet of vehicles, countable or determined number of vehicles with respect to certain areas, e.g. forbidden or allowed areas with possible alerting when inside or outside boundaries
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Structural Engineering (AREA)
  • Civil Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Component Parts Of Construction Machinery (AREA)

Abstract

【課題】車両のオペレータに、近傍に存在する他の車両を容易に認識させる。【解決手段】車両認識部は、施工現場に設置された複数の撮像装置が撮像した画像に基づいて、複数の車両それぞれの位置を特定する。車両指定部は、特定された複数の車両のうち、指定車両の指定を受け付ける。表示制御部は、指定車両との距離が閾値未満である他の車両の位置を表す近接プロットを施工現場の俯瞰画像に重ねて表示する信号を出力する。【選択図】図8

Description

本発明は、情報提示装置および情報提示方法に関する。
施工現場には、積込車両や運搬車両などの複数の車両が存在する。車両のオペレータは、施工現場を注意深く観察し、安全に配慮しながら作業を行う必要がある。特許文献1には、作業エリアを撮像するカメラが撮像した画像から、建設機械および作業員の輪郭を検出してターゲットエリアを設定し、ターゲットエリアどうしが接触したときにその旨を報知する技術が開示されている。
特開2012−203677号公報
施工現場には、建屋やフェンスが設けられるため、車両のオペレータの死角が少なからず存在する。死角には、他の車両が存在する可能性があるため、オペレータは、死角から他の車両が出現する可能性を考慮しながら作業をする必要がある。
本発明の目的は、車両のオペレータに、近傍に存在する他の車両を容易に認識させることができる情報提示装置および情報提示方法を提供することにある。
本発明の一態様によれば、情報提示装置は、施工現場に設置された複数の撮像装置が撮像した画像に基づいて、複数の車両それぞれの位置を特定する車両認識部と、特定された前記複数の車両のうち、指定車両の指定を受け付ける車両指定部と、前記指定車両との距離が閾値未満である他の車両の位置を表す近接プロットを前記施工現場の俯瞰画像に重ねて表示する信号を出力する表示制御部とを備える。
上記態様によれば、情報提示装置は、車両のオペレータに、近傍に存在する他の車両を容易に認識させることができる。
第1の実施形態に係る施工現場管理システムの構成を示す概略図である。 積込車両の運転室内部の構成を示す斜視図である。 第1の実施形態に係る情報提示装置の構成を示す概略ブロック図である。 第1の実施形態に係る情報提示装置による全体俯瞰画像の生成方法を示すフローチャートである。 第1の実施形態に係る情報提示装置による全体俯瞰画像の生成方法を示すフローチャートである。 全体俯瞰画像に写る車両との紐づけがない車載端末に表示される画像の例である。 近傍に運搬車両が存在しない積込車両の車載端末に表示される画像の例である。 近傍に運搬車両が存在する積込車両の車載端末に表示される画像の例である。 近傍に注意地点が存在する積込車両の車載端末に表示される画像の例である。 第1の実施形態における積込車両の指定方法を示すフローチャートである。 第1の実施形態における注意情報の登録方法を示すフローチャートである。
〈第1の実施形態〉
《施工現場管理システム》
図1は、第1の実施形態に係る施工現場管理システムの構成を示す概略図である。
施工現場管理システム1は、施工現場Gを走行する積込車両V2の車載端末V203(表示装置)に、近傍の運搬車両V1の位置を提示することで、積込車両V2のオペレータに注意を喚起するためのシステムである。積込車両V2および運搬車両V1は、車両の一例である。施工現場管理システム1は、複数の撮像装置110と、情報提示装置120とを備える。
複数の撮像装置110は、それぞれ施工現場Gの上方に設置され、施工現場Gを俯瞰撮影する。複数の撮像装置110は、施工現場Gのうち有人運転車両が走行可能なすべての地点が、もれなく少なくとも1つの撮像装置110によって撮像されるように設けられる。
情報提示装置120は、複数の撮像装置110が撮像した画像に基づいて施工現場G全体が写る全体俯瞰画像を生成する。また情報提示装置120は、運搬車両V1を描画した全体俯瞰画像を積込車両V2の車載端末V203に表示させる。情報提示装置120は、例えば施工現場Gの建屋B内部に設けられる。
図1に示す施工現場Gには、2つの建屋Bと2つのストックヤードYが設けられる。ストックヤードYとは、施工工事によって発生した土砂を再利用するために一時的に保管しておくためのスペースである。なお、他の実施形態においては施工現場Gの構成は図1に示すものに限られない。すなわち、建屋BおよびストックヤードYの有無および個数は、図1に示すものに限られない。
《積込車両》
積込車両V2は、土砂の積込現場において稼働し、盛土作業または掘削作業を行う車両である。積込車両V2の例としては、油圧ショベル、ブルドーザー、ホイールローダーなどが挙げられる。
図2は、積込車両の運転室内部の構成を示す斜視図である。
積込車両V2は、運転室V200を備える。運転室V200の内部には、オペレータが着座するための運転席V201、積込車両V2を操作するための操作装置V202、作業に関する情報を表示する車載端末V203が設けられる。
操作装置V202は、オペレータの操作に応じて、積込車両V2の作業機の動作、旋回動作、および走行動作のための操作信号を生成する。車載端末V203は、運転室V200のフロントガラスと運転席V201の間に設けられる。なお、車載端末V203の位置は図2に示す位置に限られない。
《情報提示装置》
図3は、第1の実施形態に係る情報提示装置の構成を示す概略ブロック図である。
情報提示装置120は、プロセッサ1100、メインメモリ1200、ストレージ1300、インタフェース1400を備えるコンピュータである。ストレージ1300は、プログラムを記憶する。プロセッサ1100は、プログラムをストレージ1300から読み出してメインメモリ1200に展開し、プログラムに従った処理を実行する。
ストレージ1300の例としては、HDD、SSD、磁気ディスク、光磁気ディスク、CD−ROM、DVD−ROM等が挙げられる。ストレージ1300は、情報提示装置120の共通通信線に直接接続された内部メディアであってもよいし、インタフェース1400を介して情報提示装置120に接続される外部メディアであってもよい。ストレージ1300は、一時的でない有形の記憶媒体である。
プロセッサ1100は、プログラムの実行により、画像取得部1101、俯瞰画像生成部1102、車両認識部1103、車両追跡部1104、注意情報取得部1105、車両指定部1106、距離算出部1107、表示画像生成部1108、表示判定部1109、表示制御部1110を備える。
またプロセッサ1100は、プログラムの実行により、メインメモリ1200に画像記憶部1201、車両記憶部1202の記憶領域を確保する。
画像取得部1101は、所定の時間ごとに複数の撮像装置110それぞれから画像を取得する。
俯瞰画像生成部1102は、画像取得部1101が取得した複数の画像を変形し、合成することで、施工現場Gの全体が写る全体俯瞰画像を生成する。俯瞰画像生成部1102は、予め撮像装置110ごとに、当該撮像装置110が撮像した画像の変形パラメータを記憶しておく。画像の変形パラメータは、撮像装置110の設置位置および視線方向に基づいて特定することができる。なお、俯瞰画像の生成方法はこれに限られない。例えば、他の実施形態に係る俯瞰画像生成部1102は、画像取得部1101が取得した複数の画像について三角測量を行うことで施工現場Gの三次元画像を生成し、得られた三次元画像に基づいて全体俯瞰画像を生成してもよい。
車両認識部1103は、俯瞰画像生成部1102が生成した全体俯瞰画像から車両が写る個所を抽出する。車両認識部1103は、例えば既知の車両の画像の特徴量に基づくパターンマッチングにより車両が写る個所を抽出することができる。
車両追跡部1104は、画像取得部1101が取得した画像から、過去の画像において認識された車両と同じ車両が位置する座標を特定する。車両追跡部1104は、画像取得部1101が取得した画像から、例えば、過去に認識された車両と類似の画像を探索することにより、車両の追跡を行うことができる。
注意情報取得部1105は、車載端末V203から俯瞰画像における施工現場上の地点(注意地点)と、当該注意地点における注意情報とを取得し、注意情報記憶部1203に記憶させる。注意情報の例としては、ぬかるみ、凍結、落下物、陥没穴などの存在を示す情報が挙げられる。注意地点は、点として示されてもよいし、面として示されてもよい。
車両指定部1106は、車両認識部1103が認識した1つまたは複数の車両の中から1の車両の指定を受け付ける。以下、車両指定部1106が指定を受け付けた車両を指定車両ともいう。例えば、車両指定部1106は、車載端末V203や管理者が操作するコンピュータから、座標を示す情報を受信することで、全体俯瞰画像において指定された座標またはその近傍に写る積込車両V2が指定されたものとみなす。
距離算出部1107は、指定車両と他の車両との距離、および指定車両と注意地点との距離を、それぞれ算出する。距離算出部1107は、車両認識部1103または車両追跡部が特定した俯瞰画像上の車両の座標、および注意情報取得部1105が取得した俯瞰画像上の注意地点の座標に基づいて、距離を特定する。また、車両認識部1103は、画像取得部1101が取得した複数の画像による三角測量手法によって、車両の座標および距離を算出してもよい。
表示画像生成部1108は、画像記憶部1201が記憶する全体俯瞰画像と車両記憶部1202が記憶する情報と注意情報記憶部1203が記憶する情報とに基づいて、積込車両V2の車載端末V203に表示させる表示画像を生成する。
表示判定部1109は、距離算出部1107が算出した距離に基づいて、積込車両V2に、近傍の運搬車両V1または近傍の注意地点を強調して表示させるか否かを判定する。表示判定部1109は、運搬車両V1と積込車両V2との距離が所定の閾値以下である場合に、その運搬車両V1を強調して表示させると判定する。また、表示判定部1109は、注意地点と積込車両V2との距離が所定の閾値以下である場合に、その注意地点を強調して表示させると判定する。
表示制御部1110は、表示画像生成部1108が生成した表示画像を、積込車両V2に送信する。
画像記憶部1201は、全体俯瞰画像を時系列に記憶する。
車両記憶部1202は、車両認識部1103が認識した車両ごとに、当該車両を表す識別情報、種類、および位置を記憶する。車両の識別情報は、車両認識部1103が新たな車両を認識するたびに付与され、車両追跡部1104による追跡処理において車両を同定するための値である。当該識別情報は、実車両を特定するための実識別情報(機番やIPアドレスなど)とは異なる値である。車両の種類の例としては、積込車両V2、運搬車両V1およびその他の車両が挙げられる。車両記憶部1202は、車両が積込車両V2である場合、さらに積込車両V2の実識別情報を関連付けて記憶する。
注意情報記憶部1203は、注意情報取得部1105が取得した注意地点の座標および当該注意地点における注意情報を記憶する。
《表示情報の提示方法》
次に、第1の実施形態に係る情報提示装置120の動作について説明する。
図4−図5は、第1の実施形態に係る情報提示装置による全体俯瞰画像の生成方法を示すフローチャートである。
情報提示装置120の画像取得部1101は、複数の撮像装置110のそれぞれから画像を取得する(ステップS1)。俯瞰画像生成部1102は、撮像装置110の設置位置および視線方向に応じた変形パラメータを用いて、画像取得部1101が取得した各画像を変形する(ステップS2)。次に、俯瞰画像生成部1102は、変形した複数の画像を合成することで、全体俯瞰画像を生成し、画像記憶部1201に全体俯瞰画像を記憶させる(ステップS3)。車両認識部1103は、生成した全体俯瞰画像から、積込車両V2が写る座標、および運搬車両V1が写る座標を特定する(ステップS4)。
情報提示装置120は車両認識部1103が認識した車両を1つずつ選択し、以下のステップS6からステップS10の処理を実行する(ステップS5)。
車両追跡部1104は、画像記憶部1201から、前回生成された全体俯瞰画像を読み出し、選択された車両と類似する車両がステップS4で特定された座標の近傍に存在するか否かを判定する(ステップS6)。選択された車両と類似する車両が、特定された座標の近傍に存在する場合(ステップS6:YES)、車両追跡部1104は、車両記憶部1202から当該座標に関連付けられた車両の識別情報を特定する(ステップS7)。車両追跡部1104は、車両記憶部1202が当該識別情報に関連付けて記憶する座標を、ステップS4で特定された座標に書き換える(ステップS8)。他方、選択された車両と類似する車両がステップS4で特定された座標の近傍に存在しない場合(ステップS6:NO)、車両認識部1103は、当該車両に新たな識別情報を付与する(ステップS9)。車両認識部1103は、当該識別情報とステップS4で特定した座標とを関連付けて車両記憶部1202に記録する(ステップS10)。
これにより、情報提示装置120は、画像記憶部1201が記憶するすべての車両の位置を更新することができる。
表示画像生成部1108は、ステップS3で生成した全体俯瞰画像の、ステップS4で特定した座標に車両を示す通常プロットP1を付した表示画像を生成する(ステップS11)。表示画像生成部1108は、車両の種別等によって通常プロットP1の色や形を異ならせてよい。
次に、情報提示装置120は、施工現場Gに存在する積込車両V2を1つずつ選択し、以下のステップS13からステップS20の処理を実行する(ステップS12)。
表示制御部1110は、車両記憶部1202が記憶する車両のうち、選択された積込車両V2の実識別情報に関連付けられたものがあるか否かを判定する(ステップS13)。すなわち、表示制御部1110は、選択された積込車両V2が指定車両であるか否かを判定する。車両記憶部1202に、選択された積込車両V2の実識別情報に関連付けられた車両が記憶されていない場合(ステップS13:NO)、表示制御部1110は、ステップS11で生成した表示画像を、選択された積込車両V2に送信する(ステップS14)。
つまり、施工現場Gに存在する積込車両V2のうち、全体俯瞰画像に写る車両との紐づけがなされていないもの(指定車両でない車両)には、図6に示すように、全体俯瞰画像と車両を表す通常プロットP1とを含む表示画像が送信される。図6は、全体俯瞰画像に写る車両との紐づけがない車載端末に表示される画像の例である。
他方、車両記憶部1202に、選択された積込車両V2の実識別情報に関連付けられた車両が記憶されている場合(ステップS13:YES)、表示画像生成部1108は、選択された積込車両V2の実識別情報に関連付けて車両記憶部1202が記憶する座標を特定する(ステップS15)。次に、表示画像生成部1108は、ステップS11で生成した表示画像の、ステップS15で特定した座標に、現在位置を表す自車プロットP2を付す(ステップS16)。自車プロットP2は、ステップS11で付された通常プロットP1と色および形の少なくとも1つが異なる。
これにより、情報提示装置120は、図7に示すように、全体俯瞰画像と車両を表す通常プロットP1と現在位置を表す自車プロットP2とを含む表示画像を生成する。図7は、近傍に運搬車両が存在しない積込車両の車載端末に表示される画像の例である。これにより、積込車両V2のオペレータは、乗車している積込車両V2の位置を容易に認識することができる。
次に、距離算出部1107は、車両記憶部1202を参照し、ステップS15で特定された座標と、運搬車両V1の座標との距離を算出する(ステップS17)。
次に、表示判定部1109は、算出した距離に基づいて、選択された積込車両V2の座標から所定距離内に運搬車両V1が存在するか否かを判定する(ステップS18)。選択された積込車両V2の座標から所定距離内に運搬車両V1が存在しない場合(ステップS18:NO)、表示判定部1109は、選択された積込車両V2の車載端末V203において、強調すべき運搬車両V1がないと判定する。
他方、選択された積込車両V2の座標から所定距離内に運搬車両V1が存在する場合(ステップS18:YES)、表示判定部1109は、選択された積込車両V2の車載端末V203において、強調すべき運搬車両V1ががあると判定する。表示画像生成部1108は、ステップS16で生成した表示画像のうち、積込車両V2との距離が所定距離未満である運搬車両V1の座標に付された通常プロットP1を、通常プロットP1および自車プロットP2と異なる態様の近接プロットP3に置換する(ステップS19)。例えば、近接プロットP3は、通常プロットP1および自車プロットP2と色、形状、または輪郭線が異なる。これにより、表示画像において積込車両V2との距離が所定距離未満である運搬車両V1を強調することができる。
これにより、情報提示装置120は、図8に示すように、全体俯瞰画像と車両を表す通常プロットP1と現在位置を表す自車プロットP2と近傍の運搬車両V1を強調して表す近接プロットP3とを含む表示画像を生成する。図8は、近傍に運搬車両が存在する積込車両の車載端末に表示される画像の例である。これにより、積込車両V2のオペレータは、乗車している積込車両V2の近傍に運搬車両V1が存在することを容易に認識することができる。
次に、距離算出部1107は、注意情報記憶部1203を参照し、ステップS15で特定された座標と、注意地点の座標との距離を算出する(ステップS20)。
次に、表示判定部1109は、算出した距離に基づいて、選択された積込車両V2の座標から所定距離内に注意地点が存在するか否かを判定する(ステップS21)。選択された積込車両V2の座標から所定距離内に注意地点が存在しない場合(ステップS21:NO)、表示判定部1109は、選択された積込車両V2の車載端末V203において、表示すべき注意情報がないと判定する。
他方、選択された積込車両V2の座標から所定距離内に注意地点が存在する場合(ステップS21:YES)、表示判定部1109は、選択された積込車両V2の車載端末V203に注意情報を表示する必要があると判定する。表示画像生成部1108は、ステップS16で生成した表示画像のうち、積込車両V2との距離が所定距離未満である注意地点の座標に、注意地点の形状を表す図形P4を付す(ステップS22)。これにより、表示画像において積込車両V2との距離が所定距離未満である注意地点の存在を通知することができる。
これにより、情報提示装置120は、図9に示すように、全体俯瞰画像と車両を表す通常プロットP1と現在位置を表す自車プロットP2と近傍の注意地点の範囲を示す図形P4と、図形P4が示す注意範囲における注意情報を表示するボックスP5とを含む表示画像を生成する。図9は、近傍に注意地点が存在する積込車両の車載端末に表示される画像の例である。これにより、積込車両V2のオペレータは、乗車している積込車両V2の近傍に注意を要する地点が存在することを容易に認識することができる。
そして、表示制御部1110は、ステップS16で生成した表示画像(図7)、ステップS19で近傍の運搬車両V1を強調した表示画像(図8)、ステップS22で注意地点の位置を表した表示画像(図9)、または近傍の運搬車両V1を強調し、かつ注意地点の位置を表した表示画像を、積込車両V2に送信する(ステップS14)。
《積込車両の指定方法》
次に、全体俯瞰画像から積込車両V2を指定する方法について説明する。
図10は、第1の実施形態における積込車両の指定方法を示すフローチャートである。
積込車両V2のオペレータが積込車両V2を起動させると、車載端末V203も起動する。車載端末V203は、起動すると、情報提示装置120から表示画像を受信して表示する(ステップS61)。起動した積込車両V2は情報提示装置120において全体俯瞰画像に写る車両と紐づけられていないため、このとき表示される表示画像には、図6に示すように、現在位置を示す自車プロットP2が含まれない。
オペレータは、車載端末V203を操作し、表示画像の中から乗車している積込車両V2を探し、当該積込車両V2を表す通常プロットP1を選択する(ステップS62)。車載端末V203は、選択された通常プロットP1の座標を特定し、情報提示装置120に送信する(ステップS63)。
情報提示装置120の車両指定部1106は、車載端末V203から通常プロットP1の座標を示す情報を受信すると、当該情報の送信元の車載端末V203を備える積込車両V2の実識別情報を特定する(ステップS64)。そして、車両指定部1106は、特定した実識別情報を、受信した座標に係る車両に関連付けて車両記憶部1202に記憶させる(ステップS65)。つまり、車両指定部1106は、車載端末V203から通常プロットP1の座標を表す情報を受信することにより、積込車両V2の指定を受け付ける。
これにより、全体俯瞰画像に写る積込車両V2と実識別情報とが紐づけられたので、以降、当該積込車両V2には、図7−図9に示すような現在位置を示す自車プロットP2が含まれる表示画像が送信される。
《注意情報の登録方法》
次に、積込車両V2のオペレータが注意地点に係る注意情報を情報提示装置120に登録する方法について説明する。
図11は、第1の実施形態における注意情報の登録方法を示すフローチャートである。
車載端末V203は、情報提示装置120から表示画像を受信して表示する(ステップS91)。このとき表示される表示画像には、図6に示すように、現在位置を示す自車プロットP2が含まれないものであってもよいし、図7−図9に示すように、現在位置を示す自車プロットP2が含まれるものであってもよい。
オペレータは、車載端末V203を操作し、表示画像の中から、ぬかるみ、凍結、落下物等、オペレータの注意を要する事象が生じている地点を選択する(ステップS92)。このとき、オペレータは、表示画像の1点をタッチすることで注意地点を点として選択してもよいし、表示画像のうち注意地点が存在する範囲の輪郭をなぞることで注意地点を面として選択してもよい。
次に、車載端末V203は、注意情報の入力欄を表示する(ステップS93)。オペレータは、入力欄に注意情報を示す文字列を入力する(ステップS94)。そして、車載端末V203は、入力された注意地点の座標および注意情報を、情報提示装置120に送信する(ステップS95)。
情報提示装置120の注意情報取得部1105は、車載端末V203から注意地点の座標および注意情報を受信すると、これらを関連付けて注意情報記憶部1203に記憶させる(ステップS96)。
これにより、オペレータは、施工現場において注意が必要な地点の情報を情報提示装置120に通知することができる。そして、情報提示装置120は、一のオペレータによって通知された注意情報を、注意地点の近傍に存在する積込車両V2のオペレータに通知することができる。
《作用・効果》
以上、第1の実施形態によれば、情報提示装置120は、施工現場に設置された複数の撮像装置110が撮像した画像に基づいて、複数の車両それぞれの位置を特定し、複数の車両の中から積込車両V2の指定を受け付け、当該積込車両V2の車載端末V203に、当該積込車両V2との距離が閾値未満である運搬車両V1の位置を表す近接プロットP3を、施工現場の俯瞰画像に重ねて表示させる。
これにより、情報提示装置120は、積込車両V2のオペレータに、近傍の運搬車両V1の存在を容易に認識させることができる。
また、情報提示装置120は、複数の撮像装置110が撮像した画像に基づいて俯瞰画像を生成する。これにより、俯瞰画像において死角が生じることを防ぐことができる。
また、第1の実施形態によれば、情報提示装置120は、近接プロットP3に加え、積込車両V2との距離が閾値以上である運搬車両V1の位置を表す通常プロットP1を、施工現場の俯瞰画像に重ねて積込車両V2の車載端末V203に表示させる。このとき、情報提示装置120は、通常プロットP1と近接プロットP3とを異なる態様で表示させることで、近傍の運搬車両V1を他の運搬車両V1より強調する。これにより、情報提示装置120は、積込車両V2のオペレータに、複数の運搬車両V1の位置を認識させつつ、近傍に運搬車両V1が存在するか否かを通知することができる。他方、他の実施形態においては、情報提示装置120は、積込車両V2から離れた運搬車両V1を表す通常プロットP1を表示させなくてもよい。
また、第1の実施形態によれば、情報提示装置120は、俯瞰画像の座標の入力によって積込車両V2の指定を受け付ける。これにより、情報提示装置120は、GNSS(Global Navigation Satellite System)などの位置特定機能の有無に関わらず、積込車両V2の指定を受け付けることができる。他方、他の実施形態においては、情報提示装置120は、積込車両V2からGNSS等によって特定された位置情報を取得することで、積込車両V2の指定を受け付けてもよい。
また、第1の実施形態によれば、情報提示装置120は、複数の撮像装置110が撮像した画像の時系列における新たな画像と前回の画像との比較に基づいて、新たな画像における指定車両の位置を特定する(指定車両を追跡する)。これにより、情報提示装置120は、積込車両V2の指定を受け付けた後に、積込車両V2が移動した場合にも、再度の指定を受け付けることなく、当該積込車両V2の位置を特定することができる。
特に、情報提示装置120は、俯瞰画像の座標の入力によって指定を受け付け、その後画像の時系列に基づいて車両を追跡することで、位置特定機能を有しない積込車両V2の車載端末V203に、当該積込車両V2の位置を表示させることができる。
他方、他の実施形態においては、情報提示装置120は、積込車両V2からGNSS等によって特定された位置情報を常に取得することで、指定された積込車両V2の位置を更新してもよい。また他の実施形態においては、情報提示装置120は、積込車両V2が移動するたびに、オペレータから積込車両V2の指定を受け付けてもよい。
また、第1の実施形態によれば、情報提示装置120は、積込車両V2との距離が閾値未満である注意地点を表す図形P4を、施工現場の俯瞰画像に重ねて積込車両V2の車載端末V203に表示させる。これにより、情報提示装置120は、積込車両V2のオペレータに、近傍に注意を要する地点の存在を容易に認識させることができる。他方、他の実施形態においては、情報提示装置120は、積込車両V2に注意情報を提示しなくてもよい。
〈他の実施形態〉
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
例えば、上述した実施形態に係る施工現場管理システム1は、積込車両V2が備える車載端末V203に、プロットが付された俯瞰画像を表示させるが、これに限られない。例えば、他の実施形態に係る施工現場管理システム1においては、積込車両V2が備える車載端末V203のみならず、運搬車両V1のオペレータが所持する端末にプロットが付された俯瞰画像を表示させてもよい。この場合、運搬車両V1のオペレータは、近傍に存在する他の運搬車両V1、積込車両V2、および注意地点を認識することができる。
また、上述した実施形態に係る情報提示装置120は、積込車両V2が備える車載端末V203に、運搬車両V1の位置を表示させるが、これに限られない。例えば、他の実施形態に係る情報提示装置120は、積込車両V2が備える車載端末V203に、他の積込車両V2の位置を表示させてもよい。この場合、情報提示装置120は、指定車両の近傍の積込車両V2の位置を強調して表示させてもよい。
また、上述した実施形態に係る施工現場管理システム1は、車載端末V203に表示されたプロットを利用者が選択することで、情報提示装置120が強調すべき車両を特定するが、これに限られない。例えば、他の実施形態に係る施工現場管理システム1は、積込車両V2に搭載されるGNSSによって特定される位置情報に基づいて強調すべき車両を特定してもよいし、撮像装置110が撮像した画像から積込車両V2に付された固有の識別マークを認識することで、強調すべき車両を特定してもよい。
なお、上述した実施形態に係る施工現場管理システム1は、施工現場Gに設けられた情報提示装置120によって、俯瞰画像の生成および車両の認識がなされるが、これに限られない。例えば、他の実施形態に係る施工現場管理システム1は、各積込車両V2の車載端末V203それぞれが情報提示装置120として機能してもよい。この場合、車載端末V203は、例えば以下のように近接プロットP3を表示することができる。各積込車両V2の車載端末V203は、複数の撮像装置110において撮像された画像を受信し、受信した複数の画像に基づいて施工現場Gの俯瞰画像を生成し、また車両の位置を特定することができる。つまり、本実施形態においては、車載端末V203は、複数の撮像装置110が撮像した画像に基づいて、複数の車両それぞれの位置を特定する。車載端末V203は、撮像装置110の画像またはGNSSの測量結果に基づいて指定車両(その車載端末V203を備える積込車両V2)を特定する。そして、車載端末V203は、積込車両V2と距離が近い他の車両の位置を示す近接プロットP3を画面に表示させる。つまり、他の実施形態においては、必ずしも情報提示装置120がサーバとして実装される必要はなく、例えば相互通信を行う複数の車載端末V203によって実装されてもよい。
1…施工現場管理システム 110…撮像装置 120…情報提示装置 1101…画像取得部 1102…俯瞰画像生成部 1103…車両認識部 1104…車両追跡部 1105…注意情報取得部 1106…車両指定部 1107…距離算出部 1108…表示画像生成部 1109…表示判定部 1110…表示制御部 1111…積荷特定部 1112…ルート提示部 1113…ルート学習部 1201…画像記憶部 1202…車両記憶部 1203…注意情報記憶部 V1…運搬車両 V2…積込車両 V203…車載端末

Claims (6)

  1. 施工現場に設置された複数の撮像装置が撮像した画像に基づいて、複数の車両それぞれの位置を特定する車両認識部と、
    特定された前記複数の車両のうち、指定車両の指定を受け付ける車両指定部と、
    前記指定車両との距離が閾値未満である他の車両の位置を表す近接プロットを前記施工現場の俯瞰画像に重ねて表示する信号を出力する表示制御部と
    を備える情報提示装置。
  2. 前記表示制御部は、前記近接プロットと、前記指定車両との距離が閾値以上である他の車両の位置を表し前記近接プロットと異なる態様の通常プロットとを前記俯瞰画像に重ねて表示する信号を出力する
    請求項1に記載の情報提示装置。
  3. 前記複数の撮像装置が撮像した画像の時系列において、前記指定車両の位置を特定する車両追跡部を備え、
    前記表示制御部は、前記車両追跡部によって特定された位置に基づいて前記信号を出力する
    請求項1または請求項2に記載の情報提示装置。
  4. 前記車両指定部は、前記俯瞰画像の座標の入力によって前記指定車両の指定を受け付ける
    請求項1から請求項3の何れか1項に記載の情報提示装置。
  5. 前記施工現場における注意地点を記憶する注意情報記憶部を備え、
    前記表示制御部は、前記指定車両との距離が閾値未満である注意地点を表す図形を前記施工現場の俯瞰画像に重ねて表示する信号を出力する
    請求項1から請求項4の何れか1項に記載の情報提示装置。
  6. 施工現場に設置された複数の撮像装置が撮像した画像に基づいて、複数の車両それぞれの位置を特定するステップと、
    特定された前記複数の車両のうち、指定車両の指定を受け付けるステップと、
    表示装置に、前記指定車両との距離が閾値未満である他の車両の位置を表す近接プロットを前記施工現場の俯瞰画像に重ねて表示するステップと
    を有する情報提示方法。
JP2018035382A 2018-02-28 2018-02-28 情報提示装置および情報提示方法 Active JP7150447B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018035382A JP7150447B2 (ja) 2018-02-28 2018-02-28 情報提示装置および情報提示方法
US16/956,691 US11532162B2 (en) 2018-02-28 2019-02-19 Information presenting device and information presenting method
PCT/JP2019/006122 WO2019167726A1 (ja) 2018-02-28 2019-02-19 情報提示装置および情報提示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018035382A JP7150447B2 (ja) 2018-02-28 2018-02-28 情報提示装置および情報提示方法

Publications (2)

Publication Number Publication Date
JP2019151968A true JP2019151968A (ja) 2019-09-12
JP7150447B2 JP7150447B2 (ja) 2022-10-11

Family

ID=67806191

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018035382A Active JP7150447B2 (ja) 2018-02-28 2018-02-28 情報提示装置および情報提示方法

Country Status (3)

Country Link
US (1) US11532162B2 (ja)
JP (1) JP7150447B2 (ja)
WO (1) WO2019167726A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021131161A1 (ja) 2019-12-25 2021-07-01 コベルコ建機株式会社 作業支援サーバ、撮像装置の選択方法
WO2021176883A1 (ja) 2020-03-04 2021-09-10 コベルコ建機株式会社 作業支援サーバ、作業支援方法
WO2022201735A1 (ja) 2021-03-25 2022-09-29 日立建機株式会社 情報提示装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210139297A (ko) * 2019-03-27 2021-11-22 스미토모 겐키 가부시키가이샤 건설기계, 지원시스템
JP2022033592A (ja) * 2020-08-17 2022-03-02 大成建設株式会社 建設機械接触防止システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003333590A (ja) * 2002-05-16 2003-11-21 Komatsu Ltd 現場の画像生成システム
JP2012203677A (ja) * 2011-03-25 2012-10-22 Penta Ocean Construction Co Ltd 安全管理システム
JP2014089491A (ja) * 2012-10-29 2014-05-15 Hitachi Consumer Electronics Co Ltd 映像処理システム
JP2015002401A (ja) * 2013-06-14 2015-01-05 オムロン株式会社 画像処理装置、画像処理方法、および画像処理プログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1998037468A1 (fr) * 1997-02-20 1998-08-27 Komatsu Ltd. Systeme de surveillance de vehicules
EP1447481B1 (en) * 2003-01-23 2007-03-21 Komatsu Ltd. Method of operating a mobile body communication device
EP1643040A3 (en) * 2003-01-24 2006-04-19 Komatsu Ltd. Work machine management device
JP5781978B2 (ja) * 2012-05-22 2015-09-24 株式会社小松製作所 ダンプトラック
US8698895B2 (en) * 2012-08-06 2014-04-15 Cloudparc, Inc. Controlling use of parking spaces using multiple cameras
JP5629740B2 (ja) * 2012-09-21 2014-11-26 株式会社小松製作所 作業車両用周辺監視システム及び作業車両
US20150070498A1 (en) * 2013-09-06 2015-03-12 Caterpillar Inc. Image Display System
US10267643B2 (en) * 2013-09-16 2019-04-23 Verizon Connect Ireland Limited System and method for automated correction of geofences
US11244171B2 (en) * 2014-01-22 2022-02-08 Conduent Business Services Llc Video-based system for automated detection of double parking violations
JP6247616B2 (ja) * 2014-08-25 2017-12-13 日立建機株式会社 無線システム及び運行管理サーバ
US9891627B2 (en) * 2015-11-30 2018-02-13 Komatsu Ltd. Work machine control system, work machine, work machine management system, and method for controlling work machine

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003333590A (ja) * 2002-05-16 2003-11-21 Komatsu Ltd 現場の画像生成システム
JP2012203677A (ja) * 2011-03-25 2012-10-22 Penta Ocean Construction Co Ltd 安全管理システム
JP2014089491A (ja) * 2012-10-29 2014-05-15 Hitachi Consumer Electronics Co Ltd 映像処理システム
JP2015002401A (ja) * 2013-06-14 2015-01-05 オムロン株式会社 画像処理装置、画像処理方法、および画像処理プログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021131161A1 (ja) 2019-12-25 2021-07-01 コベルコ建機株式会社 作業支援サーバ、撮像装置の選択方法
WO2021176883A1 (ja) 2020-03-04 2021-09-10 コベルコ建機株式会社 作業支援サーバ、作業支援方法
CN115210434A (zh) * 2020-03-04 2022-10-18 神钢建机株式会社 作业辅助服务器、作业辅助方法
WO2022201735A1 (ja) 2021-03-25 2022-09-29 日立建機株式会社 情報提示装置
KR20230043968A (ko) 2021-03-25 2023-03-31 히다치 겡키 가부시키 가이샤 정보 제시 장치
JP7461567B2 (ja) 2021-03-25 2024-04-03 日立建機株式会社 情報提示装置

Also Published As

Publication number Publication date
JP7150447B2 (ja) 2022-10-11
WO2019167726A1 (ja) 2019-09-06
US20200327336A1 (en) 2020-10-15
US11532162B2 (en) 2022-12-20

Similar Documents

Publication Publication Date Title
WO2019167726A1 (ja) 情報提示装置および情報提示方法
EP3950235B1 (en) Self-propelled robot path planning method, self-propelled robot and storage medium
US11585490B2 (en) Management system
US11873948B2 (en) Management system
JP6247773B2 (ja) 運転支援システム、車両、運転支援端末装置、及び運転支援プログラム
CN110741124B (zh) 用于工程机械的信息系统
US20160312432A1 (en) Computer Vision Assisted Work Tool Recognition and Installation
WO2015106799A1 (en) Mine vehicle, mine control system and mapping method
US11402823B2 (en) System for validating worksites
US20140293047A1 (en) System for generating overhead view of machine
US20160148421A1 (en) Integrated Bird's Eye View with Situational Awareness
US11595618B2 (en) Enhanced visibility system for work machines
JP7149078B2 (ja) 情報提示装置および情報提示方法
JP6796518B2 (ja) 移動物体検知システム
JP6815290B2 (ja) 物体識別システム
WO2022209434A1 (ja) 施工管理システム、データ処理装置、及び施工管理方法
WO2022201735A1 (ja) 情報提示装置
JP7055186B2 (ja) 物体識別システム
US20170307362A1 (en) System and method for environment recognition
JP2024070131A (ja) 作業認識方法、プログラム及び装置
JP2023058204A (ja) 作業現場監視システム
JP2024089304A (ja) 作業機械の監視システム
CN117999523A (zh) 用于采矿环境中的辅助车辆控制的方法和控制节点

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220315

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220516

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220920

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220928

R150 Certificate of patent or registration of utility model

Ref document number: 7150447

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150