JP7104452B1 - 作業機械の周辺監視装置 - Google Patents
作業機械の周辺監視装置 Download PDFInfo
- Publication number
- JP7104452B1 JP7104452B1 JP2022000130A JP2022000130A JP7104452B1 JP 7104452 B1 JP7104452 B1 JP 7104452B1 JP 2022000130 A JP2022000130 A JP 2022000130A JP 2022000130 A JP2022000130 A JP 2022000130A JP 7104452 B1 JP7104452 B1 JP 7104452B1
- Authority
- JP
- Japan
- Prior art keywords
- work machine
- image data
- distance
- around
- alarm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012806 monitoring device Methods 0.000 title claims abstract description 47
- 230000002093 peripheral effect Effects 0.000 title claims description 57
- 238000012545 processing Methods 0.000 claims abstract description 145
- 238000000034 method Methods 0.000 claims description 122
- 230000008569 process Effects 0.000 claims description 115
- 238000001514 detection method Methods 0.000 claims description 36
- 238000005259 measurement Methods 0.000 claims description 19
- 238000003384 imaging method Methods 0.000 claims description 6
- 238000012544 monitoring process Methods 0.000 abstract description 3
- 238000003062 neural network model Methods 0.000 abstract description 3
- 238000013135 deep learning Methods 0.000 abstract description 2
- 238000000605 extraction Methods 0.000 description 43
- 238000004364 calculation method Methods 0.000 description 19
- 238000012986 modification Methods 0.000 description 18
- 230000004048 modification Effects 0.000 description 18
- 230000006870 function Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 210000002569 neuron Anatomy 0.000 description 8
- 238000004891 communication Methods 0.000 description 5
- 238000012937 correction Methods 0.000 description 5
- 239000000284 extract Substances 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 4
- 239000002131 composite material Substances 0.000 description 4
- 230000010354 integration Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007717 exclusion Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000013526 transfer learning Methods 0.000 description 1
Images
Landscapes
- Component Parts Of Construction Machinery (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
Description
第1実施形態における作業機械の周辺監視装置の概要について、図1を参照しながら説明する。図1は、本実施形態における作業機械の周辺監視装置の概略構成を示す図である。本実施形態に係る作業機械の周辺監視装置100は、作業機械10に設置され、該作業機械10の周辺を監視するための装置である。ここで、作業機械10とは、ショベル等の建設機械や、作業機を備えた機械(フォークリフト等)である。そして、周辺監視装置100は、撮影装置200と、画像処理装置300と、発報装置400と、を備える。
次に、測距処理部3033が実行する測距処理の詳細について説明する。本実施形態の測距処理では、作業機械の周囲における同一の領域が撮影された複数のステレオ画像データに基づいて、作業機械とその周囲の物体との距離が測定される。これにより、画像処理に対する演算負荷を低減させながら、作業機械とその周囲の物体との距離を測定することができる。以下、撮影装置200によって撮影された元画像データを縮小処理した縮小画像データの視差に基づいて、作業機械とその周囲の物体との距離が測定される例について、詳しく説明する。
第1実施形態の変形例1について説明する。本変形例では、上記第1実施形態の説明で述べた抽出処理において、抽出処理部3032が、作業機械10の周囲に存在する障害物の画像を抽出することで、作業機械10の周囲の障害物を検出する。これについて、図6から図8に基づいて説明する。
本変形例において、抽出処理部3032が実行する抽出処理の詳細について説明する。ここで、図6は、本変形例に係る抽出処理において、抽出処理部3032が行う処理フローを示すフローチャートである。本フローは、上記の図2に示したS102における抽出処理の内部処理として実行される。
第1実施形態の変形例2について説明する。本変形例では、撮影装置200のステレオカメラ210で撮影されたステレオ画像データに基づいて、該ステレオカメラ210のレンズの汚れ検出処理を実行する。これについて、図9および図10に基づいて説明する。
本変形例において、画像処理装置300の制御部303が実行するレンズの汚れ検出処理の詳細について説明する。ここで、図9は、本変形例に係るレンズの汚れ検出処理において、制御部303が行う処理フローを示すフローチャートである。
第2実施形態について説明する。本実施形態では、上記第1実施形態の説明で述べた抽出処理において、抽出処理部3032が、作業機械10の周囲に存在する人物の画像を抽出することで、作業機械10の周囲の人物を検出する。これについて、図11から図12に基づいて説明する。なお、上記第1実施形態では、撮影装置200がステレオカメラ210を備える構成を例にして説明したが、本実施形態の撮影装置200が備えるカメラは、ステレオカメラであってもよいし、単眼カメラであってもよいし、半天球カメラであってもよい。したがって、以下、撮影装置200がステレオカメラを備える構成を例にして説明する。
本実施形態において、抽出処理部3032が実行する抽出処理の詳細について説明する。本実施形態の抽出処理では、事前学習モデルに撮影画像データが入力されることで、人物画像が抽出される。そして、事前学習モデルは、人物を表す画像を含んだデータを用いて学習を行うことにより構築される。
次に、本実施形態において、測距処理部3033が実行する測距処理の詳細について説明する。本実施形態の測距処理では、抽出処理によって抽出された人物画像に基づいて、作業機械10とその周囲の人物との距離が測定される。詳しくは、測距処理部3033は、人物画像に対して、上記第1実施形態の説明で述べた縮小画像データの視差および元画像データの視差に基づく測距処理を実行する。そして、縮小画像データを用いても視差算出のための探索範囲が大きくなりすぎて視差を算出することができない超近距離については、撮影画像データにおける人物画像の頭の画像を取得するとともに、該頭の画像の大きさに基づいて、作業機械10とその周囲の人物との距離を測定する。このような超近距離における頭の画像の大きさに基づく測距処理について、以下に説明する。
Dref:基準距離(mm)
Nref:基準距離での画素数(pixel)
Nhead:頭の画像の画素数(pixel)
なお、基準距離Drefおよび該基準距離での画素数Nrefは、予め定められる。そして、このように予め定められた基準と、撮影画像データから取得した頭の画像の画素数Nheadと、を比較することで、周囲人物との距離Dが算出される。
本実施形態において、発報制御処理部3034が実行する発報制御処理の詳細について説明する。本実施形態の発報制御処理では、人物画像に基づく作業機械10の周囲人物のうち、その人物画像を囲う検出枠の上端高さが所定の閾値以上の人物を除外したときの該周囲人物と、作業機械10と、の距離に基づいて、発報装置400の出力が制御される。なお、上記の人物画像を囲う検出枠は、例えば、上述した抽出処理によって抽出された人物画像を囲う矩形であって、この検出枠の上端高さは、測距処理によって取得される。
上記の実施形態はあくまでも一例であって、本開示はその要旨を逸脱しない範囲内で適宜変更して実施しうる。例えば、本開示において説明した処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組み合わせて実施することができる。
100・・・周辺監視装置
200・・・撮影装置
210・・・ステレオカメラ
300・・・画像処理装置
303・・・制御部
400・・・発報装置
Claims (3)
- 作業機械に設置され、該作業機械の周囲を撮影する撮影装置と、
前記撮影装置によって撮影された前記作業機械の周囲画像を表す撮影画像データを取得し、該撮影画像データに基づいて所定の処理を実行するプロセッサと、
所定の警報信号又は/及び所定の発報を出力する発報装置と、
を備え、
前記撮影装置は、1以上のステレオカメラを含んで構成され、該撮影装置によって撮影される前記撮影画像データがステレオ画像データであって、
前記プロセッサは、
前記ステレオ画像データの視差に基づいて、前記作業機械とその周囲の物体との距離を測定する測距処理と、
前記測距処理によって測定された前記作業機械とその周囲の物体との距離に基づいて、前記発報装置による前記警報信号又は/及び前記発報の出力を制御する発報制御処理と、
を実行し、
前記測距処理において、前記作業機械の周囲における同一の領域が撮影された複数の前記ステレオ画像データに基づいて、前記作業機械とその周囲の物体との距離を測定することと、
前記ステレオ画像データの視差に基づいて、前記作業機械の周囲の路面を含んだ周囲空間の三次元座標である周囲空間座標を取得することと、
前記周囲空間座標に基づいて、該周囲空間座標において隣接する各座標点が複数纏められたグリッドマップを作成することと、
前記周囲空間座標に基づいて、前記作業機械の周囲の路面であって該作業機械が走行する走行路面を検出する走行路面検出処理と、
前記走行路面からの高さに基づいて、前記作業機械の周囲の障害物を検出する障害物検出処理と、
を更に実行し、
前記グリッドマップにおける各グリッドについて、該グリッドに含まれる複数の高さ座標値のうち最も高い座標値を該グリッドのグリッド高さと定義したとき、
前記障害物検出処理において、
前記走行路面と前記グリッド高さとを比較することで、前記作業機械の周囲の障害物を検出し、
前記走行路面検出処理において、
グリッド単位で前記走行路面を検出するとき、前記グリッドマップにおける前記グリッド高さが略同一となる複数のグリッドを纏めて前記走行路面として検出する、
作業機械の周辺監視装置。 - 前記発報制御処理において、前記プロセッサは、
前記作業機械とその周囲の物体との距離が所定値以下となった場合に、前記発報装置から、該作業機械とその周囲の物体との接触を回避するための所定の回避動作を指令する信号を出力させる、
請求項1に記載の作業機械の周辺監視装置。 - 前記プロセッサは、前記作業機械に設置された集積回路に実装される、
請求項1又は請求項2に記載の 作業機械の周辺監視装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022000130A JP7104452B1 (ja) | 2022-01-04 | 2022-01-04 | 作業機械の周辺監視装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022000130A JP7104452B1 (ja) | 2022-01-04 | 2022-01-04 | 作業機械の周辺監視装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP7104452B1 true JP7104452B1 (ja) | 2022-07-21 |
JP2023099912A JP2023099912A (ja) | 2023-07-14 |
Family
ID=82492237
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022000130A Active JP7104452B1 (ja) | 2022-01-04 | 2022-01-04 | 作業機械の周辺監視装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7104452B1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115431878A (zh) * | 2022-09-28 | 2022-12-06 | 上海宏英智能科技股份有限公司 | 一种装载机远程监视系统 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7437835B1 (ja) | 2023-10-17 | 2024-02-26 | 株式会社レグラス | 作業機械の安全装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001028056A (ja) | 1999-07-14 | 2001-01-30 | Fuji Heavy Ind Ltd | フェールセーフ機能を有するステレオ式車外監視装置 |
JP2008039491A (ja) | 2006-08-02 | 2008-02-21 | Fuji Heavy Ind Ltd | ステレオ画像処理装置 |
JP2019091295A (ja) | 2017-11-15 | 2019-06-13 | 株式会社豊田自動織機 | 画像処理装置 |
JP2019157497A (ja) | 2018-03-13 | 2019-09-19 | 株式会社大林組 | 監視システム、監視方法及び監視プログラム |
-
2022
- 2022-01-04 JP JP2022000130A patent/JP7104452B1/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001028056A (ja) | 1999-07-14 | 2001-01-30 | Fuji Heavy Ind Ltd | フェールセーフ機能を有するステレオ式車外監視装置 |
JP2008039491A (ja) | 2006-08-02 | 2008-02-21 | Fuji Heavy Ind Ltd | ステレオ画像処理装置 |
JP2019091295A (ja) | 2017-11-15 | 2019-06-13 | 株式会社豊田自動織機 | 画像処理装置 |
JP2019157497A (ja) | 2018-03-13 | 2019-09-19 | 株式会社大林組 | 監視システム、監視方法及び監視プログラム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115431878A (zh) * | 2022-09-28 | 2022-12-06 | 上海宏英智能科技股份有限公司 | 一种装载机远程监视系统 |
Also Published As
Publication number | Publication date |
---|---|
JP2023099912A (ja) | 2023-07-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7104452B1 (ja) | 作業機械の周辺監視装置 | |
US9300954B2 (en) | Surrounding information-obtaining device for working vehicle | |
JP4752918B2 (ja) | 画像処理装置、画像照合方法、および、プログラム | |
JP6013884B2 (ja) | 物体検出装置及び物体検出方法 | |
KR102111935B1 (ko) | 표시 제어장치, 표시 제어방법 및 프로그램 | |
JP6712778B2 (ja) | 物体検知装置、物体検知システムおよび物体検知方法 | |
JP2004280451A (ja) | 自律移動装置 | |
JP2016163075A (ja) | 映像処理装置、映像処理方法、およびプログラム | |
JP4780455B2 (ja) | 映像監視装置及び方法 | |
JP6638723B2 (ja) | 画像解析装置、画像解析方法、及び、画像解析プログラム | |
JP2018156408A (ja) | 画像認識撮像装置 | |
JP5300694B2 (ja) | 検出装置 | |
JP6940906B1 (ja) | 作業機械の周辺監視装置 | |
JP6860445B2 (ja) | 物体距離検出装置 | |
JP2011053005A (ja) | 監視システム | |
JP2006041939A (ja) | 監視装置及び監視プログラム | |
JP2013178684A (ja) | 奥行き推定装置、再構成画像生成装置、奥行き推定方法、再構成画像生成方法及びプログラム | |
JP2018092547A (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2020088840A (ja) | 監視装置、監視システム、監視方法、監視プログラム | |
JP4788399B2 (ja) | 歩行者検出方法、装置、およびプログラム | |
CN115526897A (zh) | 特高压换流站消防机器人火焰定位方法及系统 | |
JP6940907B1 (ja) | 作業機械の周辺監視装置 | |
JP5946125B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
JP2013200840A (ja) | 映像処理装置、映像処理方法、映像処理プログラム、及び映像表示装置 | |
WO2020111053A1 (ja) | 監視装置、監視システム、監視方法、監視プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220204 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20220204 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220311 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220502 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220630 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220701 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7104452 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |