JP2021157359A - 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム - Google Patents
情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム Download PDFInfo
- Publication number
- JP2021157359A JP2021157359A JP2020055340A JP2020055340A JP2021157359A JP 2021157359 A JP2021157359 A JP 2021157359A JP 2020055340 A JP2020055340 A JP 2020055340A JP 2020055340 A JP2020055340 A JP 2020055340A JP 2021157359 A JP2021157359 A JP 2021157359A
- Authority
- JP
- Japan
- Prior art keywords
- detection
- information processing
- processing device
- interest
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 47
- 230000010365 information processing Effects 0.000 title claims abstract description 29
- 238000001514 detection method Methods 0.000 claims abstract description 143
- 238000012545 processing Methods 0.000 claims abstract description 8
- 230000008569 process Effects 0.000 claims description 39
- 238000003384 imaging method Methods 0.000 claims description 30
- 238000005259 measurement Methods 0.000 abstract description 5
- 230000007246 mechanism Effects 0.000 abstract description 2
- 238000004364 calculation method Methods 0.000 description 18
- 238000004891 communication Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000010426 asphalt Substances 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
Images
Landscapes
- Component Parts Of Construction Machinery (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
この種の検出処理では、一般に、画像内で検知枠を走査させてその検知枠内の検出対象の特徴量を検知することで検出対象を検知している。実際の検出においては様々な距離に人物がいるため、検知枠もその種類に合わせて大きさを変える、もしくは入力された画像の大きさを変える(ピラミッド画像)などを行い、何度も走査を繰り返す。そのため、検出は情報処理装置にそれなりの負荷をかけることになる。特に近年においては機械学習などの技術の発展に伴い、高性能であるがより複雑なアルゴリズムと、それを補うために高性能な情報処理装置が用いられる傾向にある。
一方で、作業機械などに搭載可能な情報処理装置は一般的に小型・低消費電力が要求されるため、その性能に制限が加えられる。そのため、前記のような検知処理を行うとその速度が問題となる。一般的には一秒あたりの処理枚数が多いほど好ましいが、作業機械に搭載される情報処理装置では処理枚数が著しく少なくなる。そのため、検知による通達が遅れ、最悪作業の安全性が保てない場合もある。
そこで、本発明では、検出処理の性能を落とすことなく高速化する技術を提供する。
撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段と、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段と、を備える。
上記の情報処理装置を備える。
撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
を備える情報処理装置の制御方法であって、
制御手段が、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定工程と、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出工程と、
を実行する。
撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
を備える情報処理装置の制御プログラムであって、
コンピュータを、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段、
として機能させる。
まず、本実施形態に係るショベル100の構成について説明する。ショベル100は、本発明に係る作業機械の一例であり、本発明の範囲を制限するものではない。ショベル100は、本発明に係る情報処理装置を具備することにより、物体の検出処理を好適に高速化できるように構成されている。
この図に示すように、ショベル100は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメントとしてのブーム4、アーム5及びバケット6と、オペレータが搭乗するキャビン10とを備える。アタッチメントは、作業要素(例えば、バケット、クラッシャー、クレーン装置等)が設けられていれば、これに限られない。
上部旋回体3は、旋回油圧モータ或いは電動機(共に不図示)等で駆動されることにより、下部走行体1に対して旋回する。
キャビン10は、オペレータが搭乗する操縦室であり、例えば上部旋回体3の前部左側に搭載される。ショベル100は、キャビン10に搭乗するオペレータの操作に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を駆動する。
この図に示すように、ショベル100は、上記構成のほか、コントローラ30と、撮像装置40と、距離センサ41と、位置センサ43と、方位センサ44と、操作装置45と、表示装置50と、音声出力装置60と、通信機器80とを備える。本発明に係る情報処理装置は、コントローラ30、撮像装置40、距離センサ41を含んで構成される。
撮像装置40は、上部旋回体3において、光軸が斜め下方に向くように取り付けられ、ショベル100近傍の地面からショベル100の遠方までを含む上下方向の撮像範囲(画角)を有する。また、撮像装置40の水平方向の撮像範囲(画角)は、ショベル100後方の所定の水平範囲を含むものとなっている。
本実施形態では、特に限定はされないが、距離センサ41として、光を利用したLIDAR(Light Detection and Ranging)が用いられる。ただし、距離センサ41は、物体までの距離情報を取得できるものであればよく、例えばミリ波レーダーや超音波レーダーなど様々な様態が考えられる。
また、操作装置45は、撮像装置40、距離センサ41、位置センサ43、方位センサ44、表示装置50、音声出力装置60、通信機器80等の操作を行う、各種設定手段を含む操作手段でもあり、これら各部に対する操作指令をコントローラ30に出力する。
データ結合部303は、物体検出部301の検出結果と、カメラ用OGM計算部302が作成したカメラによって検出された物体の二次元OGMとに基づいて、これらを結合して検出結果としてまとめる。
特徴量記憶領域311には、後述の物体検出処理における検出対象の特徴量(画像特徴量)が予め記憶されている。特徴量記憶領域311では、ユーザにより検出対象として選択され得る様々な種類の物体や人の各々に対し、少なくとも1つの特徴量が対応付けられている。
また、ショベル100は、通信ネットワークNWを通じて、支援装置300と相互に通信可能に構成されてもよい。
管理装置200は、上述の如く、通信ネットワークNWを通じて、ショベル100及び支援装置300のそれぞれと相互に通信を行うことができる。これにより、管理装置200は、ショベル100からアップロードされる各種情報を受信し、記憶(蓄積)しておくことができる。また、管理装置200は、支援装置300からの要求に応じて、支援装置300に各種情報を送信することができる。
支援装置300は、通信ネットワークNWを通じて、管理装置200と相互に通信を行うことができる。これにより、支援装置300は、管理装置200から送信される情報を受信し、自身に搭載される表示装置を通じて、ユーザに情報を提供することができる。また、支援装置300は、通信ネットワークNWを通じて、ショベル100と相互に通信可能に構成されてもよい。
続いて、周辺の特定の物体を検出する物体検出処理を実行する際のショベル100の動作について説明する。
図3は、この物体検出処理でのデータの流れを示すデータフロー図であり、図4は、物体検出処理のうち、ROI計算部301bと物体検出器301cによる処理内容を示すフロー図である。図5及び図6は、後述の二次元OGM71及び個別ROI情報74の一例を示す図であり、図7は、ピラミッド画像を説明するための図であり、図8は、物体検出処理での画像に対する検出処理を説明するための図である。
本実施形態では、検出対象として人体(人)が検出されるものとする。そのため、処理の実行時に、例えばユーザ操作により検出対象として人体が選択され、この検出対象に対応した特徴量(例えば人の顔のもの)が特徴量記憶領域311から読み出されて設定されているものとする。
なお、コントローラ30は、上部旋回体3を旋回させながら周囲全周の撮影・計測を行ってもよい。
具体的に、まず物体検出部301は、距離センサ用OGM計算部301aにより、距離センサ41により取得した距離情報に基づいて、距離情報を量子化して表現した二次元OGM71(図5参照)を作成する。ここでは、距離情報に基づいて何かしら物体が存在する物体領域72が検出され、二次元OGM71に平面表示される。
次に、ROI計算部301bは、各物体領域72に対して撮像装置40から見たときの占有面積を計算する(ステップS2)。
そして、ROI計算部301bは、各物体領域72の位置及び距離と占有面積の情報から、検出対象が存在すると推定されるROIの範囲と、検出に使用するピラミッド画像の範囲を、個別ROI情報74としてテーブル化し、記憶部310に記憶させる(ステップS3)。ROIは、物体領域72に対応付けて設定され、その範囲(画像上の範囲)は、当該物体領域72の占有面積の範囲(より好適には、それよりやや広い周辺の範囲も含む)とされる。
また、ピラミッド画像とは、図7に示すように、サイズ(解像度)の異なる同一画像の集合(画像群)であり、レベルが1段階進むごとに例えば1/√2ずつサイズ(x、yの各辺の長さ)が小さくなる。
ステップS3では、距離情報に基づいて画像内の検出対象の大きさが推定され(例えば、遠くにいる人の顔は小さくなる)、この大きさに応じてピラミッド画像の範囲(レベルの範囲)が設定される。
すると、物体検出器301cは、ROI計算部301bから個別ROI情報74が送信されたことを検知したらそれを取り出し(ステップS5)、この個別ROI情報74に基づいて、撮像装置40が取得した画像からROIを抽出する(ステップS6)。
そして、物体検出器301cは、個別ROI情報74に基づいて、使用するピラミッド画像を作成しつつ、当該ピラミッド画像内のROIに対して検出対象の検出を実行する(ステップS7)。
そのため、図8(b)に示すように、検出ウィンドウを、ピラミッド画像の全てのレベルの各々において全画像範囲に亘って走査させていた従来に比べ、検出処理の範囲を限定して当該検出処理を高速化できる。
そして、コントローラ30は、二次元表示された検出対象の検出結果を表示装置50に表示させる。ただし、検出結果の表示態様は、検出対象の位置等が識別できるものであれば、特に限定されない。
以上のように、本実施形態によれば、距離センサ41が取得した距離情報に基づいて、検出対象が存在すると推定されるROI(関心領域)73が設定され、撮像装置40が取得した画像内のうちのROI73に対して検出対象の検出処理が実行される。
これにより、検出ウィンドウWをROI73内だけに走査させれば足りるため、検出ウィンドウを全画像範囲に亘って走査させていた従来に比べ、検出精度を保ったまま検出処理を高速化できる。
これにより、使用するピラミッド画像の範囲を限定できるため、全てのピラミッド画像に対して検出処理を実行していた従来に比べ、従来の検出精度を保ったまま検出処理をさらに高速化できる。
1つの検出対象に対し、複数の特徴量を用いて検出処理を実行してもよい。
この場合、1つの検出対象に複数の特徴量が対応付けられて特徴量記憶領域311に記憶されている。例えば、検出対象が人(人体)の場合には、正面から見た人体(体全体)の特徴量、側面から見た人体(体全体)の特徴量、上半身の特徴量、頭部の特徴量などというように、様々な状態・部位の人の特徴量が記憶されている。
そして、物体検出処理の上記ステップS3において(図4参照)、ROI(物体領域72)の距離情報に基づいて、検出対象に対応する複数の特徴量のなかから、当該ROIの検出に使用される複数の特徴量が選択される。選択された複数の特徴量は、ROIの範囲とピラミッド画像の範囲に対応付けて、個別ROI情報74としてテーブル化され、記憶部310に記憶される。
例えば図9に示すように、距離センサ41から三次元の距離情報が得られた場合において、ROI及びその部分の距離や位置、大きさに基づいて、頭部の特徴量を用いるROI73a、人体(体全体)の特徴量を用いるROI73bを設定してもよい。
これにより、検出処理の効率化及びロバスト化を図ることができる。
以上、本発明の実施形態について説明したが、本発明は上記実施形態やその変形例に限られない。
例えば、上記実施形態では、撮像装置40や距離センサ41がショベル100に搭載されることとしたが、撮像装置40や距離センサ41はショベル100に搭載されていなくともよく、例えば高所に設置されたりドローンなどの無人航空機に搭載されていてもよい。そして、取得したデータをショベル100に送信してもよいし、あるいは、データを管理装置200や支援装置300に送信して検出処理を実行させ、その結果をショベル100に送信してもよい。
また、本発明に係る作業機械は、ショベル以外の作業機械、例えば、ホイールローダやアスファルトフィニッシャ、フォークリフト、クレーン等であってもよい。
その他、実施の形態で示した細部は、発明の趣旨を逸脱しない範囲で適宜変更可能である。
30 コントローラ
40 撮像装置
41 距離センサ
50 表示装置
71 二次元OGM
72 物体領域
73 ROI(関心領域)
74 個別ROI情報
301 物体検出部
301a 距離センサ用OGM計算部
301b ROI計算部
301c 物体検出器
302 カメラ用OGM計算部
303 データ結合部
310 記憶部
311 特徴量記憶領域
W 検出ウィンドウ
Claims (9)
- 撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段と、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段と、を備える、
情報処理装置。 - 前記測距手段が取得した前記距離情報に基づいて、画像内における前記検出対象の大きさを推定し、当該検出対象の大きさに基づいてピラミッド画像の範囲を設定する画像設定手段を備え、
前記検出手段は、前記画像設定手段が設定したピラミッド画像の範囲に対して、前記検出対象の検出処理を実行する、
請求項1に記載の情報処理装置。 - 前記領域設定手段は、所定の距離範囲内のうち物体が存在する領域とその周辺を前記関心領域として設定する、
を含む、
請求項1又は請求項2に記載の情報処理装置。 - 前記検出対象に対応する複数の特徴量を記憶する記憶手段と、
前記関心領域の前記距離情報に基づいて、前記複数の特徴量のなかから当該関心領域の検出処理に使用する複数の特徴量を選択し、当該関心領域に対応付ける特徴量選択手段と、
を備え、
前記検出手段は、前記関心領域に対応付けられた複数の特徴量を用いて当該関心領域に対する検出処理を実行する、
請求項1から請求項3のいずれか一項に記載の情報処理装置。 - 前記検出手段による検出結果を前記関心領域と併せて表示手段に表示させる表示制御手段を備える、
請求項1から請求項4のいずれか一項に記載の情報処理装置。 - 前記検出対象は人体である、
請求項1から請求項5のいずれか一項に記載の情報処理装置。 - 請求項1から請求項6のいずれか一項に記載の情報処理装置を備える、
作業機械。 - 撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
を備える情報処理装置の制御方法であって、
制御手段が、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定工程と、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出工程と、
を実行する、
情報処理装置の制御方法。 - 撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
を備える情報処理装置の制御プログラムであって、
コンピュータを、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段、
として機能させる、
情報処理装置の制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020055340A JP2021157359A (ja) | 2020-03-26 | 2020-03-26 | 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020055340A JP2021157359A (ja) | 2020-03-26 | 2020-03-26 | 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2021157359A true JP2021157359A (ja) | 2021-10-07 |
Family
ID=77917873
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020055340A Pending JP2021157359A (ja) | 2020-03-26 | 2020-03-26 | 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2021157359A (ja) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010009558A (ja) * | 2008-05-28 | 2010-01-14 | Oki Semiconductor Co Ltd | 画像認識装置、電装機器動作制御ユニット、電化製品、画像認識プログラム、半導体装置 |
JP2011053915A (ja) * | 2009-09-02 | 2011-03-17 | Sony Corp | 画像処理装置、画像処理方法、プログラム及び電子機器 |
JP2013073459A (ja) * | 2011-09-28 | 2013-04-22 | Oki Electric Ind Co Ltd | 画像処理装置、画像処理方法、プログラム、および画像処理システム |
JP2017158033A (ja) * | 2016-03-01 | 2017-09-07 | 住友重機械工業株式会社 | 作業機械用周辺監視システム |
-
2020
- 2020-03-26 JP JP2020055340A patent/JP2021157359A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010009558A (ja) * | 2008-05-28 | 2010-01-14 | Oki Semiconductor Co Ltd | 画像認識装置、電装機器動作制御ユニット、電化製品、画像認識プログラム、半導体装置 |
JP2011053915A (ja) * | 2009-09-02 | 2011-03-17 | Sony Corp | 画像処理装置、画像処理方法、プログラム及び電子機器 |
JP2013073459A (ja) * | 2011-09-28 | 2013-04-22 | Oki Electric Ind Co Ltd | 画像処理装置、画像処理方法、プログラム、および画像処理システム |
JP2017158033A (ja) * | 2016-03-01 | 2017-09-07 | 住友重機械工業株式会社 | 作業機械用周辺監視システム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6616423B2 (ja) | 建設機械及び施工管理システム | |
US10147339B2 (en) | Evaluation apparatus and evaluation method | |
JP6867132B2 (ja) | 作業機械の検出処理装置及び作業機械の検出処理方法 | |
AU2017242392B2 (en) | Terminal device, control device, data-integrating device, work vehicle, image-capturing system, and image-capturing method | |
WO2020196874A1 (ja) | 建設機械、支援システム | |
CN112487860A (zh) | 具有使用视觉识别的对象检测的移动式作业机械 | |
JP2020145526A (ja) | 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム | |
CN112477879A (zh) | 具有对象检测和机械路径可视化的移动式作业机械 | |
WO2021153187A1 (ja) | 作業支援サーバおよび作業支援システム | |
WO2021192224A1 (ja) | 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム | |
JP2021157359A (ja) | 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム | |
JP2021095718A (ja) | ショベル、情報処理装置 | |
WO2022070872A1 (ja) | 物体検出システム及び物体検出方法 | |
WO2021192219A1 (ja) | 作業機械用画像取得装置、情報管理システム、情報端末、作業機械用画像取得プログラム | |
JP2023040971A (ja) | 遠隔操作支援装置、遠隔操作支援システムおよび遠隔操作支援方法 | |
JP2022085617A (ja) | 周辺監視システム、表示装置 | |
JP2023006459A (ja) | 情報処理装置、情報処理装置の制御プログラム | |
WO2021106280A1 (ja) | 作業支援サーバ、作業支援方法および作業支援システム | |
JP2020143476A (ja) | 作業機械用画像取得装置、情報管理システム、情報端末、作業機械用画像取得プログラム | |
WO2023100533A1 (ja) | 画像表示システム、遠隔操作支援システムおよび画像表示方法 | |
JP2023006464A (ja) | 情報処理装置、情報処理装置の制御プログラム | |
JP7349947B2 (ja) | 情報処理装置、作業機械、情報処理方法、情報処理プログラム | |
JP2021197668A (ja) | 情報処理装置、情報処理装置の制御方法及び制御プログラム | |
WO2023189216A1 (ja) | 作業支援システム | |
WO2022168383A1 (ja) | 遠隔操作支援システムおよび遠隔操作支援方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220914 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230711 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230801 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230929 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231226 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20240618 |