JP2021157359A - 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム - Google Patents

情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム Download PDF

Info

Publication number
JP2021157359A
JP2021157359A JP2020055340A JP2020055340A JP2021157359A JP 2021157359 A JP2021157359 A JP 2021157359A JP 2020055340 A JP2020055340 A JP 2020055340A JP 2020055340 A JP2020055340 A JP 2020055340A JP 2021157359 A JP2021157359 A JP 2021157359A
Authority
JP
Japan
Prior art keywords
detection
information processing
processing device
interest
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020055340A
Other languages
English (en)
Inventor
健太郎 長井
Kentaro Nagai
健太郎 長井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Heavy Industries Ltd
Original Assignee
Sumitomo Heavy Industries Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Heavy Industries Ltd filed Critical Sumitomo Heavy Industries Ltd
Priority to JP2020055340A priority Critical patent/JP2021157359A/ja
Publication of JP2021157359A publication Critical patent/JP2021157359A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Component Parts Of Construction Machinery (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】検出処理を高速化する情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラムを提供する。【解決手段】下部走行体と、旋回機構を介して旋回可能に下部走行体に搭載される上部旋回体と、アタッチメントとしてのブーム、アーム及びバケットと、オペレータが搭乗するキャビンとを備えるショベル100は、撮像装置40と、撮像装置40の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する距離センサ41と、コントローラ30とを備える。コントローラ30は、距離センサ41が取得した距離情報に基づいて、検出対象が存在すると推定されるROIを設定し、撮像装置40が取得した画像内のROIに対して、検出対象の検出処理を実行する。【選択図】図2

Description

本発明は、情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラムに関する。
従来、例えば作業機械などに適用され、安全のために周辺を撮影した画像から検出対象(例えば人)を検出し、オペレータに通知する技術が知られている(例えば、特許文献1参照)。
この種の検出処理では、一般に、画像内で検知枠を走査させてその検知枠内の検出対象の特徴量を検知することで検出対象を検知している。実際の検出においては様々な距離に人物がいるため、検知枠もその種類に合わせて大きさを変える、もしくは入力された画像の大きさを変える(ピラミッド画像)などを行い、何度も走査を繰り返す。そのため、検出は情報処理装置にそれなりの負荷をかけることになる。特に近年においては機械学習などの技術の発展に伴い、高性能であるがより複雑なアルゴリズムと、それを補うために高性能な情報処理装置が用いられる傾向にある。
一方で、作業機械などに搭載可能な情報処理装置は一般的に小型・低消費電力が要求されるため、その性能に制限が加えられる。そのため、前記のような検知処理を行うとその速度が問題となる。一般的には一秒あたりの処理枚数が多いほど好ましいが、作業機械に搭載される情報処理装置では処理枚数が著しく少なくなる。そのため、検知による通達が遅れ、最悪作業の安全性が保てない場合もある。
特開2017−158033号公報
そのため、上記検出処理においては処理の高性能化と高速化を両立する手段が望まれていた。
そこで、本発明では、検出処理の性能を落とすことなく高速化する技術を提供する。
本発明は、情報処理装置であって、
撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段と、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段と、を備える。
また、本発明は、作業機械であって、
上記の情報処理装置を備える。
また、本発明は、
撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
を備える情報処理装置の制御方法であって、
制御手段が、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定工程と、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出工程と、
を実行する。
また、本発明は、
撮像手段と、
前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
を備える情報処理装置の制御プログラムであって、
コンピュータを、
前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段、
前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段、
として機能させる。
本発明によれば、検出性能を維持しつつ検出処理を高速化することができる。
本実施形態に係るショベルの側面図である。 図1のショベルのシステム構成を示すブロック図である。 本実施形態の物体検出処理でのデータの流れを示すデータフロー図である。 本実施形態の物体検出処理の一部の処理内容を示すフロー図である。 本実施形態の二次元OGMの一例を示す図である。 本実施形態の個別ROI情報の一例を示す図である。 ピラミッド画像を説明するための図である。 本実施形態の物体検出処理での画像に対する検出処理を説明するための図である。 実施形態の変形例における特徴量の選択例を示す図である。
以下、本発明の実施形態について、図面を参照して詳細に説明する。
[ショベルの構成]
まず、本実施形態に係るショベル100の構成について説明する。ショベル100は、本発明に係る作業機械の一例であり、本発明の範囲を制限するものではない。ショベル100は、本発明に係る情報処理装置を具備することにより、物体の検出処理を好適に高速化できるように構成されている。
図1は、本実施形態に係るショベル100の側面図である。
この図に示すように、ショベル100は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメントとしてのブーム4、アーム5及びバケット6と、オペレータが搭乗するキャビン10とを備える。アタッチメントは、作業要素(例えば、バケット、クラッシャー、クレーン装置等)が設けられていれば、これに限られない。
下部走行体1は、例えば、左右一対のクローラを含み、それぞれのクローラが走行油圧モータ(不図示)で油圧駆動されることにより、ショベル100を走行させる。
上部旋回体3は、旋回油圧モータ或いは電動機(共に不図示)等で駆動されることにより、下部走行体1に対して旋回する。
ブーム4は、上部旋回体3の前部中央に俯仰可能に枢着され、ブーム4の先端には、アーム5が上下回動可能に枢着され、アーム5の先端には、バケット6が上下回動可能に枢着される。ブーム4、アーム5及びバケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9により油圧駆動される。
キャビン10は、オペレータが搭乗する操縦室であり、例えば上部旋回体3の前部左側に搭載される。ショベル100は、キャビン10に搭乗するオペレータの操作に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を駆動する。
図2は、ショベル100のシステム構成を示すブロック図である。
この図に示すように、ショベル100は、上記構成のほか、コントローラ30と、撮像装置40と、距離センサ41と、位置センサ43と、方位センサ44と、操作装置45と、表示装置50と、音声出力装置60と、通信機器80とを備える。本発明に係る情報処理装置は、コントローラ30、撮像装置40、距離センサ41を含んで構成される。
撮像装置40は、上部旋回体3に取り付けられ、ショベル100の周辺を撮影してその画像をコントローラ30に出力する。撮像装置40は、特に限定はされないが、上部旋回体3の後部に取り付けられ、上部旋回体3の後方を撮像する。
撮像装置40は、上部旋回体3において、光軸が斜め下方に向くように取り付けられ、ショベル100近傍の地面からショベル100の遠方までを含む上下方向の撮像範囲(画角)を有する。また、撮像装置40の水平方向の撮像範囲(画角)は、ショベル100後方の所定の水平範囲を含むものとなっている。
距離センサ41は、上部旋回体3に取り付けられ、ショベル100の周辺物体までの距離を測定してその三次元情報を取得し、その結果をコントローラ30に出力する。距離センサ41は、特に限定はされないが、上部旋回体3の後部に取り付けられ、上部旋回体3の後方の計測を行う。距離センサ41の計測範囲は、撮像装置40の撮像範囲に対応している。
本実施形態では、特に限定はされないが、距離センサ41として、光を利用したLIDAR(Light Detection and Ranging)が用いられる。ただし、距離センサ41は、物体までの距離情報を取得できるものであればよく、例えばミリ波レーダーや超音波レーダーなど様々な様態が考えられる。
位置センサ43は、ショベル100の位置(現在位置)の情報を取得するセンサであり、本実施形態ではGPS(Global Positioning System)受信機である。位置センサ43は、ショベル100の位置の情報を含むGPS信号をGPS衛星から受信し、取得したショベル100の位置情報をコントローラ30に出力する。なお、位置センサ43は、ショベル100の位置の情報を取得できるものであればGPS受信機でなくともよく、例えばGPS以外の衛星測位システムを利用するものであってもよい。位置センサ43は、下部走行体1に設けられてもよく、上部旋回体3に設けられていてもよい。
方位センサ44は、ショベル100が向いている方位(方向)の情報を取得するセンサであり、例えば地磁気センサである。方位センサ44は、ショベル100の方位の情報を取得して、コントローラ30に出力する。なお、方位センサ44は、ショベル100の方位の情報を取得できればよく、そのセンサ種別等は特に限定されない。例えばGPSを2つ設け、その位置情報から方位情報を取得してもよい。
操作装置45は、キャビン10の操縦席付近に設けられ、オペレータが各動作要素(下部走行体1、上部旋回体3、ブーム4、アーム5及びバケット6等)の操作を行う操作手段である。換言すれば、操作装置45は、各動作要素を駆動するそれぞれの油圧アクチュエータの操作を行う操作手段である。操作装置45は、例えばレバーやペダル、各種ボタン等を含み、これらの操作内容に応じた操作信号をコントローラ30に出力する。
また、操作装置45は、撮像装置40、距離センサ41、位置センサ43、方位センサ44、表示装置50、音声出力装置60、通信機器80等の操作を行う、各種設定手段を含む操作手段でもあり、これら各部に対する操作指令をコントローラ30に出力する。
表示装置50は、キャビン10内の操縦席の周辺に設けられ、コントローラ30による制御の下、オペレータに通知する各種画像情報を表示する。表示装置50は、例えば液晶ディスプレイや有機EL(Electroluminescence)ディスプレイであり、操作装置45の少なくとも一部を兼ねるタッチパネル式であってもよい。
音声出力装置60は、キャビン10内の操縦席の周辺に設けられ、コントローラ30による制御の下、オペレータに通知する各種音声情報を出力する。音声出力装置60は、例えば、スピーカやブザー等である。
通信機器80は、所定の無線通信規格に基づき、所定の通信ネットワーク(例えば、基地局を末端とする携帯電話ネットワークやインターネット網等)を通じて、遠隔の外部機器や他のショベル100等と各種情報を送受信する通信デバイスである。
コントローラ30は、ショベル100各部の動作を制御してショベル100の駆動制御を行う制御装置である。コントローラ30は、キャビン10内に搭載される。コントローラ30は、その機能が任意のハードウェア、ソフトウェア、或いはその組み合わせにより実現されてよく、例えば、CPU,RAM,ROM,I/O等を含むマイクロコンピュータを中心に構成される。その他にもFPGAやASICなどで構成されてもよい。
また、コントローラ30は、各種機能を実行する機能部として、物体検出部301と、カメラ用OGM計算部302と、データ結合部303とを含む。さらに、コントローラ30は、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の内部メモリに規定される記憶領域としての記憶部310を含む。
物体検出部301は、撮像装置40及び距離センサ41からの出力に基づき、ショベル100の周辺の特定の物体(検出対象)を検出する。具体的に、物体検出部301は、距離センサ用OGM計算部301aと、ROI計算部301bと、物体検出器301cとを有し(図3参照)、これらにより、距離センサ41の計測結果に基づいて物体の距離情報を取得し、検出対象があると推定される領域をROI(Region of Interest:関心領域)として設定する。そして、物体の予測される大きさとROIの情報から、撮像装置40によって取得された画像の適切な割合の縮小データであるピラミッド画像と検出ウィンドウを選択し、検出対象を検出する。具体的な処理内容は後述する。
カメラ用OGM計算部302は、物体検出部301の検出結果に基づいて、距離情報を量子化して表現した二次元のOGM(Occupancy Grid Maps;図5参照)を作成する。OGMは、検出した物体の距離情報に基づいてグリッド上の対応するセルに物体の存在確率に関する確率情報を載せたものである。
データ結合部303は、物体検出部301の検出結果と、カメラ用OGM計算部302が作成したカメラによって検出された物体の二次元OGMとに基づいて、これらを結合して検出結果としてまとめる。
記憶部310は、特徴量記憶領域311を有している。
特徴量記憶領域311には、後述の物体検出処理における検出対象の特徴量(画像特徴量)が予め記憶されている。特徴量記憶領域311では、ユーザにより検出対象として選択され得る様々な種類の物体や人の各々に対し、少なくとも1つの特徴量が対応付けられている。
また、ショベル100は、所定の通信ネットワークNWを通じて、管理装置200と相互に通信を行うことができる。通信ネットワークNWには、例えば、基地局を末端とする移動体通信網が含まれてよい。また、通信ネットワークNWには、上空の通信衛星を利用する衛星通信網が含まれてもよい。また、通信ネットワークNWには、インターネット網等が含まれてもよい。また、通信ネットワークNWには、WiFiやブルートゥース(登録商標)等のプロトコルに準拠する近距離通信網を含んでもよい。これにより、ショベル100は、各種情報を管理装置200に送信(アップロード)することができる。
また、ショベル100は、通信ネットワークNWを通じて、支援装置300と相互に通信可能に構成されてもよい。
管理装置200(外部装置、情報処理装置の一例)は、ショベル100及び支援装置300を所持するユーザ等と地理的に離れた位置に配置される。管理装置200は、例えば、ショベル100が作業する作業現場外に設けられる管理センタ等に設置され、一又は複数のサーバコンピュータ等を中心に構成されるサーバ装置である。この場合、サーバ装置は、システムを運用する事業者或いは当該事業者に関連する関連事業者が運営する自社サーバであってもよいし、レンタルサーバであってもよい。また、このサーバ装置は、いわゆるクラウドサーバであってもよい。また、管理装置200は、ショベル100の作業現場内の管理事務所等に配置されるサーバ装置(いわゆるエッジサーバ)であってもよいし、定置型或いは携帯型の汎用のコンピュータ端末であってもよい。
管理装置200は、上述の如く、通信ネットワークNWを通じて、ショベル100及び支援装置300のそれぞれと相互に通信を行うことができる。これにより、管理装置200は、ショベル100からアップロードされる各種情報を受信し、記憶(蓄積)しておくことができる。また、管理装置200は、支援装置300からの要求に応じて、支援装置300に各種情報を送信することができる。
支援装置300(ユーザ端末、端末装置の一例)は、ユーザが利用するユーザ端末である。ユーザには、例えば、作業現場の監督者、管理者、ショベル100のオペレータ、ショベル100の管理者、ショベル100のサービスマン、ショベル100の開発者等が含まれてよい。支援装置300は、例えば、ユーザが所持するラップトップ型のコンピュータ端末、タブレット端末、スマートフォン等の汎用の携帯端末である。また、支援装置300は、デスクトップ型のコンピュータ等の定置型の汎用端末であってもよい。また、支援装置300は、情報の提供を受けるための専用の端末(携帯端末或いは定置端末)であってもよい。
支援装置300は、通信ネットワークNWを通じて、管理装置200と相互に通信を行うことができる。これにより、支援装置300は、管理装置200から送信される情報を受信し、自身に搭載される表示装置を通じて、ユーザに情報を提供することができる。また、支援装置300は、通信ネットワークNWを通じて、ショベル100と相互に通信可能に構成されてもよい。
[ショベルの動作]
続いて、周辺の特定の物体を検出する物体検出処理を実行する際のショベル100の動作について説明する。
図3は、この物体検出処理でのデータの流れを示すデータフロー図であり、図4は、物体検出処理のうち、ROI計算部301bと物体検出器301cによる処理内容を示すフロー図である。図5及び図6は、後述の二次元OGM71及び個別ROI情報74の一例を示す図であり、図7は、ピラミッド画像を説明するための図であり、図8は、物体検出処理での画像に対する検出処理を説明するための図である。
物体検出処理は、コントローラ30が内部の記憶装置に格納されたプログラムをCPU上で実行することにより、実行される。この処理は、オペレータの操作に基づいて実行・終了されてもよいし、ショベル100の運転中に継続的に実行されてもよい。
本実施形態では、検出対象として人体(人)が検出されるものとする。そのため、処理の実行時に、例えばユーザ操作により検出対象として人体が選択され、この検出対象に対応した特徴量(例えば人の顔のもの)が特徴量記憶領域311から読み出されて設定されているものとする。
物体検出処理が実行されると、図3に示すように、まずコントローラ30は、撮像装置40によりショベル100周辺の画像情報を取得するとともに、距離センサ41によりショベル100周辺の物体までの距離情報を取得する。コントローラ30は、取得した画像情報及び距離情報を記憶部310に記録させる。
なお、コントローラ30は、上部旋回体3を旋回させながら周囲全周の撮影・計測を行ってもよい。
次に、コントローラ30は、物体検出部301により、ショベル100周辺の人(検出対象)を検出する。
具体的に、まず物体検出部301は、距離センサ用OGM計算部301aにより、距離センサ41により取得した距離情報に基づいて、距離情報を量子化して表現した二次元OGM71(図5参照)を作成する。ここでは、距離情報に基づいて何かしら物体が存在する物体領域72が検出され、二次元OGM71に平面表示される。
次に、ROI計算部301bが、二次元OGM71に基づいてROIを設定し、物体検出器301cが、物体の予測される大きさとROIから、特定の大きさのピラミッド画像(縮小画像)と検出ウィンドウを選択し、検出を実行する。
より詳しくは、図4に示すように、まずROI計算部301bは、計測範囲内にある物体(物体領域72)の位置と距離の情報を対応付ける(ステップS1)。
次に、ROI計算部301bは、各物体領域72に対して撮像装置40から見たときの占有面積を計算する(ステップS2)。
そして、ROI計算部301bは、各物体領域72の位置及び距離と占有面積の情報から、検出対象が存在すると推定されるROIの範囲と、検出に使用するピラミッド画像の範囲を、個別ROI情報74としてテーブル化し、記憶部310に記憶させる(ステップS3)。ROIは、物体領域72に対応付けて設定され、その範囲(画像上の範囲)は、当該物体領域72の占有面積の範囲(より好適には、それよりやや広い周辺の範囲も含む)とされる。
個別ROI情報74とは、例えば図6に示すように、画像の取得時間と、ROIの位置情報と、使用するピラミッド画像の最大レベル及び最小レベルとが対応付けられたテーブルである。ROIの位置情報は、ROIの範囲を特定できるものであれば特に限定されないが、図6の例では、四角形のROIの対角2点の座標(画像上での左右方向のx座標(ピクセル位置)と上下方向のy座標)としている。
また、ピラミッド画像とは、図7に示すように、サイズ(解像度)の異なる同一画像の集合(画像群)であり、レベルが1段階進むごとに例えば1/√2ずつサイズ(x、yの各辺の長さ)が小さくなる。
ステップS3では、距離情報に基づいて画像内の検出対象の大きさが推定され(例えば、遠くにいる人の顔は小さくなる)、この大きさに応じてピラミッド画像の範囲(レベルの範囲)が設定される。
次に、図4に示すように、ROI計算部301bは、ステップS3で作成された個別ROI情報74を、物体検出器301cに送信する(ステップS4)。
すると、物体検出器301cは、ROI計算部301bから個別ROI情報74が送信されたことを検知したらそれを取り出し(ステップS5)、この個別ROI情報74に基づいて、撮像装置40が取得した画像からROIを抽出する(ステップS6)。
そして、物体検出器301cは、個別ROI情報74に基づいて、使用するピラミッド画像を作成しつつ、当該ピラミッド画像内のROIに対して検出対象の検出を実行する(ステップS7)。
この検出処理では、図8(a)に示すように、検出対象が存在すると推定されるROI73内に対して検出ウィンドウWが走査され、検出対象の検出が実行される。検出ウィンドウW内に検出対象の特徴量が検知された場合に、検出対象が存在すると判別される。また、使用されるピラミッド画像の範囲は、個別ROI情報74に設定されたレベルのものだけである(図8(a)では2レベル)。
そのため、図8(b)に示すように、検出ウィンドウを、ピラミッド画像の全てのレベルの各々において全画像範囲に亘って走査させていた従来に比べ、検出処理の範囲を限定して当該検出処理を高速化できる。
次に、コントローラ30は、図3に示すように、カメラ用OGM計算部302により、物体検出部301の検出結果に基づいて、検出対象(人)として検出された画像情報を平面表示した二次元OGMを作成する。
次に、コントローラ30は、データ結合部303により、物体検出部301の検出結果と、カメラ用OGM計算部302が作成した二次元OGMとに基づいて、これらを結合する。具体的には、検出対象(人)の検出結果が示された二次元OGMに、物体検出部301が検出した検出対象以外の物体の情報が加えられる。
そして、コントローラ30は、二次元表示された検出対象の検出結果を表示装置50に表示させる。ただし、検出結果の表示態様は、検出対象の位置等が識別できるものであれば、特に限定されない。
[本実施形態の技術的効果]
以上のように、本実施形態によれば、距離センサ41が取得した距離情報に基づいて、検出対象が存在すると推定されるROI(関心領域)73が設定され、撮像装置40が取得した画像内のうちのROI73に対して検出対象の検出処理が実行される。
これにより、検出ウィンドウWをROI73内だけに走査させれば足りるため、検出ウィンドウを全画像範囲に亘って走査させていた従来に比べ、検出精度を保ったまま検出処理を高速化できる。
また、本実施形態によれば、距離センサ41が取得した距離情報に基づいて、画像内における検出対象の大きさが推定されて、当該検出対象の大きさに基づいてピラミッド画像の範囲が設定され、このピラミッド画像の範囲に対して検出対象の検出処理が実行される。
これにより、使用するピラミッド画像の範囲を限定できるため、全てのピラミッド画像に対して検出処理を実行していた従来に比べ、従来の検出精度を保ったまま検出処理をさらに高速化できる。
[変形例]
1つの検出対象に対し、複数の特徴量を用いて検出処理を実行してもよい。
この場合、1つの検出対象に複数の特徴量が対応付けられて特徴量記憶領域311に記憶されている。例えば、検出対象が人(人体)の場合には、正面から見た人体(体全体)の特徴量、側面から見た人体(体全体)の特徴量、上半身の特徴量、頭部の特徴量などというように、様々な状態・部位の人の特徴量が記憶されている。
そして、物体検出処理の上記ステップS3において(図4参照)、ROI(物体領域72)の距離情報に基づいて、検出対象に対応する複数の特徴量のなかから、当該ROIの検出に使用される複数の特徴量が選択される。選択された複数の特徴量は、ROIの範囲とピラミッド画像の範囲に対応付けて、個別ROI情報74としてテーブル化され、記憶部310に記憶される。
例えば図9に示すように、距離センサ41から三次元の距離情報が得られた場合において、ROI及びその部分の距離や位置、大きさに基づいて、頭部の特徴量を用いるROI73a、人体(体全体)の特徴量を用いるROI73bを設定してもよい。
これにより、検出処理の効率化及びロバスト化を図ることができる。
[その他]
以上、本発明の実施形態について説明したが、本発明は上記実施形態やその変形例に限られない。
例えば、上記実施形態では、撮像装置40や距離センサ41がショベル100に搭載されることとしたが、撮像装置40や距離センサ41はショベル100に搭載されていなくともよく、例えば高所に設置されたりドローンなどの無人航空機に搭載されていてもよい。そして、取得したデータをショベル100に送信してもよいし、あるいは、データを管理装置200や支援装置300に送信して検出処理を実行させ、その結果をショベル100に送信してもよい。
また、本発明に係る情報処理装置は、作業機械に搭載されるものに限定されない。
また、本発明に係る作業機械は、ショベル以外の作業機械、例えば、ホイールローダやアスファルトフィニッシャ、フォークリフト、クレーン等であってもよい。
その他、実施の形態で示した細部は、発明の趣旨を逸脱しない範囲で適宜変更可能である。
100 ショベル
30 コントローラ
40 撮像装置
41 距離センサ
50 表示装置
71 二次元OGM
72 物体領域
73 ROI(関心領域)
74 個別ROI情報
301 物体検出部
301a 距離センサ用OGM計算部
301b ROI計算部
301c 物体検出器
302 カメラ用OGM計算部
303 データ結合部
310 記憶部
311 特徴量記憶領域
W 検出ウィンドウ

Claims (9)

  1. 撮像手段と、
    前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
    前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段と、
    前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段と、を備える、
    情報処理装置。
  2. 前記測距手段が取得した前記距離情報に基づいて、画像内における前記検出対象の大きさを推定し、当該検出対象の大きさに基づいてピラミッド画像の範囲を設定する画像設定手段を備え、
    前記検出手段は、前記画像設定手段が設定したピラミッド画像の範囲に対して、前記検出対象の検出処理を実行する、
    請求項1に記載の情報処理装置。
  3. 前記領域設定手段は、所定の距離範囲内のうち物体が存在する領域とその周辺を前記関心領域として設定する、
    を含む、
    請求項1又は請求項2に記載の情報処理装置。
  4. 前記検出対象に対応する複数の特徴量を記憶する記憶手段と、
    前記関心領域の前記距離情報に基づいて、前記複数の特徴量のなかから当該関心領域の検出処理に使用する複数の特徴量を選択し、当該関心領域に対応付ける特徴量選択手段と、
    を備え、
    前記検出手段は、前記関心領域に対応付けられた複数の特徴量を用いて当該関心領域に対する検出処理を実行する、
    請求項1から請求項3のいずれか一項に記載の情報処理装置。
  5. 前記検出手段による検出結果を前記関心領域と併せて表示手段に表示させる表示制御手段を備える、
    請求項1から請求項4のいずれか一項に記載の情報処理装置。
  6. 前記検出対象は人体である、
    請求項1から請求項5のいずれか一項に記載の情報処理装置。
  7. 請求項1から請求項6のいずれか一項に記載の情報処理装置を備える、
    作業機械。
  8. 撮像手段と、
    前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
    を備える情報処理装置の制御方法であって、
    制御手段が、
    前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定工程と、
    前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出工程と、
    を実行する、
    情報処理装置の制御方法。
  9. 撮像手段と、
    前記撮像手段の撮像範囲に対応した計測範囲を有し、物体までの距離情報を取得する測距手段と、
    を備える情報処理装置の制御プログラムであって、
    コンピュータを、
    前記測距手段が取得した前記距離情報に基づいて、検出対象が存在すると推定される関心領域を設定する領域設定手段、
    前記撮像手段が取得した画像内の前記関心領域に対して、前記検出対象の検出処理を実行する検出手段、
    として機能させる、
    情報処理装置の制御プログラム。
JP2020055340A 2020-03-26 2020-03-26 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム Pending JP2021157359A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020055340A JP2021157359A (ja) 2020-03-26 2020-03-26 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020055340A JP2021157359A (ja) 2020-03-26 2020-03-26 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム

Publications (1)

Publication Number Publication Date
JP2021157359A true JP2021157359A (ja) 2021-10-07

Family

ID=77917873

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020055340A Pending JP2021157359A (ja) 2020-03-26 2020-03-26 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム

Country Status (1)

Country Link
JP (1) JP2021157359A (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010009558A (ja) * 2008-05-28 2010-01-14 Oki Semiconductor Co Ltd 画像認識装置、電装機器動作制御ユニット、電化製品、画像認識プログラム、半導体装置
JP2011053915A (ja) * 2009-09-02 2011-03-17 Sony Corp 画像処理装置、画像処理方法、プログラム及び電子機器
JP2013073459A (ja) * 2011-09-28 2013-04-22 Oki Electric Ind Co Ltd 画像処理装置、画像処理方法、プログラム、および画像処理システム
JP2017158033A (ja) * 2016-03-01 2017-09-07 住友重機械工業株式会社 作業機械用周辺監視システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010009558A (ja) * 2008-05-28 2010-01-14 Oki Semiconductor Co Ltd 画像認識装置、電装機器動作制御ユニット、電化製品、画像認識プログラム、半導体装置
JP2011053915A (ja) * 2009-09-02 2011-03-17 Sony Corp 画像処理装置、画像処理方法、プログラム及び電子機器
JP2013073459A (ja) * 2011-09-28 2013-04-22 Oki Electric Ind Co Ltd 画像処理装置、画像処理方法、プログラム、および画像処理システム
JP2017158033A (ja) * 2016-03-01 2017-09-07 住友重機械工業株式会社 作業機械用周辺監視システム

Similar Documents

Publication Publication Date Title
JP6616423B2 (ja) 建設機械及び施工管理システム
US10147339B2 (en) Evaluation apparatus and evaluation method
JP6867132B2 (ja) 作業機械の検出処理装置及び作業機械の検出処理方法
AU2017242392B2 (en) Terminal device, control device, data-integrating device, work vehicle, image-capturing system, and image-capturing method
WO2020196874A1 (ja) 建設機械、支援システム
CN112487860A (zh) 具有使用视觉识别的对象检测的移动式作业机械
JP2020145526A (ja) 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム
CN112477879A (zh) 具有对象检测和机械路径可视化的移动式作业机械
WO2021153187A1 (ja) 作業支援サーバおよび作業支援システム
WO2021192224A1 (ja) 作業機械用情報処理装置、情報管理システム、作業機械用情報処理プログラム
JP2021157359A (ja) 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム
JP2021095718A (ja) ショベル、情報処理装置
WO2022070872A1 (ja) 物体検出システム及び物体検出方法
WO2021192219A1 (ja) 作業機械用画像取得装置、情報管理システム、情報端末、作業機械用画像取得プログラム
JP2023040971A (ja) 遠隔操作支援装置、遠隔操作支援システムおよび遠隔操作支援方法
JP2022085617A (ja) 周辺監視システム、表示装置
JP2023006459A (ja) 情報処理装置、情報処理装置の制御プログラム
WO2021106280A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
JP2020143476A (ja) 作業機械用画像取得装置、情報管理システム、情報端末、作業機械用画像取得プログラム
WO2023100533A1 (ja) 画像表示システム、遠隔操作支援システムおよび画像表示方法
JP2023006464A (ja) 情報処理装置、情報処理装置の制御プログラム
JP7349947B2 (ja) 情報処理装置、作業機械、情報処理方法、情報処理プログラム
JP2021197668A (ja) 情報処理装置、情報処理装置の制御方法及び制御プログラム
WO2023189216A1 (ja) 作業支援システム
WO2022168383A1 (ja) 遠隔操作支援システムおよび遠隔操作支援方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230711

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230801

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230929

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231226

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20240618