JP7367131B1 - 作業機械用旋回角度測定装置、該方法およびプログラム - Google Patents

作業機械用旋回角度測定装置、該方法およびプログラム Download PDF

Info

Publication number
JP7367131B1
JP7367131B1 JP2022105343A JP2022105343A JP7367131B1 JP 7367131 B1 JP7367131 B1 JP 7367131B1 JP 2022105343 A JP2022105343 A JP 2022105343A JP 2022105343 A JP2022105343 A JP 2022105343A JP 7367131 B1 JP7367131 B1 JP 7367131B1
Authority
JP
Japan
Prior art keywords
turning angle
images
image
angle
rotating body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022105343A
Other languages
English (en)
Other versions
JP2024005257A (ja
Inventor
達也 吉本
陽 岡本
大祐 吉田
智廣 中川
智祥 加藤
亮 濱本
一臣 遠藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobelco Construction Machinery Co Ltd
Kobe Steel Ltd
Original Assignee
Kobelco Construction Machinery Co Ltd
Kobe Steel Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobelco Construction Machinery Co Ltd, Kobe Steel Ltd filed Critical Kobelco Construction Machinery Co Ltd
Priority to JP2022105343A priority Critical patent/JP7367131B1/ja
Priority to PCT/JP2023/022568 priority patent/WO2024004733A1/ja
Application granted granted Critical
Publication of JP7367131B1 publication Critical patent/JP7367131B1/ja
Publication of JP2024005257A publication Critical patent/JP2024005257A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras

Landscapes

  • Engineering & Computer Science (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】作業中に旋回体が主として向いている方向を基準に旋回角度を求め得る作業機械用旋回角度測定装置、該方法および該プログラムを提供する。【解決手段】作業機械用旋回角度測定装置Dは、作業機械の旋回体の旋回に伴って移動するように設けられ、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する撮像部で生成した前記複数の画像を取得し、前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求め、前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求め、前記複数の画像それぞれについて、当該画像について求めた第1旋回角度と前記基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める。【選択図】図1

Description

本発明は、作業機械における旋回体の旋回角を求める作業機械用旋回角度測定装置、作業機械用旋回角度測定方法および作業機械用旋回角度測定プログラムに関する。
基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械では、オペレータ(ユーザ、作業員)は、前記旋回体を旋回させつつ所定の作業を実施することがある。このため、前記旋回体の旋回角度が知りたい場合があり、前記旋回体の旋回角度を求める技術として、例えば、特許文献1に開示された技術がある。
この特許文献1に開示された建設機械の角度検出装置は、走行体に対して旋回可能な旋回体に設置されており前記走行体を撮影するカメラと、前記カメラで撮影した画像を処理して、前記走行体の予め決められた部位のエッジを検出し、前記走行体に対する前記旋回体の相対角度を求める角度検出部とを備えている。
特開2017-58272号公報
前記特許文献1に開示された建設機械の角度検出装置は、走行体の予め決められた部位を基準に、前記走行体に対する前記旋回体の相対角度を求めているが、作業中に旋回体が主として向いている方向を基準に、前記旋回体の旋回角度を求めたいニーズがある。また、建設機械は、様々な現場での使用や、様々な仕様、改造等があり、走行体の予め決められた部位を基準にする等、特定の物体や目印等を基準にする従来の方法では旋回角度を検出できない場合がある。
本発明は、上述の事情に鑑みて為された発明であり、その目的は、特定の物体や目印等を基準とすることなく、作業中に旋回体が主として向いている方向を基準に、前記旋回体の旋回角度を求めることができる作業機械用旋回角度測定装置、作業機械用旋回角度測定方法および作業機械用旋回角度測定プログラムを提供することである。
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる業機械用旋回角度測定装置は、基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得部と、前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算部と、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所(第1箇所)を旋回角度の基準として求める基準演算部と、前記複数の画像それぞれについて、前記第1旋回角度演算部で当該画像について求めた第1旋回角度と前記基準演算部で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算部とを備える。好ましくは、上述の作業機械用旋回角度測定装置において、前記基体は、走行する走行体であり、前記作業機構は、上下方向に揺動可能に前記旋回体に連結されるブームと、上下方向に揺動可能に前記ブームに連結されるアームと、前記アームに連結され、開閉可能な1対の破砕刃を持つ開閉式破砕機とを備える機構であり、前記作業機械は、解体機械である。好ましくは、上述の作業機械用旋回角度測定装置において、前記撮像部は、前記旋回体の外部に取り付けられている。好ましくは、上述の作業機械用旋回角度測定装置において、前記撮像部は、前記外界を撮像可能に前記旋回体の内部に取り付けられている。
このような作業機械用旋回角度測定装置は、外界中における所定の箇所を旋回角度の基準として求め、この基準に対する旋回体の第2旋回角度を求めるので、作業中の旋回体が対向している外界中に基準が設けられるから、特定の物体や目印等を基準とすることなく、作業中に旋回体が主として向いている方向を基準に、前記旋回体の旋回角度を求めることができる。
他の一態様では、上述の作業機械用旋回角度測定装置において、前記所定の作業は、前記外界中における所定の第2箇所に対し左右に前記旋回体を旋回させて実施される作業であり、前記外界中における所定の箇所(第1箇所)は、前記外界中における所定の第2箇所として推定される。
このような作業機械用旋回角度測定装置は、外界中における所定の第2箇所に対し左右に旋回体を旋回させて実施される作業において、前記推定される第2箇所を基準に、前記旋回体の第2旋回角度を求めることができる。したがって、同種の作業を、複数、実施した場合に、各作業で、作業開始時に旋回体が向いている方向が異なる場合でも、各作業の開始から、各作業における各タイミングでの各第2旋回角度の比較が可能となり、各作業における、経過時間に対する第2旋回角度の各プロファイルの比較が可能となる。
他の一態様では、これら上述の作業機械用旋回角度測定装置において、前記基準演算部は、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度の中から、前記基体に対し前記旋回体が静止している場合の第1旋回角度を除外して、前記旋回角度の基準を求める。
このような作業機械用旋回角度測定装置は、前記基体に対し前記旋回体が静止している場合の第1旋回角度を除外して、前記旋回角度の基準を求めるので、前記除外しない場合に較べて、より精度良く前記基準を求めることができる。
他の一態様では、これら上述の作業機械用旋回角度測定装置において、前記基準演算部は、所定の直線近似法を用いることによって、前記旋回角度の基準を求める。
これによれば、所定の直線近似法を用いることによって前記旋回角度の基準を求める作業機械用旋回角度測定装置が提供できる。
他の一態様では、これら上述の作業機械用旋回角度測定装置において、所定の除外領域を記憶する除外領域記憶部をさらに備え、前記第1旋回角度演算部は、前記複数の画像それぞれについて、前記除外領域を除いた当該画像と当該画像に時系列で前に隣接して並ぶ、前記除外領域を除いた画像とに基づいて、前記旋回体の第1旋回角度を求める。
このような作業機械用旋回角度測定装置は、前記旋回体の第1旋回角度を求める際に当該画像およびこれに隣接して並ぶ画像それぞれから除外領域を除くので、情報処理量を低減できる。
他の一態様では、これら上述の作業機械用旋回角度測定装置において、前記除外領域は、前記複数の画像において、同一位置に同一被写体を写し込んでいる画像領域である。好ましくは、上述の作業機械用旋回角度測定装置において、前記被写体は、前記旋回体が旋回しても前記撮像部によって画像の同一位置に写り込む物体である。好ましくは、上述の作業機械用旋回角度測定装置において、前記被写体は、前記撮像部が前記外界を撮像可能に前記旋回体の内部に取り付けられている場合に、前記旋回体のフレーム(窓枠)、操作レバーおよび床のうちの少なくとも何れかである。
このような作業機械用旋回角度測定装置は、前記複数の画像において、同一位置に同一被写体を写し込んでいる画像領域を除外領域とするので、前記旋回体の旋回に伴って旋回する物体を写り込んでいる領域を除外できる。
本発明の他の一態様にかかる業機械用旋回角度測定方法は、基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得工程と、前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算工程と、前記第1旋回角度演算工程で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求める基準演算工程と、前記複数の画像それぞれについて、前記第1旋回角度演算工程で当該画像について求めた第1旋回角度と前記基準演算工程で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算工程とを備える。
本発明の他の一態様にかかる業機械用旋回角度測定プログラムは、コンピュータを、基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得部、前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算部、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求める基準演算部、および、前記複数の画像それぞれについて、前記第1旋回角度演算部で当該画像について求めた第1旋回角度と前記基準演算部で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算部、として機能させるためのプログラムである。
これら業機械用旋回角度測定方法および業機械用旋回角度測定プログラムは、外界中における所定の箇所を旋回角度の基準として求め、この基準に対する旋回体の第2旋回角度を求めるので、作業中の旋回体が対向している外界中に基準が設けられるから、特定の物体や目印等を基準とすることなく、作業中に旋回体が主として向いている方向を基準に、前記旋回体の旋回角度を求めることができる。
本発明にかかる作業機械用旋回角度測定装置、作業機械用旋回角度測定方法および作業機械用旋回角度測定プログラムは、特定の物体や目印等を基準とすることなく、作業中に旋回体が主として向いている方向を基準に、前記旋回体の旋回角度を求めることができる。
実施形態における作業機械用旋回角度測定装置の構成を示すブロック図である。 一例として、前記作業機械用旋回角度測定装置を備える解体機械を示す側面図である。 一例として、画像および前記画像から抽出される特徴点を説明するための図である。 一例として、第1および第2画像間で互いに対応する第1および第2特徴点を説明するための図である。 一例として、旋回体の旋回角度における実測値と解析値とを示すグラフである。 一例として、時系列に並ぶ複数の第1旋回角度およびこれに基づき求められた旋回角度の基準を示すグラフである。 一例として、時系列に並ぶ複数の第1および第2旋回角度を示すグラフである。 前記作業機械用旋回角度測定装置の動作を示すフローチャートである。 一例として、旋回体が静止している場合を含む、時系列に並ぶ複数の第1旋回角度およびこれに基づき求められた旋回角度の基準を示すグラフである。 図9に示す場合において、旋回体が静止しているか否かを判定した判定結果を示す図である。 図9に示す場合において、時系列に並ぶ複数の第1旋回角度、および、前記旋回体が静止している場合の第1旋回角度を除外して求めた旋回角度の基準を示すグラフである。 除外領域の手動設定を説明するための図である。 除外領域の自動設定に関する、前記作業機械用旋回角度測定装置の動作を示すフローチャートである。
以下、図面を参照して、本発明の1または複数の実施形態が説明される。しかしながら、発明の範囲は、開示された実施形態に限定されない。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
実施形態における作業機械用旋回角度測定装置は、基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得部と、前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算部と、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求める基準演算部と、前記複数の画像それぞれについて、前記第1旋回角度演算部で当該画像について求めた第1旋回角度と前記基準演算部で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算部とを備える。以下、このような作業機械用旋回角度測定装置ならびにこれに実装される作業機械用旋回角度測定方法および作業機械用旋回角度測定プログラムについて、これを備える解体機械を例に、より具体的に説明する。
図1は、実施形態における作業機械用旋回角度測定装置の構成を示すブロック図である。図2は、一例として、前記作業機械用旋回角度測定装置を備える解体機械を示す側面図である。図3は、一例として、画像および前記画像から抽出される特徴点を説明するための図である。図3Aは、画像の一例を示し、図3Bは、図3Aに示す画像から抽出される特徴点を示す。図4は、一例として、第1および第2画像間で互いに対応する第1および第2特徴点を説明するための図である。図4Aは、誤対応を除去するためのフィルタリング処理前における第1および第2特徴点を示し、図4Bは、前記フィルタリング処理後における第1および第2特徴点を示す。図5は、一例として、旋回体の旋回角度における実測値と解析値とを示すグラフである。図5の横軸は、時間であり、その縦軸は、角度であり、破線は、実測値を表し、実線は、解析値を表す。図6は、一例として、時系列に並ぶ複数の第1旋回角度およびこれに基づき求められた旋回角度の基準を示すグラフである。図6の横軸は、時間であり、その縦軸は、角度である。図7は、一例として、時系列に並ぶ複数の第1および第2旋回角度を示すグラフである。図7Aは、複数の第2旋回角度を示す各グラフを示し、図7Bは、複数の第1旋回角度を示す各グラフを示す。図7の横軸は、時間であり、その縦軸は、角度である。
実施形態における作業機械用旋回角度測定装置Dは、例えば、図1に示すように、画像取得部1と、制御処理部2と、入力部3と、出力部4と、インターフェース部(IF部)5と、記憶部6とを備え、例えば、作業機械HSに備えられる。
この作業機械用旋回角度測定装置Dを用いる作業機械HSは、作業機構によって実行可能な作業を行うための機械(例えば建機等)であって、例えば、図2に示すように、左走行クローラ101Lおよび右走行クローラ(不図示)を有し、走行する下部走行体101と、この下部走行体101上に旋回可能に設けられ、ベースとなるアッパーフレーム102と、このアッパーフレーム102上に設けられ、その内部に、図略の、例えば内燃機関等のエンジン、および、後述の作業アタッチメント104を駆動するための動力を生じさせる油圧ポンプ等を配置した機械室103と、アッパーフレーム102上に起伏可能に設けられた作業アタッチメント104と、作業アタッチメント104を操作するための操作レバー等の図略の操作部材(不図示)と、この操作部材を設けたキャブ室(操作室)105とを備える。
作業アタッチメント104は、当該作業機械HSの種類に応じた所定の作業を行うための作業機構である。本実施形態では、作業機械HSは、例えば、解体機械であり、作業アタッチメント104は、例えば、上下方向に揺動可能にアッパーフレーム102に連結されるブーム141と、上下方向に揺動可能に前記ブーム141の先端部に連結されるアーム142と、前記アーム142の先端部に連結され、開閉可能な1対の破砕刃を持つ開閉式破砕機143とを備える機構である。ブーム141は、ブームシリンダ144aの伸縮動作によってアッパーフレーム102に対して起伏する。アーム142は、アームシリンダ144bの伸縮動作によってブーム141に対して揺動する。開閉式破砕機143は、破砕機シリンダ144cの伸縮動作によって開閉する。ブームシリンダ144a、アームシリンダ144bおよび破砕機シリンダ144cは、それぞれ、前記油圧ポンプによって駆動される油圧式の油圧シリンダからなる。
なお、この例では、作業機械HSは、その一例として、解体機械であるが、これに限定されず、例えば油圧ショベル等であってもよい。また、この例では。下部走行体101は、基体の一例に相当し、アッパーフレーム102、機械室103およびキャブ室105は、前記基体に旋回可能に連結された旋回体の一例に相当し、作業アタッチメント104は、前記旋回体に設けられ、所定の作業を実施可能な作業機構の一例に相当する。
作業機械HSには、本実施形態では、前記旋回体の旋回に伴って移動するように設けられた撮像部106がさらに備えられている。この撮像部106は、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する。図2に示す例では、前記旋回体の一例であるキャブ室105の外部、例えば天井部分の外側天面に、作業機械HSのオペレータの視界と重なるようにその光軸をやや下方に向けて取り付けられている。このような撮像部106は、例えば、動画を生成できる、例えばモノクロデジタルカメラやカラーデジタルカメラ等である。
図1に戻って、画像取得部1は、制御処理部2に接続され、制御処理部2の制御に従って、前記撮像部106で生成した前記複数の画像を取得する装置であり、例えば、外部の機器との間でデータを入出力する回路である。本実施形態では、画像取得部1は、前記撮像部106から、前記時系列に並ぶ複数の画像の一例として、前記動画を取得する。
なお、画像取得部1は、例えば、前記複数の画像を記憶した、例えばUSBメモリやSDカード(登録商標)等の記憶媒体から前記複数の画像を取得してよく、あるいは、例えば、前記複数の画像を記録した、例えばCD-R(Compact Disc Recordable)やDVD-R(Digital Versatile Disc Recordable)等の記録媒体からドライブ装置を介して前記複数の画像を取得してよく、あるいは、例えば、前記複数の画像を管理する、サーバ装置からネットワークを介して前記複数の画像を取得してよい。
このような画像取得部1は、例えば、後述のIF部5と兼用されてよく、あるいは、例えば、前記IF部5と別体であってよい。
入力部3は、制御処理部2に接続され、例えば、旋回角度の測定開始を指示するコマンド等の各種コマンド、および、作業名や日付等の作業機械用旋回角度測定装置Dを動作させる上で必要な各種データを作業機械用旋回角度測定装置Dに入力する機器であり、例えば、所定の機能を割り付けられた複数の入力スイッチやキーボードやマウス等である。出力部4は、制御処理部2に接続され、制御処理部2の制御に従って、入力部3から入力されたコマンドやデータ、および、旋回角度等を出力する機器であり、例えばCRTディスプレイ、液晶ディスプレイおよび有機ELディスプレイ等の表示装置やプリンタ等の印刷装置等である。これら入力部3および出力部4は、例えば、作業機械HSにおける操作パネルおよび表示パネルと兼用されてよく、あるいは、例えば、前記操作パネルおよび表示パネルと別体であってよい。
なお、入力部3および出力部4からいわゆるタッチパネルが構成されてもよい。このタッチパネルを構成する場合において、入力部3は、例えば抵抗膜方式や静電容量方式等の操作位置を検出して入力する位置入力装置であり、出力部4は、表示装置である。このタッチパネルでは、前記表示装置の表示面上に前記位置入力装置が設けられ、前記表示装置に入力可能な1または複数の入力内容の候補が表示され、ユーザが、入力したい入力内容を表示した表示位置を触れると、前記位置入力装置によってその位置が検出され、検出された位置に表示された表示内容がユーザの操作入力内容として作業機械用旋回角度測定装置Dに入力される。このようなタッチパネルでは、ユーザは、入力操作を直感的に理解し易いので、ユーザにとって取り扱い易い作業機械用旋回角度測定装置Dが提供される。
IF部5は、制御処理部2に接続され、制御処理部2の制御に従って、外部機器との間でデータの入出力を行う回路であり、例えば、シリアル通信方式であるRS-232Cのインターフェース回路、Bluetooth(登録商標)規格を用いたインターフェース回路、IrDA(Infrared Data Asscoiation)規格等の赤外線通信を行うインターフェース回路、および、USB(Universal Serial Bus)規格を用いたインターフェース回路等である。また、IF部5は、外部機器との間で通信を行う回路であり、例えば、データ通信カードや、IEEE802.11規格等に従った通信インターフェース回路等であってもよい。
記憶部6は、制御処理部2に接続され、制御処理部2の制御に従って、各種の所定のプログラムおよび各種の所定のデータを記憶する回路である。前記各種の所定のプログラムには、例えば、制御処理プログラムが含まれ、前記制御処理プログラムには、作業機械用旋回角度測定装置Dの各部1、3~6を当該各部の機能に応じてそれぞれ制御する制御プログラムや、画像取得部1で取得した前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算プログラムや、前記第1旋回角度演算プログラムで前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所(第1箇所)を旋回角度の基準として求める基準演算プログラムや、前記複数の画像それぞれについて、前記第1旋回角度演算プログラムで当該画像について求めた第1旋回角度と前記基準演算プログラムで求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算プログラム等が含まれる。前記各種の所定のデータには、例えば、前期複数の画像、前記複数の第1旋回角度、前記基準(前記外界中における所定の箇所)および前記複数の第2旋回角度等の、これら各プログラムを実行する上で必要なデータが含まれる。このような記憶部6は、例えば不揮発性の記憶素子であるROM(Read Only Memory)や書き換え可能な不揮発性の記憶素子であるEEPROM(Electrically Erasable Programmable Read Only Memory)等を備える。そして、記憶部6は、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる制御処理部2のワーキングメモリとなるRAM(Random Access Memory)等を含む。なお、記憶部6は、大容量を記憶可能なハードディスク装置を備えてもよい。
制御処理部2は、作業機械用旋回角度測定装置Dの各部1、3~6を当該各部の機能に応じてそれぞれ制御し、旋回角度の基準として外界中に求められた所定の箇所に対する前記旋回体の第2旋回角度を求めるための回路である。制御処理部2は、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成される。制御処理部2には、前記制御処理プログラムが実行されることによって、制御部21、第1旋回角度演算部22、基準演算部23および第2旋回角度演算部24が機能的に構成される。
制御部21は、作業機械用旋回角度測定装置Dの各部1、3~6を当該各部の機能に応じてそれぞれ制御し、作業機械用旋回角度測定装置D全体の制御を司るものである。制御部21は、画像取得部1で取得した前記複数の画像を記憶部6に記憶する。
第1旋回角度演算部22は、前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求めるものである。
より具体的には、第1旋回角度演算部22は、前記複数の画像それぞれについて、当該画像(第1画像)から特徴点(第1特徴点)を抽出し、当該画像に時系列で前に隣接して並ぶ画像(第2画像)から、前記第1画像から抽出した第1特徴点に対応する特徴点(第1特徴点)を抽出し、これら第1および第2特徴点間の移動量に基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める。前記特徴点は、画像において、他と区別できる箇所であり、例えば、画像に写り込んだ物体の角やエッジ等である。
より詳しくは、第1旋回角度演算部22は、本実施形態では、画像取得部1で取得した前記複数の画像が撮像部106で生成された動画であるので、まず、前記動画を各フレームごとに分けて前記複数の画像とし、これら前記複数の画像を、前記複数の画像それぞれに時系列順に1から整数の通し番号kをラベル(第1ラベル、画像のシリアル番号、画像ID)として付して記憶部6に記憶する(k=1、2、・・・、K、Kは前記複数の画像の総数である)。
続いて、第1旋回角度演算部22は、前記複数の画像それぞれについて、当該画像(第1画像)から特徴点を抽出し、当該画像に時系列で前に隣接して並ぶ画像(第2画像)から特徴点を抽出する。この特徴点の抽出には、様々な手法があるが、例えばA-KAZEが用いられる。例えば、図3Aに示す画像では、図3Bに示す特徴点●が抽出される。
続いて、第1旋回角度演算部22は、第1画像から抽出した特徴点に対応する、第2画像から抽出した特徴点を、対応点探索により探索して選定する(特徴点のマッチング)。この対応点探索には、kNN等の様々な手法があるが、例えば総当たりマッチング(Brute-Force Matcher)が用いられる。例えば、(k-1)番目のフレームの画像PC1とk番目のフレームの画像PC2との間において、図4Aに示すように画像PC1の特徴点が画像PC2の特徴点を対応付けられる。図4Aでは、互いに対応付けられた特徴点同士が線分で連結されている。図4Bも同様である。
続いて、第1旋回角度演算部22は、対応点探索によって互いに対応付けられた特徴点同士において、誤対応を除去するためのフィルタリング処理を実施する。このフィルタリング処理には、例えば、隣接フレーム間では、互いに対応付けられた特徴点同士間の移動量が小さいため、前記特徴点同士間の移動量が予め設定された所定の閾値(第1閾値)以上である場合には、前記特徴点同士を除去する処理(第1態様のフィルタリング処理)が用いられる。あるいは例えば、前記フィルタリング処理には、前記特徴点同士の移動量は、前記旋回体の旋回によって生じるので、主に水平方向(左右方向)の成分を持ち、垂直方向(上下方向)の成分をほとんど持たないため、前記特徴点同士の移動量における垂直方向の成分が予め設定された所定の閾値(第2閾値)以上である場合には、前記特徴点同士を除去する処理(第2態様のフィルタリング処理)が用いられる。あるいは例えば、前記フィルタリング処理には、いわゆる外れ値を除去するために、前記特徴点同士の移動量における標準化変量が予め設定された所定の閾値(第3閾値)以上である場合には、前記特徴点同士を除去する処理(第3態様のフィルタリング処理)が用いられる。当該特徴点同士の前記標準化変量は、当該特徴点同士の移動量から、全特徴点同士における移動量の平均値を減算し、この減算結果を、全特徴点同士における移動量の標準偏差を除算することによって、この除算結果として求められる((当該特徴点同士の前記標準化変量)=((当該特徴点同士の移動量)-(全特徴点同士における移動量の平均値))/(全特徴点同士における移動量の標準偏差))。あるいは例えば、前記フィルタリング処理には、いわゆるいいとこ取りするために、全特徴点同士の中から、前記特徴点同士の移動量が小さい特徴点同士から順に、予め設定された個数だけ、前記特徴点同士を選出する処理(第4態様のフィルタリング処理)が用いられる。例えば、図4Aに示す例では、前記第2態様のフィルタリング処理によって、図4Bに示すように画像PC1の特徴点に対応付けられた画像PC2の特徴点が残る。これによって、前記第1画像から抽出した第1特徴点に対応する前記第2画像の第2特徴点が抽出される。これら第1ないし第3閾値は、例えば、複数のサンプルから予め適宜に設定される。
続いて、第1旋回角度演算部22は、前記フィルタリング処理後における全特徴点同士の移動量の平均値を、前記第1および第2画像間の移動量として求め、この求めた前記第1および第2画像間の移動量を、前記第1および第2画像間の旋回角度(角度変化量)Δγに変換する。より具体的には、次式1によって前記第1および第2画像間の旋回角度(角度変化量)Δγが求められる。すなわち、前記第1および第2画像間の移動量に、1画素当たりの角度を乗算した乗算結果を平均値で求めることによって、前記第1および第2画像間の旋回角度(角度変化量)Δγが求められる。
Figure 0007367131000002
ここで、θは、撮像部106の水平画角であり、Wは、前記撮像部106で生成した画像における水平方向の画素数であり、xk、nは、図3および図4に示すように、正面視にて左上角を座標原点とし、水平方向をx軸とし、垂直方向をy軸とするxy直交座標系を画像に設定した場合に、k番目のフレームの画像から抽出されたn番目の特徴点におけるx座標であり、Nは、特徴点の総数である。なお、前記フィルタリング処理後の各特徴点には、ラベル(第2ラベル、特徴点のシリアル番号、特徴点ID)として、1から順に整数の通し番号nが割り振られる。互いに対応する第1および第2特徴点には、同一の番号(ラベル)が割り振られる。
そして、第1旋回角度演算部22は、当該第1画像に時系列で前に隣接して並ぶ第2画像について求めた前記旋回体の第1旋回角度γk-1に、前記第1および第2画像間の旋回角度Δγを加算することによって、当該第1画像についての前記旋回体の第1旋回角度γを求める(γ=γk-1+Δγ)。
これによって、前記複数の画像における最初の画像での前記旋回体の旋回角度を0として(すなわち、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に)、前記複数の画像それぞれについて、前記旋回体の第1旋回角度が求められる。
このように求められた前記旋回体の第1旋回角度が解析値として、その実測値と共に図5に示されている。実測値は、ロータリエンコーダによって測定された測定結果である。図5に示すように、解析値は、実測値とほぼ一致しており、上述の手法により、前記旋回体の第1旋回角度が精度良く推定できている。
基準演算部23は、前記第1旋回角度演算部22で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求めるものである。より具体的には、基準演算部23は、前記第1旋回角度演算部22で前記複数の画像それぞれについて求めた時系列に並ぶ複数の第1旋回角度を近似する、時間に対する角度の直線を、例えば、最小二乗法やRANSAC(Random Sample Consensus)等の所定の直線近似法を用いることによって求め、前記求めた直線の角度を前記旋回角度の基準として求める。前期最小二乗法を用いて求めた前記旋回角度の基準γの例が図6に示されている。図6に示す例では、前記旋回角度の基準γは、前記時系列に並ぶ複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準(γ=0)に表されている。
第2旋回角度演算部24は、前記複数の画像それぞれについて、前記第1旋回角度演算部22で当該画像について求めた第1旋回角度と前記基準演算部23で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求めるものである。より具体的には、第2旋回角度演算部24は、前記複数の画像それぞれについて、前記第1旋回角度演算部22で当該画像について求めた第1旋回角度から前記基準演算部23で求めた基準を減算することによって、前記基準に対する前記旋回体の第2旋回角度を求める。
その一例が図7Aに示されている。例えば、開閉式破砕機で自動車を解体するような、外界中における所定の第2箇所に対し左右に旋回体を旋回させて実施される作業である場合、解体対象の自動車ごとに、同じような動作を行うため、前記旋回体の第1旋回角度における各プロファイルは、図7Bに示すように、同じような形状となるが、解体作業開始時の初期位置(解体作業開始時における開閉式破砕機が向いている方向)が異なるため、一致しない。図7Bには、自動車aを解体する解体作業の動画Aから求めた第1旋回角度のグラフGRAと、他の自動車bを解体する解体作業の動画Bから求めた第1旋回角度のグラフGRBとが図示されており、グラフGRAとグラフGRBは、同じような形状となるが、一致していない。しかしながら、本実施形態における作業機械用旋回角度測定装置Dでは、前記外界中における所定の箇所が前記外界中における所定の第2箇所として推定され、前記旋回体が解体対象の自動車に向く方向を旋回角度の基準とした前記旋回体の第2旋回角度が求められることになる。このため、解体対象の自動車ごとにおける前記旋回体の第2旋回角度の各プロファイルは、図7Aに示すように略一致し、解体対象の自動車ごとにおける各解体作業を比較、分析することが可能となる。
このような画像取得部1、制御処理部2、入力部3、出力部4、IF部5および記憶部6は、例えば、デスクトップ型やノート型やタブレット型等のコンピュータによって構成可能である。このコンピュータは、例えば、作業機械HSに組み込まれてよく、あるいは例えば、作業機械HSがコンピュータを実装している場合には、この作業機械HSのコンピュータと兼用されてもよい。
次に、本実施形態の動作について説明する。図8は、前記作業機械用旋回角度測定装置の動作を示すフローチャートである。
このような構成の作業機械用旋回角度測定装置Dは、その電源が投入されると、必要な各部の初期化を実行し、その稼働を始める。制御処理部2には、その制御処理プログラムの実行によって、制御部21、第1旋回角度演算部22、基準演算部23および第2旋回角度演算部24が機能的に構成される。
図8において、作業機械用旋回角度測定装置Dは、まず、制御処理部2の制御部21によって、画像取得部1で撮像部106から、前記旋回体から見える外界の、時系列に並ぶ複数の画像を取得し、記憶部6に記憶する(S1)。本実施形態では、上述したように、動画が取得される。例えば、1つの作業の開始からその終了までの作業時間に相当する所定の時間長の動画が取得される。
次に、作業機械用旋回角度測定装置Dは、制御処理部2の第1旋回角度演算部22によって、前記動画を各フレームごとに分けて前記時系列に並ぶ複数の画像とし、これら複数の画像を、1からKまで整数の通し番号kを付して記憶部6に記憶する(S2)。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、1番目の画像PC(1)に対し、特徴点を抽出し、記憶部6に記憶し、ループカウンタkに2を設定し(k=2)、1番目の画像PC(1)についての前記旋回体の第1旋回角度γに初期値0を設定する(γ=0、S3)。前記通し番号kは、ループカウンタkと兼用される。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、k番目の画像PC(k)に対し、特徴点を抽出し、記憶部6に記憶する(S3)。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、k番目の画像(第1画像)PC(k)から抽出した特徴点に対応する、(k-1)番目の画像(第2画像)PC(k-1)から抽出した特徴点を、対応点探索により探索して選定し(特徴点のマッチング)、記憶部6に記憶する(S5)。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、対応点探索によって互いに対応付けられた特徴点同士において、誤対応を除去するためのフィルタリング処理を実施し、記憶部6に記憶する(S6)。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、前記フィルタリング処理後における全特徴点同士の移動量の平均値を、k番目の画像(第1画像)PC(k)と(k-1)番目の画像(第2画像)PC(k-1)との間の移動量として求め、この求めた前記移動量に基づき旋回角度(角度変化量)Δγを求め、記憶部6に記憶する(S7)。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、(k-1)番目の画像(第2画像)PC(k-1)について求めた前記旋回体の第1旋回角度γk-1に、前記求めた旋回角度(角度変化量)Δγを加算することによって、k番目の画像(第1画像)PC(k)についての前記旋回体の第1旋回角度γを求める(γ=γk-1+Δγ、S8)。
次に、作業機械用旋回角度測定装置Dは、第1旋回角度演算部22によって、ループカウンタkが前記複数の画像の総数Kであるか否かを判定する(S9)。この判定の結果、ループカウンタkが総数Kである場合には、作業機械用旋回角度測定装置Dは、次に、処理S11を実行する。一方、前記判定の結果、ループカウンタkが総数Kではない場合には、作業機械用旋回角度測定装置Dは、ループカウンタkを1だけインクリメントし(k=k+1、S10)、処理を処理S4に戻す。
この処理S11では、作業機械用旋回角度測定装置Dは、制御処理部2の基準演算部23によって、前記第1旋回角度演算部22で前記複数の画像PC(1)~PC(K)それぞれについて求めた複数の第1旋回角度γ~γに基づいて、前記外界中における所定の箇所を旋回角度の基準γとして求める。
次に、作業機械用旋回角度測定装置Dは、制御処理部2の第2旋回角度演算部24によって、前記複数の画像それぞれPC(1)~PC(K)について、前記第1旋回角度演算部22で当該画像PC(k)について求めた第1旋回角度γと前記基準演算部23で求めた基準γに基づいて、前記基準γに対する前記旋回体の第2旋回角度を求め、本処理を終了する(S12)。なお、作業機械用旋回角度測定装置Dは、必要に応じて第2旋回角度を出力部4に出力し、必要に応じて第2旋回角度をIF部5を介して外部の機器に出力する。
以上説明したように、実施形態における作業機械用旋回角度測定装置Dならびにこれに実装された作業機械用旋回角度測定方法および作業機械用旋回角度測定プログラムは、外界中における所定の箇所を旋回角度の基準として求め、この基準に対する旋回体の第2旋回角度を求めるので、作業中の旋回体が対向している外界中に基準が設けられるから、特定の物体や目印等を基準とすることなく、作業中に旋回体が主として向いている方向を基準に、前記旋回体の旋回角度を求めることができる。
上記作業機械用旋回角度測定装置D、作業機械用旋回角度測定方法および作業機械用旋回角度測定プログラムは、外界中における所定の第2箇所に対し左右に旋回体を旋回させて実施される作業において、前記推定される第2箇所を基準に、前記旋回体の第2旋回角度を求めることができる。したがって、同種の作業を、複数、実施した場合に、各作業で、作業開始時に旋回体が向いている方向が異なる場合でも、各作業の開始から、各作業における各タイミングでの各第2旋回角度の比較が可能となり、各作業における、経過時間に対する第2旋回角度の各プロファイルの比較が可能となる。
なお、上述の実施形態において、基準演算部23は、前記第1旋回角度演算部22で前記複数の画像それぞれについて求めた複数の第1旋回角度の中から、前記基体(図2に示す例では下部走行体101)に対し前記旋回体が静止している場合の第1旋回角度を除外して、前記旋回角度の基準を求めてもよい。これによれば、前記基体に対し前記旋回体が静止している場合の第1旋回角度を除外して、前記旋回角度の基準を求めるので、前記除外しない場合に較べて、より精度良く前記基準を求めることができる。
図9は、一例として、旋回体が静止している場合を含む、時系列に並ぶ複数の第1旋回角度およびこれに基づき求められた旋回角度の基準を示すグラフである。図9の横軸は、時間であり、その縦軸は、角度である。図10は、図9に示す場合において、旋回体が静止しているか否かを判定した判定結果を示す図である。図10の横軸は、時間であり、その縦軸は、判定結果である。“1.0”は、判定結果が静止であることを表し、“0.0”は、判定結果が静止ではないことを表す。図11は、図9に示す場合において、時系列に並ぶ複数の第1旋回角度、および、前記旋回体が静止している場合の第1旋回角度を除外して求めた旋回角度の基準を示すグラフである。図11の横軸は、時間であり、その縦軸は、角度である。
例えば、オペレータの小休止等の何らかの原因によって、旋回体が静止している場合があると、前記旋回体の第1旋回角度は、例えば、図9に示すように、略一定になり、そのまま、前記旋回体の第1旋回角度に基づき旋回角度の基準γを求めると、前記略一定となっている前記旋回体の第1旋回角度によって、前記旋回角度の基準γを正しく求めることができない。このため、基準演算部23は、さらに、旋回体の静止か否かを判定したい注目時刻(注目タイミング)の近傍にある一定数の画像に基づく移動量の分散を求め、前記求めた分散が予め設定した閾値(第4閾値)以下である場合に、前記注目時刻で前記旋回体が静止していると判定し、前記求めた分散が前記第4閾値を超えている場合に、前記注目時刻で前記旋回体が静止していないと判定する。前記第4閾値は、例えば複数のサンプルから予め適宜に設定される。前記注目時刻の近傍にある一定数の画像は、例えば、前記注目時刻の画像およびその前後に時系列に並ぶ5枚や10枚等の画像である。そして、基準演算部23は、上述したように、前記第1旋回角度演算部22で前記複数の画像それぞれについて求めた複数の第1旋回角度の中から、前記基体に対し前記旋回体が静止している場合の第1旋回角度を除外して、前記旋回角度の基準γを求める。図9に示す場合において、旋回体が静止しているか否かを判定した判定結果が図10に示されており、前記旋回体が静止している場合の第1旋回角度を除外して求めた旋回角度の基準γが図11に示されている。図11に示す旋回角度の基準γは、図9に示す旋回角度の基準γに較べ是正されている。
また、上述の実施形態では、撮像部106は、前記旋回体の外部に、図2に示す例では、キャブ室105の外部に取り付けられているが、前記撮像部106は、前記外界を撮像可能に前記旋回体の内部に、例えばキャブ室105の内部に取り付けられてもよい。
また、上述の実施形態において、作業機械用旋回角度測定装置Dは、例えば、図1に破線で示すように、所定の除外領域を記憶する除外領域記憶部61を記憶部6に機能的にさらに備え、前記第1旋回角度演算部22は、前記複数の画像それぞれについて、前記除外領域を除いた当該画像と当該画像に時系列で前に隣接して並ぶ、前記除外領域を除いた画像とに基づいて、前記旋回体の第1旋回角度を求めてもよい。これによれば、前記旋回体の第1旋回角度を求める際に当該画像およびこれに隣接して並ぶ画像それぞれから除外領域を除くので、情報処理量が低減できる。
前記時系列に並ぶ複数の画像において、同一位置に同一被写体を写し込んでいる画像領域は、前記第1および第2特徴点間の移動量の算出に寄与せず、このような画像領域が除外領域に設定される。この除外領域の前記被写体は、例えば、前記旋回体が旋回しても前記撮像部106によって画像の同一位置に写り込む物体である。特に、上述したように、前記撮像部106が前記外界を撮像可能に前記旋回体の内部(図2に示す例ではキャブ室105の内部)に取り付けられている場合に、前記旋回体のフレーム(窓枠)、操作レバーおよび床等は、前記旋回体が旋回しても前記撮像部106によって画像の同一位置に写り込む物体となり、前記除外領域の前記被写体は、前記旋回体のフレーム(窓枠)、操作レバーおよび床のうちの少なくとも何れかである。これによれば、前記複数の画像において、同一位置に同一被写体を写し込んでいる画像領域を除外領域とするので、前記旋回体の旋回に伴って旋回する物体を写り込んでいる領域が除外できる。
このような除外領域は、例えば、手動で設定され、除外領域記憶部61に記憶される。例えば、初期設定において、前記撮像部106で生成した画像が画像取得部1で取得され、この取得した画像が出力部4に出力される。例えば、出力部4は、表示装置であり、例えば、図12に示す画像SPが表示される。図12は、除外領域の手動設定を説明するための図である。そして、オペレータ(ユーザ)は、例えばマウス等の入力部3を用いることによって、除外領域ARとして設定したい領域の外輪郭をマウスカーソルでなぞることによって、前記除外領域を入力する。図12に示す例では、操作レバーを写し込んだ3個の第1ないし第3画像領域AR1~AR3が3個の除外領域AR1~AR3として入力されている。そして、このように入力された除外領域ARが除外領域記憶部61に記憶される。前記初期設定は、前記撮像部106を作業機械HSに取り付け、作業機械用旋回角度測定装置Dの使用を開始する際に実施される。なお、前記撮像部106が作業機械HSに取り付け直されたり、所定の時間が経過したタイミングでも、前記初期設定と同様に、除外領域ARが設定されてもよい。
また、上述では、除外領域ARの設定は、手動で実施されたが、作業機械用旋回角度測定装置Dによって前記初期設定等で自動的に実施されてもよい。この場合では、作業機械用旋回角度測定装置Dの制御処理部2には、図1に破線で示すように、画像に基づき除外領域を抽出し、前記抽出した除外領域を除外領域記憶部61に記憶する除外領域抽出部25が機能的にさらに備えられる。
より具体的には、例えば、除外領域の前記被写体を表す画像(例えば操作レバーの画像等)がテンプレートとして予め用意され、記憶部6に記憶される。そして、除外領域抽出部25は、前記撮像部106で生成した画像を画像取得部1で取得し、この取得した画像から、前記テンプレートと最も一致する領域を、いわゆるテンプレートマッチングによって検索して抽出し、この抽出した領域を前記除外領域として除外領域記憶部61に記憶する。
あるいは、例えば、上述のテンプレートマッチングに代え、いわゆる幾何形状マッチングが用いられてもよい。この幾何形状マッチングでは、前記幾何形状として例えばエッジが用いられ、前記テンプレートおよび前記画像それぞれからエッジが抽出され、前記テンプレートと前記画像とが前記エッジで比較され、前記テンプレートのエッジと最も一致するエッジを持つ領域が前記画像から前記除外領域として抽出される。
あるいは、例えば、前記画像取得部1は、前記旋回体の旋回中における互いに異なるタイミングt1、t2で生成された2個の画像PC(t1)、PC(t2)を取得する。前記除外領域抽出部25は、前記画像取得部1で取得した2個の画像PC(t1)、PC(t2)のうちの一方の画像、例えばPC(t1)から特徴点(第3特徴点)を抽出し、他方の画像PC(t2)から、前記一方の画像PC(t1)から抽出した第3特徴点に対応する特徴点(第4特徴点)を抽出し、前記抽出した、互いに対応する第3特徴点と第4特徴点とを一致させて前記2個の画像PC(t1)、PC(t2)を重ねた場合に、互いに重なる領域における画素それぞれについて、同じ画素位置同士で前記一方の画像PC(t1)の画素値と前記他方の画像PC(t2)の画素値と比較してこれら各画素値が一致する画素を前記除外領域の画素として抽出し、前記抽出した画素で構成される領域を前記除外領域として除外領域記憶部61に記憶する。前記2個の画像PC(t1)、PC(t2)において、同一の被写体を写し込んでいる場合には、前記各画素値が一致するため、前記各画素値が比較されている。前記特徴点の抽出や対応点探索には、第1旋回角度演算部22と同様な手法、例えばA-KAZEや総当たりマッチングが用いられる。対応点探索後に必要に応じて、第1旋回角度演算部22で用いたフィルタリング処理が実施されてもよい。前記2個の画像PC(t1)、PC(t2)をより高い位置精度で重ねるために、第3および第4特徴点を、複数、抽出することが好ましく、また、必要に応じて、前記2個の画像PC(t1)、PC(t2)のうちの少なくとも一方がアフィン変換される。前記抽出した画素で構成される領域は、前記抽出した画素のうち、互いに連続する画素で構成される領域であり、1または複数となる。除外領域内では、単一色の場合も複数色の場合もあり得ることから、前記互いに連続する画素の各画素値は、同一であっても異なってもよい。なお、予め設定された画素数(例えば1画素や2画素等)だけ離間した画素も1つの領域として纏められてもよい。
図13は、除外領域の自動設定に関する、前記作業機械用旋回角度測定装置の動作を示すフローチャートである。
この除外領域の自動設定では、図13において、まず、旋回開始か否かが判定され(S21)、この判定の結果、旋回開始ではない場合(No)には、処理が処理S21に戻され、一方、旋回開始である場合(Yes)には、撮像部106によって画像が生成され、記憶(保存)され(S22)、旋回終了か否かが判定される(S23)。この判定の結果、旋回終了ではない場合(No)には、処理が処理S22に戻され、一方、旋回開始である場合(Yes)には、次に、処理S24が実行される。旋回開始および旋回終了は、例えば、前記旋回体に取り付けられた、加速度を検出する加速度センサによって実施される。前記加速度センサで加速度を検出すると旋回開始が判定され、予め設定された時間長、連続して加速度を検出しないと旋回終了が判定される。なお、旋回開始は、操作レバーの操作量の検出値の増加や、ジャイロセンサによる角速度の増加によって検出されてもよく、旋回終了は、操作レバーの操作量の検出値の減少や、ジャイロセンサによる角速度の減少によって検出されてもよい。また、上述の除外領域の自動設定では、前記2個の画像PC(t1)、PC(t2)が必要であるので、前記2個の画像PC(t1)、PC(t2)が生成され、記憶されたタイミングで旋回中でも旋回終了が判定されてもよい。
前記処理S24では、撮像部106は、前記旋回体の旋回中における互いに異なるタイミングt1、t2で生成された2個の画像PC(t1)、PC(t2)を出力し、これら2個の画像PC(t1)、PC(t2)が画像取得部1で取得され、記憶部6に記憶される。次に、除外領域抽出部25は、前記画像取得部1で取得した前記2個の画像PC(t1)、PC(t2)に基づいて除外領域ARを抽出し(S25)、この抽出した除外領域ARを除外領域記憶部61に記憶して設定し(S26)、本処理を終了する。
また、上述の実施形態では、作業機械用旋回角度測定装置Dは、コンピュータに一体的に構成されたが、作業機械用旋回角度測定装置Dは、上述の実施形態および上述の変形形態を含めて、通信ネットワークを介して相互に通信可能に接続される作業機械HS、携帯端末装置および管理サーバを備えたシステムで構成されてもよい。この場合において、作業機械HSは、前記撮像部106で生成した動画を、前記通信ネットワークを介して前記管理サーバに送信し、前記管理サーバは、この動画を記憶し、管理する。なお、作業機械HSは、前記撮像部106で生成した動画を、前記通信ネットワークを介して前記携帯端末装置に送信し、前記携帯端末装置は、この動画を記憶し、表示可能に構成されてもよい。前記携帯端末装置は、前記管理サーバに対し、前記入力部3および前記出力部4として機能するように構成される。前記管理サーバは、前記画像取得部1、制御処理部2および記憶部6として機能するように構成される。
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
D 作業機械用旋回角度測定装置
HS 作業機械
1 画像取得部
2 制御処理部
3 入力部
4 出力部
5 インターフェース部(IF部)
6 記憶部
21 制御部
22 第1旋回角度演算部
23 基準演算部
24 第2旋回角度演算部
25 除外領域抽出部
61 除外領域記憶部
101 下部走行体
102 アッパーフレーム
103 機械室
104 作業アタッチメント
105 キャブ室
141 ブーム
142 アーム
143 開閉式破砕機

Claims (7)

  1. 基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得部と、
    前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算部と、
    前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求める基準演算部と、
    前記複数の画像それぞれについて、前記第1旋回角度演算部で当該画像について求めた第1旋回角度と前記基準演算部で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算部とを備え、
    前記基準演算部は、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた時系列に並ぶ複数の第1旋回角度を近似する、時間に対する角度の直線を、所定の直線近似法を用いることによって求め、前記求めた直線の角度を前記旋回角度の基準として求める、
    作業機械用旋回角度測定装置。
  2. 前記所定の作業は、前記外界中における所定の第2箇所に対し左右に前記旋回体を旋回させて実施される作業であり、
    前記外界中における所定の箇所は、前記外界中における所定の第2箇所として推定される、
    請求項1に記載の作業機械用旋回角度測定装置。
  3. 前記基準演算部は、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度の中から、前記基体に対し前記旋回体が静止している場合の第1旋回角度を除外して、前記旋回角度の基準を求める、
    請求項1に記載の作業機械用旋回角度測定装置。
  4. 所定の除外領域を記憶する除外領域記憶部をさらに備え、
    前記第1旋回角度演算部は、前記複数の画像それぞれについて、前記除外領域を除いた当該画像と当該画像に時系列で前に隣接して並ぶ、前記除外領域を除いた画像とに基づいて、前記旋回体の第1旋回角度を求める、
    請求項1に記載の作業機械用旋回角度測定装置。
  5. 前記除外領域は、前記複数の画像において、同一位置に同一被写体を写し込んでいる画像領域である、
    請求項に記載の作業機械用旋回角度測定装置。
  6. 基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得工程と、
    前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算工程と、
    前記第1旋回角度演算工程で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求める基準演算工程と、
    前記複数の画像それぞれについて、前記第1旋回角度演算工程で当該画像について求めた第1旋回角度と前記基準演算工程で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算工程とを備え、
    前記基準演算工程は、前記第1旋回角度演算工程で前記複数の画像それぞれについて求めた時系列に並ぶ複数の第1旋回角度を近似する、時間に対する角度の直線を、所定の直線近似法を用いることによって求め、前記求めた直線の角度を前記旋回角度の基準として求める、
    作業機械用旋回角度測定方法。
  7. コンピュータを、
    基体と、前記基体に旋回可能に連結された旋回体と、前記旋回体に設けられ、所定の作業を実施可能な作業機構とを備えた作業機械に、前記旋回体の旋回に伴って移動するように設けられた撮像部であって、前記旋回体から見える外界の、時系列に並ぶ複数の画像を生成する前記撮像部で生成した前記複数の画像を取得する画像取得部、
    前記複数の画像それぞれについて、当該画像と当該画像に時系列で前に隣接して並ぶ画像とに基づいて、前記複数の画像における最初の画像での前記基体に対する前記旋回体の位置を基準に、前記旋回体の第1旋回角度を求める第1旋回角度演算部、
    前記第1旋回角度演算部で前記複数の画像それぞれについて求めた複数の第1旋回角度に基づいて、前記外界中における所定の箇所を旋回角度の基準として求める基準演算部、および、
    前記複数の画像それぞれについて、前記第1旋回角度演算部で当該画像について求めた第1旋回角度と前記基準演算部で求めた基準に基づいて、前記基準に対する前記旋回体の第2旋回角度を求める第2旋回角度演算部、
    として機能させるための作業機械用旋回角度測定プログラムであって
    前記基準演算部は、前記第1旋回角度演算部で前記複数の画像それぞれについて求めた時系列に並ぶ複数の第1旋回角度を近似する、時間に対する角度の直線を、所定の直線近似法を用いることによって求め、前記求めた直線の角度を前記旋回角度の基準として求める
    作業機械用旋回角度測定プログラム
JP2022105343A 2022-06-30 2022-06-30 作業機械用旋回角度測定装置、該方法およびプログラム Active JP7367131B1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022105343A JP7367131B1 (ja) 2022-06-30 2022-06-30 作業機械用旋回角度測定装置、該方法およびプログラム
PCT/JP2023/022568 WO2024004733A1 (ja) 2022-06-30 2023-06-19 作業機械用旋回角度測定装置、該方法および記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022105343A JP7367131B1 (ja) 2022-06-30 2022-06-30 作業機械用旋回角度測定装置、該方法およびプログラム

Publications (2)

Publication Number Publication Date
JP7367131B1 true JP7367131B1 (ja) 2023-10-23
JP2024005257A JP2024005257A (ja) 2024-01-17

Family

ID=88418525

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022105343A Active JP7367131B1 (ja) 2022-06-30 2022-06-30 作業機械用旋回角度測定装置、該方法およびプログラム

Country Status (2)

Country Link
JP (1) JP7367131B1 (ja)
WO (1) WO2024004733A1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007244296A (ja) 2006-03-16 2007-09-27 Yanmar Co Ltd オーガ制御装置
JP2012107395A (ja) 2010-11-15 2012-06-07 Sumitomo (Shi) Construction Machinery Co Ltd 建設機械のモニター装置
JP2015101470A (ja) 2013-11-27 2015-06-04 株式会社大林組 クレーン動作監視システム及び方法
JP2017058272A (ja) 2015-09-17 2017-03-23 Kyb株式会社 建設機械の角度検出装置および角度検出方法
JP2019190163A (ja) 2018-04-26 2019-10-31 コベルコ建機株式会社 旋回式作業機械の旋回制御装置
WO2020196895A1 (ja) 2019-03-27 2020-10-01 住友建機株式会社 ショベル

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007244296A (ja) 2006-03-16 2007-09-27 Yanmar Co Ltd オーガ制御装置
JP2012107395A (ja) 2010-11-15 2012-06-07 Sumitomo (Shi) Construction Machinery Co Ltd 建設機械のモニター装置
JP2015101470A (ja) 2013-11-27 2015-06-04 株式会社大林組 クレーン動作監視システム及び方法
JP2017058272A (ja) 2015-09-17 2017-03-23 Kyb株式会社 建設機械の角度検出装置および角度検出方法
JP2019190163A (ja) 2018-04-26 2019-10-31 コベルコ建機株式会社 旋回式作業機械の旋回制御装置
WO2020196895A1 (ja) 2019-03-27 2020-10-01 住友建機株式会社 ショベル

Also Published As

Publication number Publication date
WO2024004733A1 (ja) 2024-01-04
JP2024005257A (ja) 2024-01-17

Similar Documents

Publication Publication Date Title
KR101514169B1 (ko) 정보 처리 장치, 정보 처리 방법 및 기록 매체
JP6854840B2 (ja) 地図構築装置及びその地図構築方法
CN106020436A (zh) 图像分析装置及图像分析方法
JP6783713B2 (ja) 人行動推定システム
US20200033109A1 (en) Workpiece measurement device, workpiece measurement method and non-transitory computer readable medium recording a program
JP6648925B2 (ja) 画像処理方法、画像処理装置、画像処理システム、生産装置、プログラム及び記録媒体
EP2626813B1 (en) Apparatus and method for guiding handwriting input for handwriting recognition
JP2008108008A (ja) 移動パターン特定装置、移動パターン特定方法、移動パターン特定プログラム、およびこれを記録した記録媒体
US9595095B2 (en) Robot system
TW201818297A (zh) 作業辨識裝置以及作業辨識方法
JP6325659B2 (ja) 操作画面表示装置、操作画面表示方法およびプログラム
CN105242825A (zh) 终端控制方法及装置
JP6575845B2 (ja) 画像処理システム、画像処理方法及びプログラム
JP7367131B1 (ja) 作業機械用旋回角度測定装置、該方法およびプログラム
CN110942520B (zh) 作业设备辅助定位方法、装置、系统及存储介质
JP2024531089A (ja) 作業機械の地面係合ツールの摩耗及び損失検出システム及び方法
CN115497039A (zh) 综采工作面视频图像智能识别方法及装置
JP6892748B2 (ja) 掘削孔の精度管理方法
CN101317457B (zh) 目标监测方法和目标监测装置
CN117897540A (zh) 用于确定指示工具更换条件的作业机器的地面接合工具的磨损等级的系统和计算机实现的方法
KR20210092371A (ko) 가상 모델 생성 장치 및 방법
EP3723039A1 (en) Tip attachment discrimination device
JP6571723B2 (ja) 動作プログラムを生成するプログラミング装置、及びプログラム生成方法
US20220259815A1 (en) System for determining content of work performed by construction machine and method for determining work
JP2024143561A (ja) 孔位置合わせ処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231011

R150 Certificate of patent or registration of utility model

Ref document number: 7367131

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150