JP6885212B2 - 建設機械遠隔操作システム - Google Patents

建設機械遠隔操作システム Download PDF

Info

Publication number
JP6885212B2
JP6885212B2 JP2017120648A JP2017120648A JP6885212B2 JP 6885212 B2 JP6885212 B2 JP 6885212B2 JP 2017120648 A JP2017120648 A JP 2017120648A JP 2017120648 A JP2017120648 A JP 2017120648A JP 6885212 B2 JP6885212 B2 JP 6885212B2
Authority
JP
Japan
Prior art keywords
image information
unit
construction machine
remote control
control system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017120648A
Other languages
English (en)
Other versions
JP2019007139A (ja
Inventor
玲央奈 高村
玲央奈 高村
田中 精一
精一 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobelco Construction Machinery Co Ltd
Original Assignee
Kobelco Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobelco Construction Machinery Co Ltd filed Critical Kobelco Construction Machinery Co Ltd
Priority to JP2017120648A priority Critical patent/JP6885212B2/ja
Publication of JP2019007139A publication Critical patent/JP2019007139A/ja
Application granted granted Critical
Publication of JP6885212B2 publication Critical patent/JP6885212B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Operation Control Of Excavators (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Selective Calling Equipment (AREA)

Description

本発明は、作業を実行する建設機械と、建設機械を操作者が遠隔操作する操作部とからなる建設機械遠隔操作システムに関する。
油圧ショベル等の建設機械による作業は、通常、操作者が建設機械の運転室に搭乗し、操作レバーを操作することで行われるが、人の立ち入りが好ましくない作業現場、例えば災害復旧現場などの作業現場では、遠隔操作技術が使用されることがある。
このような作業現場での遠隔操作技術を使用したものとして、作業現場に無人の建設機械を配備し、作業現場から離れた遠隔地に設けた操作部から建設機械を遠隔操作する建設機械遠隔操作システムが提案されている(例えば、特許文献1及び特許文献2参照)。
特開2005−354479号公報 特開平9−217382号公報
特許文献1の建設機械遠隔操作システムは、作業現場に配備した建設機械にマイクを設け、該マイクで集音した音を無線で作業現場から離れた遠隔地にある操作部のスピーカから流し、音を操作部内の操作者に伝えるものである。
特許文献2の建設機械遠隔操作システムは、作業現場に配備した建設機械にひずみゲージ等からなる作業力検出器を設け、該作業力検出器で検出した作業力に応じて生じる振動を、作業現場から離れた遠隔地にある操作部の振動出力装置を介して操作者に伝えるものである。
操作者は音や振動等を体感し、これらの音や振動等を考慮しながら建設機械を操作することで作業性を向上させることができる。ところで、操作者が、音や振動等を体感して臨場感をもって建設機械を操作するときには、操作者ごとに、掘削、荷吊り及び移動等の作業内容に応じて注目する音や振動等が異なる。また、操作者ごとに、これらの音や振動等の組み合わせで操作タイミングを判断している。
このように、操作者ごとに感性が異なり個体差があるため、音や振動等を一律に出力して操作者に伝えていたのでは、作業性を向上させるための操作者ごとの最適な環境に合わせることが難しい。
しかし、特許文献1及び特許文献2の建設機械遠隔操作システムでは、操作部内の音、振動等を一律に出力して操作者に伝えるため、作業内容に応じて操作者の好みに合わせて音や振動等を調整し、操作者ごとの最適な環境にすることができない。
本発明は、以上の点に鑑み、操作部内の音や振動等の非画像情報の出力の要否及び非画像情報の出力レベルの強弱を、操作者の好みに合わせて調整できる建設機械遠隔操作システムを提供することを目的とする。
[1]上記目的を達成するため、本発明の建設機械遠隔操作システムは、
作業を実行する建設機械と、該建設機械を操作者が遠隔操作する操作部とからなる建設機械遠隔操作システムであって、
前記建設機械は、該建設機械周囲及び作業部の画像情報を取得するカメラと、前記画像情報とは異なる前記建設機械周囲及び前記作業部の複数種類の非画像情報を取得するセンサ部と、前記画像情報及び前記非画像情報を前記操作部へ送信する情報送信部とを備え、
前記操作部は、前記情報送信部によって送信された前記画像情報及び前記非画像情報を受信する受信部と、受信した前記画像情報を表示する表示部と、複数種類の前記非画像情報に対するゲインを種類別に調整する調整部と、調整された前記非画像情報を出力する非画像情報出力部とを備えることを特徴とする。
本発明によれば、建設機械のセンサ部で取得した非画像情報を情報送信部から操作部に送る。操作部の受信部で受信された非画像情報は、ゲインを種類別に調整する調整部で調整され、非画像情報出力部から出力される。操作部は、複数種類の非画像情報に対するゲインを種類別に調整する調整部を備えるので、操作部内の非画像情報の出力の要否及び非画像情報の出力レベルの強弱を、操作者の好みに合わせて調整することができる。
[2]また、本発明においては、前記操作部は、前記操作者が入力する入力部を備え、
前記調整部は、前記入力部に入力された入力情報に基づいて、前記非画像情報の種類別の出力の要否の指定、及び前記非画像情報の種類別の出力レベルの指定、の一方又は両方により前記ゲインを調整することが好ましい。操作部は、操作者が入力する入力部を備えるので、非画像情報の出力の要否、及び非画像情報の出力レベルを、操作者が入力部に直接入力して調整することができる。
[3]また、本発明においては、前記入力情報は、前記建設機械が行う作業内容であり、
前記調整部は、前記作業内容を認識して、認識された前記作業内容に応じて前記ゲインを変更する作業内容認識部を備えることが好ましい。建設機械が行う作業内容を認識して、認識された作業内容に応じてゲインを変更する作業内容認識部を備えるので、作業内容に適したゲインの変更を容易に行うことできる。
[4]また、本発明においては、前記入力部は、前記操作部に設けられた操作レバーであり、前記作業内容は、前記操作レバーの操作に応じて判別されることが好ましい。操作レバーの操作に応じて作業内容が判別されるので、操作者が意識することなく作業内容に応じたゲインの変更がなされ、無意識に適切な非画像情報を得ることができる。
[5]また、本発明においては、前記センサ部は、複数種類の前記非画像情報ごとに複数の異なったセンサを備えることが好ましい。複数種類の異なったセンサを備えるので、例えば、センサをエンジン音用マイク、アタッチメントの周辺音用マイク、振動センサ等とすることで、より複数種類の非画像情報を精度よく取得することができる。
[6]また、本発明においては、前記センサ部は、複数種類の前記非画像情報を取得する1つのセンサを備え、前記調整部は、1つの前記センサによって取得された、複数の前記非画像情報を解析する情報解析部と、解析された複数の前記非画像情報を分離する非画像情報分離部とを備えることが好ましい。調整部は、1つのセンサによって取得された、複数の非画像情報を解析する情報解析部を有するので、複数の非画像情報を取得する場合でもセンサを1つにすることができる。さらに情報解析部に加えて、解析された複数の非画像情報を分離する非画像情報分離部を備えるので、例えば、1つのセンサをマイク装置とし、取得した音から、建設機械特有のエンジン音、油圧パイプ音、油圧リリース音等を解析・分離して、これらの音を別々に調整することができる。
[7]また、本発明においては、前記操作部は、前記操作者が入力する入力部を備え、前記非画像情報出力部は、前記入力部に入力された入力情報に基づいて、複数種類の前記非画像情報のそれぞれに対する出力形態を認識し、複数種類の前記非画像情報のそれぞれを認識された出力形態で出力することが好ましい。操作者が入力部にどの出力形態にするかの入力情報を入力することで非画像情報の出力形態を選ぶことができるので、例えば、非画像情報としての音や匂いを、非画像情報出力部としての表示部からメータ表示する出力形態を選び、操作者が非画像情報を認識し易い環境を作ることができる。
[8]また、本発明においては、前記入力部は、複数の前記非画像情報に対する出力の要否及び出力レベルの一方又は両方の複数の組合せのセットの中から任意の該組合せのセットを選択可能とすることが好ましい。操作者が任意の組合せのセットを選択することで、簡単に操作者の好みに応じた非画像情報を認識する環境を作ることができる。
[9]また、本発明においては、前記組合せのセットの情報を、外部のサーバに送信することで該外部のサーバに記憶させ、該外部のサーバに記録された前記組合せのセットの情報が呼び出し可能であることが好ましい。該外部のサーバから記憶させた組合せの情報を呼び出すので、建設機械や操作部の場所を変えても、操作者が任意の組合せのセットの情報を呼び出して好みの非画像情報を認識する環境を作ることができる。
第1実施形態の建設機械の構成を示す側面図。 第1実施形態の操作部の構成を示す平面図。 第1実施形態の構成を示すブロック図。 第1実施形態の入力部を説明する図。 第1実施形態の操作部のフローチャート。 第2実施形態の建設機械の構成を示す側面図。 第2実施形態の操作部の構成を示す平面図。 第2実施形態の構成を示すブロック図。 第2実施形態の操作部のフローチャート。 第3実施形態の操作部の構成を示す平面図。 第3実施形態の構成を示すブロック図。 第3実施形態の作業内容認識部の構成を説明する図。 第3実施形態の操作部のフローチャート。
(第1実施形態)
図を参照して、本発明の第1実施形態の建設機械遠隔操作システム1を詳しく説明する。図1に示すように、建設機械遠隔操作システム1は、作業を実行する建設機械10と、該建設機械10を操作者2(図2参照)が遠隔操作する操作部50とからなる。
建設機械10は、油圧ショベルであり、下部走行体12と、下部走行体12上に旋回軸13を介して旋回可能に設けられた上部旋回体14と、上部旋回体14に設けられた作業装置15とを備えている。上部旋回体14の前横部にはキャブ16が搭載され、上部旋回体14の後部には機械室17に配置されたエンジンやカウンタウエイト18が搭載されている。
上部走行体14には、ブーム21及びこのブーム21を回動するブームシリンダ22が回動可能に軸支されている。ブームシリンダ22の先端部はピン22aを介してブーム21に回動可能に連結されている。ブーム21の先端には、アーム23がアームシリンダ24により回動されるように軸支されている。アーム23には、先端アタッチメントであるバケット25がリンク部26を介してバケットシリンダ27により回動されるように軸支されている。
キャブ16には、建設機械10周囲の画像情報を取得する第1のカメラ28が設けられ、上部旋回体14の後部には、建設機械10後方の画像情報を取得する第2のカメラ29が設けられている。
また、建設機械10には、画像情報とは異なる建設機械10周囲及び作業部3の複数種類の非画像情報を取得するセンサ部30と、画像情報及び非画像情報を操作設備50へ送信する情報送信部40と、センサ部30、第1のカメラ28、第2のカメラ29及び情報送信部40を制御する制御部41とを備えている。
非画像情報は、音、振動、傾き、慣性及び匂いなどである。具体的には、非画像情報は、機械室17のエンジンから生じる音、ブーム21、アーム23等の作業部3全体からの音及びバケット25から生じる音等の音、キャブ16に伝わる振動、水平面に対するキャブ16の傾き、上部旋回体14の旋回時に上部旋回体14等に加わる慣性、建設機械10及び建設機械10周辺から生じる匂いの少なくともいずれか1つを含む。
センサ部30は、機械室17に設けられ主にエンジン音を集音するエンジン音用マイク31と、ブーム21に設けられ主にブーム21、アーム23等の作業部3の構造体から発する音を集音する作業部周辺音用マイク32と、アーム23に設けられ主にバケット25から生じる作業音を集音する先端アタッチメントの周辺音用マイク33とを備えている。
また、センサ部30は、キャブ16に設けられ該キャブ16に伝わる振動を検知する振動センサ34と、キャブ16に設けられ水平面に対するキャブ16の傾きを検知する傾斜センサ35とを備えている。さらには、図示しないが、上部旋回体14に設けられ旋回時に該上部旋回体14に加わる慣性を検知する慣性センサや、キャブ16に設けられ建設機械10周囲の匂いを検知する匂いセンサ等を備えてもよい。
図2に示すように、操作部50は、操作者2が着座するシート51と、該シート51の前方に配置され建設機械10(図1参照)を操作する操作レバー52と、情報送信部40(図1参照)によって送信された画像情報及び非画像情報を受信する受信部53とを備えている。
また、操作部50は、操作者2の前方に配置され受信した画像情報を表示する表示部54と、複数種類の非画像情報に対するゲインを種類別に調整する調整部55と、調整された非画像情報を出力する非画像情報出力部60と、操作レバー52の近傍に配置され操作者2が出力レベル等を入力する入力部70とを備えている。
非画像情報出力部60は、エンジン音を出力するエンジン音用スピーカ61、ブーム21、アーム23等の作業部3全体からの音を出力する作業部周辺音用スピーカ62と、アタッチメントであるバケット25から生じる音を出力する先端アタッチメントの周辺音用スピーカ63と、キャブ16に伝わる振動を出力する振動出力装置64と、水平面に対するキャブ16の傾きを出力する傾き出力装置65とを備えている。
さらには、図示しないが、非画像情報出力部60は、上部旋回体14の旋回時に該上部旋回体14に加わる慣性を出力する慣性出力装置や、建設機械10周囲の匂いを任意成分の項目や数値で示す等で匂いをいわゆる見える化し出力する匂い出力装置等を備えても差し支えない。
エンジン音用スピーカ61は操作者2の後方に配置され、作業部周辺音用スピーカ62及び周辺音用スピーカ63は操作者2の前方に配置されている。また、振動出力装置64及び傾き出力装置65はシート51及び操作レバー52を含むシート周辺部51aに設けられている。なお、実施形態では、振動出力装置64及び傾き出力装置65をシート周辺部51aに設けて、シート51及び操作レバー52部分を同じ振動系の中に置くようにしたが、これに限定されず、振動出力装置64及び傾き出力装置65を操作部50に設け、操作部50全体を同じ振動系の中に置くようにしてもよい。
次に構成をブロック図で説明する。図3に示すように、建設機械10側では、センサ部30のエンジン音用マイク31、作業部周辺音用マイク32、周辺音用マイク33、振動センサ34及び傾斜センサ35が、情報送信部40に接続されており、センサ部30で取得した非画像情報は情報送信部40に送られる。
また、第1のカメラ28及び第2のカメラ29は、情報送信部40に接続されており、第1のカメラ28及び第2のカメラ29で取得した画像情報は情報送信部40に送られる。また、情報送信部40には制御部41が接続されており、制御部41により情報送信部40等が制御され、画像情報及び非画像情報は情報送信部40から受信部53に送信される。
操作部50側では、操作レバー52、表示部54及び調整部55が、受信部53に接続されており、非画像情報出力部60のエンジン音用スピーカ61、作業部周辺音用スピーカ62、周辺音用スピーカ63、振動出力装置64及び傾き出力装置65が、調整部55に接続されている。調整部55には、入力部70も接続されている。
入力部70では、非画像情報の出力の要否、及び非画像情報の出力レベルの強弱を異ならせるスイッチ、つまみ等(図4参照)を備えている。受信部53で受信した画像情報は表示部54に送られる。また、受信部53で受信した非画像情報は、調整部55に送られる。調整部55では、入力部70に入力された入力情報に基づいて、複数種類の非画像情報に対するゲインを種類別に調整し、調整された非画像情報は非画像情報出力部60に送られる。
また、情報送信部40と受信部53とは、双方向通信が可能であり、操作レバー52の操作に応じて発生する操作情報は、受信部53に送られ、さらに受信部53から情報送信部40に送られて制御部41を介して、建設機械10の各部の動作が制御される。
次に入力部70について説明する。図4に示すように、入力部70は、タッチパネルであり、エンジン音、先端アタッチメント周辺音、ブーム21、アーム23等の作業部3全体からの発生する音、振動及び傾き等からなる非画像情報の項目欄71と、非画像情報の要否を変更するスイッチ欄72と、非画像情報の出力レベルの強弱を異ならせるつまみ欄73とを備えている。非画像情報の各項目では、スイッチ欄72がチェックのON、OFFで出力の要否を切り替えることができ、つまみ欄73のスライダー74を任意の位置にスライドさせることで出力レベルをMIN(最小)からMAX(最大)までの間で選択することができる。
入力部70をタッチパネルとし、該タッチパネルの表示を制御するソフトウェアを変更することで、項目を増減させることや、スイッチ欄72、つまみ欄73等の形態を変更することができる。なお、実施形態では、入力部70をタッチパネルとしたが、これに限定されず、物理的なつまみ等を使用してもよい。
次に、以上に述べた操作部50の作用をフローチャートに基づいて説明する。図5に示すように、STEP1で、入力部70の各項目でのゲインによる非画像情報の出力の要否、出力レベルの強弱を設定値として入力する。STEP2で、調整部55に出力の要否により非画像情報の各項目のうち必要となった出力対象が読み込まれる。STEP3で、調整部55に出力対象の非画像情報におけるゲインが読み込まれる。
STEP4で、調整部55に受信部53からの非画像情報が読み込まれる。STEP5で、調整部55での出力対象が選別される。STEP6で、出力対象の強弱が調整される。STEP7で、出力対象に選別され且つ強弱が調整された非画像情報が非画像情報出力部60から出力される。
操作部50の受信部53で受信された非画像情報は、ゲインを種類別に調整する調整部55で調整され、非画像情報出力部から出力される。操作部50は、複数種類の非画像情報に対するゲインを種類別に調整する調整部55を備えるので、操作部内の非画像情報の出力の要否及び非画像情報の出力レベルの強弱を、操作者2の好みに合わせて調整することができる。
さらに、操作部50は、操作者2が入力する入力部70を備えるので、非画像情報の出力の要否、及び非画像情報の出力レベルの強弱を、操作者2が入力部70に直接入力して調整することができる。さらに、複数種類の異なったセンサ31、32、33、34、35を備えるので、例えば、センサをエンジン音用マイク31、アタッチメントの周辺音用マイク33、振動センサ34等とすることで、より複数種類の非画像情報を効率よく取得することができる。
非画像情報出力部60は、入力部70に入力された入力情報に基づいて、複数種類の非画像情報のそれぞれに対する出力形態を認識し、複数種類の非画像情報のそれぞれを認識された出力形態で出力する。操作者2が入力部70にどの出力形態にするかの入力情報を入力することで非画像情報の出力形態を選ぶことができるので、例えば、非画像情報としての音や匂いを、非画像情報出力部60としての表示部54からメータ表示する出力形態を選び、操作者2が非画像情報を認識し易い環境を作ることができる。
入力部70は、複数の非画像情報に対する出力の要否及び出力レベルの一方又は両方の複数の組合せのセットの中から任意の該組合せのセットを選択可能とする。操作者2が任意の組合せのセットを選択することで、簡単に操作者の好みに応じた非画像情報を認識する環境を作ることができる。組合せのセットの情報は、例えば操作部50内の調整部55や入力部70などのローカル環境に記憶させて、入力部70から選択することができる。
組合せのセットの情報を、外部のサーバ(不図示)に送信することで該外部のサーバに記憶させ、該外部のサーバに記録された組合せのセットの情報が呼び出し可能である。具体的には、操作者2毎のユーザID、作業種類毎の作業ID、作業者2が所属するグループ毎のグループID等を設定し、これらのIDに基づいていわゆるクラウドと呼ばれる外部のサーバにアクセスして、組合せのセットの情報を送受信する。さらに、組合せのセットの情報は編集も可能である。このような構成とすることで、該外部のサーバから記憶させた組合せの情報を呼び出すので、建設機械や操作部の場所を変えても、操作者が任意の組合せのセットの情報を呼び出して好みの非画像情報を認識する環境を作ることができる。さらには、例えば、ICカード、スマホ等のデバイスを使って、ここにユーザごとの組み合わせセット情報を記憶させ、これをショベル側で読み込むことでも、建設機械や操作部の場所によらず、操作者が好みの非画像情報を認識する環境を作ることができる。
(第2実施形態)
次に、第2実施形態の建設機械遠隔操作システム1を図6〜図9に基づいて説明する。なお、第2実施形態の建設機械遠隔操作システム1において第1実施形態の建設機械遠隔操作システム1と同一の構成については第1実施形態と同じ符号を付して詳しい説明を省略する。
図6に示すように、キャブ16には、複数種類の非画像情報として、音を取得する1つのセンサ36が備えられている。1つのセンサ36は、マイク装置である(以下、1つのセンサ36をマイク装置36という)。詳細には、マイク装置36は、マイクロホンアレーであり、複数のマイクロホンを用いた収音装置であると共に、空間中の特定方向の音源からの音を選択的に取り出したり、特定方向の音源の音を抑圧したり,音源の方向を推定したりすることができる。
図7に示すように、非画像情報出力部60は、操作者2の前方に配置される前側スピーカ66と、操作者2の後方に配置される後側スピーカ67とを備えている。調整部55には、マイク装置36によって取得された、複数の非画像情報である音を音源分離技術により分離し、解析する情報解析部56と、解析された複数の非画像情報である音を分離する非画像情報分離部57とを備えている。
情報解析部56により、マイク装置36(図6参照)で集音された音が、ブーム21、アーム23等の作業部3全体からの音、アタッチメントであるバケット25から生じる音、エンジン音等の音であると解析される。解析された音は、それぞれに分離されて複数の非画像情報としての音となる。
前側スピーカ66は、主に、ブーム21、アーム23等の作業部3全体からの音、アタッチメントであるバケット25から生じる音等のように、建設機械10の前側由来の音を出力する。後側スピーカ67は、主に、エンジン音等のように、建設機械10の後側由来の音を出力する。
次に第2実施形態の構成をブロック図で説明する。図8に示すように、建設機械10側では、マイク装置36、振動センサ34及び傾斜センサ35が、情報送信部40に接続されており、センサ部30で取得した非画像情報は情報送信部40に送られる。
また、第1のカメラ28及び第2のカメラ29は、情報送信部40に接続されており、第1のカメラ28及び第2のカメラ29で取得した画像情報は情報送信部40に送られる。また、情報送信部40には制御部41が接続されており、制御部41により情報送信部40等が制御され、画像情報及び非画像情報は情報送信部40から受信部53に送信される。
操作部50側では、操作レバー52、表示部54及び調整部55が、受信部53に接続されており、非画像情報出力部60の前側スピーカ66、後側スピーカ67、振動出力装置64及び傾き出力装置65が、調整部55に接続されている。調整部55には、入力部70も接続されている。
入力部70では、非画像情報の出力の要否、及び非画像情報の出力レベルの強弱を異ならせるスイッチ、つまみ等(図4参照)を備えている。受信部53で受信した画像情報は表示部54に送られる。また、受信部53で受信した非画像情報であるマイク装置36で集音された音情報は、調整部55に送られる。
調整部55では、マイク装置36で集音された音情報が、ブーム21、アーム23等の作業部3全体からの音、アタッチメントであるバケット25から生じる音、エンジン音等の音であると解析されて、それぞれに分離されて複数の非画像情報としての音となる。そして、入力部70に入力された入力情報に基づいて、複数種類の非画像情報に対するゲインを種類別に調整し、調整された非画像情報が非画像情報出力部60に送られる。前側スピーカ66は、主に、ブーム21、アーム23等の作業部3全体からの音、アタッチメントであるバケット25から生じる音を出力する。後側スピーカ67は、主に、エンジン音を出力する。
次に、以上に述べた第2実施形態の操作部50の作用をフローチャートに基づいて説明する。図9に示すように、STEP8で、入力部70の各項目でのゲインによる非画像情報の出力の要否、出力レベルの強弱を設定値として入力する。STEP9で、調整部55に出力の要否により非画像情報の各項目のうち必要となった出力対象が読み込まれる。STEP10で、調整部55に出力対象の非画像情報におけるゲインが読み込まれる。
STEP11で、調整部55に受信部53からのマイク装置36の音情報及び該音情報以外の非画像情報が読み込まれる。STEP12で、マイク装置36で集音された音情報が、ブーム21、アーム23等の作業部3全体からの音、先端アタッチメントであるバケット25から生じる音、エンジン音等の音に音源分離技術を用いて分離、解析されて複数の非画像情報としての音となる。STEP13で、調整部55での出力対象が選別される。STEP14で、出力対象の強弱が調整される。STEP15で、出力対象に選ばれ且つ強弱が調整された非画像情報が非画像情報出力部60から出力される。
調整部55は、1つのセンサによって取得された、複数の非画像情報を解析する情報解析部56を有するので、複数の非画像情報を取得する場合でもセンサを1つにすることができる。さらに情報解析部56に加えて、解析された複数の非画像情報を分離する非画像情報分離部57を備えるので、例えば、1つのセンサをマイク装置36とし、取得した音から、建設機械特有のエンジン音、油圧パイプ音、油圧リリーフ音等を解析・分離して、これらの音を別々に調整することができる。
(第3実施形態)
次に、第3実施形態の建設機械遠隔操作システム1を図10〜図13に基づいて説明する。なお、第3実施形態の建設機械遠隔操作システム1において第1実施形態の建設機械遠隔操作システム1と同一の構成については第1実施形態と同じ符号を付して詳しい説明を省略する。
図10に示すように、操作部50は、シート51の前方に配置され建設機械10(図1参照)を操作する操作レバー52と、複数種類の非画像情報に対するゲインを種類別に調整する調整部55と、調整された非画像情報を出力する非画像情報出力部60とを備えている。
調整部55に送られる入力情報は、建設機械10が行う作業内容である。調整部55は、作業内容を認識して、認識された作業内容に応じてゲインを変更する作業内容認識部58を備えている。作業内容は、操作レバー52の操作に応じて判別される。
次に第3実施形態の構成をブロック図で説明する。図11に示すように、操作部50側では、操作レバー52、表示部54及び調整部55が、受信部53に接続されており、非画像情報出力部60のエンジン音用スピーカ61、作業部周辺音用スピーカ62、周辺音用スピーカ63、振動出力装置64及び傾き出力装置65が、調整部55に接続されている。さらに、調整部55と操作レバー52の間には、作業内容認識部58が接続されている。
作業内容認識部58は、移動時、掘削時、荷吊り時等、予め登録された作業内容が選択できる形式ものと、操作レバー52の操作に応じて作業内容を判別する形式のものがある。
図12に示すように、予め登録された作業内容が選択できる形式では、作業内容認識部58は、例えばタッチパネルであり、移動時、掘削時、荷吊り時等、予め登録された作業内容が選択できるようになっている。例えば、掘削時を選択することでタッチパネルの掘削時の部分が選択中と分かるように表示される。なお、タッチパネル形式に限定されず、ボタン形式など、作業内容を選択できれば態様は問わない。
作業内容認識部58に搭載されたメモリ等に、作業内容に応じた各非画像情報の出力の要否、出力レベルの強弱の設定値をテーブルとして持たせ、このテーブルから作業内容に応じて設定値が引き出される。
また、操作レバー52の操作に応じて作業内容を判別する形式では、作業内容に応じて操作レバー52の動作パターンが記憶されている。操作レバー52を操作し、任意の動作パターンと認識することで作業内容が選択され、上述のテーブルから作業内容に応じた設定が引き出される。
次に、以上に述べた第3実施形態の操作部50の作用をフローチャートに基づいて説明する。図13に示すように、STEP16で、作業内容認識部58では、タッチパネルから作用内容を選択するか、又は操作レバー52の動作パターンにより、作業内容が認識される。STEP17で、調整部55では、認識された作業内容に応じてテーブルからゲインの設定値が読み込まれる。
STEP18で、調整部55では、出力の要否により非画像情報の各項目のうち必要となった出力対象が読み込まれる。STEP19で、調整部55に出力対象の非画像情報におけるゲインが読み込まれる。
STEP20で、調整部55に受信部53からの非画像情報が読み込まれる。STEP21で、調整部55での出力対象が選別される。STEP22で、出力対象の強弱が調整される。STEP23で、出力対象に選別され且つ強弱が調整された非画像情報が非画像情報出力部60から出力される。
このように、建設機械10が行う作業内容を認識して、認識された作業内容に応じてゲインを変更する作業内容認識部58を備えるので、作業内容に適したゲインの変更を容易に行うことできる。さらに、操作レバー52の操作に応じて作業内容が判別されるので、操作者2が意識することなく作業内容に応じたゲインの変更がなされ、無意識に適切な非画像情報を得ることができる。
なお、第3実施形態では、作業内容認識部58は、移動時、掘削時、荷吊り時等、予め登録された作業内容が選択できる形式のものと、操作レバー52の操作に応じて作業内容を判別する形式のものとしたが、これに限定されない。
例えば、建設機械遠隔操作システム1は、建設機械10と操作部50の他に、いわゆるクラウド等に無線で情報を記録できるようにし、任意の操作者2の建設機械10に対する操作や、複数種類の非画像情報に対するゲインの調整を記録させ、離れた場所にある別の建設機械10を使用した場合であっても、クラウドに記録された任意の操作者2の記録を引き出して使用するようにしても差し支えない。このようなクラウドを含めた構成にすることで、場所や建設機械10にとらわれず、任意の操作者2にとって、最適な作業環境を提供することできる。
1 建設機械遠隔操作システム
2 操作者
10 建設機械
28 第1のカメラ
29 第2のカメラ
30 センサ部
31 エンジン音用マイク
32 作業部周辺音用マイク
33 周辺音用マイク
34 振動センサ
35 傾斜センサ
36 1つのセンサ(マイク装置)
40 情報送信部
50 操作部
52 操作レバー
53 受信部
54 表示部
55 調整部
56 情報解析部
57 非画像情報分離部
58 作業内容認識部
60 非画像情報出力部
61 エンジン音用スピーカ
62 作業部周辺音用スピーカ
63 周辺音用スピーカ
64 振動出力装置
65 傾き出力装置
66 前側スピーカ
67 後側スピーカ
70 入力部

Claims (9)

  1. 作業部が備えられ、前記作業部にて作業を実行する建設機械と、該建設機械を操作者が遠隔操作する操作部とからなる建設機械遠隔操作システムであって、
    前記建設機械は、該建設機械周囲の画像情報を取得するカメラと、前記画像情報とは異なる前記建設機械周囲及び前記作業部の複数種類の非画像情報を取得するセンサ部と、前記画像情報及び前記非画像情報を前記操作部へ送信する情報送信部とを備え、
    前記操作部は、前記情報送信部によって送信された前記画像情報及び前記非画像情報を受信する受信部と、受信した前記画像情報を表示する表示部と、複数種類の前記非画像情報に対するゲインを種類別に調整する調整部と、調整された前記非画像情報を出力する非画像情報出力部とを備え
    前記操作部は、前記操作者が入力する入力部を備え、
    前記調整部は、前記入力部に入力された入力情報に基づいて、前記非画像情報の種類別の出力の要否の指定、及び前記非画像情報の種類別の出力レベルの指定、の一方又は両方により前記ゲインを調整することを特徴とすることを特徴とする建設機械遠隔操作システム。
  2. 請求項に記載の建設機械遠隔操作システムであって、
    前記入力情報は、前記建設機械が行う作業内容であり、
    前記調整部は、前記作業内容を認識して、認識された前記作業内容に応じて前記ゲインを変更する作業内容認識部を備えることを特徴とする建設機械遠隔操作システム。
  3. 請求項に記載の建設機械遠隔操作システムであって、
    前記入力部は、前記操作部に設けられた操作レバーであり、
    前記作業内容は、前記操作レバーの操作に応じて判別されることを特徴とする建設機械遠隔操作システム。
  4. 請求項1から請求項のいずれか1項記載の建設機械遠隔操作システムであって、
    前記センサ部は、複数種類の前記非画像情報ごとに複数の異なったセンサを備えることを特徴とする建設機械遠隔操作システム。
  5. 作業部が備えられ、前記作業部にて作業を実行する建設機械と、該建設機械を操作者が遠隔操作する操作部とからなる建設機械遠隔操作システムであって、
    前記建設機械は、該建設機械周囲の画像情報を取得するカメラと、前記画像情報とは異なる前記建設機械周囲及び前記作業部の複数種類の非画像情報を取得するセンサ部と、前記画像情報及び前記非画像情報を前記操作部へ送信する情報送信部とを備え、
    前記操作部は、前記情報送信部によって送信された前記画像情報及び前記非画像情報を受信する受信部と、受信した前記画像情報を表示する表示部と、複数種類の前記非画像情報に対するゲインを種類別に調整する調整部と、調整された前記非画像情報を出力する非画像情報出力部とを備え、
    前記センサ部は、複数種類の前記非画像情報を取得する1つのセンサを備え、
    前記調整部は、1つの前記センサによって取得された、複数の前記非画像情報を解析する情報解析部と、解析された複数の前記非画像情報を分離する非画像情報分離部とを備えることを特徴とすることを特徴とする建設機械遠隔操作システム。
  6. 請求項1から請求項のいずれか1項記載の建設機械遠隔操作システムであって、
    前記センサ部は、複数種類の前記非画像情報を取得する1つのセンサを備え、
    前記調整部は、1つの前記センサによって取得された、複数の前記非画像情報を解析する情報解析部と、解析された複数の前記非画像情報を分離する非画像情報分離部とを備えることを特徴とする建設機械遠隔操作システム。
  7. 請求項1から請求項6のいずれか1項記載の建設機械遠隔操作システムであって、
    前記操作部は、前記操作者が入力する入力部を備え、
    前記非画像情報出力部は、前記入力部に入力された入力情報に基づいて、複数種類の前記非画像情報のそれぞれに対する出力形態を認識し、複数種類の前記非画像情報のそれぞれを認識された出力形態で出力することを特徴とする建設機械遠隔操作システム。
  8. 請求項に記載の建設機械遠隔操作システムであって、
    前記入力部は、複数の前記非画像情報に対する出力の要否及び出力レベルの一方又は両方の複数の組合せのセットの中から任意の該組合せのセットを選択可能とすることを特徴とする建設機械遠隔操作システム。
  9. 請求項8に記載の建設機械遠隔操作システムであって、
    前記組合せのセットの情報を、外部のサーバに送信することで該外部のサーバに記憶させ、
    該外部のサーバに記録された前記組合せのセットの情報が呼び出し可能であることを特徴とする建設機械遠隔操作システム。
JP2017120648A 2017-06-20 2017-06-20 建設機械遠隔操作システム Active JP6885212B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017120648A JP6885212B2 (ja) 2017-06-20 2017-06-20 建設機械遠隔操作システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017120648A JP6885212B2 (ja) 2017-06-20 2017-06-20 建設機械遠隔操作システム

Publications (2)

Publication Number Publication Date
JP2019007139A JP2019007139A (ja) 2019-01-17
JP6885212B2 true JP6885212B2 (ja) 2021-06-09

Family

ID=65028519

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017120648A Active JP6885212B2 (ja) 2017-06-20 2017-06-20 建設機械遠隔操作システム

Country Status (1)

Country Link
JP (1) JP6885212B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7206956B2 (ja) * 2019-01-28 2023-01-18 コベルコ建機株式会社 作業機械
JP7225935B2 (ja) * 2019-03-07 2023-02-21 コベルコ建機株式会社 遠隔操作システム
JP7302244B2 (ja) * 2019-04-05 2023-07-04 コベルコ建機株式会社 スキル情報提示システム及びスキル情報提示方法
JP2020170474A (ja) * 2019-04-05 2020-10-15 コベルコ建機株式会社 スキル情報提示システム及びスキル情報提示方法
JP7363560B2 (ja) * 2020-02-18 2023-10-18 コベルコ建機株式会社 遠隔操作装置、遠隔操作支援サーバ、遠隔操作支援システムおよび遠隔操作支援方法
JP7367606B2 (ja) * 2020-05-14 2023-10-24 コベルコ建機株式会社 遠隔操作支援装置および遠隔操作支援方法
JP2022144495A (ja) * 2021-03-19 2022-10-03 コベルコ建機株式会社 遠隔操作支援システムおよび遠隔操作支援方法
CN113585390A (zh) * 2021-08-17 2021-11-02 柳工常州机械有限公司 滑移装载机及其远程操控系统
JP2024007313A (ja) 2022-07-05 2024-01-18 吉谷土木株式会社 作付け支援方法と圃場作業支援システム等

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09217382A (ja) * 1996-02-09 1997-08-19 Hitachi Constr Mach Co Ltd 遠隔操縦掘削機
JP4457221B2 (ja) * 2003-08-29 2010-04-28 学校法人早稲田大学 音源分離方法およびそのシステム、並びに音声認識方法およびそのシステム
JP2005354479A (ja) * 2004-06-11 2005-12-22 Hitachi Constr Mach Co Ltd 作業機械の無線遠隔操縦システム
US8918246B2 (en) * 2012-12-27 2014-12-23 Caterpillar Inc. Augmented reality implement control

Also Published As

Publication number Publication date
JP2019007139A (ja) 2019-01-17

Similar Documents

Publication Publication Date Title
JP6885212B2 (ja) 建設機械遠隔操作システム
KR101797261B1 (ko) 작업 기계의 주위 감시 장치
KR101720655B1 (ko) 사용자 동작 인식 기반의 햅틱 피드백 제공 장치 및 그 동작 방법
US9733896B2 (en) System, apparatus, and method for displaying virtual objects based on data received from another apparatus
RU2016135525A (ru) Носимое управляющее устройство для обнаружения взаимодействия
CN113994052B (zh) 远程操作系统及远程操作服务器
WO2021024553A1 (ja) 作業機械
KR20150137050A (ko) 모바일 디바이스 및 그 제어 방법
KR20150004080A (ko) 보청기 및 보청기 제어 방법
JP2021088835A (ja) 遠隔操作支援サーバおよび遠隔操作支援システム
US11732440B2 (en) Remote operation system and remote operation server
CN114747208A (zh) 作业支援服务器、作业支援方法及作业支援系统
JP2019173445A (ja) 作業機械操縦装置
CN113597772A (zh) 远程操作系统
US20240054975A1 (en) Head mounted display and setting method
WO2020250557A1 (ja) 遠隔操作システムおよび遠隔操作サーバ
CN115516175A (zh) 远程操作支援装置及远程操作支援方法
JP7287047B2 (ja) 遠隔操作システムおよび遠隔操作サーバ
JP7441733B2 (ja) 実機状態監視システムおよび実機状態監視方法
EP3851593B1 (en) Teleoperation device for construction machinery
JP2020109894A (ja) 電子機器
WO2021106280A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
EP4060129A1 (en) Remote operation support system and remote operation support method
WO2021161693A1 (ja) 遠隔操作支援装置および遠隔操作方法ならびに遠隔操作支援システム
KR101753392B1 (ko) 양방향 영상 통화 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200114

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201124

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210125

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210426

R150 Certificate of patent or registration of utility model

Ref document number: 6885212

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250