JP7228303B1 - 操作支援装置、遠隔操作システムおよび自動運転システム - Google Patents

操作支援装置、遠隔操作システムおよび自動運転システム Download PDF

Info

Publication number
JP7228303B1
JP7228303B1 JP2022128964A JP2022128964A JP7228303B1 JP 7228303 B1 JP7228303 B1 JP 7228303B1 JP 2022128964 A JP2022128964 A JP 2022128964A JP 2022128964 A JP2022128964 A JP 2022128964A JP 7228303 B1 JP7228303 B1 JP 7228303B1
Authority
JP
Japan
Prior art keywords
support device
remote control
remote
tool
operation support
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022128964A
Other languages
English (en)
Other versions
JP2024025480A (ja
Inventor
芳直 玉里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Totalmasters Co Ltd
Original Assignee
Totalmasters Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Totalmasters Co Ltd filed Critical Totalmasters Co Ltd
Priority to JP2022128964A priority Critical patent/JP7228303B1/ja
Application granted granted Critical
Publication of JP7228303B1 publication Critical patent/JP7228303B1/ja
Publication of JP2024025480A publication Critical patent/JP2024025480A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Operation Control Of Excavators (AREA)
  • Manipulator (AREA)
  • Mechanical Control Devices (AREA)

Abstract

【課題】汎用性を有しつつ作業機械に容易に取り付け可能である簡素な構成の操作支援装置に関する技術を提供する。【解決手段】作業機械における操作具に装着される係合部41と、前記係合部41から複数方向に延びる複数の索条部材42と、前記複数の索条部材42のそれぞれと個別に連結して当該索条部材42の巻取りまたは繰出しを行う複数の駆動源45と、前記複数の駆動源45の動作を制御する駆動制御部50と、を有し、前記複数の索条部材42の張力の均衡によって前記係合部41が各索条部材42に支持されるとともに、前記複数の駆動源45の動作を個別に制御することで前記複数の索条部材42の張力の均衡状態を維持しつつ前記係合部41が装着された前記操作具の位置をコントロールするように、操作支援装置を構成する。【選択図】図3

Description

本発明は、操作支援装置、遠隔操作システムおよび自動運転システムに関する。
油圧ショベルやブルドーザ等の建設機械に代表される作業機械については、操作レバー等に取り付けた装置を遠隔操作によって動作させることで、当該作業機械の遠隔操作を実現可能にすることが提案されている(例えば、特許文献1、2参照)。
特開2020-204184号公報 特開2022-18483号公報
遠隔操作のために作業機械の操作レバー等に取り付ける装置については、どの種類(機種)の作業機械であっても取り付け可能な汎用性を有しており、しかもその取り付けを容易に行えることが望ましい。また、取り付け後の動作の応答性や信頼性等を考慮すると、特許文献1、2に記載の従来構成の装置よりも、簡略な構成であることが望ましい。
本発明は、汎用性を有しつつ作業機械に容易に取り付け可能である簡素な構成の操作支援装置に関する技術を提供することを目的とする。
本発明の一態様によれば、
作業機械における操作具に装着される係合部と、
前記係合部から複数方向に延びる複数の索条部材と、
前記複数の索条部材のそれぞれと個別に連結して当該索条部材の巻取りまたは繰出しを行う複数の駆動源と、
前記複数の駆動源の動作を制御する駆動制御部と、を有し、
前記複数の索条部材の張力の均衡によって前記係合部が各索条部材に支持されるとともに、前記複数の駆動源の動作を個別に制御することで前記複数の索条部材の張力の均衡状態を維持しつつ前記係合部が装着された前記操作具の位置をコントロールするように構成されている
操作支援装置が提供される。
本発明によれば、汎用性を有しつつ作業機械に容易に取り付け可能である簡素な構成の操作支援装置、並びに、当該操作支援装置を備えた遠隔操作システムおよび自動運転システムが実現可能である。
本発明の一実施形態において遠隔操作の対象となる作業機械の一例であるバックホーの概略構成例を模式的に示す説明図である。 図1のバックホーの操縦席に設けられた操作具の一具体例を模式的に示す説明図である。 本発明の一実施形態に係る操作支援装置の概略構成の一例を模式的に示す説明図である。 本発明の一実施形態に係る操作支援装置の概略構成の他の例を模式的に示す説明図である。 本発明の一実施形態に係る遠隔操作システムの機能構成例を模式的に示すブロック図である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理の具体例を説明する図(その1)であり、当該較正処理の前提となる初期条件の一例を示す説明図である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理の手順の例を示すフロー図(その1)である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理の手順の例を示すフロー図(その2)である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理の具体例を説明する図(その2)であり、当該較正処理の際の操作具の移動態様の一例を示す説明図である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理の具体例を説明する図(その3)であり、当該較正処理の前提となる初期条件および当該較正処理の際の操作具の移動態様の他の例を示す説明図である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理後の制御処理の手順の例を示すフロー図である。 本発明の一実施形態に係る遠隔操作システムにおける較正処理後の制御処理の例を説明する図であり、当該制御処理の際の操作具の移動態様の例を示す説明図である。 本発明の一実施形態に係る遠隔操作システムにおけるデータストリームの例を示す説明図である。 本発明の一実施形態に係る遠隔操作システムにおけるモニタ部での画像表示の例を示す説明図である。
以下、本発明の実施形態について図面を参照しながら説明する。
(1)作業機械の概要
まず、本実施形態において遠隔操作または自動運転の対象となる作業機械について説明する。
作業機械は、施工現場エリア内において使用されるもので、その施工現場エリアに対して所定の作業を行うものである。作業機械の例としては、代表的なものとして、建設施工現場で用いられる建設機械が挙げられる。
建設機械としては、例えば、油圧ショベルやブルドーザ等といった土木用途のものが挙げられる。ただし、建設機械がこれらに限定されることはなく、トラックやローダ等の運搬機械、クレーン等の荷役機械、基礎工事用機械、せん孔機械、トンネル工事用機械、圧砕機等のコンクリート機械、舗装機械、道路維持用機械等といった他の種類のものであっても構わない。
以下の説明では、作業機械の一例である建設機械について、当該建設機械がバックホーとも呼ばれる油圧ショベルである場合を例に挙げる。
図1は、バックホーの概略構成例を模式的に示す説明図である。
図例のように、バックホー1は、操縦席10を含む上部回旋体(機体本体)11と、駆動作業具であるブーム12、アーム13およびバケット14と、走行装置としての下部移動体15と、を備えている。下部移動体15は、右クローラ15aと、左クローラ15bと、を有している。このような構成のバックホー1は、下部移動体15を備えることで、建設施工現場において移動(自走)することが可能である。そして、上部回旋体11、ブーム12、アーム13、バケット14、右クローラ15a、左クローラ15bをそれぞれ動作させることで、建設施工現場の地表面に対して掘削等の施工を行うようになっている。したがって、バックホー1において、上部回旋体11、ブーム12、アーム13、バケット14、右クローラ15a、左クローラ15bは、それぞれが個別に動作し得る「可動部」として機能することになる。また、これらのうち、特にバケット14は、建設施工現場の地表面に対する施工を直接的に行う「可動作業具」として機能することになる。その場合に、バケット14の剣先位置が、そのバケット14による施工箇所に相当することになる。
上部回旋体11の背部には、全球測位衛星システム(Global Navigation Satellite System、以下「GNSS」と略す。)の受信機(アンテナ)16が取り付けられており、これによりバックホー1の位置を測位し得るようになっている。
また、可動部である上部回旋体11、ブーム12、アーム13およびバケット14のそれぞれには、角度センサ21,22,23,24が装着されている。角度センサ21,22,23,24は、例えば、三軸加速度センサと三軸ジャイロセンサからなる慣性計測装置(Inertial Measurement Unit、以下「IMU」と略す。)の角度センサとしての機能を利用したものであり、少なくとも三次元空間内で各可動部が動作したときの角度(すなわち動作角度)を検出し得るように構成されたものである。なお、角度センサ21,22,23,24は、各可動部の動作角度を検出可能であれば、必ずしもIMUである必要はなく、他の種類のセンサを用いて構成されていてもよい。
このような構成のバックホー1においては、上部回旋体11にGNSS受信機16が取り付けられているので、これにより建設施工現場でのバックホー1の位置を計測することができる。さらに、可動部である上部回旋体11、ブーム12、アーム13およびバケット14のそれぞれに角度センサ21,22,23,24が装着されているので、各可動部の大きさ(サイズデータ)を特定することで、そのサイズデータと各角度センサ21,22,23,24の検出結果とから、上部回旋体11に対するバケット14の剣先位置を計測することができる。つまり、これらの計測結果から建設施工現場内におけるバケット14の剣先位置をモニタリングすることができる。
また、このような構成のバックホー1は、既述のように、上部回旋体11、ブーム12、アーム13、バケット14、下部移動体15の各部を適宜動作させることで、建設施工現場の地表面に対して掘削等の施工を行う。そのために、上部回旋体11の操縦席10には、各部を動作させるための操作具が、操縦者によって操作可能に設けられている。
図2は、バックホー1の操縦席10に設けられた操作具の一具体例を模式的に示す説明図である。なお、図例は、各操作具について、操縦者側からみた配置を示している。
図例のように、バックホー1の操縦席10には、操作具として、操縦者が右手で操作する右操作レバー31と、操縦者が左手で操作する左操作レバー32と、操縦者が右足で操作する右走行レバー(ペダル)33と、操縦者が左足で操作する左走行レバー(ペダル)34と、が設けられている。これらの操作具は、それぞれを独立して操作することが可能である。
右操作レバー31および左操作レバー32は、それぞれが、操縦者側からみて左右方向(図中におけるX軸方向)および前後方向(図中におけるY軸方向)の二軸方向に操作可能に構成されている。そして、例えば、右操作レバー31の前後方向の操作に応じてブーム12が上下方向に移動し、左操作レバー32の前後方向の操作に応じて上部回旋体11が右旋回または左旋回するといったように、各操作レバー31,32の操作方向に対してバックホー1の各部の動作内容が割り当てられている。
また、右走行レバー33および左走行レバー34は、操縦者側からみて前後方向(図中におけるY軸方向)の一軸方向に操作可能に構成されている。そして、例えば、右走行レバーの前後方向の操作に応じて右クローラ15aが前進または後退し、左走行レバー34の前後方向の操作に応じて左クローラ15bが前進または後退するといったように、各走行レバー33,34の操作方向に対してバックホー1の各部の動作内容が割り当てられている。
なお、ここで例示する各操作具は、単なる一具体例に過ぎず、必ずしも上述した例示内容に限定されるものではない。つまり、操作具としては、必ずしも右操作レバー31、左操作レバー32、右走行レバー33および左走行レバー34の全てを備えている必要はなく、少なくとも一つを備えていればよい。また、各操作具の操作方向に割り当てられる動作内容についても、特に限定されるものではなく、作業機械の機種等に応じて適宜設定することが可能であり、また必要に応じて割り当てを変えられるようにしても構わない。
(2)操作支援装置の構成
次に、以上に説明したバックホー1に装着される操作支援装置について説明する。
操作支援装置は、バックホー1の遠隔操作または自動運転に対応すべく、当該バックホー1の操作(操縦)を支援するためのものである。バックホー1の操作支援のために、操作支援装置は、当該バックホー1における各操作具のそれぞれに対して、個別に装着されて用いられる。つまり、操作支援装置は、各操作レバー31,32および各走行レバー33,34のそれぞれに対して、個別に装着されるようになっている。
(操作支援装置の一例)
ここで、まず、各操作レバー31,32に装着される操作支援装置の構成について説明する。
図3は、本実施形態に係る操作支援装置の概略構成の一例を模式的に示す説明図である。
図例の操作支援装置は、大別すると、装着ユニット40と、駆動制御部50と、を有して構成されている。
(装着ユニット)
装着ユニット40は、バックホー1における各操作レバー31,32のそれぞれに対応して配置されて用いられるもので、アタッチ部41と、複数のワイヤ42と、ワイヤ42と同数のスリーブ43と、ワイヤ42と同数のプーリ44と、ワイヤ42と同数のモータ45と、これらを支持する基台46と、を有している。
アタッチ部41は、右操作レバー31または左操作レバー32に装着される係合部として機能するもので、例えば操作レバー31,32の棹部に嵌装されるリング状に形成されたものである。アタッチ部41は、操作レバー31,32に装着可能であれば、その形状や形成材料等が特に限定されるものではなく、例えばワイヤ42と同じ索条部材によって形成されていてもよい。なお、アタッチ部41は、後述するように、複数のワイヤ42の張力の均衡によって支持されるようになっている。つまり、アタッチ部41は、位置移動のためのガイド部材やスライド機構等を要することなく、連結するワイヤ42によって支持されている。
複数のワイヤ42は、それぞれが例えば機械的強度を有する金属製の索条部材によるもので、一端がアタッチ部41に連結され、そのアタッチ部41から離れる方向に延びるように配されている。そして、延伸方向に張力が与えられることで、アタッチ部41が装着される操作レバー31,32に追従する動作、または、当該操作レバー31,32を追従させる動作を行うようになっている。さらに詳しくは、各ワイヤ42の張力を均衡させてアタッチ部41を支持するとともに、各ワイヤ42の張力の均衡状態の維持によって、各ワイヤ42が操作レバー31,32に追従したり、または、各ワイヤ42が操作レバー31,32を追従させたりするようになっている。
これらのワイヤ42は、アタッチ部41が二軸方向に操作可能な操作レバー31,32に装着されることから、そのアタッチ部41から四方向に延びるように配されている。つまり、複数のワイヤ42は、具体的には四つが配されている。各ワイヤ42が延びる四方向は、それぞれが互いに異なる方向であればよく、特定の方向に限定されるものではないが、操作レバー31,32が操縦者側からみて前後左右方向(図2中のXY方向)に操作可能な場合であれば、その操作エリアの対角方向となる四方向とすることが、レバー追従性や後述する位置制御等の精度を考慮すると好ましい。
なお、二軸方向に操作可能な操作レバー31,32に対応する場合において、例えば、ワイヤ42が三方向に延びる構成や、五方向以上に伸びる構成であっても、レバー追従性を確保することは可能である。ただし、三方向では対応可能なレバー可動域が狭くなってしまい、また五方向以上では装置構成や制御処理等の複雑化を招くことから、ワイヤ42は、四方向に延びる構成であることが好ましい。
スリーブ43は、ワイヤ42を移動可能(すなわちスリーブ内を摺動可能)に支持する管状のもので、四つのワイヤ42のそれぞれに個別に対応するように四つが設けられている。これら四つのスリーブ43が配置される位置によって、各ワイヤ42は、アタッチ部41から延びる方向が特定されることになる。なお、スリーブ43は、後述するように、プーリ44の配置によっては、設けられていなくてもよい。
プーリ44は、アタッチ部41との連結端とは反対側のワイヤ端縁に連結されるもので、四つのワイヤ42のそれぞれに個別に対応するように四つが設けられている。これら四つのプーリ44のそれぞれに巻回されることで、各ワイヤ42は、当該ワイヤ42の巻取りまたは繰出しが行われることになる。このように、プーリ44は、スリーブ43を介したワイヤ42のワイヤ端縁への連結によって、配置の自由度を確保し得る。ただし、プーリ44を、例えばスリーブ43からのワイヤ42の出口と同じ位置(後述するアンカーポイント)に配置した場合には、スリーブ43を省略させても構わない。
モータ45は、プーリ44を回転駆動するもので、四つのワイヤ42のそれぞれに個別に対応するように四つが設けられている。つまり、四つのモータ45は、それぞれが各ワイヤ42と個別に連結して当該ワイヤ42の巻取りまたは繰出しを行う駆動源として機能するものである。
このような駆動源となるモータ45としては、例えば、精緻な駆動制御に対応可能なステッピングモータを用いることが考えられる。ただし、精緻な駆動制御に対応可能であれば、他種の駆動源を用いるようにしても構わない。
基台46は、装着ユニット40のベース部材となるもので、上述の各構成要素、特にスリーブ43およびモータ45を支持するものである。このような基台46は、例えば、樹脂材料または金属材料によって、操縦席10のフロアに配置可能な形状に形成されている。ただし、基台46には、操縦席10のフロアに配置された際に、操作レバー31,32の移動範囲と干渉しないように、当該移動範囲を避けるように開口された開口部46aが設けられている。そして、その開口部46aの部分において、アタッチ部41および当該アタッチ部41から四方向に延びるワイヤ42が配されるようになっている。
(駆動制御部)
駆動制御部50は、装着ユニット40に付随して設けられるもので、当該装着ユニット40における四つのモータ45の動作を制御するものである。そのために、駆動制御部50は、四つのモータ45のそれぞれに個別に対応する四つのコントロールユニット51と、各コントロールユニット51に対する動作制御を行う制御機52と、を有している。
コントロールユニット51は、モータ45への駆動パルス供給を行うモータドライバ53と、モータ45の動作量の検出を行うエンコーダ54と、モータドライバ53およびエンコーダ54の動作を制御するモータコントローラ55と、を有している。なお、四つのコントロールユニット51のいずれも、同様に構成されているものとする。
制御機52は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等といったハードウエア資源を組み合わせてなるコンピュータ装置によって構成されており、予めインストールされている所定プログラム(ソフトウエア)の実行により、各コントロールユニット51に対する動作制御を行うようになっている。なお、動作制御の具体的な態様ついては、詳細を後述する。
(操作支援装置の他の例)
続いて、各走行レバー33,34に装着される操作支援装置の構成について、上述した構成例との相違点に着目して説明する。
図4は、本実施形態に係る操作支援装置の概略構成の他の例を模式的に示す説明図である。なお、図中において、上述した構成例と同一の構成要素については、同一の符号を付している。
図例の操作支援装置においても、装着ユニット40と、駆動制御部50と、を有して構成されている。
(装着ユニット)
装着ユニット40は、上述した構成例とは異なり、アタッチ部41から二方向に延びる二つのワイヤ42を有している。そして、スリーブ43、プーリ44およびモータ45についても、二つのワイヤ42のそれぞれに個別に対応するように二つが設けられている。
二つのワイヤ42は、アタッチ部41が一軸方向に操作可能な走行レバー33,34に装着されることから、そのアタッチ部41から対向する二方向に延びるように配されている。各ワイヤ42が延びる二方向は、走行レバー33,34が操作される一軸方向に沿った方向で、かつ、それぞれが互いに対向する方向であるものとする。
ワイヤ42の数および配置の方向、並びに、ワイヤ42の数に応じたスリーブ43、プーリ44およびモータ45の数を除き、他は上述した構成例の場合と同様に構成されていればよい。例えば、プーリ44の配置について、スリーブ43からのワイヤ42の出口と同じ位置とすれば、スリーブ43を省略させても構わないことも、上述した構成例の場合と同様である。なお、一軸方向に操作可能な走行レバー33,34に対応する構成の場合、ワイヤ42が対向する二方向に延びることから、スリーブ43を省略した構成とすることが容易に実現可能であり、構成の簡素化を図る上で好適なものとなる。
(駆動制御部)
駆動制御部50は、装着ユニット40におけるモータ45の数に対応して、各モータ45のそれぞれに個別に対応する二つのコントロールユニット51を有している。その点を除き、他は上述した構成例の場合と同様に構成されていればよい。
(3)操作支援装置を含むシステム構成
次に、上述した構成の操作支援装置が用いられるシステムについて説明する。ここでは、バックホー1の遠隔操作システムとして機能する例について説明する。
図5は、本実施形態に係る遠隔操作システムの機能構成例を模式的に示すブロック図である。
図例のシステムは、バックホー1の遠隔操作を行うためのもので、遠隔操作の対象となるバックホー1の操縦席10に取り付けられた装着ユニット40と、当該装着ユニット40に付随する駆動制御部50と、を備えている。バックホー1の操縦席10に右操作レバー31、左操作レバー32、右走行レバー33および左走行レバー34が設けられている場合であれば、これらのそれぞれに個別に対応するように、装着ユニット40および駆動制御部50を備えているものとする。
バックホー1には、装着ユニット40および駆動制御部50に加えて、第一カメラ61と、第二カメラ62と、が設けられている。第一カメラ61は、バックホー1の操縦席10の操縦者の視点から得られる画像を撮像するものである。第二カメラ62は、第一カメラ61とは異なる画角の画像を撮像するもので、バックホー1が有する可動作業具であるバケット14に関する画像、特にバケット14による施工箇所に相当する当該バケット14の剣先位置についての画像を撮像するものである。なお、バックホー1には、第一カメラ61および第二カメラ62に加えて、これらとは異なる画角の画像(例えば、操縦席10の後方側の画像)を撮像する第三カメラ63が設けられていてもよい。以下、第三カメラ63も設けられいる場合を例に挙げて説明する。
また、バックホー1には、当該バックホー1の姿勢に関する情報を取得する傾斜センサ64が設けられている。傾斜センサ64としては、傾斜計やジャイロセンサ(角加速度センサ)等を用いることができる。このような傾斜センサ64によって、水平方向に対するバックホー1の傾き量を検出して、その検出結果を当該バックホー1の姿勢に関する情報とすることができる。
さらに、バックホー1には、当該バックホー1の周囲の音に関する情報を取得する全指向性(無指向性)のマイク(ただし不図示)が設けられていてもよい。マイクは、第一カメラ61、第二カメラ62、第三カメラ63に付属するカメラ一体型のものであってもよい。
なお、第一カメラ61、第二カメラ62、第三カメラ63で得られる各画像データ、傾斜センサ64による検出情報、および、マイクで得られる音情報については、駆動制御部50(具体的には、当該駆動制御部50における制御機52)を介して、後述する遠隔制御装置80の側に送信されるものとする。
また、図例のシステムは、駆動制御部50の制御機52との間で大容量データの近距離無線通信を行うことが可能な通信制御コンピュータ71を備えている。そして、通信制御コンピュータ71は、大容量データの通信に対応する有線のネットワーク回線72を介して、遠隔制御装置80に接続されている。
このような通信制御コンピュータ71およびネットワーク回線72を介することで、バックホー1に搭載される駆動制御部50の制御機52は、当該バックホー1が建設施工現場において移動可能な場合であっても、遠隔制御装置80との間で画像データ等を含む大容量データについて遅滞なく授受することが可能となる。
なお、駆動制御部50の制御機52と遠隔制御装置80とが直接的に大容量データの無線通信を行うことが可能であれば、通信制御コンピュータ71およびネットワーク回線72は、必ずしもシステム内に設けられていなくてもよい。
システムが備える遠隔制御装置80は、バックホー1が使用される建設施工現場と遠隔の地に設置されて、その遠隔の地から当該バックホー1を遠隔操作するためのものである。そのために、遠隔制御装置80は、遠隔操作具81と、モニタ部82と、遠隔制御コンピュータ83と、を有している。
遠隔操作具81は、バックホー1の遠隔操作を行う操縦者が操作するためのもので、当該バックホー1における操作具と同等の構成を有するものである。例えば、バックホー1が操作具として右操作レバー31、左操作レバー32、右走行レバー33および左走行レバー34を有する場合であれば、遠隔操作具81についても、右遠隔操作レバー、左遠隔操作レバー、右遠隔走行レバーおよび左遠隔走行レバーが設けられており、これらがそれぞれ独立して操作可能になっているものとする。
モニタ部82は、例えば液晶表示パネルによって構成されたもので、バックホー1の遠隔操作を行う操縦者に対する画像の表示出力を行うものである。モニタ部82は、主として、第一カメラ61および第二カメラ62のそれぞれによる撮像画像を表示するようになっている。
遠隔制御コンピュータ83は、例えば、CPU、RAM、ROM等といったハードウエア資源を組み合わせてなるコンピュータ装置によって構成されており、予めインストールされている所定プログラム(ソフトウエア)の実行により、バックホー1の遠隔操作についての制御を行うようになっている。なお、遠隔制御制御の具体的な態様ついては、詳細を後述する。
(4)遠隔操作システムにおける処理動作例
次に、上述した構成の遠隔操作システムにおける処理動作例について説明する。
(遠隔操作の概要)
上述した構成の遠隔操作システムにおいて、バックホー1の遠隔操作を行う際には、その遠隔操作の操縦者が、遠隔制御装置80の遠隔操作具81を操作する。このときの遠隔操作具81の操作量については、遠隔制御装置80の遠隔制御コンピュータ83によって、当該操作量に関する情報(例えば、遠隔操作レバー等の移動方向および移動量を特定する情報)として抽出される。そして、抽出された情報は、遠隔操作のための制御情報として、遠隔制御コンピュータ83からネットワーク回線72および通信制御コンピュータ71を介してバックホー1側の駆動制御部50へ送信される。
遠隔制御コンピュータ83からの制御情報を受け取ると、駆動制御部50の制御機52は、その制御情報に基づいて、装着ユニット40における各モータ45の動作を制御する。具体的には、遠隔制御装置80の遠隔操作具81の操作に倣ってバックホー1の操作具が動作(移動)するように、駆動制御部50では、制御機52が各モータ45の動作量(駆動パルス)を決定し、その決定結果を各モータ45に対応するそれぞれのコントロールユニット51に指示する。
これにより、バックホー1は、遠隔操作具81の操作に倣って操作具が動作することになり、遠隔操作具81の操作内容に従って可動部が動作することになる。つまり、バックホー1は、遠隔制御装置80の側から遠隔操作されることになる。
(較正処理の手順)
以上のようなバックホー1の遠隔操作を実行可能にするためには、バックホー1における操作具の操作量と、遠隔制御装置80における遠隔操作具81の操作量とを、互いに関連付けてリンクさせる必要がある。
このことから、本実施形態においては、バックホー1への装着ユニット40の配置(装着)後から遠隔制御装置80による遠隔操作開始までのいずれかのタイミングで、当該装着ユニット40を有する操作支援装置についての較正処理を行う。ここでいう較正処理は、操作支援装置を使用可能にするキャリブレーション処理に相当する。
以下、本実施形態における較正処理の手順について、具体例を挙げて説明する。
ここでは、まず、二軸方向に操作可能な操作レバー31,32に装着される装着ユニット40について較正処理を行う場合を例に挙げる。以下、かかる装着ユニット40については、二軸方向対応装着ユニット40と称することもある。
図6は、本実施形態における較正処理の前提となる初期条件の一例を示す説明図である。
図例のように、操作支援装置の二軸方向対応装着ユニット40において、四つのスリーブ43からのワイヤ42の出口をアンカーポイントA,A,A,Aとすると、各アンカーポイントA,A,A,Aの相互位置は、設計上既知であり、設計値から特定することが可能である。これらのアンカーポイントA,A,A,Aによって規定される領域は、一つの二次元座標空間として考えることかできる。
また、各アンカーポイントA,A,A,Aからアタッチ部41まで延びる各ワイヤ42について、それぞれの張力を均衡させた状態(すなわち、各ワイヤ42に弛みが無い状態)の長さをL,L,L,Lとすると、各ワイヤ長L,L,L,Lの変化量(巻取り量または繰出し量)は、各ワイヤ42に連結する各モータ45の動作量をエンコーダ54で検出することによって特定することが可能である。なお、各ワイヤ長L,L,L,Lの初期値は、予め特定されていればその値を用いることができるが、以下のようにして特定してもよい。例えば、各ワイヤ42を、各アンカーポイントA,A,A,Aから繰出してアタッチ部41に連結し、各モータ45に所定のトルクを掛けて巻取ったときの繰出し量および巻取り量を、エンコーダ54で検出することによって特定することが可能である。
このような初期条件の下、較正処理は、以下のような手順で行う。
図7および図8は、本実施形態に係る遠隔操作システムにおける較正処理の手順の例を示すフロー図である。
二軸方向対応装着ユニット40について較正処理を行う場合には、まず、当該装着ユニット40が装着された操作レバー31,32を、人(操縦者)の手によって、左右方向と前後方向とのそれぞれ(すなわち移動可能な各軸方向のそれぞれ)に最大ストローク量だけ動かすようにする。このとき、各モータ45は、人の手によってマニュアル操作される操作レバー31,32の動きに追従して、各ワイヤ42の張力を均衡させた状態を維持するものとする。つまり、較正処理の際の動作モードとして、各モータ45およびその動作を制御する駆動制御部50は、マニュアル操作される操作レバー31,32の動きに追従する動作モードに対応するように構成されている。これにより、各モータ45にトルクを掛けない状態となり、操縦者が操作レバー31,32をマニュアル操作して自由に動かせるようになる(図7のステップ101~102、以下ステップを「S」と略す。)。
図9は、本実施形態における較正処理の際の操作具の移動態様の一例を示す説明図である。
例えば、図中に示すように、較正処理の際のマニュアル操作によって、操作レバー31,32が二次元座標空間内の任意の1点Sに移動した場合を考える。
点Sの座標空間内の位置は、アンカーポイントA,Aに着目すると、当該アンカーポイントA,Aの位置およびワイヤ長L,Lに基づいて、幾何的に特定することができる。また、アンカーポイントA,Aに着目すると、当該アンカーポイントA,Aの位置およびワイヤ長L,Lに基づいて、幾何的に特定することができる。また、アンカーポイントA,Aに着目すると、当該アンカーポイントA,Aの位置およびワイヤ長L,Lに基づいて、幾何的に特定することができる。また、アンカーポイントA,Aに着目すると、当該アンカーポイントA,Aの位置およびワイヤ長L,Lに基づいて、幾何的に特定することができる。つまり、点Sの位置については、四つの点を算出できる。これら四つの点から、例えば最小二乗法で一つの点を特定することで、点Sの位置について、誤差要因を排除して精度良く求めることが可能となる(図7のS103~S105)。
このようにして点Sの位置を求めることで、これら点Sの点列から例えば最小二乗法で一つの直線を特定することができ、これにより、操作レバー31,32のストロークを、誤差要因を排除して精度良く求めることが可能となる(図7のS106)。このとき、操作レバー31,32を左右方向に動かしたときの点列の端点から、操作レバー31,32の左右ストロークを特定した直線に正射影することで、当該操作レバー31,32の左右ストロークの端点S,Sを求めることができる。また、操作レバー31,32を前後方向に動かしたときの点列の端点から、操作レバー31,32の前後ストロークを特定した直線に正射影することで、当該操作レバー31,32の前後ストロークの端点S,Sを求めることができる。(図7のS107)。
端点S,S,S,Sを特定すると、その特定結果から、線分S-Sと線分S-Sの交点Sを求めることができる。交点Sは、操作レバー31,32の原点位置Sに相当する(図8のS201)。
較正処理に際して、駆動制御部50の制御機52は、以上のような操作レバー31,32のストローク端点S,S,S,Sの特定および原点位置Sの特定を、エンコーダ54による各モータ45の動作量の検出結果を利用しつつ行う。
そして、駆動制御部50の制御機52は、操作レバー31,32を原点位置Sを位置させたときのワイヤ長L,L,L,Lの値を求め、それぞれの値を原点長L,L,L,Lとして、駆動制御部50の制御機52がアクセス可能なメモリ部(ただし不図示)に記憶保持させる(図8のS202)。メモリ部は、駆動制御部50の制御機52がアクセス可能であれば、当該駆動制御部50内に配されていてもよいし、当該駆動制御部50とは別の箇所(例えば遠隔制御装置80の側)に配されていてもよい。
さらに、駆動制御部50の制御機52は、各ワイヤ42の原点長L,L,L,Lに加えて、操作レバー31,32のストローク端点S,S,S,Sの位置、および、当該操作レバー31,32の原点位置Sについても、較正処理によって特定された較正値として、制御機52がアクセス可能なメモリ部(ただし不図示)に記憶保持させる(図8のS203)。
このように、駆動制御部50の制御機52は、マニュアル操作される操作レバー31,32の動きに基づいて各種の値を特定し、その特定結果を較正処理で得られた較正値とする。つまり、駆動制御部50は、較正処理に際して、操作具(操作レバー31,32等)の動きに追従する動作モード時における各モータ45の動作量を計測する動作量計測部として機能するとともに、当該動作量計測部による計測結果に基づいて操作具(操作レバー31,32等)の動作ストローク(具体的には、左右ストロークと前後ストロークの少なくとも一方)の方向および量の少なくとも一方を較正する較正機能部として機能するようになっている。
そして、駆動制御部50の制御機52が較正値を特定してメモリ部に記憶保持させると、二軸方向に操作可能な操作レバー31,32について、較正処理が終了する。
続いて、一軸方向に操作可能な走行レバー33,34に装着される装着ユニット40について較正処理を行う場合について説明する。以下、かかる装着ユニット40については、一軸方向対応装着ユニット40と称することもある。
図10は、本実施形態における較正処理の前提となる初期条件および当該較正処理の際の操作具の移動態様の他の例を示す説明図である。
図10(a)に示すように、操作支援装置の一軸方向対応装着ユニット40において、二つのスリーブ43からのワイヤ42の出口をアンカーポイントA,Aとすると、各アンカーポイントA,Aの相互位置は、設計上既知であり、設計値から特定することが可能である。
また、各アンカーポイントA,Aからアタッチ部41まで延びる各ワイヤ42について、それぞれの張力を均衡させた状態(すなわち、各ワイヤ42に弛みが無い状態)の長さをL,Lとすると、各ワイヤ長L,Lの変化量(巻取り量または繰出し量)は、各ワイヤ42に連結する各モータ45の動作量をエンコーダ54で検出することによって特定することが可能である。なお、各ワイヤ長L,Lの初期値は、予め特定されていればその値を用いることができるが、以下のようにして特定してもよい。例えば、各ワイヤ42を、各アンカーポイントA,Aから繰出してアタッチ部41に連結し、各モータ45に所定のトルクを掛けて巻取ったときの繰出し量および巻取り量を、エンコーダ54で検出することによって特定することが可能である。
このような初期条件の下、較正処理は、上述した二軸方向対応装着ユニット40の場合と同様の手順で行う(図7および図8参照)。
一軸方向対応装着ユニット40について較正処理を行う場合には、まず、各モータ45にトルクを掛けない状態とする動作モードに対応しつつ、装着ユニット40が装着された走行レバー33,34を、人(操縦者)の手によって、前後方向に最大ストローク量だけ動かすようにする。
そして、図10(b)に示すように、走行レバー33,34を前後方向に動かしたときの点列から、当該走行レバー33,34の前後ストロークの端点S,Sを求める。さらには、走行レバー33,34の原点位置Sを求める。
その後、駆動制御部50の制御機52は、走行レバー33,34を原点位置Sを位置させたときのワイヤ長L,Lの値を求め、それぞれの値を原点長L,Lとして、駆動制御部50の制御機52がアクセス可能なメモリ部に記憶保持させる。さらに、駆動制御部50の制御機52は、各ワイヤ42の原点長L,Lに加えて、走行レバー33,34のストローク端点S,Sの位置、および、当該走行レバー33,34の原点位置Sについても、較正処理によって特定された較正値として、駆動制御部50の制御機52がアクセス可能なメモリ部に記憶保持させる。このようにして、駆動制御部50の制御機52が較正値を特定してメモリ部に記憶保持させると、一軸方向に操作可能な走行レバー33,34について、較正処理が終了する。
(較正処理後の制御処理の手順)
次に、以上のような較正処理を行った後に、バックホー1の遠隔操作を実行する場合における駆動制御部50による制御処理の手順について、具体例を挙げて説明する。ここでも、二軸方向対応装着ユニット40について制御処理を行う場合と、一軸方向対応装着ユニット40について制御処理を行う場合とについて、順に説明する。
まず、二軸方向対応装着ユニット40について制御処理を行う場合を説明する。
図11は、本実施形態に係る遠隔操作システムにおける較正処理後の制御処理の手順の例を示すフロー図である。
また、図12は、本実施形態における較正処理後の制御処理の際の操作具の移動態様の例を示す説明図である。
バックホー1の遠隔操作の実行開始に際しては、当該バックホー1の操作レバー31,32が原点位置に位置していることから、装着ユニット40の各モータ45に所定のトルクを掛け、各ワイヤ42を伸長させて、各ワイヤ42の張力を均衡させた状態(すなわち、各ワイヤ42に弛みが無い状態)とする。そして、その状態での各ワイヤ長L,L,L,Lを、較正処理での原点長L,L,L,Lに設定する(図11のS301~S302)。
このような初期設定は、バックホー1の稼働開始時のみならず、当該バックホー1の再稼働時にも、その都度行うようにする。制御処理の精度向上のためである。
ここで、遠隔制御装置80の側から駆動制御部50に対して、遠隔操作具81の操作量として、例えば、前後ストローク値RSと左右ストローク値RSとが送信された場合を考える(図11のS303)。なお、前後ストローク値RSと左右ストローク値RSは、それぞれ遠隔操作具81のストロークが前方向、右方向の場合を正値、後方向、左方向の場合を負値とする。その場合に、装着ユニット40における前後ストローク値Sおよび左右ストローク値Sについては、それぞれ前後ストローク値RSと左右ストローク値RSとが正値または0であった場合には、以下の(1)式および(2)式によって規定される。
=S+(S-S)RS・・・(1)
=S+(S-S)RS・・・(2)
なお、(1)式および(2)式において、S,S,Sは、較正値としてメモリ部に記憶保持させたものである。また、(S-S)および(S-S)は、いずれも、方向性を有するベクトル計算である。前後ストローク値RSと左右ストローク値RSのいずれかが負値であった場合には、それぞれS,Sを用いて、同様に規定される(図11のS304)。
このようにして前後ストローク値Sおよび左右ストローク値Sを特定した後は(図11のS304)、図12に示すように、線分S-S上における前後ストローク値Sの点を通り線分S-Sに平行な直線と、線分S-S上における左右ストローク値Sの点を通り線分S-Sに平行な直線とが交わる点Sを特定する(図11のS305)。
このような点Sを特定することで、その点Sによって決まるワイヤ長L,L,L,Lを特定することが可能になるとともに、特定した各ワイヤ長L,L,L,Lについて、較正値として記憶保持された原点長L,L,L,Lに対する変化量を求めることが可能となる(図11のS306)。
較正処理後の制御処理に際して、駆動制御部50の制御機52は、以上のように、各ワイヤ長L,L,L,Lについて、原点長L,L,L,Lに対する変化量を求め、その変化量に応じて各モータ45が協調しつつ各ワイヤ42の巻取りまたは繰出しを行うように、各モータ45の動作を制御する。これにより、装着ユニット40では、操作レバー31,32に装着されたアタッチ部41が、原点位置Sから遠隔制御装置80側から指示された位置である点Sに移動することになる(図11のS307)。
つまり、操作支援装置における駆動制御部50は、遠隔制御装置80の側からの制御情報(すなわち、遠隔操作具81の操作量に関する情報を含むもの)に基づいて、各モータ45の動作を制御するように構成されている。そして、駆動制御部50の制御機52は、各モータ45の動作を制御してそれぞれを協調的に回転させて、アタッチ部41から延びる各ワイヤ42の張力を均衡させることで、当該アタッチ部41の位置を点Sに移動させ、これにより当該アタッチ部41が装着された操作レバー31,32の位置をコントロールするように構成されている。
したがって、二軸方向対応装着ユニット40が装着された操作レバー31,32は、遠隔操作具81の操作に倣って動作することになる。つまり、バックホー1は、遠隔制御装置80の側から遠隔操作されることになる。
なお、上述した制御処理において、装着ユニット40における原点位置Sから点Sへの移動については、原点位置Sから点Sまでの間を複数区間に分割し、各区間毎に順次各モータ45の動作を制御するような手順を経てもよい。
続いて、一軸方向対応装着ユニット40について制御処理を行う場合を説明する。
ここで、遠隔制御装置80の側から駆動制御部50に対して、遠隔操作具81の操作量として、例えば、前後ストローク値RSが送信された場合を考える。その場合に、装着ユニット40における前後ストローク値Sについては、前後ストローク値RSが正値または0であった場合には、既述の(1)式によって規定される。前後ストローク値RSが負値であった場合には、Sを用いて同様に規定される。
このようにして前後ストローク値Sを特定した後は、図10(b)に示すように、線分S-S上における前後ストローク値Sの点を特定する。
このような点Sを特定することで、その点Sによって決まるワイヤ長L,Lを特定することが可能になるとともに、特定した各ワイヤ長L,Lについて、較正値として記憶保持された原点長L,Lに対する変化量を求めることが可能となる。
較正処理後の制御処理に際して、駆動制御部50の制御機52は、以上のように、各ワイヤ長L,Lについて、原点長L,Lに対する変化量を求め、その変化量に応じて各モータ45が協調しつつ各ワイヤ42の巻取りまたは繰出しを行うように、各モータ45の動作を制御する。これにより、装着ユニット40では、走行レバー33,34に装着されたアタッチ部41が、原点位置Sから遠隔制御装置80側から指示された位置である点Sに移動することになる。
したがって、一軸方向対応装着ユニット40が装着された走行レバー33,34は、遠隔操作具81の操作に倣って動作することになる。つまり、バックホー1は、遠隔制御装置80の側から遠隔操作されることになる。
なお、上述した制御処理においても、装着ユニット40における原点位置Sから点Sへの移動については、原点位置Sから点Sまでの間を複数区間に分割し、各区間毎に順次各モータ45の動作を制御するような手順を経てもよい。
(本実施形態の遠隔操作の作用)
以上に説明したように、本実施形態の遠隔操作システムによれば、操作支援装置を構成する装着ユニット40の動作を、同操作支援装置を構成する駆動制御部50が、遠隔制御装置80の側からの制御情報に基づいて制御することで、当該装着ユニット40が装着されたバックホー1の遠隔操作を行うことを実現可能とする。換言すると、バックホー1の操作具に操作支援装置の装着ユニット40を装着すれば、当該バックホー1の遠隔操作が実現可能となる。したがって、本実施形態の遠隔操作システムによれば、遠隔操作の対象となるバックホー1の側は構造(構成)の変更を加えることなく、当該バックホー1に対して装着ユニット40を装着することで、当該バックホー1の遠隔操作を容易に実現することが可能となる。
また、本実施形態において、バックホー1に装着する装着ユニット40は、複数のワイヤ42の張力を均衡させてバックホー1の操作具の位置をコントロールするように構成されているので、簡素な構成でのコントロールが実現可能であり、またどのような配置態様の操作具にも対応し得るという汎用性を備えたものとなる。したがって、本実施形態によれば、どの種類(機種)のバックホー1であっても対応可能な汎用性を有しつつ、当該バックホー1に容易に取り付け可能である簡素な構成の操作支援装置(装着ユニット40)を装着することで、当該バックホー1の遠隔操作を行う遠隔操作システムを構築することが可能となる。
しかも、本実施形態の遠隔操作システムでは、バックホー1の遠隔操作にあたり、まず、操作支援装置についての較正処理を行い、その後に遠隔操作のための制御処理を行う。したがって、本実施形態によれば、システムが汎用性を備える場合であっても、較正処理を経ることで、適切な制御処理を高精度に行うことが実現可能となり、非常に信頼性が高いものとなる。つまり、較正処理を経ることで、バックホー1の操作具と遠隔制御装置80の遠隔操作具81との動作方向を合わせることが可能となり、これにより装着ユニット40の取付余裕を少なくして応答性を高めることが実現可能となり、またバックホー1の操作具の機種差や個体差等を相殺し得るようにもなる。
なお、本実施形態で説明した較正処理から制御処理への流れは、バックホー1に操作支援装置(装着ユニット40)を装着したシステム運用開始時に行うことが考えられるが、それ以外に、例えば、システム再稼働時の初期化の際にも行うことも考えられる。つまり、システム再稼働時の初期化の際にも、上述した場合と全く同様の手順で、較正処理を行った後に、遠隔操作のための制御処理を行うことが考えられる。
(遠隔操作時の画像表示)
ところで、本実施形態の遠隔操作システムにおいて、バックホー1の遠隔操作は、その遠隔操作の操作者が、遠隔制御装置80の遠隔操作具81を操作することで行う。このとき、遠隔制御装置80が建設施工現場と遠隔の地に設置されることから、遠隔操作の操作者は、モニタ部82が表示出力する画像を視認しながら、遠隔操作具81を操作することになる。
しかしながら、実際のバックホー1の操縦については、バケット14の剣先位置および地表面に対する遠近感が乏しいと、当該操縦を適切に行うことが困難となり得る。つまり、単なる操縦者視点の表示画像を視認しながらでは、バックホー1の適切な操縦が困難となり得る。
この点については、例えば、いわゆるステレオカメラによる3D画像を利用して遠近感の乏しさを補うことが考えられるが、その場合にはシステム構成の複雑化を招いたり、立体視する操縦者の健康面での負担を増大させてしまうおそれがある。
このことから、本実施形態の遠隔操作システムでは、バックホー1の遠隔操作にあたり、その遠隔操作を行う操縦者に対して、以下に説明する態様の情報提示を行うようになっている。
図13は、本実施形態に係る遠隔操作システムにおけるデータストリームの例を示す説明図である。
本実施形態の遠隔操作システムは、既述のように、バックホー1に設けられた第一カメラ61、第二カメラ62および第三カメラ63を有している。
第一カメラ61は、バックホー1の操縦席10の操縦者の視点から得られる画像を撮像するように設置されている。つまり、第一カメラ61は、操縦者視点の画像を得るものである。
第二カメラ62は、第一カメラ61とは異なる画角の画像で、バックホー1のバケット14の剣先位置について上方側から俯瞰した画像を撮像するように設置されている。つまり、第二カメラ62は、バケット14の剣先位置の上方側俯瞰画像を得るものである。
第三カメラ63は、第一カメラ61および第二カメラ62のいずれとも異なる画角の画像を撮像するように設置されている。具体的には、バックホー1の周辺領域(後方領域や側方領域等)の画像を撮像する。そのために、第三カメラ63は、複数台が異なる方向に向けて設置されていてもよいし、例えば360度カメラのようなものが一台設置されていてもよい。
これらの各カメラ61,62,63は、いずれも、動画の撮像に対応しているものとする。
各カメラ61,62,63による撮像画像の画像データは、マルチプレクサ56において、それぞれの系統の独立のSDI(Serial Digital Interface)映像ストリームが一つのビデオストリームに纏められる。そして、一つのビデオストリームが、ストリーム送信機57により、例えば5.2GHz帯の無線通信およびネットワーク回線72を介して、遠隔制御装置80の側へストリーム送信される。これらの処理を行うマルチプレクサ56およびストリーム送信機57としての機能は、バックホー1の側に配される駆動制御部50の制御機52が備えていればよい。ストリーム送信機57からのビデオストリームは、ストリーム受信機73によって受信して、ストリーミングサーバ74にて処理する。これらの機能は、通信制御コンピュータ71が備えていればよい。
一方、遠隔制御装置80の側では、ストリーミングサーバ74からのビデオストリームを、ネットワーク回線72を介して受信して、ストリーミングクライアント84にて処理する。これにより、ストリーミングクライアント84で受信したビデオストリームについては、遠隔制御装置80のモニタ部82において、遅滞なく表示出力を行うことが可能となる。これらの処理を行うストリーミングクライアント84としての機能は、遠隔制御装置80を構成する遠隔制御コンピュータ83が備えていればよい。
以上のように、バックホー1の側と遠隔制御装置80の側との間では、例えばSDIのような低遅延のストリーム伝送を行う。これにより、複数のカメラ61,62,63による画像データを伝送する場合でも、その画像データを遠隔制御装置80の側において遅滞なく表示出力することが可能となり、遠隔制御を行う場合の操作応答性を高めることが実現可能となる。
なお、バックホー1の側と遠隔制御装置80の側との間の映像伝送手法については、低遅延のストリーム伝送に好適なものであればよく、上述したSDIの他に、例えばMIPI(Mobile Industry Processor Interface)といった他の方式によるものであってもよい。
また、バックホー1の側において、傾斜センサ64がバックホー1の姿勢に関する情報を取得し、マイクが周囲の音情報を取得する場合には、これらの情報についても、各カメラ61,62,63で得られる画像データと併せて、バックホー1の側から遠隔制御装置80の側へ伝送されるものとする。
バックホー1の側からのビデオストリームを受け取ると、遠隔制御装置80の側では、ストリーミングサーバ84が以下のような処理を行う。すなわち、ストリーミングサーバ84は、ビデオストリームに纏められた画像データを分離して、それぞれを個別に表示出力可能にするとともに、その表示出力のための再配置を行う。ここでの再配置は、それぞれの画像データをモニタ部82の表示画面にて表示出力する際の当該表示画面上での配置を決定することをいう。
図14は、本実施形態に係る遠隔操作システムにおけるモニタ部82での画像表示の例を示す説明図である。
図例のように、ストリーミングサーバ84による再配置を経ることで、モニタ部82の表示画面上では、その中央付近から下方側に及ぶ領域部分において、第一カメラ61で撮像された画像(すなわち、操縦者視点の画像)91が表示出力される。かかる画像91を視認することで、遠隔操作の操縦者は、バックホー1の操縦席10にいるのと同じ感覚で、遠隔操作具81を操作することができる。
かかる画像91には、バックホー1の姿勢インジケータ画像91aを重畳表示するようにしてもよい。姿勢インジケータ画像91aは、例えば、水平方向に対するバックホー1の傾き量について、視認可能に指標化した画像である。つまり、モニタ部82は、第一カメラ61で撮像された画像91の表示出力に加えて、傾斜センサ64の取得情報に基づき、当該画像91の表示出力にバックホー1の姿勢インジケータ画像91aを重畳表示するように構成されていてもよい。このような姿勢インジケータ画像91aの重畳表示によって、遠隔操作の操縦者は、第一カメラ61による画像91からだけでは認識が困難なバックホー1の姿勢について、適切かつ正確に把握することが可能になる。
また、モニタ部82の表示画面上には、第一カメラ61による画像91の表示領域の上方側の領域部分において、第二カメラ62で撮像された画像(すなわち、バケット14の剣先位置の上方側俯瞰画像)92が表示出力される。つまり、モニタ部82の表示画面上には、第一カメラ61による画像91とは別に、第二カメラ62による上方側俯瞰画像92もあわせて表示出力される。かかる上方側俯瞰画像92が視認可能となることで、遠隔操作の操縦者にとっては、バケット14の剣先位置および地表面に対する遠近感が補われるようになる。つまり、遠隔操作の操縦者は、両画像91,92をあわせて視認することで、バケット14の剣先位置および地表面に対する遠近感を把握しながらバックホー1の遠隔操作を適切に行うことが可能となる。
第一カメラ61による画像91および第二カメラ62による上方側俯瞰画像92の表示出力を行う際には、以下のような処理を経るようにしてもよい。
例えば、バケット14の上方からの俯瞰イメージと三次元モデルを用意しておく。模式的にアームイメージが繋がっていてもよい。モデルには、頂点やエッジに沿って特徴点を定めておく。第一カメラ61および第二カメラ62による各画像91,92についても、抽出したエッジ、複数のエッジの交点等から、特徴点を抽出する。主に、モデルの上方面と、第二カメラ62による画像92とで、特徴点を対応させる(特徴点マッチング)。また、主に、モデルの運転席方向面と、第一カメラ61による画像91とで、特徴点を対応させる(特徴点マッチング)。モデルの三次元形状に合わせて、これら二つのカメラ61,62からの特徴点を、三次元空間上に構成する。この三次元空間上の特徴点構成と三次元モデルとから、上方から俯瞰した時のパケットイメージを構成する。このバケットイメージを、その三次元位置に基づいて、モニタ部82の表示画面上に表示する。
さらに、モニタ部82の表示画面上には、第一カメラ61による画像01および第二カメラ62による上方側俯瞰画像92の表示領域とは別の領域部分に、第三カメラ63で撮像された画像93を表示出力するようにしてもよい。第三カメラ63はバックホー1の周辺領域の画像を撮像するので、当該第三カメラ63による画像93を表示出力すれば、遠隔操作の操縦者は、バックホー1の遠隔操作を、当該バックホー1の周辺の安全等を確認しながら行えるようになる。
なお、バックホー1の側にマイクが設けられている場合には、モニタ部82での画像表示とあわせて、当該マイクによる音情報の出力も行うようにしてもよい。これにより、遠隔操作の操縦者は、バックホー1の周辺の環境音からも、当該バックホー1による作業状態を把握し得るようになる。
(5)他のシステム構成
本実施形態の操作支援装置は、上述した構成の遠隔操作システム以外の他のシステムにおいても用いることができる。他のシステムとしては、例えば、バックホー1の自動運転システムとして機能するものが挙げられる。また、遠隔操作システムとして機能と、自動運転システムとして機能とを、併せ持つものであってもよい。
以下、バックホー1の自動運転システムとして機能する例について説明する。
バックホー1の自動運転システムは、当該バックホー1の自動運転を行うためのもので、上述した遠隔操作システムの場合と同様に、自動運転の対象となるバックホー1の操縦席10に取り付けられた装着ユニット40と、当該装着ユニット40に付随する駆動制御部50と、を備えている。バックホー1の操縦席10に右操作レバー31、左操作レバー32、右走行レバー33および左走行レバー34が設けられている場合であれば、これらのそれぞれに個別に対応するように、装着ユニット40および駆動制御部50を備えているものとする。
バックホー1には、装着ユニット40および駆動制御部50に加えて、これらが搭載されたバックホー1が有するバケット14の作業位置を測位する測位装置が設けられている。測位装置としては、例えば、角度センサ21,22,23,24、GNSS受信機16、各カメラ61,62,63等を利用しつつ、所定の演算処理を行うことで、バケット14の作業位置を求めるように構成されている。ただし、測位装置は、バケット14の作業位置を測位可能なものであれば、その構成が特に限定されるものではなく、他の公知技術を利用して構成されたものであってもよい。
また、バックホー1の自動運転システムは、装着ユニット40および駆動制御部50を有する操作支援装置と、バケット14の作業位置を測位する測位装置とに加えて、バックホー1が使用される施工現場エリアについての施工計画データを得るデータ管理装置を備えている。施工計画データは、施工現場エリアの施工後の状態(例えば工事後の地形)についての設計データに相当するもので、施工後状態を特定し得るものであれば、データ形式等が特に限定されることはない。このような施工計画データを得るデータ管理装置は、バックホー1の側と通信可能に配されたコンピュータ装置等からなるもので、施工計画データを予め記憶保持しているものであってもよいし、ネットワーク回線を通じて外部から取得可能に構成されたものであってもよい。
このような構成の自動運転システムでは、操作支援装置における駆動制御部50が、測位装置による測位結果とデータ管理装置で得た施工計画データとの対比結果に基づいて、当該操作支援装置の装着ユニット40における各モータ45の動作を制御するようになっている。具体的には、測位装置の測位結果と施工計画データとの対比結果から、それぞれの間の差分を求め、その差分の分だけバケット14を動作させるように、装着ユニット40における各モータ45の動作を制御する。このような動作制御の詳細は、いわゆるマシンコントロールとして知られている公知技術を利用して実現すればよい。
以上に説明した自動運転システムによれば、操作支援装置を構成する装着ユニット40の動作を、同操作支援装置を構成する駆動制御部50が、測位装置による測位結果とデータ管理装置で得た施工計画データとの対比結果に基づいて制御することで、当該装着ユニット40が装着されたバックホー1の自動運転を行うことを実現可能とする。換言すると、バックホー1の操作具に操作支援装置の装着ユニット40を装着すれば、当該バックホー1の自動運転が実現可能となる。したがって、本実施形態の自動運転システムによれば、自動運転の対象となるバックホー1の側は構造(構成)の変更を加えることなく、当該バックホー1に対して装着ユニット40を装着することで、当該バックホー1の自動運転を容易に実現することが可能となる。
また、本実施形態において、バックホー1に装着する装着ユニット40は、複数のワイヤ42の張力を均衡させてバックホー1の操作具の位置をコントロールするように構成されているので、簡素な構成でのコントロールが実現可能であり、またどのような配置態様の操作具にも対応し得るという汎用性を備えたものとなる。したがって、本実施形態によれば、どの種類(機種)のバックホー1であっても対応可能な汎用性を有しつつ、当該バックホー1に容易に取り付け可能である簡素な構成の操作支援装置(装着ユニット40)を装着することで、当該バックホー1の自動運転を行う自動運転システムを構築することが可能となる。
しかも、本実施形態の自動運転システムでは、バックホー1の自動運転にあたり、まず、操作支援装置についての較正処理を行い、その後に自動運転のための制御処理を行う。したがって、本実施形態によれば、システムが汎用性を備える場合であっても、較正処理を経ることで、適切な制御処理を高精度に行うことが実現可能となり、非常に信頼性が高いものとなる。
(6)変形例等
以上に、本発明の実施形態を具体的に説明したが、本発明の技術的範囲は上述の実施形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能である。
例えば、上述の実施形態では、作業機械がバックホー1である場合を例に挙げて説明したが、本発明がこれに限定されることはなく、バックホー1以外の建設機械にも全く同様に適用することが可能である。さらには、建設機械に限定されることもなく、装着ユニット40を装着可能な操作具を有する作業機械であれば、全く同様に本発明を適用することが可能である。
また、例えば、上述の実施形態では、遠隔操作システムにおいて、遠隔操作の操作者が、モニタ部82が表示出力する画像を視認しながら、遠隔操作具81を操作する場合を例に挙げたが、本発明がこれに限定されることはない。すなわち、画像表示出力を行うモニタ部82は必須の構成ではなく、遠隔操作の操作者は、バックホー1を目視しながら、遠隔操作具81を操作するようにしてもよい。遠隔操作の操作者に対する画像表示出力を行う場合であっても、その画像表示出力は、例えば、システム構成の複雑化や操縦者の健康面での負担等を問題視しなければ、3D画像等の立体視画像を利用して行ったり、操作者の頭部に装着されるヘッドマウントディスプレイを利用して行ったりしてもよい。
1…バックホー(作業機械)、31…右操作レバー、32…左操作レバー、33…右走行レバー、34…左走行レバー、40…装着ユニット、41…アタッチ部(係合部)、42…ワイヤ(索条部材)、43…スリーブ、44…プーリ、45…モータ(駆動源)、46…基台、50…駆動制御部、51…コントロールユニット、52…制御機、53…モータドライバ、54…エンコーダ、55…モータコントローラ、56…マルチプレクサ、57…ストリーム送信機、61…第一カメラ、62…第二カメラ、63…第三カメラ、64…傾斜センサ、71…通信制御コンピュータ、72…ネットワーク回線、73…ストリーム受信機、80…遠隔制御装置、81…遠隔操作具、82…モニタ部、83…遠隔制御コンピュータ、84…ストリーミングサーバ

Claims (11)

  1. 作業機械における操作具に装着される係合部と、
    前記係合部から複数方向に延びる複数の索条部材と、
    前記複数の索条部材のそれぞれと個別に連結して当該索条部材の巻取りまたは繰出しを行う複数の駆動源と、
    前記複数の駆動源の動作を制御する駆動制御部と、
    前記複数の駆動源の動作量を計測する動作量計測部と、を有し、
    前記複数の索条部材の張力の均衡によって前記係合部が各索条部材に支持されるとともに、前記複数の駆動源の動作を個別に制御することで前記複数の索条部材の張力の均衡状態を維持しつつ前記係合部が装着された前記操作具の位置をコントロールするように構成されているとともに、
    前記操作具が移動すべき先の位置情報に対して、前記操作具を追従させるように設定された動作ストロークの方向におけるストローク値で規定される当該操作具の移動点を特定し、前記移動点に対応する前記複数の索条部材のそれぞれの長さを特定し、前記動作量計測部の計測結果から前記駆動源を動作させた際の前記複数の索条部材の長さの変化量を特定しつつ、前記変化量を含む長さが前記移動点に対応する長さとなるように前記複数の駆動源を個別に動作させることで、前記操作具を前記移動点に移動させるように構成されている
    操作支援装置。
  2. 前記駆動制御部には、遠隔操作具が通信接続され、
    前記位置情報は、前記遠隔操作具の操作量から特定される
    請求項1に記載の操作支援装置。
  3. 二軸方向に操作可能な前記操作具に対して、四方向に延びる四つの前記索条部材と、各索条部材と個別に連結する四つの前記駆動源と、を有する
    請求項1に記載の操作支援装置。
  4. 一軸方向に操作可能な前記操作具に対して、対向する二方向に延びる二つの前記索条部材と、各索条部材と個別に連結する二つの前記駆動源と、を有する
    請求項1に記載の操作支援装置。
  5. 前記駆動制御部は、
    前記動作量計測部による計測結果に基づいて前記操作具の動作ストロークの方向および量の少なくとも一方を較正する較正機能部
    を有する請求項1から4のいずれか1項に記載の操作支援装置。
  6. 前記複数の駆動源および前記駆動制御部は、マニュアル操作される前記操作具の動きに追従する動作モードに対応するように構成されており、
    前記動作モードでは前記複数の駆動源にトルクを掛けない状態で前記操作具がマニュアル操作され、当該マニュアル操作による前記操作具の動きに追従して前記複数の索条部材の張力を均衡させた状態を維持しつつ前記複数の駆動源の動作量を前記動作量計測部で計測する
    請求項のいずれか1項に記載の操作支援装置。
  7. 請求項1に記載の操作支援装置と、
    前記操作支援装置と通信可能な遠隔操作装置と、を備え、
    前記操作支援装置における前記駆動制御部は、前記遠隔操作装置からの制御情報に基づいて、前記複数の駆動源の動作を制御するように構成されている
    遠隔操作システム。
  8. 前記遠隔操作装置は、操作者が操作する遠隔操作具を有し、前記遠隔操作具の操作量情報を前記制御情報として前記操作支援装置に送信するとともに、前記遠隔操作具の操作量から前記位置情報が特定されるように構成されている
    請求項に記載の遠隔操作システム。
  9. 前記作業機械の操縦者の視点から得られる画像を撮像する第一カメラと、
    前記第一カメラとは異なる画角で前記作業機械が有する作業具に関する画像を撮像する第二カメラと、を備え、
    前記遠隔操作装置は、前記第一カメラおよび前記第二カメラのそれぞれによる撮像画像を表示するモニタ部を有する
    請求項7または8に記載の遠隔操作システム。
  10. 前記作業機械の姿勢に関する情報を取得する傾斜センサを備え、
    前記遠隔操作装置の前記モニタ部は、前記傾斜センサの取得情報に基づき、前記作業機械の姿勢インジケータ画像を重畳表示するように構成されている
    請求項に記載の遠隔操作システム。
  11. 請求項1に記載の操作支援装置と、
    前記操作支援装置が搭載された前記作業機械が有する作業具の作業位置を測位する測位装置と、
    前記作業機械が使用される施工現場エリアについての施工計画データを得るデータ管理装置と、を備え、
    前記操作支援装置における前記駆動制御部は、前記測位装置による測位結果と前記施工計画データとの対比結果に基づいて、前記複数の駆動源の動作を制御するように構成されている
    自動運転システム。
JP2022128964A 2022-08-12 2022-08-12 操作支援装置、遠隔操作システムおよび自動運転システム Active JP7228303B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022128964A JP7228303B1 (ja) 2022-08-12 2022-08-12 操作支援装置、遠隔操作システムおよび自動運転システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022128964A JP7228303B1 (ja) 2022-08-12 2022-08-12 操作支援装置、遠隔操作システムおよび自動運転システム

Publications (2)

Publication Number Publication Date
JP7228303B1 true JP7228303B1 (ja) 2023-02-24
JP2024025480A JP2024025480A (ja) 2024-02-26

Family

ID=85283409

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022128964A Active JP7228303B1 (ja) 2022-08-12 2022-08-12 操作支援装置、遠隔操作システムおよび自動運転システム

Country Status (1)

Country Link
JP (1) JP7228303B1 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3312098B2 (ja) 1996-06-12 2002-08-05 株式会社クボタ バックホウの遠隔操縦装置
WO2020101006A1 (ja) 2018-11-14 2020-05-22 住友重機械工業株式会社 ショベル、ショベルの制御装置
JP2020168669A (ja) 2019-04-01 2020-10-15 ファナック株式会社 ロボットを制御するための機構誤差パラメータを較正する較正装置
JP2021014783A (ja) 2020-11-04 2021-02-12 株式会社小松製作所 作業機械の表示システム及び作業機械
JP2022024406A (ja) 2020-07-28 2022-02-09 株式会社Ihiエアロスペース 遠隔操縦用作業カメラ及び該作業カメラを用いた遠隔操縦に用いる画面の表示方法
JP7035378B2 (ja) 2017-08-30 2022-03-15 株式会社Ihi 遠隔操作装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0627408B2 (ja) * 1983-06-22 1994-04-13 株式会社小松製作所 ラジオコントロ−ル式掘削積込機の操作装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3312098B2 (ja) 1996-06-12 2002-08-05 株式会社クボタ バックホウの遠隔操縦装置
JP7035378B2 (ja) 2017-08-30 2022-03-15 株式会社Ihi 遠隔操作装置
WO2020101006A1 (ja) 2018-11-14 2020-05-22 住友重機械工業株式会社 ショベル、ショベルの制御装置
JP2020168669A (ja) 2019-04-01 2020-10-15 ファナック株式会社 ロボットを制御するための機構誤差パラメータを較正する較正装置
JP2022024406A (ja) 2020-07-28 2022-02-09 株式会社Ihiエアロスペース 遠隔操縦用作業カメラ及び該作業カメラを用いた遠隔操縦に用いる画面の表示方法
JP2021014783A (ja) 2020-11-04 2021-02-12 株式会社小松製作所 作業機械の表示システム及び作業機械

Also Published As

Publication number Publication date
JP2024025480A (ja) 2024-02-26

Similar Documents

Publication Publication Date Title
US11384515B2 (en) Image display system for work machine, remote operation system for work machine, and work machine
US11634890B2 (en) Image display system for work machine
JP5802476B2 (ja) 建設機械制御システム
EP3754122B1 (en) Construction machine
US11772556B2 (en) Display control system and display control method
JP6174199B1 (ja) 誘導方法及び画像表示システム
JP2016181119A (ja) 移動機器の周囲状況提示システム
US12054915B2 (en) Work assisting server and work assisting system
WO2021124654A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
CN111386369A (zh) 工程机械
JP2007016403A (ja) 作業機械のカメラ制御装置
JP7228303B1 (ja) 操作支援装置、遠隔操作システムおよび自動運転システム
US20230033706A1 (en) Work support server and work support method
US20220412049A1 (en) Work assisting server and method for selecting imaging device
JP2021038649A (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械、及び作業機械の画像表示方法
JP7128497B2 (ja) 作業機械の画像表示システム
WO2021106278A1 (ja) 作業支援サーバ、作業支援方法および作業支援システム
WO2020241572A1 (ja) マップ生成システム及びマップ生成方法
JP7537222B2 (ja) 画像提供システム
JP2020134319A (ja) 画像センサの情報補正方法及び移動体
JP7508815B2 (ja) 作業支援サーバ、作業支援方法
JP7333551B2 (ja) 作業機械の画像表示システム
JP7344675B2 (ja) 表示システム、遠隔操作システムおよび表示方法
US12123175B2 (en) Remote operation device, remote operation assistance server, remote operation assistance system, and remote operation assistance method
CN118614057A (zh) 远程操作支援系统和远程操作支援方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220815

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20220815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220830

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230206

R150 Certificate of patent or registration of utility model

Ref document number: 7228303

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150