JP6898816B2 - 表示システム、表示方法、及び表示装置 - Google Patents
表示システム、表示方法、及び表示装置 Download PDFInfo
- Publication number
- JP6898816B2 JP6898816B2 JP2017178316A JP2017178316A JP6898816B2 JP 6898816 B2 JP6898816 B2 JP 6898816B2 JP 2017178316 A JP2017178316 A JP 2017178316A JP 2017178316 A JP2017178316 A JP 2017178316A JP 6898816 B2 JP6898816 B2 JP 6898816B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- work machine
- transport vehicle
- coordinate system
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/264—Sensors and their calibration for indicating the position of the work tool
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/20—Drives; Control devices
- E02F9/2025—Particular purposes of control systems not otherwise provided for
- E02F9/205—Remotely operated machines, e.g. unmanned vehicles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Y—INDEXING SCHEME RELATING TO ASPECTS CROSS-CUTTING VEHICLE TECHNOLOGY
- B60Y2200/00—Type of vehicle
- B60Y2200/40—Special vehicles
- B60Y2200/41—Construction vehicles, e.g. graders, excavators
- B60Y2200/412—Excavators
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/30—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom
- E02F3/32—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom working downwardly and towards the machine, e.g. with backhoes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04Q—SELECTING
- H04Q9/00—Arrangements in telecontrol or telemetry systems for selectively calling a substation from a main station, in which substation desired apparatus is selected for applying a control signal thereto or for obtaining measured values therefrom
Description
本発明は、表示システム、表示方法、及び表示装置に関する。
作業機械を遠隔操作する技術が知られている。作業機械を遠隔操作する場合、撮像装置によって作業現場が撮像される。撮像装置で撮像された作業現場の画像は、遠隔操作施設に設けられている表示装置に表示される。操作者は、表示装置に表示される作業現場の画像を見ながら、遠隔操作装置を操作する。
特許文献1には、作業機械に設けられたカメラで作業現場を撮像するとともに、作業現場に設置されたカメラで作業機械の様子を外方から撮像する技術が開示されている。
作業機械を遠隔操作する場合、表示装置に表示される画像が2次元画像であると、操作者は、作業現場の遠近感を得難くなる可能性がある。作業現場の遠近感が得難いと、作業機械を使って運搬車両に対して積込作業を実施する場合、操作者は、作業機械と運搬車両との距離を把握することが困難となる。その結果、遠隔操作の作業効率が低下する可能性がある。
本発明の態様は、操作者が作業機械を快適に遠隔操作することができ、作業効率の低下を抑制することができる技術を提供することを目的とする。
本発明の態様に従えば、作業機を有する作業機械の位置の検出データと前記作業機械の姿勢の検出データとに基づいて、前記作業機械の外部の仮想視点から見た前記作業機械の仮想視点画像を示す作業機械画像を生成する作業機械画像生成部と、運搬車両の位置の検出データと前記運搬車両の姿勢の検出データとに基づいて、前記仮想視点から見た前記運搬車両の仮想視点画像を示す運搬車両画像を生成する運搬車両画像生成部と、前記作業機械画像と前記運搬車両画像とを重畳した合成画像を生成する合成部と、前記合成画像を前記作業機械の外部に存在する表示装置に表示させる表示制御部と、を備える表示システムが提供される。
本発明の態様によれば、操作者が作業機械を快適に遠隔操作することができ、作業効率の低下を抑制することができる技術が提供される。
以下、本発明に係る実施形態について図面を参照しながら説明するが、本発明はこれに限定されない。以下で説明する実施形態の構成要素は適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
[作業機械、遠隔操作システム、及び運搬車両の概要]
図1は、本実施形態に係る作業機械1の遠隔操作システム100の一例を模式的に示す図である。遠隔操作システム100は、作業機械1を遠隔操作する。本実施形態においては、作業機械1が油圧ショベルであることとする。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
図1は、本実施形態に係る作業機械1の遠隔操作システム100の一例を模式的に示す図である。遠隔操作システム100は、作業機械1を遠隔操作する。本実施形態においては、作業機械1が油圧ショベルであることとする。以下の説明においては、作業機械1を適宜、油圧ショベル1、と称する。
油圧ショベル1は、走行体2と、旋回体3と、作業機4と、油圧シリンダ5と、距離検出装置20と、位置検出装置30(第1位置検出装置)と、姿勢検出装置40(第1姿勢検出装置)と、撮像装置50と、制御装置60とを有する。油圧ショベル1は、作業現場に存在し、作業現場で作業する。
本実施形態においては、旋回体3に車体座標系(Xm−Ym−Zm座標系)が規定される。車体座標系とは、旋回体3に規定された原点PLに対する相対位置を示す3次元の座標系である。旋回体3の車体座標系は、原点PLを基準とする第1基準面のXm軸と、第1基準面においてXm軸と直交するYm軸と、第1基準面と直交するZm軸とによって規定される。Xm軸と平行な方向をXm軸方向とし、Ym軸と平行な方向をYm軸方向とし、Zm軸方向と平行な方向をZm軸方向とする。Xm軸方向は旋回体3の前後方向であり、Ym軸方向は旋回体3の左右方向であり、Zm軸方向は旋回体3の上下方向である。
走行体2は、履帯2A,2Bを有する。履帯2A,2Bが回転することにより、油圧ショベル1が走行する。車体座標系のZm軸は、履帯2A,2Bの接地面と直交する。車体座標系の+Zm方向は、旋回体3の上方向であり、履帯2A,2Bの接地面から離れる方向である。車体座標系の−Zm方向は、旋回体3の下方向であり、+Zm方向とは反対の方向である。
旋回体3は、走行体2に旋回可能に支持される。旋回体3は、旋回軸Zrを中心に旋回可能である。旋回軸Zrは、車体座標系のZm軸と平行である。車体座標系の原点PLは、旋回体3のスイングサークルの中心に規定される。スイングサークルの中心は、旋回体3の旋回軸Zrに位置する。
作業機4は、旋回体3に支持される。車体座標系において、作業機4の少なくとも一部は、旋回体3よりも+Xm方向に配置される。車体座標系の+Xm方向は、旋回体3の前方向であり、旋回体3を基準として作業機4の先端部9が存在する方向である。車体座標系の−Xm方向は、旋回体3の後方向であり、+Xm方向とは反対の方向である。
作業機4は、旋回体3に連結されるブーム6と、ブーム6に連結されるアーム7と、アーム7に連結されるバケット8とを有する。作業機4の先端部9は、バケット8の刃先を含む。なお、作業機4の先端部9は、バケット8のブレードの先端部でもよい。
油圧シリンダ5は、作業機4を駆動するための動力を発生する。油圧シリンダ5は、油圧ポンプから供給される作動油によって駆動する。油圧シリンダ5は、ブーム6を駆動するブームシリンダ10と、アーム7を駆動するアームシリンダ11と、バケット8を駆動するバケットシリンダ12とを含む。
ブーム6は、回転軸AX1を中心に旋回体3に回転可能に連結される。アーム7は、回転軸AX2を中心にブーム6の先端部に回転可能に連結される。バケット8は、回転軸AX3を中心にアーム7の先端部に回転可能に連結される。ブーム6の回転軸AX1、アーム7の回転軸AX2、及びバケット8の回転軸AX3は、車体座標系のYm軸と平行である。車体座標系の+Ym方向は、旋回体3の左方向である。車体座標系の−Ym方向は、+Ym方向とは反対の方向であり、旋回体3の右方向である。
距離検出装置20は、油圧ショベル1に搭載される。距離検出装置20は、油圧ショベル1の周囲の対象WAaとの距離Ldを検出する(図9参照)。
対象WAaとして、作業現場において施工される施工対象、地表、旋回体3よりも前方向に存在する作業機4の少なくとも一部、構造物、及び油圧ショベル1とは別の作業機械の少なくとも一つが例示される。
本実施形態において、距離検出装置20は、レーザレンジファインダを含む。距離検出装置20は、検出光であるレーザ光を射出する射出部と、対象WAaに照射されたレーザ光の反射光を受光する受光部とを有する。距離検出装置20は、旋回体3の上部に設けられる。距離検出装置20の受光部は、旋回体3の前方向(+Xm方向)を向く。距離検出装置20は、旋回体3の前方向の対象WAaとの距離Ldを検出する。距離検出装置20の検出データは、制御装置60に出力される。
位置検出装置30は、油圧ショベル1に搭載される。位置検出装置30は、グローバル座標系(Xg−Yg−Zg座標系)における油圧ショベル1の旋回体3の位置Paを検出する。グローバル座標系とは、地球に規定された原点PGを基準とする3次元の座標系であって、全地球測位システム(Global Positioning System:GPS)のような全地球航法衛星システム(Global Navigation Satellite System:GNSS)により規定される絶対位置を示す座標系である。位置検出装置30は、旋回体3に設けられる。位置検出装置30は、GNSSを利用して、旋回体3の位置Paを検出する。位置検出装置30の検出データは、制御装置60に出力される。
姿勢検出装置40は、油圧ショベル1に搭載される。姿勢検出装置40は、油圧ショベル1の姿勢を検出する。油圧ショベル1の姿勢は、旋回体3の姿勢及び作業機4の姿勢を含む。旋回体3の姿勢は、旋回体3の傾斜角を含む。作業機4の姿勢は、作業機4の傾斜角を含む。姿勢検出装置40は、旋回体3の姿勢を検出する旋回体姿勢センサ41と、作業機4の姿勢を検出する作業機姿勢センサ42とを含む。姿勢検出装置40の検出データは、制御装置60に出力される。
本実施形態において、旋回体姿勢センサ41は、旋回体3に設けられた慣性計測装置(Inertial Measurement Unit:IMU)を含む。作業機姿勢センサ42は、油圧シリンダ5の作動量を示すシリンダストロークを検出するストロークセンサを含む。
撮像装置50は、油圧ショベル1に搭載される。撮像装置50は、油圧ショベル1の周囲の対象WAaを撮像して、対象WAaの画像を取得する。撮像装置50は、光学系と、光学系を通過した光を受光するイメージセンサとを有する。イメージセンサは、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを含む。
本実施形態において、撮像装置50は、単眼カメラである。撮像装置50は、旋回体3の上部に設けられる。撮像装置50の光学系の入射面は、旋回体3の前方向(+Xm方向)を向く。撮像装置50は、旋回体3の前方向の対象WAaの画像を取得する。本実施形態において、撮像装置50は、旋回体3よりも前方向に存在する作業機4の少なくとも一部の画像を取得可能である。撮像装置50で取得された対象WAaの画像データは、制御装置60に出力される。
以下の説明においては、撮像装置50で取得される画像を適宜、実画像RG、と称する。実画像RGは、撮像装置50で撮像された作業現場の実際の画像を示す。実画像RGは、2次元画像である。
遠隔操作システム100は、油圧ショベル1の外部に存在する遠隔操作施設に設けられる遠隔操作装置70と、作業現場に存在する対象WAa及び運搬車両WAbの画像を遠隔操作施設において表示させる表示システム200とを備える。
表示システム200は、油圧ショベル1の外部に存在する表示装置80と、油圧ショベル1の外部に存在し油圧ショベル1と通信可能な制御装置90とを備える。遠隔操作装置70、表示装置80、及び制御装置90のそれぞれは、遠隔操作施設に設けられる。遠隔操作装置70、表示装置80、及び制御装置90のそれぞれは、油圧ショベル1及び運搬車両WAbとは別体で設けられる。
油圧ショベル1に搭載されている制御装置60と遠隔操作施設に設けられている制御装置90とは、通信システム300を介して通信する。通信システム300は、有線通信してもよいし、無線通信してもよい。通信システム300は、インターネット(internet)、ローカルエリアネットワーク(LAN:Local Area Network)、携帯電話通信網、及び衛星通信網の少なくとも一つを含む。
油圧ショベル1は、遠隔操作装置70によって遠隔操作される。遠隔操作装置70は、油圧ショベル1の旋回体3及び作業機4を遠隔操作する作業レバー71と、走行体2を遠隔操作する走行レバー72とを含む。操作者は、遠隔操作施設において遠隔操作装置70を操作する。遠隔操作装置70が操作されることにより生成された操作信号は、通信システム300を介して制御装置60に送信される。制御装置60は、操作信号に基づいて、旋回体3、作業機4、及び走行体2を制御する制御信号を出力する。これにより、油圧ショベル1は遠隔操作される。
作業レバー71は、旋回体3及び作業機4の作動のために操作される左作業レバー71L及び右作業レバー71Rを含む。走行レバー72は、走行体2の作動のために操作される左走行レバー72L及び右走行レバー72Rを含む。
作業現場において、運搬車両WAbが稼働する。運搬車両WAbは、ダンプトラックであり、荷台401と、荷台401を支持する車体402と、車体402を支持する走行装置403と、位置検出装置430(第2位置検出装置)と、姿勢検出装置440(第2姿勢検出装置)と、制御装置460とを有する。走行装置403は、タイヤを支持する車輪及び操舵装置を含む。
運搬車両WAbに運転者が搭乗する。運搬車両WAbは、運転者によって操作される。油圧ショベル1は、施工対象を作業機4で掘削して、掘削することにより生じた積荷を運搬車両WAbに積み込む。運搬車両WAbは、油圧ショベル1により積み込まれた積荷を運搬する。
なお、運搬車両WAbに運転者が搭乗しなくてもよい。すなわち、運搬車両WAbは、例えば管理システムから送信された指令信号に基づいて走行する無人運搬車両(無人ダンプトラック)でもよい。
本実施形態においては、車体402に車体座標系(Xn−Yn−Zn座標系)が規定される。車体座標系とは、車体402に規定された原点PNに対する相対位置を示す3次元の座標系である。車体402の車体座標系は、原点PNを基準とする第4基準面のXn軸と、第4基準面においてXn軸と直交するYn軸と、第4基準面と直交するZn軸とによって規定される。Xn軸と平行な方向をXn軸方向とし、Yn軸と平行な方向をYn軸方向とし、Zn軸方向と平行な方向をZn軸方向とする。Xn軸方向は車体402の前後方向であり、Yn軸方向は車体402の左右方向であり、Zn軸方向は車体402の上下方向である。
位置検出装置430は、運搬車両WAbに搭載される。位置検出装置430は、グローバル座標系(Xg−Yg−Zg座標系)における運搬車両WAbの位置Pbを検出する。位置検出装置430は、車体402に設けられる。位置検出装置430は、GNSSを利用して、車体402の位置Pbを検出する。位置検出装置430の検出データは、制御装置460に出力される。
姿勢検出装置440は、運搬車両WAbに搭載される。姿勢検出装置440は、運搬車両WAbの姿勢を検出する。運搬車両WAbの姿勢は、車体402の姿勢を含む。車体402の姿勢は、車体402の傾斜角を含む。姿勢検出装置440の検出データは、制御装置460に出力される。本実施形態において、姿勢検出装置440は、車体402に設けられた慣性計測装置(Inertial Measurement Unit:IMU)を含む。
運搬車両WAbに搭載されている制御装置460と遠隔操作施設に設けられている制御装置90とは、通信システム300を介して通信する。
[作業機械]
図2は、本実施形態に係る油圧ショベル1を模式的に示す側面図である。図3は、本実施形態に係る油圧ショベル1を模式的に示す背面図である。図4は、本実施形態に係る油圧ショベル1を模式的に示す平面図である。
図2は、本実施形態に係る油圧ショベル1を模式的に示す側面図である。図3は、本実施形態に係る油圧ショベル1を模式的に示す背面図である。図4は、本実施形態に係る油圧ショベル1を模式的に示す平面図である。
図2、図3、及び図4に示すように、油圧ショベル1は、距離検出装置20と、位置検出装置30と、旋回体姿勢センサ41及び作業機姿勢センサ42を含む姿勢検出装置40と、撮像装置50と、制御装置60とを有する。
旋回体3に複数のGPSアンテナ31が設けられる。GPSアンテナ31は、GPS衛星から電波を受信して、受信した電波に基づいて生成した信号を位置検出装置30に出力する。位置検出装置30は、GPSアンテナ31からの信号に基づいて、グローバル座標系で規定されるGPSアンテナ31が設置されている位置Prを検出する。位置検出装置30は、GPSアンテナ31が設置されている位置Prに基づいて、グローバル座標系における旋回体3の位置Paを検出する。
GPSアンテナ31は、左右方向に2つ設けられる。位置検出装置30は、一方のGPSアンテナ31が設置されている位置Pra及び他方のGPSアンテナ31が設置されている位置Prbのそれぞれを検出する。位置検出装置30は、位置Praと位置Prbとの少なくとも一方に基づいて演算処理を実施して、グローバル座標系における旋回体3の位置Paを検出する。本実施形態において、旋回体3の位置Paは、位置Praである。なお、旋回体3の位置Paは、位置Prbでもよいし、位置Praと位置Prbとの間の位置でもよい。
旋回体姿勢センサ41は、慣性計測装置(IMU)を含む。旋回体姿勢センサ41は、グローバル座標系で規定されるXg−Yg平面(水平面)に対する旋回体3の傾斜角を検出する。旋回体3の傾斜角は、水平面に対する左右方向における旋回体3の傾斜角を示すロール角θ1と、水平面に対する前後方向における旋回体3の傾斜角を示すピッチ角θ2と、Zm軸を中心とする回転方向における旋回体3の傾斜角を示すヨー角θ3とを含む。ロール角θ1、ピッチ角θ2、及びヨー角θ3は、慣性計測装置によって検出された角速度を時間積分することにより算出される。旋回体3が旋回すると、ヨー角θ3が変化する。走行体2が停止した状態で旋回体3が旋回する場合、ヨー角θ3は、旋回体3の旋回角に相当する。
旋回体3の姿勢は、ロール角θ1、ピッチ角θ2、及びヨー角θ3の少なくとも一つを含む。
なお、ヨー角θ3は、位置検出装置30によって検出されてもよい。位置検出装置30は、一方のGPSアンテナ31の位置Praと他方のGPSアンテナ31の位置Prbとに基づいて、グローバル座標系における基準方位に対する旋回体3の方位を検出することができる。位置検出装置30は、位置Praと位置Prbとに基づいて演算処理を実施して、基準方位に対する旋回体3の方位を検出する。基準方位と旋回体3の方位とがなす角度がヨー角θ3に相当する。位置検出装置30は、位置Praと位置Prbとを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、ヨー角θ3を検出することができる。
作業機姿勢センサ42は、ストロークセンサを含む。作業機姿勢センサ42は、車体座標系で規定される作業機4の傾斜角を検出する。ストロークセンサは、ブームシリンダ10のシリンダストロークを検出するブームストロークセンサ42Aと、アームシリンダ11のシリンダストロークを検出するアームストロークセンサ42Bと、バケットシリンダ12のシリンダストロークを検出するバケットストロークセンサ42Cとを含む。制御装置60は、ブームストロークセンサ42Aの検出データに基づいて、車体座標系のZm軸に対するブーム6の傾斜角αを算出する。制御装置60は、アームストロークセンサ42Bの検出データに基づいて、ブーム6に対するアーム7の傾斜角βを算出する。制御装置60は、バケットストロークセンサ42Cの検出データに基づいて、アーム7に対するバケット8の傾斜角γを算出する。
作業機4の姿勢は、傾斜角α、傾斜角β、及び傾斜角γの少なくとも一つを含む。
[運搬車両]
図5は、本実施形態に係る運搬車両WAbを模式的に示す側面図である。図6は、本実施形態に係る運搬車両WAbを模式的に示す背面図である。図7は、本実施形態に係る運搬車両WAbを模式的に示す平面図である。
図5は、本実施形態に係る運搬車両WAbを模式的に示す側面図である。図6は、本実施形態に係る運搬車両WAbを模式的に示す背面図である。図7は、本実施形態に係る運搬車両WAbを模式的に示す平面図である。
図5、図6、及び図7に示すように、運搬車両WAbは、位置検出装置430と、姿勢検出装置440と、制御装置460とを有する。
車体402に複数のGPSアンテナ431が設けられる。位置検出装置430は、GPSアンテナ431からの信号に基づいて、グローバル座標系で規定されるGPSアンテナ431が設置されている位置を検出する。位置検出装置430は、GPSアンテナ431が設置されている位置に基づいて、グローバル座標系における車体402の位置Pbを検出する。
姿勢検出装置440は、慣性計測装置(IMU)を含む。姿勢検出装置440は、グローバル座標系で規定されるXg−Yg平面(水平面)に対する車体402の傾斜角を検出する。車体402の傾斜角は、水平面に対する左右方向における車体402の傾斜角を示すロール角θ4と、水平面に対する前後方向における車体402の傾斜角を示すピッチ角θ5と、Zn軸を中心とする回転方向における車体402の傾斜角を示すヨー角θ6とを含む。ロール角θ4、ピッチ角θ5、及びヨー角θ6は、慣性計測装置によって検出された角速度を時間積分することにより算出される。なお、ヨー角θ6は、位置検出装置430によって検出されてもよい。車体402が旋回すると、ヨー角θ6が変化する。
車体402の姿勢は、ロール角θ4、ピッチ角θ5、及びヨー角θ6の少なくとも一つを含む。車体402が旋回すると、ヨー角θ6が変化する。
[座標系]
図8は、本実施形態に係る距離検出装置20及び撮像装置50を模式的に示す図である。上述のように、本実施形態においては、グローバル座標系(Xg−Yg−Zg座標系)と、車体座標系(Xm−Ym−Zm座標系)とが規定される。
図8は、本実施形態に係る距離検出装置20及び撮像装置50を模式的に示す図である。上述のように、本実施形態においては、グローバル座標系(Xg−Yg−Zg座標系)と、車体座標系(Xm−Ym−Zm座標系)とが規定される。
また、本実施形態においては、距離検出装置座標系(Xd−Yd−Zd座標系)と、撮像装置座標系(Xc−Yc−Zc座標系)とが規定される。
距離検出装置座標系とは、距離検出装置20に規定された原点PDに対する相対位置を示す3次元の座標系である。距離検出装置座標系は、原点PDを基準とする第2基準面のXd軸と、第2基準面においてXd軸と直交するYd軸と、第2基準面と直交するZd軸とによって規定される。距離検出装置座標系の原点PDは、距離検出素子20RCの検出面20Pの中心に規定される。
撮像装置座標系とは、撮像装置50に規定された原点PCに対する相対位置を示す3次元の座標系である。撮像装置座標系は、原点PCを基準とする第3基準面のXc軸と、第3基準面においてXc軸と直交するYc軸と、第3基準面と直交するZc軸とによって規定される。撮像装置座標系の原点PCは、イメージセンサ19RCの撮像面19Pの中心に規定される。Xc軸は、撮像装置50の光学中心を通り、撮像面19Pと直交する。
位置検出装置30で検出されるグローバル座標系における旋回体3の位置Paと、旋回体3の車体座標系における原点PLとの相対位置は、例えば油圧ショベル1の設計データ又は諸元データなどから導出される既知データである。また、旋回体3の車体座標系における原点PLと距離検出装置座標系における原点PDと撮像装置座標系における原点PCとの相対位置は、例えば油圧ショベル1の設計データ、距離検出装置20の設計データ又は諸元データ、及び撮像装置50の設計データ又は諸元データなどから導出される既知データである。そのため、グローバル座標系における旋回体3の位置Paと、旋回体3の車体座標系における位置と、距離検出装置座標系における位置と、撮像装置座標系における位置とは、相互に変換可能である。
また、位置検出装置430で検出されるグローバル座標系における車体402の位置Pbと、車体402の車体座標系における原点PNとの相対位置は、例えば運搬車両WAbの設計データ又は諸元データなどから導出される既知データである。また、グローバル座標系における旋回体3と車体402との相対位置は、位置検出装置30によって検出される旋回体3の位置Paと位置検出装置430によって検出される車体座標系402の位置Pbとによって規定される。そのため、グローバル座標系における旋回体3の位置と、グローバル座標系における車体402の位置Pbと、旋回体3の車体座標系における位置と、車体402の車体座標系における位置Pbとは、相互に変換可能である。また、グローバル座標系における車体402の位置と、車体402の車体座標系における位置と、距離検出装置座標系における位置と、撮像装置座標系における位置とは、相互に変換可能である。
[距離検出装置及び撮像装置]
図9は、本実施形態に係る距離検出装置20及び撮像装置50の一例を模式的に示す図である。図9は、距離検出装置20によって検出され撮像装置50によって撮像される対象WAaが施工対象の地表である例を示す。
図9は、本実施形態に係る距離検出装置20及び撮像装置50の一例を模式的に示す図である。図9は、距離検出装置20によって検出され撮像装置50によって撮像される対象WAaが施工対象の地表である例を示す。
図9に示すように、距離検出装置20は、検出範囲MAを有する。距離検出装置20は、検出範囲MAに存在する対象WAaとの距離Ldを検出する。距離Ldは、距離検出装置座標系における原点PDと対象WAaの表面との距離である。
距離検出装置20は、対象WAaの表面との距離Ldを検出して、距離検出装置座標系における対象物WAaの表面の位置Pdを検出する。位置Pdは、原点PDに対する方位及び角度を規定する。距離検出装置20は、距離検出装置座標系における位置Pdの3次元の座標(Xd,Yd,Zd)を検出することができる。
距離検出装置20は、対象WAaの表面の複数の部位のそれぞれとの距離Ldを検出して、それら複数の部位それぞれの位置Pdを検出することにより、距離検出座標系における対象WAaの3次元形状を検出することができる。対象WAaの3次元形状は、3次元の座標(Xd,Yd,Zd)が検出された複数の位置Pdの点群データである。
距離検出装置20は、旋回体3の前方向の対象WAaの3次元形状を検出する。対象WAaが地表である場合、距離検出装置20は、地表の複数の部位のそれぞれとの距離Ldを検出して、油圧ショベル1の前方向の地形を検出することができる。
上述のように、グローバル座標系における位置と、旋回体3の車体座標系における位置と、車体402の車体座標系における位置と、距離検出装置座標系における位置と、撮像装置座標系における位置とは、相互に変換可能である。したがって、距離検出装置座標系において規定された複数の位置Pd(Xd,Yd,Zd)の点群データは、旋回体3の車体座標系において規定される複数の位置Pm(Xm,Ym,Zm)の点群データに変換可能であり、車体402の車体座標系において規定される複数の位置Pn(Xn,Yn,Zn)の点群データに変換可能であり、グローバル座標系において規定される複数の位置Pg(Xg,Yg,Zg)の点群データに変換可能であり、撮像装置座標系において規定される複数の位置Pc(Xc,Yc,Zc)の点群データに変換可能である。換言すれば、距離検出装置座標系において規定される対象WAaの3次元形状は、座標変換することによって、旋回体3の車体座標系、車体402の車体座標系、グローバル座標系、及び撮像装置座標系のそれぞれの対象WAaの3次元形状に変換可能である。
撮像装置50は、撮像範囲TAを有する。撮像装置50は、撮像範囲TAに存在する対象WAaの画像を取得することができる。対象WAaの表面において、検出範囲MAと撮像範囲TAの少なくとも一部とが重複する。検出範囲MAと撮像範囲TAの少なくとも一部とが重複するように、旋回体3に対する距離検出装置20の設置状態及び撮像装置50の設置状態が調整される。検出範囲MAと撮像範囲TAとが重複する範囲は可能な限り大きいことが好ましい。撮像装置50は、複数の位置Pdのそれぞれに対応する画像を取得する。位置Pdに対応する画像における位置Pcは、撮像装置座標系において規定される。距離検出装置20で検出された対象WAaの3次元形状における位置Pdを撮像装置座標系の画像における位置Pcに変換することによって、撮像装置座標系において、対象WAaの3次元形状と対象WAaの画像とを重ね合わせることができる。また、対象WAaの3次元形状における位置Pd及び対象WAaの画像における位置Pcは、旋回体3の車体座標系の位置Pm、車体402の車体座標系の位置Pn、又はグローバル座標系の位置Pgに変換可能である。
[制御装置]
図10は、本実施形態に係る制御装置60、制御装置460、及び制御装置90の一例を示す機能ブロック図である。
図10は、本実施形態に係る制御装置60、制御装置460、及び制御装置90の一例を示す機能ブロック図である。
制御装置60は、コンピュータシステムを含む。制御装置60は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置60Aと、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置60Bと、信号及びデータを送受信可能な入出力回路を含む入出力インターフェース60Cとを有する。
制御装置460は、コンピュータシステムを含む。制御装置460は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置460Aと、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置460Bと、信号及びデータを送受信可能な入出力回路を含む入出力インターフェース460Cとを有する。
制御装置90は、コンピュータシステムを含む。制御装置90は、CPU(Central Processing Unit)のようなプロセッサを含む演算処理装置90Aと、RAM(Random Access Memory)のような揮発性メモリ及びROM(Read Only Memory)のような不揮発性メモリを含む記憶装置90Bと、入出力インターフェース90Cとを有する。
表示装置80は、液晶ディスプレイ(LCD:Liquid Crystal Display)又は有機ELディスプレイ(OELD:Organic Electroluminescence Display)のようなフラットパネルディスプレイを含む。
距離検出装置20が検出した対象WAaとの距離Ldを示す検出データは、制御装置60に所定の周期で出力される。制御装置60の入出力インターフェース60Cは、距離検出装置20の検出データを受信する。制御装置60の入出力インターフェース60Cは、通信システム300を介して、距離検出装置20の検出データを制御装置90に所定の周期で送信する。
位置検出装置30が検出した旋回体3の位置Paを示す検出データは、制御装置60に所定の周期で出力される。制御装置60の入出力インターフェース60Cは、位置検出装置30の検出データを受信する。制御装置60の入出力インターフェース60Cは、通信システム300を介して、位置検出装置30の検出データを制御装置90に所定の周期で送信する。
姿勢検出装置40が検出した油圧ショベル1の姿勢を示す検出データは、制御装置60に所定の周期で出力される。制御装置60の入出力インターフェース60Cは、姿勢検出装置40の検出データを受信する。制御装置60の入出力インターフェース60Cは、通信システム300を介して、姿勢検出装置40の検出データを制御装置90に所定の周期で送信する。
撮像装置50が撮像した対象WAaの画像データは、制御装置60に所定の周期で出力される。制御装置60の入出力インターフェース60Cは、撮像装置50の画像データを受信する。制御装置60の入出力インターフェース60Cは、通信システム300を介して、対象WAaの画像データを制御装置90に所定の周期で送信する。
位置検出装置430が検出した車体402の位置Pbを示す検出データは、制御装置460に所定の周期で出力される。制御装置460の入出力インターフェース460Cは、位置検出装置430の検出データを受信する。制御装置460の入出力インターフェース460Cは、通信システム300を介して、位置検出装置430の検出データを制御装置90に所定の周期で送信する。
姿勢検出装置440が検出した運搬車両WAbの姿勢を示す検出データは、制御装置460に所定の周期で出力される。制御装置460の入出力インターフェース460Cは、姿勢検出装置440の検出データを受信する。制御装置460の入出力インターフェース460Cは、通信システム300を介して、姿勢検出装置440の検出データを制御装置90に所定の周期で送信する。
制御装置90は、通信システム300を介して、距離検出装置20の検出データ、位置検出装置30の検出データ、姿勢検出装置40の検出データ、撮像装置50が撮像した対象WAaの画像データ、位置検出装置430の検出データ、及び姿勢検出装置440の検出データを所定の周期で受信する。制御装置90は、距離検出装置20の検出データに基づいて、油圧ショベル1の外部の仮想視点から見た対象WAaの仮想視点画像を示す対象画像AGaを所定の周期で生成する。また、制御装置90は、位置検出装置30の検出データと姿勢検出装置40の検出データとに基づいて、油圧ショベル1の外部の仮想視点から見た油圧ショベル1の仮想視点画像を示す作業機械画像BGを所定の周期で生成する。また、制御装置90は、位置検出装置430の検出データと姿勢検出装置440の検出データとに基づいて、油圧ショベル1及び運搬車両WAbの外部の仮想視点から見た運搬車両WAbの仮想視点画像を示す運搬車両画像AGbを所定の周期で生成する。また、制御装置90は、対象画像AGaと作業機械画像BGと運搬車両画像AGbとを重畳した合成画像IGを所定の周期で生成する。
表示装置80は、制御装置90で生成された合成画像IGを表示する。対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを含む合成画像IGは、制御装置90によって生成されるコンピュータグラフィックス(computer graphics)である。表示装置80に表示される対象画像AGa、作業機械画像BG、及び運搬車両画像AGbのそれぞれは、油圧ショベル1及び運搬車両WAbの外部の仮想視点から俯瞰した3次元画像である。また、表示装置80は、撮像装置50で撮像された作業現場の対象WAaの実際の画像を示す実画像RGを表示する。実画像RGは、2次元画像である。
仮想視点とは、実空間(本実施形態においては作業現場)を模擬した仮想空間において、仮想的に設定された視点をいう。仮想視点の位置及び向きは任意に設定可能である。仮想視点画像とは、仮想空間において、位置及び向きが設定された仮想視点から俯瞰した仮想的な画像をいう。例えば、仮想視点画像とは、仮想空間において、仮想視点に設置され、位置及び向きが設定された撮像装置で仮想空間を撮像したときに撮像される仮想的な画像をいう。仮想視点画像は、制御装置90によって生成されるコンピュータグラフィックスである。
本実施形態において、仮想視点の位置は、油圧ショベル1及び運搬車両WAbの外部であって、油圧ショベル1及び運搬車両WAbの斜め上方向に設定される。仮想視点の向きは、油圧ショベル1、油圧ショベル1の周囲の対象WAa、及び運搬車両WAbを見下ろすように、斜め下方向に設定される。対象画像AGaは、作業現場の仮想空間において仮想視点から俯瞰した対象WAaの仮想的な3次元画像である。作業機械画像BGは、作業現場の仮想空間において仮想視点から俯瞰した油圧ショベル1の仮想的な3次元画像である。運搬車両画像AGbは、作業現場の仮想空間において仮想視点から俯瞰した運搬車両WAbの仮想的な3次元画像である。
演算処理装置90Aは、データ受信部97と、対象画像生成部91と、作業機械画像生成部92と、運搬車両画像生成部95と、合成部96と、表示制御部93とを有する。記憶装置90Bは、座標変換データ記憶部94を有する。
データ受信部97は、距離検出装置20の検出データ、位置検出装置30の検出データ、姿勢検出装置40の検出データ、及び撮像装置50の画像データを、通信システム300を介して受信する。また、データ受信部97は、位置検出装置430の検出データ、及び姿勢検出装置440の検出データを、通信システム300を介して受信する。
対象画像生成部91は、距離検出装置20の検出データに基づいて、油圧ショベル1の外部の仮想視点から見た対象WAaの仮想視点画像を示す対象画像AGaを所定の周期で生成する。距離検出装置20の検出データは、対象WAaの表面の3次元形状を含む。対象画像AGaは、仮想視点から見た対象WAaの3次元画像である。対象画像生成部91は、対象WAaの3次元形状に基づいて、仮想視点から見た対象WAaの3次元画像である対象画像AGaを生成する。
本実施形態において、対象画像生成部91は、距離検出装置座標系で規定される対象画像AGaを所定の周期で生成する。対象画像AGaが施工対象(地形)である場合、作業現場において、掘削作業又は整地作業等により対象WAaの3次元形状が変化する。対象画像生成部91は、対象画像AGaを所定の周期で生成する。掘削作業又は整地作業等により対象WAaの3次元形状が変化した場合、対象画像生成部91は、対象WAaの3次元形状の変化に連動した対象画像AGaを生成する。
作業機械画像生成部92は、位置検出装置30の検出データ及び姿勢検出装置40の検出データに基づいて、油圧ショベル1の外部の仮想視点から見た油圧ショベル1の仮想視点画像を示す作業機械画像BGを所定の周期で生成する。姿勢検出装置40の検出データは、油圧ショベル1の旋回体3の姿勢及び作業機4の姿勢を含む。作業機械画像BGは、仮想視点から見た油圧ショベル1の3次元画像である。作業機械画像生成部92は、旋回体3の姿勢及び作業機4の姿勢に基づいて、仮想視点から見た油圧ショベル1の3次元画像である作業機械画像BGを所定の周期で生成する。
本実施形態において、作業機械画像生成部92は、旋回体3の車体座標系で規定される作業機械画像BGを所定の周期で生成する。また、例えば旋回体3が旋回してヨー角θ3が変化したとき、作業機械画像生成部92は、旋回体3の旋回に連動するように、作業機械画像BGを所定の周期で生成する。同様に、ロール角θ1及びピッチ角θ2の少なくとも一方が変化したとき、作業機械画像生成部92は、ロール角θ1及びピッチ角θ2の少なくとも一方の変化に連動するように、作業機械画像BGを所定の周期で生成する。また、作業機4が作動して、傾斜角α,β,γの少なくとも一つが変化したとき、作業機械画像生成部92は、傾斜角α,β,γの少なくとも一つの変化に連動するように、作業機械画像BGを所定の周期で生成する。
運搬車両画像生成部95は、位置検出装置430の検出データ及び姿勢検出装置440の検出データに基づいて、油圧ショベル1及び運搬車両WAbの外部の仮想視点から見た運搬車両WAbの仮想視点画像を示す運搬車両画像AGbを所定の周期で生成する。運搬車両画像AGbは、仮想視点から見た運搬車両WAbの3次元画像である。運搬車両画像生成部95は、運搬車両WAbの姿勢に基づいて、仮想視点から見た運搬車両WAbの3次元画像である運搬車両画像AGbを所定の周期で生成する。
本実施形態において、運搬車両画像生成部95は、車体402の車体座標系で規定される運搬車両画像AGbを所定の周期で生成する。また、例えば運搬車両WAbが旋回してヨー角θ6が変化したとき、運搬車両画像生成部95は、車体402の旋回に連動するように、運搬車両画像AGbを所定の周期で生成する。同様に、ロール角θ4及びピッチ角θ5の少なくとも一方が変化したとき、運搬車両画像生成部95は、ロール角θ4及びピッチ角θ5の少なくとも一方の変化に連動するように、運搬車両画像AGbを所定の周期で生成する。また、積込作業又は運搬作業等により運搬車両WAbの3次元形状又は位置が変化したとき、運搬車両画像生成部95は、運搬車両WAbの3次元形状又は位置の変化に連動するように、運搬車両画像AGbを生成する。
合成部96は、作業機械画像生成部92で生成された作業機械画像BGと、運搬車両画像生成部95で生成された運搬車両画像AGbとを合成して、合成画像IGを生成する。合成部96は、合成画像IGを所定の周期で生成する。合成画像IGは、作業機械画像BGと運搬車両画像AGbとを重畳した画像である。
本実施形態において、合成部96は、対象画像生成部91で生成された対象画像AGaと、作業機械画像生成部92で生成された作業機械画像BGと、運搬車両画像生成部95で生成された運搬車両画像AGbとを合成する。合成画像IGは、対象画像AGaと作業機械画像BGと運搬車両画像AGbとを重畳した画像である。なお、対象画像AGaは、合成画像IGに含まれなくてもよい。
表示制御部93は、合成画像IGを表示装置80に表示させる。表示制御部93は、合成部96で生成された合成画像IGを合成部96から取得する。表示制御部93は、合成画像IGを表示装置80が表示可能な表示データに変換して、表示装置80に出力する。これにより、合成画像IGが表示装置80に表示される。
座標変換データ記憶部94は、グローバル座標系における位置と、旋回体3の車体座標系における位置と、車体402の車体座標系における位置と、距離検出装置座標系における位置と、撮像装置座標系における位置とを相互に変換するための座標変換データを記憶する。座標変換データは、座標変換パラメータ又は座標変換行列式を含む。グローバル座標系における旋回体3の位置Paと、グローバル座標系における車体402の位置Pbと、旋回体3の車体座標系における原点PLと、車体402の車体座標系における原点PNと、距離検出装置座標系における原点PDと、撮像装置座標系における原点PCとの相対位置は、設計データ又は諸元データなどから導出される既知データである。そのため、座標変換データは、既知データに基づいて予め導出可能である。座標変換データ記憶部94は、予め導出された座標変換データを記憶する。
合成部96は、座標変換データ記憶部94に記憶されている座標変換データに基づいて、所定の単一の座標系において合成画像IGが表示装置80に表示されるように、対象画像AGa、作業機械画像BG、及び運搬車両画像AGbの少なくとも一つを座標変換する。表示制御部93は、単一の座標系において、合成画像IGを表示装置80に表示させる。
対象画像生成部91は、距離検出装置20の検出データに基づいて、距離検出装置座標系における対象画像AGaを生成することができる。作業機械画像生成部92は、姿勢検出装置40の検出データに基づいて、旋回体3の車体座標系における作業機械画像BGを生成することができる。また、作業機械画像生成部92は、位置検出装置30の検出データ及び姿勢検出装置40の検出データに基づいて、グローバル座標系における作業機械画像BGを生成することができる。運搬車両画像生成部95は、姿勢検出装置440の検出データに基づいて、車体402の車体座標系における運搬車両画像AGbを生成することができる。運搬車両画像生成部95は、位置検出装置430の検出データ及び姿勢検出装置440の検出データに基づいて、グローバル座標系における運搬車両画像AGbを生成することができる。合成部96は、対象画像AGa、作業機械画像BG、及び運搬車両画像AGbが単一の座標系で表示されるように、対象画像AGaの座標系、作業機械画像BGの座標系、及び運搬車両画像AGbの座標系の少なくとも一つを調整する。
例えば旋回体3の車体座標系で規定された対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを表示装置80に表示させる場合、合成部96は、座標変換データ記憶部94に記憶されている座標変換データに基づいて、距離検出座標系で規定されている対象画像AGaを旋回体3の車体座標系で規定される対象画像AGaに変換する。また、合成部96は、座標変換データ記憶部94に記憶されている座標変換データに基づいて、車体402の車体座標系又はグローバル座標系で規定されている運搬車両画像AGbを旋回体3の車体座標系で規定される運搬車両画像AGbに変換する。これにより、対象画像AGaと作業機械画像BGと運搬車両画像AGbとが、旋回体3の車体座標系において規定される。表示制御部93は、旋回体3の車体座標系において規定された対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを含む合成画像IGを表示装置80に表示させる。
また、例えばグローバル座標系で規定された対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを表示装置80に表示させる場合、合成部96は、座標変換データ記憶部94に記憶されている座標変換データに基づいて、距離検出座標系で規定されている対象画像AGaをグローバル座標系で規定される対象画像AGaに変換し、旋回体3の車体座標系で規定されている作業機械画像BGをグローバル座標系で規定される作業機械画像BGに変換し、車体402の車体座標系で規定されている運搬車両画像AGbをグローバル座標系で規定される運搬車両画像AGbに変換する。これにより、対象画像AGaと作業機械画像BGと運搬車両画像AGbとが、グローバル座標系において規定される。表示制御部93は、グローバル座標系において規定された対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを含む合成画像IGを表示装置80に表示させる。
本実施形態において、表示制御部93は、撮像装置50で撮像された対象WAaの実際の画像である実画像RGと、対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを含む合成画像IGとを表示装置80に同時に表示させる。本実施形態において、表示制御部93は、実画像RGを表示する表示画面の一部に合成画像IGを表示させる。
図11は、本実施形態に係る表示装置80の表示例を示す図である。撮像装置50は、旋回体3の前方向の対象WAaの実際の画像である実画像RGを取得する。表示制御部93は、撮像装置50で取得された作業現場の実画像RGを表示装置80の表示画面に表示させる。
撮像装置50は、旋回体3の前方向の対象WAaの実画像RGを取得する。撮像装置50の撮像において、作業機4の少なくとも一部が映り込む。撮像装置50によって取得される実画像RGは、作業機4の実画像を含む。本実施形態において、作業現場の実画像RGを表示する表示装置80の表示画面は、作業機4の実画像を含む。撮像装置50で撮像された作業現場の実画像RGが表示される表示装置80の表示画面に作業機4の実画像が表示される。
表示制御部93は、撮像装置50で撮像された作業現場の実画像RGを表示する表示装置80の表示画面の一部に、対象画像AGa、作業機械画像BG、及び運搬車両画像AGbを含む合成画像IGを同時に表示させる。すなわち、表示制御部93は、作業現場の実画像RGを表示する表示装置80の表示画面の一部に、対象画像AGa、作業機械画像BG、及び運搬車両画像AGbをインポーズさせる。以下の説明において、表示装置80の表示画面の一部にインポーズされる少なくとも作業機械画像BG及び運搬車両画像AGbを含む合成画像IGを適宜、インポーズ画像IG、と称する。本実施形態において、インポーズ画像IGは、作業機械画像BG及び運搬車両画像AGbのみならず、対象画像AGaも含む。
インポーズ画像IGにおいて、対象画像AGaと作業機械画像BGと運搬車両画像AGbとは重畳して表示される。
本実施形態において、表示制御部93は、表示画面において、作業機4の実画像と作業機械画像BG及び運搬車両画像AGbを含むインポーズ画像IGとを異なる位置に表示させる。図11に示すように、本実施形態において、作業機4の実画像は、表示装置80の表示画面の中央部及び右部に表示される。表示制御部93は、作業機4の実画像とインポーズ画像IGとが重複しないように、インポーズ画像IGを表示装置80の表示画面の角部に表示させる。本実施形態においては、作業機4の実画像のみならず、作業機4による施工対象である地表の実画像が表示装置80の表示画面に表示される。そのため、表示制御部93は、作業機4の実画像及び地表の実画像とインポーズ画像IGとが重複しないように、インポーズ画像IGを表示装置80の表示画面の左上の角部に表示させる。なお、インポーズ画像IGは、表示装置80の表示画面の右上の角部に表示されてもよい。作業機4の実画像及び施工対象の実画像がインポーズ画像IGで隠れないので、操作者は、実画像を見ながら、作業機4を使って施工対象を施工する作業を円滑に実施することができる。
仮想視点は、油圧ショベル1及び油圧ショベル1の周囲の対象WAaの斜め上方向に設定される。本実施形態においては、対象WAaとして、施工対象である地表が存在する。すなわち、本実施形態において、対象画像AGaは、仮想視点から俯瞰した施工対象である地表WAaの3次元形状を示す3次元画像である。
例えば、油圧ショベル1による掘削作業又は整地作業等の作業が進行すると、対象WAaである地表の形状が変化する。地表の形状の変化に伴って、対象画像AGaの形状も変化する。掘削作業又は整地作業等により対象WAaである地表の形状が変化した場合、表示制御部93は、距離検出装置20の検出データに基づいて、地表の形状の変化に連動した対象画像AGaを表示装置80に表示させる。
本実施形態において、作業機械画像BGは、仮想視点から俯瞰した油圧ショベル1を簡易的に模擬したスケルトン画像である。油圧ショベル1の移動及び油圧ショベル1の姿勢の変化に伴って、作業機械画像BGがリアルタイムで動く。すなわち、作業機械画像BGは、油圧ショベル1の位置及び姿勢の変化に同期して動く。表示制御部93は、位置検出装置30の検出データに基づいて、油圧ショベル1(走行体2)が移動していることを検出したとき、油圧ショベル1の位置の変化に連動するように、作業機械画像BGを動かす。作業機械画像BGは、走行体2を模擬した仮想視点画像である走行体画像2Gと、旋回体3を模擬した仮想視点画像である旋回体画像3Gと、作業機4を模擬した仮想視点画像である作業機画像4Gとを含む。作業機画像4Gは、ブーム6を模擬したブーム画像6Gと、アーム7を模擬したアーム画像7Gと、バケット8を模擬したバケット画像8Gとを含む。
走行体画像2Gは、走行体2の外形を簡易的に示すスケルトン画像を含む。旋回体画像3Gは、旋回体3の外形を簡易的に示すスケルトン画像を含む。作業機画像4Gは、作業機4の外形を簡易的に示すスケルトン画像を含む。走行体画像2G、旋回体画像3G、及び作業機画像4Gを含む作業機械画像BGは、3次元コンピュータグラフィックスである。作業機械画像生成部92は、記憶装置90Bに記憶されているスケルトン画像(3次元CGモデル)を記憶装置90Bから取得し、位置検出装置30の検出データ及び姿勢検出装置40の検出データに基づいて、油圧ショベル1の位置の変化及び姿勢の変化と同期して動く作業機械画像BGを生成する。
例えば、油圧ショベル1が移動すると、位置検出装置30は、油圧ショベル1が移動したことを示す検出データを制御装置90に所定の周期で送信する。作業機械画像生成部92は、油圧ショベル1の移動と連動するように、作業機械画像BGを移動させる。表示制御部93は、作業機械画像BG(走行体画像2G)が移動するように、作業機械画像BGを表示装置80に表示させる。
また、油圧ショベル1の姿勢が変化しているとき、表示制御部93は、姿勢検出装置40の検出データに基づいて、油圧ショベル1の姿勢の変化に連動するように、作業機械画像BGを動かす。油圧ショベル1の旋回体3が旋回すると、旋回体姿勢センサ41は、旋回体3が旋回したことを示す検出データを制御装置90に所定の周期で送信する。作業機械画像生成部92は、油圧ショベル1の旋回体3の旋回と連動するように、作業機械画像BGの旋回体画像3Gを旋回させる。表示制御部93は、旋回体画像3Gが旋回するように、作業機械画像BGを表示装置80に表示させる。また、油圧ショベル1の作業機4が作動すると、作業機姿勢センサ42は、作業機4が作動したことを示す検出データを制御装置90に送信する。作業機械画像生成部92は、油圧ショベル1の作業機4の作動と連動するように、作業機械画像BGの作業機画像4Gを作動させる。表示制御部93は、作業機画像4Gが作動するように、作業機械画像BGを表示装置80に表示させる。例えば、表示制御部93は、傾斜角αの変化に連動するようにブーム画像6Gを動かし、傾斜角βの変化に連動するようにアーム画像7Gを動かし、傾斜角γの変化に連動するようにバケット画像8Gを動かす。
本実施形態において、運搬車両画像AGbは、仮想視点から俯瞰した運搬車両WAbを簡易的に模擬したスケルトン画像である。運搬車両WAbの移動及び運搬車両WAbの姿勢の変化に伴って、運搬車両画像AGbがリアルタイムで動く。すなわち、運搬車両画像AGbは、運搬車両WAbの位置及び姿勢の変化に同期して動く。表示制御部93は、位置検出装置430の検出データに基づいて、運搬車両WAbが移動していることを検出したとき、運搬車両WAbの位置の変化に連動するように、運搬車両画像AGbを動かす。運搬車両WAbが移動すると、位置検出装置430は、運搬車両WAbが移動したことを示す検出データを制御装置90に送信する。運搬車両画像生成部95は、運搬車両WAbの移動と連動するように、運搬車両画像AGbを移動させる。表示制御部93は、運搬車両画像AGbが移動するように、運搬車両画像AGbを表示装置80に表示させる。
運搬車両画像AGbは、運搬車両WAbの外形を簡易的に示すスケルトン画像を含む。運搬車両画像AGbは、3次元コンピュータグラフィックスである。運搬車両画像生成部95は、記憶装置90Bに記憶されているスケルトン画像(3次元CGモデル)を記憶装置90Bから取得し、位置検出装置430の検出データ及び姿勢検出装置440の検出データに基づいて、油圧ショベル1の位置の変化及び姿勢の変化と同期して動く運搬車両画像AGbを生成する。
また、運搬車両WAbの姿勢が変化しているとき、表示制御部93は、姿勢検出装置440の検出データに基づいて、運搬車両WAbの姿勢の変化に連動するように、運搬車両画像AGbを動かす。運搬車両WAbが傾斜又は旋回すると、姿勢検出装置440は、運搬車両WAbが傾斜又は旋回したことを示す検出データを制御装置90に送信する。運搬車両画像生成部95は、運搬車両WAbの傾斜又は旋回と連動するように、運搬車両画像AGbを傾斜又は旋回させる。表示制御部93は、運搬車両画像AGbが傾斜又は旋回するように、運搬車両画像AGbを表示装置80に表示させる。
また、運搬車両WAbの荷台に積み込まれる積荷の量が変化すると、運搬車両WAbの形状が変化する。距離検出装置20は、運搬車両WAbの形状を検出可能である。運搬車両WAbの形状が変化しているとき、表示制御部93は、距離検出装置20の検出データに基づいて、運搬車両WAbの形状の変化に連動するように、キャラクタ画像である運搬車両画像AGbの形状又は表示形態を変化させてもよい。
[表示方法]
図12、図13、及び図14は、本実施形態に係る表示方法の一例を示すフローチャートである。図12は、油圧ショベル1の制御装置60の処理を示すフローチャートである。図13は、運搬車両WAbの制御装置460の処理を示すフローチャートである。図14は、遠隔操作システム100の制御装置90の処理を示すフローチャートである。図12、図13、及び図14に示す処理は、所定の周期で実施される。
図12、図13、及び図14は、本実施形態に係る表示方法の一例を示すフローチャートである。図12は、油圧ショベル1の制御装置60の処理を示すフローチャートである。図13は、運搬車両WAbの制御装置460の処理を示すフローチャートである。図14は、遠隔操作システム100の制御装置90の処理を示すフローチャートである。図12、図13、及び図14に示す処理は、所定の周期で実施される。
図12を参照しながら、油圧ショベル1の制御装置60の処理について説明する。
距離検出装置20は、対象WAaとの距離Ldを検出して、対象WAaの3次元形状を検出する。
位置検出装置30は、旋回体3の位置Paを検出する。
姿勢検出装置40は、旋回体3の姿勢及び作業機4の姿勢を含む油圧ショベル1の姿勢を検出する。旋回体3の姿勢は、ロール角θ1、ピッチ角θ2、及びヨー角θ3を含む。旋回体3が旋回すると、ヨー角θ3が変化する。走行体2が停止した状態で旋回体3が旋回する場合、ヨー角θ3は、旋回体3の旋回角に相当する。作業機4の姿勢は、傾斜角α、傾斜角β、及び傾斜角γを含む。
また、撮像装置50は、作業現場の実画像RGを示す画像データを取得する。
距離検出装置20の検出データ、位置検出装置30の検出データ、姿勢検出装置40の検出データ、及び撮像装置50の画像データは、制御装置60に出力される。
制御装置60の入出力インターフェース60Cは、距離検出装置20の検出データを距離検出装置20から取得する(ステップS10)。
また、制御装置60の入出力インターフェース60Cは、位置検出装置30の検出データを位置検出装置30から取得する(ステップS20)。
また、制御装置60の入出力インターフェース60Cは、姿勢検出装置40の検出データを姿勢検出装置40から取得する(ステップS30)。
また、検出装置60の入出力インターフェース60Cは、撮像装置50の画像データを撮像装置50から取得する(ステップS40)。
なお、ステップS10とステップS20とステップS30とステップS40とが実施される順番は任意であり、同時に実施されてもよい。
制御装置60の入出力インターフェース60Cは、距離検出装置20の検出データを、通信システム300を介して、制御装置90に送信する(ステップS50)。
また、制御装置60の入出力インターフェース60Cは、位置検出装置30の検出データを、通信システム300を介して、制御装置90に送信する(ステップS60)。
また、制御装置60の入出力インターフェース60Cは、姿勢検出装置40の検出データを、通信システム300を介して、制御装置90に送信する(ステップS70)。
また、制御装置60の入出力インターフェース60Cは、撮像装置50の画像データを、通信システム300を介して、制御装置90に送信する(ステップS80)。
なお、ステップS50とステップS60とステップS70とステップS80とが実施される順番は任意であり、同時に実施されてもよい。
次に、図13を参照しながら、運搬車両WAbの制御装置460の処理について説明する。
位置検出装置430は、車体402の位置Pbを検出する。位置検出装置430の検出データは、制御装置460に出力される。
姿勢検出装置440は、車体402の姿勢を検出する。車体402の姿勢は、ロール角θ4、ピッチ角θ5、及びヨー角θ6を含む。姿勢検出装置440の検出データは、制御装置460に出力される。
制御装置460の入出力インターフェース460Cは、位置検出装置430の検出データを位置検出装置430から取得する(ステップS110)。
また、制御装置460の入出力インターフェース460Cは、姿勢検出装置440の検出データを姿勢検出装置440から取得する(ステップS120)。
なお、ステップS110とステップS120とが実施される順番は任意であり、同時に実施されてもよい。
制御装置460の入出力インターフェース460Cは、位置検出装置430の検出データを、通信システム300を介して、制御装置90に送信する(ステップS130)。
また、制御装置460の入出力インターフェース460Cは、姿勢検出装置440の検出データを、通信システム300を介して、制御装置90に送信する(ステップS140)。
なお、ステップS130とステップS140とが実施される順番は任意であり、同時に実施されてもよい。
次に、図14を参照しながら、遠隔操作システム100の制御装置90の処理について説明する。
制御装置90のデータ受信部97は、距離検出装置20の検出データを、通信システム300を介して受信する(ステップS210)。
また、制御装置90のデータ受信部97は、位置検出装置30の検出データを、通信システム300を介して受信する(ステップS220)。
また、制御装置90のデータ受信部97は、姿勢検出装置40の検出データを、通信システム300を介して受信する(ステップS230)。
また、制御装置90のデータ受信部97は、撮像装置50の画像データを、通信システム300を介して受信する(ステップS240)。
また、制御装置90のデータ受信部97は、位置検出装置430の検出データを、通信システム300を介して受信する(ステップS250)。
また、制御装置90のデータ受信部97は、姿勢検出装置440の検出データを、通信システム300を介して受信する(ステップS260)。
なお、ステップS210とステップS220とステップS230とステップS240とステップS250とステップS260とが実施される順番は任意であり、同時に実施されてもよい。
対象画像生成部91は、距離検出装置20の検出データに基づいて、対象WAaの仮想視点画像を示す対象画像AGaを生成する(ステップS270)。
作業機械画像生成部92は、位置検出装置30の検出データ及び姿勢検出装置40の検出データに基づいて、油圧ショベル1の仮想視点画像を示す作業機械画像BGを生成する(ステップS280)。
運搬車両画像生成部95は、位置検出装置430の検出データ及び姿勢検出装置440の検出データに基づいて、運搬車両WAbの仮想視点画像を示す運搬車両画像AGbを生成する(ステップS290)。
合成部96は、対象画像AGaと作業機械画像BGと運搬車両画像AGbを合成してインポーズ画像IGを生成する(ステップS300)。
合成部96は、対象画像AGaと作業機械画像BGと運搬車両画像AGbとを重畳したインポーズ画像IGを生成する。合成部96は、座標変換データ記憶部94に記憶されている座標変換データを利用して、対象画像AGaと作業機械画像BGと運搬車両画像AGbとが単一の座標系で表示されるように、対象画像AGaの座標系、作業機械画像BGの座標系、及び運搬車両画像AGbの座標系を調整する。
表示制御部93は、撮像装置50で撮像された対象WAaの実画像RGを表示装置80に出力する。また、表示制御部93は、合成部96で生成されたインポーズ画像IGを合成部96から取得する。表示制御部93は、単一の座標系において規定された対象画像AGaと作業機械画像BGと運搬車両画像AGbとを含むインポーズ画像IGを表示装置80に出力する(ステップS310)。
表示装置80は、少なくとも作業機4の実映像を含む対象WAaの実画像RGと、インポーズ画像IGとを表示する(ステップS320)。表示制御部93は、表示装置80の表示画面において作業機4の実画像とインポーズ画像IGとを異なる位置に表示させる。
操作者は、表示装置80に表示されている実画像RG及びインポーズ画像IGを見ながら、遠隔操作装置70を操作して、油圧ショベル1を遠隔操作する。インポーズ画像IGは、対象WAa、運搬車両WAb、及び油圧ショベル1を俯瞰した3次元画像であるため、操作者は、インポーズ画像IGを見ることによって、油圧ショベル1と対象WAaとの遠近感を得易い。本実施形態においては、対象WAaである地表の3次元形状を示す対象画像AGaが表示されるため、操作者は、対象画像AGaと作業機械画像BGとを見て、対象WAaと油圧ショベル1の作業機4との距離を把握することができる。そのため、操作者は、掘削作業又は整地作業等を円滑に実施することができる。また、運搬車両WAbの3次元形状を示す運搬車両画像AGbが表示されるため、操作者は、運搬車両画像AGbと作業機械画像BGとを見て、運搬車両WAbと油圧ショベル1の作業機4との距離を把握することができる。そのため、操作者は、積込作業等を円滑に実施することができる。
図15は、本実施形態に係るインポーズ画像IGの一例を模式的に示す図である。図15は、車体座標系において規定された作業機械画像BGと運搬車両画像AGbとを含むインポーズ画像IGを示す。図15に示す例において、表示制御部93は、車体座標系において固定された仮想視点から見た作業機械画像BG及び運搬車両画像AGbを表示装置80に表示させる。仮想視点は車体座標系において固定されている。そのため、油圧ショベル1の走行体2が停止した状態で旋回体3が旋回した場合、作業機械画像BGのうち旋回体画像3Gは停止しているように表示され、走行体画像2Gが旋回軸Zrを中心に旋回するように表示される。また、運搬車両画像AGbも旋回軸Zrを中心に旋回するように表示される。
図16は、本実施形態に係るインポーズ画像IGの一例を模式的に示す図である。図16は、グローバル座標系において規定された作業機械画像BGと運搬車両画像AGbとを含むインポーズ画像IGを示す。図16に示す例において、表示制御部93は、グローバル座標系において固定された仮想視点から見た作業機械画像BG及び運搬車両画像AGbを表示装置80に表示させる。仮想視点はグローバル座標系において固定されている。そのため、油圧ショベル1の走行体2が停止した状態で旋回体3が旋回した場合、作業機械画像BGのうち走行体画像2Gは停止しているように表示され、旋回体画像3Gが旋回軸Zrを中心に旋回するように表示される。また、運搬車両WAbが停止している場合、運搬車両画像AGbは停止しているように表示される。
[効果]
以上説明したように、本実施形態によれば、位置検出装置30の検出データ及び姿勢検出装置40の検出データに基づいて、油圧ショベル1の外部の仮想視点から見た作業機械画像BGが生成される。また、位置検出装置430の検出データ及び姿勢検出装置440の検出データに基づいて、油圧ショベル1及び運搬車両WAbの外部の仮想視点から見た運搬車両画像AGbが生成される。作業機械画像BG及び運搬車両画像AGbは、3次元コンピュータグラフィックスであり、それら作業機械画像BG及び運搬車両画像AGbを含むインポーズ画像IGが表示装置80に表示される。操作者は、表示装置80に表示された作業機械画像BG及び運搬車両画像AGbを見ることにより、作業現場の遠近感を得ることができる。そのため、操作者は、運搬車両WAbと油圧ショベル1との距離、特に運搬車両WAbの荷台401と油圧ショベル1のバケット8との距離を容易に把握することができる。したがって、操作者は、遠隔操作装置70を操作して、油圧ショベル1の作業機4を使って、運搬車両WAbに対する積込作業を円滑に実施することができる。これにより、遠隔操作の作業効率の低下が抑制される。
以上説明したように、本実施形態によれば、位置検出装置30の検出データ及び姿勢検出装置40の検出データに基づいて、油圧ショベル1の外部の仮想視点から見た作業機械画像BGが生成される。また、位置検出装置430の検出データ及び姿勢検出装置440の検出データに基づいて、油圧ショベル1及び運搬車両WAbの外部の仮想視点から見た運搬車両画像AGbが生成される。作業機械画像BG及び運搬車両画像AGbは、3次元コンピュータグラフィックスであり、それら作業機械画像BG及び運搬車両画像AGbを含むインポーズ画像IGが表示装置80に表示される。操作者は、表示装置80に表示された作業機械画像BG及び運搬車両画像AGbを見ることにより、作業現場の遠近感を得ることができる。そのため、操作者は、運搬車両WAbと油圧ショベル1との距離、特に運搬車両WAbの荷台401と油圧ショベル1のバケット8との距離を容易に把握することができる。したがって、操作者は、遠隔操作装置70を操作して、油圧ショベル1の作業機4を使って、運搬車両WAbに対する積込作業を円滑に実施することができる。これにより、遠隔操作の作業効率の低下が抑制される。
また、本実施形態によれば、インポーズ画像IGは、作業機械画像BGと運搬車両画像AGbとを重畳した画像である。また、本実施形態においては、走行体2、旋回体3、及び作業機4が動いたとき、インポーズ画像IGにおいて、走行体画像2G、旋回体画像3G、及び作業機画像4Gが同期して動き、運搬車両WAbが動いたとき、インポーズ画像IGにおいて、運搬車両画像AGbが同期して動く。そのため、操作者が走行体2、旋回体3、及び作業機4の少なくとも一つを動かしたり、運搬車両WAbが動いたりしたとき、走行体画像2G、旋回体画像3G、及び作業機画像4Gの少なくとも一つが、運搬車両画像AGbに重畳した状態で動く。したがって、操作者は、作業機械画像BGと運搬車両画像AGbとを重畳したインポーズ画像IGを見ることによって、動いている状態の走行体2、旋回体3、及び作業機4の少なくとも一つと運搬車両WAbとの遠近感を認識し易くなる。
また、本実施形態においては、インポーズ画像IGにおいて、作業機械画像BG及び運搬車両画像AGbのみならず、施工対象を含む作業現場の対象WAaの対象画像AGaが表示される。これにより、操作者は、対象WAaと油圧ショベル1との距離を容易に把握することができる。そのため、操作者は、遠隔操作装置70を操作して、油圧ショベル1の作業機4で対象WAaを円滑に施工することができる。
また、本実施形態によれば、距離検出装置20、位置検出装置30、姿勢検出装置40、及び撮像装置50は、油圧ショベル1に搭載される。例えば、距離検出装置が油圧ショベル1の外部に設置される場合、距離検出装置を別途用意したり、距離検出装置の設置作業を実施したりする必要が生じる。この場合、装置コストが上昇したり、作業効率が低下したりする可能性がある。距離検出装置20が油圧ショベル1に搭載されることにより、距離検出装置を別途用意する必要はなくなり、距離検出装置の設置作業を実施する必要はなくなる。そのため、装置コストを抑制することができ、作業効率の低下を抑制することができる。また、距離検出装置20が油圧ショベル1に搭載されることにより、対象WAa(施工対象)の位置が徐々に変化する場合でも、距離検出装置の設置作業を実施する必要がなくなる。位置検出装置30、姿勢検出装置40、及び撮像装置50についても同様である。
また、本実施形態においては、撮像装置50で撮像された実画像RGを含む表示装置80の表示画面の一部に作業機械画像BG及び運搬車両画像AGbを含むインポーズ画像IGが表示される。実画像RGの一部にインポーズ画像IGがインポーズされることにより、操作者は、実画像RGを見ながら、視線を大きく動かすことなくインポーズ画像IGを見ることができる。そのため、操作者は、安心感を抱くことができ、円滑な操作を実施することができる。
また、本実施形態においては、インポーズ画像IGがインポーズされる実画像RGは、作業機4の画像を含む。すなわち、旋回体3の+Xm方向の実画像RGにインポーズ画像IGがインポーズされる。操作者は、実画像RGを見ることにより、作業機4の作業状況を把握することができ、インポーズ画像IGを見ることにより、運搬車両WAbと作業機4との距離を把握することができる。作業機4を使って作業をする場合、操作者は、作業機4の実画像を見ながら遠隔操作装置70を操作する。そのため、作業機4の実画像を含む実画像RGの一部にインポーズ画像IGがインポーズされることにより、操作者は、実画像RGを見ながら、視線を大きく動かすことなくインポーズ画像IGを見ることができる。したがって、操作者は、円滑な操作を実施することができるため、作業効率の低下が抑制される。また、表示装置80の表示画面において、作業機4の実画像とインポーズ画像IGとは、異なる位置に表示される。これにより、作業機4の実画像がインポーズ画像IGに遮られないため、操作者は、作業機4の実画像及びインポーズ画像IGの両方を円滑に見ることができる。
また、本実施形態によれば、所定の単一の座標系において作業機械画像BG及び運搬車両画像AGbが表示される。これにより、操作者は、作業機械画像BG及び運搬車両画像AGbを見て、油圧ショベル1と運搬車両画像AGbとの距離及び相対位置を容易に把握することができる。
また、車体座標系において作業機械画像BG及び運搬車両画像AGbが生成され、車体座標系において固定された仮想視点から見た作業機械画像BG及び運搬車両画像AGbが表示されることにより、図15を参照して説明したように、旋回体3が旋回したとき、旋回体画像3Gが停止し、走行体画像2G及び運搬車両画像AGbが旋回するように表示される。これにより、操作者は、旋回体3を基準とした作業現場の状況を俯瞰することができる。
また、グローバル座標系において作業機械画像BG及び運搬車両画像AGbが生成され、グローバル座標系において固定された仮想視点から見た作業機械画像BG及び運搬車両画像AGbが表示されることにより、図16を参照して説明したように、旋回体3が旋回したとき、走行体画像2G及び運搬車両画像AGbが停止し、旋回体画像3Gが旋回するように表示される。これにより、操作者は、走行体2及び運搬車両画像AGbを基準とした作業現場の状況を俯瞰することができる。
また、本実施形態によれば、作業機械画像BGは、作業機4の画像のみならず、旋回体3の画像も含む。そのため、操作者は、表示装置80に表示された対象画像AGaを見て、作業機4の作動状況及び対象WAaと作業機4との距離のみならず、旋回体3の旋回状況及び対象WAaと旋回体3との相対位置を把握することができる。また、旋回体3の姿勢を検出する旋回体姿勢センサ41と作業機4の姿勢を検出する作業機姿勢センサ42とが設けられることにより、旋回体姿勢センサ41の検出データに基づいて、実際の旋回体3の旋回に連動するように旋回体画像3Gが表示され、作業機姿勢センサ42の検出データに基づいて、実際の作業機4の作動に連動するように作業機画像4Gが表示される。これにより、操作者は、油圧ショベル1の姿勢及び作動状況を俯瞰することができる。
なお、上述の実施形態においては、IMUを含む姿勢検出装置440が運搬車両WAbに搭載され、姿勢検出装置440によって運搬車両WAbの姿勢(ロール角θ4、ピッチ角θ5、ヨー角θ6)が検出されることとした。運搬車両WAbの姿勢として、ヨー角θ6が検出され、ロール角θ4及びピッチ角θ5は検出されなくてもよい。積込作業においては、運搬車両WAbは水平面と実質的に平行な地面に位置付けられる場合が多く、ロール角θ4及びピッチ角θ5がゼロに近い場合が多い。そのため、ロール角θ4及びピッチ角θ5がゼロとみなされた状態で、ヨー角θ6の検出データに基づいて、運搬車両画像AGbが表示されてもよい。
また、図17に示すように、姿勢検出装置440が省略されてもよい。上述のように、ヨー角θ6は、位置検出装置430によって検出することができる。図17において、位置検出装置430の検出データは、制御装置460に出力される。制御装置460の演算処理装置460Aは、位置検出装置430の検出データに基づいてヨー角θ6を算出する姿勢算出部440Bを含む。図5及び図6等を参照して説明したように、少なくとも2つのGPSアンテナ431が運搬車両WAbに設けられている場合、姿勢算出部440は、一方のGPSアンテナ431の位置と他方のGPSアンテナ431の位置とに基づいて、グローバル座標系における基準方位に対する車体402の方位を検出することができる。姿勢算出部440は、一方のGPSアンテナ431の位置と他方のGPSアンテナ431の位置とに基づいて演算処理を実施して、基準方位に対する車体402の方位を検出する。基準方位と車体402の方位とがなす角度がヨー角θ6に相当する。姿勢算出部440Bは、一方のGPSアンテナ431の位置と他方のGPSアンテナ431の位置とを結ぶ直線を算出し、算出した直線と基準方位とがなす角度に基づいて、ヨー角θ6を検出することができる。なお、運搬車両WAbに設けられるGPSアンテナ431(位置検出装置430)は、1つでもよい。姿勢算出部440Bは、1つの位置検出装置430の検出データに基づいて、水平面内における運搬車両WAbの移動軌跡を導出することができる。基準方位に対する運搬車両WAbの移動軌跡の接線の方向は、ヨー角θ6に相当する。姿勢算出部440Bは、1つの位置検出装置430の検出データに基づいて導出された移動軌跡の接線に基づいて、ヨー角θ6を検出することができる。
なお、上述の実施形態において、インポーズ画像IGにおいて、対象画像AGaの3次元形状と撮像装置50で撮像された画像とが重ね合わされた状態で表示されてもよい。上述のように、距離検出装置20で検出された対象WAaの3次元形状における位置Pdを撮像装置座標系の画像における位置Pcに変換することによって、撮像装置座標系において、対象WAaの3次元形状と対象WAaの画像とを重ね合わせることができる。また、対象WAaの3次元形状における位置Pd及び対象WAaの画像における位置Pcは、車体座標系の位置Pm又はグローバル座標系の位置Pgに変換可能である。
なお、上述の実施形態においては、インポーズ画像IGは、作業機械画像BGと運搬車両画像AGbと対象画像AGaとを含むこととした。インポーズ画像IGは、作業機械画像BGと運搬車両画像AGbとを含み、対象画像AGaを含まなくてもよい。また、上述の実施形態において、距離検出装置20が省略されてもよい。作業現場の対象WAa(施工対象)の実画像RGが表示装置80に表示されることにより、操作者は、対象WAaの実画像RGを見て、対象WAaを確認することができる。一方、インポーズ画像IGが、少なくとも作業機械画像BG及び運搬車両画像AGbを含むことにより、操作者は、荷台401とバケット8との遠近感(距離感)を得ることができるため、例えば積込作業において荷台401とバケット8とを接触させてしまうといったような不測の事態の発生を抑制することができる。
なお、上述の実施形態において、作業機械画像BGは、走行体画像2G、旋回体画像3G、及び作業機画像4Gを含むこととした。作業機械画像BGは、旋回体画像3G及び作業機画像4Gを含み、走行体画像2Gを含まなくてもよい。また、作業機械画像BGは、作業機画像4Gを含み、走行体画像2G及び旋回体画像3Gを含まなくてもよい。
なお、上述の実施形態において、距離検出装置20がレーザレンジファインダであることとした。距離検出装置20は、レーザレンジファインダに限定されない。距離検出装置20は、対象WAaの3次元形状を検出できればよく、例えば超音波距離センサでもよいし、ステレオカメラでもよい。
なお、上述の実施形態において、距離検出装置20が複数設けられてもよい。また、距離検出装置20によって、旋回体3の前方向の対象WAaの3次元形状のみならず、旋回体3の右方向の対象WAaの3次元形状、旋回体3の左方向の対象WAaの3次元形状、及び旋回体3の後方向の対象WAaの3次元形状の少なくとも一つが検出されてもよい。
なお、上述の実施形態において、作業機姿勢センサ42がストロークセンサであることとした。作業機姿勢センサ42は、ストロークセンサに限定されない。作業機姿勢センサ42は、作業機4の傾斜角を検出できればよく、例えばロータリーセンサでもよいし、加速度センサでもよいし、レーザスキャナのような光学センサでもよい。
なお、上述の実施形態において、撮像装置50が単眼カメラであることとした。撮像装置50は、単眼カメラに限定されない。撮像装置50は、例えば対象WAaの3次元形状を検出する機能と画像を取得する機能とを有するステレオカメラでもよい。
なお、上述の実施形態において、撮像装置50が複数設けられてもよい。また、撮像装置50によって、旋回体3の前方向の対象WAaの画像のみならず、旋回体3の右方向の対象WAaの画像、旋回体3の左方向の対象WAaの画像、及び旋回体3の後方向の対象WAaの画像の少なくとも一つが取得されてもよい。
なお、上述の実施形態において、距離検出装置20、位置検出装置30、姿勢検出装置40、及び撮像装置50の少なくとも一つが、油圧ショベル1に搭載されずに、油圧ショベル1の外部に設置されてもよい。
なお、上述の実施形態においては、運搬車両WAbの位置PbがGNSSを利用して検出されることとした。運搬車両WAbの位置が、例えば油圧ショベル1に搭載されたステレオカメラ又はレーザ距離計等に基づいて検出されてもよいし、運搬車両WAbの運転者が所持するスマートフォン等のGNSS機能によって検出されてもよい。
なお、上述の実施形態において、位置検出装置430及び姿勢検出装置440の少なくとも一方が、運搬車両WAbに搭載されずに、運搬車両WAbの外部に設置されてもよい。
なお、上述の実施形態において、仮想視点は移動してもよい。すなわち、表示制御部93は、異なる複数の位置のそれぞれに設定される仮想視点から見た作業機械画像BG及び運搬車両画像AGbを含むインポーズ画像IGを表示装置80に表示させてもよい。例えば、インポーズ画像IGが自由視点画像でもよい。自由視点画像とは、対象物(油圧ショベル1及び運搬車両2)に対する仮想視点を任意の位置に設定し、その設定された仮想視点から見た画像をいう。
なお、上述の実施形態においては、距離検出装置20の検出データ、位置検出装置30の検出データ、及び姿勢検出装置40の検出データが、通信システム300を介して制御装置90に送信され、制御装置90において作業機械画像BG及び運搬車両画像AGbが生成され、表示装置80に表示されることとした。作業機械画像BG及び運搬車両画像AGbの少なくとも一方が、油圧ショベル1に搭載されている制御装置60で生成され、生成された作業機械画像BG及び運搬車両画像AGbの少なくとも一方が、通信システム300を介して制御装置90に送信され、表示装置80に表示されてもよい。
なお、上述の実施形態においては、位置検出装置430の検出データ及び姿勢検出装置440の検出データが、通信システム300を介して制御装置90に送信され、制御装置90において運搬車両画像AGbが生成され、表示装置80に表示されることとした。運搬車両画像AGbが、運搬車両WAbに搭載されている制御装置460で生成され、生成された運搬車両画像AGbが、通信システム300を介して制御装置90に送信され、表示装置80に表示されてもよい。
なお、上述の実施形態においては、作業現場の実画像RGを表示する表示装置80の表示画面の一部にインポーズ画像IGが表示されることとした。実画像RGを表示する表示装置と、インポーズ画像IGを表示する表示装置とが異なる表示装置でもよい。例えば、メイン表示装置に隣接するようにサブ表示装置が配置され、メイン表示装置に実画像RGが表示され、サブ表示装置にインポーズ画像IGが表示されてもよい。
なお、上述の実施形態においては、作業機械1が油圧ショベルであることとした。作業機械1は、作業機及び作業機を支持する旋回体を備えていればよく、油圧ショベルに限定されない。また、作業機械1は、作業機を備えていればよく、旋回体を備えていなくてもよい。例えば、作業機械1がホイールローダ等でもよい。
1…油圧ショベル(作業機械)、2…走行体、2A…履帯、2B…履帯、3…旋回体、4…作業機、5…油圧シリンダ、6…ブーム、7…アーム、8…バケット、9…先端部、10…ブームシリンダ、11…アームシリンダ、12…バケットシリンダ、20…距離検出装置、30…位置検出装置(第1位置検出装置)、31…GPSアンテナ、40…姿勢検出装置(第1姿勢検出装置)、41…旋回体姿勢センサ、42…作業機姿勢センサ、42A…ブームストロークセンサ、42B…アームストロークセンサ、42C…バケットストロークセンサ、50…撮像装置、60…制御装置、60A…演算処理装置、60B…記憶装置、60C…入出力インターフェース、70…遠隔操作装置、71…作業レバー、71L…左作業レバー、71R…右作業レバー、72…走行レバー、72L…左走行レバー、72R…右走行レバー、80…表示装置、90…制御装置、90A…演算処理装置、90B…記憶装置、90C…入出力インターフェース、91…対象画像生成部、92…作業機械画像生成部、93…表示制御部、94…座標変換データ記憶部、95…運搬車両画像生成部、96…合成部、97…データ受信部、100…遠隔操作システム、200…表示システム、300…通信システム、401…荷台、402…車体、403…走行装置、430…位置検出装置(第2位置検出装置)、440…姿勢検出装置(第2姿勢検出装置)、460…制御装置、460A…演算処理装置、460B…記憶装置、460C…入出力インターフェース、AGa…対象画像、BG…作業機械画像、IG…インポーズ画像(合成画像)、RG…実画像、MA…検出範囲、TA…撮像範囲、WAa…対象、WAb…運搬車両、Zr…旋回軸。
Claims (9)
- 作業機を有する作業機械の位置の検出データと前記作業機械の姿勢の検出データとに基づいて、前記作業機械の外部の仮想視点から見た前記作業機械の仮想視点画像を示す作業機械画像を生成する作業機械画像生成部と、
運搬車両の位置の検出データと前記運搬車両の姿勢の検出データとに基づいて、前記仮想視点から見た前記運搬車両の仮想視点画像を示す運搬車両画像を生成する運搬車両画像生成部と、
前記作業機械画像と前記運搬車両画像とを重畳した合成画像を生成する合成部と、
前記合成画像を前記作業機械の外部に存在する表示装置に表示させる表示制御部と、
を備える表示システム。 - 前記表示制御部は、前記作業機械に搭載された撮像装置で撮影された前記作業機の実画像と前記合成画像とを前記表示装置に同時に表示させる、
請求項1に記載の表示システム。 - 前記表示制御部は、前記表示装置の表示画面において前記作業機の実画像と前記合成画像とを異なる位置に表示させる、
請求項2に記載の表示システム。 - 前記表示制御部は、所定の座標系において前記合成画像を表示させる、
請求項1から請求項3のいずれか一項に記載の表示システム。 - 前記座標系は、前記作業機を支持する旋回体に規定された車体座標系であり、
前記表示制御部は、前記車体座標系において固定された前記仮想視点から見た前記合成画像を表示させる、
請求項4に記載の表示システム。 - 前記座標系は、グローバル座標系であり、
前記表示制御部は、前記グローバル座標系において固定された前記仮想視点から見た前記合成画像を表示させる、
請求項4に記載の表示システム。 - 前記作業機械の姿勢は、前記作業機械に搭載された第1姿勢検出装置より検出され、
前記第1姿勢検出装置は、前記作業機の姿勢を検出する作業機姿勢センサと前記作業機を支持する旋回体の姿勢を検出する旋回体姿勢センサとを含み、
前記作業機械画像は、前記作業機の画像と前記旋回体の画像とを含む、
請求項1から請求項6のいずれか一項に記載の表示システム。 - 制御装置が、
作業機を有する作業機械の位置の検出データと前記作業機械の姿勢の検出データとを受信し、
運搬車両の位置の検出データと前記運搬車両の姿勢の検出データとを受信し、
前記作業機械の位置の検出データと前記作業機械の姿勢の検出データとに基づいて、前記作業機械の外部の仮想視点から見た前記作業機械の仮想視点画像を示す作業機械画像を生成し、
前記運搬車両の位置の検出データと前記運搬車両の姿勢の検出データとに基づいて、前記仮想視点から見た前記運搬車両の仮想視点画像を示す運搬車両画像を生成し、
前記作業機械画像と前記運搬車両画像とを重畳した合成画像を生成し、
前記合成画像を前記作業機械の外部に存在する表示装置に表示させる、
表示方法。 - 作業機を有する作業機械の外部の仮想視点から見た前記作業機械の仮想視点画像を示す作業機械画像と前記仮想視点から見た運搬車両の仮想視点画像を示す運搬車両画像とを重畳した合成画像を表示する表示装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017178316A JP6898816B2 (ja) | 2017-09-15 | 2017-09-15 | 表示システム、表示方法、及び表示装置 |
AU2018333191A AU2018333191B2 (en) | 2017-09-15 | 2018-06-25 | Display system, display method, and display apparatus |
CA3054897A CA3054897A1 (en) | 2017-09-15 | 2018-06-25 | Display system, display method, and display apparatus |
US16/491,002 US11230825B2 (en) | 2017-09-15 | 2018-06-25 | Display system, display method, and display apparatus |
PCT/JP2018/024065 WO2019054000A1 (ja) | 2017-09-15 | 2018-06-25 | 表示システム、表示方法、及び表示装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017178316A JP6898816B2 (ja) | 2017-09-15 | 2017-09-15 | 表示システム、表示方法、及び表示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019054465A JP2019054465A (ja) | 2019-04-04 |
JP6898816B2 true JP6898816B2 (ja) | 2021-07-07 |
Family
ID=65723570
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017178316A Active JP6898816B2 (ja) | 2017-09-15 | 2017-09-15 | 表示システム、表示方法、及び表示装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11230825B2 (ja) |
JP (1) | JP6898816B2 (ja) |
AU (1) | AU2018333191B2 (ja) |
CA (1) | CA3054897A1 (ja) |
WO (1) | WO2019054000A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108699814B (zh) * | 2016-01-29 | 2022-04-12 | 住友建机株式会社 | 挖土机以及在挖土机的周围飞行的自主式飞行体 |
FI20176052A1 (en) * | 2017-11-24 | 2019-05-25 | Novatron Oy | Control of earthmoving machinery |
JP7155516B2 (ja) * | 2017-12-20 | 2022-10-19 | コベルコ建機株式会社 | 建設機械 |
JP7199864B2 (ja) * | 2018-07-31 | 2023-01-06 | 株式会社小松製作所 | 作業機械を制御するためのシステム及び方法 |
EP3943341A4 (en) * | 2019-03-19 | 2022-12-14 | Hitachi Construction Machinery Co., Ltd. | LOAD LIFTING AND LOWERING DEVICE OF A DUMP TRUCK |
JP7351478B2 (ja) | 2019-07-26 | 2023-09-27 | 株式会社小松製作所 | 表示システム、遠隔操作システム、及び表示方法 |
JP7306191B2 (ja) * | 2019-09-26 | 2023-07-11 | コベルコ建機株式会社 | 輸送車位置判定装置 |
JP2021136462A (ja) * | 2020-02-21 | 2021-09-13 | 株式会社小松製作所 | 作業機械の遠隔操作システム |
JP7349947B2 (ja) | 2020-03-26 | 2023-09-25 | 住友重機械工業株式会社 | 情報処理装置、作業機械、情報処理方法、情報処理プログラム |
CA3214926A1 (en) * | 2021-04-19 | 2022-10-27 | Benny Chen | Fragmentation georeferencing |
CN113737886B (zh) * | 2021-09-26 | 2023-02-17 | 广西柳工机械股份有限公司 | 遥控装载机卸料辅助系统和方法 |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4348468B2 (ja) * | 2004-01-21 | 2009-10-21 | 株式会社キャンパスクリエイト | 画像生成方法 |
JP2013168776A (ja) | 2012-02-15 | 2013-08-29 | Fujita Corp | 遠隔操作システム |
JP5996879B2 (ja) * | 2012-02-16 | 2016-09-21 | 日立建機株式会社 | 作業機械の周囲監視装置 |
US8965642B2 (en) | 2012-10-05 | 2015-02-24 | Komatsu Ltd. | Display system of excavating machine and excavating machine |
US20160006947A1 (en) | 2013-02-08 | 2016-01-07 | Hitachi Construction Machinery Co., Ltd. | Surroundings monitoring device for slewing-type work machine |
JP6071786B2 (ja) * | 2013-07-17 | 2017-02-01 | 日立建機株式会社 | 作業機械の周囲監視装置 |
CN105518556B (zh) | 2013-12-12 | 2018-08-28 | 日立建机株式会社 | 车辆行驶系统以及车辆行驶控制方法 |
JP2016065769A (ja) * | 2014-09-24 | 2016-04-28 | 日立建機株式会社 | 運搬車両 |
JP6407663B2 (ja) * | 2014-10-30 | 2018-10-17 | 日立建機株式会社 | 作業支援画像生成装置、及びそれを備えた作業機械の操縦システム |
JP6777375B2 (ja) | 2015-03-05 | 2020-10-28 | 株式会社小松製作所 | 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械 |
-
2017
- 2017-09-15 JP JP2017178316A patent/JP6898816B2/ja active Active
-
2018
- 2018-06-25 AU AU2018333191A patent/AU2018333191B2/en active Active
- 2018-06-25 US US16/491,002 patent/US11230825B2/en active Active
- 2018-06-25 WO PCT/JP2018/024065 patent/WO2019054000A1/ja active Application Filing
- 2018-06-25 CA CA3054897A patent/CA3054897A1/en not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
US20200018049A1 (en) | 2020-01-16 |
AU2018333191A1 (en) | 2019-09-26 |
CA3054897A1 (en) | 2019-03-21 |
WO2019054000A1 (ja) | 2019-03-21 |
AU2018333191B2 (en) | 2021-07-29 |
US11230825B2 (en) | 2022-01-25 |
JP2019054465A (ja) | 2019-04-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6898816B2 (ja) | 表示システム、表示方法、及び表示装置 | |
JP6927821B2 (ja) | 表示システム、及び表示装置 | |
JP6777375B2 (ja) | 作業機械の画像表示システム、作業機械の遠隔操作システム及び作業機械 | |
JP6925816B2 (ja) | 位置計測システム、作業機械、及び位置計測方法 | |
KR102248026B1 (ko) | 작업 기계의 계측 시스템, 작업 기계, 및 작업 기계의 계측 방법 | |
JP6867132B2 (ja) | 作業機械の検出処理装置及び作業機械の検出処理方法 | |
JP2020197431A (ja) | マップ生成システム及びマップ生成方法 | |
JP2022164713A (ja) | 作業機械の画像表示システム及び作業機械の画像表示方法 | |
WO2021020567A1 (ja) | 表示システム、遠隔操作システム、及び表示方法 | |
US11549238B2 (en) | System and method for work machine | |
US20210388580A1 (en) | System and method for work machine | |
JP2021165526A (ja) | 作業機械の画像表示システム | |
US20210395980A1 (en) | System and method for work machine | |
JP7333551B2 (ja) | 作業機械の画像表示システム | |
US20220002977A1 (en) | System and method for work machine | |
JP2019049461A (ja) | 作業機械の計測システム、作業機械、及び作業機械の計測方法 | |
JP2020197045A (ja) | 表示システムおよび表示方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200302 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210518 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210611 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6898816 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |