JPWO2017033769A1 - ホイールローダの制御システム、その制御方法およびホイールローダの制御方法 - Google Patents

ホイールローダの制御システム、その制御方法およびホイールローダの制御方法 Download PDF

Info

Publication number
JPWO2017033769A1
JPWO2017033769A1 JP2017536747A JP2017536747A JPWO2017033769A1 JP WO2017033769 A1 JPWO2017033769 A1 JP WO2017033769A1 JP 2017536747 A JP2017536747 A JP 2017536747A JP 2017536747 A JP2017536747 A JP 2017536747A JP WO2017033769 A1 JPWO2017033769 A1 JP WO2017033769A1
Authority
JP
Japan
Prior art keywords
image
bucket
unit
wheel loader
blocking area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017536747A
Other languages
English (en)
Other versions
JP6913630B2 (ja
Inventor
辻 英樹
英樹 辻
馨 安田
馨 安田
法文 西坂
法文 西坂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Publication of JPWO2017033769A1 publication Critical patent/JPWO2017033769A1/ja
Application granted granted Critical
Publication of JP6913630B2 publication Critical patent/JP6913630B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/20Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used
    • B60R2300/205Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of display used using a head-up display
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/303Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using joined images, e.g. multiple camera images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F3/00Dredgers; Soil-shifting machines
    • E02F3/04Dredgers; Soil-shifting machines mechanically-driven
    • E02F3/28Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
    • E02F3/34Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with bucket-arms, i.e. a pair of arms, e.g. manufacturing processes, form, geometry, material of bucket-arms directly pivoted on the frames of tractors or self-propelled machines
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0141Head-up displays characterised by optical features characterised by the informative content of the display
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Structural Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Operation Control Of Excavators (AREA)

Abstract

作業車両の制御システムであって、表示部と、ホイールローダの作業機あるいは積込対象車両のベッセルの少なくとも一部を透過する透過画像を表示部に表示する制御部とを備える。

Description

本発明は、ホイールローダの制御システム等に関する。
従来より、ある場所から他の場所へ土類、岩石類、および他の物質(積込対象物とも称する)を移動するためにホイールローダが用いられる。例えばホイールローダによって、別の運搬機械、例えばダンプトラックに土類、岩石類、および/または他の物質を積載し、その後、ダンプトラックによって廃棄場所までその物質を運搬することができる。
一方で、ホイールローダには、掘削、積込等の作業を実行する作業機が設けられている。一般的に、作業者はホイールローダの前方に設けられた作業機の状態を見ながら掘削、積込等の作業を実行するが、作業機自体が作業者の視界を遮る場合もあり、その領域が見えない結果、作業機の作業効率の低下を招いていた。
この点で、特許文献1には、油圧ショベルの周囲にカメラを配置して撮像し、上方視点画像を生成することにより油圧ショベルの周囲確認を補助する方式が示されている。
特開2015−21246号公報
しかしながら、上記特許文献1に示される方式は、油圧ショベルの周囲を監視することを目的として上方視点画像が表示されるため作業者の視界とは異なり、作業者が作業機を直観的に操作することは難しく、作業効率を改善する点で不十分であった。
本発明は、上記の課題を解決するためのものであって、作業効率を改善することが可能なホイールローダの制御システム、その制御方法およびホイールローダの制御方法を提供することを目的とする。
その他の課題と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
ある局面に従うホイールローダの制御システムであって、表示部と、ホイールローダの作業機あるいは積込対象車両のベッセルの少なくとも一部を透過する透過画像を表示部に表示する制御部とを備える。
本発明によれば、制御部は、作業機あるいは積込対象車両のベッセルの少なくとも一部を透過する透過画像を表示部に表示するため、作業者による作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、制御部は、作業機のバケットあるいはベッセルの外形線を透過画像に合成して表示部に表示する。上記によれば、作業機のバケットあるいはベッセルの外形線を透過画像に合成して表示部に表示するため、外形形状を容易に把握することが可能であり、作業者による作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、制御部は、バケットの側面視の外形線をバケット内の透過画像に合成して表示部に表示する。上記によれば、バケットの側面視の外形線をバケット内の透過画像に合成して表示部に表示するため、作業者による側面視からの作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、制御部は、運転席視点のバケットの外形線をバケット内の透過画像に合成して表示部に表示する。上記によれば、運転席視点のバケットの外形線をバケット内の透過画像に合成して表示部に表示するため、作業者による運転席視点からの作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、制御部は、表示部上におけるホイールローダの運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する遮断領域抽出部と、遮断領域抽出部により抽出された遮断領域の外形線を境界にして、遮断領域の外形線内の領域について、遮断領域よりも作業者の視線の先にある透過画像を合成して表示部に表示する表示制御部とを含む。上記によれば、表示制御部は、遮断領域よりも作業者の視線の先にある透過画像を合成して表示部に表示するため、作業者による作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、表示部は、光学透過型の表示部である。上記によれば、光学透過型の表示部に遮断領域よりも作業者の視線の先にある透過画像が合成されて表示されるため、作業者による作業機のより直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、遮断領域抽出部は、作業者の操作指示に基づいて遮断領域の少なくとも一部を抽出する。上記によれば、作業者の操作指示に基づいて遮断領域が特定されるため遮断領域を抽出する際の画像解析の処理負荷を軽減することが可能である。
好ましくは、ホイールローダの制御システムは、画像データを取得する撮像部と、撮像部で取得した画像データに基づいて遮断領域よりも作業者の視線の先にある透過画像を抽出する画像抽出部とをさらに備える。表示制御部は、遮断領域抽出部により抽出された遮断領域の外形線を境界にして、遮断領域の外形線内の領域について、画像抽出部により抽出された透過画像を合成して表示部に表示する。上記によれば、画像データに基づいて透過画像を抽出するため遮断領域よりも作業者の視線の先にある実際の透過画像が合成されるため、作業者による作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、遮断領域抽出部は、バケットによる掘削時において、作業機のバケットにより表示部上における運転席視点の作業者の視界が遮断される遮断領域を抽出する。画像抽出部は、掘削時において、抽出された遮断領域よりも作業者の視線の先にあるバケット内の透過画像を抽出する。表示制御部は、掘削時において、遮断領域抽出部により抽出されたバケットの外形線を境界にして、バケットの外形線内の領域について、画像抽出部により抽出されたバケット内の透過画像を合成して表示部に表示する。上記によれば、掘削時において、バケット内の透過画像が合成されるため、作業者による掘削時における作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、作業機は、バケットと車両本体とを接続する作業機リンクを含む。遮断領域抽出部は、ベッセルに対する積込時において、作業機リンクにより表示部上における運転席視点の作業者の視界が遮断される遮断領域を抽出する。画像抽出部は、積込時において、抽出された遮断領域よりも作業者の視線の先にあるベッセルの一部の透過画像を抽出する。表示制御部は、積込時において、遮断領域抽出部により抽出された作業機リンクの外形線を境界にして、作業機リンクの外形線内の領域について、画像抽出部により抽出された透過画像を合成して表示部に表示する。上記によれば、積込時において、ベッセルの透過画像が合成されるため、作業者による積込時における作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、遮断領域抽出部は、バケットによる排土時において、ベッセルにより表示部上における運転席視点の作業者の視界が遮断される遮断領域を抽出する。画像抽出部は、排土時において、抽出された遮断領域よりも作業者の視線の先にあるベッセル内の透過画像を抽出する。表示制御部は、排土時において、遮断領域抽出部により抽出されたベッセルの外形線を境界にして、ベッセルの外形線内の領域について、画像抽出部により抽出されたベッセル内の透過画像を合成して表示部に表示する。上記によれば、排土時において、ベッセル内の透過画像が合成されるため、作業者による排土時における作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
好ましくは、遮断領域抽出部は、バケットによる排土時において、バケットにより表示部上における運転席視点の作業者の視界が遮断される遮断領域をさらに抽出する。画像抽出部は、排土時において、抽出された遮断領域よりも作業者の視線の先にあるバケット内の透過画像をさらに抽出する。表示制御部は、排土時において、遮断領域抽出部により抽出されたバケットの外形線を境界にして、バケットの外形線内の領域について、画像抽出部により抽出されたバケット内の透過画像をさらに合成して表示する。上記によれば、排土時において、バケット内の透過画像が合成されるため、作業者による排土時における作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
ある局面に従うホイールローダの制御システムの制御方法であって、撮像した画像データを入力するステップと、画像データのうち作業機あるいは積込対象車両の少なくとも一部によりホイールローダの運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出するステップと、抽出された遮断領域よりも作業者の視線の先にある透過画像を合成して画像合成データを作成するステップと、画像合成データを表示部に表示するステップとを備える。
本発明の制御システムの制御方法によれば遮断領域よりも作業者の視線の先にある透過画像を合成して表示部に表示するため、作業者による作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
ある局面に従うホイールローダの制御方法であって、撮像した画像データを取得するステップと、画像データのうち作業機あるいは積込対象車両の少なくとも一部によりホイールローダの運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出するステップと、抽出された遮断領域よりも作業者の視線の先にある透過画像を合成して画像合成データを作成するステップと、画像合成データを表示部に表示するステップとを備える。
本発明のホイールローダの制御方法によれば、遮断領域よりも作業者の視線の先にある透過画像を合成して表示部に表示するため、作業者による作業機の直観的な操作が可能であり、作業効率を改善することが可能である。
本発明のホイールローダの制御システム、その制御方法およびホイールローダの制御方法は、作業効率を改善することが可能である。
実施形態1に基づく作業処理の概要を説明する図である。 実施形態1に基づくホイールローダ1の外観図である。 実施形態1に基づくホイールローダ1の構成を示す模式図である。 実施形態1に従う積込対象車両140の外観構成図である。 実施形態1に基づくホイールローダ1の制御部10の機能ブロックを説明する図である。 実施形態1に基づくカメラ40で撮像した画像データを説明する図である。 実施形態1に基づくカメラ45で撮像した画像データを説明する図である。 実施形態1に基づく表示部50に表示されるバケットを説明する図である。 実施形態1に基づく透過画像の合成表示に関する処理を説明するフロー図である。 実施形態1に基づくバケット7を横から見た場合の画像データを説明する図である。 実施形態1に基づくカメラ46,47について説明する図である。 実施形態1に基づく表示部50に表示される別アングルのバケットを説明する図である。 実施形態1の変形例に基づくホイールローダ1Aの外観図である。 実施形態1の変形例に基づくカメラ40およびカメラ41の撮像範囲を説明する図である。 実施形態1の変形例に基づくホイールローダ1Aの制御部10Aの機能ブロックを説明する図である。 実施形態1の変形例に基づく遮断領域抽出部101における作業状態に基づいて遮断領域を抽出する対象を特定するフロー図である。 実施形態1の変形例に基づく積込作業時におけるカメラ40で撮像した画像データを説明する図である。 実施形態1の変形例に基づく積込作業時におけるカメラ41で撮像した画像データを説明する図である。 実施形態1の変形例に基づく積込作業時における表示部50に表示される画像を説明する図である。 実施形態1の変形例に基づく排土作業時におけるカメラ40で撮像した画像データを説明する図である。 実施形態1の変形例に基づく排土作業時におけるカメラ151で撮像した画像データを説明する図である。 実施形態1の変形例に基づく排土作業時における表示部50に表示される画像を説明する図である。 実施形態2に基づくホイールローダ1の制御部10Bの機能ブロックを説明する図である。 実施形態2に基づくホイールローダ1をモデル化した状態を説明する図である。 実施形態3に基づく表示部およびカメラの撮像範囲を説明する図である。 実施形態3に基づく表示部50#の一例を説明する図である。
以下、実施形態について図に基づいて説明する。なお、以下の説明において、「上」「下」「前」「後」「左」「右」とは、運転席に着座した作業者を基準とする用語である。また、ホイールローダについて、また、「積込対象車両」の一例であるダンプトラックについて、図面を参照しながら説明する。
(実施形態1)
<作業処理>
図1は、実施形態1に基づく作業処理の概要を説明する図である。
図1には、一例として、砕石場、鉱山などの土木現場でホイールローダおよび積込対象車両が配置されている場合の模式的構成が示されている。
土木現場には、積込対象物Xが示されている。
ホイールローダ1は、堆積された土砂等の積込対象物Xを掘削する掘削作業および積込対象車両140に積み込む積込作業を実行する。
ホイールローダ1は、積込対象物Xを掘削する掘削作業をした後、積込対象車両140に正対するように地点Vまで旋回しながら後進する。そして、地点Vから積込対象車両140に対して前進して、積込対象車両140に対して積込対象物Xを積み込む積込作業を実行する。積込対象車両140は、ホイールローダ1における積込作業が効率的に行えるように予め指定された位置に配置されている。なお、ホイールローダ1のルーフ側にはカメラ40が配置されている。ここでは、カメラ40が1つ設けられている場合が示されているが複数台配置することが望ましい。
<ホイールローダおよび積込対象車両の全体構成>
図2は、実施形態1に基づくホイールローダ1の外観図である。
図3は、実施形態1に基づくホイールローダ1の構成を示す模式図である。
図2および図3に示されるように、ホイールローダ1は、車輪4a,4bが回転駆動することにより自走可能であるとともに、作業機3を用いて所望の作業を行うことができる。
ホイールローダ1は、車体フレーム2、作業機3、車輪4a,4b、運転室5を備えている。
車体フレーム2は、前車体部2aと後車体部2bとを有している。前車体部2aと後車体部2bとは互いに左右方向に揺動可能に連結されている。
前車体部2aと後車体部2bとに渡って一対のステアリングシリンダ11a,11bが設けられている。ステアリングシリンダ11a,11bは、ステアリングポンプ12(図3参照)からの作動油によって駆動される油圧シリンダである。ステアリングシリンダ11a,11bが伸縮することによって、前車体部2aが後車体部2bに対して揺動する。これにより、車両の進行方向が変更される。
なお、図2および図3では、ステアリングシリンダ11a,11bの一方のみを図示しており他方を省略している。
前車体部2aには、作業機3および一対の車輪4aが取り付けられている。作業機3は、作業機ポンプ13(図3参照)からの作動油によって駆動される。作業機3は、ブーム6と、一対のリフトシリンダ14a,14bと、バケット7と、ベルクランク9と、バケットシリンダ15とを有する。
ブーム6は、前車体部2aに回転可能に支持されている。リフトシリンダ14a,14bの一端は前車体部2aに取り付けられている。リフトシリンダ14a,14bの他端は、ブーム6に取り付けられている。リフトシリンダ14a,14bが作業機ポンプ13からの作動油によって伸縮することによって、ブーム6が上下に揺動する。
なお、図2および図3では、リフトシリンダ14a,14bのうちの一方のみを図示しており、他方は省略している。
バケット7は、ブーム6の先端に回転可能に支持されている。バケットシリンダ15の一端は前車体部2aに取り付けられている。バケットシリンダ15の他端はベルクランク9を介してバケット7に取り付けられている。バケットシリンダ15が、作業機ポンプ13からの作動油によって伸縮することによって、バケット7が上下に揺動する。
本例においては、バケット7と、前車体部2aとの間を連結するブーム6、リフトシリンダ14a,14b等を作業機リンクとも称する。
後車体部2bには、運転室5及び一対の車輪4bが取り付けられている。運転室5は、車体フレーム2の上部に載置されており、作業者が着座するシートや、後述する操作部8などが内装されている。
また、図3に示すように、ホイールローダ1は、駆動源としてのエンジン21、走行装置22、作業機ポンプ13、ステアリングポンプ12、操作部8、制御部10などを備えている。
エンジン21は、ディーゼルエンジンであり、シリンダ内に噴射する燃料量を調整することによりエンジン21の出力が制御される。この調整は、エンジン21の燃料噴射ポンプ24に付設された電子ガバナ25が制御部10によって制御されることで行われる。ガバナ25としては、一般的にオールスピード制御方式のガバナが用いられ、エンジン回転数が、後述するアクセル操作量に応じた目標回転数となるように、負荷に応じてエンジン回転数と燃料噴射量とを調整する。すなわち、ガバナ25は目標回転数と実際のエンジン回転数との偏差がなくなるように燃料噴射量を増減する。エンジン回転数は、エンジン回転数センサ91によって検出される。エンジン回転数センサ91の検出信号は、制御部10に入力される。
走行装置22は、エンジン21からの駆動力により車両を走行させる装置である。走行装置22は、トルクコンバータ装置23、トランスミッション26、及び上述した車輪4a及び車輪4bなどを有する。
トルクコンバータ装置23は、ロックアップクラッチ27とトルクコンバータ28を有している。ロックアップクラッチ27は、連結状態と非連結状態とに切換可能である。ロックアップクラッチ27が非連結状態である場合には、トルクコンバータ28が、オイルを媒体としてエンジン21からの駆動力を伝達する。ロックアップクラッチ27が連結状態である場合には、トルクコンバータ28の入力側と出力側とが直結される。ロックアップクラッチ27は、油圧作動式のクラッチであり、ロックアップクラッチ27への作動油の供給がクラッチ制御弁31を介して制御部10によって制御されることにより、連結状態と非連結状態とが切り換えられる。
トランスミッション26は、前進走行段に対応する前進クラッチCFと、後進走行段に対応する後進クラッチCRとを有している。前進クラッチCFおよび後進クラッチCRの連結状態・非連結状態が切り換えられることによって、車両の前進と後進とが切り換えられる。前進クラッチCFおよび後進クラッチCRが共に非連結状態のときは、車両は中立状態となる。また、トランスミッション26は、複数の速度段に対応した複数の速度段クラッチC1−C4を有しており、減速比を複数段階に切り換えることができる。例えば、このトランスミッション26では、4つの速度段クラッチC1−C4が設けられており、速度段を第1速から第4速までの4段階に切る換えることができる。各速度段クラッチC1−C4は、油圧作動式の油圧クラッチである。図示しない油圧ポンプからクラッチ制御弁31を介して速度段クラッチC1−C4へ作動油が供給される。クラッチ制御弁31が制御部10によって制御されて、速度段クラッチC1−C4への作動油の供給が制御されることにより、各速度段クラッチC1−C4の連結状態及び非連結状態が切り換えられる。
トランスミッション26の出力軸には、トランスミッション26の出力軸の回転数を検出するT/M出力回転数センサ92が設けられている。T/M出力回転数センサ92からの検出信号は、制御部10に入力される。制御部10は、T/M出力回転数センサ92の検出信号に基づいて車速を算出する。従って、T/M出力回転数センサ92は車速を検出する車速検出部として機能する。なお、トランスミッション26の出力軸ではなく他の部分の回転速度を検出するセンサが車速センサとして用いられてもよい。トランスミッション26から出力された駆動力は、シャフト32などを介して車輪4a,4bに伝達される。これにより、車両が走行する。トランスミッション26の入力軸の回転数は、T/M入力回転数センサ93によって検出される。T/M入力回転数センサ93からの検出信号は、制御部10に入力される。
エンジン21の駆動力の一部は、PTO軸33を介して作業機ポンプ13及びステアリングポンプ12に伝達される。作業機ポンプ13及びステアリングポンプ12は、エンジン21からの駆動力によって駆動される油圧ポンプである。作業機ポンプ13から吐出された作動油は、作業機制御弁34を介してリフトシリンダ14a,14b及びバケットシリンダ15に供給される。また、ステアリングポンプ12から吐出された作動油は、ステアリング制御弁35を介してステアリングシリンダ11a,11bに供給される。このように、作業機3は、エンジン21からの駆動力の一部によって駆動される。
作業機ポンプ13から吐出された作動油の圧力は、第1油圧センサ94によって検出される。リフトシリンダ14a,14bに供給される作動油の圧力は、第2油圧センサ95によって検出される。具体的には、第2油圧センサ95は、リフトシリンダ14a,14bを伸長させるときに作動油が供給されるシリンダボトム室の油圧を検出する。バケットシリンダ15に供給される作動油の圧力は、第3油圧センサ96によって検出される。具体的には、第3油圧センサ96は、バケットシリンダ15を伸長させるときに作動油が供給されるシリンダボトム室の油圧を検出する。ステアリングポンプ12から吐出された作動油の圧力は、第4油圧センサ97によって検出される。第1油圧センサ94〜第4油圧センサ97からの検出信号は、制御部10に入力される。
操作部8は、作業者によって操作される。操作部8は、アクセル操作部材81a、アクセル操作検出装置81b、ステアリング操作部材82a、ステアリング操作検出装置82b、ブーム操作部材83a、ブーム操作検出装置83b、バケット操作部材84a、バケット操作検出装置84b、変速操作部材85a、変速操作検出装置85b、FR操作部材86a、及び、FR操作検出装置86bなどを有する。
アクセル操作部材81aは、例えばアクセルペダルであり、エンジン21の目標回転数を設定するために操作される。アクセル操作検出装置81bは、アクセル操作部材81aの操作量を検出する。アクセル操作検出装置81bは、検出信号を制御部10へ出力する。
ステアリング操作部材82aは、例えばステアリングハンドルであり、車両の進行方向を操作するために操作される。ステアリング操作検出装置82bは、ステアリング操作部材82aの位置を検出し、検出信号を制御部10に出力する。制御部10は、ステアリング操作検出装置82bからの検出信号に基づいてステアリング制御弁35を制御する。これにより、ステアリングシリンダ11a,11bが伸縮して、車両の進行方向が変更される。
ブーム操作部材83a及びバケット操作部材84aは、例えば操作レバーであり、作業機3を動作させるために操作される。具体的には、ブーム操作部材83aは、ブーム6を動作させるために操作される。バケット操作部材84aは、バケット7を動作させるために操作される。ブーム操作検出装置83bは、ブーム操作部材83aの位置を検出する。バケット操作検出装置84bは、バケット操作部材84aの位置を検出する。ブーム操作検出装置83b及びバケット操作検出装置84bは、検出信号を制御部10に出力する。制御部10は、ブーム操作検出装置83b及びバケット操作検出装置84bからの検出信号に基づいて作業機制御弁34を制御する。これにより、リフトシリンダ14a,14b及びバケットシリンダ15が伸縮して、ブーム6及びバケット7が動作する。また、作業機3にはブーム角を検出するブーム角検出装置98が設けられている。ブーム角は、前車体部2aとブーム6との回転支持中心と、ブーム6とバケット7との回転支持中心とを結ぶ線と、前後の車輪4a,4bの軸中心を結ぶ線とに挟まれた角度をいう。ブーム角検出装置98は、検出信号を制御部10に出力する。制御部10は、ブーム角検出装置98が検出したブーム角に基づいて、バケット7の高さ位置を算出する。このため、ブーム角検出装置98はバケット7の高さを検出する高さ位置検出部として機能する。
変速操作部材85aは、例えばシフトレバーである。変速操作部材85aは、自動変速モードが選択されているときには、速度段の上限を設定するために操作される。例えば、変速操作部材85aが第3速に設定されている場合には、トランスミッション26は、第2速から第3速までの間で切り換えられ、第4速には切り換えられない。また、手動変速モードが選択されているときには、トランスミッション26は変速操作部材85aによって設定された速度段に切り換えられる。変速操作検出装置85bは、変速操作部材85aの位置を検出する。変速操作検出装置85bは、検出信号を制御部10に出力する。制御部10は、変速操作検出装置85bからの検出信号に基づいて、トランスミッション26の変速を制御する。なお、自動変速モードと手動変速モードとは図示しない変速モード切換部材によって作業者によって切り換えられる。
FR操作部材86aは、車両の前進と後進とを切り換えるために操作される。FR操作部材86aは、前進、中立、及び後進の各位置に切り換えられることができる。FR操作検出装置86bは、FR操作部材86aの位置を検出する。FR操作検出装置86bは、検出信号を制御部10に出力する。制御部10は、FR操作検出装置86bからの検出信号に基づいてクラッチ制御弁31を制御する。これにより、前進クラッチCF及び後進クラッチCRが制御され、車両の前進と後進と中立状態とが切り換えられる。
制御部10は、一般的にCPU(Central Processing Unit)により各種のプログラムを読み込むことにより実現される。
制御部10は、メモリ60と接続され、当該メモリ60は、ワークメモリとして機能するとともに、ホイールローダの機能を実現するための各種のプログラムを格納する。
制御部10は、アクセル操作量に応じた目標回転数が得られるように、エンジン指令信号をガバナ25に送る。
制御部10は、カメラ40と接続される。制御部10は、カメラ40で撮像した画像データの入力を受け付ける。カメラ40は、ホイールローダ1の運転室5のルーフ側に設けられる。カメラ40の視線方向は、ホイールローダ1の運転室5に着座した作業者の視線方向と同じ方向である。本例においては、水平方向である。
また、制御部10は、カメラ45とも接続される。制御部10は、カメラ45で撮像した画像データの入力を受け付ける。カメラ45は、バケット7の内側に設けられる。カメラ45の視線方向は、バケット7の内側を撮像する方向に向けられている。
制御部10は、表示部50とも接続される。
制御部10は、外部と通信可能に設けられた通信部19とも接続される。
図4は、実施形態1に従う積込対象車両140の外観構成図である。
図4には、積込対象車両140としてダンプトラックの例が示されている。
積込対象車両140は、例えば車輪142および144が回転駆動することにより自走可能である。積込対象車両140は、車輪142および144を駆動および他の構成部品の1つ以上を駆動するために駆動源としてのエンジン146を含む。例えば、ディーゼルエンジンである。
積込対象車両140は、土砂等の積込対象物を積載可能なベッセル160と、運転室152と、制御装置158と、通信装置134と、種々の検出器および/またはセンサおよび各構成部品を操作するための種々のアクチュエータとを含む。
ベッセル160は、例えばアクチュエータ150を介して排土ポジションに操作される。
運転室152は、閉鎖されたまたは部分的に閉鎖された運転台を含み、かつ操作者席154、操作部(図示せず)、および表示装置156等を含む。
制御装置158は、検出器の検出結果を受け付けるとともに、必要に応じて各種のアクチュエータを制御する。制御装置158は、中央処理装置(CPU)およびメモリ、種々の入出力周辺機器を含む。
通信装置134は、制御装置158と接続され、ホイールローダ1の通信部19との間でデータ通信することにより情報の授受が可能に設けられている。
ベッセル160には、カメラ151が設けられている。当該カメラ151によりベッセル内の画像を取得することが可能である。また、取得した当該画像を通信装置134を介してホイールローダ1に送信することも可能である。
<制御構成>
図5は、実施形態1に基づくホイールローダ1の制御部10の機能ブロックを説明する図である。
図5に示されるように、制御部10は、メモリ60に格納されている各種のプログラムを実行することにより機能ブロックを実現する。
制御部10は、ホイールローダ1の作業機3あるいは積込対象車両140のベッセル160の少なくとも一部を透過する透過画像を表示部50に表示する。
具体的には、制御部10は、遮断領域抽出部101と、画像データ取得部102と、画像解析部103と、画像抽出部104と、表示制御部105と、画像編集部106とを含む。
遮断領域抽出部101は、作業機3あるいは積込対象車両140により表示部上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。運転席視点とは、運転席に着座した作業者の視点を指す。
画像データ取得部102は、カメラ40およびカメラ45で撮像した画像データを取得する。
画像解析部103は、カメラ40およびカメラ45で撮像した画像データの解析処理を実行する。
画像抽出部104は、画像データ取得部102で取得した画像データに基づいて遮断領域よりも作業者の視線の先にある透過画像を抽出する。
画像編集部106は、画像抽出部104により抽出された透過画像を遮断領域に合成するために画像を編集する。
表示制御部105は、遮断領域抽出部101により抽出された遮断領域の外形線を境界にして、遮断領域の外形線内の領域について、遮断領域よりも作業者の視線の先にある透過画像を合成して表示部50に表示する。表示制御部105は、遮断領域の外形線内の領域について、画像編集部106により編集された透過画像を合成して表示部50に表示する。
図6は、実施形態1に基づくカメラ40で撮像した画像データを説明する図である。
図6に示されるように、ここでは、カメラ40により撮像した作業機3のバケット7を含む画像データCDTが示されている。バケット7に接続されている作業機リンクについては省略している。
カメラ40は、運転室5の上方に設けられ作業機3よりも後方に設けられている。したがって、作業機3のバケット7の内部を撮像することはできない。作業機3のバケット7の外殻によりその視界が遮断されるからである。
本例においては、表示部50上に表示されるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。具体的には、画像解析部103は、画像データCDTに基づき例えばパターンマッチング等によりバケット7を特定する。
遮断領域抽出部101は、画像データCDTに基づき画像解析部103により特定されたバケット7を運転席視点の作業者の視界が遮断される遮断領域700として抽出する。
図7は、実施形態1に基づくカメラ45で撮像した画像データを説明する図である。
図7に示されるように、ここでは、カメラ45により撮像した作業機3のバケット7の内部の画像を含む画像データICDTが示されている。ここでは、バケット7の内部に積込対象物Xが含まれている場合が示されている。
本例においては、画像抽出部104は、画像データICDTに基づいて遮断領域抽出部101により抽出された遮断領域よりも作業者の視線の先にある透過画像800を抽出する。画像抽出部104は、画像データICDTに含まれている所定領域の画像を透過画像800として抽出する。ここでは、バケット7の外形線L1に基づいて透過画像800を抽出する場合が示されている。当該透過画像800は、バケット7の外殻によりその視界が遮断された遮断領域よりも作業者の視線の先にある画像である。
図8は、実施形態1に基づく表示部50に表示されるバケットを説明する図である。
図8に示されるように、バケット7内の透過画像が合成表示されている場合が示されている。
実施形態1に基づく制御部10は、作業機3のバケット7の外形線を透過画像に合成して表示部50に表示する。本例においては、制御部10は、運転席視点の作業機3のバケット7の外形線を透過画像に合成して表示部50に表示する。
具体的には、画像編集部106は、遮断領域抽出部101により抽出された遮断領域700の外形線を境界にして、外形線内の領域形状に合うように透過画像800を編集する。
表示制御部105は、表示部50上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集されたバケット7内の透過画像を遮断領域に合成して表示部50に表示する。遮断領域の外形線を境界として、外形線内の領域に透過画像が合成されるため外形線が残った状態で内側の領域が透視化されたいわゆるスケルトン化された画像表示となる。
本例においては、画像抽出部104において、画像データICDTに含まれている所定領域の画像を透過画像として抽出し、画像編集部106において、当該透過画像を遮断領域と合成させるために遮断領域の外形線内の領域形状に合うように透過画像を編集する場合について説明した。一方で、画像抽出部104において、遮断領域の外形線内の領域形状に合うように透過画像を抽出するようにしても良い。その場合には、画像編集部106における画像編集処理は省略される。
当該表示部50における表示により、表示部50上におけるホイールローダの運転席視点の作業者の視界が遮断される遮断領域よりも作業者の視線の先にある透過画像を表示することが可能である。
本例においては、運転席視点の作業者の視界がバケット7の外殻により遮断されるバケット7の内部について、遮断領域700に対して透過画像800を合成した画像710を表示することにより運転席視点の作業者の視界が遮られる領域が表示されるため、バケット7の内部の状態を容易に把握することが可能である。
したがって、作業者が作業機3のバケット7を直観的に操作することが可能であり、作業効率を改善することが可能である。ここでは、スケルトン化された外形線が一点鎖線として示されている。
図9は、実施形態1に基づく透過画像の合成表示に関する処理を説明するフロー図である。
図9に示されるように、まず、制御部10は、画像データを取得する(ステップS2)。画像データ取得部102は、カメラ40およびカメラ45で撮像した画像データをそれぞれ取得する。
次に、制御部10は、遮断領域を抽出する(ステップS4)。遮断領域抽出部101は、作業機3あるいは積込対象車両140により表示部50上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。例えば、画像解析部103によりカメラ40により取得された画像データCDTに含まれているバケット7を特定する。遮断領域抽出部101は、特定されたバケットを遮断領域700として抽出する。本例においては、一例としてバケット7を遮断領域700として抽出する。
次に、制御部10は、透過画像を抽出する(ステップS6)。画像抽出部104は、画像データ取得部102で取得したカメラ45により取得された画像データICDTに基づいて所定領域の画像を透過画像として抽出する。当該透過画像は、作業機3あるいは積込対象車両140のベッセル160の少なくとも一部を透過した画像であり、遮断領域よりも作業者の視線の先にある画像である。本例においては、バケット7の内部の画像を透過画像800として抽出する。
次に、制御部10は、画像編集する(ステップS7)。画像編集部106は、画像抽出部104により抽出された透過画像800を編集する。具体的には、遮断領域抽出部101により抽出された遮断領域の外形線を境界にして、外形線内の領域形状に合うように透過画像を編集する。
次に、制御部10は、透過画像を合成する(ステップS8)。表示制御部105は、画像データCDTのバケット7の遮断領域に対して、遮断領域の外形線を境界にして、画像編集部106により編集した透過画像を合成する。
次に、制御部10は、合成した透過画像を表示する(ステップS10)。表示制御部105は、画像データCDTに対して透過画像を合成して表示部50に表示する。
そして、処理を終了する(エンド)。
なお、本例においては、運転席視点の作業者の視界からみた、ホイールローダの運転席視点の作業者の視界が遮断される遮断領域に透過画像を合成する場合について説明したが、作業をサポートする点で別のアングルに基づく表示をすることも可能である。たとえば、バケット7を横から見た場合(側方視あるいは側面視)に視界が遮断される遮断領域に透過画像を合成して表示するようにしても良い。
図10は、実施形態1に基づくバケット7を横から見た場合の画像データを説明する図である。
図10に示されるように、ここでは、作業機3のバケット7を含む画像データCDTPが示されている。バケット7に接続されている作業機リンクについては省略している。一例としてバケット7を側面視した場合の画像データが示されている。なお、画像データCDTPについて、実際にバケット7を横から見た実画像データを用いても良いし、あるいは、仮想的にバケット7を横から見たモデル画像データを用いても良い。当該画像データCDTPは、制御部10の図示しないメモリ等に格納されているものとする。
図11は、実施形態1に基づくカメラ46,47について説明する図である。
図11(A)に示されるように、カメラ46,47はバケット7の内部を側方視可能な位置に取り付けられている。
図11(B)には、カメラ46により撮像した作業機3のバケット7の内部の画像を含む画像データICDTPが示されている。
カメラ46は、バケット7の左側方から内部を撮像する。一方、カメラ47は、右側方から内部を撮像する。カメラ46,47を設けることによりバケット7の左右の内部画像を含む画像データを取得することが可能であり、合成することにより精度の高い画像データを取得することが可能である。なお、本例においては、カメラ46,47を両方設けた構成について説明しているがいずれか一方とすることも可能である。
本例においては、バケット7の内部に積込対象物Xが含まれている場合が示されている。
なお、カメラ45,46,47については、説明を簡易にするためにバケット7の内部から突き出しているように配置されている構成について説明しているが、バケット7の構成部材に穴を設け、その中にカメラ45,46,47を挿入固定するようにしても良い。これにより、バケット内部での突出する量を抑えることが可能である。また、カメラ46,47は、バケット7の側方からバケット内部を撮像する場合について説明しているが、バケット7の背板の左右端部に斜めに穴を設け、当該中にカメラ46,47を挿入固定し、バケット内部側面を斜めから撮像するようにしてもよい。これにより、カメラ46,47の後部がバケット7の側面から突出する量を抑えることが可能である。
カメラ40は、運転室5の上方に設けられ作業機3よりも後方に設けられている。したがって、積込対象物Xを掘削する際に作業機3のバケット7の内部を撮像することはできない。作業機3のバケット7の側面も外殻によりその視界が遮断されるからである。
本例においては、表示部50上に表示されるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。具体的には、画像解析部103は、画像データCDTPに基づき例えばパターンマッチング等によりバケット7を特定する。本例においては、側面視した場合のバケット7を特定する。
遮断領域抽出部101は、画像データCDTPに基づき画像解析部103により特定されたバケット7を作業者の視界が遮断される遮断領域700Pとして抽出する。
本例においては、画像抽出部104は、図11(B)で説明したカメラ45により撮像した作業機3のバケット7の内部の画像を含む画像データICDTPに基づいて遮断領域抽出部101により抽出された遮断領域よりも作業者の視線の先にある透過画像を抽出する。
一例として、画像抽出部104は、画像データICDTPに含まれている所定領域の画像について透過画像810として抽出する。当該透過画像は、バケット7の側面の外殻により側面視した際の視界が遮断された遮断領域よりも作業者の視線の先にある画像である。
図12は、実施形態1に基づく表示部50に表示されるバケットを説明する図である。
図12に示されるように、側面視したバケット7内の透過画像が合成表示されている場合が示されている。
実施形態1に基づく制御部10は、作業機3のバケット7の側面視の外形線を透過画像に合成して表示部50に表示する。本例においては、制御部10は、作業機3のバケット7の側面視の外形線を透過画像に合成して表示部50に表示する。
具体的には、画像編集部106は、遮断領域抽出部101により抽出された遮断領域700Pの外形線を境界にして、外形線内の領域形状に合うように透過画像810を編集する。
表示制御部105は、表示部50上におけるホイールローダ1の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集されたバケット7内の透過画像810を遮断領域に合成して表示部50に表示する。遮断領域の外形線を境界として、外形線内の領域に透過画像が合成されるため外形線が残った状態で内側の領域が透視化されたいわゆるスケルトン化された画像表示となる。
本例においては、作業者の視界がバケット7の側面の外殻により遮断されるバケット7の内部について、遮断領域700Pに対して透過画像を合成した画像710Pを表示することにより作業者の視界が遮られる領域が表示されるため、側面方向からのバケット7の内部の状態を容易に把握することが可能である。
したがって、作業者は、作業機3のバケット7を直観的に操作することが可能であり、作業効率を改善することが可能である。ここでは、スケルトン化された外形線が一点鎖線として示されている。
なお、本例においては、バケット7の内部の画像としてカメラ45により撮像した画像データを用いる場合について説明したが、バケット7の内部に設けられた知覚センサにより内部の状況を推定できる場合には、推定した状況に基づいて複数の予め設けられている透過画像の中から1つを選択して、当該選択した透過画像を合成することも可能である。また、推定した状況に基づいて算出した結果を合成することも可能である。
なお、本例においては、ホイールローダ1に設けられた制御部10が透過画像を表示部に表示する方式について説明したが、制御部10が全ての処理を実行するのではなく、他の装置と連携して制御システムとして実行することも可能である。
(変形例)
図13は、実施形態1の変形例に基づくホイールローダ1Aの外観図である。
図13に示されるように、ホイールローダ1Aは、ホイールローダ1と比較して、カメラ40よりも上方に設けられたカメラ41と、それを支持する支持ユニット42をさらに追加した点が異なる。その他の構成については、実施形態1で説明したのと同様であるのでその詳細な説明については繰り返さない。
図14は、実施形態1の変形例に基づくカメラ40およびカメラ41の撮像範囲を説明する図である。
図14に示されるように、カメラ40の撮像範囲は、作業機3の作業状態が含まれる。したがって、カメラ40で撮像した画像データを表示部50に表示する際には、表示部50上におけるホイールローダの運転席視点の作業者の視界が遮断される遮断領域が生じる。
カメラ41は、カメラ40よりも上方の位置に設けられており、カメラ41の撮像範囲は、作業機3の作業状態にかかわらず作業機3が含まれないように設定される。本例においては、カメラ41で撮像した画像データに基づいて遮断領域よりも作業者の視線の先にある透過画像を取得することが可能である。
図15は、実施形態1の変形例に基づくホイールローダ1Aの制御部10Aの機能ブロックを説明する図である。
図15に示されるように、制御部10Aは、メモリ60に格納されている各種のプログラムを実行することにより機能ブロックを実現する。
制御部10Aは、ホイールローダ1の作業機3あるいは積込対象車両140のベッセル160の少なくとも一部を透過する透過画像を表示部50に表示する。
具体的には、制御部10Aは、制御部10と比較して、作業状態判断部100をさらに追加した点が異なる。
その他の構成については図5で説明したのと同様であるのでその詳細な説明については繰り返さない。
作業状態判断部100は、操作部8の操作指示に従って作業機3の作業状態を判断する。例えば、作業機3の作業状態としてバケット7の高さおよびバケット7に対する操作指示で判断することが可能である。一例として、ブーム6のリフトシリンダの長さおよびバケットシリンダ15の長さに基づいて作業機リンクの状態を特定しバケット7に対する高さを算出することが可能である。
具体的には、バケット7の高さとして所定の高さ未満における作業機3の作業状態でシリンダ圧が所定の圧力以上の場合には、掘削作業であると判断する。一例としてシリンダ圧は、リフトシリンダ14のボトム圧とする。この点で第2油圧センサ95の検出値を利用することが可能である。
また、シリンダ圧が所定の圧力以上で、かつバケット7の高さが所定の高さ以上であり、バケット7を動かさないかあるいは、バケット7を後方側に動かす場合には、作業機3の作業状態は、積込作業であると判断する。なお、シリンダ圧が所定の圧力以上であることを条件としているのは、バケット7に土砂等が含まれている状態を判断するためである。
また、シリンダ圧が所定の圧力以上で、かつバケット7の高さが所定の高さ以上であり、バケット7を前方側に動かす場合には、作業機3の作業状態は、排土作業であると判断する。
遮断領域抽出部101は、作業状態判断部100で判断した作業状態に基づいて作業機3あるいは積込対象車両140により表示部上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。
図16は、実施形態1の変形例に基づく遮断領域抽出部101における作業状態に基づいて遮断領域を抽出する対象を特定するフロー図である。
図16に示されるように、遮断領域抽出部101は、作業状態判断部100で判断した作業状態が掘削作業であるか否かを判断する(ステップS10)。
ステップS10において、遮断領域抽出部101は、作業状態が掘削作業であると判断した場合(ステップS10においてYES)には、遮断領域を抽出する対象をバケットとして特定する(ステップS12)。
そして、処理を終了する(エンド)。
ステップS10において、遮断領域抽出部101は、作業状態が掘削作業でないと判断した場合(ステップS10においてNO)には、作業状態判断部100で判断した作業状態が積込作業であるか否かを判断する(ステップS14)。
ステップS14において、遮断領域抽出部101は、作業状態が積込作業であると判断した場合(ステップS14においてYES)には、遮断領域を抽出する対象を作業機リンクとして特定する(ステップS16)。
そして、処理を終了する(エンド)。
ステップS14において、遮断領域抽出部101は、作業状態が積込作業でないと判断した場合(ステップS14においてNO)には、作業状態判断部100で判断した作業状態が排土作業であるか否かを判断する(ステップS18)。
ステップS18において、遮断領域抽出部101は、作業状態が排土作業であると判断した場合(ステップS18においてYES)には、遮断領域を抽出する対象をベッセルとバケットとして特定する(ステップS20)。
そして、処理を終了する(エンド)。
ステップS18において、遮断領域抽出部101は、作業状態が排土作業でないと判断した場合(ステップS18においてNO)には、作業状態を特定できないため処理を終了する(エンド)。したがって、この場合には遮断領域は抽出されない。
上記に従う方式により、遮断領域抽出部101は、掘削作業時において、バケット7を遮断領域として抽出する。また、積込作業時において、作業機リンクを遮断領域として抽出する。また、排土作業時において、ベッセル160およびバケット7を遮断領域として抽出する。
掘削作業時における表示については、上記の実施形態1で説明したのと同様である。
具体的には、遮断領域抽出部101は、バケット7を運転席視点の作業者の視界が遮断される遮断領域700として抽出する。画像抽出部104は、遮断領域抽出部101により抽出された遮断領域よりも作業者の視線の先にある透過画像800を抽出する。画像編集部106は、遮断領域抽出部101により抽出された遮断領域700の外形線を境界にして、外形線内の領域形状に合うように透過画像800を編集する。そして、表示制御部105は、表示部50上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集されたバケット7内の透過画像を当該遮断領域に合成して表示部50に表示する。
次に、積込作業時における表示について説明する。
図17は、実施形態1の変形例に基づく積込作業時におけるカメラ40で撮像した画像データを説明する図である。
図17に示されるように、ここでは、カメラ40により撮像した作業機3の作業機リンクを含む画像データCDTAが示されている。
カメラ40は、運転室5の上方に設けられ作業機3よりも後方に設けられている。したがって、作業機3よりも前にあるベッセル160の一部を撮像することはできない。作業機3の作業機リンクにより、その視界が遮断されるからである。
本例においては、表示部50上に表示されるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。具体的には、画像解析部103は、画像データCDTAに基づき例えばパターンマッチング等により作業機リンクを特定する。
遮断領域抽出部101は、画像データCDTAに基づき画像解析部103により特定された作業機リンクを運転席視点の作業者の視界が遮断される遮断領域702として抽出する。
図18は、実施形態1の変形例に基づく積込作業時におけるカメラ41で撮像した画像データを説明する図である。
図18に示されるように、ここでは、カメラ41により撮像した積込対象車両140のベッセル160を含む画像データICDTAが示されている。
カメラ41の撮像範囲は、作業機3の作業状態にかかわらず作業機3が含まれないように設定される。なお、本例においては、カメラ40と、カメラ41とは視点位置が異なるため、カメラ41の視点位置がカメラ40と同じ視点位置となるように画像変換処理したものが示されている。
本例においては、画像抽出部104は、画像データICDTAに基づいて遮断領域抽出部101により抽出された遮断領域702よりも作業者の視線の先にある透過画像802を抽出する。画像抽出部104は、作業機リンクの外形線L2に基づいて画像データに含まれている透過画像802を抽出する。透過画像802は、作業機リンクによりその視界が遮断された遮断領域よりも作業者の視線の先にある画像である。
図19は、実施形態1の変形例に基づく積込作業時における表示部50に表示される画像を説明する図である。
図19に示されるように、画像抽出部104により抽出された透過画像802が合成表示されている場合が示されている。
実施形態1の変形例に基づく制御部10Aは、作業機3の作業機リンクの外形線を透過画像に合成して表示部50に表示する。本例においては、制御部10Aは、運転席視点の作業機3の作業機リンクの外形線を透過画像に合成して表示部50に表示する。
具体的には、画像編集部106は、遮断領域抽出部101により抽出された遮断領域702の外形線を境界にして、外形線内の領域形状に合うように透過画像802を編集する。
表示制御部105は、表示部50上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集された透過画像を当該遮断領域に合成して表示部50に表示する。
遮断領域の外形線を境界として、外形線内の領域に透過画像が合成されるため外形線が残った状態で内側の領域が透視化されたいわゆるスケルトン化された画像表示となる。
本例においては、画像抽出部104において、画像データICDTAに含まれている作業機リンクの外形線L2に基づいて透過画像802を抽出し、画像編集部106において、当該透過画像を遮断領域と合成させるために遮断領域の外形線内の領域形状に合うように透過画像を編集する場合について説明した。一方で、画像抽出部104において、遮断領域の外形線内の領域形状に合うように透過画像を抽出するようにしても良い。その場合には、画像編集部106における画像編集処理は省略される。
当該表示部50における表示により、表示部50上におけるホイールローダの運転席視点の作業者の視界が遮断される遮断領域よりも作業者の視線の先にある透過画像を表示することが可能である。
本例においては、運転席視点の作業者の視界が作業機リンクにより遮断されるベッセル160の一部について、作業機リンクに対して透過画像を合成して表示することにより作業者の視界が遮られる領域が表示されるため、ベッセル160の状態を容易に把握することが可能である。したがって、作業者は、ベッセル160に対する積込作業に関して作業機3を直観的に操作することが可能であり、作業効率を改善することが可能である。
次に、排土作業時における表示について説明する。
図20は、実施形態1の変形例に基づく排土作業時におけるカメラ40で撮像した画像データを説明する図である。
図20に示されるように、ここでは、カメラ40により撮像した作業機3のバケットおよび積込対象車両140のベッセル160を含む画像データCDTBが示されている。
カメラ40は、運転室5の上方に設けられ作業機3よりも後方に設けられている。したがって、積込対象車両140のベッセル160の内部を撮像することはできない。ベッセル160の外殻によりその視界が遮断されるからである。また、作業機3のバケット7の内部を撮像することはできない。作業機3のバケット7の外殻によりその視界が遮断されるからである。
本例においては、表示部50上に表示されるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する。具体的には、画像解析部103は、画像データCDTBに基づき例えばパターンマッチング等によりベッセル160およびバケット7を特定する。
遮断領域抽出部101は、画像データCDTBに基づき画像解析部103により特定されたベッセルを運転席視点の作業者の視界が遮断される遮断領域703として抽出する。また、遮断領域抽出部101は、画像データCDTBに基づき画像解析部103により特定されたバケットを運転席視点の作業者の視界が遮断される遮断領域704として抽出する。
図21は、実施形態1の変形例に基づく排土作業時におけるカメラ151で撮像した画像データを説明する図である。
図21に示されるように、ここでは、カメラ151により撮像した積込対象車両140のベッセル160の内部の画像を含む画像データICDTBが示されている。ここでは、ベッセル160の内部に積込対象物Xが含まれている場合が示されている。
当該カメラ151で撮像された画像データICDBは、通信装置134を介してホイールローダ1に送信される。そして、ホイールローダ1の画像データ取得部102は、通信部19を介して当該画像データICDBを取得する。
本例においては、画像抽出部104は、画像データICDTBに基づいて遮断領域抽出部101により抽出された遮断領域よりも作業者の視線の先にある透過画像804を抽出する。画像抽出部104は、画像データICDTBに含まれている所定領域の画像を透過画像804として抽出する。ここでは、ベッセル160の外形線L3に基づいて透過画像804を抽出する場合が示されている。当該透過画像804は、ベッセル160の外殻によりその視界が遮断された遮断領域よりも作業者の視線の先にある画像である。
図22は、実施形態1の変形例に基づく排土作業時における表示部50に表示される画像を説明する図である。
図22に示されるように、ベッセル160内の透過画像が合成表示されている場合が示されている。
実施形態1の変形例に基づく制御部10Aは、積込対象車両140のベッセル160の外形線を透過画像に合成して表示部50に表示する。本例においては、制御部10Aは、運転席視点のベッセル160の外形線を透過画像に合成して表示部50に表示する。
具体的には、画像編集部106は、遮断領域抽出部101により抽出された遮断領域703の外形線を境界にして、外形線内の領域形状に合うように透過画像804を編集する。
表示制御部105は、表示部50上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集された透過画像を当該遮断領域に合成して表示部50に表示する。遮断領域の外形線を境界として、外形線内の領域に透過画像が合成されるため外形線が残った状態で内側の領域が透視化されたいわゆるスケルトン化された画像表示となる。
本例においては、画像抽出部104において、画像データICDTBに含まれている所定領域の画像を透過画像804を抽出し、画像編集部106において、当該透過画像を遮断領域と合成させるために遮断領域の外形線内の領域形状に合うように透過画像を編集する場合について説明した。一方で、画像抽出部104において、遮断領域の外形線内の領域形状に合うように透過画像を抽出するようにしても良い。その場合には、画像編集部106における画像編集処理は省略される。
また、本例においては、ベッセル160がスケルトン化されるのみならず、バケット7についてもスケルトン化された場合が示されている。
画像抽出部104は、画像データICDTBに基づいて遮断領域抽出部101により抽出された遮断領域704よりも作業者の視線の先にある透過画像を抽出する。当該透過画像は、実施形態1で説明したように、カメラ45により撮像した作業機3のバケット7の内部の画像を含む画像データに基づいて抽出する。
画像編集部106は、遮断領域抽出部101により抽出された遮断領域704の外形線を境界にして、外形線内の領域形状に合うように当該透過画像を編集する。
表示制御部105は、表示部50上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集されたバケット7内の透過画像を当該遮断領域に合成して表示部50に表示する。遮断領域の外形線を境界として、外形線内の領域に透過画像が合成されるため外形線が残った状態で内側の領域が透視化されたいわゆるスケルトン化された画像表示となる。
当該表示部50における表示により、表示部50上におけるホイールローダの運転席視点の作業者の視界が遮断される遮断領域よりも作業者の視線の先にある透過画像を表示することが可能である。
本例においては、運転席視点の作業者の視界がベッセル160の外殻により遮断されるベッセル160の内部について、ベッセル160に対して透過画像を合成して表示することにより運転席視点の作業者の視界が遮られる領域が表示されるため、ベッセル160の内部の状態を容易に把握することが可能である。本例においては、運転席視点の作業者の視界がバケット7の外殻により遮断されるバケット7の内部について、バケット7に対して透過画像を合成して表示することにより運転席視点の作業者の視界が遮られる領域が表示されるため、バケット7の内部の状態を容易に把握することが可能である。
作業者は、作業機3のベッセル160に対する排土作業に関して作業機3を直観的に操作することが可能であり、作業効率を改善することが可能である。
なお、本例においては、ベッセル160の内部の画像としてカメラ151により撮像した画像データを用いる場合について説明したが、ベッセル160の内部に設けられた知覚センサにより内部の状況を推定できる場合には、推定した状況に基づいて複数の予め設けられている透過画像の中から1つを選択して、当該選択した透過画像を合成することも可能である。また、推定した状況に基づいて算出した結果を合成することも可能である。
また、本例においては、ベッセル160およびバケット7を遮断領域とする場合について説明したが、作業機リンクも遮断領域としてスケルトン化するようにしても良い。
なお、作業をサポートする点でさらに画像を加工表示するようにしても良い。具体的には、制御部10は、作業機リンクとベッセル160とが干渉する可能性がある部位を特定して、当該部位を強調表示するようにしても良い。たとえば、表示制御部105により干渉する可能性がある部位に色を付けるとともに色を変化させることにより強調表示するようにしても良い。干渉する可能性の度合に応じて色を変化させることも可能である。たとえば、可能性が低い場合には薄い赤色に設定して、可能性が高くなればなるほど濃い赤色に変化させるようにしても良い。干渉の可能性については両者の距離に基づいて判断することが可能である。
ベッセル160の距離については、画像解析部103により画像データCDTBに含まれるベッセル160からホイールローダ1との距離を算出することが可能である。また、作業機3の状態は、一例として、ブーム6のリフトシリンダの長さおよびバケットシリンダ15の長さに基づいて作業機リンクの状態を特定することが可能である。表示制御部105は、これらの算出結果に基づく互いの位置関係に基づいて両者の距離を算出し、強調表示することが可能である。
(実施形態2)
上記の実施形態1およびその変形例においては、遮断領域抽出部101は、作業機3あるいは積込対象車両140により表示部上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する場合について説明した。具体的には、撮像した画像データに含まれる所定領域をパターンマッチングにより特定して遮断領域として抽出する方式について説明した。
実施形態2においては、別の方式で遮断領域を抽出する方式について説明する。
図23は、実施形態2に基づくホイールローダ1の制御部10Bの機能ブロックを説明する図である。
図23に示されるように、制御部10Bは、メモリ60に格納されている各種のプログラムを実行することにより機能ブロックを実現する。
制御部10Bは、ホイールローダ1の作業機3あるいは積込対象車両140のベッセル160の少なくとも一部を透過する透過画像を表示部50に表示する。
具体的には、制御部10Bは、作業機姿勢状態判断部107をさらに追加した点が異なる。
作業機姿勢状態判断部107は、操作部8の操作指示に従って作業機3の姿勢状態を判断する。
図24は、実施形態2に基づくホイールローダ1をモデル化した状態を説明する図である。
図24に示されるように、ここでは、ホイールローダの本体部分Pと、バケットQと、本体部分Pと、バケットQとを接続する作業機リンクRとをモデル化した場合が示されている。
操作部8の操作指令に従いバケットQおよび作業機リンクRの状態(姿勢状態)は変化する。
ここでは、一例として水平面と接していたバケットQの状態を初期状態とした場合に、操作部8の操作指令に従い作業機リンクRがバケットQをリフトアップして角度α回転した状態である場合が示されている。また、操作部8の操作指令に従いバケットQの角度が変化して作業機リンクRとの角度がβである場合が示されている。
角度α,βは、操作部8の操作指令量に基づき算出することが可能であり、作業機姿勢状態判断部107は、操作部8の操作指示に基づいて作業機3の姿勢状態を判断することが可能である。なお、角度α,βを角度センサを用いて検出し、作業機3の姿勢状態を判断するようにしても良い。また、リフトシリンダの長さおよびバケットシリンダの長さをストロークセンサの値に基づいて算出し、それに基づいて作業機3の姿勢状態を判断することも可能である。
遮断領域抽出部101は、作業機姿勢状態判断部107で判断した作業機3の姿勢状態に基づいて表示部上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域を特定し、当該遮断領域を抽出する。
以降の処理については、上記の実施形態1およびその変形例で説明したのと同様であるのでその詳細な説明については繰り返さない。
実施形態2に基づく方式により、画像解析することなく表示部上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域を特定することが可能であり、遮断領域を抽出する際の処理負荷を軽減することが可能である。
(実施形態3)
上記の実施形態においては、カメラ40で撮像した画像データを表示部50に表示する際に、表示部50上におけるホイールローダの運転席視点の作業者の視界が遮断される領域を合成表示する場合について説明した。
実施形態3においては、作業者が目視している作業機あるいは積込対象車両に対して遮断領域を合成表示する場合について説明する。
制御部の構成については、実施形態1の変形例に基づく制御部10Aと基本的に同様である。
図25は、実施形態3に基づく表示部およびカメラの撮像範囲を説明する図である。
図25(A)を参照して、ここでは、表示部50#の右側および左側にカメラ40RAおよび40LAが設けられている場合が示されている。また、表示部50#の右側および左側にカメラ40RBおよび40LBが設けられている場合が示されている。カメラ40RBは、表示部50#に対してカメラ40RAよりも表示部50#から離れた位置に設けられる。カメラ40LBは、表示部50#に対してカメラ40LAよりも離れた位置に設けられる。カメラ40RAおよび40LAの距離は表示部50#から同じ距離に設けられているものとする。カメラ40RBおよび40LBの距離は表示部50#から同じ距離に設けられているものとする。
作業者の前には光学透過(シースルー)型の表示部50#が設けられている。表示部50#を介して作業者は外部の情報を取得することが可能である。
本例においては、一例として、表示部50#を介して作業者が情報を取得する上下方向の撮像範囲αが示されている。
カメラ40RA,40RB,40LA,40LBの上下方向の撮像範囲も同じ範囲に設定されている。
なお、本例においては、図示していないが、表示部50#を介して作業者が情報を取得する左右方向の撮像範囲と、カメラ40RA,40RB,40LA,40LBの左右方向の撮像範囲も同じ範囲に設定されている。
なお、本例においては、一例として、表示部50#は、ホイールローダ1に固定されて設けられており、水平面に対する表示部50#の位置とカメラ40RA,40RB,40LA,40LBの高さとは同じ高さに設定されているものとする。
本例においては、カメラ40RA,40LAの撮像範囲には、ホイールローダ1の作業機3が含まれる。一方、カメラ40RB,LBの撮像範囲には、ホイールローダ1の作業機3は含まれないものとする。
図25(B)は、カメラ40RA,40LAの撮像範囲の画像データから作業者が表示部50#を介して取得する情報を抽出する方式を説明する図である。
図25(B)に示されるように、右側のカメラ40RAの画像データRCDTAと、左側のカメラ40LAの画像データLCDTAとが示されている。ここで、画像データRCDTAと、画像データLCDTAとについて、任意の同じ地点が重なるように配置する。なお、ともに作業機3の一部が表示されているものとする。この場合、画像データRCDTAと画像データLCDTAの水平方向の長さがLずれている場合には、表示部50#を介して作業者が情報を取得している範囲は画像データRCDTAをL/2左にずらし、画像データLCDTAをL/2右にずらした範囲である。本例においては、作業者が表示部50#を介して取得する範囲の情報を画像データCDTA#として抽出する。
ここでは、画像データCDTA#として図17で説明した画像データCDTAと同じ画像データが示されている。
当該画像データCDTA#は、表示部50#を介して作業者が取得する遮断領域を含む情報である。当該画像データCDTA#に基づいて遮断領域を特定することが可能である。
図25(C)は、カメラ40RB,40LBの撮像範囲の画像データから作業者が表示部50#を介して取得する情報を抽出する方式を説明する図である。
図25(C)に示されるように、右側のカメラ40RBの画像データRCDTBと、左側のカメラ40LBの画像データLCDTBとが示されている。ここで、画像データRCDTBと、画像データLCDTBとについて、任意の同じ地点が重なるように配置する。なお、ともに積込対象車両140の一部が表示されているものとする。この場合、画像データRCDTBと画像データLCDTBの水平方向の長さがMずれている場合には、表示部50#を介して作業者が情報を取得している範囲は画像データRCDTBをM/2左にずらし、画像データLCDTBをM/2右にずらした範囲である。本例においては、作業者が表示部50#を介して取得する範囲の情報を画像データCDTB#として抽出する。
ここでは、画像データCDTB#として図18で説明した画像データICDTAと同じ画像データが示されている。
当該画像データCDTB#は、表示部50#を介して作業者が取得する遮断領域を含まない情報である。当該画像データCDTB#に基づいて遮断領域よりも作業者の視線の先にある透過画像を取得することが可能である。
上記の実施形態1の変形例で説明したのと同様に、積込作業時における表示部50#上における表示について説明する。
積込作業時においては、作業機リンクを遮断領域として抽出する。
画像解析部103は、画像データCDTA#に基づき例えばパターンマッチング等により作業機リンクを特定する。
遮断領域抽出部101は、画像データCDTA#に基づき画像解析部103により特定された作業機リンクを運転席視点の作業者の視界が遮断される遮断領域として抽出する。
画像抽出部104は、画像データCDTB#に基づいて遮断領域抽出部101により抽出された遮断領域よりも作業者の視線の先にある透過画像を抽出する。
画像抽出部104は、作業機リンクの外形線L2に基づいて画像データCDTB#に含まれている透過画像を抽出する。当該透過画像は、作業機リンクによりその視界が遮断された遮断領域よりも作業者の視線の先にある画像である。
画像編集部106は、遮断領域抽出部101により抽出された遮断領域702の外形線を境界にして、外形線内の領域形状に合うように透過画像802を編集する。
表示制御部105は、表示部50#上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集された透過画像を当該遮断領域に合成して表示部50#に表示する。
図26は、実施形態3に基づく表示部50#の一例を説明する図である。
図26を参照して、本例においては、図22で説明したのと同様に、遮断領域の外形線を境界として、外形線内の領域に透過画像が合成されるため外形線が残った状態で内側の領域が透視化されたいわゆるスケルトン化された画像表示となる。
なお、ここで、表示部50#に示されている積込対象車両140および作業機3の一部について、表示制御部105により表示されている部分は、遮断領域702に合成された透過画像802の部分のみである。それ以外の部分は、シースルー型の表示部50#を介して作業者により目視されているものであり、表示部50#に表示されたものではない。
なお、本例においては、積込作業時の場合の表示について説明したが、実施形態1の変形例で説明したのと同様に、掘削作業時および排土作業時についても同様の方式により表示部50#上におけるホイールローダ1の運転席視点の作業者の視界が遮断される遮断領域の外形線を境界にして、画像編集部106により編集された透過画像を当該遮断領域に合成して表示部50#に表示することが可能である。
当該表示部50#における表示により、表示部50#上におけるホイールローダの運転席視点の作業者の視界が遮断される遮断領域よりも作業者の視線の先にある透過画像を表示することが可能である。
したがって、作業者は、作業機3を直観的に操作することが可能であり、作業効率を改善することが可能である。
なお、本例においては、表示部50#は、ホイールローダ1に固定されている場合について説明したが、その高さを調整するようにしてもよい。例えば、表示部50#の高さに合わせてカメラ40RA,40RB,40LA,40LBの高さも同じ高さに調節すればよい。
また、作業者が表示部50#を介して視認する視線方向も調整可能にしてもよい。表示部50#の向きに合わせて40RA,40RB,40LA,40LBの視線方向も調節すればよい。
また、本例においては、4つのカメラ40RA,40RB,40LA,40LBを用いた構成について説明したが、それよりも少ない個数のカメラで実現するようにしてもよい。なお、その場合には、カメラの撮像範囲は、作業者が表示部50#を介して情報を取得する範囲を含んでいるものとし、画像解析処理により、当該範囲を抽出する。
また、本例においては、表示部50#がホイールローダ1に固定されている場合について説明したが、特にこれに限られず、いわゆるヘッドマウントディスプレイの如く作業者に装着可能な形態等であっても良い。
(その他形態)
なお、上記の実施形態においては、ホイールローダ1の制御部について、遮断領域を抽出し、透過画像を合成して表示する主な処理を実行する場合について説明したが、制御部の各機能ブロックは、必ずしもホイールローダ1が有する必要はなく、一部の機能ブロックがネットワークと接続されたサーバに設けられた構成としても良いし、データ通信可能な積込対象車両側に設けられた構成であっても良い。
以上、本発明の実施形態について説明したが、今回開示された実施形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は請求の範囲によって示され、請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。
1,1A ホイールローダ、2 車体フレーム、2a 前車体部、2b 後車体部、3 作業機、4a,4b,142,144 車輪、5,152 運転室、6 ブーム、7 バケット、8 操作部、9 ベルクランク、10,10A,10B 制御部、11a,11b ステアリングシリンダ、12 ステアリングポンプ、13 作業機ポンプ、14a,14b リフトシリンダ、15 バケットシリンダ、19 通信部、21,146 エンジン、22 走行装置、23 トルクコンバータ装置、24 燃料噴射ポンプ、26 トランスミッション、27 ロックアップクラッチ、28 トルクコンバータ、31 クラッチ制御弁、32 シャフト、33 軸、34 作業機制御弁、35 ステアリング制御弁、40,45,151,40LA,40LB,40RA,40RB カメラ、50,50#,503 表示部、60 メモリ、81a アクセル操作部材、81b アクセル操作検出装置、82a ステアリング操作部材、82b ステアリング操作検出装置、83a ブーム操作部材、83b ブーム操作検出装置、84a バケット操作部材、84b バケット操作検出装置、85a 変速操作部材、85b 変速操作検出装置、86a 操作部材、86b 操作検出装置、91 エンジン回転数センサ、92 出力回転数センサ、93 入力回転数センサ、94〜97 第1〜第4油圧センサ、98 ブーム角検出装置、100 作業状態判断部、101 遮断領域抽出部、102 画像データ取得部、103 画像解析部、104 画像抽出部、105 表示制御部、106 画像編集部、107 作業機姿勢状態判断部、134 通信装置、140 積込対象車両、150 アクチュエータ、154 操作者席、158 制御装置、160 ベッセル。

Claims (14)

  1. ホイールローダの制御システムであって、
    表示部と、
    前記ホイールローダの作業機あるいは積込対象車両のベッセルの少なくとも一部を透過する透過画像を前記表示部に表示する制御部とを備える、ホイールローダの制御システム。
  2. 前記制御部は、前記作業機のバケットあるいは前記ベッセルの外形線を前記透過画像に合成して前記表示部に表示する、請求項1記載のホイールローダの制御システム。
  3. 前記制御部は、前記バケットの側面視の外形線を前記バケット内の透過画像に合成して前記表示部に表示する、請求項2記載のホイールローダの制御システム。
  4. 前記制御部は、運転席視点の前記バケットの外形線を前記バケット内の透過画像に合成して前記表示部に表示する、請求項2記載のホイールローダの制御システム。
  5. 前記制御部は、
    前記表示部上における前記ホイールローダの運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出する遮断領域抽出部と、
    前記遮断領域抽出部により抽出された遮断領域の外形線を境界にして、前記遮断領域の外形線内の領域について、前記遮断領域よりも前記作業者の視線の先にある前記透過画像を合成して前記表示部に表示する表示制御部とを含む、請求項2記載のホイールローダの制御システム。
  6. 前記表示部は、光学透過型の表示部である、請求項1〜5のいずれか一項に記載のホイールローダの制御システム。
  7. 前記遮断領域抽出部は、前記作業者の操作指示に基づいて前記遮断領域の少なくとも一部を抽出する、請求項5記載のホイールローダの制御システム。
  8. 画像データを取得する撮像部と、
    前記撮像部で取得した画像データに基づいて前記遮断領域よりも前記作業者の視線の先にある前記透過画像を抽出する画像抽出部とをさらに備え、
    前記表示制御部は、前記遮断領域抽出部により抽出された遮断領域の外形線を境界にして、前記遮断領域の外形線内の領域について、前記画像抽出部により抽出された前記透過画像を合成して前記表示部に表示する、請求項5記載のホイールローダの制御システム。
  9. 前記遮断領域抽出部は、前記バケットによる掘削時において、前記作業機のバケットにより前記表示部上における前記運転席視点の作業者の視界が遮断される遮断領域を抽出し、
    前記画像抽出部は、前記掘削時において、抽出された遮断領域よりも前記作業者の視線の先にある前記バケット内の前記透過画像を抽出し、
    前記表示制御部は、前記掘削時において、前記遮断領域抽出部により抽出された前記バケットの外形線を境界にして、前記バケットの外形線内の領域について、前記画像抽出部により抽出された前記バケット内の前記透過画像を合成して前記表示部に表示する、請求項8記載のホイールローダの制御システム。
  10. 前記作業機は、前記バケットと車両本体とを接続する作業機リンクを含み、
    前記遮断領域抽出部は、前記ベッセルに対する積込時において、前記作業機リンクにより前記表示部上における前記運転席視点の作業者の視界が遮断される遮断領域を抽出し、
    前記画像抽出部は、前記積込時において、抽出された遮断領域よりも前記作業者の視線の先にある前記ベッセルの一部の前記透過画像を抽出し、
    前記表示制御部は、前記積込時において、前記遮断領域抽出部により抽出された前記作業機リンクの外形線を境界にして、前記作業機リンクの外形線内の領域について、前記画像抽出部により抽出された前記透過画像を合成して前記表示部に表示する、請求項8記載のホイールローダの制御システム。
  11. 前記遮断領域抽出部は、前記バケットによる排土時において、前記ベッセルにより前記表示部上における前記運転席視点の作業者の視界が遮断される遮断領域を抽出し、
    前記画像抽出部は、前記排土時において、抽出された遮断領域よりも前記作業者の視線の先にある前記ベッセル内の前記透過画像を抽出し、
    前記表示制御部は、前記排土時において、前記遮断領域抽出部により抽出された前記ベッセルの外形線を境界にして、前記ベッセルの外形線内の領域について、前記画像抽出部により抽出された前記ベッセル内の前記透過画像を合成して前記表示部に表示する、請求項8記載のホイールローダの制御システム。
  12. 前記遮断領域抽出部は、前記バケットによる排土時において、前記バケットにより前記表示部上における前記運転席視点の作業者の視界が遮断される遮断領域をさらに抽出し、
    前記画像抽出部は、前記排土時において、抽出された遮断領域よりも前記作業者の視線の先にある前記バケット内の前記透過画像をさらに抽出し、
    前記表示制御部は、前記排土時において、前記遮断領域抽出部により抽出された前記バケットの外形線を境界にして、前記バケットの外形線内の領域について、前記画像抽出部により抽出された前記バケット内の前記透過画像をさらに合成して表示する、請求項11記載のホイールローダの制御システム。
  13. ホイールローダの制御システムの制御方法であって、
    撮像した画像データを入力するステップと、
    前記画像データのうち作業機あるいは積込対象車両の少なくとも一部により前記ホイールローダの運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出するステップと、
    抽出された前記遮断領域よりも前記作業者の視線の先にある透過画像を合成して画像合成データを作成するステップと、
    前記画像合成データを表示部に表示するステップとを備える、ホイールローダの制御システムの制御方法。
  14. ホイールローダの制御方法であって、
    撮像した画像データを取得するステップと、
    前記画像データのうち作業機あるいは積込対象車両の少なくとも一部により前記ホイールローダの運転席視点の作業者の視界が遮断される遮断領域の少なくとも一部を抽出するステップと、
    抽出された前記遮断領域よりも前記作業者の視線の先にある透過画像を合成して画像合成データを作成するステップと、
    前記画像合成データを表示部に表示するステップとを備える、ホイールローダの制御方法。
JP2017536747A 2015-08-24 2016-08-12 ホイールローダの制御システム、その制御方法およびホイールローダの制御方法 Active JP6913630B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015164481 2015-08-24
JP2015164481 2015-08-24
PCT/JP2016/073733 WO2017033769A1 (ja) 2015-08-24 2016-08-12 ホイールローダの制御システム、その制御方法およびホイールローダの制御方法

Publications (2)

Publication Number Publication Date
JPWO2017033769A1 true JPWO2017033769A1 (ja) 2018-06-14
JP6913630B2 JP6913630B2 (ja) 2021-08-04

Family

ID=58100184

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017536747A Active JP6913630B2 (ja) 2015-08-24 2016-08-12 ホイールローダの制御システム、その制御方法およびホイールローダの制御方法

Country Status (5)

Country Link
US (1) US10435868B2 (ja)
EP (2) EP3342942B1 (ja)
JP (1) JP6913630B2 (ja)
CN (1) CN107532410B (ja)
WO (1) WO2017033769A1 (ja)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6986853B2 (ja) * 2017-04-28 2021-12-22 株式会社小松製作所 作業機械および作業機械の制御方法
DE202017103443U1 (de) 2017-06-08 2018-09-11 Liebherr-Werk Bischofshofen Gmbh Arbeitsmaschine
JP7146767B2 (ja) * 2017-08-08 2022-10-04 住友建機株式会社 道路機械
CN110446816B (zh) * 2017-08-09 2023-01-20 住友建机株式会社 挖土机、挖土机的显示装置及挖土机的显示方法
JP6745254B2 (ja) * 2017-09-21 2020-08-26 日立建機株式会社 油圧ショベル
JP6891087B2 (ja) * 2017-09-29 2021-06-18 株式会社小松製作所 作業車両、表示装置、および障害判定方法
JP7021502B2 (ja) * 2017-10-27 2022-02-17 コベルコ建機株式会社 建設機械の視覚拡張システム
JP7121532B2 (ja) * 2018-04-27 2022-08-18 株式会社小松製作所 積込機械の制御装置及び積込機械の制御方法
JP6995687B2 (ja) 2018-04-27 2022-01-17 株式会社小松製作所 積込機械の制御装置及び積込機械の制御方法
US10857941B2 (en) * 2019-01-28 2020-12-08 Toyota Motor Engineering & Manufacturing North America, Inc. E-mirror automatic position adjustment system
FR3096698B1 (fr) * 2019-06-03 2021-04-30 Manitou Bf Engin de manutention de charge
EP3756447A1 (en) * 2019-06-27 2020-12-30 Kubota Corporation Working vehicle and support system for the same
US20220329731A1 (en) * 2019-09-20 2022-10-13 Wise Automotive Corporation Front image generation device for heavy equipment
KR20210089039A (ko) * 2020-01-07 2021-07-15 두산인프라코어 주식회사 건설기계의 제어 시스템 및 방법
US11946230B2 (en) 2020-10-28 2024-04-02 Deere & Company Container load assist system and method for a work vehicle
CN112595334B (zh) * 2020-12-24 2024-04-30 江苏徐工工程机械研究院有限公司 露天矿山的卸载区的地图更新方法、装置和系统
KR20220102804A (ko) * 2021-01-14 2022-07-21 현대두산인프라코어(주) 건설기계의 제어 시스템 및 방법
US20230151586A1 (en) * 2021-11-18 2023-05-18 Deere & Company Work tool camera system for utility vehicles

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02117935U (ja) * 1989-03-10 1990-09-21
JPH03208921A (ja) * 1990-01-11 1991-09-12 Shin Caterpillar Mitsubishi Ltd 土質検知装置付バケット
JPH07252863A (ja) * 1994-03-10 1995-10-03 Hitachi Constr Mach Co Ltd 産業機械の安全装置
JPH10299032A (ja) * 1997-04-22 1998-11-10 Kensetsusho Kanto Chiho Kensetsu Kyokucho 作業用走行車の視界改善装置および方法
JP2008241300A (ja) * 2007-03-26 2008-10-09 Komatsu Ltd 油圧ショベルの作業量計測方法および作業量計測装置
JP2008303574A (ja) * 2007-06-06 2008-12-18 Hitachi Constr Mach Co Ltd 作業機械

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3028921U (ja) * 1996-03-12 1996-09-17 俊一 木村 容器運搬の荷くずれ防止天蓋及び結束牽引棒
US9440591B2 (en) * 2009-05-13 2016-09-13 Deere & Company Enhanced visibility system
JP6014664B2 (ja) * 2012-06-08 2016-10-25 日立建機株式会社 自走式産業機械の表示装置
US8918246B2 (en) * 2012-12-27 2014-12-23 Caterpillar Inc. Augmented reality implement control
US10029621B2 (en) * 2013-05-16 2018-07-24 Ford Global Technologies, Llc Rear view camera system using rear view mirror location
JP6071786B2 (ja) 2013-07-17 2017-02-01 日立建機株式会社 作業機械の周囲監視装置
WO2016092684A1 (ja) 2014-12-12 2016-06-16 株式会社日立製作所 体積推定装置およびそれを用いた作業機械
KR102483801B1 (ko) 2015-05-12 2023-01-02 현대두산인프라코어(주) 휠 로더의 제어 방법, 제어 장치 및 제어 시스템

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02117935U (ja) * 1989-03-10 1990-09-21
JPH03208921A (ja) * 1990-01-11 1991-09-12 Shin Caterpillar Mitsubishi Ltd 土質検知装置付バケット
JPH07252863A (ja) * 1994-03-10 1995-10-03 Hitachi Constr Mach Co Ltd 産業機械の安全装置
JPH10299032A (ja) * 1997-04-22 1998-11-10 Kensetsusho Kanto Chiho Kensetsu Kyokucho 作業用走行車の視界改善装置および方法
JP2008241300A (ja) * 2007-03-26 2008-10-09 Komatsu Ltd 油圧ショベルの作業量計測方法および作業量計測装置
JP2008303574A (ja) * 2007-06-06 2008-12-18 Hitachi Constr Mach Co Ltd 作業機械

Also Published As

Publication number Publication date
CN107532410A (zh) 2018-01-02
JP6913630B2 (ja) 2021-08-04
EP3342942A4 (en) 2019-04-24
EP3342942A1 (en) 2018-07-04
EP3985184A1 (en) 2022-04-20
US10435868B2 (en) 2019-10-08
CN107532410B (zh) 2020-10-13
EP3342942B1 (en) 2021-12-22
WO2017033769A1 (ja) 2017-03-02
US20180171594A1 (en) 2018-06-21

Similar Documents

Publication Publication Date Title
JP6913630B2 (ja) ホイールローダの制御システム、その制御方法およびホイールローダの制御方法
JP6480830B2 (ja) ホイールローダの制御システム、その制御方法およびホイールローダの制御方法
US8918246B2 (en) Augmented reality implement control
WO2017033623A1 (ja) ホイールローダ
JP5908500B2 (ja) ショベルの画像表示装置
WO2017115810A1 (ja) ショベル
CN113152552B (zh) 工程机械的控制系统及方法
JP7001350B2 (ja) 作業車両および作業車両の制御方法
EP3754120A1 (en) Remote control system and main control device
JP6915007B2 (ja) ホイールローダ
AU2020211862B2 (en) System and method for work machine
JP7286287B2 (ja) 作業機械の表示システムおよびその制御方法
AU2020211863A1 (en) System and method for work machine
AU2020211868B2 (en) System and method for work machine
JP7197315B2 (ja) ホイールローダの表示システムおよびその制御方法
AU2020212836B2 (en) System and method for work machine
CN112204198B (zh) 作业机械的显示系统及其控制方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210706

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210712

R150 Certificate of patent or registration of utility model

Ref document number: 6913630

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150