JP7175680B2 - 表示制御装置、表示制御システム、および表示制御方法 - Google Patents

表示制御装置、表示制御システム、および表示制御方法 Download PDF

Info

Publication number
JP7175680B2
JP7175680B2 JP2018163775A JP2018163775A JP7175680B2 JP 7175680 B2 JP7175680 B2 JP 7175680B2 JP 2018163775 A JP2018163775 A JP 2018163775A JP 2018163775 A JP2018163775 A JP 2018163775A JP 7175680 B2 JP7175680 B2 JP 7175680B2
Authority
JP
Japan
Prior art keywords
display
vehicle
image
control device
weight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018163775A
Other languages
English (en)
Other versions
JP2020033850A (ja
Inventor
▲キ▼ 丁
康洋 指宿
淳 森永
真範 皆川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Komatsu Ltd
Original Assignee
Komatsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Komatsu Ltd filed Critical Komatsu Ltd
Priority to JP2018163775A priority Critical patent/JP7175680B2/ja
Priority to US17/046,060 priority patent/US11663748B2/en
Priority to AU2019327038A priority patent/AU2019327038B2/en
Priority to PCT/JP2019/028255 priority patent/WO2020044836A1/ja
Publication of JP2020033850A publication Critical patent/JP2020033850A/ja
Application granted granted Critical
Publication of JP7175680B2 publication Critical patent/JP7175680B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60PVEHICLES ADAPTED FOR LOAD TRANSPORTATION OR TO TRANSPORT, TO CARRY, OR TO COMPRISE SPECIAL LOADS OR OBJECTS
    • B60P1/00Vehicles predominantly for transporting loads and modified to facilitate loading, consolidating the load, or unloading
    • B60P1/04Vehicles predominantly for transporting loads and modified to facilitate loading, consolidating the load, or unloading with a tipping movement of load-transporting element
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/20Drives; Control devices
    • E02F9/2025Particular purposes of control systems not otherwise provided for
    • E02F9/205Remotely operated machines, e.g. unmanned vehicles
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01GWEIGHING
    • G01G19/00Weighing apparatus or methods adapted for special purposes not provided for in the preceding groups
    • G01G19/08Weighing apparatus or methods adapted for special purposes not provided for in the preceding groups for incorporation in vehicles
    • G01G19/12Weighing apparatus or methods adapted for special purposes not provided for in the preceding groups for incorporation in vehicles having electrical weight-sensitive devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns

Description

本発明は、積込車両を遠隔操作するための遠隔操作装置における表示装置の表示制御装置、表示制御システム、および表示制御方法に関する。
積込車両を遠隔操作する技術が知られている。積込車両を遠隔操作するためには、外部から積込車両の周囲の状況が認識可能である必要がある。そのため、遠隔操作される積込車両は、周囲の状況を撮像する撮像装置と撮像された画像を外部に送信する通信機を備える。これにより、オペレータは、積込車両から送信される画像を視認しながら操作を行うことができる。
また、特許文献1には、積込車両の表示装置に運搬車両の積載量を表示する技術が開示されている。
国際公開第2013/065415号
積込車両を遠隔操作する場合、オペレータは、ディスプレイに表示された画像によって運搬車両を視認することとなるため、運搬車両の積載量を認識することが困難である。
本発明の態様は、遠隔操作に係る積込車両のオペレータに運搬車両の積載量を容易に認識させることができる表示制御装置、表示制御システム、および表示制御方法を提供することを目的とする。
本発明の第1の態様によれば、表示装置の表示制御装置は、積込車両に搭載された撮像装置が撮像した撮像画像を取得する撮像画像取得部と、運搬車両に搭載された重量計によって計測された積載重量を取得する積載重量取得部と、前記撮像画像上に前記積載重量を表す画像を配置した表示画像を生成する表示画像生成部と、前記表示画像前記表示装置に出力する表示制御部とを備え、前記積載重量取得部は、管制装置から送信される走行指示に基づいて無人走行する複数の運搬車両のうち、前記積込車両による作業対象である対象運搬車両に搭載された重量計によって計測された積載重量を、前記管制装置から取得する
上記態様のうち少なくとも1つの態様によれば、表示制御装置は、遠隔操作に係る積込車両のオペレータに運搬車両の積載量を容易に認識させることができる。
第1の実施形態に係る作業システムの構成を示す概略図である。 走行経路の例を表す図である。 第1の実施形態に係る積込車両の外観図である。 第1の実施形態に係る積込車両の撮像装置が撮像する画像の例である。 第1の実施形態に係る管制装置の構成を示す概略ブロック図である。 第1の実施形態に係る管制装置の動作方法を示すフローチャートである。 第1の実施形態に係る遠隔運転室の制御装置の構成を示す概略ブロック図である。 前方カメラが撮像した画像から切り出される画像の例を示す図である。 第1の実施形態に係る表示装置に表示される表示画像の例を示す図である。 第1の実施形態に係る遠隔運転室の制御装置による表示制御方法を示すフローチャートである。
〈第1の実施形態〉
《遠隔操作システム》
図1は、第1の実施形態に係る作業システムの構成を示す概略図である。
作業システム1は、遠隔操作によって動作する1または複数の積込車両100と、複数の運搬車両200と、管制装置300と、アクセスポイント400と、積込車両100を遠隔操作する1または複数の遠隔運転室500とを備える。
運搬車両200は、管制装置300から受信するコースデータ(例えば速度情報、無人運搬車が進むべき座標)に基づいて、走行経路に沿って無人走行する。運搬車両200と管制装置300とは、アクセスポイント400を介した通信により接続される。管制装置300は、運搬車両200から位置および方位を取得し、これらに基づいて運搬車両200の走行に用いるコースデータを生成する。管制装置300は、コースデータを運搬車両200に送信する。運搬車両200は、受信したコースデータに基づいて無人走行する。つまり、作業システム1は、運搬車両200と管制装置300とから構成される無人搬送システムを備える。なお、第1の実施形態に係る作業システム1は、無人搬送システムを備えるが、他の実施形態においては、一部または全部の運搬車が有人運転されてもよい。この場合、管制装置300は、コースデータおよび積込に関する指示の送信を行う必要がないが、運搬車の位置および方位を取得する。
積込車両100は、遠隔運転室500から送信される操作信号に従って遠隔操作される。積込車両100と遠隔運転室500とは、アクセスポイント400を介した通信により接続される。遠隔運転室500の制御装置550は、オペレータから積込車両100の操作を受け付け、操作信号を積込車両100に送信する。積込車両100は、遠隔運転室500から受信した操作信号に従って駆動する。つまり、作業システム1は、積込車両100と遠隔運転室500とから構成される遠隔運転システムを備える。
積込車両100および運搬車両200は、作業現場(例えば、鉱山、採石場)にて稼働する。遠隔運転室500は、積込車両100および運搬車両200から離れた地点(例えば、市街、作業現場内)に設けられる。
《走行経路》
図2は、走行経路の例を表す図である。
運搬車両200には、走行すべき走行経路Rが設定される。走行経路Rは、2つのエリアA(例えば、積込場A1と排土場A2)を結ぶあらかじめ定められた接続経路R1、ならびにエリアA内の経路である進入経路R2、アプローチ経路R3および退出経路R4を有する。進入経路R2は、エリアA内において接続経路R1の一端である待機点P1と所定の切り返し点P2とを接続する経路である。アプローチ経路R3は、エリアA内の切り返し点P2と積込点P3または排土点P4とを接続する経路である。退出経路R4は、エリアA内の積込点P3または排土点P4と接続経路R1の他端である出口点P5とを接続する経路である。積込点P3は、積込車両100のオペレータの操作によって設定される点である。切り返し点P2は、積込点P3または排土点P4の位置に応じて管制装置300によって設定される点である。
《遠隔運転室》
遠隔運転室500は、運転席510、表示装置520、第1操作装置530、第2操作装置540、制御装置550を備える。
表示装置520は、運転席510に対向するように配置される。なお、本実施形態において対向とは、正面方向が平行になるように、または鈍角に交わるように向き合う状態をいう。表示装置520は、オペレータが運転席510に座ったときにオペレータの眼前に位置する。表示装置520は、図1に示すように、並べられた中央ディスプレイ521、左ディスプレイ522、右ディスプレイ523、上ディスプレイ524、下ディスプレイ525によって構成される。左ディスプレイ522は中央ディスプレイ521の左側に設けられる。右ディスプレイ523は中央ディスプレイ521の右側に設けられる。上ディスプレイ524は中央ディスプレイ521の上側に設けられる。下ディスプレイ525は中央ディスプレイ521の下側に設けられる。
なお、他の実施形態においては、表示装置520を構成するディスプレイの数はこれに限られない。例えば、表示装置520は1つのディスプレイによって構成されてもよい。また、表示装置520は、プロジェクタ等によって曲面や球面に画像を投影するものであってもよい。
第1操作装置530は、遠隔運転システム用の操作装置である。第1操作装置530は、オペレータが運転席510に座ったときにオペレータの操作可能な範囲内に位置する。第1操作装置530は、例えば電気式レバーおよび電気式ペダルを備える。第1操作装置530は、ブーム131の上げ操作信号および下げ操作信号、アーム132の押し操作信号、引き操作信号、バケット133の掘削操作信号およびダンプ操作信号、旋回体120の旋回操作信号、ならびに走行体110の走行操作信号の入力を受け付ける。
第2操作装置540は、無人搬送システム用の操作装置である。第2操作装置540は、オペレータが運転席510に座ったときにオペレータの操作可能な範囲内に位置する。第2操作装置540は、タッチパネル等により構成される。第2操作装置540は、運搬車両200への積込点指示信号、進入指示信号、および発進指示信号の入力を受け付ける。第2操作装置540は、入力された操作信号を管制装置300に送信する。なお、他の実施形態に係る遠隔運転室500は第2操作装置540を備えなくてもよい。
制御装置550は、積込車両100から受信した画像および車体情報を、表示装置520に表示させる。つまり、制御装置550は、表示制御装置の一例である。また制御装置550は、第1操作装置530に入力された操作信号を積込車両100に送信する。
《運搬車両》
第1の実施形態に係る運搬車両200は、ベッセルを備えるオフロードダンプトラックである。なお、他の実施形態に係る運搬車両200は、ダンプトラック以外の運搬車であってもよい。
運搬車両200は、位置方位演算器210、ペイロードメータ215、および制御装置220を備える。
位置方位演算器210は、運搬車両200の位置および方位を演算する。位置方位演算器210は、GNSS(Global Navigation Satellite System)を構成する人工衛星から測位信号を受信する2つの受信器を備える。GNSSの例としては、GPS(Global Positioning System)が挙げられる。2つの受信器は、それぞれ運搬車両200の異なる位置に設置される。位置方位演算器210は、受信器が受信した測位信号に基づいて、現場座標系における運搬車両200の位置を検出する。位置方位演算器210は、2つの受信器が受信した各測位信号を用いて、一方の受信器の設置位置に対する他方の受信器の設置位置の関係として、運搬車両200の向く方位を演算する。なお、他の実施形態においてはこれに限られず、例えば運搬車両200が慣性計測装置(IMU:Inertial Measurement Unit)を備え、慣性計測装置の計測結果に基づいて方位を演算してもよい。この場合、運搬車両200の走行軌跡に基づいて慣性計測装置のドリフトを補正してもよい。なお、他の実施形態に係る運搬車両200は、位置方位演算器210を備えなくてもよい。
ペイロードメータ215は、運搬車両200のベッセルに積載された積荷の重量、すなわち運搬車両200の積載重量を計測する重量計である。例えば、ペイロードメータ215は、運搬車両200のサスペンションシリンダに掛かる圧力を計測し、当該圧力を重量に換算するものであってもよい。
制御装置220は、位置方位演算器210が検出した位置および方位、ならびにペイロードメータ215が計測した積載重量を、管制装置300に送信する。制御装置220は、管制装置300からコースデータおよび排土指示、積込点への進入指示、および積込点からの発進指示を受信する。制御装置220は、受信したコースデータに従って運搬車両200を走行させ、または排土指示に従って運搬車両200のベッセルを上下させる。運搬車両200への操作信号は、進入指示信号、発進指示信号を含む。進入指示信号は、運搬車両200に積込点P3まで進入することを指示する信号である。発進指示信号は、運搬車両200に積込の完了により積込場A1からの発進を指示する信号である。
また、制御装置220は、運搬車両200が進入指示信号に従って積込点P3に到着したときに、管制装置300に到着通知を送信する。
《積込車両》
図3は、第1の実施形態に係る積込車両の外観図である。
第1の実施形態に係る積込車両100は、油圧ショベルである。なお、他の実施形態に係る積込車両100は、油圧ショベル以外の例えばホイールローダ等の積込車両であってもよい。
積込車両100は、油圧により駆動する作業機130と、作業機130を支持する旋回体120と、旋回体120を支持する走行体110とを備える。
作業機130は、ブーム131と、アーム132と、バケット133とを備える。ブーム131の基端部は、旋回体120にピンを介して取り付けられる。
アーム132は、ブーム131とバケット133とを連結する。アーム132の基端部は、ブーム131の先端部にピンを介して取り付けられる。
バケット133は、土砂などを掘削するための刃と掘削した土砂を収容するための容器とを備える。バケット133の基端部は、アーム132の先端部にピンを介して取り付けられる。
旋回体120には、運転室121が備えられる。運転室121は、作業機130の左側に設けられる。運転室121には、前方カメラ122が設けられる。前方カメラ122は、運転室121内の前部かつ上部に設置される。前方カメラ122は、運転室121前部のフロントガラスを通して、運転室121の前方を撮像する。ここで、「前方」とは、旋回体120において作業機130が装着された方向をいい、「後方」は「前方」の逆方向をいう。「側方」とは、前後方向に対して交差する方向(左右方向)をいう。前方カメラ122の例としては、例えばCCD(Charge Coupled Device)センサ、およびCMOS(Complementary Metal Oxide Semiconductor)センサを用いた撮像装置が挙げられる。なお、他の実施形態に係る積込車両100は、運転室121を備えなくてもよい。この場合においても、前方カメラ122は、運転室121に相当する位置に、前方を撮像するように設置される。また、他の実施形態においては、前方カメラ122は2台以上のカメラによって構成されてもよい。
図4は、第1の実施形態に係る積込車両の撮像装置が撮像する画像の例である。前方カメラ122は、作業機130および運転室121の前方の積込作業対象が写る範囲を撮像する。つまり、前方カメラ122が撮像する画像G1には、図4に示すように、作業機130および運転室121の前方の積込作業対象が写る。また、運転室121が作業機130の左側に設けられるため、画像G1の右側部分には、ブーム131の一部が写りこんでいる。また、画像G1の上側部分には、運転室121の天井部分が写りこんでいる。
積込車両100は、前方カメラ122、バケットカメラ123、位置方位演算器124、傾斜計測器125、制御装置126を備える。
バケットカメラ123は、アーム132の前面に設けられ、バケット133の内部を撮像する。以下、バケットカメラ123が撮像した画像を、バケット内部画像という。バケットカメラ123はセンサの一例である。なお、他の実施形態に係る積込車両100は、バケットカメラ123を備えなくてもよい。
位置方位演算器124は、旋回体120の位置および旋回体120が向く方位を演算する。位置方位演算器124は、GNSSを構成する人工衛星から測位信号を受信する2つの受信器を備える。2つの受信器は、それぞれ旋回体120の異なる位置に設置される。位置方位演算器124は、受信器が受信した測位信号に基づいて、現場座標系における旋回体120の代表点(ショベル座標系の原点)の位置を検出する。
位置方位演算器124は、2つの受信器が受信した各測位信号を用いて、一方の受信器の設置位置に対する他方の受信器の設置位置の関係として、旋回体120の向く方位を演算する。
なお、他の実施形態においては、位置方位演算器124は、ロータリーエンコーダやIMUの計測値に基づいて旋回体120が向く方位を検出してもよい。また、他の実施形態に係る積込車両100は、位置方位演算器124を備えなくてもよい。
傾斜計測器125は、旋回体120の加速度および角速度を計測し、計測結果に基づいて旋回体120の姿勢(例えば、ロール角、ピッチ角、ヨー角)を検出する。傾斜計測器125は、例えば旋回体120の下面に設置される。傾斜計測器125は、例えば、慣性計測装置(IMU:Inertial Measurement Unit)を用いることができる。また、他の実施形態に係る積込車両100は、傾斜計測器125を備えなくてもよい。
制御装置126は、前方カメラ122が撮像した画像、バケットカメラ123が撮像した画像、ならびに旋回体120の旋回速度、位置、方位および傾斜角の情報を、遠隔運転室500に送信する。以下、積込車両100が備える各種センサによって計測され、制御装置126が送信する情報を、車体情報という。制御装置126は、遠隔運転室500から操作信号を受信する。制御装置126は、受信した操作信号に基づいて、作業機130、旋回体120、または走行体110を駆動させる。
《管制装置》
図5は、第1の実施形態に係る管制装置の構成を示すブロック図である。
管制装置300は、運搬車両200の走行を管理する。
管制装置300は、プロセッサ3100、メインメモリ3200、ストレージ3300、インタフェース3400を備えるコンピュータである。ストレージ3300は、管制プログラムを記憶する。プロセッサ3100は、管制プログラムをストレージ3300から読み出してメインメモリ3200に展開し、管制プログラムに従った処理を実行する。管制装置300は、インタフェース3400を介して通信手段に接続される。
ストレージ3300は、走行経路記憶部3302、車両情報記憶部3303としての記憶領域を有する。ストレージ3300の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ3300は、管制装置300の共通通信線に直接接続された内部メディアであってもよいし、インタフェース3400を介して管制装置300に接続される外部メディアであってもよい。ストレージ3300は、一時的でない有形の記憶媒体である。
積込点記憶部3301は、積込車両100に関連付けて、当該積込車両100が積込みを行う積込点P3の識別情報および座標を記憶する。
走行経路記憶部3302は、運搬車両200ごとに図2に示す走行経路Rを記憶する。管制装置300は、積込車両100のオペレータから積込点P3の座標の指定する積込点指示信号を受け付け、積込点指示信号に従って積込点P3を設定する。管制装置300は、積込点P3を設定するたびに、進入経路R2、アプローチ経路R3および退出経路R4を計算する。なお、積込点P3は、管制装置300が設けられる管制室において運搬車両200を管理する運搬車両200のオペレータによって指定されてもよい。
車両情報記憶部3303は、各運搬車両200の位置情報、方位情報、積載重量、最大積載重量およびスタンバイ情報を記憶する。スタンバイ情報とは、当該運搬車両200が積込点P3で停止しているか否かを示す情報である。すなわち、運搬車両200が積込点P3で停止している場合に、スタンバイ情報はTrueを示し、運搬車両200が積込点P3にいない場合に、スタンバイ情報はFalseを示す。
プロセッサ3100は、管制プログラムの実行により、車両情報収集部3101、走行コース生成部3102、操作信号転送部3103、通知受信部3104、更新部3105、積載重量送信部3106を備える。
車両情報収集部3101は、アクセスポイント400を介して運搬車両200から位置情報、方位情報および積載重量の情報を受信する。車両情報収集部3101は、受信した位置情報、方位情報および積載重量の情報を車両情報記憶部3303に記憶させる。
走行コース生成部3102は、走行経路記憶部3302が記憶する走行経路と、車両情報記憶部3303が記憶する位置情報および方位情報とに基づいて、運搬車両200の移動を許可する領域を示すコースデータを生成し、コースデータを運搬車両200に送信する。コースデータは、例えば、運搬車両200が所定の速度で一定時間以内に走行可能かつ他の運搬車両200の走行経路と重複しない領域を表す情報である。走行コース生成部3102は、遠隔運転室500から運搬車両200の停止信号を受信した場合、当該停止信号を運搬車両200に転送する。
操作信号転送部3103は、遠隔運転室500から運搬車両200への操作信号を受信し、当該操作信号を運搬車両200に転送する。運搬車両200への操作信号は、進入指示信号および発進指示信号を含む。進入指示信号は、運搬車両200に積込点P3まで進入することを指示する信号である。発進指示信号は、運搬車両200に積込の完了により積込場A1からの発進を指示する信号である。
通知受信部3104は、運搬車両200から到着通知を受信する。
更新部3105は、運搬車両200から到着通知を受信した場合、車両情報記憶部3303において当該運搬車両200に関連付けられたスタンバイ情報をTrueに更新する。他方、遠隔運転室500から発進指示信号を受信した場合、車両情報記憶部3303において当該運搬車両200に関連付けられたスタンバイ情報をFalseに更新する。
積載重量送信部3106は、スタンバイ情報がTrueを示す運搬車両200の積込点P3に関連付けられた積込車両100を操作するための遠隔運転室500に、当該運搬車両200の積載重量を送信する。つまり、積載重量送信部3106は、複数の運搬車両200のうち積込車両100の積込対象である対象運搬車両の積載重量を、当該積込車両100に送信する。積込車両100の対象運搬車両は、積込車両100に関連付けられた積込点P3に停車し、スタンバイ情報がTrueを示す運搬車両200である。
《管制装置の動作方法》
図6は、第1の実施形態に係る管制装置の動作方法を示すフローチャートである。
管制装置300は、所定の制御周期ごとに以下の処理を実行する。
車両情報収集部3101は、アクセスポイント400を介して運搬車両200から位置情報、方位情報および積載重量の情報を受信する(ステップS01)。車両情報収集部3101は、受信した位置情報、方位情報および積載重量の情報を車両情報記憶部3303に記憶させる(ステップS02)。また、通知受信部3104は、運搬車両200から、進入指示信号に従って積込点P3に到着したことを示す到着通知を受信したか否かを判定する(ステップS03)。
運搬車両200から到着通知を受信した場合(ステップS03:YES)、更新部3105は、当該運搬車両200に関連付けられたスタンバイ情報をTrueに更新する(ステップS04)。運搬車両200から到着通知を受信しない場合(ステップS03:NO )、スタンバイ情報は更新されない。
次に、走行コース生成部3102は、走行経路記憶部3302が記憶する走行経路と、車両情報記憶部3303が記憶する位置情報および方位情報とに基づいて、各運搬車両200の移動を許可する領域を示すコースデータを生成する(ステップS05)。走行コース生成部3102は、生成したコースデータをアクセスポイント400を介して運搬車両200に送信する(ステップS06)。
また、操作信号転送部3103は、遠隔運転室500から運搬車両200への操作信号を受信し、当該操作信号を運搬車両200に転送する(ステップS07)。具体的には、操作信号転送部3103は、遠隔運転室500から進入指示信号を受信した場合、当該遠隔運転室500が操作する積込車両100に関連付けられた積込点P3を終点とするアプローチ経路R3の始点の待機点P1で停止している運搬車両200に、当該進入指示信号を転送する。また、操作信号転送部3103は、遠隔運転室500から発進指示信号を受信した場合、当該遠隔運転室500が操作する積込車両100に関連付けられた積込点P3で停止している運搬車両200に、当該発進指示信号を転送する。
更新部3105は、受信した操作信号に発進指示信号が含まれるか否かを判定する(ステップS08)。更新部3105は、操作信号に発進指示信号が含まれる場合(ステップS08:YES)、車両情報記憶部3303において発進指示信号の宛先の運搬車両200に関連付けられたスタンバイ情報をFalseに更新する(ステップS09)。
操作信号に発進指示信号が含まれない場合(ステップS08:NO)、またはステップS09で発信指示信号に基づいてスタンバイ情報を更新した場合、積載重量送信部3106は、スタンバイ情報がTrueを示す運搬車両200の積込点P3に関連付けられた積込車両100を操作するための遠隔運転室500に、当該運搬車両200の積載重量および最大積載重量を送信する(ステップS10)。
《遠隔運転室の制御装置》
図7は、第1の実施形態に係る遠隔運転室の制御装置の構成を示す概略ブロック図である。
制御装置550は、プロセッサ5100、メインメモリ5200、ストレージ5300、インタフェース5400を備えるコンピュータである。ストレージ5300は、プログラムを記憶する。プロセッサ5100は、プログラムをストレージ5300から読み出してメインメモリ5200に展開し、プログラムに従った処理を実行する。
ストレージ5300の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ5300は、制御装置550の共通通信線に直接接続された内部メディアであってもよいし、インタフェース5400を介して制御装置550に接続される外部メディアであってもよい。ストレージ5300は、一時的でない有形の記憶媒体である。なお、他の実施形態においては、制御装置550は、上記構成に加えて、または上記構成に代えて、PLD(Programmable Logic Device)などのカスタムLSI(Large Scale Integrated Circuit)またはASIC(Application Specific Integrated Circuit)などのセミカスタムLSIを備えてもよい。PLDの例としては、PAL(Programmable Array Logic)、GAL(Generic Array Logic)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)が挙げられる。この場合、プロセッサ5100によって実現される機能の一部または全部が当該集積回路によって実現されてよい。
プロセッサ5100は、プログラムの実行により、車体情報受信部5101、画像切出部5102、積載重量受信部5103、表示画像生成部5104、表示制御部5105、操作信号送信部5106を備える。
車体情報受信部5101は、前方カメラ122が撮像した画像、ならびに旋回体120の旋回速度、位置、方位および傾斜角の情報を、積込車両100から受信する。つまり、車体情報受信部5101は、撮像画像取得部、および計測値取得部の一例である。
図8は、前方カメラが撮像した画像から切り出される画像の例を示す図である。
画像切出部5102は、車体情報受信部5101が受信した前方カメラ122が撮像した画像G1から、中央ディスプレイ521に表示させるための中央画像G11、左ディスプレイ522に表示させるための左画像G12、右ディスプレイ523に表示させるための右画像G13、上ディスプレイ524に表示させるための上画像G14、下ディスプレイ525に表示させるための下画像G15をそれぞれ切り出す。各画像は、掘削対象の地形および作業機130の位置が、積込車両100のオペレータにとってに認識しやすくなるように切り出される。なお、表示装置520が1つのディスプレイから構成される場合、画像切出部5102は画像の切り出しを行わなくてもよい。
積載重量受信部5103は、管制装置300から、運搬車両200の積載重量および最大積載重量の情報を受信する。管制装置300は、車両情報記憶部3303に、運搬車両200ごとの最大積載重量を記憶する。これにより、管制装置300は、車格の異なる複数の運搬車両200が走行する場合にも、各運搬車両200の最大積載重量を認識することができる。積載重量受信部5103は、積載重量取得部の一例である。
図9は、第1の実施形態に係る表示装置に表示される表示画像の例を示す図である。
表示画像生成部5104は、例えば、積載重量受信部5103が受信した運搬車両200の積載重量を示す積載重量画像G2と、車体情報受信部5101が受信したバケット内部画像G3とを、画像切出部5102が切り出した右画像G13に配置することで、表示用右画像G13aを生成する。積載重量画像G2には、例えば、運搬車両200の積載重量、最大積載重量、および残り積載重量が含まれる。なお、図9の積載重量画像G2には、運搬車両200の側面図が描画されるが、当該側面図は例えば予めストレージ5300に記憶されているものであってよい。
表示制御部5105は、中央ディスプレイ521に中央画像G11を表示させる。左ディスプレイ522に左画像G12を表示させる。制御装置550は、右ディスプレイ523に表示用右画像G13aを表示させる。制御装置550は、上ディスプレイ524に上画像G14を表示させる。制御装置550は、下ディスプレイ525に下画像G15を表示させる。
操作信号送信部5106は、オペレータによる第1操作装置530の操作に基づいて操作信号を生成し、積込車両100に送信する。また操作信号送信部5106は、オペレータによる第2操作装置540の操作に基づいて操作信号を生成し、管制装置300に送信する。
《遠隔運転室の表示制御方法》
図10は、第1の実施形態に係る遠隔運転室の制御装置による表示制御方法を示すフローチャートである。積込車両100の遠隔操作が開始されると、制御装置550は、以下に示す表示制御を所定の周期で実行する。
車体情報受信部5101は、積込車両100の制御装置126から車体情報を受信する(ステップS21)。次に、画像切出部5102は、受信した車体情報のうち前方カメラ122が撮像した画像G1から、中央画像G11、左画像G12、右画像G13、上画像G14、および下画像G15をそれぞれ切り出す(ステップS22)。
次に、積載重量受信部5103は、管制装置300から運搬車両200の積載重量および最大積載重量を受信する(ステップS23)。表示画像生成部5104は、受信した積載重量および最大積載重量を表す積載重量画像G2およびバケット内部画像G3を右画像G13に配置することで、表示用右画像G13aを生成する(ステップS24)。表示制御部5105は、中央画像G11、左画像G12、表示用右画像G13a、上画像G14、および下画像G15を、表示装置520に表示させるための表示信号を生成し、表示装置520に送信する(ステップS25)。
《作用・効果》
このように、第1の実施形態に係る遠隔運転室500の制御装置550は、複数の運搬車両200のうち、積込車両100による積込作業対象である対象運搬車両において計測された積載重量を管制装置300から取得し、右画像G13上に積載重量画像G2を配置した表示用右画像G13aを、表示装置520に表示させる。これにより、制御装置550は、積込車両100のオペレータに運搬車両200の積載量を容易に認識させることができる。なお、他の実施形態においては、積載重量画像G2は、右画像G13以外の画像上に配置されてもよい。
また、第1の実施形態に係る遠隔運転室500の制御装置550は、右画像G13上に積載重量画像G2と、積込車両100に搭載されたバケットカメラ123が撮像したバケット内部画像G3とを配置する。これにより、オペレータは、積込車両100の状態を確認しながら、運搬車両200の積載量を認識することができる。特に、バケット内部画像G3を視認できるようにすることで、遠隔操作室のオペレータがバケット133内の積荷のの量を容易に調整することができる。なお、他の実施形態においては、表示用右画像G13aにバケット内部画像G3が含まれなくてもよい。表示用右画像G13aは、積込車両100に搭載された他のセンサが計測した計測値(例えば、積込車両100の傾き、作業機130の姿勢など)を表す画像を含んでもよい。
また、第1の実施形態に係る作業システム1は、管制装置300が、運搬車両200から積込点P3への到着を示す到着通知を受け、到着通知の送信元の運搬車両200に係る積載重量を遠隔運転室500に送信する。これにより、管制装置300は、積込車両100による積込作業対象である対象運搬車両において計測された積載重量を遠隔運転室500に送信することができる。なお、他の実施形態においては、管制装置300は、到着通知によらずに対象運搬車両を特定してもよい。例えば、他の実施形態に係る管制装置300は、運搬車両200の位置情報に基づいて、積込車両100の近傍の積込点P3で停車している運搬車両200を特定してもよい。また、他の実施形態においては、管制装置300は、すべての運搬車両200の位置情報、方位情報、および積載重量を遠隔運転室500に送信し、遠隔運転室500の制御装置550が対象運搬車両を特定してもよい。また他の実施形態においては、制御装置550の機能の一部または全部を、積込車両100の制御装置126が有していてもよい。この場合、制御装置126は、運搬車両200のペイロード情報を車車間通信によって得てもよい。
また、第1の実施形態においては、遠隔運転室500の制御装置550が表示装置520の表示制御装置として機能するが、これに限られない。例えば、他の実施形態においては、制御装置550の一部の機能が外部のサーバ装置などによって実現されてもよい。この場合、制御装置550と当該外部のサーバ装置とによって表示制御装置が構成される。
また、上述した実施形態では、作業システム1に表示制御装置が実装されるが、これに限られない。例えば、他の実施形態においては、積込車両100の外部であって積込車両100を視認できる位置において無線通信により積込車両100を操作するラジオコントロールシステムに表示制御装置を適用してもよい。ラジオコントロールシステムに適用される場合、例えば制御装置に表示装置が搭載されてもよい。
1…作業システム 100…積込車両 122…前方カメラ 123…バケットカメラ 124…位置方位演算器 125…傾斜計測器 126…制御装置 200…運搬車両 300…管制装置 3101…車両情報収集部 3102…走行コース生成部 3103…操作信号転送部 3104…通知受信部 3105…更新部 3106…積載重量送信部 3301…積込点記憶部 3302…走行経路記憶部 3303…車両情報記憶部 500…遠隔運転室 510…運転席 520…表示装置 530…第1操作装置 540…第2操作装置 550…制御装置 5101…車体情報受信部 5102…画像切出部 5103…積載重量受信部 5104…表示画像生成部 5105…表示制御部 5106…操作信号送信部

Claims (4)

  1. 表示装置の表示制御装置であって、
    積込車両に搭載された撮像装置が撮像した撮像画像を取得する撮像画像取得部と、
    運搬車両に搭載された重量計によって計測された積載重量を取得する積載重量取得部と、
    前記撮像画像上に前記積載重量を表す画像を配置した表示画像を生成する表示画像生成部と、
    前記表示画像を前記表示装置に出力する表示制御部と
    を備え
    前記積載重量取得部は、管制装置から送信される走行指示に基づいて無人走行する複数の運搬車両のうち、前記積込車両による作業対象である対象運搬車両に搭載された重量計によって計測された積載重量を、前記管制装置から取得する
    表示制御装置。
  2. 前記積込車両に搭載されたセンサが計測した計測値を取得する計測値取得部を備え、
    前記表示画像生成部は、前記撮像画像上に、前記積載重量を表す画像と前記計測値を表す画像とを配置した表示画像を生成する、
    請求項1に記載の表示制御装置。
  3. 表示装置と、
    積込車両に搭載された撮像装置が撮像した撮像画像を取得する撮像画像取得部と、
    運搬車両に搭載された重量計によって計測された積載重量を取得する積載重量取得部と、
    前記撮像画像上に前記積載重量を表す画像を配置した表示画像を生成する表示画像生成部と、
    前記表示画像を前記表示装置に出力する表示制御部と
    を備え
    前記積載重量取得部は、管制装置から送信される走行指示に基づいて無人走行する複数の運搬車両のうち、前記積込車両による作業対象である対象運搬車両に搭載された重量計によって計測された積載重量を、前記管制装置から取得する
    表示制御システム。
  4. 表示装置の表示制御方法であって、
    積込車両に搭載された撮像装置が撮像した撮像画像を取得するステップと、
    運搬車両に搭載された重量計によって計測された積載重量を取得するステップと、
    前記撮像画像上に前記積載重量を表す画像を配置した表示画像を生成するステップと、 前記表示画像を前記表示装置に表示させるステップと
    を備え
    前記積載重量を取得するステップでは、管制装置から送信される走行指示に基づいて無人走行する複数の運搬車両のうち、前記積込車両による作業対象である対象運搬車両に搭載された重量計によって計測された積載重量を、前記管制装置から取得する
    表示制御方法。
JP2018163775A 2018-08-31 2018-08-31 表示制御装置、表示制御システム、および表示制御方法 Active JP7175680B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018163775A JP7175680B2 (ja) 2018-08-31 2018-08-31 表示制御装置、表示制御システム、および表示制御方法
US17/046,060 US11663748B2 (en) 2018-08-31 2019-07-18 Display control device, display control system, and display control method
AU2019327038A AU2019327038B2 (en) 2018-08-31 2019-07-18 Display control device, display control system, and display control method
PCT/JP2019/028255 WO2020044836A1 (ja) 2018-08-31 2019-07-18 表示制御装置、表示制御システム、および表示制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018163775A JP7175680B2 (ja) 2018-08-31 2018-08-31 表示制御装置、表示制御システム、および表示制御方法

Publications (2)

Publication Number Publication Date
JP2020033850A JP2020033850A (ja) 2020-03-05
JP7175680B2 true JP7175680B2 (ja) 2022-11-21

Family

ID=69645220

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018163775A Active JP7175680B2 (ja) 2018-08-31 2018-08-31 表示制御装置、表示制御システム、および表示制御方法

Country Status (4)

Country Link
US (1) US11663748B2 (ja)
JP (1) JP7175680B2 (ja)
AU (1) AU2019327038B2 (ja)
WO (1) WO2020044836A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210268622A1 (en) 2020-02-28 2021-09-02 Sintokogio, Ltd. Barrel polishing apparatus

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013113044A (ja) 2011-11-30 2013-06-10 Sumitomo (Shi) Construction Machinery Co Ltd 建設機械用モニタシステム
JP2016212055A (ja) 2015-05-13 2016-12-15 日立建機株式会社 作業機械の荷重計測装置
JP2017089139A (ja) 2015-11-04 2017-05-25 住友建機株式会社 ショベル
WO2018124144A1 (ja) 2016-12-28 2018-07-05 株式会社小松製作所 作業車両、サーバ装置、積載重量管理システムおよび積載重量管理方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5575703B2 (ja) * 2011-06-07 2014-08-20 株式会社小松製作所 ダンプトラックの積載量表示装置
CN103249896B (zh) 2011-11-04 2014-12-03 株式会社小松制作所 装载系统及搬运机
AU2014262221C1 (en) 2013-11-25 2021-06-10 Esco Group Llc Wear part monitoring
US10324461B2 (en) 2014-07-30 2019-06-18 Yanmar Co., Ltd. Remote control apparatus
CA2976374C (en) 2015-02-13 2023-08-01 Esco Corporation Monitoring ground-engaging products for earth working equipment
JP6620011B2 (ja) * 2015-12-25 2019-12-11 株式会社小松製作所 作業車両および表示制御方法
US10372126B2 (en) * 2016-05-27 2019-08-06 Cnh Industrial America Llc Dynamic in-cabin autonomous vehicle control systems
US20180179732A1 (en) * 2016-12-22 2018-06-28 Caterpillar Inc. Realtime payload mapping for loader/hauler system optimization
CN111902585A (zh) * 2018-03-27 2020-11-06 住友重机械工业株式会社 挖土机

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013113044A (ja) 2011-11-30 2013-06-10 Sumitomo (Shi) Construction Machinery Co Ltd 建設機械用モニタシステム
JP2016212055A (ja) 2015-05-13 2016-12-15 日立建機株式会社 作業機械の荷重計測装置
JP2017089139A (ja) 2015-11-04 2017-05-25 住友建機株式会社 ショベル
WO2018124144A1 (ja) 2016-12-28 2018-07-05 株式会社小松製作所 作業車両、サーバ装置、積載重量管理システムおよび積載重量管理方法

Also Published As

Publication number Publication date
US11663748B2 (en) 2023-05-30
JP2020033850A (ja) 2020-03-05
WO2020044836A1 (ja) 2020-03-05
US20210174554A1 (en) 2021-06-10
AU2019327038A1 (en) 2020-10-22
AU2019327038B2 (en) 2022-12-08

Similar Documents

Publication Publication Date Title
JP7404414B2 (ja) 作業機械制御装置および制御方法
JP7216472B2 (ja) 作業システムおよび制御方法
CN110637132B (zh) 作业系统、作业机械以及控制方法
US11634889B2 (en) Control device and control method
JP7175680B2 (ja) 表示制御装置、表示制御システム、および表示制御方法
JP7311667B2 (ja) 作業システムおよび制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210701

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221024

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221101

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221109

R150 Certificate of patent or registration of utility model

Ref document number: 7175680

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150