JP2013168826A - Periphery monitoring apparatus for work machine - Google Patents

Periphery monitoring apparatus for work machine Download PDF

Info

Publication number
JP2013168826A
JP2013168826A JP2012031295A JP2012031295A JP2013168826A JP 2013168826 A JP2013168826 A JP 2013168826A JP 2012031295 A JP2012031295 A JP 2012031295A JP 2012031295 A JP2012031295 A JP 2012031295A JP 2013168826 A JP2013168826 A JP 2013168826A
Authority
JP
Japan
Prior art keywords
image data
image
work machine
camera
dump truck
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012031295A
Other languages
Japanese (ja)
Other versions
JP5996879B2 (en
Inventor
Yoshihito Inanobe
慶仁 稲野辺
Yoichi Kowatari
陽一 古渡
Hidefumi Ishimoto
英史 石本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Priority to JP2012031295A priority Critical patent/JP5996879B2/en
Publication of JP2013168826A publication Critical patent/JP2013168826A/en
Application granted granted Critical
Publication of JP5996879B2 publication Critical patent/JP5996879B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Component Parts Of Construction Machinery (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To promptly and easily select a target image from among a number of image data items captured by a plurality of cameras provided in a work machine.SOLUTION: A periphery monitoring apparatus comprises cameras 8B, 8R, 8L for which at least a rear side and right and left sides of a dump truck 1 are field of view, a monitor 14 provided in a driving cab 7 of the dump truck 1, an image data group generator 35 which generates a plurality of image data items each comprised of images captured by one or more cameras as an image data group, an image selector 26 which selects and groups only image data relating to a traveling direction of the dump truck 1 out of the image data group, an input section 16 for performing work of selecting target image data from the group of the image data selected by the image selector 26, and a display image generator 38 which displays the image data selected by the input section 16 on a monitor 14.

Description

本発明は、土砂等を運搬する運搬車両や油圧ショベル等の建設機械等の作業機械の周囲を監視する作業機械の周囲監視装置に関するものである。   The present invention relates to a surrounding monitoring device for a working machine that monitors the surroundings of a working machine such as a transporting vehicle for transporting earth and sand and a construction machine such as a hydraulic excavator.

ダンプトラックに代表される運搬車両は、車体のフレーム上に起伏可能とした荷台(ベッセル)を備えており、このベッセルに砕石物や土砂等の運搬対象物を積載する。そして、ダンプトラックは所定の集積場に土砂等を運搬して排土する。ベッセルに積載された土砂等を排土するときには、ダンプトラックを排土位置まで後進させて、停止させる。この状態でベッセルを傾斜させて土砂等を排土する。そして、排土を終えるとベッセルを元の位置に戻して、ダンプトラックを前進させる。   A transport vehicle represented by a dump truck is provided with a bed that can be raised and lowered on a frame of a vehicle body, and a transport object such as crushed stone or earth and sand is loaded on the vessel. Then, the dump truck transports earth and sand to a predetermined dump and discharges it. When discharging the earth and sand loaded on the vessel, the dump truck is moved backward to the discharging position and stopped. In this state, the vessel is inclined to remove earth and sand. When the earth is discharged, the vessel is returned to the original position and the dump truck is advanced.

一方、油圧ショベル等に代表される建設機械は、クローラ式またはホイール式の走行手段を有する下部走行体と下部旋回体に対して旋回可能な上部旋回体とを有している。上部旋回体には運転室(キャブ)が設けられており、上部旋回体に対して俯抑動作可能に連結したブームと、ブームの先端に上下方向に回動可能に連結したアームと、土砂の掘削等の作業を行うバケットとが作業手段として上部旋回体に設けられている。   On the other hand, a construction machine represented by a hydraulic excavator or the like has a lower traveling body having a crawler-type or wheel-type traveling means and an upper revolving body that can be swiveled with respect to the lower revolving body. The upper swing body is provided with a cab (cab). The boom is connected to the upper swing body so as to be able to suppress the depression, the arm is connected to the tip of the boom so as to be pivotable in the vertical direction, and the earth and sand. A bucket that performs work such as excavation is provided as a working means on the upper swing body.

運搬車両や建設機械等の作業機械に設けられる運転室に搭乗するオペレータにとって、前方の視野は良好ではあるが、後方の視野は殆どの部分が死角となり、オペレータが目視して後方の状況を認識することができない。このために、作業機械の後方を視野とするカメラを設置して、カメラが撮影している映像を運転室に設けたモニタに表示することで、オペレータに後方の状況をリアルタイムに認識させることができる。この種の技術として、シフトレバーを「R」(後方)に入れたときに、ダンプトラックの後方に設置したカメラからの映像をモニタに表示する技術が特許文献1に開示されている。   The front view is good for an operator boarding a cab installed in a work machine such as a transport vehicle or construction machine, but the rear view is mostly blind spot, and the operator visually recognizes the situation behind. Can not do it. For this purpose, a camera with a visual field behind the work machine is installed, and the image captured by the camera is displayed on a monitor provided in the operator's cab so that the operator can recognize the rear situation in real time. it can. As this type of technology, Patent Document 1 discloses a technology for displaying an image from a camera installed behind a dump truck on a monitor when the shift lever is set to “R” (rear).

また、油圧ショベルの後方および左右側方を視野とする3台のカメラを油圧ショベルに設けて、これら3台のカメラの視点を上方に仮想的に配置して、油圧ショベルを中心とした俯瞰画像をモニタに表示する技術が特許文献2に開示されている。オペレータはこの俯瞰画像を視認することで、油圧ショベルの周囲の状況を正確に認識することができ、動的或いは固定的な障害物(作業員等)と油圧ショベルとの位置関係を認識することができる。   In addition, three cameras with a visual field behind the hydraulic excavator and the left and right sides are provided on the hydraulic excavator, and the viewpoints of these three cameras are virtually arranged upward, and an overhead view centering on the hydraulic excavator Is disclosed in Patent Document 2. The operator can accurately recognize the situation around the hydraulic excavator by visually recognizing the bird's-eye view image, and recognize the positional relationship between the dynamic or fixed obstacle (such as a worker) and the hydraulic excavator. Can do.

特開2011−199392号公報JP 2011-199392 A 特開2008−248613号公報JP 2008-248613 A

作業機械の後方および左右側方を視野とする3台のカメラを設けて、特許文献1のように、何れか1つのカメラの画像をモニタに表示することができる。また、作業機械の前方の視野は広範に確保されているものの、それでも死角を生じる部分が存在するため、前方にカメラを設置する場合もある。また、特許文献2のように、仮想視点画像(俯瞰画像)を表示することで、オペレータに作業機械の周囲の状況を認識させることができる。従って、モニタには、前後左右を視野とするカメラからの画像(カメラスルー画像)および仮想視点画像を表示することができる。   As shown in Patent Document 1, an image of any one of the cameras can be displayed on a monitor by providing three cameras with a visual field in the rear and left and right sides of the work machine. Moreover, although the field of view of the front of the work machine is secured widely, there is still a part that generates a blind spot, so a camera may be installed in front. Further, as in Patent Document 2, by displaying a virtual viewpoint image (overhead image), the operator can recognize the situation around the work machine. Therefore, an image (camera through image) and a virtual viewpoint image from a camera having a visual field in front, rear, left, and right can be displayed on the monitor.

運転室に備えられるモニタは、オペレータの前方の視界を妨げないように、小型サイズのモニタが用いられるが、作業機械の状況に応じて、モニタの表示領域を分割して、それぞれの領域に異なる画像データを表示させる場合がある。例えば、作業機械が停止している状態から後進させるときには、最も注意すべきは作業機械の周囲の状況であり、従って仮想視点画像を表示する。また、作業機械を走行させる方向を視野とするカメラの画像データを仮想視点画像と共に表示させる。従って、この場合には、モニタの表示部の領域を2分割して、仮想視点画像と後方画像(後方のカメラが視野とする画像)とを表示することが望ましい。   The monitor provided in the operator's cab is a small-sized monitor so as not to obstruct the operator's front view. However, the monitor display area is divided according to the situation of the work machine and is different for each area. Image data may be displayed. For example, when moving backward from a state where the work machine is stopped, the most important condition is the situation around the work machine, and therefore a virtual viewpoint image is displayed. Further, camera image data whose field of view is the direction in which the work machine is traveling is displayed together with the virtual viewpoint image. Therefore, in this case, it is desirable to divide the display area of the monitor into two and display the virtual viewpoint image and the rear image (the image viewed by the rear camera).

また、作業機械を左斜め後方に走行させるときには、後方画像だけではなく、左方画像(左方のカメラが視野とする画像)を表示することが望ましい。これにより、進行方向に応じた視界を確保することができる。さらに、場合によっては、前後左右の全てのカメラの画像を表示させることが望ましい場合もある。   In addition, when the work machine runs diagonally to the left, it is desirable to display not only the rear image but also the left image (the image viewed by the left camera). Thereby, the field of view according to the traveling direction can be secured. Further, in some cases, it may be desirable to display images of all the front, rear, left and right cameras.

従って、状況に応じて、モニタに表示させる画像データは多種多様になる。オペレータは多数の画像データの中から、所望の1つの画像データを探し出して、モニタに表示させる。このとき、画像データが多数になると、多数の画像データの中から目的の画像データを特定することが困難になる。このような画像データを探し出す作業は、オペレータに過度な負担を強いることになる。   Therefore, the image data displayed on the monitor varies depending on the situation. The operator searches for desired one image data from among a large number of image data and displays it on the monitor. At this time, if there are a large number of image data, it becomes difficult to specify the target image data from the large number of image data. Such an operation of searching for image data imposes an excessive burden on the operator.

そこで、本発明は、作業機械に備えられる複数のカメラにより撮影される多数の画像データの中から目的の画像を迅速に且つ簡単に選択することを目的とする。   Therefore, an object of the present invention is to quickly and easily select a target image from a large number of image data photographed by a plurality of cameras provided in a work machine.

以上の課題を解決するため、本発明の作業機の周囲監視装置は、作業機械の少なくとも後方および左右側方を視野とするカメラと、前記作業機械の運転室に備えられるモニタと、複数の前記カメラが撮影した複数の画像により構成される複数の画像データを画像データ群として生成する画像データ群生成部と、前記作業機械の走行方向に関連した画像データのみを前記画像データ群の中から選択してグループ化する画像選択部と、前記画像選択部により選択された画像データのグループの中から目的となる画像データを選択する作業を行うための入力部と、前記入力部により選択された画像データを前記モニタに表示する表示画像生成部と、を備えたことを特徴とする。   In order to solve the above-described problems, a working machine surroundings monitoring device according to the present invention includes a camera having a visual field at least at the rear and left and right sides of a work machine, a monitor provided in a cab of the work machine, An image data group generation unit that generates a plurality of image data composed of a plurality of images taken by a camera as an image data group, and only image data related to the traveling direction of the work machine is selected from the image data group An image selection unit to be grouped, an input unit for selecting target image data from the group of image data selected by the image selection unit, and an image selected by the input unit And a display image generation unit for displaying data on the monitor.

後方および左右側方を視野とする複数のカメラにより生成される画像データは多数になる。このときに、画像選択部は多数の画像データの中から作業機械の走行方向に関連した画像データのみを選択対象とするため、目的となる画像データを容易且つ迅速に選択することができる。   There are a large number of image data generated by a plurality of cameras having a visual field in the rear and left and right sides. At this time, since the image selection unit selects only image data related to the traveling direction of the work machine from among a large number of image data, the target image data can be selected easily and quickly.

また、前記作業機械の前方を視野とするカメラが撮影した画像データを前記画像データ群に含めたことを特徴とする。   Further, the image data group includes image data taken by a camera having a field of view in front of the work machine.

作業機械の運転室から前方の視界は広範に確保されているが、それでも死角となる部分を生じることがある。このために、前方を視野とするカメラを設けている。この前方を視野とするカメラの画像データを含めると、画像データはより多数になる。このときに、作業機械の走行方向に関連した画像データのみを選択対象とすることで、目的となる画像データを容易且つ迅速に選択することができる。   The field of vision ahead of the cab of the work machine is widely secured, but there may still be a blind spot. For this purpose, a camera having a front view is provided. Including the image data of the camera with the front view as the field of view, the image data becomes more numerous. At this time, by selecting only image data related to the traveling direction of the work machine, the target image data can be easily and quickly selected.

また、少なくとも前記後方および左右側方を視野とするカメラに基づいて上方視点となるように視点変換した仮想視点画像を前記画像データ群に含めたことを特徴とする。   Further, the image data group includes a virtual viewpoint image whose viewpoint is converted to be an upper viewpoint based on at least the rear and left and right side of the camera.

仮想視点画像は作業機械の周囲の状況をオペレータに認識させる。この仮想視点画像を画像データ群に含めることにより、さらに画像データが多くなる。この場合でも、作業機械の走行方向に関連した画像データのみが選択対象となるため、目的となる画像データを容易且つ迅速に選択することができる。   The virtual viewpoint image allows the operator to recognize the situation around the work machine. By including this virtual viewpoint image in the image data group, the image data further increases. Even in this case, since only the image data related to the traveling direction of the work machine is selected, the target image data can be selected easily and quickly.

また、前記作業機械の前進および後進の走行は前記運転室に備えられるシフトレバーにより操作され、このシフトレバーの位置に応じて前記画像選択部はグループ化する画像データを決定することを特徴とする。   The forward and backward travel of the work machine is operated by a shift lever provided in the cab, and the image selection unit determines image data to be grouped according to the position of the shift lever. .

ダンプカーのような運搬車両は、シフトレバーにより前進、停止、後進が操作される。従って、作業機の走行方向はシフトレバーの位置によって特定され、シフトレバーの位置が示す走行方向の画像データのみを選択対象とすることができる。   A transport vehicle such as a dump truck is operated to move forward, stop, and reverse by a shift lever. Therefore, the traveling direction of the work implement is specified by the position of the shift lever, and only the image data in the traveling direction indicated by the position of the shift lever can be selected.

また、前記作業機械の左右の走行は前記運転室に備えられるステアリングハンドルにより操作され、このステアリングハンドルの操舵角度に応じて前記画像選択部はグループ化する画像データを決定することを特徴とする。   The left and right traveling of the work machine is operated by a steering handle provided in the driver's cab, and the image selection unit determines image data to be grouped according to a steering angle of the steering handle.

ダンプカーのような運搬車両は、ステアリングハンドルにより左右方向を操舵する。従って、ステアリングハンドルにより左右の走行方向が定まるため、これによって走行方向の画像データのみを選択対象とすることができる。   A transport vehicle such as a dump truck is steered left and right by a steering handle. Accordingly, since the left and right traveling directions are determined by the steering handle, only the image data in the traveling direction can be selected.

また、前記画像選択部により選択された画像データをリスト化して前記モニタに表示して、前記画像データの入力操作を行う入力部を用いて前記リスト化された画像データの中から目的となる画像データを選択することを特徴とする。   Further, the image data selected by the image selection unit is listed and displayed on the monitor, and a target image is selected from the list of image data using the input unit for performing the input operation of the image data. It is characterized by selecting data.

モニタに表示される画像データのリストは、走行方向に関連した画像データだけで構成されているため、選択対象となる画像データの数は少なくなる。これにより、目的となる画像データを容易に且つ迅速に選択することができる。   Since the list of image data displayed on the monitor is composed only of image data related to the traveling direction, the number of image data to be selected is reduced. Thereby, target image data can be selected easily and quickly.

本発明は、少なくとも後方および左右側方を視野とするカメラにより生成される多数の画像データの中から、作業機械の走行方向に関連した画像データのみを選択対象とすることで、目的となる画像データを容易且つ迅速に選択することができる。   The present invention selects a target image by selecting only image data related to the traveling direction of the work machine from among a large number of image data generated by a camera having a visual field at least in the rear and left and right sides. Data can be selected easily and quickly.

ダンプトラックの左側面図である。It is a left view of a dump truck. 表示コントローラおよび車体コントローラのブロック図である。It is a block diagram of a display controller and a vehicle body controller. 仮想視点画像を表示しているときのモニタの一例を示す図である。It is a figure which shows an example of the monitor when displaying the virtual viewpoint image. 画像データ群生成部が生成する画像データの一覧を示した図である。It is the figure which showed the list of the image data which an image data group production | generation part produces | generates. 表示部に表示される画像データのリストの一例を示した図である。It is the figure which showed an example of the list of the image data displayed on a display part. 表示部に表示される画像データのリストの他の例を示した図である。It is the figure which showed the other example of the list of the image data displayed on a display part. 表示部に表示される画像データのリストのさらに他の例を示した図である。It is the figure which showed the further another example of the list of the image data displayed on a display part.

以下、図面を参照して、本発明の実施形態について説明する。本実施形態では作業機械として運搬車両のダンプトラックを適用しているが、ダンプトラックには限定されない。作業機械としては、他に油圧ショベル等を適用することもできる。また、ダンプトラックとしてはリジットダンプとアーティキュレートダンプとがあるが、何れを適用してもよい。なお、本実施形態で「左」とは運転室から見た左方であり、「右」とは運転室から見た右方である。   Embodiments of the present invention will be described below with reference to the drawings. In the present embodiment, the dump truck of the transport vehicle is applied as the work machine, but is not limited to the dump truck. As the work machine, a hydraulic excavator or the like can also be applied. The dump truck includes a rigid dump and an articulated dump, and any of them may be applied. In the present embodiment, “left” is the left side as viewed from the cab, and “right” is the right side as viewed from the cab.

図1はダンプトラック1の左側面図を示しており、この図に示すように、ダンプトラック1は車体フレーム2と前輪3と後輪4とベッセル5とホイストシリンダ6と運転室7と4台のカメラ(前方カメラ8F、右方カメラ8R、左方カメラ8L、後方カメラ8B)とを有している。なお、図1はダンプトラック1の左側面図を示しており、右方カメラ8Rは表れていないが、左方カメラ8Lの反対側に右方カメラ8Rが設けられている。   FIG. 1 shows a left side view of the dump truck 1. As shown in this figure, the dump truck 1 is composed of a body frame 2, a front wheel 3, a rear wheel 4, a vessel 5, a hoist cylinder 6, and a driver's cab 7. (Front camera 8F, right camera 8R, left camera 8L, rear camera 8B). FIG. 1 shows a left side view of the dump truck 1, and the right camera 8R is not shown, but a right camera 8R is provided on the opposite side of the left camera 8L.

車体フレーム2はダンプトラック1の本体を形成するものであり、車体フレーム2の前方には前輪3が設けられており、後方には後輪4が設けられている。ベッセル5は荷台であり、土砂や鉱物等を積載する。ホイストシリンダ6は左右一対に設けられており、伸縮可能なホイストシリンダ6によりベッセル5を起伏させる。   The body frame 2 forms the main body of the dump truck 1, and a front wheel 3 is provided in front of the body frame 2, and a rear wheel 4 is provided in the rear. The vessel 5 is a loading platform on which earth and sand, minerals, and the like are loaded. The hoist cylinder 6 is provided in a pair of left and right, and the vessel 5 is raised and lowered by the extendable hoist cylinder 6.

運転室7はオペレータが搭乗してダンプトラック1を操作するものであり、運転室7には後述するモニタが配置されている。また、ダンプトラック1を操作する操作手段として、ダンプトラック1を前進、停止または後進させるシフトレバー21、操舵角度を変えるステアリングハンドル22、ダンプトラック1を加速させるためのアクセルペダル等が設けられている。オペレータは運転室7に搭乗して、各種操作手段を用いて走行ないしは作業を行う。そして、オペレータは必要があるときに、モニタの確認を行う。   The operator's cab 7 is used by an operator to operate the dump truck 1, and a monitor described later is disposed in the operator's cab 7. As operation means for operating the dump truck 1, a shift lever 21 for moving the dump truck 1 forward, stop, or reverse, a steering handle 22 for changing the steering angle, an accelerator pedal for accelerating the dump truck 1, and the like are provided. . An operator gets in the cab 7 and travels or works using various operation means. The operator checks the monitor when necessary.

ダンプトラック1の周囲を監視するために設けられる4つのカメラのうち前方カメラ8Fはダンプトラック1の前方から斜め下方に向けた範囲を視野としている。右方カメラ8Rはダンプトラック1の右側部に取り付けられており、ダンプトラック1の右側部から斜め下方に向けた範囲を視野としている。左方カメラ8Lはダンプトラック1の左側部に取り付けられており、ダンプトラック1の左側部から斜め下方に向けた範囲を視野としている。後方カメラ8Bはダンプトラック1の後方に取り付けられており、斜め下方に向けた範囲を視野とする。   Of the four cameras provided for monitoring the periphery of the dump truck 1, the front camera 8F has a field of view as viewed from the front of the dump truck 1 obliquely downward. The right camera 8R is attached to the right side of the dump truck 1 and has a field of view as viewed from the right side of the dump truck 1 obliquely downward. The left camera 8L is attached to the left side of the dump truck 1 and has a field of view as viewed from the left side of the dump truck 1 obliquely downward. The rear camera 8B is attached to the rear of the dump truck 1 and has a field of view that is obliquely downward.

そして、各カメラ(前方カメラ8F、右方カメラ8R、左方カメラ8L、後方カメラ8B)はダンプトラック1から所定の範囲を視野としているが、各カメラの一部にはダンプトラック1の車体2や前輪3、後輪4等が部分的に映し出されるようにしている。そして、ダンプトラック1に設置される4台のカメラ8F、8L、8R、8Bはそれぞれ撮影する方向が概ね90度異なるようにしている。これにより、ダンプトラック1のほぼ全周に渡る視野を得ることができる。   Each camera (front camera 8F, right camera 8R, left camera 8L, rear camera 8B) has a predetermined range from the dump truck 1, but a part of each camera includes a vehicle body 2 of the dump truck 1. The front wheel 3, the rear wheel 4 and the like are partially projected. The four cameras 8F, 8L, 8R, and 8B installed on the dump truck 1 are set so that the shooting directions are different by approximately 90 degrees. As a result, a field of view over almost the entire circumference of the dump truck 1 can be obtained.

また、4台のカメラ8F、8L、8R、8Bはそれぞれ斜め下方を視野としており、例えば、図1に示すように、前方カメラ8Fは接地面をLとしたときに角度θを持った斜め下方に対物レンズの光軸を向けている。これにより、接地面Lに対して角度θを持ったカメラ画像を得ることができる。この接地面Lを仮想平面とした画像は、仮想視点VFの光軸が垂直方向(水平面と直交する方向)になるように座標変換した画像が仮想視点画像として生成される。つまり、仮想視点VFから接地面Lを見下ろした仮想的な平面画像が仮想視点画像となる。この仮想視点画像が俯瞰画像となる。   Each of the four cameras 8F, 8L, 8R, and 8B has a field of view obliquely below. For example, as shown in FIG. 1, the front camera 8F has an angle θ when the ground contact surface is L. The optical axis of the objective lens is directed to Thereby, a camera image having an angle θ with respect to the ground plane L can be obtained. An image in which the ground plane L is a virtual plane is generated as a virtual viewpoint image by performing coordinate conversion so that the optical axis of the virtual viewpoint VF is in the vertical direction (direction orthogonal to the horizontal plane). That is, a virtual plane image looking down on the ground plane L from the virtual viewpoint VF becomes a virtual viewpoint image. This virtual viewpoint image becomes an overhead image.

図2は車体コントローラ20と表示コントローラ30とにより構成されるコントローラを示しており、表示コントローラ30がモニタ14に接続される。モニタ14は運転室7に配置されるものであり、搭乗するオペレータの前方の視界を妨げない位置に配置される。このモニタ14は画像データを表示する表示部15と入力部16とを有している。図3に示すように、入力部16はアップスイッチ16Uとダウンスイッチ16Dと決定ボタン16Aとを有して構成している。   FIG. 2 shows a controller composed of the vehicle body controller 20 and the display controller 30, and the display controller 30 is connected to the monitor 14. The monitor 14 is disposed in the cab 7 and is disposed at a position that does not obstruct the field of vision in front of the operator on board. The monitor 14 has a display unit 15 for displaying image data and an input unit 16. As shown in FIG. 3, the input unit 16 includes an up switch 16U, a down switch 16D, and an enter button 16A.

表示部15は所定の情報を表示する表示画面であり、4台のカメラ8F、8L、8R、8Bが撮影した画像(カメラスルー画像)を表示することもでき、視点変換した仮想視点画像を表示することもできる。カメラスルー画像および仮想視点画像は画像データであり、この画像データが表示画像として表示部15に表示される。表示部15は縦横に所定の表示領域を有しており、表示部15の全領域にカメラスルー画像または仮想視点画像を表示することもできるが、表示部15の表示領域を分割して、分割したそれぞれの領域に異なる画像を配した画像データとすることもできる。   The display unit 15 is a display screen that displays predetermined information. The display unit 15 can also display images (camera through images) captured by the four cameras 8F, 8L, 8R, and 8B, and displays a virtual viewpoint image that has undergone viewpoint conversion. You can also The camera-through image and the virtual viewpoint image are image data, and this image data is displayed on the display unit 15 as a display image. The display unit 15 has predetermined display areas in the vertical and horizontal directions and can display a camera-through image or a virtual viewpoint image in the entire area of the display unit 15. However, the display area of the display unit 15 is divided and divided. It is also possible to use image data in which different images are arranged in the respective areas.

車体コントローラ20は主に車体制御部20Cを有して構成される。車体コントローラ20には運転室7に備えられるシフトレバー21からシフトレバー情報が入力される。シフトレバー21は前進(F)、中立(N)、後進(R)の3段階に変化する。従って、シフトレバー21が「F」のときにはダンプトラック1は前進し、「N」のときにはダンプトラック1は停止し、「R」のときにはダンプトラック1は後進する。   The vehicle body controller 20 mainly includes a vehicle body controller 20C. Shift lever information is input to the vehicle body controller 20 from a shift lever 21 provided in the cab 7. The shift lever 21 changes in three stages: forward (F), neutral (N), and reverse (R). Accordingly, when the shift lever 21 is “F”, the dump truck 1 moves forward, when it is “N”, the dump truck 1 stops, and when it is “R”, the dump truck 1 moves backward.

また、運転室7にはステアリングハンドル22が設けられており、このステアリングハンドル22の操舵角度を示すステアリング情報が車体コントローラ20に入力される。そして、前輪3および後輪4の回転速度に基づいて、ダンプトラック1の走行速度を検出する速度検出部23が設けられている。速度検出部23が検出した走行速度情報は車体コントローラ20に入力される。   The driver's cab 7 is provided with a steering handle 22, and steering information indicating a steering angle of the steering handle 22 is input to the vehicle body controller 20. And the speed detection part 23 which detects the traveling speed of the dump truck 1 based on the rotational speed of the front wheel 3 and the rear wheel 4 is provided. The traveling speed information detected by the speed detector 23 is input to the vehicle body controller 20.

また、運転室7にはベッセル5を操作するためのベッセル操作手段24が設けられている。このベッセル操作手段24を操作することにより、ホイストシリンダ6の伸縮制御を行う。ホイストシリンダ6を伸張させたときにはベッセル5は傾斜して、積載している土砂等を排土する。一方、ホイストシリンダ6を収縮させたときにはベッセル5は平行になり、排土は行われない。このベッセル操作手段24の操作情報がベッセル操作情報として車体コントローラ20に入力される。   The cab 7 is provided with a vessel operating means 24 for operating the vessel 5. By operating this vessel operating means 24, expansion / contraction control of the hoist cylinder 6 is performed. When the hoist cylinder 6 is extended, the vessel 5 is inclined and the loaded earth and sand are discharged. On the other hand, when the hoist cylinder 6 is contracted, the vessel 5 becomes parallel and no earthing is performed. The operation information of the vessel operation means 24 is input to the vehicle body controller 20 as the vessel operation information.

以上のシフトレバー情報とステアリング情報と走行速度情報とベッセル操作情報とが車体情報として、車体コントローラ20から表示コントローラ30に入力される。表示コントローラ30はモニタ14に表示させる内容を制御する。この表示コントローラ30は記憶保持部31と画像補正部32と視点変換部33と画像合成部34と画像データ群生成部35と画像選択部36と画像リスト生成部37と表示画像生成部38とを備えて構成している。   The shift lever information, steering information, travel speed information, and vessel operation information are input from the vehicle body controller 20 to the display controller 30 as vehicle body information. The display controller 30 controls the contents displayed on the monitor 14. The display controller 30 includes a storage holding unit 31, an image correction unit 32, a viewpoint conversion unit 33, an image composition unit 34, an image data group generation unit 35, an image selection unit 36, an image list generation unit 37, and a display image generation unit 38. It is prepared and configured.

表示コントローラ30には後方カメラ8B、左方カメラ8L、右方カメラ8R、前方カメラ8Fが撮影している視野の映像が入力される。各カメラは連続して視野を撮影することで、各カメラの映像を動画とすることができる。これにより、各カメラが撮影している映像をリアルタイムに認識することができる。   The display controller 30 receives a visual field image captured by the rear camera 8B, the left camera 8L, the right camera 8R, and the front camera 8F. Each camera continuously captures the field of view, and the video from each camera can be converted into a moving image. As a result, it is possible to recognize in real time the video captured by each camera.

記憶保持部31は4台のカメラ8F、8L、8R、8Bの撮影画角やレンズ歪み等のカメラ光学系パラメータ、搭載位置・姿勢情報、仮想視点画像に変換する際の仮想視点情報、ダンプトラック1のシンボルマークM(後述する)や縮尺値等の各種情報を記憶している。記憶保持部31は画像補正部32と視点変換部33と画像合成部34と表示画像生成部38とに情報を出力している。   The memory holding unit 31 includes camera optical system parameters such as shooting angle of view and lens distortion of the four cameras 8F, 8L, 8R, and 8B, mounting position / posture information, virtual viewpoint information when converted into a virtual viewpoint image, and a dump truck. Various information such as one symbol mark M (described later) and a scale value are stored. The storage holding unit 31 outputs information to the image correction unit 32, the viewpoint conversion unit 33, the image composition unit 34, and the display image generation unit 38.

画像補正部32は4台のカメラ8F、8L、8R、8Bに接続されており、これら4台のカメラ8F、8L、8R、8Bから取り込んだカメラ画像に対して、記憶保持部31に記憶されているカメラ光学系パラメータ等に基づいて、収差補正やコントラスト補正、色調補正等の画像補正を行う。これにより、カメラ画像の画質を向上させている。画像補正部31が補正処理したカメラ画像は視点変換部33と画像データ群生成部35とに出力される。   The image correction unit 32 is connected to the four cameras 8F, 8L, 8R, and 8B. The camera images captured from the four cameras 8F, 8L, 8R, and 8B are stored in the storage holding unit 31. Image correction such as aberration correction, contrast correction, and color tone correction is performed based on the camera optical system parameters. Thereby, the image quality of the camera image is improved. The camera image corrected by the image correction unit 31 is output to the viewpoint conversion unit 33 and the image data group generation unit 35.

視点変換部33は、画像補正部32が補正処理した各カメラ画像(前方画像、右方画像、左方画像、後方画像)に基づいて、上方視点となるように視点変換を行う。4台のカメラ8F、8L、8R、8Bは接地面Lに対して斜め下方に視野を向けて撮影し、このときに得られるカメラ画像を画像変換処理して、仮想視点VFからの画像(仮想視点画像)に変換することができる。仮想視点画像は視点を上方位置とした俯瞰画像になり、この俯瞰画像に基づいてダンプトラック1の周囲の状況が正確に認識できるようになる。   The viewpoint conversion unit 33 performs viewpoint conversion based on each camera image (front image, right image, left image, and rear image) corrected by the image correction unit 32 so that the upper viewpoint is obtained. The four cameras 8F, 8L, 8R, and 8B are photographed with their visual fields facing obliquely downward with respect to the ground plane L, and the camera images obtained at this time are subjected to image conversion processing to obtain images (virtual images) from the virtual viewpoint VF. Viewpoint image). The virtual viewpoint image is an overhead image with the viewpoint as the upper position, and the situation around the dump truck 1 can be accurately recognized based on the overhead image.

4台のカメラ8F、8L、8R、8Bの撮影視野の境界を重複させることで、ダンプトラック1の周囲の状況に死角を生じることがなくなる。前方画像、右方画像、左方画像、後方画像のうち、前方画像については運転室7からオペレータが視認することができるため、前方カメラ8Fを設置せずに前方画像を省略することもできる。この場合には、後方画像、左方画像および右方画像の3枚の画像データにより仮想視点画像が生成される。ただし、運転室7の前方視野にも死角を生じる場合があり、前方カメラ8Fを設置して死角部分を表示することで、オペレータに死角部分を表示させることができる。この場合には、前方のカメラ8Fによる仮想視点画像も表示をするように制御する。   By overlapping the boundaries of the field of view of the four cameras 8F, 8L, 8R, 8B, no blind spots are created in the situation around the dump truck 1. Among the front image, the right image, the left image, and the rear image, the front image can be visually recognized by the operator from the cab 7, so that the front image can be omitted without installing the front camera 8F. In this case, a virtual viewpoint image is generated from the three image data of the rear image, the left image, and the right image. However, there may be a blind spot in the front field of view of the cab 7, and the blind spot can be displayed to the operator by installing the front camera 8F and displaying the blind spot. In this case, control is performed so that a virtual viewpoint image by the front camera 8F is also displayed.

画像合成部34は、4台のカメラ8F、8L、8R、8Bの仮想視点画像を、ダンプトラック1のキャラクタをシンボルマークMとして中心に配置し、このシンボルマークを中心として前後および左右に領域を4分割する。例えば、図3に示すように、シンボルマークMを中心に上側の領域A1には前方のカメラ8Fの画像データを視点変換した仮想視点前方画像を表示し、左側の領域A2には左方のカメラ8Lの画像データを視点変換した仮想視点左方画像を表示し、右側の領域A3には右方のカメラ8Rの画像データを視点変換した仮想視点右方画像を表示し、下側の領域A4には後方のカメラ8Bの画像データを視点変換した仮想視点後方画像を表示する。   The image compositing unit 34 arranges the virtual viewpoint images of the four cameras 8F, 8L, 8R, and 8B with the character of the dump truck 1 as the symbol mark M in the center, and the front and rear and the left and right regions around the symbol mark. Divide into four. For example, as shown in FIG. 3, a virtual viewpoint front image obtained by converting the viewpoint of the image data of the front camera 8F is displayed in the upper area A1 around the symbol mark M, and the left camera is displayed in the left area A2. A virtual viewpoint left image obtained by viewpoint conversion of 8L image data is displayed, a virtual viewpoint right image obtained by viewpoint conversion of image data of the right camera 8R is displayed in the right area A3, and a lower area A4 is displayed. Displays a virtual viewpoint rear image obtained by converting the viewpoint of the image data of the rear camera 8B.

ダンプトラック1のシンボルマークMを中心として仮想視点前方画像と仮想視点左方画像と仮想視点右方画像と仮想視点後方画像とを画像合成部34が合成して表示することで、ダンプトラック1を中心とした全周の仮想視点画像を生成することができる。この仮想視点画像を表示することで、ダンプトラック1と作業員等の動的或いは固定的な障害物との位置関係をオペレータに認識させることができる。   The image synthesizing unit 34 synthesizes and displays the virtual viewpoint front image, the virtual viewpoint left image, the virtual viewpoint right image, and the virtual viewpoint rear image with the symbol mark M of the dump truck 1 as the center, thereby displaying the dump truck 1. It is possible to generate a virtual viewpoint image around the entire circumference. By displaying this virtual viewpoint image, the operator can recognize the positional relationship between the dump truck 1 and a dynamic or fixed obstacle such as a worker.

図2に戻って、画像データ群生成部35は画像補正部32から出力された前方画像、左方画像、右方画像、後方画像を入力し、また画像合成部34から仮想視点画像を入力する。前方画像、左方画像、右方画像、後方画像は画像データであり、仮想視点画像も画像データである。従って、5つの画像データを得ることができる。これにより、複数の画像データからなる画像データ群を生成する。モニタ14の表示部15には画像データ群のうち何れか1つの画像データを表示することができる。   Returning to FIG. 2, the image data group generation unit 35 inputs the front image, the left image, the right image, and the rear image output from the image correction unit 32, and also inputs the virtual viewpoint image from the image composition unit 34. . The front image, the left image, the right image, and the rear image are image data, and the virtual viewpoint image is also image data. Therefore, five image data can be obtained. Thereby, an image data group composed of a plurality of image data is generated. Any one of the image data groups can be displayed on the display unit 15 of the monitor 14.

一方、モニタ14の表示部15を分割して異なる画像データを同時に表示することもできる。例えば、表示部15を2分割して、1つの領域に仮想視点画像を表示し、もう1つの領域に後方画像(カメラスルー画像)を表示することもできる。これも画像データとなる。また、表示部15を2分割して、1つの領域に後方画像を表示して、もう1つの領域に左方画像を表示することもできる。これも画像データになる。さらには、表示部15を4分割して、前方画像、左方画像、右方画像、後方画像を割り当てた画像データを生成することもできる。   On the other hand, the display unit 15 of the monitor 14 can be divided to display different image data simultaneously. For example, the display unit 15 may be divided into two to display a virtual viewpoint image in one area and display a rear image (camera through image) in another area. This also becomes image data. Further, the display unit 15 can be divided into two, a rear image can be displayed in one area, and a left image can be displayed in another area. This also becomes image data. Furthermore, the display unit 15 can be divided into four to generate image data to which a front image, a left image, a right image, and a rear image are assigned.

画像選択部36は、画像データ群生成部35が生成した多数の画像データの中から、ダンプトラック1の走行方向に関連した画像のみを選択する。走行方向に関連した画像データは1つのグループを構成する。このグループの画像データが画像リスト生成部37に出力される。画像リスト生成部37は画像選択部36から出力されたグループに属する画像データをリスト形式で表示部15に表示する。   The image selection unit 36 selects only an image related to the traveling direction of the dump truck 1 from a large number of image data generated by the image data group generation unit 35. The image data related to the running direction forms one group. The image data of this group is output to the image list generator 37. The image list generation unit 37 displays the image data belonging to the group output from the image selection unit 36 on the display unit 15 in a list format.

表示部15に表示されるリスト化した画像データに基づいて、オペレータは入力部16を操作して、モニタ14に表示させる画像を選択する。選択された画像の情報は表示画像生成部38に出力され、表示画像生成部38は選択された画像データを表示部15に表示させる制御を行う。   Based on the list of image data displayed on the display unit 15, the operator operates the input unit 16 to select an image to be displayed on the monitor 14. Information on the selected image is output to the display image generation unit 38, and the display image generation unit 38 performs control to display the selected image data on the display unit 15.

以上が構成である。次に、動作について説明する。オペレータは運転室7に搭乗して、ダンプトラック1を稼動させる。このとき、ダンプトラック1の前方カメラ8F、左方カメラ8L、右方カメラ8R、後方カメラ8Bが撮影する視野の画像データを取得する。これら4つの画像データは画像補正部32に入力されて、記憶保持部31に記憶されているカメラ光学系パラメータ等に基づいて、収差補正やコントラスト補正、色調補正等の画像補正を行う。これにより、画像データの画質を向上させる。   The above is the configuration. Next, the operation will be described. The operator gets into the cab 7 and operates the dump truck 1. At this time, image data of the field of view taken by the front camera 8F, the left camera 8L, the right camera 8R, and the rear camera 8B of the dump truck 1 is acquired. These four image data are input to the image correction unit 32, and image correction such as aberration correction, contrast correction, and color tone correction is performed based on the camera optical system parameters stored in the storage holding unit 31. Thereby, the image quality of image data is improved.

補正処理された4つの画像データは視点変換部33および画像データ群生成部35に入力される。視点変換部33では4つの画像データの視点変換を行い、仮想視点前方画像、仮想視点左方画像、仮想視点右方画像、仮想視点後方画像の4つを生成する。そして、ダンプトラック1のシンボルマークMを中心として、仮想視点前方画像、仮想視点左方画像、仮想視点右方画像、仮想視点後方画像を合成することで、仮想視点画像が生成される。この仮想視点画像が画像データ群生成部35に出力される。   The four corrected image data are input to the viewpoint conversion unit 33 and the image data group generation unit 35. The viewpoint conversion unit 33 performs viewpoint conversion of the four image data, and generates four images: a virtual viewpoint front image, a virtual viewpoint left image, a virtual viewpoint right image, and a virtual viewpoint rear image. Then, a virtual viewpoint image is generated by combining the virtual viewpoint front image, the virtual viewpoint left image, the virtual viewpoint right image, and the virtual viewpoint rear image with the symbol mark M of the dump truck 1 as the center. This virtual viewpoint image is output to the image data group generation unit 35.

画像データ群生成部35では、補正処理された前方画像、左方画像、右方画像、後方画像の4つの画像データおよび仮想視点画像の画像データを入力する。これらの画像データにより画像データ群が構成される。また、前述したように、前方画像、左方画像、右方画像、後方画像および仮想視点画像をそれぞれ1つの画像データとして表示部15に表示することもできるが、複数の画像データを合成して1つの画像データとして生成することもできる。   The image data group generation unit 35 receives the corrected image data of the front image, the left image, the right image, and the rear image, and the image data of the virtual viewpoint image. These image data constitute an image data group. In addition, as described above, the front image, the left image, the right image, the rear image, and the virtual viewpoint image can be displayed as one image data on the display unit 15 respectively. It can also be generated as one piece of image data.

従って、5つの画像データの全ての組み合わせを考慮すると、画像データ群生成部35が生成する画像データは多数になる。このため、ダンプトラック1の使用時に必要となる画像データだけが選択対象となるように画像データ群生成部35に予め設定することができる。勿論、全ての組み合わせの画像データを対象とすることもできるが、ダンプトラック1の使用時に必要になると想定される画像データだけを対象となるように画像データ群生成部35に設定を行う。要は、表示することがない画像データは予め省略するように画像データ群生成部35に設定を行う。オペレータないしはユーザはこの設定を、ダンプトラック1の運用前に予め設定しておく。なお、5つの画像データの全ての組み合わせにより画像データ群を構成してもよい。   Therefore, considering all combinations of the five image data, the image data group generation unit 35 generates a large number of image data. For this reason, it is possible to set in advance in the image data group generation unit 35 so that only image data required when the dump truck 1 is used is selected. Of course, all combinations of image data can be targeted, but the image data group generation unit 35 is set so as to target only image data expected to be required when the dump truck 1 is used. In short, the image data group generation unit 35 is set so that image data that is not displayed is omitted in advance. The operator or the user sets this setting in advance before the operation of the dump truck 1. Note that the image data group may be configured by all combinations of the five image data.

図4は画像データ群生成部35が生成する画像データのグループの一例を示している。つまり、ダンプトラック1の使用時(運用時)に表示することが必要になると想定される画像データのグループを示している。画像データG1は領域を2分割し、1つの領域に仮想視点画像、もう1つの領域に後方画像を表示した画像データになる。画像データG2は後方画像のみを表示した画像データになる。なお、この画像データG2にはダンプトラック1の車体の一部としてリンク機構が映し出されている。画像データG3は右方画像のみを表示した画像データになる。画像データG4は左方画像のみを表示した画像データになる。画像データG3、G4にはダンプトラック1の車体の一部として前輪3が映し出されている。   FIG. 4 shows an example of a group of image data generated by the image data group generation unit 35. That is, it shows a group of image data that is supposed to be displayed when the dump truck 1 is used (during operation). The image data G1 is image data in which a region is divided into two and a virtual viewpoint image is displayed in one region and a rear image is displayed in the other region. The image data G2 is image data displaying only the rear image. In this image data G2, a link mechanism is projected as a part of the vehicle body of the dump truck 1. The image data G3 is image data displaying only the right image. The image data G4 is image data displaying only the left image. The front wheels 3 are projected as part of the body of the dump truck 1 in the image data G3 and G4.

画像データG5は前方画像のみを表示した画像データになる。画像データG6は領域を2分割して右方画像と後方画像とを表示した画像データになる。画像データG7は領域を2分割して左方画像と後方画像とを表示した画像データになる。画像データG8は領域を4分割して、前方画像、左方画像、右方画像、後方画像の4つの画像を配置した画像データになる。なお、画像データG1乃至G8において、前方画像および後方画像には動的な障害物として作業員が映し出されている。   The image data G5 is image data displaying only the front image. The image data G6 is image data in which a region is divided into two and a right image and a rear image are displayed. The image data G7 is image data obtained by dividing the region into two and displaying a left image and a rear image. The image data G8 is image data in which an area is divided into four, and four images of a front image, a left image, a right image, and a rear image are arranged. In the image data G1 to G8, a worker is projected as a dynamic obstacle in the front image and the rear image.

同図にも示すように、各画像データには「BACK」、「LEFT」、「RIGHT」、「FRONT」を方向情報として、画像データに重畳して表示している。これにより、画像データが前方画像、左方画像、右方画像、後方画像の何れの画像であるかを一見して認識することができる。なお、仮想視点画像は、一見して仮想視点画像であることが認識されるため、方向情報を付していない。ただし、仮想視点情報にも方向情報を付してもよい。   As shown in the figure, “BACK”, “LEFT”, “RIGHT”, and “FRONT” are superimposed on the image data and displayed on each image data as direction information. This makes it possible to recognize at a glance whether the image data is a front image, a left image, a right image, or a rear image. Note that the virtual viewpoint image is not attached with direction information because it is recognized at first glance to be a virtual viewpoint image. However, direction information may also be attached to the virtual viewpoint information.

画像データ群生成部35は8つの画像データを画像選択部36に出力する。画像選択部36には、車体コントローラ20より車体情報が入力されている。この車体情報のうちシフトレバー情報とステアリング情報とに基づいて、8つの画像データの中から表示部15にリストとして表示する画像データを選択する。   The image data group generation unit 35 outputs eight image data to the image selection unit 36. Body information is input to the image selection unit 36 from the body controller 20. Based on the shift lever information and the steering information, the image data to be displayed as a list on the display unit 15 is selected from the eight pieces of image data.

シフトレバー21が「R」に入っているときには、ダンプトラック1の走行方向は後進になる。従って、図4に示した8枚の画像データのうち走行方向が後進に関連する画像データのみを選択する。選択した画像を図5に示す。図4に示した各画像データのうち、画像データG3は右方画像のみの画像データであり、画像データG4は左方画像のみの画像データであり、画像データG5は前方画像のみの画像である。   When the shift lever 21 is in “R”, the traveling direction of the dump truck 1 is reverse. Therefore, only the image data in which the traveling direction is related to the backward movement is selected from the eight pieces of image data shown in FIG. The selected image is shown in FIG. Of the image data shown in FIG. 4, the image data G3 is image data of only the right image, the image data G4 is image data of only the left image, and the image data G5 is an image of only the front image. .

一方、画像データG1、G2、G6乃至G8は後方画像を含んでいる。そこで、画像選択部36は画像データG1、G2、G6乃至G8を画像リスト生成部37に出力する。画像リスト生成部37はリスト形式で表示部15に各画像データを表示させる。ここでは、画像データG1、G2、G6乃至G8がリスト形式で表示部15に表示される。   On the other hand, the image data G1, G2, G6 to G8 include a rear image. Therefore, the image selection unit 36 outputs the image data G1, G2, G6 to G8 to the image list generation unit 37. The image list generation unit 37 displays each image data on the display unit 15 in a list format. Here, the image data G1, G2, G6 to G8 are displayed on the display unit 15 in a list format.

オペレータはモニタ14の表示部15を視認して、入力部16を操作して目的となる画像データを選択する。入力部16のアップスイッチ16Uまたはダウンスイッチ16Dにより矢印アイコンを上下させることで、目的となる画像データを選択する。そして、目的となる画像データを選択した後に、決定ボタン16Aを押下することで、表示部15に表示される画像データが決定される。図5の例では、後方画面の画像データG2が選択されている(矢印アイコンにより選択されている)。従って、表示画像生成部38は画像データG2を表示部15に表示させる制御を行う。   The operator visually recognizes the display unit 15 of the monitor 14 and operates the input unit 16 to select target image data. The target image data is selected by moving the arrow icon up and down with the up switch 16U or the down switch 16D of the input unit 16. Then, after selecting the target image data, pressing the determination button 16A determines the image data displayed on the display unit 15. In the example of FIG. 5, the image data G2 on the rear screen is selected (selected by an arrow icon). Accordingly, the display image generation unit 38 performs control to display the image data G2 on the display unit 15.

従って、シフトレバー情報に基づいて、前進または後進に関連した画像のみをグループ化することで、選択対象の画像データを少なくすることができ、オペレータが容易且つ迅速に目的となる画像データを表示部15に表示させることができる。これにより、オペレータに画像データを検索させる負担を軽減することができ、容易且つ迅速に目的の画像データを選択することができる。   Therefore, by grouping only the images related to forward or reverse based on the shift lever information, the image data to be selected can be reduced, and the target image data can be displayed easily and quickly by the operator. 15 can be displayed. As a result, it is possible to reduce the burden on the operator to search for image data, and to select target image data easily and quickly.

ここで、画像選択部36にはステアリング情報も入力されている。ステアリング情報は運転室7に備えられるステアリングハンドル22の操舵情報である。ステアリングハンドル22の操舵角度が所定角度以上のときには、大きく左右に走行するため、後方画像だけでなく、操舵する方向の画像(左方画像または右方画像)を表示することが望ましい。シフトレバー21が「R」であり、操舵する方向が左方であれば、画像データ群生成部35が生成した8つの画像データの中から、後方画像と左方画像とに関連する画像を選択してグループ化する。   Here, steering information is also input to the image selection unit 36. The steering information is steering information of the steering wheel 22 provided in the cab 7. When the steering angle of the steering handle 22 is greater than or equal to a predetermined angle, the vehicle travels to the left and right. Therefore, it is desirable to display not only the rear image but also the image in the steering direction (left image or right image). If the shift lever 21 is “R” and the steering direction is to the left, an image related to the rear image and the left image is selected from the eight image data generated by the image data group generation unit 35. And group them.

この場合には、後方画像と左方画像とに関連する画像であることから、図6に示すように、画像データG1乃至G3、G6乃至G8が選択対象となる。オペレータは入力部16を用いて、何れかの画像データを選択して、表示部15に表示させる。これにより、斜めに後進するような場合でも、走行方向に関連する画像データのみを選択対象とすることができる。   In this case, since the images are related to the rear image and the left image, the image data G1 to G3 and G6 to G8 are selected as shown in FIG. The operator uses the input unit 16 to select any image data and display it on the display unit 15. As a result, even when the vehicle moves backward at an angle, only image data related to the traveling direction can be selected.

従って、ダンプトラック1の周囲4箇所に前方カメラ8F、右方カメラ8R、左方カメラ8L、後方カメラ8Bを配置した場合、各カメラが撮影する画像データだけではなく、複数のカメラの画像を組み合わせた画像データを生成できる。また、視点変換した仮想視点画像を画像データとして生成することができる。このため、組み合わせにより多数の画像データが選択対象となるが、このうち走行方向に関連した画像データのみを選択対象とすることで、選択対象となる画像データを少なくすることができる。これにより、オペレータが表示させたい画像データを選択する作業を軽減できる。   Therefore, when the front camera 8F, the right camera 8R, the left camera 8L, and the rear camera 8B are arranged at four locations around the dump truck 1, not only the image data captured by each camera but also the images of a plurality of cameras are combined. Image data can be generated. Also, a virtual viewpoint image subjected to viewpoint conversion can be generated as image data. For this reason, a large number of image data is a selection target depending on the combination. By selecting only the image data related to the traveling direction among these, the image data to be selected can be reduced. Thereby, the operation | work which the operator selects the image data to display can be reduced.

なお、シフトレバー21が「R」であり、ステアリングハンドル22の操舵角度が所定角度未満の場合には、ほぼ真っ直ぐに後進することになる。この場合には、左方画像および右方画像、そして前方画像を表示する必要はなく、図5に示すように、後方画像に関連した画像データのみが選択対象となる。   When the shift lever 21 is “R” and the steering angle of the steering handle 22 is less than a predetermined angle, the vehicle moves backward substantially straight. In this case, it is not necessary to display the left image, the right image, and the front image, and only the image data related to the rear image is selected as shown in FIG.

以上において、図5および図6に示すように、画像選択部36が選択した画像データのみを表示して目的の画像データを選択させるようにしているが、画像データ群生成部35が生成する全ての画像データを表示させて、その中から走行方向に関連しない画像を選択不能にすることもできる。   In the above, as shown in FIGS. 5 and 6, only the image data selected by the image selection unit 36 is displayed and the target image data is selected, but all the image data group generation unit 35 generates. It is also possible to display the image data and make it impossible to select an image that is not related to the traveling direction.

図7はその一例を示している。図7では画像データ群生成部35が生成した全ての画像データがリスト形式で表示されているが、走行方向に関連しない右方画像からなる画像データG3、左方画像からなる画像データG4、前方画像からなる画像データG5を選択不能にする。オペレータは入力部16のアップスイッチ16Uまたはダウンスイッチ16Dを操作することにより、選択する画像の矢印アイコンを移動させるが、画像データG2の次に遷移させるときには、画像データG3乃至G5をスキップして、画像データG6に矢印アイコンを移動させることができる。これにより、走行方向に関連する画像データのみを選択対象とすることができる。   FIG. 7 shows an example. In FIG. 7, all the image data generated by the image data group generation unit 35 is displayed in a list format. However, the image data G3 including the right image not related to the traveling direction, the image data G4 including the left image, and the front The image data G5 consisting of images is made unselectable. The operator moves the arrow icon of the image to be selected by operating the up switch 16U or the down switch 16D of the input unit 16, but skips the image data G3 to G5 when transitioning to the next image data G2. An arrow icon can be moved to the image data G6. Thereby, only the image data related to the traveling direction can be selected.

また、ダンプトラック1の積載物を排土するときには、後方の視野が重要となる。このため、運転室7のベッセル操作手段が操作されて、ベッセル5が傾斜状態になったときは自動的に後方画像のみを表示する画像データG2が表示させるように制御する。これにより、積載物の排土を行うときの後方の状況を運転室7に搭乗しているオペレータが認識することができる。   Further, when the load on the dump truck 1 is discharged, the rear view is important. For this reason, when the vessel operating means of the cab 7 is operated and the vessel 5 is tilted, control is performed so that the image data G2 for displaying only the rear image is automatically displayed. As a result, the operator behind the cab 7 can recognize the situation behind when the load is discharged.

また、前述した実施形態においては、画像リスト生成部37は画像選択部36が選択した一連の画像データを表示部15に表示して、入力部16(アップスイッチ16U、ダウンスイッチ16D)を操作することで、目的となる画像データを選択する例を示していた。このとき、画像リスト生成部37は所定時間ごとに画像データを切り替えて表示することで、目的の画像を選択させるようにしてもよい。   In the above-described embodiment, the image list generation unit 37 displays a series of image data selected by the image selection unit 36 on the display unit 15 and operates the input unit 16 (up switch 16U, down switch 16D). Thus, an example of selecting target image data has been shown. At this time, the image list generation unit 37 may select the target image by switching and displaying the image data every predetermined time.

また、オペレータによる画像の選択は入力部16を用いて行っているが、入力部16を設けずにタッチパネル式にしてもよい。表示部15に表示される画像データをタッチパネルで選択することで、アップスイッチ16Uやダウンスイッチ16Dを用いて矢印アイコンを移動させる必要はなくなる。   Further, the image selection by the operator is performed using the input unit 16, but a touch panel type may be used without providing the input unit 16. By selecting the image data displayed on the display unit 15 with the touch panel, it is not necessary to move the arrow icon using the up switch 16U or the down switch 16D.

また、画像選択部36にはダンプトラック1の走行速度を示す走行速度情報が入力されている。この走行速度情報が所定速度以上になったときは仮想視点画像を選択の対象から外すことができる。仮想視点画像はダンプトラック1を中心とした周囲の状況を表示することができるが、その表示範囲は狭小である。従って、ダンプトラック1が停止或いは低速に走行しているときには仮想視点画像を選択対象とすることが望ましいが、所定速度以上になったときには遠方を視野とすることができる各カメラ8F、8R、8L、8Bのカメラ画像を表示して、仮想視点画像は選択対象に含めないこともできる。   In addition, traveling speed information indicating the traveling speed of the dump truck 1 is input to the image selection unit 36. When the traveling speed information is equal to or higher than a predetermined speed, the virtual viewpoint image can be excluded from the selection target. The virtual viewpoint image can display the situation around the dump truck 1, but the display range is narrow. Therefore, it is desirable to select the virtual viewpoint image when the dump truck 1 is stopped or traveling at a low speed, but each camera 8F, 8R, 8L can view a far field when the speed exceeds a predetermined speed. , 8B camera images may be displayed, and the virtual viewpoint image may not be included in the selection target.

また、画像リスト生成部37が表示部15に表示させる画像データのリストは任意の順番としてもよいが、使用頻度の高い画像データから順番に表示するようにしてもよい。これにより、オペレータは使用頻度の高い画像データを表示するときには1度の操作で目的の画像データを表示することができる。また、アップスイッチ16U、ダウンスイッチ16Dにより操作される矢印アイコンにより目的の画像データを選択したが、矢印アイコンとは異なる方法で目的の画像データを選択するようにしてもよい。   Further, the list of image data displayed on the display unit 15 by the image list generation unit 37 may be in any order, but may be displayed in order from image data having a high frequency of use. As a result, the operator can display the target image data with a single operation when displaying frequently used image data. In addition, although the target image data is selected by the arrow icon operated by the up switch 16U and the down switch 16D, the target image data may be selected by a method different from the arrow icon.

1 ダンプトラック
5 ベッセル
7 運転室
8B 後方カメラ
8F 前方カメラ
8L 左方カメラ
8R 右方カメラ
14 モニタ
15 表示部
16 入力部
16A 決定ボタン
16D ダウンスイッチ
16U アップスイッチ
20 車体コントローラ
21 シフトレバー
22 ステアリングハンドル
22 ステアリングハンドル
23 速度検出部
24 ベッセル操作手段
30 表示コントローラ
32 画像補正部
33 視点変換部
34 画像合成部
35 画像データ生成部
36 画像選択部
37 画像リスト生成部
38 表示画像生成部
DESCRIPTION OF SYMBOLS 1 Dump truck 5 Vessel 7 Driver's cab 8B Rear camera 8F Front camera 8L Left camera 8R Right camera 14 Monitor 15 Display part 16 Input part 16A Determination button 16D Down switch 16U Up switch 20 Car body controller 21 Shift lever 22 Steering handle 22 Steering Handle 23 Speed detection unit 24 Bessel operation means 30 Display controller 32 Image correction unit 33 View point conversion unit 34 Image composition unit 35 Image data generation unit 36 Image selection unit 37 Image list generation unit 38 Display image generation unit

Claims (6)

作業機械の少なくとも後方および左右側方を視野とするカメラと、
前記作業機械の運転室に備えられるモニタと、
複数の前記カメラが撮影した複数の画像により構成される複数の画像データを画像データ群として生成する画像データ群生成部と、
前記作業機械の走行方向に関連した画像データのみを前記画像データ群の中から選択してグループ化する画像選択部と、
前記画像選択部により選択された画像データのグループの中から目的となる画像データを選択する作業を行うための入力部と、
前記入力部により選択された画像データを前記モニタに表示する表示画像生成部と、
を備えたことを特徴とする作業機械の周囲監視装置。
A camera with a visual field at least behind and on the left and right sides of the work machine;
A monitor provided in a cab of the work machine;
An image data group generation unit that generates a plurality of image data composed of a plurality of images captured by the plurality of cameras as an image data group;
An image selection unit that selects and groups only image data related to the traveling direction of the work machine from the image data group;
An input unit for performing an operation of selecting target image data from a group of image data selected by the image selection unit;
A display image generation unit for displaying the image data selected by the input unit on the monitor;
A working machine surrounding monitoring device characterized by comprising:
前記作業機械の前方を視野とするカメラが撮影した画像データを前記画像データ群に含めたこと
を特徴とする請求項1記載の作業機械の周囲監視装置。
2. The work machine surrounding monitoring apparatus according to claim 1, wherein the image data group includes image data captured by a camera having a field of view in front of the work machine.
少なくとも前記後方および左右側方を視野とするカメラに基づいて上方視点となるように視点変換した仮想視点画像を前記画像データ群に含めたこと
を特徴とする請求項1または2記載の作業機械の周囲監視装置。
3. The work machine according to claim 1, wherein the image data group includes a virtual viewpoint image obtained by converting a viewpoint so as to be an upper viewpoint based on a camera having at least the rear and left and right side fields of view. Ambient monitoring device.
前記作業機械の前進および後進の走行は前記運転室に備えられるシフトレバーにより操作され、このシフトレバーの位置に応じて前記画像選択部はグループ化する画像データを決定すること
を特徴とする請求項3記載の作業機械の周囲監視装置。
The forward and reverse travel of the work machine is operated by a shift lever provided in the cab, and the image selection unit determines image data to be grouped according to the position of the shift lever. 3. A work machine ambient monitoring device according to 3.
前記作業機械の左右の走行は前記運転室に備えられるステアリングハンドルにより操作され、このステアリングハンドルの操舵角度に応じて前記画像選択部はグループ化する画像データを決定すること
を特徴とする請求項4記載の作業機械の周囲監視装置。
5. The left and right traveling of the work machine is operated by a steering handle provided in the driver's cab, and the image selection unit determines image data to be grouped according to a steering angle of the steering handle. The working machine ambient monitoring device described.
前記画像選択部により選択された画像データをリスト化して前記モニタに表示して、前記画像データの入力操作を行う入力部を用いて前記リスト化された画像データの中から目的となる画像データを選択すること
を特徴とする請求項1乃至5の何れか1項に記載の作業機械の周囲監視装置。
The image data selected by the image selection unit is listed and displayed on the monitor, and target image data is selected from the list of image data using the input unit that performs the input operation of the image data. The surrounding monitoring device for a work machine according to any one of claims 1 to 5, wherein the device is selected.
JP2012031295A 2012-02-16 2012-02-16 Work machine ambient monitoring device Active JP5996879B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012031295A JP5996879B2 (en) 2012-02-16 2012-02-16 Work machine ambient monitoring device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012031295A JP5996879B2 (en) 2012-02-16 2012-02-16 Work machine ambient monitoring device

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016086114A Division JP6139740B2 (en) 2016-04-22 2016-04-22 Work machine ambient monitoring device

Publications (2)

Publication Number Publication Date
JP2013168826A true JP2013168826A (en) 2013-08-29
JP5996879B2 JP5996879B2 (en) 2016-09-21

Family

ID=49178914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012031295A Active JP5996879B2 (en) 2012-02-16 2012-02-16 Work machine ambient monitoring device

Country Status (1)

Country Link
JP (1) JP5996879B2 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160066422A (en) * 2014-12-02 2016-06-10 현대자동차주식회사 Display device mounted to vehicle and and information display method using the same
JP2017061283A (en) * 2015-09-25 2017-03-30 株式会社タダノ Periphery monitoring device of work vehicle
JP2018039476A (en) * 2016-09-09 2018-03-15 株式会社タダノ Image display system
JP2018170666A (en) * 2017-03-30 2018-11-01 三菱電機株式会社 Camera system and camera calibration method
JP2019054465A (en) * 2017-09-15 2019-04-04 株式会社小松製作所 Display system, display method, and display device
WO2020153315A1 (en) * 2019-01-23 2020-07-30 株式会社小松製作所 System and method for working machine
JP2021156080A (en) * 2020-03-30 2021-10-07 住友重機械工業株式会社 Construction assist system and construction assist device
JP2022088442A (en) * 2020-06-02 2022-06-14 株式会社ユピテル Imaging device, system and fork lift equipped with the system

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001339715A (en) * 2000-05-25 2001-12-07 Matsushita Electric Ind Co Ltd Operation supporting apparatus
JP2003146133A (en) * 2001-11-12 2003-05-21 Toyota Motor Corp Vehicular surrounding monitoring device
JP2004161215A (en) * 2002-11-15 2004-06-10 Auto Network Gijutsu Kenkyusho:Kk Vehicle-mounted camera system
JP2007295043A (en) * 2006-04-20 2007-11-08 Matsushita Electric Ind Co Ltd Vehicle periphery monitoring apparatus
JP2008114814A (en) * 2006-11-07 2008-05-22 Sumitomo (Shi) Construction Machinery Manufacturing Co Ltd Video camera switching device for construction machine
JP2010121270A (en) * 2008-11-17 2010-06-03 Hitachi Constr Mach Co Ltd Monitoring equipment of working machine
JP2010147516A (en) * 2008-12-16 2010-07-01 Mitsubishi Motors Corp Vehicle periphery monitoring device
JP2011155651A (en) * 2011-02-10 2011-08-11 Toshiba Corp Apparatus and method for displaying vehicle perimeter image
JP2011205514A (en) * 2010-03-26 2011-10-13 Aisin Seiki Co Ltd Vehicle periphery monitoring device
JP2012006551A (en) * 2010-06-28 2012-01-12 Honda Motor Co Ltd In-vehicle image display apparatus

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001339715A (en) * 2000-05-25 2001-12-07 Matsushita Electric Ind Co Ltd Operation supporting apparatus
JP2003146133A (en) * 2001-11-12 2003-05-21 Toyota Motor Corp Vehicular surrounding monitoring device
JP2004161215A (en) * 2002-11-15 2004-06-10 Auto Network Gijutsu Kenkyusho:Kk Vehicle-mounted camera system
JP2007295043A (en) * 2006-04-20 2007-11-08 Matsushita Electric Ind Co Ltd Vehicle periphery monitoring apparatus
JP2008114814A (en) * 2006-11-07 2008-05-22 Sumitomo (Shi) Construction Machinery Manufacturing Co Ltd Video camera switching device for construction machine
JP2010121270A (en) * 2008-11-17 2010-06-03 Hitachi Constr Mach Co Ltd Monitoring equipment of working machine
JP2010147516A (en) * 2008-12-16 2010-07-01 Mitsubishi Motors Corp Vehicle periphery monitoring device
JP2011205514A (en) * 2010-03-26 2011-10-13 Aisin Seiki Co Ltd Vehicle periphery monitoring device
JP2012006551A (en) * 2010-06-28 2012-01-12 Honda Motor Co Ltd In-vehicle image display apparatus
JP2011155651A (en) * 2011-02-10 2011-08-11 Toshiba Corp Apparatus and method for displaying vehicle perimeter image

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160066422A (en) * 2014-12-02 2016-06-10 현대자동차주식회사 Display device mounted to vehicle and and information display method using the same
KR101655190B1 (en) * 2014-12-02 2016-09-07 현대자동차 주식회사 Display device mounted to vehicle and and information display method using the same
JP2017061283A (en) * 2015-09-25 2017-03-30 株式会社タダノ Periphery monitoring device of work vehicle
JP2018039476A (en) * 2016-09-09 2018-03-15 株式会社タダノ Image display system
JP2018170666A (en) * 2017-03-30 2018-11-01 三菱電機株式会社 Camera system and camera calibration method
US11230825B2 (en) 2017-09-15 2022-01-25 Komatsu Ltd. Display system, display method, and display apparatus
JP2019054465A (en) * 2017-09-15 2019-04-04 株式会社小松製作所 Display system, display method, and display device
WO2020153315A1 (en) * 2019-01-23 2020-07-30 株式会社小松製作所 System and method for working machine
JP2020117914A (en) * 2019-01-23 2020-08-06 株式会社小松製作所 System and method for work machine
JP7160701B2 (en) 2019-01-23 2022-10-25 株式会社小松製作所 Work machine system and method
AU2020211868B2 (en) * 2019-01-23 2023-03-09 Komatsu Ltd. System and method for work machine
JP2021156080A (en) * 2020-03-30 2021-10-07 住友重機械工業株式会社 Construction assist system and construction assist device
JP2022088442A (en) * 2020-06-02 2022-06-14 株式会社ユピテル Imaging device, system and fork lift equipped with the system

Also Published As

Publication number Publication date
JP5996879B2 (en) 2016-09-21

Similar Documents

Publication Publication Date Title
JP5996879B2 (en) Work machine ambient monitoring device
JP5938222B2 (en) Transportation vehicle surrounding monitoring device
JP6139740B2 (en) Work machine ambient monitoring device
JP5814187B2 (en) Display device for self-propelled industrial machine
JP5988683B2 (en) Display device for self-propelled industrial machine
JP6014664B2 (en) Display device for self-propelled industrial machine
KR101843382B1 (en) Periphery monitoring device for crawler-type working machine
JP6173358B2 (en) Perimeter monitoring device for swivel work machines
JP5750344B2 (en) Ambient monitoring device for work equipment
US10145087B2 (en) Surroundings display device for swing working machine
JP5775283B2 (en) Work machine monitoring device
JP5643272B2 (en) Work vehicle periphery monitoring system and work vehicle
JP5629740B2 (en) Work vehicle periphery monitoring system and work vehicle
US10661712B2 (en) Bird's-eye view image system, bird's-eye view image display method and program
JP2018039477A (en) Image display system
JP6224770B2 (en) Dump truck display device
JP5823553B2 (en) Work vehicle periphery monitoring system and work vehicle
JP5990237B2 (en) Dump truck peripheral monitoring system and dump truck
US20220372732A1 (en) Periphery monitoring device for working machine

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150914

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151120

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160223

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160816

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160825

R150 Certificate of patent or registration of utility model

Ref document number: 5996879

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150