JP2022127328A - 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 - Google Patents
作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 Download PDFInfo
- Publication number
- JP2022127328A JP2022127328A JP2021025413A JP2021025413A JP2022127328A JP 2022127328 A JP2022127328 A JP 2022127328A JP 2021025413 A JP2021025413 A JP 2021025413A JP 2021025413 A JP2021025413 A JP 2021025413A JP 2022127328 A JP2022127328 A JP 2022127328A
- Authority
- JP
- Japan
- Prior art keywords
- image
- camera
- display
- display image
- vehicle body
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 45
- 238000000034 method Methods 0.000 title claims description 13
- 238000003384 imaging method Methods 0.000 claims description 34
- 240000004050 Pentaglottis sempervirens Species 0.000 claims description 25
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 claims description 25
- 230000002093 peripheral effect Effects 0.000 claims description 7
- 230000006866 deterioration Effects 0.000 abstract description 5
- 238000001514 detection method Methods 0.000 description 26
- 239000002131 composite material Substances 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 5
- 238000009434 installation Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000012806 monitoring device Methods 0.000 description 2
- 230000002194 synthesizing effect Effects 0.000 description 2
- 238000009412 basement excavation Methods 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
- B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
- B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2624—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects for obtaining an image which is composed of whole input images, e.g. splitscreen
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/76—Graders, bulldozers, or the like with scraper plates or ploughshare-like elements; Levelling scarifying devices
- E02F3/7636—Graders with the scraper blade mounted under the tractor chassis
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Mining & Mineral Resources (AREA)
- Civil Engineering (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Mechanical Engineering (AREA)
- Closed-Circuit Television Systems (AREA)
- Component Parts Of Construction Machinery (AREA)
Abstract
【課題】複数種類の画像が表示部に同時に表示される場合において、視認性の低下を抑制すること。【解決手段】作業機械の周辺監視システムは、作業機械の周辺を撮像するカメラのカメラ画像に基づいて、作業機械の周辺を示す第1表示画像を生成する第1表示画像生成部と、作業機械の周辺を撮像する複数のカメラのカメラ画像に基づいて、第1表示画像と異なる表示形態の第2表示画像を生成する第2表示画像生成部と、表示画面の一部に第1表示画像を表示させ、表示画面の一部に第2表示画像を表示させ、表示画面において第1表示画像と第2表示画像との境界に境界画像を表示させるための信号を生成する表示制御部と、を備える。【選択図】図6
Description
本開示は、作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法に関する。
作業機械に係る技術分野において、特許文献1に開示されているような周辺監視装置が知られている。
周辺監視装置は、作業機械の周辺の画像を表示する表示部を備える。作業機械の運転者は、表示部に表示される画像を確認することにより、作業機械の周辺の状況を認識することができる。作業機械の周辺の状況を運転者に高度に認識させるために、複数種類の画像を表示部に表示させたい場合がある。一方、複数種類の画像が表示部に同時に表示されると、視認性が低下する可能性がある。
本開示によれば、複数種類の画像が表示部に同時に表示される場合において、視認性の低下を抑制することを目的とする。
本開示に従えば、作業機械の周辺を撮像するカメラのカメラ画像に基づいて、作業機械の周辺を示す第1表示画像を生成する第1表示画像生成部と、作業機械の周辺を撮像する複数のカメラのカメラ画像に基づいて、第1表示画像と異なる表示形態の第2表示画像を生成する第2表示画像生成部と、表示画面の一部に第1表示画像を表示させ、表示画面の一部に第2表示画像を表示させ、表示画面において第1表示画像と第2表示画像との境界に境界画像を表示させるための信号を生成する表示制御部と、を備える、作業機械の周辺監視システムが提供される。
本開示によれば、複数種類の画像が表示部に同時に表示される場合において、視認性の低下が抑制される。
本開示に係る実施形態について図面を参照しながら説明するが、本開示は実施形態に限定されない。以下で説明する実施形態の構成要素は、適宜組み合わせることができる。また、一部の構成要素を用いない場合もある。
実施形態においては、作業機械1にローカル座標系を設定し、ローカル座標系を参照しながら各部の位置関係について説明する。ローカル座標系において、作業機械1の左右方向(車幅方向)に延伸する第1軸をX軸とし、作業機械1の前後方向に延伸する第2軸をY軸とし、作業機械1の上下方向に延伸する第3軸をZ軸とする。X軸とY軸とは直交する。Y軸とZ軸とは直交する。Z軸とX軸とは直交する。+X方向は右方向であり、-X方向は左方向である。+Y方向は前方向であり、-Y方向は後方向である。+Z方向は上方向であり、-Z方向は下方向である。
[第1実施形態]
<作業機械>
図1は、実施形態に係る作業機械1を示す斜視図である。図2は、実施形態に係る作業機械1を示す側面図である。実施形態においては、作業機械1がモータグレーダであることとする。以下の説明において、作業機械1を適宜、モータグレーダ1と、称する。
<作業機械>
図1は、実施形態に係る作業機械1を示す斜視図である。図2は、実施形態に係る作業機械1を示す側面図である。実施形態においては、作業機械1がモータグレーダであることとする。以下の説明において、作業機械1を適宜、モータグレーダ1と、称する。
図1及び図2に示すように、モータグレーダ1は、車体2と、キャブ3と、作業機4と、車輪5と、作業機操作装置6と、走行操作装置7と、作業機制御装置8と、走行制御装置9と、周辺監視システム10とを備える。
モータグレーダ1は、車輪5により作業現場を走行する。モータグレーダ1は、作業現場において作業機4を用いる作業を実施する。作業機4は、作業現場において作業を実施する。モータグレーダ1が実施する作業として、整地作業、路面切削作業、掘削作業、除雪作業、及び材料混合作業が例示される。
車体2は、作業機4を支持する。車体2は、フロント車体21と、リヤ車体22とを含む。フロント車体21は、リヤ車体22よりも前方に配置される。フロント車体21とリヤ車体22とは、アーティキュレート機構23により連結される。フロント車体21は、アーティキュレート機構23を介してリヤ車体22に回動可能に連結される。フロント車体21の後端部とリヤ車体22の前端部とがアーティキュレート機構23を介して連結される。アーティキュレート機構23は、Z軸方向に延伸するセンタピンを含む。フロント車体21の後端部とリヤ車体22の後端部とがセンタピンを介して連結される。
アーティキュレート機構23は、アーティキュレートシリンダ24を含む。アーティキュレートシリンダ24は、フロント車体21とリヤ車体22とを連結する。アーティキュレートシリンダ24が伸縮することにより、フロント車体21は、リヤ車体22に対して左右方向に屈曲する。フロント車体21がリヤ車体22に対して屈曲することにより、モータグレーダ1の走行方向が調整される。アーティキュレートシリンダ24は、例えば油圧シリンダである。
リヤ車体22は、外装カバー25を含む。外装カバー25の内側にエンジン室が形成される。エンジン室にエンジン26が配置される。リヤ車体22は、エンジン26を支持する。
キャブ3は、リヤ車体22に支持される。運転者がキャブ3の内部に搭乗する。運転者が着座するシート31がキャブ3の内部に配置される。
作業機4は、フロント車体21に支持される。作業機4は、ドローバ40と、旋回サークル41と、ブレード42とを有する。ドローバ40は、フロント車体21の下方に配置される。ドローバ40の前端部は、玉軸部を介してフロント車体21の前端部に連結される。ドローバ40の前端部は、フロント車体21の前端部に揺動可能に支持される。ドローバ40の後端部は、リフトシリンダ44及びリフトシリンダ45を介してフロント車体21に支持される。ドローバ40は、リフトシリンダ44及びリフトシリンダ45を介してフロント車体21に吊り下げられる。
旋回サークル41は、フロント車体21の下方に配置される。旋回サークル41は、ドローバ40の下方に配置される。旋回サークル41は、ドローバ40の後端部に旋回可能に支持される。
ブレード42は、車体2の前端部と車体2の後端部との間に配置される。ブレード42は、旋回サークル41に支持される。ブレード42は、旋回サークル41を介してドローバ40に支持される。ブレード42は、ドローバ40を介してフロント車体21に支持される。旋回サークル41が旋回されることにより、ブレード42の推進角が調整される。ブレード42の推進角とは、Y軸に対するブレード42の傾斜角度をいう。
リフトシリンダ44及びリフトシリンダ45は、ドローバ40を支持する。リフトシリンダ44及びリフトシリンダ45は、ドローバ40を介してブレード42を支持する。リフトシリンダ44及びリフトシリンダ45が伸縮することにより、ドローバ40の後端部がフロント車体21に対して上下方向に移動する。すなわち、リフトシリンダ44及びリフトシリンダ45が伸縮することにより、ドローバ40及びブレード42の高さが調整される。また、ドローバ40は、リフトシリンダ44とリフトシリンダ45とが異なる伸縮量で伸縮することにより、Y軸を中心とする回転方向に揺動する。ブレード42は、Z軸方向及びY軸を中心とする回転方向のそれぞれに移動可能である。
車輪5は、車体2を支持する。車輪5は、前輪51と、後輪52とを含む。前輪51は、後輪52よりも前方に配置される。前後方向において、ブレード42は、前輪51と後輪52との間に配置される。前輪51は、ブレード42よりも前方に配置される。後輪52は、ブレード42よりも後方に配置される。
前輪51は、フロント車体21に装着される。フロント車体21は、前輪51を回転可能に支持する。前輪51は、フロント車体21の前端部に支持される。前輪51は、フロント車体21の左側に1つ配置され、フロント車体21の右側に1つ配置される。すなわち、前輪51は、2つ設けられる。
後輪52は、リヤ車体22に装着される。リヤ車体22は、後輪52を回転可能に支持する。後輪52は、リヤ車体22の左側に2つ配置され、リヤ車体22の右側に2つ配置される。すなわち、後輪52は、4つ設けられる。後輪52は、エンジン26が発生する動力に基づいて回転する。
実施形態において、X軸は、前輪51の回転軸と平行である。Z軸は、地面と接触する前輪51の接地面と直交する。モータグレーダ1が直進状態で走行するとき、前輪51の回転軸と後輪52の回転軸とは、平行である。
作業機操作装置6及び走行操作装置7のそれぞれは、キャブ4の内部に配置される。作業機操作装置6及び走行操作装置7のそれぞれは、運転者により操作される。
作業機操作装置6は、作業機4を動作させるための操作信号を生成する。作業機操作装置6として、作業機操作レバーが例示される。運転者により作業機操作装置6が操作されると、作業機操作装置6は、操作信号を生成する。作業機操作装置6の操作信号は、作業機制御装置8に送信される。作業機制御装置8は、作業機操作装置6の操作信号に基づいて、作業機4を動作させるための制御指令を出力する。作業機制御装置8から出力される制御指令は、リフトシリンダ44及びリフトシリンダ45の少なくとも一方を動作させる制御指令を含む。作業機4のブレード42は、作業機制御装置8から出力される制御指令に基づいて、Z軸方向及びY軸を中心とする回転方向の少なくとも一方に移動する。
走行操作装置7は、モータグレーダ1を駆動、制動、及び旋回させるための操作信号を生成する。走行操作装置7として、ステアリングホイール、変速レバー、アクセルペダル、ブレーキペダル、及びインチングペダルが例示される。運転者により走行操作装置7が操作されると、走行操作装置7は、操作信号を生成する。走行操作装置7の操作信号は、走行制御装置9に送信される。走行制御装置9は、走行操作装置7の操作信号に基づいて、モータグレーダ1を駆動、制動、及び旋回させるための制御指令を出力する。モータグレーダ1を駆動させるために走行制御装置9から出力される制御指令は、エンジン26の出力を増加させる制御指令を含む。モータグレーダ1を制動させるために走行制御装置9から出力される制御指令は、ブレーキ装置(不図示)を作動させる制御指令を含む。モータグレーダ1を旋回させるために走行制御装置9から出力される制御指令は、アーティキュレートシリンダ24を動作させる制御指令を含む。モータグレーダ1は、走行制御装置9から出力される制御指令に基づいて、駆動、制動、及び旋回の少なくとも一つを実行する。
<周辺監視システム>
周辺監視システム10は、モータグレーダ1の周辺を監視する。周辺監視システム10は、カメラシステム11と、レーダシステム12と、周辺監視モニタ13と、モニタ制御装置14とを有する。
周辺監視システム10は、モータグレーダ1の周辺を監視する。周辺監視システム10は、カメラシステム11と、レーダシステム12と、周辺監視モニタ13と、モニタ制御装置14とを有する。
カメラシステム11は、複数のカメラを有する。カメラは、光学系と、イメージセンサとを有する。イメージセンサとして、CCD(Couple Charged Device)イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサが例示される。カメラは、モータグレーダ1の車体2に設けられる。カメラは、モータグレーダ1の周辺を撮像して、モータグレーダ1の周辺の画像を取得する。カメラは、少なくとも車体2の周辺を撮像する。以下の説明において、カメラシステム11のカメラが取得した画像を適宜、カメラ画像、と称する。
レーダシステム12は、複数のレーダを有する。レーダは、モータグレーダ1の車体2に設けられる。レーダは、モータグレーダ1の周辺の障害物を非接触で検出する。
図3は、実施形態に係るカメラシステム11を模式的に示す上面図である。図1、図2、及び図3に示すように、カメラシステム11は、フロント車体21に設けられる第1カメラ111と、フロント車体21に設けられる第2カメラ112と、リヤ車体22に設けられる第3カメラ113と、リヤ車体22に設けられる第4カメラ114と、リヤ車体22に設けられる第5カメラ115とを有する。第1カメラ111及び第2カメラ112は、フロント車体21の前方を撮像する。第3カメラ113、第4カメラ114、及び第5カメラ115は、リヤ車体22の後方を撮像する。
第1カメラ111は、フロント車体21の前端部の左部に設けられる。第1カメラ111は、フロント車体21の左前方を撮像する。第1カメラ111の撮像範囲M1は、フロント車体21の左前方に規定される。
第2カメラ112は、フロント車体21の前端部の右部に設けられる。第2カメラ112は、フロント車体21の右前方を撮像する。第2カメラ112の撮像範囲M2は、フロント車体21の右前方に規定される。
第3カメラ113は、リヤ車体22の左部に設けられる。第3カメラ113は、リヤ車体22の左方を撮像する。第3カメラ113の撮像範囲M3は、リヤ車体22の左方に規定される。
第4カメラ114は、リヤ車体22の右部に設けられる。第4カメラ114は、リヤ車体22の右方を撮像する。第4カメラ114の撮像範囲M4は、リヤ車体22の右方に規定される。
第5カメラ115は、リヤ車体22の後端部に設けられる。第5カメラ115は、リヤ車体22の後方を撮像する。第5カメラ115の撮像範囲M5は、リヤ車体22の後方に規定される。
撮像範囲M1と撮像範囲M2の少なくとも一部とは、重複する。撮像範囲M3と撮像範囲M5の少なくとも一部とは、重複する。撮像範囲M4と撮像範囲M5の少なくとも一部とは、重複する。
キャブ3の周囲には、カメラシステム11で撮像されない非撮像範囲NR1が設けられる。非撮像範囲NR1は、キャブ3の左前方及びキャブ3の右前方のそれぞれに規定される。
図4は、実施形態に係るレーダシステム12を模式的に示す上面図である。図1、図2、及び図4に示すように、レーダシステム12は、フロント車体21に設けられる第1レーダ121と、フロント車体21に設けられる第2レーダ122と、リヤ車体22に設けられる第3レーダ123と、リヤ車体22に設けられる第4レーダ124と、リヤ車体22に設けられる第5レーダ125とを有する。
第1レーダ121は、フロント車体21の前端部の左部に設けられる。第1レーダ121は、フロント車体21の左前方を検出する。第1レーダ121の検出範囲D1は、フロント車体21の左前方に規定される。
第2レーダ122は、フロント車体21の前端部の右部に設けられる。第2レーダ122は、フロント車体21の右前方を検出する。第2レーダ122の検出範囲D2は、フロント車体21の右前方に規定される。
第3レーダ123は、リヤ車体22の左部に設けられる。第3レーダ123は、リヤ車体22の左方を検出する。第3レーダ123の検出範囲D3は、リヤ車体22の左方に規定される。
第4レーダ124は、リヤ車体22の右部に設けられる。第4レーダ124は、リヤ車体22の右方を検出する。第4レーダ124の検出範囲D4は、リヤ車体22の右方に規定される。
第5レーダ125は、リヤ車体22の後端部に設けられる。第5レーダ125は、リヤ車体22の後方を検出する。第5レーダ125の検出範囲D5は、リヤ車体22の後方に規定される。
検出範囲D1と検出範囲D2の少なくとも一部とは、重複する。検出範囲D3と検出範囲D5の少なくとも一部とは、重複する。検出範囲D4と検出範囲D5の少なくとも一部とは、重複する。
キャブ3の周囲には、レーダシステム12で検出されない非検出範囲NR2が設けられる。非検出範囲NR2は、キャブ3の左前方及びキャブ3の右前方のそれぞれに規定される。
図5は、実施形態に係るモータグレーダ1を示す機能ブロック図である。周辺監視システム10は、カメラシステム11と、レーダシステム12と、周辺監視モニタ13と、モニタ制御装置14とを有する。
モニタ制御装置14は、コンピュータシステムを含む。モニタ制御装置14は、カメラ画像取得部141と、第1表示画像生成部142と、第2表示画像生成部143と、境界画像生成部144と、シンボル画像生成部145と、検出データ取得部146と、表示制御部147とを有する。なお、モニタ制御装置14は、単独のコンピュータシステムを含んでもよいし、複数のコンピュータシステムが互いに協働することでモニタ制御装置14として機能してもよい。
カメラ画像取得部141は、カメラシステム11からカメラ画像を取得する。カメラ画像取得部141は、第1カメラ111からフロント車体21の左前方の状況を示す第1カメラ画像を取得する。カメラ画像取得部141は、第2カメラ112からフロント車体21の右前方の状況を示す第2カメラ画像を取得する。カメラ画像取得部141は、第3カメラ113からリヤ車体22の左方の状況を示す第3カメラ画像を取得する。カメラ画像取得部141は、第4カメラ114からリヤ車体22の右方の状況を示す第4カメラ画像を取得する。カメラ画像取得部141は、第5カメラ115からリヤ車体22の後方の状況を示す第5カメラ画像を取得する。
第1表示画像生成部142は、第1カメラ111で撮像されたモータグレーダ1の周辺の第1カメラ画像と第2カメラ112で撮像されたモータグレーダ1の周辺の第2カメラ画像とに基づいて、モータグレーダ1の周辺の第1部分を示す第1表示画像IM1を生成する。実施形態において、第1表示画像IM1は、モータグレーダ1の周辺の前部分を含む。第1表示画像IM1は、フロント車体21の周辺を含む。
第1表示画像IM1は、第1カメラ111の位置及び第2カメラ112の位置とは異なる第1視点から見た第1視点画像である。実施形態において、第1表示画像生成部142は、第1カメラ画像と第2カメラ画像とに基づいて、フロント車体21の周辺を示すパノラマ画像を生成する。
パノラマ画像とは、複数のカメラのそれぞれで取得された複数のカメラ画像をパノラマ画像の生成に係る基準視点を視点位置とした複数の視線方向の画像を合成することにより生成される画像をいう。例えば全周のパノラマ画像は、基準視点を中心とする0°から+180°の範囲及び0°から-180°の範囲の複数の視線方向に対応した画像が連続的に接続された画像である。全周のパノラマ画像の場合、360°の範囲の任意の視線方向の画像が得られる。なお、パノラマ画像は全周に対応しなくてもよい。例えば0°から+90°の範囲及び0°から-90°の範囲の視線方向に対応した画像(180°のパノラマ画像)でもよい。また、パノラマ画像は、視線方向が水平方向に回転することで得られる複数の視線方向に対応する画像を連続させた画像でもよいし、視線方向が垂直方向に回転することで得られる複数の視線方向に対応する画像を連続させた画像でもよい。また、パノラマ画像は、全天球画像のように、視線方向が3次元的に変化することで得られる複数の視線方向に対応する画像を連続させた画像でもよい。
実施形態において、パノラマ画像は、第1カメラ画像の右端部と第2カメラ画像の左端部とを繋ぐように生成される。
以下の説明において、第1表示画像IM1を適宜、パノラマ画像IM1、と称する。
第2表示画像生成部143は、第3カメラ113で撮像されたモータグレーダ1の周辺の第3カメラ画像と第4カメラ114で撮像されたモータグレーダ1の周辺の第4カメラ画像と第5カメラ115で撮像されたモータグレーダ1の周辺の第5カメラ画像とに基づいて、モータグレーダ1の周辺の第2部分を示す第2表示画像IM2を生成する。実施形態において、第2表示画像IM2は、モータグレーダ1の周辺の後部分を含む。第2表示画像IM2は、リヤ車体22の周辺を含む。
第2表示画像IM2は、第3カメラ113の位置、第4カメラ114の位置、及び第5カメラ115の位置とは異なる第2視点から見た第2視点画像である。実施形態において、第2表示画像生成部143は、第3カメラ画像と第4カメラ画像と第5カメラ画像とに基づいて、リヤ車体22の周辺を示す俯瞰画像を生成する。
俯瞰画像とは、複数のカメラのそれぞれで取得された複数のカメラ画像を俯瞰画像の生成に係る上方視点に変換して合成することにより生成される画像をいう。
第2表示画像IM2は、第1表示画像IM1と異なる表示形態の画像である。例えば、第2表示画像IM2は、第1表示画像IM1と異なる視点から見た画像である。
以下の説明において、第2表示画像IM2を適宜、俯瞰画像IM2、と称する。
境界画像生成部144は、パノラマ画像IM1と俯瞰画像IM2との間に配置される境界画像BIを生成する。
境界画像BIとは、パノラマ画像IM1と俯瞰画像IM2との区別を明確にするために、パノラマ画像IM1と俯瞰画像IM2との境界に表示される画像をいう。
シンボル画像生成部145は、モータグレーダ1を示すシンボル画像SIを生成する。実施形態において、シンボル画像生成部145は、走行操作装置7からの操作信号に基づいて、シンボル画像SIを変化させる。
シンボル画像SIとは、上方から見たモータグレーダ1を模擬した画像をいう。
検出データ取得部146は、レーダシステム12からレーダの検出データを取得する。
表示制御部147は、周辺監視モニタ13の表示画面にパノラマ画像IM1と俯瞰画像IM2と境界画像BIとシンボル画像SIとを表示させる。
<周辺監視モニタ>
図6は、実施形態に係る周辺監視モニタ13を示す図である。周辺監視モニタ13は、モータグレーダ1の周辺を表示する。周辺監視モニタ13は、少なくとも車体2の周辺を表示する。図6に示すように、周辺監視モニタ16は、表示部131を有する。
図6は、実施形態に係る周辺監視モニタ13を示す図である。周辺監視モニタ13は、モータグレーダ1の周辺を表示する。周辺監視モニタ13は、少なくとも車体2の周辺を表示する。図6に示すように、周辺監視モニタ16は、表示部131を有する。
表示制御部147は、表示部131の表示画面133の第1領域133Aに単カメラ画像ISを表示させる。表示制御部147は、表示部131の表示画面133の第2領域133Bに合成画像CIを表示させる。実施形態において、第2領域133Bは、第1領域133Aよりも左側に規定される。
単カメラ画像ISとは、カメラシステム11の複数のカメラのうち少なくとも1つのカメラで取得されたモータグレーダ1の周辺の一部のカメラ画像をいう。単カメラ画像ISは、第1カメラ111で取得されたモータグレーダ1の左前方の状況を示す第1カメラ画像、第2カメラ112で取得されたモータグレーダ1の右前方の状況を示す第2カメラ画像、第3カメラ113で取得されたモータグレーダ1の左方の状況を示す第3カメラ画像、第4カメラ114で取得されたモータグレーダ1の右方の状況を示す第4カメラ画像、及び第5カメラ115で取得されたモータグレーダ1の後方の状況を示す第5カメラ画像の少なくとも一つを含む。
図6に示す例において、第1領域133Aに表示される単カメラ画像ISは、第5カメラ115で取得されたモータグレーダ1の後方の状況を示す第5カメラ画像である。
単カメラ画像ISに併せて、第1領域133Aに目安線GD1が表示される。目安線GD1は、車体2からの距離の目安を示す。実施形態において、目安線GD1は、車体2の外形エッジからの距離を示す。
図7は、実施形態に係る合成画像CIを示す図である。図6及び図7に示すように、合成画像CIは、パノラマ画像IM1と、俯瞰画像IM2と、境界画像BIと、シンボル画像SIとを含む。
表示制御部147は、表示画面133において合成画像CIの一部にパノラマ画像IM1を表示させる。表示制御部147は、表示画面133において合成画像CIの一部に俯瞰画像IM2を表示させる。表示制御部147は、表示画面133においてパノラマ画像IM1と第2表示画像IM2との境界に境界画像BIを表示させる。
表示制御部147は、表示画面133において合成画像CIの中央領域にシンボル画像SIを表示させる。表示制御部147は、シンボル画像SIの周囲に、パノラマ画像IM1、俯瞰画像IM2、及び境界画像BIを表示させる。
パノラマ画像IM1は、合成画像CIの上部に配置される。俯瞰画像IM2は、合成画像CIの下部に配置される。境界画像BIは、シンボル画像SIの側部に表示される。
実施形態において、境界画像BIは、シンボル画像SIのアーティキュレート機構23Sの側部に表示される。境界画像BIは、合成画像CIにおいて左右方向に延伸するように配置される。境界画像BIは、シンボル画像SIの左側及び右側のそれぞれにおいて、帯状に表示される。
なお、境界画像BIは、表示画面133においてシンボル画像SIの前輪とキャブの間に表示されてもよい。境界画像BIは、表示画面133において合成画像CIに表示されるパノラマ画像IM1よりも下方の所定領域に表示されてもよい。境界画像BIは、表示画面133において合成画像CIに表示される俯瞰画像IM2よりも上方の所定領域に表示されてもよい。境界画像BIは、表示画面133において合成画像CIの所定領域に表示されてもよい。なお、所定領域は、合成画像CIの左上の画素を原点とした画像座標系によって定められてもよい。
上述のように、キャブ3の周囲の一部にカメラシステム11で撮像されない非検出範囲NR2が生成される。非検出範囲NR2については、パノラマ画像IM1及び俯瞰画像IM2が生成されない。すなわち、表示画面133において非検出範囲NR2に相当する領域は、パノラマ画像IM1及び俯瞰画像IM2が表示されない非表示領域である。境界画像BIは、表示画面133においてパノラマ画像IM1及び俯瞰画像IM2が表示されない非表示領域を覆うように生成される。
シンボル画像SIにより、モータグレーダ1とモータグレーダ1の周辺との位置関係が明確化される。
合成画像CIに併せて、第2領域133Bに目安線GD2が表示される。目安線GD1と同様、目安線GD2は、車体2からの距離の目安を示す。実施形態において、目安線GD2は、俯瞰画像IM2に重ね合わせられるように表示される。目安線GD2は、俯瞰画像IM2においてシンボル画像SIの周囲に配置される。なお、目安線GD2は配置されなくてもよい。
レーダシステム12により障害物OBが検出された場合、表示制御部147は、表示画面133において、俯瞰画像IM2に映し出された障害物OBに重なるように、マーカMKを表示させてもよい。マーカMKは、障害物OBを表示画面133において強調するシンボル画像として機能する。
周辺監視モニタ13の操作部(不図示)は、キャブ3に配置される複数のスイッチを有する。複数のスイッチに特定の機能が割り当てられる。スイッチが運転者により操作されると、特定の機能の操作信号が生成される。
図8は、実施形態に係る合成画像CIを示す図である。実施形態において、シンボル画像生成部145は、走行操作装置7からの操作信号に基づいて、シンボル画像SIを変化させる。図8に示すように、走行操作装置7の操作によりフロント車体21がリヤ車体22に対して屈曲した場合、シンボル画像生成部145は、走行操作装置7からの操作信号に基づいて、シンボル画像SIにおいても、フロント車体21Sがリヤ車体22Sに対して屈曲するように、シンボル画像SIを生成する。
<合成画像生成方法>
図9は、実施形態に係る合成画像生成方法を示すフローチャートである。モータグレーダ1がキーオンされると、周辺監視システム10が起動する。
図9は、実施形態に係る合成画像生成方法を示すフローチャートである。モータグレーダ1がキーオンされると、周辺監視システム10が起動する。
カメラシステム11のカメラは、モータグレーダ1の周辺を撮像する。カメラ画像取得部141は、カメラからカメラ画像を取得する(ステップSP1)。
第1表示画像生成部142は、第1カメラ111で撮像されたモータグレーダ1の周辺の第1カメラ画像と第2カメラ112で撮像されたモータグレーダ1の周辺の第2カメラ画像とに基づいて、モータグレーダ1の周辺の前部分を示すパノラマ画像IM1を生成する(ステップSP2)。
第2表示画像生成部143は、第3カメラ113で撮像されたモータグレーダ1の周辺の第3カメラ画像と第4カメラ114で撮像されたモータグレーダ1の周辺の第4カメラ画像と第5カメラ115で撮像されたモータグレーダ1の周辺の第5カメラ画像とに基づいて、モータグレーダ1の周辺の後部分を示す俯瞰画像IM2を生成する(ステップSP3)。
境界画像生成部144は、境界画像BIを生成する。シンボル画像生成部145は、走行操作装置7の操作信号に基づいてシンボル画像SIを生成する。
表示制御部147は、表示部131の表示画面133にシンボル画像SIを表示させる。また、表示制御部147は、シンボル画像SIの周囲に、パノラマ画像IM1と俯瞰画像IM2と境界画像BIとを表示させる(ステップSP4)。
<コンピュータシステム>
図10は、実施形態に係るコンピュータシステム1000を示すブロック図である。上述のモニタ制御装置14、作業機制御装置8、及び走行制御装置9のそれぞれは、コンピュータシステム1000を含む。コンピュータシステム1000は、CPU(Central Processing Unit)のようなプロセッサ1001と、ROM(Read Only Memory)のような不揮発性メモリ及びRAM(Random Access Memory)のような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインターフェース1004とを有する。例えばモニタ制御装置14の機能は、コンピュータプログラムとしてストレージ1003に記憶されている。プロセッサ1001は、コンピュータプログラムをストレージ1003から読み出してメインメモリ1002に展開し、コンピュータプログラムに従って上述の処理を実行する。なお、コンピュータプログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。
図10は、実施形態に係るコンピュータシステム1000を示すブロック図である。上述のモニタ制御装置14、作業機制御装置8、及び走行制御装置9のそれぞれは、コンピュータシステム1000を含む。コンピュータシステム1000は、CPU(Central Processing Unit)のようなプロセッサ1001と、ROM(Read Only Memory)のような不揮発性メモリ及びRAM(Random Access Memory)のような揮発性メモリを含むメインメモリ1002と、ストレージ1003と、入出力回路を含むインターフェース1004とを有する。例えばモニタ制御装置14の機能は、コンピュータプログラムとしてストレージ1003に記憶されている。プロセッサ1001は、コンピュータプログラムをストレージ1003から読み出してメインメモリ1002に展開し、コンピュータプログラムに従って上述の処理を実行する。なお、コンピュータプログラムは、ネットワークを介してコンピュータシステム1000に配信されてもよい。
コンピュータプログラム又はコンピュータシステム1000は、上述の実施形態に従って、モータグレーダ1の周辺を撮像するカメラのカメラ画像に基づいて、モータグレーダ1の周辺を示す第1表示画像IM1を生成することと、モータグレーダ1の周辺を撮像する複数のカメラのカメラ画像に基づいて、第1表示画像IM1と異なる表示形態の第2表示画像IM2を生成することと、表示画面133の一部に第1表示画像IM1を表示させ、表示画面133の一部に第2表示画像IM2を表示させ、表示画面133において第1表示画像IM1と第2表示画像IM2との境界に境界画像BIを表示させるための信号を生成することと、を実行させることができる。
<効果>
以上説明したように、実施形態によれば、表示画面133の一部の領域にパノラマ画像IM1が表示され、表示画面133の別の一部の領域に俯瞰画像IM2が表示される場合において、パノラマ画像IM1と俯瞰画像IM2との境界に境界画像BIが表示される。境界画像BIにより、パノラマ画像IM1と俯瞰画像IM2との境界が明確になるので、パノラマ画像IM1及び俯瞰画像IM2のそれぞれの視認性の低下が抑制される。
以上説明したように、実施形態によれば、表示画面133の一部の領域にパノラマ画像IM1が表示され、表示画面133の別の一部の領域に俯瞰画像IM2が表示される場合において、パノラマ画像IM1と俯瞰画像IM2との境界に境界画像BIが表示される。境界画像BIにより、パノラマ画像IM1と俯瞰画像IM2との境界が明確になるので、パノラマ画像IM1及び俯瞰画像IM2のそれぞれの視認性の低下が抑制される。
パノラマ画像IM1は、第1カメラ111の位置及び第2カメラ112の位置とは異なる基準視点から見た第1視点画像である。俯瞰画像IM2は、第3カメラ113の位置、第4カメラ114の位置、及び第5カメラ115の位置とは異なる上方視点から見た第2視点画像である。パノラマ画像IM1とパノラマ画像IM1と異なる表示形態の俯瞰画像IM2とが並列に表示されると、運転者は、パノラマ画像IM1及び俯瞰画像IM2のそれぞれを視認し難くなる可能性がある。実施形態によれば、境界画像BIにより、パノラマ画像IM1と俯瞰画像IM2との境界が明確になるので、パノラマ画像IM1及び俯瞰画像IM2のそれぞれの視認性の低下が抑制される。
表示画面133にモータグレーダ1を示すシンボル画像SIが表示される。パノラマ画像IM1、俯瞰画像IM2、及び境界画像BIのそれぞれは、シンボル画像SIの周囲に表示される。これにより、運転者は、モータグレーダ1と、パノラマ画像IM1が示すモータグレーダ1の周辺の第1部分と、俯瞰画像IM2が示すモータグレーダ1の周辺の第2部分と、境界画像BIとの相対位置を認識することができる。
パノラマ画像IM1が示すモータグレーダ1の周辺の第1部分は、モータグレーダ1の周辺の前部分を示す。俯瞰画像IM2が示すモータグレーダ1の周辺の第2部分は、モータグレーダ1の周辺の後部分を示す。境界画像BIがシンボル画像SIの側部に表示されることにより、運転者は、モータグレーダ1の周辺の前部分とモータグレーダ1の周辺の後部分との相対位置を認識することができ、パノラマ画像IM1と俯瞰画像IM2との境界を明確に認識することができる。
モータグレーダ1は、フロント車体21と、リヤ車体22と、フロント車体21とリヤ車体22とを連結するアーティキュレート機構23とを有する。第1カメラ111及び第2カメラ112のそれぞれは、フロント車体21に設けられる。第3カメラ113、第4カメラ114、及び第5カメラ115のそれぞれは、リヤ車体22に設けられる。これにより、周辺監視システム10は、フロント車体21及びリヤ車体22のそれぞれの周辺を監視することができる。
パノラマ画像IM1が示すモータグレーダ1の周辺の第1部分は、フロント車体21の周辺を示す。これにより、例えばモータグレーダ1が見通しの悪い交差点に進入するとき、運転者は、パノラマ画像IM1に基づいて、交差点及び交差点を構成する走路の状況を適切に認識することができる。
俯瞰画像IM2が示すモータグレーダ1の周辺の第2部分は、リヤ車体22の周辺を示す。これにより、運転者は、俯瞰画像IM2に基づいて、リヤ車体22の周囲における障害物の状況を適切に認識することができる。
境界画像BIは、シンボル画像SIのアーティキュレート機構23Sの側部に表示される。これにより、運転者は、フロント車体21の周辺とリヤ車体22の周辺との相対位置を認識することができ、パノラマ画像IM1と俯瞰画像IM2との境界を明確に認識することができる。
境界画像BIは、表示画面133においてパノラマ画像IM1及び俯瞰画像IM2が表示されない非表示領域を覆うように生成される。カメラ画像を得ることができない非撮像範囲NR1に対応する非表示領域が境界画像BIで覆われるので、運転者は、パノラマ画像IM1と俯瞰画像IM2との境界を明確に認識することができる。
[第2実施形態]
第1実施形態に係る周辺監視システム10は、非撮像範囲NR1に対応する非表示領域を覆うように境界画像BIを生成する。これに対し、第2実施形態に係る周辺監視システム10は、非撮像範囲NR1が発生しない場合において、パノラマ画像IM1と俯瞰画像IM2との境界に境界画像BIを表示させる。
第1実施形態に係る周辺監視システム10は、非撮像範囲NR1に対応する非表示領域を覆うように境界画像BIを生成する。これに対し、第2実施形態に係る周辺監視システム10は、非撮像範囲NR1が発生しない場合において、パノラマ画像IM1と俯瞰画像IM2との境界に境界画像BIを表示させる。
第1実施形態と同様、第2実施形態に係る周辺監視システム10は、第1表示画像IM1を生成するための第1カメラ画像を取得する第1カメラ111及び第2カメラ画像を取得する第2カメラ112を有する。第2実施形態に係る周辺監視システム10は、第1カメラ111の撮像範囲M1及び第2カメラ112の撮像範囲M2とは異なるモータグレーダ1の周辺の他の撮像範囲を撮像する複数のカメラを有する。すなわち、パノラマ画像IM1が示すモータグレーダ1の周囲の一部分とは異なる部分を撮像できるように、複数のカメラが配置される。なお、モータグレーダ1の全周辺360°を撮像できるように、複数のカメラが配置されてもよい。
第2実施形態に係る第2表示画像生成部143は、複数のカメラのカメラ画像を用いて、パノラマ画像IM1が示すモータグレーダ1の周囲の一部分とは異なる部分を示す俯瞰画像を生成する。
第2実施形態に係る表示制御部147は、表示部131の表示画面133にシンボル画像SIを表示させる。また、表示制御部147は、シンボル画像SIの周囲に、パノラマ画像IM1と俯瞰画像IM2と境界画像BIとを表示させる。パノラマ画像IM1は、合成画像CIの上部に配置される。俯瞰画像IM2は、パノラマ画像IM1の下部に配置される。境界画像BIは、俯瞰画像IM2の一部を覆うようにシンボル画像SIの側部に表示される。なお、境界画像BIは、パノラマ画像IM1の一部を覆うように配置されてもよいし、パノラマ画像IM1の一部及び俯瞰画像IM2の一部を覆うように配置されてもよい。
<効果>
第2実施形態に係る周辺監視システム10は、俯瞰画像IM2の一部を覆うように境界画像BIを表示することで、非撮像範囲NR1が発生しない場合において、パノラマ画像IM1と俯瞰画像IM2との境界を明確に認識することができる。
第2実施形態に係る周辺監視システム10は、俯瞰画像IM2の一部を覆うように境界画像BIを表示することで、非撮像範囲NR1が発生しない場合において、パノラマ画像IM1と俯瞰画像IM2との境界を明確に認識することができる。
[その他の実施形態]
図11は、実施形態に係る合成画像CIを示す図である。上述の実施形態においては、境界画像BIは帯状であることとした。図11に示すように、境界画像BIは、ライン状でもよい。また、境界画像BIは、黒色等の所定の色に塗りつぶした画像でもよい。
図11は、実施形態に係る合成画像CIを示す図である。上述の実施形態においては、境界画像BIは帯状であることとした。図11に示すように、境界画像BIは、ライン状でもよい。また、境界画像BIは、黒色等の所定の色に塗りつぶした画像でもよい。
図12は、実施形態に係る合成画像CIを示す図である。図12に示すように、パノラマ画像IM1がフレーム画像FI1で囲まれてもよい。フレーム画像FI1は、パノラマ画像IM1の周縁部に沿うように表示される。フレーム画像FI1の一部が境界画像BIとして機能してもよい。
図13は、実施形態に係る合成画像CIを示す図である。図13に示すように、パノラマ画像IM1がフレーム画像FI1で囲まれ、俯瞰画像IM2がフレーム画像FI2で囲まれてもよい。フレーム画像FI2は、俯瞰画像IM2の周縁部に沿うように表示される。フレーム画像FI1の色とフレーム画像FI2の色とは、異なる。フレーム画像FI1の一部及びフレーム画像FI2の一部が境界画像BIとして機能してもよい。
上述の実施形態において、境界画像BIは、曲線状でもよいし三角形状でもよいし、五角形のような多角形状でもよい。
上述の実施形態において、シンボル画像SIの側方に表示される俯瞰画像IM2の一部が境界画像BIとして機能してもよい。シンボル画像SIの側方に表示される俯瞰画像IM2の一部が半透明表示され、その半透明表示部分が境界画像BIとして機能されてもよい。
上述の実施形態において、境界画像生成部144は、境界画像BIを生成することとした。他の実施形態においては、境界画像生成部144は、境界画像BIを生成しなくてもよい。例えば、境界画像BIが表示制御部147に予め記憶され、表示制御部147は、予め記憶した境界画像BIを表示させてもよい。
上述の実施形態において、周辺監視システム10は、周辺監視モニタ13及びレーダシステム12を備えなくてもよい。例えば、周辺監視システム10は、モニタに表示するための信号を出力すればよい。また、レーダシステム12に代えてカメラシステム11のカメラ画像が画像分析されることにより障害物が検出されてもよい。また、障害物は検出されなくてもよい。また、周辺監視システム10の一部の構成要素がモータグレーダ1の内部に搭載され、別の構成要素がモータグレーダ1の外部に設けられてもよい。例えば、周辺監視システム10の周辺監視モニタ13が、モータグレーダ1の遠隔地に設けられた遠隔操作室に配置されてもよい。
上述の実施形態において、表示制御部147は、表示画面133にパノラマ画像IM1と俯瞰画像IM2と境界画像BIとシンボル画像SIとを表示させるための信号を生成してもよい。
上述の実施形態において、フロント車体21に第1カメラ111及び第2カメラ112が設けられることとした。フロント車体21に設けられるカメラは、3つ以上の任意の複数でもよい。
上述の実施形態において、カメラ(111,112,113,114,115)やレーダ(121,122,123,124,125)の設置位置は、上述の実施形態で説明した設置位置に限定されず、任意の設置位置でよい。
上述の実施形態において、撮像範囲M1と撮像範囲M2とは、重複しなくてもよい。撮像範囲M3と撮像範囲M5とは、重複しなくてもよい。撮像範囲M4と撮像範囲M5とは、重複しなくてもよい。
上述の実施形態において、リヤ車体22に第3カメラ113、第4カメラ114、及び第5カメラ115が設けられることとした。フロント車体21に設けられるカメラは、2つでもよいし、4つ以上の任意の複数でもよい。
上述の実施形態において、カメラシステム11は、視野角の広い1つのカメラにより構成されてもよい。
上述の実施形態において、第1表示画像IM1が俯瞰画像であり、第2表示画像IM2がパノラマ画像でもよい。第1表示画像IM1及び第2表示画像IM2の両方がパノラマ画像でもよい。第1表示画像IM1及び第2表示画像IM2の両方が俯瞰画像でもよい。
上述の実施形態において、第1表示画像IM1及び第2表示画像IM2の一方又は両方が単カメラ画像でもよい。
上述の実施形態において、作業機械1は、アーティキュレート機構を有するアーティキュレートダンプトラックでもよい。また、作業機械1は、アーティキュレート機構及び作業機を有するホイールローダでもよい。また、作業機械1は、アーティキュレート機構を有しない油圧ショベル又はブルドーザでもよいし、リジットダンプトラックでもよい。
1…モータグレーダ(作業機械)、2…車体、3…キャブ、4…作業機、5…車輪、6…作業機操作装置、7…走行操作装置、8…作業機制御装置、9…走行制御装置、10…周辺監視システム、11…カメラシステム、12…レーダシステム、13…周辺監視モニタ、14…モニタ制御装置、21…フロント車体、22…リヤ車体、23…アーティキュレート機構、24…アーティキュレートシリンダ、25…外装カバー、26…エンジン、31…シート、40…ドローバ、41…旋回サークル、42…ブレード、44…リフトシリンダ、45…リフトシリンダ、51…前輪、52…後輪、111…第1カメラ、112…第2カメラ、113…第3カメラ、114…第4カメラ、115…第5カメラ、121…第1レーダ、122…第2レーダ、123…第3レーダ、124…第4レーダ、125…第5レーダ、131…表示部、133…表示画面、141…カメラ画像取得部、142…第1表示画像生成部、143…第2表示画像生成部、144…境界画像生成部、145…シンボル画像生成部、146…検出データ取得部、147…表示制御部、BI…境界画像、CI…合成画像、D1…検出範囲、D2…検出範囲、D3…検出範囲、D4…検出範囲、D5…検出範囲、FI1…フレーム画像、FI2…フレーム画像、GD1…目安線、GD2…目安線、IM1…第1表示画像(パノラマ画像)、IM2…第2表示画像(俯瞰画像)、IS…単カメラ画像、M1…撮像範囲、M2…撮像範囲、M3…撮像範囲、M4…撮像範囲、M5…撮像範囲、NR1…非撮像範囲、NR2…非検出範囲、SI…シンボル画像。
Claims (20)
- 作業機械の周辺を撮像するカメラのカメラ画像に基づいて、前記作業機械の周辺を示す第1表示画像を生成する第1表示画像生成部と、
前記作業機械の周辺を撮像する複数のカメラのカメラ画像に基づいて、前記第1表示画像と異なる表示形態の第2表示画像を生成する第2表示画像生成部と、
表示画面の一部に前記第1表示画像を表示させ、前記表示画面の一部に前記第2表示画像を表示させ、前記表示画面において前記第1表示画像と前記第2表示画像との境界に境界画像を表示させるための信号を生成する表示制御部と、を備える、
作業機械の周辺監視システム。 - 前記第1表示画像と異なる表示形態は、前記第1表示画像と異なる視点から見た画像である、
請求項1に記載の作業機械の周辺監視システム。 - 前記第1表示画像は、パノラマ画像であり、
前記第2表示画像は、俯瞰画像である、
請求項1又は請求項2に記載の作業機械の周辺監視システム。 - 前記表示制御部は、前記表示画面に前記作業機械を示すシンボル画像を表示させ、前記シンボル画像の周囲に、前記第1表示画像、前記第2表示画像、及び前記境界画像を表示させるための信号を生成する、
請求項1から請求項3のいずれか一項に記載の作業機械の周辺監視システム。 - 前記第1表示画像は、前記作業機械の周辺の前部分を含み、
前記第2表示画像は、前記作業機械の周辺の後部分を含み、
前記境界画像は、前記シンボル画像の側部に表示される、
請求項4に記載の作業機械の周辺監視システム。 - 前記カメラは、前記第1表示画像を生成するための第1カメラ画像を取得する第1カメラ及び第2カメラ画像を取得する第2カメラと、前記第2表示画像を生成するための第3カメラ画像を取得する第3カメラ及び第4カメラ画像を取得する第4カメラと、を含み、
前記作業機械は、フロント車体と、リヤ車体と、フロント車体とリヤ車体とを連結するアーティキュレート機構と、を有し、
前記第1カメラ及び前記第2カメラは、前記フロント車体に設けられ、
前記第3カメラ及び前記第4カメラは、前記リヤ車体に設けられる、
請求項4又は請求項5に記載の作業機械の周辺監視システム。 - 前記第1表示画像は、前記フロント車体の周辺を含み、
前記第2表示画像は、前記リヤ車体の周辺を含み、
前記境界画像は、前記シンボル画像の前記アーティキュレート機構の側部に表示される、
請求項6に記載の作業機械の周辺監視システム。 - 前記第1表示画像は、前記第1カメラの位置及び前記第2カメラの位置とは異なる第1視点から見た第1視点画像であり、
前記第2表示画像は、前記第3カメラの位置及び前記第4カメラの位置とは異なる第2視点から見た第2視点画像である、
請求項6又は請求項7に記載の作業機械の周辺監視システム。 - 前記境界画像は、前記表示画面において前記第1表示画像及び前記第2表示画像が表示されない非表示領域を覆うように生成される、
請求項1から請求項8のいずれか一項に記載の作業機械の周辺監視システム。 - 作業現場において作業を実施するための作業機と、
前記作業機を支持する車体と、
前記車体の周辺を撮像する複数のカメラと、
前記カメラで撮像された画像を表示するモニタと、
複数の前記カメラのカメラ画像に基づいて、前記車体の周辺を示す第1表示画像と、前記第1表示画像と異なる表示形態の第2表示画像を生成する第2表示画像と、を生成し、前記モニタの一部に前記第1表示画像を表示させ、前記モニタの一部に前記第2表示画像を表示させ、前記モニタにおいて前記第1表示画像と前記第2表示画像との境界に境界画像を表示させるプロセッサと、を備える、
作業機械。 - 前記車体を支持する前輪及び後輪を備え、
前記車体は、フロント車体と、リヤ車体と、を含み、
前記作業機は、前記前輪と前記後輪との間に配置されるブレードを有し、
前記前輪は、前記ブレードよりも前方に配置され、前記後輪は、前記ブレードよりも後方に配置される、
請求項10に記載の作業機械。 - 前記カメラは、前記フロント車体に設けられ前記フロント車体の前方を撮像する第1カメラ及び第2カメラと、前記リヤ車体に設けられ前記リヤ車体の後方を撮像する第3カメラ及び第4カメラと、を含み、
前記プロセッサは、前記第1カメラ及び前記第2カメラが撮像したカメラ画像に基づいて、前記第1表示画像を生成し、前記第3カメラ及び前記第4カメラが撮像したカメラ画像に基づいて、前記第2表示画像を生成する、
請求項11に記載の作業機械。 - 作業機械の周辺を撮像するカメラのカメラ画像に基づいて、前記作業機械の周辺を示す第1表示画像を生成することと、
前記作業機械の周辺を撮像する複数のカメラのカメラ画像に基づいて、前記第1表示画像と異なる表示形態の第2表示画像を生成することと、
表示画面の一部に前記第1表示画像を表示させ、前記表示画面の一部に前記第2表示画像を表示させ、前記表示画面において前記第1表示画像と前記第2表示画像との境界に境界画像を表示させるための信号を生成することと、を含む、
作業機械の周辺監視方法。 - 前記第1表示画像と異なる表示形態は、前記第1表示画像と異なる視点から見た画像である、
請求項13に記載の作業機械の周辺監視方法。 - 前記第1表示画像は、パノラマ画像であり、
前記第2表示画像は、俯瞰画像である、
請求項13又は請求項14に記載の作業機械の周辺監視方法。 - 前記表示画面に前記作業機械を示すシンボル画像を表示させ、前記シンボル画像の周囲に、前記第1表示画像、前記第2表示画像、及び前記境界画像を表示させるための信号を生成する、
請求項13から請求項15のいずれか一項に記載の作業機械の周辺監視方法。 - 前記第1表示画像は、前記作業機械の周辺の前部分を含み、
前記第2表示画像は、前記作業機械の周辺の後部分を含み、
前記境界画像は、前記シンボル画像の側部に表示される、
請求項16に記載の作業機械の周辺監視方法。 - 前記カメラは、前記第1表示画像を生成するための第1カメラ画像を取得する第1カメラ及び第2カメラ画像を取得する第2カメラと、前記第2表示画像を生成するための第3カメラ画像を取得する第3カメラ及び第4カメラ画像を取得する第4カメラと、を含み、
前記作業機械は、フロント車体と、リヤ車体と、フロント車体とリヤ車体とを連結するアーティキュレート機構と、を有し、
前記第1カメラ及び前記第2カメラは、前記フロント車体に設けられ、
前記第3カメラ及び前記第4カメラは、前記リヤ車体に設けられる、
請求項16又は請求項17に記載の作業機械の周辺監視方法。 - 前記第1表示画像は、前記フロント車体の周辺を含み、
前記第2表示画像は、前記リヤ車体の周辺を含み、
前記境界画像は、前記シンボル画像の前記アーティキュレート機構の側部に表示される、
請求項18に記載の作業機械の周辺監視方法。 - 前記境界画像は、前記表示画面において前記第1表示画像及び前記第2表示画像が表示されない非表示領域を覆うように生成される、
請求項13から請求項19のいずれか一項に記載の作業機械の周辺監視方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021025413A JP2022127328A (ja) | 2021-02-19 | 2021-02-19 | 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 |
PCT/JP2022/003562 WO2022176586A1 (ja) | 2021-02-19 | 2022-01-31 | 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 |
CN202280008872.5A CN116723963A (zh) | 2021-02-19 | 2022-01-31 | 作业机械的周边监控系统、作业机械、以及作业机械的周边监控方法 |
US18/269,578 US20240052602A1 (en) | 2021-02-19 | 2022-01-31 | Work machine surroundings monitoring system, work machine, and work machine surroundings monitoring method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021025413A JP2022127328A (ja) | 2021-02-19 | 2021-02-19 | 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022127328A true JP2022127328A (ja) | 2022-08-31 |
Family
ID=82931990
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021025413A Pending JP2022127328A (ja) | 2021-02-19 | 2021-02-19 | 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20240052602A1 (ja) |
JP (1) | JP2022127328A (ja) |
CN (1) | CN116723963A (ja) |
WO (1) | WO2022176586A1 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2024051730A (ja) * | 2022-09-30 | 2024-04-11 | 株式会社小松製作所 | 作業車両の周辺画像を表示するためのシステム、方法、及び作業車両 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6754594B2 (ja) * | 2016-03-23 | 2020-09-16 | 株式会社小松製作所 | モータグレーダ |
EP3226553B1 (en) * | 2017-02-09 | 2018-12-12 | Komatsu Ltd. | Work vehicle periphery monitoring system, work vehicle, and work vehicle periphery monitoring method |
-
2021
- 2021-02-19 JP JP2021025413A patent/JP2022127328A/ja active Pending
-
2022
- 2022-01-31 WO PCT/JP2022/003562 patent/WO2022176586A1/ja active Application Filing
- 2022-01-31 CN CN202280008872.5A patent/CN116723963A/zh active Pending
- 2022-01-31 US US18/269,578 patent/US20240052602A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
US20240052602A1 (en) | 2024-02-15 |
WO2022176586A1 (ja) | 2022-08-25 |
CN116723963A (zh) | 2023-09-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6427597B2 (ja) | 作業機械の周辺監視装置及び作業機械の周辺監視方法 | |
JP5779244B2 (ja) | 作業機械の周囲監視装置 | |
JP6251453B1 (ja) | 作業車両の周辺監視システム、作業車両、及び作業車両の周辺監視方法 | |
CN109691088B (zh) | 图像处理设备、图像处理方法、以及程序 | |
US9113047B2 (en) | Peripheral monitoring device for working machine | |
US20140111648A1 (en) | Device For Monitoring Area Around Working Machine | |
JP4248570B2 (ja) | 画像処理装置並びに視界支援装置及び方法 | |
JP6071786B2 (ja) | 作業機械の周囲監視装置 | |
JP4315968B2 (ja) | 画像処理装置並びに視界支援装置及び方法 | |
JP2013253402A (ja) | 作業機械の周囲監視装置 | |
WO2017122294A1 (ja) | 周囲監視装置、画像処理方法、及び画像処理プログラム | |
WO2014045456A1 (ja) | 作業車両用周辺監視システム及び作業車両 | |
JP6243806B2 (ja) | 作業車両の周囲監視装置および周囲監視装置用プログラム | |
US20160301864A1 (en) | Imaging processing system for generating a surround-view image | |
US20160301863A1 (en) | Image processing system for generating a surround-view image | |
JP5926315B2 (ja) | 作業車両用周辺監視システム及び作業車両 | |
WO2022176586A1 (ja) | 作業機械の周辺監視システム、作業機械、及び作業機械の周辺監視方法 | |
WO2019034916A1 (en) | SYSTEM AND METHOD FOR PRESENTING AND CONTROLLING VIRTUAL CAMERA IMAGE FOR A VEHICLE | |
JP7076501B2 (ja) | 作業車 | |
US20180061007A1 (en) | Construction machinery | |
WO2024071405A1 (ja) | 作業車両の周辺画像を表示するためのシステム、方法、及び作業車両 | |
WO2023136070A1 (ja) | 遠隔操作支援システムおよび遠隔操作支援方法 | |
AU2020212836B2 (en) | System and method for work machine | |
JP5091882B2 (ja) | 画像処理装置並びに視界支援装置及び方法 | |
JP6188858B2 (ja) | 作業機械の周囲監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231227 |