CN103890282A - 作业机械的周围监视装置 - Google Patents

作业机械的周围监视装置 Download PDF

Info

Publication number
CN103890282A
CN103890282A CN201280051173.5A CN201280051173A CN103890282A CN 103890282 A CN103890282 A CN 103890282A CN 201280051173 A CN201280051173 A CN 201280051173A CN 103890282 A CN103890282 A CN 103890282A
Authority
CN
China
Prior art keywords
image
vehicle body
eye view
video camera
work machine
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201280051173.5A
Other languages
English (en)
Inventor
石本英史
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Publication of CN103890282A publication Critical patent/CN103890282A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/002Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/02Travelling-gear, e.g. associated with slewing gears
    • E02F9/028Travelling-gear, e.g. associated with slewing gears with arrangements for levelling the machine
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/08Superstructures; Supports for superstructures
    • E02F9/085Ground-engaging fitting for supporting the machines while working, e.g. outriggers, legs
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/264Sensors and their calibration for indicating the position of the work tool
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mining & Mineral Resources (AREA)
  • Structural Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Civil Engineering (AREA)
  • Mechanical Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Component Parts Of Construction Machinery (AREA)

Abstract

一种车身高度会发生变化的作业机械所具有的周围监视装置200,具有:拍摄其周围的多个摄像机30;对各摄像机30所拍摄到的原图像31进行上方视点转换而生成上方视点图像35的机构;对所生成的各上方视点图像35进行合成而生成俯瞰图像300的机构;显示所生成的俯瞰图像300的机构;和检测所述摄像机位置的机构,所述俯瞰图像生成机构基于所检测出的各摄像机的高度来调整各上方视点图像35的显示区域e而进行合成。由此,即使车身高度大幅变化也能够始终生成并显示准确的俯瞰图像300。

Description

作业机械的周围监视装置
技术领域
本发明涉及用于通过安装在液压挖掘机或翻斗卡车等作业机械上的多个摄像机来生成以该作业机械为中心的俯瞰图像而监视其周围状况的装置。
背景技术
作为工程/作业机械之一的液压挖掘机,一般在上部旋转体的前方左侧设置驾驶席,所以该上部旋转体的右方向和后方的视觉辨认性较差。因此,例如在以下的专利文献1等中,在上部旋转体的右侧面和后部分别设置摄像机,并将这些摄像机所拍摄到的上部旋转体的右方向和后方的图像显示在驾驶席的显示器上,由此确保了它们的视觉辨认性。
另外,在该专利文献1等中,公开有如下周围监视装置:对设置在车身上的多个摄像机所拍摄到的车身周围的图像进行上方视点转换处理,将这些图像进行合成而生成在以与上述作业机械对应的图像为中心的周围合成并将视点转换为车身上方的俯瞰图像,通过在驾驶席的显示器上显示该俯瞰图像,能够在感觉方面掌握车身与其周围障碍物等的距离。
现有技术文献
专利文献
专利文献1:日本特开2008-95307号公报
发明内容
然而,液压挖掘机等作业机械存在根据其作业状况或行驶部分的变更而会使车身高度大幅变化的情况。例如,在具有用于稳定车身的外伸叉架(outrigger)的情况下,当使外伸叉架工作时,一般车身整体增高数cm至十几cm。另外,在改变挖掘机行驶部分或改变轮胎尺寸的情况下也是同样的。另外,在翻斗卡车等作业机械的情况下,根据装载物的重量,车身高度也会大幅变化。
若在像这样车身高度经常大幅变化的作业机械中适用专利文献1那样的周围监视装置,则导致对车身周围进行拍摄的摄像机的位置(高度)也发生变化,无法显示准确的俯瞰图像。
因此,本发明是为了解决这些技术课题而研究出的,其目的在于提供一种新型的作业机械的周围监视装置,即使车身高度大幅变化也能够始终生成并显示准确的俯瞰图像。
为了解决上述技术课题,第1方案为一种作业机械的周围监视装置,装备在车身高度会发生变化的作业机械中,其特征在于,具有:多个摄像机,其安装在上述作业机械的车身上并拍摄其周围;上方视点图像生成机构,其对该摄像机所拍摄到的原图像进行上方视点转换而生成上方视点图像;俯瞰图像生成机构,其对该上方视点图像生成机构所生成的各上方视点图像进行合成而生成包括与上述作业机械对应的图像的、周围的俯瞰图像;显示机构,其显示该俯瞰图像生成机构所生成的俯瞰图像;和摄像机位置检测机构,其检测设置在上述车身上的多个摄像机位置,上述俯瞰图像生成机构基于上述摄像机位置检测机构所检测出的上述各摄像机的高度而对上述上方视点图像生成机构所生成的各上方视点图像的显示区域进行合成。
根据这样的结构,在对多个摄像机所拍摄到的各图像进行上方视点转换处理之后进行合成来生成包括与作业机械对应的图像的周围的俯瞰图像时,基于各摄像机的高度对各上方视点图像的显示区域进行合成。由此,即使车身高度大幅变化也能够始终生成并显示准确的俯瞰图像。此外,在本发明所说的摄像机的“高度”是指,例如以地表面为基准面,该地表面与摄像机之间的垂直距离。
第2方案为一种作业机械的周围监视装置,在第1方案中,具有对上述车身所处的地面与上述摄像机之间的垂直距离进行计测的测距仪,上述摄像机位置检测机构基于上述测距仪所计测的上述地面与摄像机之间的垂直距离来检测上述摄像机位置。
根据这样的结构,由于能够计测车身所处的地面与摄像机之间的垂直距离,所以能够容易且准确地计算出设在车身上的摄像机的位置。
第3方案为一种作业机械的周围监视装置,在第1方案中,具有输入车身信息的输入部,上述摄像机位置检测机构基于从上述输入部输入的车身信息来检测上述摄像机位置。
根据这样的结构,能够基于轮胎尺寸等车身信息来求出车身高度,因此能够容易且准确地计算出设在该车身上的摄像机的位置。
第4方案为一种作业机械的周围监视装置,在第1方案中,具有对装载于上述车身的装载物的重量进行计测的重量仪,上述摄像机位置检测机构基于上述重量仪所计测的装载物的重量来检测上述摄像机位置。
根据这样的结构,由于能够通过利用重量仪计测装载物的重量来求出车身的下降情况,所以能够容易计算出设在车身上的摄像机的位置。
发明效果
根据本发明,在对多个摄像机所拍摄到的各图像进行上方视点转换处理之后进行合成来生成包括与作业机械对应的图像的周围的俯瞰图像时,基于各摄像机的高度来调整各上方视点图像的显示区域而进行合成,因此,即使车身高度大幅变化也能够始终生成并显示准确的俯瞰图像。
附图说明
图1是表示作为本发明的作业机械之一的液压挖掘机100的一个实施方式的整体立体图。
图2是表示本发明的周围监视装置200的一个实施方式的结构图。
图3是表示搭载在车身上的各摄像机30的拍摄区域的例子的概念图。
图4是表示根据拍摄到的图像生成上方视点图像35而进行合成的例子的概念图。
图5是表示对拍摄到的原图像31进行透镜失真修正之后进行视点转换的图像处理流程的概念图。
图6是表示摄像机位置在规定位置的情况下生成的俯瞰图像300的例子的概念图。
图7(a)是表示在摄像机位置比规定位置高的情况下生成的俯瞰图像300的例子的概念图,图7(b)是表示在摄像机位置比规定位置低的情况下生成的俯瞰图像300的例子的概念图。
图8是表示基于本发明的周围监视装置200进行的处理的流程的流程图。
图9是表示在作业机械为液压挖掘机100的情况下摄像机位置发生变化的例子的说明图。
图10是表示在作业机械为具有外伸叉架40的液压挖掘机100的情况下摄像机位置发生变化的例子的说明图。
图11是表示在作业机械为翻斗卡车400的情况下摄像机位置发生变化的例子的说明图。
图12是表示作业机械为具有四脚履带的液压挖掘机100的情况下摄像机位置发生变化的例子的说明图。
具体实施方式
接下来,参照附图说明本发明的实施方式。图1是表示作为本发明的作业机械之一的液压挖掘机100的一个实施方式的整体立体图。如图所示,该液压挖掘机100主要由下部行驶体10和旋转自如地设在该下部行驶体10上的上部旋转体20构成。下部行驶体10在未图示的行驶体架上具有相互平行地设置的一对履带11(11)。在这些各履带11(11)上分别设有用于驱动各个履带而使其行驶的液压驱动式的行驶马达12。
另一方面,上部旋转体20主要由以下部分构成:设置在未图示的旋转体架上的发动机和蓄电池;收容有燃料箱等各种设备类的发动机室21;设在该发动机室21的前方左侧的驾驶室22;从该驾驶室22的右侧向前方延伸的前作业机23;和为了谋求与该前作业机23的重量平衡而设在发动机室21后方的配重24。
驾驶室22在供操作员搭乘的舱室22a内除设置有操作前作业机23的操作杆和仪表类等以外,还设置有后述的周围监视显示器。前作业机23主要由以下部分构成:从旋转体架侧向前方延伸的动臂23a;摆动自如地设在该动臂23a的前端的斗杆23b;和摆动自如地设在该斗杆23b的前端的铲斗23c。这些动臂23a、斗杆23b、铲斗23c通过分别利用液压伸缩的动臂液压缸23d、斗杆液压缸23e、铲斗液压缸23f而分别动作。
另外,在该发动机室21的两侧、驾驶室22的上部、和配重24的上部,设置有用于连续地拍摄各个方向的四个摄像机30a、30b、30c、30d。摄像机30a以180°的视场角在倾斜俯视的方向上连续地拍摄上部旋转体20的右侧区域。摄像机30b以180°的视场角在倾斜俯视的方向上连续地拍摄上部旋转体20的左侧区域。摄像机30c以180°的视场角在倾斜俯视的方向上连续地拍摄上部旋转体20的前方区域。摄像机30d以180°的视场角在倾斜俯视的方向上连续地拍摄上部旋转体20的后方区域。
这些各摄像机30a、30b、30c、30d所拍摄到的各图像(原图像)如图2所示地分别输入到本发明的周围监视装置200的显示控制器210中。此外,该摄像机30a、30b、30c、30d由例如具有在耐久性和耐气候性等优异的CCD或CMOS等摄像元件和广角透镜的广角摄像机等构成。另外,在以下说明中,将设置(搭载)有这些各摄像机30a、30b、30c、30d的上部旋转体20的各部分总称为车身20。
图2是表示搭载在该液压挖掘机100上的周围监视装置200的一个实施方式的结构图。如图所示,该周围监视装置200主要由显示控制器210和周围监视显示器220构成。显示控制器210具有摄像机位置检测部211、上方视点图像生成部212和俯瞰图像生成部213。该显示控制器210由具有未图示的CPU和RAM、ROM、输入输出接口等图像处理LSI(硬件)构成。该显示控制器210的CPU通过预先存储于ROM等中的各种数据和专用的图像处理程序等来执行上述各部分211至213的功能。
摄像机位置检测部211检测如上所述地搭载在车身20上的各摄像机30a、30b、30c、30d的高度、即车身20所处的地面与搭载在该车身20上的各摄像机30a、30b、30c、30d的垂直距离,并将检测出的各摄像机30a、30b、30c、30d的高度输出到俯瞰图像生成部213。具体而言,摄像机位置检测部211基于从图2所示那样的激光测距仪214输入的计测值来检测各摄像机30a、30b、30c、30d的高度。为了进行准确的计测,期望激光测距仪214设在各摄像机30a、30b、30c、30d的每个附近。但是,在由于设置位置而导致难以进行计测的情况下,也可以设置在容易进行计测的车身20的下表面等,并基于该计测值和激光测距仪214至各摄像机30a、30b、30c、30d的距离(位置关系)而计算出各摄像机30a、30b、30c、30d的高度。
上方视点图像生成部212根据上述各摄像机30a、30b、30c、30d所拍摄到的多幅(四幅)原图像以例如30帧/秒的单位生成上方视点图像,并将生成的上方视点图像(动态图像)输出到俯瞰图像生成部213。具体而言,当从各摄像机30a、30b、30c、30d分别输入原图像的NTSC等合成信号后,该上方视点图像生成部212对这些各合成信号进行A/D转换,在解码成RGB信号之后分别存储到专用的帧存储器中。然后,在进行透镜失真修正处理之后通过基于投影变换矩阵的平面投影转换处理或三维空间下的投影处理等公知的图像转换处理而将各原图像转换处理为将视点移动到其上方的上方视点图像。
图3及图5是关于该上方视点图像生成部212的上方视点图像的转换处理的说明图。首先,图3所示的车身20周围的各矩形区域E1、E2、E3、E4分别表示通过该车身20的各摄像机30a、30b、30c、30d而能够拍摄到的区域,各矩形区域E1、E2、E3、E4分别在其两端部分被相邻区域重复拍摄。
图5(a)是通过这些各摄像机30a、30b、30c、30d拍摄到的各矩形区域E1、E2、E3、E4的原图像31。该原图像31由于用广角透镜拍摄,所以通常如方格线32所示那样以中央部放大而周边部缩小的方式失真。图5(b)是基于上方视点图像生成部212进行透镜失真修正处理后的修正图像33。修正处理后的图像33如地面(路面)上的横纵的虚拟坐标线34所示那样,修正成基于各摄像机30a、30b、30c、30d的视点的按照透视法的形状。此外,该透镜失真修正处理通过例如使用了专用的像素转换表的像素坐标转换处理而进行,其中该专用的像素转换表预先保存于存储器中,且记载有构成转换前图像的各像素的地址与转换后各像素的地址之间的对应关系。
图5(c)示出了在图5(b)中进行了透镜失真修正处理的地面(路面)图像33的视点转换处理后的上方视点图像35。在该视点转换处理后的上方视点图像35中,视点从车身侧部转换到车身上方,图5(b)的虚拟坐标线34转换成虚拟正交坐标线36。此外,该视点转换处理也通过使用了预先保存于存储器中的专用的像素转换表的像素坐标转换而进行。
俯瞰图像生成部213从上方视点图像35提取出实际显示的图像,进行合成而生成以与作业机械对应的图像为中心的周围的俯瞰图像(动态图像)。图5(c)中,虚线所包围的梯形区域e示出了为了消除各上方视点图像35的重复部分来得到容易观察的合成图像,而通过该俯瞰图像生成部213从各图像提取并进行显示的提取图像e的例子。而且,如图4所示,该俯瞰图像生成部213将这四个各上方视点转换图像35的各提取图像e1~e4接合在以与液压挖掘机100对应的图像G为中心的周围,而生成一个连续的车身周围整体的俯瞰图像300,并将其图像数据输出到帧存储器。
图6示出了该俯瞰图像生成部213所生成的俯瞰图像300的一例。在附图的中央部设有用于显示预先生成的与液压挖掘机100对应的车身图像G的矩形的显示区域S。以该显示区域S为中心在其前后左右分别形成独立的梯形的显示区域S1至S4,在这些各显示区域S1至S4中显示有从上述各上方视点图像35提取出的梯形的提取图像e1至e4。
在显示区域S1中,显示有如图4所示那样来自从摄像机30a所拍摄到的上部旋转体20的右侧方的拍摄图像得到的上方视点图像35R的提取图像e1。在显示区域S2中,显示有来自从摄像机30b所拍摄到的上部旋转体20的左侧方的拍摄图像得到的上方视点图像35L的提取图像e2。在显示区域S3中,显示有来自由摄像机30c所拍摄到的上部旋转体20的前方的拍摄图像构成的上方视点图像35F的提取图像e3。在显示区域S4中,显示有来自由摄像机30d所拍摄到的上部旋转体20的后方的拍摄图像构成的上方视点图像35B的提取图像e4。在图6的俯瞰图像300中,在液压挖掘机100的右斜后方映照有车辆P1,另外在左斜后方映照有杆(pole)P2。可知该车辆P1及杆P2分别位于距液压挖掘机100的后端数m的距离处。
周围监视显示器220输入并显示该俯瞰图像生成部213所生成的车身周围整体的俯瞰图像300。具体而言,将输入的俯瞰图像300的数据存储到输出用帧存储器中,在将该合成图像的数据(RGB信号)编码成合成信号后,进行D/A转换而显示到显示部221上。此外,在该周围监视显示器220上除显示部221以外还设有输入部222,操作员通过操作该输入部222,能够任意进行电源的通断、所显示的合成图像的放大、缩小、旋转、显示范围的变更、向通常的摄像机拍摄图像或双画面图像的切换等各种操作。
接下来,主要参照图8的流程图来说明这样构成的本发明的周围监视装置200的作用。首先,该周围监视装置200的显示控制器210在液压挖掘机100的发动机启动后与其连动,接通电源而进行初始的系统检测,若没有异常则转移到最初的步骤S100。在步骤S100中,如上述那样通过设置在车身20四周的四个摄像机30a、30b、30c、30d来拍摄车身周围而获取其图像,并转移到下一步骤S102。
在步骤S102中对拍摄到的四个原图像31进行上方视点转换处理而生成各自的上方视点图像35,将它们接合而生成如图6所示在中央具有车身图像G的俯瞰图像300,并转移到下一步骤S104。在步骤S104中,该显示控制器210的摄像机位置检测部211检测激光测距仪214所检测出的各摄像机30a、30b、30c、30d的高度(距地面的垂直距离),并转移到下一步骤S106。
在步骤S106中,判断所检测出的各摄像机30a、30b、30c、30d的高度是否为预先设定的高度、是否在以该高度为中心的规定范围内(以该范围为规定位置),在判断成是规定位置时(是)跳过直至步骤S110。在判断成不是规定位置时(否)转移到下一步骤S108。在步骤S108中,由于若各摄像机30a、30b、30c、30d的高度不位于规定位置,则在显示的图像中产生偏移,所以进行上方视点图像的调整。
图7(a)示出了摄像机位置比规定位置高的情况下的俯瞰图像300的例子,另外,图7(b)示出了摄像机位置比规定位置低的情况下的俯瞰图像300的例子。如图7(a)所示,在摄像机位置比规定位置高的情况下,摄像机的拍摄区域比规定位置扩大,因此,在各上方视点提取图像e的接线部分处使图像重复地显示。在图7(a)的例子中,在后方的提取图像e4与左侧的提取图像e2的接线处,原本只应显示一根杆P2,但在此显示有两根杆P2。另一方面,如图7(b)所示,在摄像机位置比规定位置低的情况下,摄像机的拍摄区域比规定位置缩小,因此,在各上方视点提取图像e的接线部分处图像缺少一部分而显示。在图7(b)的例子中,在后方的提取图像e4与左侧的提取图像e2的接线处,原本应显示的杆P2没有被显示,导致杆P2难以被发现。
因此,在步骤S106中,若判断成所检测出的各摄像机30a、30b、30c、30d的高度不为规定位置,则根据其高度如图5(c)所示那样改变虚线所包围的提取图像e的大小。即,在摄像机30的高度比规定位置低的情况下,选择比摄像机30的高度为规定位置的情况下的提取区域e-n大的提取区域e-w。相反地,在摄像机的高度比规定位置高的情况下,选择比提取区域e-n小的提取区域e-s。该提取区域的大小基于例如预先存储于存储器中的转换表等,根据摄像机30的高度而确定。
图9至图12示出了各种作业机械的高度变化的例子。图9(a)示出了履带式液压挖掘机100的下部行驶体10的履带11为通常尺寸的情况,图9(b)示出了该履带11与通常相比为小型尺寸的情况。该情况下,图9(b)的摄像机30d的高度h2比图9(a)摄像机30d的高度h1低,因此,在图5(c)中选择比摄像机30d的高度为规定位置的情况下的提取区域e-n大的提取区域e-w。与之相对,在如图9(c)所示为轮式下部行驶体10的情况下,该摄像机30d的高度h3比图9(a)的摄像机30d的高度h1高,因此,在图5(c)中选择比摄像机30d的高度为规定位置的情况下的提取区域e-n小的提取区域e-s。
接下来,图10示出了具有外伸叉架40的轮式液压挖掘机100的情况,示出了作业时使外伸叉架40工作的情况(a)和不使其工作的情况(b)下的摄像机30d的位置(高度)。一般不使外伸叉架40工作的情况下的摄像机高度为h4,与之相对,使外伸叉架40工作的情况下的摄像机高度h5比h4高出数cm~十几cm。因此,在使外伸叉架40工作的情况下,选择比不使外伸叉架40工作的情况下的提取区域e-n小的提取区域e-s。
图11示出了翻斗卡车400的情况。该图(a)示出了没有装载装载物的状态,该图(b)示出了满载有装载物的状态。该图(a)的情况下的摄像机30d的高度为h6,与之相对,该图(b)的情况下的摄像机高度为h7,由于装载物的重量导致车身整体下降而摄像机30d的高度降低。因此,在装载有装载物的情况下,选择比没有装载装载物的情况下的提取区域e-n大的提取区域e-w。另外,该图(c)示出了将轮胎50更换成比该图(a)所示的小径轮胎大的大径轮胎的情况。该情况下,由于摄像机30d的高度比小径轮胎的情况(a)高,所以选择比小径轮胎的情况(a)下的提取区域e-n小的提取区域e-s。
图12示出了四脚履带式液压挖掘机100的情况。该四脚履带式液压挖掘机100作为下部行驶体10而具有四条独立的履带50,能够为了应对不良路面而自由改变各条履带50的高度。因此,在这样的四脚履带式液压挖掘机100的情况下,如该图(a)所示在将支承各履带70的支承腿80放平的状态下、和如该图(b)所示在将支承腿80立起的状态下,各个摄像机高度h9、h10也改变数十cm以上。因此,在该场合下也选择根据各自高度计算出的最佳提取区域e。
在像这样进行上方视点图像35的提取区域e的调整后,转移到下一步骤S110,将调整后的上方视点图像35的提取显示区域e进行组合(合成)而生成俯瞰图像300,并转移到下一步骤S112。在步骤S112中,将生成的俯瞰图像30显示到显示器221上并转移到最后的步骤S114。在步骤S114中,判断发动机是否停止,在判断成发动机已停止时(是),结束处理。在判断成发动机未停止时(否),返回到最初步骤并重复相同的处理。
像这样,本发明的周围监视装置200在对根据多个摄像机30a、30b、30c、30d所拍摄到的原图像31生成的上方视点图像35进行合成而生成俯瞰图像300时,基于各摄像机30a、30b、30c、30d的高度来调整各上方视点图像35的提取显示区域e而进行合成,因此,即使车身20的高度大幅变化而导致摄像机的高度发生变化,也能够始终生成并显示准确的俯瞰图像300。
此外,在本实施方式中,作为检测摄像机30的高度的机构,说明了使用激光测距仪241的情况,但也可以基于变化的下部行驶体10的种类和轮胎尺寸等车身信息或装载物的重量来进行检测。即,如图9(a)及(b)所示,在上部旋转体20共用且仅下部行驶体10不同的情况下,作为数据库而预先在存储器中保存该下部行驶体10的种类和其尺寸(高度)等,在初始设定时,仅通过输入该下部行驶体10的种类就能够求出准确的摄像机高度。另外,在如图10所示使外伸叉架40工作的情况下,也可以根据外伸叉架40的液压缸冲程来计算出摄像机高度。
另外,作为数据库而预先在存储器中保存如图11所示能够更换的轮胎的种类和尺寸(高度)等,在更换轮胎时仅通过输入该轮胎的制造商或种类等就能够求出准确的摄像机高度。此外,这些车身信息能够使用例如周围监视显示器220的输入部222进行输入。另外,如该图所示,也可以在支承车身的悬架60等上设置载荷计来检测其装载重量,并根据检测出的装载重量与车身的下降量之间的关系来检测摄像机高度。另外,若同时使用这些各种高度检测机构,则能够进一步高精度地检测摄像机高度。
而且,也可以为,操作员实际检测摄像机30的高度,并从周围监视显示器220的输入部222直接输入该值。另外,在本实施方式中,如图6及图7所示,示出了在俯瞰图像300的中央显示与液压挖掘机100对应的车身图像G,在该车身图像G的周围(前后左右)分别形成独立的梯形的显示区域S1至S4,并在这些各显示区域S1至S4中分别显示提取图像e1至e4的例子,但与该液压挖掘机100对应的车身图像G的位置不必限定于俯瞰图像300的中央。即,例如也可以使与该液压挖掘机100对应的车身图像G位于俯瞰图像300的前方而增大后方和左右侧面的显示区域S1、S2、S4,或者使车身图像G位于俯瞰图像300的左上方而特别增大难以观察的显示区域S1、S4侧。
附图标记说明
100…液压挖掘机(作业机械)
200…周围监视装置
210…显示控制器
211…摄像机位置检测部(摄像机位置检测机构)
212…上方视点图像生成部(上方视点图像生成机构)
213…俯瞰图像生成部(俯瞰图像生成机构)
214…测距仪
220…周围监视显示器(显示机构)
300…俯瞰图像
20…上部旋转体(车身)
30、30a、30b、30c、30d…摄像机(拍摄机构)
31…原图像
35…上部视点图像
e、e1~e4…提取区域

Claims (4)

1.一种作业机械的周围监视装置,装备在车身高度会发生变化的作业机械中,其特征在于,具有:
多个摄像机,其安装在所述作业机械的车身上并拍摄其周围;
上方视点图像生成机构,其对该摄像机所拍摄到的原图像进行上方视点转换而生成上方视点图像;
俯瞰图像生成机构,其对该上方视点图像生成机构所生成的各上方视点图像进行合成而生成包括与所述作业机械对应的图像的、周围的俯瞰图像;
显示机构,其显示该俯瞰图像生成机构所生成的俯瞰图像;和
摄像机位置检测机构,其检测设置在所述车身上的多个摄像机位置,
所述俯瞰图像生成机构基于所述摄像机位置检测机构所检测出的各所述摄像机的高度而对所述上方视点图像生成机构所生成的各上方视点图像的显示区域进行合成。
2.如权利要求1所述的作业机械的周围监视装置,其特征在于,
具有对所述车身所处的地面与所述摄像机之间的垂直距离进行计测的测距仪,
所述摄像机位置检测机构基于所述测距仪所计测的所述地面与摄像机之间的垂直距离来检测所述摄像机位置。
3.如权利要求1所述的作业机械的周围监视装置,其特征在于,
具有输入车身信息的输入部,
所述摄像机位置检测机构基于从所述输入部输入的车身信息来检测所述摄像机位置。
4.如权利要求1所述的作业机械的周围监视装置,其特征在于,
具有对装载于所述车身的装载物的重量进行计测的重量仪,
所述摄像机位置检测机构基于所述重量仪所计测的装载物的重量来检测所述摄像机位置。
CN201280051173.5A 2011-10-18 2012-10-01 作业机械的周围监视装置 Pending CN103890282A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011228893 2011-10-18
JP2011-228893 2011-10-18
PCT/JP2012/075424 WO2013058093A1 (ja) 2011-10-18 2012-10-01 作業機械の周囲監視装置

Publications (1)

Publication Number Publication Date
CN103890282A true CN103890282A (zh) 2014-06-25

Family

ID=48140745

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201280051173.5A Pending CN103890282A (zh) 2011-10-18 2012-10-01 作业机械的周围监视装置

Country Status (5)

Country Link
US (1) US20150009329A1 (zh)
JP (1) JPWO2013058093A1 (zh)
CN (1) CN103890282A (zh)
DE (1) DE112012004354T5 (zh)
WO (1) WO2013058093A1 (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105518228A (zh) * 2015-10-15 2016-04-20 株式会社小松制作所 位置计测系统以及位置计测方法
CN108699815A (zh) * 2016-02-09 2018-10-23 住友建机株式会社 挖土机
CN111061211A (zh) * 2019-12-24 2020-04-24 中联重科股份有限公司 用于工程机械的监控系统及其控制方法
CN111315938A (zh) * 2018-03-20 2020-06-19 住友建机株式会社 挖土机

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013099491A1 (ja) * 2011-12-26 2013-07-04 住友重機械工業株式会社 ショベルの画像表示装置
JP6324665B2 (ja) * 2013-05-16 2018-05-16 住友建機株式会社 作業機械用周辺監視装置
JP6071786B2 (ja) * 2013-07-17 2017-02-01 日立建機株式会社 作業機械の周囲監視装置
US10671089B2 (en) * 2013-07-30 2020-06-02 Komatsu Ltd. Management system and management method of mining machine
JP6182044B2 (ja) * 2013-10-10 2017-08-16 株式会社フジタ 建設機械に搭載される俯瞰画像表示装置におけるカメラのキャリブレーション方法及びその結果を用いた俯瞰画像表示装置
US20150330054A1 (en) * 2014-05-16 2015-11-19 Topcon Positioning Systems, Inc. Optical Sensing a Distance from a Range Sensing Apparatus and Method
JP6204884B2 (ja) * 2014-07-25 2017-09-27 日立建機株式会社 旋回式作業機の周囲表示装置
DE102015222485A1 (de) * 2014-11-13 2016-05-19 Hirschmann Automation And Control Gmbh Verfahren zur Hubhöhen- und/oder Schwenkwinkelbegrenzung eines Baggers
WO2016174754A1 (ja) 2015-04-28 2016-11-03 株式会社小松製作所 作業機械の周辺監視装置及び作業機械の周辺監視方法
JP2016225865A (ja) * 2015-06-01 2016-12-28 東芝アルパイン・オートモティブテクノロジー株式会社 俯瞰画像生成装置
DE102015010011B4 (de) 2015-08-05 2020-03-19 Wirtgen Gmbh Selbstfahrende Baumaschine und Verfahren zur Anzeige der Umgebung einer selbstfahrenden Baumaschine
DE102015010009A1 (de) * 2015-08-05 2017-02-09 Wirtgen Gmbh Selbstfahrende Baumaschine und Verfahren zur Anzeige der Umgebung einer selbstfahrenden Baumaschine
JP6583883B2 (ja) * 2015-08-21 2019-10-02 キャタピラー エス エー アール エル 作業機械
JP6616149B2 (ja) * 2015-10-05 2019-12-04 株式会社小松製作所 施工方法、作業機械の制御システム及び作業機械
DE102015221356B4 (de) 2015-10-30 2020-12-24 Conti Temic Microelectronic Gmbh Vorrichtung und Verfahren zur Bereitstellung einer Fahrzeugrundumansicht
DE102015221340B4 (de) * 2015-10-30 2021-02-25 Conti Temic Microelectronic Gmbh Vorrichtung und Verfahren zur Bereitstellung einer Fahrzeugumgebungsansicht für ein Fahrzeug
US10922559B2 (en) 2016-03-25 2021-02-16 Bendix Commercial Vehicle Systems Llc Automatic surround view homography matrix adjustment, and system and method for calibration thereof
JP6188858B2 (ja) * 2016-04-11 2017-08-30 日立建機株式会社 作業機械の周囲監視装置
US10434877B2 (en) * 2016-05-05 2019-10-08 Via Technologies, Inc. Driver-assistance method and a driver-assistance apparatus
JP2019528501A (ja) 2016-06-29 2019-10-10 シーイング マシーンズ リミテッド マルチカメラシステムにおけるカメラ位置合わせ
JP6730606B2 (ja) * 2016-11-25 2020-07-29 株式会社Jvcケンウッド 俯瞰映像生成装置、俯瞰映像生成システム、俯瞰映像生成方法およびプログラム
JP6803471B2 (ja) * 2017-07-14 2020-12-23 株式会社小松製作所 表示制御装置、表示制御方法、プログラムおよび表示システム
JP7044787B2 (ja) * 2017-08-09 2022-03-30 住友建機株式会社 ショベル、ショベルの表示装置及びショベルの表示方法
US11195351B2 (en) 2017-09-01 2021-12-07 Komatsu Ltd. Work machine measurement system, work machine, and measuring method for work machine
WO2019111859A1 (ja) * 2017-12-04 2019-06-13 住友重機械工業株式会社 周辺監視装置、情報処理端末、情報処理装置、情報処理プログラム
JP2019199716A (ja) * 2018-05-15 2019-11-21 清水建設株式会社 切羽観察装置、及び切羽観察方法
JP7188228B2 (ja) * 2019-03-27 2022-12-13 株式会社デンソーテン 画像生成装置
JP7255454B2 (ja) * 2019-11-07 2023-04-11 コベルコ建機株式会社 作業機械の周囲監視装置
DE102020206373A1 (de) 2020-05-20 2021-11-25 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Kollisionsvermeidung eines Arbeitswerkzeugs einer Arbeitsmaschine mit in einer Umgebung der Arbeitsmaschine befindlichen Hindernissen
US12077948B2 (en) 2022-03-04 2024-09-03 Deere &Company System and method for maintaining a view of an area of interest proximate a work vehicle
US11680387B1 (en) 2022-04-21 2023-06-20 Deere & Company Work vehicle having multi-purpose camera for selective monitoring of an area of interest
US20230339402A1 (en) * 2022-04-21 2023-10-26 Deere & Company Selectively utilizing multiple imaging devices to maintain a view of an area of interest proximate a work vehicle
WO2023218643A1 (ja) * 2022-05-13 2023-11-16 ファナック株式会社 映像生成装置、及びコンピュータが読み取り可能な記憶媒体

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001204007A (ja) * 2000-01-19 2001-07-27 Meidensha Corp 監視カメラの監視エリア設定装置及びその方法
US20070072154A1 (en) * 2005-09-28 2007-03-29 Nissan Motor Co., Ltd. Vehicle surroundings image providing system and method
JP2009253571A (ja) * 2008-04-04 2009-10-29 Clarion Co Ltd 車両用モニタ映像生成装置
US20100134593A1 (en) * 2008-11-28 2010-06-03 Aisin Seiki Kabushiki Kaisha Bird's-eye image generating apparatus
CN101844545A (zh) * 2009-03-25 2010-09-29 株式会社电装 车辆周边显示装置和用于车辆周边图像的方法
JP2011162993A (ja) * 2010-02-09 2011-08-25 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械のモニタ装置
CN102529830A (zh) * 2010-12-30 2012-07-04 华创车电技术中心股份有限公司 主动显示车辆周围环境的系统

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001268670A (ja) * 2000-03-17 2001-09-28 Komatsu Ltd 作業機械の操作装置
KR100892269B1 (ko) * 2001-06-15 2009-04-09 가부시키가이샤 고마쓰 세이사쿠쇼 건설기계
US6858809B2 (en) * 2002-12-03 2005-02-22 Caterpillar Inc. Dump truck with payload weight measuring system and method of using same
US6836982B1 (en) * 2003-08-14 2005-01-04 Caterpillar Inc Tactile feedback system for a remotely controlled work machine
JP2005163370A (ja) * 2003-12-02 2005-06-23 Hitachi Constr Mach Co Ltd 建設機械の画像表示装置
JP4332028B2 (ja) * 2003-12-25 2009-09-16 キャタピラージャパン株式会社 表示器制御システム
JP4776491B2 (ja) * 2006-10-06 2011-09-21 日立建機株式会社 作業機械の周囲監視装置
US7967371B2 (en) * 2007-03-20 2011-06-28 Caterpillar Inc. Machine having camera and mounting strategy therefor
JP2009100342A (ja) * 2007-10-18 2009-05-07 Sanyo Electric Co Ltd カメラ校正装置及び方法、並びに、車両
JP5089545B2 (ja) * 2008-09-17 2012-12-05 日立オートモティブシステムズ株式会社 道路境界検出判断装置
EP2391777B1 (en) * 2009-01-20 2016-10-26 Husqvarna AB Control system for a remote control work machine
KR101078341B1 (ko) * 2009-02-12 2011-11-01 볼보 컨스트럭션 이큅먼트 에이비 후방 감시수단이 구비된 건설장비
JP5068779B2 (ja) * 2009-02-27 2012-11-07 現代自動車株式会社 車両周囲俯瞰画像表示装置及び方法
JP5344227B2 (ja) * 2009-03-25 2013-11-20 アイシン精機株式会社 車両用周辺監視装置
US8272467B1 (en) * 2011-03-04 2012-09-25 Staab Michael A Remotely controlled backhoe
US20120287277A1 (en) * 2011-05-13 2012-11-15 Koehrsen Craig L Machine display system
JP5682788B2 (ja) * 2011-09-27 2015-03-11 アイシン精機株式会社 車両周辺監視装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001204007A (ja) * 2000-01-19 2001-07-27 Meidensha Corp 監視カメラの監視エリア設定装置及びその方法
US20070072154A1 (en) * 2005-09-28 2007-03-29 Nissan Motor Co., Ltd. Vehicle surroundings image providing system and method
JP2009253571A (ja) * 2008-04-04 2009-10-29 Clarion Co Ltd 車両用モニタ映像生成装置
US20100134593A1 (en) * 2008-11-28 2010-06-03 Aisin Seiki Kabushiki Kaisha Bird's-eye image generating apparatus
CN101844545A (zh) * 2009-03-25 2010-09-29 株式会社电装 车辆周边显示装置和用于车辆周边图像的方法
JP2011162993A (ja) * 2010-02-09 2011-08-25 Sumitomo (Shi) Construction Machinery Co Ltd 作業機械のモニタ装置
CN102529830A (zh) * 2010-12-30 2012-07-04 华创车电技术中心股份有限公司 主动显示车辆周围环境的系统

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105518228A (zh) * 2015-10-15 2016-04-20 株式会社小松制作所 位置计测系统以及位置计测方法
CN105518228B (zh) * 2015-10-15 2018-06-01 株式会社小松制作所 位置计测系统、工作机械以及位置计测方法
US10233615B2 (en) 2015-10-15 2019-03-19 Komatsu Ltd. Position measurement system and position measurement method
CN108699815A (zh) * 2016-02-09 2018-10-23 住友建机株式会社 挖土机
CN108699815B (zh) * 2016-02-09 2021-09-28 住友建机株式会社 挖土机
CN111315938A (zh) * 2018-03-20 2020-06-19 住友建机株式会社 挖土机
CN111061211A (zh) * 2019-12-24 2020-04-24 中联重科股份有限公司 用于工程机械的监控系统及其控制方法

Also Published As

Publication number Publication date
JPWO2013058093A1 (ja) 2015-04-02
WO2013058093A1 (ja) 2013-04-25
US20150009329A1 (en) 2015-01-08
DE112012004354T5 (de) 2014-07-10

Similar Documents

Publication Publication Date Title
CN103890282A (zh) 作业机械的周围监视装置
US11384515B2 (en) Image display system for work machine, remote operation system for work machine, and work machine
US10293752B2 (en) Display system for work vehicle, display control device, work vehicle, and display control method
JP6173358B2 (ja) 旋回式作業機械の周囲監視装置
CN104584540B (zh) 作业机械的周围监视装置
JP6029306B2 (ja) 作業機械用周辺監視装置
JP5908500B2 (ja) ショベルの画像表示装置
JP6832548B2 (ja) 作業機械の画像表示システム、作業機械の遠隔操作システム、作業機械及び作業機械の画像表示方法
JP2013253402A (ja) 作業機械の周囲監視装置
JP6386213B2 (ja) ショベル
WO2018168163A1 (ja) 表示システム、表示方法、及び遠隔操作システム
KR101752613B1 (ko) 작업 기계의 주변 감시 장치
US20220101552A1 (en) Image processing system, image processing method, learned model generation method, and data set for learning
JP2016089388A (ja) 作業支援画像生成装置、及びそれを備えた作業機械の遠隔操縦システム
JP6321977B2 (ja) 重機用周辺監視装置
JP2012112108A (ja) 作業機械の周囲監視装置
JP2018017115A (ja) ショベル
US10787127B2 (en) Display system for work vehicle
JP2014062795A (ja) 作業機械用周辺監視装置
JP5752631B2 (ja) 画像生成方法、画像生成装置、及び操作支援システム
JP2013204411A (ja) 作業機械用周辺監視装置
JP6091821B2 (ja) ショベル
US20160150189A1 (en) Image processing system and method
JP6689763B2 (ja) ショベル
US11939744B2 (en) Display system, remote operation system, and display method

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C02 Deemed withdrawal of patent application after publication (patent law 2001)
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20140625