JP2015210602A - 作業機械の周囲監視装置 - Google Patents

作業機械の周囲監視装置 Download PDF

Info

Publication number
JP2015210602A
JP2015210602A JP2014090679A JP2014090679A JP2015210602A JP 2015210602 A JP2015210602 A JP 2015210602A JP 2014090679 A JP2014090679 A JP 2014090679A JP 2014090679 A JP2014090679 A JP 2014090679A JP 2015210602 A JP2015210602 A JP 2015210602A
Authority
JP
Japan
Prior art keywords
image
shadow
work machine
feature pattern
contour
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2014090679A
Other languages
English (en)
Other versions
JP2015210602A5 (ja
JP6178280B2 (ja
Inventor
小沼 知恵子
Chieko Konuma
小沼  知恵子
竜 弓場
Tatsu Yumiba
竜 弓場
善文 福田
Yoshifumi Fukuda
善文 福田
川股 幸博
Yukihiro Kawamata
幸博 川股
古渡 陽一
Yoichi Kowatari
陽一 古渡
守飛 太田
Moritaka Ota
守飛 太田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Construction Machinery Co Ltd
Original Assignee
Hitachi Construction Machinery Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Construction Machinery Co Ltd filed Critical Hitachi Construction Machinery Co Ltd
Priority to JP2014090679A priority Critical patent/JP6178280B2/ja
Priority to US15/124,123 priority patent/US10160383B2/en
Priority to EP15782523.3A priority patent/EP3136341B1/en
Priority to CN201580011783.6A priority patent/CN106062823B/zh
Priority to PCT/JP2015/056432 priority patent/WO2015163015A1/ja
Publication of JP2015210602A publication Critical patent/JP2015210602A/ja
Publication of JP2015210602A5 publication Critical patent/JP2015210602A5/ja
Application granted granted Critical
Publication of JP6178280B2 publication Critical patent/JP6178280B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/002Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles specially adapted for covering the peripheral part of the vehicle, e.g. for viewing tyres, bumpers or the like
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/27Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view providing all-round vision, e.g. using omnidirectional cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/24Safety devices, e.g. for preventing overload
    • EFIXED CONSTRUCTIONS
    • E02HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
    • E02FDREDGING; SOIL-SHIFTING
    • E02F9/00Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
    • E02F9/26Indicating devices
    • E02F9/261Surveying the work-site to be treated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/165Anti-collision systems for passive traffic, e.g. including static obstacles, trees
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/60Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective
    • B60R2300/607Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by monitoring and displaying vehicle exterior scenes from a transformed perspective from a bird's eye viewpoint
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/8093Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for obstacle warning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mechanical Engineering (AREA)
  • Mining & Mineral Resources (AREA)
  • Civil Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Structural Engineering (AREA)
  • Signal Processing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

【課題】作業機械の周囲を撮影した画像内に複雑な形状の自車影が存在しても、当該自車影の存在が作業機械の周囲に存在する物体検知に影響を与えることを防止できる作業機械の周辺監視装置を提供すること。
【解決手段】作業機械の周囲の画像を撮影する単眼カメラ6と、当該画像の特徴量に基づいて当該画像中の特徴パターンを抽出する特徴パターン抽出部170と、当該画像中で作業機械の影とみなし得る領域の輪郭を当該画像の特徴量に基づいて抽出する影輪郭抽出部40と、特徴パターン抽出部で抽出された特徴パターンから、影輪郭抽出部で抽出された輪郭上に位置する影輪郭特徴パターンを除外した残りの特徴パターンに基づいて、作業機械の周囲に存在する障害物を検知する物体検知部180とを備える。
【選択図】図3

Description

本発明は、作業機械の周囲に存在する障害物を単眼カメラ画像を利用して監視する作業機械の周囲監視装置に関する。
本技術分野の背景技術として、特開2007−272292号公報(特許文献1)がある。この文献には、撮像装置で撮像された画像中の被撮像物のエッジに属するエッジ画素と、当該エッジ画素の近傍に存在する複数の画素との画素値の関係を示すパターンを算出し、前記画像中の影領域と非影領域との影境界に属する影境界画素と、当該影境界画素の近傍に存在する複数の画素との画素値の関係があらかじめ設定されている影境界パターンを参照し、当該影境界パターンと前記算出パターンとを照合し、当該影境界パターンと一致した前記算出パターンに属する前記エッジ画素を前記影境界に存在する画素と判定する影境界抽出方法が記載されている。
特開2007−272292号公報
本発明が適用対象とするダンプトラックおよび油圧ショベル等を含む作業機械の輪郭形状は、乗用車のそれと比較して複雑なため、地面に投影される作業機械の影(以下、自車影と称することがある)は自ずと複雑な形状となる。さらに、作業機械はオフロードを走行することが前提となるため、その自車影は、舗装路上に自車影が投影されることの多い乗用車の場合と比較してさらに複雑な形状となる。これに加えて、作業機械がオフロード走行すると、自車影の形状は地表の凹凸に応じてダイナミックに変化するため、自車影の形状は時間とともに変化することも指摘できる。
そこで、上記文献の技術のように地面に表れる複数の影の境界パターン(影境界パターン)を予め準備しておく方法を採ると、作業機械の輪郭や路面形状に合わせて無数の影境界パターンを用意しておき、これをメモリ等の記憶装置に記憶することになる。しかし、あらゆる路面形状に合わせた影境界パターンの作成は事実上不可能であり、仮に作成可能であったとしても、その膨大なデータ量が記憶可能なメモリ等の記憶装置を準備する必要があるため、イニシャルコストの観点からも現実的でない。さらに、無数の影境界パターンと算出パターンの照合には膨大な処理が必要なことが予測されるため、処理内容の観点からも現実的でない。
このように、上記文献の技術では、撮影画像中の作業機械の自車影の認識は困難である。自車影の正確な認識ができないと、例えば、自車影が作業機械の周囲に存在する物体(障害物)と誤認識され、本来は必要の無い警報が発せられて作業効率が低下するおそれがある。
また、作業機械の周囲監視装置の開発には次のような特殊事情も考慮することが必要となる。すなわち、作業機械は、一般的な乗用車と比較して巨大で車高も高いため、周囲監視用のカメラ(撮像装置)の設置位置が高くなる傾向がある。そして、当該作業機械の周囲を撮影しようとするとカメラは当該作業機械のほぼ真下を向く格好になるため(すなわち、当該カメラの俯角が大きくなるため)、もちろん太陽の位置にも依存するが、撮影画像中に自車影が大きく表れることが少なくない。そのため、周囲監視装置を機能させるためには自車影中の物体検知が必須となる。また、自車影の輪郭上に黒い物体が存在する場合には、当該物体が自車影の一部とみなされて、当該物体の検知が遅れるおそれがある。この種の作業機械特有の自車影の問題は、鉱山で利用される巨大なダンプトラック(鉱山ダンプ)等、サイズの大きい作業機械ほど顕著に表れる。
本発明の目的は、作業機械の周囲を撮影した画像内に複雑な形状の自車影が存在しても、当該自車影の存在が作業機械の周囲に存在する物体検知に影響を与えることを防止できる作業機械の周辺監視装置を提供することにある。
上記目的を達成するために、本発明は、作業機械に搭載され当該作業機械の周囲の画像を撮影する単眼カメラと、当該画像の特徴量に基づいて当該画像中の特徴パターンを抽出する特徴パターン抽出部と、前記画像中で前記作業機械の影とみなし得る領域の輪郭を当該画像の特徴量に基づいて抽出する影輪郭抽出部と、前記特徴パターン抽出部で抽出された前記特徴パターンから、前記影輪郭抽出部で抽出された輪郭上に位置する特徴パターンを除外した残りの特徴パターンに基づいて、前記作業機械の周囲に存在する障害物を検知する物体検知部とを備えるものとする。
本発明によれば、作業機械の周囲を撮影した画像内に時間変化する複雑な形状の自車影が存在しても、当該自車影の輪郭とみなされた部分が障害物検知対象から適切に除外されるので、自車影の誤認識の防止と障害物検知精度の向上が可能となる。
本実施の形態に係るダンプトラックの上面図 図1に示したダンプトラック1の側面図。 画像処理装置の全体構成図。 画像合成部で実行される処理手順の一例。 4台のカメラの入力画像を画像合成部で合成した画像の一例。 基準処理対象領域設定部による領域特定を行う前に予め行っておく処理対象領域の設定手順。 影輪郭抽出部40の機能ブロック図。 影有無判定部42及び影領域抽出部43で実行される処理のフローチャート。 図8中のステップ42bの輝度分布図。 アウトライン画像作成部により作成される自車影のアウトラインを示す図。 図3から特徴パターン抽出部及び影輪郭特徴パターン抽出部の周辺を抽出した図。 コーナー点抽出部及び特徴パターン抽出部による処理の説明図。 コーナー点抽出部及び特徴パターン抽出部による処理の説明図。 影輪郭特徴パターン抽出部で実行される処理のフローチャート。 図14のステップ53fで抽出される特徴パターンの一例を示す図。 図14のステップ53fで抽出される特徴パターンの他の一例を示す図。 図14のステップ53fで抽出される特徴パターンのさらに他の一例を示す図。 影輪郭特徴パターンマスク部60で実行される処理のフローチャート。 図15のコーナー点51a及びコーナー点51bを影輪郭特徴パターンマスク部がステップ60bで所定回数膨張した画像例を示す図。 図16のコーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hを影輪郭特徴パターンマスク部がステップ60bで所定回数膨張した画像例を示す図。 図17のコーナー点51e、コーナー点51A、51B、51C、51D、51E、51F、51G、51H、51Pを影輪郭特徴パターンマスク部がステップ60bで所定回数膨張した画像例を示す図。 画像合成部で合成されたシーンに影輪郭特徴パターンマスク部がマスクした領域を表示装置に表示した画面例を示す図。 影輪郭特徴パターン領域マスク部でマスクされる領域を表示装置に俯瞰画像で表示した画面の一例を示す図。 影輪郭特徴パターン領域マスク部でマスクされる領域を表示装置に俯瞰画像で表示した画面の一例を示す図。 表示装置の表示画面の一例を示す図。 表示装置の表示画面の一例を示す図。 表示装置の表示画面の一例を示す図。 表示装置の表示画面の一例を示す図。 表示装置の表示画面の一例を示す図。 表示装置の表示画面の一例を示す図。 本発明の作業機械の周囲監視装置の全体構成のその他の例を示す図。 本発明の作業機械の周囲監視装置に係る影有無判定部42及び影領域抽出部43で実行される処理の他のフローチャート。 本発明の適用対象である作業機械の1つである大型油圧ショベルの側面図。
本発明の実施の形態を説明する前に、まず、本発明の実施の形態に係る作業機械の周囲監視装置に含まれる主な特徴について説明する。
後述する本実施の形態に係る作業機械の周囲監視装置は、作業機械に搭載され当該作業機械の周囲の画像を撮影する単眼カメラ(例えば、後述のカメラ6)と、当該画像の特徴量に基づいて当該画像中の特徴パターン(例えば、当該画像中のコーナーやエッジ)を抽出する特徴パターン抽出部(例えば、後述の特徴パターン抽出部170)と、前記画像中で前記作業機械の影とみなし得る領域の輪郭を当該画像の特徴量に基づいて抽出する影輪郭抽出部(例えば、後述の影輪郭抽出部40)と、前記特徴パターン抽出部で抽出された前記特徴パターンから、前記影輪郭抽出部で抽出された輪郭上に位置する特徴パターンを除外した残りの特徴パターンに基づいて、前記作業機械の周囲に存在する障害物を検知する物体検知部(例えば、後述の物体検知部180)とを備えることを特徴とする。
このように構成された周囲監視装置では、前記作業機械の影(自車影)の形状の複雑さに関わらず当該影の輪郭(影輪郭)がサンプリング間隔ごとに抽出され、当該影輪郭上に位置する特徴パターンが障害物検知対象から除外されるので、当該自車影が誤って障害物として認識されることを防止できる。さらに、当該影輪郭上に存在しない特徴パターンは依然として前記物体検知部による障害物検知対象となるので、例えば前記影輪郭上に自動車等の障害物が存在しており、当該障害物に係る特徴パターンのうち当該影輪郭上に存在するものが除去されても、残りの特徴パターン(例えば、自車影の内部に存在する特徴パターン)は依然として障害物検知対象として残るので、当該残りの特徴パターンに基づいて障害物検知を行えば当該障害物を即座に検知できる。
なお、上記の周囲監視装置では、作業機械の自車影の輪郭上に当該自車影の内外に渡って黒い障害物(例えば、黒色の乗用車)が存在する場合には、当該黒い障害物の輪郭を影輪郭とみなす場合があるが、その場合にも当該障害物に係る特徴パターンは、当該自車影の外部および内部に残留するので、当該残留した特徴パターンに基づいて当該障害物の検知が可能である。つまり、上記の周囲監視装置の構成であれば、前記作業機械の影境界を正確に認識する必要がなく、誤って影境界を認識した場合にも障害物の検知が速やかに可能である。
したがって、本実施の形態によれば、作業機械の周囲を撮影した画像内に時間変化する複雑な形状の自車影が存在しても、当該自車影の輪郭とみなされた部分が障害物検知対象から適切に除外されるので、自車影の誤認識の防止と障害物検知精度の向上が可能となる。
ところで、一般的に、作業機械が鉱山で利用される場合には、鉱物に由来する色(例えば、鉄鉱石採掘現場では、鉄鉱石特有の赤茶色)が地表に表れることもある。そのため、前記単眼カメラの撮影画像から自車影を抽出する場合の特徴量として、画像中の色を選択すると、自車影および影輪郭の抽出性能が低下するおそれが高まる。さらに、色は光の変化によっても変化するため、この観点からも色を特徴量として選択することは適切ではない。これに対して、本発明では、画像の色を自車影を抽出する際の特徴量として用いないため、鉱山などの地面に不規則な色の変化が現れる場所で利用しても、作業機械の周囲の障害物検知に支障をきたすことがない。また、本発明は、単眼カメラによって撮影した1枚の画像(静止画)から作業機械の周囲に存在する物体の検知が可能である点もメリットとなる。
なお、上記における「特徴パターン」とは、特徴量に基づいて画像の特徴を抽出することで検出される当該特徴の形状を示し、例えば、点(コーナー)、線・輪郭線(エッジ)、領域などが該当する。
以下、本発明を用いた作業機械の周囲監視装置の例を、図面を用いて説明する。ここでは作業機械としてダンプトラックを適用した例について説明するが、作業機械はダンプトラックのみに限定されない。つまり、本発明は、油圧ショベルを含む、所定の作業(運搬や掘削等)を行う任意の作業機械に適用することができる。
図1は、本実施の形態に係るダンプトラックの上面図を示している。この図に示すダンプトラック1は、車体フレーム2と、車体フレーム2に対して回転可能に取り付けられた前輪3(3 L及び3R)と後輪4(4L及び4R)と、車体フレーム2の上方に起伏可能に取り付けられたベッセル5と、シャーシや車体フレーム2等に固定された単眼カメラ6(6a及び6b及び6c及び6d)と、車体フレーム2の前方上部に設けられた運転室7と、車体フレーム2上の任意の場所(例えば運転室7の内部)に搭載された画像処理装置10と、運転室7の内部に設けられた表示装置100とを備えている。車体フレーム2はダンプトラック1の本体を形成するものであり、車体フレーム2の前方に前輪3、後方に後輪4を設けている。なお、前輪3Rは車両右側の前輪であり、前輪3Lは車両左側の前輪である。また、後輪4Rは車両右側の2つの後輪であり、後輪4Lは車両左側の2つの後輪である。ベッセル5はいわゆる荷台であり、土砂や鉱物等を積載するために利用される。なお、図示した前輪3および後輪4の配置および数は一例に過ぎない。
撮像装置である単眼カメラ6は、ダンプトラック1の任意の位置に設置することができる。本実施の形態では、合計4台のカメラ6a,6b,6c,6dが搭載されており、カメラ6aは、その視野範囲11(図1の破線11の範囲)に車両前方15aが含まれるように、ダンプトラック1の前方上部に斜め下方を俯瞰する格好で設置されている。これと同様に、カメラ6bは、視野範囲12に車両右側方15bが含まれるように車両右側方上部に設置されており、カメラ6cは、視野範囲13に車両後方15cが含まれるように車両後方上部に設置されており、カメラ6dは、視野範囲14に車両左側方15dが含まれるように車両左側方上部に設置されている。
図1の例では、太陽0がダンプトラック1の左側後方上空に位置しているため、ダンプトラック1の影(自車影)は前方90aと右側方90bに発生している。なお、図1上では模式的にダンプトラック1の前方と右側方に表れる影90a,90bを分割して表示しているが、実際には2つの影90a,90bは繋がっている(後の図も同様とする)。
図2は図1に示したダンプトラック1の側面図を示している。
前方視野範囲11(図2の破線11の範囲)を有するカメラ6aは運転室7から見て右斜め前方の位置に取り付けられ、右側方視野範囲12(図2の破線12の範囲)を有するカメラ6bは運転室7から見ての右斜め後方の位置に取り付けられ、後方視野範囲13(図2の破線13の範囲)を有するカメラ6cは車体フレーム2の後方に取り付けられている。右側方視野範囲12(図2に示していない)カメラ6dは運転室7から見て左斜め後方の位置に取り付けられているが、図2には示されていない。カメラ6a及びカメラ6b及びカメラ6c及びカメラ6dが撮影した映像は画像データとして画像処理装置10に出力される。
運転室7はオペレータが搭乗してダンプトラック1を操作するためのステアリングハンドル、アクセルペダルおよびブレーキペダルを含む各種の操作手段が設けられている。その他の操作手段としては、例えば、ダンプトラック1を前進または後進させるシフトレバーがある。運転室7には画像処理装置10と表示装置100とが設けられており、カメラ6a及びカメラ6b及びカメラ6c及びカメラ6dにより撮影・生成される画像データは画像処理装置10で所定の画像処理が行なわれる。画像処理が行なわれた画像データは表示装置100に表示される。基本的に表示装置100にはカメラ6a及びカメラ6b及びカメラ6c及びカメラ6dが撮影する映像が表示されている。
ここで、図2においては、前方視野範囲11はダンプトラック1の前方の斜め下方の領域となっている。前方視野範囲11には、作業員、他の作業機械、サービスカー等が含まれることもある。右側方視野範囲12、後方視野範囲13、左側方視野範囲14も同様である。
図3は本発明の第1の実施の形態に係る画像処理装置10の全体構成図である。この図に示す画像処理装置10は、画像入力部20と、画像記憶部30と、画像合成部35と、基準処理対象領域設定部80と、特徴パターン抽出部170と、影輪郭抽出部40と、影輪郭特徴パターン抽出部50と、影輪郭特徴パターン領域マスク部60と、物体検知部180を備えている。
4台のカメラ6a,6b,6c,6dで撮影されたカメラ画像は、それぞれ所定のサンプリング間隔で画像入力部20に入力され、画像記憶部30に記憶される。
画像記憶部30は、画像入力部20からの入力画像を異なる間隔でサンプリングして記憶し、例えば、停止時はサンプリング間隔を長く、移動時はサンプリング間隔を短くして記憶するため、必要最低限の入力画像による画像処理でよく、時間短縮が図れて処理の適正化を図ることが可能になる。
画像合成部35は、4台のカメラ6a,6b,6c,6dから出力され画像記憶部30に記憶された複数のカメラ画像を1画像に合成する。
本発明の作業機械の周囲監視装置の画像合成部35で実行される処理手順の一例を図4に示す。まず、ステップ35aで、画像合成部35は、4台のカメラ6a,6b,6c,6dのうちどのカメラの画像であるか判定する。そして、前方カメラ6aの場合には画像処理画面の左上に配置する処理を行ない(ステップ35b)、右側方カメラ6bの場合には画像処理画面の右上に配置する処理を行ない(ステップ35c)、後方カメラ6cの場合には画像処理画面の右下に配置する処理を行ない(ステップ35d)、左側方カメラ6dの場合には画像処理画面の左下に配置する処理を行う(ステップ35e)。この手順により4台のカメラ6a、6b、6c、6dの画像を1フレームとする合成画像が生成される(ステップ35f)。
本発明の作業機械の周囲監視装置のカメラ6aの入力画像20aと、カメラ6bの入力画像20bと、カメラ6cの入力画像20cと、カメラ6dの入力画像20dとを画像合成部35で合成した画像の一例を図5に示す。図5には、入力画像20aにおいて自車影90aが、入力画像20bにおいて自車影90bが発生している。また、入力画像20aには、自車影90aと同様の暗い領域として、黒い車110及び非自車影111が存在している(例えば、黒い車が作業機械の下方に潜っている場合には当該黒い車は当該作業機械の影(自車影)とはならない)。
本実施の形態では、作業機械本体の一部15a,15bに接触する暗い領域が存在し、かつ当該暗い領域の面積が所定値(当該所定値は、作業機械の大きさと太陽0の位置に依存する値とする)以上の場合に、当該暗い領域を自車影(自車影90a,90b)と判定するものとする。一方、面積が所定値未満の暗い領域については、たとえ作業機本体の一部15a,15bと接触していても非自車影111とする。
このように自車影と非自車影を区別する理由は、後述する影輪郭画像作成部46で影の輪郭画像を作成する場合、影輪郭特徴パターン領域マスク部60が非自車影の輪郭画像を処理対象領域から除外してマスク領域とするので、マスク領域が広がることで障害物検知性能が低下することを防ぐためである。また、面積が所定値未満の暗い領域は、非自車影111と判定されるが、作業機械は車体が大きいため、自車影の面積も検知対象物体(例えば、サービスカー)より大きくなることが多く、自車影の面積が非自車影より小さくなることは稀である。
なお、4台のカメラ6a、6b、6c、6dの画像を1枚の画像にした例として図5のものを挙げて説明したが、これは一例に過ぎず、当該1枚の画像における各画像の配置は図5に示したもの以外のものでも良い。また、ここで説明する例では、4台のカメラ画像を利用して障害物検知を行うが、障害物検知に利用するカメラの台数(すなわち、障害物検知に利用する画像の枚数)はいくつでも良い。
図3に戻り、基準処理対象領域設定部80は、予め設定された処理対象領域に基づいて、画像合成部35で合成された各画像20a,20b,20c,20d上で後続の各種処理(例えば物体検知部180による障害物検知を含む)が行われる領域を特定する部分である。
基準処理対象領域設定部80による領域特定を行う前に予め行っておく処理対象領域の設定手順を図6に示す。ここではカメラ6aで撮影した入力画像20aに対して処理対象領域を設定する場合について説明する。入力画像20aに対して、オペレータが予め手動によりマウス等で基準点を順次指示して閉領域81aを指定すると、当該閉領域81aに基づいて処理対象領域82aが生成される。
なお、図6では基準処理対象領域設定部80を手動で設定する場合について説明したが、輪郭情報を利用する等して画像処理により処理対象領域を自動で設定しても良いし、他のツール(例えば、画像から自動的に抽出した路面等を処理対象領域として設定するツール等)で設定しても良く、処理対象領域82aが生成されれば特に手法を限定する必要はない。また、処理対象領域の設定は、例えば、地面全体が含まれるように囲んだ閉領域や、地面の一部を囲むような閉領域でも良い。さらに、ここでは、画像20aのみに処理対象領域を設定したが、他の画像20b,20c,20dにも設定しても良いことは言うまでも無い。
影輪郭抽出部40は、基準処理対象領域設定部80により決定設定された処理対象領域内においてダンプトラック1の影とみなし得る領域の輪郭(影輪郭)を当該画像の特徴量に基づいて抽出する部分である。なお、ここで「ダンプトラック1の影とみなし得る領域」とは、ダンプトラック1の実際の影領域と一致する必要は無く、画像処理の関係上ダンプトラック1の影と認識される領域も含むものとし、例えばダンプトラック1の影の輪郭上に黒い車両が存在する場合には、当該黒い車両の輪郭がダンプトラック1の影とみなされることもある。影輪郭抽出部40は、画像合成部35によって合成された1画像を、1個のフレームとして影輪郭抽出を行なう。
ここで本実施の形態に係る影輪郭抽出部40が備える具体的な機能を図7に示す。この図に示すように影輪郭抽出部40は、処理対象領域画像作成部41、影有無判定部42、影領域抽出部43、影領域のアウトライン画像作成部44、膨張画像作成部45、影輪郭画像作成部46として機能する。
まず、処理対象領域画像作成部41aは、画像記憶部30に記憶された画像中に、基準処理対象領域設定部80で処理対象領域として設定された閉領域を作成する。これにより以降の処理は該閉領域内に限定して行われることになる。
影有無判定部42は、処理対象領域内の影の有無を判定し、影が有ると判定した場合、影領域抽出部43で影の領域を抽出する。ここで影有無判定部42の詳細について図8を用いて詳述する。
図8は本発明の作業機械の周囲監視装置に係る影有無判定部42及び影領域抽出部43で実行される処理のフローチャートである。まず、ステップ42aにおいて、影有無判定部42は、各画像20a,20b,20c,20dの処理対象領域内に対して平滑化処理を行うことでノイズを低減し、ステップ42bでは、各画像20a,20b,20c,20dの処理対象領域内において輝度分布図を作成する。次に、ステップ42cでは、影有無判定部42は、ステップ42bで作成した輝度分布図をチェックし、輝度分布が所定の閾値以上の部分の面積を算出する。ステップ42dでは当該算出面積が所定値未満か否かを判定し、当該所定値未満の場合(面積がゼロの場合も含む)には、ステップ42eで影候補ありと判定する。一方、ステップ42dで算出面積が所定値以上と判定された場合には、ステップ42kで自車影無しと判定して処理を終了する。
ステップ42fでは、影領域抽出部43は、影候補領域を抽出するための2値化閾値を決定して2値画像を作成し、ステップ42gで当該2値画像に対して膨張及び収縮等の整形処理を行う。ステップ42hでは、当該2値画像における暗い部分の面積が所定値以上の領域を影候補領域とする 。最後に、ステップ42iでは、影領域抽出部43が、当該影候補領域が自車領域付近か否か判定し、自車領域付近の場合にはステップ42jで自車影有りと判定し、当該影候補領域を影領域として抽出して処理を終了する。
一方、ステップ42iで影候補領域が自車領域付近に無い場合には、ステップ42kで自車影無しと判定して処理を終了する。
なお、ステップ42iにおいて、影候補領域が自車領域付近に位置するとは、図5の説明で記述したように、自車影となる暗い領域90aが作業機械本体の一部15aに接触していることを意味するものとする。
図9は、図8中のステップ42bの輝度分布図を説明図である。図9において、度数75は、輝度が存在する画素数を示している。この図の例では、各カメラ6a,6b,6c,6dの画像20a,20b,20c,20dについて輝度分布図70a,70b,70c,70dが作成されている。
ステップ42cでは、例えば、カメラ6aの入力画像20aの輝度分布図70aに関して、基準処理対象領域内において影を抽出するための所定の2値化閾値71以上の部分の面積を算出するが、当該閾値以上の部分には面積が存在しないため、ステップ42eにおいて「影候補あり」と判定される。このように影候補が存在する場合には、明るい地面の輝度と暗い影の輝度に分散するため、2値化閾値71を突出しない輝度分布図70aとなる。
また、カメラ6bの入力画像20bの輝度分布図70bに関しても同様に、基準処理対象領域内における2値化閾値71以上の部分には面積が存在しないため、「影候補あり」と判定される。
一方、カメラ6cの入力画像20cの輝度分布図70cは、基準処理対象領域内における2値化閾値71以上の部分72cには面積が存在し、当該部分72cの面積が閾値以上となるため、「自車影なし」と判定される。このように影候補が存在しない場合には、地面の輝度が大部分であり、これにより2値化閾値71を突出した輝度分布図70cとなる。
更に、カメラ6dの入力画像20dの輝度分布図70dに関しても同様に、基準処理対象領域内における2値化閾値71以上の部分72dの面積が閾値以上となるため「自車影なし」と判定される。
図10はアウトライン画像作成部44(図7参照)により作成される自車影90a及び自車影90bのアウトラインを示す図である。この図に示すように、アウトライン画像作成部44は、図8の一連の処理で抽出した自車影90aの領域における外郭線(輪郭線)を自車影90aのアウトライン73aとする。同様に、自車影90bの領域における外郭線(輪郭線)を自車影90bのアウトライン73bとする。 影領域のアウトライン画像の膨張画像作成部45は、アウトライン画像作成部44により作成されたアウトライン画像のアウトライン(影輪郭)に対して膨張処理を行う。この膨張画像作成部45による膨張処理は、アウトライン画像中のアウトラインに対して所定の幅を与える処理であり、例えば、膨張回数を指定することで間接的に幅を指定しても良い。膨張回数は、必要最低限でよく、1〜3回程度である。
影輪郭画像作成部46は、膨張画像作成部45により膨張処理が加えられたアウトライン画像を影の輪郭画像とする。これにより画像記憶部30の画像に影が発生している場合には、影輪郭抽出部40により当該影の輪郭が抽出される。
図3に戻り、特徴パターン抽出部170は、画像20a,20b,20c,20d中の特徴量に基づいて当該各画像20a,20b,20c,20d中の特徴パターンを抽出する部分である。本実施の形態では基準処理対象領域設定部80の機能により、処理対象領域内の特徴パターンのみが抽出されることになる。
図11は、図3から特徴パターン抽出部170及び影輪郭特徴パターン抽出部50の周辺を抽出した図を示しており、ここでは特徴パターン抽出部170により抽出される特徴パターンとしてコーナー点を利用する場合を例に挙げて説明する。図11において、特徴パターン抽出部170は、コーナー点抽出部51、コーナー点群の特徴パターン抽出部52として機能する。なお、特徴パターン抽出部170で抽出する特徴パターンとしては、特徴量に基づいて画像の特徴を抽出することで検出される当該特徴の形状を示すものであれば良く、例えば、コーナー点に代えてまたは加えて、線・輪郭線(エッジ)や領域を利用しても良い。
コーナー点抽出部51は、画像中のコーナー点をHarrisのコーナー検出等で抽出する。コーナー点群の特徴パターン抽出部52は、複数のコーナー点から成るコーナー点群の特徴パターンを抽出する。図12及び図13はコーナー点抽出部51及び特徴パターン抽出部52による処理の説明図である。図12に示した自車影のアウトライン73aの例では、アウトライン73aのコーナー部に存在するコーナー点51a及びコーナー点51b(コーナー点群)が特徴パターンとして抽出される。また、図13にした車の例では、コーナー点は当該車の輪郭上のコーナーに存在するため、複数のコーナー点51A,51B,51C,51D,51E,51F,51G,51H,51I,51J,51K,51L,51M,51N、51Pが抽出される。つまり、これらのコーナー点群51A〜51Pが、車の特徴パターンとして生成される。
影輪郭特徴パターン抽出部50は、影輪郭に重畳している特徴パターン(例えばコーナー点))を抽出する。具体的には、影輪郭特徴パターン抽出部50は、影輪郭抽出部40で抽出した影輪郭画像(影のアウトラインを膨張した画像)に重畳している特徴パターンを抽出して、影輪郭特徴パターンとする。本実施の形態で特徴パターンとしてコーナー点を用いる理由の1つは、影に存在するコーナー点の数は、検知対象物体に存在するコーナー点の数より比較的少ない傾向があり、影輪郭特徴パターンが抽出しやすいためである。
図14は影輪郭特徴パターン抽出部50で実行される処理のフローチャートである。まず、ステップ53eにおいて、影輪郭特徴パターン抽出部50は、影輪郭抽出部40で作成された影輪郭画像に重畳している特徴パターン(コーナー点(特徴点))が存在するか否か判定する。ステップ53eにおいて影輪郭に重畳する特徴パターンが存在すると判定された場合には、ステップ53fで当該重畳している特徴パターンを抽出して、これを影輪郭特徴パターンと決定する(ステップ53g)。
一方、ステップ53eにおいて影輪郭に重畳する特徴パターンが存在しない場合、影輪郭特徴パターンが存在しないと決定する(ステップ53h)。
図15は、図14のステップ53fで抽出される特徴パターンの一例を示す図である。この図の影輪郭画像53aaは、自車影90aを膨張処理したものである。コーナー点51a及びコーナー点51bは、影輪郭画像53aaに重畳しているので、コーナー点51a及びコーナー点51bは、ステップ53gで影輪郭特徴パターンとして決定される。
図16は、図14のステップ53fで抽出される特徴パターンの他の一例を示す図である。この図の影輪郭画像53bbは、自車影90bを膨張したものである。コーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hは、影輪郭画像53bbに重畳しているので、コーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hは、影輪郭特徴パターンとして決定される。
図17は、図14のステップ53fで抽出される特徴パターンのさらに他の一例を示す図である。この図の例では、自車影90bに黒い車が進入した場合について説明する。黒い車の場合、車も影とみなされて、影領域のアウトライン画像作成部44(図7参照)で作成した影領域のアウトライン画像S53aに対して、膨張画像作成部45(図7参照)が膨張処理を設定回数行なった画像53ddが作成される。そして、画像53ddに重畳したコーナー点(特徴パターン)として、影の輪郭上のコーナー点51eに加えて、車の輪郭上のコーナー点51A、51B、51C、51D、51E、51F、51G、51H、51Pが抽出され、これらが影輪郭特徴パターンとして抽出される。
影輪郭特徴パターンマスク部60は、影輪郭に重畳している特徴パターン(影輪郭特徴パターン)を膨張した領域を作成し、当該領域(マスク領域)を処理対象領域から除外する。また、影輪郭特徴パターンを抽出して除外するため、影の誤報が低減できるだけでなく、画像処理における処理領域の適正化が可能となる。影輪郭特徴パターンマスク部60のマスク領域を表示装置100に表示すると、作業機械の運転者は、作業機械の停止時及び移動時でも、影の誤報に影響されないで作業機械の周囲を監視することが可能となる。
図18は、影輪郭特徴パターンマスク部60で実行される処理のフローチャートである。まず、影輪郭特徴パターンマスク部60は、ステップ60aにおいて、影輪郭上に重畳している特徴パターンが存在するか否か判定を行う。
ステップ60aで影輪郭上に重畳している特徴パターンが存在すると判定された場合には、ステップ60bにおいて、抽出した特徴パターンを所定回数(数回程度)膨張する処理を行なう。膨張処理は、特徴パターンを数回程度膨張することで行われるが、Harrisのコーナー検出を用いると特徴パターンは1画素で抽出されるため、直径5〜10画素程度の塊になるように膨張すればよい。
次に、ステップ60cでは、膨張した領域をマスク領域として決定し、ステップ60dで、マスク領域をマスク部として、処理対象領域から除外する処理を行なう。
一方、ステップ60aで影輪郭上に重畳している特徴パターンが存在しないと判定された場合には、ステップ60eでマスク領域なしと判定する。
これにより、特徴パターンを抽出して影輪郭の特徴パターン領域部のみを除外するため、画像処理における処理領域の適正化が可能となる。
図19は、図15のコーナー点51a及びコーナー点51bを影輪郭特徴パターンマスク部60がステップ60bで所定回数(数回程度)膨張した画像例を示す図である。影輪郭上の特徴パターンであるコーナー点51a及びコーナー点51bに対して、8方向又は4方向に数回程度膨張処理が施されると、コーナー点51aが膨張した点51aaが生成され、コーナー点51bが膨張した点51bbが生成される。該領域51aa及び51bbは、ステップ60dにおいて、マスク部として、処理対象領域(物体検知部180により障害物検知が行われる領域)から除外される。このように構成された周囲監視装置によれば、自車影の形状の複雑さに関わらず当該影の輪郭(影輪郭)がサンプリング間隔ごとに抽出され、当該影輪郭上に位置する特徴パターン(領域51aa及び51bb)が影輪郭特徴パターンマスク部60により障害物検知対象から除外されるので、当該自車影が誤って障害物として認識されること(影の誤報)を防止できる。
図20は、図16のコーナー点51e及びコーナー点51f及びコーナー点51g及びコーナー点51hを影輪郭特徴パターンマスク部60がステップ60bで所定回数(数回程度)膨張した画像例を示す図である。影輪郭上の特徴パターンであるコーナー点51eに対して、8方向又は4方向に数回程度膨張処理が施されると、膨張した点51eeが生成される。コーナー点51ff、51gg及び51hhも同様に膨張処理を行なって、該コーナー点51ee及び51ff及び51gg及び51hhをマスク部として、処理対象領域から除外する。
図21は、図17のコーナー点51e、コーナー点51A、51B、51C、51D、51E、51F、51G、51H、51Pを影輪郭特徴パターンマスク部60がステップ60bで所定回数(数回程度)膨張した画像例を示す図である。影輪郭上の特徴パターンであるコーナー点51Aに対して、8方向又は4方向に数回程度膨張処理が施されると、膨張した点51AAが生成される。コーナー点51e、コーナー点51B、51C、51D、51E、51F、51G、51H、51Pも同様に膨張処理を行なって、該コーナー点51ee、51AA、コーナー点51BB、51CC、51DD、51EE、51FF、51GG、51HH、51PPをマスク部として、処理対象領域から除外する。
これにより、図17のように自車影の中に車が存在した場合には、図17のコーナー点51I、コーナー点51J、コーナー点51K、コーナー点51L、コーナー点51M、コーナー点51Nはマスク部とされないため、処理対象領域から除外されないで残存する。従って、物体検知部180は、コーナー点51I、コーナー点51J、コーナー点51K、コーナー点51L、コーナー点51M、コーナー点51Nを用いて自車影内の障害物(図17の例では車)を即座に検知することができる。なお、図示した物体は例示に過ぎず、車の他の障害物(例えば人)でも同様に検知できることは言うまでも無い。
したがって、本実施の形態によれば、ダンプトラック1自身の周囲を撮影した画像が複雑だったり当該画像に色成分が存在しても、先行技術のように予め記憶しておいた影境界パターンを参照することなく、更に色成分も用いることもなく、カメラ6により撮影した少なくとも1枚の画像から当該画像に写っている自車影を抽出することができるので、自車影の誤認識が低減して処理速度と作業効率が向上する。
図22は、画像合成部35で合成されたシーンに影輪郭特徴パターンマスク部60がマスクした領域を表示装置100に表示した画面例を示す図である。この図では、カメラ6aの入力画像20a、カメラ6bの入力画像20b、カメラ6cの入力画像20c、およびカメラ6dの入力画像20dを画像合成部35で合成したシーンが表示装置100に表示されており、入力画像20a上には処理対象から除外された特徴パターンとしてコーナー点51aa,51bbが表示され、入力画像20b上にはコーナー点51ee、51ff、51gg、51hhが表示されている。このように処理対象領域から除外する領域(影輪郭特徴パターン)が表示装置100に表示されると、影輪郭特徴パターンが除外された処理対象領域(障害物検知対象領域)が一目瞭然となり、運転員は処理対象領域をリアルタイムに確認することが可能になる。
また、図23及び図24に示すように、ダンプトラック1の周囲に俯瞰表示で表示すると、運転員は運転室7からの方向感覚と違和感のない感覚で前後左右の状況を把握することが可能であり、物体検知対象から除外された領域(特徴パターン)を瞬時に判断できる。ここで、図23及び図24は、ダンプトラック1の前部を上側に表示した例であり、運転室7はダンプトラック1の左上の位置に表示される。
図23は、影輪郭特徴パターン領域マスク部60でマスクされる領域を表示装置100に俯瞰画像110で表示した画面の一例を示す図である。この図の例では、ダンプトラック1の周囲から遠方の距離(約12m程度)まで表示領域に広げて表示装置100に表示している。この図では、入力画像20aの俯瞰画像20aa、入力画像20bの俯瞰画像20bb、入力画像20cの俯瞰画像20ccおよび入力画像20dの俯瞰画像20ddが処理対象領域であり、俯瞰画像20aaの処理対象から除外されるコーナー点51aa、51bbが表示されているとともに、俯瞰画像20bbの処理対象から除外されるコーナー点51ee、51ff、51gg、51hhが表示されている。なお、表示装置100の中央部に表示した図形は、ダンプトラック1を示しており、図示したもの以外にもダンプトラック1を示すものであれば他の図形を表示しても良い。
図24は、影輪郭特徴パターン領域マスク部60でマスクされる領域を表示装置100に俯瞰画像110で表示した画面の一例を示す図である。この図の例では、ダンプトラック1の周囲から比較的近距離(約5m程度)の範囲に表示領域を限定して表示装置100に表示している。この図では、入力画像6bbの俯瞰画像20bb内の自車影90bに黒い車が進入しており、俯瞰画像20bbの処理対象から除外されるコーナー点51ee、51AA、51BB、51CC、51DD、51EE、51FF、51GG、51HHが表示されている。これにより、黒い車の残りの特徴パターンに基づいて物体検知部180が当該黒い車を障害物として検出し、ダンプトラック1に障害物が接近していることを示す警告表示190が表示画面110上に表示される。
図示した警告表示190は、障害物の特徴パターンの外形に略接するように規定された矩形であり、表示装置100の画面上に表示された警告表示190により運転員は障害物の接近を容易に認知できる。警告表示190の形状は、矩形以外の図形でも良く、図形に色を付しても良いし、時間とともに形状や色を変化させても良い。なお、本実施の形態では、物体検知部180によって障害物が検知されたことを報知する報知装置の役割を表示装置100が果たしているが、障害物報知の方法としては音声を発生する音声装置や警告灯を利用しても良い。
図25は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成された俯瞰画像110と、後方カメラ6cで撮影されたそのままの画像(スルー画像)111とを並列して表示した例であり、俯瞰画像110ではダンプトラック1の前部が上側に表示されており、運転室7がダンプトラック1の左上に表示されている。後方カメラ6cによるスルー画像111を表示することにより、運転員は見慣れたカメラ画像に基づいて違和感なく後方の障害物(車両105)を判別できる。図示した例では俯瞰画像110とスルー画像111の双方に警告表示190が表示されており、運転員は車両105の接近を容易に把握できる。
図26は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成した俯瞰画像112に関して、ダンプトラック1の周囲から比較的近距離(約5m程度)の範囲を表示装置100に表示している。ダンプトラック1を示す図形1aは、表示範囲に追随して図25の場合よりも大きく表示されており、ダンプトラック1aの前部は画像中の右側に表示され、運転室7は表示画面の右上に表示されている。表示範囲をダンプトラック1の近くに限定しており、ダンプトラック1の近くに存在する障害物(車両105)が大きく表示されるので、運転員はダンプトラック1の近くに存在する最も危険な障害物を明瞭に判別できる。
図27は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成した俯瞰画像113に関して、ダンプトラック1の周囲から中距離(約8m程度)の範囲を表示装置100に表示している。ダンプトラック1を示す図形1bは、表示範囲に追随して図26の場合よりも小さく表示されている。表示範囲を中距離に設定すると、運転員はダンプトラック1から中距離の位置に存在する障害物(車両105)まで判別できる。
図28は表示装置100の表示画面の一例を示す図である。この図の例は、画像合成部35で合成した俯瞰画像114に関して、ダンプトラック1の周囲から遠距離(約12m程度)の範囲を表示装置100に表示している。ダンプトラック1を示す図形1cは、表示範囲に追随して図27の場合よりも小さく表示されている。表示範囲を遠距離に設定すると、運転員はダンプトラック1から遠距離の位置に存在する障害物(車両105)まで判別できる。
図29は表示装置100の表示画面の一例を示す図である。この図の例は、右側方カメラ6bのスルー画像116と左側方カメラ6dのスルー画像115を並列に表示している。このように左右のスルー画像116,115を表示すると、ダンプトラック1の左右に存在する障害物の判別が容易になるので、ダンプトラック1が左右旋回する場合等の障害物発見が容易になる。
図30は表示装置100の表示画面の一例を示す図である。この図の例は、後方カメラ6cのスルー画像117を表示している。このように後方のスルー画像117を表示すると、ダンプトラック1の後方に存在する最も発見の難しい障害物の発見が容易になる。
図31は本発明の作業機械の周囲監視装置の全体構成のその他の例である。図3と同じ部分については同じ符号を付して説明を省略する。図31において、作業機械形状データ定義部201は、作業機械の仕様に基づいて当該作業機械の形状データが定義されている部分である。特徴パターン記憶部200は、作業機械形状データ定義部201で定義されている形状データ(外観形状)を当該作業機械の仕様に基づいて抽出し、その抽出した形状データを当該作業機械の外形を示す特徴パターンとして記憶する。ここでの外観形状(形状データ)は、作業機械の全長、全幅、全高、外観凹凸状態等を含んでおり、自車影の形状に関連する情報であればこれ以外の情報でもよい。
影輪郭特徴パターン抽出部50は、影輪郭抽出部40で得られる影輪郭画像と、特徴パターン記憶部200に記憶された形状データとを参照しながら影輪郭画像に重畳している特徴パターンを影輪郭特徴パターンとして決定する。なお、影輪郭特徴パターン抽出部50において、特徴パターン抽出部170で抽出されたコーナー点群と、特徴パターン記憶部200に記憶された形状データとのパターンマッチングを行ない、両者のマッチング率が所定値以上で両者が類似している場合には、当該コーナー点群を影輪郭の特徴パターンとして抽出しても良い。
また、画像記憶部30は、作業機械の起動時に画像入力部20からの画像を一旦入力したら、これ以降は作業機械稼働データ202に基づいて得られる作業機械の稼働状況をチェックし、作業機械が停止中でない場合(稼働中の場合)には画像入力部20から画像を入力し、作業機械が停止中の場合には画像入力部20からの画像の入力を中断する。これにより、作業機械の稼働状況に応じて異なるサンプリング間隔で画像入力部20から画像をサンプリングすることが可能になる。これにより、必要最低限の入力画像に基づいて画像処理を行えばよく、時間短縮が図れて処理の適正化が図れる。
なお、画像記憶部30による作業機械稼働データ202に基づいた上記処理を行わない場合には、一定のサンプリング間隔で画像入力部20からの画像をサンプリングすれば良い。
図32は本発明の作業機械の周囲監視装置に係る影有無判定部42及び影領域抽出部43で実行される処理の他のフローチャートである。図8に示したフローチャートと同じ処理については同じ符号を付して説明は省略する。この図のフローチャートにおけるステップ42bbでは、ステップ42aで平滑化処理した画像の基準処理対象領域内に対して色成分を抽出する処理を行なう。そして、ステップ42ccで基準処理対象領域が色成分が存在する領域のみから構成されているか否かを判定する。
ステップ42ccで色成分が存在しない領域が有ると判定されたら、ステップ42ddに進んで当該色成分が存在しない領域を抽出する。そして、ステップ42eeにおいて、影候補領域を抽出するための、2値化閾値を決定して2値画像を作成し、ステップ42g以降の処理を行なう。
一方、ステップ42ccで、色成分が存在する領域のみと判定された場合には、テップ42kの処理を行なう。このように影の判定に色成分を用いることが可能な場合には、影か否かを判定する精度を向上できる。
ところで、既述のように本発明の適用対象はダンプトラックに限定されず、他の作業機械にも適用可能である。図33は、本発明の適用対象である作業機械の1つであるいわゆるローダタイプの大型油圧ショベルの側面図である。この油圧ショベルは、下部走行体155と、この下部走行体155の上部に旋回台軸受け157を介して旋回可能に設けた上部旋回体156と、この上部旋回体156に俯仰動可能に連結された多関節型のフロント作業機158とを備えている。多関節型のフロント作業機158に備えられたバケット152が接地状態で開口部が前方側へ向くように配置され、バケット開閉シリンダ164がバケット152に図示するように装設されている。また、ブームシリンダ161、バケットシリンダ162、アームシリンダ163、及びバケット開閉シリンダ164がそれぞれ伸縮動作によりブーム上げ/下げ、アーム押し/引き、バケットクラウド/ダンプ、バケット閉止/開放を行うようになっている。このように構成された油圧ショベルに複数台のカメラ(例えば図中のカメラ6a,6c,6d)及び画像処理装置10をはじめとした上記の各構成を搭載すれば、上記のダンプトラック1の場合と同様に周囲監視装置を構成することができる。
なお、本発明は、上記の各実施の形態に限定されるものではなく、その要旨を逸脱しない範囲内の様々な変形例が含まれる。例えば、本発明は、上記の各実施の形態で説明した全ての構成を備えるものに限定されず、その構成の一部を削除したものも含まれる。また、ある実施の形態に係る構成の一部を、他の実施の形態に係る構成に追加又は置換することが可能である。
また、上記の画像処理装置に係る各構成や当該各構成の機能及び実行処理等は、それらの一部又は全部をハードウェア(例えば各機能を実行するロジックを集積回路で設計する等)で実現しても良い。また、上記の画像処理装置に係る構成は、演算処理装置(例えばCPU)によって読み出し・実行されることで当該画像処理装置の構成に係る各機能が実現されるプログラム(ソフトウェア)としてもよい。当該プログラムに係る情報は、例えば、半導体メモリ(フラッシュメモリ、SSD等)、磁気記憶装置(ハードディスクドライブ等)及び記録媒体(磁気ディスク、光ディスク等)等に記憶することができる。
6a,6b,6c,6d…カメラ、30…画像記憶部、35…画像合成部、40…影輪郭抽出部、50…影輪郭特徴パターン抽出部、60…影輪郭特徴パターン領域マスク部、80…基準処理対象領域設定部、100…表示装置、170…特徴パターン抽出部、180…物体検知

Claims (5)

  1. 作業機械に搭載され当該作業機械の周囲の画像を撮影する単眼カメラと、
    当該画像の特徴量に基づいて当該画像中の特徴パターンを抽出する特徴パターン抽出部と、
    前記画像中で前記作業機械の影とみなし得る領域の輪郭を当該画像の特徴量に基づいて抽出する影輪郭抽出部と、
    前記特徴パターン抽出部で抽出された前記特徴パターンから、前記影輪郭抽出部で抽出された輪郭上に位置する特徴パターンを除外した残りの特徴パターンに基づいて、前記作業機械の周囲に存在する障害物を検知する物体検知部とを備えることを特徴とする作業機械の周囲監視装置。
  2. 請求項1に記載の作業機械の周辺監視装置において、
    前記物体検知部によって障害物が検知されたことを報知する報知部をさらに備えることを特徴とする作業機械の周辺監視装置。
  3. 請求項2に記載の作業機械の周辺監視装置において、
    前記画像を利用して前記作業機械を含む俯瞰画像を作成する画像合成部と、
    当該俯瞰画像が表示される表示部とをさらに備えることを特徴とする作業機械の周辺監視装置。
  4. 請求項1から3のいずれかに記載の作業機械の周辺監視装置において、
    前記画像中で前記物体検知部による障害物検知が行われる処理対象領域を設定するための処理対象領域設定部をさらに備え、
    前記影輪郭抽出部は、前記処理対象領域内で前記作業機械の影とみなし得る領域の輪郭を抽出し、
    前記物体検知部は、前記特徴パターン抽出部で抽出された前記特徴パターンのうち前記処理対象領域内に存在するものから、前記影輪郭抽出部で抽出された輪郭上に位置する特徴パターンを除外したものに基づいて障害物を検知することを特徴とする作業機械の周囲監視装置。
  5. 請求項1に記載の作業機械の周辺監視装置において、
    前記特徴パターン抽出部は、前記画像中の前記特徴パターンとしてコーナーおよび/またはエッジを抽出することを特徴とする作業機械の周囲監視装置。
JP2014090679A 2014-04-24 2014-04-24 作業機械の周囲監視装置 Expired - Fee Related JP6178280B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2014090679A JP6178280B2 (ja) 2014-04-24 2014-04-24 作業機械の周囲監視装置
US15/124,123 US10160383B2 (en) 2014-04-24 2015-03-04 Surroundings monitoring system for working machine
EP15782523.3A EP3136341B1 (en) 2014-04-24 2015-03-04 Surroundings monitoring system for working machine
CN201580011783.6A CN106062823B (zh) 2014-04-24 2015-03-04 作业机械的周围监视装置
PCT/JP2015/056432 WO2015163015A1 (ja) 2014-04-24 2015-03-04 作業機械の周囲監視装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014090679A JP6178280B2 (ja) 2014-04-24 2014-04-24 作業機械の周囲監視装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2017139995A Division JP6405422B2 (ja) 2017-07-19 2017-07-19 作業機械の周囲監視装置

Publications (3)

Publication Number Publication Date
JP2015210602A true JP2015210602A (ja) 2015-11-24
JP2015210602A5 JP2015210602A5 (ja) 2017-02-23
JP6178280B2 JP6178280B2 (ja) 2017-08-09

Family

ID=54332186

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014090679A Expired - Fee Related JP6178280B2 (ja) 2014-04-24 2014-04-24 作業機械の周囲監視装置

Country Status (5)

Country Link
US (1) US10160383B2 (ja)
EP (1) EP3136341B1 (ja)
JP (1) JP6178280B2 (ja)
CN (1) CN106062823B (ja)
WO (1) WO2015163015A1 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017155491A (ja) * 2016-03-02 2017-09-07 株式会社神戸製鋼所 建設機械の干渉防止装置
JP2018113622A (ja) * 2017-01-12 2018-07-19 株式会社デンソーテン 画像処理装置、画像処理システム、及び、画像処理方法
CN109563693A (zh) * 2016-08-03 2019-04-02 神钢建机株式会社 障碍物检测装置
CN111462220A (zh) * 2020-04-03 2020-07-28 深圳前海微众银行股份有限公司 待侦测物体阴影面积提取方法、装置、设备及介质
JP2020185994A (ja) * 2020-07-28 2020-11-19 株式会社クボタ 作業車
KR20200132891A (ko) * 2018-03-26 2020-11-25 스미토모 겐키 가부시키가이샤 쇼벨
JP2021064154A (ja) * 2019-10-14 2021-04-22 株式会社デンソー 障害物識別装置および障害物識別プログラム
KR20220140610A (ko) * 2020-05-29 2022-10-18 히다찌 겐끼 가부시키가이샤 작업 기계

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107925745B (zh) * 2015-11-30 2020-09-08 住友重机械工业株式会社 施工机械用周边监视系统
JP6599835B2 (ja) * 2016-09-23 2019-10-30 日立建機株式会社 鉱山用作業機械、障害物判別装置、及び障害物判別方法
CN110114244B (zh) * 2017-02-17 2023-07-04 住友重机械工业株式会社 工作机械用周边监视系统
JP6589945B2 (ja) * 2017-07-14 2019-10-16 コベルコ建機株式会社 建設機械
WO2019031259A1 (ja) * 2017-08-08 2019-02-14 ソニー株式会社 画像処理装置および方法
JP6969983B2 (ja) * 2017-11-10 2021-11-24 株式会社小松製作所 ダンプトラック
JP6900897B2 (ja) * 2017-12-25 2021-07-07 コベルコ建機株式会社 建設機械の障害物検出装置
JP7160606B2 (ja) * 2018-09-10 2022-10-25 株式会社小松製作所 作業機械の制御システム及び方法
WO2020089984A1 (ja) * 2018-10-29 2020-05-07 株式会社Pfu 画像処理装置、制御方法及び制御プログラム
GB2582323B (en) * 2019-03-19 2022-02-09 Jaguar Land Rover Ltd Image processing system and method
CN110099268B (zh) * 2019-05-28 2021-03-02 吉林大学 色彩自然匹配与显示区自然融合的盲区透视化显示方法
US10949685B2 (en) 2019-07-22 2021-03-16 Caterpillar Inc. Excluding a component of a work machine from a video frame based on motion information
US11320830B2 (en) 2019-10-28 2022-05-03 Deere & Company Probabilistic decision support for obstacle detection and classification in a working area
JP7065068B2 (ja) * 2019-12-13 2022-05-11 本田技研工業株式会社 車両周囲監視装置、車両、車両周囲監視方法およびプログラム
JP2022175822A (ja) * 2021-05-14 2022-11-25 ヤンマーホールディングス株式会社 安全監視システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005043324A (ja) * 2003-07-25 2005-02-17 Matsushita Electric Ind Co Ltd 路面損傷状態点検方法及び路面損傷位置の特定方法
JP2008165765A (ja) * 2006-12-29 2008-07-17 Alpine Electronics Inc 車両側面画像取得方法及び装置、車灯誤識別検出方法及び安全運転予測方法
JP2009083632A (ja) * 2007-09-28 2009-04-23 Denso Corp 移動物体検出装置
JP2011209896A (ja) * 2010-03-29 2011-10-20 Nec Corp 障害物検知装置、障害物検知方法及び障害物検知プログラム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1504276B1 (en) * 2002-05-03 2012-08-08 Donnelly Corporation Object detection system for vehicle
US7084386B2 (en) * 2003-05-02 2006-08-01 International Business Machines Corporation System and method for light source calibration
US7720580B2 (en) * 2004-12-23 2010-05-18 Donnelly Corporation Object detection system for vehicle
EP1876829A4 (en) * 2005-04-28 2010-06-09 Aisin Seiki SYSTEM FOR MONITORING THE PERIPHERY OF A VEHICLE
JP4956915B2 (ja) * 2005-05-20 2012-06-20 日産自動車株式会社 映像表示装置及び映像表示方法
JP4809019B2 (ja) * 2005-08-31 2011-11-02 クラリオン株式会社 車両用障害物検出装置
JP4674179B2 (ja) * 2006-03-30 2011-04-20 株式会社デンソーアイティーラボラトリ 影認識方法及び影境界抽出方法
JP4876118B2 (ja) * 2008-12-08 2012-02-15 日立オートモティブシステムズ株式会社 立体物出現検知装置
CN102158684A (zh) * 2010-02-12 2011-08-17 王炳立 具有图像增强功能的自适应场景图像辅助系统
JP2011205513A (ja) * 2010-03-26 2011-10-13 Aisin Seiki Co Ltd 車両周辺監視装置
AU2012268476B2 (en) * 2011-06-07 2014-05-15 Komatsu Ltd. Perimeter monitoring device for work vehicle
JP5722127B2 (ja) 2011-06-07 2015-05-20 株式会社小松製作所 作業車両の周辺監視装置
JP5781978B2 (ja) * 2012-05-22 2015-09-24 株式会社小松製作所 ダンプトラック
KR101439052B1 (ko) * 2013-09-05 2014-09-05 현대자동차주식회사 장애물 검출 장치 및 방법
CN103544487B (zh) * 2013-11-01 2019-11-22 扬州瑞控汽车电子有限公司 基于单目视觉的前车识别方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005043324A (ja) * 2003-07-25 2005-02-17 Matsushita Electric Ind Co Ltd 路面損傷状態点検方法及び路面損傷位置の特定方法
JP2008165765A (ja) * 2006-12-29 2008-07-17 Alpine Electronics Inc 車両側面画像取得方法及び装置、車灯誤識別検出方法及び安全運転予測方法
JP2009083632A (ja) * 2007-09-28 2009-04-23 Denso Corp 移動物体検出装置
JP2011209896A (ja) * 2010-03-29 2011-10-20 Nec Corp 障害物検知装置、障害物検知方法及び障害物検知プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
佐治 斉、外2名: ""衛星画像を用いた道路混雑状況の解析"", 画像ラボ, vol. 23, no. 12, JPN6015014264, 10 December 2012 (2012-12-10), JP, pages 13 - 17, ISSN: 0003584061 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017155491A (ja) * 2016-03-02 2017-09-07 株式会社神戸製鋼所 建設機械の干渉防止装置
EP3477006A4 (en) * 2016-08-03 2019-07-17 Kobelco Construction Machinery Co., Ltd. DEVICE FOR DETECTING OBSTACLES
CN109563693A (zh) * 2016-08-03 2019-04-02 神钢建机株式会社 障碍物检测装置
US10527731B2 (en) 2016-08-03 2020-01-07 Kobelco Construction Machinery Co., Ltd. Obstacle detection device
JP2018113622A (ja) * 2017-01-12 2018-07-19 株式会社デンソーテン 画像処理装置、画像処理システム、及び、画像処理方法
KR102659075B1 (ko) 2018-03-26 2024-04-18 스미토모 겐키 가부시키가이샤 쇼벨
KR20200132891A (ko) * 2018-03-26 2020-11-25 스미토모 겐키 가부시키가이샤 쇼벨
JP2021064154A (ja) * 2019-10-14 2021-04-22 株式会社デンソー 障害物識別装置および障害物識別プログラム
JP7310526B2 (ja) 2019-10-14 2023-07-19 株式会社デンソー 障害物識別装置および障害物識別プログラム
CN111462220A (zh) * 2020-04-03 2020-07-28 深圳前海微众银行股份有限公司 待侦测物体阴影面积提取方法、装置、设备及介质
KR102705297B1 (ko) 2020-05-29 2024-09-11 히다찌 겐끼 가부시키가이샤 작업 기계
KR20220140610A (ko) * 2020-05-29 2022-10-18 히다찌 겐끼 가부시키가이샤 작업 기계
EP4101996A4 (en) * 2020-05-29 2024-04-03 Hitachi Construction Machinery Co., Ltd. WORKING MACHINE
JP2020185994A (ja) * 2020-07-28 2020-11-19 株式会社クボタ 作業車
JP6991285B2 (ja) 2020-07-28 2022-01-12 株式会社クボタ 作業車

Also Published As

Publication number Publication date
US20170018070A1 (en) 2017-01-19
CN106062823B (zh) 2019-04-02
CN106062823A (zh) 2016-10-26
EP3136341A4 (en) 2018-01-03
EP3136341B1 (en) 2020-03-04
WO2015163015A1 (ja) 2015-10-29
EP3136341A1 (en) 2017-03-01
JP6178280B2 (ja) 2017-08-09
US10160383B2 (en) 2018-12-25

Similar Documents

Publication Publication Date Title
JP6178280B2 (ja) 作業機械の周囲監視装置
EP2937811B1 (en) Vehicle peripheral obstacle notification system
JP5902990B2 (ja) 自走式産業機械の画像処理装置
AU2014213529B2 (en) Image display system
JP5995899B2 (ja) 自走式産業機械の画像処理装置
CN106436545B (zh) 机动建筑机械和用于显示机动建筑机械周围环境的方法
CN105260701B (zh) 一种适用于复杂场景下的前方车辆检测方法
JP6542539B2 (ja) 車両用進入可否判定装置
CN109070824A (zh) 显示控制装置、显示控制方法以及程序
CN110619674B (zh) 用于事故和警情场景还原的三维增强现实设备及方法
WO2014073571A1 (ja) 自走式産業機械の画像処理装置および自走式産業機械の画像処理方法
JP4674179B2 (ja) 影認識方法及び影境界抽出方法
CN106797452A (zh) 车辆的周围监视装置
CN104756172A (zh) 用于车辆的向后移动指示装置
KR20220014118A (ko) 적재 불량 트럭 단속 시스템
JP6420657B2 (ja) 作業機械およびその周囲監視装置
JP6405422B2 (ja) 作業機械の周囲監視装置
US11173785B2 (en) Operator assistance vision system
JP6796518B2 (ja) 移動物体検知システム
JP6868996B2 (ja) 障害物検知システム及び建設機械
US20170307362A1 (en) System and method for environment recognition
CN112801056B (zh) 一种基于局部图像分类的渣土车顶盖状态确定方法及系统
JPH09240397A (ja) 後側方車両の報知装置
CA2828145A1 (en) Method and apparatus for monitoring a condition of an operating implement in heavy equipment
EA045770B1 (ru) Устройство для анализа полезного груза, транспортируемого в грузовом контейнере транспортного средства

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170119

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170713

R150 Certificate of patent or registration of utility model

Ref document number: 6178280

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees