JP6710426B2 - 障害物検出方法及び装置 - Google Patents

障害物検出方法及び装置 Download PDF

Info

Publication number
JP6710426B2
JP6710426B2 JP2019531669A JP2019531669A JP6710426B2 JP 6710426 B2 JP6710426 B2 JP 6710426B2 JP 2019531669 A JP2019531669 A JP 2019531669A JP 2019531669 A JP2019531669 A JP 2019531669A JP 6710426 B2 JP6710426 B2 JP 6710426B2
Authority
JP
Japan
Prior art keywords
road surface
obstacle
pixel
area
surface area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019531669A
Other languages
English (en)
Other versions
JP2020501281A (ja
Inventor
一氷 南
一氷 南
士国 廉
士国 廉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cloudminds Shenzhen Robotics Systems Co Ltd
Original Assignee
Cloudminds Shenzhen Robotics Systems Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cloudminds Shenzhen Robotics Systems Co Ltd filed Critical Cloudminds Shenzhen Robotics Systems Co Ltd
Publication of JP2020501281A publication Critical patent/JP2020501281A/ja
Application granted granted Critical
Publication of JP6710426B2 publication Critical patent/JP6710426B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1656Programme controls characterised by programming, planning systems for manipulators
    • B25J9/1664Programme controls characterised by programming, planning systems for manipulators characterised by motion, path, trajectory planning
    • B25J9/1666Avoiding collision or forbidden zones
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/168Segmentation; Edge detection involving transform domain methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Multimedia (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Operations Research (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Algebra (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Evolutionary Biology (AREA)
  • Robotics (AREA)
  • Mechanical Engineering (AREA)
  • Electromagnetism (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

本願は、人工知能の技術分野に関し、特に障害物検出方法及び装置に関する。
移動ロボットや盲導システムにおいて、障害物回避が必須な基本的な機能の1つであり、走行路面における障害物の効果的な検出が、障害物回避システムにおいて解決しなければならない重要な課題となっている。
従来、一般的な障害物検出方式には、赤外線、超音波などに基づく非視覚的検出方式、Kinect、双眼カメラなどに基づく立体視覚的検出方式及び単一カメラに基づく非立体視覚的検出方式がある。しかし、これらの方式のいずれにも対応した欠陥及び欠点があり、その中でも、赤外線、超音波などを用いた非視覚的検出方式は、検出精度が限られ、大体積の障害物を検出できるが、微小な障害物を検出できないため、安全性に乏しく、単一カメラに基づく障害物検出方式は、興味がある領域を指定することが多く、複雑な環境については、地面領域及び障害物を自動的に検出することができない。
本願の実施例は、主に障害物の検出精度が限られる従来技術の問題を解決する障害物検出方法及び装置を開示する。
上記目的を達成させるために、本願の実施例は下記技術案を採用する。
第1態様によれば、
検出対象画像を取得するステップと、
検出対象画像に含まれる画素情報に基づいて、前記検出対象画像を路面領域と非路面領域に分割するステップと、
前記路面領域により囲まれた非路面領域を検出して、少なくとも1つの非路面領域が前記路面領域により囲まれている場合、前記少なくとも1つの非路面領域を障害物領域として特定するステップとを含む障害物検出方法を提供する。
第2態様によれば、
検出対象画像を取得する取得ユニットと、検出対象画像に含まれる画素情報に基づいて、前記検出対象画像を路面領域と非路面領域に分割する領域分割ユニットと、前記路面領域により囲まれた非路面領域を検出する検出ユニットと、前記検出ユニットによって少なくとも1つの非路面領域が前記路面領域により囲まれていると検出すると、前記少なくとも1つの非路面領域を障害物領域として特定する障害物特定ユニットとを備える障害物検出装置を提供する。
第3態様によれば、上記障害物検出方法を実行するために設計されたプログラムコードを含むコンピュータソフトウェア命令を記憶するコンピュータ記憶媒体を提供する。
第4態様によれば、コンピュータの内部メモリに直接ロードでき、ソフトウェアコードを含み、前記コンピュータプログラムがコンピュータによりロードされて実行されると上記障害物検出方法を実行できるコンピュータプログラム製品を提供する。
第5態様によれば、コンピュータ実行可能コードを記憶するメモリと、前記コンピュータ機器と外部機器とのデータ伝送を行う通信インターフェースと、前記コンピュータ実行可能コードを実行して上記障害物検出方法を実行するように制御するプロセッサとを備えるコンピュータ機器を提供する。
第6態様によれば、上記コンピュータ機器を備えるロボットを提供する。
本願の実施例による障害物検出方法は、検出対象画像を取得し、検出対象画像に含まれる画素情報に基づいて、検出対象画像に含まれる領域を地面領域と非地面領域に分割し、次に地面領域における非地面領域の有無を判断することによって障害物を特定する。従来技術による各種障害物検出方法に比べて、本願の実施例では、様々な物体の画素特徴の相違を利用し、微小な物体であっても、その画素特徴が路面の画素特徴と異なる限り、非地面領域として認識できる。したがって、本願の実施例は、地面領域と非地面領域を確実に区別して、さらに地面領域内に含まれる非地面領域を障害物領域として特定することができ、それによって、障害物の検出精度を向上できる。
本願の実施例による障害物回避システムのアーキテクチャ模式図である。 本願の実施例による障害物検出方法のプロセスフロー模式図である。 本願の実施例が実用場面に応じて提供する障害物検出方法のプロセスフロー模式図である。 本願の実施例によるさらなる障害物検出方法のプロセスフロー模式図である。 本願の実施例が実用場面に応じて提供する障害物検出方法のプロセスフロー模式図である。 本願の実施例による障害物検出装置の構造模式図である。 本願の実施例による別の障害物検出装置の構造模式図である。 本願の実施例によるさらなる障害物検出装置の構造模式図である。 本願の実施例による障害物検出装置の構造模式図である。 本願の実施例によるさらなる障害物検出装置の構造模式図である。 本願の実施例によるさらなる障害物検出装置の構造模式図である。
本願の実施例に説明されるシステムアーキテクチャ及びビジネス場面は本願の実施例の技術案をより明瞭に説明するものであり、本願の実施例による技術案を限定するものではなく、当業者にとって自明なように、システムアーキテクチャの進化と新しいビジネスシナリオの出現に伴い、本願の実施例による技術案は類似した技術的課題にも適用できる。
なお、本願の実施例では、「一例として」又は「たとえば」などの用語は例、例証又は説明として用いられることを意味する。本願の実施例において「一例として」又は「たとえば」をもって説明されるすべての実施例又は設計案はほかの実施例又は設計案よりも好ましく又はより優位性を有すると理解すべきではない。詳しくは、「一例として」又は「たとえば」などの用語の使用は具体的な方式で関連概念を説明することを意図する。
なお、本願の実施例では、「の(英語:of)」、「対応(英語:corresponding、relevant)」及び「対応して(英語:corresponding)」は組み合わせて使用することがあるが、違いを強調しない場合、示される意味が同じである。
障害物回避システムは、特定領域に障害物が存在するか否かを検出するものであり、移動ロボット、盲導システムなどに適用できる。障害物検出は障害物回避システムの基本的な機能である。本願の実施例は障害物回避システムを提供し、図1に示されるように、該障害物回避システム10は、画像収集装置11、障害物検出装置12及び意思決定装置13を備える。画像収集装置11は、障害物検出のための特定領域の画像情報、たとえば移動ロボットが進んでいる前方の画像を収集して、収集した画像情報を障害物検出装置12に送信する。一例として、該画像収集装置は1つ又は複数のカメラである。障害物検出装置12は、画像収集装置11が送信した画像情報を処理して、障害物の有無及び障害物の輪郭、サイズ、位置、種類などの情報を取得し、処理して取得した情報を意思決定装置13に送信する。意思決定装置13は、障害物検出装置12が送信した情報に基づいて、どのように障害物を回避するか意思決定を行う。意思決定装置は処理演算機能を有するデバイスとしてもよい。画像収集装置11及び意思決定装置13の具体的な実現については、従来技術を参照すればよいため、ここで詳細な説明を省略する。
発明者が研究した結果、異なる物体に対応した画素情報が異なり、且つ特定の物体に対しては、一般的な色が固定である。つまり、それに対応した画素の色成分、たとえばRGB(Red Green Blue)値又はHSV(Hue、Saturation、Value、色相、彩度、明るさ)の値が特定の範囲にあり、たとえば通常路面が黄色、ブラウン又は黒色(たとえばアスファルト道路の色)であり、樹木が緑色である。それを踏まえて、本願の実施例は、画像の画素情報に基づいて路面領域と非路面領域を分割して、障害物を特定する方法を提供する。該方法は、図1に示される障害物回避システムに適用でき、図1に示される障害物回避システムに適用される場合、該方法の実行主体は図1中の障害物検出装置12としてもよい。
図2に示されるように、該方法は、ステップ101〜ステップ105を含む。
101、検出対象画像を取得する。
該検出対象画像は、検出対象領域を実際に撮影して得る画像であり、一般にカラー画像である。
図1に示されるシステムに適用される場合、該検出対象画像は、画像収集装置11を利用して検出対象領域を実際に撮影して、該検出対象画像を取得して該検出対象画像を障害物検出装置12に送信するようにしてもよい。
102、検出対象画像に含まれる画素情報に基づいて、前記検出対象画像を路面領域と非路面領域に分割する。
検出対象画像に含まれる画素情報とは、検出対象画像中の各画素ドットに対応した色成分値、たとえばRGB値又はHSV(Hue、Saturation、Value、色相、彩度、明るさ)値などである。検出対象画像中のある画素ドットに対応した色成分値が路面画素と合致する場合、該画素を路面画素として特定し、否定の場合は、該画素を非路面画素として特定する。すべての路面画素からなる領域が路面領域、非路面画素からなる領域が非路面領域である。検出対象画像には、路面領域、非路面領域が1つ又は複数あり得る。
本ステップの一実施態様において、まず、検出対象画像中の各画素に対応した実物の種類を特定し、実物の具体的な種類に基づいて実物に対応した領域が路面領域であるか非路面領域であるかを決定する。
なお、室外道路に交通標識ラインが含まれる場合が多い。このため、本願の実施例において、画素に対応した実物の種類が路面又は交通標識ラインである場合、該実物に対応した画素を路面画素として特定し、実物が路面以外の実物、たとえば机や椅子、建物などである場合、該実物に対応した領域を非路面画素として特定する。
本ステップの別の実施態様では、検出対象画像中の路面画素の有無だけを決定し、路面画素を含む領域を路面領域、ほかの領域を非路面領域として特定する。
103、前記路面領域により囲まれた非路面領域を検出する。
少なくとも1つの非路面領域が前記路面領域により囲まれている場合、検出対象領域に障害物が含まれていると初期判定し、下記ステップ104を実行し、否定の場合は、下記ステップ105を実行する。
104、前記少なくとも1つの非路面領域を障害物領域として特定する。
105、検出対象領域に障害物が含まれていないと決定する。
ステップ103〜ステップ105の一実施態様において、路面領域の最外層の輪郭線内に位置する非路面領域の輪郭線を検出するステップと、少なくとも1つの非路面領域の輪郭線が前記路面領域の最外層の輪郭線に含まれる領域内に位置する場合、該少なくとも1つの非路面領域が路面領域により囲まれていると判定し、前記少なくとも1つの非路面領域を障害物領域として特定するステップとによって実現できる。
上記ステップ101〜ステップ105をより明瞭に説明するために、図3に示されるように、検出対象画像に対して上記ステップ101〜ステップ105の処理を実行した後、該検出対象画像に地面領域と複数の非地面領域(図中に、それぞれ非地面領域1、非地面領域2、非地面領域3及び非地面領域4として示されている)が含まれると決定する。非地面領域3及び非地面領域4の輪郭線が地面領域1の最外側の輪郭線(図中の黒色の太輪郭線)内に位置し、それによって、非地面領域3及び非地面領域4を障害物領域として特定する。
なお、本願の実施例による障害物検出方法は、該ステップ104までを実行することで、該障害物領域に障害物が含まれていると直接決定でき、つまり、障害物が検出されて、障害物の検出過程が完成するとされる。
本願の実施例による障害物検出方法は、検出対象画像を取得し、検出対象画像に含まれる画素情報に基づいて、検出対象画像に含まれる領域を地面領域と非地面領域に分割し、次に非地面領域が地面領域により囲まれているか否かに基づいて障害物を特定する。従来技術による各種障害物検出方法に比べて、本願の実施例では、様々な物体の画素特徴の相違を利用し、微小な物体であっても、その画素特徴が路面の画素特徴と異なる限り、非地面領域として認識できる。したがって、本願の実施例は、地面領域と非地面領域を確実に区別して、さらに地面領域内に含まれる非地面領域を障害物領域として特定することができ、それによって、障害物の検出精度を向上できる。
なお、本ステップ101の一実施態様において、該検出対象画像は単一カメラにより取得することができ、このような該検出対象画像の取得過程の複雑さ及びコストが低い。さらに、従来技術における単一カメラに基づく非立体視覚的検出方法に比べて、本願の実施例による障害物検出方法は、興味がある領域を指定する必要がなく、複雑な環境であっても地面領域と障害物を自動的に検出できるため、複雑な環境への適応性が高い。
図2に示される方法に基づいて、本願の実施例は、検出対象画像中の画素情報に基づいて検出対象領域中の路面領域と非路面領域を特定する具体的な実施態様を提供する。図4に示されるように、具体的には、ステップ102は下記ステップ201とステップ202によって実現される。
201、検出対象画像中の各画素ドットの色成分及び所定対応関係に基づいて、各画素ドットを路面画素又は非路面画素として特定する。
前記所定対応関係は、路面画素に対応した色成分の値の範囲を含む。
画素色成分がRGBである場合を例にすると、該所定分類ルールの一実施態様は表1に示されるとおりである。
202、路面画素の色を第1色、非路面画素の色を第2色として、検出対象画像に対応した二値画像を生成する。
前記二値画像において第1色の領域が路面領域、第2色の領域が非路面領域である。前記第1色と第2色は2種の異なる色である。前記二値画像には前記第1色と第2色が含まれている。一例として、第1色が白色、第2色が黒色である場合、黒色と白色だけを含む二値画像が得られる。
路面領域と非路面領域の分割精度を向上させるために、二値画像を取得した後、前記方法は、前記二値画像に対して、前処理を行い、処理後の二値画像を得るステップをさらに含むようにしてもよい。前記前処理は、収縮、膨張及びフィルタリング操作のうちの少なくとも1種を含む。
収縮及び膨張は2種の基本的な形態学的操作である。形態学的操作とは形状に基づく一連の画像処理操作である。構造要素を入力画像として出力画像を発生させる。具体的には、収縮は、境界点を削除して境界を内部へ収縮させるプロセスである。それによって小さくて意味のない物体を削除するために使用でき、本願の実施例では、収縮操作は、隣り合う非路面領域を融合するために使用される。膨張操作は、物体と接触するすべての背景点を該物体に融合して、境界を外部へ膨脹させるプロセスであり、本願の実施例では、膨張操作は、非路面領域の面積を回復させて、実際のサイズに近づけるようにするために使用される。フィルタリング操作は、画像についてメディアンフィルタリングを行うことができ、メディアンフィルタリング法は、非線形平滑化技術であり、各画素ドットのグレイ値を該点のある近所の窓内におけるすべての画素ドットのグレイ値の中間値として設定する。本願の実施例では、メディアンフィルタリングは、ノイズ干渉を解消するために使用される。
ステップ201〜ステップ202の具体的な実現過程をより明瞭に説明するために、図5に示されるように、本願の実施例には、検出対象画像から二値画像を取得して二値画像を前処理するための具体的な実現過程を提供する。ここで二値画像において黒色部分は非路面領域、白色部分は路面領域を示す。
実用されるとき、障害物領域に障害物が含まれていると直接決定すると、誤差が存在する可能性がある。つまり、地面領域を障害物領域として認識することによる誤検出が発生し、その結果、ステップ104において特定された障害物領域には実際に障害物が含まれていない。このため、図2又は図4に示される方法に基づいて、ステップ102の実現過程において地面領域を障害物検出領域として認識することによる誤検出をできるだけ避けるために、本願の実施例の一実施態様では、障害物領域に障害物が含まれているか否かをさらに決定するための具体的な実現過程が追加されている。このため、ステップ104において、前記少なくとも1つの非路面領域を障害物領域として特定した後、図6に示されるように、前記方法は、ステップ301〜ステップ303を含む。
301、それぞれの前記障害物領域の外接矩形枠を特定する。
302、外接矩形枠の4つの頂点の重心に対応した画素ドットの色成分値の差異を決定する。
303、前記差異を差異閾値と比較して、比較結果に基づいて前記障害物領域における障害物の有無を決定する。
前記差異が所定差異閾値より大きい又は所定差異閾値以上である場合、前記障害物領域に障害物が含まれていると決定する。前記差異が所定差異閾値未満又は所定差異閾値以下である場合、前記障害物領域に障害物が含まれていないと決定する。
一例として、図3に示される非地面領域3及び非地面領域4については、上記方法によって非地面領域3と非地面領域4に対応した領域を障害物が位置する領域として予備特定した後、それぞれ非地面領域3及び非地面領域4に対して、上記ステップ301〜303を実行して、それに障害物が含まれているか否かをさらに決定する必要がある。
上記ステップ301〜ステップ303によって、本願の実施例による障害物検出方法は、すべての障害物領域をそれぞれさらに検出して、誤検出を減少させることができる。
前記所定対応関係には、路面画素を含む以外、所定の種類のその他の実物と画素の色成分値との対応関係が含まれるようにしてもよい。
また、画素色成分がRGBである場合を例にすると、該所定分類ルールの一実施態様は表2に示されるとおりである。
なお、上記RGB値の範囲1、2、3及び4は例示的に説明するものに過ぎず、具体的に実現されるとき、該所定分類ルールは、実用されるときの各実物の画素を統計して分析した後、各種実物とそれに対応した画素情報との対応関係を確立して得られる。
該所定分類ルールはタイムリー更新可能であり、たとえば、1つの新しい種類の実物の画素情報が学習されると、該実物とその画素情報との対応関係を確立して所定分類ルールに記憶できる。
実用場面によって、たとえば、室内障害物検出用の所定分類ルール及び室外障害物検出用の所定分類ルールなど、それぞれ実用場面に対応した所定分類ルールを確立するようにしてもよい。室内障害物検出用の所定分類ルールには、通常、壁、机や椅子など、室内に一般的に見られる実物とその画素情報との対応関係が記憶されている。室外障害物検出用の所定分類ルールには、通常、交通標識ライン、樹木、建物、車両などとその画素情報との対応関係が記憶されている。このようにすると、障害物を検出する際、現在の場面に応じて当該場面に対応した所定ルールを呼び出し、該現在の場面を判断する具体的な実現過程については、たとえば従来技術における画像に基づく場面認識方法など、従来技術を参照すればよい。
上記方法の追加として所定分類ルールの上記実施態様と組み合わせ、障害物回避の意思決定のためにより全面的な意思決定情報を提供するために、本願の実施例では、ステップ104「前記少なくとも1つの非路面領域を障害物領域として特定する」又はステップ303を実行して、障害物領域に障害物が含まれていると決定した後、図7に示されるように、前記方法は、ステップ401をさらに含む。
401、それぞれ障害物の輪郭情報、位置情報及び障害物の種類を出力する。
前記障害物の種類は、前記障害物領域の画素の色成分値と前記所定対応関係から得られる。該障害物の種類を特定する実現過程は、ステップ201の実行と同時に実行されてもよく、ステップ101実行後であってステップ501実行前のほかの過程中に実行されてもよい。
本方法を図1に示されるシステムに適用する場合、障害物検出装置12は、ステップ401において取得した情報を意思決定装置に送信し、意思決定装置13はこれら情報に基づいて障害物回避の意思決定を行う。
以上から明らかなように、本願の実施例では、障害物が検出された後、それぞれ路面領域と障害物の輪郭情報、位置情報及び障害物の種類などの情報を決定でき、それによって、障害物回避の意思決定のためにより全面的な意思決定情報を提供する。
なお、ステップ102では、前記検出対象画像に含まれる画素情報に基づいて、前記検出対象画像を路面領域と非路面領域に分割した後、図8に示されるように、前記方法はさらにステップ501とステップ502とを含む。
501、路面領域中のすべての画素ドットを路面画素の平均信頼レベルとして決定する。
502、前記平均信頼レベルが所定の信頼レベル閾値未満である場合、改めて検出対象画像を取得する。
前記平均信頼レベルが所定の信頼レベル閾値未満である場合、検出対象画像に路面が含まれておらず、又は路面が含まれているが、路面の状況又は光照射などの原因により検出されていないことを示す。このため、改めて検出対象画像を取得する必要がある。改めて取得した検出対象画像は、撮影角度を変えて撮影した画像としてもよい。
当業者にとって明らかなように、本明細書に開示された実施例において説明する各例示的なユニットおよびアルゴリズムのステップに基づいて、本願はハードウェアまたはハードウェアとコンピュータソフトウェアの組み合わせとして実現できる。特定の機能がハードウェアによって実行されるか、コンピュータソフトウェアを利用してハードウェアを駆動する方式で実行されるかは、技術案の特定用途および設計の制限条件により決まる。当業者であれば、各特定の用途に応じて異なる方法により説明される機能を実現できるが、これら実現は本願の範囲に含まれる。
本願の実施例は、上記方法の例に応じて障害物検出装置の機能モジュールを分割することができ、たとえば、各機能に対応して各機能モジュールを分割してもよいし、2つまたは2つ以上の機能を1つの処理モジュールに集積させてもよい。上記集積モジュールは、ハードウェアの形態として実現されてもよく、ソフトウェア機能モジュールの形態として実現されてもよい。なお、本願の実施例によるモジュールの分割は模式的なものであり、ロジック機能による分割に過ぎず、実際に実現するときに別の分割方式としてもよい。
各機能に対応して各機能モジュールを分割する場合について、図9は上記実施例に係る障害物検出装置の一例の構造模式図を示しており、障害物検出装置12は、取得ユニット701、領域分割ユニット702、検出ユニット703及び障害物特定ユニット704を備える。障害物検出装置は、取得ユニット701を利用して図2における過程101、図8における過程501、502を実行し、領域分割ユニット702を利用して図2中における過程102、図4中における過程201及び202を実行し、検出ユニット703を利用して、図2中における過程103を実行し、障害物特定ユニット704を利用して、図3中における過程104、105、301−303及び図7中における過程401を実行する。上記方法の実施例に係る各ステップのすべての関連内容は対応した機能モジュールの機能の説明に引用できるため、ここで詳細な説明を省略する。
集積ユニットを用いる場合について、図10は、上記実施例に係る障害物検出装置の一例の構造模式図を示している。障害物検出装置12は、処理モジュール801及び通信モジュール802を備える。処理モジュール801は、障害物検出装置の動作を制御して管理し、たとえば、障害物検出装置は、処理モジュール801を利用して、図2中における過程101〜105、図4中における過程201〜202、図6における過程301〜303、図7中における過程401、図8中における過程501〜502及び/又は本明細書に説明された技術のほかの過程を実行する。障害物検出装置は、通信モジュール802を利用して、ほかのネットワークエンティティと通信し、たとえば図1中に示される機能モジュール又はネットワークエンティティと通信する。障害物検出装置12はさらに、障害物検出装置のプログラムコード及びデータを記憶するための記憶モジュール803を備えてもよい。
処理モジュール801は、プロセッサまたはコントローラ、たとえば中央プロセッサ(central processing unit、CPU)、汎用プロセッサ、デジタルシグナルプロセッサ(digital signal processor、DSP)、特定用途向け集積回路(application−specific integrated circuit、ASIC)、フィールド・プログラマブル・ゲート・アレイ(field programmable gate array、FPGA)またはほかのプログラマブルロジックデバイス、トランジスタロジックデバイス、ハードウェアコンポーネントまたはそれらの任意の組み合わせであってもよい。本願の開示内容において説明された各種例示的な論理ブロック、モジュールおよび回路を実現または実行できる。前記プロセッサは、計算機能を実現できる組み合わせとしてもよく、たとえば1つまたは複数のマイクロプロセッサの組み合わせ、DSPとマイクロプロセッサの組み合わせなどを含む。通信モジュール802は送受信器、送受信回路または通信インターフェースなどであってもよい。記憶モジュール803はメモリであってもよい。
処理モジュール801がプロセッサ、通信モジュール802が送受信器、記憶モジュール803がメモリである場合、本願の実施例に係る障害物検出装置は図11に示される障害物検出装置であってもよい。
図11に示されるように、該障害物検出装置12は、プロセッサ901、送受信器902、メモリ903およびバス904を備える。送受信器902、プロセッサ901およびメモリ903はバス904を介して互いに接続され、バス904は周辺機器相互接続標準(peripheral component interconnect、PCI)バスまたは拡張業界標準アーキテクチャ(extended industry standard architecture、EISA)バスなどとしてもよい。前記バスは、アドレスバス、データバス、制御バスなどに分類できる。表示し易さから、図11中に1本の太線で示されているが、1本のバスまたは1種のタイプのバスだけがあるとは限らない。
本願の開示内容において説明した方法またはアルゴリズムのステップはハードウェアの方式により実現されてもよいし、プロセッサでソフトウェア命令を実行する方式により実現されてもよい。本願の実施例はさらに記憶媒体を提供し、該記憶媒体はヒューマンマシンハイブリッド意思決定方法を実行するために設計されるプログラムコードを含む障害物検出装置用のコンピュータソフトウェア命令を記憶するメモリ903を含んでもよい。具体的には、ソフトウェア命令は対応したソフトウェアモジュールから構成でき、ソフトウェアモジュールはランダムアクセスメモリ(random access memory、RAM)、フラッシュメモリ、読み取り専用メモリ(read only memory、ROM)、消去可能プログラマブル読み出し専用メモリ(erasable programmable ROM、EPROM)、電気的消去可能プログラマブル読み取り専用メモリ(electrically EPROM、EEPROM)または本分野において公知する任意の形態の記憶媒体に格納できる。一例として、記憶媒体がプロセッサに結合され、それによってプロセッサは該記憶媒体から情報を読み取ったり、該記憶媒体に情報を書き込んだりすることができる。勿論、記憶媒体はプロセッサの構成部分であってもよい。プロセッサおよび記憶媒体はASICに配置できる。また、該ASICはコアネットワーク・インターフェース・デバイスに配置できる。勿論、プロセッサおよび記憶媒体は独立部品としてコアネットワーク・インターフェース・デバイスに存在してもよい。
本願の実施例はさらに、メモリ903に直接ロードでき、ソフトウェアコードを含み、コンピュータプログラムがコンピュータによりロードされて実行されると上記障害物検出方法を実行できるコンピュータプログラム製品を提供する。
以上は本願の特定の実施形態に過ぎず、本願の保護範囲がそれに制限されず、当業者が本願の開示した技術範囲から逸出することなく、容易に想到し得る変化または置換はすべて本願の保護範囲に属する。このため、本願の保護範囲は特許請求の範囲の保護範囲を基準にする。

Claims (13)

  1. 障害物検出方法であって、
    検出対象画像を取得するステップと、
    検出対象画像に含まれる画素情報に基づいて、前記検出対象画像を路面領域と非路面領域に分割するステップと、
    前記路面領域により囲まれた非路面領域を検出して、少なくとも1つの非路面領域が前記路面領域により囲まれている場合、前記少なくとも1つの非路面領域を障害物領域として特定するステップとを含み、
    前記少なくとも1つの非路面領域を障害物領域として特定する後、前記方法は、
    それぞれ各々の前記障害物領域の外接矩形枠を特定するステップと、
    外接矩形枠の4つの頂点に対応した各々の画素ドットの色成分値と前記外接矩形枠の重心に対応した画素ドットの色成分値の間のそれぞれの差異を決定するステップと、
    前記差異を差異閾値と比較して、比較結果に基づいて前記障害物領域における障害物の有無を決定するステップとをさらに含むことを特徴とする障害物検出方法。
  2. 前記路面領域により囲まれた非路面領域を検出する前記ステップは、
    前記路面領域の最外層の輪郭線内に位置する非路面領域の輪郭線を検出するステップを含み、
    少なくとも1つの非路面領域が前記路面領域により囲まれている場合、前記少なくとも1つの非路面領域を障害物領域として特定する前記ステップは、
    少なくとも1つの非路面領域の輪郭線が前記路面領域の最外層の輪郭線に含まれる領域内に位置する場合、前記少なくとも1つの非路面領域を障害物領域として特定するステップを含むことを特徴とする請求項1に記載の方法。
  3. 検出対象画像に含まれる画素情報に基づいて、前記検出対象画像を路面領域と非路面領域に分割する前記ステップは、
    前記検出対象画像中の各画素ドットの色成分及び路面画素に対応した色成分の値の範囲を含む所定対応関係に基づいて、各画素ドットを路面画素又は非路面画素として特定するステップと、
    前記路面画素の色を第1色、前記非路面画素の色を第2色として、前記検出対象画像に対応した二値画像を生成するステップとを含み、
    前記二値画像において第1色の領域が路面領域、第2色の領域が非路面領域であることを特徴とする請求項1又は2に記載の方法。
  4. 前記検出対象画像に対応した二値画像を生成する前記ステップは、
    前記二値画像に対して、収縮、膨張及びフィルタリング操作のうちの少なくとも1種を含む前処理を行い、処理後の二値画像を得るステップを含むことを特徴とする請求項3に記載の方法。
  5. 前記所定対応関係にさらに所定種類の実物と画素の色成分値との対応関係が含まれており、
    前記障害物領域に障害物が含まれていると決定した後、前記方法は、
    それぞれ障害物の輪郭情報、位置情報及び前記障害物領域の画素の色成分値と前記所定対応関係から得られた障害物の種類を出力するステップをさらに含むことを特徴とする請求項に記載の方法。
  6. 障害物検出装置であって、
    検出対象画像を取得する取得ユニットと、
    検出対象画像に含まれる画素情報に基づいて、前記取得ユニットにより取得した前記検出対象画像を路面領域と非路面領域に分割する領域分割ユニットと、
    前記路面領域により囲まれた非路面領域を検出する検出ユニットと、
    前記検出ユニットによって少なくとも1つの非路面領域が前記路面領域により囲まれていると検出すると、前記少なくとも1つの非路面領域を障害物領域として特定する障害物特定ユニットとを備え
    前記障害物特定ユニットはさらに、それぞれ各々の前記障害物領域の外接矩形枠を特定し、
    それぞれ各々の前記障害物領域の外接矩形枠を特定するステップと、
    外接矩形枠の4つの頂点に対応した各々の画素ドットの色成分値と前記外接矩形枠の重心に対応した画素ドットの色成分値の間のそれぞれの差異を決定し、
    前記差異を差異閾値と比較して、比較結果に基づいて前記障害物領域における障害物の有無を決定することを特徴とする障害物検出装置。
  7. 前記検出ユニットは、具体的には、前記路面領域の最外層の輪郭線内に位置する非路面領域の輪郭線を検出し、
    前記障害物特定ユニットは、具体的には、少なくとも1つの非路面領域の輪郭線が前記路面領域の最外層の輪郭線に含まれる領域内に位置する場合、前記少なくとも1つの非路面領域を障害物領域として特定することを特徴とする請求項に記載の装置。
  8. 前記領域分割ユニットは、具体的には、前記検出対象画像中の各画素ドットの色成分及び路面画素に対応した色成分の値の範囲を含む所定対応関係に基づいて、各画素ドットを路面画素又は非路面画素として特定し、
    前記路面画素の色を第1色、前記非路面画素の色を第2色として、前記検出対象画像に対応した二値画像を生成し、
    前記二値画像において第1色の領域が路面領域、第2色の領域が非路面領域であることを特徴とする請求項6又は7に記載の装置。
  9. 前記領域分割ユニットはさらに、前記二値画像に対して、収縮、膨張及びフィルタリング操作のうちの少なくとも1種を含む前処理を行い、処理後の二値画像を得ることを特徴とする請求項に記載の装置。
  10. 前記所定対応関係にさらに所定種類の実物と画素の色成分値との対応関係が含まれており、
    前記障害物特定ユニットはさらに、それぞれ障害物の輪郭情報、位置情報及び前記障害物領域の画素の色成分値と前記所定対応関係から得られた障害物の種類を出力する、ことを特徴とする請求項に記載の装置。
  11. コンピュータ記憶媒体であって、請求項1−のいずれか1項に記載の障害物検出方法を実行するために設計されたプログラムコードを含むコンピュータソフトウェア命令を記憶することを特徴とするコンピュータ記憶媒体。
  12. コンピュータ機器であって、
    コンピュータ実行可能コードを記憶するメモリと、前記コンピュータ機器と外部機器とのデータ伝送を行う通信インターフェースと、前記コンピュータ実行可能コードを実行して請求項1−のいずれか1項に記載の障害物検出方法を実行するように制御するプロセッサとを備えることを特徴とするコンピュータ機器。
  13. ロボットであって、請求項12に記載のコンピュータ機器を備えることを特徴とするロボット。
JP2019531669A 2016-12-19 2016-12-19 障害物検出方法及び装置 Active JP6710426B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2016/110786 WO2018112707A1 (zh) 2016-12-19 2016-12-19 障碍物检测方法及装置

Publications (2)

Publication Number Publication Date
JP2020501281A JP2020501281A (ja) 2020-01-16
JP6710426B2 true JP6710426B2 (ja) 2020-06-17

Family

ID=60485814

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019531669A Active JP6710426B2 (ja) 2016-12-19 2016-12-19 障害物検出方法及び装置

Country Status (4)

Country Link
US (1) US10997438B2 (ja)
JP (1) JP6710426B2 (ja)
CN (1) CN107454969B (ja)
WO (1) WO2018112707A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108181905A (zh) * 2018-01-03 2018-06-19 广东工业大学 一种无人驾驶汽车的障碍躲避方法及系统
CN108089203A (zh) * 2018-02-05 2018-05-29 弗徕威智能机器人科技(上海)有限公司 一种特殊障碍物检测方法
US10678255B2 (en) * 2018-02-14 2020-06-09 GM Global Technology Operations LLC Systems, methods and apparatuses are provided for enhanced surface condition detection based on image scene and ambient light analysis
CN109002039B (zh) * 2018-07-06 2021-04-06 达闼科技(北京)有限公司 避障提醒方法、相关装置及计算机可读存储介质
CN110738081B (zh) * 2018-07-19 2022-07-29 杭州海康威视数字技术股份有限公司 异常路况检测方法及装置
CN109596317B (zh) * 2018-12-25 2021-01-22 新华三技术有限公司 一种面板灯的检测方法及装置
CN110082354B (zh) * 2019-03-29 2021-03-26 同济大学 一种隧道衬砌浅层潜在剥落剥离红外探测装置
CN113495553A (zh) * 2020-03-19 2021-10-12 苏州科瓴精密机械科技有限公司 自动工作系统、自动行走设备及其控制方法及计算机可读存储介质
CN111445466B (zh) * 2020-04-01 2023-05-05 山东浪潮科学研究院有限公司 一种螺栓防漏拧检测方法及设备、介质
CN111538330B (zh) * 2020-04-09 2022-03-04 北京石头世纪科技股份有限公司 一种图像选取方法、自行走设备及计算机存储介质
CN113805571B (zh) * 2020-05-29 2024-03-12 苏州科瓴精密机械科技有限公司 机器人行走控制方法、系统,机器人及可读存储介质
CN111991198A (zh) * 2020-08-14 2020-11-27 天津唯拓科技有限责任公司 头戴式避障设备的控制方法与头戴式避障设备
CN112015181B (zh) * 2020-08-28 2021-08-10 上海高仙自动化科技发展有限公司 一种避障方法、装置、设备及计算机可读存储介质
CN112348067A (zh) * 2020-10-28 2021-02-09 北京兆芯电子科技有限公司 图像设备及图像处理方法
CN114494840A (zh) * 2020-11-09 2022-05-13 苏州科瓴精密机械科技有限公司 一种障碍物识别方法、装置、设备、介质及除草机器人
KR102297232B1 (ko) 2020-11-18 2021-09-03 주식회사 파인브이티 형태학적 영상처리를 활용한 이상 탐지 방법
CN113313052B (zh) * 2021-06-15 2024-05-03 杭州萤石软件有限公司 悬崖区域检测及移动机器人控制方法、装置及移动机器人
CN114723830B (zh) * 2022-03-21 2023-04-18 深圳市正浩创新科技股份有限公司 障碍物的识别方法、设备及存储介质
CN114694115A (zh) * 2022-03-24 2022-07-01 商汤集团有限公司 一种道路障碍物检测方法、装置、设备及存储介质
CN115546747B (zh) * 2022-08-29 2023-09-19 珠海视熙科技有限公司 一种路沿检测方法、装置、摄像设备以及存储介质
CN116843892B (zh) * 2023-08-02 2024-04-26 深圳市名通科技股份有限公司 Aoi场景轮廓识别方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6371604A (ja) * 1986-09-12 1988-04-01 Hideo Mori 領域分割したカラ−画像を使つて道路境界と障害物を検出する方式
JP3868876B2 (ja) * 2002-09-25 2007-01-17 株式会社東芝 障害物検出装置及び方法
JP2004246554A (ja) * 2003-02-13 2004-09-02 Zenrin Co Ltd 道路データ生成方法
JP5372680B2 (ja) * 2009-09-24 2013-12-18 日立オートモティブシステムズ株式会社 障害物検知装置
JP2011076214A (ja) * 2009-09-29 2011-04-14 Alps Electric Co Ltd 障害物検出装置
TWI419081B (zh) * 2009-12-29 2013-12-11 Univ Nat Taiwan Science Tech 提供擴增實境的標籤追蹤方法、系統與電腦程式產品
US9077958B2 (en) * 2010-08-30 2015-07-07 Honda Motor Co., Ltd. Road departure warning system
CN104111460B (zh) * 2013-04-22 2018-02-23 苏州宝时得电动工具有限公司 自动行走设备及其障碍检测方法
CN103413308B (zh) * 2013-08-01 2016-07-06 东软集团股份有限公司 一种障碍物检测方法和装置
EP3541071A1 (en) * 2013-08-02 2019-09-18 Xactware Solutions Inc. System and method for detecting features in aerial images using disparity mapping and segmentation techniques
CN104574365B (zh) * 2014-12-18 2018-09-07 中国科学院计算技术研究所 障碍物检测装置及方法
WO2017079702A1 (en) * 2015-11-05 2017-05-11 Google Inc. Edge-aware bilateral image processing
CN105701844B (zh) * 2016-01-15 2018-11-27 苏州大学 基于颜色特征的障碍物或阴影检测方法
US10510146B2 (en) * 2016-10-06 2019-12-17 Qualcomm Incorporated Neural network for image processing
CN109804223A (zh) * 2016-10-11 2019-05-24 御眼视觉技术有限公司 基于检测到的障碍物导航车辆

Also Published As

Publication number Publication date
CN107454969B (zh) 2019-10-29
JP2020501281A (ja) 2020-01-16
CN107454969A (zh) 2017-12-08
US10997438B2 (en) 2021-05-04
WO2018112707A1 (zh) 2018-06-28
US20190303692A1 (en) 2019-10-03

Similar Documents

Publication Publication Date Title
JP6710426B2 (ja) 障害物検出方法及び装置
CN107636680B (zh) 一种障碍物检测方法及装置
Wu et al. Lane-mark extraction for automobiles under complex conditions
WO2021051601A1 (zh) 利用Mask R-CNN选择检测框的方法及系统、电子装置及存储介质
Yuan et al. Robust lane detection for complicated road environment based on normal map
CN110378837B (zh) 基于鱼眼摄像头的目标检测方法、装置和存储介质
US8934669B2 (en) Self-adaptive image-based obstacle detection method
KR20130032856A (ko) 영상 감시 장치 및 영상 감시 방법
WO2020181426A1 (zh) 一种车道线检测方法、设备、移动平台及存储介质
CN105447892A (zh) 车辆偏航角的确定方法及装置
Youjin et al. A robust lane detection method based on vanishing point estimation
CN112949507A (zh) 人脸检测方法、装置、计算机设备及存储介质
CN110399807B (zh) 检测地面障碍物的方法、装置、可读存储介质及电子设备
CN112270745B (zh) 一种图像生成方法、装置、设备以及存储介质
CN103810696A (zh) 一种目标对象图像检测方法及装置
CN111723723A (zh) 一种图像检测方法及装置
CN110673607B (zh) 动态场景下的特征点提取方法、装置、及终端设备
FAN et al. Robust lane detection and tracking based on machine vision
Balisavira et al. Real-time object detection by road plane segmentation technique for ADAS
WO2023216555A1 (zh) 基于双目视觉的避障方法、装置、机器人及介质
CN112001336A (zh) 行人越界报警方法、装置、设备及系统
US20200219280A1 (en) Attachable matter detection apparatus
LU501796B1 (en) Intelligent calculation method of multi-camera earthwork coverage based on blockchain technology
CN110135224B (zh) 一种监控视频的前景目标提取方法及系统、存储介质及终端
CN112529953B (zh) 电梯的空间状态判断方法、装置及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190819

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190613

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20190715

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190613

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20191128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200309

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200501

R150 Certificate of patent or registration of utility model

Ref document number: 6710426

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250