JP2023146155A - 白線認識装置、移動体の制御システム、白線認識方法、およびプログラム - Google Patents

白線認識装置、移動体の制御システム、白線認識方法、およびプログラム Download PDF

Info

Publication number
JP2023146155A
JP2023146155A JP2022053188A JP2022053188A JP2023146155A JP 2023146155 A JP2023146155 A JP 2023146155A JP 2022053188 A JP2022053188 A JP 2022053188A JP 2022053188 A JP2022053188 A JP 2022053188A JP 2023146155 A JP2023146155 A JP 2023146155A
Authority
JP
Japan
Prior art keywords
white line
linear
line recognition
outline
recognized
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022053188A
Other languages
English (en)
Inventor
涼至 若山
Ryoji Wakayama
隆志 松本
Takashi Matsumoto
英樹 松永
Hideki Matsunaga
航輝 相澤
Koki Aizawa
健登 白方
Kento SHIRAKATA
祐之介 倉光
Yunosuke KURAMITSU
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP2022053188A priority Critical patent/JP2023146155A/ja
Priority to CN202310273487.XA priority patent/CN116895054A/zh
Priority to US18/125,164 priority patent/US20230316779A1/en
Publication of JP2023146155A publication Critical patent/JP2023146155A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W10/00Conjoint control of vehicle sub-units of different type or different function
    • B60W10/20Conjoint control of vehicle sub-units of different type or different function including control of steering systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/026Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring distance between sensor and object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/809Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

Figure 2023146155000001
【課題】白線の誤認識を抑制することができる白線認識装置、移動体の制御システム、白線認識方法、およびプログラムを提供すること。
【解決手段】単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識する白線認識部と、前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出する線状物体検出部と、を備え、前記白線認識部は、前記線状物体の位置に対応する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにする、白線認識装置。
【選択図】図1

Description

本発明は、白線認識装置、移動体の制御システム、白線認識方法、およびプログラムに関する。
従来、カメラ画像から線状物体を抽出して段差を抽出する発明が開示されている(特許文献1)。また、三次元点群データから車道、センターライン、白線、縁石、歩道を見分ける発明が開示されている(特許文献2)。
特開2021-135596号公報 特開2019-190975号公報
近年では車道だけでなく歩道を移動可能な移動体について実用化が進められているが、従来の技術では、特に歩道が関与する空間における白線の誤認識の可能性について十分に検討されていなかった。
本発明は、このような事情を考慮してなされたものであり、白線の誤認識を抑制することができる白線認識装置、移動体の制御システム、白線認識方法、およびプログラムを提供することを目的の一つとする。
この発明に係る白線認識装置、移動体の制御システム、白線認識方法、およびプログラムは、以下の構成を採用した。
(1):この発明の一態様に係る白線認識装置は、単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識する白線認識部と、前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出する線状物体検出部と、を備え、前記白線認識部は、前記線状物体の位置に対応する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにするものである。
(2):上記(1)の態様において、前記白線認識部は、前記線状物体の位置を前記画像の画像平面に射影して線状領域を導出し、前記線状領域に合致する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにするものである。
(3):上記(1)または(2)の態様において、前記白線認識部は、認識した前記線状の特徴箇所に対応する空間領域において前記線状物体を検索し、前記空間領域に前記線状物体が存在する場合、当該線状の特徴箇所を、前記白線の輪郭と認識しないようにするものである。
(4):上記(1)から(3)のいずれかの態様において、前記測距センサの出力は、色彩を認識可能な情報であり、前記白線認識部は、白色の前記線状物体の位置に対応する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにするものである。
(5):上記(1)から(4)のいずれかの態様の白線認識装置と、前記白線認識部が認識した白線に基づいて移動体の移動制御を行う制御装置と、を備える移動体の制御システムである。
(6):本発明の他の態様に係る白線認識方法は、白線認識装置を用いて実行される白線認識方法であって、単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識することと、前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出することと、を備え、前記認識することは、前記線状の特徴箇所を、前記白線の輪郭と認識しないようにすることを含むものである。
(7):本発明の他の態様に係るプログラムは、コンピュータに、単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識することと、前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出することと、を実行させるプログラムであって、前記認識することは、前記線状の特徴箇所を、前記白線の輪郭と認識しないようにすることを含むものである。
(1)~(7)の態様によれば、白線の誤認識を抑制することができる。
実施形態に係る移動体1および制御装置100の構成の一例を示す図である。 移動体1を上方から見た透視図である。 歩道と車道の境界越しに、車道に描画された白線を認識する場面を例示した図である。 図3に示す場面において、移動体1の単眼カメラ10Aが撮像する撮像画像IM1の一例を示す図である。 方法1について説明するための図である。 方法2について説明するための図である。
以下、図面を参照し、本発明の白線認識装置、移動体の制御システム、白線認識方法、およびプログラムの実施形態について説明する。白線認識装置は、例えば移動体に搭載される。移動体とは、例えば、車道と、車道と異なる所定領域との双方を移動するものである。移動体は、マイクロモビリティと称される場合がある。電動キックボードはマイクロモビリティの一種である。また、移動体は乗員が搭乗可能な乗物であってもよいし、無人での自律走行が可能な自律移動体であってもよい。後者の自律移動体は、例えば、荷物等を運搬する用途に用いられる。これに代えて、移動体は専ら車道を移動する車両や二輪車等であってもよい。白線認識装置は、特に歩道を移動する移動体に好適に適用されるものである。
所定領域とは、例えば歩道である。また、所定領域とは、路側帯や自転車レーン、公開空地などのうち一部または全部であってもよいし、歩道、路側帯、自転車レーン、公開空地などを全て含んでもよい。以下の説明では、所定領域は歩道であるものとする。以下の説明において「歩道」と記載されている部分は、適宜、「所定領域」と読み替えることができる。
図1は、実施形態に係る移動体1および制御装置100の構成の一例を示す図である。移動体1には、例えば、外界検知デバイス10と、移動体センサ12と、操作子14と、内部カメラ16と、測位装置18と、モード切替スイッチ22と、移動機構30と、駆動装置40と、外部報知装置50と、記憶装置70と、制御装置100とが搭載される。なお、これらの構成のうち本発明の機能を実現するのに必須でない一部の構成が省略されてもよい。移動体は、乗物に限らず、歩くユーザと並走して荷物を運んだり、人を先導したりするような小型モビリティを含んでよく、また、その他の自律移動が可能な移動体(例えば歩行型ロボットなど)を含んでもよい。
外界検知デバイス10は、移動体1の進行方向を検知範囲とする各種デバイスである。外界検知デバイス10は、例えば、単眼カメラ10Aと、測距センサ10Bとを含む。外界検知デバイス10は、更に、レーダー装置、LIDAR(Light Detection and Ranging)、センサフュージョン装置などを含んでもよい。外界検知デバイス10は、検知結果を示す情報(画像、物体の位置等)を制御装置100に出力する。
単眼カメラ10Aは、移動体1の進行方向の空間を撮像し、RGB画像または白黒画像を出力する。単眼カメラ10Aの出力する画像は、空間内の反射物を二次元の画像空間に射影したものである。
測距センサ10Bは、単眼カメラ10Aと同じ方向の空間を検出範囲とし、空間情報を出力する。例えば、測距センサ10Bはステレオカメラであり、空間情報は各画素(反射点)に関して測距センサ10Bからの距離が付加された距離画像である。距離画像は、データ形式としては画像の形態をしているが、三次元空間の情報を表すものである。ステレオカメラを構成する一つのカメラとして単眼カメラ10Aが共用されてもよい。また、測距センサ10BはLIDARであり、空間情報は三次元点群データであってもよい。いずれの場合も、空間情報を構成する点(画素)には、色彩ないし輝度の情報が付加されてもよいし、されなくてもよい。以下の説明では、測距センサ10Bはステレオカメラであるものとする。
移動体センサ12は、例えば、速度センサ、加速度センサ、ヨーレート(角速度)センサ、方位センサ、並びに操作子14に取り付けられた操作量検出センサなどを含む。操作子14は、例えば、加減速を指示するための操作子(例えばアクセルペダルやブレーキペダル)と、操舵を指示するための操作子(例えばステアリングホイール)とを含む。この場合、移動体センサ12は、アクセル開度センサやブレーキ踏量センサ、ステアリングトルクセンサ等を含んでよい。移動体1は、操作子14として、上記以外の態様の操作子(例えば、円環状でない回転操作子、ジョイスティック、ボタン等)を備えてもよい。
内部カメラ16は、移動体1の乗員の少なくとも頭部を正面から撮像する。内部カメラ16は、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子を利用したデジタルカメラである。内部カメラ16は、撮像した画像を制御装置100に出力する。
測位装置18は、移動体1の位置を測位する装置である。測位装置18は、例えば、GNSS(Global Navigation Satellite System)受信機であり、GNSS衛星から受信した信号に基づいて、移動体1の位置を特定し、位置情報として出力する。なお、移動体1の位置情報は、後述する通信装置が接続しているWi-Fi基地局の位置から推定されてもよい。
モード切替スイッチ22は、乗員により操作されるスイッチである。モード切替スイッチ22は、機械式スイッチであってもよいし、タッチパネル上に設定されるGUI(Graphical User Interface)スイッチであってもよい。モード切替スイッチ22は、例えば、モードA:乗員により操舵操作と加減速制御との一方が行われ、他方は自動的に行われるアシストモードであり、乗員により操舵操作が行われ加減速制御が自動的に行われるモードA-1と、乗員により加減速操作が行われ操舵制御が自動的に行われるモードA-2とがあってよい、モードB:乗員により操舵操作および加減速操作がなされる手動運転モード、モードC:操作制御および加減速制御が自動的に行われる自動運転モードのいずれかに運転モードを切り替える操作を受け付ける。
移動機構30は、道路において移動体1を移動させるための機構である。移動機構30は、例えば、操舵輪と駆動輪とを含む車輪群である。また、移動機構30は、多足歩行するための脚部であってもよい。
駆動装置40は、移動機構30に力を出力して移動体1を移動させる。例えば、駆動装置40は、駆動輪を駆動するモータ、モータに供給する電力を蓄えるバッテリ、操舵輪の操舵角を調整する操舵装置などを含む。駆動装置40は、駆動力出力手段、或いは発電手段として、内燃機関や燃料電池などを備えてもよい。また、駆動装置40は、摩擦力や空気抵抗によるブレーキ装置を更に備えてもよい。
外部報知装置50は、例えば移動体1の外板部に設けられ、移動体1の外部に向けて情報を報知するためのランプ、ディスプレイ装置、スピーカなどである。外部報知装置50は、移動体1が歩道を移動している状態と、車道を移動している状態とで異なる動作を行う。例えば、外部報知装置50は、移動体1が歩道を移動している場合にランプを発光させ、移動体1が車道を移動している場合にランプを発光させないように制御される。このランプの発光色は、法規で定められた色であると好適である。外部報知装置50は、移動体1が歩道を移動している場合にランプを緑色で発光させ、移動体1が車道を移動している場合にランプを青色で発光させるというように制御されてもよい。外部報知装置50がディスプレイ装置である場合、外部報知装置50は、移動体1が歩道を走行している場合に「歩道走行中である」旨をテキストやグラフィックで表示する。
図2は、移動体1を上方から見た透視図である。図中、FWは操舵輪、RWは駆動輪、SDは操舵装置、MTはモータ、BTはバッテリである。操舵装置SD、モータMT、バッテリBTは駆動装置40に含まれる。また、APはアクセルペダル、BPはブレーキペダル、WHはステアリングホイール、SPはスピーカ、MCはマイクである。図示する移動体1は一人乗りの移動体であり、乗員Pは運転席DSに着座してシートベルトSBを装着している。矢印D1は移動体1の進行方向(速度ベクトル)である。外界検知デバイス10は移動体1の前端部付近に、内部カメラ16は乗員Pの前方から乗員Pの頭部を撮像可能な位置に、モード切替スイッチ22はステアリングホイールWHのボス部にそれぞれ設けられている。また、移動体1の前端部付近に、ディスプレイ装置としての外部報知装置50が設けられている。
図1に戻り、記憶装置70は、例えば、HDD(Hard Disk Drive)やフラッシュメモリ、RAM(Random Access Memory)などの非一過性の記憶装置である。記憶装置70には、地図情報72、制御装置100が実行するプログラム74、後述する対応情報76などが格納される。図では記憶装置70を制御装置100の枠外に記載しているが、記憶装置70は制御装置100に含まれるものであってよい。また、記憶装置70は不図示のサーバ上に設けられてもよい。
[制御装置]
制御装置100は、例えば、道路タイプ認識部120と、物体認識部130と、制御部140とを備える。物体認識部130は、白線認識部132と、線状物体検出部134とを備える。これらの構成要素は、例えば、CPU(Central Processing Unit)などのハードウェアプロセッサがプログラム(ソフトウェア)74を実行することにより実現される。これらの構成要素のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、GPU(Graphics Processing Unit)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予め記憶装置70に格納されていてもよいし、DVDやCD-ROMなどの着脱可能な記憶媒体(非一過性の記憶媒体)に格納されており、記憶媒体がドライブ装置に装着されることで記憶装置70にインストールされてもよい。白線認識部132と線状物体検出部134を合わせたものが白線認識装置の一例である。実施例では白線認識装置が制御装置100の内部機能であるものとしているが、白線認識装置は独立した装置であってもよい。
道路タイプ認識部120は、移動体1が車道を移動しているか、歩道を移動しているかを認識する。道路タイプ認識部120は、例えば、外界検知デバイス10の外部カメラが撮像した画像を解析することで、移動体1が車道を移動しているか、歩道を移動しているかを認識する。なお、レーダー装置、LIDAR、センサフュージョン装置等の出力が補助的に用いられてもよい。
道路タイプ認識部120は、外部カメラが撮像した画像において、移動体1が車道を移動していることを示す複数の第1事象のそれぞれを認識した度にポイントを車道スコアSrに加算し、車道スコアSrが第1閾値以上である場合に、移動体1が車道を移動していると認識する。第1事象は、例えば、(A)自領域(つまり移動体1が存在する領域の外縁部よりも内側)に、車両以外の静的障害物が存在しないこと、(B)自領域において車両が移動していること、(C)自領域の路面に路面標示が存在すること、(D)自領域に横断歩道が存在すること、(E)自領域が段差に対して下段側にあること等である。道路タイプ認識部120は、複数の第1事象のそれぞれを認識した際の確信度に応じてポイントに重み付けして、車道スコアSrに加算する。第1事象のそれぞれに対応したポイントをP1~Pnとする(nは自然数であり、第1事象として想定された事象の数に等しい)。ポイントP1~Pnは同じ値であってもよいし、第1事象の種類に応じて異なる値であってもよい。また、認識処理の確信度に応じた重みをα1~αnとする。認識処理の確信度は、第1事象を認識する処理(例えば機械学習による学習済モデルを用いた判別処理を含む)の中で、付随的に出力されるものである。車道スコアSrは式(1)で表される。
Sr=α1×P1+α1+P2+…+αn×Pn …(1)
(対応する第1事象kが認識されない場合、Pk=0(k=1~n))
但し、道路タイプ認識部120は、外部カメラが撮像した画像において、移動体1が歩道を移動していることを示す複数の第2事象のいずれかを認識した場合、車道スコアSrに関わらず移動体1が歩道を移動していると認識する。第2事象は、例えば、(a)外部カメラによって、ガードレールの二つの面のうち歩道側に向けられる第2面が撮像されたこと、(b)自領域の路面に点字ブロックが存在すること、(c)自領域に、車両以外の静的障害物が存在すること、(d)自領域が段差に対して上段側にあること等である。
道路タイプ認識部120は、移動体1の位置情報と地図情報72とを照合し、移動体1が車道を移動しているか、歩道を移動しているかを認識してもよい。この場合の地図情報は、位置座標から歩道と車道が区別できる程度の精度を有している必要がある。また、「所定領域」が歩道だけで無い場合、道路タイプ認識部120は、路側帯や自転車レーン、公開空地などについても同様の処理を行う。
物体認識部130は、外界検知デバイス10の出力に基づいて、移動体1の周辺に存在する物体を認識する。物体とは、車両や自転車、歩行者などの移動体、道路区画線、段差、ガードレール、路肩、中央分離帯などの走路境界、道路標識や看板などの路上に設置された構造物、走路上に存在する(落ちている)落下物などの障害物のうち一部または全部を含む。物体認識部130は、例えば、外界検知デバイス10の外部カメラが撮像した画像が入力されると物体の存在、位置、種別などの情報を出力するように学習された学習済モデルに、外部カメラの撮像した画像を入力することで、他の移動体の存在、位置、種別など情報を取得する。他の移動体の種別は、画像におけるサイズや外界検知デバイス10のレーダー装置が受信する反射波の強度などに基づいて推定することもできる。また、物体認識部130は、例えば、レーダー装置がドップラーシフトなどを利用して検出した他の移動体の速度を取得する。白線認識部132と線状物体検出部134の機能については後述する。
制御部140は、例えば、設定されている運転モードに応じて駆動装置40を制御する。なお、移動体1は、下記の運転モードのうち一部のみ実行するものであってよいが、制御部140は、いずれの場合も、移動体1が車道を移動する場合と歩道を移動する場合とで速度制限値を異ならせる。その場合、モード切替スイッチ22は省略されてよい。
モードA-1において制御部140は、物体認識部130の出力に基づく走路と物体の情報を参照し、移動体1が車道を移動する場合、移動体1の前方に存在する物体との距離を一定以上に維持し、移動体1の前方に存在する物体との距離が十分に長い場合は第1速度V1(例えば、十[km/h]以上、数十[km/h]未満の速度)で移動体1が移動するように、駆動装置40のモータMTを制御する。制御部140は、移動体1が歩道を移動する場合、移動体1の前方に存在する物体との距離を一定以上に維持し、移動体1の前方に存在する物体との距離が十分に長い場合は第2速度V2(例えば、十[km/h]未満の速度)で移動体1が移動するように、駆動装置40のモータMTを制御する。係る機能は、第1速度V1または第2速度V2を設定速度とした車両のACC(Adaptive Cruise Control)機能と同様のものであり、ACCにおいて用いられている技術を利用することができる。また、モードA-1において制御部140は、ステアリングホイール等の操作子14の操作量に基づいて操舵輪の操舵角を変更するように操舵装置SDを制御する。係る機能は、パワーステアリング装置の機能と同様のものであり、パワーステアリング装置において用いられている技術を利用することができる。なお操舵に関して電子制御を行わず、移動体1は、操作子14と操舵機構が機械的に連結された操舵装置を有してもよい。
モードA-2において、制御部140は、物体認識部130の出力に基づく走路と物体の情報を参照し、走路内で物体を回避して移動可能な目標軌道を生成し、移動体1が目標軌道に沿って移動するように駆動装置40の操舵装置SDを制御する。加減速に関しては、制御部140は、移動体1の速度とアクセルペダルまたはブレーキペダルの操作量とに基づいて駆動装置40のモータMTを制御する。制御部140は、移動体1が車道を移動している場合は第1速度V1を上限速度として駆動装置40のモータMTを制御し(モードA-2の場合、上限速度に達した場合は更なる加速指示があっても移動体1を加速させないことを意味する)、移動体1が歩道を移動している場合は第2速度V2を上限速度として駆動装置40を制御する。
モードBにおいて制御部140は、移動体1の速度とアクセルペダルまたはブレーキペダルの操作量とに基づいて駆動装置40のモータMTを制御する。制御部140は、移動体1が車道を移動している場合は第1速度V1を上限速度として駆動装置40のモータMTを制御し(モードBの場合、上限速度に達した場合は更なる加速指示があっても移動体1を加速させないことを意味する)、移動体1が歩道を移動している場合は第2速度V2を上限速度として駆動装置40のモータMTを制御する。操舵に関してはモードA-1と同様である。
モードCにおいて制御部140は、物体認識部130の出力に基づく走路と物体の情報を参照し、走路内で物体を回避して移動可能な目標軌道を生成し、移動体1が目標軌道に沿って移動するように駆動装置40を制御する。モードCにおいても、制御部140は、移動体1が車道を移動している場合は第1速度V1を上限速度として駆動装置40を制御し、移動体1が歩道を移動している場合は第2速度V2を上限速度として駆動装置40を制御する。
[白線認識]
以下、白線認識部132と線状物体検出部134の機能について説明する。白線認識部132は、例えば、単眼カメラ10Aの撮像画像における着目領域において、左右方向の輝度差が閾値以上の横エッジを抽出し、直線または曲線状に並ぶ横エッジを直線または曲線に見立たものであり、画像の上死点に向かって伸びる線状の特徴箇所を、白線の輪郭候補として検出する。そして、白線認識部132は、輪郭候補で囲まれ、且つ短手方向の幅が白線として想定される範囲内の幅である領域を白線と認識し、撮像画像の画像平面から、移動体1の上空から見た仮想平面に白線の位置を射影した情報を制御部140に出力する。
ここで、移動体1は歩道を移動可能なものであり、歩道から車道に移動しようとする場面が想定される。従って、移動体1においては、歩道と車道の境界越しに、車道に描画された白線を認識する場面が生じ得る。図3は、係る場面を例示した図である。この場面において、移動体1は、歩道200を移動しており、歩道200と車道202の間に設けられた段差204が緩和された連絡部206を通って、車道202に移動しようとしている。段差204の歩道側には、ガードパイプ208が設けられている。ガードパイプ208は、歩道と車道の境界に設けられる細い柵である。このような場面の他にも、移動体1は車道から歩道に移動し、その後で反対側の車道に移動するような場面も想定される。このように、移動体1では、歩道が関与する空間で白線を認識するケースが生じる。
図4は、図3に示す場面において、移動体1の単眼カメラ10Aが撮像する撮像画像IM1の一例を示す図である。ガードパイプ208は、例えば、複数の支柱208Aと、支柱208Aの間に水平に懸架される一以上のメインパイプ部208B(図では208B1、208B2、208B3の3つ)とで構成される。撮像画像IM1には、3つの白線210-1、210-2、210-3が写っている(白線210-2は破線)。メインパイプ部208Bのそれぞれは、(1)道路に沿って延在している、(2)歩道から見た幅が白線に近い、(3)白色のものが多い、などの理由で、コンピュータの画像処理において白線と混同されやすい特性を持っている。このため、歩道200から車道202に移動した後に、車道202内を移動するに際して移動体1の移動制御の参考にすべき左右の白線210-1、210-2の位置を正しく認識できないことがあり得る。
そこで、実施形態では、線状物体検出部134が、路面から離間して存在する(宙に浮いている)線状物体を検出し、白線認識部132が、線状物体の位置に対応する線状の特徴箇所を、白線の輪郭として認識しないようにすることで、メインパイプ部208Bなどの白線と混同しやすい物体によって、白線認識において誤認識が生じるのを抑制する。「白線の輪郭として認識しないようにする」とは、原則として白線の輪郭として認識しないことを意味し、例えば、線状の特徴箇所のうち中間部分のみが線状物体の位置に対応し、両端部が線状物体の位置に対応しないような場合、単眼カメラ10Aから見た白線の位置と線状物体とが偶然に重なっていることが想定される。このような場合に、白線認識部132は、直ちに「白線の輪郭でない」と判断するのではなく、周囲との繋がりから白線の輪郭である蓋然性が十分に高ければ、白線の輪郭として認識しても構わない。以下、「白線の輪郭として認識しないようにする」ことを、「認識結果から除外する」とも称する。
線状物体検出部134は、記憶装置70に記憶されている対応情報76を参照し、測距センサ10Bの出力する空間情報に基づいて線状物体を検出する。
空間情報が距離画像の形式となっている場合(以下、これを空間情報画像と称する)、対応情報は、空間情報画像の座標のそれぞれに対応し、路面が光の反射点として検出されたと仮定した場合の距離(以下、基準距離1)を表す情報である。この場合、線状物体検出部134は、空間情報画像の各座標から、距離が基準距離1よりも小さい座標を抽出し、所定幅で直線状または曲線状に延在する一群の座標が構成する物標を、線状物体として検出する。
空間情報が三次元点群の形式となっている場合、対応情報は、測距センサ10Bから見た方向(方位角、俯角または仰角)と、路面が光の反射点として検出されたと仮定した場合の距離(以下、基準距離2)を表す情報である。この場合、線状物体検出部134は、三次元点群を構成する各点から、距離が基準距離2よりも小さい点を抽出し、所定幅で直線状または曲線状に延在する一群の点が構成する物標を、線状物体として検出する。
なお、空間情報が色彩の情報を含む場合、線状物体検出部134が白色でない線状物体を検出した場合、白線認識部132は、当該白色でない線状物体について特段、認識結果から除外する処理を行わなくてもよい。白色でない線状物体は白線と混同する確率が低いからである。
線状物体の位置に対応する線状の特徴箇所を認識結果から除外する方法について、例えば以下の二つの方法が考えられる。(方法1)例えば、白線認識部132は、線状物体の位置を撮像画像IM1の画像平面に射影して線状領域を導出し、線状領域に合致する線状の特徴箇所を、認識結果から除外する。図5は、方法1について説明するための図である。射影に必要なパラメータは、単眼カメラ10Aの取り付け位置、光軸方向、歪み度合い等と、測距センサ10Bの取り付け位置、光軸方向、歪み度合い等であり、白線認識部132は、それらの物理的関係から求められた射影のための関数を用いて射影を行う。線状物体の位置は、空間情報画像の座標軸で表される場合もあり、三次元空間の座標軸で表される場合もあり得る。いずれの場合も、撮像画像IM1の画像平面に線状物体を射影することで、「仮に線状物体が撮像画像IM1上にあった場合に、どこにあるのか」という情報を取得することができる。
(方法2)白線認識部132は、認識した撮像画像IM1上の白線に対応する空間領域(空間情報を構成する座標軸上の領域;上記射影の逆の処理を行うことで取得される)において線状物体を検索し、空間領域に線状物体が存在する場合、当該線状の特徴箇所を認識結果から除外する。図6は、方法2について説明するための図である。図示するように、白線認識部132は、撮像画像IM1における線状の特徴箇所の位置を空間情報に逆射影して得られる検索領域に線状物体が存在するか否かを検索し、存在する場合に、ヒットした検索領域に対応する線状の特徴箇所を認識結果から除外する。
このようにして線状物体を除外することで誤認識が低減された白線の認識結果は、制御部140による駆動装置40の制御に用いられる。例えば、モードA-2やモードCにおいて制御部140は、認識された白線で区画される車線内に収まるように目標軌道を生成する。
以上説明した実施形態によれば、単眼カメラ10Aが撮像した撮像画像IM1において、路面に描画された白線を認識する白線認識部132と、単眼カメラ10Aと同方向を少なくとも検出範囲とするように設けられた測距センサ10Bの出力に基づいて、路面から離間して存在する線状物体を検出する線状物体検出部134と、を備え、白線認識部132は、線状物体の位置に対応する白線を、認識結果から除外するため、白線の誤認識を抑制することができる。
上記説明した実施形態は、以下のように表現することができる。
コンピュータによって読み込み可能な命令(computer-readable instructions)を格納する記憶媒体(storage medium)と、
前記記憶媒体に接続されたプロセッサと、を備え、
前記プロセッサは、前記コンピュータによって読み込み可能な命令を実行することにより(the processor executing the computer-readable instructions to:)
単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識することと、
前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出することと、を実行し、
前記認識することは、前記線状の特徴箇所を、前記白線の輪郭と認識しないようにすることを含む、
白線認識装置。
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。
10 外界検知デバイス
10A 単眼カメラ
10B 測距センサ
12 移動体センサ
14 操作子
16 内部カメラ
18 測位装置
22 モード切替スイッチ
30 移動機構
40 駆動装置
50 外部報知装置
70 記憶装置
76 対応情報
100 制御装置
120 道路タイプ認識部
130 物体認識部
132 白線認識部
134 線状物体検出部
140 制御部

Claims (7)

  1. 単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識する白線認識部と、
    前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出する線状物体検出部と、を備え、
    前記白線認識部は、前記線状物体の位置に対応する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにする、
    白線認識装置。
  2. 前記白線認識部は、前記線状物体の位置を前記画像の画像平面に射影して線状領域を導出し、前記線状領域に合致する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにする、
    請求項1記載の白線認識装置。
  3. 前記白線認識部は、認識した前記線状の特徴箇所に対応する空間領域において前記線状物体を検索し、前記空間領域に前記線状物体が存在する場合、当該線状の特徴箇所を、前記白線の輪郭と認識しないようにする、
    請求項1または2記載の白線認識装置。
  4. 前記測距センサの出力は、色彩を認識可能な情報であり、
    前記白線認識部は、白色の前記線状物体の位置に対応する前記線状の特徴箇所を、前記白線の輪郭と認識しないようにする、
    請求項1から3のうちいずれか1項記載の白線認識装置。
  5. 請求項1から4のうちいずれか1項記載の白線認識装置と、
    前記白線認識部が認識した白線に基づいて移動体の移動制御を行う制御装置と、
    を備える移動体の制御システム。
  6. 白線認識装置を用いて実行される白線認識方法であって、
    単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識することと、
    前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出することと、を備え、
    前記認識することは、前記線状の特徴箇所を、前記白線の輪郭と認識しないようにすることを含む、
    白線認識方法。
  7. コンピュータに、
    単眼カメラが撮像した画像に存在する線状の特徴箇所を、路面に描画された白線の輪郭と認識することと、
    前記単眼カメラと同方向を少なくとも検出範囲とするように設けられた測距センサの出力に基づいて、路面から離間して存在する線状物体を検出することと、を実行させるプログラムであって、
    前記認識することは、前記線状の特徴箇所を、前記白線の輪郭と認識しないようにすることを含む、
    プログラム。
JP2022053188A 2022-03-29 2022-03-29 白線認識装置、移動体の制御システム、白線認識方法、およびプログラム Pending JP2023146155A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022053188A JP2023146155A (ja) 2022-03-29 2022-03-29 白線認識装置、移動体の制御システム、白線認識方法、およびプログラム
CN202310273487.XA CN116895054A (zh) 2022-03-29 2023-03-17 白线识别装置及方法、移动体的控制系统及存储介质
US18/125,164 US20230316779A1 (en) 2022-03-29 2023-03-23 White line recognition device, mobile object control system, and white line recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022053188A JP2023146155A (ja) 2022-03-29 2022-03-29 白線認識装置、移動体の制御システム、白線認識方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2023146155A true JP2023146155A (ja) 2023-10-12

Family

ID=88193232

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022053188A Pending JP2023146155A (ja) 2022-03-29 2022-03-29 白線認識装置、移動体の制御システム、白線認識方法、およびプログラム

Country Status (3)

Country Link
US (1) US20230316779A1 (ja)
JP (1) JP2023146155A (ja)
CN (1) CN116895054A (ja)

Also Published As

Publication number Publication date
US20230316779A1 (en) 2023-10-05
CN116895054A (zh) 2023-10-17

Similar Documents

Publication Publication Date Title
US10489686B2 (en) Object detection for an autonomous vehicle
US20170359561A1 (en) Disparity mapping for an autonomous vehicle
US20230316779A1 (en) White line recognition device, mobile object control system, and white line recognition method
WO2023188251A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
WO2023187879A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
WO2023188090A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
WO2023187972A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
WO2023187893A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
US20230234609A1 (en) Control device, control method, and storage medium
WO2023187995A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
US11867526B2 (en) Map generation apparatus
US20230305567A1 (en) Control device for mobile object, control method for mobile object, and storage medium
US20230314162A1 (en) Map generation apparatus
CN115050205B (zh) 地图生成装置以及位置识别装置
WO2022210135A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
CN115050203B (zh) 地图生成装置以及车辆位置识别装置
WO2023187991A1 (ja) 移動体の制御装置、および移動体の制御方法
JP7457737B2 (ja) 制御システム、制御方法、およびプログラム
US20240071103A1 (en) Image recognition device, image recognition method, and program
WO2023187975A1 (ja) 移動体の制御装置、移動体の制御方法、および記憶媒体
JP7141479B2 (ja) 地図生成装置
US20220268587A1 (en) Vehicle position recognition apparatus
US20220307861A1 (en) Map generation apparatus
US20220254056A1 (en) Distance calculation apparatus and vehicle position estimation apparatus
JP2022152051A (ja) 走行制御装置