JP6577661B2 - 路面変位検出装置およびサスペンション制御方法 - Google Patents

路面変位検出装置およびサスペンション制御方法 Download PDF

Info

Publication number
JP6577661B2
JP6577661B2 JP2018508607A JP2018508607A JP6577661B2 JP 6577661 B2 JP6577661 B2 JP 6577661B2 JP 2018508607 A JP2018508607 A JP 2018508607A JP 2018508607 A JP2018508607 A JP 2018508607A JP 6577661 B2 JP6577661 B2 JP 6577661B2
Authority
JP
Japan
Prior art keywords
road surface
stereo camera
detection target
height
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2018508607A
Other languages
English (en)
Other versions
JPWO2017169365A1 (ja
Inventor
俊 大内田
俊 大内田
敦俊 長谷部
敦俊 長谷部
貴好 菊池
貴好 菊池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
KYB Corp
Original Assignee
KYB Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by KYB Corp filed Critical KYB Corp
Publication of JPWO2017169365A1 publication Critical patent/JPWO2017169365A1/ja
Application granted granted Critical
Publication of JP6577661B2 publication Critical patent/JP6577661B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/06Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness for measuring thickness ; e.g. of sheet material
    • G01B11/0608Height gauges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/30Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/22Measuring arrangements characterised by the use of optical techniques for measuring depth
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Vehicle Body Suspensions (AREA)
  • Image Analysis (AREA)

Description

本発明は、ステレオカメラを用いて路面の高さを検出する路面変位検出装置および車両のサスペンション制御方法に関する。
アクティブサスペンションシステムの制御方式として、車両前方の路面状況を検出してサスペンションの諸特性を適正に制御するプレビュー制御がある。車両前方の路面状況を検出する方法として、2台のカメラで撮像した車両前方の路面像の視差情報を用いるステレオ法が知られている。
このステレオ法を用いて路面の段差を検出する方式として、例えば、特許文献1には、路面をステレオ撮影した第1の画像と第2の画像とをXY平面座標に投影し、該平面座標上に特定の座標(X、Y)を中心とする検出領域を設定し、検出領域の画像が路面位置にある場合の視差v1を算出し、第2の画像に視差v1を差し引いた座標(X−v1、Y)を中心とする比較領域を設定し、検出領域の画像と比較領域の画像とを比較して、検出領域の路面からの高さを検出する技術が記載されている。
特開2014−89548号公報
しかしながら、車両が走行するなか、上記のステレオ法を用いて路面の高さを検出するとなると、演算処理回路の速度の限界などから1フレームの像から算出可能な検出対象点の数にも自ずと限界が生じてくる。1フレームの像から算出可能な検出対象点の数が少ないと、路面の変位の真値に対して粗い近似値しか得られないため、それだけサスペンションシステムのプレビュー制御の精度が期待できなくなる。
高速な演算処理回路を用いることによって、1フレームの像から算出可能な検出対象点の数を可及的に増やすことは可能であるが、それだけ製品コストが増大する。また、走行速度が高くなるにつれて、1フレームの像から算出可能な検出対象点の数は、やはり演算処理回路の速度の限界によって低減する可能性があるため、高速域での高精度のプレビュー制御が困難であるという問題があった。
以上のような事情に鑑み、本発明の目的は、演算処理回路の速度に依存することなく、ステレオカメラからの距離分解能において高密で、かつ高精度な路面変位情報を生成することのできる路面変位検出装置およびサスペンション制御方法を提供することにある。
上記目的を達成するため、本発明の一形態に係る路面変位検出装置は、
物体の移動方向の路面を撮像するステレオカメラと、
前記ステレオカメラによって得られた画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記物体の移動距離を考慮して重ね合わせる演算処理回路とを具備して構成されるものである。
本発明にかかる路面変位検出装置では、演算処理回路が、フレーム毎に、ステレオカメラからの距離が異なる複数の検出対象点それぞれの路面の高さを検出し、複数のフレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の物体の移動距離を考慮して重ね合わせるので、演算処理回路の速度に依存することなく、ステレオカメラからの距離分解能において高密で、かつ高精度な路面変位情報を生成することができる。
また、演算処理回路は、前記物体の予想移動軌跡上の複数の検出対象点それぞれの前記路面からの高さを検出するように構成されたものであってよい。
物体の予想移動軌跡に絞り込んで路面の高さ検出を行うことによって、演算処理回路の負荷を軽減することができる。
また、演算処理回路は、複数のフレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の物体の移動距離を考慮して重ね合わせるとき、最新のフレームから検出された高さの情報を優先するように構成されたものであってよい。
ステレオ法を用いた路面の高さ検出では、ステレオカメラから検出対象点までの距離が短いほど高精度な検出が可能である。したがって、最新のフレームから高さが検出された検出対象点が、他の1以上のフレームから高さが検出された検出対象点とが路面上の同一位置である場合には、最新のフレームから検出された高さの情報を優先して採用することによって、より精度の高い路面変位情報を得ることができる。
また、演算処理回路は、前記物体の移動速度をもとに、前記フレームの周期を可変するように構成されたものであってよい。
あるいは、演算処理回路は、前記物体の移動速度をもとに、前記フレーム毎の前記検出対象点の数を可変するように構成されたものであってよい。
また、前記演算処理回路は、
前記ステレオカメラによって撮像された複数の画像の視差をもとに、高さと距離の二次元空間での、前記ステレオカメラの取り付け角度θcを考慮しない前記ステレオカメラと前記検出対象点との距離Dを算出し、
前記二次元空間での、前記ステレオカメラの光軸と前記ステレオカメラと前記検出対象点とを結んだ直線とがなす角度θを算出し、
前記距離Dと前記角度θを用いて、前記二次元空間での、前記取り付け角度θcを考慮した前記ステレオカメラと前記検出対象点との距離D1を算出し、
前記ステレオカメラの前記路面からの高さ、前記距離D1、前記取り付け角度θcおよび前記角度θを用いて、前記検出対象点の前記路面の高さを算出するように構成されてもよい。
さらに、前記演算処理回路は、
前記ステレオカメラによって撮像された複数の画像の視差をもとに、高さと距離の二次元空間での、前記ステレオカメラの取り付け角度θcを考慮しない前記ステレオカメラと前記検出対象点との距離Dを算出し、
前記画像上の前記検出対象点の三次元空間内の位置を考慮した前記ステレオカメラと検出対象点との距離D1を算出し、
前記算出された距離Dおよび距離D1から、前記二次元空間での、前記ステレオカメラの光軸と前記ステレオカメラと前記検出対象点とを結んだ直線とがなす角度θを算出し、
前記ステレオカメラの前記路面からの高さ、前記距離D1、前記取り付け角度θcおよび前記角度θを用いて、前記検出対象点の前記路面の高さを算出するように構成されてもよい。
また、本発明の他の形態に係るサスペンション制御方法は、車両の前方の路面を撮像するステレオカメラによって互いに同期して得られた複数の画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記車両の移動距離を考慮して重ね合わせ、重ね合わせた高さの情報に基づいて前記車両のサスペンションを制御する、というものである。
本発明によれば、演算処理回路の速度に依存することなく、ステレオカメラからの距離分解能において高密で、かつ高精度な路面変位情報を生成することができる。
ステレオカメラと検出対象点を含む路面を上から示す図である。 ステレオカメラと検出対象点を含む路面を側方から示す図である。 本発明に係る一実施形態の路面変位検出装置1の構成を示すブロック図である。 画像空間におけるタイヤ予想走行軌跡を示す図である。 画像の座標空間における複数の検出対象点を示す図である。 画像の座標空間における複数の検出対象点の他の設定方法を示す図である。 本実施形態の路面変位検出装置1による路面変位検出の手順を示すフローチャートである。 1番目のフレームから算出された複数の検出対象点の路面変位情報を示す図である。 1番目のフレームから算出された複数の検出対象点の路面変位情報に2番目のフレームから算出された複数の検出対象点の路面変位情報を、フレーム間の車両の移動距離を考慮して重ね合わせた結果を示す図である。 メモリに保存された路面変位情報に3番目のフレームから算出された複数の検出対象点の路面変位情報をフレーム間の車両の移動距離を考慮して重ね合わせた結果を示す図である。 本実施形態の路面変位検出装置1をセミアクティブサスペンションのプレビュー制御に適用した場合の路面変位情報の出力方法を説明する図である。 路面上の検出対象点の高さ算出方法の変形例1の説明図である。 図10の高さ算出方法のフローチャートである。 図10の高さ算出方法におけるθの計算方法を説明するための図である。 路面上の検出対象点の高さ算出方法の変形例2のフローチャートである。 画像上の検出対象点の座標を直交座標系の三次元空間の座標に変換する方法の説明するために、画像平面と消失点による四角円錐状の空間を斜め上から示した図である。 画像平面と消失点による四角円錐状の空間および直交座標系の三次元空間の一部を側面から示した図である。
以下、図面を参照しながら、本発明に係る一実施形態である路面変位検出装置および路面変位検出方法を説明する。
[概要]
本実施形態の路面変位検出装置は、車両が走行する路面の凹凸をステレオカメラによって撮影された複数の画像を用いてステレオ法により検出する装置である。
ステレオカメラは、複数例えば2つのカメラを有する。複数のカメラは各々、車両の前方を撮像範囲とし、視差が生じ得るように互いに離間し、かつ各々の光軸が平行となるように配置される。
複数のカメラにより各々撮像された画像は演算処理回路によって処理される。演算処理回路は、各画像と、各カメラのパラメータ情報、さらには各画像から得られる視差情報をもとに、ステレオカメラから路面の検出対象点までの距離を算出し、算出された距離から路面上の検出対象点の高さ(路面変位量)を算出する。
図1および図2はステレオカメラから路面上の検出対象点までの距離および高さの算出方法の説明図である。図1は各カメラと検出対象点を含む路面を上から示す図であり、図2は各カメラと検出対象点を含む路面を側方から示す図である。
図1において路面の検出対象点Kは、図2に示すようにカメラ10R、10Lの光軸11R、11Lから角度θだけ下方に傾いた方向に見える。カメラ10R、10Lから検出対象点Kまでの距離Dは下記の式1により算出される。
D=(d・f)/(x1−x2) ・・・(1)
ここで、dはカメラ間距離、fはレンズの焦点距離である。x1−x2は視差であり、x1は一方のカメラ10Rの画像における検出対象点Kの像のx座標の値、x2は他方のカメラ10Lの画像における検出対象点Kの像のx座標の値である。
カメラ10R、10Lの光軸11R、11Lの向きが水平である場合、カメラ10R、10Lから検出対象点Kまでの水平方向(Y軸方向)の距離Lは、
L=Dcosθ ・・・(2)
により算出される。
また、検出対象点Kの高さhは、
h=H−Dsinθ ・・・(3)
により算出される。
ここで、Hは、カメラ10R、10Lの光軸11R、11Lの路面からの高さである。
このように、ステレオ法によって、ステレオカメラから路面上の検出対象点Kまでの距離Lと高さhを路面変位情報として算出することができる。
上記の路面変位検出方法により算出された路面変位情報を、例えば車両のアクティブサスペンションのプレビュー制御などに用いる場合、演算処理回路の速度の限界などから、1つのフレームから算出可能な路面変位情報の距離分解能にも限界が生じる。
このような課題を解決するために、本発明にかかる最良の形態である路面変位検出装置1は、
車両の前方の路面を撮像するステレオカメラ10と、
ステレオカメラ10によって得られた複数の画像をもとに、フレーム毎に、ステレオカメラ10からの距離が異なる複数の検出対象点それぞれの路面の高さを検出し、複数の前記フレームから各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の車両の移動距離を考慮して重ね合わせる演算処理回路20とを具備して構成されるものである。
以下、本発明にかかる最良の形態である路面変位検出装置の構成をより詳細に説明する。
[本実施形態の路面変位検出装置の構成]
図3は本実施形態の路面変位検出装置1の構成を示すブロック図である。
同図に示すように、本実施形態の路面変位検出装置1は、ステレオカメラ10と、演算処理回路20と、メモリ30とを備える。なお、メモリ30は演算処理回路20内に設けられていてもよい。
ステレオカメラ10は、2つのカメラ10R、10Lを有する。2つのカメラ10R、10Lは、車両の前方を撮像範囲とし、視差が生じ得るように互いに離間し、かつ各々の光軸が平行となるように配置される。カメラ10R、10Lは、CCD(Charge-Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備えて構成される。各々のカメラ10R、10Lにより各々得られた撮像信号は演算処理回路20に供給される。
演算処理回路20は、メモリ30を用いて路面変位検出のための演算処理を行うデバイスである。演算処理回路20は、例えば、FPGA(Field-Programmable Gate Array)などにより構成される。これに限らず、例えば、ASIC(Application Specific Integrated Circuit)などの、他の集積回路により構成されたものであってもよい。
演算処理回路20は、機能的に画像処理部21と路面変位算出部22を有する。
画像処理部21は、ステレオカメラ10より供給された2つの映像信号をデジタル化して画像とし、前処理として、各々の画像の歪み補正、各々の画像からのノイズ除去などのフィルタ処理などを行う。さらに、画像処理部21は、前処理が施された一方の画像を基準画像、他方の画像を比較画像として各々の画像の対応関係を探索し、2つの画像の視差情報を生成する。
路面変位算出部22は、ステレオカメラ10の画像空間において車両の左右のタイヤがこれから辿ることが予測される2本のタイヤ予想走行軌跡の座標を算出する。図4は画像空間におけるタイヤ予想走行軌跡を示す図である。これらのタイヤ予想走行軌跡61R、61Lは、車両のタイヤの左右の間隔と、ステレオカメラ10の位置などから、マージンを含めたおおよその位置として求められればよい。また、路面変位算出部22は、車両に設けられた舵角センサー50によって検出された車両の舵角情報をもとにタイヤ予想走行軌跡61R、61Lを算出することも可能である。
路面変位算出部22は、算出されたタイヤ予想走行軌跡において、ステレオカメラ10からの距離Lが異なる複数の検出対象点の路面の高さを視差情報を用いて算出する。図5は、画像の座標空間における複数の検出対象点を示す図である。複数の検出対象点K1−K10は、例えば、路面変位量が零である場合を仮定したとき路面が略均等な距離に区分されるような間隔で設定されてよい。あるいは、図6に示すように、ステレオ法の性質上、ステレオカメラ10に近い検出対象点ほど精度が高くなることから、ステレオカメラ10からの距離Lが近いほど間隔が小さくなるように複数の検出対象点K1−K10が設定されてもよい。
路面変位算出部22は、フレーム毎に、ステレオカメラ10からの距離Lが異なる複数の検出対象点K1−K10それぞれの路面の高さhを検出し、複数のフレームから各々検出された複数の検出対象点K1−K10の高さhの情報を当該複数のフレーム間の車両の移動距離を考慮して重ね合わせ、重ね合わせた結果からサスペンションシステム60のプレビュー制御のための路面変位情報を生成する。
[路面変位検出装置1の動作]
次に、本実施形態の路面変位検出装置1による路面変位検出の動作を説明する。
図7は、本実施形態の路面変位検出装置1による路面変位検出の手順を示すフローチャートである。
まず、ステレオカメラ10の2つのカメラ10R、10Lによって各々撮像された撮像信号は演算処理回路20に供給される。演算処理回路20は、画像処理部21にて、前処理として、各々の撮像信号に対して歪み補正、ノイズの除去などのフィルタ処理を行った後、2つの画像の対応関係を探索することによって、2つの画像の視差情報を生成し、1番目のフレームの視差情報としてメモリ30に保存する(ステップS101)。
ここで、1番目のフレームとは、路面変位情報をフレーム間の車両の移動距離を考慮して重ね合わせる複数のフレームのうちの先頭のフレームを意味する。以下、先頭のフレームの次のフレームを「2番目のフレーム」、さらに次のフレームを「3番目のフレーム」と呼ぶ。なお、本発明は、3つのフレームを、路面変位情報の重ね合わせの対象とするものに限定されるものではない。路面変位情報の重ね合わせの対象となるフレームの数は2以上であればよい。
次に、路面変位算出部22は、画像の座標空間におけるタイヤ予想走行軌跡の座標を算出し、このタイヤ予想走行軌跡上においてステレオカメラ10からの距離Lが異なる複数の検出対象点の座標を算出する(ステップS102)。
今回が1番目のフレームからの路面変位の検出である場合(ステップS103のYES)、路面変位算出部22は、タイヤ予想走行軌跡上の各々の検出対象点の座標に対応する視差情報をメモリ30から読み出し、この視差情報をもとに、各々の検出対象点の、ステレオカメラ10からの距離Lおよび路面の高さhを算出し(ステップS104)、これらを1番目のフレームに対する路面変位情報としてメモリ30に保存する(ステップS105)。
図8(A)はステレオカメラ10より前方の約5mから約10mまでの路面領域において、1番目のフレームから算出された複数の検出対象点K1−K10の路面変位情報を、横軸にステレオカメラ10からの距離Lを割り当て、縦軸に路面の高さhを割り当てた空間にプロットして、路面変位量の真値Rとともに示す路面変位プロファイルである。
この路面変位プロファイルの複数の検出対象点K1−K10の路面変位情報と図中実線で示される真値Rとを比較すると分かるように、演算処理回路20の速度の限界から路面変位情報の距離L方向での分解能が制約を受けることから、その結果として、路面上の突出物による路面変位の検出漏れEが発生している。
2番目のフレームに対する路面変位検出のサイクルでは、路面変位算出部22は、タイヤ予想走行軌跡上においてステレオカメラ10からの距離Lが異なる複数の検出対象点の座標を算出した後(ステップS102)、車速センサー40より車速情報を取得するとともに、ステレオカメラ10のフレームレートを取得し(ステップS106)、車速情報とフレームレートからフレーム間に車両が進んだ距離を算出する(ステップS107)。なお、フレームレートは例えば30fps、60fpsなどである。
次に、路面変位算出部22は、1番目のフレームから算出された路面変位情報と2番目のフレームから算出される複数の検出対象点K1'−K10'の路面変位情報とをフレーム間の車両の移動距離を考慮して重ね合わせるために、メモリ30に保存されている複数の検出対象点K1−K10の路面変位情報をフレーム間に車両が進んだ距離だけオフセットする(ステップS108)。例えば、フレーム間に車両が0.5m進んだ場合、メモリ30に保存されている複数の検出対象点K1−K10の路面変位情報を0.5mオフセットする。つまり、メモリ30に保存された路面変位情報のすべての検出対象点K1−K10の距離Lは0.5mだけ減算した値に更新される。このときメモリ30に保存されている路面変位情報に含まれる検出対象点の情報のうち、ステレオカメラ10からの距離が5mから5.5mまでの範囲の検出対象点(K1、K2)の情報は不要となるためメモリ30から削除される。
なお、この路面変位情報の更新に伴う不要な路面変位情報の削除は、必ずしも行う必要はない。路面変位情報の用途によっては、生成された路面変位情報をすべて保存してもよい。
次に、路面変位算出部22は、2番目のフレームについて、タイヤ予想走行軌跡上においてステレオカメラ10からの距離Lが異なる複数の検出対象点K1'−K10'の座標に対応する視差情報をメモリ30から読み出し、この視差情報をもとに、各々の検出対象点K1'−K10'の、ステレオカメラ10からの距離Lおよび路面の高さhを算出する(ステップS109)。
次に、路面変位算出部22は、メモリ30に保存された路面変位情報つまり1番目のフレームから算出された複数の検出対象点K3−K10の路面変位情報に2番目のフレームから算出された複数の検出対象点K1'−K10'の路面変位情報を、フレーム間の車両の移動距離を考慮して重ね合わせる。
図8Bは、1番目のフレームから算出された複数の検出対象点K3−K10の路面変位情報に2番目のフレームから算出された複数の検出対象点K1'−K10'の路面変位情報を、フレーム間の車両の移動距離を考慮して重ね合わせた結果を示す図である。
この際、路面変位算出部22は、2番目のフレームから算出された各々の検出対象点K1'−K10'の路面変位情報について以下の処理を行う。路面変位算出部22は、各々の検出対象点K1'−K10'について、ステレオカメラ10からの距離Lが、メモリ30に保存された路面変位情報のいずれかの検出対象点K3−K10の距離Lと一致するかどうかを各々判定する(ステップS110)。なお、1番目のフレームから算出された検出対象点の距離Lと2番目のフレームから算出された検出対象点の距離Lとが同一であるということは、各々の検出対象点の路面上の位置が同一であることを意味する。
この結果、2番目のフレームから算出された検出対象点K1'−K10'の距離Lがメモリ30に保存された路面変位情報に含まれるどの検出対象点K3−K10の距離Lとも一致しない場合、路面変位算出部22は、2番目のフレームから算出された各々の検出対象点K1'−K10'の路面変位情報を、メモリ30に保存された路面変位情報つまり1番目のフレームから算出された複数の検出対象点K3−K10の路面変位情報に重ね合わせるために追加する(ステップS111)。
また、2番目のフレームから算出された各々の検出対象点K1'−K10'の路面変位情報において、メモリ30に保存された路面変位情報の検出対象点K3−K10の距離Lと一致するものがあれば、路面変位算出部22は、2番目のフレームから算出された該当する検出対象点の路面の高さhが"0"であるかどうかを判定する(ステップS112)。当該検出対象点の路面の高さhが"0"でなければ、路面変位算出部22は、当該検出対象点の路面の高さhの情報で、メモリ30に保存された同一距離Lの検出対象点の路面の高さhの情報を上書きする(ステップS113)。
例えば、図8Bの例では、1番目のフレームから算出された検出対象点K4の距離Lと2番目のフレームから算出された検出対象点K2'の距離Lが一致したので、検出対象点K2'の路面の高さhの情報で検出対象点K4の路面の高さhの情報が更新される。同様に、1番目のフレームから算出された検出対象点K8の距離Lと2番目のフレームから算出された検出対象点K7'の距離Lが一致し、検出対象点K7'の路面の高さhの情報で検出対象点K8の路面の高さhの情報が上書きされる。
ステレオ法を用いた路面の高さ検出では、ステレオカメラ10から検出対象点までの距離が短いほど高精度な検出が可能である。したがって、最新フレームの検出対象点の距離Lと以前のフレームの検出対象点との距離Lが同一である場合、最新フレームの検出対象点の高さhの情報を優先して採用することによって、精度の向上を図ることができる。
なお、検出対象点の距離Lの一致判定には、所定のマージンが考慮されることは言うまでもない。また、ステレオ法を用いた路面の高さ検出では、ステレオカメラ10から検出対象点までの距離Lが短いほど高精度な検出が可能であるため、ステレオカメラ10からの距離Lが近い検出対象点ほど路面の高さhの情報の上書きが発生しやすくなるようにしてもよい。この制御は、例えば、検出対象点の距離Lの一致判定のためのマージンの大きさを距離Lに応じて可変することによって実現可能である。
また、この路面変位検出装置1では、測定エラーによって路面の高さhが過大な値となった場合にその過大な値を"0"に修正するようになっているので、例えば図8Bに示すように、2番目のフレームから算出された検出対象点K7'の距離Lが、1番目のフレームから算出された検出対象点K8の距離Lと同じであっても、2番目のフレームから算出された検出対象点K7'の路面の高さhが"0"である場合には、高さhの情報の上書きは行われないようになっている。
路面変位算出部22は、2番目のフレームから算出されたすべての検出対象点K1'−K10'について上記の処理を繰り返し、すべての検出対象点K1'−K10'についての処理が終了すると、2番目のフレームに対する処理が終了となる。
この後、さらに次の3番目のフレームに対する処理が同様に行われる。
すなわち、路面変位算出部22は、メモリ30に保存された路面変位情報と3番目のフレームから算出される複数の検出対象点K1"−K10"の路面変位情報とをフレーム間(2番目のフレームと3番目のフレームとの間)の車両の移動距離を考慮して重ね合わせるために、メモリ30に既に保存されている複数の検出対象点K1'、K3、K2'、・・・、K10'の路面変位情報をフレーム間に車両が進んだ距離だけオフセットする(ステップS108)。
次に、路面変位算出部22は、3番目のフレームについて、タイヤ予想走行軌跡上においてステレオカメラ10からの距離Lが異なる複数の検出対象点K1"−K10"の座標に対応する視差情報をメモリ30から読み出し、この視差情報をもとに、各々の検出対象点K1"−K10"の、ステレオカメラ10からの距離Lおよび路面の高さhを算出する(ステップS109)。
次に、路面変位算出部22は、メモリ30に保存された路面変位情報に3番目のフレームから算出された複数の検出対象点K1"−K10"の路面変位情報をフレーム間(2番目のフレームと3番目のフレームとの間)の車両の移動距離を考慮して重ね合わせる。
図8Cは、メモリ30に保存された路面変位情報に3番目のフレームから算出された複数の検出対象点K1"−K10"の路面変位情報をフレーム間(2番目のフレームと3番目のフレームとの間)の車両の移動距離を考慮して重ね合わせた結果を示す図である。
このように、路面変位情報を重ね合わせるフレームの数が増えるほどに、メモリ30に保存される検出対象点の路面変位情報の数が多くなり、ステレオカメラ10からの距離分解能において高密な路面変位情報が得られる。
以上の処理がフレーム周期で繰り返されることによって、車両の前方の路面の高密な路面変位情報が連続して得られる。これにより、路面の高さhの検出漏れが発生する確率を低減することができるなど、高精度の路面変位情報を得ることができる。
路面変位算出部22によって得られた路面変位情報は、車両のサスペンションシステム60に供給され、アクティブサスペンションのプレビュー制御に供される。
[補足等]
(フレーム周期について)
上記の実施形態では、連続する全てのフレームから路面変位情報を生成することとしたが、1/Nのフレーム周期で路面変位情報を生成してもよい。ここで、Nは固定値であってもよいが、車速に応じて可変させてもよい。この場合、車速に反比例してNの値を小さくする。車速が極端に低速であるときは路面変位情報の生成を停止させてもよい。
[検出対象点の数について]
上記の実施形態では、フレーム毎に所定の数の検出対象点を設定することとしたが、フレーム毎の検出対象点の数は車速に応じて可変させてもよい。この場合、車速に反比例して検出対象点の数の値を小さくすればよい。
[フルアクティブサスペンションおよびセミアクティブサスペンションへの適用について]
演算処理回路20は、サスペンションシステム60がフルアクティブサスペンションである場合には、路面変位算出部22によって、複数のフレームについて各々検出された複数の検出対象点の高さhの情報を当該複数のフレーム間の前記車両の移動距離を考慮して重ね合わせた結果をサスペンションシステム60に出力する。
サスペンションシステム60がセミアクティブサスペンションである場合には、演算処理回路20は、路面変位算出部22によって、複数のフレームについて各々検出された複数の検出対象点の高さhの情報を当該複数のフレーム間の前記車両の移動距離を考慮して重ね合わせた結果において、図9に示すように、路面の高さhを複数例えば5段階に評価し、その路面の高さhの評価結果を距離Lの情報とともにサスペンションシステム60に出力する。
[検出対象点の高さ算出方法の変形例1]
次に、カメラ10R、10Lの光軸11R、11Lの向きが水平に対して角度を持っている場合の路面上の検出対象点の高さ算出方法を説明する。
図10はこの検出対象点の高さ算出方法の変形例1の説明図である。図11はこの高さ算出方法の変形例1のフローチャートである。
ここで、θcはステレオカメラの水平からの取り付け角度、θは路面の検出対象点Kが見える方向のカメラ10R、10Lの光軸11R、11Lの方向に対する角度である。Dは取り付け角度θcを考慮しないときのステレオカメラと検出対象点Kとの距離である。D1は取り付け角度θcを考慮したときのステレオカメラと検出対象点Kとの距離である。Hはカメラ10R、10Lの路面からの高さである。
まず、演算処理回路20は、ステレオカメラによって撮像された画像をもとに上記式(1)を用いてDを算出する(ステップS201)。
続いて、演算処理回路20は、画像から路面の検出対象点KのY軸方向における位置をもとにθを算出し(ステップS202)、θを用いて次式(4)によりD1を算出する(ステップS203)。
D1=D/cosθ ・・・(4)
θはステレオカメラにより撮像された画像から算出される。例えば、図12に示すように、画像において、検出対象点KがY軸方向の中間位置(Y=0)から下方に+yラインだけ離れた位置にあるとき、θは次式(5)により近似的に求められる。
θ=y×Δθ ・・・(5)
ここで、Δθは画像の1ライン分の角度である。
そして演算処理回路20は、次式(6)により、路面上の検出対象点Kの高さhを算出する(ステップS204)。
h=H−D1・sin(θ+θc) ・・・(6)
[検出対象点の高さ算出方法の変形例2]
上述したθの計算方法は単純な演算であるため演算処理回路20に大きな負荷を与えないというメリットがあるものの、画像上の路面と実空間における路面との幾何学的な違いを考慮したものではないため、その分誤差が生じるというデメリットもある。特に、ステレオカメラから検出対象点Kまでの距離が長くなるほど、誤差が増大してしまう。そこで、上記の変形例1に比べ演算負荷は大きくなるが、実空間での路面平面を考慮したθを得ることで、精度の高い路面変位プロファイルを得ることのできる検出対象点の高さ算出方法の変形例2について図10、図13、図14及び図15を用いて説明する。
図13はこの高さ算出方法の変形例2のフローチャートである。
まず、演算処理回路20は、ステレオカメラによって撮像された画像をもとに上記式(1)を用いてDを算出する(ステップS301)。
続いて、演算処理回路20は、画像上の検出対象点Kの三次元空間内の位置を考慮したステレオカメラと検出対象点Kとの距離D1を算出する(ステップS302)。
より具体的には、図14に示すように、演算処理回路20は、画像のエッジ成分から実際には平行な複数の直線31、32を検出し、より多くの直線31、32が一点に交わる消失点Sを検出する。この消失点Sを頂点とする四角円錐状の空間33内の検出対象点Kの座標は直交座標系の三次元空間34の座標(x,y,z)に変換することが可能である。
そこで、演算処理回路20は、ステレオカメラにより撮像された基準画像における検出対象点Kの座標を三次元空間の座標に変換する。ここで、検出対象点Kの三次元空間の座標を(x,y,z)とすると、次式(7)により、三次元空間を考慮した視差Dsを算出可能である。
Ds=(x+y+z1/2 ・・・(7)
この後、演算処理回路20は、この視差Dsの値を用いて距離D1を算出する。この距離D1の算出は、上記式(1)の視差(x1−x2)に視差Dsの値を代入することによって行われる。
次に、演算処理回路20はθを算出する(ステップS303)。θは以下の式(8)によって算出される。
θ=cos−1(D/D1) ・・・(8)
この後、演算処理回路20は、上記式(6)により、路面上の検出対象点Kの高さhを算出する(ステップS304)。
この計算方法によると、前者の計算方法に比べ演算負荷は大きくなるが、実空間での路面平面を考慮したθを得ることができ、精度の高い路面変位プロファイルが得られる。
[その他]
本発明は上記の実施形態に限らず、本発明の技術思想の範囲で様々な変形が可能である。
上記の実施形態では、車両のタイヤ予想走行軌跡上に絞って検出対象点を設定することとしたが、本発明は、必ずしもこのような構成との組み合わせに限定されるものではない。すなわち、車両のタイヤ予想走行軌跡上に絞って検出対象点を設定しなくてもよい。
車両の後進が発生した場合には、メモリ30に保存された路面変位情報の各検出対象点の距離情報を後進した距離だけオフセットさせてもよい。あるいは、メモリ30に保存された路面変位情報を消去して、最初のフレームからの路面変位情報の生成を行うようにしてもよい。
さらに、本発明の路面変位検出装置および路面変位検出方法は、路面を走行する車両に適用されるだけでなく、室内の床面などの走行面を移動する各種運搬用の機器やロボットなどにも適用することが可能であり、その他、移動する物体であれば適用され得るものである。
1…路面変位検出装置
10…ステレオカメラ
20…演算処理回路
21…画像処理部
22…路面変位算出部
30…メモリ
40…車速センサー
50…舵角センサー
60…サスペンションシステム

Claims (6)

  1. 物体の移動方向の路面を撮像するステレオカメラと、
    前記ステレオカメラによって得られた画像のフレーム毎に前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記物体の移動距離を考慮して重ね合わせる演算処理回路とを具備し、
    前記演算処理回路は、前記物体の予想移動軌跡上の複数の検出対象点の前記路面からの高さを検出するように構成された
    路面変位検出装置。
  2. 物体の移動方向の路面を撮像するステレオカメラと、
    前記ステレオカメラによって得られた画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記物体の移動距離を考慮して重ね合わせる演算処理回路とを具備し、
    前記演算処理回路は、前記物体の移動速度をもとに、前記フレームの周期を可変するように構成された
    路面変位検出装置。
  3. 物体の移動方向の路面を撮像するステレオカメラと、
    前記ステレオカメラによって得られた画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記物体の移動距離を考慮して重ね合わせる演算処理回路とを具備し、
    前記演算処理回路は、前記物体の移動速度をもとに、前記フレーム毎の前記検出対象点の数を可変するように構成された
    路面変位検出装置。
  4. 物体の移動方向の路面を撮像するステレオカメラと、
    前記ステレオカメラによって得られた画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記物体の移動距離を考慮して重ね合わせる演算処理回路とを具備し、
    前記演算処理回路は、
    前記ステレオカメラによって撮像された複数の画像の視差をもとに、高さと距離の二次元空間での、前記ステレオカメラの取り付け角度θcを考慮しない前記ステレオカメラと前記検出対象点との距離Dを算出し、
    前記二次元空間での、前記ステレオカメラの光軸と前記ステレオカメラと前記検出対象点とを結んだ直線とがなす角度θを算出し、
    前記距離Dと前記角度θを用いて、前記二次元空間での、前記取り付け角度θcを考慮した前記ステレオカメラと前記検出対象点との距離D1を算出し、
    前記ステレオカメラの前記路面からの高さ、前記距離D1、前記取り付け角度θcおよび前記角度θを用いて、前記検出対象点の前記路面の高さを算出するように構成された
    路面変位検出装置。
  5. 物体の移動方向の路面を撮像するステレオカメラと、
    前記ステレオカメラによって得られた画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記物体の移動距離を考慮して重ね合わせる演算処理回路とを具備し、
    前記演算処理回路は、
    前記ステレオカメラによって撮像された複数の画像の視差をもとに、高さと距離の二次元空間での、前記ステレオカメラの取り付け角度θcを考慮しない前記ステレオカメラと前記検出対象点との距離Dを算出し、
    前記画像上の前記検出対象点の三次元空間内の位置を考慮した前記ステレオカメラと検出対象点との距離D1を算出し、
    前記算出された距離Dおよび距離D1から、前記二次元空間での、前記ステレオカメラの光軸と前記ステレオカメラと前記検出対象点とを結んだ直線とがなす角度θを算出し、
    前記ステレオカメラの前記路面からの高さ、前記距離D1、前記取り付け角度θcおよび前記角度θを用いて、前記検出対象点の前記路面の高さを算出するように構成された
    路面変位検出装置。
  6. 車両の前方の路面を撮像するステレオカメラによって互いに同期して得られた複数の画像のフレーム毎に、前記ステレオカメラからの距離が異なる複数の検出対象点それぞれの、前記車両の予想移動軌跡上の前記路面の高さを検出し、複数の前記フレームについて各々検出された複数の検出対象点の高さの情報を当該複数のフレーム間の前記車両の移動距離を考慮して重ね合わせ、重ね合わせた高さの情報に基づいて前記車両のサスペンションを制御するサスペンション制御方法。
JP2018508607A 2016-03-29 2017-02-23 路面変位検出装置およびサスペンション制御方法 Expired - Fee Related JP6577661B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016066505 2016-03-29
JP2016066505 2016-03-29
PCT/JP2017/006867 WO2017169365A1 (ja) 2016-03-29 2017-02-23 路面変位検出装置およびサスペンション制御方法

Publications (2)

Publication Number Publication Date
JPWO2017169365A1 JPWO2017169365A1 (ja) 2019-02-07
JP6577661B2 true JP6577661B2 (ja) 2019-09-18

Family

ID=59963141

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018508607A Expired - Fee Related JP6577661B2 (ja) 2016-03-29 2017-02-23 路面変位検出装置およびサスペンション制御方法

Country Status (4)

Country Link
US (1) US20190078876A1 (ja)
EP (1) EP3438603A1 (ja)
JP (1) JP6577661B2 (ja)
WO (1) WO2017169365A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6565769B2 (ja) * 2016-04-03 2019-08-28 株式会社デンソー 車載カメラの取付角度検出装置、取付角度較正装置、取付角度検出方法、取付角度較正方法、およびコンピュータープログラム
JP6895371B2 (ja) * 2017-11-29 2021-06-30 Kyb株式会社 情報処理装置及びサスペンション制御方法
WO2020113452A1 (zh) * 2018-12-05 2020-06-11 珊口(深圳)智能科技有限公司 移动目标的监控方法、装置、监控系统及移动机器人
JP7200780B2 (ja) * 2019-03-20 2023-01-10 株式会社リコー 情報処理装置、情報処理方法、及び情報処理システム
JP2020163924A (ja) * 2019-03-28 2020-10-08 本田技研工業株式会社 車両制御装置、端末装置、サーバ装置、車両、車両制御システム及び車両制御方法
JP7489671B2 (ja) * 2019-10-17 2024-05-24 パナソニックIpマネジメント株式会社 補正パラメータ算出方法、変位量算出方法、補正パラメータ算出装置、及び、変位量算出装置
CN113551636B (zh) * 2021-07-02 2023-06-06 武汉光谷卓越科技股份有限公司 基于异常数据矫正的平整度检测方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4171282B2 (ja) * 2002-10-25 2008-10-22 富士重工業株式会社 地形認識装置および地形認識方法
JP5441549B2 (ja) * 2009-07-29 2014-03-12 日立オートモティブシステムズ株式会社 道路形状認識装置
US9586455B2 (en) * 2012-03-29 2017-03-07 Toyota Jidosha Kabushiki Kaisha Road surface condition estimating apparatus
WO2015159835A1 (ja) * 2014-04-17 2015-10-22 シャープ株式会社 画像処理装置、画像処理方法、プログラム
RU2667026C1 (ru) * 2015-08-04 2018-09-13 Ниссан Мотор Ко., Лтд. Устройство обнаружения уступов и способ обнаружения уступов

Also Published As

Publication number Publication date
WO2017169365A1 (ja) 2017-10-05
US20190078876A1 (en) 2019-03-14
JPWO2017169365A1 (ja) 2019-02-07
EP3438603A1 (en) 2019-02-06

Similar Documents

Publication Publication Date Title
JP6577661B2 (ja) 路面変位検出装置およびサスペンション制御方法
JP6209648B1 (ja) ステレオカメラの設置パラメータ校正方法
JP2017226270A (ja) 車両制御装置
JP6565188B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値導出方法、およびプログラム
WO2017188158A1 (ja) 路面状態検出装置
US10984258B2 (en) Vehicle traveling environment detecting apparatus and vehicle traveling controlling system
JP2007334859A (ja) 物体検出装置
JP3765862B2 (ja) 車両用環境認識装置
JP6895371B2 (ja) 情報処理装置及びサスペンション制御方法
JP2005214914A (ja) 移動速度検出装置および移動速度検出方法
JP3440956B2 (ja) 車両用走行路検出装置
JP6044084B2 (ja) 移動物体位置姿勢推定装置及び方法
JP2018136739A (ja) キャリブレーション装置
JP7303064B2 (ja) 画像処理装置、および、画像処理方法
JP6489645B2 (ja) 画像処理装置
JP7232005B2 (ja) 車両の走行環境検出装置及び走行制御システム
JP6174884B2 (ja) 車外環境認識装置および車外環境認識方法
JP2005170290A (ja) 障害物検出装置
JP6619589B2 (ja) 画像処理装置
JP6865660B2 (ja) 距離算出装置および距離算出パラメータの設定方法
JP5973843B2 (ja) 車外環境認識装置および車外環境認識方法
CN112601064A (zh) 图像处理装置
JP2020126394A (ja) 物体運動推定方法及び物体運動推定装置
JP2019151307A (ja) 駐車エリア検知装置および駐車エリア検知方法
JP6515547B2 (ja) 視差値導出装置、機器制御システム、移動体、ロボット、視差値生産方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190722

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190822

R150 Certificate of patent or registration of utility model

Ref document number: 6577661

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees