JP2020017170A - 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体 - Google Patents

識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体 Download PDF

Info

Publication number
JP2020017170A
JP2020017170A JP2018141092A JP2018141092A JP2020017170A JP 2020017170 A JP2020017170 A JP 2020017170A JP 2018141092 A JP2018141092 A JP 2018141092A JP 2018141092 A JP2018141092 A JP 2018141092A JP 2020017170 A JP2020017170 A JP 2020017170A
Authority
JP
Japan
Prior art keywords
marker
identification
vehicle
towed vehicle
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018141092A
Other languages
English (en)
Inventor
岩井 浩
Hiroshi Iwai
岩井  浩
柴田 修
Osamu Shibata
修 柴田
哲郎 奥山
Tetsuro Okuyama
哲郎 奥山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2018141092A priority Critical patent/JP2020017170A/ja
Publication of JP2020017170A publication Critical patent/JP2020017170A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

【課題】連結具から被連結具までの距離を精度良く測定すること。【解決手段】車両に搭載され、車両に設けられた連結具と被牽引車両に設けられた被連結具との位置関係を識別する識別装置であって、被牽引車両に設けられたマーカを含む画像の入力を受け付ける入力部と、画像に基づいてマーカの位置を推定し、マーカの位置から被連結具の位置を識別する識別部と、識別部での識別結果を出力する出力部と、を備える、識別装置。【選択図】図4

Description

本開示は、識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体に関する。
従来、車両として、トレーラ等の被牽引車両を連結するため、後部に連結具を取り付けたものがある。牽引車両側の連結具に被牽引車両側の被連結具を連結する際、牽引車両側の連結具が被牽引車両側の被連結具に一致するように車両を後進させるが、この連結作業は大変な困難を伴う。
特開2002−312768号公報
そこで、センサを用いて連結具と被連結具とを自動連結することが望まれている。しかしながら、例えば従来のカメラを用いた方式では、連結具から被連結具までの距離を精度良く推定することが困難であった。
ところで、光飛行時間測距法(以下、「TOF(Time of Flight)方式」という)を用いた測距法が知られている。
しかしながら、被連結具の形状が例えば球状である場合、被連結具での反射断面積が小さく、TOF方式で連結具から被連結具までの距離を精度良く推定することが困難であるという問題があった。
本開示の目的は、連結具から被連結具までの距離を精度良く推定することである。
本開示の一形態は、車両に搭載され、前記車両に設けられた連結具と被牽引車両に設けられた被連結具との位置関係を識別する識別装置であって、前記被牽引車両に設けられたマーカを含む画像の入力を受け付ける入力部と、前記画像に基づいて前記マーカの位置を推定し、前記マーカの位置から前記被連結具の位置を識別する識別部と、前記識別部での識別結果を出力する出力部と、を備える、識別装置である。
なお、本開示の一形態は、方法、プログラムおよびプログラムを記録した一時的でない有形の記録媒体のいずれかであってもよい。
本開示によれば、連結具から被連結具までの距離を精度良く推定することができる。
図1は、本開示の一実施形態に係る識別装置が搭載された周辺監視システムの垂直視野を示す模式図である。 図2は、本開示の一実施形態に係る識別装置が搭載された周辺監視システムの水平視野を示す模式図である。 図3は、本開示の一実施形態に係る識別装置が搭載された周辺監視システムの構成を示すブロック図である。 図4は、識別部において行われる処理を示すフローチャートである。 図5は、被牽引車両が牽引車両に対して正対している場合の撮像画像の一例を示す図である。 図6は、被牽引車両が牽引車両に対して所定のヨー角を有して対向している場合の撮像画像の一例を示す図である。 図7は、被牽引車両が牽引車両に対して所定のロール角を有して対向している場合の撮像画像の一例を示す図である。 図8は、被牽引車両が牽引車両に対して所定のピッチ角を有して対向している場合の撮像画像の一例を示す図である。 図9は、測距処理の第一具体例を示すフローチャートである。 図10は、出射光および戻り光の状態を示す模式図である。 図11は、光飛行時間測距法の概念を示す模式図である。 図12は、測距処理の第二具体例を示すフローチャートである。 図13は、マーカの第1変形例を示す図である。 図14は、マーカの第2変形例を示す図である。 図15は、マーカの第3変形例を示す図である。 図16は、各部の機能をプログラムにより実現するコンピュータのハードウェア構成の一例を示す図である。
以下、本開示の一実施形態に係る識別装置100が搭載された周辺監視システム1について、図面を参照して詳細に説明する。なお、以下に説明する実施形態は一例であり、本開示はこの実施形態により限定されるものではない。
図1および図2には、互いに直交するx軸、y軸およびz軸が示される。本開示では、x軸は、車両Vの前部から後部に向かう方向(以下、「前後方向x」という)を示す。y軸は、車両Vの左側から右側に向かう方向(以下、「左右方向y」という)を示す。z軸は、車両Vの下部から上部に向かう方向(以下、「上下方向z」という)を示す。また、本開示では、便宜上、xy平面は路面であり、zx平面は車両Vの縦中心面である。また、x軸は、上下方向zからの平面視で縦中心線である。
図1および図2は、車両Vおよび被牽引車両Tの垂直視野および水平視野を示す模式図である。車両Vの後部の中央下部には、トレーラやキャンピングカー等の被牽引車両Tを連結するための連結具6が固定されている。連結具6は、略球状の部品である。車両Vにおける連結具6の上方位置には、撮像装置200が取り付けられている。
被牽引車両Tの前部の中央下部には、車両Vの連結具6と連結される被連結具5が固定されている。被連結具5は、略半球状の部品である。被連結具5が連結具6を上方から覆うことで、連結具6と被連結具5とが連結され、車両Vと被牽引車両Tとが連結される。
図1および図2に示すように、周辺監視システム1は車両Vに搭載される。周辺監視システム1は、図3に示すように、光源210および画像センサ220を一体化した撮像装置200と、識別装置100とを備える。
撮像装置200は、図1に示すように、車両Vの背面上で、路面から離れた場所Oに取り付けられる。光源210は、撮像範囲に向けて、パルスや正弦波等の周期をもった不可視光(例えば、赤外光や近赤外光)を出射可能に取り付けられている。
画像センサ220は、例えばCMOS(Complementary Metal Oxide Semiconductor)イメージセンサであって、光源210と概ね同じ場所に、自身の光軸Aが概ね車両Vの後方へ延在するように取り付けられる。なお、画像センサ220は、CCD(Charged-coupled devices)でもよい。
識別装置100は、例えばECU(Electronic Control Unit)であって、車両Vの後方監視を制御するために、制御基板上に実装された入力端子、出力端子、プロセッサ、プログラムメモリおよびメインメモリを含む。
プロセッサは、プログラムメモリに格納されたプログラムを、メインメモリを用いて実行して、入力端子を介して受け取った各種信号を処理するとともに、出力端子を介して光源210および画像センサ220に各種制御信号を出力する。
識別装置100は、プロセッサがプログラムを実行することで、図3に示すように、撮像制御部110、入力部120、識別部130、記憶部140、出力部150等として機能する。
撮像制御部110は、光源210からの出射光の諸条件(具体的には、パルス幅、パルス振幅、パルス間隔、パルス数等)を制御すべく、光源210に対して制御信号を出力する。
また、撮像制御部110は、画像センサ220における戻り光の受光の諸条件(具体的には、露光時間、露光タイミング、露光回数等)を制御すべく、画像センサ220に含まれる周辺回路に対して制御信号を出力する。
上記露光制御等により、画像センサ220は、所定周期(所定フレームレート)で、撮像範囲に関する赤外画像信号および距離画像信号を識別装置100に出力することになる。なお、画像センサ220から可視画像信号を出力するようにしてもよい。
また、本実施形態では、画像センサ220は、隣接する複数の画素の情報を加算して画像情報を生成する、いわゆる格子変換を行う。ただし、本開示において、隣接する複数の画素の情報を加算して画像情報を生成することは必須ではない。
入力部120は、画像センサ220から出力された画像信号の入力を受け付ける。
識別部130は、入力部120に入力された画像(図5を参照)から、被牽引車両Tにおいて車両Vと対向する前面に設けられた第1マーカ2および第2マーカ3と、被連結具5の近傍に設けられた第3マーカ4とを検出する。
第2マーカ3は、第1マーカ2から水平方向に離れて設けられている。また、第3マーカ4は、第1マーカ2から鉛直方向に離れて設けられている。第1マーカ2、第2マーカ3および第3マーカ4については後述する。
また、識別部130は、第1マーカ2、第2マーカ3および第3マーカ4までの距離を導出し、第1マーカ2、第2マーカ3および第3マーカ4までの距離に基づいて、第1マーカ2、第2マーカ3および第3マーカ4の3次元座標を算出する。
さらに、識別部130は、第1マーカ2、第2マーカ3および第3マーカ4の3次元座標に基づいて、被牽引車両Tの状態(ヨー、ロールおよびピッチ)を推定し、第1マーカ2、第2マーカ3および第3マーカ4の3次元座標に基づいて、被連結具5の3次元座標を算出する。
記憶部140は、識別部130で行われる各種処理で用いられる各種情報を記憶する。
出力部150は、識別部130での識別結果を出力する。このような情報は、例えばADAS(Advanced Driver Assistance System) ECU(「運転支援装置」の一例)300に送信される。ADAS ECU300は、これらの情報を用いて、車両Vの自動運転等を行う。
識別部130において行われる処理について、図4のフローチャートを参照して詳細に説明する。なお、図4に示す一連の処理は、車両Vと被牽引車両Tとを連結する際に少なくとも一度行われる。
まず、ステップS1で、識別部130は、画像センサ220から受け取った赤外画像または距離画像を用いて、第1マーカ2、第2マーカ3および第3マーカ4に対応する領域をそれぞれ抽出し、クラスタ化する。なお、クラスタ化は、隣接する画素に対してのみ行われるのではなく、分散した画素に対しても行われ得る。
例えば、赤外画像を用いる場合、識別部130は、輝度が所定範囲内にある複数の画素を抽出し、これら複数の画素をクラスタ化する。本実施形態では、第1マーカ2の反射率、第2マーカ3の反射率、および第3マーカ4の反射率をそれぞれ異ならせている。
そのため、第1マーカ2の輝度、第2マーカ3の輝度、および第3マーカ4の輝度がそれぞれ異なるので、赤外画像を用いて、第1マーカ2、第2マーカ3および第3マーカ4を区別することができる。
なお、本実施形態では、各マーカの反射率は、画像センサ220が各マーカを正しく認識できる程度の所定の範囲内とされている。マーカの反射率が高すぎると、画像センサ220で受光する戻り光が飽和してしまい、各マーカを正しく認識できないおそれがある。
本実施形態では、各マーカの反射率を適切な範囲に設定しているため、画像センサ220によって各マーカを正しく認識することができる。また、本実施形態では、各マーカの反射率は、被牽引車両Tの前面および被連結具5の反射率よりも所定値以上高い。そのため、各マーカを確実に認識することができる。
識別部130は、輝度が第1の所定範囲内にある複数の画素を抽出し、これら複数の画素を、第1マーカ2に対応する画素としてクラスタ化する。また、識別部130は、輝度が第1の所定範囲とは異なる第2の所定範囲内にある複数の画素を抽出し、これら複数の画素を、第2マーカ3に対応する画素としてクラスタ化する。さらに、識別部130は、輝度が第1および第2の所定範囲とは異なる第3の所定範囲内にある複数の画素を抽出し、これら複数の画素を、第3マーカ4に対応する画素としてクラスタ化する。
また、例えば、距離画像を用いる場合、識別部130は、距離情報が所定範囲内にある複数の画素を抽出し、これら複数の画素をクラスタ化する。本実施形態では、第1マーカ2および第2マーカ3は、いずれも被牽引車両Tの前面に設けられている。
そのため、撮像装置200に対して被牽引車両Tが正対している場合、第1マーカ2までの距離と、第2マーカ3までの距離とは、どちらも所定範囲内となることが考えられる。そのような場合には、距離情報が所定範囲内にある複数の画素の中から、左右方向に互いに離間している2つの領域を抽出する。
そして、左右方向に互いに離間している2つの領域のうち、右側の領域に含まれる画素を第1マーカ2に対応する画素としてクラスタ化し、左側の領域に含まれる画素を第2マーカ3に対応する画素としてクラスタ化する。
続くステップS2で、識別部130は、第1マーカ2までの距離d2、第2マーカ3までの距離d3、および第3マーカ4までの距離d4を、それぞれ導出する。ステップS2で行われる処理については、後述する。
続くステップS3で、識別部130は、第1マーカ2の3次元座標(X、Y、Z)、第2マーカ3の3次元座標(X、Y、Z)、および第3マーカ4の3次元座標(X、Y、Z)を、それぞれ算出する。
第1マーカ2の3次元座標(X、Y、Z)は、例えば、撮像画像における第1マーカ2に対応する画素と、距離d2と、撮像装置200の3次元座標とを用いて算出することができる。第2マーカ3の3次元座標(X、Y、Z)および第3マーカ4の3次元座標(X、Y、Z)についても同様である。
続くステップS4で、識別部130は、被牽引車両Tの状態を推定する。ここで、図5、図6、図7および図8を用いて、ステップS4で行われる被牽引車両Tの状態の推定について説明する。
図5、図6、図7および図8は、撮像装置200によって得られた撮像画像(赤外画像)を模式的に示したものである。なお、被牽引車両Tの前面には、濃色系の塗装が施されている。赤外画像では、被牽引車両Tの前面に設けられた第1マーカ2および第2マーカ3と、被連結具5のすぐ後側に設けられた第3マーカ4とが、「輝度の高い領域」となる。
逆に、被牽引車両Tの前面は、濃色系の塗装が施されているため、「輝度の低い領域」となる。また、被連結具5は、上述のとおり、略半球状の部品である。そのため、撮像装置200から出射され、被連結具5で反射した光の大部分は、撮像装置200には戻らない。したがって、赤外画像において、被連結具5は、「輝度の低い領域」となる。
図5は、車両Vに対して被牽引車両Tが正対しており、被牽引車両Tのヨー角、ロール角およびピッチ角がすべて0度の状態を示している。
図5に示すように、各マーカの大きさは、車両Vを被牽引車両Tの近くに移動させ、撮像装置200による撮像を行った場合に、各マーカに対応する画素の数が所定数以上となるような、所定の寸法以上とされる。
具体的には、各マーカの大きさは、車両Vと被牽引車両Tとの距離が3〜5mのときに、TOF方式によって十分な測距精度を確保できる程度の大きさとされる。このようにすることで、TOF方式による測距の精度を確保することが可能となる。
例えば撮像装置200のFOV(Field of View)を90度、画像センサ220の画素数をVGA(640ピクセル×480ピクセル)、撮像装置200からマーカまでの距離を5メートルとすると、1画素あたり1.2センチメートルである。
この場合、TOF方式によって十分な測距精度を確保できる画素数が5ピクセルであるとすると、TOF方式による十分な測距精度を確保できるマーカの寸法は、6センチメートル以上となる。
なお、上述のマーカの寸法はあくまでも一例である。撮像装置200のFOVが狭くなれば、マーカに要求される寸法は小さくなる。また、撮像装置200からマーカまでの距離が近くなれば、マーカに要求される寸法は小さくなる。さらに、画像センサ220の画素数が多くなれば、マーカに要求される寸法は小さくなる。さらにまた、検知に必要な画素数が少なければ、マーカに要求される寸法は小さくなる。
図5の状態では、第1マーカ2のX座標Xと、第2マーカ3のX座標Xとは、等しい(X=X)。また、第1マーカ2のZ座標Zと、第2マーカ3のZ座標Zとは、等しい(Z=Z)。
さらに、ピッチ角が0度の場合の第1マーカ2のZ座標Zと第3マーカ4のZ座標Zとの差をZとすると、図5の状態では、第1マーカ2のZ座標Zと第3マーカ4のZ座標Zとの差は、Zに等しい(Z−Z=Z)。
図6は、車両Vに対して被牽引車両Tが所定のヨー角を有している状態を示している。図6の状態では、第1マーカ2のX座標Xは、第2マーカ3のX座標Xより大きい。識別部130は、例えば、第1マーカ2のX座標X、第2マーカ3のX座標X、および、第1マーカ2と第2マーカ3との距離から、ヨー角を推定する。
図7は、車両Vに対して被牽引車両Tが所定のロール角を有している状態を示している。図7の状態では、第1マーカ2のZ座標Zは、第2マーカ3のZ座標Zより小さい。識別部130は、例えば、第1マーカ2のZ座標Z、第2マーカ3のZ座標Z、および、第1マーカ2と第2マーカ3との距離から、ロール角を推定する。
図8は、車両Vに対して被牽引車両Tが所定のピッチ角を有している状態を示している。図8の状態では、第1マーカ2のZ座標Zと第3マーカ4のZ座標Zとの差は、Zより小さい。識別部130は、例えば、第1マーカ2のZ座標Zと第3マーカ4のZ座標Zとの差(Z−Z)、上述のZ、および、第1マーカ2または第3マーカ4の3次元座標から、ピッチ角を推定する。
図4の説明に戻る。ステップS4に続くステップS5で、識別部130は、被連結具5の3次元座標(X、Y、Z)を算出する。記憶部140には、第1マーカ2、第2マーカ3および第3マーカ4と、被連結具5との相対位置関係が規定されたルックアップテーブル(LUT)が記憶されている。
識別部130は、第1マーカ2、第2マーカ3および第3マーカ4のそれぞれの3次元座標(X、Y、Z)、(X、Y、Z)および(X、Y、Z)と、LUTから読み出された相対位置関係とから、被連結具5の3次元座標を算出する。ステップS5の後、処理は終了する。
上述のステップS2の処理の第一具体例について、図9のフローチャートを参照して詳細に説明する。まず、ステップS11で、識別部130は、クラスタ化された領域のそれぞれの画素における物標までの距離を、TOF方式で導出する。
ここで、TOF方式による測距について簡単に説明する。図10に示すように、TOF方式による物標Tまでの測距は、光源210、画像センサ220および識別部130の組み合わせにより実現される。識別部130は、光源210からの出射光の出射タイミングと、画像センサ220における戻り光の受光タイミングとの時間差または位相差に基づいて、図9に示す物標Tまでの距離dtを導出する。なお、図10は、物標Tまでの距離dtを導出する際の出射光および戻り光の状態を示す模式図である。
ここで、TOF方式による測距の一例について説明する。光源210からの出射光は、図11に示すように、単位周期において、第一パルスPaと、第二パルスPbとを少なくとも一組含む。これらのパルス間隔(すなわち、第一パルスPaの立ち下がりエッジから第二パルスPbの立ち上がりエッジまでの時間)は、Gaである。また、これらのパルス振幅は互いに等しくSaとし、これらのパルス幅は互いに等しくWaとする。
画像センサ220は、撮像制御部110により、第一パルスPaおよび第二パルスPbの出射タイミングに基づくタイミングで露光するように制御される。具体的には、画像センサ220は、図11に例示するように、光源210からの出射光が撮像範囲の物標Tで反射されて戻ってきた不可視光に対して、第一露光、第二露光および第三露光を行う。
第一露光は、第一パルスPaの立ち上がりと同時に始まり、光源210からの出射光との関係で予め設定される露光時間Tx後に終了する。このような第一露光は、第一パルスPaに対する戻り光成分を受光することを目的としている。
第一露光による画像センサ220の出力Oaは、斜格子状のハッチングを付した戻り光成分Sと、ドットのハッチングを付した背景成分BGとを含む。戻り光成分Sの振幅は、第一パルスPaの振幅よりも小さい。
ここで、第一パルスPaおよびその戻り光成分Sの各立ち上がりエッジの時間差をΔtとする。Δtは、撮像装置200から物標Tまでの距離dtを、不可視光が往復するのに要する時間である。
第二露光は、第二パルスPbの立ち下がりと同時に始まり、露光時間Tx後に終了する。このような第二露光は、第二パルスPbに対する戻り光成分を受光することを目的としている。
第二露光による画像センサ220の出力Obは、全ての戻り光成分ではなく部分的な戻り光成分S(斜格子状のハッチング部分を参照)と、ドットのハッチングを付した背景成分BGとを含む。
なお、上記成分Sは、次の式(1)で表せる。
=S×(Δt/Wa) …(1)
第三露光は、第一パルスPaおよび第二パルスPbの戻り光成分を含まないタイミングで始まり、露光時間Tx後に終了する。このような第三露光は、戻り光成分と無関係な不可視光成分である背景成分BGのみを受光することを目的としている。
第三露光による画像センサ220の出力Ocは、ドットのハッチングを付した背景成分BGのみを含む。
上記のような出射光と戻り光との関係から、撮像装置200から路面までの距離dtは、次の式(2)〜(4)により導出することができる。
=Oa−BG …(2)
=Ob−BG …(3)
dt=c×(Δt/2)={(c×Wa)/2}×(Δt/Wa)={(c×Wa)/2}×(S/S) …(4)
ここで、cは光速である。
なお、上述したTOF方式はあくまでも一例であり、直接時間領域で計測する直接TOF方式や、位相差等の物理量の変化とそれを時間的変化に換算するための時間基準を用いて計測する間接TOF方式のいずれを用いても距離情報を導出することが可能であることは言うまでもない。
ステップS11に続くステップS12で、識別部130は、ステップS11で導出したそれぞれの画素における物標までの距離を加算平均して、第1マーカ2、第2マーカ3および第3マーカ4までの距離として出力する。
このように、マーカまでの距離を導出する際に、マーカに対応する複数の画素の情報を用いることで、マーカまでの測距精度を向上させることができる。
ステップS2の処理の第二具体例について、図12のフローチャートを参照して詳細に説明する。上述の第一具体例では、マーカに対応する複数の画素における物標までの距離をそれぞれ導出した後に加算平均して、マーカまでの距離を導出した。これに対して、以下に説明する例では、マーカに対応する複数の画素における戻り光成分を積算し、積算した戻り光成分を用いて、マーカまでの距離を導出する。
まず、ステップS21で、識別部130は、距離画像信号を用いて、マーカに対応する複数の画素における戻り光成分SおよびSを上述の式(2)および(3)を用いて算出する。
続くステップS22で、識別部130は、マーカに対応する複数の画素における戻り光成分SおよびSを積算して、戻り光成分の積算値ΣSおよびΣSを得る。
続くステップS23で、識別部130は、次式(5)を用いて、マーカまでの距離dtを導出する。
dt={c×Wa}/2}×(ΣS/ΣS) …(5)
以上、ステップS2の処理の第一具体例および第二具体例について説明した。
識別部130で識別された被連結具5の3次元座標および被牽引車両Tの状態に関する情報は、出力部150からADAS ECU300に出力される。
ADAS ECU300は、被連結具5の3次元座標および被牽引車両Tの状態に関する情報に基づいて、車両Vを後退させて被牽引車両Tと連結させるための(すなわち、連結具6の3次元座標と被連結具5の3次元座標とを一致させるための)車両Vの軌跡を算出する。
そして、ADAS ECU300は、車両Vのドライバーのステアリング操作のための案内を表示部に表示させる。具体的には、ADAS ECU300は、車両Vを後退させて被牽引車両Tと連結させるための車両Vの軌跡(ガイドライン)を、車内Vのモニタ(例えば、バックモニタ)に表示させる。車両Vのドライバーは、モニタに表示された軌跡を通るようにステアリング操作を行うことで、車両Vを適切に被牽引車両Tと連結させることができる。また、この際に、ADAS ECU300は、連結具6から被連結具5までの距離を表示部に表示させてもよい。
ADAS ECU300を用いて、算出された軌跡を通って車両Vが走行するように、車両Vの走行および操舵を制御して車両Vを自動走行させることもできる。この場合、「自動走行」は、アクセル操作、ステアリング操作およびブレーキ操作の全てを自動で行うものに限られず、例えばステアリング操作のみを自動で行い、残りの操作をドライバーが行うものを含む概念である。
以上説明したように、本実施形態に係る識別装置は、車両に搭載され、前記車両に設けられた連結具と被牽引車両に設けられた被連結具との位置関係を識別する識別装置であって、前記被牽引車両に設けられたマーカを含む画像の入力を受け付ける入力部と、前記画像に基づいて前記マーカの位置を推定し、前記マーカの位置から前記被連結具の位置を識別する識別部と、前記識別部での識別結果を出力する出力部と、を備える。
そのため、連結具から被連結具までの距離を精度良く推定することができる。
なお、上述の実施形態では、被牽引車両Tの前面に設けられた第1マーカ2および第2マーカ3と、被連結具5の近傍に設けられた第3マーカ4とを用いるものを例に説明を行ったが、これに限定されない。
具体的には、例えば、被連結具5にマーカを設ければ、TOF方式により被連結具5の3次元座標を導出することが可能である。その場合、上述のLUTが必須ではないことは言うまでもない。
また、各マーカを貼り直したり、新たに貼付する等して、各マーカおよび被連結具5の相対位置関係が変化した場合には、被連結具5を検出し、各マーカと被連結具5との相対位置関係を改めて規定してLUTに保存すればよい。そして、次回以降、このようにして新たに保存されたデータを用いればよい。
また、被牽引車両Tの状態を識別するのに用いるマーカは、2つでもよい。2つのマーカを、それぞれX座標が異なるように設けることで、被牽引車両Tのヨー角およびピッチ角を推定することができる。2つのマーカを、それぞれY座標が異なるように設けることで(第2マーカを、第1マーカから水平方向に離れた位置に設けることで)、被牽引車両Tのヨー角およびロール角を推定することができる。
2つのマーカを、それぞれZ座標が異なるように設けることで(第2マーカを、第1マーカから鉛直方向に離れた位置に設けることで)、被牽引車両Tのロール角およびピッチ角を推定することができる。また、例えば、2つのマーカを、それぞれY座標およびZ座標が異なるように設けることで、ヨー角、ロール角およびピッチ角を推定することができる。
また、上述の実施形態では、距離画像に基づき、TOF方式により各マーカまでの距離を導出するものを例に説明を行ったが、これに限定されない。可視画像や赤外画像を用いて、例えばSfM(Structure from Motion)等を用いてマーカまでの距離を導出してもよい。また、ステレオカメラを用いて各マーカまでの距離を導出してもよい。
また、上述の実施形態では、被連結車両Tに対して車両Vを連結させようとするタイミングで、識別を行うものを例に説明を行ったが、これに限定されない。
例えば、水辺や未舗装の悪路での連結作業では、ロール角やピッチ角が所定の角度以上となる状況が起こり得る。このような場合、最初に算出した軌跡どおりに車両Vを走行させるのが困難な場合がある。そのため、連結のために車両Vを移動させている途中で、複数回、識別処理を行い、その都度、軌跡の修正を実施することが好ましい。
さらに、車両Vと被牽引車両Tとを連結した状態で、車両Vを後進させることが考えられる。このような場合、被牽引車両Tの状態を識別して、被牽引車両Tの並行度をモニタし、ADAS ECU300が、被牽引車両Tの並行度を考慮して後進軌跡を予測するようにしてもよい。
また、車両Vと被牽引車両Tとを連結した状態で、車両Vを後進させる場合、路面の傾き等によりヨー、ロールおよびピッチのいずれかが大きくなると、後進の途中で連結部分に無理な力がかかり、連結具や被連結具を破損させてしまうおそれがある。
そこで、被牽引車両Tの状態を識別して、所定範囲を超えるヨー、ロールまたはピッチ状態が検出された場合に、ドライバーに対して警告をするようにしてもよい。このようにすれば、連結状態での後進の途中で連結部分に無理な力がかかり、連結具や被連結具を破損させてしまうという事態を防止することができる。
また、上述の実施形態では、マーカの反射率を所定の範囲内とすることで、マーカを確実に認識できるようにしたものを例に説明を行ったが、これに限定されない。撮像装置200の制御により、マーカの認識精度を向上させることも可能である。
具体的には、例えば、撮像制御部110により光源210を制御して、出射光の出力を、被連結具の識別を行う場合と、その他の場合とで異ならせてもよい。例えば、撮像制御部110は、被連結具の位置を識別する場合、被連結具の位置を識別する場合以外よりも出射光の出力を低くする。
出射光の出力を、数十メートル先の物標までの距離を測距する際に用いるような出力とすると、マーカでの反射が強すぎて、画像センサ220によってマーカを正確に認識できないおそれがある。これに対して、車両Vを被連結車両Tに対して近づけた状態では出射光の出力を抑えることにより、マーカを正確に認識できないという問題の発生を抑制することが可能となる。
また、例えば、撮像制御部110により画像センサ220を制御して、戻り光の受光感度(ゲイン)を、被連結具の識別を行う場合と、その他の場合とで異ならせてもよい。例えば、撮像制御部110は、被連結具の位置を識別する場合、被連結具の位置を識別する場合以外よりも戻り光の受光感度を低くする。
車両Vを被連結車両Tに対して近づけた状態では戻り光の受光感度を抑えることにより、マーカを正確に認識できないという問題の発生を抑制することが可能となる。
また、上述の実施形態では、各マーカを「輝度の高い領域」とし、「輝度の高い領域」を検出するものを例に説明を行ったが、これに限定されない。例えば、光源210の出力が高い場合、輝度の高い領域は飽和することがある。
このような場合には、各マーカを「輝度の低い領域」として、「輝度の低い領域」を検出するようにすることで、測距精度の低下を抑制することが可能であることは、言うまでもない。
また、上述の実施形態では、第1マーカ2、第2マーカ3、および第3マーカ4の反射率がそれぞれ異なるものを例に説明を行ったが、これに限定されない。各マーカにおける反射率を領域ごとに異ならせるようにしてもよい。以下、各マーカにおける反射率を領域ごとに異ならせるものについて説明する。
図13は、マーカの第1変形例を示す図である。図13に示すように、マーカ400は、最外周領域401に低反射材を用い、内側領域402に高反射材を用いたものである。このようにすることで、マーカの輪郭を精度良く検出することができる。
図14は、マーカの第2変形例を示す図である。図14に示すように、マーカ500は、縦長の低反射片501と高反射片502とを横方向に交互に並べて配置したものである。すなわち、マーカ500は、縦縞構造である。なお、低反射片501と高反射片502との並び順は交互には限定されず、周期的に並んでいればよい。
この場合、高反射片502の配置周期が規定値であるため、マーカ500の横方向の長さを容易に推定することができる。また、高反射片502の長軸の向き(傾き)から被牽引車両のロール角を容易に推定することができる。
図15は、マーカの第3変形例を示す図である。図15に示すように、マーカ600は、横長の低反射片601と高反射片602とを縦方向に交互に並べて配置したものである。すなわち、マーカ600は、横縞構造である。なお、低反射片601と高反射片602との並び順は交互には限定されず、周期的に並んでいればよい。
この場合も、高反射片602の配置周期が規定値であるため、マーカ600の縦方向の長さを容易に推定することができる。また、高反射片602の長軸の向き(傾き)から被牽引車両のロール角を容易に推定することができる。
なお、各マーカの構造を変更してもよい。例えば、第1マーカ2および第2マーカ3を横縞構造とし、第3マーカ4を縦縞構造としてもよいし、第1マーカ2および第2マーカ3を縦縞構造とし、第3マーカ4を横縞構造としてもよい。
図16は、上述した実施の形態および変形例における各部の機能をプログラムにより実現するコンピュータのハードウェア構成を示す図である。
図16に示すように、コンピュータ2100は、入力ボタン、タッチパッドなどの入力装置2101、ディスプレイ、スピーカなどの出力装置2102、CPU(Central Processing Unit)2103、ROM(Read Only Memory)2104、RAM(Random Access Memory)2105を備える。また、コンピュータ2100は、ハードディスク装置、SSD(Solid State Drive)などの記憶装置2106、DVD−ROM(Digital Versatile Disk Read Only Memory)、USB(Universal Serial Bus)メモリなどの記録媒体から情報を読み取る読取装置2107、ネットワークを介して通信を行う送受信装置2108を備える。上述した各部は、バス2109により接続される。
そして、読取装置2107は、上記各部の機能を実現するためのプログラムを記録した記録媒体からそのプログラムを読み取り、記憶装置2106に記憶させる。あるいは、送受信装置2108が、ネットワークに接続されたサーバ装置と通信を行い、サーバ装置からダウンロードした上記各部の機能を実現するためのプログラムを記憶装置2106に記憶させる。
そして、CPU2103が、記憶装置2106に記憶されたプログラムをRAM2105にコピーし、そのプログラムに含まれる命令をRAM2105から順次読み出して実行することにより、上記各部の機能が実現される。また、プログラムを実行する際、RAM2105または記憶装置2106には、各実施の形態で述べた各種処理で得られた情報が記憶され、適宜利用される。
本開示に係る識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体によれば、連結具から被連結具までの距離を精度良く推定することができ、車載用途に好適である。
1 周辺監視システム
2 第1マーカ
3 第2マーカ
4 第3マーカ
5 被連結具
6 連結具
100 識別装置
110 撮像制御部
120 入力部
130 識別部
140 記憶部
150 出力部
200 撮像装置
210 光源
220 画像センサ
300 ADAS ECU
400、500、600 マーカ
401 最外周領域
402 内側領域
501、601 低反射片
502、602 高反射片
2100 コンピュータ
2101 入力装置
2102 出力装置
2103 CPU
2104 ROM
2105 RAM
2106 記憶装置
2107 読取装置
2108 送受信装置
2109 バス

Claims (17)

  1. 車両に搭載され、前記車両に設けられた連結具と被牽引車両に設けられた被連結具との位置関係を識別する識別装置であって、
    前記被牽引車両に設けられたマーカを含む画像の入力を受け付ける入力部と、
    前記画像に基づいて前記マーカの位置を推定し、前記マーカの位置から前記被連結具の位置を識別する識別部と、
    前記識別部での識別結果を出力する出力部と、を備える、
    識別装置。
  2. 前記マーカの位置と前記被連結具の位置との関係が規定されたテーブルを記憶する記憶部をさらに備え、
    前記識別部は、前記テーブルを用いて、前記マーカの位置から前記被連結具の位置を識別する、
    請求項1に記載の識別装置。
  3. 前記マーカは、第1マーカと、前記第1マーカから水平方向に離れて設けられた第2マーカとを含み、
    前記識別部は、前記第1マーカおよび前記第2マーカの位置関係に基づいて、前記被牽引車両のロール状態およびヨー状態の少なくとも一方をさらに識別する、
    請求項1または2に記載の識別装置。
  4. 前記マーカは、第1マーカと、前記第1マーカから鉛直方向に離れて設けられた第3マーカとを含み、
    前記識別部は、前記第1マーカおよび前記第3マーカの位置関係に基づいて、前記被牽引車両のロール状態およびピッチ状態の少なくとも一方をさらに識別する、
    請求項1または2に記載の識別装置。
  5. 前記マーカは、第1マーカと、前記第1マーカから水平方向に離れて設けられた第2マーカと、前記第1マーカから鉛直方向に離れて設けられた第3マーカとを含み、
    前記識別部は、前記第1マーカ、前記第2マーカおよび前記第3マーカの位置関係に基づいて、前記被牽引車両のヨー状態、ロール状態およびピッチ状態の少なくともいずれかをさらに識別する、
    請求項1または2に記載の識別装置。
  6. 前記被連結具は、前記被牽引車両において前記車両と対向する前面から前側へ突出して設けられており、
    前記第1マーカおよび前記第2マーカは、前記被牽引車両の前面に設けられており、
    前記第3マーカは、前記被連結具の近傍に設けられている、
    請求項5に記載の識別装置。
  7. 前記マーカの反射率は、前記被牽引車両の前面および前記被連結具の反射率よりも所定値以上高い、
    請求項1ないし6のいずれか一項に記載の識別装置。
  8. 前記画像は、赤外画像または距離画像である、
    請求項1ないし7のいずれか一項に記載の識別装置。
  9. 前記識別部は、
    前記距離画像に基づいて、前記マーカまでの距離を光飛行時間測距法によって導出し、
    導出された前記マーカまでの距離に基づいて、前記マーカの位置を推定する、
    請求項8に記載の識別装置。
  10. 前記識別部は、
    前記赤外画像または前記距離画像に基づいて、前記マーカに対応する領域をクラスタ化し、
    前記距離画像に基づいて、前記クラスタ化された領域における複数の画素の情報に基づいて、光飛行時間測距法により前記マーカまでの距離を導出し、
    導出された前記マーカまでの距離に基づいて、前記マーカの位置を推定する、
    請求項8に記載の識別装置。
  11. 撮像装置の光源から出射される出射光の出射条件を制御する撮像制御部をさらに備え、
    前記撮像制御部は、
    前記被連結具の位置を識別する場合、前記被連結具の位置を識別する場合以外よりも前記出射光の出力を低くする、
    請求項8ないし10のいずれか一項に記載の識別装置。
  12. 撮像装置の画像センサで受光する戻り光の受光条件を制御する撮像制御部をさらに備え、
    前記撮像制御部は、
    前記被連結具の位置を識別する場合、前記被連結具の位置を識別する場合以外よりも前記戻り光の受光感度を低くする、
    請求項8ないし10のいずれか一項に記載の識別装置。
  13. 前記出力部は、前記識別結果を、前記車両の運転者のステアリング操作のための案内を表示させる運転支援装置に出力する、
    請求項1ないし12のいずれか一項に記載の識別装置。
  14. 前記出力部は、前記識別結果を、前記車両の自動運転を行う運転支援装置に出力する、
    請求項1ないし12のいずれか一項に記載の識別装置。
  15. 車両に設けられた連結具と被牽引車両に設けられた被連結具との位置関係を識別する識別方法であって、
    前記被牽引車両に設けられたマーカを含む画像の入力を受け付ける入力ステップと、
    前記画像に基づいて前記マーカの位置を推定し、前記マーカの位置から前記被連結具の位置を識別する識別ステップと、
    前記識別ステップでの識別結果を出力する出力ステップと、を備える、
    識別方法。
  16. コンピュータに、
    被牽引車両に設けられたマーカを含む画像の入力を受け付ける入力処理と、
    前記画像に基づいて前記マーカの位置を推定し、前記マーカの位置から前記被牽引車両に設けられた被連結具の位置を識別する識別処理と、
    前記識別処理での識別結果を出力する出力処理と、を実行させる、
    識別プログラム。
  17. 請求項16に記載の識別プログラムを記録した一時的でない有形の記録媒体。
JP2018141092A 2018-07-27 2018-07-27 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体 Pending JP2020017170A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018141092A JP2020017170A (ja) 2018-07-27 2018-07-27 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018141092A JP2020017170A (ja) 2018-07-27 2018-07-27 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体

Publications (1)

Publication Number Publication Date
JP2020017170A true JP2020017170A (ja) 2020-01-30

Family

ID=69580536

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018141092A Pending JP2020017170A (ja) 2018-07-27 2018-07-27 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体

Country Status (1)

Country Link
JP (1) JP2020017170A (ja)

Similar Documents

Publication Publication Date Title
US11719788B2 (en) Signal processing apparatus, signal processing method, and program
US11198341B2 (en) Trailer detection and autonomous hitching
US10984553B2 (en) Real-time trailer coupler localization and tracking
US11198340B2 (en) Coupler and tow-bar detection for automated trailer hitching via cloud points
US11633994B2 (en) Vehicle-trailer distance detection device and method
Stiller et al. Multisensor obstacle detection and tracking
WO2019217586A1 (en) Visual object tracker
US20190072648A1 (en) Imaging control apparatus, imaging control method, imaging control program, and recording medium having imaging control program recorded thereon
JP2019148865A (ja) 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体
WO2020196513A1 (ja) 物体検出装置
US20200402249A1 (en) Object distance measurement apparatus and method
JP2007304033A (ja) 車両の周辺監視装置、車両、車両の周辺監視方法、および車両の周辺監視用プログラム
JP2020006780A (ja) 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体
CN114063295A (zh) 增强现实图像的动态调整
JP2019152580A (ja) 路面状態検出装置
JP2019045301A (ja) 撮像制御装置、撮像制御方法、撮像制御プログラムおよび撮像制御プログラムを記録した記録媒体
US20200311967A1 (en) Information processing device and computer-readable recording medium recording object information generation program
WO2021108802A1 (en) 3d position estimation system for trailer coupler
JP6988873B2 (ja) 位置推定装置および位置推定用コンピュータプログラム
US20190118823A1 (en) Road surface detection apparatus, road surface detection method, and recording medium including road surface detection program recorded therein
JP2020017170A (ja) 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体
JP2019174975A (ja) 識別装置、識別方法、識別プログラムおよび識別プログラムを記録した一時的でない有形の記録媒体
CN112400094B (zh) 物体探测装置
KR102612066B1 (ko) 비정형 3d 투영면을 통한 3d svm 영상 왜곡보정 방법
US20230046397A1 (en) Information processing apparatus, sensing apparatus, mobile object, and method for processing information

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190625

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20191021