JPWO2013058128A1 - 車両周辺監視装置 - Google Patents
車両周辺監視装置 Download PDFInfo
- Publication number
- JPWO2013058128A1 JPWO2013058128A1 JP2013539606A JP2013539606A JPWO2013058128A1 JP WO2013058128 A1 JPWO2013058128 A1 JP WO2013058128A1 JP 2013539606 A JP2013539606 A JP 2013539606A JP 2013539606 A JP2013539606 A JP 2013539606A JP WO2013058128 A1 JPWO2013058128 A1 JP WO2013058128A1
- Authority
- JP
- Japan
- Prior art keywords
- animal
- vehicle
- image
- pedestrian
- target object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012806 monitoring device Methods 0.000 title claims abstract description 25
- 241001465754 Metazoa Species 0.000 claims abstract description 131
- 238000001514 detection method Methods 0.000 claims description 23
- 238000012544 monitoring process Methods 0.000 claims description 21
- 241000282472 Canis lupus familiaris Species 0.000 description 14
- 238000000034 method Methods 0.000 description 13
- 230000008859 change Effects 0.000 description 10
- 238000003384 imaging method Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 7
- 238000000605 extraction Methods 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 241000282994 Cervidae Species 0.000 description 3
- 241000018242 Obba <basidiomycete fungus> Species 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000005484 gravity Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 230000037007 arousal Effects 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Traffic Control Systems (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
車両(12)に搭載された撮像装置(16)により撮像した画像から検知された歩行者候補(62)と動物候補(162)とが前記画像上で所定関係(近傍に存在する等)にあるとき、動物候補(162)が歩行者候補(62)と関係しているもの、すなわちペア対象物(Pobj)とみなす。ペア対象物(Pobj)を構成する動物候補(162)に対しては注意喚起出力を生成しない。よって、人が散歩をさせている動物(例えば、犬等の小型動物)に対する注意喚起の頻度を低減される車両周辺監視装置(10)が提供される。
Description
この発明は、車両に搭載された赤外線カメラ(グレースケール画像)等により撮像した画像を用いて、前記車両の周辺を監視する車両周辺監視装置に関する。
特開2003−284057号公報(以下、JP2003−284057Aという。)に示すように、従来から、車両周辺監視装置では、赤外線カメラにより捉えられた自車両周辺の画像(グレースケール画像とその2値化画像)から、自車両との接触の可能性がある歩行者等の対象物を検知し、検知した対象物を自車両の運転者に提供する。
JP2003−284057Aに係る車両周辺監視装置では、左右一組の赤外線カメラ(ステレオカメラ)が撮像した自車両周辺の画像において温度が高い部分を前記対象物として検知するとともに、左右画像中の対象物の視差を求めることにより当該対象物までの距離を算出し、当該対象物の移動方向や当該対象物の位置から、自車両の走行に影響を与えそうな(接触の可能性のある)歩行者等の対象物を検出して警報を出力する(JP2003−284057Aの[0014]、[0018])。
特許第4267657号公報(以下、JP4267657Bという。)に係る車両周辺監視装置では、車両に搭載された単一の赤外線カメラを用いて、所定時間間隔で車両周辺の対象物を少なくとも2回(2フレーム)撮像する。前回の画像の大きさ(サイズ)に比較して今回の撮像画像における対象物の画像の大きさ(サイズ)の変化は、対象物と車両周辺監視装置搭載車両との相対速度が高いほど大きくなる。そして、車両の前方に存在する対象物は、当該対象物と車両との相対速度が高いほど、車両への到達時間が短くなる。このように、単一の赤外線カメラであっても所定時間間隔での同一の対象物の画像部分の大きさの変化率から、車両への到達時間を推定することで車両の周辺を監視することができる(JP4267657Bの[0006]、[0007]、[0061])。
特許第4173901号公報(以下、JP4173901Bという。)に係る車両周辺監視装置は、車両周辺に存在し、車両と接触する可能性のある対象物は歩行者に限られるものではなく、例えば、鹿等の大型動物が道路上に存在していて車両と接触する場合も考えられるので、対象物の中から人以外の動物を検知する技術が開示されている(JP4173901Bの[0006])。
車両と接触する可能性のある対象物として、JP4173901Bでは、鹿等の大型動物を例として挙げ、この大型動物を検知する技術を開示しているが、車両と接触する可能性のある動物として犬等の小型動物も存在する。
JP4173901Bに係る技術では、犬等の小型動物が、例えば、歩道等に存在する場合においても、当該犬等の小型動物が車道に飛び出し車両と接触する可能性があると判定し、警報対象として警報することができる。
ところで、歩行者(人)が小型動物にリードを付けて歩道上等を散歩させている状態では、通常、前記車両が接近してきた場合、前記小型動物を散歩させている前記歩行者が、前記リードを引く等して、前記小型動物と前記車両との接触を未然に回避させる。
このように、接触の可能性が存在しないのにも係わらず、上記JP4173901B等に係る技術では、行動パターンの読みにくい犬等の小型動物が、例えば、歩道等に存在する場合においても、当該犬等の移動ベクトルを求める(JP4173901Bの[0046]、[0047])ようにしているので、たとえ歩行者(人)に散歩されている動物(散歩動物ともいう。)であっても当該犬等の小型動物が飛び出してきて車両と接触する可能性があると判定し、警報対象と認識して警報するようになっていることから、高頻度に警報報知等がなされ、運転者等にとって煩わしいという課題があり、改善の余地がある。
特に、特異な行動パターンにより不規則に移動する動物の警報対象範囲を、車両を思惟的に回避することができる歩行者(人)の警報対象範囲より広く採っている車両周辺監視装置では、前記散歩動物であっても、当該散歩動物に対する警報報知がきわめて高頻度になる可能性が高い。
この発明は、このような課題を考慮してなされたものであって、人が散歩をさせている動物(例えば、犬等の小型動物)に対する注意喚起の頻度を低減するようにした車両周辺監視装置を提供することを目的とする。
この発明に係る車両周辺監視装置は、車両に搭載された撮像装置により撮像した画像を用いて前記車両の周辺を監視する車両周辺監視装置において、監視しようとする対象物としての歩行者を前記画像から検知する歩行者検知処理部と、監視しようとする対象物としての動物を前記画像から検知する動物検知処理部と、前記画像から検知された前記歩行者と前記動物とが前記画像上で所定関係にあるとき、対対象物であると判定する対対象物判定処理部と、前記車両の運転者に注意喚起するための注意喚起出力を生成するか否かを判定する注意喚起出力生成判定部と、を備え、前記注意喚起出力生成判定部は、前記対対象物判定処理部により前記歩行者と前記動物とが前記対対象物であると判定されたとき、前記対対象物を構成する前記動物に対しては前記注意喚起出力を生成しないことを特徴とする。
この発明によれば、車両に搭載された撮像装置により撮像した画像から検知された歩行者と動物とが前記画像上で所定関係にあるとき、前記動物が前記歩行者と関係しているもの、すなわち対対象物とみなし、前記対対象物を構成する前記動物は、前記歩行者の監督下(制御下)にあり注意喚起が不要な前記動物とみなして当該動物に対しては注意喚起出力を生成しないようにしたので、警報等の頻度が低減され、運転者等の煩わしさを軽減することができる。
つまり、歩行者が動物を散歩させている状態では前記動物を注意喚起対象としない。
この場合、前記対対象物判定処理部は、検知された前記歩行者と前記動物とが所定範囲内に存在する場合に、前記対対象物であると判定することを特徴とする。検知された前記歩行者と前記動物とが所定範囲内に存在する場合には、対対象物である可能性が高いので、対対象物であるか否かを簡易な構成で判定できる。
なお、前記対対象物判定処理部は、検知された前記歩行者より前記動物の背丈が低い場合に、前記対対象物であると判定してもよい。検知された前記歩行者より前記動物の背丈が低い場合には、対対象物である可能性が高いので、対対象物であるか否かをより高精度に判定できる。
さらに、前記対対象物判定処理部は、検知された前記歩行者と前記動物との間に紐が検知されている場合に、前記対対象物であると判定することを特徴とする。検知された前記歩行者と前記動物との間に紐(リード)が検知されている場合には、例えば、犬と、この犬に繋がれた紐を引く歩行者と、からなる対対象物である可能性が高いので、対対象物であるか否かをより高精度に判定できる。
さらにまた、前記注意喚起出力に応じた表示を行う表示部をさらに備え、前記注意喚起出力は、前記表示部上で、前記対対象物を一つの枠で囲んで注意喚起を行う出力であることを特徴とする。表示部上で、前記対対象物を一つの枠で囲んで注意喚起を促すようにしたので、運転者は、歩行者と、当該歩行者と所定関係にある動物とを一目で認識することができる。
この発明によれば、車両に搭載された撮像装置により撮像した画像から検知された歩行者と動物とが前記画像上で所定関係にあるとき、前記動物が前記歩行者と関係しているもの、すなわち対対象物とみなし、前記対対象物を構成する前記動物は、前記歩行者の監督下(制御下)にあり注意喚起が不要な前記動物とみなして当該動物に対しては注意喚起出力を生成しないようにしたので、運転者の煩わしさを軽減することができる。
以下、この発明の実施形態について図面を参照して説明する。
図1は、この発明の一実施形態に係る車両周辺監視装置10の構成を示すブロック図である。図2は、図1に示す車両周辺監視装置10が搭載された車両(自車両ともいう。)12の模式図である。
図1及び図2において、車両周辺監視装置10は、該車両周辺監視装置10を制御する画像処理ユニット14と、この画像処理ユニット14に接続される単一(単眼)の赤外線カメラ16(撮像装置)と、車両12の車速Vsを検出する車速センサ18と、運転者によるブレーキペダルの操作量(ブレーキ操作量)Brを検出するブレーキセンサ20と、車両12のヨーレートYrを検出するヨーレートセンサ22と、音声で警報等を発するためのスピーカ24と、赤外線カメラ16により撮影された画像を表示し、接触の危険性が高い歩行者等の対象物(移動対象物)を車両の運転者に認識させるためのHUD(Head Up Display)26a等を含む画像表示装置26と、を備える。
画像表示装置26としては、HUD(ヘッドアップディスプレイ)26aに限らず、車両12に搭載されたナビゲーションシステムの地図等を表示するディスプレイや、メータユニット内等に設けられた燃費等を表示するディスプレイ(マルチインフォメーションディスプレイ)を利用することができる。
画像処理ユニット14は、車両12の周辺の赤外線画像と車両の走行状態を示す信号(ここでは、車速Vs、ブレーキ操作量Br及びヨーレートYr)とから、車両前方の歩行者や動物等の監視対象物を検出し、当該監視対象物との接触の可能性が高いと判断したときにスピーカ24から警報(例えば、ピッ、ピッ、…となる音)を発するとともに、HUD26a上にグレースケール表示される撮像画像の中の監視対象物を、黄色や赤色等の目立つ色枠で囲って表示する。このようにして、運転者の注意を喚起する。
ここで、画像処理ユニット14は、入力アナログ信号をデジタル信号に変換するA/D変換回路等の入力回路と、デジタル化した画像信号を記憶する画像メモリ(記憶部14m)と、各種演算処理を行うCPU(中央処理装置)14cと、CPU14cが演算途中のデータを記憶するために使用するRAM(Random Access Memory)やCPU14cが実行するプログラムやテーブル、マップ及びテンプレート{歩行者(人体)形状テンプレート:右向き、左向き、正面(背面)向き、動物形状テンプレート:鹿や犬等の右向き、左向き、正面(背面)向き等}等を記憶するROM(Read Only Memory)等の記憶部14mと、クロック及びタイマと、スピーカ24の駆動信号と画像表示装置26の表示信号等を出力する出力回路等を備えており、赤外線カメラ16、ヨーレートセンサ22、車速センサ18、及びブレーキセンサ20の各出力信号は、デジタル信号に変換されてCPU14cに入力されるように構成されている。
画像処理ユニット14のCPU14cは、これらデジタル信号を取り込み、テーブル、マップ、及びテンプレート等を参照しながらプログラムを実行することで、各種機能手段(機能部ともいう。)として機能し、スピーカ24及び画像表示装置26に駆動信号(音声信号や表示信号)を送出する。これらの機能は、ハードウエアにより実現することもできる。
この実施形態において、画像処理ユニット14は、それぞれ詳細を後述する歩行者検知処理部102、動物検知処理部104、対対象物(ペア対象物という。)判定処理部106、接触可能性判定部107、及び注意喚起出力生成判定部108等の前記機能部を有する。
なお、画像処理ユニット14は、基本的には、赤外線カメラ16により取得した画像と、記憶部14mに記憶されている人体形状、動物形状、車両形状、及び人工構造物形状等の模式的なテンプレートと比較して物体を認識する物体認識処理(物体検知処理)プログラムを実行する。
図1に示すように、赤外線カメラ16は、車両12の前部バンパー部に、車両12の車幅方向中心部に配置されており、撮像対象(物体)の温度が高いほど、その出力信号(撮像信号)レベルが高くなる(輝度が増加する)特性を有している。
また、HUD26aは、車両12のフロントウインドシールド上、運転者の前方視界を妨げない位置に表示画面が表示されるように設けられている。
ここで、画像処理ユニット14は、赤外線カメラ16から出力されるアナログの映像信号を、数十ms、例えば、1秒/30フレーム[ms]のフレームクロック間隔・周期毎にデジタルデータに変換して記憶部14m(画像メモリ)に取り込み、記憶部14mに取り込んだ車両前方の画像に対して各種演算処理を行う上述した機能を有する。
歩行者検知処理部102及び動物検知処理部104は、記憶部14mに取り込んだ車両前方の前記画像から監視対象物の画像部分を抽出する。注意喚起出力生成判定部108は、接触可能性判定部107を通じて、前記フレームクロック間隔・周期(所定時間間隔)をもって撮像された画像間における同一の監視対象物の画像部分の大きさの変化率Rateを算出し、さらに前記変化率Rateを用いて監視対象物が車両12に到達するまでの時間を推定するとともに、監視対象物の実空間における位置を算出し、監視対象物の実空間における移動ベクトルを算出する。
監視対象物が車両12に到達するまでの時間(接触余裕時間ともいう。)TTC(Time To Contact or Time To Collision)、換言すれば、車両12が監視対象物に接触するまでの時間TTCは、前記変化率Rate(画像から求める。)と、所定時間間隔である撮像間隔(フレームクロック周期)dT(既知)とから、公知の要領にて、例えば、JP4267657Bに示されるように、次の(1)式により求めることができる。
TTC=dT×Rate/(1−Rate) …(1)
なお、変化率Rateは、監視対象物の前回の撮像時の画像中の監視対象物の幅又は長さW0(それぞれ画素数で記憶しておけばよい。)と、今回の撮像時の画像中の同一監視対象物の幅又は長さW1(画素数)との比(Rate=W0/W1)で求めることができる。
なお、変化率Rateは、監視対象物の前回の撮像時の画像中の監視対象物の幅又は長さW0(それぞれ画素数で記憶しておけばよい。)と、今回の撮像時の画像中の同一監視対象物の幅又は長さW1(画素数)との比(Rate=W0/W1)で求めることができる。
さらに、注意喚起出力生成判定部108は、接触可能性判定部107を通じて、前記接触余裕時間TTCと、所定時間間隔をもって撮像された前記画像間における同一の監視対象物の画像部分の位置変化量Δx(水平方向),Δy(垂直方向)を算出し、算出した位置変化量(移動ベクトル)Δx,Δyと、に基づいて監視対象物と車両12との接触可能性を判定する。
ペア対象物判定処理部106は、記憶部14mに取り込んだ車両前方の前記画像から抽出された監視対象物の画像部分において、前記歩行者と前記動物との対応関係(係わり具合)が予め定めた所定関係(後述する。)にあるペア対象物であるか否かを判別することで、前記動物が前記歩行者の監督下(制御下)にあり注意喚起が不要な動物、すなわち散歩動物であるか否かを決定する。
基本的には以上にように構成され、且つ動作するこの実施形態に係る車両周辺監視装置10の詳細な動作について、図3のフローチャートを参照しながら説明する。
まず、ステップS1において、画像処理ユニット14は、車速センサ18により検出される車速Vs等から車両12の走行状態(走行中か停車中)を判定し、停車中(ステップS1:NO)である場合には、処理を停止する。
走行中(ステップS1:YES)である場合、ステップS2において、画像処理ユニット14は、赤外線カメラ16によりフレーム毎に撮像された車両前方の所定画角範囲のフレーム毎の出力信号である赤外線画像を取得し、A/D変換し、グレースケール画像を画像メモリ(記憶部14m)に格納するとともに、格納したグレースケール画像の2値化処理、すなわち、輝度閾値より明るい領域を「1」(白)とし、暗い領域を「0」(黒)とする2値化画像への変換処理を行い、変換した2値化画像も前記フレームに対応させてフレーム毎に記憶部14mに格納する。この2値化処理では、人体では、頭部、肩、胴体、及び2本の脚等からなる塊(人体対象物候補)が、「1」の塊(集合体)として検出される。また、犬(小型動物)、鹿(大型動物)等の動物(この実施形態では四つ足動物)でも同様に、頭部、胴体、尾、及び4本の脚等の塊(動物対象物候補)が、「1」の塊(集合体)として検出される。
次いで、ステップS3にて、画像処理ユニット14は、フレーム(画像)毎の2値化画像の「1」(白)をx方向(水平方向)の走査ライン毎にランレングスデータに変換し、y方向(垂直方向)に重なる部分のあるラインを1つの対象物とみなし、当該対象物の外接四角形にそれぞれラベルを付け、例えば、図4に外接四角形で囲った対象物候補領域52、及び図5に外接四角形で囲った対象物候補領域152とするラベリング処理を行う。
次いで、ステップS4にて、歩行者検知処理部102は、対象物としての歩行者検知処理を実行するとともに、ステップS5にて、動物検知処理部104は、対象物としての動物検知処理を実行する。
まず、ステップS4にて、歩行者検知処理部102は、フレームの画像中、ラベルが付けられた図4に示す対象物候補領域52より若干大きいマスク領域53(図4中、一点鎖線で囲んだ領域)に対してマスク領域53内の画素の上側から下側に且つ左側から右側に対して画素値を走査しながら探索していき、暗い領域の「0」画素が連続して続いた場合、その走査部分が画像中の歩行者候補62(頭部54と胴体部60と脚部59とから構成される。)と路面51との境界と判定し、対象物の下端OBbmとする。
また、ステップS4にて、歩行者検知処理部102は、対象物の下端OBbmから逆に上側にマスク領域53内の画像に対して左側から右側に画素毎に走査しながら探索していき、垂直方向で輝度の水平エッジ(頭部54の頂部)の変化区間(2値化画像では、上下方向で「1」と「0」の対が概ね連続する区間)を検出した場合、その変化区間の走査部分が歩行者候補62と背景との境界のエッジである対象物の上端OBtmとする。
同様に、ステップS5にて、動物検知処理部104は、フレームの画像中、図5に示すラベルが付けられた対象物候補領域152より若干大きいマスク領域153(図5中、一点鎖線で囲んだ領域)に対してマスク領域153内の画素の上側から下側に且つ左側から右側に対して画素値を走査しながら探索していき、暗い領域の「0」画素が連続して続いた場合、その走査部分が画像中の動物候補162(頭部154と胴体部160と脚部159とから構成される)と路面51との境界と判定し、対象物の下端OBbaとする。
また、同様に、ステップS5にて、動物検知処理部104は、対象物の下端OBbaから逆に上側にマスク領域153内の画像に対して左側から右側に画素毎に走査しながら探索していき、垂直方向で輝度の水平エッジ(頭部154の頂部)の変化区間(2値化画像では、上下方向で「1」と「0」の対が概ね連続する区間)を検出した場合、その変化区間の走査部分が動物候補162と背景との境界のエッジである対象物の上端OBtaとする。
なお、歩行者候補62(図4)とするか動物候補162(図5)とするかは、種々の判定の仕方があるが、例えば、背丈について、歩行者の背丈Hm(Hm=OBtm−OBbm:単位は、例えば、画素数)が動物(特に、犬の場合)の背丈Ha(Ha=OBta−OBba:単位は、同様に、画素数)より高い場合には、歩行者候補62と判定する。また、胴体高さbhm、bhaと頭部高さhhm、hhaの比により各閾値と比較して判定することができる。通常、歩行者(人体)の比hhm/bhm(=頭部高さ/胴体高さ)が、犬等の動物の比hha/bha(=頭部高さ/胴体高さ)より小さい。また、4本の足(脚部159)を検知したときには動物候補162とし、2本の足(脚部59)を検知したときには歩行者候補62とすることができる。横向きが確定できれば頭幅hwm、hwaと全幅Wm、Waの比(hwm/Wm=頭幅/胴体幅又はhwa/Wa=頭幅/全体幅)で判定することもできる。
次に、ステップS6にて、ペア対象物判定処理部106により、同一の画像からステップS4で検知された歩行者候補62とステップS5で検知された動物候補162とが、以下に説明する対対象物(ペア対象物)Pobjであるか否かを判定する。
ペア対象物判定処理部106は、同一の前記画像から検知された前記歩行者候補62と前記動物候補162とが前記画像上で所定関係にあるときペア対象物Pobjであると判定する。
前記所定関係について具体的に説明する。以下の第1〜第5の判定条件のうち、少なくとも1つの判定条件が成立した場合、ペア対象物Pobjであると判定する。
第1の判定条件では、車両12から歩行者候補62までの距離Dmと、車両12から動物候補162までの距離Daの差分|Dm−Da|及び、歩行者候補62の位置(重心位置)Pmと動物候補162の重心位置Paとの間の横位置の距離の差分|Pm−Pa|が、それぞれ各閾値距離Dth、Pth以内(|Dm−Da|≦Dth、|Pm−Pa|≦Pth)に存在する場合に、ペア対象物Pobjであると判定する。なお、横位置の距離の差分|Pm−Pa|の閾値距離Pthは、動物の種類によって分けてもよい。つまり、第1の判定条件は、歩行者候補62と動物候補162とが概ね同距離で且つ近傍に存在する(ペア対象物Pobjである。)か否か(ペア対象物Pobjではない。)に対応してペア対象物Pobjであるか否か判定する。
さらに、実際の撮像画像を参照して第2〜第5の判定条件について説明する。
第2の判定条件では、図6に示すように、画像(グレースケール画像又は2値化画像)中、動物候補162の重心位置Paが歩行者候補62の外接四角形である対象物候補領域52の幅Wmの左右領域内に存在する場合に、ペア対象物Pobjであると判定する。つまり、第2の判定条件は、歩行者候補62と動物候補162とが同位置近傍に存在するか否かに対応してペア対象物Pobjであるか否かを判定する。
第3の判定条件では、図7に示すように、画像(グレースケール画像又は2値化画像)中、歩行者候補62の路面51との境界(交点)である下端OBbmと動物候補162の路面51との境界(交点)である下端OBbaとの差分|OBbm−OBba|が、閾値OBth以内である(|OBbm−OBba|≦OBth)場合に、ペア対象物Pobjであると判定する。つまり、第3の判定条件は、歩行者候補62と動物候補162との車両12からの距離が同距離近傍に存在するか否かに対応してペア対象物Pobjであるか否かを判定する。
第4の判定条件では、図8に示すように、歩行者候補62の上端OBtmと動物候補162の上端OBtaとの高さの差|OBtm−OBta|が、閾値Hth(閾値Hthは、例えば、歩行者候補62の背丈Hmの1/2)より大きい(|OBtm−OBta|≧Hth)場合に、ペア対象物Pobjであると判定する。つまり、第4の判定条件では、動物、ここでは、歩行者により散歩されている犬等の動物(散歩動物ともいう。)の背丈(散歩動物の背丈)Haが、人の背丈Hmよりも低いことを前提としている。
第5の判定条件では、図9に示すように、歩行者候補62と動物候補162との間であって動物候補162の上部領域67にプロファイル、図9例では、リード(紐)69が存在する場合、又は歩行者候補62と動物候補162との間に1対のエッジ62e(図9では、歩行者候補62の手の先端)、162e(図9では、動物候補162の尾の端)が存在する場合には、ペア対象物Pobjであると判定する。
以上のようにして、ステップS6にて、ペア対象物判定処理部106により、同一の画像からステップS4で検知された歩行者候補62とステップS5で検知された動物候補162とが、ペア対象物Pobjであるか否かを判定する。
ステップS6の判定において、画像中に、ペア対象物Pobjが存在している(ステップS6:YES)場合、ペア対象物Pobjを構成する動物候補162は、歩行者の管理下にある動物であるとみなし、ステップS7にて、注意喚起出力生成判定部108は、注意喚起する対象物から除外する。すなわち、ペア対象物Pobjを構成する動物候補162に対しては、後述するステップS9での車両12と動物との接触可能性についての処理を行わない。結果として、ペア対象物Pobjを構成する動物候補162に対しては、警報等の注意喚起出力が生成されないことになる。
次いで、注意喚起出力生成判定部108は、接触可能性判定部107により、ステップS8にて、ペア対象物Pobjを構成する歩行者候補62(ステップS6:YES)との接触可能性、及び動物候補162と所定関係にない(上述した第1〜第5の判定条件に当てはまらない)歩行者候補62(ステップS6:NO)との接触可能性について判定するとともに、ステップS9にて、ペア対象物Pobjを構成しない動物候補162との接触可能性について判定する。
すなわち、上述したように、接触可能性は、歩行者候補62及び動物候補162に対する、上述した(1)式の各接触余裕時間TTCと歩行者候補62及び動物候補162の各移動ベクトルとを考慮し、さらに、ブレーキセンサ20、車速センサ18、及びヨーレートセンサ22の各出力であるブレーキ操作量Br、車速Vs、ヨーレートYrとに基づき、車両12が歩行者候補62及び動物候補162に接触の可能性があるかどうかを判定し、接触の可能性があると判定した場合(ステップS8:YES、ステップS9:YES)には、ステップS10、ステップS11において、注意喚起出力生成判定部108は、注意喚起出力を生成し、運転者の注意を喚起する(運転者に情報を提供する)。具体的には、歩行者及び・又は動物のグレースケール画像をHUD26aに表示するとともに、スピーカ24を通じて警報を発生し、車両12の運転者に接触の回避操作を促す。
この場合、上述した実施形態では、注意喚起出力生成判定部108は、図10のグレースケール画像80に示すように、HUD26aの表示上で、歩行者候補62と動物候補162とからなるペア対象物Pobjを、赤、黄色等の目立つ色の一つの枠70(概ね外接四角形)で囲んで注意喚起を促す出力を生成する。
[実施形態の概要]
以上説明したように、上述した実施形態に係る車両周辺監視装置10は、車両12に搭載された単一の赤外線カメラ16により撮像した画像から注意喚起出力が必要な対象物を検知する。
以上説明したように、上述した実施形態に係る車両周辺監視装置10は、車両12に搭載された単一の赤外線カメラ16により撮像した画像から注意喚起出力が必要な対象物を検知する。
この場合、車両周辺監視装置10は、監視しようとする対象物としての歩行者候補62(歩行者)を前記画像から検知する歩行者検知処理部102と、監視しようとする対象物としての動物候補162(動物)を前記画像から検知する動物検知処理部104と、前記画像から検知された歩行者候補62と動物候補162とが前記画像上で所定関係にあるとき、ペア対象物(対対象物)Pobjであると判定するペア(対)対象物判定処理部106と、車両12の運転者に注意喚起するための注意喚起出力を生成するか否かを判定する注意喚起出力生成判定部108と、を備える。
注意喚起出力生成判定部108は、ペア対象物判定処理部106により歩行者候補62と動物候補162とがペア対象物Pobjであると判定されたとき、ペア対象物Pobjを構成する動物候補162に対しては前記注意喚起出力を生成しないように構成されている。
この構成によれば、赤外線カメラ16により撮像した画像から検知された歩行者候補62と動物候補162とが前記画像上で所定関係にあるとき、動物候補162が歩行者候補62と関係しているもの、すなわちペア対象物Pobjとみなし、ペア対象物Pobjを構成する動物候補162は、前記歩行者の監督下(制御下)にあり注意喚起が不要な動物候補162とみなして当該動物候補162に対しては注意喚起出力を生成しないようにしたので、運転者等の煩わしさを軽減することができる。
つまり、動物検知と歩行者(人)検知を備えた車両周辺監視装置10は、歩行者が犬等の動物を散歩させている状態では、前記動物を注意喚起対象(警報対象を含む。)としないので、不要な注意喚起が行われず、運転者の煩わしさが低減される。
なお、この実施形態に係る図10に示すグレースケール画像80と同一のグレースケール画像を示す比較例に係る図11のグレースケール画像180では、ペア対象物Pobjであるか否かの判定を行っていないので、歩行者候補62及び動物候補162の両方ともが枠72、74で囲われるとともに、実際には警報等の注意喚起が不要なペア対象物Pobjを構成する動物候補162に対しても警報等がなされ、運転者にとって煩わしいと感じられる場合が多々あった。
この場合、この実施形態に係るペア対象物判定処理部106は、検知された歩行者候補62と動物候補162とが所定範囲内に存在する場合にはペア対象物Pobjである可能性が高く、ペア対象物Pobjであるとみなすことができることから、ペア対象物Pobjであるか否かを簡易な構成で判定できる。
なお、ペア対象物判定処理部106は、検知された歩行者候補62の背丈Hmより動物候補162の背丈Haが低い(Ha<Hm)場合に、ペア対象物Pobjである可能性が高いので、ペア対象物Pobjであると高精度に判定できる。
さらに、ペア対象物判定処理部106は、検知された歩行者候補62と動物候補162との間にリード(紐)69が検知されている場合には、例えば、犬と、この犬に繋がれた紐を引く歩行者とからなるペア対象物Pobjである可能性が高いので、ペア対象物Pobjであるか否かをより高精度に判定できる。
さらにまた、前記注意喚起出力に応じた表示を行うHUD26a等の画像表示装置26を備えるので、前記注意喚起出力は、前記HUD26a上で、ペア対象物Pobjを一つの枠(検知枠)70(図10参照)で囲んで注意喚起を促すようにすることで、運転者は、歩行者と、当該歩行者と所定関係にある動物とを一目で認識することができる。
なお、この発明は、上述の実施形態に限らず、この明細書の記載内容に基づき、種々の構成を採り得ることはもちろんである。
例えば、図12に示すように、車両12Aに搭載された左右一組の赤外線カメラ16R、16Lを備える車両周辺監視装置を用いてもよい。いわゆるステレオカメラとしての赤外線カメラ16R、16Lは、車両12Aの前部バンパー部に、車両12Aの車幅方向中心部に対してほぼ対称な位置に配置されており、2つの赤外線カメラ16R、16Lの光軸が互いに平行であって、且つ両者の路面からの高さが等しくなるように固定されている。この左右一組の赤外線カメラ16R、16Lを備える車両周辺監視装置では、公知のように、左右一組の赤外線カメラ16R、16Lにより撮像した自車両周辺の画像において温度が高い部分を対象物にするとともに、左右画像中の同一対象物の視差等を用いて三角測量の原理により前記対象物までの距離を算出し、前記対象物の移動方向(移動ベクトル)や前記対象物の位置から、車両(自車両)12Aの走行に影響を与えそうな対象物(接触の可能性のある対象物)を検知して注意喚起出力を出力する。
また、赤外線カメラを用いることなく、通常の可視領域を撮像する一般的なデジタルビデオカメラ(撮像装置)を実施形態と同様に単一のカメラあるいはステレオカメラとして用いるようにすることもできる。
Claims (5)
- 車両(12)に搭載された撮像装置(16)により撮像した画像を用いて前記車両(12)の周辺を監視する車両周辺監視装置(10)において、
監視しようとする対象物としての歩行者(62)を前記画像から検知する歩行者検知処理部(102)と、
監視しようとする対象物としての動物(162)を前記画像から検知する動物検知処理部(104)と、
前記画像から検知された前記歩行者(62)と前記動物(162)とが前記画像上で所定関係にあるとき、対対象物(Pobj)であると判定する対対象物判定処理部(106)と、
前記車両(12)の運転者に注意喚起するための注意喚起出力を生成するか否かを判定する注意喚起出力生成判定部(108)と、を備え、
前記注意喚起出力生成判定部(108)は、前記対対象物判定処理部(106)により前記歩行者(62)と前記動物(162)とが前記対対象物(Pobj)であると判定されたとき、前記対対象物(Pobj)を構成する前記動物(162)に対しては前記注意喚起出力を生成しない
ことを特徴とする車両周辺監視装置(10)。 - 請求項1記載の車両周辺監視装置(10)において、
前記対対象物判定処理部(106)は、検知された前記歩行者(62)と前記動物(162)とが所定範囲内に存在する場合に、前記対対象物(Pobj)であると判定する
ことを特徴とする車両周辺監視装置(10)。 - 請求項1又は2記載の車両周辺監視装置(10)において、
前記対対象物判定処理部(106)は、検知された前記歩行者(62)より前記動物(162)の背丈が低い場合に、前記対対象物(Pobj)であると判定する
ことを特徴とする車両周辺監視装置(10)。 - 請求項1〜3のいずれか1項に記載の車両周辺監視装置(10)において、
前記対対象物判定処理部(106)は、検知された前記歩行者(62)と前記動物(162)との間に紐(69)が検知されている場合に、前記対対象物(Pobj)であると判定する
ことを特徴とする車両周辺監視装置(10)。 - 請求項1〜4のいずれか1項に記載の車両周辺監視装置(10)において、
さらに、前記注意喚起出力に応じた表示を行う表示部(26)を備え、
前記注意喚起出力は、前記表示部(26)上で、前記対対象物(Pobj)を一つの枠(70)で囲んで注意喚起を行う出力である
ことを特徴とする車両周辺監視装置(10)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013539606A JP5639282B2 (ja) | 2011-10-18 | 2012-10-05 | 車両周辺監視装置 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011229015 | 2011-10-18 | ||
JP2011229015 | 2011-10-18 | ||
JP2013539606A JP5639282B2 (ja) | 2011-10-18 | 2012-10-05 | 車両周辺監視装置 |
PCT/JP2012/075933 WO2013058128A1 (ja) | 2011-10-18 | 2012-10-05 | 車両周辺監視装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5639282B2 JP5639282B2 (ja) | 2014-12-10 |
JPWO2013058128A1 true JPWO2013058128A1 (ja) | 2015-04-02 |
Family
ID=48140779
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013539606A Expired - Fee Related JP5639282B2 (ja) | 2011-10-18 | 2012-10-05 | 車両周辺監視装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US9158979B2 (ja) |
EP (1) | EP2752834A4 (ja) |
JP (1) | JP5639282B2 (ja) |
CN (1) | CN103858156B (ja) |
WO (1) | WO2013058128A1 (ja) |
Families Citing this family (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9998697B2 (en) * | 2009-03-02 | 2018-06-12 | Flir Systems, Inc. | Systems and methods for monitoring vehicle occupants |
EP2544161B1 (en) * | 2010-03-03 | 2014-12-24 | Honda Motor Co., Ltd. | Surrounding area monitoring device for vehicle |
CN103797528A (zh) * | 2011-09-28 | 2014-05-14 | 本田技研工业株式会社 | 生物体识别装置 |
EP2926317B1 (en) * | 2012-12-03 | 2020-02-12 | Harman International Industries, Incorporated | System and method for detecting pedestrians using a single normal camera |
EP3654286B1 (en) | 2013-12-13 | 2024-01-17 | Panasonic Intellectual Property Management Co., Ltd. | Image capturing apparatus, monitoring system, image processing apparatus, image capturing method, and non-transitory computer readable recording medium |
US9704062B2 (en) * | 2014-08-19 | 2017-07-11 | Hyundai Motor Company | Method and apparatus for warning an obstacle of a vehicle |
KR102118066B1 (ko) * | 2014-08-20 | 2020-06-03 | 현대모비스 주식회사 | 주행 안전을 위한 차량 제어방법 |
JP2016064910A (ja) * | 2014-09-25 | 2016-04-28 | 株式会社日立ビルシステム | 盲導犬の検出装置及び検出方法 |
DE102014017910B4 (de) * | 2014-12-04 | 2023-02-16 | Audi Ag | Verfahren zur Auswertung von Umfelddaten eines Kraftfahrzeugs und Kraftfahrzeug |
KR102451091B1 (ko) * | 2015-07-08 | 2022-10-05 | 엘지이노텍 주식회사 | 차량용 이동체 정보 제공 장치 및 방법과, 이 방법을 실행하기 위한 프로그램을 기록한 기록 매체 |
US10140870B1 (en) | 2015-09-30 | 2018-11-27 | Waymo Llc | Occupant facing vehicle display |
KR101824982B1 (ko) * | 2015-10-07 | 2018-02-02 | 엘지전자 주식회사 | 차량 및 그 제어방법 |
US10496766B2 (en) * | 2015-11-05 | 2019-12-03 | Zoox, Inc. | Simulation system and methods for autonomous vehicles |
CN105718905A (zh) * | 2016-01-25 | 2016-06-29 | 大连楼兰科技股份有限公司 | 基于行人特征与车载摄像头的盲人检测与识别方法与系统 |
CN105718904A (zh) * | 2016-01-25 | 2016-06-29 | 大连楼兰科技股份有限公司 | 基于组合特征与车载摄像头的盲人检测与识别方法与系统 |
CN105718907A (zh) * | 2016-01-25 | 2016-06-29 | 大连楼兰科技股份有限公司 | 基于导盲犬特征与车载摄像头的盲人检测识别方法与系统 |
JP6805716B2 (ja) * | 2016-01-25 | 2020-12-23 | 株式会社Jvcケンウッド | 表示装置、表示方法、プログラム |
DE112016006616T5 (de) * | 2016-04-20 | 2018-11-29 | Mitsubishi Electric Corporation | Peripherieerkennungseinrichtung, Peripherieerkennungsverfahren und Peripherieerkennungsprogramm |
DE112016006894T5 (de) * | 2016-05-24 | 2019-02-14 | Motorola Solutions, Inc. | Überwachungskamera in einem Netzwerk zur Verbesserung der situationsabhängigen Erkenntnisse eines Benutzers |
JP6627680B2 (ja) * | 2016-07-27 | 2020-01-08 | 株式会社Jvcケンウッド | 人物検出装置、人物検出システム、人物検出方法及び人物検出プログラム |
US9807971B1 (en) | 2016-08-17 | 2017-11-07 | Technologies Holdings Corp. | Vision system with automatic teat detection |
US9984470B2 (en) | 2016-08-17 | 2018-05-29 | Technologies Holdings Corp. | Vision system with tail detection |
US10477827B2 (en) | 2016-08-17 | 2019-11-19 | Technologies Holdings Corp. | Vision system for teat detection |
US10051832B2 (en) | 2016-08-17 | 2018-08-21 | Technologies Holdings Corp. | Vision system with tail positioner |
CN106128406B (zh) * | 2016-09-08 | 2019-01-22 | 京东方科技集团股份有限公司 | 眼图幅值调节方法、数据传输方法、电路和显示装置 |
KR102039487B1 (ko) | 2016-11-11 | 2019-11-26 | 엘지전자 주식회사 | 차량 주행 제어 장치 및 방법 |
KR101911703B1 (ko) | 2016-12-09 | 2018-10-25 | 엘지전자 주식회사 | 차량용 주행 제어 장치 및 차량 |
US20190244515A1 (en) * | 2017-09-25 | 2019-08-08 | Continental Automotive Systems, Inc. | Augmented reality dsrc data visualization |
TWI688502B (zh) * | 2018-02-14 | 2020-03-21 | 先進光電科技股份有限公司 | 用於警告車輛障礙物的設備 |
JP6989418B2 (ja) * | 2018-03-12 | 2022-01-05 | 矢崎総業株式会社 | 車載システム |
WO2019183609A1 (en) | 2018-03-23 | 2019-09-26 | NetraDyne, Inc. | Traffic boundary mapping |
CN108921026A (zh) * | 2018-06-01 | 2018-11-30 | 平安科技(深圳)有限公司 | 动物身份的识别方法、装置、计算机设备和存储介质 |
US11109586B2 (en) * | 2019-11-13 | 2021-09-07 | Bird Control Group, Bv | System and methods for automated wildlife detection, monitoring and control |
CN112989892A (zh) * | 2019-12-17 | 2021-06-18 | 广州慧睿思通科技股份有限公司 | 一种动物监控方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007310705A (ja) * | 2006-05-19 | 2007-11-29 | Honda Motor Co Ltd | 車両周辺監視装置 |
JP2008021035A (ja) * | 2006-07-11 | 2008-01-31 | Fujitsu Ten Ltd | 画像認識装置、画像認識方法および車両制御装置 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4060159B2 (ja) | 2002-01-18 | 2008-03-12 | 本田技研工業株式会社 | 車両周辺監視装置 |
DE10301468B4 (de) * | 2002-01-18 | 2010-08-05 | Honda Giken Kogyo K.K. | Vorrichtung zur Beobachtung der Umgebung eines Fahrzeugs |
JP4267657B2 (ja) | 2006-10-31 | 2009-05-27 | 本田技研工業株式会社 | 車両周辺監視装置 |
US20090240695A1 (en) * | 2008-03-18 | 2009-09-24 | International Business Machines Corporation | Unique cohort discovery from multimodal sensory devices |
JP2010108264A (ja) * | 2008-10-30 | 2010-05-13 | Honda Motor Co Ltd | 車両周辺監視装置 |
DE102009020328A1 (de) * | 2009-05-07 | 2010-11-11 | Bayerische Motoren Werke Aktiengesellschaft | Verfahren zur Darstellung von unterschiedlich gut sichtbaren Objekten aus der Umgebung eines Fahrzeugs auf der Anzeige einer Anzeigevorrichtung |
JP5218458B2 (ja) * | 2010-03-23 | 2013-06-26 | 株式会社デンソー | 車両接近報知システム |
US8195394B1 (en) * | 2011-07-13 | 2012-06-05 | Google Inc. | Object detection and classification for autonomous vehicles |
-
2012
- 2012-10-05 WO PCT/JP2012/075933 patent/WO2013058128A1/ja active Application Filing
- 2012-10-05 JP JP2013539606A patent/JP5639282B2/ja not_active Expired - Fee Related
- 2012-10-05 US US14/351,278 patent/US9158979B2/en not_active Expired - Fee Related
- 2012-10-05 CN CN201280048621.6A patent/CN103858156B/zh active Active
- 2012-10-05 EP EP20120842200 patent/EP2752834A4/en not_active Withdrawn
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007310705A (ja) * | 2006-05-19 | 2007-11-29 | Honda Motor Co Ltd | 車両周辺監視装置 |
JP2008021035A (ja) * | 2006-07-11 | 2008-01-31 | Fujitsu Ten Ltd | 画像認識装置、画像認識方法および車両制御装置 |
Also Published As
Publication number | Publication date |
---|---|
EP2752834A4 (en) | 2015-04-22 |
CN103858156B (zh) | 2015-04-15 |
WO2013058128A1 (ja) | 2013-04-25 |
US9158979B2 (en) | 2015-10-13 |
CN103858156A (zh) | 2014-06-11 |
EP2752834A1 (en) | 2014-07-09 |
US20140270378A1 (en) | 2014-09-18 |
JP5639282B2 (ja) | 2014-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5639282B2 (ja) | 車両周辺監視装置 | |
US9235990B2 (en) | Vehicle periphery monitoring device | |
JP4173901B2 (ja) | 車両周辺監視装置 | |
JP4410292B1 (ja) | 車両の周辺監視装置 | |
JP4173902B2 (ja) | 車両周辺監視装置 | |
US20110199197A1 (en) | System for monitoring the area around a vehicle | |
JP5774770B2 (ja) | 車両周辺監視装置 | |
JP5480925B2 (ja) | 車両周辺監視装置 | |
JP2007334751A (ja) | 車両周辺監視装置 | |
JP4528283B2 (ja) | 車両周辺監視装置 | |
JP5547160B2 (ja) | 車両周辺監視装置 | |
JP2010026601A (ja) | 車両周辺監視装置 | |
JP5259647B2 (ja) | 車両の周辺監視装置 | |
JP5502149B2 (ja) | 車両周辺監視装置 | |
JP5345992B2 (ja) | 車両周辺監視装置 | |
JP2010092429A (ja) | 車両周辺監視装置 | |
JP5430633B2 (ja) | 車両周辺監視装置 | |
JP2010092437A (ja) | 車両の周辺監視装置 | |
JP5383246B2 (ja) | 車両の周辺監視装置 | |
JP5907849B2 (ja) | 車両周辺監視装置 | |
JP5903003B2 (ja) | 車両周辺監視装置 | |
JP5026398B2 (ja) | 車両周辺監視装置 | |
JP2011108046A (ja) | 車両周辺監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20141014 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141023 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5639282 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |