JP7404173B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP7404173B2
JP7404173B2 JP2020117152A JP2020117152A JP7404173B2 JP 7404173 B2 JP7404173 B2 JP 7404173B2 JP 2020117152 A JP2020117152 A JP 2020117152A JP 2020117152 A JP2020117152 A JP 2020117152A JP 7404173 B2 JP7404173 B2 JP 7404173B2
Authority
JP
Japan
Prior art keywords
obstacle
region
images
area
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020117152A
Other languages
English (en)
Other versions
JP2022014673A (ja
Inventor
琢馬 大里
フェリペ ゴメズカバレロ
雅幸 竹村
健 永崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Priority to JP2020117152A priority Critical patent/JP7404173B2/ja
Priority to DE112021002598.8T priority patent/DE112021002598T5/de
Priority to PCT/JP2021/019335 priority patent/WO2022009537A1/ja
Publication of JP2022014673A publication Critical patent/JP2022014673A/ja
Application granted granted Critical
Publication of JP7404173B2 publication Critical patent/JP7404173B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/215Motion-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Description

本発明は、画像処理装置に関する。
本技術分野の背景技術として、特開2007-235642号公報(特許文献1)がある。該公報には、課題として「車速センサや舵角センサの検出誤差に起因する障害物の誤検知を排除し、単眼カメラによる立体物検知をより高精度に行う。」と記載され、解決手段として「車両に搭載されたカメラで撮像された路面を含む第1の画像の上面図と、前記第1の画像とは異なるタイミングで撮像された第2の画像の上面図とを作成し、上記二枚の上面図を路面上の特徴的形状に基づいて対応させ、上記二枚の上面図の重複部分において差異が生じた領域を障害物と認識する。」と記載されている。
特開2007-235642号公報
しかしながら、路面勾配が変化していたり、段差や高低差がある路面を含む画像においては、路面上の特徴的形状に基づいた対応は画像の領域ごとに変化するため、例えば前記特許文献1に記載のように画面全体の対応をとった場合、領域によって障害物の認識精度が変化してしまう、などの問題があった。
本発明の目的は、二枚の画像を対応させるパラメタが領域ごとに変化する場合においても領域ごとに適切な対応を算出し、障害物(以下、物体とも呼ぶ)を正しく検知・認識することのできる画像処理装置を提供することである。
上記目的を達成するために、本発明は、異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備える。
本発明によれば、二枚の画像を対応させるパラメタが領域ごとに変化する場合においても領域ごとに適切な対応を算出し、障害物(物体)を正しく検知・認識することのできる画像処理装置を提供することができる。
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
実施例1における車載カメラシステムの概略構成を示す説明図。 実施例1における物体検知装置及び画像処理部の構成を示す説明図。 俯瞰差分方式による物体検知手法の説明図。 路面勾配のあるシーンにおける俯瞰差分方式の課題の説明図。 路面を仮定した検知障害物までの距離推定手法の説明図。 一律の射影変換では誤差が発生するシーンの例。 障害物候補領域抽出の俯瞰画像を用いた具体例の説明図。 障害物候補領域抽出の俯瞰画像を用いた具体例のフローチャート。 障害物候補領域抽出の識別器を用いた具体例の説明図。 障害物候補領域抽出の識別器を用いた具体例のフローチャート。 障害物検知部のフローチャート。 障害物候補領域の位置合わせ手段の説明図。 実施例2における、地図情報及びGPS情報を用いた障害物候補領域抽出のフローチャート。 実施例2における、地図情報及びGPS情報を用いた障害物候補領域抽出の説明図。 実施例3における、飛び出し対応のための障害物候補領域抽出のフローチャート。 実施例3における、飛び出し対応のための障害物候補領域抽出の説明図。
以下、図面を用いて本発明の実施例を説明する。
[実施例1]
図1を用いて、実施例1における物体検知装置を搭載した車載カメラシステムの概要を説明する。車両100にカメラ101が搭載される。カメラ101は、車両100周囲を撮影した画像を取得するためのもので、時間的に異なる複数の画像を取得できれば、単眼カメラでもよいし、2台以上のカメラからなるステレオカメラでもよい。カメラ101には物体検知装置102が搭載されており、例えば前方の物体までの距離や相対速度を計測して車両制御部103に送信する。車両制御部103は、物体検知装置102から受け取った距離や相対速度からブレーキ・アクセル105、ステアリング104を制御する。
カメラ101は、図2に示す物体検知装置102を備えている。物体検知装置102は、撮像素子201、メモリ202、CPU203、画像処理部(画像処理装置)204、外部出力部205などを備える。物体検知装置102を構成する各構成要素は、通信ライン206を介して通信可能に接続されている。CPU203は、メモリ202に格納されているプログラムの指示に従って、以降で説明する演算処理を実行する。
撮像素子201で撮影された画像は画像処理部204に送信され、画像に映る障害物を検知する。検知するための具体的な手段については後段で述べる。検知結果は外部出力部205より物体検知装置102の外部に送信され、前述の車載カメラシステムであれば、車両制御部103においてブレーキ・アクセル105、ステアリング104などの車両制御の判断に利用される。
以下、画像処理部204の構成要素について説明する。
画像処理部204においては、画像を用いて物体の検知と追跡を行う。画像を用いた物体の検知手段については、例えば俯瞰画像の差分を用いた手法(俯瞰差分方式とも呼ぶ)を用いる。この手法では、図3に示す通り、時系列に撮像した2枚の画像301、302(過去の時刻T-1で撮像した画像301及び現在の時刻Tで撮像した画像302)を用いて物体の検知を行う。2枚の画像301、302のうち過去に撮像された画像301を俯瞰画像に変換すると同時に、車速などの情報から車両の運動による見え方の変化を算出し、今フレームで撮像されると予測される画像304を生成する。俯瞰画像への変換は、一般的に射影変換が用いられる。射影変換はある平面を他の平面に射影する変換であり、画像301における道路平面と画像302における道路平面を真上から見下ろした俯瞰画像に変換することができる。予測した画像304と実際に今フレームで撮像された画像302を俯瞰画像に変換した画像305を比較し、差分画像306を作成する。差分画像306は各画素における差分の値を持っており、差分のない領域が黒、差分がある領域が白で表される。射影変換に誤差がなければ、道路平面は射影変換によって同一の画像となり差分が発生しないが、道路平面上以外の領域、すなわち、障害物303の存在する領域では差分が発生する。この差分を検出することによって物体検知結果307を得ることができる。
この方式は射影変換の変換対象の平面以外にある物体を検知するため、変換対象として障害物の接地している路面平面を選択することが重要である。図4に示すように、路面の勾配変化があるシーンにおいては、一枚の画像の中に複数の異なる道路平面がある。そのため、例えば自車の接地している領域の路面平面を対象にして画像変換を実施した場合、異なる平面を射影変換してしまうことがある。このとき時系列に撮像した2枚の画像401、402から生成される俯瞰画像404と俯瞰画像405においては、道路平面のテクスチャ、この例では横断歩道部分に意図しない差分が発生してしまい、障害物303以外の領域に差分のある差分画像406が得られ、差分として検出される物体検知結果407では横断歩道を障害物として誤検知してしまう、検知すべき障害物の領域を誤ってしまうなどの問題が発生する。したがって、障害物を正しく検知するためには、複数の道路平面が存在するシーンにおいて、領域ごとに適切な射影変換を実施することで、道路平面上では画像間の差分が発生しないようにする必要がある。
また、検知障害物までの距離を算出する手法の一つとして、検知した障害物領域の足元部分が路面に接していると仮定して算出する手法が公知である。図5は、俯瞰画像の生成に誤差が含まれ、障害物の足元近辺の路面領域を障害物として誤った場合の説明図である。路面領域を含んで障害物領域だと誤検知した結果501を基に、画像上での検知枠(ここでは矩形状の検知枠)の下端位置を道路面に射影することで、障害物303までの距離を推定する。このとき障害物303の下端位置を誤って推定していた場合、誤推定結果502の位置に障害物があると誤推定が発生する。検知障害物までの距離の誤推定は車両の誤制御に繋がるため、検知枠の下端位置をできる限り正確に推定することが望ましい。
以下、画像処理部204の詳細について説明する。本実施例の画像処理部204は、図2に示すように、画像変換部241、障害物候補領域抽出部242、障害物検知部243を有する。
(画像変換部241)
画像変換部241においては、異なる2時刻における2枚の画像を、それぞれの画像全体において支配的な平面を射影変換(俯瞰変換とも呼ぶ)する第一パラメタによって俯瞰画像に変換する。第一パラメタは、それぞれの画面全体で同一のパラメタである。支配的な平面とは、例えば前述の車載カメラシステムであれば、自車が平坦な路面上にいると仮定して変換する場合の路面が考えられる。また、LiDARやステレオカメラなどの距離センサが存在する場合、距離計測結果を用いて路面を推定した結果を利用してもよい。このとき、図6に示すように路面勾配の変化するシーンでは自車601の姿勢を基に1枚の(同一の)平面602で路面全体を表現するため、表現している平面と路面にずれが発生する可能性がある。
(障害物候補領域抽出部242)
障害物候補領域抽出部242においては、異なる2時刻で撮像された2枚の画像から領域の位置合わせを高精度に実施し、障害物の領域を正確に算出すべき領域(以下、障害物候補領域とも呼ぶ)を抽出する。シーン全体では複数の平面が存在するため、一つの(一律の)射影変換では十分に表現できない(図6参照)。そこで、一つの射影変換で表現できるだけの小領域を抽出し、後段の処理で改めて射影変換による画像の変換と重ね合わせを行うことで、路面部分の差分をなくし、障害物部分の差分だけを用いて障害物検知を行う。ここで、障害物検知において精度よく検知枠の位置を推定する必要があるのは下端部であるから、接地位置に近い領域(すなわち、障害物を示す領域のうち路面から所定高さ以内の領域)を選択する。
障害物候補領域抽出手段の例として、俯瞰画像を用いた具体例のフローチャートを図8、実際の領域を図7に示した。図8に示すように、ステップS801において、画像変換部241で俯瞰変換した画像2枚を入力として与え、画像(つまり、2枚の俯瞰画像)を画像全体で同一である第一パラメタで重ね合わせて差分(画像差分)の生じた領域(差分領域)を用いた物体検知を行う。このとき俯瞰変換は誤差を含むので、差分画像406において障害物を検知する際にその足元の領域を多く含んでいるような検知枠701や、路面しかない領域の誤検知枠702が得られる。ここから、ステップS802において、検知枠(すなわち、障害物を示す障害物検知領域)のうち路面に近い領域(路面から所定高さ以内の領域)703を抽出し、撮像された2枚の画像401、402において抽出した領域703に対応する領域704、705を障害物候補領域として抽出する。本処理によって、撮像された2枚の画像401、402において障害物の可能性のある領域(障害物検知領域)のうち足元付近(すなわち、路面から所定高さ以内の領域)だけを抽出することができる。物体ごとに領域を個別に抽出することで、前述の平面の違いによる俯瞰変換の誤差を取り除くための処理領域を得る。
障害物候補領域抽出手段の別の例として、識別器を用いた具体例のフローチャートを図10、実際の領域を図9に示した。ここでの識別器は、歩行者の脚部検出機能を有し、当該機能により歩行者脚部候補の周辺領域(歩行者脚部の撮像されている可能性の高い歩行者脚部候補領域)を検出する。図10に示すように、撮像した画像2枚を入力として与え、ステップS1001において、画像領域から識別器の処理ウィンドウ901を少しずつずらしながら歩行者脚部の撮像されている可能性の高い領域を探索する。識別器は、対象の領域に歩行者脚部が撮像されている場合にスコアが高くなるように設計された評価関数であり、このスコアが閾値以上となる領域を探索することで、歩行者脚部の撮像されている可能性の高い領域902を障害物候補領域として抽出することができる。本処理によって、撮像された2枚の画像401、402において障害物の可能性のある領域(障害物検知領域)のうち足元付近(すなわち、路面から所定高さ以内の領域)だけを抽出することができる。ただし、下端などの境界部分を正確に推定することはできないため、本処理で抽出された領域を後段処理の位置合わせによって障害物領域と路面領域を精度よく分離する。
(障害物検知部243)
障害物検知部243においては、障害物候補領域抽出部242で抽出された障害物候補領域において位置合わせを実施することで支配的な平面を射影変換する第二パラメタを算出し、第二パラメタによって変換した画像を重ね合わせて(換言すれば、位置合わせを行い)差分の生じた領域を障害物が存在する領域、すなわち障害物として検知する。障害物検知部243のフローチャートを図11に示した。図11に示すように、入力として前述した(2枚の画像の)障害物候補領域を与える。ステップS1101において、与えられた領域から特徴点を検出する。特徴点の検出手段としては、FAST(Features from Accelerated Segment Test)やHarris’s corner detectionなどが公知として挙げられる。これらは画像中からコーナーとなっている点を検出するものであり(図12参照)、周辺と比較して特徴的である点を検出する手法として知られている。次にステップS1102において、検出した特徴点から特徴量を算出する。特徴量の算出手段としては、例えばSIFT(Scale-Invariant Feature Transform)が公知として挙げられる。SIFTは照明変化、回転、拡大縮小などの画像変化が発生した場合においても特徴量の変化しない頑健な特徴量として知られている手法であり、カメラの位置変化や時間経過によって見え方が変化した場合にも、同一の点を同一と判断することができる。次にステップS1103において、2時刻の特徴点のマッチングを行う(図12参照)。過去の時刻T-1における(障害物候補領域の)特徴点と、現在の時刻Tにおける(障害物候補領域の)特徴点を比較し、ステップS1102で算出した特徴量の近い点同士をマッチングさせ、図12に示すように2時刻で同一の個所を指し示す特徴点ペア(1201、1202)を得る。マッチングした点の情報を用いて、ステップS1104では射影変換行列の推定を行う。すべての点を同一の射影変換行列によって変換して重ね合わせたときに、最も点のずれ量が少なくなるような射影変換行列を求める。本処理によって、障害物候補領域抽出部242で抽出された、障害物の下端部及び足元の路面によって構成される小領域(障害物候補領域)に対して、足元の路面に応じた第二パラメタによる射影変換行列を求める。第二パラメタによる射影変換行列を用いて変換した画像(すなわち、障害物候補領域部分の俯瞰画像)同士をステップS1105において重ね合わせ、画像の輝度値の差分を計算する。ステップS1106において、重ね合わせ(位置合わせ)によって画像の差分が発生した領域(差分領域)が障害物(障害物が存在する領域)であるとして障害物検知結果を得る。障害物候補領域は、障害物及びその足元路面だけを含むような小領域を抽出しているため、本処理によって、シーン全体で路面勾配が変化していたり、段差や高低差によって1つの射影変換行列では表現できないシーンであっても、障害物ごとに適切な射影変換行列(足元路面に応じた第二パラメタによる射影変換行列)を推定することができ、路面の撮像された領域から不要な差分が発生することを防ぐことができる。
以上で説明したように、本実施例の画像処理部(画像処理装置)204は、異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部241と、前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部242と、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部243と、を備える。
また、一例として、前記障害物候補領域抽出部242は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出することによって前記障害物候補領域を抽出し、前記障害物検知部243は、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の第二パラメタによる位置合わせを行い差分の生じた領域を前記障害物が存在する領域と判断する。
また、前記障害物候補領域抽出部242は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出し、抽出した領域のうち路面から所定高さ以内の領域を抽出し、抽出した領域に対応する前記2枚の画像の領域を前記障害物候補領域として抽出する。
また、他例として、前記障害物候補領域抽出部242は、前記2枚の画像において歩行者の脚部検出機能(識別器)によって検出された歩行者脚部候補の周辺領域を前記障害物候補領域として抽出する。
本実施例の構成によって俯瞰画像の差分を用いた物体検出を行った場合、一般的には路面に差分が発生して誤検知につながる勾配変化のあるシーンにおいても、勾配変化のないとみなせる小領域(障害物候補領域)に対して射影変換を行うため、誤検知の発生を防ぐことができる。障害物ごとに射影変換行列を推定するため、勾配変化に限らず、自車の振動や傾きによる変化の影響を最小限にし、精度よく障害物を検知することができる。
これにより、二枚の画像を対応させるパラメタが領域ごとに変化する場合においても領域ごとに適切な対応を算出し、障害物(物体)を正しく検知・認識することのできる画像処理装置を提供することができる。
[実施例2:地図情報及びGPS情報と連携する手法]
実施例2は実施例1の変形例であり、障害物候補領域抽出部242において地図情報及び車両GPS情報を用いることで、誤検知の可能性の高い領域を抽出する場合の実施例を示す。本実施例によれば、射影変換の誤差によって誤検知の発生する可能性の高い、路面上にテクスチャのあるシーンを逃すことなく障害物候補領域として抽出し、高精度に位置合わせすることで、路面上のテクスチャを障害物として誤検知することを防ぐことができる。
本実施例における障害物候補領域抽出部242のフローチャートを図13に示した。図13に示すように、入力として画像13A、地図情報に含まれる路面ペイント位置13B、自車位置情報を含むGPS情報13Cを受け取る。ここで、路面ペイントとは、横断歩道やUターン禁止などの路面に描かれたテクスチャのことであり、ナビシステムなどではこの種のテクスチャの位置が保存されている。また、路面のテクスチャであれば同様に誤検知の可能性があるため、路面ペイントに限らず、高さの低い縁石、砂利道や落葉などの路面全体に発生するテクスチャの情報が得られる場合、その情報を入力として受け取っても構わない。ステップS1301において、画像から路面ペイント撮像領域を算出する。GPS情報と路面ペイント位置の地図情報を見比べて、現在撮像されている画像領域に路面ペイントが含まれるかどうかを判定する。路面ペイントが含まれる場合、画像のどの領域に撮像されているかを計算し、画像領域(つまり、路面ペイント撮像領域)を抽出する。図14に説明図を示す。自車両1401の前方に対して、領域1402は地図情報とGPS情報から路面ペイントのない領域であることがわかっている。路面テクスチャがなければ、射影変換に誤りがあったとしても路面領域に差分は発生しないため、高精度な位置合わせは不要となる。一方、領域1403は路面に横断歩道がペイントされていることがわかっている。射影変換を誤った場合、横断歩道のテクスチャが適切に重ね合わされずに差分を生じ、障害物として誤検知する可能性が高い。よって、障害物候補領域抽出部242において、画像上で領域(路面ペイント撮像領域)1403に対応する領域1404を障害物候補領域として抽出し、障害物検知部243において、小領域の正確な位置合わせを実施することで、誤検知を防ぐ。
以上で説明したように、本実施例の画像処理部(画像処理装置)204は、前記障害物候補領域抽出部242は、地図情報及び自車の位置情報を取得し、前記2枚の画像における路面ペイントが撮像される領域を前記障害物候補領域として抽出する。
本実施例によれば、誤検知の危険性の高い路面ペイントのある(撮像される)領域を逃すことなく、射影変換行列の算出を実施し、路面領域に生じる差分を防ぐことができる。
[実施例3:飛び出しの危険性が高い画像領域の抽出]
実施例3は実施例1の変形例であり、障害物候補領域抽出部242で現在障害物のある可能性のある領域だけでなく、未来において障害物(大人や子どもの歩行者、自転車、バイク、自動車など)の飛び出しの発生する可能性のある領域を抽出する場合の実施例を示す。本実施例によれば、急な飛び出しの発生時においても障害物までの距離を誤推定することなく推定することができる。
本実施例における障害物候補領域抽出部242のフローチャートを図15に、説明図を図16に示した。図15に示すように、実施例1と同様に誤差を含む射影変換によって差分領域を用いた物体検知S801を行う。このとき物体1601に対して検知結果1602のように奥行方向の誤差を含む物体検知結果を得る。次にステップS1501において、検知結果1602の左右端のうち、自車両側の所定の大きさの領域を飛び出し可能性領域1603として抽出する。領域1603は、物体1601の陰からの飛び出しが発生する可能性のある領域であり、飛び出しが発生した場合に距離を誤ると誤ブレーキにつながる恐れがある。そのため、障害物候補領域抽出部242において、障害物の可能性のある領域を基に、その左右端に隣接する飛び出しの危険性のある領域(飛び出し可能性領域)1603を障害物候補領域として抽出し、障害物検知部243において、優先的に高精度な画像の位置合わせを実施することで、障害物位置を精度よく推定する。
本実施例では誤検知を含む物体検知結果の左右端を抽出する対象としたが、飛び出しの可能性の高い領域であれば抽出手法は問わない。例えば地図情報から建物などの陰を抽出してもよいし、他センサによる物体検知結果とフュージョンしてもかまわない。
以上で説明したように、本実施例の画像処理部(画像処理装置)204は、前記障害物候補領域抽出部242は、前記2枚の画像において前記障害物の可能性のある領域の左右端に隣接する飛び出しの危険性のある領域(飛び出し可能性領域)を前記障害物候補領域として抽出する。
本実施例によれば、障害物の飛び出しの可能性の高い領域を優先的に抽出し、飛び出しが発生した際の誤検知や距離の誤推定を防ぐことができる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、上記の各構成は、それらの一部又は全部が、ハードウェアで構成されても、プロセッサでプログラムが実行されることにより実現されるように構成されてもよい。また、制御線や情報線は説明上必要と考えられるものを示しており、製品上全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されている
と考えてもよい。
100 車両、101 カメラ、102 物体検知装置、103 車両制御部、201 撮像素子、202 メモリ、203 CPU、204 画像処理部(画像処理装置)、205 外部出力部、206 通信ライン、241 画像変換部、242 障害物候補領域抽出部、243 障害物検知部

Claims (10)

  1. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出することによって前記障害物候補領域を抽出し、
    前記障害物検知部は、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の第二パラメタによる位置合わせを行い差分の生じた領域を前記障害物が存在する領域と判断することを特徴とする画像処理装置。
  2. 請求項に記載の画像処理装置であって、
    前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出し、抽出した領域のうち路面から所定高さ以内の領域を抽出し、抽出した領域に対応する前記2枚の画像の領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  3. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、前記2枚の画像において歩行者の脚部検出機能によって検出された歩行者脚部候補の周辺領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  4. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、地図情報及び自車の位置情報を取得し、前記2枚の画像における路面ペイントが撮像される領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  5. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、前記2枚の画像において前記障害物の可能性のある領域の左右端に隣接する飛び出しの危険性のある領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  6. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出することによって前記障害物候補領域を抽出し、
    前記障害物検知部は、前記障害物候補領域における画像特徴を用いて前記障害物候補領域の第二パラメタによる位置合わせを行い差分の生じた領域を前記障害物が存在する領域と判断することを特徴とする画像処理装置。
  7. 請求項6に記載の画像処理装置であって、
    前記障害物候補領域抽出部は、前記2枚の俯瞰画像を画像全体で同一である第一パラメタで重ね合わせた場合に画像差分の発生する領域を抽出し、抽出した領域のうち路面から所定高さ以内の領域を抽出し、抽出した領域に対応する前記2枚の画像の領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  8. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、前記2枚の画像において歩行者の脚部検出機能によって検出された歩行者脚部候補の周辺領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  9. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、地図情報及び自車の位置情報を取得し、前記2枚の画像における路面ペイントが撮像される領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
  10. 異なる2時刻における2枚の画像を俯瞰画像に変換する画像変換部と、
    前記2枚の俯瞰画像又は前記2枚の画像を使用して、障害物を示す領域のうち路面から所定高さ以内の領域を障害物候補領域として前記2枚の画像から抽出する障害物候補領域抽出部と、
    前記障害物候補領域における画像特徴を用いて前記障害物候補領域の俯瞰画像を生成し、前記障害物候補領域の俯瞰画像の位置合わせを行い差分の生じた領域を障害物が存在する領域と判断する障害物検知部と、を備え
    前記障害物候補領域抽出部は、前記2枚の画像において前記障害物の可能性のある領域の左右端に隣接する飛び出しの危険性のある領域を前記障害物候補領域として抽出することを特徴とする画像処理装置。
JP2020117152A 2020-07-07 2020-07-07 画像処理装置 Active JP7404173B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020117152A JP7404173B2 (ja) 2020-07-07 2020-07-07 画像処理装置
DE112021002598.8T DE112021002598T5 (de) 2020-07-07 2021-05-21 Bildverarbeitungsvorrichtung
PCT/JP2021/019335 WO2022009537A1 (ja) 2020-07-07 2021-05-21 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020117152A JP7404173B2 (ja) 2020-07-07 2020-07-07 画像処理装置

Publications (2)

Publication Number Publication Date
JP2022014673A JP2022014673A (ja) 2022-01-20
JP7404173B2 true JP7404173B2 (ja) 2023-12-25

Family

ID=79552895

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020117152A Active JP7404173B2 (ja) 2020-07-07 2020-07-07 画像処理装置

Country Status (3)

Country Link
JP (1) JP7404173B2 (ja)
DE (1) DE112021002598T5 (ja)
WO (1) WO2022009537A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7418481B2 (ja) 2022-02-08 2024-01-19 本田技研工業株式会社 学習方法、学習装置、移動体制御装置、移動体制御方法、およびプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008034981A (ja) 2006-07-26 2008-02-14 Fujitsu Ten Ltd 画像認識装置、画像認識方法、歩行者認識装置および車両制御装置
WO2010044127A1 (ja) 2008-10-16 2010-04-22 三菱電機株式会社 車外障害物高度検出装置
JP2010256995A (ja) 2009-04-21 2010-11-11 Daihatsu Motor Co Ltd 物体認識装置
JP2019139420A (ja) 2018-02-08 2019-08-22 株式会社リコー 立体物認識装置、撮像装置および車両

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007235642A (ja) 2006-03-02 2007-09-13 Hitachi Ltd 障害物検知システム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008034981A (ja) 2006-07-26 2008-02-14 Fujitsu Ten Ltd 画像認識装置、画像認識方法、歩行者認識装置および車両制御装置
WO2010044127A1 (ja) 2008-10-16 2010-04-22 三菱電機株式会社 車外障害物高度検出装置
JP2010256995A (ja) 2009-04-21 2010-11-11 Daihatsu Motor Co Ltd 物体認識装置
JP2019139420A (ja) 2018-02-08 2019-08-22 株式会社リコー 立体物認識装置、撮像装置および車両

Also Published As

Publication number Publication date
WO2022009537A1 (ja) 2022-01-13
JP2022014673A (ja) 2022-01-20
DE112021002598T5 (de) 2023-03-09

Similar Documents

Publication Publication Date Title
US10452931B2 (en) Processing method for distinguishing a three dimensional object from a two dimensional object using a vehicular system
US10690770B2 (en) Navigation based on radar-cued visual imaging
CN106485233B (zh) 可行驶区域检测方法、装置和电子设备
US9846812B2 (en) Image recognition system for a vehicle and corresponding method
JP6511283B2 (ja) 物体検知装置
JP4973736B2 (ja) 路面標示認識装置,路面標示認識方法及び路面標示認識プログラム
US11200432B2 (en) Method and apparatus for determining driving information
KR101551026B1 (ko) 차량 검출 방법
US9697421B2 (en) Stereoscopic camera apparatus
JP2021510227A (ja) 衝突前アラートを提供するためのマルチスペクトルシステム
JP2005038407A (ja) 車両用外界認識装置
WO2019202628A1 (ja) 路面検出装置、路面検出装置を利用した画像表示装置、路面検出装置を利用した障害物検知装置、路面検出方法、路面検出方法を利用した画像表示方法、および路面検出方法を利用した障害物検知方法
US20200193184A1 (en) Image processing device and image processing method
KR101818842B1 (ko) 운전지원장치, 거리감지방법 및 차로의 너비감지방법
JP7404173B2 (ja) 画像処理装置
JP3925285B2 (ja) 走行路環境検出装置
JP2018073275A (ja) 画像認識装置
KR20160126254A (ko) 도로 영역 검출 시스템
JP6886136B2 (ja) 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム
JP2013214258A (ja) 歩行者検出装置及び方法、並びに車両用衝突判定装置
JP6677142B2 (ja) 駐車枠認識装置
WO2022270183A1 (ja) 演算装置、速度算出方法
WO2023095489A1 (ja) 外界認識装置
JP7390899B2 (ja) レーンマーク認識装置
JP2004220281A (ja) 障害物検出装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231025

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231213

R150 Certificate of patent or registration of utility model

Ref document number: 7404173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150