JP7482767B2 - 物体識別装置、および、物体識別方法 - Google Patents

物体識別装置、および、物体識別方法 Download PDF

Info

Publication number
JP7482767B2
JP7482767B2 JP2020208185A JP2020208185A JP7482767B2 JP 7482767 B2 JP7482767 B2 JP 7482767B2 JP 2020208185 A JP2020208185 A JP 2020208185A JP 2020208185 A JP2020208185 A JP 2020208185A JP 7482767 B2 JP7482767 B2 JP 7482767B2
Authority
JP
Japan
Prior art keywords
pedestrian
moving
identification device
feature
feature amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020208185A
Other languages
English (en)
Other versions
JP2022095079A (ja
Inventor
都 堀田
郭介 牛場
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Astemo Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Astemo Ltd filed Critical Hitachi Astemo Ltd
Priority to JP2020208185A priority Critical patent/JP7482767B2/ja
Priority to PCT/JP2021/033451 priority patent/WO2022130709A1/ja
Priority to DE112021005035.4T priority patent/DE112021005035T5/de
Publication of JP2022095079A publication Critical patent/JP2022095079A/ja
Application granted granted Critical
Publication of JP7482767B2 publication Critical patent/JP7482767B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/422Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation for representing the structure of the pattern or shape of an object therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/62Extraction of image or video features relating to a temporal dimension, e.g. time-based feature extraction; Pattern tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、カメラの撮影画像から物体の種別を識別する物体識別装置、および、物体識別方法に関する。
近年の自動車には、運転支援や自動運転の実現のため、自車両前方の移動物体の種別を識別する機能の搭載が求められている。例えば、前方の移動物体との衝突を回避する運転支援の実現には、移動物体の種別を識別したうえで、その移動物体の一般的な移動速度を考慮したブレ-キ制御をおこなう必要がある。
ここで、カメラの撮影画像に写った移動物体の種別を識別する手法として、特定物体の大量の画像を学習させて作成した識別器を用いる方法が一般に用いられる。しかし、この識別手法では、画像上の見かけの特徴パタンを学習するため、歩行者と自転車のように、撮影画像中での形状が類似した移動物体同士を正確に識別するのは困難であった。
そのため、特許文献1では、人間と推定される領域の面積の標準偏差を用いて歩行者を識別する方式が提案されている。例えば、特許文献1の請求項1では、「車両の前方を撮像する撮像手段により得られた画像より歩行者を検知する車両用の歩行者検知装置において、前記画像から人間と推定される領域を切り出し、該切り出した人間推定領域の面積を特徴量として算出する特徴量算出手段と、前記特徴量の時系列デ-タからそのばらつきを示す統計量を算出し、該算出した統計量が判定閾値より大きいとき、前記人間推定領域に対応する像が、当該車両の進行方向に対してほぼ垂直の方向に歩行している歩行者であると判定する歩行者判定手段とを備え、該歩行者判定手段は、前記特徴量の変動量の移動平均値を算出し、所定サンプル数の移動平均値の分散または標準偏差を、前記ばらつきを示す統計量として算出することを特徴とする歩行者検知装置」が開示されている。
特許第4267171号公報
特許文献1の歩行者検知装置によれば、画像から算出した人間の領域の面積を、時系列に平均をとり、移動平均の標準偏差が大きい場合に歩行者と判定する方式が開示されている。しかし、画面上の歩行者の面積は、歩行者自身の歩行挙動で時系列に変動する以外に、カメラを搭載した車両が歩行者に接近することによっても変動する。
このような、車両走行による移動物体までの距離変化の影響を軽減するには、車速により動的に変動するしきい値を設定しておき、車速センサから現在の速度を取得して、しきい値を設定したうえで移動物体の種別を判定する必要があった。しかしながら、正確なしきい値を設定するには、高精度の車速センサを利用する必要があるが、車両に搭載される一般的な車速センサでは低速時の検出精度が低いため、低速時には適切なしきい値を設定できず、結果的に、低速時には正確な歩行者判定を実行できないという問題があった。
そこで、本発明では、自車両が低速走行中であっても、前方の移動物体の種別を正確に判定することができる、物体識別装置、および、物体識別方法を提供することを目的とする。
上記課題を解決するための本発明の物体識別装置は、カメラが撮影した画像データに基づいて移動物体の種別を識別するものであって、前記画像データから移動物体の存在する物体領域を切り出す物体領域切出部と、前記物体領域の特徴量を算出する特徴量算出部と、前記特徴量の周期変動を検出する周期変動検出部と、検出した周期変動に基づき歩行者を判定する移動物体判定部と、を備えたものとした。
本発明の物体識別装置および物体識別方法によれば、自車両が低速走行中であっても、前方の移動物体の種別を正確に識別することが可能となる。
物体検出装置の実施例1の構成を示すブロック図。 物体領域切出部と、特徴量算出部の処理の内容を説明するための図。 歩行者の歩行挙動を時系列で示した図。 図3Aの各物体領域から算出した縦横比の変動を示した図。 図3Bの縦横比と移動平均の差の関係を示した図。 周期変動検出部による図4Aの解析結果。 図3Bの縦横比の増減を示した図。 周期変動検出部による図5Aの解析結果。 物体識別装置の実施例1の処理の流れを示す図。 物体識別装置の実施例2の構成を示すブロック図。 自転車の走行挙動を示した図。 立ちこぎしている自転車の走行挙動を示した図。
以下、図面等を用いて、本発明の物体検出装置の実施例について説明する。なお、以下の説明は本発明の内容の具体例を示すものであり、本発明がこれらの説明に限定されるものではなく、本明細書に開示される技術的思想の範囲内において当業者による様々な変更および修正が可能である。また、本発明を説明するための全図において、同一の機能を有するものは、同一の符号を付け、その繰り返しの説明は省略する場合がある。
まず、図1から図6を用いて、本発明の実施例1に係る物体識別装置1を説明する。
図1は、自車両に搭載された、実施例1の物体識別装置1、ステレオカメラ2、車両制御装置3の概略構成を示す機能ブロック図である。
ステレオカメラ2は、左カメラ2Lと右カメラ2Rの撮像素子を用いて、自車両前方のステレオ画像を撮影し、画像データDとして出力する外界センサである。なお、本発明で用いる外界センサは、画像データD内の各物体との距離を検出可能なセンサであれば良く、単眼カメラに、レーザレーダ、ミリ波レーダ、超音波センサ等の測距センサを組み合わせた外界センサであっても良い。
物体識別装置1は、ステレオカメラ2が撮影したステレオ画像(画像データD)に基づいて自車両周辺の移動物体の種別を識別し、その識別結果を車載ネットワ-クCANを介して車両制御装置3に出力する装置である。なお、物体識別装置1が識別する移動物体の種別は、他車両、バイク、自転車、歩行者等であるが、本実施例では歩行者の識別方法を説明し、実施例2では歩行者と自転車の識別方法を説明する。
車両制御装置3は、自車両の加速系、制動系、操舵系等を制御するECU(Electronic Control Unit)であり、物体識別装置1による移動物体の識別結果を踏まえて、移動物体との衝突等を回避できるように自車両の制動や操舵等を適切に制御する。なお、識別結果に応じた自車両制御には周知技術を利用できるので、以下では車両制御装置3の詳細説明を省略する。
<物体識別装置1の詳細構造>
図1に示すように、物体識別装置1は、内部バス10、物体領域切出部11、特徴量算出部12、周期変動検出部13、歩行者判定部14、カメラインタフェースIF、CANインタフェースIFを備えている。なお、物体識別装置1は、具体的には、マイコン等の演算装置、半導体メモリ等の記憶装置、および、通信装置などのハ-ドウェアを備えたコンピュータである。そして、記憶装置にロードされたプログラムを演算装置が実行することで、物体領域切出部11等の各機能を実現するが、以下では、このような周知技術を適宜省略しながら、各部の詳細を順次説明する。
カメラインタフェースIFは、ステレオカメラ2からステレオ画像(画像データD)を取得する。取得した画像データDは、内部バス10を通して図示しない記憶部に記憶される。
物体領域切出部11は、記憶部に記憶された画像データDから、物体領域Rを切り出す。これは画像データDから同一物体の映った領域を抽出する処理であり、様々な方法を用いることができる。たとえばステレオ画像では、画像間の視差により画像データD上の各点の距離を算出できるので、画像データD上で近接しており、かつ、自車両との相対距離が類似する画像領域をグル-ピングすることで物体領域Rを抽出することができる。
図2は、横断歩道を横断中の歩行者Pを撮影した画像データDの一例である。この画像データDを処理対象とする場合、物体領域切出部11は、歩行者Pを含む矩形の領域を物体領域Rとして検出する。なお、以下では、画像データD上での物体領域Rの幅をX、高さをYとする。
特徴量算出部12は、物体領域切出部11で求めた物体領域Rの特徴量を算出する。ここで算出する特徴量は、歩行者Pの手足の動きを定量化できる特徴量であり、例えば、歩行者Pの歩行に伴い変動する物体領域Rの縦横比RX/Y、もしくは、物体領域Rの対角線の角度などである。以降では、物体領域Rの縦横比RX/Yを特徴量とした場合について説明する。
特徴量の一例である縦横比RX/Yは、図2で設定した物体領域Rの幅Xを高さYで割った値である。自車両が歩行者Pに近づくと、仮に歩行者Pの姿勢が同一であっても、画像データD上での物体領域Rは徐々に拡大するが、実際の歩行者Pは高さ(身長)は変わらないため、物体領域Rの幅Xを高さYで割ることで、ステレオカメラ2からの距離や単位に影響されない正規化された特徴量として、縦横比RX/Yを求めることができる。
図3Aは、図2の歩行者Pを含む物体領域Rの時間変化の一例である。ここでは、時刻t~時刻t+6の歩行者Pと物体領域Rを、それぞれ、P~P、R~Rで示している。この図から明らかなように、物体領域Rの高さYは、自車両が歩行者Pに近づくほど大きくなる。また、物体領域Rの幅Xは、自車両が歩行者Pに近づくほど大きくなると同時に、歩行者Pが手足を前後に動かす歩行挙動によっても変化する。例えば、時刻tや時刻t+4での幅Xは前後のフレームより狭まっており、時刻t+2や時刻t+6での幅Xは前後のフレームより広がっている。
このため、特徴量算出部12が、図3Aに示す歩行者Pの物体領域Rを対象として縦横比RX/Yを算出すると、図3Bに示すような周期変動が検出される。
周期変動検出部13は、特徴量算出部12で算出した物体領域Rの特徴量(例えば、物体領域Rの縦横比RX/Y)を時系列で監視し、周期変動の有無を判断する。
(第一の周期変動判定方法)
ここで、図4Aと図4Bを用いて、周期変動検出部13による、第一の周期変動判定方法を説明する。図4Aは、図3Bの縦横比RX/Yの値と、過去数フレ-ムの縦横比RX/Yの平均値である移動平均Avの値をプロットしたグラフである。このグラフからは、縦横比RX/Yが周期的に増減すると、移動平均Avに対して縦横比RX/Yが周期的に上下することが分かる。
そこで、周期変動検出部13は、縦横比RX/Yの周期的な増減を検出するために、時刻ごとに得られる縦横比RX/Yから、移動平均Avに対する縦横比RX/Yの大小を「周期変動判定指標」として算出し、周期変動判定指標の連続状態を「周期変動判定指標連続カウンタ(+カウンタ、および、-カウンタ)」でカウントする。
まず、周期変動検出部13は、過去数フレ-ムの物体領域Rの縦横比RX/Yの値から、移動平均Avの値を求める。また、その時刻の縦横比RX/Yが移動平均Avより大きい(以下「+」と表記する)か小さい(以下「-」と表記する)かを求める。さらに、移動平均に対する+の状態、-の状態の連続する回数を求める。そして、+連続回数と-連続回数がほぼ一致する場合に、周期変動検出部13は、縦横比RX/Yが周期的に変動したとする。
図4Bは、周期変動検出部13による図4Aのグラフの解析結果の一例である。図4B(a)の行に、本判定方法の周期変動判定指標である、それぞれの時刻の移動平均Avに対する縦横比RX/Yの+/-の状態を示し、図4B(b)の行に+の連続回数である+カウンタ値を、図4B(c)の行に-の連続回数である-カウンタ値を示している。
この例では、時刻t+1と時刻t+2の周期変動判定指標が+、時刻t+3と時刻t+4の周期変動判定指標が-、時刻t+5と時刻t+6の周期変動判定指標が+である。そのため、図4B(b)の+カウンタ値は、周期変動判定指標の+が連続する時刻t+1、t+2では1回、2回とカウントアップしていき、その後、周期変動判定指標が-となる時刻t+3、t+4では、現状のカウンタ値である2回を保持し、周期変動判定指標が再度+に変動した時刻t+5の時点で、1回からカウントアップを再開する。同様に、-カウンタ値は、周期変動判定指標の-が連続する時刻t+3、t+4では1回、2回とカウントアップしていき、その後、周期変動判定指標が+となる時刻t+5、t+6では、現状のカウンタ値である2回を保持する。
このように、+カウンタ値と-カウンタ値をカウントアップさせると、時刻t+4の時点で、+の連続回数と-の連続回数が共に2回となり一致することを検知でき、周期変動検出部13は、一定周期で縦横比RX/Yが増減したと判定することができる。
(第二の周期変動判断方法)
次に、図5Aと図5Bを用いて、周期変動検出部13による、第二の周期変動判定方法を説明する。図4Bでは、移動平均Avに対する縦横比RX/Yの大小を周期変動判定指標としたが、図5Bでは、1フレーム前の縦横比RX/Yに対する現フレームの縦横比RX/Yの増減を周期変動判定指標とする。1フレーム前の縦横比RX/Yに対する現フレーム前の縦横比RX/Yの増減は、図5Aの破線矢印のように示されるため、周期変動検出部13は、図5Aのグラフを、図5Bのように解析する。図5Bでも図4Bと同様に、時刻t+4の時点で、+の連続回数と-の連続回数が共に2回となり一致するため、周期変動検出部13は、一定周期で縦横比RX/Yが増減したと判定することができる。
歩行者判定部14は、周期変動検出部13で周期的な変動を検出した場合に、その物体領域R内の移動物体を歩行者Pと判定する。
CANインタフェースIFは、歩行者判定部14が歩行者Pを検出した場合に、その判定結果を、車載ネットワ-クCANを介して、車両制御装置3に送信する。その結果、車両制御装置3は、自車両が歩行者Pに接近しているという前提での車両制御を実行する。
<物体識別装置1による処理のフローチャート>
以上で説明した本実施例の物体識別装置1の処理の流れを、図6のフローチャートを用いて説明する。
ステップS1では、カメラインタフェースIFは、ステレオカメラ2から画像データDを取得する。
ステップS2では、物体領域切出部11は、図2に示すように、画像データDから物体領域Rを切り出す。
ステップS3では、物体領域切出部11は、ステップS2で切り出した物体領域Rを、前時刻に切り出した物体領域Rと照合する。図2や図3Aでは、簡単のため画像データD内に移動物体が一つだけ存在する状況を例示したが、実際には、画像データD中には複数の移動物体が存在する可能性があるため、同一物体の物体領域Rを識別したうえで、同一物体の特徴量の周期変動を検出し歩行者判定を実施する必要がある。そのため、物体領域切出部11が物体領域Rを切り出す際に、前の時刻で切り出した複数の領域のどの領域と同じ物体であるかを照合する処理を実施する。連続した時刻間での物体の照合は、画面上で領域が重なっている、面積の差分が一定しきい値以下である、また、ステレオカメラ2を用いているなどで物体との実際の距離が取得できる場合には、実際の距離の値の差分が一定しきい値以下である、等の条件判定により、前の時刻で切り出した物体との照合をとっておく。これにより、それぞれの物体領域Rについて、過去の履歴の参照による変動の有無を判定することができる。なお、ここでは、n個の移動物体が検出されたものする。
ステップS4では、特徴量算出部12は、物体領域Rの参照カウンタiを1に設定する。
ステップS5では、特徴量算出部12は、参照カウンタiの物体領域Rの種別フラグが設定されているか否かを判定する。種別フラグは物体領域Rに割り当てられた変数であり、物体領域Rが初めて検出されたときに「未識別」と設定される。ステップS5で参照カウンタiの物体の種別フラグが「未識別」である場合は、識別判定が必要であるのでステップS6に進む。「未識別」でなく「歩行者」となっている場合は、参照カウンタiの物体領域Rに既に歩行者がいると判定されているので、他の物体領域Rを判定対象とすべく、参照カウンタiのカウントをインクリメントするステップS12の処理に進む。
ステップS6では、特徴量算出部12は、参照カウンタiの物体領域Rの特徴量を算出する。例えば、図3A、図3Bのように、時系列の物体領域Rに対して縦横比RX/Yを算出する。
ステップS7では、周期変動検出部13は、参照カウンタiの物体領域Rの周期変動判定指標を算出する。以降、周期変動判定指標が、図4Bに示す、移動平均Avに対する縦横比RX/Yの+/-である場合の事例で説明する。例えば、時刻t+3では、移動平均値Avより縦横比RX/Yが小さいため、周期変動検出部13は、物体領域Rの周期変動判定指標として-を算出する。
ステップS8では、周期変動検出部13は、参照カウンタiの物体領域Rの周期変動判定指標が前時刻から変化したか否かを判定する。例えば、図4Bでは、時刻t+2の周期変動判定指標であった+が、時刻t+3では-に変化しているため、ステップS9の処理に進む。このように、ステップS8は、参照カウンタiの物体領域Rの周期変動判定指標の符号に変化がみられるタイミングを判定する処理である。一方、周期変動判定指標の符号に変化が見られない場合は、判定のタイミングでないため次の参照カウンタiの物体領域RにカウンタをインクリメントするステップS12の処理に進む。
ステップS9では、参照カウンタiの物体領域Rの連続カウンタを比較する。具体的には+カウンタ値と-カウンタ値を比較し、これがほぼ一致すれば周期変動ありとしてステップS10の処理に進む。例えば、図4Bの時刻t+3では、+カウンタ値は「2」、-カウンタ値は「1」であるため、一致せずとして+カウンタ値または-カウンタ値をインクリメントするステップS11の処理に進む。これに対し、時刻t+4では、+カウンタ値は「2」、-カウンタ値も「2」であるため、縦横比RX/Yが周期的に変動したと判定して、ステップS1の処理に進む。
ステップS10では、前のステップS9で縦横比RX/Yに周期変動が見られたため、歩行者判定部14は、参照カウンタiの物体領域Rの種別フラグを「歩行者」に設定する。
一方、ステップS11では、参照カウンタiの物体領域Rの周期変動判定指標に変化がない、もしくは+カウンタと-カウンタが一致しないことから、周期変動の判定がまだ実施できないため、次時刻以降の判定のために、現状の+カウンタと-カウンタの状態を更新してステップS12に進む。例えば、図4Bの時刻t+2の場合は、現在時刻の周期変動判定指標が前時刻に引き続いて「+」であるため、5aに示すように+カウンタを1インクリメントした2とし、-については変化がないため-カウンタをそのまま0とする。
ステップS12では、参照カウンタiの物体領域Rに対する処理が終了したため、次の物体領域Rを判定対象とすべく、参照カウンタiを1インクリメントする。
ステップS13では、参照カウンタiがステップS3で設定した物体数nを超えたか否かを判定する。超えていない場合は未処理の物体領域Rが残っているため、ステップS5に戻り、次の物体領域Rに対する処理を実行する。超えている場合は現在時刻の処理を終了する。
なお、ステップS9の+カウンタと-カウンタの一致判定については、より正確な判定のために、次に挙げる各方法を採っても良い。
(1)ノイズの値変動による誤判定を避けるため、+カウンタと-カウンタはそれぞれ2回以上の場合に一致判定する。
(2)+カウンタと-カウンタの一致判定は、完全一致でなく、50%程度の誤差は許容するとする。例えば、+が2回連続して、-が3回連続した場合も一致したとする。
(3)+の連続回数と-の連続回数が初めて一致した時点で周期変動と判定するのでなく、一致が二回以上連続した時点で判定することで、よりロバストな判定とすることができる。図4Bや図5Bの例では、時刻t+6の時点で二回目の一致が検出されるので、この時点で周期変動と判定する。
以上の構成により、自車両の移動により移動物体との距離が変化しても、同じ歩行者の高さ(身長)は一定であることに鑑み、正規化した特徴量として縦横比RX/Yを算出することで歩行者Pの歩行挙動を正確に検出することができる。また、特徴量として物体領域Rの対角線の角度の値を用いた場合も、縦横比RX/Yを利用する場合と同様に、正規化した指標に基づいて歩行者Pの歩行挙動を正確に検出できるという効果が得られる。
以上で説明した本実施例の物体識別装置によれば、自車両が低速走行中であっても、正規化した特徴量を用いて、前方の移動物体が歩行者であることを正確に識別することが可能となる。
次に、図7から図9を用いて、本発明の実施例2に係る物体識別装置1を説明する。なお、実施例1との共通点は重複説明を省略する。
図7は、実施例2の物体識別装置1の構成を示す機能ブロック図である。図7の物体識別装置1は、図1の物体識別装置1に対し、物体実高算出部15を追加するとともに、歩行者判定部14を歩行者/自転車判定部14aに置き換えた構成である。以下、実施例1と異なる構成につき説明する。
本実施例は、移動物体の実座標上の高さを求めるため、物体実高算出部15を備えた。物体実高算出部15は、例えば、ステレオカメラからのステレオ画像から物体領域Rの実際の高さを算出するものであるが、レーザレーダ、ミリ波レーダなどの出力を用いて、物体領域Rの実際の高さを算出しても良い。以降はステレオカメラ2からのステレオ画像を用いて物体領域Rの実高さを求める例で説明する。
物体実高算出部15は、物体領域切出部11で切り出した物体領域Rに対し、実座標上の高さを算出する。ステレオ画像を用いると、ステレオカメラ2からの距離が既知の物体領域Rの高さYの画素数が分かれば、その物体領域Rの実際の高さは式1で求めることができる。
実高さ(mm)=(画素ピッチ×距離(mm)×高さ(画素))/焦点距離(mm)…式1
周期変動検出部13では、実施例1と同様に周期変動判定指標を算出し、+カウンタと-カウンタを更新する。それに加え、本実施例では、物体実高算出部15で取得した実高さの履歴を取得し、同一物体領域の時系列方向の平均値と標準偏差を算出する。
歩行者/自転車判定部14aでは、実施例1の歩行者判定部14と同様に、+カウンタと-カウンタの一致判定により、周期変動が検出されたかを判定する。そして、周期変動が検出された場合に、さらに実高さの標準偏差を参照し、標準偏差がしきい値以下であれば物体領域切出部11で切り出した物体領域Rを歩行者と判定し、しきい値より大きければ自転車と判定する。
歩行者/自転車判定部14aでの処理につき、図8を用いて説明する。図8は自車両の前方を横切る自転車の走行挙動を示した図である。なお、ここでは、物体領域Rの実高さは既に算出されているものとする。この場合、人の頭の高さが変化しない一方で、自転車をこぐ足の位置の上下により物体領域Rの下端の位置が上下に変動し、その結果、物体領域Rの高さが周期的に変動する。つまり、周期変動検出部13で求める実座標上での物体領域Rの高さの標準偏差が大きくなるため、縦横比RX/Yの変動が高さ方向の変動に起因すると判断できる。これは、自転車の画像を解析した時に見られる特徴であるので、このような特徴がみられた場合に、歩行者/自転車判定部14aは、物体領域R内の移動物体を自転車と判定することができる。
同様に、図9に示すのは、立ちこぎしている自転車Bの走行挙動を示した図である。凍場合は、自転車をこぐ周期に伴い人の頭の位置が周期的に上下するため、図8と同様に実座標上の高さの標準偏差が大きくなる。従って、図9のような画像データDを撮影した場合も、歩行者/自転車判定部14aは、物体領域R内の移動物体を自転車と判定することができる。
実施例1では、画像データD上での物体領域Rの縦横比RX/Yの周期変動を検出することで歩行者の歩行挙動を検出する例を記載した。これは、物体が歩行者の場合、高さが不変であることから高さで正規化した幅変動を検出できる効果があった。
一方、実施例2では、さらに、実座標上での物体領域Rの実高さの周期変動を考慮することで、歩行者と自転車を区別できるようにした。すなわち、実座標上の高さ変動がしきい値より小さければ、歩行者の幅変動による周期変動と判定し、しきい値より大きければ自転車の高さ変動による周期変動と判定する。
以上で説明した本実施例の物体識別装置1によれば、自車両が低速走行中であっても、正規化した特徴量を用いて、前方の移動物体が歩行者か自転車かを正確に識別することが可能となる。
1 物体識別装置、
11 物体領域切出部、
12 特徴量算出部、
13 周期変動検出部、
14 歩行者判定部、
14a 歩行者/自転車判定部、
15 物体実高算出部、
IF カメラインタフェース、
IF CANインタフェース、
2 ステレオカメラ、
2L 左カメラ、
2R 右カメラ、
3 車両制御装置、
D 画像データ、
P 歩行者、
B 自転車、
R 物体領域、
W 物体領域の幅、
H 物体領域の高さ、
X/Y 物体領域の縦横比、
Av 縦横比の移動平均

Claims (8)

  1. カメラが撮影した画像データに基づいて移動物体の種別を識別する物体識別装置であって、
    前記画像データから移動物体の存在する物体領域を切り出す物体領域切出部と、
    前記物体領域の特徴量を算出する特徴量算出部と、
    前記特徴量の周期変動を検出する周期変動検出部と、
    検出した周期変動に基づき歩行者を判定する移動物体判定部と、
    を備えた物体識別装置において、
    前記移動物体判定部は、前記特徴量の値が、前記特徴量の移動平均を超える連続回数と超えない連続回数の比率がほぼ一致する場合に、前記物体領域内の移動物体を歩行者と判定することを特徴とする物体識別装置。
  2. カメラが撮影した画像データに基づいて移動物体の種別を識別する物体識別装置であって、
    前記画像データから移動物体の存在する物体領域を切り出す物体領域切出部と、
    前記物体領域の特徴量を算出する特徴量算出部と、
    前記特徴量の周期変動を検出する周期変動検出部と、
    検出した周期変動に基づき歩行者を判定する移動物体判定部と、
    を備えた物体識別装置において、
    前記移動物体判定部は、前記特徴量の値が、前記特徴量の前回値を超える連続回数と超えない連続回数の比率がほぼ一致する場合に、前記物体領域内の移動物体を歩行者と判定することを特徴とする物体識別装置。
  3. 請求項1または請求項2に記載の物体識別装置において、
    前記特徴量算出部は、前記物体領域の特徴量として、前記画像データでの前記物体領域の縦横比を算出することを特徴とする物体識別装置。
  4. 請求項1または請求項2に記載の物体識別装置において、
    前記特徴量算出部は、前記物体領域の特徴量として、前記画像データでの前記物体領域の対角線の角度を算出することを特徴とする物体識別装置。
  5. 請求項1または請求項2に記載の物体識別装置において、
    前記移動物体判定部は、前記特徴量の値が、前記特徴量の移動平均値を周期的に上下する場合に、前記物体領域内の移動物体を歩行者と判定することを特徴とする物体識別装置。
  6. 請求項1または請求項2に記載の物体識別装置において、
    前記移動物体判定部は、前記移動物体との距離と、前記移動物体の画像データ上の高さから、前記物体領域の実座標上の高さを算出し、実座標上の高さの周期変動に基づいて、前記移動物体を自転車と判定することを特徴とする物体識別装置。
  7. カメラが撮影した画像データに基づいて移動物体の種別を識別する物体識別方法であって、
    前記画像データから移動物体の存在する物体領域を切り出すステップと、
    前記物体領域の特徴量を算出するステップと、
    前記特徴量の周期変動を検出するステップと、
    検出した周期変動に基づき歩行者を判定するステップと、
    を備え
    前記歩行者を判定するステップでは、前記特徴量の値が、前記特徴量の移動平均を超える連続回数と超えない連続回数の比率がほぼ一致する場合に、前記物体領域内の移動物体を歩行者と判定することを特徴とする物体識別方法。
  8. カメラが撮影した画像データに基づいて移動物体の種別を識別する物体識別方法であって、
    前記画像データから移動物体の存在する物体領域を切り出すステップと、
    前記物体領域の特徴量を算出するステップと、
    前記特徴量の周期変動を検出するステップと、
    検出した周期変動に基づき歩行者を判定するステップと、
    を備え
    前記歩行者を判定するステップでは、前記特徴量の値が、前記特徴量の前回値を超える連続回数と超えない連続回数の比率がほぼ一致する場合に、前記物体領域内の移動物体を歩行者と判定することを特徴とする物体識別方法。
JP2020208185A 2020-12-16 2020-12-16 物体識別装置、および、物体識別方法 Active JP7482767B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020208185A JP7482767B2 (ja) 2020-12-16 2020-12-16 物体識別装置、および、物体識別方法
PCT/JP2021/033451 WO2022130709A1 (ja) 2020-12-16 2021-09-13 物体識別装置、および、物体識別方法
DE112021005035.4T DE112021005035T5 (de) 2020-12-16 2021-09-13 Objektidentifikationsvorrichtung und objekt-identifikationsverfahren

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020208185A JP7482767B2 (ja) 2020-12-16 2020-12-16 物体識別装置、および、物体識別方法

Publications (2)

Publication Number Publication Date
JP2022095079A JP2022095079A (ja) 2022-06-28
JP7482767B2 true JP7482767B2 (ja) 2024-05-14

Family

ID=82059434

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020208185A Active JP7482767B2 (ja) 2020-12-16 2020-12-16 物体識別装置、および、物体識別方法

Country Status (3)

Country Link
JP (1) JP7482767B2 (ja)
DE (1) DE112021005035T5 (ja)
WO (1) WO2022130709A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102662709B1 (ko) * 2023-05-08 2024-04-30 이종선 안전운전 지원 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009042941A (ja) 2007-08-07 2009-02-26 Honda Motor Co Ltd 対象物種別判定装置、車両、対象物種別判定方法、並びに対象物種別判定用プログラム
JP2012203657A (ja) 2011-03-25 2012-10-22 Nikon Corp 電子機器及び取得方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4267171B2 (ja) 1999-05-10 2009-05-27 本田技研工業株式会社 歩行者検知装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009042941A (ja) 2007-08-07 2009-02-26 Honda Motor Co Ltd 対象物種別判定装置、車両、対象物種別判定方法、並びに対象物種別判定用プログラム
JP2012203657A (ja) 2011-03-25 2012-10-22 Nikon Corp 電子機器及び取得方法

Also Published As

Publication number Publication date
WO2022130709A1 (ja) 2022-06-23
JP2022095079A (ja) 2022-06-28
DE112021005035T5 (de) 2023-08-17

Similar Documents

Publication Publication Date Title
US7925050B2 (en) Vehicle environment monitoring apparatus
US9607402B1 (en) Calibration of pedestrian speed with detection zone for traffic intersection control
CN109977776B (zh) 一种车道线检测方法、装置及车载设备
JP6747269B2 (ja) 物体認識装置
US9352746B2 (en) Lane relative position estimation method and system for driver assistance systems
JP2004145660A (ja) 障害物検出装置
US9990549B2 (en) Complex marking determining device and complex marking determining method
JP2011180982A (ja) 区画線検出装置
US20180075749A1 (en) Forward collision warning system and method
US11151395B2 (en) Roadside object detection device, roadside object detection method, and roadside object detection system
US8160300B2 (en) Pedestrian detecting apparatus
CN113240756B (zh) 车载bsd摄像头的位姿变动检测方法、设备和存储介质
WO2016159364A1 (ja) 歩行者判定装置
JP2018147399A (ja) 物標検出装置
US10706296B2 (en) Vehicle safety determination apparatus, method, and computer-readable storage medium
CN116348937A (zh) 物体识别装置
JP7482767B2 (ja) 物体識別装置、および、物体識別方法
Michalke et al. Towards a closer fusion of active and passive safety: Optical flow-based detection of vehicle side collisions
JP2006151300A (ja) 車両周辺監視装置
JP2018084987A (ja) 物体認識装置
JP6295524B2 (ja) 光軸補正装置
JP2014203196A (ja) 危険度判定装置、危険度判定方法、警報装置、及び運転支援装置
JP2017211765A (ja) 物体認識装置
JP5892075B2 (ja) 対象物検出装置及び対象物検出方法、警報装置及び警報方法、運転支援装置及び運転支援方法
JP7309630B2 (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230823

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240409

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240430

R150 Certificate of patent or registration of utility model

Ref document number: 7482767

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150