JP7423970B2 - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP7423970B2
JP7423970B2 JP2019188220A JP2019188220A JP7423970B2 JP 7423970 B2 JP7423970 B2 JP 7423970B2 JP 2019188220 A JP2019188220 A JP 2019188220A JP 2019188220 A JP2019188220 A JP 2019188220A JP 7423970 B2 JP7423970 B2 JP 7423970B2
Authority
JP
Japan
Prior art keywords
edge detection
vehicle
image data
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019188220A
Other languages
English (en)
Other versions
JP2021064149A (ja
Inventor
賢樹 古川
将太 祖父江
直樹 山村
陽司 乾
祐也 下平
政孝 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Aisin Corp
Original Assignee
Aisin Seiki Co Ltd
Aisin Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Aisin Seiki Co Ltd, Aisin Corp filed Critical Aisin Seiki Co Ltd
Priority to JP2019188220A priority Critical patent/JP7423970B2/ja
Priority to DE102020126525.5A priority patent/DE102020126525A1/de
Publication of JP2021064149A publication Critical patent/JP2021064149A/ja
Application granted granted Critical
Publication of JP7423970B2 publication Critical patent/JP7423970B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30264Parking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Description

本発明の実施形態は、画像処理装置に関する。
車両が駐車する際のステアリングの操舵角に基づいて、撮像部によって車両の周囲を撮像して画像データに対して、駐車目標位置の区画線等の認証対象物が検出可能な領域を設定し、当該領域内から認証対象物を検出する技術が開発されている。
特開平10-216219号公報
ところで、画像データ内に存在する路面のノイズや区画線のサイズは、撮像部からの距離に応じて変化する。そのため、画像データ内の位置に関わらず、同一のサイズのフィルタを用いて、画像データ内の認識対象物のエッジを検出すると、路面のノイズを多く検出してしまったり、認証対象物を検出することができなかったりする場合がある。
そこで、実施形態の課題の一つは、画像データから、車両が走行する路面上の区画線等の認識対象物のエッジを高精度に検出することができる画像処理装置を提供する。
実施形態の画像処理装置は、一例として、車両に搭載される撮像部によって当該車両の周囲を撮像した画像データを取得する取得部と、前記画像データの画素のうち、前記撮像部の第1撮像領域に対応する画素に対して、第1フィルタサイズのエッジ検出フィルタを用いてエッジを検出し、前記画素のうち、前記撮像部からの距離が前記第1撮像領域より遠い第2撮像領域に対応する画素に対して、前記第1フィルタサイズより小さい第2フィルタサイズのエッジ検出フィルタを用いてエッジを検出するエッジ検出部と、を備える。よって、一例として、画像データからの認識対象物の画像のエッジの検出精度を向上させることができる。
また、実施形態の画像処理装置は、一例として、前記エッジ検出部は、前記画像データにおいて認証対象物に対応する画像の幅より小さい幅の前記エッジ検出フィルタを用いて、前記画素のエッジを検出する。よって、一例として、画像データからの認識対象物の画像のエッジの検出精度をより向上させることができる。
また、実施形態の画像処理装置は、一例として、前記エッジ検出部は、前記画像データにおいて認証対象物に対応する画像の幅の1/2の幅の前記エッジ検出フィルタを用いて、前記画素のエッジを検出する。よって、一例として、画像データからの認識対象物の画像のエッジの検出精度をより向上させることができる。
また、実施形態の画像処理装置は、一例として、前記エッジ検出部は、前記車両を駐車する領域の勾配に乗じて、前記エッジ検出フィルタのフィルタサイズを変更する。よって、一例として、画像データからの認識対象物の画像のエッジの検出精度をより向上させることができる。
図1は、本実施形態にかかる車両の車室の一部が透視された状態が示された例示的な斜視図である。 図2は、本実施形態にかかる車両の例示的な平面図である。 図3は、本実施形態にかかる車両のダッシュボードの一例の車両後方からの視野での図である。 図4は、本実施形態にかかる車両が有する駐車支援システムの構成の例示的なブロック図である。 図5は、本実施形態にかかる車両が有するECUの機能構成の一例を示す図である。 図6は、本実施形態にかかる車両が有するECUによる画像データからのエッジの検出処理の一例を説明するための図である。 図7は、本実施形態にかかる車両が有するECUによるエッジ検出フィルタのフィルタサイズの変更処理の一例を説明するための図である。 図8は、本実施形態にかかる車両が有するECUによるエッジの検出処理の流れの一例を示すフローチャートである。
以下、本発明の例示的な実施形態が開示される。以下に示される実施形態の構成、ならびに当該構成によってもたらされる作用、結果、および効果は、一例である。本発明は、以下の実施形態に開示される構成以外によっても実現可能であるとともに、基本的な構成に基づく種々の効果や、派生的な効果のうち、少なくとも一つを得ることが可能である。
本実施形態の車両1は、例えば、不図示の内燃機関を駆動源とする自動車、すなわち内燃機関自動車であってもよいし、不図示の電動機を駆動源とする自動車、すなわち電気自動車や燃料電池自動車等であってもよいし、それらの双方を駆動源とするハイブリッド自動車であってもよいし、他の駆動源を備えた自動車であってもよい。また、車両1は、種々の変速装置を搭載することができるし、内燃機関や電動機を駆動するのに必要な種々の装置、例えばシステムや部品等を搭載することができる。また、車両1における車輪3の駆動に関わる装置の方式や、数、レイアウト等は、種々に設定することができる。
図1は、本実施形態にかかる車両の車室の一部が透視された状態が示された例示的な斜視図である。図2は、本実施形態にかかる車両の例示的な平面図である。図3は、本実施形態にかかる車両のダッシュボードの一例の車両後方からの視野での図である。図4は、本実施形態にかかる車両が有する駐車支援システムの構成の例示的なブロック図である。
まず、図1~図4を用いて、本実施形態にかかる車両1の構成の一例について説明する。
図1に例示されるように、車体2は、不図示の乗員が乗車する車室2aを構成している。車室2a内には、乗員としての運転者の座席2bに臨む状態で、操舵部4や、加速操作部5、制動操作部6、変速操作部7等が設けられている。
操舵部4は、例えば、ダッシュボード24から突出したステアリングホイールである。加速操作部5は、例えば、運転者の足下に位置されたアクセルペダルである。制動操作部6は、例えば、運転者の足下に位置されたブレーキペダルである。変速操作部7は、例えば、センターコンソールから突出したシフトレバーである。なお、操舵部4や、加速操作部5、制動操作部6、変速操作部7等は、これらには限定されない。
また、車室2a内には、表示出力部としての表示装置8や、音声出力部としての音声出力装置9が設けられている。表示装置8は、例えば、LCD(Liquid Crystal Display)や、OELD(Organic Electroluminescent Display)等である。音声出力装置9は、例えば、スピーカである。また、表示装置8は、例えば、タッチパネル等、透明な操作入力部10で覆われている。乗員は、操作入力部10を介して表示装置8の表示画面に表示される画像を視認することができる。また、乗員は、表示装置8の表示画面に表示される画像に対応した位置で手指等で操作入力部10を触れたり押したり動かしたりして操作することで、操作入力を実行することができる。
これら表示装置8や、音声出力装置9、操作入力部10等は、例えば、ダッシュボード24の車幅方向すなわち左右方向の中央部に位置されたモニタ装置11に設けられている。モニタ装置11は、スイッチや、ダイヤル、ジョイスティック、押しボタン等の不図示の操作入力部を有することができる。また、モニタ装置11とは異なる車室2a内の他の位置に不図示の音声出力装置を設けることができるし、モニタ装置11の音声出力装置9と他の音声出力装置から、音声を出力することができる。なお、モニタ装置11は、例えば、ナビゲーションシステムやオーディオシステムと兼用されうる。
また、車室2a内には、表示装置8とは別の表示装置12が設けられている。図3に例示されるように、表示装置12は、例えば、ダッシュボード24の計器盤部25に設けられ、計器盤部25の略中央で、速度表示部25aと回転数表示部25bとの間に位置されている。表示装置12の画面12aの大きさは、表示装置8の画面8aの大きさよりも小さい。この表示装置12には、主として車両1の駐車支援に関する情報を示す画像が表示されうる。表示装置12で表示される情報量は、表示装置8で表示される情報量より少なくてもよい。表示装置12は、例えば、LCDや、OELD等である。なお、表示装置8に、表示装置12で表示される情報が表示されてもよい。
また、図1,2に例示されるように、車両1は、例えば、四輪自動車であり、左右二つの前輪3Fと、左右二つの後輪3Rとを有する。これら四つの車輪3は、いずれも転舵可能に構成されうる。図4に例示されるように、車両1は、少なくとも二つの車輪3を操舵する操舵システム13を有している。
操舵システム13は、アクチュエータ13aと、トルクセンサ13bとを有する。操舵システム13は、ECU14(Electronic Control Unit)等によって電気的に制御されて、アクチュエータ13aを動作させる。操舵システム13は、例えば、電動パワーステアリングシステムや、SBW(Steer By Wire)システム等である。操舵システム13は、アクチュエータ13aによって操舵部4にトルク、すなわちアシストトルクを付加して操舵力を補ったり、アクチュエータ13aによって車輪3を転舵したりする。この場合、アクチュエータ13aは、一つの車輪3を転舵してもよいし、複数の車輪3を転舵してもよい。また、トルクセンサ13bは、例えば、運転者が操舵部4に与えるトルクを検出する。
また、図2に例示されるように、車体2には、複数の撮像部15として、例えば四つの撮像部15a~15dが設けられている。撮像部15は、例えば、CCD(Charge Coupled Device)やCIS(CMOS Image Sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部15は、所定のフレームレートで動画データを出力することができる。撮像部15は、それぞれ、広角レンズまたは魚眼レンズを有し、水平方向には例えば140°~190°の範囲を撮影することができる。また、撮像部15の光軸は斜め下方に向けて設定されている。よって、撮像部15は、車両1が移動可能な路面や車両1が駐車可能な領域を含む車体2の周辺の外部の環境を逐次撮影し、撮像画像データとして出力する。
撮像部15aは、例えば、車体2の後側の端部2eに位置され、リヤトランクのドア2hの下方の壁部に設けられている。撮像部15bは、例えば、車体2の右側の端部2fに位置され、右側のドアミラー2gに設けられている。撮像部15cは、例えば、車体2の前側、すなわち車両前後方向の前方側の端部2cに位置され、フロントバンパー等に設けられている。撮像部15dは、例えば、車体2の左側、すなわち車幅方向の左側の端部2dに位置され、左側の突出部としてのドアミラー2gに設けられている。ECU14は、複数の撮像部15で得られた画像データに基づいて演算処理や画像処理を実行し、より広い視野角の画像を生成したり、車両1を上方から見た仮想的な俯瞰画像を生成したりすることができる。なお、俯瞰画像は、平面画像とも称されうる。
また、ECU14は、撮像部15の画像データから、車両1の周辺の路面に示された区画線等を識別し、区画線等に示された駐車区画を検出(抽出)する。
また、図1,2に例示されるように、車体2には、複数の測距部16,17として、例えば四つの測距部16a~16dと、八つの測距部17a~17hとが設けられている。測距部16,17は、例えば、超音波を発射してその反射波を捉えるソナーである。ソナーは、ソナーセンサ、あるいは超音波探知器とも称されうる。ECU14は、測距部16,17の検出結果により、車両1の周囲に位置された障害物等の物体の有無や当該物体までの距離を測定することができる。すなわち、測距部16,17は、物体を検出する検出部の一例である。なお、測距部17は、例えば、比較的近距離の物体の検出に用いられ、測距部16は、例えば、測距部17よりも遠い比較的長距離の物体の検出に用いられうる。また、測距部17は、例えば、車両1の前方および後方の物体の検出に用いられ、測距部16は、車両1の側方の物体の検出に用いられうる。
また、図4に例示されるように、駐車支援システム100では、ECU14や、モニタ装置11、操舵システム13、測距部16,17等の他、ブレーキシステム18、舵角センサ19、アクセルセンサ20、シフトセンサ21、車輪速センサ22等が、電気通信回線としての車内ネットワーク23を介して電気的に接続されている。車内ネットワーク23は、例えば、CAN(controller area network)として構成されている。
ECU14は、車内ネットワーク23を通じて制御信号を送ることで、操舵システム13、ブレーキシステム18等を制御することができる。また、ECU14は、車内ネットワーク23を介して、トルクセンサ13b、ブレーキセンサ18b、舵角センサ19、測距部16、測距部17、アクセルセンサ20、シフトセンサ21、車輪速センサ22等の検出結果や、操作入力部10等の操作信号等を、受け取ることができる。
ECU14は、例えば、CPU14a(Central Processing Unit)や、ROM(Read Only Memory)14b、RAM(Random Access Memory)14c、表示制御部14d、音声制御部14e、SSD(Solid State Drive、フラッシュメモリ)14f等を有している。
CPU14aは、例えば、表示装置8,12で表示される画像に関連した画像処理や、車両1の目標位置の決定、車両1の移動経路の演算、物体との干渉の有無の判断、車両1の自動制御、自動制御の解除等の、各種の演算処理および制御を実行することができる。CPU14aは、ROM14b等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。
RAM14cは、CPU14aでの演算で用いられる各種のデータを一時的に記憶する。また、表示制御部14dは、ECU14での演算処理のうち、主として、撮像部15で得られた画像データを用いた画像処理や、表示装置8で表示される画像データの合成等を実行する。また、音声制御部14eは、ECU14での演算処理のうち、主として、音声出力装置9で出力される音声データの処理を実行する。また、SSD14fは、書き換え可能な不揮発性の記憶部であって、ECU14の電源がオフされた場合にあってもデータを記憶することができる。なお、CPU14aや、ROM14b、RAM14c等は、同一パッケージ内に集積されうる。また、ECU14は、CPU14aに替えて、DSP(Digital Signal Processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、SSD14fに替えてHDD(Hard Disk Drive)が設けられてもよいし、SSD14fやHDDは、ECU14とは別に設けられてもよい。ECU14は、画像処理装置の一例である。
ブレーキシステム18は、例えば、ブレーキのロックを抑制するABS(Anti-lock Brake System)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:Electronic Stability Control)、ブレーキ力を増強させる(ブレーキアシストを実行する)電動ブレーキシステム、BBW(Brake By Wire)等である。ブレーキシステム18は、アクチュエータ18aを介して、車輪3ひいては車両1に制動力を与える。また、ブレーキシステム18は、左右の車輪3の回転差などからブレーキのロックや、車輪3の空回り、横滑りの兆候等を検出して、各種制御を実行することができる。ブレーキセンサ18bは、例えば、制動操作部6の可動部の位置を検出するセンサである。ブレーキセンサ18bは、可動部としてのブレーキペダルの位置を検出することができる。ブレーキセンサ18bは、変位センサを含む。
舵角センサ19は、例えば、ステアリングホイール等の操舵部4の操舵量を検出するセンサである。舵角センサ19は、例えば、ホール素子などを用いて構成される。ECU14は、運転者による操舵部4の操舵量や、自動操舵時の各車輪3の操舵量等を、舵角センサ19から取得して各種制御を実行する。なお、舵角センサ19は、操舵部4に含まれる回転部分の回転角度を検出する。舵角センサ19は、角度センサの一例である。
アクセルセンサ20は、例えば、加速操作部5の可動部の位置を検出するセンサである。アクセルセンサ20は、可動部としてのアクセルペダルの位置を検出することができる。アクセルセンサ20は、変位センサを含む。
シフトセンサ21は、例えば、変速操作部7の可動部の位置を検出するセンサである。シフトセンサ21は、可動部としての、レバーや、アーム、ボタン等の位置を検出することができる。シフトセンサ21は、変位センサを含んでもよいし、スイッチとして構成されてもよい。
車輪速センサ22は、車輪3の回転量や単位時間当たりの回転数を検出するセンサである。車輪速センサ22は、検出した回転数を示す車輪速パルス数をセンサ値として出力する。車輪速センサ22は、例えば、ホール素子などを用いて構成されうる。ECU14は、車輪速センサ22から取得したセンサ値に基づいて車両1の移動量などを演算し、各種制御を実行する。なお、車輪速センサ22は、ブレーキシステム18に設けられている場合もある。その場合、ECU14は、車輪速センサ22の検出結果をブレーキシステム18を介して取得する。
なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は、一例であって、種々に設定(変更)することができる。
図5は、本実施形態にかかる車両が有するECUの機能構成の一例を示す図である。
次に、図5を用いて、本実施形態にかかる車両1が有するECU14の機能構成の一例について説明する。
本実施形態にかかるECU14は、図5に示すように、情報取得部141、ROI設定部142、エッジ検出部143、特徴点抽出部144、直線検出部145、区画線検出部146、および情報更新部147を有する画像処理装置の一例として機能する。本実施形態では、CPU14aが、ROM14bやSSD14f等の記憶装置に記憶されるプログラムを読み出して実行することにより、情報取得部141、ROI設定部142、エッジ検出部143、特徴点抽出部144、直線検出部145、区画線検出部146、および情報更新部147等の各種の機能モジュールを実現する。
本実施形態では、情報取得部141、ROI設定部142、エッジ検出部143、特徴点抽出部144、直線検出部145、区画線検出部146、および情報更新部147等の各種の機能モジュールは、CPU14a等のプロセッサが、ROM14bやSSD14f等の記憶装置に記憶されるプログラムを読み出して実行することにより実現されるが、これに限定するものではない。例えば、情報取得部141、ROI設定部142、エッジ検出部143、特徴点抽出部144、直線検出部145、区画線検出部146、および情報更新部147等の各種の機能モジュールは、独立したハードウェアにより実現することも可能である。また、情報取得部141、ROI設定部142、エッジ検出部143、特徴点抽出部144、直線検出部145、区画線検出部146、および情報更新部147等の各種の機能モジュールは、一例であり、同様の機能を実現できれば、各機能モジュールが統合されたり、細分化されたりしていても良い。
情報取得部141は、撮像部15によって車両1の周囲を撮像した画像データ等の各種情報を取得する取得部の一例である。本実施形態では、情報取得部141は、複数の撮像部15a~15dのそれぞれから、画像データを取得する。
ROI設定部142は、画像データに対して探索範囲(ROI:Region Of Interest)を設定する設定部の一例である。ここで、探索範囲は、画像データに含まれる区画線等の認証対象物の画像を検出する範囲である。例えば、ROI設定部142は、画像データのうち、車両1の車体2の画像を除く領域を、探索範囲に設定する。
エッジ検出部143は、情報取得部141により取得した画像データ(本実施形態では、ROI設定部142により設定される探索範囲)のエッジを検出する画像処理部の一例である。
その際、エッジ検出部143は、情報取得部141により取得した画像データに含まれる画素のうち、撮像部15からの距離が近い手前側の撮像領域に対応する画素に対しては、フィルタサイズが大きいエッジ検出フィルタを用いて、エッジを検出する。一方、エッジ検出部143は、画像データに含まれる画素のうち、撮像部15からの距離が遠い奥側の撮像領域に対応する画素に対しては、フィルタサイズが小さいエッジ検出フィルタを用いて、エッジを検出する。
すなわち、エッジ検出部143は、画像データの画素のうち、撮像部15からの距離が近い撮像領域(第1撮像領域の一例)に対応する画素に対しては、第1フィルタサイズのエッジ検出フィルタを用いてエッジを検出する。一方、エッジ検出部143は、画像データの画素のうち、撮像部15からの距離が第1撮像領域より遠い撮像領域(第2撮像領域の一例)に対応する画素に対しては、第1フィルタサイズより大きい第2フィルタサイズのエッジ検出フィルタを用いてエッジを検出する。
これにより、撮像部15からの距離が遠い撮像領域に存在する認識対象物の画像のエッジが検出できなかったり、撮像部15からの距離が近い撮像領域に存在する認識対象物以外のノイズ(例えば、ごま塩状に存在する路面のノイズ)のエッジを多く検出してしまったりすることを抑制できる。その結果、画像データからの認識対象物の画像のエッジの検出精度を向上させることができる。
本実施形態では、ROM14bやSSD14f等の記憶装置が、複数のフィルタサイズ(pixel)のエッジ検出用フィルタを記憶している。そして、エッジ検出部143は、画素分解能R(mm/pixel)と、実空間における認識対象物の幅W(mm)に基づいて、エッジ検出フィルタのフィルタサイズ(pixel)を求める。ここで、画素分解能Rは、画像データにおいて、実空間における認証対象物の幅W(mm)に対応する幅(pixel)を有しかつ注目画素を含む画像の画素分解能である。
例えば、エッジ検出部143は、画像データにおいて、実空間における認証対象物の幅Wの1/2に対応する画素数(=(W/2)/R)を求める。次いで、エッジ検出部143は、当該記憶装置から、幅方向および高さ方向のそれぞれに当該求めた画素数を有するフィルタサイズのエッジ検出フィルタを読み出す。そして、エッジ検出部143は、当該読み出したエッジ検出フィルタを用いて、注目画素のエッジを検出する。
すなわち、エッジ検出部143は、画像データにおいて、実空間の認証対象物に対応する画像の1/2の幅および高さを有するエッジ検出フィルタを用いて、注目画素のエッジを検出する。これにより、実空間の認識対象物の幅Wに対応する画素数よりも大きい幅のエッジ検出フィルタを用いて、注目画素のエッジの検出が行われることを防止できるので、画像データからの認識対象物の画像のエッジの検出精度をより向上させることができる。
本実施形態では、エッジ検出部143は、画像データにおいて、実空間の認識対象物に対応する画像の1/2の幅および高さのエッジ検出フィルタを用いて、注目画素のエッジを検出しているが、画像データにおいて、実空間の認識対象物に対応する画像より小さい幅および高さのエッジ検出フィルタを用いて、注目画素のエッジを検出するものであれば、これに限定するものではない。
また、本実施形態では、エッジ検出部143は、画像データにおいて、実空間の認証対象物に対応する画像より小さい幅および高さのエッジ検出フィルタを用いて、注目画素のエッジを検出しているが、画像データにおいて、実空間の認証対象物に対応する画像より小さい幅のエッジ検出フィルタを用いて、注目画素のエッジを検出するものであれば良い。
また、エッジ検出部143は、車両1を駐車する領域の勾配に乗じて、画像データのエッジの検出に用いるエッジ検出フィルタのフィルタサイズを変更することも可能である。例えば、エッジ検出部143は、車両1を駐車する領域の勾配が、車両1の現在位置よりも下方への傾斜している場合、エッジ検出フィルタのフィルタサイズを小さくする。一方、エッジ検出部143は、車両1を駐車する領域の勾配が、車両1の現在位置よりも上方へ傾斜している場合、エッジ検出フィルタのフィルタサイズを大きくする。
これにより、車両1を駐車する領域の勾配の変化によって画像データに含まれる認識対象物の画像のサイズが変化する場合であっても、その勾配に応じたエッジ検出フィルタを用いて画像データからエッジを検出できる。その結果、画像データからの認識対象物の画像のエッジの検出精度をより向上させることができる。
特徴点抽出部144は、エッジ検出部143によるエッジの検出結果に基づいて、画像データに含まれる特徴点を抽出する抽出部の一例である。
直線検出部145は、画像データからの特徴点の抽出結果に基づいて、画像データに含まれる直線を検出する。
区画線検出部146は、画像データからの直線の検出結果に基づいて、画像データに含まれる認証対象物を検出する。
情報更新部147は、区画線検出部146による画像データからの認識対象物の検出結果に基づいて、車両1の目標位置の決定、車両1の移動経路の演算、物体との干渉の有無の判断、車両1の自動運転、自動運転の解除等の、各種の演算処理および制御を実行するものとする。
図6は、本実施形態にかかる車両が有するECUによる画像データからのエッジの検出処理の一例を説明するための図である。
次に、図6を用いて、ECU14による画像データからのエッジの検出処理の一例について説明する。
例えば、図6に示すように、車両1を駐車枠601(認識対象物の一例)で囲まれる駐車領域に駐車する場合、情報取得部141は、車体2の左側に設けられる撮像部15dから、画像データを取得する。
エッジ検出部143は、図6に示すように、実空間における駐車枠601の幅(線幅)W(mm)を取得する。
次に、エッジ検出部143は、画像データにおいて、駐車枠601の幅Wの1/2に対応する幅および高さを有しかつ注目画素を含む画像の画素数(画素分解能R)を、注目画素のエッジ検出フィルタのフィルタサイズとして求める。
その後、エッジ検出部143は、ROM14bやSSD14f等の記憶装置から、求めたフィルタサイズのエッジ検出フィルタを読み出し、当該読み出したエッジ検出フィルタを用いて、注目画素のエッジを検出する。
図7は、本実施形態にかかる車両が有するECUによるエッジ検出フィルタのフィルタサイズの変更処理の一例を説明するための図である。
次に、図7を用いて、ECU14によるエッジ検出用フィルタのサイズの変更処理の一例について説明する。
情報取得部141により画像データGが取得されると、エッジ検出部143は、図7に示すように、画像データGの左上の画素から順に、画像データGのx軸方向に注目画素をずらして、注目画素のエッジを検出する。そして、エッジ検出部143は、図7に示すように、x軸方向の1つの列の画素のエッジの検出が終了すると、y軸方向に注目画素をずらして、再び、画像データGのx軸方向に注目画素をずらしながら、当該注目画素のエッジを検出する。
エッジ検出部143は、図7に示すように、画像データGの右下の画素のエッジの検出が終了するまで、上述の処理を繰り返す。すなわち、エッジ検出部143は、画像データG上をラスタスキャンにより注目画素を移動させながら、画像データGに含まれる画素のエッジを検出する。
ところで、画像データGに含まれる駐車枠等の認証対象物の画像TGの幅は、撮像部15から認証対象物までの距離に応じて変化する。具体的には、図7に示すように、撮像部15から認証対象物までの距離が長くなるに従い、認証対象物の画像TGの幅は、小さくなる。
そのため、画像データGにおいて、撮像部15からの距離が近い手前側の画像と、撮像部15からの距離が遠い奥側の画像と、に対して、同一のフィルタサイズのエッジ検出フィルタを用いて、エッジの検出を行うと、画像データGのエッジの検出精度が低下する場合がある。
例えば、手前側の画像と、奥側の画像と、に対して、共に、小さいフィルタサイズのエッジ検出フィルタを用いて、エッジの検出を行う場合、奥側の認証対象物の画像TGのエッジの検出精度は高くすることができるのが、手前側の画像に含まれる細かいノイズがエッジとして検出される場合がある。
また、例えば、手前側の画像と、奥側の画像と、に対して、共に、大きいフィルタサイズのエッジ検出フィルタを用いて、エッジの検出を行う場合、手前側の画像に含まれる細かいノイズがエッジとして検出されることを抑制できるが、奥側の認証対象物の画像TGのエッジの検出精度が低下する場合がある。
そこで、エッジ検出部143は、図7に示すように、画像データGにおいて、認証対象物の画像TGのサイズが大きい手前側の画像G1の注目画素に対しては、大きいフィルタサイズ(例えば、12×12)のエッジ検出フィルタF1を用いて、エッジを検出する。これにより、手前側の画像G1に含まれる細かいノイズがエッジとして検出されることを抑制することができる。
また、エッジ検出部143は、図7に示すように、画像データGにおいて、認証対象物の画像TGのサイズが小さい奥側の画像G2の注目画素に対しては、小さいフィルタサイズ(例えば、3×3)のエッジ検出フィルタF2を用いて、エッジを検出する。これにより、これにより、奥側の認証対象物の画像TGのサイズが小さい場合でも、当該画像TGのエッジを検出することができる。
さらに、エッジ検出部143は、図7に示すように、画像データGにおいて、手前側の画像G2と奥側の画像G1の中間である中央の画像G3の注目画素に対しては、中間のフィルタサイズ(例えば、9×9)のエッジ検出フィルタF3を用いて、エッジを検出する。これにより、中央の画像G3に含まれる細かいノイズがエッジとして検出されることを抑制しつつ、当該中央の画像G3に含まれる認証対象物の画像TGの検出精度を高めることができる。
図8は、本実施形態にかかる車両が有するECUによるエッジの検出処理の流れの一例を示すフローチャートである。
次に、図8を用いて、本実施形態にかかるECU14によるエッジの検出処理の流れの一例について説明する。
情報取得部141によって画像データが取得されると、ROI設定部142は、画像データに対して探索範囲を設定する(ステップS801)。
次いで、エッジ検出部143は、探索範囲内の画素のうち注目画素を含む画像の画素分解能Rを取得する(ステップS802)。さらに、エッジ検出部143は、検出したい認識対象物の幅Wを取得する。
次に、エッジ検出部143は、画素分解能Rと、検出したい認識対象物の幅Wと、に基づいて、当該注目画素のエッジの検出に用いるエッジ検出フィルタのフィルタサイズを求める(ステップS803)。
次に、エッジ検出部143は、求めたフィルタサイズのエッジ検出フィルタを用いて、注目画素のエッジを検出する(ステップS804)。エッジ検出部143は、画像データ上をラスタスキャンにより注目画素を移動させながら、ステップS802~ステップS804に示す処理を繰り返す。
探索範囲の全ての画素のエッジが検出されると、特徴点抽出部144は、探索範囲内の画素のエッジの検出結果に基づいて、探索範囲内の特徴点を抽出する(ステップS805)。
直線検出部145は、探索範囲からの特徴点の抽出結果に基づいて、探索範囲に含まれる直線を検出する(ステップS806)。
区画線検出部146は、直線検出部145による直線の検出結果に基づいて、探索範囲内の区画線等の認識対象物を検出する(ステップS807)。
このように、本実施形態にかかる車両1によれば、実空間の認識対象物の幅Wに対応する画素数よりも大きい幅のエッジ検出フィルタを用いて、注目画素のエッジの検出が行われることを防止できるので、画像データからの認識対象物の画像のエッジの検出精度を向上させることができる。
1 車両
14 ECU
14a CPU
14b ROM
14c RAM
14f SSD
15 撮像部
141 情報取得部
142 ROI設定部
143 エッジ検出部
144 特徴点抽出部
145 直線検出部
146 区画線検出部
147 情報更新部

Claims (3)

  1. 車両に搭載される撮像部によって当該車両の周囲を撮像した画像データを取得する取得部と、
    前記画像データの画素のうち、前記撮像部の第1撮像領域に対応する画素に対して、第1フィルタサイズのエッジ検出フィルタを用いてエッジを検出し、前記画素のうち、前記撮像部からの距離が前記第1撮像領域より遠い第2撮像領域に対応する画素に対して、前記第1フィルタサイズより小さい第2フィルタサイズのエッジ検出フィルタを用いてエッジを検出するエッジ検出部と、を備え
    前記エッジ検出部は、前記画像データにおいて認証対象物である駐車枠の線に対応する画像の幅より小さい幅の前記エッジ検出フィルタを用いて、前記画素のエッジを検出する、
    画像処理装置。
  2. 前記エッジ検出部は、前記画像データにおいて認証対象物に対応する画像の幅の1/2の幅の前記エッジ検出フィルタを用いて、前記画素のエッジを検出する請求項に記載の画像処理装置。
  3. 前記エッジ検出部は、前記車両を駐車する領域の勾配に乗じて、前記エッジ検出フィルタのフィルタサイズを変更する請求項1または2に記載の画像処理装置。
JP2019188220A 2019-10-11 2019-10-11 画像処理装置 Active JP7423970B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019188220A JP7423970B2 (ja) 2019-10-11 2019-10-11 画像処理装置
DE102020126525.5A DE102020126525A1 (de) 2019-10-11 2020-10-09 Bildverarbeitungsvorrichtung

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019188220A JP7423970B2 (ja) 2019-10-11 2019-10-11 画像処理装置

Publications (2)

Publication Number Publication Date
JP2021064149A JP2021064149A (ja) 2021-04-22
JP7423970B2 true JP7423970B2 (ja) 2024-01-30

Family

ID=75155673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019188220A Active JP7423970B2 (ja) 2019-10-11 2019-10-11 画像処理装置

Country Status (2)

Country Link
JP (1) JP7423970B2 (ja)
DE (1) DE102020126525A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016018371A (ja) 2014-07-08 2016-02-01 株式会社デンソー 車載システム、情報処理装置、及びプログラム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016018371A (ja) 2014-07-08 2016-02-01 株式会社デンソー 車載システム、情報処理装置、及びプログラム

Also Published As

Publication number Publication date
JP2021064149A (ja) 2021-04-22
DE102020126525A1 (de) 2021-04-15

Similar Documents

Publication Publication Date Title
JP6724425B2 (ja) 駐車支援装置
CN105416278B (zh) 停车辅助装置
US9216765B2 (en) Parking assist apparatus, parking assist method and program thereof
US10150486B2 (en) Driving assistance device and driving assistance system
JP7151293B2 (ja) 車両周辺表示装置
JP7351172B2 (ja) 駐車支援装置
CN107791951B (zh) 显示控制装置
JP6969124B2 (ja) 運転制御装置
JP7283514B2 (ja) 表示制御装置
JP7427907B2 (ja) 駐車支援装置
JP7363343B2 (ja) 駐車支援装置、駐車支援方法、および、駐車支援プログラム
CN110546047A (zh) 停车辅助装置
JP7423970B2 (ja) 画像処理装置
US10922977B2 (en) Display control device
JP7380058B2 (ja) 駐車支援装置
JP7501500B2 (ja) 駐車支援装置
JP7380073B2 (ja) 駐車支援装置
JP7383973B2 (ja) 駐車支援装置
EP4434822A1 (en) Parking assistance device
JP7506645B2 (ja) 駐車支援装置
JP7400326B2 (ja) 駐車支援装置、駐車支援方法、および、駐車支援プログラム
JP6730885B2 (ja) 出庫支援装置
JP2017069846A (ja) 表示制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220908

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230710

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230718

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230914

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240101

R150 Certificate of patent or registration of utility model

Ref document number: 7423970

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150