JP2017161491A - 異常画像検出装置、異常画像検出装置を備えた画像処理システムおよび画像処理システムを搭載した車両 - Google Patents
異常画像検出装置、異常画像検出装置を備えた画像処理システムおよび画像処理システムを搭載した車両 Download PDFInfo
- Publication number
- JP2017161491A JP2017161491A JP2016127534A JP2016127534A JP2017161491A JP 2017161491 A JP2017161491 A JP 2017161491A JP 2016127534 A JP2016127534 A JP 2016127534A JP 2016127534 A JP2016127534 A JP 2016127534A JP 2017161491 A JP2017161491 A JP 2017161491A
- Authority
- JP
- Japan
- Prior art keywords
- image
- parallax
- pixel
- abnormal
- reliability
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000002159 abnormal effect Effects 0.000 title claims abstract description 89
- 238000001514 detection method Methods 0.000 title claims abstract description 46
- 238000012545 processing Methods 0.000 title claims description 42
- 230000005856 abnormality Effects 0.000 claims abstract description 45
- 238000003384 imaging method Methods 0.000 claims abstract description 42
- 238000000034 method Methods 0.000 description 17
- 239000000428 dust Substances 0.000 description 12
- 238000012937 correction Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000003702 image correction Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000002708 enhancing effect Effects 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 230000007257 malfunction Effects 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
Description
前記視差画像の画素が低信頼度であるか否かを判定する信頼度判定部と、
前記信頼度判定部によって判定された低信頼度の画素の総数を算出する算出部と、
前記算出部で算出された低信頼度の画素の総数が、所定値を超えた場合に、前記視差画像が異常であると判断する異常判断部と、を有し、
前記信頼度判定部は、
前記原画像の各画素のエッジ強度が少なくとも閾値よりも小さいまたは同じである場合に、当該画素に基づいて作成される視差画像中の画素を低信頼度の画素であると判定するエッジ強度判定部を有する。
前記エッジ強度判定部は、原画像の各画素のそれぞれについてエッジ強度を判定してもよい。エッジ強度が閾値よりも小さいまたは同じであると判定された画素(原画素の画素)に対応した視差画像中の画素が低信頼度の画素であると判定される。
前記信頼度判定部は、前記第1視差画像(Ab)の第1画素(pA)の第1視差値(d1)と、当該第1画素(pA)に対応する前記第2視差画像(Ba)の第2画素(pB)の第2視差値(d2)との差(d1−d2)が所定範囲内にない場合に、当該第1画素(pA)が低信頼度であると判定する視差値差判定部を有する。
また、一実施形態として、前記距離算出部は、前記視差画像作成部で作成された視差画像において、低信頼度の画素を除いた視差画像に基づいて奥行距離を算出してもよい。低信頼度の画素は、前記信頼度判定部で低信頼度であると判定された画素である。
また、一実施形態として、前記距離算出部は、異常が検出された視差画像以外の視差画像に基づいて奥行距離を算出してもよい。
また、一実施形態として、前記距離算出部は、異常が検出された視差画像を用いて奥行距離を算出する場合、低信頼度の画素を除いた視差画像を使用してもよい。
実施形態1に係る異常画像検出装置を備える車両について、図面を参照しながら説明する。以下の説明において、車両として自律走行するゴルフカートを例に説明するが、ゴルフカートに制限されない。「前後」および「左右」は、車両の前進する方向を基準とする。本実施形態では、実質的に異なるシーンの画像として、ごみが付着した状態の画像を用いるが、これに制限されず、他の実質的に異なるシーンの画像でもよい。
図1Aに示す車両1は、ゴルフ場内を自動または手動走行するゴルフカートである。車両1は、走路に埋め込まれた誘導線から発せられる電磁波に誘導されて自律走行することができる。車両1には、撮像部51と、撮像部51から得られた複数の原画像に基づいて視差画像を作成する視差画像作成部52と、視差画像作成部52で作成された視差画像に基づいて奥行距離を算出する距離算出部53と、撮像部51から得られた複数の原画像に基づいて作成された視差画像および当該原画像の内少なくとも1の原画像が異常であるかを検出する異常画像検出装置2と、異常画像検出装置2が視差画像の異常を検出した場合に、異常情報を出力する出力部54を有する画像処理システム5を搭載している。また、画像処理システム5は、車両1が走行する走路上の障害物を検出する障害物検出装置55を有していてもよい。本実施形態1において、車両1は誘導線で誘導される自立走行可能な車両であるが、本発明はこれに制限されず、運転者による手動走行も可能であり、車両は誘導線のない走路も自由に走行可能である。
図2を参照しながら画像処理システム5を説明する。撮像部51は、車両1のフロントガラスの上中央部に設けられている。撮像部51は、左画像センサ511、右画像センサ512を有するステレオカメラである。別実施形態として、ステレオカメラは、2個以上の画像センサで構成されてもよい。左画像センサ511、右画像センサ512としては、例えば、可視光カメラが挙げられる。左画像センサ511および右画像センサ512は、それぞれ平行ステレオの位置関係で配置されている。本実施形態において特に明示しない限り、左画像センサ511を基準カメラとし、左画像センサ511で撮影された画像を基準画像とする。画像処理システム5は、マイクロプロセッサとメモリを有し、各構成部の機能を実現する構成である。
図3に示す異常画像検出装置2は、視差画像の画素が低信頼度であるか否かを判定する信頼度判定部24と、信頼度判定部24によって判定された低信頼度の画素の総数を算出する算出部25と、算出部25で得られた低信頼度の画素の総数が、所定値を超えた場合に、視差画像が異常であると判断する異常判断部26を有する。
上記実施形態1において、エッジ強度判定部241は、エッジ強度が閾値以下であるか否かを判定したが、これに制限されず、エッジ強度が所定範囲にあるか否かを判定してもよい。
また、上記の「視差画像の第1領域」、「視差画像の第2領域」、「視差画像の第3領域」は、全領域から端領域を除いた中心側領域であったが、これに制限されず、全領域であってもよい。
実施形態2に係る異常画像検出装置2は、画像処理システム5と別の装置として構成されている。図15に示す異常画像検出装置2は、左原画像、右原画像および視差画像を外部装置から受信する通信部21(取得部に相当する)と、通信部21で受信した右原画像、左原画像および視差画像を保存する記憶部22とをさらに有する構成である。通信部21は、異常であると判断された原画像および視差画像に関する情報を上記外部装置または別の装置へ送信する機能を有する。通信部21は、例えば原画像および視差画像の識別情報を上記外部装置または別の装置へ送信する。外部装置は、画像処理システム5であってもよく、異常画像検出装置2とネットワークを介して接続されるサーバまたは情報処理装置であってもよい。
別実施形態の異常画像検出装置は、
複数の撮像部から得られた複数の原画像に基づいて作成された視差画像および当該原画像の内少なくとも1の原画像が異常であるかを検出する異常画像検出装置であって、前記視差画像の所定領域(画素)の視差値の標準偏差(分散)の指標を算出する指標算出部と、前記指標算出部で算出された指標が所定範囲内にない場合(または上限閾値を超える場合)に、前記視差画像が異常であると判断する異常判断部とを有する。この構成によれば、視差値のバラツキが大きいことを判定することで、原画像が異常であることを判断できる。また、異常画像検出装置は、上記実施形態1または2に係る異常画像検出装置2の構成要素およびその機能をさらに有していてもよい。
複数の撮像部から得られた複数の原画像に基づいて作成された視差画像および当該原画像の内少なくとも1の原画像が異常であるかを検出する異常画像検出装置であって、
前記原画像のうち少なくとも2つの原画像の所定領域において、原画像で同じ座標の画素の画素値(輝度値)の差を計算する画素値差計算部と、前記画素値差計算部で求められた前記画素値の差の、合計、平均、最大値、最小値および標準偏差の内から選択される1つまたは1つ以上の指標を計算する指標計算部と、前記指標が所定範囲内にない場合(または上限閾値を超える場合)に、前記2つの原画像の内少なくとも一方の原画像が異常であると判断する異常判断部とを有する。この構成によれば、輝度値の差が大きいことを判定することで、原画像が異常であることを判断できる。また、異常画像検出装置は、上記実施形態1または2に係る異常画像検出装置2の構成要素およびその機能をさらに有していてもよい。
2 異常画像検出装置
21 通信部
22 記憶部
24 信頼度判定部
241 エッジ強度判定部
242 視差値判定部
243 視差値差判定部
25 算出部
26 異常判断部
5 画像処理システム
51 撮像部
52 視差画像作成部
53 距離算出部
54 出力部
Claims (8)
- 複数の撮像部から得られ、かつ視差画像の作成に用いられる複数の原画像の内少なくとも1の原画像が異常であることを検出する異常画像検出装置であって、
前記視差画像の画素が低信頼度であるか否かを判定する信頼度判定部と、
前記信頼度判定部によって判定された低信頼度の画素の総数を算出する算出部と、
前記算出部で算出された低信頼度の画素の総数が、所定値を超えた場合に、前記視差画像が異常であると判断する異常判断部と、を有し、
前記信頼度判定部は、
前記原画像の各画素のエッジ強度が少なくとも閾値よりも小さいまたは同じである場合に、当該画素に基づいて作成される視差画像中の画素を低信頼度の画素であると判定するエッジ強度判定部を有する、異常画像検出装置。 - 前記信頼度判定部は、
前記視差画像各画素の視差値が所定範囲内でない場合に、当該画素が低信頼度であると判定する視差値判定部を有する、請求項1に記載の異常画像検出装置。 - 前記視差画像は、前記複数の原画像の内、第1原画像(A)を基準に作成される第1視差画像(Ab)と、第2原画像(B)を基準に作成される第2視差画像(Ba)を少なくとも含み、
前記信頼度判定部は、前記第1視差画像(Ab)の第1画素(pA)の第1視差値(d1)と、当該第1画素(pA)に対応する前記第2視差画像(Ba)の第2画素(pB)の第2視差値(d2)との差(d1−d2)が所定範囲内にない場合に、当該第1画素(pA)が低信頼度であると判定する視差値差判定部を有する、請求項1または2に記載の異常画像検出装置。 - 複数の撮像部と、当該撮像部から得られた複数の原画像に基づいて視差画像を作成する視差画像作成部と、当該視差画像作成部で作成された視差画像に基づいて奥行距離を算出する距離算出部を有する画像処理システムであって、
請求項1〜3のいずれか1項に記載の異常画像検出装置と、
前記異常画像検出装置が原画像の異常を検出した場合に、異常情報を出力する出力部と、備える画像処理システム。 - 前記距離算出部は、異常が検出された視差画像以外の視差画像に基づいて奥行距離を算出する請求項4に記載の画像処理システム。
- 前記距離算出部は、前記視差画像作成部で作成された視差画像において、低信頼度の画素を除いた視差画像に基づいて奥行距離を算出する、請求項4に記載の画像処理システム。
- 請求項4〜6のいずれか1項に記載の画像処理システムを搭載する車両。
- 前記車両は、
撮像部の撮像方向前方にフロントウインドを備え、
前記フロントウインドにワイパーを具備していない、請求項7に記載の車両。
Priority Applications (7)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160089281A KR101832189B1 (ko) | 2015-07-29 | 2016-07-14 | 이상화상 검출장치, 이상화상 검출장치를 구비한 화상 처리 시스템 및 화상 처리 시스템을 탑재한 차량 |
EP16181285.4A EP3125197A1 (en) | 2015-07-29 | 2016-07-26 | Abnormal image detection device, image processing system having an abnormal image detection device, and vehicle including an image processing system |
TW105123796A TWI613905B (zh) | 2015-07-29 | 2016-07-27 | 異常圖像檢測裝置、包含異常圖像檢測裝置之圖像處理系統及搭載圖像處理系統之車輛 |
US15/221,591 US10043262B2 (en) | 2015-07-29 | 2016-07-27 | Abnormal image detection device, image processing system having abnormal image detection device, and vehicle incorporating image processing system |
CN201910905232.4A CN110458155B (zh) | 2015-07-29 | 2016-07-28 | 异常图像检测装置、图像处理系统及车辆 |
CN201610615709.1A CN106412551B (zh) | 2015-07-29 | 2016-07-28 | 异常图像检测装置、图像处理系统及车辆 |
KR1020170172378A KR101839813B1 (ko) | 2015-07-29 | 2017-12-14 | 이상화상 검출장치, 이상화상 검출장치를 구비한 화상 처리 시스템 및 화상 처리 시스템을 탑재한 차량 |
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015149524 | 2015-07-29 | ||
JP2015149524 | 2015-07-29 | ||
JP2016043199 | 2016-03-07 | ||
JP2016043199 | 2016-03-07 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017161491A true JP2017161491A (ja) | 2017-09-14 |
JP6657034B2 JP6657034B2 (ja) | 2020-03-04 |
Family
ID=59856904
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016127534A Active JP6657034B2 (ja) | 2015-07-29 | 2016-06-28 | 異常画像検出装置、異常画像検出装置を備えた画像処理システムおよび画像処理システムを搭載した車両 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6657034B2 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019125345A (ja) * | 2018-01-12 | 2019-07-25 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム、およびシステム |
WO2019181591A1 (ja) * | 2018-03-22 | 2019-09-26 | 日立オートモティブシステムズ株式会社 | 車載ステレオカメラ |
WO2020138072A1 (ja) * | 2018-12-26 | 2020-07-02 | Whill株式会社 | ステレオカメラおよび電動モビリティ |
JP2022003769A (ja) * | 2020-06-09 | 2022-01-11 | アクシス アーベー | デジタル画像を整列させること |
JP2022515288A (ja) * | 2018-12-31 | 2022-02-17 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング | 画像分析ソフトウェアが分析するように構成された所定の範囲内に画像データがあるか否かの判別 |
JP7107401B1 (ja) | 2021-02-22 | 2022-07-27 | 日本電気株式会社 | 物体計測装置、物体計測方法およびコンピュータプログラム |
CN115853762A (zh) * | 2023-02-28 | 2023-03-28 | 海澜智云科技有限公司 | 空压机运行状态影像鉴定系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07156755A (ja) * | 1993-12-02 | 1995-06-20 | Koken Kk | 自動車におけるワイパーレス雨滴除去方法及びその装置 |
JP2001041741A (ja) * | 1999-07-30 | 2001-02-16 | Fuji Heavy Ind Ltd | ステレオ式車外監視装置 |
JP2009169847A (ja) * | 2008-01-18 | 2009-07-30 | Fuji Heavy Ind Ltd | 車外監視装置 |
US20110025827A1 (en) * | 2009-07-30 | 2011-02-03 | Primesense Ltd. | Depth Mapping Based on Pattern Matching and Stereoscopic Information |
JP2014006243A (ja) * | 2012-05-28 | 2014-01-16 | Ricoh Co Ltd | 異常診断装置、異常診断方法、撮像装置、移動体制御システム及び移動体 |
JP2014197314A (ja) * | 2013-03-29 | 2014-10-16 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
JP2015079505A (ja) * | 2013-10-14 | 2015-04-23 | 株式会社リコー | 視差深度画像のノイズ識別方法及びノイズ識別装置 |
-
2016
- 2016-06-28 JP JP2016127534A patent/JP6657034B2/ja active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07156755A (ja) * | 1993-12-02 | 1995-06-20 | Koken Kk | 自動車におけるワイパーレス雨滴除去方法及びその装置 |
JP2001041741A (ja) * | 1999-07-30 | 2001-02-16 | Fuji Heavy Ind Ltd | ステレオ式車外監視装置 |
JP2009169847A (ja) * | 2008-01-18 | 2009-07-30 | Fuji Heavy Ind Ltd | 車外監視装置 |
US20110025827A1 (en) * | 2009-07-30 | 2011-02-03 | Primesense Ltd. | Depth Mapping Based on Pattern Matching and Stereoscopic Information |
JP2014006243A (ja) * | 2012-05-28 | 2014-01-16 | Ricoh Co Ltd | 異常診断装置、異常診断方法、撮像装置、移動体制御システム及び移動体 |
JP2014197314A (ja) * | 2013-03-29 | 2014-10-16 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
JP2015079505A (ja) * | 2013-10-14 | 2015-04-23 | 株式会社リコー | 視差深度画像のノイズ識別方法及びノイズ識別装置 |
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019125345A (ja) * | 2018-01-12 | 2019-07-25 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム、およびシステム |
JP7341652B2 (ja) | 2018-01-12 | 2023-09-11 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム、およびシステム |
JP7033649B2 (ja) | 2018-03-22 | 2022-03-10 | 日立Astemo株式会社 | 車載ステレオカメラ |
CN111868784A (zh) * | 2018-03-22 | 2020-10-30 | 日立汽车系统株式会社 | 车载立体摄像机 |
JPWO2019181591A1 (ja) * | 2018-03-22 | 2021-01-07 | 日立オートモティブシステムズ株式会社 | 車載ステレオカメラ |
US11367175B2 (en) | 2018-03-22 | 2022-06-21 | Hitachi Astemo, Ltd. | In-vehicle stereo camera |
WO2019181591A1 (ja) * | 2018-03-22 | 2019-09-26 | 日立オートモティブシステムズ株式会社 | 車載ステレオカメラ |
CN111868784B (zh) * | 2018-03-22 | 2023-09-01 | 日立安斯泰莫株式会社 | 车载立体摄像机 |
JP2020106275A (ja) * | 2018-12-26 | 2020-07-09 | Whill株式会社 | ステレオカメラおよび電動モビリティ |
WO2020138072A1 (ja) * | 2018-12-26 | 2020-07-02 | Whill株式会社 | ステレオカメラおよび電動モビリティ |
JP7216210B2 (ja) | 2018-12-31 | 2023-01-31 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング | 画像分析ソフトウェアが分析するように構成された所定の範囲内に画像データがあるか否かの判別 |
JP2022515288A (ja) * | 2018-12-31 | 2022-02-17 | ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング | 画像分析ソフトウェアが分析するように構成された所定の範囲内に画像データがあるか否かの判別 |
JP2022003769A (ja) * | 2020-06-09 | 2022-01-11 | アクシス アーベー | デジタル画像を整列させること |
JP7166390B2 (ja) | 2020-06-09 | 2022-11-07 | アクシス アーベー | デジタル画像を整列させること |
JP2022127799A (ja) * | 2021-02-22 | 2022-09-01 | 日本電気株式会社 | 物体計測装置、物体計測方法およびコンピュータプログラム |
JP7107401B1 (ja) | 2021-02-22 | 2022-07-27 | 日本電気株式会社 | 物体計測装置、物体計測方法およびコンピュータプログラム |
CN115853762A (zh) * | 2023-02-28 | 2023-03-28 | 海澜智云科技有限公司 | 空压机运行状态影像鉴定系统 |
Also Published As
Publication number | Publication date |
---|---|
JP6657034B2 (ja) | 2020-03-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110458155B (zh) | 异常图像检测装置、图像处理系统及车辆 | |
JP6657034B2 (ja) | 異常画像検出装置、異常画像検出装置を備えた画像処理システムおよび画像処理システムを搭載した車両 | |
KR101839813B1 (ko) | 이상화상 검출장치, 이상화상 검출장치를 구비한 화상 처리 시스템 및 화상 처리 시스템을 탑재한 차량 | |
KR101579098B1 (ko) | 스테레오 카메라, 이를 구비한 차량 운전 보조 장치, 및 차량 | |
JP2021185548A (ja) | 物体検出装置、物体検出方法およびプログラム | |
US9424462B2 (en) | Object detection device and object detection method | |
KR101631439B1 (ko) | 카메라, 및 이를 구비한 차량 | |
US9912933B2 (en) | Road surface detection device and road surface detection system | |
KR101611261B1 (ko) | 스테레오 카메라, 이를 구비한 차량 운전 보조 장치, 및 차량 | |
TWI530409B (zh) | 自動追蹤防撞警示系統及其方法 | |
JP2014067198A (ja) | 移動物体認識装置 | |
CN107644538B (zh) | 交通信号灯的识别方法及装置 | |
JP2010257282A (ja) | 障害物検知装置、および当該装置を搭載した車両 | |
US9955136B2 (en) | Distance measuring device and vehicle provided therewith | |
KR101519261B1 (ko) | 차량의 모니터링 방법 및 자동 제동 장치 | |
US20120128211A1 (en) | Distance calculation device for vehicle | |
KR20130070210A (ko) | 영상의 노이즈 제거 방법 | |
JP2008042759A (ja) | 画像処理装置 | |
JP2015143657A (ja) | 車両のステレオカメラシステム | |
CN113170057B (zh) | 摄像部控制装置 | |
JP6405765B2 (ja) | 撮像装置及び判定方法 | |
KR101774603B1 (ko) | 차량의 카메라 노출 제어 방법 및 이러한 방법을 사용하는 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191024 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191213 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200116 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200205 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6657034 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |