JP2023543611A - センサ性能低下状態を決定する方法 - Google Patents
センサ性能低下状態を決定する方法 Download PDFInfo
- Publication number
- JP2023543611A JP2023543611A JP2023519897A JP2023519897A JP2023543611A JP 2023543611 A JP2023543611 A JP 2023543611A JP 2023519897 A JP2023519897 A JP 2023519897A JP 2023519897 A JP2023519897 A JP 2023519897A JP 2023543611 A JP2023543611 A JP 2023543611A
- Authority
- JP
- Japan
- Prior art keywords
- sensor
- sensor system
- performance degradation
- indicator
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000006731 degradation reaction Methods 0.000 title claims abstract description 93
- 230000015556 catabolic process Effects 0.000 title claims abstract description 89
- 238000000034 method Methods 0.000 claims abstract description 51
- 230000002093 peripheral effect Effects 0.000 claims abstract description 7
- 238000011156 evaluation Methods 0.000 claims description 18
- 230000004927 fusion Effects 0.000 claims description 12
- 201000004569 Blindness Diseases 0.000 claims description 11
- 238000001514 detection method Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 9
- 230000008447 perception Effects 0.000 claims description 7
- 230000000694 effects Effects 0.000 claims description 4
- 230000003247 decreasing effect Effects 0.000 claims 1
- 238000012545 processing Methods 0.000 description 15
- 230000003287 optical effect Effects 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000001953 sensory effect Effects 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000004140 cleaning Methods 0.000 description 3
- 230000006866 deterioration Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000009434 installation Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 239000012528 membrane Substances 0.000 description 2
- 230000011218 segmentation Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000002835 absorbance Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000001010 compromised effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 230000004313 glare Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000000644 propagated effect Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000007921 spray Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012706 support-vector machine Methods 0.000 description 1
- 230000026683 transduction Effects 0.000 description 1
- 238000010361 transduction Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/40—Means for monitoring or calibrating
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/40—Means for monitoring or calibrating
- G01S7/4004—Means for monitoring or calibrating of parts of a radar system
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/862—Combination of radar systems with sonar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/865—Combination of radar systems with lidar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/867—Combination of radar systems with cameras
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
- G01S15/86—Combinations of sonar systems with lidar systems; Combinations of sonar systems with systems not using wave reflection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S15/00—Systems using the reflection or reradiation of acoustic waves, e.g. sonar systems
- G01S15/88—Sonar systems specially adapted for specific applications
- G01S15/93—Sonar systems specially adapted for specific applications for anti-collision purposes
- G01S15/931—Sonar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
- G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
- G01S7/52004—Means for monitoring or calibrating
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/167—Driving aids for lane monitoring, lane changing, e.g. blind spot detection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
- G01S2007/4975—Means for monitoring or calibrating of sensor obstruction by, e.g. dirt- or ice-coating, e.g. by reflection measurement on front-screen
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
- G01S2007/4975—Means for monitoring or calibrating of sensor obstruction by, e.g. dirt- or ice-coating, e.g. by reflection measurement on front-screen
- G01S2007/4977—Means for monitoring or calibrating of sensor obstruction by, e.g. dirt- or ice-coating, e.g. by reflection measurement on front-screen including means to prevent or remove the obstruction
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
- G01S7/52004—Means for monitoring or calibrating
- G01S2007/52009—Means for monitoring or calibrating of sensor obstruction, e.g. dirt- or ice-coating
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/52—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S15/00
- G01S7/52004—Means for monitoring or calibrating
- G01S2007/52009—Means for monitoring or calibrating of sensor obstruction, e.g. dirt- or ice-coating
- G01S2007/52011—Means for monitoring or calibrating of sensor obstruction, e.g. dirt- or ice-coating including means to prevent or remove the obstruction
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/40—Means for monitoring or calibrating
- G01S7/4004—Means for monitoring or calibrating of parts of a radar system
- G01S7/4039—Means for monitoring or calibrating of parts of a radar system of sensor or antenna obstruction, e.g. dirt- or ice-coating
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/40—Means for monitoring or calibrating
- G01S7/4004—Means for monitoring or calibrating of parts of a radar system
- G01S7/4039—Means for monitoring or calibrating of parts of a radar system of sensor or antenna obstruction, e.g. dirt- or ice-coating
- G01S7/4043—Means for monitoring or calibrating of parts of a radar system of sensor or antenna obstruction, e.g. dirt- or ice-coating including means to prevent or remove the obstruction
Landscapes
- Engineering & Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Acoustics & Sound (AREA)
- Traffic Control Systems (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Radar Systems Or Details Thereof (AREA)
- Measurement Of Velocity Or Position Using Acoustic Or Ultrasonic Waves (AREA)
Abstract
第1のセンサシステムの周辺を表すデータを提供するように構成されている第1のセンサシステムのセンサ性能低下状態を決定する方法を提案する。本方法は、周辺を表すために第1のセンサシステムのデータを提供するステップと、周辺を表すために第2のセンサシステムのデータを提供するステップと、専ら第1のセンサシステムのセンサデータに基づく、第1のセンサシステムに対する個別感知不能状態指標を決定するステップと、第1のセンサシステムの提供されたデータに基づいて少なくとも1つの周辺関連決定変数を決定するステップと、第2のセンサシステムの提供されたデータに基づいて少なくとも1つの周辺関連決定変数を決定するステップと、第1のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数を、第2のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数と比較することによって、融合感知不能状態指標を決定するステップと、第1のセンサシステムの個別感知不能状態指標及び融合感知不能状態指標によって、第1のセンサシステムのセンサ性能低下状態を決定するステップと、を有する。
Description
従来技術
運転の自動化は、益々広範かつ高性能になる、周辺を検出するセンサシステムを車両に装備することを伴う。一部では、車両センサは、複数のセンサ及び複数のモダリティによって、周辺の360度及び種々異なる到達距離を冗長的に対象範囲に包含する。たとえば、ビデオセンサ、レーダセンサ、ライダセンサ、超音波センサ、マイクロフォンセンサがモダリティとして使用される。
運転の自動化は、益々広範かつ高性能になる、周辺を検出するセンサシステムを車両に装備することを伴う。一部では、車両センサは、複数のセンサ及び複数のモダリティによって、周辺の360度及び種々異なる到達距離を冗長的に対象範囲に包含する。たとえば、ビデオセンサ、レーダセンサ、ライダセンサ、超音波センサ、マイクロフォンセンサがモダリティとして使用される。
複数のセンサデータを組み合わせることにより、保護された周辺モデルのために車両の周辺が表される。同様に、周辺モデルの範囲及び質に対する要求は、そこに実現されている走行機能によって異なる。無人走行車両においては、周辺モデルに基づいて、たとえば広範な走行判断が行われ、それに応じてアクチュエータが駆動制御される。
各センサは、汚れ、摩耗の兆候、損傷又は雨、雪及び霧などのその他の環境影響によって、自身の公称性能と比較して、性能が制限されている又は「性能が低下」している可能性がある。効果及びセンサデータにおける効果の発現は、この場合には、特にセンサモダリティに関連する。
発明の開示
センサシステムからのデータは、車両の周辺を表すために、種々異なるモジュールによって種々の処理ステップにおいて処理される。ここで、これらのデータは、各処理ステップによってさらに抽象化され、最終的に、組み合わせられて、保護された周辺モデルを形成する。物体検出、物体分類、物体追跡、距離計算などのための種々異なるセンサモダリティに対する一般的なアルゴリズムは、性能が低下した入力データの影響を受け易い。このようなケースにおいては、物体検出及び物体分類のための一般的なアプローチは、性能低下状態の識別を伴わないフォールスポジティブ識別及びフォールスネガティブ識別によって失敗する。
センサシステムからのデータは、車両の周辺を表すために、種々異なるモジュールによって種々の処理ステップにおいて処理される。ここで、これらのデータは、各処理ステップによってさらに抽象化され、最終的に、組み合わせられて、保護された周辺モデルを形成する。物体検出、物体分類、物体追跡、距離計算などのための種々異なるセンサモダリティに対する一般的なアルゴリズムは、性能が低下した入力データの影響を受け易い。このようなケースにおいては、物体検出及び物体分類のための一般的なアプローチは、性能低下状態の識別を伴わないフォールスポジティブ識別及びフォールスネガティブ識別によって失敗する。
フォールスネガティブ性能低下識別は、ほとんどのケースにおいて、受け入れられない安全上のリスクである。なぜなら、「感知不能の」センサからのデータが、識別されない物体又は誤って識別される物体の形態において、安全に関連する誤った判断の、気づかれない原因となる可能性があるからである。
また、同様に、フォールスポジティブ性能低下識別は、システムの可用性を低下させる「だけ」である。なぜなら、センサ性能低下に起因するシステム性能低下は、不必要に発生するからである。自動化レベル1~3(運転者あり)においては、運転者へ戻すことが可能であるため、自動化レベル4~5(運転者なし)よりもフォールスポジティブが受け入れられる可能性が高く、自動化レベル4~5においては、過度の性能低下によって、(停止するまで)車両の走行タスクが制限され、これは適用には、受け入れられないものである。ここでは特に、性能低下識別のフォールスポジティブ率は、高度な自動運転への移行の課題であり、したがって、センサシステムの性能低下識別を改良する必要性が生じている。
センサシステムの周辺検出においてエラーが発生すると、上位のシステムにおいて、機能の誤った判断が行われる可能性がある。実現されている機能によっては、これは、安全上のリスク又は快適さの喪失につながる可能性がある。車両のセンサシステムには、別個の感知不能状態識別部が装備可能である。センサ感知不能状態の識別メカニズムによって、センサデータに基づいてシステム全体に実現されている機能を、現在のセンサ可用性に応じて、性能低下状態にあると特徴付けることができる。言い換えると、データは、センサデータによってシステム機能を実現するために、センサシステムによって生成される。センサシステムの可用性が、たとえば信頼性の高い感知不能状態検出によって知られている場合、システム機能の可用性をここから導き出すことができる。これは、システムが、センサ性能低下の良好な識別によってのみ、適当なシステム機能性能低下も診断又は識別することができることを意味する。そのため、たとえば周辺が部分的にしか検出されない場合には、システムの局所的な感知不能状態によって、対応する機能も、相応に部分的に制限されてしか提供され得ない。
本発明の態様によれば、センサシステムのセンサ性能低下状態を決定する方法、制御信号を提供する方法、評価装置、コンピュータプログラム製品及び機械可読記憶媒体が、独立請求項の特徴に従って提案される。有利な構成は、従属請求項及び以下の説明の主題である。
本発明のこの全体的な説明において、ステップの順序は、方法が容易に理解可能であるように提示される。しかし、当業者は、これらのステップの多くが異なる順序でも実行可能であり、同様の結果又は相応する結果を導き得ることを理解するであろう。このような意味において、ステップの順序を相応に変更することができる。一部の特徴には、読み易さを向上させるために又は帰属を明確にするために番号が付されているが、これは、特定の特徴の存在を暗示するものではない。
本発明の一態様によれば、第1のセンサシステムの周辺を表すデータを提供するように構成されている第1のセンサシステムのセンサ性能低下状態を決定する方法が提示され、当該方法は、以下のステップを有する。即ち、
本方法の1つのステップにおいて、周辺を表すために第1のセンサシステムのデータが提供される。さらなるステップにおいて、周辺を表すために第2のセンサシステムのデータが提供される。さらなるステップにおいて、専ら第1のセンサシステムのセンサデータに基づく、第1のセンサシステムに対する個別感知不能状態指標が決定される。さらなるステップにおいて、第1のセンサシステムの提供されたデータに基づいて少なくとも1つの周辺関連決定変数が決定される。さらなるステップにおいて、第2のセンサシステムの提供されたデータに基づいて少なくとも1つの周辺関連決定変数が決定される。さらなるステップにおいて、第1のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数を、第2のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数と比較することによって、融合感知不能状態指標が決定される。さらなるステップにおいて、第1のセンサシステムの個別感知不能状態指標及び融合感知不能状態指標によって、第1のセンサシステムのセンサ性能低下状態が決定される。
本方法の1つのステップにおいて、周辺を表すために第1のセンサシステムのデータが提供される。さらなるステップにおいて、周辺を表すために第2のセンサシステムのデータが提供される。さらなるステップにおいて、専ら第1のセンサシステムのセンサデータに基づく、第1のセンサシステムに対する個別感知不能状態指標が決定される。さらなるステップにおいて、第1のセンサシステムの提供されたデータに基づいて少なくとも1つの周辺関連決定変数が決定される。さらなるステップにおいて、第2のセンサシステムの提供されたデータに基づいて少なくとも1つの周辺関連決定変数が決定される。さらなるステップにおいて、第1のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数を、第2のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数と比較することによって、融合感知不能状態指標が決定される。さらなるステップにおいて、第1のセンサシステムの個別感知不能状態指標及び融合感知不能状態指標によって、第1のセンサシステムのセンサ性能低下状態が決定される。
選択的又は付加的に、第1のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数と、第2のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数との比較によって、第1のセンサシステムに対する融合感知不能状態指標が決定され得る。対応して、さらなるステップにおいて、第1のセンサシステムの個別感知不能状態指標及び第1のセンサシステムの融合感知不能状態指標によって、第1のセンサシステムのセンサ性能低下状態を決定することができる。
センサ性能低下状態を決定する方法を用いて、各センサシステムに対して、現在のセンサ性能低下状態を決定することができる。センサ性能低下状態は、たとえば、雨、雪、傷、霧、まぶしさ、低い太陽、葉及びその他の汚れによって、センサシステムが自身の動作時間中に受け得るすべての性能に関連する妨害を特徴付ける。すべてのセンサモダリティが上述の原因によって等しく影響を受けるわけではないため、これらの妨害がすべてのセンサモダリティに対して、妨害として識別される必要はない。
センサ性能低下状態を決定する方法の個々のステップは、1つ又は複数の制御ユニットに分散されたシステムによって決定され得る。周辺の表現は、通常、表現を決定するために種々異なる処理レベルを通過する、センサシステムからのデータによって決定されるため、有利には、センサ性能低下状態を決定するこの方法においては、各処理レベルに存在しているデータ及び方法が、センサ性能低下状態を決定するために利用される。この場合には、対応するセンサ性能低下状態が、既にセンサレベルにおいて決定されるのではなく、存在している情報が指標に基づいて最後のレベルまで共に搬送されて、有利には、これと関連する情報の内容の関連する増加をセンサ性能低下状態の信頼できる一貫した決定のために使用することが可能になる。特に、種々異なるモダリティを有し得る種々異なるセンサのデータが互いに比較される融合レベルの方法の包含を、センサ性能低下状態を決定するために使用することができるので、各センサの性能低下状態の決定は、もはや、このセンサ自体が提供するデータのみに基づいていない。このような方法によるセンサ性能低下状態のこのような決定を、いくつかの制御ユニット及びこれらの制御ユニットのいくつかの電子サブユニットに分配することができる。
性能低下を確実に識別することによって、特に低いフォールスポジティブ率によって、高いセンサ可用性及びシステム高可用性を保証することができる。この際に、車両の安全性が損なわれることはなく、即ち、低いフォールスネガティブ率は、維持されたままである。
ここで、この方法を、性能低下を決定するために、多数のセンサ及びセンサモダリティに適用することができる。データ処理の種々異なるレベルにおいて周辺の表現を決定するために種々異なるレベルにおいて使用される方法の使用によって、各指標を、リソースを節約して、周辺を表現するために既存のデータ処理に統合することができる。融合レベルの包含によって、種々のセンサモダリティの長所と短所とのバランスをとることができる。さらに、融合レベルの包含によって、いくつかのセンサからの結果を冗長的に検証することが可能になる。融合レベルの包含は特に、車両自動化レベル4/5での要件の増加に必要である。
周辺の表現の決定を、処理アーキテクチャに統合することによって、センサ性能低下状態の決定を組み合わせて、拡張することができる。識別された短所を、所期のように、アーキテクチャの原則に違反することなく、付加的な識別メカニズムを統合することによって実現することができる。
たとえば、センサシステムのデータが完全に、特にニューラルネットワークを使用して分類される場合、付加的に性能低下クラスを規定し、このような分類にリソースを節約して統合することができる。この場合、このような分類はさまざまに統合可能であり、これは、性能低下クラスが重ね合わせ方式により統合される又は置換方式により統合されることよって行われ、即ち、性能低下識別時にさらに周辺モデルの情報についてデータが調査されるべきであり又は調査されるべきでない。このようなアーキテクチャシナリオに対するプロトタイプは、カメラ画像のピクセル単位のセマンティックセグメンテーションである。クラス「感知不能状態」は、「空き地」、「縁石」、「人」などのクラスと共に導入可能である。
さらなる例は、種々異なるセンサシステムのデータを融合する際の物体の誤った関連付けを考慮することに基づくものとしてよい。現在の周辺モデルをセンサの調査結果と調整する又は関連付けることによって、そのような融合において処理ステップが実行される場合、ここでは、融合性能低下指標を、追加の労力をほとんどかけずに、矛盾を考慮することによって決定することができる。
この方法は、複数の制御ユニット(ECU 英語でelectronic control unit)に分かれて動作する処理アーキテクチャに統合可能であるが、各センサ性能低下状態の決定を、関連するすべての情報源を考慮して、保証することができる。たとえば、複雑な前処理ステップ、たとえば制御ユニット(ECU)上における、さらにはメモリ内における画像又は点群に対する、ニューラルネットワークによる指標の決定を、各データが元から存在している場所で実行することができる。最終的な性能低下判断がすべての情報を一元的に考慮して初めて行われるため、この方法は、性能低下の原因の高レベルでの担保、さらに必要に応じて、可能な限り最善の差別化を可能にする。
言い換えれば、センサ性能低下状態を決定する方法を、たとえば自動運転機能の範囲において、周辺を感知するための信号処理チェーンに統合することができる。周辺を感知するためのセンサシステムは、ここで、1つ又は複数のセンサモダリティの1つ又は複数のセンサを有し得る。通常、周辺の感知は、特に複数のセンサを使用する場合、複数の処理ステップにおいて、複数の制御ユニット(ECU)で決定される。これらの処理ステップのそれぞれにおいて、性能低下識別のための潜在的に有用な指標を得ることができる。さらに、データの性能低下を専用の方式により調査するために、データは、各2つの処理ステップの間で適当な形態で存在し得る。ここでは、各処理ステップにおいて、すべての形式のデータに対して性能低下表示が行われる必要はない。
性能低下指標は、これが性能低下情報を凝縮すること、即ち、性能低下シナリオ又は性能低下原因に反応し、センサ性能低下状態を決定するための有用な情報源として用いられることを特徴としている。性能低下指標を、センサ性能低下状態が決定される中央の評価装置に渡すことができる。
評価装置によって、後続のシステムに関連する、他の情報を抽出して、提供することもできる。これはたとえば、センサ性能低下状態の決定に対する信頼度、気象周辺モデルに対する寄与、センサシステムに対する除去プロセス又は清掃プロセスに対する要件などである。
ここでは、センサ性能低下状態が必要に応じて種々異なる粒度で構造化されるものとしてよく、たとえば、各立体角に分割されるものとしてよく、及び/又は、各到達距離範囲に従って分割されるものとしてよく、及び/又は、画像範囲に従って分割されるものとしてよく、及び/又は、少なくとも部分的に自動化された車両の特定の使用事例、たとえば車線変更、追従走行又は信号機識別に従って分割されるものとしてよい。たとえば、空き地識別は、依然として機能し得るが、歩行者識別は、もはや不可能である。
一態様によれば、訓練されたニューラルネットワーク又はサポートベクターマシンを用いて、さらに第1のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数及び第2のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数によって、融合感知不能状態指標が決定されることが提案される。
一態様によれば、第1のセンサシステムに対する個別感知不能状態指標が、センサ感知不能状態指標及び/又は知覚感知不能状態指標を含むことが提案され、センサ感知不能状態指標は、専ら第1のセンサシステムによって提供されるセンサデータによって決定され、知覚感知不能状態指標は、周辺関連決定変数を決定する方法に基づいて、専ら第1のセンサシステムによって提供されるセンサデータによって決定され、第1のセンサシステムのセンサ性能低下状態は、対応して、第1のセンサシステムのセンサ感知不能状態指標及び/又は知覚感知不能状態指標並びに第1のセンサシステムの融合感知不能状態指標によって決定される。
ここで、周辺関連決定変数を決定する方法は、第1のセンサシステムのデータを評価して、測定対象に関する第1のセンサシステムの周辺を表す。たとえば、画像のセグメンテーション又はライダシステムのStixel又はL字形状は、たとえば物体クラス「車」を識別し、測定し、その位置を決定するために、物体検出の測定対象に関連して評価される。
一態様によれば、第1のセンサシステムがセンサ固有の性能低下指標を提供するように構成されていることが提案され、第1のセンサシステムのセンサ性能低下状態が付加的に、第1のセンサシステムによって提供されるセンサ固有の性能低下指標によって決定される。
このようなセンサ固有の性能低下指標は、通常、他のセンサシステムとの調整を行うことなく、自己診断として各センサシステムによって提供され得る。以下においては、センサ性能低下を決定するために種々異なる戦略に基づく、種々異なるセンサモダリティの種々異なる自己診断の例を紹介する。
-超音波センサの場合、たとえば、センサ膜での固有振動数測定による感知不能状態検出は、コンタクトの汚れを確実に識別することができる。他のセンサシステムから提供される情報と組み合わせることによって、これをさらに拡張することができる。
-レーダセンサの場合、各レーダセンサの信号処理レベル自体から性能低下指標を導き出すことができる。このような性能低下指標は、確率論的なエラーを抑制するために、後続の処理層において一時的にフィルタリングされ得る。
-ビデオセンサの場合、画像の内容の分類又はオプティカルフローの評価などによって、画像の内容を用いて性能低下状態を決定することができる。画像の内容によって性能低下状態を決定することができない場合には、本願に記載される方法が、そのようなセンサ性能低下状態の決定を改良することができる。この際には、オプティカルフローを用いて性能低下状態を導き出すことができる。なぜなら、ビデオセンサのある程度の性能低下によって、オプティカルフローがまったく決定されなくなり(オプティカルフローの崩壊)、又は、一貫性のないオプティカルフローが決定され、又は、画像の内容が静的であるために、たとえば長さがゼロのオプティカルフローが決定されるからである。
-ライダセンサからのデータを、大気現象を検出し、差別化し、定量化するために使用することができ、これによって、このような情報を他のセンサと組み合わせることができる。
一態様によれば、複数の性能低下指標のうちの少なくとも1つの性能低下指標において、付加的に、指標である信頼度が計算されることが提案される。各センサシステム及び/又は種々異なるセンサシステムの種々の性能低下指標を組み合わせる場合、そのような、指標である信頼度は、種々異なるセンサシステムの相反する性能低下指標及び/又は相反する表現及び/又は周辺関連決定変数を相応に重み付けして、センサ性能低下状態の決定に含めることを可能にする。このような、指標である信頼度は、検出ステップにおいて、感知不能状態指標の決定のQ値又は質に基づく、指標である信頼度に関連する、種々異なる感知不能状態指標の重み付けを可能にするために、たとえば、範囲[0,1]の値を有し得る。
方法の付加的なステップにおいて、一時的な異常値に対してロバストにするために、各感知不能状態指標及び/又は指標である信頼度が、時間的に、たとえば、特に指数フィルタリングによって、フィルタリングされるものとしてよい。
一態様によれば、第1のセンサシステムと第2のセンサシステムとが同等のセンサモダリティを有すること、及び/又は、第1のセンサシステムと第2のセンサシステムとが異なるセンサモダリティを有することが提案される。同等のモダリティの2つのセンサシステムを使用すると、個々のセンサシステムの性能低下という意味での欠陥を検出し易くなる。異なるモダリティを有するセンサシステムは、特にモダリティが異なるセンサシステム間の相互比較がモデルに基づく方法によって実行される場合に、より高い信頼性を伴うセンサ性能低下状態の決定を可能にする。
一態様によれば、第1のセンサシステムに対する融合感知不能状態指標を決定するための比較は、物体及び/又はモデルに基づくものであることが提案される。少なくとも2つのセンサシステムによって周辺の表現を決定するために、通常、物体確率を有する融合された物体が形成される。融合感知不能状態指標を決定するための物体に基づく比較は、特に異なるモダリティを有し得る少なくとも2つのセンサシステムによって識別された物体の比較に基づく。ここでは、種々異なる態様の下で、少なくとも2つの異なるセンサシステムによって冗長的に識別された物体が、融合感知不能状態指標を決定するために、検証に従って比較され得る。言い換えれば、ここでは、少なくとも2つの異なるセンサによる物体識別の調整が行われる。
-たとえば、物体が少なくとも2つのセンサによって確認され、第3のセンサが、自身の視野内にあるにもかかわらずこの物体を識別しない場合には、これは第3のセンサの、センサ性能低下又はセンサデキャリブレーションに対する指標である。この判断を、統計又は他の指標によって裏付けることができる。
-少なくとも2つのセンサが、自身の識別において相反している場合、このことは、これらのセンサのうちの少なくとも1つのセンサによる問題に対する指標であり得る。たとえば、特定のセンサが常にこの問題に関与しているか否かが複数回の観測又は観測サイクルにわたって統計的に組み合わせられて、又は、たとえば、センサに基づく性能低下表示が複数のセンサのうちの1つのセンサに当たるなどの他の指標と組み合わせることによって、これは、性能低下の判断につながり得る。
-たとえば、物体が少なくとも2つのセンサによって確認され、第3のセンサが、自身の視野内にあるにもかかわらずこの物体を識別しない場合には、これは第3のセンサの、センサ性能低下又はセンサデキャリブレーションに対する指標である。この判断を、統計又は他の指標によって裏付けることができる。
-少なくとも2つのセンサが、自身の識別において相反している場合、このことは、これらのセンサのうちの少なくとも1つのセンサによる問題に対する指標であり得る。たとえば、特定のセンサが常にこの問題に関与しているか否かが複数回の観測又は観測サイクルにわたって統計的に組み合わせられて、又は、たとえば、センサに基づく性能低下表示が複数のセンサのうちの1つのセンサに当たるなどの他の指標と組み合わせることによって、これは、性能低下の判断につながり得る。
このような物体に基づく比較においては、関与する複数のセンサは、異なるセンサモダリティを有するものとしてよい。さらに、このような物体に基づく比較は、各センサシステムの視点からの角度範囲及び/又は距離範囲に関連して性能低下指標が別個に決定されるように実行され得る。たとえば、ライダセンサの場合、物体を決定する際の問題は、常に「右下」の角度範囲において又は特定の距離から発生することがあり、これは、局所的な汚れ又は到達距離妨害をそれぞれ特徴付ける性能低下指標につながり得る。
特に、性能低下指標は、センサシステムの各性能低下を記述するために、いくつかのサブ指標を有し得、又は、より高い次元を有し得る。
融合性能低下指標を決定するためのモデルに基づく比較は、性能低下現象に関するモデル知識によって、センサデータ及び/又は識別された物体及び/又は識別された物体の特性を比較する。
-たとえば、気象現象が識別された場合、あるセンサシステムからの認識を他のセンサシステムに転送することができ、又は、認識を相互に検証若しくは非妥当性化することができる。ここで、センサシステムの現在の移動方向及び/又は設置位置によって、たとえば雨で濡れたセンサ表面によって、センサシステムが多かれ少なかれ性能低下している可能性があることを考慮することもできる。さらに、種々異なるセンサモダリティが、各気象現象によって、到達距離、角度誤差などにおいて、根本的に異なる影響を受けることを考慮することができる。たとえば、ライダシステムによって霧を識別することができる。このようなライダシステムが、たとえば900nmの可視波長に近い放射によって決定を行う場合、測定された大気吸光度は、たとえばカメラシステムに実質的に1:1で伝搬される。
-たとえば、気象現象が識別された場合、あるセンサシステムからの認識を他のセンサシステムに転送することができ、又は、認識を相互に検証若しくは非妥当性化することができる。ここで、センサシステムの現在の移動方向及び/又は設置位置によって、たとえば雨で濡れたセンサ表面によって、センサシステムが多かれ少なかれ性能低下している可能性があることを考慮することもできる。さらに、種々異なるセンサモダリティが、各気象現象によって、到達距離、角度誤差などにおいて、根本的に異なる影響を受けることを考慮することができる。たとえば、ライダシステムによって霧を識別することができる。このようなライダシステムが、たとえば900nmの可視波長に近い放射によって決定を行う場合、測定された大気吸光度は、たとえばカメラシステムに実質的に1:1で伝搬される。
たとえば、モデルに基づく比較においては、気象現象に関連して、いくつかのセンサが、自身の設置位置によって有利にこの現象を識別し、必要に応じて測定することを考慮することができる。しかし、この際に他のセンサの性能が、この気象現象によって低下している可能性がある。このようなケースにおいては、気象現象に関して有利に設置されているセンサからの認識を、影響を受けるすべてのセンサに転送することができる。たとえば、日中の霧は、道路に沿って配向されているカメラシステムによって、道路上の輝度プロファイルを介して良好に識別可能であり、霧の密度も、このように配向されているカメラシステムによって測定可能である。同様に、霧によって妨害される横向きのセンサからのデータを、前向きのセンサからの認識と共に相応に評価することができ、これによって、融合感知不能状態指標を決定することができる。相応のことが雨の検出に当てはまる。なぜなら、たとえば、横向きのカメラシステムは、雨を明確に示すことができる前向きのセンサシステムよりも雨を識別することが困難であり得るからである。
一態様によれば、物体に基づく比較における少なくとも1つの周辺関連決定変数は、第1のセンサシステム及び第2のセンサシステムの周辺の物体であることが提案される。
一態様によれば、第1のセンサシステムのデータに基づく少なくとも1つの周辺関連決定変数と、第2のセンサシステムのデータに基づく少なくとも1つの周辺関連決定変数とのモデルに基づく比較が、第1のセンサシステム及び第2のセンサシステムの性能低下プロセスに関するモデル考察に関連して実行されることが提案される。
一態様によれば、第1のモダリティの第1のセンサシステム及び第2のモダリティの第2のセンサシステムによって決定された周辺関連決定変数が、これら2つのセンサシステムに作用する性能低下プロセスの異なる作用に関して比較されることが提案される。
一態様によれば、第1のモダリティは、第2のモダリティとは異なることが提案される。
一態様によれば、センサ固有の性能低下指標が第1のセンサシステムの評価装置によって決定されること、及び/又は、知覚感知不能状態指標が評価装置の知覚モジュールによって決定されること、及び/又は、融合感知不能状態指標が評価装置の融合モジュールによって決定されること、及び/又は、第1のセンサシステムの性能低下値が評価装置の検出モジュールによって決定されることが提案される。ここで、種々異なるモジュールは、アーキテクチャによって引き起こされる遅延を回避するために、提供された各データチャンクについてセンサ性能低下状態を決定し得るようなクロックレートで各感知不能状態指標を決定するように構成されるものとしてよい。
上述の方法の1つに従って決定される第1のセンサシステムのセンサ性能低下状態に基づいて、少なくとも部分的に自動化された車両を駆動制御するための制御信号が提供される方法、及び/又は、第1のセンサシステムのセンサ性能低下状態に基づいて、車両の乗員に警告するための警告信号が提供される方法が提案される。
第1のセンサシステムのセンサ性能低下状態に基づいて制御信号が提供されるという特徴に関連して、用語「に基づいて」は、幅広く理解されるべきである。この用語は、第1のセンサシステムのセンサ性能低下状態が、制御信号の各決定又は計算に使用されることと理解されるべきであるが、このことは、制御信号のこのような決定に、他の入力変数も使用されることを排除するものではない。これは、相応に、警告信号の提供にも当てはまる。
このような制御信号によって、センサシステムの存在している性能低下状態の程度に関連して、センサ性能低下に異なる反応を示すことができる。したがって、制御信号によって、システムの可用性を維持するために、たとえば除去機能又は洗浄機能がある場合には、たとえば、センサ表面用のスプレーノズル及び/又はワイパによって、異なる強さで清掃をアクティブにすることができる。さらに、高度に自動化されたシステムは、場合によっては、制御信号によって、安全な状態への移行を開始する。たとえば、少なくとも部分的に自動化された車両においては、これが、路側帯でのゆっくりとした停止を生じさせることがある。
センサ性能低下状態を決定する上述の方法の1つを実施するように構成されている評価装置が提案される。
一態様によれば、コンピュータプログラムがコンピュータによって実行されるときに、コンピュータに上述の方法のうちの1つを実施させるための命令を含むコンピュータプログラムが提示される。そのようなコンピュータプログラムは、上述の方法が種々異なるシステムにおいて使用されることを可能にする。
また、上述のコンピュータプログラムが記憶されている機械可読記憶媒体が提示される。上述のコンピュータプログラムは、そのような機械可読記憶媒体によって搬送可能である。
実施例
本発明の実施例を、図1を参照して示し、以下においてより詳細に説明する。
本発明の実施例を、図1を参照して示し、以下においてより詳細に説明する。
図1は、評価装置を概略的に示しており、評価装置は、自身のセンサ信号110a乃至150aに加えて、それぞれが、対応する個別感知不能状態指標110b乃至150bを提供する多数のセンサ110乃至150を有する。
ここでは、センサ110は、ビデオシステムを概略的に示しており、センサ120は、レーダシステムを概略的に示しており、センサ130は、ライダシステムを概略的に示しており、センサ140は、超音波システムを概略的に示しており、センサ150は、音響変換システムを概略的に示している。
センサ110乃至150は、それぞれ専ら各センサシステムによって提供されるセンサデータによって、それぞれ、センサ固有の性能低下指標110b乃至150bを決定するように構成されている。
周辺を表すセンサ信号110a乃至150aは、知覚感知不能状態指標を決定するために、個別感知不能状態指標110b乃至150bと共に知覚モジュール210に提供される。各センサ110乃至150は、各評価装置と共に、性能低下指標を計算するために、各センサの存在しているセンサ内部情報と未加工のセンサデータとの両方を使用するように構成されている。これは、レーダシステムの場合、信号の質の計算であるものとしてよく、超音波システムの場合、膜の固有振動数の測定であるものとしてよい。しかし、既に存在している信号を性能低下指標として用いることもでき、これはたとえば、ビデオセンサの場合のオプティカルフローである。
知覚モジュール210は、提供されたセンサ信号110a乃至150aによって、周辺を表すための周辺関連決定変数を決定する。付加的に、知覚モジュール210は、センサシステム110乃至150に対して、周辺関連決定変数を決定する各方法に基づいて、専ら各センサシステムによって提供される各センサデータによって、各センサシステムに対する少なくとも1つの知覚感知不能状態指標を決定する。図1においては、センサシステム110乃至150のうちの第1のセンサシステムに対する知覚感知不能状態指標210a及び第2のセンサシステムに対する知覚感知不能状態指標210bが示されている。
知覚モジュール210は、提供されたデータ及び情報によって、各センサシステム110乃至150に対する各性能低下指標を決定する。ここで、周辺関連決定変数は、センサシステム110乃至150の純粋なセンサデータよりも高度に抽象化されているものとしてよく、知覚感知不能状態指標の決定は、周辺関連決定変数の決定に基づくものである。たとえば、周辺関連決定変数は、物体、機能、Stixel、各特定の物体の寸法、物体のタイプ、3次元の「バウンディングボックス」、物体のクラス、たとえば、ライダシステムのL字形状及び/又はエッジ及び/又は反射点等々を有するものとしてよい。さらに、知覚モジュールによって物体を追跡することができ、即ち、物体の位置を時間と共に追跡することができる。レーダシステムの場合には、たとえば、追跡される物体の数によって、知覚感知不能状態指標を決定することができる。ビデオシステムの場合には、たとえば、ニューラルネットワークによって決定される分類の初期値によって、知覚感知不能状態指標を決定することができる。
周辺を表す各センサシステム110乃至150の各センサ信号110a乃至150a及び各センサシステムの個別感知不能状態指標110b乃至150b並びに各センサシステム110乃至150の知覚感知不能状態指標は、融合モジュール310に提供され、これによって、各センサシステム110乃至150に対する融合感知不能状態指標が決定される。
ここで、各センサシステムに対する各融合感知不能状態指標330は、センサシステム110乃至150の第1のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数320aを、センサシステム110乃至150の第2のセンサシステムの提供されたデータに基づく少なくとも1つの周辺関連決定変数320bと比較することによって決定される。
周辺関連決定変数は、融合モジュール310において著しく抽象化されるため、たとえば、物体又はStixelから、物体確率を有する融合された物体が形成される。さらに、周辺の地図が生成されるものとしてよく、及び/又は、更新されるものとしてよく、及び/又は、データベースからの地図情報に対して調整されるものとしてよい。さらに、すべてのセンサシステムからの抽象化された情報が存在している。
各センサシステムの個別感知不能状態指標110b乃至150b及び各センサシステム110乃至150の知覚感知不能状態指標及び各センサシステム110乃至150の融合感知不能状態指標が評価装置410に提供され、評価装置410は、これらの提供された値を用いて、各センサシステム110乃至150の性能低下値を決定する。
Claims (15)
- 第1のセンサシステム(110,120,130,140,150)の周辺を表すデータを提供するように構成されている第1のセンサシステム(110,120,130,140,150)のセンサ性能低下状態を決定する方法であって、
前記周辺を表すために前記第1のセンサシステム(110,120,130,140,150)のデータ(110a,120a,130a,140a,150a)を提供するステップと、
前記周辺を表すために第2のセンサシステム(110,120,130,140,150)のデータ(110a,120a,130a,140a,150a)を提供するステップと、
専ら前記第1のセンサシステムのセンサデータ(110a,120a,130a,140a,150a)に基づく、前記第1のセンサシステム(110,120,130,140,150)に対する個別感知不能状態指標(110b,120b,130b,140b,150b,210a)を決定するステップと、
前記第1のセンサシステム(110,120,130,140,150)の提供された前記データ(110a,120a,130a,140a,150a)に基づいて少なくとも1つの周辺関連決定変数(320a)を決定するステップと、
前記第2のセンサシステム(110,120,130,140,150)の提供された前記データに基づいて少なくとも1つの周辺関連決定変数(320b)を決定するステップと、
前記第1のセンサシステムの提供された前記データに基づく前記少なくとも1つの周辺関連決定変数(320a)を、前記第2のセンサシステム(110,120,130,140,150)の提供された前記データに基づく前記少なくとも1つの周辺関連決定変数(320b)と比較することによって、融合感知不能状態指標(330)を決定するステップと、
前記第1のセンサシステムの前記個別感知不能状態指標(110b,120b,130b,140b,150b,210a)及び前記融合感知不能状態指標(330)によって、前記第1のセンサシステム(110,120,130,140,150)の前記センサ性能低下状態を決定するステップと、
を有する方法。 - 前記第1のセンサシステムに対する前記個別感知不能状態指標(110b,120b,130b,140b,150b,210a)は、センサ感知不能状態指標(110b,120b,130b,140b,150b)及び/又は知覚感知不能状態指標(210a)を含み、
前記センサ感知不能状態指標(110b,120b,130b,140b,150b)を、専ら前記第1のセンサシステム(110,120,130,140,150)によって提供されるセンサデータによって決定し、
前記知覚感知不能状態指標(210a)を、前記周辺関連決定変数を決定する方法に基づいて、専ら前記第1のセンサシステム(110,120,130,140,150)によって提供されるセンサデータ(110a,120a,130a,140a,150a)によって決定し、
前記第1のセンサシステムの前記センサ性能低下状態を、対応して、前記第1のセンサシステム(110,120,130,140,150)の前記センサ感知不能状態指標(110b,120b,130b,140b,150b)及び/又は前記知覚感知不能状態指標(210a)並びに前記第1のセンサシステム(110,120,130,140,150)の前記融合感知不能状態指標(330)によって決定する、
請求項1に記載の方法。 - 前記第1のセンサシステム(110,120,130,140,150)は、センサ固有の性能低下指標(110b,120b,130b,140b,150b)を提供するように構成されており、
前記第1のセンサシステム(110,120,130,140,150)の前記センサ性能低下状態を付加的に、前記第1のセンサシステムによって提供される前記センサ固有の性能低下指標(110b,120b,130b,140b,150b)によって決定する、
請求項1又は2に記載の方法。 - 複数の前記性能低下指標のうちの少なくとも1つの性能低下指標において、付加的に、指標である信頼度を計算する、
請求項1乃至3のいずれか一項に記載の方法。 - 前記第1のセンサシステム(110,120,130,140,150)と前記第2のセンサシステム(110,120,130,140,150)とが同等のセンサモダリティを有し、及び/又は、前記第1のセンサシステムと前記第2のセンサシステムとが異なるセンサモダリティを有する、
請求項1乃至4のいずれか一項に記載の方法。 - 前記第1のセンサシステム(110,120,130,140,150)に対する融合感知不能状態指標(330)を決定するための比較は、物体及び/又はモデルに基づくものである、
請求項1乃至5のいずれか一項に記載の方法。 - 前記物体に基づく比較における前記少なくとも1つの周辺関連決定変数(320a,320b)は、前記第1のセンサシステム(110,120,130,140,150)及び前記第2のセンサシステム(110,120,130,140,150)の前記周辺の物体である、
請求項5に記載の方法。 - 前記第1のセンサシステム(110,120,130,140,150)のデータに基づく少なくとも1つの周辺関連決定変数と、前記第2のセンサシステム(110,120,130,140,150)のデータに基づく少なくとも1つの周辺関連決定変数とのモデルに基づく比較を、前記第1のセンサシステム(110,120,130,140,150)及び前記第2のセンサシステム(110,120,130,140,150)の性能低下プロセスに関するモデル考察に関連して実行する、
請求項5に記載の方法。 - 第1のモダリティの第1のセンサシステム(110,120,130,140,150)及び第2のモダリティの第2のセンサシステム(110,120,130,140,150)によって決定された前記周辺関連決定変数を、2つの前記センサシステムに作用する性能低下プロセスの異なる作用に関して比較する、
請求項8に記載の方法。 - 前記第1のモダリティは、前記第2のモダリティとは異なる、
請求項9に記載の方法。 - 前記センサ固有の性能低下指標(110b,120b,130b,140b,150b)を前記第1のセンサシステム(110,120,130,140,150)の評価装置によって決定し、及び/又は、前記知覚感知不能状態指標(210a,210b)を評価装置(100)の知覚モジュール(210)によって決定し、及び/又は、前記融合感知不能状態指標(330)を前記評価装置(100)の融合モジュール(310)によって決定し、及び/又は、前記第1のセンサシステムの性能低下値を前記評価装置(100)の検出モジュール(410)によって決定する、
請求項1乃至10のいずれか一項に記載の方法。 - 請求項1乃至11のいずれか一項に記載の方法に従って決定される、第1のセンサシステム(110,120,130,140,150)のセンサ性能低下状態に基づいて、少なくとも部分的に自動化された車両を駆動制御するための制御信号を提供する、及び/又は、第1のセンサシステム(110,120,130,140,150)の前記センサ性能低下状態に基づいて、車両の乗員に警告するための警告信号を提供する方法。
- センサ性能低下状態を決定するために、請求項1乃至11のいずれか一項に記載の方法を実施するように構成されている評価装置。
- コンピュータプログラムであって、当該コンピュータプログラムがコンピュータによって実行されるときに、前記コンピュータに請求項1乃至12のいずれか一項に記載の方法を実施させるための命令を含むコンピュータプログラム。
- 請求項14に記載のコンピュータプログラムが記憶されている機械可読記憶媒体。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
DE102020212331.4 | 2020-09-30 | ||
DE102020212331.4A DE102020212331A1 (de) | 2020-09-30 | 2020-09-30 | Verfahren zur Bestimmung eines Sensor-Degradations-Status |
PCT/EP2021/076477 WO2022069399A1 (de) | 2020-09-30 | 2021-09-27 | Verfahren zur bestimmung eines sensor-degradations-status |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023543611A true JP2023543611A (ja) | 2023-10-17 |
Family
ID=78049211
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023519897A Pending JP2023543611A (ja) | 2020-09-30 | 2021-09-27 | センサ性能低下状態を決定する方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230366981A1 (ja) |
JP (1) | JP2023543611A (ja) |
CN (1) | CN116324478A (ja) |
DE (1) | DE102020212331A1 (ja) |
WO (1) | WO2022069399A1 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102022130183A1 (de) * | 2022-11-15 | 2024-05-16 | Valeo Detection Systems GmbH | Verfahren zum überwachen eines zustands eines detektions- und entfernungsmesssensors und detektions- und entfernungsmesssensor |
CN115597585A (zh) * | 2022-12-16 | 2023-01-13 | 青岛通产智能科技股份有限公司(Cn) | 一种机器人定位方法、装置、设备及存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102015205180B4 (de) * | 2015-03-23 | 2016-11-03 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Bestimmen einer Blindheit eines jeden Sensors einer Sensorgruppe |
KR101786237B1 (ko) * | 2015-12-09 | 2017-10-17 | 현대자동차주식회사 | 운전자보조시스템용 센서의 고장진단 및 보정을 위한 장치 및 방법 |
US10600257B2 (en) * | 2017-08-28 | 2020-03-24 | GM Global Technology Operations LLC | Method and apparatus for monitoring of an autonomous vehicle |
-
2020
- 2020-09-30 DE DE102020212331.4A patent/DE102020212331A1/de active Pending
-
2021
- 2021-09-27 CN CN202180066333.2A patent/CN116324478A/zh active Pending
- 2021-09-27 JP JP2023519897A patent/JP2023543611A/ja active Pending
- 2021-09-27 US US18/246,473 patent/US20230366981A1/en active Pending
- 2021-09-27 WO PCT/EP2021/076477 patent/WO2022069399A1/de active Application Filing
Also Published As
Publication number | Publication date |
---|---|
WO2022069399A1 (de) | 2022-04-07 |
DE102020212331A1 (de) | 2022-06-02 |
US20230366981A1 (en) | 2023-11-16 |
CN116324478A (zh) | 2023-06-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20210074091A1 (en) | Automated vehicle actions, and associated systems and methods | |
US11620837B2 (en) | Systems and methods for augmenting upright object detection | |
CN112334370B (zh) | 车道偏离警报的自动化载运工具动作及关联的系统和方法 | |
CN111382768A (zh) | 多传感器数据融合方法和装置 | |
US9478139B2 (en) | Driving safety system and barrier screening method thereof | |
US11493597B2 (en) | Method and control device for detecting a malfunction of at least one environment sensor of a motor vehicle | |
JP2023543611A (ja) | センサ性能低下状態を決定する方法 | |
CN106537180A (zh) | 用于用针对行人的主动制动的摄影机输入缓解雷达传感器限制的方法 | |
CN108960083B (zh) | 基于多传感器信息融合的自动驾驶目标分类方法及系统 | |
JP6962604B2 (ja) | 極限状況でフォールトトレランス及びフラクチュエーションロバスト性のある、自動車間通信基盤の協業的なブラインドスポット警報方法及び装置 | |
WO2023050586A1 (zh) | 定位传感器的异常检测方法、装置及终端设备 | |
KR20210076139A (ko) | 자동차 제어 설정들을 생성하는 방법 | |
CN114330473A (zh) | 感知系统错误检测和重新验证 | |
CN113665570A (zh) | 自动地感知行驶信号的方法、装置及运载工具 | |
JP2019500694A (ja) | 車両の少なくとも1つのセンサによって検出された危険状況を評価する方法、危険警告の再生を制御する方法、および危険警告を再生する方法 | |
CN115993597A (zh) | 一种视觉雷达感知融合方法及终端设备 | |
US11900691B2 (en) | Method for evaluating sensor data, including expanded object recognition | |
TWI541152B (zh) | Traffic safety system and its obstacle screening method | |
Srimongkon et al. | Detection of speed bumps using Gaussian mixture model | |
Watanabe et al. | Lane detection for a steering assistance system | |
CN113920734B (zh) | 一种基于logistics模型的变道预警方法 | |
CN115470835A (zh) | 用于调谐在机器学习算法内使用的机器学习分类器的超声波系统和方法 | |
CN116194803A (zh) | 用于融合环境相关参数的方法 | |
Ravishankaran | Impact on how AI in automobile industry has affected the type approval process at RDW | |
TWI646306B (zh) | 應用於多感測器融合之誤差及偵測機率分析方法 |