JP7354129B2 - 光学センサの内蔵試験のためのシステムおよび方法 - Google Patents

光学センサの内蔵試験のためのシステムおよび方法 Download PDF

Info

Publication number
JP7354129B2
JP7354129B2 JP2020545280A JP2020545280A JP7354129B2 JP 7354129 B2 JP7354129 B2 JP 7354129B2 JP 2020545280 A JP2020545280 A JP 2020545280A JP 2020545280 A JP2020545280 A JP 2020545280A JP 7354129 B2 JP7354129 B2 JP 7354129B2
Authority
JP
Japan
Prior art keywords
image
hpf
optical sensor
image frame
variation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020545280A
Other languages
English (en)
Other versions
JP2021515482A (ja
Inventor
シャハール ハニア
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Rail Vision Ltd
Original Assignee
Rail Vision Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Rail Vision Ltd filed Critical Rail Vision Ltd
Publication of JP2021515482A publication Critical patent/JP2021515482A/ja
Application granted granted Critical
Publication of JP7354129B2 publication Critical patent/JP7354129B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L15/00Indicators provided on the vehicle or train for signalling purposes
    • B61L15/0081On-board diagnosis or maintenance
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/04Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B61RAILWAYS
    • B61LGUIDING RAILWAY TRAFFIC; ENSURING THE SAFETY OF RAILWAY TRAFFIC
    • B61L23/00Control, warning or like safety means along the route or between vehicles or trains
    • B61L23/04Control, warning or like safety means along the route or between vehicles or trains for monitoring the mechanical state of the route
    • B61L23/041Obstacle detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • H04N23/811Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation by dust removal, e.g. from surfaces of the image sensor or processing of the image signal output by the electronic image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Mechanical Engineering (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Studio Devices (AREA)

Description

本発明は、光学センサの分野に関し、より詳細には、光学センサの内蔵試験のためのシステムおよび方法に関する。
スチルカメラまたはビデオカメラなどの光学センサは、所与の解像度および/または所与の信号対雑音(S/N)指数で必要とされる視覚情報を提供するために使用される場合、外部光学素子(例えば、最外レンズ)上に蓄積する汚れまたは湿気、湿った空気または埃っぽい空気による低い視認性、低照明条件など、集合的に「光学的外乱」(EOD)と称される光学的乱れに非常に敏感なことがある。このような光学センサを使用するシステムは、これらのセンサを使用して取得されたフレームの光学的品質が、EODまたはシステム内部の故障(光学的、電子的、物理的、または別のいずれか)のために、低いかどうかを検証することができる必要がある。
本発明の一態様は、光学センサの内蔵試験を実施可能な光学システムを提供することができ、上記システムは、複数の画像フレームを生成するように構成された光学センサと、上記光学センサと通信する処理ユニットを含むことができ、上記処理ユニットは、内蔵試験モデルを含むことができ、上記内蔵試験モデルは、上記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、上記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動を検出し、上記少なくとも1つの変動が、上記光学センサの光学的外乱(EOD)によるものか、または上記光学センサの故障によるものかを判定するように構成されている。
いくつかの実施形態では、上記内蔵試験モジュールは、上記サブセットの画像フレームの各画像フレームに高速フーリエ変換(FFT)を適用して、上記それぞれの画像フレームのFFT画像を生成し、上記それぞれの画像フレームの上記FFT画像にハイパスフィルタ(HPF)を適用して、上記それぞれの画像フレームのHPF画像を生成し、上記それぞれのHPF画像の上記HPF画像の画素値を合計し、上記それぞれのHPF画像のHPFグレーレベル合計値を生成し、上記それぞれのHPF画像の上記HPFグレーレベル合計値が期待HPF合計閾値を上回るかどうかを判定し、上記それぞれの画像フレームの上記HPFグレーレベル合計値が上記期待HPFグレーレベル合計閾値を下回る場合、上記光学センサが上記EODまたは上記故障の少なくとも1つを被っていることを示すように構成される。
いくつかの実施形態では、上記内蔵試験モジュールは、上記それぞれのHPF画像の上記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出し、上記HPFグレーレベル合計値の上記少なくとも1つの変動のパターンを、上記期待HPFグレーレベル合計値に関して、識別し、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの上記故障によるものかを判定するように、さらに構成される。
いくつかの実施形態では、上記内蔵試験モジュールは、サブセットのサンプリングされた画像フレームの各画像フレームのヒストグラムを計算して、上記それぞれの画像フレームのヒストグラムを生成し、上記それぞれの画像フレームの上記ヒストグラムの少なくとも1つの変動を、その期待ヒストグラムに関して、検出し、上記それぞれの画像フレームの上記ヒストグラムの上記少なくとも1つの変動のパターンを、上記ヒストグラムに関して、識別し、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの上記故障によるものかを判定するように、さらに構成される。
いくつかの実施形態では、上記内蔵試験モジュールは、上記それぞれの画像フレームの上記ヒストグラムに対する上記それぞれの画像フレーム内の指定オブジェクトの寄与度を計算し、上記それぞれの画像フレームの上記ヒストグラムに対する上記指定オブジェクトの上記寄与度の少なくとも1つの変動を、その期待寄与度に関して、検出し、上記それぞれの画像フレームの上記ヒストグラムに対する上記指定オブジェクトの上記寄与度の上記少なくとも1つの変動のパターンを、その期待寄与度に関して、識別し、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの故障によるものかを判定するように、さらに構成される。
いくつかの実施形態では、上記内蔵試験モジュールは、上記サンプリングされた画像フレームの各画像フレームにハイパスフィルタ(HPF)を適用して、上記それぞれの画像フレームのHPF画像を生成し、期待HPFグレーレベル閾値を上回る上記それぞれのHPF画像の画素のグレーレベルを合計し、上記それぞれのHPF画像のHPFグレーレベル合計値を生成し、上記それぞれのHPF画像の上記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出し、上記HPFグレーレベル合計値の上記少なくとも1つの変動のパターンを、上記期待HPFグレーレベル合計値に関して、識別し、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの故障によるものかを判定するように、さらに構成される。
いくつかの実施形態では、上記システムは、少なくとも2つの光学センサを含み、上記処理ユニットは、相対内蔵試験モジュールを含み、上記相対内蔵試験モジュールは、上記少なくとも2つのセンサの第一の光学センサによって生成された第一の複数の画像フレームの第一サブセットの画像フレームの第一の画像を受信し、上記少なくとも2つのセンサの第二の光学センサによって生成された第二の複数の画像フレームの第二サブセットの画像フレームの第二の画像を受信し、上記第二の画像フレームは上記第一の画像フレームに対応する、上記第一の画像フレームと上記第二の画像フレームを同じ寸法と解像度にスケーリングして、第一のスケーリングされた画像と第二のスケーリングされた画像を生成し、上記第一のスケーリングされた画像に高速フーリエ変換(FFT)を適用して、第一のスケーリングされたFFT画像を生成し、上記第二のスケーリングされた画像にFFTを適用して、第二のスケーリングされたFFT画像を生成し、上記第一のスケーリングされたFFT画像と上記第二のスケーリングされたFFT画像の差分を決定し、上記第一のスケーリングされたFFT画像と上記第二のスケーリングされたFFT画像の上記差分が期待差分閾値を上回るかどうかを判定し、上記差分に基づいて、上記差分が上記期待差分閾値を上回る場合に、上記第一の光学センサまたは上記第二の光学センサのいずれが上記EODまたは上記故障を被っているかを判定するように、さらに構成される。
いくつかの実施形態では、上記システムは、上記センサが列車90の進行方向に面するように、上記列車の機関車上に配置可能な光学システムであって、上記処理ユニットが、上記複数の画像フレームのうちの少なくともいくつかを分析し、上記分析された画像フレームにおいて、レールと、上記レール上または上記レールの所定の近傍にある潜在的障害物を検出して、識別するように構成された障害物検出モジュールをさらに備える。
本発明の別の態様は、光学システムの光学センサの内蔵試験を実行する方法を提供し、上記方法は、光学センサから複数の画像フレームを受信するステップと、上記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、上記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動を検出するステップと、上記少なくとも1つの変動が、上記光学センサの光学的外乱(EOD)によるものか、または上記光学センサの故障によるものかを判定するステップと、を含むことができる。
いくつかの実施形態において、上記方法は、上記画像サブセットのフレームの各画像フレームに高速フーリエ変換(FFT)を適用して、上記それぞれの画像フレームのFFT画像を生成するステップと、上記それぞれの画像フレームの上記FFT画像にハイパスフィルタ(HPF)を適用して、上記それぞれのFFT画像のHPF画像を生成するステップと、上記それぞれのHPF画像の上記HPF画像の画素値を合計し、上記それぞれのHPF画像のHPFグレーレベル合計値を生成するステップと、上記それぞれのHPF画像の上記HPFグレーレベル合計値が期待HPF合計閾値を上回るかどうかを判定するステップと、上記それぞれの画像フレームの上記HPFグレーレベル合計値が上記期待HPFグレーレベル合計閾値を下回る場合、上記光学センサが上記EODまたは上記故障の少なくとも1つを被っていることを示すステップとを、さらに含む。
いくつかの実施形態では、上記それぞれのHPF画像の上記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出するステップと、上記HPFグレーレベル合計値の上記少なくとも1つの変動のパターンを、上記期待HPFグレーレベル合計値に関して、識別するステップと、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの上記故障によるものかを判定するステップと、をさらに含む。
いくつかの実施形態では、上記方法は、上記サブセットのサンプリングされた画像フレームの各画像フレームのヒストグラムを計算して、上記それぞれの画像フレームのヒストグラムを生成するステップと、上記それぞれの画像フレームの上記ヒストグラムの少なくとも1つの変動を、その期待ヒストグラムに関して、検出するステップと、上記それぞれの画像フレームの上記ヒストグラムの上記少なくとも1つの変動のパターンを、上記ヒストグラムに関して、識別するステップと、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの上記故障によるものかを判定するステップと、をさらに含む。
いくつかの実施形態では、上記方法は、上記それぞれの画像フレームの上記ヒストグラムに対する上記それぞれの画像フレーム内の指定オブジェクトの寄与度を計算するステップと、上記それぞれの画像フレームの上記ヒストグラムに対する上記指定オブジェクトの上記寄与度の少なくとも1つの変動を、その期待寄与度に関して、検出するステップと、上記それぞれの画像フレームの上記ヒストグラムに対する上記指定オブジェクトの上記寄与度の上記少なくとも1つの変動のパターンを、その期待寄与度に関して、識別するステップと、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの上記故障によるものかを判定するステップと、をさらに含む。
いくつかの実施形態では、上記方法は、上記サンプリングされた画像フレームの各画像フレームにハイパスフィルタを適用して、上記それぞれの画像フレームのHPF画像を生成するステップと、期待HPFグレーレベル閾値を上回る上記それぞれのHPF画像の画素のグレーレベルを合計し、上記それぞれのHPF画像のHPFグレーレベル合計値を生成するステップと、上記それぞれのHPF画像の上記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出するステップと、上記HPFグレーレベル合計値の上記少なくとも1つの変動のパターンを、上記期待HPFグレーレベル合計値に関して、識別するステップと、上記パターンに基づいて、上記少なくとも1つの変動が上記EODによるものか、または上記光学センサの上記故障によるものかを判定するステップと、をさらに含む。
いくつかの実施形態において、上記方法は、少なくとも2つのセンサの第一の光学センサによって生成された第一の複数の画像フレームの第一サブセットの画像フレームの第一の画像を受信するステップと、上記少なくとも2つのセンサの第二の光学センサによって生成された第二の複数の画像フレームの第二サブセットの画像フレームの第二の画像を受信するステップであって、上記第二の画像フレームは上記第一の画像フレームに対応する、ステップと、上記第一の画像フレームと上記第二の画像フレームを同じ寸法と解像度にスケーリングして、第一のスケーリングされた画像と第二のスケーリングされた画像を生成するステップと、上記第一のスケーリングされた画像に高速フーリエ変換(FFT)を適用して、第一のスケーリングされたFFT画像を生成し、上記第二のスケーリングされた画像にFFTを適用して、第二のスケーリングされたFFT画像を生成するステップと、上記第一のスケーリングされたFFT画像と上記第二のスケーリングされたFFT画像の差分を決定するステップと、上記第一のスケーリングされたFFT画像と上記第二のスケーリングされたFFT画像の上記差分が期待差分閾値を上回るかどうかを判定するステップと、上記差分に基づいて、上記差分が上記期待差分閾値を上回る場合に、上記第一の光学センサまたは上記第二の光学センサのいずれが上記EODまたは上記故障を被っているかを判定するステップと、さらに含む。
いくつかの実施形態において、上記方法は、上記光学センサが列車の進行方向に面するように、上記光学センサを上記列車の機関車上に配置するステップと、上記複数の画像フレームのうちの少なくともいくつかを分析するステップと、上記分析された画像フレームにおいて、レールと、上記レール上または上記レールの所定の近傍にある潜在的障害物を検出して、識別するステップと、をさらに含む。
本発明のこれらの、追加および/または他の態様および/または利点は、以下の詳細な説明に記載され、おそらく、その詳細な説明から推測可能であり、および/または本発明の実施によって学習可能である。
本発明の実施形態をより良く理解し、本発明をどのように実施することができるかを示すために、ここで、単一例として、添付の図面を参照する(ここで、同様の数字は、全体を通して対応する要素またはセクションを示す)。
本発明のいくつかの実施形態に従って、光学センサの光学内蔵試験を実施可能な光学システムの概略図である。 本発明のいくつかの実施形態に従って、多数の光学センサを含む光学システムであって、その光学センサの内蔵試験および相対内蔵試験を実施可能な光学システムの概略図である。 本発明のいくつかの実施形態に従って、光学システムの光学センサの内蔵試験を実施する方法のフローチャートである。 本発明のいくつかの実施形態に従って、光学システムの2つの光学センサ間で相対内蔵試験を実施する方法のフローチャートである。 移動する列車によって障害物を検出するための光学システムの概略図であり、この光学システムは、本発明のいくつかの実施形態に従って、その光学センサの内蔵試験および相対内蔵試験を実施することができる。 本発明の実施形態に従って、少なくとも2つの光学センサを含む光学システムによって撮像された画像フレームのセット(相対内蔵試験は、画像フレームの1つのサブセットに、画像フレームの第二サブセットと比較して適用される)である。 入力画像フレームと、本発明の実施形態に従って、閾値フィルタを適用した後、およびノイズフィルタを適用した後の入力画像フレームを示す画像フレームのセットである。 本発明の実施形態に従って、光学システムの光学センサのクリーンレンズで撮像された画像フレームと、光学システムの光学センサの非クリーンレンズで撮像された画像フレームと、そのフレーム画像を減算した結果から生じるフレームとを含むフレームのセットである。 本発明の実施形態に従って、FFT演算子が作用された光学システムの光学センサによって撮像された画像と、減算、閾値、およびノイズ低減が作用されたこれらのフレームの派生物とを示す画像フレームのセットである。 本発明のいくつかの実施形態に従って、光学システムの光学センサの内蔵試験を実施する方法のフローチャートである。 本発明のいくつかの実施形態に従って、光学システムの光学センサの内蔵試験を実施する方法のフローチャートである。 本発明のいくつかの実施形態に従って、光学システムの光学センサの内蔵試験を実施する方法のフローチャートである。 本発明のいくつかの実施形態に従って、光学システムの光学センサの内蔵試験を実施する方法のフローチャートである。
説明を簡単で明確にするために、図面に示される要素は、必ずしも一定の縮尺で描かれていないことが理解されるであろう。例えば、いくつかの要素の寸法は、明確にするために、他の要素に対して誇張されていることがある。さらに、適切であると考えられる場合、参照番号は、対応または類似する要素を示すために、図面の間で繰り返されることもある。
以下の説明では、本発明の様々な態様について説明する。説明を目的として、本発明の完全な理解を提供するために、特定の構成および詳細が記載される。しかしながら、本発明は、本明細書に提示される特定の詳細がなくても実施できることは当業者には明らかであろう。さらに、本発明を曖昧にしないために、周知の特徴は省略または簡略化されている。特に図面を参照すると、図示された詳細は、例として、本発明の例示的な説明のみを目的としており、本発明の原理および概念的態様の最も有用で容易に理解される説明であると考えられるものを提供するために提示されることを強調しておく。この点に関して、本発明の基本的な理解のために必要である以上に詳細に本発明の構造的詳細を示す試みはなされておらず、図面を用いてなされた説明は、本発明のいくつかの形態が実際にどのように具現化され得るかを当業者に明らかにする。
本発明の少なくとも1つの実施形態を詳細に説明する前に、本発明は、その適用において、以下の説明に記載されるか、または図面に示される構成要素の構成および配置の詳細に限定されないことを理解されたい。本発明は、様々な方法で実施または実行することができる他の実施形態でも、開示された実施形態の組合せでも適用可能である。また、本明細書で使用される語法および用語は、説明を目的とするものであり、限定するものとみなされるべきではないことを理解されたい。
特に明記しない限り、以下の説明から明らかなように、本明細書の説明全体にわたって使用される用語、「処理する」、「計算する」、「算出する」、「決定する」、「強化する」などは、計算システムのレジスタおよび/またはメモリ内の電子量などの物理量として表されるデータを、計算システムのメモリ、レジスタ、または他のそのような情報記憶、伝送、または表示デバイス内の物理量として同様に表される他のデータに操作および/または変換する、コンピュータもしくは計算システム、または同様の電子計算デバイスの動作および/またはプロセスを指すことが理解される。開示されたモジュールまたはユニットのいずれも、コンピュータプロセッサによって少なくとも部分的に実装することができる。
一般に、1つまたは複数の光学センサと、光学センサの内蔵試験を実施することができる処理ユニットとを含む光学システムおよびその方法が開示される。
いくつかの実施形態によれば、処理ユニットは、内蔵試験モジュールを含む。内蔵試験モジュールは、光学センサの期待される光学的品質に関して、光学センサによって生成された画像のうちの少なくとも一部の光学的品質の低下を検出するように構成されてもよい。様々な実施形態では、内蔵試験モジュールは、その光学的品質の低下が、「光学的外乱」(EOD)および/または光学センサ/システムの故障によるものかどうかを判定するようにさらに構成される。
いくつかの実施形態によれば、処理ユニットは、相対内蔵試験モジュールを含む。相対内蔵試験モジュールは、少なくとも2つの光学センサによって生成された少なくともいくつかの画像を比較し、その少なくとも2つの光学センサのうちの1つの光学センサによって生成された画像フレームの光学的品質の低下を、少なくとも2つの光学センサの別の光学センサに対して判定するように構成されてもよい。光学的品質の低下は、例えば、EODおよび/または故障に起因し得る。
本発明の1つの利点は、内蔵試験モジュールおよび/または相対内蔵試験モジュールで実施される方法の実装によって、この方法を実施するために必要とされる計算リソースの消費が少なくなることである。本発明の別の利点は、内蔵試験モジュールおよび/または相対内蔵試験モジュールで実施される方法の実装によって、一切の所定の基準データ/画像フレームが不要になることである。
したがって、その方法の実装は、高い故障カバレッジ確率を提供しながら、リアルタイムで(例えば、画像フレームのストリームに対する一切の待ち時間なしに)、事実上、光学システム/処理ユニットの動作機能を妨げることなく、実施され得る。さらに、その方法は、その方法を実施するために画像フレームを保存/記憶する必要がないので、さらなる処理のためにフレームの保存を必要とする方法と比較して、保存される必要のない各画像フレーム当たり約6Mbだけ光学システムの全体記憶空間を減らすことができる。
ここで、図1Aを参照すると、この図は、本発明のいくつかの実施形態に従って、光学センサ110の光学内蔵試験を実施可能な光学システム100の概略図である。
いくつかの実施形態によれば、システム100は、光学センサ110および処理ユニット120(例えば、図1Aに示すように)を含む。処理ユニット120は、光学センサ110と(有線または無線で)通信してもよい。光学センサ110は、例えば、スチルカメラであっても、あるいはビデオカメラであってもよい。
光学センサ110は、その視野(FOV)内のシーンの複数の画像フレーム112を生成するように構成されてもよい。処理ユニット120は、光学センサ110から複数の画像フレーム112を受信するように構成されてもよい。
いくつかの実施形態によれば、処理ユニット120は、内蔵試験モジュール130を含む。内蔵試験モジュール130は、光学センサ110によって生成される画像フレームの少なくとも一部に基づいて、光学センサ110の内蔵試験を実施するように構成されてもよい。
処理ユニット120は、所望の試験頻度に従って、また光学センサ110のフレームレートに従って、複数の画像フレーム112の画像フレームを周期的にサンプリングし、サブセットのサンプリングされた画像フレーム(SIF)114を生成し、サブセットのサンプリングされた画像フレーム114を内蔵試験モジュール130に入力するように構成されてもよい。
内蔵試験モジュール130は、サンプリングされた画像フレーム114のサブセットの少なくとも1つの画像フレームの光学的品質が、その期待される光学的品質と比較して低下したことを検出するように構成されてもよい。画像フレームの光学的品質の低下は、それぞれの画像フレームの高い空間周波数エネルギーが、その期待される高い空間周波数エネルギーと比較して、低下/劣化したことに基づいて決定されてもよい。画像フレームの高い空間周波数エネルギーが低下/劣化したことの検出は、例えば、それぞれの画像フレームに、周波数領域への任意の変換(例えば、図1Cに関して以下に説明する高速フーリエ変換(FFT))を適用することによって実行することができる。
いくつかの実施形態では、内蔵試験モジュール130は、少なくとも1つの画像フレームで検出された光学的品質の低下が、光学センサ110の光学的外乱(EOD)によるものか、または光学センサ110の故障(例えば、光学的、電子的、物理的など)によるものかを判定するように構成される。
様々な実施形態によれば、内蔵試験モジュール130は、それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動に基づいて、少なくとも1つの画像フレームの光学的品質の低下を検出するように構成される。いくつかの実施形態では、内蔵試験モジュール130は、その変動が、光学センサ110のEODによるものか、または光学センサ110の故障によるものかを判定するように構成される(例えば、図1Cに関して以下で説明するように)。
いくつかの実施形態によれば、処理ユニット120は、画像フレームのリポジトリ122を含む。処理ユニット120は、光学センサ110によって生成された複数の画像フレーム112のうちの少なくともいくつかをリポジトリ122に記憶するように構成されてもよい。
いくつかの実施形態では、リポジトリ122は、内蔵モジュール130と通信する。いくつかの実施形態では、リポジトリ122は、DDR駆動部を含む。
ここで、多数の光学センサ110を含む光学システム100の概略図である図1Bを参照すると、この光学システム100は、本発明のいくつかの実施形態に従って、その光学センサ110の内蔵試験および相対内蔵試験を実施することができる。
いくつかの実施形態によれば、システム100は、多数の光学センサ110(例えば、図1Bに示されるように)を含む。例えば、システム100は、K個の光学センサ110(1)~110(K)(例えば、図1Bに示されるように)を含んでもよい。多数の光学センサ110(1)~110(K)のそれぞれは、それぞれの複数の画像フレームを生成して、(例えば、図1Bに示すように)多数の複数の画像フレーム112(1)~112(K)を生成するように構成されてもよい。
処理ユニット120は、(例えば、図1Aに関して上述したように)複数の画像フレーム112(1)~112(K)から画像フレームをサンプリングして、対応するサブセットのサンプリングされた画像フレーム114(1)~114(K)を生成するように構成されてもよい。
処理ユニット120の内蔵試験モジュール130は、光学センサ110(1)~110(K)の少なくとも1つの光学センサ(または各光学センサ)の内蔵試験を実施し、それによって、それぞれの光学センサによって生成される画像フレームの光学的品質の低下が、EODによるものか、および/またはそれぞれの光学センサの故障によるものかを検出および/または判定するように構成されてもよい(例えば、図1Aに関して上述したように、および図1Cに関して以下で説明するように)。
様々な実施形態では、内蔵試験モジュール130は、それぞれ異なる時間に光学センサ110(1)~110(K)の1つの光学センサの内蔵試験を実施するように、または光学センサ110(1)~110(K)の2つ以上の光学センサの内蔵試験を並列に実施するように構成される。いくつかの実施形態では、システム100は、光学センサ110(1)~110(K)の対応する2つ以上の光学センサの並列内蔵試験を実施するように構成された2つ以上の内蔵試験モジュール130を含む。
いくつかの実施形態によれば、システム100は、相対内蔵試験モジュール140を含む。相対内蔵試験モジュール140は、対応する少なくとも2つの光学センサ110(1)~110(K)の少なくとも2つのサブセットのサンプリングされた画像114(1)~114(2)の画像フレームを比較するように構成されてもよい。相対内蔵試験モジュール140は、その比較に基づいて、少なくとも2つの光学センサ110(1)~110(K)のうちのいずれが、例えば、EODおよび/または故障に起因して、互いに対して光学的品質が低下した画像フレームを生成するかを検出し、示すように構成されてもよい(例えば、図1Dに関して以下に記載されるように)。
いくつかの実施形態では、相対内蔵試験モジュールは、画像フレームのリポジトリ122と通信することができる。
以下の説明(例えば、図1Cおよび図1D、図3、図4、図6および図7に関してなされる)は、画像フレームの周波数領域への変換の一例として、高速フーリエ変換(FFT)を提供することに留意されたい。周波数領域への他の変換も同様に使用できることを理解されたい。
ここで、図1Cを参照すると、この図は、本発明のいくつかの実施形態に従って、光学システム100の光学センサ110の内蔵試験を実施する方法のフローチャートである。
この方法は、図1Cに示すフローチャートおよび対応する説明に限定されないことに留意されたい。例えば、様々な実施形態では、本方法は、図示された各ボックスまたはステージを通過する必要はなく、あるいは図示され説明された順序と全く同じ順序で通過する必要もない。
いくつかの実施形態によれば、処理ユニット120は、光学センサから複数の画像フレームを受信するように構成される(ステージ120-1)。例えば、図1Aに関して上述した複数の画像フレーム112および光学センサ110である。
図1Cは、分かりやすくするために、単一の光学センサの内蔵試験を実施する方法を示しており、その方法は、光学システムの各光学センサに適用されてもよいことに留意されたい。
いくつかの実施形態によれば、処理ユニット120は、所望の試験頻度に従って、かつ、光学センサのフレームレートに従って、複数の画像フレームの画像フレームを周期的にサンプリングして、サブセットのサンプリングされた画像フレームを生成するように構成される(ステージ120-2)。例えば、図1Aおよび図1Bに関して上述したように、サブセットのサンプリングされた画像フレーム114である。
内蔵試験モジュール130は、サブセットのサンプリングされた画像フレームの各画像フレームに基づいて内蔵試験を適用するように構成され得る。
いくつかの実施形態によれば、内蔵試験モジュール130は、サブセットのサンプリングされた画像フレームの各画像フレームに高速フーリエ変換(FFT)を適用して、それぞれの画像フレームのFFT画像を生成するように構成される(ステージ130-1)。FFT画像は、例えば、それぞれの画像フレームの二次元(2D)空間周波数領域を表すことができる。
いくつかの実施形態では、内蔵試験モジュール130は、それぞれの画像フレームのFFT画像にハイパスフィルタ(HPF)を適用して、それぞれのFFT画像のHPF画像を生成するように構成される(ステージ130-2)。
いくつかの実施形態では、内蔵試験モジュール130は、それぞれのHPF画像の画素のエネルギー/グレーレベルを合計して、それぞれのHPF画像のHPFグレーレベル合計値を生成するように構成される(ステージ130-3)。いくつかの実施形態では、ステージ130-3~130-6は、それぞれのHPF画像の画素数に関して(例えば、そのHPFグレーレベル合計値に関してではなく)実行される。
いくつかの実施形態では、内蔵試験モジュール130は、それぞれのHPF画像のHPFグレーレベル合計値が期待HPFグレーレベル合計閾値を上回るかどうかを判定するように構成される(ステージ130-4)。
HPFグレーレベル合計値は、例えば、光学センサのEODまたは光学センサの故障を示すことができる。例えば、期待HPFグレーレベル合計閾値を下回るHPFグレーレベル合計値は、光学センサがEODまたは故障を被っている場合があることを示し得る。
いくつかの実施形態では、それぞれのHPF画像のHPFグレーレベル合計値が、期待HPFグレーレベル合計閾値を下回る場合、内蔵試験モジュール130は、光学センサが、EODまたは故障のうちの少なくとも1つを被っていることを示すように構成される(ステージ130-5)。
他の実施形態では、それぞれのHPF画像のHPFグレーレベル合計値が期待HPFグレーレベル合計閾値を上回る場合、内蔵試験モジュール130は、サンプリングされた画像フレームの後続の画像フレームに対して内蔵試験を実施するように構成される(ステージ130-1)。
いくつかの実施形態によれば、内蔵試験モジュール130は、それぞれのHPF画像のHPFグレーレベル合計値の少なくとも1つの変動を、その期待される/事前定義されたHPFグレーレベル合計値に関して検出するように構成される(ステージ130-6)。HPF画像の他のパラメータ(例えば、HPFグレーレベル合計値ではなく)が、その検出変動について追跡され得ることに留意されたい。
期待HPFグレーレベル合計値に関するそれぞれのHPFのHPFグレーレベル合計値の変動は、例えば、EODおよび/または光学センサ/システムの故障を示すことができる。変動は、例えば、HPFグレーレベル合計値の平均および/または標準偏差の変化で、その期待値と比較したものを含むことができる。
例えば、HPF画像の低周波数における変動と、その結果として、期待HPFグレーレベル合計値に関するHPFグレーレベル合計値の平均における緩慢なドリフト変動(例えば、1~3秒の時間範囲内)は、気象条件(例えば、EOD)の変化を示すことがある。別の例では、期待HPFグレーレベル合計値と比較したHPFグレーレベル合計値における急速な変動(例えば、1/30~1/25秒の時間範囲内の変動のようなステップ関数)は、光学センサの物理的衝撃/故障を示すことができる。
いくつかの実施形態では、期待HPFグレーレベル合計値に関するHPFグレーレベル合計値の変動が検出されると、内蔵試験モジュール130は、光学センサがEODまたは故障のうちの少なくとも1つを被っていることを示すように構成される(ステージ130-5)。
いくつかの実施形態では、内蔵試験モジュール130は、さらに、変動がEODによるものか、または光学センサ/システムの故障によるものかを判定するように構成される(ステージ130-7)。例えば、内蔵試験モジュール130は、期待HPFグレーレベル合計値に関するHPFグレーレベル合計値の変動(例えば、上述のような急速または緩慢なドリフト変動のいずれか)のパターンを識別し、そのパターンに基づいて、変動が光学的外乱によるものか、または光学センサ/システムの故障によるものかを判定するように構成することができる。
他の実施形態では、期待HPFグレーレベル合計値に関するHPFグレーレベル合計値の変動が検出されない場合、内蔵試験モジュール130は、サンプリングされた画像フレームの後続の画像フレームに対して内蔵試験を実施するように構成される(ステージ130-1)。
いくつかの実施形態によれば、内蔵試験モジュール130は、サブセットのサンプリングされた画像フレームの各画像フレームのヒストグラムを計算して、それぞれの画像フレームのヒストグラム(HIST)を生成するように構成される(ステージ130-8)。
いくつかの実施形態では、内蔵試験モジュール130は、それぞれの画像フレームのヒストグラムに対するそれぞれの画像フレーム内の指定オブジェクトの寄与度を検出するように構成される(ステージ130-9)。例えば、光学システムが移動する列車による障害物検出システムである場合には、指定オブジェクトはレール軌道(例えば、図2に関して以下に説明する)であってもよい。
様々な実施形態では、内蔵試験モジュール130は、それぞれの画像フレームのヒストグラムの少なくとも1つの変動を、その期待ヒストグラムに関して、および/または、それぞれの画像フレームのヒストグラムに対する指定オブジェクトの寄与度の少なくとも1つの変動を、その期待寄与度に関して、検出するように構成される(ステージ130-9)。その変動は、例えば、それぞれの画像のヒストグラムまたはヒストグラムへの寄与度の平均および/または標準偏差の変化で、その期待値と比較したものを含むことができる。
期待ヒストグラムに関してそれぞれの画像のヒストグラムの変動、および/または期待寄与度に関してヒストグラムに対する指定オブジェクトの寄与度の変動は、例えば、EODおよび/または光学センサ/システムの故障を示すことができる。例えば、急速な変動は、光学センサの物理的損傷/ブロック(例えば、故障)を示すことがある。別の例では、小さなドリフト変動は、変化する気象条件(例えば、EOD)を示すことがある。
様々な実施形態では、期待ヒストグラムに関してそれぞれの画像フレームのヒストグラムの変動および/またはそれぞれの画像フレームのヒストグラムに対して期待寄与度に関する寄与度の変動が検出されると、内蔵試験モジュール130は、光学センサがEODまたは故障のうちの少なくとも1つを被っていることを示すように構成される(ステージ130-5)。
いくつかの実施形態では、内蔵試験モジュール130は、さらに、変動がEODによるものか、または光学センサ/システムの故障によるものかを判定するように構成される(ステージ130-7)。例えば、内蔵試験モジュール130は、期待ヒストグラムに関するそれぞれの画像フレームのヒストグラムの変動のパターン、またはそれぞれの画像フレームのヒストグラムに対する指定オブジェクトの寄与度の変動のパターン(例えば、上述のような緩慢または急速なドリフト変動のいずれか)を識別し、そのパターンに基づいて、その変動がEODによるものか、または光学センサ/システムの故障によるものかを判定するように構成されてもよい。
他の実施形態では、期待ヒストグラムに対するそれぞれの画像フレームのヒストグラムの変動が検出されない場合、および/または、それぞれの画像フレームのヒストグラムに対する指定オブジェクトの寄与度の変動が検出されない場合、内蔵試験モジュール130は、サンプリングされた画像フレームの後続の画像フレームに対して内蔵試験を実施するように構成される(ステージ130-1)。
いくつかの実施形態によれば、内蔵試験モジュール130は、サンプリングされた画像フレームの各画像フレームにボックス差分/ブロブ(DOB)フィルタ(または任意のハイパスフィルタ(HPF)フィルタ)を適用して、それぞれの画像フレームのDOB/HPF画像を生成するように構成される(ステージ130-11)
いくつかの実施形態では、内蔵試験モジュール130は、それぞれの画像フレームのDOB/HPF画像の画素のエネルギー/グレーレベルで、期待DOB/HPF画像のDOB/HPF閾値を上回るものを合計して、それぞれのDOB/HPF画像のDOB/HPFグレーレベル合計値を生成するように構成される(ステージ130-12)。いくつかの実施形態では、ステージ130-2~130-3は、それぞれのDOB/HPF画像の画素数に関して(例えば、そのDOB/HPFグレーレベル合計値に関してではなく)実施される。
いくつかの実施形態では、内蔵試験モジュール130は、それぞれのDOB/HPF画像のDOB/HPFグレーレベル合計値の少なくとも1つの変動を、期待DOB/HPFグレーレベル合計値に関して、検出するように構成される(ステージ130-13)。
期待DOB/HPFグレーレベル合計値に関するそれぞれのDOB/HPF画像のDOB/HPFグレーレベル合計値の変動は、例えば、EODおよび/または光学センサ/システムの故障を示すことができる。変動は、例えば、DOB/HPFグレーレベル合計値の平均および/または標準偏差の変化で、その期待値と比較したものを含むことができる。例えば、DOB/HPFグレーレベル合計値における急速な変動は、光学センサの故障を示すことがある。別の例では、緩慢なドリフト変動は、EODを示すことがある。
いくつかの実施形態では、期待DOB/HPFグレーレベル合計値に関するDOB/HPFグレーレベル合計値の変動が検出されると、内蔵試験モジュール130は、光学センサがEODまたは故障のうちの少なくとも1つを被っていることを示すように構成される(ステージ130-5)。
いくつかの実施形態では、内蔵モジュール130は、さらに、変動がEODによるものか、または光学センサ/システムの故障によるものかを判定するように構成される(ステージ130-7)。例えば、内蔵試験モジュール130は、期待DOB/HPFグレーレベル合計値(例えば、上述のような急速または緩慢なドリフト変動のいずれか)に関するDOB/HPFグレーレベル合計値の変動のパターンを識別し、そのパターンに基づいて、変動が光学的外乱によるものか、または光学センサ/システムの故障によるものかを判定するように構成することができる。
他の実施形態では、期待HPFグレーレベル合計値に対するDOB/HPFグレーレベル合計値の変動が検出されない場合、内蔵試験モジュール130は、サンプリングされた画像フレームの後続の画像フレームに対して内蔵試験を実行するように構成される(ステージ130-1)。
いくつかの実施形態によれば、内蔵試験モジュール130は、それぞれの画像フレーム上で、内蔵試験のFFTチャネル(例えば、ステージ130-1~130-6)、HISTチャネル(例えば、ステージ130-8~130-10)、DOB/HPFチャネル(130-11~130-13)、またはそれらの任意の組合せのうちの少なくとも1つを利用することによって、光学センサの内蔵試験を実施するように構成される。
いくつかの実施形態によれば、期待されるパラメータは、機械学習および/または深層学習手法を使用して、内蔵試験モジュール130によって決定される。例えば、内蔵試験モジュール130は、光学センサによって生成される複数の画像フレームから周期的にサンプリングされる画像フレームから期待されるパラメータを導出および/または修正するように構成されてもよい。
期待されるパラメータは、例えば、図1Cに関して上述したように、期待HPF合計閾値、期待HPFグレーレベル合計値、期待ヒストグラム、ヒストグラムに対する指定オブジェクトの期待寄与度、期待HPF/DOB閾値、および/または期待HPF/DOBグレーレベル合計値を含むことができる。
いくつかの実施形態によれば、内蔵モジュール130は、それぞれの画像フレームにおいて、前の画像フレームに現れる少なくとも1つのオブジェクト(例えば、建物、柱、橋など)の少なくとも1つの変動(例えば、消失)を検出し、その変動に基づいて、光学センサがEODおよび/または故障を被っていることを決定するように構成される。
ここで、図1Dを参照すると、この図は、本発明のいくつかの実施形態に従って、光学システム100の2つの光学センサ110の間の相対内蔵試験を実施する方法のフローチャートである。
この方法は、図1Cに示すフローチャートおよび対応する説明に限定されないことに留意されたい。例えば、様々な実施形態では、本方法は、図示された各ボックスまたはステージを通過する必要はなく、あるいは図示され説明された順序と全く同じ順序で通過する必要もない。
いくつかの実施形態によれば、処理ユニット120は、光学システム100の光学センサの第一の光学センサからの第一の複数の画像フレームと、第二の光学センサからの第二の複数の画像フレームとを受信するように構成される(ステージ120-1)。例えば、第一の光学センサおよび第二の光学センサは、図1Bに関して上述したような光学センサ110(1)~110(K)のいずれであってもよい。
いくつかの実施形態によれば、処理ユニット120は、第一の複数の画像フレームを周期的にサンプリングして、第一サブセットのサンプリングされた画像フレームを生成し、第二の複数の画像フレームを周期的にサンプリングして、第二サブセットのサンプリングされた画像フレームを生成するように構成される(ステージ120-2)(例えば、図1A、図1B、および図1Cに関して上述したように)。
相対内蔵試験モジュール140は、第一サブセットのサンプリングされた画像フレームの各画像フレームと、第二サブセットのサンプリングされた画像フレームの対応する画像フレームとに基づいて、相対内蔵試験を適用するように構成されてもよい。
いくつかの実施形態によれば、相対内蔵試験モジュール140は、第一サブセットのサンプリングされた画像フレームからの第一の画像フレームと、第二サブセットのサンプリングされた画像フレームの第二の画像フレームとを受信するように構成され、第二の画像フレームは、第一の画像フレームに対応する(ステージ140-1)。
様々な実施形態では、第一の画像フレームの寸法および/または解像度は、第二の画像フレームの寸法および/または解像度と比較して異なる。これらの実施形態では、相対内蔵試験モジュール140は、第一の画像フレームおよび第二の画像フレームを同じ寸法および/または解像度にスケーリングして、第一のスケーリングされた画像および第二のスケーリングされた画像(ステージ140-2)を生成するように構成される。
いくつかの実施形態では、相対内蔵試験モジュール140は、第一のスケーリングされた画像にFFTを適用して第一のスケーリングされたFFT画像を生成し、第二のスケーリングされた画像にFFTを適用して第二のスケーリングされたFFT画像を生成するように構成される(ステージ140-3)。いくつかの実施形態において、FFTは、第一のスケーリングされた画像フレームおよび第二のスケーリングされた画像フレームのそれぞれに、その画像のゲイン補正および正規化とともに適用される。
いくつかの実施形態では、相対内蔵試験モジュール140は、第一のスケーリングされたFFT画像と第二のスケーリングされたFFT画像との間の差分を判定するように構成される(ステージ140-4)。その差分は、例えば、第二のスケーリングされたFFT画像から第一のスケーリングされたFFT画像を減算することによって、または第一のスケーリングされたFFT画像から第二のスケーリングされたFFT画像を減算することによって、判定され得る。
いくつかの実施形態では、相対内蔵試験モジュール140は、第一のスケーリングされたFFT画像と第二のスケーリングされたFFT画像との間の差分が期待差分閾値を上回っているかどうかを判定するように構成される(ステージ140-5)。
いくつかの実施形態では、第一のスケーリングされたFFT画像と第二のスケーリングされたFFT画像との間の差分が期待差分閾値を上回っている場合、相対内蔵試験モジュール140は、それらの差分に基づいて、第一の光学センサまたは第二の光学センサのいずれがEODまたは故障を被っているかを判定するように構成される(ステージ140-6)。
他の実施形態において、第一のスケーリングされたFFT画像と第二のスケーリングされたFFT画像との間の差分が期待差分閾値を下回っている場合、相対内蔵試験モジュール140は、サンプリングされた画像フレームの第一のセットの後続の画像フレームに、またサンプリングされた画像フレームの第二のセットの対応する後続の画像フレームに、相対内蔵試験を適用するように構成される(ステージ140-1)。
ここで、移動する列車90によって障害物を検出するための光学システム200の概略図である図2を参照すると、この光学システム200は、本発明のいくつかの実施形態に従って、その光学センサ210の内蔵試験および相対内蔵試験を実施することができる。
いくつかの実施形態によれば、光学システム200は、1つまたは複数の光学センサ210と、光学センサ210と通信する処理ユニット220とを含む。システム200は、例えば、光学センサ210が列車90の進行方向に向くように列車90の機関車92上に配置されてもよい。例えば、光学システム200、光学センサ210および/または処理ユニット220は、図1A、図1B、図1Cおよび図1Dに関して上述したように、それぞれ光学システム100、光学センサ110および/または処理ユニット120と同様であってもよい。
光学センサ210は、環境の画像(例えば、図1Aおよび図1Bに関して上述したような複数の画像フレーム112)を生成してもよい。
いくつかの実施形態によれば、処理ユニット220は、障害物検出識別モジュール225を含む。障害物検出識別モジュール225は、光学センサ210によって生成された画像を分析し、画像内のレール80を識別し、および/またはレール80上またはレール80の所定の近傍にある潜在的オブジェクト/障害物70を識別するように構成されてもよい。
いくつかの実施形態によれば、処理ユニット220は、内蔵試験モジュール230(例えば、図1A、図1B、および図1Cに関して上述したような内蔵試験モジュール130と同様)および相対内蔵試験モジュール240(例えば、図1Bおよび図1Dに関して上述したような相対内蔵試験モジュール140と同様)のうちの少なくとも1つを含む。
内蔵試験モジュール230は、光学センサ210のうちの少なくとも1つによって生成された画像の光学的品質の低下を検出し、いくつかの実施形態では、その光学的品質の低下がEODおよび/または故障によるものかどうかを判定するように構成されてもよい(例えば、図1A、図1B、および図1Cに関して上述したように)。
相対内蔵試験モジュール240は、少なくとも2つの光学センサ210によって生成された画像を比較し、その少なくとも2つの光学センサのうちのいずれかが、もしあれば、(例えば、図1Bおよび1Dに関して上述したように)EODおよび/または故障のうちの少なくとも1つを被っているかを検出するように構成されてもよい。
いくつかの実施形態によれば、内蔵試験(例えば、内蔵試験モジュール230によって実施される)および相対内蔵試験(例えば、相対内蔵試験モジュール240によって実施される)は、並行して実施される。
ここで、少なくとも2つの光学センサ(光学センサ110または210など)を含む光学システム(光学システム100または200など)によって撮られた画像フレームのセットである図3を参照すると、相対内蔵試験が、本発明の実施形態に従って、画像フレームの1つのサブセットに、画像フレームの第二サブセットと比較して、適用される。
フレーム302は、入力画像である。フレーム304は、入力画像302のボケ画像である。フレーム306は、フレーム302のROIの画像である。フレーム308は、フレーム304のボケ画像である。フレーム310は、画像302をFFTフィルタでフィルタリングした結果である。フレーム312は、フレーム308のFFTフィルタリング結果である。
ここで図4を参照すると、この図は、入力画像フレームと、本発明の実施形態に従って、閾値フィルタを適用した後、およびノイズフィルタを適用した後の入力画像フレームを示す画像フレームのセットである。
フレーム402は入力画像であり、フレーム404はフレーム402上で閾値を作動させた結果であり、フレーム406はフレーム406上でノイズ低減動作を行った結果である。
ここで、本発明の実施形態に従って、光学システムの光学センサ(光学センサ110、210および光学システム100、200など)のクリーンレンズで撮像された画像フレームと、光学システムの光学センサの非クリーンレンズで撮像された画像フレームと、そのフレーム画像を減算した結果から生じるフレームのセットである図5を参照する。
画像フレーム502は、光学センサのクリーンレンズで撮像された画像を示す。画像フレーム504は、光学センサの非クリーンレンズで撮像された同じ風景の画像を示し、フレーム506は、画像フレーム502および504上に差分演算子を適用することから生じる画像を描写する。
ここで、本発明の実施形態に従って、FFT演算子が作用された光学システム(光学センサ110、210および光学システム100、200など)の光学センサによって撮像された画像フレームと、減算、閾値およびノイズ低減が作用されたこれらのフレームの派生物を示す画像フレームのセットである図6を参照する。
画像フレーム606は、クリーンレンズを有する光学センサの光学センサによって撮像されたFFTを受ける入力画像フレーム(画像フレーム602)と、非クリーンレンズを有する光学センサによって撮像された画像フレーム(画像フレーム604)のFFT結果に差分演算子を操作した結果を示す。画像フレーム608は、フレーム606の画像に閾値を適用した結果を示す(結果として生じるアーチファクト608bは、円608aで囲まれて示されている)。画像フレーム610は、フレーム608の画像にノイズ低減を適用した結果を示す。画像フレーム612は、図4に示される入力に、逆FFTおよびノイズ低減ならびに差分を適用した結果を示す。
ここで、図7を参照すると、この図は、本発明のいくつかの実施形態に従って、光学システムの光学センサの内蔵試験を実施する方法700のフローチャートである。
方法700は、光学システム100(例えば、図1A、図1B、図1C、および図1Dに関して上述したようである)または光学システム200(例えば、図2に関して上述したようである)によって実施することができ、これらの光学システムは、方法700を実施するように構成することができる。方法700は、図7に示されるフローチャートおよび対応する説明に限定されないことに留意されたい。例えば、様々な実施形態では、方法700は、図示された各ボックスまたはステージを通過する必要はなく、あるいは図示され説明された順序と全く同じ順序で通過する必要もない。
いくつかの実施形態によれば、方法700は、光学システムの光学センサから複数の画像フレームを受信するステップ(ステージ702)を含む。例えば、光学センサは、光学センサ110または210のいずれか1つであってもよく、光学システムは、光学システム100または200のいずれか1つであってもよい(それぞれ、図1A~図1Dおよび図2に関して上述したように)。
いくつかの実施形態では、方法700は、複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータの少なくとも1つの変動を、その期待される1つまたは複数のパラメータと比較して検出するステップ(ステージ704)を含む。例えば、サブセットの画像フレームは、サブセットのサンプリングされた画像114であってもよい(例えば、図1Aおよび図1Cに関連して上述したように)。
いくつかの実施形態では、方法700は、少なくとも1つの変動が、光学センサの光学的外乱(EOD)によるものか、または光学センサの故障によるものかを判定するステップ(ステージ706)を含む(例えば、図1Aに関して上述したように)。
いくつかの実施形態によれば、方法700は、サブセットの画像フレームの各画像フレームに、高速フーリエ変換(FFT)を適用して、それぞれの画像フレームのFFT画像を生成するステップ(ステージ710)を含む(例えば、図1Cに関して上述したように)。(FFTではなく)周波数領域への他の変換が、画像フレームに適用され得ることに留意されたい(例えば、図1Cに関して上述したように)。
いくつかの実施形態において、方法700は、それぞれの画像フレームのFFT画像にハイパスフィルタ(HPF)を適用して、それぞれのFFT画像のHPF画像を生成するステップ(ステージ712)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれのHPF画像のHPF画像の画素のエネルギー/グレーレベルを合計して、それぞれのHPF画像のHPFグレーレベル合計値を生成するステップ(ステージ714)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれのHPF画像のHPFグレーレベル合計値が期待HPFグレーレベル合計閾値を上回るかどうかを判定するステップ(ステージ716)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれのHPF画像のHPFグレーレベル合計値が期待HPFグレーレベル合計閾値を下回る場合、光学センサがEODまたは故障のうちの少なくとも1つを被っていることを示すステップ(ステージ718)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれのHPF画像のHPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出するステップ(ステージ720)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、HPFグレーレベル合計値の少なくとも1つの変動のパターンを、期待HPFグレーレベル合計値に関して、識別するステップ(ステージ722)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、パターンに基づいて、少なくとも1つの変動がEODによるものか、または光学センサの故障によるものかを判定するステップ(ステージ724)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態によれば、方法700は、サブセットのサンプリングされた画像フレームの各画像フレームのヒストグラムを計算して、それぞれの画像フレームのヒストグラムを生成するステップ(ステージ730)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれの画像フレームのヒストグラムの少なくとも1つの変動を、その期待ヒストグラムに関して、検出するステップ(ステージ732)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれの画像フレームのヒストグラムの少なくとも1つの変動のパターンを、その期待ヒストグラムに関して、識別するステップ(ステージ734)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、パターンに基づいて、少なくとも1つの変動がEODによるものか、または光学センサの故障によるものかを判定するステップ(ステージ736)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれの画像フレームのヒストグラムに対するそれぞれの画像フレーム内の指定オブジェクトの寄与度を計算するステップ(ステージ738)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれの画像フレームのヒストグラムに対する指定オブジェクトの寄与度の少なくとも1つの変動を、その期待寄与度に関して、検出するステップ(ステージ740)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれの画像フレームのヒストグラムに対する指定オブジェクトの寄与度の少なくとも1つの変動のパターンを、その期待寄与度に関して、識別するステップ(ステージ742)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、パターンに基づいて、少なくとも1つの変動がEODによるものか、または光学センサの故障によるものかを判定するステップ(ステージ744)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態によれば、方法700は、サンプリングされた画像フレームのそれぞれの画像フレームに、ボックス差分/ブロブフィルタまたは任意の他のハイパスフィルタ(HPF)を適用して、それぞれの画像フレームのDOB/HPF画像を生成するステップ(ステージ750)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、期待DOB/HPF閾値を上回るそれぞれのDOB/HPF画像のDOB/HPF画像の画素のエネルギー/グレーレベルを合計して、それぞれのDOB/HPF画像のDOB/HPFグレーレベル合計値を生成するステップ(ステージ752)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、それぞれの画像フレームのDOB/HPFグレーレベル合計値の少なくとも1つの変動を、その期待DOB/HPFグレーレベル合計値に関して、検出するステップ(ステージ754)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態では、方法700は、DOB/HPFグレーレベル合計値の少なくとも1つの変動のパターンを、期待DOB/HPFグレーレベル合計値に関して、識別するステップ(ステージ756)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態では、方法700は、パターンに基づいて、少なくとも1つの変動がEODによるものか、または光学センサの故障によるものかを判定するステップ(ステージ758)を含む(例えば、図1Cに関して上述したように)。
いくつかの実施形態によれば、方法700は、少なくとも2つのセンサの第一の光学センサによって生成された第一の複数の画像フレームの第一サブセットの画像フレームの第一の画像を受信するステップ(ステージ760)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態では、方法700は、少なくとも2つのセンサの第二の光学センサによって生成された第二の複数の画像フレームの第二サブセットの画像フレームの第二の画像を受信するステップ(ステージ762)を含み、第二の画像フレームは第一の画像フレームに対応する(例えば、図1Dに関して上述したように)。
いくつかの実施形態において、方法700は、第一の画像フレームおよび第二の画像フレームを同じ寸法および解像度にスケーリングして、第一のスケーリングされた画像および第二のスケーリングされた画像を生成するステップ(ステージ764)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態では、方法700は、第一のスケーリングされた画像に高速フーリエ変換(FFT)を適用して、第一のスケーリングされたFFT画像を生成し、第二のスケーリングされた画像上にFFTを適用して、第二のスケーリングされたFFT画像を生成するステップ(ステージ766)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態では、方法700は、第一のスケーリングされたFFT画像と第二のスケーリングされたFFT画像との間の差分を決定するステップ(ステージ768)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態では、方法700は、第一のスケーリングされたFFT画像と第二のスケーリングされたFFT画像との間の差分が期待差分閾値を上回っているかどうかを決定するステップ(ステージ770)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態では、方法700は、差分に基づいて、差分が期待差分閾値を上回るとき、第一の光学センサまたは第二の光学センサのうちのいずれがEODまたは故障を被っているかを決定するステップ(ステージ772)を含む(例えば、図1Dに関して上述したように)。
いくつかの実施形態によれば、方法700は、光学センサが列車の進行方向に面するように、光学センサを列車の機関車上に配置するステップ(ステージ780)を含む(例えば、図2に関して上述したように)。
いくつかの実施形態では、方法700は、複数の画像フレームのうちの少なくともいくつかを分析するステップ(ステージ782)を含む(例えば、図2に関して上述したように)。
いくつかの実施形態では、方法700は、分析された画像フレーム内で、レール、およびレール上またはレールの所定の近傍にある潜在的障害物を検出し、識別するステップ(ステージ784)を含む(例えば、図2に関して上述したように)。
本発明の1つの利点は、内蔵試験モジュールおよび/または相対内蔵試験モジュールで実施される方法の実装によって、この方法を実施するために必要とされる計算リソースの消費が少なくなることである。本発明の別の利点は、内蔵試験モジュールおよび/または相対内蔵試験モジュールで実施される方法の実装によって、一切の所定の基準データ/画像フレームが不要になることである。
したがって、その方法の実装は、高い故障カバレッジ確率を提供しながら、リアルタイムで(例えば、画像フレームのストリームに対する一切の待ち時間なしに)、事実上、光学システム/処理ユニットの動作機能を妨げることなく、実施され得る。さらに、その方法は、その方法を実施するために画像フレームを保存/記憶する必要がないので(例えば、図1C、図1D、および図7に関して上述したように)、保存される必要のない各画像フレーム当たり約6Mbだけ光学システムの全体記憶空間を減らすことができる。
本発明の態様は、本発明の実施形態による方法、装置(システム)、およびコンピュータプログラム製品のフローチャート図および/または部分図を参照して上述されている。フローチャート図および/または部分図の各部分、ならびにフローチャート図および/または部分図における部分の組合せは、コンピュータプログラム命令によって実装され得ることが理解されるであろう。これらのコンピュータプログラム命令は、汎用コンピュータ、専用コンピュータ、または他のプログラマブルデータ処理装置のプロセッサに提供されて、コンピュータまたは他のプログラマブルデータ処理装置のプロセッサを介して実行される命令が、フローチャートおよび/または部分図もしくはその複数部分で指定された機能/動作を実装するための手段を作成するように、機械を生成することができる。
これらのコンピュータプログラム命令は、コンピュータ、他のプログラマブルデータ処理装置、または他のデバイスに特定の方法で機能するように指示することができるコンピュータ可読媒体に格納することもでき、その結果、コンピュータ可読媒体に格納された命令は、フローチャートおよび/または部分図、その一部分または複数部分で指定された機能/動作を実装する命令を含む製造品を生成する。コンピュータプログラム命令は、また、コンピュータ、他のプログラマブルデータ処理装置、または他のデバイスにロードされて、一連の動作ステップがコンピュータ、他のプログラマブル装置、または他のデバイス上で実施されて、コンピュータ実装プロセスを生成することができ、その結果、コンピュータまたは他のプログラマブル装置上で実行される命令が、フローチャートおよび/または部分図、その一部分または複数部分で指定された機能/動作を実装するためのプロセスを提供するようになる。
前述のフローチャートおよび図は、本発明の様々な実施形態によるシステム、方法、およびコンピュータプログラム製品の可能な実装のアーキテクチャ、機能、および動作を示す。この点に関して、フローチャートまたは部分図の各部分は、指定された論理機能を実装するための1つまたは複数の実行可能な命令を含む、モジュール、セグメント、またはコードの一部を表すことができる。また、いくつかの代替的な実装において、その部分に記載されている機能が、図に記載されている順序とは異なる順序で発生する可能性があることに留意されたい。例えば、連続して示される2つの部分は、実際には、実質的に同時に実行されることもでき、あるいは、それらの部分は、含まれる機能に応じて、時として、逆の順序で実行されることもできる。また、部分図および/またはフローチャート図の各部分、ならびに部分図および/またはフローチャート図の各部分の組合せは、指定された機能または動作を実行する専用ハードウェアベースのシステム、または専用ハードウェアとコンピュータ命令の組合せによって実装できることに留意されたい。
上記の説明では、実施形態は、本発明の一例または一実施形態である。「一実施形態」、「実施形態」、「特定の実施形態」または「いくつかの実施形態」の様々な出現は、必ずしもすべてが同じ実施形態を指すわけではない。本発明の様々な特徴は、単一の実施形態の文脈で説明することができるが、特徴は、別々に、または任意の適切な組合せで提供することもできる。逆に、本発明は、明確にするために、本明細書では別個の複数の実施形態の文脈で説明することができるが、本発明は、単一の実施形態で実施することもできる。本発明の特定の実施形態は、上に開示された異なる実施形態からの特徴を含むことができ、特定の実施形態は、上に開示された他の実施形態からの要素を組み込むことができる。特定の実施形態の文脈における本発明の要素の開示は、特定の実施形態のみにおけるそれらの使用を限定するものとして解釈されるべきではない。さらに、本発明は、様々な方法で実施または実行することができ、本発明は、上記の説明で概説したもの以外の特定の実施形態で実施することができることを理解されたい。
本発明は、これらの図または対応する説明に限定されない。例えば、フローは、図示された各ボックスまたは状態を通過する必要はなく、あるいは図示され説明されたのと全く同じ順序で通過する必要もない。本明細書で使用される技術用語および科学用語の意味は、別段の定義がない限り、本発明が属する技術分野の当業者によって一般に理解されるものとする。本発明を限られた数の実施形態に関して説明してきたが、これらは、本発明の範囲に対する限定として解釈されるべきではなく、むしろ、好ましい実施形態のいくつかの例示として解釈されるべきである。他の可能な変形、修正、および応用もまた、本発明の範囲内である。したがって、本発明の範囲は、これまでに説明されたものによって限定されるべきではなく、添付の特許請求の範囲およびそれらの法的均等物によって限定されるべきである。

Claims (14)

  1. 光学システムであって、その光学センサの内蔵試験を実施可能で、
    複数の画像フレームを生成するように構成された光学センサと、
    前記光学センサと通信する処理ユニットであって、前記処理ユニットが、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動を検出し、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるものか、または前記光学センサの故障によるものかを判定するように、構成された内蔵試験モジュールを備える、処理ユニットと、
    を備え、 前記内蔵試験モジュールは、
    前記サブセットの画像フレームの各画像フレームに高速フーリエ変換(FFT)を適用して、前記それぞれの画像フレームのFFT画像を生成し、
    前記それぞれの画像フレームの前記FFT画像にハイパスフィルタ(HPF)を適用して、前記それぞれの画像フレームのHPF画像を生成し、
    前記それぞれの前記HPF画像のHPF画像の画素のグレーレベルを合計し、前記それぞれのHPF画像のHPFグレーレベル合計値を生成し、
    前記それぞれのHPF画像の前記HPFグレーレベル合計値が、期待HPFグレーレベル合計閾値を上回るかどうかを判定し、
    前記それぞれの画像フレームの前記HPFグレーレベル合計値が前記期待HPFグレーレベル合計閾値を下回る場合、前記光学センサが前記EODまたは前記故障の少なくとも1つを被っていることを示すように、
    構成される、光学システム。
  2. 前記内蔵試験モジュールは、
    前記それぞれのHPF画像の前記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出し、
    前記HPFグレーレベル合計値の前記少なくとも1つの変動のパターンを、前記期待HPFグレーレベル合計値に関して、識別し、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するように、
    さらに構成される、請求項に記載の光学システム。
  3. 光学システムであって、その光学センサの内蔵試験を実施可能で、
    複数の画像フレームを生成するように構成された光学センサと、
    前記光学センサと通信する処理ユニットであって、前記処理ユニットが、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動を検出し、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるものか、または前記光学センサの故障によるものかを判定するように、構成された内蔵試験モジュールを備える、処理ユニットと、
    を備え、
    前記内蔵試験モジュールは、
    前記サブセットのサンプリングされた画像フレームの各画像フレームのヒストグラムを計算して、前記それぞれの画像フレームのヒストグラムを生成し、
    前記それぞれの画像フレームの前記ヒストグラムの少なくとも1つの変動を、その期待ヒストグラムに関して、検出し、
    前記それぞれの画像フレームの前記ヒストグラムの前記少なくとも1つの変動のパターンを、前記期待ヒストグラムに関して、識別し、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するように、
    さらに構成される光学システム。
  4. 前記内蔵試験モジュールは、
    前記それぞれの画像フレームの前記ヒストグラムに対する前記それぞれの画像フレーム内の指定オブジェクトの寄与度を計算し、
    前記それぞれの画像フレームの前記ヒストグラムに対する前記指定オブジェクトの前記寄与度の少なくとも1つの変動を、その期待寄与度に関して、検出し、
    前記それぞれの画像フレームの前記ヒストグラムに対する前記指定オブジェクトの前記寄与度の前記少なくとも1つの変動のパターンを、その期待寄与度に関して、識別し、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するように、
    さらに構成される、請求項に記載の光学システム。
  5. 光学システムであって、その光学センサの内蔵試験を実施可能で、
    複数の画像フレームを生成するように構成された光学センサと、
    前記光学センサと通信する処理ユニットであって、前記処理ユニットが、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動を検出し、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるものか、または前記光学センサの故障によるものかを判定するように、構成された内蔵試験モジュールを備える、処理ユニットと、
    を備え、
    前記内蔵試験モジュールは、
    サンプリングされた画像フレームの各画像フレームにハイパスフィルタ(HPF)を適用して、前記それぞれの画像フレームのHPF画像を生成し、
    期待HPF値を上回る前記それぞれのHPF画像の画素のグレーレベルを合計し、前記それぞれのHPF画像のHPFグレーレベル合計値を生成し、
    前記それぞれのHPF画像の前記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出し、
    前記HPFグレーレベル合計値の前記少なくとも1つの変動のパターンを、前記期待HPFグレーレベル合計値に関して、識別し、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するように、
    さらに構成される光学システム。
  6. 光学システムであって、その光学センサの内蔵試験を実施可能で、
    複数の画像フレームを生成するように構成された光学センサと、
    前記光学センサと通信する処理ユニットであって、前記処理ユニットが、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較した少なくとも1つの変動を検出し、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるものか、または前記光学センサの故障によるものかを判定するように、構成された内蔵試験モジュールを備える、処理ユニットと、
    を備え、
    前記光学システムは、少なくとも2つの光学センサを備え、前記処理ユニットは、相対内蔵試験モジュールを備え、前記相対内蔵試験モジュールは、
    前記少なくとも2つのセンサの第一の光学センサによって生成された第一の複数の画像フレームの第一サブセットの画像フレームの第一の画像を受信し、
    前記少なくとも2つのセンサの第二の光学センサによって生成された第二の複数の画像フレームの第二サブセットの画像フレームの第二の画像を受信し、前記第二の画像フレームは前記第一の画像フレームに対応する、
    前記第一の画像フレームと前記第二の画像フレームを同じ寸法と解像度にスケーリングして、第一のスケーリングされた画像と第二のスケーリングされた画像を生成し、
    前記第一のスケーリングされた画像に高速フーリエ変換(FFT)を適用して、第一のスケーリングされたFFT画像を生成し、前記第二のスケーリングされた画像にFFTを適用して、第二のスケーリングされたFFT画像を生成し、
    前記第一のスケーリングされたFFT画像と前記第二のスケーリングされたFFT画像の差分を決定し、
    前記第一のスケーリングされたFFT画像と前記第二のスケーリングされたFFT画像の前記差分が期待差分閾値を上回るかどうかを判定し、
    前記差分に基づいて、前記差分が前記期待差分閾値を上回る場合に、前記第一の光学センサまたは前記第二の光学センサのいずれが前記EODまたは前記故障を被っているかを判定するように、
    構成される光学システム。
  7. 前記光学センサが列車90の進行方向に面するように、前記列車の機関車上に配置可能な光学システムであって、前記処理ユニットが、前記複数の画像フレームのうちの少なくともいくつかを分析し、前記分析された画像フレームにおいて、レールと、前記レール上または前記レールの所定の近傍にある潜在的障害物を検出して、識別するように構成された障害物検出モジュールをさらに備える、請求項1~のいずれか一項に記載の光学システム。
  8. 光学システムの光学センサの内蔵試験を実施する方法であって、
    複数の画像フレームを光学センサから受信するステップと、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較して、少なくとも1つの変動を検出するステップと、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるか、または前記光学センサの故障によるかを判定するステップと、
    を含み、 前記サブセットの画像フレームの各画像フレームに高速フーリエ変換(FFT)を適用して、前記それぞれの画像フレームのFFT画像を生成するステップと、
    前記それぞれの画像フレームの前記FFT画像にハイパスフィルタ(HPF)を適用して、前記それぞれのFFT画像のHPF画像を生成するステップと、
    前記それぞれのHPF画像の前記HPF画像の画素のグレーレベルを合計し、前記それぞれのHPF画像のHPFグレーレベル合計値を生成するステップと、
    前記それぞれのHPF画像の前記HPFグレーレベル合計値が期待HPFグレーレベル合計閾値を上回るかどうかを判定するステップと、
    前記それぞれの画像フレームの前記HPFグレーレベル合計値が前記期待HPFグレーレベル合計閾値を下回る場合、前記光学センサが前記EODまたは前記故障の少なくとも1つを被っていることを示すようにするステップと、
    をさらに含む、方法。
  9. 前記それぞれのHPF画像の前記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出するステップと、
    前記HPFグレーレベル合計値の前記少なくとも1つの変動のパターンを、前記期待HPFグレーレベル合計値に関して、識別するステップと、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するステップと、
    をさらに含む、請求項に記載の方法。
  10. 光学システムの光学センサの内蔵試験を実施する方法であって、
    複数の画像フレームを光学センサから受信するステップと、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較して、少なくとも1つの変動を検出するステップと、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるか、または前記光学センサの故障によるかを判定するステップと、
    を含み、
    サブセットのサンプリングされた画像フレームの各画像フレームのヒストグラムを計算して、前記それぞれの画像フレームのヒストグラムを生成するステップと、
    前記それぞれの画像フレームの前記ヒストグラムの少なくとも1つの変動を、その期待ヒストグラムに関して、検出するステップと、
    前記それぞれの画像フレームの前記ヒストグラムの前記少なくとも1つの変動のパターンを、前記ヒストグラムに関して、識別するステップと、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するステップと、
    をさらに含む方法。
  11. 前記それぞれの画像フレームの前記ヒストグラムに対する前記それぞれの画像フレーム内の指定オブジェクトの寄与度を計算するステップと、
    前記それぞれの画像フレームの前記ヒストグラムに対する前記指定オブジェクトの前記寄与度の少なくとも1つの変動を、その期待寄与度に関して、検出するステップと、
    前記それぞれの画像フレームの前記ヒストグラムに対する前記指定オブジェクトの前記寄与度の前記少なくとも1つの変動のパターンを、その期待寄与度に関して、識別するステップと、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するステップと、
    をさらに含む、請求項10に記載の方法。
  12. 光学システムの光学センサの内蔵試験を実施する方法であって、
    複数の画像フレームを光学センサから受信するステップと、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較して、少なくとも1つの変動を検出するステップと、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるか、または前記光学センサの故障によるかを判定するステップと、
    を含み、
    前記サンプリングされた画像フレームの各画像フレームにハイパスフィルタを適用して、前記それぞれの画像フレームのHPF画像を生成するステップと、
    期待HPF値を上回る前記それぞれのHPF画像の画素のグレーレベルを合計し、前記それぞれのHPF画像のHPFグレーレベル合計値を生成するステップと、
    前記それぞれのHPF画像の前記HPFグレーレベル合計値の少なくとも1つの変動を、その期待HPFグレーレベル合計値に関して、検出するステップと、
    前記HPFグレーレベル合計値の前記少なくとも1つの変動のパターンを、前記期待HPFグレーレベル合計値に関して、識別するステップと、
    前記パターンに基づいて、前記少なくとも1つの変動が前記EODによるものか、または前記光学センサの前記故障によるものかを判定するステップと、
    をさらに含む方法。
  13. 光学システムの光学センサの内蔵試験を実施する方法であって、
    複数の画像フレームを光学センサから受信するステップと、
    前記複数の画像のサブセットの画像フレームのうちの少なくとも1つの画像フレームの中から、前記それぞれの少なくとも1つの画像フレームの1つまたは複数のパラメータを、その期待される1つまたは複数のパラメータと比較して、少なくとも1つの変動を検出するステップと、
    前記少なくとも1つの変動が、前記光学センサの光学的外乱(EOD)によるか、または前記光学センサの故障によるかを判定するステップと、
    を含み、
    少なくとも2つのセンサの第一の光学センサによって生成された第一の複数の画像フレームの第一サブセットの画像フレームの第一の画像を受信するステップと、
    前記少なくとも2つのセンサの第二の光学センサによって生成された第二の複数の画像フレームの第二サブセットの画像フレームの第二の画像を受信するステップであって、前記第二の画像フレームは前記第一の画像フレームに対応する、ステップと、
    前記第一の画像フレームと前記第二の画像フレームを同じ寸法と解像度にスケーリングして、第一のスケーリングされた画像と第二のスケーリングされた画像を生成するステップと、
    前記第一のスケーリングされた画像に高速フーリエ変換(FFT)を適用して、第一のスケーリングされたFFT画像を生成し、前記第二のスケーリングされた画像にFFTを適用して、第二のスケーリングされたFFT画像を生成するステップと、
    前記第一のスケーリングされたFFT画像と前記第二のスケーリングされたFFT画像の差分を決定するステップと、
    前記第一のスケーリングされたFFT画像と前記第二のスケーリングされたFFT画像の前記差分が期待差分閾値を上回るかどうかを判定するステップと、
    前記差分に基づいて、前記差分が前記期待差分閾値を上回る場合に、前記第一の光学センサまたは前記第二の光学センサのいずれが前記EODまたは前記故障を被っているかを判定するステップと、
    をさらに含む方法。
  14. 前記光学センサが列車の進行方向に面するように、前記光学センサを前記列車の機関車上に配置するステップと、
    前記複数の画像フレームのうちの少なくともいくつかを分析するステップと、
    前記分析された画像フレームにおいて、レールと、前記レール上または前記レールの所定の近傍にある潜在的障害物を検出して、識別するステップと、
    をさらに含む、請求項8~13のいずれか一項に記載の方法。
JP2020545280A 2018-02-28 2019-02-27 光学センサの内蔵試験のためのシステムおよび方法 Active JP7354129B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862636210P 2018-02-28 2018-02-28
US62/636,210 2018-02-28
PCT/IL2019/050224 WO2019167044A1 (en) 2018-02-28 2019-02-27 System and method for built in test for optical sensors

Publications (2)

Publication Number Publication Date
JP2021515482A JP2021515482A (ja) 2021-06-17
JP7354129B2 true JP7354129B2 (ja) 2023-10-02

Family

ID=67805661

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020545280A Active JP7354129B2 (ja) 2018-02-28 2019-02-27 光学センサの内蔵試験のためのシステムおよび方法

Country Status (5)

Country Link
US (1) US11477435B2 (ja)
EP (1) EP3759909A4 (ja)
JP (1) JP7354129B2 (ja)
CN (1) CN111919438B (ja)
WO (1) WO2019167044A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7417426B2 (ja) 2020-01-15 2024-01-18 アズビル株式会社 異常検知装置、および異常検知方法
CN117097881B (zh) * 2023-10-09 2024-01-02 芯动微电子科技(武汉)有限公司 一种图像处理模块的调试方法和装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007189369A (ja) 2006-01-12 2007-07-26 Alpine Electronics Inc カメラのレンズ汚れ検出装置及び画像表示システム
JP2016525487A (ja) 2013-07-31 2016-08-25 カッツ、エレン ヨセフKATZ, Elen Josef 障害物識別及び回避システム並びに方法

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5692065A (en) * 1994-08-18 1997-11-25 International Business Machines Corporation Apparatus and method for determining image quality
US5923027A (en) * 1997-09-16 1999-07-13 Gentex Corporation Moisture sensor and windshield fog detector using an image sensor
KR100234418B1 (ko) * 1997-09-24 2000-01-15 윤종용 원격제어용 수신장치
US9900478B2 (en) * 2003-09-04 2018-02-20 Flir Systems, Inc. Device attachment with infrared imaging sensor
US7683934B2 (en) * 2005-12-06 2010-03-23 March Networks Corporation System and method for automatic camera health monitoring
JP4139430B1 (ja) * 2007-04-27 2008-08-27 シャープ株式会社 画像処理装置及び方法、画像表示装置及び方法
US8315474B2 (en) * 2008-01-18 2012-11-20 Sanyo Electric Co., Ltd. Image processing device and method, and image sensing apparatus
JP2009245349A (ja) * 2008-03-31 2009-10-22 Namco Bandai Games Inc 位置検出システム、プログラム、情報記憶媒体及び画像生成装置
US8749635B2 (en) * 2009-06-03 2014-06-10 Flir Systems, Inc. Infrared camera systems and methods for dual sensor applications
KR101579737B1 (ko) * 2010-01-05 2015-12-23 삼성전자주식회사 자동초점 조절 장치 및 카메라 시스템
JP5241782B2 (ja) * 2010-07-30 2013-07-17 株式会社日立製作所 カメラ異常検出装置を有する監視カメラシステム
JP2013013061A (ja) * 2011-05-27 2013-01-17 Sanyo Electric Co Ltd 撮像装置
EP2541932A1 (en) 2011-06-28 2013-01-02 Axis AB Quality checking in video monitoring system.
US9008359B2 (en) * 2012-06-28 2015-04-14 International Business Machines Corporation Detection of static object on thoroughfare crossings
US9154697B2 (en) * 2013-12-06 2015-10-06 Google Inc. Camera selection based on occlusion of field of view
JP6040338B2 (ja) * 2014-03-25 2016-12-07 富士フイルム株式会社 手ぶれ補正装置、撮像装置
US9349068B2 (en) * 2014-06-05 2016-05-24 Honeywell International Inc. Detecting camera conditions to initiate camera maintenance
JP2017142356A (ja) * 2016-02-10 2017-08-17 ソニー株式会社 撮像装置、および、撮像装置の制御方法
JP2019074693A (ja) * 2017-10-18 2019-05-16 オリンパス株式会社 観察装置および焦点調節方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007189369A (ja) 2006-01-12 2007-07-26 Alpine Electronics Inc カメラのレンズ汚れ検出装置及び画像表示システム
JP2016525487A (ja) 2013-07-31 2016-08-25 カッツ、エレン ヨセフKATZ, Elen Josef 障害物識別及び回避システム並びに方法

Also Published As

Publication number Publication date
CN111919438A (zh) 2020-11-10
EP3759909A1 (en) 2021-01-06
WO2019167044A1 (en) 2019-09-06
US20200413036A1 (en) 2020-12-31
US11477435B2 (en) 2022-10-18
JP2021515482A (ja) 2021-06-17
EP3759909A4 (en) 2021-12-01
CN111919438B (zh) 2023-11-10

Similar Documents

Publication Publication Date Title
US11645744B2 (en) Inspection device and inspection method
US20180181796A1 (en) Image processing method and apparatus
KR101643672B1 (ko) 광류 추적 방법 및 장치
EP1881454A1 (en) Image processing for change detection
CN107404628B (zh) 图像处理装置及方法以及监视系统
CN113643189A (zh) 图像去噪方法、装置和存储介质
JP7354129B2 (ja) 光学センサの内蔵試験のためのシステムおよび方法
CN111695421B (zh) 图像识别方法、装置及电子设备
KR102476022B1 (ko) 얼굴검출 방법 및 그 장치
EP3992904A1 (en) Image restoration method and apparatus
EP4300417A1 (en) Method and apparatus for evaluating image authenticity, computer device, and storage medium
KR20180109658A (ko) 영상 처리 방법과 장치
US20160267632A1 (en) Apparatus, system, and method for enhancing image data
Santur et al. An adaptive fault diagnosis approach using pipeline implementation for railway inspection
Semenishchev Algorithm combination of deblurring and denoising on video frames using the method search of local features on image
CN112149596A (zh) 一种异常行为检测方法、终端设备及存储介质
CN116740728A (zh) 一种用于晶圆读码器动态获取方法和系统
Liu et al. Iris image deblurring based on refinement of point spread function
CN115393782A (zh) 图像处理方法、装置、电子设备及存储介质
KR102192017B1 (ko) 인간의 시각 특성을 반영한 비디오의 화질 평가 장치 및 방법
WO2019228195A1 (zh) 空间环境的感知方法及装置
Huang et al. Single image dehazing via color balancing and quad-decomposition atmospheric light estimation
Narayanan Ramakrishnan Detection and estimation of image blur
CN114511591B (zh) 轨迹跟踪方法、装置、电子设备及存储介质
CN117475357B (zh) 基于深度学习的监控视频图像遮挡检测方法及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230920

R150 Certificate of patent or registration of utility model

Ref document number: 7354129

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150