JP2023503749A - カメラレンズの状態検出方法、装置、機器及び記憶媒体 - Google Patents

カメラレンズの状態検出方法、装置、機器及び記憶媒体 Download PDF

Info

Publication number
JP2023503749A
JP2023503749A JP2021565780A JP2021565780A JP2023503749A JP 2023503749 A JP2023503749 A JP 2023503749A JP 2021565780 A JP2021565780 A JP 2021565780A JP 2021565780 A JP2021565780 A JP 2021565780A JP 2023503749 A JP2023503749 A JP 2023503749A
Authority
JP
Japan
Prior art keywords
abnormal
region
area
preset
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2021565780A
Other languages
English (en)
Inventor
シンホワ ヤオ
シンユー ゾン
Original Assignee
ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド filed Critical ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド
Publication of JP2023503749A publication Critical patent/JP2023503749A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M11/00Testing of optical apparatus; Testing structures by optical methods not otherwise provided for
    • G01M11/02Testing optical properties
    • G01M11/0242Testing optical properties by measuring geometrical properties or aberrations
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B43/00Testing correct operation of photographic apparatus or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing

Abstract

本発明は、カメラレンズの状態検出方法、装置、機器及び記憶媒体を発明し、前記カメラレンズの状態検出方法は、カメラによって撮影された目標画像に対して異常検出を実行して、目標画像内の最終的な異常領域を取得することと、最終的な異常領域に対して分析を実行して、カメラレンズが異常状態にあるか否かを確定することと、を含む。上記の解決策により、カメラレンズの検出の難易度を低下させ、検出のコストを削減することができる。【選択図】図2

Description

[関連出願への相互参照]
本願は、2020年10月28日に中国特許局に提出された、発明の名称が「カメラレンズの状態検出方法、装置、機器及び記憶媒体」である中国特許出願第202011172425.2での優先権を主張し、当該中国特許出願の全ての内容が参照により本願に援用される。
[技術分野]
本発明は、検出技術分野に関し、特に、カメラレンズの状態検出方法、装置、機器及び記憶媒体に関する。
画像収集機能を備えたカメラによって撮影された画像データは、スマートシティ、スマート交通、スマート工場、スマートキャンパス、スマートコミュニティ、自動運転、ロボット認識などの様々なコンピュータ視覚応用に適用されている。一般的に、カメラは、レンズを介して外部環境から画像データを収集する。したがって、カメラのレンズは、応用全体のデータソースとして非常に重要な役割を果たしている。
実際の応用では、カメラのレンズは、屋外環境にさらされ、通常、風雨、粉塵汚染、異常にブロックされるなど、通常の動作に影響を与える異常な状態にさらされる。したがって、カメラレンズの状態を監視し、カメラレンズの異常を時間内に発見する方法は非常に重要である。
本発明の実施例は、少なくともカメラレンズの状態検出方法、装置、機器及び記憶媒体を提供する。
本発明の実施例の第1態様によれば、カメラレンズの状態検出方法を提供し、当該方法は、カメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得することと、最終的な異常領域に対して分析を実行して、カメラのレンズが異常状態にあるか否かを確定することと、を含む。
このように、カメラによって撮影された目標画像に対して異常検出を行うことにより、他のセンサーに依存せずに画像の異常領域を直接使用して、カメラレンズの異常状態検出を実現し、これにより、カメラの検出の難易度を低下させ、検出のコストを削減することができる。
ここで、上記のカメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得することは、カメラによって撮影された目標画像に対してブレ検出を実行して、目標画像のいくつかの候補異常領域を取得することと、いくつかの候補異常領域から、少なくとも1つの候補異常領域を最終的な異常領域として選択することと、を含む。
このように、目標画像に対してブレ検出を行うことにより、目標画像のブレ状態に従って、目標画像の異常領域を確定することができ、これにより、目標画像の異常領域の識別を実現でき、その後、取得された最終的な異常領域に従って、カメラレンズの異常状態を判断することができる。また、カメラレンズの異常状態(水霧付き、汚れ付き、ブロックされるなど)により、目標画像の領域の一部にブレが発生することが多いため、画像のブレ検出により、上記の様々な異常状態を検出することができ、検出幅を向上させることができる。
ここで、上記のカメラによって撮影された目標画像に対してブレ検出を実行して、目標画像のいくつかの候補異常領域を取得することは、カメラによって撮影された目標画像に対してプリセット変換を実行して、変換画像を取得することであって、変換画像の各画素の画素値は、変化画像のブレ情報を反映できることと、変換画像の画素値に基づいて、候補異常領域を確定することと、を含む。
このように、目標画像に対して直接プリセット変換を行うことにより、目標画像に対するブレ度検出を実現でき、更に、候補異常領域を取得することができる。
ここで、上記のカメラによって撮影された目標画像に対してプリセット変換を実行して、変換画像を取得することは、前記目標画像に対して前処理を実行して、前処理された画像を取得することと、前処理された画像に対してラプラス(Laplacian)変換を実行して、変換画像を取得することと、を含む。上記の変換画像の画素値に基づいて、候補異常領域を確定することは、変換画像に基づいて二値化処理を実行して、二値化画像を取得することと、二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成することと、を含む。
このようにして、Laplacian変換後に取得された値は、変化画像のブレ情報を反映でき、これにより、ブレ領域のエッジをより明確にすると同時に、取得された画素値の大きさに従って、変換画像の予備的なブレ領域を取得することができる。さらに、画像の二値化を行うことにより、データ量を大幅に削減できるため、計算速度を向上させ、異常領域候補の検出が高速化される。同時に、二値化画像のブレ領域のエッジをより明確にし、候補異常領域を強調することができる。
ここで、上記の目標画像に対して前処理を実行して、前処理された画像を取得することは、目標画像に対してグレースケール処理を実行して、前記前処理された画像を取得することを含む。上記の変換画像に基づいて二値化処理を実行して、二値化画像を取得することは、変換画像に対してフィルタリング処理を実行して、フィルタリングされた画像を取得することであって、フィルタリング処理は、形態閉鎖動作(morphological opening operation)を含むことと、フィルタリングされた画像に対して二値化処理を実行して、二値化画像を取得することと、を含む。上記の二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成することは、二値化画像の画素値に対して反転処理を実行して、逆二値化画像を取得することと、二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成することと、を含む。
このように、目標画像に対してグレースケール処理を行うことにより、計算する必要のあるデータ量を削減させ、計算速度を向上させることができる。形態閉鎖動作などのフィルタリング処理により、非ブレ領域内部の干渉情報が除去され、後続のブレ領域検出の精度を向上させ、カメラレンズが異常状態にあるか否かの判断の精度を向上させることができる。さらに、反転動作により、後続のブレ領域に対する処理が容易になり、計算速度を向上させ、検出の難易度を低下させることができる。
ここで、上記のいくつかの候補異常領域から、少なくとも1つの候補異常領域を最終的な異常領域として選択することは、各候補異常領域の第1面積を取得することと、いくつかの候補異常領域から、第1面積がプリセットされた面積条件を満たす候補異常領域を、決定される異常領域として選択することと、少なくとも1つの決定される異常領域を最終的な異常領域として確定することと、を含む。
このように、候補異常領域に対してさらに分析を実行して、最終的な異常領域を決定することにより、ブレ領域をより正確に識別することができる。
ここで、上記のプリセットされた面積条件は、第1面積が第1プリセット面積閾値より大きいことである。上記の少なくとも1つの決定される異常領域を最終的な異常領域として確定することは、目標画像内の前記決定される異常領域の少なくとも1つの統計値を決定することであって、決定される異常領域の少なくとも1つの統計値は、前記決定される異常領域の飽和度の統計することによって取得された少なくとも1つの第1統計値、及び/又は、決定される異常領域の画素値を統計することによって取得された少なくとも1つの第2統計値を含むことと、決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、決定される異常領域を最終的な異常領域として確定することと、を含む。
このように、決定される異常領域の統計値を決定することにより、決定される異常領域のブレ状況をさらに判断することができ、それにより、ブレ検出の精度を向上させ、さらに、カメラレンズの状態検出の精度を向上させることができる。
ここで、上記の第1統計値と第2統計値が、それぞれ、平均値及び分散値のうちの少なくとも1つを含み、上記のプリセット統計条件は、決定される異常領域の各統計値が、統計値に対応するプリセット閾値より大きいことを含む。上記の目標画像の決定される異常領域の少なくとも1つの統計値を決定することは、決定される異常領域の画素位置情報に基づいて、決定される異常領域に対応する少なくとも1つのマスクを生成することであって、少なくとも1つのマスクは、領域マスク及び/又は境界マスクを含むことと、少なくとも1つのマスクが領域マスクを含む場合、目標画像に対応する飽和度画像を取得し、決定される異常領域に対応する領域マスクを使用して、飽和度画像から決定される異常領域に対応する第1の統計される領域を取得し、第1の統計される領域の飽和度を統計して、決定される異常領域の少なくとも1つの第1統計値を取得することと、及び/又は、少なくとも1つのマスクが境界マスクを含む場合、決定される異常領域に対応する境界マスクを使用して、目標画像から決定される異常領域に対応する第2統計待機領域を取得し、第2の統計される領域の画素値を統計して、決定される異常領域の少なくとも1つの第2統計値を取得することと、を含む。
このように、マスクを使用して目標画像内の決定される異常領域に関する領域を抽出することにより、決定される異常領域の統計値の正確な統計を実現し、後続のブレ検出の精度を向上させることができる。
ここで、上記の最終的な異常領域に対して分析を実行して、カメラのレンズが異常状態にあるか否かを確定することは、最終的な異常領域の第2面積を取得することと、最終的な異常領域の第2面積がプリセット領域条件を満たすか否かを判断することと、最終的な異常領域の第2面積がプリセット領域条件を満たす場合、目標画像が異常状態にあると確定することと、連続する第1プリセット数のフレームの目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、カメラレンズが異常状態にあると確定することであって、第1プリセット数及び第2プリセット数は正整数であることと、を含む。
このように、目標画像内の最終的な異常領域の面積を使用して目標画像の異常状態を判断し、プリセット数のフレームの目標画像の状態に基づいて、カメラレンズが異常状態にあるか否かを確定することりより、カメラレンズの異常検出を実現し、プリセット数が1より大きい場合、連続する複数フレームの目標画像の状態に従って、カメラのレンズが異常状態にあるか否かを総合的に判断することにより、カメラレンズの状態検出の精度を向上させることができる。
ここで、上記の最終的な異常領域の第2面積がプリセット領域条件を満たすか否か判断することは、最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たすか否かを判断することを含む。上記の最終的な異常領域の第2面積がプリセット領域条件を満たす場合、目標画像が異常状態にあると確定することは、最終的な異常領域の第2面積が第1プリセット領域条件を満たす場合、目標画像が第1異常状態にあると確定することと、最終的な異常領域の第2面積が第2プリセット領域条件を満たす場合、目標画像が第2異常状態にあると確定することと、を含む。上記の連続する第1プリセット数のフレームの目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、カメラレンズが異常状態にあると確定することは、連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にある場合、カメラレンズが第1異常状態にあると確定し、連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にあるのではなく、少なくとも第2プリセット数のフレームが第1異常状態又は第2異常状態にある場合、カメラレンズが第2異常状態にあると確定することを含む。
このように、カメラレンズの異常状態をさらに分割することにより、カメラレンズの異常状態をより正確に判断することができる。
ここで、上記の第1プリセット領域条件は、第2面積が第2プリセット面積閾値より大きいことであり、第2プリセット領域条件は、第2面積が第2プリセット面積閾値より小さい且つ第3プリセット面積閾値より大きいことであり、ここで、第2プリセット面積閾値は、第3プリセット面積閾値より大きい。
本発明の実施例の第2態様によれば、カメラレンズの状態検出装置を提供し、当該装置は、領域検出部及び状態分析部を含む。
領域検出部は、カメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得するように構成される。状態分析部は、最終的な異常領域に対して分析を実行して、カメラのレンズが異常状態にあるか否かを確定するように構成される。
本発明の実施例の第3態様によれば、電子機器を提供し、前記電子機器は、相互に結合されているメモリとプロセッサを備え、前記プロセッサは、前記メモリに記憶されたコンピュータプログラムを実行することにより、上記の第1態様におけるカメラレンズの状態検出方法を実現する。
本発明の実施例の第4態様によれば、コンピュータプログラムが記憶されたコンピュータ可読記憶媒体を提供し、前記コンピュータプログラムがプロセッサによって実行されるときに、上記の第1態様におけるカメラレンズの状態検出方法を実現する。
本発明の実施例の第5態様によれば、コンピュータ可読コードを含むコンピュータプログラムを提供し、前記コンピュータ可読コードが電子機器で実行されるときに、電子機器のプロセッサに、第1態様におけるカメラレンズの状態検出方法を実行させる。
上記の解決策によれば、カメラによって撮影された目標画像に対して異常検出を行うことにより、他のセンサーに依存せずに画像の異常領域を直接使用して、カメラレンズの異常状態検出を実現し、これにより、カメラの検出の難易度を低下させ、検出のコストを削減することができる。
上記した一般的な説明及び後述する詳細な説明は、単なる例示及び説明に過ぎず、本発明を限定するものではないことを理解されたい。
ここでの図面は、本明細書に組み込まれてその一部を構成し、これらの図面は、本発明と一致する実施例を示すものであり、明細書とともに本発明の技術的解決策を説明するために使用される。
本発明の実施例による電子機器の適用シナリオの概略図1である。 本発明の実施例による電子機器の適用シナリオの概略図2である。 本発明の実施例によるカメラレンズの状態検出方法の第1の実施例のフローチャートである。 本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第1フローチャートである。 本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第2フローチャートである。 本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第3フローチャートである。 本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第4フローチャートである。 本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第5フローチャートである。 本発明の実施例によるカメラレンズの状態検出方法の適用シナリオの概略図である。 本発明の実施例による異常領域検出モジュールの処理フローの概略図である。 本発明の実施例による各シナリオにおけるグレースケール画像の概略図である。 本発明の実施例による各シナリオにおける変換画像の概略図である。 本発明の実施例による各シナリオにおけるフィルタリングされた画像の概略図である。 本発明の実施例による各シナリオにおける逆二値化画像の概略図である。 本発明の実施例による各シナリオにおける候補異常領域の概略図である。 本発明の実施例によるカメラレンズの状態検出装置の概略構造図である。 本発明の実施例による電子機器の概略構造図である。 本発明の実施例によるコンピュータ可読記憶媒体の概略構造図である。
以下、図面を参照して、本発明の実施例をより詳しく説明する。
以下の説明では、本発明を完全に理解するために、特定のシステム構造、インターフェース、及び技術などの特定の詳細が提案されるが、これらは、本発明の実施例を説明するためのものであり、本発明を限定するものではない。
本明細書における「及び/又は」という用語は、関連付けられた対象を説明する単なる関連付けであり、3種類の関係が存在し得ることを表示し、例えば、A及び/又はBは、Aが独立で存在する場合、AとBが同時に存在する場合、Bが独立で存在する場合などの3つの場合を表示する。さらに、本明細書における記号「/」は、通常、関連付けられた対象間の関係が、「又は」という関係にあることを表示する。さらに、本明細書における「複数」は、2つ又は2つ以上であることを表示する。さらに、本明細書における「少なくとも1つ」という用語は、複数のうちの1つ又は複数のうちの少なくとも2つの任意の組み合わせを表示し、例えば、A、B、Cのうちの少なくとも1つを含むことは、A、B及びCで構成されるセットから選択された任意の1つ又は複数の要素を含むことを表示する。
本発明の実施例によるカメラは、画像収集を実現できる任意の機器、例えば、ビデオカメラ、カメラ、携帯電話などの端末機器であり得、カメラレンズは、画像を形成するために使用される当該機器の光学部分である。画像やビデオを撮影できる機器であれば、すべて本発明の実施例に記載のカメラレンズの状態検出方法を適用できることを理解されたい。いくつかの可能な実現形態では、本発明の実施例で説明されるカメラレンズの状態検出方法は、プロセッサにが、メモリに記憶されたコンピュータプログラムを呼び出して実行することで実現できる。
本発明の実施例によるカメラレンズの状態検出方法を実行主体は、電子機器であり得る。
一可能な実施形態では、図1Aは、電子機器の適用シナリオの概略図1である。図1Aに示されるように、電子機器は、プロセッサ11及びカメラ12を含み得、電子機器11は、カメラ12を介して目標画像を収集し、プロセッサ12を介して目標画像に対して分析処理を行うことにより、カメラ12のレンズが異常状態にあるか否かを確定する。例えば、電子機器は携帯電話として実装できる。
別の可能な実施形態では、図1Bは、電子機器の適用シナリオの概略図2である。図1Bに示されるように、電子機器10は、ネットワーク14を介して他の機器13によって伝送される目標画像をリアルタイムで収集でき、これにより、電子機器10は、受信した目標画像に対して分析処理を実行して、他の機器13のカメラレンズが異常状態にあるか否かを判断することができる。例えば、電子機器はコンピュータとして実装され得、コンピュータは、ネットワークを介してカメラ装置によって収集された目標画像を受信することができる。
図2を参照すると、図2は、本発明の実施例カメラレンズの状態検出方法の第1の実施例のフローチャートである。具体的には、以下のステップを含み得る。
ステップS11において、カメラによって撮影された目標画像に対して異常検出を実行して、目標画像内の最終的な異常領域を取得する。
本発明の実施例では、カメラによって撮影された画像は、目標画像として定義される。目標画像は、カメラレンズによって撮影されたビデオ内の特定のフレームの画像であってもよく、直接撮影された単一の画像であってもよい。本発明のいくつかの実施例では、目標画像は、カラー画像であってもよいし、グレースケール画像であってもよい。
目標画像を取得した後、目標画像に対して異常検出を直接実行して、前記目標画像内の最終的な異常領域を取得することができる。異常検出とは、目標画像の異常領域を検出することであり、目標画像の異常領域は、例えば、目標画像のブレ領域、又は目標画像全体が黒くなっているなど、正常に画像化されていない領域として理解できる。ここで、目標画像の異常領域の原因は、例えば、レンズに水霧や汚れが付いているか、又はレンズがブロックされているか、又はレンズの焦点が合っていないなどである。
目標画像に対して異常検出を行った後、取得された目標画像の異常領域は、最終的な異常領域として定義される。最終的な異常領域は、目標画像の一部であり得、その数は、1つ又は複数であり得る。また、最終的な異常領域は、目標画像全体が異常領域であることであり得る。
ステップS12において、最終的な異常領域に対して分析を実行して、カメラのレンズが異常状態にあるか否かを確定する。
異常検出を行った後、取得された最終的な異常領域に対して分析を行うことにより、レンズが異常状態にあるか否かを正確に判断することができる。例えば、最終的な異常領域の位置、大きさ、形状、画素情報などを分析することができ、最終的な異常領域に関するすべての情報を分析の基礎データとして使用できることが理解できる。本発明のいくつかの実施例では、分析のための複数の基本データを組み合わせることができ、複数のデータを分析することにより、カメラレンズが異常状態にあるか否かをより正確に確定することができる。
分析する際、分析が必要な最終的な異常領域の基本データの種類に従って、対応する方法で分析を行うことができる。例えば、飽和度分析法を使用して、最終的な異常領域の飽和度を計算し、さらに、最終的な異常領域の飽和度状況に従って、カメラレンズが異常状態にあるか否かを確定する。又は、画素点統計法を使用して、最終的な異常領域に含まれる画素点を計算することにより、最終的な領域の面積の大きさを確定することができる。
本発明の実施例では、カメラによって撮影された目標画像に対して異常検出を行うことにより、他のセンサーに依存せずに画像の異常領域を直接使用して、カメラレンズの異常状態検出を実現することができ、これにより、カメラの検出の難易度を低下させ、そして、検出のコストを削減することができる。
図3を参照すると、図3は、本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第1フローチャートである。本実施例は、上記の第1例に基づいてさらに説明され、具体的に、以下のステップを含み得る。
ステップS21において、カメラによって撮影された目標画像に対してブレ検出を実行して、目標画像のいくつかの候補異常領域を取得する。
一般的に、カメラレンズが異常状態にある場合、カメラによって撮影された目標画像にはブレ領域があり、即ち、目標画像に不鮮明な領域がある。したがって、本実施例では、まず、目標画像に対してブレ検出を行うことにより、目標画像の異常状況を予備判断することができる。ブレ検出を行った後、目標画像のブレ領域を取得することができ、それは候補異常領域として定義される。候補異常領域が目標画像の一部である場合、候補異常領域の数は1つ又は複数であり得、具体的な数は、ブレ検出の結果に従って決定する。
ここで、目標画像に対して、対応する変換を行うことにより、変換結果に従ってブレ状況を確定することができる。その具体的な例については、図4を参照して説明することができ、図4は、本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第2フローチャートである。本発明1つの実施例では、カメラによって撮影された目標画像に対してブレ検出を実行して、目標画像のいくつかの候補異常領域を取得することは、具体的に、以下のステップで実現できる。
ステップS211において、カメラによって撮影された目標画像に対してプリセット変換を実行して、変換画像を取得し、ここで、変換画像の各画素の画素値は、変化画像のブレ情報を反映することができる。
目標画像プリセット変換を実行し、変換後に取得された画像は、変換画像として定義される。プリセット変換後、取得された変換画像の各画素の画素値は、変化画像のブレ情報を反映することができる。各画素点に対してプリセット変換を実行することにより、各画素点に対応する画素値を取得することができる。画素の画素値は、変化画像のブレ情報を反映することができ、それは、画素の画素値の変化傾向によって反映されることができ、例えば、画素値の変化傾向を使用して、ブレ領域と非ブレ領域との間の境界をより明確にし、即ち、候補異常領域をより明確にすることができる。さらに、画素点の画素値の大きさも、当該画素点が属する領域がぶれているか否かを反映することができる。即ち、画素点の画素値の大きさを判断することにより、ブレ領域と非ブレ領域を予備判断することができる。
プリセット変換は、目標画像の各画素点に含まれる情報に対して処理を行うことであり得、処理後に得られた値は画素値であり得る。例えば、目標画像がカラー画像である場合、目標画像の各画素点の赤(R)、緑(G)、青(B)の3つのカラーチャネルの値に従って処理を行うことができ、最後に取得された値は、画素値である。プリセット変換は、例えば、Brenner(ブレナー)勾配関数、Tenengrad勾配関数、Laplacian(ラプラス)勾配関数、又はSMD(グレースケール分散)関数を使用してプリセット変換を実行する。画像のブレ状況を検出するために使用できる方法であれば、すべて本発明の実施例に適用され得ることが理解できる。
本発明の1つの実施例では、カメラによって撮影された目標画像に対してプリセット変換を実行して、変換画像を取得することは、具体的には、以下のステップを含む。
ステップS2111において、目標画像に対して前処理を実行して、前処理された画像を取得する。
目標画像に対してプリセット変換する場合、まず、目標画像に対して前処理を行うことができ、取得された画像は前処理された画像である。前処理は、画像の各画素点に含まれる情報に対して処理を行うことであり得、例えば、目標画像におけるRGBの3つのチャネル情報に対して処理を行うことであり得る。
本発明の1つの実施例では、前処理は、目標画像に対してグレースケール処理を行うことであり得、取得されたグレースケール画像は、前処理された画像である。例えば、下記式に従って目標画像に対してグレースケール処理を行うことができる。
式1
Figure 2023503749000002
上記の式1において、R、G、Bはそれぞれ、特定の画素点の赤(R)、緑(G)、青(B)の3つのカラーチャネルの値を表し、取得された値Grayは、当該画素点のグレースケール値である。グレースケール処理の具体的な計算式は、特定の状況に応じて調整できることが理解できる。
グレースケール処理により、各画素点に含まれる情報をRGBの3つのチャネル情報からグレースケール値の単一チャネル情報に変換でき、これにより、画素点に含まれる情報に対して処理を行う際のデータ量を削減し、計算速度を向上させることができる。
ステップS2112において、前処理された画像に対してラプラス変換を実行して、変換画像を取得する。
Laplacian勾配関数変換を使用して、前処理により取得された前処理された画像に対して処理を行うことができ、取得された画像は、変換画像である。Laplacian変換を使用することにより、前処理された画像の実際のブレ領域に対して検出を行うことにより、前処理された画像のブレ領域を取得することができる。Laplacianの具体的なプロセスは、例えば、ソベル演算子(sobel)を使用して、xとyの2次差を計算した後、合計を求めることであり、その式は以下の通りである。
式2
Figure 2023503749000003
上記の式2で、xとyはそれぞれ、画素座標内の各画素点の座標であり、srcは入力画像を表し、dstは出力画像を表す。
このように、Laplacian変換後に取得された値は、各画素点の画素値であり、当該画素値は、変化画像のブレ情報を反映することができ、例えば、ブレ領域のエッジをより明確にすることができると同時に、取得された画素値の大きさに従って、変換画像の予備的なブレ領域を取得することができる。
引き続き図4を参照する。
ステップS212において、変換画像の画素値に基づいて、候補異常領域を確定する。
変換画像の画素値が変化画像のブレ情報を反映できるため、変換画像の画素値に基づいて、候補異常領域を確定することができる。変換画像の画素値に基づくことは、変換画像の画素値の変化傾向、画素値の全体的な分布、又は画素値の大きさなど、画素値と関連するすべての情報に従って候補異常領域を確定できることを意味する。即ち、変換画像の一部の画素値に従って候補異常領域を確定してもよいし、変換画像の全体の画素点に従って候補異常領域を確定してもよい。例えば、画素点の画素値の変化傾向がある程度を超える範囲に囲まれた領域が候補異常領域であると確定することができる。
このように、目標画像に対して直接プリセット変換を行うことにより、目標画像に対するブレ検出を実現し、候補異常領域を取得することができる。
ここで、変換画像に対して二値化処理を行うことにより、変換画像から候補異常領域を確定することができる。その具体的な例については、図5を参照して説明することができ、図5は、本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第3フローチャートである。本発明の1つの実施例では、「変換画像の画素値に基づいて、候補異常領域を確定する」ことは、具体的には、以下のステップで実現できる。
ステップS2121において、変換画像に基づいて二値化処理を実行して、二値化画像を取得する。
各画素点の画素値の間の違いをさらに明確にし、変換画像のブレ領域と非ブレ領域の境界をより明確にし、候補異常領域を正確に確定するために、変換画像に対して二値化処理を行うことができる。例えば、まず、変換画像に対して閾値分割を行うことができる。閾値分割は、画素点の画素値を分類することであり、例えば、特徴閾値を設定し、画素点値が特徴閾値より小さいか等しい画素点を1つのカテゴリに分類し、画素点値が特徴閾値より大きい画素点を1つのカテゴリに分類し、特徴閾値は、例えば、50などの50~80の任意の値である。
閾値分割の後、変換画像の各画素点の画素点値は、2つのカテゴリに分けられる。このとき、二値化操作を実行することにより、この2つのカテゴリの画素点の画素値の違いをより明確にすることができる。例えば、画素点の値が特徴閾値より大きい画素点の画素値を第1プリセット画素値に設定することができ、特徴閾値より小さいか等しい画素点の画素値を第2プリセット画素値に設定することができ、当該第1プリセット画素値は0であり得、第2プリセット画素値は255であり得る。又は第1プリセット画素値は255であり、第2プリセット画素値は0であり得る。もちろん、上記の第1プリセット画素値及び第2プリセット画素値は、他の画素値に設定されてもよく、ここでは限定しない。
上記の画像二値化により、画像のデータ量を大幅に削減でき、計算速度を向上させ、異常領域候補の検出を高速化することができる。同時に、二値化された画像のブレ領域の境界をより明確にし、候補異常領域をさらに強調することができる。
本発明の1つの実施例では、「変換画像に基づいて閾値分割及び画像二値化を実行して、二値化画像を取得する」ことは、具体的には、以下のステップ1及びステップ2を含み得る。
ステップ1において、変換画像に対してフィルタリング処理を実行して、フィルタリングされた画像を取得する。
プリセット変換後に取得された変換画像において、非ブレ領域では、画素点のごく一部の画素値と他の画素点の画素値との間に大きな違いがあり得る。これらの違いの原因は、非ブレ領域の目標画像の色情報の変化又はグレーレベルの変化が大きいのに対し、ブレ領域の色情報の変化又はグレーレベルの変化は非常に小さく、0に近いためである可能性があり、これにより、プリセット変換後の一部の画素点の画素値は、他の画素点と比較して大きな違いがる。変換画像に反映されることは、即ち、非ブレ領域内に、穴(大きな違いのあるドット型の画素点の集合)又は小さな亀裂(大きな違いのあるストリップ型の画素点の集合)がある可能性がある。これらの穴や小さな亀裂がブレ領域に属しないため、後続のブレ検出へのこれらの穴や小さな亀裂の影響を回避するために、フィルタリング処理により、これらの穴や小さな亀裂を除去し、非ブレ領域を接続し、非ブレ領域の全体的な位置と形状が変更しないように維持することができる。
具体的には、当該フィルタリング処理は、形態閉鎖動作(morphological opening operation)を含み得るが、これに限定されない。形態閉鎖動作は、先にDilation計算を実行し、次にErosion計算を実行することである。
Dilation計算は、非ブレ領域の穴を埋め、非ブレ領域に含まれる小さな粒子のノイズ(非ブレ領域内の干渉情報)を除去することができる。その式は以下の通りである。
式3
Figure 2023503749000004
ここで、Aは非ブレ領域であり得、Bは構造要素であり得る。構造要素Bを使用して、非ブレ領域Aに対してDilation処理を実行する。
Erosion計算は、非ブレ領域の境界が縮小できるようにすることができ、いくつかの小さな穴や小さな亀裂を除去するために使用することができる。その式は以下の通りである。
式4
Figure 2023503749000005
変換画像が形態閉鎖動作(morphological opening operation)処理された後、取得された画像は、フィルタリングされた画像として定義される。このとき、フィルタリングされた画像において、形態閉鎖動作により、非ブレ領域内の干渉情報が除去され、後続のブレ領域の検出精度を向上させ、カメラレンズが異常状態にあるか否かの判断の精度を向上させることができる。
ステップ2において、フィルタリングされた画像に対して二値化処理を実行して、二値化画像を取得する。
フィルタリング処理を使用して非ブレ領域の穴又は小さな亀裂を除去した後、非ブレ領域及びブレ領域の境界をより明確にすると同時に、計算量を簡素化するために、上記の二値化処理を使用することができ、処理後に取得された画像は、二値化画像である。
引き続き図5を参照する。
ステップS2122において、二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成する。
二値化画像を取得した後、このときの二値化画像の画素点は、2つの画素値のみを持つ。この場合、画素値がプリセット画素条件を満たす画素点を検索することができ、これらの画素点で形成される領域は、候補異常領域である。例えば、非ブレ領域の画素点の画素値をより小さい値に設定した場合、二値化画像から大きい画素値を選択して、ブレ領域を形成することができる。1つの具体的な実施シナリオにおいて、非ブレ領域の画素点の画素値を255に設定でき、オープンソースコンピュータービジョンライブラリ(OpenCV)内のcv::findContours関数を使用して、画素値が255である画素点を検索することができる。
本発明の1つの実施例では、変換画像に対して画像二値化を行う際、ブレ領域の画素値を0に設定する可能性がある。ブレ領域の画素値が0であると、後続のブレ領域に対する処理が不便になる。この場合、計算速度を向上させ、計算の難易度を低下させるために、以下のステップで、「二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成する」ことを実現することができる。そのステップは、具体的には、以下のステップ1及びステップ2を含む。
ステップ1において、二値化画像の画素値に対して反転処理を実行して、逆二値化画像を取得する。
画像の二値化処理後、ブレ領域の画素値を0に設定し、非ブレ領域を0より大きい値に設定した場合、反転操作を行うことができ、即ち、非ブレ領域とブレ領域の画素値を交換することができる。例えば、ブレ領域の画素値が0で、非ブレ領域の画素値が255である場合、反転操作を行った後、ブレ領域の画素値が255で、非ブレ領域の画素値が0になる。このようにして、ブレ領域の画素値を0以外にすることができ、後続のブレ領域に対する処理が容易になり、計算速度を向上させ、検出の難易度を低下させることができる。
本発明の1つの実施例では、閾値分割、画像二値化及び反転操作の式は以下の通りである。
式5
Figure 2023503749000006
ここで、threshはプリセット値の画素閾値であり、max Valは最大画素値である。
二値化画像の画素値に対して反転操作を行った後、取得された画像は逆二値化画像として定義される。
ステップ2において、二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成する。
逆二値化画像でも、画素値がプリセット画素条件を満たす画素点を検索できる。ブレ領域の画素値が0より大きいため、プリセット画素条件は、画素点の画素値が0より大きいことであり得る。画素点の検索方法は、オープンソースコンピュータービジョンライブラリ(OpenCV)内のcv::findContours関数を使用して検索することであり得る。
引き続き図3を参照する。
ステップS22において、いくつかの候補異常領域から、少なくとも1つの候補異常領域を最終的な異常領域として選択する。
候補異常領域を取得した後、候補異常領域から、少なくとも1つを最終的な異常領域として選択する。例えば、候補異常領域に対して特定の処理を行った後、そのうちの少なくとも1つを最終的な異常領域として選択することができる。
図6を参照すると、図6は、本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第4フローチャートである。本発明の1つの実施例では、ブレ領域をより正確に識別するために、候補異常領域をさらに分析して最終的な異常領域を決定することができる。例えば、「いくつかの候補異常領域から、少なくとも1つの候補異常領域を最終的な異常領域として選択する」ことは、具体的には、以下のステップを含み得る。
ステップS221において、各候補異常領域の第1面積を取得する。
候補異常領域の面積は、第1面積として定義される。候補異常領域の面積は、候補異常領域に含まれる画素点の数を統計することによって確定することができ、例えば、特定の候補異常領域に含まれる画素点の数が100である場合、当該候補異常領域の第1面積の大きさは、100個の画素点の大きさである。
ステップS222において、いくつかの候補異常領域から、第1面積がプリセットされた面積条件を満たす候補異常領域を、決定される異常領域として選択する。
候補異常領域の面積を取得した後、候補異常領域の面積がプリセットされた面積条件を満たすか否かを判断することにより、候補異常領域に対して選別を行うことができ、プリセットされた面積条件を満たす候補異常領域は、決定される異常領域として定義される。
1つの具体的な実施シナリオにおいて、プリセットされた面積条件は、第1面積が第1プリセット面積閾値より大きいことであり得る。第1プリセット面積閾値は、例えば、2500個の画素点の大きさなどの2500~3000個の画素点の大きさの任意の値である。ブレ領域の面積は一般的に大きいため、第1面積閾値を設定することにより、小さい面積の候補異常領域を除外でき、ブレ領域を識別する精度を向上させる。
ステップS223において、少なくとも1つの決定される異常領域を最終的な異常領域として確定する。
候補異常領域に対して選別を行った後、取得された決定される異常領域から少なくとも1つを最終的な異常領域として選択することができる。選択する際、決定される異常領域に対して特定処理を行った後、そのうちの少なくとも1つを最終的な異常領域として選択することができる。
図7を参照すると、図7は、本発明の実施例によるカメラレンズの状態検出方法の第2の実施例の第5フローチャートである。本発明の1つの実施例では、決定される異常領域に対してさらに分析を行う場合、「少なくとも1つの決定される異常領域を最終的な異常領域として確定する」ことは、具体的には、以下のステップを含み得る。
ステップS2231において、目標画像の決定される異常領域の少なくとも1つの統計値を決定する。
目標画像の決定される異常領域を取得した後、決定される異常領域を処理して、決定される異常領域が最終的な異常領域であるか否かをさらに判断することができる。
本発明の実施例では、決定される異常領域に対して統計を行うことにより、決定される異常領域に関する統計値を取得することができる。例えば、目標画像の飽和度情報を使用して、決定される異常領域に対してさらに分析を行うことができる。具体的には、決定される異常領域の飽和度を統計することにより、少なくとも1つの第1統計値を取得することができる。あるいは、決定される異常領域の画素値を統計することにより、少なくとも1つの第2統計値を取得することもできる。本発明で説明されるカメラレンズの状態検出方法を実施する場合、第1統計値及び第2統計値を当該決定される異常領域の統計値として取得してもよいし、第1統計値及び第2統計値のうちの1つを当該決定される異常領域の統計値として選択してもよいことが理解できる。
本発明の1つの実施例では、飽和度の計算式は以下の通りである。
式6
Figure 2023503749000007
ここで、max(R,G,B)は、目標画像の各画素点のRGB値に対して処理を行った後に取得された最大値であり、min(R,G,B)画素値は、目標画像の各画素点のRGB値に対して処理を行った後に取得された最小値であり、Sは目標画像の飽和度を表す。目標画像の画素点のRGB値に対する処理方法は、例えば、上記の式1である。
本発明の1つの実施例では、上記の第1統計値及び第2統計値は、それぞれ、平均値及び分散値のうちの少なくとも1つを含む。即ち、当該少なくとも1つの第1統計値は、決定される異常領域の飽和度の平均値及び/又は分散を含み、当該少なくとも1つの第2統計値は、決定される異常領域の画素値の平均値及び/又は分散を含む。
本発明の1つの実施例では、ステップS2231は具体的に、以下のステップ1~ステップ3を含み得る。
ステップ1において、決定される異常領域の画素位置情報に基づいて、決定される異常領域に対応する少なくとも1つのマスクを生成し、ここで、少なくとも1つのマスクは、領域マスク及び/又は境界マスクを含む。
決定される異常領域を形成する画素点を取得した後、これらの決定される異常領域内の画素点の位置情報(座標など)を分析することにより、これらの画素点の位置を決定することができる。また、決定される異常領域の画素位置情報に従って、決定される異常領域に対応する1つのマスクを生成することもできる。決定される異常領域に対応するマスクは、決定される異常領域全体の形状及び大きさと一致するか、又は単に決定される異常領域の一部の形状及び大きさと一致する。マスクは、決定される異常領域をブロックすることに使用できる。1つの具体的な実施シナリオにおいて、マスクは、決定される異常領域をブロックするための画像、グラフィックスなどであり得る。
マスクを生成する際、決定される異常領域に対応する完全なマスクは、領域マスクであり、決定される異常領域の境界に対応するマスクは、境界マスクである。生成されるマスクの数及び形状は制限されないことが理解できる。例えば、すべての決定される異常領域について、各決定される異常領域に対応する領域マスク及び境界マスクを生成することができる。
ステップ2において、少なくとも1つのマスクが領域マスクを含む場合、目標画像に対応する飽和度画像を取得し、決定される異常領域に対応する領域マスクを使用して、飽和度画像から、決定される異常領域に対応する第1の統計される領域を取得する。第1の統計される領域の飽和度を統計して、決定される異常領域の少なくとも1つの第1統計値を取得する。
ステップ1において、生成されたマスクが領域マスクを含む場合、目標画像に対応する飽和度画像を取得することができる。具体的には、目標画像の各画素点に対して飽和度計算を行うことにより、目標画像に対応する飽和度画像を取得することができる。飽和度計算は、例えば、RGB画像を色相-飽和度-明度(HSV)画像に変換し、飽和度Sチャネルの値を抽出することである。
飽和度画像を取得した後、目標画像内の決定される異常領域の画素点の位置情報(座標など)に従って、決定される異常領域の飽和度画像に対応する位置(即ち、第1の統計される領域)を取得することができる。例えば、目標画像内の決定される異常領域の特定の画素点の座標が(1,1)である場合、飽和度画像では、当該画素点に対応する画素点の座標も(1,1)である。したがって、飽和度画像から、決定される異常領域に対応する第1の統計される領域を取得することができる。
本発明の1つの実施例では、決定される異常領域の画素点の位置情報を直接使用して、飽和度画像から対応する画素点を直接抽出して、第1の統計される領域を形成した後、飽和度の統計を行うことができる。
同様に、第1の統計される領域の飽和度を統計して、統計によって取得された値を第1統計値として定義することもできる。第1の統計される領域の飽和度を統計することは、決定される異常領域全体に対して統計することであってもよいし、決定される異常領域の特定の部分に対して統計することであってもよい。統計の方法は限定されておらず、例えば、決定される異常領域の飽和度の平均値、分散、標準偏差などを統計することができる。決定される異常領域の異なる部分に対して統計を実行する場合、及び決定される異常領域に対して様々なタイプの統計を行う場合、いくつかの異なる統計値を取得することができる。
さらに、ステップ1において、生成されたマスクが境界マスクを含む場合、ステップ3を実行することができる。
ステップ3において、決定される異常領域に対応する境界マスクを使用して、目標画像から、決定される異常領域に対応する第2の統計される領域を取得し、第2の統計される領域の画素値を統計して、決定される異常領域の少なくとも1つの第2統計値を取得する。
決定される異常領域に対応する境界マスクを生成した後、境界マスクがカバーする領域は、決定される異常領域に対応する第2の統計される領域である。この場合、第2の統計される領域の画素値を統計することができ、画素値は、例えば、グレースケール値であり、統計によって取得された統計値は第2統計値である。
領域マスクと境界マスクの両方が同時に存在する場合、ステップ2とステップ3を実行してもよいし、その2つのステップうちの1つだけを実行してもよいことが理解できる。
以上、マスクを使用して、決定される異常領域に関連する領域を抽出することにより、決定される異常領域の第1統計値及び第2統計値の正確な統計を実現でき、計算の精度を向上させることができる。
引き続き図7を参照する。
ステップS2232において、決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、決定される異常領域を最終的な異常領域として確定する。
第1統計値和第2統計値を取得した後、統計値に対して分析を行うことにより、決定される異常領域がブレ領域であるか否かをさらに判断し、最終的な異常領域を取得することができる。具体的には、決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、前記決定される異常領域を最終的な異常領域として決定する。プリセット統計条件は、統計値の大きさが特定の範囲内にあることであり得る。例えば、統計値が算術平均値である場合、プリセット条件は、算術平均値が40~216の範囲であることであり得る。
複数の統計値がある場合、1つの統計値がプリセット統計条件を満たす限り、又は複数の統計値がプリセット統計条件を満たす場合、又はすべての統計値がプリセット統計条件を満たす場合、決定される異常領域を最終的な異常領域として確定することができる。
本発明の1つの実施例では、プリセット統計条件は、決定される異常領域の各統計値が、統計値に対応するプリセット閾値より大きいことであり得る。例えば、統計値が決定される異常領域の全体と境界の算術平均値及び分散を含む場合、それは、決定される異常領域に、それぞれ、決定される異常領域全体の算術平均値及び分散、決定される異常領域の境界の算術平均値及び分散である4つの統計値があることを意味する。この4つの統計値がすべて統計値に対応するプリセット閾値より大きい場合にのみ、決定される異常領域を最終的な異常領域として確定する。
本発明の1つの実施例では、算術平均値のプリセット閾値は40であり得、分散のプリセット閾値は100であり得る。
統計値を使用して、決定される異常領域に対してさらに分析を行うことにより、決定される異常領域のブレ状況をさらに判断することができ、それにより、ブレ検出の精度を向上させ、さらに、カメラレンズの状態検出の精度を向上させることができる。
本発明の1つの実施例では、最終的な異常領域がすでに取得された場合、、後続の動作を実行せずに、当該フレームの目標画像が異常状態にあると直接確定することができる。このようにして、検出ステップを簡素化することができ、検出の速度を向上させることができる。
最終的な異常領域を取得した場合、すなわち、画像の最終的なブレ領域を取得した場合、最終的な異常領域を分析することにより、カメラレンズが異常状態にあるか否かを確定することができる。
引き続き図3を参照する。
ステップS23において、最終的な異常領域の第2面積を取得する。
最終的な異常領域の面積を取得して、ブレ領域に対して分析を行うことができる。最終的な異常領域の面積は、第2面積として定義される。最終的な異常領域の面積も、それに含まれる画素点の数で表すことができる。例えば、特定の最終的な異常領域が3000個の画素点を含む場合、当該最終的な異常領域の面積は、3000個の画素点の大きさである。
ステップS24において、最終的な異常領域の第2面積がプリセット領域条件を満たすか否かを判断する。最終的な異常領域の第2面積がプリセット領域条件を満たす場合、ステップS25を実行し、満たさない場合、ステップS27を実行する。
最終的な異常領域の第2面積を取得した後、第2面積がプリセット領域条件を満たすか否かを判断することにより、最終的な異常領域を分類することができる。プリセット領域条件は、例えば、面積の大きさであるか、又は目標画像における最終的な異常領域の位置などである。
本発明の1つの実施例では、プリセット領域条件は、第1プリセット領域条件又は第2プリセット領域条件を含み得る。この場合、「最終的な異常領域の第2面積がプリセット領域条件を満たすか否かを判断する」ことは、具体的には、最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たすか否かを判断することを含む。
1つの実施シナリオにおいて、第1プリセット領域条件は、前記第2面積が第2プリセット面積閾値より大きいことであり、第2プリセット領域条件は、前記第2面積が第2プリセット面積閾値より小さい且つ第3プリセット面積閾値より大きいことであり、ここで、第2プリセット面積閾値は、第3プリセット面積閾値より大きい。第2プリセット面積閾値は、5000個の画素点の大きさであり得、第3プリセット面積閾値は、3000個の画素点の大きさであり得る。
ステップS27において、最終的な異常領域の第2面積がプリセット領域条件を満たさない場合、目標画像が正常状態にあると確定する。
本発明の1つの実施例では、最終的な異常領域の第2面積がプリセット領域条件を満たさない場合、目標画像が正常状態にあると見なすことができる。
ステップS25において、最終的な異常領域の第2面積がプリセット領域条件を満たす場合、目標画像が異常状態にあると確定する。
最終的な異常領域の第2面積がプリセット領域条件を満たすか否かを判断した後、取得された結果に従って、目標画像が異常状態にあるか否かを確定することができる。
具体的には、最終的な異常領域の第2面積がプリセット領域条件を満たす場合、最終的な異常領域は、カメラレンズによって取得された目標画像に大きな影響を与えると見なすことができ、この場合、当該目標画像は異常状態にあると見なすことができる。最終的な異常領域の第2面積がプリセット領域条件を満たさない場合、当該フレームの目標画像が正常状態にあると見なすことができることが理解できる。
プリセット領域条件が第1プリセット領域条件又は第2プリセット領域条件を含む場合、この2つの条件により、最終的な異常領域をさらに分類することができる。具体的には、最終的な異常領域の第2面積が第1プリセット領域条件を満たす場合、目標画像は第1異常状態にあると確定することができ、最終的な異常領域の第2面積が第2プリセット領域条件を満たす場合、目標画像は第2異常状態にあると確定することができる。
1つの具体的な実施シナリオにおいて、第2プリセット面積閾値が第3プリセット面積閾値より大きいため、第1プリセット領域条件を満たす場合、目標画像の異常状態はより深刻であると見なすことができる。第1異常状態は、例えば、エラー状態であり、第2異常状態は、例えば、警告状態である。
最終的な異常領域をさらに分類することにより、目標画像の異常状態をさらに分割することができ、これにより、目標画像の異常状態をより正確に判断することができる。
以上では、1つのフレームの目標画像に対してブレ検出を行うことにより、当該フレームの目標画像の異常状態を判断することができる。カメラレンズが異常状態にある場合、一般的に言えば、カメラによって撮影された連続する複数のフレームの目標画像はすべて異常状態にある。したがって、異常状態にある目標画像の数を分析することにより、カメラレンズの状態をさらに判断することができる。これに基づき、ステップS25の後、以下のステップを実行し続ける。
ステップS26において、連続する第1プリセット数のフレームの目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、カメラレンズが異常状態にあると確定し、ここで、第1プリセット数及び第2プリセット数は正整数である。
連続する第1プリセット数のフレームの目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、カメラレンズが異常状態にある可能性があることを意味し、その結果、連続する複数のフレームの目標画像には、より多くの異常な目標画像が現れる。目標画像の単位はフレーム数であるため、第1プリセット数及び第2プリセットは正整数であることが理解できる。第1プリセット数は、例えば、30であり、第2プリセット数は、例えば、15である。
本発明の1つの実施例では、一定期間内にカメラレンズによって撮影された目標画像から、目標画像の一部を定期的に抽出することにより、抽出された目標画像が異常状態にあるか否かを判断することができる。このようにして、一定期間内にカメラレンズが異常状態にあるか否かを判断することができ、これにより、カメラレンズ検出精度を向上させることができる。
本発明の1つの実施例では、上記のプリセット領域条件が第1プリセット領域条件又は第2プリセット領域条件を含むことに対応して、目標画像が第1異常状態又は第2異常状態にあると判断することは、以下いくつかのケースを含み得る。
第1ケースにおいて、連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にある場合、カメラレンズが第1異常状態にあると確定する。この場合、カメラレンズの異常状態は比較的に深刻であると見なすことができ、第1異常状態は、例えば、エラー状態である。
第2ケースにおいて、連続する第1プリセット数のフレームの目標画像がすべて正常状態にある場合、カメラレンズは正常状態にあると見なすことができる。
第3ケースにおいて、連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にあるのではなく、そのうちの少なくとも第2プリセット数のフレームの目標画像が第1異常状態又は第2異常状態にある場合、カメラレンズが第2異常状態にあると確定する。この場合、連続する第1プリセット数のフレームの目標画像がすべて第2異常状態にあるか、又は連続する第1プリセット数のフレームの目標画像の少なくとも第2プリセット数のフレームの画像(第2プリセット数は第1プリセット数と等しくない)が第1異常状態又は第2異常状態にある可能性がある。この場合、カメラレンズが異常状態にある可能性があると考えられるので、カメラレンズが第2異常状態にあると判断する。第2異常状態は、例えば、警告状態である。第2プリセット数は、実際の状況に従って具体的に設定することができ、例えば、1、5、15などの任意の正整数に設定することができる。
目標画像内の最終的な異常領域の面積を使用して目標画像の異常状態を判断し、プリセット数のフレームの目標画像の状態に基づいて、カメラレンズが異常状態にあるか否かを確定することにより、カメラレンズの異常検出を実現する。また、プリセット数が1より大きい場合、連続する複数のフレームの目標画像の状態を使用して、カメラレンズが異常状態にあるか否かを総合的に判断することにより、カメラレンズの状態の検出精度を向上させることができる。
上記の解決策によれば、目標画像のブレ検出を行うことにより、目標画像のブレ状態に従って目標画像の異常領域を確定することができ、これにより、目標画像の異常領域の識別を実現でき、その後、取得された最終的な異常領域に従って、カメラレンズの異常状態を判断することができる。また、カメラレンズの異常状態(例えば、水霧付き、汚れ付き、ブロックされるなど)により、目標画像の領域の一部にブレが発生することが多いため、画像のブレ検出により、上記の様々な異常状態を検出することができ、検出幅を向上させることができる。
当業者なら自明であるが、上記の特定の実施形態における方法において、各ステップの記述順序は、実施プロセスを制限するための厳密な実行順序を意味するのではなく、各ステップの具体的な実行順序は、その機能と可能な内部ロジックによって決定する必要がある。
以下では、具体的な適用シナリオを参照して、本発明の実施例によるカメラレンズの状態検出方法について詳細に説明する。
実施例で提供される適用シナリオにおいて、図8に示されるように、カメラレンズの状態検出方法は、異常領域検出モジュール81、異常領域フィルタリングモジュール82、状態分析処理モジュール83及び制御処理モジュール84によって完了することができる。
ここで、異常領域検出モジュール81は、目標画像の異常領域を検出することができる。異常領域のタイプは、レンズに水霧が付いていること、レンズに汚れが付いていること、レンズがブロックされていることなどのタイプを含む。さらに、異常領域フィルタリングモジュール82は、異常領域検出モジュールの結果をフィルタリングすることができる。フィルタリングは、手動で設計された一連のルールと特徴によって実現される。ここでのフィルタリングルールは、領域サイズ、領域カラー、領域境界特徴などの統計情報を含む。
状態分析処理モジュール83は、手動で設定された閾値により、カメラレンズの状態が異常状態にあるか否かを検出することができる。状態分析処理モジュールの処理結果は、正常、異常、エラーの3つの状態に分けられる。ここで、正常状態とは、カメラレンズに異常がないことを指す。異常状態とは、カメラレンズの状態に軽度の異常があるが、深刻ではないことを指す。エラー状態とは、カメラレンズ状態に深刻な異常があるため、すぐにシャットダウンする必要があることを指す。当該モジュールの出力結果は、処理のために制御モジュール84に引き渡すことができ、これにより、制御モジュールは、異なる状態に対して異なる応答を行う。
本発明の実施例では、図9に示されるように、異常領域検出モジュール81は、以下のステップを実行することができる。
ステップ811において、目標画像を取得する。当該目標画像は、カメラによって撮影された画像である。
ステップ812において、目標画像に対してグレースケール処理を実行して、グレースケール画像を取得する。
ここで、目標画像は、カラーRGB画像である。上記の式1に従って、目標画像に対してグレースケール処理を実行して、各画素点のグレースケール値を取得することにより、グレースケール画像を取得することができる。
例示的に、図10は、異なるシナリオにおけるグレースケール画像を示す。ここで、図10の1001は、正常状況でのグレースケール画像であり、図10の1002は、水霧が付いたカメラレンズのグレースケールであり、図10の1003は、汚れが付いたカメラレンズのグレースケール画像であり、図10の1004は、ブロックされたカメラレンズのグレースケール画像である。
ステップ813において、グレースケール画像に対してLaplacian変換を実行して、変換画像を取得する。
ここで、Laplacianの具体的なプロセスは、例えば、まず、sobel演算子を使用して、xとyの2次差を計算した後、合計を求めることであり、その式は上記の式2を参照できる。
例示的に、図10に示されるグレースケール画像に対してLaplacian変換を行った後、図11に示される変換画像を取得することができる。ここで、図11の1101は、正常状況で収集された変換画像であり、図11の1102は、水霧が付いたカメラレンズの変換画像であり、図11の1103は、汚れが付いたカメラレンズの変換画像であり、図11の1104は、ブロックされたカメラレンズの変換画像である。
ステップ814において、変換画像に対してフィルタリング処理を実行して、フィルタリングされた画像を取得する。
ここで、フィルタリング処理は、形態閉鎖動作(morphological opening operation)を含み得るが、これに限定されない。形態閉鎖動作は、先にDilation計算を実行して、次にErosion計算を実行することである。Dilation計算及びErosion計算の具体的なプロセスは、上記の実施例と同じであり、ここでは繰り返して説明しない。
例示的に、図11に示される変換画像に対して形態閉鎖動作(morphological opening operation)処理を行った後、図12に示されるフィルタリングされた画像を取得することができる。ここで、図12の1201は、正常状況で収集されたフィルタリングされた画像であり、図12の1202は、水霧が付いたカメラレンズのフィルタリングされた画像であり、図12の1203は、汚れが付いたカメラレンズのフィルタリングされた画像であり、図12の1204は、ブロックされたカメラレンズのフィルタリングされた画像である。
ステップ815において、フィルタリングされた画像に対して二値化処理を実行して、二値化画像を取得する。
ステップ816において、二値化画像の画素値に対して反転処理を実行して、逆二値化画像を取得する。
フィルタリングされた画像に対して二値化処理及び反転動作を行うための式は、上記の実施例の式5を参照することができ、ここでは繰り返して説明しないことに留意されたい。
例示的に、図12に示されるフィルタリングされた画像に対して二値化処理及び反転動作を行った後、図13に示される逆二値化画像を取得することができる。ここで、図13の1301は、正常状況での逆二値化画像であり、図13の1302は、水霧が付いたカメラレンズの逆二値化画像であり、図13の1303は、汚れが付いたカメラレンズの逆二値化画像であり、図13の1304は、ブロックされたカメラレンズの逆二値化画像である。
ステップ817において、逆二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、いくつかの候補異常領域を形成する。
ここで、逆二値化画像に対して輪郭領域検索を実行して、独立した個別の異常領域を取得する。特定の実装では、オープンソースコンピュータービジョンライブラリ(OpenCV)内のcv::findContours関数を使用することができる。
例示的に、図14に示されるように、実線で囲まれた領域は、異なるシナリオにおける候補異常領域である。
本発明の実施例では、異常領域フィルタリングモジュール82は、以下のステップを実行することができる。
ステップ821において、各候補異常領域の第1面積を取得する。
ステップ822において、いくつかの候補異常領域から、第1面積がプリセットされた面積条件を満たす少なくとも1つの候補異常領域を、決定される異常領域として選択する。
ここで、プリセットされた面積条件は、第1面積が第1プリセット面積閾値より大きいことである。つまり、異常な候補輪郭に対して面積フィルタリングを実行して、面積が小さすぎる領域を削除し、決定される異常領域を取得することができる。
ステップ823において、決定される異常領域の画素位置情報に基づいて、決定される異常領域に対応する少なくとも1つのマスクを生成し、ここで、少なくとも1つのマスクは、領域マスク及び/又は境界マスクを含む。
ステップ824において、少なくとも1つのマスクが領域マスクを含む場合、目標画像に対応する飽和度画像を取得し、決定される異常領域に対応する領域マスクを使用して、飽和度画像から、決定される異常領域に対応する第1の統計される領域を取得し、第1の統計される領域の飽和度を統計して、決定される異常領域の少なくとも1つの第1統計値を取得する。
具体的には、式6に従って、目標画像の飽和度情報を計算して、飽和度画像を取得することができる。
ここで、第1統計値は、決定される異常領域の飽和度の平均値及び分散のうちの1つであり得る。
ステップ825において、決定される異常領域に対応する境界マスクを使用して、目標画像から、決定される異常領域に対応する第2の統計される領域を取得し、第2の統計される領域の画素値を統計して、決定される異常領域の少なくとも1つの第2統計値を取得する。
第2統計値は、平均値及び分散のうちの少なくとも1つを含む。
ステップ826において、決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、決定される異常領域を最終的な異常領域として確定する。
本発明の実施例では、状態分析処理モジュール83は、以下のステップを実行することができる。
ステップ831において、最終的な異常領域の第2面積を取得する。
ここで、オープンソースコンピュータービジョンライブラリ(OpenCV)内のcv::contourArea関数を使用して、最終的な異常領域の第2面積を計算することができる。
ステップ832において、最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たすか否かを判断する。
ここで、第1プリセット領域条件は、第2面積が第2プリセット面積閾値より大きいことである。第2プリセット領域条件は、前記第2面積が第2プリセット面積閾値より小さい且つ第3プリセット面積閾値より大きいことであり、ここで、第2プリセット面積閾値は、第3プリセット面積閾値より大きい。
ステップ833において、最終的な異常領域の第2面積が第1プリセット領域条件を満たす場合、目標画像が第1異常状態にあると確定し、最終的な異常領域の第2面積が第2プリセット領域条件を満たす場合、目標画像が第2異常状態にあると確定する。
ステップ834において、連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にある場合、前記カメラレンズが前記第1異常状態にあると確定する。
連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にあるのではなく、そのうちの少なくとも第2プリセット数のフレームが第1異常状態又は前記第2異常状態にある場合、カメラレンズが第2異常状態にあると確定する。
このように、目標画像に対してブレ検出を行うことにより、目標画像のブレ状態に従って、目標画像の異常領域を確定することができ、これにより、目標画像の異常領域の識別を実現でき、その後、取得された最終的な異常領域に従って、カメラレンズの異常状態を判断することができる。また、カメラレンズの異常状態(水霧付き、汚れ付き、ブロックされるなど)により、目標画像の領域の一部にブレが発生することが多いため、画像のブレ検出により、上記の様々な異常状態を検出することができ、検出幅を向上させることができる。
図15を参照すると、図15は、本発明の実施例によるカメラレンズの状態検出装置の概略構造図である。当該検出装置70は、領域検出部71及び状態分析部72を含む。領域検出部71は、カメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得するように構成される。状態分析部72は、最終的な異常領域に対して分析を実行して、カメラレンズが異常状態にあるか否かを確定するように構成される。
ここで、領域検出部71はさらに、カメラによって撮影された目標画像に対してブレ検出を実行して、目標画像のいくつかの候補異常領域を取得し、いくつかの候補異常領域から、少なくとも1つの候補異常領域を最終的な異常領域として選択するように構成される。
ここで、領域検出部71はさらに、カメラによって撮影された目標画像に対してプリセット変換を実行して、変換画像を取得し、変換画像の画素値に基づいて、候補異常領域を確定するように構成され、ここで、変換画像の各画素の画素値は、変化画像のブレ情報を反映できる。
ここで、領域検出部71はさらに、目標画像に対して前処理を実行して、前処理された画像を取得し、前処理された画像に対してラプラス変換を実行して、変換画像を取得するように構成される。領域検出部71はさらに、変換画像に基づいて二値化処理を実行して、二値化画像を取得し、二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成するように構成される。
ここで、領域検出部71はさらに、目標画像に対してグレースケール処理を実行して、前記前処理された画像を取得するように構成される。領域検出部71はさらに、変換画像に対してフィルタリング処理を実行して、フィルタリングされた画像を取得し、フィルタリングされた画像に対して二値化処理を実行して、二値化画像を取得するように構成され、ここで、フィルタリング処理は、形態閉鎖動作(morphological opening operation)を含み得るが、これに限定されない。。領域検出部71はさらに、二値化画像の画素値に対して反転処理を実行して、逆二値化画像を取得し、二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、候補異常領域を形成するように構成される。
ここで、領域検出部71はさらに、各候補異常領域の第1面積を取得し、いくつかの候補異常領域から、第1面積がプリセットされた面積条件を満たす候補異常領域を、決定される異常領域として選択し、少なくとも1つの決定される異常領域を最終的な異常領域として確定するように構成される。
ここで、上記のプリセットされた面積条件は、第1面積が第1プリセット面積閾値より大きいことである。
ここで、領域検出部71はさらに、目標画像の決定される異常領域の少なくとも1つの統計値を決定し、決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、決定される異常領域を最終的な異常領域として決定するするように構成され、ここで、決定される異常領域の少なくとも1つの統計値は、決定される異常領域の飽和度を統計することによって取得された少なくとも1つの第1統計値、及び/又は、決定される異常領域の画素値を統計することによって取得された少なくとも1つの第2統計値を含む。
ここで、上記の少なくとも1つの統計値は、平均値及び分散のうちの少なくとも1つを含む。上記のプリセット統計条件は、決定される異常領域の各統計値が、統計値に対応するプリセット閾値より大きいことを含む。
ここで、領域検出部71はさらに、決定される異常領域の画素位置情報に基づいて、決定される異常領域に対応する少なくとも1つのマスクを生成し、ここで、少なくとも1つのマスクは、領域マスク及び/又は境界マスクを含み、少なくとも1つのマスクが領域マスクである場合、目標画像に対応する飽和度画像を取得し、決定される異常領域に対応する領域マスクを使用して、飽和度画像から決定される異常領域に対応する少なくとも1つの第1の統計される領域を取得し、ここで、少なくとも1つの統計待機領域は、全体領域及び/又は境界領域を含み、目標画像に対応する飽和度画像を取得し、第1の統計される領域飽和度画像の全体領域に対応する領域の飽和度を統計して、決定される異常領域の少なくとも1つの第1統計値を取得し、及び/又は、少なくとも1つのマスクが境界マスクである場合、決定される異常領域に対応する境界マスクを使用して、目標画像から決定される異常領域に対応する第2の統計される領域を使用して、第2の統計される領域の画素値を統計して、決定される異常領域の少なくとも1つの第2統計値を取得するように構成される。
ここで、状態分析部72はさらに、最終的な異常領域の第2面積を取得し、最終的な異常領域の第2面積がプリセット領域条件を満たすか否か判断し、最終的な異常領域の第2面積がプリセット領域条件満たす場合、目標画像が異常状態にあると確定し、連続する第1プリセット数のフレームの目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、カメラレンズが異常状態にあると確定するように構成され、ここで、第1プリセット数及び第2プリセット数は正整数である。
ここで、状態分析部72はさらに、最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たすか否かを判断するように構成される。最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たす場合、状態分析部72はさらに、最終的な異常領域の第2面積が第1プリセット領域条件を満たす場合、目標画像が第1異常状態にあると確定し、最終的な異常領域の第2面積が第2プリセット領域条件を満たす場合、目標画像が第2異常状態にあると確定するように構成される。状態分析部72はさらに、連続する第1プリセット数のフレームの目標画像がすべて第1異常状態にある場合、カメラレンズが第1異常状態にあると確定し、連続する第1プリセット数のフレームの目標画像がすべて前記第1異常状態にあるのではなく、少なくとも前記第2プリセット数のフレームが第1異常状態又は第2異常状態にある場合、カメラレンズが第2異常状態にあると確定するように構成される。
ここで、上記の第1プリセット領域条件は、前記第2面積が第2プリセット面積閾値より大きいことであり、第2プリセット領域条件は、前記第2面積が第2プリセット面積閾値より小さい且つ第3プリセット面積閾値より大きいことであり、ここで、第2プリセット面積閾値は、第3プリセット面積閾値より大きい。
図16を参照すると、図16は、本発明の実施例による電子機器の概略構造図である。電子機器80は、相互に結合されているメモリ81とプロセッサ82を備え、プロセッサ82は、メモリ81に記憶されたコンピュータプログラムを呼び出して実行することにより、上記のカメラレンズの状態検出方法のいずれかを実行するように構成される。1つの具体的な実施シナリオにおいて、電子機器80は、マイクロコンピュータ、サーバの他に、ノートブックコンピュータ、タブレットコンピュータなどのモバイルデ機器を含み得るが、これらに限定されない。
具体的には、プロセッサ82は、それ自体及びメモリ81を制御して、上記のカメラレンズの状態検出方法を実行するように構成される。プロセッサ82は、CPU(Central Processing Unit、中央処理装置)とも呼ばれる。プロセッサ82は、信号処理機能を備えた集積回路チップであり得る。プロセッサ82はまた、汎用プロセッサ、デジタルシグナルプロセッサ(Digital Signal Processor、DSP)、特定用途向け集積回路(Application Specific Integrated Circuit、ASIC)、フィールドプログラマブルゲートアレイ(Field-Programmable Gate Array、FPGA)又はその他のプログラマブルロジックデバイス、ディスクリートゲート又はトランジスタロジックデバイス、ディスクリートハードウェアコンポーネントなどであり得る。汎用プロセッサは、マイクロプロセッサであってもよく、又は当該プロセッサは、任意の従来のプロセッサなどであってもよい。さらに、プロセッサ82は、集積回路チップによって共同で実現することができる。
図17を参照すると、図17は、本発明の実施例によるコンピュータ可読記憶媒体の概略構造図である。コンピュータ可読記憶媒体90には、プロセッサによって実行可能なコンピュータプログラム901が記憶されており、コンピュータプログラム901は、上記のカメラレンズの状態検出方法のいずれかを実現するように構成される。
本発明の実施例は、コンピュータ可読コードを含むコンピュータプログラムをさらに提供し、前記コンピュータ可読コードが電子機器で実行されるときに、前記電子機器のプロセッサに、上記のカメラレンズの状態検出方法のステップを実行させる。
いくつかの実施例では、本発明の実施例に係る装置、機器又は媒体に含まれる機能又はモジュールは、上記の方法の実施例で説明された方法を実行するために使用でき、その具体的な実現については、上記の方法の実施例の説明を参照することができ、簡潔にするため、ここでは繰り返して説明しない。
各実施例の上記の説明は、各実施例間の違いを強調する傾向があり、その同じ又は類似なところは相互に参照することができ、簡潔にするために、ここでは繰り返して説明しない。
本発明で提供されるいくつかの方法の実施例では、発明された方法及び装置は、他の方式で実現できることを理解されたい。例えば、上記で説明された装置の実施例は例示的なものに過ぎず、例えば、部分又はユニットの分割は、論理機能の分割に過ぎず、実際の実現では、他の分割方法があり、例えば、ユニット又はコンポーネントを別のシステムに統合又は集積したり、又は一部の特徴を無視するか実行しないことができる。なお、表示又は議論された相互結合又は直接結合又は通信接続は、いくつかのインターフェースを使用して実現することができ、装置又はユニット間の間接的な結合又は通信接続は、電気的、機械的又は他の形態であり得る。
さらに、本発明の各実施例における各機能ユニットは、1つの処理ユニットに統合されてもよく、又は各ユニットが物理的に別々に存在してもよく、2つ又は2つ以上のユニットが1つのユニットに統合されてもよい。上記の統合されたユニットは、ハードウェアの形で実現されてもよく、ソフトウェア機能ユニットの形で実現されてもよい。
統合されたユニットがソフトウェア機能の形で実現され且つ独立した製品として販売又は使用される場合、コンピュータ可読記憶媒体に記憶されてもよい。このような理解に基づいて、本発明の実施例の技術的解決策の本質的な部分、即ち、先行技術に貢献のある部分、又は当該技術の解決策の全部又は一部は、ソフトウェア製品の形で具現されることができ、当該コンピュータソフトウェア製品は、1つの記憶媒体に記憶され、一台のコンピュータ機器(パーソナルコンピュータ、サーバ、又はネットワーク機器などであリ得る)又はプロセッサ(processor)に、本発明の実施例の各実施方法における全部又は一部の処理を実行させるためのいくつかの命令を含む。上記した記憶媒体は、、Uディスク、モバイルハードディスク、読み取り専用メモリ(Read-Only Memory、ROM)、ランダムアクセスメモリ(Random Access Memory、RAM)、磁気ディスク又は光ディスクなどのプログラムコードを記憶することができる様々な媒体を含む。

Claims (25)

  1. カメラレンズの状態検出方法であって、
    カメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得することと、
    最終的な異常領域に対して分析を実行して、前記カメラのレンズが異常状態にあるか否かを確定することと、を含む、前記カメラレンズの状態検出方法。
  2. 前記カメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得することは、
    前記カメラによって撮影された前記目標画像に対してブレ検出を実行して、前記目標画像内のいくつかの候補異常領域を取得することと、
    前記いくつかの候補異常領域から、少なくとも1つの前記候補異常領域を前記最終的な異常領域として選択することと、を含む、
    請求項1に記載のカメラレンズの状態検出方法。
  3. 前記カメラによって撮影された前記目標画像に対してブレ検出を実行して、前記目標画像のいくつかの候補異常領域を取得することは、
    前記カメラによって撮影された前記目標画像に対してプリセット変換を実行して、変換画像を取得することであって、前記変換画像の各画素の画素値は、前記変化画像のブレ情報を反映できる、ことと、
    前記変換画像の画素値に基づいて、前記候補異常領域を確定することと、を含む、
    請求項2に記載のカメラレンズの状態検出方法。
  4. 前記カメラによって撮影された前記目標画像に対してプリセット変換を実行して、変換画像を取得することは、
    前記目標画像に対して前処理を実行して、前処理された画像を取得することと、
    前記前処理された画像に対してラプラス変換を実行して、前記変換画像を取得することと、を含み、
    前記変換画像の画素値に基づいて、前記候補異常領域を確定することは、
    前記変換画像に基づいて二値化処理を実行して、二値化画像を取得することと、
    前記二値化画像から、前記画素値がプリセット画素条件を満たす画素点を選別して、前記候補異常領域を形成することと、を含む、
    請求項3に記載のカメラレンズの状態検出方法。
  5. 前記目標画像に対して前処理を実行して、前処理された画像を取得することは、
    前記目標画像に対してグレースケール処理を実行して、前記前処理された画像を取得することを含み、
    前記変換画像に基づいて二値化処理を実行して、二値化画像を取得することは、
    前記変換画像に対してフィルタリング処理を実行して、フィルタリングされた画像を取得することであって、前記フィルタリング処理は、形態閉鎖動作(morphological opening operation)を含む、ことと、
    前記フィルタリングされた画像に対して二値化処理を実行して、前記二値化画像を取得することと、を含み、
    前記二値化画像から、前記画素値がプリセット画素条件を満たす画素点を選別して、前記候補異常領域を形成することは、
    前記二値化画像の画素値に対して反転処理を実行して、逆二値化画像を取得することと、
    前記逆二値化画像から、プリセット画素条件を満たす画素点を選別して、前記候補異常領域を形成することと、を含む、
    請求項4に記載のカメラレンズの状態検出方法。
  6. 前記いくつかの候補異常領域から、少なくとも1つの前記候補異常領域を前記最終的な異常領域として選択することは、
    各前記候補異常領域の第1面積を取得することと、
    前記いくつかの候補異常領域から、前記第1面積がプリセットされた面積条件を満たす少なくとも1つの候補異常領域を、決定される異常領域として選択することと、
    少なくとも1つの前記決定される異常領域を前記最終的な異常領域として確定することと、を含む、
    請求項2ないし5のいずれか一項に記載のカメラレンズの状態検出方法。
  7. 前記プリセットされた面積条件は、前記第1面積が第1プリセット面積閾値より大きいことであり、及び/又は、
    前記少なくとも1つの前記決定される異常領域を前記最終的な異常領域として確定することは、
    前記目標画像内の前記決定される異常領域の少なくとも1つの統計値を決定することであって、前記決定される異常領域の少なくとも1つの統計値は、前記決定される異常領域の飽和度を統計することによって取得された少なくとも1つの第1統計値、及び/又は、前記決定される異常領域の画素値を統計することによって取得された少なくとも1つの第2統計値を含む、ことと、
    前記決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、前記決定される異常領域を前記最終的な異常領域として確定することと、を含む、
    請求項6に記載のカメラレンズの状態検出方法。
  8. 前記第1統計値と第2統計値が、それぞれ、平均値及び分散値のうちの少なくとも1つを含み、前記プリセット統計条件は、前記決定される異常領域の各前記統計値が、前記統計値に対応するプリセット閾値より大きいことを含み、
    前記目標画像内の前記決定される異常領域の少なくとも1つの統計値を決定することは、
    前記決定される異常領域の画素位置情報に基づいて、前記決定される異常領域に対応する少なくとも1つのマスクを生成することであって、前記少なくとも1つのマスクは、領域マスク及び/又は境界マスクを含む、ことと、
    前記少なくとも1つのマスクが領域マスクを含む場合、前記目標画像に対応する飽和度画像を取得し、前記決定される異常領域に対応する領域マスクを使用して、前記飽和度画像から前記決定される異常領域に対応する第1の統計される領域を取得し、前記第1の統計される領域の飽和度を統計して、前記決定される異常領域の前記少なくとも1つの第1統計値を取得することと、及び/又は、
    前記少なくとも1つのマスクが境界マスクを含む場合、前記決定される異常領域に対応する境界マスクを使用して、前記目標画像から前記決定される異常領域に対応する第2の統計される領域を取得し、前記第2の統計される領域の画素値を統計して、前記決定される異常領域の前記少なくとも1つの第2統計値を取得することと、を含む、
    請求項7に記載のカメラレンズの状態検出方法。
  9. 前記最終的な異常領域に対して分析を実行して、前記カメラのレンズが異常状態にあるか否かを確定することは、
    前記最終的な異常領域の第2面積を取得することと、
    前記最終的な異常領域の第2面積がプリセット領域条件を満たすか否かを判断することと、
    前記最終的な異常領域の第2面積がプリセット領域条件を満たす場合、前記目標画像が異常状態にあると確定することと、
    連続する第1プリセット数のフレームの前記目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、前記カメラレンズが異常状態にあると確定することであって、前記第1プリセット数及び第2プリセット数は正整数であることと、を含む、
    請求項1ないし8のいずれか一項に記載のカメラレンズの状態検出方法。
  10. 前記最終的な異常領域の第2面積がプリセット領域条件を満たすか否かを判断することは、
    前記最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たすか否かを判断することを含み、
    前記最終的な異常領域の第2面積がプリセット領域条件を満たす場合、前記目標画像が異常状態にあると確定することは、
    前記最終的な異常領域の第2面積が前記第1プリセット領域条件を満たす場合、前記目標画像が第1異常状態にあると確定することと、
    前記最終的な異常領域の第2面積が前記第2プリセット領域条件を満たす場合、前記目標画像が第2異常状態にあると確定することと、を含み、
    前記連続する第1プリセット数のフレームの前記目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、前記カメラレンズが異常状態にあると確定することは、
    前記連続する第1プリセット数のフレームの前記目標画像がすべて前記第1異常状態にある場合、前記カメラレンズが前記第1異常状態にあると確定することと、
    前記連続する第1プリセット数のフレームの前記目標画像がすべて前記第1異常状態にあるのではなく、且つ少なくとも前記第2プリセット数のフレームが前記第1異常状態又は前記第2異常状態にある場合、前記カメラレンズが前記第2異常状態にあると確定することと、を含む、
    請求項9に記載のカメラレンズの状態検出方法。
  11. 前記第1プリセット領域条件は、前記第2面積が第2プリセット面積閾値より大きいことであり、前記第2プリセット領域条件は、前記第2面積が第2プリセット面積閾値より小さい且つ第3プリセット面積閾値より大きいことであり、前記第2プリセット面積閾値は、前記第3プリセット面積閾値より大きい、
    請求項10に記載のカメラレンズの状態検出方法。
  12. カメラレンズの状態検出装置であって、
    カメラによって撮影された目標画像に対して異常検出を実行して、前記目標画像内の最終的な異常領域を取得するように構成される領域検出部と、
    前記最終的な異常領域に対して分析を実行して、前記カメラレンズが異常状態にあるか否かを確定するように構成される状態分析部と、を備える、前記カメラレンズの状態検出装置。
  13. 前記領域検出部はさらに、前記カメラによって撮影された前記目標画像に対してブレ検出を実行して、前記目標画像のいくつかの候補異常領域を取得し、前記いくつかの候補異常領域から、少なくとも1つの前記候補異常領域を前記最終的な異常領域として選択するように構成される、
    請求項12に記載のカメラレンズの状態検出装置。
  14. 前記領域検出部はさらに、前記カメラによって撮影された前記目標画像に対してプリセット変換を実行して、変換画像を取得し、前記変換画像の画素値に基づいて、前記候補異常領域を確定するように構成され、変換画像の各画素の画素値は、変化画像のブレ情報を反映できる、
    請求項13に記載のカメラレンズの状態検出装置。
  15. 前記領域検出部はさらに、前記目標画像に対して前処理を実行して、前処理された画像を取得し、前記前処理された画像に対してラプラス変換を実行して、前記変換画像を取得するように構成され、
    前記領域検出部はさらに、前記変換画像に基づいて二値化処理を実行して、二値化画像を取得し、前記二値化画像から、画素値がプリセット画素条件を画素点を選別して、前記候補異常領域を形成するように構成される、
    請求項14に記載のカメラレンズの状態検出装置。
  16. 前記領域検出部はさらに、前記目標画像に対してグレースケール処理を実行して、前記前処理された画像を取得するように構成され、
    前記領域検出部はさらに、前記変換画像に対してフィルタリング処理を実行して、フィルタリングされた画像を取得し、前記フィルタリングされた画像に対して二値化処理を実行して、前記二値化画像を取得するように構成され、前記フィルタリング処理は、形態閉鎖動作(morphological opening operation)を含み、
    前記領域検出部はさらに、前記二値化画像の画素値に対して反転処理を実行して、逆二値化画像を取得し、前記逆二値化画像から、画素値がプリセット画素条件を満たす画素点を選別して、前記候補異常領域を形成するように構成される、
    請求項15に記載のカメラレンズの状態検出装置。
  17. 前記領域検出部はさらに、各前記候補異常領域の第1面積を取得し、前記いくつかの候補異常領域から、前記第1面積がプリセットされた面積条件を満たす少なくとも1つの候補異常領域を、決定される異常領域として選択し、少なくとも1つの前記決定される異常領域を前記最終的な異常領域として決定するように構成される、
    請求項13ないし16のいずれか一項に記載のカメラレンズの状態検出装置。
  18. プリセットされた面積条件が、前記第1面積が第1プリセット面積閾値より大きいことである場合、
    前記領域検出部はさらに、前記目標画像内の前記決定される異常領域の少なくとも1つの統計値を決定し、前記決定される異常領域の少なくとも1つの統計値がプリセット統計条件を満たすと確定した場合、前記決定される異常領域を前記最終的な異常領域として決定するように構成され、前記決定される異常領域の少なくとも1つの統計値は、前記決定される異常領域の飽和度を統計することによって取得された少なくとも1つの第1統計値、及び/又は、前記決定される異常領域の画素値を統計することによって取得された少なくとも1つの第2統計値を含む、
    請求項17に記載のカメラレンズの状態検出装置。
  19. 前記第1統計値と第2統計値が、それぞれ、平均値及び分散値のうちの少なくとも1つを含み、前記プリセット統計条件は、前記決定される異常領域の各前記統計値が、前記統計値に対応するプリセット閾値より大きいことを含み、
    前記領域検出部はさらに、前記決定される異常領域の画素位置情報に基づいて、前記決定される異常領域に対応する少なくとも1つのマスクを生成し、前記少なくとも1つのマスクが領域マスクを含む場合、前記目標画像に対応する飽和度画像を取得し、前記決定される異常領域に対応する領域マスクを使用して、前記飽和度画像から前記決定される異常領域に対応する第1の統計される領域を取得し、前記第1の統計される領域の飽和度を統計して、前記決定される異常領域の前記少なくとも1つの第1統計値を取得し、及び/又は、前記少なくとも1つのマスクが境界マスクを含む場合、前記決定される異常領域に対応する境界マスクを使用して、前記目標画像から前記決定される異常領域に対応する第2の統計される領域を取得し、前記第2の統計される領域の画素値を統計して、前記決定される異常領域の前記少なくとも1つの第2統計値を取得するように構成され、前記少なくとも1つのマスクは、領域マスク及び/又は境界マスクを含む、、
    請求項18に記載のカメラレンズの状態検出装置。
  20. 前記状態分析部はさらに、前記最終的な異常領域の第2面積を取得し、前記最終的な異常領域の第2面積がプリセット領域条件を満たすか否か判断し、前記最終的な異常領域の第2面積がプリセット領域条件を満たす場合、前記目標画像が異常状態にあると確定し、連続する第1プリセット数のフレームの前記目標画像のうち、少なくとも第2プリセット数のフレームが異常状態にあることが検出された場合、前記カメラレンズが異常状態にあると確定するように構成され、前記第1プリセット数及び第2プリセット数は正整数である、
    請求項12ないし18に記載のカメラレンズの状態検出装置。
  21. 前記状態分析部はさらに、前記最終的な異常領域の第2面積が第1プリセット領域条件又は第2プリセット領域条件を満たすか否かを判断し、前記最終的な異常領域の第2面積が前記第1プリセット領域条件を満たす場合、前記目標画像が第1異常状態にあると確定し、前記最終的な異常領域の第2面積が前記第2プリセット領域条件を満たす場合、前記目標画像が第2異常状態にあると確定するように構成され、
    前記状態分析部はさらに、連続する第1プリセット数のフレームの前記目標画像がすべて前記第1異常状態にある場合、前記カメラレンズが前記第1異常状態にあると確定し、連続する第1プリセット数のフレームの前記目標画像がすべて前記第1異常状態にあるのではなく、且つ少なくとも前記第2プリセット数のフレームが前記第1異常状態又は前記第2異常状態にある場合、前記カメラレンズが前記第2異常状態にあると確定するように構成される、
    請求項20に記載のカメラレンズの状態検出装置。
  22. 前記第1プリセット領域条件は、前記第2面積が第2プリセット面積閾値より大きいことであり、前記第2プリセット領域条件は、前記第2面積が第2プリセット面積閾値より小さい且つ第3プリセット面積閾値より大きいことであり、ここで、前記第2プリセット面積閾値は、前記第3プリセット面積閾値より大きい、
    請求項21に記載のカメラレンズの状態検出装置。
  23. 電子機器であって、相互に結合されているメモリ及びプロセッサを備え、前記プロセッサは、前記メモリに記憶されたコンピュータプログラムを実行することにより、請求項1ないし11のいずれか一項に記載の方法を実行するように構成される、前記電子機器。
  24. コンピュータプログラムが記憶されたコンピュータ可読記憶媒体であって、前記コンピュータプログラムがプロセッサによって実行されるときに、請求項1ないし11のいずれか一項に記載の方法を実現する、前記コンピュータ可読記憶媒体。
  25. コンピュータ可読コードを含むコンピュータプログラムであって、前記コンピュータ可読コードが電子機器で実行されるときに、前記電子機器のプロセッサに、請求項1ないし11のいずれか一項に記載の方法を実現する、前記コンピュータプログラム。
JP2021565780A 2020-10-28 2021-04-19 カメラレンズの状態検出方法、装置、機器及び記憶媒体 Withdrawn JP2023503749A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202011172425.2A CN112348784A (zh) 2020-10-28 2020-10-28 相机镜头的状态检测方法、装置、设备及存储介质
CN202011172425.2 2020-10-28
PCT/CN2021/088211 WO2022088620A1 (zh) 2020-10-28 2021-04-19 相机镜头的状态检测方法、装置、设备及存储介质

Publications (1)

Publication Number Publication Date
JP2023503749A true JP2023503749A (ja) 2023-02-01

Family

ID=74358940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021565780A Withdrawn JP2023503749A (ja) 2020-10-28 2021-04-19 カメラレンズの状態検出方法、装置、機器及び記憶媒体

Country Status (4)

Country Link
JP (1) JP2023503749A (ja)
KR (1) KR20220058843A (ja)
CN (1) CN112348784A (ja)
WO (1) WO2022088620A1 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112348784A (zh) * 2020-10-28 2021-02-09 北京市商汤科技开发有限公司 相机镜头的状态检测方法、装置、设备及存储介质
CN113596420B (zh) * 2021-07-28 2022-12-09 歌尔科技有限公司 投影仪镜片的检测方法、装置、投影仪及可读存储介质
CN113658169A (zh) * 2021-08-26 2021-11-16 歌尔科技有限公司 图像斑点检测方法、设备、介质及计算机程序产品
CN113727097B (zh) * 2021-08-31 2023-07-07 重庆紫光华山智安科技有限公司 拍摄设备状态确认方法、系统、设备及介质
CN113884123A (zh) * 2021-09-23 2022-01-04 广州小鹏汽车科技有限公司 一种传感器校验方法及装置、车辆、存储介质
CN114998317B (zh) * 2022-07-18 2022-11-04 福思(杭州)智能科技有限公司 镜头遮挡检测方法、装置、摄像装置和存储介质
CN114943938B (zh) * 2022-07-26 2022-11-15 珠海视熙科技有限公司 客流统计方法、装置、系统及介质
CN115081957B (zh) * 2022-08-18 2022-11-15 山东超华环保智能装备有限公司 一种危废暂存及监测的危废管理平台
CN115379208B (zh) * 2022-10-19 2023-03-31 荣耀终端有限公司 一种摄像头的测评方法及设备
CN116883446B (zh) * 2023-09-08 2023-11-21 鲁冉光电(微山)有限公司 一种车载摄像头镜片碾磨程度实时监测系统

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107404647A (zh) * 2016-05-20 2017-11-28 中兴通讯股份有限公司 镜头状态检测方法及装置
JP6757271B2 (ja) * 2017-02-14 2020-09-16 クラリオン株式会社 車載用撮像装置
JP6933608B2 (ja) * 2018-06-01 2021-09-08 ファナック株式会社 視覚センサのレンズまたはレンズカバーの異常検出システム
CN108986097B (zh) * 2018-08-23 2022-03-11 上海小萌科技有限公司 一种镜头起雾状态检测方法、计算机装置及可读存储介质
CN110544211B (zh) * 2019-07-26 2024-02-09 纵目科技(上海)股份有限公司 一种镜头付着物的检测方法、系统、终端和存储介质
CN110992327A (zh) * 2019-11-27 2020-04-10 北京达佳互联信息技术有限公司 镜头脏污状态的检测方法、装置、终端及存储介质
CN112348784A (zh) * 2020-10-28 2021-02-09 北京市商汤科技开发有限公司 相机镜头的状态检测方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN112348784A (zh) 2021-02-09
WO2022088620A1 (zh) 2022-05-05
KR20220058843A (ko) 2022-05-10

Similar Documents

Publication Publication Date Title
JP2023503749A (ja) カメラレンズの状態検出方法、装置、機器及び記憶媒体
US7742650B2 (en) Object detection in images
CN109978890B (zh) 基于图像处理的目标提取方法、装置及终端设备
US9158985B2 (en) Method and apparatus for processing image of scene of interest
WO2020029518A1 (zh) 一种监控视频处理方法、装置及计算机可读介质
WO2015070723A1 (zh) 眼部图像处理方法和装置
KR100485594B1 (ko) 영상에서의 잡음을 제거하기 위한 잡음 처리 방법 및 그시스템
Goel et al. Specific color detection in images using RGB modelling in MATLAB
CN113449606B (zh) 一种目标对象识别方法、装置、计算机设备及存储介质
CN112115803B (zh) 口罩状态提醒方法、装置及移动终端
CN109716355B (zh) 微粒边界识别
CN113283439B (zh) 基于图像识别的智能计数方法、装置及系统
JP2018142828A (ja) 付着物検出装置および付着物検出方法
CN105809677B (zh) 一种基于双边滤波器的图像边缘检测方法及系统
WO2023160061A1 (zh) 图像中运动对象的确定方法、装置、电子设备和存储介质
CN111369531A (zh) 图像清晰度的评分方法、设备及存储装置
CN110765875A (zh) 交通目标的边界检测方法、设备及装置
CN111027560B (zh) 文本检测方法以及相关装置
CN115546736A (zh) 基于图像采集的河道采砂监控处理方法及系统
CN115082326A (zh) 视频去模糊的处理方法、边缘计算设备及中心处理器
US20190197349A1 (en) Image identification method and image identification device
CN112329572B (zh) 一种基于边框和闪光点的快速静态活体检测方法及装置
CN115631477B (zh) 目标识别方法及终端
CN117911338A (zh) 图像清晰度评价方法、装置、计算机设备及存储介质
CN117177075A (zh) 一种图像处理方法及网络摄像装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211104

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211104

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20230214