JP2022501594A - ビジョンベース検査システムの光学構成要素の自律診断検証のためのシステム、方法、および装置 - Google Patents

ビジョンベース検査システムの光学構成要素の自律診断検証のためのシステム、方法、および装置 Download PDF

Info

Publication number
JP2022501594A
JP2022501594A JP2021515501A JP2021515501A JP2022501594A JP 2022501594 A JP2022501594 A JP 2022501594A JP 2021515501 A JP2021515501 A JP 2021515501A JP 2021515501 A JP2021515501 A JP 2021515501A JP 2022501594 A JP2022501594 A JP 2022501594A
Authority
JP
Japan
Prior art keywords
image
light
light intensity
intensity pattern
correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021515501A
Other languages
English (en)
Other versions
JP7223840B2 (ja
Inventor
イャオ−ジェン・チャン
ベンジャミン・エス・ポラック
ラヤル・ラジュ・プラサド・ナラム・ヴェンカット
ヴェンカテッシュ・ナラシムハムルシー
Original Assignee
シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレイテッド filed Critical シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレイテッド
Publication of JP2022501594A publication Critical patent/JP2022501594A/ja
Application granted granted Critical
Publication of JP7223840B2 publication Critical patent/JP7223840B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/90Investigating the presence of flaws or contamination in a container or its contents
    • G01N21/9009Non-optical constructional details affecting optical inspection, e.g. cleaning mechanisms for optical parts, vibration reduction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/958Inspecting transparent materials or objects, e.g. windscreens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Testing Of Optical Devices Or Fibers (AREA)

Abstract

ビジョンベース検査システムの光学構成要素の欠陥の自律診断検証および検出の方法が提供される。この方法は、第1の光強度パターンでライトパネルを照明する工程と、第1の光強度パターンの第1の画像をセンサで取り込む工程と、第1の光強度パターンとは異なる第2の光強度パターンでライトパネルを照明する工程と、第2の光強度パターンの第2の画像をセンサで取り込む工程と、画像の比較結果を生成するために、第1の画像と第2の画像とを比較する工程と、画像の比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と、を含む。他の態様として、方法を実施するように適用されたシステムも提供される。【選択図】図9

Description

関連出願
本出願は、2018年9月20日出願の「METHOD AND DEVICE FOR AUTONOMOUS OPTICAL COMPONENTS HEALTH CHECK」という名称の米国特許仮出願第62/733,954号の優先権を主張し、その全体をあらゆる目的で本明細書に組み入れる。
本開示は、ビジョンベースシステム、より詳細には、生物学的標本の自動事前検査を実施するように構成されたシステム、方法、および装置に関する。
いくつかの自動ビジョンベース試料検査システムでは、標本(例えば生物学的標本)を含む試料管をビジョンベース試料検査システムの所望の位置に位置させることができ、次いで1つまたはそれ以上のデジタル画像を取得することができる。そのようなシステムは、照明パネル(例えば、発光ダイオード(LED)ライトパネル)および光学センサなどの光学構成要素を利用することができる。取得された1つまたはそれ以上のデジタル画像から、標本および/または標本を含む標本容器の様々な属性を取得することができる。例えば、遠心分離された標本の血清量、血漿量、沈降赤血球量、ゲルセパレータの存在、試料管のサイズ、キャップの色、干渉物、例えば溶血(H)、黄疸(I)、または脂肪血症(L)、総称してHILの存在など、標本の成分の様々な体積の決定を得ることができる。したがって、ロバストな動作を示すシステム、方法、および装置が求められている。
いくつかの実施形態では、ビジョンベース検査システムの光学構成要素の自律診断検証のための方法が提供される。この方法は、第1の光強度パターンでライトパネルを照明する工程と;第1の光強度パターンの第1の画像をセンサで取り込む工程と;第1の光強度パターンとは異なる第2の光強度パターンでライトパネルを照明する工程と;第2の光強度パターンの第2の画像をセンサで取り込む工程と;画像の比較結果を生成するために、第1の画像と第2の画像とを比較する工程と;画像の比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と、を含む。
いくつかの実施形態では、光学構成要素の自律診断検証を行うように動作可能なビジョンベース検査システムが提供される。このシステムは、コンピュータによって実行可能な命令を記憶するメモリを含むコンピュータを含み、命令は:第1の光強度パターンでライトパネルを照明する工程と;第1の光強度パターンの第1の画像をセンサで取り込む工程と;第1の光強度パターンとは異なる第2の光強度パターンでライトパネルを照明する工程と;第2の光強度パターンの第2の画像をセンサで取り込む工程と;画像の比較結果を生成するために、第1の画像と第2の画像とを比較する工程と;画像の比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と、を含む。
いくつかの実施形態では、ビジョンベース検査システムの光学構成要素の自律診断検証のための代替方法が提供される。この方法は、照明されたライトパネルの第1の画像をセンサで取り込む工程と;ライトパネルの上でマスクをアクティブ化する工程と;マスクされたライトパネルの第2の画像をセンサで取り込む工程と;画像の比較結果を生成するために、第1の画像と第2の画像とを比較する工程と;画像の比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と、を含む。
本開示のこれらおよび他の態様に従って、多くの他の態様が提供される。本開示の他の特徴および態様は、以下の詳細な説明、特許請求の範囲、および添付図面からより完全に明らかになろう。
本開示の実施形態による、光学構成要素診断検証システムを含むビジョンベース検査システムの例示的な実施形態の概略上面図である。 本開示の実施形態による、第1の例示的なLEDパネルアセンブリの概略背面図である。 本開示の実施形態による、第2の例示的なLEDパネルアセンブリの概略背面図である。 図2Aおよび2Bは、本開示の実施形態による、2つの異なる例示的な光強度パターンで照明されたLEDパネルアセンブリの概略図である。 本開示の実施形態による、デブリ欠陥を含むLEDパネルアセンブリの概略図である。 本開示の実施形態による、生成された画像相関マップの一例を示す図である。 本開示の実施形態による、引っかき傷の欠陥を含むLEDパネルアセンブリの概略図である。 本開示の実施形態による、生成された画像相関マップの一例を示す図である。 本開示の実施形態による、第1の例示的な方法を示す流れ図である。 本開示の実施形態による、例示的なLCDフィルタを示す図である。 図7Aおよび7Bは、本開示の実施形態による、2つの異なる例示的なフィルタパターンでアクティブ化された図6のLCDフィルタの背後にあるLEDパネルアセンブリの概略図である。 本開示の実施形態による、デブリ欠陥を含むLEDパネルアセンブリの概略図である。 本開示の実施形態による、生成された画像相関マップの一例を示す図である。 本開示の実施形態による、第2の例示的な方法を示す流れ図である。
照明器具(例えば発光ダイオード(LED)ライトパネル)および光学センサ(例えば電荷結合素子(CCD)または相補型金属酸化物半導体(CMOS)イメージセンサ)などの光学構成要素を使用する自動ビジョンベース試料管検査システムにおいて、引っかき傷または汚れ粒子など照明器具および/またはセンサの欠陥は、試料検査の精度に影響を及ぼす可能性がある。したがって、一態様では、使用される光学構成要素の正しい動作を最大化に実現するための方法および装置が提供される。特に、ビジョンベース検査システムの光学構成要素の自律診断検証を可能にするシステム、方法、および装置が提供される。
ビジョンベース検査システムの光学構成要素の欠陥を検出するシステムおよび方法は、検査システムにすでに存在する光源およびセンサのみを使用する。言い換えると、本明細書に開示する実施形態は、ビジョンベース検査システムの光学構成要素の欠陥の存在を試験するために追加のハードウェアを利用しない。
光学システムの欠陥を検査する最も直感的な方法は、直接的な手動の目視検査である。しかし、特に光学構成要素がエンクロージャ内に設置されている場合、手動の目視検査は、システムの解体、構成要素の検査、およびシステムの再構成のためのシステムダウンタイムを生じることがあるため、この方法は容易には実現できないことがある。センサの「ホットピクセル」または「デッドピクセル」は、照明構成要素のオンとオフを切り替えながら撮影された取込み画像を閲覧することによって容易に検出することができるが、センサまたは光源の汚れ粒子や引っかき傷などの欠陥は、センサによって取り込まれる標準的な画像を使用することによって検出するのははるかに困難である。
ビジョンベース検査システムが、複数の独立して制御可能なLEDで照明されるLEDライトパネルを含むいくつかの実施形態では、本開示の実施形態は、異なるLEDをセット使用して変更可能な光強度パターンを生成し、2つの異なる(例えば相補的な)光強度パターンでパネルを照明することを含み、それにより、2つの異なるパターンの取込み画像を比較して、欠陥の存在を示すことができる。特に、2つの画像間で変化しないエリアは、欠陥の存在を示すものと識別することができる。言い換えると、欠陥がない場合、第1のLEDセットによって生成された第1の光強度パターンの画像は、第2の(完全に異なる)LEDセットによって生成された第2の光強度パターンの画像とはLEDパネルのすべての点で異なって見える。しかし、ライトパネルまたはセンサに欠陥がある場合、欠陥の影響を受けるエリアは、2つの異なる光強度パターンの画像間の他のエリアに比べて、ほとんどまたはまったく変化しない。本質的に、光を遮る欠陥は、背景の照明が変化しても、2つの取り込まれた画像で同じように見え(すなわち一致性があり)、異なる照明パターンの画像を比較することによって、変化のないエリアを用いて欠陥の存在を識別することができる。
図1Aは、ビジョンベース検査システム100の例示的な実施形態を示す。ビジョンベース検査システム100は、標本容器102の複数の画像を複数の視点(例えば視点1、2、3)から取得することを可能にし、各視点1、2、および3は、それぞれセンサ(例えば画像取込みデバイス104A〜104C)を含む。各視点1、2、および3は、図1Aに示されるように、ライトパネルアセンブリ106A〜106Cを含む。ビジョンベース検査システム100は、標本(例えば、血清もしくは血漿部分、沈降血液部分、またはその両方を含む)を自動的に特性評価および/または定量化するように構成および適用されることがあり、かつ/または追加としてもしくは場合により、標本が撮像位置108にあるときに標本容器102を定量化することがある。撮像位置108は、例えば、各視点1、2、および3からの法線ベクトルが交差する位置でよい。
ビジョンベース検査システム100のライトパネルアセンブリ106A〜106Cは、場合により拡散器の背後または横に配設されたLED(または他の実用的な光源)のアレイを使用して構築され、選択的に切替え可能でよい。ライトパネルアセンブリ106A〜106Cの発光源は、例えば、赤(R)、緑(G)、青(B)、白色光、近赤外線(NIR)、および/または赤外線(IR)スペクトルを放出することがある。図1Aには3つの画像取込みデバイス104A〜104Cが示されているが、1つ以上、2つ以上、3つ以上、または4つ以上のそのようなデバイスを使用することもできる。縁部の歪みを最小限に抑えるために、3つ以上のセンサ(例えば画像取込みデバイス104A〜104C)を使用することができる。画像取込みデバイス104A〜104Cは、デジタル画像(すなわち、画素化された画像)を取り込むことができる従来のデジタルデバイス(例えば、CCDまたはCMOSデバイス)でよい。例えば、3つの画像取込みデバイス104A、104B、104Cは、例えば標本容器102の全体または代表的な部分を取り込むために、適切な画像サイズを有する複数の(例えば3つの)異なる横方向の視点1、2、および3からの画像を取り込むように構成される。取り込まれた複数の画像は、本明細書で述べるようにコンピュータ110によって処理され、場合によっては、「ブロック」(例えば、画素の11×11グリッドなどの画素の集合)を使用することによって処理される。
各画像取込みデバイス104A〜104Cは、標本容器102の少なくとも一部およびそこに含まれる標本の少なくとも一部の複数の横方向画像を撮影するように構成されて動作可能であり得る。例えば、画像取込みデバイス104A〜104Cは、ラベル、キャップ、および管の一部を含む、標本212および/または標本容器102の一部を取り込むことがある。最終的に、複数の画像から、2Dデータセットが、各画像取込みデバイス104A〜104Cによって生成され、コンピュータ110のメモリに記憶される。これらの2Dデータセットから、標本および/または標本容器102の属性の処理を、既知の方法によって行うことができる。
図示される実施形態では、複数の画像取込みデバイス104A〜104Cは、撮像位置108の周りに配置され、複数の視点1、2、および3から横方向画像を取り込むように構成されて示されている。視点1、2、および3は、3つの画像取込みデバイス104A、104B、104Cが使用されるとき、図示されるように、互いに約120度など、互いにほぼ等間隔にされるように配置される。図示されるように、画像取込みデバイス104A〜104Cは、標本容器102を撮像位置108へおよび撮像位置108から移動させるためのトラック112の縁部の周りに配置される。複数の画像取込みデバイス104A〜104Cの他の配置および間隔を使用することもできる。このようにして、標本容器102がキャリア114内で、いくつかの場合にはトラック112上で撮像位置108に位置している状態で、標本容器102内の標本212の画像が撮影される。いくつかの実施形態では、画像はわずかに重なることがある。
画像取込みデバイス104A〜104Cは、標本容器102の予想位置を含む画像ウィンドウ、すなわち撮像位置108に近接して設けられ、画像ウィンドウを取り込むために訓練されまたは焦点を合わせられ、ここで、標本容器102は、ビューウィンドウのほぼ中央に位置するように停止または配置される。動作時、キャリア114がビジョンベース検査システム100内の撮像位置108に適切に位置しているという信号をコンピュータ110が受信したとき、コンピュータ110によって送信されて通信線116A〜116Cに提供されるトリガ信号に応答して各画像がトリガおよび取り込まれる。取り込まれた各画像は、当技術分野で知られている方法に従って処理される。特に、画像処理を使用して、画像を取り込み処理し、高レベルの詳細および情報コンテンツで標本および標本容器102を特性評価することができる。
いくつかの実施形態では、エンクロージャ118内のライトパネルアセンブリ106A〜106Cからの光によってバックライト照明された状態で、複数のスペクトル画像が取り込まれる。ライトパネルアセンブリ106A〜106Cとして具現化されたスペクトル切替え可能な光源は、図1Aに示されるように、試料容器102をバックライト照明することができ、複数のLEDまたは他の発光デバイスを含む切替え可能な光源の配置を含むことがある。複数のカラー画像の取込みおよび使用は、分析のための情報コンテンツを増やし、特定のスペクトルで撮像するときに特定の特性吸収スペクトルを強調することがある。
従来の使用法では、ライトパネルアセンブリ106A〜106Cは、画像取込みデバイス104A〜104Cの視野120A〜120C全体にわたって均質な発光を行う。ビジョンベース検査システム100は、トラック112を少なくとも部分的に取り囲むまたは覆うことができるエンクロージャ118を含むことがあり、標本容器102は、画像取込み動作中にエンクロージャ118の内部に位置することがある。エンクロージャ118は、キャリア114がエンクロージャ118に入るかつ/またはエンクロージャ118から出ることを可能にするために、1つまたはそれ以上のドア119を含むことがある。
上記の構成を使用すると、各対応する波長スペクトル(例えば、R、G、B、白色光、NIR、および/またはIR)に関して複数の露出時間で撮影される多くの多重画像が次々と得られ、したがって、複数の視点1、2、および3からの標本に関する画像全体が、例えば数秒未満で得られる。他の長さの時間を使用することもできる。
次に図1Bを見ると、ライトパネルアセンブリ106A1の第1の例示的な実施形態の背面図が概略的に示されている。例示的なライトパネルアセンブリ106A1は、LED124、126の2つのアレイを有するディスプレイパネル122を含む。図示される例では、各アレイ124、126は、例えば、交互パターンで配設されたLEDの2つのセット128A、128Bを含む。いくつかの実施形態では、2つのセット128A、128Bは同一のLEDであるが、個別に制御可能である。言い換えると、例えば、セット128Bがオフにされている間にはセット128Aをオンにすることができ、セット128Bがオンにされている間にはセット128Aをオフにすることができる。図1Cは、LED130、132、134、138の4つのアレイを有する拡散器パネル122を含む第2の例示的なライトパネルアセンブリ106A2を示す。図示される例では、各アレイ130、132、134、138は、交互パターンで配設されたLEDの2つのセット138A、138Bを含む。いくつかの実施形態では、2つのセット138A、138Bは同一のLEDであるが、個別に制御可能である。言い換えると、例えば、セット138Bがオフにされている間にはセット138Aをオンにすることができ、セット138Bがオンにされている間にはセット138Aをオフにすることができる。LEDまたは光源の他の配置を使用することもできる。
いくつかの実施形態では、異なるセット128A、128B(または138A、138B)は、異なる波長の光および/または異なる強度の光を放出するように制御することができる。したがって、例えば、ライトパネルアセンブリ106A2を使用して、LEDセット138Aをオンにし、LEDセット138Bをオフにすることによって、図2Aでライトパネルアセンブリ106A2に示される第1の光強度パターン200を生成することができる。また、同じライトパネルアセンブリ106A2を使用して、LEDセット138Aをオフにし、LEDセット138Bをオンにすることによって、図2Bにおいてライトパネルアセンブリ106A2に示される、第1の光強度パターン200とは異なる第2の光強度パターン200’を生成することができる。したがって、異なるLEDセット間で切り替えることにより、それに応じてパネルの強度分布を変えることができる。いくつかの実施形態では、異なる強度(すなわち、LEDセット138A、138Bに送られる異なる電流レベル)を使用して、図示されている2つの異なるパターンを生成することができる。例えば、図示されているパターンは相補的であることに留意されたい。言い換えると、一方のパターンが暗いエリアでは、他方のパターンが明るく、逆も同様である。完全には相補的でない光強度パターンを使用することもできるが、いくつかの実施形態では、相補的なパターンは、より容易に欠陥を顕在化することができる。
診断モードにおいて、画像位置108に標本容器102が存在しない場合、システム100は、画像取込みデバイス104Aの焦点をライトパネルアセンブリ106Aに合わせるように構成することができる。ライトパネルアセンブリ106Aにデブリ(例えば粒子など)があるとき、またはライトパネルアセンブリ106Aもしくはセンサ(例えば画像取込みデバイス104A)のいずれかに引っかき傷もしくは他の損傷があるとき、欠陥エリアの周りの光強度分布は、LEDパターンの変化の影響を受けにくい。この認識に基づいて、本開示の実施形態は、異なる光強度(および/または波長)パターンで照明されたライトパネルアセンブリ106Aの画像間の一致性チェックを使用して、ライトパネルアセンブリ106Aまたはセンサの欠陥を検出する。
例えば、コンピュータ110は、画像取込みデバイス104Aを使用して、2つの異なる光強度パターン200、200’で照明されたライトパネルアセンブリ106Aの2つの画像を取り込むことができる。次いで、コンピュータ110は、各画像を複数の比較的小さなブロックのグリッドに分割することによって画像を処理し、対応する各ブロックに関する画像間の相互相関を計算する。すなわち、2つの画像「I」および「J」のあらゆるブロック「B」について、以下に示すように、ブロックB内のあらゆる画素pに関する正規化された相互相関を用いて相関が計算される。
Figure 2022501594
上記の式に基づいて計算された相関が高いほど、ブロック「B」が光学構成要素に関する欠陥を含む可能性が高くなる。動作時、閾値相関値が設定され、閾値相関値を超える任意の計算された相関は、その位置での光学構成要素の欠陥の存在を示すとみなされる。
図3Aは、パネル300の欠陥としてデブリ粒子302を有するライトパネルアセンブリ300の例を示し、問題のある領域は、パネル300の他の領域よりも暗い(すなわち、より低い光強度レベル)。図4Aは、パネル400の表示パネルに欠陥として1つまたはそれ以上の引っかき傷402を有するライトパネルアセンブリ400の例を示し、問題のある領域は、他の領域よりも明るい(すなわち、より高い光強度レベル)。
本開示の方法を使用して、図3Bの生成された画像相関マップ304(すなわち、暗いエリア306)および図4Bの生成された画像相関マップ404(すなわち、暗いエリア406)に示されるように、両方のタイプの欠陥を容易に検出することができる。生成された画像相関マップ304、404は、計算された相関のプロットを表し、所定の閾値相関値よりも低い相関値は、対応するブロックを比較的明るい色で表示させ、所定の閾値相関値よりも高い相関値は、対応するブロックを比較的暗い色で表示させることに留意されたい。
図5は、光学構成要素にある欠陥の存在を試験するために上述したようなシステム100を使用する例示的な方法500を示す流れ図である。工程502で、ライトパネル(例えば、ライトパネルアセンブリ104Aなど)が第1の光強度パターン(例えば、図2Aのパターン200など)で照明され、第1の光強度パターン200の第1の画像を取り込むためにセンサ(例えば、図1の画像取込みデバイス106Aなど)が使用される。次いで、工程504で、ライトパネルは第2の光強度パターン(例えば、図2Bのパターン200’など)で照明され、第2の光強度パターン200’の第2の画像を取り込むためにセンサが使用される。次に、工程506で、2つの取り込まれた画像(第1の画像および第2の画像)が比較され(例えば、2つの画像の対応する各ブロック間の相関を計算することによって)、画像の比較結果(例えば数学的比較結果)が生成される(例えば、上述したような画像相関マップ)。画像の比較結果(すなわち、所定の閾値を超える比較的高い相関エリアの存在)に基づいて、この方法は、工程508で、ライトパネルまたはセンサの欠陥の存在を識別する。
いくつかの実施形態では、光強度パターンは、フィルタを挿入することによって、またはライトパネルの前に配設される変更可能なフィルタ(例えば構成可能な遮光LCDマスク)を使用することによって変更することができる。これは、ライトパネルアセンブリのLEDの強度または波長の変更の代わりに、またはそれに加えて行うことができる。
図6は、ライトパネルアセンブリ104Aの前に設置されるように適用された構成可能なLCDマスク600の例の概略図を示す。LCDマスク400は、ライトパネルアセンブリ104Aによって放出される光を遮断または通過させるために選択的にアクティブ化させることができる複数のLCDセグメント602(例えば、個別に制御されるセグメント602またはまとめて制御されるセグメントのセット602)を含む。
図7Aおよび7Bは、LCDマスク600のLCDセグメント602の2つの異なるセットを選択的にアクティブ化することによって生成される2つの異なる光強度パターン700、702を示す。代替の実施形態では、2つの異なる光強度パターンは、1つの画像に対してすべてのLCDセグメント602をアクティブ化し、第2の画像に対してはひとつもアクティブ化しないことによって単純に生成することができる。いくつかの実施形態では、LCDセグメントは、LEDセットの変更と組み合わせて使用することができる。
図8Aは、ライトパネルアセンブリ800の欠陥としてデブリ粒子302を含むライトパネルアセンブリ800を示す。図8Bは、LCDセグメント602がアクティブ化された状態で取り込まれたライトパネルアセンブリ800の画像と、LCDセグメント602がアクティブ化されていない状態で取り込まれたライトパネルアセンブリ800の画像との間の相関画像のプロットを示す。デブリ粒子302が画像内に存在する場合、暗いエリア306をもたらす所定の相関閾値よりも高い対応する高い相関と、明るい色で表示される残りのエリアをもたらす所定の相関閾値よりも低い相関とがあることに留意されたい。
図9は、フィルタ(例えばLCDマスク600)を使用して、ビジョンベース検査システム100の光学構成要素の欠陥を検出する第2の方法900を示す流れ図である。工程902で、第1のLCDフィルタパターンの背後にある照明されたLEDパネルの第1の画像が取り込まれる。工程904で、第2のLCDフィルタパターンの背後にある照明されたLEDパネルの第2の画像が取り込まれる。いくつかの実施形態では、第2のLCDフィルタパターンは、単に、LCDフィルタパターンがまったくないものであり得ることに留意されたい。次に、工程906で、2つの取り込まれた画像が比較され(例えば、画像の対応する各ブロック間の相関を計算することによって)、画像の比較結果(例えば数学的比較結果)が生成される(例えば、上述したような画像相関マップ)。工程908で、画像の比較結果(例えば、所定の閾値を超える比較的高い相関エリアの存在)に基づいて、ライトパネルまたはセンサの欠陥の存在を識別する。
本明細書に開示する実施形態の利点は、光学構成要素の様々なタイプの欠陥を容易に検出することができることである。ビジョンベース検査システムの構成要素以外のツールは使用されないため、本明細書で開示する診断方法は、システムをシャットダウンする、かつ/またはエンクロージャを取り外す必要なく自律的に行うことができる。したがって、光学構成要素の許容できる動作を確認するために、標本および/または標本容器の画像または一連のスクリーニング画像が撮影される前および/または後に、1つまたはそれ以上の欠陥チェックを行うことができる。
具体的な例を参照して本明細書で実施形態を述べるが、本開示の範囲は、記載される詳細に限定されることを意図されてはいない。むしろ、本開示の均等形態の範囲および範疇で、細部に様々な修正を施すことができる。

Claims (20)

  1. 方法であって:
    第1の光強度パターンでライトパネルを照明する工程と;
    第1の光強度パターンの第1の画像をセンサで取り込む工程と;
    第1の光強度パターンとは異なる第2の光強度パターンでライトパネルを照明する工程と、
    第2の光強度パターンの第2の画像をセンサで取り込む工程と;
    第1の画像と第2の画像との比較結果を生成するために、第1の画像と第2の画像とを比較する工程と;
    第1の画像と第2の画像との比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と
    を含む前記方法。
  2. 第1の画像と第2の画像とを比較する工程は、第1の画像の一部分と第2の画像の一部分との間の相関を計算することを含む、請求項1に記載の方法。
  3. 第1の画像と第2の画像とを比較する工程は、第1の画像のいくつかの部分と第2の画像のいくつかの部分との間の相関を計算することを含み、該部分は、ブロックを含む第1の画像および第2の画像の所定のエリアである、請求項1に記載の方法。
  4. ブロックは、第1の画像および第2の画像を覆うグリッドで配置される、請求項3に記載の方法。
  5. 相関は、式:
    Figure 2022501594
    に基づいて計算され、ここで、Bは、試験されるエリアを表し、Iは、第1の画像を表し、Jは、第2の画像を表し、pは、ブロックBに属する各画素を表す、請求項4に記載の方法。
  6. 所与のブロックに関する計算された相関が所定の閾値を超える場合に欠陥が識別される、請求項5に記載の方法。
  7. 第1の光強度パターンは、第2の光強度パターンと相補的である、請求項1に記載の方法。
  8. システムであって:
    コンピュータによって実行可能な命令を記憶するメモリを含むコンピュータを含み、命令は:
    第1の光強度パターンでライトパネルを照明する工程と;
    第1の光強度パターンの第1の画像をセンサで取り込む工程と;
    第1の光強度パターンとは異なる第2の光強度パターンでライトパネルを照明する工程と、
    第2の光強度パターンの第2の画像をセンサで取り込む工程と;
    第1の画像と第2の画像との比較結果を生成するために、第1の画像と第2の画像とを比較する工程と;
    第1の画像と第2の画像との比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と
    を含む、前記システム。
  9. 第1の画像と第2の画像とを比較する工程は、第1の画像の一部分と第2の画像の一部分との間の相関を計算することを含む、請求項8に記載のシステム。
  10. 第1の画像と第2の画像とを比較する工程は、第1の画像のいくつかの部分と第2の画像のいくつかの部分との間の相関を計算することを含み、該部分は、ブロックを含む第1の画像および第2の画像の所定のエリアである、請求項8に記載のシステム。
  11. ブロックは、第1の画像および第2の画像を覆うグリッドで配置される、請求項10に記載のシステム。
  12. 相関は、式:
    Figure 2022501594
    に基づいて計算され、ここで、Bは、試験されるエリアを表し、Iは、第1の画像を表し、Jは、第2の画像を表し、pは、ブロックBに属する各画素を表す、請求項11に記載のシステム。
  13. 所与のブロックに関する計算された相関が所定の閾値を超える場合に欠陥が識別される、請求項12に記載のシステム。
  14. 第1の光強度パターンは、第2の光強度パターンと相補的である、請求項8に記載のシステム。
  15. 方法であって:
    照明されたライトパネルの第1の画像をセンサで取り込む工程と;
    ライトパネルの上でマスクをアクティブ化して、マスクされたライトパネルを形成する工程と;
    マスクされたライトパネルの第2の画像をセンサで取り込む工程と;
    第1の画像と第2の画像との比較結果を生成するために、第1の画像と第2の画像とを比較する工程と;
    第1の画像と第2の画像との比較結果に基づいて、ライトパネルまたはセンサの欠陥を識別する工程と
    を含む前記方法。
  16. 第1の画像と第2の画像とを比較する工程は、第1の画像の一部分と第2の画像の一部分との間の相関を計算することを含む、請求項15に記載の方法。
  17. 第1の画像と第2の画像とを比較する工程は、第1の画像のいくつかの部分と第2の画像のいくつかの部分との間の相関を計算することを含み、該部分は、ブロックを含む第1の画像および第2の画像の所定のエリアである、請求項15に記載の方法。
  18. ブロックは、第1の画像および第2の画像を覆うグリッドで配置される、請求項17に記載の方法。
  19. 相関は、式:
    Figure 2022501594
    に基づいて計算され、ここで、Bは、試験されるエリアを表し、Iは、第1の画像を表し、Jは、第2の画像を表し、pは、ブロックBに属する各画素を表す、請求項18に記載の方法。
  20. 所与のブロックに関する計算された相関が所定の閾値を超える場合に欠陥が識別される、請求項19に記載の方法。
JP2021515501A 2018-09-20 2019-09-19 ビジョンベース検査システムの光学構成要素の自律診断検証のためのシステム、方法、および装置 Active JP7223840B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201862733954P 2018-09-20 2018-09-20
US62/733,954 2018-09-20
PCT/US2019/052007 WO2020061365A1 (en) 2018-09-20 2019-09-19 Systems, methods and apparatus for autonomous diagnostic verification of optical components of vision-based inspection systems

Publications (2)

Publication Number Publication Date
JP2022501594A true JP2022501594A (ja) 2022-01-06
JP7223840B2 JP7223840B2 (ja) 2023-02-16

Family

ID=69887865

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021515501A Active JP7223840B2 (ja) 2018-09-20 2019-09-19 ビジョンベース検査システムの光学構成要素の自律診断検証のためのシステム、方法、および装置

Country Status (5)

Country Link
US (1) US11555789B2 (ja)
EP (1) EP3853593A4 (ja)
JP (1) JP7223840B2 (ja)
CN (1) CN112689752A (ja)
WO (1) WO2020061365A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102021100441B4 (de) 2021-01-12 2022-08-04 Smokerstore Gmbh Erfassung der Temperatur eines Heizelements einer E-Zigarette
EP4288766A1 (en) * 2021-02-04 2023-12-13 Siemens Healthcare Diagnostics, Inc. Apparatus and methods of detecting defects in machine vision systems
WO2022221811A1 (en) * 2021-04-14 2022-10-20 Siemens Healthcare Diagnostics Inc. Diagnostic instruments having multiple illumination sources and methods thereof

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05302898A (ja) * 1992-03-11 1993-11-16 Nec Corp パターン検査装置
JPH0868617A (ja) * 1994-08-30 1996-03-12 Nec Corp パターン検査装置
JP2008032653A (ja) * 2006-07-31 2008-02-14 Sharp Corp テストパターン発生方法、テストパターンのデータ構造、テストパターン発生装置、表示パネル検査システム、制御プログラム、及び該プログラムを記録したコンピュータ読み取り可能な記録媒体
US20130271755A1 (en) * 2010-11-09 2013-10-17 Krones Ag Method for the Functional Control of an Inspection Device and Device for the Inspection of a Product flow
JP2016224707A (ja) * 2015-05-29 2016-12-28 リコーエレメックス株式会社 検査システム

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
IL108974A (en) * 1994-03-14 1999-11-30 Orbotech Ltd Device and method for testing a display panel
US6940554B2 (en) 2002-04-11 2005-09-06 Hewlett-Packard Development Company, L.P. Camera lens contamination detection and indication system and method
FR2941067B1 (fr) 2009-01-14 2011-10-28 Dxo Labs Controle de defauts optiques dans un systeme de capture d'images
DE102010024666A1 (de) 2010-06-18 2011-12-22 Hella Kgaa Hueck & Co. Verfahren zur optischen Selbstdiagnose eines Kamerasystems und Vorrichtung zur Durchführung eines solchen Verfahrens
KR20140091916A (ko) * 2013-01-14 2014-07-23 삼성디스플레이 주식회사 디스플레이 패널 검사방법
ES2728861T3 (es) 2013-03-15 2019-10-29 Univ Carnegie Mellon Sistema robótico autónomo supervisado para inspección y procesamiento de superficie compleja
DE102014203798B4 (de) * 2014-03-03 2017-11-30 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zur Überwachung des Verschmutzungs- und/oder Beschädigungszustands an einem Schutzglas eines Laserbearbeitungskopfs und Vorrichtung zur Laserbearbeitung
JP6370177B2 (ja) * 2014-09-05 2018-08-08 株式会社Screenホールディングス 検査装置および検査方法
US11308601B2 (en) * 2015-04-29 2022-04-19 Emhart Glass S.A. Container inspection system with individual light control
AU2016270992A1 (en) * 2015-06-03 2017-12-21 Christian Beck System and method for inspecting containers using multiple radiation sources
EP3408652B1 (en) * 2016-01-28 2020-12-16 Siemens Healthcare Diagnostics Inc. Methods and apparatus for classifying an artifact in a specimen
NZ746021A (en) * 2016-03-07 2020-02-28 Magic Leap Inc Blue light adjustment for biometric security
JP2017198612A (ja) * 2016-04-28 2017-11-02 キヤノン株式会社 検査装置、検査システム、および物品製造方法
CN110178014B (zh) 2016-11-14 2023-05-02 美国西门子医学诊断股份有限公司 用于使用图案照明表征样本的方法和设备
US10453215B2 (en) * 2017-05-19 2019-10-22 Qualcomm Incorporated Detect, reflect, validate

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05302898A (ja) * 1992-03-11 1993-11-16 Nec Corp パターン検査装置
JPH0868617A (ja) * 1994-08-30 1996-03-12 Nec Corp パターン検査装置
JP2008032653A (ja) * 2006-07-31 2008-02-14 Sharp Corp テストパターン発生方法、テストパターンのデータ構造、テストパターン発生装置、表示パネル検査システム、制御プログラム、及び該プログラムを記録したコンピュータ読み取り可能な記録媒体
US20130271755A1 (en) * 2010-11-09 2013-10-17 Krones Ag Method for the Functional Control of an Inspection Device and Device for the Inspection of a Product flow
JP2016224707A (ja) * 2015-05-29 2016-12-28 リコーエレメックス株式会社 検査システム

Also Published As

Publication number Publication date
EP3853593A1 (en) 2021-07-28
US11555789B2 (en) 2023-01-17
WO2020061365A1 (en) 2020-03-26
JP7223840B2 (ja) 2023-02-16
EP3853593A4 (en) 2021-11-17
CN112689752A (zh) 2021-04-20
US20210333217A1 (en) 2021-10-28

Similar Documents

Publication Publication Date Title
US10746763B2 (en) Apparatus and method for diagnosing electric power equipment using thermal imaging camera
JP7223840B2 (ja) ビジョンベース検査システムの光学構成要素の自律診断検証のためのシステム、方法、および装置
TWI399534B (zh) And a defect inspection device for performing defect inspection using image analysis
JP6670327B2 (ja) 宝石用原石の色測定
JP2019504996A (ja) 試料内のアーチファクトを分類する方法と装置
KR102003781B1 (ko) 초분광영상화 기법을 이용한 글라스(Glass) 결함 검출 장치
JP2019504995A (ja) 複数の露光を使用して試料容器及び/又は試料を画像化するための方法及び装置
JP2020519853A (ja) 畳み込みニューラルネットワークを用いたhiln評価方法及び装置
JP2019505802A (ja) 試料容器と試料の特徴付けのための方法及び装置
CN108872085B (zh) 基于蓝色波段透射图像检测的脐橙烂心无损检测方法
KR20120109473A (ko) 금속 뚜껑의 결함을 검출하는 장치, 시스템 그리고 방법
US10012584B2 (en) System and method for determining solute concentration in a colored liquid sample
CN108090890B (zh) 检查装置以及检查方法
JP2011103786A (ja) 細菌コロニー釣菌装置及びその方法
JP2021527219A (ja) 単一ディープニューラルネットワークをエンドツーエンド訓練法で使用する検体容器特徴付け
KR20150099956A (ko) 렌즈 검사 장치
CN108027326A (zh) 来自木质纤维网的荧光液体的光学检测
US20080170772A1 (en) Apparatus for determining positions of objects contained in a sample
KR20210131695A (ko) Led 패널 결함 검출을 위한 데이터 생성 장치 및 방법
JP7358411B2 (ja) 体外診断システムにおける試料容器の特性を決定するための方法、分析デバイス、および体外診断システム
JP2003014650A (ja) 農産物検査装置及び検査方法
CN112505002B (zh) 一种基于rgb模型的溶液浊度检测方法、介质、图像系统
KR101704690B1 (ko) 세포 분석 장치 및 방법
JP3047168B2 (ja) 鶏卵の検査方法
KR101517554B1 (ko) 공액구배 알고리즘을 이용한 비전시스템의 컬러 조명 제어방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221004

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230206

R150 Certificate of patent or registration of utility model

Ref document number: 7223840

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150