JP2023501525A - 自動外観検査ステーションのためのオフライントラブルシューティング及び開発 - Google Patents

自動外観検査ステーションのためのオフライントラブルシューティング及び開発 Download PDF

Info

Publication number
JP2023501525A
JP2023501525A JP2022527125A JP2022527125A JP2023501525A JP 2023501525 A JP2023501525 A JP 2023501525A JP 2022527125 A JP2022527125 A JP 2022527125A JP 2022527125 A JP2022527125 A JP 2022527125A JP 2023501525 A JP2023501525 A JP 2023501525A
Authority
JP
Japan
Prior art keywords
avi
station
container images
simulated
mimicking
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022527125A
Other languages
English (en)
Other versions
JPWO2021096827A5 (ja
Inventor
ミルン,グラハム・エフ
ピアソン,トーマス・シー
ベルナッキ,ジョーセフ・ピーター
Original Assignee
アムジエン・インコーポレーテツド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アムジエン・インコーポレーテツド filed Critical アムジエン・インコーポレーテツド
Publication of JP2023501525A publication Critical patent/JP2023501525A/ja
Publication of JPWO2021096827A5 publication Critical patent/JPWO2021096827A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/418Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41875Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by quality surveillance of production
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8803Visual inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37009Calibration of vision system, camera, adapt light level
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Manufacturing & Machinery (AREA)
  • Automation & Control Theory (AREA)
  • Analytical Chemistry (AREA)
  • Pathology (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)
  • General Factory Administration (AREA)
  • Image Processing (AREA)
  • Eye Examination Apparatus (AREA)
  • Testing Or Measuring Of Semiconductors Or The Like (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

自動外観検査(AVI)ステーションの動作をレプリケートするための方法において、AVIステーションの1つ又は複数のAVI機能を実行する模倣AVIステーションが構築される。AVIステーションの照明システムによって容器が照明されている間、AVIステーションの撮像システムにより、1つ又は複数の容器画像が取り込まれ、及び模倣AVIステーションの模倣撮像システムにより、1つ又は複数の追加の容器画像が取り込まれる。本方法はまた、1つ又は複数のプロセッサにより、1つ又は複数の追加の容器画像と1つ又は複数の容器画像との間の1つ又は複数の差分を特定することと、1つ又は複数のプロセッサにより、差分及び/又は模倣AVIステーションを修正するための1つ若しくは複数の提案の可視指示を生成することと、可視指示に基づいて模倣AVIステーションを修正することとを含む。

Description

本出願は、概して、医薬品又は他の製品のための自動外観検査(AVI)システムに関し、より詳細には、AVIステーションのためのオフライントラブルシューティング及び/又は開発を実行するための技法に関する。
製造された医薬品の品質管理手順などの特定の状況では、試料(例えば、シリンジ若しくはバイアルなどの容器及び/又は液体医薬品若しくは凍結乾燥医薬品などの内容物)に欠陥がないか調べる必要がある。適用可能な品質基準下での特定の試料のアクセプタビリティは、例えば、容器の欠陥(例えば、欠け若しくは割れ)のタイプ及び/若しくはサイズ又は医薬品中の望ましくない粒子(例えば、繊維)のタイプ、数及び/若しくはサイズなどのメトリックに依存し得る。試料に許容できないメトリックがある場合、試料は、不合格と判定され得、且つ/又は破棄され得る。
医薬品の商業生産に通常関連する量を処理するために、欠陥検査タスクは、一層自動化されている。更に、自動欠陥検査を支援するために使用される専用機器は、非常に大きく、非常に複雑であり、非常に高価になっており、それぞれの新しい製品ラインをクオリフィケーション及びコミッショニングするには、人的資源及び他のリソースにかなりの投資が必要になる。ごく一例を挙げると、薬剤充填済みシリンジのフィル-フィニッシュ検査ステージで使用されるBosch(登録商標)296S商業ライン機器は、15の個別の外観検査ステーションを含み、計23のカメラ(すなわち1つのステーション当たり1又は2つのカメラ)を有する。この機器は、全体として多様な欠陥を検出するように設計されており、欠陥としては、容器施栓系の大きい割れなどの容器完全性に関わる欠陥、容器表面上の傷又は汚れなどの容器の表面外観に関わる欠陥及び液体の色又は異物粒子の存在などの医薬品自体に関わる欠陥が挙げられる。
追加のAVIライン機器を購入するには、膨大な費用がかかり得るため、通常、トラブルシューティング及び新製品の特性解析の活動は、現場で行う必要がある。したがって、通常、トラブルシューティング及び新製品の特性解析には、長いダウンタイムが必要とされ、その結果、長期的な生産率が最適でなくなる。
本明細書で説明される実施形態は、既存のAVIステーションの動作をレプリケートするために「模倣」AVIステーションが構築又はアップグレードされ、それにより、生産ラインの運転に干渉しないか又は干渉の少ない、オフライントラブルシューティング又は新製品の特性解析及び/若しくはクオリフィケーション作業を可能にするシステム及び方法に関する。いくつかの実施形態では、模倣AVIステーションは、既存の商業ライン機器のステーション(例えば、ライン機器内の複数のステーションの1つ)の1つ又は複数のAVI機能を模倣する専用のオフライン(例えば、実験室ベース)ステーションである。このような実施形態では、模倣AVIステーションを使用して、商業ライン機器の長時間のシャットダウンを必要とすることなく、商業ライン機器内の特定の対応するステーションに関する問題をトラブルシューティングするか、又は他に対応するステーションの動作を改善することができる。例えば、ハードウェアコンポーネント(例えば、照明装置、スターホイールなど)、ハードウェア配置(例えば、試料とカメラ又は照明装置との間の距離又は角度、照明装置の構成など)及び/又はソフトウェア(例えば、検査アルゴリズムを実装するコード)に対してオフラインでの修正を行うことができる。適切な修正が特定されると、元のAVIステーションにそれらの変更を実装するために、商業ライン機器が比較的短時間シャットダウンされ得る。場合により、その後、ある程度の現場でのクオリフィケーション作業が行われる。模倣AVIステーションは、オフラインであるため、それは、商業ライン機器上ではなく、実験室において根本原因の調査、レシピ開発及び/又は他のサポート活動を実施する機会を提供する。
他の実施形態では、模倣AVIステーションは、代替的に、商業ライン機器のステーションであり、その目標は、実験室ベースのAVIステーションの特性/動作を模倣することである。そのような実施形態では、実験室ベースのAVIステーションを使用して、新しい医薬品を特性解析し、新しい医薬品の検査をクオリフィケーションすることができ、これは、本来/従来、ライン機器の大規模なダウンタイムを必要とし、他の医薬品のための同時使用を阻むものである。適切なハードウェアコンポーネント/構成及び適切なソフトウェアが特定されると、それらの変更を実装するために、ライン機器が比較的短時間シャットダウンされ得る(ここでも、場合により、その後、ある程度の現場でのクオリフィケーション作業が行われる)。先に述べた実施形態と同様に、本実施形態は、商業ライン機器上ではなく、実験室においてレシピ開発、根本原因の調査及び/又は他のサポート活動を実施する機会を提供する。
これらの実施形態のいずれでも、適切に類似した模倣AVIステーションの構築に大きい課題がある。特に、イメージャ(例えば、カメラ、撮像光学系)、照明(例えば、照明装置、環境/周囲の照明又は反射)、相対的なジオメトリ(すなわち空間的配置)、画像処理ソフトウェア、コンピュータハードウェア及び/又は製品の機械的な動きは、すべて検査性能に影響を与え得る可能性があり、再現されるAVIステーションと厳密に一致することが重要である。これは、特に難しく、なぜなら、これらの構成要素/特性の多くは、任意の所与のAVIステーションに固有である傾向があるためである。したがって、本開示の実施形態では、ロバスト性及び信頼性の高いプロセスを使用して、AVIステーションを可能な限り厳密に(又は必要に応じて厳密に)レプリケートする。
最初に、様々な適切な技法のいずれかを使用して、AVIステーションの構成要素/構成が特定され得る。例えば、詳細な手動写真、3Dスキャン及び測定を行うことができる。代替的又は追加的に、この目的のために、3次元コンピュータ支援設計(CAD)ファイル(例えば、ベクター画像pdf又は他のフォーマットの技術的分解図)を使用することができる。この情報を使用して、模倣AVIステーションのハードウェアを得、且つ/又は組み立てて、元のAVIステーション(すなわち模倣されるステーション)と同じ相対的配置/ジオメトリに配置することができる。3Dスキャナ又は他の機器/技法を使用してAVIステーションを再現することもできる。
本明細書に開示される様々な技法を使用して、再現されるAVIステーションによって取り込まれた試料画像に対して、模倣AVIステーションによって取り込まれた試料(例えば、容器)画像を比較することにより、構築された又は部分的に構築された模倣AVIステーションを改善及びバリデーションすることができる。このプロセスから得られたフィードバックにより、ユーザ(例えば、技術者)は、模倣AVIステーションが元のAVIステーションと十分に同じように動作するか否かを判定することができるだけでなく、元のAVIステーションの動作をよりよくレプリケートするために、模倣AVIステーションのいずれの態様を修正するべきであるかを判定することができる。
いくつかの実施形態では、この目的のために、画像比較ソフトウェアツールが比較を行い、対応する出力を生成する。例えば、画像比較ツールは、際立った画像メトリック(例えば、光の強度、カメラノイズ、カメラ/試料アライメント、焦点ぼけ、モーションブラーなどを示すメトリック)をリアルタイムで計算してユーザに報告し、模倣AVIステーションの実行可能性を微調整及び評価するための信頼できるプロセスを比較的迅速にユーザに提供することができる。いくつかの実施形態では、画像比較ツールは、メトリックに基づいて特定の提案(例えば、「カメラと容器との間の距離を近づける」)を生成し、これがユーザに表示される。有利には、画像比較ツールは、元のAVIステーションと模倣AVIステーションとが離れて配置されている場合でもAVIステーションの動作の正確な再現を可能にし得る。すなわち、AVIステーションのハードウェアのジオメトリ、コンピュータハードウェア及び/又は他の態様を正確に再現することが困難又は不可能である特定の状況でも、AVIステーションの動作を適切に再現することができる。画像比較ツールは、一般に、ヒューマンエラー及びヒトの主観に関連するリスクを軽減する科学的で再現性のあるプロセスを提供し、したがってAVIステーションと対応する模倣ステーションとの間の真の同等性に関して規制当局を納得させる可能性が高い。
本明細書で説明される図は、例示を目的として含まれ、本開示を限定するものではないことが当業者に理解されるであろう。図面は、必ずしも原寸に比例しておらず、むしろ本開示の原理を示すことに重点が置かれている。いくつかの場合、記載される実施形態の様々な態様は、記載される実施形態を理解しやすくするために誇張又は拡大して示される場合があることを理解されたい。図面では、様々な図面を通して同様の参照符号は、全般的に、機能的に類似する及び/又は構造的に類似する構成要素を指す。
模倣AVIステーションを構築して使用することにより、商業ライン機器のAVIステーションをトラブルシューティングするための例示的なプロセスを示す。 模倣AVIステーションを構築して使用することにより、商業ライン機器のAVIステーションをトラブルシューティングするための例示的なプロセスを示す。 実験室ベースのセットアップを模倣することにより、商業ライン機器のAVIステーションで使用するためのAVIレシピ及び/又はハードウェアセットアップを開発するための例示的なプロセスを示す。 図1A及び図1Bのプロセスを実装し得る例示的なシステムの簡略化されたブロック図である。 ライン機器のAVIステーションを模倣し得るか、又はライン機器のAVIステーションのための開発プラットフォームとして使用され得る例示的な実験室ベースのセットアップと、関連する容器画像とを示す。 ライン機器のAVIステーションを模倣し得るか、又はライン機器のAVIステーションのための開発プラットフォームとして使用され得る例示的な実験室ベースのセットアップと、関連する容器画像とを示す。 ライン機器のAVIステーションを模倣し得るか、又はライン機器のAVIステーションのための開発プラットフォームとして使用され得る例示的な実験室ベースのセットアップと、関連する容器画像とを示す。 ライン機器のAVIステーションを模倣し得るか、又はライン機器のAVIステーションのための開発プラットフォームとして使用され得る例示的な実験室ベースのセットアップと、関連する容器画像とを示す。 ライン機器のAVIステーションを模倣し得るか、又はライン機器のAVIステーションのための開発プラットフォームとして使用され得る別の例示的な実験室ベースのセットアップを示す。 模倣AVIステーションの構築又はアップグレードを容易にするために使用され得る例示的な画像比較ツールを示す。 図6の画像比較ツールによって実装され得る例示的なアルゴリズムを示す。 実験室ベース又はライン機器AVIステーションの動作をレプリケートするための例示的な方法のフロー図である。
上記で導入として説明され、以下でより詳細に論じられる様々な概念は、多くの方法のいずれかで実施することができ、説明される概念は、いかなる特定の実施様式にも限定されない。実施形態の例は、説明を目的として提供される。
図1A及び図1Bは、模倣AVIステーションを構築して使用することにより、商業ライン機器の自動外観検査(AVI)ステーションをトラブルシューティングするための例示的なプロセス100を示す。まず、図1Aを参照すると、ステージ102において、1つ又は複数のAVIステーションを備えた商業ライン機器が通常/生産運転モードで稼働する。商業ライン機器は、例えば、医薬品(例えば、液体医薬品を含むシリンジ又は凍結乾燥医薬品を含むガラスバイアル)の製造における品質管理のための「フィル-フィニッシュ」ステージで使用され得る。AVIステーションは、容器検査(例えば、シリンジ、バイアルなど)専用の1つ若しくは複数のステーション及び/又は試料検査(例えば、容器内の医薬品中の粒子の検出及び/若しくは特性解析)専用の1つ若しくは複数のステーションを含み得る。商業ライン機器は、例えば、図3に関連して以下でより詳細に論じる商業ライン機器302であり得る。図1A及び図1Bの一番上にある水平方向の線/矢印は、ステージ102からステージ142(後述)まで延び、商業ライン機器を使用した連続製品ライン検査を表す。図1A及び図1Bの水平方向の軸は、一般に、時間を表すが、必ずしも時間の尺度に比例しておらず、図1A及び図1Bは、必ずしも動作の順序を表すとは限らない(しかしながら、動作の順序を表す場合もある)(例えば、ステージ110は、ステージ122の1回目の反復前に行われるか又は後に行われるなどであり得る)。
ステージ104において、商業ライン機器内の問題のあるAVIステーションが特定される。例えば、ライン機器の特定のAVIステーションが多数の誤検出(例えば、ライン機器によって欠陥があるとマークされているが、より厳密な手動又は自動検査で許容可能であると判定された試料)を特定していること及び/又は欠陥のある試料を特定し損ねていることを、生産プロセスを監視している人が観測する場合がある。
ステージ110において、操作者は、問題のあるAVIステーションに使用されるソフトウェアコードを、実験室ベースのセットアップ(すなわち模倣AVIステーションとなるもの)に関連するコンピューティングシステムにダウンロード及び/又はインストールする。コードは、ライン機器から直接転送され得るか、又は別の方法で(例えば、可搬型メモリ装置若しくはインターネット経由のダウンロードなどから)インストールされ得る。いくつかの実施形態では、インストールされたコードは、容器の移動、画像の取り込み及び画像処理の役割を果たすコードを含む。例えば、コードは、撮像前及び/又は撮像中に容器を攪拌(例えば、回転、揺動、反転など)する機構を制御し、適切なときに1つ又は複数のカメラをトリガし、カメラの画像を処理して、容器の欠陥(例えば、割れ、欠け)及び/又は内容物の欠陥(例えば、大きい繊維又は他の異物)を検出することができる。
ステージ112において、ライン機器内の問題のあるAVIステーションが容器の1つ又は複数の画像を取り込む。実施形態及び/又はシナリオに応じて、ステージ112は、ライン機器の通常/生産運転への中断を必要としても又はしなくてもよい。例えば、取り込まれた画像は、生産中にも使用される画像であり得る。
ステージ114において、問題のあるAVIステーションのハードウェアは、模倣AVIステーションセットアップ手順120を開始するためにリバースエンジニアリングされる。ステージ114は、問題のあるAVIステーションのハードウェアコンポーネント(例えば、カメラ、光学コンポーネント、照明装置、容器を移動するための機構など)、問題のあるAVIステーションのハードウェアコンポーネントアセンブリ(例えば、様々なコンポーネント及びサブコンポーネントがどのように組み立てられているか)、問題のあるAVIステーションにおけるハードウェアコンポーネントの相対的なジオメトリ/配置(例えば、照明装置及びカメラに対する容器の向き及び距離)及び/又は問題のあるAVIステーションの他の特性(例えば、容器の回転速度など)のリバースエンジニアリングを含み得る。いくつかの実施形態では、リバースエンジニアリングは、純粋に手動であり、正確な(例えば、ノギス、定規などによる)測定、利用可能な図面の検討などを含む。3Dスキャナを使用して、AVIステーションの寸法を正確に取り込むこともできる。他の実施形態では、リバースエンジニアリングの少なくとも一部分は、例えば、問題のあるAVIステーションの寸法(角度、距離など)を示すファイル又は画像を処理することによって自動化される。
ステージ122の1回目の反復において、ステージ114で得られた知識を使用して模倣AVIステーションが構築される。構築は、部分的に手動であるか又は完全に手動であり得る。金属及びプラスチックのCNC機械加工並びに/又は3Dプリンティングなどの任意の適切な製作技法を使用して、模倣AVIステーションの特定の非電子ハードウェアコンポーネント(例えば、スターホイールなど)を構築することができる。ステージ122の1回目の反復は、カメラ、LEDリング又は他の照明装置などの様々な既製のコンポーネントを購入するか又は他に取得することも含み得る。ステージ122の1回目の反復は、ステージ112で使用されたパラメータ設定と一致するように様々なソフトウェアパラメータを設定することも含み得る。例えば、ユーザは、ステージ112で画像を取り込むとき、ライン機器によって使用された回転速度設定に等しくなるように容器の回転速度を設定することができる。
ステージ124の1回目の反復において、問題のあるAVIステーションをレプリケートする(ステージ122における)最初の試み後、模倣AVIステーションの1つ又は複数のイメージャ(例えば、カメラ)によって容器の1つ又は複数の画像が取り込まれる。容器は、ステージ112で撮像された容器と同じタイプであるものとし、実際に同じ容器であり得る。
ステージ126の1回目の反復において、画像比較ツールは、ステージ112で取り込まれた容器画像が、ステージ124の1回目の反復で取り込まれた容器画像とある程度の許容できる程度に一致するか否かを判定する。この判定を行うために、画像比較ツールは、画像又は画像セットのそれぞれについていくつかのメトリックを生成し、それらのメトリックを比較して、類似性の尺度(例えば、類似性スコア)を決定し得る。例えば、画像比較ツールは、サイズ(例えば、画像内に示される容器の大きさ)、向き(例えば、画像の垂直軸に対する容器の壁の角度)、光の強度(例えば、画像のピクセル強度で示される)、焦点ぼけ、モーションブラー及び/又は他の特性に関連するメトリックを生成し得る。画像比較ツールは、ステージ112からの画像と、ステージ124からの画像との対応するメトリックも(例えば、差分値を計算することによって)比較し得る。例示的なメトリックについては、以下で図6及び図7を参照して更に詳細に論じる。ステージ126での判定は、実施形態に応じて、画像比較ツールの出力を観測するユーザによって行われるか又はツール自体によって行われ得る。
画像比較ツール(又はツールのユーザ)が、ステージ126の1回目の反復において画像又は画像セットが十分に類似していないと判定した場合、ステージ122の2回目の反復で模倣AVIステーションが修正される。ステージ122の2回目の反復における修正は、ステージ126の1回目の反復での画像比較ツールの出力に基づいて集中的に行われる。例えば、画像比較ツールが、ステージ124の1回目の反復で模倣AVIステーションによって取り込まれた画像の光の強度が低すぎると示した場合、ユーザは、ステージ122の2回目の反復中に照明装置を容器に近づけることができるか、又はレンズの絞りサイズなどを変更することができる。別の例として、画像比較ツールが、ステージ124の1回目の反復において取り込まれた画像がステージ112で取り込まれた画像よりも焦点が合っていないことを示した場合、ユーザは、容器を模倣AVIステーションのカメラに近づけるか又は遠ざけることができる。いくつかの実施形態では、画像比較ツールは、比較された画像のメトリックを処理して、「照明装置を容器に近づける」、「照明装置Bを容器に近づける」又は「照明装置Bを容器に3mm近づける」などの提案をステージ126において提供する。
開発者がステージ122の2回目の反復で修正を行った後、模倣AVIステーションは、ステージ124の2回目の反復で(例えば、ユーザからの手動トリガに応答して)1つ又は複数の画像の新しいセットを取り込み、画像比較ツールは、ステージ126の2回目の反復においてステージ112で取り込まれた画像(又は場合により問題のあるAVIステーションによって取り込まれた新しい画像)と新しい画像を比較する。図1Aから分かるように、画像比較ツール(又はその出力を観測するユーザ)が、ステージ126の反復において、模倣AVIステーションによって取り込まれた画像と、ライン機器の問題のあるAVIステーションによって取り込まれた画像との間の十分な程度の類似性によって示されるように、問題のあるAVIステーションの動作/特性を模倣AVIステーションが十分な精度で再現したと判定するまで、手順120内のループは、任意の反復数だけ続けることができる。いくつかのシナリオでは、ハードウェアコンポーネント及び/又はジオメトリにかなり差がある場合でも十分な程度の類似性が達成され得る。他のシナリオでは、十分な程度の類似性は、ハードウェアコンポーネント及びジオメトリの正確なレプリケーションを必要とする。
十分な程度の類似性が達成されると、模倣AVIステーションは、プロセス130(図1Bを参照されたい)中にトラブルシューティングの役割で使用できるようになる。例示的なプロセス130では、ステージ132の1回目の反復において、ユーザ(例えば、技術者)は、ステージ104で観測された問題を修正しようとするために、検査アルゴリズム/レシピの適切な修正及び/又はハードウェアセットアップ(例えば、異なるカメラ、レンズ、照明装置のタイプなど、並びに/又はそのような装置/コンポーネントの異なる配置及び/若しくは設定)の修正を検討/理論立てする。その後、ステージ134の1回目の反復において、操作者は、ステージ132の1回目の反復で特定された修正に従ってハードウェア及び/又はコードを修正する。
ステージ136の1回目の反復において、模倣AVIステーションを使用して、模倣AVIステーションの動作が合格であるか否か、すなわちステージ104で観測された問題が十分に修正されているか否かを試験する。ステージ136は、例えば、標準ベースの要件と統計結果(例えば、誤検出率など)を比較することを含み得る。ステージ136の各反復は、(例えば、観測された問題が少ないが、それでも許容できない誤検出率又は検出漏れ率の場合に)問題が解決されたか否かを判定するために、多数の画像及び/又は多様な容器/製品試料を必要とし得るため、時間集約的及び/又は労働集約的であり得る。しかしながら、時間的投資は、商業ライン機器の中断を必要としないため、許容可能であり得る。
ステージ136において動作が合格である/許容できると判定されない場合、プロセス130が繰り返され、ステージ132の2回目の反復において新しい修正が特定/理論立てされる。プロセス130は、ステージ136の反復において動作が合格である/許容できると判定されるまで、ライン機器の運転を中断することなく、任意の反復数で繰り返され得る。その時点において、トラブルシューティングプロセス130が完了し、(ステージ140において)クオリフィケーション及びコミッショニング活動が正常に行われた場合、ステージ142において、プロセス130中に行われた(すなわちステージ134の最終反復後の模倣AVIシステムの最終状態に反映される)修正が問題のあるAVIステーションに適用される。ステージ142では、通常、プロセス130から変更を行うために(また場合によりいくつかの簡略化されたクオリフィケーション/コミッショニング操作のために)商業ライン機器での生産を停止する必要があるが、問題のあるAVIステーション自体上の現場でトラブルシューティングプロセス130を実行する必要があった場合よりもダウンタイムが大幅に短くなる。ステージ142において、問題のあるAVIステーションに変更が適用された後、ステージ144において、生産(すなわちライン機器の通常/生産運転)が再開される。
問題のあるAVIステーションのトラブルシューティングに関連してプロセス100を説明してきたが、プロセス100は、代替的に、既にある程度良好に動作しているAVIステーションを改善する(例えば、検査性能を更に最適化するか又はより費用効率を上げるなど)ために使用され得ることを理解されたい。更に、医薬品製造ラインのフィル-フィニッシュステージに関連してプロセス100を説明してきたが、プロセス100は、代替的に、異なるステージ(例えば、装置の組み立て後に製品を検査する場合又は製品の表示物及び/若しくは包装を検査する場合など)で使用され得、且つ/又は代替的に非製薬の状況(例えば、比較的厳しい品質基準を伴う別の状況)で使用され得ることを理解されたい。
図1A及び図1Bは、模倣AVIステーションを構築して使用することにより、商業ライン機器のAVIステーションをトラブルシューティングするためのプロセス100を示す一方、図2は、商業ライン機器のAVIステーションをアップグレードして、実験室ベースのAVIセットアップの動作を模倣する例示的なプロセス200を示す。図2の商業ライン機器は、1つ又は複数のAVIステーションを含み、例えば図1A及び図1Bに関連して上で論じたライン機器又は図3を参照して以下で論じるライン機器(すなわち商業ライン機器302)のいずれかであり得る。
ステージ202において、商業ライン機器は、例えば、特定の医薬品(例えば、薬剤充填済みシリンジ)のフィル-フィニッシュステージ検査のために通常/生産運転モードで稼働する。図1A及び図1Bに関連して上で論じたように、図2のプロセス200は、代替的に、異なる検査ステージ(例えば、装置の組み立て、包装など)に適用され得、及び/又はプロセス200は、非製薬の状況で使用され得る。図2の一番上にある水平方向の線/矢印は、ステージ202からステージ220(後述)まで延び、商業ライン機器を使用した連続製品ライン検査を表す。図2の水平方向の軸は、一般に、時間を表すが、必ずしも時間の尺度に比例しておらず、図2は、必ずしも動作の順序を表すとは限らない(しかしながら、動作の順序を表す場合もある)(例えば、ステージ202は、ステージ204の開始前又は後に行われ得る)。
ステージ204において、新しい医薬品のフィル-フィニッシュ検査において使用するために商業ライン機器を適合させることが決定される。新しい医薬品は、様々な理由により、商業ライン機器の1つ又は複数のAVIステーションへのカスタム修正を必要とすることがある。例えば、新しい医薬品は、以前の製品よりも透明度が低い場合がある(例えば、撮像により強い光の強度を必要とする)か、又は異なるタイプの欠陥及び/若しくは領域にある欠陥を有する可能性がある異なるタイプの容器に入れられるなどの場合がある。
次に、開発手順210において、新しい医薬品に合わせて調整されたAVIステーションを開発するために実験室ベースのセットアップが使用される。開発手順210内では、ステージ212において、実験室ベースのセットアップの撮像システム(1つ又は複数のカメラ及び任意の関連する光学コンポーネント)は、容器(例えば、シリンジ又はバイアル)内の照明された試料(例えば、液体又は凍結乾燥製品)の画像を取り込む。
ステージ214において、取り込まれた画像を利用して、実験室ベースのセットアップのユーザが検査レシピ/アルゴリズムを開発し、所望の性能(例えば、特定のタイプの欠陥に関して誤検出及び/又は検出漏れの閾値量未満である性能)を達成するために、実験室ベースのセットアップの様々なパラメータを調整する。調整された「パラメータ」は、ソフトウェア、撮像ハードウェア、照明ハードウェア及び/又はコンピュータハードウェアの任意の設定、タイプ、位置及び/又は他の特性を含み得る。例えば、ユーザは、光の強度の設定、カメラの設定、カメラレンズタイプ又は他の光学コンポーネント、撮像システム及び照明システムのジオメトリなどを調整することができる。本開示を通して使用される「ユーザ」という用語は、1人の人物又は2人以上の人々のチームを指し得ることを理解されたい。いくつかのシナリオでは、ユーザは、ステージ214でまったく新しいソフトウェアアルゴリズムを開発し得る。
ステージ216において、ユーザは、特性解析及びクオリフィケーション作業を実行して、ステージ214で開発/調整された実験室ベースのセットアップ/ステーションが(例えば、適用される規制に従って)満足に動作するか否かを判定する。満足に動作しない場合、実験室ベースのセットアップ/ステーションを使用して、ステージ214の次の反復で更に開発/調整することができ、これは、ステージ212の次の反復で追加の画像を取り込むことも必要とし得る。開発手順210のステージ212、214、216は、ステージ216での特性解析/クオリフィケーション作業の結果が合格であると見なされるまで、任意の反復数で繰り返され得る。
結果が合格であると見なされ、新しい医薬品を商業規模で生産するための準備ができたら、商業ライン機器を停止し、実験室ベースのセットアップの動作を模倣するために、ライン機器のAVIステーションのハードウェア及び/又はソフトウェアをステージ220で更新する。図2に明示的に示していないが、ステージ220内の模倣プロセスは、図1Aの反復セットアップ手順120(すなわちステージ122、124、126)と同様の手順を含み得るが、更新されるAVIステーションが既に存在するという事実に起因して、「構築」を必要としないステージ122の最初の反復を伴う(可能性がある)。実際、いくつかのシナリオでは、ステージ122は、(既存のAVIステーションが画像比較ツールのフェーズにそのまま進むのに既に実験室ベースのセットアップに十分に近いと開発者が考える場合)1回目の反復全体がスキップされ、その後の反復でのみ実行され得る。
開発者は、ステージ220において(画像比較ツールに基づいて更新が正常に行われた後)、ライン機器のダウンタイムが増加するあるレベルの現場クオリフィケーション作業を実行する必要もあり得る。しかしながら、これに必要な時間は、開発手順210中のクオリフィケーション作業よりもはるかに短くなり得、いずれの場合にも、(手順210における)開発作業がオフラインで行われるという事実により、ライン機器のダウンタイムが大幅に短縮される。ステージ222において、正常なクオリフィケーション後、商業ライン機器上での生産が再開されるが、ここでは、新しい医薬品に関して再開される。
いくつかのシナリオでは、プロセス100とプロセス200との両方が順次実施される。例えば、ライン機器のAVIステーションが許容できない数の誤検出を生じていると判定された場合(すなわちそのような欠陥が存在しない場合にかなりの欠陥にフラグを立てている場合)、プロセス100を使用して、模倣AVIステーションを構築して調整することができる。その後、模倣AVIステーションを使用することにより、異なるハードウェアコンポーネント(例えば、複数の指向性ライトの代わりにLEDリングライト)が必要であると判定され得る。模倣AVIステーション上での新しい設計のクオリフィケーション後、アップグレードされたステーションが模倣ステーションの動作と正確に/十分に一致することを確保するために、ライン機器のAVIステーションをアップグレードするときにプロセス200が使用され得る。
図3は、本明細書で記載される技法を実装し得る例示的なシステム300の簡略化されたブロック図である。具体的には、図3は、模倣AVIステーションを使用して商業ライン機器のAVIステーションをトラブルシューティングする実施形態を示す。したがって、例えば、システム300は、図1A及び図1Bのプロセス100を実施し得、且つ/又は実施するために使用され得る。
図3から分かるように、システム300は、商業ライン機器302と模倣AVIステーション304とを含む。ライン機器302は、N(N≧1)個のAVIステーション310-1~310-N(AVIステーション310とも総称される)を備えた任意の生産グレードの機器であり得る。ごく一例を挙げると、ライン機器302は、Bosch(登録商標)296Sライン機器であり得る。図3の例では、ライン機器302のi番目のAVIステーション310-iは、トラブルシューティングを必要とし(又は代替的に最適化の対象であり)、ここで、iは、1、N又は1~Nの任意の数に等しい。AVIステーション310のそれぞれは、異なる態様の容器及び/又は容器内の試料の検査に使用される画像を取り込む役割を果たす。例えば、1番目のAVIステーション310-1は、シリンジ又はバイアルの上方から見た画像を取り込んで、割れ又は欠けについて検査することができ、2番目のAVIステーション310-2は、側面から見た画像を取り込んで、シリンジ又はバイアルの内容物(例えば、液体又は凍結乾燥医薬品)における異物粒子を検査することなどができる。
図3は、i番目のAVIステーション310-iの一般的なコンポーネントを、簡略化したブロック図の形式で示す。特に、AVIステーション310-iは、撮像システム312と、照明システム314と、試料位置決めハードウェア316とを含む。他のAVIステーション310(存在する場合)は、同様であり得るが、所与の各ステーション310の目的に応じて、異なるコンポーネントタイプ及び構成を有する可能性があることを理解されたい。
撮像システム312は、各試料(例えば、容器及び医薬品)の画像を取り込むために、1つ又は複数の撮像装置と、場合により関連する光学コンポーネント(例えば、追加のレンズ、ミラー、フィルタなど)とを含む。撮像装置は、例えば、電荷結合素子(CCD)センサを備えたカメラであり得る。本明細書で使用される場合、「カメラ」又は「撮像装置」という用語は、任意の適切なタイプの撮像装置(例えば、ヒトの可視周波数スペクトル部分を取り込むカメラ又は赤外線カメラなど)を指し得る。照明システム314は、例えば、発光ダイオード(LED)アレイ(例えば、パネル又はリング装置)など、撮像のために各試料を照明するための1つ又は複数の照明装置を含む。
試料位置決めハードウェア316は、AVIステーション310-iのために、試料を保持又は他に支持する任意のハードウェア並びに場合により試料を搬送及び/又は他に移動するハードウェアを含み得る。例えば、試料位置決めハードウェア316は、スターホイール、回転台、ロボットアームなどを含み得る。いくつかの実施形態では、AVIステーション310-iの機能に応じて、試料位置決めハードウェア316は、各試料を攪拌するためのハードウェアも含む。例えば、AVIステーション310-iが液体内の異物粒子を検査する場合、試料位置決めハードウェア316は、各試料を回転(spin)/回転(rotate)、反転及び/又は揺動するコンポーネントを含み得る。
ライン機器302は、処理ユニット320及びメモリユニット322も含む。処理ユニット320は、1つ又は複数のプロセッサを含み、1つ又は複数のプロセッサのそれぞれは、メモリユニット322に記憶されたソフトウェア命令を実行して、本明細書で説明される商業ライン機器302のソフトウェアによって制御される機能のいくつか又はすべてを実行するプログラム可能なマイクロプロセッサであり得る。代替的又は追加的に、処理ユニット320におけるプロセッサのいくつかは、他のタイプのプロセッサ(例えば、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)など)であり得、本明細書で説明される処理ユニット320の機能のいくつかは、代替的にハードウェアで実装され得る。メモリユニット322は、1つ又は複数の揮発性メモリ及び/又は不揮発性メモリを含み得る。メモリユニット322には、読み取り専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、フラッシュメモリ、ソリッドステートドライブ(SSD)、ハードディスクドライブ(HDD)など、1つ又は複数の任意の適切なメモリタイプを含めることができる。メモリユニット322は、まとめて、1つ又は複数のソフトウェアアプリケーション、それらのアプリケーションによって受け取られる/使用されるデータ及びそれらのアプリケーションによって出力/生成されるデータを記憶し得る。
処理ユニット320及びメモリユニット322は、一緒に、AVIステーション310の動作を制御/自動化し、また容器及び/又は容器の内容物(例えば、医薬品)の対応するタイプの欠陥を検出するためにAVIステーション310によって取り込まれた/生成された画像を処理するように構成される。代替的な実施形態では、処理ユニット320及び/又はメモリユニット322の機能は、それぞれがAVIステーション310-1~310-Nの異なる1つに固有のN個の異なる処理ユニット及び/又はメモリユニットにそれぞれ分散される。更に別の実施形態では、(例えば、試料の搬送、攪拌及び/又は撮像のための)処理ユニット320及びメモリユニット322の機能のいくつかは、AVIステーション310に分散される一方、(例えば、試料画像を処理して欠陥を検出するための)処理ユニット320及びメモリユニット322の他の機能は、集中処理ユニットによって実行される。いくつかの実施形態では、処理ユニット320及び/又はメモリユニット322の少なくとも一部分は、ライン機器302の外部(及び場合により遠隔)にあるコンピューティングシステム(例えば、特別にプログラムされた汎用コンピュータ)に含まれる。
メモリユニット322は、AVIステーション310によって取り込まれた試料(容器/製品)画像を記憶し、またAVIコード326を記憶する。AVIコード326は、処理ユニット320によって実行されると、(1)AVIステーション310に画像を取り込ませ、且つ(2)(例えば、上述のように)取り込まれた画像を処理して欠陥を検出する。例えば、AVIステーション310-iの場合、AVIコード326は、図3にコード328として示されている対応する部分を含む。1つの実施形態の一例として、コード328は、試料が照明システム314によって照明されている間に画像を取り込むように撮像システム312をトリガし得、試料位置決めハードウェア316を制御して、試料を適切な時間に正しい位置に配置し、場合により適切な時間に攪拌プロファイルに従って試料を攪拌し得る。画像が取り込まれ、画像324として記憶された後、コード328は、画像324を処理して、ステーション310-iに関連する特定のタイプの欠陥を検出する。上記のように、いくつかの実施形態では、画像を処理するコード328の部分は、撮像、攪拌などを制御するコード328の部分と異なるプロセッサ、コンポーネント及び/又は装置によって実行され得る。
模倣AVIステーション304は、(例えば、AVIステーション310-iに許容できないレベルの誤検出又は検出漏れがあることを把握したことに応じて)特定のAVIステーション310-iの動作を(十分な程度まで)レプリケートするように構築された実験室ベースのセットアップであり得る。模倣AVIステーション304は、模倣撮像システム332と、模倣照明システム334と、模倣試料位置決めハードウェア336とを含む。模倣撮像システム332は、各試料(例えば、容器及び医薬品)の画像を取り込むための1つ又は複数の撮像装置(及び場合により関連する光学コンポーネント)を含み、模倣照明システム334は、撮像のために各試料を照明するための1つ又は複数の照明装置を含み、試料位置決めハードウェア316は、試料を保持又は他に支持するハードウェアと、場合により試料を搬送及び/又は他に移動するハードウェアとを含む。
理想的には、模倣撮像システム332、模倣照明システム334及び模倣試料位置決めハードウェア336は、AVIステーション310-iの撮像システム312、照明システム314及び試料位置決めハードウェア316をそれぞれ完全にレプリケートする。より重要なことに、模倣AVIステーション304は、全体として、AVIステーション310-iの動作を理想的にレプリケートする。しかしながら、現実の世界では、動作の正確な一致を達成するのは、極めて困難である。図1Aに関連して上述したように、AVIステーション310-iの動作に「近い」動作を最初に有する模倣AVIステーション304を(例えば、ステージ122において)構築するために、様々な手動及び/又は自動リバースエンジニアリング技法が使用され得る。
図1Aのステージ126に関連して上述したように模倣AVIステーション104が最初に構築された後、ソフトウェアを使用して、動作の一致を改善するための模倣AVIステーション304の微調整を容易することができる。このため、模倣AVIステーション304は、処理ユニット342とメモリユニット344とを含むコンピューティングシステム340(例えば、特別にプログラムされた汎用コンピュータ)に結合される。コンピューティングシステム340は、模倣AVIステーション304と別個であるか又は一体であり得、模倣AVIステーション304の近くにあるか又は遠隔にあり得る。いくつかの実施形態では、例えば、コンピューティングシステム(又はその一部分)は、インターネットリンクを介して模倣AVIステーション304から画像を受信する。
処理ユニット342は、1つ又は複数のプロセッサを含み、1つ又は複数のプロセッサのそれぞれは、メモリユニット344に記憶されたソフトウェア命令を実行して、本明細書で説明されるコンピューティングシステム340のソフトウェアによって制御される機能のいくつか又はすべてを実行するプログラム可能なマイクロプロセッサであり得る。代替的又は追加的に、処理ユニット342におけるプロセッサのいくつかは、他のタイプのプロセッサ(例えば、ASIC、FPGAなど)であり得、本明細書で説明される処理ユニット342の機能のいくつかは、代替的にハードウェアで実装され得る。メモリユニット344は、1つ又は複数の揮発性メモリ及び/又は不揮発性メモリを含み得る。メモリユニット344には、ROM、RAM、フラッシュメモリ、SSD、HDDなど、1つ又は複数の任意の適切なメモリタイプが含まれ得る。メモリユニット344は、まとめて、1つ又は複数のソフトウェアアプリケーション、それらのアプリケーションによって受け取られる/使用されるデータ及びそれらのアプリケーションによって出力/生成されるデータを記憶し得る。
メモリユニット344は、模倣撮像システム332によって取り込まれた画像346と、AVIステーション310-iの撮像システム312によって取り込まれた画像348とを記憶する。また、メモリユニット344は、画像比較ツール(ICT)350及びAVIコード352を記憶する。一般に、画像比較ツール350は、(例えば、ステージ126に関連して上述し、図6及び図7に関連して後述するように)その動作がAVIステーション310-iに一致するように模倣AVIステーション304を調整するプロセスを容易にし、AVIコード352は、トラブルシューティング又は最適化プロセス中、構築されて調整された模倣AVIステーション304を制御するために使用される。AVIコード352は、例えば、コード328の完全な(又は極めて近い)複製であり得、ライン機器302、可搬型メモリ装置、インターネット又は別の適切なソースからダウンロード又はアップロードされ得る。他の実施形態では、AVIコード352は、コード328の一部分のみを含む(例えば、適切な撮像位置への及びそこからの試料の搬送を制御するために使用される部分を除く)。
コンピューティングシステム340は、出力ユニット360に結合される。出力ユニット360は、任意のタイプの視覚及び/又は音声出力装置(例えば、コンピューティングシステム340のコンピュータモニタ、タッチスクリーン若しくは他のディスプレイ及び/又はスピーカ或いはディスプレイ及び/又はスピーカを有し、コンピューティングシステム340に結合された別個のコンピューティングデバイスなど)であり得る。画像比較ツール350及びAVIコード352は、出力ユニット360に、模倣AVIステーション304の開発者又はユーザに対して様々な視覚及び/又は音声出力を提供させることができる。例えば、画像比較ツール350は、出力ユニット360に、(以下で更に論じるように)画像346と画像348との間の差分を表す様々なメトリックを表示させ得、AVIコード352は、出力ユニット360に、特定の試料が不良であるか否かの指標などの情報を表示させ得る。
図3は、模倣AVIステーション(ステーション304)が商業ライン機器のAVIステーション(ライン機器302のステーション310-i)をトラブルシューティングするために使用される実施形態を示すが、商業ライン機器のAVIステーションが(例えば、図2のプロセス200のような)実験室ベースのセットアップ/ステーションの動作をレプリケートするために更新/修正される実施形態のために、同様のコンポーネントが使用され得ることを理解されたい。このような実施形態では、i番目のAVIステーション310-iは、AVIステーション304(すなわち実験室ベースのセットアップ)を模倣する「模倣」ステーションである。更に、このような実施形態では、画像比較ツール350は、代替的にライン機器302のメモリ322に常駐し得る。代替的に、画像比較ツール350は、コンピューティングシステム340に留まり得る。
いくつかの実施形態では、システム300は、遠方のユーザがそれぞれの実験室及び製造場所に関係なく、実験室ベースのセットアップに直接アクセスできるように、遠隔拠点(例えば、グローバルな製造拠点)へのアクセスを提供する。このような手法により、ネットワークを介した拠点/ユーザ間のリアルタイムのコラボレーションが可能になり、例えばトラブルシューティング及び/又は開発サポートをグローバルな集中施設に置きながら、多様な場所にいる個人(技術者など)の専門性を活用できるようになる。したがって、ネットワーク型の手法は、より効率的な組織構造をもたらし得る。
図4及び図5は、例示的な実験室ベースのセットアップを示し、そのいずれも、図3の模倣AVIステーション304(例えば、プロセス100の模倣AVIステーション)であるか、又は代替的に開発プラットフォームとして使用される実験室ベースのAVIステーション(例えば、プロセス200で使用される実験室ベースのセットアップ)であり得る。これらの実験室ベースのセットアップ/ステーションは、例示的なものに過ぎないことと、代替のタイプ及び構成が実質的に無制限に存在することとを理解されたい。
まず、図4Aを参照すると、第1の実験室ベースのセットアップ400は、例えば、容器の上部(例えば、液体医薬品が充填されたシリンジの上部)の欠陥(例えば、割れ、欠けなど)を検査するために使用され得る。セットアップ400は、容器を撮像するためのカメラ402と、各容器を撮像しながら各容器を照明するためのLEDリング404とを含む。試料位置決めハードウェア406は、プラットフォーム406Aと、プラットフォーム406Aに取り付けられたスターホイール406Bとを含む。また、カメラ402及びLEDリング404は、プラットフォーム406Aに(直接又は間接的に)取り付けられ得る。スターホイール406Bは、スターホイール406Bの周縁部に沿ったフィッティングに容器(例えば、シリンジ)を保持することができ、スターホイール406Bは、プラットフォーム406Aに対して回転して、各容器を撮像位置(すなわちLEDリング404内の中心及びカメラ402の直下)に移動させることができる。しかしながら、いくつかの実施形態及び/又はシナリオでは、セットアップ400が、いくつかの連続する容器を順次撮像できることよりも、単一の容器の撮像に関してライン機器AVIステーションの特性(例えば、照明、光学系など)に一致又は厳密に近似することのみが重要である。したがって、いくつかの実施形態では、模倣されるAVIステーション(又は開発活動が行われているAVIステーション)がそのようなハードウェア又は機能を必要とする場合でも、スターホイール406Bは、複数の容器を保持するように設計される必要はなく、回転する必要もない。
図4Bは、セットアップ400(及びライン機器の対応するAVIステーション)がシリンジフランジ上の欠陥を検出するためにシリンジの上方からの画像を取り込む実施形態について、セットアップ400によって取り込まれ得る例示的な画像450を示す。本例から分かるように、欠陥は、シリンジフランジ上の様々な位置及びサイズの欠け及び割れを含み得る。
図4Cは、ライン機器のAVIステーション(例えば、図3のAVIステーション310-i)によって取り込まれた画像を表す例示的な画像460を示し、図4Dは、正常にトラブルシューティングが行われた後の模倣AVIステーション(例えば、セットアップ400)によって取り込まれた画像を表す例示的な画像470を示す。本例では、ライン機器AVIステーションは、画像460に見られる光の反射に起因して誤検出率が許容できないほど高く、トラブルシューティング中の修正(例えば、別のタイプの照明装置からLEDリングに変更するか、又は容器に対するカメラ又は照明装置の向きを変更するなど)により、画像470に見られる反射が大幅に少なくなる。光の反射に関連するアーチファクトが減ることにより、欠陥が見えなくなる可能性が低くなり得、且つ/又は反射を欠陥と誤って解釈する可能性が低くなり得る。
次に、図5の例を参照すると、実験室ベースのセットアップ500は、例えば、シリンジを側面から見て(例えば、液体医薬品で充填されたシリンジの側面)欠陥(例えば、容器シリンジの側壁の割れ、欠け、汚れなど、並びに/又は医薬品中の許容できないタイプ及び/若しくは数の粒子)を検査するために使用され得る。セットアップ500は、容器を撮像するためのカメラ502と、各容器を撮像しながら各容器を背後から照明するためのLEDバックライト504とを含む。試料位置決めハードウェアは、いくつかのシリンジを保持する回転台506を含み、カメラ502とLEDバックライト504との間に単一のシリンジを位置決めする。回転台506は、各シリンジを撮像位置に移動させるために回転し得る。上述のように、いくつかの実施形態及び/又はシナリオでは、セットアップ500が、いくつかの連続する試料を順次撮像する同じ能力を有することよりも、所与の試料の撮像に関してライン機器AVIステーションの特性に一致又は厳密に近似することのみが重要である。したがって、いくつかの実施形態では、模倣されるAVIステーション(又は開発活動が行われているAVIステーション)がそのようなハードウェア又は機能を必要とする場合でも、回転台506は、複数のシリンジを保持するように設計される必要はなく、回転する必要もない。
図6は、模倣AVIステーション(例えば、図1のプロセス100における実験室ベースのセットアップ、図2のプロセス200のライン機器AVIステーション又は図3の模倣AVIステーション304)の構築及び/又はアップグレードを容易にするために使用され得る例示的な画像比較ツール600(例えば、図3の画像比較ツール350)を示す。図6から分かるように、画像比較ツール600は、元の画像602と模倣画像604とを受け取り、実施されているのがプロセス100であるか又はプロセス200であるかに応じて、元の画像602は、ライン機器のAVIステーションによって取り込まれた画像であり得、模倣画像604は、実験室ベースのセットアップによって取り込まれた画像であり得るか、又はその逆であり得る。いくつかの実施形態では、画像602、604は、ロスレス画像圧縮形式を使用することが想定される。
画像比較ツール600は、メトリック生成ユニット612とフィードバックユニット614とを含む。メトリック生成ユニット612は、画像602及び画像604を処理し、画像602、604の特性を示すメトリックを生成/計算し、それらのメトリックに基づいて、画像602、604間の差分を示す1つ又は複数の追加のメトリックを計算する。いくつかの実施形態では、メトリック生成ユニット612は、画像ごとに、すなわち元の画像602の1つを模倣画像604の1つと比較することによってメトリックを計算する。他の実施形態では、メトリック生成ユニット612は、複数の元の画像602及び複数の模倣画像604のセットに基づいてメトリックのそれぞれを計算する。例えば、元の画像602のx枚(x>1)の画像のセットを平均するか又は互いに重ね合わせ得、模倣画像604のx枚の画像のセットを、場合によりアライメント技法を適用した後、平均化するか又は互いに重ね合わせ得る。このような手法により、例えば異常値画像の影響を軽減できる。平均化/重ね合わせ/アライメントは、例えば、画像比較ツール600を実装する同じコンピューティングデバイス若しくはプロセッサによって実行され得るか、又は別のデバイス若しくはプロセッサによって実行され得る。代替的な実施形態では(例えば、ラインスキャンカメラが使用される場合)、ユニット612が任意のメトリックを計算する前に、(例えば、各容器を回転させて容器の全方位から見る実施形態において)元の画像602のx枚の画像が一緒にスティッチングされ、模倣画像604のx枚の画像が一緒にスティッチングされる。画像602及び604の他の前処理(例えば、各ピクセルがx枚の画像のすべてにわたってそのピクセル位置に対して最大の強度を有する画像を生成すること)も可能である。説明を簡単にするために、図6の残りの説明及び図7の説明では、1つの元の画像602及び1つの模倣画像604のみに言及する。しかしながら、上記の変形形態又は他の適切な変形形態が可能であることを理解されたい。メトリック生成ユニット612が計算し得るメトリックのいくつかの具体的な例について、図7を参照して以下に説明する。
フィードバックユニット614は、メトリック生成ユニット612によって生成された差分メトリックに基づいて、視覚及び/又は音声形式でユーザ(例えば、技術者、開発者、技術者など)に1つ又は複数の出力が提示されるようにする。出力は、例えば、図3の出力ユニット360によって生成(例えば、表示及び/又は発光)され得る。いくつかの実施形態では、フィードバックユニット614は、生成されたメトリックをユーザに単に(例えば、グラフィカルユーザインターフェース(GUI)上で)提示する。例えば、フィードバックユニット614は、強度レベルメトリック、画像焦点ぼけメトリック及び/又は他のメトリックをユーザに表示させることができる。
他の実施形態では、フィードバックユニット614は、代替的又は追加的に、1つ又は複数のメトリックに基づいて1つ又は複数のユーザ提案を生成する。例えば、フィードバックユニット614は、カメラを動かす、照明装置を動かす、光の強度を変える、カメラの設定を変えるなどの提案を生成し得る。他の例示的な提案については、図7を参照して後述する。
いくつかの実施形態では、メトリック生成ユニット612及びフィードバックユニット614は、模倣画像604が模倣AVIステーションの撮像システム(例えば、模倣撮像システム332)によって取り込まれるとき及び/又は模倣画像604が画像比較ツール600を実装する装置若しくはシステムによって(例えば、コンピューティングシステム340によって)受信されるとき、実質的にリアルタイムで動作する。したがって、例えば、ユーザは、出力ユニット360上に提示されたGUI上の対話型コントロールを選択することによって模倣ステーション画像を取り込み、その後、メトリック生成ユニット612及び/又はフィードバックユニット614によって生成された対応するメトリック及び/又は提案をほぼ直ちに見ることが可能になり得る。このようにして、ユーザは、模倣AVIステーションを修正し(例えば、コンポーネント位置、設定などを微調整し)、模倣AVIステーションの動作に及ぼす修正の効果(すなわちその修正によって模倣AVIステーションが元のAVIステーションの動作にどの程度近づくか又は遠ざかるか)を観測するという反復を迅速に進めることができる。
図7は、例えば、図6の画像比較ツール600(より具体的にはメトリック生成ユニット612)によって実装され得る例示的なアルゴリズム700を示す。図7から分かるように、アルゴリズム700は、単一の元の画像702(例えば、画像702の1つ)及び単一の模倣画像704(例えば、画像704の1つ)を入力として受け入れる。上述のように、いくつかの実施形態では、これらの「単一の」画像は、複数の画像の合成(例えば、平均)であり得る。1つの実施形態では、アルゴリズム700は、OpenCVライブラリを用いて、Pythonコードで実装される。
ステージ712において、アルゴリズム700は、元の画像702及び模倣画像704について1つ又は複数の総画像パラメータ(P1~Pj、ここで、j≧1である)を決定し、それらのパラメータを比較して、整合性をチェックする。総画像パラメータは、例えば、画像サイズ、画像解像度、色深度及び/又は画像ファイル形式などの比較的基本的な画像パラメータを表し得る。画像比較ツール600は、例えば、元のAVIステーション及び模倣AVIステーションの様々なハードウェアコンポーネント(例えば、カメラ)に入力されるか、又はそれらによって生成される構成ファイルを用いて、総画像パラメータを決定し得る。アルゴリズム700は、(例えば、図3の出力ユニット360によって表示される)GUIに、総画像パラメータにおける任意の差分を示させることができる。したがって、例えば、ユーザは、元のAVIステーションにおけるカメラ(又はその後の処理)が何らかの方法で(例えば、クロッピング、フォーマット変換、リサイズなど)取り込まれた画像を変更したときに容易に検出可能であり得、それらの画像処理操作を再現するように模倣AVIステーションを手動で再設定することができる。
ステージ714A及び714Bにおいて、アルゴリズム700は、それぞれ元の画像702及び模倣画像704の1つ又は複数のメトリック(C1~Ck、ここでk≧1)を計算する。ステージ714A及び714Bは、画像702、704の総画像パラメータが同一であると仮定し得る。メトリックは、検査精度に関連するか又は関連する可能性のある任意の画像特性を表すことができる。また、アルゴリズム700は、2つの画像702、704の対応するメトリック間の差分を示すメトリック(図7ではΔC1~ΔCkと記されている)を含む。アルゴリズムは、例えば、単純な減算によって(例えば、ΔC1が画像702のC1と画像704のC1との間の差分の絶対値に等しい場合など)又は他の技法(例えば、要素ごとの減算、ドット積など)を用いて、差分のいくつか又はすべてを計算し得る。
一例として、メトリックは、1つ又は複数の光の強度メトリックを含み得る。光の強度は、実施形態に応じて、1つ又は複数の方法で測定され得る。例えば、画像702、704のそれぞれについて、アルゴリズム700は、すべてのピクセルの強度値を平均して平均値を生成し、画像702、704の平均値を比較(例えば、減算)し得る。別の例として、アルゴリズム700は、画像702、704のそれぞれについてピクセル強度ヒストグラムを生成し、次に既知の技法を使用してヒストグラムを数学的に比較し得る。使用され得、且つヒストグラム間の差分を反映した1価出力が得られるいくつかの技法としては、バタチャリア距離法、相関法、カイ二乗法及び交差法が挙げられる。使用される最良の技法は、検討される画像の性質によって異なり得る。ヒストグラムに基づく強度解析により、アルゴリズム700は、各画像内の強度のダイナミックレンジ(すなわち最小強度値と最大強度値との間の値幅)を考慮することができる。
複雑な画像の場合、容器のファセットのサブセットとその周辺環境とから均質でない照明が偏って反射することがあるため、上で論じたような強度メトリックは、不十分な場合がある。更に、(例えば、窓又は蛍光天井灯からの)不均一な環境照明に起因する粗い効果は、画像全体の強度において大きい波長の緩やかな変動をもたらし得る。いくつかの実施形態では、アルゴリズム700は、ローパス周波数フィルタを使用して、このような変動を取り込む。追加的又は代替的に、アルゴリズム700は、画像702、704のそれぞれについて高速フーリエ変換(FFT)を計算し、対応するFFT出力を処理して、周波数成分が画像702、704について同様に分布しているか否かを判定し得る。
別の例として、メトリックは、画像の焦点ぼけを示す1つ又は複数のメトリックを含み得る。例えば、アルゴリズム700は、画像702、704のそれぞれのラプラシアンを計算して、容易に比較され得る1価パラメータを生成し得る。アルゴリズム700が、例えば、OpenCVライブラリを用いたPythonコードとして実装される場合、焦点ぼけは、画像702、704のそれぞれについて、以下のように計算され得る。
焦点ぼけ=cv2.Laplacian(image,cv2.CV_64F).var()
また、ラプラシアンメトリックは、撮像カメラに対する撮像される容器/試料の動きを示すこともできる。商業AVIシステムでは、検査ステーションに対して試料を迅速に移動させることは、珍しいことではない。例えば、鮮鋭な撮像を実現するために、商業システムは、カメラの露光時間を短くすること、照明光のストロービング、撮像コンポーネントを動かして部分を追跡すること又はこれらの機能の1つ若しくは複数を組み合わせたものを採用することが多い。模倣AVIステーションがこれらの機能の1つ又は複数において元のAVIステーションと不一致の場合、ある程度のモーションブラー又はストリーキングが発生する可能性がある。結果は、焦点ぼけと同様であるが、方向性の成分を有する。したがって、ラプラシアン技法を用いて計算されたメトリックも動きを示し得る。ラプラシアンに加えて、ソーベル(Sobel)又はプレヴィット(Prewitt)などの一次フィルタを使用して、画像の鮮鋭度に関する追加情報を得ることができる。
別の例として、メトリックは、カメラノイズを示す1つ又は複数のメトリックを含み得る。最近の産業用デジタルカメラでは、ノイズは、センサ自体においてのみ発生する可能性がある。一般に、信号は、デジタル化された後に破損しにくくなる。模倣AVIステーションを構築するとき、カメラのブランド及び機種は、いくつかの場合、容易に一致し得るため、ノイズレベルは、同様であり得る。一例として、8ビットグレースケール画像における所与のピクセル上の累積ノイズレベルは、特定のカメラブランド及び機種について、0~255のダイナミックレンジのうち、0~10の範囲であり得る。これにより、ほとんどのAVIアプリケーションにおいて室温でのノイズが無視できるほど小さくなる。しかしながら、いくつかの場合、カメラのノイズレベルが検査性能に影響を与えること及び/又はカメラの機種が陳腐化に起因して見つからず、使用できない場合があることが考えられる。デジタル画像の場合、カメラノイズは、通常、事実上高周波である。したがって、アルゴリズム700は、画像702、704のそれぞれについてFFTを計算し、FFT出力を処理して、高周波成分のレベル又は相対レベルを示すメトリックを生成することにより、カメラノイズを示すメトリックを生成し得る。
別の例として、メトリックは、撮像された容器(及び場合により試料位置決めハードウェアの部分などの他の撮像された物体)のアライメント及びスケーリングを示す1つ又は複数のメトリックを含み得る。例えば、アルゴリズム700は、撮像された容器の相対的な回転(例えば、画像自体の垂直軸又は水平軸に対する、すなわちカメラフレームによって確立された軸に対する、撮像された容器の垂直壁の角度)と、(例えば、ピクセル単位で測定される長さ及び/又は幅に基づいて決定される)横方向及び/又はスケール深度のオフセット/シフトとを決定し得る。
ステージ716において、アルゴリズム700は、ステージ714A及び714Bで計算されたメトリックに基づいて、画像対702、704に対する加重比較スコアを生成する。特に、本例では、アルゴリズム700は、スコア=(W1*ΔC1)+(W2*ΔC2)+...+(Wk*ΔCk)としてスコアを計算し、ここで、(上述のように)ΔCiは、2つの画像702、704についてのCiに対応する差分指標である。重みW1、W2、...Wkは、特に、同等のAVI検査性能を達成するためにいずれのメトリックがより重要であるか又はより重要でないかに関して、各メトリックの類似性達成の重要性を表すことができる。重みは、ある程度、アプリケーション固有であり得る。例えば、いくつかの実施形態又はシナリオでは、ピクセル強度レベルは、焦点ぼけよりも重要であり、したがって、強度の差分は、ラプラシアンスカラ値(又は焦点ぼけを示す他のメトリック)の差分よりも重く重み付けされ得る。
図6に関連して上述したように、画像比較ツール600は、出力ユニット360に、計算されたメトリックのいくつか又はすべて(例えば、差分メトリックΔC1~ΔCkのみ又は対応する閾値を超える差分メトリックのみなど)をリアルタイムで表示させ得る。代替的又は追加的に、ツール600は、出力ユニット360にステージ716で生成されたスコアを表示させ得る。スコアが計算され、示され、十分である(例えば、ある所定の閾値を上回る)と見なされる実施形態では、技術者又は他のユーザは、模倣AVIステーションが元のAVIステーションと十分に一致すると決定し、トラブルシューティング及び/又は最適化のための模倣AVIステーションの使用に進むことができる。
スコアが十分でない場合又はスコアが提示されず、個々のメトリックが十分に近いようではない場合、ユーザは、必要に応じて模倣AVIステーションを「微調整」して、より良好な一致を実現するために、表示されたメトリックを解析し得る。例えば、模倣画像704が全体として元の画像702に対して薄暗い(例えば、平均強度が低い)ことをメトリックが示す場合、ユーザは、照明又はカメラ装置の設定を確認し(例えば、光の強度設定、レンズ絞り設定、カメラゲイン設定、カメラ露光時間設定など)、且つ/又は照明装置を試料に近づけるなどできる。
画像ピクセルの強度に影響を与え得る照明光源に関連するいくつかの態様がある。一般に、典型的なAVIアプリケーションでは、影響は、画像全体にわたる巨視的なものである可能性が高い。最近のAVIステーションには、ハイエンドの産業用LEDが一般に使用されている。模倣AVIステーションを構築するとき、LED光源を容器から適切な距離で配置しないと、強度が低下することがある。強度は、光源からの距離の2乗で低下するため、わずかな位置決めの差が最終的な画像に検出可能な影響を及ぼすことがある。容器に対する位置が設定されても、電源に起因してLED光源の明るさが依然として変化することがある。他のすべての要因が除外された後、画像比較ツール600をリアルタイムで使用して、LED光源の電力及びその後の明るさを微調整することができる。上記のような画像処理技法は、AVIアプリケーションにおいて光源の明るさを測定するためにルクスメーターを使用する従来の手法よりも、より正確でより微妙な解決策を提供する。
レンズなどのいくつか光学コンポーネントは、全体的な画像強度(及び場合により画像の鮮鋭度に影響する絞り設定などの他の画像特性)にも影響し得る手動式の絞り又は他のコンポーネントを含み得る。これらは、レンズ上の手動ダイヤル又はねじであることが多く、デジタルフィードバックが得られない。また、これらのコンポーネントには、目に見える等級又は罫線がない場合がある。高度に忠実な製品画像を実現するために、工場の自動検査ステーションではテレセントリックレンズが一般に使用されている。これらのレンズは、いくつかの機種では手動でサイズを調整できるピンホール絞りを含む。これは、レンズを通ることができる光の量に影響を与え、また画像の鮮鋭度にも特徴的な影響を与える。したがって、2つの要因を考慮して組み合わせることにより、メトリックを観測するユーザは、強度に関連するレンズ特性を適切に設定することができる。
また、画像全体における強度の大幅で一定の低下は、光源(偏光板又はディフューザなどの)照明源にわたって又はカメラの前(代替の偏光板又は波長フィルタなど)にフィルタが正しく配置されていないことを示し得る。したがって、ユーザは、画像の強度に大きい差分を観測した場合、フィルタの配置の調整を試みることもある。
別の例として、画像702、704に対する強度ヒストグラム及び/又はローパス周波数フィルタの出力を調べるユーザは、画像702、704間に強度の有意な局所的差分があるか否かを判定し得る。局所的差分が存在する場合、ユーザは、ヒストグラム及び/又は他のメトリックと共に画像702、704を研究することにより、それらの局所的差分の原因を特定して除去することを試みることができる。
別の例として、模倣画像704の容器が元の画像702の容器に対してアライメントがずれており、且つ/又は不適切にスケーリングされていることをメトリックが示す場合、ユーザは、容器及び/又はカメラのアライメント(例えば、角度又は回転)、容器とカメラとの間の距離、カメラのズームレベル(例えば、レンズタイプ又はデジタルズーム設定)などを調整し得る。
別の例として、メトリック(例えば、スカラーラプラシアン出力の差分)が画像702、704の他方に対する一方の焦点ぼけを示す場合、ユーザは、容器とカメラとの間の距離、モータ速度、カメラ露出時間などを調整し得る。検査アプリケーションに使用されることが多い種類のテレセントリックレンズは、典型的には、被写界深度があまりにも浅いため、レンズと容器との相対的な配置にわずかなエラーがあっても、画像がぼやける。したがって、わずかな距離の差分でも焦点ぼけに大きい影響を与え得る。更に、上述のように、これらのレンズのいくつかは、可変のピンホール絞りを有し、これも不適切に設定されると画像がぼける一因となり得る。したがって、メトリックが焦点ぼけの差分を示す場合にも、ユーザは、絞りを調整できる。
他のメトリックは、例えば、画像中の迷光反射、画像中の重要な物体の存在、画像ダイナミックレンジ、画像ブリーチング、画像コントラストなどのより良好な一致を達成するために、模倣AVIステーションのこれら及び/又は他の態様を調整するようにユーザを導くことができる。
いくつかの実施形態では、上述のように、画像比較ツール600は、メトリックに基づいて1つ又は複数の提案を生成する。したがって、例えば、画像比較ツール600は、出力ユニット360に、上述の改善技法(例えば、画像702、704の強度及び/又は焦点ぼけにおける差分を反映するメトリックが閾値を超えるなどの場合、カメラと容器との間の距離を増加又は減少させ、場合によりレンズ絞りを増加又は減少させるなど)のいずれかを表示させる(及び/又は上述の改善技法のいずれかを説明するコンピュータ音声メッセージを生成させる)。
図8は、AVIステーション(例えば、トラブルシューティングシナリオにおけるAVIステーション310-i又は開発に用いられる実験室ベースのセットアップなど)の動作をレプリケートするための例示的な方法800のフロー図である。方法800では、ブロック802において、元のAVIステーションの1つ又は複数のAVI機能を実行する模倣AVIステーション(例えば、トラブルシューティングシナリオの模倣AVIステーション304又はAVIステーション310-iなど)が構築される。ブロック802は、元のAVIステーションをリバースエンジニアリングすることにより手動で実行され得る。しかしながら、いくつかの実施形態では、ブロック802は、(例えば、CADファイル又は3Dスキャナの出力を解釈することによって)リバースエンジニアリングプロセスを支援するためのソフトウェアを使用することを含む。ブロック802は、例えば、ステージ122の1回目の反復を含み得る。
ブロック804において、1つ又は複数の容器画像(すなわち元のAVIステーション内の適切な撮像位置における容器の画像)が元のAVIステーションの撮像システム(例えば、単一のカメラ)により取り込まれる。ブロック806において、模倣AVIステーションの撮像システム(例えば、同じタイプの単一のカメラ)により、1つ又は複数の追加の容器画像が取り込まれる。ブロック804及び806は、例えば、プロセス100のステージ112及び124とそれぞれ同様であり得る。
その後、ブロック808において、元のAVIステーションによって取り込まれた容器画像と、模倣AVIステーションによって取り込まれた容器画像との間の1つ又は複数の差分が特定される。ブロック808は、画像比較ツール(例えば、ツール350)を実行する処理ユニット(例えば、処理ユニット342)により実行され得る。例えば、画像比較ツールは、ブロック808において、差分を反映した1つ又は複数のメトリックを生成することができる。ブロック808は、例えば、アルゴリズム700のステージ714A及び714Bと、それに続く差分メトリック(例えば、図7のメトリックΔC1~ΔCk)の生成とを含み得る。
ブロック810において、ユーザが模倣AVIステーションを修正することを支援するために、ブロック808で特定された差分の可視指示が生成される。可視指示は、例えば、ブロック808で計算されたメトリック(例えば、差分メトリック)の1つ又は複数及び/又は(例えば、図6及び図7に関連して上で論じたような)それらのメトリックに基づく1つ又は複数の提案を含み得る。ブロック810は、ブロック808を実行する同じ処理ユニットによって実行され得、例えば出力ユニット(例えば、出力ユニット360)に可視指示(すなわちメトリック及び/又は提案)を提示させることを含み得る。
ブロック812において、ブロック810で生成された可視指示に基づいて、模倣AVIステーションが修正される。ブロック812は、ユーザによって(すなわち手動で)完全に実行され得るか、又は少なくとも部分的に自動的に実行され得る(例えば、コンピューティングシステム340が模倣AVIステーションのカメラ又は照明装置のデジタル設定を調整することなどにより)。ブロック812は、例えば、プロセス100のステージ122の2回目の(又はその後の)反復を含み得る。
システム、方法、装置及びそれらの構成要素を例示的な実施形態の観点から説明してきたが、それらは、これらの例示的な実施形態に限定されない。詳細な説明は、例としてのみ解釈されるものとし、可能な実施形態のすべてを説明することは、不可能ではないとしても非現実的であることから、本発明のすべての可能な実施形態を説明しているわけではない。現在の技術又は本特許の申請日以降に開発された技術のいずれかを使用して、多くの代替的な実施形態を実施することができ、それは、本発明を定義する請求項の範囲内に依然として含まれる。
当業者であれば、本発明の範囲から逸脱することなく、上記の実施形態に対する多様な修正形態、変形形態及び組み合わせをなすことができ、そうした修正形態、変形形態及び組み合わせが本発明の概念の範囲内であると解釈されることを理解するであろう。

Claims (33)

  1. 自動外観検査(AVI)ステーションの動作をレプリケートするための方法であって、
    前記AVIステーションの1つ又は複数のAVI機能を実行する模倣AVIステーションを構築することであって、前記模倣AVIステーションは、模倣照明システム、模倣撮像システム並びに試料を含む容器を保持及び/又は支持するように構成された模倣試料位置決めハードウェアを含む、構築することと、
    前記AVIステーションの照明システムによって容器が照明されている間、前記AVIステーションの撮像システムにより、1つ又は複数の容器画像を取り込むことと、
    前記模倣照明システムによって容器が照明されている間、前記模倣撮像システムにより、1つ又は複数の追加の容器画像を取り込むことと、
    1つ又は複数のプロセッサにより、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の1つ又は複数の差分を特定することと、
    前記1つ又は複数のプロセッサにより、(i)前記1つ若しくは複数の差分、及び/又は(ii)前記模倣AVIステーションを修正するための1つ若しくは複数の提案の可視指示を生成することと、
    前記可視指示に基づいて、少なくとも前記模倣照明システム、前記模倣撮像システム及び/又は前記模倣試料位置決めハードウェアを修正することにより、前記模倣AVIステーションを修正することと
    を含む方法。
  2. (i)前記AVIステーションは、商業ライン機器に含まれ、及び前記模倣AVIステーションは、実験室ベースのセットアップであるか、又は(ii)前記模倣AVIステーションは、前記商業ライン機器に含まれ、及び前記AVIステーションは、前記実験室ベースのセットアップであるかのいずれかである、請求項1に記載の方法。
  3. 前記模倣ステーションを修正することは、
    前記模倣照明システムの少なくとも1つの照明装置、前記模倣撮像システムの少なくとも1つの撮像装置及び/又は前記模倣試料位置決めハードウェアの空間的配置を修正すること、及び/又は
    前記模倣照明システムの少なくとも1つの照明装置、前記模倣撮像システムの少なくとも1つの撮像装置及び/又は前記模倣試料位置決めハードウェアのハードウェアコンポーネントを修正すること
    を含む、請求項1に記載の方法。
  4. 前記模倣AVIステーションのコンピュータシステム上において、前記AVI機器によっても実装される検査アルゴリズムを実装するAVIソフトウェアをインストールすることと、
    前記模倣AVIステーションを修正した後、
    前記模倣照明システムによって試験容器が照明されている間、前記模倣撮像システムにより、1つ又は複数の新しい容器画像を取り込むことと、
    前記検査アルゴリズムに従って前記1つ又は複数の新しい容器画像を処理することにより、前記試験容器及び/又は前記試験容器内の試料の1つ又は複数の特性を決定することと
    を更に含む、請求項1に記載の方法。
  5. 前記決定された1つ又は複数の特性に少なくとも部分的に基づいて前記模倣AVIステーションをトラブルシューティング又は最適化することであって、前記模倣照明システム、前記模倣撮像システム、前記模倣試料位置決めハードウェア及び/又は前記AVIソフトウェアを修正するか又は更に修正することを含む、トラブルシューティング又は最適化することを更に含む、請求項4に記載の方法。
  6. 前記模倣照明システム、前記模倣撮像システム、前記模倣試料位置決めハードウェア及び/又は前記AVIソフトウェアに対する前記修正又は更なる修正に応じて前記AVIステーションを修正することを更に含む、請求項5に記載の方法。
  7. 前記1つ又は複数の容器画像は、第1の複数の容器画像を含み、
    前記1つ又は複数の追加の容器画像は、第2の複数の容器画像を含み、及び
    前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定することは、前記第1の複数の容器画像から得られた第1の合成画像と、前記第2の複数の容器画像から得られた第2の合成画像との間の1つ又は複数の差分を特定することを含む、請求項1に記載の方法。
  8. 前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定することは、
    容器アライメント、
    焦点ぼけ、
    強度、
    強度の変動、
    モーションブラー、及び/又は
    撮像センサノイズ
    に関する差分を特定することを含む、請求項1に記載の方法。
  9. 前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定することは、(i)前記1つ若しくは複数の容器画像又はそれから得られた合成画像の高速フーリエ変換(FFT)と、(ii)前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のFFTとを計算することを含む、請求項1に記載の方法。
  10. 前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定することは、(i)前記1つ若しくは複数の容器画像又はそれから得られた合成画像のピクセル強度レベルのヒストグラムと、(ii)前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のピクセル強度レベルのヒストグラムとを生成することを含む、請求項1に記載の方法。
  11. 前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定することは、(i)前記1つ若しくは複数の容器画像又はそれから得られた合成画像のラプラシアンと、(ii)前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のラプラシアンとを計算することを含む、請求項1に記載の方法。
  12. (i)前記1つ又は複数の差分を特定することと、(ii)前記可視指示を生成することとは、前記1つ又は複数の追加の容器画像が取り込まれるときにリアルタイムで実行される、請求項1に記載の方法。
  13. 前記1つ又は複数のプロセッサにより、前記1つ又は複数の差分に基づいて前記模倣AVIステーションを修正するための前記1つ又は複数の提案を生成することを更に含み、前記可視指示を生成することは、前記1つ又は複数の提案の前記可視指示を生成することを含む、請求項1に記載の方法。
  14. 前記1つ又は複数の提案を生成することは、
    前記模倣撮像システムの少なくとも1つの撮像装置の1つ又は複数の構成可能な設定を修正する提案、
    前記模倣照明システムの少なくとも1つの照明装置の1つ又は複数の構成可能な設定を修正する提案、
    前記模倣撮像システムの少なくとも1つの撮像装置の位置を修正する提案、及び/又は
    前記模倣照明システムの少なくとも1つの照明装置の位置を修正する提案
    を生成することを含む、請求項13に記載の方法。
  15. 前記模倣試料位置決めハードウェアは、移動プロファイルに従って容器を移動させるように構成され、及び
    前記1つ又は複数の提案を生成することは、前記移動プロファイルの1つ又は複数の特性を修正する提案を生成することを含む、請求項13に記載の方法。
  16. 前記1つ又は複数のプロセッサにより、前記撮像システムの1つ又は複数の動作パラメータと、前記模倣撮像システムの1つ又は複数の動作パラメータとを受信することと、
    前記1つ又は複数のプロセッサにより、前記撮像システムの前記1つ又は複数の動作パラメータを前記模倣撮像システムの前記1つ又は複数の動作パラメータと比較することと、
    前記1つ又は複数のプロセッサにより、前記撮像システムと前記模倣撮像システムとの間で異なる少なくとも1つの動作パラメータの追加の可視指示を生成することと
    を更に含む、請求項1に記載の方法。
  17. 命令を記憶する非一時的コンピュータ可読媒体であって、前記命令は、1つ又は複数のプロセッサによって実行されると、前記1つ又は複数のプロセッサに、
    自動外観検査(AVI)ステーションの撮像システムによって取り込まれた1つ又は複数の容器画像を受信することと、
    模倣AVIステーションの模倣撮像システムによって取り込まれた1つ又は複数の追加の容器画像を受信することと、
    前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の1つ又は複数の差分を特定することと、
    (i)前記1つ若しくは複数の差分、及び/又は(ii)前記模倣AVIステーションを修正するための1つ若しくは複数の提案の可視指示を生成することと
    を行わせる、非一時的コンピュータ可読媒体。
  18. 前記命令は、前記1つ又は複数のプロセッサに、
    容器アライメント、
    焦点ぼけ、
    強度、
    強度の変動、
    モーションブラー、及び/又は
    撮像センサノイズ
    に関する、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の1つ又は複数の差分を特定させる、請求項17に記載の非一時的コンピュータ可読媒体。
  19. 前記命令は、前記1つ又は複数のプロセッサに、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像の高速フーリエ変換(FFT)を計算することと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のFFTを計算することと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定させる、請求項17に記載の非一時的コンピュータ可読媒体。
  20. 前記命令は、前記1つ又は複数のプロセッサに、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像のピクセル強度レベルのヒストグラムを生成することと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のピクセル強度レベルのヒストグラムを生成することと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定させる、請求項17に記載の非一時的コンピュータ可読媒体。
  21. 前記命令は、前記1つ又は複数のプロセッサに、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像のラプラシアンを計算することと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のラプラシアンを計算することと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定させる、請求項17に記載の非一時的コンピュータ可読媒体。
  22. 前記命令は、前記1つ又は複数のプロセッサに、(i)前記1つ又は複数の差分を特定することと、(ii)前記1つ又は複数の追加の容器画像が受信されるときにリアルタイムで前記可視指示を生成することとを行わせる、請求項17に記載の非一時的コンピュータ可読媒体。
  23. 前記命令は、前記1つ又は複数のプロセッサに、前記1つ又は複数の差分に基づいて前記模倣AVIステーションを修正するための前記1つ又は複数の提案を生成させ、及び
    前記可視指示は、前記1つ又は複数の提案を示す、請求項17に記載の非一時的コンピュータ可読媒体。
  24. 前記1つ又は複数の提案は、
    前記模倣撮像システムの少なくとも1つの撮像装置の1つ又は複数の構成可能な設定を修正する提案、
    前記模倣AVIステーションの模倣照明システムの少なくとも1つの照明装置の1つ又は複数の構成可能な設定を修正する提案、
    前記模倣撮像システムの少なくとも1つの撮像装置の位置を修正する提案、及び/又は
    前記模倣照明システムの少なくとも1つの照明装置の位置を修正する提案
    を含む、請求項23に記載の非一時的コンピュータ可読媒体。
  25. 自動外観検査(AVI)ステーションであって、
    撮像システムと、
    照明システムと、
    試料を含む容器を保持及び/又は支持するように構成された試料位置決めハードウェアと
    を含む自動外観検査(AVI)ステーションと、
    前記AVIステーションの1つ又は複数のAVI機能を実行する模倣AVIステーションであって、
    模倣照明システムと、
    模倣撮像システムと、
    試料を含む容器を保持及び/又は支持するように構成された模倣試料位置決めハードウェアと
    を含む模倣AVIステーションと、
    コンピューティングシステムであって、
    前記AVIステーションの前記撮像システムによって取り込まれた1つ又は複数の容器画像を受信することと、
    前記模倣AVIステーションの前記模倣撮像システムによって取り込まれた1つ又は複数の追加の容器画像を受信することと、
    前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の1つ又は複数の差分を特定することと、
    (i)前記1つ若しくは複数の差分、及び/又は(ii)前記模倣AVIステーションを修正するための1つ若しくは複数の提案の可視指示を生成することと
    を行うように構成されたコンピューティングシステムと
    を含むシステム。
  26. 前記コンピューティングシステムは、
    容器アライメント、
    焦点ぼけ、
    強度、
    強度の変動、
    モーションブラー、及び/又は
    撮像センサノイズ
    に関する、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の1つ又は複数の差分を特定するように構成される、請求項25に記載のシステム。
  27. 前記コンピューティングシステムは、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像の高速フーリエ変換(FFT)を計算することと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のFFTを計算することと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定するように構成される、請求項25に記載のシステム。
  28. 前記コンピューティングシステムは、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像のピクセル強度レベルのヒストグラムを生成することと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のピクセル強度レベルのヒストグラムを生成することと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定するように構成される、請求項25に記載のシステム。
  29. 前記コンピューティングシステムは、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像にハイパスフィルタをかけることと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像にハイパスフィルタをかけることと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定するように構成される、請求項25に記載のシステム。
  30. 前記コンピューティングシステムは、少なくとも、
    前記1つ若しくは複数の容器画像又はそれから得られた合成画像のラプラシアンを計算することと、
    前記1つ若しくは複数の追加の容器画像又はそれから得られた合成画像のラプラシアンを計算することと
    により、前記1つ又は複数の追加の容器画像と前記1つ又は複数の容器画像との間の前記1つ又は複数の差分を特定するように構成される、請求項29に記載のシステム。
  31. 前記コンピューティングシステムは、(i)前記1つ又は複数の差分を特定することと、(ii)前記1つ又は複数の追加の容器画像が受信されるときにリアルタイムで前記可視指示を生成することとを行うように構成される、請求項25に記載のシステム。
  32. 前記コンピューティングシステムは、前記1つ又は複数の差分に基づいて前記模倣AVIステーションを修正するための前記1つ又は複数の提案を生成するように構成され、及び
    前記可視指示は、前記1つ又は複数の提案を示す、請求項25に記載のシステム。
  33. 前記1つ又は複数の提案は、
    前記模倣撮像システムの少なくとも1つの撮像装置の1つ又は複数の構成可能な設定を修正する提案、
    前記模倣AVIステーションの模倣照明システムの少なくとも1つの照明装置の1つ又は複数の構成可能な設定を修正する提案、
    前記模倣撮像システムの少なくとも1つの撮像装置の位置を修正する提案、及び/又は
    前記模倣照明システムの少なくとも1つの照明装置の位置を修正する提案
    を含む、請求項25に記載のシステム。
JP2022527125A 2019-11-15 2020-11-10 自動外観検査ステーションのためのオフライントラブルシューティング及び開発 Pending JP2023501525A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962936143P 2019-11-15 2019-11-15
US62/936,143 2019-11-15
PCT/US2020/059776 WO2021096827A1 (en) 2019-11-15 2020-11-10 Offline troubleshooting and development for automated visual inspection stations

Publications (2)

Publication Number Publication Date
JP2023501525A true JP2023501525A (ja) 2023-01-18
JPWO2021096827A5 JPWO2021096827A5 (ja) 2023-11-14

Family

ID=73740501

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022527125A Pending JP2023501525A (ja) 2019-11-15 2020-11-10 自動外観検査ステーションのためのオフライントラブルシューティング及び開発

Country Status (12)

Country Link
US (1) US20220413476A1 (ja)
EP (1) EP4058859A1 (ja)
JP (1) JP2023501525A (ja)
KR (1) KR20220101654A (ja)
CN (1) CN114730176A (ja)
AU (1) AU2020385111A1 (ja)
BR (1) BR112022009334A2 (ja)
CA (1) CA3159206A1 (ja)
CL (1) CL2022001259A1 (ja)
IL (1) IL292316A (ja)
MX (1) MX2022005799A (ja)
WO (1) WO2021096827A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024182262A1 (en) * 2023-02-27 2024-09-06 Amgen Inc. Fixed-position imaging systems for automated visual inspection

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1029726C (zh) * 1993-05-04 1995-09-13 刘长兴 用于透射诊断设备再现成象参量的方法及其装置
JP4537083B2 (ja) * 2004-01-28 2010-09-01 キヤノン株式会社 データ処理装置及びその制御方法
US9061594B2 (en) * 2007-08-06 2015-06-23 Qr Limited Pantograph damage and wear monitoring system
CN101690668B (zh) * 2009-09-30 2011-01-26 李旭初 X线机动态成像控制装置
JP5841427B2 (ja) * 2011-12-28 2016-01-13 株式会社キーエンス 画像処理装置及び画像処理方法
RU2012154657A (ru) * 2012-12-17 2014-06-27 ЭлЭсАй Корпорейшн Способы и устройство для объединения изображений с глубиной, генерированных с использованием разных способов формирования изображений с глубиной
SG11202007756XA (en) * 2018-03-30 2020-09-29 Amgen Inc Camera-based drug container inspection

Also Published As

Publication number Publication date
IL292316A (en) 2022-06-01
CN114730176A (zh) 2022-07-08
EP4058859A1 (en) 2022-09-21
US20220413476A1 (en) 2022-12-29
CA3159206A1 (en) 2021-05-20
BR112022009334A2 (pt) 2022-08-09
MX2022005799A (es) 2022-06-08
WO2021096827A1 (en) 2021-05-20
AU2020385111A1 (en) 2022-05-19
CL2022001259A1 (es) 2023-02-10
KR20220101654A (ko) 2022-07-19

Similar Documents

Publication Publication Date Title
US20210056681A1 (en) System and method for visual production line inspection of different production items
US11562480B2 (en) System and method for set up of production line inspection
CN113092489B (zh) 一种电池外观缺陷的检测系统及方法
WO2020095712A1 (ja) 撮影方法及び撮影装置
KR20060132801A (ko) 타이어 검출 장치 및 방법
TW200532162A (en) Inspection system and method for providing feedback
JP7514259B2 (ja) カメラ部品が損傷しているかどうかを判定するためのシステムおよび方法
US20170053394A1 (en) Inspection apparatus, inspection method, and article manufacturing method
US9990724B2 (en) Image recording simulation in a coordinate measuring machine
US11682113B2 (en) Multi-camera visual inspection appliance and method of use
WO2020079694A1 (en) Optimizing defect detection in an automatic visual inspection process
KR20220049481A (ko) 콘택트 렌즈 결함 분석 및 추적 시스템
JP2023501525A (ja) 自動外観検査ステーションのためのオフライントラブルシューティング及び開発
JP2013130566A (ja) レンズ検査装置及びその方法
EA047109B1 (ru) Автономный поиск и устранение неполадок станций автоматизированного визуального контроля
JP2023137057A (ja) 欠陥予測モデルの生成方法、びん外観検査方法、およびびん外観検査装置
KR102171773B1 (ko) 검사 영역 결정 방법 및 이를 이용하는 외관 검사 장치
KR20220111214A (ko) 인공지능 기반 제품 결함 검사 방법, 장치 및 컴퓨터 프로그램
KR20230028469A (ko) 트레이닝된 인공 지능 기반 프로세싱을 통한 비파괴 테스트(ndt)를 위한 방법들 및 시스템들
WO2020184567A1 (ja) 画像検査装置及び画像検査方法
WO2023162941A1 (ja) 検査装置、画像処理方法、及び画像処理プログラム
WO2023162940A1 (ja) 検査装置、検査方法、及び検査プログラム
WO2021107027A1 (ja) 形状復元方法及び画像測定装置
US11816827B2 (en) User interface device for autonomous machine vision inspection
GB2598283A (en) Method and apparatus for inspecting the surface of a transparent object

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231106

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240709

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241004