JP7250090B2 - 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法 - Google Patents

試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法 Download PDF

Info

Publication number
JP7250090B2
JP7250090B2 JP2021159600A JP2021159600A JP7250090B2 JP 7250090 B2 JP7250090 B2 JP 7250090B2 JP 2021159600 A JP2021159600 A JP 2021159600A JP 2021159600 A JP2021159600 A JP 2021159600A JP 7250090 B2 JP7250090 B2 JP 7250090B2
Authority
JP
Japan
Prior art keywords
cavity
transfer
sample tube
image
transfer interface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021159600A
Other languages
English (en)
Other versions
JP2022060172A (ja
Inventor
ロシャン メータ クマール
Original Assignee
エフ ホフマン-ラ ロッシュ アクチェン ゲゼルシャフト
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by エフ ホフマン-ラ ロッシュ アクチェン ゲゼルシャフト filed Critical エフ ホフマン-ラ ロッシュ アクチェン ゲゼルシャフト
Publication of JP2022060172A publication Critical patent/JP2022060172A/ja
Application granted granted Critical
Publication of JP7250090B2 publication Critical patent/JP7250090B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N35/00Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor
    • G01N35/00584Control arrangements for automatic analysers
    • G01N35/00722Communications; Identification
    • G01N35/00732Identification of carriers, materials or components in automatic analysers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N35/00Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor
    • G01N35/02Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor using a plurality of sample containers moved by a conveyor system past one or more treatment or analysis stations
    • G01N35/04Details of the conveyor system
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N35/00Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor
    • G01N35/02Automatic analysis not limited to methods or materials provided for in any single one of groups G01N1/00 - G01N33/00; Handling materials therefor using a plurality of sample containers moved by a conveyor system past one or more treatment or analysis stations
    • G01N35/04Details of the conveyor system
    • G01N2035/0401Sample carriers, cuvettes or reaction vessels
    • G01N2035/0406Individual bottles or tubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Biochemistry (AREA)
  • Analytical Chemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Quality & Reliability (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Image Analysis (AREA)
  • Automatic Analysis And Handling Materials Therefor (AREA)

Description

本発明は、試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法に関する。本発明は、さらに、移送インターフェース用の検査装置に関する。本方法および装置は、具体的には、医療または化学検査室の分野において使用されることができる。しかしながら、本発明の他の応用分野が可能である。
医療または化学検査室の分野では、検査室自動化システムの検査ステーション間、例えば機器間で試料管を分配するために試料移送システムが使用される。管は、血液、血清または血漿、尿または化学物質などの多種多様な試料を含むことができ、管はまた、異なる形状、直径、色、高さなどを有するいくつかのタイプのものとすることができる。検査室自動化システムは、移送システムとそれぞれの検査室ステーションとの間のインターフェースを提供する移送インターフェースを含むことができる。移送インターフェースは、試料管をそれぞれの検査室ステーションに送達するために試料管を受け入れるための複数のキャビティを含むことができる。完全な自動化のために、管が存在するかどうか、またはキャビティが空のキャビティであるかどうかなど、キャビティの状態を判定することが必要な場合がある。
米国特許第10,140,705号明細書は、訓練および較正されることができるドロワビジョンシステムを含む、検査室環境における試料管の特性を検出する方法およびシステムを記載している。少なくとも1つのカメラによってキャプチャされた管トレイの画像は、管スロットが占有されているかどうか、管がキャップを有するかどうか、および管が管トップカップを有するかどうかをプロセッサが自動的に判定することを可能にする画像パッチを抽出するために分析される。プロセッサは、ランダムフォレスト技術および複数の訓練画像パッチを使用して訓練されることができる。カメラは、ドロワに挿入されることができる三次元較正ターゲットを使用して較正されることができる。
国際公開第2019084468号パンフレットは、ラックに運ばれる様々な試料容器を認識するためのシステムおよび方法を記載している。システムおよび方法は、ラック内の試料容器を識別し、容器および/またはラックに関連する様々な特性を検出するために実行され、特性は、ラック内の容器の有効性および/またはタイプを判定するために評価される。
米国特許出願公開第2018/0164335号明細書は、自動化トラックと、自動化トラックに沿って複数の試料容器を運ぶように構成された複数のキャリアと、複数の光学デバイスを含む特徴付けステーションとを含むインビトロ診断設定で使用するためのシステムおよび方法を記載している。特徴付けステーションと通信するプロセッサは、各キャリアおよび/または試料容器に関連する物理的属性を自動的に特徴付けるために画像を分析するように構成されることができる。
国際公開第2019/018313号パンフレットは、迷光補償を含む検体および/または検体容器を特徴付けるための品質チェックモジュールを記載している。品質チェックモジュールは、検体を収容する検体容器を受け入れるように構成された品質チェックモジュール内の撮像位置と、1つまたは複数の視点から撮像位置の画像をキャプチャするように構成された1つまたは複数の画像キャプチャデバイスと、1つまたは複数の画像キャプチャデバイスにバックライトを提供するように構成された1つまたは複数の光源と、画像に影響する迷光が補償されて迷光補償画像を提供することを可能にする1つまたは複数の光源からの迷光を受光する領域に配置された1つまたは複数の迷光パッチとを含む。
国際公開第2018/022280号パンフレットは、容器キャップを識別するために検体容器キャップの特性を判定するモデルベースの方法を開示している。この方法は、容器キャップを含む検体容器を提供することと、異なる露光長で、複数の異なる公称波長を使用して撮像された容器キャップのバックライト画像をキャプチャすることと、各公称波長で異なる露光長の画像から最適に露光された画素を選択して、各公称波長の最適に露光された画像データを生成することと、最適に露光された画素を、少なくとも管、ラベル、またはキャップの1つとして分類することと、キャップとして分類された最適に露光された画素と各公称波長の画像データに基づいて、容器キャップの形状を識別することと、を含む。
特開2019027927号公報は、容器内の分析対象の試料の状態を判定する装置を記載している。装置は、試料の画像を取得し、その画像を用いて、試料の画像に設定された検出範囲に対する検出対象の位置および大きさを分析し、分析結果に基づいて試料の状態を判定する。
独国特許出願公開第10 2014 224 519号明細書は、複数の容器レセプタクルが容器位置合わせのために配置される移送カルーセルを有する容器をラベリングするためのラベリング装置を記載している。ラベリング容器は、第1の位置合わせ機構による容器位置合わせに基づいてラベルを貼付するために移送カルーセル上に配置された少なくとも1つの第1のラベリングユニットを有する、容器上の第1の位置合わせ機構のための第1の検出ユニットを有する。ラベリング装置は、容器クロージャ上の第2の位置合わせ機構用の第2の検出ユニットを含む。第2の位置合わせ機構による容器位置合わせに基づいてラベルを貼付するための少なくとも1つの第2の標識ユニットは、移送カルーセル上に配置される。
公知の方法および装置によって達成される利点にもかかわらず、いくつかの技術的課題が残っている。異なるカテゴリへのキャビティ状態の分類および検出は、照明および/またはライティング状態が異なるおよび/または変化する場合、ならびにキャビティからの視点間の距離が異なる場合に問題となることがある。これらの要因を考慮した較正は、時間がかかることがあり、したがって、コストがかかることがある。
したがって、同様の種類の既知の方法および装置の上述した技術的課題に少なくとも部分的に対処する方法および装置を提供することが望ましい。具体的には、照明および/またはライティング状態が異なるおよび/または変化する場合、および/または照明および/または雷の状態が変化する場合、および/またはキャビティからの視点間の距離が変化する場合であっても、単純且つ費用効果の高い方法で、キャビティ状態を異なるカテゴリに分類および検出することを可能にする方法および装置が提案されるべきである。
この課題は、独立請求項の特徴を有する試料管および検査装置を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法によって対処される。単独で、または任意の組み合わせで実現され得る有利な実施形態は、従属請求項ならびに明細書全体に記載されている。
以下において使用されるように、用語「有する」、「備える」もしくは「含む」またはそれらの任意の文法上の変形は、非排他的な方法で使用される。したがって、これらの用語は、これらの用語によって導入される特徴に加えて、この文脈で説明されているエンティティにさらなる特徴が存在しない状況と、1つまたは複数の追加の特徴が存在する状況との双方を指す場合がある。例として、「AはBを有する」、「AはBを備える」および「AはBを含む」という表現は、双方とも、B以外に、他の要素がAに存在しない状況(すなわち、Aが単独で且つ排他的にBからなる状況)、および、B以外に、要素C、要素CおよびD、さらにはさらなる要素など、1つまたは複数のさらなる要素がエンティティAに存在する状況を指す場合がある。
さらに、特徴または要素が1回または複数回存在することができることを示す「少なくとも1つ」、「1つまたは複数」という用語または同様の表現は、通常、それぞれの特徴または要素を導入するときに一度だけ使用されることに留意されたい。以下では、ほとんどの場合、それぞれの特徴または要素を指すとき、それぞれの特徴または要素が1回または1回を超えて存在することができるという事実にもかかわらず、「少なくとも1つ」または「1つまたは複数」という表現は繰り返されない。
さらに、以下において使用されるように、用語「好ましくは」、「より好ましくは」、「特に」、「より特に」、「具体的に」、「より具体的に」または同様の用語は、代替の可能性を制限することなく、任意の特徴と併せて使用される。したがって、これらの用語によって導入される特徴は、任意の特徴であり、決して特許請求の範囲を制限することを意図したものではない。本発明は、当業者が認識するように、代替の特徴を使用することによって実施されることができる。同様に、「本発明の実施形態において」または同様の表現によって導入される特徴は、本発明の代替の実施形態に関する制限がなく、本発明の範囲に関する制限がなく、およびそのような方法で導入された特徴を、本発明の他の任意または非任意の特徴と組み合わせる可能性に関する制限がない任意の特徴であることを意図する。
本発明の第1の態様では、試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法が開示される。
本明細書で使用される「試料」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、化学的または生物学的化合物などの物質のアリコートを指すことができる。具体的には、試料は、血液、血清、血漿、尿、唾液のうちの1つまたは複数などの少なくとも1つの生体検体とすることができるか、またはそれらを含むことができる。追加的または代替的に、試料は、化学物質または化合物および/または試薬とすることができるか、またはそれらを含むことができる。
本明細書で使用される「試料管」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、試料の収容、保管、および/または移送のうちの1つまたは複数のために構成された容器を指すことができる。試料管は、ガラスまたは透明プラスチック管とすることができる。試料管は、円筒状管、例えば、円形および/または多角形の断面を有する円筒状管とすることができる。他のタイプまたは形態の試料管も可能である。試料管は、管底部と、管本体と、キャップの封止を含むキャップとを含むことができる。管底部は、試料管の下端に試料管を閉じ込めるように構成されることができる。管本体は、試料管の形状を形成するように構成されることができる。キャップは、特定の封止タイプの機構を使用することによって試料管の上端において試料管を可逆的に密閉するように構成されることができる。例えば、試料管のキャップ封止は、スクリュー型、ゴム型、hemogard型、またはプッシュ型のうちの1つまたは複数を含むことができる。試料管の上端および下端は、試料管の使用方法によって画定されることができる。
移送インターフェースは、特に大規模検査室用の検査室自動化システム(LAS)の一部とすることができる。本明細書で使用される「検査室自動化システム」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、試料管を自動的に取り扱うように構成されたシステムを指すことができる。具体的には、LASは、試料管およびそれらに囲まれた試料を自律的におよび/または完全にまたは部分的に自動的に処理するように構成されることができる。LASが使用される検査室は、例えば、臨床検査室、法医学検査室または血液バンクとすることができる。例として、LASは、複数の試料管を例えば順次または並行して取り扱うように構成されるなど、少なくとも1つの試料管を取り扱うように構成された、アクチュエータなどの少なくとも1つの移送モジュールを含むことができる。例として、移送モジュールは、システム内の複数の取り扱いステーションなどを介して、少なくとも1つの試料管を自動的に移動させるように構成されることができる。例として、移送モジュールは、ロボットアーム、搬送システムまたはカルーセルのうちの1つまたは複数とすることができるか、またはそれらを含むことができる。他の移送モジュールが知られており、使用されてもよい。LASは、少なくとも1つの試料管に含まれる1つまたは複数の試料を取り扱うおよび/または処理するための1つまたは複数の取り扱いステーションをさらに含むことができる。例として、試料に成分を添加するための1つまたは複数のステーション、試料を加熱するための1つまたは複数のステーション、または遠心分離などによる試料分離のための1つまたは複数のステーションが設けられることができる。LASは、試料分析のための少なくとも1つの分析システムを含むことができる。LASは、具体的には後続の試料分析のために1つまたは複数の試料を調製するための少なくとも1つの前分析システムを含むことができる。
本明細書で使用される「移送インターフェース」という用語は、広義な用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、移送モジュールと接続された装置、特に取り扱いステーションとの間で少なくとも1つの試料管を移送するまたは移送を提供するように構成された物理的境界を形成する装置を指すことができる。
移送インターフェースは、それぞれが少なくとも1つの試料管を受け入れおよび/または保持するように構成された複数のキャビティを含むことができる。本明細書で使用される「キャビティ」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、少なくとも1つの試料管を受け入れおよび/または保持するように構成された受け入れ領域および/または保持領域を指すことができる。キャビティは、少なくとも1つのホルダを含むことができる。例えば、ホルダは、正確に1つの試料管を受け入れて保持するように構成された単一のホルダとすることができる。ホルダは、試料管を受け入れて保持するために試料管と直接接触するように構成されることができる。例えば、ホルダは、試料管の挿入を可能にするために、片側、特に上面または前面側で開放されることができる。
移送インターフェースは、少なくとも1つのカルーセルを含むことができ、キャビティは、カルーセルの円周にわたって分散され、特に均等に分散される。カルーセルは、回転可能とすることができる。移送インターフェースは、少なくとも1つの入力位置、特に最小1つの入力位置で移送モジュールに面することができる。入力位置において、ホルダおよび/またはホルダおよび試料管は、特に自動的にそれぞれのキャビティに装填されることができる。移送インターフェースは、出力位置として示される少なくとも1つのさらなる位置、特に最小1つのさらなる位置で、移送モジュールおよび/またはさらなる移送モジュールに面することができる。出力位置において、ホルダおよび/またはホルダおよび試料管は、移送インターフェースから移送モジュールおよび/またはさらなる移送モジュールに移送されることができる。移送インターフェースは、キャビティを移動させるように、特にキャビティを回転させるように構成された少なくとも1つのロータを含むことができる。移送インターフェースは、少なくとも1つのハンドオーバ位置を含むことができ、ハンドオーバ位置において、試料管は、移送インターフェースから接続装置に、および/または接続装置から移送インターフェースに移送されることができる。
本明細書で使用される「少なくとも1つのキャビティの状態」という用語は、広義な用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、空のキャビティ、キャビティ内のホルダの存在、キャビティ内の密閉試料管、キャビティ内の開放ホルダなどのカテゴリにキャビティを特徴付ける任意の情報を指すことができる。空のキャビティは、試料管およびホルダのないキャビティとすることができる。ホルダのカテゴリの存在は、試料管を有するまたは有しないホルダにさらに分けられることができる。カテゴリ密閉試料管は、キャビティ内にホルダおよび試料管を有する状況を指すことができ、試料管は、試料管のキャップによって密閉される。カテゴリ開放試料管は、キャビティ内にホルダおよび試料管を有する状況を指すことができ、試料管は、試料管のキャップによって密閉されない。
方法は、具体的には所与の順序で実行されることができる以下のステップを含む。しかしながら、異なる順序も可能であることに留意するものとする。さらに、1つまたは複数の方法ステップを1回または繰り返し実行することも可能である。さらに、2つ以上の方法ステップを同時にまたは適時に重複して実行することが可能である。方法は、記載されていないさらなる方法ステップを含むことができる。
方法は、
i) 少なくとも1つのカメラを使用することによって移送インターフェースの少なくとも一部の少なくとも1つの画像をキャプチャすることと、
ii) 少なくとも1つの処理ユニットを使用することによって画像に対して少なくとも1つの訓練済モデルを適用することによって、キャビティの状態を少なくとも1つのカテゴリにカテゴリ化することであって、訓練済モデルが、移送インターフェースの画像データについて訓練されており、画像データが、異なる状態のキャビティを有する移送インターフェースの複数の画像を含む、カテゴリ化することと、
iii) 少なくとも1つの通信インターフェースを介して少なくとも1つのキャビティの判定されたカテゴリを提供することと、を含む。
本明細書で使用される「カメラ」という用語は広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、空間的に分解された1次元、2次元、さらには3次元の光学データまたは情報を記録またはキャプチャするように構成された少なくとも1つの撮像素子を有するデバイスを指すことができる。カメラは、画素のマトリックスを含む画素化カメラとすることができる。例として、カメラは、画像を記録するように構成された少なくとも1つのCCDチップおよび/または少なくとも1つのCMOSチップなどの、少なくとも1つのカメラチップを含むことができる。カメラは、移送インターフェースの要素またはユニットとすることができる。
カメラは、少なくとも1つのカメラチップまたは撮像チップに加えて、1つまたは複数の光学素子、例えば、1つまたは複数のレンズなどのさらなる素子を含むことができる。例として、カメラは、少なくとも1つの様々なズームレンズなど、自動または手動で調整されることができる1つまたは複数の可変レンズを含むことができる。あるいは、しかしながら、カメラは、カメラに対して固定的に調整される少なくとも1つのレンズを有する固定焦点カメラとすることができる。
カメラは、具体的にはカラーカメラとすることができる。したがって、各画素などについて、3色の色値などの色情報が提供または生成されることができる。各画素に4色値など、より多くの色値も可能である。カラーカメラは、当業者に一般に知られている。したがって、例として、カメラチップは、それぞれ3つ以上の異なるカラーセンサ、例えば、赤(R)用の1画素、緑(G)用の1画素、および青(B)用の1画素のようなカラー記録画素から構成されることができる。R、G、Bなどの各画素について、それぞれの色の強度に応じて、値は、0から255の範囲のデジタル値などの画素によって記録されることができる。例として、R、G、Bなどの色の三つ組を使用する代わりに、四つ組が使用されることができる。画素の色感度は、カラーフィルタによって、またはカメラ画素において使用されるセンサ素子の適切な固有感度によって生成されることができる。これらの技術は、当業者に一般に知られている。
本明細書で使用される「画像」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、カメラチップの画素などのカメラからの複数の電子読み取りなどのカメラを使用することによって記録されたデータを指すことができる。したがって、画像は、グレースケール値および/または色情報値の配列などの少なくとも1つの情報値の配列とすることができるか、またはそれを含むことができる。画像は、単色画像であってもよいし、多色または有色の画像であってもよい。
本明細書で使用される「少なくとも1つの画像をキャプチャすること」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、撮像、画像記録、画像取得、画像キャプチャのうちの1つまたは複数を指すことができる。少なくとも1つの画像をキャプチャすることは、単一の画像および/または一連の画像などの複数の画像をキャプチャすることを含むことができる。例えば、画像をキャプチャすることは、ビデオストリームまたは動画などの一連の画像を連続的に記録することを含むことができる。ステップi)の画像は、カメラを使用することによってキャプチャされた少なくとも1つのビデオストリームのフレームとすることができる。
本明細書で使用される「移送インターフェースの少なくとも一部の少なくとも1つの画像をキャプチャすること」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、関心領域を含む少なくとも1つの画像をキャプチャすることを指すことができる。具体的には、画像をキャプチャすることは、移送インターフェース全体の少なくとも1つの画像がキャプチャされる実施形態、および移送インターフェースのキャビティなどのエリアまたは領域などの関心領域の少なくとも1つの画像がキャプチャされる実施形態を指すことができる。
移送インターフェースの少なくとも一部の少なくとも1つの画像は、上面視からキャプチャされることができる。上面視は、移送インターフェースが配置される平面に本質的に平行な平面内のカメラの位置によって特徴付けられることができる。「本質的に平行」という用語は、カメラが、移送インターフェースが配置される平面と平行である実施形態を指すことができ、平行配置から20%未満、好ましくは10%、より好ましくは5%の偏差が可能である。
画像をキャプチャすることは、移送インターフェースの動きに同期させることができる。追加的または代替的に、画像をキャプチャすることは、例えば、繰り返し間隔での撮像、または視野内および/またはカメラの視野の所定のセクタ内の少なくとも1つの物体の存在が自動的に検出されると、自動的に開始されることができる。画像をキャプチャすることは、例として、カメラによって画像のストリームを取得することを含むことができ、画像のうちの1つまたは複数は、自動的にまたはユーザ相互作用によって取得される。画像をキャプチャすることは、移送インターフェースなどのプロセッサによって実行および/またはサポートされることができる。キャプチャ画像は、移送インターフェースなどの少なくとも1つのデータ記憶装置に記憶されることができる。
本明細書で使用される「処理ユニット」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、コンピュータまたはシステムの基本的な動作を実行するように構成された任意の論理回路、および/または一般に、計算または論理動作を実行するように構成された装置を指すことができる。特に、処理ユニットは、コンピュータまたはシステムを駆動する基本的な命令を処理するように構成されることができる。例として、処理ユニットは、少なくとも1つの算術論理演算装置(ALU)、数値演算コプロセッサまたは数値コプロセッサなどの少なくとも1つの浮動小数点ユニット(FPU)、複数のレジスタ、具体的にはALUにオペランドを供給し、演算結果を格納するように構成されたレジスタ、L1およびL2キャッシュメモリなどのメモリを含むことができる。特に、処理ユニットは、マルチコアプロセッサとすることができる。具体的には、処理ユニットは、中央処理装置(CPU)とすることができるか、またはそれを含むことができる。追加的または代替的に、処理ユニットは、マイクロプロセッサとすることができるか、またはそれを含むことができ、したがって、具体的には、プロセッサの要素は、1つの単一集積回路(IC)チップに含まれることができる。追加的または代替的に、処理ユニットは、1つまたは複数の特定用途向け集積回路(ASIC)および/または1つまたは複数のフィールドプログラマブルゲートアレイ(FPGA)などとすることができるか、またはそれらを含むことができる。処理ユニットは、移送インターフェースの処理ユニットとすることができる。
方法、特にステップi)は、画像をスケーリングすることと、画像を整形することと、背景減算と、ガウシアンフィルタ、サビツキーゴーレイ平滑化、メディアンフィルタおよび/またはバイラテラルフィルタリングなどの少なくとも1つのフィルタを適用することを含む少なくとも1つの平滑化ステップとのうちの1つまたは複数を含む前処理ステップを含むことができる。前処理は、処理ユニットによって実行されることができる。例えば、方法は、処理ユニットを使用することによってキャプチャ画像の関心領域を判定することを含むことができる。関心領域を判定するプロセスは、少なくとも1つのコンピュータビジョンプロセスを使用することによって実装されることができる。そのような技術は、当業者に一般に知られている。ホルダおよび管の有無にかかわらず、キャビティは、多かれ少なかれ形状が円形であるため、基本的なコンピュータビジョン方法、例えばハフサークル変換が使用されて、キャビティの位置を見つけて関心領域全体を判定することができる。追加的または代替的に、他の前処理ステップまたはプロセスが使用されてもよい。
本明細書で使用される「訓練済モデル」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、機械学習、深層学習、ニューラルネットワーク、または他の形態の人工知能のうちの1つまたは複数を使用して少なくとも1つの訓練データセットについて訓練された数学的モデルを指すことができる。本明細書で使用される「訓練」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、訓練済モデルを構築するプロセス、特にモデルのパラメータ、特にモデルの重みを判定するプロセスを指すことができる。
訓練済モデルは、畳み込みニューラルネットワーク(CNN)モデルとすることができる。CNNモデルは、物体分類、検出、および位置特定のために構成されたCNNアーキテクチャに基づくことができる。最先端のCNNアーキテクチャは、カスタムデータについての再利用および訓練が可能なビルディングブロックのように機能し、この場合、CNNベースのモデルが所与の入力画像に基づいてカスタム重みを得ることができるように、異なる状態を有するインターフェースキャビティ画像を転送する。具体的には、畳み込みニューラルネットワークモデルは、YOLOV3タイニー深層学習アーキテクチャに基づいている。YOLOV3タイニー深層学習アーキテクチャに関しては、Joseph RedmonおよびAli Farhadi,「YOLOv3:An Incremental Improvement」 2018 arXiv:1804.02767に記載されており、その内容は参照により本明細書に含まれる。YOLOV3タイニー深層学習アーキテクチャは、同様のまたはより良い予測精度で、領域ベース畳み込みニューラルネットワーク(R-CNN)よりも1000倍高速であり、高速R-CNNよりも100倍高速とすることができる。分類のための迅速な推論時間は、CNNアーキテクチャを選択するための重要な考慮事項とすることができる。
方法は、モデルを事前訓練することと、モデルを再訓練することとを含むことができる。事前訓練済モデルは、転移技術を使用して移送インターフェースの画像データについて訓練されることができる。画像データは、異なる状態のキャビティを有する移送インターフェースの複数の画像を含む。複数の画像は、様々なライティング条件および/または視点とキャビティとの間の距離を有する異なる状態のキャビティを有する移送インターフェースの画像を含むことができる。具体的には、方法は、特にステップi)の前に、少なくとも1つの訓練ステップを含むことができる。訓練ステップは、少なくとも1つの訓練データセットを生成することを含むことができる。訓練データセットは、ラベル付けされた試料データのセットとすることができる。訓練データセットは、移送インターフェースの少なくとも一部の複数の画像のセットをキャプチャすることによって生成されることができ、複数の画像について、キャビティは、例えば、空のキャビティ、キャビティ内のホルダの有無、キャビティ内の密閉試料管、またはキャビティ内の開放試料管などの異なる状態にある。さらに、照明およびライティング条件は、複数の画像のセットに対して変化させることができる。さらに、カメラとキャビティとの間の距離は、複数の画像のセットに対して変化させることができる。キャプチャされた複数の画像のセットは、手動で注釈付けされてもよく、境界ボックスなどの関心領域は、カテゴリのうちの1つによってラベル付けされてもよい。
モデルの訓練は、転移学習技術を使用することを含むことができる。具体的には、モデル、特にYOLOv3タイニーモデルは、例えば、J.Deng,W.Dong,R.Socher,L.Li,Kai LiおよびLi Fei-Fei,「ImageNet:A large-scale hierarchical image database」,2009 IEEE Conference on Computer Vision and Pattern Recognition,Miami,FL,2009年,pp.248-255,doi:10.1109/CVPR.2009.5206848に記載されているようなイメージネットデータセットなどの画像データについて事前訓練された畳み込み重みを使用することができる。転移学習技術を使用する背後にある利点は、以下のように説明されることができる:車の運転の仕方を知っている人は、トラックの運転の仕方を迅速且つ効率的に学習することができる。同様に、人間、車、自転車などの一般的な物体を検出するように既に訓練されているモデルは、線、エッジ、点などの小さな特徴を識別する方法を既に知っているCNNモデルの下位畳み込み層としてキャビティの状態を判定する方法を迅速に学習することができる。
キャビティの状態を判定することができるようにモデルを訓練するために、訓練データセットは、訓練セットとテストセットとに、例えば4::1の比率に分割されることができる。標準的なYOLOV3タイニーモデルの設定は、さらに調整されることができ、キャビティ状態を分類することができ、訓練済モデルの追加の訓練、特に再訓練を可能にするようにハイパーパラメータが調整されることができる。モデルのパラメータ、特にYOLOV3タイニーモデルの畳み込み重みは、訓練セットについて訓練され、テストセットによってテストされることができる。訓練セットについて訓練され、テストセットによってテストされたモデルは、本明細書では候補モデルとして示されることができる。
方法は、最終訓練済モデルを生成することをさらに含むことができる。具体的には、方法は、少なくとも1つの、例えば履歴のカスタム準備されたデータセットなどの、見えない入力データに基づいて候補モデルを再訓練することを含むことができる。これは、訓練済モデルのパラメータ、特に重みをさらに調整すること、および/またはカスタム条件を考慮することを可能にすることができる。調整された重みを有する最終訓練済モデルは、CNNモデル、具体的にはYOLOV3タイニーモデルの平均損失関数値が1よりもはるかに小さくなるまで訓練することによって生成されることができる。
訓練済モデルは、キャビティの状態を少なくとも1つのカテゴリにカテゴリ化するように構成される。ステップii)におけるカテゴリ化は、キャビティの状態のカテゴリを判定することを含むことができる。カテゴリの判定は、カテゴリの予測として示されることができる。カテゴリは、空のキャビティ、キャビティ内のホルダの存在、キャビティ内の密閉試料管、キャビティ内の開放試料管からなる群から選択されることができる。訓練済モデルは、カルーセル内に試料管および/またはホルダを配置するため、および/または試料管を識別するために構成されることができる。したがって、訓練済モデルは、移送インターフェース自体、特にカルーセルの全てのキャビティを特徴付けるように構成されることができる。
訓練済モデルは、異なる画像領域を異なるカテゴリに分類するように構成されることができる。例えば、画像が2つ以上のキャビティを含む場合、訓練済モデルは、画像の各キャビティの状態を判定するように構成される。したがって、訓練済モデルは、一度に複数のキャリアを特徴付けるように構成されることができる。
方法は、新たなタイプの試料管がインターフェースにおいて使用され、キャビティ状態が判定される必要がある場合に、以前の訓練済モデルを再訓練することを含むことができる。新たな試料管画像による1回の再訓練のみが必要とされることができる。
本明細書で使用される「通信インターフェース」という用語は、広義の用語であり、当業者にその通常の慣習的な意味を与えられるべきであり、特別なまたはカスタマイズされた意味に限定されるべきではない。この用語は、具体的には、限定されるものではないが、情報を転送するように構成された境界を形成するアイテムまたは要素を指すことができる。特に、通信インターフェースは、例えば別の装置に情報を送信または出力するなどのために、例えばコンピュータなどの計算装置から情報を転送するように構成されることができる。追加的または代替的に、通信インターフェースは、情報を受信するなどのために、計算装置、例えばコンピュータに情報を転送するように構成されてもよい。通信インターフェースは、具体的には、情報を転送または交換するための手段を提供することができる。特に、通信インターフェースは、例えば、ブルートゥース、NFC、誘導結合などのデータ転送接続を提供することができる。例として、通信インターフェースは、ネットワークまたはインターネットポート、USBポート、およびディスクドライブのうちの1つまたは複数を含む少なくとも1つのポートとすることができるか、またはそれらを含むことができる。通信インターフェースは、少なくとも1つの表示装置をさらに含むことができる。
方法は、特に処理ユニットを使用することによって、判定されたおよび/または提供されたカテゴリに基づいて、移送インターフェースがクリアランスのために何回回転しなければならないか、および/または接続装置による動作を特に直ちに開始することが可能かどうかを判定することを含むことができる。方法は、カルーセルの少なくとも1つの画像をキャプチャすることを含むことができる。ステップii)において、キャビティのそれぞれの状態がカテゴリ化されることができる。ステップiii)において、少なくとも1つのキャビティの状態が提供される。例えば、カルーセルは、5つのキャビティを含むことができる。方法は、キャビティのうちの2つが試料管を含み、他の3つが空であることを返すことができる。さらに、カルーセル内のそれぞれのキャビティの位置または相対位置に関する情報は、訓練済モデルによって提供されることができる。したがって、キャビティの状態およびそれらの位置から、移送インターフェースがクリアランスのために何回回転する必要があり得るか、および/またはいかなるクリアランスも必要とせずに接続装置との間の管の移送を直ちに開始することが可能であるかどうかを判定することが可能である。
本発明のさらなる態様では、試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定するコンピュータプログラムであって、コンピュータまたはコンピュータネットワーク上で実行されると、コンピュータまたはコンピュータネットワークに本発明にかかる方法を完全にまたは部分的に実行させるように構成されたコンピュータプログラムが開示される。コンピュータプログラムは、試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法のステップii)からiii)のうちの少なくとも1つを実行するように構成される。コンピュータプログラムは、ステップi)において、例えば上面視から少なくとも1つの画像をキャプチャするための命令をさらに含むことができる。
具体的には、コンピュータプログラムは、コンピュータ可読データキャリアおよび/またはコンピュータ可読記憶媒体に記憶されることができる。本明細書で使用される場合、「コンピュータ可読データキャリア」および「コンピュータ可読記憶媒体」という用語は、具体的には、コンピュータ実行可能命令が記憶されたハードウェア記憶媒体などの非一時的データ記憶手段を指すことができる。コンピュータ可読データキャリアまたは記憶媒体は、具体的には、ランダムアクセスメモリ(RAM)および/または読み出し専用メモリ(ROM)などの記憶媒体とすることができるか、またはそれを含むことができる。
プログラムがコンピュータまたはコンピュータネットワーク上で実行されると、本明細書に含まれる1つまたは複数の実施形態において、本開示にかかる方法を実行するために、プログラムコードを有するコンピュータプログラム製品が本明細書にさらに開示および提案される。具体的には、プログラムコード手段は、コンピュータ可読データキャリアおよび/またはコンピュータ可読記憶媒体に記憶されることができる。
データ構造が記憶されたデータキャリアであって、コンピュータまたはコンピュータネットワークのワーキングメモリまたはメインメモリなどのコンピュータまたはコンピュータネットワークにロードした後、本明細書に開示される1つまたは複数の実施形態における本発明かかる方法を実行することができる、データキャリアが本明細書にさらに開示および提案される。
プログラムがコンピュータまたはコンピュータネットワーク上で実行されるときに、本明細書に開示される本発明の1つまたは複数の実施形態にかかる方法を実行するために、マシン可読キャリアに格納されたプログラムコード手段を有するコンピュータプログラム製品が本明細書にさらに開示および提案される。本明細書で使用される場合、コンピュータプログラム製品は、取引可能な製品としてのプログラムを指す。製品は、一般に、紙のフォーマットなどの任意のフォーマットで、またはコンピュータ可読データキャリア上に存在する。具体的には、コンピュータプログラム製品は、データネットワークを介して配布されることができる。
本発明のさらなる態様では、試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する検査装置が開示される。検査装置は、
移送インターフェースの少なくとも一部の少なくとも1つの画像をキャプチャするように構成された少なくとも1つのカメラと、
画像に対して少なくとも1つの訓練済モデルを適用することによってキャビティの状態を少なくとも1つのカテゴリにカテゴリ化するように構成された少なくとも1つの処理ユニットであって、訓練済モデルが、移送インターフェースの画像データについて訓練されており、画像データが、異なる状態のキャビティを有する移送インターフェースの複数の画像を含む、少なくとも1つの処理ユニットと、
少なくとも1つのキャビティの判定されたカテゴリを提供するように構成された少なくとも1つの通信インターフェースと、を含む。
検査装置は、上記開示された実施形態のいずれか1つ、および/または以下にさらに詳細に開示される実施形態のいずれか1つにかかるものなど、本発明にかかる方法を実行するように構成されることができる。
本発明にかかる方法および装置は、当該技術分野において公知の同様の方法および装置に勝る多くの利点を提供することができる特に、移送インターフェースが起動すると、そのカメラユニットを使用してスナップショットなどの画像を撮像し、キャビティ状態を判定することができる。次に、クリアランスのために何回回転する必要があるか、または接続装置によって直ちに動作を開始することができるかどうかを判定することができる。さらに、本発明にかかる解決策は、物体分類、検出、および位置特定の最先端のCNNアーキテクチャを使用する。CNNアーキテクチャは、時間によって更新および/または置換されることができる。CNNベースのモデルは、物体分類のための手動の幾何学的特徴抽出の負担を軽減することができる。本発明による解決策は、画像取得のために既製のカメラを使用することができ、特殊なカメラのマイクロコントローラではなく強力な処理ユニットを有する接続されたコンピュータにおいて画像処理が行われることができるため、特殊な高価なカメラを使用する必要性を排除することができる。さらに、本発明は、方法が新たな試料画像によって1回の再訓練しか必要としないため、任意の新たな試料管を容易に含めることを可能にすることができる。さらに、同様の設定で別のカテゴリに対してこの解決策を拡張することがはるかに容易であるため、同じ訓練済モデルが多くの装置におけるキャビティ状態の検出に使用されることができる。
要約すると、さらに可能な実施形態を除外することなく、以下の実施形態が想定されることができる:
実施形態1. 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法であって、
i) 少なくとも1つのカメラを使用することによって移送インターフェースの少なくとも一部の少なくとも1つの画像をキャプチャすることと、
ii) 少なくとも1つの処理ユニットを使用することによって画像に対して少なくとも1つの訓練済モデルを適用することによって、キャビティの状態を少なくとも1つのカテゴリにカテゴリ化することであって、訓練済モデルが、移送インターフェースの画像データについて訓練されており、画像データが、異なる状態のキャビティを有する移送インターフェースの複数の画像を含む、カテゴリ化することと、
iii) 少なくとも1つの通信インターフェースを介して少なくとも1つのキャビティの結果カテゴリを提供することと、を含む。
実施形態2. 訓練済モデルが畳み込みニューラルネットワークモデルである、先行する実施形態に記載の方法。
実施形態3. 畳み込みニューラルネットワークモデルが、YOLOV3タイニー深層学習アーキテクチャに基づいている、先行する実施形態に記載の方法。
実施形態4. 訓練済モデルが、異なる画像領域を異なるカテゴリに分類するように構成される、先行する実施形態のいずれか1つに記載の方法。
実施形態5. ステップi)の画像が、カメラを使用することによってキャプチャされた少なくとも1つのビデオストリームのフレームである、先行する実施形態のいずれか1つに記載の方法。
実施形態6. 方法が、画像をスケーリングすることと、画像を整形することと、背景減算と、ガウシアンフィルタ、サビツキーゴーレイ平滑化、メディアンフィルタおよび/またはバイラテラルフィルタリングなどの少なくとも1つのフィルタを適用することを含む少なくとも1つの平滑化ステップと、のうちの1つまたは複数を含む前処理ステップを含む、先行する実施形態のいずれか1つに記載の方法。
実施形態7. カテゴリが、空のキャビティ、キャビティ内のホルダの存在、キャビティ内の密閉試料管、キャビティ内の開放試料管からなる群から選択される、先行する実施形態のいずれか1つに記載の方法。
実施形態8. 方法が、少なくとも1つの訓練ステップを含み、訓練ステップが、少なくとも1つの訓練データセットを生成することを含み、訓練データセットが、移送インターフェースの少なくとも一部の複数の画像のセットをキャプチャすることによって生成され、複数の画像について、キャビティが異なる状態にある、先行する実施形態のいずれか1つに記載の方法。
実施形態9. 訓練ステップが、転移学習技術を使用することを含む、先行する実施形態にかかる方法。
実施形態10. 訓練ステップが、少なくとも1つのカスタム準備されたデータセットに基づいて訓練済モデルを再訓練することを含む、先行する2つの実施形態のいずれか1つに記載の方法。
実施形態11. 方法が、判定されたおよび/または提供されたカテゴリに基づいて、移送インターフェースがクリアランスのために何回回転しなければならないか、および/または接続装置によって動作を特に直ちに開始することが可能かどうかを判定することを含む、先行する実施形態のいずれか1つに記載の方法。
実施形態12. 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定するコンピュータプログラムであって、コンピュータプログラムが、プログラムが少なくとも1つのプロセッサによって実行されると、プロセッサに、先行する実施形態のいずれか1つに記載の方法、特にステップii)からiii)を実行させる命令を含む、コンピュータプログラム。
実施形態13. 少なくとも1つのプロセッサによって実行されると、プロセッサに、方法に関する先行する実施形態のいずれか1つに記載の方法を実行させる命令を含むコンピュータ可読記憶媒体。
実施形態14. 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する検査装置であって、
移送インターフェースの少なくとも一部の少なくとも1つの画像をキャプチャするように構成された少なくとも1つのカメラと、
画像に対して少なくとも1つの訓練済モデルを適用することによってキャビティの状態を少なくとも1つのカテゴリにカテゴリ化するように構成された少なくとも1つの処理ユニットであって、訓練済モデルが、移送インターフェースの画像データについて訓練されており、画像データが、異なる状態のキャビティを有する移送インターフェースの複数の画像を含む、少なくとも1つの処理ユニットと、
少なくとも1つのキャビティの判定されたカテゴリを提供するように構成された少なくとも1つの通信インターフェースと、を含む、検査装置。
実施形態15. 検査装置が、方法に関する先行する実施形態のいずれか1つに記載の方法を実行するように構成される、先行する実施形態に記載の検査装置。
さらなる任意の特徴および実施形態は、好ましくは従属請求項と併せて、実施形態の後続の説明においてより詳細に開示される。その中で、それぞれの任意の特徴は、当業者が理解するように、独立した方法で、ならびに任意の実行可能な組み合わせで実現されることができる。本発明の範囲は、好ましい実施形態によって制限されない。実施形態は、図に概略的に示されている。その中で、これらの図の同一の参照符号は、同一または機能的に匹敵する要素を指す。
図では以下のとおりである:
本発明にかかる試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する検査装置を備える検査室自動化システムの詳細を示している。 本発明にかかる方法のフローチャートを示している。 本発明にかかる訓練ステップを示している。 実験結果を示している。 実験結果を示している。
図1は、本発明にかかる試料管118を移送するように構成された移送インターフェース116の少なくとも1つのキャビティ114の少なくとも1つの状態を判定する検査装置112を備える検査室自動化システム(LAS)110の詳細を非常に概略的に示している。
試料管118は、試料を収容する、保存する、または移送することのうちの1つまたは複数のために構成されることができる。試料管118は、ガラスまたは透明プラスチック管とすることができる。試料管118は、円筒状管、例えば、円形および/または多角形の断面を有する円筒状管とすることができる。他のタイプまたは形態の試料管も可能である。試料管118は、管底部と、管本体と、キャップの封止を含むキャップとを含むことができる。管底部は、試料管118の下端に試料管を閉じ込めるように構成されることができる。管本体は、試料管118の形状を形成するように構成されることができる。キャップは、特定の封止タイプの機構を使用することによって試料管の上端において試料管を可逆的に密閉するように構成されることができる。例えば、試料管のキャップ封止は、スクリュー型、ゴム型、hemogard型、またはプッシュ型のうちの1つまたは複数を含むことができる。試料管118の上端および下端は、試料管118の使用方法によって画定されることができる。
試料は、化学的または生物学的化合物などの物質のアリコートとすることができる。具体的には、試料は、血液、血清、血漿、尿、唾液のうちの1つまたは複数などの少なくとも1つの生体検体とすることができるか、またはそれらを含むことができる。追加的または代替的に、試料は、化学物質または化合物および/または試薬とすることができるか、またはそれらを含むことができる。
検査室自動化システム110は、試料管118を自動的に取り扱うように構成されたシステムとすることができる。具体的には、LAS110は、試料管118およびそれらに囲まれた試料を自律的におよび/または完全にまたは部分的に自動的に処理するように構成されることができる。LAS110が使用される検査室は、例えば、臨床検査室、法医学検査室または血液バンクとすることができる。例として、LAS110は、複数の試料管118を例えば順次または並行して取り扱うように構成されるなど、少なくとも1つの試料管118を取り扱うように構成された、アクチュエータなどの少なくとも1つの移送モジュール120を含むことができる。例として、移送モジュール120は、システム内の複数の取り扱いステーションなどを介して、少なくとも1つの試料管118を自動的に移動させるように構成されることができる。例として、移送モジュール120は、ロボットアーム、搬送システムまたはカルーセルのうちの1つまたは複数とすることができるか、またはそれらを含むことができる。他の移送モジュール120が知られており、使用されてもよい。LAS110は、少なくとも1つの試料管に含まれる1つまたは複数の試料を取り扱うおよび/または処理するための1つまたは複数の取り扱いステーションをさらに含むことができる。例として、試料に成分を添加するための1つまたは複数のステーション、試料を加熱するための1つまたは複数のステーション、または遠心分離などによる試料分離のための1つまたは複数のステーションが設けられることができる。LAS110は、試料分析のための少なくとも1つの分析システムを含むことができる。LAS110は、具体的には後続の試料分析のために1つまたは複数の試料を調製するための少なくとも1つの前分析システムを含むことができる。
移送インターフェース116は、移送モジュール120と接続装置122、特に取り扱いステーションとの間で少なくとも1つの試料管118を移送するまたは移送を提供するように構成されることができる。
移送インターフェース116は、それぞれが少なくとも1つの試料管118を受け入れおよび/または保持するように構成された複数のキャビティ114を含むことができる。キャビティ114は、少なくとも1つの試料管118を受け入れおよび/または保持するように構成された受け入れ領域および/または保持領域とすることができるか、またはそれを含むことができる。キャビティ114は、少なくとも1つのホルダ124を含むことができる。例えば、ホルダ124は、正確に1つの試料管118を受け入れて保持するように構成された単一のホルダとすることができる。ホルダ124は、試料管118を受け入れて保持するために試料管118と直接接触するように構成されることができる。例えば、ホルダ124は、試料管118の挿入を可能にするために、片側、特に上面または前面側で開放されることができる。
移送インターフェース116は、少なくとも1つのカルーセル126を含むことができ、キャビティ114は、カルーセル126の円周にわたって分散され、特に均等に分散される。キャビティ114は、位置決めスターなどの位置決め要素を使用することによって位置決めされることができる。カルーセル126は、特に少なくとも1つのロータ128を使用することによって回転可能とすることができる。移送インターフェース116は、少なくとも1つの入力位置130、特に最小1つの入力位置130で移送モジュール120に面することができる。入力位置130において、ホルダ124および/またはホルダ124および試料管118は、特に自動的にそれぞれのキャビティ114に装填されることができる。移送インターフェース116は、出力位置132として示される少なくとも1つのさらなる位置、特に最小1つのさらなる位置で、移送モジュールおよび/またはさらなる移送モジュール120に面することができる。出力位置132において、ホルダ124および/またはホルダ124および試料管118は、移送インターフェース116から移送モジュール120および/またはさらなる移送モジュールに移送されることができる。移送インターフェース116は、少なくとも1つのハンドオーバ位置134を含むことができ、ハンドオーバ位置134において、試料管118は、移送インターフェース116から接続装置122に、および/または接続装置122から移送インターフェース116に移送されることができる。ハンドオーバ位置134において、任意に、試料管118は、参照符号135によって示される中心とすることができる。
少なくとも1つのキャビティ114の状態は、空のキャビティ、キャビティ114内のホルダ124の存在、キャビティ114内の密閉試料管118、キャビティ114内の開放ホルダ124などのカテゴリにキャビティ114を特徴付ける任意の情報とすることができる。空のキャビティ114は、試料管118およびホルダ124のないキャビティ114とすることができる。ホルダ124のカテゴリの存在は、試料管118を有するまたは有しないホルダ124にさらに分けられることができる。カテゴリ密閉試料管118は、キャビティ114内にホルダ124および試料管118を有する状況を指すことができ、試料管118は、試料管のキャップによって密閉される。カテゴリ開放試料管118は、キャビティ114内にホルダ124および試料管118を有する状況を指すことができ、試料管118は、試料管のキャップによって密閉されない。
検査装置112は、移送インターフェース116の少なくとも一部の少なくとも1つの画像をキャプチャするように構成された少なくとも1つのカメラ136を含む。カメラ136は、画素のマトリックスを含む画素化カメラとすることができる。例として、カメラ136は、画像を記録するように構成された少なくとも1つのCCDチップおよび/または少なくとも1つのCMOSチップなどの、少なくとも1つのカメラチップを含むことができる。カメラ136は、移送インターフェース116の要素またはユニットとすることができる。
カメラ136は、少なくとも1つのカメラチップまたは撮像チップに加えて、1つまたは複数の光学素子、例えば、1つまたは複数のレンズなどのさらなる素子を含むことができる。例として、カメラ136は、少なくとも1つの様々なズームレンズなど、自動または手動で調整されることができる1つまたは複数の可変レンズを含むことができる。あるいは、しかしながら、カメラ136は、カメラ136に対して固定的に調整される少なくとも1つのレンズを有する固定焦点カメラとすることができる。
カメラ136は、具体的にはカラーカメラとすることができる。したがって、各画素などについて、3色の色値などの色情報が提供または生成されることができる。各画素に4色値など、より多くの色値も可能である。カラーカメラは、当業者に一般に知られている。したがって、例として、カメラチップは、それぞれ3つ以上の異なるカラーセンサ、例えば、赤(R)用の1画素、緑(G)用の1画素、および青(B)用の1画素のようなカラー記録画素から構成されることができる。R、G、Bなどの各画素について、それぞれの色の強度に応じて、値は、0から255の範囲のデジタル値などの画素によって記録されることができる。例として、R、G、Bなどの色の三つ組を使用する代わりに、四つ組が使用されることができる。画素の色感度は、カラーフィルタによって、またはカメラ画素において使用されるセンサ素子の適切な固有感度によって生成されることができる。これらの技術は、当業者に一般に知られている。
少なくとも1つの画像をキャプチャすることは、撮像、画像記録、画像取得、画像キャプチャのうちの1つまたは複数を含むことができる。少なくとも1つの画像をキャプチャすることは、単一の画像および/または一連の画像などの複数の画像をキャプチャすることを含むことができる。例えば、画像をキャプチャすることは、ビデオストリームまたは動画などの一連の画像を連続的に記録することを含むことができる。ステップi)の画像は、カメラ136を使用することによってキャプチャされた少なくとも1つのビデオストリームのフレームとすることができる。
カメラ136は、関心領域を含む少なくとも1つの画像をキャプチャするように構成されることができる。具体的には、画像をキャプチャすることは、移送インターフェース116全体の少なくとも1つの画像がキャプチャされる実施形態、および移送インターフェース116のキャビティ114などのエリアまたは領域などの関心領域の少なくとも1つの画像がキャプチャされる実施形態を指すことができる。
画像をキャプチャすることは、移送インターフェース116の動きに同期させることができる。追加的または代替的に、画像をキャプチャすることは、例えば、繰り返し間隔での撮像、または視野内および/またはカメラ136の視野の所定のセクタ内の少なくとも1つの物体の存在が自動的に検出されると、自動的に開始されることができる。画像をキャプチャすることは、例として、カメラ136によって画像のストリームを取得することを含むことができ、画像のうちの1つまたは複数は、自動的にまたはユーザ相互作用によって取得される。画像をキャプチャすることは、移送インターフェース116などのプロセッサによって実行および/またはサポートされることができる。キャプチャ画像は、移送インターフェース116などの少なくとも1つのデータ記憶装置に記憶されることができる。
カメラ136は、少なくとも1つのバーコードを読み取ること、試料管118の存在を認識すること、試料のキャップを検出することなどによって試料管118を識別することのうちの1つまたは複数のために構成された識別ユニット138の一部とすることができる。
検査装置112は、画像に対して少なくとも1つの訓練済モデルを適用することによってキャビティ114の状態を少なくとも1つのカテゴリにカテゴリ化するように構成された少なくとも1つの処理ユニット140を含み、訓練済モデルは、移送インターフェース116の画像データについて訓練されており、画像データが、異なる状態のキャビティ114を有する移送インターフェース116の複数の画像を含む。複数の画像は、様々なライティング条件および/または視点とキャビティ114との間の距離を有する異なる状態のキャビティ114を有する移送インターフェース116の画像を含むことができる。処理ユニット140は、コンピュータまたはシステムの基本的な動作を実行するように構成された任意の論理回路、および/または一般に、計算または論理動作を実行するように構成された装置とすることができるか、またはそれを含むことができる。特に、処理ユニット140は、コンピュータまたはシステムを駆動する基本的な命令を処理するように構成されることができる。例として、処理ユニット140は、少なくとも1つの算術論理演算装置(ALU)、数値演算コプロセッサまたは数値コプロセッサなどの少なくとも1つの浮動小数点ユニット(FPU)、複数のレジスタ、具体的にはALUにオペランドを供給し、演算結果を格納するように構成されたレジスタ、L1およびL2キャッシュメモリなどのメモリを含むことができる。特に、処理ユニット140は、マルチコアプロセッサとすることができる。具体的には、処理ユニット140は、中央処理装置(CPU)とすることができるか、またはそれを含むことができる。追加的または代替的に、処理ユニット140は、マイクロプロセッサとすることができるか、またはそれを含むことができ、したがって、具体的には、プロセッサの要素は、1つの単一集積回路(IC)チップに含まれることができる。追加的または代替的に、処理ユニット140は、1つまたは複数の特定用途向け集積回路(ASIC)および/または1つまたは複数のフィールドプログラマブルゲートアレイ(FPGA)などとすることができるか、またはそれらを含むことができる。処理ユニット140は、移送インターフェース116の処理ユニットとすることができる。
処理ユニット140は、画像をスケーリングすることと、画像を整形することと、背景減算と、ガウシアンフィルタ、サビツキーゴーレイ平滑化、メディアンフィルタおよび/またはバイラテラルフィルタリングなどの少なくとも1つのフィルタを適用することを含む少なくとも1つの平滑化ステップとのうちの1つまたは複数を含む少なくとも1つの前処理ステップを実行するように構成されることができる。例えば、処理ユニット140は、キャプチャ画像の関心領域を判定するように構成されることができる。例えば、入力画像とも呼ばれる画像は、処理ユニット140によって読み取られ、再成形されることができる。次に、入力画像は、平均減算およびスケーリングを実行する画像関数に渡されることができる。この画像関数は、入力画像における照明変動を低減することを可能にすることができ、正規化のためにスケーリングが使用されることができる。関心領域を判定するプロセスは、少なくとも1つのコンピュータビジョンプロセスを使用することによって実装されることができる。そのような技術は、当業者に一般に知られている。したがって、例として、キャビティ114などを検出するためにパターン認識技術が使用されることができる。追加的または代替的に、他の前処理ステップまたはプロセスが使用されてもよい。
訓練済モデルは、機械学習、深層学習、ニューラルネットワーク、または他の形態の人工知能のうちの1つまたは複数を使用して少なくとも1つの訓練データセットについて訓練された数学的モデルとすることができる。訓練済モデルは、畳み込みニューラルネットワーク(CNN)モデルとすることができる。CNNモデルは、物体の分類、検出、および/または位置特定のために構成されたCNNアーキテクチャに基づくことができる。最先端のCNNアーキテクチャは、カスタムデータについての再利用および訓練が可能なビルディングブロックのように機能し、この場合、CNNベースのモデルが所与の入力画像に基づいてカスタム重みを得ることができるように、異なる状態を有するインターフェースキャビティ画像を転送する。具体的には、畳み込みニューラルネットワークモデルは、YOLOV3タイニー深層学習アーキテクチャに基づいている。YOLOV3タイニー深層学習アーキテクチャに関しては、Joseph RedmonおよびAli Farhadi,「YOLOv3:An Incremental Improvement」 2018 arXiv:1804.02767に記載されており、その内容は参照により本明細書に含まれる。
YOLOV3タイニー深層学習アーキテクチャは、同様のまたはより良い予測精度で、領域ベース畳み込みニューラルネットワーク(R-CNN)よりも1000倍高速であり、高速R-CNNよりも100倍高速とすることができる。分類のための迅速な推論時間は、CNNアーキテクチャを選択するための重要な考慮事項とすることができる。
訓練済モデルは、転移技術を使用して移送インターフェース116の画像データについて訓練されている。画像データは、異なる状態のキャビティ114を有する移送インターフェース116の複数の画像を含む。複数の画像は、様々なライティング条件および/または視点とキャビティ114との間の距離を有する異なる状態のキャビティ114を有する移送インターフェース116の画像を含むことができる。モデルの訓練の実施形態が図3に示されている。訓練は、参照符号142によって示される少なくとも1つの訓練データセットを生成することを含むことができる。訓練データセットは、ラベル付けされた試料データのセットとすることができる。訓練データセットは、移送インターフェース116の少なくとも一部の複数の画像のセットをキャプチャすることによって生成されることができ、複数の画像について、キャビティ114は、例えば、空のキャビティ114、キャビティ114内のホルダ124の有無、キャビティ114内の密閉試料管118、またはキャビティ114内の開放試料管118などの異なる状態にある。さらに、照明およびライティング条件は、複数の画像のセットに対して変化させることができる。さらに、カメラ136とキャビティ114との間の距離は、複数の画像のセットに対して変化させることができる。キャプチャされた複数の画像のセットは、参照符号144によって示されるように前処理されることができる。上述したように、前処理は、処理ユニット140、特に少なくとも1つのデータ前処理モジュール146によって実行されることができる。キャプチャされた画像は、例えば、少なくとも1つの表示装置148を使用することによって可視化されることができる。キャプチャされた複数の画像のセットは、手動で注釈付けされてもよく、境界ボックスなどの関心領域は、参照符号150によって示されるカテゴリのうちの1つによってラベル付けされてもよい。この処理は、全ての画像データが処理されるまで繰り返されてもよい。
キャビティ114の状態を判定することができるようにモデルを訓練するために、訓練データセットは、訓練セット152とテストセット154とに、例えば4::1の比率に分割されることができる。
モデルの訓練は、転移学習技術を使用することを含むことができる。具体的には、モデル、特に図3において参照符号156によって示されるYOLOv3タイニーモデルは、例えば、J.Deng,W.Dong,R.Socher,L.Li,Kai LiおよびLi Fei-Fei,「ImageNet:A large-scale hierarchical image database」,2009 IEEE Conference on Computer Vision and Pattern Recognition,Miami,FL,2009年,pp.248-255,doi:10.1109/CVPR.2009.5206848に記載されているようなイメージネットデータセットの画像などの画像データについて事前訓練された畳み込み重みを使用することができる。転移学習技術を使用する背後にある利点は、以下のように説明されることができる:車の運転の仕方を知っている人は、トラックの運転の仕方を迅速且つ効率的に学習することができる。同様に、人間、車、自転車などの一般的な物体を検出するように既に訓練されているモデルは、線、エッジ、点などの小さな特徴を識別する方法を既に知っているCNNモデルの下位畳み込み層としてキャビティの状態を判定する方法を迅速に学習することができる。
標準的なYOLOV3タイニーモデル156の設定は、さらに調整されることができ、キャビティ状態114を分類することができ、訓練済モデルの追加の訓練、特に再訓練を可能にするようにハイパーパラメータが調整されることができる。モデルのパラメータ、特にYOLOV3タイニーモデル156の畳み込み重みは、訓練セット152について訓練され、テストセット154によってテストされることができる。訓練セット152について訓練され、テストセット154によってテストされたモデルは、本明細書では候補モデル158として示されることができる。候補モデル158は、平均損失が1よりも小さくなるまで訓練によって生成されることができる。
図3に示すように、訓練は、最終訓練済モデル160を生成することをさらに含むことができる。具体的には、方法は、少なくとも1つの、例えば履歴のカスタム準備されたデータセットなどの、見えない入力データ162に基づいて候補モデル158を再訓練することを含むことができる。これは、訓練済モデルのパラメータ、特に重みをさらに調整すること、および/またはカスタム条件を考慮することを可能にすることができる。更新された重みを有する最終訓練済モデル160は、CNNモデル、具体的にはYOLOV3タイニーモデルの平均損失関数値が1よりもはるかに小さくなるまで訓練することによって生成されることができる。
図3においてさらに視覚化されるように、訓練済モデルは、キャビティ114の状態を少なくとも1つのカテゴリにカテゴリ化するように構成される。カテゴリは、空のキャビティ、キャビティ内のホルダの存在、キャビティ内の密閉試料管、キャビティ内の開放試料管からなる群から選択されることができる。例示的に4つのカテゴリC1からC4が図3に示されている。訓練済モデルは、カルーセル126内に試料管118および/またはホルダ124を配置するため、および/または試料管118を識別するために構成されることができる。したがって、訓練済モデルは、移送インターフェース116自体、特にカルーセル126の全てのキャビティ114を特徴付けるように構成されることができる。
訓練済モデルは、異なる画像領域を異なるカテゴリに分類するように構成されることができる。例えば、画像が2つ以上のキャビティ114を含む場合、訓練済モデルは、画像の各キャビティ114の状態を判定するように構成される。したがって、訓練済モデルは、一度に複数のキャビティ114を特徴付けるように構成されることができる。
新たなタイプの試料管118が移送インターフェース116において使用され、キャビティ状態が判定される必要がある場合、訓練済モデルは再訓練されることができる。新たな試料管画像による1回の再訓練のみが必要とされることができる。
検査装置は、少なくとも1つのキャビティ114の判定されたカテゴリを提供するように構成された少なくとも1つの通信インターフェース164をさらに含む。図1の実施形態では、通信インターフェース164は、処理ユニット140の一部である。通信インターフェース164は、例えば別の装置に情報を送信または出力するなどのために、例えばコンピュータなどの計算装置から情報を転送するように構成されることができる。追加的または代替的に、通信インターフェース164は、情報を受信するなどのために、計算装置、例えばコンピュータに情報を転送するように構成されてもよい。通信インターフェース164は、具体的には、情報を転送または交換するための手段を提供することができる。特に、通信インターフェース164は、例えば、ブルートゥース、NFC、誘導結合などのデータ転送接続を提供することができる。例として、通信インターフェース164は、ネットワークまたはインターネットポート、USBポート、およびディスクドライブのうちの1つまたは複数を含む少なくとも1つのポートとすることができるか、またはそれらを含むことができる。通信インターフェース164は、少なくとも1つの表示装置をさらに含むことができる。
処理ユニット140は、判定されたおよび/または提供されたカテゴリに基づいて、移送インターフェース116がクリアランスのために何回回転しなければならないか、および/または接続装置による動作を特に直ちに開始することが可能かどうかを判定するように構成されることができる。カメラ136は、カルーセル126の少なくとも1つの画像をキャプチャすることができる。処理ユニット140は、キャビティ114のそれぞれの状態をカテゴリ化することができる。例えば、カルーセル126は、5つのキャビティを含むことができる。処理ユニット140は、キャビティのうちの2つが試料管を含み、他の3つが空であると判定することができる。さらに、カルーセル126内のそれぞれのキャビティ114の位置または相対位置に関する情報は、訓練済モデルによって提供されることができる。したがって、キャビティ114の状態およびそれらの位置から、移送インターフェース116がクリアランスのために何回回転する必要があり得るか、および/またはいかなるクリアランスも必要とせずに管から接続装置122に対する移送を直ちに開始することが可能であるかどうかを判定することが可能である。
図2は、本発明にかかる方法のフローチャートを示している。方法は、具体的には所与の順序で実行されることができる以下のステップを含む。しかしながら、異なる順序も可能であることに留意するものとする。さらに、1つまたは複数の方法ステップを1回または繰り返し実行することも可能である。さらに、2つ以上の方法ステップを同時にまたは適時に重複して実行することが可能である。方法は、記載されていないさらなる方法ステップを含むことができる。方法は、
i) (参照符号166によって示される)カメラ136を使用することによって移送インターフェース116の少なくとも一部の少なくとも1つの画像をキャプチャすることと、
ii) (参照符号168によって示される)処理ユニット140を使用することによって画像に対して訓練済モデルを適用することによって、キャビティ114の状態を少なくとも1つのカテゴリにカテゴリ化することであって、訓練済モデルが、移送インターフェース116の画像データについて訓練されており、画像データが、異なる状態のキャビティを有する移送インターフェース116の複数の画像を含む、カテゴリ化することと、
iii) (参照符号170によって示される)少なくとも1つの通信インターフェース164を介して少なくとも1つのキャビティ114の判定されたカテゴリを提供することと、を含む。
図4AからBは、本発明にかかる方法を使用した実験結果を示している。図4Aから図4Bでは、識別されてカテゴリ化されたキャビティ114を有する画像が示されている。キャビティのカテゴリ化は、カメラからの画角が少量変化した場合であっても信頼できることに留意することが重要である。図4Aから図4Bでは、信頼性レベルが50パーセントを超える場合にのみ分類を有する正しい境界ボックスを得るために、0.4の非最大抑制閾値によって予測信頼性閾値が0.5に設定された。これらの値は構成可能であり、必要に応じて更新されることができる。
具体的には、図4Aでは、11個のキャビティ114が識別された。8つのキャビティ114は、参照符号172によって示される空のキャビティとしてカテゴリ化された。1つのキャビティ114は、参照符号174によって示されるキャビティ114内のホルダ124としてカテゴリ化された。1つのキャビティ114は、参照符号176によって示されるキャビティ114内の開放試料管118としてカテゴリ化された。1つのキャビティ114は、参照符号178によって示されるキャビティ114内の密閉試料管118としてカテゴリ化された。
図4Bでは、12個のキャビティ114が識別された。9つのキャビティ114は、参照符号172によって示される空のキャビティとしてカテゴリ化された。1つのキャビティ114は、参照符号174によって示されるキャビティ114内のホルダ124としてカテゴリ化された。1つのキャビティ114は、参照符号176によって示されるキャビティ114内の開放試料管118としてカテゴリ化された。1つのキャビティ114は、参照符号178によって示されるキャビティ114内の密閉試料管118としてカテゴリ化された。
110 検査室自動化システム
112 検査装置
114 キャビティ
116 移送インターフェース
118 試料管
120 移送モジュール
122 接続装置
124 ホルダ
126 カルーセル
128 ロータ
130 入力位置
132 出力位置
134 ハンドオーバ位置
135 センタリング
136 カメラ
138 識別ユニット
140 処理ユニット
142 少なくとも1つの訓練データセットの生成
144 前処理
146 データ前処理モジュール
148 表示装置
150 手動で注釈付け
152 訓練セット
154 テストセット
156 YOLOv3タイニーモデル
158 候補モデル
160 最終訓練済モデル
162 見えない入力データ
164 通信インターフェース
166 キャプチャ
168 カテゴリ化
170 提供
172 空のキャビティ
174 キャビティ内のホルダ
176 開放試料管
178 密閉試料管

Claims (15)

  1. 試料管(118)を移送するように構成された移送インターフェース(116)の少なくとも1つのキャビティ(114)の少なくとも1つの状態を判定する方法であって、
    i)少なくとも1つのカメラ(136)を使用することによって前記移送インターフェース(116)の少なくとも一部の少なくとも1つの画像をキャプチャすること(166)と、
    ii)少なくとも1つの処理ユニット(140)を使用することによって前記画像に対して少なくとも1つの訓練済モデルを適用することによって、前記キャビティ(114)の状態を少なくとも1つのカテゴリにカテゴリ化すること(168)であって、前記訓練済モデルが、前記移送インターフェース(116)の画像データについて訓練されており、前記画像データが、異なる状態のキャビティ(114)を有する前記移送インターフェース(116)の複数の画像を含む、カテゴリ化すること(168)と、
    iii)少なくとも1つの通信インターフェース(164)を介して少なくとも1つのキャビティの判定された前記カテゴリを提供すること(170)と、を含み、
    前記少なくとも1つのキャビティ(114)の少なくとも1つの状態は、前記キャビティ(114)が空である状態、前記キャビティ(114)に前記試料管(118)を保持するためのホルダ(124)が存在し、前記試料管(118)が存在していない状態、前記キャビティ(114)に前記ホルダ(124)および密閉された試料管(118)が存在している状態、前記キャビティ(114)に前記ホルダ(124)および開放された試料管(118)が存在している状態のうちの少なくとも1つを含み、
    前記移送インターフェース(116)は、移送モジュール(120)と接続デバイス(122)との間で前記試料管(118)を移送する、または前記試料管(118)の移送を提供するように構成された物理的境界を形成する装置である、方法。
  2. 前記訓練済モデルが畳み込みニューラルネットワークモデルである、請求項1に記載の方法。
  3. 前記畳み込みニューラルネットワークモデルが、YOLOv3タイニー深層学習アーキテクチャに基づいている、請求項2に記載の方法。
  4. 前記訓練済モデルが、異なる画像領域を異なるカテゴリに分類するように構成される、請求項1~3のいずれか一項に記載の方法。
  5. ステップi)の前記画像が、前記カメラ(136)を使用することによってキャプチャされた少なくとも1つのビデオストリームのフレームである、請求項1~4のいずれか一項に記載の方法。
  6. 前記方法が、前記画像をスケーリングすることと、前記画像を整形することと、背景減算と、ガウシアンフィルタ、サビツキーゴーレイ平滑化、メディアンフィルタおよび/またはバイラテラルフィルタリングなどの少なくとも1つのフィルタを適用することを含む少なくとも1つの平滑化ステップと、のうちの1つまたは複数を含む前処理ステップを含む、請求項1~5のいずれか一項に記載の方法。
  7. 前記カテゴリが、空のキャビティ(114)、前記キャビティ(114)内のホルダ(124)の存在、前記キャビティ(114)内の密閉試料管(118)、前記キャビティ(114)内の開放試料管(118)からなる群から選択される、請求項1~6のいずれか一項に記載の方法。
  8. 前記方法が、少なくとも1つの訓練ステップを含み、前記訓練ステップが、少なくとも1つの訓練データセットを生成することを含み、前記訓練データセットが、前記移送インターフェース(116)の少なくとも一部の複数の画像のセットをキャプチャすることによって生成され、前記複数の画像について、前記キャビティ(114)が異なる状態にある、請求項1~7のいずれか一項に記載の方法。
  9. 前記訓練ステップが、転移学習技術を使用することを含む、請求項8に記載の方法。
  10. 前記訓練ステップが、少なくとも1つのカスタム準備されたデータセットに基づいて前記訓練済モデルを再訓練することを含む、請求項8または9に記載の方法。
  11. 前記方法が、判定されたおよび/または提供された前記カテゴリに基づいて、前記移送インターフェース(116)がクリアランスのために何回回転しなければならないか、および/または接続装置(122)によって動作を開始することが可能かどうかを判定することを含む、請求項1~10のいずれか一項に記載の方法。
  12. 試料管(118)を移送するように構成された移送インターフェース(116)の少なくとも1つのキャビティ(114)の少なくとも1つの状態を判定するコンピュータプログラムであって、前記コンピュータプログラムが、前記コンピュータプログラムが少なくとも1つのプロセッサによって実行されると、前記プロセッサに、請求項1~11のいずれか一項に記載の方法を実行させる命令を含む、コンピュータプログラム。
  13. 少なくとも1つのプロセッサによって実行されると、前記プロセッサに、方法に関する請求項1~11のいずれか一項に記載の方法を実行させる命令を含む、コンピュータ可読記憶媒体。
  14. 試料管(118)を移送するように構成された移送インターフェース(116)の少なくとも1つのキャビティ(114)の少なくとも1つの状態を判定する検査装置(112)であって、
    前記移送インターフェース(116)の少なくとも一部の少なくとも1つの画像をキャプチャするように構成された少なくとも1つのカメラ(136)と、
    前記画像に対して少なくとも1つの訓練済モデルを適用することによって、前記キャビティ(114)の状態を少なくとも1つのカテゴリにカテゴリ化するように構成された少なくとも1つの処理ユニット(140)であって、前記訓練済モデルが、前記移送インターフェース(116)の画像データについて訓練されており、前記画像データが、異なる状態のキャビティ(114)を有する前記移送インターフェース(116)の複数の画像を含む、少なくとも1つの処理ユニットと、
    少なくとも1つのキャビティ(114)の判定された前記カテゴリを提供するように構成された少なくとも1つの通信インターフェース(164)と、を含み、
    前記少なくとも1つのキャビティ(114)の少なくとも1つの状態は、前記キャビティ(114)が空である状態、前記キャビティ(114)に前記試料管(118)を保持するためのホルダ(124)が存在し、前記試料管(118)が存在していない状態、前記キャビティ(114)に前記ホルダ(124)および密閉された試料管(118)が存在している状態、前記キャビティ(114)に前記ホルダ(124)および開放された試料管(118)が存在している状態のうちの少なくとも1つを含み、
    前記移送インターフェース(116)は、移送モジュール(120)と接続デバイス(122)との間で前記試料管(118)を移送する、または前記試料管(118)の移送を提供するように構成された物理的境界を形成する装置である、検査装置(112)。
  15. 前記検査装置(112)が、方法に関する請求項1~11のいずれか一項に記載の方法を実行するように構成されている、請求項14に記載の検査装置(112)。
JP2021159600A 2020-10-02 2021-09-29 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法 Active JP7250090B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP20199920.8A EP3979131A1 (en) 2020-10-02 2020-10-02 A method for determining at least one state of at least one cavity of a transport interface configured for transporting sample tubes
EP20199920.8 2020-10-02

Publications (2)

Publication Number Publication Date
JP2022060172A JP2022060172A (ja) 2022-04-14
JP7250090B2 true JP7250090B2 (ja) 2023-03-31

Family

ID=72744688

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021159600A Active JP7250090B2 (ja) 2020-10-02 2021-09-29 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法

Country Status (4)

Country Link
US (1) US20220107331A1 (ja)
EP (1) EP3979131A1 (ja)
JP (1) JP7250090B2 (ja)
CN (1) CN114298963A (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018507482A (ja) 2015-02-18 2018-03-15 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 視覚システムにおけるトレイスロットタイプ及びチューブタイプの位置ベース検出
JP2019502927A (ja) 2016-01-22 2019-01-31 エフ ホフマン−ラ ロッシュ アクチェン ゲゼルシャフト 試料処理装置
JP2019502924A (ja) 2016-01-22 2019-01-31 エフ.ホフマン−ラ ロシュ アーゲーF. Hoffmann−La Roche Aktiengesellschaft ラボラトリ分配システム
WO2020095131A1 (en) 2018-11-07 2020-05-14 Foss Analytical A/S Milk analyser for classifying milk
JP2020526841A (ja) 2017-07-11 2020-08-31 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 試料管頭部円の学習ベース画像エッジ強調方法及びシステム

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2690167T3 (es) * 2009-05-15 2018-11-19 Biomerieux, Inc Aparatos de detección microbiana automatizada
KR20140091033A (ko) * 2011-11-07 2014-07-18 베크만 컬터, 인코포레이티드 검체 컨테이너 검출
CA2903013C (en) 2013-03-08 2021-05-11 Siemens Healthcare Diagnostics Inc. Tube characterization station
US10140705B2 (en) 2014-06-10 2018-11-27 Siemens Healthcare Diagnostics Inc. Drawer vision system
DE102014224519A1 (de) 2014-12-01 2016-06-02 Krones Ag Etikettiervorrichtung und -verfahren zur Etikettierung von Behältern
WO2017106271A1 (en) * 2015-12-18 2017-06-22 Abbott Laboratories Systems and methods for automated analysis
CN109477848B (zh) 2016-07-25 2023-07-18 西门子医疗保健诊断公司 用于识别样品容器盖的系统、方法和设备
EP3655758B1 (en) 2017-07-19 2024-05-15 Siemens Healthcare Diagnostics, Inc. Stray light compensating methods and apparatus for characterizing a specimen
JP7011904B2 (ja) 2017-07-31 2022-01-27 株式会社日立ハイテク 装置、試料における気泡の状態の判別方法、及び分析システム
EP3701271A1 (en) 2017-10-27 2020-09-02 Beckman Coulter, Inc. Sample container recognition

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018507482A (ja) 2015-02-18 2018-03-15 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 視覚システムにおけるトレイスロットタイプ及びチューブタイプの位置ベース検出
JP2019502927A (ja) 2016-01-22 2019-01-31 エフ ホフマン−ラ ロッシュ アクチェン ゲゼルシャフト 試料処理装置
JP2019502924A (ja) 2016-01-22 2019-01-31 エフ.ホフマン−ラ ロシュ アーゲーF. Hoffmann−La Roche Aktiengesellschaft ラボラトリ分配システム
JP2020526841A (ja) 2017-07-11 2020-08-31 シーメンス・ヘルスケア・ダイアグノスティックス・インコーポレーテッドSiemens Healthcare Diagnostics Inc. 試料管頭部円の学習ベース画像エッジ強調方法及びシステム
WO2020095131A1 (en) 2018-11-07 2020-05-14 Foss Analytical A/S Milk analyser for classifying milk
JP2022504710A (ja) 2018-11-07 2022-01-13 フォス アナリティカル アグシャセルスガーッブ ミルクを分類するためのミルク分析器

Also Published As

Publication number Publication date
JP2022060172A (ja) 2022-04-14
EP3979131A1 (en) 2022-04-06
CN114298963A (zh) 2022-04-08
US20220107331A1 (en) 2022-04-07

Similar Documents

Publication Publication Date Title
US10692209B2 (en) Image processing apparatus, image processing method, and computer-readable non-transitory recording medium storing image processing program
JP7216069B2 (ja) ディープラーニングボリューム定量化方法および装置
CN108229561B (zh) 一种基于深度学习的颗粒产品缺陷检测方法
EP3259068B1 (en) Detection of barcode tag conditions on sample tubes
US11600058B2 (en) Methods and systems for learning-based image edge enhancement of sample tube top circles
US11798662B2 (en) Methods for identifying biological material by microscopy
KR102122068B1 (ko) 이미지 분석 시스템 및 분석 방법
JP2018512567A5 (ja)
JP7089072B2 (ja) 進歩したセマンティックセグメンテーションおよび敵対的訓練による、きめ細かなhil指標決定のための方法および装置
JP7089071B2 (ja) 単一ディープニューラルネットワークをエンドツーエンド訓練法で使用する検体容器特徴付け
Prasad Machine vision systems and image processing with applications
JP7250090B2 (ja) 試料管を移送するように構成された移送インターフェースの少なくとも1つのキャビティの少なくとも1つの状態を判定する方法
JP7379478B2 (ja) ミルクを分類するためのミルク分析器
JP7203206B2 (ja) 標本分類のための仮説および検証ネットワークおよび方法
JP7177917B2 (ja) 視覚化分析装置および視覚的学習方法
AU2019387079A1 (en) Systems and methods for facilitating clone selection
Pusey et al. Robotic image acquisition
JP7181272B2 (ja) 検査室自動化システムでの使用に対する、試料管の適合性を評価するための方法および装置
Gizaw An automatic water bottle defect detection system using deep learning approach
JP2024519309A (ja) 試料取扱システムを監視するための監視装置
CN116452552A (zh) 基于多任务的病变检测方法、装置及可读存储介质
Toluwanimi Accurate Sickle Cell Detection Using Deep Transfer Learning Based Feature Extraction, Classification, and Retrieval of Blood Smear Images
CN116012793A (zh) 一种基于双流注意力机制的多模态监控视频目标跟踪方法
Brouard et al. Two Approaches for Automatic Nuclei Cell Counting in Low Resolution Fluorescence Images

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210929

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210929

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230228

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230320

R150 Certificate of patent or registration of utility model

Ref document number: 7250090

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150