JP2019531065A - Method, system and computer program product for determining the presence of microorganisms and identifying said microorganisms - Google Patents

Method, system and computer program product for determining the presence of microorganisms and identifying said microorganisms Download PDF

Info

Publication number
JP2019531065A
JP2019531065A JP2019510638A JP2019510638A JP2019531065A JP 2019531065 A JP2019531065 A JP 2019531065A JP 2019510638 A JP2019510638 A JP 2019510638A JP 2019510638 A JP2019510638 A JP 2019510638A JP 2019531065 A JP2019531065 A JP 2019531065A
Authority
JP
Japan
Prior art keywords
image
petri dish
processed
determining
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019510638A
Other languages
Japanese (ja)
Other versions
JP2019531065A5 (en
JP7007367B2 (en
Inventor
ギヨーム スートゥラ,
ギヨーム スートゥラ,
バルラス,フィリピーヌ
フィリピーヌ バルラス,
デルフィーヌ アルシェニー,
デルフィーヌ アルシェニー,
ジェラルディーヌ デュラン,
ジェラルディーヌ デュラン,
コリーヌ フルシロン,
コリーヌ フルシロン,
ゴルセ,ジャン−フランソワ
ジャン−フランソワ ゴルセ,
ギヨーム ペラン,
ギヨーム ペラン,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Biomerieux SA
Original Assignee
Biomerieux SA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from EP16187153.8A external-priority patent/EP3290524A1/en
Application filed by Biomerieux SA filed Critical Biomerieux SA
Publication of JP2019531065A publication Critical patent/JP2019531065A/en
Publication of JP2019531065A5 publication Critical patent/JP2019531065A5/ja
Application granted granted Critical
Publication of JP7007367B2 publication Critical patent/JP7007367B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • C12Q1/04Determining presence or kind of microorganism; Use of selective media for testing antibiotics or bacteriocides; Compositions containing a chemical indicator therefor
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • C12Q1/04Determining presence or kind of microorganism; Use of selective media for testing antibiotics or bacteriocides; Compositions containing a chemical indicator therefor
    • C12Q1/045Culture media therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • G06T5/30Erosion or dilatation, e.g. thinning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/162Segmentation; Edge detection involving graph-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20036Morphological image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Organic Chemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Wood Science & Technology (AREA)
  • Zoology (AREA)
  • Proteomics, Peptides & Aminoacids (AREA)
  • Molecular Biology (AREA)
  • Biochemistry (AREA)
  • Genetics & Genomics (AREA)
  • Analytical Chemistry (AREA)
  • Biotechnology (AREA)
  • Immunology (AREA)
  • Microbiology (AREA)
  • Toxicology (AREA)
  • Biophysics (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Biomedical Technology (AREA)
  • Multimedia (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)

Abstract

微生物の一又は複数のコロニーと培地とを含むペトリ皿中の少なくとも一種の特定された微生物の存在を判定するための方法及びシステム、並びに実行されたときに本発明の方法を実行することを可能にするコンピュータプログラム製品。【選択図】図5Method and system for determining the presence of at least one identified microorganism in a Petri dish comprising one or more colonies of microorganism and medium, and when implemented, the method of the present invention can be performed Computer program product to make. [Selection] Figure 5

Description

本発明は、ペトリ皿中の生物学的サンプルであって微生物を含む生物学的サンプルを分析するための微生物学的分析の分野に関し、より具体的には、ペトリ皿中の細菌などの微生物の存在を判定し、前記微生物を同定するための方法、システム及びコンピュータプログラムに関する。   The present invention relates to the field of microbiological analysis for analyzing a biological sample in a Petri dish and containing microorganisms, and more specifically, the microorganisms such as bacteria in a Petri dish. The present invention relates to a method, a system, and a computer program for determining presence and identifying the microorganism.

微生物学の分野では、特定の細菌の存在を判定し前記細菌を同定するために、例えば微生物、細胞抽出物又は細胞内抽出物を含む生物学的サンプルの増殖について分析が実施されることはよく知られている。而して、対応する疾患を診断することができる。   In the field of microbiology, analysis is often performed on the growth of biological samples containing, for example, microorganisms, cell extracts or intracellular extracts in order to determine the presence of specific bacteria and to identify such bacteria. Are known. Thus, the corresponding disease can be diagnosed.

従来技術には、細菌を同定する幾つかの解決策が存在している。解決策は、記述子と呼ばれる基準を使用する教師あり学習アルゴリズムを含む方法に基づいている。記述子は細菌の色、形態及び構造に関連する。   There are several solutions in the prior art for identifying bacteria. The solution is based on a method that includes a supervised learning algorithm that uses criteria called descriptors. Descriptors relate to bacterial color, morphology and structure.

そのような方法はまた孤立した細菌コロニーの位置を決定するためのステップを伴って作動する。その位置は、半自動化された形でユーザーによって、又は自動化された形で特定のセグメンテーションアルゴリズムを適用することによって、提供されうる。しかし、位置を提供するこれらの方法は双方とも不正確であり、位置の誤った決定につながる幾つかのエラーを発生させる。   Such a method also operates with steps for determining the location of isolated bacterial colonies. The location may be provided by the user in a semi-automated form or by applying a specific segmentation algorithm in an automated fashion. However, both of these methods of providing position are inaccurate and generate several errors that lead to incorrect position determination.

米国特許出願公開第2015/0087017号は、細菌コロニーの自動分類のための方法を開示している。その方法は、ペトリ皿内の細菌コロニーの分類ステップに基づいており、前記分類ステップは、各細菌コロニーの色、形状及び輪郭などの基準に基づいている。   US Patent Application Publication No. 2015/0087017 discloses a method for automatic classification of bacterial colonies. The method is based on a classification step of bacterial colonies in a Petri dish, which is based on criteria such as the color, shape and contour of each bacterial colony.

しかしながら、そのような自動化方法は、ペトリ皿の内容物の分析には適用されない。実際、ペトリ皿中の細菌コロニー周辺の環境もまた前記細菌コロニーに関連する特定の生物学的現象とそれらの培地との相互作用を特定するためには分析されなければならない。そのような生化学的反応は、様々な微生物を識別し、診断仮説を作り又はそれを棄却することを可能にするために生物学者によって使用される。   However, such an automated method is not applicable to the analysis of the contents of a petri dish. In fact, the environment around the bacterial colonies in the Petri dish must also be analyzed to identify the specific biological phenomena associated with the bacterial colonies and their interaction with the medium. Such biochemical reactions are used by biologists to identify various microorganisms and make it possible to make a diagnostic hypothesis or reject it.

例えば、血液寒天培地を含むペトリ皿中の微生物の増殖を分析することに関して、従来技術の方法は、特定の微生物を特徴付けるために寒天培地中の血液細胞が分解されるレベルを決定する溶血現象の性質を特定するためのステップを含む。溶血現象は、寒天の血液細胞を破壊することができるタンパク質を産生する所定の微生物の能力に関連している。溶血現象には、次のようにアルファ、ベータ、ガンマと命名された3タイプがある:
− アルファ溶血現象は、血液寒天上で増殖する細菌コロニーを囲む緑がかった変色を生じさせる。この種の溶血現象は、血液寒天の赤血球のヘモグロビンの部分的分解を表す。
− ベータ溶血現象は、細菌コロニーの近くにある赤血球のヘモグロビンの全分解を表す。
− ガンマ溶血現象は細菌コロニーの周辺領域に如何なる分解もないことに対応する。
For example, with respect to analyzing the growth of microorganisms in a Petri dish containing blood agar, the prior art method is a hemolytic phenomenon that determines the level at which blood cells in the agar are degraded to characterize a particular microorganism. Includes steps to identify properties. Hemolysis is associated with the ability of certain microorganisms to produce proteins that can destroy agar blood cells. There are three types of hemolysis phenomena named alpha, beta and gamma as follows:
-Alpha hemolysis causes a greenish discoloration surrounding bacterial colonies growing on blood agar. This type of hemolysis represents a partial degradation of hemoglobin in red blood cells of blood agar.
-The beta hemolysis phenomenon represents the total degradation of hemoglobin in erythrocytes in the vicinity of bacterial colonies.
-Gamma hemolysis corresponds to the absence of any degradation in the area surrounding the bacterial colonies.

他の状況では、細菌と培地との間の相互作用は、特定の色の出現のようなコロニーを囲む目に見えるアーティファクトを生み出す。これらの色の変化は、培地と細菌によって産生される代謝産物との間の化学反応によるものであり、前記化学反応は微生物自体の性質に応じて正又は負の反応として解釈されうる。今日、溶血現象の性質又はコロニー周辺の色の変化を決定するためにペトリ皿の内容物を見なければならないユーザーによってそのようなステップが提供される。しかしながら、そのようなヒューマン分析は誤りを招く可能性がある。加えて、分析されるべきペトリ皿の数が増加している状況では、前記同定ステップは時間のかかるプロセスである。   In other situations, the interaction between the bacteria and the medium produces visible artifacts surrounding the colony, such as the appearance of a particular color. These color changes are due to a chemical reaction between the culture medium and the metabolites produced by the bacteria, which can be interpreted as a positive or negative reaction depending on the nature of the microorganism itself. Today, such a step is provided by a user who has to look at the contents of a Petri dish to determine the nature of the hemolysis phenomenon or the color change around the colony. However, such human analysis can be error prone. In addition, in situations where the number of petri dishes to be analyzed is increasing, the identification step is a time consuming process.

よって、ペトリ皿中の生物学的エレメントの自動同定を効率的な形で可能にするためには従来技術の方法を改良する必要がある。   Thus, there is a need to improve the prior art methods to enable automatic identification of biological elements in petri dishes in an efficient manner.

本発明の一態様によれば、微生物の一又は複数のコロニーと培地とを含むペトリ皿中の少なくとも一種の特定された微生物(例えば少なくとも一種の特定された細菌)の存在を判定するための方法であって、前記培地が、微生物の一又は複数のコロニーと、存在する場合前記少なくとも一種の特定された微生物とが適切な増殖条件下で増殖するのを可能にするように適応されている方法において、
− ペトリ皿の少なくとも一つの初期画像を取得するステップであって、第一の初期画像が一又は複数の可視画素を含み、各画素が画素値と関連付けられているステップ;
− 少なくとも一つの初期画像に第一の処理を適用することによってペトリ皿の第一の処理済み画像を取得するステップであって、第一の処理済み画像の可視画素が微生物の一又は複数のコロニーに関連する画素のみに関連付けられているステップ;
− 第一の処理済み画像に第二の処理を適用することによってペトリ皿の複数の第二の処理済み画像を得るステップであって、第二の処理済み画像の可視画素が微生物の一又は複数のコロニーと微生物の前記一又は複数のコロニーの周辺の周囲ゾーンとに関連付けられた画素のみに関連しているステップ;
− 少なくとも一つの初期画像と複数の第二の処理済み画像との間の差分を計算することによってペトリ皿の複数の第三の処理済み画像を取得するステップであって、複数の第三の処理済み画像が培地に関連付けられた画素のみに関連する可視画素を含むステップ;
− 複数の第二の処理済み画像と第一の処理済み画像との間の差分を計算することによってペトリ皿の複数の第四の処理済み画像を取得するステップであって、複数の第四の処理済み画像の可視画素が周囲ゾーンに関連付けられた画素のみに関連しているステップ;
− 複数の第三の処理済み画像の平均画素値と複数の第四の処理済み画像の平均画素値との間の差分値を、赤緑青(RGB)色チャネルの少なくとも各色チャネルについて計算することによって、複数の第三及び第四の処理済み画像に関連付けられた特徴量を決定するステップ;
− 決定された特徴量を分類することによって、ペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在の指標の値を決定するステップ;
− 指標の値を閾値と比較するステップ;
− 比較の結果に応じて、ペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在を判定するステップ
を含む、方法が提供される。
According to one aspect of the invention, a method for determining the presence of at least one identified microorganism (eg, at least one identified bacteria) in a Petri dish comprising one or more colonies of microorganism and a culture medium. A method wherein the medium is adapted to allow one or more colonies of the microorganism and, if present, the at least one identified microorganism to grow under suitable growth conditions In
-Obtaining at least one initial image of the Petri dish, wherein the first initial image comprises one or more visible pixels, each pixel being associated with a pixel value;
-Obtaining a first processed image of the Petri dish by applying a first process to at least one initial image, wherein the visible pixels of the first processed image are one or more colonies of microorganisms; Steps associated only with pixels associated with
-Obtaining a plurality of second processed images of the Petri dish by applying a second processing to the first processed image, wherein the visible pixels of the second processed image are one or more of the microorganisms; Relating only to pixels associated with a colony of microorganisms and surrounding zones around said one or more colonies of microorganisms;
-Obtaining a plurality of third processed images of the Petri dish by calculating a difference between at least one initial image and a plurality of second processed images, the plurality of third processing The completed image includes visible pixels associated only with pixels associated with the culture medium;
-Obtaining a plurality of fourth processed images of the Petri dish by calculating a difference between the plurality of second processed images and the first processed image, the plurality of fourth processed images The visible pixels of the processed image are related only to the pixels associated with the surrounding zone;
By calculating a difference value between an average pixel value of a plurality of third processed images and an average pixel value of a plurality of fourth processed images for at least each color channel of a red green blue (RGB) color channel; Determining features associated with the plurality of third and fourth processed images;
-Determining the value of the indicator of the presence of at least one identified microorganism in the surrounding zone in the Petri dish by classifying the determined features;
-Comparing the value of the indicator with a threshold;
-A method is provided comprising determining the presence of at least one identified microorganism in the surrounding zone in the Petri dish, depending on the result of the comparison.

本出願の文脈において、「平均画素値」という用語は、以下を指す:
− 画素値の算術平均、又は
− 画素値の中央値。
In the context of this application, the term “average pixel value” refers to:
-Arithmetic mean of pixel values, or-median of pixel values.

本発明の好ましい実施態様によれば、複数の第三の処理済み画像と第四の処理済み画像に関連付けられた特徴量は、複数の第三の処理済み画像の中央画素値と複数の第四の処理済み画像の中央画素値との間の差分値を赤緑青(RGB)色チャネルの少なくとも各色チャネルに対して計算することによって決定される。   According to a preferred embodiment of the present invention, the feature amounts associated with the plurality of third processed images and the fourth processed image are the central pixel value of the plurality of third processed images and the plurality of fourth processed images. The difference value between the processed image and the central pixel value of the processed image is determined by calculating for at least each color channel of the red green blue (RGB) color channel.

好ましくは、第一の処理はセグメンテーション処理である。   Preferably, the first process is a segmentation process.

本発明に係る方法は、微生物のコロニーの周辺の特定のゾーンの自動同定と、溶血現象又はプロテウス感染などの生物学的現象にそれぞれ関連しているベータ溶血性又はプロテウス菌のような細菌の存在の自動判定に基づくペトリ皿の内容物の自動分析を提供する。よって、本方法は、視覚的同定ステップ及び/又は視覚的判定ステップの動作を回避する。   The method according to the invention comprises the automatic identification of specific zones around microbial colonies and the presence of bacteria, such as beta-hemolytic or proteus, respectively associated with biological phenomena such as hemolysis or Proteus infection Provides automatic analysis of petri dish contents based on automatic determination of Thus, the method avoids the operations of the visual identification step and / or the visual determination step.

本発明に係る方法は、ペトリ皿中の微生物のコロニーの周辺の特定のゾーンを同定するためのステップを含み、前記特定のゾーンは細菌コロニー又はコロニーの細菌クラスターを含みうる。   The method according to the invention comprises a step for identifying a specific zone around a colony of microorganisms in a petri dish, said specific zone comprising a bacterial colony or a bacterial cluster of colonies.

本発明の更なる態様によれば、微生物の一又は複数のコロニーと培地とを含むペトリ皿中の少なくとも一種の特定された微生物(例えば少なくとも一種の特定された細菌)の存在を判定するためのシステムであって、前記培地が、微生物の一又は複数のコロニーと、存在する場合前記少なくとも一種の特定された微生物とが適切な増殖条件下で増殖するのを可能にするように適応されており、ペトリ皿の少なくとも一つの初期画像を取得するための撮像システムと、処理システムとを備えるシステムにおいて、前記処理システムが、
− ペトリ皿の少なくとも一つの初期画像の第一の処理済み画像を取得するための第一の処理ユニットであって、第一の処理済み画像の可視画素が微生物の一又は複数のコロニーに関連付けられた画素のみに関連する第一の処理ユニット;
− ペトリ皿の第一の処理済み画像の複数の第二の処理済み画像を取得するための第二の処理ユニットであって、第二の処理済み画像の可視画素が微生物の一又は複数のコロニーと微生物の前記一又は複数のコロニーの周辺の周囲ゾーンとに関連付けられた画素のみに関連する第二の処理ユニット;
− 第二の初期画像と第二の処理済み画像との間の差分を計算することによってペトリ皿の複数の第三の処理済み画像を取得するためと、第二の処理済み画像と第一の処理済み画像との間の差分を計算することによってペトリ皿の複数の第四の処理済み画像を取得するための計算ユニットであって、第三の処理済み画像が培地に関連付けられた画素のみに関連し、第四の処理済み画像の可視画素が周囲ゾーンに関連付けられた画素のみに関連する計算ユニット;
− 第三の処理済み画像の平均画素値と第四の処理済み画像の平均画素値との間の差分値をRGB色チャネルの少なくとも各色チャネルに対して計算することによって、複数の第三の処理済み画像と第四の処理済み画像に関連付けられた特徴量を決定するための特徴抽出ユニット;
− 及びペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在の指標の値を決定し、指標の値を閾値と比較し;かつ比較の結果に応じて、ペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在を判定するための分析ユニット
を備える、システムが提供される。
According to a further aspect of the invention, for determining the presence of at least one identified microorganism (eg, at least one identified bacteria) in a Petri dish comprising one or more colonies of microorganism and a medium. A system wherein the medium is adapted to allow one or more colonies of the microorganism and, if present, the at least one identified microorganism to grow under suitable growth conditions. , A system comprising an imaging system for acquiring at least one initial image of a Petri dish, and a processing system, wherein the processing system comprises:
-A first processing unit for obtaining a first processed image of at least one initial image of the petri dish, wherein the visible pixels of the first processed image are associated with one or more colonies of the microorganism; A first processing unit relating only to the selected pixel;
-A second processing unit for obtaining a plurality of second processed images of the first processed image of the petri dish, wherein the visible pixels of the second processed image are one or more colonies of the microorganism; And a second processing unit relating only to pixels associated with the surrounding zone around the one or more colonies of microorganisms;
-Obtaining a plurality of third processed images of the Petri dish by calculating a difference between the second initial image and the second processed image; and the second processed image and the first processed image A calculation unit for obtaining a plurality of fourth processed images of a Petri dish by calculating the difference between the processed images, wherein the third processed image is only for the pixels associated with the medium. A computing unit that is associated only with pixels whose visible pixels of the fourth processed image are associated with the surrounding zone;
A plurality of third processes by calculating, for at least each color channel of the RGB color channel, a difference value between the average pixel value of the third processed image and the average pixel value of the fourth processed image; A feature extraction unit for determining a feature quantity associated with the completed image and the fourth processed image;
Determining the value of the indicator of the presence of at least one identified microorganism in the surrounding zone in the Petri dish and comparing the value of the indicator with a threshold; and depending on the result of the comparison, the surrounding zone in the Petri dish A system is provided comprising an analysis unit for determining the presence of at least one identified microorganism within.

先に示されたように、本発明の好ましい実施態様によれば、複数の第三処理済み画像と第四の処理済み画像に関連付けられた特徴量は、複数の第三の処理済み画像の中央画素値と複数の第四の処理済み画像の中央画素値との間の差分値を赤緑青(RGB)色チャネルの少なくとも各色チャネルに対して計算することによって決定される。   As indicated above, according to a preferred embodiment of the present invention, the feature quantities associated with the plurality of third processed images and the fourth processed image are the center of the plurality of third processed images. A difference value between the pixel value and the center pixel value of the plurality of fourth processed images is determined by calculating for at least each color channel of the red green blue (RGB) color channel.

本発明の更なる態様によれば、実行されると、プログラマブルデータ処理装置に本発明に係る方法のステップを実行させる命令を含むコンピュータプログラム製品が提供される。   According to a further aspect of the present invention there is provided a computer program product comprising instructions that, when executed, cause a programmable data processing device to perform the steps of the method according to the present invention.

以下に、例示としての添付図面について言及する。   Reference will now be made to the accompanying drawings as an example.

本発明の一実施態様に係るシステムの模式図を表す。1 represents a schematic diagram of a system according to an embodiment of the present invention. 発明の一実施態様に係る、円形孔、白背景円、及び黒背景円を備えたホイール形態のコントローラを表す。Fig. 3 represents a wheel-form controller with circular holes, white background circles, and black background circles, according to one embodiment of the invention. 本発明の一実施態様に係る、ペトリ皿に照射される異なるタイプの照明ビームを示す撮像システムの模式図である。1 is a schematic diagram of an imaging system showing different types of illumination beams irradiated on a petri dish according to an embodiment of the present invention. FIG. 本発明の一実施態様に係る、細菌の存在を判定するための方法のフローチャートを示す。2 shows a flowchart of a method for determining the presence of bacteria according to one embodiment of the present invention. 本発明の一実施態様に係る、溶血性細菌の存在を判定するための方法のフローチャートを示す。2 shows a flowchart of a method for determining the presence of hemolytic bacteria according to one embodiment of the present invention. 本発明の一実施態様に係る、血液寒天と溶血性細菌を含んでいるペトリ皿の原画像を表し、前記原画像はバックライト照明に関係している。Fig. 4 represents an original image of a Petri dish containing blood agar and hemolytic bacteria according to an embodiment of the invention, said original image being related to backlight illumination. 図7a、7b及び7cは、本発明の一実施態様に係る、中央底部ビューと共に、原画像の赤、緑及び青の色チャネル画像をそれぞれ示す。FIGS. 7a, 7b and 7c show the original red, green and blue color channel images, respectively, with a central bottom view, according to one embodiment of the present invention. 本発明の一実施態様に係る、原画像のGrowthMaskと呼ばれる二値画像を示す。Fig. 3 shows a binary image called GrowthMask of the original image, according to one embodiment of the present invention. 図9aは、本発明の一実施態様に係る、図6の原画像のHaloMaskに関連する画像を示す。図9bは、発明の一実施態様に係る、図6の原画像のCultureMediumMaskを示す。FIG. 9a shows an image associated with the HaloMask of the original image of FIG. 6, according to one embodiment of the present invention. FIG. 9b shows the Culture Medium Mask of the original image of FIG. 6, according to one embodiment of the invention. 図10a及び10bは、本発明の一実施態様に係る、50ピクセルの拡張パラメータを有する200×200ピクセルの画素パッチのためのHaloMask及びCultureMediumMaskをそれぞれ示す。FIGS. 10a and 10b show Halo Mask and Culture Medium Mask, respectively, for a 200 × 200 pixel pixel patch with an extension parameter of 50 pixels, according to one embodiment of the present invention. 図11aは、本発明の一実施態様に係る、10ピクセルの拡張パラメータを有するHaloMaskの画素パッチを示す。図11bは、本発明の一実施態様に係る、10ピクセルの拡張パラメータを有するCultureMediumMaskの画素パッチを示す。FIG. 11a shows a HaloMask pixel patch with an extension parameter of 10 pixels, according to one embodiment of the present invention. FIG. 11b shows a Culture Medium Mask pixel patch with an extension parameter of 10 pixels according to one embodiment of the present invention. 図12aは、本発明の一実施態様に係る、50ピクセルの拡張パラメータを有するHaloMaskの画素パッチを示す。図12bは、本発明の一実施態様に係る、50ピクセルの拡張パラメータを有するCultureMediumMaskの画素パッチを示す。FIG. 12a shows a HaloMask pixel patch with an extension parameter of 50 pixels, according to one embodiment of the present invention. FIG. 12b shows a Culture Medium Mask pixel patch with an extension parameter of 50 pixels, according to one embodiment of the present invention. 図13aは、本発明の一実施態様に係る、60ピクセルの拡張パラメータを有するHaloMaskの画素パッチを示す。図13bは、本発明の一実施態様に係る、60ピクセルの拡張パラメータを有するCultureMediumMaskの画素パッチを示す。FIG. 13a shows a HaloMask pixel patch with an extension parameter of 60 pixels, according to one embodiment of the present invention. FIG. 13b shows a Culture Medium Mask pixel patch with an extension parameter of 60 pixels, according to one embodiment of the present invention. 本発明の一実施態様に係る、ベータ溶血性細菌、アルファ溶血性細菌、及びガンマ溶血性細菌を含むペトリ皿中のパッチレベルでの特徴の分布を示す。FIG. 4 shows the distribution of features at the patch level in a Petri dish containing beta hemolytic bacteria, alpha hemolytic bacteria, and gamma hemolytic bacteria, according to one embodiment of the present invention. 本発明の一実施態様に係る、青色チャネル上のHaloMaskとCultureMediumMaskとの間の色の差分値に関する画素パッチの分布を示すグラフを表す。FIG. 4 represents a graph showing the distribution of pixel patches for color difference values between HaloMask and CultureMediumMask on a blue channel, according to one embodiment of the present invention. 本発明の一実施態様に係る、プロテウス菌の存在を判定するための方法のフローチャートを示す。2 shows a flowchart of a method for determining the presence of Proteus according to one embodiment of the present invention. 図16aは、本発明の一実施態様に係る、CPS培地とプロテウス菌を含むペトリ皿の原画像を示す。図16bは、本発明の一実施態様に係る、図16aの原画像のBinaryGrowthMaskと呼ばれる二値画像を示す。FIG. 16a shows an original image of a Petri dish containing CPS medium and Proteus according to one embodiment of the present invention. FIG. 16b shows a binary image called Binary Growth Mask of the original image of FIG. 16a, according to one embodiment of the present invention. 図17aは、本発明の一実施態様に係る、図16aの原画像の有色のGrowthMaskを示す。図17bは、本発明の一実施態様に係る、図16aの原画像の有色のHaloMaskを示す。図17cは、本発明の一実施態様に係る、図16aの原画像の有色のCutureMediumMaskを示す。FIG. 17a shows a colored GrowthMask of the original image of FIG. 16a, according to one embodiment of the present invention. FIG. 17b shows the colored HaloMask of the original image of FIG. 16a, according to one embodiment of the present invention. FIG. 17c shows the colored CutureMask of the original image of FIG. 16a, according to one embodiment of the present invention. 図18aは、本発明の一実施態様に係る、70ピクセルの拡張パラメータを有する、CPS培地とクラス4の細菌を含むペトリ皿の底部環状ビューと重ね合わせたHaloMaskの輪郭を示す。図18bは、本発明の一実施態様に係る、10ピクセルの拡張パラメータを有する、CPS培地とクラス4の細菌を含むペトリ皿の底部環状ビューと重ね合わせたHaloMaskの輪郭を示す。FIG. 18a shows the profile of HaloMask overlaid with the bottom circular view of a Petri dish containing CPS medium and class 4 bacteria, with an expansion parameter of 70 pixels, according to one embodiment of the present invention. FIG. 18b shows the profile of HaloMask overlaid with the bottom circular view of a Petri dish containing CPS medium and class 4 bacteria, with an expansion parameter of 10 pixels, according to one embodiment of the present invention. 本発明の一実施態様に係る、プロテウス菌の存在確率の分布を表すグラフを示す。The graph showing the distribution of the proteus presence probability according to one embodiment of the present invention is shown. 本発明の一実施態様に係る、プロテウス菌を含む不透明なCPSなどの不透明培地を含むペトリ皿の原画像を示す。FIG. 4 shows an original image of a Petri dish containing an opaque medium, such as an opaque CPS containing Proteus, according to one embodiment of the present invention. 本発明の一実施態様に係る、左側底部環状ビューに関係した図20のペトリ皿の画像を示す。FIG. 21 shows an image of the Petri dish of FIG. 20 related to the left bottom annular view, according to one embodiment of the present invention. 本発明の一実施態様に係る、上部環状ビューに関係した図20のペトリ皿の画像を示す。FIG. 21 shows an image of the Petri dish of FIG. 20 related to the upper annular view, according to one embodiment of the present invention. 本発明の一実施態様に係る、CARTアルゴリズム及びSVMアルゴリズムを用いたプロテウス菌の存在の確率p(Halo/X)の分布と、半透明培地を含むペトリ皿に対するプロテウス菌の存在の最終確率の分布とを示すグラフを表す。Distribution of proteus presence probability p (Halo / X) using CART algorithm and SVM algorithm and distribution of final probability of Proteus presence to Petri dish containing translucent medium according to one embodiment of the present invention The graph which shows is shown. 本発明の一実施態様に係る、CARTアルゴリズム及びSVMアルゴリズムを用いたプロテウス菌の存在の確率p(Halo/X)の分布と、不透明培地を含むペトリ皿に対するプロテウス菌の存在の最終確率の分布とを示すグラフを表す。Distribution of the probability of the presence of Proteus using the CART algorithm and the SVM algorithm, p (Halo / X), and the distribution of the final probability of the presence of Proteus on a Petri dish containing an opaque medium, according to one embodiment of the invention The graph which shows is shown.

以下の説明は、特定の実施例に基づいて、十分に明確かつ完全な形で本発明を開示する。しかしながら、この説明は、保護の範囲を以下に記載される特定の実施態様及び実施例に限定するものとして理解されるべきではない。   The following description discloses the invention in a sufficiently clear and complete manner based on specific embodiments. However, this description should not be construed as limiting the scope of protection to the specific embodiments and examples described below.

以下の説明において、「ペトリ皿」という用語は、ペトリ皿とペトリ皿を覆う蓋とのアセンブリを定義する。ペトリ皿は、ペトリ皿上又は蓋上に示されたセリグラフィを含みうる。   In the following description, the term “Petri dish” defines an assembly of a Petri dish and a lid covering the Petri dish. The Petri dish can include a serigraphy shown on the Petri dish or on the lid.

以下の説明において、「画素」という用語は画像中の位置に関連し、「画素値」という用語は前記画像中の画素の対応するキャプチャ強度の検出値を指す。   In the following description, the term “pixel” relates to a position in the image, and the term “pixel value” refers to a detected value of the corresponding capture intensity of the pixel in the image.

以下の説明において、「暗画素」という用語は、0の画素値を有する画素に関する。   In the following description, the term “dark pixel” relates to a pixel having a pixel value of zero.

以下の説明において、「可視画素」という用語は、明画素としても知られる、0以外の値を有する画素に関する。   In the following description, the term “visible pixel” relates to a pixel having a value other than 0, also known as a bright pixel.

説明された計算オペレーションは、関連画像の画素値に関連付けられたオペレーションに関する。   The described calculation operation relates to an operation associated with the pixel value of the associated image.

以下の説明において、ペトリ皿の表面の表現は、正規直交空間x、y、zにおいて行われ、ここでzは、z=f(x,y)のように、xとyの関数である。   In the following description, the representation of the surface of the Petri dish is performed in orthonormal space x, y, z, where z is a function of x and y, such as z = f (x, y).

以下の説明において、ペトリ皿に関連付けられた画素は、DishMaskと呼ばれる画像中のゾーンを画定する。   In the following description, the pixels associated with the Petri dish define a zone in the image called the DishMask.

以下の説明において、培地に関連付けられた画素は、CultureMediumMaskと呼ばれる画像中の培地ゾーンを画定する。   In the following description, the pixels associated with the media define a media zone in the image called Culture Medium Mask.

同様に、微生物コロニーの周辺に位置する画素は、HaloMaskと呼ばれる画像中の周囲ゾーン又はハローゾーンを画定する。   Similarly, pixels located around the microbial colony define a surrounding or halo zone in the image called HaloMask.

以下の説明において、「原画像」という用語は、画像キャプチャ装置を用いて獲得されているペトリ皿の画像に関する。   In the following description, the term “original image” relates to an image of a Petri dish that has been acquired using an image capture device.

以下の説明において、「初期画像」という用語はペトリ皿の画像に関し、ここで該初期画像は原画像又は画像キャプチャ装置で獲得された後に撮像システム内で処理されている画像に関しうる。   In the following description, the term “initial image” refers to an image of a Petri dish, where the initial image may relate to an original image or an image that has been acquired in an image capture device and then processed in an imaging system.

図1は、本発明に係るシステム100の一例を示す。システム100は、サンプル容器バンク102、自動画線装置104、スマートインキュベータシステム106、処理システム108及び分析ユニット110を備える。   FIG. 1 shows an example of a system 100 according to the present invention. The system 100 includes a sample container bank 102, an automatic line drawing device 104, a smart incubator system 106, a processing system 108 and an analysis unit 110.

サンプル容器バンク102は、その内部で生物学的サンプルを増殖させ、かつ分析することができるサンプル容器を手作業で又は自動的につくる。サンプル容器は典型的にはペトリ皿であるが、他の容器をまた使用してもよい。従って、ここにおけるペトリ皿への言及は、限定的であることを意図していない。   The sample container bank 102 manually or automatically creates a sample container within which a biological sample can be grown and analyzed. The sample container is typically a petri dish, but other containers may also be used. Accordingly, references herein to petri dishes are not intended to be limiting.

サンプル容器バンク102は、適切な培地をペトリ皿に添加し、生物学的サンプルを増殖させることができるようにする。   The sample container bank 102 adds the appropriate medium to the petri dish so that the biological sample can be grown.

自動画線装置104は、生物学的サンプルをペトリ皿に塗布し、ついで既知の方法で生物学的サンプルを分布させる。例えば、ペトリ皿に、ペトリ皿の半径にほぼ等しい長さの櫛を使用して、サンプルが塗布される。櫛を適用しついで回して、生物学的サンプルをペトリ皿の表面全体に広げる。適当な自動画線装置104の一例は、PREVI(登録商標)Isolaの商品名で本願人により市販されている。   The automatic streak device 104 applies the biological sample to a petri dish and then distributes the biological sample in a known manner. For example, a sample is applied to a petri dish using a comb having a length approximately equal to the radius of the petri dish. A comb is applied and then turned to spread the biological sample over the entire surface of the Petri dish. An example of a suitable automatic line drawing device 104 is marketed by the present applicant under the trade name PREVI® Isola.

生物学的サンプルがペトリ皿中の培地にわたり分布させられたところで、ペトリ皿は、オペレータによって手作業で、又はコンベアベルトもしくは他の自動システムによって、次の処理段階まで、つまりスマートインキュベータシステム106まで移送される。   Once the biological sample has been distributed across the medium in the Petri dish, the Petri dish is transferred to the next processing stage, ie, the smart incubator system 106, manually by an operator or by a conveyor belt or other automated system. Is done.

スマートインキュベータシステム106は、インキュベータ112と撮像システム114を備える。ペトリ皿はスマートインキュベータシステム106内に導入され、予め決められた時間の間、予め決められた温度でインキュベートされる。これにより、生物学的サンプルが増殖させられ、ペトリ皿内の培地の表面にわたり多数の微生物コロニーがつくり出される。ペトリ皿が要求された通りにインキュベートされた後、ペトリ皿は撮像システム114に移送される。撮像システム114は、全体としてシステム100内で生成されたコロニー及び培養物の画像を作成するためのシステムである。撮像システムの詳細は以下に更に説明される。   The smart incubator system 106 includes an incubator 112 and an imaging system 114. The petri dish is introduced into the smart incubator system 106 and incubated at a predetermined temperature for a predetermined time. This allows the biological sample to grow and create a large number of microbial colonies across the surface of the medium in the Petri dish. After the petri dish is incubated as required, the petri dish is transferred to the imaging system 114. The imaging system 114 is a system for creating images of colonies and cultures generated in the system 100 as a whole. Details of the imaging system are further described below.

画像は生物学的サンプルの分析の第一段階に使用される。この段階は、生物学的サンプルのコロニー及び他の様相を同定し、全体システム100の更なる動作及び機能を支援し容易にすることができる。   The image is used in the first stage of analysis of the biological sample. This stage can identify colonies and other aspects of the biological sample to support and facilitate further operation and function of the overall system 100.

ペトリ皿の画像が生成された後、ついでペトリ皿は次の処理段階、つまり処理システム108に移送される。これは、コンベアベルトもしくは他の自動システムによって自動的に、又はオペレータによって、実施されうる。   After the image of the Petri dish is generated, the Petri dish is then transferred to the next processing stage, the processing system 108. This can be done automatically by a conveyor belt or other automated system or by an operator.

処理システム108は、必要とされる生物学的サンプル分析に応じて、様々な異なった形式をとりうる。例えば、特定のコロニーが、更なる分析又は処理のために、画像に基づいて抽出されうる。多くの他の処理をこのときにペトリ皿に対して適用することができる。必要な場合、ペトリ皿は、更なる増殖のためにスマートインキュベータシステム106に戻し、及び/又は撮像システム114に戻すことができる。   The processing system 108 can take a variety of different forms depending on the biological sample analysis required. For example, specific colonies can be extracted based on the images for further analysis or processing. Many other treatments can be applied to the Petri dish at this time. If necessary, the Petri dish can be returned to the smart incubator system 106 and / or returned to the imaging system 114 for further growth.

全ての必要な処理と撮像が完了した後、ペトリ皿は分析ユニット110に手動又は自動プロセスによって移送されうる。   After all necessary processing and imaging is complete, the Petri dish can be transferred to the analysis unit 110 manually or by an automated process.

先に述べたように、スマートインキュベータシステム106は撮像システムを備える。撮像システム114はベースユニットを備える。ベースユニットは、赤、緑及び青のバックライト照明を発生させるための光学系及び制御回路を備える。ベースユニットは、図2に示された3つの位置をとるホイール形態のコントローラを備えうる。これらの位置は、「無背景」、「白背景」及び「黒背景」である異なった照明に対応する。「無背景」位置はホイールの円形孔150に関連する。「白背景」位置はホイールの白背景円160に関連する。「黒背景」位置はホイールの黒背景円170に関連する。無背景はバックライトに使用される一方、白と黒は、サンプルの性質に応じて、あらゆる他のタイプの照明に対して使用される。   As previously mentioned, the smart incubator system 106 includes an imaging system. The imaging system 114 includes a base unit. The base unit includes an optical system and a control circuit for generating red, green and blue backlight illumination. The base unit may comprise a wheel-type controller taking the three positions shown in FIG. These positions correspond to different illuminations which are “no background”, “white background” and “black background”. The “no background” position is associated with the circular hole 150 in the wheel. The “white background” position is associated with the white background circle 160 of the wheel. The “black background” position is relative to the black background circle 170 of the wheel. No background is used for the backlight, while white and black are used for any other type of illumination, depending on the nature of the sample.

ベースユニットの上方にサンプル保持ユニットがある。サンプル保持ユニットは、摺動して出し入れできるドローア(引き出し)を備え得、またペトリ皿を支持するよう適応された凹所を備える。加えて、サンプル保持ユニットは、4つの赤、緑及び青の水平照明源を備える。4つの照明源は、サンプル凹所の周りに直線的に位置させられ、独立して制御可能である。使用にあたり、ペトリ皿の頂面が4つの水平照明源の頂部に実質的に整列させられる。水平照明源は、ペトリ皿を水平又はほぼ水平なビームで照射することを可能にする。   There is a sample holding unit above the base unit. The sample holding unit may be provided with a drawer that can be slid in and out and provided with a recess adapted to support the Petri dish. In addition, the sample holding unit comprises four red, green and blue horizontal illumination sources. The four illumination sources are positioned linearly around the sample recess and can be controlled independently. In use, the top surface of the Petri dish is substantially aligned with the tops of the four horizontal illumination sources. A horizontal illumination source allows the Petri dish to be illuminated with a horizontal or near horizontal beam.

サンプル凹所の底部は、バックライト照明が使用中の生物学的サンプルを照射できるように光学的に透過性であることに留意されるべきである。サンプル保持ユニットは、4つの水平照明源を動作させるのに必要とされる光学系及び制御器を更に備える。   It should be noted that the bottom of the sample recess is optically transmissive so that the backlight illumination can illuminate the biological sample in use. The sample holding unit further comprises the optics and controller required to operate the four horizontal illumination sources.

サンプル保持ユニットは、生物学的サンプルがコンベアベルトによって撮像のための位置に移送される別の配向を備えうる。ドローアは、各々がバックライトを使用できるように透明であるサンプル保持ゾーンを有するコンベアベルトシステムにより置き換えることができる。コンベアベルトシステムは生物学的サンプルを適切な位置に移動させることができ、ついで必要な画像を撮ることができる。ついで、コンベアベルトが次の生物学的サンプルを撮像位置に移動させ、第一の生物学的サンプルを次の処理段階に移動させる。これにより、異なった位置で、かつ生物学的サンプルが移動しているときに、画像を撮ることができる。   The sample holding unit may comprise another orientation in which the biological sample is transferred by the conveyor belt to a position for imaging. The drawer can be replaced by a conveyor belt system having a sample holding zone that is transparent so that each can use a backlight. The conveyor belt system can move the biological sample to the appropriate location and then take the necessary images. The conveyor belt then moves the next biological sample to the imaging position and moves the first biological sample to the next processing stage. This allows images to be taken at different locations and when the biological sample is moving.

更なる代案では、撮像システムは、ペトリ皿をサンプルホルダー内に又はコンベアベルト上に載置できるロボットアームを備えうる。加えて、ロボットアームは、撮像前にペトリ皿の蓋を取外し、その後に蓋を再配置することができる。これは、ペトリ皿を逆さにし、蓋を落下させることによって行うことができる。蓋を外すことにより、生物学的サンプルが所定の照明源によって照射されるときに蓋が反射を生じさせないのを確実にする。   In a further alternative, the imaging system can include a robotic arm that can place the Petri dish in the sample holder or on a conveyor belt. In addition, the robotic arm can remove the lid of the Petri dish before imaging, and then reposition the lid. This can be done by inverting the Petri dish and dropping the lid. Removing the lid ensures that the lid does not cause reflections when the biological sample is illuminated by a predetermined illumination source.

撮像ゾーンに対する出し入れに加えて、サンプル保持ユニットは、通常の位置に対して生物学的サンプルの位置を変化させる機構をまた備えていてもよい。例えば、サンプル保持ユニットは、サンプルを特定のビームに対して特定の角度になるように配向させることができるようにしてもよい。他の動き、例えば、生物学的サンプルの回転を適当な機構によって実施することもできる。その結果、生物学的サンプルと照明源の任意の相対移動を、サンプル保持ユニットにおける生物学的サンプル又は照明源の何れかを移動させることによって実現することができる。変形は無限である。   In addition to taking in and out of the imaging zone, the sample holding unit may also include a mechanism for changing the position of the biological sample relative to the normal position. For example, the sample holding unit may allow the sample to be oriented at a specific angle with respect to a specific beam. Other movements, such as rotation of the biological sample, can also be performed by suitable mechanisms. As a result, any relative movement of the biological sample and the illumination source can be achieved by moving either the biological sample or the illumination source in the sample holding unit. The deformation is infinite.

撮像システム114は、サンプル保持ユニットの上方に位置させられる第一の中間ユニットを更に備える。第一の中間ユニットは、直線状に配置された4つの赤、緑、青の照明源を備える。照明源は、使用にあたり、サンプル保持ユニット中のサンプル凹所上に環状照射を生じるように適応され、かつ独立して制御可能である。環状照射は、側方、非側方、又はあらゆる他の適切な配向を含む、任意の適切な方向からサンプルに入射するように調整されうる。   The imaging system 114 further comprises a first intermediate unit positioned above the sample holding unit. The first intermediate unit comprises four red, green and blue illumination sources arranged in a straight line. In use, the illumination source is adapted to produce an annular illumination on the sample recess in the sample holding unit and is independently controllable. The annular illumination can be adjusted to be incident on the sample from any suitable direction, including lateral, non-lateral, or any other suitable orientation.

撮像システム114はまた第二の中間ユニットを備える。第二の中間ユニットは、直線状に配置した4つの赤、緑、青の照明源を備える。照明源は上向きにされ、ユニットの上方から反射して逆環状照射を生じ、これが使用中にサンプル凹所中のサンプルを照射する。各照明源は独立して制御可能である。   The imaging system 114 also includes a second intermediate unit. The second intermediate unit comprises four red, green and blue illumination sources arranged in a straight line. The illumination source is turned up and reflected from above the unit to produce an inverted annular illumination that illuminates the sample in the sample recess during use. Each illumination source can be controlled independently.

撮像システム114のヘッドユニットは第二の中間ユニットの上方に位置させられる。ヘッドユニットは、それぞれ独立して制御可能である白色光照明源を備える。8つの照明源が配置され、使用時に、サンプル凹所上に垂直照明をもたらす。   The head unit of the imaging system 114 is positioned above the second intermediate unit. The head unit includes a white light illumination source that can be independently controlled. Eight illumination sources are arranged to provide vertical illumination on the sample recess in use.

ヘッドユニットは、サンプル凹所に向けられたカメラ等の画像キャプチャ装置254をまた備える。ユニットの何れかの照明源の任意の組合せによる照射をサンプル凹所に向けることができる。画像キャプチャ装置は、ついで、照射されているサンプル凹所中の任意の生物学的サンプルから画像をキャプチャできる。画像の使用と更なる処理は以下に更に詳細に説明される。   The head unit also includes an image capture device 254 such as a camera that is directed to the sample recess. Illumination by any combination of illumination sources of any of the units can be directed to the sample recess. The image capture device can then capture an image from any biological sample in the illuminated sample recess. The use of images and further processing is described in more detail below.

ヘッドユニットは、様々な光源を動作させるために使用される制御パッドをまた備えていてもよい。その機能を制御する各ユニットにおける制御回路及び光学系に加えて、全体制御システムがあってもよい。全体制御システムは、コンピューター、ディスプレイユニット、処理モジュール及び画像増強アルゴリズム、画像処理、及び任意な他のプロセス又は技術を備えうる。   The head unit may also include a control pad that is used to operate various light sources. In addition to the control circuit and optical system in each unit that controls the function, there may be an overall control system. The overall control system may comprise a computer, display unit, processing module and image enhancement algorithm, image processing, and any other process or technology.

全体制御システムは、どの照明源を特定の用途に使用するかを制御するために使用されうる。加えて、全体制御システムは、異なった画像増強技術及び異なった用途に対する画像処理を適用しうる。画像増強技術は、画像の画質を向上させ、又は関連情報を専門家が見られるように可視化する方法及び技術である。以下により詳細に説明するが、例としては、垂直統合又は溶血のための統合のような異なった画像の統合、エッジ照明補正、露光時間補正等がある。画像処理は、決定支援又は自動決定を提供するための画像からの情報の抽出である。これは、必ずしも画像の修正を含むものではなく、より高レベルの情報/解釈を自動的に決定することを含む。以下により詳細に説明するが、例としては、皿の環の検出、マークの検出、増殖(集団、孤立コロニー、スウォーミング)の検出、増殖/非増殖に関する全体的な決定等がある。   The overall control system can be used to control which illumination source is used for a particular application. In addition, the overall control system can apply different image enhancement techniques and image processing for different applications. Image enhancement techniques are methods and techniques that improve the image quality of an image or visualize related information for professional viewing. As will be described in more detail below, examples include integration of different images such as vertical integration or integration for hemolysis, edge illumination correction, exposure time correction, and the like. Image processing is the extraction of information from an image to provide decision support or automatic decision. This does not necessarily include image modifications, but includes automatically determining higher levels of information / interpretation. As described in more detail below, examples include dish ring detection, mark detection, growth (population, isolated colony, swarming) detection, overall determination regarding growth / non-growth, and the like.

全体制御システムを使用して、撮像システムに対する任意の他の機能及び/又は制御動作を実行することができる。これらには、限定されないが、以下のものがある:
− サンプル凹所内へのサンプルの添加及び取出し;
− サンプル凹所内へのサンプル位置決めのチェック及び調整;
− 輝度レベルの制御;
− 赤、緑、青成分バランスの制御;
− 露光時間の制御;
− 照明組合せの制御;
− システムの検査;
− システムの較正;及び
− 使用及び分析目的に基づく任意の他の適切な制御。
The overall control system can be used to perform any other function and / or control action on the imaging system. These include, but are not limited to:
-Addition and removal of samples into sample recesses;
-Checking and adjusting the sample positioning in the sample recess;
-Control of the brightness level;
-Control of the red, green and blue component balance;
-Control of exposure time;
-Control of lighting combinations;
-Inspection of the system;
-Calibration of the system; and-any other appropriate control based on usage and analytical purposes.

撮像システムを形成するユニットの各々は、他のユニットに対して相対移動させることができる。これがなされるとき、生物学的サンプルが全ての照明源によって照射されるのを確実にするために所定の光学的調整が必要な場合がある。   Each of the units forming the imaging system can be moved relative to other units. When this is done, certain optical adjustments may be necessary to ensure that the biological sample is illuminated by all illumination sources.

撮像システム114の作用を、以下に図3を参照してより詳細に説明する。   The operation of the imaging system 114 will be described in more detail below with reference to FIG.

図3は、様々な照明源と、これら照明源が撮像システム114に位置させられた生物学的サンプルにどのように影響を与えるかを示す撮像システム114の概略図である。サンプルは、生物学的サンプルを含むペトリ皿の面と同じ面に位置させられた略水平のビーム302,304によって照射されうる。略水平のビームは、実際には、参照符号302及び304で示されたものに加えて、紙面に対して直交する成分を含む。略水平のビーム302,304は、サンプル保持ユニット中の水平照明源によってつくられる。   FIG. 3 is a schematic diagram of the imaging system 114 showing various illumination sources and how these illumination sources affect the biological sample located in the imaging system 114. The sample can be illuminated by substantially horizontal beams 302, 304 located in the same plane as the plane of the Petri dish containing the biological sample. The substantially horizontal beam actually includes components orthogonal to the plane of the paper in addition to those indicated by reference numerals 302 and 304. The substantially horizontal beams 302, 304 are created by a horizontal illumination source in the sample holding unit.

サンプルはまたベースユニットによってペトリ皿の下で発生されられ、撮像システム114の底部から撮像システム114の頂部に向かって垂直方向に発するバックライトビーム306によっても照射されうる。   Samples can also be generated by a base unit under a Petri dish and illuminated by a backlight beam 306 that emits vertically from the bottom of the imaging system 114 toward the top of the imaging system 114.

環状ビーム又は底部環状ビーム308もまた生物学的サンプル300を照射することができ、ペトリ皿の上方に位置する第一の中間ユニットによってつくられる。底部環状ビーム308は、ペトリ皿に向かって決められた角度で発せられる。ペトリ皿の上方に位置させられた第二の中間ユニットによってつくられる逆環状ビーム又は上部環状ビーム310もまたペトリ皿を照射することができる。逆環状ビーム310は、ペトリ皿から離れる方向に撮像システム114の上部に向かって決められた角度で発せられ、ついでペトリ皿に向かって反射される。   An annular beam or bottom annular beam 308 can also illuminate the biological sample 300 and is created by a first intermediate unit located above the Petri dish. The bottom annular beam 308 is emitted at a fixed angle toward the petri dish. An inverted or upper annular beam 310 created by a second intermediate unit positioned above the Petri dish can also illuminate the Petri dish. The inverted annular beam 310 is emitted at a determined angle toward the top of the imaging system 114 in a direction away from the Petri dish and then reflected toward the Petri dish.

垂直ビーム312もまたペトリ皿を照射することができ、ヘッドユニット中の照明源によって生成される。   A vertical beam 312 can also illuminate the Petri dish and is generated by an illumination source in the head unit.

垂直ビームとバックライト照明は、ペトリ皿中の生物学的サンプルに対して実質的に直交する方向に照射する。従って、これら照明源の各々の光軸は生物学的サンプルに対してまた直交する。略水平の照明、環状照明及び逆環状照明は、ペトリ皿に直交しない。よって、同様に、これらの光源の光軸は生物学的サンプルに非直交である。非直交源は、直交源で達成されるものに対して多様な範囲又は代替的な画像をもたらす。これら非直交源は、それらでつくり出される任意の画像に、付加的で異なった光学的特徴をもたらす。これにより、コロニーのアイソレーションと検出が確実に改善される。   The vertical beam and backlight illumination illuminate in a direction substantially orthogonal to the biological sample in the petri dish. Thus, the optical axis of each of these illumination sources is also orthogonal to the biological sample. The substantially horizontal illumination, the annular illumination and the inverted annular illumination are not orthogonal to the Petri dish. Thus, similarly, the optical axes of these light sources are non-orthogonal to the biological sample. Non-orthogonal sources provide a diverse range or alternative image to that achieved with orthogonal sources. These non-orthogonal sources provide additional and different optical features to any image created with them. This ensures improved colony isolation and detection.

図3に示され、適切なユニットによりつくられる照明源は、任意の好ましいタイプ、例えば、赤、緑及び青(RGB)周波数で動作する発光ダイオード(LED);単純な白色光源;紫外光(UV)源、又は任意な他の適切な放射源でありうる。照明源は、例えば、64個の白色LED、86個の赤色LED、86個の緑色LED及び86個の青色LEDを含む322個のLEDを含みうる。任意の位置における光源の数は、ここに示し記載したものとは変えることができる。RGB照明は、各位置において各それぞれの周波数で動作する3色LEDのトリオにして設けられる。異なった照明源に対しては、RGB LEDの異なる組合せが存在しうる。各タイプの照明は、LEDの特定の配置を有する特定のカードによって提供される。ベースユニットは、それぞれが3個で配置された複数のダイオードを有する2つのカードによってバックライトビーム306を生じさせる。LED404の各トリオは、赤、緑及び青色LEDを含む。全体で45のLEDトリオが各カードに位置させられ、バックライトビーム306を生成するのに使用される。各トリオのうち、赤、緑及び青色LEDを一度に一回点灯し、一つの色の照明を他の色の後につくるようにすることができる。   The illumination source shown in FIG. 3 and produced by a suitable unit can be any preferred type, for example, a light emitting diode (LED) operating at red, green and blue (RGB) frequencies; a simple white light source; ultraviolet light (UV ) Source, or any other suitable radiation source. The illumination source can include, for example, 322 LEDs including 64 white LEDs, 86 red LEDs, 86 green LEDs, and 86 blue LEDs. The number of light sources at any location can vary from that shown and described herein. The RGB illumination is provided as a trio of three-color LEDs that operate at each respective frequency at each position. There can be different combinations of RGB LEDs for different illumination sources. Each type of illumination is provided by a specific card with a specific arrangement of LEDs. The base unit generates the backlight beam 306 by two cards each having a plurality of diodes arranged in three. Each trio of LEDs 404 includes red, green and blue LEDs. A total of 45 LED trios are located on each card and used to generate the backlight beam 306. Within each trio, the red, green and blue LEDs can be lit once at a time so that one color of illumination is created after the other color.

上述した照明の全ての例では、生物学的サンプルの画像は画像キャプチャ装置254によって上方からキャプチャされる。コロニーの増殖及び他の時間に関連する効果を測定するために、画像キャプチャ装置254が、予め決められた時間の期間にわたり一連の画像シーケンスのセットを撮り込んでもよいことに留意されたい。加えて、画像キャプチャ装置254は、コロニーの増殖進行等が測定されている所定の用途ではビデオカメラであってもよい。ペトリ皿の動きはまた適当なコンベアベルト又はロボットアームによって撮像システム114にペトリ皿を出し入れすることによってもたらすこともできる。   In all the illumination examples described above, an image of the biological sample is captured from above by the image capture device 254. Note that in order to measure colony growth and other time-related effects, the image capture device 254 may capture a series of image sequence sets over a predetermined period of time. In addition, the image capture device 254 may be a video camera for certain applications where colony growth progress or the like is being measured. Petri dish movement can also be effected by moving the petri dish in and out of the imaging system 114 by a suitable conveyor belt or robotic arm.

画像キャプチャ装置254は、異なった照明源から異なったタイプの画像を撮るように適応される。典型的には、特定の用途に対して一連の画像が撮られる。このシーケンスは、特定の照明又は照明の組合せでサンプルを照射するステップと、これに続く、関連照明により、例えば単色、白黒、又はRGBのような特定のタイプの画像を撮るステップとを含む。ついで、次の画像が、異なったタイプの照明又はその組合せで撮られ、全ての必要な画像が撮られるまでこのシーケンスが継続する。画像キャプチャ装置254は、適切なタイプの画像を撮るためにシーケンス内で制御される。   Image capture device 254 is adapted to take different types of images from different illumination sources. Typically, a series of images are taken for a particular application. This sequence includes illuminating the sample with a particular illumination or combination of illuminations, followed by taking a particular type of image, such as monochromatic, black and white, or RGB, with associated illumination. The next image is then taken with a different type of illumination or a combination thereof and this sequence continues until all the required images have been taken. The image capture device 254 is controlled in sequence to take the appropriate type of image.

先に述べたように、撮像システム114における生物学的サンプルは、異なった方向からサンプルに当たる複数の異なった光源から照射されうる。生物学的サンプルが照射された後、生物学的サンプルの画像が上方から撮られる。各照射は、生物学的サンプルの異なった様態を強調する。   As mentioned above, the biological sample in the imaging system 114 can be illuminated from a plurality of different light sources that strike the sample from different directions. After the biological sample is irradiated, an image of the biological sample is taken from above. Each irradiation highlights a different aspect of the biological sample.

バックライト照明は、ペトリ皿のベース上の任意のマーキング、ペトリ皿のエッジ及び蓋の形態を含むペトリ皿の詳細;及び生物学的サンプル中のコロニーの配置及び密度の詳細なビューを示す。この照明は、コロニーをアイソレートし、類似のコロニー(例えば、α及びβ溶血性種)間の相違を判定することができる情報を提供し、一般的にサンプルの内容物のビューを与える。   The backlight illumination shows a detailed view of the petri dish details including any markings on the base of the petri dish, the edges and lid shape of the petri dish; and the placement and density of colonies in the biological sample. This illumination provides information that can isolate the colonies and determine the differences between similar colonies (eg, α and β hemolytic species), generally giving a view of the contents of the sample.

略水平の照明は、サンプル及びその内容物によって屈折され反射されて、アーティファクトをアイソレートし、排除するのに使用されうる画像を形成する。加えて、この画像は、以下に更に詳細に説明されるように培地による照射の吸収に基づいて補正を行うために使用することができる。また、画像を後で使用し、コロニーによるペトリ皿のカバー率を決定して、コロニー濃度の推定値を提供し、また不透明でない培地上での増殖又は非増殖を判定することができる。   The substantially horizontal illumination is refracted and reflected by the sample and its contents to form an image that can be used to isolate and eliminate artifacts. In addition, this image can be used to make corrections based on the absorption of irradiation by the medium, as described in more detail below. Images can also be used later to determine the coverage of petri dishes by colonies to provide an estimate of colony concentration and to determine growth or non-growth on non-opaque media.

環状照明は、サンプルに向けられ、培地と形成されている任意のコロニーとによって画像キャプチャ装置254まで反射され又は屈折される。この照明によって生成される画像の目的は、培地とコロニーの色を識別する能力にある。色を識別する能力は、幾らかの微生物が非常に特有の色彩を有しているため、特定の微生物を同定するための重要なツールとなることがよくある。全体の結果は、生物学者が微生物の特定のタイプ、例えば、色、コロニー様態等について見ようと期待するものに最も近いビューである。これは、培地とコロニー周辺の色彩の微かな変化を識別するのに特に重要である。加えて、環状照明により生成される画像は、発色培地中の細菌コロニーの下側と周辺の色の微かな変化を検出することを可能にする。   Annular illumination is directed at the sample and reflected or refracted to the image capture device 254 by the medium and any colonies that are formed. The purpose of the image produced by this illumination is the ability to distinguish between the color of the medium and the colony. The ability to distinguish colors is often an important tool for identifying specific microorganisms because some microorganisms have very unique colors. The overall result is the closest view to what a biologist expects to see for a particular type of microorganism, eg, color, colony appearance, etc. This is particularly important in distinguishing subtle changes in color around the media and colonies. In addition, the image generated by the annular illumination makes it possible to detect subtle changes in the color of the underside and surroundings of the bacterial colonies in the chromogenic medium.

側方環状照明は、4つの直線的に位置させられた照明源のうちの一つのみによる照明である。これにより、輪郭と凹凸を識別するのに使用できる陰影を有する画像が得られる。照明源の各々が、照射方向の結果として異なった陰影効果を生じる。   Side annular illumination is illumination by only one of four linearly positioned illumination sources. This provides an image with a shadow that can be used to identify contours and irregularities. Each of the illumination sources produces a different shadow effect as a result of the direction of illumination.

逆環状照明は、ヘッドユニットからサンプル上へ反射される。ついで、サンプルは照射を画像キャプチャ装置254まで反射させ又は屈折させる。このようにしてキャプチャされた画像は、サンプル中の異なったコロニーのコントラストの詳細を与える。この画像はまた色情報に寄与しうる。加えて、この画像は、テクスチャ情報;コロニーの様態及び色;スウォーミング限界についての情報及びコロニーの凹凸についての所定の情報、例えば、隆起、形態及び形状を提供しうる。   Inverse annular illumination is reflected from the head unit onto the sample. The sample then reflects or refracts the illumination to the image capture device 254. Images captured in this way give contrast details of different colonies in the sample. This image can also contribute to color information. In addition, the image may provide texture information; colony appearance and color; information about the swarming limit and predetermined information about colony irregularities, such as bumps, morphology and shape.

逆環状照明は、階調変化を可視化できる疑似垂直照明をつくり出す。これはテクスチャと粒度情報を与え、また大きな隆起はないが、不規則表面を有するコロニーを検出するのに有用である。一実施態様では、画像の飽和の可能性に対処するために、逆環状照明を使用して多数の異なった画像を撮り、続いて統合させることができる。   Reverse ring illumination creates pseudo vertical illumination that can visualize gradation changes. This gives texture and granularity information and is useful for detecting colonies with irregular surfaces, although there are no large bumps. In one implementation, a number of different images can be taken and subsequently merged using reverse annular illumination to address the possibility of image saturation.

垂直照明源は、生物学的サンプルを上方から照射する。この照射は生物学的サンプル及びコロニーによって反射されて、詳細な輪郭情報を与える画像が得られる。これを使用して、生物学的サンプルの凹凸とコロニーの高さを識別することができる。次に、コロニーの凹凸は非常に特定的であることが多いため、この情報を使用して微生物の特定のタイプを判定することができる。例えば、あるコロニーはドーム形状をしており、他のものはでこぼこで、また他のものは平坦である等々である。   The vertical illumination source illuminates the biological sample from above. This illumination is reflected by biological samples and colonies to obtain an image that gives detailed contour information. This can be used to identify the roughness and colony height of a biological sample. Secondly, the colony irregularities are often very specific, so this information can be used to determine the specific type of microorganism. For example, some colonies have a dome shape, others are bumpy, others are flat, and so on.

上述のように、照明源と方向の各々を使用して、異なった画像特性を強調し、向上させることができる。記載した実施例は、本発明の範囲から逸脱することなく、異なる照明源と方向からの照射を使用することにより、変更させ又は適応させることができる。   As described above, each of the illumination sources and directions can be used to enhance and improve different image characteristics. The described embodiments can be altered or adapted by using illumination from different illumination sources and directions without departing from the scope of the present invention.

更に、例えば赤外線や紫外線のように、照明の異なった波長を異なった用途に使用することができる。   Furthermore, different wavelengths of illumination can be used for different applications, such as infrared and ultraviolet.

撮像システム114は、照明源の組合せから画像をつくり出して、生物学的サンプルの画像の一つより多くの特徴を強調し向上させうる複合画像を作成することができる。   The imaging system 114 can create an image from a combination of illumination sources to create a composite image that can enhance and enhance more than one feature of the biological sample image.

作成される画像に対して効果を有しうる他の要因は、サンプルを増殖させるために使用される培地のタイプである。多くの異なった培地が存在し、これらには、特に尿サンプルを使用して大腸菌、プロテウス属、及びKESCを同定するように適合された培地であるCPS;及び溶血能を識別するのに有用な血液を含む培地であるCOSが含まれる。   Another factor that can have an effect on the image produced is the type of media used to grow the sample. There are many different media, which are particularly useful for identifying hemolysis ability, and CPS, which is a media adapted to identify E. coli, Proteus, and KESC, especially using urine samples; COS, which is a medium containing blood, is included.

異なった培地、例えばCPS及びCOSは、性質と色がかなり異なる。その結果、これら培地に加わる照明は異なるタイプの画像をつくり出しうる。而して、異なった照明源と照明源の組合せを異なる培地に使用することができる。   Different media, such as CPS and COS, are quite different in nature and color. As a result, the illumination applied to these media can produce different types of images. Thus, different illumination sources and combinations of illumination sources can be used for different media.

先に述べたように、システム100は、処理システム108と分析ユニット110を備える。処理システム108は、第一の処理ユニット116、第二の処理ユニット118、計算ユニット120及び特徴抽出ユニット122を備える。   As previously mentioned, the system 100 includes a processing system 108 and an analysis unit 110. The processing system 108 includes a first processing unit 116, a second processing unit 118, a calculation unit 120 and a feature extraction unit 122.

第一の処理ユニット116は、微生物のコロニーに関連付けられたペトリ皿の内容物と培地に関連付けられたペトリ皿の内容物との間の目に見える分離線を示す二値画像を取得するために、バックライト又は底部環状ビューなどのペトリ皿の原画像に適用され、撮像システム114によって提供されるセグメンテーション処理である第一の処理を動作させることができる。よって、第一の処理ユニット116は、微生物のコロニーに関連付けられた画素のみに関連する可視画素を含むGrowthMaskと名付けられた二値画像である第一の処理済み画像を提供する。   The first processing unit 116 obtains a binary image showing a visible separation line between the contents of the Petri dish associated with the microbial colony and the contents of the Petri dish associated with the medium. A first process, which is a segmentation process applied by the imaging system 114, can be activated, applied to the original image of the Petri dish, such as a backlight or bottom annular view. Thus, the first processing unit 116 provides a first processed image that is a binary image named GrowthMask that contains visible pixels that are related only to the pixels associated with the microbial colony.

第一の処理ユニット116は、ペトリ皿のエッジに対するペトリ皿の内容物の位置を見つける周知のエッジ検出処理と、画像ノイズを除去するための周知の処理において2つの原画像を統合させる周知の統合処理とを含む追加の処理をまた動作させることができる。   The first processing unit 116 is a well-known integration that integrates two original images in a well-known edge detection process that finds the position of the contents of the Petri dish relative to the edge of the Petri dish and a well-known process for removing image noise. Additional processing, including processing, can also be run.

第二の処理ユニット118は、Dilated(GrowthMask)と名付けられた第二の処理済み画像を得るためにGrowthMaskに適用されている拡張処理(dilation process) である第二の処理を動作させることができる。Dilated(GrowthMask)は、微生物のコロニーに関連付けられた画素とまた微生物のコロニー周辺の周囲ゾーンに関連付けられた画素のみに関連する可視画素を含む。拡張パラメータは、Dilated(GrowthMask)が周囲ゾーンを包含するように定義される。拡張パラメータは、以下に記載のようにユーザーによって決定される。周囲ゾーンは、同じ画像中の微生物の色と比較したときに別の色を示すゾーンに関連しうる。周囲ゾーンは、微生物の色の変色を示すゾーン、又は同じ画像中の微生物の色と比較したときに新しい色素沈着を示すゾーンにまた関連しうる。   The second processing unit 118 can operate a second process which is a dilation process applied to the GrowthMask to obtain a second processed image named Dilated (GrowthMask). . Dilated (GrowthMask) includes visible pixels that are associated only with pixels associated with microbial colonies and also with pixels associated with surrounding zones around the microbial colonies. Extended parameters are defined such that Dilated (GrowthMask) encompasses the surrounding zone. The expansion parameters are determined by the user as described below. A surrounding zone may be associated with a zone that exhibits a different color when compared to the color of microorganisms in the same image. The surrounding zone can also be associated with a zone that exhibits a discoloration of the microorganism, or a zone that exhibits new pigmentation when compared to the color of the microorganism in the same image.

計算ユニット120は、2つの画像間の差分計算に関する第三の処理を動作させて結果の画像を取得することができる。よって、計算ユニット120は、ペトリ皿の原画像、すなわちDishMaskとGrowthMaskとの間の差分を計算して、CultureMediumMaskと名付けられた第三の処理済み画像を提供することができる。CultureMediumMaskは、培地に関連付けられた画素のみに関連する可視画素を含む。   The calculation unit 120 can acquire the resultant image by operating the third process related to the difference calculation between the two images. Thus, the calculation unit 120 can calculate the original image of the Petri dish, i.e., the difference between the DiscMask and GrowthMask, to provide a third processed image named CultureMediumMask. The CultureMediumMask contains visible pixels that are related only to the pixels associated with the media.

計算ユニット120はまたDilated(GrowthMask)とGrowthMaskとの間の差分計算に関する第四の処理を動作させて、HaloMaskと名付けられた第四の処理済み画像を提供することができる。HaloMaskは周囲ゾーンのみに関連する可視画素を含む。   The calculation unit 120 can also operate a fourth process related to the difference calculation between Dilated (GrowthMask) and GrowthMask to provide a fourth processed image named HaloMask. HaloMask contains visible pixels that are relevant only to the surrounding zone.

特徴抽出ユニット122は、HaloMask及びCultureMediumMaskの特徴量を決定するための特徴抽出処理を動作させることができる。特徴量は、HaloMaskとCultureMediumMaskの画素値に関連する。特徴抽出ユニット122は、少なくとも3つの赤緑青(RGB)色チャネルについて、第三の処理済み画像の平均画素値と第四の処理済み画像の平均画素値との間の差分を計算する。上述のように、「平均画素値」という用語は、画素値の算術平均又は画素値の中央値を指す。
分析ユニット110は、細菌の存在を判定し、前記細菌を同定するために、決定された特徴量に基づいて分析処理を動作させることができる。より具体的には、分析ユニット110は、指標の値を、決定された閾値と該指標の値を比較するために決定する。比較の結果に応じて、分析ユニット110はペトリ皿内の細菌の存在又は細菌の非存在の何れかを判定する。
The feature extraction unit 122 can operate a feature extraction process for determining the feature quantities of the Halo Mask and the Culture Medium Mask. The feature amount is related to the pixel values of HaloMask and CultureMediumMask. The feature extraction unit 122 calculates the difference between the average pixel value of the third processed image and the average pixel value of the fourth processed image for at least three red green blue (RGB) color channels. As described above, the term “average pixel value” refers to the arithmetic average of pixel values or the median value of pixel values.
The analysis unit 110 can operate the analysis process based on the determined feature amount in order to determine the presence of the bacteria and identify the bacteria. More specifically, the analysis unit 110 determines the value of the indicator in order to compare the value of the indicator with the determined threshold value. Depending on the result of the comparison, analysis unit 110 determines either the presence or absence of bacteria in the Petri dish.

本発明によれば、図4に示されるように、本方法は、特定の照明条件に従って、撮像システム114を用いてペトリ皿の原画像を取得するためのステップ400を含む。確かに、照明条件は、同定される細菌の種類によって変わりうる。原画像は、例えば、ペトリ皿のエッジを検出するために処理されてもよい。   According to the present invention, as shown in FIG. 4, the method includes a step 400 for acquiring an original image of a Petri dish using the imaging system 114 according to specific lighting conditions. Certainly, lighting conditions can vary depending on the type of bacteria identified. The original image may be processed, for example, to detect the edges of the Petri dish.

次に、本方法は、セグメンテーション処理である第一の処理を原画像に適用することによってGrowthMaskと名付けられた第一の画像を取得する、第一の処理済み画像を取得するためのステップ402を含む。ついで、本方法は、拡張処理である第二の処理を第一の処理済み画像に適用してDilated(GrowthMask)と名付けられた第二の画像を取得する、第二の処理済み画像を取得するためのステップ404を含む。本方法は、第三の処理を適用してCultureMediumMaskと名付けられた第三の画像を取得する、第三の処理済み画像を取得するための更なるステップ406を含む。本方法は第四の処理を適用してHaloMaskと名付けられた第四の画像を取得する、第四の処理済み画像を取得するためのステップ408をまた含む。本方法は、第三の処理済み画像と第四の処理済み画像に関連付けられた特徴量を決定して、第三の処理済み画像と第四の処理済み画像との間の色差分を決定するためのステップ410を更に含む。本方法は、特徴量を分類することによって指標の値を決定するためのステップ412をまた含む。ついで、ステップ414において、指標の値が閾値と比較される。本方法は、細菌の存在を判定し、かつペトリ皿中の前記細菌を特定された細菌であると同定する最終ステップ416を含む。   Next, the method obtains a first image named GrowthMask by applying a first process, which is a segmentation process, to the original image, step 402 for obtaining a first processed image. Including. The method then applies a second process, which is an extension process, to the first processed image to obtain a second image named Dilated (GrowthMask), thereby obtaining a second processed image. Step 404 is included. The method includes a further step 406 for obtaining a third processed image, applying a third process to obtain a third image named CultureMediumMask. The method also includes a step 408 for obtaining a fourth processed image, applying a fourth process to obtain a fourth image named HaloMask. The method determines a feature amount associated with the third processed image and the fourth processed image to determine a color difference between the third processed image and the fourth processed image. Step 410 is further included. The method also includes a step 412 for determining the value of the indicator by classifying the feature quantities. Next, in step 414, the value of the index is compared with a threshold value. The method includes a final step 416 that determines the presence of bacteria and identifies the bacteria in the petri dish as identified bacteria.

本発明の第一の実施態様では、本方法は溶血現象を識別するためのベータ溶血性細菌の存在の判定に関する。第一の実施態様の方法は、図5に示される以下のステップを含む。   In a first embodiment of the invention, the method relates to determining the presence of beta hemolytic bacteria to identify hemolysis events. The method of the first embodiment includes the following steps shown in FIG.

第一の実施態様では、HaloMaskは、溶血現象の特徴である微生物コロニーの周辺の変色又は退色ゾーンを示すハローゾーンに関する。変色ゾーンは、同じ画像中の微生物の色から生じる。培地は血液寒天である。   In a first embodiment, HaloMask relates to a halo zone that shows a discoloration or fading zone around a microbial colony that is characteristic of hemolysis. The discoloration zone results from the color of the microorganism in the same image. The medium is blood agar.

第一の実施態様では、本方法は、図7a、7b、及び7cに示される画像の統合からなる初期画像を取得するためのステップ500を含む。初期画像は、撮像システム114を用いてRGB色チャネルに対して中央底部環状ビューを使用することによって取得される。実際、溶血現象は、このビューで撮影された画像、特に緑色及び青色チャネルで、あまり目立たない。図7aは、赤色チャネルに対する原画像を示す。図7bは緑色チャンネルに対する原画像を示し、図7cは青色チャンネルに対する原画像を示す。   In a first embodiment, the method includes a step 500 for obtaining an initial image consisting of the integration of the images shown in FIGS. 7a, 7b and 7c. The initial image is acquired by using the center bottom annular view for the RGB color channel using the imaging system 114. In fact, hemolysis is less noticeable in images taken in this view, especially in the green and blue channels. FIG. 7a shows the original image for the red channel. FIG. 7b shows the original image for the green channel and FIG. 7c shows the original image for the blue channel.

ついで、本方法は、周知のエッジ検出法を用いてペトリ皿のエッジを決定するためのステップ502と、周知のガウスフィルタを用いて画像ノイズを除去するためのステップとを含み、ここでσ=1及びk=5×5である。   The method then includes a step 502 for determining the edge of the Petri dish using a known edge detection method and a step for removing image noise using a known Gaussian filter, where σ = 1 and k = 5 × 5.

ついで、本方法は、各色チャネルを分離するためのステップ504と、双方の画像に対して平均画素値を持つ緑色チャネルからの画像と青色チャネルからの画像を統合して平均画像を提供するためのステップ506とを含む。確かに、赤色チャンネルから画像を除去すると、ハローゾーンを微生物コロニーと見なすことが回避される。   The method then includes step 504 for separating each color channel and integrating the image from the green channel and the image from the blue channel that have average pixel values for both images to provide an average image. Step 506 is included. Indeed, removing the image from the red channel avoids considering the halo zone as a microbial colony.

本方法は、以下のステップを含むセグメンテーション処理を更に含む。セグメンテーション処理は、緑色チャネル画像と青色チャネル画像の統合画像に基づいて、周知の大津法に従ってステップ508において閾値を決定することを含む。確かに、大津法は、決定された画像上の位置(x,y)における画素値の平均値を比較するthreshold(Otsu)と呼ばれる閾値を提供する。より具体的には、大津法は、明画素値が第一のクラスに関連し、暗画素値が第二のクラスに関連する、クラス内分散及びクラス間分散に関連する比率を最小にする閾値を提供する。本願の状況では、明画素が微生物コロニーに関連し、暗画素が培地に関連する。   The method further includes a segmentation process including the following steps. The segmentation process includes determining a threshold at step 508 according to the well-known Otsu method based on the integrated image of the green channel image and the blue channel image. Indeed, the Otsu method provides a threshold called threshold (Otsu) that compares the average value of the pixel values at the determined position (x, y) on the image. More specifically, the Otsu method is a threshold that minimizes the ratios associated with intra-class variance and inter-class variance, where bright pixel values are associated with the first class and dark pixel values are associated with the second class. I will provide a. In the present situation, bright pixels are associated with microbial colonies and dark pixels are associated with the culture medium.

ついで、本方法は、次のセグメンテーション式(1)を適用することによって中央底部環状画像をセグメント化するためのステップ510を含む:
ここで、
は緑色及び青色チャネルに対する同じ画像上の位置(x,y)にある同じ画素の平均値である。
The method then includes a step 510 for segmenting the central bottom annular image by applying the following segmentation equation (1):
here,
Is the average value of the same pixel at position (x, y) on the same image for the green and blue channels.

大津法の適用は二値画像を提供する。   Application of Otsu method provides binary images.

本方法は、図8に示されるGrowthMaskと呼ばれる二値画像を得るために二値画像に対して周知のクロージング演算子に基づくモルフォロジー演算を適用するための任意的なステップ512をまた含む。   The method also includes an optional step 512 for applying a morphological operation based on a well-known closing operator to the binary image to obtain a binary image called GrowthMask shown in FIG.

ついで、第一の実施態様に係る方法は、撮像システム114でバックライトビューを使用することによって、図6に示された第二の原画像を取得するための別のステップ514を含む。確かに、溶血現象は、このビューで撮影された画像においてより明確であり、培地に関連するゾーンは赤であり、変色ゾーンは、白色もしくは黄色、又は黄色と白色からなる複合色で透明であり、微生物に関連するゾーンは黒色など暗い。   The method according to the first embodiment then includes another step 514 for obtaining the second original image shown in FIG. 6 by using the backlight view in the imaging system 114. Indeed, the hemolysis phenomenon is more pronounced in the images taken in this view, the zone associated with the medium is red and the discoloration zone is transparent in white or yellow, or a composite color consisting of yellow and white The zone related to microorganisms is dark, such as black.

本方法は、GrowthMaskに周知の拡張演算を適用するためのステップ516を含み、前記拡張演算は、ディスク状部材などの構造化部材に基づいている。拡張演算は、Dilated(GrowthMask)と呼ばれるGrowthMaskの対応する拡張画像を取得するために、matlab関数imdilateなどの周知の関数と、特定の拡張パラメータdを用いて演算される。   The method includes a step 516 for applying a well-known expansion operation to GrowthMask, the expansion operation being based on a structured member such as a disk-shaped member. The extended calculation is performed using a known function such as a matlab function immediate and a specific extended parameter d in order to obtain an extended image corresponding to GrowthMask called Dilated (GrowthMask).

図9aに示されるHaloMaskと図9bに示されるCultureMediumMaskは、以下に示されるようにDilated(GrowthMask)から推定できる。
ここで、GrowthMaskに示された微生物のコロニーがDilated(GrowthMask)から除去されてHaloMaskが得られる。
ここで、微生物のコロニー及び溶血現象に関連するハローゾーンがDishMaskから除去されてCultureMediumMaskが得られる。
The Halo Mask shown in FIG. 9a and the Culture Medium Mask shown in FIG. 9b can be estimated from Dilated (Growth Mask) as shown below.
Here, the colony of the microorganism indicated by GrowthMask is removed from Dilated (GrowthMask) to obtain HaloMask.
Here, microbial colonies and halo zones associated with hemolysis are removed from the dish mask to yield the Culture Medium Mask.

HaloMaskは微生物コロニーの周辺の色を示す。
CultureMediumMaskは、培地の元の色、つまり微生物の増殖による影響を受けていない色を示す。
HaloMask indicates the color around the microbial colony.
CultureMediumMask shows the original color of the medium, that is, the color that is not affected by the growth of microorganisms.

次のステップ518において、HaloMaskとCultureMediumMaskがそれぞれ画素パッチに分割される。図10aはHaloMaskの画素パッチを示し、図10bはCultureMediumMaskの画素パッチを示す。図10a及び図10bにおいて、各画素パッチは200×200ピクセルを含み、拡張のサイズは50ピクセルである。画素パッチのサイズは、関連する中央値を検出するように適応される。   In the next step 518, the HaloMask and the CultureMediumMask are each divided into pixel patches. 10a shows a HaloMask pixel patch, and FIG. 10b shows a CultureMediumMask pixel patch. In FIGS. 10a and 10b, each pixel patch includes 200 × 200 pixels and the size of the extension is 50 pixels. The size of the pixel patch is adapted to detect the associated median.

HaloMaskとCultureMediumMaskの分割は、HaloMaskのための2つの隣接する画素パッチとCultureMediumMaskのための2つの隣接する画素パッチの間で50%のオーバーラップ率で処理される。よって、ハロー画素と培地画素の両方を含む画素パッチの数が最適化される。   The division of HaloMask and CultureMediumMask is processed with a 50% overlap ratio between two adjacent pixel patches for HaloMask and two adjacent pixel patches for CultureMediumMask. Therefore, the number of pixel patches including both halo pixels and medium pixels is optimized.

加えて、HaloMaskに関連した画素パッチに対して基準が設定される。ハローゾーンが100未満のピクセルを含む領域を含む画素パッチは、本方法の次のステップには考慮されない。   In addition, a reference is set for the pixel patch associated with HaloMask. Pixel patches that contain regions where the halo zone contains less than 100 pixels are not considered in the next step of the method.

更なるステップ520において、HaloMask及びCultureMediumMaskの中央画素値が、各画素パッチに対して、RGB色空間の各チャネルに対して、またグレースケール表示に対して演算される。   In a further step 520, the HaloMask and CultureMediumMask center pixel values are computed for each pixel patch, for each channel in the RGB color space, and for the grayscale display.

HaloMask及びCultureMediumMaskについての統計的中央画素値の差分の計算は、拡張パラメータdの増加する値に基づいて数回処理される。   The calculation of the difference between the statistical center pixel values for HaloMask and CultureMediumMask is processed several times based on the increasing value of the expansion parameter d.

次のステップのために選択されるべき拡張パラメータdの決定は、次にステップ522において処理される。   The determination of the expansion parameter d to be selected for the next step is then processed in step 522.

拡張パラメータdの決定は、HaloMaskの画素値とCultureMediumMaskの画素値との間の差分値を最大にする拡張パラメータdの値を決定する次の式に基づく。以下の拡張式(2)が、各RGB色チャネル及びグレースケール表示に対して適用される:
拡張パラメータの増加する値は、10ピクセルから60ピクセルまでの間隔において、dの2つの連続する値に対して10ピクセルの幅で、選択される。
The determination of the extension parameter d is based on the following formula that determines the value of the extension parameter d that maximizes the difference value between the pixel value of HaloMask and the pixel value of CultureMediumMask. The following extension equation (2) applies to each RGB color channel and grayscale display:
The increasing value of the extension parameter is selected with a width of 10 pixels for two consecutive values of d in the interval from 10 to 60 pixels.

ステップ522は、Dilated(GrowthMask)と呼ばれる複数の二値画像、従って複数のHaloMaskとCultureMediumMaskを提供する。   Step 522 provides a plurality of binary images called Dilated (GrowthMask), and thus a plurality of HaloMasks and CultureMediumMasks.

図11a、12a及び13aは、それぞれ、異なる値の拡張パラメータdを有するHaloMaskの一例を示すもので、図11aではd=10ピクセル、図12aではd=50ピクセル、そして図13aではd=60ピクセルである。   FIGS. 11a, 12a and 13a each show an example of a HaloMask with different values of the expansion parameter d, d = 10 pixels in FIG. 11a, d = 50 pixels in FIG. 12a, and d = 60 pixels in FIG. 13a. It is.

図11b、12b及び13bは、それぞれ、異なる値の拡張パラメータdを有するCultureMediumMaskの一例を示すもので、図11bではd=10ピクセル、図12bではd=50ピクセル、そして図13bではd=60ピクセルである。
本願の状況では、決定された拡張パラメータはd=50ピクセルである。
FIGS. 11b, 12b and 13b each show an example of a Culture Medium Mask with different values of the expansion parameter d, d = 10 pixels in FIG. 11b, d = 50 pixels in FIG. 12b, and d = 60 pixels in FIG. 13b. It is.
In the present situation, the determined expansion parameter is d = 50 pixels.

決定された拡張パラメータに基づいて、HaloMaskとCultureMediumMaskとの間の同じチャネルに対する中央画素値の差分が、RGB色チャネルに対する中央値とグレースケール表示の中央値との間の4つの差分値を提供する次の特徴式(3)を適用することによってステップ524において演算される:
Based on the determined extension parameters, the difference in median pixel values for the same channel between HaloMask and CultureMediumMask provides four difference values between the median for the RGB color channel and the median of the grayscale display. It is computed in step 524 by applying the following feature (3):

更なるステップ526において、分析ユニット110は、以下の期待値式(4)を用いて計算される閾値を設定する決定された規則に従って特徴パッチ値を分類するためのステップを動作させる:
ここで、Featuresパッチは、青チャネル上のHaloMaskとCultureMediumMaskとの間の中央画素値の差分値である。
In a further step 526, the analysis unit 110 operates the step for classifying the feature patch values according to the determined rule that sets the threshold calculated using the following expected value equation (4):
Here, the Feature patch is a difference value of the central pixel value between the Halo Mask and the Culture Medium Mask on the blue channel.

図14aは、ベータ溶血性細菌、アルファ溶血性細菌及びガンマ溶血性細菌にそれぞれ関連するペトリ皿の画像を、青チャネル上のパッチレベルでの特徴量の表示と共に示す。   FIG. 14a shows images of Petri dishes associated with beta hemolytic bacteria, alpha hemolytic bacteria and gamma hemolytic bacteria, respectively, with a display of features at the patch level on the blue channel.

期待値式に関連する値のセットは、Beta溶血パッチとNoBeta溶血パッチの分布を表し、ここで、Beta溶血パッチは溶血現象を表すハローゾーンを含み、NoBeta溶血パッチは溶血現象を表すハローゾーンを含まない。   The set of values associated with the expected value expression represents the distribution of Beta hemolysis patches and NoBeta hemolysis patches, where the Beta hemolysis patch includes a halo zone representing a hemolysis phenomenon, and the NoBeta hemolysis patch includes a halo zone representing a hemolysis phenomenon. Not included.

ステップ528において、NoBeta溶血パッチの分布が、図14bに示されるように、平均値μ及び標準偏差σに基づくガウス分布と比較される。   In step 528, the distribution of NoBeta hemolytic patches is compared to a Gaussian distribution based on mean value μ and standard deviation σ, as shown in FIG. 14b.

図14b
に示され、以下の3σ規則(5)に基づく閾値は、以下に示されるように正規分布を決定するように設定される:
これは、閾値がμ+3σに等しいことを意味する。
FIG.
The threshold based on the following 3σ rule (5) is set to determine the normal distribution as shown below:
This means that the threshold is equal to μ + 3σ.

ステップ530において、分析ユニット110は、ベータ溶血性細菌の存在又は非存在を判定する。Featuresパッチ値が高い正の値の場合、これらの値はベータ溶血性細菌の存在を示している。   In step 530, analysis unit 110 determines the presence or absence of beta hemolytic bacteria. If the Feature patches values are high positive values, these values indicate the presence of beta hemolytic bacteria.

Featuresパッチ値が負であるか又は0に近い場合、これらの値は、アルファ溶血性又はガンマ溶血性細菌の存在など、他の現象を示している。   If the Feature patch values are negative or close to 0, these values indicate other phenomena such as the presence of alpha hemolytic or gamma hemolytic bacteria.

更なる特定の実施態様では、画素パッチの使用は、局所的に、すなわちペトリ皿の画像の特定のゾーンにおける、溶血現象の存在を判定するための方法を提供する。   In a further particular embodiment, the use of pixel patches provides a method for determining the presence of hemolysis locally, ie in a particular zone of the Petri dish image.

プロテウス菌の存在の判定に関する本発明の第二の実施態様によれば、本方法は図15に示される以下のステップを含む。   According to a second embodiment of the invention relating to the determination of the presence of Proteus, the method comprises the following steps shown in FIG.

第二の実施態様では、HaloMaskは、微生物コロニーの周辺の色素沈着ゾーンを示すハローゾーンに関し、色素沈着ゾーンの色は、同じ画像中の微生物の存在によって引き起こされる。培地は、CPSなどの発色培地に関連する。   In a second embodiment, HaloMask relates to a halo zone that shows a pigmentation zone around the microbial colony, where the color of the pigmentation zone is caused by the presence of microorganisms in the same image. The medium is associated with a chromogenic medium such as CPS.

第二の実施態様では、本方法は、バックライト無背景ビューと中央底部環状の黒背景ビューを使用することによってペトリ皿の2つの元のビューを取得するためのステップ1500を含む。中央底部環状の黒背景ビュー画像は、4つの底部環状側方ビュー画像の中央値画像である。   In a second embodiment, the method includes a step 1500 for obtaining two original views of the Petri dish by using a backlit no background view and a central bottom annular black background view. The center bottom annular black background view image is the median image of the four bottom annular side view images.

図16aは、バックライト無背景ビューを使用することによってペトリ皿の原画像を示している。実際には、図16aは、微生物コロニーの存在に関連する暗いゾーンを示し、色素沈着ゾーンは、暗いゾーン周辺の褐色を有するゾーンに関連する。   FIG. 16a shows the original image of a Petri dish by using a backlit backgroundless view. In practice, FIG. 16a shows a dark zone associated with the presence of microbial colonies, and the pigmentation zone is associated with a zone having a brown color around the dark zone.

ついで、本方法は、ペトリ皿のエッジを周知のエッジ検出法で決定するためのステップを含む。   The method then includes a step for determining the edge of the Petri dish with a well-known edge detection method.

本方法は、書誌参照[1]に開示されている特定のグラフベースの領域セグメンテーション処理を適用するためのステップ1502を更に含む。   The method further includes a step 1502 for applying the specific graph-based region segmentation process disclosed in bibliographic reference [1].

グラフベースの領域セグメンテーション処理は、培地ゾーンに関連する背景と呼ばれる第一の領域と、ペトリ皿の残りの部分に関連する前景と呼ばれる第二の領域とを含み、またセリグラフィに関連するセリグラフィゾーンを含む画像を提供する。   The graph-based region segmentation process includes a first region called the background associated with the media zone and a second region called the foreground associated with the rest of the petri dish and also associated with the serigraphy. Provide an image containing the zone.

そのようなセグメンテーション処理は、同じマスク内、すなわち同じ前景領域内で、微生物コロニーのクラスターと微生物の孤立したコロニーの両方をセグメント化する。加えて、グラフベースの領域セグメンテーションは、プロテウスハローの存在を伴う本願の状況におけるように、培地ゾーンの僅かな色の変化に適応される。   Such a segmentation process segments both clusters of microbial colonies and isolated colonies of microorganisms within the same mask, ie, the same foreground region. In addition, graph-based region segmentation is adapted to slight color changes in the media zone, as in the present situation with the presence of Proteus halo.

セグメンテーション処理は、周知の検出アルゴリズムを用いてセリグラフィゾーンを検出するためのステップをまた含む。   The segmentation process also includes steps for detecting the serigraphy zone using well-known detection algorithms.

ついで、セグメンテーション処理は、図16bに示されるように、GrowthMaskと呼ばれる二値画像を提供する。   The segmentation process then provides a binary image called GrowthMask, as shown in FIG. 16b.

本方法は、GrowthMaskに拡張演算を適用するための更なるステップ1504を含み、前記拡張演算は、ディスク形の部材などの構造化部材に基づいている。拡張演算は、Dilated(GrowthMask)をつくり出すためにmatlab関数imdilateのような周知の関数によって演算される。   The method includes a further step 1504 for applying an expansion operation to GrowthMask, the expansion operation being based on a structured member, such as a disk-shaped member. The extended operation is calculated by a well-known function such as a matlab function immediate to create a Dilated (GrowthMask).

HaloMaskは、微生物コロニー周辺の色素沈着ゾーンを含みうるゾーンに関連し、前記色素沈着ゾーンがプロテウス菌の存在を表している。CultureMediumMaskは、培地の元の色、つまり色素沈着ゾーンの影響を受けていない色を示す。   HaloMask relates to a zone that may contain a pigmentation zone around a microbial colony, said pigmentation zone representing the presence of Proteus. CultureMediumMask shows the original color of the medium, that is, the color that is not affected by the pigmentation zone.

図17bに示されるHaloMaskと図17cに示されるCultureMediumMaskは、以下の式(6)及び(7)に示されるように、図16aに示される原画像に関連するDilated(GrowthMask)及びDishMaskから推定することができる:
The HaloMask shown in FIG. 17b and the CultureMediumMask shown in FIG. 17c are estimated from Dilated (GrowthMask) and DishMask associated with the original image shown in FIG. 16a, as shown in Equations (6) and (7) below. be able to:

拡張演算は、拡張パラメータdの増加する値に基づいて数回適用される。拡張パラメータdの増加する値は、10ピクセルから70ピクセルまでの間隔において、dの2つの連続値に対して10ピクセルの幅で、選択される。ステップ1504は、Dilated(GrowthMask)と呼ばれる複数の画像を提供する。   The extension operation is applied several times based on the increasing value of the extension parameter d. The increasing value of the expansion parameter d is selected with a width of 10 pixels for two consecutive values of d in the interval from 10 pixels to 70 pixels. Step 1504 provides a plurality of images called Dilated (GrowthMask).

図18aは、拡張パラメータd=70ピクセルのHaloMaskの例を示している。
図18bは、拡張パラメータd=10ピクセルのHaloMaskの例を示している。
FIG. 18a shows an example of a HaloMask with an extended parameter d = 70 pixels.
FIG. 18b shows an example of a HaloMask with the extended parameter d = 10 pixels.

次のステップにおいて、特徴抽出ユニット120が、HaloMask及びCultureMediumMaskの特徴を決定する。従って、特徴抽出ユニット120は色特徴を抽出する。   In the next step, feature extraction unit 120 determines the features of HaloMask and CultureMediumMask. Therefore, the feature extraction unit 120 extracts color features.

本方法は、RGB色空間及びHSV(色相、彩度、明度)空間についての画素値の統計的中央値を演算するためのステップ(図示せず)を含む。HSV空間では、0と1が同じ色相値に対応する色相スケールの不連続性を回避するために、値Hがベクトル(cosH,sinH)で置き換えられる。よって、HSV空間は4つのチャネルを含む。   The method includes a step (not shown) for computing a statistical median of pixel values for RGB color space and HSV (Hue, Saturation, Lightness) space. In the HSV space, the value H is replaced with a vector (cosH, sinH) to avoid a discontinuity in the hue scale where 0 and 1 correspond to the same hue value. Thus, the HSV space includes four channels.

統計的中央値を演算するために、2つの異なる画像が選択される。第一の画像はバックライト無背景ビューに関連し、第二の画像は中央底部環状の黒背景ビューに関連する。中央底部環状の黒背景ビュー画像は、4つの底部側方ビュー画像の中央値画像である。   Two different images are selected to calculate the statistical median. The first image is associated with a backlit no background view and the second image is associated with a central bottom annular black background view. The central bottom annular black background view image is the median image of the four bottom side view images.

本方法は、各RGB色チャネル及びHSV空間の各チャネルについて、次の特徴式(8)を演算するためのステップ1506を含む:
The method includes a step 1506 for computing the following feature (8) for each RGB color channel and each channel in the HSV space:

RGB色空間では、2つの異なる画像に7つの拡張演算が適用される3つのRGB色チャネルがある。従って、上記の式を適用する場合、抽出される合計42の特徴がある。   In the RGB color space, there are three RGB color channels where seven extended operations are applied to two different images. Therefore, when applying the above formula, there are a total of 42 features to be extracted.

HSV空間では、7つの拡張演算が2つの異なる画像に適用される4つのチャネルがある。従って、上記の式を適用する場合、抽出される合計56の特徴がある。   In HSV space, there are four channels where seven extension operations are applied to two different images. Therefore, when applying the above formula, there are a total of 56 features to be extracted.

ついで、抽出された特徴の全体の合計は98である。   The total sum of the extracted features is 98.

ついで、分析ユニット120が、従来技術において周知の教師あり学習プロセスに使用される2つの分類アルゴリズムに基づいて分類ステップ1508及び1510を適用することによって動作する。   The analysis unit 120 then operates by applying classification steps 1508 and 1510 based on two classification algorithms used in the supervised learning process well known in the prior art.

第一の分類アルゴリズムは、分類及び回帰ツリー(CART)アルゴリズムに関連する。例えば、matlabクラス「ClassificationTree」がCARTアルゴリズムをモデル化するために使用される。第一のアルゴリズムの適用は、ペトリ皿がプロテウス菌を含む可能性を表す第一のスコア値を提供する。   The first classification algorithm is related to the classification and regression tree (CART) algorithm. For example, the matlab class “ClassificationTree” is used to model the CART algorithm. Application of the first algorithm provides a first score value representing the likelihood that the Petri dish contains Proteus.

第二の分類アルゴリズムは、サポートベクターマシン(SVM)アルゴリズムに関連し、ライブラリー「libSVM」を使用して作成される。第二のアルゴリズムの適用は、ペトリ皿がプロテウス菌を含む可能性を表す第二のスコア値を提供する。   The second classification algorithm is related to the support vector machine (SVM) algorithm and is created using the library “libSVM”. Application of the second algorithm provides a second score value representing the likelihood that the Petri dish will contain Proteus.

第一のスコアと第二のスコアは2つの異なる分類アルゴリズムによって提供されるので、第一のスコアと第二のスコアは比較可能な値ではなく、最終スコアを決定するために同じ計算内で組み合わせることはできない。   Since the first score and the second score are provided by two different classification algorithms, the first score and the second score are not comparable values and are combined in the same calculation to determine the final score It is not possible.

分類ユニット120は、ベイズ定理を適用して事後確率の値、すなわちp(Halo; X)を取得することによって動作し、ここで、Haloはハローを表すイベントである。   The classification unit 120 operates by applying a Bayes theorem to obtain a value of posterior probability, i.e., p (Halo; X), where Halo is an event representing halo.

第一の分類アルゴリズムでは、XはCARTアルゴリズムによって選択された特徴の量を表す。選択された特徴は、98の既存の特徴のなかでプロテウス菌の存在を判定するための最も識別力のある特徴である特徴に関連する。   In the first classification algorithm, X represents the amount of features selected by the CART algorithm. The selected feature is related to the feature that is the most discriminating feature for determining the presence of Proteus among the 98 existing features.

第二の分類アルゴリズムでは、Xは決定線から最も近い例の距離を表す。最も高い距離Xは、ペトリ皿がプロテウス菌を含む可能性を決定するための信頼できる結果を表す。   In the second classification algorithm, X represents the closest example distance from the decision line. The highest distance X represents a reliable result for determining the likelihood that the Petri dish contains Proteus.

ハローの存在の確率は、以下の式(9)で計算することができる:
− ここで、p(X;Halo)はペトリ皿がHaloを含むと仮定するXを観測する確率であり;
− p(Halo)はハローの存在の先験確率であり;
− そして、p(Halo;X)は、値Xが与えられた場合のハロー存在の確率である。
The probability of the presence of a halo can be calculated with the following equation (9):
Where p (X; Halo) is the probability of observing X assuming that the Petri dish contains Halo;
-P (Halo) is the a priori probability of the presence of halo;
And p (Halo; X) is the probability of the presence of a halo given the value X.

ペトリ皿にプロテウス菌が含まれていない場合、ハローが発生する確率は0になると予想される。   If the Petri dish does not contain Proteus, the probability of halos occurring is expected to be zero.

しかしながら、ペトリ皿が視覚的なハローを有さず、ハローを有する確率がまた0に等しいプロテウス菌を含む場合がありうる。従って、プロテウス菌の検出を容易にするために、上記の式(9)はそのような状況の考慮を避けるために修正される。以下の式(10)は、全てのプロテウス菌について可視ハローの存在に関連した仮説を考慮に入れている。   However, it is possible that the Petri dish does not have a visual halo and the probability of having a halo also contains Proteus bacteria that is also equal to zero. Therefore, in order to facilitate the detection of Proteus, the above equation (9) is modified to avoid such a situation. Equation (10) below takes into account the hypotheses associated with the presence of visible halos for all Proteus bacteria.

分類ユニット120は、ついで、以下の式(10)を演算する。
− ここで、p(X;Proteus)は、ペトリ皿がプロテウス菌を含むと仮定するXの確率であり;
− そして、p(Proteus)は、プロテウス菌の存在の先験確率である。
The classification unit 120 then calculates the following equation (10).
Where p (X; Proteus) is the probability of X assuming that the Petri dish contains Proteus;
-And p (Proteus) is the a priori probability of the presence of Proteus.

確率p(X;Proteus)に関連する値の集合は、平均値μ及び標準偏差σを有するガウス分布に基づく値の分布として図19に表される。   A set of values related to the probability p (X; Proteus) is represented in FIG. 19 as a distribution of values based on a Gaussian distribution having a mean value μ and a standard deviation σ.

p(Proteus)は先験確率であり、デフォルトで1/6に設定された調整可能なパラメータである。実際、CPS培地は最大6クラスの細菌を含みうる。   p (Proteus) is an a priori probability and is an adjustable parameter set to 1/6 by default. In fact, CPS media can contain up to 6 classes of bacteria.

p(X)は、以下の式(11)により計算される正規化因子の推定値である:
p(Proteus)、p(X;Proteus)、p(NoProteus)及びP(X;NoProteus)は、教師あり学習プロセスに使用されるデータセットから既知である。
p (X) is an estimate of the normalization factor calculated by the following equation (11):
p (Proteus), p (X; Proteus), p (NoProteus) and P (X; NoProteus) are known from the data set used for the supervised learning process.

従って、更なるステップ1512において、p(Halo;X)の第一の値が、第一の分類アルゴリズム、すなわちCARTアルゴリズムに関連した第一のスコアを用いて計算される。   Accordingly, in a further step 1512, a first value of p (Halo; X) is calculated using a first score associated with the first classification algorithm, ie the CART algorithm.

更なるステップ1514において、p(Halo;X)の第二の値が、第二の分類アルゴリズム、すなわちSVMアルゴリズムに関連した第二のスコアを用いて計算される。   In a further step 1514, a second value of p (Halo; X) is calculated using a second score associated with the second classification algorithm, ie the SVM algorithm.

従って、p(Halo;X)の第一及び第二の値は、今は同じタイプの値、すなわち比較可能な値である第一及び第二の確率に関連する。   Thus, the first and second values of p (Halo; X) are now related to the first and second probabilities of the same type of value, i.e. comparable values.

更なるステップ1516において、p(Halo;X)の第一及び第二の値の最小値が取得され、p(Halo;X)の第一及び第二の値の間の最も低い最小値が選択される。   In a further step 1516, the minimum of the first and second values of p (Halo; X) is obtained and the lowest minimum value between the first and second values of p (Halo; X) is selected. Is done.

ついで、ステップ1516において、0%から100%の間のプロテウス菌の存在の最終確率が取得される。   Then, in step 1516, a final probability of the presence of Proteus between 0% and 100% is obtained.

ユーザーは、ステップ1518においてプロテウス菌の存在の確率の値を比較することによって、ステップ1520においてペトリ皿中のプロテウス菌の存在の確率を決定するために50%のような閾値を使用することを決定することができる。   The user decides to use a threshold such as 50% to determine the probability of the presence of Proteus in the Petri dish in Step 1520 by comparing the value of the probability of the presence of Proteus in Step 1518. can do.

第一の分類アルゴリズムと第二の分類アルゴリズムにそれぞれ基づく2つの確率の使用は、各分類アルゴリズムによって独立して生じるエラーの補正をもたらす。   The use of two probabilities, each based on the first classification algorithm and the second classification algorithm, results in correction of errors caused independently by each classification algorithm.

プロテウス菌の存在の判定に関連する別の実施態様では、培地は不透明CPSなどの不透明培地でありうる。   In another embodiment related to determining the presence of Proteus, the medium can be an opaque medium such as opaque CPS.

図20は、プロテウス菌を含む不透明CPSのような不透明培地を含み、バックライトビューに関連したペトリ皿の原画像を示す。   FIG. 20 shows an original image of a Petri dish related to backlight view, including an opaque medium such as opaque CPS containing Proteus.

図21及び図22は、それぞれ左側底部環状ビュー及び上部環状ビューに関連した図20のペトリ皿の画像を示す。   21 and 22 show images of the Petri dish of FIG. 20 associated with the left bottom annular view and the top annular view, respectively.

本発明の更なる実施態様は、培養培地が不透明培地である、プロテウス菌の検出に関連した上記の方法に関する。   A further embodiment of the present invention relates to the above method relating to the detection of Proteus, wherein the culture medium is an opaque medium.

上記方法に関連するステップ1500及びステップ1504から1520は同じままである。セグメンテーション処理の適用に関連するステップ1502のステップは、不透明培地の存在を考慮に入れるように適応されなければならない。実際、不透明培地の存在下では、セグメンテーション処理は、適応されたグラフベースの領域セグメンテーションアルゴリズムの適用を含み、セリグラフィゾーンの検出及び除去に関連するステップは除去される。   Step 1500 and steps 1504 to 1520 associated with the above method remain the same. The step 1502 step associated with the application of the segmentation process must be adapted to take into account the presence of opaque medium. Indeed, in the presence of opaque media, the segmentation process involves the application of an adapted graph-based region segmentation algorithm, and the steps associated with detection and removal of serigraphy zones are eliminated.

この実施態様では、原画像として使用される画像は、バックライトビューと上部環状ビューに基づいている。前記原画像と前景抽出処理に関連した閾値を組み合わせる方法などの他のパラメータが、不透明培地を用いたプロテウス菌の検出に関連した方法が効率的な形で動作することを可能にするように適合化される。   In this embodiment, the image used as the original image is based on the backlight view and the upper annular view. Other parameters such as the method of combining the original image and the threshold associated with the foreground extraction process are adapted to allow the method associated with the detection of Proteus using an opaque medium to operate in an efficient manner. It becomes.

以下の説明は、ベータ溶血性細菌の検出とプロテウス菌の検出に関する本発明の方法の適用に関する。   The following description relates to the application of the method of the invention with respect to detection of beta hemolytic bacteria and detection of Proteus.

ベータ溶血性細菌の検出に関する方法は、単一細菌コロニーとCOS及びCAN培地のような血液寒天培地とを含むペトリ皿を含む第一データセットに適用されており、前記ペトリ皿は24時間インキュベートされている。   The method for the detection of beta hemolytic bacteria has been applied to a first data set comprising a petri dish containing a single bacterial colony and a blood agar medium such as COS and CAN medium, said petri dish being incubated for 24 hours. ing.

第一のデータセットは合計104のペトリ皿を含み、グラウンドトゥルースリファレンスによれば、21のペトリ皿がベータ溶血性細菌を含み、83のペトリ皿がベータ溶血性細菌を含まない、すなわちベータ溶血性細菌以外の細菌を含む。   The first data set contains a total of 104 petri dishes, and according to the ground truth reference, 21 petri dishes contain beta hemolytic bacteria and 83 petri dishes do not contain beta hemolytic bacteria, ie beta hemolytic Contains bacteria other than bacteria.

下記の表1は、前記第一データセットに本方法を適用した結果を示しており、合計21のペトリ皿のうち14のペトリ皿がベータ溶血性細菌を含んでいると同定され、合計83のペトリ皿のうち83のペトリ皿がベータ溶血性細菌を含んでいないと同定されている:
Table 1 below shows the results of applying this method to the first data set, where 14 out of a total of 21 Petri dishes were identified as containing beta hemolytic bacteria and a total of 83 Of the Petri dishes, 83 Petri dishes have been identified as free of beta hemolytic bacteria:

表1から、本発明に係る方法を適用する場合、ベータ溶血性細菌を含む7つのペトリ皿が検出されず、同定されていないようである。確かに、対応するペトリ皿内のハローゾーンははっきりと見えず、従って前記ペトリ皿についてのハローゾーンと培地ゾーンとの間の色の違いは溶血性細菌の存在を判定するのに十分なコントラストレベルをもたらさない。   From Table 1 it appears that when applying the method according to the present invention, seven Petri dishes containing beta hemolytic bacteria were not detected and identified. Certainly, the halo zone in the corresponding Petri dish is not clearly visible, so the color difference between the halo zone and the medium zone for the Petri dish is a contrast level sufficient to determine the presence of hemolytic bacteria. Does not bring

下記の表2は、95%の信頼区間と指標としてパーセンテージを使用して、表1に示したものと同じ結果を示す。
Table 2 below shows the same results as shown in Table 1, using 95% confidence intervals and percentages as indicators.

上記の表2によれば、グローバル精度のパーセンテージは93%より高い。
ベータ溶血性細菌の検出に関する方法はまた単一細菌コロニーと血液寒天培地、例えばCOS及びCAN培地とを含むペトリ皿を含む第二のデータセットにも適用されており、前記ペトリ皿は24時間インキュベートされている。
According to Table 2 above, the percentage of global accuracy is higher than 93%.
The method for detection of beta-hemolytic bacteria has also been applied to a second data set comprising a petri dish containing a single bacterial colony and a blood agar medium such as COS and CAN medium, which is incubated for 24 hours. Has been.

第二データセットは合計70のペトリ皿を含み、グラウンドトゥルースリファレンスによれば、24のペトリ皿がベータ溶血性細菌を含んでおり、46のペトリ皿がベータ溶血性細菌を含まない、すなわちベータ溶血性細菌以外の細菌を含む。   The second data set contains a total of 70 petri dishes, according to the ground truth reference, 24 petri dishes contain beta hemolytic bacteria and 46 petri dishes do not contain beta hemolytic bacteria, ie beta hemolysis. Includes bacteria other than sex bacteria.

下記の表3は、前記第二データセットに対して本方法を適用した結果を示しており、合計241のペトリ皿のうち23のペトリ皿がベータ溶血性細菌を含んでいると同定され、合計46のペトリ皿のうち43のペトリ皿がベータ溶血性細菌を含んでいないと同定されている:
Table 3 below shows the results of applying this method to the second data set, out of a total of 241 Petri dishes, 23 Petri dishes were identified as containing beta hemolytic bacteria, Of the 46 Petri dishes, 43 Petri dishes have been identified as free of beta hemolytic bacteria:

表3から、本発明に係る方法を適用する場合、ベータ溶血性細菌を含む一つのペトリ皿は検出されず、同定されていないようである。実際、ペトリ皿には一つの微生物コロニーしか含まれておらず、セグメンテーション処理では正しいCultureMediumMaskと正しいHaloMaskを提供しなかった。   From Table 3, when applying the method according to the present invention, it appears that one Petri dish containing beta hemolytic bacteria was not detected and identified. In fact, the Petri dish contained only one microbial colony and the segmentation process did not provide the correct Culture Medium Mask and the correct Halo Mask.

表3から、またベータ溶血性細菌の3つの誤った検出が生じたようである。これらの誤った検出は、ガンマ溶血性細菌のコロニー周辺のハローゾーンの存在によって、又はセリグラフィゾーンの存在によって、又はペトリ皿のエッジの存在によって発生しうる。しかしながら、そのような誤検出は、大津法による閾値の決定に関連する方法のステップにおいて読み出されうる。   From Table 3, it also appears that three false detections of beta hemolytic bacteria occurred. These false detections can occur by the presence of a halo zone around the colony of gamma hemolytic bacteria, by the presence of a serigraphy zone, or by the presence of the edge of a Petri dish. However, such false detections can be read out in the method steps associated with the threshold determination by the Otsu method.

下記の表4は、95%の信頼区間で、指標としてパーセンテージを使用することによって表1に示したものと同じ結果を示している:
Table 4 below shows the same results as shown in Table 1 by using percentages as indicators with a 95% confidence interval:

上記の表4によれば、グローバル精度のパーセンテージは94%より高い。
表1、2、3及び4に示された結果は、ベータ溶血性細菌の検出のための本発明の方法に対して95%の高レベルの精度を示している。
According to Table 4 above, the percentage of global accuracy is higher than 94%.
The results shown in Tables 1, 2, 3 and 4 show a high level of accuracy of 95% for the method of the invention for the detection of beta hemolytic bacteria.

プロテウス菌の検出に関する方法は、単一細菌コロニーと2つの異なるクラスの細菌由来の細菌の混合物と半透明の発色培地を含むペトリ皿に関する第一のデータセットに適用され、前記ペトリ皿は24時間インキュベートされている。   The method for detection of Proteus is applied to the first data set for a Petri dish containing a single bacterial colony and a mixture of bacteria from two different classes of bacteria and a translucent chromogenic medium, said Petri dish being 24 hours Incubated.

第一のデータセットは、ハローゾーンを有するプロテウス菌とハローゾーンを有しないプロテウス菌を含む。   The first data set includes Proteus having a halo zone and Proteus having no halo zone.

上述のように、プロテウス菌を検出するための本発明に係る方法は、特徴データをハローゾーンの存在又はハローゾーンの不存在である2つの異なるクラスに特徴データを分離するために2つの教師ありモデルアルゴリズムを使用することによって特徴を分類するステップを含む。各教師ありモデルアルゴリズムに対して同じデータセットが使用される。   As mentioned above, the method according to the present invention for detecting Proteus bacteria is supervised to separate the feature data into two different classes that are the presence or absence of a halo zone. Classifying features by using a model algorithm. The same data set is used for each supervised model algorithm.

結果の分析は、使用された教師ありモデルの混乱レベルを決定する混同行列である以下の表5に基づいている。
The analysis of the results is based on Table 5 below, which is a confusion matrix that determines the level of confusion for the supervised model used.

現在の状況では、利用可能なグラウンドトゥルースは、プロテウス菌の存在又はプロテウス菌の不存在であるのに対して、本方法は、ハローゾーンの存在又は不存在に関連する予測を提供する。   In the current situation, the available ground truth is the presence of Proteus or the absence of Proteus, whereas the method provides predictions related to the presence or absence of the halo zone.

分類及び回帰ツリーに関する学習モデルを考慮すると、以下の表6に示された結果が得られる:
Considering the learning model for classification and regression trees, the results shown in Table 6 below are obtained:

表6は、精度レベルが、非常に良好なレベルである99%であることを示している。
感度レベルは、また良好なレベルである78%である。上記のように、データセットは、ハローゾーンを有さないプロテウス菌を含むペトリ皿を含む。表6に記載のペトリ皿の22%の目視検査は、前記ペトリ皿の大部分がハローゾーンを有さないプロテウス菌を含んでいることを示している。また、コロニーの境界は、教師ありモデルアルゴリズムによってハローゾーンであると誤って検出されているようである。しかしながら、統計的中央画素値の使用はこの問題を克服する。
Table 6 shows that the accuracy level is 99% which is a very good level.
The sensitivity level is 78% which is also a good level. As described above, the data set includes a Petri dish containing Proteus without a halo zone. A visual inspection of 22% of the Petri dishes listed in Table 6 indicates that the majority of the Petri dishes contain Proteus bacteria that do not have a halo zone. Moreover, it seems that the boundary of the colony is erroneously detected as a halo zone by the supervised model algorithm. However, the use of statistical center pixel values overcomes this problem.

SVMに関する学習モデルを考慮すると、以下の表7に示される結果が得られる:
Considering the learning model for SVM, the results shown in Table 7 below are obtained:

ハローゾーンを有し、プロテウス菌を含まないペトリ皿のパーセンテージは、分類及び回帰ツリーについて表6において読み出された対応するパーセンテージとは異なる。   The percentage of Petri dishes with halo zones and no Proteus bacteria is different from the corresponding percentages read in Table 6 for classification and regression trees.

不透明な培地を考慮する場合、プロテウス菌の検出に関する結果は、半透明の培地で読み出された結果とかなり類似している。加えて、不透明な培地を含むペトリ皿ではハローゾーンがより目に見えるので、この方法は偽陰性の検出がより少ない、すなわちプロテウス菌がハローなしとして分類される。   When considering opaque media, the results for the detection of Proteus are quite similar to those read with translucent media. In addition, since the halo zone is more visible in Petri dishes containing opaque media, this method has less false negative detection, ie Proteus is classified as no halo.

開示から:CARTは、同じ特徴が選択され、10ピクセルに等しい独特の拡張サイズを持つその独特のノードを保持する。   From disclosure: CART keeps its unique node with the same feature selected and a unique extension size equal to 10 pixels.

下記の表8は、SVMアルゴリズムを適用するための混同行列の一例を示す:
Table 8 below shows an example of a confusion matrix for applying the SVM algorithm:

プロテウス菌の検出の実施態様に関して上で説明したように、信頼性指標は、2つの教師ありモデルアルゴリズムであるCART及びSVMによって提供される事後確率を使用することによってベイズ定理で計算されるパーセンテージである。信頼性指標の値は区間[0;100]に属し、0%はハローゾーンがないことを意味し、100%はペトリ皿にハローゾーンがあることを意味する。   As explained above with respect to the Proteus detection embodiment, the reliability index is a percentage calculated by the Bayesian theorem by using the posterior probabilities provided by the two supervised model algorithms CART and SVM. is there. The value of the reliability index belongs to the interval [0; 100], 0% means that there is no halo zone, and 100% means that there is a halo zone in the Petri dish.

上記のように、
− ここで、p(X;Proteus)は、マージンまでの距離をXとしてペトリ皿にプロテウス菌が含まれていると仮定するXの確率である;
− そしてp(Proteus)は、プロテウス菌の存在の先験確率である。
as mentioned above,
Where p (X; Proteus) is the probability of X assuming that the distance to the margin is X and that the Petri dish contains Proteus;
And p (Proteus) is the a priori probability of the presence of Proteus.

図23は、教師ありモデルアルゴリズムであるCART及びSVMの両方について得られた確率の分布を示し、両方の状況において半透明培地と共にプロテウス菌を含むペトリ皿とプロテウス菌を含まないペトリ皿についての確率を示す。
円は、表6及び7に示された偽陽性結果の検出を示す。
FIG. 23 shows the distribution of probabilities obtained for both the CART and SVM supervised model algorithms, and the probabilities for Petri dishes with and without Proteus in both situations with a semi-transparent medium. Indicates.
Circles indicate detection of false positive results shown in Tables 6 and 7.

図23はまた、教師ありモデルアルゴリズムであるCART及びSVMの両方に対する最低確率Ptree及びPsvmのマージ値Pfを表す最終確率の分布を示す。   FIG. 23 also shows the distribution of final probabilities representing the merged value Pf of the lowest probabilities Ptree and Psvm for both the supervised model algorithms CART and SVM.

50%の閾値は次のように選択される:
The 50% threshold is selected as follows:

以下の表9では、信頼性指標の結果が評価される。
In Table 9 below, the reliability index results are evaluated.

上記の表9は、非常に良好なレベルである99%より精度レベルが高いことを示している。確かに、2つの教師ありモデルアルゴリズムによって提供された結果のマージは、偽陽性の検出を回避する。   Table 9 above shows that the accuracy level is higher than 99%, which is a very good level. Indeed, the merging of the results provided by the two supervised model algorithms avoids false positive detection.

また、感度のレベルは71%であり、これは、一部のペトリ皿にはハローゾーンを含まないプロテウス菌が含まれているため、また良好なレベルである。   The sensitivity level is 71%, which is also a good level because some Petri dishes contain Proteus bacteria that do not contain a halo zone.

図24は、教師ありモデルアルゴリズムのCART及びSVMの両方について得られた確率の分布を示し、両方の状況に対して、プロテウス菌と不透明培地を含むペトリ皿、並びに不透明培地を含みプロテウス菌を含まないペトリ皿の確率を示している。   FIG. 24 shows the distribution of probabilities obtained for both CART and SVM of the supervised model algorithm, for both situations, including Petri dishes containing Proteus and opaque media, and Proteus containing opaque media Shows the probability of no petri dish.

図24はまた、教師ありモデルアルゴリズムのCART及びSVMの両方に対する最低確率Ptree及びPsvmのマージ値Pfを表す最終確率の分布を示す。
FIG. 24 also shows the distribution of final probabilities representing the merged value Pf of the lowest probabilities Ptree and Psvm for both CART and SVM of the supervised model algorithm.

ペトリ皿を18時間インキュベートした別の状況では、以下の表11に示す結果が半透明培地について得られている。
In another situation where the Petri dish was incubated for 18 hours, the results shown in Table 11 below were obtained for the translucent medium.

不透明培地についての対応する結果を以下の表12に示す。
The corresponding results for the opaque medium are shown in Table 12 below.

上記の表11及び12に示されるように、18時間及び24時間の期間にわたって得られた結果は、半透明又は不透明な培地を含むペトリ皿について安定している。   As shown in Tables 11 and 12 above, the results obtained over the 18 hour and 24 hour periods are stable for Petri dishes containing translucent or opaque media.

書誌参照
[1] Pedro F. Felzenszwalb, Daniel P. Huttenlocher,「効率的なグラフベースの画像セグメンテーション」; International Journal of Computer Vision, 2004年9月、第59巻、第2号、167-181頁
Bibliographic reference
[1] Pedro F. Felzenszwalb, Daniel P. Huttenlocher, “Efficient Graph-Based Image Segmentation”; International Journal of Computer Vision, September 2004, Vol. 59, No. 2, pp. 167-181

Claims (18)

微生物の一又は複数のコロニーと培地とを含むペトリ皿中の少なくとも一種の特定された微生物の存在を判定するための方法であって、前記培地が、微生物の一又は複数のコロニーと、存在する場合前記少なくとも一種の特定された微生物とが適切な増殖条件下で増殖するのを可能にするように適応されている方法において、
− ペトリ皿の少なくとも一つの初期画像を取得するステップであって、第一の初期画像が一又は複数の可視画素を含み、各画素が画素値と関連付けられているステップ;
− 少なくとも一つの初期画像に第一の処理を適用することによってペトリ皿の第一の処理済み画像を取得するステップであって、第一の処理済み画像の可視画素が微生物の一又は複数のコロニーに関連する画素のみに関連付けられているステップ;
− 第一の処理済み画像に第二の処理を適用することによってペトリ皿の複数の第二の処理済み画像を取得する ステップであって、第二の処理済み画像の可視画素が微生物の一又は複数のコロニーと微生物の前記一又は複数のコロニーの周辺の周囲ゾーンとに関連付けられた画素のみに関連しているステップ;
− 少なくとも一つの初期画像と複数の第二の処理済み画像との間の差分を計算することによってペトリ皿の複数の第三の処理済み画像を取得するステップであって、複数の第三の処理済み画像が培地に関連付けられた画素のみに関連する可視画素を含むステップ;
− 複数の第二の処理済み画像と第一の処理済み画像との間の差分を計算することによってペトリ皿の複数の第四の処理済み画像を取得するステップであって、複数の第四の処理済み画像の可視画素が周囲ゾーンに関連付けられた画素のみに関連しているステップ;
− 複数の第三の処理済み画像の平均画素値と複数の第四の処理済み画像の平均画素値との間の差分値を、赤緑青(RGB)色チャネルの少なくとも各色チャネルについて計算することによって、複数の第三及び第四の処理済み画像に関連付けられた特徴量を決定するステップ;
− 決定された特徴量を分類することによって、ペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在の指標の値を決定するステップ;
− 指標の値を閾値と比較するステップ;
− 比較の結果に応じて、ペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在を判定するステップ
を含む、方法。
A method for determining the presence of at least one identified microorganism in a Petri dish comprising one or more colonies of microorganisms and a medium, wherein the medium is present with one or more colonies of microorganisms In a method adapted to allow said at least one identified microorganism to grow under suitable growth conditions,
-Obtaining at least one initial image of the Petri dish, wherein the first initial image comprises one or more visible pixels, each pixel being associated with a pixel value;
-Obtaining a first processed image of the Petri dish by applying a first process to at least one initial image, wherein the visible pixels of the first processed image are one or more colonies of microorganisms; Steps associated only with pixels associated with
-Obtaining a plurality of second processed images of the Petri dish by applying a second process to the first processed image, wherein the visible pixels of the second processed image are one or more of the microorganisms; Relating only to pixels associated with a plurality of colonies and surrounding zones around said one or more colonies of microorganisms;
-Obtaining a plurality of third processed images of the Petri dish by calculating a difference between at least one initial image and a plurality of second processed images, the plurality of third processing The completed image includes visible pixels associated only with pixels associated with the culture medium;
-Obtaining a plurality of fourth processed images of the Petri dish by calculating a difference between the plurality of second processed images and the first processed image, the plurality of fourth processed images The visible pixels of the processed image are related only to the pixels associated with the surrounding zone;
By calculating a difference value between an average pixel value of a plurality of third processed images and an average pixel value of a plurality of fourth processed images for at least each color channel of a red green blue (RGB) color channel; Determining features associated with the plurality of third and fourth processed images;
-Determining the value of the indicator of the presence of at least one identified microorganism in the surrounding zone in the Petri dish by classifying the determined features;
-Comparing the value of the indicator with a threshold;
-Determining the presence of at least one identified microorganism in the surrounding zone in the Petri dish, depending on the result of the comparison.
第一の処理がセグメンテーション処理である、請求項1に記載の方法。   The method of claim 1, wherein the first process is a segmentation process. セグメンテーション処理が、閾値の決定と、画素値と前記閾値の比較とを含む、請求項2に記載の方法。   The method of claim 2, wherein the segmentation process includes determining a threshold and comparing a pixel value to the threshold. 前記セグメンテーション処理が、グラフベースの領域セグメンテーション処理である、請求項2に記載の方法。   The method of claim 2, wherein the segmentation process is a graph-based region segmentation process. 第二の処理が、複数の定義された値を有する拡張基準に関連付けられた拡張処理である、請求項1に記載の方法。   The method of claim 1, wherein the second process is an expansion process associated with an expansion criterion having a plurality of defined values. 特徴量を決定するステップが、複数の第三の処理済み画像と第四の処理済み画像を画素パッチに分割することを含む、請求項1に記載の方法。   The method of claim 1, wherein determining the feature amount comprises dividing the plurality of third processed images and the fourth processed image into pixel patches. 各画素パッチについて、前記第三の処理済み画像と第四の処理済み画像の画素値間の画素値の最大差分を計算することを更に含む、請求項6に記載の方法。   The method of claim 6, further comprising: for each pixel patch, calculating a maximum pixel value difference between pixel values of the third processed image and the fourth processed image. 特徴量を決定するステップが、グレースケール画像に対して画素値の最大差分を計算することを含む、請求項7に記載の方法。   The method according to claim 7, wherein the step of determining the feature amount includes calculating a maximum difference of pixel values for the grayscale image. 特徴量を決定するステップが、複数の第一の処理済み画像の中央画素値とHSV空間に対する複数の第一の処理済み画像の中央画素値とを計算することを含む、請求項1に記載の方法。   The step of determining the feature amount comprises calculating a center pixel value of the plurality of first processed images and a center pixel value of the plurality of first processed images relative to the HSV space. Method. 特徴量を分類するステップが、特徴量の分布をガウス分布と比較することを含む、請求項1に記載の方法。   The method of claim 1, wherein the step of classifying the feature quantity comprises comparing the feature quantity distribution with a Gaussian distribution. 特徴量を分類するステップが、分類及び回帰ツリーアルゴリズムとサポートベクトルアルゴリズムを適用して、対応する第一及び第二スコアを提供することを含む、請求項1に記載の方法。   The method of claim 1, wherein classifying features comprises applying a classification and regression tree algorithm and a support vector algorithm to provide corresponding first and second scores. 特徴量を分類するステップが、ベイズ定理を第一及び第二スコアに適用することを更に含む、請求項11に記載の方法。   The method of claim 11, wherein classifying features further comprises applying a Bayes theorem to the first and second scores. 特徴量を分類するステップが、周囲ゾーンの存在の統合可能性を取得することを更に含む、請求項12に記載の方法。   The method of claim 12, wherein the step of classifying the feature further comprises obtaining an integration possibility of the presence of surrounding zones. 指標の値を閾値と比較するステップが、ガウス分布の平均と標準偏差σに基づいて閾値を決定することを含む、請求項1に記載の方法。   The method of claim 1, wherein comparing the value of the indicator with a threshold includes determining the threshold based on an average of the Gaussian distribution and a standard deviation σ. 少なくとも特定された微生物の存在を判定するステップが、ベータ溶血性細菌である細菌の存在を判定することを含む、請求項1、2、3、5、6、7、8、10又は14の何れか一項に記載の方法。   15. Any of claims 1, 2, 3, 5, 6, 7, 8, 10, or 14 wherein determining the presence of at least the identified microorganism comprises determining the presence of a bacterium that is a beta hemolytic bacterium. The method according to claim 1. 少なくとも特定された微生物の存在を判定するステップが、プロテウス菌である細菌の存在を判定することを含む、請求項1、4、9、11、12又は13の何れか一項に記載の方法。   14. The method of any one of claims 1, 4, 9, 11, 12, or 13, wherein the step of determining the presence of at least the identified microorganism comprises determining the presence of a bacterium that is Proteus. 微生物の一又は複数のコロニーと培地とを含むペトリ皿中の少なくとも一種の特定された微生物の存在を判定するためのシステムであって、前記培地が、微生物の一又は複数のコロニーと、存在する場合前記少なくとも一種の特定された微生物とが適切な増殖条件下で増殖するのを可能にするように適応されており、ペトリ皿の少なくとも一つの初期画像を取得するための撮像システムと、処理システム(108)とを備えるシステム(100)において、前記処理システム(108)が、
− ペトリ皿の少なくとも一つの初期画像の第一の処理済み画像を取得するための第一の処理ユニットであって、第一の処理済み画像の可視画素が微生物の一又は複数のコロニーに関連付けられた画素のみに関連する第一の処理ユニット(116);
− ペトリ皿の第一の処理済み画像の複数の第二の処理済み画像を取得するための第二の処理ユニットであって、第二の処理済み画像の可視画素が微生物の一又は複数のコロニーと微生物の前記一又は複数のコロニーの周辺の周囲ゾーンとに関連付けられた画素のみに関連する第二の処理ユニット(118);
− 第二の初期画像と第二の処理済み画像との間の差分を計算することによってペトリ皿の複数の第三の処理済み画像を取得するためと、第二の処理済み画像と第一の処理済み画像との間の差分を計算することによってペトリ皿の複数の第四の処理済み画像を取得するための計算ユニットであって、第三の処理済み画像が培地に関連付けられた画素のみに関連し、第四の処理済み画像の可視画素が周囲ゾーンに関連付けられた画素のみに関連する計算ユニット(120);
− 第三の処理済み画像の平均画素値と第四の処理済み画像の平均画素値との間の差分値をRGB色チャネルの少なくとも各色チャネルに対して計算することによって、複数の第三の処理済み画像と第四の処理済み画像に関連付けられた特徴量を決定するための特徴抽出ユニット(122);
− 及びペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在の指標の値を決定し、指標の値を閾値と比較し;かつ比較の結果に応じて、ペトリ皿中の周囲ゾーン内の少なくとも一種の特定された微生物の存在を判定するための分析ユニット(110)
を備える、システム(100)。
A system for determining the presence of at least one identified microorganism in a Petri dish comprising one or more colonies of microorganisms and a medium, wherein the medium is present with one or more colonies of microorganisms An imaging system adapted to allow the at least one identified microorganism to grow under suitable growth conditions, and a processing system for acquiring at least one initial image of the Petri dish (108), the processing system (108) comprises:
-A first processing unit for obtaining a first processed image of at least one initial image of the petri dish, wherein the visible pixels of the first processed image are associated with one or more colonies of the microorganism; A first processing unit (116) associated only with the selected pixels;
-A second processing unit for obtaining a plurality of second processed images of the first processed image of the petri dish, wherein the visible pixels of the second processed image are one or more colonies of the microorganism; And a second processing unit (118) relating only to pixels associated with the surrounding zone around the one or more colonies of microorganisms;
-Obtaining a plurality of third processed images of the Petri dish by calculating a difference between the second initial image and the second processed image; and the second processed image and the first processed image A calculation unit for obtaining a plurality of fourth processed images of a Petri dish by calculating the difference between the processed images, wherein the third processed image is only for the pixels associated with the medium. A computing unit (120) associated with the visible pixels of the fourth processed image relating only to pixels associated with the surrounding zone;
A plurality of third processes by calculating, for at least each color channel of the RGB color channel, a difference value between the average pixel value of the third processed image and the average pixel value of the fourth processed image; A feature extraction unit (122) for determining a feature quantity associated with the completed image and the fourth processed image;
Determining the value of the indicator of the presence of at least one identified microorganism in the surrounding zone in the Petri dish and comparing the value of the indicator with a threshold; and depending on the result of the comparison, the surrounding zone in the Petri dish An analysis unit (110) for determining the presence of at least one identified microorganism in the
A system (100) comprising:
実行されると、プログラマブルデータ処理装置に請求項1から16の何れか一項に記載の方法のステップを実行させる命令を含むコンピュータプログラム製品。   A computer program product comprising instructions that, when executed, cause a programmable data processing device to perform the steps of the method according to any of the preceding claims.
JP2019510638A 2016-09-02 2017-08-30 Methods, systems, and computer program products for determining the presence of microorganisms and identifying said microorganisms. Active JP7007367B2 (en)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
EP16187153.8 2016-09-02
EP16187153.8A EP3290524A1 (en) 2016-09-02 2016-09-02 Method, system and computer program product for determining the presence of microorganisms and identifying said microorganisms
EP16306113.8 2016-09-05
EP16306113 2016-09-05
PCT/EP2017/071775 WO2018041900A1 (en) 2016-09-02 2017-08-30 Method, system and computer program product for determining the presence of microorganisms and identifying said microorganisms

Publications (3)

Publication Number Publication Date
JP2019531065A true JP2019531065A (en) 2019-10-31
JP2019531065A5 JP2019531065A5 (en) 2020-10-08
JP7007367B2 JP7007367B2 (en) 2022-01-24

Family

ID=59738363

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019510638A Active JP7007367B2 (en) 2016-09-02 2017-08-30 Methods, systems, and computer program products for determining the presence of microorganisms and identifying said microorganisms.

Country Status (6)

Country Link
US (1) US10968473B2 (en)
EP (1) EP3507378B1 (en)
JP (1) JP7007367B2 (en)
CN (1) CN109661473B (en)
ES (1) ES2823151T3 (en)
WO (1) WO2018041900A1 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111286523A (en) * 2020-02-20 2020-06-16 中国水产科学研究院黄海水产研究所 Three-primary-color identification and counting method for bacteria
FR3109159B1 (en) * 2020-04-09 2023-06-23 Interscience Image processing method applied to colony counters in microbiology
CN116128845B (en) * 2023-02-10 2024-05-07 甘肃省科学院生物研究所 Automatic colony counting method based on random walk and colony counter
CN117557583B (en) * 2024-01-10 2024-03-15 江苏锡澄环境科学研究院有限公司 Electrophoresis line wastewater treatment effect visual detection method based on image processing
CN117953495B (en) * 2024-03-27 2024-06-04 北京大学口腔医学院 Oral cavity microbial flora segmentation method

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002125696A (en) * 2000-10-19 2002-05-08 National Institute Of Advanced Industrial & Technology METHOD FOR DETECTING LIVING CELL IN MEDIUM AND MEASURING pH OF THE MEDIUM
JP2003116593A (en) * 2001-10-17 2003-04-22 Hakuju Inst For Health Science Co Ltd Method for judging microorganism and device therefor
JP2014513960A (en) * 2011-05-06 2014-06-19 ビオメリュー Bioimaging method and system
JP2015536140A (en) * 2012-11-07 2015-12-21 バイオメリュー Bioimaging method
JP2016052256A (en) * 2014-09-02 2016-04-14 株式会社エヌテック Microorganism detection method, microorganism detection device and program

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5694478A (en) * 1994-12-15 1997-12-02 Minnesota Mining And Manufacturing Company Method and apparatus for detecting and identifying microbial colonies
US20020086289A1 (en) * 1999-06-15 2002-07-04 Don Straus Genomic profiling: a rapid method for testing a complex biological sample for the presence of many types of organisms
CN1536090A (en) * 2003-04-07 2004-10-13 中国人民解放军军事医学科学院卫生学 Food-originated pathogenic bactenium quick detection gene chip and its application
US20040253660A1 (en) * 2003-06-12 2004-12-16 Giles Scientific, Inc. Automated microbiological testing apparatus and method
WO2008130445A2 (en) * 2006-11-10 2008-10-30 Advanced Analytical Technologies, Inc. Rapid detection microorganisms in fluids
EP2250281B1 (en) * 2008-02-19 2015-04-08 Becton Dickinson and Company Systems and methods for presumptive identification of microorganism type in a culture
JP5439096B2 (en) 2009-09-08 2014-03-12 株式会社日立ハイテクノロジーズ Bacteria classification device and bacteria test pretreatment device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002125696A (en) * 2000-10-19 2002-05-08 National Institute Of Advanced Industrial & Technology METHOD FOR DETECTING LIVING CELL IN MEDIUM AND MEASURING pH OF THE MEDIUM
JP2003116593A (en) * 2001-10-17 2003-04-22 Hakuju Inst For Health Science Co Ltd Method for judging microorganism and device therefor
JP2014513960A (en) * 2011-05-06 2014-06-19 ビオメリュー Bioimaging method and system
JP2015536140A (en) * 2012-11-07 2015-12-21 バイオメリュー Bioimaging method
JP2016052256A (en) * 2014-09-02 2016-04-14 株式会社エヌテック Microorganism detection method, microorganism detection device and program

Also Published As

Publication number Publication date
US10968473B2 (en) 2021-04-06
CN109661473A (en) 2019-04-19
ES2823151T3 (en) 2021-05-06
EP3507378B1 (en) 2020-07-29
CN109661473B (en) 2022-06-07
US20190203257A1 (en) 2019-07-04
WO2018041900A1 (en) 2018-03-08
EP3507378A1 (en) 2019-07-10
JP7007367B2 (en) 2022-01-24

Similar Documents

Publication Publication Date Title
JP7007367B2 (en) Methods, systems, and computer program products for determining the presence of microorganisms and identifying said microorganisms.
JP6062059B2 (en) Bioimaging method
US11669971B2 (en) Colony contrast gathering
JP6091489B2 (en) Bioimaging method
Pandit et al. Literature review on object counting using image processing techniques
EP3290524A1 (en) Method, system and computer program product for determining the presence of microorganisms and identifying said microorganisms
JP2019091308A (en) Object detector, image analysis device, object analytical method, image analysis method, program, and learning data
Vigneron et al. Adaptive filtering and hypothesis testing: Application to cancerous cells detection
US20240018459A1 (en) Analyzing apparatus, analyzing system, analyzing method, and computer-readable non-transitory storage medium
AU2015255243B2 (en) Bio-Imaging Method And System
EP2806394A1 (en) Method, system and computer program product for improving the quality of an image

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20191219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20191219

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200831

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200831

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200831

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200911

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201117

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210216

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20210517

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210713

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211115

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20211115

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20211125

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20211130

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220106

R150 Certificate of patent or registration of utility model

Ref document number: 7007367

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150