JP7036858B2 - 生体試料を撮像するシステム及び方法 - Google Patents
生体試料を撮像するシステム及び方法 Download PDFInfo
- Publication number
- JP7036858B2 JP7036858B2 JP2020065968A JP2020065968A JP7036858B2 JP 7036858 B2 JP7036858 B2 JP 7036858B2 JP 2020065968 A JP2020065968 A JP 2020065968A JP 2020065968 A JP2020065968 A JP 2020065968A JP 7036858 B2 JP7036858 B2 JP 7036858B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- value
- pixel
- exposure time
- new
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/255—Details, e.g. use of specially adapted sources, lighting or optical systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/72—Combination of two or more compensation controls
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/27—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/25—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
- G01N21/27—Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
- G01N21/274—Calibration, base line adjustment, drift correction
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N33/00—Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
- G01N33/48—Biological material, e.g. blood, urine; Haemocytometers
- G01N33/483—Physical analysis of biological material
- G01N33/4833—Physical analysis of biological material of solid biological material, e.g. tissue samples, cell cultures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N2201/00—Features of devices classified in G01N21/00
- G01N2201/12—Circuits of general importance; Signal processing
Landscapes
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Chemical & Material Sciences (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Mathematical Physics (AREA)
- Molecular Biology (AREA)
- Urology & Nephrology (AREA)
- Food Science & Technology (AREA)
- Medicinal Chemistry (AREA)
- Hematology (AREA)
- Biophysics (AREA)
- Optics & Photonics (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
- Apparatus Associated With Microorganisms And Enzymes (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
本願は、2014年1月30日に出願された米国仮特許出願第61/933,426の
出願日の利益を主張するものであり、この仮特許出願は、その開示内容を引用することに
より、本明細書の一部をなすものとする。
との間のより大きなダイナミックレンジを捕捉するデジタル撮像技法である。デジタル画
像から得られたピクセル強度のダイナミックレンジを自動的に最適化するプロセスが、Ch
ristiansen他に対する特許文献1に記載されている。HDRは、それぞれ異なる露出レベ
ルにおいて数個の画像を取り込み、それらの画像をともにスティッチングするアルゴリズ
ムを用いて、暗いスポット及び明るいスポットの双方を有する画像を、いずれのスポット
の品質も損なうことなく作成する。しかしながら、HDRは、画像の強度を全体的に歪ま
せるので、現実の歪みを呈する可能性がある。したがって、画像の強度を歪ませることな
くコントラストを強調するHDR技法が、引き続き模索されている。
ような試料を撮像することに関する問題の中でも特に以下の問題が、Allano他によって特
定されている。
i)検査されているコロニーのサイズ;
ii)或るコロニーと別のコロニーとの近接性;
iii)コロニーの混色;
iv)ペトリ皿の性質;及び
v)培養基の性質;並びに他のファクタ。
画像から作成されるソース画像であって、培養基及び培養容器の所定の吸収効果を取り除
き、所定の露出を用いて光子束及び露出時間の値を求めて、その後に光度ゾーンに分けて
分析される画像を得る、ソース画像を準備することである。そのソース画像から、画像光
度が得られ、用いられた光子束及び露出時間の値が正しかったか否か又は光子束及び露出
時間の新たな値が画像取り込みに用いられるべきか否かを判断するのに用いられる。
同定に必要とされるコントラストの非常に微妙な変化を検出することができる撮像条件を
提供する能力を有するシステムを提供していないということである。微生物及び/又は培
地上の微生物の増殖の画像に基づく証拠は、検出するのが困難である(又は、少なくとも
困難である可能性がある)ので、そのような試料を撮像するよりロバストな技法が模索さ
れている。
及び方法が本明細書において説明される。そのような困難な撮像環境の1つの例は、寒天
培地増殖プレート上で増殖するバクテリアコロニーの撮像環境である。バクテリアコロニ
ーは、寒天培地と異なって光を反射する。加えて、バクテリアコロニーは、明色から暗色
まで変動する可能性があるとともに、寒天培地と異なって光を反射する可能性がある。コ
ロニーの画像を取り込む時間は短い(約1秒)。通常、増殖プレートの画像は、3時間~
6時間ごとに撮影される。
において画像が取得される。第1の取得(N=1)は、本明細書において「光子束及び露
出時間」と呼ばれる光強度及び露出時間のデフォルト値を用いる。光子束の値は、単位時
間及び単位面積当たりシーンに到達する光子の数((光子量)・(時間-1)・(面積-
1))を規定する。時間は、カメラのセンサにおける積分時間である。露出時間は、1つ
のフレーム取得についてセンサによって捕捉される光子の数を決定する。言い換えると、
光子束は、光源からの光子の流量であり、露出時間は、画像取得のセンサによって受信さ
れたそれらの光子の量に影響を与える。所与の光子束について、露出時間が画像強度を制
御する。
認識している。上述したように、1つの技法は画像の露出時間を制御する。センサに送信
される光の強度を制御するのに用いることができる他の技法が存在する。例えば、フィル
タ、アパーチャ等が光子束を制御するのに用いられ、光子束は次に強度を制御する。その
ような技法は、当業者によく知られており、本明細書では詳細に説明しない。本明細書に
おいて説明する本発明の実施の形態においては、光強度は一定に設定され、露出時間は光
子束積分を制御するのに用いられる変数である。
が、システム較正から得られる。システムは、較正プレートのライブラリを用いて較正さ
れる。ベースライン較正が、プレートタイプ及び培地タイプに応じて得られる。システム
が、新たな増殖プレートを照会するのに用いられるとき、特定のプレートタイプ及び培地
タイプの較正データが選択される。この点に関して、増殖プレートは、モノプレート(す
なわち、1つの培地の場合);バイプレート(2つの培地);トライプレート(3つの培
地)等とすることができる。増殖プレートの各タイプは、固有の撮像課題を提起する。較
正は、増殖プレートの第1の画像(画像N=1)を取り込むデフォルト露出時間を提供す
る。較正は、システム(又はシステムオペレータ)が、画像のどの部分がプレートである
(すなわち、背景でない)のか、並びに画像のプレート部分のうちのどの部分が培地(コ
ロニーを培養するのに用いられる栄養分)であるのか及びどの部分が少なくともコロニー
である可能性があるのかを判断することも可能にする。
平均化技法が、増殖プレートのデジタル画像を取り込むのに用いられる場合、明るいピク
セルは、暗いピクセルよりも良好な信号対雑音比(SNR)を有する。本明細書において
説明する方法では、信号は、ピクセルが明るいのか又は暗いのかを問わず、個々のピクセ
ルごとに分離される。所定の数のピクセルについて、強度、露出時間及びSNRが求めら
れる。画像コンテキスト内のこれらの値の「マップ」が準備される。このマップから、好
ましくは所定の割合のピクセルよりも多くのピクセルを飽和させない新たな露出時間が、
N+1の画像取得用に選択される。好ましくは、非常に少ない割合(又はそれ未満)のピ
クセルしか飽和させない露出時間が求められ、最終画像を取り込むのに用いられる。
セルについて、濃淡値が精緻化され、SNRが改善される)各ピクセルのSNRのマップ
が生成される。画像は、このマップに基づいてシミュレーションされる。
Rに対応する所要露出時間にマッピングするのに用いられる。この最適化アルゴリズムは
、所定のデフォルト露出時間を用いて取り込まれた初期画像(N=1)を調べることから
開始する。強度マップ、露出マップ、及びSNRマップが画像全体について生成される。
各ピクセルの露出時間は、画像Nに基づいて調整され、別の画像(N+1)が取り込まれ
る。上述のように、暗い部分の信号を飽和させ、その結果、明るい部分を露出過度にする
新たな露出時間が選ばれる。強度マップ、露出マップ、及びSNRマップは、ピクセルご
とに更新される。これは反復プロセスであり、画像の各ピクセルの最大SNRに達するま
で又は最大画像数に達するまで又は最大配分時間に達するまで、画像が取得される。
Rは改善される。寒天増殖培地は、デジタル画像の背景として機能する。以前の画像と或
る程度異なる(すなわち、強度が異なる)画像内のピクセルは、コロニーが増殖している
ことを示すか、又はプレート上に異物(例えば、塵埃)が混入したことを示す。この技法
は、一度に複数のプレートを調べるのに用いることができる。
性をもって)明らかにすることができ、時限プレート撮像において非常に早期の小さなコ
ロニーの検出が可能になる。本システム及び本方法は、シーン又は関心のある対象物にわ
たる特定の飽和及び制御された飽和に対応する最適な露出時間に対応する画像も提供する
。
セスは停止される。t0~t1の所定の時間区間が経過すると、そのように取得された画
像のインテグリティの所望の信頼性が得られるまで、反復画像取得プロセスは繰り返され
る。信号対雑音比は、標準偏差に反比例する(すなわち、SNR=gv’/標準偏差であ
る)。したがって、ピクセルごとに最大SNR(すなわち、ピクセルごとに最小標準偏差
)を与える画像取得は、時間「Tx」に関連付けられた高い信頼性を有する画像を提供す
る。例えば、4時間(T1=4時間)の間培養されたプレートの場合、高SNR画像が得
られる。このプレートが追加の4時間(Tx=8時間)の間培養された後は、同じプレー
トの別の高SNR画像が得られる。
ある対象物に関連付けられた画像の少なくとも選択されたピクセル)を以前の時間(Tx
)に関連付けられた画像と比較して、その後の画像が微生物増殖の証拠を提供するか否か
を判断することができ、プレートの更なる処理を決定することができる。
殖の検出のために微生物学試料を撮像する光学系に実装(実施)することが可能である。
そのような市販のシステムは多く存在し、これらにシステムについては、本明細書では詳
細に説明しない。1つの例は、BD Kiestra(商標)ReadAコンパクトイン
テリジェント培養撮像システム(第2世代BD Kiestra(商標)インキュベータ
)である。そのような光学撮像プラットフォームは、長年の間市販されており(当初は、
Kiestra(商標)Lab Automationが提供していたCamerA PrimerA)
、したがって、当業者には良く知られており、本明細書では詳細に説明しない。1つの実
施形態では、システムは、画像取得デバイス(例えば、カメラ)と協働し、画像内のあら
ゆるピクセルについて最大の信号対雑音比(SNR)を提供するようにインタラクトする
ことによって画像の高品質撮像を提供する非一時的コンピュータ可読媒体(例えば、ソフ
トウェアプログラム)である。各ピクセル及び各色(例えば、チャネル)について、強度
及び露出時間が記録され、システムは、その後、シーン全体又はシーン内の関心のある対
象物のSNRを改善するように次の最良の露出時間を予測する。当業者であれば、ピクセ
ルごとに得られる複数の値はピクセル及び撮像システムに依存することを理解しているで
あろう。例えば、RBG撮像システムでは、値は、チャネル(すなわち、赤色、緑色、又
は青色)ごとに得られる。他のシステムでは、値は、異なるスペクトル帯又は波長ごとに
得られる。
の較正は当業者によく知られている。様々な較正手法が知られている。本明細書では、取
り込まれた画像の評価の基準となるベースラインを提供するシステム較正の例が説明され
る。較正中、較正プレート(例えば、培地を有するがコロニーを有しないプレート)が用
いられ、システム画像取得は、既知の入力に対して較正される。プレート培地のタイプご
との較正値のライブラリが作成され、特定のプレートに用いられる較正データが、試験プ
レート内の培地に基づいて選択される。システム及びデータの双方が較正される。データ
較正の場合、SNR、線形性、黒色レベル等が、較正プレートの取り込まれた画像のピク
セルごとに求められる。システム較正は、レンズ歪み、色収差、空間解像度等を含むが、
これらに限定されるものではない。
未満であるSNRを有するピクセル又は最低のSNRを有するピクセルのうちのいずれか
のSNRを改善する露出時間を推定するために、リアルタイムで解析される。通常の撮像
システムは、画像内のピクセルの強度値のみを保持する。本明細書において説明する実施
形態では、強度及び露出時間がピクセルごとに記録される。同じピクセルが、それぞれ異
なる露出時間において撮像され、強度情報が組み合わされて、高SNRデータが生成され
る。この情報から、任意の指定された露出時間の画像を生成することもできるし、最良の
露出時間を抽出して、ピクセル飽和を制御することもできる。
信頼性が大きく改善され、その後の対象物認識又はデータベース比較のより良好な性能が
可能になる。以前の画像内のピクセルの濃淡値(すなわち、画像Nの場合、画像N-1内
のピクセルの値)とも比較したグレースケールに関する解析が行われる。以前の画像内の
同じピクセルの濃淡値の比較に加えて、隣接するピクセルのピクセル濃淡値も、このピク
セル濃淡値と比較され、相違(例えば、コロニー/培地の境界面)が求められる。
は明るい対象物と比較すると非常に劣悪である。これを改善するために、本明細書におい
て説明するシステム及び方法は、対象物検出がコントラスト、SNR、及びサイズ/解像
度に基づいている画像検出モジュールを展開する。SNRは、暗い領域及び明るい領域の
双方において改善される。標準偏差は減少し、したがって、ローカルコントラストが、明
るい領域及び暗い領域において重要となる。ここでの目標は、増殖培養を含むと疑われて
いるプレートのx時間とx+1時間との間の区間の画像の微妙な相違であっても検出する
システムを提供することである。それらの相違は、信号変動が原因であって増殖培養に起
因する試料内の変化が原因ではない「雑音」と区別可能でなければならない。本明細書に
おいて説明するシステム及び方法は、シーン内の関心のある対象物が非常に異なる色及び
強度(反射率又は吸光度)を示す場合があるときに特に価値がある。
拡張ダイナミックレンジ)の自動適応を提供する。本システム及び本方法は、(画像取得
機器(例えば、カメラ)の物理的制約内及び電子的制約内において)最も明るいピクセル
を飽和させる最小露出時間と、最も暗いピクセルを飽和させる最大露出時間との双方を提
供する。本システム及び本方法は、画像平均と比較すると、ピクセルごとの最小SNRに
向かうより高速な収束を提供する。本システム及び本方法は、色に対する改善された信頼
性を提供する。具体的には、赤色、緑色及び青色の値のSNRは、赤色、緑色、及び青色
の色の強度の不一致にかかわらず均質化される。
も非常に価値がある。本システム及び本方法によって提供されるSNR最適化は、スーパ
バイズすることができる(検出された関心のある対象物を重み付けして、次の画像取得の
露出時間が計算される)。
画質を更に改善するために、色収差及びレンズ歪みも較正及び補正され、画像は、そのよ
うな欠陥のない状態にされる。
るスーパバイズモードのいずれかにおいて画像のピクセルSNRを制御することができる
。自動モードでは、シーンの画像全体が最適化され、全てのピクセルが等しく扱われる。
スーパバイズモードでは、シーンは、取得されると更に解析され、関心のある対象物が検
出される。SNR最大化は、関心のある対象物の領域に有利である。
セルのSNRのレベルが最小に達すること;(2)所定の取得数がこのシーンに対して実
行されること;又は(3)最大許容取得時間に達したことのうちの第1のものが生起した
後に停止する。
0は3つのモジュールを有する。第1のモジュールは、システム較正モジュール110で
ある。この較正モジュールは、画像の照明と、画像を収集するのに用いられる光学部品類
と、本システムによる評価を受ける新たなプレートのベースラインデータとを較正する。
ジュールは、解析を受ける対象物の画像を取り込む。この画像は、特定の例に関して以下
で詳細に説明する方法で求められた露出時間及び他の基準を用いて取り込まれる。上記で
論述したように、画像取得は、所定のSNR閾値がピクセルごとに満たされるまで、又は
所定の数の画像が取り込まれるまで反復的に進む。画像提示モジュールは、最良のダイナ
ミックレンジ(すなわち、飽和寸前の最も明るい非飽和ピクセル)を画像にグローバルに
(すなわち、自動モードにおいて)提供するか、又は関心のある対象物に制限されて(す
なわち、スーパバイズモードにおいて)提供する。
培養基の様々な範囲の組み合わせ)が、システムを較正するのに用いられる)。この較正
から、システム較正及びデータ較正の双方が求められる。システム較正値及びデータ較正
値は、新たなプレートの画像取得において用いられる。この較正は、画像マップ(すなわ
ち、どのピクセルがプレートの外部の領域であるのか、どれがプレートの内部であるが、
コロニーを有しない培地であるのか、及びどの領域がコロニーを示しているのか)の観点
から、新たな画像の有効性を確認するのに用いられる。
(複数の場合もある)111の場合、ウォームアップ時間、強度(λ)=f(入力電力)
及びフィールドの均一性(field homogeneity)が求められる。再度、試験プレートにつ
いて、培地は、適用可能な領域(すなわち、モノプレートの場合にはプレート全体、バイ
プレートの場合にはプレートの2分の1、及びトライプレートの場合にはプレートの3分
の1)について均一であるべきである。光学部品類較正112については、位置合わせ、
色収差及び幾何学歪みが求められる。カメラ較正113については、ベースラインレベル
が求められる。そのようなベースラインデータは、ウォームアップ時間、線形性(濃淡値
と、センサに到達する光子の数との一定の関係)、及び露出時間の関数としての黒色レベ
ルであり、ピクセル強度の関数としてのSNR、フィールドの均一性、色収差、及び幾何
学歪みは全て、取得された画像の評価の基準となるベースラインとして求められる。その
ようなベースラインデータは、当業者によく知られており、更に詳細に説明しない。
較正プレートのライブラリ及び他の入力)である。較正プレートごとに、画像が得られ、
各ピクセルには、黒色レベル、SNR、線形性及び照明の値が割り当てられる。システム
(すなわち、ピクセルごとではない)については、歪み、色収差、空間解像度及びホワイ
トバランス等のシステムファクタを反映するモデル値が求められる。これらの値は全て、
プレートの評価において用いられる較正されたシステム及び較正されたデータを提供する
ために収集される。以下で述べるように、これらの値は、画像取得を終了するのに用いら
れる。
プにおいて、デフォルト値を用いて画像が取得される。この第1の画像から、各ピクセル
の強度、露出時間、及びSNRが求められる。強度は、ピクセルの「黒色レベル」を測定
された強度値から減算することによって求められる。黒色レベル及びSNRは、前述した
較正から得られる。
、一連のN回の画像取得を通じて取得される。この一連のN回の画像取得は、画像インテ
グリティの高い信頼性と相関する取得画像のSNRに向けて反復する。
プレート610の画像が、ステップ620において取得される。画像取得は、システム較
正630及びデータ較正640による情報に基づいている。プレートトラフィック条件(
すなわち、単位時間当たりのプレート数)も、システムを較正及び制御するのに用いられ
る。画像取得プロセス中の後の時点において、その後の画像が取得され(650)、(自
動的に又はスーパバイズされて)以前の画像と比較される。通常、各時間区間において約
4回~約10回の画像取得が行われ、許容可能な信頼性を有する画像が得られる。選択さ
れた対象物の所望のSNRが得られると、最終画像取得660のための露出時間が求めら
れる。
間及び信号対雑音比は、プレート(画像対象物)ごとに、各照明構成(上部、側部、底部
、又はそれらの混合)について記憶された情報を表す。この情報は、新たな各取得の後に
更新される。まず、第1の画像取得(N=1)を用いてこの情報が更新される。
、底部、又はそれらの混合)について記憶された情報を表す。この情報は、新たな各取得
の後に更新される。まず、この情報は、第1の画像取得(N=1)に従って初期化される
。1つの実施形態では、gvx,y,1は、露出時間E1及びそれぞれの信号対雑音比(
SNRgv)を用いたプレートの第1の画像取り込み(N=1)に対応する画像位置(x
,y)における濃淡値(gv)である。この実施形態では、
・
・E’x,y,1は、1回の取得後の(x,y)における更新された基準時点である。
・
濃淡値である。
・SNR’x,y,1は、1回の取得後のx,yにおける更新されたSNRである。
わち、より高い信頼性レベルを有する画像)を得る。黒色値は、画像取得中に再計算され
ていないデフォルト値である。黒色値は、露出時間の関数である。
る(したがって、SNRの改善はない)。非飽和ピクセルからの値のみが更新される。
得(すなわちN=2、3、4...N)の後に更新される。画像位置(x,y)の濃淡値
gvx,y,Nは、露出時間EN及びそれぞれの信号対雑音比(SNRx,y,N)を用
いたプレートのN番目の画像取り込みに対応する。この実施形態では、
・
・E’x,y,Nは、N回の取得後の(x,y)における更新された基準時点であり、
・
れた濃淡値であり、
・SNR’x,y,Nは、N回の取得後のx,yにおける更新されたSNRである。
得の更新された信号対雑音比を2乗したものと、現在の画像取得の信号対雑音比を2乗し
たものとの平方根である。各取得は、各ピクセルの更新された値(例えば、E’x,y,
N)を提供する。その更新された値は、その後、次の画像取得の更新された値を計算する
のに用いられる。ピクセルが所与の露出時間及び光源強度について飽和しているとき、そ
のピクセルはSNR=0である。非飽和ピクセルのみが更新される。N番目の露出時間は
、その目標が関心のある対象物のSNRを最大にすることであるスーパバイズされた最適
化に対応する。関心のある対象物は、プレート全体、コロニー、プレートの一部分、又は
全体画像とすることができる。
NR、飽和制約、最大許容取得時間、関心のある領域)に従ってSNRを最大にする次の
最良の取得時間を提案することができる。画像取得がスーパバイズされている実施形態で
は、x,y∈対象物(object)は、スーパバイズモードにおいて、対象物ピクセルのみが
評価のために考慮されることを意味する。画像取得がスーパバイズされていない実施形態
では、デフォルトの対象物は画像全体である。
ける次の画像(N+1)の露出時間が、上記で説明した自動モード又はスーパバイズモー
ドのいずれかを用いて求められる。図7を参照すると、自動化プロセスの場合、各ピクセ
ルは等しく重み付けされる(すなわち、1の値を割り当てられる)。スーパバイズされた
手法の場合、対象物(例えば、培養物)に関連付けられたピクセルは、異なって重み付け
される。スーパバイズされたプロセスは、追加の撮像ステップを必要とする。ピクセルの
かなりの割合(例えば、100000個のうちの2つ以上)が飽和しており、それらの重
みが0でない場合、画像を取り込むのに用いられた以前の最小露出時間よりも短い(例え
ば、1/5)新たな露出時間が提案される。この調整は、飽和するピクセルの非飽和情報
を得る確率を改善する。代替の実施形態では、新たな露出時間が計算される。大きなピク
セル飽和がない場合、露出マップ及び強度マップから、各ピクセルについて、ピクセル飽
和をもたらさない最大露出時間が求められる。これから、画像の露出時間が求められ、強
度画像がシミュレーションされる。これから、対応する重み付けされたSNRマップが求
められる。
するのに用いられる。その標本データは、その後、画像アナライザに供給され、各ピクセ
ルのSNRに対する所定の制約、他の飽和制約、対象物制約等、及び時間又はトラフィッ
クの制約(すなわち、取り込み及び解析の継続時間)の情報に基づいて、画像解析が行わ
れる。
とに解析される。ENが、所定の制限を越えるピクセル飽和をもたらす場合、EN+1に
ついてより低い値が選択される。例えば、最小露出時間がまだ取得されず、飽和ピクセル
の増分(例えば、以前に用いられた最小露出時間の5分の1)の新たな露出時間が提案さ
れる。下限(すなわち、最小許容可能露出時間)も事前に求められる。露出時間に対する
これらの制約によって、非飽和画像取得状態に向けたより高速な収束が可能になる。
な検査制約は、ピクセルごとの所望の最小SNR(これは、低い側のSNR閾値である)
及びこの画像について許容された全体的な取得時間(すなわち、Nmax)である。この
シーンの全体的な取得時間が時間制限に達した場合又は各ピクセルのあらゆる更新された
SNRがSNR’x,y,N≧MinSNRとなる場合、画像データは、許容可能である
とみなされ、その時間区間(例えば、t0)のシーンの取得は終了する。画像取得が時間
tx(例えば、時間t1)に開始すると、以前の取得(例えば、時間t0における)の露
出から準飽和(sub-saturation)状態を与える最良の露出時間(ENfinal)が、E
の初期値として用いられる。txにおける画像取得のプロセスは、他の点では時間toに
おけるプロセスと同一である。
査される。最初に、露出時間境界制限が、関心のある領域にわたって計算される。これら
の露出時間境界は、i)最も明るいピクセルを飽和させる露出時間、及びii)最も暗い
ピクセルを飽和させる露出時間である。
の候補露出時間の中から選ばれる。具体的には、露出時間は、試験された露出時間Ete
st,N+1におけるシミュレーションされた画像を加えた後、(最小の信号対雑音比の
閾値よりも小さな全てのピクセルの)更新された平均SNRを最大にするシミュレーショ
ンによって求められる。Etest,N+1におけるシミュレーションされた画像は、(
ありとあらゆるピクセルについて)以下のように生成される。
る対象物についてのみ積分される。自動モードでは、対象物は画像全体である。
知られている従来の画像処理技法であり、本明細書では詳細に説明しない。
インテグリティが検査されると、標本がシステム内にロードされ、標本からのデータが取
り込まれることに留意されたい。データ取り込みは、上記で論述したような較正情報によ
る情報に基づいている。取り込まれたデータは、システムインテグリティ検査及びシステ
ムイベントアナライザの双方に提供される。
と比較される。例えば、プレートの画像は、そのプレートが4時間(T1=4)の間培養
された後に、本明細書において説明したように得られる。4時間以上の後、プレートの別
の画像が、上記で説明したように得られる(Tx=8時間)。その後、Tx+1において
得られた高SNR画像を、Txにおける高SNR画像と比較することができる。2つの画
像内の変化が評価され、微生物増殖の証拠が確認される。更なる処理に関する決定(例え
ば、プレートが陽性である、プレートが陰性である、プレートが更なる培養を必要とする
)は、この比較に基づいている。
なお、出願当初の特許請求の範囲の記載は以下の通りである。
請求項1:
培養基に配置された生体試料を撮像するシステムであって、
プレートに配置された培養基上に配置されている生体試料の画像を取り込むデフォルト値を提供するシステム較正モジュールと、
カメラを備える画像取得モジュールであって、該モジュールは、前記システム較正モジュールと通信して、所与の時間区間で一連の画像のデータを取得するように適合され、前記画像取得は、i)前記システム較正モジュールからの光子束及び露出時間のデフォルト値を用い、画像データのピクセル単位のマップを作成して、第1の画像のデータを取得することであって、各ピクセルは、信号対雑音比、光子束及び露出時間、並びに強度に関連付けられていることと、ii)前記画像データを再検査して飽和ピクセルを識別し、飽和ピクセルの数が所定の閾値よりも多いのか又は少ないのかに基づいて新たな光子束、新たな露出時間又はそれらの双方のうちの1つを選択することによって前記画像取得時間を更新することと、iii)その判断に基づいて、前記光子束、前記露出時間又はそれらの双方の前記新たな値を用いて新たな画像のデータを取得することと、iv)信号対雑音比と、前記光子束、前記露出時間又はそれらの双方と、ピクセル強度との前記新たな値を用いて前記画像データの前記マップを更新することとを行うように構成され、
該画像取得モジュールは、未飽和ピクセルの前記信号対雑音比が所定の閾値よりも小さい場合、又は前記飽和ピクセル数が前記所定の閾値を越えている場合には、新たな画像のデータを取得するように構成され、
該画像取得モジュールは、前記非飽和ピクセルの前記所定の閾値の信号対雑音比が得られたとき、画像取得の前記所定の配分された時間が経過したとき、又は前記所定の最大画像数が取得されたときに、画像取得を終了する、
画像取得モジュールと、
前記画像取得モジュールからの前記画像データを観察用又は解析用の画像に変換する画像提示モジュールと、
を備える、システム。
請求項2:
前記光子束は設定値であり、前記システムは、露出時間を制御することによってカメラセンサ積分を制御し、前記較正モジュールは、様々なプレート及び培養基のデフォルトの光子束及び露出時間を求める、請求項1に記載のシステム。
請求項3:
信号対雑音比は、前記培養基上に分散された前記試料の前記画像の少なくとも一部分について求められる、請求項1に記載のシステム。
請求項4:
前記画像取得モジュールは、少なくとも1つ若しくは複数のチャネル又は少なくとも1つ若しくは複数のスペクトル帯について前記カメラから画像データを取得する、請求項1に記載のシステム。
請求項5:
前記画像取得モジュールは、画像取得ごとに各ピクセルの濃淡値を割り当て、該各ピクセルの濃淡値は、各画像取得後に更新される、請求項1に記載のシステム。
請求項6:
前記更新された濃淡値は、前記以前の濃淡値から所定の基準値を引いたものであり、該所定の基準値は、前記プレートに基づく所定の値であり、前記プレートの培地及び前記画像取得モジュールの前記露出時間は、取得ごとに各ピクセルの濃淡値を割り当て、各ピクセルの前記濃淡値は、各画像取得後に更新される、請求項5に記載のシステム。
請求項7:
前記光子束の前記新たな値は、新たな露出時間若しくは新たな光強度値又はそれらの双方を用いることによって得られる、請求項2に記載のシステム。
請求項8:
前記画像取得モジュールは、全てのピクセルが等しく扱われる自動モード又は前記解析されるピクセルが1つ又は複数の関心のある対象物に関連付けられたものとして識別されたピクセルであるスーパバイズモードのうちの少なくとも一方において動作するように構成されている、請求項1に記載のシステム。
請求項9:
前記光子束は設定値であり、前記システムは、露出時間を制御することによってカメラセンサ積分を制御する、請求項1に記載のシステム。
請求項10:
培養基に配置された生体試料を撮像する方法であって、
プレート内に支持された培養基上に配置された生体試料の画像を得るデフォルト値を求めることと、
第1の時間区間にわたり第1の時間において一連の画像に対応するデータを取得することであって、前記一連の画像内の前記第1の画像の前記データは、光子束及び露出時間の所定のデフォルトを用いて取得されることと、
前記画像データのピクセル単位のマップを作成することと、
各ピクセルのデータを信号対雑音比、光子束の値、露出時間の値、及び強度の値に関連付けることと、
前記画像の光子束の値及び前記露出時間の値のうちの少なくとも一方を、
i)前記画像データを飽和ピクセル及び前記ピクセルの前記信号対雑音比について再検査し、飽和ピクセルの数が所定の閾値よりも多いのか又は少ないのか及び前記信号対雑音比が所定の閾値よりも大きいのか又は小さいのかに基づいて、光子束及び露出時間のうちの少なくとも一方の新たな値を選択し、その判断に基づいて、光子束、露出時間、又はそれらの双方の前記新たな値を用いて、新たな画像を取得し、信号対雑音比、光子束及び露出時間、並びにピクセル強度の前記新たな値を用いて前記画像の前記マップを更新する
ことと、
ii)光子束及び露出時間の前記少なくとも一方の新たな値を用いて前記新たな画像のデータを取得することと、
iii)ステップi)及びii)を任意選択的に繰り返すことと、
によって更新することと、
前記画像データが前記所定の信号対雑音比の閾値以上であるとき、画像取得用の前記所定の最大割り当て時間が経過したとき、又は前記所定の最大数の画像が取得されたときに、前記時間区間の画像データ取得を終了することと、
第2の時間区間にわたる第2の時間について、前記取得するステップと、前記作成するステップと、前記関連付けるステップと、前記更新するステップと、終了するステップとを繰り返すことと、
第1の時間区間及び第2の時間区間において取得された前記画像データを第1の画像及び第2の画像に変換することであって、該第1の画像は前記第1の時間において取得され、該第2の画像は第2の時間において取得されることと、
を含む、方法。
請求項11:
前記光子束の値は一定であり、前記露出時間の値は更新され、前記所定のデフォルト値は、プレート、プレート培養物及び露出時間に基づいている、請求項10に記載の方法。
請求項12:
前記画像マップが作成される前記ピクセルを求めることを更に含み、前記ピクセルは、関心のある対象物に関連付けられている、請求項10に記載の方法。
請求項13:
前記デフォルト値は、デフォルトの露出時間において関心のある対象物に関連付けられた前記ピクセルの黒色レベルを含む、請求項12に記載の方法。
請求項14:
前記ピクセル単位のマップは、各ピクセルの濃淡値、前記信号対雑音比及び前記露出時間である、請求項10に記載の方法。
Claims (14)
- プレートに配置された培養基上に配置されている生体試料を撮像するシステムであって、
プレートに配置された培養基上に配置されている生体試料の画像を取り込む光子束及び露出時間のデフォルト値を提供するシステム較正モジュールと、
カメラを備える画像取得モジュールと、
前記画像取得モジュールからの画像データを観察用又は解析用の画像に変換する画像提示モジュールと
を備え、
該画像取得モジュールは、前記システム較正モジュールと通信して、所与の時間区間で一連の画像の画像データを取得するように適合され、前記画像取得モジュールは、i)前記システム較正モジュールからの光子束及び露出時間のデフォルト値を用い、画像データのピクセル単位のマップを作成して、第1の画像のデータを取得することであって、各ピクセルは、信号対雑音比と、光子束及び露出時間と、強度とに関連付けられていることと、ii)前記画像データを再検査して飽和ピクセルを識別し、飽和対非飽和ピクセルの比が所定の飽和閾値よりも多いのか又は少ないのかに基づいて新たな光子束値又は新たな露出時間値又はそれらの双方のうちの1つの選択を行うことによってその後の画像取得に用いられる値を新たな値として更新することと、iii)前記選択に基づいて、前記光子束、前記露出時間又はそれらの双方の前記新たな値を用いて新たな画像のデータを取得することと、iv)信号対雑音比と、前記光子束値又は前記露出時間値又はそれらの双方と、ピクセル強度との新たな値を用いて前記画像データの前記ピクセル単位のマップを更新することとを行うように構成され、
前記システム較正モジュールは、異なるタイプのプレート及び異なるタイプの培養基のライブラリと、該ライブラリの少なくとも1つのタイプのプレート及び少なくとも1つのタイプの培養基に相関する光子束のデフォルト値及び露出時間のデフォルト値とを備え、
前記画像取得モジュールは、非飽和ピクセルの信号対雑音比が所定の信号対雑音比閾値よりも小さい場合、又は飽和ピクセル数が所定の飽和閾値を越えている場合には、新たな画像のデータを取得するように構成され、
前記画像取得モジュールは、非飽和ピクセルの前記信号対雑音比が前記所定の信号対雑音比閾値以上のとき、画像取得の所定の配分された時間が経過したとき、又は所定の最大画像数が取得されたときに、画像取得を終了するものである、システム。 - 前記光子束は一定の値であり、前記システムは、露出時間を制御することによってカメラセンサ積分を制御する、請求項1に記載のシステム。
- 信号対雑音比は、前記プレートに配置された培養基上に配置された前記生体試料の前記画像の少なくとも一部分について求められる、請求項1に記載のシステム。
- 前記画像取得モジュールは、少なくとも1つ若しくは複数のチャネル又は少なくとも1つ若しくは複数のスペクトル帯について前記カメラから画像データを取得する、請求項1に記載のシステム。
- 前記画像取得モジュールは、画像取得ごとに各ピクセルの濃淡値を割り当て、該各ピクセルの濃淡値は、各画像取得後に更新される、請求項1に記載のシステム。
- 更新された前記濃淡値は、以前の濃淡値から所定の基準値を引いたものであり、該所定の基準値は、前記プレートと、前記プレートに配置された培養基及び前記露出時間とに基づく所定の値である、請求項5に記載のシステム。
- 前記光子束の前記新たな値は、新たな露出時間若しくは新たな光強度値又はそれらの双方を用いることによって得られる、請求項1に記載のシステム。
- 前記画像取得モジュールは、全てのピクセルが等しく扱われる自動モード又は解析のために提供された前記画像の前記ピクセルが1つ又は複数の関心のある対象物に関連付けられたものとして識別されたピクセルであるスーパバイズモードのうちの少なくとも一方において動作するように構成されている、請求項1に記載のシステム。
- 培養基に配置された生体試料を撮像する方法であって、
プレート内に支持された培養基上に配置された生体試料の画像を得るために用いられるデフォルト値を求めることであって、前記デフォルト値は、前記培養基及び前記培養基を支持する前記プレートに応じて得られることと、
第1の時間区間にわたり第1の時間において一連の画像に対応する画像データを取得することであって、前記一連の画像内の第1の画像の前記データは、光子束及び露出時間の所定のデフォルト値を用いて取得されることと、
前記取得された画像データのピクセル単位のマップを作成することと、
各ピクセルのデータを信号対雑音比と、光子束の値と、露出時間の値と、強度の値とに関連付けることと、
前記画像の光子束の値及び前記露出時間の値のうちの少なくとも一方の値を、i)前記取得されたデータを飽和ピクセル及び前記ピクセルの前記信号対雑音比について再検査し、飽和対非飽和ピクセルの比が所定の閾値よりも多いのか又は少ないのか及び非飽和ピクセルの信号対雑音比が所定の信号対雑音比閾値以上かに基づいて、光子束及び露出時間のうちの少なくとも一方の新たな値を選択し、前記選択に基づいて、光子束又は露出時間又はそれらの双方の前記新たな値を用いて、新たな画像を取得し、信号対雑音比と、光子束及び露出時間と、ピクセル強度の前記新たな値とを用いて前記画像の前記ピクセル単位のマップを更新することと、ii)光子束及び露出時間の前記少なくとも一方の新たな値を用いて前記新たな画像のデータを取得することと、iii)ステップi)及びii)を任意選択的に繰り返すこととによって更新することと、
前記画像データが前記所定の信号対雑音比の閾値以上であるとき又は画像取得用の所定の最大割り当て時間が経過したとき又は所定の最大数の画像が取得されたときに、ある時間区間の画像データ取得を終了することと、
第2の時間区間にわたる第2の時間について、前記取得するステップと、前記作成するステップと、前記関連付けるステップと、前記更新するステップと、終了するステップとを繰り返すことと、
第1の時間区間及び第2の時間区間において取得された前記画像データを第1の画像及び第2の画像に変換することであって、該第1の画像は前記第1の時間において取得され、該第2の画像は前記第2の時間において取得されることと、
前記第1の画像及び前記第2の画像のピクセルを比較することと、
前記第1の画像と前記第2の画像の間で変化した前記第2の画像中のピクセルを識別することと、
前記比較に基づいて、前記プレートが陽性であるか又は陰性であるか又は更なる培養を必要とするかどうかを決定することと
を含む、方法。 - 前記光子束の値は一定であり、前記露出時間の値は更新される、請求項9に記載の方法。
- 関心のある対象物に関連付けられ、且つ画像を作成するものであるピクセルを決定することを更に含む、請求項9に記載の方法。
- 前記デフォルト値は、デフォルトの露出時間において関心のある対象物に関連付けられた前記ピクセルの黒色レベルを含む、請求項11に記載の方法。
- 前記ピクセル単位のマップは、各ピクセルの濃淡値と、前記信号対雑音比及び前記露出時間とで構成される、請求項9に記載の方法。
- 前記画像データは、カメラセンサを用いて取得され、前記光子束は一定の値であり、前記方法は、露出時間を制御することによってカメラセンサの積分を制御するステップを更に含む、請求項9に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201461933426P | 2014-01-30 | 2014-01-30 | |
US61/933,426 | 2014-01-30 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016548311A Division JP6687524B2 (ja) | 2014-01-30 | 2015-01-30 | スーパバイズされた高品質撮像を用いた画像取得のシステム及び方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020115148A JP2020115148A (ja) | 2020-07-30 |
JP7036858B2 true JP7036858B2 (ja) | 2022-03-15 |
Family
ID=52595270
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016548311A Active JP6687524B2 (ja) | 2014-01-30 | 2015-01-30 | スーパバイズされた高品質撮像を用いた画像取得のシステム及び方法 |
JP2020065968A Active JP7036858B2 (ja) | 2014-01-30 | 2020-04-01 | 生体試料を撮像するシステム及び方法 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016548311A Active JP6687524B2 (ja) | 2014-01-30 | 2015-01-30 | スーパバイズされた高品質撮像を用いた画像取得のシステム及び方法 |
Country Status (11)
Country | Link |
---|---|
US (2) | US10200625B2 (ja) |
EP (2) | EP3100025B1 (ja) |
JP (2) | JP6687524B2 (ja) |
CN (2) | CN111263076B (ja) |
AU (2) | AU2015212758B2 (ja) |
BR (1) | BR112016017321B1 (ja) |
CA (1) | CA2936961C (ja) |
ES (2) | ES2867811T3 (ja) |
MX (1) | MX364965B (ja) |
WO (1) | WO2015114121A1 (ja) |
ZA (1) | ZA201604925B (ja) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TR201901658T4 (tr) | 2008-05-20 | 2019-02-21 | Univ Health Network | Floresan bazli görüntüleme ve i̇zleme i̇çi̇n ci̇haz ve metot |
US11041871B2 (en) | 2014-04-16 | 2021-06-22 | Bd Kiestra B.V. | System and method for incubation and reading of biological cultures |
CN106714670A (zh) | 2014-07-24 | 2017-05-24 | 大学健康网络 | 用于诊断目的的数据的收集和分析 |
US10696938B2 (en) | 2015-04-23 | 2020-06-30 | Bd Kiestra B. V. | Method and system for automated microbial colony counting from streaked sample on plated media |
KR102664258B1 (ko) | 2015-04-23 | 2024-05-07 | 비디 키에스트라 비.브이. | 콜로니 콘트라스트 수집 |
DK3304032T3 (da) | 2015-05-28 | 2024-05-13 | Bd Kiestra Bv | Automatiseret fremgangsmåde og system til at opnå og fremstille mikroorganismeprøver til både identifikations- og antibiotisk susceptibilitetstest |
US10523874B2 (en) * | 2016-02-16 | 2019-12-31 | Sony Corporation | Image processing apparatus, image processing method, and program |
ES2907811T3 (es) * | 2016-11-10 | 2022-04-26 | Becton Dickinson Co | Sistema de línea de tiempo para supervisar un protocolo de medio de cultivo |
ES2975773T3 (es) | 2017-09-28 | 2024-07-15 | Bd Kiestra Bv | Métodos y sistemas para la evaluación automatizada de la sensibilidad a antibióticos |
WO2019070975A1 (en) | 2017-10-05 | 2019-04-11 | Becton Dickinson And Company | ENVIRONMENT FOR DEVELOPING APPLICATIONS FOR EVALUATION PROCESSING OF BIOLOGICAL SAMPLES |
EP3899789A4 (en) * | 2018-12-20 | 2022-10-05 | Tracxone Ltd. | SYSTEM AND METHOD FOR CLASSIFIER LEARNING AND RECOVERY FROM A CLASSIFIER DATABASE FOR LARGE-SCALE PRODUCT IDENTIFICATION |
AU2019410266A1 (en) | 2018-12-20 | 2021-07-15 | Bd Kiestra B.V. | A system and method for monitoring bacterial growth of bacterial colonies and predicting colony biomass |
EP3709628B1 (en) * | 2019-03-14 | 2020-12-23 | Axis AB | Control of an illuminator |
CN110809122A (zh) * | 2019-11-11 | 2020-02-18 | 中国电子科技集团公司第四十四研究所 | 应用于cmos图像传感器的动态扩展方法 |
CN116348800A (zh) * | 2020-08-05 | 2023-06-27 | 莱卡微系统Cms有限责任公司 | 用于在荧光显微镜中进行照明设定的方法和相应的荧光显微镜 |
BR112023005461A2 (pt) | 2020-10-07 | 2023-05-09 | Bd Kiestra Bv | Sistema para obter imagem de um prato de cultura semeada usando um dispositivo de captura de imagem tendo uma lente telecêntrica |
CN112764358B (zh) * | 2020-12-28 | 2022-04-15 | 中国人民解放军战略支援部队航天工程大学 | 一种地球同步轨道目标光学观测曝光时间动态控制方法 |
TWI802999B (zh) * | 2021-09-23 | 2023-05-21 | 鴻海精密工業股份有限公司 | 細胞採收提醒方法及系統 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005308504A (ja) | 2004-04-21 | 2005-11-04 | Yokogawa Electric Corp | バイオチップ測定方法およびバイオチップ読取装置 |
CN101052100A (zh) | 2007-03-29 | 2007-10-10 | 上海交通大学 | 多曝光图像增强方法 |
JP2008205530A (ja) | 2007-02-16 | 2008-09-04 | Seiko Epson Corp | 撮像装置、撮像システム及び撮像方法 |
JP2008301332A (ja) | 2007-06-01 | 2008-12-11 | Keyence Corp | 拡大観察装置、拡大画像撮影方法、拡大画像撮影プログラム及びコンピュータで読み取り可能な記録媒体 |
US20090086046A1 (en) | 2007-08-31 | 2009-04-02 | Historx, Inc. | Automatic exposure time selection for imaging tissue |
JP2012500972A (ja) | 2008-08-20 | 2012-01-12 | ニューヨーク ブラッド センター, インコーポレイテッド | 高解像度デジタル撮像、分染および自動化実験室システムの使用による、cfuアッセイのための高スループットシステム |
WO2012152769A1 (en) | 2011-05-06 | 2012-11-15 | Biomerieux | Bio-imaging method and system |
JP2013546083A (ja) | 2010-11-30 | 2013-12-26 | ゼネラル・エレクトリック・カンパニイ | 異なる露光時間に対して画像をスケーリングする方法 |
Family Cites Families (96)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4700298A (en) | 1984-09-14 | 1987-10-13 | Branko Palcic | Dynamic microscope image processing scanner |
US4724215A (en) | 1985-02-27 | 1988-02-09 | Sherwood Medical Company | Automated microbiological testing apparatus and method |
JP3396237B2 (ja) | 1992-06-08 | 2003-04-14 | セイコーインスツルメンツ株式会社 | 分光測定装置 |
EP0656938B1 (en) | 1992-07-13 | 1997-10-29 | Minnesota Mining And Manufacturing Company | A technique to count objects in a scanned image |
US5723308A (en) | 1993-05-14 | 1998-03-03 | Minnesota Mining And Manufacturing Company | Culture medium for rapid count of coliform bacteria |
EP0698084B1 (en) | 1993-05-14 | 1998-06-24 | Minnesota Mining And Manufacturing Company | Method for rapid quantification of microorganism growth |
FR2719602B1 (fr) | 1994-05-05 | 1996-07-26 | Biocom Sa | Procédé et installation pour la numérisation de cellules et micro-organismes, notamment des produits alimentaires ou des fluides biologiques. |
US5978497A (en) | 1994-09-20 | 1999-11-02 | Neopath, Inc. | Apparatus for the identification of free-lying cells |
US5694478A (en) | 1994-12-15 | 1997-12-02 | Minnesota Mining And Manufacturing Company | Method and apparatus for detecting and identifying microbial colonies |
US6122396A (en) | 1996-12-16 | 2000-09-19 | Bio-Tech Imaging, Inc. | Method of and apparatus for automating detection of microorganisms |
US7117098B1 (en) | 1997-02-27 | 2006-10-03 | Cellomics, Inc. | Machine-readable storage medium for analyzing distribution of macromolecules between the cell membrane and the cell cytoplasm |
GB9714347D0 (en) | 1997-07-09 | 1997-09-10 | Oxoid Ltd | Image analysis systems and devices for use therewith |
AU8846498A (en) | 1997-08-07 | 1999-03-01 | Imaging Research, Inc. | A digital imaging system for assays in well plates, gels and blots |
JP4448251B2 (ja) | 1998-12-28 | 2010-04-07 | サッポロビール株式会社 | 微生物計数方法及びそれを達成するための装置 |
US8131053B2 (en) | 1999-01-25 | 2012-03-06 | Amnis Corporation | Detection of circulating tumor cells using imaging flow cytometry |
US6153400A (en) | 1999-03-12 | 2000-11-28 | Akzo Nobel N.V. | Device and method for microbial antibiotic susceptibility testing |
US6453060B1 (en) | 1999-06-29 | 2002-09-17 | Tri Path Imaging, Inc. | Method and apparatus for deriving separate images from multiple chromogens in a branched image analysis system |
IL132687A0 (en) | 1999-11-01 | 2001-03-19 | Keren Mechkarim Ichilov Pnimit | System and method for evaluating body fluid samples |
US7065242B2 (en) | 2000-03-28 | 2006-06-20 | Viewpoint Corporation | System and method of three-dimensional image capture and modeling |
BR0003066A (pt) | 2000-07-21 | 2002-04-30 | Fundacao Oswaldo Cruz | Método e dispositivo para detecção microrganismos à fibra óptica |
GB0107155D0 (en) | 2001-03-22 | 2001-05-09 | Finecard Internat Ltd | A play tunnel |
WO2002097716A1 (en) | 2001-05-29 | 2002-12-05 | Tissueinformatics, Inc. | Robust stain detection and quantification for histological specimens based on a physical model for stain absorption |
US7863552B2 (en) | 2001-07-06 | 2011-01-04 | Palantyr Research Llc | Digital images and related methodologies |
US6884983B2 (en) | 2002-06-10 | 2005-04-26 | Palantyr Research, Llc | Imaging system for examining biological material |
EP1428018B1 (en) | 2001-09-06 | 2010-06-09 | Straus Holdings Inc. | Rapid and sensitive detection of molecules |
US7065236B2 (en) | 2001-09-19 | 2006-06-20 | Tripath Imaging, Inc. | Method for quantitative video-microscopy and associated system and computer software program product |
US6605446B2 (en) | 2001-10-18 | 2003-08-12 | Gideon Eden | Detecting airborne microorganisms |
AU2003201746A1 (en) | 2002-01-15 | 2003-07-30 | Yissum Research Development Company Of The Hebrew University Of Jerusalem | System and method for compressing the dynamic range of an image |
US7133547B2 (en) | 2002-01-24 | 2006-11-07 | Tripath Imaging, Inc. | Method for quantitative video-microscopy and associated system and computer software program product |
US7351574B2 (en) | 2002-11-27 | 2008-04-01 | 3M Innovative Properties Company | Loading and ejection systems for biological growth plate scanner |
US7319031B2 (en) * | 2002-11-27 | 2008-01-15 | 3M Innovative Properties Company | Mounting platform for biological growth plate scanner |
US20040101954A1 (en) | 2002-11-27 | 2004-05-27 | Graessle Josef A. | Back side plate illumination for biological growth plate scanner |
US20040102903A1 (en) | 2002-11-27 | 2004-05-27 | Graessle Josef A. | Biological growth plate scanner |
CN100396768C (zh) | 2002-11-27 | 2008-06-25 | 3M创新有限公司 | 生物培养板扫描仪的装载和弹出系统 |
JP2006508362A (ja) * | 2002-11-27 | 2006-03-09 | スリーエム イノベイティブ プロパティズ カンパニー | 生物成長プレートスキャナ |
US20040253742A1 (en) | 2003-01-31 | 2004-12-16 | Affleck Rhett L. | Automated imaging system and method |
US20040253660A1 (en) | 2003-06-12 | 2004-12-16 | Giles Scientific, Inc. | Automated microbiological testing apparatus and method |
CA2532414C (en) | 2003-07-12 | 2017-03-14 | Accelr8 Technology Corporation | Sensitive and rapid biodetection |
US7341841B2 (en) | 2003-07-12 | 2008-03-11 | Accelr8 Technology Corporation | Rapid microbial detection and antimicrobial susceptibility testing |
US7496225B2 (en) * | 2003-09-04 | 2009-02-24 | 3M Innovative Properties Company | Biological growth plate scanner with automated intake |
US7298886B2 (en) | 2003-09-05 | 2007-11-20 | 3M Innovative Properties Company | Counting biological agents on biological growth plates |
US7623728B2 (en) | 2004-03-24 | 2009-11-24 | General Electric Company | Method and product for processing digital images |
US7854705B2 (en) | 2004-12-16 | 2010-12-21 | Olga Pawluczyk | Ex vivo verification of biopsy tissue samples |
US7060955B1 (en) | 2005-01-31 | 2006-06-13 | Chemimage Corporation | Apparatus and method for defining illumination parameters of a sample |
US7666355B2 (en) | 2005-03-07 | 2010-02-23 | Tino Alavie | Automated analyzer |
CN1703079A (zh) * | 2005-04-11 | 2005-11-30 | 浙江大学 | 自适应扩展动态范围的成像方法及其装置 |
EP1975875A3 (en) | 2005-05-13 | 2008-10-08 | Tripath Imaging, Inc. | Methods of chromogen separation-based image analysis |
US7732743B1 (en) * | 2005-06-03 | 2010-06-08 | Michael Paul Buchin | Low-photon-flux image acquisition and processing tool |
US7796815B2 (en) | 2005-06-10 | 2010-09-14 | The Cleveland Clinic Foundation | Image analysis of biological objects |
US8131477B2 (en) | 2005-11-16 | 2012-03-06 | 3M Cogent, Inc. | Method and device for image-based biological data quantification |
FI20051329A0 (fi) | 2005-12-27 | 2005-12-27 | Wallac Oy | Laitteisto ja menetelmä näytteiden optista mittausta varten |
JP4899523B2 (ja) | 2006-02-20 | 2012-03-21 | 日本電産株式会社 | 遠心ファン |
US8428331B2 (en) | 2006-08-07 | 2013-04-23 | Northeastern University | Phase subtraction cell counting method |
US7884869B2 (en) | 2007-04-30 | 2011-02-08 | Motorola Mobility, Inc. | Assignment of pixel element exposure times in digital camera modules and mobile communication devices |
JP4863932B2 (ja) | 2007-06-04 | 2012-01-25 | 株式会社エヌテック | コロニー数の計数方法 |
US9012209B2 (en) | 2008-01-17 | 2015-04-21 | Neogen Corporation | CO2 optical sensor for detection and enumeration of microorganisms |
WO2009111301A1 (en) | 2008-03-04 | 2009-09-11 | 3M Innovative Properties Company | Information management in automated processing of biological growth media |
JP5608159B2 (ja) | 2008-03-26 | 2014-10-15 | スリーエム イノベイティブ プロパティズ カンパニー | 生物学的増殖培地のスペクトル解析 |
TR201901658T4 (tr) | 2008-05-20 | 2019-02-21 | Univ Health Network | Floresan bazli görüntüleme ve i̇zleme i̇çi̇n ci̇haz ve metot |
US9240043B2 (en) * | 2008-09-16 | 2016-01-19 | Novartis Ag | Reproducible quantification of biomarker expression |
JP5805628B2 (ja) | 2009-05-15 | 2015-11-04 | ビオメリュー・インコーポレイテッド | 微生物の自動検出装置 |
CN102483802B (zh) | 2009-06-01 | 2014-12-31 | 生物辐射实验室股份有限公司 | 用于生物/化学样本的成像设备的校准 |
US8570370B2 (en) | 2009-08-31 | 2013-10-29 | Bio-Rad Laboratories, Inc. | Compact automated cell counter |
US8840840B2 (en) | 2009-12-08 | 2014-09-23 | 3M Innovative Properties Company | Illumination apparatus and methods for a biological growth plate scanner |
FR2958298B1 (fr) | 2010-04-06 | 2014-10-17 | Commissariat Energie Atomique | Procede de detection d'amas de particules biologiques |
TWI420413B (zh) | 2010-07-15 | 2013-12-21 | Chunghwa Picture Tubes Ltd | 深度圖強化方法及其電腦可讀媒體 |
CN102590087B (zh) * | 2011-01-10 | 2015-11-25 | 伊鲁米那股份有限公司 | 用于生物或化学分析的样品的成像方法 |
FR2971846B1 (fr) | 2011-02-21 | 2013-12-06 | Commissariat Energie Atomique | Procede d'observation d'un echantillon |
WO2012119188A1 (en) | 2011-03-04 | 2012-09-13 | Lbt Innovations Limited | Method for improving classification results of a classifier |
AU2012225194B2 (en) | 2011-03-04 | 2014-11-13 | Lbt Innovations Limited | Colour calibration method for an image capture device |
ES2928897T3 (es) | 2011-03-04 | 2022-11-23 | Lbt Innovations Ltd | Método y software para analizar el crecimiento microbiano |
JP5898239B2 (ja) * | 2011-03-04 | 2016-04-06 | エルビーティー イノベーションズ リミテッド | 画像キャプチャおよび照明装置 |
JP2013066142A (ja) | 2011-08-31 | 2013-04-11 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
EP2578693A1 (en) | 2011-10-07 | 2013-04-10 | Koninklijk Instituut voor de Tropen | Method for detecting bacteria |
US10475527B2 (en) * | 2012-03-22 | 2019-11-12 | Biomerieux, Inc. | Method and system for detection of microbial growth in a specimen container |
EP2889366A4 (en) | 2012-08-23 | 2016-04-27 | Dainippon Printing Co Ltd | SYSTEM FOR REGISTERING INFORMATION ON CULTURAL MEDIA, COLONY DETECTION DEVICE, PROGRAM AND HEALTH MANAGEMENT SYSTEM |
GB201216661D0 (en) | 2012-09-18 | 2012-10-31 | Spicer Consulting Ltd | photobioreactor |
FR2997502B1 (fr) | 2012-10-29 | 2014-12-26 | Commissariat Energie Atomique | Procede d'observation d'especes biologiques. |
EP2731051A1 (en) | 2012-11-07 | 2014-05-14 | bioMérieux | Bio-imaging method |
CN104870650B (zh) | 2012-12-20 | 2018-09-11 | 3M创新有限公司 | 区别图像中的微生物菌落的方法 |
US20140177494A1 (en) | 2012-12-21 | 2014-06-26 | Alexander W. Min | Cloud-aware collaborative mobile platform power management using mobile sensors |
FR3001227B1 (fr) | 2013-01-21 | 2015-02-27 | Biomerieux Sa | Moyen, procede et produit-programme d’ordinateur pour determiner le taux de concentration de micro-organismes lors d’une analyse de fluide |
US9677109B2 (en) | 2013-03-15 | 2017-06-13 | Accelerate Diagnostics, Inc. | Rapid determination of microbial growth and antimicrobial susceptibility |
CN203385649U (zh) | 2013-03-20 | 2014-01-08 | 上海交通大学 | 大尺度生物组织连续切片的自动化成像系统 |
ITMI20130692A1 (it) | 2013-04-26 | 2014-10-27 | Copan Italia Spa | Dispositivo e procedimento per il processamento automatico di piastre di coltura per campioni microbiologici |
EP3000098B1 (en) | 2013-05-23 | 2018-08-29 | Biomérieux | Method, system and computer program product for improving the quality of an image |
WO2015101886A1 (en) | 2014-01-03 | 2015-07-09 | Copan Italia S.P.A. | Apparatus and method for treatment of diagnostic information relating to samples of microbiological material |
FR3020485A1 (fr) | 2014-04-25 | 2015-10-30 | Biomerieux Sa | Procede, systeme et produit-programme d'ordinateur pour afficher une image d'un objet |
FR3021054B1 (fr) | 2014-05-14 | 2016-07-01 | Biomerieux Sa | Procede et systeme d’observation d’especes biologiques sur un milieu de culture |
FR3022916B1 (fr) | 2014-06-30 | 2018-04-06 | Biomerieux | Procede de detection d'une presence ou d'une absence de particules biologiques. |
CN106714670A (zh) | 2014-07-24 | 2017-05-24 | 大学健康网络 | 用于诊断目的的数据的收集和分析 |
US9347082B2 (en) | 2014-08-28 | 2016-05-24 | Omnivision Technologies, Inc. | Automated cell growth/migration detection system and associated methods |
FR3028866B1 (fr) | 2014-11-26 | 2018-03-09 | bioMérieux | Procede, systeme et produit-programme d'ordinateur pour determiner la croissance de micro-organismes |
FR3030749B1 (fr) | 2014-12-19 | 2020-01-03 | Commissariat A L'energie Atomique Et Aux Energies Alternatives | Methode d'identification de particules biologiques par piles d'images holographiques defocalisees |
EP3286730A2 (en) | 2015-04-21 | 2018-02-28 | Joseph Paul Robinson | Culture detection and measurement over time |
FR3038620B1 (fr) | 2015-07-09 | 2019-05-24 | Biomerieux | Procede de detection d'une presence ou d'une absence d'au moins une premiere zone d'inhibition |
-
2015
- 2015-01-30 US US15/115,715 patent/US10200625B2/en active Active
- 2015-01-30 CN CN202010061071.8A patent/CN111263076B/zh active Active
- 2015-01-30 ES ES15706696T patent/ES2867811T3/es active Active
- 2015-01-30 AU AU2015212758A patent/AU2015212758B2/en active Active
- 2015-01-30 ES ES21159681T patent/ES2976049T3/es active Active
- 2015-01-30 CN CN201580006407.8A patent/CN105960586B/zh active Active
- 2015-01-30 CA CA2936961A patent/CA2936961C/en active Active
- 2015-01-30 WO PCT/EP2015/052017 patent/WO2015114121A1/en active Application Filing
- 2015-01-30 EP EP15706696.0A patent/EP3100025B1/en active Active
- 2015-01-30 JP JP2016548311A patent/JP6687524B2/ja active Active
- 2015-01-30 BR BR112016017321-0A patent/BR112016017321B1/pt active IP Right Grant
- 2015-01-30 MX MX2016009829A patent/MX364965B/es active IP Right Grant
- 2015-01-30 EP EP21159681.2A patent/EP3851832B1/en active Active
-
2016
- 2016-07-15 ZA ZA2016/04925A patent/ZA201604925B/en unknown
-
2018
- 2018-12-13 US US16/218,582 patent/US10841503B2/en active Active
-
2020
- 2020-02-07 AU AU2020200895A patent/AU2020200895B2/en active Active
- 2020-04-01 JP JP2020065968A patent/JP7036858B2/ja active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005308504A (ja) | 2004-04-21 | 2005-11-04 | Yokogawa Electric Corp | バイオチップ測定方法およびバイオチップ読取装置 |
DE102005018092A1 (de) | 2004-04-21 | 2005-11-24 | Yokogawa Electric Corp., Musashino | Biochip-Messverfahren und Biochip-Messvorrichtung |
JP2008205530A (ja) | 2007-02-16 | 2008-09-04 | Seiko Epson Corp | 撮像装置、撮像システム及び撮像方法 |
CN101052100A (zh) | 2007-03-29 | 2007-10-10 | 上海交通大学 | 多曝光图像增强方法 |
JP2008301332A (ja) | 2007-06-01 | 2008-12-11 | Keyence Corp | 拡大観察装置、拡大画像撮影方法、拡大画像撮影プログラム及びコンピュータで読み取り可能な記録媒体 |
US20090086046A1 (en) | 2007-08-31 | 2009-04-02 | Historx, Inc. | Automatic exposure time selection for imaging tissue |
JP2012500972A (ja) | 2008-08-20 | 2012-01-12 | ニューヨーク ブラッド センター, インコーポレイテッド | 高解像度デジタル撮像、分染および自動化実験室システムの使用による、cfuアッセイのための高スループットシステム |
JP2013546083A (ja) | 2010-11-30 | 2013-12-26 | ゼネラル・エレクトリック・カンパニイ | 異なる露光時間に対して画像をスケーリングする方法 |
WO2012152769A1 (en) | 2011-05-06 | 2012-11-15 | Biomerieux | Bio-imaging method and system |
Also Published As
Publication number | Publication date |
---|---|
US20190116303A1 (en) | 2019-04-18 |
CN105960586A (zh) | 2016-09-21 |
JP2020115148A (ja) | 2020-07-30 |
US10841503B2 (en) | 2020-11-17 |
EP3100025B1 (en) | 2021-03-03 |
ES2976049T3 (es) | 2024-07-22 |
US10200625B2 (en) | 2019-02-05 |
CA2936961C (en) | 2018-11-13 |
CN111263076B (zh) | 2021-06-18 |
AU2015212758B2 (en) | 2019-11-21 |
AU2020200895A1 (en) | 2020-02-27 |
JP2017505905A (ja) | 2017-02-23 |
AU2020200895B2 (en) | 2021-04-29 |
EP3851832B1 (en) | 2024-01-17 |
ES2867811T3 (es) | 2021-10-20 |
EP3851832A1 (en) | 2021-07-21 |
CN105960586B (zh) | 2020-03-03 |
US20170013181A1 (en) | 2017-01-12 |
CN111263076A (zh) | 2020-06-09 |
WO2015114121A1 (en) | 2015-08-06 |
AU2015212758A1 (en) | 2016-08-11 |
BR112016017321B1 (pt) | 2021-03-16 |
CA2936961A1 (en) | 2015-08-06 |
JP6687524B2 (ja) | 2020-04-22 |
MX364965B (es) | 2019-05-15 |
ZA201604925B (en) | 2020-02-26 |
MX2016009829A (es) | 2016-10-31 |
EP3100025A1 (en) | 2016-12-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7036858B2 (ja) | 生体試料を撮像するシステム及び方法 | |
CN108027328B (zh) | 宝石的颜色测量 | |
AU2012242996B2 (en) | Method for preparing quantitative video-microscopy and associated system | |
KR101776355B1 (ko) | 광학 검사 파라미터를 설정하는 장치 및 방법 | |
JP2010078611A (ja) | 定量ビデオ顕微鏡法とそれに関連するシステムおよびコンピュータソフトウェアプログラム製品 | |
US20220076395A1 (en) | Microscopy System and Method for Generating an HDR Image | |
WO2021014682A1 (ja) | 粒子定量装置 | |
KR101517554B1 (ko) | 공액구배 알고리즘을 이용한 비전시스템의 컬러 조명 제어방법 | |
KR101497920B1 (ko) | 최급경사 알고리즘을 이용한 비전시스템의 컬러 조명 제어방법 | |
KR101469616B1 (ko) | 뉴턴법 알고리즘을 이용한 비전시스템의 컬러 조명 제어방법 | |
CN115210753A (zh) | 用于菌落计数的图像中的强度差异补偿 | |
Bieniecki et al. | VARIOUS APPROACHES TO PROCESSING AND ANALYSIS OF IMAGES OBTAINED FROM IMMUNOENZYMATIC VISUALIZATION OF SECRETORY ACTIVITY WITH ELISPOT METHOD |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200427 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200427 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210324 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210402 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210629 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20211029 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20211124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220204 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220303 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7036858 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |