JP2020009217A - 画像処理方法、コンピュータプログラムおよび記録媒体 - Google Patents

画像処理方法、コンピュータプログラムおよび記録媒体 Download PDF

Info

Publication number
JP2020009217A
JP2020009217A JP2018130452A JP2018130452A JP2020009217A JP 2020009217 A JP2020009217 A JP 2020009217A JP 2018130452 A JP2018130452 A JP 2018130452A JP 2018130452 A JP2018130452 A JP 2018130452A JP 2020009217 A JP2020009217 A JP 2020009217A
Authority
JP
Japan
Prior art keywords
image
area
region
processing
cell
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018130452A
Other languages
English (en)
Other versions
JP7161875B2 (ja
Inventor
健 猿渡
Ken Saruwatari
健 猿渡
智靖 古田
Tomoyasu Furuta
智靖 古田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Screen Holdings Co Ltd
Original Assignee
Screen Holdings Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Screen Holdings Co Ltd filed Critical Screen Holdings Co Ltd
Priority to JP2018130452A priority Critical patent/JP7161875B2/ja
Priority to US16/450,094 priority patent/US11017206B2/en
Publication of JP2020009217A publication Critical patent/JP2020009217A/ja
Application granted granted Critical
Publication of JP7161875B2 publication Critical patent/JP7161875B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/10Image enhancement or restoration using non-spatial domain filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/181Segmentation; Edge detection involving edge growing; involving edge linking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/431Frequency domain transformation; Autocorrelation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/695Preprocessing, e.g. image segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

【課題】画像から細胞や細胞構造体の領域を的確に抽出する。【解決手段】本発明に係る画像処理方法は、細胞または細胞構造体を被撮像物として含む原画像を取得する第1工程(S101)と、原画像に対し、被撮像物の輪郭の幅に応じた帯域の空間周波数成分を通過帯域とするバンドパスフィルタ処理を実行する第2工程(S102)と、所定の閾値より高濃度である領域を第1領域、それ以外の領域を第2領域として区分する第3工程(S103)と、第2領域のうち第1領域に挟まれた部位の一部を第1領域に変更して、当該第2領域を挟む第1領域の間を連結する第4工程(S104)と、第2領域のうち第1領域により周囲を囲まれた閉領域を第1領域に変更する第5工程(S105)と、第1領域をくびれの位置で複数に分割する第6工程(S107)とを備える。【選択図】図1

Description

この発明は、細胞または複数の細胞が集まってなる細胞構造体を被撮像物として撮像した画像から、被撮像物の領域を抽出するための画像処理技術に関するものである。
例えば容器内で培養された細胞のような試料に対し、細胞の数や大きさなどの定量的な計測を行う目的で撮像が行われる場合がある。このために、細胞に蛍光試薬等を導入して撮像を行うことがあるが、このような操作は細胞にダメージを与えることになる。一方、操作継続的な培養や観察等のために、非侵襲的な方法で撮像および計測を行うことが必要な場合がある。
このような要求に応えるものとして、例えば特許文献1に記載されたものがある。この技術においては、画像の濃度に対して2段階の閾値を設定し、その閾値との比較により、画像を生細胞、死細胞およびその他の領域に区分している。
特開2016−116461号公報
上記従来技術は、濃度一様な背景に細胞が分布しており、また細胞が背景に対して有意な濃度差を有しているとの前提に立っている。しかしながら、実際の試料においては、背景は必ずしも一様ではなく、また細胞の濃度も背景に対し明確な差異を有していない場合が多い。さらに、画像には計測対象の細胞や細胞構造体以外の構造物も含まれ得る。これらに起因して、単に濃度値に対し閾値を設定して画像を区分する方法では、計測対象の細胞や細胞構造体を的確に抽出することが難しいという問題がある。
この発明は上記課題に鑑みなされたものであり、画像から細胞や細胞構造体の領域を的確に抽出することのできる技術を提供することを目的とする。
この発明に係る画像処理方法の一の態様は、上記目的を達成するため、細胞、または複数の細胞が集まった細胞構造体を被撮像物として含む原画像を取得する第1工程と、前記原画像に対し、前記被撮像物の輪郭の幅に応じて定められた帯域の空間周波数成分に対して前記帯域外の空間周波数成分を相対的に減衰させるバンドパスフィルタ処理を実行する第2工程と、前記第2工程後の画像について、所定の閾値より高濃度である領域を第1領域、それ以外の領域を第2領域として区分する第3工程と、前記第3工程後の画像について、前記第2領域のうち前記第1領域に挟まれた部位の一部を前記第1領域に変更して、当該第2領域を挟む前記第1領域の間を連結する第4工程と、前記第4工程後の画像について、前記第2領域のうち前記第1領域により周囲を囲まれた閉領域を前記第1領域に変更する第5工程と、前記第5工程後の画像について、くびれを有する前記第1領域を該くびれの位置で複数に分割する第6工程とを備えている。
このように構成された発明は、画像中における細胞または細胞構造体(以下、「細胞等」と総称する)の像が概ね一定幅の輪郭を有しているとの知見を利用している。すなわち、画像中において所定幅、所定濃度の輪郭に囲まれた領域が、細胞等に対応する領域である蓋然性が高いと言える。したがってそのような領域を画像から抽出すればよい。しかしながら、細胞等の周囲の背景濃度にムラがあること、細胞等自身の輪郭に幅の変動や不明瞭な部分があること、被撮像物である細胞等以外の構造物や老廃物(デブリ)などが画像中に含まれ得ることなどの原因により、単純な閾値による二値化や一般的な輪郭抽出が有効に機能しないことがある。
そこで、この発明では、次のようにして画像から細胞等の領域を抽出する。すなわち、細胞等を含む原画像に対し、まず細胞等の輪郭の幅に対応する空間周波数成分を選択的に残すためのバンドパスフィルタ処理が行われる(第2工程)。これにより、原画像中で輪郭幅に近いサイズの構造物が強調される一方、比較的小さい細胞等以外の構造物や、緩やかな濃度変化を有する背景のムラ等に対応する成分が低減される。画像中における細胞等の概略サイズを知ることが可能であれば、このように輪郭のサイズに合わせた抽出処理が可能である。
細胞等の輪郭部分は、画像中では周囲に比べて高濃度である。したがって、フィルタ後の画像から比較的高濃度の領域(本発明にいう第1領域)をより低濃度の領域から分離すれば(第3工程)、高濃度領域に細胞等の輪郭が含まれる蓋然性が高い。ただし、前述の理由で、抽出される輪郭が部分的に欠落する場合がある。これを補うために、第2領域を挟んで対向する第1領域を連結する(第4工程)。こうして抽出され欠損部分を補償された輪郭で囲まれた閉領域の内部領域は細胞等の内部と考えられるから、当該領域は全て第1領域とみなされる(第5工程)。
さらに、複数の細胞等同士が画像中で部分的に重なり合っている場合がある。これらを一体のものとみなすと定量的な計測における誤差要因となり得る。そこで、くびれを有する第1領域については該くびれ位置で複数の領域に分割する(第6工程)。こうすることで、本来は別体であるが画像中で重なっている複数の細胞等を分離することができる。
以上の処理により、本発明では、背景濃度のムラや細胞等自身の輪郭の不明瞭さ、画像に含まれる細胞等以外の物体等の影響を抑えて、画像から細胞等の領域を的確に抽出することが可能である。
本発明に係る画像処理方法は、コンピュータをその実行主体とすることが可能なものである。この意味において、本発明は、コンピュータに上記処理を実行させるためのコンピュータプログラムとして実現することが可能である。また、当該コンピュータプログラムを記録した記録媒体として実現することも可能である。
上記のように、本発明の画像処理方法によれば、細胞等(細胞または細胞構造体)の輪郭幅に対応したバンドパスフィルタ処理、輪郭の欠損を補うための処理、および画像中で重なり合った細胞等を分離する処理等を含む画像処理が行われる。これにより、背景濃度のムラや細胞等自身の輪郭の不明瞭さ、画像に含まれる細胞等以外の物体等の影響を抑えて、画像から細胞等の領域を的確に抽出することが可能である。
本実施形態の画像処理を示すフローチャートである。 この実施形態の画像処理を実行するコンピュータ装置の構成例である。 バンドパスフィルタ処理を示すフローチャートである。 輪郭つなぎ処理を示すフローチャートである。 処理に伴う画像の変化の例を模式的に示す第1の図である。 処理に伴う画像の変化の例を模式的に示す第2の図である。 処理に伴う画像の変化の例を模式的に示す第3の図である。 処理に伴う画像の変化の例を模式的に示す第4の図である。 画像処理フローの変形例を示す図である。 変形例における画像の変化の例を模式的に示す図である。
以下、本発明に係る画像処理方法の一実施形態について説明する。この実施形態における画像処理は、培地中で培養された細胞または複数の細胞が集合した細胞構造体を撮像した画像から、細胞または細胞構造体(以下、「細胞等」と総称する)の領域とその他の領域とを分割し、結果画像を出力する処理である。この画像処理は、細胞を含む試料を撮像する撮像機能を備えた撮像装置によって撮像された未加工の原画像に対してなされる。撮像装置が撮像後の画像データに対する後処理の1つとして本画像処理を実行してもよく、また撮像装置あるいは適宜の記憶手段から画像データを受け取ったコンピュータ装置が、本画像処理を実行してもよい。
ここでは、既に実行された撮像により生成された原画像データに対し、汎用のコンピュータ装置が本実施形態の画像処理を実行する態様を例示して説明する。撮像装置の構成については特に限定されず、培養された細胞等を含む試料を培地とともに撮像し、デジタル画像データとして出力する機能を有するものであればよい。また画像は明視野撮像画像であることが好ましい。また、コンピュータ装置についても、例えばパーソナルコンピュータとして製品化されている一般的なハードウェア構成を有するものを利用可能である。以下ではこれらのハードウェアについての詳しい説明を省略する。
図1は本実施形態の画像処理を示すフローチャートである。まず、図1を参照してこの実施形態における画像処理の概略について説明し、その後で処理の具体的内容について詳しく説明する。コンピュータ装置は、培地中で培養された細胞等を含む試料を適宜の撮像装置および撮像条件で明視野撮像することにより得られる原画像を取得する(ステップS101)。原画像は少なくとも1つの細胞の全体を含むものとする。言い換えれば、そのように撮像倍率および撮像倍率が設定される。したがって、原画像は、検出の対象となる細胞とそれ以外の微小な細胞、デブリ、背景等とを含み得る。
画像内において概略外形が比較的平滑な閉曲線として現れる細胞等、例えば培養液中において単独で略球状または回転楕円体形状を示す細胞や、複数の細胞が略球状に集合した細胞構造体(このような構造体は特に「スフィア」、「スフェロイド」等とも称される)に対して、本発明の画像処理は特に好適である。このような細胞等では、その輪郭が画像内で周囲領域よりも暗く低輝度(画像濃度としては高濃度)で現れる。このような輪郭を精度よく検出することが、細胞等の領域を的確に抽出することにつながる。
詳しくは後述するが、この実施形態では、バンドパスフィルタ処理(ステップS102)、二値化処理(ステップS103)および輪郭つなぎ処理(ステップS104)により細胞等の輪郭部分を抽出する。二値化処理では、画像が所定の濃度閾値よりも高濃度である高濃度領域と、これより低濃度である低濃度領域とに区分される。また、高濃度領域および低濃度領域にはそれぞれ単一の濃度(例えば黒色および白色)が与えられる。画像が二値化されることで、輪郭は、低濃度の背景領域に囲まれた高濃度の閉曲線として表される。
こうして抽出された輪郭で囲まれた閉領域は細胞等の内部に相当している。二値化画像においてこのような閉領域を塗りつぶすと(ステップS105)、細胞等の領域が高濃度の中実図形オブジェクトとして抽出される。画像には検出の対象となる細胞等以外の小さな細胞やデブリ等に対応するオブジェクトが含まれ得る。これを消去するため、形態的特徴に関わるパラメータが所定の消去条件に該当するオブジェクトを消去する。
具体的には、上記パラメータとしての長さまたは面積が所定値よりも小さなオブジェクトを消去する(ステップS106)。ここでいうオブジェクトの消去とは、二値化により高濃度領域とされているオブジェクトを低濃度領域に変更することである。また、細胞等の形状が円形に近い場合には、円形度が所定値より低い、または扁平度が所定値よりも高いことをもって消去の対象としてもよい。
次に、くびれ分割処理が行われる(ステップS107)。詳しくは後述するが、この処理は、上記のようにして抽出されたオブジェクトが複数の細胞等が連結されたものであるときに、それらを分離するための処理である。このような連結は、複数の細胞等が試料において実際に接している場合、試料中では離隔しているが撮像方向からは重なって見える場合のいずれにも起こり得るものである。くびれ分割処理により、このように画像上で連結された細胞等を互いに分離することができる。このくびれ分割処理を実行することで、画像内の細胞等の個数やそれぞれの大きさ、面積等を算出する際における誤差を低減することが可能となる。
細胞等の個数や大きさ等の定量的な評価を目的とする場合には、ここまでの画像処理で得られた結果画像、すなわち画像中において細胞等が占める領域とそれ以外の領域とが区分された二値化画像に基づいて各種の数値を算出することが可能である。ステップS108以降の処理は、画像処理で得られた結果をユーザに視認可能な態様で表示出力するために必要な処理である。
ステップS108では、処理後の画像に基づき、原画像に作用させるための画像マスクを生成する。具体的には、くびれ分割処理後の画像のうち高濃度領域を透過させ、低濃度領域を遮蔽するような画像マスクが生成される。この画像マスクを原画像に作用させることで、表示用の出力画像が生成される(ステップS109)。このようにして作成される出力画像は、原画像中のオブジェクトのうち細胞等と見なされたオブジェクトだけが抽出され、他のオブジェクトが消去された画像である。
なお、出力画像としては、上記のようなマスキング処理された画像に限定されない。例えば、原画像中のオブジェクトのうち細胞等と見なされたオブジェクトについて、オブジェクト領域の色付け、輪郭の強調などの各種加工を施すことによって細胞等の領域の視認性を高めた画像を、出力画像とすることができる。
こうして生成された出力画像を例えば表示部に表示出力し、印刷出力し、あるいは外部装置へ送信出力することにより(ステップS110)、画像処理の結果をユーザに提示することができる。
図2はこの実施形態の画像処理を実行するコンピュータ装置の構成例である。コンピュータ装置1は、例えばパーソナルコンピュータとして一般的な構成を有するものであり、CPU(Central Processing Unit)10、メモリ14、ストレージ15、入力デバイス16、表示部17、インターフェース18およびディスクドライブ19などを備えている。
CPU10は、予め用意された制御プログラムを実行することで、上記した画像処理を実行するための機能ブロックとしての画像処理部11をソフトウェア的に実現する。なお、画像処理部11を実現するための専用ハードウェアが設けられてもよい。メモリ14はCPU10の演算過程で生成される各種データを一時的に記憶する。ストレージ15は、CPU10が実行すべき制御プログラムのほか、原画像の画像データや処理後の画像データ等を長期的に記憶する。
入力デバイス16は、オペレータからの指示入力を受け付けるためのものであり、例えばマウス、キーボードなどを含む。また、表示部17は画像を表示する機能を有する例えば液晶ディスプレイであり、原画像や処理後の画像、オペレータへのメッセージ等種々の情報を表示する。なお、入力デバイスと表示部とが一体化されたタッチパネルが設けられてもよい。
インターフェース18は、電気通信回線を介して外部装置との間で各種データ交換を行う。ディスクドライブ19は、画像データや制御プログラム等各種のデータを記録した外部の記録ディスク2を受け入れる。記録ディスク2に記憶された画像データや制御プログラム等は、ディスクドライブ19により読み出され、ストレージ16に記憶される。ディスクドライブ19はコンピュータ装置1内で生成されたデータを記録ディスク2に書き込む機能を備えていてもよい。
本実施形態の画像処理をコンピュータ装置1に実行させるための制御プログラムについては、これを記録した記録ディスク2にディスクドライブ19がアクセスして読み出される態様であってもよく、インターフェース18を介して外部装置から与えられる態様であってもよい。原画像データについても同様である。
以下、図3ないし図8を参照し、上記した画像処理の各工程を、処理の経過に伴う画像の変化例を挙げつつより詳細に説明する。図3はバンドパスフィルタ処理を示すフローチャート、図4は輪郭つなぎ処理を示すフローチャートである。また、図5ないし図8は処理に伴う画像の変化の例を模式的に示す図である。図5ないし図8の説明では、画像から検出される細胞等を、複数の細胞が概ね球状に集合したスフィアと呼ばれる細胞集塊であるとしている。
本実施形態におけるバンドパスフィルタ処理(図1のステップS102)は、図3に示すように、原画像データをFFT(高速フーリエ変換)演算することによって原画像を空間周波成分に分解し(ステップS201)、周波数ドメイン上で通過帯域外の空間周波数成分を除去し(ステップS202)、フーリエ変換の逆変換(逆FFT)演算により画像を再構成する(ステップS203)。バンドパスフィルタ処理を行うことで、背景の濃度ムラのような比較的低い周波数成分の濃度変化およびデブリや画像ノイズのような比較的高い周波数成分の濃度変化をともに減衰させることができる。
例えばスムージング処理のような画素間での画素値の演算によっても、フィルタリングを実現することは可能である。ただし、このようにFFT演算により周波数ドメイン上でフィルタリングを行うことで、限られた帯域の空間周波数成分を選択的に取り出し、他の帯域成分を大きく減衰させることが可能である。
このバンドパス処理は、画像から細胞等の輪郭に対応するオブジェクトを抽出するために実行される。したがって、その通過帯域は細胞等が取り得る輪郭の幅の大きさに基づき定められる。具体的には、例えば検出対象である細胞等の輪郭が概ね4ないし16画素程度に相当する幅を持つことが事前にわかっている場合には、通過帯域としては、8ないし32画素分のサイズに相当する(すなわち半波長が輪郭幅の範囲と同程度となる)空間周波数成分の範囲が選ばれる。これにより細胞等の輪郭部分に特化した輪郭抽出を行うことができる。
図5に示す画像Iaは、ステップS101において取得された原画像の例を模式的に示している。原画像Iaでは、略一様である背景Bの中に、検出対象であるスフィアS1〜S4と、検出対象ではない小細胞や浮遊物等(以下、「デブリ」と総称し符号Dを付す)とが分布した状態となっている。スフィアS1〜S4は概ね円形または楕円形の外形形状を有しており、その周縁部には幅が概ね一定で高濃度の輪郭を有している。このうちスフィアS2,S3は画像において互いに接した状態となっている。図では各スフィアS1〜S4の内部も比較的高濃度としているが、スフィア内部のテクスチャはどのようなものであってもよい。また、原画像Iaの左下部分において背景濃度が高くなる濃度ムラが生じている。
画像Ibは、原画像Iaに対しバンドパスフィルタ(BPF)処理を施した後の画像の例を模式的に示している。スフィアS1〜S4の輪郭幅に応じて最適化され、輪郭幅に対応しない低周波成分および高周波成分を共に減衰させるバンドパスフィルタ処理により、スフィアS1〜S4の輪郭はほぼそのまま残る。一方、周波数の低い背景Bの濃度ムラや、輪郭幅の小さい小細胞等の成分は大きく低減されるが、バンドパスフィルタ処理における通過帯域に相当する成分については維持される。例えば、スフィアの輪郭と同程度の幅を有する小細胞の輪郭は画像に残存する。
また、スフィアの輪郭幅にはばらつきがあり、その幅が通過帯域に対応しない場合には、フィルタ処理によって輪郭が原画像よりも細くなることがある。このため、例えば符号a,bを付して示すように、原画像Iaにおいてスフィア輪郭の幅が部分的に小さくなっている箇所では、フィルタ処理により当該空間周波数成分が減衰することで輪郭の一部が欠落する場合があり得る。このような欠損については、後述する輪郭つなぎ処理によって補償される。
フィルタ後の画像Ibは適宜の閾値に基づき二値化される(ステップS103)。図5の画像Icは二値化の画像の例を模式的に示したものである。二値化処理により、画像は比較的高濃度の領域と低濃度の領域とに区分される。図5に画像Icとして示すように、スフィアS1〜S4の輪郭および中央部、比較的明瞭に残っている小細胞の輪郭等は図において黒色で示される高濃度領域に区分される。一方、それ以外の領域は図において白色で示される低濃度領域に区分されることで、事実上画像から消去される。二値化のための閾値については、公知の方法を適用して定めることができる。例えば、事前実験に基づき予め定められた閾値が用いられてもよく、また例えば大津の方法など公知の閾値決定方法を用いて動的に定められてもよい。
なお、上記した輪郭の欠損は、二値化の過程にもおいても生じ得る。このような輪郭の欠損を補償するために、輪郭つなぎ処理(ステップS104)が実行される。図5に示す画像Idは、輪郭つなぎ処理として図4に示す処理を実行した場合の結果画像の例を模式的に示すものである。
図4に示すように、輪郭つなぎ処理では、二値化後の画像Icの低濃度領域に対し、分水嶺法(Watershed法)として知られる領域分割処理を実行することにより、連続する低濃度領域を複数に分割する境界線を生成する(ステップS301)。その上で、こうして生成された境界線のうち予め定められた長さ以上のものを消去することにより(ステップS302)、輪郭の欠損部分を回復させる。
図6は輪郭つなぎ処理の過程における画像の変化の例を模式的に示している。二値化処理後の画像Icの低濃度領域に対し分水嶺法による領域分割処理(ステップS301)を実行すると、画像Idaとして示すように、低濃度領域のうち、高濃度領域あるいは画像端に挟まれた比較的狭隘な部分に境界線が生成される。符号a,bを付して示すように、輪郭の部分的な欠損によって高濃度領域が近接対向する部位にも境界線が生成され、欠損により開いた状態となっていた輪郭が再び閉じられる。つまり、輪郭の欠落部分が、生成された境界線によって補償される。
画像Idaとして示すように、ここまでの処理では欠落した輪郭部分のみならず各所に境界線が生成されてしまう。この問題を解消するために、生成された境界線のうち所定の長さ以上のものを消去する(ステップS302)。こうすることで、図6に示す画像Idのように、細胞等の背景である低濃度領域に生成された長い境界線は消去される一方、輪郭の欠損を補う短い境界線は保存される。こうして欠落した輪郭が補償される。
ステップS301では、スフィアや小細胞等のオブジェクト内部や、近接したオブジェクト間にも境界線が生成される。このような短い境界線はステップS302の実行によっても消去されず残存する場合がある。後述するように、細胞等の領域を抽出するという目的においては、このことは大きな問題とならない。
なお、輪郭の欠損を補償する方法は、上記以外の方法も適用し得る。例えば、高濃度領域を所定の画素数だけ一律に膨張させる膨張処理と、膨張された高濃度領域を同じ画素数だけ収縮させる収縮処理との組み合わせによっても、部分的に欠落した輪郭を補償することは可能である。ただし、このような膨張収縮処理では、比較的大きな欠落まで補償するためには膨張させる画素数を大きくする必要があり、これにより近接位置にあるが離間しているオブジェクト同士を連結させてしまうおそれが高くなる。上記した分水嶺法を利用した輪郭つなぎ処理では、高濃度領域には変化を加えないためこのような問題が生じにくい。
図7は輪郭つなぎ処理以降の処理における画像の変化の例を模式的に示している。輪郭つなぎ処理後の画像Idに対し、高濃度領域による閉曲線で囲まれた閉領域の塗りつぶしが行われる(ステップS105)。画像Ieは塗りつぶし後の画像の例を模式的に示している。このように、閉じた輪郭で囲まれた領域内の低濃度領域は高濃度領域に転換され、当該領域の全体が高濃度領域となる。
輪郭の一部が欠落している場合、開いた領域は塗りつぶしの対象から漏れることになる。しかしながら、予め輪郭つなぎ処理が行われていること、またこれによりオブジェクトの内部にも境界線が生成されていることから、このような塗りつぶしの漏れは最小限に抑えられる。また、オブジェクト内部に生成された境界線も、この段階で塗りつぶされることになるため結果に悪影響を与えない。
続いて、塗りつぶし後の画像Ieに対し小領域の消去が行われる(ステップS106)。画像Ifは画像Ieから小領域を消去した後の画像の例である。画像Ieから所定の消去条件、例えば、長さや面積が所定値に満たない、円形度が所定値に満たない等の条件に該当するものを消去することで、検出対象のスフィアS1〜S4以外のオブジェクトが消去される。
次に、小領域消去後の画像Ifに対し、くびれ分割処理が実行される(ステップS107)。くびれ分割処理は、高濃度領域に対する領域分割処理であり、例えば分水嶺法を適用することができる。これにより、画像Ifに含まれるオブジェクトのうち、例えば矢印で示すようにくびれた部分に対し、境界線が設定される。その結果、画像Igとして示すように、原画像Iaにおいて接触していたスフィアS2、S3の間に境界線が形成され、画像Igにおいて両スフィアは分離される。
また、仮に輪郭つなぎ処理においてオブジェクト間に本来不要な境界線が生成されていたとしても、くびれ分割処理によってこの境界線を分離させることができるので、誤検出の原因とはならない。
このようにして作成された画像Igを用いれば、画像内におけるスフィアの数およびそれぞれの直径、面積等を定量的に求めることが可能である。検出対象以外のオブジェクトは消去されており、また接した状態のスフィアが分離されているので、個数および面積の計測における誤差を低減することができる。
図8は、画像Igに基づき表示出力用の出力画像を作成する過程を例示している。図8(a)に示すように、画像Igを画像マスクとして用い、原画像IaからスフィアS1〜S4の領域のみを抽出することで、出力画像Io1を作成することができる。具体的には、原画像Iaのうち、画像Igにおける高濃度領域に対応する領域を透過させる一方、低濃度領域に対応する領域を遮蔽することにより、出力画像Io1は、原画像IaのうちスフィアS1〜S4の領域において原画像Iaの内容が保持され、他の領域のオブジェクトが消去されたものとなる。
このような画像Io1が例えば表示部17に表示出力されることで、ユーザは原画像Iaに含まれているスフィアS1〜S4の形状や内部構造等を詳細にかつ容易に観察することが可能となる。
また、図8(b)に示す画像Io2のように、画像Igにおける高濃度領域の輪郭部分を原画像Iaに重畳してスフィアS1〜S4の輪郭を強調したり、原画像Iaのうち画像Igにおける高濃度領域に対応する領域にカラーリングを行ったりすることにより、原画像Ia中で検出されたスフィアS1〜S4の視認性を高めることが可能となる。このように、本実施形態の画像処理の結果は、検出対象物の定量的評価に利用することができるほか、ユーザによる画像の観察・評価を効果的に支援する目的にも使用することが可能である。
なお、上記実施形態の画像処理では、図1に示すように、二値化処理後の画像に対し、輪郭つなぎ処理、閉領域塗りつぶし処理、小領域消去処理およびくびれ分割処理をこの順番で実行している。これらの処理の実行順については、以下に示すように部分的に変更することが可能である。
図9は画像処理フローの変形例を示す図である。また、図10はこの変形例における画像の変化の例を模式的に示す図である。なお、図9の各処理ステップにおける画像処理の内容は上記したものと同じであるため、詳しい説明は省略する。
この変形例では、二値化処理(ステップS401)後の画像Icに対し、まず小領域消去処理が実行される(ステップS402)。図10の画像Ihはこの段階の画像の例である。画像Ihでは、画像Icに含まれていた小細胞やデブリ等に相当する小さいオブジェクトが消去され、スフィアS1〜S4に対応するオブジェクトのみが残っている。画像Ihにおいては、二値化によって生じたスフィアの輪郭欠損が残存している。
これを補償するために、画像Ihに対し輪郭つなぎ処理が実行される(ステップS403)。図4に示したように、輪郭つなぎ処理は、低濃度領域に対する分水嶺法による領域分割処理と、所定長さ以上の長い境界線を消去する処理とを含む。画像Iiは、分水嶺法による領域分割処理後の画像の例である。領域分割により生成される境界線は、欠落したオブジェクトの輪郭を補うとともに、オブジェクト内部、オブジェクト間、オブジェクトと画像端との間等を接続する。
画像Iiにおいて所定長さ以上の境界線を消去すると、画像Ijとして示すように、オブジェクトの輪郭欠損を補う境界線やオブジェクト内部に形成された境界線のような短い境界線のみが残る。この画像Ijを、先の実施形態における輪郭つなぎ処理後の画像Idと比較すると、画像Idに含まれる小細胞等のオブジェクトが画像Ijでは既に消去されている点で差異がある。しかしながら、画像Ijにおいて閉領域を塗りつぶす処理を実行すれば、その結果画像は、上記実施形態の画像Ifと同じものとなる。このように、一部の処理の順番を変更しても同様の結果を得ることが可能である。
以上説明したように、上記実施形態の画像処理(図1)においては、ステップS101、S102、S103、S104、S105、S107がそれぞれ本発明の「第1工程」、「第2工程」、「第3工程」、「第4工程」、「第5工程」、「第6工程」に相当している。また、ステップS106が本発明の「第7工程」に相当している。また、上記実施形態における高濃度領域が本発明の「第1領域」に相当し、低濃度領域が本発明の「第2領域」に相当している。
なお、本発明は上記した実施形態に限定されるものではなく、その趣旨を逸脱しない限りにおいて上述したもの以外に種々の変更を行うことが可能である。例えば、上記実施形態では、比較的小さなオブジェクトを処理対象外として画像から小領域を消去する処理を行っているが、この処理を省くことで、画像中の全てのオブジェクトを処理対象とすることが可能である。またこの目的のために、バンドパスフィルタ処理における通過帯域が複数設定されてもよい。
また、上記実施形態では輪郭つなぎ処理およびくびれ分割処理にいずれも分水嶺法を適用しているが、他の領域分割方法を適用することも可能である。また、輪郭つなぎ処理とくびれ分割処理とが異なる原理のものであってもよい。
また、バンドパスフィルタ処理としては、上記した周波数ドメインでのフィルタリング以外に、より一般的な画素間の演算によるものであってもよい。ただしこの場合のカットオフ特性としては急峻なものが求められる。
また、上記実施形態では、二値化処理後の画像について、原画像における高濃度領域を黒色、低濃度領域を白色で表現しているが、これらが逆であってもよい。
また、上記実施形態では、画像処理の結果を表示出力することでユーザに提示しているが、細胞等の領域を抽出した結果をどのように利用するかは上記に限定されず、任意である。
また、上記実施形態における抽出対象は、複数の細胞が略球状に集合したスフィアと呼ばれる細胞構造体であるが、これに限定されない。例えば互いに独立した細胞や、培地中で二次元的に広がる細胞コロニー等の抽出にも、上記処理を適用することが可能である。
また、上記実施形態では、汎用のコンピュータ装置1によって領域分割処理が実行されているが、前述したように例えば撮像装置にこの処理機能が組み込まれていてもよい。また、既存の撮像装置に本実施形態の領域分割処理を実行するためのプログラムを追加的に実装して機能拡張を行うことも可能である。
以上、具体的な実施形態を例示して説明してきたように、本発明の第2工程では、原画像を高速フーリエ変換し周波数ドメインでバンドパスフィルタ処理を実行してもよい。このようなフィルタ処理は、画素間の演算によるフィルタ処理に比べ、狭帯域の空間周波数成分を選択的に抽出するのにより適している。このため、細胞等の輪郭の幅に対応するサイズを有する領域を他の領域と明確に区別して抽出することが可能である。
また、第4工程では、第2領域に対する分水嶺法による領域分割処理を適用することができる。このような構成によれば、本来は連続する輪郭によって隔てられるべきであるが輪郭の欠落によって連続することとなっている第2領域を適正に分離することができる。これにより、欠落していた輪郭を補うことができる。
一方、第6工程では、第1領域に対する分水嶺法による領域分割処理を適用することができる。このような構成によれば、細胞等の重なりに起因する第1領域の連結をくびれ位置で適切に分割し、細胞等を分離することができる。
また、本発明の画像処理方法は、原画像に対し第6工程後の第1領域に対応する領域を示す加工を施した画像を出力するように構成されてもよい。このような構成によれば、原画像から抽出された細胞等の領域をユーザに対し明示的に提示することができる。これによりユーザによる観察作業を効果的に支援することができる。
また、第3工程よりも後で第6工程よりも前に、第1領域のうち所定の消去条件に該当するものを第2領域に変更する第7工程が設けられてもよい。このような構成によれば、画像に含まれる処理対象外の物体を除外することで、後工程における処理の簡素化および誤抽出の低減を図ることができる。
また、原画像は細胞等を明視野撮像することで得られた画像であってもよい。一般に細胞は透明に近く、また細胞が培養される培地との屈折率の差も小さいため、明視野撮像画像では目視による細胞等とそれ以外の領域との区別が難しい。このような画像に本発明を適用することで、画像中の細胞等の領域を良好にかつ安定的に抽出することが可能となる。また染色等のラベリングを行わない明視野撮像により得られる画像を用いることができるので、非侵襲での細胞等の観察・評価が可能となる。
本発明は、細胞を撮像し画像を評価する生化学や医療の分野に適用可能であり、特に培養されている細胞にダメージを与えるような加工を行うことのない撮像が必要とされる技術分野に好適なものである。
1 コンピュータ装置
2 記録ディスク(記録媒体)
Ia 原画像
Io1,Io2 出力画像
S1〜S4 スフィア
S101 第1工程
S102 第2工程
S103 第3工程
S104 第4工程
S105 第5工程
S106 第7工程
S107 第6工程

Claims (9)

  1. 細胞、または複数の細胞が集まった細胞構造体を被撮像物として含む原画像を取得する第1工程と、
    前記原画像に対し、前記被撮像物の輪郭の幅に応じて定められた帯域の空間周波数成分に対して前記帯域外の空間周波数成分を相対的に減衰させるバンドパスフィルタ処理を実行する第2工程と、
    前記第2工程後の画像について、所定の閾値より高濃度である領域を第1領域、それ以外の領域を第2領域として区分する第3工程と、
    前記第3工程後の画像について、前記第2領域のうち前記第1領域に挟まれた部位の一部を前記第1領域に変更して、当該第2領域を挟む前記第1領域の間を連結する第4工程と、
    前記第4工程後の画像について、前記第2領域のうち前記第1領域により周囲を囲まれた閉領域を前記第1領域に変更する第5工程と、
    前記第5工程後の画像について、くびれを有する前記第1領域を該くびれの位置で複数に分割する第6工程と
    を備える画像処理方法。
  2. 前記第2工程では、前記原画像を高速フーリエ変換し周波数ドメインで前記バンドパスフィルタ処理を実行する請求項1に記載の画像処理方法。
  3. 前記第4工程では、前記第2領域に対し分水嶺法による領域分割処理を実行する請求項1または2に記載の画像処理方法。
  4. 前記第6工程では、前記第1領域に対し分水嶺法による領域分割処理を実行する請求項1ないし3のいずれかに記載の画像処理方法。
  5. 前記原画像に対し前記第6工程後の前記第1領域に対応する領域を示す加工を施した画像を出力する請求項1ないし4のいずれかに記載の画像処理方法。
  6. 前記第3工程よりも後で前記第6工程よりも前に、前記第1領域のうち所定の消去条件に該当するものを前記第2領域に変更する第7工程を備える請求項1ないし5のいずれかに記載の画像処理方法。
  7. 前記原画像は、前記被撮像物を明視野撮像することで得られた画像である請求項1ないし6のいずれかに記載の画像処理方法。
  8. コンピュータに、請求項1ないし7のいずれかに記載の画像処理方法の各工程を実行させるためのコンピュータプログラム。
  9. 請求項8に記載のコンピュータプログラムを記録した、コンピュータ読み取り可能な記録媒体。
JP2018130452A 2018-07-10 2018-07-10 画像処理方法、コンピュータプログラムおよび記録媒体 Active JP7161875B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018130452A JP7161875B2 (ja) 2018-07-10 2018-07-10 画像処理方法、コンピュータプログラムおよび記録媒体
US16/450,094 US11017206B2 (en) 2018-07-10 2019-06-24 Image processing method and recording medium for extracting region of imaging target from image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018130452A JP7161875B2 (ja) 2018-07-10 2018-07-10 画像処理方法、コンピュータプログラムおよび記録媒体

Publications (2)

Publication Number Publication Date
JP2020009217A true JP2020009217A (ja) 2020-01-16
JP7161875B2 JP7161875B2 (ja) 2022-10-27

Family

ID=69139443

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018130452A Active JP7161875B2 (ja) 2018-07-10 2018-07-10 画像処理方法、コンピュータプログラムおよび記録媒体

Country Status (2)

Country Link
US (1) US11017206B2 (ja)
JP (1) JP7161875B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7344155B2 (ja) 2020-02-21 2023-09-13 日鉄テックスエンジ株式会社 穴広げ試験のき裂判定装置、き裂判定方法及びプログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022023956A1 (en) * 2020-07-31 2022-02-03 The Joan and Irwin Jacobs Technion-Cornell Institute System and method for on-phase microscopy
CN115115969A (zh) * 2022-05-19 2022-09-27 腾讯科技(深圳)有限公司 视频检测方法、装置、设备、存储介质和程序产品

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017010327A (ja) * 2015-06-23 2017-01-12 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE69329554T2 (de) * 1992-02-18 2001-05-31 Neopath Inc Verfahren zur identifizierung von objekten unter verwendung von datenverarbeitungstechniken
US7933435B2 (en) * 2005-11-21 2011-04-26 Vala Sciences, Inc. System, method, and kit for processing a magnified image of biological material to identify components of a biological object
WO2015107770A1 (ja) * 2014-01-14 2015-07-23 株式会社Screenホールディングス 細胞コロニー領域特定装置、細胞コロニー領域特定方法および記録媒体
JP2016116461A (ja) 2014-12-19 2016-06-30 パナソニック株式会社 細胞判定方法、細胞数計測方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017010327A (ja) * 2015-06-23 2017-01-12 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
辻 久巳、中山 享: "大腸菌コロニーを題材としたLabVIEWを用いた 画像計測 ・処理に関する教材", 新居浜工業高等専門学校紀要, vol. 第54号, JPN7022002907, January 2018 (2018-01-01), pages 83 - 88, ISSN: 0004811571 *
青木 功介: "多量な顕微鏡画像からの有核赤血球の自動検出", 画像電子学会誌, vol. 第37巻,第5号, JPN6022025720, 2008, JP, pages 609 - 616, ISSN: 0004811572 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7344155B2 (ja) 2020-02-21 2023-09-13 日鉄テックスエンジ株式会社 穴広げ試験のき裂判定装置、き裂判定方法及びプログラム

Also Published As

Publication number Publication date
US11017206B2 (en) 2021-05-25
JP7161875B2 (ja) 2022-10-27
US20200019748A1 (en) 2020-01-16

Similar Documents

Publication Publication Date Title
JP4657869B2 (ja) 欠陥検出装置、イメージセンサデバイス、イメージセンサモジュール、画像処理装置、デジタル画像品質テスタ、欠陥検出方法、欠陥検出プログラム、およびコンピュータ読取可能な記録媒体
Guanjun et al. Cracked egg recognition based on machine vision
US11282186B2 (en) Anomaly detection using image-based physical characterization
CA2746743C (en) Multi-nucleated cell classification and micronuclei scoring
JP2020009217A (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
US11631171B2 (en) Automated detection and annotation of prostate cancer on histopathology slides
JP6556266B2 (ja) 欠陥検査装置、方法およびプログラム
Andrushia et al. Anisotropic diffusion based denoising on concrete images and surface crack segmentation
CN115205223B (zh) 透明物体的视觉检测方法、装置、计算机设备及介质
CN110007493B (zh) 液晶显示屏中碎亮点检测方法
CN115908269A (zh) 视觉缺陷检测方法、装置、存储介质和计算机设备
JP2019215350A (ja) 画像処理デバイス及び画像処理方法
JP2007155724A5 (ja)
WO2019181072A1 (ja) 画像処理方法、コンピュータプログラムおよび記録媒体
JP4320990B2 (ja) 画面欠陥検出方法及び装置並びに画面欠陥検出のためのプログラム
US8189904B2 (en) Image preprocessing for probe mark inspection
KR100779312B1 (ko) 결함 검출 장치, 이미지 센서 디바이스, 이미지 센서 모듈,화상 처리 장치, 디지털 화상 품질 테스터, 및 결함 검출방법
TWI303527B (en) Image inspecting apparatus, image inspecting method and computer-readable storage medium
CN114419037B (zh) 工件缺陷检测方法和装置
Prabha et al. Defect detection of industrial products using image segmentation and saliency
CN113012137B (zh) 一种面板缺陷检查方法、系统、终端设备及存储介质
CN113516608B (zh) 轮胎的缺陷检测方法和检测装置、轮胎检测设备
CN115496984A (zh) 瓷砖成品缺陷自动识别方法、装置、智能终端及存储介质
Othman et al. The fusion of edge detection and mathematical morphology algorithm for shape boundary recognition
JP6173088B2 (ja) 検査装置、検査方法、プログラム及び記録媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220524

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221017

R150 Certificate of patent or registration of utility model

Ref document number: 7161875

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150