JP6692049B2 - 識別装置および識別方法 - Google Patents

識別装置および識別方法 Download PDF

Info

Publication number
JP6692049B2
JP6692049B2 JP2016538314A JP2016538314A JP6692049B2 JP 6692049 B2 JP6692049 B2 JP 6692049B2 JP 2016538314 A JP2016538314 A JP 2016538314A JP 2016538314 A JP2016538314 A JP 2016538314A JP 6692049 B2 JP6692049 B2 JP 6692049B2
Authority
JP
Japan
Prior art keywords
feature amount
image
optical thickness
thickness distribution
cells
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016538314A
Other languages
English (en)
Other versions
JPWO2016017533A1 (ja
Inventor
裕介 尾▲崎▼
裕介 尾▲崎▼
秀直 岩井
秀直 岩井
弘之 今野
弘之 今野
寛利 菊池
寛利 菊池
豊彦 山内
豊彦 山内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hamamatsu University School of Medicine NUC
Hamamatsu Photonics KK
Original Assignee
Hamamatsu University School of Medicine NUC
Hamamatsu Photonics KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hamamatsu University School of Medicine NUC, Hamamatsu Photonics KK filed Critical Hamamatsu University School of Medicine NUC
Publication of JPWO2016017533A1 publication Critical patent/JPWO2016017533A1/ja
Application granted granted Critical
Publication of JP6692049B2 publication Critical patent/JP6692049B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10—Investigating individual particles
    • G01N15/14—Electro-optical investigation, e.g. flow cytometers
    • G01N15/1429—Electro-optical investigation, e.g. flow cytometers using an analyser being characterised by its signal processing
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00—Measuring arrangements characterised by the use of optical techniques
    • G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • G01B11/06—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness for measuring thickness ; e.g. of sheet material
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/02—Investigating particle size or size distribution
    • G01N15/0205—Investigating particle size or size distribution by optical means, e.g. by light scattering, diffraction, holography or imaging
    • G01N15/0227—Investigating particle size or size distribution by optical means, e.g. by light scattering, diffraction, holography or imaging using imaging, e.g. a projected image of suspension; using holography
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10—Investigating individual particles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10—Investigating individual particles
    • G01N15/14—Electro-optical investigation, e.g. flow cytometers
    • G01N15/1433—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G06T7/0014—Biomedical image inspection using an image reference approach
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/60—Type of objects
    • G06V20/69—Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698—Matching; Classification
    • G01N2015/016—
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/02—Investigating particle size or size distribution
    • G01N15/0205—Investigating particle size or size distribution by optical means, e.g. by light scattering, diffraction, holography or imaging
    • G01N2015/025—Methods for single or grouped particles
    • G01N2015/1014—
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00—Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10—Investigating individual particles
    • G01N15/14—Electro-optical investigation, e.g. flow cytometers
    • G01N2015/1493—Particle size
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30024—Cell structures in vitro; Tissue sections in vitro

Description

本発明の一側面は、対象物の光学的厚み分布の画像を用いて対象物を識別する識別装置および識別方法に関するものである。
対象物の識別は、一般に、その大きさ、形状または色に基づいて行われ得る。しかし、例えば白血球およびがん細胞のように、３次元的形状を有し、それらの大きさ及び形状について大きな違いがなく何れも無色透明である場合には、明視野顕微鏡により得られた画像では対象物を識別することができない。また、位相差顕微鏡や微分干渉顕微鏡は、無色透明な細胞を可視化するために用いられるが、光学的厚みに対する定量性が欠落している。また、これらの顕微鏡は、使用する対物レンズによっては、その焦点深度が細胞の厚み以下であるので、細胞が３次元的な構造をもつにも関わらず、２次元的な情報しか得られず、前記対象物を識別することができない。
原発腫瘍組織または転移腫瘍組織から遊離し血液中に浸潤した細胞は、血中循環腫瘍細胞（Circulating Tumor Cells）と呼ばれる。このＣＴＣは固形がん患者の抹消血液中に極微量に存在し転移に関わるとされ、近年研究が盛んに行われている。一方で、抹消血液中の有核細胞はその殆どが白血球であるため、白血球とがん細胞とを識別することが重要となる。
血中循環腫瘍細胞の臨床応用では、乳がん患者において全血７.５ｍＬ中に血中循環腫瘍細胞が５個未満であれば１年後の死亡率が１９％であり、血中循環腫瘍細胞が５個以上であれば１年後の死亡率が５３％であった、と報告されている。このように、血中循環腫瘍細胞を識別し検査することは、予後の予測に役立つ等、臨床応用価値が高いと考えられる。
特許文献１に開示された発明は、明視野像を得る光学系により細胞の画像を取得し、その画像の特徴パラメータ（大きさ、色情報、円形度など）を抽出し、その特徴パラメータに基づいて細胞を識別するものである。また、この発明は、細胞の識別に際して、ニューラルネットワークを用いてパターン認識処理を行う。
特許第５４７０６２５号公報
特許文献１に開示された発明は、明視野像を得る光学系により取得した対象物の画像に対してパターン認識処理を行うことにより該対象物を識別するものであることから、例えば白血球およびがん細胞のように３次元的形状を有し、それらの大きさ、形状および色の何れについても大きな差異がない対象物（位相物体）を識別することができない。
本発明の一側面は、上記問題点を解消する為になされたものであり、３次元的形状を有し、大きさ及び形状について大きな特徴がなく無色透明である対象物であっても該対象物を識別することができる装置および方法を提供することを目的とする。
本発明の一側面による識別装置は、（１）細胞の光学的厚み分布の画像の特徴量を抽出する特徴量抽出部と、（２）種別が既知である細胞（以下「既知細胞」という）の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて機械学習を行った結果を記憶する記憶部と、（３）記憶部により記憶されている学習結果を用いて、種別が未知である細胞（以下「未知細胞」という）の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて未知細胞の種別を判定する識別部と、を備え、未知細胞の光学的厚み分布の画像の特徴量を抽出する際、または、未知細胞の種別を判定する際に、記憶部により記憶されている学習結果を用いるとともに、特徴量抽出部が、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出し、光学的厚みの空間的変化量に関する情報は、光学的厚み分布の画像内の位置における光学的厚みの傾き情報を表すベクトルの勾配強度および勾配方向の双方または何れか一方である。
本発明の一側面による識別方法は、（１）種別が未知である細胞（以下「未知細胞」という）の光学的厚み分布の画像の特徴量を特徴量抽出部により抽出する第１特徴量抽出ステップと、（２）種別が既知である細胞（以下「既知細胞」という）の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて機械学習を行って記憶部により記憶された当該学習結果を用いて、第１特徴量抽出ステップにおいて抽出された特徴量に基づいて未知細胞の種別を判定する識別ステップと、を備え、未知細胞の光学的厚み分布の画像の特徴量を抽出する際、または、未知細胞の種別を判定する際に、記憶部により記憶されている学習結果を用いるとともに、特徴量抽出部により、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出し、光学的厚みの空間的変化量に関する情報は、光学的厚み分布の画像内の位置における光学的厚みの傾き情報を表すベクトルの勾配強度および勾配方向の双方または何れか一方である。
本発明の一側面によれば、３次元的形状を有し、大きさ及び形状について大きな特徴がなく無色透明である対象物であっても該対象物を識別することができる。
図１は、本実施形態の識別装置１の構成を示す図である。 図２は、本実施形態の識別方法を説明するフローチャートである。 図３は、（ａ）、（ｂ）細胞の構造を模式的に示す図である。 図４は、（ａ）、（ｂ）がん細胞の定量位相画像の一例を示す図である。 図５は、（ａ）、（ｂ）白血球の定量位相画像の一例を示す図である。 図６は、定量位相画像におけるｆｘ(x,y)，ｆｙ(x,y)，ｍ(x,y)およびθ(x,y)を説明する図である。 図７は、勾配強度ｍ(x,y)で重み付けをして求められた勾配方向θ(x,y)のヒストグラムの一例を示す図である。 図８は、溶血剤を添加しなかった白血球を用いて機械学習を行った場合のＲＯＣ曲線を示す図である。 図９は、溶血剤を添加した白血球を用いて機械学習を行った場合のＲＯＣ曲線を示す図である。 図１０は、本実施形態の識別方法の他の例を説明するフローチャートである。 図１１は、（ａ）白血球の構造、及び（ｂ）光学的厚みの傾き情報について模式的に示す図である。 図１２は、（ａ）がん細胞の構造、及び（ｂ）光学的厚みの傾き情報について模式的に示す図である。 図１３は、白血球とがん細胞とを判別する際、白血球の偽陽性率と真陽性率との関係を示すＲＯＣ曲線である。
以下、添付図面を参照して、本発明の一側面による識別装置及び識別方法を実施するための形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。以下では、対象物として細胞（主に白血球およびがん細胞）について説明するが、他の対象物についても同様である。
図１は、本実施形態の識別装置１の構成を示す図である。識別装置１は、定量位相画像取得部１１、特徴量抽出部１２、学習部１３、記憶部１４および識別部１５を備える。
定量位相画像取得部１１は、対象物（細胞）の定量位相画像を取得する。定量位相画像は、細胞の光学的厚み分布の画像である。光学的厚みは、光の進行方向に沿った物理的長さと屈折率との積である。したがって、細胞の物理的長さが空間的に一様であれば、細胞の光学的厚み分布は屈折率分布と等価である。細胞の屈折率が空間的に一様であれば、細胞の光学的厚み分布は物理的長さ分布と等価である。定量位相画像は、１次元画像であってもよいし、２次元画像、３次元画像であってもよい。なお、３次元の定量位相画像は、１次元、２次元の定量位相画像の特別な場合であり、細胞の３次元的な屈折率の空間的分布を表す。すなわち、光学的厚みを特徴づける屈折率と物理的長さとを分離した情報を表す。
特徴量抽出部１２は、定量位相画像取得部１１により取得された細胞の定量位相画像の特徴量を抽出する。特徴量抽出部１２は、一定のｍ×ｎ画素からなる定量位相画像により個々の細胞を表し、必要に応じて平滑化処理をした後、該画像の特徴量を抽出する。特徴量は、例えば、光学的厚みの最大値であってもよいし、位置に対する光学的厚みの変化の大きさ（光学的厚みの傾き）に関する情報であってもよい。また、特徴量抽出部１２は、後述する記憶部１４により記憶されている学習結果を用いて、定量位相画像取得部１１により取得された定量位相画像の特徴量を抽出する。
学習部１３は、種別が既知である細胞（既知細胞）の定量位相画像について特徴量抽出部１２により抽出された特徴量に基づいて機械学習を行う。なお、機械学習（Machine Learning）とは、例えば、統計的機械学習であり、教師あり学習（Supervised Learning）、教師なし学習（Unsupervised Learning）、半教師あり学習（Semi−supervised Learning）、強化学習（Reinforcement Learning）、トランスダクション（Transduction）、マルチタスク学習（Multi-task learning）、あるいは深層学習（Deep Learning）などである。例えば、教師あり学習では、既知細胞のデータを訓練データ（training data）、未知細胞のデータをテストデータ（test data）とし、コンピュータに予め訓練データを複数与え、入力されたテストデータに対する正しい出力をするような関数を作る。記憶部１４は、その学習部１３による機械学習の結果（例えば、機械学習により得られた関数）を記憶する。識別部１５は、記憶部１４により記憶されている学習結果を用いて、種別が未知である細胞（未知細胞）の定量位相画像について特徴量抽出部１２により抽出された特徴量に基づいて未知細胞の種別を判定する。
定量位相画像取得部１１として例えば定量位相顕微鏡が用いられる。特徴量抽出部１２、学習部１３、記憶部１４および識別部１５として、例えばプロセッサ及びメモリを含むコンピュータが用いられる。この場合、コンピュータは、プロセッサにより、特徴量抽出部１２、学習部１３、識別部１５としての機能を実行する。また、コンピュータは、メモリや外部記憶装置により、記憶部１４の機能を実行する。従って、コンピュータは、特徴量抽出部１２、学習部１３、記憶部１４および識別部１５を有する。特徴量抽出アルゴリズムとして、例えばＨＯＧ（Histograms of Oriented Gradients），ＬＢＰ（Local Binary Pattern），ＧＬＡＣ（Gradient Local Auto-Correlation），ＨＬＡＣ（Higher-order Local Auto-Correlation），Ｈａａｒ−ｌｉｋｅ等が用いられる。また、機械学習アルゴリズムとして、例えば、ＡｄａＢｏｏｓｔ（Adaptive Boosting）、マハラノビス（Mahalanobis）K-means、単純Bayes分類器、決定木、ブースティング、ランダムツリー、期待値最大化（Expectation Maximization）、K近傍、ニューラルネットワーク、多層パーセプトロン（MPL）、サポートベクターマシン（Support vector machine）、深層学習 （Deep Learning）等が用いられる。
次に、本実施形態の識別装置１の動作について説明するとともに、本実施形態の識別方法について説明する。図２は、本実施形態の識別方法を説明するフローチャートである。本実施形態の識別方法は、第１画像取得ステップＳ１１、第１特徴量抽出ステップＳ１２、識別ステップＳ１３、第２画像取得ステップＳ２１、第２特徴量抽出ステップＳ２２および学習ステップＳ２３を有する。
第２画像取得ステップＳ２１では、多数の既知細胞の定量位相画像を定量位相画像取得部１１により取得する。続く第２特徴量抽出ステップＳ２２では、これらの既知細胞の定量位相画像の特徴量を特徴量抽出部１２により抽出する。そして、学習ステップＳ２３では、学習部１３において、第２特徴量抽出ステップＳ２２で抽出された特徴量に基づいて機械学習を行い、その学習結果を記憶部１４に記憶させる。なお、識別ステップＳ１３において、白血球を識別する場合には、多数の既知細胞は、白血球と白血球以外の細胞の定量位相画像を定量位相画像取得部１１により取得するのが好適である。また、識別ステップＳ１３において、がん細胞を識別する場合には、多数の既知細胞は、がん細胞とがん細胞以外の細胞の定量位相画像を定量位相画像取得部１１により取得するのが好適である。
ここで、白血球は、がん患者から採取したものであってもよいし、健常者から採取したものであってもよい。白血球は、溶血剤を添加されたものであってもよい。がん細胞は、採取した血中循環腫瘍細胞であってもよいし、培養したがん細胞であってもよい。
第１画像取得ステップＳ１１では、未知細胞の定量位相画像を定量位相画像取得部１１により取得する。続く第１特徴量抽出ステップＳ１２では、この未知細胞の定量位相画像の特徴量を特徴量抽出部１２により抽出する。そして、識別ステップＳ１３では、識別部１５において、記憶部１４により記憶されている学習結果を用いて、第１特徴量抽出ステップＳ１２で抽出された特徴量に基づいて未知細胞の種別を判定する。
次に、細胞の構造について説明するとともに、細胞の定量位相画像および特徴量について説明する。図３は、細胞の構造を模式的に示す図である。図３には説明の便宜の為にｘｙｚ直交座標系が示されている。細胞３０は、ｘｙ平面に平行に配置されているプレパラート４０上に載置されている。図３（ａ）は、ｘｚ平面に平行な細胞３０の断面図を示す。図３（ｂ）は、ｚ軸に平行な光軸の方向に細胞３０を見た平面図を示す。細胞３０は、中央領域に存在する細胞核３１を細胞質３２が覆っており、その細胞質３２を細胞膜３３が包んだ構造を有している。
図３に示されるように、一般的な細胞は、細胞核，細胞質および細胞膜を含む構造を有する。これら細胞核，細胞質および細胞膜の形状や屈折率は、白血球やがん細胞といった細胞の種類によって異なる。また、一般に、正常な細胞ががん細胞へと変化する際、細胞核の大きさや形状が変化していくことが知られている。ただし、血中がん細胞の明確な形状はわかっていないので、以下の説明では、血中がん細胞ではなく、一般的ながん細胞について説明する。
定量位相画像取得部１１を用いたときに光軸方向（ｚ方向）に光が細胞内を通過する際、細胞核，細胞質および細胞膜それぞれの屈折率や形状に応じて、光の位相遅れがｘｙ平面上の各位置によって異なる。定量位相画像取得部１１により取得される定量位相画像は、この位相遅れ分布を表すものであり、細胞の光学的な厚み分布を表すものである。定量位相画像の各画素値は、その画素に対応するｘｙ位置での光学的な厚みに相当する。このように、定量位相画像は、細胞核，細胞質および細胞膜それぞれの屈折率や形状に応じたものとなる。したがって、細胞の定量位相画像に基づいて、その細胞の種別を判定することができる。
図４は、がん細胞（ＨｅｐＧ２）の定量位相画像の一例を示す図である。図５は、白血球の定量位相画像の一例を示す図である。図４（ａ）及び図５（ａ）は、定量位相画像を示す。図４（ｂ）及び図５（ｂ）は、対応する図の（ａ）中に示される破線に沿った細胞の光学的厚みの分布を示す。がん細胞および白血球それぞれの定量位相画像を対比して判るように、両者は、光学的厚みの最大値の点で相違しており、また、光学的厚みの傾きの点でも相違している。そこで、これらを定量位相画像の特徴量として特徴量抽出部１２により抽出すればよい。
次に、光学的厚みの傾きについて更に説明する。本実施形態では、定量位相画像の特徴量として光学的厚みの傾き情報を特徴量抽出部１２により抽出して、この傾き情報に基づく画像認識を行うことで、白血球とがん細胞とを識別するのが好適である。傾き情報とは、図４（ｂ）および図５（ｂ）に示されるように横軸を位置として縦軸を光学的厚みとしたときのグラフの傾きや、ｘｙ平面におけるベクトルなどの情報を表す。この傾き情報は、細胞表面の傾斜を表すものではなく、細胞を構成する細胞核などの形状や屈折率などの細胞内部の構造を反映したものである。
特徴量抽出部１２において特徴量抽出アルゴリズムとしてＨＯＧを用いて細胞の定量位相画像の特徴量として傾き情報を抽出する場合、例えば以下のような特徴量抽出の処理を行う。定量位相画像において位置（ｘ,ｙ）にある画素の画素値Ｉ(x,y)は光学的な厚みに相当する。定量位相画像において位置（ｘ,ｙ）にある画素について、ｘ方向に近接する２つの画素の画素値Ｉ(x+1,y)，Ｉ(x-1,y)の差ｆｘ(x,y)を下記（１）式により求めるとともに、ｙ方向に近接する２つの画素の画素値Ｉ(x,y+1)，Ｉ(x,y-1)の差ｆｙ(x,y)を下記（２）式により求める。
ｘｙ平面におけるベクトル（ｆｘ(x,y)，ｆｙ(x,y)）の大きさ（勾配強度）を、下記（３）式により求められるｍ(x,y)で表す。また、ｘｙ平面におけるベクトル（ｆｘ(x,y)，ｆｙ(x,y)）の傾き（勾配方向）を、下記（４）式により求められるθ(x,y)で表す。
図６は、定量位相画像におけるｆｘ(x,y)，ｆｙ(x,y)，ｍ(x,y)およびθ(x,y)を説明する図である。図６は、定量位相画像における細胞の領域を略円形で表し、その領域内の或る点におけるｆｘ(x,y)，ｆｙ(x,y)，ｍ(x,y)およびθ(x,y)の間の関係を説明するものである。
定量位相画像において全画素について勾配強度ｍ(x,y)および勾配方向θ(x,y)を求め、勾配方向θ(x,y)のヒストグラムを求める。このとき、勾配強度ｍ(x,y)で重み付けをする。図７は、勾配強度ｍ(x,y)で重み付けをして求められた勾配方向θ(x,y)のヒストグラムの一例を示す図である。細胞の種類によって、このヒストグラムの形状は異なる。したがって、このヒストグラムの形状に基づいて、がん細胞と白血球とを識別することが可能となる。
なお、図１０に示されるように、既知細胞での機械学習の結果を用いて、第１特徴量抽出ステップＳ１２において、特徴量抽出部１２による未知細胞の特徴量の抽出が可能である。未知細胞の定量位相画像の全画素について特徴量を抽出すると時間がかかるので、既知細胞の機械学習の結果に基づいて、定量位相画像の全画素の中から特徴量を抽出する領域（位置や画素）を１つ以上設定することで、細胞の判定にかかる時間を大幅に低減することができる。なお、設定される領域は、定量位相画像を構成する画素を少なくとも１つ含む範囲であればよい。
次に、上記のような特徴量を抽出することでがん細胞と白血球とが混在した細胞集団から白血球の識別を行った実施例について説明する。この実施例では、健常者から採取した２４０個の白血球を既知細胞（ポジティブ細胞）として用いるとともに、７１個の培養がん細胞を既知細胞（ネガティブ細胞）として用いて、第２画像取得ステップＳ２１、第２特徴量抽出ステップＳ２２および学習ステップＳ２３を行った。７１個の培養がん細胞の内訳は、細胞株名ＨＣＴ１１６が１８個であり、細胞株名ＤＬＤ１が２１個であり、細胞株名ＨｅｐＧ２が７個であり、細胞株名Ｐａｎｃ１が２５個であった。白血球としては、溶血剤を添加したものと、溶血剤を添加しなかったものとを用いた。
元々１５０×１５０画素程度であった各細胞の定量位相画像を、８ビットの白黒画像に変換するとともに、２４×２４画素，４８×４８画素または７２×７２画素のサイズの画像に縮小して、その縮小後の画像を用いて特徴量抽出及び機械学習を行った。用いたアルゴリズムは、ＯｐｅｎＣＶ（Version 2.4.8）に含まれるＨＯＧおよびＡｄａＢｏｏｓｔであった。誤診率０.４で各ステージにおける機械学習を停止した。
図８は、溶血剤を添加しなかった白血球を用いて機械学習を行った場合のＲＯＣ曲線を示す図である。図８中の「WBC1」は、溶血剤を添加しなかった白血球を用いて機械学習を行ったことを示す。図８中の３つのＲＯＣ曲線のうち、「WBC1 24x24」のＲＯＣ曲線は、白血球画像サイズを２４ｘ２４画素に縮小した場合に得られた曲線である。また、「WBC1 48x48」のＲＯＣ曲線は、白血球画像サイズを４８ｘ４８画素に縮小した場合に得られた曲線である。
図９は、溶血剤を添加した白血球を用いて機械学習を行った場合のＲＯＣ曲線を示す図である。図９中の「WBC2」は、溶血剤を添加した白血球を用いて機械学習を行ったことを示す。図９中の３つのＲＯＣ曲線のうち、「WBC2 24x24」のＲＯＣ曲線は、白血球画像サイズを２４ｘ２４画素に縮小した場合に得られた曲線である。また、「WBC2 48x48」のＲＯＣ曲線は、白血球画像サイズを４８ｘ４８画素に縮小した場合に得られた曲線である。また、「WBC2 72x72」のＲＯＣ曲線は、白血球画像サイズを７２ｘ７２画素に縮小した場合に得られた曲線である。
ＲＯＣ（Receiver Operating Characteristic）曲線は、学習部１３による機械学習の結果を用いた識別部１５による識別の性能を表す。横軸は、実際には白血球でない対象物を間違って白血球であると判定する確率を表す偽陽性率（False Positive Fraction）である。縦軸は、実際に白血球である対象物を正しく白血球であると判定する確率を表す真陽性率（True Positive Fraction）である。ＲＯＣ曲線が左上に存在するほど識別精度は高い。ＡＵＣ（Ａrea under the curve）は、ＲＯＣ曲線より下の領域の面積を表す。ＡＵＣが大きいこと（すなわち、ＡＵＣが値１に近いこと）は、ＲＯＣ曲線が左上に近いことを意味しており、識別精度が高いことを表す。
図８および図９から判るように、細胞画像の画素数が多いほど、ＡＵＣが大きい。また、溶血剤を添加した白血球を用いて機械学習を行った方が、ＡＵＣが大きい。機械学習に用いるがん細胞を上記とは異なる株の組み合わせとした場合にも、同様のＲＯＣ曲線が得られた。したがって、がん細胞と白血球とを高精度に識別するには、細胞画像の画素数が多い（例えば４８×４８以上である）のが好ましく、また、溶血剤を添加した白血球を用いて機械学習を行うのが好ましい。
このような機械学習を行って、その学習結果を記憶部１４に記憶しておく。これ以降の未知細胞の識別や特徴量の抽出を行うに際しては、記憶部１４に記憶されている学習結果を用いて識別や特徴量の抽出を行なえばよいので、学習部１３を用いる必要はなく、第２画像取得ステップＳ２１、第２特徴量抽出ステップＳ２２および学習ステップＳ２３を行う必要はない。
また、特徴量抽出部１２によって、細胞の定量位相画像（光学的厚み分布の画像）の特徴量として傾き情報を抽出し、白血球及びがん細胞の判別を行った例について示す。ここで、図１１は、（ａ）白血球の構造、及び（ｂ）光学的厚みの傾き情報について模式的に示す図である。図１１（ａ）において、矢印５１は、白血球５０における光学的厚みの方向を示している。また、図１１（ｂ）において、矢印５２は、光学的厚み分布での傾き情報を示している。また、図１２は、（ａ）がん細胞の構造、及び（ｂ）光学的厚みの傾き情報について模式的に示す図である。図１２（ａ）において、矢印５６は、がん細胞５５における光学的厚みの方向を示している。また、図１２（ｂ）において、矢印５７は、光学的厚み分布での傾き情報を示している。
図１３は、定量位相画像の特徴量として抽出された傾き情報を用いて、白血球とがん細胞とを判別する際、白血球の偽陽性率と真陽性率との関係を示すＲＯＣ曲線である。ここでは、特徴量抽出アルゴリズムとして、ＨＯＧを用いている。図１３からわかるように、この例では、ＡＵＣが約０．９８と非常に高い値を示し、がん細胞と白血球を高精度で判定できていることがわかる。
本発明の一側面による識別装置、及び識別方法は、上記した実施形態及び構成例に限られるものではなく、様々な変形が可能である。
上記実施形態による識別装置では、（１）対象物の光学的厚み分布の画像の特徴量を抽出する特徴量抽出部と、（２）種別が既知である対象物（既知対象物）の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて機械学習を行った学習結果を記憶する記憶部と、（３）記憶部により記憶されている学習結果を用いて、種別が未知である対象物（未知対象物）の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて未知対象物の種別を判定する識別部と、を備え、未知対象物の光学的厚み分布の画像の特徴量を抽出する際、または、未知対象物の種別を判定する際に、記憶部により記憶されている学習結果を用いる構成としている。
上記構成の識別装置は、（４）既知対象物の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて機械学習を行う学習部を更に備え、（５）記憶部が、学習部による機械学習の学習結果を記憶するのが好適である。
上記実施形態による識別方法では、（１）種別が未知である対象物（未知対象物）の光学的厚み分布の画像の特徴量を特徴量抽出部により抽出する第１特徴量抽出ステップと、（２）種別が既知である対象物（既知対象物）の光学的厚み分布の画像について特徴量抽出部により抽出された特徴量に基づいて機械学習を行って記憶部により記憶された当該学習結果を用いて、第１特徴量抽出ステップにおいて抽出された特徴量に基づいて未知対象物の種別を判定する識別ステップと、を備え、未知対象物の光学的厚み分布の画像の特徴量を抽出する際、または、未知対象物の種別を判定する際に、記憶部により記憶されている学習結果を用いる構成としている。
上記構成の識別方法は、（３）既知対象物の光学的厚み分布の画像の特徴量を特徴量抽出部により抽出する第２特徴量抽出ステップと、（４）第２特徴量抽出ステップにおいて抽出された特徴量に基づいて機械学習を行い、その学習結果を記憶部に記憶させる学習ステップと、を更に備えるのが好適である。
上記構成では、特徴量抽出部により、記憶部により記憶された学習結果を用いて、未知対象物の光学的厚み分布の画像内において特徴量を抽出する領域を少なくとも１つを設定する構成としても良い。具体的には、識別装置は、特徴量抽出部が、記憶部により記憶されている学習結果を用いて、未知対象物の光学的厚み分布の画像内において特徴量を抽出する領域を少なくとも１つ設定する構成としても良い。また、識別方法は、第１特徴量抽出ステップが、記憶部により記憶された学習結果を用いて、未知対象物の光学的厚み分布の画像内において特徴量を抽出する領域を少なくとも１つを設定する構成としても良い。
また、上記構成では、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出する構成としても良い。具体的には、識別装置は、特徴量抽出部が、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出する構成としても良い。また、識別方法は、特徴量抽出部により、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出する構成としても良い。
特に、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報は、光学的厚み分布の画像内の位置（画素）におけるベクトルの勾配強度および勾配方向の双方または何れか一方である構成としても良い。
また、対象物として白血球およびがん細胞を含む構成としても良い。また、特徴量抽出部により、溶血剤を添加した対象物の光学的厚み分布の画像の特徴量を抽出する構成としても良い。
また、本発明の一側面による識別装置は、対象物の光学的厚み分布の画像の特徴量を抽出する特徴量抽出部と、抽出された特徴量に基づいて対象物の種別を判定する識別部とを備え、特徴量抽出部が、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出する。
また、本発明の一側面による識別方法は、対象物の光学的厚み分布の画像の特徴量を抽出する抽出ステップと、抽出された特徴量に基づいて対象物の種別を判定する識別ステップとを備え、抽出ステップでは、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出する。
図１３からわかるように、対象物の光学的厚み分布の画像に対して、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出することにより、高精度で対象物の種別を判定することができる。
本発明の一側面は、３次元的形状を有し、大きさ及び形状について大きな特徴がなく無色透明である対象物であっても該対象物を識別することができる識別装置および識別方法として利用可能である。
１…識別装置、１１…定量位相画像取得部、１２…特徴量抽出部、１３…学習部、１４…記憶部、１５…識別部。

Claims (8)

  1. 細胞の光学的厚み分布の画像の特徴量を抽出する特徴量抽出部と、
    種別が既知である既知細胞の光学的厚み分布の画像について前記特徴量抽出部により抽出された特徴量に基づいて機械学習を行った学習結果を記憶する記憶部と、
    前記記憶部により記憶されている学習結果を用いて、種別が未知である未知細胞の光学的厚み分布の画像について前記特徴量抽出部により抽出された特徴量に基づいて未知細胞の種別を判定する識別部と、
    を備え、
    未知細胞の光学的厚み分布の画像の特徴量を抽出する際、または、未知細胞の種別を判定する際に、前記記憶部により記憶されている学習結果を用いるとともに、
    前記特徴量抽出部が、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出し、前記光学的厚みの空間的変化量に関する情報は、前記光学的厚み分布の画像内の位置における光学的厚みの傾き情報を表すベクトルの勾配強度および勾配方向の双方または何れか一方である、
    識別装置。
  2. 既知細胞の光学的厚み分布の画像について前記特徴量抽出部により抽出された特徴量に基づいて機械学習を行う学習部を更に備え、
    前記記憶部が、前記学習部による機械学習の学習結果を記憶する、
    請求項１に記載の識別装置。
  3. 前記特徴量抽出部は、前記記憶部により記憶されている学習結果を用いて、前記未知細胞の光学的厚み分布の画像内において前記特徴量を抽出する領域を少なくとも１つ設定する、請求項１または２に記載の識別装置。
  4. 種別が未知である未知細胞の光学的厚み分布の画像の特徴量を特徴量抽出部により抽出する第１特徴量抽出ステップと、
    種別が既知である既知細胞の光学的厚み分布の画像について前記特徴量抽出部により抽出された特徴量に基づいて機械学習を行って記憶部により記憶された当該学習結果を用いて、前記第１特徴量抽出ステップにおいて抽出された特徴量に基づいて未知細胞の種別を判定する識別ステップと、
    を備え、
    未知細胞の光学的厚み分布の画像の特徴量を抽出する際、または、未知細胞の種別を判定する際に、前記記憶部により記憶されている学習結果を用いるとともに、
    前記特徴量抽出部により、光学的厚み分布の画像内の位置における光学的厚みの空間的変化量に関する情報を該画像の特徴量として抽出し、前記光学的厚みの空間的変化量に関する情報は、前記光学的厚み分布の画像内の位置における光学的厚みの傾き情報を表すベクトルの勾配強度および勾配方向の双方または何れか一方である、
    識別方法。
  5. 既知細胞の光学的厚み分布の画像の特徴量を前記特徴量抽出部により抽出する第２特徴量抽出ステップと、
    前記第２特徴量抽出ステップにおいて抽出された特徴量に基づいて機械学習を行い、その学習結果を前記記憶部に記憶させる学習ステップと、
    を更に備える、請求項４に記載の識別方法。
  6. 前記第１特徴量抽出ステップは、前記記憶部により記憶された学習結果を用いて、前記未知細胞の光学的厚み分布の画像内において前記特徴量を抽出する領域を少なくとも１つを設定する、請求項４または５に記載の識別方法。
  7. 前記細胞として白血球およびがん細胞を含む、請求項４〜６の何れか一項に記載の識別方法。
  8. 前記特徴量抽出部により、溶血剤を添加した細胞の光学的厚み分布の画像の特徴量を抽出する、請求項７に記載の識別方法。
JP2016538314A 2014-07-29 2015-07-23 識別装置および識別方法 Active JP6692049B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2014153651 2014-07-29
JP2014153651 2014-07-29
PCT/JP2015/071023 WO2016017533A1 (ja) 2014-07-29 2015-07-23 識別装置および識別方法

Publications (2)

Publication Number Publication Date
JPWO2016017533A1 JPWO2016017533A1 (ja) 2017-05-25
JP6692049B2 true JP6692049B2 (ja) 2020-05-13

Family

ID=55217434

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016538314A Active JP6692049B2 (ja) 2014-07-29 2015-07-23 識別装置および識別方法

Country Status (4)

Country Link
US (1) US10180387B2 (ja)
EP (1) EP3176563B1 (ja)
JP (1) JP6692049B2 (ja)
WO (1) WO2016017533A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017130640A1 (ja) * 2016-01-28 2017-08-03 株式会社リコー 画像処理装置、撮像装置、移動体機器制御システム、画像処理方法、及びプログラム
US20200251184A1 (en) * 2016-12-16 2020-08-06 Osaka University Classification analysis method, classification analysis device, and storage medium for classification analysis
CN110392732B (zh) * 2017-03-02 2023-07-28 株式会社岛津制作所 细胞分析方法和细胞分析装置
JP6807529B2 (ja) * 2017-05-07 2021-01-06 アイポア株式会社 識別方法、分類分析方法、識別装置、分類分析装置および記憶媒体
US20200193140A1 (en) * 2017-08-24 2020-06-18 Nano Global Detection of Biological Cells or Biological Substances
JP6999129B2 (ja) 2017-09-06 2022-01-18 浜松ホトニクス株式会社 細胞観察システムおよび細胞観察方法
JP6798625B2 (ja) * 2017-11-14 2020-12-09 株式会社ニコン 定量位相画像生成方法、定量位相画像生成装置およびプログラム
CN111630604A (zh) * 2017-11-20 2020-09-04 纳诺全球公司 基于生物细胞或生物物质的检测的数据收集和分析
JP6732722B2 (ja) * 2017-12-11 2020-08-05 憲隆 福永 胚選抜システム
JP7000379B2 (ja) * 2019-05-07 2022-01-19 憲隆 福永 胚選抜システム
CN111105416B (zh) * 2019-12-31 2022-09-09 北京理工大学重庆创新中心 一种骨髓细胞增生程度自动分级方法及系统
CN111784669B (zh) * 2020-06-30 2024-04-02 长沙理工大学 一种胶囊内镜图像多病灶检测方法
WO2022024564A1 (ja) 2020-07-30 2022-02-03 浜松ホトニクス株式会社 判別装置、判別方法、判別プログラム及び記録媒体
JP2022039514A (ja) 2020-08-28 2022-03-10 浜松ホトニクス株式会社 学習モデル生成方法、識別方法、学習モデル生成システム、識別システム、学習モデル生成プログラム、識別プログラム及び記録媒体
WO2022195754A1 (ja) * 2021-03-17 2022-09-22 株式会社エビデント データ処理方法、データ処理装置、三次元観察装置、学習方法、学習装置及び記録媒体

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8131053B2 (en) * 1999-01-25 2012-03-06 Amnis Corporation Detection of circulating tumor cells using imaging flow cytometry
JP4662935B2 (ja) 2003-09-23 2011-03-30 イアティア イメージング プロプライアタリー リミティド 試料の面積またはコンフルエンスを決定するための方法と装置
US9322834B2 (en) * 2007-05-30 2016-04-26 Sysmex Corporation Sample analyzer, blood analyzer and displaying method
JP5022274B2 (ja) 2008-03-06 2012-09-12 浜松ホトニクス株式会社 観察装置
US8538119B2 (en) * 2008-06-04 2013-09-17 Hitachi High-Technologies Corporation Particle image analysis method and apparatus
ES2796655T3 (es) * 2008-11-14 2020-11-27 Beckman Coulter Inc Celdas de flujo óptico monolíticas y método de fabricación
JP5321145B2 (ja) * 2009-03-04 2013-10-23 日本電気株式会社 画像診断支援装置、画像診断支援方法、画像診断支援プログラム、及びその記憶媒体
US8599383B2 (en) * 2009-05-06 2013-12-03 The Regents Of The University Of California Optical cytometry
US8873027B2 (en) * 2010-04-23 2014-10-28 Hamamatsu Photonics K.K. Cell observation device and cell observation method
US11105686B2 (en) * 2010-05-10 2021-08-31 University of Pittshurgh-Of the Commonwealth System of Higher Education Spatial-domain low-coherence quantitative phase microscopy
EP2637015A4 (en) * 2010-11-01 2016-09-07 Kanagawa Kagaku Gijutsu Akad CELL ANALYZER
US9522396B2 (en) * 2010-12-29 2016-12-20 S.D. Sight Diagnostics Ltd. Apparatus and method for automatic detection of pathogens
US10451402B2 (en) 2011-01-25 2019-10-22 Massachusetts Institute Of Technology Single shot full-field reflection phase microscopy
EP2739937B1 (en) 2011-08-02 2023-03-01 The Regents of The University of California Rapid, massively parallel single-cell drug response measurements via live cell interferometry
JP6265364B2 (ja) * 2012-07-24 2018-01-24 国立大学法人電気通信大学 細胞識別装置及び細胞識別方法、並びに、細胞識別方法のプログラム及びそのプログラムを記録した記録媒体
US20140193892A1 (en) 2012-07-25 2014-07-10 Theranos, Inc. Image analysis and measurement of biological samples
JP5464244B2 (ja) * 2012-08-24 2014-04-09 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム
EP3489656B1 (en) * 2013-03-15 2021-11-17 Iris International, Inc. Method for imaging particles
WO2014186228A1 (en) * 2013-05-13 2014-11-20 Chiranjit Deka Apparatus and methods for cellular analysis
US10139333B2 (en) * 2013-10-30 2018-11-27 The General Hospital Corporation System and method for inertial focusing cytometer with integrated optics for particle characterization
WO2015085216A1 (en) * 2013-12-06 2015-06-11 University Of Pittsburgh - Of The Commonwealth System Of Higher Education Spatial-domain low-coherence quantitative phase microscopy
JP6116502B2 (ja) * 2014-02-28 2017-04-19 シスメックス株式会社 検体分析装置および検体分析方法
US10036698B2 (en) * 2015-06-19 2018-07-31 Captl Llc Time-sequential cytometry

Also Published As

Publication number Publication date
JPWO2016017533A1 (ja) 2017-05-25
US20170212033A1 (en) 2017-07-27
EP3176563A1 (en) 2017-06-07
WO2016017533A1 (ja) 2016-02-04
EP3176563B1 (en) 2021-06-30
US10180387B2 (en) 2019-01-15
EP3176563A4 (en) 2018-04-25

Similar Documents

Publication Publication Date Title
JP6692049B2 (ja) 識別装置および識別方法
CN110889312B (zh) 活体检测方法和装置、电子设备、计算机可读存储介质
JP6710135B2 (ja) 細胞画像の自動分析方法及びシステム
Zhang et al. Retinal vessel segmentation using multi-scale textons derived from keypoints
Dong et al. Deep learning for automatic cell detection in wide-field microscopy zebrafish images
WO2020260936A1 (en) Medical image segmentation using an integrated edge guidance module and object segmentation network
WO2015069824A2 (en) Diagnostic system and method for biological tissue analysis
CN114846507A (zh) 用于使用人工智能（ai）模型进行非侵入性基因检测的方法和系统
JPWO2016185617A1 (ja) 画像処理装置、画像処理方法、及び画像処理プログラム
JP2017016593A (ja) 画像処理装置、画像処理方法、及びプログラム
US20220036140A1 (en) Classification device, classification method, program, and information recording medium
Nanni et al. A comparison of methods for extracting information from the co-occurrence matrix for subcellular classification
Sreejini et al. Retrieval of pathological retina images using Bag of Visual Words and pLSA model
Peikari et al. Clustering analysis for semi-supervised learning improves classification performance of digital pathology
Kong et al. Texture based image recognition in microscopy images of diffuse gliomas with multi-class gentle boosting mechanism
Majid et al. Enhanced transfer learning strategies for effective kidney tumor classification with CT imaging
Essa et al. Phase contrast cell detection using multilevel classification
Rathore et al. A novel approach for ensemble clustering of colon biopsy images
Hirata et al. Plankton image classification based on multiple segmentations
KR20230063147A (ko) 다단계 특징 분석을 사용한 전립선 조직의 효율적인 경량 cnn과 앙상블 머신 러닝 분류 방법 및 시스템
Yancey Deep Feature Fusion for Mitosis Counting
Navarro et al. Skin Disease Analysis using Digital Image processing
Boonsiri et al. 3D gray level co-occurrence matrix based classification of favor benign and borderline types in follicular neoplasm images
Naik et al. Hybrid Feature Set based Mitotic Detection in Breast Histopathology Images
Beaver et al. Segmentation of nuclei in confocal image stacks using performance based thresholding

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161228

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180517

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200212

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200310

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200326

R150 Certificate of patent or registration of utility model

Ref document number: 6692049

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250