JP5783043B2 - 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法 - Google Patents

細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法 Download PDF

Info

Publication number
JP5783043B2
JP5783043B2 JP2011518305A JP2011518305A JP5783043B2 JP 5783043 B2 JP5783043 B2 JP 5783043B2 JP 2011518305 A JP2011518305 A JP 2011518305A JP 2011518305 A JP2011518305 A JP 2011518305A JP 5783043 B2 JP5783043 B2 JP 5783043B2
Authority
JP
Japan
Prior art keywords
cell mass
change
image processing
image
small area
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011518305A
Other languages
English (en)
Other versions
JPWO2010143420A1 (ja
Inventor
和弘 矢野
和弘 矢野
三村 正文
正文 三村
啓 伊藤
啓 伊藤
秀貴 佐々木
秀貴 佐々木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2011518305A priority Critical patent/JP5783043B2/ja
Publication of JPWO2010143420A1 publication Critical patent/JPWO2010143420A1/ja
Application granted granted Critical
Publication of JP5783043B2 publication Critical patent/JP5783043B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • G06T7/0016Biomedical image inspection using an image reference approach involving temporal comparison
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M41/00Means for regulation, monitoring, measurement or control, e.g. flow regulation
    • C12M41/46Means for regulation, monitoring, measurement or control, e.g. flow regulation of cellular or enzymatic activity or functionality, e.g. cell viability
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M41/00Means for regulation, monitoring, measurement or control, e.g. flow regulation
    • C12M41/12Means for regulation, monitoring, measurement or control, e.g. flow regulation of temperature
    • C12M41/14Incubators; Climatic chambers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/693Acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Organic Chemistry (AREA)
  • Theoretical Computer Science (AREA)
  • Zoology (AREA)
  • Wood Science & Technology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Multimedia (AREA)
  • Biochemistry (AREA)
  • Molecular Biology (AREA)
  • Quality & Reliability (AREA)
  • Analytical Chemistry (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biotechnology (AREA)
  • Microbiology (AREA)
  • Sustainable Development (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Genetics & Genomics (AREA)
  • Thermal Sciences (AREA)
  • Cell Biology (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Apparatus Associated With Microorganisms And Enzymes (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)
  • Micro-Organisms Or Cultivation Processes Thereof (AREA)

Description

本発明は、細胞観察において取得された時系列画像から細胞塊の複層化の状態を判別する状態判別手法に関するものである。
細胞を培養しながら観察する装置の一例として培養顕微鏡が挙げられる。培養顕微鏡は、細胞の培養に好適な環境を形成する培養装置と、培養容器内の細胞を顕微観察する顕微観察系とを備え、生きた細胞を培養しながら、細胞の変化や分裂などを観察できるように構成される(例えば特許文献1を参照)。生細胞の培養過程では、細胞分裂の進行により細胞塊が形成される。細胞分裂の初期過程では、分裂した細胞が単層状態で培地内を水平方向に広がるが、細胞分裂が活発化して細胞塊が成熟してくると、細胞が泡立つように上下方向にも広がり、いわゆる複層化が進行する。
培養顕微鏡を用いた従来の細胞観察手法では、細胞塊の複層化の状態判定を、顕微観察画像を目視観察して判別する目視判定や、試薬を投与して着色状態等から判別する試薬判定により行っていた。
特開2004−229619号公報
しかしながら、従来行われてきた目視判定の手法では、多数の時系列画像から細胞塊を抽出し複層化された状態を判別するのに、一定の経験を有する知見者が時間をかけて判別する必要があった。特に、各時刻の観察画像に多数の細胞塊が含まれる場合に、個々の細胞塊を識別しながら複層化の状態判別を行うことは大変煩雑な作業であった。また、目視判定では細胞塊において複層化された部位の位置や大きさ(面積や細胞塊に占める比率等)を定量的に捉えることが困難であるという課題があった。さらに、試薬判定の手法では、試薬の投与により細胞に与える化学的・物理的影響や、培養された細胞を利用する際の制約が大きいという課題があった。
本発明は、このような課題に鑑みてなされたものであり、細胞に試薬投与によるダメージを与えることなく、撮像装置により撮影された時系列画像から細胞塊の複層化の状態を判別可能な手段を提供することを目的とする。
本発明を例示する第1の態様に従えば、撮像装置により撮影された細胞塊の時系列画像を取得し、取得された画像中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出し、算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別することを特徴とする細胞塊の状態判別手法が提供される。
本発明を例示する第2の態様に従えば、コンピュータにより読み取り可能であり、撮像装置により撮影された画像を取得して画像処理する画像処理装置としてコンピュータを機能させるための画像処理プログラムであって、撮像装置により撮影された細胞塊の時系列画像を取得するステップと、取得された画像中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出するステップと、算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別するステップと、判別結果を出力するステップとを備え、細胞塊の時系列画像から細胞塊の複層化の状態を判別して出力するようにコンピュータを機能させるための画像処理プログラムが提供される。
本発明を例示する第3の態様に従えば、撮像装置により撮影された細胞塊の時系列画像を取得し画像を解析する画像解析部と、画像解析部による解析結果を出力する出力部とを備えた画像処理装置が構成される。この画像処理装置において、前記画像解析部は、取得された画像中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出し、算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別し、前記出力部が、画像解析部により判別された細胞塊の複層化の状態を出力するように構成される。
なお、以上の本発明において、複層化の状態判別は、前記小領域の空間的な輝度値の変化を示す値が閾値以上であり、かつ前記小領域の時間的な輝度値の変化を示す値が閾値以上である場合に、複層化されていると判別することが好ましい。この場合において、前記小領域の空間的な輝度値の変化は、小領域内の輝度値の分散または輝度値微分の総和により算出されることが好ましく、前記小領域の時間的な輝度値の変化は、時系列画像において対応する小領域の輝度値の分散または微分値により算出されることが好ましい。
本発明の画像処理プログラムまたは画像処理装置において、複層化されていると判断された部位の細胞塊における位置情報を出力するように構成することが好ましく、複層化されていると判断された部位の細胞塊に占める大きさの情報(面積、体積、これらの比率等)を出力するように構成することが好ましい。また、時系列の各画像中に複数の細胞塊が含まれる場合に、細胞塊ごとに複層化の状態を判別するとともに、複層化部位を持つ細胞塊と複層化部位をもたない細胞塊とに分別し、分別された判別結果を出力するように構成することが望ましい。
また、本発明を例示する第4の態様に従えば、細胞を培養する培養ステップと、前記培養ステップにおいて培養される細胞を、上述の画像処理装置を用いて観察し、培養により変化する前記細胞における細胞塊の複層化の状態を判別する判別ステップと、を備えて細胞塊の製造方法が提供される。
また、本発明を例示する第5の態様に従えば、細胞を培養する培養ステップと、前記培養ステップにおいて培養される細胞を、撮像装置により撮影し、培養により変化する前記細胞における細胞塊の時系列画像を取得する取得ステップと、前記取得ステップにおいて取得した前記時系列画像の中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出する算出ステップと、前記算出ステップにおいて算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別する判別ステップと、を備えて細胞塊の製造方法が提供される。
本発明の細胞塊の状態判別手法、画像処理プログラム及び画像処理装置おいては、細胞塊の小領域の空間的な輝度分布及び時間的な輝度変化から細胞塊の複層化の状態が判別される。従って、本発明によれば、試薬の投与によって細胞にダメージを与えるようなことがなく、撮像装置により撮影された時系列画像から細胞塊の複層化の状態を判別可能な手段を提供することができる。
画像処理プログラムの概要構成を示すフローチャートである。 本発明の適用例として示す培養観察システムの概要構成図である。 上記培養観察システムのブロック図である。 画像処理装置の概要構成を例示するブロック図である。 縦軸に小領域の輝度値の空間的分散、横軸に時間をとった場合の空間的分散の時系列変化の様子を示すグラフである。 セグメンテーション、ラベリングされた細胞塊の状況を例示する模式図である。 ラベルnの細胞塊の時系列取得を例示する模式図である。 画像解析により判別された複層化部位(位置、大きさ、範囲)の出力形態を例示する模式図である。 細胞塊の製造方法を示すフローチャートである。
以下、本発明を実施するための形態について、図面を参照しながら説明する。本発明の画像処理装置を適用したシステムの一例として、培養観察システムの概要構成図及びブロック図を図2及び図3に示しており、まず培養観察システムBSの全体構成について概要説明する。
培養観察システムBSは、大別的には、筐体1の上部に設けられた培養室2、複数の培養容器10を収容保持するストッカー3、培養容器10内の試料を観察する観察ユニット5、培養容器10を搬送する搬送ユニット4、システムの作動を制御する制御ユニット6、及び画像表示装置を備えた操作盤7などから構成される。
培養室2は、培養環境を形成する部屋であり、この培養室2に付随して温度調整装置21、加湿器22、CO2ガスやN2ガス等のガスを供給するガス供給装置23、循環ファン24、培養室2の温度や湿度等を検出する環境センサ25などが設けられている。ストッカー3は、前後及び上下に仕切られた棚状に形成され各棚に固有の番地が設定される。培養容器10は、培養する細胞の種別や目的に応じて適宜選択され、例えばディッシュタイプの培養容器に細胞試料が液体培地とともに注入保持される。各培養容器10にはコード番号が付与され、ストッカー3の指定番地に対応づけて収容される。搬送ユニット4は、培養室2の内部に設けられて上下移動可能なZステージ41、前後移動可能なYステージ42、左右移動可能なXステージ43などからなり、Xステージ43の先端側に培養容器10を持ちあげ支持する支持アーム45が設けられている。
観察ユニット5は、試料台15の下側から試料を照明する第1照明部51、顕微観察系55の光軸に沿って試料台15の上方から試料を照明する第2照明部52及び下方から試料を照明する第3照明部53、試料のマクロ観察を行うマクロ観察系54、試料のミクロ観察を行う顕微観察系55、及び画像処理装置100などから構成される。試料台15には顕微観察系55の観察領域に透明な窓部16が設けられている。
マクロ観察系54は、観察光学系54aと、観察光学系により結像された試料の像を撮影するCCDカメラ等の撮像装置54cとを有して構成され、第1照明部51によりバックライト照明された培養容器10の上方からの全体観察画像(マクロ像)が取得される。顕微観察系55は、対物レンズや中間変倍レンズ、蛍光フィルタ等からなる観察光学系55aと、観察光学系55aにより結像された試料の像を撮影する冷却CCDカメラ等の撮像装置55cとを有して構成される。対物レンズ及び中間変倍レンズは各々複数設けられ、レンズの組み合わせを変化させることにより任意の観察倍率に設定可能に構成される。顕微観察系55では、第2照明部52により照明された細胞の透過像、第3照明部53により照明された細胞の反射像、第3照明部53により照明された細胞の蛍光像など、培養容器10内の細胞を顕微鏡観察した顕微観察像(ミクロ像)が取得される。
画像処理装置100は、マクロ観察系54の撮像装置54c、顕微観察系55の撮像装置55cにより撮影され、これらの撮像装置から入力された信号を処理して全体観察画像や顕微観察画像などの画像を生成する。また、画像処理装置100は、これらの観察画像(画像データ)に画像解析を施し、タイムラプス画像の生成、細胞の移動方向予測、細胞の運動状態の解析、細胞塊の複層化の状態の解析などを行う。なお、画像処理装置100については、後に詳述する。
制御ユニット6は、処理を実行するCPU61、培養観察システムBSの制御プログラムや制御データ等が設定記憶されたROM62、ハードディスクやDVD等の補助記憶装置を含み観察条件や画像データ等を一時記憶するRAM63などを有し、培養観察システムBSの作動を制御する。そのため、図3に示すように、培養室2、搬送ユニット4、観察ユニット5、操作盤7の各構成機器が制御ユニット6に接続されている。RAM63には、観察プログラムに応じた培養室2の環境条件や、観察スケジュール、観察ユニット5における観察種別や観察位置、観察倍率等が設定され記憶される。また、RAM63には、観察ユニット5により撮影された画像データを記録する画像データ記憶領域が設けられ、培養容器10のコード番号や撮影日時等を含むインデックス・データと画像データとが対応付けて記録される。
操作盤7には、キーボードやスイッチ等の入出力機器が設けられた操作パネル71、操作画面や観察画像、解析結果等を表示する表示パネル72が設けられ、操作パネル71において観察プログラムの設定や条件選択、動作指令等の入力が行われる。通信部65は有線または無線の通信規格に準拠して構成されており、この通信部65に外部接続されるコンピュータ等との間でデータの送受信が可能になっている。
このように概要構成される培養観察システムBSは、操作盤7において設定された観察プログラムに従ってCPU61が各部の作動を制御し、培養容器10内の試料の撮影を自動的に実行する。観察プログラムがスタートされると、CPU61はRAM63に記憶された環境条件に基づいて温度調整装置21、加湿器22等の作動を制御する。また、RAM63に記憶された観察条件を読み込み、観察スケジュールに基づいてX,Y,Zステージ43,42,41を作動させてストッカー3から観察対象の培養容器10を試料台15に搬送し、観察ユニット5による観察を開始させる。例えば、観察プログラムにおいて設定された観察が細胞のミクロ観察である場合には、該当する培養容器10を顕微観察系55の光軸上に位置決めし、第2照明部52または第3照明部53の光源を点灯させて、顕微観察像を撮像装置55cに撮影させる。
以上のように構成される培養観察システムBSにおいて、画像処理装置100は、撮像装置(54c、55c)により撮影された時系列画像を取得し、画像に含まれる細胞塊の複層化の状態を判別する機能を有しており、例えば、iPS細胞やES細胞等の解析に好適に利用される。画像処理装置100は、細胞塊を撮影した時系列画像について、輝度分布の空間的、時間的特長から細胞塊が複層化しているか否かを判断する。この手法は、複層化した部位の画像が、以下の二つの特徴をもつことを利用する。
(A)細胞塊中、複層化が進んだ部分の輝度分布は、複層化していない部分の輝度分布と比較して、空間的な輝度変化(輝度値のばらつき)が大きい。これは、細胞が複層化していない単層領域では、細胞塊が水平方向に広がるため小領域内の空間的な輝度変化がさほど大きくないのに対し、複層化領域では細胞が泡立つように上方に盛り上がるため小領域内の空間的な輝度変化が大きくなるからと考えられる。
(B)複層化が進んだ部分で生じる輝度変化の時間スケールは、複層化していない部分の輝度変化や、細胞塊境界の変化に伴う輝度変化とくらべて短い。上記のように、複層化領域では、細胞が泡立つように広がるため、時系列画像において、小領域の輝度が比較的短時間で大きく変動するからと考えられる。
具体的に、培養中の細胞塊を撮影した時系列画像について、細胞塊の大きさに比較して十分に小さい小領域を指定し、小領域の空間的な輝度変化とその時間的変化をプロットすると、図5に示すようになる。この図は、縦軸に小領域の空間的な輝度値の分散(例えば縦横20×20画素(細胞2〜3個分の大きさ)の小領域の輝度値の分散)、横軸に時間をとり、小領域の空間的な輝度値分散の変化状態を、複層化された状態の小領域(実線)と、他の小領域(点線および二点鎖線)とについて模式的に示したものである。
図5中の実線は、複層化された部位の小領域の特性を示す。複層化された部位の小領域では、泡立つような細胞の増殖により、空間的な輝度値の変化(輝度分散値)が大きく、かつ、比較的短い周期で大きく波打つように変化する。
図5中の点線は、細胞塊の境界(輪郭部)を含む小領域の特性を示す。細胞塊の境界では輪郭線を挟んで輝度が大きく変化するため、空間的な輝度値の変化(輝度分散値)は比較的大きくなる。しかし、細胞塊が成長または縮退して細胞塊の境界が移動したとしても、その移動速度は遅く、輝度値の時間的な変化は緩慢かつ小さなものとなる。
図5中の一点鎖線は、複層化していない部位の小領域の特性を示す。単層状態の部位の小領域では、細胞塊が広がっても空間的な輝度値の変化は小さく、時間的にも輝度値の変化は小さいものとなる。
本発明は、上記のような複層化領域の画像上の特徴に着目し、細胞塊の時系列画像を画像処理することにより複層化の状態を判別する。画像処理装置100は、細胞塊内部の小領域の空間的な輝度分布及び時間的な輝度変化を細胞塊全域(解析範囲がマウス等により指定されている場合には指定された解析範囲内)について算出し、算出された輝度値の空間分布及び時系列変化に基づいて細胞塊の複層化の状態を判別する。
図4に画像処理装置100のブロック図を示し、図1に複層化の判別処理を行う画像処理プログラムGPのフローチャートを示す。
画像処理装置100は、撮像装置(55c,54c)により撮影された細胞塊の時系列画像を取得して画像を解析する画像解析部120と、画像解析部120により解析された解析結果を出力する出力部130とを備えて構成され、画像解析部120による解析結果、例えば複層化が進んでいると判断された部位の位置や大きさの情報(面積、体積、比率等)、複層化された部位を含む細胞塊と含まない細胞塊との判別などが出力部130から出力され表示パネル72等に表示されるように構成される。
画像処理装置100は、ROM62に設定記憶された画像処理プログラムGPがCPU61に読み込まれ、CPU61によって画像処理プログラムGPに基づく処理が順次実行されることによって構成される。換言すれば、画像処理プログラムGPはハードウェア資源であるCPU61(コンピュータ)を画像処理装置100として機能させるためのソフトウェアである。
画像解析部120は、画像処理プログラムGPに基づき、撮像装置(説明ではミクロ系の撮像装置55cとする)により撮影され、RAM63に記録された細胞塊の時系列画像を以下のように画像処理する。なお、撮像装置55cにより撮影された画像を順次リアルタイムで処理するようにしてもよい。
画像解析部120は、RAM63に記憶された細胞塊の時系列画像を順次取得し(ステップS10)、時刻t1・・・tnの各画像に対し、レベルセット(Level Set)、及び分散フィルタによって細胞塊のセグメンテーションを行う(ステップS20)。次いで、図6に示すように、セグメント化された細胞塊MCに対してラベリングを行い(ステップS30)、各画像間での細胞塊の対応をとる。例えば、各画像においてラベリング1,2,3…を施した細胞塊MCについて、像が重なるラベル同士を同じ細胞塊として対応づける。
次いで、細胞塊MCが移動する場合の効果を小さくするため、同一ラベルの細胞塊の位置合わせを行う。位置合わせの基準には、細胞塊の重心位置や、外接矩形の頂点位置などを用い、画像間での移動量を算出して位置合わせすることができ、また図形モーメントの相関が最大(差分が最小)となるように細胞塊の回転角度を揃えることができる。時刻t1の第1像と時刻t2の第2像との差分が最小(相関値が最大)となる位置及び角度で位置合わせを行うようにしてもよい。
このように対応付けされ、位置合わせされた同一ラベルの細胞塊MCの時系列画像(図7はラベルnの細胞塊の時系列画像を示す)に対して、ステップS40において、画像を形成する画素を中心とする多数の「小領域」Aに分割する。小領域Aは、細胞塊MCの大きさに比べて十分に小さい局所領域として設定され、例えば、10×10〜30×30画素程度(細胞2〜5個程度の大きさ)に設定される。
そして、ステップS50において画像の解析が行われる。画像解析は、小領域の空間的な解析50Aと、小領域の時系列解析50Bとにより構成される。
(50A:小領域の空間的な解析)
小領域の空間的な解析では、各時刻画像における各小領域について、小領域Aの輝度分布から空間的な輝度値の変化(ばらつき)を算出する。空間的な輝度値変化の評価指標として、小領域Aの輝度値の分散や、空間方向に対する輝度値の微分の総和などが例示され、この値(スコア)aによって空間的な輝度値変化の特徴が定量的に表現される。スコアaが大きな小領域は、輝度値が空間的に大きく変化している領域であり、細胞塊中で複層化している部位や、細胞塊内外の境界の部分が該当する。
(50B:小領域の時系列解析)
小領域の時系列解析では、時系列画像における小領域Aの時間的な輝度値の変化(ばらつき)を算出する。時間的な輝度値変化の評価指標として、時系列画像間での小領域Aの輝度値の分散や、微分値などが例示され、この値(スコア)bによって時間的な輝度値変化の特徴を定量的に表現することができる。スコアbが大きな小領域は輝度値が時間的に大きく変化している領域であり、細胞塊中で複層化している部分が該当する。
スコアbを算出する場合の「小領域の輝度値」は、50Aで算出したスコアa(輝度値の分散、微分の総和)を用いることができ、このような構成により、CPU61の処理負担を軽減して演算処理を高速化することができる。なお、小領域の輝度値は、小領域Aを形成する複数画素の少なくともいずれかの画素の輝度値、あるいは複数画素の適宜な平均輝度値を用いることもできる。
ステップS60では、上記のようにして得られた空間的な輝度値の変化のスコアa及びスコアbを、細胞塊MCの各小領域に割り当て、細胞塊全域について、スコアa及びbを付したマップを形成する。
そしてステップS70において、細胞塊MCの各小領域について、スコアaが所定の閾値以上であり、かつスコアbが所定の閾値以上であるか否かを判断し、ステップS75において、スコアa及びbがともに閾値以上である領域を複層化された領域、そうでない領域をその他の領域に分別する(図5を併せて参照)。なお、ステップS70において判断する際の小領域のスコアaは、時系列画像における各時刻の小領域のスコアa1・・・anの総和Σ(a1・・・an)や平均値等を用いることができる。上記各閾値は、観察対象となる細胞の種別や観察条件、解析条件などに応じて適宜な値が設定される。また複層化領域の判断は、スコアa×bが所定の閾値以上である領域を複層化領域としてもよい。
ステップS80では、ステップS75の分別結果に基づき、細胞塊の複層化の状態を出力部130から出力して表示パネル72等に表示させる。細胞塊の複層化の状態は、例えば図8に模式図を示すように、ラベルnの細胞塊MCの画像中に、複層化されたと判断された領域をハッチングや色分け等により識別可能に表示する。また、当該ラベルnの細胞塊に占める複層化領域の大きさの情報(面積、体積、これらの比率等)を数値データで表示する。
図8では、マウス等により選択された特定の(ラベルnの)細胞塊を拡大表示した構成例を示すが、図6のように画像中に複数の細胞塊MCが含まれるような場合には、表示画面を全体像に切り換えることにより、複層化された部位を含む細胞塊と含まない細胞塊とを識別可能に表示する。
このような全体画像における識別表示の具体的な形態として、例えば、画像中の各細胞塊について図8と同様の表示を行い、あるいは、複層化された部位を有する細胞塊を黄色、複層化部位の無い内細胞塊を青色のように分別表示し、または、各細胞塊に占める複層化部位の面積比に応じて、面積比が高い細胞塊ほど赤く、面積比が低くなるにつれて黄色〜緑〜青のように識別表示する表示形態が例示される。なお、解析結果をプリンタやRAM63、磁気記録媒体等に出力して記録させ、あるいは通信部65を介してシステム外部に出力するように構成してもよい。
これにより、観察者は画像に含まれる細胞塊の複層化の状態を定量的に目視判断することができる。このように、画像処理装置100においては、細胞塊の小領域の空間的な輝度分布及び時間的な変化から細胞塊の複層化の状態が判別される。従って、画像処理装置100による細胞塊の状態判別手法によれば、試薬の投与によって細胞にダメージを与えるようなことがなく、撮像装置(55c,54c)により撮影された時系列画像から細胞塊の複層化の状態を判別可能な手段を提供することができる。
なお、以上説明した実施形態では、培養観察システムBSにおいて撮像装置に撮影され、RAM63に記憶された時系列画像(画像データ)を読み出して複層化状態を解析する構成を例示したが、撮像装置により撮影された画像を逐次リアルタイムで解析するように構成してもよく、また、他の観察システムにおいて撮影され磁気記憶媒体等に記録された時系列画像を読み出して複層化状態を解析するように構成してもよい。また、オペレータが時系列画像に含まれる細胞塊の所定範囲(特定の細胞塊や、細胞塊における特定部位)をマウス等により解析範囲として設定し、設定された解析範囲について画像処理装置が複層化状態の解析を実行するように構成してもよい。
次に、本発明の実施形態に係る細胞塊の製造方法について、図9を参照して説明する。この製造方法は、基本的には、細胞を培養する培養ステップ(S110)と、この培養ステップにおいて培養される細胞を、前述した画像処理装置を用いて観察し、培養により変化する細胞における細胞塊の複層化の状態を判別する判別ステップ(S120−S140)とを備える。
より具体的には、細胞を培養する培養ステップ(S110)と、この培養ステップにおいて培養される細胞を、撮像装置により撮影し、培養により変化する細胞における細胞塊の時系列画像を取得する取得ステップ(S120)と、この取得ステップにおいて取得した時系列画像の中の細胞塊における小領域の空間的な輝度値の分布及び時間的な輝度値の変化を算出する算出ステップ(S130)と、この算出ステップにおいて算出された輝度値の空間分布及び時系列変化に基づいて細胞塊の複層化の状態を判別する判別ステップ(S140)と、所定の基準に基づいて、細胞塊を選別する選別ステップ(S150)と、選別した細胞塊を採取、保存する採取保存ステップ(S160)とを備えて、製造方法が構成される。なお、培養される細胞は、ヒト、ウシ、ウマ、ブタ、マウス等の動物由来の細胞であってもよいし、植物由来の細胞であってもよい。また、細胞塊の保存は凍結保存であってもよい。
A 小領域 BS 培養観察システム
GP 画像処理プログラム MC 細胞塊
5 観察ユニット 6 制御ユニット
54 マクロ観察系 54c 撮像装置
55 顕微観察系 55c 撮像装置
61 CPU(コンピュータ) 62 ROM
63 RAM 100 画像処理装置
120 画像解析部 130 出力部

Claims (20)

  1. 撮像装置により撮影された細胞塊の時系列画像を取得し、
    取得された画像中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出し、
    算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別することを特徴とする細胞塊の状態判別手法。
  2. 複層化の状態判別は、前記小領域の空間的な輝度値の変化を示す値が閾値以上であり、かつ前記小領域の時間的な輝度値の変化を示す値が閾値以上である場合に、複層化されていると判別することを特徴とする請求項1に記載の細胞塊の状態判別手法。
  3. 前記小領域の空間的な輝度値の変化は、前記小領域内の輝度値の分散または輝度値の微分の総和により算出されることを特徴とする請求項2に記載の細胞塊の状態判別手法。
  4. 前記小領域の時間的な輝度値の変化は、前記時系列画像において対応する前記小領域の輝度値の分散または微分値により算出されることを特徴とする請求項2または3に記載の細胞塊の状態判別手法。
  5. コンピュータにより読み取り可能であり、撮像装置により撮影された画像を取得して画像処理する画像処理装置としてコンピュータを機能させるための画像処理プログラムであって、
    撮像装置により撮影された細胞塊の時系列画像を取得するステップと、
    取得された画像中の前記細胞塊の大きさに比べて小さな局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出するステップと、
    算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別するステップと、
    判別結果を出力するステップとを備え、
    細胞塊の時系列画像から細胞塊の複層化の状態を判別して出力するようにコンピュータを機能させるための画像処理プログラム。
  6. 前記細胞塊の複層化の状態を判別するステップは、
    前記小領域の空間的な輝度値の変化を示す値が閾値以上であり、かつ前記小領域の時間的な輝度値の変化を示す値が閾値以上である場合に、複層化されていると判別するように構成されることを特徴とする請求項5に記載の画像処理プログラム。
  7. 前記小領域の空間的な輝度値の変化は、前記小領域内の輝度値の分散または輝度値の微分の総和により算出されることを特徴とする請求項6に記載の画像処理プログラム。
  8. 前記小領域の時間的な輝度値の変化は、前記時系列画像において対応する前記小領域の輝度値の分散または微分値により算出されることを特徴とする請求項6または7に記載の画像処理プログラム。
  9. 前記判別結果を出力するステップは、前記細胞塊の複層化の状態を判別するステップにおいて複層化されていると判断された部位の前記細胞塊における位置情報を出力するように構成されることを特徴とする請求項5〜8のいずれかに記載の画像処理プログラム。
  10. 前記判別結果を出力するステップは、前記細胞塊の複層化の状態を判別するステップにおいて複層化されていると判断された部位の前記細胞塊に占める大きさの情報を出力するように構成されることを特徴とする請求項5〜9のいずれかに記載の画像処理プログラム。
  11. 前記時系列の各画像中に複数の細胞塊が含まれる場合において、
    前記細胞塊の複層化の状態を判別するステップは、細胞塊ごとに複層化の状態を判別するとともに、複層化部位を持つ細胞塊と複層化部位をもたない細胞塊とに分別し、
    前記判別結果を出力するステップは、前記分別された判別結果を出力するように構成されることを特徴とする請求項5〜10のいずれかに記載の画像処理プログラム。
  12. 撮像装置により撮影された細胞塊の時系列画像を取得し画像を解析する画像解析部と、前記画像解析部による解析結果を出力する出力部とを備えた画像処理装置であって、
    前記画像解析部は、取得された画像中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出し、算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別し、
    前記出力部が、前記画像解析部により判別された細胞塊の複層化の状態を出力するように構成したことを特徴とする画像処理装置。
  13. 前記画像解析部は、前記小領域の空間的な輝度値の変化を示す値が閾値以上であり、かつ前記小領域の時間的な輝度値の変化を示す値が閾値以上である場合に、複層化されていると判別するように構成されることを特徴とする請求項12に記載の画像処理装置。
  14. 前記小領域の空間的な輝度値の変化は、前記小領域内の輝度値の分散または輝度値の微分の総和により算出されることを特徴とする請求項13に記載の画像処理装置。
  15. 前記小領域の時間的な輝度値の変化は、前記時系列画像において対応する前記小領域の輝度値の分散または微分値により算出されることを特徴とする請求項13または14に記載の画像処理装置。
  16. 前記画像解析部は、複層化されていると判断された部位の前記細胞塊における位置を算出し、前記出力部は、前記画像解析部により算出された複層化の位置情報を出力するように構成したことを特徴とする請求項12〜15のいずれかに記載の画像処理装置。
  17. 前記画像解析部は、複層化されていると判断された部位の前記細胞塊に占める大きさの情報を算出し、前記出力部は、画像解析部により算出された複層化の大きさの情報を出力するように構成したことを特徴とする請求項12〜16のいずれかに記載の画像処理装置。
  18. 前記時系列の各画像中に複数の細胞塊が含まれる場合において、前記画像解析部は、細胞塊ごとに複層化の状態を判別するとともに、複層化部位を持つ細胞塊と複層化部位をもたない細胞塊とに分別し、
    前記出力部は、前記分別された判別結果を出力するように構成したことを特徴とする請求項12〜17のいずれかに記載の画像処理装置。
  19. 細胞を培養する培養ステップと、
    前記培養ステップにおいて培養される細胞を、請求項12〜18のいずれかに記載の画像処理装置を用いて観察し、培養により変化する前記細胞における細胞塊の複層化の状態を判別する判別ステップとを備えることを特徴とする細胞塊の製造方法。
  20. 細胞を培養する培養ステップと、
    前記培養ステップにおいて培養される細胞を、撮像装置により撮影し、培養により変化する前記細胞における細胞塊の時系列画像を取得する取得ステップと、
    前記取得ステップにおいて取得した前記時系列画像の中の前記細胞塊の大きさに比べて小さい局所領域である細胞塊内部の小領域の空間的な輝度値の変化を算出するとともに、前記小領域の時間的な輝度値の変化を算出する算出ステップと、
    前記算出ステップにおいて算出された前記小領域の空間的な輝度値の変化および前記小領域の時間的な輝度値の変化に基づいて、細胞塊の複層化の状態を判別する判別ステップとを備えることを特徴とする細胞塊の製造方法。
JP2011518305A 2009-06-12 2010-06-08 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法 Active JP5783043B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011518305A JP5783043B2 (ja) 2009-06-12 2010-06-08 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009141371 2009-06-12
JP2009141371 2009-06-12
PCT/JP2010/003822 WO2010143420A1 (ja) 2009-06-12 2010-06-08 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
JP2011518305A JP5783043B2 (ja) 2009-06-12 2010-06-08 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法

Publications (2)

Publication Number Publication Date
JPWO2010143420A1 JPWO2010143420A1 (ja) 2012-11-22
JP5783043B2 true JP5783043B2 (ja) 2015-09-24

Family

ID=43308683

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011518305A Active JP5783043B2 (ja) 2009-06-12 2010-06-08 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法

Country Status (5)

Country Link
US (1) US8588504B2 (ja)
EP (2) EP2441827B1 (ja)
JP (1) JP5783043B2 (ja)
TW (1) TW201044007A (ja)
WO (1) WO2010143420A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2666050B1 (en) * 2011-01-18 2020-12-16 Roche Diagnostics Hematology, Inc. Microscope slide coordinate system registration
US9111343B2 (en) 2011-01-18 2015-08-18 Roche Diagnostics Hematology, Inc. Microscope slide coordinate system registration
JP5745919B2 (ja) * 2011-04-28 2015-07-08 浜松ホトニクス株式会社 細胞解析方法、細胞解析装置、および細胞解析プログラム
JP5413408B2 (ja) 2011-06-09 2014-02-12 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム
WO2012176783A1 (ja) 2011-06-21 2012-12-27 浜松ホトニクス株式会社 光測定装置、光測定方法、及び光測定プログラム
JP5869239B2 (ja) * 2011-06-21 2016-02-24 浜松ホトニクス株式会社 光測定装置、光測定方法、及び光測定プログラム
JP5877108B2 (ja) * 2011-11-09 2016-03-02 中央発條株式会社 ケーブル収容装置
JP5447546B2 (ja) * 2012-01-31 2014-03-19 東洋製罐グループホールディングス株式会社 細胞計数方法、細胞計数装置、及び細胞計数プログラム
JP5861678B2 (ja) * 2013-08-05 2016-02-16 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム
JP6130801B2 (ja) * 2014-03-17 2017-05-17 富士フイルム株式会社 細胞領域表示制御装置および方法並びにプログラム
JP6122817B2 (ja) * 2014-03-26 2017-04-26 株式会社Screenホールディングス スフェロイドの評価方法およびスフェロイド評価装置
US11300646B2 (en) * 2014-11-10 2022-04-12 Canon Medical Systems Corporation Magnetic resonance imaging apparatus, image processing apparatus, and image processing method
CN113667584A (zh) 2015-04-23 2021-11-19 Bd科斯特公司 菌落对比度收集
JP6265199B2 (ja) * 2015-12-04 2018-01-24 株式会社ニコン 培養状態評価装置、プログラム及び培養状態評価方法
EP3428262B1 (en) * 2016-03-11 2022-09-21 Nikon Corporation Image processing device
JP6776672B2 (ja) 2016-07-08 2020-10-28 住友電気工業株式会社 品質評価方法及び品質評価装置
EP3578633A4 (en) * 2017-01-31 2020-09-02 Nikon Corporation CULTURE AID DEVICE, OBSERVATION DEVICE, AND PROGRAM
JPWO2019106945A1 (ja) * 2017-11-28 2020-12-17 パナソニックIpマネジメント株式会社 培養状態判定装置、培養状態判定方法及びプログラム
WO2020003456A1 (ja) * 2018-06-28 2020-01-02 株式会社ニコン 装置、顕微鏡装置、方法およびプログラム
JP2020094925A (ja) * 2018-12-13 2020-06-18 住友電気工業株式会社 品質評価方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5487112A (en) * 1990-02-20 1996-01-23 Board Of Regents, The University Of Texas System Method and apparatus for time-resolved measurements of lymphocyte function and aggregate structure using computer-automated microscopy
JP2003116593A (ja) * 2001-10-17 2003-04-22 Hakuju Inst For Health Science Co Ltd 微生物の判定方法およびその装置
JP2005027623A (ja) * 2003-07-11 2005-02-03 Olympus Corp 細胞培養観察装置及び細胞培養観察方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4564714B2 (ja) * 2000-11-27 2010-10-20 ミナーヴァ・バイオテクノロジーズ・コーポレーション 診断用腫瘍マーカー、腫瘍形成の阻害のための薬物スクリーニング、並びにがん治療用の組成物及び方法
JP5089848B2 (ja) 2003-02-03 2012-12-05 株式会社日立製作所 培養装置
CN101331500B (zh) * 2005-10-14 2015-04-29 尤尼森斯繁殖技术公司 细胞群的变化的测定
US8053238B2 (en) * 2005-10-31 2011-11-08 Unhwa Corporation Isolated population of plant single cells and method of preparing the same
WO2007087402A2 (en) * 2006-01-24 2007-08-02 Brown University Cell aggregation and encapsulation device and method
EP2537921A1 (en) 2006-03-31 2012-12-26 Daiichi Sankyo Company, Limited Novel cell culture method and methods of producing and collecting cell masses using the same
JP2009089629A (ja) 2007-10-05 2009-04-30 Nikon Corp 細胞観察装置および細胞観察方法
JP5446082B2 (ja) 2007-10-05 2014-03-19 株式会社ニコン 細胞観察装置および細胞観察方法
JP2009152827A (ja) 2007-12-20 2009-07-09 Nikon Corp タイムラプス画像の画像処理方法、画像処理プログラム及び画像処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5487112A (en) * 1990-02-20 1996-01-23 Board Of Regents, The University Of Texas System Method and apparatus for time-resolved measurements of lymphocyte function and aggregate structure using computer-automated microscopy
JP2003116593A (ja) * 2001-10-17 2003-04-22 Hakuju Inst For Health Science Co Ltd 微生物の判定方法およびその装置
JP2005027623A (ja) * 2003-07-11 2005-02-03 Olympus Corp 細胞培養観察装置及び細胞培養観察方法

Also Published As

Publication number Publication date
US20120142095A1 (en) 2012-06-07
TW201044007A (en) 2010-12-16
WO2010143420A1 (ja) 2010-12-16
EP2441827B1 (en) 2016-04-13
EP3065105B1 (en) 2020-04-29
JPWO2010143420A1 (ja) 2012-11-22
EP3065105A1 (en) 2016-09-07
US8588504B2 (en) 2013-11-19
EP2441827A4 (en) 2013-10-23
EP2441827A1 (en) 2012-04-18

Similar Documents

Publication Publication Date Title
JP5783043B2 (ja) 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2010146802A1 (ja) 細胞塊の状態判別手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2011013319A1 (ja) 細胞塊の成熟判定手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
EP2234061B1 (en) Image processing method for time lapse image, image processing program, and image processing device
JP4968595B2 (ja) 細胞の状態判別手法及び細胞観察の画像処理装置
US9080935B2 (en) Image analysis method for cell observation, image-processing program, and image-processing device
WO2011016189A1 (ja) 細胞の分類手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
JP6453298B2 (ja) 細胞診標本を観察および解析するためのシステムおよび方法
WO2011004568A1 (ja) 受精卵観察の画像処理方法、画像処理プログラム及び画像処理装置、並びに受精卵の製造方法
WO2009110462A1 (ja) 細胞観察における生細胞の判別手法、細胞観察の画像処理プログラム及び画像処理装置
EP2272971B1 (en) Method for analyzing image for cell observation, image processing program, and image processing device
JP2009229274A (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
CN110807426B (zh) 一种基于深度学习的寄生虫检测系统及方法
JP2012039929A (ja) 受精卵観察の画像処理方法、画像処理プログラム及び画像処理装置、並びに受精卵の製造方法
JP2011004638A (ja) 受精卵観察の画像処理方法、画像処理プログラム及び画像処理装置
JP2009229276A (ja) 細胞観察の画像解析方法、画像処理プログラム及び画像処理装置
JP2011010621A (ja) 培養物観察の画像処理方法、画像処理プログラム及び画像処理装置
WO2022202368A1 (ja) 細胞計数方法、細胞計数のための機械学習モデルの構築方法、コンピュータープログラムおよび記録媒体
CN117152109A (zh) 用于棒材碳化物分布评级的控制方法、装置及系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140905

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141031

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150407

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150623

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150706

R150 Certificate of patent or registration of utility model

Ref document number: 5783043

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250