JP6161146B2 - 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム - Google Patents

病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム Download PDF

Info

Publication number
JP6161146B2
JP6161146B2 JP2013003949A JP2013003949A JP6161146B2 JP 6161146 B2 JP6161146 B2 JP 6161146B2 JP 2013003949 A JP2013003949 A JP 2013003949A JP 2013003949 A JP2013003949 A JP 2013003949A JP 6161146 B2 JP6161146 B2 JP 6161146B2
Authority
JP
Japan
Prior art keywords
region
pathological
processing unit
tissue image
pathological tissue
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013003949A
Other languages
English (en)
Other versions
JP2014134517A (ja
Inventor
山口 雅浩
雅浩 山口
百合 村上
百合 村上
雅浩 石川
雅浩 石川
明典 橋口
明典 橋口
亨宇 坂元
亨宇 坂元
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Institute of Technology NUC
Original Assignee
Tokyo Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Institute of Technology NUC filed Critical Tokyo Institute of Technology NUC
Priority to JP2013003949A priority Critical patent/JP6161146B2/ja
Publication of JP2014134517A publication Critical patent/JP2014134517A/ja
Application granted granted Critical
Publication of JP6161146B2 publication Critical patent/JP6161146B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Or Analysing Biological Materials (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、病理組織画像診断を支援する病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラムに関する。
医療分野において、病理診断の1つとして、患者から臓器の一部を検体として採取し、これを厚さ数ミクロン程度に薄切りした組織切片ガラススライド標本(プレパラート)にして顕微鏡下で観察し、細胞の核の大きさや形の変化、組織としてのパターンの変化等の形態学的な情報、染色情報をもとに診断を行う生検組織診断が知られている。この場合、薄切りされた標本は、光を殆ど吸収および散乱せず無色透明に近いため、観察に先立って色素による染色を施すのが一般的である。
病理スライドを顕微鏡で観察して、肉眼診断所見も加味した上で病変部の診断を行う病理診断自体は医師が行う必要があり、そのための作業量は膨大で、医師の負担は重い。そこで、診断のための観察作業を効率よく行い医師の負担を軽減するために、コンピュータシステムによる画像処理技術を利用した種々のコンピュータ診断支援装置(以下、CAD:Computer-Aided Diagnosisという。)の開発が行われている。
例えば、図35に示す肝病理画像は、術中迅速診断、肝線維化の進行度推定、生検によって得られた組織からの肝細胞癌、病理解剖など様々な場面でゴールデンスタンダードとして活用されている。加えて、近年病理画像の電子化が進み仮想的に倍率を自由に変更しながら標本を観察できるホールスライドイメージ(WSI:Whole Slide Image)が普及しつつある。デジタル顕微鏡を用いて病理ガラス標本全体を撮影したWSIは、遠隔診断、教育、プレゼンテーションなど様々な状況で普及しつつある。これに対して、デジタル化した病理画像を用いたCADへの期待が高まっている。
従来、例えばヘマトキシリン・エオジン(HE)染色された病理画像のコンピュータ診断支援に関する従来法として、例えば、癌などの注目領域を検出するシステム(例えば、特許文献1、特許文献2参照)や、細胞核領域、細胞質領域、および腺腔領域のそれぞれの形状の特徴を示す基本特徴量を計測し対象領域の抽出と情報提示するシステム(例えば、特許文献3、特許文献4参照)などが提案されている。
また、例えば、特許文献5では、低倍率の病理画像から腺管領域を抽出し、腺管領域から腺管構造に関する特徴量を計算し、病状の診断、判定を行うシステムが提案されている。この特許文献5の開示技術では、腺管領域を抽出し、距離変換画像から腺管の距離を算出する際に、腺管を細線化し、中心線から境界までの距離を半径とみなして2倍することで厚さを算出している。
また、特許文献6では、複数の自動しきい値選定法を組み合わせて得られた複数の候補値の中から、ニューラルネットワークにて最適の値を決定してしきい値とし、そのしきい値を用いて画像の二値化を行ったうえで画像解析するシステムが提案されている。この特許文献6の開示技術では、MIB-1画像において複数の方法で2値化のための最適な閾値を算出し、細胞核を抽出しlabeling indexなどを自動算出している。
また、非特許文献1では、肝病理標本画像から主に細胞核を中心とした特徴量を算出し、エドモンソングレードの推定を行っている。
さらに、肝細胞病理画像からの類洞抽出法として、輝度勾配に合わせてフィルタを選択的に畳み込むことで類洞の部分的な途切れを接続し抽出する方法が非特許文献2に開示されている。
特開2011−215061号公報 特開2012−179336号公報 特開2009−180539号公報 特開2009−115598号公報 特開2009−229203号公報 特開2004−199391号公報
P. Huang and Y. Lai, "Effective segmentation and classification for hcc biopsy images," Pattern Recogni-tion 43(4), pp. 1550-1563, 2010. M. Ishikawa, A. S. Taha, F. Kimura, M. Yamaguchi, H. Nagahashi, A. Hashiguchi, M. Sakamoto, "An Orientation Selective Filter Based Approach to Extract Sinusoids from HE-Stained Liver Specimens," IEICE technical report, 111(389), 77-157 (2012) (Japanese). Radhakrishna Achanta, Appu Shaji, Kevin Smith, Aurelien Lucchi, Pascal Fua, and Sabine Susstrunk, SLIC Superpixels Compared to State-of-the-art Superpixel Methods, accepted to the IEEE Transactions on Pattern Analysis and Machine Intelligence, May 2012. F.Tomoya, Y. Masahiro, M. Yuri, K. Fumikazu, H. Akinori, S. Michiie, and O. Nagaaki,"Calculation quantitative feature amount in digital slide image of pathological specimen,"IEICE technical report Japanease, 2011. Tomoharu Kiyuna, Akira Saito, Atsushi Marugame, Yoshiko Yamashita, Maki Ogura, NEC Corp. (Japan); Eric Cosatto, NEC Labs. America, Inc. (United States); Tokiya Abe, Akinori Hashiguchi, Michiie Sakamoto, Keio Univ. (Japan), "Automatic classification of hepatocellular carcinoma images based on nuclear and structural features ", SPIE Medical Imaging 2013, 2.2013.
しかしながら、上記特許文献1乃至4の開示技術の主な目的は、いずれも、注目する領域を抽出し医師に提示することで注意喚起することである。また、特許文献1の開示技術は、対象を腺管としており、対象となる病理画像は胃癌、乳癌、前立腺癌であり肝癌を対象とはしていない。基本的に腺管は環状で抽出され個別に評価することが可能である。細胞索は、連続性を持ちそれを細線化結果のラベル単位で定量化する本手法と目的が異なる。
病理画像の計数化は特殊染色などですでに取り組まれている課題でもある。例えば、特殊染色のki67では陽性核が茶色、陰性核が青色に染色されるため陽性核の比率を実際にカウントしてlabeling indexを算出する。例えば特許文献6に開示されているように、Labeling indexは、特殊染色によって陽性核を茶色に染め数を数えるためコンピュータ診断支援との親和性が高く研究が進んでいる
しかし、肝臓の病理画像ではlabeling indexの様に一つの指標で診断はされず、NC比(細胞核と細胞質の比率)や細胞核の大きさ、細胞索の構造など様々な構造を加味して診断される。
上記特許文献1などの開示技術では、病理画像を一定の範囲で区切って評価するが、類洞や間質などを含み索状構造を有する肝臓の病理画像に対しては十分に構造を考慮しているとは言えない。
そこで、本発明の目的は、上述の如き従来の実情に鑑み、定量化情報を臨床診断で活用しやすいよう提示することのできる病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラムを提供し、病理画像の診断支援を実現することにある。
特に、肝臓のHE染色病理画像において複雑な構造である索状構造を解析して定量化することで、定量的病理診断を可能とすることのできる定量化情報を臨床診断で活用しやすいよう提示することのできる病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラムを提供し、病理画像の診断支援を実現することにある。
本発明の更に他の目的、本発明によって得られる具体的な利点は、以下に説明される実施の形態の説明から一層明らかにされる。
本発明では、病理組織画像として取り込まれた染色処理の施された肝細胞の画像から解析対象領域において類洞領域と間質領域を抽出することで、上記類洞領域及び上記間質領域以外の領域を上記解析対象領域における実質細胞領域として抽出し、上記実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化する。
すなわち、本発明は、病理組織画像解析方法であって、解析対象物を撮像して得られた病理組織画像として染色処理の施された肝細胞の画像を取り込む画像取込処理ステップと、取り込まれた病理組織画像から解析対象領域における類洞領域を抽出する類洞領域抽出処理ステップと、上記病理組織画像から解析対象領域における間質領域を抽出する間質領域抽出処理ステップと、抽出された上記類洞領域及び上記間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する実質細胞領域抽出処理ステップと、上記実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化する定量化処理ステップと、上記定量化処理ステップにおいて数値化された病理特徴量を表示する表示ステップと、上記病理組織画像中の注目するべき領域を表すマスク情報を生成する注目領域マスク生成ステップを有し、上記表示ステップでは、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を表示することを特徴とする
本発明に係る病理組織画像解析方法において、上記表示ステップでは、例えば、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを表示するものとすることができる。
また、本発明に係る病理組織画像解析方法において、上記定量化処理ステップでは、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析方法において、上記定量化処理ステップでは、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析方法は、上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに保存する保存ステップを有するものとすることができる。
また、本発明に係る病理組織画像解析方法において、上記類洞領域抽出処理ステップは、上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理ステップと、 上記境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理ステップと、抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理ステップとを有するものとすることができる。
本発明に係る病理組織画像解析方法において、上記間質領域抽出処理ステップは、上記解析対象領域の病理組織画像について、テクスチャ特徴による線維確率算出処理を行う線維確率算出処理ステップと、上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行うスーパーピクセル化処理ステップと、スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出する第1の間質抽出処理ステップと、リンパ球の多いスーパーピクセルを間質として抽出する第2の間質抽出処理ステップとを有するものとすることができる。
また、本発明に係る病理組織画像解析方法において、上記定量化処理ステップでは、上記実質細胞領域抽出処理ステップにおいて抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行うものとすることができる。
本発明に係る病理組織画像解析方法において、上記定量化処理ステップは、上記実質細胞領域抽出処理ステップにおいて抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の中心線を求めることにより細線化する細線化処理ステップと、細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域を分類する細胞索分類処理ステップと、分類された上記枝単位の実質細胞領域の病理組織画像について、上記実質細胞領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する距離計測処理ステップとを有するものとすることができる。
さらに、本発明に係る病理組織画像解析方法において、上記定量化処理ステップでは、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力するものとすることができる。
本発明は、病理組織画像解析装置であって、解析対象物を撮像して得られた病理組織画像として染色処理の施された肝細胞の画像を取り込む画像取込処理部と、上記画像取込処理部により取り込まれた病理組織画像から解析対象領域における類洞領域を抽出する類洞領域抽出処理部と、上記病理組織画像から解析対象領域における間質領域を抽出する間質領域抽出処理部と、上記類洞領域抽出処理部により抽出された類洞領域及び上記間質領域抽出処理部により抽出された間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する実質細胞領域抽出処理部と、上記実質細胞領域抽出処理部により実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化する定量化処理部と、上記定量化処理部により数値化された病理特徴量を表示する表示部とを備え、上記定量化処理部は、上記病理組織画像中の注目するべき領域を表すマスク情報を生成し、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を上記表示部により表示することを特徴とする
また、本発明に係る病理組織画像解析装置において、上記定量化処理部は、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを上記表示部により表示するものとすることができる。
また、本発明に係る病理組織画像解析装置において、上記定量化処理部は、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析装置において、上記定量化処理部は、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析装置は、さらに、上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに保存する情報保存部を備えるものとすることができる。
また、本発明に係る病理組織画像解析装置において、上記類洞領域抽出処理部は、上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理部と、上記境界強調処理部により境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理部と、上記クラスタリング処理部により抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理ステップとを備えるものとすることができる。
また、本発明に係る病理組織画像解析装置において、上記間質領域抽出処理部は、上記解析対象領域の病理組織画像について、テクスチャ特徴による線維確率算出処理を行う線維確率算出処理部と、上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行うスーパーピクセル化処理部と、スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出する第1の間質抽出処理部と、リンパ球の多いスーパーピクセルを間質として抽出する第2の間質抽出処理部とを備えるものとすることができる。
また、本発明に係る病理組織画像解析装置において、上記定量化処理部では、上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行うものとすることができる。
また、本発明に係る病理組織画像解析装置において、上記定量化処理部は、上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の中心線を求めることにより細線化する細線化処理部と、細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域分類する細胞索分類処理部と、上記細胞索分類処理部により分類された上記枝単位の実質細胞領域の病理組織画像について、上記実質細胞領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する距離計測処理部とを備えるものとすることができる。
さらに、本発明に係る病理組織画像解析装置において、上記定量化処理部では、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力するものとすることができる。
本発明は、解析対象物を撮像して得られた病理組織画像の解析を行う病理組織画像解析装置に備えられるコンピュータにより実行される病理組織画像解析プログラムであって、病理組織画像として取り込まれた染色処理の施された肝細胞の画像から解析対象領域における類洞領域を抽出する類洞領域抽出処理部と、上記病理組織画像から解析対象領域における間質領域を抽出する間質領域抽出処理部と、上記類洞領域抽出処理部により抽出された類洞領域及び上記間質領域抽出処理部により抽出された間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する実質細胞領域抽出処理部と、上記実質細胞領域抽出処理部により実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化し、上記病理組織画像中の注目するべき領域を表すマスク情報を生成し、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を表示部により表示する定量化処理部して上記コンピュータを機能させることを特徴とする。
また、本発明に係る病理組織画像解析プログラムにおいて、上記定量化処理部は、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを上記表示部により表示するものとすることができる。
また、本発明に係る病理組織画像解析プログラムにおいて、上記定量化処理部は、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析プログラムにおいて、上記定量化処理部は、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析プログラムは、さらに、上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに保存する情報保存部に保存させるものとすることができる。
また、本発明に係る病理組織画像解析プログラムは、上記類洞領域抽出処理部は、上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理部と、 上記境界強調処理部により境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理部と、上記クラスタリング処理部により抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理ステップとを備える類洞領域抽出処理部として上記コンピュータを機能させるものとすることができる。
また、本発明に係る病理組織画像解析プログラムは、上記解析対象領域の病理組織画像について、テクスチャ特徴による線維確率算出処理を行う線維確率算出処理部と、上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行うスーパーピクセル化処理部と、スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出する第1の間質抽出処理部と、リンパ球の多いスーパーピクセルを間質として抽出する第2の間質抽出処理部と備える間質領域抽出処理部として上記コンピュータを機能させるものとすることができる。
また、本発明に係る病理組織画像解析プログラムにおいて、上記定量化処理部では、上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行うものとすることができる。
また、本発明に係る病理組織画像解析は、上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の中心線を求めることにより細線化する細線化処理部と、細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域を分類する細胞索分類処理部と、上記細胞索分類処理部により分類された上記枝単位の実質細胞領域の病理組織画像について、上記実質細胞領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する距離計測処理部とを備える定量化処理部として上記コンピュータを機能させるものとすることができる。
さらに、本発明に係る病理組織画像解析プログラムにおいて、上記定量化処理部では、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力するものとすることができる。
本発明では、病理組織画像として取り込まれた染色処理の施された肝細胞の画像から解析対象領域における類洞領域と間質領域を抽出することで、上記類洞領域及び上記間質領域以外の領域を上記解析対象領域における実質細胞領域として抽出し、上記実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化し、上記病理組織画像中の注目するべき領域を表すマスク情報を生成し、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を表示部により表示することにより、定量化情報を臨床診断で活用しやすいよう提示することのできる病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラムを提供し、病理画像の診断支援を実現することができる。
特に、本発明では、肝臓のHE染色病理画像において複雑な構造である索状構造を解析して定量化することで、定量化情報を臨床診断で活用しやすいよう提示することのでき、所期の目的を達成することができる。
本発明に係る病理組織画像解析方法の手順を示すフローチャートである。 上記病理組織画像解析方法を実施する病理組織画像解析装置の構成を示すブロック図である。 上記病理組織画像解析装置における演算処理部を構成するコンピュータの機能を示すブロック図である。 細胞索の様子を示す図(参考図としてカラー図面を提出する。)である。 上記病理組織画像解析装置の類洞領域抽出処理部において実行される空白領域抽出処理ステップでの処理内容を示すフローチャートである。 上記類洞領域抽出処理部において実行される空白領域抽出処理ステップにおける方位選択フィルタによる境界強調処理の様子を示す図(参考図としてカラー図面を提出する)である。 上記病理組織画像解析装置における誤抽出領域削減処理の手順を示すフローチャートである。 類洞領域抽出結果を示す図(参考図としてカラー図面を提出する)である。 上記病理組織画像解析装置における色情報抽出処理の手順を示すフローチャートである。 色特徴量を算出する領域を示す図である。 学習に用いた画像を示す図である。 上記病理組織画像解析装置の間質領域抽出処理部において実行される間質領域抽出処理ステップでの処理内容を示すフローチャートである。 HE染色画像における線維と細胞質の様子を示す図(参考図としてカラー図面を提出する)である。 SVMを用いて繊維領域を抽出した結果を示す図(参考図としてカラー図面を提出する)である。 画素ごとに求めた線維確率をスーパーピクセルに重ねた結果を示す図(参考図としてカラー図面を提出する)である。 画素ごとに求めた線維確率をリンパ球の多いスーパーピクセルに重ねた結果を示す図(参考図としてカラー図面を提出する)である。 線維確率の高いスーパーピクセルとリンパ球の多いスーパーピクセルを合わせて間質として抽出した結果を示す図(参考図としてカラー図面を提出する)である。 類洞と間質を抽出して残りを取り出すことで細胞索を抽出した結果を示す図(参考図としてカラー図面を提出する)である。 上記病理組織画像解析装置の定量化処理部において実行される定量化処理ステップでの処理内容を示すフローチャートである。 索状構造から抽出した枝を重ねた結果を示す図(参考図としてカラー図面を提出する)である。 索状構造と枝の関係を示す図(参考図としてカラー図面を提出する)である。 上記病理組織画像解析装置において索状構造の中心線から境界までの距離を計測し、代表値として中央値を用いることで索の厚さを自動計測した結果を、手動による計測結果と比較して示す図(参考図としてカラー図面を提出する)である。 典型的な分化度によって索の厚さが変化するヒストグラムを示す図である。 抽出された枝単位で解析を行う様子を示す図(参考図としてカラー図面を提出する)である。 索状構造から索単位の抽出を行う様子を示す図である。 肝細胞癌の分化度による分類例を示す図である。 横軸を分化度として核密度を示す図である。 横軸を分化度として索ごとの核密度平均を示す図である。 横軸を分化度としてNC比を示す図である。 横軸を分化度として索ごとのNC比平均を示す図である。 横軸を分化度として索ごとの核の数の分散を示す図である。 横軸を分化度として層数のNC比平均を示す図である。 上記病理組織画像解析装置により索の厚さを計測し、表示部に表示するGUI画面の様子を示す図(参考図としてカラー図面を提出する)である。 上記GUI画面における[病理組織画像]ウインドウに表示される病理組織画像を拡大した画像を示す図(参考図としてカラー図面を提出する)である。 肝病理画像を示す図である。
以下、本発明の実施の形態について、図面を参照して詳細に説明する。なお、本発明は以下の例に限定されるものではなく、本発明の要旨を逸脱しない範囲で、任意に変更可能であることは言うまでもない。
本発明に係る病理組織画像解析方法は、例えば、図1のフローチャートに示すように、画像取込処理ステップS1、空白領域抽出処理ステップS2、間質領域抽出処理ステップS3、実質細胞領域抽出処理ステップS4、定量化処理ステップS5を有し、各処理ステップS1〜S5の処理を実行するコンピュータからなる例えば図2に示すような構成の病理組織画像解析装置100により実施される。
本発明に係る病理組織画像解析方法では、先ず画像取込処理ステップS1において、解析対象物を撮像して得られた病理組織画像を取り込む。
次の空白領域抽出処理ステップS2では、取り込まれた病理組織画像から解析対象領域において細胞が存在しない領域を抽出する。
また、間質領域抽出処理ステップS3では、上記病理組織画像から解析対象領域における間質領域を抽出する。
次の実質細胞領域抽出処理ステップS4では、抽出された上記空白領域及び上記間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する。
すなわち、本発明に係る病理組織画像解析方法では、病理組織画像から空白領域と間質領域を抽出し、上記空白領域及び間質領域以外の領域を上記解析対象領域における実質細胞領域として抽出する。
そして、定量化処理ステップS5では、上記実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化する。
上記定量化処理ステップS5では、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化するものとすることができる。また、上記定量化処理ステップS5では、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化するものとすることができる。
また、本発明に係る病理組織画像解析方法は、図1のフローチャートに示すように、さらに、上記定量化処理ステップS5において数値化された病理特徴量を表示する表示処理ステップS6を有するものとすることができる。
上記表示処理ステップS6では、例えば、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを表示する。
さらに、本発明に係る病理組織画像解析方法は、上記病理組織画像中の注目するべき領域を表すマスク情報を生成する注目領域マスク生成ステップを有するものとし、上記表示処理ステップS6では、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を表示するものとすることができる。
さらに、本発明に係る病理組織画像解析方法は、上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに保存する保存ステップを有するものとすることができる。
本発明に係る病理組織画像解析方法を実施する病理組織画像解析装置100は、画像取込処理部10が接続されたコンピュータからなる演算処理部20、この演算処理部20に接続された主記憶部30、入力部40、表示部50などからなる。
この病理組織画像解析装置100において、上記画像取込処理部10は、スキャナなどからなり、解析対象物を撮像して得られた病理組織画像を取り込む。
また、演算処理部20は、病理組織画像の取得とその画像処理、各種特徴量の平均、分散、パーセンタイルなど算出する統計処理を行うコンピュータからなる。
また、主記憶部30は、上記コンピュータにインストールされた病理組織画像解析プログラムや計測結果を保存する。
また、入力部40は、厚さなどを計測したい索の指定や統計量の算出範囲の指定を行うためのキーボードやマウスからなる
そして、表示部50には、上記演算処理部20による処理結果などが表示される。
ここで、本発明に係る病理組織画像解析方法では、例えば、上記画像取込処理ステップS1において、上記病理組織画像として染色処理の施された肝細胞の画像を取り込み、肝細胞の病理組織画像の解析を行うことができる。
この場合、上記空白領域抽出処理ステップS2では、取り込まれた病理組織画像から解析対象領域における類洞領域を抽出し、上記実質細胞領域抽出処理ステップS4では、抽出された上記類洞領域及び上記間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出し、上記定量化処理ステップS5では、上記実質細胞領域として抽出された細胞索毎に病理特徴量を定量化する。
以下、上記病理組織画像解析装置100により、肝細胞の病理組織画像の解析を行うものとして、上記病理組織画像解析装置100の構成及び動作を具体的に説明する。
この病理組織画像解析装置100において、上記演算処理部20を構成するコンピュータは、インストールされた病理組織画像解析プログラムを実行することにより、図3に示すように、上記画像取込処理部10により取り込まれた病理組織画像から解析対象領域における類洞領域を抽出する類洞領域抽出処理部210と、上記画像取込処理部10により取り込まれた病理組織画像から上記解析対象領域における間質領域を抽出する間質領域抽出処理部220と、上記類洞領域抽出処理部210により抽出された抽出された類洞領域及び上記間質領域抽出処理部220により抽出された間質領域以外の領域を上記解析対象領域における細胞索領域として上記病理組織画像から抽出する細胞索抽出処理部230と、上記細胞索抽出処理部230により細胞索領域として抽出された細胞索毎に病理特徴量を定量化する定量化処理部240、上記定量化処理部240による処理結果などを上記表示部50により表示する制御を行う表示制御部250として機能する。
すなわち、上記病理組織画像解析装置100における演算処理部20は、空白領域抽出処理ステップS2の処理として上記画像取込処理部10により取り込まれた病理組織画像から解析対象領域における類洞領域を抽出する処理を行う類洞領域抽出処理部210と、上記画像取込処理部10により取り込まれた病理組織画像から上記解析対象領域における間質領域を抽出する上記間質領域抽出処理ステップS3の処理を行う間質領域抽出処理部220と、上記類洞領域抽出処理部210により抽出された抽出された類洞領域及び上記間質領域抽出処理部220により抽出された間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する上記実質細胞領域抽出処理ステップS4の処理を行う細胞索抽出処理部230と、上記細胞索抽出処理部230により実質細胞領域として抽出された細胞索毎に病理特徴量を定量化する上記定量化処理ステップS5の処理を行う定量化処理部240とを備える。
ここで、本実施形態において、上記病理組織画像は、例えば、染色処理の施された肝細胞の画像であるものとする。
肝細胞癌は、正常の肝臓の構造を模倣した索状構造を基本とするため、正常構造を示す細胞と索状構造を模倣した癌細胞を識別するには索状構造の解析が必要である。
細胞索1の様子を図4に示す。
類洞と肝細胞の境界に存在する内皮細胞などの類洞壁細胞は、視覚的には滑らかな曲線上に配列しているように認識できるが、赤血球やリンパ球の影響で隙間や途切れが存在し、画像処理によってこの境界をもとにして領域分割を行うと、途切れた部分で正しい境界を求めることが困難となる。
そこで、この病理組織画像解析装置100では、滑らかな形状を持ち、途切れのある境界に対して途切れた部分を接続し、境界を強調するため、方位選択制フィルタを適用している。
上記類洞領域抽出処理部210において実行される上記空白領域抽出処理ステップS2の処理、すなわち、類洞領域抽出処理では、図5のフローチャートに処理手順を示すように、上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う(境界強調処理ステップS21)。
ここで、方位選択制フィルタは、輝度の勾配方向にアフィン変換した棒状フィルタを選択的に畳み込む。図6の(A)に示す原画像に対して、上記境界強調処理ステップS21において、方位選択制フィルタをかけた結果を図6の(B)に示す。
図6の(A)に示す原画像では、類洞周辺の細胞質が淡明化しており拡大すると境界が不明瞭になっている。これに対して、図6の(B)に示す方位選択制フィルタを適用した結果では、淡明化した細胞質との境界は周辺の細胞質によってエオジンのピンク色が濃くなり、類洞は内部の分泌液が平滑化作用によって白くなっており、類洞と肝細胞の境界が明瞭になっていることが確認できる。
そして、上記境界強調処理ステップS21において境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行う(クラスタリング処理ステップS22)。このクラスタリング処理ステップS22では、処理結果画像にEMアルゴリズムを適用してクラスタリングすることで白色領域を類洞として抽出する。
さらに、クラスタリング処理ステップS22において抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行っている(誤抽出領域削減処理ステップS23)。
この病理組織画像解析装置100において、誤抽領域出削減処理ステップS23の誤抽出領域削減処理は、図7のフローチャートに示す手順に従って、色情報抽出処理ステップS231、学習処理ステップS232、削除処理ステップS233により行われる。
ここで、図8の(A)に示す原画像から方位選択制フィルタとEMアルゴリズムを使用して抽出した結果を図8の(B)に示す。図8の(B)では、淡明化した細胞質で誤抽出が見られる。そのため、ここでは、図8の(B)で抽出された小領域を類洞候補領域と呼ぶ。そして、抽出精度を向上させるため誤抽出領域削減処理を行う。最終的な削減結果を図8の(C)に示す。
色情報抽出処理ステップS231では、図8の(B)のように抽出された小領域ごとに、図9のフローチャートに示す手順に従って、ヒストグラム作成処理ステップS231A、外側領域決定処理ステップS231B、特徴量算出処理ステップS231Cにより、色情報を抽出する。
ヒストグラム作成処理ステップS231Aでは、抽出された小領域ごとに64階調ヒストグラムを作成する。
外側領域決定処理ステップS231Bでは、小領域ごとに5回膨張させ、その膨張領域を外側とすることにより、対象となる小領域2の外側5pixel分の外側領域を決定する。
特徴量算出処理ステップS231Cでは、 上記ヒストグラム作成処理ステップS231Aにおいて作成されたヒストグラムに基づいて、図10の(A)に示すように抽出された小領域2でヒストグラム特徴量を算出する。また、図10の(B)に示すように対象となる小領域の外側5pixel分の外側領域3の色特徴量を算出する。
色特徴量としては、例えば、濃度ヒストグラムから平均(μ)、分散(σ)、歪度(S)、尖度(K)を次の式(1)〜式(4)により求める。
学習処理ステップS232では、このようにして各小領域で抽出した8次元の特徴量を用いて「類洞と類洞以外の空域」の色特徴量でSVMを学習する。学習には図11の(A)、(B)に示す画像を用いた。図11の(A)、(B)に示す画像において、緑色は類洞5を示し、赤色は類洞以外の空域6を示しており、類洞に該当する空域が173個、類洞以外の空域が108個である。
そして、削除処理ステップS233では、新たな画像が入力されたら同様に方位選択制フィルタとEMアルゴリズムを用いて類洞候補領域を抽出し、前述の手法で学習したサポートベクターマシン(SVM:Support Vector Machine)を用いて誤抽出領域の削減を行う。
このように上記類洞領域抽出処理部210では、上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行い、上記境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行って、抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行うことにより、類洞を的確に抽出することができる。
すなわち、本発明に係る病理組織画像解析方法において、上記類洞領域抽出処理ステップS2は、図5に示すように、上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理ステップS21と、上記境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理ステップS22と、抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理ステップS23とを有するものとすることにより、類洞を的確に抽出することができる。
また、上記間質領域抽出処理部220において実行される上記間質領域抽出処理ステップS3の処理では、図12に示すように、上記解析対象領域の病理組織画像について、線維確率算出処理ステップS31においてテクスチャ特徴による線維確率を算出するとともに、スーパーピクセル化処理ステップS32において、上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行い、それらの処理結果に基づいて、第1の間質抽出処理ステップS331において、スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出するとともに、第2の間質抽出処理ステップS332においてリンパ球の多いスーパーピクセルを間質として抽出し、繊維確率とリンパ球の多いスーパーピクセルを合わせた結果を間質として抽出する間質領域抽出処理(間質抽出処理ステップS33)を行う。
すなわち、HE染色は、細胞核を青紫のヘマトキシリン、細胞質を赤紫のエオジンで染める。その際に、線維にもエオジンが入るため細胞質に近い赤紫色で染まる。このため、類洞の様に色に基づくクラスタリングでは抽出が困難である。図13の(A)(参考図として提出するカラー図面参照)に線維を示し、図13の(B)(参考図として提出するカラー図面参照)に細胞質を示す。また、HE染色画像では線維と細胞質の色差が微細であるのに加えて、染色状態によって色の濃さが相対的に変化するため色情報による抽出は制約が多い。
そこで、この病理組織画像解析装置100では、従来より医用画像処理で用いられる濃度共起行列を用いてテクスチャ特徴による識別を行い、線維確率算出処理ステップS31においてテクスチャ特徴による線維確率をピクセル毎に算出する。
濃度共起行列は、一定の範囲の矩形内での画素間の共起性を定量化する手法であり、方向性を考慮して定量化するためテクスチャに方向性がある場合に特に効果を発揮する。図13の(A)に示す通り、多くの場合線維は方向性のあるテクスチャを有している。これに対して、図13の(B)に示すように細胞質や細胞核は等方性があり向きによってテクスチャ特徴は大きく変化しない。そこで、64×64サイズで線維領域2000枚とそれ以外の領域を2000枚集めてサポートベクターマシン(SVM:Support Vector Machine)を用いて学習を行った。
ここでは、20倍で撮影された1mm×1mm(2174×2174pixel)の画像を対象としており、図14の(A)に示す画像からSVMを用いて繊維領域を抽出した結果を図14の(B)に示す。線維が方向性を持つ部分で抽出されていることが確認できる。
図14の(B)に示す抽出結果では、64×64の範囲で計算を行うため原画像に対して解像度が低い。また、間質には線維以外にもリンパ球が入るためリンパ球領域も加える必要がある。
この病理組織画像解析装置100では、二つの問題を解決するためスーパーピクセルを導入している。スーパーピクセルは色の良くにた領域にクラスタリングする手法で、ミーンシフト法やk-means法、graph cutを用いた手法が提案されている。上記スーパーピクセル化処理ステップS32では、従来より知られているSLIC(Simple Linear Iterative Clustering)を用いてスーパーピクセルを算出している。SLICについては、例えば非特許文献3に詳述されている。
そして、この病理組織画像解析装置100における間質領域抽出処理ステップS33では、上記線維確率算出処理ステップS31で画素ごとに線維確率が求められているので、第1の間質抽出処理ステップS331において、スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出するとともに、第2の間質抽出処理ステップS332においてリンパ球の多いスーパーピクセルを間質として抽出し、繊維確率とリンパ球の多いスーパーピクセルを合わせた結果を間質として抽出する。
上記間質領域抽出処理ステップS3による処理結果の一例を図15から図17に示す。
上記線維確率算出処理ステップS31で画素ごとに求めた図15の(A)に示す線維確率を第1の間質算出処理ステップS331においてスーパーピクセルに重ねた結果を図15の(B)に示す。
また、上記線維確率算出処理ステップS31で画素ごとに求めた図16の(A)に示す線維確率を第2の間質算出処理ステップS331においてスーパーピクセルに重ねた結果を図16の(B)に示す。
そして、上記線維確率算出処理ステップS31で画素ごとに求めた図17の(A)に示す線維確率から上記第1の間質抽出処理ステップS331において抽出した線維確率の高いスーパーピクセルと第2の間質抽出処理ステップS332において抽出した繊維確率とリンパ球の多いスーパーピクセルを合わせて間質として抽出した結果を図17の(B)に示す。
この図17の(B)により、間質領域が精度良く抽出されていることが確認できる。
このように、上記間質領域抽出処理ステップS3では、第1の間質抽出処理ステップS331においてスーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出するとともに、第2の間質抽出処理ステップS332においてリンパ球の多いスーパーピクセルを間質として抽出し、繊維確率とリンパ球の多いスーパーピクセルを合わせた結果を間質として抽出することにより、間質領域を精度良く抽出することができる。
なお、本実施の形態では、スーパーピクセルを算出する手法としてSLICを採用しているがこれに限定されるものではない。
そして、この病理組織画像解析装置100では、上記細胞索抽出処理部230において、上記実質細胞領域抽出処理ステップS4の処理を実行することにより、類洞と間質を抽出して残りを取り出すことで細胞索を抽出する。抽出した結果を図18に示す。図18は抽出結果を見やすいように拡大している。図18において、緑色は間質7を示し、青色は類洞8を示している。細胞索を良好に抽出できていることが確認できる。
また、この病理組織画像解析装置100において、定量化処理部240では、上記細胞索抽出処理部230において類洞と間質を除いた実質細胞領域として抽出した細胞索について、上記定量化処理ステップS5の処理を図19のフローチャートに示す手順に従って実行する。
この病理組織画像解析装置100における定量化処理ステップS5は、細線化処理ステップS51と、細胞索分類処理ステップS52と、距離計測処理ステップS53を有し、上記実質細胞領域抽出処理ステップS4において抽出された細胞索領域の病理組織画像について、上記細胞索の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行う。
すなわち、細線化処理ステップS51では、上記実質細胞領域抽出処理ステップS4で抽出された実質細胞領域の中心線を求めることにより上記実質細胞領域を細線化し、細胞索分類処理ステップS52では、細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域を分類する。そして、距離計測処理ステップS53では、上記細胞索分類処理ステップS52において分類された上記枝単位の細胞索領域の病理組織画像について、細胞索領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する。
さらに、上記定量化処理ステップS5では、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力するものとすることができる。
ここで、索状構造は鎖のように連続しているが、1mm×1mmの視野の中でも索の厚さやNC比など細胞の構造は場所によって変化する。そのため、この病理組織画像解析装置100では、索状構造を一定の長さに分割する前処理を行ってから定量化する方法を採用している。具体的には、索状領域を細線化して得られる中心線の枝単位でラベル付けして定量化する。索状構造から抽出した枝を重ねた結果を図20に示す。図20において緑色の線は索状構造の中心線9を示している。
中心線9は、類洞や間質からの距離変換画像を用いて求められる。その過程で、細線化画像の各画素は境界までの距離が分かるので、この病理組織画像解析装置100では、各索の厚さを自動計測している。
ここで、具体的な索状構造と枝の関係を図21に示す。図21の(A)に示す画像中のA点からB点までの枝の各画素の距離を図21の(B)に示している。
ここでは、距離変換画像のアルゴリズム上の問題で分岐付近で距離が大きくなる傾向が分かる。そこで、この病理組織画像解析装置100では、分岐から枝の厚さ分だけを除外した点Cから点Dで中心線から境界までの距離を計測し、代表値として中央値を用いることで索の厚さを自動計測する。
実際の計測例を図22に示す。この図22では、黒線で示した部分を手動で計測し、この病理組織画像解析装置100により自動計測した結果と比較して示してある。手動計測でも計測場所によっても2〜3μm前後のずれが生ずるが計測場所と比較するとかなり近い結果が得られていることが確認できる。従来多くのコンピュータ診断支援では、画素数や比率で表示されるため医師が直観的に特徴量自体を理解することは難しい面があった。しかし、この病理組織画像解析装置100では、計測結果をμmで示すことで特徴量としてだけでなく直観的に診断で活用できる情報として表示可能である。
具体的には、まず図21の(A)において、厚さを計測する点Aから点Bまでの中心線上のすべての画素で最も近い類洞や間質までの距離を算出する。これは、細胞索の半径に相当する。このため、細胞索の厚さは半径の2倍として定義する。厳密には、中心線から境界までの距離は左右で違う可能性もあるが手動で計測する際にも誤差は発生するため大きな影響は無いと考えられる。また、一つの細胞索の厚さは全ての画素の厚さを計測したときの中央値とする。これは、類洞や間質の抽出に誤差があり外れ値が生じる際の影響を減らすためである。また、図21の(B)におけるオレンジ色の範囲に相当する分岐点付近は計算が不正確になるため分岐点から対象の細胞索の厚さ分は計算に含めないこととしてある。
また、索の厚さは分化度が低くなるほど厚い索が増える傾向が見られ索の厚さをヒストグラムで表示するだけでも分化度推定の一つの情報となる。図23に典型的な分化度によって索の厚さが変化するヒストグラムを示す。図23を見ると、分化度が下がるにつれて索の厚さがばらつき厚い索が増えていく様子が確認できる。
さらに、抽出された枝単位で解析を行う。これは、索ごとに構造解析することに等しい。索単位は図24に示すように、索の分岐から分岐までを一つの領域として解析を行う。また、図24に矢印で示すように、核索には索ラベルを付与する。枝から索構造の抽出は図25に示す通り凸包を用いて行う。図25は、図24の索ラベルS-003を抽出した様子を示している。
すなわち、図25の(A)に示すように細線化結果の枝を膨張し、凸包を計算し、図25の(B)に示す細胞索構造から、凸包に入る細胞索を図25の(C)に示すように取り出す。この時、凸包内に他の領域が含まれることもあるため、ラベリングを行って最も面積の多い領域のみをとりだす。ただし、索の領域を決定する方法はこの方法に限定されるものではない。
また、この病理組織画像解析装置100では、図25の(C)に示す凸包領域を一つの細胞索と考え、NC比、核密度、曲率、層数を求める。
NC比は、一般的には視野範囲内(1mm×1mmなど)で細胞核面積÷細胞質面積を求める。実際に臨床では、正確に細胞核や細胞質を検出するのが困難なため目測で求められることも多い。
この病理組織画像解析装置100では、上述の如く細胞質を正確に求めており、例えば、非特許文献4に記載されている細胞核検出の手法により精度良く求まっている。非特許文献4では、肝臓のヘマトキシリン・エオジン(HE)染色の病理組織標本の画像を対象とし、RGB色空間内で核を染色するヘマトキシリンの色(青紫色)と細胞質を染色するエオジン(ピンク色)を結ぶ軸を選び、RGB信号値を投影して、細胞核と細胞質のコントラスト改善し、最後にテンプレートマッチングを用いて細胞核を検出する。細胞核検出の方法は、非特許文献4に記載されている細胞核検出の手法に限定されるものではなく、例えば非特許文献5に記載されている細胞核検出の手法など他の手法を採用することもできる。
また、細胞索に細胞核を重ねた結果を図25の(D)に示す。図25の(D)中で、灰色で示した領域Pが細胞核である。従って、索ラベルごとのNC比率は細胞核の面積(灰色の画素の数)÷細胞質の面積(白色の画素の数)で求めることができる。
核密度は、一定の範囲内における細胞核の数の比を意味する。通常は、NC比と同様に視野範囲内(1mm×1mm)に存在する細胞核の数÷細胞質の面積で計算される。
この病理組織画像解析装置100では、図25の(D)に示した通り灰色の領域Pの数÷細胞質の面積(白色の画素数)で求めることができる。
より病理学的所見に近い特徴量として各細胞索の層数も求めることが可能である。
この病理組織画像解析装置100では、一つの索の長さ、厚さ、含まれる細胞索の数が求められる。まず、一つの細胞核の面積(a)は細胞を正方形で近似した場合次の式(5)で求めることができる。
この時、tは細胞索の厚さ、lは細胞索の長さ、mは細胞索に含まれる細胞核の数である。従って、細胞索の層数は次の式(6)のように定義される。aは一つの細胞を正方形とみなした際の直径である。
また、医学的関係は明確ではないが得られた細胞索の中心線から曲率を求めることもできる。曲率は、一般的に曲率半径の逆数として定義されるが、離散空間では接線ベクトルの角度変化で近似することが可能である。
この病理組織画像解析装置100では、細胞索を抽出し細胞索の厚さをμm単位で計測することで病理診断で直観的に活用しやすい情報として取得し表示できる。また、HE染色病理標本画像において、定量化・計数化を行う場合、構造が複雑なため矩形などで区切って一定の範囲で計算することが多いが、この病理組織画像解析装置100では、細胞索単位で領域を区切り、定量化するためより病理学的な診断方針に合った方法で解析することができる。
[実施例1]
上記病理組織画像解析装置100において解析する対象は索状構造であり、実験のために分化度の異なる29枚の病理組織画像を集めた。背景肝が10枚、高分化が6枚、高〜中分化が4枚、中分化が9枚である。この実施例1において、比較したデータは核の数とNC比率である。
肝細胞癌を診断する際に、細胞・構造異型から分類する分化度が用いられている。分化度は、高分化型肝細胞癌、中分化型肝細胞癌、低分化型肝細胞癌で分類される。低分化癌に近づくほど、細胞・構造異型が強くなる。また、分化度は図26に示す通り単純に一つの視野内でも中分化型のみで構成されるわけではなく詳細に組織構築を見て決定される。
図26において、I,II,IIIは、それぞれ高分化型、中分化型、低分化型を示すが、このように異なる分化度の癌組織からなる結節は、辺縁に高分化型、内部に低分化型癌組織を伴う中分化型肝細胞癌と記載される。
低分化癌に近づくほど核腫大やNC比(核÷細胞質)の増加などの細胞異型を伴うことが知られている。画像全体での核の数、NC比率と索ごとに相関分析した結果を表1に示す。
分化度は一つの評価因子だけで分かるものではないため相関係数が低くなっているが、1mm×1mm内の単純な核の数よりも一つの細胞索ごとに含まれる核の数の平均の方が相関係数が高くなっている。同様に、NC比も画像全体における細胞核÷細胞質の比率よりも細胞索ごとにNC比を求めて平均を出した方が相関係数が高くなっている。これは、図26に示したように一つの画像内でも細胞異型が強い領域と弱い領域が混在するため画像全体で評価するよりも、細胞索単位で評価した方がより詳細に細胞異型を見られていることを示していると考えられる。また、図27に横軸を分化度として核密度を示すとともに、図28に横軸を分化度として索ごとの核密度平均を示す。また、図29に横軸を分化度としてNC比を示すとともに、図30に横軸を分化度として索ごとのNC比平均を示す。
また、索ごとに病理画像を評価する利点として索単位での構造解析が可能になる点が挙げられる。例えば、分化度と索ごとの核の数の分散をみると相関係数が0.77と高い値を示す。
また、図31に横軸を分化度として索ごとの核の数の分散を示す。図31は、分化度が低くなるほど一つの索に入る核の数がばらついてくることを示している。
さらに、図32に横軸を分化度として索ごとの細胞索の層数の平均を示す。表1に示した通り、層数平均は相関係数0.74と高い値を示している。層数の計算については、索ごとに明確に層数の定義が可能となる意義が大きい。また、索状に連続する細胞索を索ラベル単位で区切ることで定量解析が容易になる。
[実施例2]
上記病理組織画像解析装置100において、表2に示すような索ラベルごとの情報を主記憶部30に保存しており、病理組織画像解析プログラムにしたがって、解析対象物を撮像して得られた病理組織画像を画像取込処理部10により取り込み、取り込んだ病理組織画像をついて演算処理部20により自動計測を行い、計測結果を主記憶部30に保存した。
上記病理組織画像解析装置100により索の厚さを計測し、表示部50に表示する様子を図33に示す。
上記病理組織画像解析装置100では、表示部50に表示される図33に示すGUI画面において、[厚さ計測]釦50Aをクリックすると計測モードに入り、厚さを知りたい索の中心線をクリックすると該当する中心線9が緑色で表示され、黄色の文字で索の厚さが表示される。[病理組織画像]ウインドウ50Bに表示される病理組織画像を拡大した画像を図34に示す。
次に、図33に示すGUI画面において、[画像情報表示]ウインドウ50Cでは前述した核密度や画像全体の索の厚さ、索ごとの核密度平均、索の曲率、細胞索の層数などを表示して比較検討することができる。
また、図33に示すGUI画面において、[ヒストグラム表示]ウインドウ50Dでは細胞索の厚さのヒストグラムを確認することができる。
10 画像取込処理部、20 演算処理部、30 主記憶部、40 入力部、50 表示部、100 病理組織画像解析装置、210 類洞領域抽出処理部、220 間質領域抽出処理部、230 細胞索抽出処理部、240 定量化処理部、250 表示制御部

Claims (30)

  1. 解析対象物を撮像して得られた病理組織画像として染色処理の施された肝細胞の画像を取り込む画像取込処理ステップと、
    取り込まれた病理組織画像から解析対象領域における類洞領域を抽出する類洞領域抽出処理ステップと、
    上記病理組織画像から解析対象領域における間質領域を抽出する間質領域抽出処理ステップと、
    抽出された上記類洞領域及び上記間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する実質細胞領域抽出処理ステップと、
    上記実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化する定量化処理ステップと、
    上記定量化処理ステップにおいて数値化された病理特徴量を表示する表示ステップと、
    上記病理組織画像中の注目するべき領域を表すマスク情報を生成する注目領域マスク生成ステップを有し、
    上記表示ステップでは、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を表示することを特徴とする病理組織画像解析方法。
  2. 上記表示ステップでは、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを表示することを特徴とする請求項記載の病理組織画像解析方法。
  3. 上記定量化処理ステップでは、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化することを特徴とする請求項1記載の病理組織画像解析方法。
  4. 上記定量化処理ステップでは、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化することを特徴とする請求項1記載の病理組織画像解析方法。
  5. 上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに保存する保存ステップを有することを特徴とする請求項1記載の病理組織画像解析方法。
  6. 上記類洞領域抽出処理ステップは、
    上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理ステップと、
    上記境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理ステップと、
    抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理ステップと
    を有することを特徴とする請求項記載の病理組織画像解析方法。
  7. 上記間質領域抽出処理ステップは、
    上記解析対象領域の病理組織画像について、テクスチャ特徴による線維確率算出処理を行う線維確率算出処理ステップと、
    上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行うスーパーピクセル化処理ステップと、
    スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出する第1の間質抽出処理ステップと、
    リンパ球の多いスーパーピクセルを間質として抽出する第2の間質抽出処理ステップと を有することを特徴とする請求項記載の病理組織画像解析方法。
  8. 上記定量化処理ステップでは、上記実質細胞領域抽出処理ステップにおいて抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行うことを特徴とする請求項6又は請求項の何れか1項記載の病理組織画像解析方法。
  9. 上記定量化処理ステップは、
    上記実質細胞領域抽出処理ステップにおいて抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の中心線を求めることにより細線化する細線化処理ステップと、
    細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域を分類する細胞索分類処理ステップと、
    分類された上記枝単位の実質細胞領域の病理組織画像について、実質細胞領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する距離計測処理ステップと
    を有することを特徴とする請求項項記載の病理組織画像解析方法。
  10. 上記定量化処理ステップでは、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力することを特徴とする請求項記載の病理組織画像解析方法。
  11. 解析対象物を撮像して得られた病理組織画像として染色処理の施された肝細胞の画像を取り込む画像取込処理部と、上記画像取込処理部により取り込まれた病理組織画像から解析対象領域における類洞領域を抽出する抽出する類洞領域抽出処理部と、
    上記病理組織画像から解析対象領域における間質領域を抽出する間質領域抽出処理部と、
    上記類洞領域抽出処理部により抽出された類洞領域及び上記間質領域抽出処理部により抽出された間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する実質細胞領域抽出処理部と、
    上記実質細胞領域抽出処理部により実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化する定量化処理部と、
    上記定量化処理部により数値化された病理特徴量を表示する表示部と
    を備え、
    上記定量化処理部は、上記病理組織画像中の注目するべき領域を表すマスク情報を生成し、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を上記表示部により表示することを特徴とする病理組織画像解析装置。
  12. 上記定量化処理部は、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを上記表示部により表示することを特徴とする請求項11記載の病理組織画像解析装置。
  13. 上記定量化処理部は、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化することを特徴とする請求項11記載の病理組織画像解析装置。
  14. 上記定量化処理部は、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化することを特徴とする請求項11記載の病理組織画像解析装置。
  15. さらに、上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに保存する情報保存部を備えることを特徴とする請求項11記載の病理組織画像解析装置。
  16. 上記類洞領域抽出処理部は、
    上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理部と、
    上記境界強調処理部により境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理部と、
    上記クラスタリング処理部により抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理
    を備えることを特徴とする請求項11記載の病理組織画像解析装置。
  17. 上記間質領域抽出処理部は、
    上記解析対象領域の病理組織画像について、テクスチャ特徴による線維確率算出処理を行う線維確率算出処理部と、
    上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行うスーパーピクセル化処理部と、
    スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出する第1の間質抽出処理部と、
    リンパ球の多いスーパーピクセルを間質として抽出する第2の間質抽出処理部と
    を備えることを特徴とする請求項16記載の病理組織画像解析装置。
  18. 上記定量化処理部では、上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行うことを特徴とする請求項16又は17の何れか1項記載の病理組織画像解析装置。
  19. 上記定量化処理部は、
    上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の中心線を求めることにより細線化する細線化処理部と、
    細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域を分類する細胞索分類処理部と、
    上記細胞索分類処理部により分類された上記枝単位の実質細胞領域の病理組織画像について、上記実質細胞領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する距離計測処理部と
    を備えることを特徴とする請求項18項記載の病理組織画像解析装置。
  20. 上記定量化処理部では、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力することを特徴とする請求項19記載の病理組織画像解析装置。
  21. 解析対象物を撮像して得られた病理組織画像の解析を行う病理組織画像解析装置に備えられるコンピュータにより実行される病理組織画像解析プログラムであって、
    病理組織画像として取り込まれた染色処理の施された肝細胞の画像から解析対象領域における類洞領域を抽出する抽出する類洞領域抽出処理部と、
    上記病理組織画像から解析対象領域における間質領域を抽出する間質領域抽出処理部と、
    上記類洞領域抽出処理部により抽出された類洞領域及び上記間質領域抽出処理部により抽出された間質領域以外の領域を上記解析対象領域における実質細胞領域として上記病理組織画像から抽出する実質細胞領域抽出処理部と、
    上記実質細胞領域抽出処理部により実質細胞領域として抽出された実質細胞の集合体毎に病理特徴量を数値化し、上記病理組織画像中の注目するべき領域を表すマスク情報を生成し、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、注目領域マスク内での特徴量の統計値を表示部により表示する定量化処理部
    して上記コンピュータを機能させることを特徴とする病理画像解析プログラム。
  22. 上記定量化処理部は、上記実質細胞の集合体毎に数値化された病理特徴量を用いて、病変の状態を表す指標又はラベルを上記表示部により表示することを特徴とする請求項21記載の病理画像解析プログラム。
  23. 上記定量化処理部は、上記実質細胞の集合体として、一定長さ以下の細胞の連なりを単位として病理特徴量を数値化することを特徴とする請求項21記載の病理画像解析プログラム。
  24. 上記定量化処理部は、上記実質細胞の集合体として、細胞の連なりの分岐を境界とした単位に基づいて病理特徴量を数値化することを特徴とする請求項21記載の病理画像解析プログラム。
  25. さらに、上記実質細胞の集合体毎に数値化された病理特徴量を、集合体ごとに付与されたラベル情報とともに情報保存部に保存することを特徴とする請求項21記載の病理画像解析プログラム。
  26. 上記類洞領域抽出処理部は、
    上記解析対象領域の病理組織画像について方位選択フィルタによる境界強調処理を行う境界強調処理部と、
    上記境界強調処理部により境界強調処理が施された上記解析対象領域の病理組織画像についてクラスタリングによる類洞領域抽出処理を行うクラスタリング処理部と、
    上記クラスタリング処理部により抽出された類洞領域について、サポートベクターマシン(SVM:Support Vector Machine)による誤抽出領域削減処理を行う誤抽出領域削減処理
    を備える類洞領域抽出処理部として上記コンピュータを機能させることを特徴とする請求項21記載の病理画像解析プログラム。
  27. 上記解析対象領域の病理組織画像について、テクスチャ特徴による線維確率算出処理を行う線維確率算出処理部と、
    上記解析対象領域の病理組織画像について、色のよく似た領域にクラスタリングするスーパーピクセル化処理を行うスーパーピクセル化処理部と、
    スーパーピクセル毎に平均線維確率を算出して線維確率の高いスーパーピクセルを間質として抽出する第1の間質抽出処理部と、
    リンパ球の多いスーパーピクセルを間質として抽出する第2の間質抽出処理部と
    を備える間質領域抽出処理部として上記コンピュータを機能させることを特徴とする請求項26記載の病理画像解析プログラム。
  28. 上記定量化処理部では、上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の閉領域図形の中心線に沿った幅を計測し、定量化した病理特徴量として出力する距離計測処理を行うことを特徴とする請求項26又は27の何れか1項記載の病理画像解析プログラム。
  29. 上記実質細胞領域抽出処理部により抽出された実質細胞領域の病理組織画像について、上記実質細胞領域の中心線を求めることにより細線化する細線化処理部と、
    細線化された上記実質細胞領域の分岐から分岐までを枝とし、枝単位で上記実質細胞領域を分類する細胞索分類処理部と、
    上記細胞索分類処理部により分類された上記枝単位の実質細胞領域の病理組織画像について、上記実質細胞領域の中心線から境界までの距離を計測し、定量化した病理特徴量として出力する距離計測処理部と
    を備える定量化処理部として上記コンピュータを機能させることを特徴とする請求項28記載の病理組織画像解析プログラム。
  30. 上記定量化処理部では、病理特徴量としてさらに細胞索毎の核密度又は索毎のNC比の平均を算出して出力することを特徴とする請求項29記載の病理画像解析プログラム。
JP2013003949A 2013-01-11 2013-01-11 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム Expired - Fee Related JP6161146B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013003949A JP6161146B2 (ja) 2013-01-11 2013-01-11 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013003949A JP6161146B2 (ja) 2013-01-11 2013-01-11 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム

Publications (2)

Publication Number Publication Date
JP2014134517A JP2014134517A (ja) 2014-07-24
JP6161146B2 true JP6161146B2 (ja) 2017-07-12

Family

ID=51412891

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013003949A Expired - Fee Related JP6161146B2 (ja) 2013-01-11 2013-01-11 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム

Country Status (1)

Country Link
JP (1) JP6161146B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10915729B2 (en) 2018-02-20 2021-02-09 The Regents Of The University Of Michigan Three-dimensional cell and tissue image analysis for cellular and sub-cellular morphological modeling and classification
US11139069B2 (en) 2018-06-26 2021-10-05 Canon Medical Systems Corporation Medical image diagnostic apparatus, image processing apparatus, and registration method
CN110638477B (zh) * 2018-06-26 2023-08-11 佳能医疗系统株式会社 医用图像诊断装置以及对位方法
CN111161212B (zh) * 2019-12-05 2024-01-16 广州金域医学检验中心有限公司 数字病理切片有丝核分裂象统计方法、装置、设备和介质
JP2024061696A (ja) * 2021-03-24 2024-05-08 ソニーグループ株式会社 医療用画像解析装置、医療用画像解析方法及び医療用画像解析システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070135999A1 (en) * 2005-12-13 2007-06-14 Applied Spectral Imaging Ltd. Method, apparatus and system for characterizing pathological specimen
JP4947589B2 (ja) * 2007-06-27 2012-06-06 Kddi株式会社 類似画像検索装置
JP5387146B2 (ja) * 2009-06-03 2014-01-15 日本電気株式会社 病理組織画像解析装置、病理組織画像解析方法、病理組織画像解析プログラム
JP5871325B2 (ja) * 2010-09-30 2016-03-01 日本電気株式会社 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体

Also Published As

Publication number Publication date
JP2014134517A (ja) 2014-07-24

Similar Documents

Publication Publication Date Title
CN109583440B (zh) 结合影像识别与报告编辑的医学影像辅助诊断方法及系统
US10262189B2 (en) Evaluation of co-registered images of differently stained tissue slices
US9741112B2 (en) Generating image-based diagnostic tests by optimizing image analysis and data mining of co-registered images
US7555161B2 (en) Image analysis
CN112435243A (zh) 一种全切片数字病理图像的自动分析系统及方法
US20130094750A1 (en) Methods and systems for segmentation of cells for an automated differential counting system
JP6161146B2 (ja) 病理組織画像解析方法、病理組織画像解析装置及び病理組織画像解析プログラム
US20080159604A1 (en) Method and system for imaging to identify vascularization
CN109035283B (zh) 一种基于随机选取分区的肺气肿精准检测与量化分析方法
EP2610813B1 (en) Biomarker evaluation through image analysis
JP2008520345A (ja) 超音波画像における病変の検出及び分類方法、及びそのシステム
López et al. Digital image analysis in breast cancer: an example of an automated methodology and the effects of image compression
CN112990214A (zh) 一种医学图像特征识别预测模型
Murakami et al. Color correction for automatic fibrosis quantification in liver biopsy specimens
Lu et al. Automated segmentation and analysis of the epidermis area in skin histopathological images
Phillips et al. Segmentation of prognostic tissue structures in cutaneous melanoma using whole slide images
De Oliveira et al. Unsupervised segmentation method for cuboidal cell nuclei in histological prostate images based on minimum cross entropy
CN113129281B (zh) 一种基于深度学习的小麦茎秆截面参数检测方法
Ishikawa et al. Automatic quantification of morphological features for hepatic trabeculae analysis in stained liver specimens
Song et al. New morphological features for grading pancreatic ductal adenocarcinomas
Su et al. A novel method for dendritic spines detection based on directional morphological filter and shortest path
US20210166387A1 (en) System for analysis of microscopic data using graphs
US20210166076A1 (en) System and method for analysis of microscopic image data and for generating an annotated data set for classifier training
JPWO2019044579A1 (ja) 病理診断装置、画像処理方法及びプログラム
Kuo et al. Automated assessment in HER-2/neu immunohistochemical expression of breast cancer

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20161221

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170516

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170609

R150 Certificate of patent or registration of utility model

Ref document number: 6161146

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees