JPWO2016190129A1 - 画像処理装置、画像処理方法、および画像処理用のプログラム - Google Patents

画像処理装置、画像処理方法、および画像処理用のプログラム Download PDF

Info

Publication number
JPWO2016190129A1
JPWO2016190129A1 JP2017520626A JP2017520626A JPWO2016190129A1 JP WO2016190129 A1 JPWO2016190129 A1 JP WO2016190129A1 JP 2017520626 A JP2017520626 A JP 2017520626A JP 2017520626 A JP2017520626 A JP 2017520626A JP WO2016190129 A1 JPWO2016190129 A1 JP WO2016190129A1
Authority
JP
Japan
Prior art keywords
region
cell
image
display element
specifying
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017520626A
Other languages
English (en)
Other versions
JP6696503B2 (ja
Inventor
淳 生山
淳 生山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Publication of JPWO2016190129A1 publication Critical patent/JPWO2016190129A1/ja
Application granted granted Critical
Publication of JP6696503B2 publication Critical patent/JP6696503B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G01N15/1433
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12MAPPARATUS FOR ENZYMOLOGY OR MICROBIOLOGY; APPARATUS FOR CULTURING MICROORGANISMS FOR PRODUCING BIOMASS, FOR GROWING CELLS OR FOR OBTAINING FERMENTATION OR METABOLIC PRODUCTS, i.e. BIOREACTORS OR FERMENTERS
    • C12M1/00Apparatus for enzymology or microbiology
    • C12M1/34Measuring or testing with condition measuring or sensing means, e.g. colony counters
    • CCHEMISTRY; METALLURGY
    • C12BIOCHEMISTRY; BEER; SPIRITS; WINE; VINEGAR; MICROBIOLOGY; ENZYMOLOGY; MUTATION OR GENETIC ENGINEERING
    • C12QMEASURING OR TESTING PROCESSES INVOLVING ENZYMES, NUCLEIC ACIDS OR MICROORGANISMS; COMPOSITIONS OR TEST PAPERS THEREFOR; PROCESSES OF PREPARING SUCH COMPOSITIONS; CONDITION-RESPONSIVE CONTROL IN MICROBIOLOGICAL OR ENZYMOLOGICAL PROCESSES
    • C12Q1/00Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions
    • C12Q1/02Measuring or testing processes involving enzymes, nucleic acids or microorganisms; Compositions therefor; Processes of preparing such compositions involving viable microorganisms
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N33/00Investigating or analysing materials by specific methods not covered by groups G01N1/00 - G01N31/00
    • G01N33/48Biological material, e.g. blood, urine; Haemocytometers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/80Creating or modifying a manually drawn or painted image using a manual input device, e.g. mouse, light pen, direction keys on keyboard
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N2015/1006Investigating individual particles for cytology
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N15/00Investigating characteristics of particles; Investigating permeability, pore-volume, or surface-area of porous materials
    • G01N15/10Investigating individual particles
    • G01N15/14Electro-optical investigation, e.g. flow cytometers
    • G01N2015/1497Particle shape
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20096Interactive definition of curve of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Abstract

細胞形態画像から全ての細胞領域がより容易且つ正確に抽出され得る技術を提供することを目的とする。この目的を達成するために、まず、取得部によって、細胞の形態を捉えた細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像が取得される。次に、追加部によって、ユーザーの動作に応答して入力される予め設定された所定の信号に応じて、細胞形態画像において第1細胞領域とは異なる特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素が領域特定画像に追加される。そして、修正部によって、第1細胞領域の第2細胞領域と重なる重畳領域の少なくとも一部の領域について、第1細胞領域を特定する表示要素が表示部に表示されるように、領域特定画像が修正される。

Description

本発明は、画像処理装置、画像処理方法、および画像処理用のプログラムに関し、特に、細胞の形態を捉えた細胞形態画像を対象とした画像処理技術に関する。
人や動物等の生体から採取された組織切片を顕微鏡で観察して病変の有無や病変の種類等について診断する、いわゆる病理診断が盛んに行われている。この病理診断では、診断の対象となる組織切片は、固定、包理、薄切および染色と言った処理がこの順で施された後に顕微鏡による観察に供されるのが一般的である。
近年では、上記顕微鏡による観察において複数の細胞を含む生体組織の形態が捉えられた画像(細胞形態画像とも言う)が取得され、画像処理によって細胞形態画像から細胞の形状が自動的に抽出される技術が提供されている(例えば、特許文献1〜4等)。
例えば、特許文献1では、細胞形態画像から細胞中心の候補となる画素群が抽出され、該画素群のうちの細胞中心として適している画素のみが所定の基準に従って選択され、選択された細胞中心画素の位置情報とその周辺の画素の濃度勾配の方向から、細胞の輪郭を形成している画素が選択される。
また、特許文献2では、細胞形態画像から、輝度が極小値または極大値を呈する点、周囲の点と異なる色を有する点、および輝度勾配が極大となる点の少なくとも1点が、抽出点として抽出され、該抽出点のクラスタ化が行われ、細胞の中心および境界が求められる。
また、特許文献3では、属性値の範囲に基づいてソートされたピクセルが、属性値の範囲の端点から一つずつラベルイメージに追加され、配置された対象物毎に算出される特徴が所定の受入基準と合致した場合に、対象物が出力画像に出力される。このとき、ストップポイントに達するまで、ピクセルのラベルイメージへの追加、生成された対象物の特徴の評価、および対象物の出力が繰り返されることで、画像内の各対象物が識別される。
また、特許文献4では、所定の処理が施された細胞形態画像中の複数の細胞から、ユーザーによって指定された興味ある特定の細胞と似た特徴を持つ細胞群が自動的に抽出される。
特許第3314759号明細書 特許第4500138号明細書 特許第4825222号明細書 特許第4801025号明細書
しかしながら、上記特許文献1の技術では、例えば、病理診断に供される組織切片については、濃く染色されるケースがあり、このようなケースでは、濃度勾配を利用して細胞の輪郭を形成する画素を選択することが難しい。
また、上記特許文献2の技術では、例えば、針生検によって組織切片が採取される場合には、複数の細胞が圧縮されて、細胞同士が重畳し易い。そして、複数の細胞が、上下左右に重なった場合、グループ化された複数の抽出点の重心点が代表点としての細胞の中心とされても、細胞の中心とされた抽出点の数と、実際の細胞の数とが一致し難い。
また、上記特許文献3の技術では、例えば、細胞核の輪郭は明確に認識されるものの、細胞核の内部が明確には認識されない、いわゆる中抜けの状態が存在している場合には、細胞核の内部の情報が細胞核以外の情報と同一となり、細胞核の誤検出が生じる。
また、上記特許文献4の技術では、細胞形態画像における複数の細胞が、一部の細胞群に絞り込まれるため、細胞形態画像から抽出される細胞の数が減少してしまう。
以上のように、上記特許文献1〜3の技術では、細胞形態画像の状況に応じて、細胞形態画像から細胞に係る領域(細胞領域とも言う)が漏れなく正確に抽出されないケースがある。また、上記特許文献4の技術は、そもそも細胞形態画像から抽出される細胞を絞り込む技術であり、細胞形態画像から細胞領域が漏れなく正確に抽出されないケースが生じ易い。
本発明は、上記課題に鑑みてなされたものであり、細胞形態画像から全ての細胞領域がより容易且つ正確に抽出され得る技術を提供することを目的とする。
上記課題を解決するために、一態様に係る画像処理装置は、表示制御部と、取得部と、入力部と、追加部と、修正部と、を備えている。ここで、前記表示制御部は、細胞の形態を捉えた細胞形態画像を表示部に表示させる。前記取得部は、前記細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像を取得する。前記入力部は、ユーザーの動作に応じた信号が入力される。前記追加部は、前記入力部で入力される予め設定された所定の信号に応じて、前記細胞形態画像において前記第1細胞領域とは異なる前記特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素を前記領域特定画像に追加する。前記修正部は、前記第1細胞領域の前記第2細胞領域と重なる重畳領域の少なくとも一部の領域について、前記第1細胞領域を特定する表示要素が前記表示制御部によって前記表示部に表示されるように、前記領域特定画像を修正する。
他の一態様に係る画像処理方法は、ステップ(a)からステップ(c)を有する。ここで、前記ステップ(a)においては、取得部によって、細胞の形態を捉えた細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像を取得する。前記ステップ(b)においては、追加部によって、ユーザーの動作に応答して入力される予め設定された所定の信号に応じて、前記細胞形態画像において前記第1細胞領域とは異なる前記特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素を前記領域特定画像に追加する。前記ステップ(c)においては、修正部によって、前記第1細胞領域の前記第2細胞領域と重なる重畳領域の少なくとも一部の領域について、前記第1細胞領域を特定する表示要素が表示部に表示されるように、前記領域特定画像を修正する。
その他の一態様に係る画像処理用のプログラムは、情報処理装置に含まれる制御部において実行されることで、該情報処理装置を上記一態様に係る画像処理装置として機能させる。
本発明によれば、細胞形態画像において細胞の特定部位が占める細胞領域を表示要素によって特定する領域特定画像に、ユーザーが細胞領域を特定する表示要素を容易に追加することができるため、細胞形態画像から全ての細胞領域がより容易且つ正確に抽出され得る。
図1は、病理診断支援システムの概略的な一構成例を示す図である。 図2は、情報処理装置の機能的な構成を概略的に示すブロック図である。 図3は、制御部で実現される機能的な構成を例示するブロック図である。 図4は、細胞形態画像の一例を示す図である。 図5は、領域特定画像の一例を示す図である。 図6は、領域特定画像における第2細胞領域を例示する図である。 図7は、領域特定画像の修正の概要を説明するための図である。 図8は、画像処理装置の動作フローを例示するフローチャートである。 図9は、画像処理装置の動作フローを例示するフローチャートである。 図10は、画像処理装置の動作フローを例示するフローチャートである。 図11は、画像処理装置の動作フローを例示するフローチャートである。 図12は、画像処理装置の動作フローを例示するフローチャートである。 図13は、領域特定画像の修正の具体例を模式的に示す図である。 図14は、領域特定画像の修正の具体例を模式的に示す図である。 図15は、領域特定画像の修正の具体例を模式的に示す図である。 図16は、領域特定画像の修正の具体例を模式的に示す図である。 図17は、領域特定画像の修正の具体例を模式的に示す図である。 図18は、領域特定画像の修正の具体例を模式的に示す図である。 図19は、領域特定画像の修正の具体例を模式的に示す図である。 図20は、領域特定画像の修正の具体例を模式的に示す図である。 図21は、領域特定画像の修正の具体例を模式的に示す図である。 図22は、領域特定画像の修正の具体例を模式的に示す図である。 図23は、領域特定画像の修正の具体例を模式的に示す図である。 図24は、領域特定画像の修正の具体例を模式的に示す図である。 図25は、領域特定画像の修正の具体例を模式的に示す図である。 図26は、領域特定画像の修正の具体例を模式的に示す図である。 図27は、領域特定画像の修正の具体例を模式的に示す図である。 図28は、領域特定画像の修正の具体例を模式的に示す図である。 図29は、領域特定画像の修正の具体例を模式的に示す図である。 図30は、領域特定画像の修正の具体例を模式的に示す図である。 図31は、領域特定画像の修正の具体例を模式的に示す図である。 図32は、領域特定画像の修正の具体例を模式的に示す図である。 図33は、領域特定画像の修正の具体例を模式的に示す図である。 図34は、第1変形例に係る領域特定画像の修正に係る動作フローを示すフローチャートである。 図35は、第1変形例に係る領域特定画像の修正の具体例を模式的に示す図である。 図36は、第1変形例に係る領域特定画像の修正の具体例を模式的に示す図である。 図37は、第1変形例に係る領域特定画像の修正の具体例を模式的に示す図である。
以下、本発明の一実施形態および各種変形例を図面に基づいて説明する。なお、図面においては同様な構成および機能を有する部分については同じ符号が付されており、下記説明では重複説明が省略される。また、図面は模式的に示されたものであり、各図における各種構成のサイズおよび位置関係等は適宜変更され得る。
<(1)一実施形態>
<(1−1)病理診断支援システムの概要>
図1は、一実施形態に係る病理診断支援システム100の概略的な一構成例を示す図である。病理診断支援システム100は、所定の染色試薬で染色された生体の組織切片が捉えられた顕微鏡画像を取得し、該顕微鏡画像を対象とした画像処理を行った後に、組織切片における特定の生体物質の発現を定量的に表す特徴量を算出する解析処理を行う。
ここで、顕微鏡画像には、例えば、生体の組織切片における細胞の形態が捉えられた画像(細胞形態画像とも言う)、および生体の細胞切片に存在する特定の生体物質の分布が捉えられた画像(物質分布画像とも言う)が含まれる。生体には、例えば、人体またはヒト以外の動物等が含まれ、また、人体およびヒト以外の動物を含む広義の意味での動物が含まれても良い。画像処理には、例えば、解析処理において特定の生体物質の発現を定量的に表す特徴量が顕微鏡画像から高精度で求められるように該顕微鏡画像に施される処理が含まれる。
本実施形態では、細胞形態画像から細胞を捉えた全ての細胞領域がより正確に抽出されるような画像処理が施されることで、例えば、解析処理において組織切片における特定の生体物質の発現を定量的に表す特徴量が高精度で求められ得る。
図1で示されるように、病理診断支援システム100は、顕微鏡画像取得装置1、画像処理装置2、および顕微鏡画像取得装置1と画像処理装置2とをデータの送受信が可能に接続している通信回線3を備えている。通信回線3は、例えば、ケーブル等の有線方式の回線であっても良いし、無線方式の回線であっても良い。具体的には、通信回線3として、例えば、有線方式または無線方式の少なくとも一方の方式が採用されたLAN(Local Area Network)が採用され得る。また、顕微鏡画像取得装置1と画像処理装置2との間におけるデータの授受は、記憶媒体等の各種メディアを用いた受け渡しによって実施されても良い。
顕微鏡画像取得装置1は、例えば、公知のカメラ付きの光学顕微鏡である。顕微鏡画像取得装置1では、ステージ上に配置されたスライドガラス上の組織切片の光像が撮像されることで、組織切片の拡大像に係る画像(顕微鏡画像とも言う)のデータ(顕微鏡画像データとも言う)が取得され、該顕微鏡画像データが、画像処理装置2に送信される。なお、以下では、顕微鏡画像データおよび顕微鏡画像を、顕微鏡画像と総称する。
具体的には、顕微鏡画像取得装置1は、例えば、照射部、結像部、撮像部、通信I/F等を備えている。照射部は、例えば、光源、フィルター等を有しており、ステージ上に配置されたスライドガラス上の組織切片に光を照射する。結像部は、例えば、接眼レンズおよび対物レンズ等を有しており、スライド上の組織切片に対する光の照射に応じて、該組織切片から発せられる透過光、反射光または蛍光を結像する。撮像部は、例えば、CCD(Charge Coupled Device)センサー等を備えているカメラであり、結像部によって結像面に結像される組織切片の光像を撮像して顕微鏡画像を取得する。通信I/Fは、該顕微鏡画像を画像処理装置2に送信する。
また、顕微鏡画像取得装置1は、明視野観察に適した照射部および結像部が組み合わされた明視野ユニットと、蛍光観察に適した照射部および結像部が組み合わされた蛍光ユニットとが備えられている。そして、明視野ユニットおよび蛍光ユニットの間で使用されるユニットが切り替えられることで、観察のモードが明視野観察を行うモードと蛍光観察を行うモードとの間で切り替えられる。これにより、顕微鏡画像取得装置1で取得される顕微鏡画像には、例えば、明視野観察における撮像で得られる明視野画像と、蛍光観察における撮像で得られる蛍光画像とが含まれる。
「明視野画像」は、所定の染色試薬で染色された組織切片を、顕微鏡画像取得装置1において明視野で拡大結像および撮像することで得られる顕微鏡画像である。ここで、所定の染色試薬としては、例えば、ヘマトキシリン染色試薬(H染色試薬)およびヘマトキシリン−エオジン染色試薬(HE染色試薬)が採用され得る。ヘマトキシリン(H)は、青紫色の色素であり、細胞核、骨組織、軟骨組織の一部および漿液成分等(好塩基性の組織等)を染色する。エオジン(E)は、赤〜ピンク色の色素であり、細胞質、軟部組織の結合組織、赤血球、線維素および内分泌顆粒等(好酸性の組織等)を染色する。つまり、本実施形態では、明視野画像は、組織切片における細胞の形態が捉えられた細胞形態画像である。
また、「蛍光画像」は、所定の蛍光染色試薬を用いて染色された組織切片に対し、顕微鏡画像取得装置1において所定波長の励起光を照射して蛍光発光させ、この蛍光を拡大結像および撮像することにより得られる顕微鏡画像である。ここで、蛍光染色試薬としては、例えば、特定の生体物質と特異的に結合および/または反応する生体物質認識部位が結合した蛍光物質内包ナノ粒子を含む染色試薬である。蛍光物質内包ナノ粒子は、蛍光物質を内包したナノ粒子(蛍光粒子とも言う)である。蛍光画像に現れる蛍光は、蛍光染色試薬の蛍光物質内包ナノ粒子(蛍光物質)が励起して発光したものであり、組織切片における、生体物質認識部位に対応する特定の生体物質の発現を示すものである。つまり、本実施形態では、蛍光画像は、生体の細胞内に存在する特定の生体物質の分布が捉えられた物質分布画像である。
画像処理装置2は、顕微鏡画像取得装置1から送信された顕微鏡画像を受信して、該顕微鏡画像に画像処理を施す。該画像処理装置2は、情報処理装置において所定のプログラムが実行されることで実現される。また、画像処理装置2は、例えば、画像処理が施された顕微鏡画像を対象として、組織切片における特定の生体物質の発現を定量的に表す特徴量を算出する解析処理を行う。
<(1−2)情報処理装置の機能的な構成>
図2は、画像処理装置2の機能を実現する情報処理装置の機能的な構成を概略的に示すブロック図である。図2で示されるように、情報処理装置は、例えば、制御部21、入力部22、表示部23、通信I/F24、記憶部25等を備えている。そして、各部21〜25は、バス26を介して相互にデータの送受信が可能に接続されている。
制御部21は、プロセッサーおよびメモリー等を備えた電気回路である。ここで、プロセッサーとしては、例えば、中央処理装置(CPU:Central Processing Unit)等が採用され、メモリーとしては、揮発性のメモリーであるRAM(Random Access Memory)等が採用され得る。制御部21は、記憶部25に記憶されている各種プログラムとの協働によって各種処理を実行し、情報処理装置の画像処理装置2としての動作を統括的に制御する。また、制御部21は、記憶部25に記憶されている画像処理用のプログラムP1(図3)を実行することで、情報処理装置を画像処理装置2として機能させる。
入力部22は、ユーザーとしての画像処理装置2のオペレーターの動作に応じた信号が入力される。ここで、入力部22は、例えば、ユーザーによる操作に応じた信号(操作信号とも言う)が入力される操作部であっても良いし、ユーザーによる発声に応じた信号(音声信号とも言う)が入力される音声入力部であっても良い。操作部には、文字入力キー、数字入力キーおよび各種機能キー等を含むキーボードと、マウスやタッチペン等のポインティングデバイスとが含まれ得る。操作部によれば、例えば、キーボードにおけるキーの押し下げに応じた操作信号と、ポインティングデバイスの操作に応じた操作信号とが、制御部21に入力され得る。
表示部23は、制御部21から入力される信号に従って、各種画像を表示させる。表示部23には、例えば、CRT(Cathode Ray Tube)またはLCD(Liquid Crystal Display)等の表示部が含まれる。
通信I/F24は、画像処理装置2の外部に位置する外部機器との間でデータの送受信を行なうためのインターフェースである。外部機器には、例えば、顕微鏡画像取得装置1が含まれる。このため、通信I/F24は、例えば、顕微鏡画像取得装置1から顕微鏡画像を受信する受信部として機能する。なお、例えば、画像処理装置2が、LANアダプターおよびルーター等を備え、LAN等の通信ネットワークを介して外部機器と接続される構成が採用されても良い。
記憶部25は、各種プログラムおよび各種データ等を記憶する。該記憶部25は、例えば、HDD(Hard Disk Drive)または不揮発性の半導体メモリー等で構成され得る。
<(1−3)画像処理装置の機能的な構成>
図3は、画像処理装置2の制御部21で実現される機能的な構成を例示するブロック図である。情報処理装置に含まれる制御部21において、記憶部25に格納されている画像処理用のプログラムP1が実行されることで、該情報処理装置が、画像処理装置2として機能する。このとき、図3で示されるように、画像処理装置2は、制御部21において実現される機能的な構成として、取得部211、表示制御部212、追加部213、修正部214および設定部215を備える。
取得部211は、細胞形態画像において細胞の特定部位が占める領域(第1細胞領域とも言う)を所定の表示要素(第1表示要素とも言う)によって特定する画像(領域特定画像とも言う)を取得する。本実施形態では、特定部位が、細胞核である例を挙げて説明する。図4は、細胞形態画像の一例を示す図である。
取得部211では、例えば、通信I/F24から入力される細胞形態画像を対象とした所定の画像処理が行われることで、領域特定画像が取得される。ここで、所定の画像処理としては、例えば、判別分析法およびPタイル法等と言った二値化、ならびにk平均法およびEMアルゴリズム等と言ったクラスタリングのうちの少なくとも一方によって、細胞形態画像において特定部位が占める領域が検出される処理が採用され得る。また、例えば、多数種の画像の特徴量を用いた機械学習で得た学習内容によって、細胞形態画像において特定部位が占める領域が検出される処理が採用されても良い。さらに、取得部211では、二値化、クラスタリングおよび機械学習の結果等によって細胞形態画像から一旦検出される領域のうち、円形度、大きさおよび細胞形態画像における色等と言った他の基準を満たす領域が、第1細胞領域として検出されても良い。
また、ここで、領域特定画像としては、例えば、細胞形態画像について、特定部位が占める領域と、それ以外の領域とが区別可能な態様で示される画像が採用され得る。具体的には、例えば、特定部位が占める領域が所定色(第1色とも言う)または所定のハッチングで描かれた第1表示要素で示され、特定部位以外が占める領域が第1表示要素とは異なる色(第2色とも言う)またはハッチングで描かれる。ここで、第1色としては、例えば、青色または灰色等が採用され、第2色としては、例えば、白色または黒色等が採用され得る。図5は、図4で示された細胞形態画像を対象とした二値化の処理によって取得された領域特定画像の一例を示す図である。
表示制御部212は、各種画像を表示部23に表示させる。各種画像には、例えば、細胞形態画像および領域特定画像等が含まれる。ここでは、例えば、表示制御部212から各種画像のデータが表示部23に出力されることで、各種画像が表示部23において表示され得る。例えば、表示部23に、図4で示されたような細胞形態画像および図5で示されたような領域特定画像が表示される。
ところで、細胞形態画像で捉えられた細胞の特定部位における染色の濃淡および取得部211における所定の画像処理の条件等によって、取得部211で領域特定画像が取得される際に、細胞の特定部位が占める第1細胞領域として検出される領域に差が生じ得る。このため、細胞形態画像において細胞の特定部位が占める領域であるものと視認される全ての領域のうちの一部の領域が、細胞の特定部位が占める第1細胞領域として検出されない場合がある。例えば、図6で示されるように、破線2CAで囲まれた領域が、取得部211において、本来は第1細胞領域として検出されるべき領域であるが、第1細胞領域として検出されていない。つまり、取得部211において第1細胞領域として検出されなかった一部の領域は、第1細胞領域とは異なる細胞の特定部位が占める領域(第2細胞領域とも言う)である。そこで、例えば、ユーザーの操作等に応じて、取得部211において第1細胞領域として検出されなかった一部の領域としての第2細胞領域を特定する表示要素が、領域特定画像に追加されれば、細胞形態画像から全ての細胞領域がより正確に抽出され得る。
追加部213は、入力部22で入力される所定の信号に応じて、細胞形態画像において第1細胞領域とは異なる細胞の特定部位が占める領域(第2細胞領域)の少なくとも輪郭部を特定する表示要素(第2表示要素とも言う)を領域特定画像に追加する。所定の信号は、予め設定されていれば良く、例えば、第2細胞領域の輪郭部を指定するための信号が採用され得る。
例えば、表示部23に、細胞形態画像が表示された状態で、ユーザーによる入力部22の操作等によって、細胞形態画像上において、第2細胞領域の輪郭部に沿って曲線が描かれるような態様が考えられる。この場合、第2表示要素が、第2細胞領域の輪郭を特定する曲線部を含む。そして、このとき、例えば、表示部23において、細胞形態画像上に第1表示要素が重畳的に表示されている状態と、細胞形態画像のみが表示されている状態とが切り替えられながら、ユーザーによる入力部22の操作等によって、第2細胞領域の輪郭部に沿って曲線が描かれ得る。具体的には、例えば、表示部23において、細胞形態画像上で、マウスの左ボタンを押下しつつ、マウスポインターを第2細胞領域の輪郭部に沿って移動させることで、マウスポインターが移動した軌跡上に曲線が描かれ得る。
修正部214は、第1細胞領域の第2細胞領域と重なる領域(重畳領域とも言う)について、領域特定画像を修正する。ここでは、例えば、重畳領域について、表示制御部212によって、第2細胞領域を特定する表示要素ではなく、第1細胞領域を特定する表示要素が表示部23に表示されるように、領域特定画像が修正される。具体的には、例えば、特に修正の態様が指定されていない限り、デフォルトの状態では、重畳領域について、第1細胞領域を特定する表示要素が、第2細胞領域を特定する表示要素よりも優先的に表示されるように、領域特定画像が修正される。
これにより、細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像に、ユーザーが第2細胞領域を特定する第2表示要素を容易に追加することができる。その結果、細胞形態画像から全ての細胞領域がより容易且つ正確に抽出され得る。
設定部215は、重畳領域について領域特定画像を修正する際に該領域特定画像のうちの第1細胞領域を特定する表示要素と第2細胞領域を特定する表示要素との間に設けられる間隙部の幅を設定する。設定部215では、例えば、間隙部の幅が自動的に設定されても良いし、ユーザーの動作に応答して入力部22で入力される信号に応じて間隙部の幅が設定されても良い。
ここで、間隙部の幅が狭ければ、表示領域間の境界が認識可能であり且つ解析処理で特徴量が高精度で求められ得る。但し、ユーザーが領域特定画像を見る際には、間隙部の幅がある程度広ければ、第1細胞領域に係る表示要素と第2細胞領域に係る表示要素とが離れている様子が視認され易くなる。例えば、間隙部の幅が1μm以上であれば、視認性が確保され得る。このため、ユーザーによって間隙部の幅が設定されるのであれば、解析処理における精度と視認性との両立がバランス良く図られ得る。
また、間隔部の幅が自動的に設定される場合には、間隙部の幅は、例えば、単純に固定の幅であっても良いし、細胞形態画像における第1および第2細胞領域の占有率等と言った何らかのパラメーターの値に応じた幅であっても良い。
<(1−4)領域特定画像の修正の概要>
図7は、修正部214における領域特定画像の修正の概要を説明するための図である。図7には、第1細胞領域を特定する第1表示要素De1に対して、一部が重畳するように第2細胞領域の輪郭部を特定する第2表示要素De2が追加されている状態(追加状態とも言う)Ex0から領域特定画像が修正される様子が例示されている。図7の追加状態Ex0では、第2表示要素De2が、第2細胞領域の輪郭部に沿って略円形に太線で描かれている。つまり、図7では、例えば、図5で例示された領域特定画像のように、細胞形態画像において細胞の特定部位が占める複数の第1細胞領域のそれぞれが第1表示要素De1で特定されている場合に、1つの第1表示要素De1に対して、細胞形態画像における第2細胞領域の輪郭部に沿って描かれた第2表示要素De2としての太線が追加されている様子が示されている。具体的には、図7では、例えば、図5で示された領域特定画像のうち、1つの略円形の第1表示要素De1に対して、第2表示要素De2が追加された状態(追加状態)Ex0が例示されている。
例えば、図7の中央の追加状態Ex0で示されるような領域特定画像への第2表示要素De2の追加時、またはその追加後に、ユーザーによって入力される信号および第2表示要素De2の状態の少なくとも一方に応じて、領域特定画像が修正される。例えば、ユーザーの動作に応答して入力部22で入力される信号に応じて、領域特定画像のうちの重畳領域に係る修正の態様が指定され得る。
<(1−4−1)第1の修正(第1細胞領域に係る表示要素の優先的な表示)>
例えば、修正の態様が特に指定されていなければ、追加状態Ex0から図7の下方の修正状態(第1修正状態とも言う)Ex1で示されるように、領域特定画像が修正される。この場合、重畳領域については、第1細胞領域を特定する表示要素(ここでは、第1表示要素De1)が優先的に表示されるように、領域特定画像が修正される。ここでは、例えば、修正部214が、重畳領域の全域にわたって、第1細胞領域を特定する第1表示要素De1が表示制御部212によって表示部23に表示されるように、領域特定画像を修正する。このとき、例えば、修正部214が、重畳領域の全域にわたって、第1細胞領域を特定する表示要素が表示制御部212によって表示部23に表示されるように、第2細胞領域を特定する表示要素を削除する。
このような構成によれば、例えば、図7の第1修正状態Ex1で示されるように、ユーザーによって第2細胞領域を特定する表示要素De21が領域特定画像に容易に追加され得る。その結果、細胞形態画像から全ての細胞領域が容易且つ正確に抽出され得る。なお、表示要素De21は、例えば、第2表示要素De2で囲まれる領域から重畳領域に対応する部分が除かれた残りの領域を特定する。表示要素De21は、例えば、所定色または所定のハッチングで描かれる。但し、修正部214によって、領域特定画像のうちの第1細胞領域を特定する第1表示要素De1と、第2細胞領域を特定する表示要素De21との間に間隙部SL1が設けられれば、表示要素De1と表示要素De21との境界が容易に認識可能な態様となる。
<(1−4−2)第2の修正(細胞領域に係る表示要素の置換)>
例えば、第1細胞領域を特定する表示要素を、第2細胞領域を特定する表示要素に置換する旨の修正の態様が指定されれば、追加状態Ex0から図7の上方の修正状態(第2修正状態とも言う)Ex2で示されるように、領域特定画像が修正される。この場合、重畳領域を含めて、第1細胞領域を特定する第1表示要素De1が、第2細胞領域を特定する表示要素De21に置換されることで、領域特定画像が修正される。このとき、例えば、修正部214が、入力部22で入力される予め設定された既定の信号に応じて、領域特定画像のうちの第1細胞領域を特定する第1表示要素De1の代わりに第2細胞領域を特定する表示要素De21が表示制御部212によって表示部23に表示されるように、領域特定画像を修正する。
このような構成によれば、例えば、図7の第2修正状態Ex2で示されるように、ユーザーによって細胞領域を特定する表示要素が容易に変更され得る。その結果、細胞形態画像から全ての細胞領域が容易且つ正確に抽出され得る。なお、表示要素De21は、例えば、第2表示要素De2で囲まれる領域に、所定色または所定のハッチングが付されることで描かれ得る。
<(1−4−3)第3の修正(細胞領域に係る表示要素の拡大)>
例えば、領域特定画像において、第2細胞領域の輪郭を特定する曲線部を含む第2表示要素De2が閉曲線でなく、該曲線部の両端が、第1細胞領域に対応する領域内に位置していれば、追加状態Ex0から図7の左方の修正状態(第3修正状態とも言う)Ex3で示されるように、領域特定画像が修正される。この場合、第1細胞領域を特定する第1表示要素De1が、第1細胞領域に第2細胞領域を加えた領域(拡大領域ともいう)を特定する表示要素De31に変更されることで、領域特定画像が修正される。このとき、例えば、修正部214が、領域特定画像において第2表示要素De2としての曲線部の両端が第1細胞領域に対応する領域内に位置していることに応じて、第1細胞領域を特定する第1表示要素を、第1細胞領域と第2細胞領域とを合わせた1つの領域を示す表示要素に変更する。これにより、第1細胞領域を特定する第1表示要素De1が表示要素De31に拡大される。
このような構成によれば、例えば、図7の第3修正状態Ex3で示されるように、ユーザーによって細胞領域を特定する表示要素が容易に変更され得る。その結果、細胞形態画像から全ての細胞領域が容易且つ正確に抽出され得る。なお、表示要素De31は、例えば、第1表示要素De1と同様な態様で描かれ得る。
<(1−4−4)第4の修正(第2細胞領域に係る表示要素の優先的な表示)>
例えば、第1細胞領域を特定する表示要素よりも追加された第2細胞領域を特定する表示要素を優先的に表示させる修正の態様が指定されれば、追加状態Ex0から図7の右方の修正状態(第4修正状態とも言う)Ex4で示されるように、領域特定画像が修正される。この場合、重畳領域については、第2細胞領域を特定する表示要素De21が優先的に表示されるように、領域特定画像が修正される。このとき、例えば、修正部214が、入力部22で入力される予め設定された特定の信号に応じて、重畳領域の全域にわたって、第2細胞領域を特定する表示要素De21が表示制御部212によって表示部23に表示されるように、領域特定画像を修正する。このとき、例えば、修正部214が、重畳領域のうちの第2細胞領域を特定する表示要素が表示制御部212によって表示部23に表示される領域については、第1細胞領域を特定する表示要素を削除する。これにより、第1表示要素De1は、該第1表示要素De1から重畳領域に対応する部分が除かれた表示要素De11に変更され得る。このとき、例えば、修正部214が、重畳領域の全域にわたって、第2細胞領域を特定する表示要素が表示制御部212によって表示部23に表示されるように、第1細胞領域を特定する表示要素を削除する。
このような構成によれば、例えば、図7の第4修正状態Ex4で示されるように、ユーザーによって第2細胞領域を特定する表示要素De21が領域特定画像に容易に追加され得る。その結果、細胞形態画像から全ての細胞領域が容易且つ正確に抽出され得る。なお、表示要素De21は、例えば、第2表示要素De2で囲まれる領域に、所定色または所定のハッチングが付されることで描かれ得る。また、表示要素De11は、例えば、第1表示要素De1から重畳領域に対応する部分が除かれた残りの領域を特定する。表示要素De11は、例えば、所定色または所定のハッチングで描かれる。但し、修正部214によって、領域特定画像のうちの第1細胞領域を特定する表示要素De11と、第2細胞領域を特定する表示要素De21との間に間隙部SL1が設けられれば、表示要素De11と表示要素De21との境界が容易に認識可能な態様となり得る。
<(1−5)領域特定画像の修正に係る動作フロー>
図8から図12は、画像処理装置2の動作フローを例示するフローチャートである。図13から図33は、画像処理装置2における領域特定画像の修正の具体例を模式的に示す図である。以下、画像処理装置2の動作フローについて、適宜、図13から図33を参照しつつ説明する。
図8で示されるように、画像処理装置2では、ステップST1〜ST4の処理が時間順次に行われる。換言すれば、画像処理装置2における画像処理方法は、ステップST1〜ST4を有する。
ステップST1では、取得部211によって、細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像が取得される。ここでは、例えば、図4で例示されたような細胞形態画像を対象とした所定の画像処理等が行われることで、図5で例示されたような領域特定画像が取得される。
ステップST2では、追加部213によって、ユーザーの動作に応答して入力される予め設定された所定の信号に応じて、細胞形態画像において第1細胞領域とは異なる特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素が領域特定画像に追加される。ここでは、例えば、図4で例示された細胞形態画像が参照されつつ、図5で例示された領域特定画像では捉えられていない特定部位が占める第2細胞領域の輪郭部を特定する第2表示要素としての曲線部が、該領域特定画像に追加される。このとき、例えば、図6で示された破線2CAで囲まれた領域の輪郭部を特定する第2表示要素が領域特定画像に追加され得る。
ステップST3では、修正部214によって、第1細胞領域の第2細胞領域と重なる重畳領域について、第2細胞領域を特定する表示要素ではなく、第1細胞領域を特定する表示要素が表示部23に表示されるように、領域特定画像が修正される。但し、ユーザーの動作に応じて入力される信号および第2表示要素の状態の少なくとも一方に応じて、領域特定画像の修正態様が適宜変更され得る。具体的には、ステップST3では、図9から図12で示される動作フローに沿って、領域特定画像が修正される。ここでは、第2表示要素が、第2細胞領域の輪郭を特定する曲線部を含む場合を例に挙げて説明する。
まず、図9のステップST31では、第2表示要素De2としての曲線部が閉領域を形成しているか否か判定される。ここで、曲線部が閉領域を形成していれば、ステップST32に進み、曲線部が閉領域を形成していなければ、ステップST35に進む。
ステップST32では、曲線部が複数の閉領域を形成しているか否か判定される。ここで、曲線部が複数の閉領域を形成していれば、ステップST33に進み、曲線部が複数の閉領域を形成していなければ、ステップST34に進む。
ステップST33では、曲線部が形成している複数の閉領域のうち、最大の閉領域以外の小さな閉領域を形成している部分が削除される。このとき、例えば、図13で示されるように、第2表示要素De2としての曲線部が、2つの閉領域Ac1,Ac2を形成している場合を想定する。この場合、図14で示されるように、曲線部のうち、複数の閉領域のうちの最大の閉領域Ac1以外の小さな閉領域Ac2を形成している部分が削除される。
ステップST34では、曲線部のうちの閉領域を形成していない部分Ep1が削除される。例えば、ステップST32から進んで来た場合には、図15から図16で示されるように、第2表示要素De2のうちの閉領域Ac1を形成していない部分Ep1が削除される。このような処理が行われると、図10のステップST36に進む。
ステップST35では、曲線部のうちの両端が結ばれて、閉領域Ac1が形成される。例えば、図17から図18で示されるように、第2表示要素De2としての曲線部のうちの両端(具体的には、一端E1および他端E2)が線Cn1で結ばれる。ここで、線Cn1としては、例えば、曲線または直線等が採用され得る。図18には、曲線部の両端が直線状の線Cn1によって結ばれている様子が示されている。このような処理が行われると、図10のステップST36に進む。
次に、図10のステップST36では、第1細胞領域を特定する第1表示要素De1が、第2細胞領域を特定する第2表示要素De2に置換される旨の処理(置換処理とも言う)が指定されているか否か判定される。ここでは、例えば、置換処理が指定されていれば、ステップST37に進み、置換処理が指定されていなければ、図11のステップST41に進む。
ステップST37では、各第1表示要素De1について、第2細胞領域を特定する第2表示要素De2が形成する閉領域Ac1内に含有されている含有率が算出される。
ステップST38では、ステップST37で算出された含有率が100%の第1表示要素De1があるか否かが判定される。ここでは、含有率が100%の第1表示要素De1があれば、ステップST39に進み、含有率が100%の第1表示要素De1がなければ、ステップST40に進む。
ステップST39では、含有率が100%の第1表示要素De1が削除される。例えば、図19から図20で示されるように、第2表示要素De2の閉領域Ac1に完全に含有されている第1表示要素De1が削除される。この削除処理が行われると、図12のステップST45に進む。
ステップST40では、ステップST37で算出された含有率が最も高い第1表示要素De1が削除される。例えば、図21から図22で示されるように、第2表示要素De2の閉領域Ac1に、2つの第1表示要素De1(De1a,De1b)が含まれている場合、含有率が相対的に高い第1表示要素De1(De1a)が削除される。この削除処理が行われると、図12のステップST45に進む。
ステップST41では、第2表示要素De2の閉領域Ac1に完全に含まれている第1表示要素De1があるか否か判定される。ここで、閉領域Ac1に完全に含まれている第1表示要素De1があれば、ステップST42に進み、閉領域Ac1に完全に含まれている第1表示要素De1がなければ、ステップST43に進む。例えば、図23で示されるように、3つの第1表示要素De1(De1a〜De1c)のうちの1つの第1表示要素De1(De1c)が閉領域Ac1に完全に含まれていれば、閉領域Ac1に完全に含まれている第1表示要素De1が存在しているものと判定され得る。
ステップST42では、閉領域Ac1内に完全に含まれている第1表示要素De1が削除される。例えば、図23から図24で示されるように、閉領域Ac1内に完全に含まれている第1表示要素De1(De1c)が削除される。
ステップST43では、第2表示要素De2の曲線部の両端が同一の第1細胞領域に対応する領域内に位置しているか否か判定される。ここで、曲線部の両端が同一の第1細胞領域に対応する領域内に位置していれば、ステップST44に進み、曲線部の両端が同一の第1細胞領域に対応する領域内に位置していなければ、図12のステップST45に進む。例えば、図24では、第2表示要素De2の曲線部の両端(具体的には、一端E1および他端E2)が、同一の第1細胞領域に対応する領域を示す第1表示要素De1(De1b)内に位置している様子が示されている。
ステップST44では、第2表示要素De2としての曲線部の両端を内包する第1細胞領域を特定する第1表示要素が、該第1細胞領域と第2細胞領域とを合わせた領域を特定する表示要素に変更される。例えば、図24から図25で示されるように、第2表示要素De2としての曲線部の両端(一端E1および他端E2)を内包する第1細胞領域を特定する第1表示要素De1(De1b)が、該第1細胞領域と第2細胞領域とを合わせた領域を特定する表示要素De3に変更される。
ステップST45では、閉領域Ac1に一部が含まれる第1表示要素De1があるか否か判定される。ここで、閉領域Ac1に一部が含まれる第1表示要素De1があれば、ステップST46に進み、閉領域Ac1に一部が含まれる第1表示要素De1がなければ、ステップST49に進む。例えば、図22では、第2表示要素De2の閉領域Ac1に第1表示要素De1(De1b)の一部が含まれている様子が示されており、図25では、表示要素De3の閉領域Ac1に第1表示要素De1(De1a)の一部が含まれている様子が示されている。
ステップST46では、ユーザーの動作に応じて、第1細胞領域を特定する表示要素よりも追加された第2細胞領域を特定する第2表示要素De2および表示要素De3を優先的に表示させる修正の態様が指定されているか否か判定される。ここで、第1細胞領域を特定する表示要素よりも第2表示要素De2および表示要素De3を優先的に表示させる修正の態様が指定されていれば、ステップST47に進み、該修正の態様が指定されていなければ、ステップST48に進む。
ステップST47では、第1表示要素De1のうちの閉領域Ac1に含まれる部分が削除される。例えば、図22および図26で示されるように、第1表示要素De1(De1b)のうちの第2表示要素De2の閉領域Ac1に含まれる部分が削除される。これにより、第1表示要素De1(De1b)が第1細胞領域に係る表示要素De11に変更される。さらに、このとき、例えば、表示要素De11と第2表示要素De2との間に間隙部SL1が設けられる。その結果、領域特定画像が、表示要素De11と第2表示要素De2とが接することなく、表示要素De11と第2表示要素De2とが認識可能な画像となり得る。また、例えば、図25および図27で示されるように、第1表示要素De1(De1a)のうちの表示要素De3の閉領域Ac1に含まれる部分が削除される。これにより、第1表示要素De1(De1a)が第1細胞領域に係る表示要素De11に変更される。さらに、このとき、例えば、表示要素De11と表示要素De3との間に間隙部SL1が設けられる。その結果、領域特定画像が、表示要素De11と表示要素De3とが接することなく、表示要素De11と表示要素De3とが容易に認識可能な画像となり得る。
ステップST48では、閉領域Ac1を形成している閉曲線のうちの第1表示要素De1に含まれる部分が削除される。例えば、図22および図28で示されるように、閉領域Ac1を形成している第2表示要素De2としての閉曲線のうち、第1表示要素De1(De1b)に含まれる部分が削除される。このとき、第2表示要素De2としての閉曲線のうちの削除された部分の両端を結ぶように、第1表示要素De1(De1b)の外縁に沿った曲線が描かれることで、閉曲線によって閉領域Ac1が形成されている状態が維持される。さらに、このとき、例えば、第1表示要素De1(De1b)と第2表示要素De2との間に間隙部SL1が設けられる。また、例えば、図25および図29で示されるように、閉領域Ac1を形成している表示要素De3としての閉曲線のうち、第1表示要素De1(De1a)に含まれる部分が削除される。このとき、表示要素De3としての閉曲線のうちの削除された部分の両端を結ぶように、第1表示要素De1(De1a)の外縁に沿った曲線が描かれることで、閉曲線によって閉領域Ac1が形成されている状態が維持される。さらに、このとき、例えば、第1表示要素De1(De1a)と表示要素De3との間に間隙部SL1が設けられる。
ステップST49では、閉領域Ac1を特定する表示要素が追加される。ここでは、閉領域Ac1を特定する閉曲線で囲まれる領域に、例えば、所定色または所定のハッチングが付される。このとき、閉曲線の太さが適宜調整され得る。具体的には、例えば、図26で示される第2表示要素De2および閉領域Ac1が、図30で示されるように、所定色または所定のハッチングが付された表示要素De21に変更される。これにより、領域特定画像に第2細胞領域に係る表示要素De21が追加される。また、例えば、図27で示される表示要素De3および閉領域Ac1が、図31で示されるように、所定色または所定のハッチングが付された表示要素De31に変更される。これにより、領域特定画像に拡大された第1細胞領域に係る表示要素De31が追加される。また、例えば、図28で示される第2表示要素De2および閉領域Ac1が、図32で示されるように、所定色または所定のハッチングが付された表示要素De21に変更される。これにより、領域特定画像に第2細胞領域に係る表示要素De21が追加される。また、例えば、図29で示される表示要素De3および閉領域Ac1が、図33で示されるように、所定色または所定のハッチングが付された表示要素De31に変更される。これにより、領域特定画像に拡大された第1細胞領域に係る表示要素De31が追加される。
ステップST4では、制御部21によって、領域特定画像の作成が完了されたか否かが判定される。ここでは、例えば、ユーザーの動作に応じて入力部22から入力される信号に応じて、領域特定画像の作成が完了されたか否かが判定される。そして、領域特定画像の作成が完了されていなければ、ステップST2に戻り、領域特定画像の作成が完了されていれば、本動作フローが終了される。
<(1−6)まとめ>
以上のように、本実施形態に係る画像処理装置2の画像処理では、まず、取得部211によって、細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像が取得される。次に、追加部213によって、ユーザーの動作に応答して入力される予め設定された所定の信号に応じて、細胞形態画像において第1細胞領域とは異なる特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素が領域特定画像に追加される。そして、デフォルトの設定では、修正部214によって、第1細胞領域の第2細胞領域と重なる重畳領域について、第2細胞領域を特定する表示要素ではなく、第1細胞領域を特定する表示要素が表示部23に表示されるように、領域特定画像が修正される。これにより、細胞形態画像において細胞の特定部位が占める細胞領域を表示要素によって特定する領域特定画像に、ユーザーが細胞領域を特定する表示要素を追加することができる。その結果、細胞形態画像から全ての細胞領域がより容易且つ正確に抽出され得る。
また、例えば、ユーザーの動作に応じて、修正部214によって、表示要素の置換、拡大、ならびに優先的な表示および削除等と言った複数の処理の間で、実施される処理が適宜選択され得る。
<(2)変形例>
なお、本発明は上述の一実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更、改良等が可能である。
<(2−1)第1変形例>
例えば、上記一実施形態では、修正部214によって、第1細胞領域の第2細胞領域と重なる重畳領域のうち、第1細胞領域を特定する表示要素が表示される領域については、第2細胞領域を特定する表示要素が削除され、第2細胞領域を特定する表示要素が表示される領域については、第1細胞領域を特定する表示要素が削除された。しかしながら、これに限られない。例えば、修正部214によって、第1細胞領域を特定する表示要素が基本レイヤーを構成し、重畳領域のうち、第1細胞領域を特定する表示要素が表示される領域については、第2細胞領域を特定する表示要素が背面レイヤーを構成するように、領域特定画像が修正されても良い。さらに、例えば、重畳領域のうち、第2細胞領域を特定する表示要素が表示される領域については、第2細胞領域を特定する表示要素が前面レイヤーを構成するように、領域特定画像が修正されても良い。ここで、背面レイヤーは、基本レイヤーの背後に位置するように表示されるレイヤーであり、前面レイヤーは、基本レイヤーの手前に位置するように表示されるレイヤーである。このような構成によれば、領域特定画像において、細胞領域の前後関係が良好に描かれるとともに、必要に応じて、ある細胞領域の背後に隠れた他の細胞領域の情報を容易に得ることも出来る。
また、領域特定画像が、複数のレイヤーによって構成される場合、基本レイヤーを構成する第1細胞領域を特定する表示要素と、背面レイヤーおよび前面レイヤーの少なくとも一方のレイヤーを構成する第2細胞領域を特定する表示要素との間で、表示部23における表示態様が異なるように、領域特定画像が修正されても良い。ここで、異なる表示態様としては、例えば、明暗、濃淡および色彩の少なくとも1つが異なる表示態様等が挙げられる。このような構成によれば、隣接する細胞領域を特定する複数の表示要素の区別が容易となる。そして、このような構成が採用される場合であっても、領域特定画像のうちの第1細胞領域を特定する表示要素と、第2細胞領域を特定する表示要素との間に間隙部SL1が設けられれば、表示要素と表示要素との境界が視認可能な態様で表示され得る。
ここで、領域特定画像が複数のレイヤーで構成される構成の具体例を挙げて説明する。
図34は、第1変形例に係る領域特定画像の修正に係る動作フローを示すフローチャートである。本変形例に係る画像処理装置2の動作フローは、上記一実施形態に係る動作フローがベースとされて、図12で示される動作フローが、図34で示される動作フローに置換されたものである。なお、図34で示される動作フローは、図12で示される動作フローのうちのステップST47〜ST49が、ステップST47A〜ST49Aに変更されたものである。このため、ここでは、ステップST47A〜ST49Aについて説明する。
図34のステップST47Aでは、第2細胞領域を特定する表示要素が前面レイヤーに追加される。ここでは、例えば、前面レイヤーが生成されていなければ、前面レイヤーが生成されて、該前面レイヤーに第2細胞領域を特定する表示要素が追加され、既に前面レイヤーが生成されていれば、該前面レイヤーに第2細胞領域を特定する表示要素が追加されれば良い。例えば、図35および図36で示されるように、第1表示要素De1が描かれた基本レイヤーの手前の前面レイヤーに、第2表示要素De2で指定されていた第2細胞領域を特定する表示要素De21が追加される。このとき、例えば、第1表示要素De1と表示要素De21との間に間隙部SL1が表示されるとともに、基本レイヤーに描かれた表示要素De1と、前面レイヤーに描かれた表示要素De21とが、異なる態様で表示される。例えば、図36で示されるように、より背面側のレイヤーに描かれた表示要素の方が、相対的に濃くまたは相対的に暗く描かれる態様が考えられる。
また、ステップST48Aでは、第2細胞領域を特定する表示要素が背面レイヤーに追加される。ここでは、例えば、背面レイヤーが生成されていなければ、背面レイヤーが生成されて、該背面レイヤーに第2細胞領域を特定する表示要素が追加され、既に、背面レイヤーが生成されていれば、該背面レイヤーに第2細胞領域を特定する表示要素が追加されれば良い。例えば、図35および図37で示されるように、第1表示要素De1が描かれた基本レイヤーの背後の背面レイヤーに、第2表示要素De2で指定されていた第2細胞領域を特定する表示要素De21が追加される。このとき、例えば、第1表示要素De1と表示要素De21との間に間隙部SL1が表示されるとともに、基本レイヤーに描かれた表示要素De1と、背面レイヤーに描かれた表示要素De21とが、異なる態様で表示される。例えば、図37で示されるように、より背面側のレイヤーに描かれた表示要素の方が、相対的に濃くまたは相対的に暗く描かれる態様が考えられる。
<(2−2)その他の変形例>
上記一実施形態では、追加部213によって第2細胞領域の輪郭を特定する曲線部が第2表示要素De2として領域特定画像に追加されたが、これに限られない。例えば、中抜きの曲線部ではなく、第2細胞領域の全体に対応する一塊の領域が、第2細胞領域を特定する第2表示要素として領域特定画像に追加されても良い。このとき、一塊の第2表示要素の輪郭部分が、第2細胞領域の輪郭を特定する曲線部に相当する。
また、上記一実施形態では、画像処理装置2に表示部23が含まれていたが、これに限られない。例えば、表示部23は、画像処理装置2に対してデータ送受信可能に接続される外部の表示装置であっても良い。
また、上記一実施形態では、修正の態様について特にユーザーによる指定がなければ、重畳領域について、第2細胞領域を特定する表示要素ではなく、第1細胞領域を特定する表示要素が表示されるように、領域特定画像が修正部214によって修正された。しかしながら、これに限られない。例えば、重畳領域の一部については、第2細胞領域を特定する表示要素が表示されるように、領域特定画像が修正部214によって領域特定画像が修正されても良い。つまり、例えば、重畳領域の少なくとも一部の領域について、第1細胞領域を特定する表示要素が表示制御部212によって表示部23に表示されるように、領域特定画像が修正部214によって修正されても良い。このとき、例えば、修正部214が、重畳領域のうちの第2細胞領域を特定する表示要素が表示制御部212によって表示部23に表示される領域については、第1細胞領域を特定する表示要素を削除する。このような構成によっても、ユーザーが第2細胞領域を特定する表示要素De21を領域特定画像に容易に追加することができる。その結果、細胞形態画像から全ての細胞領域が容易且つ正確に抽出され得る。
また、上記一実施形態では、重畳領域について、第1細胞領域を特定する表示要素よりも第2細胞領域を特定する表示要素の方が優先的に表示される修正の態様が指定されていれば、重畳領域の全域について、第2細胞領域を特定する表示要素が表示されるように、領域特定画像が修正部214によって修正された。しかしながら、これに限られない。例えば、重畳領域の一部については、第1細胞領域を特定する表示要素が表示されるように、領域特定画像が修正部214によって修正されても良い。つまり、例えば、重畳領域の少なくとも一部の領域について、第2細胞領域を特定する表示要素が表示制御部212によって表示部23に表示されるように、領域特定画像が修正部214によって修正されても良い。このとき、例えば、修正部214が、重畳領域のうちの第2細胞領域を特定する表示要素が表示制御部212によって表示部23に表示される領域については、第1細胞領域を特定する表示要素を削除する。このような構成によっても、ユーザーが第2細胞領域を特定する表示要素De21を領域特定画像に容易に追加することができる。その結果、細胞形態画像から全ての細胞領域が容易且つ正確に抽出され得る。
また、上記一実施形態では、細胞形態画像が、特定部位としての細胞核の形態を捉えた画像であったが、これに限られない。例えば、特定部位には、細胞膜等の細胞を構成するその他の部位が含まれても良い。
また、上記一実施形態では、生体に、広義の意味での動物が含まれたが、これに限られない。例えば、生体に、動物以外の植物等が含まれても良い。すなわち、生体には、動植物を含む生物が含まれ得る。
また、上記一実施形態では、取得部211において、細胞形態画像を対象とした所定の画像処理が行われることで、領域特定画像が取得されたが、これに限られない。例えば、取得部211において、画像処理装置2とは異なる外部装置で生成された領域特定画像が通信I/F24等を介して取得されても良い。
なお、上記一実施形態および各種変形例をそれぞれ構成する全部または一部を、適宜、矛盾しない範囲で組み合わせ可能であることは、言うまでもない。
1 顕微鏡画像取得装置
2 画像処理装置
3 通信回線
21 制御部
22 入力部
23 表示部
24 通信I/F
25 記憶部
26 バス
100 病理診断支援システム
211 取得部
212 表示制御部
213 追加部
214 修正部
215 設定部
Ac1,Ac2 閉領域
De1 第1表示要素
De2 第2表示要素
De3,De11,De21,De31 表示要素
E1 一端
E2 他端
P1 プログラム
SL1 間隙部

Claims (13)

  1. 細胞の形態を捉えた細胞形態画像を表示部に表示させる表示制御部と、
    前記細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像を取得する取得部と、
    ユーザーの動作に応じた信号が入力される入力部と、
    前記入力部で入力される予め設定された所定の信号に応じて、前記細胞形態画像において前記第1細胞領域とは異なる前記特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素を前記領域特定画像に追加する追加部と、
    前記第1細胞領域の前記第2細胞領域と重なる重畳領域の少なくとも一部の領域について、前記第1細胞領域を特定する表示要素が前記表示制御部によって前記表示部に表示されるように、前記領域特定画像を修正する修正部と、
    を備える、画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記修正部が、
    前記重畳領域の全域にわたって、前記第1細胞領域を特定する表示要素が前記表示制御部によって前記表示部に表示されるように、前記領域特定画像を修正する、画像処理装置。
  3. 請求項1または請求項2に記載の画像処理装置であって、
    前記修正部が、
    前記入力部で入力される予め設定された特定の信号に応じて、前記重畳領域の少なくとも一部の領域について、前記第2細胞領域を特定する表示要素が前記表示制御部によって前記表示部に表示されるように、前記領域特定画像を修正する、画像処理装置。
  4. 請求項3に記載の画像処理装置であって、
    前記修正部が、
    前記入力部で入力される予め設定された前記特定の信号に応じて、前記重畳領域の全域にわたって、前記第2細胞領域を特定する表示要素が前記表示制御部によって前記表示部に表示されるように、前記領域特定画像を修正する、画像処理装置。
  5. 請求項1から請求項4の何れか1つの請求項に記載の画像処理装置であって、
    前記修正部が、
    前記重畳領域のうちの前記表示制御部によって前記表示部に前記第1細胞領域を特定する表示要素が表示される領域については、前記第2細胞領域を特定する表示要素を前記領域特定画像から削除し、前記重畳領域のうちの前記表示制御部によって前記表示部に前記第2細胞領域を特定する表示要素が表示される領域については、前記第1細胞領域を特定する表示要素を前記領域特定画像から削除する、画像処理装置。
  6. 請求項1から請求項5の何れか1つの請求項に記載の画像処理装置であって、
    前記修正部が、
    前記領域特定画像のうちの前記第1細胞領域を特定する表示要素と前記第2細胞領域を特定する表示要素との間に間隙部を設ける、画像処理装置。
  7. 請求項6に記載の画像処理装置であって、
    前記入力部で入力される信号に応じて、前記間隙部の幅を設定する設定部、
    をさらに備える、画像処理装置。
  8. 請求項1から請求項4の何れか1つの請求項に記載の画像処理装置であって、
    前記修正部が、
    前記第1細胞領域を特定する表示要素が基本レイヤーを構成し、前記重畳領域のうちの前記表示制御部によって前記表示部に前記第1細胞領域を特定する表示要素が表示される領域については、前記第2細胞領域を特定する表示要素が前記基本レイヤーの背後に位置する背面レイヤーを構成し、前記重畳領域のうちの前記表示制御部によって前記表示部で前記第2細胞領域を特定する表示要素が表示される領域については、前記第2細胞領域を特定する表示要素が前記基本レイヤーの手前に位置する前面レイヤーを構成するように、前記領域特定画像を修正する、画像処理装置。
  9. 請求項8に記載の画像処理装置であって、
    前記修正部が、
    前記基本レイヤーを構成する前記第1細胞領域を特定する表示要素と、前記背面レイヤーおよび前記前面レイヤーの少なくとも一方のレイヤーを構成する前記第2細胞領域を特定する表示要素との間で、前記表示部における表示態様が異なるように、前記領域特定画像を修正する、画像処理装置。
  10. 請求項1から請求項9の何れか1つの請求項に記載の画像処理装置であって、
    前記修正部が、
    前記入力部で入力される予め設定された既定の信号に応じて、前記表示制御部によって前記表示部において、前記領域特定画像のうちの前記第1細胞領域を特定する表示要素の代わりに、前記第2細胞領域を特定する表示要素が表示されるように、前記領域特定画像を修正する、画像処理装置。
  11. 請求項1から請求項10の何れか1つの請求項に記載の画像処理装置であって、
    前記第2表示要素が、
    前記第2細胞領域の輪郭を特定する曲線部を含み、
    前記修正部が、
    前記領域特定画像において前記曲線部の両端が前記第1細胞領域に対応する領域内に位置していることに応じて、前記第1表示要素を、前記第1細胞領域と前記第2細胞領域とを合わせた1つの領域を示す表示要素に変更する、画像処理装置。
  12. (a)取得部によって、細胞の形態を捉えた細胞形態画像において細胞の特定部位が占める第1細胞領域を第1表示要素によって特定する領域特定画像を取得するステップと、
    (b)追加部によって、ユーザーの動作に応答して入力される予め設定された所定の信号に応じて、前記細胞形態画像において前記第1細胞領域とは異なる前記特定部位が占める第2細胞領域の少なくとも輪郭部を特定する第2表示要素を前記領域特定画像に追加するステップと、
    (c)修正部によって、前記第1細胞領域の前記第2細胞領域と重なる重畳領域の少なくとも一部の領域について、前記第1細胞領域を特定する表示要素が表示部に表示されるように、前記領域特定画像を修正するステップと、
    を有する、画像処理方法。
  13. 情報処理装置に含まれる制御部において実行されることで、該情報処理装置を請求項1から請求項11の何れか1つの請求項に記載の画像処理装置として機能させる、画像処理用のプログラム。
JP2017520626A 2015-05-22 2016-05-13 画像処理装置、画像処理方法、および画像処理用のプログラム Active JP6696503B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015104085 2015-05-22
JP2015104085 2015-05-22
PCT/JP2016/064252 WO2016190129A1 (ja) 2015-05-22 2016-05-13 画像処理装置、画像処理方法、および画像処理用のプログラム

Publications (2)

Publication Number Publication Date
JPWO2016190129A1 true JPWO2016190129A1 (ja) 2018-03-08
JP6696503B2 JP6696503B2 (ja) 2020-05-20

Family

ID=57392725

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017520626A Active JP6696503B2 (ja) 2015-05-22 2016-05-13 画像処理装置、画像処理方法、および画像処理用のプログラム

Country Status (4)

Country Link
US (1) US10591402B2 (ja)
EP (1) EP3299811B1 (ja)
JP (1) JP6696503B2 (ja)
WO (1) WO2016190129A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11398032B2 (en) * 2016-07-14 2022-07-26 Dai Nippon Printing Co., Ltd. Image analysis system, culture management system, image analysis method, culture management method, cell group structure method, and program
JP7014782B2 (ja) 2017-05-01 2022-02-01 株式会社Preferred Networks 自動着色方法、自動着色システム及び自動着色装置
JP7252701B2 (ja) 2017-05-23 2023-04-05 株式会社Preferred Networks システム、プログラム、および方法
JP7181000B2 (ja) * 2018-05-24 2022-11-30 日本電子株式会社 生物組織画像処理装置及び方法
CN111339459A (zh) * 2018-12-18 2020-06-26 北京京东尚科信息技术有限公司 一种信息处理方法、服务器、终端及计算机存储介质
CN111583237B (zh) * 2020-05-09 2023-05-23 中南大学 蜂窝规整度检测的邻域窗口递推胞元重构方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6217659A (ja) * 1985-07-16 1987-01-26 Konan Camera Kenkyusho:Kk 角膜細胞の検査装置
JP3314759B2 (ja) * 1999-05-11 2002-08-12 日本電気株式会社 細胞形状抽出装置及び細胞形状抽出方法
US20050058330A1 (en) * 2003-09-16 2005-03-17 Sysmex Corporation Method of displaying smear image and retrieving method employing the same, surveillance method, system of displaying smear image, program for displaying smear image and recording medium recording the program
JP4500138B2 (ja) * 2004-09-07 2010-07-14 オリンパス株式会社 細胞画像解析方法
US7689038B2 (en) 2005-01-10 2010-03-30 Cytyc Corporation Method for improved image segmentation
US7466872B2 (en) * 2005-06-20 2008-12-16 Drvision Technologies Llc Object based boundary refinement method
JP4801025B2 (ja) 2007-09-07 2011-10-26 オリンパス株式会社 細胞画像解析装置及び細胞画像解析ソフトウェア
JPWO2011013319A1 (ja) * 2009-07-31 2013-01-07 株式会社ニコン 細胞塊の成熟判定手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
WO2011016189A1 (ja) * 2009-08-07 2011-02-10 株式会社ニコン 細胞の分類手法、この手法を用いた画像処理プログラム及び画像処理装置、並びに細胞塊の製造方法
JP5490568B2 (ja) * 2010-02-26 2014-05-14 オリンパス株式会社 顕微鏡システム、標本観察方法およびプログラム
US20140307930A1 (en) 2013-04-15 2014-10-16 Drvision Technologies Llc Teachable object contour mapping for biology image region partition
US10509023B2 (en) * 2014-12-09 2019-12-17 Konica Minolta, Inc. Image processing apparatus and computer readable medium for image processing
US10451554B2 (en) * 2015-02-23 2019-10-22 Konica Minolta, Inc. Image processing device, image processing method, and recording medium storing computer readable image processing program

Also Published As

Publication number Publication date
JP6696503B2 (ja) 2020-05-20
EP3299811B1 (en) 2020-04-15
WO2016190129A1 (ja) 2016-12-01
EP3299811A4 (en) 2018-05-23
US20180128734A1 (en) 2018-05-10
EP3299811A1 (en) 2018-03-28
US10591402B2 (en) 2020-03-17

Similar Documents

Publication Publication Date Title
WO2016190129A1 (ja) 画像処理装置、画像処理方法、および画像処理用のプログラム
JP5822425B2 (ja) 顕微鏡像用に試料を染色する方法
JP5490568B2 (ja) 顕微鏡システム、標本観察方法およびプログラム
JP6791245B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP6053327B2 (ja) 顕微鏡システム、標本画像生成方法及びプログラム
JP5442542B2 (ja) 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体
EP2463379A1 (en) Technique for determining maturity of cell mass, and image processing program and image processing device which use the technique, and method for producing cell mass
WO2017150194A1 (ja) 画像処理装置、画像処理方法及びプログラム
JP2009175334A (ja) 顕微鏡システム、画像生成方法、及びプログラム
JP2019148473A (ja) 画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム
JP5407015B2 (ja) 画像処理装置、画像処理方法、コンピュータ実行可能な画像処理プログラム、及び顕微鏡システム
EP2871512B1 (en) Information processing device, information processing method, program, and microscope system
JP2006208339A (ja) 領域抽出装置、顕微鏡システムおよび領域抽出プログラム
JP7156361B2 (ja) 画像処理方法、画像処理装置及びプログラム
WO2014196097A1 (ja) 画像処理システム、画像処理装置、プログラム、記憶媒体及び画像処理方法
JP2014063019A (ja) 撮影解析装置、その制御方法及び撮影解析装置用のプログラム
JP6729569B2 (ja) 画像処理装置、画像処理方法、および画像処理用のプログラム
JPWO2017217268A1 (ja) 画像処理装置、画像処理方法及びプログラム
JP2014063043A (ja) 撮影解析装置、その制御方法及び撮影解析装置用のプログラム
US20200074628A1 (en) Image processing apparatus, imaging system, image processing method and computer readable recoding medium
US20220344124A1 (en) Charged Particle Beam Device
WO2013161155A1 (ja) 画像計測装置、画像計測方法、および、画像計測用プログラム
JP2009294463A (ja) 顕微鏡システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190611

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190729

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200324

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200406

R150 Certificate of patent or registration of utility model

Ref document number: 6696503

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150