JP6837376B2 - 画像処理装置および方法並びにプログラム - Google Patents

画像処理装置および方法並びにプログラム Download PDF

Info

Publication number
JP6837376B2
JP6837376B2 JP2017077256A JP2017077256A JP6837376B2 JP 6837376 B2 JP6837376 B2 JP 6837376B2 JP 2017077256 A JP2017077256 A JP 2017077256A JP 2017077256 A JP2017077256 A JP 2017077256A JP 6837376 B2 JP6837376 B2 JP 6837376B2
Authority
JP
Japan
Prior art keywords
cross
sectional
image
pixel
classification process
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017077256A
Other languages
English (en)
Other versions
JP2018175217A (ja
JP2018175217A5 (ja
Inventor
剛幸 橋本
剛幸 橋本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2017077256A priority Critical patent/JP6837376B2/ja
Priority to US15/946,141 priority patent/US10628941B2/en
Priority to DE102018108310.6A priority patent/DE102018108310A1/de
Publication of JP2018175217A publication Critical patent/JP2018175217A/ja
Publication of JP2018175217A5 publication Critical patent/JP2018175217A5/ja
Application granted granted Critical
Publication of JP6837376B2 publication Critical patent/JP6837376B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133Distances to prototypes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/30ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/46Arrangements for interfacing with the operator or the patient
    • A61B6/461Displaying means of special interest
    • A61B6/463Displaying means of special interest characterised by displaying multiple images or images and diagnostic data on one display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/031Recognition of patterns in medical or anatomical images of internal organs

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Multimedia (AREA)
  • Pathology (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Biophysics (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Optics & Photonics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Physiology (AREA)
  • Evolutionary Biology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Image Analysis (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Description

本発明は、断面画像に含まれる組織または病変の種類を分類する画像処理装置および方法並びにプログラムに関するものである。
近年、CT(Computed Tomography)装置およびMRI(Magnetic Resonance Imaging)装置等の医療機器の進歩により、より質の高い高解像度の3次元画像が画像診断に用いられるようになってきている。
ところで、肺の疾患として間質性肺炎が知られている。間質性肺炎の患者の断面画像を解析することにより、断面画像に含まれる蜂窩肺、網状影および嚢胞等の特定の症状を呈する病変を分類して定量化する手法が提案されている。このように断面画像を解析して病変を分類して定量化することにより、肺の疾患の程度を容易に判定することができる。また、このように分類して定量化した領域にそれぞれ異なる色を割り当てることにより、特定の症状の領域がどの程度画像内に含まれているかを、容易に診断できることとなる。
特開2015−80720号公報
しかしながら、従来の手法では、2次元の断面画像に対して分類を行っているため、2次元の断面画像の奥行方向に関して不連続な領域として分類される場合があり、解剖学上適切な分類ではない。
特許文献1においては、病変が良性か悪性かを判断するために、3次元画像から複数の2次元画像を作成し、それぞれにおいて病変を評価して決定する方法が提案されている。しかしながら、特許文献1では、2次元画像に含まれる病変が良性か悪性かを分類しているだけであり、病変の領域を適切に分類する方法については何も提案されていない。
本発明は、上記事情に鑑み、断面画像を用いて断面画像に含まれる組織または病変を分類する場合において、組織または病変の領域を高精度に分類することができる画像処理装置および方法並びにプログラムを提供することを目的とするものである。
本発明の画像処理装置は、被検体の複数の異なる断面方向の断面画像を取得する断面画像取得部と、複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行う一次分類部と、複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定する二次分類処理を行う二次分類部と、組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正する補正部とを備える。
また、上記本発明の画像処理装置において、補正部は、特定の断面方向の断面画像を用いて、各画素の二次分類処理の結果を補正することができる。
また、上記本発明の画像処理装置において、上記特定の断面方向は、被検体の撮影におけるスライス方向とすることが好ましい。
また、上記本発明の画像処理装置において、上記特定の断面方向の断面画像は、複数の断面方向の断面画像のうち最も解像度が高い断面画像とすることが好ましい。
また、上記本発明の画像処理装置において、補正部は、特定の断面方向の断面画像の各画素の信号値に基づいて、二次分類処理の結果を補正することができる。
また、上記本発明の画像処理装置において、補正部は、組織または病変の形状または位置の解剖学上の特徴に基づいて、二次分類処理の結果を補正することができる。
また、上記本発明の画像処理装置において、補正部は、二次分類処理によって分類された各画素によって特定される組織または病変の辺縁または重心位置の3次元空間上の連続性に異常がある場合に、各画素の二次分類処理の結果を補正することができる。
また、上記本発明の画像処理装置において、二次分類部は、二次分類処理を行う際、各断面画像のそれぞれの解像度に応じた重み付けを各断面画像の一次分類処理の結果に付加して評価することができる。
また、上記本発明の画像処理装置において、一次分類部は、機械学習によって生成された判別器を用いて一次分類処理を行うことができる。
本発明の画像処理方法は、被検体の複数の異なる断面方向の断面画像を取得し、複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行い、複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定する二次分類処理を行い、組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正する。
本発明の画像処理プログラムは、コンピュータを、被検体の複数の異なる断面方向の断面画像を取得する断面画像取得部と、複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行う一次分類部と、複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定する二次分類処理を行う二次分類部と、組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正する補正部として機能させる。
本発明の他の画像処理装置は、コンピュータに実行させるための命令を記憶するメモリと、記憶された命令を実行するよう構成されたプロセッサであって、被検体の複数の異なる断面方向の断面画像を取得する処理と、複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理と、複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定する二次分類処理、組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正する処理とを実行するプロセッサを備える。
本発明の画像処理装置および方法並びにプログラムによれば、被検体の複数の異なる断面方向の断面画像を取得し、その複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行う。次いで、複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定する二次分類処理を行う。このように二次分類処理を行うことによって、断面画像の奥行方向も考慮した分類結果を得ることができる。
そして、本発明の画像処理装置および方法並びにプログラムでは、さらに組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正するようにしたので、より解剖学上の構造に沿った分類結果とすることができ、組織または病変の領域を高精度に分類することができる。
本発明の画像処理装置の一実施形態を用いた医用画像診断支援システムの概略構成を示すブロック図 複数の異なる断面方向の断面画像の一例を示す図 多層ニューラルネットワークの一例を示す図 二次分類処理を説明するための図 嚢胞が誤分類された例を示す図 嚢胞が誤分類されたその他の例を示す図 嚢胞と分類された各領域の重心位置の連続性を説明するための図 マッピング画像の一例を示す図 本発明の画像処理装置の一実施形態を用いた医用画像診断支援システムの作用を説明するためのフローチャート
以下、本発明の画像処理装置および方法並びにプログラムの一実施形態を用いた医用画像診断支援システムについて、図面を参照しながら詳細に説明する。図1は、本実施形態の医用画像診断支援システムの概略構成を示すブロック図である。
本実施形態の医用画像診断支援システムは、図1に示すように、画像処理装置10と、表示装置20と、入力装置30と、3次元画像保管サーバ40とを備えている。
画像処理装置10は、コンピュータに本実施形態の画像処理プログラムをインストールすることによって構成されたものである。画像処理プログラムは、DVD(Digital Versatile Disc)あるいはCD−ROM(Compact Disk Read Only Memory)等の記録媒体に記録されて配布され、その記録媒体からコンピュータにインストールされる。または、ネットワークに接続されたサーバコンピュータの記憶装置、もしくはネットワークストレージに、外部からアクセス可能な状態で記憶され、要求に応じて医師が使用するコンピュータにダウンロードされ、インストールされる。
画像処理装置10は、CPU(Central Processing Unit)および半導体メモリ、並びにハードディスクおよびSSD(Solid State Drive)等のストレージデバイスなどを備えており、これらのハードウェアによって、図1に示すような断面画像取得部11、一次分類部12、二次分類部13、補正部14および表示制御部15が構成されている。そして、ストレージデバイスにインストールされた画像処理プログラムがCPUによって実行されることによって上記各部がそれぞれ動作する。なお、画像処理装置10は、汎用CPUに限らず、特定用途のASIC(application specific integrated circuit)またはFPGA(field-programmable gate array)などを用いて構成するようにしてもよい。
断面画像取得部11は、手術前または検査前などに予め撮影された被検体の断面画像を取得するものである。断面画像としては、たとえばCT装置およびMRI(Magnetic Resonance Imaging)装置などから出力されたスライスデータ、並びにMS(Multi Slice)CT装置およびコーンビームCT装置から出力されたスライスデータなどがある。断面画像は、3次元画像保管サーバ40に被検体の識別情報とともに予め保管されており、断面画像取得部11は、入力装置30において入力された被検体の識別情報に対応する断面画像を3次元画像保管サーバ40から読み出して取得するものである。
また、断面画像取得部11は、被検体の複数の異なる断面方向の断面画像を取得するものである。断面方向としては、アキシャル、サジタル、コロナルなどがある。断面画像取得部11は、少なくとも3以上の断面画像を取得することが好ましい。断面画像取得部11は、たとえば図2A〜図2Cに示すように互いに異なる3つの断面方向の各断面方向について、それぞれ複数の断面画像を取得するものである。
なお、断面画像取得部11は、被検体の複数の異なる断面方向の断面画像が3次元画像保管サーバ40に予め保存されている場合には、その複数の断面画像を取得するが、被検体のボリュームデータが3次元画像保管サーバ40に保存されている場合には、そのボリュームデータを読み出し、ボリュームデータから複数の異なる断面方向の断面画像を生成して取得するようにしてもよい。
一次分類部12は、断面画像取得部11によって取得された複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行うものである。本実施形態においては、断面画像取得部11によって肺領域を含む複数の断面画像を取得し、その各断面画像の各画素が属する組織または病変の種類を特定する。なお、以下、複数の断面画像のうち、アキシャル方向の1の断面画像に対する一次分類処理についてのみ説明するが、他の断面方向の断面画像についても同様にして一次分類処理が施されるものとする。
本実施形態の一次分類部12は、機械学習であるディープラーニング(深層学習)によって生成された多層ニューラルネットワークからなる判別器を有し、この判別器を用いて、各断面画像の各画素が属する組織または病変の種類を特定する。
多層ニューラルネットワークでは、各層において、前段の階層により得られる異なる複数の特徴量のデータに対して各種カーネルを用いて演算処理を行う。そして、この演算処理によって得られる特徴量のデータに対して次段以降の層においてさらなる演算処理を行うことにより、特徴量の認識率を向上させ、入力されたデータを複数のクラスに分類することができる。
図3は多層ニューラルネットワークの一例を示す図である。図3に示すように多層ニューラルネットワーク50は、入力層51および出力層52を含む複数の階層からなる。本実施形態においては、断面画像に含まれる肺領域を、すりガラス影、正常影、気管支、蜂窩肺、網状影、コンソリデーション、低吸収域および嚢胞に分類するように学習がなされている。
本実施形態においては、これら8種類について、数百万という多数の教師データを用いて、多層ニューラルネットワーク50に学習させる。学習の際には、組織または病変の種類が既知の断面画像から、予め定められたサイズ(例えば1.5cm×1.5cm)の関心領域を切り出し、その関心領域を教師データとして用いる。そして、多層ニューラルネットワーク50に教師データを入力して、組織または病変の種類の分類結果を出力させる。次いで、出力された結果を教師データと比較し、正解か不正解かに応じて、出力側から入力側に向かって、多層ニューラルネットワーク50の各層に含まれるユニット(図3に丸印で示す)の各階層間における結合の重みを修正する。結合の重みの修正を、多数の教師データを用いて、予め定められた回数、または出力される分類結果の正解率が100%になるまで繰り返し行い、学習を終了する。
そして、一次分類部12は、上述した多層ニューラルネットワーク50からなる判別器を用いて一次分類処理を行う際には、分類対象の断面画像から教師データと同じ大きさの関心領域を順次切り出し、その関心領域を多層ニューラルネットワーク50からなる判別器に入力する。これにより、切り出した関心領域の中心画素について、8種類の各分類に対応する評価値が出力される。なお、この各分類に対応する評価値は、中心画素が、各分類に属する可能性を示す評価値であり、この評価値が大きいほど、その分類に属する可能性が高いことを意味する。そして、判別器は、関心領域の中心画素を、8種類の組織または病変のうち、最も評価値が大きい組織または病変に分類する。これにより、断面画像に含まれる肺領域の全画素が8種類の組織または病変のいずれに分類される。
一次分類部12は、上述したようにアキシャル方向の断面画像以外のその他の断面方向の断面画像についても、上記と同様の一次分類処理を行い、各断面画像の各画素が8種類の組織または病変のいずれかに分類される。
次に、二次分類部13について説明する。二次分類部13は、一次分類部12で用いられた複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定するものである。
具体的には、図4に示すように、3の断面画像S1,S2,S3に共通する画素Pについて、断面画像S1,S2,S3の一次分類処理結果がそれぞれ取得され、その3つの一次分類処理結果が評価されて、画素Pが属する組織または病変の種類が特定される。
3つの一次分類処理結果の評価方法としては、たとえば3つの一次分類処理の結果のうち、同じ結果が2以上含まれる場合には、その結果を画素Pの最終的な分類として特定するようにすればよい。すなわち、最も数が多い一次分類処理の結果を、画素Pの最終的な分類として特定するようすればよい。
また、たとえば一次分類処理結果として、8種類の各分類に対応する評価値を取得するようにしてもよい。この場合、二次分類処理においては、各断面画像S1,S2,S3のそれぞれについて、画素Pの8種類の各分類に対応する評価値を取得し、その24(断面画像の数(3)×分類の数(8))の評価値のうち、最も大きい評価値に対応する分類を画素Pの最終的な分類として特定するようにしてもよい。また、上述した24の評価値について、分類毎に平均値を算出し、最も大きい平均値に対応する分類を画素Pの最終的な分類として特定するようにしてもよい。
また、上述したように各分類に対応する評価値を用いて二次分類処理を行う場合、各評価値に対して、各断面画像のそれぞれの解像度に応じた重み付けを付加して評価するようにしてもよい。具体的には、たとえば図5に示す断面画像S1の解像度R1と断面画像S2の解像度R2と断面画像S3の解像度R3との関係が、R1>R2>R3であるとする。この場合、断面画像S1の画素Pの各分類に対応する評価値に付加する重み付け係数C1、断面画像S2の画素Pの各分類に対応する評価値に付加する重み付け係数C2、および断面画像S3の画素Pの各分類に対応する評価値に付加する重み付け係数C3は、C1>C2>C3とすることが望ましい。このようにして重み付けを付加することによって、分類精度を向上させることができる。
また、上述したように画素Pの各分類に対応する評価値を用いて二次分類処理を行う場合、画素Pの断面画像内における位置に応じて各分類に対応する評価値に対して重み付けを付加するようにしてもよい。具体的には、たとえば嚢胞と胸水は、断面画像上において同じような輪郭形状で現れる場合があり、胸水に属する画素を嚢胞に属する画素と誤分類する可能性がある。そこで、画素Pが肺領域内に位置する場合には、その画素Pの嚢胞の評価値が大きくなるような重み付けを付加し、一方、画素Pが、肺領域以外の周辺領域である場合には、その画素Pの嚢胞の評価値が小さくなるような重み付けを付加するようにしてもよい。なお、断面画像内の肺領域については、しきい値処理によって抽出するようにしてもよいし、領域拡張法を用いて抽出するようにしてもよく、任意の手法を用いて抽出することができる。
また、蜂窩肺に属する画素は、一般的に高い信号値を有するが、気管支周辺の画素についても気管支壁が厚い場合に高い信号値となり、気管支周辺の画素が蜂窩肺に属する画素として誤分類される場合がある。そこで、画素Pが気管支周辺に位置する場合には、その画素Pの蜂窩肺の評価値が小さくなり、かつ気管支の評価値が大きくなるような重み付けを付加し、一方、画素Pが、気管支周辺でない場合には、その画素Pの蜂窩肺の評価値が大きくなり、かつ気管支の評価値が小さくなるような重み付けを付加するようにしてもよい。なお、気管支の領域については、別途公知な手法を用いて抽出することができ、たとえば気管支の内部の画素は空気領域に相当するため低い画素値となるが、気管支壁は比較的高い画素値となるので、画素値の分布に基づく形状の構造解析を行なって気管支を抽出するようにすればよい。たとえばヘッセ行列を用いた手法を用いることができる。
また、上記説明では、1つの画素Pの二次分類処理について説明したが、3次元空間上における全ての画素について、上記と同様にして一次分類処理の結果に基づいて2次分類処理が行われ、各画素の属する組織または病変の種類が特定される。
次に、補正部14について説明する。補正部14は、組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正するものである。
ここで、上述した二次分類部13によって各画素が属する組織または病変を特定したとしても、その分類結果が、解剖学上の構造に沿った結果とは異なる場合がある。
具体的には、たとえば嚢胞の輪郭は連続した滑らかな曲線となるが、二次分類処理の結果、嚢胞と分類された画素からなる領域の輪郭が、連続した滑らかな曲線とならない場合がある。たとえば図5に示すように、嚢胞と分類された画素からなる領域が、分断された2つの領域r1,r2となる場合がある。また、図6に示すように、嚢胞と分類された画素からなる領域r3の輪郭に突起ができたり、逆に凹みができたりして、嚢胞の領域の辺縁に異常がある場合がある。
そこで、本実施形態の補正部14は、解剖学上の構造に沿った結果となるように、二次分類処理の結果を補正するものである。具体的には、補正部14は、特定の断面方向の断面画像を用いて、各画素の二次分類処理の結果を補正する。特定の断面方向の断面画像としては、より高精度に組織または病変を抽出可能な断面画像を用いることが好ましく、たとえば一次分類処理を行う際に用いた複数の断面画像のうち、最も解像度が高い断面方向の断面画像を用いることが好ましい。
具体的には、たとえば最も解像度が高い断面方向の断面画像の画素値を用いて、閾値処理またはフィルタ処理などを行うことによって嚢胞領域を抽出し、その輪郭を画像特徴量として取得する。そして、二次分類処理によって嚢胞と分類された画素からなる領域を上記輪郭にマッチングさせることによって補正を行う。これにより、図5に示す領域r2を嚢胞の領域から除外することができ、図6に示す領域r3の突起を無くすことができる。また、嚢胞に限らず、断面画像の画素値を用いて、閾値処理またはフィルタ処理などを行うことによって気管支領域を抽出し、その輪郭を画像特徴量として取得する。そして、二次分類処理によって気管支と分類された画素からなる領域を上記輪郭にマッチングさせることによって補正を行うようにしてもよい。
なお、上記説明では、嚢胞領域または気管支領域を抽出するようにしたが、このように必ずしも、病変または組織を特定しなくてもよい。たとえば断面画像に含まれるエッジまたは形状を解析して断面画像をセグメンテーションし、二次分類処理によって特定の病変または組織と分類された画素からなる領域をセグメンテーションされた領域まで広げたり、または狭めたりしてもよい。
また、補正をする際、2次分類処理によって分類された領域に含まれる信号値を画像特徴量として用いるようにしてよい。具体的には、2次分類処理によって分類された領域に含まれる信号値の分布を解析し、高信号値の領域と低信号値の領域が存在した場合、判別分析法を用いてこれらの領域を分離することによって、上述した嚢胞または気管支などの組織を表す信号値の領域を決定して補正するようにしてもよい。たとえば断面画像がCT画像である場合、空気領域の信号値は−1024に近づくが、気管支壁および血管などの組織は0以上の値を示すので、2次分類処理によって分類された嚢胞領域の中に空気領域に近い信号値の領域と、血管などに近い高信号値が含まれていた場合には、分離された信号値群のうち低信号値群の領域を補正された嚢胞領域として決定する。
また、2次分類処理によって分類された嚢胞領域の信号値に対して、低吸収域の信号値である−950などの特定の閾値を用いて閾値処理を施すことによって補正するようにしてもよい。
また、2次分類処理によって分類された領域または上述した補正方法によって補正された領域を、その領域の外側に向けて1単位(1ボクセルまたは1ピクセル)ずつ膨らませていき、信号値の分布が近しい領域部分は拡張することによって補正するようにしてもよい。
たとえば嚢胞領域の場合、中央は空気領域で信号値が低いが辺縁は肺組織の区切りまたは線維化組織であるので、信号値が高くなる。したがって、1単位ずつ高信号値の領域に行き着くまで膨らませることによって補正するようにしてもよい。また、2次分類処理によって分類された嚢胞領域内で、エッジ(高信号値)の領域が検出されて領域が分断された場合には、それぞれの分断された領域の信号値の分布(分散および標準偏差など)を算出して比較することによって、肺野に近い領域を除外して補正するようにしてもよい。
また、上記説明では、画像特徴量を用いて補正を行うようにしたが、これに限らず、組織または病変の解剖学上の特徴を用いて補正を行うようにしてもよい。具体的には、上述したように嚢胞と胸水は、断面画像上において同じような輪郭形状で現れる場合があり、胸水の領域が嚢胞の領域と誤分類される可能性がある。そこで、嚢胞と分類された領域が、肺領域以外の周辺領域である場合には、その領域は胸水の領域であるとして削除するようにしてもよい。すなわち、嚢胞の解剖学上の位置の特徴に基づいて、補正を行うようにしてもよい。また、嚢胞と分類された領域が、図5に示すように分断された領域r1,r2である場合には、嚢胞の輪郭は連続した滑らかな曲線であるという解剖学上の形状の特徴に基づいて、領域r2を削除するようにしてもよい。また、嚢胞と分類された領域が、図6に示すように突起を有する領域である場合には、嚢胞の輪郭は連続した滑らかな曲線であるという解剖学上の形状の特徴に基づいて、突起の部分を削除するようにしてもよい。
また、上記説明では、補正をする際、一次分類処理を行う際に用いた複数の断面画像のうち、最も解像度が高い断面方向の断面画像を用いるようにしたが、これに限らず、たとえば被検体の撮影におけるスライス方向の断面画像を用いるようにしてもよい。撮影の際のスライス方向の断面画像とは、いわゆる原画像であって、たとえば撮影の際のスライス方向が、体軸に直交する方向である場合には、アキシャル方向の断面画像が、スライス方向の断面画像となる。スライス方向の断面画像は、最も解像度が高い画像であるので、分類精度をより向上させることができる。
また、補正部14は、図6に示すような嚢胞と分類された領域の突起もしくは凹みなどの辺縁の異常の検出処理を行い、辺縁の異常が検出された場合のみ上述した補正を行うようにしてもよい。また、二次分類処理が行われた断面画像S4,S5,S6を、図7に示すように3次元空間上に平行に配列した場合に、たとえば各断面画像S4,S5,S6内における嚢胞と分類された各領域r4,r5,r6の重心位置の連続性の異常を検出した場合に、各断面画像S4,S5,S6の嚢胞と分類された領域に対して上述した補正を行うようにしてもよい。重心位置の連続性の異常については、たとえば重心位置を結んだ線Lの直線性を評価し、直線性が予め設定された閾値以下である場合に、重心位置の連続性に異常があると認識するようにすればよい。
図1に戻り、表示制御部15は、補正部14によって補正された二次分類処理の結果に基づいて、各分類の領域に色を割り当てることによってマッピング画像を生成し、そのマッピング画像を表示装置20に表示させるものである。
具体的には、表示制御部15は、上述した8種類の組織または病変のうちのいずれかに分類された3次元空間上の全ての画素について、同一の分類とされた画素に対して同じ色を割り当てることによって3次元のマッピング画像を生成する。図8は、8種類の各分類に対して、その分類に応じた色が割り当てられたマッピング画像の一例を示す図である。なお、図8においては、3次元のマッピング画像における任意の断面の断面画像を示しているが、これに限らず、3次元のマッピング画像を表示装置20に表示させるようにしてもよい。
また、表示制御部15は、断面画像取得部11によって取得された複数の断面方向の断面画像、一次分類部12によって一次分類処理された断面画像、並びに二次分類部13によって二次分類処理された断面画像または3次元画像などを表示装置20に表示可能なものである。
表示装置20は、たとえば液晶ディスプレイなどを備えたものである。また、表示装置20をタッチパネルによって構成し、入力装置30と兼用するようにしてもよい。
入力装置30は、マウスやキーボードなどを備えたものであり、ユーザによる種々の設定入力を受け付けるものである。具体的には、たとえば患者の識別情報の設定入力などを受け付けるものである。
次に、本実施形態の医用画像診断支援システムの作用について、図9に示すフローチャートを参照しながら説明する。
まず、ユーザによる患者の識別情報などの設定入力に応じて、患者の複数の断面方向の断面画像が取得される(S10)。
複数の断面画像は一次分類部12に出力され、一次分類部12は、入力された各断面画像に対して一次分類処理を施すことによって、各断面画像の各画素が属する組織または病変の種類を特定する(S12)。
そして、一次分類部12による一次分類処理結果が二次分類部13に出力され、二次分類部13は、入力された一次分類処理結果に基づいて、二次分類処理を行う(S14)。具体的には、複数の断面方向の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、その画素が属する組織または病変の種類を再度特定する。
そして、二次分類部13による二次分類処理結果が補正部14に出力され、補正部14は、入力された一次分類処理結果に対して補正を施す(S16)。
そして、補正部14によって補正された二次分類処理結果は表示制御部15に出力され、表示制御部15は、各分類の領域に色を割り当てることによってマッピング画像を生成し、そのマッピング画像を表示装置20に表示させる(S18)。
上記実施形態の医用画像診断支援システムによれば、被検体の複数の異なる断面方向の断面画像を取得し、その複数の断面画像のそれぞれについて、各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行う。次いで、複数の断面画像に共通する画素について各断面画像の一次分類処理の結果を評価することによって、複数の断面画像に共通する画素が属する組織または病変の種類を再度特定する二次分類処理を行う。このように二次分類処理を行うことによって、断面画像の奥行方向も考慮した分類結果を得ることができる。
そして、さらに組織または病変の解剖学上の特徴または画像特徴量に基づいて、二次分類処理の結果を補正するようにしたので、より解剖学上の構造に沿った分類結果とすることができ、組織または病変の領域を高精度に分類することができる。
10 画像処理装置
11 断面画像取得部
12 一次分類部
13 二次分類部
14 補正部
15 表示制御部
20 表示装置
30 入力装置
40 3次元画像保管サーバ
50 多層ニューラルネットワーク
51 入力層
52 出力層
L 重心位置を結ぶ線
P 画素
r1,r2,r3,r4,r5,r6 嚢胞と分類された領域
S1,S2,S3,S4,S5,S6 断面画像

Claims (11)

  1. 複数の異なる断面方向のそれぞれの方向に対して、被検体の複数の断面画像を取得する断面画像取得部と、
    前記複数の異なる断面方向に対して取得した前記複数の断面画像のそれぞれについて、前記各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行う一次分類部と、
    前記各画素を通る前記複数の異なる断面方向の断面画像の各々に対して行われた前記一次分類処理の複数の結果を前記各画素ごとに評価することによって、前記複数の断面画像が通る各画素が属する組織または病変の種類を再度特定する二次分類処理を行う二次分類部と、
    前記組織または病変の解剖学上の特徴または画像特徴量に基づいて、前記二次分類処理が行われた各画素について前記二次分類処理の結果を補正する補正部とを備えた画像処理装置。
  2. 前記補正部が、前記各画素を通る前記複数の異なる断面方向の断面画像のうち特定の断面方向の断面画像を用いて、前記各画素の前記二次分類処理の結果を補正する請求項1記載の画像処理装置。
  3. 前記特定の断面方向が、前記被検体の撮影におけるスライス方向である請求項2に記載の画像処理装置。
  4. 前記特定の断面方向の断面画像が、前記複数の断面方向の断面画像のうち最も解像度が高い断面画像である請求項2または3に記載の画像処理装置。
  5. 前記補正部が、前記特定の断面方向の断面画像の各画素の信号値に基づいて、前記二次分類処理の結果を補正する請求項2から4いずれか1項記載の画像処理装置。
  6. 前記補正部が、前記組織または病変の形状または位置の解剖学上の特徴に基づいて、前記二次分類処理の結果を補正する請求項1記載の画像処理装置。
  7. 前記補正部が、前記二次分類処理によって分類された各画素によって特定される組織または病変の辺縁または重心位置の3次元空間上の連続性に異常がある場合に、前記各画素の前記二次分類処理の結果を補正する請求項1から6いずれか1項記載の画像処理装置。
  8. 前記二次分類部が、前記二次分類処理を行う際、前記各画素を通る前記複数の異なる断面方向の断面画像の各断面画像の解像度に応じた重み付けを前記各断面画像の一次分類処理の結果に付加して評価する請求項1から7いずれか1項記載の画像処理装置。
  9. 前記一次分類部が、機械学習によって各画素が属する前記組織または病変の種類を特定可能な判別器を用いて前記一次分類処理を行う請求項1から8いずれか1項記載の画像処理装置。
  10. 複数の異なる断面方向のそれぞれの方向に対して、被検体の複数の断面画像を取得し、
    前記複数の異なる断面方向に対して取得した前記複数の前記断面画像のそれぞれについて、前記各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行い、
    前記各画素を通る前記複数の異なる断面方向の断面画像の各々に対して行われた前記一次分類処理の複数の結果を前記各画素ごとに評価することによって、前記複数の断面画像が通る各画素が属する組織または病変の種類を再度特定する二次分類処理を行い、
    前記組織または病変の解剖学上の特徴または画像特徴量に基づいて、前記二次分類処理が行われた各画素について前記二次分類処理の結果を補正する画像処理方法。
  11. コンピュータを、
    複数の異なる断面方向のそれぞれの方向に対して、被検体の複数の断面画像を取得する断面画像取得部と、
    前記複数の異なる断面方向に対して取得した前記複数の前記断面画像のそれぞれについて、前記各断面画像の各画素が属する組織または病変の種類を特定する一次分類処理を行う一次分類部と、
    前記各画素を通る前記複数の異なる断面方向の断面画像の各々に対して行われた前記一次分類処理の複数の結果を前記各画素ごとに評価することによって、前記複数の断面画像が通る各画素が属する組織または病変の種類を再度特定する二次分類処理を行う二次分類部と、
    前記組織または病変の解剖学上の特徴または画像特徴量に基づいて、前記二次分類処理が行われた各画素について前記二次分類処理の結果を補正する補正部として機能させる画像処理プログラム。
JP2017077256A 2017-04-10 2017-04-10 画像処理装置および方法並びにプログラム Active JP6837376B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2017077256A JP6837376B2 (ja) 2017-04-10 2017-04-10 画像処理装置および方法並びにプログラム
US15/946,141 US10628941B2 (en) 2017-04-10 2018-04-05 Image processing apparatus, image processing method, and image processing program
DE102018108310.6A DE102018108310A1 (de) 2017-04-10 2018-04-09 Bildverarbeitungsvorrichtung, Bildverarbeitungsverfahren und Bildverarbeitungsprogramm

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017077256A JP6837376B2 (ja) 2017-04-10 2017-04-10 画像処理装置および方法並びにプログラム

Publications (3)

Publication Number Publication Date
JP2018175217A JP2018175217A (ja) 2018-11-15
JP2018175217A5 JP2018175217A5 (ja) 2019-10-03
JP6837376B2 true JP6837376B2 (ja) 2021-03-03

Family

ID=63587725

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017077256A Active JP6837376B2 (ja) 2017-04-10 2017-04-10 画像処理装置および方法並びにプログラム

Country Status (3)

Country Link
US (1) US10628941B2 (ja)
JP (1) JP6837376B2 (ja)
DE (1) DE102018108310A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107690659B (zh) * 2016-12-27 2021-08-10 达闼机器人有限公司 一种图像识别系统及图像识别方法
EP3646240A4 (en) 2017-06-26 2021-03-17 The Research Foundation for The State University of New York SYSTEM, PROCEDURE AND COMPUTER-ACCESSIBLE MEDIUM FOR VIRTUAL PANCREATOGRAPHY
JP6914233B2 (ja) * 2018-08-31 2021-08-04 富士フイルム株式会社 類似度決定装置、方法およびプログラム
WO2020110776A1 (ja) * 2018-11-28 2020-06-04 富士フイルム株式会社 分類装置、分類方法及びプログラム、分類結果表示装置
KR102198359B1 (ko) * 2019-01-23 2021-01-04 이언주 UBT에 적용할 딥러닝을 사용한 이미지 Auto Tagging 관리 시스템 및 방법
KR102199480B1 (ko) * 2019-01-31 2021-01-06 (주)엔에스데블 멀티 라벨 분류를 통한 의료 이미지 태깅 및 분류 시스템 및 방법
JPWO2022168400A1 (ja) * 2021-02-05 2022-08-11
JP2024077825A (ja) 2022-11-29 2024-06-10 富士通株式会社 病変検出方法および病変検出プログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5319549A (en) * 1992-11-25 1994-06-07 Arch Development Corporation Method and system for determining geometric pattern features of interstitial infiltrates in chest images
US7058210B2 (en) * 2001-11-20 2006-06-06 General Electric Company Method and system for lung disease detection
JP2004135867A (ja) * 2002-10-17 2004-05-13 Fuji Photo Film Co Ltd 異常陰影候補検出方法及び異常陰影候補検出装置
JP4599191B2 (ja) * 2005-03-01 2010-12-15 国立大学法人神戸大学 画像診断処理装置および画像診断処理プログラム
JP5390080B2 (ja) * 2007-07-25 2014-01-15 株式会社東芝 医用画像表示装置
JP5993653B2 (ja) * 2012-08-03 2016-09-14 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
KR102204437B1 (ko) 2013-10-24 2021-01-18 삼성전자주식회사 컴퓨터 보조 진단 방법 및 장치
US9700284B2 (en) * 2013-11-13 2017-07-11 Siemens Medical Solutions Usa, Inc. Three-dimensional ultrasound reconstruction with confidence information
JP6099592B2 (ja) * 2014-03-27 2017-03-22 富士フイルム株式会社 類似症例検索装置及び類似症例検索プログラム

Also Published As

Publication number Publication date
JP2018175217A (ja) 2018-11-15
US20180293729A1 (en) 2018-10-11
US10628941B2 (en) 2020-04-21
DE102018108310A1 (de) 2018-10-11

Similar Documents

Publication Publication Date Title
JP6837376B2 (ja) 画像処理装置および方法並びにプログラム
JP6955303B2 (ja) 医用画像処理装置および方法並びにプログラム
da Silva Sousa et al. Methodology for automatic detection of lung nodules in computerized tomography images
JP5081390B2 (ja) 腫瘍量を監視する方法及びシステム
El-Baz et al. Three-dimensional shape analysis using spherical harmonics for early assessment of detected lung nodules
JP6906347B2 (ja) 医用画像分類装置、方法およびプログラム
US9014456B2 (en) Computer aided diagnostic system incorporating appearance analysis for diagnosing malignant lung nodules
El-Baz et al. A novel level set-based computer-aided detection system for automatic detection of lung nodules in low dose chest computed tomography scans
US11357400B2 (en) Image processing method for glaucoma detection and computer program products thereof
EP2987114B1 (en) Method and system for determining a phenotype of a neoplasm in a human or animal body
CN112712493A (zh) 使用多参数磁共振成像减少恶性病变的假阳性检测
CN110838114B (zh) 肺结节检测方法、装置及计算机存储介质
JP2011526508A (ja) 医療用画像の領域分割
EP2208183B1 (en) Computer-aided detection (cad) of a disease
US11854190B2 (en) Similarity determination apparatus, similarity determination method, and similarity determination program
JP6987721B2 (ja) 画像処理装置、方法およびプログラム
EP3929936A1 (en) Automatic detection of covid-19 in chest ct images
Yoshiyasu et al. Radiomics technology for identifying early-stage lung adenocarcinomas suitable for sublobar resection
KR100998630B1 (ko) 폐질환 자동 분류 방법
NJSRF et al. Anaylsis and Detection of Community-acquired pneumonia using pspnet with complex Daubechies wavelets
WO2022225794A1 (en) Systems and methods for detecting and characterizing covid-19
Giv et al. Lung segmentation using active shape model to detect the disease from chest radiography
Benrabha et al. Automatic ROI detection and classification of the achilles tendon ultrasound images
US11574727B2 (en) Method for filtering normal medical image, method for interpreting medical image, and computing device implementing the methods
Kareem et al. Prediction of renal cell carcinoma neuroblastoma using machine learning

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20170519

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20170908

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20170908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190826

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190826

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200825

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201023

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210209

R150 Certificate of patent or registration of utility model

Ref document number: 6837376

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250