JP6792364B2 - 画像処理装置、画像処理システム、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理システム、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP6792364B2
JP6792364B2 JP2016144750A JP2016144750A JP6792364B2 JP 6792364 B2 JP6792364 B2 JP 6792364B2 JP 2016144750 A JP2016144750 A JP 2016144750A JP 2016144750 A JP2016144750 A JP 2016144750A JP 6792364 B2 JP6792364 B2 JP 6792364B2
Authority
JP
Japan
Prior art keywords
image
image processing
region
extraction
initial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016144750A
Other languages
English (en)
Other versions
JP2018011870A (ja
Inventor
斌 陳
斌 陳
大介 古川
大介 古川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016144750A priority Critical patent/JP6792364B2/ja
Priority to US15/649,720 priority patent/US10949698B2/en
Publication of JP2018011870A publication Critical patent/JP2018011870A/ja
Application granted granted Critical
Publication of JP6792364B2 publication Critical patent/JP6792364B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/149Segmentation; Edge detection involving deformable models, e.g. active contour models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • G06V10/267Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/754Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries involving a deformation of the sample pattern or of the reference pattern; Elastic matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20101Interactive definition of point of interest, landmark or seed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30061Lung
    • G06T2207/30064Lung nodule
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images
    • G06V2201/032Recognition of patterns in medical or anatomical images of protuberances, polyps nodules, etc.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Databases & Information Systems (AREA)
  • Library & Information Science (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、画像処理システム、画像処理方法、およびプログラムに関するものである。
近年、医療現場ではコンピュータ断層撮影(CT)画像、核磁気共鳴(MR)画像など多くの医用画像が活用されるようになってきている。それに伴い、医師が数百枚の医用画像をもとに診断を行ったり、治療方針を検討したりする、いわゆる読影と呼ばれる作業の負荷が増加している。そこで、コンピュータで医用画像を解析して得られる情報を診断の助けとするコンピュータ診断支援(Computer Aided Diagnosis: CAD)に関する技術への期待が高まっている。かかる技術においては、まず、医師が注目する領域(臓器や病変部など)を精度よく抽出することが要望される。
非特許文献1には、入力画像から注目領域に含まれる基準点を探索し、基準点から領域拡張処理を行うことにより、再現性の高い領域抽出を行う技術が開示されている。また、非特許文献2には、複数のアルゴリズムによる注目領域の抽出結果をそれぞれ統合することにより、領域の抽出を行う技術が開示されている。
D.Jamshid,A.Hamdan,V.Manlio,Y.Xujiong,"Segmentation of Pulmonary Nodules in Thoracic CT scans:A Region Growing Approach",IEEE Med.Imag.,Vol.27(4),pp.467−480,2008. G.Litjens,W.Ven.Van de,et al.,"Evaluation of prostate segmentation algorithmes for MRI:the PROMISE12 challenge", Med.Image.Anal.,Vol.18(2),pp.359−373,2014.
非特許文献1では、抽出アルゴリズムにより基準点を探索することにより領域抽出の再現性は高まるが、探索された一つの基準点を用いるだけでは良好な領域抽出結果が得られるとは限らず、領域抽出精度にばらつきが生じ得る。また、非特許文献2では、複数のアルゴリズムのそれぞれの設計方針に統一性がなく、領域抽出の再現性を考慮しないアルゴリズムも混ざっている。このため、各アルゴリズムによる注目領域の抽出結果を統合した場合、領域抽出の再現性は低くなり得る。
本発明は上記課題に鑑みてなされたものであり、画像から対象物の領域を再現性よく、かつ高精度に抽出することが可能な画像処理技術を提供することを目的とする。
上記目的を達成するための、本発明の一態様に係る画像処理装置は、画像から一つの対象物領域を抽出する画像処理装置であって、前記画像において、前記一つの対象物領域内に複数の基準点を設定する設定手段と、前記一つの対象物領域が有する特性に基づいて、前記一つの対象物領域に対して前記複数の基準点の夫々と対応する複数の輪郭を抽出し、抽出された該複数の輪郭を複数の初期抽出結果として取得する取得手段と、前記複数の初期抽出結果における各画素の値を統合した統合結果に基づいて、前記画像から前記一つの対象物領域を抽出する抽出手段と、を備えることを特徴とする。
本発明によれば、画像から対象物の領域を再現性よく、かつ高精度に抽出することが可能となる。
第1実施形態に係る画像処理システムの装置構成を示す図。 第1実施形態に係る画像処理システムの機能構成を示す図。 第1実施形態に係る画像処理装置の処理手順を示す図。 第1実施形態に係る基準点の取得を説明する図。 第1実施形態に係る初期抽出結果の取得を説明する図。 第1実施形態に係る初期抽出結果の統合を説明する図。 第1実施形態に係る領域抽出処理を説明する図。 第1実施形態の結果の表示を説明する図。 第2実施形態に係る画像処理システムの機能構成を示す図。 第2実施形態に係る画像処理装置の処理手順を示す図。
以下、図面を参照して、本発明の実施形態を例示的に詳しく説明する。ただし、この実施形態に記載されている構成要素はあくまで例示であり、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。
(第1実施形態)
本実施形態に係る画像処理装置(システム)は、処理対象症例の胸部CT画像(処理対象画像)から、対象物である肺結節の領域(輪郭)を抽出する。画像処理装置は、対象物の領域(肺結節領域)に含まれる可能性が高い複数の基準点に基づいて取得した肺結節の複数個の初期抽出結果を統合する。そして、統合の結果に応じた算出方法により、対象物の領域(輪郭)を抽出する。以下の説明では、処理対象画像(画像)として胸部CT画像上の肺結節を対象物とする場合について説明するが、本発明の適用範囲は、被検体の対象臓器、腫瘍やモダリティの種類に限定されるものではない。以下、具体的な装置(システム)構成、機能構成および処理フローを説明する。
(装置およびシステム構成)
図1に基づいて本発明の第1実施形態に係る画像処理装置100、及び、画像処理装置100と接続される各装置から構成される画像処理システム190について詳しく説明する。画像処理システム190は、医用画像を取得し、当該医用画像に含まれる対象物の領域を画像処理により抽出する。画像処理システム190は、画像を撮影する画像撮影装置110と、撮影された画像を記憶するデータサーバ120と、画像処理を行う画像処理装置100と、取得された画像及び画像処理の結果を表示する表示部160と、操作入力のための操作部170と、を有する。ここで、医用画像とは、画像撮影装置110により取得された画像データを、診断に好適な画像とするための画像処理等を施すことにより得られる画像である。以下、画像処理システム190を構成する各部について説明する。
(画像処理装置100の構成)
画像処理装置100は、例えば、コンピュータであり、本実施形態に係る画像処理を行う。画像処理装置100は、画像処理の実行により処理対象画像から対象物領域を抽出する。画像処理装置100は、中央演算処理装置(CPU:Central Processing Unit)11、主メモリ12、磁気ディスク13、表示メモリ14、および通信部15を有する。CPU11は、画像処理装置100の各構成要素の動作を統合的に制御する制御部として機能する。CPU11(制御部)の処理により、画像処理装置100が画像撮影装置110および表示部160(表示装置)の動作も併せて制御するようにしてもよい。主メモリ12は、CPU11が実行するプログラムを格納し、CPU11によるプログラム実行時の作業領域を提供する。磁気ディスク13は、オペレーティングシステム(OS:Operating System)、周辺機器のデバイスドライバ、後述する本実施形態に係る画像処理を行うためのプログラムを含む各種アプリケーションプログラムを格納する。表示メモリ14は、表示部160に表示するデータを一時的に格納する。通信部15は、例えば、LANカードなどにより構成され、ネットワーク19を介して、外部装置(例えば、画像撮影装置110やデータサーバ120やなど)と画像処理装置100との通信を実現する。ネットワーク19は、例えば、Ethernet(登録商標)、LAN(Local Area Network)やWAN(Wide Area Network)等を含む。また、通信部15は、ネットワーク19を介して、病院情報システム(HIS:Hospital Information Systems)や放射線情報システム(RIS:Radiology Information Systems)と通信を行い、被検者の情報や各種検査情報を取得することが可能である。
表示部160は、例えば、液晶モニタであり、CPU11(制御部)による表示制御により、表示メモリ14からの出力に基づいて画像を表示する。操作部170は、例えば、マウスやキーボードであり、操作者(例えば、医師)によるポインティング入力や文字等の入力を行う。表示部160は操作入力を受け付けるタッチパネルモニタであってもよく、操作部170はスタイラスペンであってもよい。上記の各構成要素は共通バス18により互いに通信可能に接続されている。
(画像撮影装置110の構成)
画像撮影装置110は、例えば、コンピュータ断層撮影装置(CT:Computed Tomography)、核磁気共鳴映像装置(MRI:Magnetic Resonance Imaging)、2次元の放射線画像を撮像する放射線撮影装置(DR:Digital Radiography)、光音響断層撮影装置(PAT:Photoacoustic Tomography)である。画像撮影装置110は取得した画像をデータサーバ120へ送信する。画像撮影装置110を制御する不図示の撮影制御部が画像処理装置100に含まれていてもよい。CPU11(制御部)の処理により、画像処理装置100のCPU11(制御部)が撮影制御部として機能して、画像撮影装置110を制御することも可能である。
(データサーバ120の構成)
データサーバ120は、画像撮影装置110が撮影した画像を保持する。データサーバ120は、例えば、画像保存通信システム(PACS:Picture Archiving and Communication System)のサーバである。画像処理装置100は、データサーバ120から、通信部15およびネットワーク19を介して、画像処理を実行するために必要なデータを読み込み、データサーバ120に保持された画像を取得する。
(機能構成)
次に、図2に基づいて画像処理装置100を構成する各機能構成について説明する。主メモリ12に格納されている、プログラムをCPU11が実行することにより各機能構成が実現される。画像処理装置100は、機能構成として、画像取得部1000、基準点取得部1010、抽出結果取得部1020、抽出結果統合部1030、領域抽出部1040、表示制御部1050を有する。
画像取得部1000は、通信部15を制御して、本実施形態に係る画像処理の対象とする画像を処理対象画像としてデータサーバ120から取得する。基準点取得部1010は、画像取得部1000が取得した処理対象画像に含まれる、対象物の領域に含まれる可能性の高い複数の点(以下、基準点と称する)に関する情報(以下、基準点情報と称する)を取得する。基準点取得部1010(設定部)は、処理対象画像において、複数の基準点を設定する。抽出結果取得部1020は、基準点取得部1010が取得した基準点情報と、夫々の基準点の周辺画素の情報とに基づいて、対象物領域を表す複数の初期抽出結果を取得する。抽出結果取得部1020(取得部)は、対象物領域が有する特性に基づいて、複数の基準点の夫々と対応する対象物領域の輪郭を初期抽出結果として取得する。ここで、対象物領域が有する特性には、対象物領域の領域内と領域外とで濃度値が変化する濃度値変化の特性と、対象物領域が有する輪郭形状の特性と、が含まれる。
抽出結果統合部1030は、抽出結果取得部1020が取得した複数の初期抽出結果を統合する。すなわち、抽出結果統合部1030は、複数の初期抽出結果を一つにまとめた初期抽出結果(統合結果)を生成する。抽出結果統合部1030は、複数の初期抽出結果における各画素の値を統合(加算)した統合抽出結果を生成し、夫々の初期抽出結果における各画素の値を、統合結果における同じ画素位置の画素値として加算することにより、複数の初期抽出結果を一つに統合する。
領域抽出部1040(抽出部)は、複数の初期抽出結果における各画素の値を統合(加算)した統合結果に基づいて、処理対象画像から対象物領域を抽出する。領域抽出部1040は、複数の初期抽出結果における各画素の値を同じ画素位置において加算した結果に基づいて、処理対象画像から対象物領域を抽出する。領域抽出部1040は、統合結果における各画素が対象物領域に含まれる尤度の分布を示す尤度マップを生成し、尤度マップに基づいて処理対象画像から対象物領域を抽出する。領域抽出部1040は、尤度マップにおける各画素の尤度と、対象物領域が有する特性とに基づいて、処理対象画像から対象物領域を抽出することが可能である。表示制御部1050は、領域抽出部1040が抽出した対象物の領域の情報を表示部160に出力し、表示部160に対象物の領域の抽出結果を表示させる。
なお、画像処理装置100が有する各機能構成の少なくとも一部を独立した装置として実現してもよい。画像処理装置100はワークステーションでもよい。各機能構成を実現するソフトウェアは、クラウドをはじめとするネットワークを介したサーバ上で動作してもよい。以下に説明する本実施形態では、各部はローカル環境におけるソフトウェアによりそれぞれ実現されているものとする。
(処理フロー)
続いて、本発明の第1実施形態に係る画像処理について説明する。図3は本実施形態の画像処理装置100が実行する処理手順を示す図である。本実施形態は、主メモリ12に格納されている各部の機能を実現するプログラムをCPU11が実行することにより実現される。本実施形態では、処理対象画像はCT画像であるとして説明する。CT画像は3次元濃淡画像として取得される。また、本実施形態では処理対象画像に含まれる対象物は肺結節であるとして説明する。
(S1100)
ステップS1100において、画像取得部1000は、画像処理の対象とする画像(処理対象画像)を取得する。すなわち、画像取得部1000は処理対象画像であるCT画像をデータサーバ120から取得し、画像処理装置100の主メモリ12上に記憶する。尚、処理対象画像の取得は、この例に限定されるものではなく、例えば、画像取得部1000は、画像撮影装置110で撮影した画像データを、通信部15を介して取得し、診断に好適な画像とするための濃度変換処理などの簡単な画像処理等を施して、本実施形態に係る画像処理を施す処理対象画像を取得可能である。例えば、画像撮影装置110がCT装置である場合、画像取得部1000は、画像撮影装置110からCT値とよばれる相対的なX線吸収係数値の一次元分布を画像データとして取得する。その後、画像取得部1000は画像再構成とよばれる処理を施して、3次元濃淡画像で表される処理対象画像を得る。画像取得部1000は、画像再構成を行って得られた3次元濃淡画像を処理対象画像として取得してもよい。
ここで、本実施形態における処理対象画像は、直交する3軸(x,y,z)の成分によって識別可能な複数の画素により構成される。処理対象画像の取得において、付帯情報として取得される画素サイズは、3軸の方向それぞれに対して定義される。本実施形態では、3軸の方向それぞれに対する画素サイズが、r_size_x=1.0mm、r_size_y=1.0mm、r_size_z=1.0mm、の場合を例として説明する。処理対象画像の濃度値は、画素の3次元配列における画素位置を参照して導出される関数とみなすことができる。本実施形態では処理対象画像を関数I(x,y,z)として表す。関数I(x,y,z)は、処理対象画像の撮影領域の3次元の実空間座標(x,y,z)を引数として、その座標における画素値を出力する関数である。
(S1110)
ステップS1110において、基準点取得部1010は、処理対象画像に含まれる対象物の領域に含まれる可能性の高い複数の点(基準点)に関する情報(基準点情報)を取得する。基準点取得部1010は、対象物の領域、例えば、肺結節領域に含まれる可能性が高いn個の点pseed_i(xseed_i,yseed_i,zseed_i)(i=1,2,・・・,n)を基準点として設定する。n個の点(基準点)の設定により、基準点pseed_i(i=1,2,・・・,n)を要素に持つ集合(基準点集合)P={pseed_i|i=1,2,・・・,n}が生成される。基準点取得部1010による基準点の取得について以下、具体的に説明する。
まず、最初に、表示部160に表示される処理対象画像I(x,y,z)の、例えば、横断面(Axial)、矢状面(Sagittal)、冠状面(Coronal)の断層像を参照しながら、操作者は操作部170を介して処理対象画像I(x,y,z)に描出されている対象物の領域(例えば、肺結節領域)に含まれる画素m点を取得する。すると、基準点取得部1010は、操作入力により得られた、肺結節領域に含まれる画素m点を初期基準点pseed_j(j=1,2,・・・,m)として取得する。
次に、基準点取得部1010は、初期基準点を含む局所画像領域V(x,y,z)を取得する。基準点取得部1010は、初期基準点pseed_jの重心を取得することにより、局所画像領域V(x,y,z)の位置を設定することができ、後に説明するLoGカーネルの出力値に基づいて局所画像領域V(x,y,z)の大きさ(画像サイズ)を設定することができる。基準点取得部1010は、初期基準点pseed_jの重心をpseed_0とし、図4(a)に示すように、pseed_0の座標を重心(初期基準点の重心600)とした局所画像領域V(x,y,z)510(局所画像領域V510内の肺結節領域520)において基準点集合Pを取得する。図4(a)において、局所画像領域V(x,y,z)510内の対象物領域を肺結節領域520として示している。
本処理では、基準点取得部1010は、スケールスペースに基づく技術によって対象物領域の大きさを推定し、推定した対象物領域の大きさに基づいて、局所画像領域V(x,y,z)の大きさ(画像サイズ)を設定する。本実施形態では、Laplacian of Gaussian(LoG)カーネルを利用する。次式に示すように、基準点取得部1010は、pseed_0の周辺領域I'(x,y,z)に対して式1と式2に示すマルチスケールLoGカーネルを適用し、出力値L(x,y,z,h)を計算する。ここで、周辺領域は、初期基準点および初期基準点に隣接する画素(点)を含む領域である。
ここで、hはLoGカーネルのスケールを表すパラメータである。*は畳み込みを表す演算子である。L(x,y,z,h)は、スケールを所定の範囲{hmin,・・・,hmax}で変化させたときのLoGカーネルの出力値を表す(図4(b))。図4(b)において、L(x,y,z,h)530は、LoGカーネルの出力値の分布例を示している。hminとhmaxは操作者が任意の値に設定可能なパラメータである。式1に従ってLoGカーネルの出力値L(x,y,z,h)を計算したのち、基準点取得部1010は、L(x,y,z,h)の出力値を走査してLoGカーネルの出力値L(x,y,z,h)が最大となるときのパラメータhを取得する。基準点取得部1010は、画像サイズを求めるための評価関数として、Laplacian of Gaussian(LoG)を用い、評価関数の出力値の分布に基づいて、対象物領域を含む画像領域(局所画像領域)の画像サイズを決定する。すなわち、基準点取得部1010は、評価関数の出力値の分布に基づいて取得したパラメータhに基づいて、対象物領域および局所画像領域V(x,y,z)の大きさ(画像サイズ)を決定する。尚、パラメータhは対象物領域の大きさに比例した数値であり、パラメータhに基づいて設定される局所画像領域V(x,y,z)の大きさもまた、パラメータhの大きさに比例した画像サイズとなる。基準点取得部1010は、評価関数の出力値の最大値に対応する評価関数のスケールを表すパラメータに基づいて、対象物領域を含む画像領域(局所画像領域)の画像サイズを決定する。
上述の処理では局所画像領域V(x,y,z)の大きさ(画像サイズ)の決定に初期基準点pseed_j(j=1,2,・・・,m)とLoGカーネルを利用したが、局所画像領域V(x,y,z)の決定方法は、これに限定されるものではない。例えば、操作者が初期基準点を選択する代わりに、対象物領域である肺結節領域を含む関心領域(volume of interest:VOI)を選択する場合、関心領域VOIを局所画像領域V(x,y,z)として利用してもよい。
また、上記の例では、pseed_0を重心として、局所画像領域V(x,y,z)の位置を設定する例を説明したが、本実施形態はこの例に限定されず、例えば、基準点取得部1010は、LoGカーネルの出力値(例えば、パラメータhが最大値となる画素の位置)に基づいて、局所画像領域V(x,y,z)の重心位置を設定し直すことも可能である。
次に、基準点取得部1010は、局所画像領域V(x,y,z)において、複数の基準点pseed_iを取得する。基準点の取得は、様々な方法で実施できる。基準点取得部1010は、例えば、操作部170からの入力情報に基づいて設定した一つ以上の初期基準点と、初期基準点の画像特徴に類似した画像特徴を有する複数の画素とを、複数の基準点として設定することが可能である。基準点取得部1010は、局所画像領域V(x,y,z)の画素の中で、初期基準点pseed_j(j=1,2,・・・,m)と類似した画像特徴を有する画素をn−m個取得し、それら取得したn−m個の画素と初期基準点pseed_j(j=1,2,・・・,m)とを複数の基準点(n個)として取得することが可能である。また、基準点取得部1010は、初期基準点pseed_jを基準点として用いずに、操作部170からの入力情報に基づいて設定した一つ以上の初期基準点の画像特徴と類似した画像特徴を有する複数の画素を基準点として設定することが可能である。すなわち、基準点取得部1010は、初期基準点pseed_j(j=1,2,・・・,m)と類似した画像特徴を有するn個の画素を基準点として取得することが可能である。基準点の取得に用いる画像特徴として、例えば、処理対象画像を構成する各画素の画素値、LoGカーネルの出力値などを利用することができる。基準点取得部1010は、Laplacian of Gaussian(LoG)を用いた評価関数の出力値に基づいて複数の基準点を設定することが可能である。本実施形態では、基準点取得部1010は、LoGカーネルの出力値が最も大きい画素からn個の画素(pseed_i(i=1,2,・・・,n))を順番に取得して基準点集合Pとする。基準点集合Pを構成する画素の数nは操作者が、操作部170から事前に指定することが可能である。また、基準点取得部1010は、LoGカーネルの出力値が、操作者により事前に決められた閾値を超えている画素をすべて基準点として取得して基準点集合Pとすることが可能である。
基準点の取得方法は、上述のものに限定されない。基準点取得部1010は、例えば、画素の濃度値や勾配などに基づいて、マルコフ連鎖モンテカルロ法や、mean shift法などによって所定の条件を満たす画素をサンプリングすることによって実施してもよい。また、操作者が目視で、操作部170を介して、必要な基準点を追加したり、不要な基準点を削除したりしてもよい。
(S1120)
ステップS1120において、抽出結果取得部1020は、初期領域抽出処理によって複数の肺結節の初期抽出結果を取得する。抽出結果取得部1020は、ステップS1110で取得した局所画像領域V(x,y,z)と、基準点群Pとを用いて、夫々の基準点から初期抽出結果を取得する。本処理によって、各基準点と1対1の対応関係を持つ肺結節の初期抽出結果が取得される。本実施形態では、初期抽出結果を、抽出された肺結節領域(前景領域)に含まれる画素の値を「1」とし、その他の領域(背景領域)に含まれる画素の値を「0」とする、マスク画像として説明する。
以下、図5(a)に示すように、ステップS1110で、例えば、局所画像領域V510(局所画像領域V510内の肺結節領域520)において、4点(n=4)の基準点(基準点601〜604)を取得した場合を説明する。まず、抽出結果取得部1020は、4点の基準点の重心pを求める。基準点の重心pを求めることにより、新たな局所画像領域V'の位置(中心)を設定することができる。すなわち、抽出結果取得部1020は、複数の基準点の重心を求めることにより、処理対象画像の内部において、対象物領域を含む画像領域(局所画像領域)の位置を設定することができる。そして、抽出結果取得部1020は、重心pを中心とする新たな局所画像領域V'(x,y,z)を作成する。新たな局所画像領域V'(x,y,z)の画像サイズは操作者が任意に設定することが可能である。また、抽出結果取得部1020は、少なくとも先のステップS1110で設定した局所画像領域V(x,y,z)に描出されるように新たな局所画像領域V'(x,y,z)の画像サイズを設定することが可能である。すなわち、抽出結果取得部1020は、先に設定した局所画像領域V(x,y,z)の画像サイズに含まれるように、または、局所画像領域V(x,y,z)の画像サイズと同等となるように、新たな局所画像領域V'(x,y,z)の画像サイズを設定することができる。あるいは、抽出結果取得部1020は、新たな局所画像領域V'(x,y,z)が局所画像領域V(x,y,z)を含むように新たな局所画像領域V'(x,y,z)の画像サイズを設定することができる。抽出結果取得部1020は、対象物領域を含む画像領域(局所画像領域)の画像サイズと画像領域の位置とを用いて処理対象画像から画像領域を取得する。また、抽出結果取得部1020は、4つの基準点の位置情報(座標情報)に基づいて取得される重心pを使用する代わりに、LoGの出力値が最大である基準点pを重心として使用して新たな局所画像領域V'(x,y,z)を作成してもよい。このように基準点の重心に基づいて生成される局所画像領域V'(x,y,z)は、初期基準点pseed_jの位置に依存しない。つまり、操作者が肺結節領域内のどの箇所を初期基準点pseed_jとして選択しても、新たな局所画像領域V'(x,y,z)は常に肺結節領域を画像内の一定の位置に捉えており、かつ肺結節領域の周辺の背景領域を一定範囲だけ含む画像となる。
次に、抽出結果取得部1020は、基準点601、基準点602、基準点603、基準点604に基づいて、初期領域抽出処理を行い、各基準点と対応する初期抽出結果を取得する。ここで、初期領域抽出処理は、ある1つの基準点を肺結節領域の前景領域(シード)とし、領域拡張法や、Level−set法(レベルセット法)や、Graph−cut法(グラフカット法)などを施すことによって実施される。本実施形態では、レベルセット法を用いて初期抽出結果を取得する処理について説明する。
レベルセット法は、対象としている空間に対して、1つ高い次元の空間を設定し、抽出対象物の境界をその高次元空間で定義された陰関数φの断面(ゼロ等値面φ=0)として考える。陰関数φの形状が時間tに従って移動しながら、対象物の境界面(ゼロ等値面φ=0)も徐々に変化する。よって、陰関数φの形状を対象物の形状特徴に応じて適切に設計すれば、対象物の輪郭のトポロジー変化や特異点の発生などに自然に対応できる。本実施形態では、ある基準点pseed_iを、初期輪郭すなわち初期ゼロ等値面(φ=0)として利用し、当該基準点に対応する肺結節の初期抽出結果を取得する。
図5(b)は、基準点601、基準点602、基準点603、基準点604に基づいて取得された初期抽出結果(マスク611)、初期抽出結果(マスク612)、初期抽出結果(マスク613)、初期抽出結果(マスク614)の例を示す図である。抽出結果取得部1020は、例えば、図5(a)に示す4つの基準点に対して同じレベルセット法を実施することによって、夫々の基準点と対応する対象物の領域(肺結節領域)の夫々の初期抽出結果(マスク611〜614)を取得する。図5(b)において、初期抽出結果(マスク611)は、基準点601を初期輪郭としてレベルセット法を実行することで得られた初期抽出結果であり、初期抽出結果(マスク612)は、基準点602を初期輪郭としてレベルセット法を実行することで得られた初期抽出結果である。初期抽出結果(マスク613)は、基準点603を初期輪郭としてレベルセット法を実行することで得られた初期抽出結果であり、初期抽出結果(マスク614)は、基準点604を初期輪郭としてレベルセット法を実行することで得られた初期抽出結果である。
レベルセット法では、陰関数φのゼロ等値面(初期輪郭)を変化させるために、ゼロ等値面における画素に、近傍画素(Front)への移動速度を与えるための速度関数を設定する。速度関数は、陰関数φの形状を設計するための評価関数でもある。速度関数は、抽出したい対象物の濃度値や形状特徴等の特性を考慮した項を有する。速度関数は、そのような特性に反する輪郭であるほど移動速度が大きくなり、そのような特性を有する輪郭であるほど移動速度が小さくなるように設定される。
本実施形態では、肺結節領域が有する第一の特性として、肺結節の領域内と領域外での濃度値の違いに注目する(濃度値変化の特性)。そこで、例えば、式3に示すような、エッジ強度に基づく速度関数f(i,j,k)を用いる。
ここで、E(i,j,k)は画素(i,j,k)におけるエッジ強度を表し、αは重み係数である。E(i,j,k)は濃度勾配で表される。別の例では、ソーベルフィルタ、ラプラシアンフィルタといったエッジ検出フィルタを処理対象画像に適応し、それらの出力値を速度関数の設定に用いることが可能である。速度関数f(i,j,k)によって、肺結節の輪郭形状の変形速度は、濃度値変化が小さい領域で大きく、濃度値変化が大きいエッジ領域付近で小さくなる。これにより、抽出された対象物の輪郭の領域において濃度値変化が大きくなるように輪郭の位置が制御される。
肺結節領域が有する第二の特性として、肺結節の輪郭はなめらかである点に注目する(輪郭形状の特性(曲率特性))。そこで、例えば、式4に示すような、曲率に基づく速度関数fκ(i,j,k)を用いる。
ここで、κ(i,j,k)は画素(i,j,k)における曲率を表し、βは重み係数である。速度関数fκ(i,j,k)によって、肺結節の輪郭形状の変形速度は、曲率が小さい箇所で大きくなり、曲率が大きい場所では小さくなる。これにより、抽出された対象物の輪郭の曲率が大きくなるように輪郭の位置が制御される。
本実施形態における肺結節の初期抽出結果を取得する処理では、抽出結果取得部1020は、2種類の速度関数(f(i,j,k)、fκ(i,j,k))を次式(式5)のように組み合わせ、レベルセット法の速度関数として利用することも可能である。
式5における2種類の速度関数(f、fκ)の組合せ演算において、記号「※」は、fおよびfκの乗算、加算などを示す演算子である。尚、式5の速度関数において、fおよびfκのそれぞれに、重み係数w、wκを速度関数f、fκに乗算したwおよびwκκに対して演算子「※」に基づく速度関数の演算を行うことも可能である。
(5)式の速度関数を用いることによって、基準点pseed_iと対応する肺結節の初期抽出結果(輪郭曲線)Rを取得することができる。尚、肺結節の濃度値情報や事前知識などを利用した関数を(5)式に加えてもよいし、他の組み合わせで速度関数を設定してもよい。また、肺結節の初期抽出処理は、肺結節の形状と性状によって手法を切り替えてもよい。例えば、スリガラス状の肺結節(GGO)に対しては、機械学習またはGraph−cut法を利用することが可能であり、形状が不規則かつ体積が小さい肺結節に対してはレベルセットを利用することが可能である。更に、同じ肺結節における異なる基準点の特徴によって、抽出手法を切り替えてもよい。
ステップS1130の別の例として、例えば、抽出結果取得部1020は、1個の基準点に対して、複数(c)の抽出処理(抽出手法)を実施し、n個の基準点からc×n個の初期抽出結果R (i=1,2,・・・,n;j=1,2,・・・,c)を取得することが可能である。ここで、iは基準点を表し、jは抽出処理(抽出手法)を表している。そして、抽出結果取得部1020は、他の異なる基準点に対しても同様に複数の抽出処理(抽出手法)を実施し、取得された異なる基準点での初期抽出結果の特徴量を同様に算出する。そして、抽出結果取得部1020は、特徴量の分散が最も小さい手法で取得した初期抽出結果を最終の初期抽出結果とする。例えば、抽出結果取得部1020は、5つの抽出手法を適用し、得られた全ての初期抽出結果の体積を計算する。そして、抽出結果取得部1020は、5つの抽出手法のうち抽出手法3で得られた初期抽出結果の体積の分散が最も小さい場合は、R (i=1,2,・・・,n)を最終の初期抽出結果として取得する。
本実施形態では、初期抽出結果を、前景領域での画素値が1であり、背景領域での画素値が0であるマスク画像とする例を示している。初期抽出結果の別の例としては、例えば、各画素における(5)式により求められた変形速度の大きさに基づいて、値が変化する尤度画像にしても良い。この場合は、画素の値(尤度)が大きいほど、肺結節領域に含まれる可能性が高くなる。
(S1130)
次に、ステップS1130において、抽出結果統合部1030は、抽出結果取得部1020が取得した複数の初期抽出結果を統合した統合結果を生成する。抽出結果統合部1030は、ステップS1120で取得した複数の初期抽出結果R(i=1,2,・・・,n)を統合し、統合の結果をR(x,y,z)とする(統合結果)。本実施形態では、統合結果R(x,y,z)の各画素の画素値を、肺結節領域である可能性を表す尤度(存在確率p)とし、統合結果R(x,y,z)を肺結節領域の尤度マップとする。統合結果R(尤度マップ)における画素の値が大きいほど当該画素が肺結節領域である可能性が高い。
本実施形態において、抽出結果統合部1030は、夫々の初期抽出結果R(i=1,2,...,n)での各画素の値を、統合結果R(x,y,z)における同じ画素に加算する。夫々の初期抽出結果Rでの各画素の値を、統合結果Rにおける同じ画素に加算することにより、複数の初期抽出結果R(i=1,2,...,n)が一つの統合結果R(x,y,z)に統合される。複数(n個)の初期抽出結果を加算する加算処理によって、抽出結果統合部1030は、統合結果R(x,y,z)として、図6に示すような尤度マップ700を生成することができる。ここで、図6は、初期抽出結果の統合を説明する図である。図6において、1つの格子は1つの画素(i,j,k)を表し、各格子(画素)の数値は、加算処理の結果を例示するものであり、該当画素が対象物領域(肺結節領域)に含まれる尤度pを表す。尤度pの値が大きいほど当該画素が肺結節領域に含まれる可能性が高いことを示唆する。尚、本実施形態では、抽出結果統合部1030は、統合結果R(x,y,z)(尤度マップ)に対して、さらに正規化処理を施し、正規化尤度マップR'(x,y,z)を取得する。正規化尤度マップR'では、各画素の値(尤度p')が、実数空間[0,1]に正規化される。
ステップS1130での初期抽出結果の統合処理の別の例として、抽出結果統合部1030は、統合結果R(x,y,z)を各初期抽出結果R(i=1,2,・・・,n)の論理和によって取得することができる。このように取得された統合結果は、対象である肺結節の最大参照領域となる。速度関数の出力に基づいて、この最大参照領域を超えないように輪郭の位置を制限し、肺結節の領域を次のステップで抽出することができる。
尚、上記の初期抽出結果の統合処理を行う前に、抽出結果統合部1030は、前処理として、初期抽出結果の選別処理を実施してもよい。例えば、抽出結果統合部1030は、ステップS1120で取得された夫々の初期抽出結果に対して、対象物領域の体積や、所定の断面における直径などの特徴量を算出することが可能である。また、抽出結果統合部1030は、算出した特徴量の統計処理を行い、特徴量が平均値から大きくずれる初期抽出結果を初期抽出結果Rから削除することも可能である。例えば、抽出結果統合部1030は、特徴量が平均値から閾値を超えてずれる初期抽出結果を初期抽出結果Rから削除することも可能である。
(S1140)
ステップS1140では、領域抽出部1040は、基準点取得部1010が取得した基準点情報、および抽出結果統合部1030が取得した初期抽出結果の統合結果に基づいて、画像取得部1000が取得した処理対象画像から対象物の領域(肺結節の領域)を抽出する。領域抽出部1040は、ステップS1110で取得した基準点群Pと、ステップS1120で取得した局所画像領域V'(x,y,z)と初期抽出結果R(i=1,2,・・・,n)、およびステップS1130で取得した正規化尤度マップR'を用いて、対象物領域である各肺結節の領域を処理対象画像の局所画像領域から抽出する。
本実施形態において、領域抽出部1040は、対象物の領域(肺結節領域)の領域抽出処理において、再びレベルセット法を用いる。まず、領域抽出部1040は、初期輪郭すなわち初期ゼロ等値面(φ=0)を設定する。ここでは、局所画像領域V'(x,y,z)の重心pを初期輪郭と取得する。尚、領域抽出部1040は、基準点群Pから任意の1つの基準点pseed_i、または全ての基準点を初期輪郭として取得することが可能である。あるいは、領域抽出部1040は、正規化尤度マップR'に対して、しきい値処理を行い、閾値を超える尤度領域を初期輪郭に設定することが可能である。
次に、領域抽出部1040は、第一の特性(濃度値変化の特性)と第二の特性(輪郭形状の特性)に基づく速度関数(式3、式4)と同じように、尤度を第三の特性(尤度マップにおける各画素の尤度の変化を示す尤度特性)とした速度関数fp(i,j,k)を式6に示すように設定する。
ここで、R'p(i,j,k)は各画素(i,j,k)の値(尤度p)が正規化された値を表し、γは重み係数である。速度関数f(i,j,k)によって、対象物の領域(肺結節領域)の輪郭形状の変形速度は、尤度が大きい箇所で大きくなり、尤度が小さい箇所では小さくなる。これにより、抽出された対象物の輪郭が正規化尤度マップR'における尤度が大きくなるように輪郭の位置が制御される。領域抽出部1040は、初期輪郭(初期ゼロ等値面(φ=0))を起点として、式6に示す速度関数fp(i,j,k)の出力に基づいて輪郭の位置を制御する。
本実施形態の領域抽出処理では、複数の基準点のそれぞれを用いた初期輪郭に基づいて領域抽出処理を行った後、取得した複数個の初期抽出結果を尤度マップとして統合し、正規化する。正規化尤度マップR'は複数の初期抽出結果の統合によって生成されているため、ある1つの初期抽出結果、または、ある1つの基準点に依存しない。よって、式6で示す速度関数を用いることで、対象物の領域(肺結節領域)を再現性よく、かつ高精度に抽出することができる。本実施形態において、領域抽出部1040は、式6の速度関数を更に式5の速度関数を組合せ、式7に示す新たな速度関数を設定して、領域抽出処理を実行する。領域抽出部1040は、複数の初期抽出結果の統合によって生成された尤度マップ(正規化尤度マップR')を参照して、以下の式7の速度関数を用いて領域抽出処理を実行することが可能である。領域抽出部1040は、複数の初期抽出結果における各画素の値を統合(加算)した統合抽出結果と、対象物領域が有する特性(濃度値変化の特性、輪郭形状の特性)とに基づいて、処理対象画像から対象物領域を抽出する。領域抽出部1040は、濃度値変化の特性を評価する関数の出力結果と、輪郭形状の特性の変化を評価する関数の出力結果と、尤度マップにおける各画素の尤度の変化を評価する関数の出力結果とに基づいて、輪郭が決定された対象物領域を処理対象画像から抽出する。すなわち、領域抽出部1040は、濃度値変化の特性の評価結果と、輪郭形状の特性の評価結果と、尤度マップにおける各画素の尤度の評価結果とに基づいて、処理対象画像から対象物領域を抽出する。
式7における3種類の速度関数(f、fκ、f)の組合せ演算において、記号「※」は、fおよびfκおよびfの乗算、加算などを示す演算子である。尚、式7の速度関数F'において、fおよびfκおよびfのそれぞれに、重み係数w、wκ、wを速度関数f、fκ、fに乗算したwおよびwκκおよびwに対して演算子「※」に基づく速度関数の演算を行うことも可能である。
式7に示す速度関数F'は、濃度値変化の特性(f)、曲率特性(f)、ならびに尤度特性(f)が相互作用した関数であり、領域抽出部1040は、式7に示す速度関数F'を用いることにより、処理対象画像における対象物の領域(肺結節領域)を再現性よく、かつ高精度に抽出することができる。領域抽出部1040は、式7で示される速度関数により制御される輪郭の変形(移動)が停止、すなわち、繰り返し演算により算出される変形(量)の差分がゼロになったときの輪郭を、肺結節領域の抽出結果Rfとする。あるいは、領域抽出部1040は、式7で示される速度関数により制御される変形の繰り返し演算により前回の変形からの変形量が予め設定しておいた閾値以下になったときの輪郭を、肺結節領域の抽出結果Rfとする。
また、ステップS1140の別の処理例として、領域抽出部1040は、領域抽出処理に、Graph−cut法や、Water flow法などの領域抽出手法を用いても良い。図7は、領域抽出処理の例を説明する図であり、例えば、Graph−cut法に基づく領域抽出手法では、領域抽出部1040は、図7に示すように、正規化尤度マップR'における尤度の値が、閾値T1より高い画素を前景領域Robjとして定義し(710)、正規化尤度マップR'における尤度の値が、閾値T2より低い画素を背景領域Rbkgとして定義する(720)。そして、局所領域画像V'(i,j,k)または正規化尤度マップR'(i,j,k)における各画素の画素値を用いたデータ項(Σα)と、隣接画素の値に応じた平滑化項(Σβ)とで定義されるエネルギー(E=Σα+Σβ)を求める。領域抽出部1040は、注目画素が設定した特徴と近く、境界において画素値が大きく異なる場合にエネルギーが小さくなる。このエネルギー(E)を最小化するような境界を、肺結節の領域の輪郭として取得することも可能である。また、領域抽出部1040は、ステップS1140での領域抽出処理として、上述したような方法に加えて、例えば、対象物である肺結節の期待濃度値や形状に関する情報や、統計的な情報を併せて利用し実施してもよい。
(S1150)
ステップS1150において、表示制御部1050は、領域抽出の結果を表示部160に表示させるための表示制御を行う。表示制御部1050は、ステップS1140で抽出した領域に関する情報(領域抽出の結果)を画像処理装置100に接続された表示部160に送信し、表示部160に領域抽出の結果を表示させる制御を行う。表示制御部1050は、例えば、抽出された対象物領域と元の3次元CT画像(処理対象画像)とを重ね合わせて合成した画像(以下、合成画像と称する)を表示部160に表示させる表示制御を行うことが可能である。別の例として、表示制御部1050は、対象物の領域と所定の面で切断した2次元の断面画像との合成画像を表示部160に表示させる表示制御を行うことが可能である。さらに別の例として、表示制御部1050は、3次元の合成画像をボリュームレンダリングして表示部160に表示させる表示制御を行うことが可能である。
表示制御部1050は領域抽出の結果の表示形態を制御することが可能である。例えば、表示制御部1050は、図8のように、抽出された対象物の領域の輪郭800を破線で示すような曲線で表示させたり、輪郭800の内部の表示色を変えて表示させることも可能である。このとき、表示制御部1050は、領域抽出処理に用いた基準点(601〜604)と、抽出された対象物の領域の輪郭800とを併せて表示部表示させてもよい。
また、表示制御部1050は、矢印形状の図形を処理対象画像と重ね合わせて表示させ、矢印形状の先端部が抽出された領域を示すように表示制御を行うことが可能である。また、表示制御部1050は、抽出された対象物の領域の大きさに応じて上述した表示形態を変更するようにしてもよい。例えば、抽出された対象物の領域の大きさが所定の閾値以上の場合は輪郭を実線や破線による曲線で表示し、閾値よりも小さい場合は矢印形状の先端部で抽出領域の位置を示すようにしてもよい。表示制御部1050による表示制御により、処理対象画像において抽出された領域の観察が容易になる。
次に、第1実施形態に係る画像処理技術(画像処理装置、システム、および画像処理方法)の効果について説明する。本実施形態の画像処理技術は、従来の領域抽出手法における抽出領域の再現性についての課題を解決することが可能である。従来の領域抽出手法では、対象物の領域として、本実施形態と同じ肺結節領域を抽出する場合であっても、画像中に描出されている背景領域の範囲が異なっている場合、もしくは画像中での肺結節領域の位置が異なる場合に、領域抽出結果が一致しないという抽出領域の再現性の課題が生じ得る。また、領域抽出処理の入力である初期輪郭が異なると、異なる領域抽出結果が得られる、という抽出領域の再現性の課題も生じ得る。
一方、本実施形態に係る画像処理装置では、操作者により手動で設定された初期基準点から、スケールスペースに基づく手法(本実施形態ではLoGカーネルの出力値)に基づいて複数の基準点を設定し、当該基準点から局所画像領域V'を生成する。スケールスペースに基づく手法は操作者の操作によらず常に一定の出力を生成することができる。よって、本画像処理技術に基づいて設定される局所画像領域V'は安定した画像、すなわち、対象物の領域(肺結節領域)を画像内の一定の位置に捉えており、かつ対象物の領域(肺結節領域)の周辺の背景領域を一定範囲だけ含む画像となる。
また、本実施形態の領域抽出処理では、複数の基準点のそれぞれを用いて初期輪郭としていったん領域抽出処理を行った後、取得した複数個の初期抽出結果を尤度マップ(正規化尤度マップR')として統合し、この尤度マップを参照して、再度、領域抽出処理を実行する。このような処理により、個々の速度関数を用いた領域抽出処理で生じる抽出のブレを抑制し、同じ領域について、同じ領域抽出結果を得ること(抽出領域の再現性の向上)が可能となる。また本実施形態の領域抽出処理では、上述の方法で生成した局所画像領域V'(安定した局所画像領域)を使用することも重要な点である。また、複数の領域抽出結果を統合することで、個々の領域抽出では抽出に失敗していた箇所も、良好に抽出すること(抽出の高精細化)が可能となる。
上述のことから、本発明の第1実施形態に係る画像処理技術(画像処理装置、システム、および画像処理方法)によれば、対象物の領域を高精細、かつ高い再現性で抽出することができる。
(第2実施形態)
本発明の第2実施形態に係る画像処理について説明する。本実施形態では、基準点取得部1010が取得する基準点の増加(基準点の逐次追加設定)に伴い、抽出される対象物領域の変化量(例えば、抽出される対象物領域の体積の差分)を計算し、変化量(体積の差分)が収束するまで処理を繰り返して、対象物領域の抽出処理を実行する構成について説明する。尚、抽出される対象物領域の変化量は、体積の差分に限定されるものではなく、例えば、対象物領域の輪郭の位置情報や対象物領域の所定の断面の面積など、抽出される対象物領域の特徴を示す特徴情報の差分であってもよい。
(機能構成)
図9に基づいて、本発明の第2実施形態に係る画像処理装置200を構成する各機能構成について説明する。画像処理装置200は、本発明の第2実施形態に係る画像処理を実行する。画像処理装置200は、機能構成として、画像取得部1000、基準点取得部1015、抽出結果取得部1020、抽出結果統合部1030、領域抽出部1040、処理制御部1045、表示制御部1050を有する。第1実施形態に係る画像処理装置100を構成する機能構成と同様の機能を有する構成には図2と同一の番号を付しており、詳細な説明を省略する。
基準点取得部1015(設定部)は、基準点を数点ずつ、順次、設定する。基準点取得部1015は、繰り返し演算において、複数の基準点を追加設定する。抽出結果取得部1020は、設定されている第1の複数の基準点および追加設定された第2の複数の基準点の夫々と対応する対象物領域の輪郭を初期抽出結果として取得する。基準点取得部1015が基準点を設定するごとに、領域抽出部1040は対象物領域の抽出を行う。領域抽出部1040は、第1の複数の基準点および追加設定された第2の複数の基準点に基づいて取得された複数の初期抽出結果における各画素の値を統合(加算)した統合結果に基づいて、処理対象画像から対象物領域を抽出する。
処理制御部1045(判定部)は、追加設定される複数の基準点の増加に伴い、領域抽出部1040で抽出される対象物領域の特徴を示す特徴情報の変化量ρを取得して、変化量ρと閾値との比較に基づいて繰り返し演算を継続するか否かを判定する。処理制御部1045は、収束判定処理として、対象物領域の変化量ρと閾値とを比較して、変化量が閾値以下になった場合に収束したと判定する。本実施形態の画像処理は、対象物領域の変化量ρが閾値以下に収束するまで、基準点取得部1015から領域抽出部1040までの処理を繰り返すことで、より効率的かつ高精度に対象物領域を抽出することを可能にする。
(処理フロー)
続いて、本発明の第2実施形態に係る画像処理について説明する。図10は本実施形態の画像処理装置200が実行する処理手順を示す図である。本実施形態は、主メモリ12に格納されている各部の機能を実現するプログラムをCPU11が実行することにより実現される。ステップS2100、S2120、S2130、S2140の処理は図3に示すステップS1100、S1120、S1130、S1140の処理とそれぞれ同様であるため、詳細な説明を省略する。
(S2100)
ステップS2100において、画像取得部1000は画像処理の対象とする処理対象画像を取得する。すなわち、画像取得部1000は処理対象画像であるCT画像をデータサーバ120から取得し、画像処理装置100の主メモリ12上に記憶する。この処理は、ステップS1100と同様の処理であるため、処理対象画像の取得に関する詳細な説明を省略する。
(S2115)
ステップS2115で、基準点取得部1015は、処理対象画像に含まれる対象物の領域に含まれる可能性の高い複数の点(基準点)に関する基準点情報を、繰り返し処理を実施することにより取得する。すなわち、基準点取得部1015は、初期抽出結果を取得するための複数の基準点を、繰り返し処理を実施することにより取得する。ここで、繰り返し処理を実施するために、基準点取得部1015は、前回の処理結果に基づいて処理を行う。例えば、繰り返し処理の回数をSとすると、S=1(1回目の基準点取得)のとき、基準点取得部1015はLoGカーネルの出力値が最も大きい画素から順番にn個の点(画素)を基準点として取得する。次に、S=2(2回目の基準点取得)のとき、基準点取得部1015はLoGカーネルの出力値の大きさがn+1番目の点からLoGカーネルの出力値の大きい順にn個の点(画像)を追加の基準点として取得する。このような処理を、後述の処理制御部1045により領域抽出結果での変化の収束完了判定がなされるまで、繰り返し実行する。基準点取得部1015が取得する基準点の数nは、繰り返し処理の回数がS=1のときに基準点取得部1015が取得した基準点の数nと同じであってもよいし、操作者が必要に応じて異なる基準点の数を任意に設定してもよい。繰り返し処理の回数がS>2のときも同様である。また、基準点取得部1015は、取得する基準点の個数を繰り返し回数に応じて増加させてもよい。例えば、S=1のとき、ステップS2115で、基準点取得部1015は基準点として一つの点を取得し、S=2では基準点として二つの点を取得し、S=3では基準点として三つの点を取得してもよい。
尚、ステップS2115の処理は、操作者による手動入力を介してもよい。例えば、表示制御部1050は表示部160の表示制御を行い、操作者に前回の抽出結果を提示する。操作者は、前回の抽出結果の提示に基づいて、操作部170を介して、新しい基準点を手動で入力することが可能である。基準点取得部1015は、操作者によって手動入力された基準点を取得する。このような手動入力の機会を提供することで、操作者は、例えば、抽出対象の結節領域のうち一部が未抽出の場合に、未抽出領域付近を基準点として新たに取得することが可能となり、結果として未抽出領域を抽出することが可能となる。
基準点取得部1015が実行する以上の基準点取得処理により、新たに取得された基準点群をp seed_i(i=1,2,...n)とする。基準点取得部1015は、表示制御部1050を介して前回までに取得した基準点、及び抽出結果を表示させ、新しく取得した基準点を前回までに取得した基準点と区別可能に表示させてもよい。また、基準点取得部1015は、表示制御部1050を介して基準点を処理対象画像に重ねて表示させ、操作者が表示部160を参照しながら操作部170を操作して、不要な基準点を手動で削除するようにしてもよい。
(S2120)
ステップS2120において、抽出結果取得部1020は、初期領域抽出処理によって複数の肺結節の初期抽出結果を取得する。抽出結果取得部1020は、局所画像領域V'(x,y,z)と基準点群p seed_iを用いて、ステップS1120と同様に、複数回の領域抽出処理を行い、各々の基準点に対応した肺結節の初期抽出結果R (i=1,2,・・・n)を取得する。Sは、繰り返し処理の回数である。
(S2130)
ステップS2130において、抽出結果統合部1030は、抽出結果取得部1020が取得した複数の初期抽出結果を統合した統合結果を生成する。抽出結果統合部1030は、ステップS2120で取得した全ての初期抽出結果R (i=1,2,・・・n (i=1,2,・・・n)・・・R (i=1,2,・・・n)を統合した統合結果R(x,y,z)を取得する。そして、抽出結果統合部1030は、取得した統合結果R(x,y,z)(尤度マップ)に対して、正規化処理を施し、正規化尤度マップR'を取得する。抽出結果統合部1030による処理は第1実施形態の図6で説明したステップS1130と同様の処理であるため、説明を省略する。
(S2140)
ステップS2140において、領域抽出部1040は、基準点取得部1010が取得した基準点情報、および抽出結果統合部1030が取得した初期抽出結果の統合結果に基づいて、画像取得部1000が取得した処理対象画像から対象物の領域(肺結節の領域)を抽出する。領域抽出部1040は、局所画像領域V'(x,y,z)と、基準点群p seed_iと、初期抽出結果群R 、正規化尤度マップR'を用いて、対象物である肺結節の領域を抽出する。領域抽出部1040によって抽出された肺結節領域のS回目の領域抽出結果をRf(S)とする。この処理は第1実施形態で説明したステップS1140と同様の処理であるため、説明を省略する。
(S2145、S2148)
ステップS2045において、処理制御部1045は、ステップS2040で取得したS回目の領域抽出結果Rf(S)とS−1回目の領域抽出結果Rf(S−1)との差分を算出し、ステップS2148において、処理制御部1045は、算出した差分と閾値とを比較して、繰り返し処理を行うか否かを判定する判定処理を行う。判定処理は、例えば、S回目の領域抽出結果Rf(S)の体積とS−1回目の領域抽出結果Rf(S−1)の体積との差分Vdiffに基づいて実施する。体積の差分Vdiffが閾値Vより大きい場合(S2148−Yes)、処理制御部1045は、基準点取得部1010から、領域抽出部1040までの処理(S2100〜S2140)を繰り返し実施すると判定する。また、処理制御部1045は、体積の差分Vdiffが閾値V以下の場合(S2148−No)、領域抽出結果は収束したと判定する(収束完了判定)。判定処理に用いる閾値Vは式8のように算出してもよい。
ここでωは係数であり、VS−1はS−1回目の領域抽出結果Rf(S−1)の体積である。また、Vは操作者が事前に設定してもよい。尚、式8を用いて判定処理を実行する場合、S=1のとき閾値Vは取得されていないため、1回目の領域抽出結果(Rf(1))に対して、処理制御部1045は、自動的に繰り返し処理を行うと判定する。処理制御部1045によって、繰り返し処理を行うと判定された場合、基準点取得部1015、抽出結果取得部1020、抽出結果統合部1030、ならびに領域抽出部1040は、それぞれの処理を再び実行する。
(S2150)
ステップS2150において、表示制御部1050は、領域抽出の結果を表示する処理を行う。繰り返し処理が必要でないと判断された場合、すなわち、処理制御部1045によって、体積の差分Vdiffが閾値V以下と判定された場合、表示制御部1050は、領域抽出の結果を画像処理装置200に接続された表示部160に送信し、表示部160に領域抽出の結果を表示させる制御を行う。ステップS2150の処理は、第1実施形態の図8で説明したS1150と同様の処理であるため、説明を省略する。
本発明の第2実施形態に係る画像処理装置によれば、基準点の逐次追加取得によって、複数の初期抽出結果を逐次生成および統合し、領域抽出結果の収束判定処理を行うことで、より効率的に、かつ正確に領域を抽出することができる。
上述の各実施形態における画像処理装置および画像処理システムは、単体の装置として実現してもよいし、複数の情報処理装置を含む装置を互いに通信可能に組合せて上述の処理を実行する形態としてもよく、いずれも本発明の実施形態に含まれる。共通のサーバ装置あるいはサーバ群で、上述の処理を実行することとしてもよい。この場合、当該共通のサーバ装置は実施形態に係る画像処理装置に対応し、当該サーバ群は実施形態に係る画像処理システムに対応する。画像処理装置および画像処理システムを構成する複数の装置は所定の通信レートで通信可能であればよく、また同一の施設内あるいは同一の国に存在することを要しない。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:画像処理装置、1000:画像取得部、1010:基準点取得部、1020:抽出結果取得部、1030:抽出結果統合部、1040:領域抽出部、1050:表示制御部、1015:基準点取得部、1045:処理制御部

Claims (19)

  1. 画像から一つの対象物領域を抽出する画像処理装置であって、
    前記画像において、前記一つの対象物領域内に複数の基準点を設定する設定手段と、
    前記一つの対象物領域が有する特性に基づいて、前記一つの対象物領域に対して前記複数の基準点の夫々と対応する複数の輪郭を抽出し、抽出された該複数の輪郭を複数の初期抽出結果として取得する取得手段と、
    前記複数の初期抽出結果における各画素の値を統合した統合結果に基づいて、前記画像から前記一つの対象物領域を抽出する抽出手段と、
    を備えることを特徴とする画像処理装置。
  2. 前記抽出手段は、前記統合結果における各画素が前記一つの対象物領域に含まれる尤度を示す尤度マップを生成し、前記尤度マップに基づいて前記画像から前記一つの対象物領域を抽出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記抽出手段は、前記尤度マップにおける各画素の尤度と、前記一つの対象物領域が有する特性とに基づいて、前記画像から前記一つの対象物領域を抽出することを特徴とする請求項2に記載の画像処理装置。
  4. 前記一つの対象物領域が有する特性には、前記一つの対象物領域の領域内と領域外とで濃度値が変化する濃度値変化の特性と、前記一つの対象物領域が有する輪郭形状の特性と、が含まれることを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記抽出手段は、前記濃度値変化の特性の評価結果と、前記輪郭形状の特性の評価結果と、前記尤度マップにおける各画素の尤度の評価結果とに基づいて、前記画像から前記一つの対象物領域を抽出することを特徴とする請求項4に記載の画像処理装置。
  6. 前記抽出手段は、前記複数の初期抽出結果における各画素の値を同じ画素位置において加算した結果に基づいて、前記一つの対象物領域を抽出することを特徴とする請求項1に記載の画像処理装置。
  7. 前記設定手段は、操作手段からの入力情報に基づいて設定した初期基準点の画像特徴と類似した画像特徴を有する複数の画素を前記複数の基準点として設定することを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  8. 前記設定手段は、前記操作手段からの入力情報に基づいて設定した初期基準点と、前記初期基準点の画像特徴に類似した画像特徴を有する複数の画素とを、前記複数の基準点として設定することを特徴とする請求項7に記載の画像処理装置。
  9. 前記設定手段は、画像サイズを求めるための評価関数として、Laplacian of Gaussian(LoG)を用い、前記評価関数の出力値の分布に基づいて、前記一つの対象物領域を含む画像領域の画像サイズを決定することを特徴とする請求項7または8に記載の画像処理装置。
  10. 前記設定手段は、前記評価関数の出力値の最大値に対応する前記評価関数のスケールを表すパラメータに基づいて、前記一つの対象物領域を含む画像領域の画像サイズを決定することを特徴とする請求項9に記載の画像処理装置。
  11. 前記設定手段は、前記評価関数の出力値に基づいて前記複数の基準点を設定することを特徴とする請求項10に記載の画像処理装置。
  12. 前記取得手段は、前記複数の基準点の重心を求めることにより、前記一つの対象物領域を含む画像領域の位置を設定し、
    前記取得手段は、前記画像サイズと前記位置とを用いて前記画像から前記画像領域を取得することを特徴とする請求項11に記載の画像処理装置。
  13. 前記画像特徴には、前記画像を構成する各画素の画素値、または、前記評価関数の出力値が含まれることを特徴とする請求項9乃至12のいずれか1項に記載の画像処理装置。
  14. 前記設定手段は、繰り返し演算において、複数の基準点を追加設定し、
    前記取得手段は、設定されている第1の複数の基準点および前記追加設定された第2の複数の基準点の夫々と対応する対象物領域の輪郭を初期抽出結果として取得し、
    前記抽出手段は、前記第1の複数の基準点および追加設定された前記第2の複数の基準点に基づいて取得された複数の初期抽出結果における各画素の値を統合した統合結果に基づいて、前記画像から前記一つの対象物領域を抽出する
    ことを特徴とする請求項1乃至13のいずれか1項に記載の画像処理装置。
  15. 前記追加設定される複数の基準点の増加に伴い、前記抽出手段で抽出される前記一つの対象物領域の特徴を示す特徴情報の変化量を取得して、前記変化量と閾値との比較に基づいて前記繰り返し演算を継続するか否かを判定する判定手段を更に備えることを特徴とする請求項14に記載の画像処理装置。
  16. 前記抽出手段による領域抽出の結果を表示手段に表示させるための表示制御を行う表示制御手段を更に備え、
    前記表示制御手段は、抽出された前記一つの対象物領域と前記画像とを重ね合わせて合成した画像を前記表示手段に表示させることを特徴とする請求項1乃至15のいずれか1項に記載の画像処理装置。
  17. 請求項1乃至16のいずれか1項に記載の画像処理装置を有することを特徴とする画像処理システム。
  18. 画像から一つの対象物領域を抽出する画像処理装置における画像処理方法であって、
    前記画像において、前記一つの対象物領域内に複数の基準点を設定する工程と、
    前記一つの対象物領域が有する特性に基づいて、前記一つの対象物領域に対して前記複数の基準点の夫々と対応する複数の輪郭を抽出し、抽出された該複数の輪郭を複数の初期抽出結果として取得する取得工程と、
    前記複数の初期抽出結果における各画素の値を統合した統合結果に基づいて、前記画像から前記一つの対象物領域を抽出する工程と、
    を有することを特徴とする画像処理方法。
  19. コンピュータに、請求項18に記載の画像処理方法の各工程を実行させるためのプログラム。
JP2016144750A 2016-07-22 2016-07-22 画像処理装置、画像処理システム、画像処理方法、およびプログラム Active JP6792364B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2016144750A JP6792364B2 (ja) 2016-07-22 2016-07-22 画像処理装置、画像処理システム、画像処理方法、およびプログラム
US15/649,720 US10949698B2 (en) 2016-07-22 2017-07-14 Image processing apparatus, image processing system, image processing method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016144750A JP6792364B2 (ja) 2016-07-22 2016-07-22 画像処理装置、画像処理システム、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2018011870A JP2018011870A (ja) 2018-01-25
JP6792364B2 true JP6792364B2 (ja) 2020-11-25

Family

ID=60989515

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016144750A Active JP6792364B2 (ja) 2016-07-22 2016-07-22 画像処理装置、画像処理システム、画像処理方法、およびプログラム

Country Status (2)

Country Link
US (1) US10949698B2 (ja)
JP (1) JP6792364B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6862147B2 (ja) * 2016-11-09 2021-04-21 キヤノン株式会社 画像処理装置、画像処理装置の作動方法、画像処理システム
US10504251B1 (en) * 2017-12-13 2019-12-10 A9.Com, Inc. Determining a visual hull of an object
JP7143118B2 (ja) * 2018-05-23 2022-09-28 浜松ホトニクス株式会社 大腰筋領域画定装置および大腰筋領域画定方法
JP7181000B2 (ja) * 2018-05-24 2022-11-30 日本電子株式会社 生物組織画像処理装置及び方法
CN109636810B (zh) * 2018-11-28 2020-11-03 心医国际数字医疗系统(大连)有限公司 Ct影像的肺结节分割方法及系统
JP2020096728A (ja) * 2018-12-18 2020-06-25 大日本印刷株式会社 ピクセル画像に基づいて所定の選択条件を満たすボクセルを選択するための装置、方法、及びプログラム
JP2020170408A (ja) * 2019-04-04 2020-10-15 キヤノン株式会社 画像処理装置、画像処理方法、プログラム
JPWO2021002356A1 (ja) * 2019-07-02 2021-01-07

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3330090B2 (ja) * 1998-09-30 2002-09-30 松下電器産業株式会社 臓器境界抽出方法および装置
JP4614548B2 (ja) * 2001-01-31 2011-01-19 パナソニック株式会社 超音波診断装置
JP3881265B2 (ja) * 2002-03-07 2007-02-14 富士フイルムホールディングス株式会社 異常陰影の検出領域設定装置
US7006677B2 (en) * 2002-04-15 2006-02-28 General Electric Company Semi-automatic segmentation algorithm for pet oncology images
US7035461B2 (en) * 2002-08-22 2006-04-25 Eastman Kodak Company Method for detecting objects in digital images
TWI239209B (en) * 2004-04-08 2005-09-01 Benq Corp A specific image extraction method, storage medium and image pickup device using the same
JP2006048205A (ja) * 2004-08-02 2006-02-16 Matsushita Electric Ind Co Ltd 瞳孔検出装置および虹彩認証装置
US7907768B2 (en) * 2006-12-19 2011-03-15 Fujifilm Corporation Method and apparatus for probabilistic atlas based on shape modeling technique
JP4640845B2 (ja) * 2007-03-05 2011-03-02 富士フイルム株式会社 画像処理装置およびそのプログラム
EP2522279A4 (en) * 2010-01-07 2016-11-30 Hitachi Ltd DIAGNOSIS DEVICE WITH MEDICAL PICTURES, METHOD FOR EXTRACTION AND PROCESSING OF THE CONTOUR OF MEDICAL PICTURES
JP6383182B2 (ja) * 2014-06-02 2018-08-29 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP6158143B2 (ja) * 2014-07-18 2017-07-05 ジーイー・メディカル・システムズ・グローバル・テクノロジー・カンパニー・エルエルシー 石灰化表示装置及び撮影装置並びにプログラム

Also Published As

Publication number Publication date
JP2018011870A (ja) 2018-01-25
US10949698B2 (en) 2021-03-16
US20180025250A1 (en) 2018-01-25

Similar Documents

Publication Publication Date Title
JP6792364B2 (ja) 画像処理装置、画像処理システム、画像処理方法、およびプログラム
EP3444781B1 (en) Image processing apparatus and image processing method
EP2443587B1 (en) Systems for computer aided lung nodule detection in chest tomosynthesis imaging
Zhou et al. Automated coronary artery tree extraction in coronary CT angiography using a multiscale enhancement and dynamic balloon tracking (MSCAR-DBT) method
Abdolali et al. Automatic segmentation of mandibular canal in cone beam CT images using conditional statistical shape model and fast marching
US20070116334A1 (en) Method and apparatus for three-dimensional interactive tools for semi-automatic segmentation and editing of image objects
JP6824845B2 (ja) 画像処理システム、装置、方法およびプログラム
JP6643821B2 (ja) 画像処理装置
US9305356B2 (en) Image processing method and apparatus
EP2953095B1 (en) Image processing apparatus, image processing system, image processing method, and storage medium
WO2011114243A1 (en) Functional image data enhancement and/or enhancer
WO2018088055A1 (ja) 画像処理装置、画像処理方法、画像処理システム及びプログラム
WO2005031649A1 (en) Method and system for automatic orientation of local visualization techniques for vessel structures
JP6827707B2 (ja) 情報処理装置および情報処理システム
JP6934734B2 (ja) 画像処理装置、画像処理装置の制御方法およびプログラム
JP7321671B2 (ja) 情報処理装置、情報処理方法、情報処理システムおよびプログラム
Dovganich et al. Automatic quality control in lung X-ray imaging with deep learning
US11244458B2 (en) Image processing apparatus, image processing method, and program
Kockelkorn et al. Semi-automatic classification of textures in thoracic CT scans
Xu et al. Highly precise partial volume correction for PET images: An iterative approach via shape consistency
US11295451B2 (en) Robust pulmonary lobe segmentation
Wieclawek et al. Live-wire-based 3d segmentation method
US11704795B2 (en) Quality-driven image processing
Medina et al. Accuracy of connected confidence left ventricle segmentation in 3-D multi-slice computerized tomography images
O'Dell Method for accurate sizing of pulmonary vessels from 3D medical images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190628

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200601

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200720

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201009

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201106

R151 Written notification of patent or utility model registration

Ref document number: 6792364

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151