JP6651214B2 - 画像処理装置、画像処理方法、プログラム及び記録媒体 - Google Patents

画像処理装置、画像処理方法、プログラム及び記録媒体 Download PDF

Info

Publication number
JP6651214B2
JP6651214B2 JP2015123629A JP2015123629A JP6651214B2 JP 6651214 B2 JP6651214 B2 JP 6651214B2 JP 2015123629 A JP2015123629 A JP 2015123629A JP 2015123629 A JP2015123629 A JP 2015123629A JP 6651214 B2 JP6651214 B2 JP 6651214B2
Authority
JP
Japan
Prior art keywords
predetermined
threshold
area
threshold value
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015123629A
Other languages
English (en)
Other versions
JP2017006296A (ja
Inventor
五十嵐 健夫
健夫 五十嵐
太一 金
太一 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Tokyo NUC
Original Assignee
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Tokyo NUC filed Critical University of Tokyo NUC
Priority to JP2015123629A priority Critical patent/JP6651214B2/ja
Priority to PCT/JP2016/067971 priority patent/WO2016204241A1/ja
Priority to US15/737,019 priority patent/US11004195B2/en
Publication of JP2017006296A publication Critical patent/JP2017006296A/ja
Application granted granted Critical
Publication of JP6651214B2 publication Critical patent/JP6651214B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/02007Evaluating blood vessel condition, e.g. elasticity, compliance
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing

Description

本発明は、画像処理装置、画像処理方法、プログラム及び記録媒体に関する。
医療の現場において、CT(Computer Tomography)や、MRI(Magnetic Resonance Imaging)等を用いて得られた検査画像から、血管などの対象物を抽出したいという要望がある。この要望に対し、従来は、ユーザが画面を見ながら所定領域を選択し、選択された所定領域毎に、明度等に対する閾値を設定することで、対象物を抽出することが知られている(例えば特許文献1)。
国際公開第2015/053319号
しかしながら、従来技術では、対象物が、大きさや明度等が部分的に異なることから、画像内の所定領域を、対象物の部分の大きさや明度等に合わせて何度も選択したり、所定領域内のクラッタ(Clutter)等の不要な部分を削除したりする必要があり、対象物を抽出するのに多くの時間がかかっていた。
そこで、本発明の所定の態様は、画像から対象物を抽出するにかかる時間を軽減することができる画像処理装置、画像処理方法、プログラム及び記録媒体を提供することを目的とする。
本発明の一態様における画像処理装置は、
画像内の各点における明度の閾値を変更する変更部と、
前記変更部により閾値が変更される度に、当該閾値以上の明度値を含む点を表示するよう制御する第1表示制御部と、
ユーザ操作に基づき、表示された画像内の1又は複数の所定領域の指定を受け付ける受付部と、
指定された前記所定領域内の各点の閾値を、当該所定領域の指定時の前記変更部による閾値に固定する固定部と、
画像内に1又は複数の前記所定領域がある場合、前記所定領域内の点のうち前記固定部により固定された閾値以上の明度値を含む点、及び前記所定領域外の点のうち前記変更部により変更される閾値以上の明度値を含む点を表示するよう制御する第2表示制御部と、
を備える。
本発明の所定の態様によれば、画像から対象物を適切に抽出しつつ、処理時間を軽減することができる。
実施形態における画像処理装置の概略構成の一例を示すブロック図である。 実施形態における画像処理装置の機能の一例を示すブロック図である。 実施形態におけるアプリケーションの実行画面の一例を示す図である。 実施形態における画像処理装置の処理手順の概要について説明するための図である。 明度値と閾値との関係を示す図である。 対象領域の指定処理(その1)について説明するための図である。 対象領域の指定処理(その2)について説明するための図である。 対象領域の指定処理(その3)について説明するための図である。 対象領域の指定処理(その4)について説明するための図である。 対象領域の指定処理(その5)について説明するための図である。 対象領域の指定処理(その6)について説明するための図である。 対象領域の指定処理(その7)について説明するための図である。 対象領域の指定処理(その8)について説明するための図である。 実施形態におけるデータ表現の一例を示す図である。 閾値変更に伴う問題を説明するための図である。 偽等値面を説明するための図である。 偽等値面の一例を示す図である。 正常な等値面の一例を示す図である。 実施形態における対象物抽出処理の一例を示すフローチャートである。 実施形態における偽等値面を検出する処理の一例を示すフローチャートである。 変形例における医療システムの概略構成を示す図である。
以下、添付図面を参照しながら本発明の実施形態について詳細に説明する。
[実施形態]
<構成>
図1は、実施形態における画像処理装置10の概略構成の一例を示すブロック図である。図1に示すように、画像処理装置10は、CPU(Central Processing Unit)102と、RAM(Random Access Memory)104と、ROM(Read only Memory)106と、ドライブ装置108と、ネットワークI/F(Interface)110と、入力装置112と、表示装置114とを有する。これら各構成は、バスを介して相互にデータ送受信可能に接続されている。
CPU102は、コンピュータの中で、各装置の制御やデータの演算、加工を行う制御部である。また、CPU102は、RAM104又はROM106に記憶された、画像から対象物を抽出するためのアプリケーションプログラムを実行する演算装置である。CPU102は、入力装置112やネットワークI/F110などから画像データを受け取り、演算、加工した上で、演算結果を表示装置114や記憶装置などに出力する。
RAM104は、例えば主記憶部などである。RAM104は、CPU102が実行する基本ソフトウェアであるOS(Operating System)やアプリケーションソフトウェアなどのプログラムやデータを記憶又は一時保存する記憶装置である。
ROM106は、例えばアプリケーションソフトウェアなどに関連するデータを記憶する記憶装置である。
ドライブ装置108は、記録媒体116、例えばCD−ROMやSDカードなどからプログラムやデータを読み出し、記憶装置にインストールしたりダウンロードしたりする。
また、記録媒体116に、所定のプログラムを格納し、この記録媒体116に格納されたプログラムはドライブ装置108を介して画像処理装置10にインストールされる。インストールされた所定のプログラムは、画像処理装置10により実行可能となる。
ネットワークI/F110は、通信機能を有する周辺機器と画像処理装置10とのインターフェースである。また、ネットワークI/F110は、例えば、有線及び/又は無線回線などのデータ伝送路により構築されたLAN(Local Area Network)、WAN(Wide Area Network)などのネットワークを介して接続される。
入力装置112は、カーソルキー、数字入力及び各種機能キー等を備えたキーボード、表示装置114の表示画面上でキーの選択等を行うためのマウスやスライドパッド等を有する。また、入力装置112は、ユーザがCPU102に操作指示を与えたり、データを入力したりするためのユーザインターフェースである。
表示装置114は、LCD(Liquid Crystal Display)等により構成され、CPU102から入力される表示データに応じた表示が行われる。なお、入力装置112や表示装置114は、画像処理装置10の外部に設けられてもよい。
<機能>
次に、画像処理装置10の機能について説明する。図2は、実施形態における画像処理装置10の機能の一例を示すブロック図である。図2に示す画像処理装置10は、演算部200と、記憶部250とを備え、演算部200は、変更部202と、表示制御部204と、受付部210と、固定部212と、検出部214とを少なくとも備える。
なお、図2に示す演算部200は、例えばCPU102やワークメモリとしてのRAM104などにより実現されうる。CPU102は、画像から対象物を抽出するためのアプリケーションプログラムを実行することで、演算部200内の各部の機能を実行することができる。また、記憶部250は、例えばRAM104及び/又はROM106により実現されうる。
表示制御部204は、例えば医療用の検査画像から、血管などの対象物を抽出するためのアプリケーションの実行画面を、表示装置114に表示するよう制御する。図3を用いて後述するが、この実行画面には、画像内の各点における明度(Intensity)等の閾値を変更するためのツールや、画像内の所定領域をペイントするためのツール等が表示される。画像内の点は、例えば、2次元画像の場合、ピクセルを表し、3次元画像の場合、ボクセルを表す。
変更部202は、表示装置114に表示された画像内の各点における明度の閾値を変更する。画像の明度は、彩度や輝度等でもよく、また、この閾値は、エッジ検出のための閾値でもよい。閾値の変更について、変更部202は、画面に表示された閾値変更のためのスライダ等をユーザに操作されることで変更してもよいし、自動で順に閾値が大きく又は小さくなるように変更してもよい。
表示制御部204は、第1表示制御部206、第2表示制御部208を有する。なお、第1表示制御部206と第2表示制御部208とは、説明の便宜上分けて説明するが、1つのモジュールにより実行されてもよい。第1表示制御部206は、変更部202により閾値が変更される度に、閾値以上の明度値を含む点を表示装置114に表示するよう制御する。
これにより、ユーザは、どれくらいの閾値の時に、どの対象物が表示されるかを把握することができる。例えば、閾値が低い場合は、細かい、明度が小さい対象物、例えば細い血管が表示されやすくなるが、クラッタ等のアーチファクトも表示されやすくなる。他方、閾値が高い場合は、クラッタなどのアーチファクトは表示されにくいが、明度が大きい対象物、例えば太い血管だけが表示されやすくなる。
受付部210は、ユーザ操作に基づき、表示された画像内の1又は複数の所定領域の指定を受け付ける。例えば、ユーザ操作とは、連結領域を指定するためのクリック操作や、連結領域を拡張するためのドラッグ操作などである。ここでは、クリックやドラッグなどの簡単なユーザ操作を、所定領域の指定に対応付けておくとよい。連結領域は、変更部202による閾値以上の明度値を含む点に基づく領域であり、例えば、閾値より大きい明度値を有する後述のセルのうち、隣り合う(連結する)セルを集めた領域をいう。
固定部212は、指定された所定領域内の各点の閾値を、この所定領域が指定された時の変更部202による閾値に固定する。所定領域内の各点の閾値を固定することで、所定領域は、変更部202が閾値を変更しても、その影響を受けることなく、継続して表示されることが可能である。
第2表示制御部208は、ユーザにより指定された、画像内に1又は複数の所定領域がある場合、この所定領域内の点のうち固定部212により固定された閾値以上の明度を含む点、及び所定領域外の点のうち変更部202により変更される閾値以上の明度を含む点を、表示するよう制御する。すなわち、閾値が変更されても、所定領域内の画像には変更がないようにする。これは、所定領域は、ユーザが指定した領域であり、その内容が変更されない方が良いからである。
また、このアプリケーションは、ペイント機能を用いることで、より簡単に所定領域の選択や識別を行うことができる。例えば、受付部210は、ユーザが、表示された画像の連結領域内の所定位置を指定した場合、この連結領域を所定領域の指定として受け付ける。この場合、第2表示制御部208は、連結領域の色を所定色に変更して表示するよう制御してもよい。
これにより、ユーザは、1クリックで領域の指定と、閾値の固定と、領域の識別とを行うことができる。なお、指定された所定領域は、他の領域から識別できればよいので、色を変更する以外に斜線等が付与されてもよい。
また、変更部202は、所定領域内の位置を開始位置とするドラッグ操作時における所定操作により、ドラッグ先から所定範囲内の閾値の変更を可能にする。例えば、ドラッグ操作時に、左右方向の矢印キーが押下されることで、この閾値を大きくしたり小さくしたりする。
この場合、受付部210は、指定された所定領域付近を開始位置とするドラッグ操作を受け付ける。受付部210は、さらにこのドラッグ操作における軌跡を含み、所定操作に基づく、ドラッグ先の所定範囲内の閾値の変更により表示される連結領域を、所定領域の拡張の指定として受け付けてもよい。これにより、容易に所定領域の拡張を実装することができる。
また、固定部212は、指定された所定領域内の点に隣接する点で、閾値が固定されていない隣接点がある場合、この隣接点の閾値を固定してもよい。これにより、閾値が変更されても、領域境界が変更されにくくなり、領域の境界付近の表示を安定して提供することができる。
検出部214は、例えば所定領域が所定色で表示される場合、所定色に変更された領域の境界において、画像の明度の勾配方向、及びこの領域の等値面(Isosurface)の法線方向に基づいて、この所定色に変更されるべきではない偽等値面を検出する。
偽等値面とは、ユーザが、閾値を領域内で急激に変化させてしまうことに起因し、本来ならば表示されて欲しくはないが、表示されてしまう等値面のことである。例えば、明度値がほぼ100で一定している背景領域で、閾値が急激に200から50に変化すると、本来明度値の変化のないところに等値面が生成されてしまう。検出部214は、この領域を偽等値面として検出する。
例えば、検出部214は、閾値以上の明度値を含む点を有する領域の境界において、画像の明度の勾配下降方向と、等値面の法線方向とを比べて、例えば両方向が逆の方向であれば、その等値面の部分は、元画像データの内部構造を正しく表現できていないと判断する。また、検出部214は、実装を容易にするため、明度の勾配方向として、明度値から閾値を減算して得られる値の勾配下降方向を用いてもよい。
第2表示制御部208は、検出部214により検出された領域の色を、所定色とは異なる特別な色に変更する。これにより、ユーザは、偽等値面を容易に認識することができる。なお、偽等値面は、他の領域から識別できればよいので、色を変更する以外にハッチング等により識別できればよい。
記憶部250は、画像から対象物を抽出するためのプログラムを記憶したり、上述した処理の中間データ等を記憶したりする。なお、記憶部250は、複数の記憶部に分散されてもよい。
以上により、例えば、ユーザは、CT画像やMRI画像などの複雑な画像に対し、閾値を変更しながら、その場その場で領域指定をするだけで、ユーザが抽出したい血管などの対象物を容易に、かつ適切に抽出することができる。よって、画像から対象物を適切に抽出しつつ、処理時間を軽減することができる。さらに、ユーザは、従来技術と比べて、指定した領域毎に、適切な閾値の設定に悩む必要がない。
また、抽出対象領域の拡張について、ユーザは、拡張したい領域周辺の閾値を変更しながら、表示される領域を指定することができるので、容易にかつ簡便に画像から抽出対象物を拡張することができる。
<アプリケーション実行画面>
次に、本発明を実装したアプリケーションの実行画面の例について説明する。画像は、頭部をMRI等の検査で得られた3次元画像を例にする。外科手術の際にこの画像を参照することを想定し、抽出対象物は血管とする。
図3は、実施形態におけるアプリケーションの実行画面の一例を示す図である。図3に示す画面D10には、頭部の3次元画像を表示する領域AR10が含まれる。3次元画像内には血管V10が含まれる。また、画面D10には、複数の機能を実行するボタンが含まれる。
ボタンB10〜B14は、視点を変えるためのボタンである。ボタンB10は、正面図を表示するためのボタンであり、ボタンB12は、上面図を表示するためのボタンであり、ボタンB14は、側面図を表示するためのボタンである。
表示制御部204は、各ボタンの押下に基づいて、領域AR10内の視点を切り替える。なお、表示制御部204は、領域AR10内がドラッグ操作されることで、ドラッグ方向に応じて画像の視点を細かく変更することができる。
スライダS10は、画像内の各点における明度の閾値を変更するためのスライダである。以下、スライダにより変更される閾値を、第1閾値とも称する。図3に示す画面の例では、つまみ部分を左にスライドさせれば第1閾値が小さくなり、つまみ部分を右にスライドさせれば第1閾値が大きくなる。スライダS10内のつまみ部分の位置に応じて、第1閾値Thが表示される。図3に示す例では、現在の第1閾値Thは「470」である。変更部202は、ユーザ操作によるつまみ部分の位置の変更に応じて、第1閾値を変更する。
領域AR10内の画像において、第1閾値の変更により、等値面を含む血管V10のサイズや位置などが変更される。第1表示制御部206は、この第1閾値の変更に応じて、第1閾値以上の明度を含む血管V10を表示するよう制御する。
次に、抽出対象の血管を指定しやすく、また、抽出対象の結果を識別しやすくするためのペイント機能について説明する。
ボタンB24は、ユーザが所定領域を指定又は塗りつぶすためのFillツールを示すボタンである。指定された所定領域は、ユーザが抽出したい対象物を示す。また、受付部210は、このボタンB24が押された後、クリックが検出されると、クリック位置を含む連結領域を所定領域の指定として受け付ける。連結領域は、例えば所定色に変更される。所定色は、例えば赤みがかった色(reddish)である。これにより、指定した領域の識別が容易になる。
ボタンB22は、指定された血管を拡張させるためのBlushツールを示すボタンである。このボタンB22が押された後、ドラッグ操作が検出されると、ドラッグ操作の軌跡を含む血管を、軌跡に沿って拡張させることができる。受付部210は、ボタンB22の押下後のドラッグ操作を受け付けることで、ドラッグ操作の軌跡を含む連結領域を、抽出対象領域の指定として受け付ける。これにより、ユーザは、ドラッグ操作を用いて容易に領域を拡張させることができる。このとき、ブラシ先(ドラッグ先)から所定範囲内の閾値が変更可能である。以下、この閾値を、第2閾値とも称する。
ボタンB26は、抽出対象の所定領域を削除するためのEraserツールを示すボタンである。このボタンB26が押された後、ドラッグ操作が検出されると、ドラッグの軌跡に沿って、この軌跡を含む所定範囲が消去される。これにより、抽出対象領域で消去したい部分を消去することができる。
ボタンB28は、所定領域の指定又は塗りつぶしを取り消すためのUnfillツールを示すボタンである。このボタンB28が押された後、ボタンB24により指定された領域内でクリックが検出されると、この領域の指定が取り消される。
ボタンB30は、所定領域の境界部分を滑らかにするためのSmoothツールを示すボタンである。このボタンB30が押された後、クリックされた位置の周辺において、ラプラシアンスムージング(Laplacian Smoothing)が適用される。例えば、このツールは、ブラシ境界で現れる閾値の不連続性を緩和するのに役に立つ。
ボタンB32は、任意領域を指定するためのLassoツールを示すボタンである。このボタンB32が押された後、連結領域を形成するドラッグ操作が検出されると、ドラッグの軌跡内部が選択される。
ボタンB34は、一つ前の操作に戻るためのUndoツールを示すボタンである。このボタンB34が押されると、ひとつ前の操作が実行された後の状態に戻る。
ボタンB36は、選択された領域内の対象物を消去するためのClearツールを示すボタンである。ボタンB32の押下により連結領域が選択された状態で、このボタンB36が押されると、連結領域内の対象物が消去される。
ボタンB38は、抽出したい等値面を含む画像を確定させるためのCompleteツールを示すボタンである。このボタンB38が押されると、領域AR10内の抽出対象物がFIXされる。
<提案手法の処理手順の概要>
図4は、実施形態における画像処理装置10の処理手順の概要について説明するための図である。図4に示す例では、以下の手順で対象物が抽出される。
(1)高い閾値での所定領域指定
第1閾値が高く(大きく)設定された状態で、ボタンB24が押された後、連結領域V20の所定領域内がクリックされると、クリック位置を含む連結領域V20が所定色にペイントされる。
(2)領域拡張開始
ボタンB22が押された後、連結領域内、又はペイントされた領域内の位置を開始位置としてドラッグ操作が検出されると、ドラッグの軌跡に沿って、第2閾値よりも明度値が大きい点を含む領域が現れ、この領域が指定されていく。ユーザは、ドラッグをする位置について、事前に第1閾値を小さく変更することでどの辺に対象物があるかを把握しておくとよい。
(3)領域拡張(その1)
ドラッグ操作が継続され、第2閾値が変更されると、そのドラッグの軌跡を含む、第2閾値以上の明度値の点を含む連結領域V22が指定されていく。このとき、第2閾値を小さく変更していき、連結領域V22が表示されるようにするとよい。なお、ドラッグ先に連結領域がない場合は領域の指定は行われない。
(4)領域拡張(その2)
さらに、連結領域V22内の位置を開始位置としてドラッグ操作が検出されると、ドラッグの軌跡に沿って、この軌跡を含む領域V24が指定されていく。ドラッグ操作による拡張については特に数の制限などはない。
これにより、クリック操作とドラッグ操作とに基づくペイント機能を用いて、容易に対象物を抽出することができる。
<明度値と閾値との関係>
図5は、明度値と閾値との関係を示す図である。図5に示す或る横断面の例を用いて、等値面がどのようにして現れる(表示される)かについて説明する。
(1)高い閾値
高い閾値Th1が設定される場合、この閾値Th1に一致する明度値が等値面(Isosurface)として現れる。この明度値以上の明度値を含む太い血管が表示される。よって、太い血管のみが抽出され、細い血管は抽出されにくい。
(2)低い閾値
低い閾値Th2が設定される場合、この閾値Th2に一致する明度値が等値面として現れる。この明度値以上の細い血管やノイズや太い血管が表示される。よって、細い血管が表示可能であるが、同時にノイズも多く表示されてしまう。
(3)提案手法の閾値
閾値Th3に示すように、閾値を任意の場所で容易に適宜設定することができるため、血管のみを表示することが可能である。例えば、太い血管は、図4に示す(1)のクリック操作で指定され、細い血管は、図4に示す(2)〜(4)のドラッグ操作で指定される。
<対象領域の指定処理>
次に、図6A〜Hを用いて、対象領域の指定処理について詳しく説明する。ここでは、血管の領域を対象領域とする。
図6Aに示す例において、変更部202は、ユーザ操作に基づき、第1閾値を250(低い値)に設定したとする。第1閾値が低いため、画像内には、大小多くの血管やクラッタが表示される。
図6Bに示す例において、変更部202は、ユーザ操作に基づき、第1閾値を500(高い値)に設定したとする。第1閾値が高いため、画像内には、太い血管が表示され、細い血管等は表示されない。このように、ユーザは、図3に示すスライダS10を用いて第1閾値を適宜変更することで、第1閾値の変更に応じた血管の表示具合を把握することができる。
図6Cにおいて、第1閾値が500の時に、ユーザは、ボタンB24を押し、血管の連結領域V30内をクリックしたとする。受付部210は、この操作に基づき、血管の連結領域V30内の指定を受け付け、第2表示制御部208は、この連結領域V30の色を所定色に変更する。このとき、固定部212は、連結領域V30内の閾値を500に固定する。
これにより、閾値固定後に、ユーザがスライダS10を用いて第1閾値を変更したとしても、連結領域V30の閾値は固定されているため、この連結領域V30の表示は変わらない。
図6Dにおいて、ユーザは、血管の構造をより詳細に把握するために、スライダS10を用いて第1閾値を低くし、250に戻したとする。このとき、連結領域V30は、他の領域とは色が異なるため、識別しやすくなっており、また、ユーザは、血管の構造の概要を把握することができる。
図6Eにおいて、ユーザは、第1閾値を500に戻し、図3に示すボタンB22を押し、血管の拡張を図るとする。ここで、図6Dにおいて把握しておいた、図6Eに示す円で囲んだ部分の細かい血管を拡張するとする。
ユーザは、連結領域V30内の開始位置からドラッグ操作を開始し、さらに所定操作を行って第2閾値を低くしていく。これによりドラッグ先から所定範囲内の第2閾値が低くなり、細かい血管が表示される。例えば第2閾値は、所定操作に基づき250に変更されたとする。所定操作は、例えばキーボードの左矢印キーの押下とする。また、キーボードの右矢印キーは、ドラッグ先から所定範囲内の第2閾値を高くするためのキーとして割り当てるとよい。
よって、ユーザは、ドラッグをしつつ、ドラッグ先周辺の第2閾値を変更しながら、対象物の領域を拡張していくことが可能になる。このとき、受付部210は、拡張される領域の指定を受け付け、第2表示制御部208は、拡張される領域の色を所定色に変更し、固定部212は、拡張される領域の閾値を、指定時の第2閾値(250)に固定する。
図6F及び図6Gにおいて、ユーザは、第2閾値を適宜変更しつつ、ドラッグ操作を継続し、抽出したい所定領域を拡張していく。また、ユーザは、例えば、画面に表示される筆先の半径を、キーボードの上矢印キーや、下矢印キーの押下により変更することができる。
上述したドラッグ操作における領域拡張処理は、例えば、抽出対象の対象領域が抽出できるまでや、クラッタを削除するまで、続けて行うことができる。
図6Hにおいて、ユーザは、スライダS10を用いて第1閾値を再び250に戻したとする。このとき、既に所定色に変更された領域は、第1閾値の変更に影響を受けず、他の領域とは識別可能である。
<データ表現>
本発明における3次元画像のデータ表現について説明する。3次元画像における各点において、本発明の各処理を通して固定の明度値を有するボリュームデータが保持される。さらに、各点において、ユーザにより変更可能な閾値が保持される。また、各点において、「固定」、又は「自由」のいずれかを示す状態データが保持される。状態は、初めは「自由」であるが、ユーザにより指定(ペイント)された領域の点は、「固定」に変更される。
等値面抽出のために、標準的なマーチングキューブアルゴリズムが適用される。まず、ボリュームデータから閾値を減算した仮のボリュームデータが計算される。次に、マーチングキューブアルゴリズムが適用され、閾値がゼロとなる。これにより、等値面が抽出される。
以下、3次元画像の各点について、ノードと称する。図7は、実施形態におけるデータ表現の一例を示す図である。図7に示す例では、各ノードには、明度値、閾値、状態データが関連付けられる。マーチングキューブアルゴリズムは、8隣接ノードによって囲まれたセルの内側にメッシュ面を生成する。もし、X×Y×Zのノードが存在すれば、全部で(X−1)×(Y−1)×(Z−1)のセルが存在する。各ノードは、6個のノードと隣接する。
以上より、実施形態では、各ノードに閾値が設定されるため、画像全体では、閾値フィールドを有することになる。実施形態では、この閾値フィールド内の各ボクセルの閾値を全体的に変更する場合は、図3に示すスライダS10を用いて変更部202が変更し、ドラッグ先周辺だけの閾値を変更する場合には、変更部202がドラッグ中の所定操作を受け付けて変更する。また、この閾値フィールドは、ユーザに指定された領域を含み、この領域内の各ボクセルの閾値は固定される。固定された閾値は、変更部202による全体的な閾値の変更では変更されない。
<ツール操作>
図3に示すボタンB24のFillツールにおいて、ユーザは、画面上の所定位置をクリックする。画像処理装置10は、画面上に現れる現在の等値面の面を見つけるため、ピックオペレーション(pick operation)を適用する。画像処理装置10は、その面を含むセルを識別し、そのセルの周りの8個のノードを特定する。もし、そのノードの明度が閾値よりも高ければ、画像処理装置10は、そのノードを固定された状態にする。画像処理装置10は、そのノードに隣接する6個のノードを固定された状態にする。
次に、Blushツールにおいて、ユーザは、マウスカーソルをドラッグし、画像処理装置10は、マウスカーソル下の前景セルを見つけるため、ピックオペレーション(pick operation)を適用する。画像処理装置10は、ピックされたセルの中央にブラシの先端を配置し、ブラシの半径よりも、ブラシ先端からノードまでの距離が小さいノードを特定する。
画像処理装置10は、特定されたノードの閾値をブラシの第2閾値に設定する。もしノードに設定された閾値が明度よりも低ければ、画像処理装置10は、そのノードの状態を固定に変更する。
ブラシ操作が始まると、画像処理装置10は、ブラシの第2閾値を、ピックされたセルの周りにある前景ノードの閾値に設定する。そのセルの周りに複数の前景ノードがあれば、最小のものが用いられる。ユーザは、上述したとおり、所定操作によりブラシの第2閾値を変更することができる。
次に、図3に示されていないが、Cleanツールについて説明する。Cleanツールは、固定されたノードをクラスタリングするためのツールである。画像処理装置10は、クラスタ内のノードペア間の最大値が定義された各クラスタの直径を測る。その直径が予め設定された閾値よりも小さければ、画像処理装置10は、そのクラスタ内のノードの状態を「自由」に設定する。
<保護処理>
次に、ノードの保護処理について説明する。まず、前提として、図3に示すスライダS10により閾値が変更されると、画像処理装置10は、状態が「自由」なノード全てに対して、変更された閾値を設定する。このとき、図8に示す問題が発生する。
図8は、閾値変更に伴う問題を説明するための図である。図8の(1)に示す例では、閾値の変更により、ペイントされた等値面の様子が変化する。図8の(1)において、閾値がTh11〜14まで変化すると、等値面の明度が下がっていく。固定したはずの等値面が変化することを避けるため、図8の(2)に示すように、固定されたノードに隣接するノードが自由なノードであれば、その自由なノードを保護(固定)する。これにより、閾値が変更されても、等値面の様子は変化しないため、等値面の安定した表示を提供することができる。
<偽等値面>
実施形態におけるペイントインターフェースが用いられると、画像処理装置10は、高い明度領域がない場合において、ペイントされた領域の境界において偽の等値面を生成することがある。
図9は、偽等値面を説明するための図である。図9に示す(1)は、高い明度の点を含む領域を捕えるために適切な閾値が設定されている例を示す。図9(1)に示すように、明度値が100の背景領域と、明度値が200の領域とがある場合に、高い明度の領域を抽出するために閾値を150に設定することが適切である。これにより、適切な等値面Is1が表示される。
しかし、図9に示す(2)は、不適切な閾値が設定されて、偽等値面が現れる例を示す。図9(2)に示すように、閾値が50に設定され、高い明度の領域がペイントされた場合、ペイントされた領域の境界付近で偽等値面Is2が表示される。この問題は、閾値の勾配が、明度値の勾配よりも大きい場合に起こり得る。
そこで、画像処理装置10の検出部214は、各セルについて、明度値の勾配下降方向と、等値面の法線方向とを計算し、これらの方向に基づく所定の条件が満たされるか否かを判定する。所定の条件とは、2つの方向の成す角度が所定角度以上である。
検出部214は、所定の条件が満たされれば、その等値面は、オリジナルの内部構造を適切に表していないとして、この偽等値面を検出する。第2表示制御部208は、偽等値面が、予め決められた色(例えば緑)に表示されるよう制御する。
なお、検出部214は、実装をより容易にするため、明度値から閾値を減算して得られる値の勾配下降方向を等値面の法線方向として用いてもよい。
図10は、偽等値面の一例を示す図である。図10に示す例では、ユーザが、ブラシ先端BTに設定される第2閾値を低くしたことで、ブラシ先端BTの境界において、偽等値面FVが現れている。検出部214は、この偽等値面FVを上述した方法で抽出し、識別できるようにする(図10に示す例では斜線)。検出部214は、閾値勾配下降方向と、等値面法線方向と向きが逆になっている領域を、偽等値面FVとして検出する。
これにより、ユーザは、ブラシ先端BTに設定される第2閾値を大きくするように変更し、この偽等値面FVを削除するようにすることができる。
図11は、正常な等値面の一例を示す図である。図11に示す例では、閾値の勾配方向が、等値面の法線方向と略直交するので、ブラシ境界での等値面は、偽等値面として検出されない。
<動作>
次に、画像処理装置10の動作について説明する。図12は、実施形態における対象物抽出処理の一例を示すフローチャートである。図12に示す処理は、実施形態におけるアプリケーションを実行し、画像を選択した場合に実行される。
ステップS102で、第1表示制御部206は、デフォルトの閾値以上の明度値を含む点を、表示装置114に表示するよう制御する。デフォルトの閾値は、例えば0である。
ステップS104で、変更部202は、画像の各点における明度値の閾値を変更する。例えば、図3に示すスライダS10のつまみ部分をユーザが操作することで、第1閾値が変更される。このとき、第1表示制御部206は、変更部202により第1閾値が変更される度に、この第1閾値以上の明度を含む点を有する領域を表示するよう制御する。
ステップS106で、受付部210は、抽出対象物の所定領域の指定を受け付けたか否かを判定する。例えば、受付部210は、図3に示すボタンB24の押下の次に、連結領域でのクリックを検知した場合、その連結領域の指定を受け付ける。指定があれば(ステップS106−YES)、処理はステップS108に進み、指定がなければ(ステップS106−NO)、処理はステップS104に戻る。
ステップS108で、固定部212は、指定された連結領域内の各点の閾値を、領域指定時の閾値に固定する。
ステップS110で、第2表示制御部208は、画像内に指定された1又は複数の連結領域がある場合、所定領域内の点のうち固定部212により固定された閾値以上の明度値を含む点、及び所定領域外の点のうち変更部202により変更される閾値以上の明度値を含む点を表示するよう制御する。また、第2表示制御部208は、識別性を上げるため、指定された領域の色を、所定色に変更してもよい。なお、ステップS110において、偽等値面の検出処理が行われてもよい。
また、ステップS110の後で、上述したブラシ処理が行われて、抽出対象物の領域が拡張されてもよい。また、ステップS108において、閾値が固定されたノードに隣接するノードで、固定されていないノードがあれば、そのノードの状態を固定にし、閾値を固定してもよい。これにより、スライダS10により第1閾値が変更されても、抽出対象物の領域境界において安定した表示が可能になる。
以上の処理により、ユーザは、簡単に抽出対象物を指定することができるので、従来技術と比べて抽出処理に係る時間を軽減させることができる。さらに、実施形態において、ペイント機能を用いて抽出対象物の指定や領域拡張を実行することで、ユーザビリティを向上させ、直感的な操作が可能になるため、さらに処理時間を軽減させることができる。
図13は、実施形態における偽等値面を検出する処理の一例を示すフローチャートである。図13に示すステップS200で、検出部214は、抽出対象物の境界において明度値の勾配下降方向と、等値面の法線方向とを算出する。
ステップS202で、検出部214は、勾配下降方向と法線方向とが所定の条件を満たすか否かを判定する。所定の条件は、例えば2つの方向の成す角が90度以上であることである。所定の条件が満たされれば(ステップS202−YES)、偽等値面は有りと判断され、処理はステップS204に進み、所定の条件が満たされなければ(ステップS202−NO)、偽等値面は無しと判断され、処理は終了する。
ステップS204で、第2表示制御部208は、検出部214により検出された領域の色を、予め決められた色に変更する。なお、偽等値面は、色が変わることに限定されず、偽等値面の識別ができればよい。なお、図13に示す検出処理は、ブラシ処理にも適用できる。
以上の処理により、ペイント機能を用いることで偽等値面が現れる問題を解決することができる。
なお、上記の画像処理装置10で実行されるプログラムについて、実際のハードウェアとしては、CPU102がROM106からプログラムを読み出して実行することにより、上記各部のうち1又は複数の各部がRAM104上にロードされ、1又は複数の各部がRAM104上に生成されるようになっている。
このように、上述した実施形態で説明した処理は、コンピュータに実行させるためのプログラムとして実現されてもよい。このプログラムをサーバ等からインストールしてコンピュータに実行させることで、前述した処理を実現することができる。
また、このプログラムを記録媒体116に記録し、このプログラムが記録された記録媒体116をコンピュータに読み取らせて、前述した処理を実現させることも可能である。
なお、記録媒体116は、CD−ROM、フレキシブルディスク、光磁気ディスク等の様に情報を光学的,電気的或いは磁気的に記録する記録媒体、ROM、フラッシュメモリ等の様に情報を電気的に記録する半導体メモリ等、様々なタイプの記録媒体を用いることができる。
以上、実施形態について詳述したが、上記実施形態に限定されるものではなく、特許請求の範囲に記載された範囲内において、上記実施形態以外にも種々の変形及び変更が可能である。
例えば、上記実施形態は、3次元画像だけではなく、2次元画像にも適用することができる。また、適用対象の画像は、医療用の画像だけではなく、スキャンした画像等でもよい。
図14は、変形例における医療システム1の概略構成を示す図である。図14に示す例では、医療機器20と画像処理装置10とがネットワークを介してデータ通信可能なように接続されている。
医療機器20は、CT又はMRIにより検査画像を取得するための機器である。医療機器20は、取得した検査画像を画像処理装置10に送信する。画像処理装置10は、取得した検査画像に対し、実施形態で説明した対象物の抽出処理を実行する。
なお、図14において、画像処理装置10の機能を医療機器20に組み込み、医療機器20として、本発明を実装してもよい。
10 画像処理装置
20 医療機器
102 CPU
104 RAM
106 ROM
202 変更部
204 表示制御部
206 第1表示制御部
208 第2表示制御部
210 受付部
212 固定部
214 検出部

Claims (9)

  1. 画像内の各点における明度の閾値を変更する変更部と、
    前記変更部により閾値が変更される度に、当該閾値以上の明度値を含む点を表示するよう制御する第1表示制御部と、
    ユーザ操作に基づき、表示された画像内の1又は複数の所定領域の指定を受け付ける受付部と、
    指定された前記所定領域内の各点の閾値を、当該所定領域の指定時の前記変更部による閾値に固定する固定部と、
    画像内に1又は複数の前記所定領域がある場合、前記所定領域内の点のうち、前記変更部により変更される閾値ではなく前記固定部により固定された閾値以上の明度値を含む点、及び前記所定領域外の点のうち前記変更部により変更される閾値以上の明度値を含む点を表示するよう制御する第2表示制御部と、
    を備える画像処理装置。
  2. 前記受付部は、
    前記変更部による閾値以上の明度値を含む点に基づく連結領域内の所定位置が指定された場合、前記連結領域を前記所定領域の指定として受け付け、
    前記第2表示制御部は、
    前記連結領域の色を所定色に変更して表示するよう制御する、請求項1に記載の画像処理装置。
  3. 前記変更部は、
    前記所定領域内の位置を開始位置とするドラッグ操作時における所定操作により、前記ドラッグ操作のドラッグ先から所定範囲内の閾値の変更を可能にし、
    前記受付部は、
    前記ドラッグ操作における軌跡を含み、かつ前記所定操作に基づく閾値の変更により表示される連結領域を、ユーザ操作に基づく所定領域の指定として受け付ける、請求項1又は2に記載の画像処理装置。
  4. 前記固定部は、
    前記所定領域内の点に隣接する点で、閾値が固定されていない隣接点がある場合、当該隣接点の閾値を固定する、請求項1乃至3いずれか一項に記載の画像処理装置。
  5. 前記所定色に変更された領域の境界において、画像の明度の勾配方向、及び前記所定色に表示された当該領域を示す等値面に垂直な法線方向に基づいて、前記所定色に変更されるべきではない偽等値面を検出する検出部をさらに備える、請求項2に記載の画像処理装置。
  6. 前記第2表示制御部は、
    前記検出部により検出された偽等値面の色を、前記所定色とは異なる色に変更して表示制御する、請求項5に記載の画像処理装置。
  7. コンピュータが実行する画像処理方法であって、
    画像内の各点における明度の閾値を変更し、
    前記閾値が変更される度に、当該閾値以上の明度値を含む点を表示するよう制御し、
    ユーザ操作に基づき、表示された画像内の1又は複数の所定領域の指定を受け付け、
    指定された前記所定領域内の各点の閾値を、当該所定領域の指定時の閾値に固定し、
    画像内に1又は複数の前記所定領域がある場合、前記所定領域内の点のうち、変更される閾値ではなく固定された閾値以上の明度値を含む点、及び前記所定領域外の点のうち、前記変更される閾値以上の明度値を含む点を表示するように制御する、
    情報処理方法。
  8. 請求項7に記載の情報処理方法をコンピュータに実行させるためのプログラム。
  9. 請求項8に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2015123629A 2015-06-19 2015-06-19 画像処理装置、画像処理方法、プログラム及び記録媒体 Active JP6651214B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2015123629A JP6651214B2 (ja) 2015-06-19 2015-06-19 画像処理装置、画像処理方法、プログラム及び記録媒体
PCT/JP2016/067971 WO2016204241A1 (ja) 2015-06-19 2016-06-16 画像処理装置、画像処理方法、プログラム及び記録媒体
US15/737,019 US11004195B2 (en) 2015-06-19 2016-06-16 Image processing device, image processing method, program, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015123629A JP6651214B2 (ja) 2015-06-19 2015-06-19 画像処理装置、画像処理方法、プログラム及び記録媒体

Publications (2)

Publication Number Publication Date
JP2017006296A JP2017006296A (ja) 2017-01-12
JP6651214B2 true JP6651214B2 (ja) 2020-02-19

Family

ID=57545308

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015123629A Active JP6651214B2 (ja) 2015-06-19 2015-06-19 画像処理装置、画像処理方法、プログラム及び記録媒体

Country Status (3)

Country Link
US (1) US11004195B2 (ja)
JP (1) JP6651214B2 (ja)
WO (1) WO2016204241A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20170053513A (ko) * 2015-11-06 2017-05-16 삼성전자주식회사 복수의 디스플레이들을 포함하는 전자 장치 및 그 동작 방법
JP7270331B2 (ja) * 2017-06-15 2023-05-10 キヤノンメディカルシステムズ株式会社 医用画像診断装置及び画像処理装置
WO2021054089A1 (ja) * 2019-09-17 2021-03-25 株式会社ニコン 画像処理装置、画像処理方法およびプログラム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3483929B2 (ja) * 1994-04-05 2004-01-06 株式会社日立製作所 3次元画像生成方法
JPH11149568A (ja) * 1997-11-18 1999-06-02 Hitachi Medical Corp 三次元画像構成装置
JP2000287964A (ja) * 1999-04-02 2000-10-17 Terarikon Inc 三次元画像表示装置
JP4409166B2 (ja) * 2002-12-05 2010-02-03 オリンパス株式会社 画像処理装置
EP1952340B1 (en) * 2005-11-21 2012-10-24 Agency for Science, Technology and Research Superimposing brain atlas images and brain images with delineation of infarct and penumbra for stroke diagnosis
JP4644794B2 (ja) * 2006-03-30 2011-03-02 株式会社日立メディコ 画像認識装置
US8077939B2 (en) * 2006-11-22 2011-12-13 General Electric Company Methods and systems for enhanced plaque visualization
WO2013075254A1 (en) * 2011-11-25 2013-05-30 Circle Cardiovascular Imaging Inc. Method for interactive threshold segmentation of medical images
WO2015053319A1 (ja) 2013-10-08 2015-04-16 国立大学法人 東京大学 画像処理装置、及び手術顕微鏡システム

Also Published As

Publication number Publication date
JP2017006296A (ja) 2017-01-12
US20180211382A1 (en) 2018-07-26
WO2016204241A1 (ja) 2016-12-22
US11004195B2 (en) 2021-05-11

Similar Documents

Publication Publication Date Title
JP4745748B2 (ja) 医用画像表示装置
US8553954B2 (en) Automated system for anatomical vessel characteristic determination
JP4879028B2 (ja) 画像処理方法および画像解析方法ならびにプログラム記憶媒体
JP5226974B2 (ja) 画像診断支援装置、方法及びプログラム
US20100033429A1 (en) 3d connected shadow mouse pointer
JP2009018048A (ja) 医用画像表示装置、方法及びプログラム
US8175364B2 (en) Medical image display device and program that generates marker and changes shape of region of interest to contact marker
JP2018089381A (ja) 電気解剖学的マップの更新
JP2014523772A (ja) 医用画像を処理するシステム及び方法
JP6651214B2 (ja) 画像処理装置、画像処理方法、プログラム及び記録媒体
US20150205501A1 (en) Image processing device, method, and program
WO2014038428A1 (ja) 画像処理装置及び画像処理方法
JP2019170422A (ja) 医用画像表示装置及びプログラム
US10324582B2 (en) Medical image display apparatus, method for controlling the same
US9558561B2 (en) Semiautomatic drawing tool for image segmentation
WO2014050043A1 (ja) 画像処理装置および画像処理方法、並びに、画像処理プログラム
CN110619672B (zh) 图形边缘线选取方法、机器可读存储介质及数据处理设备
US20170109915A1 (en) Methods and systems for interactive 3d segmentation
CN103546707B (zh) 投影装置、投影系统和投影方法
JP5701208B2 (ja) 医用画像表示装置及び医用画像表示方法
CN109727662B (zh) 医学影像检测的显示方法及装置、设备和非暂态存储介质
JP5914194B2 (ja) 医用画像処理装置及び医用画像処理方法
KR101138969B1 (ko) 고속 구동을 위한 3차원 투과 영상데이터의 액세스 방법 및 이를 위한 사용자 인터페이스 장치
KR20190049349A (ko) 프로젝션 영상에서 사용자의 터치를 인식하는 방법 및 이러한 방법을 수행하는 장치
US10664136B2 (en) Method, system and apparatus for selecting items in a graphical user interface

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20151028

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180515

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190611

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191216

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200115

R150 Certificate of patent or registration of utility model

Ref document number: 6651214

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250