JP7078487B2 - 超音波診断装置及び超音波画像処理方法 - Google Patents

超音波診断装置及び超音波画像処理方法 Download PDF

Info

Publication number
JP7078487B2
JP7078487B2 JP2018145997A JP2018145997A JP7078487B2 JP 7078487 B2 JP7078487 B2 JP 7078487B2 JP 2018145997 A JP2018145997 A JP 2018145997A JP 2018145997 A JP2018145997 A JP 2018145997A JP 7078487 B2 JP7078487 B2 JP 7078487B2
Authority
JP
Japan
Prior art keywords
image
boundary
interest
ultrasonic
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018145997A
Other languages
English (en)
Other versions
JP2020018694A (ja
Inventor
匠 伊藤
康治 脇
Original Assignee
富士フイルムヘルスケア株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルムヘルスケア株式会社 filed Critical 富士フイルムヘルスケア株式会社
Priority to JP2018145997A priority Critical patent/JP7078487B2/ja
Priority to CN201910224174.9A priority patent/CN110786880B/zh
Priority to US16/361,763 priority patent/US10783642B2/en
Publication of JP2020018694A publication Critical patent/JP2020018694A/ja
Application granted granted Critical
Publication of JP7078487B2 publication Critical patent/JP7078487B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5207Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of raw data to produce diagnostic data, e.g. for generating an image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0825Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of the breast, e.g. mammography
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest
    • A61B8/465Displaying means of special interest adapted to display user selection data, e.g. icons or menus
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/467Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/467Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means
    • A61B8/469Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient characterised by special input means for selection of a region of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10132Ultrasound image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30068Mammography; Breast

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Public Health (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Quality & Reliability (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)

Description

本発明は、超音波診断装置及び超音波画像処理方法に関し、特に、関心領域の生成に関する。
超音波診断装置は、生体への超音波の送受波により得られた受信信号に基づいて超音波画像を形成する装置である。典型的な超音波画像は断層画像であり、それは組織の断面を表した画像である。例えば、乳房の検査においては、超音波プローブが乳房表面に当接され、それによって表示された断層画像が観察され、また、その観察を通じて乳腺中の腫瘤の有無や腫瘤の態様等が診断される。
近時、コンピュータ支援診断(Computer-Aided Diagnosis:CAD)機能を搭載した超音波診断装置や超音波画像処理装置が普及しつつある。そのような装置では、超音波画像の評価又は診断に際してCAD機能が利用される。例えば、乳腺診断においては、CAD機能を利用して断層画像がリアルタイムで解析される。具体的には、断層画像中に含まれる低輝度の腫瘤像(あるいは低輝度の非腫瘤)が自動的に認識され、それがマーキングされる。CAD機能として、腫瘤像ごとに悪性度が自動的に判定されるものもある。
例えば、特許文献1には、組織の輪郭に応じて関心領域を自動的に設定する超音波診断装置が開示されている。また、特許文献2には、断層画像上に設定された複数の探索経路上において深いところから浅いところへ境界探索を行う技術が開示されている。
特開平8-131436号公報 特開2010-259527号公報
乳房の超音波診断により得られた断層画像上においては、断層画像内の深いところに、具体的には乳腺像の下側に、大胸筋像が現れ、その中の低輝度部分が腫瘤像として誤認、誤検出され易い。通常、腫瘤は乳腺の中に生じるため乳腺像が専らの観察対象となる。このため、浅いところにある乳腺像を含み且つ深いところにある大胸筋像等が除外されるように関心領域を設定することが考えられるが、マニュアルでの関心領域の設定は煩雑である。プローブの送受波面の一部(例えば端部)が体表面から浮くことに起因して、断層画像内にシャドー(黒い領域)が現れることもある。そのようなシャドーが関心領域から除外されるように関心領域を定めることが望まれるが、マニュアルでの関心領域の設定はやはり煩雑である。
一方、乳房の超音波診断により得られた断層画像には、乳腺像と大胸筋像との間に横方向に流れる境界像が比較的に明瞭に現れる。その断層画像において画像解析を行いたい部分は、通常、境界像の上側に現れている乳腺像である。一方、境界像の下側の領域はおよそ一様性をもった比較的に低輝度の領域である。それらの性質又は特徴を利用して関心領域を自動的に生成することが望まれる。
なお、乳房以外の組織の超音波診断により得られた超音波画像の中にも、上記の性質又は特徴が認められる画像があり、そのような画像についても関心領域を自動的に生成することが望まれる。関心領域の設定に関して、特許文献1には、横方向に流れる境界像を利用することは開示されていない。また、特許文献2の技術では、複数の探索経路を設定する以前に関心領域を設定する必要がある。
本発明の目的は、超音波画像の内容に適した関心領域の自動的な生成を実現することにある。
本発明に係る超音波診断装置は、深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像上において、前記境界像における複数の位置を横切るように複数の探索経路を設定し、前記複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出する検出部と、前記複数の境界点に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する生成部と、を含むことを特徴とする。
本発明に係る超音波画像処理方法は、超音波画像上において、深さ方向に対して交差する方向に伸びた形態を有する境界像に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する生成工程と、前記超音波画像又は他の超音波画像における前記関心領域内の画像部分に対して行われた解析の結果を表す画像とともに前記関心領域を表す画像を表示する表示工程と、を含み、前記生成工程では、前記超音波画像における深いところから浅いところへ境界探索が実行され、その結果に基づいて前記関心領域が定められる、ことを特徴とする。
本発明に係るプログラムは、超音波画像処理装置において実行されるプログラムであって、深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像上において、前記境界像における複数の位置を横切るように複数の探索経路を設定し、前記複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出する機能と、前記複数の境界点に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する機能と、を含むことを特徴とする。
本発明によれば、超音波画像の内容に適した関心領域の自動的な生成を実現できる。
実施形態に係る超音波診断装置を示すブロック図である。 ROI設定部の構成例を示すブロック図である。 比較例を示す図である。 実施形態に係るROI生成方法を示す図である。 境界検出方法を示す図である。 ROIの生成及び適用を示す図である。 平滑化の前後を示す図である。 時間軸上の平滑化を説明するための図である。 表示例を示す図である。 超音波画像処理方法の第1例を示す図である。 超音波画像処理方法の第2例を示す図である。 シャドー及び肋骨像を含む断層画像を示す図である。 超音波画像処理方法の第1例の処理結果を示す図である。 超音波画像処理方法の第2例の処理結果を示す図である。 境界判定方法を説明するための図である。
以下、本発明の実施形態を図面に基づいて説明する。
(1)実施形態の概要
実施形態に係る超音波診断装置は、深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像を処理する機能を有し、その処理のために、検出部、及び、生成部を有する。検出部は、境界像における複数の位置を横切るように複数の探索経路を設定し、複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出するものである。生成部は、複数の境界点に基づいて、境界像の浅い側に存在する注目組織像を包含する関心領域を生成するものである。
上記構成は、超音波画像において比較的に明瞭に境界像が現れていること、及び、境界像の深い側に境界像とは異なる領域が広がっていることを前提とし、それらの性質又は特徴を利用して、境界像の手前側に存在する注目組織像を包含する関心領域を設定するものである。境界像を含むように関心領域が設定されてもよいし、境界像を除外するように関心領域が設定されてもよい。超音波画像の一部にシャドーが生じた場合、シャドー内においては境界像も部分的に消失する。その場合、境界探索がプローブ近傍まで進行することになるので、シャドーを避けて関心領域が設定される。
実施形態において、注目組織像は乳腺像であり、境界像は乳腺像とそれよりも深いところにある大胸筋像との間の境界像である。実施形態において、関心領域は、超音波画像又は他の超音波画像において解析対象となる部分を画定するものである。他の目的で関心領域が利用されてもよい。
実施形態において、複数の境界点からなる境界点列に基づいて関心領域の下辺が定められ、下辺を空間的に平滑化する平滑化部が設けられる。この構成によれば、下辺が複雑な形態を有する場合にそれを滑らかにできる。また、複数の境界点の検出において誤認があってもそれによる影響を緩和できる。更に、関心領域を表示する場合、その見栄えを良好にできる。境界点列が平滑化され、その結果として、下辺が平滑化されてもよいし、下辺それ自体が平滑化されてもよい。
実施形態において、平滑化部は、空間的に平滑化された下辺を更に時間的に平滑化するものである。この構成によれば時間軸方向に関心領域の下辺の形態が激しく変化するような場合においてその変化を抑えることができる。結果として関心領域の設定精度を向上できる。
実施形態において、検出部は、各探索経路上において輝度条件が充足されたことに基づいて各境界点を検出する。境界検出は、例えば、下方から上方へエコーデータ単位で実行される。その場合において、1つのエコーデータが参照されてもよいし、一次元窓内の複数のエコーデータが参照されてもよいし、二次元窓内の複数のエコーデータが参照されてもよい。
実施形態において、検出部は、各探索経路上において輝度条件が連続して充足されたことに基づいて各境界点を検出する。この構成は境界像がある程度の厚みを有することを前提とするものであり、この構成によれば、境界誤認を防止又は軽減できる。例えば、探索経路上において輝度条件がn回連続して充足されたことに基づいて境界点が検出されてもよい。その場合、nが診断レンジ(診断深さ範囲)に基づいて適応的に設定されてもよい(但しnは1以上の整数である)。診断レンジに応じて境界像の厚みが変化するので、そのような変化に合わせてnの値を適応的に設定するものである。
実施形態においては、超音波画像とともに関心領域を示す関心領域画像を表示する表示器を含む。この構成によれば、関心領域に注目組織像が含まれていることを確認することが可能となる。超音波画像に対して関心領域画像が重畳表示されてもよいし、それらの画像が並列表示されてもよい。
実施形態に係る超音波画像処理方法は、生成工程及び表示工程を含むものである。生成工程では、超音波画像上において、深さ方向に対して交差する方向に伸びた形態を有する境界像に基づいて、境界像の浅い側に存在する注目組織像を包含する関心領域が生成される。具体的には、生成工程では、超音波画像上における深いところから浅いところへの境界探索が実行され、その結果に基づいて関心領域が定められる。表示工程では、超音波画像又は他の超音波画像における関心領域内の画像部分に対して行われた解析の結果を表す画像とともに関心領域を表す画像が表示される。
実施形態に係るプログラムは、超音波画像処理装置において実行されるプログラムである。ここで、超音波画像処理装置は、超音波診断装置、情報処理装置等を含む概念である。プログラムは、可搬型記憶媒体を介して、又は、ネットワークを介して超音波画像処理装置にインストールされる。
(2)実施形態の詳細
図1には、実施形態に係る超音波診断装置の構成がブロック図として示されている。超音波診断装置は、病院等の医療機関に設置され、生体(被検者)に対する超音波の送受波により得られた受信データに基づいて超音波画像を形成する医療用の装置である。実施形態に係る超音波診断装置は、後に詳述するように、関心領域(ROI)を自動的に設定する機能、及び、超音波画像を自動的に解析する機能(CAD機能)を備えている。実施形態において、超音波診断対象となる組織は乳房であり、より詳しくは乳腺である。もちろん、他の組織が超音波診断対象となってもよい。
超音波プローブ10は、超音波を送受波する手段又は送受波器として機能するものである。乳腺の超音波診断に際しては、超音波プローブの10の送受波面(音響レンズ表面)が被検者の乳房表面に当接され、その状態で超音波が送受波される。超音波プローブ10は、一次元配列された複数の振動素子からなる振動素子アレイを備えている。振動素子アレイによって超音波ビーム11が形成され、超音波ビーム11の電子的な走査により走査面が形成される。走査面は観察面であり、すなわち二次元データ取込領域である。超音波ビームの電子走査方式として、電子セクタ走査方式、電子リニア走査方式等が知られている。超音波ビームのコンベックス走査が行われてもよい。超音波プローブ内に2D振動素子アレイを設け、生体内からボリュームデータが取得されてもよい。
送信部12は、送信時において、複数の振動素子に対して複数の送信信号を並列的に供給する送信ビームフォーマーであり、それは電子回路として構成される。受信部14は、受信時において、複数の振動素子から並列的に出力される複数の受信信号を整相加算(遅延加算)する受信ビームフォーマーであり、それは電子回路として構成される。受信部14は、複数のA/D変換器、検波回路等を備えている。受信部14での複数の受信信号の整相加算によりビームデータが生成される。ちなみに、1回の電子走査当たり、電子走査方向に並ぶ複数のビームデータが生成され、それらが受信フレームデータを構成する。個々のビームデータは深さ方向に並ぶ複数のエコーデータにより構成される。
ビームデータ処理部16は、受信部14から出力された各ビームデータを処理する電子回路である。その処理には、対数変換、相関処理、等が含まれる。処理後の各ビームデータが断層画像形成部18へ送られている。
断層画像形成部18は受信フレームデータに基づいて断層画像(Bモード断層画像)を形成する電子回路である。それはDSC(Digital Scan Converter)を有している。DSCは、座標変換機能、補間機能、フレームレート変換機能等を有し、ビーム走査方向に並ぶ複数のビームデータに基づいて断層画像を形成する。断層画像のデータが表示処理部20及びROI設定部22へ送られている。
なお、表示処理部20、ROI設定部22及び画像解析部24によって画像処理モジュール26が構成されている。画像処理モジュール26は、プログラムに従って動作する1又は複数のプロセッサにより構成され得る。画像処理モジュール26がPC等の情報処理装置上に構築されてもよい。その場合、断層画像データが超音波診断装置から情報処理装置へ転送される。情報処理装置は超音波画像処理装置として機能する。
ROI設定部22は、乳腺像を含む断層画像に基づいてROI(つまり関心領域)を自動的に生成するものである。実施形態においては、フレーム単位でROIが生成されている。もちろん、所定数のフレームを単位としてROIが生成されてもよい。ROI設定部22は、生成されたROIを表す座標情報を画像解析部24に送っている。また、ROI設定部22は、枠としてのROI及びその内部画像を含むROI画像を生成し、そのデータを表示処理部に送っている。ROI設定部22の詳細については後に詳述する。
画像解析部24は、画像解析手段として機能し、断層画像の内で関心領域に含まれる画像部分に対して画像解析を実行するものである。すなわち、画像解析部24はCAD機能を発揮するものである。画像解析部24は、フレーム単位で画像解析を行う。もちろん、所定数のフレームを単位として画像解析が実行されてもよい。画像解析部24は、CNN(Convolutional Neural Network)等の機械学習型解析器によって構成され得る。画像解析部24は、低輝度の腫瘤や低輝度の非腫瘤等を認識、抽出又は弁別する機能を有している。画像解析部24が腫瘤の悪性度を評価する機能を備えていてもよい。画像解析部24は、実施形態において、断層画像を解析して腫瘤等を特定し、それを指し示すマーカーを生成する。マーカーが付与された断層画像(つまり解析結果画像)のデータが表示処理部20へ送られている。
表示処理部20は、グラフィック画像生成機能、カラー演算機能、画像合成機能等を有する。具体的には、表示処理部20は、解析結果画像とROI画像とを並べて合成し、これにより表示画像を生成する機能を有している。解析結果画像は、上記のように画像解析において見付かった部位に対してマーキングが施されている画像である。ROI画像はROIの形態及び中身を表す画像である。解析結果画像又は断層画像に対して、ROI画像が重畳されてもよい。表示器28には断層画像等の表示画像が表示される。それはLCD、有機EL表示デバイス等によって構成される。
画像解析部24において、弾性情報画像(エラスト画像)25が解析されてもよい。弾性情報画像は、組織変位から計算される組織弾性情報を表した画像である。その場合においても、弾性情報画像上にROIが設定され、ROI内部が解析対象となる。他の超音波画像が解析対象となってもよい。なお、実施形態においては、座標変換後の断層画像が解析対象とされているが、座標変換前のフレームデータが解析対象とされてもよい。そのフレームデータも組織断面を表すデータであるから、広義の断層画像に含まれ得るものである。
制御部34は、図1に示されている各構成要素の動作を制御するものである。制御部34は、実施形態において、CPU及びプログラムによって構成される。制御部34が上記の画像処理モジュール26として機能してもよい。操作パネル32は入力デバイスであり、それは複数のスイッチ、複数のボタン、トラックボール、キーボード等を有する。なお、図1において、断層画像形成部18以外の超音波画像形成部については図示省略されている。例えば、弾性情報(エラスト)画像形成部、血流画像形成部、その他が設けられてもよい。
図2には、ROI設定部22の構成例が図示されている。ROI設定部22は、図示の例において、前処理部36、境界検出部38及びROI生成部42を有している。前処理部36は、断層画像に対して必要な前処理を施すものである。前処理として、平滑化処理、最小値抽出処理、最大値抽出処理、メディアン(中央値抽出)処理、エッジ強調処理等があげられる。後に行う境界検出のために断層画像の外側に0を並べるゼロパディングが実行されてもよい。
境界検出部38は、後に説明するように、断層画像に対して複数の探索経路を設定し、各探索経路上において境界探索を実行するものである。境界探索の開始点は、実施形態において、各探索経路上において最も深い地点とされており、その開始点から浅い方へ境界探索が順番に進められる。乳房の断層画像においては、通常、乳腺像と大胸筋像との間に境界像が明瞭に現れ、且つ、境界像の奥側(深い側)が概ね一様性をもった低輝度の領域となる。それらの性質又は特徴を前提として、深いところから浅いところへ、境界探索が順次実行される。ちなみに、実施形態において観察対象は乳腺像であり、それは境界像の手前側つまり浅い側に存在する。境界像を基準として、乳腺像をカバーするようにROIが自動的に設定される。これについては後に更に詳しく説明する。
境界平滑化部40は、複数の境界点からなる境界点列又はそれに基づくROI下辺に対して平滑化を行うものである。この平滑化により境界点列又は下辺が滑らかとなるので、ROIを表示する場合に見栄えがよくなる。また、この平滑化によりROIの形態が不自然なものとなることを防止又は軽減できる。その平滑化は空間的な平滑化である。実施形態に係る境界平滑化部40は、更に時間軸方向に境界点列又は下辺を平滑化する機能も備えている。時間的な平滑化により、ROIの形態がフレーム単位で激しく変化することを抑圧することが可能となり、目障り感を緩和することができる。もっとも、超音波プローブを動かしている最中においては、時間的な平滑化をオフにしてもよい。
ROI生成部42は、ROI生成手段として機能し、それは境界点列に基づいてROIを定めるものである。具体的には、境界点列に基づいてROIの下辺が定められる。ROIの2つの側辺(左辺及び右辺)を、断層画像の2つの側辺に揃えてもよい。平滑化によって生じた線で側辺を構成してもよい。ROIの上辺は断層画像の上辺に一致している。但し、断層画像の上辺から離れた位置にROIの上辺を設定するようにしてもよい。いずれにしても、画像解析対象となる組織ができるだけカバーされるようにROIが生成される。矩形を基本形としてROIが生成されているが、他の形態をもったROIが生成されてもよい。画像解析部24は、生成されたROIに基づき、断層画像等から部分画像を切り出し、それに対して解析を実行する。あるいは、画像解析部24は、生成されたROIに基づき、断層画像等において解析対象範囲を画定し、その範囲内において解析を実行する。
図3には、比較例が示されている。この比較例ではROIが設定されておらず、断層画像50の全体が解析対象とされている。断層画像50には、表層像52、脂肪層像54、乳腺像56、及び、大胸筋像58が含まれる。乳腺像56と大胸筋像58の間には境界像60が現れている。境界像60は概ね明瞭に現れる像である。このような断層画像50に対して画像解析を実行すると、図示されるようなマーカー64,66が自動的に表示される。マーカー64は、低輝度の腫瘤62を指し示している。一方、マーカー66は、大胸筋内における低輝度部分を指し示しており、つまり誤認が生じている。大胸筋像58には肋骨像が現れることもあり、また、アーチファクトが現れることもある。そのような要素によって誤認が引き起こされる。ユーザー(医師、検査技師等)が観察したいものは乳腺像56に含まれる腫瘤等であり、それは境界像60の上側に現れるものである。一方、境界像60の下側には比較的低輝度で概ね一様性をもった領域が広がっている。乳房の断層画像には以上のような幾つかの特有性が認められる。実施形態は、そのような特有性を利用して関心領域を自動的にしかも適切に定めるものである。以下に詳述する。
図4には、実施形態に係る境界像検出方法が示されている。図4は図3に示した断層画像に相当する模式図である。xは水平方向(横方向)を示しており、それは実施形態において電子走査方向である。yは垂直方向(縦方向)を示しており、それは実施形態において深さ方向である。
断層画像において、境界像60は、それ全体として、深さ方向であるy方向に交差する方向に伸びている形態を有する。境界像60が流れている方向は概ねx方向であるが、x方向に対して傾斜している場合も多い。
実施形態においては、断層画像に対して複数の探索経路68が設定される。複数の探索経路68は、横方向に流れる境界像60における複数の位置を横断している。具体的には、各探索経路68は、断層画像を構成する個々の垂直画素列に相当する。もっとも、水平方向に離間しつつ複数の探索経路68を設定してもよい。探索経路に沿った探索と境界点からの横方向の探索とを併用してもよい。例えば、1番から最終番までの探索経路68において順番に境界の探索が実行される。複数の探索経路をy方向に対して傾斜させてもよい。コンベックス走査においては、個々のビーム方向(深さ)に平行に放射状に探索経路を設定してもよいし、画像における垂直方向に平行に探索経路を設定してもよい。
各探索経路68上においては、図示の例では、最も深い座標が探索の開始点70とされる。符号72で示されているように、開始点70から浅い側へ、つまり超音波プローブに近付く方向へ、境界探索が繰り返し実行される。具体的には、各エコーデータを注目データとして、注目データごとに、輝度条件が満たされるか否かが判定される。輝度条件が満たされた場合にその注目データの座標が境界点74として認定される。輝度条件は、後述するように、例えば、注目データを中心とした窓内における輝度の最小値が所定の閾値以上であるという条件である。各探索経路68における境界点74は、境界像60上の点であると同時に、関心領域に属する部分76と非関心領域に属する部分78とを分かつ点である。開始点を最深点よりも浅い点としてもよい。
最終的に、境界像60に沿って並ぶ複数の境界点74からなる境界点列80が構成される。境界点列80は、ROIの下辺に相当する。下辺はROI80と非ROIとを分ける境界線である。画像の局所的な状態によっては、境界点を検出できないことも生じ得る。他の点を境界点であるとして誤認してしまうことも生じ得る。誤認を防止するために、輝度条件に加えて他の条件を組み合わせるのが望ましい。
図5には、境界判定方法の一例が示されている。符号50は断層画像を示しており、その外側にはゼロ値で満たされた領域88が存在している。ここでは、断層画像50及び領域88からなる画像が処理対象画像90とされている。
図示の例では、探索経路68上のデータ(注目データ)aごとに、窓86が設定される。窓86は3×3のサイズを有する(a~iを参照)。例えば、窓86内における輝度の最小値が閾値未満である場合に非境界が判定され、窓86内における輝度の最小値が閾値以上である場合に境界が判定される。輝度条件を満たした時点での注目データの座標が境界点とされる。その座標を基準にそれよりも浅い地点又はそれよりも深い地点を境界点と定めるようにしてもよい。大胸筋像の内部においては、輝度の最小値がゼロに近くなり、一方、境界像においては輝度の最小値が大きくなる。そのような違いを利用して境界の判定を行うものである。輝度の最小値に代えて、輝度の平均値等を利用してもよい。また、二次元の窓に代えて一次元の窓を利用してもよい。あるいは、注目データのみ参照するようにしてもよい。あるいは、窓内の複数のデータに基づいてヒストグラム等を作成し、それに基づいて境界判定を行ってもよい。
図6において、元画像92は、断層画像であり、あるいは、それに対してゼロパディングを施した画像である。元画像92に対して上記のように生成されたROI94が適用される。ROI94の内部が画像解析の対象となる。ROI94の外部はマスク領域であり、図6にはそれがマスク画像96と表現されている。符号92Aは画像解析結果を示す画像である。その画像92Aにおいては乳腺像に含まれる腫瘤像がマーカー98によってマーキングされている。大胸筋像中には低輝度部分が含まれるものの、そこに対してマーカーは与えられていない。つまり、図3で説明した誤認が防止されている。
図7には、平滑化前後のROI画像100,104が示されている。ROI画像100は下辺102を有し、それはかなり複雑な形態を有している。検出点列の形態が下辺102の形態にそのまま反映されている。下辺102に対して平滑化を施したものがROI画像104の下辺106である。下辺106はそれ全体として滑らかな形態を有している。なお、画像104の下辺106は、平滑化の作用を模式的にあるいは誇張して示したものであり、実際の平滑化処理により生成されたものではない。
図8には、平滑化方法が示されている。x方向は水平方向であり、その軸上には複数の探索経路上で検出された複数の境界点のy座標が示されている。それらの内で、注目x座標(y座標はym)(符号108を参照)を中心とした一定の区間110内に含まれるy座標(ym-k~ym~ym+k)が特定され、それらの平均値y’mが演算され(符号112を参照)、その平均値y’mが注目x座標に与えられる。この処理が区間110を移動させながら繰り返し実行される(符号114を参照)。単純平均に代えて重み付け平均等を利用してもよい。更に、個々のx座標において、時間軸方向にy座標を平滑化して平均値y”m(符号116を参照)を演算し、それを個々のx座標に与えてもよい。空間的平滑化によればフレーム内においてROIの見栄えを良好にでき、時間的平滑化によればフレーム間にわたって見栄えを良好にできる。
図9には、表示例が示されている。表示画像120は、左右方向に並んだ解析結果画像122及びROI画像124により構成されている。解析結果画像122は断層画像及びマーカーにより構成されるものである。ROI画像124は断層画像から切り出された画像部分により構成される参照画像である。ROI画像124を通じて画像解析対象となった部分を確認することが可能となる。解析結果画像122上にROIを表す図形を重畳表示してもよい。
図10には、実施形態に係る超音波画像処理方法の第1例がフローチャートとして示されている。このフローチャートは、図1に示した超音波診断装置に含まれる画像処理モジュールの動作を示すものである。
S10においては、初期設定として、カウンタとしてのjに1が与えられ、カウンタとしてのiに最大値Dmaxが与えられる。jはライン番号(垂直画素列番号)を示すものであり、iは深さ番号を示すものである。S12は、境界探索経路としての注目ラインがj番目のラインとされる。S14では、注目データがi番目のデータとされる。S16では上記の輝度条件が充足されたか否かが判断される。輝度条件が充足されなかった場合、処理がS20へ移行し、iが1つインクリメントされる。
一方、S16において、輝度条件が充足された場合、S22において、注目データの座標が境界点とされ、境界点よりも手前側のライン部分が関心領域の一部とされ、境界点よりも奥側のライン部分が非関心領域の一部とされる。境界点それ自体はいずれの領域とされてもよい。S24ではjが1つインクリメントされる。S26では、jがNmaxを超えたか否かが判断される。Nmaxは最大ライン番号である。jがNmaxを超えていなければ、S12からの各工程が繰り返し実行される。jがNmaxを超えていれば、本処理が終了する。
図11には、実施形態に係る超音波画像処理方法の第2例がフローチャートとして示されている。図11に示した工程と同様の工程には同一の工程番号を付し、その説明を省略する。
この第2例では、S16の後にS18が設けられている。S18では、輝度条件の充足がn回連続したか否かが判断される。つまり、連続条件の充足の有無が判断される。連続条件が満たされない場合には処理がS20へ移行し、連続条件が満たされた場合には処理がS22へ移行する。大胸筋像の内部においては、横筋状の像が生じるものの、その垂直方向の厚みは薄く、連続条件は満たされ難くなる。一方、境界像は深さ方向にある程度の厚みをもっており、その内部においては高輝度画素が多く存在する。よって、乳腺像の中へ境界探索が進行した場合、連続条件が満たされやすくなる。第2例によれば、より正確に境界像を検出することが可能となる。上記のnは1以上の整数である。nを診断レンジ(診断深さ範囲)に応じて適応的に可変設定してもよい。
図12~図14を用いて上記第2例の効果を説明する。図12には乳房の断層画像130が示されている。断層画像130には境界像136及び大胸筋像134が含まれ、大胸筋像134の中には肋骨像138が認められる。また、断層画像130の左端部分にはシャドー132が生じている。例えば、超音波プローブの送受波面の端部が体表から離れ、又は、それらの間での密着性が低下した場合、このようなシャドーが生じ易くなる。
図13には、上記第1例の処理結果が示されている。ここでは非ROI(マスク領域)140が破線で示されている。残りの部分がROIに相当する。非ROI140にはシャドーの大半が取り込まれており、シャドーが解析対象となることが回避されている。しかし、境界像の端部が低輝度ながらシャドーに入り込んでおり、そこまでが境界として検出された結果、シャドーの一部が非ROI140から外れて、ROIに入り込んでいる。また、ROIの下辺に相当する、非ROI140の上辺140aが、肋骨像138に沿って設定されており、誤検出が生じている。
図14には、上記第2例の処理結果が示されている。第2例では、連続条件が付加されるため、非ROI142の形態が妥当性なものとなっている。すなわち、境界像136の内で端部を除く部分に沿って上辺142aが設定されており、また、上辺142aは肋骨像138には影響されていない。このように第2例によればROIをより正確に設定することが可能である。
図15には、断層画像に基づく境界判定方法が整理されている。ここでは、輝度条件144、空間(連続)条件158、及び、時間(連続)条件160が示されている。各条件144,158,160はそれぞれ単独で又は組み合わせて利用することが可能である。
輝度条件144の適用に際しては、窓内の最小値145、平均値146、他の代表値148等を参照し得る。あるいは、窓内の輝度に基づくヒストグラム150や他の特徴量152が参照されてもよい。1又は複数の参照値が1又は複数の閾値156と比較され、これによって輝度条件の充足の有無が判定される(符号154を参照)。空間条件158は、空間的な連続性を評価するための条件である。例えば、それまでに検出された1又は複数の検出点に対して、垂直方向に大きく離れていない場合に空間条件158の充足が判定される。時間条件160は、時間的な連続性を評価するための条件である。例えば、時間軸上に並ぶ過去に検出された1又は複数の検出点に対して、垂直方向に大きく離れていない場合に時間条件の充足が判定される。1又は複数の条件144,158,160が満たされた場合に境界が判定される(符号162を参照)。
上記実施形態においては、乳房の断層画像が処理対象となっていたが、他の断層画像又は他の超音波画像が処理対象とされてもよい。例えば、腹部臓器の断層画像の中には、横方向に流れる境界像及びその下側の低輝度領域を含むものがある。そのような画像に対して上記処理が適用されてもよい。上記実施形態においては、関心領域によって画像解析対象が画定されていたが、関心領域が他の目的で利用されてもよい。例えば、エラスト画像を作成する範囲が上記関心領域として自動的に設定されてもよい。
10 超音波プローブ、18 断層画像形成部、20 表示処理部、22 ROI設定部、24 画像解析部、36 前処理部、38 境界検出部、40 境界平滑化部、42 ROI生成部。

Claims (8)

  1. 深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像上において、前記境界像における複数の位置を横切るように複数の探索経路を設定し、前記複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出する検出部と、
    前記複数の境界点に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する生成部と、
    を含み、
    前記注目組織像は乳腺像であり、
    前記境界像は前記乳腺像とそれよりも深いところにある大胸筋像との間の境界像である、
    ことを特徴とする超音波診断装置。
  2. 請求項1記載の超音波診断装置において、
    前記関心領域は、前記超音波画像又は他の超音波画像において解析対象となる部分を画定するものである、
    ことを特徴とする超音波診断装置。
  3. 深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像上において、前記境界像における複数の位置を横切るように複数の探索経路を設定し、前記複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出する検出部と、
    前記複数の境界点に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する生成部と、
    を含み、
    前記複数の境界点からなる境界点列に基づいて前記関心領域の下辺が定められ、
    前記下辺を空間的に平滑化する平滑化部が設けられ、
    前記平滑化部は、前記空間的に平滑化された下辺を更に時間的に平滑化する、
    ことを特徴とする超音波診断装置。
  4. 深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像上において、前記境界像における複数の位置を横切るように複数の探索経路を設定し、前記複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出する検出部と、
    前記複数の境界点に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する生成部と、
    を含み、
    前記検出部は、前記各探索経路上において輝度条件が連続して充足されたことに基づいて前記各境界点を検出する、
    ことを特徴とする超音波診断装置。
  5. 請求項記載の超音波診断装置において、
    前記検出部は、前記各探索経路上において前記輝度条件がn回連続して充足されたことに基づいて前記各境界点を検出し、
    前記nは診断レンジに基づいて適応的に設定される、
    ことを特徴とする超音波診断装置。
  6. 請求項1記載の超音波診断装置において、
    前記超音波画像とともに前記関心領域を示す関心領域画像を表示する表示器を含む、
    ことを特徴とする超音波診断装置。
  7. 超音波画像上において、深さ方向に対して交差する方向に伸びた形態を有する境界像に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する生成工程と、
    前記超音波画像又は他の超音波画像における前記関心領域内の画像部分に対して行われた解析の結果を表す画像とともに前記関心領域を表す画像を表示する表示工程と、
    を含み、
    前記生成工程では、前記超音波画像における深いところから浅いところへ境界探索が実行され、その結果に基づいて前記関心領域が定められ、
    前記注目組織像は乳腺像であり、
    前記境界像は前記乳腺像とそれよりも深いところにある大胸筋像との間の境界像である、
    ことを特徴とする超音波画像処理方法。
  8. 超音波画像処理装置において実行されるプログラムであって、
    深さ方向に対して交差する方向に伸びた形態を有する境界像を含む超音波画像上において、前記境界像における複数の位置を横切るように複数の探索経路を設定し、前記複数の探索経路上において深いところから浅いところへ境界探索を行うことにより複数の境界点を検出する機能と、
    前記複数の境界点に基づいて、前記境界像の浅い側に存在する注目組織像を包含する関心領域を生成する機能と、
    を含み、
    前記注目組織像は乳腺像であり、
    前記境界像は前記乳腺像とそれよりも深いところにある大胸筋像との間の境界像である、
    ことを特徴とするプログラム。
JP2018145997A 2018-08-02 2018-08-02 超音波診断装置及び超音波画像処理方法 Active JP7078487B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018145997A JP7078487B2 (ja) 2018-08-02 2018-08-02 超音波診断装置及び超音波画像処理方法
CN201910224174.9A CN110786880B (zh) 2018-08-02 2019-03-22 超声波诊断装置以及超声波图像处理方法
US16/361,763 US10783642B2 (en) 2018-08-02 2019-03-22 Ultrasonic diagnostic apparatus and ultrasonic image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018145997A JP7078487B2 (ja) 2018-08-02 2018-08-02 超音波診断装置及び超音波画像処理方法

Publications (2)

Publication Number Publication Date
JP2020018694A JP2020018694A (ja) 2020-02-06
JP7078487B2 true JP7078487B2 (ja) 2022-05-31

Family

ID=69229659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018145997A Active JP7078487B2 (ja) 2018-08-02 2018-08-02 超音波診断装置及び超音波画像処理方法

Country Status (3)

Country Link
US (1) US10783642B2 (ja)
JP (1) JP7078487B2 (ja)
CN (1) CN110786880B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11006926B2 (en) * 2018-02-27 2021-05-18 Siemens Medical Solutions Usa, Inc. Region of interest placement for quantitative ultrasound imaging
JP7280711B2 (ja) * 2019-02-26 2023-05-24 キヤノンメディカルシステムズ株式会社 超音波診断装置、医用画像処理装置、及び位置情報補正処理プログラム
KR20210112956A (ko) * 2020-03-06 2021-09-15 삼성메디슨 주식회사 초음파 진단 장치 및 그 동작 방법
WO2022176280A1 (ja) * 2021-02-16 2022-08-25 株式会社島津製作所 X線撮影装置、画像処理装置、および、画像処理方法
JP2023077820A (ja) 2021-11-25 2023-06-06 富士フイルム株式会社 超音波画像分析装置、超音波診断装置および超音波画像分析装置の制御方法
JP2023077810A (ja) 2021-11-25 2023-06-06 富士フイルム株式会社 超音波画像分析装置、超音波診断装置および超音波画像分析装置の制御方法
KR20230175014A (ko) * 2022-06-22 2023-12-29 주식회사 메디트 이미지 처리 장치 및 이미지 처리 방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010259527A (ja) 2009-04-30 2010-11-18 Aloka Co Ltd 超音波診断装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3443189B2 (ja) 1994-11-08 2003-09-02 アロカ株式会社 超音波診断装置
JP4041135B2 (ja) * 1996-04-15 2008-01-30 オリンパス株式会社 超音波画像診断装置
US6708055B2 (en) * 1998-08-25 2004-03-16 University Of Florida Method for automated analysis of apical four-chamber images of the heart
AU2003900746A0 (en) * 2003-02-17 2003-03-06 Silverbrook Research Pty Ltd Methods, systems and apparatus (NPS041)
US20050089205A1 (en) * 2003-10-23 2005-04-28 Ajay Kapur Systems and methods for viewing an abnormality in different kinds of images
JP4575738B2 (ja) * 2004-09-29 2010-11-04 富士フイルム株式会社 超音波画像境界抽出方法及び超音波画像境界抽出装置、並びに、超音波撮像装置
JP5002181B2 (ja) * 2006-03-31 2012-08-15 株式会社東芝 超音波診断装置及び超音波診断装置制御方法
JP2009261493A (ja) 2008-04-23 2009-11-12 Konica Minolta Medical & Graphic Inc 超音波診断方法および装置
JP5392644B2 (ja) * 2008-06-13 2014-01-22 株式会社日立メディコ 画像表示装置、方法、及びプログラム
EP2526871A4 (en) * 2010-01-18 2017-04-05 Hitachi, Ltd. Ultrasonic diagnostic device and ultrasonic image display method
JP5443309B2 (ja) * 2010-09-10 2014-03-19 富士フイルム株式会社 超音波診断装置および方法
CN103700085A (zh) * 2012-09-28 2014-04-02 深圳市蓝韵实业有限公司 乳腺x光图像中胸肌区域的分割方法
JP6511050B2 (ja) * 2013-07-23 2019-05-08 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. イメージング装置を追跡装置と位置合わせする位置合わせシステム、イメージングシステム、介入システム、位置合わせ方法、イメージングシステムの作動方法、位置合わせコンピュータプログラム、及びイメージングコンピュータプログラム
JP5890358B2 (ja) 2013-08-29 2016-03-22 日立アロカメディカル株式会社 超音波画像撮像装置及び超音波画像表示方法
CN103544695B (zh) * 2013-09-28 2015-12-23 大连理工大学 一种高效的基于博弈框架的医学图像分割方法
AU2015220731A1 (en) * 2014-02-21 2016-07-07 Ventana Medical Systems, Inc. Medical image analysis for identifying biomarker-positive tumor cells
CN106339591B (zh) * 2016-08-25 2019-04-02 汤一平 一种基于深度卷积神经网络的预防乳腺癌自助健康云服务系统

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010259527A (ja) 2009-04-30 2010-11-18 Aloka Co Ltd 超音波診断装置

Also Published As

Publication number Publication date
US10783642B2 (en) 2020-09-22
CN110786880A (zh) 2020-02-14
JP2020018694A (ja) 2020-02-06
US20200043172A1 (en) 2020-02-06
CN110786880B (zh) 2022-07-22

Similar Documents

Publication Publication Date Title
JP7078487B2 (ja) 超音波診断装置及び超音波画像処理方法
EP3432803B1 (en) Ultrasound system and method for detecting lung sliding
KR101121396B1 (ko) 2차원 초음파 영상에 대응하는 2차원 ct 영상을 제공하는 시스템 및 방법
EP2433567A1 (en) Medical image diagnosis device and region-of-interest setting method therefor
US10905400B2 (en) Apparatus and method for optimization of ultrasound images
JP2020531074A (ja) 画像アーチファクト特定及び除去のための深層学習ネットワークを有する超音波システム
US20180025492A1 (en) Analyzing apparatus and analyzing method
JP6515095B2 (ja) 解剖学的にインテリジェントな心エコー検査法における肋骨妨害物描出
US20090177086A1 (en) Method and apparatus for selectively enhancing ultrasound image data
CN112654304A (zh) 利用超声成像的脂肪层识别
CN112603361A (zh) 用于在超声图像中跟踪解剖特征的系统和方法
CN111053572B (zh) 用于医疗图像中的运动检测和补偿的方法和系统
JP6150922B1 (ja) 超音波診断装置
US10884124B2 (en) Method and ultrasound imaging system for adjusting a value of an ultrasound parameter
JP7294996B2 (ja) 超音波診断装置及び表示方法
JP6731275B2 (ja) 超音波診断装置
CN113679415B (zh) 超声波诊断装置以及诊断辅助方法
JP7299100B2 (ja) 超音波診断装置及び超音波画像処理方法
JP7488789B2 (ja) 超音波診断装置及び診断支援方法
US20220378403A1 (en) Ultrasound diagnostic apparatus and diagnosis assistance method
CN113842162A (zh) 超声波诊断装置以及诊断辅助方法
CN116269475A (zh) 用于实时图像采集的方法和系统
CN115778435A (zh) 胎儿颜面部的超声成像方法和超声成像系统
CN113939234A (zh) 超声波诊断装置、医用图像处理装置以及医用图像处理方法
CN116650006A (zh) 用于自动超声检查的系统和方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210126

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20211109

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220519

R150 Certificate of patent or registration of utility model

Ref document number: 7078487

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150