JP7333338B2 - 超音波診断装置および超音波診断装置の制御方法 - Google Patents

超音波診断装置および超音波診断装置の制御方法 Download PDF

Info

Publication number
JP7333338B2
JP7333338B2 JP2020562903A JP2020562903A JP7333338B2 JP 7333338 B2 JP7333338 B2 JP 7333338B2 JP 2020562903 A JP2020562903 A JP 2020562903A JP 2020562903 A JP2020562903 A JP 2020562903A JP 7333338 B2 JP7333338 B2 JP 7333338B2
Authority
JP
Japan
Prior art keywords
puncture needle
length
image
unit
diagnostic apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020562903A
Other languages
English (en)
Other versions
JPWO2020137215A1 (ja
Inventor
淳 榎本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Publication of JPWO2020137215A1 publication Critical patent/JPWO2020137215A1/ja
Application granted granted Critical
Publication of JP7333338B2 publication Critical patent/JP7333338B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/0841Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating instruments
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/46Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
    • A61B8/461Displaying means of special interest

Description

本発明は、ヘッドマウントディスプレイを備えた超音波診断装置およびその超音波診断装置の制御方法に関する。
従来から、被検体の内部の画像を得るものとして、超音波診断装置が知られている。超音波診断装置は、一般的に、複数の素子が配列された振動子アレイが備えられた超音波プローブを備えている。この超音波プローブを被検体の体表に接触させた状態において、振動子アレイから被検体内に向けて超音波ビームが送信され、被検体からの超音波エコーを振動子アレイにおいて受信して素子データが取得される。さらに、超音波診断装置は、得られた素子データを電気的に処理して、被検体の当該部位に対する超音波画像を生成する。
このような超音波診断装置は、被検体に穿刺針が挿入される際に、被検体内に挿入された穿刺針を観察するために用いられることがある。この際に、ユーザは、被検体に超音波プローブを接触させながら被検体内に穿刺針を挿入した状態で、モニタ上に表示された超音波画像を確認することにより、超音波画像内に描出された穿刺針を観察しながら被検体内に穿刺針を挿入する。
ここで、通常、超音波画像が表示されるモニタは、ベッドサイド等、超音波プローブから離れた位置に配置されることが多いため、ユーザが手元の穿刺針および超音波プローブとモニタとの間で交互に視線を移動する必要がある。このようなユーザの視線の移動を軽減させるために、例えば、特許文献1に開示されているような、いわゆるヘッドマウントディスプレイを備えた超音波診断装置が開発されている。この超音波診断装置では、穿刺針が描出された超音波画像がヘッドマウントディスプレイの表示部に表示される。
特開2011-200533号公報
ところで、ユーザは、穿刺針を被検体内に挿入している際に、安全上の観点から、穿刺針の被検体内に挿入されている部分の長さを把握することが好ましい。特許文献1の超音波診断装置では、ユーザが、ヘッドマウントディスプレイの表示部を視認することにより、視線の移動を軽減しながら、超音波画像上の穿刺針を確認することができるが、超音波画像上の穿刺針を確認するだけでは、穿刺針の被検体内に挿入されている部分の長さを精確に把握することは困難であった。また、穿刺針の被検体内に挿入されている部分の長さを精確に把握するために、例えば、超音波画像上の穿刺針の長さを計測することが挙げられるが、超音波画像上の長さの計測は、通常、ユーザが手動で行うことが多く、実際、ユーザが被検体内に穿刺針を挿入している途中で超音波画像上の穿刺針の長さを計測することは困難であり、精確な長さを計測することも困難であった。
本発明は、このような従来の問題点を解消するためになされたものであり、ユーザが穿刺針の被検体内に挿入している部分の長さを精確に且つ簡便に把握することができる超音波診断装置およびその超音波診断装置の制御方法を提供することを目的とする。
上記目的を達成するために、本発明に係る超音波診断装置は、被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置であって、ユーザの頭部に装着され、ユーザの前方の視野を撮影した視野画像を取得するカメラ部を有するヘッドマウントディスプレイと、カメラ部により穿刺針の少なくとも一部が撮影された場合に、視野画像を画像解析することにより穿刺針を認識して、視野画像における穿刺針の長さを算出する穿刺針長さ算出部とを備えることを特徴とする。
超音波診断装置は、被検体内に挿入されていない穿刺針の実際の全長を取得する全長取得部と、被検体内に挿入されていない穿刺針の全体が撮影された視野画像から穿刺針長さ算出部により算出された穿刺針の視野画像における長さと、全長取得部により取得された穿刺針の実際の全長との対応関係を取得し、取得された対応関係に基づいて、穿刺針長さ算出部により算出される穿刺針の視野画像における長さから、視野画像に撮影されている穿刺針の実際の長さを推定する実長さ推定部とをさらに備えることが好ましい。
この際に、全長取得部は、カメラ部により、定められた間隔を隔てて配置された複数の溝が形成され且つ被検体内に挿入されていない穿刺針の全体が撮影された場合に、複数の溝を用いて穿刺針の実際の全長を取得することができる。
あるいは、全長取得部は、カメラ部により、穿刺針の実際の全長を表す長さ情報が記録された長さ情報記録部材が撮影された場合に、長さ情報記録部材に記録された長さ情報を読み取ることにより穿刺針の実際の全長を取得することもできる。
あるいは、全長取得部は、カメラ部により、被検体内に挿入されていない穿刺針の全体と、長さを計測するためのスケールとが互いに並列して撮影された場合に、スケールを用いて穿刺針の実際の全長を取得することもできる。
また、実長さ推定部は、推定された穿刺針の実際の長さを超音波画像上に重畳して表示させることができる。
また、超音波診断装置は、カメラ部により、被検体内に一部が挿入されている穿刺針が撮影された場合に、全長取得部により取得された穿刺針の実際の全長と、実長さ推定部により推定された穿刺針の視野画像に写る未挿入部分の実際の長さとに基づいて、穿刺針の被検体内に挿入されている部分の実際の長さを推定する挿入長さ推定部をさらに備えることが好ましい。
この際に、挿入長さ推定部は、推定された穿刺針の被検体内に挿入されている部分の実際の長さを超音波画像上に重畳して表示させることができる。
また、超音波診断装置は、超音波画像に穿刺の目的部位と穿刺針が描出された場合に、超音波画像を画像解析することにより目的部位と穿刺針とを認識し、目的部位と挿入長さ推定部により推定された穿刺針の被検体内に挿入されている部分の実際の長さとに基づいて、目的部位と穿刺針の先端部との間の距離を算出する距離算出部をさらに備えることが好ましい。
この際に、距離算出部は、算出された目的部位と穿刺針の先端部との間の距離の値を超音波画像に重畳して表示させることができる。
超音波診断装置は、距離算出部により算出された距離が定められた値以下となった場合に、ユーザに報知する報知部をさらに備えることができる。
また、ヘッドマウントディスプレイは、超音波画像を表示する表示部を有することができる。
あるいは、超音波診断装置は、音波画像を表示する表示モニタをさらに備えることもできる。
本発明に係る超音波診断装置の制御方法は、被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置の制御方法であって、ユーザの頭部に装着され、カメラ部を有するヘッドマウントディスプレイにより、ユーザの前方の視野を撮影した視野画像を取得し、カメラ部により穿刺針の少なくとも一部が撮影された場合に、視野画像を画像解析することにより穿刺針を認識して、視野画像における穿刺針の長さを算出することを特徴とする。
本発明によれば、ユーザの頭部に装着され、ユーザの前方の視野を撮影した視野画像を取得するカメラ部を有するヘッドマウントディスプレイと、カメラ部により穿刺針の少なくとも一部が撮影された場合に、視野画像を画像解析することにより穿刺針を認識して、視野画像における穿刺針の長さを算出する穿刺針長さ算出部とを備えるため、ユーザが穿刺針の被検体内に挿入している部分の長さを精確に且つ簡便に把握することができる。
本発明の実施の形態1に係る超音波診断装置の構成を示すブロック図である。 本発明の実施の形態1における超音波プローブの構成を示すブロック図である。 本発明の実施の形態1における受信部の構成を示すブロック図である。 本発明の実施の形態1におけるヘッドマウントディスプレイの例を示す図である。 本発明の実施の形態1におけるヘッドマウントディスプレイの構成を示すブロック図である。 本発明の実施の形態1における診断装置本体の構成を示すブロック図である。 穿刺針の例を示す図である。 被検体内に挿入された穿刺針を模式的に示す図である。 本発明の実施の形態1に係る超音波診断装置の動作を示すフローチャートである。 取得された穿刺針の実際の全長が表示された超音波画像を模式的に示す図である。 取得された穿刺針の実際の全長と推定された穿刺針の長さが表示された超音波画像を模式的に示す図である。 バーコードを有する穿刺針の包装袋を模式的に示す図である。 スケールと穿刺針とが並列して配置されている様子を模式的に示す図である。 本発明の実施の形態2における装置本体の構成を示すブロック図である。 被検体内に挿入された穿刺針を模式的に示す図である。 取得された穿刺針の実際の全長と穿刺針の被検体内に挿入された部分の長さが表示された超音波画像を模式的に示す図である。 本発明の実施の形態3における診断装置本体の構成を示すブロック図である。 取得された穿刺針の実際の全長、推定された穿刺針の長さ、目的部位と穿刺針の先端部との距離が表示された超音波画像を模式的に示す図である。 本発明の実施の形態4における診断装置本体の構成を示すブロック図である。 本発明の実施の形態5に係る超音波診断装置の構成を示すブロック図である。
以下、この発明の実施の形態を添付図面に基づいて説明する。
以下に記載する構成要件の説明は、本発明の代表的な実施態様に基づいてなされるが、本発明はそのような実施態様に限定されるものではない。
なお、本明細書において、「~」を用いて表される数値範囲は、「~」の前後に記載される数値を下限値および上限値として含む範囲を意味する。
また、本明細書において、「垂直」および「平行」とは、本発明が属する技術分野において許容される誤差の範囲を含むものとする。例えば、「垂直」および「平行」とは、厳密な垂直あるいは平行に対して±10°未満の範囲内であることなどを意味し、厳密な垂直あるいは平行に対しての誤差は、5°以下であることが好ましく、3°以下であることがより好ましい。
本明細書において、「同一」、「同じ」は、技術分野で一般的に許容される誤差範囲を含むものとする。また、本明細書において、「全部」、「いずれも」または「全面」などというとき、100%である場合のほか、技術分野で一般的に許容される誤差範囲を含み、例えば99%以上、95%以上、または90%以上である場合を含むものとする。
実施の形態1
図1に、本発明の実施の形態1に係る超音波診断装置1の構成を示す。超音波診断装置1は、超音波プローブ2、ヘッドマウントディスプレイ3、診断装置本体4を備えており、超音波プローブ2およびヘッドマウントディスプレイ3は、それぞれ、診断装置本体4と無線状態で接続されている。なお、ヘッドマウントディスプレイ3は、ユーザの頭部に装着され、装着されたユーザに視認される表示装置であり、診断装置本体4からヘッドマウントディスプレイ3に超音波画像等が無線送信され、送信された超音波画像等がヘッドマウントディスプレイ3に表示される。
図2に示すように、超音波プローブ2は、振動子アレイ11を備えており、振動子アレイ11に送信部12および受信部13がそれぞれ接続されている。受信部13には、信号処理部14およびプローブ側無線通信部15が順次接続されている。また、プローブ側無線通信部15に、通信制御部16が接続されている。また、送信部12、受信部13、信号処理部14、プローブ側無線通信部15、通信制御部16に、プローブ制御部17が接続されており、送信部12、受信部13、信号処理部14、通信制御部16およびプローブ制御部17により、プローブプロセッサ18が構成されている。また、超音波プローブ2には、バッテリ19が内蔵されている。
図2に示す超音波プローブ2の振動子アレイ11は、1次元または2次元に配列された複数の振動子を有している。これらの振動子は、それぞれ送信部12から供給される駆動信号に従って超音波を送信すると共に、被検体からの超音波エコーを受信して、超音波エコーに基づく信号を出力する。各振動子は、例えば、PZT(Lead Zirconate Titanate:チタン酸ジルコン酸鉛)に代表される圧電セラミック、PVDF(Poly Vinylidene Di Fluoride:ポリフッ化ビニリデン)に代表される高分子圧電素子およびPMN-PT(Lead Magnesium Niobate-Lead Titanate:マグネシウムニオブ酸鉛-チタン酸鉛固溶体)に代表される圧電単結晶等からなる圧電体の両端に電極を形成することにより構成される。
プローブプロセッサ18の送信部12は、例えば、複数のパルス発生器を含んでおり、プローブ制御部17からの制御信号に応じて選択された送信遅延パターンに基づいて、振動子アレイ11の複数の振動子から送信される超音波が超音波ビームを形成するようにそれぞれの駆動信号を、遅延量を調節して複数の振動子に供給する。このように、振動子アレイ11の振動子の電極にパルス状または連続波状の電圧が印加されると、圧電体が伸縮し、それぞれの振動子からパルス状または連続波状の超音波が発生して、それらの超音波の合成波から、超音波ビームが形成される。
送信された超音波ビームは、例えば、被検体の部位等の対象において反射され、超音波プローブ2の振動子アレイ11に向かって伝搬する。このように振動子アレイ11に向かって伝搬する超音波は、振動子アレイ11を構成するそれぞれの振動子により受信される。この際に、振動子アレイ11を構成するそれぞれの振動子は、伝搬する超音波エコーを受信することにより伸縮して電気信号を発生させ、これらの電気信号を受信部13に出力する。
プローブプロセッサ18の受信部13は、プローブ制御部17からの制御信号に従って、振動子アレイ11から出力される信号の処理を行う。図3に示すように、受信部13は、増幅部20、AD(Analog Digital:アナログデジタル)変換部21およびビームフォーマ22が直列接続された構成を有している。
増幅部20は、振動子アレイ11を構成するそれぞれの振動子から入力された信号を増幅し、増幅した信号をAD変換部21に送信する。AD変換部21は、増幅部20から送信された信号をデジタルデータに変換し、これらのデータをビームフォーマ22に送信する。ビームフォーマ22は、プローブ制御部17からの制御信号に応じて選択された受信遅延パターンに基づいて設定される音速または音速の分布に従い、AD変換部21により変換された各データに対してそれぞれの遅延を与えて加算することにより、いわゆる受信フォーカス処理を行う。この受信フォーカス処理により、AD変換部21により変換された各データが整相加算され且つ超音波エコーの焦点が絞り込まれた受信信号が取得される。
プローブプロセッサ18の信号処理部14は、受信部13で生成された受信データに対し、超音波の反射位置の深度に応じて距離による減衰の補正を施した後、包絡線検波処理を施すことにより、被検体内の組織に関する断層画像情報である超音波画像信号を生成する。
超音波プローブ2のプローブ側無線通信部15は、電波の送信および受信を行うためのアンテナを含んでおり、信号処理部14において生成された超音波画像信号に基づいてキャリアを変調して超音波画像信号を表す伝送信号を生成する。プローブ側無線通信部15は、このようにして生成された超音波画像信号を表す伝送信号をアンテナに供給してアンテナから電波を送信することにより、超音波画像信号を診断装置本体4に順次無線送信する。キャリアの変調方式としては、ASK(Amplitude Shift Keying:振幅偏移変調)、PSK(Phase Shift Keying:位相偏移変調)、QPSK(Quadrature Phase Shift Keying:四位相偏移変調)、16QAM(16 Quadrature Amplitude Modulation:16直角位相振幅変調)等が用いられる。また、プローブ側無線通信部15は、超音波プローブ2の動作を指示するための指示情報等を診断装置本体4から受信し、受信した指示情報等をプローブ制御部17に入力する。
プローブプロセッサ18の通信制御部16は、プローブ制御部17により設定された送信電波強度で超音波画像信号の送信が行われるようにプローブ側無線通信部15を制御する。
プローブプロセッサ18のプローブ制御部17は、予め記憶しているプログラムおよび診断装置本体4から無線送信された指示情報等に基づいて、超音波プローブ2の各部の制御を行う。
超音波プローブ2のバッテリ19は、超音波プローブ2に内蔵されており、超音波プローブ2の各回路に電力を供給する。
なお、送信部12、受信部13、信号処理部14、通信制御部16およびプローブ制御部17を有するプローブプロセッサ18は、CPU(Central Processing Unit:中央処理装置)、および、CPUに各種の処理を行わせるための制御プログラムから構成されるが、FPGA(Field Programmable Gate Array:フィードプログラマブルゲートアレイ)、DSP(Digital Signal Processor:デジタルシグナルプロセッサ)、ASIC(Application Specific Integrated Circuit:アプリケーションスペシフィックインテグレイテッドサーキット)、その他のIC(Integrated Circuit:集積回路)を用いて構成されてもよく、もしくはそれらを組み合わせて構成されてもよい。また、送信部12、受信部13、信号処理部14、通信制御部16およびプローブ制御部17は、部分的にあるいは全体的に1つのCPU等に統合させて構成させることもできる。
ヘッドマウントディスプレイ3は、ユーザの頭部に装着され且つ装着されたユーザに視認される表示装置であり、図4に示すように、いわゆる眼鏡状の形状を有している。ヘッドマウントディスプレイ3は、2つの表示部31A、31Bを備えており、2つの表示部31A、31Bは、橋部Bにより互いに連結され、2つの表示部31A、31Bの端部に、それぞれ蔓部Aが連結されている。例えば、橋部Bがユーザの鼻に、2つの蔓部Aがユーザの両耳に引っかかることにより、ヘッドマウントディスプレイ3が被検体の頭部に固定される。この際に、2つの表示部31A、31Bは、それぞれ、ユーザの左右の眼と対面する。
また、左側の表示部31Bと蔓部Aとの連結部分には、撮影レンズFが前面に配置されたカメラ部32が取り付けられている。また、右側の表示部31Aに連結された蔓部Aに、ヘッドマウントディスプレイ3の動作に必要な各種の回路、バッテリ等が収納された収納部Dが配置されている。
図5に、ヘッドマウントディスプレイ3の構成を示す。ヘッドマウントディスプレイ3は、ヘッドマウントディスプレイ側無線通信部33を有しており、ヘッドマウントディスプレイ側無線通信部33に、カメラ部32、通信制御部34および表示制御部35が接続されている。また、表示制御部35に、表示部31が接続されている。また、カメラ部32、ヘッドマウントディスプレイ側無線通信部33、通信制御部34、表示制御部35に、ヘッドマウントディスプレイ制御部36が接続されている。
なお、説明のため、図4における2つの表示部31A、31Bを、まとめて表示部31を呼んでいる。
また、通信制御部34、表示制御部35およびヘッドマウントディスプレイ制御部36により、ヘッドマウントディスプレイプロセッサ37が構成されている。また、ヘッドマウントディスプレイ3には、バッテリ38が内蔵されている。また、ヘッドマウントディスプレイ側無線通信部33、ヘッドマウントディスプレイプロセッサ37およびバッテリ38は、ヘッドマウントディスプレイ3の収納部Dに収納されている。
ヘッドマウントディスプレイ3のカメラ部32は、撮影レンズFを通してユーザの前方の視野を撮影した視野画像を生成する。図示しないが、カメラ部32は、撮影レンズFを通してユーザの前方の視野を撮影して、アナログ信号である視野画像信号を取得するイメージセンサと、イメージセンサにより取得された視野画像信号を増幅してデジタル信号に変換するアナログ信号処理回路と、変換されたデジタル信号に対してゲイン補正等の各種の補正を行って視野画像を生成するデジタル信号処理回路が内蔵されている。
なお、アナログ信号処理回路、デジタル信号処理回路は、ヘッドマウントディスプレイプロセッサ37に内蔵されることもできる。
ヘッドマウントディスプレイ3のヘッドマウントディスプレイ側無線通信部33は、超音波プローブ2のプローブ側無線通信部15と同様に、電波の送信および受信を行うためのアンテナを含んでおり、カメラ部32により生成された視野画像を診断装置本体4に伝送する。また、診断装置本体4から送信された超音波画像等を受信し、受信した超音波画像等を、表示制御部35を介して表示部31に送信する。また、ヘッドマウントディスプレイ側無線通信部33は、ヘッドマウントディスプレイ3の動作を指示するための指示情報等を診断装置本体4から受信し、受信した指示情報等をヘッドマウントディスプレイ制御部36に出力する。
ヘッドマウントディスプレイ3の表示部31は、ユーザがヘッドマウントディスプレイ3を装着した状態においてユーザの視野を確保するために透光性を有している。また、表示部31は、超音波画像等を表示する表示ディスプレイとなっている。表示部31は、このような構成を有しているため、例えば、診断装置本体4から送信された超音波画像等を表示することができる。
ヘッドマウントディスプレイプロセッサ37の表示制御部35は、ヘッドマウントディスプレイ制御部36の制御の下、診断装置本体4から送信された超音波画像等に所定の処理を施して、表示部31に超音波画像等を表示させる。
ヘッドマウントディスプレイプロセッサ37の通信制御部34は、ヘッドマウントディスプレイ制御部36により設定された送受信電波強度で視野画像の送信および超音波画像等の受信が行われるように、ヘッドマウントディスプレイ側無線通信部33を制御する。
ヘッドマウントディスプレイプロセッサ37のヘッドマウントディスプレイ制御部36は、予め記憶しているプログラムおよび診断装置本体4から無線送信された指示情報等に基づいて、ヘッドマウントディスプレイ3の各部の制御を行う。
ヘッドマウントディスプレイ3のバッテリ38は、ヘッドマウントディスプレイ3に内蔵されており、ヘッドマウントディスプレイ3の各回路に電力を供給する。
なお、通信制御部34、表示制御部35およびヘッドマウントディスプレイ制御部36を有するヘッドマウントディスプレイプロセッサ37は、CPU、および、CPUに各種の処理を行わせるための制御プログラムから構成されるが、FPGA、DSP、ASIC、GPU(Graphics Processing Unit:グラフィックスプロセッシングユニット)、その他のICを用いて構成されてもよく、もしくはそれらを組み合わせて構成されてもよい。また、通信制御部34、表示制御部35およびヘッドマウントディスプレイ制御部36は、部分的にあるいは全体的に1つのCPU等に統合させて構成させることもできる。
図6に示すように、診断装置本体4は、本体側無線通信部41を有しており、本体側無線通信部41に、通信制御部42が接続されている。また、本体側無線通信部41に、超音波画像処理部43、表示制御部44、表示モニタ45が順次接続されている。また、本体側無線通信部41に、穿刺針長さ算出部46と全長取得部47が接続されている。穿刺針長さ算出部46に、実長さ推定部48が接続され、全長取得部47に、表示制御部44と実長さ推定部48が接続されている。また、実長さ推定部48に、表示制御部44が接続されている。また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47および実長さ推定部48に、本体制御部49が接続されており、本体制御部49に、格納部50と入力部51が接続されている。本体制御部49と格納部50は、双方向に情報の受け渡しが可能に接続されている。
また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48および本体制御部49により、診断装置本体プロセッサ52が構成されている。
診断装置本体4の本体側無線通信部41は、超音波プローブ2のプローブ側無線通信部15、ヘッドマウントディスプレイ3のヘッドマウントディスプレイ側無線通信部33と同様に、電波の送信および受信を行うためのアンテナを含んでおり、無線通信によりプローブ側無線通信部15およびヘッドマウントディスプレイ側無線通信部33に対して、指示情報等の送信および超音波画像信号、視野画像等の受信を行う。
診断装置本体プロセッサ52の超音波画像処理部43は、超音波プローブ2から送信された超音波画像信号を本体側無線通信部41を介して受け取り、受け取った超音波画像信号に基づいて超音波画像を生成する。この際に、超音波画像処理部43は、まず、超音波画像信号を通常のテレビジョン信号の操作方式に従う画像信号に変換(ラスター変換)することにより、超音波画像を生成する。また、超音波画像処理部43は、生成された超音波画像に階調処理等の各種の必要な画像処理を施した後、画像処理が施された超音波画像を本体側無線通信部41および表示制御部44に出力する。ここで、本体側無線通信部41に出力された超音波画像は、無線通信により、ヘッドマウントディスプレイ3に送信される。
診断装置本体プロセッサ52の穿刺針長さ算出部46は、ヘッドマウントディスプレイ3から送信された視野画像を本体側無線通信部41を介して受け取り、受け取った視野画像内に、被検体内に挿入される穿刺針の少なくとも一部が写っている場合に、その視野画像を画像解析することにより穿刺針を認識して、視野画像における穿刺針の長さを算出する。
ここで、穿刺針とは、例えば図7に示すようなものを指し、穿刺針Nの一端は被検体に穿刺するために鋭く尖っており、他端には、いわゆる注射器のシリンダー等に取り付けるための取付部Eが連結されている。このような穿刺針Nは、一般的に、被検体内からの検体の採取、被検体内への薬剤の注入等の目的で使用される。
また、穿刺針長さ算出部46は、視野画像に写る穿刺針Nを認識する際に、例えば、穿刺針の典型的なパターンデータをテンプレートとして予め記憶しておき、視野画像内をテンプレートでサーチしながらパターンデータに対する類似度を算出し、類似度が閾値以上且つ最大となった場所に穿刺針Nが存在するとみなすことができる。
類似度の算出には、単純なテンプレートマッチングの他に、例えば、Csurka et al.: Visual Categorization with Bags of Keypoints, Proc. of ECCV Workshop on Statistical Learning in Computer Vision, pp.59-74 (2004)に記載されている機械学習手法、あるいは、Krizhevsk et al.: ImageNet Classification with Deep Convolutional Neural Networks, Advances in Neural Information Processing Systems 25, pp.1106-1114 (2012)に記載されているディープラーニングを用いた一般画像認識手法等を用いることができる。
診断装置本体プロセッサ52の全長取得部47は、ヘッドマウントディスプレイ3から送信された視野画像を本体側無線通信部41を介して受け取り、受け取った視野画像に基づいて、穿刺針Nの実際の全長を取得する。例えば、図7に示すように、穿刺針Nに、定められた間隔LGを隔てて配置された複数の溝Gが形成されており、視野画像内に穿刺針Nの全体が写っている場合に、全長取得部47は、視野画像を画像解析することにより、複数の溝の間の間隔LGを用いて穿刺針Nの実際の全長LAを取得する。この際に、全長取得部47は、例えば、複数の溝Gの間の間隔LGの実際の長さを予め記憶し、記憶された間隔LGの実際の長さを参照することにより、穿刺針Nの実際の全長LAを取得することができる。また、複数の溝Gの間の間隔LGの値は、入力部51を介してユーザにより予め入力されることもできる。
診断装置本体プロセッサ52の実長さ推定部48は、被検体内に挿入されていない穿刺針Nの全体が撮影された視野画像から穿刺針長さ算出部46により算出された穿刺針Nの視野画像における長さと、全長取得部47により取得された穿刺針Nの実際の全長との対応関係を取得し、取得された対応関係に基づいて、穿刺針長さ算出部46により算出される穿刺針Nの長さから、視野画像に撮影されている穿刺針Nの実際の長さを推定する。例えば、図8に示すように、被検体S内に穿刺針Nが挿入され、ヘッドマウントディスプレイ3のカメラ部32により穿刺針Nが撮影された場合に、視野画像には、被検体Sの外側に位置する穿刺針Nの未挿入部分が写る。この場合に、実長さ推定部48は、穿刺針Nの実際の全長LAを基準として、穿刺針長さ算出部46により算出された穿刺針Nの視野画像における長さから、穿刺針Nの未挿入部分の実際の長さLBを推定する。
また、実長さ推定部48は、推定した穿刺針Nの実際の長さの値を、本体側無線通信部41および表示制御部44に送出する。本体側無線通信部41に送出された穿刺針Nの実際の長さの値は、無線通信により、ヘッドマウントディスプレイ3に送信される。
診断装置本体プロセッサ52の表示制御部44は、本体制御部49の制御の下、超音波画像処理部43により生成された超音波画像および実長さ推定部48により推定された穿刺針Nの実際の長さの値等に所定の処理を施して、表示モニタ45に、超音波画像および推定された穿刺針Nの実際の長さを表示させる。
診断装置本体4の表示モニタ45は、表示制御部44の制御の下、画像を表示するものであり、例えば、LCD(Liquid Crystal Display:液晶ディスプレイ)、有機ELディスプレイ(Organic Electroluminescence Display)等のディスプレイ装置を含む。
診断装置本体プロセッサ52の本体制御部49は、格納部50等に予め記憶されているプログラムおよび入力部51を介したユーザの入力操作に基づいて診断装置本体4の各部の制御を行う。
診断装置本体プロセッサ52の通信制御部42は、本体制御部49により設定された送受信電波強度でデータの送受信が行われるように、本体側無線通信部41を制御する。
診断装置本体4の入力部51は、ユーザが入力操作を行うためのものであり、キーボード、マウス、トラックボール、タッチパッドおよびタッチパネル等を備えて構成することができる。
なお、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48および本体制御部49を有する診断装置本体プロセッサ52は、CPU、および、CPUに各種の処理を行わせるための制御プログラムから構成されるが、FPGA、DSP、ASIC、GPU、その他のICを用いて構成されてもよく、もしくはそれらを組み合わせて構成されてもよい。また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48および本体制御部49は、部分的にあるいは全体的に1つのCPU等に統合させて構成させることもできる。
次に、図9のフローチャートを用いて本発明の実施の形態1に係る超音波診断装置1の動作を説明する。
まず、ステップS1において、ユーザの頭部に装着されたヘッドマウントディスプレイ3のカメラ部32は、ユーザの前方の視野を撮影することにより、視野画像を生成する。
続くステップS2において、ステップS1で穿刺針Nの全体が撮影されたか否か、すなわち、ステップS1で生成された視野画像に穿刺針Nの全体が写っているか否かが判定される。この際に、例えば、診断装置本体4の穿刺針長さ算出部46によりステップS1で撮影された視野画像に対して穿刺針Nの認識処理が行われ、穿刺針Nの全体が認識された場合には、視野画像に穿刺針Nの全体が写っていると判定され、穿刺針Nの全体が認識されない場合には、視野画像に穿刺針Nの全体が写っていないと判定される。
ステップS1で穿刺針Nの全体が撮影されていないと判定された場合には、ステップS1に戻り、ヘッドマウントディスプレイ3のカメラ部32により、新たに視野画像が撮影されて、ステップS2に進む。このように、ステップS1で穿刺針Nの全体が撮影されたとステップS2において判定されるまで、ステップS1、ステップS2の処理が繰り返される。
ステップS1で穿刺針Nの全体が撮影されたとステップS2において判定された場合には、ステップS3に進む。
ステップS3において、穿刺針長さ算出部46により、ステップS1で取得された視野画像に基づいて、視野画像における穿刺針Nの全長が算出される。この際に、穿刺針長さ算出部46は、ステップS1で取得された視野画像を画像解析することにより、視野画像に写っている穿刺針Nの全体を認識し、認識された穿刺針Nの視野画像上の全長を算出する。
続くステップS4において、診断装置本体4の全長取得部47により、穿刺針Nの実際の全長が取得される。例えば、図7に示すように、穿刺針Nに、定められた間隔LGを隔てて配置された複数の溝Gが形成されており、視野画像内に穿刺針Nの全体が写っている場合に、全長取得部47は、視野画像を画像解析することにより、複数の溝の間の間隔LGを用いて穿刺針の実際の全長LAを取得する。この際に、全長取得部47は、例えば、複数の溝Gの間の間隔LGの実際の長さを予め記憶し、記憶された間隔LGの実際の長さを参照することにより、穿刺針Nの実際の全長LAを取得する。
ステップS5において、ステップS4で取得された穿刺針Nの実際の全長LAが、ヘッドマウントディスプレイ3の表示部31と診断装置本体4の表示モニタ45に表示される。ここで、ステップS4で取得された穿刺針Nの実際の全長LAは、以降においても、ヘッドマウントディスプレイ3の表示部31と診断装置本体4の表示モニタ45に表示され続ける。これにより、ユーザは、使用している穿刺針Nの実際の全長を容易に把握することができる。
ステップS6において、診断装置本体4の実長さ推定部48により、ステップS3で算出された視野画像における穿刺針Nの全長と、ステップS4で取得された穿刺針Nの実際の全長とを用いて、穿刺針長さ算出部46により算出される穿刺針Nの視野画像上の長さと、ヘッドマウントディスプレイ3のカメラ部32により撮影されている穿刺針Nの実際の長さとの対応関係が取得される。例えば、実長さ推定部48は、この対応関係として、ステップS3で算出された視野画像における穿刺針Nの全長に対するステップS4で取得された穿刺針Nの実際の全長の比率を取得することができる。実長さ推定部48は、取得された対応関係を用いることにより、穿刺針長さ算出部46により算出された穿刺針Nの長さから、視野画像に撮影されている穿刺針Nの実際の長さを推定することができる。
ステップS7において、ユーザが超音波プローブ2を被検体Sに接触させた状態で振動子アレイ11から被検体S内に向かって超音波ビームが送信され、被検体Sからの超音波エコーが振動子アレイ11により受信されて受信信号が生成される。超音波プローブ2の信号処理部14により受信信号の処理がなされ、超音波画像信号が生成されると、診断装置本体4の超音波画像処理部43により超音波画像が生成される。このようにして生成された超音波画像は、ヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45に表示される。
なお、ステップS8以降においても、超音波画像が順次生成され、生成された超音波画像がヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45に表示されるものとする。ユーザは、超音波画像が順次生成されている状態において、被検体S内に穿刺針Nが挿入される箇所を超音波画像に描出させるように、被検体Sに超音波プローブ2を接触させながら、被検体S内に穿刺針Nを挿入する。
また、ステップS8で生成された超音波画像がヘッドマウントディスプレイ3の表示部31と診断装置本体4の表示モニタ45に表示される際に、ステップS4で取得された穿刺針Nの実際の全長が、ステップS8で生成された超音波画像に重畳されて、ヘッドマウントディスプレイ3の表示部31と診断装置本体4の表示モニタ45に表示される。例えば、穿刺針Nが被検体Sに挿入されていない状態において、ステップS4で取得された穿刺針Nの実際の全長は、図10に示すように、穿刺針長さV1として、超音波画像Uに重畳される。図10に例示される超音波画像Uには、穿刺針長さV1が70mmである旨が重畳されており、穿刺の目的となる目的部位Tが描出されている。
続くステップS8において、ステップS1と同様に、ヘッドマウントディスプレイ3のカメラ部32により、視野画像が撮影される。
ステップS9において、ステップS8で穿刺針Nの少なくとも一部が撮影されたか否か、すなわち、ステップS8で撮影された視野画像に穿刺針Nの少なくとも一部が写っているか否かが判定される。ステップS8で穿刺針Nの少なくとも一部が撮影されていないとステップS9において判定された場合には、ステップS8に戻り、ヘッドマウントディスプレイ3のカメラ部32により新たに視野画像が撮影され、ステップS9に進む。このように、ステップS8で穿刺針Nの少なくとも一部が撮影されたとステップS9において判定されるまで、ステップS8およびステップS9の処理が繰り返される。
ステップS8で穿刺針Nの少なくとも一部が撮影されたとステップS9において判定された場合には、ステップS10に進む。
ステップS10において、診断装置本体4の穿刺針長さ算出部46により、ステップS7で撮影された視野画像における穿刺針Nの長さが算出される。例えば、図8に示すように、被検体S内に穿刺針Nの一部が挿入されている場合には、視野画像において被検体Sの外側に存在する、穿刺針Nの未挿入部分の長さが算出される。
ステップS11において、診断装置本体4の実長さ推定部48により、視野画像に撮影されている穿刺針Nの実際の長さが推定される。この際に、実長さ推定部48は、ステップS6で取得された、視野画像における穿刺針Nの全長と穿刺針Nの実際の全長との対応関係を用いて、ステップS10で算出された穿刺針Nの長さから、視野画像に撮影されている穿刺針Nの実際の長さを推定する。例えば、図8に示すように、被検体Sに穿刺針Nの一部が挿入されている場合に、実長さ推定部48は、穿刺針Nの実際の全長LAを基準として、穿刺針Nの未挿入部分の実際の長さLBを推定する。
続くステップS12において、実長さ推定部48により、ステップS11で推定された穿刺針Nの実際の長さが、ステップS7で生成された超音波画像Uに重畳されて、ヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45に表示される。例えば、被検体S内に穿刺針Nの一部が挿入されている場合に、実長さ推定部48は、図11に示すように、ステップS11で推定された穿刺針Nの実際の長さを、推定長さV2として超音波画像U上に重畳して表示させる。図10に例示する超音波画像Uには、推定長さV2が50mmである旨が重畳され、穿刺針Nと目的部位Tが描出されている。
ユーザは、このようにしてヘッドマウントディスプレイ3の表示部31または診断装置本体4の表示モニタ45に表示された、穿刺針Nの未挿入部分の長さを確認することにより、現在、被検体S内にどの程度、穿刺針Nが挿入されているかを容易に把握することができる。
最後に、ステップS13において、超音波診断装置1の動作を終了するか否かの判定が行われる。図示しないが、例えば、ヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45に、超音波診断装置1の動作を終了するための終了ボタンが表示されており、診断装置本体4の入力部51等を介してユーザにより終了ボタンが押されることにより、超音波診断装置1の動作を終了すると判定され、終了ボタンが押されない場合には、超音波診断装置1の動作を終了しないと判定される。
超音波診断装置1の動作を終了しないとステップS13において判定された場合には、ステップS8~ステップS13の処理が再び行われる。このように、超音波診断装置1の動作を終了すると判定されるまで、ステップS8~ステップS13の処理が繰り返される。超音波診断装置1の動作を終了するとステップS13において判定された場合には、超音波診断装置1の動作が終了する。
以上のように、本発明の実施の形態1に係る超音波診断装置1によれば、ヘッドマウントディスプレイ3のカメラ部32により穿刺針Nの少なくとも一部が撮影された場合に、穿刺針長さ算出部46により、撮影された穿刺針Nの長さが算出され、算出された穿刺針Nの長さに基づいて、実長さ推定部48により、穿刺針Nの実際の長さが推定され、推定された穿刺針Nの実際の長さが、超音波画像Uに重畳されて、ヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45に表示されるため、ユーザが、穿刺針Nの被検体S内に挿入している部分の長さを精確に且つ簡便に把握することができる。
なお、実施の形態1では、図7に示すように、定められた間隔LGを隔てて配置された複数の溝Gが形成された穿刺針Nが例示されているが、穿刺針Nの種類として、先端部から一定の長さにわたって、微細な溝を形成する、いわゆるエングレーブ加工がさらに施されているものがある。診断装置本体4の全長取得部47は、例えば、エングレーブ加工が施された穿刺針Nの全体がヘッドマウントディスプレイ3のカメラ部32により撮影された場合に、複数の溝Gの間の間隔LGの他に、エングレーブ加工が施されている部分の長さを用いて、穿刺針Nの実際の全長LAを取得することができる。
また、全長取得部47が、穿刺針Nに形成された複数の溝Gの間の間隔LGに基づいて、穿刺針Nの実際の全長LAを取得することが例示されているが、穿刺針Nの実際の全長LAを取得する方法は、これに限定されない。
例えば、図12に示すように、穿刺針Nの包装袋Pには、穿刺針Nの実際の全長LAを表す長さ情報が記録されたバーコードBCが印刷されていることがある。全長取得部47は、このバーコードBCがヘッドマウントディスプレイ3のカメラ部32に撮影された場合に、視野画像に写るバーコードBCに記録された長さ情報を読み取ることにより、穿刺針Nの実際の全長LAを取得することができる。このように、全長取得部47は、バーコードBC等の長さ情報記録部材に記録された長さ情報を読み取ることにより、穿刺針Nの実際の全長LAを取得することもできる。
また、全長取得部47は、図13に示すように、ヘッドマウントディスプレイ3のカメラ部32により、被検体S内に挿入されていない穿刺針Nの全体と、長さを計測するためのスケールSCとが互いに並列して撮影された場合に、スケールSCの目盛りを基準にして穿刺針Nの実際の全長LAを算出することができる。
また、実施の形態1では、診断装置本体4の超音波画像処理部43により生成された超音波画像Uと、実長さ推定部48により推定された穿刺針Nの実際の長さとがヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45の双方に表示されることが説明されているが、ヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45のどちらか一方に表示されていてもよい。この場合でも、ユーザは、推定された穿刺針Nの実際の長さを確認し、穿刺針Nの被検体S内に挿入している部分の長さを精確に且つ簡便に把握することができる。
また、超音波プローブ2、ヘッドマウントディスプレイ3、診断装置本体4は、無線通信により互いに接続されているが、無線通信を用いる代わりに有線接続されていてもよい。例えば、図示しないが、超音波プローブ2と診断装置本体4とが有線接続され、且つ、ヘッドマウントディスプレイ3と診断装置本体4とが有線接続されることができる。
また、ヘッドマウントディスプレイ3が、ユーザが視認可能な表示部31とユーザの前方の視野を撮影するためのカメラ部32を備え且つユーザの頭部に装着可能なものであれば、ヘッドマウントディスプレイ3の形状は、図4に示す形状に限定されない。例えば、ヘッドマウントディスプレイ3は、2つの表示部31A、31Bの双方を備える代わりに2つの表示部31A、31Bのどちらか一方のみを備えていてもよく、ユーザの両眼と対面するような唯1つの表示部を備えていてもよい。
また、診断装置本体4に超音波画像処理部43が備えられているが、診断装置本体4に備えられる代わりに、超音波プローブ2に超音波画像処理部43が備えられていてもよい。この場合には、超音波プローブ2において超音波画像Uが生成されて、生成された超音波画像Uがプローブ側無線通信部15を介して診断装置本体4に送信される。診断装置本体4に送信された超音波画像Uは、診断装置本体4の本体側無線通信部41を介して表示制御部44に入力されるとともに、本体側無線通信部41から、ヘッドマウントディスプレイ3に送信される。ヘッドマウントディスプレイ3に送信された超音波画像Uは、ヘッドマウントディスプレイ3のヘッドマウントディスプレイ側無線通信部33を介して表示制御部35に入力される。この際に、診断装置本体4を経由せずに、超音波プローブ2からヘッドマウントディスプレイ3に直接、超音波画像Uが送信されてもよい。
実施の形態2
実施の形態1では、診断装置本体4の実長さ推定部48により、ヘッドマウントディスプレイ3のカメラ部32に撮影されている穿刺針Nの実際の長さが推定されているが、推定された穿刺針Nの長さに基づいて、穿刺針Nの被検体S内に挿入されている部分の長さが推定されることもできる。
実施の形態2に係る超音波診断装置は、実施の形態1における超音波プローブ2とヘッドマウントディスプレイ3が、図14に示す診断装置本体4Aに接続されたものである。実施の形態2における診断装置本体4Aは、図6に示す診断装置本体4において、本体制御部49の代わりに本体制御部49Aが備えられ、挿入長さ推定部53が追加されたものである。
診断装置本体4Aにおいて、全長取得部47と実長さ推定部48に、挿入長さ推定部53が接続され、挿入長さ推定部53に、本体側無線通信部41と距離算出部54が接続されている。また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、格納部50、入力部51および挿入長さ推定部53に、本体制御部49Aが接続されている。
また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48、本体制御部49Aおよび挿入長さ推定部53により、診断装置本体プロセッサ52Aが構成されている。
診断装置本体プロセッサ52Aの挿入長さ推定部53は、図15に示すように、ヘッドマウントディスプレイ3のカメラ部32により、被検体S内に一部が挿入されている穿刺針Nが撮影された場合に、全長取得部47により取得された穿刺針Nの実際の全長LAと、実長さ推定部48により推定された穿刺針Nの未挿入部分の実際の長さLBとに基づいて、穿刺針Nの被検体S内に挿入されている部分の長さLCを推定する。また、挿入長さ推定部53は、推定された長さLCの値を、本体側無線通信部41と表示制御部44とに送出し、ヘッドマウントディスプレイ3の表示部31と診断装置本体4Aの表示モニタ45にそれぞれ表示させる。
この際に、挿入長さ推定部53は、例えば、図16に示すように、推定された、穿刺針Nの被検体S内に挿入されている部分の長さLCを、挿入長さV3として、超音波画像Uに重畳して表示させる。図16に例示する超音波画像Uには、全長取得部47により取得された穿刺針Nの実際の全長、すなわち、穿刺針長さV1が70mmである旨と、挿入長さV3が20mmである旨が重畳されており、被検体S内に挿入された穿刺針Nと、穿刺の目的となる目的部位Tが描出されている。
このように、実施の形態2に係る超音波診断装置によれば、挿入長さ推定部53により、穿刺針Nの被検体S内に挿入されている部分の長さLCが推定され、推定された長さLCが超音波画像Uに重畳されて、ヘッドマウントディスプレイ3の表示部31と診断装置本体4Aの表示モニタ45に表示されるため、ユーザが、穿刺針Nの被検体S内に挿入している部分の長さを精確に且つ簡便に把握することができる。
なお、実施の形態2では、診断装置本体4Aの実長さ推定部48により推定された、視野画像に撮影されている穿刺針Nの実際の長さLBがヘッドマウントディスプレイ3の表示部31と診断装置本体4Aの表示モニタ45に表示される代わりに、挿入長さ推定部53により推定された、穿刺針Nの被検体S内に挿入されている部分の長さLCが表示されているが、穿刺針Nの実際の長さLBと穿刺針Nの被検体S内に挿入されている部分の長さLCの双方がヘッドマウントディスプレイ3の表示部31と診断装置本体4Aの表示モニタ45に表示されてもよい。この場合にも、ユーザは、穿刺針Nの被検体S内に挿入している部分の長さを精確に且つ簡便に把握することができる。
実施の形態3
実施の形態2では、挿入長さ推定部53により、穿刺針Nの被検体S内に挿入されている部分の長さLCが推定されているが、さらに、穿刺の目的である目的部位Tと穿刺針Nの先端部との間の距離が算出されることもできる。
実施の形態3に係る超音波診断装置は、実施の形態1における超音波プローブ2とヘッドマウントディスプレイ3が、図17に示す診断装置本体4Bに接続されたものである。実施の形態3における診断装置本体4Bは、図14に示す実施の形態2における診断装置本体4Aにおいて、本体制御部49Aの代わりに本体制御部49Bが備えられ、距離算出部54が追加されたものである。
診断装置本体4Bにおいて、超音波画像処理部43と挿入長さ推定部53に、距離算出部54が接続され、距離算出部54に、本体側無線通信部41と表示制御部44が接続されている。また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48、格納部50、入力部51、挿入長さ推定部53および距離算出部54に、本体制御部49Bが接続されている。
また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48、本体制御部49B、挿入長さ推定部53および距離算出部54により、診断装置本体プロセッサ52Bが構成されている。
診断装置本体プロセッサ52Bの距離算出部54は、図18に示すように、超音波画像Uに穿刺の目的部位Tと穿刺針Nとが描出された場合に、超音波画像Uを画像解析することにより目的部位Tと穿刺針Nとを認識し、目的部位Tと、挿入長さ推定部53により推定された、穿刺針Nの被検体S内に挿入されている部分の実際の長さLCとに基づいて、目的部位Tと穿刺針Nの先端部との間の距離DTを算出する。ここで、距離算出部54は、目的部位Tと穿刺針Nの先端部との距離DTとして、例えば、目的部位Tと穿刺針Nの先端部との穿刺針Nの伸長方向における距離を算出する。
また、距離算出部54は、このようにして算出した、目的部位Tと穿刺針Nの先端部との間の距離DTを、本体側無線通信部41と表示制御部44とに送出し、ヘッドマウントディスプレイ3の表示部31と診断装置本体4Aの表示モニタ45にそれぞれ表示させる。
この際に、距離算出部54は、例えば、図18に示すように、算出された、目的部位Tと穿刺針Nの先端部との間の距離DTを、目的部位との距離V4として、超音波画像Uに重畳して表示させる。図18に例示する超音波画像Uには、全長取得部47により取得された穿刺針Nの実際の全長、すなわち、穿刺針長さV1が70mmである旨と、挿入長さ推定部53により推定された、穿刺針Nの被検体S内に挿入されている部分の長さ、すなわち、挿入長さV3が20mmである旨と、目的部位との距離V4が8mmである旨が重畳されており、被検体S内に挿入された穿刺針Nと、目的部位Tが描出されている。
このように、実施の形態3に係る超音波診断装置によれば、距離算出部54により、穿刺の目的である目的部位Tと穿刺針Nの先端部との間の距離DTが算出され、算出された距離DTがヘッドマウントディスプレイ3の表示部31と診断装置本体4Aの表示モニタ45に表示されるため、ユーザが目的部位Tに対する穿刺針Nの位置関係を精確に把握することができる。
実施の形態4
実施の形態3では、距離算出部54により、目的部位Tと穿刺針Nの先端部との間の距離DTが算出されているが、さらに、算出された距離DTが短い場合、すなわち、穿刺針Nの先端部が目的部位Tに接近した場合に、その旨がユーザに報知されることもできる。
実施の形態3に係る超音波診断装置は、実施の形態1における超音波プローブ2とヘッドマウントディスプレイ3が、図19に示す診断装置本体4Cに接続されたものである。実施の形態4における診断装置本体4Cは、図17に示す実施の形態3における診断装置本体4Bにおいて、本体制御部49Bの代わりに本体制御部49Cが備えられ、報知部55が追加されたものである。
診断装置本体4Cにおいて、距離算出部54に、報知部55が接続され、報知部55に、本体側無線通信部41と表示制御部44が接続されている。また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48、格納部50、入力部51、挿入長さ推定部53、距離算出部54および報知部55に、本体制御部49Cが接続されている。
また、通信制御部42、超音波画像処理部43、表示制御部44、穿刺針長さ算出部46、全長取得部47、実長さ推定部48、本体制御部49C、挿入長さ推定部53、距離算出部54および報知部55により、診断装置本体プロセッサ52Cが構成されている。
診断装置本体プロセッサ52Cの報知部55は、距離算出部54により算出された、目的部位Tと穿刺針Nの先端部との間の距離DTの値が定められた値以下となった場合に、その旨をユーザに報知する。例えば、図示しないが、報知部55は、穿刺針Nの先端部が目的部位Tに接近している旨を表すテキストおよび画像等を、超音波画像Uに重畳して、ヘッドマウントディスプレイ3の表示部31および診断装置本体4Cの表示モニタ45に表示させることにより、ユーザへ報知することができる。
このように、実施の形態4に係る超音波診断装置によれば、目的部位Tと穿刺針Nの先端部との間の距離DTの値が定められた値以下となった場合に、報知部55が、穿刺針Nの先端部が目的部位Tに接近している旨をユーザに報知するため、ユーザが、目的部位Tに対する穿刺針Nの位置関係を精確に且つより明確に把握することができる。
なお、図示しないが、例えば、超音波プローブ2、ヘッドマウントディスプレイ3、診断装置本体4Cに、スピーカ等の音源部が備えられている場合には、報知部55は、音源部を介して報知音または音声等によりユーザに報知することもできる。また、例えば、ヘッドマウントディスプレイ3を振動させるためのモータ等の振動部がヘッドマウントディスプレイ3に備えられている場合には、報知部55は、振動部によりヘッドマウントディスプレイ3を振動させてユーザに報知することもできる。
実施の形態5
実施の形態1の超音波診断装置1は、超音波プローブ2、ヘッドマウントディスプレイ3が診断装置本体4に無線通信により接続され、また、表示モニタ45、入力部51が診断装置本体4の診断装置本体プロセッサ52に直接的に接続される構成を有しているが、例えば、超音波プローブ2、ヘッドマウントディスプレイ3、表示モニタ45、入力部51と、診断装置本体プロセッサ52とがネットワークを介して間接的に接続されることもできる。
図20に示すように、実施の形態5に係る超音波診断装置1Dは、超音波プローブ2、ヘッドマウントディスプレイ3、表示モニタ45、入力部51がネットワークNWを介して診断装置本体4Dに接続されたものである。診断装置本体4Dは、図6に示す実施の形態1における診断装置本体4において、表示モニタ45、入力部51を除いたものであり、診断装置本体プロセッサ52および格納部50により構成されている。
超音波診断装置1Dがこのような構成を有している場合でも、実施の形態1の超音波診断装置1と同様に、ヘッドマウントディスプレイ3のカメラ部32により穿刺針Nの少なくとも一部が撮影された場合に、穿刺針長さ算出部46により、撮影された穿刺針Nの長さが算出され、算出された穿刺針Nの長さに基づいて、実長さ推定部48により、穿刺針Nの実際の長さが推定され、推定された穿刺針Nの実際の長さが、超音波画像Uに重畳されて、ヘッドマウントディスプレイ3の表示部31および診断装置本体4の表示モニタ45に表示される。そのため、超音波診断装置1Dによれば、ユーザは、穿刺針Nの被検体S内に挿入している部分の長さを精確に且つ簡便に把握することができる。
また、超音波プローブ2、ヘッドマウントディスプレイ3、表示モニタ45、入力部51がネットワークNWを介して診断装置本体4Dに接続されているため、診断装置本体4Dを、いわゆる遠隔サーバとして使用することができる。これにより、例えば、ユーザは、ヘッドマウントディスプレイ3を頭部に装着し、超音波プローブ2、表示モニタ45、入力部51を手元に用意することにより、被検体S内を超音波画像Uを用いて観察することができるため、被検体S内を観察する際の利便性を向上させることができる。
また、例えば、いわゆるタブレットと呼ばれる携帯型の薄型コンピュータが表示モニタ45および入力部51として使用される場合には、ユーザは、より手軽に被検体S内の観察を行うことができる。
なお、実施の形態5の態様は、実施の形態1に適用されることが説明されているが、実施の形態2~実施の形態4についても、同様に適用されることができる。
1,1A,1B,1C,1D 超音波診断装置、2 超音波プローブ、3 ヘッドマウントディスプレイ、4,4A,4B,4C,4D 診断装置本体、11 振動子アレイ、12 送信部、13 受信部、14 信号処理部、15 プローブ側無線通信部、16,34,42 通信制御部、17 プローブ制御部、18 プローブプロセッサ、19,38 バッテリ、20 増幅部、21 AD変換部、22 ビームフォーマ、31,31A,31B 表示部、32 カメラ部、33 ヘッドマウントディスプレイ側無線通信部、35,44 表示制御部、36 ヘッドマウントディスプレイ制御部、37 ヘッドマウントディスプレイプロセッサ、41 本体側無線通信部、43 超音波画像処理部、45 表示モニタ、46 穿刺針長さ算出部、47 全長取得部、48 実長さ推定部、49,49A,49B,49C 本体制御部、50 格納部、51 入力部、52,52A,52B,52C 診断装置本体プロセッサ、53 挿入長さ推定部、54 距離算出部、55 報知部、A 蔓部、B 橋部、BC バーコード、D 収納部、DT,V4 距離、E 取付部、F 撮影レンズ、G 溝、LA 全長、LB,LC 長さ、LG 間隔、P 包装袋、N 穿刺針、NW ネットワーク、S 被検体、SC スケール、T 目的部位、U 超音波画像、V1 穿刺針長さ、V2 推定長さ、V3 挿入長さ。

Claims (19)

  1. 被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置であって、
    ユーザの頭部に装着され、前記ユーザの前方の視野を撮影した視野画像を取得するカメラ部を有するヘッドマウントディスプレイと、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記視野画像を画像解析することにより前記穿刺針を認識して、前記視野画像における前記穿刺針の長さを算出する穿刺針長さ算出部と
    を備える超音波診断装置。
  2. 被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置であって、
    ユーザの頭部に装着され、前記ユーザの前方の視野を撮影した視野画像を取得するカメラ部を有するヘッドマウントディスプレイと、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記視野画像を画像解析することにより前記穿刺針を認識して、前記視野画像における前記穿刺針の長さを算出する穿刺針長さ算出部と、
    前記被検体内に挿入されていない前記穿刺針の実際の全長を取得する全長取得部と、
    前記被検体内に挿入されていない前記穿刺針の全体が撮影された前記視野画像から前記穿刺針長さ算出部により算出された前記穿刺針の前記視野画像における長さと、前記全長取得部により取得された前記穿刺針の実際の全長との対応関係を取得し、取得された前記対応関係に基づいて、前記穿刺針長さ算出部により算出される前記穿刺針の前記視野画像における長さから、前記視野画像に撮影されている前記穿刺針の実際の長さを推定する実長さ推定部と
    を備える超音波診断装置。
  3. 前記全長取得部は、前記カメラ部により、定められた間隔を隔てて配置された複数の溝が形成され且つ前記被検体内に挿入されていない前記穿刺針の全体が撮影された場合に、前記複数の溝を用いて前記穿刺針の実際の全長を取得する請求項2に記載の超音波診断装置。
  4. 前記全長取得部は、前記カメラ部により、前記穿刺針の実際の全長を表す長さ情報が記録された長さ情報記録部材が撮影された場合に、前記長さ情報記録部材に記録された前記長さ情報を読み取ることにより前記穿刺針の実際の全長を取得する請求項2に記載の超音波診断装置。
  5. 前記全長取得部は、前記カメラ部により、前記被検体内に挿入されていない前記穿刺針の全体と、長さを計測するためのスケールとが互いに並列して撮影された場合に、前記スケールを用いて前記穿刺針の実際の全長を取得する請求項2に記載の超音波診断装置。
  6. 被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置であって、
    ユーザの頭部に装着され、前記ユーザの前方の視野を撮影した視野画像を取得するカメラ部を有するヘッドマウントディスプレイと、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記視野画像を画像解析することにより前記穿刺針を認識して、前記視野画像における前記穿刺針の長さを算出する穿刺針長さ算出部と、
    前記カメラ部により、定められた間隔を隔てて配置された複数の溝が形成され且つ前記被検体に挿入されていない前記穿刺針の全体が撮影された場合に、前記複数の溝を用いて、前記被検体内に挿入されていない前記穿刺針の実際の全長を取得する全長取得部と
    を備える超音波診断装置。
  7. 被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置であって、
    ユーザの頭部に装着され、前記ユーザの前方の視野を撮影した視野画像を取得するカメラ部を有するヘッドマウントディスプレイと、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記視野画像を画像解析することにより前記穿刺針を認識して、前記視野画像における前記穿刺針の長さを算出する穿刺針長さ算出部と、
    前記カメラ部により、前記穿刺針の実際の全長を表す長さ情報が記録された長さ情報記録部材が撮影された場合に、前記長さ情報記録部材に記録された前記長さ情報を読み取ることにより、前記被検体内に挿入されていない前記穿刺針の実際の全長を取得する全長取得部と
    を備える超音波診断装置。
  8. 前記実長さ推定部は、推定された前記穿刺針の実際の長さを前記超音波画像上に重畳して表示させる請求項に記載の超音波診断装置。
  9. 前記カメラ部により、前記被検体内に一部が挿入されている前記穿刺針が撮影された場合に、前記全長取得部により取得された前記穿刺針の実際の全長と、前記実長さ推定部により推定された前記穿刺針の前記視野画像に写る未挿入部分の実際の長さとに基づいて、前記穿刺針の前記被検体内に挿入されている部分の実際の長さを推定する挿入長さ推定部をさらに備える請求項2または8に記載の超音波診断装置。
  10. 前記挿入長さ推定部は、推定された前記穿刺針の前記被検体内に挿入されている部分の実際の長さを前記超音波画像上に重畳して表示させる請求項9に記載の超音波診断装置。
  11. 前記超音波画像に穿刺の目的部位と前記穿刺針が描出された場合に、前記超音波画像を画像解析することにより前記目的部位と前記穿刺針とを認識し、前記目的部位と前記挿入長さ推定部により推定された前記穿刺針の前記被検体内に挿入されている部分の実際の長さとに基づいて、前記目的部位と前記穿刺針の先端部との間の距離を算出する距離算出部をさらに備える請求項9または10に記載の超音波診断装置。
  12. 前記距離算出部は、算出された前記目的部位と前記穿刺針の先端部との間の距離の値を前記超音波画像に重畳して表示させる請求項11に記載の超音波診断装置。
  13. 前記距離算出部により算出された距離が定められた値以下となった場合に、ユーザに報知する報知部をさらに備える請求項11または12に記載の超音波診断装置。
  14. 前記ヘッドマウントディスプレイは、前記超音波画像を表示する表示部を有する請求項1~13のいずれか一項に記載の超音波診断装置。
  15. 前記超音波画像を表示する表示モニタをさらに備える請求項1~1113のいずれか一項に記載の超音波診断装置。
  16. ユーザの頭部に装着され且つカメラ部を有するヘッドマウントディスプレイと、穿刺針長さ算出部とを備え、被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置の制御方法であって、
    前記ヘッドマウントディスプレイが、前記ユーザの前方の視野を撮影した視野画像を取得し、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記穿刺針長さ算出部が、前記視野画像を画像解析することにより前記穿刺針を認識させて、前記視野画像における前記穿刺針の長さを算出する超音波診断装置の制御方法。
  17. ユーザの頭部に装着され且つカメラ部を有するヘッドマウントディスプレイと、穿刺針長さ算出部と、全長取得部と、実長さ推定部とを備え、被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置の制御方法であって、
    前記ヘッドマウントディスプレイが、前記ユーザの前方の視野を撮影した視野画像を取得させ、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記穿刺針長さ算出部が、前記視野画像を画像解析することにより前記穿刺針を認識させて、前記視野画像における前記穿刺針の長さを算出し、
    前記全長取得部が、前記被検体内に挿入されていない前記穿刺針の実際の全長を取得し、
    前記実長さ推定部が、前記被検体内に挿入されていない前記穿刺針の全体が撮影された前記視野画像から算出された前記穿刺針の前記視野画像における長さと、取得された前記穿刺針の実際の全長との対応関係を取得し、取得された前記対応関係に基づいて、前記穿刺針の前記視野画像における長さから、前記視野画像に撮影されている前記穿刺針の実際の長さを推定する超音波診断装置の制御方法。
  18. ユーザの頭部に装着され且つカメラ部を有するヘッドマウントディスプレイと、穿刺針長さ算出部と、全長取得部を備え、被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置の制御方法であって、
    前記ヘッドマウントディスプレイが、前記ユーザの前方の視野を撮影した視野画像を取得し、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記穿刺針長さ算出部が、前記視野画像を画像解析することにより前記穿刺針を認識させて、前記視野画像における前記穿刺針の長さを算出し、
    前記カメラ部により、定められた間隔を隔てて配置された複数の溝が形成され且つ前記被検体内に挿入されていない前記穿刺針の全体が撮影された場合に、前記全長取得部が、前記複数の溝を用いて前記被検体内に挿入されていない前記穿刺針の実際の全長を取得する超音波診断装置の制御方法。
  19. ユーザの頭部に装着され且つカメラ部を有するヘッドマウントディスプレイと、穿刺針長さ算出部と、全長取得部を備え、被検体内に挿入された穿刺針を超音波画像に描出する超音波診断装置の制御方法であって、
    前記ヘッドマウントディスプレイが、前記ユーザの前方の視野を撮影した視野画像を取得し、
    前記カメラ部により前記穿刺針の少なくとも一部が撮影された場合に、前記穿刺針長さ算出部が、前記視野画像を画像解析することにより前記穿刺針を認識させて、前記視野画像における前記穿刺針の長さを算出し、
    前記カメラ部により、前記穿刺針の実際の全長を表す長さ情報が記録された長さ情報記録部材が撮影された場合に、前記全長取得部が、前記長さ情報記録部材に記録された前記長さ情報を読み取ることにより、前記被検体内に挿入されていない前記穿刺針の実際の全長を取得する超音波診断装置の制御方法。
JP2020562903A 2018-12-27 2019-11-13 超音波診断装置および超音波診断装置の制御方法 Active JP7333338B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018245545 2018-12-27
JP2018245545 2018-12-27
PCT/JP2019/044461 WO2020137215A1 (ja) 2018-12-27 2019-11-13 超音波診断装置および超音波診断装置の制御方法

Publications (2)

Publication Number Publication Date
JPWO2020137215A1 JPWO2020137215A1 (ja) 2021-11-04
JP7333338B2 true JP7333338B2 (ja) 2023-08-24

Family

ID=71128970

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020562903A Active JP7333338B2 (ja) 2018-12-27 2019-11-13 超音波診断装置および超音波診断装置の制御方法

Country Status (3)

Country Link
US (1) US11925504B2 (ja)
JP (1) JP7333338B2 (ja)
WO (1) WO2020137215A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022158433A1 (ja) * 2021-01-20 2022-07-28 テルモ株式会社 学習モデル生成方法、訓練データ生成方法、プログラム、情報処理装置及び情報処理方法
US20230131115A1 (en) * 2021-10-21 2023-04-27 GE Precision Healthcare LLC System and Method for Displaying Position of Echogenic Needles
JP2024023038A (ja) * 2022-08-08 2024-02-21 学校法人立命館 穿刺手技補助システム、穿刺補助画像生成装置及び穿刺補助画像生成方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130120224A1 (en) 2011-11-11 2013-05-16 Elmer S. Cajigas Recalibration of a flexible mixed reality device
JP2014221175A (ja) 2013-05-14 2014-11-27 健司 三木 超音波診断システム、画像処理装置およびその制御方法と制御プログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011200533A (ja) 2010-03-26 2011-10-13 Fujifilm Corp 超音波診断装置
US8880151B1 (en) * 2013-11-27 2014-11-04 Clear Guide Medical, Llc Surgical needle for a surgical system with optical recognition
US9622720B2 (en) * 2013-11-27 2017-04-18 Clear Guide Medical, Inc. Ultrasound system with stereo image guidance or tracking
US10284762B2 (en) * 2014-10-27 2019-05-07 Clear Guide Medical, Inc. System and method for targeting feedback
US10788791B2 (en) * 2016-02-22 2020-09-29 Real View Imaging Ltd. Method and system for displaying holographic images within a real object
WO2020102665A1 (en) * 2018-11-16 2020-05-22 Lang Philipp K Augmented reality guidance for surgical procedures with adjustment of scale, convergence and focal plane or focal point of virtual data

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130120224A1 (en) 2011-11-11 2013-05-16 Elmer S. Cajigas Recalibration of a flexible mixed reality device
JP2014221175A (ja) 2013-05-14 2014-11-27 健司 三木 超音波診断システム、画像処理装置およびその制御方法と制御プログラム

Also Published As

Publication number Publication date
US11925504B2 (en) 2024-03-12
WO2020137215A1 (ja) 2020-07-02
US20210307718A1 (en) 2021-10-07
JPWO2020137215A1 (ja) 2021-11-04

Similar Documents

Publication Publication Date Title
JP7333338B2 (ja) 超音波診断装置および超音波診断装置の制御方法
JP7313359B2 (ja) 超音波診断装置および超音波診断装置の制御方法
CN111670010B (zh) 超声波诊断装置及超声波诊断装置的控制方法
US20210298720A1 (en) Ultrasound system and method of controlling ultrasound system
JP2012050516A (ja) 携帯型超音波診断装置
US11576648B2 (en) Ultrasound diagnostic apparatus and method for controlling ultrasound diagnostic apparatus
US20230165563A1 (en) Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus
US20220133281A1 (en) Ultrasound system and method of controlling ultrasound system
JP6937731B2 (ja) 超音波診断装置および超音波診断装置の制御方法
JP6279203B2 (ja) 超音波診断装置および超音波診断装置の制御方法
US20230200782A1 (en) Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus
WO2023281997A1 (ja) 超音波システムおよび超音波システムの制御方法
WO2023281987A1 (ja) 超音波システムおよび超音波システムの制御方法
EP4205664A1 (en) Ultrasonic diagnostic device and method for controlling ultrasonic diagnostic device
US20240130706A1 (en) Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus
JP2020048968A (ja) 超音波診断装置および超音波診断装置の制御方法
US20230157665A1 (en) Ultrasound diagnostic system and control method of ultrasound diagnostic system
US20230320790A1 (en) Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus
JP7476320B2 (ja) 超音波診断システムおよび超音波診断システムの制御方法
EP4356844A1 (en) Ultrasound diagnostic apparatus and control method of ultrasound diagnostic apparatus
WO2022113858A1 (ja) 情報処理装置、超音波診断装置、情報処理方法、及び情報処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220815

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230411

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230718

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230814

R150 Certificate of patent or registration of utility model

Ref document number: 7333338

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150