JP7221787B2 - 血管径測定システム - Google Patents

血管径測定システム Download PDF

Info

Publication number
JP7221787B2
JP7221787B2 JP2019090136A JP2019090136A JP7221787B2 JP 7221787 B2 JP7221787 B2 JP 7221787B2 JP 2019090136 A JP2019090136 A JP 2019090136A JP 2019090136 A JP2019090136 A JP 2019090136A JP 7221787 B2 JP7221787 B2 JP 7221787B2
Authority
JP
Japan
Prior art keywords
blood vessel
movement
image
vessel diameter
feature point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019090136A
Other languages
English (en)
Other versions
JP2020185082A (ja
Inventor
淳 加藤
康志 松本
伸一 塚原
健二 小林
貴光 荒井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
I Pro Co Ltd
Original Assignee
I Pro Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by I Pro Co Ltd filed Critical I Pro Co Ltd
Priority to JP2019090136A priority Critical patent/JP7221787B2/ja
Priority to PCT/JP2020/005517 priority patent/WO2020230389A1/ja
Publication of JP2020185082A publication Critical patent/JP2020185082A/ja
Application granted granted Critical
Publication of JP7221787B2 publication Critical patent/JP7221787B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Endoscopes (AREA)

Description

本開示は、血管を撮像して血管径を測定する血管径測定システムに関する。
冠動脈あるいは末梢血管等の組織内に留置されるステントは、例えば金属またはポリマから作製される小型の管状構造を有し、血管の中に挿通されて血管を解放して保持し、閉塞が生じないように保たれる。ステントの配置には幾つかのリスク(例えば血管病変の発生)が存在することが知られており(例えば特許文献1参照)、このような病変を回避するためにはステントは展開される間は血管内で平行に配置されるべきであり、適切なステントを選択するために血管径を測定することが重要となる。
従来、血管内を撮像可能な血管内視鏡として、例えば9000画素程度の解像度を有するファイバースコープ型のものが知られている。このようなファイバースコープ型の血管内視鏡では、ファイバーを接続する基端側の光源あるいはプロセッサ装置側にイメージセンサが配置されることが多い。
特表2016-503310号公報
しかし、従来の血管内視鏡を用いて血管径を測定する場合、例えば解像度の不足により、医師等が安全安心な手術あるいは検査を行う上で目印となり得る有用な血管内特徴(例えば、ステント、薬剤、血栓、プラーク、ガイドワイヤ、血管壁の模様もしくはその状態)を十分に把握することができず、撮像映像を頼りにした高精度な血管径の測定が難しいという課題があった。血管壁の模様もしくはその状態には、例えば石灰化等の病変、新生内皮膜等が含まれる。
また、仮に血管径の測定時に周知のIVUS(Intra Vascular Ultra Sound)もしくはOCT(Optical Coherence Tomography)を利用すると、手術あるいは検査の時間および費用が増大し、患者の負担が増して利便性が向上しないために好ましくないと考えられる。また、上述したIVUSにおいては、血管内視鏡の移動量は専用のプルバック機器の移動速度から算出が必要となるので、専用のプルバック機器には高度な移動精度が求められるので、手術費のコストアップが避けられない。
本開示は、上述した従来の状況に鑑みて案出され、血管内視鏡の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援する血管径測定システムを提供することを目的とする。
本開示は、目盛り付きのガイドワイヤが予め挿通された被検体の血管内に挿通され、血管および前記ガイドワイヤを撮像可能な画像センサが先端側に実装された内視鏡と、前記内視鏡と接続された演算装置と、を備え、前記演算装置は、前記内視鏡により撮像された前記ガイドワイヤが映る撮像画像が表示されたモニタを閲覧するユーザの操作により、前記血管内に挿通された前記内視鏡が基端側に向かって一定速度で移動された際に、前記内視鏡の移動前に撮像された少なくとも1枚の移動前撮像画像と前記内視鏡の移動後に撮像された少なくとも1枚の移動後撮像画像と前記内視鏡の移動距離とに基づいて、前記血管の血管径を測定する、血管径測定システムを提供する。
本開示によれば、血管内視鏡の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援できる。
実施の形態1に係る血管径測定システムの構成の一例を示す図 ガイドワイヤに案内されて血管内視鏡カメラが血管壁を撮像する状況の一例を示す図 血管内視鏡カメラが血管壁を撮像する状況の一例を示す図 PCによる血管径測定手順を示すフローチャート 血管壁の画像上における特徴点の配置例を示す図 特徴点および対応点の位置関係例を示す図 3次元位置の算出例を説明する図 血管を長手方向(z方向)に視た場合における血管壁に配置された特徴点の点群をモニタに3D表示で示す図 血管を斜め方向に視た場合における血管壁に配置された特徴点の点群をモニタに3D表示で示す図 血管を径方向(x-y方向)に視た場合における血管壁に配置された特徴点の点群をモニタに3D表示で示す図 検出された平面に対し特徴点をインライアまたはアウトライアとする選別を示す図 3次元点を用いて推定された血管径を示す図
以下、適宜図面を参照しながら、本開示に係る血管径測定システムおよび血管径測定方法を具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
図1は、実施の形態に係る血管径測定システム5の構成の一例を示す図である。血管径測定システム5は、人体等の被検体を対象とし、その被検体の血管の血管径を測定する。血管径測定システム5は、血管内視鏡100と、中継器20と、カメラコントロールユニット30と、PC(Personal Computer)50と、モニタ70と、を含む構成である。
内視鏡の一例としての血管内視鏡100は、カテーテルの先端に血管内視鏡カメラ10が取り付けられた(言い換えると、実装された)手術時あるいは検査時に使用される専用の医療器具であり、いわゆる血管内視鏡カテーテルと称される。血管内視鏡100の外径は、例えば1.8mmφであるが、この値に限定されない。血管内視鏡100は、血管内を進退自在に挿通可能なガイドワイヤ150を収容する。ここで、血管内視鏡カメラ10が体内に向かって挿入される方向を進行方向とし、反対に血管内視鏡カメラ10が体外に向かって引き抜かれる方向を退避方向とする。従って、進退自在とは、血管内視鏡100が体内に向かって挿入されることも引き抜かれることも可能であることを意味する。血管内視鏡カメラ10は、手術あるいは検査の対象部位(例えば患部)までに予め挿通されたガイドワイヤ150に案内されて血管の奥までスムーズに挿入可能である。なお、血管内視鏡100は、通常のカテーテル(図示略)の先端部に血管内視鏡カメラ10が交換自在に装着されたものでもよい。カテーテルは、体液の排出あるいは薬液の注入に用いられる医療用の管である。カテーテルには、血管内視鏡カメラ10の他、バルーンもしくはステント等が交換自在に装着可能である。
図2は、ガイドワイヤ150に案内されて血管内視鏡カメラ10が血管壁200を撮像する状況の一例を示す図である。血管内視鏡100に挿通されるガイドワイヤ150には、血管内視鏡100をプルバック(つまり引き抜く)処理を行うための目安となるための目盛りmsが付される。目盛りmsは、等間隔に刻まれたバー表示の刻みおよび数値を含む。ガイドワイヤ150は、例えば外径0.35mmのステンレス製のスプリングワイヤで構成される。ガイドワイヤ150は、極めて細いので、ユーザの手元操作によって容易に血管内に挿入される。
血管内視鏡カメラ10は、血管内で停滞した状態にあるガイドワイヤ150に沿うように、血管内を移動して血管壁200を撮像する際、ガイドワイヤ150に付された目盛りmsを画角内に含むように撮像する。即ち、血管内視鏡カメラ10によって撮像された血管壁の画像には、ガイドワイヤ150に付された目盛りmsが映る。この血管壁の画像に映る目盛りmsの数値が判読されると、ガイドワイヤ150に沿った血管内視鏡カメラ10の位置が特定される。目盛りmsの数値は、刻みの数を表す、例えば5mm,10mm,15mm等の文字や記号であってよい。従って、ユーザが血管内視鏡100を引き抜きながら血管内視鏡カメラ10によって血管壁の画像を撮像する際、例えば2フレーム間の距離Dが算出可能である。
なお、2つの数値の差分から距離Dを算出する際、ガイドワイヤに付された目盛りの数値(文字や記号を含む)を判読する代わりに、刻みの数を距離Dとして取得することも可能である。例えば、血管内視鏡カメラが第(n-1)番目フレームのカメラ位置から第n番目フレームのカメラ位置まで連続して血管壁を撮像する間に、PC50は、血管壁の画像に映るバー表示の刻みを計数してもよい。
血管内視鏡カメラ10は、例えば、血管を撮像可能な画像センサ(後述参照)が先端側に実装された48万画素の高解像度カメラである。血管内視鏡100が人体等の血管に挿入されることで、血管内視鏡カメラ10は、血管の内壁(以下、血管壁という)を撮像可能である。血管内視鏡カメラ10は、画像センサとして例えばCCD(Charged-Coupled Device)あるいはCMOS(Complementary Metal-Oxide-Semiconductor)等の固体撮像素子(つまりイメージセンサ)を内蔵し、被写体(例えば患部)からの光を撮像面に結像し、結像した光学像を電気信号に変換して撮像画像信号を出力する。血管内視鏡カメラ10は、血管内に挿入されると、ユーザの操作に従い、例えば等間隔で血管壁を撮像し、撮像画像信号を出力する。なお、撮像画像信号は、静止画像および動画像のいずれの信号でもよい。また、血管内視鏡100は、被写体を照明するために、LED光源あるいは後段のカメラコントロールユニット30からの照射光を導くファイバーを内蔵してよい。
中継器20は、血管内視鏡カメラ10とカメラコントロールユニット30の間で行われる各種の信号を中継する。各種の信号は、血管内視鏡カメラ10で撮像された画像信号、およびカメラコントロールユニット30が血管内視鏡カメラ10を制御する制御信号を含む。
カメラコントロールユニット30(CCU:Camera Control Unit)は、血管内視鏡カメラ10と中継器20を介して電気的に接続され、血管内視鏡カメラ10による撮像動作、血管内視鏡カメラ10からの撮像画像信号に基づく撮像画像データの生成を制御する。また、カメラコントロールユニット30は、撮像画像データにメタデータを付加する。メタデータは、撮像日時等のデータを含む。カメラコントロールユニット30は、画像入力部(図示略)、画像処理部(図示略)および画像出力部(図示略)を含む。画像入力部(図示略)は、血管内視鏡カメラ10で撮像された血管壁等の撮像画像データを入力する。画像入力部(図示略)は、専用の画像入力インターフェースの他、映像データを高速に転送可能なHDMI(登録商標)(High-Definition Multimedia Interface)あるいはUSB(Universal Serial Bus)Type-C等を用いたインターフェースでもよい。画像処理部(図示略)は、入力された血管壁等の撮像画像データにメタデータを付加する等の処理を行う。また、画像処理部(図示略)は、血管内視鏡カメラ10からの撮像画像信号を用いて、所定の画像処理を行うことで後述するモニタ70において視認可能なRGB形式あるいはYUV形式の撮像画像データを生成してもよい。なお、この撮像画像データの生成は、血管内視鏡カメラ10で実行されてもよいし、後段のPC50で実行されても構わない。画像出力部(図示略)は、メタデータが付加された血管壁等の撮像画像データをPC50に送信する。
演算装置の一例としてのPC50は、プロセッサ51と、メモリ52と、入出力インターフェース53と、操作部54と、ストレージ55とを有する。PC50は、血管壁等の撮像画像データ(生画像データの一例)、この撮像画像データに対して所定の画像処理を施した後の撮像画像データ等をストレージ55に記録する。PC50は、血管壁の撮像画像データを基に、血管径を算出する処理を行う。PC50は、血管径の測定結果あるいは血管壁等の撮像画像データをモニタ70に出力し、血管径を可視化する処理を行う。
また、PC50は、血管壁の画像に含まれる数値を含む文字領域画像を抽出し、この文字領域画像を用いて、ガイドワイヤ150に付された目盛りの数値を認識する文字認識処理を行う。この文字認識処理において、PC50は、予め目盛りの数値(記号や文字を含む)を表すテンプレートをストレージ55に登録しておき、このテンプレートと文字領域画像との類似度を基に、目盛りの数値を認識するテンプレートマッチングを行ってよい。また、PC50は、目盛りの数値(記号や文字を含む)を含む画像を教師データとして、ディープラーニング等の機械学習を行い、目盛りの数値を認識する学習済みモデルを生成しておき、この学習済みモデルに血管壁の画像に含まれる文字領域画像を入力することで目盛りの数値を認識してもよい。
プロセッサ51は、メモリ52に記憶されたプログラムを実行することで、上述した血管径測定処理、可視化処理および文字認識処理等のそれぞれを実行する。プロセッサ51は、例えば画像処理に適したGPU(Graphical Processing Unit)でよい。なお、プロセッサ51は、GPUの代わりに、MPU(Micro Processing Unit)、CPU(Central Processing Unit)、ASIC(Application Specific Integrated Circuit)等で設計された専用の電子回路や、FPGA(Field Programmable Gate Array)等で再構成可能に設計された電子回路で構成されてもよい。
メモリ52は、プロセッサ51のワーキングメモリとして使用される。入出力インターフェース53は、専用の画像入力インターフェースの他、映像データを高速に転送可能なHDMI(登録商標)(High-Definition Multimedia Interface)あるいはUSB(Universal Serial Bus) Type-C等を用いたインターフェースでもよい。
操作部54は、術者等のユーザによる操作を受け付ける。操作部54は、マウス、キーボード、タッチパッド、タッチパネル、マイクロホン、またはその他の入力デバイスを含んでよい。
ストレージ55は、大容量のメモリであり、血管内視鏡カメラ10で撮像された血管壁等の画像データを蓄積する。ストレージ55は、例えば二次記憶装置(例えばHDD(Hard Disk Drive)やSSD(Solid State Drive))、あるいは三次記憶装置(例えば光ディスク、SDカード)を含んでよい。
モニタ70は、PC50から出力される血管径の測定結果あるいは血管壁等の画像を表示する。モニタ70は、血管壁の画像を表示する際、ユーザが所望する方向から視た血管内の立体画像として3D表示可能である。モニタ70は、例えばLCD(Liquid Crystal Display)、有機EL(Electroluminescence)、CRT(Cathode Ray Tube)等の表示デバイスを有する。
なお、カメラコントロールユニット30、PC50およびモニタ70は、イメージングシステム90として、単一の筐体に搭載される。
次に、実施の形態1に係る血管径測定システム5の動作を示す。
例えば、人体等の血管内に血栓があったり、血管壁にプラークができていたりする等、血管の状態を観察するために、血管内視鏡100は、血管内に挿入される。術者等のユーザが血管内視鏡100を血管内に挿入する際、カテーテルに収容されたガイドワイヤ150を先行して血管内に進行させる。ガイドワイヤ150が観察したい血管内に届くと、ユーザは、ガイドワイヤ150に案内されるように、血管内視鏡カメラ10を血管内に進行させる。血管内視鏡カメラ10が観察したい血管内に達すると、ユーザは、血管内視鏡100を引き抜く動作を開始させる。また、血管内視鏡カメラ10で血管内を撮像する場合、ユーザは、血管内を鮮明に撮像できるように、カテーテルの先端から生理食塩水を血管内に注入する。
図3は、血管内視鏡カメラ10が血管壁200を撮像する状況の一例を示す図である。血管内視鏡カメラ10は、ガイドワイヤ150が予め挿通されている血管201の血管壁200(例えば、血管の中心方向と中心方向を挟んで対向する双方の内壁と)を撮像する。血管壁200を撮像する場合、血管内視鏡カメラ10は、自重により血管壁200に張り付いた状態となる。この状態で、血管壁200を撮像する場合、血管内視鏡カメラ10は、血管壁200を下側から仰いだ画像(いわゆるアオリ撮影による画像)を撮像する。この結果、血管壁の画像は、血管壁200の中心が上側にずれた画像となる(図5参照)。
図4は、血管径測定手順を示すフローチャートである。この処理は、血管内視鏡カメラ10で連続的に撮像される画像に対し、フレーム単位で実行される。
まず、ユーザは、PC50に対し、円の中心と半径を入力する。プロセッサ51は、操作部54を介して、ユーザ入力による円の中心と半径を受け付ける。プロセッサ51は、カメラコントロールユニット30から入力した血管壁の画像データに対し、画像全体に配置された1156個の測定点の中から、円の中心と半径に基づく円周上に128個の特徴点e1を検出する(S1)。なお、1156個の測定点および128個の特徴点の数は、一例である。
アオリ画像の場合、血管径に合わせて円周上に配置される特徴点は、画像の上部がz方向(図7参照)に倒れた状態の楕円状に分布する。また、後述する血管径の算出では、後述するように楕円フィッティングにより得られる楕円の長辺が血管径として採用されるので、アオリ画像の場合、血管径は長めに算出される。なお、PC50は、血管内視鏡カメラ10で撮像される画像に対し、アオリ補正を行い、アオリ補正後の画像を用いて、血管径測定処理を行ってもよい。
図5は、血管壁の画像上における特徴点e1の配置例を示す図である。血管内視鏡カメラ10で撮像された画像GZ1に対し、ユーザにより指定された円の円周上に128個の特徴点e1が重畳して描画される。
プロセッサ51は、特徴点e1を検出した画像GZ1が1フレーム目の画像であるか否かを判別する(S2)。1フレーム目の画像である場合、プロセッサ51は、本処理を終了する。
一方、ステップS2で2フレーム目以降の画像である場合、プロセッサ51は、第1の特徴点マッチングを行う(S3)。第1の特徴点マッチングでは、プロセッサ51は、前フレーム(言い換えると、第(n-1)番目フレーム)の特徴点近傍の矩形領域をテンプレートとして取得する(n:2以上の整数)。一例として、テンプレートサイズは、幅16ピクセル×高さ16ピクセルのサイズである。プロセッサ51は、現フレーム(言い換えると、第n番目フレーム)の特徴点位置を中心とした矩形領域を、探索範囲としてテンプレートと一致する領域を探索する。探索範囲のサイズは、幅128ピクセル×高さ128ピクセルのサイズである。プロセッサ51は、ZNCC(Zero-means Normalized Cross Correlation)値が最小となる位置を特徴点e1に対応する対応点f2とする。なお、第n番目フレームは、第(n-1)番目フレームに対し、血管内視鏡100が手前に引かれた状態の画像であるので、複数の対応点f2が形成する円は、複数の特徴点e1が形成する円と比べ、小さくなる。
図6は、特徴点e1および対応点f2の位置関係例を示す図である。プロセッサ51は、第(n-1)番目フレームに含まれる特徴点e1と第n番目フレームに含まれる対応点f2を用いて、消失点dpを推定する(S4)。消失点dpの推定では、プロセッサ51は、全ての特徴点e1および対応点f2に対し、特徴点e1から対応点f2へのフローを求める。プロセッサ51は、2つのフローの交点を求める。プロセッサ51は、全ての特徴点e1から交点までのベクトルを求める。プロセッサ51は、このフローと各ベクトルとの類似度(ここでは角度差)を求め、この類似度が閾値を超えるか否か、例えばフローとベクトルの角度差が3°未満であるか否かを判別する。プロセッサ51は、角度差が3°未満である場合、この特徴点e1を有効な特徴点(以下、「インライア」と称する場合がある)であると判定する。一方、プロセッサ51は、角度差が3°以上である場合、この特徴点e1を無効な特徴点(以下、「アウトライア」と称する場合がある)であると判定する。プロセッサ51は、全てのフローの交点に対し、インライアの数を算出する。プロセッサ51は、インライアの数が最も多いフローの交点を消失点dpとする。例えば、フローの数が4つである場合、交点は、4つの中から2つを選ぶ組合せで算出されるように、6通り存在する。従って、消失点dpは、6つの交点の中から選出される。
プロセッサ51は、クロスチェックのために第2の特徴点マッチングを行う(S5)。第2の特徴点マッチングでは、プロセッサ51は、現フレーム(つまり、第n番目フレーム)の対応点近傍の矩形領域をテンプレートとして取得する。一例として、テンプレートサイズは、幅16ピクセル×高さ16ピクセルのサイズである。プロセッサ51は、前フレーム(つまり、第(n-1)番目フレーム)の対応点位置を中心とした矩形領域を、探索範囲としてテンプレートと一致する領域を探索する。探索範囲のサイズは、幅128ピクセル×高さ128ピクセルのサイズである。プロセッサ51は、ZNCC(Zero-means Normalized Cross Correlation)値が最小となる位置を対応点f2に対応する特徴点とする。プロセッサ51は、前フレーム(第(n-1)番目フレーム)における、特徴点e1と対応する特徴点とが一致するか否かを判別する。特徴点e1と対応する特徴点との一致は、例えば位置座標を基に、判別可能である。プロセッサ51は、特徴点e1と対応する特徴点とが一致する場合、対応点f2が信頼性ありと判断し、特徴点e1と対応する特徴点とが一致しない場合、対応点f2が信頼性なしと判断する。プロセッサ51は、信頼性ありと判断された特徴点e1をインライアとして採用し、信頼性なしと判断された特徴点e1をアウトライアとして採用しない。
プロセッサ51は、インライアである特徴点e1の3次元位置を算出する(S6)。特徴点e1の3次元位置の算出には、例えば三角測量が用いられる。三角測量は、2点間の距離およびこれら2点から測定したい特徴点への角度をそれぞれ測定することで、特徴点の位置を求める、三角法および幾何学を用いた周知の測量方法である。
図7は、3次元位置の算出例を説明する図である。ここで、特徴点e1の3次元座標Eを(X,Y,Z)とする。Xは、血管の径方向を表すx軸の座標値である。Yは、x軸に対し垂直な血管の径方向を表すy軸の座標値である。Zは、血管の長手方向を表すz軸の座標値である。第(n-1)番目フレームのカメラ位置g1における、特徴点e1の画像座標p1を(u1,u2)とする。第n番目フレームのカメラ位置g2における、対応点f2の画像座標p2を(u2,v2)とする。第(n-1)番目フレーム目カメラ位置と第n番目フレームのカメラ位置g2の間の距離をDとする。ここで、距離Dは、2フレーム(例えば、第(n-1)番目フレームと第n番目フレーム)の血管壁の画像にそれぞれ映る、ガイドワイヤ150に付された目盛りmsの数値の差分を算出することで得られる。目盛りmsの数値は、プロセッサ51が文字認識処理を行うことで判読される。
カメラの内部パラメータの行列Kを数式(1)で表す。
Figure 0007221787000001
ここで、fx:焦点距離を水平画素ピッチで割った値、fy:焦点距離を垂直画素ピッチで割った値、Cx:画像中心のx座標、Cy:画像中心のy座標である。
特徴点e1の画像座標p1と3次元座標Eは、数式(2)で表される。
Figure 0007221787000002
対応点f2の画像座標p2と3次元座標Eは、式(3)で表される。
Figure 0007221787000003
プロセッサ51は、例えば三角測量関数を使用し、画像座標p1と画像座標p2に対応する、特徴点e1の3次元座標Eを求める。
プロセッサ51は、特徴点e1の3次元座標Eを3次元の立体画像としてモニタ70に表示(3D表示)可能である。図8は、血管を長手方向(z方向)に視た場合における血管壁200に配置された特徴点e1の点群をモニタ70に3D表示で示す図である。図9は、血管を斜め方向に視た場合における血管壁200に配置された特徴点e1の点群をモニタ70に3D表示で示す図である。図10は、血管を径方向(x-y方向)に視た場合における血管壁200に配置された特徴点e1の点群をモニタ70に3D表示で示す図である。なお、図8,図9,図10では、例えば擬似血管として縞模様の付いた3mmの管が用いられた。
プロセッサ51は、複数の特徴点e1の3次元座標Eを基に、楕円フィッティングが行われる平面を検出する(S7)。平面の検出では、プロセッサ51は、複数の特徴点e1(3次元点という)の中から3点を選択し、これら3点を含む平面を表す式(平面式という)を求める。プロセッサ51は、求めた平面との距離が所定距離以内で平面に近い3次元点の数を計数する。プロセッサ51は、計数した3次元点の数が最も多くなる平面式を選択する。プロセッサ51は、選択した平面式で表される平面に近い3次元点を抽出する。プロセッサ51は、抽出した3次元点群を基に、主成分分析(PCA:Principal Component Analysis)を行い、平面を検出する。主成分分析は、相関のある多数の変数から相関のない少数で全体のばらつきを最もよく表す主成分と呼ばれる変数を合成する多変量解析の一手法である。
プロセッサ51は、平面からの距離が所定距離を超えて離れている特徴点e1をアウトライアとし、所定距離以内である特徴点e1をインライアとして血管径の推定に採用する。図11は、検出された平面PLに対し特徴点e1をインライアq1またはアウトライアq2とする選別を示す図である。
プロセッサ51は、複数の特徴点e1を基に、楕円フィッティングを行って血管径を推定する(S8)。楕円フィッティングでは、複数の特徴点e1をx-y平面に投影し、x-y平面に投影された2次元点に対し、RANSAC(Random Sample Consensus)を利用したフィッティングが行われる。RANSACは、外れ値を含まないように、楕円パラメータを推定する手法である。
プロセッサ51は、RANSACを利用することで、複数の2次元点に外れ値が含まれても、その影響を抑えて楕円を推定できる。従って、楕円の推定精度が向上する。具体的に、プロセッサ51は、複数の2次元点を入力し、入力した複数の2次元点の中から5点をランダムに抽出する。プロセッサ51は、抽出した5点を用いて楕円パラメータを求める。楕円パラメータは、長径および短径を含む。プロセッサ51は、各2次元点から楕円弧までの最短距離を算出し、その距離が閾値より小さくなる2次元点の数(インライア数)を計数し、メモリ52に記録する。プロセッサ51は、入力した複数の2次元点の中から別の5点を抽出し、上記と同様の手順で、インライア数を計数する。プロセッサ51は、計数したインライア数がメモリ52に記録されたインライア数を超える場合、メモリ52に記録されたインライア数を更新する。プロセッサ51は、同様の手順を繰り返し、メモリ52に記録されるインライア数が一定回数連続して更新されなかった場合、つまり最大となるインライア数が得られた場合、2次元点の抽出を終了する。プロセッサ51は、全ての2次元点に対し、インライア数が最大となる楕円パラメータを用いて、各2次元点から楕円弧までの最短距離が閾値より小さくなる2次元点をインライアq1として決定する。プロセッサ51は、決定した全てのインライアq1を用いて、楕円パラメータを求める。全てのインライアq1を用いて楕円パラメータを求めた結果、プロセッサ51は、楕円パラメータの1つである長径を血管径φ1と推定する。プロセッサ51は、血管径を長径とすることで、血管に挿通可能なステントのサイズを適正に決定できる。図12は、3次元点を用いて推定された血管径φ1を示す図である。
このように、実施の形態1に係る血管径測定システム5では、血管内視鏡カメラ10が血管壁200を撮像すると同時に、血管201内に挿通されたガイドワイヤ150に付された目盛りmsを撮像する。PC50のプロセッサ51は、血管内視鏡カメラ10によって撮像された画像を解析することで、第(n-1)番目フレームのカメラ位置g1と第n番目フレームのカメラ位置g2の差分である距離Dを算出する。
また、PC50は、血管内視鏡100の使用時、ユーザが手で血管内視鏡100を引き抜くことにより血管内視鏡カメラ10が移動した距離Dと、第(n-1)番目フレームおよび第n番目フレームの画像を用いて、血管径を推定する。このとき、PC50は、血管壁を撮像した画像の画面全体に配置した測定点(例えば1156個)の中から円状に配置した特徴点e1(例えば128個)を検出する。PC50は、特徴点e1の移動方向から消失点dpを推定する。PC50は、特徴点e1の移動変化量から特徴点e1の3次元座標を算出する。PC50は、算出した特徴点e1の3次元座標に対し楕円フィッティングを行い、楕円パラメータである長径を血管径として算出する。
PC50は、楕円フィッティングを用いることで、凹凸が少ない血管壁であっても、血管径を表す測定点が判別しにくい状況でも、血管径を安定して算出できる。従って、例えば術者等のユーザが血管内視鏡を引きながら血管径をモニタリングする場合、血管径が均一な箇所で表示される血管径の変動が抑えられる。また、血管径の精度が向上する。ユーザは、血管が狭窄している血管箇所にステントを挿入する場合、ステントのサイズを適正に選択できる。また、ユーザが手で血管内視鏡100を引き抜くことで、プルバック機器が血管内視鏡を一定速度で牽引しなくてもよく、プルバック機器を省くことができる。血管径測定システムの構成が簡単になる。
以上により、血管径測定システム5は、目盛り付きのガイドワイヤ150が予め挿通された被検体の血管内に挿通され、血管201およびガイドワイヤ150を撮像可能な血管内視鏡カメラ10が先端側に実装された血管内視鏡100と、内視鏡と接続されたPC50と、を備える。PC50は、血管内視鏡カメラ10により撮像されたガイドワイヤ150が映る撮像画像が表示されたモニタ70を閲覧するユーザの操作により、血管内に挿通された血管内視鏡100が基端側に向かって一定速度で移動された際に、血管内視鏡100の移動前に撮像された少なくとも1枚のn-1フレームと血管内視鏡100の移動後に撮像された少なくとも1枚のnフレームと血管内視鏡100が移動した距離Dとに基づいて、血管201の血管径を測定する。
これにより、血管径測定システム5は、血管内視鏡100の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援できる。血管径測定システム5は、血管内視鏡カメラ10を一定速度で牽引する高価なプルバック機器を不要にでき、手術あるいは検査のコストを下げることができる。また、患者にとっては、手術費用が安価になり、このような血管径の測定を含めた手術あるいは検査の普及が拡大することが期待される。
また、PC50は、血管の血管径の測定結果をモニタ70に表示する。これにより、ユーザは、血管径を視覚的に把握できる。
また、血管内視鏡カメラ10は、ガイドワイヤ150が予め挿通されている血管の中心方向と中心方向を挟んで対向する双方の内壁とを撮像する。これにより、血管径測定システムは、血管径の測定に適した画像を得ることができる。
また、PC50のプロセッサ51は、第(n-1)番目フレームに対して円状に配置される128個(複数個)の特徴点e1と、第n番目フレームに対して配置される128個の特徴点e1にそれぞれ対応する128個の対応点f2のそれぞれの移動方向から消失点dpを推定する。プロセッサ51は、128個の特徴点e1の中から、血管内視鏡カメラ10の移動に基づく消失点dpの方向へのベクトルを有するインライアである特徴点e1(有効特徴点)を抽出する。プロセッサ51は、血管内視鏡カメラ10が移動した距離D(移動距離)に対応する特徴点e1の移動変化量を用いて特徴点e1の3次元座標を算出する。プロセッサ51は、特徴点e1の3次元座標に基づいて、血管201の血管径を測定する。これにより、血管径測定システムは、血管壁に配置された、血管径の測定に有効な特徴点を用いて、血管径を正確に測定できる。
また、プロセッサ51は、第(n-1)番目フレームに対して円状に配置される128個の特徴点e1をそれぞれ含む複数のテンプレートを基に、第n番目フレームに対してテンプレートマッチングを行い、第n番目フレームに配置される128個の特徴点として、第(n-1)番目フレームに配置される128個の特徴点にそれぞれ対応する128個の対応点f2を配置する。プロセッサ51は、第n番目フレームに対して配置される128個の対応点f2をそれぞれ含む複数のテンプレートを基に、第(n-1)番目フレームに対してテンプレートマッチングを行い、128個の対応点f2にそれぞれ対応する128個の対応特徴点を配置する。プロセッサ51は、特徴点e1と対応特徴点が略一致する場合、特徴点e1をインライアとなる特徴点e1(有効特徴点)として抽出する。これにより、血管径測定システムは、血管径の測定に有効な特徴点を抽出でき、血管径の測定精度が向上する。
また、プロセッサ51は、3次元座標を有するインライアとなる特徴点e1の2次元の投影平面上の2次元座標を用いた楕円フィッティングに基づいて、血管201の血管径を測定する。これにより、血管径測定システム5は、楕円フィッティングを用いることで、凹凸が少ない血管壁であっても、血管径を表す測定点が判別しにくい状況でも、血管径を安定して算出できる。従って、例えば血管内視鏡を引き抜きながらユーザが血管径をモニタリングする場合、血管径が均一な箇所で表示される血管径の変動が抑えられる。また、血管径の精度が向上する。ユーザは、血管が狭窄している血管箇所にステントを挿入する場合、ステントのサイズを適正に選択できる。
また、プロセッサ51は、楕円フィッティングの結果得られた楕円の楕円パラメータである長径を血管201の血管径と推定する。これにより、血管径測定システムは、血管径を長径とすることで、血管を挿通可能なステントのサイズを適正に決定できる。
以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
例えば、上述した実施の形態では、ユーザは、血管壁の画像に対し、円の中心と半径を入力し、円周上に128個の特徴点を配置したが、血管壁の画像に対し、マウス操作で2本ラインを設定してもよい。この場合、PCのプロセッサは、2本のラインの交点と、交点からライン端までの距離を基に、特徴点を設定するための円の中心座標と円の半径を決定する。
また、上述した実施の形態では、プロセッサは、特徴点に対応する対応点をテンプレートマッチングによって取得したが、n-1フレームの特徴点およびnフレームの対応点を用いて、ディープラーニングによる機械学習を行い、機械学習の結果生成された学習済みモデルを使用し、n-1フレームの特徴点に対応するnフレームの対応点を取得してもよい。
また、上述した実施の形態では、プロセッサは、楕円パラメータの長径を血管径として推定したが、短径を血管径として推定してもよい。また、プロセッサは、長径と短径を用い、例えば長径と短径を加算しその半分の値を用いて、血管径を推定してもよい。
本開示は、血管内視鏡の撮像画像を利用して患者等の被検体内の血管径を高精度で手軽かつ簡易に測定し、被検体内に挿通される適切なステントの選択を支援する血管径測定システムおよび血管径測定方法として有用である。
5 血管径測定システム
10 血管内視鏡カメラ
20 中継器
30 カメラコントロールユニット
50 PC
51 プロセッサ
52 メモリ
53 入出力インターフェース
54 操作部
55 ストレージ
70 モニタ
100 血管内視鏡
150 ガイドワイヤ

Claims (7)

  1. 目盛り付きのガイドワイヤが予め挿通された被検体の血管内に挿通され、血管および前記ガイドワイヤを撮像可能な画像センサが先端側に実装された内視鏡と、
    前記内視鏡と接続された演算装置と、を備え、
    前記演算装置は、
    前記内視鏡により撮像された前記ガイドワイヤが映る撮像画像が表示されたモニタを閲覧するユーザの操作により、前記血管内に挿通された前記内視鏡が基端側に向かって一定速度で移動された際に、前記内視鏡の移動前に撮像された少なくとも1枚の移動前撮像画像と前記内視鏡の移動後に撮像された少なくとも1枚の移動後撮像画像と前記内視鏡の移動距離とに基づいて、前記血管の血管径を測定する、
    血管径測定システム。
  2. 前記演算装置は、前記血管の血管径の測定結果を前記モニタに表示する、
    請求項1に記載の血管径測定システム。
  3. 前記内視鏡は、前記ガイドワイヤが予め挿通されている前記血管の中心方向と前記中心方向を挟んで対向する双方の内壁とを撮像する、
    請求項1または2に記載の血管径測定システム。
  4. 前記演算装置は、
    前記移動前撮像画像および前記移動後撮像画像のそれぞれに対して円状に配置される複数個の特徴点のそれぞれの移動方向から消失点を推定し、
    前記複数個の特徴点の中から、前記内視鏡の移動に基づく前記消失点の方向へのベクトルを有する有効特徴点を抽出し、前記内視鏡の移動距離に対応する前記有効特徴点の移動変化量を用いて前記有効特徴点の3次元座標を算出し、
    前記有効特徴点の3次元座標に基づいて、前記血管の血管径を測定する、
    請求項1に記載の血管径測定システム。
  5. 前記演算装置は、
    前記移動前撮像画像に対して円状に配置される複数個の特徴点をそれぞれ含む複数のテンプレートを基に、
    前記移動後撮像画像に対してテンプレートマッチングを行い、前記移動後撮像画像に配置される前記複数個の特徴点として、前記移動前撮像画像に配置される前記複数個の特徴点にそれぞれ対応する複数個の対応点を配置し、
    前記移動後撮像画像に対して配置される複数個の対応点をそれぞれ含む複数個のテンプレートを基に、前記移動前撮像画像に対してテンプレートマッチングを行い、前記複数個の対応点にそれぞれ対応する複数個の対応特徴点を配置し、前記特徴点と前記対応特徴点が略一致する場合、前記特徴点を有効特徴点として抽出する、
    請求項4に記載の血管径測定システム。
  6. 前記演算装置は、
    前記3次元座標を有する前記有効特徴点の2次元の投影平面上の2次元座標を用いた楕円フィッティングに基づいて、前記血管の血管径を測定する、
    請求項4に記載の血管径測定システム。
  7. 前記演算装置は、前記楕円フィッティングの結果得られた楕円の楕円パラメータである長径を前記血管の血管径と推定する、
    請求項6に記載の血管径測定システム
JP2019090136A 2019-05-10 2019-05-10 血管径測定システム Active JP7221787B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019090136A JP7221787B2 (ja) 2019-05-10 2019-05-10 血管径測定システム
PCT/JP2020/005517 WO2020230389A1 (ja) 2019-05-10 2020-02-13 血管径測定システムおよび血管径測定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019090136A JP7221787B2 (ja) 2019-05-10 2019-05-10 血管径測定システム

Publications (2)

Publication Number Publication Date
JP2020185082A JP2020185082A (ja) 2020-11-19
JP7221787B2 true JP7221787B2 (ja) 2023-02-14

Family

ID=73222916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019090136A Active JP7221787B2 (ja) 2019-05-10 2019-05-10 血管径測定システム

Country Status (1)

Country Link
JP (1) JP7221787B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014055917A1 (en) 2012-10-05 2014-04-10 Elizabeth Begin Systems for indicating parameters in an imaging data set and methods of use
WO2015045368A1 (ja) 2013-09-26 2015-04-02 テルモ株式会社 画像処理装置、画像表示システム、撮影システム、画像処理方法及びプログラム
US20190021598A1 (en) 2016-03-16 2019-01-24 Korea Photonics Technology Institute Integrated catheter device for cardiovascular diagnosis and image processing system

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014055917A1 (en) 2012-10-05 2014-04-10 Elizabeth Begin Systems for indicating parameters in an imaging data set and methods of use
WO2015045368A1 (ja) 2013-09-26 2015-04-02 テルモ株式会社 画像処理装置、画像表示システム、撮影システム、画像処理方法及びプログラム
US20190021598A1 (en) 2016-03-16 2019-01-24 Korea Photonics Technology Institute Integrated catheter device for cardiovascular diagnosis and image processing system

Also Published As

Publication number Publication date
JP2020185082A (ja) 2020-11-19

Similar Documents

Publication Publication Date Title
JP5715311B2 (ja) 内視鏡システム
US10092216B2 (en) Device, method, and non-transitory computer-readable medium for identifying body part imaged by endoscope
US9516993B2 (en) Endoscope system
JP4959445B2 (ja) 画像処理装置および画像処理プログラム
US20220361733A1 (en) Endoscopic examination supporting apparatus, endoscopic examination supporting method, and non-transitory recording medium recording program
JP5078486B2 (ja) 医療用画像処理装置及び医療用画像処理装置の作動方法
US20220398771A1 (en) Luminal structure calculation apparatus, creation method for luminal structure information, and non-transitory recording medium recording luminal structure information creation program
JP4855901B2 (ja) 内視鏡挿入形状解析システム
US10799100B2 (en) Image processing device, method, and program
JP7221786B2 (ja) 血管径測定システム
JP7441934B2 (ja) 処理装置、内視鏡システム及び処理装置の作動方法
JP4981335B2 (ja) 医療用画像処理装置及び医療用画像処理方法
JP7221787B2 (ja) 血管径測定システム
JP2021194268A (ja) 血管観察システムおよび血管観察方法
JP2021194268A6 (ja) 血管観察システムおよび血管観察方法
WO2020230389A1 (ja) 血管径測定システムおよび血管径測定方法
JP7157098B2 (ja) 血管内視鏡システムおよび血管径測定方法
JP7197535B2 (ja) 観察部位観察システムおよび観察部位観察方法
JP2008136628A (ja) 内視鏡挿入形状解析システム
JP4981336B2 (ja) 医療用画像処理装置及び医療用画像処理方法
JP2019005038A (ja) 内視鏡システム
JP2008093213A (ja) 医療用画像処理装置及び医療用画像処理方法
US20240122444A1 (en) Endoscopic examination support apparatus, endoscopic examination support method, and recording medium
US20240057847A1 (en) Endoscope system, lumen structure calculation system, and method for creating lumen structure information
US20240000299A1 (en) Image processing apparatus, image processing method, and program

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190731

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20191205

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20201224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210716

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221007

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230202

R150 Certificate of patent or registration of utility model

Ref document number: 7221787

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150