JP2007135783A - 挿入モニタリング装置 - Google Patents

挿入モニタリング装置 Download PDF

Info

Publication number
JP2007135783A
JP2007135783A JP2005332009A JP2005332009A JP2007135783A JP 2007135783 A JP2007135783 A JP 2007135783A JP 2005332009 A JP2005332009 A JP 2005332009A JP 2005332009 A JP2005332009 A JP 2005332009A JP 2007135783 A JP2007135783 A JP 2007135783A
Authority
JP
Japan
Prior art keywords
display
auxiliary information
information
processing
shape
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005332009A
Other languages
English (en)
Other versions
JP4794992B2 (ja
Inventor
Hideki Tanaka
秀樹 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Medical Systems Corp
Original Assignee
Olympus Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Medical Systems Corp filed Critical Olympus Medical Systems Corp
Priority to JP2005332009A priority Critical patent/JP4794992B2/ja
Priority to PCT/JP2006/314574 priority patent/WO2007023631A1/ja
Priority to US12/064,310 priority patent/US20090149703A1/en
Priority to CN2006800309432A priority patent/CN101247752B/zh
Priority to EP06781486.3A priority patent/EP1917901B1/en
Publication of JP2007135783A publication Critical patent/JP2007135783A/ja
Application granted granted Critical
Publication of JP4794992B2 publication Critical patent/JP4794992B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Abstract

【課題】 挿入操作等に対する挿入部の所定の応答動作状態に対応する挿入補助情報をより確実に確認できるようにした挿入モニタリング装置を提供する。
【解決手段】 挿入部の挿入形状データの各フレームデータ33aから解析処理ブロック42は解析データ33bを生成し、かつソースコイルの手元側の移動量Mnに対して最先端の移動量Moが0.1以下の場合には、挿入部の先端側が移動していないという挿入補助情報33cを生成して順次更新する。解析結果表示制御ブロック43は、一定時間毎に挿入補助情報33cを取り込み、挿入補助情報33cに対応する挿入形状データ作成時刻Toから現在時刻Tnとの経過時間に相当する差分値Tn−Toが閾値Tt以下の場合には先端停止の表示を持続する様に表示制御を行い、より確実に確認できるようにした。
【選択図】 図5

Description

本発明は、大腸内等の体腔内に挿入され、内視鏡検査を補助若しくは支援するために挿入部の挿入状態をモニタする挿入モニタリング装置に関する。
先端に撮像素子が設けられた電子内視鏡の挿入部を患者の体腔内に挿入して、撮像素子により撮像された画像をモニタに表示する内視鏡装置は、医療分野において広く用いられるようになっている。
体腔内、例えば大腸や小腸等のように曲がった管腔内に電子内視鏡の挿入部を挿入して内視鏡検査などを行う際、挿入部が管腔内のどの位置まで挿入されているか、あるいは挿入部がどのような形状になっているかを把握できると、内視鏡検査或いは処置を行う際の操作性が向上する。
このため挿入部が管腔内に挿入された位置や、挿入形状等を検出して表示することができる内視鏡挿入形状検出装置が実用化されている。
また、挿入形状等の他に、実際に挿入部の手元側で挿入操作をした場合に、その挿入操作に適切に応答しているか否かの情報を挿入補助情報として把握できるとより便利である。
例えば、特開2004−358095号公報の従来例は、挿入部がループ形状になったか否かを定期的に解析して、ループ形状になった場合にはその情報を表示するようにしている。また、挿入部の先端側が停止状態である事などの解析も行う。
特開2004−358095号公報
しかし、上記従来例では、ループ形状になった場合を解析して表示を行っているタイミングに、その情報を観察すればその情報を把握できるが、その表示は定期的に更新されてしまうため、ループ形状と解析された付近のタイミングを逃がして観察した場合にはその情報を見落とす欠点があった。
(発明の目的)
本発明は上述した点に鑑みてなされたもので、挿入操作等に対する挿入部の所定の応答動作状態に対応する挿入補助情報をより確実に確認できるようにした挿入モニタリング装置を提供することを目的とする。
本発明の挿入モニタリング装置は、体腔内に挿入される内視鏡の挿入部の形状を検出する形状検出手段が生成する形状検出情報を基にして、挿入操作等の内視鏡操作に対する挿入部の応答動作状態の解析を行う解析手段と、
前記解析手段により解析された所定の応答動作状態に対応する挿入補助情報を生成する挿入補助情報生成手段と、
前記挿入補助情報生成手段により表示手段に出力され、該表示手段に前記挿入補助情報が表示される際の表示特性を、前記挿入補助情報が生成された時刻近傍からの経過時間情報により制御する表示制御手段と、
を具備したことを特徴とする。
上記構成により、所定の応答動作状態に対応する挿入補助情報の表示を、その応答動作状態に至った時刻付近からの経過時間の情報により、挿入補助情報の表示特性を制御して、より確実に確認することができるようにしている。
本発明によれば、挿入補助情報を、より確実に確認することができる。
以下、図面を参照して本発明の実施例を説明する。
図1ないし図7は本発明の実施例1に係り、図1は本発明の実施例1を備えた体内挿入モニタリングシステムの全体構成を示し、図2は内視鏡挿入形状観測装置で検出される挿入部内に設けられたソースコイルの座標を示し、図3は内視鏡挿入形状観測装置により生成される挿入形状データを示す。
図4は画像処理装置の処理プログラムにより実現される機能ブロックの構成等を示し、図5は図4に示した解析処理ブロック等によるデータの流れや処理フロー等を示し、図6は挿入補助情報の更新タイミングと現在の時刻との差分値により挿入補助情報の表示持続を制御する動作を示し、図7は挿入補助情報の表示に関する変形例を示す。
図1に示すように本発明の実施例1を備えた体内挿入モニタリングシステム1は、内視鏡検査を行う内視鏡装置2と、内視鏡挿入形状を観測するための内視鏡挿入形状観測装置3と、内視鏡挿入形状観測装置3により生成された内視鏡挿入形状データ(挿入形状データと略記)を解析して、内視鏡検査を補助若しくは支援する挿入モニタリング装置の実施例1を構成する画像処理装置4とから構成される。
内視鏡装置2は、大腸等の体腔内に挿入される電子内視鏡6と、この電子内視鏡6に照明光を供給する光源装置7と、電子内視鏡6に内蔵されたCCD等の撮像素子16に対する信号処理を行う信号処理装置としてのビデオプロセッサ8と、このビデオプロセッサ8により生成された映像信号が入力されることにより撮像素子16で撮像された体腔内の画像を内視鏡画像として表示する観察モニタ9とを有する。
電子内視鏡6は、患者の体腔内に挿入される細長の挿入部11と、この挿入部11の後端に設けられた操作部12とを有する。挿入部11内には、照明光を伝送するライトガイド13が挿通されている。このライトガイド13の後端は光源装置7に接続され、光源装置7から供給される照明光を伝送し、挿入部11の先端部14に設けられた照明窓から(伝送した照明光を)出射する。
なお、挿入部11には、先端部14の後端に湾曲自在の湾曲部が設けてあり、操作部12に設けられた図示しない湾曲操作ノブ等を操作することにより、湾曲部を湾曲することができる。
上記先端部14には、照明窓に隣接して設けられた観察窓に対物レンズ15が取り付けてある。この対物レンズ15により、その結像位置に配置された電荷結合素子(CCDと略記)等の撮像素子16の撮像面に光学像を結像する。
この撮像素子16は、信号線を介してビデオプロセッサ8と接続されており、光学像を光電変換した撮像信号をビデオプロセッサ8に出力する。
ビデオプロセッサ8は、撮像素子16から出力される撮像信号に対して、映像信号を生成する信号処理を行う。そして、ビデオプロセッサ8は、生成した映像信号、例えばRGB信号を観察モニタ9に出力する。そして、観察モニタ9の表示面には、撮像素子16で撮像された画像が表示される。
なお、光源装置7は、R,G,Bの照明光で面順次照明を行う場合には、各照明期間に同期した同期信号をビデオプロセッサ8に出力し、ビデオプロセッサ8はその同期信号に同期して信号処理を行う。
更に、電子内視鏡6の操作部12には、レリーズ指示等を行う図示しないスイツチが設けてあり、スイッチを操作してビデオプロセッサ8の動作を制御することができる。
また、本実施例においては、体腔内に挿入される挿入部11の挿入位置や挿入形状を検出するための検出機能が設けられている。具体的には、電子内視鏡6における挿入部11内にはその長手方向に、所定の間隔で複数のソースコイルCo、C、…、CM−1(Co〜CM−1と略記)が配置されており、これらソースコイルCo〜CM−1は駆動信号が印加されることにより、その周囲に磁界を発生する。
そして、ソースコイルCo〜CM−1による磁界を、内視鏡挿入形状観測装置3に設けられた複数のセンスコイルを内蔵したセンスコイルユニット19により検出する構成にしている。
つまり、内視鏡挿入形状観測装置3は、電子内視鏡6に設けられたソースコイルCo〜CM−1による磁界を検出するセンスコイルユニット19と、このセンスコイルユニット19によって検出された磁界の検出信号に基づいて挿入部11の形状(挿入形状という)を推定する形状処理装置21と、この形状処理装置21によって推定された挿入形状を表示するディスプレイ22とを有する。
上記センスコイルユニット19は、患者が横たわる検査ベッドの周辺部などに配置され、ソースコイルCo〜CM−1による磁界を検出して、検出した検出信号を形状処理装置21に出力する。
形状処理装置21は、検出信号に基づいて、ソースコイルCo〜CM−1の各位置座標データの算出や、その算出された位置座標データから挿入部11の挿入形状を推定する。形状処理装置21は、推定した挿入部11の挿入形状の映像信号を生成し、生成した映像信号、例えばRGB信号をディスプレイ22に出力する。そして、このディスプレイ22の表示画面には、挿入形状が表示される。術者は、この挿入形状を観察することにより、挿入操作等をより円滑に行い易くなる。
また、この形状処理装置21は、内視鏡検査中、挿入形状を示す3次元座標情報、及び形状表示属性等の挿入形状データを連続的に生成し、通信ポート21aを介して画像処理装置4に出力する。この形状処理装置21は、レリーズスイツチの操作時の挿入形状データのみを画像処理装置4に出力することもできる。
なお、この内視鏡挿入形状観測装置3は、形状処理装置21による形状検出処理により生成されてディスプレイ22に表示される挿入形状の画像の回転角、拡大縮小率等の形状表示属性を、図示していない操作パネル等から指示入力することにより、変更可能となっている。
なお、ビデオプロセッサ8には、図示していないが、内視鏡検査に関する検査情報を入力する機能を有し、このビデオプロセッサ8に入力された検査情報は、通信ポート8aを介して画像処理装置4にも送信される。
画像処理装置4は、入力される挿入形状データに対して、挿入操作等の内視鏡操作に対して実際に体腔内に挿入された挿入部11の応答動作状態を解析処理し、術者に知らせるべき所定の応答動作状態になっているか否かを判定し、所定の応答動作状態になっている場合には挿入補助情報を生成する。
このため、画像処理装置4は、術者を補助ないしは支援する挿入補助情報を生成するための解析処理を行うパーソナルコンピュータ(以下、単にPCと称する)25と、このPC25に各種指示入力するためのマウス26とキーボード27と、PC25により解析処理により生成された挿入補助情報等を再生若しくは表示する表示装置としてのディスプレイ28とを有する。
PC25には、前記内視鏡挿入形状観測装置3の形状処理装置21の通信ポート21aから出力される挿入形状データを取り込む通信ポート25a、前記内視鏡装置2のビデオプロセッサ8の通信ポート8aから出力される内視鏡検査情報を取り込む通信ポート25bと、前記電子内視鏡6の撮像素子16で撮像され、ビデオプロセッサ8で生成された動画像の映像信号を所定の圧縮画像データに変換する動画像入力ボード25cと、画像処理を行うCPU31と、このCPU31により画像処理を行う処理プログラムを格納した処理プログラム格納部32と、CPU31により処理するデータ等を一時的に格納するメモリ33と、処理された画像データ等を記憶する記録装置としてのハードディスク(HDD)34とを有する。CPU31等は、互いにバスにより接続されている。
画像処理装置4の動画像入力ボード25cには、ビデオプロセッサ8で生成された動画像の映像信号、例えばY/C信号が入力され、動画像入力ボード25cは、その動画像の映像信号を所定の圧縮された動画像の映像信号データ、例えば、MJPEG形式の圧縮画像データに変換して、PC25内の例えばハードディスク34等に保存する。
なお、内視鏡検査開始前に、ビデオプロセッサ8から、内視鏡検査に関連する検査情報が入力され、その入力された検査情報データを基に観察モニタ9に文字や数字の形式で表示されると共に、その検査情報データは、通信ポート8aから画像処理装置4内の通信ポート25bを経て、PC25に送信記録することができる。
なお、検査情報とは、例えば、患者の氏名、生年月日、性別、年齢、患者コード、及び検査日時などである。
つまり、画像処理装置4側は、必要に応じてビデオプロセッサ8と接続して、ビデオプロセッサ8からの各種情報データを受信して保存するようになっている。
このような構成の体内挿入モニタリングシステム1における内視鏡挿入形状観測装置3による挿入形状データの生成について図2と図3を用いて説明する。
内視鏡挿入形状観測装置3の形状処理装置21は、電子内視鏡6の撮像素子16で撮像される撮像信号の1フレーム毎に電子内視鏡6の挿入部11に内蔵されたM個のソースコイルCo〜CM−1の3次元座標を含む挿入形状データを生成する。また、この形状処理装置21は、挿入形状データを基に挿入形状の画像を生成して、ディスプレイ22に表示すると共に、その挿入形状データを画像処理装置4に出力する。
この内視鏡挿入形状観測装置3で検出されるソースコイルCo〜CM−1の座標系は、例えば第j−1フレームの場合(但し、jは図3に示すように最初のフレームを第0フレームとしている)で示すと図2に示すようになる。
図2に示すように、挿入部11の先端側からi−1番目(ただし、i=0、1、…、M−1)のソースコイルCiの3次元座標は、(X ,Y ,Z )により表示される。
この内視鏡挿入形状観測装置3で検出されたソースコイルCo〜CM−1の座標系のデータを含む挿入形状データの構造は、図3に示すように、撮像されたフレーム順に、各フレームに関係するフレームデータ(つまり、第0フレームデータ、第1フレームデータ、…)として1つのパケットとして画像処理装置4に順次送信される。パケットで送信される各フレームデータ内には、挿入形状データの作成時刻、表示属性、付属情報、(ソース)コイル座標等のデータからなる。
また、コイル座標データは、図2に示したようにソースコイルCo〜CM−1が挿入部11の先端からその基端(手元側)の操作部12側に順次配置されたものの3次元座標をそれぞれ表すものとなっている。尚、内視鏡挿入形状観測装置3により検出範囲外のソースコイルの座標は、検出範囲外と分かるように例えば所定の定数に設定されるようになっているものとする。
次に、画像処理装置4における内視鏡装置2のビデオプロセッサ8の検査情報と内視鏡画像及び前記内視鏡挿入形状観測装置3の形状処理装置21からの挿入形状データの取得から挿入補助情報の生成、並びに例えば大腸内に挿入して大腸内の内視鏡検査のモニタリングの作用等を、図4から図6を用いて説明する。
画像処理装置4は、内視鏡検査が開始すると、PC25を構成するCPU31が処理プログラム格納部32に格納されている処理プログラムに従って処理を開始する。
CPU31により実行される処理機能ブロックは、図4に示すようにフレームデータを取得してメモリ33に格納するフレームデータ取得ブロック41と、メモリ33に格納されたフレームデータに対する解析処理を行い、解析データ33bと生成した挿入補助情報33cをメモリ33に格納する解析処理ブロック42と、解析結果の表示を行うと共に挿入補助情報33cの表示(若しくは表示特性)を制御する解析結果表示制御ブロック43とからなる。
図4に示すように、フレームデータ取得ブロック41と、解析処理ブロック42とはループ状に処理を繰り返し行う。解析処理ブロック42による解析結果として、所定の応答動作状態に対応する条件判定の処理を行い、これに該当する場合には挿入補助情報を生成する。また、解析結果表示制御ブロック43は、予め設定された経過時間情報に従って、挿入補助情報33cの表示及び表示停止(消去)の表示制御を行う。
フレームデータ取得ブロック41は、内視鏡挿入形状観測装置3から送信されるフレームデータを図4に示すようにメモリ33上に記憶すると共に、図1に示すようにハードディスク34に保存する。
解析処理ブロック42は、メモリ33上のフレームデータ33aを使用して、各ソースコイル位置において挿入部11の向いている方向や、1フレーム前におけるソースコイルの移動量など、挿入部11の(挿入操作に対する)応答動作状態を調べるためのデータの算出を行う。そして、この解析処理ブロック42は、算出したデータを解析データ33bとしてメモリ33上に格納する。
また、解析処理ブロック42は、メモリ33上のフレームデータ33aから解析データ33bを生成すると共に、体腔内に挿入される挿入部11が、術者による挿入操作に対して、順調に或いは適切に挿入されていない応答動作状態に関する情報を挿入補助情報として表示するために、フレームデータ33a(及び必要に応じて解析データ33b)を用いて挿入補助情報33cを生成するための解析処理を行う。
この場合、解析データ33bが所定の条件、具体的には術者が挿入部11をその基端側で押し込む操作を行った場合に、挿入部11の先端側が殆ど移動しないような条件、つまり挿入部11の挿入が円滑にできなくなるような条件を満たす応答動作状態の場合には挿入補助情報33cを生成して、メモリ33上に格納する。この場合、メモリ33上に以前に挿入補助情報33cが格納されている場合にはその内容を更新する。
ここで、挿入補助情報33cに関する所定の条件について補足説明する。
挿入部11の最先端位置におけるソースコイルCoの挿入部11の軸方向に対する移動量Moと、挿入部11の手元側位置にある例えばソースコイルCM−1との、挿入部11の軸方向に対する移動量Mnとの比Mo/Mnが、閾値(ここでは0.1)未満である条件を満たす場合(つまりMo/Mn<0.1)に挿入補助情報33cを生成する。
上記条件を満たすときに生成される挿入補助情報33cは、本実施例では文字列情報”先端停止”と、条件判定に使用したフレームデータの挿入形状データ作成時刻Toと、からなる。
なお、上記条件を満たす場合は、挿入部11の手元側において、術者が挿入操作を行っているにもかかわらず、挿入部11の先端部14が殆ど停止していることを示しており、これ以上挿入部手元側を押込んでも先端部14は、進まない状況であることを表している。
一方、解析結果表示制御ブロック43は、上記のフレームデータ取得ブロック41と解析処理ブロック42とのループ処理とは独立に、一定時間間隔で実行される処理ブロックである。
この解析結果表示制御ブロックは、メモリ33上の挿入補助情報を取得し、現在の時刻Tnと、挿入補助情報33cの生成に対応する挿入形状データ作成時刻Toとの差分が、予め設定される所定の閾値Ttよりも小さい(Tn−To<Tt)場合に、挿入補助情報33cの文字列情報の文字列情報を画像処理装置4のディスプレイ28上に、例えば先端停止と表示する。つまり、解析結果表示制御ブロックは、挿入補助情報33cの生成に使用された挿入形状データ作成時刻Toからの経過時間が所定の時間としての閾値Ttより小さい時間においては、挿入補助情報33cの文字列情報の表示を持続する。
なお、この場合の閾値Ttの値は、予めデフォルトの値が設定されているが、術者等のユーザは、例えばキーボード27からそのユーザがより適切と思う値に変更設定できるようにしている。また、ユーザのID情報と関連付けて閾値Ttを変更設定できるようにして、ユーザ毎に異なる値に設定できるようにしても良い。
つまり、内視鏡検査を行う術者が挿入補助情報が表示されるディスプレイ28を観察する概略の時間間隔等は、術者毎に異なる状況があり得るため、各術者毎に閾値Ttを設定できるようにして、各術者が挿入補助情報33c(の文字列情報)の表示をより適切に確認できるようにしても良い。
また、Tn−To>Ttとなる時間の場合には、画像処理装置4のディスプレイ28上に表示されている文字列情報を消去する。
このように本実施例では、挿入部11の基端側での挿入操作に対して、挿入部11の先端側の相対的な移動量が十分に小さく、先端側が殆ど移動しない応答動作状態に対応する条件を満たすと判定した場合には、挿入補助情報33cを生成する。そして、その挿入補助情報33cの生成に使用したその挿入形状データ作成時刻Toから術者がその挿入補助情報33cの表示を確認し易くなる時間までその表示を持続するようにしている。
次にフレームデータ取得ブロック41及び解析処理ブロック42で処理するデータの流れと、解析結果表示制御ブロック43の処理フローを、図5を用いて説明する。
術者は、体腔内、例えば大腸内を内視鏡検査する場合には、図1に示す電子内視鏡6の挿入部11を患者の肛門から大腸内に挿入する。この場合、術者は、挿入部11の基端側を把持して挿入部11をその先端部14側から順次大腸内の深部側に挿入する。
電子内視鏡6の挿入部11の先端部14内に設けられた撮像素子16により撮像された撮像信号は、ビデオプロセッサ8により信号処理され、映像信号が生成され、観察モニタ9に内視鏡画像が表示される。
また、挿入部11の長手方向に配置されたソースコイルCo〜CM−1の各位置は、センスコイルユニット19による検出信号により形状処理装置21により検出され、内視鏡挿入形状観測装置3のディスプレイ22により挿入形状が表示される。
また、各(ソース)コイルの位置情報を含むフレームデータは、形状処理装置21から画像処理装置4のPC25に送られる。そして、図4に示すように(PC25内の)CPU31におけるフレームデータ取得ブロック41により、メモリ33上にフレームデータ33aが格納される。
また、図5に示すように(メモリ33上に格納された)フレームデータ33aに対して、解析処理ブロック42は、解析処理を行い、フレームデータ33aから解析データ33bを生成して、メモリ33に格納する。
また、図5に示すように解析処理ブロック42は、この解析データ33bに対して、所定の条件(本実施例ではMo/Mn<0.1)を満たすか否かの判定処理を行い、その条件を満たす場合には挿入補助情報33cを生成して、メモリ33上に格納(オーバライト)する。この場合、すでにメモリ33上に古い挿入補助情報33cがある場合にはそれを更新する。以上の処理を繰り返し実行する。
また、図5に示すように解析結果表示制御ブロック43は、一定の時間間隔でメモリ33上の挿入補助情報33cを取得する処理(ステップS1)を行うとともに、現在の時刻Tnを取得する。
また、解析結果表示制御ブロック43は、次のステップS2において現在の時刻Tnと、挿入補助情報の挿入形状データ作成時刻Toとの差分が、所定の閾値Ttよりも小さい(Tn−To<Tt)か否かの判定処理を行う。
そして、ステップS3に示すように解析結果表示制御ブロック43は、Tn−To<Ttと判定した場合には、挿入補助情報33cの文字列情報を画像処理装置4のディスプレイ28上に表示する。そして、次の挿入補助情報33cの取得処理に備える。
一方、ステップS2の判定処理において、現在の時刻Tnと、挿入補助情報33cの挿入形状データ作成時刻T0との差分が、所定の閾値Tt以上(Tn−To≧Tt)と判定した場合には、ステップS4に示すように解析結果表示制御ブロック43は、画像処理装置4のディスプレイ28上に表示されている挿入補助情報33cの文字列情報を消去する。そして、次の挿入補助情報33cの取得処理に備える。
術者は、画像処理装置4のディスプレイ28上に表示される挿入補助情報33cの文字列情報を観察することにより、この観察のタイミングが挿入補助情報33cが生成されたタイミング以降の場合でも、術者にとって知りたい所定の応答動作状態になっているか否かを確認できる。
このようにして、解析結果表示制御ブロック43は、一定の時間間隔でステップS1〜S4の処理を繰り返す。
以上の作用による、解析処理ブロック42が挿入補助情報更新を行うタイミングと、解析結果表示制御ブロック43が挿入補助情報33cの取得を行うタイミングと、画像処理装置4のディスプレイ28上に表示される挿入補助情報33cの文字列情報の表示内容との関係を、図6に示す。
図6に示すように、解析処理ブロック42により挿入補助情報33cの更新が行われる。解析結果表示制御ブロック43は、一定の時間間隔で、挿入補助情報33cを取得し、その際にTn−To<Ttか否かの経過時間の条件判定の処理を行う。そして、Tn−Toが所定の時間Tt内にある間は挿入補助情報33cの文字列情報の表示を持続する。ここでは、”先端停止”の表示を持続する。
このため、術者が画像処理装置4のディスプレイ28の表示面の観察をし遅れても、所定の時間(としての閾値Tt)以内であれば挿入補助情報33cをより確実に知る(確認する)ことができる。
なお、上述の説明では、表示を持続するか否かの判定に用いる時刻として挿入補助情報33cに対応する挿入形状データ作成時刻Toを用いているが、これに近い時刻であれば良く、例えば挿入補助情報33cを生成若しくは更新した時刻を用いても良い。
このように挿入補助情報33cが生成された時刻近傍から所定の時間以内であれば”先端停止”の表示内容を持続するが、所定時間よりも時間が経過した後は”先端停止”の表示を行わないで、表示内容を適切に更新する。
このように本実施例によれば、術者が挿入補助情報33cを見落とすことを有効に防止ないしは軽減し、挿入補助情報33cをより確実に確認することができる。従って、内視鏡検査時における挿入操作に対する操作性を向上することができる。
なお、本実施例においては、挿入補助情報33cが生成された時刻近傍からの経過時間によって挿入補助情報33cの表示/消去(非表示)を制御したが、図7に示すように経過時間に応じて表示色、表示位置、表示サイズを変更するように構成してもよい。
つまり、斜線で示すように所定の経過時間内では赤色等の表示色で先端停止の表示を行い、所定の経過時間を超えた場合には表示を停止(先端停止の表示を消去)するようにしても良い。
また、所定の経過時間内では先端停止の表示を行い、例えば所定の経過時間付近から先端停止の表示を(その表示範囲から)スクロール移動するようにして、さらに時間が経過した場合には表示されないようにしても良い。
また、所定の経過時間内では先端停止の表示を行い、例えば所定の経過時間付近から先端停止の表示を行う文字列のサイズを小さくして、さらに時間が経過した場合には表示されないようにしても良い。或いはこれらを組み合わせるようにしても良い。このような場合にもほほ同様の効果がある。
また、本実施例においては、解析処理ブロック42は、挿入部11の挿入操作に対して、挿入形状データから先端側が殆ど停止した応答動作状態に対応する挿入補助情報33cを生成するように解析処理を行っているが、電子内視鏡6の抜去操作、湾曲操作(アングル操作)、捻り操作といった、術者による内視鏡操作に対して、挿入形状データから挿入部11の応答動作状態を解析し、それらが実際に行われているか否かの判定処理を行って、その判定結果を挿入補助情報33cに含めるようにしても良い。
例えば挿入部11の手元側の移動量と、挿入部11の先端側の移動量の挿入部11の軸方向における移動方向も判定することにより、抜去操作に対する応答動作状態を判定することができる。
また、例えば湾曲部の基端付近からこれよりも先端側部分のみが大きく挿入形状が変化しているか否かの判定処理を行うことにより湾曲操作に対する応答動作状態を判定することができる。
また、上述した挿入補助情報の表示は、”先端停止”であり、これ以上挿入部11の手元側を押し込んでも先端部14は進まない状況であることを術者に示して挿入補助を行うようにしているが、他の内視鏡操作の場合にもその内視鏡操作に対応した挿入補助情報33cを表示するようにしても良い。
この場合、挿入補助情報として表示する内容に応じて、表示を持続する際の経過時間を適切に制御するようにすれば良い。
このように、解析結果表示制御ブロック43は、電子内視鏡6の抜去操作、湾曲操作、捻り操作といった、術者による内視鏡操作を判定した場合には、少なくとも”先端停止”の文字列情報の表示を止める。そして、必要に応じて判定された内視鏡操作に対する挿入補助情報33cの文字列情報を表示する。これにより、術者は内視鏡の抜去操作、アングル操作、捻り操作に対して、挿入部11の応答動作が円滑に行われている状態か否かを確認することができ、挿入操作を含む内視鏡操作に対する操作性を向上することができるようになる。
次に図8から図10を参照して本発明の実施例2を説明する。実施例2を備えた体内挿入モニタリングシステムの構成は図1に示したものと同様である。本実施例は、図1における画像処理装置4におけるプログラム格納部32に格納されている処理プログラムとは一部異なる処理プログラムを用いている。
この処理プログラムによりCPU31によりソフトウェア的に実現される機能ブロックを図8に示す。図8に示す処理プログラムは、フレームデータ取得ブロック41と、解析処理ブロック51と、解析結果表示制御ブロック43とから構成される。
ここで、フレームデータ取得ブロック41と、解析結果表示制御ブロック43とは図4に示したのもと同様の処理を行う。これに対して本実施例における解析処理ブロック51は、メモリ33に格納される処理スクリプト33dの解釈を行うスクリプト解釈ブロック51aと、挿入補助情報生成処理を含む表示特性変更処理を行う表示特性変更処理ブロック51bとからなる。
このように解析処理ブロック51は、実施例1における挿入補助情報33cを生成する解析処理を行う他に、例えば条件設定の内容の変更設定により、複数種類に対応した挿入補助情報33c′の生成を可能にして、その挿入補助情報33c′に対応した表示特性を変更可能にしている。
また、メモリ33には、図4の場合と同様にフレームデータ33a、解析データ33b、及び挿入補助情報33c′が格納される。さらに本実施例では、処理プログラム格納部32に格納される処理プログラムとして、条件設定の変更等を含む表示特性の処理手順を記述した処理スクリプトファイルを含み、起動時にCPU31(図1参照)は、それを読み出して、メモリ33上に処理スクリプト33dとして格納する。
なお、処理スクリプト33dは、所定のプログラミング言語として例えばJava(登録商標)Scriptの文法に則って、解析処理ブロック51における挿入補助情報の生成処理を含む処理内容を記述している。この処理スクリプト33dの具体例を、例えば図10に示す。 実施例1の場合においては解析処理ブロック42は、図4に示すように(”先端停止”に相当する)Mo/Mn<0.1か否かの条件を満たすか否かを判断して、この条件を満たす場合に挿入補助情報を生成してメモリ33に書き込むようにしていた。
これに対して本実施例では、図10に示す処理スクリプト33dでは、”先端停止”以外にも”先端逆進”の挿入補助情報33c′の文字列情報を生成できるように、解析データに対する処理内容(if部分の条件内容)を変更している。この場合、図10では、手元側コイルの推進量の符号(正負)を調べて、抜去の操作を判断できるようにしている。
実施例1においては、図4に示したフレームデータ取得ブロック41等の処理機能は、プログラミング言語がコンパイルされた実行形式の言語に変換されたものがCPU31により高速に実行される。
これに対して本実施例においては、解析処理ブロック51におけるスクリプト解釈ブロック51aは、処理スクリプト33dに記述されているプログラミング言語の内容を順次、実行形式の言語に解釈(インタープリト)する。そして解釈された処理を、表示特性変更処理ブロック51bが順次行うようにしている。
この場合、表示特性変更処理ブロック51bは、メモリ33上の解析データ33bの取得、条件判定、ループ制御、挿入補助情報の生成と更新等の処理を実行する。
このように本実施例における解析処理ブロック51は、処理スクリプト33dに記述されている解析内容を逐次、解釈してインタープリタ的に実行する。このため、システムを停止させることなく、動作中(検査中)において、例えば上記挿入補助情報設定部分のパラメータ値の変更等を行い、変更した値でそれぞれ実行させて、最も適切となる場合の値に変更設定することも行い易い。
このように、処理スクリプト33dの記述内容を変更することにより、表示特性等の処理内容を簡単に変更できるようにしている。例えば、上記したように処理スクリプトにおける条件内容を変更することにより、挿入補助情報の(表示特性に含まれる)表示内容を容易に変更できる。
これに対して、実施例1ではコンパイルされた後のものを実行するため、小さな変更を行う場合においても、システムを停止させて、処理プログラムの内容を変更し、変更した内容でコンパイルして実行形式のファイルを生成する必要がある。また、実行形式のファイルに変換した後でないと、解析処理させることができないため、上記のように単にパラメータ値を適切な値に設定する作業の場合にも手間がかかる。なお、本実施例は、解析処理ブロック51のみをインタープリタで実行させるようにしている。
このような構成による本実施例の動作を図9を参照して説明する。なお、図9はフレームデータ取得ブロック41及び解析処理ブロック51のデータの流れと、解析結果表示制御ブロック43の処理フローを示す。
図9に示す処理データの流れの概要は、図5と比較すれば容易にわかるように、図5における解析処理ブロック42では、(”先端停止”に相当する)Mo/Mn<0.1か否かの条件判定を行っていたのを、処理スクリプトにより記述された内容の条件判定を行うことになる。以下、より詳細に説明する。
フレームデータ取得ブロック41は、メモリ33上にフレームデータ33aを記録する。
続いて解析処理ブロック51は、フレームデータ33aの解析処理を行った後、メモリ33から処理スクリプト33dを取得する。処理スクリプト33dは、例えば図10に示す内容が記述されている。続いて、スクリプト解釈ブロック51aは、処理スクリプト33dを解釈する。そして、解釈された処理手順に基づき、表示特性変更処理ブロック51bにて処理を行う。
図9に示すように解析処理ブロック51(における表示特性変更処理ブロック51b)は、解釈された解析データ33bを取得し、条件判定を行って、条件判定に該当しない場合には、次のフレームデータに対して条件判定を行う準備をする。一方、この条件に該当する場合には、その条件判定に該当して生成された挿入補助情報33c′を更新してメモリ33に書き込む。具体的には、実施例1の場合における”先端停止”と、この他に”先端逆進”の文字列情報をメモリ33に書き込む。このような処理を繰り返す。
一方、解析結果表示制御ブロック43は、実施例1の場合と同様に一定の時間間隔でメモリ33上の挿入補助情報33c′を取得する(ステップS1)とともに、現在の時刻Tnを取得し、現在の時刻Tnと、挿入補助情報33c′の挿入形状データ作成時刻T0との差分が所定の閾値Ttよりも小さい(Tn−To<Tt)か否かの判定を行う(ステップS2)。
そして、Tn−To<Ttの条件を満たす時には、挿入補助情報33c′の文字列情報を画像処理装置4のディスプレイ28上に表示する(ステップS3)。本実施例では、”先端停止”と、”先端逆進”の文字列情報を表示することとなる。
また、現在の時刻Tnと、挿入補助情報33c′の挿入形状データ作成時刻Toとの差分が、所定の閾値Tt以上(Tn−To≧Tt)のときには、画像処理装置4のディスプレイ28上に表示されている文字列情報を消去する(ステップS4)。
このように、処理スクリプト33dに記述されている内容にしたがって体内挿入モニタリングシステム1を動作させるため、処理プログラムを新たに作成する必要がなく、動作内容の詳細なカスタマイズ等が行い易くなる。
なお、本体内挿入モニタリングシステム1において、処理スクリプトを任意のタイミングで読み込む機能を追加することにより、体内挿入モニタリングシステム1の動作を終了させることなく、修正または選択した処理スクリプトを術者の指示により読み込ませる構成にしてもよい。
従って、本実施例は以下の効果を有する。
体内挿入モニタリングシステムの処理プログラムを新たに作り直さなくても、詳細なカスタマイズが簡単に行える。
また、設定調整時や検査時に体内挿入モニタリングシステムを停止させずにカスタマイズが行えるため、カスタマイズ結果を即時確認し易くできると共に、検査中にその挿入補助情報の生成方法を修正/選択しながら、連続的(円滑)に挿入補助情報を提示することが可能となる。そして、術者にとってより操作性を向上できる各種の挿入補助情報をより適切に表示することができる。その他、実施例1と同様の効果がある。
なお、図10に示した処理スクリプトの内容を変更することにより、湾曲操作などの内視鏡操作に対する挿入部11の応答動作状態を解析して、所定の応答動作状態の場合に挿入補助情報として表示することもできる。
なお、挿入補助情報を表示する場合、画像処理装置4のディスプレイ28に表示する場合に限定されるものでなく、例えば内視鏡挿入形状観測装置3のディスプレイ22や内視鏡装置2の観察モニタ9に表示するようにしても良いし、表示する表示装置を選択設定できるようにしても良い。また、挿入補助情報を表示する場合、文字列情報で表示する場合に限定されるものでなく、例えば内視鏡挿入形状観測装置3のディスプレイ22上に表示される挿入形状の背景部分の表示色を変更することにより、例えば”先端停止”の挿入補助情報を術者に知らせるようにしても良い。
なお、上述した各実施例等を部分的に組み合わせる等して構成される実施例等も本発明に属する。
[付記]
1.体腔内に挿入される内視鏡と、
前記内視鏡の挿入部の形状を検出する形状検出手段と、
前記形状検出手段の形状検出情報を基にして、挿入操作等の内視鏡操作に対する挿入部の応答動作状態の解析を行う解析手段と、
前記解析手段により解析された所定の応答動作状態の情報を挿入補助情報として表示手段に出力する挿入補助情報出力手段と、
前記表示手段により前記挿入補助情報を表示する際の表示特性を、前記挿入補助情報に対応する形状検出情報が作成された時刻からの経過時間情報により制御する表示制御手段と、
を具備したことを特徴とする挿入モニタリングシステム。
体腔内に挿入された挿入部の挿入形状を検出して表示装置に表示すると共に、挿入形状データから挿入操作等の内視鏡操作に対する挿入部の応答動作状態を解析して、所定の応答動作状態に対応する情報を挿入補助情報として表示すると共に、その表示時間等を制御することにより、術者が常時観察していなくても、その情報をより確実に認識できるようにして操作性を向上した。
本発明の実施例1を備えた体内挿入モニタリングシステムの全体構成図。 内視鏡挿入形状観測装置で検出される挿入部内に設けられたソースコイルの座標を示す図。 内視鏡挿入形状観測装置により生成される挿入形状データを示す説明図。 画像処理装置により実現される機能ブロックの構成等を示す図。 図4に示した解析処理ブロック等によるデータの流れや処理フロー等を示す説明図。 挿入補助情報の更新タイミングと現在の時刻との差分値により挿入補助情報の表示持続を制御する動作を示す説明図。 挿入補助情報の表示特性に関する変形例を示す図。 本発明の実施例2における画像処理装置により実現される機能ブロックの構成等を示す図。 図8に示した解析処理ブロック等によるデータの流れや処理フロー等を示す説明図。 処理スクリプトの処理内容のプログラミングの具体例。
符号の説明
1…体内挿入モニタリングシステム
2…内視鏡装置
3…内視鏡挿入形状観測装置
4…画像処理装置
6…電子内視鏡
8…ビデオプロセッサ
11…挿入部
14…先端部
16…撮像素子
19…センスコイルユニット
21…形状処理装置
25…PC
31…CPU
33…メモリ
41…フレームデータ取得ブロック
42…解析処理ブロック
43…解析結果表示制御ブロック

Claims (5)

  1. 体腔内に挿入される内視鏡の挿入部の形状を検出する形状検出手段が生成する形状検出情報を基にして、挿入操作等の内視鏡操作に対する挿入部の応答動作状態の解析を行う解析手段と、
    前記解析手段により解析された所定の応答動作状態に対応する挿入補助情報を生成する挿入補助情報生成手段と、
    前記挿入補助情報生成手段により表示手段に出力され、該表示手段に前記挿入補助情報が表示される際の表示特性を、前記挿入補助情報が生成された時刻近傍からの経過時間情報により制御する表示制御手段と、
    を具備したことを特徴とする挿入モニタリング装置。
  2. 前記解析手段は、前記内視鏡操作として挿入部を挿入する挿入操作、前記挿入部を抜去する抜去操作、挿入部に設けられた湾曲部を湾曲する湾曲操作、前記挿入部を捻る捻り操作の少なくとも1つに対する挿入部の応答動作状態の解析を行うことを特徴とする請求項1に記載の挿入モニタリング装置。
  3. 前記挿入操作若しくは前記抜去操作に対する挿入部の応答動作状態を解析する場合には、前記挿入部の手元側の挿入移動量に対して前記挿入部の先端側の相対的移動量に基づいて判定することを特徴とする請求項2に記載の挿入モニタリング装置。
  4. 前記表示制御手段は、前記挿入補助情報に対応する形状検出情報が作成された時刻から予め設定された所定時間までの経過時間に応じて、前記挿入補助情報の表示を持続する表示持続特性、前記挿入補助情報の表示色、前記挿入補助情報の表示位置、前記挿入補助情報の表示サイズの少なくとも1つを制御することを特徴とする請求項1から3のいずれか1つに記載の挿入モニタリング装置。
  5. 前記解析手段は、処理内容が所定のプログラミング言語で記述されたスクリプトを取得して、前記スクリプトの処理内容と処理順序を実行形式の言語に解釈するスクリプト解釈手段と、前記スクリプト解釈手段によって解釈された処理内容と処理順序で逐次、実行する処理手段とを備えることを特徴とする請求項1から4のいずれか1つに記載の挿入モニタリング装置。
JP2005332009A 2005-08-25 2005-11-16 挿入モニタリング装置 Expired - Fee Related JP4794992B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2005332009A JP4794992B2 (ja) 2005-11-16 2005-11-16 挿入モニタリング装置
PCT/JP2006/314574 WO2007023631A1 (ja) 2005-08-25 2006-07-24 内視鏡挿入形状解析装置及び内視鏡挿入形状解析システム
US12/064,310 US20090149703A1 (en) 2005-08-25 2006-07-24 Endoscope insertion shape analysis apparatus and endoscope insertion shape analysis system
CN2006800309432A CN101247752B (zh) 2005-08-25 2006-07-24 内窥镜插入形状分析装置及内窥镜插入形状分析系统
EP06781486.3A EP1917901B1 (en) 2005-08-25 2006-07-24 Endoscope insertion shape analysis apparatus and endoscope insertion shape analysis system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005332009A JP4794992B2 (ja) 2005-11-16 2005-11-16 挿入モニタリング装置

Publications (2)

Publication Number Publication Date
JP2007135783A true JP2007135783A (ja) 2007-06-07
JP4794992B2 JP4794992B2 (ja) 2011-10-19

Family

ID=38199357

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005332009A Expired - Fee Related JP4794992B2 (ja) 2005-08-25 2005-11-16 挿入モニタリング装置

Country Status (1)

Country Link
JP (1) JP4794992B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009106547A (ja) * 2007-10-30 2009-05-21 Toshiba Corp X線画像診断装置
JP2009136618A (ja) * 2007-12-10 2009-06-25 Olympus Medical Systems Corp 内視鏡システム
JP2011104053A (ja) * 2009-11-16 2011-06-02 Olympus Corp 三次元形状検出装置、及び、挿入部材の三次元形状を検出する方法
WO2014123130A1 (en) * 2013-02-05 2014-08-14 Olympus Corporation Robotic-assisted surgical system and control method thereof
US9827047B2 (en) 2012-07-10 2017-11-28 Panasonic Intellectual Property Management Co., Ltd. Control apparatus and control method of insertion apparatus, insertion apparatus having control apparatus, control program for insertion apparatus, and controlling integrated electronic circuit of insertion apparatus

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004147778A (ja) * 2002-10-29 2004-05-27 Olympus Corp 画像処理装置及び内視鏡画像処理装置
JP2004358095A (ja) * 2003-06-06 2004-12-24 Olympus Corp 内視鏡挿入形式解析装置及び内視鏡挿入形式解析方法
JP2005328999A (ja) * 2004-05-19 2005-12-02 Olympus Corp 医療装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004147778A (ja) * 2002-10-29 2004-05-27 Olympus Corp 画像処理装置及び内視鏡画像処理装置
JP2004358095A (ja) * 2003-06-06 2004-12-24 Olympus Corp 内視鏡挿入形式解析装置及び内視鏡挿入形式解析方法
JP2005328999A (ja) * 2004-05-19 2005-12-02 Olympus Corp 医療装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009106547A (ja) * 2007-10-30 2009-05-21 Toshiba Corp X線画像診断装置
JP2009136618A (ja) * 2007-12-10 2009-06-25 Olympus Medical Systems Corp 内視鏡システム
JP2011104053A (ja) * 2009-11-16 2011-06-02 Olympus Corp 三次元形状検出装置、及び、挿入部材の三次元形状を検出する方法
US9827047B2 (en) 2012-07-10 2017-11-28 Panasonic Intellectual Property Management Co., Ltd. Control apparatus and control method of insertion apparatus, insertion apparatus having control apparatus, control program for insertion apparatus, and controlling integrated electronic circuit of insertion apparatus
WO2014123130A1 (en) * 2013-02-05 2014-08-14 Olympus Corporation Robotic-assisted surgical system and control method thereof
JP2016505279A (ja) * 2013-02-05 2016-02-25 オリンパス株式会社 ロボット支援型手術システムとその制御方法

Also Published As

Publication number Publication date
JP4794992B2 (ja) 2011-10-19

Similar Documents

Publication Publication Date Title
JP4153963B2 (ja) 内視鏡挿入形状検出装置
WO2007023631A1 (ja) 内視鏡挿入形状解析装置及び内視鏡挿入形状解析システム
JP4274854B2 (ja) 内視鏡挿入形状解析装置
EP2014219A2 (en) Endoscopic image processing apparatus
US20050261550A1 (en) System, apparatus, and method for supporting insertion of endoscope
JP5379442B2 (ja) 画像表示装置
JP2009077765A (ja) 内視鏡システム
JP2010035637A (ja) 画像表示装置およびこれを用いた内視鏡システム
JP6663571B2 (ja) 内視鏡画像処理装置、および、内視鏡画像処理装置の作動方法、並びにプログラム
EP2733924A2 (en) Image capture stabilization
JP4794992B2 (ja) 挿入モニタリング装置
JP2005007145A (ja) 医療用画像記録装置、内視鏡画像の表示方法、内視鏡画像の取り込み方法及びプログラム
JP4855901B2 (ja) 内視鏡挿入形状解析システム
JP2009022446A (ja) 医療における統合表示のためのシステム及び方法
WO2020165978A1 (ja) 画像記録装置、画像記録方法および画像記録プログラム
US20210338042A1 (en) Image processing apparatus, diagnosis supporting method, and recording medium recording image processing program
WO2019198322A1 (ja) 医療システム
JP2006223850A (ja) 電子内視鏡システム
JP2024041891A (ja) コンピュータプログラム、学習モデルの生成方法、及び支援装置
JP4855902B2 (ja) 生体観測システム
JP5160110B2 (ja) 画像ファイリングシステムおよび画像表示システム
JP2006280592A (ja) 処置支援装置
JP4855912B2 (ja) 内視鏡挿入形状解析システム
JP5388886B2 (ja) 電子スコープ
JP2005111081A (ja) 内視鏡画像表示処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110712

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110727

R151 Written notification of patent or utility model registration

Ref document number: 4794992

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140805

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees