JP6626839B2 - 挿抜支援装置 - Google Patents

挿抜支援装置 Download PDF

Info

Publication number
JP6626839B2
JP6626839B2 JP2016564556A JP2016564556A JP6626839B2 JP 6626839 B2 JP6626839 B2 JP 6626839B2 JP 2016564556 A JP2016564556 A JP 2016564556A JP 2016564556 A JP2016564556 A JP 2016564556A JP 6626839 B2 JP6626839 B2 JP 6626839B2
Authority
JP
Japan
Prior art keywords
point
interest
displacement
shape
insert
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016564556A
Other languages
English (en)
Other versions
JPWO2016098255A1 (ja
Inventor
山本 英二
英二 山本
潤 羽根
潤 羽根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JPWO2016098255A1 publication Critical patent/JPWO2016098255A1/ja
Application granted granted Critical
Publication of JP6626839B2 publication Critical patent/JP6626839B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/06Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
    • A61B5/065Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • A61B1/01Guiding arrangements therefore
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6846Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive
    • A61B5/6847Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive mounted on an invasive device
    • A61B5/6851Guide wires
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/68Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient
    • A61B5/6846Arrangements of detecting, measuring or recording means, e.g. sensors, in relation to patient specially adapted to be brought in contact with an internal body part, i.e. invasive
    • A61B5/6886Monitoring or controlling distance between sensor and tissue
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2051Electromagnetic tracking systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • A61B2034/2046Tracking techniques
    • A61B2034/2061Tracking techniques using shape-sensors, e.g. fiber shape sensors with Bragg gratings
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/062Measuring instruments not otherwise provided for penetration depth

Description

本発明は、挿抜支援装置関する。
一般に内視鏡の挿入部のような細長形状をした挿入体を有する挿抜装置が知られている。例えば内視鏡の挿入部を被検体に挿入するときに、ユーザが挿入部の状態を把握しながら操作を行うことができれば、ユーザにとって被検体への挿入部の挿入はより容易となる。このため、挿抜装置の挿入体の状態を把握するための技術が知られている。
例えば日本国特開2007−44412号公報には、次のような技術が開示されている。すなわち、この技術では、内視鏡の挿入部に内視鏡挿入形状検出プローブが設けられている。この内視鏡挿入形状検出プローブは、検出用光伝達手段を有する。検出用光伝達手段は、曲り角度に応じて光損失量が異なるように構成されている。この内視鏡挿入形状検出プローブが用いられることで、内視鏡の挿入部の曲り角度が検出される。その結果、内視鏡挿入部の湾曲形状が再現され得る。
例えば日本国特開平6−154153号公報には、次のような技術が開示されている。すなわち、この技術では、内視鏡挿入部にセンサ支持部が設けられ、このセンサ支持部に歪ゲージが装着されている。歪ゲージが用いられることで内視鏡挿入部への特定方向からの外力が検出される。その結果、内視鏡挿入部へ加わる外力の情報が取得され得る。
例えば日本国特開2000−175861号公報には、次のような技術が開示されている。すなわち、この技術では、内視鏡システムには、内視鏡挿入部の形状を推定する形状推定手段が設けられている。この内視鏡システムでは、形状推定手段が推定した内視鏡挿入部の形状に基づいて、必要な場合には警告が発せられる。例えば、内視鏡挿入部がループ形状となったことが検出されたとき、表示又は音によって、注意を促す警告が発せられる。
挿抜装置の挿入の状態をより詳細に知るための装置提供がさらに求められる。また、当該挿入体が挿入された被検体の状態を詳細に知るための装置提供についても求められている。
本発明は、挿入体又は当該挿入体が挿入された被検体の状態を検出できる挿抜支援装置提供することを目的とする。
本発明の一態様によれば、可撓性を有する挿入体を被検体に挿入及び抜去することを支援する挿抜支援装置は、前記挿入体の形状に基づいて、前記挿入体の長手方向の所定部位に設定された少なくとも1つの注目ポイントの接線方向を取得する接線方向取得部と、前記注目ポイントの移動方向を取得する移動方向取得部と、前記注目ポイントの第1の変位と前記注目ポイントの前記接線方向の第2の変位とを取得する変位取得部と、前記注目ポイントの前記第1の変位と前記注目ポイントの前記接線方向の前記第2の変位との関係に基づいて、前記挿入体又は前記被検体の状態を判断する判断部とを備え、前記判断部は、前記第1の変位の大きさと前記第2の変位の大きさとの一致度が高い程、前記挿入体は前記被検体に沿って挿入されていると判断し、前記判断部は、前記第1の変位の大きさに対する前記第2の変位の大きさの割合が大きい程、自己追従性が高いと判断する。
本発明によれば、挿入体又は当該挿入体が挿入された被検体の状態を検出できる挿抜支援装置提供できる。
図1は、一実施形態に係る挿抜装置の構成例の概略を示す図である。 図2は、一実施形態に係る内視鏡に設けられたセンサの構成の一例を示す図である。 図3は、一実施形態に係る内視鏡に設けられたセンサの構成の一例を示す図である。 図4は、一実施形態に係る内視鏡に設けられたセンサの構成の一例を示す図である。 図5は、一実施形態に係る形状センサの構成例の概略を示す図である。 図6は、一実施形態に係る挿入量センサの構成例の概略を示す図である。 図7は、一実施形態に係る挿入量センサの構成例の概略を示す図である。 図8は、一実施形態に係るセンサによって得られる情報について説明するための図である。 図9は、第1の状態判断方法について説明するための図であり、時刻t1から時刻t2までの間における挿入部の移動の様子を模式的に示す図である。 図10は、第1の状態判断方法について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の一例を模式的に示す図である。 図11は、第1の状態判断方法について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の別の例を模式的に示す図である。 図12は、第1の状態判断方法に用いられる挿抜支援装置の構成例の概略を示すブロック図である。 図13は、第1の状態判断方法における処理の一例を示すフローチャートである。 図14は、第1の状態判断方法の第1の変形例について説明するための図であり、時刻t1から時刻t2までの間における挿入部の移動の様子を模式的に示す図である。 図15は、第1の状態判断方法の第1の変形例について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の一例を模式的に示す図である。 図16は、第1の状態判断方法の第1の変形例について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の別の例を模式的に示す図である。 図17は、第1の状態判断方法の第2の変形例について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図18は、第2の状態判断方法について説明するための図であり、時刻t1から時刻t2までの間における挿入部の移動の様子を模式的に示す図である。 図19は、第2の状態判断方法について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の一例を模式的に示す図である。 図20は、第2の状態判断方法について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の別の例を模式的に示す図である。 図21は、時間経過に対する注目ポイントの位置の変化の一例を示す図である。 図22は、第2の状態判断方法に用いられる挿抜支援装置の構成例の概略を示すブロック図である。 図23は、第2の状態判断方法における処理の一例を示すフローチャートである。 図24は、第2の状態判断方法の変形例について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図25は、第2の状態判断方法の変形例について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図26は、第3の状態判断方法について説明するための図であり、時刻t1から時刻t2までの間における挿入部の移動の様子を模式的に示す図である。 図27は、第3の状態判断方法について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の一例を模式的に示す図である。 図28は、第3の状態判断方法について説明するための図であり、時刻t2から時刻t3までの間における挿入部の移動の様子の別の例を模式的に示す図である。 図29は、第3の状態判断方法について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図30は、第3の状態判断方法について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図31は、挿入部における注目ポイントの位置の変化を模式的に示す図である。 図32は、挿入部の移動の様子の一例を模式的に示す図である。 図33は、時間経過に対する注目ポイントの挿入部の先端からの距離の変化の一例を示す図である。 図34は、挿入部の移動の様子の別の例を模式的に示す図である。 図35は、時間経過に対する注目ポイントの挿入部の先端からの距離の別の例を示す図である。 図36は、時間経過に対する自己追従性の変化の一例を示す図である。 図37は、第3の状態判断方法に用いられる挿抜支援装置の構成例の概略を示すブロック図である。 図38は、第3の状態判断方法における処理の一例を示すフローチャートである。 図39は、第4の状態判断方法について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図40は、第4の状態判断方法における、接線方向と移動量との関係について説明するための図である。 図41は、時間経過に対する挿入部の変位における接線方向の割合の変化の一例を示す図である。 図42は、時間経過に対する挿入部の変位における接線方向の割合の変化の別の例を示す図である。 図43は、時間経過に対する挿入部の横動きの変化の一例を示す図である。 図44は、第4の状態判断方法に用いられる挿抜支援装置の構成例の概略を示すブロック図である。 図45は、第4の状態判断方法における処理の一例を示すフローチャートである。 図46は、第4の状態判断方法の変形例について説明するための図であり、挿入部の移動の様子の一例を模式的に示す図である。 図47は、時間経過に対する挿入部の先端進みの変化の一例を示す図である。
本発明の一実施形態について図面を参照して説明する。図1は、本実施形態に係る挿抜装置1の構成例の概略を示す。挿抜装置1は、挿抜支援装置100と、内視鏡200と、制御装置310と、表示装置320と、入力装置330とを備える。
内視鏡200は、一般的な内視鏡である。制御装置310は、内視鏡200の動作を制御する制御装置である。制御装置310は、内視鏡200から制御に必要な情報を取得してもよい。表示装置320は、一般的な表示装置である。表示装置320は、例えば液晶ディスプレイを含む。表示装置320は、内視鏡200で取得された画像や、制御装置310で作成された内視鏡200の動作に係る情報を表示する。入力装置330は、挿抜支援装置100及び制御装置310へのユーザの入力を受け付ける。入力装置330は、例えば、ボタンスイッチや、ダイヤルや、タッチパネルや、キーボード等を含む。挿抜支援装置100は、ユーザが内視鏡200の挿入部を被検体へ挿入したり抜去したりすることを支援するための情報処理を行う。
本実施形態に係る内視鏡200は、例えば大腸内視鏡である。図2乃至図4に示すように、内視鏡200は、可撓性を有する細長形状をした挿入体としての挿入部203と、挿入部203の一端に設けられた操作部205とを有する。以降の説明では、挿入部203の操作部205が設けられている側を後端側と称し、他端を先端側と称することにする。
挿入部203の先端側にはカメラが設けられており、当該カメラによって画像が取得される。取得された画像は、一般的な各種画像処理が施された後に、表示装置320に表示される。挿入部203の先端部には、湾曲部が設けられており、この湾曲部は、操作部205の操作によって湾曲する。ユーザは、例えば操作部205を左手で把持し、挿入部203を右手で送り出したり手繰り寄せたりしながら、挿入部203を被検体に挿入する。このような内視鏡200において、挿入部203の各部の位置と、挿入部203の形状とを取得するため、挿入部203には、センサ201が設けられている。
センサ201としては、種々のセンサが用いられ得る。センサ201の構成例を図2乃至図4を参照して説明する。
図2は、センサ201の構成の第1の例を示す図である。第1の例では、挿入部203には、形状センサ211と挿入量センサ212とが設けられている。形状センサ211は、挿入部203の形状を取得するためのセンサである。形状センサ211の出力によれば、挿入部203の形状が取得され得る。挿入量センサ212は、挿入部203が被検体に挿入された量である挿入量を取得するためのセンサである。挿入量センサ212の出力によれば、当該挿入量センサ212によって計測される挿入部203の後端側の所定の箇所の位置が取得され得る。挿入部203の後端側の所定の箇所の位置と、当該位置を含む当該挿入部203の形状とに基づけば、挿入部203の各部の位置が取得され得る。
図3は、センサ201の構成の第2の例を示す図である。第2の例では、挿入部203には、挿入部203の形状を取得するための形状センサ221と位置センサ222とが設けられている。位置センサ222は、当該位置センサ222が配置された箇所の位置を検出する。図3には、位置センサ222が挿入部203の先端に設けられている例が示されている。形状センサ221の出力に基づき取得された挿入部203の形状と、位置センサ222の出力に基づき取得された位置センサ222が設けられている箇所の位置とに基づけば、挿入部203の各部(任意の点)の位置や向き・湾曲形状が演算、又は、推定により取得され得る。
図4は、センサ201の構成の第3の例を示す図である。第3の例では、挿入部203には、挿入部203の各部の位置を取得するための複数の位置センサ230が設けられている。複数の位置センサ230の出力によれば、挿入部203の位置センサ230が設けられている箇所の位置が取得され得る。これらの位置情報を組み合わせれば、挿入部203の形状が取得され得る。
形状センサ211,221の構成の一例を、図5を参照して説明する。この例に係る挿入部203に設けられる形状センサ260は、複数の形状検出ユニット261を含む。図5には、簡単のため、4つの形状検出ユニット261が設けられている場合の例を示している。すなわち、形状センサ260は、第1の形状検出ユニット261−1と、第2の形状検出ユニット261−2と、第3の形状検出ユニット261−3と、第4の形状検出ユニット261−4とを含む。形状検出ユニットの数は、いくつでもよい。
各形状検出ユニット261は、挿入部203に沿って設けられた光ファイバ262を有する。光ファイバ262の先端側の端部には、反射部材264が設けられている。光ファイバ262の後端側には、分岐部263が設けられている。光ファイバ262の後端側の分岐した一方の端部には、入射レンズ267と光源265とが設けられている。光ファイバ262の後端側の分岐した他方の端部には、出射レンズ268と光検出器266とが設けられている。また、光ファイバ262には、検出領域269が設けられている。この検出領域269は、第1の形状検出ユニット261−1に設けられた第1の検出領域269−1と、第2の形状検出ユニット261−2に設けられた第2の検出領域269−2と、第3の形状検出ユニット261−3に設けられた第3の検出領域269−3と、第4の形状検出ユニット261−4に設けられた第4の検出領域269−4とで、挿入部203の長手方向における配置されている位置が異なる。
光源265から射出された光は、入射レンズ267を介して光ファイバ262に入射する。この光は、光ファイバ262を先端方向へ進行し、先端に設けられた反射部材264で反射する。この反射光は、光ファイバ262を後端方向へ進行し、出射レンズ268を介して光検出器266に入射する。検出領域269における光の伝搬効率は、検出領域269の湾曲状態に応じて変化する。このため、光検出器266で検出される光量に基づいて、検出領域269の湾曲状態が取得され得る。
第1の形状検出ユニット261−1の光検出器266で検出される光量に基づいて、第1の検出領域269−1の湾曲状態が取得され得る。同様に、第2の形状検出ユニット261−2の光検出器266で検出される光量に基づいて、第2の検出領域269−2の湾曲状態が取得され、第3の形状検出ユニット261−3の光検出器266で検出される光量に基づいて、第3の検出領域269−3の湾曲状態が取得され、第4の形状検出ユニット261−4の光検出器266で検出される光量に基づいて、第4の検出領域269−4の湾曲状態が取得される。このようにして、挿入部203の各部の湾曲状態が検出され、挿入部203全体の形状が取得され得る。
次に、挿入量センサ212の構成例を図6及び図7を参照して説明する。
図6は、挿入量センサ212の構成の一例を示す図である。この例では、挿入量センサ212は、被検体の挿入口に固定される保持部材241を有する。保持部材241には、挿入方向検出用の第1のエンコーダヘッド242と、ねじれ方向検出用の第2のエンコーダヘッド243とが設けられている。挿入部203には、エンコーダパターンが形成されている。第1のエンコーダヘッド242は、挿入部203が挿入される際の長手方向の挿入量を、挿入部203に形成されたエンコーダパターンに基づいて検出する。第2のエンコーダヘッド243は、挿入部203が挿入される際の円周方向の回転量を、挿入部203に形成されたエンコーダパターンに基づいて検出する。
図7は、挿入量センサ212の構成の別の一例を示す図である。この例では、挿入量センサ212は、挿入方向検出用の第1のローラ246と、挿入方向検出用の第1のエンコーダヘッド247と、ねじれ方向検出用の第2のローラ248と、ねじれ方向検出用の第2のエンコーダヘッド249とを有する。第1のローラ246は、挿入部203が長手方向に移動するとそれに伴って回転する。第1のローラ246には、エンコーダパターンが形成されている。第1のエンコーダヘッド247は、第1のローラ246と対向している。第1のエンコーダヘッド247は、挿入部203が挿入される際の長手方向の挿入量を、当該挿入に伴って回転した第1のローラ246の回転量に基づいて検出する。第2のローラ248は、挿入部203が円周方向に回転するとそれに伴って回転する。第2のローラ248には、エンコーダパターンが形成されている。第2のエンコーダヘッド249は、第2のローラ248と対向している。第2のエンコーダヘッド249は、挿入部203が挿入される際の円周方向の回転量を、当該回転に伴って回転した第2のローラ248の回転量に基づいて検出する。
図6及び図7に示す挿入量センサ212によれば、挿入量センサ212の位置を基準とすることで、挿入部203のうち挿入量センサ212の位置にある部分とその回転角とが特定され得る。すなわち、挿入部203の何れかの部分の位置が特定され得る。
次に、位置センサ222,230について説明する。位置センサ222,230は、例えば挿入部203に設けられた磁気を生じさせるコイルと、被検体の外側に設けられるように構成された受信装置とを含む。磁気コイルによって形成された磁場を受信装置で検出することによって、各コイルの位置が取得され得る。位置センサは、磁気を利用したものに限らない。位置センサは、光波、音波、電磁波等の何れかを発信する挿入部203に設けられた発信機と、発信機により発せられた信号を受信する被検体の外部に設けられた受信機とを含む種々の構成が用いられ得る。
以上のような、形状センサ、挿入量センサ、及び位置センサの組み合わせを含むセンサ201の出力に基づけば、次のような情報が得られる。図8を参照して得られる情報について説明する。センサ201によれば、挿入部203の例えば先端510の位置が取得され得る。この先端510の位置は、例えば被検体における挿入口を基準とした座標として表され得る。
例えば図2に示すように形状センサ211と挿入量センサ212とが設けられた第1の例では、挿入量センサ212の出力に基づいて、被検体の挿入口に位置する挿入部203の位置が取得され得る。この位置を基準として、形状センサ211で取得される挿入部203の形状に基づけば、被検体の挿入口に対する挿入部203の先端510の位置が取得され得る。
例えば図3に示すように形状センサ221と位置センサ222とが設けられた第2の例では、挿入部203における位置センサ222の位置は既知なので、この位置を基準として、さらに形状センサ221で取得される挿入部203の形状に基づけば、位置センサ222に対する挿入部203の先端510の位置が取得され得る。被検体に対する位置センサ222の位置は、位置センサ222の出力によって取得され得るので、被検体の挿入口に対する挿入部203の先端510の位置は取得され得る。なお、位置センサ222が、挿入部203の先端510に設けられている場合、被検体の挿入口に対する挿入部203の先端510の位置は、位置センサ222の出力に基づいて、直接に取得され得る。
例えば図4に示すように、位置センサ230が設けられた第3の例では、挿入部203の先端近傍に配置された位置センサ230の出力に基づいて、被検体の挿入口に対する挿入部203の先端510の位置は取得され得る。
また、挿入部203の先端510の位置と同様に、被検体の挿入口に対する挿入部203の任意の箇所520の位置は取得され得る。また、上述の説明では、基準位置を被検体の挿入口としたが、これに限らない。基準位置は、どのような位置でもよい。挿入部203において(直接)センシングが行われる箇所を「検出ポイント」と称することとし、本実施形態では、挿入部203において位置の情報が(直接)取得される箇所を「検出ポイント」とする。
また、センサ201の出力に基づけば、挿入部203の形状が取得され得る。例えば上述の第1の例及び第2の例のように、形状センサ211,221が設けられている場合、これらのセンサの出力に基づいて、挿入部203の形状は取得され得る。また、第3の例のように、複数の位置センサ230が設けられている場合、位置センサ230によって検出された位置センサ230が配置されたそれぞれの位置の情報と、複数の位置センサ230の間の位置を補間する演算の結果とに基づいて、挿入部203の形状が得られる。
さらに、挿入部203の形状が得られると、挿入部203の形状のうち特徴的な部位の位置が得られる。例えば湾曲している部分を所定形状領域530としたときに、挿入部203の湾曲している部分の折り返し端540の位置が得られる。ここで折り返し端は、例えば次のように決定される。例えば図8に示す例においては、挿入部203は、図面における上方に向かいその後湾曲して下方に向かっている。折り返し端は、例えば図8において最も上方に位置する点として定義され得る。このように、折り返し端は、挿入部203が湾曲しているときに、所定の方向において最も端に位置する点として定義され得る。このような挿入部203の、直接、又は、推定等によってセンシング情報を得たい点を「注目ポイント」と称することにする。本実施形態では、挿入部203の形状に基づいて決定される特徴的な「注目ポイント」に着目する。注目ポイントは、折り返し端に限らず、挿入部203の形状に基づいて決定される特徴的な点であればどのような点でもよい。
センサ201の出力に基づいて、以上のような情報を取得するために、本実施形態に係る挿抜支援装置100は、図1に示すように位置取得部110と形状取得部120とを有する。位置取得部110は、挿入部203の各部の位置情報について処理を行う。位置取得部110は、検出ポイント取得部111を有する。検出ポイント取得部111は、検出ポイントの位置の特定を行う。また、位置取得部110は、検出ポイントに限らず、センサ201の出力等から求められる挿入部203の任意の箇所となり得る注目ポイントの位置の特定を行うことができる。形状取得部120は、挿入部203の形状に係る情報について処理を行う。形状取得部120は、注目ポイント取得部121を有する。注目ポイント取得部121は、挿入部203の形状と位置取得部110が算出した位置情報とに基づいて、形状に基づいて求められる注目ポイントの位置の特定を行う。
また、挿抜支援装置100は、状態判断部130を備える。状態判断部130は、検出ポイントの位置や注目ポイントの位置に係る情報を利用して、挿入部203の状態、又は挿入部203が挿入された被検体の状態に係る情報を算出する。より詳しくは、後述するように、挿入部203が挿入部203の形状に従って進行しているか否か、すなわち、自己追従性を有しているか否かを種々の方法で評価する。その評価結果に基づいて、挿入部203の状態、又は挿入部203が挿入された被検体の状態に係る情報を算出する。
挿抜支援装置100は、さらに支援情報作成部180を備える。支援情報作成部180は、状態判断部130が算出した挿入部203又は被検体の状態に係る情報に基づいて、ユーザが挿入部203を被検体に挿入することを支援する情報を作成する。支援情報作成部180によって作成された支援情報は、文字や図形として表され、これらは表示装置320に表示される。また、支援情報作成部180は、状態判断部130が算出した挿入部203又は被検体の状態に係る情報に基づいて、制御装置310が内視鏡200の動作を制御するために用いる各種情報を作成する。
挿抜支援装置100は、さらにプログラムメモリ192と一時メモリ194とを備える。プログラムメモリ192には、挿抜支援装置100の動作のためのプログラムや、所定のパラメータ等が記録されている。一時メモリ194は、挿抜支援装置100の各部の演算における一時記憶に用いられる。
挿抜支援装置100は、さらに記録装置196を備える。記録装置196は、支援情報作成部180によって作成された支援情報を記録する。記録装置196は、挿抜支援装置100内に配置されるに限らない。記録装置196は、挿抜支援装置100の外部に設けられてもよい。支援情報が記録装置196に記録されることによって、次のような効果が得られる。すなわち、記録装置196に記録された支援情報に基づいて、事後的に挿入部203又は被検体の状態に係る情報の再現や分析が可能になる。また、記録装置196に記録された情報は、同一被検体への挿入に際して、参考情報や履歴情報として用いられ得る。
例えば、位置取得部110、形状取得部120、状態判断部130、支援情報作成部180等は、Central Processing Unit(CPU)、又はApplication Specific Integrated Circuit(ASIC)等の回路を含む。
次に、挿入部203又は被検体の状態に係る情報の算出について具体的に例を挙げて説明する。
[第1の状態判断方法]
第1の状態判断方法では、複数の検出ポイントの位置関係に基づいて、挿入部203の状態を判定する。
図9は、時刻t1から時刻t2までの間における挿入部203の移動の様子を模式的に示す。時刻t1における挿入部203の様子を実線で表し、時刻t2における挿入部203の様子を破線で表す。ここに示す例では、挿入部203の先端部及び後端側の任意の箇所の位置が、注目ポイントとして特定される。この後端側の任意の箇所を所定部位として、後側注目ポイントと称することにする。なお、ここでは、位置センサが配置されている位置を後側注目ポイントとする。すなわち、後側注目ポイントが検出ポイントである場合を例に挙げて説明する。以降、この点を後側検出ポイントと称することにする。また、注目ポイントの1つは先端部に限らず、先端側の任意の箇所であってもよいがここでは先端として説明する。なお、ここでは、位置センサが先端部に配置されている場合を例に挙げて説明する。すなわち、先端部も検出ポイントである場合を例に挙げて説明する。
時刻t1において、挿入部203の先端部は、第1の先端位置602−1に位置している。時刻t1において、挿入部203の後側検出ポイントは、第1の後端位置604−1に位置している。時刻t1から時間Δtだけ経過した時刻t2において、挿入部203の先端部は、第2の先端位置602−2に位置している。時刻t2において、挿入部203の後側検出ポイントは、第2の後端位置604−2に位置している。
ここで、第1の先端位置602−1から第2の先端位置602−2までの変位、すなわち、先端部の変位をΔX21とする。第1の後端位置604−1から第2の後端位置604−2までの変位、すなわち、後側検出ポイントの変位をΔX11とする。図9に示すように、挿入部203が被検体に沿って挿入されているとき、|ΔX21|≒|ΔX11|となる。
被検体が湾曲している湾曲部分914において、挿入部203が被検体910に沿って挿入されている場合の模式図を図10に示す。時刻t2からさらに時間Δtだけ経過した時刻t3において、挿入部203の先端部は、第3の先端位置602−3に位置している。時刻t3において、挿入部203の後側検出ポイントは、第3の後端位置604−3に位置している。ここで、第2の先端位置602−2から第3の先端位置602−3までの変位、すなわち先端部の変位をΔX22とする。第2の後端位置604−2から第3の後端位置604−3までの変位、すなわち後側検出ポイントの変位をΔX12とする。図10に示すように、挿入部203が被検体に沿って挿入されているとき、|ΔX22|≒|ΔX12|となる。
一方、被検体が湾曲している湾曲部分914において、挿入部203が被検体に沿って挿入されていない場合の模式図を図11に示す。時刻t2から時間Δtだけ経過した時刻t3において、挿入部203の先端部は、第3の先端位置602−3´に位置している。時刻t3において、挿入部203の後側検出ポイントは、第3の後端位置604−3´に位置している。ここで、第2の先端位置602−2から第3の先端位置602−3´までの変位、すなわち先端部の変位をΔX22´とする。第2の後端位置604−2から第3の後端位置604−3´までの変位、すなわち後側検出ポイントの変位をΔX12´とする。図11に示すように、挿入部203が被検体に沿って挿入されていないとき、|ΔX22´|≠|ΔX12´|(|ΔX22´|<|ΔX12´|)となる。
なお、図9から図11において、時刻t1から時刻t2までの時間変化と、時刻t2から時刻t3までの時間変化が本例では、自動計測でよく行われるように、等しい値Δtとなっているが、必ずしも等しい値でなくてもよい。以下の例においても同様である。
図11に示す場合、挿入部203の先端は、図11の白抜き矢印で示すように、被検体910によって押圧又は圧迫されている。逆に言うと、挿入部203の先端部において、挿入部203による被検体910に対する押圧が大きくなっている。また、図11に示す場合、挿入部203の先端部と後側検出ポイントとの間の部位609で、座屈が生じている。
挿入部203の後端側の検出ポイントである後側検出ポイントの移動量と、先端側の検出ポイントである先端部の移動量とが等しいとき、すなわち、後側検出ポイントの移動量と先端部の移動量との連動具合が高いとき、挿入部203は、被検体910に沿って順調に挿入されていることが分かる。一方、後側検出ポイントの移動量に対して先端部の移動量が小さいとき、すなわち、後側検出ポイントの移動量と先端部の移動量との連動具合が低いとき、挿入部203の先端部が停滞していることが分かる。また、このとき、2つの検出ポイントの間、すなわち先端部と後側検出ポイントとの間で、意図しない異常が生じている可能性があることが分かる。以上のように、第1の状態判断方法による複数の検出ポイントの位置関係の解析に基づけば、挿入部203の座屈、被検体に対する押圧の大小等が明らかになる。すなわち、第1の状態判断方法によれば、挿入部又は被検体の状態に係る情報が取得され得る。
上述のような挿入部203の状態を示す値として、第1の操作支援情報α1を導入する。例えば、先端部の変位をΔX2とし、後側検出ポイントの変位をΔX1としたときに、第1の操作支援情報α1は、次のように定義され得る。
α1≡|ΔX2|/|ΔX1|
第1の操作支援情報α1は、その値が1に近い程、挿入部203は、被検体910に沿って挿入されていることを示す。
第1の操作支援情報α1は、また、次のように定義されてもよい。
α1≡(|ΔX2|+C2)/(|ΔX1|+C1)
ここで、C1、C2、L、Mは、任意の実数である。
例えば、ΔX1、ΔX2の検出ノイズ成分レベルがN1、N2(N1、N2≧0)である場合に、パラメータC1・C2・L・Mを以下の様に設定する。
C1= N1 |ΔX1|≧N1
C2=−N2 |ΔX2|≧N2
=−|ΔX2| |ΔX2|<N2
L=M=1
N1やN2には、例えば、ノイズレベルの標準偏差(σ)の3倍程度の値を設定すればよい。
このような、C1を正、C2を負としたノイズ対策の設定を行うことで、検出ノイズの影響を低減し、かつ、検出ノイズによる誤検出の少ない第1の操作支援情報α1が得られる。また、こうしたノイズ影響低減の仕方は、後述する他の支援情報算出の際にも適用できる。
なお、内視鏡200が大腸内視鏡であり、したがって被検体910が大腸である場合、上述の湾曲部分914は、例えばS状結腸の最上部(いわゆる「S−top」)に相当する。
第1の状態判断方法を実行するための挿抜支援装置100の構成例の概略を図12に示す。
挿抜支援装置100は、検出ポイント取得部111を有する位置取得部110と、状態判断部130と、支援情報作成部180とを備える。検出ポイント取得部111は、センサ201から出力される情報に基づいて、複数の検出ポイントの位置を取得する。
状態判断部130は、変位情報取得部141と、連動具合演算部142と、座屈判断部143とを有する。変位情報取得部141は、時間経過に対する複数の検出ポイントの位置に基づいて、各検出ポイントの変位を算出する。連動具合演算部142は、各検出ポイントの変位と、プログラムメモリ192に記録された連動具合情報192−1とに基づいて、複数の検出ポイントの連動具合を算出する。連動具合情報192−1は、例えば、各検出ポイントの変位の差異と、連動具合の評価値との関係を有する。座屈判断部143は、算出された連動具合と、プログラムメモリ192に記録された判断基準情報192−2とに基づいて、挿入部203の座屈状態を判定する。判断基準情報192−2は、例えば、連動具合と座屈状態との関係を有する。
支援情報作成部180は、判定された座屈状態に基づいて、操作支援情報を作成する。操作支援情報は、制御装置310による制御にフィードバックされたり、表示装置320に表示されたり、記録装置196に記録されたりする。
第1の状態判断方法における挿抜支援装置100の動作について、図13に示すフローチャートを参照して説明する。
ステップS101において、挿抜支援装置100は、センサ201から出力データを取得する。ステップS102において、挿抜支援装置100は、ステップS101で取得したデータに基づいて、複数の検出ポイントの位置を取得する。
ステップS103において、挿抜支援装置100は、各々の検出ポイントについて、その位置の継時的な変化を取得する。ステップS104において、挿抜支援装置100は、検出ポイントに係る位置の変化の検出ポイントごとの差異を評価する。すなわち、複数の検出ポイントの位置変化の連動具合を算出する。ステップS105において、挿抜支援装置100は、ステップS104で算出された連動具合に基づいて、検出ポイントと検出ポイントとの間で座屈が生じているか否かやその程度など、座屈について評価を行う。
ステップS106において、挿抜支援装置100は、座屈が生じているか否か等の評価結果に基づいて、後の処理に用いるのに適当な支援情報を作成し、当該支援情報を例えば制御装置310や表示装置320に出力する。
ステップS107において、挿抜支援装置100は、当該処理を終了させるための終了信号の入力があったか否かを判定する。終了信号の入力がないとき、処理はステップS101に戻る。すなわち、終了信号の入力があるまで上述の処理を繰り返し、操作支援情報を出力する。一方、終了信号の入力があったとき、当該処理は終了する。
第1の状態判断方法が用いられることにより、2点以上の検出ポイントの位置が特定され、それらの移動量の連動具合に基づいて、挿入部203において座屈が起こっているか否かなどの異常が発生しているか否かを表す操作支援情報が作成され得る。
上述の例では、検出ポイント、すなわち、直接センシングが行われる位置に基づいて操作支援情報が作成される場合を例に示した。しかしながらこれに限らない。操作支援情報の作成には、注目ポイント、すなわち、挿入部203の任意の位置に係る情報が用いられてもよい。注目ポイントの位置が用いられる場合、検出ポイント取得部111ではなく、位置取得部110が注目ポイントの位置を取得し、取得された注目ポイントの位置が用いられる。その他の処理は、同様である。
[第1の変形例]
上述の例では、検出ポイントが2点である場合を示した。しかしながらこれに限らず、検出ポイントの数は、いくつでもよい。検出ポイントの数が増えれば、挿入部203の状態に係るより詳細な情報の取得が可能となる。例えば図14に示すように、検出ポイントが4点あるときは、次のようになる。すなわち、この例では、図14に示すように、挿入部203に4つの検出ポイント605−1,606−1,607−1,608−1が設けられている。時刻t1から時刻t2まで、挿入部203が被検体910に沿って挿入されているとき、時刻t1における4つの検出ポイント605−1,606−1,607−1,608−1の各点から、時刻t2における4つの検出ポイント605−2,606−2,607−2,608−2の各点までの、それぞれの移動量ΔX51,ΔX61,ΔX71,ΔX81は、互いにほぼ等しくなる。
図15に示すように、時刻t2から時刻t3まで、挿入部203が被検体910に沿って挿入されているとき、時刻t2における4つの検出ポイント605−2,606−2,607−2,608−2の各点から、時刻t3における4つの検出ポイント605−3,606−3,607−3,608−3の各点までの、それぞれの移動量ΔX52,ΔX62,ΔX72,ΔX82は、互いにほぼ等しくなる。
一方、図16に示すように、時刻t2から時刻t3まで、挿入部203が被検体910に沿って挿入されていないとき、時刻t2における4つの検出ポイント605−2,606−2,607−2,608−2の各点から、時刻t3における4つの検出ポイント605−3´,606−3´,607−3´,608−3´の各点までの、それぞれの移動量ΔX52´,ΔX62´,ΔX72´,ΔX82´は、互いに等しくならない。すなわち、最も先端側の検出ポイント605の第1の移動量Δ52´、先端から2番目の検出ポイント606の第2の移動量Δ62´、先端から3番目の検出ポイント607の第3の移動量Δ72´、及び最も後端側の検出ポイント608の第4の移動量Δ82´は、互いに異なっている。さらに、第1の移動量Δ52´と第2の移動量Δ62´とはほぼ等しく、第3の移動量Δ72´と第4の移動量Δ82´とはほぼ等しく、第2の移動量Δ62´と第3の移動量Δ72´とが大きく異なり、|Δ62´|<|Δ72´|となる。これらの結果から、先端から2番目の検出ポイント606と先端から3番目の検出ポイント607との間で座屈が起こっていることが判定され得る。このように、検出ポイントの数が多くなると、情報量が増加し、挿入部203の状態についてのより詳細な情報が得られる。検出ポイントの数が大きくなると、例えば座屈が生じている挿入部203の箇所が特定され得る。
[第2の変形例]
挿入部203の後端側が挿入されているにも関わらず、先端部が停滞する場合、挿入部203が被検体内で座屈している場合に限らず、例えば図17に示すように被検体の湾曲している部分が挿入部203によって変形(伸展)することもある。ここで、図17は、時刻t4における挿入部203の形状と、時刻t4から時間Δtだけ経過した時刻t5の挿入部203の形状とを模式的に示している。このような場合にも、時刻t4における先端部の位置602−4と時刻t5における先端部の位置602−5との差である第2の移動量ΔX23は、時刻t4における後端側の位置604−4と時刻t5における後端側の位置604−5との差である第1の移動量ΔX13よりも小さくなる。すなわち、2つの検出ポイントの移動量の連動具合が低くなる。
このように、第1の状態判断方法によれば、座屈に限らず、挿入部203による被検体910の変形など、検出対象として意図していない挿入状態の変化を検出することも可能となる。
[第2の状態判断方法]
第2の状態判断方法では、形状によって特定される特徴的な注目ポイントの変位に基づいて、挿入部203の状態を判定する。
図18は、時刻t1における挿入部203の形状と、時刻t1から時間Δtだけ経過した時刻t2の挿入部203の形状とを模式的に示す。このとき、挿入部203の後端側の任意の箇所は、第1の後端位置614−1から第2の後端位置614−2まで移動する。以下の説明では、この後端側の任意の箇所は、後端側に配置された位置センサの位置であるものとして説明を行う。この位置を後側検出ポイントと称することにする。一方、挿入部203の先端は、第1の先端位置612−1から第2の先端位置612−2まで移動する。
図19は、時刻t2における挿入部203の形状と、時刻t2から時間Δtだけ経過した時刻t3における挿入部203の形状とを模式的に示す。図19に示す場合は、挿入部203は、被検体910に沿って挿入されている。すなわち、挿入部203の後側検出ポイントは、第2の後端位置614−2から第3の後端位置614−3まで距離ΔX1だけ移動する。このとき、挿入部203の先端は、第2の先端位置612−2から第3の先端位置612−3まで挿入部203に沿って距離ΔX2だけ移動する。
ここで、挿入部203が湾曲している部分の折り返し端(図19における最も上側に示される位置)を注目ポイント616とする。このとき、まず、挿入部203の形状が特定され、特定された形状に基づいて、注目ポイント616の位置が特定される。
図19に示す場合においては、注目ポイント616の位置は、挿入部203の後側検出ポイントの位置が変化しても変化しない。すなわち、時刻t2から時刻t3までの間において、挿入部203は被検体910に沿って挿入され、挿入部203はその長手方向に滑るように挿入される。したがって、時刻t2から時刻t3までの間において、注目ポイント616の位置は変化しない。
図20は、時刻t2における挿入部203の形状と、時刻t2から時間Δtだけ経過した時刻t3における挿入部203の形状との別の様子を模式的に示す。図20に示す場合は、挿入部203は、被検体910に沿って挿入されていない。すなわち、挿入部203の後側検出ポイントは、第2の後端位置614−2から第3の後端位置614−3´まで距離ΔX3だけ移動する。このとき、挿入部203の先端は、第2の先端位置612−2から第3の先端位置612−3´まで図20の上方向に距離ΔX5だけ移動する。
図20に示す状況は、例えば挿入部203の先端部が被検体910に引っ掛かり、挿入部203がその長手方向に進まない場合に生じ得る。このとき、被検体910は、挿入部203が挿入されるのに伴って押し込まれる。その結果、注目ポイント616の位置は、挿入部203の後側検出ポイントの位置が変化するのに伴い、第1の位置616−1から第2の位置616−2へと、挿入部203の折り返し端方向に距離ΔX4だけ変位する。すなわち、被検体910が伸展している。
図20に示す状態では、挿入部203の形状が「ステッキ形状」に保たれたまま、被検体910が「ステッキ」の「柄」の部分で押し上げられている。この状態を、ステッキ状態と称することにする。
図19に示した場合と図20に示した場合との比較から明らかなように、注目ポイントの位置の変化に基づけば、挿入部203が、被検体に沿って挿入されている場合と、被検体に沿って挿入されていない場合とが判別され得る。上述の例では、挿入部203がステッキ状態で平行移動する場合を示したが、挿入部203が変形するときには、後側検出ポイントの移動量と注目ポイントの移動量とは異なることになる。また、注目ポイントの位置の変化に基づいて、被検体910の伸展状態が判別され得る。また、被検体が伸展しているときは、挿入部203が被検体910を押圧又は圧迫しているときである。すなわち、図20の白抜き矢印に示すように、被検体910は、挿入部203を押圧する。逆に、挿入部203は、被検体910を押圧する。このことから、注目ポイントの位置の変化に基づいて、被検体に対する圧力の大小が明らかになる。
時間経過又は検出ポイントの移動量ΔX1に対する注目ポイントの位置の変化を図21に示す。図21において、注目ポイントの位置は、例えば折り返し端方向をプラス方向として示されている。実線で示す正常に挿入部203が挿入されているときには、注目ポイントの位置は、閾値a1より小さい値で変動している。これに対して、破線で示すステッキ状態にあるときには、注目ポイントの位置は、閾値a1を超えて変化している。
注目ポイントの位置の値について、閾値a1を、被検体910の伸展が生じ始めている旨の警告を出力すべき値とし、閾値b1を、被検体910がこれ以上伸展したら危険がある旨の警告を出力すべき値とする等、閾値を適宜に設定することができる。閾値を適当に設定することで、注目ポイントの位置の情報は、ユーザへの警告や、制御装置310への警告信号の出力など、内視鏡200の操作を支援する情報として利用され得る。
上述のような挿入部203の状態を示す値として、第2の操作支援情報α2を導入する。例えば、注目ポイントの変位をΔXcとし、後側検出ポイントの変位をΔXdしたときに、第2の操作支援情報α2は、次のように定義され得る。
α2≡|ΔXc|/|ΔXd|
第2の操作支援情報α2は、その値が0に近い程、挿入部203は、被検体910に沿って挿入されていることを示し、その値が1に近い程、挿入部203は、被検体910を押圧していることを示す。
また、第2の操作支援情報α2は、次のように定義されてもよい。
α2≡(ΔXc+C2)/(|ΔXd|+C1)
ここで、C1、C2、L、Mは、任意の実数である。
例えば、ΔXd、ΔXcの検出ノイズ成分レベルがNd、Nc(Nd、Nc≧0)、被検体に挿入部が接触した状態から負荷を掛けない押し込み量がPであり、パラメータk1・k2を用いて、Nd<k1・P(ただし、1≧k2>>k1≧0)となる場合を想定する。
あるタイミングで|ΔXd|<k2・Pとなるときには、|ΔXd|≧k2・Pとなるよう、それまでの所定時間、又は、所定回数の動き量を累積して、ΔXdとΔXcを算出するものとする。このとき(すなわち、|ΔXd|≧k2・Pのとき)、パラメータC1・C2・L・Mを以下の様に設定する。
C1=−Nd
C2= Nc
L=M=2
N1やN2には、例えば、ノイズレベルの標準偏差(σ)の3倍程度の値を設定すればよい。
このような設定を行うことで、一定量の動きに対して、ノイズの影響を踏まえて、検出漏れの影響を低減した第2の操作支援情報α2が得られる。さらに、k2・P≪|ΔXd|<Pとなるような計測を行うことで、被検体への負荷が無い、又は、少ない範囲で第2の操作支援情報α2を得ることができる。また、こうしたノイズ影響低減の仕方は、他の支援情報算出の際にも適用できる。
第2の状態判断方法を実行するための操作支援装置の構成例の概略を図22に示す。
挿抜支援装置100は、位置取得部110と、形状取得部120と、状態判断部130と、支援情報作成部180とを備える。位置取得部110の検出ポイント取得部111は、センサ201から出力される情報に基づいて、例えば挿入部203の後端側の位置センサが配置された箇所である検出ポイントの位置を取得する。形状取得部120は、センサ201から出力される情報に基づいて、挿入部203の形状を取得する。形状取得部120の注目ポイント取得部121は、挿入部203の形状に基づいて、挿入部203の湾曲部分の折り返し端である注目ポイントの位置を取得する。
状態判断部130は、変位取得部151と、変位情報算出部152と、注目ポイント状態判断部153とを有する。変位取得部151は、時間経過に対する注目ポイントの位置と、プログラムメモリ192に記録された変位分析情報192−3とに基づいて、注目ポイントの変位を算出する。また、変位取得部151は、時間経過に対する検出ポイントの位置と、プログラムメモリ192に記録された変位分析情報192−3とに基づいて、検出ポイントの変位を算出する。このように、変位取得部151は、注目ポイントの第1の変位を取得する第1の変位取得部として機能し、さらに、検出ポイントの第2の変位を取得する第2の変位取得部として機能する。
変位情報算出部152は、算出された注目ポイントの変位と検出ポイントの変位とに基づいて、変位情報を算出する。注目ポイント状態判断部153は、算出された変位情報と、プログラムメモリ192に記録された支援情報判断基準情報192−4とに基づいて、注目ポイントの状態を算出する。
支援情報作成部180は、判定された注目ポイントの状態に基づいて、操作支援情報を作成する。操作支援情報は、制御装置310の制御にフィードバックされたり、表示装置320に表示されたり、記録装置196に記録されたりする。
第2の状態判断方法における挿抜支援装置100の動作について、図23に示すフローチャートを参照して説明する。
ステップS201において、挿抜支援装置100は、センサ201から出力データを取得する。ステップS202において、挿抜支援装置100は、ステップS201で取得したデータに基づいて、後端側の検出ポイントの位置を取得する。
ステップS203において、挿抜支援装置100は、ステップS201で取得したデータに基づいて、挿入部203の形状を取得する。ステップS204において、挿抜支援装置100は、ステップS203で取得した挿入部203の形状に基づいて、注目ポイントの位置を取得する。
ステップS205において、挿抜支援装置100は、注目ポイントの位置の継時的な変化を取得する。ステップS206において、挿抜支援装置100は、検出ポイントの位置変化と注目ポイントの位置変化とに基づいて、第2の操作支援情報α2等の注目ポイントの位置変化の評価値を算出する。ステップS207において、挿抜支援装置100は、ステップS206で算出された評価値に基づいて、注目ポイント周辺において、被検体の伸展が生じているか否かやその程度など、伸展について評価を行う。
ステップS208において、挿抜支援装置100は、被検体の伸展が生じているか否かの判定結果や第2の操作支援情報α2等に基づいて、後の処理に用いるのに適当な支援情報を作成し、当該支援情報を例えば制御装置310や表示装置320に出力する。
ステップS209において、挿抜支援装置100は、当該処理を終了させるための終了信号の入力があったか否かを判定する。終了信号の入力がないとき、処理はステップS201に戻る。すなわち、終了信号の入力があるまで上述の処理を繰り返し、操作支援情報を出力する。一方、終了信号の入力があったとき、当該処理は終了する。
第2の状態判断方法が用いられることにより、注目ポイントの変位が特定され、この変位に基づいて、被検体において伸展が生じているか否かなど、操作支援情報が作成され得る。なお、上述の例では、後端側の検出ポイント、すなわち、直接センシングが行われる位置に基づいて操作支援情報が作成される場合を例に示した。しかしながらこれに限らない。捜査支援情報の作成には、注目ポイント、すなわち、挿入部203の任意の位置に係る情報が用いられてもよい。注目ポイントの位置が用いられる場合、検出ポイント取得部111ではなく、位置取得部110が注目ポイントの位置を取得し、取得された注目ポイントの位置が用いられる。その他の処理は、同様である。
[変形例]
注目ポイントは、挿入部203のどのような箇所でもよい。挿入部203の形状に特徴が認められ、注目ポイントを特定できる箇所であればどのような箇所でもよい。例えば図24に示すように、挿入部203を被検体910に挿入して最初に生じる湾曲部分によって特定される第1の注目ポイント617の他に、さらに挿入部203を挿入したときに生じる湾曲部分によって特定される第2の注目ポイント618について解析されてもよい。例えば図25に示すように、挿入部203の挿入に伴って、第1の注目ポイント617の位置は変化せず、第2の注目ポイント618の位置が変化するということもある。第2の状態判断方法によればこのような場合には、後側検出ポイントの移動量ΔX1と第2の注目ポイント618の移動量ΔX2等に基づいて、第1の注目ポイント617では伸展が生じていないが第2の注目ポイント618では伸展が生じているという判定結果が操作支援情報として出力されることになる。
なお、注目ポイントは、挿入部203の形状に基づいて定められる位置であればどのような場所でもよい。例えば上述の例のように湾曲部分の折り返し端でもよいし、湾曲部分の湾曲開始位置でもよいし、湾曲部分と挿入部203の先端との例えば中点といった直線状の部分の何れかでもよいし、湾曲部分が2つ以上ある場合における湾曲部分と湾曲部分との中点等でもよい。いずれの場合も、上述の例と同様に、操作支援情報が出力され得る。また、検出ポイントとして、挿入部203の後端側の任意の箇所を例に挙げて説明したが、これに限らない。検出ポイントの位置は、挿入部203のどのような位置でもよい。
[第3の状態判断方法]
第3の状態判断方法では、注目ポイントの挿入部203における位置の変化に基づいて、挿入部203の状態を判定する。
図26は、時刻t1における挿入部203の形状と、時刻t1から時間Δtだけ経過した時刻t2の挿入部203の形状とを模式的に示す。このとき、挿入部203の後端側の任意の箇所は、第1の後端位置624−1から第2の後端位置624−2まで距離ΔX1だけ移動する。この後端側の任意の箇所として、位置センサが配置されている位置を例に挙げて以下の説明を行う。この箇所を、以下では後側検出ポイントと称することにする。一方、挿入部203の先端は、第1の先端位置622−1から第2の先端位置622−2まで距離ΔX2だけ移動する。理想的には、距離ΔX1と距離ΔX2とは等しくなる。時刻t2における挿入部203が湾曲している部分の折り返し端を注目ポイント626−2とする。このとき、挿入部203において注目ポイント626−2と一致する点を第2の点628−2とする。ここで、第2の点628−2は、例えば挿入部203の長手軸に沿って定められる挿入部203の先端からの距離によって表現され得る。
図27は、時刻t2における挿入部203の形状と、時刻t2から時間Δtだけ経過した時刻t3における挿入部203の形状とを模式的に示す。図27に示す場合は、挿入部203は、ほぼ被検体910に沿って挿入されている。この場合において、挿入部203の後側検出ポイントは、距離ΔX1だけ挿入されている。
時刻t3における挿入部203が湾曲している部分の折り返し端を注目ポイント626−3とする。このとき、挿入部203上の点であって、挿入部203の挿抜に連動して一緒に動き、挿入部203の先端からの距離が変わらない、注目ポイント626−3と一致する点を第3の点628−3とする。第3の点628−3は、第2の点628−2と同様に、例えば挿入部203の先端からの距離によって表現され得る。
図27に示す例では、時刻t2から時刻t3までの間に、挿入部203における注目ポイント626の位置を示す点は、第2の点628−2から第3の点628−3へと挿入部203の先端からの相対位置でみると、ΔScだけ挿入部203に沿って後ろ方向に移動している。挿入部203が完全に被検体に沿って挿入されているとき、挿入部203における注目ポイント626の位置を示す第2の点628−2から第3の点628−3までの変位ΔScは、挿入部203の後側検出ポイントの変位ΔX1と等しくなる。このように挿入部203が被検体に沿って挿入されている状態を自己追従性がある状態と呼ぶことにする。
挿入部203が完全に被検体に沿って挿入されていないときでも、図27に示すように挿入部203が大凡被検体に沿って挿入されているとき、第2の点628−2から第3の点628−3までの変位ΔScは、挿入部203の後側検出ポイントの変位ΔX1と概ね等しくなる。このような状態は、自己追従性が高いと言える。
一方、図28は、挿入部203が被検体910に沿って挿入されていない場合の、時刻t2と時刻t3とにおける挿入部203の形状を模式的に示す。この場合においても、挿入部203の後側検出ポイントは、距離ΔX1だけ挿入されている。図28に示す場合では、挿入部203がステッキ状態になっており、被検体910が伸展している。
時刻t3における挿入部203が湾曲している部分の折り返し端を注目ポイント626−3´としたときに、挿入部203において注目ポイント626−3´と一致する点を第3の点628−3´とする。挿入部203における注目ポイント626の位置を示す点は、第2の点628−2から第3の点628−3´へとΔSc´だけ挿入部203に沿って後ろ方向に移動する。
挿入部203が被検体に沿って挿入されていないとき、挿入部203における注目ポイント626の位置を示す点は、第2の点628−2から第3の点628−3´まで変化し、その変位ΔSc´は、挿入部203の後側検出ポイントの変位ΔX1よりもずっと小さい。
このように、挿入部203の挿入量と、挿入部203における注目ポイントの位置の変化とに応じて、挿入部203が被検体910に沿って挿入されているか否かの判断が行われ得る。このように、挿入部203の挿入量と挿入部203における注目ポイントの位置の変化とが連動しているとき、挿入部203が被検体910に沿って挿入されていることが明らかとなり、挿入部203の挿入量と挿入部203における注目ポイントの位置の変化とが連動していないとき、挿入部203が被検体910に沿って挿入されていないことが明らかとなる。
図27に示すように、挿入部203が被検体910に沿って挿入された後の様子の一例をさらに図29及び図30に示す。図29は、図上側に示された被検体910の第1の湾曲部分911において挿入部203が被検体910に沿って挿入され、図下側に示された被検体910の第2の湾曲部分912において挿入部203の先端が到達した場合を示している。図30は、第1の湾曲部分911においては挿入部203が被検体910に沿って挿入されているが、第2の湾曲部分912においては挿入部203が被検体910に沿って挿入されずに挿入部203がステッキ状態になっている場合を示している。
図29及び図30に示す場合における、挿入部203における注目ポイントの位置の変化を図31に模式的に示す。時刻がt1、t2、t3、t4と順に経過して、挿入部203が被検体910の挿入口から徐々に挿入されているとき、その挿入量に従って、最初に検出される第1の湾曲部分911に相当する第1の注目ポイントR1は、後端方向へと移動する。
図31に示すように、時刻t3において第2の湾曲部分912に相当する第2の注目ポイントR2が検出される。第2の注目ポイントR2は、挿入量に従って、挿入部203の後端方向へ移動しない。また、このとき、第2の注目ポイントR2における挿入部203の形状は、それ以前の形状と変化し得る。このように、自己追従性が高い部分と低い部分とで、注目ポイントに基づいて決定される点の挿入部203における位置の変化の態様が異なる。
第3の状態判断方法について、図32乃至図35を参照してさらに説明する。時間経過に従って、挿入部203が図32に示すように、順に第1の状態203−1、第2の状態203−2、第3の状態203−3と遷移したとする。第1の状態203−1から第2の状態203−2まで、挿入部203は被検体910に沿って挿入され、第2の状態203−2から第3の状態203−3まで、挿入部203によって押圧されて被検体910が頂点方向に伸展する場合を考える。
このような場合、横軸に時間経過、すなわち後端側の検出ポイント624の変位を示し、縦軸に挿入部203における注目ポイント626の位置、すなわち注目ポイント626の先端からの距離を示すと図33のようになる。すなわち、図33に示すように、第1の状態203−1のように、挿入開始からしばらくの間注目ポイントが検出されない。第1の状態203−1から第2の状態203−2までの間のように、挿入部203が被検体910に沿って挿入されるとき、注目ポイントの先端からの距離は図33に示すように徐々に増加する。第2の状態203−2から第3の状態203−3までの間のように、挿入部203がステッキ状態になっているとき、注目ポイントの先端からの距離は図33に示すように変化しない。
また、図34に示すように、第1の状態203−1から第2の状態203−2まで挿入部203が被検体910に沿って挿入され、第2の状態203−2から第3の状態203−3まで被検体が斜め方向に押し出される場合を考える。この場合も、横軸に時間経過、すなわち後端側の検出ポイント624の変位を示し、縦軸に挿入部203における注目ポイント626の位置、すなわち注目ポイント626の先端からの距離を示すと図35のようになり、図33に示した場合と同様になる。
注目ポイントの挿入部203の形状に沿った動き量をΔScとし、挿入部203の後端側の任意の箇所の検出ポイントの移動量をΔX1としたときに、自己追従性Rを示す判定式を次式で定義する。
R≡|ΔSc|/|ΔX1|
このとき、横軸に経過時間又は当該任意の箇所の移動量ΔX1すなわち挿入量を示し、縦軸に自己追従性Rを示すと、図36に示すような関係になる。すなわち、挿入部203が被検体に沿って正常に挿入されているときは、実線に示すように自己追従性Rは1に近い値となる。一方、ステッキ状態になると、破線に示すように自己追従性Rは1よりも小さな値となる。
自己追従性Rを示す判定式を次式で定義してもよい。
R≡(ΔSc+C2)/(|ΔX1|+C1)
ここで、C1、C2、L、Mは、任意の実数である。
例えば、ΔX1、ΔScの検出ノイズ成分レベルがN1、Nc(N1、Nc≧0)である場合に、パラメータC1・C2・L・Mを以下の様に設定する。
C1= N1 |ΔX1|≧N1
C2=−Nc |ΔX2|≧Nc
=−|ΔX2| |ΔX2|<Nc
L=M=4
N1やNcには、例えば、ノイズレベルの標準偏差(σ)の3倍程度の値を設定すればよい。
このような、C1を正、C2を負としたノイズ対策の設定を行うことで、検出ノイズの影響を低減し、かつ、検出ノイズによる誤検出の少ない操作支援情報である自己追従性Rが得られる。また、L・Mの次数を2以上の値とすることで、ΔX1に対するΔScの比が小さくなることに敏感になり、自己追従性劣化の判断がしやすくなる。また、こうしたノイズ影響低減の仕方は、他の支援情報算出の際にも適用できる。
図36に示すように、自己追従性Rについて、閾値a3を、被検体910の伸展が生じ始めている旨の警告を出力すべき値とし、閾値b3を、被検体910がこれ以上伸展したら危険がある旨の警告を出力すべき値とする等、閾値を適宜に設定することができる。閾値を適当に設定することで、自己追従性Rの値は、ユーザへの警告や、制御装置310への警告信号の出力など、内視鏡200の操作を支援する情報として利用され得る。
第3の状態判断方法を実行するための操作支援装置の構成例の概略を図37に示す。
挿抜支援装置100は、位置取得部110と、形状取得部120と、状態判断部130と、支援情報作成部180とを備える。位置取得部110の検出ポイント取得部111は、センサ201から出力される情報に基づいて、例えば挿入部203の後端側の位置センサが配置された箇所である検出ポイントの位置を取得する。
形状取得部120は、センサ201から出力される情報に基づいて、挿入部203の形状を取得する。形状取得部120の注目ポイント取得部121は、挿入部203の形状に基づいて注目ポイントの位置を取得する。
状態判断部130は、変位取得部161と、変位情報算出部162と、注目ポイント状態判断部163とを有する。変位取得部161は、挿入部203の形状と、注目ポイントの位置と、プログラムメモリ192に記録された変位分析情報192−5とに基づいて、挿入部203における注目ポイントの位置の変化を算出する。また、変位取得部161は、挿入部203の後端側の検出ポイントの位置と、プログラムメモリ192に記録された変位分析情報192−5とに基づいて、検出ポイントの位置の変化を算出する。このように、変位取得部161は、注目ポイントの第1の変位を取得する第1の変位取得部として機能し、また、検出ポイントの第2の変位を取得する第2の変位取得部として機能する。
変位情報算出部162は、挿入部203における注目ポイントの変位と、挿入部203の後端側の検出ポイントの変位とを比較し、プログラムメモリ192に記録された変位分析情報192−5を用いて、変位情報を算出する。注目ポイント状態判断部163は、変位情報と、プログラムメモリ192に記録された判断基準情報192−6とに基づいて、注目ポイントに係る部分の状態を算出する。
支援情報作成部180は、判定された注目ポイントの状態に基づいて、操作支援情報を作成する。操作支援情報は、制御装置310の制御にフィードバックされたり、表示装置320に表示されたり、記録装置196に記録されたりする。
第3の状態判断方法における挿抜支援装置100の動作について、図38に示すフローチャートを参照して説明する。
ステップS301において、挿抜支援装置100は、センサ201から出力データを取得する。ステップS302において、挿抜支援装置100は、ステップS301で取得したデータに基づいて、後端側の検出ポイントの位置を取得する。
ステップS303において、挿抜支援装置100は、ステップS301で取得したデータに基づいて、挿入部203の形状を取得する。ステップS304において、挿抜支援装置100は、ステップS303で取得した挿入部203の形状に基づいて、注目ポイントの位置を取得する。
ステップS305において、挿抜支援装置100は、挿入部203における注目ポイントの位置を算出する。ステップS306において、挿抜支援装置100は、挿入部203における注目ポイントの位置の継時的な変化を取得する。ステップS307において、挿抜支援装置100は、検出ポイントの位置変化と、挿入部203における注目ポイントの位置変化とに基づいて、自己追従性R等の挿入部203における注目ポイントの位置変化の評価値を算出する。ステップS308において、挿抜支援装置100は、ステップS307で算出された評価値に基づいて、注目ポイント周辺において、被検体の伸展が生じているか否かやその程度など、伸展について評価を行う。
ステップS309において、挿抜支援装置100は、被検体の伸展が生じているか否かの判定結果や自己追従性R等に基づいて、後の処理に用いるのに適当な支援情報を作成し、当該支援情報を例えば制御装置310や表示装置320に出力する。
ステップS310において、挿抜支援装置100は、当該処理を終了させるための終了信号の入力があったか否かを判定する。終了信号の入力がないとき、処理はステップS301に戻る。すなわち、終了信号の入力があるまで上述の処理を繰り返し、操作支援情報を出力する。一方、終了信号の入力があったとき、当該処理は終了する。
第3の状態判断方法が用いられることにより、挿入部203における注目ポイントの変位が特定され、この変位と挿入部203の後端側の挿入量、すなわち検出ポイントの変位との関係等に基づいて、被検体において伸展が生じているか否かなど、操作支援情報が作成され得る。操作支援情報は、例えば挿入部203又は被検体910の状態や、挿入部203による被検体910に対する押圧や圧迫の有無やそれらの大小等が含まれる。また、操作支援情報には、挿入部203又は被検体910に異常が生じているか否かの情報が含まれる。
第3の状態判断方法で用いられる注目ポイントも、第2の状態判断方法で用いられる注目ポイントと同様に、挿入部203の形状に基づいて定められる位置であればどこでもよい。例えば上述の実施形態のように湾曲部分の折り返し端でもよいし、湾曲部分の湾曲開始位置でもよいし、湾曲部分と先端との例えば中点といった直線部の何れかでもよいし、湾曲部分が2つ以上ある場合の湾曲部分と湾曲部分との中点等でもよい。また、検出ポイントの位置も、後端側に限らず、どのような位置でもよい。また、検出ポイントに代えて、任意の箇所である注目ポイントが用いられてもよい。注目ポイントの位置が用いられる場合、検出ポイント取得部111ではなく、位置取得部110が注目ポイントの位置を取得し、取得された注目ポイントの位置が用いられる。
[変形例]
第3の状態判断方法の変形例では、挿入部203の形状の接線方向に関する挿入部203の移動量に基づいて、挿入部203の状態を判定する。特に、注目ポイントにおける接線方向への挿入部203の移動量に基づいて、挿入部203の状態を判定する。
図39に模式的に示すように、挿入部203の形状に基づいて注目ポイント631が取得される。続いて、挿入部203の形状に基づいて注目ポイント631における挿入部203の接線方向632が特定される。第3の状態判断方法の変形例では、注目ポイント631に相当する挿入部203上の点の移動方向と、接線方向632との関係に基づいて、自己追従性が評価される。すなわち、注目ポイント631に相当する挿入部203上の点の移動方向が、挿入部203の接線方向632と一致しているほど、自己追従性が高いことが分かる。
図40に示すように、例えば注目ポイントに対応する点の変位量ΔXに対するその変位量の接線方向の変位量ΔSrの割合に基づいて、挿入部203の状態や被検体910の状態が評価される。すなわち、注目ポイントにおける、接線方向と移動方向とのなす角θに基づいて、挿入部203の状態や被検体910の状態が評価される。
上述の図32に示したように、時間経過に従って、挿入部203が順に第1の状態203−1、第2の状態203−2、第3の状態203−3のように遷移したとする。このような場合に、時間経過に対する挿入部203の変位において接線方向の変位の割合を示す|ΔSr|/|ΔX|を図41に示す。第1の状態203−1から第2の状態203−2までは自己追従性が高いので、挿入部203の変位において当該点の移動方向に対する接線方向の変位の割合はほぼ1になっている。一方で、第2の状態203−2から第3の状態203−3までは、挿入部203が接線方向に進行せずに接線に対して垂直な方向に被検体910を伸展させながら変位するので、挿入部203の変位において当該点の移動方向に対する接線方向の変位の割合はほぼ0になっている。
上述の図34に示したように、時間経過に従って、挿入部203が順に第1の状態203−1、第2の状態203−2、第3の状態203−3のように遷移したとする。このような場合に、時間経過に対する挿入部203の変位において|ΔSr|/|ΔX|を図42に示す。第1の状態203−1から第2の状態203−2までは自己追従性が高いので、挿入部203の変位において当該点の移動方向に対する接線方向の変位の割合はほぼ1になっている。一方で、第2の状態203−2から第3の状態203−3までは挿入部203が接線方向に対して傾いた方向に進行しているので、挿入部203の変位において当該点の移動方向に対する接線方向の変位の割合はほぼ0.5になっている。
なお、ΔSrとΔXがベクトルである場合、(ΔSr・ΔX)/(|ΔSr|×|ΔX|)、又は、cosθを指標に用いてもよい。(「・」は内積を表す。)こうすることによって、単純に|ΔSr|/|ΔX|を用いて自己追従性を確認する場合に比べて、ΔXとΔSrが逆方向に動く場合には、自己追従性が極めて低いことが分かる。
[第4の状態判断方法]
上述の第3の状態判断方法の変形例の説明では、評価に用いられる値を、挿入体における注目ポイントに相当する点の接線方向の動きとして説明したが、接線と垂直な方向の動き、すなわち、挿入部203の横方向への動きとして評価されてもよい。例えば、注目ポイントの挿入部203の接線と垂直な方向への動き量を図40に示すようにΔXcとし、挿入部203の後端側の任意の箇所の注目ポイント、又は、検出ポイントの移動量をΔX1としたときに、横動きBを示す判定式を次式で定義する。
B=|ΔXc|/|ΔX1|
このとき、横軸に経過時間又は当該任意の箇所の移動量ΔX1すなわち挿入量を示し、縦軸に横動きBを示すと、図43に示すような関係になる。すなわち、挿入部203が被検体に沿って正常に挿入されているときは、実線に示すように横動きBは0に近い値となる。一方、ステッキ状態になると、破線に示すように横動きBは1に近い値となる。
図43に示すように、横動きBについて、閾値a4を、被検体910の伸展が生じ始めている旨の警告を出力すべき値とし、閾値b4を、被検体910がこれ以上伸展したら危険がある旨の警告を出力すべき値とする等、閾値を適宜に設定することができる。閾値を適当に設定することで、横動きBの値は、ユーザへの警告や、制御装置310への警告信号の出力など、内視鏡200の操作を支援する情報として利用され得る。
挿入部203の注目しているポイントの動きは、横動きとして表現されても、接線方向の動きとして表現されても、何れの形式で表現されてもよい。その意味するところは同じである。また、何れの場合にも、注目しているポイントの移動量と、挿入部203の後端側の注目ポイントや検出ポイントの移動量とが比較されてもよいし、後端側の注目ポイントや検出ポイントの移動量を用いずに注目しているポイントの移動とその接線方向の成分との割合のみに基づいて解析が行われてもよい。また、何れの場合にも、挿入部203の接線方向と挿入部の移動方向との一致度が高い程、挿入部203の動きは自己追従性が高く、挿入部203は被検体910に沿って挿入されていると言える。これらの点は以下の説明においても同様である。
第4の状態判断方法を実行するための操作支援装置の構成例の概略を図44に示す。ここでは、後端側の検出ポイントを利用する場合の操作支援装置の構成例を示す。
挿抜支援装置100は、位置取得部110と、形状取得部120と、状態判断部130と、支援情報作成部180とを備える。位置取得部110の検出ポイント取得部111は、センサ201から出力される情報に基づいて、例えば挿入部203の後端側の位置検出が行われる箇所である検出ポイントの位置を取得する。
形状取得部120は、センサ201から出力される情報に基づいて、挿入部203の形状を取得する。形状取得部120の注目ポイント取得部121は、注目ポイントの位置を取得する。
状態判断部130は、接線方向取得部171と、移動方向取得部172と、注目ポイント状態判断部173とを有する。接線方向取得部171は、挿入部203の形状と、注目ポイントの位置と、プログラムメモリ192に記録された変位分析情報192−5とに基づいて、注目ポイントにおける挿入部203の接線方向を算出する。移動方向取得部172は、注目ポイントの位置と、プログラムメモリ192に記録された変位分析情報192−5とに基づいて、注目ポイントの移動方向を算出する。注目ポイント状態判断部173は、挿入部203における注目ポイントの接線方向と、注目ポイントの移動方向と、プログラムメモリ192に記録された判断基準情報192−6とに基づいて、注目ポイントの状態を算出する。
支援情報作成部180は、判定された注目ポイントの状態に基づいて、操作支援情報を作成する。操作支援情報は、制御装置310の制御にフィードバックされたり、表示装置320に表示されたり、記録装置196に記録されたりする。
第4の状態判断方法における挿抜支援装置100の動作について、図45に示すフローチャートを参照して説明する。
ステップS401において、挿抜支援装置100は、センサ201から出力データを取得する。ステップS402において、挿抜支援装置100は、ステップS401で取得したデータに基づいて、後端側の検出ポイントの位置を取得する。
ステップS403において、挿抜支援装置100は、ステップS401で取得したデータに基づいて、挿入部203の形状を取得する。ステップS404において、挿抜支援装置100は、ステップS403で取得した挿入部203の形状に基づいて、注目ポイントの位置を取得する。
ステップS405において、挿抜支援装置100は、注目ポイントにおける挿入部203の接線方向を算出する。ステップS406において、挿抜支援装置100は、注目ポイントに相当する挿入部203の位置の移動方向を取得し、横動きを表す値を算出する。
ステップS407において、挿抜支援装置100は、検出ポイントの位置変化と、横動きを表す値とに基づいて、挿入部203の注目ポイントにおける自己追従性を表す評価値を算出する。検出ポイントの位置変化に対して横動きを表す値が小さい程、自己追従性が高いことになる。
ステップS408において、挿抜支援装置100は、ステップS407で算出された評価値に基づいて、注目ポイント周辺において、被検体の伸展が生じているか否かやその程度など、伸展について評価を行う。
ステップS409において、挿抜支援装置100は、被検体の伸展が生じているか否かの判定結果やその程度等に基づいて、後の処理に用いるのに適当な支援情報を作成し、当該支援情報を例えば制御装置310や表示装置320に出力する。
ステップS410において、挿抜支援装置100は、当該処理を終了させるための終了信号の入力があったか否かを判定する。終了信号の入力がないとき、処理はステップS401に戻る。すなわち、終了信号の入力があるまで上述の処理を繰り返し、操作支援情報を出力する。一方、終了信号の入力があったとき、当該処理は終了する。
第4の状態判断方法が用いられることにより、挿入部203における注目ポイントにおける移動方向と接線方向との関係等に基づいて、被検体において伸展が生じているか否かなど、操作支援情報が作成され得る。操作支援情報は、例えば挿入部203又は被検体910の状態や、挿入部203による被検体910に対する押圧や圧迫の有無やそれらの大小等や、挿入部203の異常の有無が含まれ得る。
なお、上述の例では、注目ポイントを対象として解析を行う場合を示したが、それに限らない。注目ポイントではなく、任意の点について、その形状から求まる当該点における接線方向と、当該点の移動方向とに基づいて、自己追従性は評価され得る。
また、上述の説明では、挿入部203の後端側の検出ポイントの移動量と注目ポイントの移動量との関係に基づいて、自己追従性を評価する例を示した。検出ポイントに代えて任意の注目ポイントが用いられてもよい。また、検出ポイントの移動量については、必ずしも考慮する必要がない。すなわち、注目ポイントの移動量について、接線方向成分と接線と垂直な方向の成分との割合にのみ基づいても、自己追従性の評価は行われ得る。
なお、第3の状態判断方法と第4の状態判断方法とは、いずれも挿入部203の自己追従性を評価している点は共通している。
[変形例]
上述の説明では、挿入部203の形状に基づく注目ポイントについて、接線方向の移動を分析する例を示した。注目ポイントに限らず、挿入部203の先端について接線方向の移動が分析されてもよい。先端の接線方向とは、すなわち、挿入部203の先端が向いている方向である。
図32に示したものと同様の状態においては、図46に示すように、挿入部203の先端は、第2の位置635−2から第3の位置635−3へと後ろ方向に進む。すなわち、先端戻りが発生している。内視鏡200が先端方向の画像を取得する内視鏡である場合には、挿入部203の先端が後ろ方向に進んでいることは、取得された画像に基づいて知ることもできる。
挿入部203の先端部の先端方向への進み具合を表す先端進みPを次式で定義する。
P=(ΔX2・D)/|ΔX1|
ここで、ΔX2は、先端の変位ベクトルであり、Dは先端方向ベクトルであり「・」は内積を示す。
時間経過すなわち後端側の任意の箇所の挿入量ΔX1に対する先端進みPの変化の一例を図47に示す。図47の実線は、挿入部203が被検体910に沿って挿入されているときを表す。この場合、挿入部203の先端は、先端方向に進むので、先端進みPの値は1に近い値を示す。一方、図47の破線は、挿入部203がステッキ状態にあるときを表す。この場合、挿入部203の先端部は後ろ方向に進むので、先端進みPは、−1に近い値を示す。
図47に示すように、先端進みPについて、閾値a4´を、被検体910の伸展が生じ始めている旨の警告を出力すべき値とし、閾値b4´を、被検体910がこれ以上伸展したら危険がある旨の警告を出力すべき値とする等、閾値を適宜に設定することができる。閾値を適当に設定することで、先端進みPの値は、ユーザへの警告や、制御装置310への警告信号の出力など、内視鏡200の操作を支援する情報として利用され得る。
このように、先端戻りとして特徴的に検出される先端進みPによっても挿入部203又は被検体910の状態が判別され得る。
[第1乃至第4の状態判断方法について]
上述の各状態判断方法は、いずれも自己追従性の程度を評価しているものといえる。2点以上の注目ポイントの移動量に差異がある状態は、当該2点の間で自己追従性が低い箇所が存在している状態であると言い換えることができる。また、ステッキ状態とは、横動きが生じている状態とも言い換えることができ、横動きとは、自己追従性が低い状態であると言い換えることができる。
第1の状態判断方法では、2点以上の注目ポイントの移動量の差異を検出し、差異があるとき、例えば座屈が生じていると判定される。座屈が生じているとき、当該座屈が生じている箇所において自己追従性が低い状態となっている。
第2の状態判断方法では、注目ポイントに着目して、湾曲部分について自己追従性がない状態、すなわち、湾曲部分において横動きして被検体910を押し上げている状態が検出されている。
第3の状態判断方法では、注目ポイントに着目して、挿入部203における注目ポイントの位置に基づいて自己追従性が評価されている。自己追従性の評価にあたっては、自己追従性が高いとき、挿入部203における注目ポイントの位置は、挿入量と一致することが利用されている。
第4の状態判断方法では、ある点における接線とその移動方向とに基づいて、自己追従性が評価されている。自己追従性の評価にあたっては、自己追従性が高いとき、所定の点は、その点における挿入部203の形状の接線方向に進行することが利用されている。一方、自己追従性が低いとき、例えば横動き等が生じることになる。
また、自己追従性が低い状態とは、横動きが生じている状態と言い換えることができる。したがって、上記の状態判断方法の何れも、横動きの程度を評価しているものと言い換えても、同様に表現され得る。
ここで、挿入部203又は被検体910において注目すべき箇所として、被検体が湾曲している部分がある。湾曲している部分においては、挿入部203の自己追従性が低くなりがちであり、湾曲部分において横動きが生じると被検体の壁を押圧することになるので、被検体の湾曲部分における挿入部203又は被検体910の状態は、評価する価値が高い。このことから、第2の状態判断方法、第3の状態判断方法、及び第4の状態判断方法では、湾曲部分について注目ポイントとして着目し、この湾曲部分について解析が行われている。
しかしながらこれに限らず、同様の方法によって、種々の箇所が注目ポイントとして設定され得るし、種々の箇所の挿入部203又は被検体910の状態が解析され得る。
このように、変位情報取得部141及び連動具合演算部142、変位取得部151,161及び変位情報算出部152,162、又は、接線方向取得部171及び移動方向取得部172は、挿入部203の挿入における自己追従性を評価する自己追従性評価部として機能する。また、座屈判断部143、又は、注目ポイント状態判断部153,163,173は、自己追従性に基づいて、挿入部203又は被検体910の状態を判断する判断部として機能する。
挿入部203又は被検体910の状態は、挿入部203が被検体910に沿って挿入されているか否かの判断にのみ用いられるものではない。ユーザは、挿入部203を被検体910に挿入するとき、被検体の形状を意図的に変化させることがある。例えば、被検体910が湾曲している部分では、挿入部203が進行しやすいように当該被検体の形状を直線に近づけるように操作することがある。このような操作においても、挿入部203の形状、被検体910の形状、挿入部203が被検体910を押圧する力等の情報は、ユーザにとって有益な情報となる。
[第1乃至第4の状態判断方法の組み合わせについて]
第1乃至第4の状態判断方法は、組み合わせて用いられ得る。例えば、第1の状態判断方法とその他の状態判断方法とを組み合わせて用いることで、次のような効果が得られる。すなわち、第1の状態判断方法を利用することで、挿入部203に生じている座屈に係る情報を取得することができる。この座屈に由来する変位成分を差し引くことで第2乃至第4の状態判断方法による演算結果の精度が向上し、また、挿入部203で生じている現象がより正確に把握され得る。その他、第1乃至第4の状態判断方法が組み合わせて用いられれば、得られる情報量は何れか1つの方法が用いられる場合よりも増加する。このことは、作成される支援情報の精度を向上させることに効を奏する。
[操作支援情報について]
支援情報作成部180は、上述の第1乃至第4の状態判断方法を用いて取得された挿入部203又は被検体910の状態に係る情報を用いて、操作支援情報を作成する。操作支援情報は、ユーザが挿入部203を被検体910に挿入することを支援する情報である。
操作支援情報は、第1乃至第4の状態判断方法を用いて取得された挿入部203又は被検体910の状態に係る情報に基づくのみならず、入力装置330から入力される情報や、制御装置310から入力される情報等、種々の情報を組み合わせて作成され得る。第1乃至第4の状態判断方法が適宜に用いられることで、必要な情報が適切に取得され得る。
操作支援情報は、例えば表示装置320に表示され、ユーザはこの表示を参考にして内視鏡200の操作を行う。また、操作支援情報は、例えば制御装置310の制御にフィードバックされる。より適切な制御装置310による内視鏡200の動作の制御は、ユーザの内視鏡200の操作を支援する。操作支援情報が利用されることで、内視鏡200の操作が円滑に行われ得る。

Claims (9)

  1. 可撓性を有する挿入体を被検体に挿入及び抜去することを支援する挿抜支援装置であって、
    前記挿入体の形状に基づいて、前記挿入体の長手方向の所定部位に設定された少なくとも1つの注目ポイントにおける前記挿入体の接線方向を取得する接線方向取得部と、
    前記注目ポイントの移動方向を取得する移動方向取得部と、
    前記注目ポイントの第1の変位と前記注目ポイントの前記接線方向の第2の変位とを取得する変位取得部と、
    前記注目ポイントの前記第1の変位と前記注目ポイントの前記接線方向の前記第2の変位との関係に基づいて、前記挿入体又は前記被検体の状態を判断する判断部と、を備え、
    前記判断部は、前記第1の変位の大きさと前記第2の変位の大きさとの一致度が高い程、前記挿入体は前記被検体に沿って挿入されていると判断する、挿抜支援装置。
  2. 前記注目ポイントは、前記挿入体の先端であり、
    前記第1の変位をΔX1、前記第2の変位をΔx2、前記先端での接線方向単位ベクトルをDとし、
    先端進み指標PをP=(ΔX1・D)/|ΔX2|
    ここで、ΔX1、ΔX2、Dはベクトル、・はベクトルの内積演算を示す、としたときに、
    前記判断部は、前記先端進み指標Pに基づいて自己追従性を判断する、請求項1に記載の挿抜支援装置。
  3. 前記判断部は、前記先端進み指標Pが1に近いとき前記自己追従性が高いと判断し、前記先端進み指標Pが−1に近いとき前記挿入体がステッキ状態の可能性があると判断する、請求項2に記載の挿抜支援装置。
  4. 可撓性を有する挿入体を被検体に挿入及び抜去することを支援する挿抜支援装置であって、
    前記挿入体の形状に基づいて、前記挿入体の長手方向の所定部位に設定された少なくとも1つの注目ポイントにおける前記挿入体の接線方向を取得する接線方向取得部と、
    前記注目ポイントの移動方向を取得する移動方向取得部と、
    前記注目ポイントの第1の変位と前記注目ポイントの前記接線方向の第2の変位を取得する変位取得部と、
    前記注目ポイントの接線方向に垂直な方向への変位成分である前記第1の変位ΔX1と前記注目ポイントの前記接線方向の第2の変位ΔX2との関係に基づいて、前記挿入体又は前記被検体の状態を判断する判断部と、を備え、
    前記判断部は、前記第1の変位の大きさ|ΔX1|と前記第2の変位の大きさ|ΔX2|との比|ΔX1|/|ΔX2|が0に近い程、前記挿入体が前記被検体に沿って挿入されていると判断し、大きくなる程、前記被検体に伸展が生じていると判断する、挿抜支援装置。
  5. 前記判断部が判断する前記状態は、前記注目ポイントに対応する部分で前記挿入体が前記被検体を伸展させているか否かを含む、請求項1乃至4のいずれか1項に記載の挿抜支援装置。
  6. 前記判断部が判断する前記状態は、前記挿入体から前記被検体への押圧又は圧迫の状態を含む、請求項1乃至5のいずれか1項に記載の挿抜支援装置。
  7. 前記挿入体に配置された複数の位置センサをさらに備え、
    前記接線方向取得部は、
    前記複数の位置センサの検出結果に基づいて、前記挿入体の形状を算出し、
    前記挿入体の形状に基づいて、前記接線方向を算出し、
    前記移動方向取得部は、前記複数の位置センサの検出結果に基づいて、前記移動方向を取得する
    請求項1乃至6のいずれか1項に記載の挿抜支援装置。
  8. 前記被検体の挿入口に配置されるように構成された前記挿入体の挿入量を検出する挿入量センサと、
    前記挿入体の形状の情報を取得する形状センサと
    をさらに備え、
    前記接線方向取得部は、
    前記形状センサの検出結果に基づいて、前記挿入体の形状を算出し、
    前記挿入体の形状に基づいて、前記接線方向を算出し、
    前記移動方向取得部は、
    前記挿入体の形状と前記挿入量とに基づいて、前記移動方向を取得する、
    請求項1乃至6のいずれか1項に記載の挿抜支援装置。
  9. 前記挿入体に配置された位置センサと、
    前記挿入体の形状の情報を取得する形状センサと
    をさらに備え、
    前記接線方向取得部は、
    前記形状センサの検出結果に基づいて、前記挿入体の形状を算出し、
    前記挿入体の形状に基づいて、前記接線方向を算出し、
    前記移動方向取得部は、
    前記挿入体の形状と前記位置センサの出力とに基づいて、前記移動方向を取得する、 請求項1乃至6のいずれか1項に記載の挿抜支援装置。
JP2016564556A 2014-12-19 2014-12-19 挿抜支援装置 Active JP6626839B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/083750 WO2016098255A1 (ja) 2014-12-19 2014-12-19 挿抜支援装置及び挿抜支援方法

Publications (2)

Publication Number Publication Date
JPWO2016098255A1 JPWO2016098255A1 (ja) 2017-10-12
JP6626839B2 true JP6626839B2 (ja) 2019-12-25

Family

ID=56126173

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016564556A Active JP6626839B2 (ja) 2014-12-19 2014-12-19 挿抜支援装置

Country Status (5)

Country Link
US (1) US20170281046A1 (ja)
JP (1) JP6626839B2 (ja)
CN (1) CN107105968B (ja)
DE (1) DE112014007268B4 (ja)
WO (1) WO2016098255A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018220797A1 (ja) * 2017-06-01 2018-12-06 オリンパス株式会社 可撓管挿入支援装置と可撓管挿入装置
CN111465340B (zh) * 2017-12-25 2023-06-13 奥林巴斯株式会社 推荐操作呈现系统、推荐操作呈现控制装置以及推荐操作呈现控制方法
CN114206191A (zh) * 2019-08-30 2022-03-18 奥林巴斯株式会社 内窥镜控制装置、内窥镜插入形状分类装置、内窥镜控制装置的工作方法和程序
EP4133988A4 (en) * 2020-04-09 2024-04-17 Nec Corp ENDOSCOPE INSERTION ASSISTANCE DEVICE, METHOD, AND NON-TEMPORARY COMPUTER-READABLE MEDIUM ON WHICH A PROGRAM IS STORED

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5482029A (en) * 1992-06-26 1996-01-09 Kabushiki Kaisha Toshiba Variable flexibility endoscope system
US5840024A (en) * 1993-10-18 1998-11-24 Olympus Optical Co., Ltd. Endoscope form detecting apparatus in which coil is fixedly mounted by insulating member so that form is not deformed within endoscope
JP3212775B2 (ja) * 1993-10-18 2001-09-25 オリンパス光学工業株式会社 内視鏡挿入状態検出装置
JP3506770B2 (ja) * 1994-04-21 2004-03-15 オリンパス株式会社 内視鏡位置検出装置
US6059718A (en) * 1993-10-18 2000-05-09 Olympus Optical Co., Ltd. Endoscope form detecting apparatus in which coil is fixedly mounted by insulating member so that form is not deformed within endoscope
JP3910688B2 (ja) * 1997-07-01 2007-04-25 オリンパス株式会社 内視鏡形状検出装置及び内視鏡形状検出方法
JP2000175861A (ja) 1998-12-17 2000-06-27 Olympus Optical Co Ltd 内視鏡形状検出装置
US6511417B1 (en) * 1998-09-03 2003-01-28 Olympus Optical Co., Ltd. System for detecting the shape of an endoscope using source coils and sense coils
JP3365981B2 (ja) * 1999-08-05 2003-01-14 オリンパス光学工業株式会社 内視鏡形状検出装置
JP3720727B2 (ja) * 2001-05-07 2005-11-30 オリンパス株式会社 内視鏡形状検出装置
JP4025621B2 (ja) * 2002-10-29 2007-12-26 オリンパス株式会社 画像処理装置及び内視鏡画像処理装置
EP1504712B1 (en) * 2002-10-29 2009-12-02 Olympus Corporation Endoscope information processor and processing method
JP4274854B2 (ja) * 2003-06-06 2009-06-10 オリンパス株式会社 内視鏡挿入形状解析装置
JP4656988B2 (ja) * 2005-04-11 2011-03-23 オリンパスメディカルシステムズ株式会社 内視鏡挿入形状解析装置および、内視鏡挿入形状解析方法
JP2007044412A (ja) 2005-08-12 2007-02-22 Pentax Corp 内視鏡挿入形状検出プローブ
US20090149703A1 (en) * 2005-08-25 2009-06-11 Olympus Medical Systems Corp. Endoscope insertion shape analysis apparatus and endoscope insertion shape analysis system
JP4789545B2 (ja) * 2005-08-25 2011-10-12 オリンパスメディカルシステムズ株式会社 内視鏡挿入形状解析装置
CN102078194B (zh) 2006-11-13 2012-11-14 奥林巴斯医疗株式会社 内窥镜插入形状分析系统
JP4855901B2 (ja) * 2006-11-13 2012-01-18 オリンパスメディカルシステムズ株式会社 内視鏡挿入形状解析システム
JP5295555B2 (ja) * 2007-12-10 2013-09-18 オリンパスメディカルシステムズ株式会社 内視鏡システム
CN102469917B (zh) * 2009-08-26 2014-12-24 奥林巴斯医疗株式会社 内窥镜装置
WO2011040104A1 (ja) * 2009-09-30 2011-04-07 オリンパスメディカルシステムズ株式会社 内視鏡装置及び湾曲駆動制御方法
WO2011102012A1 (ja) * 2010-02-22 2011-08-25 オリンパスメディカルシステムズ株式会社 医療機器
JP2011217836A (ja) * 2010-04-06 2011-11-04 Hoya Corp 電子内視鏡装置
DE102010027535A1 (de) * 2010-07-16 2012-01-19 Fiagon Gmbh Verfahren zur Überprüfung von Positionsdaten eines Instrumentes
JP6012950B2 (ja) * 2011-10-14 2016-10-25 オリンパス株式会社 湾曲動作システム
JP5851204B2 (ja) * 2011-10-31 2016-02-03 オリンパス株式会社 管状挿入装置
JP6061602B2 (ja) * 2012-10-10 2017-01-18 オリンパス株式会社 挿入部及び挿入部材を有する挿入システム
JP6205125B2 (ja) * 2012-12-11 2017-09-27 オリンパス株式会社 内視鏡装置の挿入支援情報検出システム及び内視鏡装置
JP6154153B2 (ja) 2013-02-14 2017-06-28 大塚電子株式会社 標準光源および測定方法

Also Published As

Publication number Publication date
WO2016098255A1 (ja) 2016-06-23
DE112014007268B4 (de) 2019-02-07
CN107105968A (zh) 2017-08-29
JPWO2016098255A1 (ja) 2017-10-12
DE112014007268T5 (de) 2017-11-02
US20170281046A1 (en) 2017-10-05
CN107105968B (zh) 2019-07-16

Similar Documents

Publication Publication Date Title
JP6626836B2 (ja) 挿抜支援装置
JP6626837B2 (ja) 挿抜支援装置
JP6626839B2 (ja) 挿抜支援装置
JP5682065B2 (ja) ステレオ画像処理装置及びステレオ画像処理方法
EP3653989A1 (en) Imaging device and monitoring device
WO2016208664A1 (ja) 内視鏡装置
TWI420081B (zh) 測距系統及測距方法
JP5071945B2 (ja) 移動装置及び方法
JP4899647B2 (ja) 距離測定プログラム、距離測定装置、距離測定方法
JP5894426B2 (ja) 計測対象抽出装置、顔形状推定装置、計測対象抽出方法および顔形状推定方法
CN107249423B (zh) 操作辅助装置、插入体系统以及操作辅助方法
US8941732B2 (en) Three-dimensional measuring method
JP6626838B2 (ja) 挿抜支援装置
JP2007114168A (ja) 画像処理方法および装置、並びにプログラム
WO2016098254A1 (ja) 挿抜支援装置及び挿抜支援方法
JP6472670B2 (ja) 一次元輝度分布検知装置
JP4750197B2 (ja) 内視鏡装置
JP5679909B2 (ja) 障害物検出装置
CN111692989B (zh) 光线三角测量装置
JP6102829B2 (ja) ステレオマッチング法による絶対座標位置計測方法およびステレオマッチング法による絶対座標位置計測装置
JP2005283256A (ja) 物体位置検出装置
JPS6166107A (ja) 物体位置・形状計測方法およびその装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170605

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180619

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20180809

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190517

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191202

R151 Written notification of patent or utility model registration

Ref document number: 6626839

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250