JP2016505279A - ロボット支援型手術システムとその制御方法 - Google Patents

ロボット支援型手術システムとその制御方法 Download PDF

Info

Publication number
JP2016505279A
JP2016505279A JP2015531382A JP2015531382A JP2016505279A JP 2016505279 A JP2016505279 A JP 2016505279A JP 2015531382 A JP2015531382 A JP 2015531382A JP 2015531382 A JP2015531382 A JP 2015531382A JP 2016505279 A JP2016505279 A JP 2016505279A
Authority
JP
Japan
Prior art keywords
unit
movement amount
distal end
robot
difference
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015531382A
Other languages
English (en)
Other versions
JP6033444B2 (ja
Inventor
量平 小川
量平 小川
岸 宏亮
宏亮 岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Publication of JP2016505279A publication Critical patent/JP2016505279A/ja
Application granted granted Critical
Publication of JP6033444B2 publication Critical patent/JP6033444B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00147Holding or positioning arrangements
    • A61B1/0016Holding or positioning arrangements using motor drive units
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00006Operational features of endoscopes characterised by electronic signal processing of control signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/005Flexible endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/03Automatic limiting or abutting means, e.g. for safety
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/30Surgical robots
    • A61B2034/301Surgical robots for introducing or steering flexible instruments inserted into the body, e.g. catheters or endoscopes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/03Automatic limiting or abutting means, e.g. for safety
    • A61B2090/032Automatic limiting or abutting means, e.g. for safety pressure limiting, e.g. hydrostatic
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B90/00Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
    • A61B90/06Measuring instruments not otherwise provided for
    • A61B2090/064Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension
    • A61B2090/065Measuring instruments not otherwise provided for for measuring force, pressure or mechanical tension for measuring contact or contact pressure

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Veterinary Medicine (AREA)
  • Public Health (AREA)
  • Animal Behavior & Ethology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Signal Processing (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Robotics (AREA)
  • Endoscopes (AREA)

Abstract

ロボット支援型手術システム(1)は、細長いシャフトを有する軟性の挿入部(3)と、該挿入部(3)の先端の移動量を検出する先端移動量検出部(9)と、体外において操作者によって操作される操作部(2)と、該操作部(2)に入力された操作信号によって挿入部(3)をその基端側において駆動する駆動部(5)と、挿入部(3)の先端および基端側の移動量の差分を算出し、該差分が所定の閾値より大きい場合に、操作者にその旨を報知するように駆動部(5)を制御する制御部(6)とを備える。【選択図】図2

Description

本発明は、ロボット支援型手術システムとその制御方法に関するものである。
従来、挿入部の先端部を電動モータによるワイヤの牽引によって湾曲させ、ワイヤの変位量と張力センサにより検出された張力とに基づいて挿入部の先端にかかる外力を推定して操作者に提示する電動湾曲内視鏡が知られている(例えば、特許文献1,2参照。)。
このような電動湾曲内視鏡では、操作者は、モニタに表示されている内視鏡画像を確認しながら、内視鏡画像上に患部が表れるまで、挿入部を電動で押し込んでいくことを行う。
特許第3549434号公報 特開2010−35768号公報
しかしながら、挿入部が、柔らかい臓器に挿入された場合には、挿入部を長手方向に押し込んでいっても、挿入部のより基端側の部分が座屈してしまうことがある。この場合には、挿入部の押し込み動作に拘わらず、挿入部の先端位置の移動が少ないため、内視鏡画像における変化が少なくなる。
そして、操作者が熟練していない場合には、このような状況に気づくことなく、内視鏡画像を変化させて患部を探索しようとして、さらに挿入部を長手方向に押し引きする可能性がある。しかし、この状態で挿入部を長手方向に押し引きすると、挿入部の座屈部分をさらに変形させることになり、変形した挿入部が柔らかい臓器を押して、臓器を大きく変形させてしまうことになるという不都合がある。
本発明は、上述した事情に鑑みてなされたものであって、操作者が気づかずに、挿入部によって臓器を大きく変形させてしまう不都合の発生を未然に防止することができるロボット支援型手術システムおよびその制御方法を提供することを目的としている。
上記目的を達成するために、本発明は以下の手段を提供する。
本発明の一態様は、体内に挿入される細長いシャフトを有するとともに、体内の画像を取得する撮像系を先端に備える軟性の挿入部と、該挿入部の前記先端の移動量を検出する先端移動量検出部と、体外に配置され、操作者によって操作される操作部と、該操作部に入力された操作信号によって前記挿入部をその基端側において駆動する駆動部と、該駆動部を制御する制御部とを備え、該制御部が、前記先端移動量検出部により検出された前記挿入部の先端の移動量と、前記駆動部により移動させられた前記挿入部の基端側の移動量との差分を算出し、該差分が所定の閾値より大きい場合に、操作者にその旨を報知するロボット支援型手術システムを提供する。
本態様によれば、軟性の挿入部を体内に挿入し、操作者が操作部を操作することにより、操作信号に基づいて駆動部が駆動され、挿入部がその基端側において駆動される。挿入部が駆動され先端が移動すると、先端移動量検出部により先端の移動量が検出される。この場合において、検出された先端の移動量と、駆動部による基端側の移動量との差分が制御部において算出され、差分が所定の閾値より大きい場合には操作者にその旨が報知される。これにより、操作者は、挿入部に何らかの異常があって、駆動部による基端側の移動量に関わらず、先端が追従して移動していないことを認識することができ、それ以上の無理な駆動を制限することができる。
上記態様においては、前記先端移動量検出部が、前記撮像系により取得された体内の画像を処理して、前記挿入部の先端の移動量を算出してもよい。
このようにすることで、挿入部先端の撮像系により取得された体内の画像に基づいて、挿入部の先端の移動量を算出でき、別途センサ等を不要として、簡易に異常を検知することができる。画像処理により移動量を算出する場合、点検出、エッジ検出あるいはオプティカルフロー等の既存の技術を用いればよい。
また、上記態様においては、前記先端移動量検出部が、前記画像中における体内組織の特徴的な形状を有する部位を特徴部として設定し、該特徴部の移動量に基づいて挿入部の先端の移動量を算出してもよい。
このようにすることで、画像中における体内組織の特徴的な形状を有する部位は、特徴部として抽出し易いので、先端の移動量を精度よく検出することができる。
また、上記態様においては、前記先端移動量検出部が、前記画像中における体内組織の特徴的な色を有する部位を特徴部として設定し、該特徴部の移動量に基づいて挿入部の先端の移動量を算出してもよい。
このようにすることで、画像中における体内組織の特徴的な色を有する部位は、特徴部として抽出し易いので、先端の移動量を精度よく検出することができる。
また、上記態様においては、前記先端移動量検出部が、前記挿入部の先端に取り付けられ、前記挿入部の先端の変位、速度または加速度を検出するセンサを備えていてもよい。
このようにすることで、センサの作動により挿入部の先端の変位、速度または加速度を検出し、より、直接的に先端の移動量を検出することができる。
また、上記態様においては、前記先端移動量検出部が、前記挿入部の先端に取り付けられた被検出体と、体外に配置され、前記被検出体の移動を検出する体外センサとを備えていてもよい。
このようにすることで、挿入部の先端に取り付けた被検出体の移動量を体外センサによって体外から直接的に検出することができる。
また、上記態様においては、前記制御部は、前記差分が所定の閾値より大きい場合に、音声、表示、光または振動によりその旨を操作者に報知する報知部を備えていてもよい。
このようにすることで、操作者は、報知部による音声、表示、光または振動によって、確実に挿入部の異常を認識することができる。
また、上記態様においては、前記制御部は、前記差分が所定の閾値より大きい場合に、前記挿入部の動作を制限するよう前記駆動部を制御してもよい。
このようにすることで、制御部により駆動部が挿入部を作動させることが制限され、操作者によるそれ以上の操作によっても体内の臓器等にかかる負担を軽減することができる。
また、上記態様においては、前記制御部は、前記差分が所定の閾値より大きい場合に、前記挿入部の速度を低下させるよう前記駆動部を制御してもよい。
このようにすることで、挿入部が異常な状態にあるときに、操作者によって操作部が操作されても、制御部により駆動部が挿入部を動作させる速度を低下させるので、体内の臓器等に急激に大きな変形が生じることを抑制することができる。
また、上記態様においては、前記制御部は、前記差分が第1の所定値より大きい場合に、前記報知部を作動させ、前記差分が第1の所定値より大きな第2の所定値より大きい場合に、前記挿入部の動作を制限するよう前記駆動部を制御してもよい。
このようにすることで、体内における挿入部の異常な状態を操作者に対して段階的に報知知ることができる。
また、上記態様においては、前記挿入部の前記先端に設けられ体内組織との接触圧力を検出する力検出部を備え、前記制御部は、前記先端移動量検出部により検出された前記挿入部の先端の移動量と、前記駆動部により移動させられた前記挿入部の基端側の移動量との差分が前記所定の閾値より大きい場合に操作者にその旨を報知するとともに、前記力検出部により検出された接触圧力が予め設定した2つの閾値で定められる想定圧力範囲外である場合に,前記挿入部の動作を制限するように前記駆動部を制御してもよい。
また、上記態様においては、体内に挿入される細長い形状を有するとともに、体内の画像を取得する撮像系を先端に備える軟性の挿入部と、該挿入部の前記先端の移動量を検出する先端移動量検出部と、前記挿入部の前記先端に設けられ、体内組織との接触圧力を検出する力検出部と、体外に配置され、操作者によって操作される操作部と、該操作部に入力された操作信号によって前記挿入部をその基端側において駆動する駆動部と、該駆動部を制御する制御部とを備え、該制御部が、前記先端移動量検出部により検出された前記挿入部の先端の移動量と、前記駆動部により移動させられた前記挿入部の基端側の移動量との差分を算出し、該差分が所定の移動量閾値より大きい場合、または、前記力検出部により検出された接触圧力が所定の力閾値より大きい場合に、操作者にその旨を報知するロボット支援型手術システムを提供する。
本態様によれば、先端移動量検出部により検出された挿入部の先端の移動量が基端側の移動量に対して極めて小さい場合のみならず、挿入部の先端に設けられた力検出部により検出された体内組織との接触圧力が力閾値より大きい場合にも、操作者に報知するので、操作者が体内における挿入部の異常な状態をより確実に認識することができる。
また、上記態様においては、前記先端移動量検出部が、前記撮像系により取得された体内の画像を処理して、前記挿入部の先端の移動量を算出してもよい。
また、上記態様においては、前記制御部が、前記画像を処理して、前記撮像系が体内組織に対して近接視野であるか否かを判定し、近接視野であると判定された場合に力検出部により検出された接触圧力に基づいて操作者に報知してもよい。
このようにすることで、撮像系が体内組織に対して近接視野となった場合に、画像の処理による挿入部の先端の移動量の算出が困難となるが、接触圧力の検出により、体内における挿入部の異常な状態を操作者に認識させることができる。
また、本発明の他の態様は、体内に挿入され体内の画像を取得する細長い軟性の挿入部をその基端側において駆動し、前記挿入部の先端の移動量を検出し、検出された前記挿入部の先端の移動量と、前記挿入部の基端側の移動量との差分を算出し、該差分が所定の閾値より大きい場合に、操作者にその旨を報知するよう前記挿入部の基端側における駆動を制御するロボット支援型手術システムの制御方法を提供する。
上記態様においては、取得された画像を処理して、前記挿入部の先端の移動量を算出してもよい。
また、上記態様においては、前記差分が所定の閾値より大きい場合に、前記挿入部の動作を制限するよう制御してもよい。
本発明によれば、操作者が気づかずに、挿入部によって臓器を大きく変形させてしまう不都合の発生を未然に防止することができるという効果を奏する。
本発明の一実施形態に係るロボット支援型手術システムを示す全体構成図である。 図1のロボット支援型手術システムを示すブロック図である。 図1のロボット支援型手術システムを構成する内視鏡の(a)挿入部を大腸に挿入した状態、(b)挿入部が大腸内を正常に前進している状態、(c)挿入部が大腸内において異常に湾曲した状態をそれぞれ示す図である。 図1のロボット支援型手術システムの動作を説明するフローチャートである。 図1のロボット支援型手術システムの第1の変形例の挿入部を大腸に挿入した状態を示す図である。 図1のロボット支援型手術システムの第2の変形例の挿入部を大腸に挿入した状態を示す図である。 図1のロボット支援型手術システムの第3の変形例の動作を説明するフローチャートである。 図1のロボット支援型手術システムの第4の変形例であって、挿入部の先端に透明なキャップを被せた状態を示す斜視図である。 図8のロボット支援型手術システムの動作を説明するフローチャートである。 図1のロボット支援型手術システムを構成する内視鏡の挿入部を、オーバーチューブを介して大腸に挿入した状態を示す図である。
本発明の一実施形態に係るロボット支援型手術システム1とその制御方法について、図面を参照して以下に説明する。
本実施形態に係るロボット支援型手術システム1は、図1および図2に示されるように、マスタースレーブ方式の内視鏡システムであって、操作者Oにより操作される操作部2と、患者の体内、例えば、大腸等の柔らかい臓器A(図3参照)内に挿入される軟性の挿入部3を有する内視鏡4と、該内視鏡4の挿入部3の挿入動作、挿入部3の先端の湾曲動作、挿入部3の捻り動作等の駆動を挿入部3の基端側において行う駆動部5と、該駆動部5を制御する制御部6と、内視鏡4により取得された画像を表示する表示部7とを備えている。
操作部2は、図1に示すように、操作台21に取り付けられた一対の操作アーム22、23と、床面上に配置されたフットスイッチ24とを有している。
操作アーム22,23は多関節構造を有している。操作アーム22は挿入部3の湾曲部を湾曲操作するためのものであり、操作アーム23は不図示の内視鏡4の先端に配設されたマニピュレータを湾曲操作するためのものである。
介助者(不図示。)は、図1に示すように、操作部2が側に配置されている手術台30上に患者Pを寝かせ、消毒、麻酔などの適切な処理を行う。
操作者Oは、介助者に指示して患者Pの肛門から大腸内に挿入部3を導入させる。操作者Oは、操作アーム22を操作して挿入部3の湾曲部を適宜湾曲させるようになっている。
内視鏡4は、図2に示されるように、挿入部3の細長いシャフトの先端に、体内の画像を取得するための撮像系8を備えている。撮像系8により取得された画像は、制御部6内に配置されている画像処理部9に送られるようになっている。
駆動部5は、図3(a)に示す例では、挿入部3を長手方向に推進するアクチュエータを備えている。操作者が、操作部2において挿入部3を長手方向に推進するための操作を行うと、アクチュエータが駆動されて、挿入部3が長手方向に前進または後退させられるようになっている。
制御部6は、操作部2からの操作信号に基づいて、駆動部5のアクチュエータを駆動するための指令信号を生成するようになっている。すなわち、制御部6は、挿入部3の基端側におけるアクチュエータによる一定時間内における移動量を算出し、該移動量が達成されるような指令信号を駆動部5に出力するようになっている。
また、制御部6は、撮像系8により取得された画像を受け取ると、画像処理部9において処理することにより、画像中の特徴部を抽出し、上記と同じ一定時間内における該特徴部の移動量を算出し、該特徴部の移動量に基づいて、一定時間内における挿入部3の先端の移動量を算出するようになっている。
また、制御部6は、算出した駆動部5による挿入部3の基端側の移動量と、画像を処理して算出した挿入部3の先端の移動量との差分を算出し、閾値と比較するようになっている。
そして、算出された差分が閾値より大きい場合には、制御部6は駆動部5による挿入部3の駆動を制限するようになっている。具体的には、制御部6は、差分が閾値より大きい場合には、操作部2からの操作信号の入力に関わらず、挿入部3を前進させる方向への駆動部5の駆動を停止するようになっている。
このように構成された本実施形態に係るロボット支援型手術システム1の制御方法について、図面を参照して以下に説明する。
本実施形態に係るロボット支援型手術システム1を用いて大腸のような柔らかい臓器A内の観察および処置を行うには、図4に示されるように、内視鏡4の挿入部3を、臓器A内に挿入した状態に配置して、操作者が操作部2を操作する(ステップS1)。
操作部2が操作されると、操作部2から操作信号が制御部6に出力され、制御部6において、駆動部5のアクチュエータにより挿入部3を移動させるための指令信号が生成される。これにより、駆動部5のアクチュエータが駆動させられて指令信号に応じて挿入部3が移動させられる(ステップS2)。制御部6においては、指令信号を生成する際に、指令信号に従って一定時間内に挿入部3の基端側が移動する場合の移動量を算出する(ステップS3)。
また、制御部6は挿入部3の撮像系8から送られてくる画像を受け取って画像処理部9において画像処理を行う(ステップS4)。
画像処理部9は、画像内の特徴部を抽出し、上記の基端側の移動量を算出したのと同じ一定時間内における特徴部の移動量を、例えばオプティカルフローを生成することによって算出する。オプティカルフローは時間間隔をあけて取得された2以上の画像における複数の特徴部の移動方向をベクトルによって示したものである。
そして、制御部6においては、画像処理部9により生成されたオプティカルフローを構成するベクトルの総和や分散値に比例した値として、挿入部3の先端の長手方向の移動量が算出される(ステップS5)。
また、制御部6は、上記において算出された挿入部3の基端側の移動量と、先端の移動量との差分を算出し(ステップS6)、算出された差分が閾値より大きいか否かを判定する(ステップS7)。
差分が閾値以下の場合には、図3(b)に示されるように、挿入部3の基端側の移動に追従して先端が移動している正常な動作状態であると判定することができ、ステップS1からの工程が繰り返される。
一方、差分が閾値より大きい場合には、例えば、図3(c)に示されるように、挿入部3の基端側の移動に関わらず、先端が移動していないことになり、臓器A内において挿入部3が異常な動作状態となりつつあると判定することができる。そこで、制御部6は、操作部2からの操作信号の入力に関わらず、挿入部3を前進させる方向への駆動部5の駆動を停止する(ステップS8)。
これにより、臓器A内における挿入部3の異常な動作状態がさらに進行して臓器Aを変形させてしまう不都合の発生を効果的に防止することができる。
このように、本実施形態に係るロボット支援型手術システム1とその制御方法によれば、内視鏡4の撮像系8により取得された画像の画像処理によって挿入部3の先端の移動量を算出するので、他に特別なセンサを用意する必要がなく、簡易に、臓器A内における挿入部3の異常な動作状態を検出することができるという利点がある。
なお、本実施形態においては、挿入部3が長手方向に移動させられる場合を例示して説明したが、挿入部3の先端の湾曲部が湾曲される場合や、挿入部3が長手軸回りに捻り運動させられる場合においても、同様に異常な動作状態を検出することにしてもよい。
湾曲部が湾曲させられる場合には、生成されるオプティカルフローには一方向に向かう平行なベクトルが現れるので、その平均値を先端の移動量とすることができる。
また、挿入部3がねじられる場合には、生成されるオプティカルフローには渦状のベクトルが現れるので、各ベクトルを面積分することにより渦度や循環を求め、それに比例する値として先端の移動量を算出することができる。
また、長手軸方向に移動させたにも関わらず先端が回転してしまう場合に、長手軸方向への移動と回転とを識別するには、渦度を比較するか、画面の半分のみに注目してベクトル和を算出することにより行うことができる。渦の循環が所定値より大きい場合には回転、小さい場合には長手軸方向の移動として識別することができる。また、画面半分のベクトル和がゼロの場合には長手方向の移動、そうでない場合は回転の移動として識別することができる。
また、画像処理において抽出する特徴部としては、画像上のエッジを用いればよいが、腫瘍や大腸Aの管構造、襞(ハウストラ)構造のように、特徴的な形状を有する部位を特徴部として抽出することも有効である。この場合、画像処理において、上記の特徴的な形状を優先的に抽出するように設定しておけばよい。
また、特徴的な色を有する部位を特徴部として抽出することも有効である。例えば、局注液等の色を予め設定しておくことにより、画像処理において、優先的にその色を有する部位を特徴部として抽出することができる。
また、本実施形態においては、挿入部3の先端と基端側の移動量の差分が閾値より大きくなったときに、駆動部5による挿入部3の長手方向前方への移動を停止することとしたが、これに代えて、同方向への移動速度を低下させてもよい。また、駆動部5による動作制限に代えて、あるいは、これとともに、操作者にその旨を報知する報知部を備えていてもよい。
報知部としては、音声、光、振動あるいは表示部7における表示によって報知する任意の手段を採用することができる。
また、本実施形態においては、内視鏡4の撮像系8により取得された体内の画像を処理して、挿入部3の先端の移動量を算出することとしたが、これに代えて、図5に示されるように、挿入部3の先端に加速度センサ、ジャイロセンサあるいは赤外線距離センサのような、検出結果に基づいて挿入部3の先端の移動量を算出可能なセンサ10を配置してもよい。
また、図6に示されるように、挿入部3の先端に磁性体等の被検出体11を固定しておき、体外に配置した磁気センサ(体外センサ)12によって、被検出体11の移動量を直接測定することにしてもよい。なお、磁気センサ12と磁性体11とを入れ替えてもよい。磁性体11に代えて、X線不透過体を用い、磁気センサ12に代えてX線撮影装置を採用してもよい。
また、本実施形態においては、挿入部3の先端の移動量と基端側の移動量との差分が所定の閾値を超えるときは常に、駆動部5による挿入部3の移動を制限することとしたが、これに代えて、上記場合に挿入部3の移動を制限するモードと制限しないモードとを切り替え可能としてもよい。このようにすることで、臓器Aを変形させないことが明らかな場合に、制限しないモードを利用可能として、操作性を向上することができるという利点がある。
また、本実施形態においては、挿入部3の先端の移動量を検出することに加えて、挿入部3の先端に力センサ13を配置して、移動量の差分が閾値より大きくなるか、力センサ13により検出される接触圧力が閾値より大きくなるかのいずれかによって、制御部6が駆動部5の動作を制限することにしてもよい。このようにすることで、いずれかの検出が十分に行われない場合であっても、体内における挿入部3の異常な状態をより確実に操作者に認識させることができる。
また、移動量の差分が閾値より大きくなった場合と、力センサ13により検出される接触圧力が閾値より大きくなった場合とで、制御部6による駆動部5の動作の制限を段階的に切り替えることにしてもよい。また、移動量の差分が閾値より大きくなり、かつ、力センサ13により検出される接触圧力が閾値より大きくなった場合のみに、制御部6が駆動部5の動作を制限することにしてもよい。
また、例えば、大腸の観察時等の場合に、内視鏡4の先端に透明なキャップ15を被せ、該キャップ15を大腸の内壁に押しつけながら挿入部3を挿入する場合がある(図8参照。)。この場合には、挿入部3の基端側の移動量に関わらず、先端側の移動量が小さく、差分が大きくなるが、このために駆動部5の動作が制限されると不都合である。
そこで、力センサ13による接触圧力を判定する閾値を2段階(閾値XA,閾値XB,ただしXA<XB)設けてもよい。この場合の本実施形態に係るロボット支援型手術システム1の制御方法について、図9を参照して以下に説明すると,ステップS8までは前述の通りである。
そして、基端移動量と挿入部先端移動量の差分が大きい場合、異常な状態の可能性があるとして、操作者に報知後、先端にとりつけた力センサ13から先端接触圧力Xを取得する(ステップS12)。接触圧力が上記のような透明キャップ15の押し当て挿入時に想定される小さい方の閾値XAに達しない場合には、先端の透明なキャップ15に想定の力がかかっていないため、挿入部3の途中経路で臓器Aに力をかけてしまっている可能性があるとして、その旨を報知あるいは駆動部5の動作を制限してもよい。
力センサ13による接触圧力Xが臓器Aにかけてもよい圧力閾値XBを超えた場合には、透明キャップ15を臓器に押し当て過ぎている可能性があるとして、その旨を報知あるいは駆動部5の動作を制限することにしてもよい。つまり、先端の接触圧力Xによって選択肢を設定し(ステップS13)、XA≦X≦XBの場合には、想定の範囲として正常動作として認め、それ以外の場合には、操作者への報知あるいは駆動部駆動停止を行ってもよい(ステップS14)。
また、通常の状態では、撮像系8により得られた画像を処理して挿入部3の先端の移動量を算出し、撮像系8が近接視野となって、画像処理による移動量の算出が困難となる場合、例えば、撮像系8が体内組織に近接あるいは接触して画像全体が赤色になった場合等には、近接視野となったと判定して、力センサ13による接触圧力によって駆動部5の動作を制限することに切り替えてもよい。
また、画像処理による挿入部3の先端の移動量の算出に加えて、他のセンサ10による挿入部3の先端の移動量の算出を同時に行い、少なくとも一方の移動量と挿入部3の基端側の移動量との差分が閾値より大きくなったときに、制御部6が駆動部5の動作を制限することにしてもよい。このようにすることによっても、いずれかの検出が十分に行われない場合であっても、体内における挿入部3の異常な状態をより確実に操作者に認識させることができる。
また、本実施形態においては、単一の閾値により駆動部5の動作を制限するかしないかを切り替えることとしたが、これに代えて、複数の閾値により段階的に切り替えることにしてもよい。例えば、図7に示されるように、移動量の差分が第1の所定値を超えた場合(ステップS9)に、表示等によってその旨を操作者に報知し(ステップS10)、移動量の差分が第1の所定値より大きい第2の所定値を超えた場合(ステップS11)に、駆動部5による挿入部3の動作を制限することにしてもよい。
また、本実施形態においては、内視鏡4の挿入部3をそのまま、大腸等の臓器A内に挿入する場合について説明したが、これに代えて、図10に示されるように、臓器A内にオーバーチューブ14を挿入し、オーバーチューブ14内に内視鏡4の挿入部3を挿入する場合においても同様に適用してもよい。これにより、挿入部3がオーバーチューブ14とともに湾曲して、臓器A等に負担をかけてしまうことを防止することができる。
また、本実施形態においては、一定の時間内における挿入部3の先端の移動量と挿入部3の基端側の移動量との単純な差分に基づいて挿入部の状態を判定することとしたが、これに代えて、挿入部3の基端側の移動量と画像処理により得られた挿入部の先端の移動量に定数を乗算したものとの差分により判定してもよい。挿入部3の先端の移動量および基端側の移動量は、一定時間毎の積分値であってもよいし、駆動開始時からの積分値であってもよい。
1 ロボット支援型手術システム
2 操作部
3 挿入部
5 駆動部
6 制御部
7 表示部(報知部)
8 撮像系
9 画像処理部(先端移動量検出部)
10 センサ
11 被検出体
12 磁気センサ(体外センサ)
13 力センサ(力検出部)

Claims (17)

  1. 体内に挿入される細長いシャフトを有するとともに、体内の画像を取得する撮像系を先端に備える軟性の挿入部と、
    該挿入部の前記先端の移動量を検出する先端移動量検出部と、
    体外に配置され、操作者によって操作される操作部と、
    該操作部に入力された操作信号によって前記挿入部をその基端側において駆動する駆動部と、
    該駆動部を制御する制御部とを備え、
    該制御部が、前記先端移動量検出部により検出された前記挿入部の先端の移動量と、前記駆動部により移動させられた前記挿入部の基端側の移動量との差分を算出し、該差分が所定の閾値より大きい場合に、操作者にその旨を報知するロボット支援型手術システム。
  2. 前記先端移動量検出部が、前記撮像系により取得された体内の画像を処理して、前記挿入部の先端の移動量を算出する請求項1に記載のロボット支援型手術システム。
  3. 前記先端移動量検出部が、前記画像中における体内組織の特徴的な形状を有する部位を特徴部として設定し、該特徴部の移動量に基づいて挿入部の先端の移動量を算出する請求項2に記載のロボット支援型手術システム。
  4. 前記先端移動量検出部が、前記画像中における体内組織の特徴的な色を有する部位を特徴部として設定し、該特徴部の移動量に基づいて挿入部の先端の移動量を算出する請求項2に記載のロボット支援型手術システム。
  5. 前記先端移動量検出部が、前記挿入部の先端に取り付けられ、前記挿入部の先端の変位、速度または加速度を検出するセンサを備える請求項1から請求項4のいずれかに記載のロボット支援型手術システム。
  6. 前記先端移動量検出部が、前記挿入部の先端に取り付けられた被検出体と、体外に配置され、前記被検出体の移動を検出する体外センサとを備える請求項1から請求項4のいずれかに記載のロボット支援型手術システム。
  7. 前記制御部は、前記差分が所定の閾値より大きい場合に、音声、表示、光または振動によりその旨を操作者に報知する報知部を備える請求項1から請求項6のいずれかに記載のロボット支援型手術システム。
  8. 前記制御部は、前記差分が所定の閾値より大きい場合に、前記挿入部の動作を制限するよう前記駆動部を制御する請求項1から請求項6のいずれかに記載のロボット支援型手術システム。
  9. 前記制御部は、前記差分が所定の閾値より大きい場合に、前記挿入部の速度を低下させるよう前記駆動部を制御する請求項8に記載のロボット支援型手術システム。
  10. 前記制御部は、前記差分が第1の所定値より大きい場合に、前記報知部を作動させ、前記差分が第1の所定値より大きな第2の所定値より大きい場合に、前記挿入部の動作を制限するよう前記駆動部を制御する請求項7に記載のロボット支援型手術システム。
  11. 前記挿入部の前記先端に設けられ体内組織との接触圧力を検出する力検出部を備え、
    前記制御部は、前記先端移動量検出部により検出された前記挿入部の先端の移動量と、前記駆動部により移動させられた前記挿入部の基端側の移動量との差分が前記所定の閾値より大きい場合に操作者にその旨を報知するとともに、前記力検出部により検出された接触圧力が予め設定した2つの閾値で定められる想定圧力範囲外である場合に,前記挿入部の動作を制限するように前記駆動部を制御する請求項1から請求項6のいずれかに記載のロボット支援型手術システム。
  12. 体内に挿入される細長いシャフトを有するとともに、体内の画像を取得する撮像系を先端に備える軟性の挿入部と、
    該挿入部の前記先端の移動量を検出する先端移動量検出部と、
    前記挿入部の前記先端に設けられ、体内組織との接触圧力を検出する力検出部と、
    体外に配置され、操作者によって操作される操作部と、
    該操作部に入力された操作信号によって前記挿入部をその基端側において駆動する駆動部と、
    該駆動部を制御する制御部とを備え、
    該制御部が、前記先端移動量検出部により検出された前記挿入部の先端の移動量と、前記駆動部により移動させられた前記挿入部の基端側の移動量との差分を算出し、該差分が所定の移動量閾値より大きい場合、または、前記力検出部により検出された接触圧力が所定の力閾値より大きい場合に、操作者にその旨を報知するロボット支援型手術システム。
  13. 前記先端移動量検出部が、前記撮像系により取得された体内の画像を処理して、前記挿入部の先端の移動量を算出する請求項12に記載のロボット支援型手術システム。
  14. 前記制御部が、前記画像を処理して、前記撮像系が体内組織に対して近接視野であるか否かを判定し、近接視野であると判定された場合に力検出部により検出された接触圧力に基づいて操作者に報知する請求項13に記載のロボット支援型手術システム。
  15. 体内に挿入され体内の画像を取得する細長い軟性の挿入部をその基端側において駆動し、
    前記挿入部の先端の移動量を検出し、
    検出された前記挿入部の先端の移動量と、前記挿入部の基端側の移動量との差分を算出し、
    該差分が所定の閾値より大きい場合に、操作者にその旨を報知するよう前記挿入部の基端側における駆動を制御するロボット支援型手術システムの制御方法。
  16. 取得された画像を処理して、前記挿入部の先端の移動量を算出する請求項15に記載のロボット支援型手術システムの制御方法。
  17. 前記差分が所定の閾値より大きい場合に、前記挿入部の動作を制限するよう制御する請求項15または請求項16に記載のロボット支援型手術システムの制御方法。
JP2015531382A 2013-02-05 2014-01-29 ロボット支援型手術システムとその作動方法 Active JP6033444B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201361760718P 2013-02-05 2013-02-05
US61/760,718 2013-02-05
PCT/JP2014/052595 WO2014123130A1 (en) 2013-02-05 2014-01-29 Robotic-assisted surgical system and control method thereof

Publications (2)

Publication Number Publication Date
JP2016505279A true JP2016505279A (ja) 2016-02-25
JP6033444B2 JP6033444B2 (ja) 2016-11-30

Family

ID=51299722

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015531382A Active JP6033444B2 (ja) 2013-02-05 2014-01-29 ロボット支援型手術システムとその作動方法

Country Status (5)

Country Link
US (1) US20150313446A1 (ja)
EP (1) EP2953520A4 (ja)
JP (1) JP6033444B2 (ja)
CN (1) CN104968252A (ja)
WO (1) WO2014123130A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018029962A1 (ja) * 2016-08-08 2019-06-06 ソニー株式会社 内視鏡装置及び内視鏡装置の制御方法
JP2020505211A (ja) * 2017-02-01 2020-02-20 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 画像誘導処置のためのレジストレーションシステム及び方法

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150099925A1 (en) * 2013-10-03 2015-04-09 Endochoice, Inc. Endoscope with Integrated Sensors
WO2017115425A1 (ja) * 2015-12-28 2017-07-06 オリンパス株式会社 医療用マニピュレータシステム
JP6554609B2 (ja) * 2016-06-20 2019-07-31 オリンパス株式会社 可撓管挿入装置
CN106236273B (zh) * 2016-08-31 2019-06-25 北京术锐技术有限公司 一种手术机器人的成像工具展开控制系统
BR112020015940A2 (pt) * 2018-02-08 2020-12-15 Koninklijke Philips N.V. Sonda de ecocardiografia transesofágica e método para controlar uma sonda de ecocardiograma transesofágico sem fio
EP3782531A4 (en) 2018-04-19 2021-05-26 FUJIFILM Corporation ENDOSCOPE DEVICE, ENDOSCOPE OPERATING PROCESS AND PROGRAM
EP3666210B1 (de) * 2018-12-14 2024-02-21 Siemens Healthineers AG Planungsunterstützung für einen interventionellen eingriff sowie entsprechende geräte und computerprogramme
CN112336295A (zh) * 2019-08-08 2021-02-09 上海安翰医疗技术有限公司 磁性胶囊内窥镜的控制方法、装置、存储介质、电子装置
JP7335157B2 (ja) * 2019-12-25 2023-08-29 富士フイルム株式会社 学習データ作成装置、学習データ作成装置の作動方法及び学習データ作成プログラム並びに医療画像認識装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01148232A (ja) * 1987-12-04 1989-06-09 Olympus Optical Co Ltd 内視鏡自動挿入装置
JPH06217931A (ja) * 1993-01-28 1994-08-09 Olympus Optical Co Ltd 体内挿入補助具
JP2007135783A (ja) * 2005-11-16 2007-06-07 Olympus Medical Systems Corp 挿入モニタリング装置
JP2007319547A (ja) * 2006-06-02 2007-12-13 Olympus Medical Systems Corp 回転自走式内視鏡システム
JP2010240000A (ja) * 2009-04-01 2010-10-28 Hoya Corp 画像処理装置、画像処理方法、およびシステム
WO2010150697A1 (ja) * 2009-06-23 2010-12-29 オリンパスメディカルシステムズ株式会社 医療システム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6217931A (ja) * 1985-07-15 1987-01-26 Mitsubishi Electric Corp イオン源
US4982725A (en) * 1989-07-04 1991-01-08 Olympus Optical Co., Ltd. Endoscope apparatus
US6594552B1 (en) * 1999-04-07 2003-07-15 Intuitive Surgical, Inc. Grip strength with tactile feedback for robotic surgery
US6610007B2 (en) * 2000-04-03 2003-08-26 Neoguide Systems, Inc. Steerable segmented endoscope and method of insertion
IL147221A (en) * 2001-12-20 2010-11-30 Given Imaging Ltd Device, system and method for image based size analysis
US8118732B2 (en) * 2003-04-01 2012-02-21 Boston Scientific Scimed, Inc. Force feedback control system for video endoscope
US8021356B2 (en) * 2003-09-29 2011-09-20 Olympus Corporation Capsule medication administration system, medication administration method using capsule medication administration system, control method for capsule medication administration system
US7752920B2 (en) * 2005-12-30 2010-07-13 Intuitive Surgical Operations, Inc. Modular force sensor
US8945095B2 (en) * 2005-03-30 2015-02-03 Intuitive Surgical Operations, Inc. Force and torque sensing for surgical instruments
JP4789545B2 (ja) * 2005-08-25 2011-10-12 オリンパスメディカルシステムズ株式会社 内視鏡挿入形状解析装置
US7582055B2 (en) * 2006-08-09 2009-09-01 Olympus Medical Systems Corp. Endoscope system
EP2626030A3 (en) * 2007-08-14 2017-03-08 Koninklijke Philips N.V. Robotic instrument systems and methods utilizing optical fiber sensors
JP5139194B2 (ja) * 2008-08-06 2013-02-06 オリンパスメディカルシステムズ株式会社 能動医療機器システム
US8338566B2 (en) * 2009-02-18 2012-12-25 University Of Maryland, College Park Office Of Technology Commercialization Characterization of BBK07 antigen of Borrelia burgdorferi and methods of use
EP2424422B1 (en) * 2009-04-29 2019-08-14 Koninklijke Philips N.V. Real-time depth estimation from monocular endoscope images
US8918212B2 (en) * 2009-06-24 2014-12-23 Intuitive Surgical Operations, Inc. Arm with a combined shape and force sensor
CN101653353B (zh) * 2009-08-28 2010-12-01 哈尔滨工业大学 连续体型半自主式内窥镜机器人
US20110071541A1 (en) * 2009-09-23 2011-03-24 Intuitive Surgical, Inc. Curved cannula
WO2012027581A2 (en) * 2010-08-27 2012-03-01 Massachusetts Institute Of Technology Tip actuated disposable endoscope
CA2817350A1 (en) * 2010-11-11 2012-06-14 Medrobotics Corporation Introduction devices for highly articulated robotic probes and methods of production and use of such probes
JP5816457B2 (ja) * 2011-05-12 2015-11-18 オリンパス株式会社 術具装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01148232A (ja) * 1987-12-04 1989-06-09 Olympus Optical Co Ltd 内視鏡自動挿入装置
JPH06217931A (ja) * 1993-01-28 1994-08-09 Olympus Optical Co Ltd 体内挿入補助具
JP2007135783A (ja) * 2005-11-16 2007-06-07 Olympus Medical Systems Corp 挿入モニタリング装置
JP2007319547A (ja) * 2006-06-02 2007-12-13 Olympus Medical Systems Corp 回転自走式内視鏡システム
JP2010240000A (ja) * 2009-04-01 2010-10-28 Hoya Corp 画像処理装置、画像処理方法、およびシステム
WO2010150697A1 (ja) * 2009-06-23 2010-12-29 オリンパスメディカルシステムズ株式会社 医療システム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2018029962A1 (ja) * 2016-08-08 2019-06-06 ソニー株式会社 内視鏡装置及び内視鏡装置の制御方法
US11266295B2 (en) 2016-08-08 2022-03-08 Sony Corporation Endoscope apparatus and control method of endoscope apparatus
JP2020505211A (ja) * 2017-02-01 2020-02-20 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 画像誘導処置のためのレジストレーションシステム及び方法
US11517184B2 (en) 2017-02-01 2022-12-06 Intuitive Surgical Operations, Inc. Systems and methods of registration for image-guided procedures
JP7213830B2 (ja) 2017-02-01 2023-01-27 インテュイティブ サージカル オペレーションズ, インコーポレイテッド 画像誘導処置のためのレジストレーションシステム及び方法

Also Published As

Publication number Publication date
EP2953520A4 (en) 2016-11-09
CN104968252A (zh) 2015-10-07
EP2953520A1 (en) 2015-12-16
WO2014123130A1 (en) 2014-08-14
JP6033444B2 (ja) 2016-11-30
US20150313446A1 (en) 2015-11-05

Similar Documents

Publication Publication Date Title
JP6033444B2 (ja) ロボット支援型手術システムとその作動方法
US11490793B2 (en) Medical system with multiple operating modes for steering a medical instrument through linked body passages
US8497898B2 (en) Endoscope system and low visibility determining method
JP5085662B2 (ja) 内視鏡システム
EP2583616B1 (en) Endoscope
US20190022857A1 (en) Control apparatus and control method
CN108778085B (zh) 图像处理设备、内窥镜手术系统以及图像处理方法
CN110769737B (zh) 插入辅助装置、工作方法和包括插入辅助装置的内窥镜装置
EP2798999B1 (en) Insertion device system
JP6450859B2 (ja) 可撓管挿入装置
US8795157B1 (en) Method and system for navigating within a colon
US9603507B2 (en) Insertion device
JP5841366B2 (ja) 医療装置
WO2019003272A1 (ja) 可撓管挿入装置、挿入制御装置及び挿入制御プログラム
US20120238807A1 (en) Endoscopy system
US10251536B2 (en) Medical instrument, medical system, and mode transition method for medical instruments
JP5932174B1 (ja) 内視鏡システム
US8888685B2 (en) Medical system
US10959787B2 (en) Medical manipulator system
US20190274520A1 (en) Information presentation system
JP2005334472A (ja) 医療システム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160628

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160825

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161025

R151 Written notification of patent or utility model registration

Ref document number: 6033444

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250