JP5761900B2 - 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ - Google Patents

手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ Download PDF

Info

Publication number
JP5761900B2
JP5761900B2 JP2009136898A JP2009136898A JP5761900B2 JP 5761900 B2 JP5761900 B2 JP 5761900B2 JP 2009136898 A JP2009136898 A JP 2009136898A JP 2009136898 A JP2009136898 A JP 2009136898A JP 5761900 B2 JP5761900 B2 JP 5761900B2
Authority
JP
Japan
Prior art keywords
simulated
surgical
organ
simulation model
membrane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2009136898A
Other languages
English (en)
Other versions
JP2010279631A (ja
Inventor
窪田 吉信
吉信 窪田
和秀 槙山
和秀 槙山
孝明 菊川
孝明 菊川
長坂 学
学 長坂
英男 坂本
英男 坂本
正人 緒方
正人 緒方
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Precision Co Ltd
Original Assignee
Mitsubishi Precision Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Precision Co Ltd filed Critical Mitsubishi Precision Co Ltd
Priority to JP2009136898A priority Critical patent/JP5761900B2/ja
Priority to US13/376,697 priority patent/US9214095B2/en
Priority to PCT/JP2010/059887 priority patent/WO2010143699A1/ja
Publication of JP2010279631A publication Critical patent/JP2010279631A/ja
Application granted granted Critical
Publication of JP5761900B2 publication Critical patent/JP5761900B2/ja
Priority to US14/930,914 priority patent/US20160063729A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/802D [Two Dimensional] animation, e.g. using sprites
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • G06T7/248Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B23/00Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes
    • G09B23/28Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes for medicine
    • G09B23/285Models for scientific, medical, or mathematical purposes, e.g. full-sized devices for demonstration purposes for medicine for injections, endoscopy, bronchoscopy, sigmoidscopy, insertion of contraceptive devices or enemas
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/10Computer-aided planning, simulation or modelling of surgical operations
    • A61B2034/101Computer-aided simulation of surgical operations
    • A61B2034/105Modelling of the patient, e.g. for ligaments or bones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • General Health & Medical Sciences (AREA)
  • Radiology & Medical Imaging (AREA)
  • Mathematical Physics (AREA)
  • Computational Mathematics (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Business, Economics & Management (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computer Graphics (AREA)
  • Mathematical Optimization (AREA)
  • Pulmonology (AREA)
  • Mathematical Analysis (AREA)
  • Chemical & Material Sciences (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Medicinal Chemistry (AREA)
  • Algebra (AREA)
  • Multimedia (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Biology (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Processing Or Creating Images (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Generation (AREA)
  • Instructional Devices (AREA)

Description

本発明は、内視鏡下で手術をする前に手術シミュレーションをするための手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータに関するものである。
医療技術と医療機器の進歩により、腹部手術の多くが腹腔鏡下に行われるようになってきた。腹腔鏡下手術は、3次元のものを2次元の画像表示装置を見ながら操作するので、その習得にはトレーニングが不可欠である。実際の腹腔鏡手術では患者毎に血管の本数や走行、臓器の位置関係、例えば腫瘍の位置や大きさが異なり、それぞれに対応した手術が要求される。
術前のシミュレーションを可能とするため、個々の患者の情報をもとにシミュレータが考えられる。
個々の患者の情報を取り入れるためには、CTやMRI等の医用画像データを用いるのが一般的であるが、このような画像には手術臓器周辺にある膜組織が映らないため認識できず、モデル化できない等の問題があり、それらを持たないモデルは術前シミュレーションとして不完全である。また、手術対象臓器の物理・力学的条件を線形に設定することが考えられるが、この場合は臓器の変形模擬が実際とは大きく異なることとなり、術前シミュレーションとして不満足なものであった。
本発明が解決しようとする課題は、医用画像から手術状況に即したシミュレーション用モデルの生成方法、さらには手術シミュレーション方法、並びに手術シミュレータを提供するものである。
請求項1に係る手術シミュレーション用モデルの生成方法は、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、必要な臓器の3次元ボリュームデータを構築する第1の過程と、第1の過程の後、生成された3次元ボリュームデータの臓器をボリュームデータ構築部においてメッシングする第2の過程と、第2の過程によりメッシングされた所定臓器を覆う複数層の模擬膜をボリュームデータ構築部において形成する第3の過程と、ボリュームデータ構築部において、第2の過程によりメッシングされた所定臓器の表面各節点から所定方向に仮想線を延ばし、前記仮想線と前記第3の過程により形成した模擬膜との交点による膜面用節点を形成し、各仮想線について前記所定臓器の表面各節点と膜面用節点及び膜面用節点間を接続する仮想膜間用バネを配置し、各模擬膜面について前記膜面用節点間をメッシュ形成するように面方向バネを配置する第4の過程とからなることを特徴とするものである。
請求項2に係る手術シミュレーション用モデルの生成方法は、請求項1に記載のものにおいて、所定臓器を覆う模擬膜と所定臓器の間隔が異なる部分を有することを特徴とするものである。
請求項3に係る手術シミュレーション用モデルの生成方法は、請求項1又は請求項2記載のものにおいて、所定臓器を覆う複数層の模擬膜の間隔を各層間で異なる部分を有することを特徴とするものである。
請求項4に係る手術シミュレーション用モデルの生成方法は、請求項1又は2又は3に記載のものにおいて、各節点間に接続配置した仮想膜間用バネのバネ定数が異なるものを有することを特徴とするものである。
請求項5に係る手術シミュレーション用モデルの生成方法は、請求項1又は2又は3又は4に記載のものにおいて、各節点間に接続配置した各面方向バネのバネ定数が異なるものを有することを特徴とするものである。
請求項6に係る手術シミュレーション用モデルの生成方法は、請求項1又は2又は3又は4又は5に記載のものにおいて、各節点間に接続配置した仮想膜間用バネと面方向バネが所定の張力又は伸びにより切断する物理定数を備えたことを特徴とするものである。
請求項に係る手術シミュレーション方法は、力覚装置が、手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚模擬過程と、模擬運動演算装置が、手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、必要な臓器の3次元ボリュームデータとして構築された臓器及び当該臓器の周りを覆う複数層の模擬膜である模擬生体の力学的性質を設定した手術シミュレーション用モデルデータを得て前記力覚模擬過程による手術操作具の移動及び手術操作具と前記臓器及び複数層の模擬膜である模擬生体との接触による反力を計算して前記力覚模擬過程に与えるとともに前記臓器及び複数層の模擬膜である模擬生体の反応との運動とを計算する模擬運動演算過程と、画像生成装置が、模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成過程と、画像表示装置が、前記画像生成過程により生成された画像を表示する画像表示過程とからなることを特徴とするものである。
請求項に係る手術シミュレータは、手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層して3次元ボリュームデータとして構築された臓器及び当該臓器の周りを覆う複数層の模擬膜である模擬生体の力学的性質を設定した手術シミュレーション用モデルデータを得て、格納する手術シミュレーション用モデルデータ部と、手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚装置と、前記手術シミュレーション用モデルデータ部から手術シミュレーション用モデルデータを得て前記力覚装置による手術操作具の移動及び手術操作具と前記臓器及び複数層の模擬膜である模擬生体との接触による反力を計算して前記力覚装置に与えるとともに前記臓器及び複数層の模擬膜である模擬生体の反応との運動とを計算する模擬運動演算装置と、前記模擬運動演算装置が計算し模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成装置と、前記画像生成装置により生成された画像を表示する画像表示装置とからなることを特徴とするものである。
請求項に係る手術シミュレータは、請求項記載のものにおいて、手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの所定臓器を覆う模擬膜と所定臓器の間隔が異なる部分を有することを特徴とするものである。
請求項10に係る手術シミュレータは、請求項又は請求項記載のものにおいて、手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの所定臓器を覆う複数層の模擬膜の間隔を各層間で異なる部分を有することを特徴とするものである。
請求項11に係る手術シミュレータは、請求項又は又は10に記載のものにおいて、手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの各節点間に接続配置した仮想膜間用バネのバネ定数が異なるものを有することを特徴とするものである。
請求項12に係る手術シミュレータは、請求項又は又は10又は11に記載のものにおいて、手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの各節点間に接続配置した各面方向バネのバネ定数が異なるものを有することを特徴とするものである。
請求項13に係る手術シミュレータは、請求項又は又は10又は11又は12に記載のものにおいて、手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの各節点間に接続配置した仮想膜間用バネと面方向バネが所定の張力又は伸びにより切断する物理定数を備えたことを特徴とするものである。
請求項14に係る手術シミュレータは、請求項13に記載のものにおいて、力覚装置により反力を発生する対象の手術操作具が模擬鉗子であり、模擬鉗子で模擬膜を引っ張り所定の張力又は伸びによりバネが切断され模擬膜を剥がす感覚を模擬鉗子に与えることを特徴とするものである。
請求項15に係る手術シミュレータは、請求項14に記載のものにおいて、模擬膜を引っ張るときの張力を模擬鉗子に力覚装置を介してフィードバックすることにより与えることを特徴とするものである。
請求項1に係る手術シミュレーション用モデルの生成方法によると、メッシングされた所定臓器を複数層の模擬膜で覆うから、膜を再現することができ、メッシングされた所定臓器の表面各節点から所定方向に仮想線を延ばし、前記仮想線と膜との交点による膜面用節点を形成し、各仮想線について前記所定臓器の表面各節点と膜面用節点及び膜面用節点間を接続する仮想膜間用バネを配置するから、臓器と膜間及び各膜間でバネの弾性が働き、各模擬膜面について前記膜面用節点間をメッシュ形成するように面方向バネを配置するから各模擬膜面内でバネの弾性が働き、膜の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にするモデルを生成することができる。
請求項2に係る手術シミュレーション用モデルの生成方法によると、所定臓器を覆う模擬膜と所定臓器の間隔が異なる部分を有することにより、膜の変形模擬を種種に変化させるモデルを生成することができる。
請求項3に係る手術シミュレーション用モデルの生成方法によると、所定臓器を覆う複数層の模擬膜の間隔を各層間で異なる部分を有することにより、膜の変形模擬を種種に変化させるモデルを生成することができる。
請求項4に係る手術シミュレーション用モデルの生成方法によると、各節点間に接続配置した仮想膜間用バネのバネ定数を異ならせるから、膜に力を加えたときに仮想線方向に膜の各部で一様に変化するのでなく、異ならせたバネ定数に応じた変化をするモデルを生成することができる。
請求項5に係る手術シミュレーション用モデルの生成方法によると、各節点間に接続配置した各面方向バネのバネ定数を異ならせるから、膜に異方性を持たせることができ、膜に力を加えたときに膜面内で一様に変化するのでなく、異ならせたバネ定数に応じた変化をするモデルを生成することができる。
請求項6に係る手術シミュレーション用モデルの生成方法によると、各節点間に接続配置した仮想膜間用バネと面方向バネが所定の張力又は伸びにより切断する物理定数を備えるから、膜に力を加えたとき、膜が剥がれるように切断模擬をするモデルを生成することができる。
請求項に係る手術シミュレーション方法によると、模擬運動演算過程が、手術シミュレーション用モデルデータを得て力覚模擬過程による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して力覚過程に与えるとともに模擬生体の反応との運動とを計算する。このとき、手術シミュレーション用モデルデータは手術対象である臓器にそれを覆う複数層の模擬膜組織を備え当該臓器及び模擬膜の生体組織の力学的性質を設定してあるから、臓器と膜間及び各膜間でバネの弾性が働き、各模擬膜面について膜面用節点間をメッシュ形成するように面方向バネを配置するから各模擬膜面内でバネの弾性が働き、膜の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを可能にする。
請求項に係る手術シミュレータによると、模擬運動演算装置が、手術シミュレーション用モデルデータを得て力覚装置による手術操作具の移動及び手術操作具と模擬生体との接触による反力を計算して力覚装置に与えるとともに模擬生体の反応との運動とを計算する。このとき、手術シミュレーション用モデルデータは手術対象である臓器にそれを覆う複数層の模擬膜組織を備え当該臓器及び模擬膜の生体組織の力学的性質を設定してあるから、臓器と膜間及び各膜間でバネの弾性が働き、各模擬膜面について膜面用節点間をメッシュ形成するように面方向バネを配置するから各模擬膜面内でバネの弾性が働き、膜の変形模擬精度を向上させることができ、訓練効果の高い手術シミュレーションを行うことができる。
請求項に係る手術シミュレータによると、手術シミュレーション用モデルデータにおいて所定臓器を覆う模擬膜と所定臓器の間隔が異なる部分を有するから、模擬運動演算装置の演算により、膜の変形模擬を種種に変化させることができる。
請求項10に係る手術シミュレータによると、手術シミュレーション用モデルデータにおいて所定臓器を覆う複数層の模擬膜の間隔を各層間で異なる部分を有するから、模擬運動演算装置の演算により、膜の変形模擬を種種に変化させることができる。
請求項11に係る手術シミュレータによると、手術シミュレーション用モデルデータにおいて各節点間に接続配置した仮想膜間用バネのバネ定数を異ならせるから、模擬運動演算装置の演算により、膜に力を加えたときに仮想線方向に膜の各部で一様に変化するのでなく、異ならせたバネ定数に応じた変化をさせることができる。
請求項12に係る手術シミュレータによると、手術シミュレーション用モデルデータにおいて各節点間に接続配置した各面方向バネとバネ定数を異ならせるから、模擬運動演算装置の演算により、膜に力を加えたときに膜面内で一様に変化するのでなく、異ならせたバネ定数に応じた変化をさせることができる。
請求項13に係る手術シミュレータによると、手術シミュレーション用モデルデータにおいて各節点間に接続配置した仮想膜間用バネと面方向バネが所定の張力又は伸びにより切断する物理定数を備えるから、模擬運動演算装置の演算により、膜に力を加えたとき、膜が剥がれるように切断模擬をすることができる。
請求項14に係る手術シミュレータによると、模擬鉗子で模擬膜を引っ張り所定の張力又は伸びによりバネが切断され模擬膜を剥がす感覚を模擬鉗子に与えるから、膜に力を加えたとき、膜が剥がれるように切断模擬をすることができる。
請求項15に係る手術シミュレータによると、模擬膜を引っ張るときの張力を模擬鉗子に力覚装置を介してフィードバックすることにより与えるから、より実感のある模擬を行うことができ、訓練効果の高い手術シミュレーションを行うことができる。
図1は手術シミュレーション用モデルの生成方法の第1の実施例を説明するフロー図である。 図2は手術シミュレーション用モデルの生成方法の第2の実施例を説明するフロー図である。 図3は手術シミュレーション方法の第1の実施例を説明するフロー図である。 図4は手術シミュレーション方法の第2の実施例を説明するフロー図である。 図5は手術シミュレータの実施例を説明する機能ブロック図である。 図6は膜構造を説明する図である。 図7は臓器の有限要素モデルを説明する図である。 図8は仮想バネの特性を説明する図である。 図9は<K>,<K(<U>)>,<U>の関係を示す図である。
図1は手術シミュレーション用モデルの生成方法の第1の実施例を説明するフロー図、図2は手術シミュレーション用モデルの生成方法の第2の実施例を説明するフロー図、図3は手術シミュレーション方法の第1の実施例を説明するフロー図、図4は手術シミュレーション方法の第2の実施例を説明するフロー図、図5は手術シミュレータの実施例を説明する機能ブロック図である。
図5において、501は医療用画像データ格納部、502はボリュームデータ構築部、503は画像生成装置、504は画像表示装置、505は手術シミュレーション用モデルデータ部、506は力覚装置、507は模擬運動演算装置、508は手術操作具、509は模擬内視鏡、510は模擬鉗子である。
まず、手術シミュレーション用モデルの生成方法を説明する。
医療用画像データ格納部501は例えば手術対象者の医療用画像の元データが格納されている。医療用画像の元データは、例えばCT,MRI等で撮像されている。医療用画像データは、ボリュームデータ構築部502において、画像生成装置503により画像生成される。これは、画像表示装置504に表示しながら、手術対象者の断面を細かくスライスし、臓器を含む生体の部位を撮影した医療用画像データの幾何学的な情報に基づき、生体の各部位(臓器)を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、3次元ボリュームデータを構成する(図1のP101)。3次元ボリュームデータは医療用画像データ格納部501の医療用画像の元データとは別の記憶領域に格納される。
操作者は、手術対象者の医療用画像データを医療用画像データ格納部501から読み出す。ボリュームデータ構築部502、画像生成装置503は読み出された目的の臓器を含む所定範囲の各臓器を抜き出し所定の位置関係で画像表示装置504に表示する。操作者は画像表示装置504に表示された臓器の中から目的の臓器を必要により移動・回転させる。
ボリュームデータには、臓器毎にIDが割り振られており、元のボリュームデータを
ID=F(x,y,z)、処理後をID=G(x,r,z)とかける。この移動・姿勢変換を行列RIDで表すと、FとGの関係は、RIDF=Gとなるので、G=RID −1FとしてGを求めることができる。この移動位置データは、手術シミュレーション用モデルデータ部505に記録される。
次に目的の臓器の前記移動に合わせて目的の臓器に連結する他の臓器を生成する。この他の臓器モデルデータは、手術シミュレーション用モデルデータ部505に記録される。
次に、ボリュームデータに対し、幾何情報を入力情報とし、解剖学的性質を元に、プログラムにより、四面体にメッシングして有限要素モデルを生成する(図1のP102)。
次に、ボリュームデータに対し、幾何情報を入力情報とし、解剖学的性質を元に、厚さを決定し、指定した臓器の周りに膜モデルを生成させる(図1のP103)。膜は、所定の臓器の周りに複数層で形成する。この膜は、所定臓器と膜及び各膜間の間隔を一定の距離又は間隔が異なる部分を有するように適当に配置する(図1のP103a,P103b)。
図6に示すように、過程P102でメッシングされた所定臓器601の表面各節点602a,602b,602c…から例えば法線方向に仮想線603a,603b,603c…を延ばし、前記仮想線603a,603b,603c…と過程P103により形成した模擬膜604a,604b,604c…との交点による膜面用節点605a,605b,605c…を形成し、この各仮想線603a,603b,603c…について前記所定臓器601の表面各節点602a,602b,602c…と膜面用節点605a,605b,605c…及び膜面用節点間を接続する仮想膜間用バネ606a,606b,606c…を配置し、さらに、各膜604a,604b,604c…の各面について前記膜面用節点605a,605b,605c…の間をメッシュ形成するように面方向バネ607a,607b,607c…を配置する(図1のP104)。仮想膜間用バネ606a,606b,606c…、面方向バネ607a,607b,607c…はバネモデルにより形成する。
このとき、各節点間に接続配置した仮想膜間用バネ606a,606b,606c…のバネ定数kが異なるもの(k=k1,k2…)を有するようにし、また、面方向バネ607a,607b,607c…のバネ定数Kが異なるもの(K=K1,K2…)を有するようにしてもよい(図1のP104a,P104b)。
そして、各節点間に接続配置した仮想膜間用バネ606a,606b,606c…と面方向バネ607a,607b,607c…に所定の張力又は伸びにより切断する物理定数を備えさせることもできる(図1のP104c)。
これら手術シミュレーション用モデルデータは手術シミュレーション用モデルデータ部505に記録格納される。
次に、所定の臓器の大変形に対し高精度に模擬できることを意図した手術シミュレーション用モデルの生成法について図2により説明する。
図2において、過程P201,P202の内容は、図1における過程101,P102と同様である。
次に、過程P203において、四面体にメッシングした所定臓器の有限要素モデルについて、メッシングにより接続する各節点間を仮想バネ701a,701b,701c…により形成しこれを配置する(図7)。仮想バネ701a,701b,701c…は、バネモデルにより形成し、臓器内部の節点間についても、実施例1と同様にバネ定数が異なるものを含むように構成することができる。また、各節点間に接続配置した仮想バネ701a,701b,701c…に所定の張力又は伸びにより切断する物理定数を備えさせることもできる。このとき、各仮想バネ701a,701b,701c…の加える力と伸びに対する特性が直線でなく、一つのバネが例えば図8のように上に凸の非線形のものとし、所定の張力又は伸びにより切断するものとする。
これら手術シミュレーション用モデルデータは手術シミュレーション用モデルデータ部505に記録格納される。
次に、実施例1において構成した手術シミュレーション用モデルデータを用いてシミュレーションを行うこと及びその実施するため装置について説明する。実施例装置は図5で説明した装置が用いられる。
手術対象である臓器にそれを覆う複数層の模擬膜組織を備え当該臓器及び模擬膜の生体組織の力学的性質を設定した手術シミュレーション用モデルデータを手術シミュレーション用モデルデータ部505から読み出し、画像生成装置503で当該臓器を含む画像を生成し、画像表示装置504で表示する。
手術者が手術操作具508の一つである模擬鉗子510を操作して、模擬生体である模擬膜に接触し、模擬鉗子510の狭持面で模擬膜を引っ張る。模擬鉗子510の位置と模擬膜との接触位置に応じた反力を力覚装置506により発生され、力覚装置506を介して模擬鉗子510にフィードバックされる。(P301)
模擬鉗子510に与えられる反力は、仮想膜間用バネ606a,606b,606c…、面方向バネ607a,607b,607c…のバネ定数と模擬鉗子510の移動位置とにより、模擬運動演算装置507が計算し、力覚装置506に引っ張り力を発生させて、模擬する。このとき、模擬膜をはさむ模擬鉗子510の狭持面の位置により模擬鉗子のグリップ力が異なり、このグリップ力は、模擬運動演算装置507により計算される。模擬鉗子510が膜を引っ張りときの模擬膜の伸び又は張力が所定以上に達すると仮想膜間用バネ606a,606b,606c…、面方向バネ607a,607b,607c…が切断し、模擬膜が剥がれることを模擬することができる。(P302)
手術シミュレーションの間、画像生成装置503は、模擬運動演算装置507が計算する模擬鉗子510と模擬膜との移動運動に基づく位置により、模擬内視鏡から撮像したように模擬膜を含む模擬生体と模擬鉗子を含む手術操作具508の運動模擬画像を生成する。(P303)
この模擬画像は、画像表示装置504に表示され、手術者はこの画像を見ながら、手術シミュレーションを行う。(P304)
次に、実施例2において構成した手術シミュレーション用モデルデータを用いてシミュレーションを行うこと及びその実施するため装置について説明する。実施例装置は図5で説明した装置が用いられる。
手術対象である臓器にメッシングにより接続する各節点間を仮想バネで形成配置する手術シミュレーション用モデルデータを手術シミュレーション用モデルデータ部505から読み出し、画像生成装置503で当該臓器を含む画像を生成し、画像表示装置504で表示する。
手術者が手術操作具508の一つである模擬鉗子510を操作して、模擬生体である臓器に接触し、模擬鉗子510の狭持面で模擬臓器を押す又は引っ張る。模擬鉗子510の位置と模擬臓器との接触位置に応じた反力を力覚装置506により発生される。(P401)
模擬鉗子510に与えられる反力は、バネ定数が非線形に設定されている仮想バネ701a,701b,701c…のバネ定数と模擬鉗子の移動位置とにより、模擬運動演算装置507が計算し、力覚装置506に圧縮力又は引っ張り力を発生させて、模擬する。このとき、模擬膜をはさむ模擬鉗子の狭持面の位置により模擬鉗子のグリップ力が異なり、このグリップ力は、模擬運動演算装置507により計算される。
高精度に生体の変形を模擬するために、主要臓器の変形モデルに、非線形FEM(有限要素法)を用いる。
非線形処理を、区分的に線形化することにより、実時間で、非線形処理を行う。従来の線形計算モデルは、変位が少ないことを前提として、変位ベクトルを<U>、質量マトリクスを<M>、粘性抵抗マトリクスを<C>、剛性マトリクスを<K>、外力を<f>としたとき以下の絶対表示で示される。(本明細書で、<a>はaのベクトル、マトリクスを表示し、太字とともに用いる。)

Figure 0005761900
これを、剛性マトリクス<K>が変位<U>の関数である<K(<U>)>とした次の非線形モデルとする。

Figure 0005761900
(区分的に線形化すること)
今、物体(臓器等)に鉗子等の模擬術具(手術操作具)により力を加えたとする。すると、物体が変形して応力を発生しこの表面力と、模擬術具による力が釣り合った状態で変形が止まり、平衡状態に達する。ここで、更に力を加えると、次の釣り合う表面力を発生するまで変形し、次の平衡状態で安定する。実時間の処理では、これを、高速に繰り返している。
このような動的な計算を想定した場合、1フレーム前の剛性マトリクス(応力発生の元となる情報)と現在の剛性マトリクスの差は少ないと考えられる(即ち、区分的には線形化される)。特に、手術シミュレータでは操作が比較的緩やかである。従って、1フレーム前の位置(<U>k−1)に対応する剛性マトリクス<K>、とΔ<u> を用いて、

Figure 0005761900

から得られる。
従って、処理は、
Figure 0005761900

処理(1)から処理(7)全体を式(4)とする。
但し、添え字kは計算時刻、αはi番目の要素の加速度、fは同外力、vは同速度、uは同変位、Kfiは剛性力である。図9に<K>,<K(<U>)>,<U>の関係を示す。また、<U>は、各要素に対応したu を積み重ねて、

=(u ,u ,…u ) (5)

としたものである。但し、Nは有限要素数である。
処理(6)におけるK をu を用いて計算することは、以下の式を用いる。
はKと表示して、
Figure 0005761900
ここで、<B(<x>)>は歪みテンソルと変位(節点1から節点nの変位)とを(歪みテンソル)=(形状マトリクス)・(変位)として関係付ける形状マトリクス、<D>は応力テンソルと歪みテンソルとを(応力テンソル)=(物性マトリクス)・(歪みテンソル)として関係付ける物性マトリクスである。
上記式(4)の処理により、形状に応じた剛性マトリクス<K>の再構成と、模擬運動演算装置507上での更新を、実時間で実施する。(P403)
手術シミュレーションの間、画像生成装置503は、模擬運動演算装置507が計算する模擬鉗子510と模擬臓器との移動運動に基づく位置により、模擬内視鏡から撮像したように模擬臓器を含む模擬生体と模擬鉗子を含む手術操作具508の運動模擬画像を生成する。(P403)
この模擬画像は、画像表示装置504に表示され、手術者はこの画像を見ながら、手術シミュレーションを行う。(P404)
501:医療用画像データ格納部、502:ボリュームデータ構築部、
503:画像生成装置、504:画像表示装置、
505:手術シミュレーション用モデルデータ部、506:力覚装置、
507:模擬運動演算装置、508:手術操作具、509:模擬内視鏡、
510:模擬鉗子、601:所定臓器、602a,602b,602c…:表面各節点、
603a,603b,603c…:仮想線、
604a,604b,604c…:模擬膜、
605a,605b,605c…:膜面用節点、
606a,606b,606c…:仮想膜間用バネ、
607a,607b,607c…:面方向バネ。

Claims (15)

  1. ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、必要な臓器の3次元ボリュームデータを構築する第1の過程と、
    第1の過程の後、生成された3次元ボリュームデータの臓器をボリュームデータ構築部においてメッシングする第2の過程と、
    第2の過程によりメッシングされた所定臓器を覆う複数層の模擬膜をボリュームデータ構築部において形成する第3の過程と、
    ボリュームデータ構築部において、第2の過程によりメッシングされた所定臓器の表面各節点から所定方向に仮想線を延ばし、前記仮想線と前記第3の過程により形成した模擬膜との交点による膜面用節点を形成し、各仮想線について前記所定臓器の表面各節点と膜面用節点及び膜面用節点間を接続する仮想膜間用バネを配置し、各模擬膜面について前記膜面用節点間をメッシュ形成するように面方向バネを配置する第4の過程とからなることを特徴とする手術シミュレーション用モデルの生成方法。
  2. 所定臓器を覆う模擬膜と所定臓器の間隔が異なる部分を有することを特徴とする請求項1記載の手術シミュレーション用モデルの生成方法。
  3. 所定臓器を覆う複数層の模擬膜の間隔を各層間で異なる部分を有することを特徴とする請求項1又は請求項2記載の手術シミュレーション用モデルの生成方法。
  4. 各節点間に接続配置した仮想膜間用バネのバネ定数が異なるものを有することを特徴とする請求項1又は2又は3に記載の手術シミュレーション用モデルの生成方法。
  5. 各節点間に接続配置した各面方向バネのバネ定数が異なるものを有することを特徴とする請求項1又は2又は3又は4に記載の手術シミュレーション用モデルの生成方法。
  6. 各節点間に接続配置した仮想膜間用バネと面方向バネが所定の張力又は伸びにより切断する物理定数を備えたことを特徴とする請求項1又は2又は3又は4又は5に記載の手術シミュレーション用モデルの生成方法。
  7. 力覚装置が、手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚模擬過程と、
    模擬運動演算装置が、手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層し、必要な臓器の3次元ボリュームデータとして構築された臓器及び当該臓器の周りを覆う複数層の模擬膜である模擬生体の力学的性質を設定した手術シミュレーション用モデルデータを得て前記力覚模擬過程による手術操作具の移動及び手術操作具と前記臓器及び複数層の模擬膜である模擬生体との接触による反力を計算して前記力覚模擬過程に与えるとともに前記臓器及び複数層の模擬膜である模擬生体の反応との運動とを計算する模擬運動演算過程と、
    画像生成装置が、模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成過程と、
    画像表示装置が、前記画像生成過程により生成された画像を表示する画像表示過程とからなることを特徴とする手術シミュレーション方法。
  8. 手術対象であり、ボリュームデータ構築部において、医療用画像データ格納部に格納された手術対象者の医用画像の元データから幾何情報を取得し、前記医用画像の元データに含まれる必要な臓器を2次元的に抽出し、各臓器の定められた連結関係に応じて配置し、さらにこれらスライスされた画像を積層して3次元ボリュームデータとして構築された臓器及び当該臓器の周りを覆う複数層の模擬膜である模擬生体の力学的性質を設定した手術シミュレーション用モデルデータを得て、格納する手術シミュレーション用モデルデータ部と、
    手術者が操作する手術操作具の位置と模擬生体との接触位置に応じた反力を発生させる力覚装置と、
    前記手術シミュレーション用モデルデータ部から手術シミュレーション用モデルデータを得て前記力覚装置による手術操作具の移動及び手術操作具と前記臓器及び複数層の模擬膜である模擬生体との接触による反力を計算して前記力覚装置に与えるとともに前記臓器及び複数層の模擬膜である模擬生体の反応との運動とを計算する模擬運動演算装置と、
    前記模擬運動演算装置が計算し模擬内視鏡から撮像した模擬生体の模擬画像を生成する画像生成装置と、
    前記画像生成装置により生成された画像を表示する画像表示装置とからなることを特徴とする手術シミュレータ。
  9. 手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの所定臓器を覆う模擬膜と所定臓器の間隔が異なる部分を有することを特徴とする請求項記載の手術シミュレータ。
  10. 手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの所定臓器を覆う複数層の模擬膜の間隔を各層間で異なる部分を有することを特徴とする請求項又は請求項記載の手術シミュレータ。
  11. 手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの各節点間に接続配置した仮想膜間用バネのバネ定数が異なるものを有することを特徴とする請求項又は又は10に記載の手術シミュレータ。
  12. 手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの各節点間に接続配置した各面方向バネのバネ定数が異なるものを有することを特徴とする請求項又は又は10又は11に記載の手術シミュレータ。
  13. 手術シミュレーション用モデルデータ部に格納される手術シミュレーション用モデルデータの各節点間に接続配置した仮想膜間用バネと面方向バネが所定の張力又は伸びにより切断する物理定数を備えたことを特徴とする請求項又は又は10又は11又は12に記載の手術シミュレータ。
  14. 力覚装置により反力を発生する対象の手術操作具が模擬鉗子であり、模擬鉗子で模擬膜を引っ張り所定の張力又は伸びによりバネが切断され模擬膜を剥がす感覚を模擬鉗子に与えることを特徴とする請求項13に記載の手術シミュレータ。
  15. 模擬膜を引っ張るときの張力を模擬鉗子に力覚装置を介してフィードバックすることにより与えることを特徴とする請求項14に記載の手術シミュレータ。
JP2009136898A 2009-06-08 2009-06-08 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ Active JP5761900B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2009136898A JP5761900B2 (ja) 2009-06-08 2009-06-08 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ
US13/376,697 US9214095B2 (en) 2009-06-08 2010-06-04 Surgical simulation model generating method, surgical simulation method, and surgical simulator
PCT/JP2010/059887 WO2010143699A1 (ja) 2009-06-08 2010-06-04 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ
US14/930,914 US20160063729A1 (en) 2009-06-08 2015-11-03 Surgical simulation model generating method, surgical simulation method, and surgical simulator

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009136898A JP5761900B2 (ja) 2009-06-08 2009-06-08 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2015000847A Division JP6104288B2 (ja) 2015-01-06 2015-01-06 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ

Publications (2)

Publication Number Publication Date
JP2010279631A JP2010279631A (ja) 2010-12-16
JP5761900B2 true JP5761900B2 (ja) 2015-08-12

Family

ID=43308954

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009136898A Active JP5761900B2 (ja) 2009-06-08 2009-06-08 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ

Country Status (3)

Country Link
US (2) US9214095B2 (ja)
JP (1) JP5761900B2 (ja)
WO (1) WO2010143699A1 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6457262B2 (ja) * 2011-03-30 2019-01-23 アヴィザル,モルデチャイ 外科手術をシミュレーションする方法およびシステム
JP5762321B2 (ja) * 2012-01-25 2015-08-12 三菱プレシジョン株式会社 手術シミュレーション用モデル作成方法及びその装置並びに手術シミュレーション方法及びその装置
JP6521707B2 (ja) * 2014-07-10 2019-05-29 キヤノン株式会社 穿刺プランニング装置及び穿刺システム
CN104916184B (zh) * 2015-06-16 2018-02-06 中国科学院自动化研究所 一种面向术前培训的虚拟手术模拟训练系统及其训练方法
JP6755080B2 (ja) * 2015-08-19 2020-09-16 三菱プレシジョン株式会社 組織のボリュームデータに対応した模擬処置開始位置を決定する方法、装置及び手術シミュレータ
US10810907B2 (en) 2016-12-19 2020-10-20 National Board Of Medical Examiners Medical training and performance assessment instruments, methods, and systems
CN111770716B (zh) * 2018-02-21 2023-12-01 奥林巴斯株式会社 医疗系统和医疗系统的控制方法
KR101948482B1 (ko) * 2018-08-31 2019-02-14 숭실대학교산학협력단 가변형 연체 조직의 물리 시뮬레이션 방법, 이를 수행하기 위한 기록매체 및 장치
KR102380413B1 (ko) * 2018-12-21 2022-03-30 (주)리얼디멘션 외과 수술 시뮬레이션 시스템
KR102370490B1 (ko) * 2020-03-13 2022-03-04 숭실대학교 산학협력단 가상 객체의 변형에 따른 의료 영상의 변형 방법, 이를 수행하기 위한 기록 매체 및 장치
CN111401462A (zh) * 2020-03-25 2020-07-10 深圳妙创医学技术有限公司 一种心电图导联的识别方法及心电图训练系统
AU2023230323A1 (en) * 2022-03-08 2024-08-08 Sony Group Corporation Simulator, simulation data generation method, and simulator system
US20230334998A1 (en) * 2022-04-14 2023-10-19 Smart Surgery Surgical teaching auxiliary system using virtual reality and method thereof
CN115019877B (zh) * 2022-08-05 2022-11-04 上海华模科技有限公司 生物组织模型的建模及更新方法、装置及存储介质

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10111958A (ja) * 1996-10-04 1998-04-28 Olympus Optical Co Ltd コンピュータグラフィックスを用いたシミュレーションシステム及びシミュレーションシステムにおけるモデル表現方法
FR2771202B1 (fr) * 1997-11-19 2000-01-21 Inst Nat Rech Inf Automat Dispositif electronique de traitement de donnees-image, pour la simulation du comportement deformable d'un objet
JP4155637B2 (ja) 1998-10-01 2008-09-24 三菱プレシジョン株式会社 3次元空間座標入力装置
JP4117949B2 (ja) 1998-11-11 2008-07-16 三菱プレシジョン株式会社 6軸のフォースフィードバックを有する力覚インタフェース装置
JP4117954B2 (ja) 1998-12-14 2008-07-16 三菱プレシジョン株式会社 4軸のフォースフィードバックを有する力覚インタフェース装置
US6498607B1 (en) 1999-01-29 2002-12-24 Mitsubishi Electric Research Laboratories, Inc. Method for generating graphical object represented as surface elements
JP4290312B2 (ja) 2000-03-30 2009-07-01 三菱プレシジョン株式会社 パラレル機構と、その制御方法及び制御装置
US7850456B2 (en) * 2003-07-15 2010-12-14 Simbionix Ltd. Surgical simulation device, system and method
AU2007233560A1 (en) * 2006-03-30 2007-10-11 Monash University Method of modelling the interaction between deformable objects
EP2075754A1 (en) * 2006-09-15 2009-07-01 Keio University Platelet thrombus formation simulator
JP2008134373A (ja) * 2006-11-28 2008-06-12 Mitsubishi Precision Co Ltd 手術シミュレータ用生体データ作成方法及びシステム、並びに手術シミュレーション方法及び手術シミュレータ
JP2008171135A (ja) * 2007-01-10 2008-07-24 Ritsumeikan 二分割二統合に基づく実時間適応的四面体メッシュを用いたレオロジー物体の変形シミュレーション方法及びその変形シミュレーションプログラム
JP4991391B2 (ja) * 2007-05-22 2012-08-01 三菱プレシジョン株式会社 手術切断運動模擬方法及びその装置
EP2387760B1 (en) * 2009-01-15 2019-05-01 SimQuest LLC Interactive simulation of biological tissue

Also Published As

Publication number Publication date
US20120081367A1 (en) 2012-04-05
US20160063729A1 (en) 2016-03-03
WO2010143699A1 (ja) 2010-12-16
US9214095B2 (en) 2015-12-15
JP2010279631A (ja) 2010-12-16

Similar Documents

Publication Publication Date Title
JP5761900B2 (ja) 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ
Basdogan et al. VR-based simulators for training in minimally invasive surgery
Okamura Haptic feedback in robot-assisted minimally invasive surgery
Sutherland et al. An augmented reality haptic training simulator for spinal needle procedures
Delorme et al. NeuroTouch: a physics-based virtual simulator for cranial microneurosurgery training
Robison et al. Man, mind, and machine: the past and future of virtual reality simulation in neurologic surgery
JP6104288B2 (ja) 手術シミュレーション用モデルの生成方法、手術シミュレーション方法、及び手術シミュレータ
JP5614980B2 (ja) トロカー位置設定用模擬術具位置設定装置
KR101816172B1 (ko) 의료 훈련 시뮬레이션 시스템 및 방법
CN108352132A (zh) 超声模拟方法
DE102016215481A1 (de) System und Verfahren zur haptischen Interaktion mit virtuellen Objekten
KR102536732B1 (ko) 외과 수술들의 컴퓨터-지원 시뮬레이션을 위한 디바이스 및 방법
CN110325990A (zh) 用于制造物理仿真设备的方法、仿真设备和仿真系统
JP6457785B2 (ja) 生体質感モデル作製方法および生体質感モデル作製プログラム
WO2019226440A1 (en) A system for simulation of soft bodies
Park et al. A new tactile transfer cell using magnetorheological materials for robot-assisted minimally invasive surgery
JP2008134373A (ja) 手術シミュレータ用生体データ作成方法及びシステム、並びに手術シミュレーション方法及び手術シミュレータ
JP4991391B2 (ja) 手術切断運動模擬方法及びその装置
CN116741386A (zh) 一种基于力反馈的椎间孔镜手术髓核夹取虚拟仿真方法
Mack et al. Interactive force-sensing feedback system for remote robotic laparoscopic surgery
Vloeberghs et al. Virtual neurosurgery, training for the future
Hassan et al. A pneumatically-actuated mouse for delivering multimodal haptic feedback
Bruyns et al. A virtual environment for simulated rat dissection
Dumay Medicine in virtual environments
Sutherland et al. Towards an augmented ultrasound guided spinal needle insertion system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20141114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150603

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150609

R150 Certificate of patent or registration of utility model

Ref document number: 5761900

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250