JP6215963B2 - 事前取得画像を利用したナビゲーション - Google Patents
事前取得画像を利用したナビゲーション Download PDFInfo
- Publication number
- JP6215963B2 JP6215963B2 JP2015555220A JP2015555220A JP6215963B2 JP 6215963 B2 JP6215963 B2 JP 6215963B2 JP 2015555220 A JP2015555220 A JP 2015555220A JP 2015555220 A JP2015555220 A JP 2015555220A JP 6215963 B2 JP6215963 B2 JP 6215963B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- initial
- region
- subsequent
- processor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000002093 peripheral effect Effects 0.000 claims description 75
- 238000000034 method Methods 0.000 claims description 34
- 238000011835 investigation Methods 0.000 claims description 15
- 238000003384 imaging method Methods 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 13
- 210000001015 abdomen Anatomy 0.000 description 11
- 238000012512 characterization method Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 10
- 239000003550 marker Substances 0.000 description 9
- 230000008569 process Effects 0.000 description 5
- 238000001574 biopsy Methods 0.000 description 4
- 210000004204 blood vessel Anatomy 0.000 description 4
- 230000004660 morphological change Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 3
- 238000010191 image analysis Methods 0.000 description 3
- 238000009877 rendering Methods 0.000 description 3
- 231100000241 scar Toxicity 0.000 description 3
- 230000003187 abdominal effect Effects 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000013152 interventional procedure Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 210000003708 urethra Anatomy 0.000 description 2
- 206010028980 Neoplasm Diseases 0.000 description 1
- 210000003815 abdominal wall Anatomy 0.000 description 1
- 210000000621 bronchi Anatomy 0.000 description 1
- 210000000038 chest Anatomy 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000001839 endoscopy Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000799 fluorescence microscopy Methods 0.000 description 1
- 238000009472 formulation Methods 0.000 description 1
- 230000002496 gastric effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000002324 minimally invasive surgery Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00004—Operational features of endoscopes characterised by electronic signal processing
- A61B1/00009—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
- A61B1/000094—Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00059—Operational features of endoscopes provided with identification means for the endoscope
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/04—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
- A61B1/043—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances for fluorescence imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10068—Endoscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30028—Colon; Small intestine
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
- G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Medical Informatics (AREA)
- Animal Behavior & Ethology (AREA)
- Radiology & Medical Imaging (AREA)
- Optics & Photonics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Endoscopes (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Description
第1の内視鏡を用いて、調査中の表面の初期画像を取得するステップと、
初期画像内で、初期画像周辺領域によって取り囲まれ、初期画像周辺領域に対して画定された位置を有する目標関心領域を描出する(delineate)ステップと、
第2の内視鏡を用いて、調査中の表面の後続の画像を取得するステップと、
後続の画像内で、初期画像周辺領域の特徴と比較することによって、初期画像周辺領域に対応する後続の画像周辺領域を識別するステップと、
識別された後続の画像周辺領域に応答して、後続の画像内での目標関心領域の位置を計算するステップと
を含む、撮像方法を提供する。
調査中の表面の初期画像を取得するように構成された第1の内視鏡と、
調査中の表面の後続の画像を取得するように構成された第2の内視鏡と、
プロセッサと
を含み、このプロセッサは、
初期画像内で、初期画像周辺領域によって取り囲まれ、初期画像周辺領域に対して画定された位置を有する目標関心領域を描出し、
後続の画像内で、初期画像周辺領域の特徴と比較することによって、初期画像周辺領域に対応する後続の画像周辺領域を識別し、
識別された後続の画像周辺領域に応答して、後続の画像内での目標関心領域の位置を計算する
ように構成される、撮像装置がさらに提供される。
第1の画像内の目標関心領域を指し示すステップと、
目標関心領域を取り囲む周辺領域の画像データを記憶するステップと、
第2の画像内で、周辺領域の記憶された画像データの特徴と比較することによって、第1の画像の周辺領域に対応する領域を識別するステップと、
第2の画像内で識別された領域に応答して、第2の画像内での目標関心領域の位置をマーキングするステップと
を含む、撮像方法がさらに提供される。
第1の内視鏡を用いて、調査中の表面の第1の画像を取得するステップと、
第1の画像内の目標関心領域を指し示すステップと、
目標領域を取り囲む周辺領域の画像データを記憶するステップと、
第2の内視鏡を用いて、調査中の表面の第2の画像を取得するステップと、
第2の画像内で、周辺領域の記憶された画像データの特徴と比較することによって、周辺領域に対応する領域を識別するステップと、
第2の画像内で識別された領域に応答して、第2の画像内での目標関心領域の位置の指示をマーキングするステップと、
第2の内視鏡を指示の方にナビゲートするステップと
を含む、内視鏡をナビゲートするための方法がさらに提供される。
本発明の一実施形態は、異なる時間に取得された表面の画像内で共通する領域の位置を求める方法を提供する。本方法は、患者の腹部または膀胱などの体腔の内部表面の内視鏡検査に使用することができる。典型的には、本方法は、初期検査と、次の後続の検査とで共通する体腔表面の領域の方に内視鏡をナビゲートするために使用される。
次に、図1を参照すると、この図は、本発明の一実施形態による内視鏡ナビゲーションシステム10の概略図である。システム10は、ヒト患者の体腔12に対する侵襲性医療手技、典型的には低侵襲性手技において、体腔内の実体を撮像するために使用することができる。例として、本説明では、別段の指示がある場合を除き、体腔は患者の膀胱であるとし、体腔12もやはり、本明細書では膀胱12と称する。しかし、システム10は、胃腸器官、気管支、胸部など、ヒトのいかなる体腔にも、またはヒト以外の体腔にも実質的に使用できることが理解されよう。
12 体腔(膀胱、腹部)
14 内視鏡モジュール
16 プロセッサ
18 メモリ
20 画像解析モジュール
22 画面
24 内視鏡
26 尿道管
28 対話型モジュール制御部
30 内視鏡制御部
32 ハンドル
40、40' 壁
42、42' 疑わしい実体
44、44' 領域
100、210 初期画像
102、102' 初期目標関心領域
103、120、220、240 生物学的関心要素
104、104' カーソル
105、107 血管
106、106' 初期周辺領域
108、108' 外側境界
109 瘢痕組織
110 第2の画像
112、112' 外側境界
114、114' 内側境界
116、116' 後続の周辺領域
118、118' 後続の目標領域
122、122' マーカ
200 套管針
230 後続の画像
Claims (7)
- 調査中の表面の初期画像を取得するように構成された第1の内視鏡と、
調査中の前記表面の後続の画像を取得するように構成された第2の内視鏡と、
プロセッサと
を備え、前記プロセッサが、
前記初期画像内で、初期画像周辺領域によって取り囲まれ、前記初期画像周辺領域に対して画定された位置を有する目標関心領域を描出し、
後続の画像内で、前記初期画像周辺領域の特徴と比較することによって、前記初期画像周辺領域に対応する後続の画像周辺領域を識別し、
前記識別された後続の画像周辺領域に応答して、前記後続の画像内での前記目標関心領域の前記位置を計算する
ように構成される、撮像装置。 - 前記プロセッサが、前記初期画像周辺領域の特徴を生成するように構成される、請求項1に記載の装置。
- 前記第1の内視鏡と、前記第2の内視鏡とが、共通の内視鏡を備える、請求項1に記載の装置。
- 前記プロセッサが、前記初期画像周辺領域によって取り囲まれた前記目標関心領域の目標特徴を生成するように構成され、前記後続の画像内での前記目標関心領域の前記位置を計算するステップが、前記目標特徴と、前記後続の画像周辺領域によって取り囲まれた後続の画像目標領域の特徴との共通性を検証するステップを含む、請求項1に記載の装置。
- 前記プロセッサが、前記初期画像の取得後、前記目標関心領域に対して医療手技が実施されずに、前記後続の画像目標領域の前記特徴を判定するように構成される、請求項4に記載の装置。
- 前記プロセッサが、前記初期画像周辺領域によって取り囲まれた前記目標関心領域の目標特徴を生成するように構成され、前記後続の画像内での前記目標関心領域の前記位置を計算するステップが、前記目標特徴と、前記後続の画像周辺領域によって取り囲まれた後続の画像目標領域の特徴との差を検証するステップを含む、請求項1に記載の装置。
- 前記プロセッサが、前記初期画像の取得後、および前記目標関心領域に対して医療手技を実施した後に、前記後続の画像目標領域の前記特徴を判定するように構成される、請求項6に記載の装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/752,407 US9386908B2 (en) | 2013-01-29 | 2013-01-29 | Navigation using a pre-acquired image |
US13/752,407 | 2013-01-29 | ||
PCT/US2014/012414 WO2014120520A1 (en) | 2013-01-29 | 2014-01-22 | Navigation using a pre-acquired image |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016509510A JP2016509510A (ja) | 2016-03-31 |
JP6215963B2 true JP6215963B2 (ja) | 2017-10-18 |
Family
ID=50071775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015555220A Expired - Fee Related JP6215963B2 (ja) | 2013-01-29 | 2014-01-22 | 事前取得画像を利用したナビゲーション |
Country Status (5)
Country | Link |
---|---|
US (1) | US9386908B2 (ja) |
EP (1) | EP2950699A1 (ja) |
JP (1) | JP6215963B2 (ja) |
CN (1) | CN104936505B (ja) |
WO (1) | WO2014120520A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108135453B (zh) * | 2015-09-28 | 2021-03-23 | 奥林巴斯株式会社 | 内窥镜系统和图像处理方法 |
US11625825B2 (en) | 2019-01-30 | 2023-04-11 | Covidien Lp | Method for displaying tumor location within endoscopic images |
CN111067468B (zh) * | 2019-12-30 | 2023-03-24 | 北京双翼麒电子有限公司 | 用于控制内窥镜系统的方法、设备及存储介质 |
CN113012162A (zh) * | 2021-03-08 | 2021-06-22 | 重庆金山医疗器械有限公司 | 一种内窥镜检查区域的清洁度检测方法、装置及相关设备 |
Family Cites Families (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5550582A (en) | 1993-03-19 | 1996-08-27 | Olympus Optical Co., Ltd. | Endoscope-image processing apparatus for performing image processing of emphasis in endoscope image by pigment concentration distribution |
JP2003334163A (ja) | 2002-03-14 | 2003-11-25 | Olympus Optical Co Ltd | 内視鏡画像処理装置 |
JP4190917B2 (ja) * | 2002-03-28 | 2008-12-03 | 富士フイルム株式会社 | 内視鏡装置 |
US7179221B2 (en) | 2002-03-28 | 2007-02-20 | Fuji Photo Film Co., Ltd. | Endoscope utilizing fiduciary alignment to process image data |
US7356172B2 (en) * | 2002-09-26 | 2008-04-08 | Siemens Medical Solutions Usa, Inc. | Methods and systems for motion tracking |
JP4334234B2 (ja) | 2003-01-06 | 2009-09-30 | 富士通株式会社 | 類似画像の判定方法および類似画像判定機能を備えた画像処理装置 |
EP2316328B1 (en) | 2003-09-15 | 2012-05-09 | Super Dimension Ltd. | Wrap-around holding device for use with bronchoscopes |
US7319781B2 (en) * | 2003-10-06 | 2008-01-15 | Carestream Health, Inc. | Method and system for multiple passes diagnostic alignment for in vivo images |
EP1715788B1 (en) | 2004-02-17 | 2011-09-07 | Philips Electronics LTD | Method and apparatus for registration, verification, and referencing of internal organs |
WO2005120570A2 (en) * | 2004-06-03 | 2005-12-22 | The University Of Maryland, Baltimore | Therapeutic targeting of parc/ccl18 and its signaling in pulmonary fibrosis |
US7657101B2 (en) * | 2005-01-19 | 2010-02-02 | Dermaspect, Llc | Devices and methods for identifying and monitoring changes of a suspect area on a patient |
WO2006095027A1 (en) * | 2005-03-11 | 2006-09-14 | Bracco Imaging S.P.A. | Methods and apparati for surgical navigation and visualization with microscope |
JP4418400B2 (ja) * | 2005-05-20 | 2010-02-17 | オリンパスメディカルシステムズ株式会社 | 画像表示装置 |
WO2007033379A2 (en) | 2005-09-14 | 2007-03-22 | Neoguide Systems, Inc. | Methods and apparatus for performing transluminal and other procedures |
EP3524202A1 (en) * | 2005-10-20 | 2019-08-14 | Intuitive Surgical Operations Inc. | Auxiliary image display and manipulation on a computer display in a medical robotic system |
IL181470A (en) | 2006-02-24 | 2012-04-30 | Visionsense Ltd | Method and system for navigation within a flexible organ in the human body |
JP4891637B2 (ja) | 2006-03-14 | 2012-03-07 | オリンパスメディカルシステムズ株式会社 | 画像解析装置 |
CN100594840C (zh) * | 2007-05-18 | 2010-03-24 | 深圳先进技术研究院 | 一种跟踪体内微型装置的方法 |
EP2225679A1 (en) * | 2007-12-18 | 2010-09-08 | Koninklijke Philips Electronics N.V. | Consistency metric based image registration |
US8830224B2 (en) * | 2008-12-31 | 2014-09-09 | Intuitive Surgical Operations, Inc. | Efficient 3-D telestration for local robotic proctoring |
US8337397B2 (en) | 2009-03-26 | 2012-12-25 | Intuitive Surgical Operations, Inc. | Method and system for providing visual guidance to an operator for steering a tip of an endoscopic device toward one or more landmarks in a patient |
WO2010140441A1 (ja) | 2009-06-01 | 2010-12-09 | オリンパスメディカルシステムズ株式会社 | 医療機器システムおよび医療器具のキャリブレーション方法 |
JP5395725B2 (ja) | 2010-04-05 | 2014-01-22 | 富士フイルム株式会社 | 電子内視鏡システム |
JP5675187B2 (ja) | 2010-06-30 | 2015-02-25 | オリンパス株式会社 | 蛍光観察装置 |
US8885898B2 (en) * | 2010-10-07 | 2014-11-11 | Siemens Medical Solutions Usa, Inc. | Matching of regions of interest across multiple views |
US20120130171A1 (en) * | 2010-11-18 | 2012-05-24 | C2Cure Inc. | Endoscope guidance based on image matching |
US9069996B2 (en) * | 2011-09-16 | 2015-06-30 | The Invention Science Fund I, Llc | Registering regions of interest of a body part to a coordinate system |
JP5878924B2 (ja) * | 2011-11-17 | 2016-03-08 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 画像処理装置、撮像装置および画像処理方法 |
US9107570B2 (en) * | 2012-06-19 | 2015-08-18 | Covidien Lp | System and method for mapping anatomical structures and marking them on a substrate |
US9076062B2 (en) * | 2012-09-17 | 2015-07-07 | Gravity Jack, Inc. | Feature searching along a path of increasing similarity |
KR101993384B1 (ko) * | 2012-10-24 | 2019-06-26 | 삼성전자주식회사 | 환자의 자세 변화에 따른 의료 영상을 보정하는 방법, 장치 및 시스템 |
-
2013
- 2013-01-29 US US13/752,407 patent/US9386908B2/en active Active
-
2014
- 2014-01-22 WO PCT/US2014/012414 patent/WO2014120520A1/en active Application Filing
- 2014-01-22 EP EP14703702.2A patent/EP2950699A1/en not_active Withdrawn
- 2014-01-22 CN CN201480005852.8A patent/CN104936505B/zh not_active Expired - Fee Related
- 2014-01-22 JP JP2015555220A patent/JP6215963B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2016509510A (ja) | 2016-03-31 |
CN104936505A (zh) | 2015-09-23 |
US9386908B2 (en) | 2016-07-12 |
CN104936505B (zh) | 2017-03-08 |
WO2014120520A1 (en) | 2014-08-07 |
EP2950699A1 (en) | 2015-12-09 |
US20140210971A1 (en) | 2014-07-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11883118B2 (en) | Using augmented reality in surgical navigation | |
CN110010249B (zh) | 基于视频叠加的增强现实手术导航方法、系统及电子设备 | |
EP2131326B1 (en) | Registration of CT image onto ultrasound images | |
US9498132B2 (en) | Visualization of anatomical data by augmented reality | |
US8731264B2 (en) | System and method for fusing real-time ultrasound images with pre-acquired medical images | |
US8290225B2 (en) | Method and device for relating medical 3D data image viewing planes to each other | |
JP2003265408A (ja) | 内視鏡誘導装置および方法 | |
KR20130015146A (ko) | 의료 영상 처리 방법 및 장치, 영상 유도를 이용한 로봇 수술 시스템 | |
CN107847274B (zh) | 用于在机器人外科手术期间提供更新后的患者图像的方法和装置 | |
JP5961504B2 (ja) | 仮想内視鏡画像生成装置およびその作動方法並びにプログラム | |
CN107550568A (zh) | 处理计划系统 | |
US10672510B1 (en) | Medical user interface | |
JP6215963B2 (ja) | 事前取得画像を利用したナビゲーション | |
JP2015083040A (ja) | 画像処理装置、方法、及びプログラム | |
CN116370077A (zh) | 超声内镜探头的导航方法、装置、计算机设备和存储介质 | |
US20080146933A1 (en) | Ultrasonic image and visualization aid | |
de Almeida et al. | A neuronavigation system using a mobile augmented reality solution | |
Gruionu et al. | A novel fusion imaging system for endoscopic ultrasound | |
US20150085092A1 (en) | Surgery assistance device and surgery assistance program | |
RU2735068C1 (ru) | Система и способ для визуализации на дисплее изображения частично уплощенной поверхности внутренней поверхности полости, а также постоянный машиночитаемый носитель | |
CN106028943A (zh) | 超声虚拟内窥成像系统和方法及其装置 | |
US9934569B2 (en) | Image processing method and apparatus for tracking a site in a series of images | |
Dubrovin et al. | Preoperative planning and intraoperative navigation, based on 3D modeling for retroperitoneal procedures | |
CA2595657A1 (en) | Ultrasonic image and visualization aid | |
JP2008110155A (ja) | 画像表示装置および画像表示プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161019 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170619 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170616 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170728 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170828 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170921 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6215963 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |