JP5847725B2 - 低侵襲外科システムにおいて手の存在を検出するための方法およびシステム - Google Patents
低侵襲外科システムにおいて手の存在を検出するための方法およびシステム Download PDFInfo
- Publication number
- JP5847725B2 JP5847725B2 JP2012538989A JP2012538989A JP5847725B2 JP 5847725 B2 JP5847725 B2 JP 5847725B2 JP 2012538989 A JP2012538989 A JP 2012538989A JP 2012538989 A JP2012538989 A JP 2012538989A JP 5847725 B2 JP5847725 B2 JP 5847725B2
- Authority
- JP
- Japan
- Prior art keywords
- hand
- tracking
- master tool
- grip
- controller
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title description 225
- 238000012545 processing Methods 0.000 claims description 21
- 210000003811 finger Anatomy 0.000 description 219
- 230000008569 process Effects 0.000 description 192
- 210000003813 thumb Anatomy 0.000 description 128
- 230000033001 locomotion Effects 0.000 description 56
- 239000013598 vector Substances 0.000 description 49
- 238000013507 mapping Methods 0.000 description 35
- 230000000007 visual effect Effects 0.000 description 28
- 230000007704 transition Effects 0.000 description 26
- 238000012549 training Methods 0.000 description 23
- 238000000926 separation method Methods 0.000 description 20
- 238000001514 detection method Methods 0.000 description 19
- 210000005224 forefinger Anatomy 0.000 description 15
- 238000005096 rolling process Methods 0.000 description 15
- 239000004744 fabric Substances 0.000 description 14
- 239000003550 marker Substances 0.000 description 14
- 210000004247 hand Anatomy 0.000 description 13
- 230000008859 change Effects 0.000 description 12
- 239000012636 effector Substances 0.000 description 12
- 239000011159 matrix material Substances 0.000 description 11
- 230000009466 transformation Effects 0.000 description 11
- 230000004044 response Effects 0.000 description 9
- 230000009471 action Effects 0.000 description 8
- 238000009826 distribution Methods 0.000 description 8
- 230000015654 memory Effects 0.000 description 8
- 210000000707 wrist Anatomy 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 239000006260 foam Substances 0.000 description 6
- 238000005286 illumination Methods 0.000 description 5
- 238000005259 measurement Methods 0.000 description 5
- 238000012546 transfer Methods 0.000 description 5
- 238000000844 transformation Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000009977 dual effect Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 3
- 239000000835 fiber Substances 0.000 description 3
- 230000003993 interaction Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000011002 quantification Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 239000004677 Nylon Substances 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000008030 elimination Effects 0.000 description 2
- 238000003379 elimination reaction Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000003064 k means clustering Methods 0.000 description 2
- 239000002184 metal Substances 0.000 description 2
- 229910052751 metal Inorganic materials 0.000 description 2
- 229920001778 nylon Polymers 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 101100117236 Drosophila melanogaster speck gene Proteins 0.000 description 1
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 210000004932 little finger Anatomy 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 150000002739 metals Chemical class 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
- 238000002324 minimally invasive surgery Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 238000012552 review Methods 0.000 description 1
- 238000002432 robotic surgery Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 238000001429 visible spectrum Methods 0.000 description 1
- 230000031836 visual learning Effects 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/37—Master-slave robots
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/30—Surgical robots
- A61B34/35—Surgical robots for telesurgery
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/70—Manipulators specially adapted for use in surgery
- A61B34/76—Manipulators having means for providing feel, e.g. force or tactile feedback
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/90—Identification means for patients or instruments, e.g. tags
- A61B90/98—Identification means for patients or instruments, e.g. tags using electromagnetic means, e.g. transponders
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J13/00—Controls for manipulators
- B25J13/08—Controls for manipulators by means of sensing devices, e.g. viewing or touching devices
- B25J13/086—Proximity sensors
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1612—Programme controls characterised by the hand, wrist, grip control
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B15/00—Systems controlled by a computer
- G05B15/02—Systems controlled by a computer electric
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods, e.g. tourniquets
- A61B2017/00017—Electrical control of surgical instruments
- A61B2017/00207—Electrical control of surgical instruments with hand gesture control or hand gesture recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B17/00—Surgical instruments, devices or methods, e.g. tourniquets
- A61B2017/00017—Electrical control of surgical instruments
- A61B2017/00221—Electrical control of surgical instruments with wireless transmission of data, e.g. by infrared radiation or radiowaves
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2051—Electromagnetic tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2055—Optical tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/70—Manipulators specially adapted for use in surgery
- A61B34/74—Manipulators with manual electric input means
- A61B2034/741—Glove like input devices, e.g. "data gloves"
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/39—Markers, e.g. radio-opaque or breast lesions markers
- A61B2090/3937—Visible markers
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/39—Markers, e.g. radio-opaque or breast lesions markers
- A61B2090/3937—Visible markers
- A61B2090/3945—Active visible markers, e.g. light emitting diodes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/39—Markers, e.g. radio-opaque or breast lesions markers
- A61B2090/397—Markers, e.g. radio-opaque or breast lesions markers electromagnetic other than visible, e.g. microwave
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S901/00—Robots
- Y10S901/02—Arm motion controller
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10—TECHNICAL SUBJECTS COVERED BY FORMER USPC
- Y10S—TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y10S901/00—Robots
- Y10S901/46—Sensing device
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Life Sciences & Earth Sciences (AREA)
- Robotics (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Electromagnetism (AREA)
- Pathology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Mechanical Engineering (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Theoretical Computer Science (AREA)
- Automation & Control Theory (AREA)
- Orthopedic Medicine & Surgery (AREA)
- Manipulator (AREA)
- User Interface Of Digital Computer (AREA)
- Prostheses (AREA)
Description
手の位置およびジェスチャーを追跡するための方法および技法が知られている。例えば、いくつかのビデオゲームコントローラは、ハンドトラッキング入力を利用する。例えば、Nintendo Wii(登録商標)ゲームプラットフォームは、無線位置および配向センシング遠隔操作を支援する(Wii(登録商標)は、米国ワシントン州レッドモンド、Nintendo of America Incの登録商標である)。バットをスイングする、または魔法の杖を振る等のジェスチャーおよび他の身体的動作の使用は、このプラットフォームの基本ゲーム要素を提供する。Sony Playstation Moveは、Nintendo Wii(登録商標)ゲームプラットフォームに類似する特徴を有する。
本明細書は、例えば、以下の項目も提供する。
(項目1)
ヒトの手の一部に装着されたセンサ素子を追跡して、該ヒトの手の一部のロケーションを得るステップと、
該ヒトの手の一部の位置が、低侵襲手術システムのマスターツールグリップの位置からの閾値距離内にあるか否かを決定するステップと、
該決定するステップの結果に基づいて、該低侵襲手術システムの操作を制御するステップと
を含む、方法。
(項目2)
前記制御するステップは、
前記距離が、閾値未満のときに、前記マスターツールグリップに結合されている遠隔操作スレーブ手術器具の遠隔操作を可能にするステップと、
該距離が該閾値より大きいときに、該遠隔操作スレーブ手術器具の遠隔操作を停止するステップと
を含む、項目1に記載の方法。
(項目3)
前記制御するステップは、
前記距離が、閾値未満のときに、前記低侵襲手術システムのディスプレイ上のユーザインターフェースをオフにするステップと、
該距離が、該閾値より大きいときに、該低侵襲手術システムのディスプレイ上のユーザインターフェースをオンにするステップと
を含む、項目1に記載の方法。
(項目4)
前記ヒトの手の一部の位置は、制御点位置を含む、項目1に記載の方法。
(項目5)
前記ヒトの手の一部の位置は、人差し指の位置を含む、項目1に記載の方法。
(項目6)
前記ヒトの手の一部のロケーションは、追跡された位置を含み、前記決定するステップは、
該追跡された位置を共通座標フレームにおける第1の位置にマッピングするステップと、
前記マスターツールグリップの位置を該共通座標フレームにおける第2の位置にマッピングするステップと
をさらに含む、項目2に記載の方法。
(項目7)
前記決定するステップは、
前記第1の位置と前記第2の位置との間の前記共通座標フレームにおける距離を生成するステップと、
該距離を前記閾値距離と比較するステップと
をさらに含む、項目6に記載の方法。
(項目8)
前記ヒトの手の一部に装着されたセンサ素子は、複数の基準マーカーを含む、項目1に記載のシステム。
(項目9)
前記ヒトの手の一部に装着されたセンサ素子は、受動電磁センサを含む、項目1に記載のシステム。
(項目10)
低侵襲手術システムであって、
該低侵襲手術システムは、
第1のロケーションを有しているマスターツールグリップと、
ハンド追跡システムであって、該ハンド追跡システムは、ヒトの手の一部に装着されたセンサ素子の第2のロケーションを追跡する、ハンド追跡システムと、
該ハンド追跡システムに連結されているコントローラであって、該コントローラは、該ヒトの手の一部の位置と、前記マスターツールグリップの位置との間の距離が、閾値距離内であるか否かを決定し、決定の結果に基づいて、システムイベントを該低侵襲手術システムに投入する、コントローラと
を含む、低侵襲手術システム。
(項目11)
前記イベントは、前記距離が、前記閾値距離より大きいときに、ハンド非存在イベントである、項目10に記載のシステム。
(項目12)
前記イベントは、前記距離が、前記閾値距離未満のときに、ハンド存在イベントである、項目10に記載のシステム。
(項目13)
前記ヒトの手の一部の位置は、前記第2のロケーションにおける人差し指の位置を含む、項目10に記載のシステム。
(項目14)
前記ヒトの手の一部の位置は、前記第2のロケーションから決定された制御点位置を含む、項目10に記載のシステム。
(項目15)
前記ヒトの手の一部に装着されたセンサ素子は、複数の基準マーカーを含む、項目10に記載のシステム。
(項目16)
前記ヒトの手の一部に装着されたセンサ素子は、受動電磁センサを含む、項目10に記載のシステム。
(項目17)
処理ユニットと、
前記システムイベントを受信するように構成されているシステムコントローラと、
前記プロセッサユニットを実行するモジュールによって生成されたユーザインターフェースと、
ディスプレイデバイスと
をさらに含み、
該システムイベントが、ハンド非存在イベントの際に、該システムコントローラは、該ディスプレイデバイス上のユーザインターフェースのディスプレイをオンにし、
該システムイベントが、ハンド存在イベントの際に、該システムコントローラーは、該ディスプレイデバイス上のユーザインターフェースのディスプレイをオフにする、項目10に記載のシステム。
(項目18)
前記マスターツールグリップに連結可能であり、該マスターツールグリップから分離可能である遠隔操作低侵襲手術器具と、
前記システムイベントを受信するように構成されているシステムコントローラと
をさらに含み、
該システムイベントが、ハンド存在イベントの際に、該遠隔操作手術器具は、該マスターツールグリップに連結され、該システムコントローラは、該遠隔操作低侵襲手術器具の遠隔操作を可能にし、
該システムイベントが、ハンド非存在イベントの際に、該システムコントローラは、該遠隔操作低侵襲手術器具の遠隔操作を停止する、項目10に記載のシステム。
マスターフィンガー追跡グリップ270と呼ばれる場合がある、機械的に非接地の非動力マスターフィンガー追跡グリップ270の一実施例は、図2A〜2Dにおいて異なる構成で例示され、以下でより完全に説明される。マスターフィンガー追跡グリップ270は、指装着センサ211、212(指および親指装着センサ211、212と称される場合もある)を含み、人指し指292Bの先端および親指292Aの先端のそれぞれのロケーション(一実施例における位置および配向)を独立して追跡し、すなわち、執刀医の手の2本の指のロケーションを追跡する。したがって、既知の低侵襲手術システムにおけるマスターツールグリップのロケーションを追跡することとは対照的に、手自体のロケーションが追跡される。
本態様において、ジェスチャー検出モードの操作に置かれた後、ハンド追跡コントローラ130は、ハンドジェスチャーポーズ、またはハンドジェスチャーポーズおよびハンドジェスチャー軌道を検出する。コントローラ130は、ハンドジェスチャーポーズを、あるシステムモード制御コマンドにマッピングし、同様に、コントローラ130は、ハンドジェスチャー軌道を、他のシステムモード制御コマンドにマッピングする。ポーズおよび軌道のマッピングは、独立しているため、例えば、手動のシグナル言語トラッキングとは異なることに留意されたい。既知の低侵襲手術システムに見られるように、スイッチ、多数のフットペダル等を操作する代わりに、ハンドジェスチャーポーズおよびハンドジェスチャー軌道を使用して、システムコマンドを生成し、システム100を制御する能力は、システム100の優れた使い易さを執刀医に提供する。
一態様において、上に示されるように、執刀医の手291R、291L(図6A)の位置を追跡し、低侵襲手術システム 100の遠隔操作が許可されるか否かを決定し、いくつかの態様において、ユーザインターフェースを執刀医に表示するか否かを決定する。再度、ハンド追跡コントローラ130は、執刀医180Bの手の少なくとも一部を追跡する(図6A)。ハンド追跡コントローラ130は、マスターツールグリップ、例えば、マスターツールグリップ621(図6B)のロケーションを生成し、マスターツールグリップ621L、621R(図6A)、および手の一部のロケーションを表す。ハンド追跡コントローラ130は、2つのロケーションを共通座標フレームにマッピングし、次に、共通座標フレームの2つのロケーション間の距離を決定する。距離は、執刀医の手の一部の追跡ロケーションに基づく、低侵襲手術システムのシステム制御パラメータである。
上に詳述される追跡の種々の態様を考慮する前に、追跡技法の一実施例が説明される。本実施例は単なる例証であり、以下の説明に照らして、必要な手または指ロケーション情報を提供する、あらゆる追跡技法を利用することができる。
上述される様々なプロセスをさらに詳細に考慮する前に、執刀医のコンソール185Bの一実施例(図6A)が考慮され、以下の実施例において使用するために、様々な座標系が定義される。執刀医のコンソール185Bは、執刀医のコンソール185の一実施例である。執刀医のコンソール185Bは、ビューア610と称される場合がある3次元ビューア610、マスターツールグリップ621L、621Rを有するマスターツールマニピュレータ620L、620R、およびベース630を含む。マスターツールグリップ621(図6B)は、マスターツールグリップ621L、621Rのより詳細な図である。
図7は、追跡座標系750においてロケーション713を有する、人指し指292Bに装着されたセンサ212、および追跡座標系750においてロケーション711を有する、親指292Aに装着されたセンサ212の例示である。センサ211および212は、上述される電磁追跡システムの一部である。親指292Aおよび人指し指292Bは、右手291Rの指の例である。前述のとおり、ヒトの手の一部は、少なくとも1本の手の指を含む。当該分野における有識者に知られているように、指または指骨と呼ばれる場合がある手の指は、親指(第1指)、人指し指(第2指)、中指(第3指)、薬指(第4指)、および小指(第5指)である。
pcp=0.5*(pthumb+pindex)
制御点位置pcpは、人指し指位置pindexおよび親指位置pthumbの平均である。ハンド位置データを制御点にマッピングするプロセス910は、制御点配向を生成するプロセス920に対する処理に移る。
wcRtcは、追跡座標tcの配向をワールド座標wxの配向にマッピングし、
wcttcは、追跡座標tcの位置をワールド座標wcの位置に変換する。
グリップ閉合パラメータggripは、このマッピングによって変更されない。ワールド座標wcのデータは、データ831として保存される。プロセス830は、視界座標にマッピングするプロセス840に移行する。
ecRwcは、視界座標ecの配向をワールド座標wcの配向にマッピングし、
ectwcは、視界座標ecの位置をワールド座標wcの位置に変換する。
pcp_ec=ecTtcpcp_tc’
であり、視界座標の制御点の配向Rcp_ecは、
Rcp_ec=ecRwc wcRtcRcp_tc
である。
ecRtc=ecRwc wcRtc
Vcp_ec=ecRtc vcp_tc
ωcp_ec=ecRtcωcp_tc
速度を生成するプロセス850は、制御コマンドを送信するプロセス860に移行する。プロセス860は、位置、配向、速度、およびデータ851として保存されたグリップ閉合パラメータに基づいて、スレーブ手術器具に適切なシステム制御コマンドを送信する。
図10は、システム100のハンドジェスチャーポーズおよびハンドジェスチャー軌道のプロセス1000の一態様のプロセスフロー図である。上述される一態様において、ハンドジェスチャーポーズ認識プロセス1050は、多次元ベイズ識別器を使用し、ハンドジェスチャー軌道認識プロセス1060は、個別の隠れマルコフモデルλを使用する。
Λ=(A,B,π)
モデルパラメータNは、モデルにおける状態の数であり、モデルパラメータMは、状態当たりの観察記号の数である。3つの確率速度は、状態遷移確率分布A、観察ジェスチャー確率分布B、および初期状態分布πである。
P(fi_o|Ω)
式中、トレーニングデータセット特徴集合{fi}は、オブジェクトクラスΩに由来する。
となるようにし、
さらに別の態様において、上述されるように、執刀医180Bの手の少なくとも一部の追跡位置を使用して、手がマスターマニピュレータツールグリップ621(マスターツールグリップ621と称される場合もある)上に存在するか否かを決定する。図11は、一態様において、システム100のハンド追跡コントローラ130によって行われる存在検出のプロセス1100の一態様のプロセスフロー図である。プロセス1100は、一態様において執刀医の手のそれぞれに対して個別に行われる。
pmtm_wc=wcTws*pmtm
式中、wcTwsは、4×4同次固定変換であり、マスター作業空間座標系680における座標をワールド座標系670における座標にマッピングする。
完了すると、ワールド座標にマッピングするプロセス1112は、処理をハンド−マスターツールグリップ分離を生成するプロセス1130に移行させる。
Phand_wc=wcTtc*phand
式中、wcTwsは、4×4同次固定変換であり、追跡座標系650における座標をワールド座標系670における座標にマッピングする。
完了すると、ワールド座標にマッピングするプロセス1122は、処理をハンド−マスターツールグリップ分離を生成するプロセス1130に移行させる。
dsep=||pmtm_wc−phand_wc||
である。完了すると、ハンド−マスターツールグリップ分離を生成するプロセス1130は、処理を距離安全チェックプロセス1131に移行させる。
図12は、マスターフィンガー追跡グリップ1270の一実施例の例示である。マスターフィンガー追跡グリップ1270は、マスターフィンガー追跡グリップ170、270の一実施例である。
一態様において、ハンド追跡制御システムを使用して、1人の執刀医が別の執刀医を監督するために使用され得る複数のプロキシビジュアルのうちのいずれか1つを制御する。例えば、執刀医180(図1A)が、マスターフィンガー追跡グリップ170を使用して、執刀医181によって監督されている場合、執刀医181は、マスターフィンガー追跡グリップ170を使用して、手術器具のプロキシビジュアルを制御する一方、執刀医180は、マスターツールグリップを使用して、遠隔操作スレーブ手術器具を制御する。
Claims (18)
- センサ素子の位置を受信する手段であって、該センサ素子は、ヒトの手の固有の部分に装着されている、手段と、
該ヒトの手の位置がマスターツールマニピュレータのマスターツールグリップの位置から閾値距離内にあるか否かを決定する手段であって、該マスターツールマニピュレータは、手術システムのコンソール内にあり、該ヒトの手の位置は、該センサ素子の位置を用いて決定される、手段と、
該決定の結果に基づいて、該手術システムの操作のシステムモードを制御する手段と
を含む、システム。 - 前記操作のシステムモードは、スレーブ手術器具の遠隔操作を含み、
前記手術システムの操作のシステムモードを制御する手段は、
前記ヒトの手の位置が前記マスターツールグリップの位置から前記閾値距離内にある場合には、該マスターツールグリップに結合されている該スレーブ手術器具の遠隔操作を許可し、
該ヒトの手の位置が該マスターツールグリップの位置から該閾値距離内にない場合には、該スレーブ手術器具の遠隔操作を抑制する、請求項1に記載のシステム。 - 前記操作のシステムモードは、ユーザインターフェースのディスプレイを含み、
前記手術システムの操作のシステムモードを制御する手段は、
前記ヒトの手の位置が前記マスターツールグリップの位置から前記閾値距離内にある場合には、該手術システムのディスプレイ上の該ユーザインターフェースをオフにし、
該ヒトの手の位置が該マスターツールグリップの位置から該閾値距離内にない場合には、該手術システムのディスプレイ上の該ユーザインターフェースをオンにする、請求項1に記載のシステム。 - 前記ヒトの手の位置は、制御点位置を含む、請求項1に記載のシステム。
- 前記ヒトの手の位置は、人差し指の位置を含む、請求項1に記載のシステム。
- 前記決定する手段は、前記センサ素子の位置を共通座標フレームにおける第1の位置にマッピングし、該第1の位置は、前記ヒトの手の位置であり、
該決定する手段は、前記マスターツールグリップの位置を該共通座標フレームにおける第2の位置にマッピングする、請求項1に記載のシステム。 - 前記決定する手段は、前記第1の位置と前記第2の位置との間の前記共通座標フレームにおける距離を生成し、該共通座標フレームにおける距離は、前記ヒトの手の位置と前記マスターツールグリップの位置との間の距離を表し、
該決定する手段は、該共通座標フレームにおける距離を前記閾値距離と比較する、請求項6に記載のシステム。 - 前記センサ素子は、複数の基準マーカーを含む、請求項1に記載のシステム。
- 前記センサ素子は、受動電磁センサを含む、請求項1に記載のシステム。
- 手術システムであって、
該手術システムは、
該手術システム内のコンソールに結合されているマスターツールマニピュレータであって、該マスターツールマニピュレータは、マスターツールグリップを含む、マスターツールマニピュレータと、
ハンド追跡システムであって、該ハンド追跡システムは、ヒトの手の固有の部分の一部に装着されたセンサ素子の位置を追跡する、ハンド追跡システムと、
該マスターツールグリップの位置および該センサ素子の位置を受信するように結合されている第1のコントローラであって、該第1のコントローラは、該ヒトの手の位置と、該マスターツールグリップの位置との間の距離を決定することにより、該マスターツールグリップが該ヒトの手から閾値距離内にあるか否かを決定し、該ヒトの手の位置は、該センサ素子の位置を用いて該第1のコントローラにより決定され、該第1のコントローラは、該マスターツールグリップが該ヒトの手から該閾値距離内にあるか否かに基づいて、システムイベントを該手術システムに投入する、第1のコントローラと
を含む、手術システム。 - 前記システムイベントは、前記マスターツールグリップが前記ヒトの手から前記閾値距離内にない場合にハンド非存在イベントである、請求項10に記載のシステム。
- 前記システムイベントは、前記マスターツールグリップが前記ヒトの手から前記閾値距離内にある場合にハンド存在イベントである、請求項10に記載のシステム。
- 前記ヒトの手の位置は、人差し指の位置を含む、請求項10に記載のシステム。
- 前記ヒトの手の位置は、制御点位置を含む、請求項10に記載のシステム。
- 前記センサ素子は、複数の基準マーカーを含む、請求項10に記載のシステム。
- 前記センサ素子は、受動電磁センサを含む、請求項10に記載のシステム。
- 処理ユニットと、
前記システムイベントを受信するように構成されている第2のコントローラと、
該処理ユニットで実行するモジュールによって生成されたユーザインターフェースと、
ユーザインターフェースのディスプレイを出力するように構成されているディスプレイデバイスと
をさらに含み、
該システムイベントがハンド非存在イベントの場合には、該第2のコントローラは、該ユーザインターフェースのディスプレイをオンにし、
該システムイベントがハンド存在イベントの場合には、該第2のコントローラは、該ユーザインターフェースのディスプレイをオフにする、請求項10に記載のシステム。 - 前記マスターツールグリップに遠隔操作可能に結合されている手術器具と、
前記システムイベントを受信するように構成されている第2のコントローラと
をさらに含み、
該システムイベントがハンド存在イベントの場合には、該第2のコントローラは、該手術器具の遠隔操作を可能にし、
該システムイベントがハンド非存在イベントの場合には、該第2のコントローラは、該手術器具の遠隔操作を可能にしない、請求項10に記載のシステム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US12/617,937 | 2009-11-13 | ||
US12/617,937 US8521331B2 (en) | 2009-11-13 | 2009-11-13 | Patient-side surgeon interface for a minimally invasive, teleoperated surgical instrument |
US12/887,160 US8935003B2 (en) | 2010-09-21 | 2010-09-21 | Method and system for hand presence detection in a minimally invasive surgical system |
US12/887,160 | 2010-09-21 | ||
PCT/US2010/056405 WO2011060185A1 (en) | 2009-11-13 | 2010-11-11 | Method and system for hand presence detection in a minimally invasive surgical system |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015145498A Division JP5982542B2 (ja) | 2009-11-13 | 2015-07-23 | 低侵襲外科システムにおいて手の存在を検出するための方法およびシステム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013510674A JP2013510674A (ja) | 2013-03-28 |
JP5847725B2 true JP5847725B2 (ja) | 2016-01-27 |
Family
ID=45818409
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012538989A Active JP5847725B2 (ja) | 2009-11-13 | 2010-11-11 | 低侵襲外科システムにおいて手の存在を検出するための方法およびシステム |
JP2015145498A Active JP5982542B2 (ja) | 2009-11-13 | 2015-07-23 | 低侵襲外科システムにおいて手の存在を検出するための方法およびシステム |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015145498A Active JP5982542B2 (ja) | 2009-11-13 | 2015-07-23 | 低侵襲外科システムにおいて手の存在を検出するための方法およびシステム |
Country Status (6)
Country | Link |
---|---|
US (5) | US8935003B2 (ja) |
EP (1) | EP2480158B1 (ja) |
JP (2) | JP5847725B2 (ja) |
KR (1) | KR101785360B1 (ja) |
CN (2) | CN104887326B (ja) |
WO (1) | WO2011060185A1 (ja) |
Families Citing this family (122)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9266239B2 (en) | 2005-12-27 | 2016-02-23 | Intuitive Surgical Operations, Inc. | Constraint based control in a minimally invasive surgical apparatus |
US10532466B2 (en) * | 2008-08-22 | 2020-01-14 | Titan Medical Inc. | Robotic hand controller |
US8332072B1 (en) | 2008-08-22 | 2012-12-11 | Titan Medical Inc. | Robotic hand controller |
US8423182B2 (en) | 2009-03-09 | 2013-04-16 | Intuitive Surgical Operations, Inc. | Adaptable integrated energy control system for electrosurgical tools in robotic surgical systems |
US20110172550A1 (en) | 2009-07-21 | 2011-07-14 | Michael Scott Martin | Uspa: systems and methods for ems device communication interface |
US8935003B2 (en) | 2010-09-21 | 2015-01-13 | Intuitive Surgical Operations | Method and system for hand presence detection in a minimally invasive surgical system |
US8521331B2 (en) | 2009-11-13 | 2013-08-27 | Intuitive Surgical Operations, Inc. | Patient-side surgeon interface for a minimally invasive, teleoperated surgical instrument |
US8996173B2 (en) | 2010-09-21 | 2015-03-31 | Intuitive Surgical Operations, Inc. | Method and apparatus for hand gesture control in a minimally invasive surgical system |
EP3543920B1 (en) | 2010-04-09 | 2023-09-13 | ZOLL Medical Corporation | Systems and methods for ems device communications interface |
KR101891138B1 (ko) | 2010-11-11 | 2018-08-23 | 더 존스 홉킨스 유니버시티 | 인간-기계 협력 로봇 시스템 |
JP5800616B2 (ja) * | 2011-07-15 | 2015-10-28 | オリンパス株式会社 | マニピュレータシステム |
JP6021353B2 (ja) | 2011-08-04 | 2016-11-09 | オリンパス株式会社 | 手術支援装置 |
JP6081061B2 (ja) | 2011-08-04 | 2017-02-15 | オリンパス株式会社 | 手術支援装置 |
JP5841451B2 (ja) | 2011-08-04 | 2016-01-13 | オリンパス株式会社 | 手術器具およびその制御方法 |
JP6000641B2 (ja) | 2011-08-04 | 2016-10-05 | オリンパス株式会社 | マニピュレータシステム |
JP5931497B2 (ja) | 2011-08-04 | 2016-06-08 | オリンパス株式会社 | 手術支援装置およびその組立方法 |
JP5953058B2 (ja) | 2011-08-04 | 2016-07-13 | オリンパス株式会社 | 手術支援装置およびその着脱方法 |
WO2013018897A1 (ja) | 2011-08-04 | 2013-02-07 | オリンパス株式会社 | 術具及び医療用マニピュレータ |
CN103717169B (zh) * | 2011-08-04 | 2016-11-16 | 奥林巴斯株式会社 | 医疗用机械手及其控制方法 |
JP6005950B2 (ja) | 2011-08-04 | 2016-10-12 | オリンパス株式会社 | 手術支援装置及びその制御方法 |
JP5936914B2 (ja) | 2011-08-04 | 2016-06-22 | オリンパス株式会社 | 操作入力装置およびこれを備えるマニピュレータシステム |
JP6009840B2 (ja) | 2011-08-04 | 2016-10-19 | オリンパス株式会社 | 医療機器 |
JP6021484B2 (ja) | 2011-08-04 | 2016-11-09 | オリンパス株式会社 | 医療用マニピュレータ |
US9519341B2 (en) | 2011-08-04 | 2016-12-13 | Olympus Corporation | Medical manipulator and surgical support apparatus |
US20130060166A1 (en) * | 2011-09-01 | 2013-03-07 | The Regents Of The University Of California | Device and method for providing hand rehabilitation and assessment of hand function |
US9924907B2 (en) | 2011-09-30 | 2018-03-27 | Google Technology Holdings LLC | Method and system for identifying location of a touched body part |
US20130093751A1 (en) * | 2011-10-12 | 2013-04-18 | Microsoft Corporation | Gesture bank to improve skeletal tracking |
WO2013059643A1 (en) | 2011-10-21 | 2013-04-25 | Intuitive Surgical Operations, Inc. | Grip force control for robotic surgical instrument end effector |
US9014850B2 (en) * | 2012-01-13 | 2015-04-21 | Toyota Motor Engineering & Manufacturing North America, Inc. | Methods and computer-program products for evaluating grasp patterns, and robots incorporating the same |
JP6250566B2 (ja) * | 2012-02-15 | 2017-12-20 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | モードを区別する操作動作を用いたロボットシステム操作モードの使用者選択 |
US9445876B2 (en) * | 2012-02-27 | 2016-09-20 | Covidien Lp | Glove with sensory elements incorporated therein for controlling at least one surgical instrument |
CN102729238B (zh) * | 2012-06-28 | 2014-11-26 | 哈尔滨工程大学 | 三轴交汇式姿态主手机构 |
JP6053358B2 (ja) * | 2012-07-03 | 2016-12-27 | オリンパス株式会社 | 手術支援装置 |
US9535596B2 (en) * | 2012-07-25 | 2017-01-03 | Facebook, Inc. | Three-dimensional gestures |
WO2014021603A1 (ko) * | 2012-08-02 | 2014-02-06 | 한국기술교육대학교 산학협력단 | 스트링 꼬임 기반 모션 제어 장치 |
EP2895098B1 (en) | 2012-09-17 | 2022-08-10 | Intuitive Surgical Operations, Inc. | Methods and systems for assigning input devices to teleoperated surgical instrument functions |
JP2015533248A (ja) | 2012-09-28 | 2015-11-19 | ゾール メディカル コーポレイションZOLL Medical Corporation | Ems環境内で三次元対話をモニタするためのシステム及び方法 |
US10864048B2 (en) | 2012-11-02 | 2020-12-15 | Intuitive Surgical Operations, Inc. | Flux disambiguation for teleoperated surgical systems |
US10631939B2 (en) | 2012-11-02 | 2020-04-28 | Intuitive Surgical Operations, Inc. | Systems and methods for mapping flux supply paths |
US20140176661A1 (en) | 2012-12-21 | 2014-06-26 | G. Anthony Reina | System and method for surgical telementoring and training with virtualized telestration and haptic holograms, including metadata tagging, encapsulation and saving multi-modal streaming medical imagery together with multi-dimensional [4-d] virtual mesh and multi-sensory annotation in standard file formats used for digital imaging and communications in medicine (dicom) |
JP6077297B2 (ja) * | 2012-12-25 | 2017-02-08 | 川崎重工業株式会社 | 手術ロボット |
US20140257766A1 (en) * | 2013-03-06 | 2014-09-11 | Qualcomm Incorporated | Adaptive probabilistic step detection for pedestrian positioning |
US9566414B2 (en) | 2013-03-13 | 2017-02-14 | Hansen Medical, Inc. | Integrated catheter and guide wire controller |
BR112015022187A2 (pt) | 2013-03-14 | 2017-07-18 | Stanford Res Inst Int | ferramentas cirúrgicas minimamente invasivas |
EP2967348B1 (en) * | 2013-03-15 | 2022-03-23 | Synaptive Medical Inc. | Intelligent positioning system |
US10849702B2 (en) | 2013-03-15 | 2020-12-01 | Auris Health, Inc. | User input devices for controlling manipulation of guidewires and catheters |
US9283046B2 (en) | 2013-03-15 | 2016-03-15 | Hansen Medical, Inc. | User interface for active drive apparatus with finite range of motion |
CN105188592B (zh) | 2013-03-15 | 2018-07-27 | Sri国际公司 | 超灵巧型手术系统 |
EP2988696A4 (en) | 2013-04-25 | 2016-11-30 | Intuitive Surgical Operations | CONTROL ENTRY VISUALIZATION FIELD FOR SURGICAL EQUIPMENT |
US11020016B2 (en) | 2013-05-30 | 2021-06-01 | Auris Health, Inc. | System and method for displaying anatomy and devices on a movable display |
US9179051B1 (en) * | 2013-06-13 | 2015-11-03 | Clara Stoudt | Voice-activated hands-free camera holder systems |
DE102013108114B4 (de) * | 2013-07-30 | 2015-02-12 | gomtec GmbH | Eingabevorrichtung zur Gestensteuerung mit Schutzeinrichtung |
DE102013110847B3 (de) * | 2013-10-01 | 2015-01-22 | gomtec GmbH | Steuervorrichtung und Verfahren zum Steuern eines Robotersystems mittels Gestensteuerung |
KR102237597B1 (ko) * | 2014-02-18 | 2021-04-07 | 삼성전자주식회사 | 수술 로봇용 마스터 장치 및 그 제어 방법 |
CN111616666A (zh) | 2014-03-19 | 2020-09-04 | 直观外科手术操作公司 | 使用眼球凝视跟踪的医疗装置、系统和方法 |
EP3119343A4 (en) | 2014-03-19 | 2017-12-20 | Intuitive Surgical Operations, Inc. | Medical devices, systems, and methods integrating eye gaze tracking for stereo viewer |
EP3243476B1 (en) | 2014-03-24 | 2019-11-06 | Auris Health, Inc. | Systems and devices for catheter driving instinctiveness |
US11977998B2 (en) | 2014-05-15 | 2024-05-07 | Storz Endoskop Produktions Gmbh | Surgical workflow support system |
US9211643B1 (en) * | 2014-06-25 | 2015-12-15 | Microsoft Technology Licensing, Llc | Automatic in-situ registration and calibration of robotic arm/sensor/workspace system |
US20150375399A1 (en) * | 2014-06-27 | 2015-12-31 | Hansen Medical, Inc. | User interface for medical robotics system |
EP3166468A4 (en) * | 2014-07-10 | 2018-03-07 | M.S.T. Medical Surgery Technologies Ltd. | Improved interface for laparoscopic surgeries - movement gestures |
US10768708B1 (en) * | 2014-08-21 | 2020-09-08 | Ultrahaptics IP Two Limited | Systems and methods of interacting with a robotic tool using free-form gestures |
US9811555B2 (en) | 2014-09-27 | 2017-11-07 | Intel Corporation | Recognition of free-form gestures from orientation tracking of a handheld or wearable device |
US10499999B2 (en) | 2014-10-09 | 2019-12-10 | Auris Health, Inc. | Systems and methods for aligning an elongate member with an access site |
US9914211B2 (en) | 2014-11-25 | 2018-03-13 | Synaptive Medical (Barbados) Inc. | Hand-guided automated positioning device controller |
DE102014226240A1 (de) * | 2014-12-17 | 2016-06-23 | Kuka Roboter Gmbh | System zur roboterunterstützten medizinischen Behandlung |
US10187343B2 (en) | 2014-12-18 | 2019-01-22 | Facebook, Inc. | Location data for defining places and traffic |
KR20170140179A (ko) | 2015-02-24 | 2017-12-20 | 에스알아이 인터내셔널 | 하이퍼덱스테러스 시스템 사용자 인터페이스 |
CN104758062A (zh) * | 2015-04-16 | 2015-07-08 | 北京航空航天大学 | 一种根据体感动作信号进行手术的装置及方法 |
US10600015B2 (en) | 2015-06-24 | 2020-03-24 | Karl Storz Se & Co. Kg | Context-aware user interface for integrated operating room |
CN104970754B (zh) * | 2015-06-25 | 2016-09-28 | 云南电网有限责任公司电力科学研究院 | 一种基于Kinect传感器手势控制内窥镜光纤的方法 |
CN105125155A (zh) * | 2015-06-25 | 2015-12-09 | 云南电网有限责任公司电力科学研究院 | 一种基于手势控制内窥镜光纤的方法 |
CN108025445A (zh) | 2015-07-23 | 2018-05-11 | 斯里国际 | 机器人臂及机器人手术系统 |
CN108135667B (zh) * | 2015-10-22 | 2021-10-22 | 柯惠Lp公司 | 用于输入装置的可变扫动 |
CN105260029B (zh) * | 2015-11-24 | 2018-04-24 | 哈尔滨工业大学 | 基于人手运动功能复现的仿人手结构实现方法 |
EP3463162A4 (en) * | 2016-06-03 | 2020-06-24 | Covidien LP | SYSTEMS, METHODS AND COMPUTER READABLE PROGRAM PRODUCTS FOR CONTROLLING A ROBOT CONTROLLED MANIPULATOR |
US11037464B2 (en) * | 2016-07-21 | 2021-06-15 | Auris Health, Inc. | System with emulator movement tracking for controlling medical devices |
WO2018060404A1 (en) * | 2016-09-29 | 2018-04-05 | Koninklijke Philips N.V. | System and method for planning and performing an interventional procedure based on the spatial relationships between identified points |
CN108261167B (zh) * | 2017-01-03 | 2019-12-03 | 上银科技股份有限公司 | 内视镜操控系统 |
US11583356B2 (en) | 2017-05-26 | 2023-02-21 | Covidien Lp | Controller for imaging device |
US10678338B2 (en) * | 2017-06-09 | 2020-06-09 | At&T Intellectual Property I, L.P. | Determining and evaluating data representing an action to be performed by a robot |
US20200163731A1 (en) * | 2017-07-13 | 2020-05-28 | Intuitive Surgical Operations, Inc. | Systems and methods for switching control between multiple instrument arms |
CN107374742A (zh) * | 2017-07-31 | 2017-11-24 | 成都中科博恩思医学机器人有限公司 | 执行机构的操控平台 |
US10772703B2 (en) * | 2017-08-25 | 2020-09-15 | Titan Medical Inc. | Methods and apparatuses for positioning a camera of a surgical robotic system to capture images inside a body cavity of a patient during a medical procedure |
US10394342B2 (en) | 2017-09-27 | 2019-08-27 | Facebook Technologies, Llc | Apparatuses, systems, and methods for representing user interactions with real-world input devices in a virtual space |
US20210030502A1 (en) * | 2017-10-25 | 2021-02-04 | Intuitive Surgical Operations, Inc. | System and method for repositioning input control devices |
JP6902208B2 (ja) * | 2017-11-14 | 2021-07-14 | オムロン株式会社 | 把持方法、把持システム及びプログラム |
KR20200099138A (ko) | 2017-12-08 | 2020-08-21 | 아우리스 헬스, 인코포레이티드 | 의료 기구 항행 및 표적 선정을 위한 시스템 및 방법 |
US10921897B2 (en) | 2018-01-18 | 2021-02-16 | Intuitive Surgical Operations, Inc. | System and method for assisting operator engagement with input devices |
WO2021126163A1 (en) * | 2019-12-17 | 2021-06-24 | Covidien Lp | Robotic surgical systems with user engagement monitoring |
US10933526B2 (en) * | 2018-04-23 | 2021-03-02 | General Electric Company | Method and robotic system for manipulating instruments |
AU2019270647A1 (en) * | 2018-05-17 | 2020-12-03 | Medical Microinstruments, Inc. | Master controller assembly for a robotic surgery system, particularly for microsurgery |
US11179213B2 (en) | 2018-05-18 | 2021-11-23 | Auris Health, Inc. | Controllers for robotically-enabled teleoperated systems |
US11534246B2 (en) | 2018-06-15 | 2022-12-27 | Verb Surgical Inc. | User input device for use in robotic surgery |
CN112218747A (zh) * | 2018-06-15 | 2021-01-12 | 威博外科公司 | 具有手指离合器的用户界面装置 |
JP7248271B2 (ja) * | 2018-09-14 | 2023-03-29 | 国立大学法人 東京大学 | 情報処理装置、ロボットハンド制御システム、及びロボットハンド制御プログラム |
US11934594B2 (en) | 2018-10-04 | 2024-03-19 | Intuitive Surgical Operations, Inc. | Systems and methods of device control with operator and motion sensing |
CN109730772B (zh) * | 2018-12-27 | 2020-11-13 | 北京术锐技术有限公司 | 操作使能控制系统及具有该系统的机器人辅助手术设备 |
US11478318B2 (en) * | 2018-12-28 | 2022-10-25 | Verb Surgical Inc. | Methods for actively engaging and disengaging teleoperation of a surgical robotic system |
US10539644B1 (en) * | 2019-02-27 | 2020-01-21 | Northern Digital Inc. | Tracking an object in an electromagnetic field |
JP2020162916A (ja) * | 2019-03-29 | 2020-10-08 | ソニー株式会社 | 制御装置及びマスタスレーブシステム |
US11478312B2 (en) * | 2019-05-10 | 2022-10-25 | Verb Surgical Inc. | Unmatching/matching UID to robot grasper for engaging teleoperation |
US11337767B2 (en) | 2019-05-17 | 2022-05-24 | Verb Surgical Inc. | Interlock mechanisms to disengage and engage a teleoperation mode |
US11204640B2 (en) | 2019-05-17 | 2021-12-21 | Verb Surgical Inc. | Methods for determining if teleoperation should be disengaged based on the user's gaze |
US10890983B2 (en) * | 2019-06-07 | 2021-01-12 | Facebook Technologies, Llc | Artificial reality system having a sliding menu |
EP3989793A4 (en) | 2019-06-28 | 2023-07-19 | Auris Health, Inc. | CONSOLE OVERLAY ITS METHODS OF USE |
CN110464469B (zh) * | 2019-09-10 | 2020-12-01 | 深圳市精锋医疗科技有限公司 | 手术机器人及末端器械的控制方法、控制装置、存储介质 |
GB2590593B (en) | 2019-10-28 | 2023-09-13 | Cmr Surgical Ltd | Controlling a surgical instrument |
CN111281649B (zh) * | 2020-03-03 | 2021-08-13 | 西安交通大学 | 一种眼科手术机器人系统及其控制方法 |
US11571269B2 (en) | 2020-03-11 | 2023-02-07 | Verb Surgical Inc. | Surgeon disengagement detection during termination of teleoperation |
CN111814901A (zh) * | 2020-07-21 | 2020-10-23 | 西北工业大学 | 基于数据挖掘与状态学习的医师操作手法模拟方法 |
EP4192381A1 (en) * | 2020-08-06 | 2023-06-14 | Medics Srl | Auxiliary apparatus for surgical operations |
IT202000020956A1 (it) * | 2020-09-03 | 2022-03-03 | Sir Soc Italiana Resine Spa | Metodo implementato mediante computer per auto-apprendimento di un robot antropomorfo e relativo sistema di auto-apprendimento |
US20220087763A1 (en) * | 2020-09-23 | 2022-03-24 | Verb Surgical Inc. | Deep disengagement detection during telesurgery |
IT202100003488A1 (it) * | 2021-02-16 | 2022-08-16 | Medical Microinstruments Inc | “metodo per una verifica di integrità di un dispositivo master di un sistema robotico di tipo master-slave per teleoperazione medica o chirurgica” |
IT202100003476A1 (it) * | 2021-02-16 | 2022-08-16 | Medical Microinstruments Inc | Metodo per rilevare, sulla base di misura o rilevazione di velocità, anomalie operative di un dispositivo master non vincolato di un sistema robotico di tipo master-slave per teleoperazione medica o chirurgica |
CN113633387B (zh) * | 2021-06-21 | 2024-01-26 | 安徽理工大学 | 术野追踪的扶持腹腔镜微创机器人触力交互方法和系统 |
CN114099005B (zh) * | 2021-11-24 | 2023-09-15 | 重庆金山医疗机器人有限公司 | 器械是否在视野内、是否被遮挡的判断法及能量显示方法 |
US11809640B2 (en) * | 2021-12-09 | 2023-11-07 | Htc Corporation | Method for detecting movement of ring controller, ring controller, and computer readable medium |
WO2024084479A1 (en) * | 2022-10-20 | 2024-04-25 | Ben Muvhar Kahana Shmuel | Systems and methods for surgical instruments navigation using personalized dynamic markers |
GB2624485A (en) * | 2023-04-19 | 2024-05-22 | Neurovirt Ltd | Methods and systems for using real world objects for functional therapy in an extended reality environment |
US11991222B1 (en) | 2023-05-02 | 2024-05-21 | Meta Platforms Technologies, Llc | Persistent call control user interface element in an artificial reality environment |
Family Cites Families (85)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2416094A1 (fr) | 1978-02-01 | 1979-08-31 | Zarudiansky Alain | Dispositif de manipulation a distance |
US4988981B1 (en) | 1987-03-17 | 1999-05-18 | Vpl Newco Inc | Computer data entry and manipulation apparatus and method |
US6701296B1 (en) | 1988-10-14 | 2004-03-02 | James F. Kramer | Strain-sensing goniometers, systems, and recognition algorithms |
JP2561561B2 (ja) | 1990-11-30 | 1996-12-11 | 株式会社フジタ | ロボットハンドの遠隔操作システム |
JPH0573118A (ja) | 1991-09-17 | 1993-03-26 | Yaskawa Electric Corp | ロボツト制御装置 |
US6963792B1 (en) * | 1992-01-21 | 2005-11-08 | Sri International | Surgical method |
US5762458A (en) | 1996-02-20 | 1998-06-09 | Computer Motion, Inc. | Method and apparatus for performing minimally invasive cardiac procedures |
DE4306786C1 (de) | 1993-03-04 | 1994-02-10 | Wolfgang Daum | Chirurgischer Manipulator |
US5791231A (en) | 1993-05-17 | 1998-08-11 | Endorobotics Corporation | Surgical robotic system and hydraulic actuator therefor |
US6463361B1 (en) | 1994-09-22 | 2002-10-08 | Computer Motion, Inc. | Speech interface for an automated endoscopic system |
US5808219A (en) | 1995-11-02 | 1998-09-15 | Yamaha Corporation | Motion discrimination method and device using a hidden markov model |
JP2776477B2 (ja) | 1996-02-13 | 1998-07-16 | 川崎重工業株式会社 | ロボット3次元位置姿勢教示システム |
US5855583A (en) | 1996-02-20 | 1999-01-05 | Computer Motion, Inc. | Method and apparatus for performing minimally invasive cardiac procedures |
US6436107B1 (en) | 1996-02-20 | 2002-08-20 | Computer Motion, Inc. | Method and apparatus for performing minimally invasive surgical procedures |
US6331181B1 (en) | 1998-12-08 | 2001-12-18 | Intuitive Surgical, Inc. | Surgical robotic tools, data architecture, and use |
US7699855B2 (en) | 1996-12-12 | 2010-04-20 | Intuitive Surgical Operations, Inc. | Sterile surgical adaptor |
US6809462B2 (en) | 2000-04-05 | 2004-10-26 | Sri International | Electroactive polymer sensors |
US6110130A (en) | 1997-04-21 | 2000-08-29 | Virtual Technologies, Inc. | Exoskeleton device for directly measuring fingertip position and inferring finger joint angle |
US6049327A (en) | 1997-04-23 | 2000-04-11 | Modern Cartoons, Ltd | System for data management based onhand gestures |
US7472047B2 (en) | 1997-05-12 | 2008-12-30 | Immersion Corporation | System and method for constraining a graphical hand from penetrating simulated graphical objects |
DE69840264D1 (de) | 1997-05-12 | 2009-01-08 | Immersion Corp | Kraftrückkopplungsschinittstellenvorrichtung für die hand |
US6126373A (en) | 1997-12-19 | 2000-10-03 | Fanuc Usa Corporation | Method and apparatus for realtime remote robotics command |
JP3472957B2 (ja) * | 1998-09-17 | 2003-12-02 | 株式会社日立製作所 | マスタスレーブマニピュレータ |
JP2000132305A (ja) * | 1998-10-23 | 2000-05-12 | Olympus Optical Co Ltd | 操作入力装置 |
US6799065B1 (en) | 1998-12-08 | 2004-09-28 | Intuitive Surgical, Inc. | Image shifting apparatus and method for a telerobotic system |
US6424885B1 (en) | 1999-04-07 | 2002-07-23 | Intuitive Surgical, Inc. | Camera referenced control in a minimally invasive surgical apparatus |
US6565554B1 (en) | 1999-04-07 | 2003-05-20 | Intuitive Surgical, Inc. | Friction compensation in a minimally invasive surgical apparatus |
WO2002005217A1 (en) | 2000-07-07 | 2002-01-17 | Kent Ridge Digital Labs | A virtual surgery system with force feedback |
JP2002059380A (ja) | 2000-08-22 | 2002-02-26 | Olympus Optical Co Ltd | マスタースレーブ装置 |
AU1159402A (en) | 2000-10-06 | 2002-04-15 | Mark P Ombrellaro | Device for the direct manual examination of a patient in a non-contiguous location |
US6524214B1 (en) | 2000-12-27 | 2003-02-25 | James A. Cillessen | Variable ratio transmission |
US20030135204A1 (en) | 2001-02-15 | 2003-07-17 | Endo Via Medical, Inc. | Robotically controlled medical instrument with a flexible section |
US6785358B2 (en) | 2001-10-09 | 2004-08-31 | General Electric Company | Voice activated diagnostic imaging control user interface |
US20040087989A1 (en) | 2001-10-23 | 2004-05-06 | Theracardia, Inc. | Scalpel sheath and methods for use |
US7203911B2 (en) | 2002-05-13 | 2007-04-10 | Microsoft Corporation | Altering a display on a viewing device based upon a user proximity to the viewing device |
WO2004001569A2 (en) * | 2002-06-21 | 2003-12-31 | Cedara Software Corp. | Computer assisted system and method for minimal invasive hip, uni knee and total knee replacement |
EP2070487B1 (en) | 2002-08-13 | 2014-03-05 | NeuroArm Surgical, Ltd. | Microsurgical robot system |
JP3934524B2 (ja) * | 2002-10-09 | 2007-06-20 | 株式会社日立製作所 | 手術用マニピュレータ |
US7386365B2 (en) | 2004-05-04 | 2008-06-10 | Intuitive Surgical, Inc. | Tool grip calibration for robotic surgery |
US7410483B2 (en) | 2003-05-23 | 2008-08-12 | Novare Surgical Systems, Inc. | Hand-actuated device for remote manipulation of a grasping tool |
US9002518B2 (en) | 2003-06-30 | 2015-04-07 | Intuitive Surgical Operations, Inc. | Maximum torque driving of robotic surgical tools in robotic surgical systems |
US8064985B2 (en) | 2003-09-12 | 2011-11-22 | Ge Medical Systems Global Technology Company | System and method for determining the position of a flexible instrument used in a tracking system |
JP2005224528A (ja) | 2004-02-16 | 2005-08-25 | Olympus Corp | 内視鏡 |
JP5090161B2 (ja) * | 2004-06-29 | 2012-12-05 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | グラフィカルユーザインタフェースの多階層表示 |
US7976559B2 (en) | 2004-11-04 | 2011-07-12 | Dynamic Surgical Inventions, Llc | Articulated surgical probe and method for use |
DE602004011962T2 (de) | 2004-12-09 | 2009-02-19 | University Of Dundee, Dundee | Armstütze für Operateur |
JP2006167867A (ja) | 2004-12-16 | 2006-06-29 | Fuji Heavy Ind Ltd | 遠隔操作装置 |
ES2262423B1 (es) | 2005-02-18 | 2007-11-16 | Manuel Fernandez Guerrero | Sistema de activacion y desactivacion automatica de radiacion ionizante controlado por la mirada del operador. |
US9492240B2 (en) | 2009-06-16 | 2016-11-15 | Intuitive Surgical Operations, Inc. | Virtual measurement tool for minimally invasive surgery |
US8398541B2 (en) | 2006-06-06 | 2013-03-19 | Intuitive Surgical Operations, Inc. | Interactive user interfaces for robotic minimally invasive surgical systems |
US20070129626A1 (en) | 2005-11-23 | 2007-06-07 | Prakash Mahesh | Methods and systems for facilitating surgical procedures |
US7834847B2 (en) * | 2005-12-01 | 2010-11-16 | Navisense | Method and system for activating a touchless control |
US7907166B2 (en) | 2005-12-30 | 2011-03-15 | Intuitive Surgical Operations, Inc. | Stereo telestration for robotic surgery |
US20070167702A1 (en) | 2005-12-30 | 2007-07-19 | Intuitive Surgical Inc. | Medical robotic system providing three-dimensional telestration |
US7845537B2 (en) | 2006-01-31 | 2010-12-07 | Ethicon Endo-Surgery, Inc. | Surgical instrument having recording capabilities |
EP1815949A1 (en) | 2006-02-03 | 2007-08-08 | The European Atomic Energy Community (EURATOM), represented by the European Commission | Medical robotic system with manipulator arm of the cylindrical coordinate type |
CN101496032B (zh) | 2006-02-27 | 2011-08-17 | 普莱姆传感有限公司 | 使用斑纹解相关的距离映射的方法及设备 |
US8236010B2 (en) | 2006-03-23 | 2012-08-07 | Ethicon Endo-Surgery, Inc. | Surgical fastener and cutter with mimicking end effector |
US20080065104A1 (en) | 2006-06-13 | 2008-03-13 | Intuitive Surgical, Inc. | Minimally invasive surgical instrument advancement |
US20090192523A1 (en) | 2006-06-29 | 2009-07-30 | Intuitive Surgical, Inc. | Synthetic representation of a surgical instrument |
WO2008042219A2 (en) | 2006-09-29 | 2008-04-10 | Nellcor Puritan Bennett Llc | User interface and identification in a medical device systems and methods |
WO2008104082A1 (en) | 2007-03-01 | 2008-09-04 | Titan Medical Inc. | Methods, systems and devices for threedimensional input, and control methods and systems based thereon |
US8682502B2 (en) | 2007-03-28 | 2014-03-25 | Irobot Corporation | Remote vehicle control system and method |
US20080275367A1 (en) | 2007-04-23 | 2008-11-06 | Hansen Medical, Inc | Systems and methods for mapping intra-body tissue compliance |
WO2008133956A2 (en) | 2007-04-23 | 2008-11-06 | Hansen Medical, Inc. | Robotic instrument control system |
US20090138025A1 (en) | 2007-05-04 | 2009-05-28 | Hansen Medical, Inc. | Apparatus systems and methods for forming a working platform of a robotic instrument system by manipulation of components having controllably rigidity |
JP5258284B2 (ja) * | 2007-12-28 | 2013-08-07 | テルモ株式会社 | 医療用マニピュレータ及び医療用ロボットシステム |
US9881520B2 (en) | 2008-01-08 | 2018-01-30 | Immersion Medical, Inc. | Virtual tool manipulation system |
US8282653B2 (en) | 2008-03-24 | 2012-10-09 | Board Of Regents Of The University Of Nebraska | System and methods for controlling surgical tool elements |
US8808164B2 (en) | 2008-03-28 | 2014-08-19 | Intuitive Surgical Operations, Inc. | Controlling a robotic surgical tool with a display monitor |
US7843158B2 (en) | 2008-03-31 | 2010-11-30 | Intuitive Surgical Operations, Inc. | Medical robotic system adapted to inhibit motions resulting in excessive end effector forces |
EP2108328B2 (de) | 2008-04-09 | 2020-08-26 | Brainlab AG | Bildbasiertes Ansteuerungsverfahren für medizintechnische Geräte |
US8803955B2 (en) | 2008-04-26 | 2014-08-12 | Intuitive Surgical Operations, Inc. | Augmented stereoscopic visualization for a surgical robot using a camera unit with a modified prism |
US20100013910A1 (en) | 2008-07-21 | 2010-01-21 | Vivid Medical | Stereo viewer |
US20100082368A1 (en) | 2008-09-29 | 2010-04-01 | Corquality Systems, Inc. | Wrong site surgery prevention system |
US8830224B2 (en) | 2008-12-31 | 2014-09-09 | Intuitive Surgical Operations, Inc. | Efficient 3-D telestration for local robotic proctoring |
US9155592B2 (en) | 2009-06-16 | 2015-10-13 | Intuitive Surgical Operations, Inc. | Virtual measurement tool for minimally invasive surgery |
US8543240B2 (en) | 2009-11-13 | 2013-09-24 | Intuitive Surgical Operations, Inc. | Master finger tracking device and method of use in a minimally invasive surgical system |
US8682489B2 (en) | 2009-11-13 | 2014-03-25 | Intuitive Sugical Operations, Inc. | Method and system for hand control of a teleoperated minimally invasive slave surgical instrument |
US8935003B2 (en) | 2010-09-21 | 2015-01-13 | Intuitive Surgical Operations | Method and system for hand presence detection in a minimally invasive surgical system |
US8996173B2 (en) | 2010-09-21 | 2015-03-31 | Intuitive Surgical Operations, Inc. | Method and apparatus for hand gesture control in a minimally invasive surgical system |
US8521331B2 (en) | 2009-11-13 | 2013-08-27 | Intuitive Surgical Operations, Inc. | Patient-side surgeon interface for a minimally invasive, teleoperated surgical instrument |
WO2011085815A1 (en) * | 2010-01-14 | 2011-07-21 | Brainlab Ag | Controlling a surgical navigation system |
US8520027B2 (en) | 2010-05-14 | 2013-08-27 | Intuitive Surgical Operations, Inc. | Method and system of see-through console overlay |
US9283048B2 (en) * | 2013-10-04 | 2016-03-15 | KB Medical SA | Apparatus and systems for precise guidance of surgical tools |
-
2010
- 2010-09-21 US US12/887,160 patent/US8935003B2/en active Active
- 2010-11-11 CN CN201510349797.0A patent/CN104887326B/zh active Active
- 2010-11-11 WO PCT/US2010/056405 patent/WO2011060185A1/en active Application Filing
- 2010-11-11 CN CN201080050701.6A patent/CN102665588B/zh active Active
- 2010-11-11 EP EP10801733.6A patent/EP2480158B1/en active Active
- 2010-11-11 JP JP2012538989A patent/JP5847725B2/ja active Active
- 2010-11-11 KR KR1020127013202A patent/KR101785360B1/ko active IP Right Grant
-
2014
- 2014-11-24 US US14/551,495 patent/US9743989B2/en active Active
-
2015
- 2015-07-23 JP JP2015145498A patent/JP5982542B2/ja active Active
-
2017
- 2017-07-27 US US15/661,940 patent/US10543050B2/en active Active
-
2019
- 2019-12-11 US US16/711,348 patent/US11707336B2/en active Active
-
2023
- 2023-06-05 US US18/328,886 patent/US20230346494A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2013510674A (ja) | 2013-03-28 |
JP2015186651A (ja) | 2015-10-29 |
US20120071892A1 (en) | 2012-03-22 |
WO2011060185A1 (en) | 2011-05-19 |
US11707336B2 (en) | 2023-07-25 |
US20200113641A1 (en) | 2020-04-16 |
CN102665588A (zh) | 2012-09-12 |
US9743989B2 (en) | 2017-08-29 |
EP2480158B1 (en) | 2016-05-11 |
CN104887326A (zh) | 2015-09-09 |
US20150080909A1 (en) | 2015-03-19 |
KR20140015144A (ko) | 2014-02-06 |
US20170319284A1 (en) | 2017-11-09 |
US10543050B2 (en) | 2020-01-28 |
JP5982542B2 (ja) | 2016-08-31 |
KR101785360B1 (ko) | 2017-10-16 |
CN104887326B (zh) | 2017-09-08 |
CN102665588B (zh) | 2015-07-22 |
EP2480158A1 (en) | 2012-08-01 |
US8935003B2 (en) | 2015-01-13 |
US20230346494A1 (en) | 2023-11-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5982542B2 (ja) | 低侵襲外科システムにおいて手の存在を検出するための方法およびシステム | |
JP6000387B2 (ja) | 低侵襲外科システムにおいて使用するマスターフィンガー追跡システム | |
JP5702798B2 (ja) | 低侵襲外科システムにおけるハンドジェスチャー制御の方法および装置 | |
JP5702797B2 (ja) | 遠隔操作される低侵襲スレーブ手術器具の手による制御のための方法およびシステム | |
US9901402B2 (en) | Method and apparatus for hand gesture control in a minimally invasive surgical system | |
EP3092968B1 (en) | System for hand presence detection in a minimally invasive surgical system | |
KR101824442B1 (ko) | 최소 침습 수술 시스템에서 손 존재 검출을 위한 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130910 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140502 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140801 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150126 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150424 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150525 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20150625 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150723 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151125 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5847725 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |