JP6730938B2 - 医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法 - Google Patents
医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法 Download PDFInfo
- Publication number
- JP6730938B2 JP6730938B2 JP2016575495A JP2016575495A JP6730938B2 JP 6730938 B2 JP6730938 B2 JP 6730938B2 JP 2016575495 A JP2016575495 A JP 2016575495A JP 2016575495 A JP2016575495 A JP 2016575495A JP 6730938 B2 JP6730938 B2 JP 6730938B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- navigation
- medical image
- display device
- image display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/00002—Operational features of endoscopes
- A61B1/00043—Operational features of endoscopes provided with output arrangements
- A61B1/00045—Display arrangement
- A61B1/0005—Display arrangement combining images e.g. side-by-side, superimposed or tiled
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B1/00—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
- A61B1/267—Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor for the respiratory tract, e.g. laryngoscopes, bronchoscopes
- A61B1/2676—Bronchoscopes
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/25—User interfaces for surgical systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/06—Devices, other than using radiation, for detecting or locating foreign bodies ; determining position of probes within or on the body of the patient
- A61B5/065—Determining position of the probe employing exclusively positioning means located on or in the probe, e.g. using position sensors arranged on the probe
- A61B5/066—Superposing sensor position on an image of the patient, e.g. obtained by ultrasound or x-ray imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2051—Electromagnetic tracking systems
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/364—Correlation of different images or relation of image positions in respect to the body
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B2090/364—Correlation of different images or relation of image positions in respect to the body
- A61B2090/367—Correlation of different images or relation of image positions in respect to the body creating a 3D dataset from 2D images using position information
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
- A61B2090/374—NMR or MRI
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B90/00—Instruments, implements or accessories specially adapted for surgery or diagnosis and not covered by any of the groups A61B1/00 - A61B50/00, e.g. for luxation treatment or for protecting wound edges
- A61B90/36—Image-producing devices or illumination devices not otherwise provided for
- A61B90/37—Surgical systems with images on a monitor during operation
- A61B2090/376—Surgical systems with images on a monitor during operation using X-rays, e.g. fluoroscopy
- A61B2090/3762—Surgical systems with images on a monitor during operation using X-rays, e.g. fluoroscopy using computed tomography systems [CT]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2560/00—Constructional details of operational features of apparatus; Accessories for medical measuring apparatus
- A61B2560/04—Constructional details of apparatus
- A61B2560/0475—Special features of memory means, e.g. removable memory cards
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0002—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network
- A61B5/0004—Remote monitoring of patients using telemetry, e.g. transmission of vital signals via a communication network characterised by the type of physiological signal transmitted
- A61B5/0013—Medical image data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/74—Details of notification to user or communication with user or patient ; user input means
- A61B5/742—Details of notification to user or communication with user or patient ; user input means using visual displays
- A61B5/7425—Displaying combinations of multiple images regardless of image source, e.g. displaying a reference anatomical image with a live image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2211/00—Image generation
- G06T2211/40—Computed tomography
- G06T2211/412—Dynamic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2211/00—Image generation
- G06T2211/40—Computed tomography
- G06T2211/428—Real-time
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2380/00—Specific applications
- G09G2380/08—Biomedical applications
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Surgery (AREA)
- Physics & Mathematics (AREA)
- Public Health (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Medical Informatics (AREA)
- Veterinary Medicine (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Radiology & Medical Imaging (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- Pulmonology (AREA)
- General Physics & Mathematics (AREA)
- Robotics (AREA)
- Physiology (AREA)
- Otolaryngology (AREA)
- Gynecology & Obstetrics (AREA)
- General Engineering & Computer Science (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Endoscopes (AREA)
- Computer Networks & Wireless Communication (AREA)
- Image Processing (AREA)
Description
(技術分野)
本開示は、動的なおよび変化する方法で医学画像を表示するシステムに関する。より具体的には、本開示は、ナビゲーション器具の位置および状態、および各点に時間内に到達する機能に基づいて動的に医学画像を表示するシステムに関する。
可視化技術は、医療分野において急速に成長してきた。特に、可視化技術は、切開の大きさを最小化すること、または、手術において患者の病気の低侵襲的な処置、および、低侵襲性的に患者の体内をナビゲートして目標の病変を識別し治療することに役立ってきた。しかしながら、可視化は、また、正しくない情報が表示されるという、予期しないリスクを提起する。さらに、正しくない情報が表示される場合、表示された情報を解釈するために、臨床医は困難な時を有し得る。
一つの実施形態において、本開示は、肺の医学画像を画面上に表示する医学画像表示装置を開示する。医療学画像表示装置は、ナビゲーション器具の位置センサからのナビゲーション器具の位置情報、ナビゲーション器具の光学センサからのビデオストリームおよび画像化デバイスからの医学画像を受信するように構成されたネットワークインターフェイス、複数の医学画像および複数の医学画像を格納するメモリおよび命令、該命令を実行するように構成されたプロセッサ、および、動的に画像を画面上に表示するように構成されたディスプレイを含む。命令は、プロセッサによって実行される場合、医学画像表示装置に、状態情報が経路検討モード、目標管理モード、または、ナビゲーションモードを示すかを決定させる。プロセッサによって実行される場合、命令は、さらにディスプレイに、複数の医学画像の中で、ナビゲーション器具の位置情報および状態情報に基づいて、画面に表示される画像を動的に選択し、更新させる。
例えば、本願は以下の項目を提供する。
(項目1)
肺の医学画像を画面に表示する医学画像表示装置であって、該医学画像表示装置は、
ナビゲーション器具の位置センサから該ナビゲーション器具の位置情報と、該ナビゲーション器具の光学センサからのビデオストリームと、画像化デバイスからの医学画像とを受け取るように構成された、ネットワークインターフェイスと、
複数の医学画像および命令を格納するメモリと、
該命令を実行するように構成されたプロセッサと、
画像を該画面上に動的に表示するように構成されたディスプレイとを含み、
ここで、該命令は、該プロセッサによって実行される場合、医学画像表示装置に状態情報が経路検討モード、目標管理モード、または、ナビゲーションモードを示すかどうかを決定させ、
ここで、該命令は、該プロセッサによって実行される場合、該ナビゲーション器具の位置情報および状態情報に基づいて、該複数の医学画像の中で、該ディスプレイに該画面に、該画面に表示される画像を動的に選択させ、および更新させる、医学画像表示装置。
(項目2)
前記ナビゲーション器具は内視鏡器具である、項目1に記載の医学画像表示装置。
(項目3)
前記複数の医学画像は矢状の、冠状の、または、軸位の画像、肺の三次元(3D)マップ、目標、該目標への経路計画、仮想気管支鏡ビデオ画像、実況の気管支鏡ビデオ画像、最大値投影画像、3D CT画像、ナビゲーション器具の遠位先端、およびそれらの任意の組み合わせからなる群から選択される、項目1に記載の医学画像表示装置。
(項目4)
前記矢状の、冠状の、または軸位の画像はコンピュータトモグラフィ、X線透視装置、コンピュータ断支援トモグラフィー、陽電子放出トモグラフィー、または、磁気共鳴画像化法によって捕捉される、項目3に記載の医学画像表示装置。
(項目5)
表示された画像は合成画像であり、第一の画像化法から得られた肺の第一の画像は、別の画像化法から得られた第二の画像に重ねられている、項目3に記載の医学画像表示装置。
(項目6)
前記一部分は、前記目標であり、前記第一の画像は、コンピュータトモグラフィによって撮られており、前記第二の画像は、X線透視法によって撮られている、項目5に記載の医学画像表示装置。
(項目7)
前記ディスプレイは、前記位置情報における変化に対応して、二つ以上の画像を同期して表示する、項目1に記載の医学画像表示装置。
(項目8)
前記目標が3Dマップにおいて表示される場合、該目標の位置情報に基づいて、矢状の画像、冠状の画像、および/または、軸位の画像が選択され、かつ表示される、項目3に記載の医学画像表示装置。
(項目9)
前記位置情報における変化は、前記肺における前記ナビゲーション器具の前記位置センサの移動を示す、項目3に記載の医学画像表示装置。
(項目10)
前記ナビゲーション器具の前記位置センサの前記位置情報に基づいて、前記軸位の画像、冠状の画像、および、矢状の画像が表示される、項目3に記載の医学画像表示装置。
(項目11)
前記軸位の画像、冠状の画像、および矢状の画像のそれぞれは、制御装置によって制御される、項目10に記載の医学画像表示装置。
(項目12)
前記制御装置は、ズームとパンとを含む、項目11に記載の医学画像表示装置。
(項目13)
前記3Dマップは、方向インディケータと共に表示される、項目3に記載の医学画像表示装置。
(項目14)
前記方向インディケータは、前記3Dマップの方向を示す、項目13に記載の医学画像表示装置。
(項目15)
前記位置情報が、前記位置センサは閾値位置を通過しないことを示す場合、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を表示する、項目3に記載の医学画像表示装置。
(項目16)
前記位置情報が、前記位置センサは前記閾値位置を通過することを示す場合、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を除去し、前記仮想気管支鏡ビデオ画像を表示する、項目15に記載の医学画像表示装置。
(項目17)
前記ナビゲーションモードにおいて、前記状態情報が、実況の気管支鏡ビデオ画像が前記ナビゲーション器具から受信されていないことを示す場合、前記ディスプレイは、最後に受信した画像を表示する、項目3に記載の医学画像表示装置。
(項目18)
前記ディスプレイは、前記3Dマップを自動的に配向して、3Dマップにおける前記位置センサの現在位置を十分な明瞭度で示す、項目3に記載の医学画像表示装置。
(項目19)
医学画像を画面に表示する医学画像表示システムであって、該システムは、
患者の画像を捕捉するように構成された画像化デバイスと;
患者の内部をナビゲートし、位置センサによって得られた位置情報、および、光学センサによって得られたビデオストリームを送信するように構成されたナビゲーション装置と;
装置であって、該装置は、
該ナビゲーション器具からの該位置情報および該ビデオストリーム、および該画像化デバイスから得られた画像を受信するように構成された、ネットワークインターフェイスと;
命令を実行するように構成されたプロセッサと;
複数の医学画像および命令を格納するメモリと;
画像を該画面上に表示するように構成されたディスプレイとを含み、
ここで、該命令は、該プロセッサによって実行される場合、該ナビゲーション器具が該位置情報をおよび該ビデオストリームを送信するかどうかを示す該ナビゲーション器具の状態を決定させ、および、
ここで、該命令は、該プロセッサによって実行される場合、該ナビゲーション器具の位置情報および状態情報に基づいて、該複数の医学画像の中で、該ディスプレイに該画面に、該画面に表示される画像を動的に選択させ、および更新させる、装置、
とを含む、システム。
(項目20)
肺の医学画像を該肺のスライス画像、該肺の三次元(3D)マップ、および目標への経路計画を格納する表示デバイスのディスプレイ上に動的に表示する方法であって、該方法は:
表示デバイスの状態情報が、経路検討モード、ナビゲーションモード、または、目標管理モードを示すかどうかを決定することと;
該肺をナビゲートする該ナビゲーション器具の位置センサの位置を示すナビゲーション器具から位置情報を受信することと;
該決定された状態情報および該位置情報に基づいて医学画像を表示することと、
を含み、
ここで、該決定された状態情報が該経路検討モードである場合、該表示された医学画像は、該経路計画および該目標に重ねられている該3Dマップおよび仮想気管支鏡ビデオ画像を含み、
ここで、該表示された医学画像は、該3Dマップ、該仮想または実況気管支鏡ビデオ画像、およびスライス画像を含み、該決定された状態情報が該ナビゲーションモードである場合、これらのすべては、該位置センサの該位置を同期して追跡し、
ここで、該表示された医学画像は、3つのスライス画像を含み、該決定された状態情報が該目標管理モードである場合、これらのスライス画像は、3つの独立した方向から撮られた、該目標を表示する最大値投影画像であり、かつ、
ここで、ナビゲーションモードにおいて、一つの画像がパンまたはズームされる場合、すべの画像および3Dマップが対応して、同期してパンまたはズームされる、
方法。
本開示は、医学画像を動的に画面に表示するシステムと方法に関する。システムディスプレイは、患者の内部の内視鏡デバイスの位置に基づいて、視覚的な、可聴な、および触覚的な情報を使用する適切な情報を更新、かつ、調節する。内視鏡デバイスの場所および状態情報に基づいて、画面上の画像を動的にかつ自動的に変えることは、表示システムの使用の容易さを促進し、臨床医のディスプレイの調節および変化に対する相互作用の必要性を減少する。
Claims (20)
- 肺の医学画像を画面上に表示する医学画像表示装置であって、前記医学画像表示装置は、
ナビゲーション器具の位置センサからの前記ナビゲーション器具の位置情報と、前記ナビゲーション器具の光学センサからのビデオストリームと、画像化デバイスからの医学画像とを受信するように構成されているネットワークインターフェイスと、
複数の医学画像および命令を格納するメモリと、
前記命令を実行するように構成されているプロセッサと、
ウィンドウを前記画面上に動的に表示するように構成されているディスプレイと
を含み、
前記ウィンドウは、画像を表示し、
前記命令は、前記プロセッサによって実行されると、
前記ディスプレイの内視鏡ナビゲーション情報を決定することであって、前記内視鏡ナビゲーション情報は、手続きモードを示し、前記手続きモードは、経路検討モード、目標管理モード、または、ナビゲーションモードのうちの1つである、ことと、
前記決定された内視鏡ナビゲーション情報によって示される前記手続きモードと前記位置情報とに基づいて、前記画面上に表示されるべき前記ウィンドウの数を動的に変更することと、
前記ナビゲーション器具の前記位置情報と前記決定された内視鏡ナビゲーション情報とに基づいて、前記複数の医学画像の中から前記画面上に表示される画像を動的に選択し更新することと
を前記医学画像表示装置に行わせる、医学画像表示装置。 - 前記ナビゲーション器具は、内視鏡器具である、請求項1に記載の医学画像表示装置。
- 前記複数の医学画像は、矢状の画像または冠状の画像または軸位の画像、前記肺の三次元(3D)マップ、目標、前記目標への経路計画、仮想気管支鏡ビデオ画像、実況の気管支鏡ビデオ画像、最大値投影画像、3D CT画像、ナビゲーション器具の遠位先端、および、これらの任意の組み合わせからなる群から選択される、請求項1に記載の医学画像表示装置。
- 前記矢状の画像または前記冠状の画像または前記軸位の画像は、コンピュータトモグラフィ、X線透視法、コンピュータ支援トモグラフィー、陽電子放出トモグラフィー、または、磁気共鳴画像化法によって捕捉される、請求項3に記載の医学画像表示装置。
- 表示された画像は、合成画像であり、第一の画像化法から得られた前記肺の第一の画像は、別の画像化法から得られた第二の画像に重ねられている、請求項3に記載の医学画像表示装置。
- 前記第一の画像は、コンピュータトモグラフィによって捕捉され、前記第二の画像は、X線透視法によって捕捉される、請求項5に記載の医学画像表示装置。
- 前記ディスプレイは、前記位置情報における変化に対応するように、二つ以上の画像を同期して表示する、請求項1に記載の医学画像表示装置。
- 前記目標が3Dマップにおいて表示される場合には、前記目標の位置情報に基づいて、矢状の画像、冠状の画像、および/または、軸位の画像が選択され表示される、請求項3に記載の医学画像表示装置。
- 前記位置情報における変化は、前記肺における前記ナビゲーション器具の前記位置センサの移動を示す、請求項3に記載の医学画像表示装置。
- 前記ナビゲーション器具の前記位置センサの前記位置情報に基づいて、前記軸位の画像および前記冠状の画像および前記矢状の画像が表示される、請求項3に記載の医学画像表示装置。
- 前記軸位の画像および前記冠状の画像および前記矢状の画像のそれぞれは、制御によって制御される、請求項10に記載の医学画像表示装置。
- 前記制御は、ズームすることとパンすることとを含む、請求項11に記載の医学画像表示装置。
- 前記3Dマップは、方向インディケータと共に表示される、請求項3に記載の医学画像表示装置。
- 前記方向インディケータは、前記3Dマップの方向を示す、請求項13に記載の医学画像表示装置。
- 前記位置センサが閾値位置を通過しないことを前記位置情報が示す場合には、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を表示する、請求項3に記載の医学画像表示装置。
- 前記位置センサが前記閾値位置を通過することを前記位置情報が示す場合には、前記ディスプレイは、前記実況の気管支鏡ビデオ画像を除去し、前記仮想気管支鏡ビデオ画像を表示する、請求項15に記載の医学画像表示装置。
- 前記ナビゲーションモードにおいて実況の気管支鏡ビデオ画像が前記ナビゲーション器具から受信されていない場合には、前記ディスプレイは、最後に受信した画像を表示する、請求項3に記載の医学画像表示装置。
- 前記ディスプレイは、前記3Dマップを自動的に配向することにより、前記3Dマップにおける前記位置センサの現在位置を示す、請求項3に記載の医学画像表示装置。
- 医学画像を画面上に表示する医学画像表示システムであって、前記医学画像表示システムは、
患者の画像を捕捉するように構成されている画像化デバイスと、
前記患者の内部をナビゲートし、位置センサによって得られた位置情報と光学センサによって得られたビデオストリームとを送信するように構成されているナビゲーション装置と、
装置と
を含み、
前記装置は、
ナビゲーション器具からの前記位置情報および前記ビデオストリームと、前記画像化デバイスからの前記捕捉された画像とを受信するように構成されているネットワークインターフェイスと、
命令を実行するように構成されているプロセッサと、
複数の医学画像および命令を格納するメモリと、
ウィンドウを前記画面上に表示するように構成されているディスプレイと
を含み、
前記ウィンドウは、画像を表示し、
前記命令は、前記プロセッサによって実行されると、
前記ナビゲーション器具の内視鏡ナビゲーション情報を決定することであって、前記内視鏡ナビゲーション情報は、手続きモードを示し、前記手続きモードでは、前記ナビゲーション器具が前記位置情報および前記ビデオストリームを送信する、ことと、
前記決定された内視鏡ナビゲーション情報によって示される前記手続きモードと前記位置情報とに基づいて、前記画面上に表示されるべき前記ウィンドウの数を動的に変更することと、
前記ナビゲーション器具の前記位置情報と前記決定された内視鏡ナビゲーション情報とに基づいて、前記複数の画像の中から前記画面上に表示される画像を動的に選択し更新することと
を前記装置に行わせる、医学画像表示システム。 - 肺の医学画像を表示デバイスの画面上に表示されるウィンドウ上に動的に表示する医学画像表示装置を動作させる方法であって、前記表示デバイスは、前記肺のスライス画像と前記肺の三次元(3D)マップと目標への経路計画とを格納し、前記医学画像表示装置は、プロセッサとネットワークインターフェイスとを含み、
前記方法は、
前記プロセッサが、前記表示デバイスの内視鏡ナビゲーション情報を決定することであって、前記内視鏡ナビゲーション情報は、手続きモードを示し、前記手続きモードは、経路検討モード、目標管理モード、または、ナビゲーションモードのうちの1つである、ことと、
前記ネットワークインターフェイスが、ナビゲーション器具から位置情報を受信することであって、前記位置情報は、前記肺をナビゲートする前記ナビゲーション器具の位置センサの位置を示す、ことと、
前記プロセッサが、前記決定された内視鏡ナビゲーション情報によって示される前記手続きモードと前記位置情報とに基づいて、前記画面上に表示されるべき前記ウィンドウの数を動的に変更することと、
前記プロセッサが、前記決定された内視鏡ナビゲーション情報と前記位置情報とに基づいて、医学画像を選択することと
を含み、
前記決定された内視鏡ナビゲーション情報が前記経路検討モードである場合には、前記表示された医学画像は、前記経路計画および前記目標に重ねられている前記3Dマップおよび仮想気管支鏡ビデオ画像を含み、
前記決定された内視鏡ナビゲーション情報が前記ナビゲーションモードである場合には、前記表示された医学画像は、前記3Dマップと、前記仮想気管支鏡ビデオ画像または実況気管支鏡ビデオ画像と、スライス画像とを含み、これらのすべては、前記位置センサの前記位置を同期して追跡し、
前記決定された内視鏡ナビゲーション情報が前記目標管理モードである場合には、前記表示された医学画像は、3つの独立した方向から撮られた3つのスライス画像と、前記目標を表示する最大値投影画像とを含み、
前記ナビゲーションモードにおいて、1つの画像がパンされるまたはズームされる場合には、すべての画像および前記3Dマップが対応するように、同期してパンされるまたはズームされる、方法。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201462020238P | 2014-07-02 | 2014-07-02 | |
US62/020,238 | 2014-07-02 | ||
US14/754,058 US11188285B2 (en) | 2014-07-02 | 2015-06-29 | Intelligent display |
US14/754,058 | 2015-06-29 | ||
PCT/US2015/038491 WO2016004007A1 (en) | 2014-07-02 | 2015-06-30 | Intelligent display |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017525418A JP2017525418A (ja) | 2017-09-07 |
JP6730938B2 true JP6730938B2 (ja) | 2020-07-29 |
Family
ID=55016180
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016575495A Active JP6730938B2 (ja) | 2014-07-02 | 2015-06-30 | 医学画像表示装置、医学画像表示システム、医学画像表示装置を動作させる方法 |
Country Status (7)
Country | Link |
---|---|
US (3) | US11188285B2 (ja) |
EP (1) | EP3164071B1 (ja) |
JP (1) | JP6730938B2 (ja) |
CN (1) | CN106572827B (ja) |
AU (1) | AU2015284290B2 (ja) |
CA (1) | CA2953723A1 (ja) |
WO (1) | WO2016004007A1 (ja) |
Families Citing this family (37)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10165938B2 (en) * | 2012-11-13 | 2019-01-01 | Karl Storz Imaging, Inc. | Configurable medical video safety system |
US9603668B2 (en) | 2014-07-02 | 2017-03-28 | Covidien Lp | Dynamic 3D lung map view for tool navigation inside the lung |
CN106572834B (zh) | 2014-07-02 | 2019-12-03 | 柯惠有限合伙公司 | 对准ct |
US9633431B2 (en) | 2014-07-02 | 2017-04-25 | Covidien Lp | Fluoroscopic pose estimation |
US11188285B2 (en) * | 2014-07-02 | 2021-11-30 | Covidien Lp | Intelligent display |
JPWO2017038321A1 (ja) * | 2015-09-03 | 2018-06-14 | オリンパス株式会社 | 内視鏡装置及び内視鏡装置の表示変更制御方法 |
US10582914B2 (en) | 2016-01-15 | 2020-03-10 | Covidien Lp | Navigable endobronchial tool to access tissue outside a bronchus |
CN109069009B (zh) * | 2016-03-10 | 2022-09-23 | 博迪维仁医疗有限公司 | 用于使用多视图位姿估计的方法和系统 |
US10478254B2 (en) | 2016-05-16 | 2019-11-19 | Covidien Lp | System and method to access lung tissue |
US10470839B2 (en) * | 2016-06-02 | 2019-11-12 | Covidien Lp | Assessment of suture or staple line integrity and localization of potential tissue defects along the suture or staple line |
KR102420386B1 (ko) * | 2016-06-30 | 2022-07-13 | 인튜어티브 서지컬 오퍼레이션즈 인코포레이티드 | 영상 안내식 시술 중에 복수의 모드에서 안내 정보를 디스플레이하기 위한 그래픽 사용자 인터페이스 |
CN108024833B (zh) * | 2016-06-30 | 2021-06-04 | 直观外科手术操作公司 | 用于在图像引导过程期间显示引导信息的图形用户界面 |
US10939963B2 (en) | 2016-09-01 | 2021-03-09 | Covidien Lp | Systems and methods for providing proximity awareness to pleural boundaries, vascular structures, and other critical intra-thoracic structures during electromagnetic navigation bronchoscopy |
US10542953B2 (en) | 2016-09-27 | 2020-01-28 | Covidien Lp | Fissural assessment and surgical and interventional planning |
US10543044B2 (en) | 2016-09-27 | 2020-01-28 | Covidien Lp | Systems and methods for detecting pleural invasion for surgical and interventional planning |
JP6608111B2 (ja) * | 2016-09-28 | 2019-11-20 | 富士フイルム株式会社 | 医用画像保存再生装置および方法並びにプログラム |
WO2018179675A1 (ja) * | 2017-03-29 | 2018-10-04 | ソニー・オリンパスメディカルソリューションズ株式会社 | 医療用観察装置、および制御方法 |
EP3612121A4 (en) * | 2017-04-18 | 2021-04-07 | Intuitive Surgical Operations, Inc. | GRAPHIC USER INTERFACE TO MONITOR AN IMAGE GUIDED PROCEDURE |
WO2018195946A1 (zh) * | 2017-04-28 | 2018-11-01 | 深圳迈瑞生物医疗电子股份有限公司 | 一种超声图像显示方法、设备及存储介质 |
US11779192B2 (en) * | 2017-05-03 | 2023-10-10 | Covidien Lp | Medical image viewer control from surgeon's camera |
CN111278381B (zh) * | 2017-08-28 | 2024-04-09 | 皇家飞利浦有限公司 | 对定位跟踪的介入设备的自动视场更新 |
US11058493B2 (en) | 2017-10-13 | 2021-07-13 | Auris Health, Inc. | Robotic system configured for navigation path tracing |
US11219489B2 (en) | 2017-10-31 | 2022-01-11 | Covidien Lp | Devices and systems for providing sensors in parallel with medical tools |
AU2018390476B2 (en) * | 2017-12-18 | 2024-03-28 | Auris Health, Inc. | Methods and systems for instrument tracking and navigation within luminal networks |
US11464576B2 (en) | 2018-02-09 | 2022-10-11 | Covidien Lp | System and method for displaying an alignment CT |
CN110831481B (zh) | 2018-05-31 | 2022-08-30 | 奥瑞斯健康公司 | 管状网络的基于路径的导航 |
US11224486B2 (en) * | 2018-08-22 | 2022-01-18 | Verily Life Sciences Llc | Global synchronization of user preferences |
EP3875022A4 (en) * | 2018-11-01 | 2021-10-20 | FUJIFILM Corporation | MEDICAL IMAGE PROCESSING DEVICE, MEDICAL IMAGE PROCESSING PROCESS AND PROGRAM, AND DIAGNOSIS ASSISTANCE DEVICE |
US11514576B2 (en) * | 2018-12-14 | 2022-11-29 | Acclarent, Inc. | Surgical system with combination of sensor-based navigation and endoscopy |
US11627924B2 (en) | 2019-09-24 | 2023-04-18 | Covidien Lp | Systems and methods for image-guided navigation of percutaneously-inserted devices |
US11446095B2 (en) * | 2019-12-24 | 2022-09-20 | Biosense Webster (Israel) Ltd. | 2D pathfinder visualization |
WO2021130734A1 (en) * | 2019-12-26 | 2021-07-01 | Navix International Limited | Device implantation guidance |
WO2021216860A1 (en) * | 2020-04-22 | 2021-10-28 | Canon U.S.A., Inc. | Visualization of three-dimensional image data on two-dimensional images |
CA3208480A1 (en) * | 2021-01-15 | 2022-07-21 | Minnetronix Neuro, Inc. | Systems and methods for managing, monitoring, and treating patient conditions |
DE102021103411A1 (de) * | 2021-02-12 | 2022-08-18 | Aesculap Ag | Chirurgisches Assistenzsystem und Darstellungsverfahren |
US11957302B2 (en) | 2021-05-24 | 2024-04-16 | Verily Life Sciences Llc | User-interface for visualization of endoscopy procedures |
WO2023166974A1 (ja) * | 2022-03-02 | 2023-09-07 | 富士フイルム株式会社 | 画像処理装置、内視鏡装置、画像処理方法、及びプログラム |
Family Cites Families (64)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5605531A (en) * | 1994-04-08 | 1997-02-25 | Tilane Corporation | Apparatus for use with endoscopy and fluoroscopy for automatic switching between video modes |
US6343936B1 (en) | 1996-09-16 | 2002-02-05 | The Research Foundation Of State University Of New York | System and method for performing a three-dimensional virtual examination, navigation and visualization |
US6049622A (en) | 1996-12-05 | 2000-04-11 | Mayo Foundation For Medical Education And Research | Graphic navigational guides for accurate image orientation and navigation |
US6928314B1 (en) * | 1998-01-23 | 2005-08-09 | Mayo Foundation For Medical Education And Research | System for two-dimensional and three-dimensional imaging of tubular structures in the human body |
US7356367B2 (en) | 2000-06-06 | 2008-04-08 | The Research Foundation Of State University Of New York | Computer aided treatment planning and visualization with image registration and fusion |
EP1463437B1 (en) * | 2000-07-31 | 2012-01-04 | Galil Medical Ltd. | Facilitation system for cryosurgery |
US7072501B2 (en) * | 2000-11-22 | 2006-07-04 | R2 Technology, Inc. | Graphical user interface for display of anatomical information |
US6663559B2 (en) * | 2001-12-14 | 2003-12-16 | Endactive, Inc. | Interface for a variable direction of view endoscope |
EP1499235B1 (en) * | 2002-04-17 | 2016-08-17 | Covidien LP | Endoscope structures and techniques for navigating to a target in branched structure |
US7998062B2 (en) | 2004-03-29 | 2011-08-16 | Superdimension, Ltd. | Endoscope structures and techniques for navigating to a target in branched structure |
EP1466552B1 (en) * | 2002-07-31 | 2007-01-03 | Olympus Corporation | Endoscope |
US7599730B2 (en) | 2002-11-19 | 2009-10-06 | Medtronic Navigation, Inc. | Navigation system for cardiac therapies |
US7697972B2 (en) | 2002-11-19 | 2010-04-13 | Medtronic Navigation, Inc. | Navigation system for cardiac therapies |
FI117986B (fi) * | 2003-06-17 | 2007-05-15 | Onesys Oy | Menetelmä ja järjestelmä navigoimiseksi tosiaikaisesti kolmiulotteisessa lääketieteellisessä kuvamallissa |
US7822461B2 (en) * | 2003-07-11 | 2010-10-26 | Siemens Medical Solutions Usa, Inc. | System and method for endoscopic path planning |
WO2005029258A2 (en) | 2003-09-16 | 2005-03-31 | Stereotaxis, Inc. | User interface for remote control of medical devices |
US7543239B2 (en) * | 2004-06-04 | 2009-06-02 | Stereotaxis, Inc. | User interface for remote control of medical devices |
US20090226065A1 (en) | 2004-10-09 | 2009-09-10 | Dongqing Chen | Sampling medical images for virtual histology |
US7920152B2 (en) | 2004-11-04 | 2011-04-05 | Dr Systems, Inc. | Systems and methods for viewing medical 3D imaging volumes |
CA2588002A1 (en) * | 2005-01-18 | 2006-07-27 | Traxtal Inc. | Method and apparatus for guiding an instrument to a target in the lung |
JP4914574B2 (ja) * | 2005-04-18 | 2012-04-11 | オリンパスメディカルシステムズ株式会社 | 内視鏡形状検出装置 |
WO2007129493A1 (ja) | 2006-05-02 | 2007-11-15 | National University Corporation Nagoya University | 医療画像観察支援装置 |
US8248414B2 (en) * | 2006-09-18 | 2012-08-21 | Stryker Corporation | Multi-dimensional navigation of endoscopic video |
US8248413B2 (en) | 2006-09-18 | 2012-08-21 | Stryker Corporation | Visual navigation system for endoscopic surgery |
WO2008125910A2 (en) | 2006-11-10 | 2008-10-23 | Superdimension, Ltd. | Adaptive navigation technique for navigating a catheter through a body channel or cavity |
JP2010510815A (ja) | 2006-11-28 | 2010-04-08 | スーパーディメンション, リミテッド | 身体の通路または腔を通してカテーテルをナビゲートする適応的ナビゲーション技術 |
US8672836B2 (en) * | 2007-01-31 | 2014-03-18 | The Penn State Research Foundation | Method and apparatus for continuous guidance of endoscopy |
US20080300478A1 (en) * | 2007-05-30 | 2008-12-04 | General Electric Company | System and method for displaying real-time state of imaged anatomy during a surgical procedure |
JP2010528750A (ja) | 2007-06-07 | 2010-08-26 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 管状構造の検査 |
RU2494676C2 (ru) * | 2007-11-16 | 2013-10-10 | Конинклейке Филипс Электроникс, Н.В. | Интервенционная навигация с использованием трехмерного ультразвука с контрастным усилением |
WO2009102984A2 (en) | 2008-02-15 | 2009-08-20 | The Research Foundation Of The State University Of New York | System and method for virtually augmented endoscopy |
US8219179B2 (en) | 2008-03-06 | 2012-07-10 | Vida Diagnostics, Inc. | Systems and methods for navigation within a branched structure of a body |
US8218846B2 (en) * | 2008-05-15 | 2012-07-10 | Superdimension, Ltd. | Automatic pathway and waypoint generation and navigation method |
JP2010172350A (ja) | 2009-01-27 | 2010-08-12 | Sendai City Medical Center | 術具挿入支援システム |
US8337397B2 (en) * | 2009-03-26 | 2012-12-25 | Intuitive Surgical Operations, Inc. | Method and system for providing visual guidance to an operator for steering a tip of an endoscopic device toward one or more landmarks in a patient |
WO2011001301A1 (en) | 2009-06-29 | 2011-01-06 | Koninklijke Philips Electronics N.V. | Method and apparatus for tracking in a medical procedure |
EP2489011B1 (en) * | 2009-10-14 | 2020-04-29 | 3Mensio Medical Imaging B.V. | A method, a graphic user interface, a system and a computer program for optimizing workflow of a medical intervention |
US8945140B2 (en) * | 2010-06-18 | 2015-02-03 | Vantage Surgical Systems, Inc. | Surgical procedures using instrument to boundary spacing information extracted from real-time diagnostic scan data |
US10165928B2 (en) * | 2010-08-20 | 2019-01-01 | Mark Hunter | Systems, instruments, and methods for four dimensional soft tissue navigation |
EP2581029B1 (en) | 2011-01-24 | 2014-12-31 | Olympus Medical Systems Corp. | Medical device |
US20120249546A1 (en) * | 2011-04-04 | 2012-10-04 | Vida Diagnostics, Inc. | Methods and systems for visualization and analysis of sublobar regions of the lung |
US8992232B2 (en) | 2011-09-20 | 2015-03-31 | Orca Health, Inc. | Interactive and educational vision interfaces |
RU2606453C2 (ru) * | 2011-12-03 | 2017-01-10 | Конинклейке Филипс Н.В. | Автоматическое изменение глубины и корректирование ориентации при полуавтоматическом планировании пути |
US8920368B2 (en) * | 2011-12-22 | 2014-12-30 | St. Jude Medical, Atrial Fibrillation Division, Inc. | Multi-user touch-based control of a remote catheter guidance system (RCGS) |
US8682049B2 (en) * | 2012-02-14 | 2014-03-25 | Terarecon, Inc. | Cloud-based medical image processing system with access control |
WO2014028394A1 (en) | 2012-08-14 | 2014-02-20 | Intuitive Surgical Operations, Inc. | Systems and methods for registration of multiple vision systems |
CN105377177B (zh) * | 2013-03-14 | 2018-08-07 | Vida诊断公司 | 肺减容手术的治疗设计 |
US9925009B2 (en) | 2013-03-15 | 2018-03-27 | Covidien Lp | Pathway planning system and method |
US9639666B2 (en) | 2013-03-15 | 2017-05-02 | Covidien Lp | Pathway planning system and method |
US9459770B2 (en) | 2013-03-15 | 2016-10-04 | Covidien Lp | Pathway planning system and method |
JP6785656B2 (ja) | 2013-08-15 | 2020-11-18 | インテュイティブ サージカル オペレーションズ, インコーポレイテッド | カテーテルの位置付け及び挿入のためのグラフィカル・ユーザインターフェイス |
CN105992996B (zh) * | 2014-04-04 | 2019-11-26 | 外科手术室公司 | 外科手术环境中的动态和交互式导航 |
US20150305612A1 (en) * | 2014-04-23 | 2015-10-29 | Mark Hunter | Apparatuses and methods for registering a real-time image feed from an imaging device to a steerable catheter |
US9836848B2 (en) | 2014-07-02 | 2017-12-05 | Covidien Lp | System and method for segmentation of lung |
US20160000414A1 (en) | 2014-07-02 | 2016-01-07 | Covidien Lp | Methods for marking biopsy location |
CN106659374B (zh) | 2014-07-02 | 2021-04-02 | 柯惠有限合伙公司 | 在3d导航时提供距离和取向反馈的系统和方法 |
US9727986B2 (en) | 2014-07-02 | 2017-08-08 | Covidien Lp | Unified coordinate system for multiple CT scans of patient lungs |
US9633431B2 (en) | 2014-07-02 | 2017-04-25 | Covidien Lp | Fluoroscopic pose estimation |
US11188285B2 (en) * | 2014-07-02 | 2021-11-30 | Covidien Lp | Intelligent display |
CN106572834B (zh) | 2014-07-02 | 2019-12-03 | 柯惠有限合伙公司 | 对准ct |
US9607395B2 (en) | 2014-07-02 | 2017-03-28 | Covidien Lp | System and method for detecting trachea |
US9770216B2 (en) | 2014-07-02 | 2017-09-26 | Covidien Lp | System and method for navigating within the lung |
US9754367B2 (en) | 2014-07-02 | 2017-09-05 | Covidien Lp | Trachea marking |
US9603668B2 (en) | 2014-07-02 | 2017-03-28 | Covidien Lp | Dynamic 3D lung map view for tool navigation inside the lung |
-
2015
- 2015-06-29 US US14/754,058 patent/US11188285B2/en active Active
- 2015-06-30 AU AU2015284290A patent/AU2015284290B2/en not_active Ceased
- 2015-06-30 CN CN201580042951.8A patent/CN106572827B/zh active Active
- 2015-06-30 CA CA2953723A patent/CA2953723A1/en not_active Abandoned
- 2015-06-30 EP EP15814669.6A patent/EP3164071B1/en active Active
- 2015-06-30 JP JP2016575495A patent/JP6730938B2/ja active Active
- 2015-06-30 WO PCT/US2015/038491 patent/WO2016004007A1/en active Application Filing
-
2021
- 2021-11-04 US US17/518,640 patent/US11793389B2/en active Active
-
2023
- 2023-10-11 US US18/484,534 patent/US20240041299A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
CN106572827B (zh) | 2022-02-25 |
AU2015284290A1 (en) | 2017-01-12 |
US11188285B2 (en) | 2021-11-30 |
JP2017525418A (ja) | 2017-09-07 |
EP3164071B1 (en) | 2022-08-03 |
US20160000517A1 (en) | 2016-01-07 |
CA2953723A1 (en) | 2016-01-07 |
US20240041299A1 (en) | 2024-02-08 |
WO2016004007A1 (en) | 2016-01-07 |
US11793389B2 (en) | 2023-10-24 |
US20220057977A1 (en) | 2022-02-24 |
EP3164071A1 (en) | 2017-05-10 |
AU2015284290B2 (en) | 2019-09-12 |
EP3164071A4 (en) | 2018-04-04 |
CN106572827A (zh) | 2017-04-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11793389B2 (en) | Intelligent display | |
US20220338820A1 (en) | System and method of providing distance and orientation feedback while navigating in 3d | |
AU2020205248B2 (en) | Dynamic 3D lung map view for tool navigation inside the lung | |
US20210068911A1 (en) | Robot-assisted driving systems and methods | |
US11571262B2 (en) | Graphical user interface for planning a procedure | |
JP6438545B2 (ja) | プランニングシステム及び方法 | |
JP6371083B2 (ja) | 経路計画システムおよび方法 | |
JP6122875B2 (ja) | 血管ツリー画像内での見えない分岐部の検出 | |
US20230143522A1 (en) | Surgical assistant system based on image data of the operative field | |
JP2019531113A (ja) | 軟性点特徴部を使用して呼吸周期を予測し、端部位置合わせを改善する方法 | |
EP4222718A1 (en) | Systems and method of planning thoracic surgery |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180508 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190219 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190304 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190513 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191031 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200130 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200623 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200703 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6730938 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |