JP6493885B2 - 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム - Google Patents
画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム Download PDFInfo
- Publication number
- JP6493885B2 JP6493885B2 JP2016050425A JP2016050425A JP6493885B2 JP 6493885 B2 JP6493885 B2 JP 6493885B2 JP 2016050425 A JP2016050425 A JP 2016050425A JP 2016050425 A JP2016050425 A JP 2016050425A JP 6493885 B2 JP6493885 B2 JP 6493885B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- intraoperative
- alignment
- feature points
- related image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 51
- 238000001356 surgical procedure Methods 0.000 claims description 30
- 238000003384 imaging method Methods 0.000 claims description 12
- 239000000284 extract Substances 0.000 claims description 7
- 210000004185 liver Anatomy 0.000 description 60
- 230000008569 process Effects 0.000 description 23
- 238000004088 simulation Methods 0.000 description 22
- 239000011159 matrix material Substances 0.000 description 19
- 238000012545 processing Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 230000003902 lesion Effects 0.000 description 10
- 238000011156 evaluation Methods 0.000 description 9
- 210000002767 hepatic artery Anatomy 0.000 description 8
- 238000002591 computed tomography Methods 0.000 description 7
- 210000002989 hepatic vein Anatomy 0.000 description 7
- 210000000056 organ Anatomy 0.000 description 7
- 230000008859 change Effects 0.000 description 5
- 238000002595 magnetic resonance imaging Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 3
- 238000012790 confirmation Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 239000003550 marker Substances 0.000 description 3
- 238000002600 positron emission tomography Methods 0.000 description 3
- 210000001519 tissue Anatomy 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 206010028980 Neoplasm Diseases 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 210000001367 artery Anatomy 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000009206 nuclear medicine Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000002271 resection Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 210000003462 vein Anatomy 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 102100035353 Cyclin-dependent kinase 2-associated protein 1 Human genes 0.000 description 1
- 101000585359 Homo sapiens Suppressor of tumorigenicity 20 protein Proteins 0.000 description 1
- 102100029860 Suppressor of tumorigenicity 20 protein Human genes 0.000 description 1
- 210000001015 abdomen Anatomy 0.000 description 1
- 238000002679 ablation Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 210000003240 portal vein Anatomy 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000002432 robotic surgery Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30056—Liver; Hepatic
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30096—Tumor; Lesion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30101—Blood vessel; Artery; Vein; Vascular
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/41—Medical
Description
対象部位の手術に関連する関連画像を取得する関連画像取得手段と、
術中映像と関連画像との位置合せを行う位置合せ手段とを備え、
位置合せ手段は、関連画像と位置合せがなされた位置合せ済み術中画像および新たに取得された術中画像から互いに対応する複数の特徴点を抽出し、互いに対応する複数の特徴点に対して関連画像に基づいて優先度を設定し、優先度が設定された複数の特徴点に基づいて、位置合せ済み術中画像と新たに取得された術中画像との相対的な位置の相違を表す位置情報を取得し、位置情報に基づいて、関連画像と新たに取得された術中画像とを位置合せすることを特徴とするものである。
位置合せ手段は、初期位置合せの結果に基づいて位置合せを行うものであってもよい。
対象部位の手術に関連する関連画像を取得し、
術中映像と関連画像との位置合せを行うに際し、
関連画像と位置合せがなされた位置合せ済み術中画像および新たに取得された術中画像から互いに対応する複数の特徴点を抽出し、互いに対応する複数の特徴点に対して関連画像に基づいて優先度を設定し、優先度が設定された複数の特徴点に基づいて、位置合せ済み術中画像と新たに取得された術中画像との相対的な位置の相違を表す位置情報を取得し、位置情報に基づいて、関連画像と新たに取得された術中画像とを位置合せすることを特徴とするものである。
2 3次元画像撮影装置
3 画像保管サーバ
4 ネットワーク
7 被検体
11 CPU
12 メモリ
13 ストレージ
14 カメラ
15 ディスプレイ
16 入力部
17 モーションセンサ
21 画像取得部
22 関連画像取得部
23 第1の位置合せ部
24 第2の位置合せ部
25 表示制御部
Claims (13)
- 手術中の人体における該手術の対象部位を含む、撮影時刻が異なる2以上の術中画像からなる術中映像を取得する画像取得手段と、
前記対象部位の前記手術に関連する関連画像を取得する関連画像取得手段と、
前記術中映像と前記関連画像との位置合せを行う位置合せ手段とを備え、
前記位置合せ手段は、前記関連画像と位置合せがなされた位置合せ済み術中画像および新たに取得された術中画像から互いに対応する複数の特徴点を抽出し、前記互いに対応する複数の特徴点に対して前記関連画像に基づいて優先度を設定し、該優先度が設定された前記複数の特徴点に基づいて、前記位置合せ済み術中画像と前記新たに取得された術中画像との相対的な位置の相違を表す位置情報を取得し、該位置情報に基づいて、前記関連画像と前記新たに取得された術中画像とを位置合せすることを特徴とする画像位置合せ装置。 - 前記位置合せが行われている間、前記術中映像と前記関連画像とを重畳して表示手段に表示する表示制御手段をさらに備えた請求項1記載の画像位置合せ装置。
- 前記位置合せ手段は、前記優先度に応じて前記互いに対応する複数の特徴点のそれぞれに対して重み付けをして、前記位置情報の取得に使用する特定数の特徴点を、前記互いに対応する複数の特徴点から選択し、該選択された特定数の特徴点に基づいて前記位置情報を取得する請求項1または2記載の画像位置合せ装置。
- 前記関連画像上の各位置に前記優先度が設定されてなり、前記位置合せ手段は、前記関連画像上の優先度を参照して、前記互いに対応する複数の特徴点に優先度を設定する請求項1から3のいずれか1項記載の画像位置合せ装置。
- 前記関連画像において、前記対象部位における特徴的な位置ほど高い優先度が設定されてなる請求項4記載の画像位置合せ装置。
- 前記関連画像が前記対象部位の切除位置を表す線を含む場合、該線の近傍の位置ほど高い優先度が設定されてなる請求項4または5記載の画像位置合せ装置。
- 前記関連画像が前記対象部位の切除位置を表す線を含む場合、該線による切除後に残る位置ほど高い優先度が設定されてなる請求項4から6のいずれか1項記載の画像位置合せ装置。
- 前記術中映像と前記関連画像との初期位置合せをする初期位置合せ手段をさらに備え、
前記位置合せ手段は、前記初期位置合せの結果に基づいて前記位置合せを行う請求項1から7のいずれか1項記載の画像位置合せ装置。 - 前記位置合せ手段は、特定数の前記術中画像が取得される毎に、前記初期位置合せに使用した術中画像と前記新たに取得された術中画像との前記位置合せを行う請求項8記載の画像位置合せ装置。
- 前記位置合せ手段は、前記初期位置合せに使用した術中画像を前記位置合せ済み術中画像として使用する請求項8項記載の画像位置合せ装置。
- 前記関連画像は、前記対象部位の3次元形状を表す画像である請求項1から10のいずれか1項記載の画像位置合せ装置。
- 手術中の人体における該手術の対象部位を含む、撮影時刻が異なる2以上の術中画像からなる術中映像を取得する画像取得手段と、
前記対象部位の前記手術に関連する関連画像を取得する関連画像取得手段と、
前記術中映像と前記関連画像との位置合せを行う位置合せ手段とを備えた画像位置合せ装置の作動方法であって、
前記位置合せ手段が、前記関連画像と位置合せがなされた位置合せ済み術中画像および新たに取得された術中画像から互いに対応する複数の特徴点を抽出し、前記互いに対応する複数の特徴点に対して前記関連画像に基づいて優先度を設定し、該優先度が設定された前記複数の特徴点に基づいて、前記位置合せ済み術中画像と前記新たに取得された術中画像との相対的な位置の相違を表す位置情報を取得し、該位置情報に基づいて、前記関連画像と前記新たに取得された術中画像とを位置合せすることを特徴とする画像位置合せ装置の作動方法。 - 手術中の人体における該手術の対象部位を含む、撮影時刻が異なる2以上の術中画像からなる術中映像を取得する手順と、
前記対象部位の前記手術に関連する関連画像を取得する手順と、
前記術中映像と前記関連画像との位置合せを行う手順であって、前記関連画像と位置合せがなされた位置合せ済み術中画像および新たに取得された術中画像から互いに対応する複数の特徴点を抽出し、前記互いに対応する複数の特徴点に対して前記関連画像に基づいて優先度を設定し、該優先度が設定された前記複数の特徴点に基づいて、前記位置合せ済み術中画像と前記新たに取得された術中画像との相対的な位置の相違を表す位置情報を取得し、該位置情報に基づいて、前記関連画像と前記新たに取得された術中画像とを位置合せする手順をコンピュータに実行させることを特徴とする画像位置合せプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016050425A JP6493885B2 (ja) | 2016-03-15 | 2016-03-15 | 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム |
US15/455,887 US10078906B2 (en) | 2016-03-15 | 2017-03-10 | Device and method for image registration, and non-transitory recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016050425A JP6493885B2 (ja) | 2016-03-15 | 2016-03-15 | 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017164075A JP2017164075A (ja) | 2017-09-21 |
JP6493885B2 true JP6493885B2 (ja) | 2019-04-03 |
Family
ID=59855861
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016050425A Expired - Fee Related JP6493885B2 (ja) | 2016-03-15 | 2016-03-15 | 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10078906B2 (ja) |
JP (1) | JP6493885B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102013222230A1 (de) | 2013-10-31 | 2015-04-30 | Fiagon Gmbh | Chirurgisches Instrument |
CN108230395A (zh) * | 2017-06-14 | 2018-06-29 | 深圳市商汤科技有限公司 | 双视角图像校准及图像处理方法、装置、存储介质和电子设备 |
CN110895699B (zh) * | 2018-09-12 | 2022-09-13 | 北京字节跳动网络技术有限公司 | 用于处理图像的特征点的方法和装置 |
KR102196749B1 (ko) * | 2018-11-28 | 2020-12-31 | 주식회사 큐램 | 가중치 특징점을 이용한 이미지 정합 방법 및 그 시스템 |
EP3719749A1 (en) * | 2019-04-03 | 2020-10-07 | Fiagon AG Medical Technologies | Registration method and setup |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1962497B1 (en) * | 2005-11-25 | 2013-01-16 | Nikon Corporation | Electronic camera and image processing device |
JP2007257287A (ja) | 2006-03-23 | 2007-10-04 | Tokyo Institute Of Technology | 画像レジストレーション方法 |
GB0712690D0 (en) * | 2007-06-29 | 2007-08-08 | Imp Innovations Ltd | Imagee processing |
JP5027747B2 (ja) | 2008-07-01 | 2012-09-19 | 株式会社トプコン | 位置測定方法、位置測定装置、およびプログラム |
EP2309225A4 (en) * | 2008-07-01 | 2014-10-15 | Topcon Corp | POSITION MEASUREMENT METHOD, POSITION MEASUREMENT DEVICE AND PROGRAM |
EP2194506B1 (en) * | 2008-12-02 | 2016-03-09 | Samsung Medison Co., Ltd. | Image based registration |
JP2010200894A (ja) * | 2009-03-02 | 2010-09-16 | Tadashi Ukimura | 手術支援システム及び手術ロボットシステム |
JP5476036B2 (ja) | 2009-04-30 | 2014-04-23 | 国立大学法人大阪大学 | 網膜投影型ヘッドマウントディスプレイ装置を用いた手術ナビゲーションシステムおよびシミュレーションイメージの重ね合わせ方法 |
JP5442128B2 (ja) * | 2010-08-27 | 2014-03-12 | 富士フイルム株式会社 | オブジェクトのレイアウト編集方法及び装置 |
JP6161004B2 (ja) * | 2011-03-09 | 2017-07-12 | 国立大学法人大阪大学 | 画像データ処理装置および経頭蓋磁気刺激装置 |
US20120253170A1 (en) * | 2011-03-29 | 2012-10-04 | Samsung Electronics Co., Ltd. | Method and apparatus for generating medical image of body organ by using 3-d model |
JP4860779B1 (ja) | 2011-07-08 | 2012-01-25 | 株式会社野村総合研究所 | データ分散保管システム |
JP2013202313A (ja) * | 2012-03-29 | 2013-10-07 | Panasonic Corp | 手術支援装置および手術支援プログラム |
US20130274596A1 (en) * | 2012-04-16 | 2013-10-17 | Children's National Medical Center | Dual-mode stereo imaging system for tracking and control in surgical and interventional procedures |
JP6463038B2 (ja) * | 2014-08-27 | 2019-01-30 | 富士フイルム株式会社 | 画像位置合せ装置、方法およびプログラム |
-
2016
- 2016-03-15 JP JP2016050425A patent/JP6493885B2/ja not_active Expired - Fee Related
-
2017
- 2017-03-10 US US15/455,887 patent/US10078906B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
US20170270678A1 (en) | 2017-09-21 |
US10078906B2 (en) | 2018-09-18 |
JP2017164075A (ja) | 2017-09-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6463038B2 (ja) | 画像位置合せ装置、方法およびプログラム | |
WO2017179350A1 (ja) | 画像表示制御装置および方法並びにプログラム | |
JP6493885B2 (ja) | 画像位置合せ装置、画像位置合せ装置の作動方法および画像位置合せプログラム | |
JP2011125568A (ja) | 画像処理装置、画像処理方法、プログラム及び画像処理システム | |
EP3789965B1 (en) | Method for controlling a display, computer program and mixed reality display device | |
JP6493877B2 (ja) | 基準点評価装置、方法およびプログラム、並びに位置合せ装置、方法およびプログラム | |
US20230114385A1 (en) | Mri-based augmented reality assisted real-time surgery simulation and navigation | |
JP6806655B2 (ja) | 放射線撮像装置、画像データ処理装置及び画像処理プログラム | |
EP3328305B1 (en) | Microscope tracking based on video analysis | |
JP2017225835A (ja) | 画像処理装置 | |
CN111658142A (zh) | 一种基于mr的病灶全息导航方法及系统 | |
US10102638B2 (en) | Device and method for image registration, and a nontransitory recording medium | |
JP6392192B2 (ja) | 画像位置合せ装置、画像位置合せ装置の作動方法およびプログラム | |
CN115919461B (zh) | 一种基于slam的手术导航方法 | |
JP6476125B2 (ja) | 画像処理装置、及び手術顕微鏡システム | |
JP6967983B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
US20220020160A1 (en) | User interface elements for orientation of remote camera during surgery | |
JP6392190B2 (ja) | 画像位置合せ装置、画像位置合せ装置の作動方法およびプログラム | |
EP4128145B1 (en) | Combining angiographic information with fluoroscopic images | |
JP6391544B2 (ja) | 医用画像処理装置、医用画像処理方法、及びプログラム | |
Lu et al. | Virtual-real registration of augmented reality technology used in the cerebral surgery lesion localization |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170908 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170908 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180220 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190108 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6493885 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |