JP6706128B2 - 画像処理装置、画像処理方法、及びプログラム - Google Patents
画像処理装置、画像処理方法、及びプログラム Download PDFInfo
- Publication number
- JP6706128B2 JP6706128B2 JP2016080497A JP2016080497A JP6706128B2 JP 6706128 B2 JP6706128 B2 JP 6706128B2 JP 2016080497 A JP2016080497 A JP 2016080497A JP 2016080497 A JP2016080497 A JP 2016080497A JP 6706128 B2 JP6706128 B2 JP 6706128B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- deformation
- model
- alignment
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 99
- 238000003672 processing method Methods 0.000 title claims description 3
- 230000009466 transformation Effects 0.000 claims description 105
- 238000000034 method Methods 0.000 claims description 95
- 230000014509 gene expression Effects 0.000 claims description 87
- 230000008569 process Effects 0.000 claims description 73
- 238000006073 displacement reaction Methods 0.000 claims description 35
- 238000012986 modification Methods 0.000 claims description 6
- 230000004048 modification Effects 0.000 claims description 6
- 238000006243 chemical reaction Methods 0.000 description 54
- 238000005070 sampling Methods 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 9
- 230000003902 lesion Effects 0.000 description 8
- 230000008859 change Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 7
- 238000005457 optimization Methods 0.000 description 7
- 238000005452 bending Methods 0.000 description 6
- 210000000481 breast Anatomy 0.000 description 5
- 230000008901 benefit Effects 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 238000012790 confirmation Methods 0.000 description 2
- 238000011156 evaluation Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000036544 posture Effects 0.000 description 2
- 238000003325 tomography Methods 0.000 description 2
- 210000004204 blood vessel Anatomy 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003703 image analysis method Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000002600 positron emission tomography Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000002603 single-photon emission computed tomography Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/344—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
- G06T7/251—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30068—Mammography; Breast
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Description
特許文献1には、剛体変形と2つの非剛体変形を多段に繋ぎ、前段の位置合わせ結果を初期状態として後段の位置合わせを行う手法が開示されている。また、非特許文献1には、複数解像度のFFD(free−form deformation)を用いた変形推定において、前段の粗いFFDで得られた変形を後段の細かいFFDで引き継いで表現して位置合わせを行う手法が開示されている。また、非特許文献2には、TPS(Thin plate spline)で求めた変形を疎な変位場で再表現した後に、該変位場自体を変形モデルとして非線形最適化処理を施す手法が開示されている。
図1は、本実施形態に係る画像処理装置を含む画像処理システムの一例を示す図である。画像処理システムは、画像処理装置100、データサーバ150、操作部160、及び表示部170を備える。また、画像処理装置100は、第1の位置合わせ部(第1の変形取得部)102、変形変換部(生成部)103、第2の位置合わせ部(第2の変形取得部)104、変形画像生成部110、表示制御部111、及びデータ取得部115を備える。
ステップS2000において、データ取得部115は、ユーザからの指示を受け付けて、第1の画像及び第2の画像をデータサーバ150から取得する。そして、データ取得部115は、第1の画像及び第2の画像を、第1の位置合わせ部(第1の変形取得部)102及び第2の位置合わせ部(第2の変形取得部)104へ出力する。
ステップS2010において、第1の位置合わせ部(第1の変形取得部)102は、第1の変形モデルを用いて、第1の画像と第2の画像の間で第1の位置合わせ(変形推定)を行うことで、第1の変形モデルによる変形表現(第1の変形表現)を得る。すなわち、第1の位置合わせ部(第1の変形取得部)102は、第1の変形モデルを用いて第1の画像を変形させたときに、第1の画像が第2の画像に最も近似するような第1の変形パラメータの値を算出する。第1の位置合わせ部(第1の変形取得部)102は、算出された第1の変形パラメータを変形変換部103へ出力する。
ステップS2020において、変形変換部(生成部)103は、ステップS2010において算出された第1の変形表現を、第2の変形モデルによる変形表現(第2の変形表現)に変換する。すなわち、第1の変形表現と同等な変形を第2の変形モデルで表現するような、第2の変形パラメータを算出する。これにより、第1の変形モデルで表現されている第1の位置合わせ結果が、第2の変形モデルで再表現される。そして、算出された第2の変形パラメータを、表現形式の変換処理の結果として第2の位置合わせ部(第2の変形取得部)104へ出力する。
ステップS2030において、第2の位置合わせ部(第2の変形取得部)104はステップS2020で変換された第2の変形パラメータを初期値として、第2の変形モデルを用いて第1の画像と第2の画像との第2の位置合わせ(変形推定)を行うことで、第2の変形パラメータを更新する。
ステップS2040において、変形画像生成部110は、ステップS2030で更新した第2の変形パラメータに基づいて、第1の画像と第2の画像のすくなくともいずれか一方を他方と形状が一致するように変形させた位置合わせ画像(変形画像)を生成する。変形表現に基づく変形画像の生成は公知であるので、詳細な説明は省略する。変形画像生成部110は、生成した位置合わせ画像(変形画像)に関するデータを記憶部(図示せず)に格納するとともに、表示制御部111へ出力する。
ステップS2050において、表示制御部111は、第1の画像、第2の画像、及び位置合わせ画像(変形画像)の任意の画像を、ユーザの操作に応じて表示部170に表示する制御を行う。なお、位置合わせ画像(変形画像)の表示後、表示制御部111がユーザからの「画像確認の終了」を受け付けた場合、画像処理装置100の処理は終了する。
図面を参照して、本発明の実施形態の一例を詳しく説明する。図4は、本実施形態に係る画像処理装置を含む画像処理システムの一例を示す図である。画像処理システムは、画像処理装置500を備える。画像処理装置500は、第2の位置合わせ部(第2の変形取得部)504、第3の位置合わせ部(第3の変形取得部)505、及びデータ取得部515を備える。なお、上記の実施形態と同様の構成、機能、及び動作についての説明は省略し、主に本実施形態との差異について説明する。
ステップS6000において、データ取得部515は、第1の画像及び第2の画像をデータサーバ150から取得する。そして、データ取得部515は、第1の画像及び第2の画像を、第1の位置合わせ部(第1の変形取得部)102、第2の位置合わせ部(第2の変形取得部)504、及び第3の位置合わせ部(第3の変形取得部)505へ出力する。また、データ取得部515は、所定の領域(例えば、病変の領域などの特有の変形が考慮される領域)を第1の画像の空間上で規定するマスク画像データの情報を、データサーバ150から取得する。そして、データ取得部515は、マスク画像データを第3の位置合わせ部(第3の変形取得部)505へ出力する。
ステップS6030において、第2の位置合わせ部(第2の変形取得部)504は、ステップS6020で変換された第2の変形パラメータを初期値として、第2の変形モデルを用いて第1の画像と第2の画像との第2の位置合わせ(変形推定)を行うことで、第2の変形パラメータを更新する。本実施形態における第2の変形モデルは、多重解像度FFDである。ステップS6030の処理が第1の実施形態における第2の位置合わせ処理(ステップS2030)と異なる点は、正則化項として、ヤコビアンではなくBending energyを用いている点である。
ステップS6040において、第3の位置合わせ部(第3の変形取得部)505は、特有の変形を考慮する領域を表すマスク画像データをデータ取得部515から取得する。第3の位置合わせ部(第3の変形取得部)505は、ステップS6030で第2の位置合わせ部(第2の変形取得部)504が更新した第2の変形パラメータを初期値として、第2の変形モデルを用いて、所定の領域のRigidity penaltyを考慮した第3の位置合わせ処理を行うことで、第2の変形パラメータをさらに更新する。なお、第3の位置合わせ処理におけるFFDの計算は、第2の位置合わせ処理に用いられる多重解像度FFDの最高解像度で行われる。
ステップS6050において、変形画像生成部110は、ステップS6040で更新した第2の変形パラメータに基づいて、第1の画像と第2の画像のすくなくともいずれか一方を他方に形状が一致するように変形させた位置合わせ画像(変形画像)を生成する。変形画像生成部110は、生成した位置合わせ画像(変形画像)に関するデータを記憶部(図示せず)に格納するとともに、表示制御部111へ出力する。
なお、本発明は、上記の実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム又は装置に供給し、システム又は装置のコンピュータ(CPUやMPUなど)がプログラムを読み出すことにより実行されてもよい。また、本発明は、システム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能であり、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102 第1の位置合わせ部(第1の変形取得部)
103 変形変換部(生成部)
104,504 第2の位置合わせ部(第2の変形取得部)
110 変形画像生成部
111 表示制御部
115,515 データ取得部
150 データサーバ
160 操作部
170 表示部
505 第3の位置合わせ部(第3の変形取得部)
Claims (12)
- 第1の画像と第2の画像の位置合わせを行うことで、前記第1の画像と前記第2の画像との間の変形を第1の変形モデルを用いて表す第1の変形パラメータを取得する第1の変形取得手段と、
前記第1の変形モデルと前記第1の変形パラメータとにより表される変形を示す中間データを生成する生成手段と、
前記生成手段により生成された中間データに基づいて、前記中間データにより示される変形を前記第1の変形モデルとは異なる第2の変形モデルを用いて表す第2の変形パラメータを取得する第2の変形取得手段と、
を有することを特徴とする画像処理装置。 - 前記第1の変形取得手段は、第1の変形表現として、前記第1の変形パラメータを取得し、
前記第2の変形取得手段は、第2の変形表現として、前記第2の変形パラメータを取得することを特徴とする請求項1に記載の画像処理装置。 - 第1の変形モデルを用いて第1の画像と第2の画像の位置合わせを行うことで、前記第1の画像を変形した第1の変形画像の変形データを第1の変形パラメータとして取得する第1の変形取得手段と、
前記第1の画像上にサンプル位置を設定し、前記変形データに基づいて、前記第1の変形画像上の前記サンプル位置の座標を算出し、前記第1の画像上の前記サンプル位置と前記第1の変形画像上の前記サンプル位置との変位を生成し、
前記変位に基づいて、前記第1の画像と前記第2の画像との間の変形を表す第2の変形モデルのパラメータ(第2の変形パラメータ)を取得する生成手段と、
を備えることを特徴とする画像処理装置。 - 前記第2の変形パラメータを初期値として第2の変形モデルを用いて前記第1の画像と前記第2の画像との位置合わせを行い、前記第2の変形パラメータを更新する第2の変形取得手段をさらに備えることを特徴とする請求項3に記載の画像処理装置。
- 前記第1の変形取得手段は、前記第1の変形モデルを用いて、前記第1の画像の第1の基準点群と前記第2の画像の第2の基準点群との位置合わせを行うことで、前記第1の変形パラメータを取得することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
- 前記第1の変形取得手段は、前記第1の変形モデルを用いて、前記第1の画像と前記第2の画像との類似度に基づく位置合わせを行なうことで、前記第1の変形パラメータを取得することを特徴とする請求項1乃至4の何れか1項に記載の画像処理装置。
- 前記第2の変形取得手段は、前記変位を小さくするために、前記第2の変形モデルを用いて前記第1の画像を変形することを特徴とする請求項4に記載の画像処理装置。
- 前記生成手段は、前記第1の画像と前記第1の変形画像とを対比することにより、前記変位を生成することを特徴とする請求項3又は4に記載の画像処理装置。
- 前記第2の変形取得手段は、前記第1の変形画像の変形を抑制する正則化項を導入した前記第2の変形モデルを用いて前記位置合わせ画像の前記変形データを取得することを特徴とする請求項4に記載の画像処理装置。
- 前記位置合わせ画像の所定の範囲を設定し、前記所定の範囲の変形を抑制する正則化項を導入した前記第2の変形モデルを用いて前記位置合わせ画像と前記第2の画像の位置合わせを行うことで、前記位置合わせ画像を変形した第3の変形画像の変形データを取得する第3の変形取得手段を備えることを特徴とする請求項4に記載の画像処理装置。
- 第1の画像と第2の画像の位置合わせを行うことで、前記第1の画像と前記第2の画像との間の変形を第1の変形モデルを用いて表す第1の変形パラメータを取得する工程と、
前記第1の変形モデルと前記第1の変形パラメータとにより表される変形を示す中間データを生成する工程と、
前記生成手段により生成された中間データに基づいて、前記中間データにより示される変形を前記第1の変形モデルとは異なる第2の変形モデルを用いて表す第2の変形パラメータを取得する工程と、
を備えることを特徴とする画像処理方法。 - コンピュータを請求項1乃至10の何れか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016080497A JP6706128B2 (ja) | 2016-04-13 | 2016-04-13 | 画像処理装置、画像処理方法、及びプログラム |
US15/481,358 US10297035B2 (en) | 2016-04-13 | 2017-04-06 | Image processing apparatus, image processing method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016080497A JP6706128B2 (ja) | 2016-04-13 | 2016-04-13 | 画像処理装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017191459A JP2017191459A (ja) | 2017-10-19 |
JP6706128B2 true JP6706128B2 (ja) | 2020-06-03 |
Family
ID=60038330
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016080497A Active JP6706128B2 (ja) | 2016-04-13 | 2016-04-13 | 画像処理装置、画像処理方法、及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10297035B2 (ja) |
JP (1) | JP6706128B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106361366B (zh) * | 2016-11-02 | 2019-05-03 | 上海联影医疗科技有限公司 | 多模态图像配准方法及系统 |
CN110163794B (zh) * | 2018-05-02 | 2023-08-29 | 腾讯科技(深圳)有限公司 | 图像的转换方法、装置、存储介质和电子装置 |
US11217022B1 (en) * | 2019-06-28 | 2022-01-04 | Snap Inc. | Light invariant pattern mapping |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5355074B2 (ja) * | 2008-12-26 | 2013-11-27 | キヤノン株式会社 | 3次元形状データ処理装置、3次元形状データ処理方法及びプログラム |
JP5586917B2 (ja) * | 2009-10-27 | 2014-09-10 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
CN103854276B (zh) | 2012-12-04 | 2018-02-09 | 东芝医疗系统株式会社 | 图像配准及分割装置和方法,以及医学图像设备 |
JP6383189B2 (ja) * | 2014-06-16 | 2018-08-29 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP6661300B2 (ja) * | 2015-08-17 | 2020-03-11 | キヤノン株式会社 | 画像形成装置 |
-
2016
- 2016-04-13 JP JP2016080497A patent/JP6706128B2/ja active Active
-
2017
- 2017-04-06 US US15/481,358 patent/US10297035B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017191459A (ja) | 2017-10-19 |
US10297035B2 (en) | 2019-05-21 |
US20170301099A1 (en) | 2017-10-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110599528B (zh) | 一种基于神经网络的无监督三维医学图像配准方法及系统 | |
US20080050043A1 (en) | Methods and Systems for Registration of Images | |
JP6316671B2 (ja) | 医療画像処理装置および医用画像処理プログラム | |
US8437521B2 (en) | Systems and methods for automatic vertebra edge detection, segmentation and identification in 3D imaging | |
JP6821403B2 (ja) | 画像処理装置、画像処理方法、画像処理システム、及びプログラム。 | |
JP6376873B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
EP1695287A1 (en) | Elastic image registration | |
JP5837604B2 (ja) | 幾何学的特徴の自動算出方法、非一時的なコンピュータ可読媒体および画像解釈システム | |
JP6706128B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
Walimbe et al. | Automatic elastic image registration by interpolation of 3D rotations and translations from discrete rigid-body transformations | |
US20230351597A1 (en) | Methods and devices for medical image processing | |
Oliveira et al. | Novel framework for registration of pedobarographic image data | |
CN104933672B (zh) | 基于快速凸优化算法配准三维ct与超声肝脏图像的方法 | |
Grosland et al. | Automated hexahedral meshing of anatomic structures using deformable registration | |
US20220108540A1 (en) | Devices, systems and methods for generating and providing image information | |
CN114387317A (zh) | Ct图像和mri三维图像的配准方法、装置 | |
JP6995535B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
CN110473241B (zh) | 图像配准方法、存储介质及计算机设备 | |
JP6821303B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
US20200342606A1 (en) | Image processing apparatus, image processing method, and program | |
JP6739658B2 (ja) | 医用画像処理装置、方法およびプログラム | |
JP6732593B2 (ja) | 画像処理装置および画像処理方法 | |
US10885643B2 (en) | Image processing apparatus, image processing method, and storage medium | |
Mao et al. | Dsr: Direct simultaneous registration for multiple 3d images | |
Zhang et al. | Model-based nonrigid image registration using scale-invariant features |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191220 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200303 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200310 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200417 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200515 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6706128 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: R3D03 |