JP2015033556A - 画像処理装置、画像処理方法 - Google Patents
画像処理装置、画像処理方法 Download PDFInfo
- Publication number
- JP2015033556A JP2015033556A JP2013166992A JP2013166992A JP2015033556A JP 2015033556 A JP2015033556 A JP 2015033556A JP 2013166992 A JP2013166992 A JP 2013166992A JP 2013166992 A JP2013166992 A JP 2013166992A JP 2015033556 A JP2015033556 A JP 2015033556A
- Authority
- JP
- Japan
- Prior art keywords
- image
- dimensional
- subject
- contact area
- breast
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims description 76
- 238000003672 processing method Methods 0.000 title claims 2
- 238000004590 computer program Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 2
- 230000001678 irradiating effect Effects 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 abstract description 2
- 210000000481 breast Anatomy 0.000 description 143
- 238000000034 method Methods 0.000 description 58
- 238000009826 distribution Methods 0.000 description 42
- 230000009466 transformation Effects 0.000 description 35
- 230000006835 compression Effects 0.000 description 34
- 238000007906 compression Methods 0.000 description 34
- 230000008569 process Effects 0.000 description 27
- 210000002445 nipple Anatomy 0.000 description 25
- 238000010586 diagram Methods 0.000 description 23
- 238000011156 evaluation Methods 0.000 description 18
- 230000006870 function Effects 0.000 description 18
- 238000004088 simulation Methods 0.000 description 17
- 101100118004 Arabidopsis thaliana EBP1 gene Proteins 0.000 description 15
- 101150052583 CALM1 gene Proteins 0.000 description 15
- 102100025580 Calmodulin-1 Human genes 0.000 description 15
- 101100459256 Cyprinus carpio myca gene Proteins 0.000 description 15
- 101150091339 cam-1 gene Proteins 0.000 description 15
- 238000003384 imaging method Methods 0.000 description 15
- 230000031700 light absorption Effects 0.000 description 14
- 239000011159 matrix material Substances 0.000 description 13
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 11
- 238000004364 calculation method Methods 0.000 description 10
- 230000008021 deposition Effects 0.000 description 10
- 102100025579 Calmodulin-2 Human genes 0.000 description 9
- 101001077352 Homo sapiens Calcium/calmodulin-dependent protein kinase type II subunit beta Proteins 0.000 description 9
- 238000006243 chemical reaction Methods 0.000 description 9
- 238000012937 correction Methods 0.000 description 9
- 238000006073 displacement reaction Methods 0.000 description 8
- 101150026942 CAM3 gene Proteins 0.000 description 6
- 101150058073 Calm3 gene Proteins 0.000 description 6
- 102100025926 Calmodulin-3 Human genes 0.000 description 6
- 238000001514 detection method Methods 0.000 description 6
- 238000012986 modification Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 5
- 238000005259 measurement Methods 0.000 description 4
- 239000000126 substance Substances 0.000 description 4
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 3
- 210000000038 chest Anatomy 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 238000009607 mammography Methods 0.000 description 3
- 229910052760 oxygen Inorganic materials 0.000 description 3
- 239000001301 oxygen Substances 0.000 description 3
- 230000000717 retained effect Effects 0.000 description 3
- 239000000523 sample Substances 0.000 description 3
- 238000003325 tomography Methods 0.000 description 3
- 239000011358 absorbing material Substances 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 206010006187 Breast cancer Diseases 0.000 description 1
- 208000026310 Breast neoplasm Diseases 0.000 description 1
- 102000008186 Collagen Human genes 0.000 description 1
- 108010035532 Collagen Proteins 0.000 description 1
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 1
- 102000001554 Hemoglobins Human genes 0.000 description 1
- 108010054147 Hemoglobins Proteins 0.000 description 1
- 238000000149 argon plasma sintering Methods 0.000 description 1
- 210000004204 blood vessel Anatomy 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 229920001436 collagen Polymers 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 239000008103 glucose Substances 0.000 description 1
- 101150013335 img1 gene Proteins 0.000 description 1
- 230000014759 maintenance of location Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/43—Detecting, measuring or recording for evaluating the reproductive systems
- A61B5/4306—Detecting, measuring or recording for evaluating the reproductive systems for evaluating the female reproductive systems, e.g. gynaecological evaluations
- A61B5/4312—Breast evaluation or disorder diagnosis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/70—Means for positioning the patient in relation to the detecting, measuring or recording means
- A61B5/708—Breast positioning means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0093—Detecting, measuring or recording by applying one single type of energy and measuring its conversion into another type of energy
- A61B5/0095—Detecting, measuring or recording by applying one single type of energy and measuring its conversion into another type of energy by applying light and detecting acoustic waves, i.e. photoacoustic measurements
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10048—Infrared image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30068—Mammography; Breast
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/41—Medical
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Public Health (AREA)
- Computer Graphics (AREA)
- Gynecology & Obstetrics (AREA)
- Reproductive Health (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- High Energy & Nuclear Physics (AREA)
- Ultra Sonic Daignosis Equipment (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Quality & Reliability (AREA)
Abstract
Description
以下では、被検体を保持部材で保持した保持状態で該被検体を撮影した画像に基づいて、該被検体と該保持部材との接触領域を取得し、該接触領域に基づいて、保持状態における被検体の3次元形状を推定する画像処理装置の一例について説明する。
ステップS2000において医用画像取得部1010は、医用画像データベース110に登録されている乳房のMRI画像300を取得し、該取得したMRI画像300を、後段の表面形状取得部1020及び変形画像生成部1080に対して送出する。
ステップS2010で表面形状取得部1020は、MRI画像300を構成する各2次元画像から乳房の表面を構成する画素を検出し、該検出した画素について定義されている3次元座標位置(表面位置)の集合を、乳房の表面形状(形状情報)として取得する。さらに表面形状取得部1020は、該取得した表面形状の3次元曲率に基づいて、MRI画像300中における乳頭位置を取得する。そして表面形状取得部1020は、取得した表面形状及び乳頭位置を、後段の剛体変換部1050及び変形推定部1070に対して送出する。
ステップS2020において、PAT画像取得部1030は、PAT装置120が撮影した乳房のPAT画像を、該PAT装置120から取得する。この取得はPAT装置120による撮影と同期して直接取得するようにしてもよいし、PAT装置120が過去に撮影した画像を記録した不図示の医用画像記録装置から取得するようにしても構わない。そしてPAT画像取得部1030は、取得したPAT画像を、後段の画像表示部1090に送出する。またPAT画像取得部1030は、PAT画像のヘッダに含まれている付加的情報や画像処理装置100が保持する各種情報、例えば、TPtoD,TC1toD,TC2toD,TC3toDなど)等、以下で必要となる情報を変形推定部1070に送出する。なお、本実施形態においてPAT画像取得部1030が取得するPAT画像は、規定の波長に対して乳房内の光エネルギー堆積量分布を画像化した3次元画像であるものとする。
ステップS2030において、外観画像取得部1040は、前面カメラ505、後面カメラ506、側面カメラ507のそれぞれが撮影した、非保持状態、保持状態のそれぞれにおける乳房の外観画像を、PAT装置120から取得する。すなわち、外観画像取得部1040は、PAT装置120から、ICAM1,ICAM2,ICAM3,I’CAM1,I’CAM2、I’CAM3)を取得する。そして外観画像取得部1040は、これら取得した外観画像を、後段の乳房領域取得部1045及び接触領域取得部1060に対して送出する。
ステップS2035において、乳房領域取得部1045は、外観画像取得部1040から受けたそれぞれの外観画像に対して画像処理を施し、該外観画像上における乳房領域(図7の701)を取得する。また、乳房領域取得部1045は、該外観画像上における乳頭(図7の705)の位置を取得する。
ステップS2040において、剛体変換部1050は、MRI画像座標系CMRIとPAT装置座標系CDEVとの間の剛体位置合わせを行う。すなわち、MRI画像座標系CMRIからPAT装置座標系CDEVへの座標変換行列TMtoDを導出する。この処理は、ステップS2010で取得したMRI画像中における乳頭位置と、ステップS2035で取得した非保持状態における外観画像上の乳頭位置と、に基づいて行われる。本実施形態では、PAT装置座標系CDEVとMRI画像座標系CMRIにおける乳房の姿勢は概ね一致しており、MRI画像座標系CMRIからPAT装置座標系CDEVへの座標変換を平行移動のみで記述できると仮定する。
ステップS2050において、接触領域取得部1060は、保持状態における外観画像(ICAM1及びICAM2)中の乳房領域に対して画像処理を施し、該外観画像上における接触領域702を検出する。そして接触領域取得部1060は、この検出した接触領域の情報と、保持板503及び504の位置情報と、に基づいて、PAT装置座標系CDEVにおける接触領域の3次元位置(領域情報)を算出する。そして接触領域取得部1060は、算出した接触領域の3次元位置を、後段の変形推定部1070に対して送出する。
ステップS2060において変形推定部1070は、ステップS2050で取得した接触領域の情報を拘束条件として用いて、MRI画像から得た乳房の表面形状から、圧迫変形後の乳房の表面形状(推定値)を推定する。本実施形態では、変形関数FDEV(x、y、z)によってMRI画像中の乳房に変形処理を施した際の計算上の接触領域が、ステップS2050で取得した接触領域と一致(略合致)するように、変形関数FDEV(x、y、z)を求めることで、この推定を行う。なお、本実施例における略合致は、完全一致も含まれる意味である。
sZ1=(zL−zM)/(zMIN−zM) (if z≦zM) (2)
ここで、zUは平面PUのz座標、zLは平面PLのz座標、zMはzUとzLの中間点のz座標を表す。また、zMAXは、表面位置801の位置座標ベクトルvSi_DEVの中のz位置の最大値、zMINはその最小値である。
以上により、sX1、sY1、sZ1が、z>zMとz≦zMの夫々の領域について算出される。そこで、これらのスケールファクタによるアフィン変換を記述する変換行列TD1を、z>zMとz≦zMの夫々の領域について算出する。このとき、第一のステップによる圧縮変形後の表面位置807を表す位置座標ベクトルvSD1i_DEVは、次式で算出される。
図8(b)は、変形推定の第二のステップとして、乳房の表面位置における接触領域に対応する位置が保持板の位置になるように、変形の補正処理を行う様子を示す模式図である。図8(b)において、810は、圧縮変形後の表面位置807を、接触領域の位置を用いて伸長変形した補正後の表面位置を表す。本実施形態では、第一のステップと同様、対象領域をz>zM、z≦zMの2つの領域に分けて処理する。ただし、本ステップの処理では、さらに、対象領域内の夫々の位置(x、y)におけるz軸方向のライン領域L(x、y)毎に、夫々異なるスケーリングの変換を行う。なお、本補正処理による変形量は大きくないため、体積の変化は無視できるものと仮定する。すなわち、補正前後で体積は保存せず、z方向のみスケーリングを行う。すなわち、夫々のライン領域L(x、y)について、z軸方向のスケールファクタsZ2(x、y)を求めて、それに基づく補正処理を行う。
また、接触領域802と交差しない全てのライン領域L(x、y)では、sZ2(x、y)として、同じサジタル面において接触領域802の下端(yが最小となる接触領域の点)と交わるライン領域LのsZ2の値を採用する。これにより、交差しない場合と交差する場合のライン領域の間で、シームレスに変形補正をつなげることができる。
なお、ライン領域Lが接触領域803と交差しない場合の処理はz>zMの場合と同様であるため、説明を省略する。
ここで、xi、yiは、vSD1i_DEVのx座標及びy座標である。
ステップS2070において、変形画像生成部1080は、MRI画像300を元に、ステップS2060で得た変形関数FDEVを用いて、PAT画像に位置合わせされた変形MRI画像を生成する。すなわち、MRI画像300内の乳房形状が、ステップS2060で推定した形状になるように、MRI画像300に変形を施した変形MRI画像を生成する。まず、座標変換行列TMtoDを用いて、MRI画像300を構成する各画素の3次元座標位置をPAT装置座標系CDEVにおける3次元座標位置に座標変換した後、変形関数FDEVを用いて変形処理を施す。そして、変形処理が施されたMRI画像を構成する各画素の3次元座標位置を座標変換行列TPtoDの逆行列を用いて座標変換することで、PAT画像座標系CPATにおける変形MRI画像を生成する。
ステップS2080において、画像表示部1090は、ステップS2070で生成した変形MRI画像900と、ステップS2020で取得したPAT画像600と、を不図示のモニタ上に並べて表示する。図10に、変形MRI画像とPAT画像を表示する画面の例を示す。図10では、変形MRI画像900とPAT画像600の同一のアキシャル断面が、上下に並べて表示されている。ここで、対応領域1001は、PAT画像600の表示領域に対応する領域をユーザに示すための表示情報である。なお、変形MRI画像及びPAT画像の表示形態については特定の表示形態に限るものではない。
第1の実施形態に係る画像処理装置では、アフィン変換を用いた圧迫変形により変形MRI画像を生成していた。しかしながら、アフィン変換による圧迫変形は、現実の物理現象を厳密にシミュレーションするものではないため、実際にPAT画像を撮影する際に生じた圧迫変形との間に誤差が少なからず生じる可能性がある。そこで、本実施形態では、乳房と保持板との間の接触領域の情報に基づき、現実の物理現象をシミュレーションする物理変形シミュレーション手法を用いて被検体の変形を推定し、MRI画像に圧迫変形を施した変形MRI画像を生成する。これにより、PAT画像とMRI画像との間のより高精度な位置合わせを実現し、両者を併用した診断の効率を向上させる。以下、本実施形態に係る画像処理装置について、第1の実施形態との差異を中心に説明する。本実施形態に係るシステムの構成は、第1の実施形態と同様である。ただし、変形推定部1070の動作のみが、第1の実施形態とは異なっている。
ステップS11060において変形推定部1070は、ステップS11050で取得した接触領域の情報を拘束条件として用いて、物理変形シミュレーションにより、MRI画像から得た乳房の表面形状から、圧迫変形後の乳房の表面形状を推定する。具体的には、変形パラメータを様々に変化させながら物理変形シミュレーションを行い、変形の適切性を表す評価値を最小とする変形形状を求める。このとき、生成した変形形状から得られる計算上の接触領域と、ステップS11050で取得した接触領域との一致度を考慮した評価値を定義することが、本実施形態における変形推定部1070の特徴である。すなわち、乳房と保持板との接触領域に略合致するように、MRI画像から得た乳房形状を圧迫変形させる変形形状を推定する。以下、本ステップにおける処理の詳細を、図12のフローチャートを用いて説明する。
ステップS12000において、変形推定部1070は、ステップS11010で取得した乳房の表面形状に基づいて、該表面形状を表す3次元のメッシュ(以下、メッシュMと表記する)を生成する。まず、変形推定部1070は、第1の実施形態と同様の方法により、PAT装置座標系CDEVにおける表面位置801の位置座標ベクトルvSi_DEVを求める。そして、表面位置801に基づいて乳房の内部領域を判別し、該内部領域にメッシュMを配置する。
ステップS12010において変形推定部1070は、変形パラメータの各成分(ヤング率やポアソン比等)が取りうる値を組み合わせて、np組の変形パラメータpk(1≦k≦np)を生成する。例えば、各成分がとり得る範囲を適切な間隔で分割して、それらの全ての組み合わせを得ることで変形パラメータpkを生成する。
ステップS12020において変形推定部1070は、ループ変数kを1に初期化する。
ステップS12030において、変形推定部1070は、k番目の変形パラメータpkを用いて(仮定して)、メッシュMに対して有限要素法に基づく物理変形シミュレーションを施すことで、変形後のメッシュである変形メッシュDMkを得る。
ステップS12040において、変形推定部1070は、ステップS11050で取得した接触領域の情報に基づいて、ステップS12030で求めた変形メッシュDMkの形状の適切性(DMkが表す変形の適切性)の評価値Ekを算出する。例えば、変形メッシュDMkから得られる計算上の接触領域と、ステップS11050で取得した接触領域との間の形状誤差を算出して、これを評価値Ekとする。
同様に、保持面PLにおける形状誤差ELkを、接触領域803の面積SCLと、接触ノード1501で構成される領域の面積SLkを用いて、以下の式(9)で算出する。
そして、変形形状の評価値Ekを、これらの和として式(10)で算出する。
但し、接触領域に基づく評価値Ekの算出方法は、上述に限られるものではない。例えば、接触領域802及び接触領域803の集合(取得した接触領域の3次元位置情報)と、接触ノード1500で構成される領域及び接触ノード1501で構成される領域の集合(計算上の接触領域の3次元位置情報)と、の間の一致度として、これらの領域間の重なりの度合いを評価してもよい。例えば、ジャッカード係数を求めて、その逆数をEkとしてもよい。あるいは、領域間の一致度を計量する何れの方法を採用してもよい。また、3次元空間中の接触領域ではなく、外観画像上に投影された接触領域の一致度に基づいて、評価値Ekを得るようにしてもよい。そのために、まず、接触ノード1500を前面カメラ画像座標系に、接触ノード1501を後面カメラ画像座標系に投影変換することで、夫々の外観画像上における計算上の接触領域(計算上の接触領域を2次元画像上に投影した領域)を求める。そして、計算上の接触領域と、ステップS11050で得た同画像上における接触領域との一致度を求めて、これを評価値Ekとする。このとき、接触領域の一致度としては、例えば、外観画像上における計算上の接触領域の面積と、外観画像上で検出された接触領域の面積と、の差E2D_Ckを用いることができる。また、外観画像上における計算上の接触領域と、外観画像上で検出された接触領域(取得した接触領域の2次元位置情報)の重なり度合いをもって一致度を評価することができる。例えばこれら二つの領域のジャッカード係数の逆数を評価値とすることができる。これにより、外観画像上における計算上の接触領域が、外観画像から取得した接触領域の2次元位置情報と略合致するように、変形形状を推定できる。
但し、a、b、cは重み係数であり、a+b+c=1を満たす。無論、評価値Ekは上述の式(10)によって求められる評価値と、E2D_Sk、E2D_Fkを組み合わせて算出したものであってもよい。以上の処理により、変形メッシュDMkの形状の適切性の評価値Ekが算出される。
ステップS12050において、変形推定部1070は、ステップS12040で算出した評価値Ekが、現在の評価値の最小値EMINよりも小さいか否かを判定する。Ek<EMINの場合は、ステップS12060へと処理を進め、Ek≧EMINの場合は、ステップS12070へと処理を進める。
ステップS12060において、変形推定部1070は、現在の評価値の最小値EMINをEkに更新し(EMIN=Ekとする)、さらに、EMINに対応する変形メッシュDMMINをDMkに更新する(DMMIN=DMkとする)。
ステップS12070において、変形推定部1070は、ループ変数kを(k+1)に更新する(k=k+1とする)。
ステップS12080において、変形推定部1070は、ループ変数kが変形パラメータpkの個数npよりも大きいか否かを判定する。k>npの場合は処理はステップS11070に進み、k≦npの場合は、ステップS12030へと処理を進める。
本実施形態におけるPAT装置120の保持板は平板であり、乳房を保持する保持面は平面であった。しかしながら、保持面の形状は平面に限るものではなく、既知の形状であればどのような形状であってもよい。例えば、2枚の平面を組み合わせた保持面や、円弧状の保持面であってもよい。このとき、ステップS11050において、接触領域の3次元位置は、これらの既知の形状の保持面と、外観画像上における接触領域各点への視線との交点として算出すればよい。
第1及び第2の実施形態では、PAT画像とMRI画像の変形位置合わせを目的として、乳房と保持板との間の接触領域の情報に基づいて、MRI画像に圧迫変形を施した変形MRI画像を生成していた。これに対して、本実施形態に係る画像処理装置は、PAT装置の被検体である乳房の3次元形状を、高精度に取得することを目的とする。そして、計測した乳房の3次元形状に基づいて、乳房内における光量分布の推定を高精度化し、乳房内における光吸収係数の分布を正確に画像化することを目的とする。また、血液の酸素飽和度の分布を正確に画像化することを目的とする。本実施形態では、非保持状態における乳房の形状を近似する3次元形状モデルを求め、これに対して、乳房と保持板との間の接触領域に合致するように圧迫変形を施すことで、変形後の3次元形状モデルを生成する。そして、生成した3次元形状モデルに基づいて、乳房内における光吸収係数や酸素飽和度の分布を高精度に画像化する。以下、本実施形態に係るシステムについて説明する。
ステップS17070において、非保持形状推定部16055は、ステップS17035で得た非保持状態のカメラ画像(I’CAM1,I’CAM2)上における乳房領域に基づいて、非保持状態における乳房の3次元形状を推定する。例えば、楕円体モデルを当てはめる(モデルの投影像と乳房領域との差を最小化するパラメータを求める)ことで、非保持状態における乳房の形状を近似する形状モデルを生成する。
ステップS17060において、変形推定部16070は、第2の実施形態におけるステップS11060と同様の処理によって乳房の変形を推定し、保持状態における乳房の形状モデル(すなわち、変形メッシュDMMIN)を生成する。ただし、本実施形態では、MRI画像から得た乳房の表面形状ではなく、ステップS17040で得た形状モデルを変形前の形状として用いる点が、ステップS11060の処理とは異なっている。
ステップS17070において、光量分布算出部16075は、ステップS17060で取得した変形メッシュDMMINに基づき、夫々の照射光について、乳房内に照射された光量分布DLV_λ1,DLV_λ2を推定する。光量分布は、乳房の内部領域における照射光量の3次元分布である。光量分布を計算する際は、入射光に関する情報(光照射条件)と、乳房の3次元形状と、乳房内の光吸収や光散乱などの光学係数(光学特性値)が必要である。本実施形態では、入射光に関する情報は、既知の情報として画像処理装置100内の不図示のメモリが保持しているものとする。また、乳房の光学係数は、乳房内の平均的な光学係数、つまり乳房の測定部位に固有の平均的な光学係数を、既知の情報として画像処理装置100内の不図示のメモリが保持しているものとする。そして、乳房の3次元形状として、ステップS17060で取得した変形メッシュDMMINの表面形状を適用する。これらの情報に基づく光量分布の推定は、例えば、特許文献1に記載の方法によって行うことができる。
ステップS17080において、光吸収係数分布算出部16085は、ステップS17020で得た光エネルギー堆積量分布画像に対して、ステップS17070で得た光量分布に基づく光分布補正処理を施す。そして、この補正処理により、夫々の波長に対する被検体内の光吸収係数分布を画像化した3次元画像(以下、光吸収係数分布画像DABS_λ1,DABS_λ2と呼ぶ)を生成する。すなわち、光エネルギー堆積量分布画像DACM_λ1を光量分布DLV_λ1で除算し、同様にDACM_λ2をDLV_λ2で除算することで、DABS_λ1とDABS_λ2の夫々を算出する。
本実施形態では、非保持状態における乳房の形状を近似する3次元形状モデルに変形処理を施すことで、保持状態における乳房の3次元形状モデルを得ていた。しかし、これは別の方法であってもよい。例えば、保持状態における乳房の3次元形状モデルを直接(すなわち、非保持状態の乳房形状に対する圧迫変形推定処理を介さずに)生成するようにしてもよい。例えば、以下のようにしてもよい。
・ 楕円体モデルを外観画像に投影したとき、投影された楕円体モデルのシルエット形状が前後のカメラによる外観画像に写る被検体(乳房)のシルエット形状に合致する
次に、2枚の保持板の平面に挟まれた領域の外側にはみ出した楕円体モデルの領域を切り捨てた3次元形状を生成する。これにより、圧迫変形推定処理を介さずに、接触領域に合致する3次元形状モデルを生成できる。
図1,16に示した画像処理装置100(1600)を構成する各機能部は何れもハードウェアで構成しても良いが、一部若しくは全部をソフトウェア(コンピュータプログラム)で実装しても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (11)
- 被検体を保持部材で保持した保持状態で該被検体を撮影した画像に基づいて、該被検体と該保持部材との接触領域を取得する取得手段と、
前記接触領域に基づいて、前記保持状態における前記被検体の3次元形状を推定する推定手段と
を備えることを特徴とする画像処理装置。 - 前記保持部材と接触する前の前記被検体の3次元の形状モデルを取得する形状取得手段をさらに有し、
前記推定手段は、前記接触領域に基づき、前記形状モデルを変形させて前記被検体の3次元形状を推定することを特徴とする請求項1に記載の画像処理装置。 - 前記形状取得手段は、前記被検体の3次元医用画像から得られる前記被検体の表面形状に基づいて、前記形状モデルを取得することを特徴とする請求項2に記載の画像処理装置。
- 前記推定手段は、前記3次元形状の推定値に基づく前記保持部材との計算上の接触領域が、前記取得手段が取得した接触領域に略合致するように、前記3次元形状を推定することを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
- 前記画像は2次元画像であって、
前記取得手段は、前記2次元画像における前記接触領域の2次元位置情報を取得し、
前記推定手段は、前記計算上の接触領域を前記2次元画像上に投影した領域が、前記取得手段が取得した前記接触領域の2次元位置情報に略合致するように、前記3次元形状を推定することを特徴とする請求項4に記載の画像処理装置。 - 前記画像は2次元画像であって、
前記取得手段は、前記保持部材の形状に基づいて、前記2次元画像における前記接触領域の2次元位置情報から該接触領域の3次元位置情報を取得し、
前記推定手段は、前記計算上の接触領域の3次元位置情報が、前記取得手段が取得した前記接触領域の3次元位置情報に略合致するように、前記3次元形状を推定することを特徴とする請求項4に記載の画像処理装置。 - 前記保持部材は、光が透過可能な部材であって、前記画像は、前記保持部材を介して前記被検体を撮影した画像であることを特徴とする請求項1に記載の画像処理装置。
- 前記被検体に光を照射する照射手段をさらに備え、
前記取得手段は、前記画像に写し出された被検体の輝度値に基づいて前記接触領域に関する情報を抽出することを特徴とする請求項7に記載の画像処理装置。 - 更に、
前記被検体の3次元医用画像に対し、該被検体が、前記推定手段が推定した形状を有するように変形処理を行うことで、変形した3次元医用画像を生成する手段を備えることを特徴とする請求項3に記載の画像処理装置。 - 被検体を保持部材で保持した保持状態で該被検体を撮影した画像に基づいて、該被検体と該保持部材との接触領域を取得する取得工程と、
前記接触領域に基づいて、前記保持状態における前記被検体の3次元形状を推定する推定工程と
を備えることを特徴とする画像処理方法。 - コンピュータを、請求項1乃至9の何れか1項に記載の画像処理装置の各手段として機能させるためのコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013166992A JP6304970B2 (ja) | 2013-08-09 | 2013-08-09 | 画像処理装置、画像処理方法 |
US14/452,649 US9396576B2 (en) | 2013-08-09 | 2014-08-06 | Method and apparatus for estimating the three-dimensional shape of an object |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013166992A JP6304970B2 (ja) | 2013-08-09 | 2013-08-09 | 画像処理装置、画像処理方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2015033556A true JP2015033556A (ja) | 2015-02-19 |
JP2015033556A5 JP2015033556A5 (ja) | 2017-03-23 |
JP6304970B2 JP6304970B2 (ja) | 2018-04-04 |
Family
ID=52448714
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013166992A Active JP6304970B2 (ja) | 2013-08-09 | 2013-08-09 | 画像処理装置、画像処理方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US9396576B2 (ja) |
JP (1) | JP6304970B2 (ja) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5400466B2 (ja) | 2009-05-01 | 2014-01-29 | キヤノン株式会社 | 画像診断装置、画像診断方法 |
JP6021346B2 (ja) * | 2012-02-14 | 2016-11-09 | キヤノン株式会社 | 診断支援装置及びその制御方法 |
JP6200249B2 (ja) | 2013-09-11 | 2017-09-20 | キヤノン株式会社 | 情報処理装置、情報処理方法 |
JP6182045B2 (ja) * | 2013-10-11 | 2017-08-16 | キヤノン株式会社 | 画像処理装置およびその方法 |
JP6448356B2 (ja) | 2014-12-22 | 2019-01-09 | キヤノン株式会社 | 画像処理装置、画像処理方法、画像処理システム、及びプログラム |
JP6467221B2 (ja) | 2014-12-22 | 2019-02-06 | キヤノン株式会社 | 画像処理装置および方法 |
US11164481B2 (en) * | 2016-01-31 | 2021-11-02 | Htc Corporation | Method and electronic apparatus for displaying reference locations for locating ECG pads and recording medium using the method |
JP6840481B2 (ja) * | 2016-07-19 | 2021-03-10 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
JP6929048B2 (ja) | 2016-11-30 | 2021-09-01 | キヤノン株式会社 | 表示制御装置、表示方法、及びプログラム |
CN108113650A (zh) * | 2016-11-30 | 2018-06-05 | 佳能株式会社 | 显示控制装置、显示控制方法和存储介质 |
CN109726478A (zh) * | 2018-12-29 | 2019-05-07 | 中国空气动力研究与发展中心计算空气动力研究所 | 一种适用于非轴对称层流短舱设计的参数化方法 |
CN111429406B (zh) * | 2020-03-05 | 2023-10-27 | 北京深睿博联科技有限责任公司 | 结合多视图推理的乳腺x射线影像病变检出方法和装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003527700A (ja) * | 2000-03-17 | 2003-09-16 | イシス・イノベイション・リミテッド | 2つのx線乳房造影図からの乳房の3次元再構成 |
US20120207368A1 (en) * | 2009-10-27 | 2012-08-16 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, and program |
JP2012533331A (ja) * | 2009-07-17 | 2012-12-27 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | マルチモダリティ胸部撮像 |
JP2013048671A (ja) * | 2011-08-30 | 2013-03-14 | Canon Inc | 被検体情報取得装置および被検体情報取得方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008235504A (ja) | 2007-03-20 | 2008-10-02 | Mitsubishi Electric Corp | 組立品検査装置 |
JP2010088627A (ja) * | 2008-10-07 | 2010-04-22 | Canon Inc | 生体情報処理装置および生体情報処理方法 |
-
2013
- 2013-08-09 JP JP2013166992A patent/JP6304970B2/ja active Active
-
2014
- 2014-08-06 US US14/452,649 patent/US9396576B2/en active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003527700A (ja) * | 2000-03-17 | 2003-09-16 | イシス・イノベイション・リミテッド | 2つのx線乳房造影図からの乳房の3次元再構成 |
JP2012533331A (ja) * | 2009-07-17 | 2012-12-27 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | マルチモダリティ胸部撮像 |
US20120207368A1 (en) * | 2009-10-27 | 2012-08-16 | Canon Kabushiki Kaisha | Information processing apparatus, information processing method, and program |
JP2013048671A (ja) * | 2011-08-30 | 2013-03-14 | Canon Inc | 被検体情報取得装置および被検体情報取得方法 |
Also Published As
Publication number | Publication date |
---|---|
US20150043800A1 (en) | 2015-02-12 |
JP6304970B2 (ja) | 2018-04-04 |
US9396576B2 (en) | 2016-07-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6304970B2 (ja) | 画像処理装置、画像処理方法 | |
US9691150B2 (en) | Image processing apparatus, image processing method and storage medium | |
US11576645B2 (en) | Systems and methods for scanning a patient in an imaging system | |
Douglas | Image processing for craniofacial landmark identification and measurement: a review of photogrammetry and cephalometry | |
US9311709B2 (en) | Image processing apparatus and image processing method | |
US11576578B2 (en) | Systems and methods for scanning a patient in an imaging system | |
WO2013019985A9 (en) | 2d/3d registration of a digital mouse atlas with x-ray projection images and optical camera photos | |
WO2013163211A1 (en) | Method and system for non-invasive quantification of biological sample physiology using a series of images | |
JP6489800B2 (ja) | 画像処理装置、画像診断システム、画像処理方法およびプログラム | |
US10244945B2 (en) | System for reconstructing surface motion in an optical elastography system | |
CN108366778B (zh) | 移动解剖体和设备的多视图、多源配准 | |
JP7023196B2 (ja) | 検査支援装置、方法およびプログラム | |
JP6489801B2 (ja) | 画像処理装置、画像診断システム、画像処理方法およびプログラム | |
JP6431342B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP6888041B2 (ja) | 医用矢状面画像を取得する方法、医用矢状面画像を取得するニューラルネットワークのトレーニング方法及びコンピュータ装置 | |
KR20200116278A (ko) | 치과 영상으로부터 피검체의 성별 및 연령을 판정하는 방법 및 이를 이용한 장치 | |
KR20160057024A (ko) | 마커리스 3차원 객체추적 장치 및 그 방법 | |
KR20140148134A (ko) | 3차원 초음파 촬영장치 및 그 운영방법 | |
JP6461257B2 (ja) | 画像処理装置およびその方法 | |
WO2017146872A1 (en) | System and method for providing assistance in surgery in presence of tissue deformation | |
Wilm et al. | Real time surface registration for PET motion tracking | |
JP2020010734A (ja) | 検査支援装置、方法およびプログラム | |
Soltani | In-Vivo Digital Image Correlation Studies of the Motion and Deformation of the Human Heart during Open Heart Surgery | |
Chen | QUiLT (Quantitative Ultrasound in Longitudinal Tissue Tracking): Stitching 2D images into 3D Volumes for Organ Health Monitoring | |
Regef et al. | Laryngeal surface reconstructions from monocular endoscopic videos: a structure from motion pipeline for periodic deformations |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160809 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160809 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170214 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170621 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20170630 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170825 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180205 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180306 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6304970 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |