JP6577606B2 - 三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラム - Google Patents

三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラム Download PDF

Info

Publication number
JP6577606B2
JP6577606B2 JP2017566976A JP2017566976A JP6577606B2 JP 6577606 B2 JP6577606 B2 JP 6577606B2 JP 2017566976 A JP2017566976 A JP 2017566976A JP 2017566976 A JP2017566976 A JP 2017566976A JP 6577606 B2 JP6577606 B2 JP 6577606B2
Authority
JP
Japan
Prior art keywords
dimensional image
metadata
dimensional
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017566976A
Other languages
English (en)
Other versions
JPWO2017138558A1 (ja
Inventor
渡邊 克也
克也 渡邊
知晃 竹村
知晃 竹村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
PHC Holdings Corp
Original Assignee
PHC Holdings Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by PHC Holdings Corp filed Critical PHC Holdings Corp
Publication of JPWO2017138558A1 publication Critical patent/JPWO2017138558A1/ja
Application granted granted Critical
Publication of JP6577606B2 publication Critical patent/JP6577606B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/02Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
    • A61B6/03Computed tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/32Image data format
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/004Annotating, labelling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2012Colour editing, changing, or manipulating; Use of colour codes

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Graphics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Radiology & Medical Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Animal Behavior & Ethology (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Pathology (AREA)
  • Geometry (AREA)
  • Architecture (AREA)
  • Optics & Photonics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Processing Or Creating Images (AREA)
  • Instructional Devices (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Description

本発明は、三次元画像データから三次元形状モデルデータを生成する三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラムに関する。
従来、この種の三次元画像処理装置としては、例えば特許文献1に記載の立体モデルデータ生成装置が知られている。この立体モデルデータ生成装置では、肝臓領域抽出部および構造物抽出部が、三次元画像データから肝臓領域および肝動脈、肝静脈等の構造物を抽出し、サーフェスデータ生成部が、肝臓領域および構造物のサーフェスデータを生成する。また、パターン付与部が、肝臓領域および構造物の表面の少なくとも1つに凹凸パターンを付与し、データ生成部が、凹凸パターンが付与された肝臓領域および構造物のサーフェスデータを合成して、立体モデルデータを生成する。立体モデル作成装置は、立体モデルデータに基づいて、肝臓の立体モデルを作成する。
また、従来、三次元形状モデルデータに基づき生成された造形物としては、例えば特許文献2に記載の三次元立体模型が知られている。この三次元立体模型は、立体物の外部構造および外部色彩ならびに外部から観察不可能な内部構造および内部色彩を表しており、切り開くことにより内部構造および内部色彩を観察することができる軟質素材でできている。
特許第5814853号公報 特許第3746779号公報
ところで、三次元画像データにはメタデータが付加されていることがある。しかしながら、従来の三次元画像処理装置で、三次元画像データから三次元形状モデルデータを作成する過程でメタデータは失われていた。それゆえ、ユーザが三次元形状モデルデータを作成後メタデータの内容を確認するには、三次元画像データを改めて用いて確認する等、煩わしい作業が必要であった。
そこで、本発明の目的は、より使い勝手の良い三次元形状モデルデータを生成可能な三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラムを提供することである。
本開示の一態様に係る三次元画像処理装置は、三次元画像と、メタデータとを含む三次元画像データを取得する取得部と、前記取得部で取得された三次元画像データを、三次元画像とメタデータとに分離する分離部と、前記分離部で分離されたメタデータが表す情報に対してポリゴンメッシュによるモデリングを行うことによって三次元形状モデルデータに変換し、前記メタデータが表す情報が前記分離部で分離された三次元画像が表す物体表面に配置されるように、前記三次元形状モデルデータを前記三次元画像に合成する合成部と、前記合成部において前記三次元形状モデルデータが合成された三次元画像を、所定のファイル形式を有しかつ該三次元画像が表す物体の三次元形状モデルデータに変換する変換部と、を備えた。
本開示の一態様に係る三次元画像処理方法は、三次元画像と、メタデータとを含む三次元画像データを取得する取得ステップと、前記取得ステップで取得された三次元画像データを、三次元画像とメタデータとに分離する分離ステップと、前記分離ステップで分離されたメタデータが表す情報に対してポリゴンメッシュによるモデリングを行うことによって三次元形状モデルデータに変換し、前記メタデータが表す情報が前記分離ステップで分離された三次元画像が表す物体表面に配置されるように、前記三次元形状モデルデータを前記三次元画像に合成する合成ステップと、前記合成ステップにおいて前記三次元形状モデルデータが合成された三次元画像を、所定のファイル形式を有しかつ該三次元画像が表す物体の三次元形状モデルデータに変換する変換ステップと、を備えた。
本開示の一態様に係る三次元画像処理プログラムは、三次元画像と、メタデータとを含む三次元画像データを取得する取得ステップと、前記取得ステップで取得された三次元画像データを、三次元画像とメタデータとに分離する分離ステップと、前記分離ステップで分離されたメタデータが表す情報に対してポリゴンメッシュによるモデリングを行うことによって三次元形状モデルデータに変換し、前記メタデータが表す情報が前記分離ステップで分離された三次元画像が表す物体表面に配置されるように、前記三次元形状モデルデータを前記三次元画像に合成する合成ステップと、前記合成ステップにおいて前記三次元形状モデルデータが合成された三次元画像を、所定のファイル形式を有しかつ該三次元画像が表す物体の三次元形状モデルデータに変換する変換ステップと、をコンピュータに実行させる三次元画像処理プログラム。
上記各形態によれば、より使い勝手の良い三次元形状モデルデータを作成可能な三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラムを提供することができる。
第一,第二実施形態に係る三次元画像処理装置のハードウェア構成とその周辺構成を示す図である。 入力三次元画像データのデータ形式を例示する図である。 図1の制御部の機能ブロックを示す図である。 図1の三次元画像処理装置の処理手順の前半部分を示すフロー図である。 図4Aの続きの処理手順を示すフロー図である。 三次元形状モデルデータを構成するポリゴンメッシュの各頂点座標と、ポリゴンメッシュの法線ベクトルとを示す図である。 バイナリ形式の三次元形状モデルデータの記述例を示す図である。 メタデータが表す情報(例えば、文字)をポリゴンメッシュに分割した図である。 三次元画像データが表す物体(例えば、肝臓)をポリゴンメッシュに分割した図である。 図1の3D造形装置が出力した三次元造形物を例示する図である。 第一実施形態の変形例に関する三次元造形物を例示する図である。 第二実施形態に係る制御部の機能ブロックを示す図である。 第二実施形態に関する三次元造形物を例示する図である。 第三実施形態に係る三次元画像処理装置のハードウェア構成とその周辺構成を示す図である。
≪1.第一実施形態≫
以下、図1〜図10を参照して、本発明の第一実施形態に係る三次元画像処理装置1を詳説する。
≪1−1.三次元画像処理装置1の構成≫
三次元画像処理装置1は、図1に示すように、第一入力IF部11と、第二入力IF部12と、制御部13と、第一出力IF部14と、第二出力IF部15と、を備えている。なお、IFはインタフェイスの意味である。
第一入力IF部11には、例えば、CT(Computed Tomography)装置またはMRI(Magnetic Resonance Imaging)装置のような医用画像診断装置2が接続可能である。第一入力IF部11は、医用画像診断装置2から出力された三次元画像を、制御部13の制御下で受信してRAM133に格納する。
ここで、三次元画像の一例を詳説する。三次元画像は、奥行き感のある画像を表し、より詳細には、三次元空間上の各位置に割り当てられた値の集まり(即ち、ボリュームデータ)である。この三次元画像には、医用画像診断装置2で取得され、二次元画像を所定方向に積み重ねた画像の集まり(即ち、二次元断層画像)も含まれる。また、本説明では、三次元画像にはメタデータも付加される。メタデータは、三次元画像そのものでは無いが、三次元画像に関連する付加情報である。以下、本説明では、三次元画像と、それに付加されたメタデータとを含むものを、三次元画像データという。
上記三次元画像データは、例えば、DICOM形式を有する。DICOMは、Digital Imaging and Communication in Medicineの略で、医用画像診断装置2で撮影した医用画像のフォーマットを定義した標準規格を含む。DICOM形式の三次元画像データは、図2に示すように、タグで示されたデータ要素の集まりである。タグで表現されるメタデータとしては、患者に関連する情報として患者ID情報または患者の名前、または、患者に対する検査に関連する情報として検査日等、様々なものがある。なお、DICOMでは、三次元画像の画素値もタグを用いて表現される。
再度図1を参照する。第二入力IF部12には、キーボードやマウス等の入力装置3が接続可能である。第二入力IF部12は、入力装置3の出力データを、制御部13の制御下で受信してCPU132に転送する。
制御部13は、少なくとも、プログラムメモリ131と、CPU132と、RAM133とを含む。プログラムメモリ131は、例えば不揮発性メモリであって、三次元画像処理プログラムPを格納する。CPU132は、このプログラムPを、RAM133を作業領域として用いつつ実行し、これによって、図3に示すように、取得部134、判別・分離部135、画像選択部136、3D−VR生成部137、メタデータ選択部138、調整部139、3D−VR生成部1310、合成部1311および変換部1312という各機能ブロックとして動作する。各機能ブロック134〜1312の処理については後述する。
再度図1を参照する。第一出力IF部14には、3D造形装置(所謂3Dプリンタ)4が接続可能となっている。第一出力IF部14は、制御部13で生成された三次元形状モデルデータを3D造形装置4に転送する。3D造形装置4は、受け取った三次元形状モデルデータに基づき三次元造形物6を作成する。
第二出力IF部15には、2Dまたは3Dの高解像度ディスプレイ等の表示装置5が接続可能になっている。第二出力IF部15は、制御部13で生成された各種表示データを表示装置5に転送する。表示装置5は、受け取った表示データに基づき画面表示を行う。
≪1−2.三次元画像処理装置1の処理≫
第一入力IF部11には、医用画像診断装置2から出力され、例えばDICOM形式を有する三次元画像データが入力される。本説明では、三次元画像データは、三次元画像の例示としての二次元断層画像を含むとする。また、二次元断層画像は所定の対象物を表現するが、本説明では、所定の対象物は、少なくとも肝臓を含む所定の人体部位であるとする。三次元画像処理装置1において、CPU132は、まず、取得部134として機能し、第一入力IF部11への入力三次元画像データをRAM133に転送するよう制御し、これによって、処理対象となる三次元画像データを取得する(図4AのステップS001)。
次に、CPU132は、判別・分離部135として機能し、RAM133に格納された三次元画像データがDICOM規格に適合していると判断すると、三次元画像データに含まれる各タグの値等に基づき、そのタグを含むデータ要素を、三次元画像(本説明では二次元断層画像)とメタデータとに分別し分離する(ステップS002)。これにより、RAM133には、医用画像診断装置2で撮影された二次元断層画像と、例えば患者または検査に関連するメタデータとに分けて格納される。
CPU132は、三次元画像(二次元断層画像)画像データに関しては(ステップS003で画像)、下記の通り処理する。ユーザは、入力装置3を操作して、RAM133に格納された二次元断層画像から必要な部分(即ち人体部位)を抽出したり変形したり、不要な部分を削除したりするための各種指示を三次元画像処理装置1に送る。本説明では、ユーザは人体部位である肝臓の二次元断層画像を選択し、他の部分を削除するとする。かかる入力装置3の操作に応答して、三次元画像処理装置1において、CPU132は、画像選択部136として機能し、入力装置3からの指示通りに二次元断層画像を処理して(ステップS004)、三次元形状モデルとすべき部分を確定する(ステップS005)。その後、CPU132は、3D−VR生成部137として機能し、ステップS005で確定した二次元断層画像に対し3D−VR(3Dボリュームレンダリング)を行って、3D−VR画像を生成する(ステップS006)。ここで、3D−VR画像は、表示装置5での表示画像を表しており、予め定められた視方向に沿った画素の濃度値や色情報を積算投影した物体L(図8や図9を参照)を表す。なお、本説明では物体Lは肝臓である。また、3D−VRについては周知であるため、その詳細な説明を控える。
上記に対し、CPU132は、メタデータに関しては(ステップS003でメタデータ)、下記の通り処理する。即ち、CPU132は、メタデータ選択部138として機能して、RAM133に格納されたメタデータから、入力装置3からの指示に従って、必要なメタデータを選択し抽出する(ステップS007)。
次に、CPU132は、調整部139として機能して、ステップS007で選択されたメタデータが表す情報(例えば文字列)を生成する(ステップS008)。その後、ユーザは、入力装置3を操作して、ステップS008で生成した文字列の言語、サイズ、フォント、配置等を三次元画像処理装置1に指示する。CPU132は、入力装置3からの指示通りに、ステップS008で生成した文字列に、ユーザの指示を反映させる(ステップS009)。その後、CPU132は、3D−VR生成部1310として機能して、ステップS008で生成した情報に対し3D−VRを行って3D−VRメタデータを生成する(ステップS010)。3D−VRメタデータもまた、3D−VR画像と同様、表示装置5での表示画像データであって、予め定められた視方向に沿った画素の濃度値や色情報を積算投影した物体(本説明では文字列)を表す。なお、3D−VRの手順については周知であるため、その詳細な説明を控える。
ステップS006,S010が終了すると、CPU132は、合成部1311として機能して、ステップS006で生成した3D−VR画像に、S010で生成した3D−VRメタデータをRAM133上で合成して合成データを生成する(図4BのステップS011)。この合成データは、3D−VRメタデータが表す情報を合成した3D−VR画像を表す。
次に、CPU132は、ステップS011で生成した合成データを第二出力IF部15を介して表示装置5に転送する。これに応じて、表示装置5は、ステップS005で確定した部分(本説明では肝臓)に、ステップS008で生成された情報(本説明では文字列)が合成された画像が表示される(ステップS012)。
次に、CPU132は、ユーザが入力装置3により確定操作を行ったか否かを判断する(ステップS013)。ユーザは、ステップS012の表示画像を参照して、例えば文字列の視認性が悪い等の理由により文字列の修正を開始する。この場合、CPU132は、ユーザが確定操作を行わなかったとして、ステップS009にて、入力装置3からの指示通りに、ステップS008で生成した情報にユーザの指示を反映させる。
それに対し、ステップS013において、CPU132は、ユーザが入力装置3により確定操作を行ったと判断すると、もはや修正が無いとして、ステップS011で生成された合成データを、STL("Standard Triangulated Language)形式の三次元形状モデルデータに変換する(ステップS014)。なお、STL形式は、一般的には、Stereolithography形式と呼ばれる。
以上の手順で生成されたSTL形式の三次元形状モデルデータは、例えば、三次元造形物6を形成するために3D造形装置4に出力される。また、これに限らず、三次元形状モデルデータは、可搬型記憶媒体や遠隔のサーバ装置に保存されても良い。
≪1−3.三次元形状モデルデータおよび三次元造形物6≫
ここで、STL形式の三次元形状モデルデータについて説明する。この三次元形状モデルデータは、例えば微小三角形からなるポリゴンメッシュの集合体で物体を表現している。かかるポリゴンメッシュのそれぞれは、図5に示すように、頂点座標V1,V2,V3と、三角形の法線ベクトルnとで定義される。
また、図6は、バイナリ形式の三次元形状モデルデータの記述例を示している。STL形式にはアスキー形式も用意されているが、アスキー形式ではコード量が非常に大きくなるため、STL形式で三次元形状モデルデータを作成する場合にはバイナリ形式が多用される。バイナリ形式の場合、図6に示すように、三次元形状モデルデータは80バイトの任意の文字列で開始され、その次に、4バイトの整数で三次元形状モデルデータに含まれるポリゴンメッシュの個数が示される。その次に、各ポリゴンメッシュに関し法線ベクトルと頂点座標とが個数分続く。なお、終了コードは特に無く、最後の三角形に関する法線ベクトルと頂点座標が記述されると、三次元形状モデルデータは単純に終了となる。
また、メタデータが表す情報の代表例としてアルファベットの「A」を三次元形状モデルデータに変換する方法は、従来より良く知られている。医用画像診断装置2の二次元断層画像データから三次元データを作成する場合、図7に示すように、三角形のポリゴンメッシュによるモデリングが標準的である。
まず、アルファベット「A」を三次元形状モデルデータに変換する場合、アルファベット「A」が所定の大きさのポリゴンメッシュに分割される。この時、最小のポリゴンメッシュの大きさによるが、ポリゴンメッシュの総数が多いとより精細に文字列の三次元形状を表現でき、逆にポリゴンメッシュの総数が少ないと、粗い三次元形状しか表現できなくなる。本説明では、百個程度のポリゴンメッシュでアルファベット「A」が形成されるとする。なお、図7では、都合上、二個のポリゴンメッシュに参照符号M1が付されている。
また、図8は、三次元画像が表す物体(本説明では肝臓)Lをポリゴンメッシュに分割した図である。ポリゴンメッシュで物体Lを再構成する際、文字列を肝臓に自然に合成するには、物体Lを構成するポリゴンメッシュM2に1〜N個の文字列が入るように、ポリゴンメッシュM2の大きさが自動的に設定されることが好ましい。他にも、物体Lを構成するポリゴンメッシュにおいて互いに隣接するポリゴンメッシュの中に1個の文字が入るように、物体Lを構成するポリゴンメッシュの大きさが自動的に設定されても構わない。なお、図8には、都合上、一個のポリゴンメッシュに参照符号M2が付されている。
図9は、図8に示す物体Lに情報(文字列)Cが合成された三次元形状モデルデータに基づき3D造形装置4が出力した三次元造形物6を示す。
≪1−4.三次元画像処理装置1の効果≫
以上説明した通り、本三次元画像処理装置1によれば、判別・分離部135が三次元画像データを三次元画像とメタデータとに分離する。3D−VR生成部137は、三次元画像に対し3Dボリュームレンダリングを行い、3D−VR生成部1310は、分離されたメタデータに対し3Dボリュームレンダリングを行う。合成部1311は、生成された3D−VR画像上に、3D−VRメタデータを合成して合成データを生成する。変換部1312は、この合成データに基づき、物体Lに情報Cが合成された三次元形状モデルデータを作成する。従って、三次元形状モデルデータに基づく三次元造形物6を3D造形装置4に形成させた場合、図9に示すように、情報C(例えば、「AA」という文字列)が物体Lの表面上に表示される。このように、本三次元画像処理装置1では、入力三次元画像データに付加されているメタデータを破棄せずに活用するため、従来よりも使い勝手のよい三次元形状モデルデータを提供することが可能となる。また、三次元造形物6に形成された情報Cは、手書きやシールよる情報よりもはるかに美しく、視認容易であり、さらに、薬品等で洗浄滅菌しても消えることもない。
また、本実施形態によれば、医用の場合、患者の患部を忠実に再現した三次元造形物6と、メタデータが表す情報Cの例示としての患者のID情報または名前や、検査日などとを自動的に紐付けができる。それゆえ、三次元造形物の完成後に、ユーザが患者のID情報や名前等を三次元造形物に手書きで書き込む等、煩わしい作業を行う必要が無くなる。上記に加え、手術前計画における患者認証を確実に行えるという格別の効果を本三次元画像処理装置1は奏する。よって、本実施形態によれば、従来よりも使い勝手の良い三次元形状モデルデータを生成可能な三次元画像処理装置1を提供することが可能となる。
≪1−5.三次元画像処理装置1の変形例≫
ところで、上記三次元造形物6は外科手術における腫瘍切除のトレーニング等でも使用可能である。ここで、図10上段には、切離前の三次元造形物6が、腫瘍位置により予め定められる切離ラインC−Dと共に示される。また、図10下段には、切離後の三次元造形物6が示され、切離を進めて三次元造形物6を変形させて、物体L内の血管などを露出させた様子が示される。このようなトレーニング用であれば、メタデータが表す情報Cは、三次元造形物6の表面において切離ラインC−Dから最も沿面距離または空間距離があるポリゴンメッシュを中心に合成されることが好ましい。
また、三次元造形物6をトレーニング用途で使用する場合、患者のID情報等を三次元造形物6に合成する必要性は少ない。しかし、患者のID情報等の代わりに、メタデータが表す情報Cの他の例として患者の性別または年齢、担当医の名前等が三次元造形物6に合成されると、その症例に対する知識または手技への理解が深まり有益である。
また、本実施形態によれば、三次元画像処理装置1で、大量製作、追加製作に必要な、例えばシリアルNoや、製造Noを自動的に付与することや、あるいは後述する製造Noのバーコードの刻印を打つこと可能であるため、授業などで大量製作した場合のシリアルNoによる数量管理や、製造Noの目視確認やさらにそのバーコード刻印を読み込むことによる追加発注が容易となり、人件費等のコストも下げることができる。これによって3Dプリンタによって作成されたアウトプットである3D模型を、さらに有効活用することが可能となる。
以上のような合成位置を自動的に導出するために、ユーザは入力装置3を操作して切離ラインC−Dを指示する。CPU132は、図4AのステップS009において、切離ラインC−Dに対し最も沿面距離等があるポリゴンメッシュを探索して、ステップS011において、探索したポリゴンメッシュに情報Cを合成する。
なお、上記では、切離ラインC−Dから最も離れたポリゴンメッシュに情報Cを合成するとして説明したが、これに限らず、最も面積を大きなポリゴンメッシュや、切離後の変形量の小さな1個または複数個のポリゴンメッシュも相対的に切離ラインC−Dから距離があるため、これらに情報Cを合成しても構わない。
また、上記では、切離ラインC−Dから最も離れたポリゴンメッシュに情報Cを合成するとして説明した。しかし、切離ラインC−D以外の予め定められた注目位置を基準として、情報Cの合成位置は定められれば良い。
また、以上の処理で導出した情報Cの合成位置は初期位置として利用可能である。より具体的には、図4BのステップS011では、要するに、物体表面の画像上の初期位置に情報Cが合成された合成データが生成される。その後、情報Cの合成位置は、ユーザが入力装置3を操作することで修正される。
≪2.第二実施形態≫
次に、図11〜図12を参照して、本発明の第二実施形態に係る三次元画像処理装置1Aを詳説する。
≪2−1.三次元画像処理装置1Aの構成・処理≫
三次元画像処理装置1Aのハードウェア構成は、三次元画像処理装置1と同様であるため、図1を援用する。
CPU132は、プログラムメモリ131に格納されたプログラムPを、RAM133を作業領域として用いつつ実行し、これによって、図11に示すように、前述の機能ブロック134〜1312に加え、データ入力部1313およびID管理部1314として動作する。
データ入力部1313には、三次元画像に付加されるメタデータ以外のデータであって、物体Lに合成されるべきデータが入力される。
データ入力部1313への入力データとしては、まず、拡大率(但し、0<拡大率)が例示される。3D造形装置4で三次元造形物6を生成するコストは、三次元造形物6の大きさに支配される。よって、解剖学等の教育用、内視鏡手術のトレーニング、手術前の計画等、必ずしも実寸である必要がなければ、実寸よりも小さな三次元造形物6が作製されることもある。しかし、実寸に対してどのくらいのサイズであるか(即ち拡大率)は重要な情報である。かかる拡大率を三次元造形物6に合成すると、ユーザは拡大率を即座に認識できるので有用性が高い。なお、拡大率は、典型的には、ユーザが入力装置3を操作して入力されて、データ入力部1313を介して調整部139に渡される。
他の入力データとしては部位名、手術(手技)名が例示される。DICOMのタグにも、二次元断層画像データが表す部位名は記述可能となっている。しかし、本実施形態では、画像選択部136により、三次元形状モデルとすべき部分を選択可能となっているため、必ずしも、三次元形状モデルデータが表す物体Lの部位名がDICOMのタグで記述されているとは限らない。例えば、医用画像診断装置2から本三次元画像処理装置1Aに転送されてきた時点では、二次元断層画像は右肺、左肺の両方を表しており、DICOMのタグにおいて部位名は“肺”(Lungs)と記述されていたとする。しかし、患者が左肺に肺気腫を患っている場合、三次元形状モデルデータとすべきは左肺だけで十分である。このような場合、ユーザは、入力装置3を操作する等して、変換部1312での変換直前に、部位名“左肺”(Left Lung)と入力する。このようにして入力された部位名がデータ入力部1313を介して調整部139に渡される。
他の入力データとしては、三次元造形物6の作成者、作成日または作成ソフトウェア名である、3D造形装置4および造形に使用する材料により、三次元造形物6の品質には当然差異が生じる。また、二次元断層画像から3D−VR画像を生成する際にも、CPU等の性能により画質等に差異が生じる。よって、同じ二次元断層画像を使用しても、様々な要因で同じ品質の三次元造形物6が生成されない可能性もある。従って、かかる要因を三次元造形物6に表示することは、医師や患者の立場からは望ましいといえる。作成者、作成日または作成ソフトウェア名は、前述の拡大率と同様に、ユーザが入力装置3を操作することで入力可能である。しかし、これに限らず、三次元画像処理装置1Aの内部に保持するユーザ登録情報やソフトウェアライセンス情報が、変換部1312がSTL形式に変換する前に、制御部13のデータ入力部1313に転送されても構わない。これにより、ユーザの手入力の煩雑さをなくすことができる。
他の入力データとしては、3D造形装置4に関する情報である。この情報は、3D造形装置4の製造者、機器名、機器番号等を含む。3D造形装置4の情報を取得するには、ID管理部1314が、3D造形装置4にコマンドを送って、3D造形装置4から情報を取得して、調整部139に渡す。
調整部139は、データ入力部1313およびID管理部1314を介して受け取った各外部データをメタデータと同様に扱う。即ち、調整部139は、前述のステップS008と同様にして、受け取った外部データが表す情報を生成する。
≪2−2.三次元画像処理装置1Aの効果≫
第二実施形態によれば、多種多様な情報を三次元造形物6に表示できるため、より使い勝手の良い三次元形状モデルデータを生成可能な三次元画像処理装置1Aを提供することが可能となる。
≪2−3.三次元画像処理装置1Aの変形例≫
なお、第二実施形態によれば、三次元造形物6に表示する情報が多くなることが想定される。この場合、これら情報から生成された一次元コード(所謂バーコード)または二次元コード(例えば、JISX0510で規格化された二次元コード)が三次元造形物6に表示されても構わない。
また、三次元造形物6に表示された情報の意味を人が理解できることが好ましい場合もあれば、そうでない場合もある。かかる状況下では、図12に示すように、人が理解しても良い情報に関しては情報(文字)Cを用い、そうでない情報は上記二次元コードQRを用いて三次元造形物6に表示することが好ましい。
≪3.第三実施形態≫
次に、図13を参照して、本発明の第三実施形態に係る三次元画像処理装置1Bを詳説する。
≪3−1.三次元画像処理装置1Bの構成・処理≫
三次元画像処理装置1Bは、図13に示すように、三次元画像処理装置1Aと比較して、遠隔のサーバ装置7とデータの送受信を行う入出力IF部16をさらに備える点で相違する。それ以外に、両三次元画像処理装置1A,1Bの間には相違点は無い。それゆえ、図13において、図1に示す構成に相当するものには同一参照符号を付け、それぞれの説明を控える。
入出力IF部16は、第一実施形態や第二実施形態で説明した手法で制御部13により生成された三次元形状モデルデータを遠隔のサーバ装置7に格納する。
サーバ装置7は、例えば、内部に格納された三次元形状モデルデータを販売する業者により管理され、パーソナルコンピュータ等、様々な端末装置8がアクセス可能となっている。例えば、ある症例検討会に参加した医師が、図12に示すような三次元造形物6を同症例検討会等で使用した後、自病院でも、同三次元造形物6を使いたくなったとする。ここで、三次元造形物6の二次元コードQRには、サーバ装置7のネットワーク上のアドレス(即ち、ロケータ)が記述されているとする。この仮定下で、医師は、端末装置8を操作して、サーバ装置7のアドレスを取得してアクセスして、三次元造形物6を発注することが出来る。
≪3−2.三次元画像処理装置1Bの効果≫
以上の通り、本三次元画像処理装置1Bによれば、自身が生成した三次元形状モデルデータを遠隔のサーバ装置7に格納できるので、より幅広い用途に三次元形状モデルデータを利用可能となる。
≪3−3.三次元画像処理装置1Bの付記≫
なお、サーバ装置7にも三次元画像処理装置1Bが備わっている場合、模倣品を防止するために、三次元造形物6に情報Cとして、発注数に応じたシリアル番号を表示しても良い。
本出願は、日本国特許庁に2016年2月9日付で提出した特許出願2016−022758に基づく優先権を主張する。特許出願2016−022758の内容は、参照により本出願に取り込まれる。
本発明に係る三次元画像処理装置は、より使い勝手の良い三次元形状モデルデータを作成可能であり、医療用等に好適である。
1,1A,1B 三次元画像処理装置
134 取得部
135 判別・分離部
136 画像選択部
138 メタデータ選択部
1311 合成部
1312 変換部

Claims (12)

  1. 三次元画像と、メタデータとを含む三次元画像データを取得する取得部と、
    前記取得部で取得された三次元画像データを、三次元画像とメタデータとに分離する分離部と、
    前記分離部で分離されたメタデータが表す情報に対してポリゴンメッシュによるモデリングを行うことによって三次元形状モデルデータに変換し、前記メタデータが表す情報が前記分離部で分離された三次元画像が表す物体表面に配置されるように、前記三次元形状モデルデータを前記三次元画像に合成する合成部と、
    前記合成部において前記三次元形状モデルデータが合成された三次元画像を、所定のファイル形式を有しかつ該三次元画像が表す物体の三次元形状モデルデータに変換する変換部と、を備えた三次元画像処理装置。
  2. 前記取得部は、所定の医用画像診断装置で生成された三次元画像データであって、メタデータを含む三次元画像データを取得する、請求項1に記載の三次元画像処理装置。
  3. 前記分離部で分離されたメタデータから所定のメタデータを選択するメタデータ選択部をさらに備え、
    前記合成部は、前記メタデータ選択部で選択された所定のメタデータが表す情報を、前記分離部で分離された三次元画像に合成する、請求項1または2に記載の三次元画像処理装置。
  4. 前記分離部で分離された三次元画像から、所定の三次元画像を選択する画像選択部をさらに備え、
    前記合成部は、前記画像選択部で選択された所定の三次元画像に、前記分離部で分離されたメタデータが表す情報を合成する、請求項1〜3のいずれかに記載の三次元画像処理装置。
  5. 前記画像選択部は、前記分離部で分離された三次元画像から、所定の人体部位を表す三次元画像を選択する、請求項4に記載の三次元画像処理装置。
  6. 前記三次元画像および前記メタデータはDICOM(Digital Imaging and Communication in Medicine)に準拠している、請求項1〜5のいずれかに記載の三次元画像処理装置。
  7. 前記メタデータは患者または検査に関連する情報を表す、請求項1〜6のいずれかに記載の三次元画像処理装置。
  8. 前記合成部は、前記分離部で分離されたメタデータが表す情報を、前記分離部で分離された三次元画像が表す物体表面の画像における所定位置に配置されるよう、該メタデータが表す情報を該三次元画像に合成し、
    前記所定位置は、前記物体表面の画像における注目位置から所定距離離れた位置である、請求項1〜7のいずれかに記載の三次元画像処理装置。
  9. 前記メタデータは文字列情報を表す、請求項1〜8のいずれかに記載の三次元画像処理装置。
  10. 前記合成部はさらに、前記分離部で分離されたメタデータが表す情報以外の情報を、前記分離部で分離された三次元画像に合成する、請求項1〜9のいずれかに記載の三次元画像処理装置。
  11. 三次元画像と、メタデータとを含む三次元画像データを取得する取得ステップと、
    前記取得ステップで取得された三次元画像データを、三次元画像とメタデータとに分離する分離ステップと、
    前記分離ステップで分離されたメタデータが表す情報に対してポリゴンメッシュによるモデリングを行うことによって三次元形状モデルデータに変換し、前記メタデータが表す情報が前記分離ステップで分離された三次元画像が表す物体表面に配置されるように、前記三次元形状モデルデータを前記三次元画像に合成する合成ステップと、
    前記合成ステップにおいて前記三次元形状モデルデータが合成された三次元画像を、所定のファイル形式を有しかつ該三次元画像が表す物体の三次元形状モデルデータに変換する変換ステップと、を備えた三次元画像処理方法。
  12. 三次元画像と、メタデータとを含む三次元画像データを取得する取得ステップと、
    前記取得ステップで取得された三次元画像データを、三次元画像とメタデータとに分離する分離ステップと、
    前記分離ステップで分離されたメタデータが表す情報に対してポリゴンメッシュによるモデリングを行うことによって三次元形状モデルデータに変換し、前記メタデータが表す情報が前記分離ステップで分離された三次元画像が表す物体表面に配置されるように、前記三次元形状モデルデータを前記三次元画像に合成する合成ステップと、
    前記合成ステップにおいて前記三次元形状モデルデータが合成された三次元画像を、所定のファイル形式を有しかつ該三次元画像が表す物体の三次元形状モデルデータに変換する変換ステップと、をコンピュータに実行させる三次元画像処理プログラム。
JP2017566976A 2016-02-09 2017-02-08 三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラム Active JP6577606B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016022758 2016-02-09
JP2016022758 2016-02-09
PCT/JP2017/004559 WO2017138558A1 (ja) 2016-02-09 2017-02-08 三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラム

Publications (2)

Publication Number Publication Date
JPWO2017138558A1 JPWO2017138558A1 (ja) 2018-11-08
JP6577606B2 true JP6577606B2 (ja) 2019-09-18

Family

ID=59563152

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017566976A Active JP6577606B2 (ja) 2016-02-09 2017-02-08 三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラム

Country Status (4)

Country Link
US (1) US20180350141A1 (ja)
EP (1) EP3401880A4 (ja)
JP (1) JP6577606B2 (ja)
WO (1) WO2017138558A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180357819A1 (en) * 2017-06-13 2018-12-13 Fotonation Limited Method for generating a set of annotated images
JPWO2022168925A1 (ja) * 2021-02-04 2022-08-11

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002245173A (ja) * 2001-02-16 2002-08-30 Hitachi Medical Corp 医用画像管理方法、この方法を実現するためのプログラム及び医用画像管理システム
US20110222753A1 (en) * 2010-03-11 2011-09-15 Virtual Radiologic Corporation Adjusting Radiological Images
EP2692509A4 (en) * 2011-03-31 2014-10-22 Nat Univ Corp Univ Kobe METHOD FOR MANUFACTURING THREE-DIMENSIONAL MOLDED MODEL AND SUPPORT TOOL FOR MEDICAL TREATMENT, MEDICAL TRAINING, RESEARCH AND TEACHING
US20150062123A1 (en) * 2013-08-30 2015-03-05 Ngrain (Canada) Corporation Augmented reality (ar) annotation computer system and computer-readable medium and method for creating an annotated 3d graphics model
KR101545511B1 (ko) * 2014-01-20 2015-08-19 삼성전자주식회사 의료 영상 재생 방법, 의료 영상 재생 장치, 및 컴퓨터 판독가능 기록매체
US9298884B1 (en) * 2014-12-17 2016-03-29 Vitaax Llc Remote instruction and monitoring of health care
US9959623B2 (en) * 2015-03-09 2018-05-01 Here Global B.V. Display of an annotation representation

Also Published As

Publication number Publication date
EP3401880A4 (en) 2019-04-17
EP3401880A1 (en) 2018-11-14
US20180350141A1 (en) 2018-12-06
JPWO2017138558A1 (ja) 2018-11-08
WO2017138558A1 (ja) 2017-08-17

Similar Documents

Publication Publication Date Title
CN105608728B (zh) 语义医学图像用以3d打印解剖学结构
US10360730B2 (en) Augmented reality providing system and method, information processing device, and program
JP6670595B2 (ja) 医用画像処理装置
US12073528B2 (en) System and method for segmentation and visualization of medical image data
JP2017051591A (ja) 情報処理装置及びその方法、情報処理システム、コンピュータプログラム
JP5800039B2 (ja) 生体データモデル作成方法及びその装置
US20180064409A1 (en) Simultaneously displaying medical images
US11810659B2 (en) Medical image processing apparatus, program installable into medical image processing apparatus, and medical image processing method
JP6577606B2 (ja) 三次元画像処理装置、三次元画像処理方法および三次元画像処理プログラム
US20090175519A1 (en) Image processing apparatus, image processing method, and computer program storage medium
JP2002306480A (ja) 画像処理装置及びその方法
CN105916435A (zh) 用于针对乳房x线照相术图像的序列生成预缩放图像的方法和系统
KR101663129B1 (ko) 어깨 회전근개의 3차원 자동 모델링 방법, 이를 수행하는 3차원 자동 모델링 서버, 및 이를 저장하는 기록매체
WO2020173054A1 (zh) Vrds 4d医学影像处理方法及产品
JP2015036084A (ja) 画像処理システム
JP6213516B2 (ja) 医用画像管理システム、その制御方法、及びプログラム、並びに情報処理装置、その制御方法、及びプログラム
US10846907B2 (en) Medical image processing system, medical image processing apparatus, control method thereof, and recording medium
JP6381998B2 (ja) 医用画像処理装置及び医用画像処理方法
US20110242096A1 (en) Anatomy diagram generation method and apparatus, and medium storing program
JP2005137730A (ja) スキャンプロトコル作成方法、スキャンプロトコル作成装置および医用画像撮影装置
JP6243948B2 (ja) 生体データモデルの作成方法及び生体データモデルのデータ格納装置
Mamo et al. Advancing Medical Imaging Through Generative Adversarial Networks: A Comprehensive Review and Future Prospects
Selvamanikkam et al. High-Resolution Stereoscopic Visualization of Pediatric Echocardiography Data on Microsoft HoloLens 2
JP2004185204A (ja) ボリュームレンダリング画像処理方法
CN116030200B (zh) 一种基于视觉融合的场景重构方法与装置

Legal Events

Date Code Title Description
A529 Written submission of copy of amendment under article 34 pct

Free format text: JAPANESE INTERMEDIATE CODE: A5211

Effective date: 20180606

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180606

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190704

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190806

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190822

R150 Certificate of patent or registration of utility model

Ref document number: 6577606

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250