JP6914524B2 - 部品形状抽出システム、部品形状抽出方法、コンピュータプログラム、及びユーザインタフェース装置 - Google Patents

部品形状抽出システム、部品形状抽出方法、コンピュータプログラム、及びユーザインタフェース装置 Download PDF

Info

Publication number
JP6914524B2
JP6914524B2 JP2017163842A JP2017163842A JP6914524B2 JP 6914524 B2 JP6914524 B2 JP 6914524B2 JP 2017163842 A JP2017163842 A JP 2017163842A JP 2017163842 A JP2017163842 A JP 2017163842A JP 6914524 B2 JP6914524 B2 JP 6914524B2
Authority
JP
Japan
Prior art keywords
image
cells
segmentation
cell
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017163842A
Other languages
English (en)
Other versions
JP2018040790A (ja
Inventor
豊 大竹
豊 大竹
超慧 長井
超慧 長井
翔 渡邉
翔 渡邉
宏正 鈴木
宏正 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Tokyo NUC
Original Assignee
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Tokyo NUC filed Critical University of Tokyo NUC
Publication of JP2018040790A publication Critical patent/JP2018040790A/ja
Application granted granted Critical
Publication of JP6914524B2 publication Critical patent/JP6914524B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Analysing Materials By The Use Of Radiation (AREA)

Description

本発明は、実物体についての放射線投影像に基づいて、実物体を構成する部品の形状を抽出する技術に関するものである。
X線CT(Computed Tomography)は、被写体(対象物)に多方向からX線を照射し、得られたX線強度分布(X線投影像)に基づいて、被写体内部のCT画像を再構成することができる技術である。ここで、この明細書において投影像とは、特に言及しない限り、いわゆる透過像を含む意味である。このようなX線CTは、従来から、医療用途において広く用いられているが、近年では、産業用にも用いられるようになった。X線CTを用いると、外部からは見えない形状(例えば被写体内部の空孔の形状)を特定することができるので、例えば、複雑な形状を持つ製品の寸法検査やリバースエンジニアリングにおいて有用である(下記特許文献1参照)。
ところで、X線CTにおけるCT画像の再構成においては、例えば3次元CTを前提にすると、空間を埋めるボクセルにCT値を割り当てることで、再構成を行っている。2次元CTの場合は、ボクセルの代わりにピクセルにCT値が割り当てられる。
ここで、被写体として、複数部品の組み合わせにより構成されるアセンブリ品(例えば自動車用エンジン)を用い、アセンブリ品のCT画像を用いて、部品ごとの領域に分割すること(いわゆるセグメンテーション)を考える。セグメンテーションを自動的に行う手法として、CT値の等値面を用いる方法が考えられる。しかしながら、この方法では、適切にセグメンテーションを行うための閾値の設定が難しく、特に複雑な形状の場合は、非常に困難となる。また、CT画像には、様々な要因によるアーチファクトが存在しており、この場合にも、自動的なセグメンテーションは困難となる。
そこで、従来は、ボクセル単位でのセグメンテーション指定をオペレータが行う手法が主流となっている。しかしながら、この作業は非常に煩雑であり、長期間を要することが通常である。
国際公開WO2013/005455公報
本発明は、前記の状況に鑑みてなされたものである。本発明は、対象物を構成する部品のセグメンテーションを効率よく行うことができる技術を提供することを目的としている。
前記した課題を解決する手段は、以下の項目のように記載できる。
(項目1)
画像構成単位に割り当てられたCT値を有するCT画像におけるセグメンテーションを行うための部品形状抽出システムであって、
CT画像分割部と、階層構造生成部と、階層選択受付部と、セグメンテーション受付部とを備えており、
前記CT画像分割部は、前記CT値を用いて前記CT画像を複数のセルに分割する構成となっており、
階層構造生成部は、前記複数のセルを融合して新しいセルを生成し、融合段階に応じた階層構造を生成する構成となっており、
前記階層選択受付部は、ユーザからの階層の選択を受け付ける構成となっており、
前記セグメンテーション受付部は、選択された階層におけるいずれかの前記セルに対するセグメンテーションの指令を受け付ける構成となっている
部品形状抽出システム。
(項目2)
前記CT画像はCTボリュームであり、前記画像構成単位はボクセルである
項目1に記載の部品形状抽出システム。
(項目3)
前記CT画像分割部は、前記CT値の勾配のノルムをモース関数値とするモース複体の生成により、前記CT画像の分割を行う構成となっている
項目1又は2に記載の部品形状抽出システム。
(項目4)
前記モース関数値として、近傍の画像構成単位におけるモース関数値の偏差値が用いられている
項目3に記載の部品形状抽出システム。
(項目5)
前記モース関数値は、前記セグメンテーションにおける境界の方向に沿って平滑化されている
項目3又は4に記載の部品形状抽出システム。
(項目6)
画像構成単位に割り当てられたCT値を有するCT画像におけるセグメンテーションを行うための部品形状抽出方法であって、
前記CT値を用いて前記CT画像を複数のセルに分割するステップと、
前記複数のセルを融合して新しいセルを生成し、融合段階に応じた階層構造を生成するステップと、
ユーザからの階層の選択を受け付けるステップと、
選択された前記階層におけるいずれかの前記セルに対するセグメンテーションの指令を受け付けるステップと
を備える部品形状抽出方法。
(項目7)
項目6記載の部品形状抽出方法をコンピュータにより実行するためのコンピュータプログラム。
(項目8)
画像構成単位に割り当てられたCT値を有するCT画像におけるセグメンテーションを行うためのユーザインタフェース装置であって、
階層選択受付部と、セグメンテーション受付部とを備えており、
前記CT画像は、複数のセルに分割されており、かつ、前記CT画像は、前記複数のセルの融合段階に応じた階層構造を備えており、
前記階層選択受付部は、ユーザからの階層の選択を受け付ける構成となっており、
前記セグメンテーション受付部は、選択された階層におけるいずれかの前記セルに対するセグメンテーションの指令を受け付ける構成となっている
ユーザインタフェース装置。
(項目9)
さらに表示部を備えており、
前記表示部は、前記セグメンテーションの結果として得られた部品ごとに識別された画像を表示する構成となっている
項目8に記載のユーザインタフェース装置。
本発明によれば、対象物を構成する部品のセグメンテーションを効率よく行うことが可能になる。
本発明の一実施形態における部品形状抽出システムの概略的な構成を示すブロック図である。 本発明の一実施形態における部品形状抽出方法の概略的な手順を示すフローチャートである。 本発明の一実施形態におけるモース複体の概念を説明するための説明図であって、グレイスケールの濃淡で示される曲面は、xy平面上に定義されたモース関数の値をz方向にプロットした結果を表す。この図において、四角が極小点、丸が極大点、×印が鞍点を表す。 CTボリュームの断面に対して、CT値の勾配のノルムをモース関数としてセル分割した結果(左上)とその拡大図(左下)、モース関数値を曲面表示した上にセル境界を重ねて表示したもの(右)である。 パーシステンスを用いたセルの統合の様子を説明するための説明図である。 パーシステンスを用いたセルの統合の様子を説明するための説明図である。 セル分割の例を模式的に説明するための説明図である。 対応するセルを統合する過程およびそのエンコードを示す説明図である。 セル数の指定による簡略化レベルの変更手法を説明するための説明図である。 セル分割の詳細度変更により部品を決定する例を説明するための説明図である。 実CTボリュームの断面(上)とその拡大(下)におけるセル分割簡略化の様子を示す説明図である。 セグメンテーション用GUIにおける画面表示を説明するための説明図である。 セグメンテーションを操作する手順を説明するための説明図である。 スライダを用いてセル分割の詳細度を調整する場合の画面表示例を示す説明図である。 解析的手法によるCT画像の断面(左側)と、逐次近似法によるCT画像の断面(右側)を示す説明図である。 CTアーチファクトにより適切な詳細レベルが存在しないCTボリュームの例を示す説明図であって、左側の図は、CTボリュームの一断面、中央の図は、左側の断面図におけるCT値の勾配ノルムのグレイスケール表示、右側の図は、計測物のCTボリュームのボリュームレンダリングを示す。 コスト付きパーシステンスによるセルの統合を説明するための説明図である。左側の図は、異素材(空気とアルミ)のセルi,jの統合を示し、右側の図は、同素材(アルミとアルミ)のセルi,kの統合を示す。 左側の図は、CTボリュームの一断面を示し、左から2番目の図は、そのCT値のノルムのグレイスケール画像を示し、右側の二つの図は、その拡大図を示す。 モース関数の正規化の様子を説明するための説明図であって、左側の図は、正規化前のモース関数値のグレイスケール画像を示し、右側の図は、正規化後のモース関数値のグレイスケール画像を示す。なお、これらの図においては、値の変化が見やすいよう、コントラストが個別に調整されている。 モース関数の平滑化の効果を示す説明図であって、左側の図は、正規化したモース関数値のグレイスケール表示を示し、右側の図は、正規化および平滑化したモース関数値のグレイスケール表示を示す。
以下、添付図面を参照しながら、本発明の実施形態に係る部品形状抽出システム(以下単に「システム」と称することがある)について説明する。本実施形態のシステムは、画像構成単位としてのボクセルに割り当てられたCT値を有するCT画像におけるセグメンテーションを行うためのものである。
(本実施形態の構成)
本実施形態のシステム(図1参照)は、CT画像分割部1と、階層構造生成部2と、階層選択受付部3と、セグメンテーション受付部4とを基本的な構成要素として備えている。さらに、このシステムは、CT画像取得部5と、表面メッシュ生成部6と、記憶部7と、表示部8とを追加的に備えている。
CT画像取得部5は、CT画像を取得するための機能要素である。CT画像とは、二次元CT画像と三次元CT画像(いわゆるCTボリューム)とを含む概念であるが、この実施形態の説明においては、CTボリュームを前提として説明する。したがって、本実施形態のCT画像取得部5は、空間を埋めるボクセルにCT値が割り当てられることで構成されるCT画像(CTボリューム)を生成するようになっている。このようなCT画像取得部5としては、従来から使用されている各種の装置を用いることができるので、これ以上詳しい説明は省略する。
CT画像分割部1は、CT画像におけるCT値を用いてCT画像を複数のセルに分割する構成となっている。本実施形態のCT画像分割部1は、CT値の勾配のノルムをモース関数値とするモース複体の生成により、CT画像の分割を行う構成となっている。
階層構造生成部2は、複数のセルを融合して新しいセルを生成し、融合段階に応じた階層構造を生成する構成となっている。
階層選択受付部3は、ユーザからの階層の選択を受け付ける構成となっている。
セグメンテーション受付部4は、選択された階層におけるいずれかのセルに対するセグメンテーションの指令を受け付ける構成となっている。
表面メッシュ生成部6は、セグメンテーションごとの表面メッシュを生成する構成となっている。
記憶部7は、生成された階層構造を記憶し、ユーザからの指定に対応して、特定階層のセル集合の情報を階層選択受付部3、セグメンテーション受付部4、及び表示部8のいずれか又は全てに送ることができるようになっている。
表示部8は、セグメンテーションの結果として得られた部品ごとに識別された画像を表示する構成となっている(後述の図12参照)。
前記した各構成要素の詳細は、以下における部品形状抽出方法の説明において記載する。
(本実施形態における動作)
以下、図2をさらに参照して、本実施形態における部品形状抽出方法を説明する。
(図2のステップSA−1)
まず、CT画像取得部5により、CTボリュームを取得する。この取得の手法は従来と同様でよいので、詳しい説明は省略する。CTボリュームにおいては、ボクセルにCT値が割り当てられているので、任意断面におけるCT断面像を生成して、ユーザに呈示することができる。
(図2のステップSA−2)
次に、CT画像分割部1により、CT画像(本例ではCTボリューム)を分割して、複数のセル(複数セルを総称してセル集合と呼ぶことがある)を生成する。ここで、セルとは、複数ボクセルの集合である。以下、セルの生成手法の詳細を説明する。
(モース複体)
曲面上で定義されたスカラー関数fを考える。これは曲面上の各点に対し実数を与えるということである。図3に、2次元平面(x、y)を定義域とするスカラー関数fの例を示す。グレイスケールで表された面は、関数値を平面に垂直な方向zにプロットした結果である。関数値の1階微分が全て0になる点を臨界点といい、臨界点は、極大点、極小点、及び鞍点のいずれかである。図3では、四角が極小点、丸が極大点、×印が鞍点を表す。
臨界点における関数fのHesse行列の行列式が0のとき、その臨界点を退化した臨界点と呼び、それ以外の臨界点を非退化な臨界点と呼ぶ。
関数fの臨界点がすべて非退化なとき、その関数をモース関数と呼ぶ(ただし後述の通り、本実施形態ではこの概念を拡張している)。
この関数値のプロット曲面の形状を調べる。曲面上の各点から、最急降下方向に進む経路を辿って極小点に到達するまで進む。同一の極小点に至る最急降下経路に属する曲面上の点の集合のことを、その極小点の不安定多様体という。曲面上の各極小点に対する不安定多様体は互いに重なりがなく、また不安定多様体の境界上の点を除き、曲面上のいずれの点もただ一つの不安定多様体に属す。したがって不安定多様体による曲面の分割は複体となる。図3においては、曲線が不安定多様体の境界を表しており、すなわちこれが曲面の分割となっている。
(モース複体によるセル分割)
本実施形態では、システムでは境界をエッジ点の集合とする。より詳しくは、本実施形態におけるエッジ点とはCT値Iの勾配方向において勾配ベクトルのノルムが最大となる点であり、以下で定義される。
Figure 0006914524
したがって本システムではCT値の勾配のノルム
Figure 0006914524
をモース関数とする。簡単のため、以下、不安定多様体をセル、不安定多様体の複体をモース複体あるいはセル分割と呼ぶことにする。セルの境界すなわち多様体の境界が部品の境界候補の役割を果たす。図4にセル分割の結果を示す。ここでは、モース関数値を曲面表示したものにセル境界を重ねて表示した。図4の左下及び右側の図における破線は、部品の境界であるセル境界を示す。
また本実施形態では、一般の数学的な定義を拡張して、モース関数の臨界点の退化を許す。CTボリュームにおいて、退化した臨界点はCT値が変化しない領域中の点に該当するが、こういった領域は同一素材からなる部品中に一般的に現れるものである。そのため、退化した臨界点からなる連結領域は、単一の臨界点と同一視し、同じセルに属するものとして扱う。
(図2のステップSA−3)
ついで、生成されたセル集合の融合により、階層構造生成部2が階層構造を生成する。この手法を以下に詳しく説明する。
(セルの統合による階層構造の構築)
図4のセル分割には小さなセルが多数あり、1つの部品を構成する全セルを選択するには非常に手間がかかることが予想される。そこで同一部品を表現する微細なセルは統合し、部品抽出の際のセル選択の手数を減らすことを考える。
本発明者らの知見によれば、同一部品に属する隣接する2セルが共有する境界の尾根(境界におけるモース関数値)は、他の境界よりも相対的に低い。したがって、共有する境界の尾根が低い隣接する2セルを順次統合していくことで、よりセル数の少ないモース複体を構成することができ、セル数の異なる(つまり詳細度の異なる)一連のモース複体すなわち階層的モース複体を得ることができる。
図5及び図6は、この統合の様子を1次元の模式図で示したものである。2つの隣接するセルci,cj(ここでi,jは任意の自然数)の間の尾根の高さを表す指標として、パーシステンスという概念を導入し、パーシステンスPを以下のように定義する。
Figure 0006914524
ここでSi,jは、セルci,cj間の鞍点、mi,mjは、ci,cjのモース関数
Figure 0006914524
の極小点を表す。ある尾根のパーシステンスは、尾根を形成する複数の谷底から測った尾根の高さのうち最小のものである。
統合の準備として、まず全ての隣接セルの組み合わせにおいてパーシステンスを計算しておく。統合はパーシステンスの小さい順、すなわち尾根が低い順に行うこととする。部品境界は関数値プロット曲面において高い尾根で表現されていることが期待されるため、パーシステンスが小さい順に統合を行うことは、部品境界らしくない境界候補から順に消していくことを意味する。
セルの統合と更新を、図5の1次元の複体の例を用いて説明する。図5における縦線(破線)は、セル境界を模式的に示す。図5では、最小のパーシステンスをもつ尾根は、図中に付記したように、真ん中の尾根である。図中における左右のセルを統合するとは、この尾根を切り崩して両側のセルを統合することである。すると、左にあったセルの左の尾根と右にあったセルの右の尾根とで囲まれる大きなセルが新しく生じる(図6における「統合されたセル」を参照)。なお、図6において統合により変更されたモース関数値を二点鎖線で示している。
新しいセルの左の尾根と右の尾根は谷底からの高さが変わった可能性があるため、パーシステンスを再計算する必要がある。この図では、右の尾根におけるパーシステンスは変化しないが、左の尾根では更新が起こる。左の尾根は、右にあった浅い谷が非常に深い谷に取って代わった今、左の谷底から測った高さを新しいパーシステンスとすることになる。更新後、パーシステンスを再度ソートし、その中で最小のものを選んで両側のセルを統合する。この作業を、最終的にセル数が1つだけの分割が得られるまで繰り返す。
図7に、あるセル分割の例を示し、図8に、その統合の様子の模式図を示す。図8におけるノードは、初期分割のセルおよび統合過程におけるセルを、辺は各段階において存在するセルを表す。階層構造の最下段が初期分割(最も細かい分割)であり、上に行くにつれてセルが一つひとつ統合され消えてゆく。結果として階層構造の統合グラフは下にいくほど広がる木構造となる。統合の過程は、統合の順位と統合先のセルのIDの組でコード化して保存・再現可能であり、木構造の下に表で示してある。事前にセル分割の階層構造を計算しコード化しておくことで、次の段階でGUIを用いてセグメンテーションを行う際に、リアルタイムでインタラクティブなセグメンテーションが可能になる。セグメンテーションにより得られた階層構造の情報は、例えば記憶部7に格納しておくことができる。
(図2のステップSA−4)
ついで、ユーザは、階層選択受付部3を介して、階層構造を選択する。この階層構造の選択手法の詳細を、以下に説明する。
ユーザは、例えばセルの数を用いて詳細度を指定することができる。図9は、図8におけるセル分割において、事前に計算しておいたコード(例えば記憶部7に格納されていたコード)を用いてセル数を変更するときの様子である。説明のため、現在の詳細度のレベルを表す一点鎖線をグラフに重ねて描いてある。この一点鎖線と交差する辺が、そのとき分割に残っているセルを表す。この図の例では、現在の詳細度はセル数4である。コードを用いて、初期状態からセル数4のセル分割を得る手法を説明する。図9下部のコードの「順番」を見ると、統合順序1のセルはセル0であることがわかる。したがってセル0が最初に統合され消える。コードの「統合先」のセル0に対応する箇所を見ると、統合先はセル1であることがわかる。すなわちセル0はセル1に統合され、初期状態においてセル0に属するボクセルは統合後のセル分割ではセル1に属するボクセルとして扱われる。次は統合順序2のセルであるセル5が統合先であるセル4に統合される。次いで統合順序3のセル1(セル0が統合済みであることに注意)が統合先のセル2に統合される。ところで、初期状態(最もセル数が多い分割)のセル数(7)―統合回数(3)=残りセル数(4)が成り立つ。3回セルを統合した時点で、残りセル数(4)=指定セル数(4)となったので統合がストップする。
上記の統合例を再度図9を用いて模式的に説明する。一点鎖線と交差した辺を見ると、セル2,3,4,6が生き残っていることがわかる。このとき、全セル数(7)−指定セル数(4)=3以下の統合順位をもつセル0,1,5が統合され簡略化されている。セル0,1,5の統合先は、コードを用いて各セルの統合先を辿って行きついた統合されないセルとなる。具体的にはセル0、1、5は、セル0→セル1→セル2、セル1→セル2、セル5→セル4のように統合操作を受ける。初期状態におけるセル0、1、5に属するボクセルは、統合終了後はセル2または4に属することになる。図9の模式図によれば、セル2、4に対応する辺はいずれも一点鎖線と交差しており、統合終了後にも生き残ったセルであることがわかる。
図10は、セル数を変更して、アルミでできた連結した一部品または一部品の一部を1つのセル(ラベル2)で表している状態を示している。なお、本実施形態において、部品とは、同じ材質で構成された一体の部品の一部である場合を含む。図10における水平方向の一点鎖線は、アルミの部品に単一のラベル2を与えることができる詳細レベルを示している。分割レベルをより詳細にする(つまり水平方向の一点鎖線の位置を下げて、より多くのセルを表示する)と、アルミはラベル2のセルだけでなく、他のラベル(例えばラベル0やラベル1)を持つ、より多くのセルで表現されることになる。このとき、同一部品の抽出にはこれらすべてを選択する必要があり、作業量が増えてしまうことがわかる。
図11には実際のCT画像の断面におけるセル分割の統合の様子を示す。また、図12の左側に示すように、選択された詳細度のセルは、そのセルを含むCT断面像に重畳されて、表示部8によりユーザに呈示される(後述)。図13のステップ1は、図2のステップSA−4に対応する。
図2のステップSA−4では、所望の境界に線が現れかつなるべくセル数が少なくなるように詳細度を調節する。本実施形態では、詳細度を示すスライダを表示部8において表示することにより、ユーザによる詳細度の指定操作を容易としている(図14の右側の図参照)。あるいは、ショートカットキーにより詳細度指定を可能にすることもできる。なお、本実施形態においては、一つの融合ステップごとに一つの詳細度レベルが割り当てられるので、詳細度レベルの数は、セルの分割数にほぼ等しい。しかし、分割数が多い場合における詳細度レベルの相違は、セグメンテーションにあまり寄与しないことが多いので、詳細度(分割数)を対数表示することにより、セグメンテーション操作の効率化を図ることができる。
(図2のステップSA−5)
階層を選択した後、ユーザは、セグメンテーション受付部4及び表示部8を用いて、セルごとのセグメンテーションを行う。
このセグメンテーションの手順を以下に詳しく説明する。図12は、表示部8によってユーザに呈示される基本画面表示である。この表示は、CTボリュームの一断面とそのセル分割を表示するスライスビュー画面(図中左)と、3次元表示画面(図中右)の2画面を有する。3次元表示画面ではCTボリュームのボリュームレンダリングまたは境界面(セグメンテーション指定の結果としての境界面)のいずれかを表示することができるようになっている。
このステップSA−5では、未選択のセルの位置を3次元表示画面で確認しながら、そのセルを含む断面をスライスビュー画面に表示し、目的のセルをクリックして選択する。選択が終了したら、選択したセルに、部品に応じたラベルをユーザ操作(例えば、プルダウンメニューによるラベル番号の選択)により付ける。これらの指定は、セグメンテーション受付部4により、システム側に受け付けられる。
また、本実施形態では、作業効率が向上するように、ラベルごとにユーザが色を指定できるようになっている。この指定も、セグメンテーション受付部4により、システム側に受け付けられる。図13では、色の違いをグレイスケールにおける濃度の違いにより示しており、図中右下と右上はそれぞれ、色分けによりラベル付けされた2部品が表示されたスライスビュー画面と3次元表示画面の様子である。なお、本実施形態では、選択されたセルは、図12右側の3次元画面表示において、対応する色(好ましくは画面左側に表示されたスライスビュー画面と同じ色)が表示されるようになっている。なお、図13のステップ2が図2のステップSA−5に対応する。
(効率化のための工夫)
ユーザの作業量と部品抽出にかかる時間を減らすため、このステップSA−5では、指定したセルのCT値から所定範囲内のCT値をもつセルを一括して選択できる(つまりラベル付けできる)機能を実装することが好ましい。このようにすると、例えば、樹脂と金属からなるアセンブリ品のCTボリュームに対して、本機能を用いて、金属部分だけ一括して抽出し、ラベル付けを行うことができる。
また3次元表示画面に境界面を表示し、その一点をクリックすると、クリックした点を含むセルをスライスビュー画面に表示する機能を実装することも好ましい。このようにすると、境界面を参照しつつセル指定を行うことが可能になり、ユーザの作業効率を向上させることができる。
(図2のステップSA−6)
セグメンテーション指定されるべきセルが残っている場合は、ユーザは、ステップSA−4に戻って、再び階層選択を行い、以降の動作を繰り返す。もちろん、同じ階層におけるセグメンテーション指定を継続したい場合は、同じ階層におけるセグメンテーション指定を繰り返すことができる。セグメンテーション指定が完了した場合は、ステップSA−7に進む。
(図2のステップSA−7及びSA−8)
つぎに、表面メッシュ生成部6により、セグメンテーションごとに表面メッシュを生成する。この手順を本明細書では「ポリゴン化」と称することがある。以下において詳しく説明する。
前記したセグメンテーションの手順(ステップSA−5)では、目的とする部品に該当するボクセルを抽出した。ステップSA−7では、抽出されたセグメンテーション(部品に対応)の表面をポリゴン化する。ここで、CTボリュームにおける表面メッシュ生成のために従来からよく用いられるのは、CT値の等値面であるが、これはCT値のゆらぎの影響を受けやすく、精度が低いという問題がある。本実施形態では、ステップSA−2において部品の境界を求めたのと同様に、「CT値Iの勾配ベクトルgのノルムの勾配方向の極大点集合」を部品表面と定義する。極大点集合は以下のように書き表せる。
Figure 0006914524
Figure 0006914524
上記の極大点集合をボクセル上で線形補間により抽出し、つないで表面メッシュを生成することができる。得られた表面メッシュはボクセルの粗さよりも高い精度を有しており、サブボクセル精度のメッシュと言える。したがって、本実施形態では、高精度の表面形状を生成することができ、例えば部品の寸法測定を高精度で行うことができる。
得られた表面メッシュは表示部8を介してユーザに呈示される(図12右側参照)。
(変形例1)
以下、前記した実施形態のオプションとしての変形例1を説明する。
工業製品のCTボリュームでは、アーチファクトがひどいために、適切な境界をもったセル分割が得られない場合がある。そのようなとき、サイノグラムが得られるのであれば、逐次近似法によるCT再構成を行い、得られたCTボリュームを入力として上述のセル分割手法(ステップSA−2)を適用することが好ましい。
CT画像を積分変換により投影像に変換することをラドン変換と呼ぶ。CT再構成法は、その計算方法により解析的手法と逐次近似法の二つに分けられる。解析的手法はラドン変換の逆変換を数式によりモデル化してCT画像を計算する手法、逐次近似法はX線投影をモデル化して得た線形システムを最適化により解く手法である。
解析的手法は、計算時間が短いため多くの場面で使われているが、CTアーチファクト等に弱いという欠点がある。それに対し逐次近似法は、アーチファクトの原因となる物理現象を最適化条件に含めることができるため、散乱線等の影響の少ないCTボリュームを得ることができる。ただし計算時間が解析的手法の数倍から10倍程度かかるため、必要に応じてこの2者を使い分ける必要がある。
解析的手法のなかでもFBP法と呼ばれる手法は、良好なサイノグラムが入力として与えられた場合比較的アーチファクトの少ないCT画像を生成することができる。計測物が重金属などを含んでおりメタルアーチファクトが生じる場合は、逐次近似法を使うことが好ましい。
図15は、ラジコンカーのCTボリュームを解析的手法と逐次近似法でそれぞれ計算し一断面を表示したものである。解析的手法による結果(図15左側)では、金属であるモーターやシャフトの周辺にアーチファクトが生じ色むらが起こっているが、逐次近似法による結果(図15右側)では各部品が均一な値(色)で表現されていることが観察できる。
(変形例2:セルの階層構造の改善)
(上記実施形態の課題と改善点)
上記のアルゴリズムは、CTボリュームを用いてアセンブリの部品ごとにセグメンテーションを行うことを可能にするが、アーチファクトを起こしているCTボリュームに対しては適切なセル分割を行うことは難しい。このような場合、オペレータは多数のセル選択を強いられる恐れがある。
図16は、鉄(中央の円筒部分)とアルミニウム(鉄の周辺部分)からなる製品のCTボリュームを示す。この図では、重金属である鉄によりCTアーチファクトを起こしている。CT値の勾配ノルムのグレイスケール表示(中央)を見ると、境界面の一部が消えかけていることが分かる。これはCTアーチファクトの影響により物質間の境界面においてCT値が連続的に変化してしまい、勾配ノルムが十分に大きくならないためである。
このような場合は、セルの階層構造を生成しても、セグメンテーションに最適な階層(分割数)が存在しないことがある。詳細度を上げて必要な境界面を表示すればセル数は必要以上に増え、詳細度を下げればセル数の数は減る代わりに、必要な境界面が消えてしまう。
これは、モース関数にCT値の微分値を用いているためである。CT値の微分値はCTボリュームに含まれるノイズに強く影響されるため、CTアーチファクトを含むCTボリュームに対して上記のような問題が起こるのである。
これらの問題を解決するために、この変形例2では、各部品間の境界が互いにほぼ等しい強さで出現するようなセル分割を得ることを目指し、パーシステンスの定義の改良を行う。なお、後述の変形例3では、モース関数の修正により前記の問題に対応する。
(パーシステンスの定義の改良)
(CTアーチファクトがセル境界に及ぼす影響)
例えば、メタルアーチファクトが生じると、単一素材内であってもCT値がゆらぎ、部品境界面においてCT値が連続的に変化する。結果として、同一部品内に複数のセルが存在する一方で、部品間の境界面が一部消滅するという現象を生じる。これは、メタルアーチファクトの影響により、前記した実施形態で定義したモース関数が正しい境界において大きなピークを持たないためである。その結果として、適切な統合順序をもつ階層的セル分割の構築に失敗することがある。
(コストつきパーシステンス)
すでに説明したパーシステンスの定義は位相特性を考慮したものであったが、CTアーチファクトによりCT値がゆらぐと、適切な統合順序が得られない場合がある。そこで、この変形例2では、隣接する二つのセルにおけるCT値の値域によりパーシステンスの値をスケーリングし、アーチファクトの影響を軽減することを提案する。
隣接するセルci,cjに対し以下のコスト付きパーシステンスP'を定義する。
Figure 0006914524
ここで
Figure 0006914524
はそれぞれセルci,cj中のCT値の最大値と最小値を表し、
Figure 0006914524
は前記した実施形態で定義したパーシステンス
Figure 0006914524
である。
図17に、コスト付パーシステンスを用いたセル統合を模式的に示す。図中において白い弧は鉄の円筒の一部、黒色のセルは空気、その他の灰色部分はアルミを表す。図17左は異素材を表す2セル(セルi,セルj)の統合の様子を、図17右は同素材に対応する2セル(セルi,セルk)の統合の様子を示している。
異素材に対応する2セルでは、
Figure 0006914524
(CT値がより大きい素材に対応するセル中のCT値の最大値であると予想される)と
Figure 0006914524
(CT値がより小さい素材に対応するセル中のCT値の最小値であると予想される)の差は大きく、P'の値は大きくなり、統合の順序が遅くなることが期待される。
それに対し、同素材に対応する2セルでは
Figure 0006914524

Figure 0006914524
は近い値となるためP'の値は小さくなり、早い段階で統合されると期待される。
コスト付きパーシステンスP'によるセル分割を行った場合には、局所的なCT値の値域によるスケーリングを行うために、より少ないセル数でも、同程度の正確さで部品の形状を表すことができると考えられる。
(変形例3:モース関数の改良)
(モース関数値のゆらぎによる問題)
前記した実施形態において、セルの統合を進めて分割の詳細度を下げると、ある種の(例えば鉄の)部品の境界面だけが残り、他の種の(例えばアルミニウムと空気とを分ける)境界面が全て消えてしまうことが生じうる。このような、部品間の境界のいわば「強さ」の偏りがある状態において、すべての部品の境界を表せる詳細度を選択すると、セルの数が過剰になってしまうという問題を生じる。
こういった問題が起こる理由としては、モース関数として採用したCT値の微分値のノルム
Figure 0006914524
が同一素材内で不均一であることが挙げられる。図18に、CT値の勾配ノルムのグレイスケール画像およびその拡大図を示す。部品境界が白くはっきりしている箇所がある一方、非常に薄く殆ど視認できない程度の箇所も存在する。
そこでこのような部品間の境界の強さにむらが生じる問題を軽減するために、以下の2点について勾配ノルム場の改良を行う。
・モース関数の正規化。境界を形成する2材質のCT値の違いに起因する境界の「強さ」の偏りを軽減しセル分割に適したモース関数を生成する。
・モース関数の平滑化。正規化された勾配ノルムから、エッジだと推測される部分を補強する。
通常の2次元画像における境界の抽出において勾配ノルムの正規化と平滑化が有効なことは先行研究(Pravin Bhat, C. Lawrence, Zitnick Michael Cohen, and Brian Curless. Gradientshop: A gradient-domain optimization framework for image and video filtering. ACM Transactions on Graphics, 2010.)で示されており、本変形例ではこれをCT値のノルム場に適用する。
モース関数の正規化では、注目する勾配ノルムの周囲に対する大きさを考慮することで部品間の境界の強さの偏りをなくし、いずこにおいても同程度の強さの境界を得ることを狙う。モース関数の平滑化では、正規化された勾配ノルムの値を、境界が繋がっていると推測される方向にそって拡散する。これにより必要な境界のみ抽出することが可能になる。
(モース関数の正規化)
任意のボクセルiについて、
Figure 0006914524
個の近傍ボクセル集合をSiとする。ボクセルiにおけるモース関数値
Figure 0006914524
をその偏差値
Figure 0006914524
で置き換えることにより正規化し、値
Figure 0006914524
を新たなモース関数値とする。
Figure 0006914524
Figure 0006914524
Figure 0006914524
これにより強すぎる境界を弱め、逆に微かなエッジは補強することができる。なお、前記の例は、モース関数値として、近傍の画像構成単位におけるモース関数値の偏差値を用いる場合の具体例に対応する。
図19は図16に示したCTボリュームに対し、正規化なしのモース関数値fiと正規化したモース関数値
Figure 0006914524
を計算した結果の比較である。正規化なしのモース関数では、鉄でできた中心円筒の境界が消えかけている一方、正規化したモース関数ではすべてのエッジが比較的くっきりした白い線で表示されている。なお、当然のことながら、モース関数値の正規化は、必須の手順ではなく、用途に応じて適宜省略することができる。
ところで図19を観察すると、正規化モース関数
Figure 0006914524
では、正規化なしモース関数fiの結果にはなかったところにエッジが生じており、また勾配ノルムが平均化されたために全体のコントラストが低くグレーがかった画像となっている。これらもまた適切なモース複体を計算する障害となることが予想されるため、正規化したモース関数
Figure 0006914524
をさらに平滑化することで解決をはかる。
(モース関数の平滑化)
モース関数の正規化のおかげで境界の強さを均一化することには成功した一方で、本来無い場所に境界が生じたり、全体的にコントラストが低い画像となってしまうという問題が生じた。正規化したモース関数の値を境界方向のみに沿って平滑化することで、このような問題を解決する。
現在注目しているボクセルに対し、境界上のボクセルの値を大きなコストで足し込み、境界面上にないボクセルは小さなコストで足し込むことにする。注目するボクセルをiとし、その正規化モース関数値を
Figure 0006914524
とする。このボクセルの最近傍の6つのボクセルの集合をAiとし、注目ボクセルiからAi中のいずれかのボクセルjへ向かう単位ベクトルをeijとする。また、
Figure 0006914524
はボクセルiにおけるCT値の勾配ベクトルを表す。ボクセルiの平滑化したモース関数値
Figure 0006914524
を以下で与える。
Figure 0006914524
重みWijはボクセルiに足し込む際のボクセルjのコストであり、
Figure 0006914524
に対するeijの正射影の逆数を表す。
ボクセルjが境界面付近にあるとき、
Figure 0006914524
とeijは直角に近い方向を向き、正射影は小さくなり重みWijは大きい値となる。逆にボクセルjが境界面から離れているとき、
Figure 0006914524
とeijは同じ方向を向き、正射影は大きくなるためWijの値は小さくなる。なお、前記の例は、モース関数値を、セグメンテーションにおける境界の方向に沿って平滑化する場合の具体例に対応する。
図20は上記の平滑化の結果を示している。正規化したモース関数では不要な境界が生じ全体的にコントラストが低くなっていたが、平滑化後は真の境界は太く補強され、それ以外の領域は黒色が濃くなりその面積も広がっている。空気に該当する箇所に生じた不要なエッジも補強されているように見えるが、これらは線分状の形状をしており、環状となって領域の境界をなしてはいない。そのため、本実施形態の手法におけるセルの計算法においてはセル境界として機能しない。したがってこの正規化・平滑化により、部品間の境界を適切に表すセル分割が得られると期待される。
前記した実施形態における階層選択受付部3と、セグメンテーション受付部4と、表示部8とは、本発明のユーザインタフェース装置における具体例に対応する。
なお、本発明は、前記した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変更を加え得るものである。
例えば、前記した各構成要素は、機能ブロックとして存在していればよく、独立したハードウエアとして存在しなくても良い。また、実装方法としては、ハードウエアを用いてもコンピュータソフトウエアを用いても良い。さらに、本発明における一つの機能要素が複数の機能要素の集合によって実現されても良く、本発明における複数の機能要素が一つの機能要素により実現されても良い。
また、本発明を構成する各機能要素は、離散して存在しても良い。離散して存在する場合には、例えばネットワークを介して必要なデータを受け渡すことができる。各部の内部における各機能も、同様に、離散して存在することが可能である。例えば、グリッドコンピューティングやクラウドコンピューティングを用いて、本実施形態における各機能要素あるいはその一部分を実現することも可能である。
また、前記した例では、画像構成単位としてボクセルを用いたが、ピクセルを用いて2次元CT画像を得る構成であってもよい。ボクセルの生成方法にも特に制約はない。画像構成単位としては、八分木構造として分割生成されたオクタントであってもよい。さらに、多面体を要素とするメッシュ構造(例えば四面体メッシュや六面体メッシュ)を画像構成単位として用いることもできる。
1 画像分割部
2 階層構造生成部
3 階層選択受付部
4 セグメンテーション受付部
5 画像取得部
6 表面メッシュ生成部
7 記憶部
8 表示部

Claims (9)

  1. 画像構成単位に割り当てられたCT値を有するCT画像におけるセグメンテーションを行うための部品形状抽出システムであって、
    CT画像分割部と、階層構造生成部と、階層選択受付部と、セグメンテーション受付部とを備えており、
    前記CT画像分割部は、前記CT値のエッジ点を用いてセルの境界を決定することにより、前記CT画像を複数のセルに分割する構成となっており、
    階層構造生成部は、前記複数のセルのうち、隣接する2つのセルが共有する境界の尾根の高さであるパーシステンスが他の境界よりも相対的に低いセルどうしを融合して新しいセルを生成し、融合段階に応じた階層構造を生成する構成となっており、
    前記階層選択受付部は、ユーザからの階層の選択を受け付ける構成となっており、
    前記セグメンテーション受付部は、選択された階層におけるいずれかの前記セルに対するセグメンテーションの指令を受け付ける構成となっている
    部品形状抽出システム。
  2. 前記CT画像はCTボリュームであり、前記画像構成単位はボクセルである
    請求項1に記載の部品形状抽出システム。
  3. 前記CT画像分割部は、前記CT値の勾配のノルムをモース関数値とするモース複体の生成により前記境界を決定し、前記CT画像の分割を行う構成となっている
    請求項1又は2に記載の部品形状抽出システム。
  4. 前記モース関数値として、近傍の画像構成単位におけるモース関数値の偏差値が用いられている
    請求項3に記載の部品形状抽出システム。
  5. 前記モース関数値は、前記セグメンテーションにおける境界の方向に沿って平滑化されている
    請求項3又は4に記載の部品形状抽出システム。
  6. 画像構成単位に割り当てられたCT値を有するCT画像におけるセグメンテーションを行うための部品形状抽出方法であって、
    前記CT値のエッジ点を用いてセルの境界を決定することにより、前記CT画像を複数のセルに分割するステップと、
    前記複数のセルのうち、隣接する2つのセルが共有する境界の尾根の高さであるパーシステンスが他の境界よりも相対的に低いセルどうしを融合して新しいセルを生成し、融合段階に応じた階層構造を生成するステップと、
    ユーザからの階層の選択を受け付けるステップと、
    選択された前記階層におけるいずれかの前記セルに対するセグメンテーションの指令を受け付けるステップと
    を備える部品形状抽出方法。
  7. 請求項6記載の部品形状抽出方法をコンピュータにより実行するためのコンピュータプログラム。
  8. 画像構成単位に割り当てられたCT値を有するCT画像におけるセグメンテーションを行うためのユーザインタフェース装置であって、
    階層選択受付部と、セグメンテーション受付部とを備えており、
    前記CT画像は、前記CT値のエッジ点を用いてセルの境界を決定することにより複数のセルに分割されており、かつ、前記CT画像は、前記複数のセルのうち、隣接する2つのセルが共有する境界の尾根の高さであるパーシステンスが他の境界よりも相対的に低いセルどうしを融合した融合段階に応じた階層構造を備えており、
    前記階層選択受付部は、ユーザからの階層の選択を受け付ける構成となっており、
    前記セグメンテーション受付部は、選択された階層におけるいずれかの前記セルに対するセグメンテーションの指令を受け付ける構成となっている
    ユーザインタフェース装置。
  9. さらに表示部を備えており、
    前記表示部は、前記セグメンテーションの結果として得られた部品ごとに識別された画像を表示する構成となっている
    請求項8に記載のユーザインタフェース装置。
JP2017163842A 2016-09-01 2017-08-29 部品形状抽出システム、部品形状抽出方法、コンピュータプログラム、及びユーザインタフェース装置 Active JP6914524B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016170816 2016-09-01
JP2016170816 2016-09-01

Publications (2)

Publication Number Publication Date
JP2018040790A JP2018040790A (ja) 2018-03-15
JP6914524B2 true JP6914524B2 (ja) 2021-08-04

Family

ID=61625959

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017163842A Active JP6914524B2 (ja) 2016-09-01 2017-08-29 部品形状抽出システム、部品形状抽出方法、コンピュータプログラム、及びユーザインタフェース装置

Country Status (1)

Country Link
JP (1) JP6914524B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7216953B2 (ja) 2018-11-30 2023-02-02 国立大学法人 東京大学 X線ctにおけるctボリュームの表面抽出方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07299060A (ja) * 1994-05-10 1995-11-14 Toshiba Corp 画像処理装置
DE10253191A1 (de) * 2002-11-15 2004-05-27 Philips Intellectual Property & Standards Gmbh Verfahren zur selektiven Darstellung von Körperstrukturen
JP5641503B2 (ja) * 2010-10-15 2014-12-17 国立大学法人 筑波大学 マルチステップ・ラティス・ボクセル法
PT2828830T (pt) * 2012-03-20 2018-03-13 Siemens Corp Visualização de bagagem e desembalamento virtual

Also Published As

Publication number Publication date
JP2018040790A (ja) 2018-03-15

Similar Documents

Publication Publication Date Title
US10424112B2 (en) Mesh boundary smoothing
JP5119251B2 (ja) 単一スクリブルによる画像の対話型セグメンテーション
JP6474995B2 (ja) スライスデータ作成装置、スライスデータ作成方法、プログラムおよびコンピューター読み取り可能な記録媒体
US5809179A (en) Producing a rendered image version of an original image using an image structure map representation of the image
US10410406B2 (en) Enhanced three-dimensional point cloud rendering
JP2007528529A (ja) 3dデータ集合のサーフェスを識別するための方法及びシステム(「ボクセル分割」)
US20160005226A1 (en) Classifying contiguous objects from polygonal meshes with spatially grid-like topology
CN110223376B (zh) 一种基于单幅堆积颗粒材料图像的三维颗粒重建方法
Governi et al. 3D geometry reconstruction from orthographic views: A method based on 3D image processing and data fitting
Shabat et al. Design of porous micro-structures using curvature analysis for additive-manufacturing
US10223813B2 (en) Method and system for reprojection and backprojection for tomography reconstruction
Marschallinger Three-dimensional reconstruction and visualization of geological materials with IDL—examples and source code
US20220245896A1 (en) A computer-implemented method for generating a 3-dimensional wireframe model of an object comprising a plurality of parts
JP6914524B2 (ja) 部品形状抽出システム、部品形状抽出方法、コンピュータプログラム、及びユーザインタフェース装置
JP6294700B2 (ja) 画像処理装置及び画像処理方法
WO2023144676A1 (en) Computer-implemented method for the simplification of a mesh of a three-dimensional graphical object
JP3944034B2 (ja) 区画データ作成方法、装置
Olsen et al. Hinged, pseudo-grid triangulation method for long, near-linear cliff analyses
JP5956875B2 (ja) 画像処理装置、画像処理方法
JP2012230668A (ja) 画像処理装置、画像処理方法、及びプログラム
Pintus et al. A Streaming Framework for Seamless Detailed Photo Blending on Massive Point Clouds.
WO2012076757A1 (en) Method, system, processing unit and computer program product for point cloud visualization
Shafii et al. The topological effects of smoothing
Mousa et al. DTM Extraction and building detection in DSMs having large holes
Konev et al. Fast cutaway visualization of sub-terrain tubular networks

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200716

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210427

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210629

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210707

R150 Certificate of patent or registration of utility model

Ref document number: 6914524

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150