JP7479818B2 - 画像処理装置及び画像生成方法 - Google Patents

画像処理装置及び画像生成方法 Download PDF

Info

Publication number
JP7479818B2
JP7479818B2 JP2019196422A JP2019196422A JP7479818B2 JP 7479818 B2 JP7479818 B2 JP 7479818B2 JP 2019196422 A JP2019196422 A JP 2019196422A JP 2019196422 A JP2019196422 A JP 2019196422A JP 7479818 B2 JP7479818 B2 JP 7479818B2
Authority
JP
Japan
Prior art keywords
image
sampling points
data
points
uniformity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019196422A
Other languages
English (en)
Other versions
JP2020191061A (ja
Inventor
デイヴィス ロス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Medical Systems Corp
Original Assignee
Canon Medical Systems Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Medical Systems Corp filed Critical Canon Medical Systems Corp
Publication of JP2020191061A publication Critical patent/JP2020191061A/ja
Application granted granted Critical
Publication of JP7479818B2 publication Critical patent/JP7479818B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/06Ray-tracing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Public Health (AREA)
  • Medical Informatics (AREA)
  • Computer Graphics (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Pathology (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Generation (AREA)

Description

本発明の実施形態は、画像処理装置及び画像生成方法に関する。
撮像データセットから表示用に画像を生み出すための技法は、よく知られている。例えば、医用撮像のコンテキストにおいて、表示スクリーン上に映し出すことができる、ボリューム撮像データセット画像から生み出すための、幅広いレンダリング又はサンプリング技法が存在する。
医用撮像のコンテキストにおいて、ボリューム撮像データセットは、例えばコンピュータ断層撮影(computed tomography:CT)スキャナ、X線モダリティ、超音波スキャナ、又は陽電子放出断層撮影(positron emission tomography:PET)スキャナを使用する、幅広い撮像モダリティを使用して生み出すことができるが、この限りではない。
生み出すことができる画像は、様々な形態を取ることが可能であり、二次元表示スクリーン上に表示用の二次元又は三次元での描写を含むことができる。医用撮像のコンテキストにおいて、様々な目的に対して画像を生み出すことができるが、診断の又はモニタリングの目的ために、及び/又は、症状が見つかっていることもあれば或いは見つかっていないこともある特定の医用状況を評価するために、開業医によりよく使用される。計算的に集中的であるのと同様に、医用撮像において使用されるサンプリング又はレンダリング技法は、画像の被検体の解剖学的な又はその他の特徴を厳密に表しながらも、開業医にとって納得のいく或いは容認できる画像を生み出す必要がある。そのような画像は、厳密に血流、心拍、又はその他のプロセスのように時間に依存するプロセスを表すことが必要な場合があり、またレジストレーション又はその他のプロセスに従属する場合もある。
例えばボリューム撮像データなど、データから画像を生成するための処理は、画像が表示される予定のハードウェアについて、例えば、画像が表示される予定のディスプレイの解像度を考慮に入れるために、処理におけるいくつかのステージでも必要である。
例えば、特定の解像度を用いるデバイス上に表示のために適切な、所望のピクセルデータポイントの数又は間隔など、所望の解像度で医用画像データセットを生み出すことが知られている。所望の解像度での医用撮像データセットは、例えばオリジナルデータの適切なサンプリングの選択により、及び/又は、異なる解像度のデータセットを生み出し、且つ例えば適切な補間、補外、又はサンプリング処理などの当該データセットに対する適切なアップスケーリング又はダウンスケーリング処理を適用することにより、生み出すことができる。
所望の解像度での医用データセットを生み出すための既知の技法は、著しいアーチファクトを生み出すことがある、及び/又は、計算的に集中的なことがある。
ボリュームレンダリングは、規則的なグリッドサンプリングを使用して普通は行われる。そのような規則的なグリッドサンプリングの有利な点とは、スクリーンピクセルへのマッピングが容易な場合があるということである。反対に、規則的なグリッドサンプリングの不利な点は、エイリアシングを取り込む可能性があるという点である。エイリアシングとは、例えば共鳴アンダーサンプリングが原因で、著しいアーチファクトを生じさせる可能性がある効果のことである。
図1は、エイリアシングの例を概略的に描くプロット図である。信号振幅は時間に対して描かれる。破線10は、サンプルされる予定の信号を表す、正弦曲線である。係る正弦曲線は、実線14で繋げられた12aから12nまでのサンプルポイントのセットでサンプルされる。正弦曲線のサンプリングは、アンダーサンプリングと考えることができる。図1において、12aから12nまでのサンプルされたポイントは、正弦曲線の周波数に比べてより低い周波数を有する包絡線(envelope)を有するのが見て取れる。加えて、望ましくない周波数が、そのためアンダーサンプリングにより取り込まれる場合がある。
ダウンサイジングがエイリアシング効果を悪化させる場合もある。ダウンサイジングは、サンプルされたポイントの高解像度セットをサンプルされたポイントの低解像度セットへと減らす処理を有することができる。ダウンサイジングは、複雑さと潜在的且つ視覚的アーチファクト両方を減らすために、2のべき乗ファクタ(power-of-two factors)を使用して通常実行される。しかし、ダウンサイジングは、高周波数特徴又は非連続な変化或いはテクスチャを含むエッジ又はその他の特徴の特に周辺で、やはりアーチファクトをある程度生じさせる。2のべき乗ダウンサイジングは、2のファクタ(例えば、512×512画像は、256×256画像になる)により低減される全体の画像の次元が原因で、つぶつぶしていない(non-granular)と考えることができる。これは、2のべき乗ダウンサンプリングを通して達成することができるダウンサンプリングの最も影響力の低いレベルは、画像におけるピクセル数を元のピクセル数の四分の一にまで減らす、ということを意味する。
規則的なグリッドサンプリング(例えばダウンサイジングを使用)により実行されるレンダリングは、非進行な場合がある。処理リソースの無駄遣いとなりかねない、より低い解像度レンダリングの完了後、より高い解像度をレンダリングする場合に、再利用情報は何も無い場合がある。
規則的なグリッドサンプリングの使用の代わりに、非グリッドベースのサンプリングパターンを使う場合がある。しかし、均一なグリッドへと非グリッドベースのサンプリングパターンを再構成するのが困難な場合もある。ドロネー三角形分割法及び補間を使用する非グリッドベースのサンプリングパターンの再構成は、遅いことがある。
パフォーマンスや画質を落とすことなく、高解像モニタを適応させる必要性が高まりつつある。ユーザの視点から、画像が表示されるスクリーンの解像度にかかわらず、画像に一貫性のあることが望ましい場合がある。ユーザは、例えば4Kディスプレイ、retinaディスプレイ、高解像ディスプレイ、モバイルデバイススクリーン及びデスクトップモニタなど、異なる時間で様々な異なるタイプのスクリーン上の画像を観察することが可能であると予測される。いくつかのより高精細なスクリーンに対して画像を生み出す計算的な負担は既に相当なものであるが、異なる解像度のスクリーン上に一貫したやり方で同じ画像データを観察できるようにしたいという願いにより、その負担が増える可能性がある。
Kopf et al, "Recursive Wang tiles for real-time blue noise", Proceeding SIGGRAPH ‘06, ACM Transactions on Graphics, Vol. 25, Issue 3, 2006年7月, p.509-518
本発明が解決しようとする課題は、著しいアーチファクトの発生を軽減させることである。
実施形態に係る画像処理装置は、ボリュームデータから画像を生成するための装置であって、処理回路を具備する。
前記処理回路は、ボリュームデータセットを取得する。前記処理回路は、前記ボリュームデータセットに基づいた非均一性マップを取得する。前記処理回路は、前記非均一性マップを使用して非周期サンプリングポイントのセットの位置を決定する。前記処理回路は、前記ボリュームデータセットから、前記非周期サンプリングポイントの前記決定された位置に基づいてサンプルされたデータ値のセットを生成する。前記処理回路は、前記サンプルされたデータ値のセットから画像データポイントのセットを生成するために、集約処理を実行することで画像データセットを生成する。
図1は、エイリアシングの例を概略的に描いているプロット図である。 図2は、実施形態に係る装置の概略図である。 図3は、実施形態の方法の概要を描いているフローチャートである。 図4Aは、ランダムポイントのイラストである。 図4Bは、ポイントのジッタグリッド(jittered grid)のイラストである。 図4Cは、ブルーノイズのイラストである。 図4Dは、ポイントの規則的なグリッドのイラストである。 図5は、重み付け関数の例を示すプロット図である。 図6は、実施形態に係るレイ領域非均一性メトリックを計算する方法の概略を描いているフローチャートである。 図7は、更なるサンプルの付加による、進歩的なレンダリングを描いている概略図である。
以下、図面を参照しながら各実施形態に係る画像処理装置及び画像生成方法について説明する。各実施形態は、非限定的な例であり、表示又は解析用の画像、特に医用画像を生み出すための画像処理装置及び画像生成方法に関する。特定の実施形態は、ボリュームデータセットを取得し、前記ボリュームデータセットに基づいた非均一性マップを取得し、前記非均一性マップを使用して非周期サンプリングポイントのセットの位置を決定し、前記ボリュームデータセットから、前記非周期サンプリングポイントの前記決定された位置に基づいてサンプルされたデータ値のセットを生成し、前記サンプルされたデータ値のセットから画像データポイントのセットを生成するために、集約処理を実行することで画像データセットを生成する、よう構成された処理回路を具備するボリュームデータから画像を生成するための画像処理装置を提供する。
特定の実施形態は、ボリュームデータセットを取得すること、前記ボリュームデータセットに基づいた非均一性マップを取得すること、前記非均一性マップを使用して非周期サンプリングポイントのセットの位置を決定すること、前記ボリュームデータセットから、前記非周期サンプリングポイントの前記決定された位置に基づいてサンプルされたデータ値のセットを生成すること、前記サンプルされたデータ値のセットから画像データポイントのセットを生成するために、集約処理を実行することで画像データセットを生成すること、を具備するボリュームデータから画像を生成する画像生成方法を提供する。
このような画像処理装置及び画像生成方法によれば、著しいアーチファクトの発生を軽減可能となる。以下、詳細に説明する。実施形態に係る画像処理装置20が、図2に概略的に描かれる。
画像処理装置20は、ボリュームデータから画像を生成するための装置である。画像処理装置20は、この場合パーソナルコンピュータ(PC)又はワークステーションである計算装置22を有する。係る計算装置22は、スキャナ24と、一つ又は複数の表示スクリーン26と、コンピュータキーボード、マウス又はトラックボールなどの入力デバイス又は複数の入力デバイス28と、に接続される。
スキャナ24は、医用撮像を実行するよう構成された、任意のスキャナとすることができる。係るスキャナ24は、患者又はその他の被検体の少なくとも一つの解剖学的領域を表す、画像データを生成するよう構成される。スキャナは、任意の撮像モダリティにおいて、二次元の又は三次元の画像データを取得するよう構成することができる。例えばスキャナ24は、磁気共鳴(MR)スキャナ、コンピュータ断層撮影(CT)スキャナ、コーンビームCTスキャナ、X線スキャナ、超音波スキャナ、陽電子放出断層撮影(PET)スキャナ、又は単光子放出コンピュータ断層撮影(SPECT)スキャナを有することができる。更なる実施形態において、スキャナは、任意のタイプの画像データを生成することができるが、これは医用画像データでない場合もある。
本実施形態において、スキャナ24によって取得される画像データセットは、データストア30に格納され、後に計算装置22へと提供される。データストア30は、バッファを備える。代わりの実施形態において、画像データセットは、画像管理システム(Picture Archiving and Communication System:PACS)の一部を形成することがある、遠隔データストア(図示せず)から提供される。データストア30又は遠隔データ格納は、メモリストレージの任意の適切な形式を有することができる。
計算装置22は、画像データを含む、データ処理用の処理装置32を有する。係る処理装置は、中央処理装置(CPU)とグラフィカル処理装置(GPU)とを有する。
処理装置32は、画像データセットを自動的に又は半自動的に、処理するための処理リソースを提供する。
処理装置32は、ボリューム撮像撮像データを処理するよう構成されたデータ処理回路34と、係るボリューム撮像データから画像をレンダリングするよう構成されたレンダリング回路36と、を含む。
本実施形態において、回路34、36は、実施形態の方法を実行することが実行可能なコンピュータ読み取り可能命令を有するコンピュータプログラムの方法で、CPU及び/又はGPUにおいてそれぞれ実行される。その他の実施形態において、様々な回路は、一つ以上のASIC(application specific integrated circuits:特定用途向け集積回路)又はFPGA(field programmable gate arrays:フィールドプログラマブルゲートアレイ)として、実装することもできる。
計算装置22は、ハードドライブや、RAM、ROMを含むPCのその他の構成要素、データバス、様々なデバイスドライバを含むオペレーティングシステム、グラフィックス・カードを含むハードウェアデバイスも包括する。このような構成要素は、明確にするために図2には図示されていない。
図3は、実施形態の画像レンダリング法の概要を描いているフローチャートである。図2の画像処理装置は、図3に描かれる様な画像レンダリング法を実行するよう構成されている。
図3のステージ40で、データ処理回路34は、例示するように、ボリュームデータセットを取得する。ボリュームデータは、コンピュータ断層撮影(computed tomography:CT)データ、磁気共鳴(magnetic resonance:MR)データ、X線データ又はその他の医用撮像データを備える。ステージ40で、データ処理回路34は、「ボリュームデータセット」と呼ぶことができる、ボリューム撮像データのセットを受け取る。本実施形態において、ボリュームデータセットは、スキャナ24を使用して取得され且つデータストア30に格納された、ボリューム医用撮像データのセットを有する。更なる実施形態において、ボリュームデータセットは、適切なモダリティの任意のボリューム医用撮像データを有することができ、また任意の適切なデータストアから受け取ることができる。その他の実施形態において、ボリュームデータセットは、医用ではないこともある、撮像データの任意の形式を有する場合がある。
ステージ42で、データ処理回路34は、例示するように、ボリュームデータセットに基づいた非均一性マップを取得する。ステージ42で、データ処理回路34は、ボリュームデータセットからボリュームサマリ構造を計算する。ボリュームサマリ構造とは、ボリュームデータセットに関するサマリ情報を提供するデータセットである。ボリュームサマリ構造は、ボリューメトリックである。ボリュームサマリ構造は、ボリュームデータセット自体に比べて、より低い解像度でのデータを具備する。
ボリュームサマリ構造は、粗い情報を格納している、低解像度ブロックされた構造である。いくつかの実施形態で、ボリュームサマリ構造は、多層である。各ブロックは、例えば立方形のサブ領域など、ボリュームデータセットにおいて表されるボリュームのサブ領域を表すことができる。各ブロックに対して、ボリュームサマリ構造は、係るブロックにおける情報量、例えば、係るブロックでの詳細量、及び/又は、被検体間の一つ又は複数の遷移が係るブロックに存在するかどうかに関する情報の量、の特性を提供する、一つ又は複数のパラメータに対する一つ又は複数の値を格納することができる。
データ処理回路34は、ボリューム撮像データにおいて、及び/又は、ボリューム撮像データを取得するためにスキャンされた解剖学的領域において、非均一性の一つ又は複数のタイプに関連する情報を取得するようボリューム撮像データを処理することにより、ボリュームサマリ構造を計算する。例えば、解剖学的構造は、二つ以上の異なる組織タイプを取得することができ、ボリューム撮像データは、組織タイプのそれぞれを表す領域を含む非均一性の場合もあり、また表される組織タイプに依存する異なる画像プロパティを持つ。
非均一性メトリックは、色、輝度、伝達関数、ウェーブレットインデックス、セグメンテーションのうちの少なくとも一つの値における変化に基づいて決定される。本実施形態において、ボリュームサマリ構造の計算は、ボリュームデータセットでの一つ又は複数の組織タイプのセグメンテーションを有する。ボリュームサマリ構造の計算は、ボリュームデータセットにおける複数のポイントのそれぞれの組織タイプによる分類を有する。任意の適切なセグメンテーション及び/又は分類法は、ボリュームサマリ構造を取得するために使用することができる。各ブロックに対して格納される値は、被検体間の遷移がブロックで存在するかどうかを示す場合がある。ボリュームサマリ構造におけるセグメンテーションを検討することで、被検体間(同様の色の被検体であっても)の遷移が、結果として生じるレンダリングされた画像でシャープなままという場合がある。
その他の実施形態において、ボリュームサマリ構造の計算は、ボリュームデータセットの異なる部分に対する任意の適切な画像パラメータを取得するよう、例えばボリュームデータセットにおける複数のポイントのそれぞれでの、ダイナミックレンジ、伝達関数、又はウェーブレットインデックスに対する値を取得することにより、ボリュームデータセットの処理を有する。例として、ブロックにおける最大色勾配は、内部的な断絶の測定として、またこれらの内部的な断絶が厳しい測定として、使用することができる。ウェーブレットインデックスは、ブロックにおいて存在する詳細量について提示することができる。
本実施形態において、ボリュームサマリ構造は、比較的低解像である。ボリュームサマリ構造を取得するために、ボリュームデータセットの画像性質は、ボリュームデータセット自体の解像度に比べて、より低い解像度で計算される。その他の実施形態において、ボリュームサマリ構造は、ボリュームデータセットと同じ解像度で、又は更なる解像度で計算することができる。
本実施形態において、ボリュームサマリ構造は、図3のレンダリング処理の一部としてデータ処理回路34により生成される。その他の実施形態において、ボリュームサマリ構造は、前計算され(例えば、異なる計算装置により)、そしてボリュームデータセットと共にデータ処理回路34へと提供される。
ステージ44で、レンダリング回路36は、例えば対象画像に含まれる予定のピクセル数など、画像解像度の選択を受け取る。選択された画像解像度は、例えば1920×1080ピクセル(高解像)、3840×2160ピクセル(4Kウルトラ高解像)、2732×2048(iPad Pro(登録商標) Retina)、又は任意の適切な画像解像度を有することができる。選択された画像解像度は、例えば表示スクリーン26又は任意の適切な表示スクリーンなど、使用される予定の表示スクリーンに対する適当な画像解像度とすることができる。例えば、画像解像度は、デスクトップ、ラップトップ、又はタブレットコンピュータでの使用に対して選択することができる。画像解像度は、モバイルデバイスとの使用するために選択することもできる。また画像解像度は、例えばバーチャルリアリティヘッドセットにおける使用のためなど、バーチャルリアリティアプリケーションでの使用のために選択することができる。
いくつかの実施形態において、データ処理回路34は、使用される予定の解像度を既に知っており、ステージ44は図3の処理から省略される。いくつかの実施形態において、選択された解像度は、データ処理回路34又は計算装置22のどこかに格納することができる。その他の実施形態において、解像度は、ユーザにより選択される。係るユーザは、入力デバイス28の使用により計算装置22へと解像度を入力する。
レンダリング回路36は、例えば対象画像がレンダリングされる予定のカメラ位置、及び/又は、レンダリングの際に使用される予定の色又はテクスチャなど、一つ又は複数の画像レンダリングパラメータを受け取ることもできる。レンダリング回路36は、一つ又は複数の伝達関数又はレンダリングプリ設定を受け取ることができる。
ステージ46で、レンダリング回路36は、「初期サンプリングポイント」と呼ぶことのできる、二次元面上のポイントのセットを受け取る又は生成する。係る二次元面は、対象画像がレンダリングされる予定の面を表す。また二次元面は、「画像面」と呼ぶこともできる。
初期サンプリング面は、非周期的なやり方で画像面上にばら撒かれる。初期サンプリング面のばら撒きは、不規則だと言えるだろう。初期サンプリングポイントのセットは、疎であるとも言えるだろう。初期サンプリングポイントは、「不規則なポイント」又は「非周期的なポイント」と呼ぶことができる。初期サンプリングポイントは、規則的なグリッドのように規則的なパターンに従って、ばら撒かれていない。初期サンプリングポイントは、規則的且つ等距離の間隔(intervals)で位置していない。代わりに、複数のサンプリングポイント間の間隔(spacing)は、互いに異なる。
レンダリング回路36は、初期サンプリングポイントのセットにおける各初期サンプリングポイントに関する位置を格納する。
ステージ46で受け取られた又は生成された初期サンプリングポイントのセットは、不規則なサンプリングポイントの小さなセットと考えることができる。初期サンプリングポイントのセットは、対象画像に含まれる予定のピクセル数に比べて、かなり少ないサンプリング数を有する場合がある。
本実施形態において、初期サンプリングポイントは、ブルーノイズ分布に従って画像面上にばら撒かれている。コンピュータグラフィクスにおいて、ブルーノイズは、最小低周波成分とエネルギーの集中したスパイクが無いこととを有しているランダムサンプリングを意味するために取ることができる。低周波数成分は、エイリアシングアーチファクトに繋がる可能性があることが知られている。エネルギースパイクは、サンプリング密度が不均一であることを意味する。
図4Aから4Dは、二次元面上のポイントの異なる分布例のイラストである。図4Aは、ランダムポイント分布を示す。図4Aに示されるようなランダム分布において、エネルギースパイクがアンダーサンプリング及びオーバーサンプリングのエリアを作り出す場合のあることが予期される。エネルギースパイクは、周辺の領域に比べて、より高いサンプリング密度を持つ領域を有することがある。図4Aにおいて、第1の円70は、アンダーサンプリングのエリアを示すのに使用される。対し第2の円71は、オーバーサンプリングのエリアを示すのに使用される。
図4Bは、ジッタされたグリッドを示す。ジッタされたグリッドは、例えば個別のランダムオフセット量及びオフセット方向を、規則的なグリッドにおける各ポイントへと適用することで、異なる量により規則的なグリッド位置からのオフセットであるポイントのセットを有する。図4Bのジッタされたグリッドにおいて、エネルギースパイクは、図4Aにおけるポイントのランダム分布におけるエネルギースパイクに比べてより小さい。しかし、いくつかのエネルギースパイクは依然として存在する。図4Bにおける第一の円72は、アンダーサンプリングのエリアを示すために使用される。片や図4Bにおける第二の円73は、オーバーサンプリングのエリアを示すのに使用される。
図4Cは、ブルーノイズサンプリングを使用して生成される、ポイントの分布を示す。ブルーノイズ使用により、エネルギースパイクが実質的に何もない状態で、非周期的且つ不規則な間隔を生み出す。ブルーノイズサンプリングパターンは、共鳴アンダーサンプリングのおかげで、エイリアシングの低減を非常に得意とすることがある。
図4Dは050、ポイントの規則的なグリッドを示す。図4Dのポイントの規則的な間隔は、グリッドの多重共鳴周波数が存在し、そのどれもがエイリアスすることがある、ということを意味する。図4Dには、ラインのセット75、76、77、78が示される。異なる長さのラインは、規則的なグリッドの異なる共鳴周波数を描くために使用される。第一の共鳴周波数は、ポイントの線を8つごとに取ることにより(ライン75)、取得することができる。第二の共鳴周波数は、線を4つごとに取ることにより(ライン75及び76)、取得することができる。更に、第三の共鳴周波数は、線を2つごとに取ることで(ライン75、76、77)、取得することができる。最後に、第四の共鳴周波数は、全てのラインを取ることで(ライン75、76、77、78)、取得することができる。
図3のステージ46の初期サンプリングポイントのセットは、ブルーノイズと一致するパターンでばら撒かれている。非周期サンプリングポイントのセットの位置は、ブルーノイズサンプリング処理を使用して決定される。初期サンプリングポイントは、ブルーノイズサンプリング処理を使用して、取得される又は生成される。本実施形態において、初期サンプリングポイントは、本実施形態では再帰Wangタイルである、進歩的なブルーノイズタイルの前計算されたセットを使用して取得される。
Wangタイルは、表面の不周期的なタイリングを生み出すためのメカニズムを提供し、再帰Wangタイルは、リアルタイムブルーノイズのための方法として、表されている。再帰Wangタイルは、任意のポイント密度のブルーノイズ近似を用いて、無限面の充填(filling)を許可する。
ブルーノイズサンプリング処理は、非周期サンプリングポイントを決定するために、Wangタイルを使用する。再帰Wangタイルは、例えば次に説明される様な方法を使用することにより、任意の適切なやり方でブルーノイズサンプリングパターンを取得するために使用することができる。Kopf et al, Recursive Wang tiles for real-time blue noise, Proceeding SIGGRAPH ‘06, ACM Transactions on Graphics, Volume 25 Issue 3, July 2006 Pages 509-518。
本実施形態において、非周期サンプリングポイントのセットの位置は、ブルーノイズ分布に従う。初期非周期的なサンプリングポイントの位置は、ブルーノイズ分布に従う。補足すると、非周期サンプリングポイントのセットの位置は、前述したブルーノイズサンプリング処理を使用して決定されることと、ブルーノイズ分布に従うこととのうちの少なくとも一方であるとしてもよい。その他の実施形態において、例えばランダム分布又は疑似ランダム分布などの、任意の適切な非周期的な分布を使用することができる。いくつかの実施形態において、初期サンプリングポイントの位置は、ジッタされたグリッド処理により決定することができる。その他の実施形態において、例えば任意の適切な非周期的なタイリングなど、初期サンプリングポイントのセットの位置を取得するために、任意の適切な方法を使用することができる。
ステージ48で、レンダリング回路36は、例示するように、非均一性マップを使用して非周期サンプリングポイントのセットの位置を決定し、ボリュームデータセットから、非周期サンプリングポイントの決定された位置に基づいてサンプルされたデータ値のセットを生成する。ボリュームデータセットからの、サンプルされたデータ値のセットの生成の処理は、決定された位置に対して、レイキャスティング又は画像レンダリング処理の実行を備える。データストア30は、非周期サンプリングポイントのセットの決定された位置及び/又はサンプルされたデータ値のセットを格納する。ステージ48で、レンダリング回路36は、初期サンプリングポイントのセットのそれぞれに対するレンダリング処理を実行する。本実施形態において、各初期サンプリングポイントに対するレンダリング処理は、係る初期サンプリングポイントに対するレイキャスティング処理の実行を有する。
レンダリング回路36は、レイをカメラ位置からボリュームデータセットにより表されるボリュームへと投げかける。各レイは、初期サンプリングポイントのうちの個別の一つに対応する。各レイのパスは、画像面上の初期サンプリングポイントのうちの個別の一つと交差する。
各レイは、インクリメントなステップでボリュームデータセットにより表されたボリュームへと踏み込む。例えば、レイに沿ったステップサイズは、ボリュームデータセットにおけるボクセル間隔(spacing)と同じ場合がある。レイに沿った各インクリメントなポイントを、「レイサンプリングポイント」と呼ぶことがある。
各レイサンプリングポイントで、レイはボリュームデータセットをサンプルする。本実施形態において、レイは、各サンプリングポイントで個別の色値をサンプルする。色値は、色値を輝度に関連付けるために、伝達関数を使用することにより取得することができる。サンプリングポイントでの色値は、サンプリングポイントの近傍におけるボクセルから補間することができる。不透明度値は、各サンプリングポイントでサンプルすることもできる。その他の実施形態において、任意の適切なパラメータは、レイサンプリングポイントでサンプルすることができる。例えば、グレースケール輝度は、レイサンプリングポイントでサンプルすることができる。
各レイに対して、色は、レイに沿ったレイサンプリングポイントでの色値を組み合わせることで、レイに沿って蓄積される。初期サンプリングポイントのそれぞれに対する色値は、その初期サンプリングポイントと関連付けられたレイに沿った色値の蓄積により、取得される。図3の画像62は、画像面の領域における初期サンプリングポイントのセット(図3ではグレースケールとして示される)に対する色値を表す。色値は、「サンプルされたデータ値」とも呼ぶことができる。
レンダリング回路36は、初期サンプリングポイントに対する色値を、重み付けられた下落(weighted fall-off)を用いて、蓄積バッファへとスプラットする(splat)。蓄積バッファは、「重み付けられた色蓄積バッファ」と呼ばれることがある。重み付けられた色蓄積バッファは、複数の画像データポイントを有する二次元バッファである。画像データポイントは、対象画像のピクセルに、又は高解像度画像のピクセルに、対応すると考えられることがある。画像データポイントはそのため、「ピクセル」と呼ぶことができる。重み付けられた色蓄積バッファにおける画像データポイント数は、初期サンプリングポイント数に比べてより大きい。
スプラット処理において、各初期サンプリングポイントからの色は、重み付けられた色蓄積バッファのすぐ近くの画像データポイント(又はピクセル)にわたり広げられる。各サンプリングポイントでの色は、重み付けられた色蓄積バッファの多重画像データポイントにわたり広がる(そして、それによりレンダリングされる予定の画像の多重ピクセルにわたっても広がる)、画像面において二次元ディスクを形成すると考えることができる。
重み付け関数は、初期サンプリングポイントのそれぞれへと適用される。重み付け関数は、初期サンプリングポイントのそれぞれと関連付けられる色のディスクの広がりとプロファイルとを定義すると考えることができる。重み付け関数は、初期サンプリングポイントからの距離(画像面で測定されたように)で下落する。
図5は、異なる下落を持つ重み付け関数の例80、82、84をいくつか描いている。ピクセル重みWpは、初期サンプリングポイントからの距離dに対して描かれる。
第1のライン80は、下記の方程式1により定義される、第一の重み付け関数を描く。
方程式1は、比較的急な下落を持つ重み付け関数の例である。急な下落のある重み付け関数が使用された場合、各初期サンプリングポイントからの色は、初期サンプリングポイントに対して非常に近いピクセル上のみへとスプラットされるようになる。
第2のライン82は、下記の方程式2により定義される、第二の重み付け関数を描く。
第3のライン84は、下記の方程式3により定義される、第三の重み付け関数を描く。
方程式3は、「浅い重み付け関数」と呼ばれることのある、より小さい下落を有する重み関数の例である。浅い重み付け関数が使用された場合に、各初期サンプリングポイントからの色は、より急な重み付け関数が使用された場合に比べて、より多いピクセル数にわたり広がることがある。浅い重み付け関数は、急な重み付け関数に比べて、結果として生じる画像により多くのぼやけを生むことがある。また浅い重み付け関数は、急な重み付け関数に比べて、よりノイズが少ないという結果になることもある。
その他の実施形態において、任意の適切な重み付け関数又は重み付け関数の組み合わせを使用することができる。
初期サンプリングポイントの色を重み付けられた色蓄積バッファのピクセルへとスプラットする場合に、重み付け関数は、重み付けられた色蓄積バッファの各ピクセルに対するピクセル重みWpを取得するために使用される。係るピクセル重みWpは、真の初期サンプリングポイントに対して画像ピクセルからの距離dに依存する。初期サンプリングポイントに対する色値は、例えばピクセル重みWpにより色値を掛けることで、ピクセル重みWpと組み合わせられる。より大きなピクセル重みは、より強い色を表す。
重み付けられた色蓄積バッファでの色の蓄積に加えて、レンダリング回路36は、「重み蓄積バッファ」又は「蓄積された重みバッファ」と呼ぶことのできる、更なる蓄積バッファにおけるピクセル重みWpを蓄積する。重み蓄積バッファは、重み付けられた色蓄積バッファと同じピクセル数を持つ。
重み付けられた色蓄積バッファのピクセルは、初期サンプリングポイントのうちの一つ以上から色寄与を受け取ることができる。重み蓄積バッファのピクセルは、初期サンプリングポイントのうちの一つ以上の同じものからの対応する重みを受け取ることができる。
本実施形態において、各レイに対する色値が取得され、また係るレイに対する色値は、重み付けられた色蓄積バッファ上へとスプラットされる。その他の実施形態において、各個別のレイサンプリングポイントに対する色値は、重み付けられた色蓄積バッファ上へとスプラットすることもできる。重み付け関数は、個別のレイサンプリングポイントのそれぞれへと適用することができる。
その他の実施形態において、任意の適切なバッファ又は複数のバッファを使用することができる。輝度、色、重みの値又は任意の適切なパラメータは、バッファ又は複数のバッファに格納することができる。
更なる実施形態において、レイサンプリングポイントに対する色値を使用して、ピクセル色値を取得するために、任意の適切な集約処理を実行することができる。係る集約処理は、任意の適切な方法で重み付けることができる。任意の適切な埋め込み(fill)処理をスプラットの代わりに使用することができる。レイキャスティングは上記に説明されたものの、その他の実施形態において、画像が非周期的なサンプリングポイントを使用してレンダリングされる、任意の適切な画像レンダリング処理を使用することができる。
ステージ50で、レンダリング回路36は、例示するように、サンプルされたデータ値のセットから画像データポイントのセットを生成するために、集約処理を実行することで画像データセットを生成する。集約処理は、複数の画像データを生成するための複数の処理を含む。集約処理は、サンプルされたデータ値のセット中のサンプリングポイントの値を引き伸ばした第1の画像データを生成する処理を含む。第1の画像データを生成する処理は、重み付けられたスプラット処理であり、重み付けられた色が蓄積される、重み付けられた色蓄積バッファに関連する。集約処理は、非周期サンプリングポイントとサンプルされたデータ値のセットの生成処理時のボクセル間の距離に基づく第2の画像データを生成する処理を含む。第2の画像データを生成する処理は、重み付けられた集約処理であり、重みが蓄積される重み蓄積バッファに関連する。第2の画像データは、非周期サンプリングポイントに基づいて重み付けられたマップである。なお、レンダリング回路36は、選択された解像度に従う画像データセットの生成の集約処理を実行する。それにより、レンダリング回路36は、選択された解像度を用いて画像データセットを生成する。ステージ50で、レンダリング回路36は、レイ領域非均一なメトリックを形成するために、ボリュームサマリ構造からもサンプルする。
図6は、実施形態に係るレイ領域非均一なメトリックに対する値の計算法の概要を描いているフローチャートである。図6の方法は、初期サンプリングポイントのそれぞれに対して繰り返すことができる。
図6の方法は、レイの各ステップに対して繰り返される処理ステージ90と、全体レイに対する値を蓄積する蓄積ステージ96とを有する。更に処理ステージ90は、二つのサブステージ92及び94を有する。
レンダリング回路36は、各レイサンプリングポイントに対して処理ステージ90を実行する。サブステージ92で、レンダリング回路36は、被検体及びブロック最小及び最大を見つける。レンダリング回路36は、レイサンプリングポイントが置かれるブロック(ボリュームのサブ領域)を特定する。レンダリング回路36は、ブロックに対する最大輝度値及び最小輝度値を見つけ出す。レンダリング回路36は、ブロックに存在する輝度値の範囲を決定するために、係る最大輝度値及び最小輝度値を使用する。輝度値の範囲が分かれば、その場合にブロックにおけるレイサンプリングポイントにより蓄積することができる色の可能性のある範囲を知ることができ、それによりレンダリング回路36が係るブロックにおいて存在する可能性のある詳細量を近似するよう許す場合がある。
例えば、セグメンテーションはボリュームについて実行された可能性があり、係るセグメンテーションは、個別のボクセルへと適用することが可能な異なるラベル数の特定である。同じラベルを有するボクセルのグループは、「被検体」又は「セグメンテーション被検体」と呼ぶことができる。物質プロパティのセットは、各被検体におけるボクセルへと適用される。
所定のブロックは、一つ又は複数のセグメンテーション被検体からのボクセルを有することができる。レンダリング回路36は、所定のブロックにおける最小及び最大輝度値(例えば、最小及び最大グレースケール値)を見つけ出し、且つ輝度値を各被検体に対する色範囲の個別のセットへとマッピングすることができる。結果として生じる色範囲は、ブロックにおける詳細量を近似するのに使用することができる。
一例において、二つの被検体が存在する状態で、ブロックは最小輝度値0と、最大輝度値1000とを持つ。これらの被検体のうちの一つは、0から1000までの範囲を通して、均一に透明である。他方の被検体は、0から1000までの範囲を通し色における小さな変化のみを持つ。この例において、0から1000までのデータ範囲が輝度値の大きな範囲であると考えられる場合であっても、色変化量の小さいことが原因で、ブロックは、非均一として取り扱われることがある。
サブステージ92の出力は、サブステージ94が実行される予定のブロックと、係るブロックに対する輝度値及び/又は色値の範囲と、の特定である。
サブステージ94で、レンダリング回路36は、サブステージ92で特定されたブロックにおける非均一性メトリックに対する値を決定する。本実施形態において、非均一性メトリックは、ブロックにおける色勾配、輝度勾配、そしてウェーブレットインデックスの関数である。非均一性メトリックは、レイサンプリングポイントを囲む領域における非均一性に関連することから、「レイ領域非均一性メトリック」と呼ぶことができる。
レンダリング回路36は、最大色勾配、最大輝度勾配、最大ウェーブレットインデックスを、サブステージ92で特定されたブロックで見つけ出す。レンダリング回路36は、特定されたブロックに対する最大色勾配、最大輝度勾配そして最大ウェーブレットインデックスに対する値に基づいて非均一性メトリックに対する値を計算する。
その他の実施形態において、任意の適切な非均一性メトリックを使用することができる。非均一性メトリックは、例えば異なる色、異なる輝度、異なるテクスチャなど、ブロックにおける非均一性を表す任意の関数とすることができる。
非均一性メトリックは、例えば組織タイプの差など、ブロックにより表される解剖学的領域における非均一性を表す、任意の関数とすることができる。
いくつかの実施形態において、ボリュームサマリ構造における値(例えば、最大色勾配、最大輝度勾配、そして最大ウェーブレットインデックス)は、局所的非均一性を説明すると考えることのできる、一つ又は複数の無次元パラメータに対する値へとまとめることができる。
処理ステージ90は、レイの各ステップに対して繰り返される。処理ステージ90の各事例は、個別のレイサンプリングポイントに対する非均一性メトリックに対する個別の値を出力する。非均一性メトリックに対する値は、「ステップ非均一性」と呼ぶことがある。
蓄積ステージ96で、一旦レイが終息したら、レンダリング回路36は、レイにおける任意のレイサンプリングポイントに対して取得された非均一性メトリックについて最も高い値を決定する。係る非均一性メトリックについての最も高い値は、「最も高いステップ非均一性」と呼ばれることがある。
レンダリング回路36は、レイに対する係る最も高いステップ非均一性を、重み付けられた蓄積を使用してマスク画像へと書き込む。レイに沿った色の値の蓄積する間、非均一性は独立値としても蓄積される。レイ非均一性は、上記で説明された色スプラット(color splatting)と同様の方法で、その後にスプラットされる。
マスク画像は、「非均一性マップ」と呼ぶこともできる。本実施形態において、係る非均一性マップは、フルサイズ画像バッファが重み付けられた色及び重みに対して使用されるのに比べて、より小さなバッファを有する。
図3における画像60が、非均一性マップを表す。非均一性マップは、ボリュームサマリ構造の二次元投影と考えることができる。非均一性マップは、非均一性メトリックの値を位置の関数として表す。非均一性マップは、位置の関数として非均一性メトリックの値の描写を有している、二次元マップである。蓄積された非均一性に対する値は、初期サンプリングポイントのセットのそれぞれに対して計算されている。非均一性マップは、ボリュームデータセットのどの部分が高い非均一性で、またどの部分が低い非均一性を持つかについて、比較的低解像度での示唆を提供する。
本実施形態において、データ処理回路34は、ボリュームデータセットに関して実行された、レイキャスティング処理又は画像レンダリング処理から非均一性メトリックの値を決定する。非均一性メトリックの値は、上述のようなレイキャスティング処理を使用して決定される。初期サンプリングポイントでの非均一性メトリックに対する値は、初期サンプリングポイントに対応するレイに沿ったポイントについて決定される、一つ又は複数のパラメータに対する値又は複数の値から決定される。その他の実施形態において、ボリュームデータセットから非均一性メトリックの値を取得するために、任意の適切な画像レンダリング処理を使用することができる。
次に図3のフローチャートへと話題を移す。図3のステージ50の出力は、重み付けられた色が蓄積される、重み付けられた色蓄積バッファ;重みが蓄積される重み蓄積バッファ;そして非均一性マップである。
ステージ52は、判定ステージである。ステージ52で、レンダリング回路36は、更なる改良を望むかを判定する。非均一性マップは、高い非均一性のエリアに対する改良をガイドするために使用される。
より多くの非均一なエリアにおける、より高い解像度でのサンプリングの実行が望ましい場合がある。例えば、ボリュームデータセットの大きい領域が単一の物質(例えば骨)を描写することを初期低解像度サンプリングが示唆したら、係る領域のより詳細なサンプリングを実行する必要な無い、と考えることができる。他方で、領域が高度に非均一であることを初期サンプリングが示す場合には、係る領域についてのより多くの情報を取得するために、より高い解像度サンプリングを使用することができる。例えば、ある領域が組織タイプの混ざった状態と分かったら、それらの組織タイプ間の厳密な境界を決定するために、更なるサンプリングを使用することもある。
本実施形態において、ステージ52の最初の事例で、更なる改良を望まれるかが決定される。ステージ48で使用される初期サンプリングポイントのセットは、最終画像の意図する解像度と比較して小さかった。レンダリング回路36は、レンダリングにおいて使用されるべき更なるサンプリングポイントを決定する。
図3の方法は、ステージ54へと進む。ステージ54で、レンダリング回路36は、画像面上の更なるサンプリングポイントを受け取る、又は生成する。更なる非周期サンプリングポイントの分布は、更なるサンプルされたポイント(非周期サンプリングポイント)の平均的な集中が、非均一性マップにおける非均一性メトリックの値に依存する(従う)位置で変化するように、非均一性マップに依存する。
画像面は、複数の画像領域へと分割される。非均一性マップは、画像領域のそれぞれが低い非均一性か又は高い非均一性かを決定するために、使用される。各画像領域に対するサンプリング密度は、非均一性マップに基づいて決定される。より低いサンプリング密度は、高い非均一性領域よりも低い非均一性領域へと適用される。高非均一性のエリアは、より低い非均一性のエリアに比べて、より高い密度でサンプルされる。その他の実施形態において、非均一性マップに基づいたサンプリング密度決定の任意の適切な方法を使用することができる。
本実施形態において、更なるサンプリングポイントの位置は、上述のような再帰Wangタイルを使用して取得される。更なるサンプリングポイントのパターンは、ブルーノイズとの整合性がある。更なるサンプリングポイントは、非均一性マップを使用して決定されたサンプリング密度を使用して生成される。従って、更なるサンプリングポイントの密度は、画像面における位置で変化する。更なるサンプリングポイントの生成は、ブルーノイズ分布を初期サンプリングポイントと更なるサンプリングポイントとの組み合わせに適用するように、初期サンプリングポイントの位置を考慮に入れる。更なるサンプリングポイントのブルーノイズ分布の使用により、不規則且つ非周期的なサンプリングポイント(初期サンプリングポイントと更なるサンプリングポイントとの両方)の分布という結果になる場合がある。
本実施形態において、サンプリングポイントの密度(そしてそれによるレイの密度)は、非均一性に依存するが、各レイにおけるレイサンプリングポイント間で使用されるステップサイズは一定である。その他の実施形態において、レイ上のレイサンプリングポイント間のステップサイズは、非均一性に依存する場合もある。
図3の方法は、一旦更なるサンプリングポイントが決定されたらステージ50へと戻る。
レンダリング回路36は、更なるサンプリングポイントのそれぞれに対して個別のレイを投げかける。レンダリング回路36は、上述と同じ方法を使用して各レイに対する色を決定する。レンダリング回路36は、各更なるサンプリングポイントに対する色を、上述のような重み付け関数を使用して、重み付けられた色蓄積バッファへとスプラットする。レンダリング回路36は、重み蓄積バッファにおける色のスプラットに対して使用される重みも格納する。
重み付けられた色蓄積バッファ及び重み蓄積バッファにおいて、更なるサンプリングポイントに対する重み付けられた色及び重みは、初期サンプリングポイントに対する重み付けられた色及び重みへと追加され、それによりステージ50の第一の事例で実行された初期レンダリングを改良する。
本実施形態において、レンダリング回路36は、図6を参照して上で説明された方法を使用して、各更なるサンプリングポイントでの非均一性メトリックに対する値を計算する。非均一性メトリックに対する値は、非均一性マップを改良するのに使用される。その他の実施形態において、非均一性メトリックに対する値は、ステージ50の第一の事例でのみ計算され、更なるサンプリングポイントを使用して改良はされない。更なる実施形態において、非均一性マップを決定するための任意の適切な方法を使用することができる。非均一性マップは、レンダリング処理の任意の適切なステージで計算する、又は前もって計算をすることができる。
ステージ50の第二の事例の後、図3の方法は、更なる改良を望むかが判定されるステージ52へと戻る。例えば、更なる改良が望まれるかの判定は、非均一性メトリックに対する値に依存することがある。答えが「はい」ならば、方法はステージ54へと進み、付加的なサンプリングポイントが生成される。付加的なサンプリングポイントに対するサンプリング密度は、非均一性マップに依存する。付加的なサンプリングポイントは、再帰Wangタイルを使用して生成される。
ステージ50は、付加的なサンプリングポイントに対して繰り返され、また図3の方法は、ステージ52へと戻る。
一度ステージ52に対する答えが「いいえ」(更なるサンプリングが必要とされない)の場合に、図3の方法はステージ56へと進む。
ステージ56で、レンダリング回路36は、例示するように、第1の画像データを第2の画像データで除算する処理に基づいて画像データポイントのセットを生成する。ステージ56で、対象画像における各ピクセルに対して、レンダリング回路36は、ピクセルに対する最終色値を取得するために、係るピクセルに対する重み付けられた色蓄積バッファにおける値を、ピクセルに対する蓄積された重みバッファにおける値で除算する。重みによる値の除算は、色値の正規化という結果になる場合がある。
画像64は、画像62に示される領域でのピクセルに対する重み付けられた色を表す。次に画像66は、画像62で示される領域におけるピクセルに対する重みを表す。更に画像68は、重みにより除算した場合の重み付けられた色を表す。
ステージ58で、レンダリング回路36は、画像を形成するために、重み付けられた色蓄積バッファの画像データポイントのそれぞれに対する最終色値を使用する。画像は、例えば表示スクリーン26上に、ユーザに対し表示することができる。
いくつかの実施形態において、重み付けられた色蓄積バッファの各画像データポイントは、表示された画像のピクセルに対応する。その他の実施形態において、重み付けられた色蓄積バッファにおけるデータを、ダウンサイズする、又はそうでなければ処理することができる。
レンダリング用の図3の方法を使用して、結果として生じるレンダリングされた画像におけるエイリアシングを低減する、又は除去することがある。特に、図3の方法は、エイリアシングを生じさせるとして知られる、グリッドベースのサンプリングを回避する。
図3の方法は、パフォーマンス又は画質を落とすことなく、高解像モニタを適応させるレンダリング法を提供することができる。画像のユーザ経験は、スクリーン解像度ディスプレイの範囲にわたり一貫性のある場合もある。サンプリング解像度は、スクリーン拘束に縛られない場合がある。
図3の方法は、柔軟なサンプリング密度を利用する。より高い非均一性を持つ領域は、より高い解像度でレンダリングされる。またより高い非均一性を持つ領域は、より解剖学的な詳細を持つ領域という場合がある。更により高い非均一性を持つ領域は、より詳細なレンダリングが望ましい領域という場合もある。
異なる画像領域で異なるサンプリング密度を持つ、よりザラザラしたサンプリング改良の戦略を使用することにより、高精細と低精細との間の遷移エリアにおけるより大きな細かいチューニングについて許可することができる。
図3の方法は、サンプリングポイントを取得するために、ガイドされた進歩的ブルーノイズを使用する。サンプリングポイントの生成は、以前のサンプリングポイントを捨てる必要性がなく、新たなサンプリングポイントを以前のサンプリングポイントへと付け足すことができる。レンダリングは、完全に進歩的であると考えることができる。
図3の方法を使用してレンダリングされた画像(重み付けられたスプラット蓄積でのブルーノイズサンプリング)と、グリッドサンプリング法を使用して同じボリュームデータセットからレンダリングされた画像との比較が実行されている。両方の方法は、CPU上に走ったものである。グリッドサンプリング画像には、ブルーノイズサンプリング画像には存在しなかった、リンギングアーチファクトを持つ、ということが判明している。ブルーノイズサンプリング法は、グリッドサンプリング法に比べて走らせるために取る時間もより少ない。
図3の実施形態において、画像は、ステージ44で提供される、単一の所望のディスプレイ解像度でレンダリングされる。その他の実施形態において、図3の方法は、多重解像度でのボリュームデータセットから画像をレンダリングするために使用することがある。いくつかの実施形態において、非周期サンプリングポイントのセットは、非周期サンプリングポイントの第一の数から成る。レンダリング回路36は、更なるサンプリングポイントを非周期サンプリングポイントのセットに追加すること、更なるサンプリングポイントに基づいて更なるサンプルされたデータ値を生成すること、更なるサンプリングポイントを使用して、画像データポイントのセットを生成するために、集約処理を反復又は改良すること、を備える改良処理を実行する。集約処理は、重み付けられたスプラット処理を含み、反復又は改良は、更なるサンプリングポイントに対する重み付けられたスプラット処理の反復又は改良を備える。画像は、サンプリングポイントの第一の数を使用して初期に低解像度でレンダリングされる。画像は、ユーザに表示することができる。レンダリング回路36は、その後より高い解像度で画像を再レンダリングするよう改良処理を実行する。より高い解像度でのレンダリングは、低解像度レンダリングの間に取得された、重み付けられた色蓄積バッファと重み蓄積バッファとを利用する。蓄積バッファは、同じシーンの後続のレンダリングにおいて引き続き有効なままである。
低解像度画像で使用されたサンプリングポイントに対する結果が再利用され、且つ付加的なサンプリングポイントが追加される。上述の集約処理は、高解像度画像を生成するために、付加的なサンプリングポイントに対して繰り返される又は改良される。蓄積バッファに格納された値は、追加されている付加的なサンプリングポイントに呼応して、アップデートされる。レンダリング回路36は、輝度、色、又は重みのうちの少なくとも一つの、少なくとも一つのバッファ値を維持し、且つサンプリングポイントが追加されていることに呼応してバッファ値をアップデートする。レンダリング回路36は、画像データセットを改良するための改良処理を実行する。改良処理は、データポイントを非周期サンプリングポイントのセットに及び/又はデータストア30に格納されたサンプルされたデータ値のセットに、追加することを含む。
図3の方法を使用する際、より高い解像度画像がリクエストされたら、その場合初めからレンダリングを再スタートする必要はない。古いバッファに対し、新たなサンプルの蓄積を継続することが可能である。低解像度画像は、それによってより高い解像度画像を取得するために、再利用される。既存の低解像度画像からレンダリングする、既知の方法を用いるこのコントラストは、より高い解像度で画像を再レンダリングする場合には再利用することができない。
ある状況下で、高い解像度画像をレンダリングするために取られる時間は、新たなサンプルに加えて使用することができる以前のレンダリングの結果のように、大きく低減することができる。ビジュアル的に同じようなクオリティにまで到達するために、より少ないサンプルを必要とすることもある。
図7は、ダウンサイジングの程度に対するサンプリング処理を描く、概略プロット図である。水平軸は、次の三つのダウンサイジングの程度として解像度を表す。即ち、第一の矢印100はフル解像度の1/16の画像;第二の矢印102はフル解像度の1/4の画像;そして第三の矢印104はフル解像度の画像、それぞれ表している。
三つの更なる矢印110、112、114は、異なるサンプリングステージを表すのに使用される。矢印110は、nポイントがサンプルされる第一のサンプリングステージを表す。nポイントのサンプリングは、フル解像度の1/16の画像という結果である。より高い解像度が必要とされることが決定された場合に(例えば、図3の処理のステージ52)、更なるnポイントが解像度を増してサンプルされる。そして更なるnポイントは、矢印114により示される通り、最終画像の解像度を重ねて増してサンプルすることができる。
更なる実施形態において、非周期サンプリングポイントのセットは、非周期サンプリングポイントの第一の数から成る。レンダリング回路36は、非周期サンプリングポイントのセットが、第二の、且つ低減したサンプリングポイント数から成るように、非周期サンプリングポイントのセットからサンプリングポイントを除去すること、第二の、且つ低減したサンプリングポイント数を使用して、画像データポイントのセットを生成するために、集約処理を反復又は改良すること、を備える改良処理を実行する。高解像度画像は、低解像度画像の前にレンダリングされる。高解像度画像は、非周期的なサンプリングポイントの第一の数を使用して取得される。低解像度画像は、サンプリングポイントのセットが第二の且つ低減されたサンプリングポイント数で構成されるように、高解像度画像のレンダリングにおいて使用されたサンプリングポイントのうちのいくつかを除去することにより、取得される。集約処理は、低解像度画像を取得するために、低減されたサンプリングポイントのセットを用いて、繰り返される又は改良される。蓄積バッファに格納される値は、サンプリングポイントのうちのいくつかの除去に呼応してアップデートされる。レンダリング回路36は、輝度、色、又は重みのうちの少なくとも一つの、少なくとも一つのバッファ値を維持し、且つサンプリングポイントが除去されていることに呼応して前記バッファ値をアップデートする。レンダリング回路36は、画像データセットを改良するための改良処理を実行する。改良処理は、データポイントを非周期サンプリングポイントのセット及び/又はデータストア30に格納されたサンプルされたデータ値のセットから除去することを含む。状況により、画像面の各領域から低減されるサンプリングポイントの密度は、非均一性メトリックに対する値に依存する場合がある。
図3を参考に上記で説明された実施形態において、ボリュームサマリ構造は、ボリュームデータセットを処理することにより(例えばセグメンテーションにより)取得され、且つ係るボリュームサマリ構造は、非均一性マップを取得するために使用される。更なる実施形態において、非均一性マップは、ボリュームサマリ構造の代わりに(又は追加で)初期レンダリングデータを使用することで取得される。例えば、いくつかの実施形態において、初期レンダリングは、初期サンプリングポイントのセットを使用して実行される。初期サンプリングポイントに対する、及び/又は、レイサンプリングポイントに対する、データ値(例えば、色値又は輝度値)は、非均一性メトリックに対する値を取得するために使用される。例えば、サンプリングポイントに対する非均一性メトリックに対する値は、係るサンプリングポイントの周りの領域での色値又は輝度値での変化に基づいて、決定することができる。
上記に説明される方法において、より高い非均一性領域がより高いサンプリング密度でサンプルされるようにして、サンプリング密度は、非均一性メトリックに対する値に基づく。いくつかの実施形態において、サンプリング密度は、「ユーザの凝視ポイント」とも呼ばれる、ユーザにとっての関心のポイント又は領域からの距離にも基づいている。関心のポイント又は領域は、ポイントをクリックする、又は領域の輪郭をなぞることで、ユーザによって選択することができる。関心のポイント又は領域は、画像の中心であるとして捉えられる場合がある。関心のポイント又は領域は、現在ユーザが見ている領域という場合がある。係るユーザが見ている領域は、視標追跡情報(eye-tracking information)から取得することができる。視標追跡情報は、例えばバーチャルリアリティシステムにおいて利用ができる。
関心のポイント又は領域からの距離を伴うサンプリング密度における変化は、関心のポイント又は領域からの推定された距離に比例する値により、非均一性メトリックに対する値にバイアスを掛けることにより、適用することができる。非均一性メトリックにバイアスを掛けることにより、サンプリング密度は、画像における非均一性をやはり考慮にいれる一方で、関心のポイント又は領域により近い画像の領域に対して、サンプリング密度が一般的により高くなることがある。いくつかの実施形態において、画像領域の更なる改良を促すのに必要とされる重要性は、ユーザの凝視ポイントからの推定された距離に対して比例する値により、バイアスが掛けられる。更なるレンダリングが必要とされるのかを判定するために使用される非均一性しきい値は、凝視ポイントから更に遠い領域に対してより高いことがある。
いくつかの実施形態において、サンプリングポイントに対するスプラット重み付けは、サンプリングポイントからピクセルに対する距離に基づいているスプラット重み付けに加えて、サンプリングポイントでの非均一性と関心のピクセルの非均一性との関数である。例えば、互いに隣接する画像面の(又は非均一性マップの)二つの領域について検討してみる。第一の領域は、高い非均一性を持ち、そのため多くのサンプリングポイントを使用してサンプルされている。片や第二の領域は、より低い非均一性を持つので、より少ないサンプリングポイントを使用してサンプルされている。スプラット処理が原因で、高い非均一性領域におけるサンプリングポイントからの寄与が、低い非均一性領域へと流れ出ない(逆もまた然り)、と望ましく見なされる場合がある。いくつかの実施形態において、この効果は、大きく異なる非均一性のエリアがより低い重みを生み出す一方で、類似の非均一性の領域がより高い重みを生み出すようにして、重み付け関数がどのようにして計算されるかへと、非均一性を組み込むことで回避される。
いくつかの実施形態において、スプラットピクセル重み付けは、フォーカル面からの距離によりバイアス掛けされる。フォーカル面から遠いピクセルは、例えば、より大きなピクセル数にわたりサンプリングポイントからの色を拡大するより浅い重み付け関数を適用することにより、不鮮明にされそして焦点から外れることがある。フォーカル面についての詳細は、シャープなままのことがある。
画像レンダリングの際、写真撮影術で使用される様なレンズからの距離に対応すると考えられる、概念的な焦点距離を決定することができる。係る概念的な焦点距離は、レイにより移動した距離を追跡することにより、取得することができる。ボリュームレンダリング実行の際、レイがボリュームへと貫いた深さは、zバッファに格納することができる。zバッファは、画像空間における第三且つz次元を記録する。zバッファに格納された深さは、重み付け距離を変えるためにレンズに対する概念的な距離と連携して使用することができる。バーチャル焦点面は、概念的な焦点距離に対して等しい距離で、画像面と平行な面として定義することができる。
z深さが概念的な焦点距離と同じ様なエリアは、焦点面から遠いエリアに比べて、より急な重み付け下落を持つ場合があり、それによってよりシャープ且つよりぼやけが少なく見える場合がある。
上記の実施形態において、単一の画像処理装置は、ボリュームデータセットを受け取り、且つボリューム画像データセットから画像をレンダリングする。その他の実施形態において、レンダリング処理は、例えばネットワークにおける二つ以上のコンピュータなど、二つ以上の計算装置にわたり分けることができる。データ処理回路34またはレンダリング回路36による取得は、サーバ又はその他の遠隔ソースからネットワークを介して、非均一性マップ、非周期サンプリングポイントのセットの位置、生成されたサンプルされたデータ値、のうちの少なくとも一つを受け取ることを含み得る。レンダリング回路36は、サーバ又はその他の遠隔ソースから離れたローカルコンピュータで集約処理を使用して画像データセットの生成を少なくとも実行する。一実施形態において、レンダリング処理の第一部分は、サーバにより実行され、且つレンダリング処理の第二部分は、クライアント計算デバイスにより実行される。クライアント計算デバイスは、サーバから離れており、有線で又はワイレスネットワークを介してサーバへと接続されている。クライアントデバイスは、携帯電話、タブレット又はラップトップのようなモバイルデバイスの場合がある。
レンダリング処理の第一部分で、サーバは、ボリュームサマリ構造を取得するために、ボリュームデータセットを受け取り且つそれを処理する。サーバは、表示解像度の選択を受け取ることもある。サーバは、再帰Wangタイルを使用して生成される、初期サンプリングポイントのセットを受け取る又は生成する。サーバは、色値のセットを取得するために、初期サンプリングポイントのそれぞれに対応するレイを使用してボリュームデータセットをサンプルする。またサーバは、非均一性マップを取得するために、ボリュームサマリ構造もサンプルする。
サーバは、ネットワークにわたる初期サンプリングポイントに対する色値を、クライアントデバイスへと送る。レンダリング処理の第二部分において、係るクライアントデバイスは、初期サンプリングポイントに対する色値を重み付けられた色蓄積バッファ上へのスプラットを実行し、且つ重み蓄積バッファにおける重みも蓄積する。
初期サンプリングポイントは、再帰Wangタイルを使用して取得されているため、サーバは、初期サンプリングポイントの位置をクライアントデバイスへと送る必要がないことがある。クライアントデバイスは、再帰Wangタイルを使用することにより、局所的に初期サンプリングポイントのセットを取得する又は格納することができる場合がある。
更なるサンプリングポイントが必要となった場合に、クライアントデバイスは、再帰Wangタイルを使用して更なるサンプリングポイントの位置を決定するリクエストを、サーバへと送る。サーバは、画像の異なる領域に対する更なるサンプリングポイントの密度を決定するために、非均一性マップを使用する。サーバは、その後係る更なるサンプリングポイントをレンダリングし、また当該更なるサンプリングポイントに対する色値をクライアントデバイスへと送る。クライアントデバイスは、更なるサンプリングポイントに対する色値を、重み付けられた色蓄積バッファ上へとスプラットすることで、重み付けられた色蓄積バッファをアップデートする。クライアントデバイスは、重み蓄積バッファにおける更なるサンプリングポイントに対する重み値を蓄積することにより、重み蓄積バッファをアップデートする。
クライアントデバイスにより要求される解像度が増す場合に、係るクライアントデバイスは、より多くのサンプリングポイントに対する要求を、更なるレンダリングを実行するサーバへと送る。
その他の実施形態において、サーバにより実行されるステップと、クライアントデバイスにより実行されるステップとの間に、異なる区分が存在することがある。
いくつかの実施形態において、ネットワークにわたるレンダリングは、完全なキャンバスというよりも、疎なピクセルリストを送ることにより、スピードアップすることができる。クライアントは、スプラット操作を局所的に実行することができる。WebGLは、局所的なスプラットタスクに上手く適している場合がある。
サンプリングポイント位置が、送られないことがある。ブルーノイズWangタイルは、クライアント上の位置を再構成するために使用することができる。
ネットワークにわたるレンダリングは、ネットワーク使用において非常に意味のある低減という結果を潜在的に秘めている場合がある。サーバは、時間が許せば、クライアントに対するピクセルをその視覚化へと蓄積するために、非同期的にキューすることができる。
遠隔デバイス(例えば、サーバ)及び局所クライアントデバイス(例えば、モバイルデバイス)とのレンダリングを分割することは、ネットワークバンド幅が制限されている場合に、高解像度画像のコミュニケーションを容易にすることができる。ボリュームデータセット全体をネットワークにわたって送る必要はない場合がある。サンプリングポイントの制限されたセットに対する値は、ネットワークにわたるセットということがある。必要とされる最終画像が比較的低画像である場合に(例えば、携帯電話上のディスプレイに対し)、バンド幅における節約は、特に顕著な場合がある。
状況によって、上で説明された方法は、VRビューにおけるエイリアシングアーチファクトを大いに減らすことができる。
ユーザには、改善されたインタラクティブな経験を提供することができる。ユーザがインタラクティブなモードで(例えば、観察角度又はプリセットを変更することにより)画像データを操作している際に、より低い解像度画像は、より高い解像度画像が続いて、ユーザにまず呈示される場合がある。上で説明される方法は、相互作用から完全な詳細(full-detail)へと、スムーズな改良を提供することができる。付加的なサンプリングポイントは、全体的なレンダリングが再びされているというよりも、既存のレンダリングへと付け足すことができる。
上で説明される方法は、マルチユーザーシステム上の4k(又は8k)モニタについて、診断的品質のスラブレンダリング又は輝度投影レンダリングを生み出すために使用することができる。インタラクティブなレンダリングは、モバイルデバイスでも可能な場合がある。iPad(登録商標)又はその他のタブレットデバイスに対するレンダリングを提供することができる。
いくつかの実施形態において、レンダリング処理は、機械学習を利用することができる。データ処理回路34は、ボリュームデータに基づいた非均一性マップを取得することについて学習済みニューラルネットワーク又はその他の機械学習処理を使用する。例えば、一実施形態においてニューラルネットワークは、ボリュームデータセットからボリュームサマリマップを生成するために学習される。ニューラルネットワークには、多数の学習ボリュームデータセットが提供され、また学習ボリュームデータセットのうちのいくつか又は全てに対するボリュームサマリマップを提供される場合もある。学習ボリュームデータセットから、ニューラルネットワークは、ボリュームサマリマップを生み出すよう学習される。ボリュームサマリ構造を計算するステージ42は、学習されたニューラルネットワークを使用して実行することができる。
その他の実施形態において、ニューラルネットワーク(ボリュームサマリマップを生み出すために使用されたものと同じニューラルネットワークとすることができる)は、重み付けられた蓄積を実行するための機械学習を使用するために学習される。いくつかの実施形態において、機械学習は、より優れた重み付け関数を生み出すために使用される。その他の実施形態において、機械学習は、重み付けられた蓄積を再サンプリング法として交換する。
更なる実施形態において、レンダリング回路36は、非均一性マップから非周期サンプリングポイントの位置決定を実行することについて学習済みニューラルネットワーク又はその他の機械学習処理を使用する。ニューラルネットワーク(ボリュームサマリマップを生み出す及び/又は重み付けられた蓄積を実行する、ために使用されたものと同じニューラルネットワークの場合がある)は、非均一性マップに基づいたサンプリングポイントの位置を決定するために学習される。
もう一つの実施形態において、ニューラルネットワークは、学習データのセットを使用して学習され、それぞれが複数のサンプリングポイント、レイサンプリングポイント、及び/又は画像データポイントに対する非均一性マップ及びデータ値を有している。学習データは、サンプリングポイントベースのブルーノイズに対する位置も有することがある。ニューラルネットワークは、非均一性マップに依存する、サンプリングポイントに対する値、レイサンプリングポイント及び/又は画像データポイントを出力するよう学習することができる。
特定の実施形態は、レンダリング用のボリュームデータと前記ボリュームデータに基づいた非均一性マップとを収集し、ランダムサンプリングポイントと前記非均一性マップとに基づいた第一のデータを生成し、前記第一のデータに含まれるサンプリングポイントの画像ボクセル値をスプラットすることで第二のデータを生成し、前記サンプリングポイントと前記画像ボクセルから前記サンプリングポイントまでの距離とに基づいた第三のデータを生成し、前記第三のデータに基づいて前記第二のデータを補正することで前記ボリュームデータをレンダリングする、よう構成された処理回路を具備する画像処理装置を提供する。
サンプリングポイントは、ブルーノイズパターニングに基づく場合がある。
特定の実施形態は、ブルーノイズと一致するパターンでばら撒かれたサンプルのセットを使用して、ボリュームデータ視覚化のための方法を提供する。ここで非均一性測定は、最小-最大情報、伝達関数勾配及び3Dウェーブレットインデックス、を使用して計算され、その後ブルーノイズと一致するパターンでばら撒かれたサンプルの第二のセットの局所サンプリング密度を決定するために使用される。サンプルは、重み付けられたスプラット蓄積の使用を通して、画像へとその後再サンプルされる。
サンプルされたブルーノイズパターンは、ブルーノイズWangタイルの使用を通して、計算することができる。
各サンプルポイントの非均一性値は、被写界深度近似(Depth-of-field approximiation)を生み出すために、焦点面からの係るポイントの距離に対して比例する値によりバイアス掛けすることができる。
方法の以前の援用により生み出されるサンプルのセットは、保たれ、且つ第二の援用において再利用することができる。
非均一性測定は、ユーザの凝視ポイントからの推定される距離に比例する値により、バイアス掛けすることができる。
ピクセルに対するスプラット重み付けは、サンプルポイントからの距離に加えて、サンプルされたポイント非均一性の関数及び関心のピクセルに対する非均一性の場合がある。
特定の実施形態は、ブルーノイズと一致するパターンでばら撒かれたサンプルのセットを使用してボリュームデータ視覚化のための方法を提供する。ここでサンプルされた値は、重み付けられたスプラット蓄積操作の使用を通してバッファへと蓄積され、また各画像領域に対する値で結果として生じる変化が追跡され、著しい変化が見受けられる領域は、ブルーノイズと一致するパターンでばら撒かれた更なるサンプルを受け取るためにマーカ付けされる。
サンプルされるブルーノイズパターンは、進歩的ブルーノイズWangタイルの使用を通して計算することができる。
画像領域の更なる改良を促すのに必要とされる有意性は、焦点面からのあのポイントの距離に対して比例する値によりバイアス掛けすることができる。
方法の以前の援用により生み出されたサンプルのセットを、保ち且つ第二の援用において再利用することができる。
画像領域の更なる改良を促すのに必要とされる有意性は、ユーザの凝視ポイントからの推定された距離に対して比例する値によりバイアス掛けすることができる。
方法は、画像を参照し上で説明された。画像に実行されているものとして上で説明された操作は、画像を表す画像データのセットについて実際に実行することができる。例えば、操作は、ピクセル位置又はボクセル位置のセット、そして関連した輝度を具備しているデータについて実行することができる。多くの場合、操作は、対応する画像が表示されることなく画像データについて実行される。
方法ステップの特定の順序付けが上で説明されたものの、更なる実施形態の方法ステップを任意の適切なオーダーで実行することができる。ステップのうちの一つ又は複数を省略することができるし、又は更なるステップを付け加えることもできる。任意の適切なレンダリング法及びデータ処理法を使用することができる。
色値について上で説明された方法は、例えば輝度値又はテクスチャ値等の任意の適切な色値を使用して代わりに実行することができる。二次元又は三次元画像を取得するために、任意の適切なレンダリング処理を使用することができる。
本明細書では特定の回路が説明されたが、代替的な実施形態においては、これらの回路の一つ以上の機能性が単一の処理リソースまたはその他構成要素によって提供されることも可能であり、あるいは単一の回路によって提供される機能性が二つ以上の処理リソースまたはその他の構成要素の組み合わせで提供されることも可能である。単一回路への言及は、多数の構成要素が互いに離れているか否かにかかわらず、単一の回路の機能性を提供する多数の構成要素を包含し、複数回路への言及は、複数の回路の機能性を提供する単一の構成要素を包含する。
特定の実施形態が説明されたが、これらの実施形態は単に一例として提示されているだけであり、本発明の範囲を限定することを意図としていない。実際、本明細書に説明された新規の方法およびシステムは、他の様々な形態で実施されてもよい。さらに、本明細書に記載される方法およびシステムの形態において、様々な省略、置換、および変更が本発明の趣旨から逸脱することなく行われてもよい。添付の特許請求の範囲およびその均等物は、本発明の範囲内に入るそのような形態および修正形態を含むように意図されている。
20 画像処理装置
22 計算装置
24 スキャナ
26 表示スクリーン
28 入力デバイス28
30 データストア
32 処理装置
34 データ処理回路
36 レンダリング回路
60,62,66,68 画像
70~73 円
75~78、80、82、84 ライン
100,102,104,110,112,114 矢印

Claims (23)

  1. ボリュームデータから画像を生成するための画像処理装置であって、
    ボリュームデータセットを取得し、
    前記ボリュームデータセットに基づいた非均一性マップを取得し、
    前記非均一性マップを使用して非周期サンプリングポイントのセットの位置を決定し、
    前記ボリュームデータセットから、前記非周期サンプリングポイントの前記決定された位置に基づいてサンプルされたデータ値のセットを生成し、
    前記サンプルされたデータ値のセットから画像データポイントのセットを生成するために、集約処理を実行することで画像データセットを生成する、
    よう構成された処理回路を具備する画像処理装置。
  2. 前記集約処理は、前記サンプルされたデータ値のセット中のサンプリングポイントの値を引き伸ばした第1のデータを生成する処理及び前記非周期サンプリングポイントと前記サンプルされたデータ値のセットの生成処理時のボクセル間の距離に基づく第2のデータを生成する処理を含む、請求項1記載の画像処理装置。
  3. 前記処理回路は、前記第1のデータを前記第2のデータで除算する処理に基づいて前記画像データポイントのセットを生成する、請求項2記載の画像処理装置。
  4. 前記集約処理は、重み付けられた集約処理を具備する請求項1記載の画像処理装置。
  5. 前記集約処理は、重み付けられたスプラット処理を具備する請求項1記載の画像処理装置。
  6. 前記ボリュームデータセットからの、前記サンプルされたデータ値のセットの前記生成の処理は、前記決定された位置に対して、レイキャスティング又は画像レンダリング処理の実行を具備する請求項1記載の画像処理装置。
  7. 前記非均一性マップは、非均一性メトリックの値を位置の関数として表すことを具備する請求項1記載の画像処理装置。
  8. 前記処理回路は、前記ボリュームデータセットに関して実行された、レイキャスティング処理又は画像レンダリング処理から前記非均一性メトリックの前記値を決定するよう構成された請求項7記載の画像処理装置。
  9. 前記非均一性メトリックは、色、輝度、伝達関数、ウェーブレットインデックス、セグメンテーションのうちの少なくとも一つの値における変化に基づいて決定される請求項7記載の画像処理装置。
  10. a)前記非周期サンプリングポイントのセットの前記位置は、前記非均一性マップを使用することに代えて、ブルーノイズサンプリング処理を使用して決定される、
    b)前記非周期サンプリングポイントのセットの前記位置は、前記非均一性マップを使用することに代えて、ブルーノイズ分布に従う、
    のうちの少なくとも一方である請求項1記載の画像処理装置。
  11. 前記ブルーノイズサンプリング処理は、前記非周期サンプリングポイントを決定するために、Wangタイルを使用する請求項10記載の画像処理装置。
  12. 前記非周期サンプリングポイントの分布は、前記非周期サンプリングポイントの平均的な集中が前記非均一性マップにおける非均一性メトリックの値に従う位置で変化するように、前記非均一性マップに依存する請求項1記載の画像処理装置。
  13. 前記非周期サンプリングポイントのセットは、非周期サンプリングポイントの第一の数から成り、前記処理回路は、
    更なるサンプリングポイントを前記非周期サンプリングポイントのセットに追加すること、
    前記更なるサンプリングポイントに基づいて更なるサンプルされたデータ値を生成すること、
    前記更なるサンプリングポイントを使用して、前記画像データポイントのセットを生成するために、前記集約処理を反復又は改良すること、
    を具備する改良処理を実行するよう構成された請求項1記載の画像処理装置。
  14. 前記非周期サンプリングポイントのセットは、非周期サンプリングポイントの第一の数から成り、前記処理回路は、
    前記非周期サンプリングポイントのセットが、第二の、且つ低減したサンプリングポイント数から成るように、前記非周期サンプリングポイントのセットからサンプリングポイントを除去すること
    前記第二の、且つ低減したサンプリングポイント数を使用して、前記画像データポイントのセットを生成するために、前記集約処理を反復又は改良すること、
    を具備する改良処理を実行するよう構成された請求項1記載の画像処理装置。
  15. 前記画像データポイントのセットを生成するための前記集約処理は、重み付けられたスプラット処理を具備し、且つ前記反復又は改良は、前記更なるサンプリングポイントに対する前記重み付けられたスプラット処理の反復又は改良を具備する請求項13記載の画像処理装置。
  16. 前記処理回路は、選択された解像度に従う画像データセットの生成の前記集約処理を実行するよう構成され、それにより前記選択された解像度を用いて画像データセットを生成する請求項1記載の画像処理装置。
  17. 前記画像データポイントのセットを生成するための前記集約処理は、重み付けられたスプラット処理を具備し、且つ前記処理回路は、輝度、色、又は重みのうちの少なくとも一つの、少なくとも一つのバッファ値を維持し、且つサンプリングポイントが追加されている又は除去されていることに呼応して前記バッファ値をアップデートするよう構成された請求項1記載の画像処理装置。
  18. 前記非周期サンプリングポイントのセットの前記決定された位置及び/又は前記サンプルされたデータ値のセットを格納するデータストアを更に具備し、
    前記処理回路は、前記画像データセットを改良するための改良処理を実行するよう構成され、前記改良処理は、データポイントを前記非周期サンプリングポイントのセットに及び/又は前記データストアに格納された前記サンプルされたデータ値のセットに、追加又は除去を含む請求項1記載の画像処理装置。
  19. 前記データストアは、バッファを具備する請求項18記載の画像処理装置。
  20. 前記取得は、サーバ又はその他の遠隔ソースからネットワークを介して、前記非均一性マップ、前記非周期サンプリングポイントのセットの前記位置、前記生成されたサンプルされたデータ値、のうちの少なくとも一つを受け取ることを具備し、
    前記処理回路は、前記サーバ又は前記その他の遠隔ソースから離れたローカルコンピュータで前記集約処理を使用して前記画像データセットの前記生成を少なくとも実行するよう構成された請求項1記載の画像処理装置。
  21. 前記ボリュームデータは、コンピュータ断層撮影(computed tomography:CT)データ、磁気共鳴(magnetic resonance:MR)データ、X線データ又はその他の医用撮像データを具備する請求項1記載の画像処理装置。
  22. 前記処理回路は、前記ボリュームデータに基づいた前記非均一性マップを取得すること、前記非均一性マップから前記非周期サンプリングポイントの前記位置決定を実行すること、のうちの少なくとも一方で学習済みニューラルネットワーク又はその他の機械学習処理を使用するよう構成された請求項1記載の画像処理装置。
  23. ボリュームデータから画像を生成する画像生成方法であって、
    ボリュームデータセットを取得すること、
    前記ボリュームデータセットに基づいた非均一性マップを取得すること、
    前記非均一性マップを使用して非周期サンプリングポイントのセットの位置を決定すること、
    前記ボリュームデータセットから、前記非周期サンプリングポイントの前記決定された位置に基づいてサンプルされたデータ値のセットを生成すること、
    前記サンプルされたデータ値のセットから画像データポイントのセットを生成するために、集約処理を実行することで画像データセットを生成すること、
    を具備する画像生成方法。
JP2019196422A 2019-05-20 2019-10-29 画像処理装置及び画像生成方法 Active JP7479818B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/417,263 US11158114B2 (en) 2019-05-20 2019-05-20 Medical imaging method and apparatus
US16/417,263 2019-05-20

Publications (2)

Publication Number Publication Date
JP2020191061A JP2020191061A (ja) 2020-11-26
JP7479818B2 true JP7479818B2 (ja) 2024-05-09

Family

ID=73453804

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019196422A Active JP7479818B2 (ja) 2019-05-20 2019-10-29 画像処理装置及び画像生成方法

Country Status (2)

Country Link
US (1) US11158114B2 (ja)
JP (1) JP7479818B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11670063B2 (en) 2020-11-20 2023-06-06 Samsung Electronics Co., Ltd. System and method for depth map guided image hole filling

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006099422A (ja) 2004-09-29 2006-04-13 Konica Minolta Medical & Graphic Inc 画像処理装置、およびプログラム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7301538B2 (en) 2003-08-18 2007-11-27 Fovia, Inc. Method and system for adaptive direct volume rendering
JP2006055213A (ja) 2004-08-17 2006-03-02 Konica Minolta Medical & Graphic Inc 画像処理装置、及びプログラム
DE602006005005D1 (de) * 2005-08-26 2009-03-12 Philips Intellectual Property Verfahren zur erzeugung eines 2-d-bildes eines 3-d-objekts
US7843452B2 (en) 2006-10-24 2010-11-30 Siemens Medical Solutions Usa, Inc. Progressive refinement for texture-based volume rendering
JP5942216B2 (ja) 2011-10-12 2016-06-29 東芝メディカルシステムズ株式会社 X線ct装置及び画像処理装置
US9035945B1 (en) * 2011-11-15 2015-05-19 Intrinsic Medical Imaging, LLC Spatial derivative-based ray tracing for volume rendering
US9639771B2 (en) 2013-09-06 2017-05-02 Sharp Kabushiki Kaisha Image processing device
US9730643B2 (en) * 2013-10-17 2017-08-15 Siemens Healthcare Gmbh Method and system for anatomical object detection using marginal space deep neural networks
US9846973B2 (en) 2013-11-26 2017-12-19 Fovia, Inc. Method and system for volume rendering color mapping on polygonal objects
US11010956B2 (en) 2015-12-09 2021-05-18 Imagination Technologies Limited Foveated rendering
US10249075B2 (en) * 2016-06-03 2019-04-02 Siemens Healthcare Gmbh Presampled photon maps for Monte-Carlo volume renderings

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006099422A (ja) 2004-09-29 2006-04-13 Konica Minolta Medical & Graphic Inc 画像処理装置、およびプログラム

Also Published As

Publication number Publication date
JP2020191061A (ja) 2020-11-26
US20200372700A1 (en) 2020-11-26
US11158114B2 (en) 2021-10-26

Similar Documents

Publication Publication Date Title
US20230215060A1 (en) Apparatus and method for visualizing digital breast tomosynthesis and other volumetric images
EP3511908B1 (en) Hybrid interactive rendering of medical images with physically based rendering and direct volume rendering
US8698806B2 (en) System and method for performing volume rendering using shadow calculation
US9984493B2 (en) Method and system for volume rendering based on 3D image filtering and real-time cinematic rendering
US8244018B2 (en) Visualizing a 3D volume dataset of an image at any position or orientation from within or outside
US11049289B2 (en) Systems and methods to semi-automatically segment a 3D medical image using a real-time edge-aware brush
US10026220B2 (en) Layered lightfields for occlusion handling
JP2006526834A (ja) ボリューム・レンダリング用の適応画像補間
EP2353141B1 (en) One-click correction of tumor segmentation results
JP7237623B2 (ja) 医用画像診断装置、医用画像処理装置及び医用画像処理プログラム
CN108573523B (zh) 用于分割体积渲染的方法和系统
JP7479818B2 (ja) 画像処理装置及び画像生成方法
US9035945B1 (en) Spatial derivative-based ray tracing for volume rendering
US12086979B2 (en) Multi-phase filter
US9082217B1 (en) Avoidance-based ray tracing for volume rendering
JP2019209149A (ja) 医用画像処理装置、及びレンダリング方法
US20240257448A1 (en) Technique for dynamically adapting an exposure value in interactive rendering
EP3358529A2 (en) Lightfield rendering based on depths from physically-based volume rendering
JP6739374B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220720

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20230106

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230905

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20231027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240326

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240424

R150 Certificate of patent or registration of utility model

Ref document number: 7479818

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150