JP2024052409A - 画像処理装置、画像処理方法、及びプログラム - Google Patents

画像処理装置、画像処理方法、及びプログラム Download PDF

Info

Publication number
JP2024052409A
JP2024052409A JP2022159105A JP2022159105A JP2024052409A JP 2024052409 A JP2024052409 A JP 2024052409A JP 2022159105 A JP2022159105 A JP 2022159105A JP 2022159105 A JP2022159105 A JP 2022159105A JP 2024052409 A JP2024052409 A JP 2024052409A
Authority
JP
Japan
Prior art keywords
image
viewpoint
display
organ
cross
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022159105A
Other languages
English (en)
Inventor
友香 大山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2022159105A priority Critical patent/JP2024052409A/ja
Priority to US18/472,270 priority patent/US20240112395A1/en
Publication of JP2024052409A publication Critical patent/JP2024052409A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/008Cut plane or projection plane definition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/028Multiple view windows (top-side-front-sagittal-orthogonal)

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Processing Or Creating Images (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

【課題】簡単な操作で切断面の側方視点画像を確認することができる画像処理装置、画像処理方法、及びプログラムを提供する。
【解決手段】プロセッサを備え、プロセッサは、3次元画像により示される臓器に対する切断面の設定を受け付け、3次元画像に基づくレンダリングにより生成され、かつ臓器を示す第1表示画像であって、設定された切断面の法線と交差する方向から切断面を見る側方視点が、レンダリングの視点として設定された側方視点画像を第1表示画像として出力することが可能である画像処理装置。
【選択図】図10

Description

本開示の技術は、画像処理装置、画像処理方法、及びプログラムに関する。
特許文献1には、画像誘導手術システムが記載されている。特許文献1では、仮想カメラが、周囲の解剖学的構造、及び解剖学的構造に展開されている被追跡手術用器具の仮想カメラ視野を提供するために、患者の解剖学的構造の3Dモデルに対して位置決めされ得る。手術用器具が非常に狭い解剖学的通路又は腔内で使用されているなどの場合、仮想カメラによって提供される視覚背景が制限され得る。更なる配置柔軟性をもたせるために、仮想カメラを提供するIGS(image-guided surgery)システムは、特定のセグメントを隠すこと、又は特定のセグメントを半透明にすることを含み得る、3Dモデルの異なるセグメント又は領域の可変視覚特性を定義する入力を受信する。そのようなシステムによって、仮想カメラ視野によって提供された3Dモデルの視野を、より関連性が低いセグメントを除去するか若しくは目立たせないようにするか、より関連性が高いセグメント(例えば、重要な患者の解剖学的構造)を表示するか若しくは強調するか、又はこれらの両方を行うように修正することができる。
特開2021-166706号公報
本開示の技術に係る一つの実施形態は、簡単な操作で切断面の側方視点画像を確認することができる画像処理装置、画像処理方法、及びプログラムを提供する。
本開示の技術に係る第1の態様は、プロセッサを備え、プロセッサは、3次元画像により示される臓器に対する切断面の設定を受け付け、3次元画像に基づくレンダリングにより生成され、かつ臓器を示す第1表示画像であって、設定された切断面の法線と交差する方向から切断面を見る側方視点が、レンダリングの視点として設定された側方視点画像を第1表示画像として出力することが可能である画像処理装置である。
本開示の技術に係る第2の態様は、3次元画像により示される臓器に対する切断面の設定を受け付けること、及び、3次元画像に基づくレンダリングにより生成され、かつ臓器を示す第1表示画像であって、設定された切断面の法線と交差する方向から切断面を見る側方視点が、レンダリングの視点として設定された側方視点画像を第1表示画像として出力することを可能とすることを含む画像処理方法である。
本開示の技術に係る第3の態様は、コンピュータに、3次元画像により示される臓器に対する切断面の設定を受け付けること、及び、3次元画像に基づくレンダリングにより生成され、かつ臓器を示す第1表示画像であって、設定された切断面の法線と交差する方向から切断面を見る側方視点が、レンダリングの視点として設定された側方視点画像を第1表示画像として出力することを可能とすることを含む処理を実行させるためのプログラムである。
医療業務支援装置の概略構成を示す概念図である。 医療業務支援装置の電気系のハードウェア構成の一例を示すブロック図である。 抽出部の処理内容の一例を示す概念図である。 表示画像生成部の処理内容の一例を示す概念図である。 表示画像生成部の処理内容の一例を示す概念図である。 切断面の指定が受け付けられる態様の一例を示す概念図である。 切断後の臓器画像が表示装置に表示される態様の一例を示す概念図である。 視点導出部及び表示画像生成部の処理内容の一例を示す概念図である。 表示画像生成部の処理内容の一例を示す概念図である。 側方視点画像及び断面画像が表示装置に表示される態様の一例を示す概念図である。 腹腔鏡を用いた手術が行われる態様の一例を示す模式図である。 側方視点画像及び断面画像が更新される態様の一例を示す概念図である。 画像処理の流れの一例を示すフローチャートである。 画像処理の流れの一例を示すフローチャートである。 側方視点画像及び断面画像が表示装置に表示される態様の一例を示す概念図である。 側方視点画像及び断面画像が更新される態様の一例を示す概念図である。 腹腔鏡を用いた手術が行われる態様の一例を示す模式図である。 視点導出部の処理内容の一例を示す概念図である。 視点導出部の処理内容の一例を示す概念図である。 視点導出部の処理内容の一例を示す概念図である。 視点導出部及び表示画像生成部の処理内容の一例を示す概念図である。 視点導出部及び表示画像生成部の処理内容の一例を示す概念図である。 医療業務支援システムの概略構成を示す概念図である。
添付図面に従って本開示の技術に係る画像処理装置、画像処理方法、及びプログラムの実施形態の一例について説明する。
[第1実施形態]
一例として図1に示すように、医療業務支援装置10は、画像処理装置12、受付装置14、及び表示装置16を備えており、ユーザ18によって使用される。ここで、ユーザ18としては、医療業務支援装置10の使用者であって、例えば、医師及び/又は技師等が挙げられる。なお、医療業務支援装置10の使用者は、例えば、受付装置14の操作者や、医療業務支援装置10においてユーザIDとパスワード等の管理情報が保持され、受付装置14を介して入力された情報と管理情報に基づいて承認するログイン処理等によって、医療業務支援装置10にログインしたユーザIDの対象者等が挙げられる。
医療業務支援装置10は、例えば、実際の手術に先だって、手術内容のシミュレーションを含めたプランニングを行うために使用される。手術は、一例として内視鏡下手術であり、より具体的には腹腔鏡下手術である。腹腔鏡下手術のシミュレーションを行うに際しては、事前に、MRI(Magnetic Resonance Imaging)装置などのモダリティ11によって、被検者の体内の3次元画像38が取得される。なお、3次元画像38を取得するモダリティ11としては、CT(Computed Tomography)装置、超音波装置などでもよい。3次元画像38は、画像データベース13に格納される。医療業務支援装置10は、ネットワーク17を介して画像データベース13に接続されており、画像データベース13から3次元画像38を取得し、3次元画像38に基づいて手術内容のシミュレーション環境をユーザ18に提供する。
画像処理装置12には、受付装置14が接続されている。受付装置14は、ユーザ18からの指示を受け付ける。受付装置14は、キーボード20及びマウス22等を有している。受付装置14によって受け付けられた指示は、プロセッサ24によって取得される。図1に示すキーボード20及びマウス22は、あくまでも一例に過ぎない。受付装置14として、キーボード20又はマウス22のいずれか一方のみを備えても良い。また、受付装置14として、例えば、キーボード20及び/又はマウス22に代えて、近接入力を受け付ける近接入力装置、音声入力を受け付ける音声入力装置、及び、ジェスチャー入力を受け付けるジェスチャー入力装置のうちの少なくとも1つを適用してもよい。近接入力装置は、例えば、タッチパネルやタブレット等である。
画像処理装置12には、表示装置16が接続されている。表示装置16としては、例えば、EL(Electro-Luminescence)ディスプレイ又は液晶ディスプレイ等が挙げられる。表示装置16は、画像処理装置12の制御下で、各種情報(例えば、画像及び文字等)を表示する。
一例として図2に示すように、医療業務支援装置10は、画像処理装置12、受付装置14、及び表示装置16の他に、通信I/F(Interface)30、外部I/F32、及びバス34を備えている。
画像処理装置12は、プロセッサ24、ストレージ26、及びRAM(Random Access Memory)28を備えている。プロセッサ24、ストレージ26、RAM28、通信I/F30、及び外部I/F32は、バス34に接続されている。画像処理装置12は、本開示の技術に係る「画像処理装置」及び「コンピュータ」の一例であり、プロセッサ24は、本開示の技術に係る「プロセッサ」の一例である。
プロセッサ24には、メモリが接続されている。メモリは、ストレージ26及びRAM28を含む。プロセッサ24は、例えば、CPU(Central Processing Unit)及びGPU(Graphics Processing Unit)を有する。GPUは、CPUの制御下で動作し、画像に関する処理の実行を担う。
ストレージ26は、各種プログラム及び各種パラメータ等を記憶する不揮発性の記憶装置である。ストレージ26としては、例えば、フラッシュメモリ(例えば、EEPROM(electrically erasable and programmable read only memory)及びSSD(Solid State Drive)等)及び/又はHDD(Hard Disk Drive)が挙げられる。なお、フラッシュメモリ及びHDDは、あくまでも一例に過ぎず、フラッシュメモリ、HDD磁気抵抗メモリ、及び強誘電体メモリのうちの少なくとも1つをストレージ26として用いてもよい。
RAM28は、一時的に情報が記憶されるメモリであり、プロセッサ24によってワークメモリとして用いられる。RAM28としては、例えば、DRAM(Dynamic Random Access Memory)又はSRAM(Static Random Access Memory)等が挙げられる。
通信I/F30は、ネットワーク(図示省略)に接続されている。ネットワークは、例えば、LAN(Local Area Network)及びWAN(Wide Area Network)等のうちの少なくとも1つで構成されていても良い。ネットワークには、外部装置(図示省略)等が接続されており、通信I/F30は、ネットワークを介して外部通信装置との間の情報の授受を司る。外部通信装置は、例えば、CT装置、MRI装置、パーソナル・コンピュータ、及びスマートデバイス等のうちの少なくとも1つを含んでもよい。例えば、通信I/F30は、プロセッサ24からの要求に応じた情報を、ネットワークを介して外部通信装置に送信する。また、通信I/F30は、外部通信装置から送信された情報を受信し、受信した情報を、バス34を介してプロセッサ24に出力する。
外部I/F32は、医療業務支援装置10の外部に存在する外部装置(図示省略)との間の各種情報の授受を司る。外部装置は、例えば、スマートデバイス、パーソナル・コンピュータ、サーバ、USB(Universal Serial Bus)メモリ、メモリカード、及びプリンタ等のうちの少なくとも1つであってもよい。外部I/F32の一例としては、USBインタフェースが挙げられる。USBインタフェースには、外部装置が直接的又は間接的に接続される。
ストレージ26には、画像処理プログラム36が記憶されている。画像処理プログラム36は、3次元画像38に基づいて手術内容のシミュレーションの環境を提供するためのプログラムである。プロセッサ24は、ストレージ26から画像処理プログラム36を読み出し、読み出した画像処理プログラム36をRAM28上で実行することにより画像処理を行う。画像処理は、プロセッサ24が抽出部24A、表示画像生成部24B、制御部24C、視点導出部24Dとして動作することによって実現される。抽出部24Aは3次元画像38から、シミュレーションの対象となる臓器の画像を抽出する。表示画像生成部24Bは、3次元画像38に基づいて、後述するレンダリング画像46及び断面画像57など、表示装置16に表示するための表示画像を生成する。視点導出部24Dは、3次元画像38を投影面に投影するレンダリングを行う際の視点を導出する。なお、画像処理プログラム36は、本開示の技術に係る「プログラム」の一例である。
手術内容のシミュレーションとして、例えば、腹腔鏡下手術において癌などの悪性腫瘍を臓器から切除する手術の切除シミュレーションを行う場合は、3次元画像38から生成した3次元臓器モデルを用いて、切除部位の適切な切断の仕方について検討が行われる。検討内容としては、切除対象の臓器の周囲に対する影響の有無の他、切除対象の臓器の内部にある内部器官に対する影響の有無についての検討が行われる。
詳細は後述するが、このように切除シミュレーションにおいては、注目する観点があり、切除部位を見る視点として、切断面を側方から見る側方視点の使用頻度が高い。ここで、側方視点とは、切断面の法線と交差する視線方向から見る視点をいう。例えば、膵臓の内部には膵管があるように、臓器の内部には、内部器官が含まれており、臓器の切断面に存在する内部器官を確認するためには、切断面の側方視点が有用である。
切除部位を側方視点から見た画像である側方視点画像を表示するためには、従来は、ユーザは設定した切除部位の位置を確認しながら、視点の細かな設定を手動で行う必要があり、ユーザビリティの観点で改良の余地があった。そこで、本開示の技術では、簡単な操作で切断面の側方視点画像の確認を行えるようにしている。以下において、3次元画像38に基づいて切除対象の臓器の側方視点画像を生成する一連の処理について説明する。
一例として図3に示すように、ストレージ26には、画像データベース13から取得された3次元画像38が記憶されている。3次元画像38は、複数の2次元スライス画像40が積み重ねられたボリュームデータであり、3次元的な画素の単位である複数のボクセルVによって構成されている。また、図3に示す例では、2次元スライス画像40として、横断面(すなわち、アキシャル断面)の2次元スライス画像が示されているが、これに限らず、3次元画像38からは、冠状面(すなわち、コロナル断面)の2次元スライス画像を抽出することも可能であるし、矢状面(すなわち、サジタル断面)の2次元スライス画像を抽出することも可能である。3次元画像38を規定している全てのボクセルVの各々の位置は3次元座標で特定される。また、3次元画像38の各ボクセルVに対しては、例えば、臓器ごとの固有の識別子が付与され、臓器ごとの識別子には、不透明度、赤(R)、緑(G)及び青(B)の色情報が設定されている(以下、これらを「ボクセルデータという」)。不透明度及び色情報は、適宜変更することが可能である。
抽出部24Aは、ストレージ26から3次元画像38を取得し、取得した3次元画像38から3次元臓器画像42を抽出する。3次元臓器画像42は、切除対象の臓器を含む一部の臓器を示す3次元画像である。例えば、3次元画像38には、複数の臓器のそれぞれに固有の識別子が付与されている。3次元臓器画像42は、受付装置14によって、切除対象の臓器を含む一部の臓器が指定されることで3次元画像38から抽出される。例えば、抽出部24Aは、受付装置14によって受け付けられた識別子に対応する3次元臓器画像42を3次元画像38から抽出する。図3に示す例では、3次元臓器画像42の一例として、膵臓を示す画像42A1が示されている。また、3次元臓器画像42には、膵臓に隣接する血管を示す画像42B、及び腎臓を示す画像42Cが含まれている。3次元臓器画像42は、本開示の技術に係る「3次元画像」の一例である。
なお、ここでは、3次元臓器画像42の一例として、膵臓を示す画像42A1及びその周辺臓器並びに血管を示す画像を例示しているが、これは、あくまでも一例に過ぎず、肝臓、心臓及び/又は肺等の他の臓器を示す画像であってもよい。また、固有の識別子を用いて3次元臓器画像42が抽出される方法は、あくまでも一例に過ぎず、受付装置14を介してユーザ18によって指定された3次元画像38の領域が3次元臓器画像42として抽出部24Aによって抽出される方法であってもよいし、AI(artificial intelligence)方式及び/又はパターンマッチング方式等による画像認識処理を用いて3次元臓器画像42が抽出部24Aによって抽出される方法であってもよい。
一例として図4に示すように、表示画像生成部24Bは、レンダリング画像生成処理を行う。表示画像生成部24Bは、レイキャスティングを行うことで、投影面44に3次元臓器画像42を投影するレンダリングを行う。投影面44に投影される投影画像を、レンダリング画像46と呼ぶ。表示装置16の画面は二次元であるため、表示装置16の画面に3次元画像38を表示する際には、このようなレンダリングが行われる。
図4は、レンダリングを説明するための模式図である。投影面44は、予め設定された解像度で規定された仮想的な平面である。レンダリングの際には、3次元臓器画像42を見る視点48が設定され、表示画像生成部24Bは、設定された視点48に基づいてレンダリング画像46を生成する。図4は、平行投影法を示している。平行投影法においては、投影面44と平行な面内に設定された複数の視点48から仮想的な複数の光線50を3次元臓器画像42に投射するレイキャスティングを行うことにより、複数の光線50上のボクセルデータに対応する画素値を投影面44に投影し、投影画像であるレンダリング画像46を得る。投影面44の各画素(すなわち、ピクセル)は、各光線50上のボクセルデータに対応する画素値を有する。3次元臓器画像42を貫く光線50上のボクセルデータは複数存在するが、例えば、3次元臓器画像42の表面を投影する場合は、光線50と交差する3次元臓器画像42の表面のボクセルデータに対応する画素値が投影面44に投影される。また、レンダリング画像46において、3次元臓器画像42において設定された切断面を示す場合は、設定された切断面の表面のボクセルデータに対応する画素値が投影面44に投影される。
3次元臓器画像42に対する各視点48の位置は、例えば、受付装置14によって受け付けられた指示に従って変更され、これによって、様々な方向から3次元臓器画像42を観察した場合のレンダリング画像46が投影面44に投影される。なお、投影面44に投影されたレンダリング画像46は、例えば、表示装置16に表示されたり、既定の記憶デバイス(例えば、ストレージ26等)に記憶されたりする。なお、ここでは、平行投影法によるレンダリングの例を挙げているが、これはあくまでも一例にすぎず、例えば、1つの視点から放射状に複数の光線を投射する透視投影法によるレンダリングが行われてもよい。また、レンダリングに際しては単純な3次元画像の2次元画像への変換に加えて、陰影をつけるシェーディング処理などを施してもよい。
一例として図5に示すように、表示画像生成部24Bは、レンダリング画像生成処理に加えて、断面画像生成処理を行う。表示画像生成部24Bは、3次元画像38から断面画像57を生成する。表示画像生成部24Bは、3次元画像38において指定された任意の断面を構成する複数の画素(すなわち、ピクセル)を取得する。表示画像生成部24Bは、3次元画像38の任意の断面における画素値から断面画像57を生成する。例えば、断面として、切除対象となる対象臓器を含む断面が指定された場合は、表示画像生成部24Bは、対象臓器を含む断面を示す断面画像57を生成する。
図5に示す例では、被検体の断面として、体軸であるZ軸を法線方向とするアキシャル断面52、アキシャル断面52と直交し、かつ被検体の前後方向に沿った断面であるサジタル断面54、及びアキシャル断面52と直交し、かつ被検体の左右方向に沿った断面であるコロナル断面56が示されている。また、断面画像57として、アキシャル断面52に対応したアキシャル断面画像58、サジタル断面54に対応したサジタル断面画像60、及びコロナル断面56に対応したコロナル断面画像62が示されている。アキシャル断面52は、本開示の技術に係る「アキシャル断面」の一例であり、サジタル断面54は、本開示の技術に係る「サジタル断面」の一例であり、コロナル断面56は、本開示の技術に係る「コロナル断面」の一例である。図5に示す例では、被検体として人体を例示したが、本開示の技術はこれに限定されず、被検体は、犬、猫等の他の動物等でも良い。
なお、以下の説明において、体軸方向を矢印Zで示し、矢印Zが指し示す矢印Z方向を上方向とし、その逆方向を下方向とする。幅方向を、矢印Zと直交する矢印Xで示し、矢印Xが指し示す方向を左方向とし、その逆方向を右方向とする。前後方向を、矢印Z及び矢印Xと直交する方向を矢印Yで示し、矢印Yが指し示す方向を前方向とし、その逆を後方向とする。すなわち、人体において頭側が上方向であり、その反対側の足側が下方向である。また、人体において腹部側が前方向であり、その反対側の背中側が後方向である。また、以下において、上側、下側、左側、右側、前側、及び後側といった側を用いた表現も方向を用いた表現と意味は同じである。
一例として図6に示すように、制御部24Cは、表示画像生成部24Bから切断前のレンダリング画像46及び断面画像57を取得する。また、制御部24Cは、切断前のレンダリング画像46及び断面画像57を表示装置16に表示させるための情報を出力する。具体的には、制御部24Cは、切断前のレンダリング画像46及び断面画像57を表示するためのGUI(Graphical User Interface)制御を行うことで、表示装置16に対して画面68を表示させる。
図6に示す例では、画面68において、画面上部に断面画像57として、アキシャル断面画像58、サジタル断面画像60、及びコロナル断面画像62が表示されている。また、画面68の左下には、切断前のレンダリング画像46が表示されている。ここでは、初期の切断前のレンダリング画像46として、3次元臓器画像42を前側から見た場合の切断前のレンダリング画像46が表示されている。
さらに、画面68の右下には、案内メッセージ表示領域68Aが表示されている。案内メッセージ表示領域68Aには、案内メッセージ68A1が表示される。案内メッセージ68A1は、切断前のレンダリング画像46を介した3次元臓器画像42に対する切断面の設定をユーザ18に案内するメッセージである。図6に示す例では、案内メッセージ68A1の一例として、「切断面を設定して下さい。」というメッセージが示されている。
画面68にはポインタ64が表示されている。ユーザ18は、受付装置14(ここでは、一例として、マウス22)を介してポインタ64を操作することで切断前のレンダリング画像46に対して切断面を示すライン66を形成する。図6に示す例では、ポインタ64が操作されることによって切断前のレンダリング画像46に対して、直線的なライン66が形成される。ここでは、膵臓を示す画像46Aに対して、切断面が設定されている。切断前のレンダリング画像46に対して形成された切断面は、受付装置14によって受け付けられた指示に従って確定される。制御部24Cは、切断前のレンダリング画像46を通じて設定された切断面の位置情報を、3次元臓器画像42の位置情報に変換し、3次元臓器画像42に対して切断面を設定する。このような操作及び処理を通じて、制御部24Cは、3次元臓器画像42により示される臓器に対する仮想的な切断面の設定を受け付ける。
切断面の設定が終了すると、一例として図7に示すように、制御部24Cによって切断面の位置座標を示す情報である断面位置情報70が表示画像生成部24Bに出力される。表示画像生成部24Bは、断面位置情報70が示す切断面43において、対象臓器が切断された3次元臓器画像42Aを生成する。図7に示す例では、膵臓を示す3次元臓器画像42Aが、切断面43で切断された例が示されている。表示画像生成部24Bは、切断後の3次元臓器画像42Aから切断後のレンダリング画像46を生成する。切断後のレンダリング画像46において、切断された膵臓を示す画像46B(以下単に「切断膵臓画像46B」とも称する)には、切断面45が示されている。また、切断膵臓画像46Bは、膵管を示す画像46B1(以下単に「膵管画像46B1」とも称する)を含んでいる。なお、本実施形態において、切断後の3次元臓器画像42Aは、切断前の3次元臓器画像42から臓器を構成する特定の組織(例えば、膵管)以外を除いた3次元臓器画像としているが、これはあくまでも一例に過ぎない。切断後の3次元臓器画像42Aに残す特定の組織としては、血管等でもよい。特定の組織は、切断面の設定が終了した後に、切断面に含まれる、又は、切断面から所定の範囲内にある組織を抽出しても良い。また、特定の組織は、ユーザが指定することが出来てもよいし、予め切断面の設定を行う臓器毎に特定の組織が対応付けられたテーブルとして管理されていてもよい。さらに、切断後の3次元臓器画像42Aは、切断前の3次元臓器画像42から切断される全ての組織を取り除いてもよい。また、切断後の3次元臓器画像42Aは、特定の組織以外の組織を除いた3次元臓器画像42としているが、特定の組織以外の組織のレンダリングの際の透過率を特定の組織の透過率に対して相対的に上げるとしてもよい。
表示画像生成部24Bは、切断膵臓画像46Bを含む切断後のレンダリング画像46を示す情報を制御部24Cへ出力する。制御部24Cは、表示装置16に対して画面68を更新させる。これにより、切断後のレンダリング画像46において、切断膵臓画像46Bが表示される。また、制御部24Cは、画面68に、側方視点キー68Bを表示させる。側方視点キー68Bは、切断後のレンダリング画像46における初期の視点(例えば、前側から見た視点)を側方視点に切り替えるためのソフトキーである。言い換えると、側方視点キー68Bは、側方視点でのレンダリング画像46(後述する側方視点画像47)の作成の指示を受けつけるソフトキーである。ユーザ18は、受付装置14(ここでは、一例として、マウス22)を介して側方視点キー68Bをオンする。切断後のレンダリング画像46は、本開示の技術に係る「第1表示画像」の一例である。
側方視点キー68Bがオンされると、一例として図8に示すように、視点導出部24Dは、視点導出処理を行う。視点導出処理は、側方(すなわち、切断面43の法線方向と交差する方向)から切断面43を見る視点を導出する処理である。視点導出部24Dは、断面位置情報70に基づいて、視点位置Pを導出する。視点位置Pは、例えば、切断面43を含む平面Aに含まれる点である。視点位置Pは、一例として、次のように求められる。視点位置Pは、切断面43の位置座標において、最も下側の座標に位置する点Dと、切断面43の中心点Cを結ぶ直線L上に位置する。中心点Cは、例えば、3次元臓器画像42を細線化処理することで得られる中心線CLと平面Aとの交点である。ここで、細線化処理とは、3次元臓器画像42を仮想的に細くして一本の線にする処理である。視点位置Pは、直線L上において、点Dから予め定められた距離離れた位置に設定される。この場合、視点位置Pからの視線の方向は、直線Lに沿って中心点Cを見る方向であるが、これはあくまでも一例に過ぎない。例えば、視線の方向は体軸方向であって、切断面43を見る方向であってもよい。なお、中心線CLは、切断面の設定後に、切断後の3次元臓器画像42Aを細線化処理することで求めても良い。
なお、点Dが複数存在する場合(すなわち、切断面43において最も下側の点が複数存在する場合)には、中心点Cとの距離が最も短い点Dを選んで、中心点Cと点Dを結ぶ直線Lを設定してもよい。このように切断面43の中心点Cを基準に側方視点が設定された側方視点画像47を生成することにより、切断面43を側方視点画像47内の中央に表示することができる。また、その他の例として、点Dが複数存在する場合に、中心点Cとの距離が最も長い点Dを選んで、中心点Cと点Dとを結ぶ直線Lを設定してもよい。これにより、切断面43全体を側方視点画像47に収めるためには、側方視点位置Pが切断面43から離れる方向に移動することになるため(つまり、ズームアウトするため)、側方視点画像47の画角の範囲外となる臓器の領域を少なくすることができる。
視点導出部24Dは、断面位置情報70が示す切断面43の位置座標を取得する。そして、視点導出部24Dは、ストレージ26から視点演算式72を取得する。視点演算式72は、切断面43の位置座標を独立変数とし、視点位置Pの位置座標を従属変数とする演算式である。視点導出部24Dは、断面位置情報70に基づいて、視点演算式72を用いて視点位置Pの位置座標を導出する。視点導出部24Dは、導出した結果を視点位置情報74として表示画像生成部24Bに出力する。
なお、ここでは、視点演算式72が用いられることで、視点位置Pの座標が導出される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、視点演算式72に代えて、視点導出テーブルが用いられることで、視点位置Pの座標が導出されてもよい。視点導出テーブルは、切断面43の位置座標を入力値とし、視点位置Pの位置座標を出力値とするテーブルである。
表示画像生成部24Bは、視点位置情報74に基づいてレンダリング画像生成処理を行うことにより、側方視点から見た場合のレンダリング画像46(すなわち、側方視点画像47)を生成する。表示画像生成部24Bは、視点位置情報74が示す視点位置Pからレイキャスティングを行って、投影面Bに対して、切断された3次元臓器画像42Aをレンダリングする。これにより、側方視点画像47が生成される。側方視点画像47には、切断膵臓画像46B及び膵管画像46B1が含まれている。また、側方視点画像47は、例えば、切断面45を下方から見る画像である。側方視点画像47は、本開示の技術に係る「側方視点画像」及び「第1表示画像」の一例である。
一例として図9に示すように、表示画像生成部24Bは、視点導出部24Dから取得した視点位置情報74に基づいて断面画像生成処理を行うことにより、断面画像57を更新する。具体的には、表示画像生成部24Bは、更新後の断面画像57Aとして、視点位置情報74が示す視点位置Pの位置座標が含まれるアキシャル断面画像58A、サジタル断面画像60A、及びコロナル断面画像62Aを生成する。また、表示画像生成部24Bは、断面画像57Aにおいて視点位置Pを表示する視点表示処理を行う。表示画像生成部24Bは、断面画像57Aの各画素が有する位置情報に基づいて、断面画像57Aにおける視点位置Pに応じた位置を示す視点インジケータ76を表示する。図9に示す例では、視点インジケータ76として、多角形状の図形マークが表示される例が示されている。断面画像57Aは、本開示の技術に係る「人体の断面を示す断面画像」の一例である。なお、視点インジケータ76の形状は特にこれに限られず、視点位置を示すことが出来れば、例えば、円、アスタリスク、又は、十字形状等のいずれかであっても良い。
一例として図10に示すように、表示画像生成部24Bは、側方視点画像47及び断面画像57Aを制御部24Cに出力する。制御部24Cは、側方視点画像47及び断面画像57Aを含む画面68を生成し、画面68を示す情報を表示装置16へ出力する。具体的には、制御部24Cは、側方視点画像47及び断面画像57Aを表示するためのGUI(Graphical User Interface)制御を行うことで、表示装置16に対して画面68を表示させる。GUI制御は、本開示の技術に係る「表示制御」の一例である。画面68は、本開示の技術に係る「表示画面」の一例である。
図10に示す例では、画面68において、画面上部に断面画像57Aとして、アキシャル断面画像58A、サジタル断面画像60A、及びコロナル断面画像62Aが表示されている。アキシャル断面画像58A、サジタル断面画像60A、及びコロナル断面画像62Aのそれぞれには、視点位置Pに応じた位置に視点インジケータ76が表示されている。また、画面68の左下には、側方視点画像47が表示されている。ユーザは、画面68において、側方視点画像47によって切断面45を側方(ここでは、下方)から見た状態を確認することができる。アキシャル断面画像58A、サジタル断面画像60A、及びコロナル断面画像62Aは、本開示の技術に係る「複数の断面画像」の一例である。
図10に示す例では、切断膵臓画像46Bと膵管画像46B1が表示されている。このため、切断面43と膵管画像46B1とが交差する様子が分かりやすくなっている。これにより、切断面43において膵管がどのように切断されるかをユーザが把握することが容易となる。また、図11に示すように、腹腔鏡Fを用いた手術では、腹腔鏡Fは、患者PTの腹部Kの下方からポートHを介して挿入される場合が多い。このため、腹腔鏡Fを用いた手術では、腹腔鏡Fに搭載された術野カメラGを介して、膵臓Sを下方から見た状態で手術が行われることが多くなる。従って、本実施形態では、下側から見た側方視点画像47を表示することで、実際の手術での見え方に近い視点の画像をユーザに示すことができる。
また、画面68には、通常視点キー68Cが表示されている。通常視点キー68Cは、側方視点を元の視点(例えば、初期の視点)に切り替えるためのソフトキーである。ユーザ18は、受付装置14(ここでは、一例として、マウス22)を介して通常視点キー68Cをオンする。通常視点キー68Cがオンされると、制御部24Cは、画面68を更新し、初期の視点での画面68(図7参照)を表示する。このように、ユーザの指示に応じて、画面68において側方視点とそれ以外の視点とを切り替えることが可能となっている。
また、一例として図12に示すように、画面68には、拡大表示キー68D及び縮小表示キー68Eが表示されている。拡大表示キー68Dは、側方視点画像47を拡大して表示(すなわち、ズームイン)するためのソフトキーである。縮小表示キー68Eは、側方視点画像47を縮小して表示(すなわち、ズームアウト)するためのソフトキーである。ユーザ18は、受付装置14(ここでは、一例として、マウス22)を介して縮小表示キー68Eをオンする。縮小表示キー68Eがオンされると、制御部24Cは、画面68を更新する。具体的には、先ず、レンダリング画像生成処理が行われて、側方視点画像47が更新される。この場合、視点位置Pが更新前の視点位置Pよりも切断面43から離れた位置に設定され、視点位置Pからレイキャスティングが行われることで、側方視点画像47が更新される。視点位置Pの移動距離は、予め定められてもよく、例えば、現在の切断面43から視点位置Pまでの距離の1.5倍の距離である。なお、切断面43から視点位置Pまでの距離とは、例えば、切断面43の中心点Cと視点位置Pとの距離、又は、切断面43と視点位置Pとの最短距離として導出される。
また、断面画像生成処理が行われることで、断面画像57Aが更新される。更新後の断面画像57Bは、移動後の視点位置Pの位置座標が含まれるアキシャル断面画像58B、サジタル断面画像60B、及びコロナル断面画像62Bを含む。さらに、視点表示処理が行われて、断面画像57における視点位置Pに応じた位置に視点インジケータ76Aが表示される。
そして、画面68には、更新後の側方視点画像47A1及び更新後の断面画像57Bが表示される。このように、切断面43から体表面側に向けて視点位置Pを移動させることにより、切断面43から視点位置Pを離して切断面43をズームアウトした状態で確認することが可能となる。さらに、図12に示す例では、視点位置Pが体表面と交差する位置まで視点位置Pを移動させている。このような視点位置Pの移動に伴って、断面画像57における視点インジケータ76の表示位置も移動し、体表面上のどこに視点位置Pがあるかが表示される。このように、本開示の技術では、設定された側方視点(更新前の側方視点画像47の視点を一例として示す)の視線方向の延長線(ズームアウトによる移動先の視点位置Pを一例として示す)と体表面とが交差する交差位置を表示可能である。上述したように、腹腔鏡Fを用いた手術では、体表面から腹腔鏡Fを挿入する。このため、視点位置Pと体表面とが交差する位置が表示されることで、現在の側方視点画像47の見え方となる腹腔鏡Fの挿入位置(すなわち、ポートHの位置)をユーザが把握することができる。なお、拡大表示キー68D又は縮小表示キー68Eの少なくともいずれかに代えて、図12に示す例の視点位置Pが体表面と交差する位置まで視点Pを移動させ、その視点位置Pに基づいて更新した側方視点画像47A1又は更新後の断面画像57Bの少なくともいずれかを示す体表位置表示キー(図示省略)を設けても良い。具体的には、体表位置表示キーの入力を受付装置14が受け付けた場合に、プロセッサ24は、3次元画像38に基づく体表面情報(例えば、体表面の位置座標を示す情報)を取得する。そして、プロセッサ24は、視点位置Pと切断面43に基づく視線方向の延長線と体表面情報により示される体表面の位置との交差位置を導出する。さらに、プロセッサ24は、交差位置に基づきレンダリングを行った側方視点画像47A1を生成し、さらに交差位置を示す視点インジケータ76Aを含む断面画像57Bを生成する。
なお、本例では、側方視点画像47の視点位置Pの移動に連動して、断面画像57の視点インジケータ76を移動させることにより、側方視点の視線方向の延長線と体表面との交差位置を表示する例で示している。しかし、交差位置の表示は、側方視点画像47の視点位置Pの移動に連動しなくてもよい。すなわち、更新前の側方視点画像47の側方視点が設定された場合において、設定された側方視点の延長線と体表面とが交差する交差位置を、設定された側方視点とは別に、断面画像57A上で表示するだけでもよい。
また、ユーザ18は、受付装置14(ここでは、一例として、マウス22)を介して拡大表示キー68Dをオンする。拡大表示キー68Dがオンされると、制御部24Cは、画面68を更新する。この場合、縮小表示キー68Eがオンされた場合とは反対に、視点位置Pが切断面43にズームインして、視点位置Pが切断面43に近付く位置に設定される。この状態で、レンダリング画像生成処理、断面画像生成処理、及び視点表示処理が行われて、画面68が更新される。
次に、医療業務支援装置10の作用について図13及び図14を参照しながら説明する。
先ず、医療業務支援装置10のプロセッサ24によって実行される画像処理の流れの一例について図13及び図14を参照しながら説明する。図13及び図14に示す画像処理の流れは、本開示の技術に係る「画像処理方法」の一例である。
図13に示す画像処理では、先ず、ステップST10で、抽出部24Aは、ストレージ26から3次元画像38を取得する。3次元画像38は、切除対象(例えば、膵臓)を含んでいる。ステップST10の処理が実行された後、画像処理は、ステップST12へ移行する。
ステップST12において、抽出部24Aは、ステップST10で取得した3次元画像38から切除対象を含む3次元臓器画像42を抽出する。ステップST12の処理が実行された後、画像処理は、ステップST14へ移行する。
ステップST14において、表示画像生成部24Bは、ステップST12で抽出した3次元臓器画像42を初期の視点(例えば、対象臓器を前方から見る視点)からレンダリングする。これにより、レンダリング画像46が生成される。ステップST14の処理が実行された後、画像処理は、ステップST16へ移行する。
ステップST16において、表示画像生成部24Bは、3次元画像38に基づいて断面画像57を生成する。具体的には、対象臓器を含むアキシャル断面画像58、サジタル断面画像60、及びコロナル断面画像62を生成する。ステップST16の処理が実行された後、画像処理は、ステップST18に移行する。
ステップST18において、制御部24Cは、ステップST14において生成されたレンダリング画像46及びステップST16において生成された断面画像57を表示装置16に対して並列表示させる。ステップST18の処理が実行された後、画像処理は、ステップST20に移行する。
ステップST20において、制御部24Cは、受付装置14を介して切断面43の指定が受け付けられたか否かを判定する。ステップST20において、切断面43の指定が受け付けられていない場合は、判定が否定されて、再度ステップST20の処理が実行される。ステップST20において、切断面43の指定が受け付けられた場合は、判定が肯定されて、画像処理は、ステップST22へ移行する。
ステップST22において、制御部24Cは、受付装置14を介して断面位置情報70を取得する。ステップST22の処理が実行された後、画像処理は、ステップST24へ移行する。
ステップST24において、表示画像生成部24Bは、制御部24Cによって取得された断面位置情報70に基づいて、切断面43において切断された3次元臓器画像42Aをレンダリングする。これにより、切断膵臓画像46Bを含む切断後のレンダリング画像46が得られる。ステップST24の処理が実行された後、画像処理は、ステップST26へ移行する。
ステップST26において、制御部24Cは、切断膵臓画像46Bを含む切断後のレンダリング画像46及び切断後の断面画像57Aを表示装置16に対して並列表示させる。ステップST26の処理が実行された後、画像処理は、ステップST28に移行する。
ステップST28において、制御部24Cは、受付装置14を介して視点の切り替えが受け付けられたか否かを判定する。ステップST28において、視点の切り替えが受け付けられていない場合は、判定が否定されて、画像処理は、ステップST38へ移行する。ステップST28において、視点の切り替えが受け付けられた場合は、判定が肯定されて、画像処理は、ステップST30へ移行する。
ステップST30において、制御部24Cは、受付装置14を介して側方視点への切り替えが受け付けられたか否かを判定する。ステップST30において、側方視点への切り替えが受け付けられていない場合は、判定が否定されて、画像処理は、ステップST38へ移行する。ステップST30において、側方視点への切り替えが受け付けられた場合は、判定が肯定されて、画像処理は、ステップST32へ移行する。
ステップST32において、視点導出部24Dは、ステップST22において制御部24Cによって取得された断面位置情報70に基づいて、視点位置Pを導出する。ステップST32の処理が実行された後、画像処理は、ステップST34へ移行する。
ステップST34において、表示画像生成部24Bは、ステップST32において導出された視点位置Pを示す視点位置情報74に基づいて、視点位置Pから見た、切断面43において切断された3次元臓器画像42Aをレンダリングする。これにより、側方視点画像47が得られる。ステップST34の処理が実行された後、画像処理は、図14に示すステップST36へ移行する。
図14に示すステップST36において、制御部24Cは、画面68を視点の切り替えに応じて更新する。具体的には、制御部24Cは、側方視点画像47と通常視点のレンダリング画像46とを切り替える。また、制御部24Cは、視点位置Pに応じて断面画像57Aを生成する。ステップST36の処理が実行された後、画像処理は、ステップST38へ移行する。
ステップST38において、制御部24Cは、画像処理が終了する条件(以下、「終了条件」と称する)を満足したか否かを判定する。終了条件の一例としては、画像処理を終了させる指示が受付装置14によって受け付けられた、との条件が挙げられる。ステップST38において、終了条件を満足していない場合は、判定が否定されて、画像処理はステップST26へ移行する。ステップST38において、終了条件を満足した場合は、判定が肯定されて、画像処理が終了する。
以上説明したように、本実施形態に係る医療業務支援装置10では、プロセッサ24において、3次元臓器画像42における切断面43の設定が受付装置14を介して受け付けられ、さらに、切断面43を側方から見る視点位置Pからレンダリングされることで得られた側方視点画像47が表示装置16に対して出力可能とされている。臓器の切除シミュレーションにおいては、3次元臓器画像42において切断面43が設定され、切断面43の状態確認が行われる。切断面43の状態確認では、切断面43から突出する構造物(例えば、切除対象となる臓器が膵臓である場合の膵管)の状態が確認される場合が多い。これは、一般に、臓器の一部を切除する術式において、切断面43によって構造物がどのように切断されるかを把握することが重要なためである。この場合において、構造物の突出状態を見る場合には、切断面43の側方から見る視点が有用である。側方から見る視点によって、切断面43と構造物との交差する位置、角度等が把握できるからである。このため、切除シミュレーションにおいては、切断面43を側方視点から見る頻度が多い。そこで、本構成では、ユーザが試行錯誤して切断面43に対する視点を調整する場合と比較して、簡単な操作で切断面43の側方視点画像47をユーザが確認することができる。例えば、側方視点キー68Bを選択することで、切断面43の側方視点画像47に切り替えることができるので、簡単な操作で側方視点画像47をユーザが確認することができる。
また、本実施形態に係る医療業務支援装置10では、プロセッサ24において、断面画像57Aが生成され、さらに断面画像57Aには、側方視点画像47における視点位置Pに応じた位置に視点インジケータ76が表示される。また、プロセッサ24は、表示装置16に対して側方視点画像47と断面画像57Aとを出力可能とされている。さらに、プロセッサ24は、表示装置16に対して側方視点画像47と断面画像57Aと並列的に表示させるGUI制御を行う。これにより、視点位置Pが断面画像57Aに表示されるので、側方視点画像47の視点が切断面43をどの方向から見る視点なのかを把握することができる。なお、並列的に表示させるとは、時間軸的に実質的に同一のタイミングで表示することを示し、表示画面におけるレイアウトを制限するものでは無い。本実施形態のように1つの表示画面にそれぞれ異なる大きさで配置してもよいし、表示画面を4分割し、同列および同行に、側方視点画像47と複数の断面画像57Aのいずれかが配置されてもよい。また、複数の表示装置を用いて、一の表示画面に側方視点画像47を表示し、他の表示画面に断面画像57Aを表示するとしても良い。
また、例えば、切除シミュレーションは、設定した切断面43に対応して、実際の切除の際に術野画像を撮影する腹腔鏡Fの位置を考慮しながら行われる。そのため、断面画像57A内に、側方視点画像47の視点位置Pに応じた位置に視点インジケータ76を表示することで、腹腔鏡Fによって撮影可能かなどの判断をすることが容易となる。
また、本実施形態に係る医療業務支援装置10では、断面画像57Aとしてアキシャル断面画像58A、サジタル断面画像60A、及びコロナル断面画像62Aにおける視点の位置が表示されるので、断面画像57Aが1つである場合と比較して、側方視点画像47の視点が3次元的に把握され、切断面43をどの方向から見る視点なのかを把握しやすい。
また、本実施形態に係る医療業務支援装置10では、断面画像57Bにおいて、体表面と視点インジケータ76が交差する位置が表示される。上述したように、腹腔鏡Fを用いた手術では、患者PTの腹部Kに設定されたポートHから腹腔鏡Fが挿入される。体表面と視点インジケータ76とが交差する位置が表示されることで、切断面43に応じて設定された視点位置Pが、腹腔鏡Fの挿入位置として設定することが可能かの判断がし易くなる。例えば、切断面43に対してある側方視点が設定されても、体表面と視点インジケータ76との交差位置が、ポートHの設定が困難な位置であれば、ユーザは、別の側方視点を検討するとの判断ができる。
また、本実施形態に係る医療業務支援装置10では、プロセッサ24において、画面68における側方視点画像47における視点位置Pが変更された場合に、変更後の断面画像57Bにおける視点インジケータ76Aの位置が連動して変更される。このように、断面画像57における視点インジケータ76Aの位置と、側方視点画像47において、切断面45を見る視点位置Pの位置とが連動して変更される。このため、例えば、側方視点画像47の視点位置Pを変更した場合でも、体内においてどこから切断面43を見ているのか把握しやすい。
また、本実施形態に係る医療業務支援装置10では、側方視点画像47と通常視点(例えば、前側から3次元臓器画像42Aを見る視点)から見たレンダリング画像46とを切り替えることができる。これにより、側方視点画像47とは異なる視点のレンダリング画像46に切り替えることで、切断面43の適否以外の検討に用いられる画像(例えば、臓器全体を見る画像)を表示できる。また、例えば、本実施形態では、通常視点キー68Cを選択することで、切断面43のレンダリング画像46に切り替えることができるので、簡単な操作でレンダリング画像46をユーザが確認することができる。
なお、上記第1実施形態において、切断面43の設定を受け付けた後、初期の視点として前方から切断後の3次元臓器画像42Aを見た視点が設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、初期の視点として後方からの視点が設定されてもよいし、ユーザが予め設定した視点であってもよい。なお、初期の視点位置Pは、次のように設定されてもよい。すなわち、臓器ごとに初期の視点が対応付けられた視点テーブルを用いて、切除対象の臓器がユーザにより選択され、又は、切除対象の臓器が3次元画像38から画像処理によって特定された後に、切除対象の臓器情報と視点テーブルに基づいて設定されても良い。
また、上記第1実施形態において、切断面43の設定を受け付けた後、初期の視点から見た切断後のレンダリング画像46が表示され、ユーザの指示に応じて側方視点画像47に切り替えられる形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、切断面43の設定を受け付けた後、側方視点画像47が表示される形態であってもよい。
また、上記第1実施形態において、側方視点画像47の視点位置Pを移動させる場合に、拡大表示キー68D又は縮小表示キー68Eが選択される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、拡大表示キー68D及び縮小表示キー68Eに代えて、視点位置Pの位置を調整するスライダが表示され、ポインタ64を介してスライダの位置が調整されることで、視点位置Pの位置が調整されてもよい。また、受付装置14としてのマウス22がホイールを備える場合には、ホイールの回転に応じて視点位置Pの調整が行われてもよい。
また、上記第1実施形態において、側方視点画像47の視点位置Pが移動されることで、断面画像57に表示される視点インジケータ76の位置も連動する形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、視点インジケータ76の位置の変更に連動して、側方視点画像47の視点位置Pが変更されてもよい。
また、上記第1実施形態において、視点位置Pは、直線L上において、点Dから予め定められた距離離れた位置に設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、視点位置Pは、体軸方向において、点Dから予め定められた距離離れた位置に設定されてもよい。
また、上記第1実施形態において、直線Lは、中心点Cを通る形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、直線Lは、3次元臓器画像42Aの重心を通る直線であってもよい。
また、上記第1実施形態において、視点位置Pが直線L上に位置する形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、切断面43の外縁から予め定められた距離離れた境界線上において、最も下側に位置する座標の点を視点位置Pとしてもよい。
また、上記第1実施形態において、医療業務支援装置10は、切断面43の指定を受け付ける前に、断面画像57を生成し、レンダリング画像46と断面画像57を並列表示するとしているが、断面画像57を生成し表示することは必須ではない。医療業務支援装置10は、例えば、切断面43の指定を受け付ける前に、断面画像57を生成せずに、レンダリング画像46のみを表示し、レンダリング画像46に対して切断面43の指定を受け付けるとしてもよい。
また、上記第1実施形態において、医療業務支援装置10は、切断面43の指定を受け付ける前に断面画像57を生成し、切断面43の指定を受け付けた後に、切断後のレンダリング画像46と断面画像57を並列表示する形態例を挙げたが、これに限らない。医療業務支援装置10は、切断面43の指定を受け付けた後に、断面画像57を生成するとしてもよいし、断面画像57を生成せずに、切断後のレンダリング画像46のみを表示するとしてもよい。
さらに、上記第1実施形態において、医療業務支援装置10は、側方視点への切替を受け付ける前に断面画像57を生成し、側方視点への切替を受け付けた後に、側方視点画像47と側方視点を含む断面画像57Aとを更新して表示する形態例を挙げたが、これに限られない。医療業務支援装置10は、側方視点への切替を受け付けた後に、側方視点を含む断面画像57Aを生成するとしても良いし、側方視点を含む断面画像57Aを生成せずに、側方視点画像47のみを表示するとしてもよい。
また、上記第1実施形態において、断面画像57Aとして、アキシャル断面画像58A、サジタル断面画像60A、及びコロナル断面画像62Aの3つの断面画像が表示される場合を例示したが特にこれに限られない。アキシャル断面画像58A、サジタル断面画像60A、又は、コロナル断面画像62Aの少なくともいずれかのみが断面画像47Aとして表示されてもよい。なお、断面画像57、及び、断面画像57Bについても同様である。
[第2実施形態]
上記第1実施形態では、側方視点として下方から切断面43を見る視点が設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。本第2実施形態では、側方視点として、上方から切断面43を見る視点(すなわち、上方視点)と下方から切断面43を見る視点(すなわち、下方視点)とが設定され、上方視点と下方視点とを切り替えることが可能である。
一例として図15に示すように、視点導出部24Dは、断面位置情報70に基づいて、上方視点の視点位置P1(以下単に「上方視点位置P1」とも称する)と下方視点の視点位置P2(以下単に「下方視点位置P2」とも称する)とを導出する。
上方視点位置P1は、例えば、次のように求められる。上方視点位置P1は、切断面43の位置座標において、最も上側の座標に位置する点D1と、切断面43の中心点Cを結ぶ直線L1上に位置する。また、下方視点位置P2は、切断面43の位置座標において、最も下側の座標に位置する点D2と、切断面43の中心点Cを結ぶ直線L2上に位置する。なお、上方視点位置P1及び下方視点位置P2の求め方は、あくまでも一例に過ぎず、直線L1又はL2上において、上方視点位置P1及び下方視点位置P2が、中心点Cを挟んで互いに反対側に位置する態様であってもよい。中心点Cは、本開示の技術に係る「基準点」の一例であり、直線Lは、本開示の技術に係る「基準線」の一例である。
具体的には、視点導出部24Dは、ストレージ26から上方視点演算式72A及び下方視点演算式72Bを取得する。上方視点演算式72Aは、切断面43の位置座標を独立変数とし、上方視点位置P1の位置座標を従属変数とする演算式である。また、下方視点演算式72Bは、切断面43の位置座標を独立変数とし、下方視点位置P2の位置座標を従属変数とする演算式である。視点導出部24Dは、断面位置情報70に基づいて、上方視点演算式72Aを用いて上方視点位置P1を導出する。視点導出部24Dは、断面位置情報70に基づいて、下方視点演算式72Bを用いて下方視点位置P2を導出する。
なお、上方視点演算式72A及び下方視点演算式72Bに代えて、上方視点導出テーブル及び下方視点導出テーブルが用いられることで、上方視点位置P1及び下方視点位置P2が求められてもよい。上方視点導出テーブルは、切断面43の位置座標を入力値とし、上方視点位置P1の位置座標を出力値とするテーブルである。また、下方視点導出テーブルは、切断面43の位置座標を入力値とし、下方視点位置P2の位置座標を出力値とするテーブルである。
視点導出部24Dは、上方視点位置P1及び下方視点位置P2の位置座標を示す視点位置情報74を表示画像生成部24Bへ出力する。表示画像生成部24Bは、上方視点位置P1から3次元臓器画像42Aを見た画像である上方視点画像47Aを生成する。また、表示画像生成部24Bは、下方視点位置P2から3次元臓器画像42Aを見た画像である下方視点画像47Bを生成する。表示画像生成部24Bは、上方視点画像47A及び下方視点画像47Bを制御部24Cへ出力する。
ユーザによって側方視点キー68B(図7参照)が選択されると、側方視点への切り替えが行われる。一例として図16に示すように、この場合において、制御部24C(図7等参照)の制御下において、画面68には、下方視点画像47Bが表示される。すなわち、側方視点の初期位置は、下方視点位置P2である。さらに、下方視点位置P2に対応した位置に視点インジケータ76を配置した断面画像57が表示される。また、画面68には、上側視点切替キー68Fが表示される。上側視点切替キー68Fがポインタ64を介してユーザによって選択されると、下方視点画像47Bは、上方視点画像47Aに切り替わる。さらに、上方視点位置P1に対応した位置に視点インジケータ76の配置した断面画像57が表示される。画面68には、下側視点切替キー68Gが表示される。下側視点切替キー68Gがポインタ64を介してユーザによって選択されると、上方視点画像47Aは、下方視点画像47Bに切り替わる。このようにユーザは、側方視点として上方視点位置P1と下方視点位置P2とを切り替えることが可能であり、切り替えに応じて上方視点画像47Aと下方視点画像47Bとが画面68に表示される。上方視点画像47Aは、本開示の技術に係る「第1側方視点画像」の一例であり、下方視点画像47Bは、本開示の技術に係る「第2側方視点画像」の一例である。上方視点画像47A及び下方視点画像47Bは、本開示の技術に係る「第1表示画像」及び「複数の側方視点画像」の一例である。
一例として図17に示すように、一般に、腹腔鏡Fに搭載される術野カメラGは、患者PTの体軸方向(すなわち、Z軸方向)において臓器(例えば、膵臓S)の上側と下側の2つの視点に対応して配置される場合が多い。なお、上側に視点が配置される場合は、斜視鏡Rが用いられる。このように、臓器を切断する場合の術式において、術野カメラGは、切断面43の上側から又は下側から臓器を見る場合が多い。このため、本構成では、側方視点として上方視点位置P1と下方視点位置P2とを切り替えることが可能であり、切り替えに応じて上方視点画像47Aと下方視点画像47Bとが画面68に表示される。
以上説明したように、本第2実施形態に係る医療業務支援装置10では、プロセッサ24において、切断面43を上側から見た上方視点画像47Aと切断面43を下側から見た下方視点画像47Bとを出力可能とされている。従って、本構成では、切断面43を見る方向が異なる複数の側方視点画像47を切り替え表示できるので、側方視点画像47が一つの場合と比較して、切断面43の状況を確認しやすい。
なお、断面位置情報70により示される切断面43が、体軸方向と直交している平面である場合、切断面上の体軸方向(上下方向)の位置座標が全て同一となるため、当該対軸方向の位置座標に基づき上方視点位置P1および下方視点位置P2を取得することが出来ないため、体軸方向に代えて、前後方向又は左右方向の位置座標を用いてもよい。例えば、前後方向を用いる場合、最も前側の位置座標の点Eを視点位置Pとした前方視点画像47Eと、最も後ろ側の位置座標の点Fを視点位置Pとした後方視点画像47Fとを、上方視点画像47Aおよび下方視点画像47Bの代わりに提示するとしてもよい。また、切断面の輪郭上で中心点Cに最も近い点Gを取得し、点Gを視点位置Pとした第1視点画像47Gと、中心点Cを挟んで点Gに反対側の点Hを取得し、点Hを視点位置Pとした第2視点画像47Hを、上方視点画像47Aおよび下方視点画像47Bの代わりに提示するとしてもよい。
また、本2実施形態に係る医療業務支援装置10では、側方視点画像47として上方視点画像47Aと下方視点画像47Bとを含んでいる。一般に、腹腔鏡Fに搭載される術野カメラGは、体軸方向において切断面43の上側と下側の2つの視点に対応して配置される場合が多い。すなわち、臓器を切断する場合の術式において、切断面43の上側から又は下側から見る場合が多い。従って、本構成では、切除シミュレーションにおいても実際の術野カメラGの2つの視点から、切断面43の状況を確認しやすい。
また、本第2実施形態に係る医療業務支援装置10では、上方視点位置P1と下方視点位置P2とは切断面43において設定された直線L上に設定される。上方視点位置P1と下方視点位置P2とが、直線Lにおいて、切断面43の互いに反対側に配置されるので、切断面43に対する上方視点位置P1と下方視点位置P2との位置関係が把握しやすくなる。
また、本第2実施形態に係る医療業務支援装置10では、側方視点に切り替えた場合の初期位置として下方視点位置P2が設定される。腹腔鏡Fを用いた手術では、一般に、術野カメラGを対象臓器の下側に配置し、対象臓器を下側から見る場合が多い。このため、切除シミュレーションでは、下方視点画像47Bを用いて切断面43の確認を行うことが多い。本構成では、初期位置として下方視点位置P2が設定されるので、使用頻度の高い視点から見た画像が先ず表示されることで、ユーザの利便性が向上する。
なお、上記第2実施形態では、側方視点に切り替えた場合の初期位置として下方視点位置P2が設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、初期位置として上方視点位置P1が設定されてもよい。すなわち、上記第2実施形態では、上方視点位置P1及び下方視点位置P2の一方を初期位置として設定することが可能である。上述したように、腹腔鏡Fを用いた手術では、対象臓器を上側から見る場合と下側から見る場合のいずれかの視点が採られる場合が多い。従って、使用頻度の高い上方視点位置P1と下方視点位置P2の一方を初期位置として設定することで、ユーザの利便性が向上する。
また、上記第2実施形態では、上方視点位置P1と下方視点位置P2の一方を初期位置として設定する形態例を挙げて説明したが、本開示の技術はこれに限定されない。上方視点位置P1に基づく上方視点画像47Aと、下方視点位置P2に基づく下方視点画像47Bとが並列表示されてもよい。また、上方視点画像47A及び下方視点画像47Bに加えて、上方視点位置P1及び下方視点位置P2の両方が示される断面画像57が並列表示されてもよい。なお、上方視点画像47A及び下方視点画像47Bを並列表示する場合において、視点位置の変更操作があった場合、変更操作は、上方視点画像47A及び下方視点画像47Bで連動してもよいし、それぞれ個別に変更できるとしてもよい。変更操作が連動するとは、例えば、拡大表示キー68Dの入力を受け付けた場合、上方視点画像47A及び下方視点画像47Bの両方において、画像内の切断面45が拡大されるように上方視点位置P1および下方視点位置P2が設定される態様である。
また、上記第2実施形態では、上方視点位置P1及び下側視点位置P2の2つの視点位置が切り替え可能な形態例を挙げて説明したが、本開示の技術はこれに限定されない。上方視点位置P1及び下方視点位置P2以外にも、複数の視点位置Pが切断面43の側方に存在し、これらが切り替え可能であってもよい。
(第1変形例)
上記第1及び第2実施形態では、側方視点は、切断面43に応じて設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。本第1変形例では、ユーザの入力に応じて側方視点が設定される。
一例として図18に示すように、先ず、視点導出部24Dは、断面位置情報70に基づいて、複数の視点位置Pを導出する。具体的には、視点導出部24Dは、切断面43の外縁から予め定められた距離離れた複数の位置を視点位置Pの候補として導出する。図18に示す例では、6個の視点位置Pの候補が導出された例が示されている。視点導出部24Dは、複数の視点位置Pの位置座標を示す視点位置情報74を制御部24C(図7等参照)へ出力する。
制御部24Cの制御下において、画面68には、視点位置Pを決定するための画像69が表示されている。画像69には、対象臓器に対する視点位置Pの候補が示されている。ユーザは、ポインタ64を介して視点位置Pの候補の中から視点位置Pを指定する。そして、画面68に表示された視点決定キー68B1を選択する。この結果、視点位置Pが決定されて、指定された視点位置Pから見た側方視点画像47が生成される。そして、側方視点画像47は、画像69に代えて画面68に表示される。
以上説明したように、本第1変形例では、側方視点は、ユーザの入力に基づいて設定される。このため、側方視点が常に固定された場合と比較して、ユーザの求める側方視点が設定されやすくなる。この結果、より適切な視点位置Pから見た側方視点画像47が表示される。
(第2変形例)
上記第1及び第2実施形態では、側方視点は、切断面43に応じて設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。本第2変形例では、ユーザが入力した条件に応じて側方視点が設定される。
一例として図19に示すように、側方視点キー68Bがオンされると、条件入力ウィンドウ68Hが表示される。条件入力ウィンドウ68Hには、側方視点を指定するための条件を示すメッセージが表示されている。図19に示す例では、「切断面からの距離」、及び「切断面に対する位置」のメッセージが表示されている。ユーザは、側方視点を指定するための条件を受付装置14を介して入力する。
視点導出部24Dは、ユーザにより入力された側方視点を指定するための条件を示す情報である側方視点条件情報78を取得する。視点導出部24Dは、側方視点条件情報78及び断面位置情報70に基づいて、視点位置情報74を生成する。具体的には、視点導出部24Dは、切断面43に対して、側方視点条件情報78により示される距離だけ離れた位置を視点位置Pとして導出する。視点導出部24Dは、視点位置情報74を表示画像生成部24Bに出力する。これにより、表示画像生成部24Bにおいて、ユーザが指定した側方視点から見た側方視点画像47が生成される。
以上説明したように、本第2変形例では、側方視点は、ユーザの指定した条件に基づいて設定される。このため、側方視点が常に固定された場合と比較して、ユーザの求める側方視点が設定されやすくなる。この結果、より適切な視点位置Pから見た側方視点画像47が表示される。
(第3変形例)
上記第1及び第2実施形態では、側方視点は、切断面43に応じて設定される形態例を挙げて説明したが、本開示の技術はこれに限定されない。本第3変形例では、対象臓器及び術式に応じて側方視点が設定される。
一例として図20に示すように、側方視点キー68Bがオンされると、術式入力ウィンドウ68Iが表示される。ユーザは、術式入力ウィンドウ68Iに切除シミュレーションにおいて検討する術式を受付装置14を介して入力する。術式は、例えば、斜視鏡Rを用いる術式が挙げられる(図17参照)。
視点導出部24Dは、術式を示す情報である術式情報80を取得する。また、視点導出部24Dは、抽出部24Aから対象臓器を示す情報である臓器情報82を取得する。視点導出部24Dは、術式情報80、臓器情報82、及び断面位置情報70に基づいて、視点位置情報74を生成する。
具体的には、一例として図21に示すように、視点導出部24Dは、ストレージ26から視点演算式72を取得する。視点演算式72は、術式に応じた数値、臓器に応じた数値、及び切断面43の座標を独立変数とし、視点位置Pの座標を従属変数とする演算式である。視点導出部24Dは、術式情報80、臓器情報82、及び断面位置情報70に基づいて、視点演算式72を用いて視点位置Pを導出する。表示画像生成部24Bは、視点位置情報74により示される視点位置Pから見た側方視点画像47を生成する。
なお、視点演算式72に代えて、視点導出テーブルを用いて視点位置Pの座標が求められてもよい。視点導出テーブルは、術式に応じた数値、臓器に応じた数値、及び切断面43の位置座標を入力値とし、視点位置Pの位置座標を出力値とするテーブルである。
以上説明したように、本第3変形例では、側方視点は、切除シミュレーションの対象となる臓器情報82及び術式情報80に基づいて設定される。このため、側方視点が常に固定された場合と比較して、切除シミュレーションの内容に応じた側方視点が設定されやすくなる。この結果、より適切な視点位置Pから見た側方視点画像47が表示される。
なお、本第3変形例では、側方視点が、術式情報80及び臓器情報82に基づいて設定される形態例を挙げて説明したが、本開示の技術は、これに限定されない。側方視点は、術式情報80又は臓器情報82の何れかに基づいて設定されてもよい。また、上記第1変形例及び第2変形例で説明したユーザの入力に基づく情報と、術式情報80及び/又は臓器情報82とに基づいて側方視点が設定されてもよい。
(第4変形例)
上記第1及び第2実施形態では、側方視点画像47は、3次元臓器画像42Aをレンダリングすることで得られる形態例を挙げて説明したが、本開示の技術はこれに限定されない。本第4変形例では、側方視点画像47に対して、術野カメラGの光学特性を反映する処理である光学特性反映処理が施される。
一例として図22に示すように、視点導出部24Dは、視点導出処理を行うことにより、断面位置情報70に基づいて、視点位置情報74を生成する。表示画像生成部24Bは、視点位置情報74に基づいて、3次元臓器画像42Aをレンダリングすることで側方視点画像47を生成する。また、表示画像生成部24Bは、ストレージ26から光学特性情報88を取得する。光学特性情報88は、術野カメラGの光学系(例えば、対物レンズ)の特性を示す情報である。光学特性情報88は、画角情報88A及び歪特性情報88Bを含む。光学特性情報88は、本開示の技術に係る「光学特性情報」の一例である。
画角情報88Aは、術野カメラGにおける画角を示す情報である。表示画像生成部24Bは、画角情報88Aにより示される画角に応じて、側方視点画像47における画角を調整する。また、歪特性情報88Bは、術野カメラGによる撮像において生じる歪を示す情報である。表示画像生成部24Bは、歪特性情報88Bにより示される歪に応じて、側方視点画像47の周辺視野を歪ませる。表示画像生成部24Bは、光学特性反映処理を施した側方視点画像47を出力する。
以上説明したように、本第4変形例では、側方視点画像47に対して、光学特性反映処理が行われる。これにより、術野カメラGの光学特性を反映する特性反映処理を実行するため、切除シミュレーションで利用される側方視点画像47を、実際の術野画像の見え方に近づけることができる。
また、本第4変形例では、光学特性情報88は、画角情報88A及び歪特性情報88Bを含む。さらに、光学特性反映処理は、側方視点画像47に対して画角の調整及び歪の反映を行う処理である。歪み特性及び画角といった光学特性は、色収差、非点収差及びコマ収差などの他の光学特性と比較して、術野カメラGにおける術野画像の見え方に大きな影響を及ぼすので、これらを術野カメラGの光学特性に応じた光学特性反映処理を側方視点画像47に対して行うため、切除シミュレーションで利用される側方視点画像47を、実際の術野画像の見え方に近付けることができる。
なお、上記第4変形例では、画角情報88A及び歪特性情報88Bに基づいて光学特性反映処理が行われる形態例を挙げて説明したが、本開示の技術はこれに限定されない。光学特性反映処理は、画角情報88A及び歪特性情報88Bの何れかに基づいて行われてもよい。
なお、上記各実施形態では、視点位置Pが、切断面43を含む平面Aに含まれる形態例を挙げて説明したが、本開示の技術はこれに限定されない。側方視点画像47によって切断面45の状態(例えば、臓器内の構造物と切断面45の交差の状態)が確認できる位置に視点位置Pがあればよく、視点位置Pは、平面Aに含まれていなくともよい。
また、上記各実施形態では、医療業務支援装置10に含まれる画像処理装置12のプロセッサ24によって画像処理が行われる形態例を挙げて説明したが、本開示の技術はこれに限定されず、画像処理を行うデバイスは、医療業務支援装置10の外部に設けられていてもよい。
この場合、一例として図23に示すように、医療業務支援システム100を用いればよい。医療業務支援システム100は、情報処理装置101と外部通信装置102を備えている。情報処理装置101は、上記実施形態で説明した医療業務支援装置10に含まれる画像処理装置12のストレージ26から画像処理プログラム36が除かれた装置である。外部通信装置102は、例えば、サーバである。サーバは、例えば、メインフレームによって実現される。ここでは、メインフレームを例示しているが、これは、あくまでも一例に過ぎず、サーバは、クラウドコンピューティングによって実現されてもよいし、フォグコンピューティング、エッジコンピューティング、又はグリッドコンピューティング等のネットワークコンピューティングによって実現されてもよい。ここでは、外部通信装置102の一例として、サーバを挙げているが、これは、あくまでも一例に過ぎず、サーバに代えて、少なくとも1台のパーソナル・コンピュータ等を外部通信装置102として用いてもよい。
外部通信装置102は、プロセッサ104、ストレージ106、RAM108、及び通信I/F110を備えており、プロセッサ104、ストレージ106、RAM108、及び通信I/F110は、バス112で接続されている。通信I/F110は、ネットワーク114を介して情報処理装置101に接続されている。ネットワーク114は、例えば、インターネットである。なお、ネットワーク114は、インターネットに限らず、WAN、及び/又は、イントラネット等のLANであってもよい。
ストレージ106には、画像処理プログラム36が記憶されている。プロセッサ104は、RAM108上で画像処理プログラム36を実行する。プロセッサ104は、RAM108上で実行する画像処理プログラム36に従って、上述した画像処理を行う。
情報処理装置101は、外部通信装置102に対して画像処理の実行を要求する要求信号を送信する。外部通信装置102の通信I/F110は、ネットワーク114を介して要求信号を受信する。プロセッサ104は、画像処理プログラム36に従って画像処理を行い、処理結果を通信I/F110を介して情報処理装置101に送信する。情報処理装置101は、外部通信装置102から送信された処理結果(例えば、表示画像生成部24Bによる処理結果)を通信I/F30(図2参照)で受信し、受信した処理結果を表示装置16等の各種装置に対して出力する。
なお、図23に示す例において、外部通信装置102は、本開示の技術に係る「画像処理装置」の一例であり、プロセッサ104は、本開示の技術に係る「プロセッサ」の一例である。
また、画像処理は、情報処理装置101及び外部通信装置102を含む複数の装置によって分散されて行われるようにしてもよい。また、上記実施形態では、医療業務支援装置10のストレージ26に3次元画像38が記憶されているとしたが、外部通信装置102のストレージ106に記憶されており、画像処理を行う前に、外部通信装置102からネットワークを介して取得する様にしても良い。
また、上記実施形態では、ストレージ26に画像処理プログラム36が記憶されている形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、画像処理プログラム36がSSD又はUSBメモリなどの記憶媒体(図示省略)に記憶されていてもよい。記憶媒体は、可搬型のコンピュータ読取可能な非一時的記憶媒体である。記憶媒体に記憶されている画像処理プログラム36は、医療業務支援装置10にインストールされる。プロセッサ24は、画像処理プログラム36に従って画像処理を実行する。
また、ネットワークを介して医療業務支援装置10に接続される他のコンピュータ又はサーバ等の記憶装置に画像処理プログラム36を記憶させておき、医療業務支援装置10の要求に応じて画像処理プログラム36がダウンロードされ、医療業務支援装置10にインストールされるようにしてもよい。つまり、本実施形態で説明したプログラム(すなわち、プログラム製品)は、記録媒体で提供するほか、外部のコンピュータから配信する形態であっても良い。
医療業務支援装置10に接続される他のコンピュータ又はサーバ等の記憶装置、又はストレージ26に画像処理プログラム36の全てを記憶させておく必要はなく、画像処理プログラム36の一部を記憶させておいてもよい。なお、記憶媒体、医療業務支援装置10に接続される他のコンピュータ又はサーバ等の記憶装置、及びその他の外部ストレージは、プロセッサ24に直接的又は間接的に接続されて用いられるメモリとして位置付けられる。
また、上記実施形態では、画像処理装置12のプロセッサ24、ストレージ26、RAM28、及び通信I/F30がコンピュータとして例示されているが、本開示の技術はこれに限定されず、コンピュータに代えて、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、及び/又はPLD(Programmable Logic Device)を含むデバイスを適用してもよい。また、コンピュータに代えて、ハードウェア構成及びソフトウェア構成の組み合わせを用いてもよい。
上記実施形態で説明した第1出力対象選択処理を実行するハードウェア資源としては、次に示す各種のプロセッサを用いることができる。プロセッサとしては、例えば、ソフトウェア、すなわち、プログラムを実行することで、画像処理を実行するハードウェア資源として機能する汎用的なプロセッサであるCPUが挙げられる。また、プロセッサとしては、例えば、FPGA、PLD、又はASICなどの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路が挙げられる。何れのプロセッサにもメモリが内蔵又は接続されており、何れのプロセッサもメモリを使用することで画像処理を実行する。
画像処理を実行するハードウェア資源は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、又はCPUとFPGAとの組み合わせ)で構成されてもよい。また、画像処理を実行するハードウェア資源は1つのプロセッサであってもよい。
1つのプロセッサで構成する例としては、第1に、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが、画像処理を実行するハードウェア資源として機能する形態がある。第2に、SoC(System-on-a-chip)などに代表されるように、画像処理を実行する複数のハードウェア資源を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、画像処理は、ハードウェア資源として、上記各種のプロセッサの1つ以上を用いて実現される。
これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電子回路を用いることができる。また、上記の画像処理はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
以上に示した記載内容及び図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用、及び効果に関する説明は、本開示の技術に係る部分の構成、機能、作用、及び効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容及び図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことは言うまでもない。また、錯綜を回避し、本開示の技術に係る部分の理解を容易にするために、以上に示した記載内容及び図示内容では、本開示の技術の実施を可能にする上で特に説明を要しない技術常識等に関する説明は省略されている。
本明細書において、「A及び/又はB」は、「A及びBのうちの少なくとも1つ」と同義である。つまり、「A及び/又はB」は、Aだけであってもよいし、Bだけであってもよいし、A及びBの組み合わせであってもよい、という意味である。また、本明細書において、3つ以上の事柄を「及び/又は」で結び付けて表現する場合も、「A及び/又はB」と同様の考え方が適用される。
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
上記実施形態に関し、更に以下の付記を開示する。
<付記1>
プロセッサを備え、
上記プロセッサは、
3次元画像により示される臓器に対する切断面の設定を受け付け、
上記3次元画像に基づくレンダリングにより生成され、かつ上記臓器を示す第1表示画像であって、設定された上記切断面の法線と交差する方向から上記切断面を見る側方視点が、上記レンダリングの視点として設定された側方視点画像を上記第1表示画像として出力することが可能である
画像処理装置。
<付記2>
上記プロセッサは、上記臓器を含む人体の断面を示す断面画像であって、上記第1表示画像の上記視点の位置が表示された断面画像を第2表示画像として出力することが可能であり、
表示画面において、上記第1表示画像と上記第2表示画像とを並列的に表示する表示制御を実行する
付記1に記載の画像処理装置。
<付記3>
上記断面画像は、アキシャル断面、コロナル断面、及びサジタル断面のそれぞれの断面を示す複数の断面画像を含む
付記2に記載の画像処理装置。
<付記4>
上記プロセッサは、上記切断面の周囲において見る方向が異なる複数の上記側方視点画像を出力することが可能であり、
上記表示画面に表示される上記第1表示画像として、複数の上記側方視点画像を切り替えて表示することが可能である、
付記1から付記3のいずれか一つに記載の画像処理装置。
<付記5>
上記体軸方向において頭部側を上側、その反対側を下側とした場合において、
複数の上記側方視点画像は、上記切断面を上記上側から見た第1側方視点画像と、上記切断面を上記下側から見た第2側方視点画像とを少なくとも含む
付記4に記載の画像処理装置。
<付記6>
上記第1側方視点画像の第1側方視点と、上記第2側方視点画像の第2側方視点とは、上記切断面内において予め設定された基準点を通る基準線上に設定される
付記5に記載の画像処理装置。
<付記7>
上記第1側方視点と上記第2側方視点の一方を初期位置として設定することが可能である
付記6に記載の画像処理装置。
<付記8>
上記第2側方視点が初期位置として設定されている
付記7に記載の画像処理装置。
<付記9>
設定された上記側方視点の視線方向の延長線と体表面とが交差する交差位置を表示可能である
付記1から付記8のいずれか一つに記載の画像処理装置。
<付記10>
上記側方視点は、ユーザの入力に基づく情報、上記臓器に関する情報、又は上記臓器を切断する術式に関する情報のうちの少なくとも一つに応じて設定される
付記1から付記9のいずれか一つに記載の画像処理装置。
<付記11>
上記プロセッサは、上記表示画面において、上記第1表示画像と上記第2表示画像の一方において、上記視点が変更された場合には、他方の視点を連動して変更する
付記2から付記10のいずれか一つに記載の画像処理装置。
<付記12>
上記プロセッサは、カメラの光学特性を表す光学特性情報を取得し、
上記光学特性情報に基づいて、上記光学特性を上記第1表示画像に反映する特性反映処理を実行する
付記1から付記11のいずれか一つに記載の画像処理装置。
<付記13>
上記光学特性には、歪み特性及び画角の少なくとも1つが含まれており、
上記特性反映処理は、上記歪み特性及び画角の少なくとも1つ上記第1表示画像に反映させる処理である
付記12に記載の画像処理装置。
<付記14>
上記第1表示画像は、上記側方視点とは異なる視点から臓器を見た視点画像と切り替え可能とされている
付記1から付記13のいずれか一つに記載の画像処理装置。
10 医療業務支援装置
11 モダリティ
13 画像データベース
12 画像処理装置
14 受付装置
16 表示装置
17 ネットワーク
18 ユーザ
20 キーボード
22 マウス
24 プロセッサ
24A 抽出部
24B 表示画像生成部
24C 制御部
24D 視点導出部
26 ストレージ
28 RAM
30 通信I/F
32 外部I/F
34 バス
36 画像処理プログラム
38 3次元画像
40 2次元スライス画像
42,42A,42A1 3次元臓器画像
42B,42C,69 画像
43,45 切断面
44 投影面
46 レンダリング画像
46A 画像
46B 切断膵臓画像
46B1 膵管画像
47 側方視点画像
47A 上方視点画像
47B 下方視点画像
48 視点
50 光線
52 アキシャル断面
54 サジタル断面
56 コロナル断面
57 断面画像
58 アキシャル断面画像
60 サジタル断面画像
62 コロナル断面画像
64 ポインタ
66 ライン
68 画面
68A1 案内メッセージ
68A 案内メッセージ表示領域
68B 側方視点キー
68B1 視点決定キー
68C 通常視点キー
68D 拡大表示キー
68E 縮小表示キー
68F 上側視点切替キー
68G 下側視点切替キー
68H 条件入力ウィンドウ
68I 術式入力ウィンドウ
70 断面位置情報
72 視点演算式
72A 上方視点演算式
72B 下方視点演算式
74 視点位置情報
76 アイコン
78 側方視点条件情報
80 術式情報
82 臓器情報
88 光学特性情報
88A 画角情報
88B 歪特性情報
100 医療業務支援システム
101 情報処理装置
102 外部通信装置
104 プロセッサ
106 ストレージ
110 通信I/F
112 バス
114 ネットワーク
A 平面
B 投影面
C 中心点
CL 中心線
D,D1 点
F 腹腔鏡
G 術野カメラ
H ポート
K 腹部
L 直線
P 視点位置
P1 上方視点位置
P2 下方視点位置
PT 患者
S 膵臓
V ボクセル
X,Y,Z 矢印

Claims (16)

  1. プロセッサを備え、
    前記プロセッサは、
    3次元画像により示される臓器に対する切断面の設定を受け付け、
    前記3次元画像に基づくレンダリングにより生成され、かつ前記臓器を示す第1表示画像であって、設定された前記切断面の法線と交差する方向から前記切断面を見る側方視点が、前記レンダリングの視点として設定された側方視点画像を前記第1表示画像として出力することが可能である
    画像処理装置。
  2. 前記プロセッサは、前記臓器を含む人体の断面を示す断面画像であって、前記第1表示画像の前記視点の位置が表示された断面画像を第2表示画像として出力することが可能であり、
    表示画面において、前記第1表示画像と前記第2表示画像とを並列的に表示する表示制御を実行する
    請求項1に記載の画像処理装置。
  3. 前記断面画像は、アキシャル断面、コロナル断面、及びサジタル断面のそれぞれの断面を示す複数の断面画像を含む
    請求項2に記載の画像処理装置。
  4. 前記プロセッサは、前記切断面の周囲において見る方向が異なる複数の前記側方視点画像を出力することが可能であり、
    前記第1表示画像として、複数の前記側方視点画像を切り替えて表示することが可能である、
    請求項1に記載の画像処理装置。
  5. 体軸方向において頭部側を上側、その反対側を下側とした場合において、
    複数の前記側方視点画像は、前記切断面を前記上側から見た第1側方視点画像と、前記切断面を前記下側から見た第2側方視点画像とを少なくとも含む
    請求項4に記載の画像処理装置。
  6. 前記第1側方視点画像の第1側方視点と、前記第2側方視点画像の第2側方視点とは、前記切断面内において予め設定された基準点を通る基準線上に設定される
    請求項5に記載の画像処理装置。
  7. 前記第1側方視点と前記第2側方視点の一方を初期位置として設定することが可能である
    請求項6に記載の画像処理装置。
  8. 前記第2側方視点が初期位置として設定されている
    請求項7に記載の画像処理装置。
  9. 設定された前記側方視点の視線方向の延長線と体表面とが交差する交差位置を表示可能である
    請求項2に記載の画像処理装置。
  10. 前記側方視点は、ユーザの入力に基づく情報、前記臓器に関する情報、又は前記臓器を切断する術式に関する情報のうちの少なくとも一つに応じて設定される
    請求項1に記載の画像処理装置。
  11. 前記プロセッサは、前記表示画面において、前記第1表示画像と前記第2表示画像の一方において、前記視点が変更された場合には、他方の視点を連動して変更する
    請求項2に記載の画像処理装置。
  12. 前記プロセッサは、カメラの光学特性を表す光学特性情報を取得し、
    前記光学特性情報に基づいて、前記光学特性を前記第1表示画像に反映する特性反映処理を実行する
    請求項1に記載の画像処理装置。
  13. 前記光学特性には、歪み特性及び画角の少なくとも1つが含まれており、
    前記特性反映処理は、前記歪み特性及び画角の少なくとも1つ前記第1表示画像に反映させる処理である
    請求項12に記載の画像処理装置。
  14. 前記第1表示画像は、前記側方視点とは異なる視点から臓器を見た視点画像と切り替え可能とされている
    請求項1に記載の画像処理装置。
  15. 3次元画像により示される臓器に対する切断面の設定を受け付けること、及び、
    前記3次元画像に基づくレンダリングにより生成され、かつ前記臓器を示す第1表示画像であって、設定された前記切断面の法線と交差する方向から前記切断面を見る側方視点が、前記レンダリングの視点として設定された側方視点画像を前記第1表示画像として出力することを可能とすること
    を含む画像処理方法。
  16. コンピュータに、
    3次元画像により示される臓器に対する切断面の設定を受け付けること、及び、
    前記3次元画像に基づくレンダリングにより生成され、かつ前記臓器を示す第1表示画像であって、設定された前記切断面の法線と交差する方向から前記切断面を見る側方視点が、前記レンダリングの視点として設定された側方視点画像を前記第1表示画像として出力することを可能とすること
    を含む処理を実行させるためのプログラム。
JP2022159105A 2022-09-30 2022-09-30 画像処理装置、画像処理方法、及びプログラム Pending JP2024052409A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2022159105A JP2024052409A (ja) 2022-09-30 2022-09-30 画像処理装置、画像処理方法、及びプログラム
US18/472,270 US20240112395A1 (en) 2022-09-30 2023-09-22 Image processing device, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022159105A JP2024052409A (ja) 2022-09-30 2022-09-30 画像処理装置、画像処理方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2024052409A true JP2024052409A (ja) 2024-04-11

Family

ID=90471012

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022159105A Pending JP2024052409A (ja) 2022-09-30 2022-09-30 画像処理装置、画像処理方法、及びプログラム

Country Status (2)

Country Link
US (1) US20240112395A1 (ja)
JP (1) JP2024052409A (ja)

Also Published As

Publication number Publication date
US20240112395A1 (en) 2024-04-04

Similar Documents

Publication Publication Date Title
US11750788B1 (en) Augmented reality guidance for spinal surgery with stereoscopic display of images and tracked instruments
US11547499B2 (en) Dynamic and interactive navigation in a surgical environment
Kersten-Oertel et al. The state of the art of visualization in mixed reality image guided surgery
EP2222224B1 (en) Method and system for interactive percutaneous pre-operation surgical planning
KR101206340B1 (ko) 영상수술 리허설 제공방법 및 시스템, 그 기록매체
JP2009531128A (ja) 立体画像誘導の手術ナビゲーションのための方法及び装置
Özgür et al. Preoperative liver registration for augmented monocular laparoscopy using backward–forward biomechanical simulation
JP4786307B2 (ja) 画像処理装置
US20130257910A1 (en) Apparatus and method for lesion diagnosis
CN105956395A (zh) 医学影像处理方法、装置及系统
US20220181035A1 (en) Method and system for adjusting interactive 3d treatment zone for percutaneous treatment
WO2020205714A1 (en) Surgical planning, surgical navigation and imaging system
Chan et al. A virtual surgical environment for rehearsal of tympanomastoidectomy
JP2024052409A (ja) 画像処理装置、画像処理方法、及びプログラム
Klein et al. Visual computing for medical diagnosis and treatment
EP3695380B1 (en) Hypersurface reconstruction of microscope view
JP7172086B2 (ja) 手術シミュレーション装置及び手術シミュレーションプログラム
JP6702751B2 (ja) 医用画像表示装置、医用画像表示システム及びプログラム
JP7444569B2 (ja) 鏡視下手術支援装置、鏡視下手術支援方法、及びプログラム
US20170287159A1 (en) Medical image processing apparatus, medical image processing method, and medical image processing system
JP2023051236A (ja) 切開シミュレーション装置、切開シミュレーション方法、及びプログラム
CN114638933A (zh) 基于三维重建的处理方法、装置、电子设备和存储介质
JP2023051235A (ja) 画像処理装置、画像処理方法、及びプログラム
JP2022155215A (ja) 切開シミュレーション装置、切開シミュレーション方法、及びプログラム
WO2023175001A1 (en) Method for displaying a 3d model of a patient