JP2015087167A - 画像処理方法、画像処理システム - Google Patents
画像処理方法、画像処理システム Download PDFInfo
- Publication number
- JP2015087167A JP2015087167A JP2013224366A JP2013224366A JP2015087167A JP 2015087167 A JP2015087167 A JP 2015087167A JP 2013224366 A JP2013224366 A JP 2013224366A JP 2013224366 A JP2013224366 A JP 2013224366A JP 2015087167 A JP2015087167 A JP 2015087167A
- Authority
- JP
- Japan
- Prior art keywords
- image
- lesion
- information
- gross
- slide
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B21/00—Microscopes
- G02B21/36—Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
- G02B21/365—Control or image processing arrangements for digital or video microscopes
- G02B21/367—Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
- G06T7/0014—Biomedical image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10056—Microscopic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30024—Cell structures in vitro; Tissue sections in vitro
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30092—Stomach; Gastric
Abstract
【課題】グロスから得られる情報と、グロスから採取された複数の標本から得られる情報との対応を視覚的かつ直観的に把握できるようにするための技術を提供する。【解決手段】コンピュータが、病変を含むグロスの異なる位置から採取された複数の標本を撮像して得た複数の標本画像のデータを取得し、前記複数の標本画像のそれぞれから、病変に関する情報を抽出し、前記グロスを表す画像上に前記複数の標本画像のそれぞれから抽出された病変に関する情報を合成した、病理情報画像のデータを生成し、前記病理情報画像を表示装置に表示する。【選択図】図17
Description
本発明は、画像処理方法、画像処理システムに関する。
スライド(プレパラートとも呼ぶ)上の標本をデジタル顕微鏡で撮像してバーチャル・スライド画像(以降、スライド画像と称す)を取得し、これをモニターに表示して観察することが可能なバーチャル・スライドシステムが注目されている(特許文献1)。
また、グロス画像(病変のデジタル画像)とスライド画像(顕微鏡デジタル画像)を区別して管理・表示し、両者を関連付ける病理画像システム技術が知られている(特許文献2)。
また、グロス画像(病変のデジタル画像)とスライド画像(顕微鏡デジタル画像)を区別して管理・表示し、両者を関連付ける病理画像システム技術が知られている(特許文献2)。
特許文献2で示された病理画像システム技術は、グロス画像とスライド画像を関連付けて管理・表示できるが、グロス画像におけるスライド画像の対応領域や、グロス画像とスライド画像の病変の対応関係までは把握できない。
そこで、本発明は、グロスから得られる情報と、グロスから採取された複数の標本から得られる情報との対応を視覚的かつ直観的に把握できるようにするための技術を提供することを目的とする。
本発明の第一態様は、コンピュータが、病変を含むグロスの異なる位置から採取された複数の標本を撮像して得た複数の標本画像のデータを取得するステップと、前記複数の標本画像のそれぞれから、病変に関する情報を抽出するステップと、コンピュータが、前記グロスを表す画像上に前記複数の標本画像のそれぞれから抽出された病変に関する情報を合成した、病理情報画像のデータを生成するステップと、を含むことを特徴とする画像処理方法である。
本発明の第二態様は、病変を含むグロスの異なる位置から採取された複数の標本を撮像して得た複数の標本画像のデータを取得する取得部と、前記複数の標本画像のそれぞれから、病変に関する情報を抽出する情報抽出部と、前記グロスを表す画像上に前記複数の標本画像のそれぞれから抽出された病変に関する情報を合成した、病理情報画像のデータを生成するデータ生成部と、を有することを特徴とする画像処理システムである。
本発明の第三態様は、上述した本発明に係る画像処理方法の各ステップをコンピュータに実行させるためのプログラムである。
本発明によれば、グロスから得られる情報と、グロスから採取された複数の標本から得られる情報との対応が視覚的かつ直観的に把握可能な画像(病理情報画像)を生成することができる。
本発明は、デジタル顕微鏡などで撮像された複数の標本画像から病理診断に有用な画像を生成するための技術に関する。具体的には、病変を含むグロス(臓器の全部または一部)の異なる位置から採取された複数の標本の画像から病変に関する情報を抽出し、グロスを表す画像上に当該情報を合成した病理情報画像のデータを生成する。このような病理情報画像を表示することで、グロスから得られる情報と、グロスから採取された複数の標本から得られる情報との対応が視覚的かつ直観的に把握可能となる。この場合に、グロスと各標本が採取された位置との対応関係がわかるように、グロスを表す画像上の対応する位置に各標本画像から抽出された病変に関する情報を合成すれば、グロスにおける病変の位置、広がり、進行度合いなどを正確かつ直観的に把握できる。
以下、図面を参照しながら本発明の好ましい実施の形態を説明する。
以下、図面を参照しながら本発明の好ましい実施の形態を説明する。
<実施例1>
本発明の画像処理方法は、病理診断処理工程において用いることができる。この病理診断処理工程について、図1から図7を用いて説明する。
本発明の画像処理方法は、病理診断処理工程において用いることができる。この病理診断処理工程について、図1から図7を用いて説明する。
(病理診断の処理工程)
図1(a)〜図1(e)は、病理診断の処理工程を説明する模式図である。全胃切除(胃全摘)から病理診断スライド作成までの工程を代表的な図で示している。図1(a)は、胃の全体像を示す図である。本実施例では、全胃切除(胃全摘)を例として説明を行う。胃の代表的な切除範囲は図3で説明する。図1(b)は、切開した全摘胃を示す図である。本実施例では、切開後に検体処理・固定を行った臓器全体を「グロス」と称する。詳細は図4(a)及び図4(b)で説明する。図1(c)は、グロスの切り出し領域を示す図である。図1(d)は、グロス切り出し後の標本ブロックを示す図である。本実施例では、切り出し後の臓器片を「標本ブロック」と称する。グロス切り出し、標本ブロックの詳細は図5(a)及び図5(b)で説明する。図1(e)は、個々の標本ブロックから作成したスライドを示す図である。スライドの詳細は図6(a)及び図6(b)で説明する
。
図1(a)〜図1(e)は、病理診断の処理工程を説明する模式図である。全胃切除(胃全摘)から病理診断スライド作成までの工程を代表的な図で示している。図1(a)は、胃の全体像を示す図である。本実施例では、全胃切除(胃全摘)を例として説明を行う。胃の代表的な切除範囲は図3で説明する。図1(b)は、切開した全摘胃を示す図である。本実施例では、切開後に検体処理・固定を行った臓器全体を「グロス」と称する。詳細は図4(a)及び図4(b)で説明する。図1(c)は、グロスの切り出し領域を示す図である。図1(d)は、グロス切り出し後の標本ブロックを示す図である。本実施例では、切り出し後の臓器片を「標本ブロック」と称する。グロス切り出し、標本ブロックの詳細は図5(a)及び図5(b)で説明する。図1(e)は、個々の標本ブロックから作成したスライドを示す図である。スライドの詳細は図6(a)及び図6(b)で説明する
。
ここで、図1(a)〜図1(e)で説明した病理診断の処理工程が、検査から治療選択までのフローにおいてどこに位置付けられているかについて簡単に説明する。健康診断などの胃X線検査、内視鏡検査で胃癌が疑われる場合には、内視鏡生検(病変部採取)を行って病理検査を実施する。病理検査で悪性腫瘍が疑われる場合には、更に超音波検査、CT検査、注腸検査などで病期診断(胃癌の進行具合の判定)を実施する。そして、内視鏡治療が必要か、胃切除手術が必要か、が判断される。図1(a)〜図1(e)に示した病理診断の処理工程は、胃切除手術が選択された場合の、全胃切除(胃全摘)から病理診断までの工程を示している。病理診断の結果、経過観察、化学療法などのその後の治療方針が決められる。
図2は、病理診断の処理工程を説明するフローチャートである。
ステップS201では、胃(臓器)の切除・摘出を行う。病変の位置や病期、患者の年齢・病歴など総合的に判断して切除範囲が決定される。胃の代表的な切除範囲は図3で説明する。本ステップS201は、図1(a)に対応する。
ステップS201では、胃(臓器)の切除・摘出を行う。病変の位置や病期、患者の年齢・病歴など総合的に判断して切除範囲が決定される。胃の代表的な切除範囲は図3で説明する。本ステップS201は、図1(a)に対応する。
ステップS202では、検体処理・固定を行う。ステップS201で切除・摘出した胃を希釈ホルマリン液中に保存し、臓器の固定を行う。固定は、組織の変性防止、形状・構造の安定化、染色性の強化、抗原性保持を目的とする。本ステップS202は、図1(b)に対応する。
ステップS203では、切り出しを行う。病理医の判断により、病変領域の切り出しを行う。視認できる病変領域だけでなく、病変が発生しやすい領域の切り出しも行われる。後に「マクロ情報であるグロス」と「ミクロ情報であるスライド」の位置の対応を確認するために、切り出し前後にグロス撮像、標本ブロック撮像が行われる。切り出し前のグロス撮像画像は図1(c)の撮像画像に、切り出し後の標本ブロック撮像画像は図1(d)の撮像画像に対応する。本ステップS203は、図1(c)、図1(d)に対応する。
ステップS204では、スライド作成を行う。脱水・パラフィン包埋・薄切・染色・封入・ラベル貼り・部位確認などの工程を経て、標本ブロックからスライドを作成する。組織診では、HE(ヘマトキシリン・エオシン)染色のスライドを作成する。
図3は、胃摘出パターンを説明する模式図である。病変の位置や病期、患者の年齢・病歴など総合的に判断して切除範囲が決定される。胃底部・胃体部を中心とした進行癌、胃全体に広がる未分化癌などでは全胃切除(胃全摘)301が行われる。早期癌では、幽門部切除302、亜全胃切除303、病変の広がりが局所的で転移のリスクが無い場合には、噴門部切除304、幽門輪状切除305、胃体部切除306が行われる。
図4(a)及び図4(b)は、グロスを説明する模式図である。図4(a)は胃の全体像であり、胃の各部名称を記している。図4(b)はグロスの全体像であり、胃の全体像との対応が分かりやすいように、図4(a)と同様に、胃の各部名称を記している。図4(a)及び図4(b)は、図2のステップS201、S202の処理に対応する。
図4(a)には、食道に繋がる噴門401、十二指腸に繋がる幽門402、胃の上部である胃底部403、胃の中部である胃体部404、胃の下部である幽門前庭部405、胃の外側湾曲の大弯406、胃の内側湾曲の小弯407を記してある。
図4(b)に示すグロスとは、全胃切除、全摘胃の切開、検体処理・固定の処理を経た臓器である。胃の病変が小弯407に発生することが多いため、大弯切開が原則であり、
本実施例もそれを踏襲する。胃底部403の小弯407付近に視認できる病変408を網掛け楕円で示した。マクロ情報であるグロスとミクロ情報であるスライドの位置関係を明確にするために、XYZ位置座標を記した。図4(b)はグロスのXY断面図(上面図)である。また、参考として、マクロ情報であるグロスとミクロ情報であるスライドのそれぞれ寸法をイメージしやすいようにグロス長さ(約150mm)を記した。
本実施例もそれを踏襲する。胃底部403の小弯407付近に視認できる病変408を網掛け楕円で示した。マクロ情報であるグロスとミクロ情報であるスライドの位置関係を明確にするために、XYZ位置座標を記した。図4(b)はグロスのXY断面図(上面図)である。また、参考として、マクロ情報であるグロスとミクロ情報であるスライドのそれぞれ寸法をイメージしやすいようにグロス長さ(約150mm)を記した。
図5(a)及び図5(b)は、グロス切り出しを説明する模式図であり、図2のステップS203の処理に対応する。
図5(a)は切り出し領域を記したグロス像である。視認できる病変408を包含する領域と、病変の頻発領域である小弯部分とを含むように、複数の切り出し領域を定めている。図5(a)の例では21個の切り出し領域がある。切り出し領域501は複数の切り出し領域のうちの1つを示している。切り出し領域は、後に薄切標本をスライドに載置することを考慮して、その寸法が決められる。ここでは、スライドの標本載置寸法60mm×26mmとして、スライドの標本載置寸法に標本ブロックが収まるように、グロス長さ約150mmを3分割して標本ブロックの長軸長さを約50mmとした。図5(a)はグロスのXY断面図(上面図)である。
図5(b)は切り出し後の標本ブロックである。21個の標本ブロックが作成される。図5(b)は標本ブロックのXY断面図(上面図)である。
図6(a)及び図6(b)は、スライドを説明する模式図であり、図2のステップS204の処理に対応する。
図6(a)は切り出し後の標本ブロックである。それぞれの標本ブロックに対して脱水・パラフィン包埋を行い、薄切を行う。薄切面601は切り出し時に病理医が指示する。薄切面601はXZ断面となる。これは、病理診断において病変の胃壁の厚さ方向(Z方向)への深達度を判断するためである。図4(b)、図5(a)、図5(b)に示した断面図はXY断面であるのに対し、薄切面601はXZ断面である。
図6(b)は薄切標本602を載置したスライドである。薄切した切片に対して、染色・封入・ラベル貼り・部位確認を行い、スライドを作成する。本実施例では、標本ブロック1つに対してスライド1枚を作成する。図6(a)と図6(b)のXYZ位置座標の向きが異なることに注意が必要である。
図7(a)及び図7(b)は、グロスとスライドの位置関係を説明する模式図である。
図7(a)はXYZ位置座標におけるスライド配置である。病理診断において病変の深さ方向(Z方向)への深達度を判断するため、スライドに載置される薄切標本はXZ断面となる。本実施例では、1つのグロスに対してスライドを21枚作成する。
図7(a)はXYZ位置座標におけるスライド配置である。病理診断において病変の深さ方向(Z方向)への深達度を判断するため、スライドに載置される薄切標本はXZ断面となる。本実施例では、1つのグロスに対してスライドを21枚作成する。
図7(b)はXY断面におけるグロスとスライドの位置関係を示す。スライドは、視認できる病変408を包含する領域と、病変の頻発領域である小弯部分を含んでいる。また、スライドの配置に対応して、病変408は離散的に採取される。
病理診断においては、図7(b)に示すような「離散的に採取されたスライドから抽出したミクロな病理情報」と、「グロスから抽出したマクロな病理情報」とを統合して、グロス全体の病変の広がり・病期などを判断する。スライドから抽出するミクロな病理情報(スライド病理情報)とグロスから得られるマクロな病理情報(グロス病理情報)とを関連付ける作業は病理医にとっては日常的な作業である。しかしながら、専門性の高い作業・情報であるために、それらの情報を臨床医や患者と正確、且つ、短時間に共有すること
は簡単なことではない。本実施例は、スライドから抽出するミクロな病理情報(スライド病理情報)とグロスから得られるマクロな病理情報(グロス病理情報)とを視覚的に関連付け、正確、且つ、より短時間にそれらの情報を共有することを目的とする。
は簡単なことではない。本実施例は、スライドから抽出するミクロな病理情報(スライド病理情報)とグロスから得られるマクロな病理情報(グロス病理情報)とを視覚的に関連付け、正確、且つ、より短時間にそれらの情報を共有することを目的とする。
(画像処理方法の説明)
本実施例の画像処理方法を図8から図17(c)を用いて説明する。以下に述べる画像処理方法は、例えば、画像処理プログラムがインストールされたコンピュータ(画像処理システム)によって実行される。すなわち、以下に述べる画像処理方法の各ステップの実行主体は、画像処理システム(コンピュータあるいはCPU)である。画像処理システムの構成例については後述する。
本実施例の画像処理方法を図8から図17(c)を用いて説明する。以下に述べる画像処理方法は、例えば、画像処理プログラムがインストールされたコンピュータ(画像処理システム)によって実行される。すなわち、以下に述べる画像処理方法の各ステップの実行主体は、画像処理システム(コンピュータあるいはCPU)である。画像処理システムの構成例については後述する。
(0)全体フロー
図8は、本実施例の画像処理方法における病理情報画像データ生成を説明するフローチャートである。
ステップS801では、グロス画像からの病理情報抽出を行う。詳細は図9(a)から図10(b)で説明する。
ステップS802では、スライド画像からの病理情報抽出を行う。詳細は図11(a)から図13(b)で説明する。
ステップS803では、グロス画像とスライド画像の位置合わせを行う。詳細は図14(a)から図16で説明する。
ステップS804では、病理情報画像データの生成・表示を行う。詳細は図17(a)から図18で説明する。
図8は、本実施例の画像処理方法における病理情報画像データ生成を説明するフローチャートである。
ステップS801では、グロス画像からの病理情報抽出を行う。詳細は図9(a)から図10(b)で説明する。
ステップS802では、スライド画像からの病理情報抽出を行う。詳細は図11(a)から図13(b)で説明する。
ステップS803では、グロス画像とスライド画像の位置合わせを行う。詳細は図14(a)から図16で説明する。
ステップS804では、病理情報画像データの生成・表示を行う。詳細は図17(a)から図18で説明する。
(1)ステップS801:グロス画像からの病理情報抽出
図9(a)から図9(c)は、グロス画像からの病理情報抽出を説明する模式図である。 図9(a)はグロス画像であり、切り出し(図2のステップS203)を行う前のグロスを撮像して得られた画像である。グロス画像は2D(2次元)デジタルデータ、または、3D(3次元)デジタルデータとして保存される。
図9(a)から図9(c)は、グロス画像からの病理情報抽出を説明する模式図である。 図9(a)はグロス画像であり、切り出し(図2のステップS203)を行う前のグロスを撮像して得られた画像である。グロス画像は2D(2次元)デジタルデータ、または、3D(3次元)デジタルデータとして保存される。
図9(b)はグロス切り出し画像である。図9(a)のグロス画像に対して、切り出し位置を示す切り出し線を付した画像である。図2のステップS203では、このグロス切り出し画像に示す切り出し線に沿ってグロスの切り出し作業が行われる。切り出し領域を指定する方法には、ユーザが指定する方法(手動指定)とコンピュータが指定する方法(自動指定)がある。手動指定では、ユーザがグロス(実物)もしくはグロス画像から病変408の領域を把握し、コンピュータのモニター画面に表示されたグロス画像上にマウスなどの操作デバイスを用いて切り出し領域を設定する。自動指定では、コンピュータがグロス画像を解析して病変408の領域を抽出(検出)し、その抽出(検出)した領域を包含するように切り出し領域を設定する。病変の自動抽出が難しい場合には、ユーザが病変408の領域を教示してもよい(半自動指定)。
図9(c)はグロス病理情報を示す図である。本実施例では、各々の切り出し領域のX方向の範囲(以下、メッシュ分割範囲902とよぶ)を5つのセルにメッシュ分割し、病変408を包含しているセルの集合(黒塗潰しで示す領域)をマクロ病変領域901とする。グロス病理情報とは、グロス画像から抽出した病変408の領域、メッシュ分割した切り出し領域、マクロ病変領域901と、それらの位置関係を含む情報である。これらの情報は、互いの領域の位置関係が定義できれば、どのようなデータ形式で保持してもよい。例えば、病変408の領域やマクロ病変領域901の情報をマスク画像データで保持し、切り出し領域の情報を画像座標(XY座標)で保持することができる。あるいは、切り出し領域の番号と分割セルの番号などでマクロ病変領域901を表してもよい。
図3に示す通り、胃摘出パターンには汎用性があるため、それぞれの胃摘出パターンをCG(コンピュータ・グラフィックス)データとして保持しておけば、グロス病理情報データをCGデータとして保持することもできる。この場合、グロス画像から抽出した病変408の領域、メッシュ分割した切り出し領域、マクロ病変領域901をCGデータ上にマッピングしたデータをグロス病理情報として保持することになる。
図10(a)は、グロス画像からの病理情報抽出を説明する全体フローチャートである。図10(b)は、切り出し領域指定を説明するフローチャートである。
まずは、図10(a)に従って、グロス画像からの病理情報抽出のフローについて説明する。
まずは、図10(a)に従って、グロス画像からの病理情報抽出のフローについて説明する。
ステップS1001では、グロス画像を取得する。本ステップは、例えば、図9(a)に示すグロス画像のデータをコンピュータが記憶装置等から読み込む処理である。
ステップS1002では、病変領域の抽出を行う。例えば、ユーザがグロス(実物)もしくはグロス画像を観察し、病変408の領域を特定する。そして、マウスなどの操作デバイスを用いて、コンピュータのモニター画面に表示されたグロス画像またはグロスのCGに対して病変領域を指定する。前述のように、画像解析によりコンピュータが自動で病変領域を抽出・設定することもできる。本ステップで抽出された病変領域を抽出病変領域とよぶ。
ステップS1003では、切り出し領域の指定を行う。切り出し領域の指定の手段としては、ユーザが指定する方法(手動指定)とコンピュータが指定する方法(自動指定)がある。ユーザが切り出し領域の指定を行う場合には、マウスなどの操作デバイスを用いて、コンピュータのモニター画面に表示されたグロス画像またはグロスのCGに対して、切り出し領域を指定する。コンピュータが指定する方法(自動指定)については図10(b)を用いて説明する。本ステップは、図9(b)に対応する。
ステップS1004では、病変領域と分割セルの対応付けを行う。まず、各々の切り出し領域のメッシュ分割範囲902を5つのセルに分割する。そして、各々の分割セルについて病変408の領域と重なりを有するかを判断し、病変408を包含する分割セルを病変領域とする。例えば、病変領域である分割セルに「1」、非病変領域である分割セルに「0」というフラグを付けることで、病変領域と分割セルの対応付けを行うことができる。フラグ「1」が付された分割セルの集合からなる領域が、前述のマクロ病変領域901である。本ステップにより、グロス画像から抽出した病変408の領域、メッシュ分割した切り出し領域、マクロ病変領域901、及びそれらの位置関係が、グロス病理情報として記憶される。
図10(b)は、図10(a)のステップS1003の詳細なフローの一例を示すフローチャートである。図10(b)に従って、コンピュータが切り出し領域を指定する方法(自動指定)について説明する。
ステップS1005では、切り出し寸法を取得する。切り出し寸法は、後に薄切標本をスライドに載置することを考慮して決められる。図5(b)の例では切り出し寸法は50mmに設定されている。予め設定された切り出し寸法のデータを読みだす方法でも良いし、ユーザが操作デバイスを用いてコンピュータに入力した切り出し寸法を用いる方法でも良い。あるいは、グロス画像もしくは病変領域の寸法とスライドの寸法などからコンピュータが自動的に適切な切り出し寸法を決定しても良い。
ステップS1006では、ステップS1002で抽出された抽出病変領域以外の切り出
し領域の指定を行う。胃の病変が小弯に発生することが多いため、本実施例では、抽出病変領域以外に小弯付近を切り出し領域として指定する。本ステップの切り出し領域の指定は、ユーザによる手動指定でもよいし、コンピュータによる自動指定でもよい。手動指定の場合は、マウスなどの操作デバイスを用いてグロス画像上の所望の領域を指定するなどの方法を取ることができる。また自動指定の場合は、例えば、画像解析により病変の起きやすい部位(小弯など)を検出すればよい。
し領域の指定を行う。胃の病変が小弯に発生することが多いため、本実施例では、抽出病変領域以外に小弯付近を切り出し領域として指定する。本ステップの切り出し領域の指定は、ユーザによる手動指定でもよいし、コンピュータによる自動指定でもよい。手動指定の場合は、マウスなどの操作デバイスを用いてグロス画像上の所望の領域を指定するなどの方法を取ることができる。また自動指定の場合は、例えば、画像解析により病変の起きやすい部位(小弯など)を検出すればよい。
ステップS1007では、切り出し領域のマッピングを行う。ステップS1002で抽出した病変領域とS1006で指定された領域からなる対象領域を包含するように、切り出し領域のマッピングを行う。マッピングは、対象領域が内接する矩形領域を求め、その矩形領域を包含するように切り出し領域を配置する、などの簡単なアルゴリズムで実現できる。コンピュータによる自動マッピング後に、ユーザによる切り出し領域の位置調整を行っても良い。
ステップS1008では、切り出し領域の番号割り振りを行う。後段で作成するスライドとグロス画像との位置関係を把握するために、各切り出し領域に対して番号を割り振る。本実施例では、1つの切り出し領域に対して1枚のスライドを作成するため、21の切り出し領域それぞれに連番を割り当てる(図7(b)参照)。
(2)ステップS802:スライド画像からの病理情報抽出
図11(a)及び図11(b)は、スライド画像からの病理情報抽出を説明する模式図である。
図11(a)及び図11(b)は、スライド画像からの病理情報抽出を説明する模式図である。
図11(a)はスライド画像である。スライド画像とは、図2のステップS204で作成したスライド上の標本を撮像した画像であり、標本画像とも呼ぶ。スライド画像の撮像にはデジタル顕微鏡を用いてもよいし、デジタルカメラを用いてもよい。スライド1101の上部に胃粘膜側、下部に胃漿膜側が位置するように薄切標本1102が載置されている。これは、図7(a)のZ軸方向と対応しており、Z軸正方向が粘膜側(胃内側)、Z軸負方向が漿膜側(胃外側)である。薄切標本1102に対して、マウスなどの操作デバイスを用いてコンピュータのモニター画面で病変1103の範囲指定を行う。なお、ここでは、スライド画像としてラベルを含めたスライドの画像を図示したが、ラベルを除いた領域(薄切標本1102が載置されている領域)のみをスライド画像としても良い。また、病変1103をユーザが抽出する方法(手動抽出)と、コンピュータを援用して抽出する方法(半自動抽出)がある。コンピュータを援用して抽出する方法(半自動抽出)については図13(b)を用いて説明する。
図11(b)は深達度判断基準を説明する表である。病理診断においては、病変1103のZ軸負方向への深達度を判断する。深達度は、癌の悪性度を判断する指標の1つである。薄切標本1102の粘膜固定層、粘膜下層、固有筋層、漿膜下層、漿膜のどの層まで浸潤しているかで深達度(浸潤度合い)を判定する。図11(b)の表は、胃癌の深達度(浸潤度合い)として一般に広く用いられている基準を単純化した表である。
図12(a)〜図12(d)は、複数のスライド画像の位置合わせを説明する模式図である。図2のS204で複数のスライドを作成するが、各々のスライドの薄切標本1102の位置は一致していない。また、スライド作成過程でのトリミングなどにより、薄切標本1102それぞれの長さは必ずしも一致しない。そのため、薄切標本1102の位置や長さの不整合の調整が必要となる。スライド病理情報とグロス病理情報とを視覚的に関連付けるためには、各々のスライドから得たスライド病理情報をグロスの3次元空間に配置するとよい。そのためには、スライド間の薄切標本1102の位置や長さの不整合を調整する必要がある。
図12(a)は、複数のスライド1101a〜1101fの間で薄切標本1102a〜1102fのX方向の位置と長さが異なる様子を示す模式図である。薄切標本1102a〜1102fの位置と長さのずれが分かりやすいように、スライド1101a〜1101fそれぞれに、標本左端1201、標本左右中心1202、標本右端1203を示す3本の点線を記した。スライド1101aとスライド1101bを比べると、薄切標本1102aは薄切標本1102bに対してX方向右にずれており、標本長さはわずかに短いことが確認できる。
図12(b)は、標本左右中心1202でスライド画像のX方向位置合わせを実施した後の模式図である。ここで、X方向とは病変広がり方向と読み替えることができ、本図は、複数のスライドの病変広がり方向に対する位置合わせを説明する図である。
図12(c)は、スライド画像のメッシュ分割を示す模式図である。全ての薄切標本1102a〜1102fのX方向範囲を包含するように、メッシュ分割範囲の両端の位置を定める。標本左右中心1202でスライド画像のX方向位置合わせを実施する場合には、全ての薄切標本1102a〜1102fのうちX方向の長さが最も長い薄切標本の左右端がメッシュ分割範囲の両端となる。本実施例では、X方向に5分割するメッシュ分割(1204)を示したが、これは、図9(c)の切り出し領域のメッシュ分割に対応する。図12(c)の網掛け楕円は病変1103a〜1103fを示す。
図12(d)は、スライド画像のミクロ病変領域と分割セルの対応付けを示す模式図である。本実施例では、各々のスライド画像のメッシュ分割範囲1204を5つのセルに分割し、病変を包含しているセルの集合(黒塗り潰しで示す領域)をミクロ病変領域とする。図12(d)では、スライド1101b〜1101fのミクロ病変領域1205b〜1205fが黒塗潰しで示されている。なおスライド1101aにはミクロ病変領域は含まれていない。
なお、図12(a)〜図12(d)で説明した「位置」は各スライド画像で定義したXZ座標に対する位置である。ここでは、薄切標本1102をスライドに載置する際に発生する薄切標本1102の回転を無視して、スライド画像のXZ座標のX方向に対する標本左右中心、標本左右端を定めるものとする。
本実施例におけるスライド病理情報は、病変1103の領域、メッシュ分割したスライド画像、ミクロ病変領域1205、薄切標本1102の深達度を含む情報である。病変1103の領域は、例えばマスク画像などで表すことができる。メッシュ分割したスライド画像とは、図12(c)に示すメッシュ分割範囲1204内の画像であり、元のスライド画像をトリミングすることで生成される。ミクロ病変領域1205は、マスク画像で表してもよいし、分割セルの番号で表してもよい。薄切標本1102の深達度は、図11(b)に示すT0〜T3である。複数のスライドに対して、それぞれスライド病理情報を抽出する。薄切標本1102がXZ断面であるため、簡易的に考えるのであれば、ミクロ病変領域とはスライド画像のX方向情報に対応し、深達度はスライド画像のZ方向情報に対応する。(正確には、深達度は、粘膜固定層、粘膜下層、固有筋層、漿膜下層、漿膜に対して判定される。)
図13(a)は、スライド画像からの病理情報抽出を説明する全体フローチャートである。図13(b)は、病変領域・深達度の抽出を説明するフローチャートである。
まずは、図13(a)に従って、スライド画像からの病理情報抽出のフローについて説明する。
まずは、図13(a)に従って、スライド画像からの病理情報抽出のフローについて説明する。
ステップS1301では、スライド画像を取得する。本ステップは、例えば、図12(a)に示す複数のスライド画像のデータをコンピュータが記憶装置等から読み込む処理である。
ステップS1302では、病変領域・深達度の抽出を行う。病変領域・深達度の抽出の手段としては、ユーザが抽出する方法(手動抽出)と、コンピュータを援用して抽出する方法(半自動抽出)がある。ユーザがスライド画像から病変1103を抽出する場合には、マウスなどの操作デバイスを用いて、コンピュータのモニター画面に表示されたスライド画像に対して、ユーザが認識した病変1103の範囲を指定する。コンピュータを援用して抽出する方法(半自動抽出)については図13(b)を用いて説明する。
ステップS1303では、標本基準点の抽出を行う。標本基準点とは、X方向に関して薄切標本1102の中心、左端、右端などである。本ステップは、図12(a)に対応する。
ステップS1304では、全てのスライド画像に対してステップS1301からS1303までの処理を実行したかどうかを判断する。全スライド画像に対する処理が終了していれば、ステップS1305に進む。
ステップS1305では、スライド画像の位置合わせを行う。ステップS1303で抽出した標本基準点に合わせて各スライド画像のX方向の位置合わせを行う。本ステップは、図12(b)に対応する。
ステップS1306では、病変領域と分割セルの対応付けを行う。まず、各々のスライド画像のメッシュ分割範囲1204を5つのセルに分割する。そして、各々の分割セルについて病変1103と重なりを有するかを判断し、病変1103を包含する分割セルをミクロ病変領域とする。例えば、ミクロ病変領域である分割セルに「1」、非ミクロ病変領域である分割セルに「0」というフラグを付けることで、病変領域と分割セルの対応付けを行うことができる。本ステップにより、スライド画像から抽出した病変の領域、メッシュ分割したスライド画像、ミクロ病変領域1205、薄切標本の深達度が、スライド病理情報として記憶される。
図13(b)は、図13(a)のステップS1302の詳細なフローの一例を示すフローチャートである。図13(b)に従って、病変領域・深達度の抽出のフローについて説明する。
ステップS1307では、標本領域の抽出を行う。スライド画像から薄切標本1102の領域を抽出する。領域抽出は、ヒストグラム調整後の画像2値化、などの簡単なアルゴリズムで実現できる。
ステップS1308では、基準組織(粘膜固定層、粘膜下層、固有筋層、漿膜下層、漿膜)の指定を行う。図11(b)に従った深達度の判断には、薄切標本1102における粘膜固定層、粘膜下層、固有筋層、漿膜下層、漿膜の認識が必要である。コンピュータのモニター画面でスライド画像データに対して、マウスなどの操作デバイスを用いてユーザが基準組織を指定する。
ステップS1309では、ヘマトキシリン領域(核)の抽出を行う。組織診では、薄切標本1102はHE(ヘマトキシリン・エオシン)染色が施されている。ヘマトキシリンは細胞の核などを染める青紫色の色素であり、エオシンは細胞質などを染める淡赤色(ピンク色)の色素である。本ステップでは、スライド画像データの色情報を利用して青紫色
であるヘマトキシリン領域(核)の抽出を行う。
であるヘマトキシリン領域(核)の抽出を行う。
ステップS1310では、構造認識による特徴量抽出を行う。構造認識では、グラフ理論を応用したアルゴリズムを利用することができる。ステップS1309で抽出した核の情報を基に、ボロノイ図、ドロネー図、最小全域木などを描画する。例えば、ボロノイ図では、ポリゴン(閉領域)面積、周辺長、一辺長さから、それぞれの平均、標準偏差、最小−最大比を求めて、それらを特徴量(9つ)とする。また、ドロネー図では、三角形(閉領域)面積、周辺長から、それぞれの平均、標準偏差、最小−最大比を求めて、それらを特徴量(6つ)とする。また、最小全域木では、辺の長さに応じた重み付けに従って最小全域木を求め、最小全域木の辺の平均、標準偏差、最小−最大比を求めて、それらを特徴量(3つ)とする。
ステップS1311では、病変領域の抽出を行う。ステップS1310で抽出した複数の特徴量を基に、病変領域を抽出する。良性組織の構造と悪性組織の構造には視認できる違いがあり、複数の特徴量を用いて良性・悪性の判断、悪性度合いの判断を行うことができる。すなわち、スライド画像から取得される複数の特徴量を用いて病変領域の抽出ができる。ステップS1310において、ボロノイ図だけでなく、ドロネー図、最小全域木による特徴量や、ガボールフィルタなどでフィルタ処理したスライド画像から特徴量を取得すれば、それらを組み合わせて、総合的な病変領域の判断基準を作成することもできる。基準組織(粘膜固定層、粘膜下層、固有筋層、漿膜下層、漿膜)ごとに、組織特徴を反映した特徴量の判断基準を作成することもできる。
ステップS1312では、深達度判別を行う。ステップS1311で病変領域と判断された領域が、ステップS1308で指定した基準組織(粘膜固定層、粘膜下層、固有筋層、漿膜下層、漿膜)のどの層まで浸潤しているかで深達度(浸潤度合い)を判別する。
(3)ステップS803:グロス画像とスライド画像の位置合わせ
図14(a)及び図14(b)を用いて、マクロ病変領域とミクロ病変領域について説明する。
図14(a)及び図14(b)を用いて、マクロ病変領域とミクロ病変領域について説明する。
図14(a)は、スライド画像のミクロ病変領域と分割セルの対応付けを示す模式図であり、図12(d)と同一である。図14(b)は、グロス画像のマクロ病変領域と分割セルの対応付けを示す模式図であり、図9(c)に示すマクロ病変領域901、メッシュ分割範囲902と同一である。ここで、メッシュ分割範囲1204とメッシュ分割範囲902は同一範囲を示すものとする。スライド1101aからスライド1101eまではミクロ病変領域1205(b〜e)とマクロ病変領域901(b〜e)は一致している。一方、スライド1101fでは、ミクロ病変領域1205fとマクロ病変領域901fは一致していない。これは、グロスもしくはグロス画像から抽出した病変範囲と、スライド画像から抽出した病変範囲が異なることを示す。この領域差分は、グロスもしくはグロス画像では認識できなかったが、スライド画像を用いた病理診断により新たに認識された病変範囲と考えることができる。
図15(a)〜図15(c)は、グロス画像とスライド画像の位置合わせを説明する模式図である。
図15(a)は、グロス画像であり、図9(a)と同一である。グロス画像とスライド画像の位置合わせを簡単に説明するために、メッシュ分割範囲も図示した。
図15(a)は、グロス画像であり、図9(a)と同一である。グロス画像とスライド画像の位置合わせを簡単に説明するために、メッシュ分割範囲も図示した。
図15(b)は、グロス画像にスライド画像をマッピングした模式図である。図12(a)〜図12(c)で説明した複数のスライド画像の位置合わせを実施後にグロス画像にスライド画像をマッピングする。ここで、スライド画像のX方向はメッシュ分割範囲12
04に限られていることに注意する。スライド画像のX方向マッピング位置は、メッシュ分割範囲(902、1204)に合わせる。スライド画像のY方向マッピング位置は、切り出し領域501の薄切面601に合わせる(図5、図6参照)。図15(b)において、グロス画像とスライド画像の位置(XY位置だけでなくZ位置も含めたXYZ位置)が明確に対応することになる。
04に限られていることに注意する。スライド画像のX方向マッピング位置は、メッシュ分割範囲(902、1204)に合わせる。スライド画像のY方向マッピング位置は、切り出し領域501の薄切面601に合わせる(図5、図6参照)。図15(b)において、グロス画像とスライド画像の位置(XY位置だけでなくZ位置も含めたXYZ位置)が明確に対応することになる。
図15(c)は、グロス画像に病変領域・深達度をマッピングした模式図である。病変領域としては、グロス病理情報に含まれるマクロ病変領域901と、スライド病理情報に含まれるミクロ病変領域1205があり、それぞれの情報を別々に病変領域としてマッピング(位置データのリンク)する。
図16は、グロス画像とスライド画像の位置合わせを説明するフローチャートである。
ステップS1601では、スライド画像データのグロス画像データへのマッピングを行う。グロス画像とスライド画像の間の対応付けや位置合わせに必要な情報は、グロス病理情報及びスライド病理情報から取得する。本ステップは、図15(b)に対応する。
ステップS1601では、スライド画像データのグロス画像データへのマッピングを行う。グロス画像とスライド画像の間の対応付けや位置合わせに必要な情報は、グロス病理情報及びスライド病理情報から取得する。本ステップは、図15(b)に対応する。
ステップS1602では、病変領域・深達度のグロス画像データへのマッピングを行う。グロス画像の病変領域の情報ならびにスライド画像の病変領域及び深達度の情報は、グロス病理情報及びスライド病理情報から取得する。病変領域としては、マクロ病変領域901、ミクロ病変領域1205があり、図14(a)、(b)に示した通り、それぞれの病変領域が一致しない場合がある。そのため、マクロ病変領域901、ミクロ病変領域1205それぞれの情報を病変領域としてマッピング(位置データのリンク)する。本ステップは、図15(c)に対応する。
(4)ステップS804:病理情報画像データの生成・表示
図17(a)〜図17(c)は、病理情報画像データの生成・表示を説明する模式図である。図15(a)〜図15(c)、図16では、グロス画像への病変領域・深達度のマッピング(位置データのリンク)について説明した。ここでは、視覚的・直観的に病変領域・深達度を把握するための画像データの生成と表示方法について説明する。
図17(a)〜図17(c)は、病理情報画像データの生成・表示を説明する模式図である。図15(a)〜図15(c)、図16では、グロス画像への病変領域・深達度のマッピング(位置データのリンク)について説明した。ここでは、視覚的・直観的に病変領域・深達度を把握するための画像データの生成と表示方法について説明する。
図17(a)は、病変領域1701を多角形で囲み、深達度表示領域1702において色で深達度を表現する表示方法である。病変領域としては、マクロ病変領域901、ミクロ病変領域1205があり、それらの論理和を多角形で囲んで表示する。深達度は、T0からT3までを、例えば、赤、黄、緑、青などの色分けで表現する。
図17(b)は、病変領域1701を楕円で囲み、深達度を補間して表現する表示方法である。スライド病理情報として得られる深達度の情報は、XY断面では離散的な情報である(図15(c)参照)。これらの離散的な深達度情報を、最近傍補間、バイリニア補間、バイキュービック補間などの補間処理を用いて連続的な情報に変換し、深達度を連続的に変化する疑似色(例えば赤から青)で表現する。このように病理情報画像内で深達度が連続的に変化するように補間表示することで、病変の深さ方向の分布を把握しやすくすることができる。
図17(c)は、病変領域1701を楕円で囲み、深達度を補間して等高線として表現する表示方法である。深達度の補間は図17(b)の処理と同様であり、深達度が同じ領域を等高線として表現する。深達度は、連続的な疑似色表現と等高線表現を組み合わせても良い。
ここで説明した表示方法以外にも、病変領域としてマクロ病変領域901、ミクロ病変領域1205の表示を切り替え可能とする、ミクロ病変領域1205を優先的に表示する
、などがある。また、深達度の表現方法としては、疑似色表現、等高線表現以外にも、グラデーション(濃淡)表現などがある。
、などがある。また、深達度の表現方法としては、疑似色表現、等高線表現以外にも、グラデーション(濃淡)表現などがある。
表示形態としては、2Dデジタルデータ、3Dデジタルデータ、CGデータなどが挙げられる。2Dデジタルデータとは、2次元のグロス撮像画像に対し、病変領域1701、深達度表示領域1702を合成表示する形態である。3Dデジタルデータとは、3次元のグロス撮像画像に対し、病変領域1701、深達度表示領域1702を合成表示する形態である。CGデータとは、グロス撮像画像をCGで代用し、CGに対し病変領域1701、深達度表示領域1702を合成表示する形態である。2次元のグロスCGをもちいてもよいし、3次元のグロスCGをもちいてもよい。
図18は、病理情報画像データの生成・表示を説明するフローチャートである。
ステップS1801では、病理情報、及び、位置合わせ情報を取得する。病理情報とは、グロス病理情報とスライド病理情報である。グロス病理情報とは、グロス画像から抽出した病変408の領域、メッシュ分割した切り出し領域、マクロ病変領域901と、それらの位置関係を含む情報である。スライド病理情報とは、病変1103の領域、メッシュ分割したスライド画像、ミクロ病変領域1205、薄切標本1102の深達度を含む情報である。位置合わせ情報とは、マクロ病変領域とミクロ病変領域の位置関係を対応付ける情報である。
ステップS1802では、病変領域の表示方法を選択する。病変領域の表示方法としては、辺縁の矩形表示・楕円表示などがある。ステップS1803では、深達度の表示方法を選択する。深達度の表示方法としては、連続表示・離散表示、色表示、等高線表示などがある。例えば、表示方法設定GUIをモニター画面に表示し、マウスなどの操作デバイスを用いてユーザに所望の表示方法を選択させればよい。
ステップS1804では、病理情報画像データの生成を行う。グロス病理情報、スライド病理情報、位置合わせ情報、病変領域の表示方法、深達度の表示方法を用いて、表示するための病理情報画像データを生成する。
ステップS1805では、S1804で生成した病理情報画像データの表示を行う。
ステップS1805では、S1804で生成した病理情報画像データの表示を行う。
(本実施例の画像処理方法の利点)
本実施例の画像処理方法によれば、病理情報と臨床情報の対応を直観的に把握できる画像処理方法を提供することができる。病理診断においては、離散的に採取されたスライドから抽出したミクロな病理情報と、グロスから抽出したマクロな病理情報とを統合して、グロス全体の病変領域・深達度を把握する。病変領域・深達度は、病理医、臨床医だけでなく患者にとっても、病期の判断や治療方針の決定に関わる重要な情報である。ミクロな病理情報とマクロな病理情報の関連付けを直観的に把握できる形式で視覚化することで、ユーザ(病理医)から臨床医・患者に、病変領域・深達度を含む病理所見情報をより正確、且つ、より短時間に伝えることができる。それにより、情報伝達齟齬の軽減と情報伝達の効率化を実現できる。
本実施例の画像処理方法によれば、病理情報と臨床情報の対応を直観的に把握できる画像処理方法を提供することができる。病理診断においては、離散的に採取されたスライドから抽出したミクロな病理情報と、グロスから抽出したマクロな病理情報とを統合して、グロス全体の病変領域・深達度を把握する。病変領域・深達度は、病理医、臨床医だけでなく患者にとっても、病期の判断や治療方針の決定に関わる重要な情報である。ミクロな病理情報とマクロな病理情報の関連付けを直観的に把握できる形式で視覚化することで、ユーザ(病理医)から臨床医・患者に、病変領域・深達度を含む病理所見情報をより正確、且つ、より短時間に伝えることができる。それにより、情報伝達齟齬の軽減と情報伝達の効率化を実現できる。
(画像処理システムの構成例)
次に、上述した画像処理方法を実行する画像処理システムの一構成例を図19および図20を用いて説明する。
次に、上述した画像処理方法を実行する画像処理システムの一構成例を図19および図20を用いて説明する。
図19は、画像処理システムの装置構成の全体図である。画像処理システムは、撮像装置(デジタル顕微鏡装置、またはバーチャル・スライド・スキャナ)1901、画像処理装置1902、表示装置(モニター)1903、データサーバ1904から構成される。
画像処理システムは、被写体となるグロスやスライドの2次元画像を取得し表示する機能を有するシステムである。撮像装置1901と画像処理装置1902との間は、専用もしくは汎用I/Fのケーブル1905で接続され、画像処理装置1902と表示装置1903の間は、汎用のI/Fのケーブル1906で接続される。データサーバ1904と画像処理装置1902との間は、ネットワーク1907を介して、汎用I/FのLANケーブル1908で接続される。
画像処理システムは、被写体となるグロスやスライドの2次元画像を取得し表示する機能を有するシステムである。撮像装置1901と画像処理装置1902との間は、専用もしくは汎用I/Fのケーブル1905で接続され、画像処理装置1902と表示装置1903の間は、汎用のI/Fのケーブル1906で接続される。データサーバ1904と画像処理装置1902との間は、ネットワーク1907を介して、汎用I/FのLANケーブル1908で接続される。
撮像装置1901は、被写体を高倍率で撮像し、高精細のデジタル画像を出力する機能を持つバーチャル・スライド・スキャナである。2次元画像の取得にはCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子が用いられる。なお、バーチャル・スライド・スキャナの代わりに、通常の光学顕微鏡の接眼部にデジタルカメラを取り付けたデジタル顕微鏡装置により、撮像装置1901を構成することもできる。
画像処理装置1902は、撮像装置1901から取得した複数枚の原画像データから、表示装置1903に表示するデータを、原画像データをもとにユーザからの要求に応じて生成する機能等を持つ装置である。画像処理装置1902は、CPU(中央演算処理装置)、メモリ(RAM)、記憶装置、操作デバイスなどのハードウェア資源を備えた、汎用のコンピュータやワークステーションで構成される。記憶装置は、ハードディスクドライブなどの大容量情報記憶装置であり、上述した画像処理方法を実現するためのプログラムやデータ、OS(オペレーティングシステム)などが格納されている。上述した各機能は、CPUが記憶装置からメモリに必要なプログラムおよびデータをロードし、当該プログラムを実行することにより実現される。操作デバイスは、キーボードやマウスなどにより構成され、ユーザが各種の指示を入力するために利用される。
表示装置1903は、グロス画像やスライド画像や、画像処理装置1902が演算処理した結果であるグロス病理情報、スライド病理情報、病理情報画像(図17(a)〜図17(c))などを表示するモニターである。表示装置1903は液晶ディスプレイ等により構成される。
データサーバ1904は、グロス画像、スライド画像、グロス病理情報、スライド病理情報、病理情報画像などのデータが格納されている大容量の記憶装置である。
データサーバ1904は、グロス画像、スライド画像、グロス病理情報、スライド病理情報、病理情報画像などのデータが格納されている大容量の記憶装置である。
図19の例では、撮像装置1901、画像処理装置1902、表示装置1903とデータサーバ1904の4つの装置により画像処理システムが構成されているが、本発明はこの構成に限定されるものではない。例えば、表示装置と一体化した画像処理装置を用いてもよいし、画像処理装置の機能を撮像装置に組み込んでもよい。また撮像装置、画像処理装置、表示装置、データサーバの機能を1つの装置で実現することもできる。また逆に、画像処理装置等の機能を分割して複数の装置によって実現しても良い。
図20は、画像処理装置1902の機能構成を示すブロック図である。
図20において符号2201から2208で示される機能は、画像処理装置1902のCPUが記憶装置からプログラム及び必要なデータをメモリにロードし、当該プログラムを実行することで実現される機能である。ただし、一部または全部の機能をGPUなどの専用の処理ユニットで実現したり、ASICなどの専用回路で実現してもよい。以下、各機能2201〜2208について説明する。
図20において符号2201から2208で示される機能は、画像処理装置1902のCPUが記憶装置からプログラム及び必要なデータをメモリにロードし、当該プログラムを実行することで実現される機能である。ただし、一部または全部の機能をGPUなどの専用の処理ユニットで実現したり、ASICなどの専用回路で実現してもよい。以下、各機能2201〜2208について説明する。
スライド画像データ取得部2201は、記憶装置からスライド画像データを取得する。スライド画像データがデータサーバ1904に格納されている場合には、データサーバ1904からスライド画像データを取得する。
スライド画像病理情報抽出部2202は、スライド画像データからスライド病理情報を抽出し、スライド画像データ及びスライド病理情報をメモリに格納する(図11、図12、図13の説明参照)。
スライド画像病理情報抽出部2202は、スライド画像データからスライド病理情報を抽出し、スライド画像データ及びスライド病理情報をメモリに格納する(図11、図12、図13の説明参照)。
グロス画像データ取得部2203は、データサーバ1904からグロス画像データを取得する。
グロス画像病理情報抽出部2204は、グロス画像データからグロス病理情報を抽出し、グロス画像データ及びグロス病理情報をメモリに格納する(図9、図10の説明参照)。
グロス画像病理情報抽出部2204は、グロス画像データからグロス病理情報を抽出し、グロス画像データ及びグロス病理情報をメモリに格納する(図9、図10の説明参照)。
ユーザ入力情報取得部2205は、ユーザがマウスなどの操作デバイスを用いて入力した各種指示内容を取得する。例えば、グロス画像での病変領域の抽出(S1002)、切り出し領域の指定(S1003、S1006)、切り出し寸法の指定(S1005)、スライド画像での病変の指定(S1302)、スライド画像での基準組織の指定(S1308)などが入力される。
位置合わせ部2206は、メモリからグロス画像データ、及び、スライド画像データを読み出して、グロス画像とスライド画像の位置合わせを行う(図14、図15、図16の説明参照)。
表示画像データ生成部2207は、ユーザ入力情報取得部2205に入力された病変領域の表示方法(S1802)や深達度の表示方法(S1803)に従って、病理情報画像データの生成を行う(図17、図18の説明参照)。
表示画像データ転送部2208は、表示画像データ生成部2207で生成された画像データをグラフィックスボードに転送する。DMA機能により、メモリとグラフィックスボード間の高速画像データ転送を実行する。グラフィックスボードに転送された画像データは、表示装置1903に表示される。
表示画像データ転送部2208は、表示画像データ生成部2207で生成された画像データをグラフィックスボードに転送する。DMA機能により、メモリとグラフィックスボード間の高速画像データ転送を実行する。グラフィックスボードに転送された画像データは、表示装置1903に表示される。
本実施例の画像処理システムによれば、病理情報と臨床情報の対応を直観的に把握できる画像処理方法を提供することができる。病理診断においては、離散的に採取されたスライドから抽出したミクロな病理情報と、グロスから抽出したマクロな病理情報とを統合して、グロス全体の病変領域・深達度を把握する。病変領域・深達度は、病理医、臨床医だけでなく患者にとっても、病期の判断や治療方針の決定に関わる重要な情報である。ミクロな病理情報とマクロな病理情報の関連付けを直観的に把握できる形式で視覚化することで、ユーザ(病理医)から臨床医・患者に、病変領域・深達度を含む病理所見情報をより正確、且つ、より短時間に伝えることができる。それにより、情報伝達齟齬の軽減と情報伝達の効率化を実現できる。
上記実施例は、本発明の好適な一具体例を示したものであり、本発明の範囲を限定する趣旨のものではない。本発明は明細書及び特許請求の範囲に記載された技術思想の範囲内においてさまざまな構成を採り得るものである。例えば、上記実施例では、病変領域(病変の面方向(XY方向)の広がり)と深達度(病変の深さ方向(Z方向)の浸潤)を病理情報として提示したが、スライドやグロスから抽出される病変に関する情報であればどのような情報を病理情報として提示してもよい。また、病変領域のみ、あるいは、深達度のみを病理情報として提示してもよい。また、上記実施例では、胃癌の病理診断を例に挙げたが、胃以外の臓器や癌以外の病気の場合でも、同様の処理で病理情報の取得ならびに病理情報画像データの生成が可能である。
1701:病変領域、1702:深達度表示領域、1902:画像処理装置、2201:
スライド画像データ取得部、2202:スライド画像病理情報抽出部、2203:グロス画像データ取得部、2204:グロス画像病理情報抽出部、2207:表示画像データ生成部
スライド画像データ取得部、2202:スライド画像病理情報抽出部、2203:グロス画像データ取得部、2204:グロス画像病理情報抽出部、2207:表示画像データ生成部
Claims (14)
- コンピュータが、病変を含むグロスの異なる位置から採取された複数の標本を撮像して得た複数の標本画像のデータを取得するステップと、
前記複数の標本画像のそれぞれから、病変に関する情報を抽出するステップと、
コンピュータが、前記グロスを表す画像上に前記複数の標本画像のそれぞれから抽出された病変に関する情報を合成した、病理情報画像のデータを生成するステップと、を含むことを特徴とする画像処理方法。 - 前記病理情報画像は、前記グロスと各標本が採取された位置との対応関係がわかるように、前記グロスを表す画像上の対応する位置に前記複数の標本画像のそれぞれから抽出された前記病変に関する情報を合成した画像である
ことを特徴とする請求項1に記載の画像処理方法。 - 前記病変に関する情報は、病変の深さ方向の情報である深達度を含む
ことを特徴とする請求項1または2に記載の画像処理方法。 - 前記病理情報画像では、各標本画像の深達度が、疑似色、グラデーション、または、等高線により表現されている
ことを特徴とする請求項3に記載の画像処理方法。 - 前記病理情報画像内で深達度が連続的に変化するように、各標本画像のあいだの深達度が補間される
ことを特徴とする請求項4に記載の画像処理方法。 - 前記病変に関する情報を抽出するステップでは、基準組織に基づいて、前記深達度を抽出する
ことを特徴とする請求項3に記載の画像処理方法。 - 前記病変に関する情報は、病変の広がりの情報である病変領域を含む
ことを特徴とする請求項1〜6のうちいずれか1項に記載の画像処理方法。 - 前記グロスを撮像して得たグロス画像から、病変に関する情報を抽出するステップをさらに含み、
前記病理情報画像に、前記グロス画像から抽出された病変に関する情報も合成される
ことを特徴とする請求項1〜7のうちいずれか1項に記載の画像処理方法。 - 前記グロスを表す画像は、前記グロスを撮像して得たグロス画像、または、前記グロスのコンピュータ・グラフィックスである
ことを特徴とする請求項1〜8のうちいずれか1項に記載の画像処理方法。 - 前記グロスを表す画像は、2次元の画像、または、3次元の画像である
ことを特徴とする請求項1〜9のうちいずれか1項に記載の画像処理方法。 - コンピュータが、前記病理情報画像を表示装置に表示するステップをさらに含む
ことを特徴とする請求項1〜10のうちいずれか1項に記載の画像処理方法。 - 前記病変に関する情報を抽出するステップでは、前記複数の標本画像の位置合わせを前記複数の標本の標本基準点に基づいて行い、位置合わせした前記複数の標本画像から前記病変に関する情報を抽出する
ことを特徴とする請求項1〜11のうちいずれか1項に記載の画像処理方法。 - 病変を含むグロスの異なる位置から採取された複数の標本を撮像して得た複数の標本画像のデータを取得する取得部と、
前記複数の標本画像のそれぞれから、病変に関する情報を抽出する情報抽出部と、
前記グロスを表す画像上に前記複数の標本画像のそれぞれから抽出された病変に関する情報を合成した、病理情報画像のデータを生成するデータ生成部と、を有する
ことを特徴とする画像処理システム。 - 請求項1〜12のうちいずれか1項に記載の画像処理方法の各ステップをコンピュータに実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013224366A JP2015087167A (ja) | 2013-10-29 | 2013-10-29 | 画像処理方法、画像処理システム |
US14/510,278 US20150117730A1 (en) | 2013-10-29 | 2014-10-09 | Image processing method and image processing system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013224366A JP2015087167A (ja) | 2013-10-29 | 2013-10-29 | 画像処理方法、画像処理システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015087167A true JP2015087167A (ja) | 2015-05-07 |
Family
ID=52995526
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013224366A Pending JP2015087167A (ja) | 2013-10-29 | 2013-10-29 | 画像処理方法、画像処理システム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20150117730A1 (ja) |
JP (1) | JP2015087167A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018525707A (ja) * | 2015-06-11 | 2018-09-06 | ユニバーシティ オブ ピッツバーグ−オブ ザ コモンウェルス システム オブ ハイヤー エデュケーションUniversity Of Pittsburgh Of The Commonwealth System Of Higher Education | ヘマトキシリン・エオシン(h&e)染色組織画像における関心領域を調べて、多重化/高多重化蛍光組織画像で腫瘍内細胞空間的不均一性を定量化するシステム及び方法 |
WO2024018581A1 (ja) * | 2022-07-21 | 2024-01-25 | 日本電気株式会社 | 画像処理装置、画像処理方法及び記憶媒体 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6455829B2 (ja) * | 2013-04-01 | 2019-01-23 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US9984457B2 (en) * | 2014-03-26 | 2018-05-29 | Sectra Ab | Automated grossing image synchronization and related viewers and workstations |
US10489633B2 (en) | 2016-09-27 | 2019-11-26 | Sectra Ab | Viewers and related methods, systems and circuits with patch gallery user interfaces |
JP2019076531A (ja) | 2017-10-25 | 2019-05-23 | テルモ株式会社 | 治療方法 |
JP2019076527A (ja) | 2017-10-25 | 2019-05-23 | テルモ株式会社 | 治療方法 |
JP2019076526A (ja) | 2017-10-25 | 2019-05-23 | テルモ株式会社 | 治療方法 |
JP2019080749A (ja) | 2017-10-30 | 2019-05-30 | テルモ株式会社 | 治療方法 |
JP2019080875A (ja) | 2017-10-31 | 2019-05-30 | テルモ株式会社 | 治療方法 |
JP2019080876A (ja) | 2017-10-31 | 2019-05-30 | テルモ株式会社 | 治療方法 |
JP7083037B2 (ja) * | 2018-09-20 | 2022-06-09 | 富士フイルム株式会社 | 学習装置及び学習方法 |
US11049294B2 (en) * | 2018-10-02 | 2021-06-29 | Canon Medical Systems Corporation | Activity-dependent, spatially-varying regularization parameter design for regularized image reconstruction |
US11241208B2 (en) * | 2018-11-19 | 2022-02-08 | Terumo Kabushiki Kaisha | Diagnostic method, method for validation of diagnostic method, and treatment method |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6731966B1 (en) * | 1997-03-04 | 2004-05-04 | Zachary S. Spigelman | Systems and methods for targeting a lesion |
PT1019094E (pt) * | 1997-10-02 | 2004-03-31 | Epix Medical Inc | Metodo de diagnostico por imagiologia com contraste intensificado para monitorizacao de terapias de intervencao |
US8114006B2 (en) * | 1998-10-06 | 2012-02-14 | University Of South Florida | Radio guided seed localization of imaged lesions |
US7194118B1 (en) * | 2000-11-10 | 2007-03-20 | Lucid, Inc. | System for optically sectioning and mapping surgically excised tissue |
US8691780B2 (en) * | 2005-02-17 | 2014-04-08 | The Board Of Trustees Of The Leland Stanford Junior University | Txr1 and enhanced taxane sensitivity based on the modulation of a pathway mediated thereby |
US20070135999A1 (en) * | 2005-12-13 | 2007-06-14 | Applied Spectral Imaging Ltd. | Method, apparatus and system for characterizing pathological specimen |
JP5067882B2 (ja) * | 2008-07-18 | 2012-11-07 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
WO2011159880A1 (en) * | 2010-06-18 | 2011-12-22 | North Carolina State University | Recombinant lactobacillus with decreased lipoteichoic acid to reduce inflammatory responses |
JP5670695B2 (ja) * | 2010-10-18 | 2015-02-18 | ソニー株式会社 | 情報処理装置及び方法、並びにプログラム |
EP2793697A4 (en) * | 2011-12-21 | 2015-08-19 | Catherine M Shachaf | SYSTEM FOR IMAGING LESIONS ALIGNING FABRIC SURFACES |
-
2013
- 2013-10-29 JP JP2013224366A patent/JP2015087167A/ja active Pending
-
2014
- 2014-10-09 US US14/510,278 patent/US20150117730A1/en not_active Abandoned
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018525707A (ja) * | 2015-06-11 | 2018-09-06 | ユニバーシティ オブ ピッツバーグ−オブ ザ コモンウェルス システム オブ ハイヤー エデュケーションUniversity Of Pittsburgh Of The Commonwealth System Of Higher Education | ヘマトキシリン・エオシン(h&e)染色組織画像における関心領域を調べて、多重化/高多重化蛍光組織画像で腫瘍内細胞空間的不均一性を定量化するシステム及び方法 |
WO2024018581A1 (ja) * | 2022-07-21 | 2024-01-25 | 日本電気株式会社 | 画像処理装置、画像処理方法及び記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
US20150117730A1 (en) | 2015-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015087167A (ja) | 画像処理方法、画像処理システム | |
US11682118B2 (en) | Systems and methods for analysis of tissue images | |
EP4083907A1 (en) | Pathological diagnosis assisting method using ai, and assisting device | |
CN111474701B (zh) | 一种病理显微图像实时采集分析系统、方法、装置及介质 | |
US11893732B2 (en) | Computer supported review of tumors in histology images and post operative tumor margin assessment | |
US10004403B2 (en) | Three dimensional tissue imaging system and method | |
JP5547597B2 (ja) | 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体 | |
EP2546802A2 (en) | Generating artificial hyperspectral images using correlated analysis of co-registered images | |
CN114972548A (zh) | 用于显示生物标本的多个图像的图像处理系统和方法 | |
US9261441B2 (en) | Generating a slicing scheme for slicing a specimen | |
JP2005530138A (ja) | 組織標本の中の重要な構造のコンピュータを利用した画像捕捉 | |
US20140184778A1 (en) | Image processing apparatus, control method for the same, image processing system, and program | |
US20110299746A1 (en) | Image processing apparatus and medical image diagnosis apparatus | |
JP2024502437A (ja) | 組織リモデリングを評価するためのシステムおよび方法 | |
JP5702943B2 (ja) | 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体 | |
WO2021261323A1 (ja) | 情報処理装置、情報処理方法、プログラム及び情報処理システム | |
CN112233151B (zh) | 一种自动确认浸润性乳腺癌区域系统 | |
WO2022197917A1 (en) | Apparatus and method for training of machine learning models using annotated image data for pathology imaging | |
Tian et al. | Three-dimensional reconstruction of laryngeal cancer with whole organ serial immunohistochemical sections | |
JP4017157B2 (ja) | 中空臓器血管抽出方法、中空臓器血管抽出処理プログラムおよび画像処理装置 | |
WO2022202233A1 (ja) | 情報処理装置、情報処理方法、情報処理システム、及び、変換モデル | |
Plancoulaine et al. | Building of a composite virtual slide from contiguous tissue samples | |
Zhang et al. | Near-infrared II hyperspectral imaging improves the accuracy of pathological sampling of multiple cancer specimens | |
Zhang et al. | Near-Infrared II Hyperspectral Imaging Improves the Accuracy of Pathological Sampling of Multiple Cancer Types | |
JP2023056132A (ja) | 医用画像処理装置、方法及びプログラム |