JP6336391B2 - 情報処理装置、情報処理方法、およびプログラム - Google Patents

情報処理装置、情報処理方法、およびプログラム Download PDF

Info

Publication number
JP6336391B2
JP6336391B2 JP2014534285A JP2014534285A JP6336391B2 JP 6336391 B2 JP6336391 B2 JP 6336391B2 JP 2014534285 A JP2014534285 A JP 2014534285A JP 2014534285 A JP2014534285 A JP 2014534285A JP 6336391 B2 JP6336391 B2 JP 6336391B2
Authority
JP
Japan
Prior art keywords
image
region
display
information processing
biopsy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014534285A
Other languages
English (en)
Other versions
JPWO2014038408A1 (ja
Inventor
武史 大橋
武史 大橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japanese Foundation for Cancer Research
Sony Corp
Original Assignee
Japanese Foundation for Cancer Research
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japanese Foundation for Cancer Research, Sony Corp filed Critical Japanese Foundation for Cancer Research
Publication of JPWO2014038408A1 publication Critical patent/JPWO2014038408A1/ja
Application granted granted Critical
Publication of JP6336391B2 publication Critical patent/JP6336391B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T3/02
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5294Devices using data or image processing specially adapted for radiation diagnosis involving using additional data, e.g. patient information, image labeling, acquisition parameters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10056Microscopic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30024Cell structures in vitro; Tissue sections in vitro

Description

本開示は、情報処理装置、情報処理方法、およびプログラムに関し、特に、例えば、複数の病理画像を並べて表示し、見比べることにより病理診断を行なう場合に用いて好適な情報処理装置、情報処理方法、およびプログラムに関する。
従来、医療の場において、腫瘍などの病理組織を診断する(例えば、癌などの悪性腫瘍であるか否かを判断する)方法として、患者から病理組織の一部を採取して薄く切り、その切片(以下、生検と称する)をスライドガラス上に配置して染色することによりプレパラートを作成し、顕微鏡などで観察、診断する方法がある。
染色方法(試薬など)と染色対象とその色については、以下の関係が知られている。
染色方法 染色対象 色
ヘマトキシリン 細胞核 青紫
エオジン 細胞質、結合組織 淡赤
PAS染色 粘液 紫
KB染色 神経線維 青
ケラチン903 基底細胞 茶色
この他にも染色方法としては、H&E(Hematoxylin&Eosin)、IHC(Immunohistochemistry)、FISH(Fluorescence In Situ Hybridization)などを挙げることができる。
H&Eは、好塩基性の細胞核、骨組織、軟骨組織の一部、漿液成分などを青紫色に、好酸性の細胞質、軟部組織の結合組織、赤血球、線維素、内分泌顆粒などを赤ピンク色に分けて染色できる。
IHCは、抗原抗体反応を可視化することができる。FISHは、遺伝子のマッピングや染色体異常などを検出することができる。
このように、各染色は、それぞれ染色対象が異なるので、生体組織の同一部位に対して、異なる染色を施して観察すれば、より正確に診断することが可能となる。
ただし、1枚のプレパラート上の切片を異なる複数の染色方法により染色した場合、染色の発色状態が悪くなって診断しづらくなる傾向がある。また、染色方法の組み合わせによっては同時に使えないものもある。したがって、1枚のプレパラートに複数の異なる染色が混在する状態は避けることが望ましい。
図1は、生成されたプレパラートの例を示している。同図AのプレパラートP1と同図BのプレパラートP2は、採取された病理組織から隣り合って切り出された生検から成る。例えば、プレパラートP1,P2の一方の染色がH&Eであり、他方の染色がIHCであるとする。
同図AのプレパラートP1上の左端の生検b11と同図BのプレパラートP2上の左端の生検b12とは穿刺採取された病理組織から隣り合って切り出されたものである。以下、生検b11と生検b21との関係を対応する生検と称する。同図中央の生検b21,b22、および同図右端の生検b31,b32についても同様である。
なお、プレパラートP1,P2上の矩形枠は、プレパラート上の同一座標の領域を示し
ており、両者を比較して明らかなように、2枚のプレパラートP1,P2上の対応する生検は、必ずしも同一の座標に配置されているわけではない。また、生検を切り出すときの力具合などよって、その形状が変形したりすることも発生し得る。
2枚のプレパラートP1,P2を見比べる最もシンプルな方法は、病理医などの診断者が顕微鏡下で2枚のプレパラートP1,P2を並べて持ち、観察する位置を高速に移動させながら、対応する部位を探して診断する方法である。しかしながら、この場合、プレパラートを移動させ過ぎてしまったり、移動量が足らなかったりして、対応する部位を正しく効率的に観察することが困難であった。
そこで、このような診断者によるプレパラートの移動を必要としない方法としてバーチャル顕微鏡システムが提案されている(例えば、特許文献1参照)。
該バーチャル顕微鏡システムでは、診断対象とするプレパラート上の生検を小領域に分割し、分割した小領域を解像度の高い対物レンズを用いて各々撮影した後、撮影によって得られた複数の小領域の画像をつなぎ合わせることによって診断対象の生検の画像をデジタル画像データとして再構築している。
該バーチャル顕微鏡システムにより2枚のプレパラートをデジタル画像データとして再構築すれば、それらを同時に並べてパーソナルコンピュータの画面などに表示させることができる。
特開平09−281405号公報
しかしながら、該バーチャル顕微鏡システムを使用したとしても、2枚のプレパラートにおける対応する部位を正確に並べて表示させるためには、診断者による画像の拡大、縮小、回転などを指示する操作が依然として必要である。
本開示はこのような状況に鑑みてなされたものであり、複数の画像における対応する部位を正確に並べて表示できるようにするものである。
本開示の一側面である情報処理装置は、対応するオブジェクトが写し出されている複数の入力画像を画像処理部に供給し、前記画像処理部の画像処理結果として得られる複数のオブジェクト画像を取得する画像供給部と、取得された前記複数のオブジェクト画像をシンクロ表示させる表示制御部とを備え、前記オブジェクト画像は、前記複数の入力画像から対応する前記オブジェクトを含む領域が抽出されたものであり、複数の前記オブジェクト画像における対応するオブジェクトの向き、位置、およびサイズが統一されている。
前記表示制御部は、ガイドスクロール表示、自動縦横割選択表示、瞬時切り替え表示、切り出し並べ表示、めくり表示、または多染色合成表示のうちの少なくとも1つ表示を実行することができる。
前記複数の画像は、医療画像とすることができる。
前記オブジェクトは生体組織から切り出された生検であり、前記複数の医療画像は、同
一の生体組織から隣り合って切り出された前記生検がスライドガラスに配置されて、異なる種類の染色が施されているプレパラートをスキャニングした病理画像とすることができる。
前記画像処理部は、インターネット上に設けられたサーバとすることができる。
本開示の一側面である情報処理装置は、前記画像処理部をさらに備えることができる。
本開示の一側面である情報処理方法は、前記情報処理装置が、対応するオブジェクトが写し出されている複数の入力画像を画像処理部に供給することと、前記画像処理部の画像処理結果として得られる複数のオブジェクト画像を取得することと、取得された前記複数のオブジェクト画像をシンクロ表示させることとを含み、前記オブジェクト画像は、前記複数の入力画像から対応する前記オブジェクトを含む領域が抽出されたものであり、複数の前記オブジェクト画像における対応するオブジェクトの向き、位置、およびサイズが統一されている。
本開示の一側面であるプログラムは、コンピュータを、対応するオブジェクトが写し出されている複数の入力画像を画像処理部に供給し、前記画像処理部の画像処理結果として得られる複数のオブジェクト画像を取得する画像供給部と、取得された前記複数のオブジェクト画像をシンクロ表示させる表示制御部として機能させ、前記オブジェクト画像は、前記複数の入力画像から対応する前記オブジェクトを含む領域が抽出されたものであり、複数の前記オブジェクト画像における対応するオブジェクトの向き、位置、およびサイズが統一されている。
本開示の一側面においては、対応するオブジェクトが写し出されている複数の入力画像が画像処理部に供給され、前記画像処理部の画像処理結果として得られる複数のオブジェクト画像が取得され、取得された前記複数のオブジェクト画像がシンクロ表示される。
プレパラートの例を示す図である。 本開示の実施の形態である病理画像表示制御装置の構成例を示すブロック図である。 病理画像の例を示す図である。 生検領域画像生成サーバの構成例を示すブロック図である。 検出辞書の生成手順を説明する図である。 細胞組織領域の検出と、生体領域のグルーピング、およびその切り出しを説明する図である。 切り出された生検領域画像の拡大図である。 生検領域画像の位置とサイズの補正を説明する図である。 補正された生検領域画像の拡大図である。 病理画像シンクロ表示処理を説明するフローチャートである。 自動縦横割選択表示の表示例を示す図である。 瞬時切り替え表示の表示例を示す図である。 切り出し並べ表示の表示例を示す図である。 めくり表示の表示例を示す図である。 多染色合成表示の表示例を示す図である。 コメント対応表示の表示例を示す図である。 コンピュータの構成例を示すブロック図である。
以下、本開示を実施するための最良の形態(以下、実施の形態と称する)について、図面を参照しながら詳細に説明する。
[病理画像表示制御装置の構成例]
本開示の情報処理装置の実施の形態である病理画像表示制御装置は、採取した病理組織から隣り合って切り出された生検が写っている複数の病理画像の対応する部位の位置を正確に並べて表示させるものである。
ただし、以下においては2枚の病理画像を並べて表示する場合について説明するが、本開示は3枚以上の病理画像を並べて表示する場合にも適用可能である。
ここで、病理画像とは、人体などの生体組織から採取された検体またはサンプルから病理診断を目的に作製された病理標本(プレパラート)を、専用のスキャナで読み込んで作成したデジタル画像データを指す。
さらに、本開示は病理画像のみならず、CT、MRI、X線などより人体などを撮像して得られる医療画像、医療分野に限定されない任意の画像を並べて表示させる場合にも適用できる。
図2は、本開示の情報処理装置を適用した病理画像表示制御装置の構成例を示している。
病理画像表示制御装置10は、操作入力部11、病理画像入力部12、生検領域画像取得部13、および表示制御部14から構成される。
操作入力部11は、ユーザ(診断者)による病理画像の選択操作、表示に関する様々な操作などを受け付けて、それに対応する操作信号を病理画像入力部12または表示制御部14に出力する。
病理画像入力部12は、ユーザの選択操作に基づく操作信号に従い、予め用意されている病理画像のうち、見比べて診断に用いるための、対応する生検が写っている2枚の病理画像PP1,PP2を生検領域画像取得部13に入力する。
図3は、病理画像入力部12から生検領域画像取得部13に入力される2枚の病理画像PP1,PP2の一例である。これらは、図1に示されたプレパラートP1,P2をスキャナなどによりスキャニングして得られたものである。
生検領域画像取得部13は、2枚の病理画像を生検領域画像生成サーバ20に送信し、生検領域画像生成サーバ20にて2枚の病理画像PP1,PP2それぞれに基づいて生成される生検領域画像を取得して表示制御部14に供給する。
なお、生検領域画像生成サーバ20は、例えばインターネット上に設けるようにするが、生検領域画像生成サーバ20の全体またはその一部を病理画像表示制御装置10に内蔵するようにしてもよい。
生検領域画像とは、病理画像(プレパラート全体の画像)上に存在する細胞組織の領域を検出し、検出した細胞組織の領域を生検毎に区分けて抽出し、その向きやサイズを補正して統一したものを指す。
表示制御部14は、ユーザの操作に対応し、生検領域画像取得部13から供給される2
枚の生検領域画像を後段のディスプレイ30に並べて表示させる。以下、生検領域画像を並べて表示させることをシンクロ表示とも称する。表示制御部14による様々なシンクロ表示の方法については、図11乃至図16を参照して後述する。
次に、図4は生検領域画像生成サーバ20の構成例を示している。
生検領域画像生成サーバ20は、細胞組織領域検出部21、検出辞書22、生検領域グルーピング部23、生検領域切り出し部24、および位置補正部25から構成される。
細胞組織領域検出部21は、検出辞書22を用いることにより、図3に示されたような病理画像PP1,PP2の全領域から細胞組織領域(すなわち、図3Aの生検b11,b21,b31の領域、図3Bのb12,b22,b32の領域)を検出する。
検出辞書22は、学習用の細胞組織領域画像を用いた統計学習により予め生成されたものである。検出辞書22の生成について図5を参照して説明する。
まず、学習用の細胞組織領域画像から細胞組織領域を中心として切り出したパッチ画像と、背景部分(非細胞組織領域)を中心として切り出したパッチ画像を学習データセットとして準備し、それぞれの画像特徴量を抽出する。そして、細胞組織領域が中心の画像をPositiveデータ、背景部分が中心の画像をNegativeデータとして統計学習を行う。
パッチ画像の画像特徴量の抽出方法については任意であるが、例えば特開2005−284348に開示されている、パッチ画像上の所定の2点の輝度差分を算出するPixDif輝度差分特徴量を適用することができる。統計学習の方法についても任意であるが、例えばBoostingを適用することができる。
検出辞書22を用いることにより、入力パッチ画像xに対して、学習で得られたT個の弱仮説f、重みαを用いて次式(1)により表される最終仮説Fを得ることができる。
Figure 0006336391
したがって、細胞組織領域検出部21において、病理画像PP1,PP2の全画素を順次中心として入力パッチ画像を切り出し、その入力パッチ画像に対して最終仮説Fを算出し、そのFの値を閾値処理することで、入力パッチ画像の中心の画素がPositive領域(細胞組織領域)であるのかNegative領域(非細胞組織領域)であるのかを判別することができる。
細胞組織領域検出部21による細胞組織領域の検出結果は、例えば図6Bに示されるようなものとなる。
図4に戻る。生検領域グルーピング部23は、細胞組織領域検出部21により検出された細胞組織領域を生検毎に区分けする。
具体的には、細胞組織領域とされた画素を病理画像上の生検を表す生検番号毎にグルーピングする。なお、病理画像における生検数は、一般的にプレパラート作成時に既知である。したがって、このグルーピングは、クラスタ数が既知であるクラスタリング問題となる。以下に、スペクトラルクラスタリングによりクラスタリングを行なう方法を説明する。
細胞組織領域の画素数をn、目標とするグルーピングのクラスタ数(生検数)をC、画素iと画素jの座標値におけるユークリッド距離をdijとする。
さらに、affinity matrix Aijを次式(2)のように定義する。
Figure 0006336391
ここで、σは、スケールパラメータであり、対象に適切な値(例えば、0.1)を設定する。
次に、次式(3)のように対角行列Dを定義して行列Lを求める。
Figure 0006336391
次に、行列Lの固有値の大きい順にC個の固有ベクトルx1,x2,・・・,xCを求め、行列X=[x1,x2,・・・,xC]を作成する。そして、次式(4)のように、このXを各行で正規化した行列Yを求める。
Figure 0006336391
この行列Yの各行を要素ベクトルとしてK-meansによりC個にクラスタリングすると、行列Yの行番号iのクラスタが画素iのクラスタと対応する。
なお、生検領域グルーピング部23におけるグルーピングには、スペクトラルクラスタリングの他、入力データに直接K-meansを適応するなどの任意のクラスタリングの技術を用いることもできる。その場合、入力されるデータの特性に応じて、適切なクラスタリング技術を用いることが望ましい。
生検領域グルーピング部23によるグルーピング結果は、例えば図6Cに示されるように、図6Bに示されていた細胞組織領域が生検の数と同じ数の3つのグループにグルーピングされたものとなる。
再び図4に戻る。生検領域切り出し部24は、グルーピングされた生検領域毎に、病理
画像の回転補正と切り出しを行なう。
回転補正は、各生検領域毎に、重心周りのx軸のp次のモーメント、y軸のq次のモーメントをupqとして、次式(5)に基づいて慣性主軸の傾きθが求められる。
Figure 0006336391
そして、慣性主軸の傾きθだけ、元の病理画像が回転補正される。この後、生検領域の周囲に所定の幅(例えば、数百ピクセル)の余白を確保した領域を、回転補正後の病理画像から切り出すことにより、図6Dに示されるような生検領域画像を生成する。
なお、図6D以降においては、病理画像PP1,PP2上に存在していた3つの生体のうち、左端の生検b11,b12についてのみを図示しているが、中央の生検b21,b22、右端の生検b31,b32についても同様の処理が行われる。
図7は、生検領域切り出し部24により切り出された生検領域画像の拡大図である。なお、同図Aは、病理画像PP1の左端の生検b11から切り出された生検領域画像であり、同図Bは、病理画像PP2の左端の生検b12から切り出された生検領域画像である。
同図から明らかなように、生検b11と生検b12とは縦方向に若干のずれが生じ、サイズも変化してしまっている(伸びている、または縮んでいる)。これは、生検b11,b12を生体組織から切り出したり、スライドガラスに載せたりするときの力加減などに起因するものと考えられ、このままでは、生検b11,b12の対応する部位を正確に並べて観察、診断するに際して不都合である。
そこで、生検領域切り出し部24の後段の位置補正部25は、切り出された生検領域画像の位置とサイズを補正して統一する。具体的手順について、図8を参照して説明する。なお、図8においては、生検領域画像の縦方向の位置ずれとサイズの補正についてのみ説明するが、横方向についても同様の処理を行うものとする。
まず、同図Aに示される生検領域画像から、同図Bに示される細胞組織領域と背景(非細胞組織領域)と区別して表す2値化画像を得る。次に、2値化画像の縦方向の同一座標に位置する細胞組織領域に属する画素数をカウントし、同図Cに示される、縦軸が2値化画像の縦座標を示し、横軸が画素数を示すヒストグラムを生成する。
さらに、得られた2つのヒストグラムを同図Dに示すようにして重ね、2つのヒストグラムが十分に重なるまで(実際には、所定の評価関数値(例えば、内積値)が所定の値以上となるまで)一方を固定し、他方についてのみ縦方向に位置を調整し、縦方向にサイズを伸縮補正することを繰り返して実行する。
そして、最終的な縦方向の位置の調整値と、縦方向のサイズの伸縮補正値を元の生検領域画像に適用する。これにより、図9に示されるように、ずれの生じていた2枚の生検領域画像が、ずれのない2枚の生検領域画像に補正される。なお、図9は、図7に示されたずれの生じていた2枚の生検領域画像の補正後の状態である。
このようにして補正された生検領域画像は、生検領域画像生成サーバ20から生検領域画像取得部13に戻される。
[動作説明]
次に、病理画像表示制御装置10による病理画像シンクロ表示処理について、図10を参照して説明する。図10は、病理画像シンクロ表示処理を説明するフローチャートである。
ステップS1において、病理画像入力部12は、ユーザの選択操作に基づく操作信号に従い、見比べて診断に用いる2枚の病理画像PP1,PP2を生検領域画像取得部13に入力する。生検領域画像取得部13は、2枚の病理画像を生検領域画像生成サーバ20に送信する。
ステップS2において、生検領域画像生成サーバ20の細胞組織領域検出部21は、検出辞書22を用いることにより、病理画像PP1,PP2から細胞組織領域を検出する。
ステップS3において、生検領域グルーピング部23は、細胞組織領域検出部21により検出された細胞組織領域を生検毎に区分けする。生検領域切り出し部24は、グルーピングされた生検領域毎に、その慣性主軸の傾きθに基づいて回転補正を行い、その後、生検領域の周囲に所定の幅(例えば、数百ピクセル)の余白を確保した領域を、回転補正後の病理画像から切り出すことにより生検領域画像を生成する。
ステップS4において、位置補正部25は、生検領域画像の位置とサイズを補正する。補正後の生検領域画像は、生検領域画像生成サーバ20から生検領域画像取得部13に戻される。
ステップS5において、表示制御部14は、ユーザの操作に対応し、生検領域画像取得部13から供給される2枚の生検領域画像を後段のディスプレイ30にシンクロ表示させる。以上で、病理画像シンクロ表示処理の説明を終了する。
[シンクロ表示の具体例]
以下、表示制御部14によるシンクロ表示の例を説明する。
「ガイドスクロール表示」
生検領域画像をより拡大して上下方向または左右方向にスクロールしながらシンクロ表示させる場合、表示画面の中心を生検領域画像の形状に合わせて移動させる。例えば、生検領域画像の形状が図9に示されたような「く」の字状である場合に、上方から下方にスクロール表示するときには、画面の中心が生検領域画像の形状に合わせて始めは左側に移動され、その後は右側に移動される。これにより、ユーザは常に診断に必要な部位のみをスクロールさせながら観察することができる。
「自動縦横割選択表示」
生検領域画像における生検領域の形状が縦長の場合には、図11Aに示されるように、画面50を縦方向に分割して2枚の生検領域画像を左右に並べて表示する。生検領域画像における生検領域の形状が横長の場合には、図11Bに示されるように、画面60を横方向に分割して2枚の生検領域画像を上下に並べて表示する。これにより画面に表示される生検領域が広くなるのでユーザによって観察、診断し易くなる。
生検領域が縦長であるか横長であるかの判断は、生検領域の慣性主軸の角度(傾き)に基づいて行なう。すなわち、慣性主軸の角度を、垂直上向きを0度、反時計回りに正の角度と定義した場合、算出された慣性主軸の角度が−45度から+45度まで、または135度から225度までのときには縦長、それ以外のときには横長と判断して表示を切り
替えるようにする。
「瞬時切り替え表示」
図12Aに示されるような生検領域画像70と、それに対応する図12Bに示されるような生検領域画像71を、ユーザからの所定の操作に応じて瞬間的に切り替えて表示するようにしてもよい。この表示方法の場合、空間的に2枚の画像を並べて同時に表示するよりも、ユーザは視点を動かさないで済むので、より容易に2枚生検領域画像の対応する部位を見比べることができる。
「切り出し並べ表示」
図13Aに示されるように、生体b11を示す生検領域画像80においてユーザが任意のサイズの選択領域81を設定すると、図13Bに示されるように、選択領域81の隣に切り出し表示領域83が設けられる。切り出し表示領域83には、選択領域81により指定された生体b11の部位に対応する、生体b12の部位が表示される。なあお、切り出し表示領域83の表示位置は、選択領域81の隣からユーザが任意に移動させることができる。また、ユーザは生検領域画像80の選択領域81を任意に移動させることができ、この移動に伴って切り出し表示領域83も移動され、そこに表示される生体b12の部位も変更される。この表示方法の場合、ユーザは見比べたい部位を任意の位置に並べることができる。
「めくり表示」
図14Aに示されるように、生体b11を示す生検領域画像91においてユーザが任意のサイズの選択領域92を設定し、選択領域92に対してユーザが所定の操作(マウスドラッグなど)を行なうと、図14Bに示されるように、選択領域81内の表示が、生体b11の部位から、それに対応する生体b12の部位に徐々に切り替えられる。この表示方法により、ユーザは視点を動かすことなく、生体b11と生体b12の対応する部位を見比べることができる、また、ユーザの操作量(マウスドラッグの量など)により、見比べる領域の比率を調整することができる。
「多染色合成表示」
図15Aに示されるように、複数の対応する生検に対して発色が異なる複数のIHC(免疫染色)を施し、それぞれの染色部位(同図B)を、H&E染色された生検領域画像(同図C)に重畳し、同図Dに示されるような複数のIHCとH&Eの結果を同時に表示するようにしてもよい。これにより、ユーザはIHCとH&Eの結果を同時に見て診断することができる。なお、発色が異なる複数のIHC(免疫染色)の染色部位(同図B)を、H&E染色された生検領域画像(同図C)に重畳せず、発色が異なる複数のIHC(免疫染色)の染色部位(同図B)を合成して表示するようにしてもよい。
「コメント対応表示」
ユーザは上述した「瞬時切り替え表示」において一方の生検b11を示す生検領域画像110の所定の部位に対して診断コメント111を画面上に貼付することができる。この後、他方の生検b12を示す生検領域画像112に表示が切替えられた場合、生検b12の対応する部位に対して、生検b11に基づいて下した診断コメント111が貼付表示される。これによりユーザは、診断が下された生検b11の部位に対応する、生検b12の部位を確認することができる。
以上説明したように、本実施の形態である病理画像表示制御装置10によれば、複数の画像をシンクロ表示することが可能となる。
具体的には、複数の画像における対応する部位を同時表示することができるので、ユー
ザは診断精度を改善することができる。また、1つの生検を異なる複数の染色方法により染色してそれらの発色を分離する場合にさせることに比較し、クオリティの高い多染色の画像をシンクロ表示できる。さらに、複数の生検領域画像の位置とサイズを補正する処理を行うため、位置ズレなく対応する画像を表示することができる。
またさらに、通常では同時に施すことができない染色方法を組み合わせてシンクロ表示することができる。また、暗視野観察と明視野観察と位相差観察による撮影の画像など、従来の顕微鏡では同時に見ることができなかった組み合わせの画像もシンクロ表示することができる。
以上のような効果の結果として、ユーザ(診断者)は診断精度を向上させることができ、また、診断時間を短縮することができる。
ところで、上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図12は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータ200において、CPU(Central Processing Unit)201,ROM(Read Only Memory)202,RAM(Random Access Memory)203は、バス204により相互に接続されている。
バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、入力部206、出力部207、記憶部208、通信部209、およびドライブ210が接続されている。
入力部206は、キーボード、マウス、マイクロフォンなどよりなる。出力部207は、ディスプレイ、スピーカなどよりなる。記憶部208は、ハードディスクや不揮発性のメモリなどよりなる。通信部209は、ネットワークインタフェースなどよりなる。ドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア211を駆動する。
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205およびバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU201)が実行するプログラムは、例えば、インターネット上の所定のサーバにアクセスすることにより取得、実行することができる、いわゆるwebアプリケーションとして提供することができる。
また、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。さらに、プログラムは、有線または無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであってもよいし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであってもよい。
なお、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
10 病理画像表示制御装置, 11 操作入力部, 12 病理画像入力部, 13
生検領域画像取得部, 14 表示制御部, 20 生検領域画像生成サーバ, 21
細胞組織領域検出部, 22 検出辞書, 23 生検領域グルーピング部, 24 生検領域切り出し部, 25 位置補正部, 30 ディスプレイ, 200 コンピュータ, 201 CPU

Claims (14)

  1. 第1の画像および第2の画像を画像処理部に供給し、前記第1の画像から抽出された特定の被写体を含む第1の領域と、前記第2の画像から抽出された前記被写体を含む第2の領域と、を取得する画像取得部と、
    前記第1の領域および前記第2の領域の表示を制御する表示制御部と
    を備え、
    前記第1の領域および前記第2の領域は画像パターンに基づいたグループに分類され、
    前記画像取得部は、同一の前記グループに分類された前記第1の領域および前記第2の領域を取得し、
    前記表示制御部は、向き、位置、またはサイズのうち少なくともいずれかが調整された前記第1の領域および前記第2の領域に係る表示を制御する、
    情報処理装置。
  2. 前記グループに係る分類は、学習データに基づいて実行される、
    請求項1に記載の情報処理装置。
  3. 前記学習データは、背景部分が中心の画像と、当該画像を除く前記被写体を含む画像と、を含む、
    請求項2に記載の情報処理装置。
  4. 前記画像取得部は、向き、位置、サイズのうち少なくともいずれかが調整された前記第1の領域および前記第2の領域を、それぞれ第1の切り出し画像および第2の切り出し画像として取得する、
    請求項1〜3のいずれか1項に記載の情報処理装置。
  5. 前記表示制御部は、前記第1の切り出し画像および前記第2の切り出し画像に係る同期表示を制御する、
    請求項4に記載の情報処理装置。
  6. 前記表示制御部は、ガイドスクロール表示、自動縦横割選択表示、瞬時切り替え表示、切り出し並べ表示、めくり表示、または多染色合成表示のうちの少なくとも1つに係る表示制御を行う、
    請求項1〜5のいずれか1項に記載の情報処理装置。
  7. 前記第1の画像および前記第2の画像は、医療画像である
    請求項1〜6のいずれか1項に記載の情報処理装置。
  8. 前記被写体は生体組織から切り出された生検であり、
    前記医療画像は、同一の生体組織から隣り合って切り出された前記生検がスライドガラスに配置されて、異なる種類の染色が施されているプレパラートをスキャニングした病理画像である
    請求項に記載の情報処理装置。
  9. 前記画像処理部は、ネットワーク上に設けられたサーバである
    請求項のいずれか1項に記載の情報処理装置。
  10. 前記画像処理部をさらに備える
    請求項のいずれか1項に記載の情報処理装置。
  11. 第1の病理画像および第2の病理画像を画像処理部に供給し、前記第1の病理画像から抽出された第1の細胞領域と、前記第2の病理画像から抽出された第2の細胞領域と、を取得する画像取得部と、
    前記第1の細胞領域および前記第2の細胞領域の表示を制御する表示制御部と
    を備え、
    前記第1の細胞領域および前記第2の細胞領域は画像パターンに基づいたグループに分類され、
    前記画像取得部は、同一の前記グループに分類された前記第1の細胞領域および前記第2の細胞領域を取得し、
    前記表示制御部は、向き、位置、またはサイズのうち少なくともいずれかが調整された前記第1の細胞領域および前記第2の細胞領域に係る表示を制御する、
    情報処理装置。
  12. 前記第1の細胞領域および前記第2の細胞領域は、生検を含む領域であり、
    前記グループに係る分類は、前記生検に基づいて実行される、
    請求項11に記載の情報処理装置。
  13. プロセッサが、第1の画像および第2の画像を画像処理部に供給し、前記第1の画像から抽出された特定の被写体を含む第1の領域と、前記第2の画像から抽出された前記被写体を含む第2の領域と、を取得することと、
    前記第1の領域および前記第2の領域の表示を制御すること
    を含み、
    前記第1の領域および前記第2の領域は画像パターンに基づいたグループに分類され、
    前記取得することは、同一の前記グループに分類された前記第1の領域および前記第2の領域を取得し、
    前記制御することは、向き、位置、またはサイズのうち少なくともいずれかが調整された前記第1の領域および前記第2の領域に係る表示を制御する、
    情報処理方法。
  14. コンピュータを、
    第1の画像および第2の画像を画像処理部に供給し、前記第1の画像から抽出された特定の被写体を含む第1の領域と、前記第2の画像から抽出された前記被写体を含む第2の領域と、を取得する画像取得部と、
    前記第1の領域および前記第2の領域の表示を制御する表示制御部と
    を備え、
    前記第1の領域および前記第2の領域は前記被写体に基づいたグループに分類され、
    前記画像取得部は、同一の前記グループに分類された前記第1の領域および前記第2の領域を取得し、
    前記表示制御部は、向き、位置、またはサイズのうち少なくともいずれかが調整された前記第1の領域および前記第2の領域に係る表示を制御する、
    情報処理装置、
    として機能させるためのプログラム。
JP2014534285A 2012-09-06 2013-08-23 情報処理装置、情報処理方法、およびプログラム Active JP6336391B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2012196008 2012-09-06
JP2012196008 2012-09-06
PCT/JP2013/072594 WO2014038408A1 (ja) 2012-09-06 2013-08-23 情報処理装置、情報処理方法、およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018087947A Division JP6691165B2 (ja) 2012-09-06 2018-05-01 情報処理装置、表示制御システム、およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2014038408A1 JPWO2014038408A1 (ja) 2016-08-08
JP6336391B2 true JP6336391B2 (ja) 2018-06-06

Family

ID=50237021

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2014534285A Active JP6336391B2 (ja) 2012-09-06 2013-08-23 情報処理装置、情報処理方法、およびプログラム
JP2018087947A Active JP6691165B2 (ja) 2012-09-06 2018-05-01 情報処理装置、表示制御システム、およびプログラム
JP2020070225A Active JP7079283B2 (ja) 2012-09-06 2020-04-09 情報処理システム、表示制御システム、およびプログラム

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2018087947A Active JP6691165B2 (ja) 2012-09-06 2018-05-01 情報処理装置、表示制御システム、およびプログラム
JP2020070225A Active JP7079283B2 (ja) 2012-09-06 2020-04-09 情報処理システム、表示制御システム、およびプログラム

Country Status (5)

Country Link
US (3) US10223765B2 (ja)
EP (1) EP2894599B1 (ja)
JP (3) JP6336391B2 (ja)
CN (2) CN104584069B (ja)
WO (1) WO2014038408A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6476985B2 (ja) * 2015-02-20 2019-03-06 富士ゼロックス株式会社 表示装置、表示システム及びプログラム
WO2017158983A1 (ja) * 2016-03-18 2017-09-21 株式会社Jvcケンウッド 物体認識装置、物体認識方法及び物体認識プログラム
JP7303144B2 (ja) * 2016-04-05 2023-07-04 株式会社島津製作所 放射線撮影装置、放射線画像の対象物検出プログラムおよび放射線画像における対象物検出方法
WO2018198908A1 (ja) * 2017-04-24 2018-11-01 国立研究開発法人理化学研究所 毛髪観察方法、位相差顕微鏡システム及びプレパラート
CN107452321A (zh) * 2017-09-28 2017-12-08 上海与德科技有限公司 电子广告屏的分屏显示系统
US11321881B2 (en) * 2017-12-01 2022-05-03 Sony Corporation Image coloring apparatus, image coloring method, image learning apparatus, image learning method, computer program, and image coloring system
US10929716B2 (en) * 2018-09-12 2021-02-23 Molecular Devices, Llc System and method for label-free identification and classification of biological samples
JP7128107B2 (ja) * 2018-12-26 2022-08-30 オムロン株式会社 画像検査器生成装置、画像検査装置、画像検査器生成プログラム、及び画像検査器生成方法
US11250169B2 (en) * 2019-05-02 2022-02-15 Bank Of America Corporation System for real-time authenticated obfuscation of electronic data
JP7383939B2 (ja) * 2019-09-03 2023-11-21 東ソー株式会社 学習装置、学習方法、細胞判別装置、細胞判別方法、細胞判別学習プログラムおよび細胞判別プログラム
JPWO2021261323A1 (ja) * 2020-06-24 2021-12-30
JP2022152980A (ja) * 2021-03-29 2022-10-12 ソニーグループ株式会社 医療用画像解析装置、医療用画像解析方法及び医療用画像解析システム

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09281405A (ja) 1996-04-17 1997-10-31 Olympus Optical Co Ltd 顕微鏡システム
JP2919428B2 (ja) * 1997-04-10 1999-07-12 日本電気株式会社 画像変形装置
JP2000342558A (ja) 1999-06-04 2000-12-12 Konica Corp 画像の位置合わせ処理装置及び画像間演算処理装置
JP2000353246A (ja) * 1999-06-11 2000-12-19 Hitachi Ltd パターン認識装置
JP3427068B2 (ja) * 2001-10-11 2003-07-14 株式会社インステム 赤血球画像データ処理装置
US7162074B2 (en) * 2001-11-20 2007-01-09 Fuji Jukogyo Kabushiki Kaisha Adjusting apparatus for stereoscopic camera
US6817982B2 (en) * 2002-04-19 2004-11-16 Sonosite, Inc. Method, apparatus, and product for accurately determining the intima-media thickness of a blood vessel
US7648678B2 (en) * 2002-12-20 2010-01-19 Dako Denmark A/S Method and system for pretreatment of tissue slides
US7668358B2 (en) * 2003-07-18 2010-02-23 Hologic, Inc. Model-based grayscale registration of medical images
JP4482796B2 (ja) 2004-03-26 2010-06-16 ソニー株式会社 情報処理装置および方法、記録媒体、並びにプログラム
JP2007024927A (ja) * 2005-07-12 2007-02-01 Olympus Corp 顕微鏡画像撮影装置
US7666620B2 (en) * 2006-11-08 2010-02-23 Richard-Allan Scientific Company Rapid tissue processing system
GB0804572D0 (en) 2008-03-12 2008-04-16 Johnson Matthey Plc Preparation of desulphurisation materials
US8199248B2 (en) * 2009-01-30 2012-06-12 Sony Corporation Two-dimensional polynomial model for depth estimation based on two-picture matching
JP5152077B2 (ja) 2009-04-01 2013-02-27 ソニー株式会社 生体像提示装置、生体像提示方法及びプログラム並びに生体像提示システム
JP5614032B2 (ja) * 2009-11-30 2014-10-29 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
US8564623B2 (en) * 2009-12-11 2013-10-22 Molecular Devices, Llc Integrated data visualization for multi-dimensional microscopy
JP5535727B2 (ja) * 2010-04-01 2014-07-02 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
US8379919B2 (en) * 2010-04-29 2013-02-19 Microsoft Corporation Multiple centroid condensation of probability distribution clouds
US8686335B2 (en) * 2011-12-31 2014-04-01 Seno Medical Instruments, Inc. System and method for adjusting the light output of an optoacoustic imaging system
JP5630674B2 (ja) 2010-09-30 2014-11-26 日本電気株式会社 情報処理装置、情報処理システム、情報処理方法、プログラム及び記録媒体
US8351676B2 (en) * 2010-10-12 2013-01-08 Sony Corporation Digital image analysis using multi-step analysis
JP2013003686A (ja) * 2011-06-13 2013-01-07 Sony Corp 認識装置および方法、プログラム、並びに記録媒体
US20130289381A1 (en) * 2011-11-02 2013-10-31 Seno Medical Instruments, Inc. Dual modality imaging system for coregistered functional and anatomical mapping
CN102436584B (zh) * 2011-11-04 2013-09-25 西安电子科技大学 基于字典学习的胃部ct图像感兴趣区域检测系统
US20130331293A1 (en) * 2011-12-16 2013-12-12 Rutgers, The State University Of New Jersey Automated high-content image analysis system and methods and uses thereof
JP2013174823A (ja) * 2012-02-27 2013-09-05 Olympus Corp 画像処理装置、顕微鏡システム、及び画像処理方法
JP5376024B1 (ja) * 2012-08-23 2013-12-25 富士ゼロックス株式会社 画像処理装置、プログラム及び画像処理システム

Also Published As

Publication number Publication date
CN104584069B (zh) 2019-11-15
US20150228053A1 (en) 2015-08-13
JP2020119588A (ja) 2020-08-06
JP7079283B2 (ja) 2022-06-01
JP6691165B2 (ja) 2020-04-28
EP2894599A4 (en) 2016-04-20
WO2014038408A1 (ja) 2014-03-13
JP2018165718A (ja) 2018-10-25
US10223765B2 (en) 2019-03-05
EP2894599B1 (en) 2023-08-16
US11817202B2 (en) 2023-11-14
CN110957022A (zh) 2020-04-03
JPWO2014038408A1 (ja) 2016-08-08
EP2894599A1 (en) 2015-07-15
US20190147563A1 (en) 2019-05-16
US20210407654A1 (en) 2021-12-30
CN104584069A (zh) 2015-04-29
US11152105B2 (en) 2021-10-19

Similar Documents

Publication Publication Date Title
JP7079283B2 (ja) 情報処理システム、表示制御システム、およびプログラム
US10262189B2 (en) Evaluation of co-registered images of differently stained tissue slices
EP3055835B1 (en) Systems and methods for comprehensive multi-assay tissue analysis
US9159129B2 (en) Generating image-based diagnostic tests by optimizing image analysis and data mining of co-registered images
US8699769B2 (en) Generating artificial hyperspectral images using correlated analysis of co-registered images
US8391575B2 (en) Automatic image analysis and quantification for fluorescence in situ hybridization
EP3127084B1 (en) Examining device for processing and analyzing an image
EP2765557B1 (en) Coregistering images of needle biopsies using multiple weighted landmarks
US8542899B2 (en) Automatic image analysis and quantification for fluorescence in situ hybridization
CN111656393A (zh) 组织学图像分析
EP4275052A1 (en) Quantification of conditions on biomedical images across staining modalities using a multi-task deep learning framework
JP2023517703A (ja) 空間マルチパラメータ細胞・細胞内撮像プラットフォームからの組織サンプルの全スライド画像における管/腺及び内腔、管/腺のクラスタ、並びに個々の核を含む組織学的構造のスケーラブルで高精度なコンテクストガイドセグメンテーション
CN106204623B (zh) 多对比度图像同步显示和定位标定的方法及装置
WO2021261323A1 (ja) 情報処理装置、情報処理方法、プログラム及び情報処理システム
Kaltenecker et al. Virtual reality empowered deep learning analysis of brain activity
US20210192734A1 (en) Electronic method and device for aiding the determination, in an image of a sample, of at least one element of interest from among biological elements, associated computer program
CN114841976A (zh) 一种基于多尺度训练策略的前列腺肿瘤分类方法和系统

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160729

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160729

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170926

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20171115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180403

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180502

R150 Certificate of patent or registration of utility model

Ref document number: 6336391

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150