JP6455829B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP6455829B2
JP6455829B2 JP2014006561A JP2014006561A JP6455829B2 JP 6455829 B2 JP6455829 B2 JP 6455829B2 JP 2014006561 A JP2014006561 A JP 2014006561A JP 2014006561 A JP2014006561 A JP 2014006561A JP 6455829 B2 JP6455829 B2 JP 6455829B2
Authority
JP
Japan
Prior art keywords
image
observation
slide
display
enlarged
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014006561A
Other languages
English (en)
Other versions
JP2014211615A (ja
Inventor
知彦 高山
知彦 高山
村上 友近
友近 村上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014006561A priority Critical patent/JP6455829B2/ja
Priority to EP14157414.5A priority patent/EP2796918A3/en
Priority to US14/218,115 priority patent/US20140292813A1/en
Priority to CN201410117573.2A priority patent/CN104104861A/zh
Publication of JP2014211615A publication Critical patent/JP2014211615A/ja
Application granted granted Critical
Publication of JP6455829B2 publication Critical patent/JP6455829B2/ja
Priority to US16/445,682 priority patent/US20190304409A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/38Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes
    • G02B21/367Control or image processing arrangements for digital or video microscopes providing an output produced by processing a plurality of individual source images, e.g. image tiling, montage, composite images, depth sectioning, image comparison
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/60Rotation of a whole image or part thereof
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns

Description

本発明は、スライド上の標本の一部の領域を拡大表示し、その表示領域を移動することにより標本の全体の観察を行う操作、を支援するための技術に関する。
スライド(プレパラート)上の標本をデジタル顕微鏡で撮像することでバーチャル・スライド画像を取得し、これをモニターに表示して観察することが可能なバーチャル・スライドシステムが注目されている(特許文献1)。
また、大容量の画像データであっても、縮小画像および拡大画像を効率良く表示する画像表示技術が知られている(特許文献2)。
また、画像サーバ内の細胞画像を端末装置に表示する際に、表示に必要な領域の分割画像のみを画像サーバからダウンロードすることで、端末装置に表示するまでの時間を短縮する技術が知られている(特許文献3)。
特開2011−118107号公報 特開2011−170480号公報 特開2005−117640号公報
病理診断では、スライドの低倍像を観察しながら関心領域をマーキングする標本観察(スクリーニング)と呼ばれる作業をまず行い、その後、高倍像を用いて各関心領域の詳細な観察を行うことが一般的である。標本観察(スクリーニング)においては、病変部等の見落としを無くすため、スライド上の標本全域をくまなく網羅的に観察することが観察者に要求される。
ところで、胃、肝臓、前立腺、胆のうなどの生検(生体組織診断)では、図6に示すように複数の標本が1つのスライドに載置されることがある(以下、個々の標本を「個別標本」と称する)。標本及びスライドは手作業で作製されるものであるため、それぞれの個別標本の形や向きは不均一であるし、配置も不規則となる。このようなスライドの場合、不規則に配された複数の個別標本を順番に且つ漏れなくスクリーニングする必要があるため、観察者への負担が大きいという課題がある。
特許文献2で示された表示技術は、個別標本の見落としリスクを軽減できるが、個別標本における標本観察(スクリーニング)の負担を軽減するものではない。特許文献3で示された分割画像の生成方法、表示方法では、通信に関わるデータ量を削減できるが、複数の個別標本の標本観察(スクリーニング)の負担を軽減する分割画像の生成方法、表示方法については言及がない。
そこで、本発明は、スライド上に観察対象(例えば、個別標本)が複数ある場合に、標本観察(スクリーニング)の負担を軽減できる技術を提供することを目的とする。
本発明の一つは、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成する調整手段と、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行う表示制御手段と、
を有し、それぞれの観察対象に対して、表示順序が定められた複数の拡大画像が対応付けられており、前記調整手段は、第1の観察対象と第2の観察対象を隣り合わせに配置する場合に、前記第1の観察対象の複数の拡大画像のうち表示順序が最後の拡大画像と、前記第2の観察対象の複数の拡大画像のうち表示順序が最初の拡大画像とが繋がるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置を決定することを特徴とする画像処理装置である。
本発明の一つは、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成する調整手段と、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行う表示制御手段と、を有し、前記調整手段は、各観察対象の画像の領域を平行移動し、または、平行移動と回転をすることにより、前記再構成スライド画像上での各観察対象の配置を調整することを特徴とする画像処理装置である。
本発明の一つは、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成する調整手段と、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行う表示制御手段と、を有し、前記調整手段が、前記複数の観察対象を行方向、列方向またはその両方向に整列させた観察対象並び替え画像を生成し、前記表示制御手段が、前記拡大画像とともに、前記観察対象並び替え画像を前記表示装置に表示することを特徴とする画像処理装置である。
本発明の一つは、表示領域の移動指示を取得する取得手段と、前記移動指示に応じて表
示領域の位置と表示装置に表示する拡大画像の変更を行う表示制御手段と、を備えており、スライドに複数の観察対象が含まれ、それぞれの観察対象に対して複数の拡大画像が対応付けられており、前記表示制御手段は、移動指示を受ける毎に、1つの観察対象のなかで拡大画像が所定の表示順序で切り替わるように表示領域を移動させていき、当該観察対象の最後の拡大画像が表示されているときに移動指示を受けた場合は、当該観察対象の次の観察対象の最初の拡大画像に切り替わるように表示領域を移動させることを特徴とする画像処理装置である。
本発明の一つは、複数の観察対象を含むスライドの一部の領域を拡大表示し、その拡大表示する表示領域を移動することにより前記複数の観察対象を順に観察する操作、を支援するための画像処理装置であって、表示領域の移動指示を取得する取得手段と、前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行う表示制御手段と、を備えており、それぞれの観察対象に対して、最初に観察を開始すべき観察開始位置が定められており、前記表示制御手段は、前記複数の観察対象のなかから1つの観察対象を選択する指示を受けた場合に、前記選択された観察対象の観察開始位置を中心とする領域が拡大表示されるように表示領域を移動させることを特徴とする画像処理装置である
本発明の一つは、コンピュータが、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成するステップと、コンピュータが、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行うステップと、を有し、それぞれの観察対象に対して、表示順序が定められた複数の拡大画像が対応付けられており、前記再構成スライド画像のデータを生成するステップでは、第1の観察対象と第2の観察対象を隣り合わせに配置する場合に、前記第1の観察対象の複数の拡大画像のうち表示順序が最後の拡大画像と、前記第2の観察対象の複数の拡大画像のうち表示順序が最初の拡大画像とが繋がるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置が決定されることを特徴とする画像処理方法である。
本発明の一つは、コンピュータが、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成するステップと、コンピュータが、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行うステップと、を有し、前記再構成スライド画像のデータを生成するステップでは、各観察対象の画像の領域を平行移動し、または、平行移動と回転をすることにより、前記再構成スライド画像上での各観察対象の配置が調整されることを特徴とする画像処理方法である。
本発明の一つは、コンピュータが、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成するステップと、コンピュータが、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行うステップと、コンピュータが、前記複数の観察対象を行方向、列方向またはその両方向に整列させた観察対象並び替え画像を生成するステップと、コンピュータが、前記拡大画像とともに、前記観察対象並び替え画像を前記表示装置に表示するステップと、を有することを特徴とする画像処理方法である。
本発明の一つは、コンピュータが、表示領域の移動指示を取得するステップと、コンピュータが、前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行うステップと、を含んでおり、スライドに複数の観察対象が含まれ、それぞれの観察対象に対して複数の拡大画像が対応付けられており移動指示を受ける毎に、1つの観察対象のなかで拡大画像が所定の表示順序で切り替わるように表示領域を移動させていき、当該観察対象の最後の拡大画像が表示されているときに移動指示を受けた場合は、当該観察対象の次の観察対象の最初の拡大画像に切り替わるように表示領域を移動させることを特徴とする画像処理方法である。
本発明の一つは、複数の観察対象を含むスライドの一部の領域を拡大表示し、その拡大表示する表示領域を移動することにより前記複数の観察対象を順に観察する操作、をコンピュータにより支援するための画像処理方法であって、コンピュータが、表示領域の移動指示を取得するステップと、コンピュータが、前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行うステップと、を含んでおり、それぞれの観察対象に対して、最初に観察を開始すべき観察開始位置が定められており、前記複数の観察対象のなかから1つの観察対象を選択する指示を受けた場合に、前記選択された観察対象の観察開始位置を中心とする領域が拡大表示されるように表示領域を移動させることを特徴とする画像処理方法である
本発明の一つは、上記画像処理方法の各ステップをコンピュータに実行させることを特徴とするプログラムである。
本発明によれば、スライド上に観察対象が複数ある場合に、標本観察(スクリーニング
)の負担を軽減することができる。
画像処理システムの装置構成の全体図。 画像処理システムにおける撮像装置の機能ブロック図。 画像処理装置のハードウェア構成図。 画像処理装置の画像生成・制御部の機能ブロック図。 階層画像データの構造を示す模式図。 複数の個別標本が載置されたスライドを示す模式図。 画像提示アプリケーションの表示例を説明する模式図。 個別標本に対する表示領域枠の設定を説明する模式図。 標本観察(スクリーニング)シーケンスを説明する模式図。 平行移動による標本配置の再構成を説明する模式図。 平行移動による標本配置の再構成を説明するフローチャート。 平行移動による標本配置の再構成の別の例を説明する模式図。 回転と平行移動による標本配置の再構成を説明する模式図。 回転と平行移動による表示領域枠の設定を説明するフローチャート。 表示領域の調整(個別標本の近接)を説明する模式図。 表示領域の調整(個別標本の近接)を説明するフローチャート。 表示領域の調整(個別標本の近接)を実施した結果を説明する模式図。 個別標本の分離を説明する模式図。 画像ファイルフォーマットを説明する模式図。 標本配置の再構成による効果を説明する模式図。 画像提示アプリケーションの第2の表示例を説明する模式図。 画像提示アプリケーションの第3の表示例を説明する模式図。 実施例2における表示制御モードの設定を説明する模式図。 実施例2における画像処理装置の画像生成・制御部の機能ブロック図。 実施例2における表示制御モードの設定を説明するフローチャート。 実施例2における各表示制御モードでの表示処理を説明する模式図。 実施例2における各表示制御モードでの表示処理のフローチャート。
以下、図面を参照しながら本発明の実施の形態を説明する。
<実施例1>
(画像処理システムの装置構成)
本発明の画像処理装置は、撮像装置と表示装置を備えた画像処理システムにおいて用いることができる。この画像処理システムの構成を、図1を用いて説明する。
画像処理システムは、撮像装置(デジタル顕微鏡装置、またはバーチャル・スライド・スキャナ)101、画像処理装置102、表示装置103、データサーバ104から構成され、撮像対象となる標本の2次元画像を取得し表示する機能を有するシステムである。撮像装置101と画像処理装置102との間は、専用もしくは汎用I/Fのケーブル105で接続され、画像処理装置102と表示装置103の間は、汎用のI/Fのケーブル106で接続される。データサーバ104と画像処理装置102との間は、ネットワーク107を介して、汎用I/FのLANケーブル108で接続される。
撮像装置101は、2次元の平面方向に位置の異なる複数枚の2次元画像を撮像し、デジタル画像を出力する機能を持つバーチャル・スライド・スキャナである。2次元画像の取得にはCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の固体撮像素子が用いられる。なお、バーチャル・スライド・スキャナの
代わりに、通常の光学顕微鏡の接眼部にデジタルカメラを取り付けたデジタル顕微鏡装置により、撮像装置101を構成することもできる。
画像処理装置102は、撮像装置101から取得した複数枚の原画像データから、表示装置103に表示するデータを、ユーザからの要求に応じて生成する機能等を持つ装置である。画像処理装置102は、CPU(中央演算処理装置)、RAM、記憶装置、操作部、各種I/Fなどのハードウェア資源を備えた、汎用のコンピュータやワークステーションで構成される。記憶装置は、ハードディスクドライブなどの大容量情報記憶装置であり、後述する各処理を実現するためのプログラムやデータ、OS(オペレーティングシステム)などが格納されている。後述する各機能は、CPUが記憶装置からRAMに必要なプログラムおよびデータをロードし、当該プログラムを実行することにより実現される。操作部は、キーボードやマウスなどにより構成され、ユーザが各種の指示を入力するために利用される。
表示装置103は、画像処理装置102が演算処理した結果である観察用画像を表示するディスプレイであり、液晶ディスプレイ等により構成される。
データサーバ104は、画像処理装置102が演算処理した結果である観察用画像が格納されているサーバである。
図1の例では、撮像装置101、画像処理装置102、表示装置103とデータサーバ104の4つの装置により画像処理システムが構成されているが、本発明の構成はこの構成に限定されるものではない。例えば、表示装置と一体化した画像処理装置を用いてもよいし、画像処理装置の機能を撮像装置に組み込んでもよい。また撮像装置、画像処理装置、表示装置、データサーバの機能を1つの装置で実現することもできる。また逆に、画像処理装置等の機能を分割して複数の装置によって実現しても良い。
(撮像装置の機能構成)
図2は、撮像装置101の機能構成を示すブロック図である。
撮像装置101は、概略、照明ユニット201、ステージ202、ステージ制御ユニット205、結像光学系207、撮像ユニット210、現像処理ユニット219、プレ計測ユニット220、メイン制御系221、外部装置I/F222から構成される。
照明ユニット201は、ステージ202上に配置されたスライド206に対して均一に光を照射する手段であり、光源、照明光学系、および光源駆動の制御系から構成される。ステージ202は、ステージ制御ユニット205によって駆動制御され、XYZの3軸方向への移動が可能である。スライド206は、組織の切片をスライドグラス上に貼り付け、封入剤とともにカバーグラスの下に固定した部材である。
ステージ制御ユニット205は、駆動制御系203とステージ駆動機構204から構成される。駆動制御系203は、メイン制御系221の指示を受け、ステージ202の駆動制御を行う。ステージ202の移動方向、移動量などは、プレ計測ユニット220によって計測した標本の位置情報および厚み情報(距離情報)と、必要に応じてユーザからの指示とに基づいて決定される。ステージ駆動機構204は、駆動制御系203の指示に従い、ステージ202を駆動する。
結像光学系207は、スライド206の標本の光学像を撮像センサ208へ結像するためのレンズ群である。
撮像ユニット210は、撮像センサ208とアナログフロントエンド(AFE)209から構成される。撮像センサ208は、2次元の光学像を光電変換によって電気的な物理量へ変える1次元もしくは2次元のイメージセンサであり、例えば、CCDやCMOSデバイスが用いられる。1次元センサの場合、走査方向へ電気的にスキャンするとともに、
副走査方向へステージ202を移動させることで2次元画像が得られる。撮像センサ208からは、光の強度に応じた電圧値をもつ電気信号が出力される。撮像画像としてカラー画像が所望される場合は、例えば、Bayer配列のカラーフィルタが取り付けられた単板のイメージセンサを用いたり、RGBの三板式のイメージセンサを用いたりすればよい。撮像ユニット210は、ステージ202をXY軸方向に駆動させることにより、標本の分割画像を撮像する。
AFE209は、撮像センサ208の動作を制御する回路、及び、撮像センサ208から出力されたアナログ信号をデジタル信号へ変換する回路である。AFE209は、H/Vドライバ、CDS(Correlated Double Sampling)、アンプ、AD変換器およびタイミングジェネレータによって構成される。H/Vドライバは、撮像センサ208を駆動するための垂直同期信号および水平同期信号を、センサ駆動に必要な電位に変換する。CDSは、固定パターンのノイズを除去する相関2重サンプリング回路である。アンプは、CDSでノイズ除去されたアナログ信号のゲインを調整するアナログアンプである。AD変換器は、アナログ信号をデジタル信号に変換する。撮像装置最終段での出力が8ビットの場合、後段の処理を考慮して、AD変換器はアナログ信号を10ビットから16ビット程度に量子化されたデジタルデータへ変換し、出力する。変換されたセンサ出力データはRAWデータと呼ばれる。RAWデータは後段の現像処理ユニット219で現像処理される。タイミングジェネレータは、撮像センサ208のタイミングおよび後段の現像処理ユニット219のタイミングを調整する信号を生成する。撮像センサ208としてCCDを用いる場合、上記AFE209は必須となるが、デジタル出力可能なCMOSイメージセンサの場合は、上記AFE209の機能をセンサに内包することになる。
現像処理ユニット219は、黒補正部211、デモザイキング処理部212、ホワイトバランス調整部213、画像合成処理部214、フィルタ処理部216、ガンマ補正部217および圧縮処理部218から構成される。
黒補正部211は、RAWデータの各画素の値から、バックグラウンド(遮光時に得られた黒補正データ)を減算する処理を行う。
デモザイキング処理部212は、Bayer配列のRAWデータから、RGB各色の画像データを生成する処理を行う。デモザイキング処理部212は、RAWデータにおける周辺画素(同色の画素と他色の画素を含む)の値を補間することによって、注目画素のRGB各色の値を計算する。また、デモザイキング処理部212は、欠陥画素の補正処理(補間処理)も実行する。なお、撮像センサ208がカラーフィルタを有しておらず、単色の画像が得られている場合、デモザイキング処理は不要となり、欠陥画素の補正処理を実行する。三板式の撮像センサ208を用いた場合もデモザイキング処理は不要である。
ホワイトバランス調整部213は、照明ユニット201の光の色温度に応じて、RGB各色のゲインを調整することによって、望ましい白色を再現する処理を行う。
画像合成処理部214は、撮像センサ208によって分割して撮像された複数の分割画像データをつなぎ合わせて所望の撮像範囲の大サイズ画像データを生成する処理を行う。一般に、既存のイメージセンサによって1回の撮像で取得できる撮像範囲より標本の存在範囲が広いため、1枚の2次元画像データを分割された画像データのつなぎ合わせによって生成する。例えば、0.25μmの分解能でスライド206上の10mm角の範囲を撮像すると仮定した場合、一辺の画素数は10mm/0.25μmの4万画素となり、トータルの画素数はその自乗である16億画素となる。10M(1000万)の画素数を持つ撮像センサ208を用いて16億画素の画像データを取得するには、16億/1000万の160個に領域を分割して撮像を行う必要がある。なお、複数の画像データをつなぎ合わせる方法としては、ステージ202の位置情報に基づいて位置合わせをしてつなぐ方法や、複数の分割画像の対応する点または線を対応させてつなぐ方法などがある。つなぎ合
わせの際、0次補間、線形補間、高次補間等の補間処理により滑らかにつなげることができる。
フィルタ処理部216は、画像に含まれる高周波成分の抑制、ノイズ除去、解像感強調を実現するデジタルフィルタである。
ガンマ補正部217は、画像に一般的な表示デバイスの階調表現特性の逆特性を付加する処理を実行したり、高輝度部の階調圧縮や暗部処理によって人間の視覚特性に合わせた階調変換を実行したりする。本実施例では形態観察を目的とした画像取得のため、後段の合成処理や表示処理に適した階調変換が画像データに対して適用される。
圧縮処理部218は、大容量の2次元画像データの伝送の効率化および保存する際の容量削減が目的で行われる圧縮の符号化処理を実行する。静止画像の圧縮手法として、JPEG(Joint Photographic Experts Group)、JPEGを改良、進化させたJPEG2000やJPEG XR等の規格化された符号化方式が広く一般に知られている。また、2次元画像データの縮小処理を実行し、階層画像データを生成する。階層画像データについては図5で説明する。
プレ計測ユニット220は、スライド206上の標本の位置情報、所望の焦点位置までの距離情報、および標本厚みに起因する光量調整用のパラメータを算出するための事前計測を行うユニットである。本計測(撮像画像データの取得)の前にプレ計測ユニット220によって情報を取得することで、無駄のない撮像を実施することが可能となる。2次元平面の位置情報取得には、撮像センサ208より解像力の低い2次元撮像センサが用いられる。プレ計測ユニット220は、取得した画像から標本のXY平面上での位置を把握する。距離情報および厚み情報の取得には、レーザー変位計などの計測器が用いられる。
メイン制御系221は、これまで説明してきた各種ユニットの制御を行う機能である。メイン制御系221および現像処理ユニット219の制御機能は、CPUとROMとRAMを有する制御回路により実現される。すなわち、ROM内にプログラムおよびデータが格納されており、CPUがRAMをワークメモリとして使いプログラムを実行することで、メイン制御系221および現像処理ユニット219の機能が実現される。ROMには例えばEEPROMやフラッシュメモリなどのデバイスが用いられ、RAMには例えばDDR3などのDRAMデバイスが用いられる。なお、現像処理ユニット219の機能を専用のハードウェアデバイスとしてASIC化したもので置き換えても良い。
外部装置I/F222は、現像処理ユニット219によって生成された階層画像データを画像処理装置102に送るためのインターフェースである。撮像装置101と画像処理装置102とは、光通信のケーブルにより接続される。あるいは、USBやGigabitEthernet(登録商標)等の汎用インターフェースが使用される。
(画像処理装置のハードウェア構成)
図3は、本発明の画像処理装置102のハードウェア構成を示すブロック図である。
画像処理を行う装置として、例えばPC(Personal Computer)が用いられる。PCは
、制御部301、メインメモリ302、サブメモリ303、グラフィックスボード304、これらを互いに接続する内部バス305、LAN I/F306、記憶装置I/F307、外部装置I/F309、操作I/F310、入出力I/F313を備える。
制御部301は、必要に応じてメインメモリ302、サブメモリ303等に適宜アクセスし、各種演算処理を行いながらPCの各ブロック全体を統括的に制御する。メインメモリ302及びサブメモリ303はRAM(Random Access Memory)により構成される。メインメモリ302は、制御部301の作業用領域等として用いられ、OS、実行中の各種
プログラム、表示用データの生成など処理の対象となる各種データを一時的に保持する。また、メインメモリ302及びサブメモリ303は、画像データの格納領域としても用いられる。制御部301のDMA(Direct Memory Access)機能により、メインメモリ302とサブメモリ303の間、サブメモリ303とグラフィックスボード304の間の画像データの高速転送を実現できる。グラフィックスボード304は、表示装置103に画像処理結果を出力する。表示装置103は、例えば液晶、EL(Electro-Luminescence)等を用いた表示デバイスである。当該表示装置103は、外部装置として接続される形態を想定しているが、表示装置と一体化したPCを想定してもよい。例えばノートPCがこれに該当する。
入出力I/F313には、LAN I/F306を介してデータサーバ104が、記憶装置I/Fを介して記憶装置308が、外部装置I/F309を介して撮像装置101が、操作I/F310を介してキーボード311やマウス312がそれぞれ接続される。
記憶装置308は、制御部301に実行させるOS、プログラム、ファームウェアや、各種パラメータなどの情報を固定的に記憶している補助記憶装置である。また、撮像装置101から送られてきた階層画像データの格納領域としても用いられる。HDD(Hard Disk Drive)等の磁気ディスクドライブや、SSD(Solid State Drive)、Flashメモリ等の半導体デバイスが用いられる。
操作I/F310との接続デバイスとしてキーボード311やマウス312等のポインティングデバイスを想定しているが、タッチパネル等、表示装置103の画面が直接入力デバイスとなる構成を取ることも可能である。その場合、タッチパネルは表示装置103と一体となり得る。
(制御部の機能ブロック構成)
図4は、画像処理装置102の制御部301の機能構成を示すブロック図である。
制御部301は、ユーザ入力情報取得部401、画像データ取得制御部402、階層画像データ取得部403、表示データ生成制御部404を有する。また制御部301は、表示候補画像データ取得部405、表示候補画像データ生成部406、表示画像データ転送部407、調整パラメータ認識部408、標本配置調整部409を有する。
ユーザ入力情報取得部401は、ユーザがキーボード311やマウス312を用いて入力した、画像表示の開始、終了、表示画像のスクロール動作、切替、拡大、縮小などの指示内容を操作I/F310を介して取得する。例えば、ユーザが標本観察(スクリーニング)を行う拡大画像の倍率や、標本観察(スクリーニング)シーケンスが、操作I/F310を介してユーザ入力情報取得部401に入力される。
画像データ取得制御部402は、ユーザ入力情報に基づいて、記憶装置308からの画像データの読み出しとメインメモリ302への画像データの展開を制御する。画像データ取得制御部402は、画像表示の開始、終了、表示画像のスクロール動作、切替、拡大、縮小などの各種ユーザ入力情報に対して、表示画像として必要になると予測される画像領域を決定する。画像データ取得制御部402は、表示領域(表示装置に実際に表示される画像領域)の変化を予測し、メインメモリ302に画像データを読み込んでおくべき画像領域(第1表示候補領域)を特定する。メインメモリ302が第1表示候補領域の画像データを保持していなければ、画像データ取得制御部402は、階層画像データ取得部403に対して、第1表示候補領域の画像データの記憶装置308からの読み出しとメインメモリ302への展開を指示する。記憶装置308からの画像データの読み出しは時間を要する処理のため、第1表示候補領域をできるだけ広範囲として、この処理にかかるオーバーヘッドを抑制することが望ましい。
階層画像データ取得部403は、画像データ取得制御部402の制御指示に従って、記
憶装置308からの画像領域の画像データの読み出しと、メインメモリ302への展開を行う。
表示データ生成制御部404は、ユーザ入力情報に基づいて、メインメモリ302からの画像データの読み出しとその画像データの処理方法、グラフィックスボード304への画像データの転送を制御する。表示データ生成制御部404は、画像表示の開始、終了、表示画像のスクロール動作、切替、拡大、縮小などの各種ユーザ入力情報に基づいて、表示領域の変化を予測する。そして、表示データ生成制御部404は、実際に表示装置103に表示する画像領域(表示領域)と、サブメモリ303に画像データを読み込んでおくべき画像領域(第2表示候補領域)を特定する。サブメモリ303が第2表示候補領域の画像データを保持していなければ、表示データ生成制御部404は、表示候補画像データ取得部405に対して、第2表示候補領域の画像データのメインメモリ302からの読み出しを指示する。さらに、表示データ生成制御部404は、表示候補画像データ生成部406に対して、スクロール要求に対する画像データの処理方法を指示する。
また、表示データ生成制御部404は、表示画像データ転送部407に対して、表示画像領域の画像データのサブメモリ303からの読み出しを指示する。記憶装置308からの画像データの読み出しと比較すると、メインメモリ302からの読み出しは高速に実行できる。そのため、第1表示候補領域と比較して第2表示候補領域は狭い範囲としても良い。すなわち、上記の第1表示候補領域、第2表示候補領域、及び表示領域の広さの大小関係は、第1表示候補領域≧第2表示候補領域≧表示領域となる。
表示候補画像データ取得部405は、表示データ生成制御部404の制御指示に従って、メインメモリ302からの表示候補の画像領域の画像データの読み出しを実行し、表示候補画像データ生成部406に転送する。表示候補画像データ生成部406は、圧縮画像データである表示候補画像データの伸長処理を実行し、サブメモリ303への展開を行う。表示画像データ転送部407は、表示データ生成制御部404の制御指示に従って、サブメモリ303からの表示画像領域の画像データの読み出しを実行し、グラフィックスボード304に転送する。DMA機能により、サブメモリ303とグラフィックスボード304間の高速画像データ転送を実行する。
調整パラメータ認識部408は、標本観察(スクリーニング)を行う拡大画像の倍率を取得し、拡大画像の表示領域の大きさを認識する。拡大画像、表示領域は図7で説明する。また、調整パラメータ認識部408は、標本観察(スクリーニング)シーケンスを認識する。図7、図9、図10で説明するが、標本観察(スクリーニング)シーケンスとは、複数の個別標本の観察順序と、個別標本の観察開始位置と、個別標本の拡大画像の表示順序とを定義する情報である。
標本配置調整部409は、調整パラメータ認識部408での認識結果である表示領域、及び、標本観察(スクリーニング)シーケンスをもとに、メインメモリ302のスライド206の画像データを用いて標本配置の調整(再構成)を行う。標本配置の調整とは、1つのスライドに複数の個別標本が含まれている場合に、各個別標本の画像の領域が連続的(シーケンシャル)に並ぶように各個別標本の配置を調整する処理である。このとき、個別標本の画像以外の領域(背景部分)は除去するとよい。以下、標本配置調整部409によって調整された標本配置をもつ仮想的なスライドを「再構成スライド(画像)」と呼ぶ。標本観察(スクリーニング)では、後述するように、あたかも再構成スライド上を表示領域が順に移動していくように拡大画像の更新を行うことで、複数の個別標本の観察を容易にしている。
なお、本実施形態では、1つのスライドに複数の個別標本が含まれている場合について
説明しているが、本発明はそれに限定されない。1つのスライドに互いに離間している複数の観察対象が含まれていれば本発明を適用することができる。例えば、組織の切片が標本としてスライドに配置されており、その組織中の複数の特徴的な部分(例えば、核)だけを観察対象とする場合にも、本発明を適用することができる。
標本配置調整部409は、個別標本の画像データを実際に並べ替え合成することで、再構成スライドの画像データを実際に生成してもよい。ただし、画像データの加工には一定の処理時間がかかると共に、加工した画像データを格納するための記憶容量も必要となる。そこで本実施例では、再構成スライドのデータとして、再構成スライドにおける各個別標本の位置と実際のスライドにおける位置との対応関係を定義したデータを作成する(図19(c)参照)。そして、標本観察(スクリーニング)における表示制御では、表示データ生成制御部404が、上記対応関係を参照することで、拡大画像として表示すべき画像データの読み込み位置(ポインタ)を制御する。この方法によれば、再構成スライドに対する標本観察(スクリーニング)を仮想的に実現できる。
調整パラメータ認識部408と標本配置調整部409は、本実施例の特徴となる表示領域・標本観察(スクリーニング)シーケンスの認識と標本配置の調整を行う機能ブロックである。また、表示データ生成制御部404、表示候補画像データ取得部405、表示候補画像データ生成部406、表示画像データ転送部407が、表示領域の移動指示に応じて拡大画像の表示を更新する表示制御を行う機能ブロックである。
(階層画像データの構造)
図5は、階層画像データの構造を示す模式図である。ここでは解像度(画素数)の違いにより、第1階層画像501、第2階層画像502、第3階層画像503、第4階層画像504の4階層で構成されている。標本505は、組織の切片である。階層構造をイメージしやすいように、各階層での標本505の大きさを明示している。第1階層画像501が最も低解像度の画像であり、サムネイル画像などに用いられる。第2階層画像502、第3階層画像503は中程度の解像度の画像であり、バーチャル・スライド画像の広域観察などに用いられる。第4階層画像504は最も高解像度の画像であり、バーチャル・スライド画像を詳細に観察するときに用いられる。
各階層の画像は、幾つかの圧縮画像ブロックが集まって構成される。圧縮画像ブロックは、例えばJPEG圧縮形式の場合には、1つのJPEG画像である。ここでは、第1階層画像501は圧縮画像1ブロックから、第2階層画像502は圧縮画像4ブロックから、第3階層画像503は圧縮画像16ブロックから、第4階層画像504は圧縮画像64ブロックから構成されている。
画像の解像度の違いは、顕微鏡観察時の光学倍率の違いに対応するものであり、第1階層画像501は低倍での顕微鏡観察、第4階層画像504は高倍での顕微鏡観察に相当する。例えば、ユーザが高倍観察したい場合には、第4階層画像504を表示することで、高倍観察に対応する詳細観察を行うことができる。
(スライド)
図6は、複数の個別標本が載置されたスライドを示す模式図である。スライド206は、複数の標本をスライドグラス上に貼り付け、封入剤とともにカバーグラスの下に固定した部材である。スライド206の端には、標本の属性を示すラベル601がある。ラベル601には、患者識別のための識別番号、胃、肝臓、大腸、小腸などの標本の部位、スライドを作成した施設名、所見の参考となるコメント、などが記される。ここでは、スライド206に9つの個別標本が貼り付けられており、個別標本602はその内の一つを示している。胃や肝臓の生検(生体組織診断)などでは、図6に示すように複数の個別標本が
1つのスライドに載置されることがある。
(画像提示アプリケーションの画面例)
図7(a)は、バーチャル・スライド画像を提示するアプリケーションの画面の一例を示す図である。画像提示アプリケーション(ビューワアプリケーションとも呼ばれる)のプログラムは、画像処理装置102の記憶装置308に記憶されている。制御部301がプログラムを記憶装置308から読み込んでメモリに展開し、実行することにより、画像提示アプリケーションの機能が実現される。画像提示アプリケーションにより、記憶装置308から読み込んだ階層画像データやGUIデータを用いて画像提示のための表示データが生成され、表示データがグラフィックスボード304から表示装置103へ出力される。これにより、表示装置103において画像提示のためのアプリケーション画面が表示される。
なお、画像提示アプリケーションの実行方法は上記の例に限らない。例えば、画像提示アプリケーションの機能を実行する専用のハードウェアを画像処理装置102が備えていても良い。また、そのようなハードウェアが実装された機能拡張ボードを画像処理装置102に装着することによって画像処理装置102が画像提示アプリケーションを実行する機能を有するようになる構成でも良い。また、画像提示アプリケーションは外部記憶装置から提供される場合に限らず、ネットワーク経由でダウンロードにより提供される形態でも良い。
図7(a)は、表示装置103の画面に表示されるアプリケーション画面である。アプリケーション画面には、メニューウィンドウ以外に、拡大画像701と、スライド画像702を表示する2つのウィンドウがある。このアプリケーションにより、スライド上の標本の一部の領域を拡大表示し、表示領域を移動することにより標本の全体の観察行う操作が可能である。そして、本実施例のアプリケーションは、複数の個別標本を含むスライドの標本観察(スクリーニング)における操作を支援するために、以下に述べるようなさまざまな機能を提供する。
図7(b)は、スライド画像702が表示されるウィンドウを詳しく示す図である。スライド画像702は、スライド206のラベル601以外の領域の画像である。スライド画像702が表示されるウィンドウでは、スライド206に貼り付けられた全ての個別標本(複数の標本)を確認することができる。スライド画像702では、全ての個別標本に標本観察(スクリーニング)の順番(観察順序)を示す番号が付与されている。例えば、標本観察(スクリーニング)の順番が7番目である個別標本703には、個別標本の番号704として「7」が付与されている。ここでは9つの個別標本があるため、それぞれの個別標本に「1」から「9」までの番号が付与されている。どの個別標本にどの番号を付与するかはユーザが任意に設定できる。或いは、画像提示アプリケーションが所定の規則に基づいて番号を自動割り付けしても良い。また、スライド画像702には、拡大画像の表示領域の大きさを示す枠である表示領域枠705が示されている。個別標本それぞれに対して、個別標本を包含するように1又は複数の表示領域枠が設定される。表示領域枠の設定方法は後述する(図8参照)。個別標本「1」の表示領域枠の内の一つが太枠706で強調されている。この太枠706は、拡大画像701として表示装置103に現在表示されている表示領域を示す枠である。拡大画像701は、スライド画像702内の太枠706の領域に対応する高精細(高解像度)の画像であり、標本の詳細観察に用いられる。
(表示領域枠の設定)
図8(a)から図8(d)は、標本配置調整部409により行われる、個別標本に対する表示領域枠の設定を説明する模式図である。図8(a)から図8(d)は、個別標本「2」を例として、個別標本に表示領域枠を設定するフローを示している。
図8(a)に示すように、まず、個別標本801(ここでは個別標本「2」)の外接矩形領域802が設定される。外接矩形領域のX方向の長さをA、Y方向の長さをBとする。外接矩形領域802の対角線の交点を外接矩形中心803とする。
次に、図8(b)に示すように、外接矩形領域(A×B)を覆う最小個数の矩形の表示領域枠が決定される。表示領域枠のX方向の長さをC、Y方向の長さをDとする。最小個数の表示領域枠の決定は、任意の正の数M、Nを用いて、A≦C×M、B≦D×N、を満たす最小のM、Nを算出することと等価である。表示領域枠の最小個数は、M×Nとなる。ここでは、M=3、N=3であり、表示領域枠の最小個数は9個である。
次に、図8(c)に示すように、表示領域枠と個別標本801を相対的に平行移動させて、表示領域枠の数が最も少なくなる配置が探索される。例えば、外接矩形領域(A×B)を表示領域枠で構成される矩形領域((C×M))×(D×N))の4隅(左上、右上、左下、右下)に配置し、表示領域枠が最も削減される配置を探す。ここでは、個別標本801を表示領域枠で構成される矩形領域((C×M))×(D×N))の左上隅に配置し、表示領域枠を7個とした。
最後に、図8(d)に示すように、表示領域枠で構成される領域の最外周から個別標本801までの最短距離を最大とする最適化アルゴリズムにより、表示領域内での余白を調整する。この処理は、表示領域枠ごとの個別標本801の充填具合の偏りをなるべく少なくするために行う処理であるが、省略しても良い。以上の処理によって設定された複数の表示領域枠は、個別標本801の詳細観察に用いられる複数の拡大画像の位置及び大きさを表している。図8(a)から図8(d)の処理を、スライド画像から検出される個別標本のそれぞれに対して行うことで、各個別標本に複数の表示領域枠(すなわち拡大画像)を対応付けることができる。
図8(a)から図8(d)は個別標本801の平行移動のみによる表示領域枠の設定手法であるが、個別標本801の形状によっては、個別標本を覆う最小個数の表示領域枠が得られるとは限らない。上記の簡易手法ではなく、計算リソース、計算時間、個別標本の形状の複雑さなどを考慮し、個別標本を覆う最小個数の表示領域枠を取得する最適化アルゴリズムを選択すると良い。
(個別標本における標本観察(スクリーニング)シーケンス)
図9(a)から図9(e)は、標本配置調整部409により行われる、個別標本における標本観察(スクリーニング)シーケンスを説明する模式図である。図9(a)から図9(e)は、個別標本「2」を例として、標本観察(スクリーニング)シーケンスの設定フローを示している。ここでは、個別標本を構成する複数の拡大画像(表示領域枠)の表示順序が設定される。
まずは、観察開始位置901が設定される(図9(a))。観察開始位置901とは、個別標本801を構成する複数の拡大画像のうち最初に表示される拡大画像の表示領域枠である。本実施例では、個別標本801の複数の表示領域枠の内、最上部の左端にある表示領域枠が観察開始位置901に選ばれる。もちろんこれは一例であり、最上部の右端の表示領域枠など、他の表示領域枠を観察開始位置に選んでも構わない。
次に、標本配置調整部409は、観察開始位置901と同じ行の表示領域枠に対し、左から右へ表示順序を設定する(図9(b))。右端の表示領域枠に達したら、下の行の表示領域枠に移動し(図9(c))、右から左へ表示順序を設定する(図9(d))。左端の表示領域枠に達したら、下の行の表示領域枠に移動する(図9(e))。全ての表示領
域枠を網羅するまで、図9(b)から図9(e)までの処理を繰り返す。これにより、個別標本801を構成する複数の拡大画像に対し表示順序を設定できる。この標本観察(スクリーニング)シーケンスは、それぞれの個別標本で独立して定めることができる。
画像提示アプリケーションにおいては、ここで決められた標本観察(スクリーニング)シーケンスにしたがって、個別標本内の拡大画像の表示の切り替えが制御される。拡大画像の表示を切り替える際には、ある表示領域枠から隣の表示領域枠へと不連続に画像を切り替えても良いし、スクロールのように連続的に画像を切り替えても良い。
(平行移動による標本配置の再構成)
図10(a)から図10(c)は、平行移動による標本配置の再構成を説明する模式図である。複数の個別標本の観察順序と、各個別標本の表示領域枠及び標本観察(スクリーニング)シーケンスとから、標本配置調整部409が、標本画像(拡大画像)における個別標本の平行移動による再構成を実施する。
標本画像(拡大画像)における個別標本の平行移動による再構成では、観察順序で隣り合う2つの個別標本のみの標本観察(スクリーニング)シーケンスと表示領域枠から、個別標本の配置が決定される。図10(a)には個別標本「1」の標本観察(スクリーニング)シーケンスと表示領域枠が示されており、図10(b)には個別標本「2」の標本観察(スクリーニング)シーケンスと表示領域枠が示されている。これらの個別標本「1」と「2」では、個別標本「1」で最後に表示する表示領域枠1001と個別標本「2」で最初に表示する表示領域枠1002とが繋がるように、2つの個別標本の配置が決められる。このとき、個別標本「1」と個別標本「2」の接続は一意に定まる。
図10(c)は、上記手順に従って個別標本「1」から個別標本「9」までを接続した結果であり、再構成スライドの標本配置を模式的に示すものである。再構成スライドでは、個別標本の画像以外の部分(背景部分)が削減され、隣り合う2つの個別標本のあいだの距離が実際のスライド上での距離に比べて短くなっている。それゆえ、実際のスライドを観察するのに比べて、表示領域の移動距離や移動回数が減るとともに、無駄な表示(背景部分の表示)が削減されるので、標本観察の効率を高めることができる。しかも、再構成スライドでは、与えられた観察順序にしたがって複数の(9個の)個別標本が順番に(シーケンシャルに)並べられている。また、観察順序で隣り合う2つの個別標本(第1の個別標本、第2の個別標本とよぶ)について、第1の個別標本の最後の表示領域枠と第2の個別標本の最初の表示領域枠とが接続されている。これにより、表示領域を移動させたときに、第1の個別標本の拡大画像から第2の個別標本の拡大画像へと順番に且つ直接切り替わる。よって、全ての個別標本を漏れなく観察するのが容易になる。
実用上は、観察順序が隣り合う表示領域枠では、ある程度の重複領域を設けたほうが良い。表示領域枠を切り替えたときに切替前後の拡大画像の対応関係が把握しやすいからである。ただし、重複領域を設けることは必須ではない。例えば、拡大画像を不連続に切り替えるのではなく、スクロールにより拡大画像を徐々に切り替える場合には重複領域を設ける必要はない。
(平行移動による標本配置の再構成のフロー)
図11(a)は、本実施例の標本配置の再構成の流れを説明するフローチャートである。
ステップS1101では、スライド206上に複数の個別標本が存在するかどうかを判断する。このステップはプレ計測で実行される。例えば、スライド206作成時にラベル601に個別標本の数の情報を明記するか、電子的に書き込むなどしておき、プレ計測でラベル601の情報を読み込んで個別標本の数を判断する。また、プレ計測で撮像したス
ライド206の画像を用いて、画像処理で個別標本の数を判断しても良い。
ステップS1102では、拡大画像の表示領域の大きさを認識する。この処理は、図7(a)の拡大画像701として表示される領域のスライド画像702上でのサイズを計算するための処理である。表示装置103の画面解像度、画像提示アプリケーションのウィンドウサイズ、拡大画像701の表示倍率などに応じて、拡大画像701として表示可能な領域のサイズが変わるため、ステップS1102の認識処理が必要となる。具体的には、キーボード311またはマウス312でユーザが設定した拡大画像701の倍率をユーザ入力情報取得部401が取得し、調整パラメータ認識部408が拡大画像701の倍率とウィンドウサイズとから表示領域のサイズを計算する。認識した表示領域のサイズは、次ステップS1103の表示領域枠の大きさとして反映される。
ステップS1103では、標本配置調整部409が、個別標本の表示領域枠の設定を行う。S1103の詳細は、図11(b)で説明する。
ステップS1104では、標本配置調整部409が、標本観察(スクリーニング)シーケンスの設定を行う。標本観察(スクリーニング)シーケンスは、複数の個別標本の観察順序と、個別標本の画像の観察開始位置と、個別標本の画像の前記表示領域の観察順序で定められる。S1104の詳細は、図11(c)で説明する。
ステップS1105では、標本配置調整部409が、自動で個別標本の配置の再構成(平行移動)を行う。標本配置調整部409は、観察順序で隣り合う2つの個別標本を選択し、その2つの個別標本のみの標本観察(スクリーニング)シーケンスと表示領域枠に基づき、その2つの個別標本の相対的な配置を決定する。観察順序で隣り合う個別標本の全ての組み合わせに対して同様の手順を繰り返すことにより、全ての個別標本の再構成(平行移動)を行う(図10参照)。
以上の処理ステップに従えば、複数の個別標本の再構成(配置の調整)を実行することができる。ユーザが拡大画像701の倍率を変更した場合やウィンドウサイズを変更した場合には、ステップS1102からの処理が随時実行される。
図11(b)は、ステップS1103の個別標本の表示領域枠の設定の詳細を示すフローチャートである。ステップS1113では、標本配置調整部409が、スライドの画像から個別標本の画像の領域を検出し、以降の処理を実行する個別標本として選択する。ステップS1114では、選択された個別標本に対して外接矩形領域が設定される(図8(a)参照)。ステップS1115では、ステップS1114で設定した外接矩形領域に対して最小個数の表示領域枠が重畳される(図8(b)参照)。ステップS1116では、表示領域枠内で個別標本が平行移動される(図8(c)、図8(d)参照)。これにより、表示領域枠の削減と、表示領域枠内の個別標本の余白調整が行われる。ステップS1117では、全ての個別標本に対してS1113からS1116までのステップを実行したかどうかを判断する。全ての個別標本に対してS1113からS1116までのステップを実行すれば、処理を終了する。以上の処理ステップに従えば、それぞれの個別標本に対して表示領域枠を設定することができる。
図11(c)は、標本観察(スクリーニング)シーケンスの設定の詳細を示すフローチャートである。ステップS1108では、全ての個別標本に標本観察(スクリーニング)の順番を示す番号が付与される。どの個別標本にどの番号を付与するかはユーザが任意に設定しても良いし、規則に基づいた番号の自動割り付けでも良い。ステップS1109では、以降の処理を実行する個別標本が1つ選択される。ステップS1110では、選択された個別標本の観察開始位置の設定を行う。例えば図9(a)では、個別標本を覆う表示領域枠の内、最上部の左端にある表示領域枠が観察開始位置901に設定されている。ステップS1111では、個別標本内の表示領域枠の表示順序の設定が行われる。表示順序
の定め方は、図9(b)から図9(e)で説明したとおりである。ステップS1112では、全ての個別標本に対してS1109からS1111までのステップを実行したかどうかを判断する。全ての個別標本に対してS1109からS1111までのステップを実行すれば、処理を終了する。以上の処理ステップに従えば、個別標本に対して標本観察(スクリーニング)シーケンスを設定することができる。
(平行移動による標本配置の再構成の別例)
図12は、平行移動による標本配置の再構成の別の例を説明する模式図である。
前述した例(図10(c)参照)とは、個別標本における表示領域枠の設定は同一であるが、個別標本「1」、「2」、「3」、「7」、「8」、「9」についての観察開始位置の設定と表示順序の設定が異なる。個別標本「4」、「5」、「6」についての観察開始位置の設定と表示順序の設定は、前述した例と同一である。
ここで、個別標本「1」、「2」、「3」、「7」、「8」、「9」についての観察開始位置の設定と表示順序の設定を説明する。観察開始位置は、個別標本を覆う表示領域枠の内、最下部の右端にある表示領域枠に設定される。表示順序については、観察開始位置の表示領域枠から左へ移動し、左端の表示領域枠に達したら上の行へ移動し、左から右へ移動し、右端に達したら上の行へ移動し、・・・というシーケンスを全ての表示領域枠を網羅するまで繰り返す。
この個別標本における標本観察(スクリーニング)シーケンスは、それぞれの個別標本で独立して定めることができる。ここでは、個別標本「1」、「2」、「3」、「7」、「8」、「9」の組と個別標本「4」、「5」、「6」の組とに、異なる標本観察(スクリーニング)シーケンスが適用されている。
平行移動による標本配置の再構成では、観察順序で隣り合う2つの個別標本のみの標本観察(スクリーニング)シーケンスと表示領域枠で個別標本の配置が調整される。そのため、図12に示すように、個別標本「3」で最後に観察される表示領域枠と個別標本「4」で最初に観察される表示領域枠が接続されるのだが、接続後の個別標本「3」と個別標本「4」を同一平面上に示すことができない。個別標本「6」と個別標本「7」の接続も同様である。このような接続関係は2次元平面で表現できるものではなく、メビウスの帯のように位相空間で表現できるものである。図12では、2次元平面で表現できない接続を点線矢印で示している。
図12に示す再構成の例では、個別標本「1」から個別標本「3」のように局所的には2次元画像で表現できるが、個別標本「3」と個別標本「4」のような接続を行うために、複数の個別標本の全体像は(2次元平面ではなく)位相空間で表現される。本実施例では、再構成した画像データを実際に生成する方法ではなく、再構成スライドにおける位置と実際のスライドにおける位置との対応関係を定義したデータを用い、画像データの読み込み位置を制御する方法により、仮想的に画像の再配置を実現している。よって、図12のような位相空間での接続関係も問題なく実現できる。なお、標本観察(スクリーニング)を行う観察者は、表示された拡大画像のみを見るだけであるし、漏れなく順番に全ての拡大画像を観察できさえすれば目的を達成できるので、再構成された標本配置が2次元平面で表現できなくても特段の問題はない。
(回転と平行移動による標本配置の再構成)
図13(a)から図13(f)は、回転と平行移動による標本配置の再構成を説明する模式図である。
図13(a)から図13(d)は、個別標本の回転を考慮した表示領域枠の設定を説明する模式図である。個別標本「7」を例として、個別標本に表示領域枠を設定するまでの
フローを示している。
図13(a)では、個別標本1301(ここでは個別標本「7」)の最小外接矩形領域1302を設定する。
図13(b)では、最小外接矩形領域1302の各辺がX軸、Y軸と平行となるように、個別標本1301と最小外接矩形領域1302を一体として仮想的に回転させる。図13(b)に示す以外に、図13(b)に示す図形を更に90度、180度、270度回転させた形状が考えられるが、ここでは任意の1つの回転角度を選択して良い。ここでは最終的な回転角度を選択するわけではないので、実際に個別標本を回転させた画像を生成する必要はなく、計算上の仮想的な回転で良い。
図13(c)では、最小外接矩形領域を最小個数の表示領域枠で覆う。
図13(d)では、個別標本1301を平行移動させて表示領域枠を削減する。ここでは、個別標本1301を表示領域枠で構成される矩形領域の右下隅に配置し、表示領域枠を5個とした。更に、表示領域枠で構成される領域の最外周から個別標本1301までの最短距離を最大とする最適化アルゴリズムにより、表示領域内での余白を調整する。
図13(a)から図13(d)は個別標本1301の回転と平行移動による表示領域枠の設定手法であるが、個別標本1301の形状によっては、個別標本を覆う最小個数の表示領域枠が得られるとは限らない。上記の簡易手法ではなく、個別標本を覆う最小個数の表示領域枠を取得する最適化アルゴリズムを選択しても良い。どのようなアルゴリズムを採用するかは、計算リソース、計算時間、個別標本の形状の複雑さなどを考慮して決めればよい。
図13(e)では、標本観察(スクリーニング)シーケンスを考慮した個別標本1301の回転を説明する。図13(b)で記したように個別標本1301の回転には4通りが考えられ、それらをそれぞれ個別標本「7−i」、「7−ii」、「7−iii」、「7−iv」とする。これらは、回転角度がそれぞれ90度異なる。ここでの標本観察(スクリーニング)シーケンスは、図9(a)〜図9(e)で説明したシーケンスと同一とする。ここで、個別標本「7−iii」、「7−iv」に着目すると、表示領域枠間での斜め移動が発生す
る。できるだけ観察中の個別標本内の連続性が失われないように、すなわち、できるだけ左右移動・下移動のみで連続的に標本観察(スクリーニング)ができるようにすることを考慮し、個別標本「7−iii」、「7−iv」の回転は選択候補外とする。個別標本「7」
の回転については、個別標本「7−i」、もしくは、「7−ii」を選択する。「7−i」と「7−ii」であればどちらの回転を採用してもよい。たとえば、移動方向の変化がより少ない方を採用してもよいし、標本の実際の向きにより近い方を採用してもよい。
図13(f)は、上記手順に従って個別標本「1」から個別標本「9」までを接続し、再構成したものである。個別標本「7」については、図13(e)の「7−i」に示す回
転を採用した。図7(a)の拡大画像701は、図13(f)に示す表示領域枠のいずれかを拡大した画像である。
(個別標本の回転と平行移動による表示領域枠の設定)
図14は、個別標本の回転と平行移動による表示領域枠の設定を説明するフローチャートである。図14は、図11(a)のフローにおけるステップS1103の詳細を示しており、図11(b)のフローチャートに置き換わるものである。個別標本の再構成に関わる他の処理は、図11(a)及び図11(c)に示すものと同様である。
ステップS1401では、以降の処理を実行する個別標本が1つ選択される。ステップS1402では、個別標本に対して最小外接矩形領域が設定される(図13(a)参照)。ステップS1403では、個別標本1301と最小外接矩形領域1302を一体として
仮想的に回転させる(図13(b)参照)。ステップS1404では、ステップS1402で設定した最小外接矩形領域に対して最小個数の表示領域枠が重畳される(図13(c)参照)。ステップS1405では、表示領域枠内で個別標本が平行移動される(図13(d)参照)。これにより、表示領域枠の削減と、表示領域枠内の個別標本の余白調整が行われる。ステップS1406では、標本観察(スクリーニング)シーケンスを考慮した個別標本の回転が行われる(図13(e))。4通りの回転の内、できるだけ左右移動・下移動のみで連続的に標本観察(スクリーニング)ができるような回転角度を選択する。複数の回転角度が候補となる場合には、移動方向の変化が最も少ないもの、元の向きに最も近いものなど、所定のルールに従って1つの回転角度を選択する。ステップS1407では、S1406で選択した回転角度で個別標本を回転させる。ステップS1408では、全ての個別標本に対してS1401からS1407までのステップを実行したかどうかを判断する。全ての個別標本に対してS1401からS1407までのステップを実行すれば、処理を終了する。以上の処理ステップに従えば、個別標本に対して表示領域枠を設定することができる。
(個別標本の近接)
図15(a)から図15(d)は、表示領域(拡大画像)の調整(個別標本の近接)を説明する模式図である。ここでは、図10(c)に示す平行移動により配置を調整した再構成スライドに対して、更に表示領域枠を削減する手法を説明する。
図15(a)は、個別標本「2」と個別標本「3」との重複判断と、その判断に基づく表示領域の調整(個別標本の近接)を説明する模式図である。個別標本1501(ここでは個別標本「2」)で最後に表示される表示領域枠1502と、個別標本1503(ここでは個別標本「3」)で最初に表示される表示領域枠1504に着目する。図10(c)においては、個別標本1501と個別標本1503は、表示領域枠1502の画像と表示領域枠1504の画像とが繋がるように接続されている。ここで、表示領域枠1502と1504とを重ね合せて2つの個別標本1501と1503を接続可能かどうか評価する。重ね合わせ可能な条件は、個別標本1501と1503に重なりが発生せず、且つ、個別標本1501と1503で共通化される拡大画像において個別標本1501の表示順序と個別標本1503の表示順序に不一致が生じない、ということである。この条件が満足された場合は、表示領域枠1502と1504を重ね合せて2つの個別標本1501と1503を配置する(図15(a)右図)。表示領域枠1505の画像は、個別標本1501の最後の表示領域枠1502の画像と個別標本1503の最初の表示領域枠1504の画像の合成画像となっている。これにより、個別標本1501の複数の拡大画像のうち表示順序が最後の画像と、個別標本1503の複数の拡大画像のうち表示順序が最初の画像とが共通の画像となる。
図15(b)は、図15(a)で説明した手法が適用できない例の一つを示す。個別標本1506(ここでは個別標本「1」)で最後に表示される表示領域枠1507と、個別標本1508(ここでは個別標本「2」)で最初に表示される表示領域枠1509に着目する。図15(a)と同様の手法により、表示領域枠1507と1509を重ね合わせた表示領域枠1510を新たに生成し、個別標本1506と1507を配置してみると、図15(b)右図のように2つの個別標本に重なりが発生する。この場合には、本手法は適用できない。
図15(c)は、図15(a)で説明した手法が適用できない別の例である。個別標本1511(ここでは個別標本「I」)で最後に表示される表示領域枠1512と、個別標
本1513(ここでは個別標本「II」)で最初に表示される表示領域枠1514に着目する。図15(a)と同様の手法により、表示領域枠1512と1514を重ね合わせると、個別標本1511と1513の重なりは発生しないが、表示領域枠1515、1516
、1517に対応する3つの画像に、両方の個別標本1511と1513が含まれる。この3つの画像に関し、個別標本1511での表示順序は左方向(1517→1516→1515)であるのに対し、個別標本1513での表示順序は右方向(1515→1516→1517)である。これは、2つの個別標本で共通化された拡大画像で2つの個別標本の表示順序に不一致が生じる例である。この場合にも、本手法は適用できない。
図15(d)は、図15(a)で説明した手順に従って表示領域枠の削減を行った後の、再構成スライドの標本配置を模式的に示している。図10(c)に示す再構成スライドと比較すると、個別標本「2」と「3」の接続部分、個別標本「3」と「4」の接続部分、個別標本「8」と「9」の接続部分でそれぞれ表示領域枠が削減されている。ここで説明した手法は、図12、図13(f)に示す再構成スライドの標本配置に対しても同様に適用できる。
(個別標本の近接フロー)
図16は、表示領域の調整(個別標本の近接)を説明するフローチャートである。この処理は標本配置調整部409により実行される。
ステップS1601では、標本配置調整部409が個別標本間の接続領域となる2つの表示領域枠を把握する。この処理は、図15(a)における、個別標本1501の最後の表示領域枠1502と、個別標本1503の最初の表示領域枠1504を把握することに相当する。
ステップS1602では、標本配置調整部409が、ステップS1601で把握した2つの表示領域枠を重ね合わせたときに個別標本の重なりが発生するか否かを判断する。この処理は、図15(a)の右図の状態で、個別標本1501と個別標本1503に重なりがあるかどうかを判断することに相当する。重なりが無ければステップS1603に進み、重なりが有れば該当する個別標本間の近接は行わない。
ステップS1603では、標本配置調整部409が、ステップS1601で把握した2つの表示領域枠を重ね合わせたときに表示順序の不一致が生じるか否かを判断する。この処理は、図15(a)の左図では、表示領域枠1502の表示順序と表示領域枠1504の表示順序が一致しているかどうかを判断することに相当する。不一致が無ければステップS1604に進み、不一致が有れば該当する個別標本間の近接は行わない。
ステップS1604では、標本配置調整部409が、該当する個別標本間の近接を行う。この処理は、図15(a)では、個別標本1501の表示領域枠1502と個別標本1503の表示領域枠1504とを重ね合せるように、個別標本1501と1503の相対位置を調整する(2つの個別標本を近づける)ことに相当する。標本配置調整部409は、2つの個別標本の間で共通化した表示領域枠(図15(a)の右図の1505)に対応する拡大画像を、2つの個別標本の拡大画像を合成することにより、生成する。
ステップS1605では、全ての個別標本間の接続領域に対して上記ステップを実行したかどうかを判断する。全ての個別標本に対して上記ステップを実行すれば、処理を終了する。
(アプリケーション画面(提示画像))
図17(a)と図17(b)は、表示領域の調整(個別標本の近接)を実施した場合の提示画像を説明する模式図である。図17(a)は、表示装置103の画面に表示されるアプリケーション画面である。アプリケーションには、メニューウィンドウ以外に、拡大画像1701、スライド画像1702を表示する2つのウィンドウがある。図17(b)は、スライド画像1702が表示されるウィンドウを示す図である。基本的な構成は図7
(a)と図7(b)で説明したものと同じであるため、以下、図7(a)と図7(b)で説明した提示画像との違いについてのみ説明する。
図15(a)及び図15(d)において説明したように、個別標本「2」の最後の表示領域枠と個別標本「3」の最初の表示領域枠とが共通化されている。それゆえ、個別標本「2」の最後まで表示領域枠を移動させると、図17(b)に示すように、個別標本「2」の最後の表示領域枠と個別標本「3」の最初の表示領域枠に、現在の表示領域を示す太枠1703が描かれる。一方、拡大画像1701のウィンドウには、個別標本「2」と個別標本「3」が合成された画像が表示される。つまり、図17(a)の拡大画像1701の上部に見えているのが個別標本「2」の左下の部分であり、拡大画像1701の下部に見えているのが個別標本「3」の左上の部分である。このような方法により、拡大画像1701の切替(移動)の回数を削減できるので、標本観察(スクリーニング)の効率化を図ることができる。
また図17(b)では、標本観察(スクリーニング)済みの領域1704に対応する表示領域枠に斜線が描かれている。これにより、ユーザはスライド全体(9個の個別標本)における標本観察(スクリーニング)の進捗を容易に確認することができる。なお、観察済みの領域と未だ観察してない領域とが区別できればよいので、斜線描画以外の方法で両者を区別してもよい。例えば、観察済みの領域とそれ以外の領域とを色分けしたり、観察済み又は未観察を示すマークやアイコンの画像を付加したりするなど、如何なる方法を利用してもよい。
(個別標本の分離)
図18(a)と図18(b)は、再構成スライドにおける個別標本の分離を説明する模式図である。実際のスライド206上における個別標本の間隔が非常に狭い場合、ある個別標本の表示領域枠内に他の個別標本の一部が入ってしまうことがある。図18(a)の例では、スライドにおいて個別標本「iii」と個別標本「iv」の間隔が狭いために、個別
標本「iii」の表示領域枠1801には個別標本「iv」が入り込み、個別標本「iv」の表
示領域枠1802には個別標本「iii」が入り込んでいる。
このような表示領域枠により標本観察(スクリーニング)を行ってもよいが、観察中の個別標本以外の個別標本が表示されていると、ユーザが個別標本の形状等を誤解したり、観察する必要の無い部分に注意をとられ効率が低下したりする可能性がある。そこで、ユーザが1つの個別標本の観察に集中できるように、ある個別標本に対応づけて設定された表示領域枠内には別の個別標本を表示しないようにしてもよい。図18(b)は、個別標本「iii」とそれに設定された表示領域枠、個別標本「iv」とそれに設定された表示領域
枠、とを独立に抜き出して標本画像(拡大画像)を再構成した例を示している。この場合、表示領域枠1801に対応する標本画像(拡大画像)からは、個別標本「iv」の画像を消去する処理を行う。また表示領域枠1802に対応する標本画像(拡大画像)からは、個別標本「iii」の画像を消去する処理を行う。
(画像フォーマットの説明)
図19(a)から図19(c)は、画像ファイルフォーマットを説明する模式図である。
図19(a)は、画像データの基本ファイルフォーマットである。基本ファイルフォーマットは、ヘッダ、画像データ、付加データから構成される。ヘッダは、ファイルヘッダ、プレ計測情報、撮像情報、照明情報などから構成される。ファイルヘッダには、画像データのバイトオーダなどのファイル構造全体に関わる情報を格納する。プレ計測情報には、スライド206のラベル情報やスライド・サイズなどプレ計測で取得した情報を格納す
る。撮像情報には、レンズ倍率、撮像時間、撮像素子の画素サイズなどの撮像に関わる情報を格納する。照明情報には、光源種類などの照明に関わる情報を格納する。画像データは、画像データヘッダ、階層画像データから構成される。画像データヘッダには、階層数など画像データの構造に関わる情報を格納する。階層画像データには、高倍率画像データ、中倍率画像データ、低倍率画像データ、スライド画像データを格納する。階層画像データとして格納される画像データは、図5の階層画像データに相当する。高倍率画像データ、中倍率画像データ、低倍率画像データは、それぞれ第4階層画像504、第3階層画像503、第2階層画像502であり、スライド画像データが第1階層画像501のデータに相当する。付加データは、付加データヘッダ、アノテーション情報などから構成される。付加データヘッダには、付加データの種類など付加データの構造に関わる情報を格納する。アノテーション情報には、アノテーションの書き込み位置、種類、書き込み内容へのポインタなどを格納する。図19(a)に示す画像データの基本ファイルフォーマットは、撮像した全てのスライドに対して生成される。
図19(b)は、スライド206に複数の個別標本が含まれる場合に静的に生成されるデータのファイルフォーマットであり、スライド画像データの一部として生成される。個別標本それぞれに対して、外接矩形領域のデータサイズ、外接矩形領域の開始アドレス(X、Y)、外接矩形領域のピクセルサイズ(X、Y)が格納される。拡大画像の倍率(表示領域枠)や標本観察(スクリーニング)シーケンスに変更があった場合には、図19(b)に示す情報を用いて拡大画像701の画像データを生成することができる。
図19(c)は、拡大画像の倍率や標本観察(スクリーニング)シーケンスが設定された際に動的に生成されるデータのファイルフォーマットである。表示領域サイズ(X、Y)には、拡大画像の倍率に基づいて計算された表示領域のスライド画像上でのサイズ(X方向の幅とY方向の高さ)、つまり表示領域枠の幅と高さが格納される。また、それぞれの個別標本について、表示領域の個数とそれぞれの表示領域の開始アドレス(X、Y)が計算され格納される。開始アドレス(X、Y)は、スライド画像上での表示領域枠の左上の画素の座標である。この図19(c)の(動的)スライド画像データが、標本観察(スクリーニング)シーケンス及び再構成した標本配置を定義するデータ、つまり再構成スライドのデータに相当する。標本観察(スクリーニング)において表示される拡大画像は、表示領域サイズ(X、Y)と表示領域の開始アドレス(X、Y)に基づいて、動的に読み込まれ生成される。
なお、図15(a)で説明した個別標本の近接や、図18(b)で説明した個別標本の分離などを行う場合には、階層画像データから読み込んだ画像データをそのまま拡大画像として利用できず、画像の合成又は一部の消去などの画像処理が必要となる。それゆえ、図19(c)の(動的)スライド画像データに、個別標本の近接又は分離が行われた表示領域であることを示す情報を記述するとよい。なお、画像の合成又は一部消去などの画像処理は、標本観察(スクリーニング)において個別標本の近接又は分離が行われた部分の拡大画像を表示する際に行ってもよいが、表示速度(応答性)向上の観点からは、処理済みの拡大画像データを予め生成するとよい。例えば、(動的)スライド画像データを生成する際に、個別標本の近接又は分離が行われた表示領域に対応する拡大画像のデータを生成し、メモリ又は記憶装置に格納する。そして、(動的)スライド画像データの表示領域の開始アドレス(X、Y)には、スライド画像上の座標ではなく、生成した拡大画像のデータを特定するための情報(格納先のアドレス、ファイル名など)を記述しておけばよい。
(標本観察(スクリーニング)におけるアプリケーション動作例)
図7(a)、図7(b)を参照して、標本観察(スクリーニング)におけるユーザ操作と画像提示アプリケーションの動作を説明する。なお、図19(c)に示す(動的)スラ
イド画像データは、標本配置調整部409により既に生成されているものとする。
標本観察(スクリーニング)を開始すると、制御部301は、図19(c)の(動的)スライド画像データから、表示領域サイズ(X、Y)と個別標本「1」の最初の表示領域の開始アドレス(X、Y)を取得する。そして、制御部301は、表示倍率に対応した階層画像データから、表示領域サイズ(X、Y)と開始アドレス(X、Y)により決まる領域に対応する画像データを読み込み、拡大画像701を生成して表示装置103に表示する。また、制御部301は、階層画像データから読み込んだスライド画像データに、現在の表示領域を示す太枠706を合成し、スライド画像702を表示する。
ユーザは、拡大画像701を観察して、異常等がないか確認する。異常が疑われる部分(関心領域)を発見した場合には、ユーザは、マウス312やキーボード311により関心領域の位置を記録し、必要に応じてアノテーション(コメント)を入力する。表示中の拡大画像701の観察を終えたら、次の表示領域への変更をユーザが指示する(次の表示領域への移動指示)。表示領域の変更は、例えば、キーボード311のキー押下、マウス312のボタン押下やホイール回転、画面上に表示されたGUIの操作などにより指示できる。シンプルな方法としては、同じキー又はボタン(例えば「次へ」ボタン、エンターキーなど)を押下するたびに、次の表示領域へと順番に遷移していくというユーザインタフェースが考えられる。
表示領域の変更が指示されると、制御部301は、次の表示領域の開始アドレス(X、Y)を図19(c)の(動的)スライド画像データから取得し、この開始アドレスに対応する拡大画像701を表示装置103に表示する。またスライド画像702における太枠706の表示位置も更新する。表示領域を変更する際には、前の拡大画像と次の拡大画像の表示を切り替えてもよいし、前の拡大画像から次の拡大画像へと徐々にスクロールしてもよい。
図7(a)と図7(b)は、拡大画像の観察及び表示領域の変更を繰り返し、個別標本「1」の最後の表示領域まで観察を終えた状態を示している。この状態で、ユーザが表示領域の変更を指示すると、制御部301は、次の個別標本「2」の最初の表示領域へと移動させる。すなわち、制御部301は、図19(c)の(動的)スライド画像データから、個別標本「2」の1番目の表示領域の開始アドレス(X、Y)を取得し、この開始アドレスに対応する拡大画像701を表示装置103に表示する。またスライド画像702における太枠706の表示位置も更新する。
以上の方法により、ユーザの移動指示に応じて再構成スライド上を所定のシーケンスにしたがって表示領域が移動していくように、拡大画像の更新が行われる。それゆえ、ユーザは、個別標本「1」から「9」までを順番に、しかも各個別標本の全ての拡大画像を漏れなく、観察することができる。ある個別標本の最後の拡大画像を観察している状態のときに、表示領域の変更を指示すると、自動的に次の個別標本の最初の拡大画像に移動するため、操作が単純であると共に、操作ミスによる見落としの発生も防止できる。これにより、ユーザの操作負担を大きく軽減することができる。また、できるだけ少ない回数で個別標本の部分のみを観察できるように表示領域が切り替えられるため、非常に効率の良い標本観察(スクリーニング)が可能となる。
図20(a)と図20(b)は、効果を説明する模式図である。図20(a)に示す矢印は従来例の個別標本間の移動2001である。図9で説明した標本観察(スクリーニング)シーケンスに従った場合には、個別標本「1」から個別標本「2」へは、標本観察(スクリーニング)シーケンスを一旦休止して大きく移動する必要がある。この移動をユーザが行わねばならない場合、その操作は面倒であるし、操作ミスを生むおそれもある。一
方、図20(b)に示す矢印は本実施例の個別標本間の移動2002である。個別標本間においても標本観察(スクリーニング)シーケンスを妨げることなく、移動することができる。すなわち、本実施例の個別標本の再構成(配置の調整)によって、スライド上の標本が複数ある場合に標本観察(スクリーニング)の負担を軽減することができる。
また、本実施例では、図19(a)から図19(c)に示す画像ファイルフォーマットを用いたので、標本配置の調整(再構成)を行った画像データを生成する必要はなく、拡大画像のデータの読み込み位置を制御するだけでよい。これにより、処理負荷の軽減、及び、記憶容量の削減を行うことができる。
(提示画像の第2の例)
図21(a)と図21(b)は、提示画像の第2の例を説明する模式図である。
図21(a)は、表示装置103の画面に表示されるアプリケーション画面である。アプリケーションには、メニューウィンドウ以外に、拡大画像701、スライド画像702、個別標本並び替え画像2101を表示する3つのウィンドウがある。図7(a)と比べると、個別標本並び替え画像2101のウィンドウが追加されている。
図21(b)は、個別標本並び替え画像2101が表示されるウィンドウを示す図である。個別標本並び替え画像2101は、複数の個別標本を整列させた画像である。図21(b)の例では、9個の個別標本が3行3列(行と列の両方向)に整列しているが、行方向または列方向の一方向に配列してもよい。このとき、複数の個別標本がその観察順序に従って順番に並ぶようにすることが好ましい。個別標本並び替え画像2101は、標本配置調整部409によって生成され、図19(a)のスライド画像データの一部として格納される。個別標本の非整列や表示領域枠の重なりがないため、図7(b)と比べて、個別標本の位置関係がユーザに分かりやすい表示となっている。
提示形態としては、スライド画像702のウィンドウを非表示として、メニューウィンドウ以外は、拡大画像701と個別標本並び替え画像2101を表示する2つのウィンドウとしても良い。
(提示画像の第3の例)
図22(a)と図22(b)は、提示画像の第3の例を説明する模式図である。
図22(a)は、表示装置103の画面に表示されるアプリケーション画面である。アプリケーションには、メニューウィンドウ以外に、拡大画像701、スライド画像702、再構成スライドの全体像2201を表示する3つのウィンドウがある。図7(a)と比べると、再構成スライドの全体像2201のウィンドウが追加されている。
図22(b)は、再構成スライドの全体像2201が表示されるウィンドウを示す図である。再構成スライドの全体像2201は、前述した再構成スライドにおける個別標本の配置(調整された標本配置)の全体を示す画像である。再構成スライドの全体像2201は、標本配置調整部409によって生成され、図19(a)のスライド画像データの一部として格納される。拡大画像701と再構成スライドの全体像2201とが単なる拡大縮小の関係であるため、図7(b)と比べて、拡大像と全体像における観察領域の対応がユーザに分かりやすい表示となっている。
提示形態としては、スライド画像702のウィンドウを非表示として、メニューウィンドウ以外は、拡大画像701と再構成スライドの全体像2201を表示する2つのウィンドウとしても良い。また、再構成スライドの全体像2201に観察の順番(シーケンス)を明示する情報(例えば、順番を示す番号や矢印など)を示しても良い。さらに、ユーザが、観察の順番(シーケンス)、表示領域枠の位置・サイズ・分割の仕方、個別標本間の
接続などを手動で変更できる機能を設けてもよい。例えば、再構成スライドの全体像2201に表示されている表示領域枠、観察の順番、個別標本などをマウス312でドラッグする等して変更できると良い。
<実施例2>
(実施例2の概要)
実施例1は標本観察(スクリーニング)について説明を行った。一方、実施例2は、表示制御モード、及び、各表示制御モードでの表示処理について説明する。表示制御モードとしては、「通常モード」、「観察モード」、「確認モード」の複数のモードを有する。実施例1で説明した標本観察(スクリーニング)は、観察モードに対応する。そのため、実施例1の内容及びその効果は、実施例2にも適用できる。本実施例は、実施例1を包含するものであり、スライド上に標本が複数ある場合の各表示制御モードにおける表示方法、特に、拡大画像の提示方法に特徴がある。
本発明の画像処理装置は、撮像装置と表示装置を備えた画像処理システムにおいて用いることができる。画像処理システムの構成、画像処理システムにおける撮像装置の機能ブロック、画像処理装置のハードウェア構成、階層画像データの構造、スライドの構成、標本観察(スクリーニング)に関わる処理は、実施例1で説明した内容と同様のため、説明を省略する。
(表示制御モードの設定)
図23は、表示制御モードの設定(通常モード、観察モード、確認モード)を説明する模式図である。図23は、表示装置103の画面に表示されるアプリケーション画面を示す。アプリケーション画面には、メニューウィンドウ2301と、拡大画像701を表示するウィンドウと、スライド画像702を表示するウィンドウがある。基本的な構成は図7(a)と図7(b)で説明したものと同じであるため、以下、図7(a)と図7(b)で説明した提示画像との違いについてのみ説明する。メニューウィンドウ2301には、表示制御モードメニューを含む各種メニューが表示される。表示制御モードとして、観察モード、確認モード、通常モードの3種類を有する。図23の例では、ラジオボタンにより表示制御モードを選択可能である。
それぞれの表示制御モードでの表示処理、及び、表示処理フローは図26と図27で説明するため、ここでは、それぞれの表示制御モードの概要について説明する。
観察モードは、スライド上の標本全体をスクリーニングし病変を見つけ出す目的で実施する標本観察(スクリーニング)に好適なモードである。
確認モードは、POI(Point Of Interest)情報やROI(Region Of Interest)情
報を追試する際に好適なモードである。POI、ROIとは、診断に有用な情報が得られる点や領域、再度詳細に観察したい点や領域である。例えば、観察モードの標本観察(スクリーニング)においてユーザにより設定される点や領域であり、それらの点や領域は画像データの座標として一意に定義される。POI情報やROI情報には、POIやROIを示す座標の他に、POIやROIにおける診断に有用な情報をテキストとして記録するアノテーションなどが含まれる。標本観察(スクリーニング)後に再度POIやROIを詳細観察したい場合や、教育目的で標本における診断に有用な領域を学習者にいち早く示す場合などに確認モードが用いられる。
通常モードは、一般的な画像表示を行う際のモードである。観察モードおよび確認モードは、それぞれの目的に最適な表示方法ではあるが、ユーザの入力操作を直接表示に反映させるものではない。標本観察(スクリーニング)やPOI/ROI情報の追試といった限定された目的に捉われずに自由に標本観察を行う場合に通常モードが用いられる。
なお、表示制御モードメニュー以外のメニューとしては、例えば、標本観察(スクリー
ニング)時の拡大画像701の倍率を設定するメニュー、が含まれる。また、図23の表示制御モードの設定方法は一例であり、ショートカットキーを利用して設定するなど、如何なる方法を利用してもよい。
(制御部の機能ブロック構成)
図24は、画像処理装置の画像生成・制御部の機能ブロック図である。基本的な構成は図4で説明したものと同じであるため、以下、図4で説明した機能ブロック図との違いについてのみ説明する。表示制御モード処理部2401は、表示制御モードの更新情報、ユーザの個別標本選択操作を取得し、設定された表示制御モードにおける拡大画像データを生成するための制御処理を行う。表示制御モード処理部2401の動作は表示制御モードごとに異なり、表示制御モードそれぞれの表示処理フローは図27(a)から図27(d)で説明する。
(表示制御モードの設定フロー)
図25は、表示制御モードの設定を説明するフローチャートである。
ステップS2501では、表示制御モード処理部2401が、表示制御モードの更新が行われたかどうかを判断する。具体的には、表示制御モード処理部2401は、表示制御モードメニュー2302に変更があったかどうかを監視し、表示制御モードが更新されればステップS2502に進む。ステップS2502では表示制御モードの設定(ユーザにより選択された表示制御モードへの切替)を行う。表示制御モードの設定は、表示制御モード処理部2401が保持する。表示データ生成制御部404は、設定された表示制御モードに適合する表示処理の制御を行う。
(各表示制御モードの表示処理)
図26(a)から図26(e)は、各表示制御モードでの表示処理を説明する模式図である。
図26(a)は、スライド画像702が表示されるウィンドウを詳しく示す図である。基本的な構成は図7(b)で説明したものと同じであるため、図7(b)で説明した提示画像との違いについてのみ説明する。ユーザはスライド画像702上でポインタ2601により個別標本を選択できる。図26(a)は個別標本「2」を選択した例である。
図26(b)は、図26(a)に示す個別標本「2」を拡大した図である。基本的な構成は図9(a)で説明したものと同じであるため、図9(a)で説明した模式図との違いについてのみ説明する。ポインタ2601は、ユーザが指定した個別標本「2」上の任意の一点を示す。関心領域2602は、POIに相当する領域であり、例えば、ユーザが観察モードにおいて診断に有用な情報が得られる点として設定した点である。関心領域2602はPOI(点)であるが、関心領域がある範囲に渡って定義されている場合(点ではなく面積を有する場合)にはROI(領域)となる。これ以降、POIやROIをまとめて、関心領域(又は着目領域)と呼ぶこととする。
図26(c)から図26(e)は、各表示制御モードで表示される拡大画像を説明する模式図である。ポインタ2601で個別標本を選択後に拡大画像として表示装置103に表示される画像が各表示制御モードにおいて異なる。図26(c)は観察モードにおける拡大画像2603、図26(d)は確認モードにおける拡大画像2604、図26(e)は通常モードにおける拡大画像2605を示す。
図26(c)は観察モードにおける拡大画像2603である。観察モードにおいて、ユーザが図26(a)のスライド画像702上で個別標本「2」を選択した場合、図26(c)の拡大画像2603には個別標本801の観察開始位置901が表示される。実施例
1の標本観察(スクリーニング)シーケンスでは、個別標本「1」から順番に標本を観察するシーケンスを説明したが、実施例2は実施例1を拡張した内容である。すなわち、実施例2のこの機能を利用すれば、より柔軟な標本観察(スクリーニング)が可能である。例えば、標本観察(スクリーニング)の途中で、既に観察を終えた個別標本をポインタ2601で選択すると、当該個別標本の観察を再度行うことができる。また、スライド上の全ての個別標本の標本観察(スクリーニング)を終えた後に、再度、気になる個別標本を選択し当該個別標本から標本観察(スクリーニング)を再開することも可能となる。
図26(d)は確認モードにおける拡大画像2604である。確認モードにおいて、ユーザが図26(a)のスライド画像702上で個別標本「2」を選択した場合、図26(d)の拡大画像2604には個別標本801の関心領域2602を中心とする拡大画像が示される。関心領域が複数ある場合には、関心領域の設定時に優先度を同時に設定することで、優先度が高い順に関心領域を表示する制御を行う。また、関心領域がある範囲に渡って定義されている場合(点ではなく面積を有する場合)には、関心領域全体を示すことができる倍率で表示する制御を行う。その場合には、関心領域の最小外接矩形の中心を関心領域の中心と考えればよい。
図26(e)は通常モードにおける拡大画像2605であり、図26(b)に示すポインタ2601が指示する点を中心とする拡大画像が示される。ユーザの入力操作を直接表示に反映させたい場合には通常モードでの表示処理が有用となる。
(各表示制御モードの表示処理フロー)
図27(a)は、表示制御モードの設定と表示処理を説明するフローチャートである。
ステップS2701では、表示制御モード処理部2401は、表示制御モードが観察モードに設定されているかどうかを判断する。観察モードに設定されていればS2702に進み、設定されていなければS2703に進む。ステップS2702では、観察モードの表示処理が実行される。観察モードの表示処理の詳細は図27(b)で説明する。
ステップS2703では、表示制御モード処理部2401は、表示制御モードが確認モードに設定されているかどうかを判断する。確認モードに設定されていればS2704に進み、設定されていなければS2705に進む。ステップS2704では、確認モードの表示処理が実行される。確認モードの表示処理の詳細は図27(c)で説明する。
ステップS2705では、表示制御モード処理部2401は、表示制御モードが通常モードに設定されているかどうかを判断する。通常モードに設定されていればS2706に進み、設定されていなければ処理を終了する。ステップS2706では、通常モードの表示処理が実行される。通常モードの表示処理の詳細は図27(d)で説明する。
図27(b)は観察モードの表示処理を説明するフローチャートであり、図27(a)のステップS2702に対応する。ステップS2707では、表示制御モード処理部2401は、ユーザによりポインタ2601で選択されたポイントの座標を取得する。図26(b)の例では、ユーザがポインタ2601で個別標本801(ここでは個別標本「2」)内の一点を指示しているが、本ステップS2707では、その指示されたポイントの座標が取得される。ステップS2708では、表示制御モード処理部2401が、ポイントされた個別標本の番号を認識する。具体的には、表示制御モード処理部2401は、図19(c)で説明した画像ファイルフォーマットを参照し、ステップS2707で取得したポイント座標を有する個別標本の番号を認識する。ステップS2709では、表示データ生成制御部404が、ステップS2708で認識した個別標本での観察開始位置の画像データ生成の制御を行う。観察開始位置の画像データの座標範囲は、図19(c)で説明した画像ファイルフォーマットから取得できる。以上のS2707からS2709の処理ステップに従えば、観察モードの表示処理を実行することができる。
図27(c)は確認モードの表示処理を説明するフローチャートであり、図27(a)のステップS2704に対応する。ステップS2710では、表示制御モード処理部2401が、ユーザによりポインタ2601で選択されたポイントの座標を取得する。本ステップS2710は、S2707と同様の処理である。ステップS2711では、表示制御モード処理部2401が、ポイントされた個別標本の番号を認識する。本ステップS2711は、S2708と同様の処理である。ステップS2712では、表示制御モード処理部2401が、ポイントされた個別標本に関心領域があるかどうかを判断する。関心領域があればステップS2713に進み、関心領域が無ければステップS2714に進む。ステップS2713では、表示制御モード処理部2401が、関心領域の座標を取得する。関心領域が複数ある場合には、最も優先度の高い関心領域の座標を取得する。ステップS2714では、表示制御モード処理部2401が、拡大画像の表示領域を設定する。拡大画像の表示領域の中心は関心領域の座標とし、設定された拡大画像の倍率を元に表示領域を算出する。関心領域がある範囲に渡って定義されている場合(点ではなく面積を有する場合)には、関心領域全体を示すことができる倍率で表示領域を設定する。その場合には、関心領域の最小外接矩形の中心を関心領域の中心と考える。なお、ステップS2712で関心領域が無いと判断された場合には、拡大画像の表示領域の中心はポイント座標とし、設定された拡大画像の倍率を元に表示領域を算出する。ステップS2715では、表示データ生成制御部404が、ステップS2713で設定した表示領域の画像データ生成制御を行う。以上のS2710からS2715の処理ステップに従えば、確認モードの表示処理を実行することができる。
図27(d)は通常モードの表示処理を説明するフローチャートであり、図27(a)のステップS2706に対応する。ステップS2716では、表示制御モード処理部2401が、ユーザによりポインタ2601で選択されたポイントの座標を取得する。本ステップS2716は、S2707と同様の処理である。ステップS2717では、表示制御モード処理部2401が、拡大画像の表示領域を設定する。拡大画像の表示領域の中心はポイント座標とし、設定された拡大画像の倍率を元に表示領域を算出する。ステップS2718では、表示データ生成制御部404が、ステップS2717で設定した表示領域の画像データ生成制御を行う。以上のS2716からS2718の処理ステップに従えば、通常モードの表示処理を実行することができる。
なお、実施例2では、ユーザの個別標本選択操作とユーザの拡大指示操作が同一の操作であるとして説明を行ったが、必ずしも、前記2者が同一操作である必要はない。例えば、通常モードにおいて、ユーザにより個別標本選択操作が行われたときに、選択された個別標本の全体画像(縮小画像)を表示してもよい。或いは、通常モードにおいて、個別標本選択操作が行われても拡大画像を更新しない場合には、図27(a)のステップS2705、ステップS2706は削除してもよい。
実施例2では、スライド画像上の任意の点(いずれかの個別標本上の点)をポイントすることで、拡大表示する個別標本の選択を行う方法を示したが、他のユーザインタフェースにより個別標本の選択を行うこともできる。例えば、図22(a)、図22(b)のような再構成スライドの全体画像上で、拡大表示する個別標本を選択させることもできる。あるいは、画像上で選択させるのではなく、個別標本の番号を指定(入力)させてもよい。いずれのユーザインタフェースの場合でも、観察モードのときは選択された個別標本の観察開始位置に対応する部分を中心に拡大表示するとよく、確認モードのときは選択された個別標本の関心領域を中心に拡大表示するとよい。また、通常モードのときはユーザがポイントした座標を中心に拡大表示するとよい。
(実施例2の特徴)
ここで、本実施例の特徴を説明する。各表示制御モードで拡大処理の中心位置を異なら
せることに特徴がある。観察モードでは標本観察(スクリーニング)の観察開始位置の画像の中心が拡大処理の中心位置となる。確認モードでは、標本観察(スクリーニング)などで記録した関心領域が拡大処理の中心位置となる。関心領域がPOI(点)の場合にはPOIの座標が関心領域の中心位置であり、ROI(面積を有する領域)の場合にはROIの最小外接矩形の中心座標が関心領域の中心位置となる。いずれもユーザの指示位置(ポイント座標)に拘らず、表示制御モードにより拡大処理の中心位置が決まるところが実施例2の特徴である。
(実施例2の効果)
実施例2の処理によれば、標本観察(スクリーニング)や標本観察(スクリーニング)の追試などの目的に応じて、ユーザが観察したい領域をいち早く表示することができる。これにより、特に、スライド上に標本が複数ある場合には、標本観察(スクリーニング)の負担を軽減する効果が期待できる。
なお、実施例2では、表示制御モードで拡大処理の中心位置を異ならせたが、他の方法で拡大処理の中心位置を異ならせてもよい。例えば、選択された個別標本に関心領域が1つも設定されていない場合には、個別標本の観察開始位置又はポイント座標を中心に拡大表示し、関心領域が設定されている場合には、当該関心領域を中心に拡大表示してもよい。あるいは、個別標本を選択するときの操作によって拡大処理の中心位置を変えてもよい。例えば、シングルクリック(シングルタップ)とダブルクリック(ダブルタップ)とで中心位置を変えたり、右ボタンクリックと左ボタンクリックとで中心位置を変えたりしてもよい。また、コントロールキーなどの所定のキーを押しながらポイントしたときと、押さずにポイントしたときとで中心位置を変えることも好ましい。
102:画像処理装置
103:表示装置
401:ユーザ入力情報取得部
404:表示データ生成制御部
409:標本配置調整部

Claims (26)

  1. スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成する調整手段と、
    前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行う表示制御手段と、
    を有し、
    それぞれの観察対象に対して、表示順序が定められた複数の拡大画像が対応付けられており、
    前記調整手段は、第1の観察対象と第2の観察対象を隣り合わせに配置する場合に、前記第1の観察対象の複数の拡大画像のうち表示順序が最後の拡大画像と、前記第2の観察対象の複数の拡大画像のうち表示順序が最初の拡大画像とが繋がるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置を決定する
    ことを特徴とする画像処理装置。
  2. スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成する調整手段と、
    前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行う表示制御手段と、
    を有し、
    前記調整手段は、各観察対象の画像の領域を平行移動し、または、平行移動と回転をすることにより、前記再構成スライド画像上での各観察対象の配置を調整する
    ことを特徴とする画像処理装置。
  3. スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成する調整手段と、
    前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行う表示制御手段と、
    を有し、
    前記調整手段が、前記複数の観察対象を行方向、列方向またはその両方向に整列させた観察対象並び替え画像を生成し、
    前記表示制御手段が、前記拡大画像とともに、前記観察対象並び替え画像を前記表示装置に表示する
    ことを特徴とする画像処理装置。
  4. 前記調整手段は、前記再構成スライド画像上で隣り合う2つの観察対象のあいだの距離が、実際のスライド上での距離に比べて短くなるように、前記再構成スライド画像上での前記2つの観察対象の配置を決定する
    ことを特徴とする請求項1〜3のうちいずれか1項に記載の画像処理装置。
  5. 前記調整手段は、与えられた観察順序にしたがって前記複数の観察対象が順番に並ぶように、前記再構成スライド画像上での前記複数の観察対象の配置を決定する
    ことを特徴とする請求項1〜4のうちいずれか1項に記載の画像処理装置。
  6. 前記観察順序で隣り合う第1の観察対象と第2の観察対象について、
    前記調整手段は、表示領域の移動に伴い前記第1の観察対象の拡大画像から前記第2の観察対象の拡大画像へ直接切り替わるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置を決定する
    ことを特徴とする請求項2または3に記載の画像処理装置。
  7. それぞれの観察対象に対して、表示順序が定められた複数の拡大画像が対応付けられており、
    前記調整手段は、前記第1の観察対象の複数の拡大画像のうち表示順序が最後の拡大画像と、前記第2の観察対象の複数の拡大画像のうち表示順序が最初の拡大画像とが繋がるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置を決定する
    ことを特徴とする請求項6に記載の画像処理装置。
  8. 前記表示順序は、それぞれの観察対象で独立して定められる
    ことを特徴とする請求項1または7に記載の画像処理装置。
  9. 前記調整手段は、前記第1の観察対象の複数の拡大画像のうち表示順序が最後の拡大画像と、前記第2の観察対象の複数の拡大画像のうち表示順序が最初の拡大画像とが共通の画像となるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置を決定する
    ことを特徴とする請求項1、7、8のうちいずれか1項に記載の画像処理装置。
  10. 前記調整手段は、前記第1の観察対象の拡大画像のなかに他の観察対象が入らないように、前記再構成スライド画像上での前記第1の観察対象と前記他の観察対象の配置を決定する
    ことを特徴とする請求項1、7、8のうちいずれか1項に記載の画像処理装置。
  11. 前記再構成スライド画像のデータは、前記再構成スライド画像における観察対象の画像の位置と、実際のスライドにおける観察対象の画像の位置との対応関係を定義したデータである
    ことを特徴とする請求項1〜10のうちいずれか1項に記載の画像処理装置。
  12. 前記調整手段が、前記複数の観察対象を行方向、列方向またはその両方向に整列させた観察対象並び替え画像を生成し、
    前記表示制御手段が、前記拡大画像とともに、前記観察対象並び替え画像を前記表示装置に表示する
    ことを特徴とする請求項2に記載の画像処理装置。
  13. 前記調整手段が、前記再構成スライド画像の全体を表す画像を生成し、
    前記表示制御手段が、前記拡大画像とともに、前記再構成スライド画像の全体を表す画像を前記表示装置に表示する
    ことを特徴とする請求項1〜11のうちいずれか1項に記載の画像処理装置。
  14. 表示領域の移動指示を取得する取得手段と、
    前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行う表示制御手段と、を備えており、
    スライドに複数の観察対象が含まれ、それぞれの観察対象に対して複数の拡大画像が対応付けられており、
    前記表示制御手段は、移動指示を受ける毎に、1つの観察対象のなかで拡大画像が所定の表示順序で切り替わるように表示領域を移動させていき、当該観察対象の最後の拡大画像が表示されているときに移動指示を受けた場合は、当該観察対象の次の観察対象の最初の拡大画像に切り替わるように表示領域を移動させることを特徴とする画像処理装置。
  15. 前記複数の観察対象の観察順序が与えられており、
    前記表示制御手段は、前記観察順序にしたがって観察対象の拡大画像が順番に切り替わるように、表示領域を移動させる
    ことを特徴とする請求項14に記載の画像処理装置。
  16. 前記複数の観察対象のなかから1つの観察対象を選択する指示を受けた場合に、前記表示制御手段は、前記選択された観察対象が拡大表示されるように表示領域を移動させる
    ことを特徴とする請求項1〜15のうちいずれか1項に記載の画像処理装置。
  17. それぞれの観察対象に対して、最初に観察を開始すべき観察開始位置が定められており、
    前記表示制御手段は、前記選択された観察対象の観察開始位置を中心とする領域が拡大表示されるように表示領域を移動させる
    ことを特徴とする請求項16に記載の画像処理装置。
  18. 前記選択された観察対象に対して関心領域が設定されている場合に、前記表示制御手段は、前記選択された観察対象に設定された関心領域を中心とする領域が拡大表示されるように表示領域を移動させる
    ことを特徴とする請求項16又は17に記載の画像処理装置。
  19. 前記複数の観察対象を順に観察しながら関心領域の設定を行う操作を支援する第1のモードと、設定された関心領域の確認を行う操作を支援する第2のモードを有しており、
    それぞれの観察対象に対して、最初に観察を開始すべき観察開始位置が定められており、
    前記表示制御手段は、
    前記第1のモードの場合は、前記選択された観察対象の観察開始位置を中心とする領域が拡大表示されるように表示領域を移動させ、
    前記第2のモードの場合は、前記選択された観察対象に設定された関心領域を中心とする領域が拡大表示されるように表示領域を移動させる
    ことを特徴とする請求項16に記載の画像処理装置。
  20. 複数の観察対象を含むスライドの一部の領域を拡大表示し、その拡大表示する表示領域を移動することにより前記複数の観察対象を順に観察する操作、を支援するための画像処理装置であって、
    表示領域の移動指示を取得する取得手段と、
    前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行う表示制御手段と、を備えており、
    それぞれの観察対象に対して、最初に観察を開始すべき観察開始位置が定められており、
    前記表示制御手段は、前記複数の観察対象のなかから1つの観察対象を選択する指示を受けた場合に、前記選択された観察対象の観察開始位置を中心とする領域が拡大表示されるように表示領域を移動させる
    ことを特徴とする画像処理装置。
  21. コンピュータが、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成するステップと、
    コンピュータが、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行うステップと、
    を有し、
    それぞれの観察対象に対して、表示順序が定められた複数の拡大画像が対応付けられており、
    前記再構成スライド画像のデータを生成するステップでは、第1の観察対象と第2の観察対象を隣り合わせに配置する場合に、前記第1の観察対象の複数の拡大画像のうち表示順序が最後の拡大画像と、前記第2の観察対象の複数の拡大画像のうち表示順序が最初の拡大画像とが繋がるように、前記再構成スライド画像上での前記第1の観察対象と前記第2の観察対象の配置が決定される
    ことを特徴とする画像処理方法。
  22. コンピュータが、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成するステップと、
    コンピュータが、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が移動していくように前記表示装置に表示する前記拡大画像の変更を行うステップと、
    を有し、
    前記再構成スライド画像のデータを生成するステップでは、各観察対象の画像の領域を平行移動し、または、平行移動と回転をすることにより、前記再構成スライド画像上での各観察対象の配置が調整される
    ことを特徴とする画像処理方法。
  23. コンピュータが、スライドに複数の観察対象が含まれている場合に、前記スライドの画像から各観察対象の画像の領域を検出し且つそれらの領域を連続的に並べることにより、各観察対象の配置が調整された再構成スライド画像のデータを生成するステップと、
    コンピュータが、前記再構成スライド画像の一部の表示領域に対応する拡大画像を表示装置に表示するとともに、移動指示に応じて前記再構成スライド画像上を前記表示領域が
    移動していくように前記表示装置に表示する前記拡大画像の変更を行うステップと、
    コンピュータが、前記複数の観察対象を行方向、列方向またはその両方向に整列させた観察対象並び替え画像を生成するステップと、
    コンピュータが、前記拡大画像とともに、前記観察対象並び替え画像を前記表示装置に表示するステップと、
    を有することを特徴とする画像処理方法。
  24. コンピュータが、表示領域の移動指示を取得するステップと、
    コンピュータが、前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行うステップと、を含んでおり、
    スライドに複数の観察対象が含まれ、それぞれの観察対象に対して複数の拡大画像が対応付けられており、移動指示を受ける毎に、1つの観察対象のなかで拡大画像が所定の表示順序で切り替わるように表示領域を移動させていき、当該観察対象の最後の拡大画像が表示されているときに移動指示を受けた場合は、当該観察対象の次の観察対象の最初の拡大画像に切り替わるように表示領域を移動させる
    ことを特徴とする画像処理方法。
  25. 複数の観察対象を含むスライドの一部の領域を拡大表示し、その拡大表示する表示領域を移動することにより前記複数の観察対象を順に観察する操作、をコンピュータにより支援するための画像処理方法であって、
    コンピュータが、表示領域の移動指示を取得するステップと、
    コンピュータが、前記移動指示に応じて表示領域の位置と表示装置に表示する拡大画像の変更を行うステップと、を含んでおり、
    それぞれの観察対象に対して、最初に観察を開始すべき観察開始位置が定められており、
    前記複数の観察対象のなかから1つの観察対象を選択する指示を受けた場合に、前記選択された観察対象の観察開始位置を中心とする領域が拡大表示されるように表示領域を移動させる
    ことを特徴とする画像処理方法。
  26. 請求項21〜25のうちいずれか1項に記載の画像処理方法の各ステップをコンピュータに実行させるためのプログラム。
JP2014006561A 2013-04-01 2014-01-17 画像処理装置、画像処理方法、およびプログラム Active JP6455829B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2014006561A JP6455829B2 (ja) 2013-04-01 2014-01-17 画像処理装置、画像処理方法、およびプログラム
EP14157414.5A EP2796918A3 (en) 2013-04-01 2014-03-03 Image processing apparatus and image processing method
US14/218,115 US20140292813A1 (en) 2013-04-01 2014-03-18 Image processing apparatus and image processing method
CN201410117573.2A CN104104861A (zh) 2013-04-01 2014-03-27 图像处理装置和图像处理方法
US16/445,682 US20190304409A1 (en) 2013-04-01 2019-06-19 Image processing apparatus and image processing method

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2013076303 2013-04-01
JP2013076303 2013-04-01
JP2014006561A JP6455829B2 (ja) 2013-04-01 2014-01-17 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2014211615A JP2014211615A (ja) 2014-11-13
JP6455829B2 true JP6455829B2 (ja) 2019-01-23

Family

ID=50287860

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014006561A Active JP6455829B2 (ja) 2013-04-01 2014-01-17 画像処理装置、画像処理方法、およびプログラム

Country Status (4)

Country Link
US (2) US20140292813A1 (ja)
EP (1) EP2796918A3 (ja)
JP (1) JP6455829B2 (ja)
CN (1) CN104104861A (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014178474A (ja) * 2013-03-14 2014-09-25 Sony Corp デジタル顕微鏡装置、その合焦位置探索方法およびプログラム
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
WO2015109270A1 (en) * 2014-01-17 2015-07-23 Campbell William Eugene Methods and systems for slide processing
WO2016091545A1 (en) * 2014-12-09 2016-06-16 Fotonation Limited Image processing method
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
JP6766882B2 (ja) * 2016-11-24 2020-10-14 株式会社ニコン 画像処理装置、顕微鏡システム、画像処理方法、およびコンピュータプログラム
US10373290B2 (en) * 2017-06-05 2019-08-06 Sap Se Zoomable digital images
WO2019068039A1 (en) * 2017-09-29 2019-04-04 Leica Biosystems Imaging, Inc. MACRO-IMAGE WITH TWO PASSAGES
CN111694476B (zh) * 2020-05-15 2022-07-08 平安科技(深圳)有限公司 平移浏览方法、装置、计算机系统及可读存储介质
CA3216927A1 (en) * 2021-05-03 2022-11-10 Paige Ai, Inc. Systems and methods to process electronic images to identify attributes

Family Cites Families (232)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5655029A (en) * 1990-11-07 1997-08-05 Neuromedical Systems, Inc. Device and method for facilitating inspection of a specimen
US5428690A (en) * 1991-09-23 1995-06-27 Becton Dickinson And Company Method and apparatus for automated assay of biological specimens
DE69231942T2 (de) * 1991-11-22 2002-04-04 Eastman Kodak Co Verfahren und Gerät zum Steuern der raschen Anzeige mehrere Bilder aus einer digitalen Bilddatenbank
JP5161052B2 (ja) * 2008-12-04 2013-03-13 オリンパス株式会社 顕微鏡システム、標本観察方法およびプログラム
CA2195565A1 (en) * 1994-07-26 1996-02-08 Robert Tjon-Fo-Sang Inspection device and method
US6243171B1 (en) * 1994-07-29 2001-06-05 Fuji Photo Film Co., Ltd. Laboratory system, method of controlling operation thereof, playback apparatus and method, film image management method, image data copying system and method of copying image data
JPH0896129A (ja) * 1994-09-21 1996-04-12 Omron Corp モデル画像登録方法
JP3656918B2 (ja) * 1995-06-12 2005-06-08 オリンパス株式会社 電動レボルバ制御装置
US6430309B1 (en) * 1995-09-15 2002-08-06 Monogen, Inc. Specimen preview and inspection system
US6091842A (en) * 1996-10-25 2000-07-18 Accumed International, Inc. Cytological specimen analysis system with slide mapping and generation of viewing path information
US6148096A (en) * 1995-09-15 2000-11-14 Accumed International, Inc. Specimen preview and inspection system
JPH09245164A (ja) * 1996-03-11 1997-09-19 Brother Ind Ltd 画像記憶装置及び画像出力装置
US6396941B1 (en) * 1996-08-23 2002-05-28 Bacus Research Laboratories, Inc. Method and apparatus for internet, intranet, and local viewing of virtual microscope slides
US6272235B1 (en) * 1997-03-03 2001-08-07 Bacus Research Laboratories, Inc. Method and apparatus for creating a virtual microscope slide
US6031930A (en) * 1996-08-23 2000-02-29 Bacus Research Laboratories, Inc. Method and apparatus for testing a progression of neoplasia including cancer chemoprevention testing
US6404906B2 (en) * 1997-03-03 2002-06-11 Bacus Research Laboratories,Inc. Method and apparatus for acquiring and reconstructing magnified specimen images from a computer-controlled microscope
DE69841245D1 (de) * 1997-03-03 2009-11-26 Olympus America Inc Verfahren und Vorrichtung zur Erzeugung eines virtuellen Objektträgers für ein Mikroskop
CN1128539C (zh) * 1997-09-03 2003-11-19 松下电器产业株式会社 数字成像系统
US6795238B2 (en) * 1997-12-02 2004-09-21 Olympus Optical Co., Ltd. Electronic camera for microscope
US6606413B1 (en) * 1998-06-01 2003-08-12 Trestle Acquisition Corp. Compression packaged image transmission for telemicroscopy
US7355608B1 (en) * 1998-10-28 2008-04-08 International Business Machines Corporation Method for priority transmission and display of key areas of image data
US6847729B1 (en) * 1999-04-21 2005-01-25 Fairfield Imaging Limited Microscopy
US7324139B2 (en) * 2000-01-20 2008-01-29 Ricoh Company, Ltd. Digital camera, a method of shooting and transferring text
US7738688B2 (en) * 2000-05-03 2010-06-15 Aperio Technologies, Inc. System and method for viewing virtual slides
US6711283B1 (en) * 2000-05-03 2004-03-23 Aperio Technologies, Inc. Fully automatic rapid microscope slide scanner
US7386790B2 (en) * 2000-09-12 2008-06-10 Canon Kabushiki Kaisha Image processing apparatus, server apparatus, image processing method and memory medium
US7027628B1 (en) * 2000-11-14 2006-04-11 The United States Of America As Represented By The Department Of Health And Human Services Automated microscopic image acquisition, compositing, and display
US6466690C1 (en) * 2000-12-19 2008-11-18 Bacus Res Lab Inc Method and apparatus for processing an image of a tissue sample microarray
US7277878B2 (en) * 2001-02-13 2007-10-02 Ariba, Inc. Variable length file header apparatus and system
EP1372013A4 (en) * 2001-02-19 2009-11-11 Olympus Corp IMAGE COMPARISON DEVICE, IMAGE COMPARISON METHOD, AND PROGRAM COMPRISING COMPUTERIZED IMAGE COMPARISON
SE517626C3 (sv) * 2001-04-12 2002-09-04 Cellavision Ab Förfarande vid mikroskopering för att söka av och positionera ett objekt, där bilder tas och sammanfogas i samma bildkoordinatsystem för att noggrant kunna ställa in mikroskopbordet
US7337396B2 (en) * 2001-08-08 2008-02-26 Xerox Corporation Methods and systems for transitioning between thumbnails and documents based upon thumbnail appearance
US7756305B2 (en) * 2002-01-23 2010-07-13 The Regents Of The University Of California Fast 3D cytometry for information in tissue engineering
US7179221B2 (en) * 2002-03-28 2007-02-20 Fuji Photo Film Co., Ltd. Endoscope utilizing fiduciary alignment to process image data
US20030210262A1 (en) * 2002-05-10 2003-11-13 Tripath Imaging, Inc. Video microscopy system and multi-view virtual slide viewer capable of simultaneously acquiring and displaying various digital views of an area of interest located on a microscopic slide
JP2004101871A (ja) * 2002-09-10 2004-04-02 Olympus Corp 顕微鏡画像撮影装置
US7283247B2 (en) * 2002-09-25 2007-10-16 Olympus Corporation Optical probe system
US20040175764A1 (en) * 2003-01-06 2004-09-09 Hiroto Nishiyama Image processing apparatus, image processing program, recording medium, and image processing method
CN100531292C (zh) * 2003-02-20 2009-08-19 株式会社理光 图像处理方法及装置
US7647428B2 (en) * 2003-05-27 2010-01-12 Fujifilm Corporation Method and apparatus for email relay of moving image conversion and transmission, and programs therefor
JP2005031482A (ja) * 2003-07-08 2005-02-03 Matsushita Electric Ind Co Ltd 画像伸長表示方法、画像伸長表示装置、および画像伸長表示用プログラム
JP4563755B2 (ja) 2003-09-16 2010-10-13 シスメックス株式会社 標本画像の表示方法、標本画像表示用プログラム、そのプログラムを記録した記録媒体および標本画像表示用端末装置
US7345814B2 (en) * 2003-09-29 2008-03-18 Olympus Corporation Microscope system and microscope focus maintaining device for the same
JP2005114859A (ja) * 2003-10-03 2005-04-28 Nikon Corp 顕微鏡
US7925070B2 (en) * 2004-03-30 2011-04-12 Sysmex Corporation Method for displaying virtual slide and terminal device for displaying virtual slide
JP4673000B2 (ja) * 2004-05-21 2011-04-20 株式会社キーエンス 蛍光顕微鏡、蛍光顕微鏡装置を使用した表示方法、蛍光顕微鏡画像表示プログラム及びコンピュータで読み取り可能な記録媒体並びに記憶した機器
US7653260B2 (en) * 2004-06-17 2010-01-26 Carl Zeis MicroImaging GmbH System and method of registering field of view
US7355702B2 (en) * 2004-06-21 2008-04-08 Olympus Corporation Confocal observation system
US7623697B1 (en) * 2004-07-28 2009-11-24 Genetix Corp. Linking of images to enable simultaneous viewing of multiple objects
JP4542386B2 (ja) * 2004-07-30 2010-09-15 シスメックス株式会社 画像表示システム、画像提供装置、画像表示装置、およびコンピュータプログラム
US7792338B2 (en) * 2004-08-16 2010-09-07 Olympus America Inc. Method and apparatus of mechanical stage positioning in virtual microscopy image capture
US20060133657A1 (en) * 2004-08-18 2006-06-22 Tripath Imaging, Inc. Microscopy system having automatic and interactive modes for forming a magnified mosaic image and associated method
WO2006033273A1 (ja) * 2004-09-22 2006-03-30 Nikon Corporation 顕微鏡システムおよび画像処理方法
US20060159325A1 (en) * 2005-01-18 2006-07-20 Trestle Corporation System and method for review in studies including toxicity and risk assessment studies
JP5058444B2 (ja) * 2005-02-10 2012-10-24 オリンパス株式会社 顕微鏡写真装置および顕微鏡写真装置制御方法
US7760962B2 (en) * 2005-03-30 2010-07-20 Casio Computer Co., Ltd. Image capture apparatus which synthesizes a plurality of images obtained by shooting a subject from different directions, to produce an image in which the influence of glare from a light is reduced
CA2610298C (en) * 2005-06-13 2013-07-30 Tripath Imaging, Inc. System and method for re-locating an object in a sample on a slide with a microscope imaging device
US7417213B2 (en) * 2005-06-22 2008-08-26 Tripath Imaging, Inc. Apparatus and method for rapid microscopic image focusing having a movable objective
JP2008052227A (ja) * 2005-09-15 2008-03-06 Olympus Corp 観察装置
JP2007114742A (ja) * 2005-09-21 2007-05-10 Olympus Corp 観察装置
US7929738B2 (en) * 2005-10-11 2011-04-19 Olympus Corporation Microscope apparatus and microscope system
JP4680052B2 (ja) * 2005-12-22 2011-05-11 シスメックス株式会社 標本撮像装置及びこれを備える標本分析装置
JP4255476B2 (ja) * 2006-02-03 2009-04-15 シャープ株式会社 画像処理装置
JP4917329B2 (ja) * 2006-03-01 2012-04-18 浜松ホトニクス株式会社 画像取得装置、画像取得方法、及び画像取得プログラム
JP4917331B2 (ja) * 2006-03-01 2012-04-18 浜松ホトニクス株式会社 画像取得装置、画像取得方法、及び画像取得プログラム
JP4917330B2 (ja) * 2006-03-01 2012-04-18 浜松ホトニクス株式会社 画像取得装置、画像取得方法、及び画像取得プログラム
EP2034348A4 (en) * 2006-05-15 2011-04-20 Nikon Corp ACCELERATED VIEWING DEVICE
US8249315B2 (en) * 2006-05-22 2012-08-21 Upmc System and method for improved viewing and navigation of digital images
JP4878914B2 (ja) * 2006-05-24 2012-02-15 オリンパス株式会社 顕微鏡システム、顕微鏡の制御方法、及びプログラム
US7945083B2 (en) * 2006-05-25 2011-05-17 Carestream Health, Inc. Method for supporting diagnostic workflow from a medical imaging apparatus
JP5307539B2 (ja) * 2006-05-31 2013-10-02 オリンパス株式会社 生体試料撮像方法および生体試料撮像装置
EP2036003B1 (en) * 2006-06-30 2017-05-03 Leica Biosystems Imaging, Inc. Method for storing and retrieving large images via dicom
JP5021254B2 (ja) * 2006-09-06 2012-09-05 オリンパス株式会社 顕微鏡装置の制御方法、顕微鏡装置
EP2141578B1 (en) * 2007-04-24 2019-01-23 Sony Interactive Entertainment Inc. Image display device, image display method and information recording medium
JP4296207B2 (ja) * 2007-05-10 2009-07-15 日本分光株式会社 顕微測定装置
JP4937850B2 (ja) * 2007-07-03 2012-05-23 オリンパス株式会社 顕微鏡システム、そのvs画像生成方法、プログラム
US8878923B2 (en) * 2007-08-23 2014-11-04 General Electric Company System and method for enhanced predictive autofocusing
JP5230988B2 (ja) * 2007-09-28 2013-07-10 オリンパス株式会社 顕微鏡用カメラ
KR101499545B1 (ko) * 2007-10-23 2015-03-06 삼성전자주식회사 디지털 이미지 처리장치, 그 제어방법, 제어방법을실행시키기 위한 프로그램을 저장한 기록매체 및 디지털이미지 압축방법
JP5194776B2 (ja) * 2007-12-21 2013-05-08 株式会社リコー 情報表示システム、情報表示方法およびプログラム
US8284246B2 (en) * 2008-01-18 2012-10-09 Olympus Corporation Microscope system, control method used for microscope system, and recording medium for reproducing a microscope state based on microscope operation history and a microscope operation item
JP5059637B2 (ja) * 2008-01-18 2012-10-24 オリンパス株式会社 顕微鏡用撮像装置
JP4558047B2 (ja) * 2008-01-23 2010-10-06 オリンパス株式会社 顕微鏡システム、画像生成方法、及びプログラム
JP4998312B2 (ja) * 2008-02-15 2012-08-15 富士通セミコンダクター株式会社 画像処理装置、撮像装置及び画像処理方法
EP2288903A4 (en) * 2008-05-16 2012-03-21 Biomedical Photometrics Inc IMAGING SYSTEM WITH OPTIMIZATION OF THE DYNAMIC RANGE
US8064733B2 (en) * 2008-06-24 2011-11-22 Microsoft Corporation Variable resolution images
US7933473B2 (en) * 2008-06-24 2011-04-26 Microsoft Corporation Multiple resolution image storage
JP5380026B2 (ja) * 2008-09-24 2014-01-08 シスメックス株式会社 標本撮像装置
WO2010035414A1 (ja) * 2008-09-26 2010-04-01 オリンパス株式会社 顕微鏡システム、該制御プログラムが格納された記憶媒体、及び該制御方法
JP5301232B2 (ja) * 2008-09-30 2013-09-25 シスメックス株式会社 血球画像表示装置、検体分析システム、血球画像表示方法、及びコンピュータプログラム
KR101309782B1 (ko) * 2008-09-30 2013-09-23 삼성전자주식회사 문서 처리장치 및 문서 처리방법
JP5126367B2 (ja) * 2008-10-02 2013-01-23 株式会社ニコン 顕微鏡システムおよび観察制御方法
KR101460612B1 (ko) * 2008-10-10 2014-11-13 삼성전자주식회사 디지털 이미지 처리장치, 그 제어방법 및 이를 실행하기 위한 프로그램을 저장한 기록매체
JP5325522B2 (ja) * 2008-10-15 2013-10-23 株式会社堀場製作所 複合型観察装置
US8842900B2 (en) * 2008-10-28 2014-09-23 Sysmex Corporation Specimen processing system and blood cell image classifying apparatus
JP2010128062A (ja) * 2008-11-26 2010-06-10 Olympus Corp バーチャルスライド用標本像取得装置
DE102008059788B4 (de) * 2008-12-01 2018-03-08 Olympus Soft Imaging Solutions Gmbh Analyse und Klassifizierung insbesondere biologischer oder biochemischer Objekte auf Basis von Zeitreihen-Bildern, anwendbar bei der zytometrischen Time-Lapse-Zellanalyse in der bildbasierten Zytometrie
JP5438962B2 (ja) * 2008-12-25 2014-03-12 シスメックス株式会社 細胞画像表示装置
US20100201800A1 (en) * 2009-02-09 2010-08-12 Olympus Corporation Microscopy system
JP4706769B2 (ja) * 2009-03-23 2011-06-22 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置
US9810895B2 (en) * 2009-05-29 2017-11-07 Olympus Corporation Biological observation apparatus
JP5199956B2 (ja) * 2009-06-16 2013-05-15 キヤノン株式会社 画像復号装置及びその制御方法
US8891851B2 (en) * 2009-07-15 2014-11-18 Glenn F. Spaulding Home healthcare management system and hardware
WO2011008209A1 (en) * 2009-07-16 2011-01-20 Jiang Gu Virtual telemicroscope
JP5394887B2 (ja) * 2009-10-29 2014-01-22 オリンパス株式会社 顕微鏡装置および顕微鏡観察方法
JP5589366B2 (ja) * 2009-11-27 2014-09-17 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP5568970B2 (ja) * 2009-11-30 2014-08-13 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP5561027B2 (ja) * 2009-11-30 2014-07-30 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP5617233B2 (ja) * 2009-11-30 2014-11-05 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP5658451B2 (ja) * 2009-11-30 2015-01-28 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP2011118107A (ja) 2009-12-02 2011-06-16 Olympus Corp 顕微鏡システム
US8564623B2 (en) * 2009-12-11 2013-10-22 Molecular Devices, Llc Integrated data visualization for multi-dimensional microscopy
JP5510956B2 (ja) * 2010-01-07 2014-06-04 パナソニックヘルスケア株式会社 観察ユニット用の制御装置、制御プログラム及び制御方法、並びに観察システム
JP5434621B2 (ja) * 2010-01-19 2014-03-05 ソニー株式会社 情報処理装置、情報処理方法、及びそのプログラム
JP2011170480A (ja) 2010-02-17 2011-09-01 Dainippon Screen Mfg Co Ltd 画像表示装置、描画システムおよびプログラム
JP5490568B2 (ja) * 2010-02-26 2014-05-14 オリンパス株式会社 顕微鏡システム、標本観察方法およびプログラム
JP2011181015A (ja) * 2010-03-03 2011-09-15 Olympus Corp 診断情報配信装置および病理診断システム
JP5479950B2 (ja) * 2010-03-03 2014-04-23 オリンパス株式会社 顕微鏡装置及び観察位置再現方法
JP5555014B2 (ja) * 2010-03-10 2014-07-23 オリンパス株式会社 バーチャルスライド作成装置
JP5531750B2 (ja) * 2010-04-16 2014-06-25 ソニー株式会社 情報処理装置、情報処理方法、プログラム、及び情報処理システム
JP5434767B2 (ja) * 2010-04-16 2014-03-05 ソニー株式会社 情報処理装置、情報処理方法及びそのプログラム
JP2012003214A (ja) * 2010-05-19 2012-01-05 Sony Corp 情報処理装置、情報処理方法、プログラム、撮像装置、及び光学顕微鏡を搭載した撮像装置
JP5537281B2 (ja) * 2010-06-21 2014-07-02 オリンパス株式会社 顕微鏡装置および画像取得方法
JP5663979B2 (ja) * 2010-06-29 2015-02-04 ソニー株式会社 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム
JP5560966B2 (ja) * 2010-07-01 2014-07-30 ソニー株式会社 顕微鏡制御装置、画像管理サーバ、画像処理方法、プログラム及び画像管理システム
JP5589619B2 (ja) * 2010-07-01 2014-09-17 ソニー株式会社 情報処理装置、ステージうねり補正方法、プログラム
JP5690086B2 (ja) * 2010-07-02 2015-03-25 株式会社キーエンス 拡大観察装置
JP5451552B2 (ja) * 2010-08-09 2014-03-26 オリンパス株式会社 顕微鏡システム、標本観察方法およびプログラム
US10139613B2 (en) * 2010-08-20 2018-11-27 Sakura Finetek U.S.A., Inc. Digital microscope and method of sensing an image of a tissue sample
JP2012052921A (ja) * 2010-09-01 2012-03-15 Olympus Corp 撮像システム
US8717384B1 (en) * 2010-09-28 2014-05-06 The United State Of America As Represented By The Secretary Of The Navy Image file format article of manufacture
CN103180769B (zh) * 2010-10-29 2016-02-24 佳能株式会社 显微镜、图像获取装置和图像获取系统
JP5685928B2 (ja) * 2010-12-24 2015-03-18 ソニー株式会社 情報処理装置、画像データ最適化方法、プログラム
JP5601218B2 (ja) * 2011-01-24 2014-10-08 ソニー株式会社 情報処理装置、情報処理方法及びプログラム
JP5675419B2 (ja) * 2011-02-18 2015-02-25 キヤノン株式会社 画像生成装置、及び、画像生成方法
JP5408155B2 (ja) * 2011-02-23 2014-02-05 ブラザー工業株式会社 制御装置及びプログラム
JP2012194517A (ja) * 2011-02-28 2012-10-11 Nikon Corp 画像表示装置、観察装置、表示プログラム、画像表示方法、および観察制御方法
DE102011015149B4 (de) * 2011-03-25 2013-01-17 Carl Zeiss Meditec Ag Operationsmikroskopiesystem
JP5723211B2 (ja) * 2011-05-11 2015-05-27 キヤノン株式会社 画像生成装置及びその制御方法、プログラム、及び記録媒体
JP5372068B2 (ja) * 2011-05-20 2013-12-18 キヤノン株式会社 撮像システム、画像処理装置
JP2013011856A (ja) * 2011-06-01 2013-01-17 Canon Inc 撮像システムおよびその制御方法
US8970618B2 (en) * 2011-06-16 2015-03-03 University Of Leeds Virtual microscopy
WO2012174542A2 (en) * 2011-06-17 2012-12-20 Constitution Medical, Inc. Systems and methods for sample display and review
JP5853458B2 (ja) * 2011-07-21 2016-02-09 ソニー株式会社 マーク情報記録装置及びマーク情報提示装置
JP5859771B2 (ja) * 2011-08-22 2016-02-16 ソニー株式会社 情報処理装置、情報処理システム情報処理方法及びプログラム
US20140193052A1 (en) * 2011-08-23 2014-07-10 Yoshiko Yoshihara Information processing system, information processing method, information processing apparatus, control method thereof and control program
JP6035716B2 (ja) * 2011-08-26 2016-11-30 ソニー株式会社 情報処理システム及び情報処理方法
JP5460662B2 (ja) * 2011-09-07 2014-04-02 株式会社日立ハイテクノロジーズ 領域決定装置、観察装置または検査装置、領域決定方法および領域決定方法を用いた観察方法または検査方法
JP2013068706A (ja) * 2011-09-21 2013-04-18 Sony Corp 情報処理装置、情報処理方法、プログラム及び記録媒体
US20130077892A1 (en) * 2011-09-27 2013-03-28 Yasunori Ikeno Scan Order Optimization and Virtual Slide Stitching
JP5875340B2 (ja) * 2011-11-21 2016-03-02 キヤノン株式会社 画像検査支援方法及び画像検査支援装置
JP5705096B2 (ja) * 2011-12-02 2015-04-22 キヤノン株式会社 画像処理装置及び画像処理方法
JP5963009B2 (ja) * 2011-12-08 2016-08-03 パナソニックIpマネジメント株式会社 デジタル標本作製装置、デジタル標本作製方法およびデジタル標本作製サーバ
JP5792607B2 (ja) * 2011-12-09 2015-10-14 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
US8687253B2 (en) * 2011-12-13 2014-04-01 Canon Kabushiki Kaisha Speckle noise reduction based on longitudinal shift of sample
JP2013148856A (ja) * 2011-12-22 2013-08-01 Canon Inc 撮像装置、表示画面生成装置、撮像システム、及びその制御方法
JP6091137B2 (ja) * 2011-12-26 2017-03-08 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP6124543B2 (ja) * 2011-12-26 2017-05-10 キヤノン株式会社 画像処理装置、画像処理方法、画像処理システム、及びプログラム
US20140306992A1 (en) * 2011-12-26 2014-10-16 Canon Kabushiki Kaisha Image processing apparatus, image processing system and image processing method
JP5832281B2 (ja) * 2011-12-27 2015-12-16 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、およびプログラム
JP5858774B2 (ja) * 2011-12-26 2016-02-10 キヤノン株式会社 表示画面生成装置及びその制御方法
JP2013134574A (ja) * 2011-12-26 2013-07-08 Canon Inc 画像データ生成装置、画像データ表示システムおよび画像データ生成方法
JP5350532B2 (ja) * 2011-12-27 2013-11-27 キヤノン株式会社 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP2013152426A (ja) * 2011-12-27 2013-08-08 Canon Inc 画像処理装置、画像処理システム、画像処理方法、およびプログラム
JP2013152454A (ja) * 2011-12-27 2013-08-08 Canon Inc 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム
JP2013152453A (ja) * 2011-12-27 2013-08-08 Canon Inc 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム
JP5971954B2 (ja) * 2012-01-12 2016-08-17 キヤノン株式会社 画像処理装置、画像処理装置を有する撮像装置、画像処理方法、プログラム、及びプログラムを記憶した記憶媒体
JP2013174581A (ja) * 2012-01-25 2013-09-05 Canon Inc 画像データ生成装置および画像データ生成方法
JP2013178742A (ja) * 2012-01-30 2013-09-09 Canon Inc 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP5948074B2 (ja) * 2012-02-13 2016-07-06 株式会社日立ハイテクノロジーズ 画像形成装置及び寸法測定装置
JP2013167798A (ja) * 2012-02-16 2013-08-29 Canon Inc 画像生成装置及びその制御方法
JP6019998B2 (ja) * 2012-02-17 2016-11-02 ソニー株式会社 撮像装置、撮像制御プログラム及び撮像方法
JP2013201530A (ja) * 2012-03-23 2013-10-03 Canon Inc 撮像装置及びその制御方法
JP2013200639A (ja) * 2012-03-23 2013-10-03 Canon Inc 描画データ生成装置、描画データ生成方法、プログラム、および描画データ生成システム
JP2013200640A (ja) * 2012-03-23 2013-10-03 Canon Inc 画像処理装置、画像処理システム、画像処理方法、およびプログラム
US20150153558A1 (en) * 2012-06-07 2015-06-04 The Regents Of The University Of California Wide-field microscopy using self-assembled liquid lenses
EP3276332A3 (en) * 2012-06-14 2018-04-18 Sony Corporation Information processing apparatus, information processing method, and information processing program
EP2871512B1 (en) * 2012-07-04 2019-06-05 Sony Corporation Information processing device, information processing method, program, and microscope system
JP2014029380A (ja) * 2012-07-31 2014-02-13 Sony Corp 情報処理装置、情報処理方法、プログラム及び画像表示装置
JP6024293B2 (ja) * 2012-08-28 2016-11-16 ソニー株式会社 情報処理装置、情報処理方法、および情報処理プログラム
JP6192276B2 (ja) * 2012-09-14 2017-09-06 キヤノン株式会社 表示制御装置及びその制御方法、プログラム、及び記録媒体
JP2014071207A (ja) * 2012-09-28 2014-04-21 Canon Inc 画像処理装置、撮像システム、画像処理システム
DE102012019438B4 (de) * 2012-10-04 2015-05-21 Medite Gmbh Verfahren und Vorrichtung zur Bearbeitung histologischer Gewebeproben
JP6099477B2 (ja) * 2012-11-16 2017-03-22 オリンパス株式会社 撮像装置、顕微鏡システム及び撮像方法
JP2014130221A (ja) * 2012-12-28 2014-07-10 Canon Inc 画像処理装置、その制御方法、画像処理システム、及びプログラム
US9646376B2 (en) * 2013-03-15 2017-05-09 Hologic, Inc. System and method for reviewing and analyzing cytological specimens
US10043414B2 (en) * 2013-03-15 2018-08-07 Microscopy Learning Systems, Llc Microscope-based learning
JP6150586B2 (ja) * 2013-03-29 2017-06-21 オリンパス株式会社 顕微鏡
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
CN105143954B (zh) * 2013-04-26 2018-06-19 浜松光子学株式会社 图像取得装置、取得试样的对准焦点信息的方法以及系统
HUE052489T2 (hu) * 2013-04-26 2021-04-28 Hamamatsu Photonics Kk Képfelvevõ berendezés és eljárás és rendszer fókusztérkép elõállítására minta számára
JP6147079B2 (ja) * 2013-05-14 2017-06-14 オリンパス株式会社 顕微鏡システム、貼り合わせ領域の決定方法、及び、プログラム
US9439565B1 (en) * 2013-07-08 2016-09-13 Dermatopathology Laboratory of Central States, Inc. Wireless viewing of digital pathology specimens
JP2015087167A (ja) * 2013-10-29 2015-05-07 キヤノン株式会社 画像処理方法、画像処理システム
US20150124079A1 (en) * 2013-11-06 2015-05-07 Canon Kabushiki Kaisha Image data forming apparatus and control method thereof
JP6127926B2 (ja) * 2013-11-11 2017-05-17 ソニー株式会社 画像処理装置及び画像処理方法
JP2015104105A (ja) * 2013-11-28 2015-06-04 キヤノン株式会社 画像取得装置、及び画像取得方法
JP6429454B2 (ja) * 2013-11-28 2018-11-28 キヤノン株式会社 撮像装置、撮像装置の制御方法および撮像装置の制御プログラム
JP6459451B2 (ja) * 2013-12-12 2019-01-30 コニカミノルタ株式会社 超音波診断装置、超音波画像処理方法、及びコンピュータ読み取り可能な非一時的な記録媒体
JP2015154324A (ja) * 2014-02-17 2015-08-24 キヤノン株式会社 撮像システム、撮像装置、画像処理装置
JP2015187705A (ja) * 2014-03-13 2015-10-29 キヤノン株式会社 画像取得装置およびその制御方法
US9984457B2 (en) * 2014-03-26 2018-05-29 Sectra Ab Automated grossing image synchronization and related viewers and workstations
JP2015192238A (ja) * 2014-03-27 2015-11-02 キヤノン株式会社 画像データ生成装置および画像データ生成方法
JP2015195845A (ja) * 2014-03-31 2015-11-09 富士フイルム株式会社 内視鏡システム、内視鏡システムの作動方法、プロセッサ装置、プロセッサ装置の作動方法
JP6305175B2 (ja) * 2014-04-10 2018-04-04 キヤノン株式会社 画像処理装置、画像処理方法、画像処理システム
EP3143381B1 (en) * 2014-05-12 2021-02-24 Cellomics, Inc Automated imaging of chromophore labeled samples
JP2015230393A (ja) * 2014-06-05 2015-12-21 キヤノン株式会社 撮像装置の制御方法および撮像システム
EP3180919A4 (en) * 2014-08-11 2018-03-21 Browseplay Inc. System and method for secure cross-platform video transmission
US20160042122A1 (en) * 2014-08-11 2016-02-11 Canon Kabushiki Kaisha Image processing method and image processing apparatus
CN105447034A (zh) * 2014-08-29 2016-03-30 富泰华工业(深圳)有限公司 生成图片缩略图的方法与系统
JP2016075574A (ja) * 2014-10-06 2016-05-12 キヤノン株式会社 質量顕微鏡装置
JP6480713B2 (ja) * 2014-11-18 2019-03-13 オリンパス株式会社 顕微鏡システム
JP6448996B2 (ja) * 2014-11-25 2019-01-09 オリンパス株式会社 顕微鏡システム
JP6562627B2 (ja) * 2014-12-10 2019-08-21 キヤノン株式会社 顕微鏡システム
JP6562625B2 (ja) * 2014-12-10 2019-08-21 キヤノン株式会社 スライドおよび当該スライドを用いる顕微鏡システム
JP6562626B2 (ja) * 2014-12-10 2019-08-21 キヤノン株式会社 顕微鏡システム
JP6560490B2 (ja) * 2014-12-10 2019-08-14 キヤノン株式会社 顕微鏡システム
US9824189B2 (en) * 2015-01-23 2017-11-21 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus, image processing method, image display system, and storage medium
US10244241B2 (en) * 2015-03-22 2019-03-26 Innova Plex, Inc. Pyramidal file structure and method of use thereof
US10162412B2 (en) * 2015-03-27 2018-12-25 Seiko Epson Corporation Display, control method of display, and program
US20160314596A1 (en) * 2015-04-26 2016-10-27 Hai Yu Camera view presentation method and system
US10003754B2 (en) * 2015-06-18 2018-06-19 Agilent Technologies, Inc. Full field visual-mid-infrared imaging system
US10176567B2 (en) * 2015-12-21 2019-01-08 Canon Kabushiki Kaisha Physical registration of images acquired by Fourier Ptychography
US10349918B2 (en) * 2015-12-22 2019-07-16 Samsung Medison Co., Ltd. Method and apparatus for displaying ultrasound images
US10347017B2 (en) * 2016-02-12 2019-07-09 Microsoft Technology Licensing, Llc Interactive controls that are collapsible and expandable and sequences for chart visualization optimizations
JP6765057B2 (ja) * 2016-03-18 2020-10-07 パナソニックIpマネジメント株式会社 画像生成装置、画像生成方法およびプログラム
DE102016110988A1 (de) * 2016-06-15 2017-12-21 Sensovation Ag Verfahren zum digitalen Aufnehmen einer Probe durch ein Mikroskop
JP2018022072A (ja) * 2016-08-04 2018-02-08 オリンパス株式会社 顕微鏡システム
JP2018054690A (ja) * 2016-09-26 2018-04-05 オリンパス株式会社 顕微鏡撮像システム
US10489633B2 (en) * 2016-09-27 2019-11-26 Sectra Ab Viewers and related methods, systems and circuits with patch gallery user interfaces
US10255693B2 (en) * 2017-05-02 2019-04-09 Techcyte, Inc. Machine learning classification and training for digital microscopy images
FI20175410A (fi) * 2017-05-08 2018-11-09 Grundium Oy Laite ja menetelmä mikroskooppileikkeiden skannaamiseksi

Also Published As

Publication number Publication date
EP2796918A3 (en) 2015-03-11
JP2014211615A (ja) 2014-11-13
CN104104861A (zh) 2014-10-15
EP2796918A2 (en) 2014-10-29
US20140292813A1 (en) 2014-10-02
US20190304409A1 (en) 2019-10-03

Similar Documents

Publication Publication Date Title
JP6455829B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US20200050655A1 (en) Image processing apparatus, control method for the same, image processing system, and program
JP6091137B2 (ja) 画像処理装置、画像処理システム、画像処理方法およびプログラム
JP5197785B2 (ja) 画像処理装置、撮像システム、画像処理システム
JP5350532B2 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
JP2014130221A (ja) 画像処理装置、その制御方法、画像処理システム、及びプログラム
WO2013100025A9 (ja) 画像処理装置、画像処理システム、画像処理方法および画像処理プログラム
US20130187954A1 (en) Image data generation apparatus and image data generation method
US20160042122A1 (en) Image processing method and image processing apparatus
US9633167B2 (en) Information processing apparatus, method and program for performing a zooming operation
JP2013200640A (ja) 画像処理装置、画像処理システム、画像処理方法、およびプログラム
US20130265322A1 (en) Image processing apparatus, image processing system, image processing method, and image processing program
WO2013100029A9 (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム
US20140063072A1 (en) Information processing apparatus, information processing method, and information processing program
JP2016038542A (ja) 画像処理方法および画像処理装置
JP5818828B2 (ja) 画像処理装置、撮像システム、画像処理システム
JP6338730B2 (ja) 表示データを生成する装置、方法、及びプログラム
WO2020261955A1 (ja) 診断支援プログラム、診断支援システム及び診断支援方法
JP5826606B2 (ja) 画像配信サーバ
JP2016038541A (ja) 画像処理方法および画像処理装置
JP2013250574A (ja) 画像処理装置、画像表示システム、画像処理方法および画像処理プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171026

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20171107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180109

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181003

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20181011

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181113

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20181116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181211

R151 Written notification of patent or utility model registration

Ref document number: 6455829

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151