JP5663979B2 - 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム - Google Patents

画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム Download PDF

Info

Publication number
JP5663979B2
JP5663979B2 JP2010147635A JP2010147635A JP5663979B2 JP 5663979 B2 JP5663979 B2 JP 5663979B2 JP 2010147635 A JP2010147635 A JP 2010147635A JP 2010147635 A JP2010147635 A JP 2010147635A JP 5663979 B2 JP5663979 B2 JP 5663979B2
Authority
JP
Japan
Prior art keywords
image
tile
microscope
display device
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010147635A
Other languages
English (en)
Other versions
JP2012014251A (ja
Inventor
雅人 梶本
雅人 梶本
田上 直樹
直樹 田上
山根 健治
健治 山根
久曽神 宏
宏 久曽神
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010147635A priority Critical patent/JP5663979B2/ja
Priority to US13/164,415 priority patent/US8682046B2/en
Priority to CN2011101699753A priority patent/CN102368110A/zh
Publication of JP2012014251A publication Critical patent/JP2012014251A/ja
Application granted granted Critical
Publication of JP5663979B2 publication Critical patent/JP5663979B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/51Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B21/00Microscopes
    • G02B21/36Microscopes arranged for photographic purposes or projection purposes or digital imaging or video purposes including associated control and data processing arrangements
    • G02B21/365Control or image processing arrangements for digital or video microscopes

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Microscoopes, Condenser (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システムに関する。
近年、顕微鏡によって観察されたサンプルの画像をデジタル化し、デジタル化されたサンプルの画像を任意のディスプレイ上に表示して観察することが可能な技術について、検討が行われている。
デジタル化されたサンプルの画像を、ネットワーク上に存在するサーバに一旦格納し、かかるサーバを介して、格納されている画像を閲覧することが可能となれば、ネットワークを用いて遠隔地の医師が病理診断を行う、いわゆるテレパソロジー(telepathology)の発展を促すことが可能となる。
このような、デジタル化されたサンプルの画像を格納するサーバと画像を閲覧するクライアント機器とがネットワークを介して接続されているシステムにおいては、応答性能の向上がユーザの利便性を高める上で重要となる。
そこで、以下の特許文献1では、画像データや認証情報をキャッシュすることによって応答性能を向上させる試みがなされている。
特表2006−519443号公報
ここで、上述のようなネットワークを介したサーバ−クライアント機器間での画像データの送受信においては、ネットワーク応答遅延(Round Trip Time:RTT)に起因する即応性の低下が問題となる。しかしながら、上記特許文献1に記載の方法では、アクセスされた画像データのキャッシュに関して、ネットワーク応答遅延を考慮していないという問題があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、ネットワーク応答遅延に起因する応答性能の低下を抑制し、ユーザの利便性を更に向上させることが可能な、画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納する顕微鏡画像取得部と、前記顕微鏡画像取得部が取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するメタ情報生成部と、顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供する画像提供処理部と、前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測する提供画像予測部と、を備える画像管理サーバが提供される。
前記提供画像予測部は、前記ヒント情報として前記画像表示装置において表示画面に表示されている前記タイル画像に関する情報が含まれていた場合、当該表示画面に表示されているタイル画像の近傍に位置するタイル画像を、前記画像表示装置がリクエストする可能性の高いタイル画像として予測してもよい。
前記提供画像予測部は、前記ヒント情報として前記画像表示装置におけるユーザ操作の方向を表す動きベクトルに関する情報が含まれていた場合、当該動きベクトルの方向に位置するタイル画像を、前記画像表示装置がリクエストする可能性の高いタイル画像として予測してもよい。
前記提供画像予測部により予測された前記タイル画像、及び、前記画像表示装置に提供された前記タイル画像の少なくとも何れかが格納されるキャッシュを更に備えてもよい。
前記画像提供処理部は、前記画像表示装置に提供する前記タイル画像が複数存在する場合、提供する複数の前記タイル画像間で順序付けを行い、優先順位の高いものから順に前記画像表示装置に提供してもよい。
前記画像提供処理部は、前記画像表示装置からリクエストされた前記タイル画像を、前記キャッシュに存在するタイル画像と前記キャッシュに存在しないタイル画像とに分類し、前記キャッシュに格納されているタイル画像から優先的に提供してもよい。
前記画像提供処理部は、前記顕微鏡画像が平面方向の前記タイル画像及び焦点方向の前記タイル画像から構成されている場合、平面内のあるタイル画像がリクエストされると、リクエストされた前記タイル画像と平面内の位置は同一であり、かつ、焦点方向の位置が異なるタイル画像を、前記リクエストされたタイル画像とあわせて提供してもよい。
前記画像提供処理部は、前記画像表示装置から複数の前記タイル画像を1回のリクエストで要請された場合、該当する前記複数のタイル画像をまとめて前記画像表示装置に提供してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を管理する画像管理サーバから、当該顕微鏡画像を取得する制御を行う顕微鏡画像取得制御部と、前記顕微鏡画像取得制御部が取得した前記顕微鏡画像を表示画面に表示する際の制御を行う表示制御部と、前記表示制御部から出力された前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するヒント情報生成部と、前記ヒント情報生成部が生成した前記ヒント情報を前記画像管理サーバに送信するヒント情報送信部と、を備える画像表示装置が提供される。
前記ヒント情報生成部は、前記ユーザ操作情報に基づいて、前記画像表示装置におけるユーザ操作の方向を表す動きベクトルを特定し、当該動きベクトルに関する情報をヒント情報としてもよい。
前記ヒント情報送信部は、前記ヒント情報を、前記タイル画像の提供を要請する情報とともに前記画像管理サーバに送信してもよい。
前記ヒント情報送信部は、前記ヒント情報を、前記タイル画像の提供を要請する情報とは独立に前記画像管理サーバに更に送信してもよい。
前記顕微鏡画像取得制御部は、顕微鏡画像を特徴づけるメタ情報を前記画像管理サーバから取得し、取得した前記メタ情報に基づいて、取得を希望する前記タイル画像を特定してもよい。
前記顕微鏡画像取得制御部は、取得を希望する前記タイル画像を、各タイル画像に付与された当該タイル画像に固有の識別番号、又は、前記顕微鏡画像内における当該タイル画像の座標及び当該顕微鏡画像の撮像倍率を利用して特定してもよい。
前記顕微鏡画像取得制御部は、取得を希望する前記タイル画像を、1回のリクエストでまとめて要求してもよい。
また、上記課題を解決するために、本発明の更に別の観点によれば、顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納するステップと、取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するステップと、顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供するステップと、前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測するステップと、を含む画像提供方法が提供される。
また、上記課題を解決するために、本発明の更に別の観点によれば、顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を管理する画像管理サーバから、当該顕微鏡画像を取得するステップと、取得した前記顕微鏡画像を表示画面に表示するステップと、前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するステップと、生成された前記ヒント情報を前記画像管理サーバに送信するステップと、を含む画像取得方法が提供される。
また、上記課題を解決するために、本発明の更に別の観点によれば、コンピュータに、顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納する顕微鏡画像取得機能と、前記顕微鏡画像取得機能が取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するメタ情報生成機能と、顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供する画像提供処理機能と、前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測する提供画像予測機能と、を実現させるためのプログラムが提供される。
また、上記課題を解決するために、本発明の更に別の観点によれば、コンピュータに、顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を管理する画像管理サーバから、当該顕微鏡画像を取得する制御を行う顕微鏡画像取得制御機能と、前記顕微鏡画像取得制御機能により取得された前記顕微鏡画像を表示画面に表示する際の制御を行う表示制御機能と、前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するヒント情報生成機能と、前記ヒント情報生成機能により生成された前記ヒント情報を前記画像管理サーバに送信するヒント情報送信機能と、を実現させるためのプログラムが提供される。
また、上記課題を解決するために、本発明の更に別の観点によれば、上記画像管理サーバ及び上記画像表示装置を含む画像管理システムが提供される。
以上説明したように本発明によれば、ネットワーク応答遅延に起因する応答性能の低下を抑制し、ユーザの利便性を更に向上させることが可能である。
本発明の第1の実施形態に係る顕微鏡画像管理システムを示した説明図である。 同実施形態に係る顕微鏡及び顕微鏡制御装置の構成を示した説明図である。 顕微鏡画像データについて説明するための説明図である。 顕微鏡画像データについて説明するための説明図である。 顕微鏡画像データについて説明するための説明図である。 顕微鏡画像データについて説明するための説明図である。 顕微鏡画像データについて説明するための説明図である。 本発明の基盤技術について説明するための流れ図である。 本発明の基盤技術について説明するための流れ図である。 本発明の基盤技術について説明するための流れ図である。 本発明の基盤技術について説明するための流れ図である。 同実施形態に係る画像管理サーバの構成を示したブロック図である。 同実施形態に係る画像表示装置の構成を示したブロック図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 顕微鏡画像データのヘッダ情報について説明するための説明図である。 同実施形態に係るタイル画像のキャッシュ方法について説明するための説明図である。 同実施形態に係るタイル画像のキャッシュ方法について説明するための説明図である。 同実施形態に係るタイル画像のキャッシュ方法について説明するための説明図である。 同実施形態に係るタイル画像のキャッシュ方法について説明するための説明図である。 同実施形態に係る画像取得方法の流れを示した流れ図である。 同実施形態に係る画像提供方法の流れを示した流れ図である。 同実施形態に係る画像閲覧方法の流れを示した流れ図である。 同実施形態に係る画像取得方法の流れを示した流れ図である。 同実施形態に係る画像提供方法の流れを示した流れ図である。 同実施形態に係る画像閲覧方法の流れを示した流れ図である。 同実施形態に係る画像取得方法の流れを示した流れ図である。 同実施形態に係る画像提供方法の流れを示した流れ図である。 本発明の実施形態に係る画像管理サーバのハードウェア構成を示したブロック図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
なお、説明は、以下の順序で行うものとする。
(1)第1の実施形態
(1−1)顕微鏡画像管理システムの構成について
(1−2)顕微鏡の全体構成について
(1−3)顕微鏡制御装置の構成について
(1−4)基盤技術とその問題点について
(1−5)画像管理サーバの構成について
(1−6)画像表示装置の構成について
(1−7)メタ情報の一例について
(1−8)画像表示装置と画像管理サーバとの間で送受信される各種情報の一例
(1−9)タイル画像のキャッシュ方法について
(1−10)画像閲覧方法の流れについて
(2)本発明の実施形態に係る画像管理サーバ及び画像表示装置のハードウェア構成について
(3)まとめ
なお、以下では、顕微鏡が撮像するサンプルとして、血液等の結合組織、上皮組織又はそれらの双方の組織などの組織切片又は塗抹細胞からなる生体サンプルを例に挙げて説明を行うが、かかる場合に限定されるわけではない。
(第1の実施形態)
<顕微鏡画像管理システムの構成について>
まず、図1を参照しながら、本発明の第1の実施形態に係る顕微鏡画像管理システム1の構成について説明する。図1は、本実施形態に係る顕微鏡画像管理システム1の構成を示した説明図である。
本実施形態に係る顕微鏡画像管理システム1は、図1に示したように、顕微鏡10と、顕微鏡制御装置20と、画像管理サーバ30と、画像表示装置40とを有する。また、顕微鏡制御装置20、画像管理サーバ30及び画像表示装置40は、ネットワーク3を介して接続されている。
ネットワーク3は、本実施形態に係る顕微鏡制御装置20、画像管理サーバ30及び画像表示装置40を互いに双方向通信可能に接続する通信回線網である。このネットワーク3は、例えば、インターネット、電話回線網、衛星通信網、同報通信路等の公衆回線網や、WAN(Wide Area Network)、LAN(Local Area Network)、IP−VPN(Internet Protocol−Virtual Private Network)、Ethernet(登録商標)、ワイヤレスLAN等の専用回線網などで構成されており、有線/無線を問わない。また、このネットワーク3は、本実施形態に係る顕微鏡画像管理システム1に専用に設けられた通信回線網であってもよい。
顕微鏡10は、当該顕微鏡10のステージ上に載置されたサンプル(例えば生体サンプル)に対して所定の照明光を照射して、このサンプルを透過した光、又は、サンプルからの発光等を撮像する。本実施形態に係る顕微鏡10の全体構成については、以下で改めて詳細に説明する。
顕微鏡10は、顕微鏡制御装置20によって駆動制御されており、顕微鏡10が撮像したサンプル画像は、顕微鏡制御装置20を介して画像管理サーバ30に格納される。
顕微鏡制御装置20は、サンプルを撮像する顕微鏡10の駆動制御を行う装置である。顕微鏡制御装置20は、顕微鏡10を制御して、サンプルのデジタル画像を撮像するとともに、得られたサンプルのデジタル画像データに対して、所定のデジタル加工処理を実施する。また、顕微鏡制御装置20は、得られたサンプルのデジタル画像データを、画像管理サーバ30にアップロードする。
画像管理サーバ30は、顕微鏡10によって撮像されたサンプルのデジタル画像データを格納するとともに、これらデジタル画像データの管理を行う装置である。画像管理サーバ30は、顕微鏡制御装置20からサンプルのデジタル画像データが出力されると、取得したサンプルのデジタル画像データを所定の格納領域に格納して、閲覧者が利用可能なようにする。また、画像管理サーバ30は、閲覧者が操作する画像表示装置40(すなわち、ビューワーに対応する装置)から、あるサンプルのデジタル画像データの閲覧を要請されると、該当するサンプルのデジタル画像データを画像表示装置40に提供する。
画像表示装置40は、サンプルのデジタル画像データの閲覧を希望する閲覧希望者が操作する端末(すなわち、ビューワーに対応する装置)である。デジタル画像データの閲覧希望者は、画像管理サーバ30に格納されているデジタル画像データの一覧等を参照して、閲覧を希望するデジタル画像データを特定するとともに、特定したデジタル画像データを提供するように、画像管理サーバ30に対して要請する。画像管理サーバ30からデジタル画像データが提供されると、提供されたデジタル画像データに対応する画像を、画像表示装置40のディスプレイ等に表示して、閲覧希望者が閲覧できるようにする。
なお、本実施形態に係る画像管理サーバ30及び画像表示装置40の詳細な構成については、以下で改めて説明する。
なお、図1では、システム1に属する顕微鏡10、顕微鏡制御装置20及び画像管理サーバ30がそれぞれ1台ずつ存在する場合について図示しているが、顕微鏡画像管理システム1に属する顕微鏡10、顕微鏡制御装置20及び画像管理サーバ30の台数は図1の例に限定されるわけではなく、それぞれ複数台ずつ存在していてもよい。
<顕微鏡の全体構成について>
続いて、図2を参照しながら、本実施形態に係る顕微鏡10の全体構成について説明する。図2は、本実施形態に係る顕微鏡10及び顕微鏡制御装置20の全体構成を示した説明図である。
[全体構成]
本実施形態に係る顕微鏡10は、図2に例示したように、生体サンプルSPLが配設されるプレパラートPRT全体の像(以下、この像をサムネイル像とも称する。)を撮像するサムネイル像撮像部110と、生体サンプルSPLが所定倍率で拡大された像(以下、この像を拡大像とも称する。)を撮像する拡大像撮像部120と、を有する。
プレパラートPRTは、血液等の結合組織、上皮組織又はそれらの双方の組織などの組織切片又は塗抹細胞からなる生体サンプルSPLを、所定の固定手法によりスライドガラスに固定したものである。これらの組織切片又は塗抹細胞には、必要に応じて各種の染色が施される。この染色には、HE(ヘマトキシリン・エオシン)染色、ギムザ染色又はパパニコロウ染色等に代表される一般染色のみならず、FISH(Fluorescence In−Situ Hybridization)や酵素抗体法等の蛍光染色が含まれる。
また、プレパラートPRTには、対応する生体サンプルSPLを特定するための付帯情報(例えば、サンプルを採取した人の氏名、採取日時、染色の種類等)が記載されたラベルが貼付されていてもよい。
本実施形態に係る顕微鏡10には、上述のようなプレパラートPRTが載置されるステージ130が設けられており、更に、ステージ130を様々な方向に移動させるためのステージ駆動機構135が設けられている。このステージ駆動機構135により、ステージ130を、ステージ面に対して平行となる方向(X軸−Y軸方向)と、直交する方向(Z軸方向)に自由に移動させることができる。
また、本実施形態に係る顕微鏡10には、サンプルSPLを含むプレパラートPRTをステージ10に搬送するサンプル搬送装置141が設けられていても良い。かかる搬送装置141を設けることで、ステージ10に、撮像予定のサンプルが自動的に設置されるようになり、サンプルSPLの入れ替えを自動化することが可能となる。
[サムネイル像撮像部]
サムネイル像撮像部110は、図2に示したように、光源111と、対物レンズ112と、撮像素子113と、を主に備える。
光源111は、ステージ130のプレパラート配置面とは逆の面側に設けられる。光源111は、一般染色が施された生体サンプルSPLを照明する光(以下、明視野照明光、又は、単に照明光とも称する。)と、特殊染色が施された生体サンプルSPLを照明する光(以下、暗視野照明光とも称する。)と、を切り換えて照射可能である。また、光源111は、明視野照明光又は暗視野照明光のいずれか一方だけを照射可能なものであってもよい。この場合、光源111として、明視野照明光を照射する光源と、暗視野照明光を照射する光源の2種類の光源が設けられることとなる。
更に、サムネイル像撮像部110には、プレパラートPRTに貼付されたラベルに記載されている付帯情報を撮像するための光を照射するラベル光源(図示せず。)が別途設けられていてもよい。
所定倍率の対物レンズ112は、プレパラート配置面におけるサムネイル像撮像部110の基準位置の法線を光軸SRAとして、ステージ130のプレパラート配置面側に配設される。ステージ130上に配設されたプレパラートPRTを透過した透過光は、この対物レンズ112によって集光されて、対物レンズ112の後方(すなわち、照明光の進行方向)に設けられた撮像素子113に結像する。
撮像素子113には、ステージ130のプレパラート配置面に載置されたプレパラートPRT全体を包括する撮像範囲の光(換言すれば、プレパラートPRT全体を透過した透過光)が結像する。この撮像素子113上に結像した像が、プレパラートPRT全体を撮像した顕微鏡画像であるサムネイル像となる。
[拡大像撮像部]
拡大像撮像部120は、図2に示したように、光源121と、コンデンサレンズ122と、対物レンズ123と、撮像素子124と、を主に備える。
光源121は、明視野照明光を照射するものであり、ステージ130のプレパラート配置面とは逆の面側に設けられる。また、光源121とは異なる位置(例えばプレパラート配置面側)には、暗視野照明光を照射する光源(図示せず。)が設けられる。
コンデンサレンズ122は、光源121から照射された明視野照明光や、暗視野照明用の光源から照射された暗視野照明光を集光して、ステージ130上のプレパラートPRTに導くレンズである。このコンデンサレンズ122は、プレパラート配置面における拡大像撮像部120の基準位置の法線を光軸ERAとして、光源121とステージ130との間に配設される。
所定倍率の対物レンズ123は、プレパラート配置面における拡大像撮像部120の基準位置の法線を光軸ERAとして、ステージ130のプレパラート配置面側に配設される。拡大像撮像部120では、この対物レンズ123を適宜交換することで、生体サンプルSPLを様々な倍率に拡大して撮像することが可能となる。ステージ130上に配設されたプレパラートPRTを透過した透過光は、この対物レンズ123によって集光されて、対物レンズ123の後方(すなわち、照明光の進行方向)に設けられた撮像素子124に結像する。
撮像素子124には、撮像素子124の画素サイズ及び対物レンズ123の倍率に応じて、ステージ130のプレパラート配置面上における所定の横幅及び縦幅からなる撮像範囲の像が結像される。なお、対物レンズ123により生体サンプルSPLの一部が拡大されるため、上述の撮像範囲は、撮像素子113の撮像範囲に比べて十分に狭い範囲となる。
ここで、サムネイル像撮像部110及び拡大像撮像部120は、図2に示したように、それぞれの基準位置の法線である光軸SRAと光軸ERAとがY軸方向に距離Dだけ離れるように配置される。この距離Dは、撮像素子113の撮像範囲に拡大像撮像部120の対物レンズ123を保持する鏡筒(図示せず)が写りこむことなく、かつ小型化のために近い距離に設定される。
なお、サムネイル像撮像部110及び拡大像撮像部120それぞれに設けられる撮像素子は、1次元撮像素子であってもよく、2次元撮像素子であってもよい。
<顕微鏡制御装置の構成について>
本実施形態に係る顕微鏡10には、図2に示したように、顕微鏡の様々な部位を制御するための顕微鏡制御装置20が接続されている。この顕微鏡制御装置20は、図2に示したように、統括制御部201と、照明制御部203と、ステージ駆動制御部205と、サムネイル像撮像制御部207と、拡大像撮像制御部209と、記憶部211と、を主に備える。
ここで、照明制御部203は、光源111及び光源121を含む、顕微鏡10が備える各種の光源を制御する処理部であり、ステージ駆動制御部205は、ステージ駆動機構135を制御する処理部である。また、サムネイル像撮像制御部207は、サムネイル像を撮像するための撮像素子113を制御する処理部であり、拡大像撮像制御部209は、生体サンプルSPLの拡大像を撮像するための撮像素子124を制御する処理部である。これらの制御部は、各種のデータ通信路を介して制御を行う部位に対して接続されている。
また、本実施形態に係る顕微鏡制御装置20には、顕微鏡全体の制御を行う制御部(統括制御部201)が別途設けられており、上述の各種の制御部に、各種のデータ通信路を介して接続されている。
これらの制御部は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、ストレージ装置、通信装置及び演算回路等により実現されるものである。
記憶部211は、本実施形態に係る顕微鏡制御装置20が備えるストレージ装置の一例である。記憶部211には、本実施形態に係る顕微鏡10を制御するための各種設定情報や、各種のデータベースや負荷予想テーブル等のルックアップテーブル等が格納される。また、記憶部211には、顕微鏡10におけるサンプルの撮像履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部211には、本実施形態に係る顕微鏡制御装置20が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
この記憶部211は、顕微鏡制御装置20が備える各処理部が自由に読み書きを行うことが可能である。
以下では、上記制御部について、その機能を簡単に説明するものとする。
[照明制御部]
照明制御部203は、本実施形態に係る顕微鏡10が備える各種の光源を制御する処理部である。照明制御部203は、統括制御部201から生体サンプルSPLの照明方法を示す情報が出力されると、取得した照明方法を示す情報に基づいて、対応する光源の照射制御を行う。
例えば、照明制御部203が、サムネイル像撮像部110に設けられた光源111の制御を行う場合について着目する。かかる場合、照明制御部203は、照明方法を示す情報を参照して、明視野像を取得すべきモード(以下、明視野モードとも称する。)又は暗視野像を取得すべきモード(以下、暗視野モードとも称する。)のどちらを実行するかを判断する。その後、照明制御部203は、各モードに応じたパラメータを光源111に対して設定し、光源111から、各モードに適した照明光を照射させる。これにより、光源111から照射された照明光が、ステージ130の開口部を介して、生体サンプルSPL全体に照射されることとなる。なお、照明制御部203が設定するパラメータとしては、例えば、照明光の強度や光源種類の選択等を挙げることができる。
また、照明制御部203が、拡大像撮像部120に設けられた光源121の制御を行う場合について着目する。かかる場合、照明制御部203は、照明方法を示す情報を参照して、明視野モード又は暗視野モードのどちらを実行するかを判断する。その後、照明制御部203は、各モードに応じたパラメータを光源121に対して設定し、光源121から、各モードに適した照明光を照射させる。これにより、光源121から照射された照明光が、ステージ130の開口部を介して、生体サンプルSPL全体に照射されることとなる。なお、照明制御部203が設定するパラメータとしては、例えば、照明光の強度や光源種類の選択等を挙げることができる。
なお、明視野モードにおける照射光は、可視光とすることが好ましい。また、暗視野モードにおける照射光は、特殊染色で用いられる蛍光マーカを励起可能な波長を含む光とすることが好ましい。また、暗視野モードでは、蛍光マーカに対する背景部分はカットアウトされることとなる。
[ステージ駆動制御部]
ステージ駆動制御部205は、本実施形態に係る顕微鏡10に設けられたステージを駆動するためのステージ駆動機構135を制御する処理部である。ステージ駆動制御部205は、統括制御部201から生体サンプルSPLの撮像方法を示す情報が出力されると、取得した撮像方法を示す情報に基づいて、ステージ駆動機構135の制御を行う。
例えば、本実施形態に係る顕微鏡10により、サムネイル像を撮像する場合に着目する。ステージ駆動制御部205は、統括制御部201から、生体サンプルSPLのサムネイル像を撮像する旨の情報が出力されると、プレパラートPRT全体が撮像素子113の撮像範囲に入るように、ステージ面方向(X―Y軸方向)にステージ130を移動させる。また、ステージ駆動制御部205は、プレパラートPRT全体に対物レンズ112の焦点が合うように、ステージ130をZ軸方向に移動させる。
また、本実施形態に係る顕微鏡10により、拡大像を撮像する場合について着目する。ステージ駆動制御部205は、統括制御部201から、生体サンプルSPLの拡大像を撮像する旨の情報が出力されると、ステージ駆動機構135を駆動制御し、光源111と対物レンズ112との間からコンデンサレンズ122と対物レンズ123との間に生体サンプルSPLが位置するよう、ステージ面方向にステージ130を移動させる。
また、ステージ駆動制御部205は、撮像素子124に撮像される撮像範囲に生体サンプルの所定の部位が位置するように、ステージ面方向(X−Y軸方向)にステージ130を移動させる。
更に、ステージ駆動制御部205は、ステージ駆動機構135を駆動制御して、所定の撮影範囲内に位置する生体サンプルSPLの部位が対物レンズ123の焦点に合うように、ステージ面に直交する方向(Z軸方向、組織切片の奥行方向)にステージ130を移動させる。
[サムネイル像撮像制御部]
サムネイル像撮像制御部207は、サムネイル像撮像部110に設けられた撮像素子113の制御を行う処理部である。サムネイル像撮像制御部207は、明視野モード又は暗視野モードに応じたパラメータを、撮像素子113に設定する。また、サムネイル像撮像制御部207は、撮像素子113から出力される、撮像素子113の結像面に結像した像に対応する出力信号を取得すると、取得した出力信号を、サムネイル像に対応する出力信号とする。サムネイル像撮像制御部207は、サムネイル像に対応する出力信号を取得すると、取得した信号に対応するデータ(RAWデータ)を統括制御部201に出力する。なお、サムネイル像撮像制御部207が設定するパラメータとして、例えば、露光の開始タイミング及び終了タイミング等を挙げることができる。
[拡大像撮像制御部]
拡大像撮像制御部209は、拡大像撮像部120に設けられた撮像素子124の制御を行う処理部である。拡大像撮像制御部209は、明視野モード又は暗視野モードに応じたパラメータを、撮像素子124に設定する。また、拡大像撮像制御部209は、撮像素子124から出力される、撮像素子124の結像面に結像した像に対応する出力信号を取得すると、取得した出力信号を、拡大像に対応する出力信号とする。拡大像撮像制御部209は、拡大像に対応する出力信号を取得すると、取得した信号に対応するデータ(RAWデータ)を統括制御部201に出力する。なお、拡大像撮像制御部209が設定するパラメータとして、例えば、露光の開始タイミング及び終了タイミング等を挙げることができる。
[統括制御部]
統括制御部201は、上述の各種制御部を含む顕微鏡全体の制御を行う処理部である。統括制御部201は、顕微鏡10により撮像されたサムネイル像及び拡大像に関するデータを顕微鏡10から取得して、これらのデータを現像したり、所定のデジタル加工処理を施したりする。その後、統括制御部201は、サムネイル像及び拡大像からなる顕微鏡画像データを、ネットワーク3を介して画像管理サーバ30にアップロードする。これにより、顕微鏡10によって撮像されたサンプルの顕微鏡画像が、ネットワーク3に接続されたクライアント機器である画像表示装置40によって閲覧可能となる。
以上、本実施形態に係る顕微鏡制御装置20の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る顕微鏡制御装置20の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<基盤技術とその問題点について>
ここで、本実施形態に係る画像管理サーバ30及び画像表示装置40の詳細な構成について説明するに先立ち、本発明の基盤となる技術について、簡単に説明する。なお、本実施形態は、以下に記載する基盤技術の上に改良を加えることにより、より顕著な効果を得ることができるように構成されたものである。従って、その改良に係る技術こそが本実施形態の特徴を成す部分である。つまり、本実施形態は、ここで述べる技術的事項の基礎概念を踏襲するが、その本質はむしろ改良部分に集約されており、その構成が明確に相違すると共に、その効果において基盤技術とは一線を画するものであることに注意されたい。
図1及び図2に示した本実施形態に係る顕微鏡10に限らず、デジタル画像を撮像可能な顕微鏡によって得られたサンプルのデジタル画像は、まず、図3に例示したように複数のタイル画像(図3では、5列×4行のタイル画像)に分割される。その後、各タイル画像は、例えばJPEGのような画像圧縮処理を経て、ハードディスクドライブ(HDD)のようなストレージ装置に格納される。
各タイル画像の幅及び高さは、互いに同一だが、圧縮後のデータサイズは画像に依存するため、互いに同一になるとは限らない。全てのタイル画像を異なるデータファイルとして扱うことも可能ではあるが、1つのサンプルに対応する画像ファイルが複数の独立したファイルに分割されると、システム上及び性能上の管理コストが増加することとなる。従って、これら管理コストを軽減するために、複数のタイル画像は、通常1つのファイルとして取り扱われる。
かかる場合、各タイル画像がデータファイルのどの場所から始まるのかが分からなくなってしまう。そこで、図4に示したように、全てのタイル画像がどの位置から始まるかをヘッダ部分に含めたり、図5に示したように、各タイル画像の先頭にタイルサイズを記載することで次のタイル画像へのアクセスを行ったりする方法が用いられる。また、各タイル画像のタイルヘッダには、画像の幅及び高さに関する情報に加えて、倍率や照明光等の撮像条件といった情報が含まれる。
このような顕微鏡画像データは、図6に示したように、顕微鏡画像データファイル中に、解像度が異なる種々のタイル画像を含んでいる。顕微鏡画像データファイルは、図6から明らかなように、ベースライン画像(タイル画像)の種々のレベル(階層)を、解像度が小さくなっていく順序で垂直方向に積層させたときにピラミッド構造が形成される、いわゆるミップマップ形式のファイルである。
図6に示したように、最大解像度のベースラインスキャンタイル(タイル画像)が、ピラミッド構造の底部に位置しており、サムネイル画像が、ピラミッド構造の上部に位置している。顕微鏡画像データが、様々な解像度を有するタイル画像から構成されることによって、顕微鏡画像データの閲覧時に、解像度レベルをまたがる拡大・縮小処理を効率的に実施することが可能となる。
顕微鏡画像データを閲覧する際には、図3〜図6に示したような構造を有する顕微鏡画像の任意の部分が表示画面に表示される。この際、ユーザ操作により指定された表示範囲を表示画面に表示するために、図7に示したように、かかる表示範囲の少なくとも一部分を含むタイル画像が利用されることとなる。
続いて、図8を参照しながら、顕微鏡画像データの管理と顕微鏡画像データの提供及び閲覧とが同一の装置(情報処理装置)内で実現される場合における処理の流れについて、簡単に説明する。
かかる情報処理装置において、ユーザが閲覧を希望するサンプルが指定されると、情報処理装置は、該当する顕微鏡画像データのヘッダを読み出すとともに(ステップS11)、ユーザ入力を待ち受ける(ステップS13)。
その後、ユーザ操作によって、ユーザが閲覧を希望する顕微鏡画像の部分が指定されると、情報処理装置は、ユーザが閲覧を希望する部分に該当するタイル画像を特定する(ステップS15)。続いて、情報処理装置は、特定したタイル画像に関する情報に基づいて、全てのタイル画像の読み出しが終了したか否かを判断する(ステップS17)。
全てのタイル画像の読み出しが終了していない場合、情報処理装置は、所定の格納領域から該当するタイル画像の読み出しを実施し(ステップS19)、読み出したタイル画像の表示処理を実施する(ステップS21)。その後、情報処理装置は、ステップS17に戻って、タイル画像の読み出しが終了したか否かを判断する。
他方、ステップS17において、全てのタイル画像の読み出しが終了した場合には、情報処理装置は、ステップS13に戻って、ユーザ入力を待ち受ける。
このような流れのもと、図3に示したようなタイル番号が付与された顕微鏡画像について、図7に示したような表示領域がユーザ入力によって指定された場合について考える。この場合、情報処理装置は、該当する表示領域を表示するために、タイル番号1,2,3,6,7,8,11,12,13の計9枚のタイル画像が必要であることを特定する。その結果、情報処理装置は、かかる表示領域に対応する顕微鏡画像を表示画面に表示するために、ステップS17に示した条件分岐を9回繰り返すことで、全てのタイル画像の読み出しを実施する。
また、顕微鏡画像を管理するサーバが、ネットワークを介して、管理している顕微鏡画像を閲覧するためのクライアント機器に提供することも検討されている。このようなサーバ−クライアント機器間で行われる処理について、図9及び図10を参照しながら、その流れを簡単に説明する。
まず、図9を参照しながら、クライアント機器側での処理の流れについて、簡単に説明する。
クライアント機器は、サーバから取得した顕微鏡画像の一覧等を参照して、閲覧を希望するサンプルの顕微鏡画像を特定し、該当する顕微鏡画像のヘッダリクエストを送信する(ステップS31)。その後、クライアント機器は、サーバから送信されたヘッダを受信するとともに(ステップS33)、ユーザ入力を待ち受ける(ステップS35)。
その後、ユーザ操作によって、ユーザが閲覧を希望する顕微鏡画像の部分が指定されると、クライアント機器は、ユーザが閲覧を希望する部分に該当するタイル画像を特定する(ステップS37)。続いて、クライアント機器は、特定したタイル画像に関する情報に基づいて、全てのタイル画像の受信が終了したか否かを判断する(ステップS39)。
全てのタイル画像の受信が終了していない場合、クライアント機器は、受信が終了していないタイル画像のリクエストをサーバに送信し(ステップS41)、サーバから送信されたタイル画像を受信する(ステップS43)。続いて、クライアント機器は、受信したタイル画像の表示処理を実施する(ステップS45)。その後、クライアント機器は、ステップS39に戻って、タイル画像の受信が終了したか否かを判断する。
他方、ステップS39において、全てのタイル画像の受信が終了した場合には、クライアント機器は、ステップS35に戻って、ユーザ入力を待ち受ける。
次に、図10を参照しながら、サーバ側での処理の流れについて、簡単に説明する。
顕微鏡画像データを管理するサーバは、クライアント機器から送信されたリクエストを受信すると(ステップS51)、受信したリクエストの内容を判断する(ステップS53)。
クライアント機器から送信されたリクエストが、タイル画像の要求を示すものでなかった場合、サーバは、クライアント機器がヘッダ情報を要求しているものと判断し、ヘッダを所定の格納領域から読み出す(ステップS55)。他方、クライアント機器から送信されたリクエストが、タイル画像の要求を示すものであった場合、サーバは、該当するタイル画像を所定の格納領域から読み出す(ステップS57)。
その後、サーバは、読み出したデータを、リクエストを送信したクライアント機器に対して送信する(ステップS59)。
このような流れのもと、図3に示したようなタイル番号が付与された顕微鏡画像について、図7に示したような表示領域がユーザ入力によって指定された場合について考える。かかる場合におけるサーバ−クライアント機器間での処理の流れを、図11に示す。
この場合、クライアント機器は、サーバに対して、ヘッダのリクエストを要求し(ステップS61)、サーバは、該当するヘッダをクライアント機器に送信する(ステップS63)。クライアント機器は、サーバから送信されたヘッダを受信すると、受信したヘッダの解析を実施する(ステップS65)。これにより、クライアント機器は、該当する表示領域を表示するために、タイル番号1,2,3,6,7,8,11,12,13の計9枚のタイル画像が必要であることを特定する。
その後、クライアント機器は、必要なタイル画像を取得するために、タイル画像の送信要求と、該当するタイル画像の受信とを繰り返す(ステップS67〜ステップS73)。その後、クライアント機器は、取得したタイル画像を利用して、ユーザから指定された表示範囲を画面に表示し(ステップS75)、新たなユーザ入力を待ち受ける(ステップS77)。その後、新たなユーザ入力により、新たにタイル画像が必要となった場合には、クライアント機器は、新たなタイル画像の送信をサーバに要求し(ステップS79)、サーバは、要求のあったタイル画像をクライアント機器に送信する(ステップS81)。
図8に示した処理の流れと、図11に示した処理の流れとを比較すると明らかなように、現在提案されているサーバ及びクライアント機器からなるシステムでは、図8に示した処理において、HDD等のストレージ装置からのデータの読み出しをネットワーク経由でサーバから受信するようにしただけである。換言すれば、現在提案されているサーバ及びクライアント機器からなるシステムでは、顕微鏡画像を閲覧するためのアプリケーションを、ネットワークを介しても操作可能にしただけのものであった。
図11に示した流れ図から明らかなように、取得するタイル画像数が多くなると、サーバ−クライアント機器間においてデータをやり取りする回数が増加するため、ネットワーク応答遅延(RTT)によって即応性が低下するという問題が生じることとなる。しかしながら、ネットワーク応答遅延に着目して応答性能の向上を図る技術については、未だ検討されていない。
なお、かかる目的の実現に際して、本発明者らは、タイル画像の効果的なキャッシュ方法についても検討を行った。その結果、以下のような知見を得ることができた。すなわち、サーバ側のキャッシュには、通常のキャッシュ方法の場合、クライアント機器からリクエストされたタイル画像のインデックス(タイル番号や座標値など)に応じて、以下のようなタイル画像のデータがキャッシュされることとなる。
・既にクライアント機器に提供したタイル画像のデータ
・クライアント機器に提供するデータのイメージ座標上での近傍に位置するタイル画像のデータ
・クライアント機器に提供するデータのファイル上での近傍に位置するタイル画像のデータ
しかしながら、このようなキャッシュ方法では、サーバは、クライアント機器が現在顕微鏡画像のどの領域を表示しているのかを確定することが困難となり、サーバ側において、効率の良いキャッシュを行うことは難しい。その結果、クライアント機器のキャッシュメモリを大きくするなどの方策が必要となり、ネットワークの帯域・メモリ容量等に負荷が掛かる可能性がある。
少ないコネクションを利用して複数のタイル画像を提供する場合、サーバは、クライアント機器が要求したタイル画像を要求した順番のままで順次レスポンスとして戻すこととなる。しかしながら、そのような場合には、サーバのキャッシュ上に存在するタイル画像はクライアント機器に直ちに提供することが出来るにも関わらず、キャッシュ上に存在しないデータの取得を待ってから提供することになる。その結果、クライアント機器が全てのタイル画像を取得するまでに要する時間が大きくなり、結果的にクライアント機器でのユーザ操作に対する表示の追従性が悪くなるという問題がある。
そこで、以下で説明する本実施形態に係る画像管理サーバ30及び画像表示装置40は、ネットワーク応答遅延に起因する応答性能の低下を抑制し、ユーザの利便性を更に向上させることを目的として鋭意検討が行われた結果実現されたものである。
また、以下の画像管理サーバ30及び画像表示装置40は、画像データの送受信に要するネットワークの帯域やメモリ容量を抑制しながら、画像表示装置40側での画像表示の高速化を図ることを更なる目的として鋭意検討が行われた結果実現されたものである。
<画像管理サーバの構成について>
次に、図12を参照しながら、本実施形態に係る画像管理サーバ30の構成について、詳細に説明する。図12は、本実施形態に係る画像管理サーバ30の構成を示したブロック図である。
画像管理サーバ30は、図12に示したように、顕微鏡画像取得部301、データ解析部303、メタ情報生成部305、画像提供処理部307、提供画像取得部309、提供画像予測部311、キャッシュ313、通信制御部315及び記憶部317を主に備える。
顕微鏡画像取得部301は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像取得部301は、本実施形態に係る顕微鏡10及び顕微鏡制御装置20を含む各種の顕微鏡撮像システムにより撮像された顕微鏡画像データを取得する。この顕微鏡画像データには、サンプルの拡大画像に対応する拡大像データだけでなく、サンプルのサムネイル画像に対応するサムネイル像データが含まれていても良い。顕微鏡画像取得部301は、取得した顕微鏡画像データを、後述するデータ解析部303に出力するとともに、後述する記憶部317の所定の格納領域に格納する。
データ解析部303は、例えば、CPU、ROM、RAM等により実現される。データ解析部303は、顕微鏡画像取得部301から出力された顕微鏡画像データを解析して、顕微鏡画像データが、どのようなデータフォーマットで保存されているか否かを特定する。データ解析部303は、得られた解析結果を、後述するメタ情報生成部305に出力する。
データ解析部303は、得られた解析結果を、後述する記憶部317に、対応する顕微鏡画像データと関連付けて記録してもよい。また、データ解析部303は、顕微鏡画像データの解析処理に関する履歴情報を、記憶部317に格納してもよい。
メタ情報生成部305は、例えば、CPU、ROM、RAM等により実現される。メタ情報生成部305は、データ解析部303による顕微鏡画像データの解析結果に基づいて、顕微鏡画像データのデータフォーマットに関する情報を含むメタ情報を生成する。かかるメタ情報の書式は、特に限定されるわけではないが、例えばXML(Extensible Markup Language)のような構造化された言語を用いることが好ましい。なお、メタ情報生成部305により生成されるメタ情報については、以下で改めて具体的に説明する。
メタ情報生成部305は、生成したメタ情報を、該当する顕微鏡画像データと関連付けて、記憶部317の所定の格納領域に格納する。
本実施形態に係る顕微鏡画像管理システム1では、かかるメタ情報を、顕微鏡画像の閲覧端末である画像表示装置40に提供することで、効率的な顕微鏡画像データの提供処理を実現することが可能となる。
画像提供処理部307は、例えば、CPU、ROM、RAM等により実現される。画像提供処理部307は、管理している顕微鏡画像データのリスト等を、画像表示装置40からの要求に応じて提供するとともに、画像表示装置40からの要求に応じて、管理している顕微鏡画像データそのものを提供する。
また、画像提供処理部307は、顕微鏡画像データの提供を行う際に、画像表示装置40から各種のヒント情報を取得することが可能である。かかるヒント情報として、例えば、画像表示装置40の表示画面に表示されているタイル画像に関する情報や、ユーザ操作の方向(すなわち、顕微鏡画像を閲覧している方向)を表す動きベクトル情報等を挙げることができる。
以下、画像提供処理部307の機能について、具体的に説明する。
画像提供処理部307は、画像表示装置40から送信されたヘッダ情報のリクエストを受信すると、該当する顕微鏡画像データに関する情報を、後述する提供画像取得部309に出力する。提供画像取得部309から、該当する顕微鏡画像データに関連付けられたメタ情報が出力されると、画像提供処理部307は、取得したメタ情報を、ヘッダ情報をリクエストしている画像表示装置40に提供する。
また、画像提供処理部307は、画像表示装置40から送信されたタイル画像の送信リクエストを受信すると、送信リクエストに記載されているタイル画像に関する情報(以下、リクエストタイル情報とも称する。)を、提供画像取得部309に出力する。また、画像提供処理部307は、リクエストタイル情報を、後述する提供画像予測部311に出力してもよい。提供画像取得部309から、該当するタイル画像が出力されると、画像提供処理部307は、取得したタイル画像を、タイル画像をリクエストしている画像表示装置40に提供する。
なお、送信を希望するタイル画像の特定方法は、特に限定されるわけではなく、任意の特定方法を用いることが可能である。例えば、送信を希望するタイル画像を、図3に示したようなタイル画像に固有のタイル番号のみで特定してもよい。また、タイル画像の位置を、平面内の座標(XY座標)や、平面内の座標(XY座標)及び焦点方向の座標(Z座標)で表す場合には、かかる座標情報及び倍率に関する情報を利用して、送信を希望するタイル画像を特定してもよい。
ここで、画像提供処理部307は、画像表示装置40に対して、一度に1つのタイル画像を送信することも可能であり、一度に複数のタイル画像をまとめて送信することも可能である。また、画像提供処理部307は、タイル画像を画像表示装置40に送信する場合、送信予定のタイル画像の集合に対して所定の基準に則して順序付けを行い、決定した順序に則してタイル画像を送信するようにしてもよい。
例えば、画像表示装置40から、一度に複数のタイル画像をまとめて送信するようリクエストがあった場合、画像提供処理部307は、リクエストのあった複数のタイル画像のうち後述するキャッシュ313に格納されているものを優先的に送信してもよい。また、画像表示装置40から、一度に複数のタイル画像をまとめて送信するようリクエストがあった場合、画像提供処理部307は、サンプル画像全体において平面内の位置が同一であって焦点方向の位置が異なる複数のタイル画像を、まとめて送信してもよい。
なお、画像提供処理部307は、画像表示装置40から、前述のようなヒント情報を受信した場合、受信したヒント情報を、後述する提供画像予測部311に出力する。また、提供画像予測部311から、ユーザが閲覧する可能性の高いタイル画像に関する予測情報が出力された場合、取得した予測情報を、提供画像取得部309に出力する。
また、画像提供処理部307は、提供画像取得部309から送信されたタイル画像の実体データを、後述するキャッシュ313に格納しておくことができる。特に、画像提供処理部307は、提供画像予測部311から出力された予測情報に基づいて取得したタイル画像データを、キャッシュ313にキャッシュしておくことが好ましい。
画像提供処理部307は、画像表示装置50からリクエストタイル情報を取得した際に、まず、キャッシュ313に、リクエストタイル情報に記載されているタイル画像の実体データが存在するか否かを判断する。リクエストされたタイル画像がキャッシュ313内に格納されている場合には、画像提供処理部307は、キャッシュ313内に存在するデータを画像表示装置50に直ちに提供することが可能となる。また、リクエストされたタイル画像がキャッシュ313内に存在しない場合には、画像提供処理部307は、提供画像取得部309にリクエストされているタイル画像の取得を要請する。
また、画像提供処理部307は、画像表示装置50が表示している表示領域に近い位置のタイル画像を優先的に提供するなど、提供するタイル画像の順序付けを行ったうえで、かかる順序に則してタイル画像の提供を行っても良い。
このようなキャッシュ処理を行うことで、画像提供処理部307は、リクエストタイル情報に応じて提供画像取得部309を介してタイル画像を取得する場合に比べ、より高速に画像表示装置40に対してタイル画像を提供することが可能となる。
提供画像取得部309は、例えば、CPU、ROM、RAM等により実現される。提供画像取得部309は、画像提供処理部307から出力されたリクエストタイル情報に基づいて、記憶部317の所定の格納領域に格納されている顕微鏡画像データの中から、画像表示装置40に送信予定の画像データを取得する。提供画像取得部309は、記憶部317から該当する画像データを取得すると、取得した画像データを画像提供処理部307に出力する。なお、提供画像取得部309は、取得した画像データを、直接後述するキャッシュ313に格納してもよい。
提供画像予測部311は、例えば、CPU、ROM、RAM等により実現される。提供画像予測部311は、画像提供処理部307から出力されたリクエストタイル情報に基づいて、次にリクエストされる可能性が高いタイル画像を予測する。より詳細には、提供画像予測部311は、リクエストタイル情報に記載されているタイル画像(リクエストタイル画像)の近傍に位置するタイル画像を、次にリクエストされる可能性が高いタイル画像として予測し、予測結果を画像提供処理部307に出力する。
ここで、リクエストタイル画像の近傍に位置するタイル画像は、リクエストされたタイル画像と同一平面内の周辺に位置するタイル画像のみならず、リクエストされたタイル画像の焦点方向の周辺に位置するタイル画像をも含む。
また、提供画像予測部311は、画像提供処理部307から、画像表示装置50より送信されたヒント情報が通知された場合には、このヒント情報に基づいて、次にリクエストされる可能性が高いタイル画像を予測する。
例えば、ヒント情報として、画像表示装置50が現在表示画面に表示している領域を示す情報(以下、表示領域情報とも称する。)が含まれていた場合を考える。かかる場合、提供画像予測部311は、表示領域情報が示すタイル画像の近傍に位置するタイル画像を、次にリクエストされる可能性が高いタイル画像として予測することができる。
また、ヒント情報として、画像表示装置50におけるユーザ操作の方向(すなわち、顕微鏡画像を閲覧している方向)を表す動きベクトル情報が含まれていた場合を考える。かかる動きベクトル情報は、表示画面に表示されているタイル画像と同一平面内でのユーザ操作の方向のみならず、ズームやパンといった焦点方向でのユーザ操作の方向をも含むものとする。かかる場合、提供画像予測部311は、動きベクトルの方向に沿ったタイル画像を、次にリクエストされる可能性が高いタイル画像として予測することができる。
キャッシュ313は、例えば、ROM、RAM、ストレージ装置等により実現される。キャッシュ313には、提供画像取得部309が所定の格納領域から取得したタイル画像の実体データが、画像表示装置50に提供されるまでの間格納される。
通信制御部315は、例えば、CPU、ROM、RAM、通信装置等により実現される。通信制御部315は、画像管理サーバ30と、画像管理サーバ30の外部に設けられた顕微鏡制御装置20及び画像表示装置40との間で、ネットワーク3を介して行われる通信の制御を行う。
記憶部317は、本実施形態に係る画像管理サーバ30が備えるストレージ装置の一例である。記憶部317には、顕微鏡画像データや、当該顕微鏡画像データに関連付けられているデータの解析結果やメタ情報等が格納されている。また、記憶部317には、顕微鏡画像データの格納履歴や顕微鏡画像データの提供履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部317には、本実施形態に係る画像管理サーバ30が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
以上、本実施形態に係る画像管理サーバ30の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る画像管理サーバ30の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<画像表示装置の構成について>
次に、図13を参照しながら、本実施形態に係る画像表示装置40の構成について、詳細に説明する。図13は、本実施形態に係る画像表示装置40の構成を示したブロック図である。
画像表示装置40は、図13に示したように、ユーザ操作情報取得部401、顕微鏡画像取得制御部403、表示制御部405、ヒント情報生成部407、ヒント情報送信部409、キャッシュ411、通信制御部413及び記憶部415を主に備える。
ユーザ操作情報取得部401は、例えば、CPU、ROM、RAM、入力装置等により実現される。ユーザ操作情報取得部401は、ユーザがキーボード、マウス、タッチパネル等といった入力装置から出力された、当該入力装置にユーザが行ったユーザ操作に対応する出力信号を取得して、ユーザが行った操作(ユーザ操作)を表すユーザ操作情報とを生成する。ユーザ操作情報取得部401は、生成したユーザ操作情報を、後述する顕微鏡画像取得制御部403、表示制御部405及びヒント情報生成部407に出力する。また、ユーザ操作情報取得部401は、生成したユーザ操作情報を、後述する記憶部415に格納して、履歴情報としてもよい。
ここで、キーボード、マウス、タッチパネル等の入力装置にユーザが行う操作の一例として、例えば、顕微鏡画像の選択処理や、ある顕微鏡画像についての表示領域の変更処理等を挙げることができる。また、ユーザが行うユーザ操作は、これらの例に限定されるわけではなく、ユーザが行ったユーザ操作は、適宜当該ユーザ操作を表すユーザ操作情報へと変換され、各処理部へと出力される。
顕微鏡画像取得制御部403は、例えば、CPU、ROM、RAM等により実現される。顕微鏡画像取得制御部403は、ユーザ操作情報取得部401から出力された、顕微鏡画像の一覧の取得開始を示すユーザ操作情報に応じて、画像管理サーバ30から、当該画像管理サーバ30が管理している顕微鏡画像の一覧(リスト)を取得する。また、顕微鏡画像取得制御部403は、ユーザ操作により、あるサンプルの顕微鏡画像が選択されると、選択された顕微鏡画像のメタ情報の送信リクエストを、画像管理サーバ30に送信する。
また、ユーザ操作によって、ユーザが閲覧を希望する顕微鏡画像のある領域がサムネイル像等を利用して選択されると、顕微鏡画像取得制御部403は、該当する領域を構成するタイル画像を、取得したメタ情報等に基づいて特定する。その後、顕微鏡画像取得制御部403は、特定したタイル画像に関する情報を、リクエストタイル情報として画像管理サーバ30に送信する。
ここで、顕微鏡画像取得制御部403が送信するリクエストタイル情報は、取得を希望するタイル画像を、タイル画像に固有の番号(タイル番号)で特定してもよく、タイル画像の位置を表す座標(例えば、XY座標やXYZ座標)と倍率とにより特定してもよい。
また、リクエストタイル情報には、取得を希望するタイル画像を特定する情報が、一つだけ記載されていてもよく、複数の情報がまとめて記載されていてもよい。リクエストタイル画像に記載されるリクエストタイル画像を特定する情報が1つのみである場合には、複数のタイル画像の取得を希望する際に、複数のリクエストタイル情報を画像管理サーバ30に出力することとなる。また、リクエストタイル情報中に、リクエストタイル画像を特定する情報をまとめて記載することで、複数のタイル画像をまとめて取得することが可能となる。
顕微鏡画像取得制御部403は、画像管理サーバ30から出力されたタイル画像のデータを取得すると、後述するキャッシュ411に格納する。また、顕微鏡画像取得制御部403は、取得したタイル画像のデータを、記憶部415に格納してもよい。
表示制御部405は、例えば、CPU、ROM、RAM等により実現される。表示制御部405は、本実施形態に係る画像表示装置40が備えるディスプレイ等の表示装置に表示される表示画面の制御を行う。また、表示制御部405は、ユーザ操作情報取得部401から出力されるユーザ操作情報に応じて、表示画面に表示されている内容を変更する。
表示制御部405は、顕微鏡画像取得制御部403から、顕微鏡画像の一覧に関する情報が出力されると、出力された情報に基づいて、ユーザが閲覧可能な顕微鏡画像のリストを、表示画面に表示する。また、表示制御部405は、ユーザ操作情報として、顕微鏡画像の表示を開始する情報が出力された場合に、後述するキャッシュ411等に格納されているタイル画像を利用して、サンプルの顕微鏡画像を表示画面に表示する。また、ユーザ操作情報として、表示画面に表示されている表示領域を変更する情報が出力された場合には、表示画面内でタイル画像を上下左右に(平面内で)動かしたり、ズーム・パンなど焦点方向に動かしたりする。
また、表示制御部405は、表示画面に表示されているタイル画像を特定し、この表示画面に表示されているタイル画像に関する情報を、顕微鏡画像取得制御部403及び後述するヒント情報生成部407に出力する。これにより、顕微鏡画像取得制御部403及びヒント情報生成部407は、画像表示装置40内において表示画面に表示されているタイル画像がどれかを特定することができる。
なお、表示制御部405は、画像表示装置40の表示画面に表示される内容として、キャッシュ411や記憶部415等に格納されている各種の情報を選択することが可能である。
ヒント情報生成部407は、例えば、CPU、ROM、RAM等により実現される。ヒント情報生成部407は、ユーザ操作情報取得部401から出力されたユーザ操作情報及び表示制御部405から取得した表示画面の表示内容に関する情報の少なくとも何れか一方に基づき、画像表示装置40で実施されている顕微鏡画像の表示処理の内容を示したヒント情報を生成する。このヒント情報は、画像管理サーバ30において、次にリクエストされる可能性が高いタイル画像を予測するために利用される。
例えば、ヒント情報生成部407は、表示画面の表示内容に関する情報を利用して、表示画面に表示されているタイル画像を特定し、表示画面に表示されているタイル画像に関する情報を、ヒント情報とすることができる。
また、ヒント情報生成部407は、ユーザ操作情報取得部401から出力されたユーザ操作情報に基づいて、ユーザ操作の方向(すなわち、顕微鏡画像を閲覧している方向)を表す動きベクトルを特定する。その後、ヒント情報生成部407は、特定した動きベクトルを表す情報を、ヒント情報とすることができる。この動きベクトルは、表示画面に表示されているタイル画像と同一平面内でのユーザ操作の方向のみならず、ズームやパンといった焦点方向でのユーザ操作の方向をも含むものとする。
ヒント情報生成部407は、このようにして生成したヒント情報を、後述するヒント情報送信部409に出力する。また、ヒント情報生成部407は、生成したヒント情報そのものや、生成したヒント情報に関する履歴情報を、後述する記憶部415に格納してもよい。
ヒント情報送信部409は、例えば、CPU、ROM、RAM等により実現される。ヒント情報送信部409は、ヒント情報生成部407により生成されたヒント情報を、後述する通信制御部413を介して、画像管理サーバ30に送信する。
ヒント情報送信部409は、顕微鏡画像取得制御部403と互いに連携しながら、上述のようなヒント情報を、リクエストタイル情報の送信とあわせて画像管理サーバ30に送信してもよい。
また、ヒント情報送信部409は、顕微鏡画像取得制御部403が各種の情報を画像管理サーバ30に送信していない場合であっても、ヒント情報を別パケットとして単独で画像管理サーバ30に送信することが可能である。これにより、画像表示装置40は、頻繁にヒント情報を画像管理サーバ30に送信することが可能となる。その結果、画像管理サーバ30では、送信されたヒント情報に基づいて、より正確な提供画像の予測処理を行うことが可能となり、画像表示装置40のユーザに対して快適な操作環境を提供することが可能となる。
ここで、ヒント情報送信部409がヒント情報を送信するタイミングについて、例を挙げながら説明する。
ヒント情報送信部409は、以下に示した条件のいずれか、又は、以下に示した条件を組み合わせて用いることで、ヒント情報を通知するパケットを画像管理サーバ30に送信する。
(条件a)時間による制御
(条件a−1)予め設定された時間(t1)以上、画像表示装置40が画像管理サーバ30にタイル取得パケット(すなわち、リクエストタイル情報)を送信しなかった場合に、ヒント情報を通知する。
(条件b)表示領域を表す座標の変化による制御
(条件b−1)画像表示装置40で表示画面に表示している表示領域の表示座標が変更になった場合、表示すべき画像が全て画像表示装置40内のキャッシュ411に存在する場合でも、ヒント情報のみ通知する
(条件b−2)上記(b−1)に示したタイミングについて、例えばn回(3回)に1回送るといった、間引きしたタイミングでヒント情報を通知する。
また、ヒント情報送信部409がヒント情報を送信するタイミングは、前述の例に限定されるわけではなく、任意のタイミングでヒント情報を画像管理サーバ30に送信することが可能である。
キャッシュ411は、例えば、ROM、RAM、ストレージ装置等により実現される。キャッシュ411は、顕微鏡画像取得制御部403が画像管理サーバ30から取得したタイル画像の実体データが格納されている。キャッシュ411に格納されているタイル画像の実体データは、表示制御部405がタイル画像をディスプレイ等の表示画面に表示する際に適宜利用される。
通信制御部413は、例えば、CPU、ROM、RAM、通信装置等により実現される。通信制御部413は、画像表示装置40と、画像表示装置40の外部に設けられた画像管理サーバ30との間で、ネットワーク3を介して行われる通信の制御を行う。
記憶部415は、本実施形態に係る画像表示装置40が備えるストレージ装置の一例である。記憶部415には、画像管理サーバ30から取得した顕微鏡画像データや、当該顕微鏡画像データに関連付けられているデータの解析結果やメタ情報等が格納される。また、記憶部415には、顕微鏡画像データの取得履歴など、各種の履歴情報が記録されていてもよい。さらに、記憶部415には、本実施形態に係る画像表示装置40が、何らかの処理を行う際に保存する必要が生じた様々なパラメータや処理の途中経過等、または、各種のデータベースやプログラム等が、適宜記録される。
以上、本実施形態に係る画像表示装置40の機能の一例を示した。上記の各構成要素は、汎用的な部材や回路を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。また、各構成要素の機能を、CPU等が全て行ってもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用する構成を変更することが可能である。
なお、上述のような本実施形態に係る画像表示装置40の各機能を実現するためのコンピュータプログラムを作製し、パーソナルコンピュータ等に実装することが可能である。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体も提供することができる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリなどである。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信してもよい。
<メタ情報の一例について>
次に、図14〜図15Iを参照しながら、本実施形態に係る画像管理サーバ30及び画像表示装置40で利用されるメタ情報について、具体的に説明する。図14〜図15Iは、顕微鏡画像データのヘッダ情報であるメタ情報について説明するための説明図である。
図14は、本実施形態に係る画像管理サーバ30で生成されるXMLを用いたメタ情報の一例である。本実施形態に係る画像管理サーバ30は、顕微鏡制御装置20からアップロードされた顕微鏡画像データを解析することで、図14に示したような、顕微鏡画像に関する各種の情報が記載されたメタ情報を生成することができる。
画像管理サーバ30によって生成されるメタ情報には、図14に示したように、撮像倍率、照明条件、圧縮品質といった様々な情報が記載されている。画像表示装置40は、画像管理サーバ30から提供されたこのようなメタ情報を参照することで、顕微鏡画像データの特徴を容易に把握することが可能となる。
図15A〜図15Iでは、図14に示したメタ情報に記載されている各エレメントについて、その内容を詳細に説明している。ここで、図15A及び図15Bから明らかなように、gimageエレメントには、顕微鏡画像の撮像倍率、照明条件、圧縮品質といった顕微鏡画像を特徴づける各種の情報が多く含まれる。そのため、図14に示したようなメタ情報において、gimageエレメントは必須の項目として記載されることが好ましい。また、図15A〜図15Iに示したエレメント以外にも、例えば、顕微鏡画像についての説明を記述する「description」エレメントなど、任意のエレメントを定義してメタ情報として記載することが可能である。
なお、図15A〜図15Iに示した表において、「必須」と記載されている項目は、メタ情報やメタ情報に含まれるエレメントとして、必須とすることが好ましい内容を表したものである。また、図15A〜図15Iに示した表において、「省略可」と記載されている項目は、メタ情報やメタ情報に含まれるエレメントとして、省略することが可能な内容を表したものである。なお、「必須」や「省略可」といった記載は、あくまでも一例であって、図15A〜図15Iに記載されている内容に限定されるわけではない点に注意されたい。
このようなメタ情報は、画像管理サーバ30が顕微鏡画像データを解析することで生成されるため、本実施形態に係る顕微鏡10及び顕微鏡制御装置20を含む顕微鏡システム以外で撮像された顕微鏡画像であっても、生成されることが可能である。従って、本実施形態に係る画像管理サーバ30は、本実施形態に係る顕微鏡システム以外で撮像されたサンプルの顕微鏡画像についても、管理を行うことが可能である。
また、画像管理サーバ30が顕微鏡画像データのデータフォーマットを解析して、メタ情報を生成するため、ファイルフォーマットの変更や更新を容易に行うことが可能となる。
<画像表示装置と画像管理サーバとの間で送受信される各種情報の一例>
次に、画像表示装置40と画像管理サーバ30との間で送受信される各種情報について、具体例を挙げながら簡単に説明する。
[リクエスト情報及びレスポンス情報について]
前述のように、画像表示装置40において、画像表示のために利用されるタイル画像ファイルは、例えば、タイル画像に固有のタイル番号で管理されており、各タイルは、例えばJPEG画像で構成されている。
ここで、画像表示装置40から画像管理サーバ30へと送信されるリクエストタイル情報のプロトコルは、例えば以下のように、タイル番号(タイルID)、画像表示装置40での表示座標(X,Y,Zoom)、表示中の移動ベクトルの3つの情報で構成される。ここで、画像表示装置40での表示座標と移動ベクトルとはオプションであり、省略可能であるものとする。
Request(リクエストタイル情報):画像表示装置40→画像管理サーバ30
tileid=0,1,2&view=0,0,0&vect=1,1,0
このようなリクエスト情報に応じて画像管理サーバ30が応答するレスポンス情報は、例えば、以下のようなプロトコルで記述される。
Response:画像管理サーバ30→画像表示装置40
tileid=0,offset=100,size=100
tileid=1,offset=200,size=100
tileid=2,offset=300,size=100
<tileid 0 data>
<tileid 1 data>
<tileid 2 data>
また、以下で説明する、タイル画像提供の際の優先順位を考慮することで、画像管理サーバ30は、提供するタイル画像の順序を入れ替えて、レスポンス情報を、例えば以下のようなプロトコルで記述することも可能である。
Response:画像管理サーバ30→画像表示装置40
tileid=1,offset=100,size=100
tileid=2,offset=200,size=100
tileid=0,offset=300,size=100
<tileid 1 data>
<tileid 2 data>
<tileid 0 data>
[ヒント情報について]
また、画像表示装置40から画像管理サーバ30に送信されるヒント情報を、例えば以下のようなプロトコルで記述することが可能である。以下に示した例では、ヒント情報として、画像表示装置40が現在表示している内容を表す座標値(view)と、動きベクトル(vect)とが記載されている。
Hint:画像表示装置40→画像管理サーバ30
view=0,0,0&vect=1,1,0
なお、前述のような画像表示装置40と画像管理サーバ30との間で送受信される各種情報の内容はあくまでも一例であって、画像管理サーバ30と画像表示装置40との間で送信される各種情報のプロトコルが、前述の例に限定されるわけではない。
<タイル画像のキャッシュ方法について>
続いて、図16〜図19を参照しながら、画像管理サーバ30にて行われるタイル画像の提供方法について具体的に説明する。図16〜図19は、本実施形態に係るタイル画像のキャッシュ方法を説明するための説明図である。
前述のように、画像管理サーバ30では、提供画像予測部311による予測結果を利用して、画像表示装置40からのリクエストに先立ち、次にリクエストされる可能性が高いタイル画像を取得して、キャッシュ313に格納する処理が実行される。
ここで、画像表示装置40から、画像表示装置40が現在表示を行っている領域を表すヒント情報が送信された場合を考える。画像表示装置40は、図16に示した表示領域を表示画面に表示しているため、画像表示装置40のキャッシュ411には、図16に示したような表示領域を含むタイル画像のデータがキャッシュされている。また、画像管理サーバ30は、画像表示装置40から、現在表示を行っている領域を表すヒント情報が送信されるため、図16に示したように、画像表示装置40が現在表示している領域の近傍のタイル画像を、次にリクエストされる可能性が高いタイル画像として、予めキャッシュ313にキャッシュしておくことが可能となる。
また、画像表示装置40から、動きベクトルに関するヒント情報が送信された場合を考える。画像表示装置40は、図16に示した表示領域を表示画面に表示しているため、画像表示装置40のキャッシュ411には、図17及び図18に示したような表示領域を含むタイル画像のデータがキャッシュされている。
ここで、画像管理サーバ30は、画像表示装置40から送信された動きベクトルに関するヒント情報に基づいて、画像表示装置40の表示画面の変化を予測することが可能となる。その結果、画像管理サーバ30は、動きベクトルの進行方向に位置するタイル画像が、次にリクエストされる可能性の高いタイル画像であると判断することが可能となる。これにより、画像管理サーバ30は、動きベクトルの進行方向に位置する複数のタイル画像を、次にリクエストされる可能性が高いタイル画像として、予めキャッシュ313にキャッシュしておくことが可能となる。
すなわち、図17に示した例では、画像管理サーバ30は、動きベクトルの方向に基づいて、表示領域の右側に位置するタイル画像が、次にリクエストされる可能性が高いタイル画像であると判断することができる。そのため、画像管理サーバ30は、表示領域の右側に位置するタイル画像を、予め多めにキャッシュしておく。同様に、図18に示した例では、画像管理サーバ30は、動きベクトルの方向に基づいて、表示領域の下側に位置するタイル画像が、次にリクエストされる可能性が高いタイル画像であると判断することができる。そのため、画像管理サーバ30は、表示領域の下側に位置するタイル画像を、予め多めにキャッシュしておく。
また、動きベクトルは、平面内の移動方向に限られるわけではなく、焦点方向の移動を考慮したものであってもよい。例えば図19に示したようなタイル画像が表示範囲となっており、動きベクトルが図19のZ方向に沿ったものである場合、図19に示したようなXY座標が同一でZ座標が異なるタイル画像が、次にリクエストされる可能性が高いタイル画像であると判断できる。そのため、画像管理サーバ30は、動きベクトルの進行方向に位置する複数のタイル画像を、次にリクエストされる可能性が高いタイル画像として、予めキャッシュ313にキャッシュしておくことが可能となる。
また、異なる倍率の顕微鏡画像データが存在する場合には、画像管理サーバ30は、ズームイン方向に動いているのか、ズームアウト方向に動いているのかを判断して、次にリクエストされる可能性の高いタイル画像の予測を行うことが可能である。
○タイル画像提供の際の優先順位について
ここで、画像提供サーバ30の画像提供処理部307は、前述のように、画像表示装置40に提供するタイル画像について順位付けを行い、所定の条件を満たすタイル画像を優先的に提供することが可能である。
ここで、画像表示装置40へ提供するタイル画像の順番を判定するための情報として、以下に示すようなタイル画像に関する情報A,Bを用いる場合について着目する。
(A)画像管理サーバ30のキャッシュ313内に存在するタイル画像に関する情報(キャッシュ情報)
(B)画像表示装置40の現在の表示位置を表すヒント情報から特定した表示範囲内に存在するタイル画像に関する情報
画像提供サーバ30の画像提供処理部307は、これら2つの情報に基づいて、例えば以下のようにして、優先順位を決定することができる。
例1)キャッシュ情報とヒント情報とを共に使用する場合
(優先順位1)AかつBに該当するタイル画像
(優先順位2)Aかつ(not B)に該当するタイル画像
(優先順位3)(not A)かつBに該当するタイル画像
(優先順位4)(not A)かつ(not B)に該当するタイル画像
例2)キャッシュ情報のみを使用する場合
(優先順位1)Aに該当するタイル画像
(優先順位2)Aに該当しないタイル画像
画像管理サーバ30は、このようにして画像表示装置40に提供するタイル画像の中で順位付けを行うことにより、画像表示装置40がより必要としているであろうタイル画像や直ちに提供可能なタイル画像を、優先的に提供することが可能となる。
<画像閲覧方法の流れについて>
次に、図20〜図27を参照しながら、本実施形態に係る画像管理サーバ30−画像表示装置40間で実施される画像閲覧方法について、その流れを説明する。図20〜図27は、本実施形態に係る画像閲覧方法の流れを示した流れ図である。
[画像取得方法の流れ−1]
まず、図20を参照しながら、本実施形態に係る画像表示装置40で実施される画像取得方法について、その流れを説明する。
なお、以下の説明に先立ち、画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30から、当該サーバが管理している顕微鏡画像の一覧を取得しているものとする。
画像表示装置40の顕微鏡画像取得制御部403は、ユーザ操作情報取得部401から出力されたユーザ操作情報によって、ユーザが閲覧を希望するサンプルが指定されたことを検知する。その後、顕微鏡画像取得制御部403は、該当する顕微鏡画像データのメタ情報の取得要求を、画像管理サーバ30に送信する(ステップS101)。
その後、画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30から送信されたメタ情報(XML)を受信するとともに(ステップS103)、ユーザ入力を待ち受ける(ステップS105)。
その後、ユーザ操作によって、ユーザが閲覧を希望する顕微鏡画像の部分が指定されると、顕微鏡画像取得制御部403は、ユーザが閲覧を希望する部分に該当するタイル画像を特定する(ステップS107)。続いて、顕微鏡画像取得制御部403は、特定したタイル画像に関する情報に基づいて、全てのタイル画像の受信が終了したか否かを判断する(ステップS109)。
全てのタイル画像の受信が終了していない場合、顕微鏡画像取得制御部403は、受信が終了していないタイル画像のリクエストタイル情報を画像管理サーバに送信し(ステップS111)、画像管理サーバから送信されたタイル画像を受信する(ステップS113)。続いて、表示制御部405は、受信したタイル画像の表示処理を実施する(ステップS115)。その後、顕微鏡画像取得制御部403は、ステップS109に戻って、タイル画像の受信が終了したか否かを判断する。
他方、ステップS109において、全てのタイル画像の受信が終了した場合には、顕微鏡画像取得制御部403は、ステップS105に戻って、ユーザ入力を待ち受ける。
[画像提供方法の流れ−1]
次に、図21を参照しながら、本実施形態に係る画像管理サーバ30で実施される画像提供方法について、その流れを説明する。
画像管理サーバ30の画像提供処理部307は、画像表示装置40から送信されたリクエストを受信すると(ステップS121)、受信したリクエストの内容を判断する(ステップS123)。
画像表示装置40から送信されたリクエストが、タイル画像の要求を示すものでなかった場合、画像提供処理部307は、画像表示装置40がヘッダ情報を要求しているものと判断し、ヘッダを所定の格納領域から読み出す(ステップS125)。その後、画像管理サーバ30は、必要に応じて、ヘッダの解析やXMLの作成を実施し(ステップS127)、後述するステップS131を実施する。
他方、画像表示装置40から送信されたリクエストが、タイル画像の要求を示すものであった場合、画像提供処理部307は、該当するタイル画像を所定の格納領域から読み出す(ステップS129)。
その後、画像管理サーバ30の画像提供処理部307は、読み出したデータを、リクエストを送信した画像表示装置40に対して送信する(ステップS131)。
[画像閲覧方法の流れ−1]
このような流れのもと、図3に示したようなタイル番号が付与された顕微鏡画像について、図7に示したような表示領域がユーザ入力によって指定された場合について考える。かかる場合における画像管理サーバ30−画像表示装置40間での処理の流れを、図22に示す。
画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30に対して、メタ情報のリクエストを要求する(ステップS141)。画像管理サーバ30の画像提供処理部307は、該当するメタ情報(XML)を画像表示装置40に送信し(ステップS143)、画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30から送信されたメタ情報(XML)の解析を実施する(ステップS145)。これにより、画像表示装置40の顕微鏡画像取得制御部403は、該当する表示画面を表示するために、タイル番号1,2,3,6,7,8,11,12,13の計9枚のタイル画像が必要であることを特定する。
その後、顕微鏡画像取得制御部403は、必要なタイル画像を取得するために、タイル画像の送信要求と、該当するタイル画像の受信とを繰り返す(ステップS147〜ステップS153)。その後、画像表示装置40の表示制御部405は、取得したタイル画像を利用して、ユーザから指定された表示範囲を画面に表示し(ステップS155)、画像表示装置40のユーザ操作情報取得部401は、新たなユーザ入力を待ち受ける(ステップS157)。その後、新たなユーザ入力により、新たにタイル画像が必要となった場合には、顕微鏡画像取得制御部403は、新たなタイル画像の送信を画像管理サーバ30に要求する(ステップS159)。すると、画像管理サーバ30の画像提供処理部307は、要求のあったタイル画像を画像表示装置40に送信する(ステップS161)。
[画像取得方法の流れ−2]
次に、図23を参照しながら、複数のタイル画像を一度にリクエストする際の画像表示装置40の画像取得方法について、その流れを説明する。
画像表示装置40の顕微鏡画像取得制御部403は、ユーザ操作情報取得部401から出力されたユーザ操作情報によって、ユーザが閲覧を希望するサンプルが指定されたことを検知する。その後、顕微鏡画像取得制御部403は、該当する顕微鏡画像データのメタ情報の取得要求を、画像管理サーバ30に送信する(ステップS171)。
その後、画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30から送信されたメタ情報(XML)を受信するとともに(ステップS173)、ユーザ入力を待ち受ける(ステップS175)。
その後、ユーザ操作によって、ユーザが閲覧を希望する顕微鏡画像の部分が指定されると、顕微鏡画像取得制御部403は、ユーザが閲覧を希望する部分に該当するタイル画像を特定する(ステップS177)。続いて、顕微鏡画像取得制御部403は、特定したタイル画像に関する情報に基づいて、特定した全てのタイル画像のリクエストを行うリクエストタイル情報を、画像管理サーバ30に送信する(ステップS179)。
その後、顕微鏡画像取得制御部403は、画像管理サーバ30から送信された複数のタイル画像を受信する(ステップS181)。続いて、表示制御部405は、受信したタイル画像の表示処理を実施する(ステップS183)。その後、顕微鏡画像取得制御部403は、ステップS175に戻って、ユーザ入力を待ち受ける。
[画像提供方法の流れ−2]
次に、図24を参照しながら、一度に複数のタイル画像の送信を要求するリクエストが受信される場合における画像管理サーバ30の画像提供方法について、その流れを説明する。
画像管理サーバ30の画像提供処理部307は、画像表示装置40から送信されたリクエストを受信すると(ステップS191)、受信したリクエストの内容を判断する(ステップS193)。
画像表示装置40から送信されたリクエストが、タイル画像の要求を示すものでなかった場合、画像提供処理部307は、画像表示装置40がヘッダ情報を要求しているものと判断し、ヘッダを所定の格納領域から読み出す(ステップS195)。その後、画像管理サーバ30は、必要に応じて、ヘッダの解析やXMLの作成を実施し(ステップS197)、後述するステップS201を実施する。
他方、画像表示装置40から送信されたリクエストが、複数のタイル画像の要求を示すものであった場合、画像提供処理部307は、該当する全てのタイル画像を所定の格納領域から読み出す(ステップS199)。
その後、画像管理サーバ30の画像提供処理部307は、読み出したデータを、リクエストを送信した画像表示装置40に対して送信する(ステップS201)。
[画像閲覧方法の流れ−2]
このような流れのもと、図3に示したようなタイル番号が付与された顕微鏡画像について、図7に示したような表示領域がユーザ入力によって指定された場合について考える。かかる場合における画像管理サーバ30−画像表示装置40間での処理の流れを、図25に示す。
画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30に対して、メタ情報のリクエストを要求する(ステップS211)。画像管理サーバ30の画像提供処理部307は、該当するメタ情報(XML)を画像表示装置40に送信し(ステップS213)、画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30から送信されたメタ情報(XML)の解析を実施する(ステップS215)。これにより、画像表示装置40の顕微鏡画像取得制御部403は、該当する表示画面を表示するために、タイル番号1,2,3,6,7,8,11,12,13の計9枚のタイル画像が必要であることを特定する。
その後、顕微鏡画像取得制御部403は、必要なタイル画像を取得するために、9枚全てのタイル画像の送信要求を画像管理サーバ30に送信する(ステップS217)。画像管理サーバ30の画像提供処理部307は、複数のタイル画像の送信を要求するリクエストを受信すると、リクエストのあった全てのタイル画像を、画像表示装置40に提供する(ステップS219)。その後、画像表示装置40の表示制御部405は、取得したタイル画像を利用して、ユーザから指定された表示範囲を画面に表示し(ステップS221)、画像表示装置40のユーザ操作情報取得部401は、新たなユーザ入力を待ち受ける(ステップS223)。その後、新たなユーザ入力により、新たにタイル画像が必要となった場合には、顕微鏡画像取得制御部403は、新たなタイル画像の送信を画像管理サーバ30に要求する(ステップS225)。すると、画像管理サーバ30の画像提供処理部307は、要求のあったタイル画像を画像表示装置40に送信する(ステップS227)。
[画像取得方法の流れ−3]
次に、図26を参照しながら、タイル画像のリクエストとともに、ヒント情報を画像管理サーバ30に送信する場合における画像表示装置40の画像取得方法について、その流れを説明する。
画像表示装置40の顕微鏡画像取得制御部403は、ユーザ操作情報取得部401から出力されたユーザ操作情報によって、ユーザが閲覧を希望するサンプルが指定されたことを検知する。その後、顕微鏡画像取得制御部403は、該当する顕微鏡画像データのメタ情報の取得要求を、画像管理サーバ30に送信する(ステップS231)。
その後、画像表示装置40の顕微鏡画像取得制御部403は、画像管理サーバ30から送信されたメタ情報(XML)を受信するとともに(ステップS233)、ユーザ入力を待ち受ける(ステップS235)。
その後、ユーザ操作によって、ユーザが閲覧を希望する顕微鏡画像の部分が指定されると、顕微鏡画像取得制御部403は、ユーザが閲覧を希望する部分に該当するタイル画像を特定する(ステップS237)。また、画像表示装置40の表示画面に、既にサンプルの顕微鏡画像の一部が表示されている場合には、ヒント情報生成部407は、例えば、表示されている領域の中心座標の移動方向を計算して(ステップS239)、動きベクトルに関するヒント情報を生成する。
続いて、顕微鏡画像取得制御部403及びヒント情報送信部409は、互いに連携しながら、特定したタイル画像に関する情報に基づいて生成された全てのタイル画像のリクエストを行うリクエストタイル情報と、生成した動きベクトルに関するヒント情報とを、画像管理サーバ30に送信する(ステップS241)。
その後、顕微鏡画像取得制御部403は、画像管理サーバ30から送信された複数のタイル画像を受信する(ステップS243)。続いて、表示制御部405は、受信したタイル画像の表示処理を実施する(ステップS245)。その後、顕微鏡画像取得制御部403は、ステップS235に戻って、ユーザ入力を待ち受ける。
[画像提供方法の流れ−3]
次に、図27を参照しながら、リクエスト情報とともにヒント情報が送信される場合における画像管理サーバ30の画像提供方法について、その流れを説明する。
画像管理サーバ30の画像提供処理部307は、画像表示装置40から送信されたリクエストを受信すると(ステップS251)、受信したリクエストの内容を判断する(ステップS253)。
画像表示装置40から送信されたリクエストが、タイル画像の要求を示すものでなかった場合、画像提供処理部307は、画像表示装置40がヘッダ情報を要求しているものと判断し、ヘッダを所定の格納領域から読み出す(ステップS255)。その後、画像管理サーバ30は、必要に応じて、ヘッダの解析やXMLの作成を実施し(ステップS257)、後述するステップS267を実施する。
他方、画像表示装置40から送信されたリクエストが、複数のタイル画像の要求を示すものであった場合、画像提供処理部307は、該当する全てのタイル画像を所定の格納領域から読み出す(ステップS259)。次に、画像提供処理部307は、受信したリクエスト情報にヒント情報が付与されているか否かを判断する(ステップS261)。
ヒント情報が付与されていない場合、提供画像予測部311は、リクエストされたタイル画像の周辺に位置するタイル画像を、次にリクエストされる可能性が高いタイル画像であると判定する。その後、提供画像取得部309は、該当するタイル画像をキャッシュし(ステップS263)、後述するステップS267を実施する。
また、ヒント情報が付与されている場合、提供画像予測部311は、ヒント情報を元に、移動方向のタイル画像を、次にリクエストされる可能性が高いタイル画像であると判定する。その後、提供画像取得部309は、該当するタイル画像をキャッシュし(ステップS265)、後述するステップS267を実施する。
その後、画像管理サーバ30の画像提供処理部307は、読み出したデータを、リクエストを送信した画像表示装置40に対して送信するとともに(ステップS267)、送信したデータのキャッシュを行う(ステップSS269)。
以上説明したような流れで処理を行うことで、本実施形態に係る顕微鏡画像管理システムでは、ネットワーク応答遅延に起因する応答性能の低下を抑制し、ユーザの利便性を更に向上させることが可能となる。
(ハードウェア構成について)
次に、図28を参照しながら、本発明の実施形態に係る画像管理サーバ30のハードウェア構成について、詳細に説明する。図28は、本発明の実施形態に係る画像管理サーバ30のハードウェア構成を説明するためのブロック図である。
画像管理サーバ30は、主に、CPU901と、ROM903と、RAM905と、を備える。また、画像管理サーバ30は、更に、ホストバス907と、ブリッジ909と、外部バス911と、インターフェース913と、入力装置915と、出力装置917と、ストレージ装置919と、ドライブ921と、接続ポート923と、通信装置925とを備える。
CPU901は、演算処理装置および制御装置として機能し、ROM903、RAM905、ストレージ装置919、またはリムーバブル記録媒体927に記録された各種プログラムに従って、画像管理サーバ30内の動作全般またはその一部を制御する。ROM903は、CPU901が使用するプログラムや演算パラメータ等を記憶する。RAM905は、CPU901が使用するプログラムや、プログラムの実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバス等の内部バスにより構成されるホストバス907により相互に接続されている。
ホストバス907は、ブリッジ909を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス911に接続されている。
入力装置915は、例えば、マウス、キーボード、タッチパネル、ボタン、スイッチおよびレバーなどユーザが操作する操作手段である。また、入力装置915は、例えば、赤外線やその他の電波を利用したリモートコントロール手段(いわゆる、リモコン)であってもよいし、画像管理サーバ30の操作に対応した携帯電話やPDA等の外部接続機器929であってもよい。さらに、入力装置915は、例えば、上記の操作手段を用いてユーザにより入力された情報に基づいて入力信号を生成し、CPU901に出力する入力制御回路などから構成されている。画像管理サーバ30のユーザは、この入力装置915を操作することにより、画像管理サーバ30に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置917は、取得した情報をユーザに対して視覚的または聴覚的に通知することが可能な装置で構成される。このような装置として、CRTディスプレイ装置、液晶ディスプレイ装置、プラズマディスプレイ装置、ELディスプレイ装置およびランプなどの表示装置や、スピーカおよびヘッドホンなどの音声出力装置や、プリンタ装置、携帯電話、ファクシミリなどがある。出力装置917は、例えば、画像管理サーバ30が行った各種処理により得られた結果を出力する。具体的には、表示装置は、画像管理サーバ30が行った各種処理により得られた結果を、テキストまたはイメージで表示する。他方、音声出力装置は、再生された音声データや音響データ等からなるオーディオ信号をアナログ信号に変換して出力する。
ストレージ装置919は、画像管理サーバ30の記憶部の一例として構成されたデータ格納用の装置である。ストレージ装置919は、例えば、HDD(Hard Disk Drive)等の磁気記憶部デバイス、半導体記憶デバイス、光記憶デバイス、または光磁気記憶デバイス等により構成される。このストレージ装置919は、CPU901が実行するプログラムや各種データ、および外部から取得した各種のデータなどを格納する。
ドライブ921は、記録媒体用リーダライタであり、画像管理サーバ30に内蔵、あるいは外付けされる。ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体927に記録されている情報を読み出して、RAM905に出力する。また、ドライブ921は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記録媒体927に記録を書き込むことも可能である。リムーバブル記録媒体927は、例えば、DVDメディア、HD−DVDメディア、Blu−rayメディア等である。また、リムーバブル記録媒体927は、コンパクトフラッシュ(登録商標)(CompactFlash:CF)、フラッシュメモリ、または、SDメモリカード(Secure Digital memory card)等であってもよい。また、リムーバブル記録媒体927は、例えば、非接触型ICチップを搭載したICカード(Integrated Circuit card)または電子機器等であってもよい。
接続ポート923は、機器を画像管理サーバ30に直接接続するためのポートである。接続ポート923の一例として、USB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート等がある。接続ポート923の別の例として、RS−232Cポート、光オーディオ端子、HDMI(High−Definition Multimedia Interface)ポート等がある。この接続ポート923に外部接続機器929を接続することで、画像管理サーバ30は、外部接続機器929から直接各種のデータを取得したり、外部接続機器929に各種のデータを提供したりする。
通信装置925は、例えば、通信網931に接続するための通信デバイス等で構成された通信インターフェースである。通信装置925は、例えば、有線または無線LAN(Local Area Network)、Bluetooth(登録商標)、またはWUSB(Wireless USB)用の通信カード等である。また、通信装置925は、光通信用のルータ、ADSL(Asymmetric Digital Subscriber Line)用のルータ、または、各種通信用のモデム等であってもよい。この通信装置925は、例えば、インターネットや他の通信機器との間で、例えばTCP/IP等の所定のプロトコルに則して信号等を送受信することができる。また、通信装置925に接続される通信網931は、有線または無線によって接続されたネットワーク等により構成され、例えば、インターネット、家庭内LAN、赤外線通信、ラジオ波通信または衛星通信等であってもよい。
以上、本発明の実施形態に係る画像管理サーバ30の機能を実現可能なハードウェア構成の一例を示した。上記の各構成要素は、汎用的な部材を用いて構成されていてもよいし、各構成要素の機能に特化したハードウェアにより構成されていてもよい。従って、本実施形態を実施する時々の技術レベルに応じて、適宜、利用するハードウェア構成を変更することが可能である。
また、本発明の実施形態に係る顕微鏡制御装置20及び画像表示装置40のハードウェア構成は、本発明の実施形態に係る画像管理サーバ30のハードウェア構成と同様であるため、以下では詳細な説明は省略する。
(まとめ)
以上説明したように、本発明の実施形態では、画像管理サーバにおいて、画像表示装置から送信されたヒント情報に基づいて次にリクエストされる可能性の高い画像を予測し、予測した画像をキャッシュすることが可能となる。これにより、画像表示装置のキャッシュを大幅に減らすことが可能となり、メモリ容量やネットワーク帯域の両面で、これらリソースの削減を行うことが可能となる。
また、複数の画像を同時にやり取りするとともに、必要に応じて、提供する画像の送信順序を入れ替えることにより、データ返信の遅延時間を縮小することができ、応答遅延が大きな場合であっても画像表示の高速化を実現することが可能となる。更に、画像表示装置よりも相対的に容量の大きなメモリやストレージを有する画像管理サーバで予測キャッシュを行うことで、画像表示装置だけでキャッシュを行うよりも広い領域の先読みを行うことが可能となり、画像表示装置における表示の高速化を図ることができる。
また、画像管理サーバ30において、顕微鏡画像データの解析及びメタ情報の生成を行うため、本発明の実施形態に係る顕微鏡画像管理システムでは、本発明の実施形態に係る顕微鏡とは異なる顕微鏡システムで撮像されたデータをも管理することができる。また、データの解析及びメタ情報の生成が画像管理サーバ30で行われるため、ファイルのフォーマットの変更や更新を画像管理サーバ側で閉じて行うことが可能となる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
1 顕微鏡画像管理システム
10 顕微鏡
20 顕微鏡制御装置
30 画像管理サーバ
40 画像表示装置
301 顕微鏡画像取得部
303 データ解析部
305 メタ情報生成部
307 画像提供処理部
309 提供画像取得部
311 提供画像予測部
313,411 キャッシュ
315,413 通信制御部
317,415 記憶部
401 ユーザ操作情報取得部
403 顕微鏡画像取得制御部
405 表示制御部
407 ヒント情報生成部
409 ヒント情報送信部

Claims (18)

  1. 顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納する顕微鏡画像取得部と、
    前記顕微鏡画像取得部が取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するメタ情報生成部と、
    顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供する画像提供処理部と、
    前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測する提供画像予測部と、
    を備え
    前記画像提供処理部は、前記顕微鏡画像が平面方向の前記タイル画像及び焦点方向の前記タイル画像から構成されている場合、平面内のあるタイル画像がリクエストされると、リクエストされた前記タイル画像と平面内の位置は同一であり、かつ、焦点方向の位置が異なるタイル画像を、前記リクエストされたタイル画像とあわせて提供する、画像管理サーバ。
  2. 前記提供画像予測部は、前記ヒント情報として前記画像表示装置において表示画面に表示されている前記タイル画像に関する情報が含まれていた場合、当該表示画面に表示されているタイル画像の近傍に位置するタイル画像を、前記画像表示装置がリクエストする可能性の高いタイル画像として予測する、請求項1に記載の画像管理サーバ。
  3. 前記提供画像予測部は、前記ヒント情報として前記画像表示装置におけるユーザ操作の方向を表す動きベクトルに関する情報が含まれていた場合、当該動きベクトルの方向に位置するタイル画像を、前記画像表示装置がリクエストする可能性の高いタイル画像として予測する、請求項1または2に記載の画像管理サーバ。
  4. 前記提供画像予測部により予測された前記タイル画像、及び、前記画像表示装置に提供された前記タイル画像の少なくとも何れかが格納されるキャッシュを更に備える、請求項1に記載の画像管理サーバ。
  5. 前記画像提供処理部は、前記画像表示装置に提供する前記タイル画像が複数存在する場合、提供する複数の前記タイル画像間で順序付けを行い、優先順位の高いものから順に前記画像表示装置に提供する、請求項1に記載の画像管理サーバ。
  6. 前記画像提供処理部は、前記画像表示装置からリクエストされた前記タイル画像を、キャッシュに存在するタイル画像とキャッシュに存在しないタイル画像とに分類し、キャッシュに格納されているタイル画像から優先的に提供する、請求項5に記載の画像管理サーバ。
  7. 前記画像提供処理部は、前記画像表示装置から複数の前記タイル画像を1回のリクエストで要請された場合、該当する前記複数のタイル画像をまとめて前記画像表示装置に提供する、請求項1に記載の画像管理サーバ。
  8. 顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を管理する画像管理サーバから、当該顕微鏡画像を取得する制御を行う顕微鏡画像取得制御部と、
    前記顕微鏡画像取得制御部が取得した前記顕微鏡画像を表示画面に表示する際の制御を行う表示制御部と、
    前記表示制御部から出力された前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するヒント情報生成部と、
    前記ヒント情報生成部が生成した前記ヒント情報を前記画像管理サーバに送信するヒント情報送信部と、
    を備え
    前記ヒント情報送信部は、前記表示画面に表示すべき前記顕微鏡画像が変化し、かつ、当該表示すべき顕微鏡画像が既に取得されている場合、又は、前記ヒント情報が所定の時間以上前記画像管理サーバに送信されなかった場合には、前記ヒント情報を、前記タイル画像の提供を要請する情報とは独立に前記画像管理サーバに送信する、画像表示装置。
  9. 前記ヒント情報生成部は、前記ユーザ操作情報に基づいて、前記画像表示装置における、前記表示画面に表示されている前記顕微鏡画像と同一平面内及び焦点方向でのユーザ操作の方向を表す動きベクトルを特定し、当該動きベクトルに関する情報をヒント情報とする、請求項に記載の画像表示装置。
  10. 前記ヒント情報送信部は、前記表示画面に表示すべき前記顕微鏡画像が変化し、かつ、当該表示すべき顕微鏡画像が取得されていない場合には、前記ヒント情報を、前記タイル画像の提供を要請する情報とともに前記画像管理サーバに送信する、請求項又はに記載の画像表示装置。
  11. 前記顕微鏡画像取得制御部は、
    顕微鏡画像を特徴づけるメタ情報を前記画像管理サーバから取得し、
    取得した前記メタ情報に基づいて、取得を希望する前記タイル画像を特定する、請求項に記載の画像表示装置。
  12. 前記顕微鏡画像取得制御部は、取得を希望する前記タイル画像を、各タイル画像に付与された当該タイル画像に固有の識別番号、又は、前記顕微鏡画像内における当該タイル画像の座標及び当該顕微鏡画像の撮像倍率を利用して特定する、請求項に記載の画像表示装置。
  13. 前記顕微鏡画像取得制御部は、取得を希望する前記タイル画像を、1回のリクエストでまとめて要求する、請求項に記載の画像表示装置。
  14. 顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納するステップと、
    取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するステップと、
    顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供するステップと、
    前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測するステップと、
    を含み、
    前記メタ情報と前記顕微鏡画像とを提供するステップでは、前記顕微鏡画像が平面方向の前記タイル画像及び焦点方向の前記タイル画像から構成されている場合、平面内のあるタイル画像がリクエストされると、リクエストされた前記タイル画像と平面内の位置は同一であり、かつ、焦点方向の位置が異なるタイル画像を、前記リクエストされたタイル画像とあわせて提供する、画像提供方法。
  15. 顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を管理する画像管理サーバから、当該顕微鏡画像を取得するステップと、
    取得した前記顕微鏡画像を表示画面に表示するステップと、
    前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するステップと、
    生成された前記ヒント情報を前記画像管理サーバに送信するステップと、
    を含み、
    前記ヒント情報を送信するステップでは、前記表示画面に表示すべき前記顕微鏡画像が変化し、かつ、当該表示すべき顕微鏡画像が既に取得されている場合、又は、前記ヒント情報が所定の時間以上前記画像管理サーバに送信されなかった場合には、前記ヒント情報を、前記タイル画像の提供を要請する情報とは独立に前記画像管理サーバに送信する、画像取得方法。
  16. コンピュータに、
    顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納する顕微鏡画像取得機能と、
    前記顕微鏡画像取得機能が取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するメタ情報生成機能と、
    顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供する画像提供処理機能と、
    前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測する提供画像予測機能と、
    を実現させ
    前記画像提供処理機能は、前記顕微鏡画像が平面方向の前記タイル画像及び焦点方向の前記タイル画像から構成されている場合、平面内のあるタイル画像がリクエストされると、リクエストされた前記タイル画像と平面内の位置は同一であり、かつ、焦点方向の位置が異なるタイル画像を、前記リクエストされたタイル画像とあわせて提供する、プログラム。
  17. コンピュータに、
    顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を管理する画像管理サーバから、当該顕微鏡画像を取得する制御を行う顕微鏡画像取得制御機能と、
    前記顕微鏡画像取得制御機能により取得された前記顕微鏡画像を表示画面に表示する際の制御を行う表示制御機能と、
    前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するヒント情報生成機能と、
    前記ヒント情報生成機能により生成された前記ヒント情報を前記画像管理サーバに送信するヒント情報送信機能と、
    を実現させ
    前記ヒント情報送信機能は、前記表示画面に表示すべき前記顕微鏡画像が変化し、かつ、当該表示すべき顕微鏡画像が既に取得されている場合、又は、前記ヒント情報が所定の時間以上前記画像管理サーバに送信されなかった場合には、前記ヒント情報を、前記タイル画像の提供を要請する情報とは独立に前記画像管理サーバに送信する、プログラム。
  18. 顕微鏡により撮像された、複数のタイル画像からなるサンプルの顕微鏡画像を取得して、所定の格納領域に格納する顕微鏡画像取得部と、
    前記顕微鏡画像取得部が取得した前記顕微鏡画像のデータ解析結果に応じて、顕微鏡画像を特徴づけるメタ情報を生成するメタ情報生成部と、
    顕微鏡画像の閲覧が可能な画像表示装置からのリクエストに応じて、前記メタ情報と前記顕微鏡画像とを当該画像表示装置に提供する画像提供処理部と、
    前記画像表示装置から送信された、当該画像表示装置で実施されている顕微鏡画像の表示処理の内容を示したヒント情報に基づいて、前記画像表示装置がリクエストする可能性の高いタイル画像を予測する提供画像予測部と、
    を有し、前記画像提供処理部は、前記顕微鏡画像が平面方向の前記タイル画像及び焦点方向の前記タイル画像から構成されている場合、平面内のあるタイル画像がリクエストされると、リクエストされた前記タイル画像と平面内の位置は同一であり、かつ、焦点方向の位置が異なるタイル画像を、前記リクエストされたタイル画像とあわせて提供する画像管理サーバと、
    前記画像管理サーバから前記顕微鏡画像を取得する制御を行う顕微鏡画像取得制御部と、
    前記顕微鏡画像取得制御部が取得した前記顕微鏡画像を表示画面に表示する際の制御を行う表示制御部と、
    前記表示制御部から出力された前記表示画面に表示されている前記顕微鏡画像に関する情報、及び、ユーザが行った操作に関するユーザ操作情報の少なくとも何れか一方に基づいて、顕微鏡画像を表示画面に表示する表示処理の実施内容を示したヒント情報を生成するヒント情報生成部と、
    前記ヒント情報生成部が生成した前記ヒント情報を前記画像管理サーバに送信するヒント情報送信部と、
    を有し、前記ヒント情報送信部は、前記表示画面に表示すべき前記顕微鏡画像が変化し、かつ、当該表示すべき顕微鏡画像が既に取得されている場合、又は、前記ヒント情報が所定の時間以上前記画像管理サーバに送信されなかった場合には、前記ヒント情報を、前記タイル画像の提供を要請する情報とは独立に前記画像管理サーバに送信する画像表示装置と、
    を含む、画像管理システム。
JP2010147635A 2010-06-29 2010-06-29 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム Active JP5663979B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010147635A JP5663979B2 (ja) 2010-06-29 2010-06-29 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム
US13/164,415 US8682046B2 (en) 2010-06-29 2011-06-20 Image management server, image display apparatus, image provision method, image acquisition method, program, and image management system
CN2011101699753A CN102368110A (zh) 2010-06-29 2011-06-22 图像管理服务器、图像获取方法及图像管理系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010147635A JP5663979B2 (ja) 2010-06-29 2010-06-29 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム

Publications (2)

Publication Number Publication Date
JP2012014251A JP2012014251A (ja) 2012-01-19
JP5663979B2 true JP5663979B2 (ja) 2015-02-04

Family

ID=45352601

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010147635A Active JP5663979B2 (ja) 2010-06-29 2010-06-29 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム

Country Status (3)

Country Link
US (1) US8682046B2 (ja)
JP (1) JP5663979B2 (ja)
CN (1) CN102368110A (ja)

Families Citing this family (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013200640A (ja) * 2012-03-23 2013-10-03 Canon Inc 画像処理装置、画像処理システム、画像処理方法、およびプログラム
WO2013168348A1 (ja) * 2012-05-10 2013-11-14 ソニー株式会社 情報処理装置、情報処理方法、情報処理プログラム、画像取得装置、画像取得システム、および画像取得・閲覧システム
JP6106967B2 (ja) * 2012-06-04 2017-04-05 ソニー株式会社 情報処理装置、情報処理方法、プログラム及び画像表示装置
JP6222088B2 (ja) * 2012-06-11 2017-11-01 ソニー株式会社 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP6019798B2 (ja) * 2012-06-22 2016-11-02 ソニー株式会社 情報処理装置、情報処理システム及び情報処理方法
JP6455829B2 (ja) * 2013-04-01 2019-01-23 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
DE102013211112A1 (de) * 2013-06-14 2014-12-18 Siemens Aktiengesellschaft Steuerung eines Objekttisches eines Tischmikroskops
JP7011391B2 (ja) 2013-10-25 2022-01-26 レスメド・インコーポレイテッド 睡眠関連データの電子管理
JP6178705B2 (ja) * 2013-11-15 2017-08-09 日本電信電話株式会社 映像配信システム、映像配信装置及び映像配信プログラム
US20150379957A1 (en) * 2014-06-30 2015-12-31 Ulrich Roegelein Mobile tile renderer for vector data
US10244241B2 (en) * 2015-03-22 2019-03-26 Innova Plex, Inc. Pyramidal file structure and method of use thereof
JP2017072785A (ja) * 2015-10-09 2017-04-13 オリンパス株式会社 顕微鏡
US10347017B2 (en) * 2016-02-12 2019-07-09 Microsoft Technology Licensing, Llc Interactive controls that are collapsible and expandable and sequences for chart visualization optimizations
US10748312B2 (en) 2016-02-12 2020-08-18 Microsoft Technology Licensing, Llc Tagging utilizations for selectively preserving chart elements during visualization optimizations
WO2018078447A1 (en) * 2016-10-27 2018-05-03 Scopio Labs Ltd. Digital microscope which operates as a server
KR102646906B1 (ko) * 2016-11-17 2024-03-12 삼성전자주식회사 타일 기반 렌더링 방법 및 장치
US12027251B2 (en) 2017-02-17 2024-07-02 Agfa Healthcare Nv Systems and methods for managing large medical image data
US10559378B2 (en) 2017-02-17 2020-02-11 Agfa Healthcare Nv Systems and methods for processing large medical image data
US10671659B2 (en) * 2017-02-17 2020-06-02 Agfa Healthcare Nv Systems and methods for collecting large medical image data
EP3739372A1 (en) 2019-05-15 2020-11-18 Leica Microsystems CMS GmbH Controller and method for providing an operational setting of an imaging device
CN111694476B (zh) * 2020-05-15 2022-07-08 平安科技(深圳)有限公司 平移浏览方法、装置、计算机系统及可读存储介质
CN113884515A (zh) * 2021-09-18 2022-01-04 上海航天精密机械研究所 数字射线检测集成控制系统

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6404906B2 (en) 1997-03-03 2002-06-11 Bacus Research Laboratories,Inc. Method and apparatus for acquiring and reconstructing magnified specimen images from a computer-controlled microscope
US6396941B1 (en) 1996-08-23 2002-05-28 Bacus Research Laboratories, Inc. Method and apparatus for internet, intranet, and local viewing of virtual microscope slides
US6031930A (en) 1996-08-23 2000-02-29 Bacus Research Laboratories, Inc. Method and apparatus for testing a progression of neoplasia including cancer chemoprevention testing
US6272235B1 (en) 1997-03-03 2001-08-07 Bacus Research Laboratories, Inc. Method and apparatus for creating a virtual microscope slide
US6606413B1 (en) * 1998-06-01 2003-08-12 Trestle Acquisition Corp. Compression packaged image transmission for telemicroscopy
US6711283B1 (en) * 2000-05-03 2004-03-23 Aperio Technologies, Inc. Fully automatic rapid microscope slide scanner
US7738688B2 (en) 2000-05-03 2010-06-15 Aperio Technologies, Inc. System and method for viewing virtual slides
US7546210B2 (en) * 2000-06-08 2009-06-09 The Regents Of The University Of California Visual-servoing optical microscopy

Also Published As

Publication number Publication date
US8682046B2 (en) 2014-03-25
US20110317891A1 (en) 2011-12-29
JP2012014251A (ja) 2012-01-19
CN102368110A (zh) 2012-03-07

Similar Documents

Publication Publication Date Title
JP5663979B2 (ja) 画像管理サーバ、画像表示装置、画像提供方法、画像取得方法、プログラム及び画像管理システム
JP5655557B2 (ja) 顕微鏡制御装置、画像表示装置、画像管理サーバ、合焦位置情報生成方法、画像表示方法、画像管理方法及び顕微鏡画像管理システム
JP5560966B2 (ja) 顕微鏡制御装置、画像管理サーバ、画像処理方法、プログラム及び画像管理システム
US9891804B2 (en) Selection and display of biomarker expressions
EP2929420B1 (en) Systems and methods for split screen display of a biological specimen and for capturing records thereof
JP4542386B2 (ja) 画像表示システム、画像提供装置、画像表示装置、およびコンピュータプログラム
US20240290468A1 (en) Systems and methods for caching biological image data
EP2159726B1 (en) Client side multi-component image composition
JP5648366B2 (ja) 顕微鏡制御装置及び領域判定方法
JP2012038209A (ja) 画像表示装置、付加情報管理サーバ、画像表示システム、画像表示方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130530

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140326

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141124

R151 Written notification of patent or utility model registration

Ref document number: 5663979

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250