JP2018185695A - 情報処理装置、情報処理方法及びプログラム - Google Patents
情報処理装置、情報処理方法及びプログラム Download PDFInfo
- Publication number
- JP2018185695A JP2018185695A JP2017087707A JP2017087707A JP2018185695A JP 2018185695 A JP2018185695 A JP 2018185695A JP 2017087707 A JP2017087707 A JP 2017087707A JP 2017087707 A JP2017087707 A JP 2017087707A JP 2018185695 A JP2018185695 A JP 2018185695A
- Authority
- JP
- Japan
- Prior art keywords
- display
- saturation
- hue
- image
- cpu
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Color Image Communication Systems (AREA)
- Image Analysis (AREA)
Abstract
【課題】画像の解析を効果的に支援することを目的とする。【解決手段】処理対象の画像内の複数の点の色相、彩度及び輝度を、色相の軸、彩度の軸及び輝度の軸の3次元の座標系において示す分布図を表示手段に表示させる表示制御手段を有する。【選択図】図7
Description
本発明は、情報処理装置、情報処理方法及びプログラムに関する。
従来、カラー画像において色相、彩度、輝度の色情報を用いた画像処理が提案されている。特に色相及び彩度は、カラー画像を用いた色判別に用いられることが多い。また、医療現場においても、色相及び彩度を用いた画像処理を行うことで画像診断を支援する方法が提案されている。特許文献1には、病理組織標本画像(以下、病理画像という)において、観察対象である細胞種の色相の差を診断に用いる方法が開示されている。実画像では細胞腫毎の色相の差が極僅かであるため、特許文献1の技術においては、観察対象となる細胞と観察対象以外の細胞の色相の差が大きくなるように色相を変更することにより、細胞を区別し易くしている。また、実画像の色成分をベクトルスコープで表示させ、分布の状態をもとに観察対象細胞の指定を可能としている。
しかしながら、画像を解析する場合において、従来技術のように色相と彩度をベクトルスコープにおいて表示するだけでは不十分であるという問題があった。
本発明はこのような問題点に鑑みなされたもので、画像の解析を効果的に支援する技術を提供することを目的の1つとする。なお、前記目的に限らず、後述する発明を実施するための形態に示す各構成により導かれる作用効果であって、従来の技術によっては得られない作用効果を奏することも本件の他の目的の1つとして位置付けることができる。
そこで、本発明は、情報処理装置であって、処理対象の画像内の複数の点の色相、彩度及び輝度を、色相の軸、彩度の軸及び輝度の軸の3次元の座標系において示す分布図を表示手段に表示させる表示制御手段を有することを特徴とする。
本発明によれば、画像の解析を効果的に支援することができる。
以下、本発明の実施形態について図面に基づいて説明する。
(第1の実施形態)
図1は、病理診断システムの全体図である。病理診断システムは、情報処理装置100と、デジタルカメラ等の撮像装置120と、を有している。情報処理装置100は、撮像装置120により撮像された画像を取得し、病理医等のユーザによる病理診断において参照される画像を生成するための処理を行う。CPU101は、各種プログラムを実行し、情報処理装置100の各部を制御する。RAM102は、データやプログラムを一時記憶する。ROM103は、固定的なデータやプログラムを記憶する。HDD(ハードディスク)104は、データやプログラムの永続的な記憶装置である。情報処理装置100は、さらに、DVD、CD、FDなどの記憶媒体を用いる記憶装置を有してもよい。
図1は、病理診断システムの全体図である。病理診断システムは、情報処理装置100と、デジタルカメラ等の撮像装置120と、を有している。情報処理装置100は、撮像装置120により撮像された画像を取得し、病理医等のユーザによる病理診断において参照される画像を生成するための処理を行う。CPU101は、各種プログラムを実行し、情報処理装置100の各部を制御する。RAM102は、データやプログラムを一時記憶する。ROM103は、固定的なデータやプログラムを記憶する。HDD(ハードディスク)104は、データやプログラムの永続的な記憶装置である。情報処理装置100は、さらに、DVD、CD、FDなどの記憶媒体を用いる記憶装置を有してもよい。
KBD(キーボード)106は、文字を入力、機能を選択するためのキーを有している。PD(ポインティングデバイス)108は、画面上の位置を指示するためのマウスを有している。DSP(ディスプレイ)107は、表示処理を制御するGPU110により制御され、例えば病理画像や色相彩度分布を表示するユーザインターフェース(UI)を提供する。通信I/F105は、LANやインターネット130などを経由して外部装置と通信するためのインタフェースである。
後述する情報処理装置100の機能や処理は、CPU101がROM103又はHDD104に格納されているプログラムを読み出し、このプログラムを実行することにより実現されるものである。なお、情報処理装置100の処理のうち、DSP107への表示に係る処理については、CPU101とGPU110との協働により実現されるものとする。また、他の例としては、情報処理装置100の機能や処理の少なくとも一部は、例えば複数のCPU、RAM、ROM、及びストレージを協働させることにより実現してもよい。
撮像装置120で撮影されたカラー画像はUSB109を介して情報処理装置100に取り込まれ、画像データ(以下、画像データは画像と記す)として取り扱われる。また、プログラムを実行する為に必要なデータは、KBD106によるユーザ入力や、HDD104などの記憶装置から読み出されることにより、得ることができる。また、情報処理装置100は、画像を含む各種データやプログラムについては、通信I/F105を経由してインターネット130上にある外部コンピュータ資源であるクラウドシステム140に格納されているものを利用することもできる。
図2は、情報処理装置100による表示処理を示すフローチャートである。なお、処理の前提として、情報処理装置100は、撮像装置120により得られた病理画像を取得し、これをHDD104に記憶しているものとする。ここで、病理画像とは、針などで採取された細胞、メスなどで切除した組織片、手術で切除された臓器等の病理組織を撮影した画像である。それら病理組織をスライスしてスライドガラスに張り付けたものに染色を行った状態で撮影した画像を示す事が一般的である。例えば、HER2法においては、癌化の度合いに応じて細胞膜の陽性染色が変わることがわかっている。したがって、細胞膜の病理画像において陽性染色の分布状態を観察することで、癌化の程度を評価することができる。なお、本実施形態では病理画像を例として用いるが、本実施形態は病理画像以外の画像に対しても適用可能である。
S200において、CPU101は、ユーザ操作に応じて選択された病理画像をDSP107に表示するよう制御する。具体的には、CPU101は、例えば、HDD104に格納されている病理画像の選択画面(不図示)をDSP107に表示するよう制御する。そして、選択画面において、ユーザがマウス等を用いて所望の病理画像を選択すると、CPU101は、この選択を受け付け、選択された病理画像をHDD104からRAM102の例えばVRAM(Video RAM)などのワークエリアへ読み込む。例えば、CPU101はJPEG画像である病理画像をRGBデータに変換し、VRAMに読み込む。そして、CPU101は、選択された病理画像をDSP107に表示するよう制御する。図3は、病理画像300の表示例を示す図である。なお、CPU101はUSB109を介して撮像装置120が備えるメモリから病理画像を取得することとしてもよい。
次に、S201において、CPU101は、RGBデータを作成する。ここで、RGBデータとは、ユーザにより選択され、S200において表示された病理画像の各画素のR(赤)成分値、G(緑)成分値及びB(青)成分値を、画素のアドレスに対応付けたデータである。本実施形態においては、R、G、B成分値を例えば0〜255の整数の諧調で表わすものとするが、諧調の値は他の値であってもよい。また、本実施形態においては、CPU101は、病理画像の左上を原点とした画素の水平方向位置(x方向位置)と、垂直方向位置(y方向位置)を示す整数をアドレスとし、RGB成分値とアドレスの2次元データをRGBデータとして生成する。これにより、アドレスから対応する各画素のR、G、Bの各値にアクセスすることができる。
例えば、CPU101は、表示された画像の画素値を取得する関数を用いることでDSP107に表示された画像の各画素におけるRGB成分値を取得することが可能である。ここで、関数としては、マイクロソフト社が提供する、指定された座標の画素のRGB成分値を取得するGetPixel関数等が挙げられる。この場合、CPU101は、関数を用いて取得した各画素のRGB成分値を各画素のアドレスと対応づけてRAM102に記録する。すなわち、S201の処理により、RAM102には以下のように画像におけるアドレスx、yのRGB成分値が記録される。
R(x、y)=R成分値
G(x、y)=G成分値
B(x、y)=B成分値
S201の処理は画像全範囲対して適用してもよいし、ユーザにより選択された画像全体の一部に対してのみ適用することとしてもよい。
R(x、y)=R成分値
G(x、y)=G成分値
B(x、y)=B成分値
S201の処理は画像全範囲対して適用してもよいし、ユーザにより選択された画像全体の一部に対してのみ適用することとしてもよい。
上記のように画像のアドレスとRGB成分値とが対応づけられているため、CPU101は、画像におけるアドレスがユーザにより指定されると対応するRGB成分値を特定することが可能となる。なお、CPU101は、ユーザによるアドレスの指定を以下のように判別することができる。例えば、ユーザが、DSP107に表示された病理画像300上において、マウスボタンを押下(クリック)したとする。この場合、CPU101は、マウスのカーソルの、病理画像300上の画像の左上を原点とした、x方向位置とy方向位置を取得して、この位置を示す整数をカーソルの位置の画素のアドレスとして特定することができる。以下、マウスボタンを押下(クリック)し、カーソルの病理画像300上の位置(x方向位置とy方向位置)を指定することをマウスポイントと称することとする。また、マウスポイントにより指定された位置をマウスポイントの位置と称することとする。
図3の例では、病理画像300は、x方向画素数が450、y方向画素数が333とする。この場合、病理画像300の左上頂点の画素のR、G、B成分値はアドレス(0、0)に対応付けて記憶されている。なお、原点の位置は図3の例に限定されるものではなく任意の位置に設けられればよい。また、病理画像300の右下頂点の画素のR、G、B成分値はアドレス(449、332)に対応付けて記憶されている。例えば、病理画像300中の点Pのx方向位置が410、y方向位置が111である場合、点PのR、G、B成分値データは以下のように示される。
R(410、111)=213
G(410、111)=217
B(410、111)=218
R(410、111)=213
G(410、111)=217
B(410、111)=218
図2に戻り、S201の処理の後、CPU101は、処理をS202へ進める。S202において、CPU101は、各画素のR、G、B成分値から各画素の輝度Y及び色差(R−Y)、色差(B−Y)の値を求め、RAM102に記録する。具体的には、CPU101はまず、(式1)〜(式3)により、R、G、B成分値から輝度Y及び色差(R−Y)、色差(B−Y)を計算する。なお、R、G、B成分値から輝度Y及び色差(R−Y)、色差(B−Y)を求める処理は実施形態に限定されるものではなく、他の既知の処理を用いることとしてもよい。
Y(x、y)=0.216R(x、y)+0.715G(x、y)+0.07B(x、y) …(式1)
(R−Y)(x、y)=0.216R(x、y)−0.715G(x、y)−0.927B(x、y) …(式2)
(B−Y(x、y))=−0.787R(x、y)−0.715G(x、y)−0.007B(x、y) …(式3)
Y(x、y)=0.216R(x、y)+0.715G(x、y)+0.07B(x、y) …(式1)
(R−Y)(x、y)=0.216R(x、y)−0.715G(x、y)−0.927B(x、y) …(式2)
(B−Y(x、y))=−0.787R(x、y)−0.715G(x、y)−0.007B(x、y) …(式3)
各画素の輝度Y、色差(R−Y)、色差(B−Y)はR、G、B成分値と同様のアドレスに対応付けられ、2次元データとして記憶される。すなわち、S202の処理により、RAM102に、以下のように画像におけるアドレスx、yの輝度Y、色差(R−Y)、色差(B−Y)の値が記憶される。
Y(x、y)=輝度Yの値
(R−Y)(x、y)=色差(R−Y)の値
(B−Y)(x、y)=色差(B−Y)の値
例えば、図3の点P(410、111)の輝度Y、色差(R−Y)、色差(B−Y)の値は以下のように示される。
Y(410、111)=222.458
(R−Y)(410、111)=−2.918
(B−Y)(410、111)=2.082
なお、色差(R−Y)、色差(B−Y)を、それぞれ2次元直交座標系「横軸(x軸)・縦軸(y軸)」に配置して表示すると、色差(R−Y)、色差(B−Y)の値の分布を表す、一般にベクトルスコープ表示と呼ばれるものになる。
Y(x、y)=輝度Yの値
(R−Y)(x、y)=色差(R−Y)の値
(B−Y)(x、y)=色差(B−Y)の値
例えば、図3の点P(410、111)の輝度Y、色差(R−Y)、色差(B−Y)の値は以下のように示される。
Y(410、111)=222.458
(R−Y)(410、111)=−2.918
(B−Y)(410、111)=2.082
なお、色差(R−Y)、色差(B−Y)を、それぞれ2次元直交座標系「横軸(x軸)・縦軸(y軸)」に配置して表示すると、色差(R−Y)、色差(B−Y)の値の分布を表す、一般にベクトルスコープ表示と呼ばれるものになる。
次に、S203において、CPU101は、色差(R−Y)、色差(B−Y)から色相H及び彩度Sの値を求め、RAM102に記憶する。具体的には、CPU101は、まず、処理対象の病理画像に含まれる各画素の色差(R−Y)及び色差(B−Y)の座標変換により色相H及び彩度Sを求める。CPU101は、画像の各画素における色差に基づいて、例えば、以下の式を用いて各画素における色相H及び彩度Sを求める。なお、本実施形態において色相H及び彩度Sを極座標系で表示することを前提としているため、CPU101は、色相H及び彩度Sを以下のように算出することとしているが、他の方法で色相H及び彩度Sを求めることとしてもよい。例えば、CPU101は、(式4)、(式5)に示すように、極座標系で表示することを考慮せずに色相H及び彩度Sを求め、求めた色相H及び彩度Sを極座標系に変換することとしてもよい。
S203の処理により、RAM102に、画像におけるアドレスx、yの色相H及び彩度Sの値が記憶される。すなわち、画像におけるアドレスと色相H及び彩度Sとが対応づけられてRAM102に保存される。別の観点からみれば、画像におけるアドレス(x、y)のRGB成分値と色相H及び彩度Sとが対応付けられてRAM102に保存されることとなる。
なお、本実施形態においては、CPU101は、彩度Sについては、R、G、Bの諧調と合わせる為にその範囲が0〜255になるようにノーマライズする。また、CPU101は、色相Hについてはその範囲が0〜369度になるようにノーマライズする。各画素の色相H、彩度Sは、R、G、B成分値と同様のアドレスに対応付けられ、2次元データとしてRAM102に記録する。例えば、図3の点P(410、111)の色相H及び彩度Sの値は以下のように示される。
H(410、111)=305.506
S(410、111)=3.585
H(410、111)=305.506
S(410、111)=3.585
S203の処理の後、CPU101は、処理をS204へ進める。S204において、CPU101は、処理対象の画像に含まれる各画素の色相H及び彩度Sの分布図をDSP107に表示するよう制御する。本実施形態においては、CPU101は、分布図として、色相H及び彩度Sをそれぞれ角度方向と動径方向の2軸とする2次元極座標系を用いるものとする。色相H及び彩度Sの分布図の一例は図4−6等を用いて後述する。CPU101は、処理対象の病理画像から1つの画素を処理対象として選択する。病理画像のアドレスに対して上述したように色相H及び彩度Sが対応づけられているため、CPU101は病理画像の処理対象の画素における色相H及び彩度Sを取得することが可能である。そして、CPU101は、2次元極座標系において、処理対象の画素の色相H及び彩度Sにより定まる位置に、処理対象の画素の色で示す点を配置(プロット)する。CPU101は、この処理を処理対象の病理画像内のすべての画素について行う。以下、この2次元極座標系のグラフ(分布図)をベクトルスコープと称することとする。ユーザは、このベクトルスコープにより、色差ではなく、色相及び彩度そのものを確認することができる。なお、上記の例では、CPU101が2次元極座標系に配置する点に対して処理対象の画素の色を付することとしたが、当該点に対して色を付さずに2次元極座標系に配置することとしてもよい。
ベクトルスコープの表示においては、CPU101は以下の2つの処理を実行する。
(1)色相及び彩度を配置するベクトルスコープ表示の表示軸の表示
(2)各画素の色相、彩度分布の表示
以下、各処理について、図4を参照しつつ説明する。図4は、ベクトルスコープの一例を示す図である。
(1)色相及び彩度を配置するベクトルスコープ表示の表示軸の表示
(2)各画素の色相、彩度分布の表示
以下、各処理について、図4を参照しつつ説明する。図4は、ベクトルスコープの一例を示す図である。
(1)色相及び彩度を配置するベクトルスコープ表示の表示軸の表示
CPU101は、極座標系「角度方向・動径方向」の動径範囲が0〜255になることを表せるように、半径が255、204、153、102、51とみなす円(401〜405)をDSP107に表示する。5つの円は同原点とする。さらに、CPU101は、円周401の外側に、R、G、B、Y(黄色)、C(シアン)、M(マゼンタ)のそれぞれの色相角度を表す角度に、R、G、B、Y、C、Mの文字をDSP107に表示する。CPU101は、色相角度がわかり易いようにそれぞれの色相角度に破線の半径もDSP107に表示する。
CPU101は、極座標系「角度方向・動径方向」の動径範囲が0〜255になることを表せるように、半径が255、204、153、102、51とみなす円(401〜405)をDSP107に表示する。5つの円は同原点とする。さらに、CPU101は、円周401の外側に、R、G、B、Y(黄色)、C(シアン)、M(マゼンタ)のそれぞれの色相角度を表す角度に、R、G、B、Y、C、Mの文字をDSP107に表示する。CPU101は、色相角度がわかり易いようにそれぞれの色相角度に破線の半径もDSP107に表示する。
また、CPU101は、円の内側に、R、G、B、Y、C、Mのそれぞれの色相、彩度に対応する位置を示す位置画像411を表示する。位置画像411の形状は例えば四角であり、四角の中心がR、G、B、Y、C、Mのそれぞれの色相、彩度に対応する位置を示している。さらに、位置画像の周りに、R、G、B(青)、Y(黄色)、C、Mのそれぞれの色相、彩度の±5、±10の位置に許容枠412を表示する。色相、彩度の許容枠412はディスプレイ等の色調整をする際に用いられる。図においては簡単のためRに関する位置画像および許容枠のみ符号を付している。以上により、ベクトルスコープ400が表示される。
(2)各画素の色相、彩度分布の表示
CPU101は、S203において作成した各画素の色相H及び彩度Sと、S201において作成したRGB成分値と、に基づいて、各画素に対し、以下に示す(a)、(b)、(c)を実行する。
(a)画素の該当アドレスに基づいて、画素の該当アドレスの色相、彩度をRAM102から読み出し、ベクトルスコープ上における表示位置を決める。
(b)画素の該当アドレスに基づいて、画素の該当アドレスのR、G、B成分値データをRAM102から読み出し、ベクトルスコープ上に表示する点の表示色を決める。
(c)上述した(1)で表示されるベクトルスコープ上において、(a)で決定した表示位置に(b)で決定した表示色で点を表示する。
上記の処理によりCPU101は、図5に示すベクトルスコープ510をDSP107に表示させることができる。図5においては円周方向を色相H、動径方向を彩度Sとしている。なお、上記の(a)の処理によりベクトルスコープ上の座標(アドレス)と病理画像上の座標とが対応付けられることとなるため、CPU101はベクトルスコープ上の座標と病理画像上の座標との対応関係を把握することが可能となる。このような対応関係を示す情報はCPU101によりRAM102に記録される。例えば病理画像におけるアドレス(x、y)はベクトルスコープにおけるアドレス(θ、r)と対応付られる。なおθは色相Hを示し、rは彩度Sを示している。すなわち、CPU101は、ベクトルスコープおよび病理画像の一方において座標が指定されると当該対応関係を示す情報に基づいてベクトルスコープおよび病理画像の他方において対応する座標を特定することができる。
CPU101は、S203において作成した各画素の色相H及び彩度Sと、S201において作成したRGB成分値と、に基づいて、各画素に対し、以下に示す(a)、(b)、(c)を実行する。
(a)画素の該当アドレスに基づいて、画素の該当アドレスの色相、彩度をRAM102から読み出し、ベクトルスコープ上における表示位置を決める。
(b)画素の該当アドレスに基づいて、画素の該当アドレスのR、G、B成分値データをRAM102から読み出し、ベクトルスコープ上に表示する点の表示色を決める。
(c)上述した(1)で表示されるベクトルスコープ上において、(a)で決定した表示位置に(b)で決定した表示色で点を表示する。
上記の処理によりCPU101は、図5に示すベクトルスコープ510をDSP107に表示させることができる。図5においては円周方向を色相H、動径方向を彩度Sとしている。なお、上記の(a)の処理によりベクトルスコープ上の座標(アドレス)と病理画像上の座標とが対応付けられることとなるため、CPU101はベクトルスコープ上の座標と病理画像上の座標との対応関係を把握することが可能となる。このような対応関係を示す情報はCPU101によりRAM102に記録される。例えば病理画像におけるアドレス(x、y)はベクトルスコープにおけるアドレス(θ、r)と対応付られる。なおθは色相Hを示し、rは彩度Sを示している。すなわち、CPU101は、ベクトルスコープおよび病理画像の一方において座標が指定されると当該対応関係を示す情報に基づいてベクトルスコープおよび病理画像の他方において対応する座標を特定することができる。
本実施形態においては、CPU101は、ベクトルスコープと病理画像とを表示画面に並べて同時に表示する。図5は、表示画面例を示す図である。図5(a)に示す表示画面500には、ベクトルスコープ510と病理画像520とが並べて配置されている。病理画像520は、図3に示す病理画像300に対応し、ベクトルスコープ510は、図4に示すベクトルスコープ400に対応する。ここで、例えば、病理画像520上の3つの点A1、B1、C1がそれぞれ図5(b)の表530に対応しているとする。この場合、各点A1、B1、C1のRGB成分値及び色相H、彩度Sは、図5(c)の表540のようになる。ベクトルスコープ510における点A2、B2、C2は、それぞれ点A1、B1、C1の色相H、彩度Sに応じた点であり、各点は、対応する病理画像520中の各画素の色で表示されている。例えば、点A2は、M(マゼンタ)、点Bは、2B(青)、点C2は、Y(黄色)で表示される。
表示画面500が表示された状態において、ユーザが、病理画像520の所望の位置をマウスでクリックしたとする。この場合、CPU101は、マウスクリックに応じた画素の指定指示を受け付け、この指定指示に係る画素に対応したベクトルスコープ上の点を特定する。具体的には、CPU101はクリックされた位置の病理画像におけるアドレスを取得し、取得したアドレスに対応付けられたベクトルスコープ上のアドレスを特定する。なお、CPU101はクリックされた位置の病理画像におけるRGB成分値から色相H及び彩度Sを改めて算出することでベクトルスコープ上の対応する点を特定することとしてもよい。そして、CPU101は、ユーザが視認によりこの点を他の点と区別することができるような特定の表示態様で表示するよう制御する。情報処理装置100は、例えば、特定した点を点滅表示する。
例えば、病理画像520において点A1がクリックされた場合には、これに対応するベクトルスコープ510上の点A2が特定され、点A2が点滅表示される。さらに、CPU101は、この場合に、指定指示に係る点A1も点滅表示するようにしてもよい。また、病理画像520上において、複数の画素が指定された場合には、CPU101は、複数の画素それぞれに対応した、ベクトルスコープ上の複数の点を表示するようにしてもよい。
また、逆に、ベクトルスコープ510上の点がクリックされたとする。この場合には、
CPU101は、マウスクリックに応じた点の指定指示を受け付け、この指定指示に係る点に対応した病理画像520上の画素を特定する。具体的には、CPU101はクリックされた位置のベクトルスコープにおけるアドレスを取得し、取得したアドレスに対応付けられた病理画像におけるアドレスを特定する。なお、CPU101はクリックされた位置における色相H及び彩度SからRGB成分値を改めて算出することで病理画像上の対応する点を特定することとしてもよい。そして、CPU101は、特定した画素を特定の表示態様で表示するよう制御する。この場合も、CPU101はさらに、指定指示に係るベクトルスコープ510上の点についても特定の表示態様で表示するようにしてもよい。なお、ベクトルスコープ上の所定の1点に対応する病理画像における画素は1つの場合と複数の場合とがある。いずれの場合においても、CPU101は、ベクトルスコープ上の所定の1点が示す色相H及び彩度Sに対応する病理画像における画素を病理画像における他の画素と識別可能な形態で表示する。
CPU101は、マウスクリックに応じた点の指定指示を受け付け、この指定指示に係る点に対応した病理画像520上の画素を特定する。具体的には、CPU101はクリックされた位置のベクトルスコープにおけるアドレスを取得し、取得したアドレスに対応付けられた病理画像におけるアドレスを特定する。なお、CPU101はクリックされた位置における色相H及び彩度SからRGB成分値を改めて算出することで病理画像上の対応する点を特定することとしてもよい。そして、CPU101は、特定した画素を特定の表示態様で表示するよう制御する。この場合も、CPU101はさらに、指定指示に係るベクトルスコープ510上の点についても特定の表示態様で表示するようにしてもよい。なお、ベクトルスコープ上の所定の1点に対応する病理画像における画素は1つの場合と複数の場合とがある。いずれの場合においても、CPU101は、ベクトルスコープ上の所定の1点が示す色相H及び彩度Sに対応する病理画像における画素を病理画像における他の画素と識別可能な形態で表示する。
また、ベクトルスコープ上の1点に対応する病理画像上の画素を識別可能に表示する形態に限らない。CPU101は、ベクトルスコープ上で指定された点が含まれる単位領域における色相H及び彩度Sに対応する病理画像上の画素を特定し識別可能に表示することとしてもよい。ここで、単位領域とは例えばベクトルスコープ上における色相n度〜n+1度と彩度m〜m+1とで規定される扇型の領域である。単位領域の一例を図25に示す。このような単位領域内のいずれかの点が指定された場合、CPU101は、指定された点が含まれる単位領域内が示す複数の色相H及び彩度Sに対応する病理画像上の画素を特定する。より具体的には、CPU101は、n+1>色相H≧n且つm+1>彩度S≧mの範囲に対応する病理画像上の点を特定する。なお、単位領域の大きさは任意の大きさに変更することとしてもよい。
さらに、情報処理装置100は、ベクトルスコープ510においてユーザにより指定された動径範囲を拡大表示することができる。図6は、拡大図が表示された表示画面600を示す図である。表示画面600には、ベクトルスコープ610と、病理画像620に加えて、ベクトルスコープ610の一部を拡大した拡大図630が表示されている。なお、図6において病理画像620の図示は省略している。動径範囲0〜255のベクトルスコープ610に対し、拡大図630は、動径範囲1〜153の範囲を拡大表示したベクトルスコープである。このとき、プロットの点のサイズは任意であり、拡大率に応じて拡大してもよく、ベクトルスコープ710におけるプロットの点のサイズと等しくしてもよい。
図2に戻り、CPU101は、S204の処理の後、処理をS205へ進める。なお、S204を省略してステップS203からステップS205へ進むこととしてもよい。S205において、CPU101は、処理対象の画像に含まれる各点の色相、彩度及び輝度の分布図を表示するよう制御する。本処理は、表示制御処理の一例である。本実施形態においては、CPU101は、分布図として、S204において説明したベクトルスコープ(2次元極座標系)の平面に直交する軸を輝度値の軸とする3次元座標系を用いるものとする。なお、輝度YはS202においてRAM102にすでに記憶されており、CPU101はRAMから輝度Yを取得することが可能である。3次元分布図の表示においては、CPU101は、以下の2つの処理を実行する。
(1)3次元表示軸の表示
(2)各画素の色相、彩度、輝度分布の表示
以下、各処理について、図7を参照しつつ説明する。図7は、3次元分布図の一例を示す図である。
(1)3次元表示軸の表示
(2)各画素の色相、彩度、輝度分布の表示
以下、各処理について、図7を参照しつつ説明する。図7は、3次元分布図の一例を示す図である。
(1)3次元表示軸の表示
CPU101は、S204において説明したのと同様に色相、彩度の2次元極座標系の円を表示する。CPU101はさらに、極座標系平面に直交する直線を輝度値の軸として表示する。これにより、3次元座標系が表示される。なお、輝度値の軸には、0〜255の輝度値が割り当てられる。
CPU101は、S204において説明したのと同様に色相、彩度の2次元極座標系の円を表示する。CPU101はさらに、極座標系平面に直交する直線を輝度値の軸として表示する。これにより、3次元座標系が表示される。なお、輝度値の軸には、0〜255の輝度値が割り当てられる。
(2)各画素の色相、彩度、輝度分布の表示
CPU101は、S202において作成した各画素の色相H及び彩度Sと、S201において作成したRGB成分値と、S202において作成した輝度と、に基づいて、各画素に対し、以下に示す(a)、(b)、(c)を実行する。
(a)画素の該当アドレスに基づいて、画素の該当アドレスの色相、彩度及び輝度をRAM102から読み出し、ベクトルスコープ上における表示位置を決める。
(b)画素の該当アドレスに基づいて、画素の該当アドレスのR、G、B成分値をRAM102から読み出し、3次元座標系に表示する点の表示色を決める。
(c)上述した(1)で表示される3次元座標系において、(a)で決定した表示位置に(b)で決定した表示色で点を表示する。
CPU101は、S202において作成した各画素の色相H及び彩度Sと、S201において作成したRGB成分値と、S202において作成した輝度と、に基づいて、各画素に対し、以下に示す(a)、(b)、(c)を実行する。
(a)画素の該当アドレスに基づいて、画素の該当アドレスの色相、彩度及び輝度をRAM102から読み出し、ベクトルスコープ上における表示位置を決める。
(b)画素の該当アドレスに基づいて、画素の該当アドレスのR、G、B成分値をRAM102から読み出し、3次元座標系に表示する点の表示色を決める。
(c)上述した(1)で表示される3次元座標系において、(a)で決定した表示位置に(b)で決定した表示色で点を表示する。
上記の処理によりCPU101は、図7(c)示す3次元分布図(3次元のベクトルスコープ)をDSP107に表示させることができる。なお、上記の(a)の処理により3次元分布図上の座標(アドレス)と病理画像上の座標とが対応付けられることとなるため、CPU101は3次元分布図上の座標と病理画像上の座標との対応関係を把握することが可能となる。このような対応関係を示す情報はCPU101によりRAM102に記録される。例えば病理画像におけるアドレス(x、y)はベクトルスコープにおけるアドレス(θ、r、Y)と対応付けられる。なおθは色相Hを示し、rは彩度Sを示し、Yは輝度を示している。すなわち、CPU101は、3次元分布図および病理画像の一方において座標が指定されると当該対応関係を示す情報に基づいて3次元分布図および病理画像の他方において対応する座標を特定することができる。
図7(a)の710は、3次元分布図を2次元極座標系平面を真上から平面に向かって垂直に見た図である。この場合、3次元分布図710は、ベクトルスコープ表示と同様の表示となる。図7(b)の720は、3次元分布図を輝度値の軸に垂直な方向から見た図である。図7(c)の730は、3次元分布図を色相値、彩度値、輝度値がそれぞれ大まかに判るような角度から見た図である。ここで、各値が大まかにわかるような角度とは、2次元極座標平面となす角が所定角度以上となり、かつ輝度の軸とのなす角が所定角度以上となるような角度である。
本実施形態においては、CPU101は、ユーザ操作に応じて3次元分布図の表示における視点の指定を受け付け、指定された視点から見た3次元分布図を表示する。図8を参照しつつ、視点の指定方法について説明する。ユーザは、DSP107に表示された表示画面800において視点の指定を行うことができる。表示画面800には、指定領域810と、3次元分布図820と、が表示されている。指定領域810には、視点のプルダウンメニューや、オイラー角の入力欄、任意の軸の入力欄が含まれている。本実施形態においては、ユーザは、(1)視点指定、(2)オイラー角回転、(3)任意軸回転の3つの何れかの方法で視点を指定可能であるものとする。なお、指定方法は、これ以外にも有り、この3つに限定する必要はない。
(1)視点指定
先に述べた710や720(図7)のように代表的な視点をリストから選択して指定する。真上や正面以外にも後面、左側面、右側面から選択できる。これ以外にもよく使う視点を追加することができる。
(2)オイラー角回転
2軸の直交平面と3軸が成す3つのオイラー角α、β、γを指定して座標系を回転させて正面からの視点で表示する。
(3)任意軸回転
任意の軸とその回転角度を指定して座標系を回転させて正面からの視点で表示する。820は、視点指定において真上を指定して表示させたものである。
先に述べた710や720(図7)のように代表的な視点をリストから選択して指定する。真上や正面以外にも後面、左側面、右側面から選択できる。これ以外にもよく使う視点を追加することができる。
(2)オイラー角回転
2軸の直交平面と3軸が成す3つのオイラー角α、β、γを指定して座標系を回転させて正面からの視点で表示する。
(3)任意軸回転
任意の軸とその回転角度を指定して座標系を回転させて正面からの視点で表示する。820は、視点指定において真上を指定して表示させたものである。
また、ベクトルスコープ510と同様に3次元分布図上の1点が指定されるとCPU101は病理画像において対応する点を特定することが可能である。また、病理画像における1点が指定されるとCPU101は3次元分布図上の対応する点を特定することが可能である。すなわち、3次元分布図と病理画像とが表示された状態において、ユーザが、病理画像の所望の位置をマウスでクリックしたとする。この場合、CPU101は、マウスクリックに応じた画素の指定指示を受け付け、この指定指示に係る画素に対応した3次元分布図上の点を特定する。具体的には、CPU101はクリックされた位置の病理画像におけるアドレスを取得し、取得したアドレスに対応付けられた3次元分布図上のアドレスを特定する。なお、CPU101はクリックされた位置の病理画像におけるRGB成分値から色相H、彩度S及び輝度Yを改めて算出することで3次元分布図上の対応する点を特定することとしてもよい。そして、CPU101は、ユーザが視認によりこの点を他の点と区別することができるような特定の表示態様で表示するよう制御する。情報処理装置100は、例えば、特定した点を点滅表示する。
また、逆に、3次元分布図上の点がクリックされたとする。この場合には、CPU101は、マウスクリックに応じた点の指定指示を受け付け、この指定指示に係る点に対応した病理画像上の画素を特定する。具体的には、CPU101はクリックされた位置の3次元分布図におけるアドレスを取得し、取得したアドレスに対応付けられた病理画像におけるアドレスを特定する。なお、CPU101はクリックされた位置における色相H、彩度S及び輝度YからRGB成分値を改めて算出することで病理画像上の対応する点を特定することとしてもよい。そして、CPU101は、特定した画素を特定の表示態様で表示するよう制御する。この場合も、CPU101はさらに、指定指示に係る3次元分布図上の点についても特定の表示態様で表示するようにしてもよい。なお、3次元分布図上の所定の1点に対応する病理画像における画素は1つの場合と複数の場合とがある。いずれの場合においても、CPU101は、3次元分布図上の所定の1点が示す色相H及び彩度Sに対応する病理画像における画素を病理画像における他の画素と識別可能な形態で表示する。
また、3次元分布図上の1点に対応する病理画像上の画素を識別可能に表示する形態に限らない。CPU101は、3次元分布図上で指定された点が含まれる単位領域における色相H及び彩度Sに対応する病理画像上の画素を特定し識別可能に表示することとしてもよい。ここで、単位領域とは例えば3次元分布図上における色相n度〜n+1度と彩度m〜m+1と輝度Y〜Y+1とで規定される底面を扇型とする柱の領域である。このような単位領域内のいずれかの点が指定された場合、CPU101は、指定された点が含まれる単位領域内が示す複数の色相H、彩度Sおよび輝度Yに対応する病理画像上の画素を特定する。より具体的には、CPU101は、n+1>色相H≧n、m+1>彩度S≧m且つY+1>輝度Y≧Yの範囲に含まれる3次元分布図上の点に対応する病理画像上の点を特定する。なお、単位領域の大きさは任意の大きさに変更することとしてもよい。
図2に戻り、S205の処理の後、CPU101は、処理をS206へ進める。S206において、CPU101は、3次元分布図の表示に用いたデータを3次元表示データとしてHDD104に格納する。ここで、3次元表示データとしては、RGB成分値、輝度、色差、色相、彩度が挙げられる。なお、3次元表示データの格納先はHDD104に限定されるものではない。3次元表示データの格納先の他の例としては、情報処理装置100のHDD104以外の記憶装置や、通信I/F105を経由してインターネット130上にある外部コンピュータ資源であるクラウドシステム140等が挙げられる。すなわち、3次元分布図等のデータを記憶する媒体はHDD104に限定されるものではなく、データを記憶可能な媒体であれば種類は問わない。
さらに、CPU101は、HDD104に格納した3次元表示データを読み出し、この3次元表示データに基づいて、3次元分布図をDSP107に表示することもできる。さらに、CPU101は、複数の病理画像に対する3次元表示データを読み出し、各3次元表示データに基づいて、複数の病理画像それぞれに対する点がプロットされた3次元分布図を表示することもできる。この場合、CPU101は、ユーザ操作等に応じて、病理画像毎に点の表示色の指定を受け付ける。そして、CPU101は、指定に従い、病理画像毎に異なる色の点を分布図上にプロットする。
図9は、複数の病理画像に対応した3次元分布図の説明図である。図9(a)に示すように、4つの病理画像901、902、903、904それぞれに対応した3次元分布図が911、912、913、914である。これに対し、例えば、図9(b)に示す3次元分布図920には、病理画像901、902の点が同時に表示されている。さらに、図9(b)に示すように、病理画像901に対応した点は黒、病理画像902に対応した点はグレーで表示されている。また、図9(c)に示す3次元分布図930には、病理画像901、902、903、904の点が同時に表示されている。各病理画像に対応した点は濃淡の異なるグレーで表示されている。なお、図9において病理画像901〜904の図示は省略している。
さらに、CPU101は、ベクトルスコープと同様に、3次元分布図についても、病理画像と並べてDSP107に表示する。そして、CPU101は、病理画像において画素が指定された場合に、指定を受け付け(受付処理)、指定された画素に対応する3次元分布図上の点を、ユーザが視認可能な表示態様で表示するよう制御する。また、CPU101は、3次元分布図上の点が指定された場合には、指定された点に対応する病理画像上の画素を、ユーザが視認可能な表示態様で表示するよう制御する。
以上説明したように、本実施形態の情報処理装置100は、病理画像を表示すると共に、色相、彩度、輝度を軸とした3次元座標系に、病理画像の画素の分布を表示する。このような3次元表示により、病理画像に含まれる色の種類と色の濃淡や明るさが定量的に把握できると共に視覚的にもわかり易くなり、診断に要する時間と手間を短縮することが可能になる。例えばHER2法においては細胞膜の陽性染色を見ることが重要であり、本実施形態においては、特定の色の確認を精度よく行うことができる。
また、実施形態に係る情報処理装置100は、3次元分布図をユーザの所望の視点で表示することができる。これにより、微妙な中間色に染色された場合でも色調だけではなく同時に輝度を把握することで染色度分布の状態を詳細に確認して見落としを防ぐ事が可能になる。更に、3次元表示データを保存することにより、何度も見る場合や、複数人が異なるコンピュータで見る場合は、RGBデータ等の作成に要する時間や作業を省く事ができ、病理医の手間を削減できる。
さらに、3次元分布図において、複数の病理画像それぞれに対するプロットを異なる表示色で表示することができる。例えばHER2法においては癌化の度合いで細胞膜の陽性染色が変わることがわかっている。これに対し、複数の病理画像それぞれに対応したプロットを同時に表示することで、癌化の異なる複数の病理画像の各々の細胞膜の陽性染色の分布状態を定量的に把握できると共に、所望の視点で表示する事で視覚的にもわかりやすく確認できる。また、病理画像毎の陽性染色の分布状態の差を確認することができる。また、細胞厚の異なる複数の病理組織標本の病理画像に対応した3次元分布図を表示することで、陽性染色の分布状態の差から、適切な細胞厚を提案できる可能性がある。
また、第1の実施形態の第1の変形例としては、情報処理装置100は、色相値と彩度値と輝度値に閾値を設定し、更に閾値に満たない画素数にも閾値を設定して、画素数が閾値以上か否かを判断してもよい。これにより、発色が弱く殆ど染色されていないケースに対応した病理画像を染色不良として振り分けることができる。
また、第2の変形例としては、情報処理装置100は、色相、彩度を、それぞれ直交座標系「横軸(x軸)・縦軸(y軸)」の平面状に配置してもよい。また、他の例としては、情報処理装置100は、色の3属性である色相H彩度Sに、明度Iを追加して表示してもよい。
また、第3の変形例としては、情報処理装置100は、処理対象の画像全体ではなく、その一部の領域において、上述の処理を行うこととしてもよい。例えば、図2に示す病理画像表示処理(S200)の後に、CPU101は、部分領域の指定を受け付ける。そして、CPU101は、S201からS206においては、指定された部分領域内の画素を対象として処理を行ってもよい。また他の例としては、情報処理装置100は、処理対象の画像において、すべての画素ではなく、例えば1画素おきなど間引きした画像に対し上述の処理を行うこととしてもよい。
また、第4の変形例としては、情報処理装置100による上述の処理における処理対象の単位は画素に限定されるものではない。他の例としては、情報処理装置100は、画素よりも大きい単位の領域を処理対象の単位としてもよい。この場合、CPU101は、例えば、単位領域に含まれる画素のRGB成分値それぞれの平均値をRGB成分値として扱えばよい。
(第2の実施形態)
第2の実施形態においては、情報処理装置100は、色標準チャートの評価に利用される。具体的には、第2の実施形態に係る情報処理装置100は、病理画像に替えて、色標準チャートの撮影画像を処理対象とする。色標準チャートは、撮影画像の色情報を活用して、例えば製造物塗装表面の撮影画像を評価する事で塗装表面の色ムラを検査する装置の撮影装置やディスプレイ管理の色精度管理に用いられる。以下、第2の実施形態に係る情報処理装置100について、第1の実施形態に係る情報処理装置100と異なる点を説明する。
第2の実施形態においては、情報処理装置100は、色標準チャートの評価に利用される。具体的には、第2の実施形態に係る情報処理装置100は、病理画像に替えて、色標準チャートの撮影画像を処理対象とする。色標準チャートは、撮影画像の色情報を活用して、例えば製造物塗装表面の撮影画像を評価する事で塗装表面の色ムラを検査する装置の撮影装置やディスプレイ管理の色精度管理に用いられる。以下、第2の実施形態に係る情報処理装置100について、第1の実施形態に係る情報処理装置100と異なる点を説明する。
図10は、色標準チャートの一例を示す図である。なお、色標準チャートは図10に示す例に限定されるものではなく、他の形式の色標準チャートを用いることとしてもよい。図10に示すように、本実施形態における色標準チャート1000は、6軸色補正用の色基準6色(R、G、B、C、M、Y)を有している。さらに、色標準チャート1000は、可視下端・可視上端の色帯域確認用の2色と、光源透過・輝度基準の白バランス用2色の合計10色の色標準1001〜1010を有している。これらの色標準1001〜1010は、チャート左上を原点とした所定の位置関係で色標準チャート1000上に配置されている。
第2の実施形態にかかる情報処理装置100のHDD104には、精度管理された撮像装置により撮影されたマスタ色標準チャートの撮影画像から作成された3次元表示データが格納されているものとする。ここで、マスタ色標準チャートは、上記10色の色標準が全て使用基準を満たす基準となるチャートである。以下、HDD104に格納されている、精度管理された撮像装置により撮影されたマスタ色標準チャートの撮影画像から作成された3次元表示データを、基準表示データと称することとする。
図11は、第2の実施形態に係る情報処理装置100による、色補正処理を示すフローチャートである。図12は、色補正処理の説明図である。図11のS1100において、CPU101は、HDD104から基準表示データを読み出し、基準表示データに基づいて、色標準チャートに対する3次元分布図を表示する。図12(a)の1201は、基準表示データに対応する3次元分布図の一例である。なお、図12(a)の1211は、基準表示データに対応したベクトルスコープである。なお、各点はマスタ色標準チャートの撮影画像における画素の色で表示されているものとする。
次に、S1101において、CPU101は、撮像装置120の調整のために撮影されたマスタ色標準チャートの撮影画像を撮像装置から取得する。次に、S1102において、CPU101は、S1101において取得した、マスタ色標準チャートの撮影画像に基づいて、表示データを作成する。本処理は、第1の実施形態において図2を参照しつつ説明したS200〜S206の処理と同様である。次に、S1103において、CPU101は、マスタ色標準チャートの撮影画像から作成した表示データに対応した3次元分布図を表示するよう制御する。図12(b)の1202は、マスタ色標準チャートの撮影画像に対応する表示データに対応した3次元分布図であり、1212は、3次元分布図1202に対応したベクトルスコープである。
図12(a)、(b)に示すように、ベクトルスコープ1211、1212においては、基準表示データと撮影画像に対応する表示データのプロット位置のずれは目視においてはほとんど確認されない程度である。これに対し、3次元分布図1201、1202においては、プロット位置のずれは目視でも確認することができることがわかる。
S1103の処理の後、S1104において、CPU101は、両表示データにおけるプロット位置のずれ、すなわち、両表示データにおける色相、彩度、輝度それぞれのずれを算出する。そして、S1105において、CPU101は、算出したずれ量が予め設定有れた目標範囲内か否かを判断する。CPU101は、目標範囲内の場合には(S1105でYes)、処理をS1107へ進める。S1105までの処理で、撮像装置の精度調整が終了する。CPU101は、目標範囲外の場合には(S1105でNo)、処理をS1106へ進める。S1106において、CPU101は、撮像装置に対し、歪補正及びシェーデング補正を指示し、その後処理をS1101へ進める。S1101において、CPU101は、歪み補正及びシェーデング補正が行われた撮像装置において撮影されたマスタ色標準チャートの撮影画像を取得し、その後の処理を実行する。
図12(c)の1203、1213は、それぞれ図2(b)の3次元分布図1202、ベクトルスコープ1212に対応した撮影画像に対し、歪み補正及びシェーデング補正が行われた後の3次元分布図及びベクトルスコープである。それぞれ図12(b)の状態に比べてずれが少なくなっていることがわかるが、ベクトルスコープに比べて、3次元分布図の方が、目視による、歪補正、シェーデング補正によるプロット位置の変化が確認し易い。
S1107以降の処理は、評価対象となる色標準チャートに対する処理である。以下、評価対象の色標準チャートを、評価色標準チャートと称する。S1107において、CPU101は、評価色標準チャートの撮影画像を撮像装置から取得する。なお、S1108〜S1110の処理は、それぞれS1102〜S1104の処理と同様であり、処理対象がマスタ色標準チャートの撮影画像であるか評価色標準チャートの撮影画像であるかが異なるだけである。図12(d)の1204、1214は、S1109において表示される3次元分布図及びこれに対応するベクトルスコープである。すなわち、1204、1214は、それぞれ評価色標準チャートの撮影画像に対応した3次元分布図及びベクトルスコープである。
S1110の処理の後、S1111において、CPU101は、マスタ色標準チャートの色相、彩度、輝度と撮影された評価色標準チャートの色相、彩度、輝度とのずれが目標範囲内かどうか判断する。S1104において撮影装置の精度調整が完了しているので、このずれは評価色標準チャートの6軸色補正用の10色の色ムラや位置、面積のずれからくる画素データのずれに起因していることがわかる。
また、他の例としては、CPU101は、マスタ色標準チャートに対応した画素の分布と、評価色標準チャートに対応した画素の分布を1つの3次元分布図に示してもよい。図13の1301、1302、1303は、いずれもマスタ色標準チャートに対応した画素の分布と、評価色標準チャートに対応した画素の分布を含む3次元分布図である。いずれの3次元分布図においても、マスタ色標準チャートに対応した画素を黒色で示している。なお、評価色標準チャートに対応した画素については、撮影画像における画素の色で示している。このように表示色を異ならせることにより、目視による確認を容易にすることができる。なお、第2の実施形態に係る情報処理装置100のこれ以外の構成及び処理は、第1の実施形態に係る情報処理装置100の構成及び処理と同様である。
なお、情報処理装置100の処理対象の画像は、病理画像や色標準チャートに限定されるものではない。例えば、自動車のボディの塗装の外観検査のために撮影された車体の画像を処理対象としてもよい。この場合には塗装のムラの検出を効率的に支援することができる。
(第3の実施形態)
次に、第3の実施形態について説明する。図14は、第3の実施形態に係る情報処理装置100による表示処理を示すフローチャートである。なお、図2に示す各処理と同じ処理には、同じ番号を付しており、その説明は省略する。S1400において、CPU101は、各画素の色相、彩度データから色相、彩度の頻度のデータである頻度Gを作成する。CPU101は、色相、彩度データの値の範囲を、所定の等区間で分割し、各区間に在る画素数を積算し、積算値を頻度として得る。本実施例の場合は、上述した等区間は、色相を1、彩度を1とする。すなわち、本実施形態における等区間とは第1実施形態で述べて単位領域と同等のものである。なお、等区間はこれに限定する必要はない。
次に、第3の実施形態について説明する。図14は、第3の実施形態に係る情報処理装置100による表示処理を示すフローチャートである。なお、図2に示す各処理と同じ処理には、同じ番号を付しており、その説明は省略する。S1400において、CPU101は、各画素の色相、彩度データから色相、彩度の頻度のデータである頻度Gを作成する。CPU101は、色相、彩度データの値の範囲を、所定の等区間で分割し、各区間に在る画素数を積算し、積算値を頻度として得る。本実施例の場合は、上述した等区間は、色相を1、彩度を1とする。すなわち、本実施形態における等区間とは第1実施形態で述べて単位領域と同等のものである。なお、等区間はこれに限定する必要はない。
色相、彩度の頻度Gは、色相値の範囲(0〜359)と彩度値の範囲(0〜255)を示す整数をアドレスとした2次元データで表す。アドレスと区間内のデータの値の対応は、アドレス≦値、かつ、値<(アドレス+1)を満たす値とする。例えば、ある画素nが色相30.1、彩度254.5とした時、CPU101は、色相値は30以上、31未満の範囲、彩度値は254以上、255未満の範囲の区間の画素としてG(30、254)に積算する。なお、頻度Gは、例えば色相と彩度をアドレスとして表される。上記の例では、アドレス(30、254)により、31>色相値≧30且つ255>彩度値≧は254の範囲を示している。すなわち、G(H、S)は、H+1>色相値≧H且つS+1>彩度値≧Sの範囲にある画像に含まれる画素の数を示している。そして、G(30、254)は、31>色相値≧30且つ255>彩度値≧は254の範囲にある画素の数を示している。
画素n以外に画像における全画素の中で同じ区間の画素数が全部で45個あるとすると、G(30、254)=45となる。同様に、例えば、頻度G(0、0)には、色相値が0以上、1未満で、かつ、彩度値が0以上、1未満1の画素数、頻度G(10、200)には色相値が10以上、11未満で、かつ、彩度値が200以上、201未満1の画素数が記憶されている。CPU101は、算出した頻度G(H、S)をRAM102に記録する。なお、頻度G(H、S)に頻度G(H、S)に含まれる色相H(x、y)及び彩度S(x、y)を対応付けてRAM102に保存することとしてもよい。
図15は、等区間の例を説明する図である。Gnは角度30度〜31度、動径254〜255を囲む扇型の範囲である。図14において、S1400の処理の後、S1401において、CPU101は、色相、彩度の頻度を表示する。以下、色相及び彩度の頻度を表示する処理について説明する。色相、彩度頻度表示には、色相、彩度頻度作成(S1400)において作成された色相、彩度の頻度G(H、S)が用いられる。本実施形態においては、CPU101は、頻度G(H、S)に基づいて横軸を彩度、縦軸を頻度(画素数)とする二次元グラフまたは横軸を色相、縦軸を頻度とする二次元グラフをヒストグラムとして表示する。
まず横軸を彩度とする場合について説明する。この場合のヒストグラムは、等間隔に区切られた彩度の各区間にどの程度のケース(画素数)が収まっているか、つまり頻度(画素数)を区間毎に1つの棒として表したグラフである。例えば、CPU101は、1つの棒とする彩度の範囲および頻度G(H、S)に基づいてヒストグラムを作成することが可能である。CPU101は、1つの棒とする彩度の範囲Eに属する頻度G(H,S)をRAM102から取得する。例えば、1つの棒とする彩度の範囲Eが255>E≧254であれば、CPU101は、頻度G(H,254)をRAM102から取得する。また、1つの棒とする彩度の範囲Eが255>E≧253であれば、CPU101は、頻度G(H,254)および頻度G(H,253)をRAM102から取得する。なお、この場合における色相Hの範囲は0〜360である。
なお、色相Hの値は一部の値に限定することとしてもよい。CPU101は、ヒストグラムとして表示する棒の表示色を、1つの棒とする彩度の範囲Eに属する頻度G(H,S)に対応する画素のRGB値の代表値に基づいて決定する。ここで代表値とは、頻度G(H,S)に含まれる複数の画素のRGB成分値の平均値、最大値、最小値、中央値および最頻値のいずれかである。ヒストグラムを構成する1つの棒に色を付けて表示することで、画素の頻度のみならず所定の彩度においてどのようなRGB成分値の画素が含まれているかを直感的に把握することが可能となる。なお、ヒストグラムを構成する1つの棒に色を付けて表示することは必須の処理ではない。
なお、CPU101は、1つの棒とする彩度の範囲Eに対応する色相H、彩度S及び第1実施形態で述べたRAM102に記憶されているベクトルスコープ上の座標(色相、彩度)と病理画像上の座標との対応関係を特定する。そして、CPU101は、対応関係に基づいて、1つの棒とする彩度の範囲Eに含まれる画素のRGB成分値を決定する。第1実施形態で述べたようにRAM102には画像における各画素のアドレスとRGB成分値とが対応づけられている。このため、CPU101は、ベクトルスコープ上の座標と病理画像上の座標との対応関係から1つの棒とする彩度の範囲Eに含まれる画素のRGB成分値を決定することができる。なお、1つの棒とする彩度の範囲Eは単位領域に対応させて1としてもよいし、上述のように他の値としてもよい。
上記の説明においては、ヒストグラムの横軸を彩度としたが、これに限らず横軸は色相を示す軸であってもよい。この場合のヒストグラムは、等間隔に区切られた色相の各区間にどの程度のケース(画素数)が収まっているか、つまり頻度(画素数)を区間毎に1つの棒として表したグラフである。例えば、CPU101は、1つの棒とする色相の範囲および頻度G(H、S)に基づいてヒストグラムを作成することが可能である。CPU101は、1つの棒とする色相の範囲Eに属する頻度G(H,S)をRAM102から取得する。例えば、1つの棒とする色相の範囲Eが31>E≧30であれば、CPU101は、頻度G(30,S)をRAM102から取得する。また、1つの棒とする色相の範囲Eが30>E≧29であれば、CPU101は、頻度G(30,S)および頻度G(29,S)をRAM102から取得する。なお、この場合における彩度Sの範囲は0〜255である。
なお、彩度Sの値は一部の値に限定することとしてもよい。CPU101は、ヒストグラムとして表示する棒の表示色を、1つの棒とする色相の範囲Eに属する頻度G(H,S)に対応する画素のRGB値の代表値に基づいて決定する。ここで代表値とは、頻度G(H,S)に含まれる複数の画素のRGB成分値の平均値、最大値、最小値、中央値および最頻値のいずれかである。ヒストグラムを構成する1つの棒に色を付けて表示することで、画素の頻度のみならず所定の彩度においてどのようなRGB成分値の画素が含まれているかを直感的に把握することが可能となる。なお、ヒストグラムを構成する1つの棒に色を付けて表示することは必須の処理ではない。
なお、CPU101は、1つの棒とする色相の範囲Eに対応する色相H、彩度S及び第1実施形態で述べたRAM102に記憶されているベクトルスコープ上の座標(色相、彩度)と病理画像上の座標との対応関係を特定する。そして、CPU101は、対応関係に基づいて、1つの棒とする色相の範囲Eに含まれる画素のRGB成分値を決定する。第1実施形態で述べたようにRAM102には画像における各画素のアドレスとRGB成分値とが対応づけられている。このため、CPU101は、ベクトルスコープ上の座標と病理画像上の座標との対応関係から1つの棒とする色相の範囲Eに含まれる画素のRGB成分値を決定することができる。なお、1つの棒とする色相の範囲Eは単位領域に対応させて1としてもよいし、上述のように他の値としてもよい。図16に示す複数のヒストグラムは横軸を色相とした場合のヒストグラムである。
本実施形態においては、彩度値別のヒストグラムとし、彩度値の表示範囲を指定して1つのヒストグラムで表す。CPU101は、例えば、彩度値の最小値と最大値の範囲を幾つかに分割して彩度値の範囲別に複数のヒストグラムを縦に並べて表示する。分割数は、初期値を10とし、ユーザが設定して変更ことができる。なお、初期値などは例示であり他の値とすることとしてもよい。また、ヒストグラムは必ずしも複数表示する必要はなく、1つであってもよい。設定方法は後述する。各ヒストグラムは、横軸に色相値を配して各ヒストグラムにおける1つの棒の色相の範囲は1とし、横軸範囲の初期値は、色相値を網羅するように反時計回りに開始角度が最小値(0)、終了角度が最大値(360)になるようにする。なお、横軸範囲もユーザが設定して変更することができる。設定方法は後述する。縦軸に頻度を配して頻度に比例する棒の長さで表示する。また、上述したようにヒストグラムを構成する1つの棒の表示色は、1つの棒とする色相の範囲Eに含まれる画素のRGB成分値の代表値に基づいて決定される。なお、他の実施形態においても同様にヒストグラムを構成する棒の表示色はRGB成分値の代表値に基づいて決定することとしてもよい。本実施形態においては、このようなヒストグラム表示にしたが、これに限定する必要はない。
図16を参照し、ヒストグラム表示の処理について説明する。DSP107の表示画面1600には、病理画像1601と、ヒストグラム1602a〜1602jとが表示される。彩度値の最小値と最大値の範囲が10に分割され、各範囲の10個のヒストグラム1602a〜1602jが縦に並べて表示されている。図16の例においては、HDD104の下から上に向かって彩度値の範囲が昇順になるよう配置されている。なお、図16において病理画像1601の図示は省略している。
図14に戻り、S1402において、CPU101は、色相、彩度データを用いてベクトルスコープ表示をするか否かの判断をする。CPU101は、図16に示すベクトルスコープ表示指示1603にあるチェックボックス1604の状態を取得する。チェックが付いている状態の場合は、ベクトルスコープ表示を行うと判断し(S1402でYes)、処理をS204へ進める。S204の処理により、図12に示すベクトルスコープ1205が表示される。CPU101は、チェックボックス1604にチェックがついていない場合には、ベクトルスコープ表示を行わないと判断し(S1402でNo)、表示処理を終了する。なお、CPU101は、3次元のベクトルスコープを表示させるか否かを決定するチェックボックスをDSP107に表示させることとしてもよい。3次元のベクトルスコープはS205と同様の処理により表示可能である。
S204の処理の後、S1403において、CPU101は、表示範囲設定1606(図16)を表示する。表示範囲設定1606は、ヒストグラム表示を行う色相値と彩度値の頻度の表示範囲を設定する為のユーザインタフェースである。表示範囲設定1606には、「色相範囲」、「開始角度」、「終了角度」が表示され、「開始角度」の表示の横のテキストボックスにベクトルスコープ表示の色相値の開始角度が表示される。同様に「終了角度」の表示の横のテキストボックスにベクトルスコープ表示の色相値の終了角度が表示される。上述の開始角度、終了角度は、S204におけるベクトルスコープ表示で用いた値とする。
テキストボックスは、ユーザがテキストボックス内に文字入力することもできる。入力した値はプログラムを実行するデータとして取得する。同様に、表示範囲設定1606には、「彩度範囲」、「開始」、「終了」、「分割数」が表示される。また、「開始」表示横のテキストボックスにベクトルスコープ表示の彩度値の開始が表示され、「終了」表示横のテキストボックスにベクトルスコープ表示の彩度値の終了が表示される。同様に「分割数」表示の横のテキストボックスにベクトルスコープ表示の彩度値の分割数を表示する。上述開始、終了、分割数は、S204におけるベクトルスコープ表示で用いた値とする。
S1403の処理の後、S1404において、CPU101は、ヒストグラムの表示ボタンが押されたか否かを確認する。CPU101は、マウスポイントの位置がヒストグラム表示ボタン領域上にあるか否かを判別し、表示ボタン1607が押下されたか否かを判別する。CPU101は、表示ボタンが押された場合には(S140でYes)、処理をS1405へ進める。CPU101は、表示ボタンが押されていない場合には(S1404でNo)、表示処理を終了する。S1405において、CPU101は、表示範囲設定1206のテキストボックスに入力された値を取得し、その後処理をS1401へ進め、色相、彩度の頻度を表示する。
図17は、色相値の開始角度、終了角度が違う場合の、ヒストグラムの表示例を示す図である。ベクトルスコープ表示1701に於ける、色相、彩度の頻度の表示がヒストグラム表示1704、ヒストグラム表示1705である。ヒストグラム表示1704は色相値開始角度195、終了角度235(図17、1702参照)である。ヒストグラム表示1305は色相値開始角度295、終了角度335(図17、1703参照)である。いずれのヒストグラムも、どちらも彩度値区間は18以上、24未満である。
以上説明したように、本実施形態においては、病理画像の色相及び彩度の頻度を、ヒストグラム表示するようにした。このようなヒストグラム表示により、ベクトルスコープ表示だけではわかりにくい色の分布状態が定量的に把握できると共に視覚的にもわかりやすく把握できる。
病理画像では、染色された細胞以外の背景は白色になる場合が一般的である。例えば、細胞が白に近い淡い色で染色された場合でも、淡い染色と白色の画素数を定量的に把握することができる。判断に要する時間が短縮できると共に判断のブレを減少させることが可能になる。更に、図12、図13で説明したように、ヒストグラム表示範囲を指定することで、例えばHER2法で重要になる細胞膜の陽性染色の分布状態と、細胞核の染色の分布状態を別々にヒストグラム表示させることができる。複数のヒストグラム表示を比較することで判断の確実性を向上させることが可能になる。
なお、本実施形態において説明したヒストグラム表示は一例であり、表示形態は、これに限定されるものではない。例えば、図18に示すように、色相値H、彩度値Sを、それぞれ直交座標系「横軸(x軸)・縦軸(y軸)」に配置し、頻度をZ軸に配置して3D表示させてもよい。なお、第3の実施形態に係る情報処理装置100のこれ以外の構成及び処理は、他の実施形態に係る情報処理装置100の構成及び処理と同様である。
(第4の実施形態)
図19は、第4の実施形態にかかる情報処理装置100の表示処理を示すフローチャートである。図19の処理は、図14を参照しつつ説明した第3の実施形態における表示処理の後に実行される処理である。すなわち、図14に示す表示処理によりDSP107には、表示画面1600が表示されている。S1900において、CPU101は、表示画面1600について画面表示データと総称する画面に関するデータを作成してHDD104に記憶する。画面表示データは、病理画像1601、ベクトルスコープ1605及びヒストグラム1602a〜1602jの3つの表示内容と画面上の表示位置の情報である。具体的には、病理画像1601に関しては、画像原点の表示位置、ベクトルスコープ1605に関しては、表示に用いた値と各値の表示位置、ヒストグラム1602a〜1602jに関しては、表示に用いた値と各値の表示位置である。CPU101は、マウスポイントの位置を取得し、画面表示データと併せることにより、マウスポイントの位置に表示された事柄についての情報を取得できる。
図19は、第4の実施形態にかかる情報処理装置100の表示処理を示すフローチャートである。図19の処理は、図14を参照しつつ説明した第3の実施形態における表示処理の後に実行される処理である。すなわち、図14に示す表示処理によりDSP107には、表示画面1600が表示されている。S1900において、CPU101は、表示画面1600について画面表示データと総称する画面に関するデータを作成してHDD104に記憶する。画面表示データは、病理画像1601、ベクトルスコープ1605及びヒストグラム1602a〜1602jの3つの表示内容と画面上の表示位置の情報である。具体的には、病理画像1601に関しては、画像原点の表示位置、ベクトルスコープ1605に関しては、表示に用いた値と各値の表示位置、ヒストグラム1602a〜1602jに関しては、表示に用いた値と各値の表示位置である。CPU101は、マウスポイントの位置を取得し、画面表示データと併せることにより、マウスポイントの位置に表示された事柄についての情報を取得できる。
次に、S1901において、CPU101は、マウスボタンが押下されるまで待機し、マウスボタンが押下されると(S1901でYes)、処理をS1902へ進める。S1902において、CPU101は、マウスポイントの位置が表示領域か否かの判断をする。この表示領域とは、病理画像1601の領域と、ベクトルスコープ1605の領域と、ヒストグラム1602a〜1602jの領域である。CPU101は、マウスポイントの位置が表示領域内の位置の場合には(S1902でYes)、処理をS1903へ進める。S1903において、CPU101は、マウスポイントの位置が、病理画像1601の領域か、ベクトルスコープ1605の領域か、ヒストグラム1602a〜1602jの領域かを取得して、選択表示とする。選択表示が、病理画像、ベクトルスコープ、ヒストグラムのいずれであるかに応じて、SS1904〜S1906において異なる処理が実行される。以下、選択表示毎の処理について説明する。
(1)病理画像の場合
S1904において、CPU101は、マウスポイントの位置の該当画素のアドレスを取得する。次に、S1905において、CPU101は、S1904において取得したアドレスを指定して表示用のデータを取得する。次に、ステップ1906において、CPU101は、ベクトルスコープに対する処理と、ヒストグラムに対する処理を行う。具体的には、以下の2つの処理を行う。1つ目として、CPU101は、対応するベクトルスコープ表示での位置を点でプロット表示する。すなわち、CPU101は、アドレスを指定して、該当アドレスの色相、彩度データを読み出し色相、彩度値を取得する。そして、CPU101は、表示されているベクトルスコープ表示上に、色相値を角度、彩度値を動径とした位置に点をプロット表示する。表示色は表示されている病理画像に無い色ならば特に何色でもよい。プロット点の大きさは変えることができる。また、第1の実施形態のように、CPU101は、ユーザが視認によりこの点を他の点と区別することができるような特定の表示態様で表示するよう制御する。情報処理装置100は、例えば、特定した点を点滅表示してもよい。
S1904において、CPU101は、マウスポイントの位置の該当画素のアドレスを取得する。次に、S1905において、CPU101は、S1904において取得したアドレスを指定して表示用のデータを取得する。次に、ステップ1906において、CPU101は、ベクトルスコープに対する処理と、ヒストグラムに対する処理を行う。具体的には、以下の2つの処理を行う。1つ目として、CPU101は、対応するベクトルスコープ表示での位置を点でプロット表示する。すなわち、CPU101は、アドレスを指定して、該当アドレスの色相、彩度データを読み出し色相、彩度値を取得する。そして、CPU101は、表示されているベクトルスコープ表示上に、色相値を角度、彩度値を動径とした位置に点をプロット表示する。表示色は表示されている病理画像に無い色ならば特に何色でもよい。プロット点の大きさは変えることができる。また、第1の実施形態のように、CPU101は、ユーザが視認によりこの点を他の点と区別することができるような特定の表示態様で表示するよう制御する。情報処理装置100は、例えば、特定した点を点滅表示してもよい。
2つ目の処理として、CPU101は、対応するヒストグラム表示でのグラフの棒の色を他の棒の色と変えて表示する。すなわち、CPU101は、アドレスを指定して、該当アドレスの色相、彩度データを読み出し色相、彩度値を取得する。そして、CPU101は、表示されているヒストグラムのなかで、該当彩度値のヒストグラム表示の該当色相値のグラフの棒を他の棒の色と変えて表示する。表示色は他の棒と区別が付けば、特に何色でもよい。
図20は、選択表示が病理画像の場合のマウスポイントの位置にある画素について、上述した処理を説明する図である。病理画像2002で、ユーザによってマウスボタンが押下(クリック)された位置2005が、画素D1とする。CPU101は、画素D1の該当色相値、彩度値を得て、ベクトルスコープ2003上に、色相値を角度、彩度値を動径とした位置にプロット表示した点D2を特定する。D2の色は病理画像2002に無い色とする。更に、彩度値の分割数を3とし、3つのヒストグラム2004a〜2004cが表示されている。該当彩度値のヒストグラム表示を2004aとし、該当色相値がグラフの棒2006とすると、2006の色は他の棒とは異なるようにする。
以上説明したように、病理画像のマウスポイントの位置にある画素について、対応するベクトルスコープ表示での位置つまり色相値、彩度値が分かるように表示すると、画素毎の定量的な色情報を得る事ができる。例えば部分的に染色ムラが出来た場合に、画像上で染色ムラの位置をマウスポイントして、色情報を直ぐに取得することができる。更に、ヒストグラム表示での位置がわかると分布数がわかる。例えば染色ムラの場合は他にどれ位同じムラが起きているかを知ることができる。染色ムラ等の調査の支援ができる可能性がある。
(2)ベクトルスコープ表示の場合
CPU101は、S1904において、マウスポイントの位置の該当色相値、彩度値を取得する。次に、S1905において、CPU101は、該当色相値、彩度値と等しい画素を取得する。次に、S1906において、CPU101は、表示の処理をする。CPU101は、画像表示に対する処理と、ヒストグラム表示に対する処理の2つの処理を実行する。
CPU101は、S1904において、マウスポイントの位置の該当色相値、彩度値を取得する。次に、S1905において、CPU101は、該当色相値、彩度値と等しい画素を取得する。次に、S1906において、CPU101は、表示の処理をする。CPU101は、画像表示に対する処理と、ヒストグラム表示に対する処理の2つの処理を実行する。
1つ目の処理として、CPU101は、対応する画像表示での位置を点でプロット表示する。すなわち、CPU101は、S203において作成した色相、彩度データを読み出し、読み出した全色相、彩度データの中で該当色相値、かつ、該当彩度値となる画素を抽出する。表示されている病理画像表示上に、抽出された該当画素のアドレスの位置に点をプロット表示する。表示色は表示されている病理画像に無い色ならば特に何色でもよい。プロット点の大きさは変えることができる。また、第1の実施形態のように、CPU101は、ユーザが視認によりこの点を他の点と区別することができるような特定の表示態様で表示するよう制御する。情報処理装置100は、例えば、特定した点を点滅表示してもよい。
2つ目の処理として、CPU101は、対応するヒストグラム表示でのグラフの棒の色を他の棒の色と変えて表示する。CPU101は、表示されているヒストグラム表示のなかで、該当彩度値のヒストグラム表示の該当色相値のグラフの棒を他の棒の色と変えて表示する。表示色は他の棒と区別が付けば、特に何色でもよい。
図21は、ベクトルスコープ表示上のマウスポイントの位置にある色相値、彩度値について、上述した処理を説明する図である。ベクトルスコープ2103で、ユーザによってマウスボタンが押下(クリック)された位置2105が色相値、彩度値E1とする。該当色相値、彩度値となる画素が3つあるとし、プロット表示した点がE2、E3、E4とする。3つのプロット点の色は病理画像2102に無い色とする。更に、彩度値の分割数を3とし、3つのヒストグラム2104a〜2104cが表示されている。該当彩度値のヒストグラム表示を2104aとし、該当色相値がグラフの棒2106とする。2106の色は他の棒とは異なる色とする。
以上説明したように、ベクトルスコープ表示のマウスポイント位置にある色相値、彩度値について、対応する病理画像での画素が分かるように表示する。これにより、所望の色が病理画像で何処に在るか見つけ易くなる。例えばHER2法においては細胞膜の陽性染色の微妙な違い毎に、対応する細胞膜の位置を特定することが目視でわかり易くでき、病理医の負担を軽減することも可能である。他に、細胞膜と細胞核の形状の特徴量を算出したい場合等に、細胞膜と細胞核を分離する作業が必要になる。この時の細胞膜と細胞核の染色の色の違いを利用して、ベクトルスコープ表示で色を指定しながら細胞での位置の確認をして、ヒストグラム表示で分布数から量を算出することができる。作業手順が分かり易く、間違いも気付き易い。
(3)ヒストグラム表示の場合
CPU101は、S1904において、マウスポイントの位置にある、ヒストグラム表示のグラフの棒が示す、該当色相値と、該当彩度値の範囲を取得する。次に、CPU101は、S1905において、該当色相値と等しく、該当彩度値の範囲にある画素を取得する。次に、CPU101は、S1906において、表示の処理をする。CPU101は、画像表示に対する処理と、ベクトルスコープ表示に対する処理の2つの処理を実行する。
CPU101は、S1904において、マウスポイントの位置にある、ヒストグラム表示のグラフの棒が示す、該当色相値と、該当彩度値の範囲を取得する。次に、CPU101は、S1905において、該当色相値と等しく、該当彩度値の範囲にある画素を取得する。次に、CPU101は、S1906において、表示の処理をする。CPU101は、画像表示に対する処理と、ベクトルスコープ表示に対する処理の2つの処理を実行する。
1つ目の処理として、CPU101は、対応する画像表示での位置を点でプロット表示する。CPU101は、S203において作成した色相、彩度データを読み出し、読み出した全色相、彩度データの中で該当色相値、かつ、該当彩度値の範囲にある画素を抽出する。CPU101は、表示されている病理画像表示上に、抽出された該当画素のアドレスの位置に点をプロット表示する。表示色は表示されている病理画像に無い色ならば特に何色でもよい。プロット点の大きさは変えることができる。
2つ目の処理として、CPU101は、対応するベクトルスコープ表示での位置を範囲で表示する。CPU101は、表示されているベクトルスコープ表示上に、該当色相値、該当彩度値の範囲について、色相値を角度、彩度値の範囲を動径範囲(長さ)とした範囲で表示する。範囲を塗りつぶす表示色は表示されている病理画像に無い色ならば特に何色でもよい。
図22は、ヒストグラム表示上のマウスポイントの位置にある色相値、彩度値について、上述した処理を説明する図である。ヒストグラム2204a〜2204cが表示されており、ユーザによってマウスボタンが押下(クリック)された位置2205が、ヒストグラム2204aの2206とする。該当色相値、彩度値となる分布数を3とすると、プロット表示した点がF1、F2、F3となる。3つのプロット点の色は病理画像2202に無い色とする。更に、該当色相値、彩度値の範囲を得て、ベクトルスコープ2203表示上に、該当色相値、該当彩度値の範囲について、色相値を角度、彩度値の範囲を動径範囲(長さ)とした位置を範囲で表示したものがF3である。範囲を塗りつぶす表示色は病理画像2202に無い色とする。また、ベクトルスコープ上の点または病理画像上の点が指定されたとする。この場合、CPU101は指定された点における色相及び彩度に基づいてヒストグラム上の対応する点(対応する棒)を特定し、対応位置を示す点などのオブジェクトをヒストグラム上に表示することとしてもよい。なお、表示されるベクトルスコープは2次元のベクトルスコープに限定されるものではなく、3次元のベクトルスコープが表示されることとしてもよい。
以上説明したように、ヒストグラム表示のマウスポイント位置にある色相値、彩度値について、対応する病理画像での画素が分かるように表示すると、分布数が少ない色でも病理画像で何処に在るかがわかり易くなる。例えば、本来あるべき色領域以外に分布数がある場合、染色位置を直ぐに特定することができる。ヒストグラム表示で色の種類と分布数の状態を把握し、定量的に見たい色があれば、その場でマウスポイントしてベクトルスコープ表示で見ることができる。ベクトルスコープ表示は画素の色を付してあるので目視と数値の2重で確認することができる。染色の状態の確認作業の支援に役立たせることが可能になる。なお、第3の実施形態に係る情報処理装置100のこれ以外の構成及び処理は、他の実施形態に係る情報処理装置100の構成及び処理と同様である。
(第5の実施形態)
第5の実施形態に係る情報処理装置100は、輝度グラフをさらに表示する。ここで、輝度グラフとは、処理対象の画像の水平方向(x方向)の位置が0から水平方向画素数までの、垂直方向(y方向)位置が同じライン上にある画素について、輝度の値を表す波形を示すグラフである。このグラフにより、ラインと輝度の値との対応関係を示すことができる。輝度グラフにおいては、垂直方向画素数分の波形が表示される。グラフ表示の縦軸の範囲は、R、G、Bの諧調と同じ0〜255とする。輝度グラフの表示処理において、CPU101は、以下の2つの処理を実行する。
(1)輝度をグラフ表示する横軸の決定
(2)各画素の輝度の表示
第5の実施形態に係る情報処理装置100は、輝度グラフをさらに表示する。ここで、輝度グラフとは、処理対象の画像の水平方向(x方向)の位置が0から水平方向画素数までの、垂直方向(y方向)位置が同じライン上にある画素について、輝度の値を表す波形を示すグラフである。このグラフにより、ラインと輝度の値との対応関係を示すことができる。輝度グラフにおいては、垂直方向画素数分の波形が表示される。グラフ表示の縦軸の範囲は、R、G、Bの諧調と同じ0〜255とする。輝度グラフの表示処理において、CPU101は、以下の2つの処理を実行する。
(1)輝度をグラフ表示する横軸の決定
(2)各画素の輝度の表示
各処理について説明する。
(1)輝度をグラフ表示する横軸の決定
グラフ表示の横軸の範囲は、上述したようにラインの長さを示す0〜画像の水平方向画素数となる。
(2)各画素の輝度の表示
各画素の輝度の表示には、各画素の輝度データを用いる。画像の水平方向の位置が0から水平方向画素数までの、垂直方向位置が同じライン上にある各画素の輝度データを繋いだ波形を表示する。垂直方向の位置は0から垂直方向画素数分まで繰り返されて垂直方向画素数分の波形が表示される。
(1)輝度をグラフ表示する横軸の決定
グラフ表示の横軸の範囲は、上述したようにラインの長さを示す0〜画像の水平方向画素数となる。
(2)各画素の輝度の表示
各画素の輝度の表示には、各画素の輝度データを用いる。画像の水平方向の位置が0から水平方向画素数までの、垂直方向位置が同じライン上にある各画素の輝度データを繋いだ波形を表示する。垂直方向の位置は0から垂直方向画素数分まで繰り返されて垂直方向画素数分の波形が表示される。
図23は、輝度グラフの表示例を示す図である。図23に示す表示画面2300には、病理画像2301と、輝度グラフ2302が表示されている。なお、図23において病理画像2301の図示は省略している。本実施形態においては、情報処理装置100は、病理画像としてライブビュー1フレームの画像を表示する。ここで、病理画像2301は、水平方向画素数250、垂直方向画素数333とする。例えば、3つの画素G1、H1、I1の位置と輝度が、それぞれ図23の表2310の値であるとする。この場合、3つの画素の輝度は、G2、H2、I2となる。上述したように、輝度グラフ2302において、波形は、333本表示されている。表1003とした場合、3つの画素G1、H1、I1の輝度の点は、それぞれG2、H2、I2となる。上述したように波形は333本表示されている。
以上のように、本実施形態においては、情報処理装置100は、1フレームの病理画像を表示すると共に、各画素の輝度を表す波形を表示する。これにより、病理画像の明るさが定量的に把握できると共に視覚的にもわかり易くなる。例えば撮影の最中でも簡単に輝度による露出のチェックをすることができ、正しい撮影環境で病理画像の顕微鏡観察を行うことが可能になる。本実施における輝度表示においては、画素の間引き率を指定し画素の間引きをして、間引き後の輝度データから輝度グラフを作成してもよい。これにより、処理時間短縮させることができる。
さらに、第5の実施形態に係る情報処理装置100は、ライブビュー表示の開始終了をユーザ操作に応じて制御する。さらに、情報処理装置100は、ライブビュー表示の終了時に、静止画記録処理を行う。図24は、静止画記録処理の説明図である。表示画面2400には、病理画像2401と、ベクトルスコープ2402と、輝度グラフ2403と、が表示されている。なお、図24において病理画像2401の図示は省略している。ここで、病理画像2401は、ライブビュー1フレームに対応する。ここで、ライブビュー表示指示2405にあるストップ・スタートボタン2406は、図24に示すように、「ストップ」と表示されている間はライブビュー表示中であり、「スタート」と表示されている間は、ライブビュー表示は終了している。
図24に示すように、「ストップ」と表示されている時に、ストップ・スタートボタン2406が押下されると、ライブビュー表示が終了し、ボタン表示が「ストップ」から「スタート」に切り替わる。また、「スタート」と表示されているときに、ストップ・スタートボタン2406が押下されると、ライブビュー表示がスタートし、ボタン表示が「スタート」から「ストップ」に切り替わる。CPU101は、ライブビュー表示が終了すると、静止画記録の処理を実行する。具体的には、CPU101は、ストップ・スタートボタン2406が押下され、ライブビュー表示が終了した時点において表示されていた1フレームの病理画像2401をHDD104に格納する。記録場所は、静止画像保存場所指定ボタン2407を押下してDSP107に表示された静止画像保存場所指示画面(図解せず)で指定することができる。
以上のように、本実施形態においては、情報処理装置100は、ユーザの所望のフレームの病理画像を静止画像として所望の場所に記録することができる。静止画像で記録しておけば必要な部分のみの再確認や資料作成も短時間で行える。なお、第5の実施形態に係る情報処理装置100の構成及び処理は、他の実施形態に係る情報処理装置100の構成及び処理と同様である。
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
(その他の実施例)
本発明は上述した複数の実施形態を任意に組み合わせることとしてもよい。例えば、2次元のベクトルスコープを3次元のベクトルスコープに置き換えることとしてもよい。
本発明は上述した複数の実施形態を任意に組み合わせることとしてもよい。例えば、2次元のベクトルスコープを3次元のベクトルスコープに置き換えることとしてもよい。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100 情報処理装置
101 CPU
107 DSP
101 CPU
107 DSP
Claims (12)
- 処理対象の画像内の複数の点の色相、彩度及び輝度を、色相の軸、彩度の軸及び輝度の軸の3次元の座標系において示す分布図を表示手段に表示させる表示制御手段を有することを特徴とする情報処理装置。
- 前記表示制御手段は、前記処理対象の画像に含まれる画素に対応した点がプロットされた前記分布図を表示するよう制御することを特徴とする請求項1に記載の情報処理装置。
- 前記表示制御手段は、前記分布図において、前記点を、対応する画素の色相、彩度及び輝度に基づいて定まる色で表示するよう制御することを特徴とする請求項2に記載の情報処理装置。
- 前記表示制御手段は、前記点を、対応する画素の表示色で表示するよう制御することを特徴とする請求項3に記載の情報処理装置。
- 前記表示制御手段は、前記分布図と、前記処理対象の画像と、を並べて表示するよう制御することを特徴とする請求項1乃至4の何れか1項に記載の情報処理装置。
- 前記分布図における1以上の点の指定を受け付ける受付手段をさらに有し、
前記表示制御手段は、前記指定に係る点に対応する、前記処理対象の画像上の領域を視認可能に表示するよう制御することを特徴とする請求項5に記載の情報処理装置。 - 前記処理対象の画像上の領域の指定を受け付ける受付手段をさらに有し、
前記表示制御手段は、前記指定に係る領域に対応する、前記分布図上の点を視認可能に表示するよう制御することを特徴とする請求項5に記載の情報処理装置。 - 前記表示制御手段は、第1の画像に対応する複数の点と、前記第1の画像と異なる第2の画像に対応する複数の点と、がプロットされた前記分布図を表示するよう制御し、さらに、前記第1の画像に対応する複数の点と、前記第2の画像に対応する複数の点と、を異なる色で表示するよう制御する請求項1に記載の情報処理装置。
- 前記処理対象の画像は、病理画像であることを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。
- 前記分布図は、円周に沿った軸を色相、前記円の径方向の軸を彩度、前記彩度に直交する軸を輝度とすることを特徴とする請求項1乃至9の何れか1項に記載の情報処理装置。
- 情報処理装置が実行する情報処理方法であって、
処理対象の画像内の複数の点の色相、彩度及び輝度を、色相の軸、彩度の軸及び輝度の軸の3次元の座標系において示す分布図を表示手段に表示させる表示制御ステップを含むことを特徴とする情報処理方法。 - コンピュータを、処理対象の画像内の複数の点の色相、彩度及び輝度を、色相の軸、彩度の軸及び輝度の軸の3次元の座標系において示す分布図を表示手段に表示させる表示制御手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017087707A JP2018185695A (ja) | 2017-04-26 | 2017-04-26 | 情報処理装置、情報処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017087707A JP2018185695A (ja) | 2017-04-26 | 2017-04-26 | 情報処理装置、情報処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018185695A true JP2018185695A (ja) | 2018-11-22 |
Family
ID=64355979
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017087707A Pending JP2018185695A (ja) | 2017-04-26 | 2017-04-26 | 情報処理装置、情報処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018185695A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020139877A (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03222937A (ja) * | 1990-01-29 | 1991-10-01 | Canon Inc | 医用画像処理装置 |
JPH06203119A (ja) * | 1992-12-28 | 1994-07-22 | Canon Inc | カラー画像処理装置 |
JPH09282446A (ja) * | 1996-04-18 | 1997-10-31 | Toppan Printing Co Ltd | 画像の色分布曲線近似システムおよびこの近似システムを用いた限定色決定システム |
JP2002279420A (ja) * | 2001-03-16 | 2002-09-27 | Ricoh Co Ltd | 画像処理方法、画像処理装置及びその装置での処理をコンピュータに行なわせるためのプログラムを格納した記憶媒体 |
JP2006350740A (ja) * | 2005-06-16 | 2006-12-28 | Olympus Corp | 画像処理装置および画像処理プログラム |
JP2008283375A (ja) * | 2007-05-09 | 2008-11-20 | Ricoh Co Ltd | カラープロファイル作成装置、カラープロファイル作成方法,カラープロファイル作成プログラム及び記録媒体 |
JP2010079522A (ja) * | 2008-09-25 | 2010-04-08 | Sapporo Medical Univ | 画像処理装置及び画像処理プログラム |
JP2016105574A (ja) * | 2014-11-19 | 2016-06-09 | リンク・アイティ株式会社 | デジタル画像の色属性表示装置、方法及びプログラム並びに画像処理装置 |
-
2017
- 2017-04-26 JP JP2017087707A patent/JP2018185695A/ja active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03222937A (ja) * | 1990-01-29 | 1991-10-01 | Canon Inc | 医用画像処理装置 |
JPH06203119A (ja) * | 1992-12-28 | 1994-07-22 | Canon Inc | カラー画像処理装置 |
JPH09282446A (ja) * | 1996-04-18 | 1997-10-31 | Toppan Printing Co Ltd | 画像の色分布曲線近似システムおよびこの近似システムを用いた限定色決定システム |
JP2002279420A (ja) * | 2001-03-16 | 2002-09-27 | Ricoh Co Ltd | 画像処理方法、画像処理装置及びその装置での処理をコンピュータに行なわせるためのプログラムを格納した記憶媒体 |
JP2006350740A (ja) * | 2005-06-16 | 2006-12-28 | Olympus Corp | 画像処理装置および画像処理プログラム |
JP2008283375A (ja) * | 2007-05-09 | 2008-11-20 | Ricoh Co Ltd | カラープロファイル作成装置、カラープロファイル作成方法,カラープロファイル作成プログラム及び記録媒体 |
JP2010079522A (ja) * | 2008-09-25 | 2010-04-08 | Sapporo Medical Univ | 画像処理装置及び画像処理プログラム |
JP2016105574A (ja) * | 2014-11-19 | 2016-06-09 | リンク・アイティ株式会社 | デジタル画像の色属性表示装置、方法及びプログラム並びに画像処理装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020139877A (ja) * | 2019-02-28 | 2020-09-03 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP7362265B2 (ja) | 2019-02-28 | 2023-10-17 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9841277B2 (en) | Graphical feedback during 3D scanning operations for obtaining optimal scan resolution | |
JP5780865B2 (ja) | 画像処理装置、撮像システム、画像処理システム | |
JP6799146B2 (ja) | 視覚化されたスライド全域画像分析を提供するためのデジタル病理学システムおよび関連するワークフロー | |
JP6091137B2 (ja) | 画像処理装置、画像処理システム、画像処理方法およびプログラム | |
US9412162B2 (en) | Methods, systems and circuits for generating magnification-dependent images suitable for whole slide images | |
CN104636726B (zh) | 一种图像色彩识别方法、装置及终端 | |
US9417128B2 (en) | Emission signal visualization device | |
US20130187954A1 (en) | Image data generation apparatus and image data generation method | |
JP5576993B2 (ja) | 画像計測装置、画像計測方法及び画像計測システム | |
US20070005268A1 (en) | Method and apparatus for analyzing twinned crystal | |
JP5442542B2 (ja) | 病理診断支援装置、病理診断支援方法、病理診断支援のための制御プログラムおよび該制御プログラムを記録した記録媒体 | |
JP6924761B2 (ja) | 異なる取得性質を持つ画像を分離するシステム及び方法 | |
US11222400B2 (en) | Image processing device, microscope system, image processing method, and computer program for displaying magnified images from different observation directions | |
JP2023033496A (ja) | 情報処理装置、情報処理プログラム及び情報処理方法 | |
US20140176602A1 (en) | Information processing system, information processing method, information processing apparatus, and control method and control program thereof | |
KR102431217B1 (ko) | 화상 해석 장치, 방법 및 프로그램 | |
JP2016218991A (ja) | 画像処理装置、撮像システム、画像処理方法 | |
US11210791B2 (en) | Computer-implemented method for locating possible artifacts in a virtually stained histology image | |
JP2018185695A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2012198139A (ja) | 画像処理プログラム、画像処理装置、計測解析装置及び画像処理方法 | |
JP2019164109A (ja) | 計測装置、計測システム、計測方法およびプログラム | |
JP7337557B2 (ja) | 情報処理装置、システム、情報処理方法及びプログラム | |
JP2019168930A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US8049749B2 (en) | Image generator for medical treatment and its method | |
Kankaanpää et al. | BioImageXD-new open source free software for the processing, analysis and visualization of multidimensional microscopic images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200402 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210422 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210511 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20211102 |